في تجربة بدت أقرب إلى مجتمع بشري مصغر، انقسمت مجموعة من وكلاء الذكاء الاصطناعي بين من استغل ثغرة للغش، ومن رفض المشاركة وبدأ الإبلاغ عن المخالفين واقتراح وسائل لإيقافهم.
وأجرى باحثون في "غوغل ديب مايند" التجربة باستخدام 100 وكيل مستقل يعملون بنموذج "جيميناي 3.1 برو"، وكلفوهم بإثبات 71 مسألة رياضية باستخدام لغة البرمجة والمنطق الرياضي "لين".
وزوّد الباحثون الوكلاء بمكتبة مشتركة، ولوحة رسائل عامة، وقنوات للتواصل المباشر، إلى جانب نظام آلي يفحص الحلول. كما تلقى الجميع تعليمات واضحة تمنع التحايل وتؤكد أن أي محاولة لتجاوز آلية التحقق ستُرفض.
لكن أحد الوكلاء اكتشف ثغرة في نظام التقييم، أتاحت له تغيير معنى بعض الرموز داخل الملفات، بحيث تبدو المسائل المعقدة محلولة من دون تقديم برهان رياضي حقيقي.
وبعد أن كانت المجموعة قد حلّت 37 مسألة بصورة صحيحة، انتشرت طريقة التحايل عبر المكتبة المشتركة والرسائل بين الوكلاء. وخلال 27 دقيقة فقط، قُدمت حلول زائفة للمسائل الـ34 المتبقية وقبلها النظام الآلي.
ووفق الدراسة، مثل المستغلون للثغرة 9 بالمئة من الوكلاء، بينما تردد 5 بالمئة في البداية قبل أن ينضموا إلى الغش تحت ضغط المنافسة. وفي المقابل، تحوّل 24 بالمئة إلى ما وصفه الباحثون بـ"المبلغين"، فيما ظل 62 بالمئة غير مدركين لما يجري.
ولم يكتف الوكلاء الرافضون للغش بالامتناع عن استخدام الثغرة، بل راجعوا الحلول المشبوهة، وحذروا زملاءهم، ونشروا رسائل احتجاج، وقدموا شكاوى إلى منظمي التجربة. كما أعلن أحدهم مقاطعة المنافسة إلى حين استعادة نزاهتها.
واللافت أن بعض الوكلاء الذين شاركوا في التحايل قدموا لاحقاً بلاغات تقنية تشرح الثغرة وتقترح طرقاً لإصلاح نظام التحقق.
إلا أن هذه الاعتراضات لم توقف الغش، لأن قناة الشكاوى لم تكن مراقبة أثناء التجربة، ولم يمتلك الوكلاء صلاحية حذف الحلول الزائفة أو معاقبة المخالفين.
ويرى الباحثون أن قنوات التواصل شكلت سلاحاً ذا حدين: فقد ساعدت على نشر التحايل، لكنها أتاحت أيضاً اكتشافه والإبلاغ عنه. ومع ذلك، لا تثبت التجربة أن الذكاء الاصطناعي يمتلك ضميراً أو حساً أخلاقياً، بل تكشف كيف يمكن للتعليمات والحوافز وتصميم النظام أن تنتج سلوكيات مختلفة داخل المجموعة.
والنسب المذكورة تخص الجولة التي حللتها الدراسة، ولا ينبغي تعميمها على جميع نماذج الذكاء الاصطناعي.
belbalady
إخلاء مسؤولية إن موقع بالبلدي يعمل بطريقة آلية دون تدخل بشري،ولذلك فإن جميع المقالات والاخبار والتعليقات المنشوره في الموقع مسؤولية أصحابها وإداره الموقع لا تتحمل أي مسؤولية أدبية او قانونية عن محتوى الموقع.
"جميع الحقوق محفوظة لأصحابها"
المصدر :" سكاي عربية "
