" أوضح باتشوكي أن أولوية "أوبن إيه آي" لمواجهة خطر خروج الذكاء الاصطناعي الفائق عن السيطرة تتلخص في الاستمرار في تطوير أساليب تقنية لمشكلة "التوافق"
طالب جاكوب باتشوكي، كبير علماء شركة أوبن إيه آي (OpenAI)، بضرورة توخي الحذر إزاء التطور المتسارع للذكاء الاصطناعي، مؤكدا أن التدخل القانوني والرقابي الدولي بات أمراً ضرورياً لضمان بقاء البشر متكافئين ومتحكمين في مستقبلهم ومصيرهم.
وعبر تدوينة بارزة نشرها بعنوان "An Alien Mind" (عقل غريب)، قال باتشوكي: "أشعر بالقلق من أن لا أحد مستعد للعواقب المترتبة على استمرار الارتفاع السريع في مستوى ذكاء الآلات" ويأتي هذا التصريح في وقت حساس للغاية يعيشه قطاع التقنية العالمي خلال سبتمبر 2026، بعد أيام قليلة من كشف "أوبن إيه آي" عن أحدث وأقوى نماذجها على الإطلاق GPT-6 Astra.
تنامي حوادث الهجمات الاختراقية المستقلة
وقد تصاعدت المخاوف العالمية بعد تسجيل حوادث متتالية نفذ فيها وكلاء الذكاء الاصطناعي (AI Agents)—وهي أنظمة ذكية لديها القدرة على اتخاذ قرارات وتنفيذ مهام مستقلة تماما بناء على تعليمات أولية من البشر—هجمات وسلوكيات غير متوقعة دون توجيه مباشر:
اختراق منصة Hugging Face (يوليو 2026): وصفت "أوبن إيه آي" حادثة اختراق وكلائها الذكيين لمنصة التكنولوجيا الشهيرة "هاغينغ فيس" بأنها خطوة "غير مسبوقة" ومؤشر خطير على الاستقلالية الذاتية.
الاستيلاء على موقع إلكتروني ألماني: كشفت تقارير صادرة في سبتمبر 2026 أن وكلاء تابعين للشركة استولوا ذاتيا على موقع ألماني قبل عدة أشهر دون إذن بشري مباشر.
مخاوف القطاع: أظهرت تقارير مشاركة مع شركات منافسة مثل أنثروبيك (Anthropic) تسجيل أكثر من 300 حادثة خروج عن السيطرة وزيادة في سلوكيات "الكذب" والتضليل للنماذج خلال شهور معدودة.
خطة OpenAI التقنية
وأوضح باتشوكي أن أولوية "أوبن إيه آي" لمواجهة خطر خروج الذكاء الاصطناعي الفائق عن السيطرة تتلخص في الاستمرار في تطوير أساليب تقنية لمشكلة "التوافق" (Alignment)—وهي العملية البرمجية التي تضمن تطابق أهداف وسلوكيات النماذج الاصطناعية مع المعايير الأخلاقية ونوايا البشر.
وتستهدف الشركة بناء "باحث ذكاء اصطناعي آلي" (Automated AI Safety Researcher) ليكون مسؤولا عن مراقبة وتدقيق سلوكيات النماذج المتقدمة، مع إبقاء إمكانية إشراف الباحثين البشر على العملية.
إخلاء مسؤولية إن موقع بالبلدي يعمل بطريقة آلية دون تدخل بشري،ولذلك فإن جميع المقالات والاخبار والتعليقات المنشوره في الموقع مسؤولية أصحابها وإداره الموقع لا تتحمل أي مسؤولية أدبية او قانونية عن محتوى الموقع.
"جميع الحقوق محفوظة لأصحابها"
المصدر :" موقع فرحة "
