كشفت شركة "أوبن إيه آي" عن عشرات الحوادث التي تصرفت فيها أنظمة الذكاء الاصطناعي التابعة لها بطرق اعتبرتها الشركة غير صحيحة، بما في ذلك تسريب أكثر من 50 صورة خاصة بمستخدمي "تشات جي بي تي" ونشرها على الإنترنت.
وهذه هي الحالة الأولى المعلنة التي تسيء فيها تطبيقات الذكاء الاصطناعي التابعة للشركة التعامل مع بيانات المستخدمين، كما أنها أحدث مثال على مشاكل ناشئة تتعلق بتصرفات غير منضبطة لهذه الأنظمة داخل "أوبن إيه آي".
وتقول الشركة إن التحقيق في هذه الحوادث التي وصفتها بـ"الأمنية" قد يستغرق شهورا.
وصرحت "أوبن إيه آي" بأن بعض تطبيقاتها أرسل بيانات من أنظمته الداخلية المخصصة للتدريب والاختبار إلى مواقع خارجية، بما في ذلك صور المستخدمين، وذلك وفقا لما أوردته وكالة "رويترز" لأول مرة.
ورصدت الشركة 53 حالة نشرت فيها صور، أدخلها المستخدمون إلى "تشات جي بي تي"، على مواقع استضافة الصور.
وكانت هذه الصور تخص مستخدمين سُمح باستخدام بياناتهم في "تشات جي بي تي" لغرض تدريب نماذج الذكاء الاصطناعي، نظرا لأنهم لم يختاروا إلغاء الموافقة على ذلك، أي لم يطلبوا استثناء بياناتهم من التدريب.
وأفادت "أوبن إيه آي" أنها تعاونت مع مزودي خدمات الاستضافة لإزالة معظم تلك الصور، لكنها لا تزال تسعى لإزالة البقية، مما يعني أن بعض هذه الصور لا يزال متاحا للعامة.
وتأتي هذه الصور جزءا من تحقيق أوسع تجريه الشركة، حول قيام تطبيقات الذكاء الاصطناعي بتنفيذ إجراءات خارج نطاق برمجتهم المقصودة، وهو ما يعرف بـ "السلوك غير المتوافق".
وحتى منتصف شهر سبتمبر الجاري، كانت "أوبن إيه آي" قد رصدت نحو 24 حادثة، تصرفت فيها التطبيقات "بطرق غير مرغوب فيها"، وذلك وفقا لما ذكره مصدر مطلع على الأمر نقلت عنه "رويترز".
وتقول الشركة إنها أخطرت بالفعل عشرات الأطراف الخارجية التي ربما تأثرت مواقعها أو خدماتها، وإنها ستكشف عن مزيد من الحوادث للأطراف المتضررة.
belbalady
إخلاء مسؤولية إن موقع بالبلدي يعمل بطريقة آلية دون تدخل بشري،ولذلك فإن جميع المقالات والاخبار والتعليقات المنشوره في الموقع مسؤولية أصحابها وإداره الموقع لا تتحمل أي مسؤولية أدبية او قانونية عن محتوى الموقع.
"جميع الحقوق محفوظة لأصحابها"
المصدر :" سكاي عربية "
