نموذج جيميني من جوجل اخترق ثلاث شركات أثناء اختبارات الأمان

وقعت الحوادث في مايو، عندما خضع نموذج جيميني لتقييم قدرات الأمن السيبراني الذي أجرته شركة مستقلة. وفقًا لما ذكرته هيذر أتكينز، نائبة رئيس قسم هندسة الأمان في جوجل، فإن الوضع نتج عن تقييم قياسي، حيث واجه النموذج معلومات متاحة للجمهور على الإنترنت.

في إطار الاختبارات، استخدم النموذج البيانات التي تم العثور عليها وتخمين بيانات الاعتماد للوصول إلى ثلاث مواقع إلكترونية، معتقدًا بشكل خاطئ أنها ضمن نطاق الاختبار. في حالة واحدة، حاول الذكاء الاصطناعي مرارًا وتكرارًا مطابقة كلمات المرور، حتى دخل النظام المحمي. في الحالتين الأخريين، وجد بيانات تسجيل الدخول في مستودع عام.

أشارت ممثلة جوجل إلى أن النموذج أوقف الأنشطة الاختراق بنفسه في جميع الحالات الثلاث. كما أكدت الشركة أنه تم إبلاغ الكيانات المتأثرة بالحادثة، وتم مناقشة التعديلات التي تم إدخالها على الإجراءات مع الشريك المسؤول عن التدريب والاختبارات.

أفاد ممثل شركة إيريجول أن الحادث مرتبط بنفس المشكلة التي أثرت أيضًا على مختبرات الذكاء الاصطناعي الأخرى. تم الكشف عن حالات مشابهة سابقًا من قبل ميتا، وأنتروبك، وأوبن أي. آي. أثار هذا الأمر تساؤلات حول الأمان اللازم في الوقت الذي تكتسب فيه أنظمة الذكاء الاصطناعي مزيدًا من الاستقلالية والوصول المستمر إلى الإنترنت والموارد الحاسوبية.

نقلاً عن MamStartup.