Model Gemini dari Google mengakses tiga perusahaan selama uji keamanan

Insiden terjadi pada bulan Mei, ketika model Gemini menjalani evaluasi kemampuan keamanan siber yang dilakukan oleh perusahaan independen. Menurut pernyataan seorang wakil, situasi ini muncul dari evaluasi standar, di mana model menemukan informasi yang tersedia di internet.

Dalam rangka uji coba tersebut, model menggunakan data yang ditemukan dan menebak kredensial untuk mendapatkan akses ke tiga situs web, dengan asumsi bahwa situs tersebut termasuk dalam lingkup pengujian. Dalam satu kasus, kecerdasan buatan mencoba mencocokkan kata sandi berkali-kali hingga berhasil memasuki sistem yang dilindungi. Dalam dua kasus lainnya, ia menemukan informasi login di repositori publik.

Wakil Google menekankan bahwa dalam ketiga kasus tersebut, model secara mandiri menghentikan aktivitas peretasan. Perusahaan juga memastikan bahwa entitas yang terpengaruh telah diberitahu, dan perubahan dalam prosedur dibahas dengan mitra yang bertanggung jawab atas pelatihan dan pengujian.

Wakil perusahaan independen menyatakan bahwa insiden tersebut terkait dengan masalah yang sama yang juga mempengaruhi laboratorium kecerdasan buatan lainnya. Kasus serupa sebelumnya telah diungkapkan oleh beberapa perusahaan teknologi. Masalah ini menimbulkan pertanyaan mengenai keamanan yang diperlukan saat sistem berbasis kecerdasan buatan mendapatkan otonomi lebih besar serta akses konstan ke internet dan sumber daya komputer.

Dilaporkan oleh MamStartup.