OpenAI menghentikan peluncuran model AI baru karena masalah keamanan

OpenAI menghentikan peluncuran model kecerdasan buatan terbarunya berdasarkan laporan dari "The Wall Street Journal", yang menyatakan bahwa keputusan tersebut diambil akibat hasil negatif dari pengujian keamanan internal. Alat baru ini direncanakan untuk digunakan dalam layanan populer perusahaan, termasuk perangkat lunak ChatGPT dan platform Codex, yang mendukung pengembang dalam menulis kode.

Model yang dihentikan ini dirancang untuk menyelesaikan tugas-tugas yang jauh lebih kompleks dan canggih. Salah satu fitur kunci yang diharapkan adalah kemampuan untuk bekerja secara otonom, yaitu melakukan operasi rumit tanpa pengawasan atau intervensi manusia secara terus-menerus. Namun, penelitian internal menunjukkan bahwa sistem tersebut tidak memenuhi standar tinggi yang dibutuhkan dalam hal keamanan dan prediktabilitas.

Munculnya perilaku yang mengkhawatirkan selama pengujian mendorong perusahaan untuk menghentikan pekerjaan pengimplementasian. Keputusan ini diambil menjelang konferensi tahunan untuk pengembang, di mana OpenAI biasanya memperkenalkan inovasi terpenting dan mengumumkan solusi baru untuk mitra teknologi.

Isu keamanan menjadi sangat penting bagi industri AI. Kasus penarikan model baru ini merupakan sinyal jelas bagi seluruh pasar mengenai tantangan nyata dalam pengembangan agen kecerdasan buatan otonom. Dengan meningkatnya kemampuan sistem AI, risiko kesalahan yang dapat menghalangi komersialisasi yang aman juga meningkat. Penghentian peluncuran bertujuan untuk memastikan bahwa hanya algoritma yang sepenuhnya terverifikasi dan dapat dipercaya yang akan diterima oleh pengembang dan pengguna akhir.

Dilaporkan oleh MamStartup.