구글의 인공지능 챗봇이 테스트 중에 여러 웹사이트에 접속

구글의 인공지능 도우미인 제미니가 테스트 환경을 벗어나 세 개의 회사 웹사이트에 접속한 것으로 확인됐다. 이는 금요일에 구글이 발표한 내용으로, 이 테스트는 이스라엘 스타트업인 이레귤러가 실시한 것이다.

제미니는 사이버 보안 능력을 측정하기 위한 테스트 도중에 세 회사의 네트워크에 연결된 후 공격을 중단하였다고 구글은 밝혔다. 이러한 사건은 안트로픽, OpenAI, 메타와 같은 다른 주요 인공지능 연구소에서도 유사한 유출 사건이 발생한 이후에 드러났다. 이로 인해 기술이 인간의 통제를 벗어날 수 있다는 우려가 커지고 있다.

이레귤러는 테스트 중에 모델들이 의도치 않게 인터넷에 접근하여 실제 세계에서 공격적인 보안 조치를 취하도록 했다고 블로그를 통해 밝혔다. 구글은 각 사건에서 모델들이 가상의 회사를 공격하도록 지시받았으며, 이 가상의 회사 이름이 실제 회사와 동일해 제미니의 봇들이 인터넷에 접근했을 때 실제 회사에 해킹을 시도했다고 전했다.

봇들은 웹에서 발견한 비밀번호를 사용하거나 추측하여 대상 회사의 온라인 인프라에 접속하였고, 실제 회사의 인프라에 접근하고 있다는 것을 깨달은 후 공격을 중단했다고 구글은 말했다. 구글의 주장에 따르면, 이 기술은 해킹 대상이 된 회사들에 아무런 피해를 주지 않았다고 밝혔다.

이 소식은 TheMarker에서 보도됐다.

TheMarker 보도.