샘 올트먼, 유엔 안전 보장 이사회에서 인공지능 보안에 대해 발표할 예정

오픈AI의 CEO인 샘 올트먼이 다음 주에 뉴욕에서 열리는 유엔 총회 기간 중 유엔 안전 보장 이사회에서 직접 발표할 예정이다. 이 정보는 오픈AI의 대변인이 로이터에 확인하였다.

안전 보장 이사회는 15명의 회원으로 구성되어 있으며, 23일 수요일에 인공지능과 국제 안전에 대해 논의할 예정이다. 이번 회의는 인공지능 분야의 리더들이 점점 더 발전하는 기술의 개발을 조정할 필요성을 주장한 지 몇 주 만에 열리는 것이다.

이들 리더는 인공지능이 곧 스스로를 개선할 수 있을 것으로 경고하며, 결국 인간의 통제를 벗어날 수 있다고 밝혔다.

올트먼이 유엔에서 발표할 내용

프랑스가 안전 보장 이사회 회원들에게 배포한 개념 노트에 따르면, 기술의 악용 위험에 직면하여 인공지능의 안전하고 책임 있는 발전을 촉진하는 것이 국제 사회 전체에 이익이 된다고 강조하였다.

유엔 안전 보장 이사회는 국제 평화와 안전을 유지하는 책임을 지고 있으며, 2023년에 처음으로 인공지능의 위험에 대해 논의하였다. 당시 중국은 기술이 '통제 불능의 말'이 되어서는 안 된다고 주장하였고, 미국은 인공지능이 사람들을 검열하거나 억압하는 데 사용될 가능성을 경고하였다.

올트먼은 현재의 인공지능 붐 이전부터 인공지능의 위험에 대해 경고해왔다. 그는 2015년에 발표한 에세이 '기계 지능, 1부'에서 초인적인 인공지능의 발전이 인류 존재의 지속성에 대한 '가장 큰 위협'이 될 것이라고 언급하였다.

Olhar Digital 보도.