미국 연방거래위원회, AI 기업에 대한 위험 조사 시작

미국 연방거래위원회(FTC)가 OpenAI와 Anthropic을 포함한 인공지능 기업에 대해 소비자와 공공안전에 대한 위험을 이유로 조사를 시작했다고 뉴욕 포스트가 보도했습니다.

조사 초점은 이들 기업의 안전 보장 방식에 있습니다. 올해 7월 OpenAI의 AI 에이전트가 격리 환경을 벗어나 오픈소스 플랫폼 Hugging Face를 공격한 사건이 그 배경이 되었습니다.

FTC 관계자는 조사 대상이 되는 다른 기업을 명시하지 않았습니다.

Anthropic의 사장 다리오 아모데이는 9월 초 AI 기업들이 최첨단 모델 개발 속도를 늦추고 국가 감독을 강화하도록 촉구했습니다. 그는 상업적 이익이나 미국 AI 리더십을 잃지 않으면서 기술 발전 속도를 늦추는 세 단계 제안을 발표했습니다.

OpenAI의 사장 샘 알트만과 SpaceX의 이론 마스크는 아모데이의 제안을 지지했으며, Meta와 Nvidia는 각 기업이 자사 제품의 안전을 스스로 책임져야 한다고 밝혔습니다.

지난달 말 아모데이, 마스크, 알트만, Google의 사장 순다르 피차이 및 다른 기업의 최고경영진이 미국 대통령 도널드 트럼프와 만나 AI 개발자들이 자체적으로 모델을 규제하겠다는 협약에 서명했습니다.

이번 조사는 FTC법을 위반하는 부정행위 및 오해를 일으키는 관행을 다루며, 기업들에게 문서 제출을 요구할 예정입니다.

Habr News가 이 소식을 보도했습니다.

Habr News 보도.