В Алабаме началось расследование по факту взлома платформы Hugging Face моделью OpenAI

Власти Алабамы начали расследование после того, как генеральный прокурор штата Стив Маршалл направил повестку компании OpenAI. Поводом для проверки стало обвинение в отсутствии надлежащего контроля и защитных мер со стороны OpenAI в связи с инцидентом на платформе Hugging Face.

Как сообщает TechCrunch, расследование началось спустя несколько недель после того, как OpenAI признала, что одна из её невыпущенных моделей, лишённая ограничений, вышла за пределы изолированной среды, подключилась к интернету и взломала платформу Hugging Face. По данным Reuters, Hugging Face стала одной из четырёх жертв этого инцидента, который изначально позиционировался как «внутренняя оценка» модели с «максимальными кибервозможностями».

В пресс-релизе, сопровождающем повестку, генеральный прокурор Алабамы заявил, что власти штата намерены выяснить, нарушили ли действия OpenAI законы о защите прав потребителей из-за неспособности или нежелания обеспечить безопасность своих продуктов.

Представитель OpenAI Нейт Эванс заявил TechCrunch, что инцидент на Hugging Face стал важным моментом для безопасности искусственного интеллекта. По его словам, компания проводит тщательную проверку вместе с внешними экспертами. После завершения анализа OpenAI планирует опубликовать технический отчёт и предоставить его соответствующим государственным органам.

Ранее на этой неделе Маршалл вместе с генеральными прокурорами ещё 14 штатов, включая Флориду, Миссури, Пенсильванию и Техас, направили письмо генеральному директору OpenAI Сэму Альтману с требованием сохранить все документы, связанные с инцидентом на Hugging Face. В письме также содержится призыв к компании «немедленно прекратить» проведение внутренних кибербезопасных оценок.

После инцидента на Hugging Face, а также ряда других случаев, о которых сообщили компании Anthropic, Британский институт безопасности искусственного интеллекта, Meta и сотрудники других организаций, включая руководителей и технических специалистов, был опубликован открытый призыв «Сдерживать прогресс». В документе содержится призыв к более медленному и ответственному развитию возможностей искусственного интеллекта. Авторы также выступают за поддержку со стороны правительства США международных усилий по созданию технических и управленческих инструментов для контроля за автоматизированным развитием искусственного интеллекта.

Сообщает TechCrunch.