Генеральный директор Anthropic предложил план по замедлению разработки искусственного интеллекта

Генеральный директор Anthropic Дарио Амодей представил план по замедлению темпов развития искусственного интеллекта, предложив три основные стратегии для достижения этой цели.

Издание TechCrunch сообщило, что Амодей призвал ограничить скорость улучшения возможностей моделей искусственного интеллекта. Свое решение он обосновал резким ускорением прогресса в последние месяцы, особенно в способности систем создавать следующее поколение технологий, а также инцидентом с взломом OpenAI и Hugging Face.

Первым шагом Амодей предлагает внедрение внешних оценщиков из сторонних организаций, таких как METR. Эти специалисты должны получить доступ к ресурсам компании, включая рабочие места и оборудование, чтобы проверять соблюдение обязательств по безопасности и сообщать об инцидентах. Anthropic в одностороннем порядке обязуется реализовать этот подход, и Амодей призвал правительства обязать другие ведущие компании сделать то же самое. Генеральный директор OpenAI Сэм Альтман поддержал эту идею и заявил, что OpenAI последует этому примеру.

Второй стратегией является координация общих стандартов безопасности и ограничений на темпы бесконтрольного прогресса между ведущими компаниями в демократических странах. Амодей отметил, что из-за опасений по поводу антимонопольного надзора правительству США следует выступить посредником в этих обсуждениях или предоставить специальное разрешение на проведение определенных бесед по безопасности.

Третьим пунктом плана стала глобальная координация, включая попытки взаимодействия с авторитарными правительствами, в частности с Китаем. Амодей признал наличие серьезных ограничений в этом вопросе, но предположил, что возможны соглашения по запрету использования искусственного интеллекта для создания биологического оружия.

Касаясь вопроса доминирования Китая, Амодей заявил, что США могут сохранить значительное преимущество в течение следующих трех-пяти лет, если будут ограничивать продажу мощных чипов и оборудования для производства полупроводников китайским компаниям, а также бороться с дистилляцией моделей.

Данные инициативы появились на фоне усиления дискуссий о безопасности. Исследователь Джейкоб Коксон недавно объявил об уходе из Anthropic, выразив опасение, что ведущие компании рискуют жизнями людей. В то же время критики, включая журналиста Брайана Мерчанта, скептически относятся к апокалиптическим предупреждениям, называя подобные предложения попыткой установления регуляторного захвата в интересах Anthropic и OpenAI.

Сэм Альтман и Илон Маск выразили поддержку позиции Амодея. При этом сам Амодей подчеркнул, что по-прежнему верит в способность искусственного интеллекта значительно улучшить качество человеческой жизни, если технология будет создаваться правильно.

Сообщает TechCrunch.