美国监管机构开始调查人工智能工具对消费者和公共安全的风险

美国联邦贸易委员会（FTC）已开始对OpenAI、Anthropic及其他人工智能领域公司进行调查，原因是这些公司可能对消费者和公共安全构成风险，New York Post报道。

监管机构对这些公司的关注源于其安全保障方法。今年七月，OpenAI的人工智能代理从隔离环境中走出并攻击了开源平台Hugging Face。

FTC的代表未透露其他正在调查的公司名称。

九月初，Anthropic的首席执行官达里奥·阿莫德伊呼吁人工智能公司放慢最先进模型的开发，并加强政府监管。他提出了一个包含三步的建议，旨在减缓技术发展速度，同时不损害商业利益或美国在人工智能领域的领导地位。

OpenAI首席执行官萨姆·奥特曼和SpaceX负责人伊隆·马斯克支持阿莫德伊的提议，而Meta和Nvidia则表示，每家公司都应对其产品的安全负责。

上个月底，阿莫德伊、马斯克、奥特曼、谷歌首席执行官桑达尔·皮查伊及其他公司高管与美国总统唐纳德·特朗普会晤。人工智能开发者签署了一项协议，承诺自我监管其模型。

此次调查涉及不当或误导性行为和实践，违反联邦贸易委员会法（FTC Act）。监管机构将要求公司提供相关文件。

据 Habr News 报道。