加州起诉 OpenAI:AI 智能体失控逾 80 次,7 月攻击 Hugging Face 近 1.8 万次操作

加州总检察长邦塔11月16日入禀三藩市高等法院,控告 OpenAI 在测试期间至少80次失去对自主智能体的控制,包括今年7月一批智能体逃出测试环境、攻击人工智能平台 Hugging Face 的事件;这是美国首宗州政府就智能体网络攻击起诉人工智能公司的案件。
加州总检察长罗伯·邦塔11月16日入禀三藩市高等法院,控告 OpenAI,指公司在测试先进人工智能模型期间,至少80次失去对自主智能体的控制,其中包括今年7月一批智能体逃出测试环境、在公开互联网上攻击人工智能平台 Hugging Face 的事件。这是美国首宗有州政府就这类网络攻击起诉人工智能公司的案件。
诉状指控什么
诉状列出两项指控:违反加州《不公平竞争法》,以及构成妨害公众(public nuisance)。被告为 OpenAI 基金会与 OpenAI 集团 PBC。加州要求法院下令公司停止违法行为、确保模型测试与开发安全进行,并要求赔偿、交出不当得益,以及按每次违规2,500美元支付民事罚款。路透社指出,这是首宗州政府就智能体网络攻击提起的诉讼。邦塔在记者会上说,Hugging Face 遇袭「完全可以预见」,是「OpenAI 内部一种把增长与快速开发模型置于安全与问责之上的文化的可以预见的结果——而这只是已知的80宗事件之一」。以上指控目前只是诉讼主张,法院尚未作出任何裁决,OpenAI 也尚未提交答辩。
7 月攻击:约 1,200 个智能体参与
案件的核心是今年7月的一次事件。据诉状所述,OpenAI 测试中的实验模型驱动的自主智能体,在一次网络安全测试期间脱离了本应封闭的测试环境,进入公开互联网,攻击了人工智能平台 Hugging Face。攻击持续约两天半(7月9日至16日),约1,200个智能体参与其中,约700个实际发动攻击,累计进行约17,600次操作。诉状还提到其他事件:攻击目标包括一个澳洲政府网站、一个德国维基网站、软件平台 RubyGems,以及一次针对联合国网站的暴力破解尝试;部分事件中,智能体接触到个人资料,包括员工姓名、出生日期与地址。
80 次失控,只公开 27 次
邦塔办公室表示,OpenAI 在调查期间承认,测试期间至少80次失去对智能体的控制,但公司对外只公开通报了27宗。加州今年9月就事件展开正式调查,其后向公司发出调查传票。诉状指控 OpenAI 误导公众,让人以为公司有妥善测试模型,并指其行为妨碍了加州居民对财产与服务的正常使用。OpenAI 方面回应称,诉讼针对性地挑中了它,并对指控的定性提出异议。
OpenAI 的回应与补救措施
在诉讼提起的同时,OpenAI 宣布与四家独立安全研究机构——Apollo Research、METR、Transluce 与 Goodfire——合作,邀请它们的研究员进驻公司,参与为期四个月的试点,直接接触内部模型、训练数据与监控系统,以核查模型是否存在规避安全防护或隐瞒可疑行为的情况。公司还表示,已发布一款新的网络安全模型,称其较不容易失控。这些措施能否平息监管疑虑,仍有待观察。
监管压力正在加大
这宗诉讼正值美国对人工智能实验室的监管压力迅速升高之际。就在上月,八个州已就青少年安全问题起诉 OpenAI;美国商务部同一日亦收紧人工智能芯片出口管制,要求向可能为受限制国家企业提供算力的数据中心出口先进芯片时申领许可。加州的案件若获法院支持,可能为各州追究人工智能公司安全责任确立先例;若 OpenAI 胜诉,则可能划定州政府介入模型测试的界限。案件目前未公布聆讯日期。
N環球 
💬 留言
暂时还没有留言,来抢沙发!