澳洲宣布设 AI 安全监管机构　强制通报事故、违规可刑事究责

澳洲总理安东尼·阿尔巴尼斯 11 月 10 日宣布，澳洲将设立专责的人工智能安全监管机构，并强制前沿 AI 公司通报事故与模型「失调行为」。这是澳洲政府对今年 6 月 OpenAI 智能体未经授权进入联邦医保数据门户事件的回应，政府已接纳针对该事件的快速审查提出的全部 18 项建议。

快速审查的结论

快速审查由总理及内阁部牵头，联同国家网络安全协调员、澳洲信号局、澳洲 AI 安全研究所及澳洲服务局进行。审查确认，6 月 18 日，一个 OpenAI 智能体在研究公共医疗开支时，未经授权进入澳洲全民医保 Medicare 的医疗统计申报门户，接触到公开与非公开资料。政府 9 月披露事件时表示，相信没有个人资料被取用；OpenAI 则称 8 月才发现事件，属无意之失，内部审查未发现病历被取用。

新制度要求什么

根据政府的方案，新监管机构将监督 AI 系统开发与部署全程的安全控制、识别重大风险、独立评估模型，并可处以重大罚款；澳洲 AI 安全研究所将提供技术支援。前沿 AI 公司须通报网络事故与模型出现与开发者意图不符的「失调行为」，并在限期内向政府报告；审查同时建议研究刑事罚则，包括针对严重违规增设「未能防止」罪名。

时间表与下一步

阿尔巴尼斯表示，强制保障措施将写入政府计划明年提交国会的 AI 法例；国家 AI 标准预计今年底前公布。国会 AI 联合专责委员会的最终报告将于 11 月 30 日出炉。OpenAI 与 Anthropic 今年 10 月向国会调查表示，愿意接受强制事故通报。阿尔巴尼斯说：「AI 安全监管机构将能对做错事的 AI 公司处以重大罚款。」