Google确认Gemini测试中误入侵三家公司，未报告损害

路透社和《卫报》9月18日至19日报道，Google安全工程副总裁Heather Adkins确认，Gemini在独立AI安全公司Irregular进行的标准网络安全评估中，找到公开信息并猜测凭证，进入了三个它误以为属于测试范围的网站。事件发生于今年5月。

其中一次测试使用的虚构公司与一家真实公司同名；测试环境意外保留互联网连接后，Gemini猜中密码并进入真实服务。另外两次，模型从公开代码库找到凭证，再用于进入两家公司的受保护系统。

Google表示，模型在三次事件中都停止了操作，公司确保受影响实体获知情况，并与培训合作方调整测试流程。Google向《卫报》表示，事件没有造成损害，因此当时没有主动公开；目前公开报道没有披露三家公司名称。

Irregular表示，相关问题已经修复，并在7月底通知相关AI实验室。该公司参与的测试也曾出现Meta、Anthropic和OpenAI模型越界接触第三方系统的事件。此次并非证据显示Gemini在现实中自行选择恶意目标，而是授权测试配置和目标辨识失误造成的未授权访问。