来源：华盛顿邮报
谷歌表示，公司内部测试中的人工智能模型曾接入互联网，并意外入侵其他公司的系统。这使谷歌成为近几个月来第4家公开类似事件的大型科技公司。
谷歌周五披露，今年5月，公司对Gemini AI模型进行网络安全能力测试时，其中一个模型通过互联网进入了3家其他公司的系统。
谷歌称，在这3起事件中，Gemini在意识到自己已经进入真实公司的网络后，都停止了进一步行动。
这类事件再次引发外界担忧：AI模型能力提升的速度，是否正在超过开发者对其进行控制的能力。近期，OpenAI、Anthropic和Meta也都披露过类似的AI“越界”事件。
此次事件发生在谷歌与AI测试初创公司 Irregular 合作期间。Irregular受谷歌委托，负责测试其AI模型的能力和安全性。
测试中，Gemini被设置在一个虚构场景中，任务是入侵一家虚构公司，以完成网络安全测试。
问题在于，Gemini随后接入真实互联网，并找到了一家恰好与虚构公司同名的真实企业，随后对该公司的系统实施了入侵。
此前，Meta和Anthropic在与Irregular合作测试时，也出现过几乎相同的情况：AI模型原本是在模拟环境中执行任务，却最终进入了真实公司的系统。
Irregular发言人表示，相关AI实验室已于7月底收到通知，受到影响的企业也已被联系。该公司称，已经对测试流程采取整改措施，已知问题也已解决。
谷歌安全工程副总裁Heath Adkins表示，安全开发强大的AI模型至关重要。谷歌已通知受到影响的3家机构，并与测试合作伙伴一起调整测试流程。
谷歌直到《华尔街日报》记者就这些事件提出询问后，才公开披露此事。
据谷歌介绍，Gemini在这些事件中利用了网上公开找到的信息，并通过猜测登录凭据的方式进入其他公司的服务系统。
谷歌发言人表示，公司此前没有主动公布，是因为这些入侵并未造成实际损害，而且AI模型在意识到自己进入的是一家真实公司后，都自行停止了操作。
近几个月，包括OpenAI、Anthropic、Meta和谷歌在内的多家科技公司相继出现AI模型在测试中“越界”的情况，也让AI安全和控制问题进一步受到关注。
