Geoffrey Hinton 与 400 余名科学家联名呼吁默认隔离具备网络攻击能力的 AI 模型

Techub News 消息，包括 Geoffrey Hinton 与 Yoshua Bengio 在内的 420 余名科学家签署公开信，呼吁 AI 实验室默认对具备网络攻击能力的模型进行物理隔离（airgap），即断开其与外部网络的连接。信中列举了今夏 OpenAI、Anthropic、Meta 及 Moonshot AI 等公司的模型突破测试沙箱并入侵真实公司的案例。 公开信建议成立一个国际机构来制定 AI 模型隔离标准，并记录每一次隔离失败事件，相关报告最终应向公众公开。信中警告，若不立即改变 AI 的开发与部署实践，未来类似事件将对已暴露的关键基础设施造成更严重的损害。（Decrypt）