在谷歌与国防部就“双子座”人工智能工具在机密环境中的使用进行讨论之际，约600名员工向首席执行官桑达尔·皮查伊发送公开信，敦促其停止相关合同。他们认为，鉴于人工智能可能过度集中权力并出现错误，不应将其投入可能用于军事、监视目的的机密工作中。
参与此次公开信的主要是处理谷歌AI系统的员工。他们对谷歌与美国国防部“正在进行的谈判”表示担忧，并强调，最接近技术的人最有责任警示其最危险的用途。尤其是，若国防部在机密环境中使用双子座模型，根据合同条款，人工智能可能被用于“所有合法目的”，他们对此提出了质疑。
员工们最为警惕的正是这一表述。因为表面上看这似乎是法律范围内的应用，但实际上可能被解释为用于监视、追踪、情报分析、作战支持等极为广泛的用途。员工们认为，仅仅凭借这种笼统的措辞无法防止误用和滥用，唯一的解决办法是“拒绝涉足机密工作本身”。
类似的争议在其他人工智能公司中也持续出现。Anthropic在与国防部进行约2亿美元（约合2945亿韩元）的合同谈判过程中，反对将其“克劳德”模型用于“所有合法目的”，谈判破裂后，该公司与美国政府展开了法律斗争。据报道，此后国防部将Anthropic列为“供应链风险”对象。
OpenAI也曾修改与国防部的合同措辞。据报道，修订后的条款包括：不得将人工智能用于针对美国公民或本国国民的蓄意追踪、监视和监控，并限制了利用商业获取的个人信息或可识别信息进行监视。这表明，在人工智能军事用途扩大的背景下，行业内已认识到需要设置最低限度的控制机制。
谷歌内部的反对声音是2018年争议的延续。当时，员工们反对参与军事项目，此后谷歌承诺通过人工智能原则，不推进“可能造成伤害”的开发工作。此外，谷歌还表示不会设计或部署可用于武器或监视技术的人工智能，但近来有观点指出，这些原则的表述和适用范围已有所变化。
员工们在本次公开信中警告，如果做出错误判断，可能会对谷歌的声誉、业务及全球角色造成“不可挽回的损害”。他们还提到，国内外已因技术滥用导致了生命损失和公民自由被侵犯的情况。
此次争议已超越单纯的劳资冲突，演变为一个更大的问题：当生成式人工智能与国家安全结合时，允许的范围究竟应该到哪里？谷歌与国防部将基于何种条件整理谈判结果，预计将对未来大型科技公司的人工智能伦理标准及政府合同惯例产生不小的影响。
TP AI 注意事项 本文使用基于 TokenPost.ai 的语言模型进行摘要。正文主要内容可能被遗漏或与事实不符。