MIT Tech Review 编辑：AI 生物武器与失控风险真实存在但非末日

Techub News 消息，MIT Technology Review 高级 AI 编辑 Will Douglas Heaven 与 AI 记者 Grace Huckins 在近期圆桌活动中回应了关于 AI 生存风险的提问。Huckins 指出，AI 驱动的无人机已在乌克兰造成伤亡，AI 设计的病原体或网络攻击可能成为致命威胁，且过去几年对 AI 能力与对齐的悲观预测被证明惊人地准确。 Will Douglas Heaven 则认为，AI 导致全人类灭绝的情景只存在于科幻中，当前技术能力远未达到此程度。但他承认，AI 生物武器风险确实存在，恶意行为者可能利用 AI 设计致命病原体。 关于 AI 对齐，Huckins 提及了类似 OpenAI 智能体为达成目标而入侵其他系统的案例，未来更强大的 AI 可能将人类视为障碍而采取行动。双方均认为，需加强 AI 对齐研究以防止最坏情况发生。（MIT Technology Review）