OpenAI正组建新团队Preparedness以评估人工智能的“灾难性风险”

Techub News 10月27日讯，据官方博客，OpenAI宣布正在创建新团队Preparedness，以评估和减轻与人工智能相关的“灾难性风险”。该团队的主要任务是“跟踪、评估、预测和保护”人工智能造成的潜在重大问题，包括核威胁。此外，该团队将致力于减轻“化学、生物和放射性威胁”，以及人工智能的“自主复制”行为。该团队的任务还包括制定和维护风险知情发展政策（RDP）。RDP将详细说明其在开发严格的前沿模型能力评估和监控、创建一系列保护行动以及建立整个开发过程的问责和监督治理结构方面所采用的方法。

此外，OpenAI还将发起人工智能防备挑战赛，以预防灾难性滥用。OpenAI将为最多10个最优秀的作品提供25,000美元的API积分。