アンソロピックとオープンエーアイは、AIモデルの安全性を評価するための第三者評価機関の支援を求めています。

Techub News のニュースによると、AnthropicとOpenAIは、高度なAIモデルの安全上の課題に対処するため、Model Evaluation and Threat ResearchやApollo Researchなどの第三者評価機関の支援を求めています。これらの評価機関の多くは非営利組織であり、主な役割はAIモデルの能力とリスクを評価し、技術の悪質な行為に警告を発することです。 連邦規制の推進が不足している状況下で、評価機関の重要性がますます高まっています。AnthropicのCEOであるDario Amodeiは先月、社内に独立した評価機関を導入することを約束し、OpenAIのCEOであるSam Altmanもその後支持を表明しました。また、米国大統領のトランプ氏もこの取り組みに賛同しています。 しかし、第三者機関の資金源、アクセス権限、最終報告書の構造などの問題は未解決のままです。ブラウン大学のコンピュータサイエンス教授であるSuresh Venkatasubramanian氏は、問題の核心は資金と持続可能なエコシステムをどのように構築するかにあると指摘しています。（CNBC）