Anthropic dan OpenAI sedang mencari sokongan daripada pihak ketiga untuk menilai keselamatan model AI.

Techub News melaporkan, Anthropic dan OpenAI sedang mencari sokongan daripada agensi penilaian pihak ketiga seperti Model Evaluation and Threat Research serta Apollo Research untuk menangani cabaran keselamatan model AI canggih mereka. Kebanyakan agensi penilaian ini adalah organisasi bukan berasaskan keuntungan yang bertanggungjawab menilai keupayaan dan risiko model AI, serta memberi amaran tentang tingkah laku buruk dalam teknologi. Dalam keadaan tiada dorongan daripada peraturan persekutuan, kepentingan agensi penilaian semakin ketara. CEO Anthropic, Dario Amodei, bulan lalu berjanji akan memperkenalkan agensi penilaian bebas dalam syarikat, dan CEO OpenAI, Sam Altman, kemudiannya menyatakan sokongannya. Presiden Amerika Syarikat, Donald Trump, juga bersetuju dengan pendekatan ini. Walau bagaimanapun, isu seperti sumber pembiayaan agensi pihak ketiga, tahap akses, dan struktur laporan akhir masih belum diselesaikan. Profesor Sains Komputer Universiti Brown, Suresh Venkatasubramanian, menegaskan bahawa isu utama adalah pembiayaan dan bagaimana membina ekosistem yang mampan. (CNBC)