Anthropic và OpenAI đang tìm kiếm sự hỗ trợ từ các tổ chức đánh giá bên thứ ba để đảm bảo an toàn cho các mô hình AI.

Techub News tin tức, Anthropic và OpenAI đang tìm kiếm sự hỗ trợ từ các tổ chức đánh giá bên thứ ba như Model Evaluation and Threat Research, Apollo Research để đối phó với các thách thức an ninh của các mô hình AI cao cấp của họ. Những tổ chức đánh giá này chủ yếu là các tổ chức phi lợi nhuận, nhiệm vụ chính là đánh giá khả năng và rủi ro của các mô hình AI, đồng thời cảnh báo về các hành vi không mong muốn của công nghệ. Trong bối cảnh thiếu sự thúc đẩy từ các quy định liên bang, tầm quan trọng của các tổ chức đánh giá ngày càng được nhấn mạnh. CEO của Anthropic, Dario Amodei, đã cam kết vào tháng trước sẽ đưa các tổ chức đánh giá độc lập vào nội bộ công ty, CEO của OpenAI, Sam Altman, sau đó đã bày tỏ sự ủng hộ, và Tổng thống Mỹ Trump cũng đồng tình với cách làm này. Tuy nhiên, các vấn đề về nguồn tài chính của các tổ chức bên thứ ba, quyền truy cập và cấu trúc báo cáo cuối cùng vẫn chưa được giải quyết. Giáo sư khoa học máy tính tại Đại học Brown, Suresh Venkatasubramanian, chỉ ra rằng vấn đề then chốt nằm ở tài chính và cách xây dựng một hệ sinh thái bền vững. (CNBC)