CEO Microsoft Satya Nadella: Cần giả định tất cả các mô hình AI đều đã tồn tại lỗ hổng

Techub News tin tức, CEO Microsoft Satya Nadella đã đăng một bài viết dài trên nền tảng X, trình bày quan điểm của ông về rủi ro của các mô hình AI tiên tiến cao. Ông chỉ ra rằng không nên tiếp tục chấp nhận một thế giới coi AI như "một tập hợp các hộp đen lồng nhau", tức là chỉ đơn giản chấp nhận hoặc từ chối các đề xuất và hành động của nó. Ông kêu gọi xây dựng một hệ thống minh bạch hơn, có thể kiểm soát, quan sát và để lại "bằng chứng không thể giả mạo và con người có thể đọc được" đối với các mô hình. Nhiều đề xuất của Nadella phù hợp với các quan điểm khác trong ngành, bao gồm tiết lộ sự kiện kịp thời, kiểm toán độc lập, dữ liệu có thể xác minh và cơ chế kiểm soát. Ông nhấn mạnh nguyên tắc "mặc định không tin tưởng" đối với các mô hình AI, giả định rằng chúng đều tiềm ẩn rủi ro và cho rằng điều này rất quan trọng để tránh thảm họa trong tương lai. (The Verge)