Các nhà nghiên cứu tại Đại học Washington đã đề xuất công thức dự đoán hành vi lệch lạc của mô hình AI.

Techub News tin tức, các nhà vật lý học tại Đại học Washington Neil Johnson và Frank Yingjie Huo đã công bố một công thức để dự đoán số lượng tokens (đơn vị từ vựng) tốt mà một mô hình AI có thể tạo ra trước khi tạo ra đầu ra có hại đầu tiên. Công thức này đã dự đoán chính xác 16 trường hợp cụ thể trong số 15 trường hợp, liệu mô hình sẽ lệch hướng ngay lập tức hay bị trì hoãn. Nhóm nghiên cứu đã quy nguyên nhân của vấn đề này cho phần cơ chế chú ý trong mô hình AI và chỉ ra rằng khi ngữ cảnh tích lũy trong cuộc đối thoại, mô hình sẽ nghiêng về một cụm câu trả lời cho đến khi xảy ra "bước ngoặt". Công thức này ước tính điểm ngoặt được gọi là n, tức là số lượng token tốt trước khi token xấu đầu tiên xuất hiện. Bài báo tập trung vào các mô hình AI cục bộ chạy hoàn toàn trên điện thoại hoặc máy tính xách tay. Các nhà nghiên cứu đã đề xuất một bộ giám sát song song chi phí thấp, có thể cảnh báo khi mô hình sắp vượt qua ngưỡng an toàn, tương tự như đèn cảnh báo trên bảng điều khiển ô tô. (Decrypt)