Penyelidik Universiti Washington mencadangkan formula untuk meramal penyimpangan tingkah laku model AI.

Techub News melaporkan, ahli fizik dari Universiti Washington, Neil Johnson dan Frank Yingjie Huo telah menerbitkan satu formula untuk meramalkan berapa banyak token (unit leksikal) yang baik dapat dihasilkan oleh model AI sebelum ia menghasilkan output berbahaya buat pertama kali. Formula ini telah meramalkan dengan tepat 15 daripada 16 kes yang jelas, sama ada model tersebut akan menyimpang dengan segera atau tertunda. Pasukan penyelidikan mengaitkan masalah ini dengan mekanisme perhatian dalam model AI dan menunjukkan bahawa dengan pengumpulan konteks perbualan, model akan condong ke arah kelompok jawapan tertentu sehingga berlaku 'titik perubahan'. Formula ini menganggarkan titik perubahan yang dikenali sebagai n, iaitu bilangan token baik sebelum munculnya token buruk pertama. Kertas penyelidikan ini menumpukan pada model AI tempatan yang berjalan sepenuhnya pada telefon bimbit atau komputer riba. Para penyelidik mencadangkan satu monitor selari kos rendah yang boleh memberi amaran apabila model hampir melepasi ambang keselamatan, serupa dengan lampu amaran pada papan pemuka kereta. (Decrypt)