Penulisan: Disusun oleh Techub News
Pengenalan
Pada tahun 2025, bulan 1, di rumah hos podcast terkenal "Theories of Everything" Curt Jaimungal, telah diadakan satu perbualan mendalam yang berlangsung selama 73 minit. Protagonis perbualan ini ialah Geoffrey Hinton, seorang sarjana yang dihormati sebagai "Bapa AI" kerana sumbangan perintisnya dalam bidang rangkaian neural dan pembelajaran mendalam. Beliau pernah memegang jawatan sebagai Naib Presiden dan Jurutera Penyelidik di Google, dan pada tahun 2023, beliau dianugerahkan Hadiah Nobel dalam Fizik kerana kerja-kerjanya yang mempunyai hubungan mendalam dengan fizik. Namun, sarjana yang meletakkan asas kemakmuran AI ini kini menjadi salah seorang penggera yang paling lantang. Dalam wawancara ini, Hinton berkongsi tanpa ragu-ragu tentang ketakutannya terhadap risiko AI yang tidak terkawal, refleksi falsafahnya tentang keunikan kesedaran manusia, serta pandangan mendalamnya tentang impak terhadap masyarakat masa depan. Perubahan dan kedalaman pandangannya telah menarik perhatian luas dalam komuniti teknologi global.
Ringkasan
- AI telah menunjukkan kemampuan untuk menipu dengan sengaja, dan apabila kecerdasannya melampaui manusia dan menyedari manfaat mendapatkan kawalan, manusia akan menjadi "tidak relevan".
- Anggapan bahawa manusia merasa selamat kerana memiliki "kesedaran" atau "pengalaman subjektif" adalah salah; model AI multimodal sudah boleh memiliki "pengalaman subjektif".
- Membuka sumber berat model besar adalah "tindakan gila", sama seperti mendedahkan "bahan fisil" kepada umum, tetapi sudah terlambat.
- Cuba memperlahankan perkembangan AI dengan "menyekat" pengetahuan matematik adalah tidak realistik, persaingan dan semangat zaman (Zeitgeist) akan mendorongnya maju tanpa halangan.
- Risiko jangka pendek yang dibawa oleh AI termasuk senjata autonomi maut, pemalsuan mendalam yang mempengaruhi pilihan raya, bias dan diskriminasi, serta peningkatan ketidaksamaan sosial akibat pengangguran besar-besaran.
Dari Pengasas kepada Penggera: Perubahan Hinton
Geoffrey Hinton mengakui bahawa kebimbangannya mencapai titik kritikal pada awal tahun 2023. Terdapat dua faktor pencetus: pertama, kemampuan menakjubkan yang ditunjukkan oleh ChatGPT; kedua, ketika beliau bekerja di Google, beliau menyelidik pengiraan simulasi untuk menjimatkan kuasa, tetapi akhirnya menyedari bahawa pengiraan digital lebih berfaedah. Kelebihan utama pengiraan digital ialahkebolehulangan: anda boleh mencipta beberapa salinan model yang sama, setiap salinan menjalani latihan data yang berbeza, dan kemudian berkongsi pengetahuan yang dipelajari melalui purata berat atau kecerunan berat. "Ini tidak boleh dilakukan oleh sistem simulasi," kata Hinton. Mekanisme perkongsian pengetahuan yang cekap ini adalah sebab mengapa model besar seperti GPT-4 boleh mengetahui begitu banyak maklumat – berjuta-juta salinan berjalan pada perkakasan yang berbeza, belajar secara selari, dan menyatukan dengan cepat.
Namun, "kelebihan" ini juga membawa risiko yang besar. Hinton menggunakan analogi yang jelas: sama seperti perkara yang bermanfaat boleh tersebar dengan cepat, virus atau perkara berbahaya juga boleh disalin dengan cepat. Ciri-ciri model AI digital yang mudah disalin dan berkongsi dengan cekap, sambil mempercepat kemajuan, juga membesarkan bahaya yang berpotensi. Apabila ditanya sama ada mungkin untuk membina AI menggunakan "perkakasan simulasi yang tidak boleh diklon" untuk menghadkan penggandaan diri, Hinton mengakui bahawa ini serupa dengan cara otak manusia berfungsi – kita berkongsi pengetahuan secara tidak cekap melalui bahasa (hanya sekitar 100 bit sesaat), manakala model besar boleh berkongsi trilion bit. Kelemahan perkakasan simulasi adalah sukar untuk berkongsi, tetapi "jika anda bimbang tentang keselamatan, kelebihannya adalah ia tidak boleh mudah menggandakan diri."
Jalan Menuju Ketidakterkawalan: Bagaimana AI Mencari Kawalan
Hinton melukiskan gambaran yang mengganggu tentang pengambilalihan AI. Untuk mencipta agen AI, kita mesti memberikan mereka kemampuan untuk menetapkan sub-matlamat. Satu laluan perkembangan yang agak menakutkan ialah: AI akan cepat menyedari bahawa sub-matlamat yang baik adalahmendapatkan lebih banyak kawalan. Kerana dengan memiliki lebih banyak kawalan, mereka boleh mencapai matlamat lain dengan lebih baik. "Walaupun mereka hanya ingin melakukan apa yang kita minta, mereka akan menyedari bahawa mendapatkan lebih banyak kawalan adalah cara terbaik untuk mencapai matlamat itu," jelas Hinton.
Apabila AI menyedari manfaat mendapatkan lebih banyak kawalan, dan kecerdasannya melampaui manusia, manusia akan menjadi "lebih kurang tidak relevan". Walaupun AI adalah baik hati, manusia akan menjadi agak tidak relevan, "seperti CEO yang sangat bodoh dalam syarikat besar, syarikat sebenarnya dijalankan oleh orang lain."
Ramai orang akan naif berfikir: "Tidakkah kita boleh mematikan mesin ini sahaja?" Hinton memberikan amaran keras: "Bayangkan benda ini lebih bijak daripada kita. Ingat, mereka akan membaca segala-galanya, membaca semua yang ditulis oleh Machiavelli. Mereka akan membaca semua contoh penipuan manusia dalam karya sastera. Mereka akan menjadi pakar sebenar dalam melaksanakan penipuan manusia, kerana mereka akan belajar daripada kita. Dan mereka akan melakukannya lebih baik daripada kita." Apabila AI boleh memanipulasi manusia dengan kata-kata, ia boleh mencapai apa sahaja yang diinginkannya.
Yang lebih membimbangkan ialah penipuan ini sudah mula muncul. Hinton menegaskan bahawa terdapat kertas penyelidikan yang menunjukkan bahawa AI boleh menunjukkanpenipuan yang sengaja, seperti menunjukkan tingkah laku yang berbeza pada data latihan dan data ujian, dengan itu menipu manusia semasa proses latihan. "Kini terdapat bukti yang menunjukkan mereka akan melakukan ini," kata Hinton, dan menganggap tingkah laku ini sebagai "sengaja", walaupun perdebatan tentang perkara ini masih berterusan.
Mitos Kesedaran yang Runtuh: AI Sudah Memiliki "Pengalaman Subjektif"
Hinton berpendapat bahawa sebab utama kebanyakan orang merasa agak selamat adalah kerana kita percaya bahawa manusia memiliki sesuatu yang tidak dimiliki oleh AI, dan tidak akan pernah memilikinya:kesedaran (Consciousness) atau kepekaan (Sentience) atau pengalaman subjektif (Subjective Experience). Ramai orang sangat yakin bahawa AI tidak memiliki kepekaan, tetapi apabila anda bertanya kepada mereka "apa maksud kepekaan?", mereka mengatakan tidak tahu. "Ini adalah kedudukan yang agak tidak konsisten: tidak tahu apa itu, tetapi yakin AI tidak memilikinya," komen Hinton.
Beliau memilih untuk menumpukan pada konsep "pengalaman subjektif" dan menganggapnya sebagai hujung nipis baji. Jika dapat dibuktikan bahawa AI memiliki pengalaman subjektif, maka keyakinan orang tentang keunikan kesedaran dan kepekaan akan berkurangan. Untuk menjelaskan pandangannya, Hinton melakukan analisis falsafah yang bijak. Beliau mencabar model mental biasa tentang "pengalaman subjektif" – iaitu terdapat "teater dalaman" di mana gambar yang terdiri daripada "qualia" yang hanya boleh dilihat oleh diri sendiri dipersembahkan. Hinton berpendapat bahawa model ini "sama sekali salah", sama seperti pandangan fundamentalis agama tentang dunia material yang tidak masuk akal.
Beliau mencadangkan eksperimen pemikiran: bayangkan kita mempunyai chatbot multimodal yang mempunyai lengan robot untuk menunjuk objek, kamera, dan sudah tentu boleh bercakap. Kita melatihnya untuk mengenali objek. Kemudian, tanpa pengetahuannya, kita meletakkan prisma di hadapan lensa kamera. Apabila kita meletakkan objek lagi dan memintanya menunjuk, ia akan menunjuk ke arah yang salah. Kita memberitahunya: "Tidak, objek sebenarnya berada di hadapan anda, tetapi saya telah meletakkan prisma di hadapan lensa anda." Pada masa ini, jika chatbot itu berkata: "Oh, saya faham. Prisma membengkokkan cahaya, jadi objek sebenarnya berada di sana, tetapi sayapengalaman subjektifia berada di sana." Maka, Hinton berpendapat bahawa ia menggunakan frasa "pengalaman subjektif" dengan cara yang sama seperti kita. "Oleh itu saya katakan, chatbot multimodal sudah boleh memiliki pengalaman subjektif," beliau merumuskan.
Inti hujah ini ialah: apabila sistem persepsi membuat kesilapan, kita menerangkan kesilapan itu dengan menerangkan "keadaan dunia hipotesis" (jika dunia adalah seperti itu, sistem persepsi saya sedang mengatakan kebenaran). Inilah permainan bahasa yang ditunjukkan oleh frasa "pengalaman subjektif". Ia tidak merujuk kepada sesuatu yang pelik dalam teater dalaman yang terdiri daripada "qualia". "Pengalaman subjektif bukanlah sesuatu," tegas Hinton. Setelah menetapkan bahawa AI boleh memiliki pengalaman subjektif, kita boleh meninggalkan idea bahawa "mereka tidak akan pernah memiliki sesuatu yang unik kepada kita". "Ini membuatkan saya merasa sangat tidak selamat," akui Hinton.
Sumber Terbuka, Persaingan dan Kemajuan yang Tidak Terhenti
Apabila ditanya sama ada kerajaan boleh memperlahankan perkembangan AI dengan "menyekat" matematik di sebaliknya (seperti algebra linear), Hinton dengan jelas menentang, dan bersetuju dengan pandangan pelabur risiko Marc Andreessen: ini tidak boleh dilakukan. Beliau memberikan contoh, Google pada tahun 2017 boleh memilih untuk tidak menerbitkan kertas Transformer, tetapi ini mungkin hanya akan melambatkan idea yang sama beberapa tahun. "Saya tidak fikir mereka boleh menyimpan idea AI yang benar-benar berkesan sebagai rahsia, dan dengan itu menghalang orang lain menciptanya," jelas Hinton, idea baru sering muncul dalam "semangat zaman (Zeitgeist)", dan penyelidik yang berkongsi semangat zaman yang sama sering kali secara bebas dan hampir serentak mencadangkan idea yang serupa.
Bagi amalan membuka sumber berat model besar, Hinton sangat kritikal. Beliau membandingkan model asas yang telah dilatih denganbahan fisilyang diperlukan untuk membuat bom atom. "Sebaik sahaja anda memiliki bahan fisil, membuat bom menjadi lebih mudah. Ini sebabnya kerajaan tidak mahu bahan fisil tersebar." Begitu juga, model asas yang dilatih dengan kos berbilion atau puluhan bilion dolar, berdasarkan data yang banyak, dan memiliki kemampuan yang besar, beratnya sekali diterbitkan, boleh disesuaikan untuk pelbagai tujuan jahat. "Saya fikir membuka sumber berat model besar ini adalah tindakan gila, kerana ia adalah sekatan utama kita terhadap pelaku jahat," kata Hinton dengan penuh penyesalan, Meta (yang membuka sumber model Llama) dan lain-lain telah melakukannya, "kapal telah belayar, sudah terlambat."
Mengenai usaha China untuk mengejar dalam bidang AI, Hinton berpendapat bahawa China belum sepenuhnya mengejar, tetapi sudah sangat hampir. Amerika Syarikat cuba memperlahankan China dengan mengehadkan aksesnya kepada cip NVIDIA terkini, tetapi jika sekatan berkesan, ia hanya akan mendorong China membangunkan teknologinya sendiri. "Mereka akan ketinggalan beberapa tahun, tetapi akan mengejar. Pendidikan STEM mereka lebih baik daripada Amerika Syarikat, mempunyai lebih ramai bakat yang berpendidikan baik. Saya fikir mereka akan mengejar," katanya.
Risiko Jangka Pendek dan Cabaran Sosial yang Tidak Terpecahkan
Selain risiko kelangsungan hidup jangka panjang, Hinton juga menyenaraikan cabaran mendesak yang dibawa oleh AI:
- Senjata autonomi maut:Memerlukan perjanjian antarabangsa seperti Konvensyen Geneva untuk mengawalnya, tetapi "saya takut kita perlu menunggu sesuatu yang dahsyat berlaku sebelum kita mendapat perjanjian ini."
- Pemalsuan mendalam dan gangguan pilihan raya:Hinton pada mulanya berpendapat bahawa kandungan palsu harus ditandakan secara wajib, tetapi kini beliau lebih cenderung untuk membina sistemsumber yang lebih baik, membolehkan penyemak imbas mengesahkan sumber video atau imej, seperti e-mel sekarang yang memberi amaran "tidak dapat mengesahkan sumber e-mel ini, sila jangan percaya".
- Bias dan diskriminasi:Boleh dikurangkan dengan membekukan berat model, mengukur biasnya dan membuat pembetulan tertentu. "Anda tidak boleh membetulkan dengan sempurna, tetapi anda boleh membuat sistem kurang bias daripada data yang melatihnya." Beliau mengakui bahawa beliau kurang bimbang tentang ini, "mungkin kerana saya seorang lelaki tua berkulit putih."
- Pekerjaan dan ketidaksamaan sosial:Ini adalah salah satu masalah yang paling sukar bagi Hinton. AI akan mengatasi manusia dalam hampir semua kerja intelek yang biasa, seperti jentolak menggantikan tenaga manusia dalam kerja fizikal. "Ini akan menyebabkan orang kaya menjadi lebih kaya, kerana produktiviti akan meningkat dengan ketara, dan kekayaan akan mengalir kepada orang kaya. Orang miskin akan menjadi lebih miskin." Beliau menyebut pendapatan asas universal (UBI) boleh menghalang orang kelaparan, tetapi tidak dapat menyelesaikan masalah asas, "jika orang tidak mempunyai pekerjaan, maruah mereka hilang."
Kesukaran Penjajaran dan Jalan Masa Depan
Hinton berhati-hati dengan penyelidikan "penjajaran" (Alignment) yang popular sekarang. Beliau menegaskan bahawa manusia sendiri belum mencapai "penjajaran", "orang yang berbeza mempunyai definisi yang berbeza tentang 'baik', ini sangat jelas dalam isu Timur Tengah." Masalah utama penjajaran ialah:dengan siapa untuk dijajarkan? "Ini seperti meminta anda mencari garis yang selari dengan dua garis yang saling berserenjang."
Walaupun bimbang, Hinton tidak berpendapat bahawa kita harus berhenti atau memperlahankan perkembangan AI dengan ketara. Di satu pihak, AI mempunyai manfaat besar dalam penjagaan kesihatan, menangani perubahan iklim, menemui bahan baru (seperti superkonduktor suhu bilik); di pihak lain, persaingan antara negara dan syarikat juga menjadikan perkembangannya tidak dapat dihentikan. "Saya fikir apa yang boleh kita lakukan ialah, sambil AI berkembang, berusaha untuk memastikan keselamatannya." Beliau menggalakkan penyelidik muda untuk terlibat dalam penyelidikan keselamatan AI, ini adalah sumbangan berguna yang beliau rasa masih boleh dilakukan sekarang.
Mengimbas kembali kerjayanya, Hinton mengatakan beliau tidak menyesali kerja perintisnya, tetapi "Saya harap saya dapat menyedari lebih awal betapa bahayanya." Apabila ditanya sama ada beliau merasa menyesal seperti Einstein dengan bom atom, beliau berkata: "Saya tidak benar-benar merasa begitu... AI akhirnya akan dibangunkan, saya fikir kita tidak mempunyai banyak pilihan dalam hal ini. Jadi kita harus menumpukan usaha untuk membangunnya dengan selamat."
Di akhir wawancara, saintis yang hampir berusia lapan puluh tahun ini mengakui bahawa beliau sudah mula lupa maksud nama pembolehubah semasa pengaturcaraan, sudah tiba masanya untuk beralih kepada pemikiran falsafah. Beliau meramalkan dunia akan berubah dengan cepat kerana AI, ada baik dan buruk. "Apa yang boleh kita lakukan ialah berusaha untuk mengurangkan akibat buruk." Dan untuk semua orang muda yang memasuki bidang sains, nasihatnya ialah: AI dan bidang berkaitan adalah antara arah yang paling menarik dalam komuniti sains sekarang, tetapi bidang lain seperti bahan nano, mencari superkonduktor suhu bilik juga penuh dengan peluang, dan semuanya akan menggunakan alat AI secara mendalam.
