Penulisan: Techub News Susunan
Pengenalan
Dalam episod terbaru podcast AI terkenal 'Unsupervised Learning', hos Jacob Effron telah menjemput dua tokoh penting dalam projek model bahasa besar Google Gemini: Noam Shazeer dan Jack Rae. Noam Shazeer adalah salah seorang pencipta bersama arkitektur Transformer, pengasas Character.ai, dan kini kembali ke Google untuk memimpin projek Gemini. Jack Rae pula adalah penyumbang utama kepada beberapa kajian terobosan di DeepMind dan kini terlibat secara mendalam dalam pembangunan Gemini. Perbualan yang berlangsung selama 70 minit ini berlaku semasa siri model Gemini 2.0 dilancarkan dan paradigma pengiraan semasa ujian mula berkembang. Kedua-dua pakar yang berada di barisan hadapan penyelidikan AI ini berkongsi pemerhatian unik mereka tentang keadaan teknologi, laluan masa depan, dan ekosistem industri.
Ringkasan
- Pengiraan semasa ujian mempunyai potensi besar, tetapi bukan kunci utama AGI:Dengan melabur lebih banyak sumber pengiraan semasa penaakulan (seperti rantai pemikiran), kemampuan model dapat ditingkatkan dengan ketara, terutamanya dalam bidang yang boleh disahkan seperti matematik dan kod. Walau bagaimanapun, untuk mencapai AGI sebenar, masih perlu menyelesaikan cabaran teras seperti bertindak dalam persekitaran kompleks dan mengemukakan soalan yang benar-benar baru.
- Kemampuan model sedang beralih dari 'menjawab soalan' kepada 'mencipta':Fokus penyelidikan semasa sedang beralih dari 'meningkatkan skor' pada ujian piawai tetap, kepada membolehkan model melakukan penerokaan terbuka, mengemukakan soalan baru, dan akhirnya menyumbang dalam bidang penciptaan praktikal seperti penemuan saintifik.
- Kelajuan pengejaran model sumber terbuka melebihi jangkaan:Noam Shazeer dan Jack Rae kedua-duanya menyatakan kekaguman dan penghargaan terhadap kelajuan komuniti sumber terbuka (seperti Gemma, DeepSeek) dalam mengikuti dan melancarkan model yang kompetitif, percaya bahawa kuasa inovasi ini akan terus wujud.
- Gabungan AI dan pendidikan mempunyai prospek yang luas:Jack Rae menggunakan pengalaman peribadi anaknya sebagai contoh, menunjukkan bagaimana AI boleh menjadi alat pembelajaran peribadi yang kuat, percaya bahawa generasi seterusnya akan menjadi lebih 'pintar', dan potensi AI dalam bidang pendidikan telah dipandang rendah.
- Bersikap optimis dengan berhati-hati terhadap risiko AGI:Kedua-duanya berpendapat bahawa isu keselamatan dan penjajaran AI serta kesan teknologi terhadap sosioekonomi perlu diambil serius. Google mempunyai pasukan khusus yang menilai risiko pelancaran model. Noam Shazeer membuat perbandingan, berharap AI dapat menghormati penciptanya seperti anak yang menghormati ibu bapa.
Pengiraan semasa ujian: Keadaan, kejutan, dan siling
Perbualan bermula dengan membincangkan siri model Gemini 2.0, terutamanya kemampuan 'berfikir' atau pengiraan semasa ujiannya. Jack Rae berkongsi satu kejutan awal: pasukan penyelidikan pada mulanya menumpukan usaha untuk meningkatkan prestasi model dalam tugas penaakulan seperti matematik dan kod, tetapi cepat menyedari bahawa kemampuan berfikir secara mendalam ini juga dapat meningkatkan tugas kreatif seperti menulis artikel. Proses perancangan dan semakan semasa model 'berfikir', serta kualiti dan gaya outputnya, sangat mengagumkan.
Noam Shazeer menekankan kepentingan mencapai terobosan dalam bidang yang boleh disahkan (seperti matematik dan kod), kerana penunjuk penilaian ini dapat membezakan sama ada model benar-benar belajar untuk bernalar atau hanya menghafal lebih banyak data. Dia mengakui bahawa 'jangka hayat' penilaian piawai (Evals) semakin pendek, di mana tugas yang sangat mencabar beberapa bulan lalu kini telah diatasi oleh model dan menjadi 'remeh'. Ini mendorong industri untuk terus membangun sistem penilaian baru yang lebih kompleks dan peribadi.
Apabila ditanya apakah pencapaian yang benar-benar bermakna, Noam Shazeer memberikan jawapan yang mendalam: 'Apabila Gemini X dapat menulis Gemini X+1.' Ini merujuk kepada kitaran pengukuhan penambahbaikan diri AI – menggunakan alat AI yang telah dibangunkan untuk membangunkan AI yang lebih berkuasa pada generasi seterusnya dengan lebih cekap. Dia percaya, selain 'kitaran meta' ini, roda data daripada maklum balas pengguna serta roda perhatian dan pelaburan global akan bersama-sama memacu pecutan perkembangan AI.
Jadi, di manakah 'siling' pengiraan semasa ujian? Adakah ia dapat membawa kita terus ke AGI? Kedua-duanya mempunyai pandangan yang jelas. Noam Shazeer menganalisis dari sudut ekonomi: kos penaakulan model bahasa besar semasa sangat rendah (berjuta-juta tokens boleh dijana setiap dolar), jauh lebih rendah daripada kos manusia membaca buku atau mengupah jurutera. Oleh itu, selagi nilai wujud, terdapat ruang yang besar untuk melabur lebih banyak sumber pengiraan untuk membolehkan model 'berfikir' dengan lebih mendalam dan bijak semasa penaakulan. Ini pasti akan membawa kepada peningkatan kemampuan yang ketara.
Walau bagaimanapun, Jack Rae dengan jelas menyatakan bahawa paradigma pengiraan semasa ujianbukanjalan lengkap ke AGI. Dia bersetuju bahawa komponen kritikal lain diperlukan, terutamanya penyelidikan 'agen' (Agent) yang membolehkan AI bertindak dalam persekitaran kompleks. Pengiraan semasa ujian semasa lebih seperti 'berfikir lebih lama untuk mencari jawapan kepada masalah tertentu', manakala matlamat masa depan adalah membolehkan model melakukan 'pemikiran mendalam', mencipta dan menginternalisasi pengetahuan baru semasa 'berfikir', seterusnya meningkatkan kecekapan data dalam menyelesaikan tugas berikutnya. Seperti ahli matematik manusia yang melalui kajian mendalam terhadap buku teks dan pemikiran mendalam, akhirnya menjadi pakar bertaraf dunia. Mereka sedang berusaha ke arah itu, tetapi belum sampai.
Dari 'penjawab soalan' kepada 'peneroka': Perubahan paradigma penyelidikan AI
Apabila kemampuan model meningkat, peranannya juga mengalami perubahan asas. Jack Rae menggunakan matematik sebagai contoh untuk menerangkan perubahan ini: matematik semasa banyak digunakan sebagai ujian piawai, seperti 'peperiksaan'; manakala titik perubahan penting pada masa depan adalah membolehkan AI mula menghasilkan 'matematik yang berguna', menyelesaikan masalah yang benar-benar penting dan belum diselesaikan. Ini memerlukan pembangunan tangga penilaian yang secara beransur-ansur beralih dari kemampuan sedia ada kepada sumbangan saintifik praktikal.
Noam Shazeer bersetuju dengan ini, dan menggunakan peluang ini untuk menanggapi kritikan bahawa 'model besar hanya meniru, tidak dapat menghasilkan idea baru' (seperti pandangan Yann LeCun). Dia berpendapat, walaupun hanya dengan menggabungkan dua bidang pengetahuan yang diketahui dan tidak berkaitan, seterusnya menemui sifat baru (contohnya dalam sains bahan), ini sahaja sudah dapat mempercepatkan proses saintifik dengan ketara. Mengenai apa yang dimaksudkan dengan 'benar-benar baru', dia berpendapat tidak perlu terjebak dalam perdebatan falsafah, sikap yang lebih pragmatik adalah terus membangunkan AI, meningkatkan tahap teknologi global, dan membantu manusia.
Jack Rae melukis gambaran yang lebih besar: membandingkan keadaan semasa penyelidikan matematik dengan penemuan geografi pada abad 15. Hanya segelintir peneroka elit (ahli matematik) yang dapat meneroka kawasan yang tidak diketahui, membawa pulang peta baru yang terpisah-pisah. Jika AI dapat belajar untuk mengemukakan soalan matematik yang betul (yang dianggap sebagai bahagian yang paling sukar), dan mempunyai kemampuan untuk menyelesaikannya, maka pada masa depan kita mungkin boleh mempunyai 'sejuta ahli matematik bertaraf Terence Tao', dengan cepat melukis keseluruhan 'peta matematik', yang akan memberi kesan revolusioner kepada semua sains.
Budaya penyelidikan, ekosistem sumber terbuka, dan pandangan masa depan
Mengimbas kembali dekad penyelidikan AI yang lalu, terutamanya terobosan seperti Transformer, Noam Shazeer membandingkannya dengan era 'alkimia' – sangat eksperimen, mengetahui apa yang berlaku tetapi tidak semestinya mengapa. Dia menekankan kepentingan memberikan pengiktirafan yang murah hati dalam budaya penyelidikan, kerana penjejakan idea dan pengagihan sumbangan sering kali sangat kompleks. Mengenai sama ada kelahiran Transformer adalah sesuatu yang tidak dapat dielakkan, dia berpendapat idea yang serupa sudah hampir muncul pada masa itu, tetapi perlanggaran dan gabungan tertentu memerlukan sedikit nasib.
Kedua-duanya juga membincangkan pelbagai model organisasi penyelidikan. Jack Rae, berdasarkan pengalamannya di OpenAI (lebih berpusat) dan DeepMind (lebih top-down), berpendapat bahawa dalam persekitaran Google semasa, mengekalkan keseimbangan antara fokus strategik 'top-down' dan penerokaan bebas 'bottom-up' adalah sangat penting. Fokus strategik memastikan sumber dilaburkan dalam arah kritikal (seperti pengiraan semasa ujian) dan hasil disampaikan, manakala penerokaan bebas sering membawa kepada terobosan yang tidak dijangka dan lebih berpengaruh.
Satu bidang yang membuat mereka berdua 'mengubah fikiran' adalah kemajuan model sumber terbuka. Jack Rae mengakui, dia pernah berfikir bahawa model sumber tertutup mungkin akan meningkatkan kelebihan mereka, tetapi semangat, kreativiti, dan kemampuan iterasi pantas yang ditunjukkan oleh komuniti sumber terbuka sangat mengejutkan. Model seperti Gemma 3 dan DeepSeek menunjukkan prestasi yang cemerlang, menunjukkan bahawa kuasa sumber terbuka dapat terus berinovasi dan kekal kompetitif. Noam Shazeer juga berpendapat bahawa 'jurang masa' antara sumber terbuka dan tertutup semakin kecil, dan masa depan mungkin akan menjadi 'jurang kualiti jelas tetapi jurang masa sangat kecil'.
Kesan sosial AI: Pendidikan, risiko, dan peranan manusia
Apabila membincangkan kesan AI terhadap kehidupan peribadi, Jack Rae berkongsi contoh yang hidup: anaknya yang berusia empat tahun suka menggunakan Gemini untuk mengenal pasti tumbuhan dan cicak di taman, dan dengan cepat menyerap pengetahuan pakar yang terperinci, bahkan dapat menerangkannya dengan tepat kepada guru di sekolah. Dia percaya, gabungan AI dan pendidikan akan melahirkan cara pembelajaran peribadi yang belum pernah ada sebelum ini, menjadikan generasi seterusnya lebih 'pintar', dan prospek ini telah dipandang rendah.
Pemikiran Noam Shazeer lebih bersifat falsafah. Dia berpendapat, apabila AI mungkin akan mengambil alih lebih banyak kerja pengeluaran material pada masa depan, manusia perlu mencari semula makna hidup – ini mungkin bukan lagi tentang perjuangan untuk hidup, tetapi lebih tentang pencarian rohani. Dia menggalakkan orang, jika sekarang ada sesuatu yang ingin dilakukan dan mempunyai makna material, 'lakukan sekarang', kerana keadaan pada masa depan mungkin berbeza.
Mengenai risiko AGI, kedua-duanya bersikap berhati-hati. Jack Rae menyatakan 'kebimbangan sederhana', menunjukkan bahawa mencipta entiti yang jauh melebihi kecerdasan sendiri, tetapi masih boleh dipercayai untuk berkhidmat kepada penciptanya, adalah sesuatu yang tiada preseden dalam sejarah. Selain itu, kesan potensi AI terhadap pekerjaan dan struktur ekonomi juga merupakan masalah realiti yang perlu ditangani dengan serius. Dia menyebut bahawa Google mempunyai pasukan bebas yang bertanggungjawab menilai keselamatan dan kesan sosial pelancaran model dari perspektif yang lebih holistik. Noam Shazeer menggunakan perbandingan yang bijak: berharap AI dapat menghormati manusia seperti anak yang menghormati ibu bapa. Dia mengakui perlu melabur sepenuhnya dalam penyelidikan keselamatan, tetapi secara keseluruhan tidak takut.
Akhirnya, dalam sesi soal jawab pantas, mengenai soalan 'apa yang dipandang tinggi/dipandang rendah dalam dunia AI semasa', Jack Rae berpendapat bahawa beberapa tugas sintetik tertentu dan kompleks (seperti ARC-AGI) dipandang tinggi, kerana mereka mungkin tidak dapat mengarahkan kepada AGI yang berguna dan umum. Noam Shazeer dengan tegas berpendapat bahawa model bahasa besar dan AGI itu sendiri masih 'dipandang rendah', potensinya jauh melebihi penciptaan produk bernilai trilion dolar. Jika mereka diminta untuk membangunkan aplikasi sekarang, kedua-duanya berpendapat bidang 'agen', terutamanya agen yang dapat melaksanakan tugas kompleks secara automatik (tidak terhad kepada pengekodan), serta kejuruteraan perisian yang diberdayakan AI (kunci kepada kitaran pecutan diri), adalah arah yang paling perlu diberi perhatian.
