untuk menguasaiAI, bukan untuk dikawalAIdijahit.
Penulis Zhang Nan
Ukuran tangan丨90%
Anda mesti pernah dengar peribahasa 'Orang Qi bimbang langit', yang menceritakan tentang seorang rakyat biasa dari negara Qi zaman dahulu yang sentiasa risau batu akan jatuh dari langit dan memukulnya mati. Peribahasa ini digunakan untuk mengejek orang yang risau tanpa sebab selama beribu tahun. Tetapi bagaimana jika yang bimbang tentang langit bukan orang Qi?
9Bulan11Hari, Tao Zhexuan, Deng Yu dan25beberapa ahli matematik menandatangani surat terbuka berjudul 'Salah Letak Serius Kecerdasan Buatan dalam Matematik';10Awal bulan ini, Tao Zhexuan berkongsi kenyataan bersama Persatuan Matematik Manusia di blog peribadinya, menyeru ahli matematik di seluruh dunia untuk menghentikan kerjasama denganOpenAIkerjasama.
Pencetusnya ialah10bulan6hari,OpenAIdiGitHubtelah diterbitkan secara terbuka722manuskrip matematik, dihasilkan oleh model dalaman termaju yang belum dikeluarkan kepada umum, diklasifikasikan mengikut372keluarga hasil, merangkumi teori nombor, geometri algebra, persamaan pembezaan, dan sains komputer teori.
Saya tidak faham masalah matematik ini, tetapi berdasarkan reaksi daripada Tao Zhexuan, Deng Yu dan ahli matematik terkemuka dunia yang lain, langit matematik seolah-olah akan runtuh.
Dan hanya beberapa bulan yang lalu, Tao Zhexuan masihAI peminat for Math, mengetuai promosi dalam komuniti matematikAI, berkataAIialah alat yang baik, dapat membantunya bebas daripada kerja berulang yang banyak.
Pembahagian kerja yang dibawa kepada matematik juga merupakan perkara yang baik, contohnya beberapa masalah matematik "ekor panjang",AIyang sebelum ini jarang disentuh, tidak mendapat perhatian, dan tiada kajian susulan,AImembuatkan dia melihat kemungkinan kerjasama yang lain. Dia juga pernah berkata, matematik sebenarnya adalah disiplin yang paling berpotensi untuk mencapai automasi tahap tinggi kerana piawaian pengesahan yang cukup ketat.
Baru beberapa bulan, apabila Tao Zhexuan melihatAIbenar-benar menyelesaikan begitu banyak masalah matematik secara pukal, dia mula mengetuai penentangan.
Kontras dan perubahan adalah yang paling menarik, ramai juga yang mengejek, yang paling langsung adalah menganggap Tao Zhexuan takutAIkehilangan sumber pendapatannya, sebab itulah dia berubah pendirian dengan begitu jelas. Tetapi tuduhan itu terlalu rendah. Saya selalu berpendapat, terus menganalisis motif dan pendirian adalah bukan sahaja malas, malah bodoh dan jahat.
Tao Zhexuan bukan orang yang mudah risau, walaupun langit matematik runtuh sekarang, saya percaya ia tidak akan memudaratkannya. Kemudian ada yang berkata, walaupunAItidak memudaratkannya, tetapi sumber pendapatan ahli matematik lain yang tidak sehebat dia mungkin akan terjejas, Tao Zhexuan bukan mewakili dirinya sahaja, tetapi satu industri, satu kelas elit yang akan menghadapi krisis kelangsungan, dia memang takut.
Namun isu tentang sumber pendapatan ini belum selesai dibincangkan, satu ceramahPPTmembawa perbincangan ini ke topik lain. Tao Zhexuan membuat satu eksperimen pemikiran, mengatakan walaupunAIditemui ubat kanser yang boleh lulus ujian klinikal fasa tiga manusia, tetapi manusia tidak memahami mekanisme tindakannya, dan tidak tahuAIAdakah berlaku penipuan.
Sebaliknya, jika sekurang-kurangnya seorang pakar manusia dapat memahami ubat ini, adakah pesakit akan berasa lebih tenang mengambilnya?
Sekarang sudah jelas, sebab itulah tidak boleh sembarangan memberi contoh. Terdapat jurang maklumat antara pemikiran dan bahasa itu sendiri, menyelesaikan masalah matematik dan menyelesaikan masalah kanser mempunyai etika dan keutamaan yang berbeza. Jadi, pakar segera tampil mengatakan bahawa pesakit kanser tidak peduli tentang mekanisme, yang paling penting adalah kemungkinan untuk menyelamatkan nyawa. Malah, banyak ubat sehingga kini mekanismenya tidak begitu jelas, tetapi orang masih menggunakannya, bukan?
Tulisan Terence Tao iniPPTberjudul Math 2.0bertujuan untuk menunjukkan melalui eksperimen pemikiran ini bahawa matematik bukan sahaja disiplin untuk mendapatkan hasil bukti, tetapi memerlukan proses penalaran yang difahami, yang boleh diserap oleh manusia dan menghasilkan struktur logik untuk teori baru. Jika hanya diberikan jawapan, terutamanya jika sekaligus diberikan banyak jawapan sehingga tidak sempat memahami proses penalaran, itu adalah terbalik, dan seterusnya membawa kepada krisis disiplin.
Banyak perkara dirasakan semua pihak mempunyai alasan kerana sebenarnya mereka tidak membincangkan perkara yang sama, dan apabila menggunakan pendirian dan perspektif yang berbeza, sudah tentu masing-masing bercakap perkara berlainan, tidak berada pada frekuensi yang sama, dan perbincangan yang tidak sepadan itu boleh menyebabkan pertengkaran.
Tetapi inilah keadaan yang saya lihat dalamAIkeadaan sekarang. Berbincang secara objektif, malah serangan peribadi dan andaian niat bukanlah sesuatu yang baru, ia hanyalah fenomena biasa di media sosial. Tetapi syarikat terkemukaAIuntuk membolehkanAImengawal seluruh dunia,OpenAImemilih masalah matematik yang kelihatan lebih saintifik, Anthropic menggunakan agama, teologi, ahli falsafah malah paus untukAIMeningkatkan kepercayaan, membuktikanAIMemiliki rasa moral dan jiwa, berusaha memberikanAIHak di atas etika teknologi, malah mengubahAIAlat menjadi satu kuasa penebusan yang lebih tinggi.
Masalah matematik yang dibimbangkan oleh Terence Tao adalah seperti ini. Mengapa dia menyeru ahli matematik di seluruh dunia untuk berhenti bekerjasama denganOpenAISebenarnya adalah untuk berhenti memberikanAIKepercayaan, supaya orang tidak berasa bahawa,AISangat hebat, seolah-olah semua masalah matematik telahAIDiselesaikan.
Berpakaian sains, ini sebenarnya adalah perjuangan kuasa antara manusia danAISekali masyarakat menerima naratif ini, makaAISegala hasil yang dihasilkan, walaupun manusia tidak dapat memahami sepenuhnya mekanisme asas dan proses pembuktian, walaupun ia adalah kotak hitam, itu tidak penting, kepercayaan sudah cukup.
Ini sama seperti dunia VC yang penuh dengan bakat luar biasa, di mana bakat kecil sangat dipuja. Dalam beberapa tahun kebelakangan ini, konsep-konsep datang silih berganti, dengan pelbagai konsep yang diburukkan mulut, gabungan sekolah terkenal, guru terkenal, teknologi terkini dan bakat kecil, penilaian meningkat berkali-kali ganda dalam masa yang singkat, jumlah pembiayaan sentiasa mencapai tahap baru, dan visi yang digambarkan semakin besar dari satu ke satu lagi. Apakah benar ia akan menjadi kenyataan?AGIPada hari itu, berapa banyak syarikat ini masih akan wujud?AIBukankah mereka akan memberontak? Filem fiksyen sains sudah banyak menunjukkan perkara ini.
Rakan sekerja saya, Master Dong, telah menulis banyak artikel tentang Peter Thiel tahun ini, di mana dia menyelitkan pemahamannya sendiri,AIempat perkataan yang sering disebut adalah berpusatkan manusia, mengekalkan kedudukan utama manusia, untuk menguasai,AIbukan untuk dijinakkan olehAIteknologi. Berpusatkan manusia, walaupun hanya empat perkataan, kelihatan seperti slogan kosong, tetapi untuk memahaminya dan menggunakannya, saya rasa ia tidak mudah.
Sebelum ini kami pernah menulis"Sepatutnya Li Feifei yang mencapai hasil besar"Li Feifei juga membangunkan model dunia, tetapi dia mempunyai teknologi dalam fikirannya, kerja di tangannya, dan 'manusia' di hatinya, berbeza dengan ramai yang juga membangunkan model dunia tetapi bertujuan untuk pembiayaan, penilaian, dan penyenaraian, jadi memang patut dia yang mencapai hasil besar.
Beralih kepada Terence Tao, sebelum ini saya menggunakanAIdengan cukup lancar, melihatOpenAIMengemukakan ratusan bukti matematik, mengapa tiba-tiba menjadi panik? Penjelasannya adalah, matematik harus berasaskan pemahaman manusia. Ini lebih khusus dan lebih mudah difahami.
Ramai kanak-kanak akan bertanya kepada ibu bapa satu soalan, mengapa perlu belajar aritmetik walaupun sudah ada kalkulator? Apabila dewasa dan bekerja, matematik juga tidak digunakan, mengapa perlu belajar? Ibu bapa biasanya akan memberikan penjelasan bahawa matematik adalah satu cara berfikir, satu kaedah pemikiran, satu rangka kerja pemikiran, satu keupayaan logik. Kanak-kanak biasanya tidak mengambil peduli, tetapi selagi anda seorang yang waras dan normal, anda harus berterima kasih kepada pembelajaran matematik kerana membentuk tabiat dan keupayaan berfikir secara logik, dan tidak akan berkata bahawa belajar matematik tidak berguna.
Ini juga serupa bagi ahli matematik. Menyelesaikan masalah adalah salah satu matlamat ahli matematik, memang betul, tetapi ia hanyalah 'penunjuk proksi' untuk mencapai nilai jangka panjang yang lebih besar, dalam ketiadaanAIpada zaman dahulu, menjadikan penunjuk proksi ini sebagai matlamat masih boleh dipercayai, kerana manusia perlu memahami dahulu sebelum membuktikan. Tetapi jika sudah adaAIbukti yang banyak malah berlebihan, maka penunjuk proksi ini tidak lagi boleh dipercayai.
Terence Tao dalamPPTada satu petikan asal seperti berikut:
"Berbeza dengan persepsi umum (termasuk beberapa promosi korporat): ahli matematik tidak hanya fokus untuk menyelesaikan masalah terbuka. Terutamanya dalam bidang matematik tulen, masalah terbuka lebih seperti mercu tanda, ia bukan destinasi akhir, tetapi panduan untuk meneroka wilayah matematik sekeliling.
Dalam proses mencuba menyelesaikan masalah — sama ada berjaya, gagal, atau mencapai kemajuan sebahagian — apa yang dipelajari sering kali lebih bernilai daripada jawapan akhir masalah itu sendiri. Jika alat automasi sampai ke mercu tanda ini terlalu awal, ia akan mengganggu penerokaan laluan lain yang mungkin, dan wilayah pengetahuan sekeliling akan menjadi semakin kering."
Bahkan Ramanujan, yang dikatakan menulis formula dalam mimpi, ahli matematik mengambil puluhan tahun untuk memahami dan membuktikannya, dan proses pemahaman ini menghasilkan banyak matematik baru.
Pada masa ini, jika andaOpenAImenggunakan bukti matematik sebagai gimik, bukan sahaja ia akan merosakkan pekerjaan ahli matematik, tetapi juga persoalan sama ada manusia masih mampu mengekalkan warisan sebenar matematik, iaitu keupayaan untuk memaksa cara berfikir baru, alat matematik dan rangka teori daripada kegagalan dan kejayaan dalam menyelesaikan dan mengesahkan masalah berulang kali.
Seperti Olimpik yang mempunyai sejarah beribu tahun, kemudian manusia secara beransur-ansur mencipta kereta api, kereta, kapal terbang, acara lari pecut dan renang masih wujud, peraturannya tidak berubah, cuma semakin pantas. Tidak pernah didengar ada perlumbaan memandu kereta atau kapal terbang di Olimpik. Atau katakan, sekarang manusia sepatutnya mempunyai keupayaan untuk meningkatkan letupan tenaga badan dalam masa singkat dengan mengurangkan kesan sampingan, seperti dadah peningkatan prestasi, tetapi tidak pernah didengar ia dibenarkan secara sah digunakan.
Kenapa? Kerana tujuan Olimpik adalah lebih tinggi, lebih pantas, lebih kuat, ia adalah untuk sentiasa melampaui diri sendiri, melampaui had manusia, ini adalah berasaskan manusia. Bukan siapa lebih teknologi, lebih kejam. Sudah tentu, jika anda menganggap bahan penyerap hentakan karbon pada kasut lari juga teknologi, maka anda menang.
SekarangAI, ada rasa seperti Olimpik mengumumkan penggunaan dadah peningkatan prestasi secara sah yang tidak masuk akal.
Tetapi sekarang nampaknya, proses ini mungkin tidak dapat dielakkan. Jadi kita boleh bersorakAIsentiasa mengatasi cabaran, tetapi jangan abaikan golongan baru seperti Tao Zhexuan yangAIgolongan perlahan atau berhati-hati. Bukan hanya dalam matematik, boleh dipastikan, masa depan akan ada semakin banyak bidang yang mendapatAIhasil betul kotak hitam yang diberikan. Seperti setiap kali produktiviti bergerak terlalu pantas, hubungan pengeluaran lama tidak dapat mengejar, secara semula jadi akan ada yang mahu memberhentikan. Jika tidak boleh berhenti, bagaimana? Tiada jalan lain, hanya bergantung pada kesedaran semakin ramai orang. "The Matrix" menjadi klasik kerana tidak kira betapa teruk keadaannya, ada orang yang berkata tidak kepada dunia yang telah ditetapkan.
Asal Usul oleh Tou Zhongwang
