
Setengah bulan yang lalu, tersebar satu notis klinik dalam talian: "Jika keputusan diagnosis anda diberikan oleh Doubao, sila tanya Qianwen; jika Qianwen juga berkata begitu, kami masih mengesyorkan anda membuat temu janji."
Pada masa itu, semua orang menganggapnya sebagai gurauan. Kini, gurauan itu menjadi kenyataan.
Di Xuzhou, Jiangsu, Encik Han membawa neneknya ke Jabatan Kardiovaskular Hospital Universiti Perubatan Xuzhou untuk memeriksa tekanan darah tinggi. Dia secara khusus mengingatkan doktor: orang tua itu alah kepada ubat penurun tekanan darah jenis dihidropiridin dan juga mempunyai asid urik tinggi. Doktor berkata dia perlu menyemak maklumat—kemudian mengeluarkan telefon bimbit dan membuka Doubao.
Antara muka telefon dirakam, menunjukkan "item pemeriksaan utama" dan "gunakan dengan berhati-hati, elakkan penggunaan jika boleh". Encik Han berkata Doubao mengatakan ubat itu boleh diambil, jadi doktor bersedia untuk menulis preskripsi. Dia tidak berani membenarkan neneknya mengambilnya dan menolak preskripsi itu.
Video itu dikeluarkan, bahagian komen segera terbahagi kepada dua pihak. Satu pihak bergurau, "lepas ini tak perlu ke hospital, tanya saja Doubao"; pihak lain berpendapat doktor menyemak kesan sampingan adalah perkara biasa, "lebih mudah daripada membuka buku perubatan, tak perlu takut."
Doubao yang sama, dua versi penjelasan
Yang benar-benar menarik perhatian adalah respons hospital27pada hari itu.
Kakitangan berkata: setelah disahkan, doktor pada hari itu tidak menulis preskripsi. Dia menyemak satu ubat baru untuk melihat sama ada sesuai untuk pesakit ini, dan mendapati ia tidak sesuai, jadi tiada ubat yang ditulis. Mereka juga menambah: "Kami di sini tidak pernah menggunakan Doubao untuk menulis preskripsi kepada pesakit."
Jadi satu kejadian yang sama mempunyai dua versi—
Apa yang dilihat pesakit: Doubao mengatakan boleh makan, doktor bersedia menulis preskripsi, saya halang.
Hospital berkata: Setelah semakan, didapati Doubao tidak sesuai, jadi tidak diberikan.
Siapa yang berbohong? Kemungkinan besar tiada siapa. Tetapi yang paling menakutkan adalah ketidakjelasan ini.
Satu jawapan umumAIyang diberikan, malah dua orang yang hadir mentafsirnya secara bertentangan. Ia tidak mempunyai dos, tiada fungsi hati dan buah pinggang, tiada interaksi ubat, hanya satu teks kebarangkalian yang nampak menyeluruh tetapi sebenarnya samar. Pesakit mendengar "boleh makan", doktor membaca "gunakan dengan berhati-hati", dan arah preskripsi ini bergantung pada kekaburan teks ini.
Doktor menggunakanAIsemakan ubat, salahkah?
Sejujurnya, tindakanAIsemak ubat itu sendiri tidak patut dikecam.
Alahan kelas diuretik, asid urik tinggi, ini adalah situasi tipikal yang memerlukan pertimbangan: alahan bermakna perlu tukar kelas, asid urik tinggi pula perlu elak diuretik yang menaikkan asid urik. Doktor tidak pasti seketika, mahu mengesahkan, ini adalah tanggungjawab, bukan malas. Daripada memberi preskripsi berdasarkan ingatan, semakan jelas lebih selamat.
Masalahnya bukan "guna atau tidak", tetapi apa yang digunakan.
Hospital tahap tiga sepatutnya mempunyai sistem sokongan keputusan klinikal—di belakangnya adalah pangkalan data farmakope, pangkalan data interaksi, pengurusan versi risalah, setiap kesimpulan boleh dirujuk kepada sumber dan tarikh kemas kini, jika ada masalah boleh disiasat, dikesan dan bertanggungjawab. Doubao adalah pembantu umum untuk semua orang, jawapannya datang dari penjanaan kebarangkalian, tidak menjamin ketepatan, juga tidak memikul akibat.
Menganggap "boleh semak maklumat" sebagai "boleh beri preskripsi" bukan satu langkah, tetapi satu sistem tanggungjawab perubatan yang lengkap di antaranya.
Yang lebih rumit ialah tanggungjawab
Andaian pada hari itu Encik Han tidak menghalang. Ubat diberikan, orang tua itu mengambilnya, dan sesuatu yang buruk berlaku. Siapa yang bertanggungjawab?
Doktor? Hospital? Doubao? Atau data latihan Doubao?
Kenyataan hospital "kami tidak pernah menggunakan Doubao untuk memberikan preskripsi kepada pesakit" sebenarnya sudah memisahkan tanggungjawab—maknanya: jika benar ada doktor yang berbuat demikian, itu adalah urusan peribadi dia, bukan urusan hospital.
Tetapi pesakit tidak menghadapi perbezaan antara "individu" dan "institusi", dia berhadapan dengan seseorang yang memakai kot putih, menggunakan telefon bimbit, memberikan cadangan untuk mengambil ubat. Dia tidak dapat menilai sama ada cadangan itu datang dari pengalaman klinikal sepuluh tahun atau dari jawapan yang baru saja dicipta.
InilahAIdilema sebenar dalam bidang perubatan: teknologi boleh membantu membuat keputusan, tetapi tanggungjawab tidak boleh dibantu, ia mesti dipikul oleh seseorang.
Penutup
Saya pernah menulis setengah bulan lalu,AIDalam bilik konsultasi, ia harus menjadi penasihat, bukan komander. Kes hari ini, perlu ditambah satu ayat—
Penasihat boleh, tetapi mesti penasihat yang berlesen.
Untuk benar-benar menyelesaikan masalah, bukan dengan hanya berkata "Doktor tidak dibenarkan menggunakanAIItu tidak realistik dan tidak dapat dihentikan. Sebaliknya, terdapat tiga perkara konkrit: hospital harus membeli sistem keputusan klinikal profesional, jangan biarkan doktor menggunakan aplikasi sembang percuma sebagai pengganti; apabila digunakanAIia harus meninggalkan rekod, apa yang diperiksa, apa kesimpulannya, ditulis dalam rekod perubatan, boleh dijejaki; akhirnya, jelaskan sempadan—AIhanya menyediakan maklumat, preskripsi dan tandatangan sentiasa dilakukan oleh manusia.
Mengenai Encik Han itu, dia melakukan satu perkara yang betul: apabila tidak pasti, dia memilih untuk tidak makan.
Kehati-hatian ini lebih boleh dipercayai daripada mana-mana model.


