
半月ほど前、ネット上で診療所の告知が流れました:「もし診断結果が豆包によるものなら、千問に聞き直してください;千問も同じなら、やはり病院で診察を受けることをお勧めします。」
当時は皆ジョークとして受け止めていました。今、そのジョークが現実になりました。
江蘇省徐州で、韓さんが祖母を連れて徐州医科大学付属病院の循環器内科で高血圧の診察を受けました。彼は医者に特に注意を促しました:祖母はジルチアゼム系降圧薬にアレルギーがあり、尿酸値も高いと。医者は資料を調べると言い、スマートフォンを取り出して豆包を開きました。
スマホの画面が撮影され、「重点検査項目」「慎重使用、できるだけ使用しない」と表示されていました。韓さんは豆包がその薬は服用可能と言ったので医者が処方しようとしたが、祖母に飲ませるのは怖くてその処方を拒否しました。
動画が公開されると、コメント欄はすぐに二派に分かれました。一方は「これからは病院に行かずに直接豆包に聞けばいい」と冗談を言い、もう一方は医者が副作用を調べるのは普通で、「医学書をめくるより便利で、怖がる必要はない」と考えました。
同じ豆包でも、二つの異なる説明がありました
本当に興味深いのは病院の27日の回答です。
スタッフはこう言いました:確認したところ、医者は当日薬を処方していません。新薬の適合性を調べていて、この患者には合わないと判断したため、薬は一切処方しませんでした。さらに「こちらでは決して豆包を使って患者に薬を処方することはありません」と付け加えました。
こうして同じ出来事に二つのバージョンが生まれました——
患者が見たもの:豆包は服用可能と言い、医者は処方しようとしたが、私は止めました。
病院は言った:豆包が調べた結果、不適切と判断されたため、処方されなかった。
誰が嘘をついているのか?大抵の場合、誰も嘘はついていない。しかしまさにこの「はっきりしない」という点こそが最も恐ろしい部分である。
一般的なAI回答は、現場にいた二人がそれぞれ正反対の解釈をした。用量も肝腎機能も薬物相互作用もなく、一見包括的だが実際は曖昧な確率的な文章だけがある。患者は「服用可能」と受け取り、医師は「慎重に使うべき」と読み取った。この処方の行方は、この文章の曖昧さにかかっている。
医師がAI薬を調べることは間違いか?
正直に言えば、AI薬を調べるという行為自体は非難されるべきではない。
ジメチルスルホキシドアレルギーや尿酸値の上昇は、判断が必要な典型的なケースである:アレルギーがある場合は薬の種類を変える必要があり、尿酸値が高い場合は尿酸を上げる利尿剤を避けなければならない。医師がすぐに判断できず確認したいのは責任感の表れであり、怠慢ではない。記憶だけで処方するより、調べる方が明らかに安全である。
問題は「使うか使わないか」ではなく、「何を使うか」である。
三甲病院に本来備わっているべきものは臨床意思決定支援システムである——背後には薬典データベース、相互作用データベース、説明書のバージョン管理があり、すべての結論は出典と更新日を遡って確認でき、問題があれば調査・追跡・責任追及が可能である。一方、豆包はすべての人向けの汎用アシスタントであり、その回答は確率的生成に基づき、正確性を保証せず、結果に対する責任も負わない。
「資料を調べられる」ことを「処方できる」ことと同一視するのは、一歩ではなく、医療責任体系全体が隔てている。
さらに厄介なのは責任問題だ
あの日、韓さんが止めなかったと仮定しよう。薬が処方され、老人が服用し、問題が起きた。責任は誰が負うのか?
医者か?病院か?豆包か?それとも豆包の学習データか?
病院の『私たちは決して豆包を使って患者に薬を処方しない』という言葉は、実は責任の切り離しを示している——この言葉の裏には『もし本当に医者がそうしたなら、それは彼個人の問題であり、病院の問題ではない』という意味がある。
しかし患者が直面しているのは『個人』と『機関』の区別ではなく、白衣を着た人がスマートフォンを使って薬のアドバイスをくれたという事実だ。彼はそのアドバイスが十年の臨床経験に基づくものか、あるいはただ作られた答えなのか判断できない。
これがまさにAI医療における最も現実的なジレンマだ:技術は意思決定を支援できるが、責任は支援できず、誰かが負わなければならない。
結びの言葉
半月前に私はこう書いた、AI診察室では参謀であるべきで、司令官ではないと。今回のケースにもう一言付け加えよう——
参謀は良いが、免許を持った参謀でなければならない。
本当に解決したいなら、『医者は使ってはいけない』と叫ぶだけではなくAIそれは非現実的であり、防ぐこともできません。具体的には三つのことがあります:病院は専門的な臨床意思決定システムを導入すべきであり、医師が無料のチャットアプリで代用するのはやめるべきです;使用した場合は記録を残し、何を調べたか、結論は何かを病歴に書き込み、追跡可能にすること;最後に境界線を明確にすること——AI情報提供のみを行い、処方や署名は常に人間が行うこと。AI処方と署名は常に人間が行うこと。
韓さんについては、彼は一つ正しいことをしました:不確かな時には、食べないことを選んだのです。
この慎重さは、どんなモデルよりも信頼できます。


