出典：John W. Snapper "Responsibility for computer-based decisions in health care" in Ethics, computing, and medicine: informatics and the transformation of health care, Kenneth. W. Goodman ed., pp.43-56. Cambridge University Press, 1998
過誤が生じたり、判断が誤った際に、責任の所在を調べ、誰かに帰するという非 常に強い傾向性を我々は持っている。この論文でスナッパーは、コンピュータに基づ いた医療上の意思決定に対する新しい責任の評価法を展開する。スナッパーの議論は 帰責に関する種々の難問に答えを提出する、というよりは、責任や義務の新たな適用 法を提示するものである。そして、最終的な結論は、医療上の意思決定をするに際し て、優れたコンピュータを使用することで社会的な善が向上するのならば、今後その ようなコンピュータを積極的に使える環境をつくるべきであり、そのためにはコン ピュータに責任を帰することにより人間への部分的／全面的な免責を行なうべきであ る、というものである。
現代医療においては様々な「知能を備えた」機械が利用されている。スナッパー
は、ある基準が満たされれば、これらの機械が行なった「判断」に対して責任を帰す
ることが適切であることを示唆する。ここで問題となるのは、どのような種類の基準
を機械に適用するか、ということである。例えば、不整脈や血糖値異常をモニターす
る、というような単純な例でいえば、機械の信頼性が人間に対する説明責任(account
ability)にあたるだろう。そして機械が用いられる状況が複雑になれば、それに比例
して帰責の査定も複雑になることは容易に創造できる。
実際、責任の基準をどう定めるかは医療機器の利用形態に大きな影響を与える。機械
の使用によって医師個人が免責されるなら、意志は好んで医療機器を使用することに
なるだろうし、また、医療過誤保険の業者がある機械を用いる医師には保険料を低く
定める、としたならばその機械を使う人は増えるだろう。機械の有用性の議論は、機
械による行為への帰責の方法を決定することと不可分である。
機械によってなされた医療上の判断に関して、責任をとわれる可能性のある人々
は以下の通りである。1.操縦者、2.所有者、3.製造者、4.設計者、5.その場にいる医
師、6.誰も問われない。
以下、議論をするにあたって、基本的な責任に関する指針を挙げておく。
「責任は生活を向上させる技術の使用が促進されるように課されるべきである。そう
した後にその技術が真に生活を向上させるということが証明できるのである。」
可能的に上に6つの選択肢を挙げたが、実際問題を考えると製造者責任法がある。こ
れはある商品の欠陥によって危害が生じた場合、過失の有無を問わずその製造者及び
設計者に厳格責任を課す、というものである。例えば、テラク25事件などは製造者責
任法によって責任が問われる事例である。この事件は、ガン治療のための放射線照射
装置に組み込まれていたバグによって、院内に多数の死傷者が生じた事例である。こ
の場合、明らかにプログラムの製造とテストに問題があり、医療機器として専門基準
をみたしていなかった。しかし問題は、例えばベテランの医師と同じ判断を下したに
もかかわらず患者に危害を加えてしまったコンピュータの場合である。現行法ではこ
の事例もまた製造者責任法によって起訴されるのであるが、機械の設計が「専門的基
準」に反して評価されることになってしまう。(コンピュータに関する製造者責任法
の適用に関しては「情報倫理
学研究資料集I」において紹介されている、P. サミュエルソン「電子情報中の欠陥に対す
る責任」を参照。)
目を医師の責任に転じてみよう。現在、医療機器の判断によって患者に危害が及んだ
場合、製造者責任法とは別に医師の責任が問われる。実際には病院や製造者、医師の
間で責任が分割されることが多いのだが、ここでは独立した一つの責任として考えて
行きたい。
医療の専門家はおうおうにして新技術の受け入れに好意的なのだが、やはり反対派も
存在する。彼らの主張は次の2つである。
ここではコンピュータに判断を依拠した医師の責任を、ちょうど人間に相談した
医師の責任を問う形で吟味する。ここで、機械の判断は人間の判断と類比的に考えら
れる。すなわち、機械そのものに責任があるように考える。この考えが概念的に不自
然に感じられるかもしれないが、実際我々は法的に人間以外のものを人格とみなす事
例は存在するし(例えば法人)、海事法のように物自体を訴訟の対象とする事例も存在
する。
ともかく、コンピュータ化されたシステムの医療上の判断に対する責任を医師の代行
者のものとして考えてみよう。法律用語では、医師が「本人」であり、機械が「代行
者」である。すると、医師は機械のなした危害に対して「主人に聴け」の教義の下、
本人として責任を負うのである。この考えは、「本人」と「代理人」の責任を「一緒
に、かつ、別々に」考慮するので、医師の責任の余地を残す考えとも、機械の責任を
独自に考察する考えとも両立する。
但し、代行者しての機械と人間の類比は大変危険なものであるので、我々は過大にも
過小にも評価してはならない。すなわち、機械を情緒ある人間として捉えるのも過っ
ているし、また機械と人間の判断を評価する基準を全く別々の物と考えるのも過って
いる。判断の正しさを評価するのは判断の本性に基づいてであり、例えば、患者の願
望にそっているだとか、十分な情報を収集する、などは機械／人間の区別には関わら
ない。また、データの読み込み不十分だとか、時間の掛かり過ぎだとか、医療に関わ
らない問題を指示する徴候の見落としや最新知識の欠如などの欠陥は人間犯すミスと
同様であり、機械固有のものではない。
この章ではコンピュータに責任を帰する手続きに関して2つの考察をする。1つは 「借りて来た給仕」の規則の適用であり、もう1つは臨床医とコンピュータシステム に義務を課するものである。機械の信頼問題に関して、前者はコンピュータを病院の スタッフとして扱い、後者は医療相談役としてみなすことになる。以下それぞれを見 て行く。
次のような状況を考えて欲しい。ある大切な晩餐のある日にあなたのレストラン
で働く給仕が風邪で倒れた。あなたは隣町の友人のレストランから給仕を借り出さな
ければならない。この借りてきた給仕は友人の給料ではたらいてはいるものの、あな
たの監督下にいる間は、彼が客に対して加えた危害はあなたの責任になる。病院の場
合もこれと同様に見なされる。他の病院から借り出されたナースであっても、病院で
医師の監督下にある時には借りてきた給仕と同様に見なされる。これとの類比で、機
械を医師の借りてきた給仕として見なすことには納得がいくだろう。
問題は医師が機械によってなされた決断に対して責任をもつかどうかである。借りて
きた給仕の場合、それは本人が代理人に対して持つコントロールの量に依る。助手が
医師の監視下にある時、この場合は助手は明らかに医師のコントロール下にあり、借
りてきた給仕である。従って、助手の判断から生じた危害に対して医師は責任を負う。
しかしながら、医師が院内にさえいない時に患者のケアを行うナースの場合、医師の
コントロール下にはないので、借りてきた給仕とはならない。
借りてきた給仕の基準は機械の場合にもうまく当てはまる。この手法は医師が自らの
のコントロールが及ぶ範囲ににおいて代理人の意志決定やその方法に対して責任を負
う、というものなので、人間について見られてきた多くの伝統的な事例が機械におい
ても見いだされることだろう。機械の選定法や実際に監督しているかどうかといった
問題もあるが、重要なのは、いつ機械が借りてきた給仕になるのかを決定することで
ある。
ここで、知能を備えた機械の使用を奨励しようとするならば、医師の責任を限定する
ことを忘れてはならない。借りてきた給仕の基準はコントロールの量に応じて責任を
課す、というものであるので、医師が機械に対するコントロールを放棄した時点で、医師に責任は生じないのである。
とはいえ、医師が機械の診断に対して責任をもつのは確かである。ここで、医師の入
力に従って症状の診断や検査や処方を提案する診断補助システムを仮定しよう。この
システム普通の人間による診断よりもきわめて信頼性が高いとしよう。このような機
械の決定を採用する／しないに関して医師は責任を持たねばならない。また、機械に
よる決定を正当な理由もなしに単に機械への不信から退けたりしてはならない。医師
はいつ人間の専門家が求めるかに注意を払うのとどうように、いつ機械に判断を求め
るかにも注意を払わなければならない。
機械を代行者としてみなすことにより、本来医師に課されていた義務(診断と処方
)もまた分割されることになる。これは先に見たとおり、医師の本来的役割を部分的
に放棄しているように感じられることから、機械の使用に対する反感の根拠ともなっ
ている。
この問題に対しては２つの対処法がある。一つはすべての診断の義務が医師に属する
のではない、認識を改めることであり、もう一つはもはや診断とは呼べないほどにま
で自動化できるような判断を定義し直すことである。
2つの手法の内、後者は実際より一般的である。例えば、心電図解釈に関してである
が、最近のECG機器はデータと診断の両方をプリントアウトするようになってきてい
る。医師によって読み返されることはあるにせよ、それはもはや日常的には行われて
いない。このことから心電図解釈に対して保険の返済を取りやめよう、という動きも
あったほどである(結局この提案は医師会の反対にあって退けられたが)。このように、
決定が単に診断と処方箋から処置に概念的に移行するのならば、医師は自らの伝統的
義務を放棄することなく患者を機械に任せることができるだろう。
この章の論点の一つとして、機械による決定を仲間の医師に相談するのと同様にみな
そう、というものがあったが、これは診断の義務を機械に明け渡す、ということを意
味する。機械に義務を課するという概念そのものが問題を含んでいるものの(例えば、
機械は契約を結べない)、自らの判断によって生じた危害に対しては誰であれ「一般
的な義務」が生じる、ということに関しては機械も変わらないだろう。この意味で、
第三者から配給された薬を調合した薬剤師によってなされた過失によって薬剤師の患
者に対する義務違反が生じるように、契約がなくとも、媒介する人をさかのぼること
によって、機械に相談した医師の決定に個人的な責任があるかどうかを問うことは妥
当である。
ただ、機械に義務を課する際の問題は、機械による診断においては、どうしても患者
が受身になる、ということである。判断と処方は自動的に行われるのであり、患者の
希望を確認したりはしない(例えば、自動細動除去装置)。また個人の偏見や治療に対
する考えを受け付けることがない。
もし、患者との対話が医師のみに関わる者であるなら、医師はやはり責任を保持して
おり、診断の義務も機械に明け渡されてはいない。このことを考慮に入れれば、やは
りこの手法が人間に相談する場合と同様であることがわかるだろう。仮に医師が患者
を専門家のところへ送り、専門家に助言を求めさせたとしても、医師が患者と対話を
持ち、専門家の助言を解釈する限り、医師の診断への義務は消えないのであり、これ
は機械の判断を参照するにしても変わらない。
結局、医師の診断という領域の侵犯としてするものとして嫌悪された、機械使用拒否
の特徴が説明された。すなわち、診断が他者へ明け渡されるのではなく、診断の義務
が明け渡されるのが問題だったのである。この問題はシステムのフォーマットを変え
ることで解決可能かもしれない。例えば、現行では正確さの蓋然性が付与された複数
の診断が下され、検査やさらなる決定が示唆されるのであるが、これをケースヒスト
リーのデータベースに基づくように変える、等である。
これまでの議論では「誰が危害を引き起こしたのか」という問題には全く触れて
いない。また、全ての被害者を賠償しようという試みもない。その代わりに、臨床医
の責任を免責することにより、優れた技術の利用を促進する方法を探究するという形
をとった。
なかには、本論のような見解を、「功利主義的」な正義を無視した法的責任の経済的
分析である、と退ける人もいるかもしれない。スナッパー自身も法的責任を功利主義
的に分析するより、正義に基づいた義務の概念を用いて責任をとらえる方が好ましい
と考えている。しかし、功利主義的なアプローチはある特定の文脈においては合理的
であるように思われる。そして、そのような事例が医療裁判においては数多く存在す
る。もし本論の議論が上手くいけば、コンピュータに基づいた意思決定に対する責任もまたこのような特殊な文脈ひとつになるだろう。