22 責任を負えるコンピュータ

カリ・コールマン

出典

Cari Coleman, "Responsible Computer" , in The Proceedings for CEPE 1999.

キーワード

責任(責任可能性)responsibility , 道徳的な責任(責任可能性)moral responsibility
応答能力(応答可能性) the ability to respond, response-ability
責任可能性の「発達」 the development of responsibility
computer-as-child / computer-as-tool
process プロセス
autonomy as competence / autonomy as choice
freedom to learn / contra-causal freedom
志向性 intentionality
programmed with rigid input-output rules / programmed with learning algorithms
「学習するアルゴリズム」および「コミュニケーションスキル」を備えたコンピュータ a computer endowed with learning algorithms and communication skills

1 要約

コールマンは、「コンピュータの責任可能性」という問いに、肯定的に答える。そして、その議論の特徴は、第一に、「責任可能性(responsibility) 」を「応答可能性 (the ability to respond)」と読みかえること、第二に、「応答能力の〈発達〉」という論点の強調にある。

コールマンは、「幼児としてのコンピュータ (computer-as-child)」というメタファーを提示することにより、コンピュータが適切に「相互的な活動」を〈学習〉できるようデザインされるならば、それは道徳的に責任を負えるものとなるだろう(could be morally responsible)、という議論を展開する。

本発表は、これまで蓄積されてきた「コンピュータ・エシックス」の議論だけでなく、「人工知能」や「可能世界」を主題とする諸論争、また「バイオエシックス」の方法をも(明示している場合もあればそうでない場合もあるが)随所に援用している。しかし、(口答発表であることも理由であろうが)問題の背景が異なるそれぞれの議論の取扱いとして適切であるか疑わしい面があり、また個々の問題点を逐一検討する余裕もない。したがって、本論文紹介の「本文」では、コールマンの議論の見通しを明らかにすることにつとめ、彼女が挙げる参考文献に関しては、項目ごとに「脚注」の形で指摘するにとどめたい。

2 序論

2.1 コールマンによる「過去20年の主流の議論」の総括

コールマンによれば、過去20年の議論においては、主として「コンピュータエラーの責任」の問題が焦点であり、この問題について、コンピュータを「責任を負える」ものとみなすことは不適切だと主張する議論が主流であった。また、「道具としてのコンピュータ (computer-as-tool) 」というメタファーがそれらの諸議論を貫いていた。

2.2 コールマン自身の議論の方向づけ

コールマン曰く、探究すべきは「責任を負えるコンピュータを構築することは可能であるか (whether it is possible to build responsible computers )」という問題であり、そのためには、こうした可能性を考えることすら許さない「道具としてのコンピュータ」というメタファーから、「幼児としてのコンピュータ」というメタファーへシフトすることが、有効である。

また、コールマンは、「道徳的な責任可能性 (moral responsibility)」を「環境および他者への応答可能性 (the ability to respond to one's environment and one's peers)」という視角から問うことにより、コンピュータが「学習するアルゴリズム」および「コミュニケーションスキル」を備え、適切にデザインされるならば、それは道徳的に責任を負えるものとなるだろう、という議論の組み立てを用いる。

^(*

Bechtel, W. 1985, "Attributing resposibility to computer systems", Metaphilosophy,16, 296-306.

DesAutels, P. 1996, "Gestalt shifts in moral perception", in May, L., Friedman, M. and Clark, A. (eds) (1996), Mind and Morals: Essays on Cognitive Science and Ethics, MIT Press, 129-143.

Friedman, B. and Kahn, P. H. Jr. 1992, "Human agency and resposible computing --- implications for computer-system design", Journal of System And Software, 17, 7-14.

Johnson, D. G. and Snapper, J. W. (eds) 1985, Ethical Issues in the Use of Computers, Wadsworth Publishing.

Johnson, M. 1993, Moral Imagination: Implications of Cognitive Science for Ethics, University of Chicago Press.

Ladd, J. 1989, "Computers and moral responsibility", in Gould, C. (ed) (1989), The Information Web: Ethical and Social Implications of Computer Networking, Westview Press, 207-228.

Nissenbaum, H. 1994, "Computing and accountability", Communications of the ACM, 37, 73-80.

Snapper, J. W. 1985, "Responsibility for computer-based errors", Metaphilosophy, 16, 289-295.

^*)

3 「応答可能性」としての責任可能性

コールマンは、道徳的な責任可能性を、つぎの(相互に関連がある)三つの「応答能力」を有することとして理解する。

(1)環境の相貌のそれぞれに応じて、適切に応答する能力 (適切にふるまう能力)
(2)他者の行為に、適切に応答する能力 (一見不適切な行為に「なぜ」と尋ねる、など)
(3)自身の活動に対する「他者の応答」に、適切に応答する能力 (理由や弁明を提示する能力など)

そして、コールマンによれば、以上の応答はそれぞれ、異なる三つの規範的基準(1. 応答の内容 2. 応答の焦点 3. プロセス)において適切さが評価されるが、通常、コンピュータのふるまいは「プロセス」の基準にかなわない、と信じられている。

そこで彼女は、応答の「プロセス」の基準に関して、つぎの三つの観点、すなわち「自律 (autonomy) 」「自由 (freedom) 」「志向性 (intentionality) 」を指摘し、以下の諸節において、コンピュータの「責任可能性=応答可能性」を否定する立場への反論を展開する。

4 「選択としての自律」対「対応能力としての自律」

コールマンによれば、〈カント主義〉は、「自律的に選択すること」と「(外的影響から独立に)理性的に選択すること」を同一視し、人が理性的に選択する原理に従って行為する最良の仕方を「学習する」という、自律の「発達 (development)」の契機を看過する。

他方、彼女は、「自律」を原理に従って自己を導く能力として理解する点では〈カント主義〉と共通するが、「選択」よりはむしろ「対応能力 (Competence) 」としての「自律」に焦点を当てる。そして、こうした彼女自身の議論においては、行為の動機づけと正当化の両面に関する「道徳的な理由 (moral reasons) 」に関して、その「適切な応答」を導くという機能が重視され、「プログラム」次第でコンピュータにも自律の可能性が認められる、と主張する。

5 「反〈因果〉としての自由」と「学習する自由」

コールマン曰く、「責任を負える=応答可能なコンピュータ」を可能にするためには、その基礎となる「道徳的な責任可能性」の説明がコンピュータの「決定論的性質」と両立するものでなければならない。よって「反〈因果〉としての自由」は退けられなければならない。むしろ、重要なことは、コンピュータに関しても、出会う状況の「タイプ」への応答において「他の仕方でもなしえた ("could have done otherwise") 」ということが可能だということである。

コールマンは、一つの思考実験を提示する。

つまり、二つのコンピュータ、1.アレフ(固定したインプット--アウトプットの規則でプログラムされる)と 2.ベット(学習するアルゴリズムでプログラムされる)、双方を「自由」という観点から比較する。

そうすると、両者とも「プログラムされている」という点では明らかに「反〈因果〉としての自由」を欠くという共通性をもつが、その一方で、アレフは「類似な状況に異なった応答をする能力」を持たないのに対し、ベットは「未来の(たんなる)類似の状況において、他の仕方で応答することができる」という相違が、明らかになる。

「道徳的に責任を負えるコンピュータの構築 (to build a morally responsible computer) 」のためには、それを「道具」としてプログラムするのではなく、「〈幼児〉としてのコンピュータ」というメタファーにかなうよう、「責任を負える=応答可能な行為を学習する能力」という観点からプログラムすることが肝要であり、そこでは「積極的なフィードバック(賞賛)」および「消極的なフィードバック(非難)」と連結した「学習するアルゴリズム」の使用が有効である。

^(*

ref. Dennett, D. 1984, "I could not have done otherwise -- so what ?", The Journal of Philosophy, 81, 553-565.

Fischer, J. M.and Ravizza, M. 1998, Responsibility and Control: A Theory of Moral Resposibility, Cambridge University Press.

Crittenden, p. 1990, Learning to be Moral: Philosophical Thoughts About Moral Development, Humanities Press.

^*)

6 志向性

コールマンによれば、「志向性 (intentionality) 」は「道徳的な責任」の必要条件である。

そして、「表象」と「目的」がともに認められなければ、そこに「志向性」を認めることはできない。つまり、たんに志向的活動を首尾よく模倣するだけでは、「志向性」の十分な証拠と言えない。

したがって、コンピュータのふるまいの「志向性」の有無に関して、彼女は、そこにおいて「相互的に活動する (interact with) 」ことが可能であること (これが「表象」の要件である)、および当該の応答について「なぜ」という問いが成立すること(これが「目的」の要件である)を求める。

そのうえで、これらの基準に照らしても「責任を負える=応答可能なコンピュータ」の構築は可能である、というのがコールマンの主張である。

「コミュニケーションスキル」(それは必ずしも言語使用でない)が「責任可能性 =応答能力を発達させる、一つの統合的部分 (an integral part of the development of responsibility) 」であるように思われる。

^(*

ref. Bechtel, W. 1985, "Attributing resposibility to computer systems", Metaphilosophy, 16, 296-306.

Bynum, T. W. 1985, "Artificial intelligence, biology, and intentional states", Metaphilosophy, 16, 355-377.

Anscombe, G.E.M. 1963, Intention, 2nd ed, Basil Blackwell.

Castelfranchi, C. 1995, "Guarantees for Autonomy in Cognitive Agent Architecture", in Wooldridge and Jennigs (eds)(1995), Intelligent Agents, Springer-Verlag, 56-70.

^*)

7 結論

「学習するアルゴリズム」と「コミュニケーションスキル」を用いることにより、自己の環境および他者と「適切に相互的な活動をする」ことを〈学習〉できるコンピュータをつくることは、完全に可能であるように思われる。そして、このことが、「責任を負えるコンピュータの可能性 (the possibility of a responsible computer) 」を開くのである。

(菊地建至)

目次に戻る