Terry Winograd, "Computers, Ethics, and social responsibility" in D. Johnson & H. Nissenbaum, Computers, Ethics & Social Values, Prentice-Hall, 1995.
テリィ・ウィノグラドは、以下にまとめた論文をもともとキーノートとして発表している。この論文によると、彼はこれを発表するまでほぼ十年間の間、CPSR (Computer Professionals for Social Responsibilityの略称)の仕事に参加している。
倫理と価値は、哲学者や社会学者にとっては研究の対象であるが、我々コンピュータ科学者にとっては専門家としての我々の行為を解釈し評価する領域である。そこで、私は傍観者ではなく主体である。私がたてる質問は、「何がなされているか」ではなく、「我々は何を為すべきか」である。
私はこのペーパーで、コンピュータ使用と価値の諸問題が我々の専門の仕事においてどのように現れてくるかについて話すことにする。
このペーパーでは、倫理と諸価値がどのようにコンピュータ使用と関連しているかについてのいくつかのありふれた見解を提示して対照させ、これらの見解が、倫理的な振舞いと社会的責任を促進するために我々の引き受けうる活動について何を含意するのかを検討する。私は倫理的事柄が根本的に社会的なものであること強調する。個人の役割というより、諸個人が選択し行為する世界を生み出す対話と行為の大きなコンテクストに注意を向ける。倫理的葛藤に直面している孤立した個人に焦点を当てるよりもむしろ、我々の注意を人間の対話の大きな渦に向けたい。この対話の渦が、倫理的選択を意味あるものにする解釈、価値、可能性の源となるのである。
NCCV(National Conference for Computing and Valuesの略称)の宣言は、以下のような展望を示している。
「コンピュータ技術と人間的価値を、その技術がその価値に損害を加えるよりもむしろそれを促進し保護するような仕方で、統合する」
これには個人の道徳的勇気が必要であり、またそれより遥かに多くのものに基礎を置くことになるだろう。コンピュータ専門家の技術的な仕事において、人間的価値を考慮することが勇敢な行為ではなくて、専門職としての規範となるような環境をつくる必要がある。価値の考慮が第一だということがすべてのコンピュータ専門家によってまったく当然だとみなされるような理解の基盤を生み出す必要がある。その理解を強化する日常の訓練と教授法を案出する必要がある。
いかなる領域の意図的活動においても、行為を有意味に記述し、比較し、評価することが可能になるような共同体が存在する。コンピュータ科学者は、実践の基準を持ち評価の実践をする科学者の共同体の一員である。科学者の共同体に属しているものと自己認識し、その合意に基づく評価の過程に参加する。
コンピュータ科学の共同体一般において、NCCVの会議で提出された諸価値の多くに対する関心が著しく欠如している。人々が「よいコンピュータ科学者」であるか否かを判断する際に、共同体の職業規範は特定の関心と行為に順応する傾向が強い。
しかし、われわれが常識的に「よい」とか「わるい」とか言うときには、われわれはより広い見解を取る。つまり、自分のチームの成功に対する貢献度も考慮に入れて判断するのである。
コンピュータ科学チームの「成功」とはどんなことなのなのか。この成功の評価においても、職場の多くで考えられているものと、我々が求めているものとの間にギャップがある。上に記したNCCVの見方が、コンピュータ科学チームの成功の基準であるべきである。
我々の目的がNCCVの会議で宣言されたように「人間的諸価値を促進し保護すること」だとしても、(その目的に適う行為としての)倫理的行為の領域は即座には明らかではない。あらゆる人が正しいことと不正なことには違いがあるという感覚を持っているが、どのような行為がどちらのカテゴリーにはいるべきなのかについての規準に合意はない。しかし、苦痛を与えることが不正で、困窮している人を助けることが正しい、というくらいのことは、ほとんどの人が同意するだろう。すべての人は、「善」と「悪」をなすことについて語ることに意味があり、「善をなすこと」に価値があることを受け入れることができる。さらに、我々は、どのような種類の「善をなすこと」が道徳的な行為を構成するかについての一般的な理解を持っているようにみえる。道徳的価値は他者の利害に関わる。我々は一般的に、道徳的問題を自他の利害の衝突の可能性と関わるものとみなす。
[意図の役割] 一般的に言って、行為者自身の意図ないし理解に基づいてその行為が評価されるわけでは必ずしもない。その行為は他の記述の下で評価されうる。倫理の領域では、行為は、行為者自身の意図ないし理解とは独立に、標準的実践との関係で観察されうる。行為の帰結について考えていなかったとしても、その行為者は倫理的な評価を免れない。しかし、ある行為が不正だという了解が社会的にまったく成立していなかったとすれば、その行為を不正だと評価することは適切でないように思われる。人は真空の内に存在しているのではなく、社会的な諸集団の一員として、行為の解釈、価値、評価をその集団と共有して存在している。人は、このような背景の内で開けた視界の外にある正・不正の問題に対して責任を帰せられえない。個人が現行の社会的コンセンサスを退けて、人間的価値と意味のより大きなコンテキストに訴えることがしばしばあるかもしれない。しかしその人には、社会的対話に参加する責任がある。このことは、道徳的行為の主要な構成要素が、社会的背景のうちで共通の了解を育成することだということを意味している。
どのようにして倫理的に振舞うかということ関する三つの戯画
以下では、倫理的に振舞うことに関する、我々の文化に深く埋め込まれたイメージのいくつかを、劇画の形で提示する。
人が不正なことをしようかしまいか決めかねており、悪魔がやってしまえと、天使が止めなさいとそれぞれ横から囁く。人は最終的に悪魔か天使のどちらかを退ける。
この道徳についての見方に含まれている想定:
この見方をとった場合の道徳教育:
説教、戒め(地獄で身を焦がす罪人の話)、克己などの訓練
問題点:
倫理的問題は、最初から明らかなのではなく、倫理的な問題が特徴づけられ議論されている行為の社会的理解という背景を通じてまず気付かれなければならない。もちろん、私は他の人を殺すべきではないというようなことは知っているけれども、それは私にとっては倫理的問題ではなく、当然視される背景の一部である。一方、労働者監視システムを構築すべきか否かとか、軍事機関から研究基金を受け取るべきか否かといったことを決める必要があるときには、何が実際正しいのか、また根元的な問題とは何かといったことを論争することになる。正しくあるとは、単に自分の心を堅固にするだけのことではない。我々は自分の特定の状況を、歴史を通して現れてきた諸問題と他の事例のコンテクストに当てはめて認識することができなければならない。「道徳的意志」のような性格特性ではなく、この活動こそが育成されるべきである。
正確な道徳規則をプログラムに組みこんだ道徳コンピュータに情報を打ち込むと、そのコンピュータは事実を取捨し、選択肢を比較考量し、判断を下して、正しいことは何かという結果をパッと出す。
この道徳についての見方に含まれている想定:
この見方をとった場合の道徳教育:
この見方では、問題は何が倫理的行為かを決めることである。道徳的能力とは、道徳の公理を知り、「何をすることが正しいのか」という問題が出てくる場合にそれらを適用する演繹的技能を持つことである。そこで、道徳教育は、正しい原理を教え、それを諸事例に適用する練習をさせることになる。
問題点:
何千年もの討論にも関わらず、人類は道徳的推論の一般的な基礎付けについての合意に至りそうには思えないし、特殊な規則については尚さらである。また、道徳規則を個々の事例に適用する際には、その規則の中の名辞が何を指示するのかを確定するために解釈が必要で、その解釈には論理的に分析されていない人間の判断と暗黙の理解の領域がある。コンピュータ倫理学の文献を読んでいると、一貫した原理と、遭遇する事例にそれらを適用するための基準を提供することがいかに難しいかということが、痛いほどよくわかってくる。道徳コンピュータは理想化されたファンタジーである。それは、「正しい答え」の探求に注意を向けることで、各人に要求されており他者との終わりなき対話に我々を巻き込む問いかけという活動から注意を引き離すとしたら、我々を誤り導く可能性がある。
特徴:
1. 実行中の活動
投げ物曲芸師は連続的に演技に従事している。先の二つのモデルは我々の注意を意識的な決定の瞬間に向けていた。今度の戯画は、我々は常に活動に「投げ込まれて」おり、倫理的評価は熟慮して行なったことだけではなくて、こうした活動にも適用される、ということを示唆している。「急ごしらえの意志決定」ということが、行為の基本的状況である。実のところ、それはしばしば行為者には意志決定として現れてはこない。たとえば、溺れている子供を救うために川に飛び込んだ人は、飛び込もうと意志決定したという意識をもっていないことがある。倫理的技能を獲得するためには、論理学者が証明を構成する際に使用する類の注意深い議論だけではなく、投げ物曲芸師が示しているような種の、活動のなかでの持続的な判断能力を発達させる必要がある。
2. 社会的コンテクスト
焦点が、一人の個人の孤立した行為にではなく、一つの全体としての一座の統合された活動におかれている。倫理的行為の場合には、ある人が行為の選択肢を考慮する際、自分が他に何ができるかだけでなく、ある種の合意と協調を通して我々が全員でなしうることも考慮する必要がある。個人の道徳的ディレンマを孤立させて扱うより、「正しいこと」をすることを英雄的なことではなくむしろ自然なことにするような標準的実践を育成することに携わる方が、全体としての価値の追求を促進する。我々の各々ができる最も強力な倫理的行為の一つは、未来における自他の行為が我々の諸価値と一貫して調和するような社会的コンテキストを創造するのに参与することである。これには、同僚のコンピュータ専門家と学生を教育すること、専門職の規準を発達させるよう働くこと、新技術を探究してその価値的な帰結を特定することが含まれる。
3. 理解、実践、規準を進化させる
投げ物曲芸師の一座では学習し変化する永続的な必要がある。投げ物に究極的に「正しい」やりかたといったようなものはない。投げ物が重力と物理的運動の法則に普遍的に従うように、人間という動物の本性に基づいており、文化や時代を横断して真であるような何が「善い」かについての知覚があるかもしれない。しかし、この枠内で、共同体は、その構成員がしつけられ、その行為が評価されるような慣行や規準を進化させる。投げ物曲芸師の共同体のうちに我々が認める能力の一部は、新しい可能性を認識し、それまで探求されてこなかった領域において技能を発達させ、自分たちが演じている環境の変化に敏感であることである。このために細部に注意を向けることが必要な場合があるかもしれない。ソフトウェアやインターフェースやアルゴリズムといった新しい領域で所有と所有権を構成するものについて新しい概念を進化させることはその例である。他方、重大な躍進ができる場合もある。ガンジーが非暴力の市民的不服従を提唱した時、彼は二十世紀後半の世界において意味と力を持ちえた、新しい可能性の見方と行為のし方を創造したのである。
この道徳についての見方に含まれている想定:
これはある点ではホッとさせる見方であり、ある点では刺激的なものである。これは、正しいことをする強さを常に持つとか、正確に何が正しいことかを決めることができるといった、達成不可能な理想を掲げないという点でホッとさせてくれる。この見方はそのかわり、他の人々との議論に参加することと、彼らの関心と理解を真剣に考慮することにコミットすることに重点を置く。同じ理由で、この見方は刺激的である。これによると、我々はいつ自分たちの社会的・倫理的関心に訴えればよいのかを厳密に知っているとか、倫理的問題に究極的な回答が出せたと自信を持つといったことの満足を決して持たない。我々は予見されない仕方で価値的な帰結を及ぼしうる活動に常に投げ込まれた状態におり、それらの価値を保持するための新しい理解や「投げ物」の方法を進化させることに常に責任がある共同体を構成している。
これまでの考察が、コンピュータ使用が諸価値を促進・保護するようにすることにコミットしている個人や組織の活動に対してもつ含意を検討する。
倫理(学)と社会的責任を遂行することの三つの重要な構成要素
各構成要素には、個人的な部分と社会的な部分がある。一人の人だけが問題を認識して、何をすべきかを考え、そして行動するという状況に直面する場合もある。しかしここでは、各構成要素が集団の、特にNCCVやCPSRによって代表される種類の組織の行為のうちに位置づけられる仕方に重点を置く。
最初の構成要素は、コンピュータが関係を持つ社会的・倫理的問題を特定することである。各人は自分たちのコンピュータ専門家としての行為がいかに社会的な帰結をもつかを問う必要がある。
あらゆる専門職と同様、コンピュータ専門家の場合にも、社会的な帰結はその行為や製品自体の特性に由来することがある。命に関わるソフトウェアを作るよう依頼された場合には、現行のソフトウェアに関する慣行の下で自分ができる最善の処置をし、そのリスクと限界について顧客に正直でなくてはならない。
社会的な帰結は、行為や製品自体の性質にではなく、その製品の使用に由来する場合もある。雇用者が労働者の活動を細部まで隠れて監視できるようにするプログラムを作るよう依頼されたならば、職場においてそのようなプログラムが持ちうる帰結について認識している必要がある。
有益な技術と有害な技術の間に明確な区別をすることはしばしば困難である。たとえば、FBIによって麻薬ディーラーを探知するために使われているデータベースシステムは、麻薬取引を減らすのに有用かもしれないけれども、評判の悪い政治的信念を持つ人々をつけるのにも使われる恐れがある。
さらに言えば、行為や製品自体は肯定的な価値を持つけれども、大きなコンテクストにおいてはそれが有害な役割を担いうる場合がある。我々のほとんどは、 SDI(戦略防衛構想 Strategic Defense Initiativeの略称)によって後援された研究の多くを価値ある応用ができるものと評価するであろう。もともと軍事機関によって後援されていたコンピュータネットワーキングの開発は、コンピュータ科学者だけでなく一般市民にも有用になってきている。しかし、大きなコンテクストにおいては、SDIによって後援をうけて研究を行なうことは有害ではなかろうか。それが科学界はSDI計画に肯定的だという証拠として利用されたら、どのような帰結をもたらすだろうか。またもしおびただしい割合のコンピュータ研究が軍によって管理されるならば、提起される諸問題や、軍の考えが我が国の経済の管理にもつ役割にどのような長期的影響があるだろうか。
価値について責任ある決定をするためには、全体の状況において自らの行為が持ちうる帰結についての広い理解が必要である。そのような理解は、コンピュータ同業者の内部からだけでなく外部からも提起される開かれた議論を通じてのみ発達する。このような議論は、それに直接参加していない人々にも影響を及ぼす。
ここで思考といわずに対話というのは、他者との直接的な対話に関与していないときでさえ意思決定の核心にある社会的な構造を強調するためである。我々は、今話している人々とだけでなく、過去に読んで影響を受けた書物の作者や会話をかわした人々、そして、自分が言うことや書くことによって影響を受けるであろう未来の人々と対話しているのだといえる。対話の相手には同僚のコンピュータ専門家だけでなく、同じ社会に属する他の人々も含まれる。「公共教育」の仕事は、倫理的・社会的責任の織物を構成する期待の背景を創造することの重要な部分である。対話の織りは、物事を考え抜くために集まる人々の諸集団の関数である。このような人々を集めるということは、コンピュータと倫理の問題に専念している機関や組織が果たす重要な役割の一つである。
総決算は我々がおこす個人的・集団的な行為である。
三つの戯画からコンピュータ使用と諸価値に関する会議の役割についての異なった見解を見いだしうる。天使と悪魔の戯画に象徴される見方からは、その会議は、共有された諸価値にしたがって行為するよう励まし合い、決然としていられるように物語をするような「信仰復興集会」のようなものとみなしうる。道徳コンピュータの戯画に象徴される見方からは、そうした会議はシンクタンクである。会議の参加者の仕事は、コンピュータ専門家が何をすべきかがわかるようにその知識の基礎を構成する正しい諸規則と記述を見つけだすことである。これらの見方がまったく間違っているわけではない。しかし私は、コンピュータ使用と諸価値に関する会議は、投げ物曲芸師の戯画に象徴されるように、論点やアイデアや議論を投げ合ってコンピュータ専門家たちが活動する可能性の世界を作ることだと考えたい。その参加者は、そうした可能性を創造し、その諸価値を理解してコミットし、未来においても創造的で学ぶことに開かれている共同体を築いていくのである。