1 コンピュータ倫理学とは何か

ジェームズ・H・ムーア (児玉聡 訳)

以下に掲載するのは、ジェームズ・ムーア(ダートマス大学哲学科教授)の "What is Computer Ethics?"の翻訳である。同論文は、当初、 Metaphilosophy, Vol. 16, No. 4, 1985, に掲載されたものであるが、その後、 Deborah G. Johnson, Helen Nissenbaum (eds.) Computers, Ethics & Social Values, Prentice Hall, 1995, などのアンソロジーに再録されている。本論 文の意義は、なんといっても、哲学の専門雑誌にコンピュータ・エシックスと いうタイトルをもった論文が初めて掲載されたケースであるという点にある。 すなわち、この嚆矢たる論文の発表年1985年をもって、われわれはコンピュー タ・エシックス元年とすることができるのである。もちろん、インターネット を始めとして、この15年の間にコンピュータをとりまく状況は急激に変化して おり、本論文では扱われていない倫理的問題も数多く現れている。しかし、ムー ア教授の先見の明に満ちた論攷は、今なお重要性を失ってはおらず、情報倫理 学の基礎文献として抜群の引用率を誇っている。その意味では、本論文は単な る歴史的古典ではない。翻訳を許可されたムーア教授ならびに Metaphilosophy の版元であるBlackwell社に深く感謝する。
ムーア教授と私は、1998年にロンドンのLSEで開催されたComputer Ethics: Philosophical Enquiary 1998で出会い、その後、われわれFINEが京都で開催し た、The First International Workshop for Foundations of Information Ethics にも講演者の一人として参加いただいた。また、99年11月には、プリンストン大 学に客員研究員として滞在中であった私を、教授の主催するダートマス大学哲学 科SAPIENTIA Lecture Seriesの講師として招待してくださり、ダートマス大学 の美しいキャンパスで旧交をあたためることができた。本年7月には、先述の Computer Ethics: Philosophical Enquiary (CEPE)がダートマス大学で開催されること になっており、FINEからも私を含めて数名が参加する予定である。
(水谷記)

1 定義の提案

コンピュータは特別なテクノロジーであり、特別な倫理的問題を生みだす。 この論文でわたしが論じるのは、《コンピュータと他のテクノロジーとの違い は何か》ということと、《倫理的考察においては、この違いがどのような違い をもたらすのか》ということである。わたしが特にしたいことは、コンピュー タ倫理学を特徴づけることと、この新たな分野が知的関心を引くと同時にきわ めて重要でもある理由を示すことである。

わたしの考えでは、コンピュータ倫理学とは、コンピュータ・テクノロ ジーの本質およびその社会的インパクトを分析し、そしてこの分析をもとに、 そのようなテクノロジーを倫理的に使用するための指針を定式化し正当化する ことである。わたしが「コンピュータ・テクノロジー」という言い方を用いる のは、この分野の主題を広く捉えているからで、そこにはコンピュータとそれ に関連するテクノロジーが含まれる。たとえばこの分野の主題にはハードウェ アだけでなくソフトウェアに関する問題も含まれるし、コンピュータそれ自体 だけでなくコンピュータを結びつけるネットワークに関する問題も含まれる。

一般的に言うと、コンピュータ倫理学において問題が生じるのは、コン ピュータ・テクノロジーをどう使用すべきかについて、指針の空白policy vacuumが存在するからである。コンピュータがわれわれに新たな能力を提供す ると、今度はこの能力がわれわれに新たな行為の選択肢を与える。このような 状況においては、行動指針がまったく存在しなかったり、あるいはたとえ存在 したとしても、これまでの指針は適切ではないと思われることがしばしばであ る。コンピュータ倫理学の中心課題は、こうした事例においてどう行為すべき かを決めること --- すなわち、行為の手引きとなる指針を定式化すること --- で ある。もちろん、われわれが直面する倫理的状況には、個人的なものと、社会 的なものとがある。それゆえ、コンピュータ倫理学には、コンピュータ・テク ノロジーを倫理的に使用するための個人的な指針と社会的な指針の両方の考察 が含まれる。

さて、もしかすると、《やるべきことは、ある倫理学説を機械的に適用す ることによって、適切な指針を生みだすことだけだ》と思われるかもしれない。 しかし、通常これではうまくいかないのである。一つの問題は、しばしば指針 の空白とともに、概念の空白conceptual vacuumが存在するということである。 コンピュータ倫理学における問題は、一見するとはっきりしているように思わ れるかもしれないが、少し考えてみると、そこには概念的な混乱があることが わかる。そのような事例において必要とされるのは、行動指針を定式化するた めの整合的な概念的枠組conceptual frameworkを提供しうる分析である。実際 のところ、コンピュータ倫理学における重要な研究の大半は、コンピュータ・ テクノロジーに関わる倫理的問題を理解するための概念的枠組を提示すること に費やされている。

どのような種類の概念的作業が必要とされるのかを明確にするためには、 具体例が役に立つであろう。かりに、われわれがコンピュータ・プログラムを 保護するための指針を定式化しようとしているとしよう。一見したところ、問 題ははっきりしているように思われる。われわれはある種の知的所有物を保護 するための指針を探しているのだ。しかし、もう少し考えてみると、明白な答 えを持たない問いがいくつも生じてくる。コンピュータ・プログラムとは何か。 本当にコンピュータ・プログラムは所有されうる知的所有物なのか? あるいは むしろそれは、だれにも所有されないアイディアとかアルゴリズムのようなも のなのか。 もしコンピュータ・プログラムが知的所有物だとすると、所有され るのはアイディアの 表現形態 expression なのか(これは伝統的には著作権に よって保護される)、それとも所有されるのは 工程 process なのか(これは伝 統的には特許権によって保護される)。 機械が読めるプログラムは、人間が読 めるプログラムのコピーなのか。 明らかに、コンピュータ・プログラムの本 質を概念化しなければ、これらの種類の問いには答えられない。さらに、これ らの問いに答えられなければ、コンピュータ・プログラムを保護するのに役立 つ指針を定式化することはできない。ここで注目してほしいのは、どの概念化 の仕方が選ばれるかによって、指針の適用のされ方が影響を受けるだけでなく、 事実のあり方もいくらか影響を受けるということである。たとえば上の事例で は、あるプログラムが同一のプログラムの一例とみなされるかどうかは、概念 化の仕方によって決まるであろう。

もっとも、整合的な概念的枠組の中においてですら、コンピュータ・テク ノロジーを使用するための指針を定式化することは困難でありうる。さまざま な指針を検討するにつれ、われわれは自分が何に価値を置き、何に価値を置か ないかについて何らかの発見をする。コンピュータ・テクノロジーがわれわれ に新たな行為の可能性を提供するため、新たな価値観が生じる。たとえば、ソ フトウェアを生み出すことがわれわれの文化において持つ価値は、二三十年前 にはなかった価値である。また、古い価値観は見直されなくてはならない。た とえば、ソフトウェアを知的所有物と見なすにしても、そもそもなぜ知的所有 物は保護されるべきなのか。 一般に、相異なる指針を検討することは、自分が 持つ価値選好の発見と明確化をうながす。

コンピュータ倫理学の基本問題が持つ特徴は、コンピュータ・テクノロジー が 本質的に関係しているということであり、かつ何をすべきかについて、さ らには当の状況をどう把握すべきかについてさえ不確かさが存在するというこ とである。したがって、コンピュータが関係する倫理的状況のすべてがコン ピュータ倫理学の問題であるわけではない。もしある泥棒がコンピュータを含 め事務機器を手あたりしだい盗んだとしたら、その泥棒は法的にも倫理的にも 不正な行為をしたことになる。しかし、実はこれは法と倫理一般の問題である。 コンピュータは単に 偶然的にこの状況に関係しているにすぎないし、また満 たされるべき指針の空白も概念の空白も存在していない。状況も適用すべき指 針も明らかである。

ある意味でわたしは、コンピュータ倫理学が研究の一分野として特別な地 位を持つと主張している。応用倫理学は、単に倫理学が応用されたものではな い。しかし、それと同時にわたしは、コンピュータ倫理学の基礎をなす一般的 な倫理学および科学の重要性をも強調したい。倫理学説は、何が倫理的に重要 であるかを決めるためのカテゴリーと手続きを提供してくれる。たとえば、ど のような種類の事柄が善いのか。 われわれの基本的権利にはどのようなものが あるのか。 公平な視点とはどのようなものか。 これらの考察は、倫理的に行 為するための指針を比較したり正当化したりするさいに不可欠である。同様に、 科学的な情報は倫理的評価においてきわめて重要である。倫理的な論争が、価 値に関する意見の不一致ではなく、事実に関する意見の不一致に基づくもので あることがいかに多いかは驚くべきほどである。

わたしの考えでは、コンピュータ倫理学とは、絶えず変化するコンピュー タ・テクノロジーに関する事実、概念的枠組、指針、価値のあいだの関係を考 察する、動的で複雑な研究分野である。コンピュータ倫理学は、ニスを塗って 壁にかけられるような一連の定まった規則ではない。また、コンピュータ倫理 学は、倫理的原則を価値独立的なテクノロジーに機械的に適用することでもな い。コンピュータ倫理学は、コンピュータ・テクノロジーの本質と自分たちの 価値観について改めて考えることをわれわれに要求するのである。たしかにコ ンピュータ倫理学は科学と倫理学のあいだにある分野でありそれらに依存する のだが、同時にコンピュータ倫理学は、コンピュータ・テクノロジーを理解す るための概念的枠組とコンピュータ・テクノロジーを使用するための指針とを 提供する独立した学問分野でもあるのだ。

ここまでコンピュータ倫理学がわれわれの知的関心を引く特徴をいくつか 示したものの、わたしはこの分野の諸問題やこの分野の実践的重要性について はほとんど述べてこなかった。これまでにわたしが用いた唯一の例といえば、 非常に関心が限定されていると思われるコンピュータ・プログラムの保護の問 題だけである。しかし実のところ、わたしの考えでは、コンピュータ倫理学の 領域はかなり大きく、われわれすべてに影響する問題にまで広がっている。そ こでわたしはこれらの問題の考察に移り、コンピュータ倫理学の実践的な重要 性について論じたいと思う。議論を進めるにあたってわたしは、問題の一覧を 示すのではなく、コンピュータ・テクノロジーに関する倫理的問題を生みだす 条件と要因を分析するつもりである。わたしが特に分析したいのは、コンピュー タのどの点が特別なのか、コンピュータはどのような社会的インパクトを持つ のか、コンピュータ・テクノロジーのどの点に動作上のうさんくささがあるか という問いである。わたしはある種のコンピュータ倫理学を実際に行なうこと によって、コンピュータ倫理学の本質をいくらかでも示せることを期待する。

2 革命的な機械

コンピュータのどこが特別なのか コンピュータ革命が起きているとしばしば言われるが、 コンピュータを革命的なものにしているのは何なのか コンピュータの革命的な性質を評価するさいの一つの難点は、 「革命的」という言葉の価値が下がっているということである。 ちょっとした技術改良でさえ、革命的だとはやしたてられる。 しずくの垂れない新しい注ぎ口を製造した者が、 革命的と称してそれを売り出してもおかしくない。 ちょっとした技術改良が革命的であるならば、 絶えず変化するコンピュータ・テクノロジーが革命的であることは間違いない。 もちろん、われわれの関心を引く問題は、 このささいな意味とは違う意味で、 コンピュータが革命的だと言えるかどうかである。 コンピュータ・テクノロジーと他のテクノロジーの重要な違いはどこにあるのか コンピュータ革命を産業革命と比べる根拠は本当にあるのか

コンピュータを革命的なものにしている特徴を探し求めると、 いくつかの特徴が浮び上がってくる。 たとえばわれわれの社会では、 コンピュータは手頃な値段で手に入り、しかも巷にあふれている。 われわれの社会では最近、 あらゆる主要な企業、工場、学校、銀行、病院が コンピュータ・テクノロジーを利用しようと躍起になっている と言っても言いすぎではない。 何百万もの家庭用パソコンが売れている。 さらに、時計や自動車のように一見コンピュータには見えない製品であっても、 コンピュータはその不可欠な部分を構成している。 このようにコンピュータはたくさんあり高価でもないが、 しかしそれを言えば鉛筆も同じである。 単にたくさんあってしかも手頃な値段で手に入るという特徴を指摘するだけでは、 技術革命の主張を正当化するのに十分ではないと思われる。

コンピュータを革命的なものにしているのはその新しさだと 主張する者がいるかもしれない。 だがそのようなテーゼには条件を付ける必要がある。 電子デジタルコンピュータが登場してからもう40年になる。 それどころか、もしそろばんがコンピュータと見なされるのであれば、 コンピュータ・テクノロジーは最古のテクノロジーの一つである。 この主張をもっとうまく述べるには、 コンピュータを革命的なものにしているのは、 最近のコンピュータ工学の発展だと言えばよい。 明らかに、コンピュータはここ40年のあいだに大きく進歩した。 コンピュータの速度とメモリが劇的に増大したのと平行して、 コンピュータの大きさも劇的に減少した。 コンピュータ製造者がよく指摘するのは、 今日のデスクトップ・コンピュータが、 ほんの二、三十年前に部屋を占領していた巨大コンピュータのスペックを上回っている ということである。 また、コンピュータ会社は意を決して、 コンピュータ・ハードウェアとコンピュータ・ソフトウェアを より使いやすくしようと努力している。 コンピュータは完全にユーザ・フレンドリとは言えないかもしれないが、 少なくともかなりユーザ・フレンドリにはなった。 しかし、これらの特徴がいかに重要であるとはいえ、 それらがコンピュータ革命の核心を突いているとは思われない。 小型で、速く、強力で、使いやすい電動缶切りは初期の缶切りに比べれば 大きな進歩であるが、 しかし電動缶切りはここで用いられている意味では革命的とは言えないのである。

もちろんコンピュータがたくさんあり、より安価で、 より小型で、より速く、より強力で、 よりユーザ・フレンドリであることは重要である。 しかしこれらの特徴は、 コンピュータ革命の普及を可能にする条件として役目を果たすのである。 コンピュータ革命の本質は、 コンピュータそのものが持つ性質に見出される。 コンピュータの革命的な点は、 論理的適応性 logical malleability である。コンピュータの論理的適応性とは、 コンピュータは、 入力と出力および両者を結合する論理的操作によって 特徴づけられる活動のあらゆる形態に応じて作られうるということである。 論理的操作とは、コンピュータを一つの状態から次の状態にする 正確に定義された手順のことである。 コンピュータの論理は、 ハードウェアやソフトウェアの変更によって、 無限の仕方で伝達し作り出すことができる。 ちょうど蒸気エンジンの力が産業革命の原材料だったように、 コンピュータの論理はコンピュータ革命の原材料なのである。 論理はどこにでも適用されるので、 コンピュータ・テクノロジーの潜在的な適用方法は無限にあると思われる。 コンピュータは万能道具にもっとも近いものである。 実際、コンピュータの限界はわれわれ自身の創造力の限界に負うところが大きい。 コンピュータ革命を推進させている問いは、 「コンピュータの論理をわれわれの目的により役立つようにするには、 どのようにしたらいいか」というものである。

論理的適応性は、 コンピュータがすでに広範に用いられていることを説明し、また、 コンピュータが持つ運命にある巨大なインパクトをも示唆すると思われる。 コンピュータの論理的適応性を理解することが、 進行中の技術革命の力を理解するためには不可欠である。 論理的適応性を理解することはまた、 コンピュータを使用するための指針を定めるさいにも重要となる。 これ以外の仕方でのコンピュータ理解は、 行動指針の定式化と正当化の基礎としてはあまり役に立たない。

よく知られている別のコンピュータ理解を考えてみよう。 この理解によると、 コンピュータは数値計算屋すなわち本質的には計算装置だとみなされる。 この理解によれば、コンピュータは大きな計算機でしかない。 この見地からすると、 数学や科学的な使用の方がワードプロセッシングのような非数値的使用よりも 重要だと主張されるかもしれない。 それに対して、わたしの立場は、 コンピュータは論理的適応性を持つというものである。 数学的解釈はたしかに間違いではないが、 しかしそれは多くの解釈の一つに過ぎない。 論理的適応性は統語論的次元と意味論的次元を持っている。 統語論的には、コンピュータの論理は、 とりうる状態および操作の数と種類の点で適応性を持つ。 意味論的には、コンピュータの論理は、 コンピュータの状態があらゆるものを表わしうるという点で適応性を持つ。 コンピュータは記号を操作するが、 記号が何を表わしているかについては無関心である。 したがって、 非数値的使用よりも数値的使用の方を優先するための存在論的基礎はないのである。

たしかにコンピュータは、非常に低いレべルにおいてさえ、 数学的言語を用いて記述されうるが、 だからといってコンピュータが本質的に数値的なものであることにはならない。 たとえば機械語は0と1によって表現すると便利で、 またそうするのが伝統的である。 しかし、0や1は単に異なる物理的状態を指し示しているにすぎない。 これらの状態を「入」と「切」あるいは「陰」と「陽」と命名し、 二値論理を適用することもできるのである。 明らかに、いくつかのレベルにおいては、 コンピュータの演算を記述するのに数学的な記号を用いた方が便利であり、 またそうすることが理に適っていると言える。 誤っているのは、数学的記号をコンピュータの本質として理解し、 この理解に基づいてコンピュータの適切な用い方についての判断を 下そうとすることである。

一般に、われわれのコンピュータ・テクノロジー理解は、 それを使用するための指針に影響を与える。 コンピュータ・テクノロジーの本質とインパクトを正しく理解することは、 コンピュータ革命が進展するにつれてますます重要になると思われる。

3 コンピュータ革命の分析

コンピュータ革命は進行中であるため、その発展の全体像を捉えることは 難しい。産業革命を眺めることで、技術革命の本質についていくらかの洞察を えることができると思われる。大ざっぱに言うと、英国の産業革命には二つの 主要な段階があった。第一段階は技術の導入段階であり、これが起きたのは18 世紀後半のことである。この段階では発明や製法が導入され、試験され、改良 された。産業化がなされたのは、経済の限られた領域においてであり、とりわ け農業と繊維業においてであった。第二段階は技術の普及段階であり、これは 19世紀のことである。工場労働が増え都市人口が膨らむにつれ、名高い社会的 害悪が生まれたばかりでなく、人間の営みと制度においても同じくらい重要な 変化---労働組合から公共医療サービスに至るまでの多様な変化---が起きた。産 業化の力が社会を劇的に変質させたのである。

わたしの推測では、コンピュータ革命はこれと似た二段階の発展を遂げる であろう。第一段階である導入段階は、ここ40年のあいだずっと続いてきた。 電子計算機が作られ、洗練され続けてきた。われわれは次第に第二段階に --- す なわち、社会の全体にわたって、コンピュータ・テクノロジーが制度にとって なくてはならない部分となる普及段階に --- 入りつつある。きたる数十年のあい だに、人間の活動と社会制度の多くがコンピュータ・テクノロジーによって変 質させられるだろう。コンピュータ化によるこの変質作用によって、コンピュー タ倫理学が扱うべきさまざまな問題が生じるものと思われる。

「変質する」という言葉によってわたしが意味するのは、《活動や制度の 基本的な性質ないし目的が変化する》ということである。これは、質問される 問いの種類によって見分けがつく。導入段階では、コンピュータは通常の仕事 をするための道具として理解される。この段階での典型的な問いは、「コン ピュータはかれこれの活動をどの程度うまくやるのか」である。その後、普 及段階に入ると、コンピュータは当の活動にとってなくてはならない部分とな る。この段階での典型的な問いは、「かれこれの活動の本質と価値は何である のか」である。質問される問いの種類によって見分けられるコンピュータ化 による変質作用の兆候が、われわれの社会にはすでにいくらか現われている。

たとえば、もう何年ものあいだ、コンピュータは投票数を集計するのに利 用されてきた。今や投票の過程は高度にコンピュータ化されている。コンピュー タは投票数を集計したり結果を予測するのに使用されうる。テレビ・ネットワー クは、コンピュータを用いて誰が勝っているかを即座にわりだし、その結果を 技術的に驚くばかりの仕方で表示する。先の米国大統領戦(1984年)では、テレ ビ・ネットワークが結果の予測を出したのは、カリフォルニアでの投票が終了 する前であるばかりか、ニューヨークでの投票が終了する前でもあった。実際、 半分以上の州においてはまだ投票が終わっていなかったときに勝者が発表され たのである。質問されるべき問いはもはや、「コンピュータは公平な選挙にお いてどれだけ能率的に投票数を集計できるか」ではなく、「公平な選挙とは 何か」である。投票をする前に結果を知る人がいるというのは適切なことな のだろうか 問題はコンピュータが各候補者の得票数を一覧表にするばかり でなく投票数やその配分にも影響を与える可能性が高いということである。よ かれあしかれ、われわれの選挙の過程は変質しつつある。

コンピュータが社会にますます普及するにつれて、コンピュータが基本的 な制度や実践にもたらす変質作用を、われわれはますます目の当たりにするこ とになるだろう。コンピュータ化されたわれわれの社会が今から50年後にどう なっているかは誰にもはっきりとはわからないが、日々の仕事のさまざまな側 面が変質されるだろうと考えるのはもっともである。コンピュータはもう何年 ものあいだ企業によって使用されており、たとえば給与支払総額を計算するな どの機械的な仕事を迅速にこなしてきた。しかし、パソコンが普及し経営陣が 自宅で仕事できるようになるにつれ、またロボットたちがますます多くの工場 労働を行なうようになるにつれ、「コンピュータはどのぐらいわれわれの仕事 に役立つか」という問いだけでなく、「この仕事の本質は何か」という問い も提起されるようになるであろう。

伝統的な労働はもはや特定の時間や特定の場所で普段行なわれるものとは 定義されなくなるかもしれない。われわれの労働は、仕事をするというよりも、 コンピュータに仕事を教えるというものになるかもしれない。労働の概念が変 わり始めると、古い概念と結びついていた価値観も再考される必要が生じる。 自宅のコンピュータ端末に向かって働く経営者は、同僚との自然な交流をいく らか失なうだろう。ボタンを押してロボットに指示を出す工場労働者は、完成 品に対してあまり誇りを抱かなくなるだろう。また、これと似た影響がほかの 種類の労働においても予想される。商業パイロットはコンピュータが自分の飛 行機を操縦するのを見て、自分の仕事が予想していたものとは違うと感じるか もしれない。

コンピュータ・テクノロジーによる変質作用のさらなる例は、金融制度に おいて見いだされる。資金の運用と保管がますますコンピュータ化されるにつ れ、「コンピュータはどれくらい上手にお金を数えられるか」と問われるだけ でなく、「お金とは何か」とも問われるようになるだろう。たとえば、何かを 買った時点で自分の口座から電子的に引き落しがなされるキャッシュレス社会 においては、コンピュータによる記録の方が便利だということでお金は消滅し たのか、それとも電子的インパルスがお金になったのだろうか。 お金がさわれ ないものになったとき、いかなる機会と価値が失なわれたのか、あるいは得ら れたのか。

コンピュータによる変質作用がもたらされそうなさらに別の領域は、教育 である。現在、コンピュータの教育ソフトはかなり限定されている。今日、 「コンピュータでどのぐらいよく教育を行なえるのか」と問うことはまった くもって適切である。しかし、先生と生徒がコンピュータ・ネットワークを通 じて間接的に情報をやりとりする機会がますます増えるにつれ、またコンピュー タが機械的な教育活動を引き受けることがますます多くなるにつれ、問いが 「教育とは何か」というものに変わることは避けられないであろう。伝統的 な教育方法と結びついていた価値観についても再考を迫られるであろう。人と ふれあうことは学習のためにどれだけ必要あるいは望ましいのか 授業はコン ピュータがするとき、教育とは何であるのか。

このように未来について論じるポイントは、コンピュータ・テクノロジー がもたらすであろうインパクトを示唆することである。細かい点がどうなるか はわからないが、わたしが示唆しているような変質が起こることは間違いない と思われる。コンピュータ倫理学の実践的な重要性を主張するわたしの議論を 支持するためには、それさえ言えれば十分である。まとめると、議論は次のよ うになる。コンピュータの革命的特徴は、その論理的適応性である。論理的適 応性は、コンピュータ・テクノロジーが大規模に使用されることを保証する。 これによってコンピュータ革命がもたらされる。コンピュータ革命のあいだに、 人間の活動と社会制度の多くは変質する。こうした変質によって、コンピュー タ・テクノロジーをどう使用するかについての指針および概念の空白が生じる。 そのような指針および概念の空白は、コンピュータ倫理学の基本問題のしるし である。したがって、コンピュータ倫理学は実質的な実践的重要性を持った分 野である。

コンピュータ倫理学の実践的価値を支持するこの議論には説得力があると わたしは思う。この議論は、コンピュータ倫理学がわれわれの社会においてま すます用いられるようになることを示していると思われる。この議論はたしか に、みなが共有しているとは言えないコンピュータ革命像に基づいている。そ こでわたしは次に、コンピュータ倫理学の実践的重要性を支持する別の議論を 提示するが、こちらはコンピュータ革命についての特定の見解には基づいてい ない。この議論は不可視性要因invisibility factorに基づいており、今日の コンピュータ倫理学が直面するいくつかの倫理的問題を示唆するものである。

4 不可視性要因

コンピュータに関してある重要な事実がある。たいていの場合、またたい ていの状況下では、コンピュータの動作は不可視である。コンピュータの入力 と出力についてはよく知っていても、内部での処理作業についてはただぼんや りとしか知らないということはままあることである。しばしばこの不可視性要 因によって、コンピュータ・テクノロジーの使用法に関する指針の空白が生み 出される。以下では、倫理的な重要性を持ちうる三種類の不可視性について論 じる。

倫理的な重要性を持つもっとも明白な種類の不可視性は、不可視性の悪用 である。 不可視性の悪用 invisible abuseとは、コンピュータの動作が不可 視であることを故意に利用して、反倫理的な行動に携わることである。これの 古典的な例は、銀行から余分な利子を盗めることに気づいたあるプログラマー の事例である。銀行口座の利子が算出されるとき、端数を切りすてた後にしば しば1セントよりも小さな余りが出る。このプログラマーはコンピュータを操 作して、こうした1セントより小さな余りが自分の口座に入るようにしたので ある。これはたしかに通常の窃盗の一例であるが、コンピュータ倫理学に深く 関係すると言える。というのは、この事例においてはコンピュータ・テクノロ ジーが本質的に関係しており、またこのような悪用をもっともよく探知し防止 するためにはどういう指針を打ち出すべきかという問いが存在するからである。 利子を盗むために使われるプログラムを手に入れるか、あるいは洗練された会 計プログラムを手に入れるかしないかぎり、こうした活動は気づかれないまま になってしまうことが多いだろう。

不可視性の悪用の別の可能性は、他人の所有権やプライバシーの侵害行為である。 コンピュータにプログラムすれば、 電話回線を通じて他のコンピュータと交信し、 内密の情報を不正に削除したり変更したりすることができる。 これを行なうために、 安価なコンピュータと電話用コンセントさえあれば十分な場合もある。 ミルウォーキーの電話交換局の番号にちなんで「414s」と名乗った十代の集団が、 自宅のコンピュータを使ってニューヨーク病院、カリフォルニア銀行、 政府の核兵器研究所に侵入した。 これらの不法侵入はいたずらとしてなされたものであるが、 このような侵入が悪意からもなされうることは明らかであり、 侵入を探知するのは困難であるか不可能に近い。

不可視性の悪用でとりわけ油断のならない例は、 コンピュータを監視用に使うことである。 たとえば会社の中央コンピュータは、 コンピュータ端末でなされる作業を監視するさいに、 労働搾取工場の一番熱心な経営者よりもはるかに手際よく、 しかもはるかに慎重に監視を行なうことができる。 またコンピュータにプログラムすれば、 盗聴している証拠を一切与えることなく、 電話や電子メイルでのやりとりを監視することができる。 たとえばあるテキサスの石油会社は、 アラスカ州の権利貸与の入札でいつも負けてしまうのはどうしてかと 頭を悩ませていたところ、 アラスカにある会社のコンピュータ端末付近のデータ伝達回線を 他の入札者が盗聴していることが判明したのである。

第二の種類の不可視性要因は、プログラム内にある不可視的な価値観の存在であり、 これは第一のものと比べてより難解かつ概念的に興味深いものである。 プログラム内の不可視的な価値観 invisible programming valuesとは、 コンピュータ・プログラムの奥深くに埋めこまれている価値観のことである。

コンピュータ・プログラムを書くことは家を建てることに似ている。 設計明細書がどれほど詳しいものであっても、 指定されていない事柄について数多くの決断を下さなければ 建築家は家を建てることができない。 所定の設計明細書に従っていてもさまざまな家が作られうる。 それと同様に、 コンピュータ・プログラムの依頼は、 実際のプログラム言語の委細に比べると、 はるかに抽象的であることが普通である。 そこで、スペックを満たすプログラムを作るために、 プログラマーは何が重要で何が重要でないかについて いくつかの価値判断を下すことになる。 こうした価値観は完成した製品の奥深くに埋めこまれているので、 プログラムを実行する人には不可視であるかもしれない。

たとえばコンピュータ化された航空便の座席予約について考えてみよう。 予約サービスを行なうために、多くの異なるプログラムを作ることができるだろう。 以前、アメリカン航空は「SABRE」と呼ばれるサービスの促進に努めていた。 このプログラムはアメリカン航空の航空便をひいきするように作られていたので、 アメリカン航空の航空便が利用可能な最善のものではない場合にさえ、 この航空会社の航空便が勧められることがあった。 実際、しばらく破産状態になったブラニフ航空は、 アメリカン航空を相手どって訴訟を起こし、 予約サービスにおけるこの種のひいきのせいで 会社が経済的困難に陥ったのだと主張した。

ひいきがかった予約サービスが一般的に用いられることは 倫理的な問題を生みだすが、 そのようなサービスを作るプログラマーは不可視性の悪用に かかわっていることもあれば、そうでないこともあるだろう。 プログラマーが意図するプログラムの使われ方と、 実際の使われ方が異なることもありうる。 さらに、 まったくひいきのない予約サービスのプログラムを作ろうと思っても、 プログラムの動作の仕方についていくつかの選択をしなければならないため、 プログラムにはいくつかの価値判断が入りこんでしまうのである。 航空会社はアルファベット順に表示されるのだろうか。 一度に一つ以上の航空会社が表示されるのだろうか。 希望の時間の直前の航空便も表示されるのだろうか。 希望の時間以降はどのくらいの期間の航空便が表示されるのだろうか。 プログラムを作るときには、 これらの問いに対するなんらかの答を --- 少なくとも暗黙のうちに --- 出さなければならない。 どのような答が選ばれるにせよ、 プログラムには特定の価値観が埋めこまれるのである。

プログラム内の不可視的な価値観があまりに不可視であるために、 プログラマーでさえそれに気づかない場合もある。 プログラムにはバグがあるかもしれないし、 緊急事態が生じるまでは表に出ないような暗黙の前提があるかもしれない。 たとえば、不幸なスリーマイル島の原子力発電所の技師たちは、 他の誤作動によって引き起こされる誤作動も含め、 起こりうる誤作動をシミュレートするようにプログラムされたコンピュータを用いて訓練を受けていた。 しかし、災害を調査したケメニー委員会が発見したように、 シミュレーターは、同時に起きる相互に無関係な誤作動を発生させるようには プログラムされていなかった。 スリーマイル島で起きた実際の事件では、 技師たちはまさにこの状況 --- 同時に起きる相互に無関係な誤作動 --- に直面したのである。 コンピュータ・シミュレーションの不十分さは、 プログラミング中になした決断の結果であり、 その決断がいかに無意識で暗黙のうちになされたものであろうと そのことに変わりはない。 災害のあとまもなく、コンピュータはプログラムされ直し、 スリーマイル島で実際に起こったものと同様な状況を シミュレートできるようになった。

第三の種類の不可視性要因は、 不可視的な複雑な計算 invisible complex calculationであり、 おそらくこれがもっともやっかいである。 今日のコンピュータは、人知を超えた膨大な計算を行なうことができる。 たとえプログラムが理解できたとしても、 そのプログラムに基づいた計算が理解できるとは限らない。 今日のコンピュータは、 人間が確認したり理解したりするにはあまりに複雑な計算を行なう。 未来のスーパーコンピュータについては言うまでもない。

そのような複雑な計算の興味深い一例が現われたのは1976年のことで、 コンピュータが四色問題に取り組んだときのことである。 四色問題とは、数学者たちが一世紀以上にわたって取り組んできた問題で、 《となりあったいかなる領域も同じ色にならないように、 四色以内である地図をぬり分けることが可能なことを示せ》 という問題である。 イリノイ大学の数学者たちは、この問題を数千もの事例に分割し、 コンピュータをプログラムしてそれらの事例を考えさせた。 さまざまなコンピュータを用いてコンピュータ時間で一千時間以上考えさせた結果、 四色でぬり分けられるという推測が正しいことが証明された。 伝統的な証明と比べてこの数学的証明のおもしろいところは、 証明の大部分が不可視だということである。 証明の一般的構造は知られておりプログラム中にも見いだされる。 また、コンピュータの活動のどの特定の部分にしても検討可能である。 しかし、実際的に言って計算はあまりに膨大なので、 人間がそのすべてを検討することは不可能なのだ。

問題は、 コンピュータによる不可視的な計算をどの程度信用すべきかである。 これは帰結の重要度が増すに従って重大な倫理的問題になる。 たとえば軍隊では核兵器を発射する決断を下すためにコンピュータが用いられる。 一方で、コンピュータは誤ちを犯す可能性があるが、 コンピュータによる状況評価の正しさを確認する時間はないかもしれない。 他方で、コンピュータを用いずに核兵器発射の決断を下すのは、 いっそう誤ちを犯す可能性が高く、いっそう危険である。 不可視的な計算を信用することに関する指針はいかなるものであるべきか。

不可視性問題の部分的な解決策は、コンピュータ自体に備わっているのかもしれない。 コンピュータの長所の一つは、隠れた情報を見つけだし、それを表示する能力である。 コンピュータは不可視的なものを可視的にする。 データの海に消えた情報は、 適切なコンピュータ分析を行なえば、 はっきりとその姿を現わすだろう。 しかしここに落し穴がある。 コンピュータの注意をいつ、どこに、どのようにして向けるべきか、 われわれは常にわかっているわけではないのだ。

不可視性要因によってわれわれはディレンマに直面する。 ある意味で、われわれはコンピュータの動作が不可視であることに満足している。 われわれは、 コンピュータ化された処理を逐一調査したり、 各ステップを自分自身でプログラムしたり、 コンピュータが行なう計算のすべてを見たりしたいとは思わない。 能率の点から言えば、不可視性要因は天の恵みである。 しかし、まさにこの不可視性がわれわれをあやうくするのである。 われわれは、 不可視性の悪用、不適切な価値の不可視的なプログラミング、 不可視的な誤計算などによる被害を受ける可能性がある。 コンピュータ倫理学に求められているのは、 このディレンマを切り抜けるのに役立つ指針を定式化することである。 われわれは、いつコンピュータを信用し、いつ信用しないかを決めなくてはならない。 これがコンピュータ倫理学がきわめて重要であるもう一つの理由である。


目次に戻る