20 コンピュータシステムの政治とデザインの倫理

フィリップ・ブレイ

出典

Philip Brey, "The Politics of Computer Systems and the Ethics of Design" in Jeroen van den Hoven (ed.), Computer Ethics: Philosophical Enquiry, Department of Philosphy, Erasumus University, 1997.

キーワード

1 概要

コンピュータエシックスは、新しい情報技術の使用や規制および社会的含意につ いての道徳的論点に大いに関わりを持つ。この小論においては、コンピュータシス テムが、政治的含意を持つデザイン特性を含む社会構造として分析される。つまり、 コンピュータシステムに含まれる、使用者に対するバイアスや制約そして情報バイ アスとに分析が行われる。この小論の狙いは、コンピュータシステムのデザインに ついて、その政治的含意を考慮に入れたより包括的な道徳的見地を示すことである。 また、こうしたコンピュータシステムのデザイン特性に関する評価は、ロールズの 道徳理論の枠組みにおいて行われる。

2 導入

コンピュータエシックス研究においては、二つの論点がその課題の中心を占めて いる。つまり、個人行為の道徳性つまり個人道徳と、集合的行為の道徳性つまり社会 道徳とである。前者はハッキングに対する評価、ソフトウェアの著作権侵害、コン ピュータの専門家たちが維持すべき専門家としての水準、そして、彼らが雇用者や 顧客および社会に対して負うべき責任とは何か、といった問題を取り扱う。一方、後 者はプライヴァシーの重要性やそれを保護するための手段、平等なアクセス保障など の問題を取り扱う。 これまでのコンピュータエシックス研究に関しては、コンピュータシステムの デザインに焦点を絞ったものは少なかった上に、デザインに焦点は絞ったとしても視 野の狭いものであった。デザインに焦点を絞った先行研究として、高架橋建設が低所 得者層に与える社会的影響を考察したラングトン・ウィナー(*
Winnner, L. "Do Artifacts have politics?" Daedalus 109, pp.121-136, 1981

*)、法律や社会 ・経済制度、文化に加えて技術をも社会構造と見なすことを提案したリチャード・ス クラブ(*

Sclove, R., Democracy and Technology, Guilford Press, New York, 1995

*)とが挙げられる。ブレイはこうした先行研究を踏まえつつ、コンピュー タシステムのデザインが持つ広範な社会的・政治的含意を考慮しながら、デザイン 特性が社会的不正義や強制的権力関係の形成に寄与してしまうことを論じていく。そ して、コンピュータシステムのデザイン特性を評価する際の枠組みは、ロールズ派 の社会倫理学理論である。

3 社会構造と基本財

先に述べたように、デザイン特性の道徳的評価をロールズ派の道徳理論の枠組みを 用いて行うので、まずロールズ正義論の概略が示される。周知のようにロールズ (*
Rawls, J. A, Theory of Justice, Cambridge, MA, Harvard University Press, 1971

*)は、社会の基本構造を規制する正義原理として、最大の平等な自由に関 する第一原理、不平等を正当化する二つの条件（万人の利益となる不平等であるこ と、そして公正な機会均等という条件下で万人に開かれた職責に付随する不平等であ ること）からなる第二原理とを提出する。この正義原理に加えて、ブレイが注目して いるのは、誰もが固有の合理的人生計画を遂行する際に必要とする財、すなわち基本 財(primary goods)の平等配分をロールズが主張していることである。 ブレイは、コンピュータシステムにも適用される正義原理として、ロールズの基 本財概念に基づきつつ、ロールズの正義の二原理に加え、新たに自律原理(the principle of autonomy)を提唱する。自律原理は、「社会構造は、現にある知識を考 慮した上で、万人に利用可能な基本財の全体系を最適化するような仕方で配置される べきである。」と定式化される。 コンピュータシステムをも社会構造と見なして、正義原理を適用する必要がある というブレイの考えを支持する議論として、ファン・デン・ホーフェン (*

Hoven, M. van den. Information Technology and Moral Philosophy, dissertation Erasmus University, Rotterdam, The Netherlands, 1995

*)の議論が紹 介される。ファン・デン・ホーフェンは、いまや情報が個人の人生計画の遂行のため の重要な道具としての役割を増しつつあり、情報および情報提供者としてのコン ピュータシステムへのアクセスを、基本財とみなす必要があるのだと論じている。 ブレイはコンピュータシステムを社会構造と見なし、そこに正義原理を適用するこ とで、以下のようなことをコンピュータシステムおよび周囲の社会構造とに要求す る。まず、市民にコンピュータシステムへの平等なアクセスを保証しなければなら ない。また同時にそのアクセスが容易なものでなければならない。更に、潜在的かつ 非意図的なものであろうとも、コンピュータが社会にもたらしうる様々な否定的影 響を最小化するように、コンピュータシステムと周囲の社会構造とが設計されねば ならないのである。

4 コンピュータシステムの政治的人間工学

ブレイの見るところ、コンピュータシステムのデザインを道徳的に評価すること は、道徳理論の役割ではなくて、コンピュータシステムに対する記述的分析の役割 である。技術に対するこうした記述的分析のことを、ラングトン・ウィナー (*
Winner, L. "Political ergonomics" in Buchanan, R. \& Margolin, V., eds., Discovering Design: Explorations in Design Studies, Chicago, University of Chicago Press, 1995

*)は政治的人間工学(political ergonomics)と呼 んでおり、技術に対する政治的人間工学とは、技術装置やシステムが政治社会の質に 与える影響を評価し、技術と社会とのあるべき指針を与えるものである。 ブレイはコンピュータシステムに対して記述的な分析を加えていくのだが、それ に際して二つの理論的想定が置かれる。まずは、コンピュータシステムは社会構造 として理解されうるということ、次に、コンピュータシステムが政治的特質を有す るということ、以上の二つである。ただし、この政治的特質は、コンピュータシス テムがどのように社会システム中に統合されているかということに対して、相対的で あることを注意しておかねばならない。つまり、コンピュータシステムが社会シス テム中に、どのように位置づけられているのかによって、そこから派生する問題のあ りようが変わってくるのである。技術一般（ここではコンピュータシステム）と社 会構造との間に、どのような適合関係があるのか、こうした事実に関する記述的分析 を行った上で、技術に対する倫理的な評価が行われる。以上を踏まえて、コンピュー タシステムのデザイン特性が基本財の分配に対して、どのような仕方で影響を及ぼ しているのかを分析することになる。より具体的には、コンピュータシステムのデ ザイン特性が持つ二つの政治的特質が分析対象となる。第一のものは、ユーザーに影 響を及ぼすバイアスおよび制約、第二のものは、コンピュータシステムに含まれる 機能的バイアスである。

5 ユーザーに対するバイアスとユーザーに対する制約

コンピュータシステムのデザイン特性が、あるユーザーに対して不利な扱いをす る場合に、ユーザーに対するバイアス(User bias)と呼ばれる。また、あらゆるユー ザーの利益に反するデザイン特性が、ユーザーに対する制約(User constraint)と呼 ばれる。

5.1 ユーザーに対するバイアス

ユーザーに対するバイアスとは、特定のユーザーあるいは何らかのカテゴリーに属 するユーザーに不利益を課すところの、デザイン特性である。そして、ユーザー排除 (User exclusion)、ユーザーに対する選択的な負荷(Selective burdening of users)、ユーザーに向けられた情報バイアス(User-directed informational bias)、以上の三つがユーザーに対するバイアスの主要類型である。

ユーザー排除

あるユーザーが、コンピュータシステムを使用するために必要とされる素養や能 力を欠いているために、コンピュータシステムの機能特性のいくつかまたはすべて を利用することから排除される。

ユーザーに対する選択的負荷

あるユーザーが、コンピュータシステムを使用するために必要とされる素養や能 力を欠くために、コンピュータシステムの利用に際して、様々な負担を背負う。 ユーザー排除とユーザーに対する選択的負荷の両者は、理想的で標準的なユーザーと いう範疇から外れている人々に対する不利益である。これらの具体例として、次のよ うな事例が挙げられる。まず、障害者は彼らが有する何らかの身体的・精神的能力不 全のために、コンピュータシステムへのアクセスが不可能である。また、可能で あったとしても多くの負担がかかる。次に、ユーザーの熟練の度合いによっても、コ ンピュータシステムの何らかの機能が利用不能であったり、利用に際して多くの負 担がかかってしまう。さらには、ユーザー本人の事情のみならず、所有しているコン ピュータの外的資源の差異(端的には、ハードウェアやソフトウェアの善し悪し)に よっても、情報アクセスの快適さなどに差がついてしまう。こうしたことが、ユー ザー排除およびユーザーに対する選択的負荷の例である。 いまや社会生活に必須の財である情報を提供するコンピュータシステムが、何ら かの仕方でユーザーを排除し、また負担を課していることを是正するために、先に述 べた自律原理が用いられる。自律原理は、利用可能な基本財の最適化を実現するよう 社会構造が配置されることを要求するものであった。したがって、この原理をコン ピュータシステムに適用すれば、障害を持つ人々にも利用可能なように、コン ピュータシステムが設計されるべきだということになる。理想的には、主流のコン ピュータシステムが障害を持つ人に適応するようにデザインされねばならない。障 害者に完全に適応するデザインが困難であるとしても、使用や情報へのアクセスに伴 う負担を軽減するようデザインされた代替のコンピュータシステムが必要である。 障害の有無、熟練の度合い、所有しているハードウェアの善し悪しに関わらず、コン ピュータシステムへのアクセスが容易なものとなるよう、配慮されねばならないの である。

ユーザーに向けられた情報バイアス

ユーザーの抱いている利害関心と価値観とに、コンピュータシステムの情報が調 和しにくいことがある。つまり、コンピュータシステムの提供する情報が、ある ユーザーにとっては利用価値のないものであり、または必要としている情報とは合致 していない場合である。例として挙げられるのは、教育ソフトや証券・金融の専門家 用システムなどである。ある教育ソフトが、女の子よりも男の子にとってより魅力的 な場合がある。また、競争的な要素をもつ教育ソフトは、往々にして競争を避け協調 行動を促進しようとする文化的背景のもと育った子供に用いられる場合には、価値の ないものである。証券・金融関連システムは、高額投資家により役立つ情報を与え、 わずかばかりの金額しか投入できないものには乏しいアドバイスしか与えないもので ある。

5.2 ユーザーに対する制約

ユーザーの基本財に関して不必要な不便さを課してしまうことなど、あらゆるユー ザーの不利益となるコンピュータシステムの属性が、ユーザーに対する制約(User constraint)である。こうしたバイアスの明白な事例は、ユーザーの健康や安全に影 響を及ぼすものである。こうした明白な制約のみならず、ユーザーの自律性を損ない かねない潜在的制約もある。ユーザーに対する制約は、以下の四つに分類される。

健康や安全に対する危害の存在

勤務中に加え余暇に際しても、多くの人がコンピュータを使う時代であり、その ことに伴う様々な精神的・身体的な負担がある。例えば、キーボードを操作すること で腕や指に痛みが生じたり、ディスプレイを注視することでは眼に多くの負担がかか る。こうした心身の健康・安全に関わる影響を最小化するよう、コンピュータシス テムはデザインされねばならない。

監視機能の存在

経営者、システムオペレータ、同僚などが、あるユーザーのコンピュータ使用 方法やファイルを監視することができるようになっている。監視されることによる影 響は取るに足らない場合もあるが、ユーザーにとって多大なストレスになる場合もあ る。それゆえ、監視機能を内蔵するコンピュータシステムは、道徳的な論議の対象 になる。

依存バイアス

依存バイアスとは、ユーザーがコンピュータを使う際に、専門家やオペレータ からの忠告や情報に依存せざるを得ないことを指す。こうした依存性のために、ユー ザーの自律性が結果として蝕まれてしまう。ユーザーはコンピュータを使う際に、 こうした依存性を実感し、行動に制約を感じざるを得ない。

機械中心性

ブレイは、ドナルド・ノーマン(*
Norman, D., Things that make us smart: Defending human attributes in the age of the machine, Reading, MA, Addison-Wesley, 1993

*)の議論に依拠しつつ、機械中心性を定義する。うまくデザイ ンされたコンピュータシステムは、自分の考えを実行に移すことを可能にするもの として、すなわち自分自身の自然な拡張物としてユーザーに体感される。これに対し て、デザインの出来栄えが悪いコンピュータシステムは、自身に固有の論理を押し 付けてしまう柔軟性に欠ける一個の自律した主体として、ユーザーに体感される。 ノーマンは、前者のコンピュータシステムを人間中心的(human-centered)と呼び、 後者を機械中心的(machine-centered)と呼ぶ。技術的な器具とりわけコンピュータ システムは、人間側に先だって機械側の必要性や特徴を考慮したものであり、また、 機械がユーザーにあわせるよりもむしろユーザーが機械に同調することを求めるデザ インになっている。機械中心的なコンピュータシステムは、操作手順、エラーを含 まないこと、コンピュータにとって有意味な指示といった機械側の論理を、ユー ザーに細々と要求するのである。

6 情報バイアス

コンピュータシステムは情報処理システムであり、その情報に含まれるバイアスが 情報バイアス(Informational bias)である。情報バイアスの一類型には、先に述べた ユーザーに対するバイアスも含まれる。しかし、この節で強調されるバイアスは、 ユーザーよりもむしろコンピュータシステムが扱う情報の利害関係者が対象になる 情報バイアスである。 情報バイアスの発現の仕方に二通りある。例えば視覚化された情報に、何らかの個 人または集団の利益に反する内容が含まれている場合には、情報バイアスとは情報の 中身に含まれるバイアスの結果である。一方で、情報が表示され、蓄積され、伝達さ れる仕方によって、バイアスが引き起こされることもある。情報バイアスのこうした 側面は、構造上の情報バイアス(organized informational bias)と呼ばれる。コン ピュータシステムの二つの類型−データベース型システムと知識ベース型システム −においては、構造上の特性により、少なくとも以下の四つの情報バイアスが存在す る。 第一は、データ選択に関する情報バイアスである。例えば、イエローページのように 代金を支払った事業者の情報しか掲載しない場合、情報の掲載または除去が不公正な ものでありうる。第二に、データを分類したり、ユーザーにデータを表示する際に用 いられるカテゴリーにも、情報バイアスが含まれうる。例えば、インタネット上の レコード業者が、ロックやジャズなどのカテゴリーを採用し、R\&Bというカテゴリー を用いずにレコードを分類するとしよう。すると、R\&Bに分類されるべきレコードは 他に分類されてしまい、その結果、R\&Bを好むユーザーに加え、それを扱う業者にも 不利益がもたらされる。 第三には、情報検索の仕方、マッチング・アルゴリズム、推論規則などに含まれる情 報バイアスがある。依頼者が信用できるか否かを評価する際に、ある民族に固有の姓 に重きを置いて評価するクレジットカードの信用調査システム。アルファベットの早 いほうから始まる名前の飛行機に優先権を与える離陸管理システムなどが、第三の情 報バイアスの例である。第四は、情報の表示に含まれるバイアスである。情報が表示 されるときに、より先に表示されるほうが有利なのは明らかである。確かに、これら の情報バイアスは正義原理を侵害しているというほどのものではないかもしれない。 しかし、コンピュータシステムの情報機能が、ある個人の生活についての重大な影 響をもたらしうる、そういった決定を行う際に用いられるならば、そこに含まれる情 報バイアスは、多大な不正義を引き起こす。こうした場合には当然のことであり、ま たほかの場合においても望まれるのは、コンピュータシステムをデザインするとき に、できうる限り情報バイアスを含まないようにすることである。

7 コンピュータシステムのデザイン責任を再配分すること

コンピュータシステムに含まれるバイアスを深刻に受け止めることは、デザイン のあり方に変化を促すであろう。すると、これまで述べてきたバイアスに関しての倫 理的分析が、デザイナーに対しての一連の道徳命法へとそのまま変換されるのだと考 えられるかもしれない。しかし、次の二つの理由から、こうした考えは事実ではな い。まず、デザインというものがデザイナー個々人の産物であるのはまれなことで あって、通常それはいわゆるデザイン業界の活動の所産である。こうした場合、デザ インについての責任とは、デザイン業界の集合責任(collective responsibility)で ある。集合責任を個人責任へ変換していくのは困難な仕事である。次に、三節で論じ た技術と社会環境との適合関係についてである。社会と技術との間によりよい適合関 係を築こうとするならば、技術を改めること、あるいは技術をとりまく社会構造を改 めること、以上二つの選択肢がある。コンピュータシステムに関して、そのデザイ ンを改めることが道徳的に要請されるかどうかは、二つの選択肢についての道徳的比 較に依存する。以上の理由から、技術に含まれるバイアスについての倫理的分析か ら、個人責任と集合責任とを分配する仕方を、直接導出することはできないのであ る。技術の責任を巡る社会的交渉が民主的な経過をたどって得られた結果に基づい て、責任は分配されるべきである。また、そうすることであらゆる関係当事者にとっ て公正であるような責任分配がもたらされるべきであるし、実用性や効率性さらには 実効性といった基準を満足するような責任分配であるべきだと、ブレイは主張する。

文献

(島内明文)

目次に戻る