本論文の目的は、アメリカ計算機学会(Association for Computing Machinery、コンピュータの専門家が作る組織としては合衆国内では最大である団体)が採用している倫理綱領(以下、ACM綱領)の中身とその実際の適用例を、二つの論文(『ACM倫理綱領と専門家の行動』1、『ACM綱領の適用』2)を要約する形で紹介し、コンピュータの専門家というものが存在するならば、そうした専門家が守るべき倫理というものを考える上での手がかりを与えることにある。但し、箇所によっては(ケーススタディーにおいて綱領を適用する箇所には)、全訳を施す。
専門家の集団にとって倫理綱領とは、自分のたちの専門家としての地位を確立させ、あるいは公衆に対して、自分たちが自己規制できるということを示すものである。しかし、この自己規制をどのように捉えるかによって、異なった倫理綱領が生じる。1972年に採用された最初のACM綱領は、自己規制を、メンバーの非倫理的な行為を妨げるものとして捉えた。したがって、綱領は、考えうる違反を列挙し、そのような違反に対して制裁を加えると脅すものであった。しかし、そのような押しつけによる自己規制は上手く行かなかったので、1992年に採用された最新のACM綱領は、自己規制を、メンバー自身が倫理的な振る舞いをすることに同意し、それを約束することを通じて果たされるものとして捉えた。したがって、その綱領は、メンバーが同意し、約束する一連のことを具体化したものであった。つまり、最新の倫理綱領は、強制的な応諾よりも、社会化や教育を強調した。
こうした新しいACM綱領(以下、ACM綱領という場合には、1992年のものを指すこととする。)には主に次の二つの機能がある。一つ目には、社会に対して専門家としての責任が明らかとなり、公衆に対して貢献するということである。そして、その対価として、公衆の信用が得られることになる。二つ目には、個人の意志決定を助けるということであり、これこそが、ACM綱領の最も重要な機能である。そこで、これについて、ACM綱領の実際の内容を概観した後に、具体的な事例を通じて次に考察する。
ACM綱領は、次の四つの節に分かれている。第一節は、基礎的な倫理的考察の概要を示し、第二節は、それに加えて、更に踏み込んだ専門家の行為の考察の概要を示している。第三節では、指導的な立場にある個人に関係するものが扱われ、第四節では、ACM綱領の応諾を含んだ諸原理が扱われている。綱領は、その中身を説明したガイドラインで補足されている。このような綱領とそれを補足するガイドラインが目指すところは、第一には、上で述べたように、専門的な仕事をする中で倫理的な決定をする場合に、その基礎を与えることである。第二には、違反や専門的な倫理的基準に関する、形式的な不平が価値あるものかを判断する基礎を与えることである。それでは、具体的なケースにおけるACM綱領の適用例を次に見てみたい。
統計のデータベースのプログラマーであるジェーンが、自分の会社から依頼されたプログラムを書くさいに、協力者がくれた、その人のコードの一部と商業用ソフトウェアのコードの一部とを、誰にも知らせずに、文書に明示することもなく、使った場合である。
綱領が、知的財産についての問題を、もっとも明白に扱っているのは、命令1.6の中においてである。すなわち、「知的財産を適切に認めよ・・・具体的に言うと、他人のアイディアや仕事を自分の手柄にするべきではない・・・。」この倫理的な要求は、知的財産権の原理(1.5)を拡張し、明らかに、版権、特許権、商業機密(trade secrets)、ライセンス契約(license agreements)に言及している。これらの制限は、誠実さ(1.3)と、現行の法に従う必要性(2.3)に基づいている。
ジェーンは、専門家の倫理を二つの領域で侵している。すなわち、他人の仕事を認めるということを怠り、また、おそらく版権があるか、別の仕方で法によって保護されている、商業用のパッケージからコードを使ったということである。ジェーンが、ただ自分の協力者のソースコードを見てアイディアを得て、それから自分のプログラムを完成させただけだと想定してみよう。そうしたときにもまだ、彼女には、協力者の手柄を認める義務があるであろうか。私たちは、「ある」と答えるのであり、彼女は、協力者の手柄を文書の中で知らせるべきであった。これは、専門家としての分別の問題である。なぜならば、他人の知的な資料を使うことが、本当にささいなことであるならば、そのときには、おそらく形式的な形で他人の手柄を認める必要はないであろう。
ジェーンが、商業用ソフトウェアのコードを使用したことが適切でなかったのは、彼女がそれを使用する前に、自分の会社がそのソフトウェアのソースコードを使用する権限が与えられているかを調べなかったからである。知的な資料を共有したり、交換したりするのは、一般には望ましいとしても、密売されたソフトウェアを使用することは、明らかに綱領に違反している。
システムの設計者であるダイアンは、従業員の個人データを含むデータベースのシステムを構築するさいに、データの重要性を考えれば、そのシステムをより強力にする必要を感じているのだが、依頼者が、それは予算を超えるという理由で、セキュリティーが低くても予定どおりのシステム構築でいいと言っている場合である。
倫理綱領においては、原理1.7がプライヴァシーを扱い、1.8が信義性を扱う。両者は、完全に関係しているが、プライヴァシーの原理は、ここでは最も明白である。綱領のガイドラインによれば、コンピュータの専門家には、個人についてのデータを、「無権限アクセスや不適切な個人への偶然的な開示から」、無傷な状態のまま保護する義務がある。また、綱領が明示するところによれば、組織の指導者には、「システムが、個人のプライヴァシーを守り、個人の尊厳を高めるように設計され、実施されていることを確かめる」(3.5)という義務と、システムによって影響されるすべての人々の要求を査定する(3.4)という義務がある。
会社のオフィシャルには、自分たちの従業員のプライヴァシーを守る義務があり、それゆえ、不適切なセキュリティーを受け入れるべきではない。ダイアンの最初の義務は、会社のオフィシャルを教育するように試みるということである。これは、「コンピュータを扱うことと、その結果に対する一般の理解」を促進するという命令2.7によって暗示されている。もしそれが失敗したならば、そのときには、ダイアンは、割り当てられた責任を尊重するという命令2.6のもとで注意されているように、自分の契約上の義務を考慮する必要がある。私たちは、ダイアンの契約の詳細については知らないが、彼女は、自分の契約と、プライヴァシーと信義性を尊重するという義務との間で選択を行わなければならないかもしれない。
マックスは、政府のある仕事をするさいに、その仕事には、個人を同定できるようなデータは必要でないにもかかわらず、政府からそのような必要以上のデータへのアクセスも許され、それを自分のオフィスのコンピュータにダウンロードし、更に、家で仕事をするためにそれをコピーして持ち帰り、そこに置き忘れた場合である。
このシナリオは、プライヴァシーを考慮することについて扱った一つ前のシナリオと似ている。しかしながら、いくつかの論点を追加的に浮かび上がらせる。倫理綱領からは、プライヴァシーに関しての原理1.7と、信義性に関しての1.8とがあてはまる。アクセスを、権限が与えられた状況に制限するということに関しての命令2.8もまた、この種の状況の中で、コンピュータの使用者が決定するときに中心をしめる。更に、綱領が明示するところによれば、組織の指導者には、「システムが、個人のプライヴァシーを守り、個人の尊厳を高めるように設計され、実施されていることを確かめる」(3.5)という義務がある。そして、綱領はまた、組織の指導者たちは、組織の資源の適切で権限が与えられた利用について明記するべきである、と述べている。
政府機関は、自分の依頼者のアイデンティティーを守る方針と手続きとを持っているべきであった。マックスの親類や友達が、偶然にファイルを発見し、情報を不適切に使って依頼者の名声を傷つけるかもしれない。マックスが自分のレポートを作成するために使ったファイルには、個人を容易に同定することを可能ならしめるような、名前やその他の情報がレコードの中に含まれている必要はなかった。政府機関は、個人を同定できる情報をファイルから取り除いた後に、マックスにそのファイルの使用を許すべきであった。もし、この手続きがとられていれば、マックスがファイルを自分のコンピュータにコピーしたということは問題とならなかったであろう。したがって、組織的な文脈が、マックスに対して多くの倫理的な問題を引き起こしたのだが、不幸なことに、マックスは、これらの倫理的な問題に、これ以前には注意を向けてこなかった。
納税者の負担がかなり軽減するような、より効果的な会計システムを構築するように政府から依頼されたさいに、局長だけが出来上がったシステムを見て、それに同意しただけであった。そして、そのシステムが実際に導入された後にはじめて、職員からそのインターフェイスの使いにくさを指摘され、それを聞いた上層部の経営者によって、そのシステムの導入が反対され、もとのシステムに戻された場合である。
倫理綱領が主張するには、コンピュータの専門家は、「過程と成果の両方において最高の品質を獲得するように努力する」(2.1)。命令3.4は、使用者(users)とシステムによって影響を受けるであろう人々のニーズが、はっきりと表現されるように苦心している。
私たちの推測によれば、このケースにおいて、良質の生産物を引き渡すことができなかったのは、良質の手続きをとらなかったことに直接の原因があるように思われる。おそらく、インターフェイスに関してのほとんどの問題は、同僚か、使用者(users)による検閲過程の中で発見されていたであろう。そしてこのことは、命令2.4によって促進されている。もし危害が結果として生じるときには、この場合には納税者に対してだが、良質の手続きの実施を怠ることは、倫理的な振る舞いに明らかに違反する。
雇用者を決めるときに使われる情報システムを、ある仕事の条件を満たした志願者のうち、白人の名前と男性の名前が、白人以外の名前と女性の名前よりも上にくるように、設計するように依頼された場合である。
公正さに関しての一般的な道徳的命令にしたがえば、ACMメンバーは、「公平であり、差別待遇がないように処置する」であろう。このケースにおいては、システムの設計者は、白人の男性をえこひいきして、白人以外の人々と女性に対して差別待遇をするために使われると思われるような、システムを作るように求めれている。システムの設計者は、単純に、言われたままに作るのではなく、要求されていることには問題があることを指摘し、依頼者になぜそのようなことがなされるのかを尋ねるべきである。こうした調査を行うことは、2.3(現行の法を尊重する)と2.5(徹底的な評価を与える)と4.1(倫理綱領を是認し、促進する)ということと整合的である。
もし依頼者が、自分は情報を白人の男性をえこひいきするために使う計画であると述べたならば、そのときには、コンピュータの専門家は、提案されたようにシステムを構築することは断るべきである。そのまま進めて、システムを構築することは、1.4(公正さ)に違反するだけではなく、2.3(現行の法を尊重する)にも違反するであろうし、1.1(人間の幸福)と1.2(危害を避ける)ということとも矛盾するであろう。
新しい税法を組み込んだ会計ソフトウェアを開発したさいに、そこにバグがあることを承知の上で、市場獲得のために、そのソフトウェアの使用によって生じるエラーに対しての責任の否認を明記した上で、そのソフトウェアを売り出す場合である。加えて、そのバグのせいで、多くのユーザーが、不正確な税の申告書を提出し、実際に罰せられた場合である。
ソフトウェア会社、特にその社長は、ACMの倫理綱領の教条のいくつかに違反した。彼は、製品の中のバグに気づいていたので、2.1で要求されている最高の品質を獲得するという努力をしていないことになる。システムの中のバグについて消費者に知らせていないということにより、原理2.5にもまた違反している。
この例においては、ユーザーが、プログラムに由来するところの、所得税に関する間違いの報いを受けなければならないという点で、彼らのリスクは大きい。会社は法律的には、彼らが「やましくない(in good conscience)」ときにのみ、否認することができる。ここでの否認は、義務2.3に違反するであろうケースであるので、この法の試験に適合しないかもしれない。社長は、自分の組織の指導者として、3.1にも違反している。というのも、彼は、自分のところの職員に彼らの社会的責任を受け入れるように奨励していないからである。
在庫管理システムを請け負った会社の品質保証技師ジェーンが、契約上のあらゆるテストを合格したにもかかわらず、長年の経験から、システムの危険性を心配している場合である。ジェーンは、一方では、早くそのソフトウェアを納品しなければ、自分の会社が廃業すると雇用者からせっつかれ、他方で、危害の切迫度は低いのだが、もしシステムが上手く働かないと、自分たちの依頼者とその従業員たちに深刻な危害を与えるということが分かっているのである。
倫理綱領の中で、義務1.2は、コンピュータの専門家には他人への危害を避けるという責任がある、と強調している。加えて、原理1.1は、人間の幸福に関心を払うように要求している。1.3は、専門家として誠実であるように求め(mandates professional integrity)、そして、2.1は、品質というものは倫理的な責任であると定めている。これらの諸原理は、雇用者と依頼者に対する、従業員の同意と約束とに齟齬をきたす。 綱領の倫理的な義務は、ジェーンが、品質の劣っていると自らが信じているシステムを引き渡すべきでも、あるいは、製品の品質に関して、依頼人を欺くべきでもない、ということを含意している(1.3)。彼女はテストを続けるべきだが、自分がシステムに署名して検査を今すぐ終えないと、自分の会社が倒産するであろうと知らされている。少なくとも、依頼者は、彼女が持っている疑念を知らされるべきである。
ソフトウェアのコンサルタントが、市場において入手可能なソフトウェアの中から、自分が主要な株主の一人である会社のソフトウェアを、そのことを知らせずに、勧める場合である。
ガイドラインによれば、義務2.5が意味するところは、コンピュータの専門家は、「システムの説明と代案を評価し、推薦し、そして提示するときには、明敏で、徹底的で、そして客観的であるように努力」しなければならないということである。また、ガイドラインによれば、義務1.3は、コンピュータの専門家は、「利害の衝突へと導くかもしれないいかなる環境」についても誠実でなければならないということを含意している。コンピュータの専門家は、特殊技能を持っているので、自分たちの依頼人が自らの選択肢を十分に知っているということと、専門家の推薦(professional recommendations)が個人的な利益に変わらないということとを保証する責任がある。
生徒が、授業の課題を仕上げるために、指導者に連絡がとれないときに、マスターアカウントにアクセスして、コンピュータの使用割り当て時間を自分で勝手に増やした場合である。
財産権を尊重するという義務(1.5)に違反している。この一般的で、道徳的な義務は、義務2.8につながり、それが明示するところによれば、ACMのメンバーは、「コミュニケーションの資源に、権限が与えられているときにのみ、アクセスする」べきである。2.8に違反することにおいて、生徒はまた、「現行の法を知り、それを尊重する」(2.3)という義務にも違反している。ACMのスチューデントメンバーとして、彼は、自分をコンピュータの専門家としてみなさないとしても、倫理綱領にしたがわなければならない。
以上、見てきたように、コンピュータの専門家は、その現場において、さまざまな倫理的なジレンマに陥る。その際に、ACM綱領は、何をなすべきかを規定しないが、いくつかの決定を受け入れがたいものとして同定する。ACM綱領を実際に適用する際には、その中の諸原理が衝突することもあるが、文言だけにとらわれることなく、その精神をくみとることが大切であり、常により基礎的な原理に戻る必要がある。つまり、コンピュータ倫理に適用される倫理的原理は、より一般的な倫理的原理から導出されるのである。また、実際の適用に際しては、その文脈が重要となってくる。例えば、産業において直面する倫理的な問題と、政府あるいは教育の現場において直面する問題とは異なる。しかし、いずれの場合においても、コンピュータの専門家は、常に、雇用者や依頼者や他の専門家、そして社会に対しての責任のバランスをはからなければならない。そして、上で示したいくつかのケースは、綱領の一般的な原理を使って、そうしたバランスをどのようにはかることができるかを示している。ただ、ケースの状況というのは、無理につくられたものであり、実際の倫理的な決定は、自分が属する制度の中身に依存している。そして、そうした制度、すなわち環境に大きな影響を与えることができるのが、指導的な立場にいる人々である。したがって、指導者には、コンピュータの専門家が倫理的な関心を表現できる風潮、及び職場の環境づくりをすすめるという責任がある。最後に、ACM綱領の今後の課題について若干触れておく。先ず、ガイドラインにおいても、ケーススタディーにおいても、取り扱われていない倫理上の問題を取りあげなければならない。例えば、コンピュータの分野での研究に要求される特殊な誠実さや、専門的な発達を維持するための特別の提案といった問題である。次に、ソフトウェアの著作権侵害の問題のように、取り扱われてはいるが、コンピュータの分野においては十分に詳述されていない問題や、あるいは、まだ予想されていない問題に対処していかなければならない。そこで、ガイドラインを新しくするだけではなく、コンピュータの専門家の倫理的決定の典型的なケースをもっと取りあげ、それを解釈する必要がある。また、コンピュータに関して特別な倫理的状況にいる人々は、そうした状況を私たちや他の人々と共有し、模範的な倫理的決定の話し合いを行い、それに注意を向けさせなければならない。
ACMのメンバーとして、私は、
ACMのコンピュータの専門家として、私は、
ACMのメンバー且つ組織の指導者として、私は、
ACMのメンバーとして、私は、
(深谷 太清)
1 Association for Computing Machinery (ACM). "ACM Code of Ethics and Professional Conduct." in M. David Ermann, Mary B. Williams, and Michele S. Shauf (eds.), Computers, Ethics, and Society, 2nd ed. (New York, Oxford; Oxford UP, 1997.) pp. 314-322.
2 Anderson, Ronald E., Deborah G. Johnson, Donald Gotterbarn, and Judith Perrolle. "Using the ACM Code." in M. David Ermann, Mary B. Williams, and Michele S. Shauf (eds.), Computers, Ethics, and Society, 2nd ed. (New York, Oxford; Oxford UP, 1997.) pp. 323-333.