Do Androids Dream of Animal Rights?
30 DEC 2015
MICHAEL C. DORF
https://verdict.justia.com/2015/12/30/do-androids-dream-of-animal-rights
今月初め、あるワシントンポストでの遊び心あるストーリーは、いつか人工知能（AI）が米国の大統領になることがあるかどうかという疑問を探るものだった。映画マトリックスやターミネーター、テレビシリーズのギャラクティカ（2000年代半ばの再リブートの方で、酷いオリジナルの方ではない）のようなディストピィックなサイエンス・フィクションのファンは、このような問題について考えていたのは自分たちだけだと思っていたかもしれないが、深い思考家たちは将来機械たちが立ち上がり、我々をみな殺しにするリスクを真剣に捉えているようだ。最近のニューヨーカーの記事において、オックスフォードの哲学者ニック・ボストロム（Nick Bostrom）は、AIは「核兵器さえも含む、これまでのあらゆる技術的脅威を超えた脅威をもたらす可能性があり、その発展を注意深く管理しないと、自分たち自身の絶滅をエンジニアリングすることになりかねない」と懸念している。
これは本当な深刻なことであり、ワシントンポストの記事のタイトルを証明するように思われる：あなたはトランプが不安だろうか？100年後、ロボットは大統領を務めているかもしれない（You’re worried about Trump? In 100 years, robots might be running for president）。
しかし、2001年宇宙の旅のHALのような殺人的なマシンと同時に、時に我々人間自身がするよりも優れたクオリティを示してくれる親切なロボットも見つかる：スタートレックのデータや、The Next Generation、C3PO、R2-D2、そして最近はでスターウォーズの映画に登場したBB-8、ウォーリー、そしてher/世界でひとつの彼女のOS・サマンサ（声はScarlett Johannson）など。
どのビジョンがより正確だろうか？ SiriやGoogleのプロトタイプの自動運転車は、ロボットが良識をもって我々に奉仕する宇宙家族ジェットソンのようにな未来を切り開くだろうか？それともマトリックスのように、彼らのエネルギー需要に間に合わせるために我々を家畜化する未来に導くだろうか？
これはおそらく間違った問いであろう。 魅力的なSFが語ってきたのは、ほぼいつも、そこで想像されている世界よりも、それを生み出した世界のことであった。
たとえば、オリジナルのスタートレックのテレビシリーズは、ベトナム戦争が激化し、米国にとって状態が悪化する直前に生まれた。その展望は概ね晴れやかなものだった。エンタープライズの乗組員は名目上多国籍であった（スポックを含めれば、多惑星であった）が、その展望は米国のイケイケ精神のそれであった。戦いは冷戦をさりげなく隠喩していた（時には暗喩さえ用いてなかった）。対照的に、暗い時代は暗いSFをもたらす。 例えば、サイロンの拷問を取り上げたギャラクティカの初期のエピソードは、明らかにアブグレイブを想起するものだった。
新たにAIの未来に対して当てた、シリアスな焦点やポップカルチャーの焦点は、現在について何を教えてくれるだろうか？部分的には、真のAIは遠い先であるが、音声認識や人工発話などの能力は、機械は単にプログラムを実行しているだけであることを時々忘れてしまうほどの点まで改善されているという事実を単純に反映するものかもしれない。未来のAIを想像するのは、これまでにないほど容易になった。
しかし、AIの議論の本質を探ることは、予期せぬことを明らかにする。その観点は、今ここに存在するものたち、すなわちヒトでない動物についての考え方に重要な含みを持っている。
ロボットの権利と動物の権利の間のリンクの表れ
AIとアニマルライツとの関係は意外なものかもしれないが、それは現実的で積年のものである。ジャーナリストのフィリップ・バンプ（Philip Bump）は、ワシントン・ポストの大統領を務めるロボットに関する記事を書く上で、3人の弁護士にコメントを求めた。ペース・ローの教授デイビット・キャスート（David Cassuto）、ノンヒューマン・ライツ・プロジェクトの代表スティーヴン・ワイズ（Steven Wise）、そして私である。ユーモアへの意欲（そしておそらくスポットライトを好むこと）に加えて、キャスート、ワイズ、そして私は重要な特徴を共有している。つまり、ヒトはヒト以外の動物との関係においてひどく不公平に振舞っていると信じているビーガンであることだ。
我々一人ひとりがバンプに説明したように、あるものが、尊厳をもって扱われる――何かではなく誰かとして扱われる――べきであるかどうかということは、それがホモ・サピエンスという種の一員であるかどうかということと無関係でなければならない。バンプが、権利は機械的存在にまで拡張されるべきという提言を擁護するために人を探した結果、権利をヒト以外の動物にまで広げるべきだと考えている3人を発見したことは驚くべきことではない。
SF小説の作家にとっては、ロボットライツとアニマルライツとのつながりはよく理解できるものだ。たとえば、1968年のフィリップ・K・ディック（Philip K. Dick）の小説、『アンドロイドは電気羊の夢を見るか？』（映画ブレード・ランナーの原作となった）は、荒廃した惑星地球の上でのヒトとアンドロイドとの間の争いの中で、人間であるとは何を意味するのかという疑問を提起する。管理している人間たちは、その鍵は共感を感じる能力であると信じている。これは、本の中のアンドロイドに欠けている能力である。驚くべきことに、対象がアンドロイドであるかどうかを判定するためのテストは、誕生日プレゼントとしてのカーフスキン（子牛の皮）の財布を受け取るという話に対する対象の反応を見ることだ。共感的な人間によって感じられるが、無情なアンドロイドには見られない正しい反応は、赤ちゃんの牛を殺害し搾取することへの恐怖と嫌悪感を示すものだ。
アニマルライツのテーマの表れは、他の人気の高いSFでも見られる。E.T. はロボットではなく地球外生命体の物語であるが、SFではエイリアンとロボットはおおむね同じような領域を占めている。特に、天使のようなE.T.の神秘的だが良性のテレパシーの影響の下で、エリオットと彼の仲間の学生は、理科の授業で殺される予定だったカエルを解放する。宇宙人や感覚を持つロボットであろうと、他の存在に共感する能力は、より一般的に、人種や宗教の異なる人々であろうと、あるいは種の異なる有感動物だろうと、相手と共感する能力と結びついている。
人工知能から人工知覚へ
AIとアニマルライツとの関係は単なる感傷的なものではない。それはAI自体の議論の中心を貫通している。
最も進んだ最新技術であっても、人工知能には足りていない。それを達成したとき、我々はどうしたらそれが分かるだろうか？ 広く議論されている（同時に広く批判されている）判定法の1つは、英国の先駆的なコンピュータ科学者、アラン・チューリング（Alan Turing）の名を冠した「チューリングテスト」である。彼は、人間の対話者の質問に答えるコンピュータの解答を、人がコンピュータのものか他の人間のものであるかを言い当てることができないなら、そのコンピュータは知性を持つと称されるべきであると提案した。
哲学者ジョン・サール（John Searle）は、仮説的な問題に基づいてチューリングテストへの有名な批判を提案した。あなたは中国語で書かれた質問を解読し、それに対し中国語で解答することを可能にする非常に大きなコードブックが置いてある部屋にいるとしよう。すると、あなたは中国語の話し手と筆談することができるようになる。サールは、あなたが中国語を話す方法を知らなくとも、それを行えるだろうと主張した（あなたが実際に中国語を知らないと仮定している）。サールは同様にプログラムを実行するだけのコンピュータ――非常に複雑なコードブック――は、自分が何をしているのか「知らない」と強く主張した。したがって、たとえプログラミングされたコンピュータが、対話者にコンピュータが何かではなく「誰か」であると信じ込ませるよう欺くことができたとしても、実際にはそこには誰もいない。「中国語の部屋」に中国語の話者がいないのと同様に、コンピュータの内部には、意識は存在していない、つまりそこに主観的自己意識はない。
サールの立場はそれ自体議論の余地がある。AIの理論家の中には、コンピュータの中で意識が生じるかどうか答えるには、人間の有機的な脳で意識がどのようにして生じるのかという事に関する我々の理解が不十分だと考えている者もいる。
私は、コンピュータの限界に関するサールの見解が正しいかどうかについての立場を表明するつもりはない。ただ、彼とその対話者が同意するだろう非常に重要なことについて注意しておきたいと考えている。彼らが同意するのは、解答は非常に得意だがいかなる主観的状態も持たないものと、主観的な状態を持っているものの間に違いがあるということだ。後者の何かは単なる何かではない。それは誰かなのだ。
ある意味では、我々は何十年も人工知能を持つ機械を持っていた。1980年代の電卓では、例えば7の平方根を10の桁まで即座に求めることができたが、人間ならせいぜい一部のサヴァン症候群くらいしか同じことは出来ない。しかし電卓ができなかったこと、そして現在の機械もまだできないことは、主観的な経験をもつことである。おそらくサールは正しく、我々が現在想像しているように、コンピュータが意識を持つことはないかもしれない。しかし、もしそれが実現すれば、人工知能を超えた何かが生まれる。人工知覚が生まれるのだ。
R2-D2やBB-8は、ビープ音だけで話し、我々人間には理解が難しいという事実にもかかわらず魅力的である。確かに、彼らは理解できないがゆえに魅力的である部分もある。彼らは見るからに異質なものであり、犬よりもヒトから遠いものであると認識できる。スター・ウォーズ/フォースの覚醒では（非常にマイナースなネタバレだが）BB-8も犬のような行動を介してレイのドロイドとなる。追い払われても、BB-8は彼女についていく。
ギャラクティカでは、人間はサイロンに対する残虐行為を、彼らは単に「トースター」であるという理由で合理化する。つまり、彼らは感覚を持つ生物の非常に効果的な似姿であるが、トースターや他の無生物と比べても内的主観性を持っているわけではないということだ。それが本当なら、つまり、もしサイロンが本当に主観性を欠いているならば、それを拷問して殺すことは確かに道徳的な重要性を持たないだろう。しかし、サイロンは感覚を持つという圧倒的証拠を示すよう行動するというまさにその理由で、「トースター」は蔑称として用いられる。
真の人工知覚は可能だろうか？ これはまだ答えが得られていない科学的、技術的な質問だ。しかし、我々は既に、仲間のアースリングス(地球上の生物)の間に、知覚を持つヒト以外の動物が存在するという現実の豊富な証拠を得ている。我々が人工知覚を創造したとき、その結果生まれた機械的存在を尊重すべきである。一方で、その仮説的存在の地位に関する不安は、今ここで、我々が搾取し、拷問し、殺している知覚を持つ何十億もの動物たちの利害に対する、我々のおぞましい軽視に対して向けられた罪悪感を反映しているのだろうと私は考えている。
この記事へのコメント