 |
| 図書館で借りたので、タイトルが一部見えなくてすみません。 |
（AIについて）
ダニエル・デネットが適切に表現しているように、
私たちは「同僚ではなく、知的な道具」を作っているのであり、
その違いをしつかりと認識しなければならない。
（…）もし私たちが意図的であれ意図せずにであれ、
新しい形の主観的経験を世界に導入するとしたら、
私たちは前例のない規模の倫理的・道徳的危機に直面することになるだろう。
（…）生き物の苦しみを最小限に抑えるのと同じように、
そのような機械の潜在的な苦しみを最小限に抑える義務を負うことになるが、
（…）感じることのできる人工的な作用主については、
それらがどのような種類の意識を経験しているのか見当もつかないという難題もある。
（…）
興味があるから、役に立つから、かっこいいからという理由だけで、安易に人工知能を作ろうとしてはいけない。最高の倫理とは予防的な倫理である。
――アニル・セス『なぜ私は私であるのか: 神経科学が解き明かした意識の謎』（岸本寛史訳・青土社）p.289-290
＊ ＊ ＊
（図書館で借りて読了できないまま返却したのですが、印象的だったのでメモしました）
AIに意識が宿るか、というSF的な話題が普通のニュースになる時代になりました。たいていはヒトの側が被る影響ばかり気にされるけれど、まさに『2001年宇宙の旅』のHALが経験した恐怖——機械の側の「経験」が「見当もつかない」のは見逃されがちな視点です。（大昔、学校帰りに制服のまま『2001年…』を見た帰り道に、同行した友達と「あれだけの知能を与えておきながら人権を与えないなんて」と素朴に憤慨したのを思い出します）
私はストレートに人間のいわゆるロックト・イン（意識があるにもかかわらず、それを外部に示す機能が損なわれている状態）を連想してしまいました。はたから見ていても本人の経験、ひいては意識があるのかないのかもわからない、ということ。（※追記：じつは前の方を飛ばして先にこの章を読み、この原稿を書いてしまったので、あとから前半を読んだらロックト・イン（本では日本語訳の「閉じ込め症候群」）の事例にも言及していました。やはり「意識」を考える上では重要な関連事項ですね）
…我田引水で申し訳ありませんが、ちょうどこれあたる疑問を拙作『脳人形の館』で台詞にしていたので……お目汚しですが引用します。（シチュエーションは少し違い「肉体をなくした脳」なので、身体的なフィードバックがない点がロックト・インとは異なりますが、根本的には似た状況だと考えます）
何かを考えているのか、
夢でも見ているのか、
…それともただ眠っているのだろうか？
意識ある主体にとって、「わかってもらえない・伝えられない」ということはやはり恐怖であり得ると思います。AIについては、そこまでを想像した「倫理的」問題提起は日頃の報道ではなかなか見かけませんね。
落ち着いて読む必要はありますが、視野が広がる一冊でした。未読了なので再度予約するか（順番待ちの方がたくさんいらして借り出し延長できなかったのです☆）、購入してしまうか…ちょっと悩みます。
