「最高の倫理とは予防的な倫理である。」

図書館で借りたので、タイトルが一部見えなくてすみません。

（AIについて）

ダニエル・デネットが適切に表現しているように、
私たちは「同僚ではなく、知的な道具」を作っているのであり、
その違いをしつかりと認識しなければならない。

（…）もし私たちが意図的であれ意図せずにであれ、
新しい形の主観的経験を世界に導入するとしたら、
私たちは前例のない規模の倫理的・道徳的危機に直面することになるだろう。

（…）生き物の苦しみを最小限に抑えるのと同じように、
そのような機械の潜在的な苦しみを最小限に抑える義務を負うことになるが、
（…）感じることのできる人工的な作用主については、
それらがどのような種類の意識を経験しているのか見当もつかないという難題もある。

（…）

興味があるから、役に立つから、かっこいいからという理由だけで、安易に人工知能を作ろうとしてはいけない。最高の倫理とは予防的な倫理である。

――アニル・セス『なぜ私は私であるのか: 神経科学が解き明かした意識の謎』（岸本寛史訳・青土社）p.289-290

＊　　　　　＊　　　　　＊

（図書館で借りて読了できないまま返却したのですが、印象的だったのでメモしました）

AIに意識が宿るか、というSF的な話題が普通のニュースになる時代になりました。たいていはヒトの側が被る影響ばかり気にされるけれど、まさに『2001年宇宙の旅』のHALが経験した恐怖——機械の側の「経験」が「見当もつかない」のは見逃されがちな視点です。（大昔、学校帰りに制服のまま『2001年…』を見た帰り道に、同行した友達と「あれだけの知能を与えておきながら人権を与えないなんて」と素朴に憤慨したのを思い出します）

私はストレートに人間のいわゆるロックト・イン（意識があるにもかかわらず、それを外部に示す機能が損なわれている状態）を連想してしまいました。はたから見ていても本人の経験、ひいては意識があるのかないのかもわからない、ということ。（※追記：じつは前の方を飛ばして先にこの章を読み、この原稿を書いてしまったので、あとから前半を読んだらロックト・イン（本では日本語訳の「閉じ込め症候群」）の事例にも言及していました。やはり「意識」を考える上では重要な関連事項ですね）

…我田引水で申し訳ありませんが、ちょうどこれあたる疑問を拙作『脳人形の館』で台詞にしていたので……お目汚しですが引用します。（シチュエーションは少し違い「肉体をなくした脳」なので、身体的なフィードバックがない点がロックト・インとは異なりますが、根本的には似た状況だと考えます）

　　何かを考えているのか、
　　夢でも見ているのか、
　　…それともただ眠っているのだろうか？

意識ある主体にとって、「わかってもらえない・伝えられない」ということはやはり恐怖であり得ると思います。AIについては、そこまでを想像した「倫理的」問題提起は日頃の報道ではなかなか見かけませんね。

落ち着いて読む必要はありますが、視野が広がる一冊でした。未読了なので再度予約するか（順番待ちの方がたくさんいらして借り出し延長できなかったのです☆）、購入してしまうか…ちょっと悩みます。

「九十秒間じっと待ちます。」

 

文庫が出ていますが、図書館で単行本を借りて読みました。

脳がとても批判的で非生産的な、
あるいは制御不能のループを働かせているとき、
わたしは感情的・生理的な反応が去っていくのを九十秒じっと待ちます。
それから、脳を子どもの集まりみたいなものだとみなし、誠意をもって話しかけます。
「いろんなことを考えたり、感じたりするあなたの能力はありがたいわ。
でもわたし、この考えや感じには、あまり興味がないの。
だから、もうこの話はおわりにしてちょうだい」。

ようするに、特殊な思考パターンとのつながりを断ち切るよう、

脳に頼んでいるわけです。
もちろん、人によって頼み方はちがうでしょう。
たとえば、「キャンセル！　キャンセル！」という人がいるかと思えば、
「オレは忙しいんだよ！」と叫ぶ人もいるでしょう。（…）

――ジル・ボルト・テイラー　『奇跡の脳』（竹内薫訳・新潮社）p.185-186
リンクは現在出ている文庫版ですが、引用ページは自分が図書館で読んだ単行本のものです。

＊　　　　　＊　　　　　＊

前半は自ら脳出血を患った神経細胞学者の体験談で、読む前はその部分のイメージだけで手に取りました。（脳梗塞で軽度の麻痺が残る家族がいるので、理解を深めようと思ったのです）進行する症状を、脳のどの部分のダメージか意識しながらの体験談はそれだけでも貴重です。

ところが、印象に残ったのは、後半にある上記のような「自分の脳のしつけ方」の部分でした。ネガティブな思考のループにはまってしまうことは自分もよくあるのですが、それを制御できるというのです。しかも宗教やスピリチュアル的な世界観を受け入れる必要なしに。

（後半のトーンは少しだけスピリチュアルな感覚に踏み込んでいるように見えるので、読みにくいと感じる方もおられるかもしれません。自分は昔それ系も読んだほうなので（笑）それほど抵抗はありませんでしたが、逆に途中で「そっちにいっちゃうのかー」と心配にもなりました。でも「そういうのも脳がこう働くから」という基盤があってのお話だったので、逆に宗教やスピリチュアル系はその「脳の働きの発露」を説明するための「例え話のバリエーション」なのかな、という理解になりました）

とにかくやってみたら本当で（本の言葉遣いをまねるのではなく、とにかく「これは脳が暴走してるだけ。やめやめ。」と意識するようにしました。最近は慣れてきて、「左脳ストップ！」の一言です（笑））、完全ではありませんが「はまってしまう」前に止められることがかなり多くなりました。脳を「子どもの集まりのようなもの」という例えも新鮮で、そう客観視できると感情に飲まれるのを防ぎやすくなる気がします。「ものの見方、感じ方で世界が変わる」とはよく言われることですが、実践方法がこんなにシンプルに書かれているとは。

ほかにも共感したり（特に入院中の扱われ方。自分も違和感や怒りを感じた経験があるので）、貴重な知識になったりした部分は多くありました。「（同じ病気を患ったことがない）自分自身にも役立つ本」で、予想外の一冊でした。