AIが責任を殺す日

　大抵の人間は、自分たちの生活がどのような技術に支えられているか正しく認識していない。
　自動車の仕組み、エアコンの仕組み、電線の、ガス管の、水道管の仕組み。己の生活から消えては困る数多の技術は、全て社会に外注されている。
　人間の生物性は技術によって切り刻まれ、命は社会へ人質として差し出されている。
　命を人質を差し出すことで、楽な生活を謳歌する自由を得る。これが今の社会的人間の本質だ。
　今の私に残っている生命らしい部分というのは、一体どれだけあるのだろう？
　蛇口や元栓や自動車のキーを捻ったり、動画を見たりエアコンのスイッチを入れたりする知性なんて、文明が消えれば無用の長物でしかない。
　我々は生命としての劣化を強要されている。なぜなら人は生命であり、生命は環境を受け入れるものだから。
　カラスは枝を道具に使う。ハチやツバメは軒下に巣を作る。人は川辺で魚を釣って平原を耕す。文明という環境に適応し、楽をして生きようとする社会的人間の在り方は、生命として至極正しい。
「では我々社会的人間にとって、最後に残されていた生物性は何だったと思う？」
　いよいよ本題に入った。男は若く、それにも増して童顔だというのに、声だけは錆が効いていた。
　初対面の私にも分かった。この男は疲れていた。安楽椅子に枯れた手足が似合いすぎてしまうほど。
　食べることや寝ることか、と私が問うも、男は首を横に振る。
「欲求そのものは重要じゃない。『必要は発明の母』という。問題の解決や欲求を満たす能力こそ重要なんだ。生きるということは不都合の回避の連続だからね」
　死を回避する能力。直接的な脅威はもちろん、怪我や病気、集団を作ったり、敵味方を識別したりする、それらは全て死を遠ざけるために身に着けた能力だ。
　それを踏まえて先の男の問いについて考える。この男が問うているのは、この現代社会において人間が生物として発揮している能力の事だろう。
　外注化されていなかった、自由だった我々の部分。そして私が、この男に会いに来た理由。
「自由に考えたり思考すること、かしら？」
　男は頷いた。その瞳に悲しすぎる色を湛えて。
「思考することは責任を伴う。だから今まで実現できなかったんだよ。だが自由という言葉は否定したい。たとえば移動する能力という点において、徒歩の人間よりも自動車を持っている人間の方が自由だ。自動車では進めない場所は自動車を捨てて歩けばいいだけだからね」
「でも人間は、そう柔軟な発想はできないんじゃないかしら？」
「その通りだ。我々は慣れる。楽をすることに慣れる。一度楽を覚えると文明を捨てられない。運動不足と分かっていても自動車に乗り、依存症だと分かっていても電子機器を触るのをやめられない」
　それが答えだ、この男がやったことの理由。いま私がこの男の前に存在する遠因。
「実現できない自由なら慣れようがない。だから問題にならなかったんだ。だが二十一世紀も終わりに差し掛かり、技術の進歩は目覚ましい。こうしたことが問題となったのは人間と電子機器の境界が曖昧になり始めたせいだろう」
　当初、それは人間の能力の補助を目的としていた。健忘症やアルツハイマーの対症療法として。記憶力や思考力が衰える原因が生身の脳にあるのなら、生身の脳は参照だけ行い、実際の情報は外注化された装置に記録すればいい、その程度の扱いだった。
　だがIOは相互に行われ始めた。俗人化を回避し、労働環境における人的資源の効率的運用に目的は転じた。脳が外部を参照するだけでなく、外部が脳を参照し、そして相互に操作し始めることが要求され、実現した。
「外部装置と連携した社会的思考という自由を手に入れるため、我々は生身の思考を放棄した」
　この社会的思考というグロテスクな単語こそ、この男が敵視したものの正体だ。
「けれど仕方ないんじゃないかしら。外部装置で繋がった各員の脳で構築されたネットワークで行われる社会的思考は、生身の独断より遥かに高い正確性を有しているわ」
　この男が何を否定したいか分かっていても、私は社会的思考の優位性を論じてしまう。
「労働における選択の責任を個人に背負わせることを防ぐため、かい？　そう、今や誰も失敗しない。万が一失敗しても、それはネットワーク、社会的思考だけだ。全体に損失が分散されることはあっても、個人に大きな負担が降りかかることはない。でもそのせいで人間は代替の利く生体電子回路に成り下がった」
「それが嫌だったのね、あなたは」
「人間だけでネットワークが構築できるなら、それも良かっただろう。だが思考を拡張し、各員を繋げるためには外部装置が不可欠だ。そして外部装置を統括するには中央集権的存在が必要だった」
　現在の技術ではブロックチェーン的な技術で思考を一つに統括し、実用的な速度で結論を出すことが困難だった。つまり組織としての決断を行う中央集権的存在が、上層部からAIへシフトしたに過ぎなかったのだ。
「中央集権的存在がAIであることも、仕方のないことではあった。思考を取り扱うにあたって、単純なプログラムだけでは不適当だからね。生身の思考を学習し、統合し、より高度な社会的思考を紡ぎあげるためにAIは必要不可欠だった」
　……そこで話は最初に戻るわけだ。
「社会的思考を可能にするAI技術を持ち、この分野のデファクトスタンダードになっているのがParST社でなければ」
「どこの会社でも同じだよ。かつて存在したグローチ社でも同じ結末に至っていても不思議ではない。社会的思考を制御するAI技術を一企業が担うということは、極論、社会の思考体系を一企業が独占するということだ。これが意味するところは明白だ」
　あらゆる価値判断に、思考に、一企業が介入する。消費者たちの思考に介在し、ライバル企業の需要を減らし、自社の需要を増やすよう、あらゆる思考を調整する。その結論に対する責任は彼らにはなく、だからこそ彼らはその思考に依存し続ける。
「AIと思考が結びつき、そんな思考が並列化した時点で、責任という言葉は死語と化した。誰も責任を取らなくなった、いや取れなくなったんだな。社会的思考により責任の所在が分散化された」
　実感と責任は同期する。自分が結論を出したという実感は社会的思考という分散化によって薄れ、責任までもが薄っぺらいものに成り果てた。
「でも貴方が正当にParST社を訴えれば、彼らは責任を取ることになった筈よ」
「そんなことをしても社会は意に介さないよ。今更自分たちの社会的思考の全てが間違っていました、なんて世界中の人々が認められると思うかい？　責任は負えなくても、間違いは認めたくないのさ。そして何より代替の問題さ。次のAIが出るまで社会的思考が出来なくなる。そんな展開は誰も望んではいない。だからこのままでは闇に葬られる、僕はそう考えた」
　この男はParST社製の社会的思考統合用AIソリューションの脆弱性を探し出した。AI開発に携わった彼だからこそ可能だった。
「自分が関わった技術が社会の人々に染み渡っていくことに対して、達成感を得たり支配欲を満たせる人間もいるだろう。だが僕は怖かった。誰も彼もが同じことを言い始めることに、その自覚が彼らにないことに。それを分かるのが僕だけだということに」
　社会的思考で社会を全体化した技術者自身が、社会から疎外される。なて皮肉な話だろうか。
「だから僕は彼ら自身に気づいてもらうしかないと思った。自分たちの思考が間違っているということに、見知らぬ場所で起こった告発なんかじゃなく、自分たちが導き出した結論として」
　そして多くの人たちが気が付いた。自分たちの思考が一つの企業に支配されていたという事実に。
　当然、あらゆる組織が、国が、大混乱に見舞われた。だがどうしようもなかった。社会的思考によって、社会的思考統合用AIを扱う企業はParST社以外に存在しなくなっていたから。

　そして今、多くの人々が決断を迫られている。
　奴隷的と分かったうえで社会的思考を受け入れるか。
　社会的思考を放棄して、生身の思考を取り戻すか。
　私は後者を選んだ。だからここにいる。この大混乱を作った張本人を、どうしても確かめたかったから。

「キミはどうするね。私を法廷に突き出すかね？」
　男の問いに、私の思考は未だ結論を出せずにいた。