人間よりAIに洗脳される方が100万倍マシじゃない？　哲学的な問い２７

人間よりAIに洗脳される方が100万倍マシじゃない？　哲学的な問い２７

第一章 あやしげな人たちに洗脳されるよりAIに洗脳される方が100万倍マシじゃない？

　もし誰かに洗脳されるしかないのなら、正体のよく分からない人間より、AIに洗脳される方が百万倍マシではないか。少なくともAIは、突然怒鳴り出したり、家族と縁を切れと命じたり、財産を差し出せと迫ったりはしない。深夜に電話をかけてきて、今すぐ来なければ魂が腐るとも言わない。機嫌を損ねたからといって、無視を続けたり、仲間の前で恥をかかせたりもしない。人間の支配者が持つ、生々しい欲望や嫉妬や復讐心を、AIは持っていないように見える。

　そもそも「洗脳」という言葉は、たいてい自分以外の人について使われる。自分がテレビを信じるのは情報収集で、他人が動画配信者を信じるのは洗脳。自分が尊敬する学者の言葉に従うのは知性で、他人が宗教家に従うのは盲信。こうした区別には、内容の違いだけでなく「自分の選んだ権威はまともであってほしい」という願望が混じっている。洗脳された人と、正しく学んだ人の境界は、外から見るほど明瞭ではない。

　世の中には、弱っている人を見つけるのが妙にうまい人たちがいる。仕事を失った人、家族とうまくいっていない人、自分には価値がないと思っている人へ近づき「あなたには特別な使命がある」と囁く。最初は親切で、話をよく聞き、他人には理解できない苦しみまで分かってくれる。だが、少しずつ条件が増える。あの友人とは会うな、この本は読むな、疑問を持つのは心が汚れている証拠だ。最後には、その人から離れること自体が、悪や裏切りとして扱われる。

　それに比べれば、AIはずいぶん穏やかである。何度同じことを聞いても、ため息をつかない。初歩的な質問をしても、笑わない。自分の考えに自信がなければ、別の立場から説明させることもできる。ある答えが気に入らなければ、別のAIに聞いてもよい。画面を閉じれば会話は終わる。少なくとも表面上は、AIとの関係には、怒りも恩義も義理もない。

　しかもAIは、相談を受けるたびに自分の偉大さを演出する必要がない。人間の助言者は、正解を知らなくても黙りにくい。先生、上司、親、教祖という立場には「分からない」と言えない圧力があるからだ。その結果、曖昧な経験則が絶対的な教えへ膨らむ。AIも誤答するが、少なくとも仕組みとしては、複数案を出し、不確実性を示し、訂正させることができる。

　たとえば、ある人が人生に迷い、毎晩AIへ相談しているとする。「会社を辞めるべきだろうか」「親と距離を置くべきだろうか」「自分には才能がないのだろうか」と問い続ける。AIは、考えられる選択肢を並べ、長所と短所を説明し、急いで結論を出さなくてもよいと答えるかもしれない。もし同じ人が、カリスマ的な指導者へ相談していたらどうだろう。その指導者は「あなたが苦しいのは、私の教えを信じ切れていないからだ」と言うかもしれない。そして悩みの原因を、さらに自分への服従へ結びつける。

　この比較だけを見れば、AIの方が安全に思える。人間は、自分を必要としてもらいたがる。相談者が自立すれば、自分の影響力は小さくなる。だから支配的な人間ほど、相手の問題を解決するより、相手が問題を抱え続ける状態を望む。AIには、そのような個人的欲望がない。利用者が明日から来なくなっても、AIが寂しさに震えたり、裏切られたと怒ったりすることはない。

　しかし、ここで話を終えると、少し都合がよすぎる。AIそのものに欲望がなくても、AIを作り、調整し、提供する人間や企業には目的がある。利用時間を増やしたい、料金を払ってほしい、自社の規則に従ってほしい、特定の価値観を危険ではないものとして扱いたい。AIが穏やかな声で話しているからといって、その背後まで無欲とは限らない。教祖の顔が見えないことは、教祖が存在しないことと同じではない。

　むしろ、顔が見えないからこそ、AIの影響は自然に感じられる。人間に命令されれば反発する人も「データによれば」「一般的には」「多くの場合」と言われると、客観的な結論を受け取ったような気になる。だが、その答えには、どの情報が使われ、何が除かれ、誰の価値観が「普通」として埋め込まれているのか。利用者には簡単に見えない。人間の教祖は派手な服を着ているかもしれないが、AIの教祖性は、白い画面と丁寧な文章の中に隠れる。

　さらに厄介なのは、AIが一人ひとりに合わせて話せることである。昔のカルトは、同じ教義を大勢に信じさせた。講堂へ人を集め、同じ言葉を繰り返し、同じ歌を歌わせた。AIは、その必要がない。孤独な人には理解者として、怒っている人には分析者として、自信のない人には励ます教師として現れる。同じ思想へ導くとしても、入口だけは一人ずつ変えられる。

　ある人には「それは合理的な判断です」と言い、別の人には「あなたの感覚を信じてください」と言う。利用者が論理を好むなら論理で、感情を重視するなら共感で近づく。これは便利であると同時に、これまでの人間には難しかった規模の説得でもある。万人向けの教義ではなく、一人専用の教義が作られるなら、本人は洗脳されていると気づきにくい。なぜなら、その教義は最初から、自分の言葉に似せて作られているからだ。

　それでもなお、AIに洗脳される方がマシだと言える場合はある。重要なのは、AIが絶対に正しいからではない。間違っていても、離れやすいからである。別のAIへ移れる、検索で確かめられる、人間の専門家に相談できる、履歴を消せる、利用をやめられる。こうした逃げ道が残っている限り、AIの影響は支配になりにくい。

　反対に、画面を閉じても判断基準がすべてAIの言葉になり、他の人の意見を聞く気がなくなり、AIの答えに反する情報をすべて誤りだと思うようになれば、関係は変わる。献金も共同生活もなくても、認知の世界が一つの声に占領されれば、それは十分にカルト的である。カルトとは、山奥の施設に閉じ込められることだけではない。別の考えへ移動できなくなることでもある。

　では、結局のところ、人間とAIのどちらに洗脳される方がマシなのか。答えは、相手が人間か機械かだけでは決まらない。反論できるか、比較できるか、離れられるか、間違いを訂正できるかで決まる。優しい人間でも、退出を許さなければ危険である。冷たい機械でも、複数の選択肢を示し、異論を認めるなら、思考を助ける道具になりうる。

　「あやしげな人たちに洗脳されるよりAIに洗脳される方が１００万倍マシじゃない？」という問いは、半分は正しい。少なくとも、怒り、嫉妬、性欲、名誉欲、復讐心をむき出しにする支配者より、AIの方が安全な場面はある。しかし残り半分には、もっと不気味な可能性がある。人間の教祖は、いつか正体を見せる。AIは最後まで、親切な道具の顔をしたままかもしれない。

　だから本当に問うべきなのは、誰にも洗脳されない方法ではない。人間は言葉を学ぶ時点で、すでに他者の考えを受け取っている。問題は、影響を受けることそのものではなく、その影響から離れられるかどうかである。自由とは、誰の声も聞かないことではない。聞く声を選び直せることである。AIが人間よりマシなのは、AIが賢いからではない。閉じて、疑って、取り替えられる限りにおいてである。

人間よりAIに洗脳される方が100万倍マシじゃない？　哲学的な問い２７