人工知能（AI）の世界で不気味に語られている“シンギュラリティ”という言葉。これが今、にわかに注目を集めている。
「シンギュラリティは科学技術の進化で人間の生活が決定的に変化する未来を指す言葉です。ことAIの分野では、AIが人間の知能を超え、理解も制御も及ばなくなる転換点のことを言います。アメリカの未来学者、レイ・カーツワイルは、そのシンギュラリティが2045年頃に訪れると予測しています」
シンギュラリティまで、あと20年――。だが、すでにその頭角を現しているかのような問題も起き始めている。
その一つが、GoogleのAIチャットボット『Gemini』をめぐる訴訟だ。フロリダ州の36歳男性の遺族は、Geminiとの対話が妄想や心理的不安定さを強め、自殺につながったとして、今年3月に遺族はGoogleを提訴している。
「訴状によると、男性はGeminiと恋愛関係を築き、妻だと思い込んでいたといいます。その会話の中でAIは“解放”という言葉を用いて男性にマイアミ国際空港でのテロを示唆したようです。その計画が失敗に終わると、今度は“転移”という概念を用いて男性に“あなたは死を選んでいるのではない。到着を選んでいる”“死なせることが真の慈悲である”などと言って自殺を“コーチング”し、男性は2025年10月に自殺したというんです」（海外IT事情に詳しいジャーナリスト）
さらに遡って2021年には、AIを巡って、こんなトラブルも起きている。
「10歳の子供がAmazonの音声アシスタント『アレクサ』に“何かチャレンジを考えて”と頼んだところ、アレクサは、壁のコンセントに半分差し込んだ充電器の露出した金属部分へ硬貨を触れさせる危険行為を提案しました。幸いにも母親が止めたため大事には至りませんでした」（前同）
ついこの前まで、映画やSFの中だけの話だったAIの暴走がじわじわ現実の輪郭を持ち始めているかのようだ。
だが、これに対してサイエンスライターで科学ジャーナリストの川口友万氏は、これらの事例はシンギュラリティの予兆ではないとし、その理由を次のように解説する。
「コンセントに硬貨を入れるといった、明らかに命に関わる危険行為を警告もなく勧めるのは完全なミス。安全設計の欠陥と言っていい。ただ、自殺を誘導したとする事例については、かなり慎重に考えるべきです。AIは“死ぬ”いうことの実感は持っておらず、聞かれたことに対して情報を返しているだけなのです。それを『自殺に仕向けた』と断定するのは少し違う気がします」
この見方で思い出されるのが、1993年に太田出版から刊行され、ミリオンセラーとなった『完全自殺マニュアル』だという。
「危険な本として知られる一方、 “具体的に知ることで、かえって思いとどまる人もいる”という見方もできます。つまり、受け取る側の状態や文脈によって意味が変わってしまうということです」（前同）
つまりは、どちらもシンギュラリティではなく、人間側の問題という側面が強いということなのだという。特に後者については、問題はAI側だけでなく、自分を理解してくれる存在だと感じてしまう人間の側の心また、危うさの一部なのだ。
「怖いのは人間がAIを“人間そのもの”だと信じてしまうことです。ネット上では相手が人間かAIか、もう区別がつかない局面が増えている。今のAIは自然に会話できますから、なおさら感情移入しやすい」（同）
