チャットが自殺をコーチング…世界で物議の「AIによる暴走」　シンギュラリティは本当に来るのか、科学ジャーナリストが見解

■AIが量子コンピュータと結びついたら…

　しかし、AIが万能ではないからこそ、注意すべきことがある。AIは人間の代わりではなく、あくまで人間の補助として使うべきもの。それを勘違いして全部を任せれば、良くないことが起きる可能性も十分にある。

「AIには人間の情緒やモラルといったものはありません。だからたとえば、利益を最大化しろといった目標を与えられたAIが、その達成の邪魔になるものを機械的に排除しようとする。その中で、人間が障害物とみなされる可能性がある。AIは情緒を持たないので、“人間が憎いから殺す”のではなく、“目的達成の障害だから排除する”という形で動くはずです」（前出の川口氏）

　そして川口氏は、シンギュラリティの可能性についても、こう警鐘を鳴らす。

「今のAIはまだ人間が作った枠の中で動いています。極端にいえば、サーバーを落とせば止まりますから。今のコンピュータの延長線上では、シンギュラリティは簡単には起きないと思っています。ただ、もしAIが自分でより高度なAIを生み出し始めたら、もしくは、量子コンピュータが本格的に実用化したら話は別です。量子コンピュータは人間の脳の情報処理に近い部分があります。もしAIと結びついて、人間と同じような情報処理を人間の1兆倍の速度でやるようになったら、明らかに人間より上です。人類は自分たちより知能の高い存在と初めて向き合うことになるかもしれません」

　ではこれから先、AIと共存していくためには、人間はどうすればいいのか。

「AIと向き合うというのは、結局、自分がどう生きるかを考えることでもあります。考えるとは何か、便利とは何か、自分にとって必要なものは何か。それを判断するには客観性が必要になります。そして、自分はどうするのかを考えなければいけない。AIの使い方については、社会全体で、当事者意識を持って自分自身の問題として考えることが必要です。大人がまずそのことを理解し、子供に伝えていく。それが共生の前提だと思います」（前同）

　量子コンピュータの開発競争は、すでに全世界で数十社が参加して進めている。AI時代の分かれ道は、すでに目の前まで来ている――。

川口友万(かわぐち・ともかず)
1967年生まれ。サイエンスライター。富山大学理学部物理学科卒業後、出版社勤務を経て99年よりライターに。これまで科学情報サイト「サイエンスニュース」の編集統括や不定期でバー「科学実験酒場」を経営するなど、様々な角度から科学をテーマに活動している。著書に『ホントにすごい!日本の科学技術』(双葉社)、『ビタミンCは人類を救う!!』(学研パブリッシング)、『なんでも未来ずかん』(講談社)、『ラーメンを科学する』(小社)など多数。