■一般人でも生成ＡＩ使用によるリスクがある

　本来であれば技術の悪用を防ぐため、ＡＩを使って制作される画像は、社会規範の範疇に収まる物になるよう、事前に制限されている。三上氏によると、画像の投稿者は「なんらかの方法で、この制限を解除した」というわけだ。悪用されてしまった最新技術、画像生成ＡＩは、本来はどんな場で使われているのだろうか。

「プレゼン用の資料に必要な画像や、企業の新商品用の企画書作りなどに使われます。私も講演会で生成ＡＩに、“阪神が優勝したときの道頓堀の画像を作成してください”と、命じたことがあります。すると、１０秒ほどでグリコの看板を背に道頓堀へと飛び込んだ阪神ファンの姿が画になって現れました」（前同）

　一瞬で自分が頭の中で思い描いたような画像を作り出してくれる生成ＡＩ。便利な技術だが、落とし穴もあると三上氏は指摘する。

「たとえば、私が講演会で作成した道頓堀の画像も背景にはグリコを模した看板が入り、非常に精巧な物になっています。しかし、グリコの許諾を取って画像を作成しているわけではありません。ですから、この画像をインスタグラムやＸに投稿すれば、グリコの著作権を侵害する可能性があるのです。生成ＡＩは瞬く間に“画像を作って”くれるので便利ですが、他人の著作権を侵害し、場合によっては訴訟のリスクがつきまとうという点には、注意が必要です」

　生成ＡＩを使って作成できるのは、画像だけではない。動画作成も容易とあって、生成ＡＩの登場以来、フェイク動画も日常生活の中で多数バラまかれている、と三上氏は警鐘を鳴らす。

「元日に起きた能登半島地震の際に、東日本大震災の津波の映像を使い、被災地の現状を大げさに表現したフェイク動画がＸ上で、ばら撒かれました。被災者の方はパニックに陥っていますし、どんな映像でも真に受けてしまいます。緊急時ほど画像や動画の出元が信頼できるメディアなのかを、“いいね”や“リポスト”を押す前に確認する必要が、ＳＮＳの利用者には求められるでしょう」

　私たちの日々を豊かにするはずの最新技術。そんな技術も使い方を一歩間違えば、数多の人に迷惑をかけるというわけだ。

三上洋
東京都世田谷区出身、１９６５年生まれ。都立戸山高校、東洋大学社会学部卒業。テレビ番組制作会社を経て、１９９５年からフリーライター・ＩＴジャーナリストとして活動。文教大学情報学部非常勤講師
専門ジャンルは、セキュリティ、ネット事件、スマートフォン、Ｕｓｔｒｅａｍなどのネット動画、携帯料金・クレジットカードポイント。
公式X(https://twitter.com/mikamiyoh?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Eauthor)