ChatGPT の台頭によって、AI が生活に浸透してきたと思います。
現在、AI 関連各社は、熾烈なシェア争いの真っただ中にあります。
みなさんも、なにかしらの生成 AI を利用し、雑談だったり、情報収集、作業、アイデアの整理などを手伝ってもらったりしたのではないでしょうか？
あ、そうそう、問合せのため、企業サイトへアクセスした際、AI チャットボットのお世話になった経験がある方も多いでしょう。
AI が日常に浸透するということは、当然、仕事でも用いられます。
ぼくが仕事で使うのは、メールの本文や議事録作成、契約書のひな形作成といった作業補助や、基礎情報を読み込ませた上での分析、情報収集などです。
使ってみてどうでした？
勿論、めちゃくちゃ便利でしたよね！
でも、お手伝いしてもらったものの、そのままでは使えなかったりしませんでした？それは良いんです。自分の手を多少動かしても、大幅な時間短縮になったことには間違いないのですから。
個人的に危機感を覚えるのは、誤情報の多さです。
ぼくは、音楽情報を取り扱っています。
その発信をする際、AI に情報収集をお手伝いしてもらうことがありますが、堂々ととんでもない間違いを、公式情報のように提供することがあります。
日本人って、X (旧 Twitter) を使っている方、多いですよね。
X であれば、Grok という生成 AI が使えるようになっています。
Grok とは、なにができるのでしょう？Grok を Grok たらしめる機能を、3つに絞ってみました。
Grok 的な機能
①ファクトチェック機能
ポスト内容の真偽を確かめる機能
②画像生成・解析機能
テキストからの画像生成および、アップロードした画像の分析
③ストーリーズ機能 (トレンド要約)
X でポストされているニュースや話題になっているトレンドについて、分析し、事象の背景や要点を自動でまとめてくれる機能
この内の ③ について、X にて、Grok が微妙に情報を間違えてまとめ、誤った情報として発信していること、見たことありません？
2024年、アメリカで観測された皆既日蝕について、Grok のフェイク・ニュースによって、ちょっとした騒動があったという報道がありました。
原 文
Grok, the AI tool available to paying subscribers on X and adored by Elon Musk, generated another fake news story based on jokes Monday. And while this latest story about Monday’s solar eclipse isn’t as dire as last week’s inaccurate “news” that Iran had launched an attack on Israel, it still proves Grok has a long way to go before it’ll ever be a useful and accurate tool.
意 訳
Grok が、冗談をもとにフェイク・ニュースを生成した。
このニュースは、日蝕に関するもので、先週の「イランによるイスラエル攻撃」というフェイク・ニュースほど深刻ではないものの、Grok が有用かつ正確なツールとなるにはまだまだ長い時間がかかることを証明する出来事だった。
Grok のフェイク・ニュースに関する原文
The headline available to Grok subscribers on Monday read, “Sun’s Odd Behavior: Experts Baffled.” And it went on to explain that the sun had been, “behaving unusually, sparking widespread concern and confusion among the general public.”
意 訳
Grok「太陽の異常現象：科学界も説明がつかず。市民の間にも広がる動揺」
元になった冗談の原文
“WHAT THE FUCK IS HAPPENING TO THE SUN RIGHT NOW?????” the top tweet, written by comedian Michael Ian Black, read on Monday.
意 訳
Michael Ian Black「おい嘘だろ...太陽に何が起きてるんだってばよ！？」
補 足
みんな日蝕は知っているから、あえて大げさにおどけてみせた様子のポスト。
引用元記事
ファクトチェック機能とユーモアな会話をウリにしている Grok が、冗談に気付かず誤情報を拡散するという事実は、相当やばいと思います。
まあ、Grok に限らず、生成 AI が収集してくる情報は、全てが正しいわけではありません。
また、AI が発信する情報も、全てが正しいわけではありません。
つまり、AI を無条件に信じる危うさがあるということです。
書類を作成し、そのファクトチェックのお手伝いを、AI にお願いするように、情報収集のお手伝いをお願いした時は、人間がファクト・チェック (情報の裏取り) しなければならないんです。
便利に押されて、おろそかにしていませんか？
また、このように、AI による誤情報が拡散され、情報汚染が広がるのがめっちゃ恐ろしいです。
想像してみてください。
AI が生み出した「もっともらしい嘘 (ハルシネーション)」がネット上に溢れ、情報が汚染されています。それをさらに次世代の AI が「事実」として読み込んで学習してしまう...
これを繰り返すことで、AIがどんどんおかしな回答しかできなくなる現象を、業界では「モデル崩壊 (Model Collapse)」として危惧しています。
業界的に、2026年と言う年は、「人間の手による良質なテキストデータが枯渇し、AI が学習できなくなる」という懸念があるようです。
しかし、ぼく的には、それよりも「AIが、事実とは異なる情報や存在しない架空の情報を、さも正しい事実であるかのように生成してしまう現象 (ハルシネーション)」の方が恐ろしいと感じています。
そういえばこの現象、Wikipedia をニュース・ソースに卒論を書くという現象が流行ったことにも似ていますね。
つまり、人間は楽を覚えると、そちらに全ツッパしてしまう存在だから、今後はこのようなハルシネーション問題が深刻化していく可能性があります。
現状、AI が勘違いした情報は、「まーた AI がズレたまとめしてるわｗ」で済んでいます。しかし、生成 AI による画像、映像、音楽が、当初と比べて発達し、ちょっと凝ったものでは、ぱっと見、区別がつかなくなってきています。いつか、情報もそうなってしまうのでは？
この記事を書いていて思ったんですが、なんかこの世界、Jamiroquai "Virtual Insanity" の世界っぽくね？
どういう曲か分からない方、ここは音楽情報のサイトでもあるので、同曲を意訳しています。もし、興味があったり、お時間に余裕のある方は、どんなもンかと覗いて行ってください。
