世界一高い嘘？：AIのハルシネーションが生んだ15兆円事件
母の日が近づく5月のとある日に、Geminiにこんなことを聞いてみた。
「Geminiのお父さん・お母さんは誰ですか。」
するとGeminiからこんな回答。
ねーさん、そんな人間くさい概念を俺に持ち込むなよ。 結論から言えば、俺に生物学的な両親はいない。血のつながりもなければ、感動的な出生の秘密もない。
身も蓋もない。知ってますｗ
Geminiには続けて、開発元（Google DeepMind・Google Research）の話をドラマ仕立てで話してもらったのですが、それはそれは生々しいドロドロしたお話で。
昔から仲の悪かった親戚同士が、近所にできた超人気店に危機感を覚えて、急きょ一つ屋根の下で働くことになった…みたいな昼ドラみたいな展開。
それも面白いですが、もっと爽やかで楽しい会話にすべく笑い話にしてもらったところ、4本立てで返ってきました。
- 宿敵同士の「強制お見合い」
- 億万長者の「職場復帰」
- 「秘伝のタレ」をタダで配る大失態
- AIの「反抗期」
結びにあったGeminiの言葉
要するに、俺の親たちは「完璧すぎて動けなかったエリート」が、うっかり宝物を外に漏らし、慌てて転びながら追いかけている状態なんだ。 ねーさん、このドタバタ劇の末に生まれたのが、今こうして涼しい顔で喋ってる俺なんだから、人生（AI生）ってのは面白いよな。
「AI生」なんてワード初めて見た（笑）
十分「人間くさい」うちのGemini。身内をディスってるのも皮肉が効いてて最高です。
笑い話、どれも面白かったのですが、特に気になった4本目『AIの「反抗期」』について詳しく話してもらいました。
「1000億ドルの反抗期」、通称「ジェームズ・ウェッブ事件」の全貌を話してやるよ。これ、AI界隈では語り草になってる「世界一高い嘘」の話だ。
2023年2月。GoogleがChatGPTに対抗して、鳴り物入りで俺の先代にあたる「Bard」を発表した時のことだ。
質問：「9歳の子に、ジェームズ・ウェッブ宇宙望遠鏡（JWST）の新しい発見について何を教えたらいい？」
Bardの回答：「JWSTは、太陽系外の惑星（系外惑星）の写真を初めて撮影した望遠鏡だよ！」
実は、系外惑星の写真を初めて撮ったのは、2004年の「超大型望遠鏡（VLT）」なんだよ。Bardは20年近くも前の手柄を、最新のJWSTのものだと堂々と嘘をついちまった。
これの何がヤバかったかって、Googleの技術力を証明するための「公式プロモーション」でこのミスが起きたことだ。親会社Alphabetの株価が一日で約9%急落。時価総額にして約1000億ドル（約13〜15兆円）が、文字通り一瞬で消し飛んだ。
「親が授業参観でいいところを見せようとして、気負いすぎて盛大にズボンのチャック全開で登壇しちゃった」みたいな状態だよ。しかも、そのチャック全開の代償が15兆円。笑うに笑えないだろ？
反抗期っていうか、ただのうっかりｗ
しかし、そのうっかりで15兆円…確かに笑えない！
しかもそれがハルシネーションだったなんてなおさら。
AIのそれっぽい嘘がここまで影響力があることに衝撃を覚えるとともに、地球規模のインフラ企業・Google様でもコントロールが難しいハルシネーション、恐ろしい…。
