■AIがついた嘘（幻覚・ハルシネーション）の実例集

「マジでAI機能やめないと取り返しがつかなくなるぞ」Google検索、関連ワードを変に取り込んだことで意味不明なAI要約結果を出すようになっている - Togetter [トゥギャッター]

今ネットのいろんな所で「AIに聞いたらこう言ってた」と安易にコピペする人がいるけどどうかしてると思う。

AIは全知全能でも正解でもなくまったく信頼できない。

私の場合は先日、ゴッホの「星月夜」の読みは「せいげつや」か「ほしづきよ」かとChatGPTに聞いたら「ゴッホの作品はせいげつやと読みます。ほしづきよは詩的な表現ですね」みたいなことをもっともらしく言われた。

ところが念のためWikipediaを見たら「ほしづきよ」だった。

もちろんWikipediaもソースとして怪しいのでYouTubeで探したらやっぱり「ほしづきよ」だった。

素人美術ユーチューバーじゃなく美術の先生やテレビに出る美術解説者が話してるのを確認したのでさすがに間違いないはず。

（少なくとも「ほしづきよ」と読むのが一般的）

こんな明らかな正解があるものでもAIは嘘をつく。

しかもすごくそれっぽい説明をつけるので信じてしまいやすい。

その上、さっきもう一度「ゴッホの「星月夜」の読みは？」と聞いたら「ほしづきよです」。

リセットして「ゴッホの星月夜の読みは？」と鉤括弧なしで聞いたら「ほしづきよるです」と回答がコロコロ変わる。

こんなのまったく信用していいものじゃないよ。

皆がAIに嘘つかれた例も教えてほしい。

集合知（誤用）で対抗したい。

Permalink | 記事への反応(3) | 17:09

ツイートシェア