AI検索のハルシネーションで絶版に 私が初めてChatGPTについて記事にしたのは2022年12月のことで、それからもうすぐ4年になりますが、大規模言語モデル(LLM)、いわゆるAIはその間にすっかり多くの人に身近なものになってしまいました。LLM自体も恐るべき速度で進化を続け、今やなくては困るという人も少なくない状況になりつつあります。さて、当初LLMといえばハルシネーションといわれる嘘や知ったかぶりのデマカセがつきもので、結構な割合で間違ったことを言っていたので気をつけなければいけないと言われていました。しかし、それについても最近ではずいぶん改善されてきており、必要に応じて勝手にインターネットを検索して情報を確認したりもするようになったので、私自身もその感覚がだいぶ薄れてきてしまっていたように思います。そういうことがあったからなのかどうかわかりませんが、高文研が発行していた「無責任の体系と沖縄戦」という書籍において、「沖縄戦におけるスパイ容疑住民虐殺に関する国際裁判の判例」として挙げていた3件について、これらがいずれもAI検索のハルシネーションにより作り上げられたもので、現実には存在しないものだったとのことです。これにより、本書は絶版とされ、回収されることになりました。 無責任の体系と沖縄戦: 戦争犯罪・語り・平和教育 ¥2,860 (評価数: 0) (2026-10-10 現在) Amazonで見る 私も最近はChatGPTを使って調べ物をすることが多くなっていますし、普通にGoogleで検索をしても「AIによる概要」が出てくるので、これを参照してしまうことが少なくありません。しかし、特にこの「AIによる概要」には誤りが多いとも言われていますし、あくまで検索結果のまとめを元にAIがまとめたもので、必ずしもそれが真実であるとは限りません。要約の元になっている記事が誤ったものだったり、素人のいい加減なものであるということも珍しくありませんし、さらにハルシネーションも混ざる可能性があるのですから、注意が必要です。ちょっとした趣味程度のことであれば大きな問題はないかもしれませんが、仕事に関わることだったり、健康や財産に関する物事については、特に慎重に判断しなければなりません。 #artificialIntelligence #book #llm #technology
AI検索のハルシネーションで絶版に 私が初めてChatGPTについて記事にしたのは2022年12月のことで、それからもうすぐ4年になりますが、大規模言語モデル(LLM)、いわゆるAIはその間にすっかり多くの人に身近なものになってしまいました...