AI生成の「スロップ」コンテンツがインターネットと現実世界を侵食：図書館や学術論文に深刻な影響

AIによる低品質な「スロップ」コンテンツがインターネット全域に広がり、**Etsy**や**Wikipedia**の真正性を損ない、不動産検索サイト**Idealista**を混乱させ、社会メディアを埋め尽くしています。さらに現実世界の図書館にまで及んでいます。

何が起きているのか

Scientific Americanが報じたところによると、人々が図書館やアーカイブを訪れ、存在しない書籍や科学論文を探すケースが増えています。国際赤十字社は**Gemini**、**ChatGPT**、**Copilot**などのAIツールを原因とし、「これらのシステムは調査を行わず、ソースを検証せず、情報を照合しません。統計パターンに基づき新しいコンテンツを生成するため、架空の結果を生み出します」と警告しています。

図書館司書たちの苛立ち

バージニア州立図書館の研究ディレクターは、メールでの問い合わせの少なくとも**15%**が**ChatGPT**類似ツール生成の文書に関するものだと推定します。「スタッフにとって、単一の記録が存在しないことを証明するのははるかに困難です」と述べています。Blueskyの利用者一名が同様の体験を共有、学生がAIのGoogle要約由来の参考文献リストを求め、無駄な検索の末にその出所を告白したそうです。

架空引用の長期化する問題

架空引用は最近の現象ではなく、2023年すでに議論されていました。シアトル大学はこれらの検証が極めて困難だと指摘。AIは実在の雑誌や書籍タイトルを使い、存在しない章や号を組み合わせ、説得力を持たせますが、実際は行き止まりです。

AI生成書籍の問題点

架空引用以外に、司書らはAI完全生成書籍を「信じがたいほど低品質」と批判。韓国でのAI教科書プログラムの失敗事例も最近明らかになりました。また、著作権問題として、書籍が著者補償なしにAI訓練に使われ、**Anthropic**に対する作家集団の訴訟は企業側の勝利で終わりました。

AI研究論文自体がAIスロップに

Futurismによると、AIスロップの結果、AIを研究する論文自体がAI生成です。AI論文数は近年倍増し、**NeurIPS**誌は博士課程学生にレビュー支援を依頼。研究者**Kevin Zhu**は1年で**100本超**の論文に関与し、専門家が驚く数字。これらの多くは架空引用、明らかな誤り、レビューシステム操作のための隠しテキストを含みます。

AIの幻覚現象

AIが事実を捏造するのは一般的で、AI用語の**幻覚（hallucinations）**と呼ばれ、大規模言語モデルの弱点です。進歩は大きいものの、情報検証が不可欠。**Deloitte**コンサルタントがオーストラリア政府に提出した報告書に架空報告書引用が入り、発覚例もあります。