AI が真実を支配する時代：分散化の幻想と中央集権化の現実

人工知能に関する議論は雇用、ディープフェイク、著作権、自動化に集中しています。しかし、より重要な問題があります。AIが真実と判断するものを誰が支配しているのかという問題です。AIは分散化の象徴に見えますが、実は活版印刷以来、最も中央集権的なテクノロジーなのです。

歴史的背景：活版印刷から学ぶ教訓

活版印刷が登場した時、プロテスタント改革者たちはそれを教皇の知識独占の終わりと見なしました。聖書を誰もが読めるようになれば、教皇の権威は失われるはずでした。ある意味、彼らは正しかったのです。

しかし活版印刷は同時に、英語を支配的言語として標準化し、地域方言を消滅させ、近代国家を可能にしました。安価で再現可能なテキストなしに、統一的な法律や大規模な税徴収は存在しなかったのです。

解放に見えたものは、実は中央集権化でした。気づくまでに2世紀かかりました。

AIではこのプロセスがはるかに速く進行しています。GoogleがAI OverviewsでGeminiの回答を表示すると、ユーザーの半分はクリックしなくなり、26%は検索を直接閉じてしまいます。

クリックなし検索は54%から72%に増加しました。多様性と混乱に満ちたオープンウェブは、単一の合成回答に敗北しつつあります。

その回答は中立的ではありません。大規模言語モデルは主に英語圏の大手新聞、Wikipedia、学術テキストで訓練されています。地域的またはマイノリティの情報源はコーパスにほぼ存在しません。

ファインチューニング中、モデルは専門家のコンセンサスに合わせるよう調整され、不快な立場を回避するように設計されます。これは人間の多様性の鏡ではなく、その中心に現れるものの写真に過ぎません。

ユーザーはAIに任意の立場を擁護させることができ、多様性は生産ではなく使用にあると主張する人もいます。この議論には一定の妥当性があります。

しかし活版印刷も多様なコンテンツを生産していました。中央集権化していたのは標準を設定する者でした。ここでは、シリコンバレーで西洋のチャットボット用に作られたコーパスが標準を設定しています。

Muskがモデルを進歩的コンセンサスから遠ざけようとしたとき、システムは数日でアンチセミティックなコンテンツを生成し始めました。彼は方針転換を余儀なくされました。

LLMの価値観は表面的なレイヤーにはなく、最初からコーパスに組み込まれています。

ChatGPTは週間ユーザー10億人に近づいています。エリートモデルはわずかな企業によって開発されています：

これらのエリートモデルの研究者の多くは同じ場所で学び、同じオフィスで働き、概ね同じ文化的参照を共有しています。

この集中化の危険性は、AIがGoogleより多く嘘をつくことではありません。危険性は、AIが間違うとき、陰謀論ではなく中央に向かって間違うということです。

その中央を設定しているのは、誰も決定していないのに、サンフランシスコのわずかな人々です。

ジャーナリストのJerusalem DemsasはThe Argumentでこの現象を詳細に分析しています。

**メタタイトル案：** AI支配の真実：分散化の幻想と中央集権化の現実

**メタディスクリプション案：** AIが真実を支配する時代。活版印刷から学ぶ教訓と、シリコンバレーが世界の情報を統制する危険性。