AnthropicのAI安全責任者、Mrinank Sharma氏が辞任　詩作りに専念へ

AnthropicのAI安全責任者、Mrinank Sharma氏が辞任を発表した。彼はXで公開した手紙で、AI開発の危機を警告し、詩作りに人生を捧げると述べた。この動きはAI業界の倫理的ジレンマを象徴する。[約40語]

Anthropicで何をしていたのか？

Sharma氏はAnthropicのSafeguards Research Teamを率いていた。Safeguards Research TeamはAIシステムのリスクを研究するチームだ。

彼の仕事はAI支援バイオテロへの防御開発を含んだ。また、AIモデルのユーザーへのおべっか（sicofancia）を研究した。

さらに、AIが人間の知覚や文化行動に与える影響を調査した。

Sharma氏はXで手紙を公開した。手紙は急速に拡散された。

“世界は危険にさらされている。AIや生物兵器だけでなく、相互接続された一連の危機が今進行中だ”。

彼は人類が倫理的ジレンマに直面していると警告した。AI開発者の叡智が世界影響力に追いつかないと、結果を招くと述べた。

Sharma氏は「価値観が行動を導くのは難しい」と書いた。重要なことを後回しにする圧力に常に直面した。

これらの社員はAI技術が自らの仕事を変える開発に携わる。数年以内に数百万人の仕事が変わる可能性がある。

手紙はAIが人類を破壊する武器のように見える。しかし、AnthropicはOpenAIやMicrosoft、xAIより進んでいる証拠だ。

他の企業の開発者は同様の衝撃を感じていないようだ。彼らのモデルはまだその進化段階にないのかもしれない。

Sharma氏は詩作りを「勇敢な言説の実践」と呼んだ。AI業界のペースと焦点への不満の表れと解釈されている。

最近、Anthropicの重要人物が辞任した。Harsh Mehta氏とBehnam Neyshabur氏だ。

人物	辞任後
Sharma氏	詩作りに専念
Mehta氏・Neyshabur氏	新AIプロジェクト開始

彼らは倫理より新AI事業を選んだ。Sharma氏の選択は独自だ。