AI競争の激化を背景に、AnthropicとOpenAIが安全規則の表現を調整
Svmuuニュース:Anthropicは、責任ある拡大に関する方針から中核的な安全に関する約束事項を削除し、リスク軽減策が完全に整備されていない場合にトレーニングを一時停止するという約束を撤回した。Anthropicの最高科学責任者(CSO)であるジャレッド・カプラン氏はTIME誌に対し、AIが急速に発展する中、競合他社が開発を継続するならば、一方的にトレーニング停止を約束しても実質的な意味はないと述べた。OpenAIも同様にミッションステートメントを修正し、2024年のIRS(内国歳入庁)提出書類から「safely(安全に)」という言葉を削除した。以前は「safely benefits humanity(安全に人類に利益をもたらす)」汎用AIの構築と表現されていたが、現在は「汎用AIが全人類に利益をもたらすことを確保する」に変更された。RAND Corporationの上級政策研究員エドワード・ガイスト氏は、初期のAI安全推進派が想定していた高度なAIと現在の大規模言語モデルには本質的な違いがあり、用語の変更は、企業が投資家や政策立案者に対し、安全上の懸念から経済競争で後退することはないというシグナルを送りたいという意向を反映していると指摘した。Anthropicは最近300億ドルの資金調達を完了し、企業価値は約3800億ドルとなった。一方、OpenAIはAmazon、Microsoft、Nvidiaが支援する最大1000億ドル規模の資金調達を進めている。一方、Anthropicは、国防総省(ペンタゴン)に対し「Claude」への全面的なアクセス権限を付与することを拒否したことで、ピート・ヘグセット米国防長官と公然と対立しており、同社の国防関連契約は不透明な状況にある。(Decrypt)
免責事項:本内容は著者個人の見解であり、投資助言ではありません。違反内容を発見した場合クリックして通報
おすすめ記事


