AnthropicのCEOであるダリオ・アモデイ氏が、AIの能力向上を安全対策が追いつくペースで進めるべきだとする提案を発表しました。
https://x.com/DarioAmodei/status/2098773920774074715?s=20
ダリオ氏は、開発を止めるのではなく、モデルの能力向上と安全性の検証を並行させる「ペース調整」が必要だと説明しています。この提案には、AI企業の内部で継続的に活動する独立したレビュアーの設置や、企業・政府間での安全基準づくりなどが含まれます。
この提案に対し、OpenAIのCEOであるサム・アルトマン氏は、AI開発の最前線におけるペース調整に賛同する姿勢を示しました。また、独立したレビュアーに従業員に近いアクセスを認める考えについても、OpenAIで同様の取り組みを進める方針を示しています。
https://x.com/sama/status/2098811563415150910?s=20
SpaceXAIのCEO イーロン・マスク氏もこの提案に反応し、支持する短いメッセージを投稿しました。
https://x.com/elonmusk/status/2098789109980332057?s=20
競争を続けながらも、安全性の確認に必要な時間を確保できるかが、今後のAI開発をめぐる論点になるのではないでしょうか？