Anthropic、Accentureとfrontier AIの独立評価で提携を発表

📖 詳細

【要点】 ・AnthropicはAccentureのAI専門事業であるFacultyと提携し、モデルの評価・red-teaming・alignment評価・safeguardsテストを実施する。 ・両社は今後5年間でこの分野の能力構築にそれぞれ少なくとも10億ドルを投資する予定である。 ・Embedded evaluatorはAI企業内部で従業員相当のアクセス権を持ち、訓練過程や意思決定を直接観察できる。 ・AnthropicはAccentureの評価作業に対し直接資金提供を行い、METRなど他の評価機関とも並行して協力する。 ・提携は非独占であり、Anthropicは今後数週間で他の評価機関とも提携を発表する予定である。 【インパクト考察】 ・Claudeを利用する企業や開発者は、第三者による安全性の検証が進むことでモデルの信頼性向上を期待される。 ・Embedded evaluatorの活動により、モデル開発の透明性が高まり、利用者が安全対策の実施状況をより具体的に把握しやすくなると想定される。 ・今後複数の評価機関が並行して関与することで、Claudeの安全基準や運用方針が外部視点で多角的に検証される可能性がある。 公式: https://www.anthropic.com/news/accenture-embedded-evaluation