Anthropic、AIのウェルビーイング影響評価で500万ドル助成プログラム発表

📖 詳細

【要点】 ・独立研究者向けに500万ドルの助成プログラムを開始し、資金・モデルアクセス・技術支援を提供 ・助成対象者は独立してオープンソースの評価ツールを構築し、誰でも利用可能な形で公開 ・AIとの会話におけるウェルビーイング評価は文脈や複数ターンのやり取りが必要で難度が高い ・臨床専門家関与や過剰遵守・過剰拒否の両面評価を含む厳格な評価基準の指針を公開 ・応募締切は9月21日で、選考通過者は10月5日までに通知される 【インパクト考察】 ・想定されるのは、Claudeの安全性評価手法が外部の専門知見により多角的に検証され、応答品質の改善につながる可能性 ・開発者にとってはオープンソースの評価ツールを活用し、自社モデルのウェルビーイング対策を強化できる機会が期待される ・利用者側では、長期的な会話におけるAIの配慮が向上し、安心して利用できる環境の整備が進むことが想定される 公式: https://www.anthropic.com/news/wellbeing-research-grants