AnthropicがAI安全性評価の設計・実施・報告に関する指針を解説

Anthropicは、AI安全性評価の設計、実施、報告に関する推奨事項を公開しました。評価対象の構成概念を明確にし、採点者を人間の判断と照合して検証することや、不確実性を含めて結果を報告することなどを勧めています。関連記事の例では、単一ターン評価のサンプル数は1,000件、複雑な複数ターン評価は100件を目安としています。