AnthropicX
Anthropic、第三者評価機関METRに社員同等のアクセス権を付与して安全性評価を実施
インプレッション240,000リポスト241いいね2,195
保存・既読はこの端末のブラウザにのみ記録されます。コピーには記事の公開情報のみが含まれます。保存データの管理 →
専門用語をかみ砕いて、仕事で使える言い方にしています。
結論
社はAIの安全性を確認するため、外部の専門機関による評価を受ける体制を整えました。
すでに独立した評価機関であるのチームに対し、自社の社員と同レベルのシステムアクセスを渡しています。
この取り組みにより、AIが社会に害を及ぼさないか客観的かつ厳格にテストされることになります。
詳細内容
AI開発の透明性と信頼性を高めるため、自社だけでなく外部の目を入れる方針を明確にしました。
単なる資料の提供にとどまらず、内部の仕組みへ直接触れられる権限を渡すことで、より実態に即した安全テストが可能になります。
今後はMETR以外の複数の専門機関とも連携を広げ、安全性の検証プロセスをさらに強固にしていく予定です。
使えるシチュエーション
- 1AIサービスの導入にあたり、企業の安全担当者がセキュリティや倫理面を説明する場面
- 2自社で利用するAIモデルが適切にリスク管理されているか社内報告する場面
- 3AI業界全体における安全性基準の最新動向をビジネスパートナーと共有する場面