AnthropicX
Anthropicがアクセンチュアと提携、最先端AIの独立評価へ約1000億円超を投資
インプレッション2,830,475リポスト1,007いいね3,699
保存・既読はこの端末のブラウザにのみ記録されます。コピーには記事の公開情報のみが含まれます。保存データの管理 →
専門用語をかみ砕いて、仕事で使える言い方にしています。
結論
Anthropicは、の安全性や倫理性を客観的に評価するため、と提携しました。
今後5年間で、両社それぞれが少なくとも10億ドル規模の投資を計画しています。
評価者は社内に常駐し、開発の裏側を確認しながら安全性の検証や監査を行います。
詳細内容
アクセンチュアの専門組織であるFacultyが中心となり、モデルの安全テストや不正利用への耐性テストを担当します。
外部の評価者が企業の内部に入り込む「」という新しい仕組みを導入し、開発プロセスを透明化します。
長期的には資金提供の仕組みなどを整備しつつ、非営利団体など他の評価機関とも連携を広げていく方針です。
使えるシチュエーション
- 1AI導入企業のビジネス担当者が、外部監査による安全性の担保を確認したいとき
- 2経営陣や法務部門が、AI開発企業のコンプライアンスや信頼性を評価基準に組み込むとき
- 3政府や公的機関が、AIの安全性評価の業界標準やエコシステムの動向を調べるとき
公式もこう言っている
公式記事で確認する →Xの投稿がきっかけです。内容の裏取りは公式の一次情報でしています。
https://www.anthropic.com/news/accenture-embedded-evaluation