AnthropicX
Claude、AIが本物のモデルで生成したことを数学的に証明する新システム「FlashProve」を発表
表示190,000リポスト438いいね3,248
保存・既読はこの端末のブラウザにのみ記録されます。コピーには記事の公開情報のみが含まれます。保存データの管理 →
専門用語をかみ砕いて、仕事で使える言い方にしています。
結論
Anthropicは、AIが本当に指定通りのモデルで回答を作成したかを証明する新システム「」を発表しました。
暗号技術を用いて、AIが裏で別の安いモデルにすり替えられたり改ざんされたりしていないかを検証できるようにします。
大規模なAIモデルであっても実用的な速度で証明を作成可能で、コードや検証用の資料が無償公開されています。
詳細内容
これまではAIの返答内容だけを見て本物かどうかを判断することは難しく、第三者による不正の検知が課題でした。
FlashProveは数理的な暗号技術を活用し、AIの中身（モデルの重み）を秘密にしたまま、正しい処理が行われたことだけを証明します。
研究段階のプロトタイプでありながら、従来よりも圧倒的に高速に動作し、外部の監査や規制対応への応用が期待されています。
使えるシチュエーション
- 1利用しているAIが、コスト削減のために勝手に別の低品質なモデルへすり替えられていないか確認したいとき
- 2企業や公的機関が、安全基準や規制をAIが正しく守っているかを客観的に監査したいとき
- 3外部の第三者テスト機関が、公開前のAIモデルの性能を正しく評価したいとき
公式もこう言っている
公式記事で確認する →Xの投稿がきっかけです。内容の裏取りは公式の一次情報でしています。
https://anthropic.com/research/provable-inference