OpenAIX
OpenAI、AIを活用した脆弱性発見とセキュリティ強化・バグ報奨金の引き上げを実施
表示536,627リポスト450いいね2,757
保存・既読はこの端末のブラウザにのみ記録されます。コピーには記事の公開情報のみが含まれます。保存データの管理 →
専門用語をかみ砕いて、仕事で使える言い方にしています。
結論
AIの進化に合わせ、システムを守る側もAIを使ってを先に見つける必要があるとしています。
OpenAIは社内セキュリティ強化のため、専門家チームと協力してを用いた防御テストを計画しています。
セキュリティ上の弱点を見つけた外部の人へ支払う「」の大幅な引き上げを発表しました。
詳細内容
攻撃者がAIを悪用する前に防御側が対策を講じるため、AIモデルを活用した脆弱性発見の取り組みを進めています。
外部の専門企業であるCathedral Systemsの研究者を迎え、開発チームと共に自社の防御体制を検証する予定です。
重大な問題を発見した際の報奨金をこれまでの4倍以上に引き上げ、最高で17万2,000ドルを支給します。
今後はモデルの性能をさらに高めつつ、信頼できる防御側へのアクセス拡大や自社システムの保護に役立てていきます。
使えるシチュエーション
- 1自社サービスのセキュリティ対策や脆弱性診断の計画を見直すとき
- 2外部の専門家やホワイトハッカーと協力してセキュリティを検証するとき
- 3脆弱性報告制度（バグ報奨金プログラム）の報酬設計を検討するとき