Q. AI安全評価環境（2024年）はどれくらいですか？

• 自動レッドチーミングツールやデータセットを含む汎用的なAIセーフティ評価環境を構築する
• ヘルスケアやロボティクス等の分野別AIセーフティ評価に関するドキュメントやシナリオを策定する
• AIシステムに対する特有の攻撃手法の調査およびAIセキュリティインシデントの分類体系を検討する
• 最新の動向を反映した評価観点ガイドとレッドチーミング手法ガイドを改訂する
• 経産省は国研等のアセットを活用し技術面からAISIを支援する

• 産業構造審議会 総会会議4回・追跡中の政策30件
• 総合資源エネルギー調査会 省エネルギー小委員会会議4回・追跡中の政策32件
• 中小企業政策審議会 金融小委員会会議1回・追跡中の政策16件
• 産業構造審議会 経済産業政策新機軸部会会議3回・追跡中の政策19件

AIセーフティの取組強化 〜AISIを中核とした標準化活動〜 ● AISIは、これまでの取組を発展させ、ドキュメントの策定や国際連携に加え、汎用/分野別のAI セーフティ評価環境の構築等を目指す。 ● その際、経産省としては、国研等のアセットも活用しながら、主に技術面からAISIを支援する。 AISIの取組方針 ● 最新の動向を反映した「評価観点ガイド」「レッドチーミング 手法ガイド」の改訂 ● 汎用的なAIセーフティ評価環境(自動レッドチーミングツール、 データセットなど)の構築 ● 分野別(ヘルスケア、ロボティクス、データ品質、適合性評価 等)の取組(分野別AIセーフティ評価に関するドキュメント、 評価シナリオ、データセット等の策定) ● AIセキュリティに対する取組(AIシステムに対する特有の攻撃 手法の調査、AIセキュリティインシデントの分類体系の検討) ● 国際連携の強化 等 技術面から の貢献 国研等を活用した取組 AIの高度化に伴うリスク の変容への対応 AIセーフティの評価・管理の 基盤となる技術 生活空間における AIセーフティの評価・実装 のための技術 AIセーフティの 標準化活動 適用領域の拡大 (ヘルスケア、ロボティクス等) 標準化のための活動 93