Q. 内閣府のAIシステム安全性評価と認証制度（2024年）はどれくらいですか？

• AI利用の透明性確保のための電子透かしや来歴証明等の技術的対応の重要性
• 偽・誤情報対策としてのAI生成コンテンツ判定や発信者信頼性確保技術の研究開発と社会実装の推進
• AIシステムおよび利用組織のガバナンス認証に関するISO等での検討状況

• 経済財政諮問会議会議17回・追跡中の政策127件
• 規制改革推進会議 スタートアップ・イノベーション促進WG会議15回・追跡中の政策79件
• 規制改革推進会議 デジタル・AI WG会議10回・追跡中の政策63件

いため、国内外の事業者による情報提供等の協力を求められるように、法制度による対応が適当である。 偽・誤情報対策として、他国において、AIを利用したサービスであることを顧客に通知することや、AIで作成したコンテンツにAI生成であると表示することを、一部義務付けている例があり注視する必要がある。また、透明性や適正性確保のため、電子透かし8や来歴証明9等による技術的な対応も重要である。関連して、2024年9月には、総務省のデジタル空間における情報流通の健全性確保の在り方に関する検討会において、偽・誤情報等について、AIが生成した情報であるか否かを判断する技術や、情報コンテンツ、その発信者の信頼性等を確保する技術等の研究開発や社会実装を進めていくことが重要であるとし、政府に対する具体的な方策を提言している。 ②国内外の組織が実践する安全性評価と認証に関する戦略的な促進 AIの安全・安心な活用の促進にあたっては、安全性評価や認証制度の実施も1つの有効な手段である。安全性の評価や認証制度は、AIシステムに関する評価・認証と、AIを利用する組織のガバナンス等に関する評価・認証とに大別される。 AIシステムの安全性の評価について、リスクを理解するAIの開発者、提供者や利用者は、組織内外の専門家チームや評価用のツールなどを使って、基本的には自らリスク評価を行い、対処していくべきである。将来的に有用な第三者認証が確立されるならば、AI開発者や提供者がかかる第三者認証を取得することにより、一般国民を含む多くの利用者やこれまでAIサービスを扱っていなかった提供者がAIの安全性を評価することも考えられる。提供者や利用者は、第三者認証の有無によって、安全性の高いAI事業者やそのAIシステムを認識し、選択することが可能となる。 一方、AIを利用する組織のガバナンスに関しては、利用者が自ら体制を構築して評価する場合と、第三者認証制度を活用する場合が考えられる。第三者認証制度は、AIの安全・安心な活用を促進し、我が国のAI産業の活性化に寄与する方策の一つとなると考えられる。 なお、AIシステム、AIを利用する組織のガバナンスの認証については、ISO等で検討がなされている状況である。 安全性については電気用品安全法（昭和36年法律第234号）、医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（昭和35年法律第145号）といった個別法により規律が既に導入されているほか、「AI事業者ガイドライン」による対応もなされている。また、各国のAISIのコミュニティ、ISO、IEC等においても議論が行われている状況である。 国際的な基準や規格を作る活動は、将来の世界的な市場においてAIシステムの相互運用性を確保するために重要であり、積極的かつ戦略的に対応する必要がある。 8 電子透かしはAIが生成したことを示す識別情報をコンテンツに埋め込む技術で、例えば「SynthID」等の技術が存在する。 9 来歴証明は作成者等の来歴情報を検証可能な形でコンテンツに付与する技術で、例えば「Originator Profile」「C2PA」等の技術が存在する。 15