Q. 内閣府によるシステミック・リスクの定義（2024年）はどれくらいですか？

• 経済財政諮問会議会議16回・追跡中の政策25件
• 規制改革推進会議 スタートアップ・イノベーション促進WG会議15回・追跡中の政策27件
• 規制改革推進会議 デジタル・AI WG会議10回・追跡中の政策19件

3.生命・身体の安全、システミック・リスク、国の安全保障等に関わるもの 医療機器、自動運転車、基盤サービス等、特に国民生活や社会活動に与える影響が大きい生命・身体の安全やシステミック・リスク14に関わるものについては特に注力して対応する必要があると考えられるが、業界毎に各業所管省庁が既存の業法に基づき対応し、また、追加的な対応の必要性の有無を判断するため、AI技術の発展、利用状況について随時業界と対話している状況である。 現時点においては、引き続き、各業所管省庁が既存の法令あるいはガイドライン等の体系の下で対応すべきであるが、今後、新たなリスクが顕在化し、既存の枠組で対応できない場合には、政府は、関連する枠組の解釈を明確化たうえで、制度の見直しあるいは新たな制度の整備等を含めて検討すべきである。システミック・リスクについては、将来的に、複数のAIシステムが連動する大規模なAIシステム群が社会システムを支える状況となる可能性があり、その際、当該AIシステム群が予期せぬ挙動をした場合、社会全体に大きな混乱をもたらす可能性があるため、適切に対処することが重要である。 また、CBRN等の開発やサイバー攻撃等へのAIの利用といった国の安全保障に関わるリスクについては、我が国の安全保障を確保するという観点から、関係省庁において、必要な対応をさらに検討していく必要がある。 IV.おわりに 諸外国においては、AIに関する制度整備が進められているなか、以上を踏まえると、我が国においては、イノベーション促進とリスクへの対応の両立を図るため、広く一般的に使われるAIを対象とする指針を政府が整備などを行い、透明性・適正性の確保が事業者主導で進むよう促しつつも、生命・身体の安全や安全保障の確保は当然の前提として、AIの開発、利用等の実態を含めた様々なリスクへの対応状況を政府が調査・把握し、重大な問題が生じた場合、あるいは生じる可能性が高い場合には、既存の法令等に基づく対応や、必要なサポートを講じるべきである。特に、AIは世界中で急速な技術革新が起きており、政府は迅速な状況の把握と対応が可能となるよう体制を整える必要がある。政府による調達・利用や、基盤サービス等については、業界との対話を継続しつつ、まずは各業法、ガイドライン等で対応すべきである。このように官民協調によるリスクガバナンスを確立していくことが重要である。 上記の政府による指針の整備・対応やAIに関する実態の調査・把握にあたっては、事業者による自主的な対応も重要であるが、実効性を確保することが必要であるため、事業者の活動にもたらす影響等を考慮しつつ、法制度により実施すべきである。なお、これらの法制度による対応にあたっては、広島AIプロセス等でも確認された、法の支配、適正手続き、民主的責任行政、及び基本的人権、特にプライバシー権などの基本原理を遵守し、法制度がイノベーション促進の阻害とならないように留意する必要がある。 14 特定のシステムの不全が関連するシステムにも波及し、広範囲に深刻な影響を及ぼすリスク。 19