AI開発者は、採用する技術の特性を踏まえ、それぞれのリスクに応じた適切なセキュリティ対策を実施することが求められている。技術ごとに脅威の性質が異なるため、一律でなく技術特性に照らした個別の対策立案が重要とされている。

• AIシステムに不公正なバイアスがないか点検されることを確保する
• AI開発者は、AIモデルを直接的に設計・変更できるため、影響を事前に検討し対応策を講じることが重要
• AIを安全に利用可能な使い方について明確な方針・ガイダンスを設定する
• 学習データやモデルの学習過程におけるバイアスを考慮し、データの質を管理する措置を講じる
• 予期しない環境を含む様々な状況下での利用に耐えうる性能要求とリスク最小化を求める

本編 別添 第3部 AI開発者に関する事項 [1/2] AI開発者 AI提供者 AI利用者 データ前処理・学習 開発 システムへの実装 提供 利用 ・ AI開発者は、AIモデルを直接的に設計・変更ができるため、AIが提供/利用された際にどのような影響 を与えるか、事前に可能な限り検討し、対応策を講じておくことが特に重要です データ前処理 学習時 D-2) i. 適切なデータの学習 プライバシー・バイ・デザイン等を通じて、個人情報、知的財産権に留意が必要な もの等が含まれている場合には、法令に則って適切に扱う ・ データ管理・制限機能の導入検討を行う等、適切な保護措置を実施する D-3) i. データに含まれるバイアス 等への配慮 学習データ、モデルの学習過程でバイアスが含まれることに留意し、データの質を 管理するための相当の措置を講じる バイアスを完全に排除できないことを踏まえ、AIモデルが代表的なデータセットで 学習され、AIシステムに不公正なバイアスがないか点検されることを確保する D-2) ii. 人間の生命・身体・ 財産、精神及び環境に 配慮した開発 予期しない環境を含む様々な状況下での利用に耐えうる性能の要求 リスクを最小限に抑える方法の要求 D-2) iii. 適正利用に資する開発 AIを安全に利用可能な使い方について明確な方針・ガイダンスを設定する AIモデルに対する事後学習を行う場合に、学習済みAIモデルを適切に選択する AI開発時 D-3) ii. AIモデルのアルゴリズム等 に含まれるバイアスへの 配慮 AIモデルを構成する各技術要素によってバイアスが含まれることまで検討する AIモデルが代表的なデータセットで学習され、AIシステムに不公正なバイアスがな いか点検する D-5) i. セキュリティ対策のための 仕組みの導入 採用する技術の特性に照らし適切にセキュリティ対策を講ずる (セキュリティ・バイ・デザイン) D-6) i. 検証可能性の確保 AIの予測性能及び出力の品質が、活用開始後に大きく変動する可能性又は想 定する精度に達しないこともある特性を踏まえ、事後検証のための作業記録を保 存しつつ、その品質の維持・向上を行う 20