AI開発者はAIモデルを直接設計・変更できる立場にあるため、その影響を事前に十分検討し、リスクへの対応策を講じることが重要とされている。開発段階での判断がAIの安全性・信頼性に直結することから、開発者の責任が特に強調されている。

• AIシステムに不公正なバイアスがないか点検されることを確保する
• AIを安全に利用可能な使い方について明確な方針・ガイダンスを設定する
• 学習データやモデルの学習過程におけるバイアスを考慮し、データの質を管理する措置を講じる
• 予期しない環境を含む様々な状況下での利用に耐えうる性能要求とリスク最小化を求める
• 採用する技術の特性に照らし、適切にセキュリティ対策を講じる

本編 別添 第3部 AI開発者に関する事項 [1/2] AI開発者 AI提供者 AI利用者 データ前処理・学習 開発 システムへの実装 提供 利用 ・ AI開発者は、AIモデルを直接的に設計・変更ができるため、AIが提供/利用された際にどのような影響 を与えるか、事前に可能な限り検討し、対応策を講じておくことが特に重要です データ前処理 学習時 D-2) i. 適切なデータの学習 プライバシー・バイ・デザイン等を通じて、個人情報、知的財産権に留意が必要な もの等が含まれている場合には、法令に則って適切に扱う ・ データ管理・制限機能の導入検討を行う等、適切な保護措置を実施する D-3) i. データに含まれるバイアス 等への配慮 学習データ、モデルの学習過程でバイアスが含まれることに留意し、データの質を 管理するための相当の措置を講じる バイアスを完全に排除できないことを踏まえ、AIモデルが代表的なデータセットで 学習され、AIシステムに不公正なバイアスがないか点検されることを確保する D-2) ii. 人間の生命・身体・ 財産、精神及び環境に 配慮した開発 予期しない環境を含む様々な状況下での利用に耐えうる性能の要求 リスクを最小限に抑える方法の要求 D-2) iii. 適正利用に資する開発 AIを安全に利用可能な使い方について明確な方針・ガイダンスを設定する AIモデルに対する事後学習を行う場合に、学習済みAIモデルを適切に選択する AI開発時 D-3) ii. AIモデルのアルゴリズム等 に含まれるバイアスへの 配慮 AIモデルを構成する各技術要素によってバイアスが含まれることまで検討する AIモデルが代表的なデータセットで学習され、AIシステムに不公正なバイアスがな いか点検する D-5) i. セキュリティ対策のための 仕組みの導入 採用する技術の特性に照らし適切にセキュリティ対策を講ずる (セキュリティ・バイ・デザイン) D-6) i. 検証可能性の確保 AIの予測性能及び出力の品質が、活用開始後に大きく変動する可能性又は想 定する精度に達しないこともある特性を踏まえ、事後検証のための作業記録を保 存しつつ、その品質の維持・向上を行う 20