AI開発者はAI提供者に対し、AI活用開始後に品質が変動する可能性とそれに伴うリスクについて情報提供と説明を行うことが求められている。AIシステムの継続的な安全確保に向けたリスクコミュニケーションの義務を定めるものである。

• AI開発者は、AIシステムに対する攻撃手法の増加に対応するため、開発の各工程で留意すべき点を確認する
• AI開発者は、社会全体への情報提供を行う
• AI開発者は、AIの品質・信頼性、開発の方法論等の研究開発を行う
• AI開発者は、持続的な経済成長の維持及び社会課題解決につながるよう貢献する
• AI開発者は、AIシステムの開発過程、意思決定に影響を与えるデータ収集及びラベリング、使用されたアルゴリズム等について文書化する

本編 別添 第3部 AI開発者に関する事項 [2/2] AI開発者 AI提供者 AI利用者 データ前処理・学習 開発 システムへの実装 提供 利用 ・ AI開発者は、AIモデルを直接的に設計・変更ができるため、AIが提供/利用された際にどのような影響を与えるか、事前に可能な限り検討し、対応策を講じておくことが特に重要です 開発後 D-5) ii. 最新動向への留意 - AIシステムに対する攻撃手法は日々新たなものが生まれており、これらのリスクに対応するため、開発の各工程で留意すべき点を確認する D-6) ii. 関連するステークホルダーへの情報提供 - AIシステムの技術的特性、安全性確保の仕組み、予見可能なリスク及びその緩和策、不具合の原因及び対応状況等に関する情報提供を行う D-7) i. AI提供者への共通の指針の対応状況の説明 - AI提供者に対して、AIに活用開始後に品質が変動する可能性及び、その結果として生じるリスク等の情報提供及び説明を行う D-7) ii. 開発関連情報の文書化 - AIシステムの開発過程、意思決定に影響を与えるデータ収集及びラベリング、使用されたアルゴリズム等について文書化する D-10) i. イノベーションの機会創造への貢献 - AIの品質・信頼性、開発の方法論等の研究開発を行う - 持続的な経済成長の維持及び社会課題解決につながるよう貢献する - DFFT等の国際会議の動向の参照、AI開発者コミュニティ又は学会への参加等の取組を行う等、国際化・多様化及び産学官連携を行う - 社会全体への情報提供を行う 最先端の基盤モデル及び生成AIシステムを含む、高度なAIシステムを開発するAI開発者については「高度なAIシステムを開発する組織向けの広島プロセス国際行動規範」を参照 21