AI時代の知的財産権検討会　第8回

2025-10-24 AI時代の知的財産権検討会（第８回） 10時00分～12時00分 ○福田参事官 それでは、定刻となりましたので、会議を開催させていただきます。 傍聴される方々におかれましては、会議の様子のスクリーンショット や録音・録画は御 遠慮くださいますようお願いいたします。 本日は、佐渡島委員、竹中委員が欠席となっております。 本検討会は、渡部俊也委員に座長をお願いしておりますので、ここからの議事の進行を 渡部座長にお願いいたします。渡部先生、よろしくお願いいたします。 ○ 渡部 座 長 おは よ う ご ざい ま す 。 只今 か ら 、 第８ 回 「 AI 時代 の 知 的 財産 権 検 討 会」 を 開催いたします。本日は、御多忙のところ、御参集いただき誠にありがとうございます。 初めに、事務局から本日の会議資料の確認をお願いいたします。 ○福 田 参 事官 事 務局 から 、 本 日の 配 付 資料 は、 資 料 １「 『 AI 時代 の知 的 財 産権 検 討 会』 の開 催 につ い て」 、 資 料２ － １「 知 的財 産 推 進計 画 2025 （概 要 ）」 、資 料 ２－ ２ 「知 的 財産 推 進計 画 2025 （本 文） 」 、資 料 ３「 論 点 例」 と なり ま す。 ま た 、本 日 御欠 席 の竹 中 委員から、資料４のとおり、意見を提出いただいております。 これらのほか、参考資料１－１から参考資料１２を配付しております。 また、今回より中原太郎東京大学大学院法学政治学研究科教授に委員として御参加いた だくこととなりましたので、事務局より御紹介させていただきます。 なお、中原委員でございますが、若干、参加が遅れるということでございますので、こ の後の意見交換の際に併せて御挨拶をいただければというように思っております。 事務局からは以上です。 ○渡部座長 ありがとうございます。 続きまして、本日は中間取りまとめ以降、初の検討会ということになりますので、議事 に先立ちまして、中原事務局長から御挨拶をいただきたいと存じます。よろしくお願いい たします。 ○中原局長 おはようございます。内閣府知的財産戦略推進事務局長の中原でございます。 本会議の開催に当たりまして一言御挨拶をさせていただきます。 本日 の 検 討 会は 、 昨 年 の４ 月 22 日 に中 間 取 り まと め 案 を 御審 議 い た だい て 以 来 の開 催 となるわけでございます。改めて、委員の皆様におかれましては、新たに加わっていただ きました委員の先生方も含め、本検討会の委員をお引き受けいただきましたこと、心より 感謝を申し上げます。誠にありがとうございます。 AI をめ ぐ る状 況と い うも のは 刻 一刻 動い て おり まし て 、昨 今の AI をめ ぐる 状 況を 見ま しても、権利保護の観点から、そしてまた、円滑な利用といった観点から、私たちがいろ いろと考えなければいけないような事案の問題提起が事実上なされているような気で拝見 しておりまして、我々としても情報収集にしっかりと努めなければいけない。そして、皆 1 様と共にまたいろいろと御検討をお願いしなければいけないと思っているところでござい ます。 本 年 ５ 月 に は 、 人 工 知 能 関 連 技 術 の 研 究 開 発 及 び 活 用 の 推 進 に 関 す る 法 律 、 い わ ゆる AI 法が 成 立 し まし て 、 ９ 月に は 総 理 を本 部 長 と する 人 工 知 能戦 略 本 部 が発 足 す る とと も に 、小 野 田 大 臣が 人 工 知 能戦 略 担 当 大臣 に 任 命 され た と こ ろで ご ざ い ます 。 AI 法 にお い ては基本計画及び指針が整備されることとなっておりますが、この中でも知的財産をはじ めとする財産の保護と活用につながる透明性の確保といったものが急務であると考えてお ります。 本年６月には、同じく総理を本部長とする知的財産戦略推進本部によって知的財産推進 計画 2025が 決定 され て おりま す。 この 中で AI につい ては 、市 場規 模 や研究 費が 増加 して い る一 方 で 、 我が 国 企 業 の業 務 に お ける 生 成 AI の 利活 用 が 海 外と 比 較 し て進 ん で い ない と いっ た こ と です と か 、 権利 者 へ の 対価 還 元 の 機会 が 得 ら れな い こ と や、 AI 事 業 者に よ る 情報 開 示 が 進ん で い な いこ と に よ りま し て 、 AI利 用 者 側 とし て の 訴 訟リ ス ク が あり 、 利 活用 を 躊 躇 する と い っ た影 響 が 生 じて い る な どの 課 題 を 御指 摘 い た だい て お り 、 AI 事 業者 ガイ ド ライ ンな ど を通 じて 、 AI事 業者 に よる 主体 的 な開 示を 促 すほ か、 AI 法の 運用 の具体化の中で、国際的な働きかけも行いながら、実効性の担保に資するような透明性を 確保するとの方向性が示されております。 関係 省 庁 に おき ま し て も、 例 え ば 文化 庁 に お きま し て は 、昨 年 「 AI と 著作 権 に 関 する 考 え方 」 を 取 りま と め さ せて い た だ きま し た し 、そ の 後 、 AI と 著 作 権 に関 す る 関 係者 ネ ッ トワ ー ク と いっ た と こ ろで 、 権 利 者の 皆 さ ん と、 そ れ か ら、 AI 事 業 者の 皆 様 と の率 直 な意見交換などを通じて、今後の展開に向けた取組が進められているほか、その中でも新 たに著作物等データの有償提供等の取組事例というものが出てきており、そうした中で 、 生 成AI の 開 発 ある い は 提 供に お け る 対価 還 元 に 向け た 環 境 を 整 備 す る とい う こ と とな っ ております。 こうした状況を踏まえ、知財事務局としては、この検討会を開催させていただくことと し 、各 委 員 の 御協 力 の 下 で、 デ ー タ の信 頼 性 ・ 安全 性 と い った も の を 高め つ つ 、 生成 AI に係る開示に向けた各種の対応を推し進めるため、例えばガイドラインのようなものを 所 謂AI法の施行に際して策定するということを検討しているところでございます。 各委員におかれましては、これまでいただいた御議論 といったものも踏まえつつ、引き 続き、単に法律上の観点の整理といったものはもちろんでございますけれども 、技術によ る対応策ですとか、あるいは創作活動の持続可能性の観点から不可欠となる収益の還元の あ り方 、 あ る いは 契 約 の あり 方 に つ き、 知 財 を 守り な が ら AI に 関 す る 技術 の 発 展 とい う ものをどのように慫慂していくか、推進していくか。そんな観点をトータルで見いだしつ つ、御審議を賜ればと考えております。 どうかよろしくお願いいたします。 ○渡部座長 ありがとうございます。 2 それでは、只今から本日の議事に入らせていただきたいと存じます。只今も局長のほう から会議の趣旨等を御説明いただいたところでございます。そしてまた、今回検討すべき 課題については既に事務局より各委員に御説明があったというふうに聞いておりますので、 このまま検討課題の議事に入らせていただきたいと思います。 今日は初回ということですので、一通り委員の皆様から御発言いただきたいと思います。 御質問・御意見等を含めて、順に指名させていただきますので、御発言いただきたいと存 じます。まず１巡目は、お一方当たり５分程度で御発言いただければというふうに思いま す。 あと、御欠席の委員の御発言は、先ほど事務局より説明のあったとおり、配付資料４で 竹中委員のコメントがございます。このほか、御欠席の佐渡島委員のコメントについては、 事務局より、こちらは先にお願いできますか。 ○福田参事官 事務局でございます。 佐渡島委員のほうから、資料３の論点例でございますけれども、この中で、この学習デ ータの開示というもの、これは大変重要なことであるが、一方でそれを実際に進めていく というのはなかなか難しいところもあるように思う 。 したがって、まずは対価還元というものの考え方のスキームというようなものを簡単な ものでもつくり、その上でトレーサビリティーというものを高めていくという方向性がい いのではないかということ。 それから、佐渡島委員自らが様々なこういった開発に携わっているということでありま すけれども、そういったものの中でも、数年前と比較しても 、非常に少ないデータで様々 なものが生成できるようになるなど、技術的な面でも進歩というものが見られるところが ある。こういったところも踏まえたルールの形成というところを国 のほうでもリードして いただきたいということ。 最後に、今回お集まりの委員の皆様は各分野についてそれぞれに見識の深い方々であっ て、大変期待しているということで、この委員の皆様同士のある種の連携というようなこ とを深める中で、いい審議ができることを期待しているというコメントがございました。 事務局からは以上です。 ○渡部座長 ありがとうございます。 それでは、五十音順に御発言いただければと思います。 最初、恐れ入りますが、上野委員、お願いできますでしょうか。 ○上野委員 早稲田大学の上野達弘でございます。引き続き、よろしくお願いいたします。 十分準備していたわけではないのですけれども、簡単にコメントさせていただきます。 AIと 著 作 権 に関 し ま し ては 非 常 に 激し い 議 論 が続 い て お りま し て 、 国際 的 に も まだ ま だ未解決の問題が残っていると認識しております。ただ、今回の論点例の中にもございま すけれども、そこでは、特に「三位一体」というふうにこの検討会でも言われております ように、法・技術・契約を全体的にバランスの取れた形で活用していくということがます 3 ます重要になっているのではないかと思っております。 法律の部分につきましては、もちろん、様々な御意見はありますけれども、ガイドライ ンとなる文化審議会の「考え方」を含めまして、一定の整備はされているというふうに思 いますので、そうすると、あとはやはり技術と契約というところがこれからの課題になっ てくるかと思います。 特に 、 論 点 ①に も ご ざ いま す よ う に、 著 作 権 のみ に 限 ら ず、 生 成 AI に よる 違 法 ・ 有害 なアウトプットを防ぐ技術が、もちろん既に様々に開発されていると承知していますけれ ども、今後、その発展を促すことがますます重要になってくるのではないかと思います。 近時 、 映 像 の生 成 AI に 関し て 、 権 利者 か ら の 申出 が な い 限り 著 作 権 侵害 の 出 力 がさ れ てしまうという問題が生じていますけれども、今後は、そうした違法・有害な出力、特に 著作権侵害に当たるようなアウトプットを防ぐような技術というものがさらに発展されて くることが期待されてくるところで、現在は過渡期かと思います。そうした技術を効果的 に発展させるためにはどのような施策をとるべきなのかという点はこの検討会での課題に なり得るのではないかと思っております。 また、ヨーロッパとの関係では、御存じのように、いわゆる AI Actの53条問題という こと で、 EU 域外 にお け る汎 用 AI モ デル 提供 者 にと りま し ても 事実 上 の域 外適 用 効果 があ ると指摘されておるところでありますので、オプトアウト措置や透明性義務といったもの についてCode of Practiceを含めてどのように考えていくかということも問題となって お りま す 。 そ のよ う な 意 味で 、 国 内 のみ な ら ず 、そ う し た EU の 動 き に も引 き 続 き 注視 し ていく必要があるのかと思っております。 もっ と も 、AI の 利 活 用 を促 進 し て いこ う と い う動 き が あ る一 方 で 、 やは り そ の リス ク とい う側 面 も指 摘さ れ てい ると こ ろで あり ま す。 そこ で は、 AIユ ー ザー のリ ス ク、 AI開 発 者の リ ス ク 、そ し て 、 AIサ ー ビ ス 提供 者 の リ スク が い ず れも 問 題 に なり ま す 。 そう し た リス ク を 踏 まえ た 上 で 、安 心 し て AI を 活 用 で きる 環 境 づ くり が 今 後 ます ま す 必 要に な っ てく る の で はな い の か なと 思 い ま す。 ご 存 じ のよ う に 、 最近 の 生 成 AIサ ー ビ ス の中 に は、適法なコンテンツしか出力しないことを標榜し、仮にユーザーが損害賠償責任を負う ことになった場合には、その損失を負担するというようなサービスも出てきています。こ の よう に 生 成AI の リ ス ク に取 り 組 む 様々 な サ ー ビス と い う もの が 今 後 展開 し て く るの か なと思っております。 最後に、論点例②にも③にも関わることですけれども、適切な利益分配ないし対価還元 と いう も の を どの よ う に して 実 現 す るか と い う 点で あ り ま す。 AI 学 習 につ い て も 、現 状 ですと、著作権法に一定の権利制限規定があり、日本ではこれについての補償金請求権は 定められておりませんので、無許諾で著作物を利用できるというだけでなくて、無償で利 用できるわけですけれども、この点については様々な国内外の議論があるところです。し たがって、適切な利益分配を実現するという問題を、法制度的に解決するのか、あるいは、 契約で解決するのかということが課題になります。 4 私の考えでは、契約による解決というものが非常に重要だと思っております。たとえ権 利制限規定があるために著作権が及ばず、許諾を得る必要がない行為であっても、例えば、 出版物を購入してスキャンするというような作業は手間ですし、データも情報解析に適し たものではありませんので、やはり権利者と契約をして、情報解析に適したデジタルデー タを得る方がはるかに効率的な場合があると考えられます。ある行為が権利制限の対象に な るか ど う か にか か わ ら ず、 AI 事 業 者と 権 利 者 の間 の 契 約 とい う も の が促 進 さ れ るべ き であり、そうした契約が著作権という権利に基づく「許諾」であるかどうかは重要ではな いと思っております。そのさらなる発展のためにどのようにすればよいか、という点に知 恵を絞るということがこの検討会での課題になり得るかと思っております。 以上でございます。ありがとうございました。 ○渡部座長 ありがとうございます。 次は、岡﨑委員、お願いできますでしょうか。 ○岡﨑委員 東京科学大学の岡﨑と申します。今回もよろしくお願いいたします。 ま ず、 画 像生 成 AI と か動 画生 成 AIと いう も のが 世の 中 を騒 がせ て おり まし て 、特 に ア ニメとか漫画といった、日本が世界をリードしている分野において問題を引き起こしてい て、そこに関しては日本として何らかの手を打つべきなのかなと思っていまし て、そうい ったところは同感です。 それ で 、 特 定の ア ニ メ とか 漫 画 の 画風 を ま ね るよ う に チ ュー ニ ン グ した 生 成 AI につ い ては、これまでの検討会でも度々議論に上っていたと思います。それが技術の発展に伴っ て、より問題が顕著になってきたのかなと思っていますので 、データの収集ですとか、利 用の適正化、あと、保護データに対する対価還元を進めていく必要があると思うのですけ れ ども 、 こ の アニ メ や 漫 画の 模 倣 と いう 悪 意 の ある ユ ー ス ケー ス と 、 賢い AI を つ くる た め に英 知 を 結 集す る と い う営 み を ち ゃん と 分 け て考 え て 、 AI の 研 究 開 発と か 技 術 革新 に ブレーキがかからないようにしていきたいなという ふうには思っています。 私の 専 門 と する 言 語 に 関す る 生 成 AI 、 い わ ゆ る大 規 模 言 語モ デ ル な ので す け れ ども 、 享受する価値のあるもの、小説の作品とか、そういったものを意図的に模倣するという ユ ースケースは起こり得ますので、そういったところではアニメとか漫画と同じような状況 というものは起こり得るのですけれども、一方で普通の企業ですとか、我々が開発してい るようなLLMではクローリングをしておらず、クロールのアーカイブを使って大規模言語 モデルを構築することのほうが多くて、そのデータの中にも日本語のデータは英語の９分 の１ぐらいしか入っていなくて、今の大規模言語モデル の性能に日本語のデータがどのく らいインパクトを与えているのかというものは、実は英語のほうからかなりインパクトを もらっているのではないかという状況が分かってきております。 あと、最近の大規模言語モデル、思考の深いモデルとかリーズニングモデルと言われま すけ れ ど も、 そ う いう 思考 力 が つい た と いう もの は AI が自 ら 考 えて デー タ を 生成 で き る 、 思 考に 関 す る デー タ を 自 動で 生 成 で きる と な っ たこ と が 大 きく て 、 賢 い AI の 開 発 はデ ー 5 タの質だけではなくて量も大切で、その量を支えているのが、みんなが少しずつ貢献した 、 書 いた デ ー タ だっ た り と か 、 AI が 自 動的 に 生 成 した デ ー タ など も 含 ま れて い ま す 。一 方 で、人間が手間暇をかけて質の高い言語のデータとか、画像とか動画もそうなのですけれ ど も、 そ う い った デ ー タ を つ く っ て いて 、 そ れ を AI の 開 発 に使 い た い とい う ニ ー ズは 必 ずありますので、対価還元の仕組みを検討することは本当に重要だなと思っています。 一方で、LLMの利用のデータのトラッキングですとか、あと、何の学習データが出力に 直接的な影響を与えたのかということを特定する。そういう技術をつくれば対価還元がで きるというストーリーが書かれていたりすることはあるのですけれども、大規模言語モデ ル の学 習 デ ー タは 30 兆 単 語ぐ ら い あ って 、 そ こ から 生 成 さ れる テ キ ス ト は 数 百 単 語と か 数千単語ぐらいのテキストが生成される状況になります。そうなったときに、出力を生成 するときに使われる情報というものは１つだけではなくて、同じ情報が複数の情報源にわ たって書かれていたりすることはありますので、どれが使われたのかというものは特定す ることも難しいですし、候補が複数あったときにどうするのかみたいな問題が出てきます。 ラグみたいな使い方をしたときというものは、わざわざ生成させたい種を入れています ので、どんな情報が使われたのかというものは分かりやすいと思うのですけれども、そう でないユースケースだったりですとか、背後に思考が含まれているような、考えとかが含 まれているような状況でコントリビューションを検討するというのは難しいので、対価還 元を検討するのであればスキームを明確に、どういったユースケースなのかとか、どうい う 使わ れ 方 のAI な の か と いう こ と を 明確 に し た 上で 、 技 術 的に 可 能 な のか と い う もの を 検討したほうがいいかなと思っていまして、技術的に不可能なことを例えば法律とかで求 めてしまうと結局、対価がどれに行くのか分からなくて、著作権者には還元されなくて、 AI の研 究 開 発 のブ レ ー キ をか け る と いう 状 況 に なり か ね な いの で 、 そ うい っ た こ とに な らないためにも、ちゃんと可能なシナリオというものを検討していきたいなと思っていま す。 あと、誤情報ですとか、偽情報、信頼性・安全性については、AISIですとかNIIにある LLM研究開発センターなどで取組が進んでいまして、偽情報とか誤情報を完全になくすと い うの は 技 術 的に 難 し い です け れ ど も、 AI の 学 習を ど ん ど ん進 め て い くこ と に よ って 減 らせるということが分かってきていますし、信頼性 ・安全性については一定の成果が出て いて、日本で開発されている LLMの研究開発には活用されている状況になっていますので、 今後 も生 成 AIの 研究 開 発と とも に 、生 成 AI の 信頼 性・ 安 全性 に関 す る取 組を 継 続し て い くことが大切かなと思っております。 私からは以上になります。 ○渡部座長 ありがとうございます。 続きまして、岡田淳委員、お願いできますでしょうか。 ○岡田（淳）委員 弁護士の岡田淳でございます。引き続き、どうぞよろしくお願いしま す 。私 か ら は 、ま ず 、 生 成 AI に 係 る 開示 に つ い ての コ メ ン トと し て 、 開示 、 透 明 性、 ア 6 カウンタビリティーをめぐっては、学習、開発段階から生成段階に至るまで、また主体と しても開発・提供事業者としての開示からユーザーとしての開示に至るまで、様々なレイ ヤーでの論点があるわけなのですけれども、特に学習用データや収集に関するルールを中 心とする点の透明性について少しお話ししたいと思います。 開示 の 問 題 とい う も の は、 必 ず し も著 作 権 を 含め 、 知 的 財産 権 に 限 らな い 、 AI ガバ ナ ンス全般的に関わってくる問題の一つだと考えていますので、やはり透明性、アカウンタ ビ リテ ィ ー を はじ め と す る AI ガ バ ナ ンス が 適 切 に実 装 さ れ てい く と い うこ と が 結 果と し て著作権者等の懸念の減少には寄与するものと考えています。他方で、いかに著作権法の 権利制限規定を精緻に解釈しても、結局、透明性、アカウンタビリティーが十分果たされ ないということになると、データ学習、モデル開発が完全にブラックボックス化されたま までは著作権者としても法的な請求権を実効的に行使することは困難であるとも考えてい ます。 その意味では、透明性、アカウンタビリティーの確保は著作権等の関係において非常に 重要性をもってきますが、例えば海賊版コンテンツから学習をしているか否か、あるいは 契約上禁止さ れている コンテンツを 学習して いるか否か、 「 robots.txt」のよ うな技 術 的措置を尊重しているか否か、そういったことが外部から分かるようにしておくというこ とも非常に重要なことなのかなと思っております。特に日本の著作権法では、情報解析の ためであれば 、海賊版 コンテンツを 学習した としても、あ るいは「 robots.txt 」とい っ た技術的措置を必ずしも尊重しなかったとしても、少なくともその一事をもって直ちに著 作権法上違法となるとは限らないと理解をしておりますので、逆に、だからこそ、そうい ったことをきちんと開示させる、そして虚偽の開示をすればそのことについてネガティブ な評価を受けるという制度論というものは、一つの枠組みとして検討の価値はあるのかな と考えております。 具体 的 な 手 法と し て 、 現在 、 ソ フ トロ ー と し て AI 事 業 者 ガイ ド ラ イ ンな ど が あ り、 こ ういった取組みが一定の意味を持っているということは私も同意しますし、私自身も、直 ちにハードローを導入して透明性をより厳しく義務づけるべきだという考え方に必ずしも 現時点で立っているわけではないのですけれども、他方で事態が今後、より深刻化した場 合に備えて機動的に対応できるように、透明性の論点を含めて具体的にどういった制度設 計があり得るのかということの議論の解像度を高めておくということも重要なのかなと思 っております。 特に、EU AI法の透明性要件などもそうですし、あとはアメリカのカリフォルニア州の 州法でも、必ずしも学習の場面でも透明性だけには限りませんけれども、学習データの収 集ルールの透明性に関わる法律もこれから施行されていくと理解をしています。そういっ た諸外国での様々な経験、それは良い面も悪い面も含めて教訓を得て、議論の解像度を上 げていくことが大事だと思っております。 透明性をめぐっては当然、営業秘密とかノウハウとのバランスということも考えないと 7 いけませんし、対象となる主体やモデルの範囲などの点も含めて、検討を深めていくこと が重要だと思います。冒頭申し上げたように、透明性というものは知財の問題に限らない わけですけれども、ある意味で、知財との関係で問題が顕在化しやすい部分もあるわけで ありまして、そこにフォーカスをすることで議論が拡散しすぎることなく議論しやすい部 分もあるのかなというふうに思っておりますので、いずれにせよ議論が深まっていくこと を期待しております。 次に、対価還元の論点について、基本的には契約や技術を中心とする問題かなと考えて おります。もちろん、立法で一定の強制をするというアプローチもあるにはありますけれ ども、少なくとも現時点で現実性も合理性も乏しいというふうに思っておりますので、ど ういう契約実務を深化させていくのかという問題が大きいのかなと考えております。 日本でも、注目される訴訟事例等が出てくる中で、契約を通じてより良いクオリティー や使いやすい形式のデータを安心して使えることができるようにし、適切な対価を還元し て いく こ と は 、権 利 者 と AI事 業 者 の 双方 に と っ てメ リ ッ ト があ る と 思 って お り ま す。 実 務でも契約例は着実に蓄積されてきていますし、生成されたアウトプットに関する情報に 基づいてコンテンツのライセンサーに対価を還元していくという実例もあると理解してお りますので、もちろん具体的に詳細な個々の契約スキームというものは開示されている部 分もあればそうでない部分もありますし、ノウハウの問題もありますので難しいところも あると思いますけれども、抽象的なレベルでも構わないので、そういった契約実務が深化 しているところを政府としても事例収集して情報提供していくという試みがさらなる契約 実務の円滑化に資するのであれば、そういうことを検討してもいいとは思っております。 また、例えば何かプラットフォーム的なものを立ち上げて効率的に契約に基づく利用や 対価還元を実施していくということが、もし実務的にニーズがあってワークする余地があ るのであれば、そういったエコシステムに関するフィージビリティーを見極めるというと ころも含めて、引き続き検討していってもいいのではないのかなと考えています。 私からは以上でございます。 ○渡部座長 ありがとうございます。 続きまして、岡田陽介委員、お願いできますでしょうか。 ○岡田（陽）委員 ありがとうございます。株式会社 ABEJAの岡田陽介でございます。よ ろしくお願いいたします。では、私のほうからも意見を述べさせていただければと思いま す。 まず、前提としては、先生方も御指摘いただいているとおり、著作権法を含めて、日本 の生 成 AI の こう いっ た 法制 度も 含 めた 部分 に つき まし て は、 AI開 発 事業 者と し ては 非常 にポ ジ ティ ブ な状 況 で ある と 認識 し てお り ま す。 AISI 等 も含 め まし て、 活 発な 議 論が 行 われるスタンスを継続していただけるのは非常に良い傾向である思います。 今時点では、まだ新しい論点であるため、具体的な判例なども限られており、現実とし て は 具 体 が 何 で 、 ど う 対 応 す べ き か ま だ 定 ま っ て い な い 状 況 で あ る と 捉 え て お り ま す。 8 我々のようなスタートアップ企業等につきましては、言い方はよくないですけれども、ル ールが定まっていない場合であっても進める判断をすることがあるのですけれども、特に 大企業の方々にとっては100％安全でないと進められないという決定もやはり出てくる局 面も多くございますので、そういった部分でホワイトリスト、ブラックリストみたいなも のが整備されたガイドラインがあると進めやすいと改めて感じております。 まず、論点①の部分でございます。データの収集統制は、これは実際、我々も行ってい る部分ですけれども、正直、現実的に全て開示を行うことというのはなかなかに難しいと 考 えて お り ま す。 例 え ば なの で す け れど も 、 生 成 AI が 学 習 する デ ー タ に該 当 す る もの で 学習セットのようなものがございます。これは一個一個で成立しているというよりも、結 構大きくまとめられた形でセットになっているものなのですが、現在非常に多く利活用さ れる状況で、それを一個一個、事業者側が全てトレーサビリティーを確認しながら学習に 使っていくというのは現実的に難しいと感じます。学習段階ですとか生成段階ですとか、 いろいろなケースでマトリックスをつくって、ここの部分は開示をしましょうみたいなと ころが、ある程度コンセンサスが取れていけると対応が可能であり、非常に良いのではな いかと考えます。 逆に、こういった開示のような項目を生成段階等で設定して大規模言語モデル等に実行 させるといった、技術的なアプローチも非常に重要なのではないかとも思いました。ガイ ドラインがあると、ここまで開示するべきだというところをセットで LLMに入れることも できますので、技術開発におけるインセンティブも働いていくのではないかと考えます。 またLLMとかAIの外でAIをガバナンスする仕組みという形で、ヒューマン・イン・ザ・ル ー プな ど 、 し っか り AI を 人間 が コ ン トロ ー ル し てい く 仕 組 みと い っ た もの も 、 構 築し て いくことが非常に重要になっていくとも考えております。 続きまして、論点②でございますけれども、こちらにつきましては、開発事業者側とし ましては、対価還元を進めていきたいと切に考えている部分ではあるのですけれども、具 体的な対価還元のスキームの確立が難しいというのが現実問題でございまして、やはりこ こに関してはブロックチェーン、特に最近ですとステーブルコインのようなものを使って 対価還元するスキームも一部議論され始めていると見受けております。 やは り１ クロ ーリ ン グ当た り、 100～ 200 円 払うた びに 銀行 振り 込 みをし てい ると 手数 料ばかりが莫大にかかり、現実的ではありません。こういったところも含めて、ブロック チェーンみたいなものの活用など、まさにいろいろ提言もあるかと思いますけれども、ラ イセンス管理団体みたいなところを立ち上げていただいて、そこに対して一括して何か付 与するみたいなところとか、そういったスキームの検討も重要ではないかと考えておりま す。 最後、論点③でございますけれども、この部分については、我々もいろいろ持ち合わせ ているものの、非常に技術進化速度は早いという状況でございます。まずはフレームを決 め、そのフレーム内でアップデートをしていくことが良いのではないでしょうか。 9 そのフレームに沿った形で、ある程度バッファーを持って、大企業の方々を含めて、ガ バナンスを利かせていくことが現実的な進め方であり、解像度を上げていけるような仕組 みをつくって、それをしっかりと運用していくという流れにしていくべきではないかと考 えさせていただいております。 私からは以上です。ありがとうございます。 ○渡部座長 ありがとうございました。 続きまして、奥邨委員、お願いできますでしょうか。 ○奥邨委員 慶應義塾の奥邨です。どうぞよろしくお願いいたします。 私の方からは、まず、最初の論点③との関係ですけれども、今のお話にも ありましたけ れども、技術の進歩も早いですから、将来像といえるほど、そんな先のことが見えるわけ ではないのですけれども、私自身、今回のこの検討会に参加する視点といいますか、考え 方、基本的な態度としまして、前回、第１期と勝手に呼んでいますけれども、第１期は安 心 して AI を 開 発で き る 環 境を 整 備 す ると い う こ とが 一 つ の ポイ ン ト だ った の で は ない か なというふうに思っております。 今回 の 第 ２ 期は 、 先 ほ ど事 務 局 長 から も お 話 があ り ま し たよ う に 、 AIの 社 会 実 装・ 日 常実装というものを進めていくということが国全体の大きな流れであるということを考え ると、安心して利用できる環境をつくるということが、一つの大きなポイントになってく るのではないかなと思っております。そのことを私自身は一つの基本的な視座として臨ん でいきたいなというふうに思っております。 それとの関係で、まず、第１の論点の「開示」の関係であります。この「開示」につい ては 、先 ほ ど岡 田淳 委 員か らも お 話が あり ま した けれ ど も、 先駆 的 な取 組と し て EU の AI Actが定めているわけであります。 今日お配りいただいた資料の中で、 AI Actについての資料で、欧州連合の日本政府代 表の 資料 、 参考 資料 12 があ りま す けれ ども 、 32頁 に 行動 規範 に つい て の解 説が あ って 、 そこに、学習対象の開示の話も簡単に出てきます。ここで、 1点注意いただきたいのは、 同 じ資 料 の 95 頁も 行 動 規 範の 記 載 が あり ま す 。 この 日 本 語 の使 い 方 は 微妙 な と こ ろが あ りまして、95頁はCode of Conductを行動規範と訳していますが、少なくとも知財の人間 が気にするのはCode of Conductではなくて、32頁のCode of Practiceのほうでありま す。どちらも行動規範と訳されてしまっておりまして混乱するのですけれども、ですから、 私はCode of Practiceは、今後、実務規範というふうに訳したほうがいいのではないか な と 思 っ て お り ま す 。 話 戻 り ま す 。 結 局 、 EU に 上 市 す る AI の モ デ ル に 関 し て は 、 こ の Code of Practice、実務規範で求められた基準に従って学習対象の開示をしないといけ な いと い う こ とに な っ て おり ま す 。 した が っ て 、こ れ は 日 本の 企 業 も EUで ビ ジ ネ スを す る限りにおいてはこれに従わざるを得ないということになります。ブリュッセル効果にそ のまま巻き込まれるというのはなかなかじくじたる思いもありますけれども、これはやむ を得ないところであるわけです。 10 とこ ろ で 、AI 分 野 の 日 本の ス タ ー トア ッ プ の 企業 と か 、 これ か ら 開 発す る 企 業 にと っ て、日本語という特殊なバリアがありますので、市場は日本向けだけということになって いるものが色々あると思います。ただ、そういうものが、どんどん発展して、将来的にヨ ーロッパにも上市するということは十分あるわけで、その点を考えますと、日本の開示の ルール、何もヨーロッパのとおりである必要があるとは言いませんが、一方で、ヨーロッ パのルールにつなげることができるような内容でないといけないとも思います。そうでな いと、二度手間、三度手間を日本の企業に強いることになります。ヨーロッパの開示ルー ルの、意味のある日本版サブセットをつくっていくということが必要だと思います。ここ における、意味があるというのは、開示についてはどうも、権利者が、侵害行為を訴える に資するかという視点で問題が論じられがちなのですが、そのように論じてしまうと、開 示する側は非常に慎重になる、できるだけ開示したくないとなるのは当たり前なのです。 資料を出せば出すほど、いつ訴えられるか分からないということに受け止められかねませ んから。 ここで、さっき冒頭で申し上げました視点の問題、今回は開発ではなくて、利用を安心 させる環境整備だと申し上げましたけれども、そういう視点で、開示の問題を考えるべき で はな い か 。 つま り 、 利 用者 が 、 AI モデ ル の 中 に何 が 入 っ てい る の か 、ど ん な も のな の かといった点について知り、安心して利用できるようにするための基盤が、この開示なの だという位置づけを与えていくべきではないか。もちろん、最終的に権利者の方が訴訟に 使うということはあっても構いませんけれども、まず、誰に対する開示なのだということ の中で、利用を安心してできるための開示環境をつくるのだ。これであれば多くの方が納 得しやすい部分、マーケットされる方が、納得されやすい部分ではないかと思います。 もう一つ、対価還元のほうですけれども、対価還元については、今、いろいろと取り組 まれていると思うのですが、学習にこだわるというは非常に難しい問題があるのではない かなと思っております。 というのは、例えば日本の立てつけであれば、学習に伴う複製などは権利制限された行 為だと言っていますので、権利制限されたものになぜお金を払わないといけないのだとい う話になりかねない部分があります。そこで、プラスアルファの部分だということになる わけですけれども、じゃあ一体どれだけのプラスアルファがあるのだという話に今度はな ってしまう。それから、そもそも機械学習に対するライセンス料の相場観がないので、話 がなかなかまとまらないという問題もあるわけです。 さ ら に 、 仮 に 、 機 械 学 習 部 分 に つ い て ラ イ セ ン ス が あ っ た と し て も 、 利 用 者 に と っ て、 それは十分な解決にはならないのです。むしろ、出来上がったアウトプットが何かに似て いた場合に、それでも安心して使えるという環境をつくるというのが一番、社会実装を進 めることになると思います。そうしますと、学習プラス出力したものについて、似ていて も構わないということまで含めたライセンスというものをやはり考えていく。似ていても 構わないということになると、結果的にはコンテンツの単なるライセンスと実は同じです 11 から、ある程度の相場観もあるということになります。 ただ、これを、先ほどのお話にありましたように、何十兆というようなものについてで きませんので、特定のユースケースについては出力が似ていても構わない。それで、学習 から出力まで一貫してカバーするだというライセンスモデルを幾つかつくっていく。そう することであればビジネス上も優位性もあるし、安心して使えるというようなことになる のではないかなというふうに思っております。 すみません。長くなりましたが、以上です。 ○渡部座長 ありがとうございました。 続きまして、新委員、お願いできますでしょうか。 ○新委員 デジタルハリウッド大学大学院、AI Frog Interactiveの新でございます。特 に コン テ ン ツ 業界 で 実 際 に AI を 利 用 する 立 場 の 方か ら お 話 をさ せ て い ただ け れ ば と思 い ます。 既にゲーム業界を中心に、最近、ゲーム業界団体の取ったデータでも約５割の会社が生 成 AIの 利 用 を して い る と いう 結 果 が 出て お り ま す。 実 際 、 コン テ ン ツ 業界 は き ち んと 、 この１年間で相当進みまして、私の肌感覚で見ていても、どこの会社も研究部署、もしく はそういうようなものを利用するということを全くやっていない企業というものはないと いう状態になってきているというふうに思っています。 ただ、とはいえ、コンテンツ業界というものは基本的には自分たちで LLMの大きなモデ ルを開発するということは行わず、現状、サービスとして提供されているモデルを利用し ていく。せいぜいやっても追加学習をして、一部のデータにおいて自分たちの出したいデ ータにするように調整するというようなやり方が一般的です。 私は、コンテンツ制作の分野で画像もしくは動画のようなものがメインで扱っているの ですが、この１年で起きている技術的な変化というものはすさまじいものがあります。昨 年、一昨年、中間取りまとめのとき、議論にいました。文化庁も含めてですけれども、例 えば想 定と しては LoRA(ロ ーラ )と言 われ てい る、特 定の 作家さ んの 画風な りを 学習し て、 それを出せるようなものが果たして一定の範囲においては違法性があり得るというところ といった、著作権侵害があり得るということが議論の俎上になっていたのですが、この８ ～９月にリリースされたGoogleのNano Banana、それから、バイトダンスのSeedream 4 が登場したこ とによっ て、これらの ものとい うものは「 Any-to-Any 」という汎用 性を実 現する考え方で技術開発されたものですが、１枚の画像があれば、そこで描写されている 人物などを、ポーズを変えたりしても一貫性が崩れない画像を出すことができるというも のができました。 そのため、中間取りまとめの時に議論をしていたような、模倣のための追加学習さえも 必要ない段階に技術が進んでおります。これは大量の学習データを、それらもより効率よ く学習される方法論が発展してきたものでありまして、裏を返せば、登場人物が一貫性を 維持できるというところで、技術的には非常に便利なツールになっており、これは広告業 12 界等が一斉に使い始めているように今はなっております。 一方で、これは当然、ディープフェイクを簡単に起こせるので、著名人等の顔とか服装 とかを変えたりとか、存在しなかったような場所に簡単に合成写真をつくったり、その動 画をつくったりということができてしまうということで、一定の問題になってくるだろう と思います。これはこの委員会で検討する対象ではないとは思いますが、これは多分、国 としての対処が必要になってくるだろう。そういうふうに思っております。 一方では、動画AIのSora 2がOpenAIから出まして、今後、様々な問題を抱えていると は思うのですが、非常に技術力が高い。現在は、権利的なものを、簡単には生成できない ように予防措置は取られたとはいえ、そもそも、能力的に一貫性の実現する能力も強く、 参照ワードや画像を入力すると、例えば人物であっても、それがアニメのキャラクターで あっても、再現できるような能力があることは間違いありません。 重要なのは、こうした技術発展は、中間とりまとめから、わずか１年ちょっとの間に進 歩し たと いう こと です 。 OpenAIが 先 行す る形 で進 歩が 続い てい ます 。こ の発 展ペ ース に つ いて い け て いる 日 本 の AI開 発 企 業 には 存 在 し てお り ま せ んが 、 ま た 今後 も １ 年 ぐら い の間に急速に進歩するようになるのは間違いなく、かつ他の企業も追従してくるだろうな ということは予想がついてくるということです。また、この１年の間に、特に画像生成と か動画のところの分野でよく分かってきたことというものは、インターネット上からとに かくひたすら大量の情報を集めてくれば何かすごく良いものができるということではなく て、いかに非常に品質の高いデータを利用するようにするのか。そうすることで、品質の 高いデータを学習させることによって、やはり非常にアウトプッ トも良くなるということ が明確に分かってきております。 ただ、基盤データ等をつくるといっても、その基盤データにそれらのデータを追加学習 することによって非常に品質の高いデータが出やすいということも分かっておりまして、 これは逆に言うと、これは良いデータを持っているのは、企業が持っていることが多く、 それを正式にライセンスとしたいというインセンティブというものは自然に出てくるだろ うなというふうに思っております。 当然、ゲーム会社等は、著作権違反・著作権侵害をすることを前提に技術は全然考えて いないのです。自分たちのオリジナルでやっている、自分たちの商売のものですので、そ ういう違法行為はしないというのは当然なので、現場の人間にも一番重要なのは、出力の 類似性・依拠性があるということを理解している人というものは増えてきており、この部 分がやはり国の側から明確に提示されていることというものは非常にポイントとなってい ると思います。 今、むしろ、社会的な重要性の問題に移行するというふうに思っておりまして、法的に 全く問題がない問題でも、それらのサービスもしくは画像等、映画等をつくった場合にも そこに誹謗中傷がやはり起きてしまうという問題が、今、企業の方にしてみると最大の警 戒 を、 AI を 使 う場 合 の 最 大の 警 戒 と いう と こ ろ でも あ り 、 各社 と も 利 用し て い て も、 そ 13 れをなかなか公にできないというような社会情勢がございます。 論点 ② に つ いて １ つ だ け話 を し た いの が 、 一 つは AI の 還 元と い う と ころ も あ る ので す が 、そ の 還 元 とい う も の に、 AI を 利 用し た 新 し いク リ エ ー ター と い う こと も 含 め るべ き だろうということでございます。 というのも、既に過去のものだけではなくて、既に登場している様々なサービスを利用 して、新しいクリエーションをする人たちが出てきているということなのです。映画をつ くったり、ゲームをつくったり、非常に様々なものが出てきています。教育にも大きな影 響を与え始めておりまして、ゲームを、社会的なリスクを使うシリアスゲームとかゲーミ フィケーションといった分野が出てきているのですが、この分野というものは基本的に予 算がつかない研究だったり、高校生とかがやるような研究分野がございますので、なかな か簡単に、ゲームをデジタルゲームへ展開するのができなかったのです。 ただ、扱っている内容は環境問題だったりであるとか、災害時のトレーニングをしたり とか、非常に社会的意義性高いものが多かったのですが、技術や予算の制約から、企画だ け とか 、 で き ても ボ ー ド ゲー ム と か 、そ う い っ たも の し か なか っ た の です 。 こ れ が AI の アシストを受けることによって、実際のアプリケーションとしてつくれるような人たちが、 今、出かけております。こうすると、今まで全く存在しなかった新しいクリエーターとい うものが登場することが見えておりまして、そういうことが教育現場のほうでも大きく影 響を与えており、新しい産業の登場につながると見ています。 なの で 、 こ れら の も の 自体 も 一 つ の権 利 者 で ある の で 、 AI を 利 用 し た権 利 者 と いう 視 点もこの対価還元というものの中には含めて考える必要性があるのではないかというふう には私としては主張しておきたいと思います。 論点③に関しては、本当になかなか難しいような、創作的企業とは何かとか不明瞭で、 そ この 部 分 が 悩ま し い と いう と こ ろ で、 AI と い うも の は 著 作権 が 発 生 する と い う 条件 が あるというのは分かっているのですが、では、その条件とはどこなのかというものはまだ 裁判上とかで確立されていないので、なかなか、この部分でどこまでということは主張が しにくいというところです。 当然、これは、海外の動きというものはどこの会社も非常に敏感に見ておりまして、特 にゲームの場合は確かに販売をするということがほぼ前提になっておりますので、これが アメリカ、ヨーロッパ、もちろん、中国も含めてですけれども、そういった地域のルール になって、突然、販売ができなくなるということが一番影響が大きいと思いますので、そ ういう世界の情報を常に収集して、対応いるという状況でございます。 とは い え 、 国の 一 つ 一 つ出 さ れ て いる 実 績 と いう も の は 、本 当 に AI の 利活 用 を 進 める 事業化に関しては非常にポジティブに見ているというふうに私自身は理解をしております。 以上です。ありがとうございます。 ○渡部座長 ありがとうございました。 続きまして、田村委員、お願いいたします。 14 ○田村委員 まず、論点③あるいは論点①に係るかもしれませんが、全体の将来像ということでお話 し する と 、 海 外、 例 え ば EUあ る い は アメ リ カ の 一部 の 裁 判 例と 比 べ る と、 日 本 の 現在 の 著作権のTDM規定の特徴というものは、権利を侵害してインターネット上にアップされて いるものを学習しても、直ちにはそれで免責が否定されることはないという仕組みを取っ ていることだと思います。ほかにもいろいろとあるのですけれども、非常に大きなところ です。 何人かの先生方、あるいは皆さんの前提かもしれませんが、私も基本的には日本の現在 の著 作権 法 30条 の４ 、 47条 の５ は 維持 して い くべ きだ ろ うと 思っ て いま す。 と りわ け権 利侵害の観点からですと、日常的に非難すべき海賊版イコール権利侵害とは異なるという ことが非常に重要ではないかと思っています。インターネット上には、形式的には著作権 が残存している。その意味では、権利を侵害して著作権者に無断でアップされたものが無 数に転がっております。 しかし、それによって過去の、かなり昔の映像とか画像とか、あるいは文章とかに我々 はふんだんに触れることができます。文化はそういった、ある意味で形式的な権利侵害に 成り立っているのです。寛容的利用と言われていますけれども、要するに、誰も保護を欲 していない、権利者自身が無関心か、所在も不明になっているか、所在はあるけれども全 く関心を示さないコンテンツというものが大量にアップされることで、インターネット上 でそれを学習できることになっているというところが、この日本の著作権の意味があると ころだと思っていますので、単純に権利侵害イコール海賊版という話をしないほうがいい。 保護すべきものと保護すべきでないものの区別が必要だというふうに思っている次第です。 では、保護すべきものと保護すべきでないものの区別をどうするかということで、論点 ①になるのですけれども、開示によって、権利者が取り組むことを促していくことが大き な視点・観点なのだろうと思いますが、この開示についても、そもそも、どのくらい具体 化 しな け れ ば なら な い か が問 題 だ と 思う の で す 。 EU も そ れ ほど す ご い こと を 考 え てい な いようであります。逆に言うと、単に形式的なもので足りるのであれば、何のために開示 をするか、分かりません。しかし他方で、何人かの方が御指摘なさっているように、全て のことを開示するのもコストが大き過ぎて話にならないと思います。 他方、むしろ、これは技術に頼るべき話ではないかというふうに私は思っています。先 ほども御案内がありましたけれども、EUのCode of Practiceや日本の著作権法あるいは 政令まで含めて考えると、「 robots.txt」は基本的に検索対策で「 robots.txt 」が登録 された場合にはそれを遵守しろということになっていますけれども、他方で、考え方にあ りましたとおり、殊にこの機械学習に対しては、データベースが商用として使われるかも しれないことの一証拠にはなるぐらいの非常に弱い位置づけしか与えられていません。 しかし、今後、どの程度、これが標準化されるのか、あるいはどのような技術などに発 展していくのか等ももちろん踏まえる必要があるのですけれども、これほど技術的な環境 15 も変わってきていますし、考え方も変わってきて、また、 EUのCode of Practiceが出て いるというこ とを考え ますと「 robots.txt」 ではなくても 、何らか の標準化され た技術 によって、この保護を図る、効率的に守ることが簡単にフラグなどの技術で立てられてい たときには、そこを迂回して学習することが容易なものであるならば、そういったものを 推進 して い く。 逆に 、 それ を無 視 した 場合 に は 30 条の ４ 、47 条の た だし 書に 当 たる とい うことで免責しないというような考え方もあり得るのではないかというふうには思ってい ます。 続いて、論点②の対価還元ですけれども、ここもやはりコストベネフィットの観点が非 常に大事だなと思っていまして、言うは易し行うは難しで、既に何人かの方から御指摘が あったところで、導入したはいいけれども、権利者のほうにたどり着く頃にはかすかすに なっているようなことがあっては何の意味もないような気がいたします。 仮に導入するとしても、個々的に１対１対応の特定というものは無理ですから、何かの 形で、例えばネットでの情報量をある程度使って比例配分するなど、マスでの配分しかあ り得ない。集中処理団体でさえ、そういうことになるのではないかと思いますが、それで もコストベネフィットの観点があって、その中でやはり、今、過渡期であることを踏まえ てもいいのではないかなと思っています。今のクリエーターさんたちも旧世代の既に名の あ る、 し か し 、あ ま り 今 まで AI を 使 って い な い よう な ク リ エー タ ー さ んた ち が 保 護さ れ るべきコンテンツをたくさん持っていますね。他方で、若い世代は中堅でも既に、今、ア シス タン ト はど んど ん AIに 替 わっ てい る よう な 状況 で、 ク リエ ータ ー の方 もむ し ろ、 AI に期待しない方が若い世代に増えてきて、今後、そういう世代が中心になってくることを 考えると、今、この状況でのクリエーターの分布状況に応じた、意見状況に応じた急速な、 時期尚早的な制度導入、ハードの制度導入には慎重であってしかるべきではないかなと思 います。 他方、その意味で契約というものは確かにあり得る話で、契約ベースでいろいろと進ん でいくのであればそれが望ましいのかなと思いますし、それを促進する、何か制度的な支 援、ソフトローに向けての支援というものがあるのであれば、それもあり得ると思います。 もちろん、適法にできることについて、何でわざわざ契約するかということなのですけれ ども、一つは、今までの先生もおっしゃった通り、何か契約することによって効率的なコ ンテンツの提供を受けることができるというのが一つのメリットでしょうし、また、奥邨 先 生か ら も 御 指摘 い た だ きま し た け れど も 、 47 条 の５ で は 免 責さ れ な い アウ ト プ ッ トの 主たる利用。そういったものも含めた契約というものを促進することになれば、これは非 常に意味があることではないかというふうに思っております。 ○渡部座長 ありがとうございました。 中原委員は少し遅れて入ってこられまして、今回初めてということで、御紹介も含めて、 御発言いただければと思います。 ○中原委員 東京大学大学院法学政治学研究科の中原太郎と申します。専門は民法であり 16 まして、不法行為法を中心に、様々な民法分野の問題について研究をしています。 AI の問 題 につ いて は 、現 在、 経 済産 業省 の 「 AI 利活 用 にお ける 民 事責 任の 在 り方 に関 する研究会」に参加しておりまして、それとのつながりで、この検討会にも今回から参加 させていただくことになったものと理解しております。これまで民法の基礎理論に関する 研 究に 従 事 し てき た た め 、 AI に つ い ても 知 的 財 産権 に つ い ても 全 く 専 門家 で は ご ざい ま せんけれども、民法研究者として微力ながら何かしらの貢献ができればと考えております。 どうぞよろしくお願いいたします。 それで、今回からの参加でありますので、本検討会において検討すべき課題というもの を積極的に提示するということは叶わないのですけれども、中間取りまとめを読んでの感 想に絡めて、何点か指摘をさせていただきたいと思います。 まず 、 中 間 取り ま と め では 、 知 的 財産 法 関 係 の諸 法 律 に おけ る 生 成 AIを め ぐ る 問題 を 整理・検討するとともに、知的財産法と関連しつつも、その枠からはみ出る課題について 問題提起がされたものと理解しております。 侵害行為がされた場合の責任の問題、あるいはその前提として侵害行為と見るべきかど うかという問題は、あらゆる対策を考える上での前提となりますので、必要に応じて、今 後も検討を補充していく必要があると思います。とりわけ、中間取りまとめで残された問 題として指摘された事柄、具体的には、能力作成や声の保護の在り方であるとかディープ フェイクといった諸問題は、法分野横断的であるがゆえに、まとまった検討がしにくいも のではありますけれども、深刻な問題として現に存在することは明らかであると思います ので、この検討会で深掘りするかどうかはともかく、重要な意義を有するということは銘 記すべきかと思います。 先ほど言及した経産省の民事責任の研究会は、言ってみれば、こうした権利侵害とおぼ しき行為がされた場合の事後的な規律の在り方の整理に注力するものであると思います。 AI 由来 の 加 害 事象 を 広 く 扱う も の で あり ま す け れど も 、 知 的財 産 権 関 連で は 、 画 像生 成 AI によ るパ ブリシ ティ ー権侵 害の 事案を 題材 として 、 AI 利用者 や AI 開発者 ・提 供者が 現 行法の下で被害者に対していかなる責任を負うかについて議論しました。 結 論と し て、 私が 理 解す ると こ ろで は、 AI 利用 者の 責 任に つい て も AI 開発 者 の責 任に ついても、パブリシティー権侵害による不法行為責任、あるいは民法 709条に基づく不法 行為責任の既存の枠組みと根本的に異なる解決がされるわけではない。しかし、当該枠組 み の適 用 に 当 たっ て の 重 点が 異 な っ てく る 、 例 えば AI 開 発 者・ 提 供 者 の責 任 判 断 に当 た っては、システムの開発・管理の各段階において権利侵害防止措置を適切に講じたか否か という判断が重要なものとなってくるということが確認されました。 こ うし た 作業 には 、 AI利 用 者や AI開 発 者・ 提供 者に 対 して 、ど う すれ ば責 任 を負 わな くて済むかという行為規範の指針を与える意義があるかと思います。そういう意味では、 事前的・予防的な観点からも一定の意義を有します。もっとも、侵害行為や責任の問題は そもそも生じないのが望ましいと考えるのであれば、侵害行為そのものを生じなくするよ 17 うな対策であるとか、権利者の側から見て、もはや侵害行為や責任の問題ではないという ような状況をつくり出すための方策が重要かと思います。 この検討会の中間取りまとめにおいて、侵害行為を防止するための技術による対応であ るとか、契約を通じた権利者への対価還元策が指摘され、法・技術・契約という各手段の 相互補完関係が説かれているということは、この観点から強く共感を覚えるところですし、 法律に限らず、様々な分野の方々が参加されている、この検討会の趣旨にも沿うところだ と思います。こちらの方向性での議論を進展させていくということに、引き続き、この検 討会の主たる意義が見いだされるのではないかと思うところであります。 ただ、こうした方向性に立つとしても、なお検討課題があるように思われます。まず、 中 間取 り ま と めで は 、 生 成 AI と 知 的 財産 権 を め ぐる 懸 念 、 リス ク へ の 技術 的 な 対 応策 が 列挙される一方で、それぞれの限界も指摘され、また、法的ルールによるこれらの担保に ついての記述は、やや慎重なものにとどまっているように思われました。様々に考えられ る技術的対策の法的な取扱い、特にそれらを講じることにより生じ得る積極的な法的効果 であるとか、当該対策を無にするような侵害者側の行為の法的規制等について、さらに個 別的・積極的な検討がされてもよいのではないかというような印象を受けました。 また、契約による権利者への対価還元の方策については、それが契約自由の原則に照ら して許容されるものであること、その方策が取られる前提としては技術による担保も必要 となってくることはそのとおりであるとしても、肝要であるのは、対価還元を実現する契 約 の締 結 を い かに 推 進 し てい く か と いう こ と で はな い か と 思い ま す 。 例え ば 生 成 AI の 学 習 段階 に お け るデ ー タ の 利用 に つ い て、 著 作 権 法 30 条 の ４ が適 用 さ れ ず、 権 利 者 の許 諾 が必要な場合には、確かに権利者が契約を結んで自己の著作物の利用を許諾するというこ とが考えられやすいのに対して、同条が適用されるために権利者の許諾が不要な場合にも 対価還元の契約の締結を推進するには、私は具体的に提案することはできないのですけれ ども、もう一工夫、必要になってくるのではないかと思われます。 先ほどの技術的な対応策も含めまして、中間取りまとめでは「期待される」という文言 が頻用されていたかと思いますけれども、より積極的な提案が今後なされてもよいのでは ないかと思われるところです。 権利者への対価還元の方策としては、個別の契約に委ねるのではなく、竹中委員の御意 見にもありましたように、一定の団体による一元的管理の仕組みを設けるということも考 えられるところかと思います。私にはその是非は分かりませんけれども、中間取りまとめ で も指 摘 さ れ てい ま す よ うに 、 権 利 者は 情 報 や 交渉 力 の 面 で必 ず し も AI開 発 者 ・ 提供 者 と対等ではない、消費者契約そのものではありませんけれども、実質的にそれに近いとい う場合もあり得るということも考えれば、魅力的な選択肢に映るところであります。 ただし、仮にそのような仕組みを考える場合には、権利者と管理者の法的関係をどのよ う に 構 成 す る の か 、 そ れ ぞ れ の 権 利 義 務 を ど の よ う な も の と し て 構 築 す る の か な ど 、民 法・契約法的な観点からの細かな検討がさらに必要になってくるものと思いますので、い 18 ろいろと課題は多いものと思います。 冒頭で申し上げましたように、検討すべき課題を積極的に提示するような発言ではなく て、抽象的なものであって恐縮でありますし、さらに、事務局に示していただいた論点例 に対応するものかどうかも心もとないところでありますけれども、中間取りまとめを読ん で感じたことをお話しした次第です。 以上です。 ○渡部座長 ありがとうございます。 続きまして、福井委員、お願いいたします。 ○福井委員 福井でございます。各委員の御意見を伺って、勉強になることが多いなと思 っておりました。私は各論点というよりは、全体にまたがることをコメントさせていただ きます。 現在 は 、 AI の可 能 性 に 比し て 、 権 利者 と 利 用 者で ま だ ま だ対 立 点 も 多く 、 双 方 にと っ て 不幸 な 状 態 と思 う こ と が多 々 あ り ます 。 こ の 点、 日 本 が 突然 、 AI 開 発に お い て 世界 の 最先進国になるということは、現実的にはないのだろうなと思います。しかしながら、後 行のメリットというものもあると思うのです。例えば先行する米国の状況を見て、そのチ ャンスや逆にリスク・課題、対応策について検討した上で対応できるというようなメリッ ト があ ろ う と 思い ま す 。 今朝 の 日 経 でも 、 米 国 では AI が 知 的労 働 を 担 うこ と に よ る雇 用 喪失の初期段階にあるのではという米国内の議論が紹介されておりました。その評価はま だ 私の 手 に 余 りま す が 、 この 点 で は 先週 は AI に よる 市 場 で のク リ エ ー ター へ の 影 響に つ いて、ジェーン・ギンズバーグ教授などによる重要な論文も公表されたところです。これ ら先行情報は非常に価値があるものだろうと思います。もちろん、この検討会で政府が一 定の指針・ガイドラインを示すことには期待が大きいでしょうし、また、ある程度、その 役割を果たすことは重要であろうと思います。他方で、やはりまずはファクト、現状とい う こと の 把 握 が重 要 で す 。こ の 検 討 会が 、 少 な くと も AI と 知財 に お い ては 、 世 界 の多 様 な現状の情報センター、最も信頼できる情報が集積され議論された場所になるということ がまずは第一歩であり、大いに期待されるところではないかと思います。 その意味で、海外のルールの現状ももちろんですけれども、第１には、先ほどからお話 も あり ま し た 創作 や 実 演 、あ る い は 発明 な ど へ の AI に よ る サポ ー ト の 現状 。 ２ つ 目と し て 、そ う し たAI に よ る 市 場で の ク リ エー タ ー 等 への 影 響 の 現状 。 こ れ は声 や 肖 像 が類 似 し たこ と に よ る影 響 も 含 まれ る と 思 いま す 。 ３ 番目 と し て は、 AI の 透 明性 や 学 習 デー タ の開示。この実際の課題と可能性です。それから４番目として、海賊版サイトからの学習 の現状。これが実際、どの程度の割合で、どの程度行われているか。５番目として、技術 の現状。特に 「robots.txt」につ いての言 及 が多いですが 、一方で 新聞協会など は、こ の「robots.txt」が現 実的には機能 しないよ うなクローラ ーのプラ クティスが多 いと訴 えていらっしゃいます。これは実態としてどうなのか。そして、６番目として、対価還元 の現状と可能性、課題です。特に技術的な課題、あるいは現に行われている際の還元率な 19 どにも踏み込んでもいいと思います。 この点において、本日は国内スタートアップに向けた視線も少なくなかったように思う のですけれども、同時にメガプラットフォーム。その双方において、収益は今、どう集ま っているのかという視点も欠かせないのではないかなと思います。これらについて、エピ ソードを各委員から持ち寄り、あるいは資料を御紹介いただくことも大いに期待されると ころです。同時に、外部への調査委託も検討会においては大いに活用して、しっかりとフ ァクトを調べ、把握し、それに基づいた議論を行うことが大事ではないかなと思います。 補 正予 算 の 議 論も こ れ か ら始 ま り そ うで あ り 、 本当 の 意 味 での AI 先 進 国を 狙 っ て いく と いうのであるならば、ここでしっかりとした規模の調査委託なども現実に考えられていい のではないかと、これは事務局に向けたメッセージになりました。 私からは以上です。 ○渡部座長 ありがとうございました。 福田委員、お願いいたします。 ○福田委員 Preferred Networksの福田でございます。AI事業者の開発事業担当者・責 任者という立場からコメントをさせていただければと思っております。 この論点に関しては、今までの委員の先生方、皆様からもありましたとおり、非常に共 感する部分も多くございました。私からは全般にわたってのコメントという形にはなりま す けれ ど も 、 検討 会 に 参 加さ せ て い ただ い て 以 来、 こ の 社 会全 体 で の AIに 対 す る 理解 と いうものはやはり着実に進んでいるのかなと思っております。文化庁様から著作権に関す る 見解 が 示 さ れた り と か 、 AI 事 業 者 ガイ ド ラ イ ン 、 広 島 の 件も 含 め て 公表 さ れ て いる な ど、制度面での整理というものも着実に、前向きに進んでいるのかなと思っております。 一方で、ほかの委員の先生方からも御指摘ありましたけれども、他者の権利侵害を助長 しかねない出力を行うような事例というものがつい最近ありまして、実際、そういう生成 AI サー ビ ス が リリ ー ス さ れて 、 そ こ で起 こ っ た のが 、 や は り我 が 国 の コン テ ン ツ とい う ものが学習されて、十分な配慮なく出力に反映されたというところは、そういう状況とい うものも明らかになったかなと思っております。 私 の場 合 、ほ かの 省 庁様 の AI セ ーフ ティ ー であ ると か AIセ キュ リ ティ ーで あ ると かと いうところの検討会であったり分科会であったり意見交換会みたいなところにも出席をさ せていただいておりまして、開発者であるとか事業者の立場から、技術というものを正し く社会に実装していくための理解を得られたい、研究開発を進める上で過度なブレーキが かからないようにという思いで参加しておりました けれども、海外事業者様の動きを見る と、そのような配慮ということ、配慮すること自体が我が国の技術発展のブレーキとして 作用してしまったのではないかというのは、これはやはり私の判断自体が悪かったのでは ないかと本当に悩んでいるところではございます。 先ほどの例ですけれども、著作権に限らずだとは思うのですけれども、他者の権利を侵 害しかねないという、他者の権利の侵害を助長しかねないような出力をしながら、後から 20 オプトアウトで許されるという話であれば、現行のガイドラインの在り方というものは果 たしてそれでよかったのでしたかという疑問はあります。ただ一方で、ガイドラインがい わゆるソフトローとして位置づけられているということも理解しておりますので 、その限 界として受け止めなければいけない部分というものもあるのかなとは思っておりますが、 先ほど申し上げたように、本当にそれで良いのでしたかという、あくまできれいなガイド ラインをつくって終わりでよかったのでしたかというところはやはり気にはなりますし、 この先、その活用みたいな部分というものは進んでいくのかなとは思っております。 そういった意味でも、私は海外事業者とも話はするのですけれども、確かに日本のガイ ドラインについて聞いたことはなかったのですけれども、我が国のガイドラインが海外事 業者からどういうふうに受け止められているのかというものは一度、オフィシャルな回答 はないかもしれませんけれども、きちんと理解はしたくは思っております。 私ど も と し ては 、 AI の 利活 用 と い うこ と を 進 める こ と に よっ て 、 業 務の 効 率 化 であ っ たりとか、雇用創出の可能性というところ、あと、こういう新しい技術を正しくない 利用 をされることによって、先ほど申し上げたような我が国の産業を侵害するような使い方に 対して、きちんと保護するような取組というところに対して、技術を牽引する立場からし ても貢献はしていきたいとは思っております。 やは り AI 事 業者 ガ イ ド ライ ン を 含 めて 、 ガ イ ドラ イ ン を 誠実 に 遵 守 する よ う な 事業 者 だったり研究者様がきちんとインセンティブを得られるような仕組みの整備というところ はぜひ議論を進めていくことが不可欠だとは思っております。 以上になります。 ○渡部座長 ありがとうございました。これで一通り、一巡して御発言いただいたかと思 います。 全体を伺って、まず、一巡した印象ですけれども、前回議論していただいたアウトプッ トとしての法律・技術・契約に基づく総合的対処を考えるというような考え方については 改めて重要であるという御意見だったかと思います。 ただ、その中で、例えば法律面ではもう少し踏み込んで検討してよいのではないかとい うようなことがありつつ、この論点①、②、③について、それぞれ御意見をいただいたと いうことかと思います。 論点①に関しましては、開示の問題です。これはユースケースをもう少し細かく見てい くことで解像度を上げるべきではないか、あるいは技術的な手段をどうしても必須とする のではないか。AI Actを参照しながら、そういう解像度をいかにして上げていくかとい うことについて、少し工夫して議論していかなければいけないなというふうに思いました。 それから、論点②につきましては、これは特に契約をする、契約を進めていくというも のは言うは易しだけれども、本当にそれが推進できるようにするためには何をしたらよい かということでありまして、そのインセンティブが問題になります。これは新委員が、品 質の高いデータに関しては本当にニーズがあるということを伺って、そこは契約を進めて 21 いく上でインセンティブがある重要な領域であると思いましたが、これにつきましても解 像度を上げるという意味で、いろいろなケースを当てはめた上で考えていく必要があるか なというふうに思いました。 集中処理については、複数の委員からそういう考え方も必要なのではないかというよう な御意見をいただきましたが、これも同じように、インセンティブの問題とか、そういう ようなことは付きまとってくるのではないかなというふうに思います。それから、これを 誰に向けてということに関しても解像度を上げる必要がある。スタートアップなのか、プ ラットフォームなのかということで、実態をよく押さえながら、調査も必要だという御意 見もございましたけれども、そういう御意見だったかと思います。 論点③につきましては、これは将来像と一言で言われてもなかなか難しいところがあり まして、ただ、これは前回も同じですけれども、やはり変化は物凄く早い。この１年でも 大きな変化があったということでございましたので、その変化の中での対応策ということ になります。今までソフトロー的なもので対応していこうということでありまして、ガイ ドラインによる対処をしてまいりましたが、一方でガイドライン、この知財だけではなく て、事業者ガイドラインとか、いろいろなことをやっておりますが、これもなかなか限界 があるなと思います。物凄く大部なものになってしまいまして、そういう大部なガイドラ インが本当に普及できるのか。むしろ、プリンシパルとトレーニングを組み合わせるよう なやり方をしたほうがいいのではないかなど、いろいろな御意見がありえる中で、このア ウトプットをどういうふうに考えるかというのはすごく重要なことかと思います。 その中で、これは知財の委員会なのですけれども、どうしてもそこの外縁がかなり広が ったところに及びます。この点、前回の委員会でもいろいろ出ましたけれども、知財に限 定したところ以外の部分の対処をどうしていくのかというところについては、これは事務 局から御説明をいただいた方がいいかなと思いました。 以上のところが私のここまで伺っての所感なのですけれども、ここまでで事務局から何 かコメント、あるいは先ほどの説明があればいただきたいと思います。いかがでしょうか。 ○中原局長 知財に限定して、相互の横の連携についてのコメントに先生方が 躊躇いただくようなこ とになりますと、全体として物事を見ていかなければいけないということが大きな桎梏と なりますので、先生方から周辺部分、関連部分なのだけれどもということは躊躇すること なく御 意見 をい ただ け ればと 思い ます 。私 た ちは AI 法の 中で CSTI 当 局とも 連日 、意 見交 換を し なが ら 進め て お りま す 。そ し て、 私 ど もも CSTI の 会議 に 出さ せて は いた だ いて お り、そうした中でさらに進めていきたいと思いますので 、あまり限界を設けることなく、 御発言を賜ればと存じますので、よろしくお願いいたします。 それから、最後に、私が誤解をしていたかもしれないのですけれども、福田先生からオ プトアウトのところについての御指摘が先ほどありましたが、著作物の生成段階に当たる ところについて、オプトアウトで許容するというようなガイドラインは恐らく私どもの国 22 には存在しないのではないかと考えており、特に著作物の利用段階について、生成段階に おいてオプトアウトを許容するというような整理にはなっていないと思いますので、御指 摘のところは私が誤解しているかもしれませんけれども、殊に著作権法の考え方について 言えばそういうことだということを確認させていただきました。 よろしくお願いします。 ○渡部座長 ありがとうございます。 ほか、事務局、よろしいですか。 ○福田参事官 失礼します。あと１点だけ、今、中原局長からもあったとおり、本日、こ の会議でございますけれども、中間取りまとめ以降 、初めての開催ということもございま すので、もともと、この会議の開催の規定の中にございますけれども、こちらでございま す。 オ ブ ザ ー バ ー と し て 、 今 、 話 に も 上 り ま し た 、 こ の AI 法 を 所 管 す る 内 閣 府 の 科 学 技 術・イノベーション担当でありますとか、それから、知的財産の担当部署だけではなくて、 こ のAI 事 業 者 ガイ ド ラ イ ンへ の 関 係 の話 も あ り まし た け れ ども 、 総 務 省、 経 済 産 業省 の 担当もオブザーバーとして参加をしております。本来、ここは当然、知財に関する会議で はございますけれども、その審議の必要上、もし必要がございますれば、多少具体的なこ とであっても、コメント、御質問等をいただければ、答えられる範囲でそれぞれの省庁 の ほうから答えることも可能でございますので、できるだけ生産的な 良い議論等をできれば というようなことでお願いできればというふうに思います。 以上でございます。 ○渡部座長 ありがとうございます。 そういうことで、それぞれの委員の方の発言、それから、今の事務局の御説明もござい ましたが、この時点でまた２巡目の御発言あれば、ぜひお願いしたいと思いますが、こち らは挙手をいただければと思いますが、いかがでしょうか。 福田委員、お願いします。 ○福田委員 福田でございます。 すみません。先ほど言葉が過ぎた部分があったかもしれませんが 、オプトアウトという ところに関して言うと、恐らく事業者側の対応に関しては、出力から排除する 、出ないよ うにしているという意味でのオプトアウトというところで、きちんと対応はされているの だと思うのですけれども、一度は出せるようになっているというのと、出すだけのちゃん と能力はあるというところにはなるのかなと思っております。 そこに対して別にとやかく言うつもりはないですけれども、ただし、そういう対応でい いのかという部分に関しては、また有識者の皆様、先生方とも、委員の皆様とも話を、デ ィスカッションできればとは思っております。 ○中原局長 すみません。事務局からよろしいでしょうか。 ○渡部座長 よろしくお願いします。 23 ○中原局長 福田委員、御指摘ありがとうございます。 オプトアウトとか著作物の生成段階のところで、文化庁の考え方におきましては、例え ばプロンプトのとおりにそのまま出てくるというようなこととか、あるいはそこで著作権 侵害の頻度が高く想定されるというような場合においては、それを物理的な行為主体ある い は規 範 的 主 体と 認 定 す るか ど う か は別 と し て 、生 成 AI の 事業 者 自 体 が一 定 の 著 作物 侵 害の責任を負うことになるというような形でその考え方を整理されているので、一定のガ ー ドレ ー ル な どを 設 け な いと い う こ とに な り ま すと 、 そ れ なり に 生 成 AI事 業 者 に も著 作 権侵害の責任が及ぶのだということが一応、先般の１年前のガイドラインでは整理されて いるということだと存じます。 したがって、そうしたものを踏まえまして、事業者の皆様でどういう御対応をいただく かということは重要になってくるのではないかと思っておりますので、御承知のことばか りかもしれませんけれども、改めて確認させていただきました。ありがとうございます。 ○渡部座長 ありがとうございます。 ほかの委員の皆さん、いかがでしょうか。ございませんか。 新委員、お願いいたします。 ○新委員 ありがとうございます。奥邨先生と福井先生のコメントに私なりのコメントを。 奥邨先生のものは、具備可能なものまでライセンスの中に含めるというのは非常になる ほどなと思いました。非常に相場観もあるし、実際に企業の中でもその意図はあるだろう。 今、実際使われているケースとして、アニメ系とゲーム系の制作会社の中で、内部のデー タだけに絞ってトレーニングする、もしくはその人の絵とか、そういったものだけをトレ ーニングするというものは内部化されている状態で、今、作業としては行われるケースが 出ています。それを外部企業に実際に学習してもらって、社内で利用するみたいなケース というものが登場し始めております。これは多分、この小さな事業ケースにすぎず、今後、 これらのものを本格的にやるような企業というものが複数出てくると思うのですが、そう すると、やはりそのときに再現可能な範囲を含めてライセンス契約をしていくというよう な事業モデルというものは実際にあり得ると非常に聞いていて得心したところでございま した。 あとは、福井先生の挙げられていたスタートアップとプラットフォーマーという視点 で す。 私 の 会 社も ス タ ー トア ッ プ で ござ い ま す ので 、 日 本 の中 小 企 業 にと っ て は 、 AI 利 用 は生 成 段 階 に集 中 し ま す。 AI の モ デル 開 発 と 事業 展 開 を 伴う メ ガ プ ラッ ト フ ォ ーマ ー とは話は全く違うというところです。多くの場合というものは、メガプラットフォーマー がいきなりルールを押しつけてきて、そこによって、その事業の根本部分を崩されたりと か、そういうことというものは、これは競争している以上、市場競争である以上、そこの 民間の部分では当然あり得ることなので、それ自体は全面的に否定するつもりはありませ ん。とはいえ、権利関係のものに関してのもの、知財に関するものというものはやはりス タートアップの立場と、それから、プラットフォーマーの立場というものは分けて理解を 24 する必要性があるということは福井先生の御意見を聞いて非常に思いました。 特に 今 後 、AI 系 の も の とい う も の は、 ス タ ー トア ッ プ 系 のも の を 育 てて 新 産 業 にし て いくという非常に重要なところは日本の国内でもあり得ると思いますので、この部分で何 を、そこの対価還元をするにしても、あまりにもスタートアップに対して負担がかかり過 ぎないようにしながら、メガプラットフォーマーに対して、それが独占のような市場の状 況を利用して権利を非常に強く使わないように、そういったものをバランスを取った形で 提案をしていくような仕組みというものが必要なのかなというふうに思いました。 ありがとうございました。 ○渡部座長 ありがとうございます。 いかがでしょうか。 では、福井先生、お願いします。 ○福井委員 新委員にお名前を挙げていただきまして、メガプラットフォームとスタート アップを区別して実態を把握する点は、非常に私も賛成です。 また、それ以前に、オプトアウトのお話が福田委員からも出ておりました。実名を挙げ て申し上げれば、OpenAIのSora2で、出力におけるオプトアウトが多くの物議を醸したと ころです。一方、事実として共有しておきますと、現在もChatGPT 「GPT-5」では、例 え ば今やっていただいても、日本の著名なキャラクターを描いてという指示を出せば普通に そのものずばりが描かれます。つまり、オプトアウトという仕組みすら機能しているかど うか分からないという現状があり、これですと恐らく、世界のいかなる理論によっても侵 害の可能性はある程度上がってくるのではないかと思えるところです。 これ自体はひょっとしたら早期に解消されるかもしれません。そのことにフォーカスす るよりも、こうしたグローバルなメガプラットフォーマーに対して、どう日本での議論を 反映させていくのか、日本のステークホルダーの利益を守っていくのかという視点はやは り重要であろうと思います。 対価還元のお話をするときも、スタートアップの方にとって負担が重いというのはその とおりだと思うのですよ。他方において、恐らく日本の多くの権利者はそこを見ているの ではないだ ろうと 思う のです。 OpenAI の現時 点での企業 評価額 は約 75兆円で す。恐 らく、 多くの収益をメガプラットフォーマーが集め、場合によってはルールメークすら事実上肩 代わりするという状況に対して、一体、我々はどう振る舞えばいいのだろうかということ が問われているのだと思います。 よって、こうしたことも視点に入れ実効性のある議論をしていくべきであり、そのため にも、やはりファクトの集積が重要だろうということで、先ほど調査委託といった踏み込 んだ言葉で申し上げた次第でした。 私からは以上です。 ○渡部座長 ありがとうございます。 では、奥邨委員、お願いいたします。 25 ○奥邨委員 ２点補足をさせていただきます。ありがとうございます。 まず、先ほども申し上げましたように、基本的に、安心して利用できる環境をつくると いうことがやはり一つの大きなポイントであろうと思います。これは、言い方は難しいで す けれ ど も 、 現状 、 例 え ば企 業 さ ん が広 告 に AI 出 力を 使 っ た 場合 、 炎 上 する 。 著 作 権侵 害 をし て い る から な の か とい う と 、 そう で は な い。 AI を 使 った と い う こと だ け で 炎上 す る 。そ こ に は いろ い ろ な AIに 対 す る 不安 ・ 思 い とい う も の がい ろ い ろ 渦巻 い て い て、 そ れがそういう声になる。企業さんも、製品であれば頑張るのですが、宣伝広告物というも のはマイナスの話題になるだけでダメージですので、直ちに取り下げる。そのことが循環 になって、炎上が繰り返して起こっているのです。この結果、先ほどの新委員のお話にあ り まし た け れ ども 、 内 部 で AI を 使 っ てい る の だ けれ ど も 、 外に 向 か っ ては 使 っ て いる と 言 えな い と い う状 況 を つ くっ て し ま って い る わ けで す 。 こ れは 、 AI を 安心 し て 使 う環 境 と いう も の に 対し て は か なり マ イ ナ スに な る の では な い か 。そ の た め には 、 や は り AI が 思われているほど問題ではないのだということを開示していくということは必要だと思い ま す。 そ れ がAI を 使 っ て もら う 、 ひ いて は 開 発 する と い う こと に と っ ても プ ラ ス にな る のだという好循環をつくっていかなければいけないと思っております。 一方で、人間がやれることは限りがありますので、いろいろな技術を利用していくとい うことは重要だろうと思います。第１期の検討から、第 2期に至るまでの間に、いろいろ な技術が進んでおりますし、また、第１期の頃には標準化されていたと思えなかったもの が、今では実質的にデファクトの一つになっているというようなものもあります。 これは持論 なので すけ れども「 robots.txt 」 は現状、も ちろん 、守 っていない ケース がある云々はありますけれども、ほぼ標準、学習されたくないという場合のある程度のデ フ ァク ト に な りつ つ あ る とな っ た と きに 、 47 条 の５ の １ 項 の適 用 主 体 の政 令 指 定 にお い て、２号の情 報解析に ついても「 robots.txt 」を指定すべ きではな いだろうかと 思うわ けです。ここに指定すれば、少なくとも47条 の５の１項との関係では「 robots.txt」を 守ら ない と 適用 され な いと いう こ とに なり ま す。 実は 、 47条 の５ と 30条 の４ は 地続 きで す。 機械 学 習を 行う 企 業の 視点 で 考え ると 、 30条 の ４が 駄目 だ った 場 合、 47条 の ５と い う 受 け 皿 が あ る と い う 発 想 に な り ま す か ら 、 あ る 意 味 で は 47 条 の ５ の と こ ろ で 「 robots.txt 」 を 義 務 づ け て お け ば 、 リ ス ク 管 理 を す る 企 業 と し て は 、 や は り 「robots.txt 」を守っ ておこうとい うふうな 形に誘導する ことがで きるのではな いかと 思っております。もちろん、事実・実態で検索エンジンと同じ程度のものだと評価できな いというのであれば、それはそれで構わないのですけれども、一旦、やはり時間の流れを 評価していくということが一つは重要です。 そ れか ら 、も う一 つ は、 AIに 関 する 表示 の 中で AI出 力 物だ とい う 表示 をし て いく とい う、ヨーロッパはそういうことをやっているわけなのですけれども、ただ、ヨーロッパの Code of Practice、実務規範を見ていただいたら分かるのですが、実質機能するのかと い うよ う な 内 容に な っ て おり ま す 。 例え ば 、 AI で あっ て も 標 準的 な 編 集 機能 に よ る サポ 26 ートは書かなくていいのだ、みたいな決め方です。そうすると、これは大丈夫なのか、あ れはどうなのか、よく分からないということになりかねません。さっき新委員のお話にあ っ たよ う に 、 これ か ら 世 の中 は 、 AI を使 う も の のほ う が い っぱ い あ る とい う 時 代 にな り ま す。 そ の 中 で、 AI を 使 って い る と いう 表 示 を する と い う こと 自 体 が 、ど れ だ け 意味 が あるのか。 むし ろ 、 日 本的 に 考 え るの で あ れ ば、 例 え ば 、農 薬 不 使 用み た い な 感じ で 、 AI は一 切 使っていません、ピュアなハンドメードだということを表示する法が価値があるかもしれ ない、とも考えております。こういうことも含めて、少しでも情報を開示して、開発者に も利用者にも意味があるという形で、情報を開示することによって、いわゆる雰囲気的に は炎上みたいなものを少しでも防いでいく、使いやすい環境をつくるということが必要な のではないか。ピュアなものだということを示すためのオーセンティケーション技術など も、今、開発されていますので、そういうものもちゃんと把握していくべきではないかな というふうに思っております。 以上です。 ○渡部座長 ありがとうございました。 ほかはいかがでしょうか。 田村先生、お願いします。 ○田村委員 「robots.txt」の話が何回か出たので、少しだけ補足です。 先ほど福井先 生から 「 robots.txt」 に反応 しないクローラ ーの話 が出てまいりま した。 そこまで考えるときに二面性があると思っていまして、反応しないから標準となるのだっ たら、実効的 な問題で はないので保 護しなく ていいという ことにな る、「 robots.txt」 は保護しなくていいということになるのですけれども、逆に反応しないものもあるという のだったら、 まさにそ のときこそ、 この「 robots.txt」を 守らない といいますか 、そこ を回 避 し てし ま う よう なク ロ ー ラー は 、 アド オン を 使 って 学 習 した 場合 に は 、 30 条 の ４、 47 条の ５ に 当 たら な い 。 そう い っ た 法的 支 援 も 必要 で は な いか な と い うふ う に 思 った と いうことでございます。 また、何にせよ、福井先生がおっしゃるように、現状のファクトが大事だというのは私 も賛成いたします。 ありがとうございます。 ○渡部座長 ありがとうございます。 福井先生、もう一回、手を挙げていらっしゃいますか。 ○福井委員 今、奥邨先生、田村先生の「robots.txt」についても 、そろそろ 47条の ５ などの中で位置づけていくべきではないかという問題提起は私も賛成いたします。これは やはり結果を出していく検討会ということも重要ですので、今期、重要なテーマと考えて もいいのではないかということが一つです。 そして、機能しない場合があるという指摘には３つの面があって、一つはこの 27 「robots.txt 」を無視 してしまうク ローラー の存在。野良 クローラ ーなどと呼ば れてい ま す。 ２ つ 目 が、 AI 開 発 側が ど う い うク ロ ー ラ ーを 使 っ て いる の か 、 開示 さ れ て いな い ので「robot.txt」に記載できないという問題が指摘されております。それから、３つ目 が 、こ れ は ど こか 特 定 さ れて し ま う ので す け れ ども 、 検 索 エン ジ ン 用 のク ロ ー ラ ーと AI 学習用のクローラーが同じなものだから、ディスアローできない、拒絶できないという問 題 が指 摘 さ れ てい る よ う です 。 こ の 全て に つ い て、 47 条 の ５な ど で 解 決で き る も ので は ないでしょうが、しかし、できることはあるのではないかと思いますし、また、その点に ついての実態ももっと把握していくといいのではないか。今日は私よりはるかにお詳しい 現場の方々もいらっしゃっていますので、お知恵をお借りできればとも思った次第です。 以上でした。 ○渡部座長 ありがとうございます。 いかがでしょうか。どの話題でも結構です。 よろしいですか。 今、どなたも手が挙がっていないですけれども、初回ということもあって、今後議論を すべき範囲を、足りないところとかがあれば今日いただいておくとよろしいかと思います が、特によろしいですか。 ○中原局長 事務局から一言よろしいでしょうか。すみません。 ○渡部座長 どうぞ。 ○中原局長 これまでいただいた御議論の中で、事実を押さえるということと、それに関 連しまして、技術的な状況というものを押さえるということは非常に重要だというような お話をいただきました。技術的にできないことを議論してもというお話もあったのですけ れども、最近の状況を見ていますと本当に技術の進歩が早く、数週間ごとにこんなことが というようなことがどんどん実現していくというような状況も目の当たりにするに及び、 いわゆる全体のアーキテクチャーを考える際に、例えば利用者の視点、あるいは制度を運 用する側の視点から、こういう技術があるとこの辺りを解決できるというような、中原委 員からお話があったような、技術を確保することが法的にポジティブな評価を与える面、 あるいはそうした標準的な技術を確保しないことが消極的な評価を与える側面というよう な観点から分析をしたときには、技術者に一定の限度でこういう技術というものの開発を 促すような議論もアーキテクチャーの全体を考える中で行っていただくことができればと 存じます。 そのように感じておりますのは、いろいろ技術者 の方とお話をするに当たり、例えば制 度でどうなっているのかということについてどこまで御理解を十分にいただいたかどうか という点については、相互のコミュニティーの理解の浸透というものをさらに深めていく 必要があるかなと感じているところでございますので、そんな御議論もお願いできればと 思っております。 僭越でございますが、よろしくお願いいたします。 28 ○渡部座長 ありがとうございます。 今のような観点でいかがでしょうか。 多分、少しそういう観点で整理をしないと出てこないかもしれません けれども、よろし いですか。 研究者・技術者にこういう議論があること自身を知ってもらうことはすごく重要 で、東 大だと松尾先生の研究室の学生さんとか、本当にこういう議論の存在が分かっていないと いいますか、知らないというようなことがありますけれども 、そこはまさに高いレベルで 共有した課題を持って解決をしていくという仕組みをつくるのには重要なことかというふ うに思います。 よろしいでしょうか。 特になければ、ここまででさせていただくということにしたいと思いますが、ありがと うございました。少し早いですけれども、今日は第１回目の御議論ということで、これを 基にして今後の議論の枠組み等も検討していただければと思います。 事務局さん、最後、何かございますでしょうか。 ○福田参事官 ありがとうございました。 次回の日程につきましては、追って公表いたします。 事務局からは以上です。 ○渡部座長 ありがとうございました。 では、本日の会議はこれにて終了させていただきたいと存じます。御多忙のところ、大 変たくさん貴重な意見をいただきました。ありがとうございました 。 29

資料１ 「AI 時代の知的財産権検討会」の開催について 2023 年 10 月 4 日 内閣府知的財産戦略推進事務局 1. 目的 ○ 生成 AI をはじめとする AI 技術の急速な進歩は、社会における様々な創作活動の 在り方にも影響を及ぼしており、AI と知的財産権の関係をめぐり新たな課題を惹 起している。 ○ 様々な AI ツールが生み出され、普及していく中にあって、それらの開発・提供・ 利用を促進し、我が国経済社会の発展につなげていくためにも、生成 AI の懸念や リスク等への対応を適切に行う必要がある。 ○ 以上を踏まえ、AI と知的財産権等との関係をめぐる課題への対応について、関係 省庁における整理等を踏まえつつ、必要な対応方策等を検討するため、 「AI 時代の 知的財産権検討会（以下、本検討会）」を開催する。 2. 主な検討事項 ○ 本検討会においては、生成 AI と知的財産権等との関係をめぐる懸念やリスクへの 対応の推進に向けて、以下の検討を行う。 ① 法的課題の整理 ② 法的ルールによる対応について ③ 法的ルール以外による対応について（技術による対応や収益還元の在り方等） ④ その他 ○ また、AI 技術の進展を踏まえた発明の保護の在り方等についても検討を行う。 3. 委員 ○ 本検討会は、次に掲げる者であって、新たな法的課題等への対応に取り組み、又は それらに関し識見を有するものをもって委員とする。 ① 民間事業者 ② AI 関連分野の有識者 ③ 法律関連分野の有識者 ④ その他 4. その他 ○ 本検討会は、必要があると認めた際に参考人を招いて意見を聞くことができる。 ○ 本検討会は原則として公開し、事務局へ事前登録を行った者は傍聴することがで きる。 ○ 本検討会の会議資料及び議事録は、原則として会議開催後公開する。 ○ 座長は、会議又は会議資料若しくは議事録を公開することにより率直な意見の交 換が損なわれるおそれがあるときその他必要と認めるときは、これらの 全部又は 一部を非公開とすることができる。 ○ 本検討会の庶務は、関係省庁の協力を得て、内閣府知的財産戦略推進事務局におい て処理する。 ○ この決定に定めるもののほか、本検討会の運営に関し必要な事項は、座長が別に定 める。 「ＡＩ時代の知的財産権検討会」委員一覧 ＊五十音順、敬称略 （委員）◎座長 上野 達弘 早稲田大学法学学術院教授 岡﨑 直観 東京科学大学情報理工学院情報工学系知能情報コース教授 岡田 弁護士、森・濱田松本法律事務所外国共同事業 淳 岡田 陽介 ㈱ＡＢＥＪＡ代表取締役ＣＥＯ 奥邨 弘司 慶應義塾大学大学院法務研究科教授 佐渡島庸平 ㈱ コルク代表取締役社長 新 デジタルハリウッド大学大学院教授、 清士 ㈱ AI Frog Interactive 代表取締役 竹中 俊子 ワシントン大学ロースクール教授 田村 善之 東京大学大学院法学政治学研究科教授 中原 太郎 東京大学大学院法学政治学研究科教授 福井 健策 弁護士、骨董通り法律事務所 福田 昌昭 ㈱Preferred Networks VPoE、技術企画本部本部長、 AI プロダクツ＆ソリューションズ事業本部副本部長 ◎渡部 俊也 東京科学大学 副学長 （2025 年 10 月 24 日時点） 【オブザーバー】 内閣府 科学技術・イノベーション推進事務局 文部科学省 文化庁 著作権課 経済産業省 経済産業政策局 知的財産政策室 経済産業省 商務情報政策局 AI 産業戦略室 経済産業省 商務・サービスグループ 文化創造産業課 経済産業省 特許庁 総務部 総務課 法務省 刑事局 刑事課 法務省 民事局 参事官室 総務省 国際戦略局 国際戦略課 AI 政策推進室 総務省 情報流通行政局 情報通信作品振興課 総務省 国際戦略局 技術政策課 研究推進室 公正取引委員会 事務総局 経済取引局総務課 デジタル市場企画調査室 【事務局】 内閣府 知的財産戦略推進事務局

資料２－１ 「知的財産推進計画2025」 （概要） ～IPトランスフォーメーション～ 2025年６月 基本認識 日本の競争力の現状 ○ 環境変化や主要国動向を踏 まえて知財戦略を推進する も、日本の競争力は長期的 に低落傾向。※WIPOのグローバ ルイノベーション指数（2024年）は13 位と、韓国（6位）や、中国（11位）の 後塵を拝する状況。 ○ コンテンツ産業やクール ジャパン関連産業は大きく 発展。 グローバルイノベーション指数（GII）ランキング 1 4 7 10 13 16 19 22 25 28 31 34 37 40 43 9 13 16 20 14 13 15 16 13 13 13 13 コンテンツ産業の発展 19 22 21 競争力の低下 25 スイス 米国 日本 シンガポール 韓国 中国 出典：WIPO「Global Innovation Index 2024」 出典：（株）ヒューマンメディア「日本と世界のメディア×コンテンツ市場データベース （2024）」をもとに内閣府知的財産戦略推進事務局が作成 将来予測される環境変化と知財戦略の方向性 ○ この先10年では、人口減少に伴うイ ノベーション人材が減少し、国内市 場が頭打ちになる一方、グローバル 市場は引き続き成長。AI技術の急速 な発展と、社会経済システムへの大 きな変革が予測される。 ○ 日本の競争力の現状と将来の環境変 化を踏まえて、今後の知財戦略の方 向性を検討していく必要。 1 IPトランスフォーメーション ～知財の力で課題を解決し国内外で稼ぐ～ ○ 我が国の知的資本（技術力、コンテンツ力、国家ブランド力等）を最大限活用し、グ ローバル知的資本を誘因・集積。知的資本を活用し国内外の社会課題の解決を図る「新 たな知的創造サイクル」の構築を目指す（IPトランスフォーメーション）。 実現のための３つの柱 IPトランスフォーション（イメージ図） 第一の柱：イノベーション拠点としての競争力強化 • • 海外のトップレベルの研究者、起業家等のイノベーション人材、IT人材、クリ エイティブ人材を、我が国に呼び込むための環境整備が必要。 このため、①創造人材の強化・ダイバーシティの実現、②知財無形資産投資 の促進、③国際的求心力のある知財制度・システムの実現に取り組む。 第二の柱：AI等先端デジタル技術の利活用 • • 人口減少下においても強靭な知的創造サイクルの構築を図るため、AIの利 活用推進による生産性向上、創造活動の迅速化等を進める必要。 このため、クリエイターや権利者の懸念への対応、発明創作等の知財制度・運 用上の考え方の明確化等の対応に取り組む。 第三の柱：グローバル市場の取込み • グローバル市場を取り込むため、「新たなクールジャパン戦略」に基づき、クール ジャパン関連産業の海外展開を推進するとともに、今般策定した「新たな国 際標準戦略」に基づき、産学官で戦略的に国際標準化を強力に推進する。 KPI 〇2035年までに、WIPO の「グローバルイノベーション指数」の上位４位以内を目指す。※1 〇日本市場（日経225）における時価総額に占める無形資産の割合を、2035年までに、50％以上に高める。※2 ※１ 現在の我が国の「グローバルイノベーション指数」は13位（2024年）。過去の我が国の最高位は４位（2007年）。 ※２ 2020年時点の日本市場（日経225）における時価総額に占める無形資産の割合は32％。米国市場（S&P500）は90％、中国市場（上海深圳CSI300）は44％、韓国 （KOSDAQ COMPOSITE INDEX）は57％。 2 「知的財産推進計画２０２５」構成 ーIPトランスフォーメーションー IPトランスフォーメーション 我が国の知的資本（技術力、コンテンツ力、国家ブランド力等）を最大限活用し、グローバル知的資本を誘因・集積。知的資本を活 用し国内外の社会課題の解決を図る「新たな知的創造サイクル」の構築を目指す（IPトランスフォーメーション）。 保 護 創 造 技術流出の防止 知財・無形資産への投資による価値創造 営業秘密の漏洩防止に向けた啓発活動を強化。 国の資金による委託等によって行われる研究開発プ ロジェクトについて、入口から出口までの段階に応じた 技術流出防止対策の実施。 知財・無形資産の投資・活用の促進に向け、知 財・無形資産ガバナンスガイドラインの考え方を更 に普及・浸透を図る。 事業者が積極的に制度を活用できるようイノ ベーション拠点税制の周知徹底を図るとともに、 制度の執行状況や効果等を踏まえ、対象範囲 の見直しを検討。 海賊版・模倣品対策の強化 厳正な水際取締りの強化や、知的財産の侵害を 抑止するための適切な制度的手当のあり方の検討、 海賊版について国際連携・執行の強化等を推進。 AIと知的財産権 産業財産権制度・運用の強化 「AI 事業者ガイドライン」等を通じて、AI事業 者による主体的な開示対応を促すとともに、AIに 関連する制度の運用の具体化の中で、国際的 な働きかけも行いつつ、実効性の担保に資するよ うな透明性を確保。 AI利用発明の発明者の定義等についての検 討およびその明確化に向けた対応を速やかに検 討。 ネットワーク上における国境を跨いだ特許侵害、仮 想空間におけるデザイン保護等について、法改正を含 めた必要な措置を講じる。 地域における知財保護 中小企業の「知財で稼ぐ力」を高めるための具体的 取組（知財経営リテラシー向上、知財の保護強化 等）を取りまとめた対応策の策定及び推進を検討。 クールジャパン・コンテンツ 活 用 クールジャパン戦略フォローアップ 産学連携・スタートアップ 新たな国際標準戦略 2033年までに50兆円以上の海外展開規 模とするとの目標達成に向け、「コンテンツと地 方創生の好循環プラン」によって、クールジャパ ンを活用した地方創生を推進。 2033年までにエンタメ・コンテンツ産業の海 外売上高を20兆円とするとの目標に向けて、 官民でPDCAサイクルを加速化。 大学知財ガバナンスガイドラインや研 究者の転退職時の知財取扱い指針 を普及促進。好事例の収集・分析・ 公表等必要な対応を検討。 スタートアップの事業化に重要となる 知財人材派遣や知財人材の育成を 支援。 国際標準を通じた国際社会や我が国の 課題解決、経済安全保障への貢献、市 場創出を実現すべく、戦略領域・重要領 域の選定等を含む、「新たな国際標準戦 略」を策定。 官民連携の場の設置等を通じて、体制 強化を図る。 3 「知的財産推進計画2025」のポイント（主要項目） １．AI・デジタル時代の知的財産制度 • • イノベーション促進とリスク対応の両立を図るAI法の考え方を踏まえつつ、「AI技術の進歩の促進」と 「知的財産権の適切な保護」の両立を図る。 ➢ 権利者・クリエイターの懸念への対応として、「法」「技術」「契約」の各手段を組み合わせた取組を 促進するとともに、AI開発の透明性確保の方法を検討。 ➢ AI開発者へのインセンティブの担保の観点から、AI利用発明の発明者の定義等について検討。 国内外の企業を惹きつける「世界最先端の知財制度・システム」の実現。 ➢ DX対応として、ネットワーク上における国境を跨いだ特許侵害への対応（特許法）、仮想空間 におけるデザイン保護の強化（意匠法）等、法改正を含めた必要な措置を講じる。 ２．新たな国際標準戦略の策定・ルール形成の推進 • 2006年以降、19年ぶりとなる「新たな国際標準戦略」を策定。同戦略において、国際標準化に向け た17の重要領域を設定。特に、対応の緊急性を踏まえ特定された８つの戦略領域（環境・エネル ギー、量子、デジタル・AI、バイオエコノミー等）について、グローバル市場でのルール形成を日本が主 導することを目指し、官民の資源を優先的に投下。 ３．「コンテンツと地方創生の好循環プラン」の策定 • • アニメツーリズムやロケ誘致など地域一体となった取組を加速するため、「コンテンツと地方創生の好循 環プラン」を新たに策定。地方創生2.0の推進に向けて、クールジャパン戦略会議において、2033年ま でに全国約200カ所の拠点を選定し、成功事例の輩出・共有を進める。 2033年までに、エンタメ・コンテンツ産業の海外市場規模を20兆円とする、との目標実現に向けて、 官民でPDCAサイクルを回していく。 4 創造 知財・無形資産への投資による価値創造 ◆ 持続的な成長と社会課題の解決には研究開発投資が不可欠。 ◆ 企業は知財・無形資産に立脚した価値創造を図るとともに、自社が有する知財等がいかに社会全 体のインパクトをもたらすのかを論理的かつ戦略的に発信することが重要。 ◆ 企業の知財・無形資産の価値化のプロセスの可視化、研究開発を単なる「費用」ではなく「資 産」の形成と捉える企業マインドの変革等が必要。 現状と課題 ○ 主要国における研究開発費総額は増加 している一方で、日本の研究開発費総 額は伸び悩んでいる。 ○ 日本企業は米国企業に比べて時価総額 に占める無形資産の割合が低い。 ○ 日本企業は自社の強みとなる知財・無 形資産の把握や活用が不十分との指摘 あり。 （出典）（出典）科学技術・学術政策研究所、「科学技術指標2024」 （出典）新しい資本主義実現会議（第５回）資料１、P50（ 2022年） 主要国における研究開発費総額の推移 時価総額に占める無形資産の割合 KPI ○ 第7期科学技術・イノベーション基本計画の数値目標の設定を踏まえ、今後、適切なタイミング でKPIを設定する。 今後の予定（方向性） ○ 知財・無形資産の投資・活用の促進に向けて、知財・無形資産ガバナンスガイドラインの考え方 を更に普及・浸透を図る。 ○ 事業者が積極的に制度を活用できるようイノベーション拠点税制の周知徹底を図るとともに、制 度の執行状況や効果等を踏まえ、対象範囲の見直しを検討する。 ○ グローバルヘルス分野におけるインパクト投資の推進に向けた国際連携を強化するとともに、投 資によるインパクトの測定・管理等の標準化に向けた取組を推進する。 5 AIと知的財産権 創造 ◆ AI学習コンテンツに係るライセンス市場と権利者への対価還元に向け、AI事業者による学習データ等の情 報開示など、透明性の確保を促す具体的な対応等が求められており、例えば、AI事業者ガイドライン等を 通じてAI事業者による適切な開示対応を促すことが重要。 ◆ 発明創作過程においてAIを利用した場合、AIの開発者等がどのような貢献をすることで発明者として認め られるか否かについて明確な基準が存在せず、AI開発者の地位の明確化に向けた検討が必要。 現状と課題 ○ AIの市場規模や研究費が増加している一方で、我が国 企業の業務における生成AIの利活用は海外と比較して 進んでいない。 ○ 権利者への対価還元の機会が得られないことや、AI事 業者による情報開示が進んでいないことにより、AI利 用者側として訴訟リスクがあり、利活用を躊躇すると いった影響が生じている。 ○ 発明創作過程においてAIを利用した場合、AIの開発者 等がどのような貢献をすることにより発明者として認 められるか否かについて明確な基準がない。 （出典）総務省「令和6年版情報通信白書」 業務における生成AIの活用状況（メールや議事録、資料作成等の補助） KPI ○ 日本企業のAIの利活用率を概ね100％まで高める。 ○ AI利用発明の明確化を進め、AI利用による研究開発を促進する（AI分野の研究費増加）。 今後の予定（方向性） ○ 「AI 事業者ガイドライン」等を通じて、AI事業者による主体的な開示対応を促すとともに、AIに関連す る制度の運用の具体化の中で、国際的な働きかけも行いつつ、実効性の担保に資するような透明性を確保。 ○ 産業構造審議会知的財産分科会特許制度小委員会における、AI利用発明の発明者の定義等についての検討 およびその明確化に向けた対応。 6 創造人材の強化・ダイバーシティの実現 創造 ◆ 我が国の若手研究者を含めたイノベーション人材（知的創造人材）の減少が顕著。 ◆ 国際的な高度人材の獲得競争が進む中、創造活動に関与する人材基盤の充実化に向けて、イ ノベーション人材の育成や海外人材の誘引、ダイバーシティの推進等を強化。 現状と課題 ○ 日本の人口100万人当たりの博士号取得者数は諸外国と比較 して少なく、産業分野における割合も米国と比較して低い。 ○ 知財創造活動への関心・関与へと誘導するきっかけづくり として知財創造教育の普及を促進する必要。 ○ 高度な知識や経験を有する海外人材の受入れの促進や、日 本人自身も海外での多様な経験等を経ることは重要。 （出典）国立社会保障・人口問題研究所「日本の将来推計人口 令和5年推計」 イノベーション人材の推移 KPI ○ 2040年における人口100万人当たりの博士号取得者数を世界トップレベルに引き上げる。 ○ 知財創造・保護・活用に携わる知財教育に関する取組を広げる。（取組事例数） ○ イノベーション人材の取り込みを進め、高度な能力をもつ外国人材を増やす。 （在留外国人数（高度専門職１号（イ）、（ロ）） 今後の予定（方向性） ○ 2024年度に作成した「博士人材の民間企業における活躍促進に向けたガイドブック」及び「企業で活躍 する博士人材ロールモデル事例集」の周知・普及を行う。 ○ 知財創造教育の普及・実践のために、「知財力開発校支援事業」などの取り組みを推進。 ○ 東南アジアやインドのトップ大学等の卒業生をはじめとした優秀な若手人材の確保に向けて、我が国での 就職に向けた課題や企業側からの具体的なニーズの調査及びそれを踏まえた具体的な措置の検討。 7 技術流出の防止 保護 ◆ 研究開発における情報漏洩に対するセキュリティ確保の必要性は企業のみならず大学等 においても求められており、より一層の営業秘密等の漏洩防止に向けた対応を推進。 ◆ 安全保障上影響のある技術の流出防止対策の適切な執行および随時の見直しを実施。 現状と課題 ○ 営業秘密侵害事犯の相談受理件数は増加傾向にあり、研 究開発における情報漏洩に対するセキュリティ確保が不 可欠。 ○ 安全保障の重要性が拡大しており、安全保障に係る技術 の流出防止措置を講じることは重要な課題であり、技術 流出対策の適切な執行や対象技術の調査分析等が必要。 （出典）警察庁「令和6年における生活経済事犯の検挙状況等について」を基に内閣府が作成 営業秘密侵害事犯の検挙事件数及び相談受理件数の推移 KPI ○ 情報漏洩の発生抑制や情報セキュリティ等の確保を図り、適切な技術流出防止につなげ る（営業秘密侵害事犯の検挙件数又は相談受理件数の状況把握）。 今後の予定（方向性） ○ 「秘密情報の保護ハンドブック」および改訂した「営業秘密管理指針」等の周知等を進 め、営業秘密の漏えい防止に向けた啓発活動を強化。 ○ 「技術管理強化のための官民対話スキーム」（2024年12月に施行）の適切な執行、お よび、対象とすべき技術の調査・分析による随時の見直し。 ○ 国の資金による委託等により行われる研究開発プロジェクトに関する、入口から出口ま での段階に応じた技術流出防止対策の実施。 8 海賊版・模倣品対策の強化 保護 ◆ 海外発海外向けの海賊版サイトの被害が拡大し手法が巧妙化する中、民間の主体的な取組を適切に支援で きるよう、密に連携や情報共有をしながら、官民一体となって海賊版対策を強化。 ◆ 模倣品被害が深刻化してきている中、厳正な水際取締りの強化や、損害賠償額算定方法の見直し（2019年 の特許法改正）の効果検証を踏まえた侵害抑止に向けた更なる対応の必要性を含めた検討を実施。 現状と課題 位 年 年 年 年 年 ２ ４ ） 年 ○ 日本向け出版物海賊版上位10サイトアクセス数合計は、３億アク セス程度と、依然として高水準であり、予断を許さない状況。 ○ 国境を越えた海賊版の負のエコシステムへの対策が必要。 ○ 税関における偽ブランド品等の知的財産侵害物品の輸入差止件数が 2024年は３万３千件を超え、過去最多を更新。 ○ 損害賠償額算定方法の見直し（2019年の特許法改正）の効果検証 を行い、侵害抑止に向けた更なる対応の必要性の検討。 （出典）一般社団法人ABJ「出版物違法サイトの状況」https://www.abj.or.jp/data 出版物海賊版上位10サイト アクセス数合計の月別変化 KPI ○ 日本国内からの出版物海賊版へのアクセスを低減する（直近５年間で最も少なかったのは、約１億アクセス）。 ○ 模倣品被害の抑制のため、水際措置を推進する（税関における知的財産侵害物品の差止件数の状況把握）。 今後の予定（方向性） ○ 海賊版等対策官民実務者級連絡会議を通じ、「インターネット上の海賊版に対する総合的な対策メニュー及び工程表」に基 づく取組を官民一体となって進める。 ○ 海外発海外向けの海賊版被害に対応するため、現地での普及啓発、国際連携・執行等の強化や、正規版流通促進に官民一体 となって取り組む。 ○ 海外事業者が郵送等により国内に持ち込む模倣品が税関による取締りの対象となった2022年改正商標法・関税法等を踏ま えた関係府省等の連携による模倣品・海賊版に対する厳正な水際取締りの実施。 ○ 損害賠償額算定方法の見直し（2019年の特許法改正）の効果検証を行いつつ、特許表示の機能向上等を含めた知的財産の 侵害を抑止するための適切な制度的手当のあり方を検討し、法改正を含めた必要な措置を講ずる。 9 産業財産権制度・運用の強化 保護 ◆ 国際的に求心力のある知財制度・システムの実現に向けて、産業財産権制度のグローバル化のみならず デジタル化への対応が重要であり、DX時代の産業財産権制度のあり方について検討。 ◆ 侵害抑止に向けた紛争解決手段の見直し・改善の検討も不可欠であり、損害賠償額算定方法の見直しの 効果検証を実施し、知的財産の侵害を抑止するための適切な制度的手当のあり方を検討。 現状と課題 ○ イノベーションハブとしての地位の確立とともに、その受け皿とな る特許申請手続のグローバル化対応を強化することが必要。 ○ 国際的に求心力のある知財制度・システムの実現に向けて、グロー バル化のみならずデジタル化への対応について制度改正を含め検討 が必要。 ○ 侵害抑止に向けた紛争解決手段の見直し・改善の検討も不可欠。 （出典）知財高裁ウェブサイト「統計」より特許庁作成 特許権侵害に係る損害賠償請求訴訟における認容額（東京地裁・大阪地裁） KPI ○ 国際的に求心力のある知財制度・システムに向けて、争訟制度の充実化を推進する（2019年以降の認 容額の上昇傾向の状況把握、ADR受理事件数の状況把握等）。 今後の予定（方向性） ○ イノベーション創出の促進に向けた外国語書面出願制度に関するユーザーニーズ等調査の実施。 ○ ネットワーク上における国境を跨いだ特許侵害について、発明の実施形態として実質的に国内の実施 行為と認める要件の明文化に関する検討を進め、法改正を含めた必要な措置を講ずる。 ○ 仮想空間におけるビジネスやデザイン創作の実態を踏まえた意匠制度見直しの必要性及び制度的措置 の方向性についての検討を進め、法改正を含めた必要な措置を講ずる。 ○ 損害賠償額算定方法の見直し（2019年の特許法改正）の効果検証を行いつつ、特許表示の機能向上等 を含めた知的財産の侵害を抑止するための適切な制度的手当のあり方を検討し、法改正を含めた必要 な措置を講ずる。 10 地域における知財保護 保護 ◆ 地方等の中小企業の知財の利活用や保護の促進と、知財制度の見直しによるAIやDX推進に向けた環境整 備を通じ、企業等が「知財で稼ぐ」ことを可能とする支援策を強化。 ◆ 農林水産・食品分野における知財保護・活用を通じて、海外から「稼ぐ」ことを念頭に「農林水産省知的 財産戦略2030」を策定すべく議論。 現状と課題 ○ 知財の知識不足や弁理士等の支援人材の地域偏在により特許を取得する中小企業 割合は18％弱程度。またAIやDX化への対応に課題あり。 ○ 中小企業が持続的に賃上げ原資を確保しつつイノベーション創出・付加価値拡大 を実現する上で、その源泉となる知財による「稼ぐ力」を高める必要あり。 ○ 農林水産物・食品の海外市場での需要が拡大する中、優良品種の海外流出等のリ スクに備え、知財の適切な保護・活用を促進することが必要。 （出典）特許庁HP「特許行政年次報告書2024年度版」 中小企業の特許出願件数の推移 KPI ○ 中小企業が知財で稼ぐことを目標とし、約1.4万社以上の中小企業が新規に特許出願等することを促す。 ○ 農林水産物・食品の輸出額は2024年において約１兆５千億円のところ、2030年までに５兆円とする。 今後の予定（方向性） ○ 「知財経営支援ネットワーク」に中小企業庁を加え、より広い知財取引の実態把握と共に、中小企業等や 支援機関の「知財経営リテラシー」の向上と経営相談等に効率的に支援する。 ○ 中小企業における「知財で稼ぐ力」を高めるための具体的取組（知財経営リテラシーの向上、地域拠点の 形成等を含めた知財の活用促進、特許表示の機能向上等を含めた知財の保護強化等）を取りまとめた対応 策の策定及び推進を検討する。 ○ 国内における農林水産物の知財マネジメントの強化に向け、農業知財を担う人材育成や現場支援体制の充 実化等の取組を促進する。 ○ 農林水産物・食料品の輸出促進に向け、育成者権管理機関の早期立上げを推進するとともに、優良品種の 農業現場における管理徹底等の制度的枠組みの整備を検討する。 ○ EUで手工芸品等がGIの対象となることを踏まえ、EUの動向を把握し、日本での導入可否を検討する。 11 産学連携による社会実装の推進／スタートアップ支援 活用 ◆ 大学知財の社会実装機会の最大化と資金の好循環に向けて、大学知財ガバナンスガイドラインの浸透 と産学連携の実態把握を進め、好事例の収集・分析・公表等の必要な対応を検討。 ◆ スタートアップの事業化に重要となる知財戦略の構築に向け、スタートアップ向けの戦略構築支援等 の取り組みを進めつつ、官民をあげて知財人材派遣や知財支援人材の育成を支援。 現状と課題 ○ 大学知財の社会実装機会の最大化と資金の好循環の 更なる向上が求められる。 ➢ 大学保有特許の約8割は未利用。実装機会の拡大余地あり。 ➢ 研究者への流動化が進む中、 大学等研究者の転退職時の知財取扱い指針の推進が必要。 ➢ 一切変更を認めない等の硬直的な契約交渉事例が散見。 ○ スタートアップエコシステムにおける知財浸透や、スタート アップの知財戦略の構築を支援できる知財人材が不足。 （出典）文部科学省「令和4年度大学等における産学連携等実施状況について」に基づき 内閣府知的財産戦略推進事務局が作成 大学保有特許の利用状況 KPI ○ 大学知財ガバナンスガイドラインの普及などを通じて、知財の社会実装機会の最大化を後押しする （社会実装事例やその状況把握）。 ○ スタートアップへの知財面からの支援策を通じて、スタートアップ育成を推進する（スタートアップ 支援満足度や事例を含めた状況把握）。 今後の予定（方向性） ○ 大学知財ガバナンスガイドラインや大学等研究者の転退職時の知財取扱い指針の普及促進、 加えて、産学連携の実態調査を行い、好事例の収集・分析・公表等の必要な対応を検討。 ○ シーズ発掘と出口戦略策定から、事業化の各フェーズでの切目ない知財支援をする。 ➢ 人材派遣支援：iAca（大学等の研究成果の社会実装に向けた知財支援事業）、IPAS、VC-IPAS ➢ 人材育成支援：知財支援人材向けスキルマップを踏まえた研修の改善 12 新たな国際標準戦略 活用 ◆ 国際標準を通じた国際社会や我が国の課題解決、経済安全保障への貢献、市場創出を実現すべく、新たな国 際標準戦略を策定。 現状と課題 ○ 国際標準化の取り組みは進展するも、産業界や学術界、政府の意識改革や、専門人材育成は道半ば。 ○ 近年、デジタル・生成AI・気候変動・経済安全保障・システムなどの領域横断的な標準化が拡大。欧米中 がそれぞれ国際標準戦略を策定し強力に標準化を推進。 ○ 我が国として、国民の安全確保とグローバル市場への参入拡大を両立するための国際標準活動への積極参加 が不可欠。 今後の予定（方向性） 【ポイント① 国際標準の担い手の強化】 ○ 国際標準活動をリードしていくため、経済界・学術界への働きかけ、関連人材の育成や専門サービスの育成・強化、国際 的なネットワーキングや各国との連携の強化等の取組を進める。 【経済界・学術界・政府】 経営層の意識改革、研究開発・補助金・公共調達での標準化支援 【専門人材・サービス】 人材育成システム強化、試験・認証機関育成強化に向けた海外連携・施設整備支援 【国際連携・ネットワーク】 国際機関等への積極参画、国際相互承認の推進、国際会議の招致 【官民連携の場の設置】 官民連携による司令塔の設置、官民での情報共有、在外官民ネットワーク 【ポイント② 戦略領域・重要領域の選定】 ○ 国際社会及び我が国にとって重要であり、かつ、国際標準が 重要成功要因となり得る17の重要領域を選定。対応の緊要性 を踏まえ、重要領域の中から、更に８つの戦略領域を選定。 ○ 今後、官民でのリソースを集中配分。 戦略領域 ⑤モビリティ ①環境・エネルギー ②食料・農林水産業 ⑥情報通信 ⑦量子 ③防災 ⑧バイオエコノミー ④デジタル・AI 重要領域 ⑨介護・福祉 ⑫宇宙 ⑮資源 ⑬半導体 ⑯海洋 ⑩インフラ ⑪フュージョン ⑭素材 ⑰医療・ヘルスケア 【ポイント③ 経済安全保障】 ○ 自律性の確保、優位性・不可欠性の確保・維持・強化、国際秩序の維持強化の観点を踏まえ、同志国連携、懸念 国からの財・サービスの流入への対応などで国際標準を活用する。（戦略領域・重要領域においても経済安全保障 上の重要分野をカバー） 13 活用 データ流通・利活用環境の整備 ◆ データ利活用の促進に向け、我が国での包括的な検討を行い、データ利活用の環境整備を推進。 現状と課題 ○ EU等において、個人情報保護法制と整合的な形で、医療、金融、産業等の分野でデータ利活用に係 る制度の整備が急速に進展。 ○ データ取扱いルールを実装する際に参考となる「プラットフォームにおけるデータ取扱いルールの 実装ガイダンスVer1.0」(2022年４月策定) を踏まえたデータ取扱いルールの実装の推進が必要。 ○ 国民経済計算の新しい国際基準（2025SNA）にて、データを固定資本として記録することで採択。 KPI ○ 政府全体におけるデータ利活用の議論の進展を踏まえ、今後適切なタイミングでKPIを設定する。 今後の予定（方向性） ○ プラットフォームにおけるデータ取扱いルール実装ガイダンスver1.0の利用を促進する。 ○ 我が国のデータ利活用制度の在り方についての 基本的な方針を2025年6月を目途に作成する。 ○ 知財・無形資産の価値化と投資促進において、 研究開発費・知的財産等に加えてデータも企業 価値の源泉としての把握・管理を促進。今般策 定した「新たな国際標準戦略」においても、戦 略領域の１つとして、データに係るルール形成 の推進を図る。 （出典）「デジタル行財政改革の進捗と更なる対応について」（2025年２月20日、第９回デジタル行財政改革会議資料）に基づき 内閣府知的財産戦略推進事務局が作成 日・米・EUの法体系比較 14 新たなクールジャパン戦略の実装 CJ ◆ クールジャパン関連産業を基幹産業と位置付け、経済効果として、2033年までに合計50兆 円以上の海外展開規模とし、日本ファンの割合を10ポイント増加させることを目指す。 ◆ クールジャパンを活用した地方創生2.0の推進に向けて、関係省庁間をはじめ、自治体、民 会の垣根を超えた連携を強化し、地域資源を最大限活用した異分野間連携を推進する。 現状と課題 ○ クールジャパン関連産業の最新数値に基づく海外展開の 合計は27.1兆円、前回実績値から8.0兆円、41.92％ コンテンツの海外展開（海外市場規模） の増加。 訪日外国人旅行（インバウンド）消費額 農林水産物・食品の輸出額 ○ 日本を「好きな国」とする率は、全世界の国・地域平均 食 食品製造業の現地法人の売上高※ で56.2％、アジア平均は60.3％、欧米豪平均は31.0％。 繊維品・繊維製品の輸出 ○ グローバル視点（ドルベース）で比較すると、旅行収入 ファッション 主たるファッションメーカーの海外売上 のGDPに占める割合は、日本は米国より高く、英仏は 化粧品の輸出 日本の約2.5倍。知的財産使用料については黒字で増加 化粧品 主たる化粧品メーカーの海外売上 傾向にあり、GDPに占める割合では、米国を大幅に上 合 計 回り、GDPが同規模のドイツとはほぼ同じ。 今回調査値 （兆円） 増減率 （%） 前回調査(兆円) 5.8（2023年） 23.22 4.7（2022年） 8.1 (2024年) 53.39 5.3 (2023年) 1.5 (2024年) 3.64 1.5 (2023年) 7.3 (2023年) 109.00 3.5（2022年） 1（2023年） 2.85 0.9（2022年） 1.8（2023年） 26.83 1.4（2022年） 0.6（2023年） -21.05 0.8（2022年） 1.0（2023年） -4.77 1.0(2022) 27.1 41.92 19.1 ※前回調査は内閣府調査をもとに作成した「主たる食品メーカーの海外売上」を計上していたが、今回調査からは経済産業省「海外事業活動基本調査」もとに作成する 「食品製造業の現地法人の売上高」を計上することとした。 クールジャパン関連産業の海外展開 KPI ○ コンテンツの海外展開、インバウンド（訪日外国人旅行消費額）、農林水産物等の海外展開、ファッションや化粧品 等の海外展開など、クールジャパン関連産業の経済効果として、2033年までに50兆円以上の規模とする。 ○ 日本ファンの拡大に向けて、各国・地域における「日本が大好き」の割合を、2033年までに10ポイント上昇させる。 今後の予定（方向性） ○ コンテンツを起点とした経済波及効果の大きい官民連携による地域一体となった取組について、コンテ ンツ地方創生拠点として選定を行い、2033年までに全国約200か所の選定を目指し、地域経済の活性化 を図る。 ○ 世界から求められる体験価値化、高付加価値化を推進し、マーケット目線のブランディングにより海外 の市場規模・拡大を図る。また、国際的な政治・経済情勢リスクへの対応、日本ファンの拡大に向けて 発信力を強化に向けて取り組む。 15 （参考１） コンテンツを活用した地方創生の好循環づくり ➢ ➢ 近年、アニメ等のコンテンツの世界的な人気の拡大を背景に、作品に登場した場所等、いわゆる「ゆかりの地」を訪れる外国人が増加し、 コンテンツの人気がインバウンドや食等他の分野に波及効果をもたらしている。 コンテンツの活用により地域の魅力を高め、高付加価値のインバウンド誘客につなげ地方創生を実現。 大阪・関西万博 アニメ・マンガツーリズムフェスティバル出展地域 足利スクランブルシティスタジオ 横手市増田まんが美術館 アニメツーリズムやロケ誘致、博物館・美術館等の拠点化、さらには地域発のコ ンテンツ制作・関連商品開発やコンテンツの魅力を活かした高付加価値を生み 出す拠点づくりを、関係省庁、自治体、関係経済界が連携して推進していくこ とで、成功事例の輩出・共有とインバウンド拡大との好循環づくりを目指す。 コンテンツと地方創生の好循環プラン策定 2033年までに全国約200カ所の拠点を選定 （クールジャパン戦略会議において決定） ⚫ コンテンツ地方創生拠点（仮称）の選定 ⚫ 地域一体となったコンテンツ起点の取組に対する 関連施策を総動員した重点支援 ⚫ 全国大での回遊促進によるオーバーツーリズム解消 ◆ 映画・映像を活用した地方創生に向け、ロケ誘致、「ロケ地の聖地化」を推進（表彰を実施） ◆ 官民一体となったロケツーリズム、アニメツーリズムの推進 ◆ 「メディア芸術ナショナルセンター」(仮称)の整備・文化資源を活用した観光コンテンツの磨き上げ ◆ 地域資源を活用した観光コンテンツの開発、適切な販路開拓、情報発信等への総合的支援 ◆ コンテンツを活用した地方創生の実現に向けた取組への支援 16 （参考２） コンテンツと地方創生の好循環プラン ＜地方で稼ぐ＞ コンテンツの製作 コンテンツの海外展開 （アニメ等に地域資源が描画） 制作会社等 クリエイター 海外ファン・事業者 制作会社等 連携 地域の魅力の海外発信 国内企業・大学等 ② 地域関係者 ①ロケ誘致 連携・活用 再投資・横展開 「Tokyo Vice2」における 渋谷スクランブル交差点の撮影風景。 ＜世界120ヵ国で放送・配信＞ （伝統文化、食等の地域資源、 人材育成、撮影機能等の提供） コンテンツ活用・人材育成等拠点 ・協会では毎年「訪れてみた い日本のアニメ聖地88」を 選定。 ・インバウンド観光客のうち、 インバウンド誘客 潜在的なアニメツーリズムの 全国200カ所選定（2033年まで） １拠点当たり平均で約50億円の 経済波及効果を想定 約１兆円 260万人、 国内消費4000 億円 と 試 算 。 （ 2016 規 模は 年時点：訪日来訪者数は 2,400万人） ④コラボ商品開発 ③にぎわう拠点 ・京都国際マンガミュージアム 年間約30万人 ・水木しげるロード 年間約150万人 ・大分日田「進撃の巨人ミュージアム」 ３年で55億円、30万人以上（外国人が４割） ・ジブリパーク 年間180万人 進撃の巨人 in HITA ミュージアム ANNEX 進撃の巨人と日田の伝統工芸とのコラボ商品 17 コンテンツ戦略 CJ ◆ 2033年までにエンタメ・コンテンツ産業の海外市場規模を20兆円とする目標を明確化。 ◆ コンテンツ産業官民協議会を司令塔機能として、コンテンツ産業の振興に向けて戦略的な議 論を行い、官民でPDCAサイクルを回していく。 現状と課題 ○ 2023年の日本のコンテンツ産業の国内外の市場規模は半導体 産業より大きく、日本の基幹産業といえる。（国内：13.3兆 円、海外展開：5.8兆円）。 ○ 世界市場は、2019年から2023年までに26.1％と大幅拡大。 日本の2022年から2023年の海外展開の規模は15％の伸び率。 （ドルベース） ○ 海外へのビジネス展開力、デジタル・ビジネスに対応した構 造改革、コンテンツ産業を支える人材強化等が依然として大 きな課題。 （出典）（株）ヒューマンメディア「日本と世界のメディア×コンテンツ市場データベース（2024）」 をもとに内閣府知的財産戦略推進事務局が作成 KPI ○ 日本発のコンテンツ海外市場規模を2033年までに20兆円に拡大する。 〇 デジタルアーカイブの推進については、2035年までにジャパンサーチの規模・範囲と利便性がEuropeana並みとな ることを目指す。 今後の予定（方向性） ○ 司令塔機能の在り方について、更なる明確化に向けて検討。 ○ 諸外国における税制も含めたビジネス環境の現状等について把握し、映像産業等コンテンツ分野の効果的な支援 策の在り方を検討。 ○ 日本映画制作適正化機構が策定した映適取引ガイドラインに則り制作される作品に対して、制作に係る労働環境 の改善に伴う諸課題の解決策について検討。 ○ デジタルアーカイブ戦略に基づき、国関係のアーカイブ機関及びジャパンサーチの達成目標を設定し、フォロー アップを実施。 18 知的財産推進計画2025の概要 ０．IPトランスフォーメーション １．知的財産の「創造」 ○ 知財・無形資産への投資による価値創造 ○ AIと知的財産権 ○ 創造人材の強化・ダイバーシティの実現 ２．知的財産の「保護」 ○ ○ ○ ○ 技術流出の防止 海賊版・模倣品対策の強化 産業財産権制度・運用の強化 地域における知財保護 3．知的財産の「活用」 ○ ○ ○ ○ 産学連携による社会実装の推進 スタートアップ支援 新たな国際標準戦略 データ流通・利活用環境の整備 4．新たなクールジャパン戦略のフォローアップ ○ 新たなクールジャパン戦略の実装 ○ コンテンツ戦略 19

資料２－２ 知的財産推進計画２０２５ ～IP トランスフォーメーション～ ２０２５年６月３日 知的財産戦略本部 知的財産推進計画２０２５ 目次 I. はじめに ......................................................................................................................................... 1 II. 知財戦略の振り返りと今後の方向性 .............................................................................................. 2 １． 知財戦略の振り返り...................................................................................................................... 2 ２． IP トランスフォーメーション ...................................................................................................... 3 （１） 日本の競争力の現状 .............................................................................................................. 3 （２） 今後の知財戦略の方向性 ....................................................................................................... 3 III. 知財戦略の重点施策 ....................................................................................................................... 8 １． 知的財産の「創造」...................................................................................................................... 8 （１） 知財・無形資産への投資による価値創造 .............................................................................. 8 （２） AI と知的財産権 .................................................................................................................. 14 （３） 創造人材の強化・ダイバーシティの実現 ............................................................................ 22 ２． 知的財産の「保護」.................................................................................................................... 31 （１） 技術流出の防止.................................................................................................................... 31 （２） 海賊版・模倣品対策の強化 .................................................................................................. 34 （３） 産業財産権制度・運用の強化 .............................................................................................. 41 （４） 地域における知財保護 ......................................................................................................... 50 ３． 知的財産の「活用」.................................................................................................................... 64 （１） 産学連携による社会実装の推進........................................................................................... 64 （２） スタートアップ支援 ............................................................................................................ 68 （３） 新たな国際標準戦略 ............................................................................................................ 71 （４） データ流通・利活用環境の整備........................................................................................... 77 ４． 新たなクールジャパン戦略のフォローアップ ............................................................................ 80 （１） 新たなクールジャパン戦略の実装 ....................................................................................... 80 （２） コンテンツ戦略.................................................................................................................... 99 I. はじめに 「知的財産推進計画 2024」 （2024 年６月知的財産戦略本部決定）では、 「知的 財産戦略」は、経済やイノベーションを活性化し、国際競争力を強化していく上 で、一層重要性を増しており、科学技術・イノベーション政策や経済安全保障政 策等との連携も不可欠との認識の下、イノベーションを創出・促進する「知財エ コシステム」の再構築に向け、 「知的創造サイクル」という原点に立ち戻り、知 的財産の創造・保護・活用全般にわたる施策の見直しと高度知財人材の戦略的な 育成・活躍について整理した。 また、同時に策定した「新たなクールジャパン戦略」の推進に向けて、デジタ ル時代のコンテンツ戦略やインバウンド誘致、農林水産物・食品の輸出、地域の 魅力発信等の横断的な取組を示した。 以上を踏まえ、内閣府知的財産戦略推進事務局は、関係省庁と連携し、関連施 策を推進するとともに、2024 年 10 月以降、知的財産戦略本部の下に置かれた 「構想委員会」において、 「知的財産推進計画 2025」の策定に向けた検討を精力 的に行い、同委員会の下に設置された「コンテンツ戦略ワーキンググループ」、 「Create Japan ワーキンググループ」及び「国際標準戦略部会」において具体 的な議論を進めてきた。 あわせて、 「新しい資本主義のグランドデザイン及び実行計画 2024 年改訂版」 （2024 年６月 21 日閣議決定）等に基づき、2024 年９月に、コンテンツ産業の 活性化に向けて、クリエイター・コンテンツ産業に関わる政府の司令塔機能を明 確化、体制強化するため「コンテンツ産業官民協議会」及び「映画戦略企画委員 会」を設置し、新たな施策の検討等を行ってきた。 これらの検討成果や議論の内容を踏まえ、 「知的財産推進計画 2025」を取りま とめたものである。 本計画では、 「Ⅱ．知財戦略の振り返りと今後の方向性」において、これまで の我が国の知財戦略を簡潔に振り返りつつ、我が国の競争力の現状や我が国の 有する「知的資本」の再確認を行った上で、グローバルな競争力の強化や循環経 済の実現など、国内外の社会課題の解決を図る新たな「知的創造サイクル」の構 築を「IP トランスフォーメーション」と銘打ち、 「イノベーション拠点としての 競争力強化」、「AI 等先端技術の利活用」、「グローバル市場の取り込み」を、上 記を実現するための３本柱とし、今後の方向性と重点取組を取りまとめた。 「Ⅲ.知的財産の重点施策」においては、2024 年に引き続き、知的財産の「創 造」、 「保護」、 「活用」の各視点ごとに「現状と課題」と「施策の方向性」につい て整理を行うとともに、達成すべき目標について新たに KPI を定めた。 今後、知的財産を戦略的に創造、保護及び活用することにより活力ある経済社 会を実現するとともに、日本ファンの外国人を増やし、日本のソフトパワーを強 化していくため、政府のみならず、産業界、大学等の関係者が一丸となって、本 計画に基づく施策を着実に実行していくことが求められる。 1 II. 知財戦略の振り返りと今後の方向性 １．知財戦略の振り返り 2002 年に知的財産基本法（平成 14 年法律第 122 号）が制定されてから 20 年 余りが経過したが、その間、国内外の環境変化に合わせて求められる知財戦略も 変化してきた。 2013 年には、「知的財産政策に関する基本方針」（平成 25 年６月７日閣議決 定）を策定し、 「他国を追随するのではなく、国内外の企業や人を引きつけるよ うな世界の最先端の知財システムを構築すること」、「アジアを始めとする新興 国の知財システムの構築を積極的に支援すること」、「創造性と戦略性を持った 人財を絶えず輩出し続けること」を目標に掲げた。 また、2018 年には「知的財産戦略ビジョン」（平成 30 年６月 12 日知的財産 戦略本部）を策定し、2025 年から 2030 年頃を見据え、来るべき社会像と価値 の生み出し方、それを支える知的財産システムについて、中長期の展望及び施策 の方向性を示す中で「価値デザイン社会」を提唱した。 近年は、AI 技術の急速な進展とそれに伴うデータの価値の高まりや経済安全 保障の概念の登場、サーキュラーエコノミーの実現や気候変動対策をはじめと する社会課題解決への貢献など、国内外の環境変化がさらに加速し、企業におい ては、新たな環境変化に合わせて知財戦略を策定することが課題とされてきた。 一方で、足下の世界情勢を見ると、国際的な政治・経済情勢リスクは引き続き 高まりを見せ、気候変動への対応の足並みの乱れ、世界的なインフレの進行など、 企業を巡る状況は益々不確実性を増している。しかしながら、このような時代だ からこそ、 「知財」 「技術」といった、不変ともいえる知的資産の果たす役割の重 要性が高まっているといえる。今こそ、企業は、自社の保有する知財や技術等の イノベーション力の「源」を再確認し、それらに立脚した事業戦略の構築を図っ た上で、自らの強みを説明していくことが求められている。 2 2024 16 2023 14 13 15 2022 2020 16 2021 2019 2018 2017 2015 2014 2013 2012 2011 2016 1 4 7 10 13 16 19 22 25 28 31 34 37 40 43 2010 2009 ２．IP トランスフォーメーション （１）日本の競争力の現状 これまで社会環境の変化や諸外国の動向を踏まえ、知財戦略を推進してきた が、日本の競争力は、長期的に低落傾向にある。例えば、世界知的所有権機関 （WIPO）のグローバルイノベーション指数（2024 年）は、13 位と韓国（６位） や中国（11 位）の後塵を拝しているほか、スイスの国際経営開発研究所（IMD） の世界デジタル競争力ランキングにおいても 31 位（2024 年）に低迷している。 他方、コンテンツ産業やクールジャパン関連産業は大きく発展し、日本の国家 ブランドは世界トップクラスとなっており、我が国の強みとなっている。しかし、 グローバルでの収益拡大は課題であり、知財マネジメントの高度化が必要であ る。 9 13 20 25 22 21 19 13 13 13 13 競争⼒の低下 スイス 米国 日本 デジタル化の遅れ シンガポール 韓国 中国 出典：経済産業省 「デジタル時代の人材政策に関する 検討会（第 5 回）」資料 3-1（2022 年 3 月）、 及び、IMD 世界デジタル競争力ランキング 出典：WIPO「Global Innovation Index 2024」 図表２：世界デジタル競争力 ランキング 図表１：グローバルイノベーション 指数（GII）ランキング （２）今後の知財戦略の方向性 この先 10 年を見越すと、人口減少に伴ってイノベーション人材が減少し、国 内市場が頭打ちになる一方、グローバル市場は引き続き成長することが見込ま れるほか、AI 技術の急速な発展と社会経済システムの大きな変革が予測される。 このような日本の競争力の現状と将来の環境変化を踏まえて、今後の知財戦略 の方向性を検討していく必要がある。 特に、イノベーションをリードするには国内のみでの対応はもはや限界とな る中、人材・拠点を含むグローバル知的資本の国内への積極的誘引や AI の積極 活用等を前提に新たな知的創造サイクルを検討することが求められている。 また、コンテンツ・クールジャパン関連産業の発展に伴って向上する日本の国 家ブランドや魅力を、日本の貴重な知的資本として再認識し、これらをグローバ 3 ル知的資本の誘引に向けて十分に活用していくことが重要である。 まさに、世界が高付加価値経済に転換する中、付加価値の源泉は知的資本その ものであり、知的資本の活用が問われる時代となっている。このような状況を踏 まえ、日本の知的資本（技術力、コンテンツ力、国家ブランド等）を十分に活用 してグローバル知的資本の誘引・集積を図るとともに、付加価値創出に AI を積 極活用し、誘引したグローバル知的資本も巻き込みながらグローバル展開を強 化していく必要がある。 このように、グローバルでのマーケティングや収益最大化を強く意識しなが ら、知的財産の「創造」、 「保護」及び「活用」からなる「知的創造サイクル」を 回し、国内外の社会課題の解決を図る「新たな知的創造サイクル」を構築（IP ト ランスフォーメーション）することが求められており、これを実現するために３ つの柱に沿った取組を重点的に進めて行く必要がある。 出典：内閣府知的財産戦略推進事務局作成 出典：内閣府知的財産戦略推進事務局作成 図表３：グローバル知的資本の活用サイクル 図表４：知的資本の構成要素 ＜イノベーション拠点としての競争力強化＞ イノベーション拠点としての競争力強化に当たっては、アジアにおける一大 研究開発拠点・イノベーションハブとしての地位の確立を図り、知的資本（知、 技術、資金）を国内に集積し、そのような知財・無形資産を最大限活用して成長 する「価値創造大国」を目指し、 「コストカット型経済」から「高付加価値型経 済」への転換の実現を図っていくことが必要である1。 1 経済産業省「産業構造審議会イノベーション・環境分科会イノベーション⼩委員会 中間とりまとめ」（2025 年 4 ⽉）においても、 国⼒や産業競争⼒を⾼めるためのイノベーション政策の⽅向性が⽰されている。 （https://www.meti.go.jp/shingikai/sankoshin/sangyo_gijutsu/innovation/pdf/20250417_1.pdf） 4 そのためには、人口減に伴う創造人材の減少、研究者数の低迷、研究開発費の 伸び悩み、無形資産比率割合の低迷、欧米に比べて低い海外特許出願比率等の 様々な課題への対応を図っていく必要がある。 あわせて、現在、国際的な社会経済状況の変化に伴い、専門的知識を有する高 度人材の国際的な流動性も高まっており、我が国としても、イノベーション創出 を含む、創造的な活動を行うための環境整備や改善を進めつつ、その優位性を海 外に発信するなど、海外のディープテック等の先端分野におけるトップレベル の研究者、起業家などのイノベーション人材や IT 人材、クリエイティブ人材を 呼び込むための取組や環境整備2を、大学や企業、地方自治体等の関係者が連携 して積極的に推進する必要がある。 ① 創造人材の強化・ダイバーシティの実現 対応の一つ目として考えられるのは、創造人材の強化・ダイバーシティの実現 である。世界から「創造人材」が集結するようなイノベーションハブの形成を図 っていく必要がある。今後 10 年で解決・底上げを図るべき課題としては、研究 者数の低迷傾向が続いている現状において、引き続き国内の人材への投資を行 うとともに、イノベーションをけん引するトップレベルの人材の海外からの獲 得や優秀な留学生の受入増加も意識的に進めていく必要がある。変化する事業 環境の中でも、創造を生み出すのは「人」であることに変わりなく、性別・年齢・ 国籍等多様な人材が集い、相互に影響しながら、イノベーションを起こしていく 環境整備が求められる。 ② 知財・無形資産投資の促進 対応の二つ目としては、知財・無形資産投資の促進を通じた知財・無形資産が 価値創造をリードするような経済社会の実現である。 今後 10 年で解決・底上げを図るべき課題としては、知財・無形資産は、非常 に重要な役割を果たす一方、現状、日本企業は米国企業に比べて時価総額に占め る無形資産の割合が低迷しており、知の創出拠点である大学も、研究開発の資金 獲得に課題を持っていることが挙げられる。 これらの課題に対する対応として、知財・無形資産の可視化による投資促進を 進めることが考えられる。民間企業は、研究開発費・知財と売上高その他の経営 指標を紐付けて投資家等ステークホルダーに説明していく必要があり、大学も、 研究開発・知財と社会インパクトを紐付けて、資金の出し手に説明していくこと が求められる。 2 研究者の待遇向上など、受け⼊れ環境の整備等が含まれる。 5 この点、企業に関しては、内閣府知的財産戦略推進事務局が 2023 年３月に策 定した「知財・無形資産ガバナンスガイドライン Ver2.0」を用い、現在、企業と 投資家との対話を促進している。また、大学知財の社会実装の観点からは、内閣 府知的財産戦略推進事務局が 2023 年３月に策定した「大学知財ガバナンスガイ ドライン」の普及を図っている。 さらに、大学の知財に関連して、大学等の研究者の転退職は増加傾向にあり、 知財取扱い規定が未整備の大学がある中、望ましい知財の取扱いの在り方の検 討を行い、2025 年 3 月に「大学等研究者の転退職時の知財取扱い指針」を公表 した。社会全体のイノベーション促進のためにも、大学から生まれる知財の社会 実装を、より一層進めていくことが肝要であり、関係者間で認識を一にし、取組 を加速化していく必要がある。 ③ 国際的求心力のある知財制度・システムの実現 対応の三つ目としては、国際的な求心力のある知財制度・システムの実現を通 じたイノベーションハブを支える制度インフラの実現である。今後 10 年で解 決・底上げを図るべき課題としては、海外からの特許出願比率が欧米に比して低 い状況であることから、海外からの特許出願数を、いかに伸ばしていくかという 点が挙げられる。 国際的に求心力のある知財制度・システムの実現に当たっては、直近 10 年も 新たな情報財として、AI・データへの対応、デジタル化の進展、技術流出への対 応、知財紛争処理強化に関し、様々な環境変化を取り込んだ制度改正・システム の強化を実施してきたが、今後も常にこうした制度・システムが国際的に遜色の ないものになっているのかといった観点でレビューしていくことが求められる。 ＜AI 等先端デジタル技術の利活用の推進＞ AI の利活用による知的創造サイクルの加速化に当たっては、AI の利活用推進 による生産性向上、創造活動の迅速化、日本に強みがある分野での AI の開発促 進による価値の創造、経済価値の創造活動への再投資を通じ、人口減少下におい ても強靱な知的創造サイクルの構築を図っていく必要がある。 それを実現するための課題としては、クリエイター・権利者の懸念、発明創作 等の知財制度・運用上の考え方の明確化、生成 AI の利用に慎重な傾向があるこ となどが挙げられる。 生成 AI と知財をめぐる懸念やリスクへの対応については、 「AI 時代の知的財 産権検討会 中間とりまとめ」 （2024 年５月） （以下「中間とりまとめ」という。 ） で示した通り、生成 AI に関わる幅広い関係者が法・技術・契約の各手段を適切 に組み合わせながら連携して取り組み、AI 技術の進歩と知的財産権の適切な保 6 護が両立するエコシステムの実現を目指していくことが重要である。 発明創作等の知財制度やその運用上の考え方の明確化に関しては、AI を利用 した発明創作活動が、既に研究開発活動の中で生じている中、特許制度上、AI 開発者等の貢献をいかに評価するか、我が国においても検討を深め、結論を得る べき時期に来ている。 AI 開発者等に発明者としての地位を与えるかどうかについて検討する際の視 点として、今後、発明創作活動に対する AI 開発者等の関与が増えていくことが 予測されることから、AI 開発者等の貢献を適切に評価することにより、我が国 の AI ツールの技術開発の後押しになるのではないかというイノベーション推進 の観点と、先行発明として公開されることにより、更なる AI 開発の促進に寄与 することが期待されるのではないかという点を考慮していくことが重要である。 さらに、知的創造サイクルの「創造」 、 「保護」、 「活用」の各段階において、AI の利活用を考え、知的創造サイクルを加速化させていくことが求められている。 ＜グローバル市場の取り込み＞ 国内市場は頭打ちとなる一方で、グローバル市場は引き続き成長していくこ とが予想される中、 「新たなクールジャパン戦略」 （2024 年６月）に基づき、コ ンテンツ産業の海外展開を推進し、知財（コンテンツ）を核とする経済圏の確立 を図っていくことが求められる。そのためには、契約交渉や経営等知財マネジメ ントの高度化が必要である。 あわせて、今般策定した「新たな国際標準戦略」に基づき、国際社会にとって 重要であり、かつ、国際標準が重要成功要因となり得る領域において、産学官連 携で戦略的に国際標準化を推進するとともに、それを支える人材の育成や支援 機関の強化等を進め、官民一体となって、グローバル市場を獲得していくことが 求められる。 （KPI）  知財・無形資産投資の促進や AI 等の先端技術の利活用の推進等を通じ、知的 創造サイクルを加速化することにより、2035 年までに、WIPO の「グローバ ルイノベーション指数」の上位４位以内3を目指す。  日本市場（日経 225）における時価総額に占める無形資産の割合を、2035 年 までに、50％以上4にまで高める。 3 WIPO のグローバルイノベーション指数について、これまで我が国が獲得した最⾼位が 4 位（2007 年）であることから、2035 年まで に、上位４位以内を⽬指すこととした。 4 10 ページの図表９にある通り、2020 年時点の⽇本市場（⽇経 225）における時価総額に占める無形資産の割合は 32％に過 ぎない。⼀⽅、2020 年時点において、⽶国市場（S&P500）では 90％、中国市場（上海深圳 CSI300）では 44％、韓国市 場（KOSDAQ COMPOSITE INDEX）では 57％であるため、2035 年までに、中韓並みの 50％以上を⽬指すこととした。 7 III. 知財戦略の重点施策 １．知的財産の「創造」 （１）知財・無形資産への投資による価値創造 （現状と課題） 持続的な成長と社会課題の解決には研究開発投資が不可欠であり、企業や国 がイノベーションを推進する上で重要な役割を担っている。研究開発投資を決 定する際には、研究開発から得られる利益、将来解決すべき課題、ターゲットと する市場等を考慮し、中長期的な視点で戦略的に行うことが求められている。 過去 20 年間、主要国における研究開発費総額は増加している一方で、日本の 研究開発費総額は伸び悩んでいる。また、近年では研究開発活動のグローバル化 が進み、2010 年以降、海外への研究開発投資が倍増するなど、研究開発の海外 シフトが顕著になっている。このような状況から、日本国内の研究開発環境の優 位性が低下し、先端技術や情報が海外に流出することが懸念されている。将来に わたって、知的創造サイクルを持続可能な形で力強く回していくためには、創造 の基盤ともいえる国内の研究開発環境を整備し、国内における研究開発活動を 強化していく必要がある。 （出典）科学技術・学術政策研究所、「科学技術指標 2024」より引用 図表５：主要国における研究開発費総額の推移 8 60% 250 50% 200 40% 150 30% 100 20% 50 10% 0 0% 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 （百億円） 300 国内⽀出 海外⽀出 海外⽀出割合（%、右軸） （出典）総務省「科学技術研究調査」、科学技術・学術政策研究所「科学技術指標 2024」を基に 内閣府知的財産戦略推進事務局が作成 図表６：日本企業の外部支出研究開発費の推移（国内・海外） （出典）経済産業省「海外事業活動基本調査」を基に内閣府知的財産戦略推進事務局が作成 図表７：中国向け研究開発費の 業種別構成比（％） 図表８：北米向け研究開発費の 業種別構成比（％） ＜知財・無形資産の価値化・可視化を通じた投資促進＞ 知財・無形資産は、高付加価値経済の実現にあたって、重要な役割を果たす。 企業が保有する技術や、知的財産は、他者の製品・サービスとの差別化や付加価 値向上に直接的に貢献することによって、事業活動の価値創出において中心的 な役割を担うこととなる。 他方で、知財・無形資産の重要性が増す中、日本企業は米国企業に比べて時価 総額に占める無形資産の割合が低い。日本企業は、自社の強みとなる知財・無形 資産の把握や活用が不十分であり、これが企業価値低迷の一因との指摘がある。 9 （出典）新しい資本主義実現会議（第５回）資料１、P50（2022 年） 図表９：時価総額に占める無形資産の割合 我が国においても、2021 年６月に、知財・無形資産の重要性に鑑み、コーポ レートガバナンス・コードの改訂において、知的財産への投資に関して、分かり 易く情報を開示・提供すべき点が明示され、これを踏まえ、2022 年には、実際 に企業開示の現場においてどのように実践すべきか、といった点を詳述する「知 財・無形資産ガバナンスガイドライン」が公表されている。 2023 年３月には改訂版である「知財・無形資産ガバナンスガイドライン Ver2.0」5を策定・公表している。当該ガバナンスガイドラインの実践を通じて、 投資家や金融機関が求める価値創造ストーリーを戦略的に開示することにより、 持続的な成長に向けた投資を確保していく必要がある。 また、近年では、インパクト投資にも注目が集まっている。インパクト投資と は、投資として一定の投資収益の確保を図りつつ、社会・環境的効果（インパク ト）の実現を企図する投資であり、2023 年時点で、世界市場規模の推定値は、 1.571 兆ドル（約 218 兆円6）と試算されており、我が国の投資残高も伸長傾向 にある（図表 10）。 5 https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/tousi_kentokai/governance_guideline_v2.html 6 令和 5 年当時の外国貨幣換算率により算出（１ドル（アメリカ合衆国通貨）につき 139 円として換算）。 10 （出典）Global Impact Investing Network(GIIN)、GSG Impact JAPAN を基に内閣府知的財産戦略推進事務局が作成 図表 10：世界と日本のインパクト投資市場規模 インパクト投資の推進に向けて、2023 年 11 月に、産官学金共同のインパク トコンソーシアムが立ち上げられ、事例紹介等を通じて、インパクト投資に活用 できるデータ・指標の整備や上場企業に対するインパクト投資の手法等につい ての議論が進められている。 また、グローバルヘルス分野では、日本が G7 議長国を務めた G7 広島サミッ トのフォローアップとして 2023 年９月の国連総会ハイレベル会合の機会に、岸 田前総理の宣言によって、 「グローバルヘルスのためのインパクト投資イニシア ティブ」 （Impact Investment Initiative（Triple I） for Global Health）が立ち 上げられ、国際開発金融機関、各国開発金融機関、機関投資家、民間企業等を含 む国内外 100 以上の機関の参画を得ながら、保健・医療分野におけるインパク ト投資を促すための環境整備に係る議論や、当該分野におけるインパクトの測 定・管理等の標準化に向けた取組が進められている。 我が国は、少子高齢化、災害対応など、社会課題への対応については一日の長 がある。企業は、知財・無形資産に立脚した価値創造を図るとともに、自社が有 する技術・知財等がいかに社会全体の課題解決（インパクト）をもたらすのかの 「ロジック／ストーリー」を論理的かつ戦略的に発信していくことによって、グ ローバルで伸長するインパクト投資を呼び込み、これを企業の更なる成長に取 り込んでいく必要がある。 ＜イノベーションマネジメントの高度化＞ イノベーションの国際競争が激化する中、研究開発拠点としての立地競争力 を強化し、民間による無形資産投資を後押しすることを目的として、本年４月 よりイノベーション拠点税制が施行されている。 11 （出典）経済産業省「イノベーション拠点税制（イノベーションボックス税制）ガイドライン」に基づき 経済産業省が作成 図表 11：イノベーション拠点税制の概要 今後、当該制度の積極的な活用により、国内での研究開発活動が一層促進され ることが期待されるが、同時に、これを契機として、企業内に存在する知財・無 形資産の価値が再評価され、価値創造活動への利活用が進むことが期待される。 企業サイドとしても、こうした制度の存在を念頭に、企業の知財・無形資産の価 値化のプロセスの可視化、すなわち、 「研究開発投資を行った結果、どの研究開 発が知財の創出につながったのか」 「創出した知財のうち、どの知財がどの程度 の収益につながったのか」をトレースしていくための情報管理（財務情報と知財 情報の統合）と、研究開発を単なる「費用」ではなく、 「資産」の形成と捉える 企業マインドの変革、イノベーションマネジメントの高度化が求められる。 （KPI）  第 7 期科学技術・イノベーション基本計画の数値目標の設定を踏まえ、今後、 適切なタイミングで KPI を設定する。 （施策の方向性）  知財・無形資産を戦略的に活用し企業価値を高めている活動を好事例と して公表する表彰制度との連携を含め、知財・無形資産の投資・活用の促 進に向けて、知財・無形資産ガバナンスガイドラインの考え方を更に普及・ 浸透を図る方策を検討する。 （短期・中期）（内閣府（知財））  コーポレートガバナンス・コードにおける知的財産に関する記載や東京 12      証券取引所「資本コストを意識した経営の実現に向けた対応」の要請を踏 まえて、引き続き企業に対して知的財産への投資等を促していく。 （短期・中期）（金融庁） 知財・無形資産を活かした経営の実践を我が国企業に浸透させるべく、 IP ランドスケープの活用等の中堅企業等における知財・無形資産の投資・ 活用に関する実態や課題の調査を行い、当該投資・活用の在り方を検討す ること等を通じて、中堅企業等における知財・無形資産の投資・活用の推 進につなげる。 （短期・中期）（特許庁） サステナビリティ・トランスフォーメーション（SX）の実現のための価 値創造ストーリーの協創に向けて、知財・無形資産戦略は人的資本戦略や 事業ポートフォリオマネジメント戦略、DX 戦略等と並んで重要な鍵であ り、SX 銘柄を通じて、知財・無形資産戦略をはじめとする各種戦略につ いて統合的な戦略構築と開示を推奨する。 （短期・中期）（経済産業省、内閣府（知財）） グリーン・トランスフォーメーション技術区分表、及び当該技術区分表 を用いた特許情報の分析結果の国内外への発信及び活用の促進を行う。ま た、こうした技術区分表が国際的に統一された技術区分表に組み込まれる よう諸外国への働きかけを行うとともに、特許審査官の知見も活用しつつ、 技術区分表の充実化に向けた検討を行う。 （短期・中期）（特許庁） グローバルヘルス分野への民間資金の呼び込みのため、2023 年 G7 広 島サミットの成果である、グローバルヘルスのためのインパクト投資イニ シアティブ（Triple I）の活動を通じて、インパクト投資の推進に向けた 国際連携の枠組みを構築するとともに、投資による国際保健に関連するイ ンパクトの測定・管理等の標準化に向けた取組を推進する。 （短期・中期） （内閣官房（健康・医療戦略）） 2024 年度税制改正において措置された、特許権と AI 関連のプログラ ムの著作物から生じる所得に税制措置を適用するイノベーション拠点税 制について、事業者が積極的に制度を活用できるよう本制度の周知徹底を 図り、着実な執行に取り組む。引き続き、類似制度を導入している国の動 向を調査するとともに、対象範囲の見直しについては、制度の執行状況や 効果を十分に検証した上で、執行可能性等の観点から、財源確保の状況も 踏まえ、状況に応じ、検討する。 （短期・中期）（経済産業省） 13 （２）AI と知的財産権 （現状と課題） 世界の AI 市場規模（売上高）は、2022 年には前年比 78.4％増の 18 兆 7,148 億円まで成長したものと推定されており、その後も 2030 年まで加速度的成長が 予測されている（図表 12）。日本の AI システム市場規模（支出額）は、2023 年 に 6,858 億 7,300 万円（前年比 34.5％増）となっており、今後も成長を続け、 2028 年には２兆 5,433 億 6,200 万円まで拡大すると予測されている（図表 13）。 これにあわせて、我が国における AI 分野の研究費も増加している（図表 14）。 一方、大規模言語モデル（LLM）の開発では海外勢が先行している状況にあり、 日本以外の企業・研究機関がクローズに研究開発を進めた LLM の活用に対する 懸念が指摘される中、国産の LLM 構築に向けた対応が進められている78。 （出典）総務省「令和 6 年版情報通信白書」 1 図表 12：世界の AI 市場規模（売上高） の推移及び予測 7 図表 13：国内 AI システムの市場規模 （支出額）及び予測 総務省「令和 6 年版情報通信⽩書」（p47 から p49）では、国産 LLM の開発として情報通信研究機構（NICT）、サイバーエ ージェント、⽇本電信電話（NTT）の取組が⽰されている （https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r06/pdf/n1410000.pdf）。 8 可及的速やかに⽣成 AI に関する開発⼒を国内に醸成するために、経済産業省と NEDO では 2024 年 2 ⽉から「GENIAC （Generative AI Accelerator Challenge）」プロジェクトとして、基盤モデルの開発に必要な計算資源の提供⽀援やコミュニティの 運営等を⾏っている（https://www.meti.go.jp/policy/mono_info_service/geniac/index.html）。 14 （出典）総務省「科学技術研究調査」を基に内閣府知的財産戦略推進事務局が作成 図表 14：AI 分野の研究主体別研究費 また、AI の市場規模や研究費が増加している一方で、我が国企業の業務にお ける生成 AI の利活用は海外と比較して進んでいない。例えば、「メールや議事 録、資料作成等の補助」に生成 AI を使用している割合（トライアル中を含む。） は、米国、ドイツ、中国の企業は 95％程度であるのに対し、日本の企業は 69.5％ に留まる。 （出典）総務省「令和 6 年版情報通信白書」 図表 15：業務における生成 AI の活用状況（メールや議事録、 資料作成等の補助） 2024 年には、ノーベル賞の授賞理由として、深層学習（物理学賞）や、深層 学習を活用したタンパク質の立体構造予測（化学賞）が挙げられるなど、機械学 15 習技術や、その利活用が注目を浴びている。例えば、材料や物質の研究開発にお いて、機械学習を活用した新たな材料の探索や自動・自律実験（マテリアルズ・ インフォマティクス等）が行われており、従前より研究開発において AI が関与 する程度が増加しつつある。 そのような中、少子化の進展に伴い、イノベーション人口の減少が想定される 我が国にとって、生産性の向上等に資する AI は、我が国の発展に大きく寄与す る可能性がある。日本に強みがある分野での AI 開発を促進し、価値の創造につ なげるとともに、獲得した経済価値を経済活動に再投資するといった、強靭な知 的創造サイクルを構築することが求められる。 他方、特に生成 AI については、個人情報の不適正な利用、犯罪の巧妙化・容 易化、偽情報等による混乱等と並び、著作権等の侵害リスクについて、クリエイ ターや権利者から懸念の声が示されている。 こうした声を受けて、AI と「著作権」の関係については、文化審議会著作権 分科会法制度小委員会において検討を行い、また、 「知的財産権」全般との関係 については、AI 時代の知的財産権検討会（事務局：内閣府知的財産戦略推進事 務局）において検討を行った。検討結果は、 「AI と著作権に関する考え方につい て」 （2024 年３月）、及び「AI 時代の知的財産権検討会 中間とりまとめ」 （2024 年５月）として、それぞれ公表されている。 中間とりまとめでは、生成 AI と知的財産権の望ましい関係の在り方として、 「AI 技術の進歩と知的財産権の適切な保護が両立するエコシステム」の実現が 目指されている。そのためには、法、技術、契約の各手段を適切に組み合わせな がら、AI 開発者、AI 提供者、AI 利用者、権利者等の幅広い関係者が連携して 取り組むことにより、創作者にとって信頼できる開発者の下に良質なデータが 多数集積し、高度な生成 AI の開発・提供とともに、新たな創作活動につながる 好循環の実現が期待される。 （出典）AI 時代の知的財産権検討会「中間とりまとめ」 図表 16：法・技術・契約の各手段の相互補完性 16 ＜生成 AI と知的財産を巡る懸念・リスクへの対応＞ 政府では、中間とりまとめが示す「AI 技術の進歩と知的財産権の適切な保護 が両立するエコシステム」の実現に向けて、周知・啓発を進め、生成 AI に関わ る幅広い関係者による主体的な取組の促進に努めている。 例えば、文化庁では、自らの権利を保全・行使する上で望ましいと考えられる 取組を、生成 AI に関係する当事者（ステークホルダー）の立場ごとに分かりや すい形でまとめた「AI と著作権に関するチェックリスト＆ガイダンス」（2024 年 7 月）を公表し、内閣府知的財産戦略推進事務局では、中間とりまとめのポイ ントを解説した「権利者のための手引き」 （2024 年 11 月）を公表している。こ の他にも、経済産業省では、コンテンツ産業界の生成 AI の利活用ケースと各活 用シーンにおける留意点等をまとめた「コンテンツ制作のための生成 AI 利活用 ガイドブック」（2024 年７月）を公表している。 また、民間においても、中間とりまとめが示す考え方に呼応した取組も進めら れている。例えば、一般社団法人日本音声 AI 学習データ認証サービス機構（以 下「AILAS」という。）は、声優等の音声データの管理、追跡等を実現するため のシステムの運用を目指し、活動している。 さらに、肖像や声の保護に関しては、知的財産法等との関係について、その他 の省庁においても検討を進めてきたところである。特に、経済産業省における検 討では、不正競争防止法との関係について、俳優や声優の実演家等の肖像や声の 無断利用に関して、不正競争防止法における考え方の整理を行うとともに、不正 競争防止法（周知表示混同惹起行為（２条１項１号）等）を適用することができ ると考えられる想定事例をいくつか公表している。 こうした法的ルールの考え方など、AI と知的財産法との関係について、コン テンツ分野での AI の活用事例も含め、周知・啓発を継続していくことが必要で ある。 他方、良質な AI 学習コンテンツに係るライセンス市場と権利者への対価還元 について、依然として課題が存在するとの指摘もある。すなわち、AI 事業者に よる情報開示が進んでいないことにより、自己のデータが利用されているかが 不明であるためライセンスによる対価還元の機会が得られないことや、AI の利 用者側としても訴訟リスク（個人情報、限定提供データの流用、海賊版コンテン ツの利用）があること等に鑑み、利活用を躊躇するといった影響が生じている可 能性があるところである。このため、AI 事業者による開示や認証など、透明性 の確保を促す仕組みの検討をする必要があると考えられる。 ただし、透明性確保は、知的財産権に限られるものではなく、AI ガバナンス 全般にわたる課題である。 AI に関しては、「人工知能関連技術の研究開発及び活用の推進に関する法律」 17 （AI 法）により、AI 戦略本部の設置、政府が実施するべき施策の基本的な方針 等を定めた「AI 基本計画」の策定等を進めていくこととされている。同法にお ける「適正性のための国際規範に即した指針の整備」や、 「事業者への指導・助 言・情報提供」等の基本的施策の具体化の中で、引き続き、国際的な働きかけも 行いつつ、実効性の担保に資するような透明性を確保していくことが有効であ る。例えば、AI 法に基づき策定される指針や、総務省及び経済産業省による「AI 事業者ガイドライン」等も通じて、AI 事業者による適切な開示対応を促すこと が重要である。 ＜AI 技術の進展を踏まえた発明等の保護の在り方＞ AI 技術の関連する発明としては、大別して以下４つのパターンが挙げられる。 この内、AI モデル発明および AI 適用発明に係る特許出願は、近年、増加傾向に あり（図表 17）、AI 技術への関心の高まりが窺われる。     9 AI モデル発明：AI 技術そのものの発明（例:新たな機械学習方法による AI モデル） AI 適用発明：AI 技術を特定の技術分野に適用した発明（例:AI による自 動運転技術） AI 利用発明：AI 技術を利用して開発された製品の発明（例:AI 利用によ り効率的に開発された医薬品） AI 自律発明9：AI が自律的に生成した発明 WIPO は、2024 年、政策⽴案者に対して、AI イノベーションの現状を理解し AI の⾃律化が進む未来を考えるための枠組みを提供 することを⽬的として、ツールキット（「Getting the innovation ecosystem ready for AI」）を公開し、その中で、AI ⾃律発明に 対する対応⽅法を整理している。⾃律型 AI に向けた開発が急速に進んでおり、今後、AI ⾃律発明が増加する可能性がある。AI 技 術の進展や国際動向等を踏まえながら、AI ⾃律発明の保護の在り⽅を検討していく必要がある。 18 （出典）特許庁「AI 関連発明の出願状況調査」2024 を基に内閣府知的財産戦略推進事務局が作成 図表 17：AI 関連発明の出願件数推移 この様な状況を背景に、AI 時代の知的財産権検討会では、生成 AI と知的財 産を巡る懸念・リスクへの対応のほか、AI 技術の進展を踏まえた発明の保護の 在り方についても、検討課題として取り上げ、中間とりまとめにおいて、その検 討結果を示してきた。 特に、AI 利用発明に関連して、 「発明者」 （共同発明者を含む。）として認めら れるための要件について、自然人による発明創作過程で、その支援のために AI が利用される場合に、発明の特徴的部分の完成に創作的に寄与した者を発明者 とするこれまでの考え方に従って自然人の発明者を認定すべきとの考え方が示 された。 しかし、発明創作過程において AI を利用した場合、当該 AI の開発者等がど のような貢献をすることにより発明者として認められるか否かについて明確な 基準は存在せず、また、今後、発明創作活動に対する AI 開発者等の関与が増え ていくことが予測されることから、特許制度上その貢献をいかに評価するか、我 が国においても検討を深め、結論を得るべきであると考えられる。 具体的には、AI 開発の促進やイノベーション人材減少に対する課題解決など、 イノベーション推進の観点から10、AI 利用発明の発明者の定義の検討を進める 10 開発者等との共有関係となる場合、発明者認定、その貢献度合いに応じた配分等の⼿続きが発⽣し得る点を考慮する必要があ る。 19 ことが必要といえる。その際、使用した生成 AI の開発者（学習データの選択、 ファインチューニングを行った者等）や利用者（プロンプトを入力した者等）、 発明の効果を確認した者が含まれ得るか否か、含まれる場合の類型や判断手法、 国際調和等の論点11について、共有関係の複雑化による特許発明の社会実装の阻 害につながらないことへも留意しつつ、議論することが求められる。 【AI 利活用事例】 AI 利活用事例としては以下のような取組を含め多数存在しており、今後、技 術進展を踏まえながら AI 利活用が期待される領域の特定や課題の把握を必要に 応じて目指していことが必要である。  産業技術総合研究所は、バイオエタノールからブタジエンを合成するための 高活性触媒を、自動実験と AI 技術を組み合わせたマテリアルズインフォマ ティクスにより高速自律探索するシステムを構築している。  NEC（日本電気）は、患者ごとに異なるがん遺伝子変異を特定し、最も抗原 性の高い配列の選択と優先順位づけを行う独自 AI を開発した。この AI を 活用することにより、腫瘍細胞を効果的に攻撃する個別化がんワクチンの研 究開発を行っており、第 I/Ⅱ相臨床試験を実施中である。 その他の AI 利活用事例を含め12、AI は知財の創造・保護・活用の生産性向上 に有用であり、今後、様々な支援ツールやその活用事例の充実化が期待される。 これら状況を踏まえ、現在、産業構造審議会知的財産分科会特許制度小委員会 において AI 技術の進展を踏まえた発明の保護の在り方等について具体的な検討 が求められているところであり、発明者の在り方等の諸論点について早期に結 論を得ることが求められる。 11 国際的な論点について、⽶国では、⽶国特許商標庁（USPTO）が 2024 年 2 ⽉に AI の⽀援を受けた発明の発明者適格に関 するガイダンスを公表した。USPTO は、当該ガイダンスにあわせて、AI の⽀援を受けた発明の発明者適格性について、２つの事例を公 表し、具体的な事例に即した上記ガイダンスの考え⽅の適⽤関係を明らかにした。上記ガイダンスの中では、出願⼈・USPTO 審査官が AI の⽀援を受けた発明における⾃然⼈の貢献が顕著であるかどうか判断する際に役⽴つように指針が⽰され、「状況によっては、特定の 解決策を引き出すために特定の問題を考慮して AI を設計、構築または訓練する⾃然⼈が発明者になる可能性がある」、「単に発明に 使⽤される AI を所有または監督する者は発明者とはいえない」等の原則が⽰された。 また、WIPO は、ツールキット（「Getting the innovation ecosystem ready for AI」）において、AI 技術が関連する発明につ いて、AI の⽀援を受けた発明、AI を組み込んだ発明、AI が⾃律的に⽣成した発明等様々な使い分けがある中で、各々について、ガイ ダンス等を提供することを提案している。 12 （参考 1）第３回構想委員会資料（資料５）（2025 年２⽉ 14 ⽇） https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kousou/2025/dai3/siryou5.pdf （参考２）産業構造審議会知的財産分科会 第 52 回特許制度⼩委員会（資料１の p８）（2025 年３⽉５⽇） https://www.jpo.go.jp/resources/shingikai/sangyo-kouzou/shousai/tokkyo_shoi/document/52shiryou/01.pdf 20 （KPI）  日本企業の AI の利活用率を概ね 100%まで高める。  AI 利用発明の明確化を進め、AI 利用による研究開発を促進する（AI 分野の 研究費の増加）。 （施策の方向性）  「AI を利活用した創作の特許法上の保護の在り方に関する調査研究」 （2023 年度）及び「AI 技術の進展を踏まえた発明の保護の在り方に関す る調査研究」 （2024 年度）の調査研究結果、並びに AI 関連発明に対する 特許審査の仮想事例について、AI 技術に関連する特許制度への理解を促 進するために情報発信を行う。また、これらの調査研究結果を踏まえて、 産業構造審議会知的財産分科会特許制度小委員会において、AI 利用発明 の発明者の定義等について検討を進め、法改正を含めた必要な措置を講ず る。 （短期・中期）（特許庁）  AI 技術の進展による意匠分野での AI の利活用の拡大を踏まえ、意匠審 査実務上の課題やその他の意匠制度に生じる課題について、｢生成 AI を 利用したデザイン創作の意匠法上の保護の在り方に関する調査研究」 （2024 年度）の調査研究結果を踏まえつつ、産業構造審議会知的財産分 科会意匠制度小委員会において検討を進め、法改正を含めた必要な措置を 講ずる。 （短期・中期）（特許庁）  「中間とりまとめ」が示す考え方に基づき、法・技術・契約の各手段の 組合せにより、関係当事者が AI 技術の進歩の促進と知的財産権の適切な 保護の両立に向けて主体的に取り組むよう、知的財産法や AI ガバナンス に関連するガイドライン等の必要な更新を適時に行い、社会に分かりやす い形で周知を行う。 （短期・中期）（内閣府（知財）、文化庁、総務省、経済産業省）  生成 AI 及びこれに関する技術についての共通理解を得るほか、AI 学 習等のための著作物のライセンス等の実施状況や、海賊版を掲載したウェ ブサイトに関する情報の共有等を図るため、関係当事者間における適切な コミュニケーションを引き続き促進する。 （短期・中期） （文化庁、経済産業省）  生成 AI における俳優や声優等の肖像や声の保護に関し、不正競争防止 法等の関連法や裁判例における考え方について整理した内容について、周 21  知を行うとともに、契約による対価還元策の検討や侵害行為に関するプラ ットフォームとの連携体制の構築等について検討する。 （短期・中期）（経済産業省、特許庁、文化庁、総務省、法務省、 消費者庁、内閣府（知財）） 学習データ等の情報開示について、AI 開発者等において必要な範囲で 適切な対応を行うことを促進するため、人工知能関連技術の研究開発及び 活用の推進に関する法律の制度化及び運用並びに「AI 事業者ガイドライ ン」の周知等を通じ、AI の透明性を確保する。 （短期・中期）（内閣府（科技）、総務省、経済産業省、内閣府（知財）） （３）創造人材の強化・ダイバーシティの実現 （現状と課題） 創造活動の礎となる人材基盤の強化は我が国のイノベーション力の向上に欠 かせない要素である。特に、トップリサーチャーと言われる研究者の半数以上が 30 歳代から 40 歳代においてコアとなる研究成果を発表するなど、若手研究者 の育成や確保は急務である（図表 18）。 そのような中、我が国を取りまく環境変化として若手研究者を含めたイノベ ーション人材（知的創造人材）の減少が顕著となり（図表 19）、知的創造を担う 人材層の弱体化は避けられない状況にある。今後、創造活動に関与する人材基盤 の充実化等の対応を継続的に取り組み人材輩出につなげていく上で、イノベー ション人材の育成や海外人材の誘引、ダイバーシティの推進等の強化策は喫緊 の課題といえる。 （出典）文部科学省「学術分科会（第 68 回）」資料 2-2（2018 年 7 月） 図表 18：トップリサーチャーの年齢分布 22 （出典）国立社会保障・人口問題研究所「日本の将来推計人口 令和 5 年推計」 図表 19：年齢３区分別人口の推移 ＜研究開発における人材育成＞ 知的財産の創出に向けて新しい技術研究や製品開発に貢献する人材の活躍は 不可欠である。特に、博士号取得者に代表される独創的な発想を持ち競争力のあ る研究者の活躍は知的財産の創造に大きく寄与するものであるが、日本の人口 100 万人当たりの博士号取得者数は、諸外国（米英独韓）と比較して３から４割 程度に留まる（図表 20）。 また、産業分野における博士人材の割合は米国と比較して低く、活躍の場とし て企業内での研究開発現場は限定されている状況にある（図表 21）。 （出典）経済産業省、文部科学省「博士人材の民間企業における活躍促進に向けた検討会（第 1 回）」資料 2（2024 年 8 月） 図表 20：人口 100 万人当たり博士号取得者数 23 （出典）経済産業省、文部科学省「博士人材の民間企業における活躍促進に向けた検討会（第 1 回）」資料 2（2024 年 8 月） 図表 21：産業分類別 研究者に占める博士号保持者の割合 そこで、経済産業省と文部科学省は、博士人材の活躍の場の拡大に向けて産学 が連携して取り組むべき実務的な事項について議論するため、2024 年８月に検 討会を立ち上げ、主に以下に挙げるような課題について議論した。  「採用意欲のある企業」が、効果的な採用を実施するために取り組むべき 事項  「博士課程を持つ大学」が、博士学生の就職活動を支援するために取り組 むべき事項 同検討会での議論を踏まえ、博士人材の民間企業での活躍を促進するために 有効な大学による支援や企業における取組を「博士人材の民間企業における活 躍促進に向けたガイドブック」として取りまとめた。さらに、具体的な事例を収 集し「企業で活躍する博士人材ロールモデル事例集」を作成した。 今後は、博士人材の採用面での障壁がより下がることで、両者の間における意 思疎通による連携が上手く図られ、博士人材の活躍の機会がより広がることが 望まれる。 あわせて、政府における博士人材の活躍に向けて、人事院では、高度人材の採 用に向けた対応を進め、2022 年には博士課程修了者等の初任給基準の見直しな ど、給与制度の改正を行っており13、政府全体において博士人材の採用に向けた 取組が進展することが期待される。 ＜知財創造教育の推進＞ 知財創造教育の理念は、学習指導要領において育成を目指す資質・能力の三つ 13 https://www.jinji.go.jp/kouho_houdo/kisya/2211/kisokukaisei221118.html 24 の柱に対応したものであり、これまで高等教育、初等教育現場において知財創造 教育の浸透を図ってきた14。 その中で、中国地域では、教育機関、企業、県等において小中高向けの出前授 業、ワークショップ開催及び支援活動など、活発な取組がなされている。大学に おいては、文部科学省が知財教育に関連する「教育関係共同利用拠点」として認 定した山口大学から他大学への知財教育のカリキュラム等の展開が進められ、 自立化等の支援を行っており15、これらの取組が全国に広がることが期待される。 また、地域の活性化の観点から、各地域の地域経済産業局、地域の企業や発明 協会等の活動により、各地域での小中高生の創造能力を育み、未来のイノベータ ーを創出するためのエコシステムを構築することが望まれる。 そして、最近では生成 AI の急速な進展により、創造活動への貢献に向けた具 体的手法に関心が高まっている。その影響は学校教育にも及び、学校現場におけ る生成 AI の適切な利活用に向けて、文部科学省は「初等中等教育段階における 生成 AI の利活用に関するガイドライン(ver.2.0)」（2024 年 12 月）の公表やオ ンライン研修会を提供する等の対応を進めている。当該ガイドラインにおいて は、情報活用能力の育成に当たって、児童・生徒が生成 AI に関する法・制度や マナー等について科学的な理解に裏打ちされた形で理解すること等が期待され ている。生成 AI の普及も踏まえ、人権、知的財産権等の自他の権利を尊重する こと等の情報モラルを含む情報活用能力の一層の強化が求められている。 これらを含め、今後もなお一層の知財創造教育及びそれに類する活動の普及・ 実践を進めることにより、発明活動への参加のインセンティブや新しいビジネ スへ挑戦する意欲につながり、広く知財やその活用に対する関心を持ち行動を 起こす人材が増えることで、より裾野の拡大や発展につなげることが望まれる。 ＜オープンイノベーションを支える人材の多様性＞ 人口減に伴う創造人材の減少への対応の一環として、国外からのグローバル 人材の取り込み、国内における潜在的創造人材の発掘など、イノベーションを創 出する人材の充実化を検討するに際し、それを支える環境として、多様性（ダイ 14 具体的には、「知財創造教育」の普及を⽬的とした「知財創造教育推進コンソーシアム」を開催し、2021 年３⽉に、知財創造教育 の関係者が取り組むべき具体的なアクション・プランを取りまとめた。それにより、現在、地域主導型の地域コンソーシアムが主体的な役割 を果たしつつ、知財創造教育の普及・実践を進めている。 15 そのほか、全国知財創造実践甲⼦園（第 5 回）を開催するなど、知財創造教育地域コンソーシアム（中国地域）の活動を積極 的に進めている。 25 バーシティ）や包摂性（インクルージョン）の確保は必須である16。 しかし、国際的にみて日本を取り巻く状況は厳しく、例えば、日本のジェンダ ーギャップ指数は 146 か国中 118 位（2024 年）と低迷している（図表 22）。 0 独 英 仏 加 ⽶ 平均 20 40 60 80 伊 100 ⽇ 120 140 2015 2016 2017 2018 2020 2021 2022 2023 2024 （出典）Global Gender Gap Report（World Economic Forum）より内閣府知的財産戦略推進事務局が作成 図表 22：ジェンダーギャップ指数の推移（G7 比較） そのため、我が国において多様性の確保とその価値観そのものを認める包摂 性の浸透がより進展することが望まれる。 その中で、特許庁では知財エコシステムにおける多様性と包摂性を推進する ために、女性の活躍を促進するための環境整備の在り方を調査研究し、 「Diversity &Innovation～知財エコシステム活性化のカギとなる女性活躍事例 ～」（2024 年５月）として結果を公表した。 16 多様性の取り込みについて、国内スタートアップを対象とした調査の集計結果に基づき、スタートアップ創業メンバーの多様性（職歴、 学歴、年齢）と企業成⻑の関係を検証したところ、次のような調査研究結果が知られている。①スタートアップ創業メンバーの⼈数の多 さ、学歴や職歴の多様性は事業成⻑（資⾦調達ラウンド）に正の効果をもたらす。②年代の多様性と事業の成⻑（売上⾼）の間に は 20 歳から 30 歳程度の差が適度である。 （出典）伊東、⾦間、渡部、樽⾕、加賀、村中、「国内スタートアップの国際化と企業成⻑に関する要因分析 -エコシステムの形成と 発展を⽬指して-」、2024 年 https://ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2024/09/WP033.pdf 26 （出典）特許庁、知財エコシステムにおけるジェンダーの多様性と包摂性に関する調査研究、2024 年 図表 23：女性活躍事例集の概要 引き続き、異なる属性（性別、年齢、国籍、キャリアパス、経験、学歴等）を 有する人材の多様性の強みを生かしつつ、その多様な人材が組織内で活躍でき る包摂性の絶え間ない改善が行われることが求められる。 その際には、労働市場の流動性が高まることにより、転職や兼業・副業などの 手段を通じて多様な人材の活躍の場が広がる可能性が挙げられる。例えば、大学 等研究者の転退職については、課題となっている知財の取扱いについて整理を 行い、指針を公表したところである17。更なる検討として、企業からのスピンオ フやカーブアウト等18による独立も増える中、その場面における知財の取扱いに ついても重要な論点と言える。 また、近年注目される兼業・副業について、大企業等に所属する知財人材が大 企業の事業開発担当等の非知財人材とチームを組んでスタートアップへの業務 支援をする取組もみられる19。そして、多様な働き方を受け入れる体制の整備に より、外国人や女性の活躍が広がることも期待される。 このように、異なるバックグラウンドを有する人材の活躍により、知財エコシ ステム全体におけるイノベーションがけん引されることが望まれる。 ＜高度外国人材の積極的な受入れ、拠点整備＞ 創造人材の確保に向けて高度な知識や経験を有する海外人材の受入れをいか に促進するかは、我が国の国際競争力の維持・向上において欠かせない。 17 ３．（１）産学連携による社会実装の推進を参照。 18 経営陣が戦略的に事業の⼀部を切り出し、資本関係を保有しながら活動連携を持つものがカーブアウト、親企業からの出資を受け ず、緩やかな活動連携を持つものがスピンオフとされている。（福嶋幸太郎 「ベンチャー類型による新規事業開発に関する研究⽐較」、 関⻄ベンチャー学会誌第 11 号、2019 (https://www.jstage.jst.go.jp/article/kansaiv/11/0/11_30/_pdf）） 19 ３．（２）スタートアップ⽀援を参照。 27 そこで、政府は経済成長等への貢献が期待される高度な能力をもつ外国人に ついて、出入国在留管理上の優遇措置を実施してその受入れを促進するため、 「高度人材ポイント制」の導入、更に高度人材に特化した在留資格「高度専門職」 の新設による充実化を図っており、例えば、本邦の公私の機関との契約に基づい て行う研究、研究の指導又は教育をする活動（高度専門職１号（イ））、本邦の公 私の機関との契約に基づいて行う自然科学又は人文科学の分野に属する知識又 は技術を要する業務に従事する活動（高度専門職１号（ロ））の在留資格20を有す る在留外国人数は伸びている（図表 24）。 25,000 20,000 15,000 ⾼度専⾨職 1 号（ロ） 19,920 17,978 10,000 12,522 12,257 1,885 1,885 15,810 13,309 13,972 2,017 2,030 2,207 2,281 2,476 2022年12⽉ 2023年6⽉ 2023年12⽉ 2024年6⽉ 5,000 0 2021年6⽉ 2021年12⽉ 2022年6⽉ ⾼度専⾨職 1 号（イ） （出典）出入国在留管理庁 HP「【在留外国人統計（旧登録外国人統計）統計表】」に基づいて 内閣府知的財産戦略推進事務局が作成 図表 24：在留外国人統計（高度専門職１号（イ） 、（ロ））の推移 更なる対応として、政府は新たに特別高度人材制度（J-Skip）21、未来創造人 材制度（J-Find）22を導入し、海外からの高度外国人材の我が国への受入れを促 進している。 そのほか、海外からの留学生の受入れについて、例えば、意欲的な留学生は、 スタートアップの起業やインターンへの参加等を通じ、日本人学生に刺激を与 え、大学の国際競争力を高める上で、不可欠な存在であり、今後とも多様な国・ 20 ⾼度学術研究活動「⾼度専⾨職 1 号(イ)」︓本邦の公私の機関との契約に基づいて⾏う研究、研究の指導⼜は教育をする活動 ⾼度専⾨・技術活動「⾼度専⾨職 1 号(ロ)」︓本邦の公私の機関との契約に基づいて⾏う⾃然科学⼜は⼈⽂科学の分野に属する 知識⼜は技術を要する業務に従事する活動 21 ⾼度外国⼈材の中でもトップレベルの能⼒がある者の受⼊れ促進することを⽬的として、ポイント制に拠らず、学歴⼜は職歴と年収に より⾼度専⾨職（1 号）を付与。 22 将来有為な⼈材としての活躍が期待されるポテンシャルの⾼い若者を早期に呼び込むことを⽬的として、要件を満たすことで就職活動 等の活動のための在留資格（特定活動）を付与。 28 地域からの優秀な外国人留学生の受入れを戦略的に進めていく必要がある23。 （KPI）  2040 年における人口 100 万人当たりの博士号取得者数を世界トップレベル に引き上げる。  知財創造・保護・活用に携わる知財教育に関する取組を広げる。 （取組事例数）  イノベーション人材の取り込みを進め、高度な能力をもつ外国人材を増やす （在留外国人数（高度専門職１号（イ）、（ロ））。 （施策の方向性） ＜研究開発における人材育成＞  我が国の博士号取得者数の増加等を目指し、博士後期課程学生の処遇向 上等に加え、産業界における採用拡大など、博士人材が社会の多様なフィ ールドで活躍する社会の実現に向けて、2024 年度に作成した「博士人材 の民間企業における活躍促進に向けたガイドブック」及び「企業で活躍す る博士人材ロールモデル事例集」の周知・普及を行う。 （短期・中期）（経済産業省、文部科学省) ＜知財創造教育の推進＞  知財教育に関する「教育関係共同利用拠点」として認定された大学の知 財教育のカリキュラムや導入プロセスを、知財教育の導入を検討している 大学に対して共有することにより、当該大学における知財教育の教育課程 への円滑な導入を推進する。 （短期・中期）（内閣府（知財）、文部科学省）  教育現場と地域社会とをつなぐ地域連携拠点となる地域コンソーシア ムにおいて知財創造教育を普及・推進できるよう、支援を行う。 （短期・中期）（内閣府（知財） ）  企業や学校等において知財に関する意識向上を図るため、知的財産管理 技能検定等の知財関連資格の取得を推奨する。 （短期・中期）（内閣府（知財）、特許庁）  次世代科学技術チャレンジプログラム、未踏事業等の仕組みを活用し、 独創的な発想力を持つ人材の発掘・育成に取り組むとともに、高度で実践 的な講義や研究を実施する大学を支援する。 23 あわせて、⽇本⼈⾃⾝も海外での多様な経験等を経ることは重要であり、グローバル⼈材育成に向けた留学機会の提供や留学機運 の醸成もより⼀層進めるべきである。例えば、海外留学⽀援制度（協定派遣型、学位取得型）、官⺠協働海外留学⽀援制度「〜ト ビタテ︕留学 JAPAN 新・⽇本代表プログラム〜」が⽤意されるなど、学⽣等の経済的な負担の軽減等の取組が進んでいる。 29    （短期・中期）（文部科学省、経済産業省） 新たなデジタル技術の急速な発展等を踏まえ、著作権制度に関する一般 的な知識のみならず、著作権を巡る社会の動きや Web3.0 関連技術等のデ ジタル技術と著作権との関係等の視点を取り入れつつ、広く国民に向けた セミナーや学習教材の作成により著作権に関する普及・啓発を行う。また、 クリエイターを含む全ての国民が日常的に著作権を意識できるよう、関係 団体等と連携した効果的な普及啓発活動について検討する。 （短期・中期）（文化庁） 知財創造教育の普及・実践を推進するために、 「知財力開発校支援事業」 を通じて、高校及び高等専門学校の生徒・学生の知財の創造・保護・活用 全般にわたる知財マインドの育成を広く支援する。 （短期・中期）（特許庁） アントレプレナーシップ教育の場における知財に関する教育の効果的 な手法について調査する。課題解決に取り組む力や創造力を醸成するアン トレプレナーシップ教育の一環として知財に関する教育を行うことによ って、知財の知識に加え実践的応用力を身につけることができる教育の提 供を目指す。 （短期・中期）（特許庁） ＜オープンイノベーションを支える人材の多様性＞  多様性と包摂性を推進する動きが、国際的に加速しているなか、世界の 知財庁・関連機関や国内の知財制度ユーザー団体と連携を深めながら、多 様性と包摂性を高めるためのネットワークの形成と環境整備を進める。本 年開催される大阪・関西万博では、各国知財庁・関連機関を招き、知財エ コシステムにおける女性と若者の活躍推進について議論及び情報発信を 行う。 （短期・中期）（特許庁）  大阪・関西万博において、社会課題解決に向けた知財活用について国内 外に広く発信し、個人、スタートアップ企業、中小企業等を含む幅広い層 に対して、知財権の取得や知財の保護・活用をすることの意義について十 分に認識、理解してもらい、一人ひとりが創造力を発揮したくなる社会の 実現を目指す。 （短期・中期）（特許庁）  社会課題解決を目指すスタートアップ企業、非営利法人、個人等に対し、 知財と社会課題解決等の専門家による伴走支援を実施し、社会課題解決に おける知財のあり方を検証するとともに、大阪・関西万博において、それ 30 らの好事例を世界に情報発信する。  （短期・中期）（特許庁） 農業・食品産業全体における知財マネジメント能力の強化に向けて、教 育カリキュラムの検討や研修セミナーの実施を支援し、農業現場での経営 に資する知財活動の取組に助言できる専門人材を育成・確保するとともに、 種苗業者向けプログラムの作成とその展開により、農業・食品産業関係者 全体の知財意識の向上を推進する。 （短期・中期）（農林水産省） ＜高度外国人材の積極的な受入れ、拠点整備＞  東南アジアやインドのトップ大学等の卒業生をはじめとした優秀な若 手人材の確保に向けて、寄附講座の活用等を通じた現地大学との連携強化 や在留資格の在り方も含め、我が国での就職に向けた課題や企業側からの 具体的なニーズについて、幅広く調査を行うこととしており、当該ニーズ 調査の結果等を踏まえ、具体的な措置について検討を行う。 （短期・中期）（法務省、経済産業省、文部科学省）  我が国の研究力向上のためには研究活動の国際化が一層必要であり、国 際的な共同研究等を通じて研究者が世界のネットワークに加わるととも に、優れた研究者が国際的に循環していくことが重要である。このため、 科学技術先進国との先端分野での研究セキュリティも確保した戦略的な 協力を一層強化するとともに、ASEAN やインドを含むグローバル・サウ ス等との戦略的な連携や若手研究者の交流を強化する。 （短期・中期）（文部科学省）  外国人留学生は、諸外国との相互理解及び友好親善の増進や高度外国人 材の獲得等の意義がある。このため、「教育未来創造会議第二次提言」や 「戦略的な留学生交流の推進に関する検討会とりまとめ」等を踏まえつつ、 多様な国・地域からの優秀な外国人留学生の受入れの促進等の留学モビリ ティの拡大、及びその基盤となる日本人学生と外国人留学生がともに学ぶ 環境の構築や大学間交流の強化等大学の国際化を推進する。 （短期・中期）（文部科学省） ２．知的財産の「保護」 （１）技術流出の防止 （現状と課題） ＜営業秘密・限定提供データ＞ 近年、グローバル化や情報価値の高まりに伴い、研究開発における情報漏洩に 31 対するセキュリティ確保の必要性は企業に留まらず大学や国立研究開発法人を 含め、あらゆる場面において求められている。その背景として、営業秘密侵害事 犯の相談受理件数は近年、増加傾向にある点が挙げられる（図表 25）。 （出典）警察庁「令和６年における生活経済事犯の検挙状況等について」を基に 内閣府知的財産戦略推進事務局が作成 図表 25：営業秘密侵害事犯の検挙事件数及び相談受理件数の推移 政府においても、知的財産の分野におけるデジタル化や国際化の進展等の環 境変化を踏まえ、営業秘密・限定提供データの保護の強化等を盛り込んだ不正競 争防止法の改正を行った（2023 年６月公布、2024 年４月１日施行）。この法改 正に伴い、経済産業省は『逐条解説 不正競争防止法』を改訂・公表し（2024 年 ４月）、さらに、従業員向けのわかりやすい啓発資料「知っておきたい営業秘密」 を作成・公表した（2024 年６月、外国語版は 2024 年 11 月）。 経済産業省は、官民の実務者間において営業秘密の漏えいに関する最新手口 やその対策に係る情報交換を行う場として「営業秘密官民フォーラム」を開催し ており、 「秘密情報の保護ハンドブック」及び「知っておきたい営業秘密」に加 え、 「営業秘密管理指針」24の周知等を進め、産業界における営業秘密の漏えい防 止に向けた対応を推進していくことが求められる。 ＜研究セキュリティ・研究インテグリティ＞ 研究活動の国際化、オープン化に伴う新たなリスクにより、開放性、透明性と 24 2025 年 3 ⽉改訂版において、「営業秘密管理指針」の対象者の範囲として⼤学・研究機関についても該当し得ることの明確化 や、⾮公知性要件とリバースエンジニアリングとの関係についての整理等が⾏われた。 32 いった研究環境の基盤となる価値が損なわれる懸念や研究者が意図せず利益相 反・責務相反に陥る危険性が指摘されている。また、2023 年６月、国立研究開 発法人の元職員が不正競争防止法違反の容疑で逮捕される事案も発生した25。 これまで、政府は、研究者及び大学・研究機関等における研究インテグリティ 確保の取組を求めてきた26。その結果、フォローアップ調査結果から大学及び国 立研究開発法人において取組の定着が進んでいることが窺える27。 一方、主要国において、研究セキュリティの確保に係る取組が強化されている ことを踏まえ、政府においては、国際的な共同研究等の実施に当たり必要なリス クマネジメントを実施するための手順書を策定するなど、研究セキュリティを 確保する取組が求められる。 ＜安全保障に係る技術の流出防止＞ 昨今、安全保障の重要性がますます拡大しており、安全保障に係る技術の流出 防止措置を講じることは、極めて重要な課題となっている。 経済産業省においては、産業構造審議会の安全保障貿易管理小委員会が 2024 年４月 24 日に中間報告を公表した。この中間報告を踏まえ、安全保障上の観点 から、技術流出リスクが高いと考えられる技術を海外移転する際に事前報告を 求め、官民が対話をしながら適切な技術流出対策を検討する制度（技術管理強化 のための官民対話スキーム）について、必要な省令改正等を行い、2024 年 12 月 に施行した。今後は、本スキームの適切な執行と、対象技術についての更なる調 査・分析を進めることが求められる。 また、内閣官房の「経済安全保障法制に関する有識者会議」では、国が支援を 行う研究開発プログラムにおいてどのような技術流出防止策、リスクマネジメ ントが必要になるのか検討し、2024 年６月に「経済安全保障上の重要技術に関 する技術流出防止策に関する提言」を取りまとめた。 この提言を踏まえ、内閣官房及び内閣府は、2024 年８月に関係府省に対して、 必要な対応を促した。具体的には、①経済安全保障上の重要技術の研究開発成果 等について、公募等の際に必要な技術流出防止措置を講じること、②日本版バ イ・ドール制度が適用された国の委託研究開発に関する知的財産権の国外移転 について、親会社又は子会社である国外企業等への知財移転の際に事前連絡と 契約者間の調整が行われるよう徹底すべきであること等について周知した。 25 本事案について、2025 年 2 ⽉、東京地裁は懲役 2 年 6 ⽉、執⾏猶予 4 年、罰⾦ 200 万円を⾔い渡した。 26 例えば、統合イノベーション戦略推進会議（第９回）（2021 年４⽉ 27 ⽇）では、「研究活動の国際化、オープン化に伴う新た なリスクに対する研究インテグリティの確保に係る対応⽅針について」が決定されており、また、国⽴研究開発法⼈の機能強化の取組の ⼀環として策定された「国⽴研究開発法⼈の機能強化に向けた取組について」（2024 年３⽉ 29 ⽇関係府省申合せ）においても、 研究セキュリティ・インテグリティの⼀層の強化を求めている。 27 https://www8.cao.go.jp/cstp/kokusaiteki/integrity/ri_follow-up_fy2024/ri_fu_fy2024_sum.pdf 33 今後は、対象とした各研究開発プロジェクトについて、リスクに応じた技術へ のアクセス管理や技術移転等の際の対策など、入口から出口までの段階に応じ た技術流出対策に取り組むことや、技術流出対策の強化に向けた要件等の見直 しを行うとともに適切に執行を行う必要がある。 （KPI）  情報漏洩の発生抑制や情報セキュリティ等の確保を図り、適切な技術流出防 止につなげる（営業秘密侵害事犯の検挙件数又は相談受理件数の状況把握）。 （施策の方向性）  「国立研究開発法人の機能強化に向けた取組について」 （2024 年３月 29 日関係府省申合せ）等に基づき、研究機関や大学における研究セキュリテ ィ・インテグリティの確保に関する取組を推進する。 （短期・中期） （内閣府（科技）、関係省庁）  「秘密情報の保護ハンドブック」及び「知っておきたい営業秘密」に加 え、改訂した「営業秘密管理指針」の周知等を進めることで、引き続き営 業秘密の漏えい防止に向けて啓発する。 （短期・中期）（経済産業省）  「産業構造審議会 通商・貿易分科会 安全保障貿易管理小委員会」中  間報告（2024 年４月）に基づき、2024 年 12 月に施行された「技術管理 強化のための官民対話スキーム」について、適切に執行するとともに、対 象とすべき技術について不断の調査・分析を行い、随時の見直しを行う。 （短期・中期）（経済産業省） 我が国が技術優位性を持つ技術及び将来の技術優位性の創出を目指す 技術を対象に、国の資金による委託等により行われる社会実装を見据えた 研究開発プロジェクトに関して、リスクに応じた技術へのアクセス管理や 技術移転等の際の対策など、入口から出口までの段階に応じた技術流出防 止対策に取り組む。 （短期・中期）（内閣府（政策統括官（経済安全保障担当））、関係省庁） （２）海賊版・模倣品対策の強化 （現状と課題） ＜海賊版＞ デジタル化・ネットワーク化の進展に伴い、マンガ・アニメ・ゲーム・映画を はじめとする我が国の魅力あるコンテンツが広く世界に発信されるようになっ 34 た。一方で、その魅力の高さと相まって、それらの著作権等に対する侵害行為は 国境を越えて拡大している。国境を超えてサイト運営者、サーバー、ドメイン登 録等が所在していることや、匿名運営を可能とするサービスが出現しているこ とに加え、ドメインホッピングを用いるなど、これまで以上に手法が巧妙化し、 サイト運営者の特定がいっそう困難となっている。 このような状況に伴い、海賊版被害も急増している。例えば、我が国のマンガ 等の海賊版サイトの状況について、日本向けの上位 10 サイトへの月間アクセス 数は、大型海賊版サイトの閉鎖等により、４億アクセス程度から１億アクセス程 度まで減少していたが、2024 年６月以降、複数の大型サイトが登場する等の影 響を受けて月間アクセス数が再び急増し、2024 年 12 月には、５億アクセスを 超えるなど、以前の最悪期を超える被害状況となった。その後の対策によって、 複数のサイトが閉鎖され、３億アクセス程度にまで減少に転じたものの、依然と して予断を許さない状況が続いている（図表 26）。 （出典）一般社団法人 ABJ「出版物違法サイトの状況」https://www.abj.or.jp/data 図表 26：出版物海賊版上位 10 サイト アクセス数合計の月別変化 近年は、海外発の海外向け海賊版サイトによる被害も拡大しており、特に、ベ トナムにおける被害が大きくなっている。最近では、ベトナムに次いでインドネ シアにおける被害も目立つ状況となっている。 また、マンガ以外も含む日本のコンテンツ（ゲーム・音楽・出版・映像）のイ ンターネット上の海賊版被害額は、2022 年で約２兆円（2019 年比約５倍）と推 計されており、今後、日本のコンテンツの海外展開を進めていくにあたっても、 35 海賊版対策の強化が重要である。 このような国境のないインターネット上の海賊版への対応には、国際的な連 携や国際執行の強化が特に重要であり、例えば、海外における海賊版に対するア クセスを抑止するための制度の利用も含め、特に、ICANN（The Internet Corporation for Assigned Names and Numbers）等を通じたドメイン事業者の 働きかけ、CDN（Contents Delivery Network）サービスの悪用防止、現地での 摘発（国際司法協力）等を中心に、官民で連携しながら対応を進めていく必要が ある。 政府では、海賊版による被害を効果的に防ぎ、著作権者等の正当な利益を確保 するため、 「インターネット上の海賊版に対する総合的な対策メニュー及び工程 表」を公表し、これに基づく対策を着実に進めてきた。2024 年５月には、民間 と連携しつつ、国際連携・執行等の強化や、CDN サービス等の海賊版サイトへ の悪用防止、正規版の流通促進等を進めるため、 「インターネット上の海賊版に 対する総合的な対策メニュー及び工程表」を更新した。 また、民間の主体的取組を支援する省庁横断的取組の強化を行うべく、2024 年９月には、最新情報の共有や具体的な対策への接続等を検討する場として、海 賊版対策に従事する民間及び関係府省の実務者から構成される海賊版等対策官 民実務者級連絡会議を立ち上げ、これまでに３回開催した。 海賊版等対策官民実務者級連絡会議では、海賊版被害を受けた際の対応フロ ー、被害の大きいベトナムの海賊版に対するアクションを検討するとともに、新 たに官だけではなく民間のアクションも織り込む形で「インターネット上の海 賊版に対する総合的な対策メニュー」の工程表の更新版を検討し、2025 年５月 に公表した。 民間においては、例えば、マンガの海賊版に対し、出版業界・IT 業界・有識 者が定期的に協議を行いながら、精力的に取組が進められてきており、例えば、 一般社団法人コンテンツ海外流通促進機構（CODA）や出版５社海賊版対策会議 （JPMAC）において、官民連携した取締りや国際執行、各種の国際会議におけ る海賊版対策への協力の呼びかけなど、積極的な活動が展開されているところ、 このような民間の主体的な取組と政府の取組を有機的に連携させながら、今後 も官民一体となって、海賊版を撲滅し、正規版流通も含めたエコシステムの実現 に取り組むことが重要である。 ＜模倣品＞ 近年、日本国内で BtoC、BtoB、CtoC 等の EC 市場が急速に拡大を続けてお り、オンラインの取引手段としてオークションサイトやフリマアプリも普及し ている。また、これらのオンライン市場はグローバル化しており、多国間での取 36 引量も急速に伸びてきている。しかし、それに伴い、インターネット上での模倣 品被害が一層深刻化してきている。 2024 年の全国の税関における偽ブランド品等の知的財産侵害物品の輸入差止 め状況について、輸入差止件数が３万３千件を超え、過去最多を更新した（図表 27 参照）。模倣品の流通は企業の売上に悪影響を与えるだけではなく、企業のブ ランドイメージを毀損したり、模倣品を購入した消費者の生命や健康に危険を 及ぼすなど、非常に深刻な問題を引き起こすものとなる。 （出典）財務省 HP「令和６年の税関における知的財産侵害物品の差止状況」 図表 27：知的財産侵害物品の輸入差止実績の推移 こうした模倣品被害を抑えるためには、各企業において製品・包装等に工夫を 凝らすことや、知財侵害の抑止につなげる強化策の構築など、模倣防止・侵害抑 止のための対策が必要であると同時に、法整備や行政による支援等が求められ る。模倣品対策として、厳正な水際取締りの強化・民間との連携による取組の強 化等、様々な策が講じられているが、今後も関係省庁一体となって対策を推進す べきである。 さらに、2019 年の特許法等改正により、損害賠償額算定方法の見直しがなさ れているが、裁判例分析等により効果検証を行い、侵害抑止に向けた更なる対応 の必要性を検討するとともに、特許表示の機能向上等を含めた知的財産の侵害 37 を抑止するための適切な制度的手当のあり方を検討し28、法改正を含めた必要な 措置を講ずることが求められる。 加えて、侵害品（模倣品）対策として模倣品製造が国外の場合であっても日本 市場を対象とした物であれば、規制対象とする妥当性についても必要に応じて 議論を行うことが望ましい。 （KPI）  日本国内からの出版物海賊版へのアクセスを低減する（直近５年間で最も少 なかったのは約１億アクセス）。  模倣品被害の抑制のため、水際措置を推進する（税関における知的財産侵害 物品の差止件数の状況把握）。 （施策の方向性）  海賊版対策に係る民間及び関係府省の実務者級で構成される海賊版等 対策官民実務者級連絡会議の場において、最新情報の共有等を図りながら、 インターネット上の海賊版に対する総合的な対策メニューに基づく取組 を官民一体となって進めるとともに、工程表は年度ごとに更新を行う。 （短期・中期）（内閣府（知財）、警察庁、総務省、法務省、外務省、 文化庁、経済産業省）  海賊版・模倣品を購入しないことはもとより、特に、侵害コンテンツに ついては、視聴者は無意識にそれを視聴し侵害者に利益をもたらすことか ら、侵害コンテンツを含む海賊版・模倣品を容認しないということが国民 の規範意識に根差すよう、関係省庁・関係機関による啓発活動を推進する。 （短期・中期）（警察庁、消費者庁、総務省、財務省、文化庁、 農林水産省、特許庁、経済産業省）  AI を活用した海賊版サイトの検知・分析実証事業を通じて、海賊版サ イト・コンテンツの自動検知や、削除申請等の権利行使の自動化について 得られた知見を活かし、より実効性の高い海賊版対策の在り方を検討する。 （短期・中期）（文化庁）  検索サイト事業者における海賊版に係る検索結果表示の削除又は抑制 など、海賊版サイトの運営やこれへのアクセスに利用される各種民間事業 者のサービスについて必要な対策措置が講じられるよう、それら民間事業 者と権利者との協力等の促進、当該民間事業者への働きかけや権利行使を 28 特許表⽰に関わる課題（例︓特許無効等により特許表⽰が虚偽になる可能性、物や包装に限らないネットワーク時代に適した特 許表⽰⽅法等）についても併せて留意する必要がある。 38       行う権利者への支援等を行う。 （短期・中期）（総務省、文化庁、内閣府（知財）） 日本のコンテンツのインターネット上の海賊版に係る被害実態につい て、継続的な把握を行う（配信先が国外向けか（日本への配信も含む）、 専ら当該国内向けか等の類型別での被害額の算出が可能かの検討も含む）。 （短期・中期）（内閣府（知財）、経済産業省、外務省、警察庁） WIPO や二国間協議等の枠組み、国際会議等の場を活用し、海賊版対策 の強化に向けた働きかけを行うなど、国際連携の強化を図る。また、海外 海賊版サイトの運営者摘発等に向け、外国公安当局への積極的な働きかけ、 国際的な捜査協力等を推進するほか、民間事業者との協力の下、デジタル フォレンジック調査の実施等の取組を進めるなど、国際執行の強化を図り、 特に、ベトナムの海賊版に対する対策を強化する。 （短期・中期）（内閣府（知財）、警察庁、総務省、法務省、外務省、 文化庁、経済産業省） 海賊版被害の大きいベトナムやインドネシアに対する対策を特に強化 し、官民ミッションの派遣や海賊版対策に係る現地事務所の開設、正規版 の流通促進等の必要な取組を行う。 （短期）（内閣府（知財）、警察庁、外務省、文化庁、経済産業省、 関係省庁） 警察当局や外交部局も含む関係省庁・官民が協働した国際的な協力体制 （コンソーシアム）を構築し、権利者による円滑な権利執行が可能な環境 を整備する。あわせて、インターネット上の国境を越えた著作権侵害等に 対し国内権利者が行う権利行使への支援の取組の充実を図る。 （短期・中期）（文化庁） インターネット上の違法・有害情報への対応として、削除対応の迅速化 や運用状況の透明化を大規模プラットフォーム事業者に義務付ける情報 流通プラットフォーム対処法の適切な運用を図るなど、プラットフォーム 事業者に対する実効的な対策を推進する。 （短期・中期）（総務省） 海外の海賊版サイトであっても、送信行為が日本の公衆に向けたもので あり、日本と密接な関連性があると認められる場合等は、日本の著作権法 に基づき刑事処罰をし得るとの解釈を踏まえ、早期検挙に向けて、権利者 団体や、関係省庁と連携した取組や、国際捜査共助等の枠組みを活用した 捜査を推進する。あわせて、海賊版によって生じる広告収入に関して、現 行の犯罪収益移転防止法や組織的犯罪処罰法等の刑事上の規制の適用関 係や、海賊版に関して生ずる広告収入に係る民事上の請求権の考え方につ 39      いて、周知を行う。 （短期・中期） （警察庁・法務省・外務省・文化庁・経済産業省） 海外の現地の人々に向けて日本のコンテンツを配信する海外の海賊版 サイト等の巧妙化・多様化に対応し、在外公館等を通じた現地の言語での 周知啓発、海賊版サイト等に関する情報提供のインセンティブ付与等の在 り方の検討、海外市場における日本のコンテンツの正規版の流通促進等の 健全なエコシステムの促進に向けた取組を、官民一体となって推進する。 （短期・中期）（内閣府（知財）、外務省、文化庁、経済産業省） CDN サービス事業者における海賊版サイトへのサービス提供の停止 など、海賊版サイトの運営に利用される各種民間事業者のサービスについ て必要な対策措置が講じられるよう、当該民間事業者への働きかけ等を行 う。 （短期・中期）（総務省、内閣府（知財）、関係府省） 海外における日本の農林水産物・食品のブランド産品の模倣品等の流通 を防ぐため、外国との地理的表示（以下「GI」という。 ）の相互保護の推 進及び海外現地や EC サイトの調査、農林水産物・食品の模倣品疑義情報 相談窓口の運用等を通じた不正使用の侵害対策を推進する。 （短期・中期）（農林水産省、外務省、特許庁） 越境電子商取引の進展に伴う模倣品・海賊版の流入増加に対応するため、 2022 年 10 月に施行された改正商標法・意匠法・関税法により、海外事業 者が郵送等により国内に持ち込む模倣品が税関による取締りの対象とな ったことを踏まえて、関係機関・関係府省が連携し模倣品・海賊版に対す る厳正な水際取締りを実施する。また、善意の輸入者に不測の損害を与え ることがないよう、引き続き、十分な広報等に努める。さらに、他の知的 財産権についても、必要に応じて、検討を行う。 （短期・中期） （財務省、特許庁、文化庁） 損害賠償額の算定方法に係る 2019 年の特許法等改正について裁判例分 析等により効果検証を行い、侵害抑止に向けた更なる対応の必要性を検討 するとともに、特許表示の機能向上等を含めた知的財産の侵害を抑止する ための適切な制度的手当のあり方を検討し、法改正を含めた必要な措置を 講ずる。 （短期・中期）（特許庁） 40 （３）産業財産権制度・運用の強化 （現状と課題） ＜グローバル化への対応＞ （出典）特許庁 HP「特許行政年次報告書 2024 年度版」 図表 28：五庁特許出願件数推移と特許出願比率の推移 （出典） ：WIPO IP Statistics Data Center を基に内閣府知的財産戦略推進事務局が作成 図表 29：欧州国籍特許出願人による日本及び米国への特許出願件数 比率の推移 41 （出典） ：WIPO IP Statistics Data Center を基に内閣府知的財産戦略推進事務局が作成 図表 30：米国籍特許出願人による日本及び欧州への特許出願件数 比率の推移 イノベーション拠点としての競争力強化に当たっては、グローバル知的資本 を誘引・集積すること、例えば、海外からの特許出願を呼び込むことが鍵になる。 日本における特許出願件数は、中国・米国に次いで第３位で漸減傾向にあるとこ ろ、海外からの特許出願比率は、欧米に比して低い状況にある（図表 28 参照）。 また、欧米の出願人は、日本より米欧への特許出願を重視する状況が続いている （図表 29、図表 30 参照）。 そこで、イノベーションハブとしての地位の確立とともに、その受け皿となる 特許申請手続のグローバル化対応を強化していくことが考えられる。現在、外国 語書面による特許出願の際は、一定の翻訳コストが発生しているが、翻訳負担の 低減・削減により、海外からの特許出願が増加することが期待され、我が国のイ ノベーションハブとしての機能強化につながると考えられる。一方で、中小企業 等の国内出願人を中心に特許出願に対する第三者による監視の負担が増大する 懸念もある。 まずは、外国語書面出願制度のイノベーション促進面での有効性と、ユーザー ニーズに即した受け入れ環境の在り方、それらのメリット・デメリットを検討し ていくことが求められる。 また、イノベーションハブとしての地位の確立のためには、質の高い審査を通 じて革新的技術にいち早く特許を付与することにより、更なるイノベーション の創出を促進することが不可欠である。直近の 10 年間を振り返ると、先行技術 調査が必要な外国語特許文献の増加、AI 技術の浸透等による発明の高度化・複 合化など、審査に要する業務負担は増加の一途をたどっており、今後も我が国企 業による革新的技術について迅速かつ適切な保護を行う必要がある。 42 さらに、意匠法条約を確定し採択するための外交会議が 2024 年 11 月にサウ ジアラビア・リヤドで開催され、「リヤド意匠法条約（Riyadh Design Law Treaty）」として採択された。同条約は、各国で異なる国内手続を調和・簡素化 することにより、出願人の負担を軽減することを目的に、2005 年から議論が行 われてきたものであり、イノベーション拠点としての競争力強化の観点から、我 が国の同条約加入に関する検討を進めていくことが求められる。 加えて、欧米等においては医薬品データ保護が法制化されているのに対し、日 本においては医薬品データ保護を直接規定する法律はなく、再審査制度（医薬品、 医療機器等の品質、有効性及び安全性の確保等に関する法律第 14 条の４）が医 薬品データ保護の役割を実質的に有している状況にある。医薬品データ保護制 度が独立して存在しないために、制度に詳しくない者が日本には医薬品データ 保護制度は存在しないと認識する恐れがあると指摘29がなされている。このため、 次期、医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律等の 改正に係る議論に向けて、関係業界団体等において議論を集約するなど、医薬品 データ保護制度を法制化する必要性について調査・分析をすることが求められ る。 ＜DX 時代の対応＞ 国際的に求心力のある知財制度・システムの実現のためには、グローバル化の みならずデジタル化も必要である。このため、特許庁は、社会情勢の変化に対応 して様々な制度改正を実施してきたところ、デジタル技術の飛躍的発展に応じ た制度的措置も講じている。 近年、社会全体の DX が加速しており、ネットワーク関連技術の発展による国 境を跨いだサービスの増加に伴い、発明の構成要件の一部であるサーバー等が 海外に設置されることにより特許権侵害回避できてしまう可能性が指摘されて いた。こうした事例における特許権侵害について判断を下した裁判例30も出てき ているが、実質的に我が国の領域内における実施行為に当たると評価できる場 合については、現在、産業構造審議会知的財産分科会特許制度小委員会において 検討がなされている。 また、2019 年の意匠法改正により新保護領域として画像、建築物、内装へと 広げることにより意匠制度の強化策を講じた結果、2023 年時点で意匠出願の 29 「知的財産推進計画 2025」の策定に向けた意⾒募集【法⼈・団体からの意⾒】P.99 （https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2025/pdf/siryou2025_2.pdf） 30 最⾼裁判所第⼆⼩法廷判決令和 7 年 3 ⽉ 3 ⽇（特許権侵害差⽌等請求事件、令和 5（受）14、15）では、⽶国のサーバ ーからのプログラムの「提供」等について、最⾼裁判所第⼆⼩法廷判決令和 7 年 3 ⽉ 3 ⽇（特許権侵害差⽌等請求事件、令和 5 （受）2028）では、⽶国に存在するサーバーと端末とで構成されるシステムの発明の「⽣産」について、それぞれ特許権侵害を認めた。 43 ７％程度の規模にまで拡大しており、結果として、従来の保護領域を補う形で新 保護領域の出願が増えている（図表 31 参照）。 （出典）特許庁作成 図表 31：新保護領域の意匠（画像、建築物、内装）の出願動向 これは産業構造の変化が一因であるところ、更に近年では、VR 技術の発展や オンラインコミュニケーション機会の増大等による仮想空間上のサービスの増 加に伴い、例えば、現実空間の物品等のデザインを模した 3D モデルを第三者が 無断で販売等するケースや、仮想空間で利用可能な 3D モデルのデザインが模倣 されるケースが生じている。そこで、仮想空間におけるビジネスやデザイン創作 の実態を踏まえ、現在、産業構造審議会知的財産分科会意匠制度小委員会におい て、意匠制度見直しの必要性及び制度的措置の方向性について検討がなされて いる。 ＜知財紛争解決に向けたインフラ整備＞ 国際的に求心力のある知財制度・システムの実現に向けて、権利を侵害された 者が適切に救済され、侵害の抑止が図られるよう、紛争解決手段を不断なく見直 し、改善を検討することは不可欠である。 知的財産権関係民事事件の新受件数の動向を見ると、全国の地方裁判所での 第一審の件数は増加減少を繰り返しながらおよそ 500 件から 700 件の間で推移 している中（図表 32）、特許権の侵害に関する訴訟において、判決で認容された 金額において支払うことが約された金額が１億円以上であるケースは約 30％と なっている（図表 33）。また、その認容額としては１億円以上の割合が 2014 年 から 2018 年までは 22％であったのに対して、2019 年から 2022 年では 38％と 増加しており、2022 年には 27 億円を超える判決が出るなど、金額自体も増え 44 ている状況である（図表 34）。 （出典）知的財産高等裁判所 HP「統計」 （「知的財産権関係民事事件の新受・既済件数及び平均審理期間 （全国地裁第一審）」 ） 図表 32：知的財産権関係民事事件の新受・既済件数及び平均審理期間 （出典）知的財産高等裁判所 HP「統計」 （「特許権の侵害に 関する訴訟における統計（東京地裁・大阪地裁、 平成 26 年～令和 5 年） 」） （出典）知財高裁ウェブサイト「統計」より特許庁作成 図表 34：特許権侵害に係る損害賠償請求 訴訟における認容額 （東京地裁・大阪地裁） 図表 33：判決で認容された金額 45 この背景として、2019 年の特許法改正（特許法第 102 条）により損害賠償額 算定方法の見直しがなされ、侵害者が販売した侵害品のうち、権利者の製造・販 売能力等を超える部分について侵害者にライセンスしたとみなして損害賠償額 に加算可能となった点が挙げられる。 一方、侵害の行為がなければ販売することができた物の数量算定に当たり、事 業者はその才覚により設備投資や人員増強により生産能力を向上させることが 可能であり、近年では外部に生産委託をするケースも増える中、損害賠償の算定 方法として、 「実施の能力」は、潜在的な能力で足りるとする判決が出されてお 31 り 、アウトソーシング等の拡大といったビジネスの実態を踏まえた認容額が柔 軟に採用されるのか動向を注視する必要がある。知的財産の侵害を抑止するた め、損害賠償額の引上げなど、様々な方向性が提案されてきたが、まずは 2019 年法改正について裁判例分析等により効果検証を行い、侵害抑止に向けた更な る対応の必要性を検討し、その上で諸外国に存在する制度を参考にしつつ、知的 財産の侵害を抑止するための適切な制度的手当のあり方を検討することが求め られている。 また、証拠収集手続きについては、2019 年の特許法改正により査証制度が導 入されているが、その後の実務状況の把握・分析を求める意見32もあり、ニーズ 等も踏まえた検討が望まれる。 さらに、訴訟以外に知財紛争を解決する手段として、調停や裁判外紛争解決手 続（以下「ADR」という。）の活用が有効な場合がある。例えば調停の場合、東 京地方裁判所及び大阪地方裁判所では、知的財産権に関する紛争を解決する専 門調停の運用が 2019 年より開始されている。調停に要する平均審理期間は 6.2 か月（参考：知的財産権関係民事事件の平均審理期間（令和５年）14.9 か月）と なり、迅速に知的財産権に関する紛争を解決することができ、今後、更なる利用 拡大が期待される。 加えて、近年、IoT 技術の浸透に伴い、通信等の標準規格を実施する上で不可 欠な特許である標準必須特許により、グローバルな競争に与える影響はますま す高まっており、標準必須特許の紛争解決のルール形成を巡るグローバルな主 31 令和 2 年 2 ⽉ 28 ⽇知財⾼裁⼤合議事件判決（平成 31 年（ネ）第 10003 号）では、「「実施の能⼒」は、潜在的な能⼒ で⾜り、⽣産委託等の⽅法により、侵害品の販売数量に対応する数量の製品を供給することが可能な場合も実施の能⼒があるものと 解すべき」と判⽰された。 32 構想委員会（第 2 回）における委員発⾔︓ 「・・・証拠開⽰に関連しては、査証制度を導⼊したりしたもの の、査証制度を申⽴てた事例も少ないようで、認められた例もないのでは ないかなというところではありますが、制度が機能していなくのではなく、この制度ができたおかげで当事者が任意に開⽰できているというよう な話もあるとは思う・・・」 「・・・やはり特許権が侵害された場合に、その事実を特許権者側でより把握しやすくする、つまり、特許権者側で証拠をより集めやすくする ような⼿段を厚く講ずることのほうが重要・・・」 46 導権争いは依然生じている。引き続き SEP 関連文書33の普及を進め、国際的な 知財紛争に係る情勢や議論等も踏まえ適切に対応しつつ、必要に応じた改訂等 の検討が期待される。 （KPI）  国際的に求心力のある知財制度・システムに向けて、争訟制度の充実化を推 進する（2019 年以降の認容額の上昇傾向の状況把握、ADR 受理事件数の状 況把握等）。 （施策の方向性）  知財紛争を含むグローバルな法的紛争の公平・公正な解決手段である国 際仲裁を我が国でも利用できる環境を整えること等を目的として、最新の 国際水準に対応した改正仲裁法等が 2024 年４月に施行されたこと等も踏 まえ、同年５月に「国際仲裁の活性化に向けた関係府省連絡会議」におい て策定された指針に基づき、我が国を拠点とする仲裁人材の育成や国内外 における周知啓発活動等の更なる取組を推進する。 （短期・中期）（法務省、関係府省）  アジア地域の司法関係者と知財関係紛争をテーマとする国際会議やそ のフォローアップ等を目的とするセミナーを開催し、アジア地域全体の紛 争処理能力の向上を図るとともに、欧米諸国の司法関係者と国際会議を開 催し、知財紛争処理の国際的連携を図り、日本の法曹関係者や民間企業等 に知財紛争解決に関する情報を提供する。 （短期・中期）（法務省、特許庁）  デジタル技術を活用して ADR をオンライン上で行う ODR を推進し、 知的財産等の問題を抱える者に対し、多様な紛争解決手段を提供すること ができるよう、情報基盤サイトを充実させる。また、ADR・ODR に関す る周知・広報、認証 ADR 事業者と関係機関との連携・強化等の取組を進 めることにより、ADR・ODR の一層の拡充及び活性化を図る。 （短期・中期）（法務省）  法令外国語訳の取組について、AI 技術を活用した法令翻訳システムの 積極的活用及びこれを踏まえたより迅速で効率的な業務スキームを円滑 に運用することにより、高品質な英訳情報の提供を拡充・加速化させ、知 財関係の分野に関する英訳法令等の積極的な海外発信を行う。 33 2022 年に経済産業省が「標準必須特許のライセンスに関する誠実交渉指針」を公表し、特許庁が「標準必須特許のライセンス交 渉に関する⼿引き」の改訂を⾏った。 47        （短期・中期）（法務省） 新興国等における知財の権利行使に関する法制度の整備と運用を支援す るとともに、効果的な司法手続を確立するため、司法関係者等に対して研 修を行うなど、新興国等における知財司法人材の育成を支援する。 （短期、中期）（法務省、外務省） 標準必須特許のライセンス交渉の円滑化に向けて、2022 年に改訂した 「標準必須特許のライセンス交渉に関する手引き」について、引き続き、 普及を進める。 （短期・中期）（特許庁） 損害賠償額の算定方法に係る 2019 年の特許法等改正について裁判例分 析等により効果検証を行い、侵害抑止に向けた更なる対応の必要性を検討 するとともに、特許表示の機能向上等を含めた知的財産の侵害を抑止する ための適切な制度的手当のあり方を検討し、法改正を含めた必要な措置を 講ずる。 （短期・中期）（特許庁）【再掲】 AI 関連技術の出願が急増する中においても特許審査の迅速性を維持す るため、 「AI 時代の知的財産権検討会」における議論も踏まえつつ、審査 官の人員補充や、審査官の複数の技術分野への習熟を含む能力向上等の対 応を進め、審査請求から特許の「権利化までの審査期間」 （標準審査期間） を 2033 年度においても「平均 14 か月以内」に維持するよう審査体制を 整備する。 （短期・中期）（特許庁） 特許審査の質を更に向上させるために、特許審査イノベーションの推進 に向け、ユーザーとの共創に基づく施策の改善、特許審査プロセスにおけ る AI 技術の活用を含む徹底した効率化等を検討し、必要な措置を講じる とともに、イノベーション創出の促進に向けて、外国語書面出願制度に関 するユーザーニーズ等調査を実施する。 （短期・中期）（特許庁） デザインの重要性、意匠権の戦略的な活用方法等の周知を引き続き強化 する。 （短期・中期）（特許庁） 2024 年４月施行の改正商標法により導入されたコンセント制度への対 応等、制度運用の変更による商標審査の負担が増大する中、2025 年度に おいても、 「権利化までの審査期間」と「一次審査通知までの期間」を、 それぞれ、平均７から９か月、平均 5.5 から 7.5 か月とすることができる よう、拒絶理由のかからない出願促進及び商標の拒絶理由横断調査事業を 48      活用するなど、商標出願の審査処理の効率化及び審査体制の充実を図る。 また、商標の重要性や活用方法等の周知を強化し、商標制度の普及・浸透 を図る。 （短期・中期）（特許庁） 今後一層拡大が見込まれる新興国市場に対する我が国企業のグローバ ル展開を支援するため、オンライン講義も活用しつつ、新興国等の知財人 材に対して、我が国の審査官や弁理士等の専門家を講師に含めた研修等の 支援を行うことにより、新興国等の知的財産制度の整備を支援する。加え て、東南アジア等新興国において、専門家会合等の働きかけを通じ、我が 国企業の知的財産権が迅速かつ的確に保護されるように、特許審査の迅速 化、品質向上に向けた支援を強化する。 （短期・中期）（特許庁） リヤド意匠法条約について、国内ユーザーへの周知や条約加入に対す るニーズの聴取等を進め、国内法整備や条約加入に関する検討を行う。 （短期・中期）（特許庁、外務省） 生成 AI 技術の発達や仮想空間における取引の拡大によるビジネスの多 様化が進むなど、企業活動における DX が進展する中、産業財産権制度に も新たな課題が生じている。また、行政手続の更なる利便性向上が求めら れている。これらを踏まえて、DX 時代にふさわしい産業財産権制度の在 り方について検討する。 （短期・中期）（特許庁） ネットワーク関連技術の発展による国境を跨いだサービスの増加を踏 まえ、ネットワーク関連発明における国境を跨いだ発明の実施について、 サーバー等が海外にあることで容易に侵害を回避し得るところ、発明の構 成要件の一部が国外にある場合であっても、実質的に国内の実施行為と認 める要件の明文化について、産業構造審議会知的財産分科会特許制度小委 員会において検討を進め、法改正を含めた必要な措置を講ずる。 （短期・中期）（特許庁） 仮想空間におけるビジネスやデザイン創作の実態を踏まえ、意匠制度見 直しの必要性及び制度的措置の方向性について、産業構造審議会知的財産 分科会意匠制度小委員会において検討を進め、法改正を含めた必要な措置 を講ずる。 （短期・中期）（特許庁） 49 （４）地域における知財保護 （現状と課題） ＜中小企業・中堅企業＞ 中小企業・中堅企業は、全企業のうち 99.9％を占めるなど、イノベーション の源泉として、我が国におけるイノベーション・エコシステムにおいて極めて重 要な存在である。 しかし、現状においては、知財に関する情報・知識・人材の不足や資金の不足 等により、知財活動が十分に行われていない。近年では、特許出願全体に対する 中小企業の出願件数比率は、特許出願件数とともに横ばいの状態にある（図表 35）。この傾向は、中小企業による意匠出願件数においても同様である。 （出典）特許庁 HP「特許行政年次報告書 2024 年度版」 図表 35：中小企業の特許出願件数の推移 また、商標登録出願全体の中で大きな割合を占める中小企業の出願は減少傾 向にあり（図表 36）、我が国全体として商標登録出願件数の縮小につながって いる（図表 37）。そこで、商標の出願件数増加、特に中小企業による出願の増 加に向け、商標権取得の重要性に関する中小企業向けの周知を強化するなど、 より一層の商標制度の普及啓発が求められる。 50 （出典）特許庁 HP「特許行政年次報告書 2024 年度版」 図表 36：中小企業の商標登録出願件数の推移 （出典）特許庁 HP「特許行政年次報告書 2024 年度版」 図表 37：商標登録出願件数の推移 さらに、大企業に比して保有する経営資源の少ない中小企業・中堅企業やスタ ートアップにとって、技術やノウハウ、アイディア、デザイン、ブランドといっ た知財は重要な経営資源であるが、これに対する「気づき」が十分とはいえず、 知財を用いた資金調達にも課題がある。 知財に関する知識不足や弁理士等の支援人材の地域偏在といった課題もあり、 特許を取得する中小企業割合は 18％弱に留まり、かつ、東京、大阪、愛知、神 奈川の４都市圏で出願件数が８割を超える状況となるなど、中小企業、特に、地 方での知財の利活用が進んでいない。 加えて、AI の加速度的進化や、ボーダーレスにデータのやりとりが行われる ことが多い産業の DX 化、デジタル空間での経済活動の活性化など、研究開発や 51 産業創出の現場では現行の知財制度が想定していなかった状況の変化が生じて いる。 こうした状況を踏まえ、地方等の中小企業の知財の利活用や保護の促進と、特 許権等の知財制度の見直しによる AI や DX 推進に向けた環境整備を通じ、それ ぞれの企業等が「知財で稼ぐ」ことを可能とする支援策の策定が必要である。 ① 知財経営支援ネットワーク 地域経済の活性化に向けて、全国に設置されている地域知的財産戦略本部に おいて、各地域の実情に合わせた知財支援を実施している。また、特許庁は 2025 年度までの３年間の「第３次地域知財活性化行動計画」 （2023 年５月 24 日策定） を公表し、中小企業における知財経営のモデルとなり得る事例を創出するため の支援等を実施している。 さらに、2023 年３月、特許庁、工業所有権情報・研修館（INPIT）、日本弁理 士会、及び日本商工会議所は、 「知財経営支援ネットワーク」を構築するための 共同宣言を行った。2024 年 12 月には、この「知財経営支援ネットワーク」に中 小企業庁が加わり、より広く知財取引の実態を把握するとともに、中小企業・小 規模事業者や支援機関の「知財経営リテラシー」の向上と、中小企業等が抱える 経営相談等に対して知財の観点から効率的に支援を行っている。 今後は、INPIT 近畿統括本部（INPIT-KANSAI）の取組を参考にしつつ、さ らなる支援拠点の整備を検討し、同ネットワークを通じた好事例の創出や伴走 支援等を行うとともに、知財経営支援人材の育成を並行して行う。 ② 知財経営モデル地域創出事業 地域を支援する取組として、特許庁は、知財を活用した地域の企業成長や地域 活性化に意欲的な自治体（地域）を知財重点支援エリアとして指定し、当該地域 に事業プロデューサーを派遣する「知財経営支援モデル地域創出事業」を 2024 年度から実施しており、2024 年度には青森県、石川県、神戸市の３地域を選定 した。引き続き、持続的な知財活用の促進を目指す地域（知財経営支援モデル地 域）の創出を通じて、知財を活用した地域の稼ぐ力の向上につなげる。 ③ 事業性に着目した融資の推進 金融機関等が不動産担保や経営者保証等に安易に依存するのではなく、事業 者の実態や将来性を理解して融資を行うことが重要である。そのための施策と して、「事業性融資の推進等に関する法律」が 2024 年６月に成立した。同法の 成立を契機とし、金融機関が企業価値担保権の活用も１つの選択肢として、事業 者の持続的な成長を促すとともに、事業性融資を自らの収益基盤の強化につな 52 げることが重要となる。 ④ 中小企業の知財の保護活用強化策 中小企業が持続的に賃上げ原資を確保しつつイノベーション創出・付加価値 拡大を実現する上で、その源泉となる知財による「稼ぐ力」を高めていくことが 不可欠である。それに向けた具体的な取組として、知財経営リテラシーの向上、 地域拠点の形成等を含めた知財の活用促進、特許表示の機能向上等を含めた知 財の保護強化等を網羅した対応策を策定し、推進することが求められる。 これらの対応策に向け、政府は前述の「知財経営支援ネットワーク」の拡充に 加え、知的財産の侵害抑止や、知財を活用した海外市場への高付加価値商材の輸 出支援についても検討を行っている。 知的財産の侵害抑止については、中小企業・スタートアップが保有する知的財 産の侵害を抑止するため、政府を挙げた中小企業等の知財リテラシーの向上や、 政府による実態調査、適切な知的財産取引のための指針の徹底、侵害抑止強化に 向けた制度の構築等が挙げられる。 また、知財を活用した海外市場への高付加価値商材の輸出支援では、資力が乏 しい中小企業やスタートアップ等にとって特許権や商標権等の知財取得に係る 手続の煩雑さや経費負担が難しいことや、海外での知財に関する訴訟事案が増 加傾向にあり中小企業等が応訴リスクを負担するのは困難であることを踏まえ、 支援策の改善に向けた調査を行い、必要な支援措置を講じていくことを検討し ている。 特許庁は、このような「知財経営支援ネットワーク」を通じた好事例の創出や 伴走支援、知財経営支援人材の育成、知的財産の侵害抑止、知財を活用した海外 市場への高付加価値商材の輸出支援等を網羅した「支援パッケージ」を検討して いるところである。 ⑤ 伝統的工芸品の保護 EU では、非農産品に GI 保護を拡大するため、2023 年 10 月９日、手工芸品・ 工業製品の GI に関する規則案が EU 理事会（閣僚理事会）で最終承認され、 2025 年 12 月１日から適用される。 我が国では、伝統的工芸品について、伝統的工芸品産業の振興に関する法律 （伝産法）や商標法等で保護しているところであるが、EPA の対象国である EU において、手工芸品等が GI 保護の対象となることを踏まえ、EU の動向を把握 し、日本での導入可否を検討する。 53 ＜農林水産業＞ ① 農林水産分野における知財の現状 我が国の農林水産物・食品は、高品質・高付加価値なものを作る技術やノウハ ウ、我が国の食文化や伝統文化等の「知財」によって、他国に類を見ない特質・ 強みを有し、海外市場を獲得している。 海外市場での需要の拡大は、優良品種の海外流出等のリスクをはらんでおり、 さらなる海外市場の拡大のためには、農林水産・食品分野における知財の適切な 保護・活用が極めて重要な課題となっている。 こうした中、2024 年５月 29 日、通常国会において食料・農業・農村基本法の 一部を改正する法律案が成立し、同法の基本理念として、 「生産性の向上・付加 価値の向上により農業の持続的な発展」を追記し、その基本的施策の 1 つとし て「農産物の付加価値の向上（知財保護・活用等） 」を掲げるなど、知財重視の 姿勢が明確となった。 また、近年、 「農林水産省知的財産戦略 2025」に基づき、家畜遺伝資源の保護 や流通管理の強化、育成者権者の登録品種の海外持出制限、自家増殖の許諾制の 推進、海外における品種登録等の支援の実施等の取組を進め、グローバル時代に 即した制度作りを進めている。さらに、2025 年７月には、同戦略をさらに発展 させ、知財を通じて、海外から「稼ぐ」ことを念頭に「農林水産省知的財産戦略 2030」を策定予定である。 ② 育成者権の保護・活用 （資料）農林水産省作成 図表 38：我が国で育成された品種登録出願件数の推移 我が国で育成された出願品種については、過去 10 年間の品種登録出願件数の 動向をみると、図表 38 で示されるとおり、年によって多少の変動がみられるも 54 のの、全体として減少傾向にある。こうした中、農業の現場では、これまで開発 品種や栽培技術の普及が重視されてきたこともあり、知財の保護・活用の意識が 十分に浸透していないことが課題となっている。 このような状況を踏まえ、近年、農林水産省では、現場関係者の知財意識の向 上等を目的として、以下の取組を実施し、現場における農業知財の保護・活用の 推進を図っている。 ・ 知的財産の基礎を学ぶオンライン講座の開設 ・ 士業資格者を対象にしたセミナーの実施 ・ 現場へ知財マネジメントのアドバイスができる専門人材の育成 ・ 農林水産・食品分野における知的財産権制度活用優良企業等表彰による 優良事例の周知 他方、コロナ禍以降のオンライン取引の増加により、権利者が把握・管理しに くい匿名性の高い取引や非農業者の苗木の取扱が拡大し、新たな流出リスクと なっている。これらに対応するため、農林水産省では、優良品種の管理・活用の あり方等に関する検討会を開催し、2024 年６月、 「デジタル化の進展等に対応し た優良品種の保護・活用に向けた対応方向」として提言がまとめられた。 同提言の具体化に向け、今後、権利者や農業現場における管理の徹底と侵害対 応の実効性向上に向けた制度的枠組みの整備等総合的な措置について中間報告 が行われる予定である。 ③ GI 保護制度の普及 GI 保護制度は、その地域ならではの自然的、人文的、社会的な要因・環境の 中で長年育まれてきた品質、社会的評価等の特性を有する産品の名称を、地域の 知財として保護するものである。これにより、地域と結びついた産品の品質、製 法、評判、ものがたりといった潜在的な魅力や強みが見える化されるため、取引 における説明や証明、需要者の信頼の獲得を容易にするツールとして利用され ている。 2022 年 11 月には、GI 制度の運用を以下のように見直し、所得・地域の活力 の向上や輸出促進を更に後押ししている。  地域で守られるべき伝統産品から、加工品、海外志向の産品まで、多様 な産品の登録につながるよう間口を広げるとともに、登録申請前及び登録 後における地域の負担を軽減する。  GI を市場において目にする機会の増大に向けた戦略的なプロモーショ ンを強化し、GI の認知・価値を高めていく。 また、登録申請に係る産地からの相談を一元的に受け付ける支援窓口として 設置されている「地理的表示保護制度活用支援中央窓口」 （GI サポートデスク） 55 において、専門家によるアドバイスを無料で実施している。 （出典）農林水産省 HP「登録産品一覧」を基に内閣府知的財産戦略推進事務局が作成 図表 39：GI の登録件数（国内産品）の推移 登録件数は年々増加し、特に、2024 年度は、16 件と登録件数が近年の中で多 く、2025 年３月末時点での国内産品の登録件数は 161 件となった（図表 39）。 今後も引き続き、GI 制度の活用促進に向けた各種取組を着実に進めることが 必要である。 また、GI 保護制度は、GI マークと相まって、外国人にも効果的に産品の魅力 やものがたりをアピール出来ることから、増加するインバウンド向けに、GI を 観光コンテンツとしての活用する動きが始まっている。こうした取組を、農林水 産物の付加価値の向上、地域の活性化、輸出拡大へつなげるため、農林水産省、 観光庁、観光地域づくり法人（DMO）との連携体制の構築、海外に向けた情報 発信による魅力訴求等を進める必要がある。 ④ 海外市場拡大に向けた環境整備 「食料・農業・農村基本計画」 （令和７年４月 11 日閣議決定）において、2030 年までに農林水産物・食品の輸出額を５兆円とする政府目標を設定した。農林水 産省では、需要拡大の取組と供給力向上の取組を車の両輪として一体的に実施 し、農林水産物・食品の更なる輸出の拡大を目指す。このような中で、輸出拡大 に向け、我が国農業の競争環境を守るため、海外における育成者権の取得を支援 するとともに、輸出促進に資する優良品種の戦略的な海外ライセンスを推進し ている。 56 ○ 海外における育成者権の取得 海外における無断栽培の抑止に向け、育成者権の取得や権利行使を強化する 必要がある。このため、農林水産省では、海外出願時、侵害対応時における費用 面での支援を行っており、2024 年９月末時点で、延べ 1,203 件の海外出願を支 援している（うち 431 件が登録済）。 一方、一部の国では、そもそも品種保護制度が十分に整備されていない場合が あり、これらの国々における適正な品種保護には課題がある。特に、アジアでは、 新品種の保護の基本的原則を規定した植物の新品種の保護に関する国際条約 （以下「UPOV 条約」という。 ）への加入率が依然として低い現状がある。 このため、我が国では、2007 年に設立した東アジア植物品種保護フォーラム において、東アジア諸国をはじめとした品種保護制度が整備されていない国々 での制度整備及び UPOV 条約への加入を促しており、引き続き、同フォーラム 等を通じた諸外国における品種保護制度の整備に向けた取組を推進するととも に、UPOV 加盟国等との審査協力を通じ、我が国品種の海外での保護を促進し ていくことが期待される。 ○ 戦略的な海外ライセンスの推進 近年、農林水産省では、輸出の端境期を海外ライセンス生産で補完し、輸出先 国において日本ブランドが周年供給される体制を構築するとともに、海外から のロイヤルティ収入を得て競争力の高い新品種開発に投資するサイクルを確立 するため、戦略的なライセンスの実施を目的とした海外ライセンス指針の策定 や、育成者権者に代わり海外出願、ライセンス、侵害への対応を行う育成者権管 理機関の早期立上げ、早期事業化を推進している。 ○ 農林水産・食品分野における先端技術 スマート農業については、諸外国における関連出願の権利取得による知財保 護もあわせて検討すべきところ、既存の支援策として窓口支援、伴走支援、海外 権利化支援が提供されており34、これら施策も利用した形でのスマート農業技術 の更なる知財保護が進展することが期待される。 食品産業においては、世界的にフードテック等の先端技術に対する投資が拡 大している中で、国内での投資が伸び悩んでいる状況にある。我が国における食 料安全保障の観点からも、今後、海外の動向も踏まえたフードテック市場拡大の ための取組強化や、食品産業における生産性向上に向けた自動化技術の活用等 34 例えば、戦略的研究開発知財マネジメント強化事業（農林⽔産省）、知財総合⽀援窓⼝（INPIT）、海外権利化⽀援事業 （INPIT）が挙げられる。 57 の促進が期待される。 （KPI）  中小企業が知財で稼ぐことを目標とし、約 1.4 万社以上の中小企業が新規に 特許出願等することを促す。  農林水産物・食品の輸出額は 2024 年において約１兆５千億円のところ、2030 年までに５兆円とする。 （施策の方向性） ＜中小企業・中堅企業＞  中小企業庁の調査によると、利益の主な使い道として「研究開発」を挙 げる中小企業は売上高を大きく成長させる傾向にある。他方で、大企業等 との取引関係の中で中小企業・小規模事業者が知的財産侵害を受けるケー スも見られることに鑑み、政府全体で中小企業等の知財経営リテラシーの 向上や、侵害抑止強化に向けた制度の構築に取り組む。 また、公正取引委員会においては、実態調査と、その結果を踏まえた適 切な知的財産取引のための独占禁止法上の指針の策定と遵守徹底に取り 組む。    加えて、中小企業・小規模事業者への知財の活用促進により、その「稼 ぐ力」を高めていくため、知財経営支援ネットワーク（特許庁、工業所有 権情報・研修館、日本弁理士会、中小企業庁が、日本商工会議所と連携し て中小企業・小規模事業者を知財の観点から支援する枠組み）を通じた好 事例の創出や伴走支援、知財経営支援人材の育成等も併せて実施していく。 （短期・中期）（公正取引委員会、特許庁、中小企業庁） 「第３次地域知財活性化行動計画」に基づき、中小企業における知財経 営のモデルとなり得る事例を創出するための支援等を実施する。 （短期・中期）（特許庁） 「知財経営支援ネットワーク」に中小企業庁を加え、より広く知財取引 の実態を把握するとともに、中小企業・小規模事業者や支援機関の「知財 経営リテラシー」の向上と、中小企業等が抱える経営相談等に対して知財 の観点から効率的に支援を行う。また、知財経営支援ネットワークを通じ て関係機関の連携強化を図り、農水分野も含めて企業の経営課題に合わせ た知財支援を実施することにより、施策効果の向上を図る。 （短期・中期） （特許庁、中小企業庁） 知財経営支援を強化・充実化し、地域の稼ぐ力の向上につなげるため、 58        地域の支援ネットワークの連携強化と地域企業のイノベーション創出を 通じて、持続的な知財活用の促進を目指す地域（知財経営支援モデル地域） の創出に向けた取組を実施する。 （短期・中期）（特許庁） 中小企業が知財を活かした経営戦略に基づいて持続的に成長し、自らの 企業価値を高めるとともに、高めた企業価値が金融機関に適切に評価され るように、中小企業と金融機関が協力して将来像を描き、現状を分析した 上で、知財・無形資産の観点を含めた経営戦略を構築するための支援を行 う。 （短期・中期）（特許庁） スタートアップ・中小企業等へ経営デザインシートの活用を更に広げる など、価値デザイン経営の普及実践エコシステムの構築に向けた取組を行 う。 （短期・中期）（内閣府（知財）） よろず支援拠点において、経営デザインシートの作成による長期ビジョ ンの検討に対する支援を行うなど、経営相談への対応において、その活用 を図る。 （短期・中期）（中小企業庁、内閣府（知財）） 特許庁がハブとなり、各種啓発活動における事業紹介や合同セミナー開 催等を通じて、INPIT や日本貿易振興機構（JETRO）等の支援機関間の 連携を高め、中小企業が海外展開するに当たって直面する知的財産に関す る課題への支援を強化する。 （短期・中期）（特許庁） パートナーシップ構築宣言等を通じて、知的財産取引に関するガイドラ インの遵守を求めるとともに、契約書のひな形の普及・活用を図る。さら に、知的財産関連の取引問題に専門的に対応する知財Ｇメンによって、知 的財産に関する取引実態を把握するとともに、「知財取引アドバイザリー ボード」を開催し、今後の対応に関する助言を得る。 （短期・中期）（中小企業庁、内閣府（政策統括官（経済財政運営担当）） 企業のノウハウや顧客基盤等の無形資産を含む事業全体に着目した融 資の新しい選択肢（企業価値担保権）について、その積極活用に向けて、 事業者や金融機関等の関係者への周知・広報等に努める。 （短期・中期）（金融庁、内閣府（知財）、中小企業庁） 知財・無形資産を活かした経営の実践を我が国企業に浸透させるべく、 IP ランドスケープの活用等の中堅企業等における知財・無形資産の投資・ 活用に関する実態や課題の調査を行い、当該投資・活用の在り方を検討す 59    ること等を通じて、中堅企業等における知財・無形資産の投資・活用の推 進につなげる。 （短期・中期）（特許庁）【再掲】 中小企業における「知財で稼ぐ力」を高めるための具体的取組（知財経 営リテラシーの向上、地域拠点の形成等を含めた知財の活用促進、特許表 示の機能向上等を含めた知財の保護強化等）を取りまとめた対応策の策定 及び推進を検討する。 （短期・中期）（特許庁） EPA の対象国である EU において手工芸品等が GI の対象となること を踏まえ、EU の動向を把握し、我が国での導入の可否を検討する。 （短期・中期）（経済産業省、外務省） 2024 年４月施行の改正商標法により導入されたコンセント制度への対 応等、制度運用の変更による商標審査の負担が増大する中、2025 年度に おいても、 「権利化までの審査期間」と「一次審査通知までの期間」を、 それぞれ、平均７から９か月、平均 5.5 から 7.5 か月とすることができる よう、拒絶理由のかからない出願促進及び商標の拒絶理由横断調査事業を 活用する等、商標出願の審査処理の効率化及び審査体制の充実を図る。ま た、商標の重要性や活用方法等の周知を強化し、商標制度の普及・浸透を 図る。 （短期・中期）（特許庁）【再掲】 ＜農林水産業＞  農業・食品産業全体における知財マネジメント能力の強化に向けて、教 育カリキュラムの検討やセミナーの実施を支援し、農業現場での経営に資 する知財活動の取組に助言できる専門人材を育成・確保するとともに、種 苗業者向けプログラムの作成とその展開により、農業・食品産業関係者全 体の知財意識向上を推進する。 （短期・中期）（農林水産省）【再掲】  農林水産・食品分野における知的財産の保護・活用により事業経営の発 展に顕著な成果を収めた事業者等を顕彰する農林水産大臣表彰を引き続 き実施し、知的財産の戦略的な保護・活用の優良・先進モデルの掘り起こ し・横展開を推進することにより農業現場での経営に資する知財活動の活 性化を推進する。 （中期）（農林水産省）  我が国農業の国際競争力の向上等に向けて、公的研究の成果が効果的に 社会実装されるよう公的研究機関等の知財マネジメントを強化する。具体 60      的には、知財マネジメントに係る公的研究機関等間の連携を強化するため のネットワークを構築するとともに、実践的な知財マネジメントへの伴走 支援、知財専門家による相談対応や、実践的な取組を横展開するためのセ ミナーを実施する。 （短期・中期）（農林水産省） 大学院、大学、専門学校、高校等をはじめとする、教育のカリキュラム や特別講義として農林水産・食品分野の知財学習の導入を検討している高 等教育機関に対し、出張講座や知財教育システムによる知識、スキルを習 得する機会を提供し、農業知財に詳しい次世代人材の育成を推進する。ま た、当該機関における知財教育の教育課程への円滑な導入を推進する。 （短期・中期）（農林水産省） 農業現場における知的財産の保護・活用の実践を進めるため、現場と専 門人材をマッチングし助言を行う「農業知財総合相談窓口」を設置し、窓 口へ寄せられた相談に対して、知的財産の保護及び活用に向けた助言、支 援を行う。あわせて、有望な案件を選定し、専門家によるプロジェクト単 位でコンサルティングを実施する伴走支援を行う。 （短期・中期）（農林水産省） 優良品種のグローバル展開に向けた競争環境を守るため、生産者への苗 木のリース方式を含め優良品種の苗木の生産や取引を厳格に管理するシ ステムの導入を進めるとともに、オンライン取引の拡大等の新たな流出リ スクにも対応し得るよう育成者権の管理と権利行使の実行性の向上に向 け、制度的枠組の整備の検討を含め、総合的に措置を講ずる。 また、品種保護の意識・能力の高い苗木業者を育成・確保し、当該苗木 業者による優良品種の取扱いを推進する。 （短期・中期）（農林水産省） 農業現場における優れた栽培技術やノウハウの流出による優位性の損 失を防止するため、生産現場への「農業分野における営業秘密の保護ガイ ドライン」の周知を継続するとともに、同ガイドラインの「営業秘密の基 礎的管理マニュアル」を活用した実践形式の研修、相談支援等を通じて技 術・ノウハウの適切な管理能力の向上に取り組む。 （短期・中期）（農林水産省） 「家畜改良増殖法」及び「家畜遺伝資源に係る不正競争の防止に関する 法律」に基づき、家畜遺伝資源の知財としての価値を保護するとともに、 更なる流通管理の適正化を図るため、以下の取組を推進する。  和牛遺伝資源の譲渡の際に締結すべき契約書のひな形の普及につい て、家畜遺伝資源生産事業者への普及は定着したことから、その下流 61       の関係者への普及に引き続き取り組み、不正競争防止を図り、知財と しての価値の保護を推進する。  全国の家畜人工授精所に対する立入検査を継続して実施するととも に、家畜人工授精師等に対する研修会の開催等により、法令遵守の徹 底を図り、流通管理の適正化を推進する。  家畜人工授精所からの報告等に伴う都道府県の事務の軽減、情報集約 のための全国システムの運用及び機能強化を図り、電子化を推進する。 （短期・中期）（農林水産省） 農林水産業関係者の所得・地域の活力の向上や輸出促進に更に貢献する ため、GI 保護制度の認知度向上、食品産業・他産業との連携、加工品や 輸出向け産品を含む多様な産品の登録を推し進め、GI の観光資源として の活用を推進し、インバウンドによる食関連消費の拡大につなげる。 （短期・中期） （農林水産省） 海外における日本の農林水産物・食品のブランド産品の模倣品等の流通 を防ぐため、外国との GI の相互保護の推進及び海外現地や EC サイトの 調査、農林水産物・食品の模倣品疑義情報相談窓口の運用等を通じた不正 使用の侵害対策を推進する。 （短期・中期）（農林水産省、外務省、特許庁）【再掲】 GI 保護制度の活用促進のため、GI 申請から登録後までの一貫したサポ ート体制の構築、GI 産品販路拡大等の GI の市場における露出拡大を図 る取組を支援する。 （短期・中期）（農林水産省） 国際的な知的財産戦略の構築を支援、海外での知的財産権（GI、商標） 確立に係る外国出願費用、拒絶理由通知への応答等の中間手続費用、登録 費用を助成し外国における権利取得を促進するとともに、海外での冒認出 願や模倣被害等への対策費用を助成し、グローバルな知的財産権の取得、 事業化及び権利行使を通じた輸出環境等の整備につなげる。 （短期・中期）（農林水産省） 企業や学校等において農林水産・食品分野における知的財産に関する意 識向上を図るため、地域の歴史や環境と強く結びついた知的財産である GI も活用しながら、教育等の場においても知的財産の保護及び活用につ いて広く啓発する取組を実施する。 （短期・中期）（農林水産省） 我が国の植物新品種の海外での保護・活用に向け、海外での育成者権の 取得や国内外での侵害対応等への支援、税関当局との連携による育成者権 侵害種苗の持ち出し防止を図り、育成者権者による登録品種の適切な管理 62 を進める。     （短期・中期）（農林水産省） 海外における無断栽培を実効的に抑止しつつ、海外からの稼ぎにつなげ ていくため、戦略的な海外ライセンスを推進し、輸出ターゲット市場にお いて日本ブランドの周年供給が可能な体制の構築により輸出促進に寄与 するとともに、海外からのロイヤルティを競争力のある新品種開発や国内 管理、産地化・ブランド化に投資するサイクルを確立する。 その実現に向け、こうしたグローバル展開を担い、育成者権者に代わっ て、海外への品種登録、侵害の監視や訴訟対応、海外ライセンス等を行う 育成者権管理機関の早期立上げ・早期事業化を進めるとともに、海外市場 も見据えた新品種の開発や国内未利用品種の活用を推進する。 （短期・中期）（農林水産省） 我が国の植物新品種の海外での保護・活用に向け、海外で日本の品種登 録に係る特性調査データが活用され、日本の品種が適切かつ迅速に登録さ れるよう審査基準の国際調和を進める。特に、果樹等の品種の早期権利化 に資するため、農業・食品産業技術総合研究機構種苗管理センターにおい て果樹等に係る国際基準に即した特性調査の実施体制を順次整備するほ か、品種登録審査の効率化に向け、海外で利用が進む遺伝子情報等の活用 に資する国際的な技術開発状況を調査する。 （短期・中期）（農林水産省） 海外において、我が国の品種を適切に保護していくため、日本のイニシ アティブで設立した東アジア植物品種保護フォーラムの活動等を通じて、 東アジア諸国をはじめとした品種保護制度が十分に整備されていない 国々での品種保護制度の整備と UPOV 条約への加入を促すとともに、審 査協力や出願様式の共通化等に取り組む。また、UPOV と連携しつつ、 UPOV 同盟国共通の電子出願審査システム（UPOV e-PVP）の活用を推 進するとともに、植物新品種等を活用した優良事例等の調査・分析等を通 じて、UPOV 加盟促進活動の強化を図る。 （短期・中期）（農林水産省） 農業機械等について、メーカーやシステムの垣根を越えて安全にデータ 連携を行えるよう、2020 年度に「農業分野におけるオープン API 整備 に関するガイドライン」を策定し、トラクター、コンバイン等の農業機械 において位置情報や作業時間等を取得するオープン API を整備した。 2025 年度以降も農業データ連携・共有のための環境整備を行うとともに、 これまで実装・公開したオープン API を活用した新たなサービス開発に よるサービス事業体の機能強化に対する支援を通じてオープン API の整 63 備・活用を推進する。  （短期・中期）（農林水産省） フードテック等の食に関する先端技術については、その知的財産の保護 及び活用の観点の重要性に引き続き配慮しながら、オープンイノベーショ ンを推進する場の整備に加え、フードテックを活用した新たな商品や付加 価値の創造を推進するとともに、自動化等の新技術の導入による食品企業 の生産性向上を支援する。 （短期・中期）（農林水産省） ３．知的財産の「活用」 （１）産学連携による社会実装の推進 （現状と課題） 大学におけるミッションとして教育、研究に加え社会貢献活動が挙げられる 中、その実施に向けて知財の創造、保護、活用は基本的な機能を担っている。つ まり、大学の研究成果が知的財産となり、これに基づきスタートアップ等が生ま れ、そこから社会実装へとつながり、さらに、その収益から新たな研究活動等へ と結びつくといった好循環が実現することが期待されるなど、知的財産の果た す役割は大きい。 「スタートアップ育成５か年計画」 （2022 年 11 月 28 日新しい 資本主義実現会議決定）を知財の観点から支援する意味で、スタートアップが大 学の知的財産権を事業化する環境を整備することが求められるところである。 しかし、大学の研究成果としての知財は、図表 40 に示すように、十分に活用 されているとはいえない。その背景には、大学における事業化を見据えた知財マ ネジメントの不足、事業化を見据えた知財の創出や権利化の不足、研究成果の社 会実装機会の最大化に向けた体制や予算の不足等の様々な要因があると考えら れ、それらを踏まえた対応が求められている。 （出典）文部科学省「令和４年度大学等における産学連携等実施状況について」を基に 内閣府知的財産戦略推進事務局が作成 図表 40：大学保有特許の利用状況 64 ＜大学知財ガバナンスガイドライン＞ 大学が創出した知財の社会実装機会の最大化及び資金の好循環の達成に向け て、内閣府、文部科学省及び経済産業省では、 「大学知財ガバナンスガイドライ ン」を 2023 年３月に策定した。その後、同ガイドラインについて普及活動を行 い、実践を促している中、課題把握のため意見交換等を実施してきた。それによ れば、一定の効果が上がっていることが把握できたが、その趣旨や意図から逸脱 した硬直的な契約交渉事例（契約書のひな形から一切変更を認めない等）も散見 された。 この背景には、大学の研究成果に係る知財について、大学、共同研究先、スタ ートアップがそれぞれ単体で社会実装できるものではなく、お互いが良好なパ ートナーシップを構築して協力関係の下で進めることが重要との認識が不足し ていると考えられる。そのため、大学と共同研究先との間で、あるいは、大学と スタートアップとの間で、権利持分・実施許諾、対価・補償を含め、合理的な契 約交渉35を進めることが鍵となる。双方の信頼関係及び意思疎通の下で、大学の 研究成果に係る知財の実施状況を改善していくことが求められる。 上記状況を踏まえ、 「大学知財ガバナンスガイドライン」に関する普及活動や 意見交換を引き続き実施し、聴取した意見も参考に、本ガイドラインを踏まえた 知財マネジメント等の実施状況や課題把握と対策等を分析、整理し、必要とされ る対策を検討すること、および、同ガイドラインのプリンシプルの実践に向けた 好事例等の収集を進め、その結果を公表することが重要である。 ＜大学等研究者の転退職時の知財取扱い指針＞ 大学の研究者の流動性が高まりつつある中、大学の優れた研究成果としての 知財を漏れなく活用して社会実装機会の最大化を達成するためには、大学の研 究者が他の大学に転職した場合に当該研究者の知財を適切に取り扱うことが必 要である。 そこで、内閣府は、イノベーションの担い手となる大学や国立研究開発法人 （以下、本節において「大学等」という。）の研究者が創出した知財の社会実装 の更なる促進に向けて、 「大学等研究者の転退職時の知的財産取扱いに関する検 討会」を 2024 年 12 月から開催し、その検討結果を「大学等研究者の転退職時 の知財取扱い指針」として 2025 年３月に策定・公表した。 今後、同指針の普及活動を進めるとともに、転退職者が発生した大学等におい て、同指針を実務で試行的に利用していただくことを想定している。そして、大 35 例えば、「⼤学と事業会社のオープンイノベーション促進のためのマナーブック」、「⼤学とスタートアップのオープンイノベーション促進のため のマナーブック」（何れも特許庁、2024 年４⽉）が参考になる。 65 学等の現場での実施を進めるとともに現場の課題感等を把握し、同指針で提示 したチェックリストや知財リスト等に関する現場の管理状況等を情報収集し、 検証作業を通じて更なる検討を進める。 ＜iAca（大学等の研究成果の社会実装に向けた知財支援事業） 、知財戦略エキス パートによる支援＞ INPIT は、大学等における研究成果の迅速な社会実装に向けて、2024 年度か ら、知的財産マネジメントの専門家である知財戦略プロデューサーを大学等に 派遣する事業（iAca）を開始している。本事業では、研究ステージの初期段階に おけるシーズ発掘と出口戦略の策定の支援から、優れたシーズの事業化に向け た産学連携活動の支援までシームレスな支援を実施している（2024 年度実績： 支援対象数（40 件）、対象大学数（27 大学））。引き続き、スタートアップ創出 等の社会実装の円滑化に向けた対応が求められる。 また、INPIT では、大学やスタートアップ等への他の支援手段として知財戦 略エキスパートによる支援を提供している。共同研究契約に関する支援として、 契約書のひな形の紹介や、実施・不実施における対価・補償等の考え方など、当 事者間における交渉・契約に係る留意点についてアドバイスをしており、引き続 き、社会実装の実現に向けた取組を行うことが望まれる。 ＜知財支援人材のスキルマップ＞ 2025 年３月末に INPIT は知財支援人材のスキルマップを公表した。同マッ プでは企業（中小、スタートアップ等）や大学、研究機関において知財経営を支 援する人材に必要な、知財の創出・保護、調査・分析や戦略構築、アカデミアや スタートアップ支援等に関する業務のスキルが体系的に整理されている。 今後は、このスキルマップを踏まえた知財支援人材向けの研修内容（例：知財 マネジメントセミナー、講師育成セミナー）の改善が進められ、知財支援人材の 候補となる者の学習内容の拡充が期待される。 （KPI）  大学知財ガバナンスガイドラインの普及などを通じて、知財の社会実装機会 の最大化を後押しする（社会実装事例やその状況把握）。 （施策の方向性）  「大学知財ガバナンスガイドライン」に関する意見交換を実施し、聴取 した意見も参考に、「大学知財ガバナンスガイドライン」を踏まえた知財 66      マネジメント等の実施状況、課題と対策等を引き続き分析、整理し、必要 とされる対策を検討する。また、その実践に向けた好事例等の収集を進め、 その結果を公表する。 (短期・中期・長期) （内閣府（知財）、文部科学省） 「大学等研究者の転退職時の知財取扱い指針」を普及させるとともに、 同指針を大学等の現場で使用した際の課題を分析、整理し、対応を検討す る。 （短期・中期）（内閣府（知財）） 大学知財の社会実装機会の最大化と資金の好循環に向けて、国内外の大 学の産学連携活動（例：技術移転、ライセンス、共同研究活動）に関する 実態把握及びベストプラクティスの収集・分析に関する調査研究を実施す る。 （短期・中期）（特許庁） 中小・スタートアップ企業や大学等による国際的な知的財産戦略の構築 を支援するため、外国出願費用、審査請求費用、拒絶理由通知への応答等 の中間手続費用を助成し外国における権利取得を促進するとともに、海外 での知的財産権侵害への対策費用を助成し、グローバルな知的財産権の取 得、事業化及び権利行使につなげる。さらに、2024 年の産業競争力強化 法等の一部改正により、INPIT の業務に助成業務が追加されたことに伴 い、INPIT が有する知財経営支援のノウハウを活かし、施策効果の向上を 図る。 （短期・中期）（特許庁） 大学と事業会社・スタートアップとの持続可能な連携を通じ、「知」の 社会実装と新しい「知」の創出の好循環による社会価値の総和の最大化を 価値軸とする「OI モデル契約書（大学編）」の普及と定着に取り組む。ま た、引き続き「スタートアップとの事業連携及びスタートアップへの出資 に関する指針」の周知を行う。 （短期・中期）（公正取引委員会、特許庁） 「大学知財ガバナンスガイドライン」により大学知財ガバナンスが改善 しつつあるが、大学の研究成果を創出する研究者に対して産学連携本部に よる知財に関する情報提供等の支援が届いていないとの懸念がある。産学 連携本部による支援の実態や、知財を適切に保護するために知っておくべ き情報を研究者に届ける方法に関する調査結果を踏まえて、2025 年度は、 セミナー・イベント等を通じて研究者や産学連携本部への情報提供等を実 施する。 （短期・中期）（特許庁） 67    iAca（大学等の研究成果の社会実装に向けた知財支援事業）を実施し、 知的財産マネジメントの専門家である「知財戦略プロデューサー」を大学 等に派遣する。同事業では、研究ステージの初期段階におけるシーズ発掘 と出口戦略の策定の支援から、スタートアップの創出を含む優れたシーズ の事業化に向けた産学連携活動の支援まで、切れ目のない支援を実現する。 （短期・中期）（特許庁） 開放特許情報データベースにおいて検索可能な形式で提供している企 業、大学、研究機関等の開放特許情報を一括して取得できるようにしたこ とを民間事業者に周知する。また、同データベースの効率的な登録方法や 活用可能性を上げるためのヒント、活用例等を盛り込んだマニュアルを作 成・公表したことを登録者に周知する。そして、開放意図のある特許の情 報を利活用したマッチング事業等を通じて、開放意図のある特許のライセ ンスを受けた事業化を支援する。 （短期・中期）（特許庁） 2024 年度に作成した知財支援人材向けのスキルマップを踏まえた知財 支援人材向け研修の改善を行う。 （短期・中期）（特許庁） （２）スタートアップ支援 （現状と課題） 「スタートアップ育成５か年計画」が策定されて以降、我が国が世界有数のス タートアップの集積地になることを目指し、①人材・ネットワークの強化、②資 金供給の強化と出口戦略の多様化、③オープンイノベーションの推進の３本柱 を中心に、各種施策を着実に実行している。 知財面においては、現在、スタートアップの事業化に向けた知財戦略の構築を 支援する人材が重要視されているが、スタートアップの知財戦略の構築を支援 できる人材（知財戦略支援人材）が不足している状況にある。 この点については、経営戦略への知財戦略の組込みに際しては、経営戦略に合 った知財戦略を構築・遂行する人材の育成のために、知的財産最高責任者（CIPO） のような知財を統括する責任者を置くことが必要であるという意見や、知財・無 形資産といった非財務資本の価値を理解できる人材36が必要といった意見が出 ている。つまり、知的財産経営を理解・実践する経営人材の育成、専門家人材の 流動性の向上、非財務資本の価値評価の実践といった包括的な支援パッケージ 36 スタートアップにおける知財デューデリジェンス⽀援の要望もあり、「ベンチャー投資家のための知的財産に対する評価・⽀援の⼿引き」 （特許庁 平成 30 年度）が参考になる。 68 が望まれるところ、既存の支援策として、下記に示される各種施策を組み合わせ ながら、新たな支援策の構築について更なる検討が求められる。 また、革新的な技術を有するスタートアップの活躍は公共分野においても期 待されているところ、デジタル行財政改革において、国・地方スタートアップ連 携実務者会議を立ち上げた（2024 年７月 10 日）。当該議論の中で、スタートア ップによる新技術・サービスの活用は、地方自治体等による公共サービスの質の 向上や省力化のための有力な選択肢となるが、スタートアップの有する知的財 産への配慮の不足や、調達手続が十分に理解されていないことなどによって、現 実には足踏み状態であることが明らかになった。このため、スタートアップ等か らの公共調達を行う場合の知的財産等に関するガイドラインの策定やノウハウ の共有が求められる。 さらに、スタートアップ支援として、事業会社等とのオープンイノベーション の取組を後押しするため、オープンイノベーション促進税制の更なる活用が期 待される。 ＜知財支援人材のスキルマップ＞【再掲】 2025 年３月末に INPIT は知財支援人材のスキルマップを公表した。同マッ プでは企業（中小、スタートアップ等）や大学、研究機関において知財経営を支 援する人材に必要な、知財の創出・保護、調査・分析や戦略構築、アカデミアや スタートアップ支援等に関する業務のスキルが体系的に整理されている。 今後は、このスキルマップを踏まえた知財支援人材向けの研修内容（例：知財 マネジメントセミナー、講師育成セミナー）の改善が進められ、知財支援人材の 候補となる者の学習内容の拡充が期待される。 ＜ベンチャーキャピタルへの知財専門家派遣プログラム（VC-IPAS）＞ 特許庁は、2023 年度より VC-IPAS において、ベンチャーキャピタル（VC） へ知財専門家を派遣し、VC を通じたスタートアップへの知財戦略構築等の支援 を行うとともに、VC の知財リテラシー・知財活用実務能力の向上支援を行って いる。派遣先 VC へのヒアリング等におけるポジティブな指摘と、2024 年度の インキュベーション施設への試行的な派遣を踏まえ、今後は派遣先の VC を増 やし、派遣対象も VC 以外のスタートアップ支援者に拡張することで、スタート アップエコシステムにおける知財の浸透をより効果的に推進する。 ＜スタボノ＞ 特許庁は、2024 年度にスタートアップとプロボノ（職業上のスキルや経験を 活かして取り組む社会貢献活動）のマッチングプログラム「スタボノ」を実施し 69 た。本プログラムは大企業等に所属する知財人材が大企業の事業開発担当等の 非知財人材とチームを組んでスタートアップへの業務支援を行うものである。 知財部スタッフの兼業や副業の促進により、スタートアップエコシステムにお ける知財戦略支援人材の育成にもつながるため、本事業の振り返りと検証が求 められる。 （KPI）  スタートアップへの知財面からの支援策を通じて、スタートアップ育成を推 進する（スタートアップ支援満足度や事例を含めた状況把握）。 （施策の方向性）  2024 年度に作成した知財支援人材向けのスキルマップを踏まえた知財 支援人材向け研修の改善を行う。 （短期・中期）（特許庁）【再掲】  IPAS を通じて、ビジネスの専門家と知財の専門家とで構成されるメン タリングチームを創業期スタートアップに派遣し、ビジネスモデルの構築 と、ビジネスモデルに応じた知財戦略の策定等に関する支援を行う。また、 採択頻度を年２回として、ユーザーの利便性を向上させつつ 、INPIT の 知財戦略エキスパートと連携して機動性を高めた支援を実現する。 （短期・中期）（特許庁）  弁理士・弁護士等の知財専門家を VC に派遣し、スタートアップに対す る知財戦略の構築支援を強化するとともに、VC の知財リテラシー・知財 実務能力の向上支援を行う。2025 年度は、派遣先のベンチャーキャピタ ルを増やすとともに、アクセラレーター等のスタートアップ支援機関への 派遣も実施することにより、スタートアップエコシステムにおける知財の 浸透をより効果的に推進する。 （短期・中期）（特許庁）  スタートアップ向けの知財ポータルサイトにおける動画配信等の効果 的な情報発信や、全国各地でのスタートアップエコシステムの関係者と知 財の関係者とを結びつける場の提供を通じて、エコシステム活性化を促進 する。2025 年度は、オンラインで映像コンテンツを配信するメディアと 連携してイベントを実施することにより、スタートアップ、スタートアッ プ支援者（ベンチャーキャピタル、知財専門家等）への知財活用について の更なる普及を図る。 （短期・中期）（特許庁） 70   スタートアップ等によるイノベーションを促進するため、特許審査官に よる審査段階でのプッシュ型支援を実施し、各種支援策の活用を促すとと もに、面接審査を通じてスタートアップ等の事業戦略に合わせた円滑かつ 効果的な権利取得を支援する。また、ユーザーの声を収集しつつ、運用の 改善を適宜検討する。 （短期・中期）（特許庁） スタートアップによる資金調達等のための早期権利化のニーズに応え るため、必要な審査体制を整備し、意匠分野におけるスタートアップ向け の早期審査を実現する。 （短期・中期）（特許庁） （３）新たな国際標準戦略 政府は、2006 年に「国際標準総合戦略」 （2006 年 12 月６日知的財産戦略本 部決定）を策定し、５つの戦略を立て、政府全体で、産業界や学術界における国 際標準化活動の促進を図ってきた。 一方で、近年の国際社会及び我が国は、従来の枠組みでは十分に対応できない 多様な課題、例えば、気候変動対策や人権尊重といった中長期課題への対応、国 際情勢の複雑化等によるグローバル・サプライチェーンの分断リスク、生成 AI をはじめとする急速な技術革新等に直面している。 これらの国内外の課題に対応した社会・産業の実現のためには、国際標準の戦 略的活用が有力な選択肢となる。また、 「経済安全保障」についても、その重要 性が高まっており、国際標準を通じた自律性の確保、優位性・不可欠性の確保・ 維持・強化といった観点も重要となっている。 このような状況を踏まえ、今般、 「新たな国際標準戦略」 （以下「新戦略」とい う。）を定め、国際社会や我が国が抱える課題の解決や経済安全保障に向けた日 本の積極的な貢献として、国際標準化活動を通じ社会課題解決と市場創出を先 導する。 この際、日本が国際標準化活動において更なる求心力を発揮するためには、産 業界や学術界の意識改革・行動変容に加え、国内において関連する人材育成の充 実、これらの活動の支援機能としての規格策定、認証機関及び試験機関等の強化 や、国際標準に関わる多様な主体をつなぐ司令塔機能を果たす場の構築が不可 欠である。 国際標準に係るこれまでの官民の取組と国内外の動向、国際標準を通じた課 題解決を目指す日本の取組や、我が国として国際標準化活動に注力していく重 要領域・戦略領域、及びモニタリング・フォローアップの実施等については、下 記に概要を示す新戦略を参照されたい。 71 ＜国際標準を通じた課題解決を目指す日本の取組強化＞ 新戦略においては、国際標準を通じた国内外の課題解決と市場創出に向け、官 民が一体となって、下記のとおり、 「国際標準戦略の明確化とガバナンス」 「標準 エコシステム」及び「産官学金の取組」を国内の取組として推進しつつ、あわせ て、 「国際連携」 「重要領域・戦略領域の選定と支援」 「モニタリング・フォロー アップ」を組み合わせ、実効的に取組を実施していく。 （出典） 「新たな国際標準戦略」 図表 41：新戦略における取組の全体像 この際、我が国がこれまで積極的に取り組み、今後も様々な取組が期待される ISO／IEC／ITU といった国際標準化機関におけるデジュール標準対応も引き 続き推進しつつ、近年活動が活発化している様々なフォーラム標準や独自標準、 デファクト標準についても留意し、国際標準の獲得に向けた効果的な組合せを 訴求していく。 あわせて、国際標準活動に当たっては、国際標準化がゴールではなくあくまで 課題解決や市場創出のためのツールであるとの認識が不可欠である。その上で、 様々な領域・分野において、敢えて国際標準化しないという選択肢も含めた、包 括的な国際標準戦略が不可欠であり、新戦略に基づき、国際的な仲間づくりや、 後述する経済安全保障の観点を組み込むことが必要である。 例えば、オープン＆クローズ戦略に基づき、規制対応、標準化活動、知財管 理、ノウハウ秘匿など様々な要素を組み合わせ、あるいは適切に使い分けるこ とが必要であり、その有力なツールとして、標準を活用することが考えられる。 さらに、標準化を検討するに当たっては、その普及・実装を見据え、その標準 の適合性評価（認証）の枠組みについても、専門サービスの協力を得ながら、同 72 時に検討すべきである。 我が国から国際標準を提案するには、当該標準が十分に議論され、国内規格と して標準化されていることが望ましい。一方で、我が国にとって相互運用性が確 保されている場合には、日本国内で規格となったものの国際標準化に留まらず、 他国で規格化されたものも含め、相互運用性に留意しつつ、国際標準化を推進し ていく。あわせて、日本企業の利便性等が認められる個別分野においては、国内 で各国の認証が取得できる方策（国際相互承認制度の利用）も促進していく。 加えて、国際標準についての取組を進めていくに当たっては、自律性の確保、 優位性・不可欠性の確保・維持・強化、国際秩序の維持強化の観点を踏まえて対 応していく。その際には、例えば、自律性確保・サプライチェーン強靭化の観点、 情報流出や不正な介入へのリスク対応の観点に加え、標準必須特許（SEP : Standard-Essential Patent）等による標準の普及や競争力への影響の観点 （FRAND 条件・料率、禁訴令等に関するライセンス交渉やグローバル紛争）に ついて注視し、必要な取組を進める。 各主体に期待される役割に加えて、領域横断的な標準化活動が拡大し、経済安 全保障等の新しい観点から国際標準化活動に効果的に取り組むため、官民一体 となり、オールジャパンで国際標準化活動を進めていく。 国の具体的施策については、以下のとおり整理し、それぞれの施策に KPI を 設けて取組を推進していく。 （１）産官学金の取組の強化 ①経済界・学術界・金融界へ働きかけを行う。 ②企業・研究機関・政府の視座をシフトする。 ③公共調達・補助金において標準を活用する。 ④研究開発段階から標準化を組み込む。 ⑤政府支援の実効性を高める。 （２）標準エコシステムの強化 ①人材育成システムを強化する。 ②専門サービスを育成・強化し、その活用を拡大する。 ③規制・規格・認証を一体的に推進する。 （３）標準戦略の明確化とガバナンス ①司令塔機能を果たす官民連携の場を設ける。 ②知見やノウハウ、人材情報等を共有・マッチングする仕組みを構築する。 73 （４）国際連携の強化 ①国際的な標準化人材育成とネットワーキングに取り組む。 ②国際相互承認制度の利用、規制の調和、規格の普及等を促進する。 ③ASEAN 各国等との連携を強化する。 ④国際標準の国際会議を日本で開催する。 ＜重要領域・戦略領域の選定＞ 我が国として、国際標準化活動における協働を通じて国際的な「社会課題解決」 や「市場創出」等を実現し、結果的に国内の社会課題解決や競争力強化にもつな げていく観点から、「現状からのトランスフォーメーションが求められる分野」 や、 「世界秩序の不安定化により、国際標準を通じた連携強化が求められる分野」 、 「技術イノベーションにより既存の業界の壁を越えた新たな価値が生まれる分 野」など、国際社会にとって重要であり、かつ、国際標準が当該領域において主 要な課題解決策となる領域を選定し、限られた国際標準リソースを集中する必 要がある。 新戦略において、17 の重要領域を選定し、さらに、重要領域の中から、その 熟度や対応の緊要性を踏まえ、 「環境・エネルギー」 「デジタル・AI」 「情報通信」 「量子」 「バイオエコノミー」といった８つの「戦略領域」を選定し、今後、こ れらの重要領域・戦略領域においては、官民で協力して、国際標準化活動を強化 する。 なお、選定した国際標準に係る重要領域・戦略領域は、当面のものであり、今 後の官民連携による国際標準化活動のモニタリングや毎年度のフォローアップ 等を通じて、見直しを図る。 74 （出典） 「新たな国際標準戦略」 図表 42：重要領域・戦略領域の選定 ＜モニタリング・フォローアップの実施と戦略の見直し＞ 国際標準化活動において、国際社会や我が国に重要な影響を及ぼすもの等に ついて、定期的にモニタリングを実施し、その結果を官民で適切に共有し、適時 適切な対応を図る。 これらのモニタリング結果については、取扱いに十分留意した上で、官民連携 の場や、デジタル上の情報連携基盤等の場を通じて、官民の関係者に適切に共有 し、国際会議への積極対応や人材の融通など、官民連携によるアジャイル（俊敏） な施策、取組に活用する。 また、今回取りまとめた各省庁の施策や重要領域・戦略領域については、毎年 度のフォローアップ（PDCA サイクル）を通じて、その進捗を確認するととも に、施策について、早期の KPI の達成や、逆に取組の不足等があれば、KPI や 取組の深掘りを求める。 これらの進捗状況については、官民連携の場や、有識者会合等において報告を 行い、定量または定性的な評価を行い、同評価に基づく取組を関係者に求める。 これらの報告、評価の結果のうち、グローバルな課題解決のための我が国の国際 75 標準化活動については、毎年度の知的財産推進計画に盛り込むなど、対外的な発 信を図っていく。 その際、官民で連携して適切にモニタリング・フォローアップを行うために、 官民連携の司令塔機能の一部として、官民による会議体での対応を検討すると ともに、適切なモニタリング・フォローアップに向けた情報共有や、ノウハウの 共有、我が国の国際標準に係るエコシステム強化、産学官の取組の促進に資する 情報共有基盤としてのデジタル上のプラットフォームの構築及び普及を検討す る。 さらに、各省庁の施策および重要領域・戦略領域については、毎年度のフォロ ーアップの報告、評価の結果を踏まえつつ、2027 年度に中間点検、2029 年度に 最終点検を行い、新戦略における施策や重要領域・戦略領域をアジャイルに見直 し、新戦略を改定していく。 （出典） 「新たな国際標準戦略」のポイント 図表 43：モニタリング・フォローアップと司令塔機能の強化 ＜本計画と新戦略の関係＞ 国際標準は、我が国産業の国際競争力強化のための一つのツールとして、知的 財産の創造、保護、活用の一環をなすものであり、その意味で、新戦略は本計画 の一部であり、政府全体の産業政策や科学技術・イノベーション戦略の一部とな るものである。 そのため、新戦略のモニタリング・フォローアップやその見直しを行うに当た っては、我が国の産業戦略、科学技術・イノベーション戦略はもとより、知財戦 略と連携して実施すべきである。 76 また、国際標準の動向は非常に動きが早いものであり、官民における実効的な 国際標準化活動を担保するためには、迅速かつ柔軟な見直しを行うことが不可 欠である。 このため、次年度以降の知的財産推進計画の策定（国際標準部分）に当たって は、新戦略のモニタリング・フォローアップや見直しとリンクさせ、モニタリン グ・フォローアップの結果について、適宜、知的財産推進計画に盛り込むととも に、状況の変化に応じて、国際標準に係る施策や、重要領域・戦略領域の見直し についても、適宜知的財産推進計画に盛り込み、新戦略の見直しと合わせ、アジ ャイルに対応していく。 （４）データ流通・利活用環境の整備 （現状と課題） デジタル技術の進展に伴い、 「データ」について、重要性、多様性、容量が爆 発的に増大したが、我が国においては、生成、収集、利活用など、全ての側面に おいて環境整備が十分ではなかった。他方、海外においては、データを効果的に 生成、収集、利活用するための取組が活発に行われており、プラットフォームの 構築や法整備が進められてきた37。 そこで、我が国において、データ利活用が進み新たな価値が創出されるために は、プラットフォーム上のデータ流通に係る被観測者の懸念・不安を払拭するた めのデータ取扱いルールの実装が必要であるとの認識から、2022 年３月に「プ ラットフォームにおけるデータ取扱いルールの実装ガイダンス Ver1.0」（以下 「ルール実装ガイダンス」という。）を策定した。 今後、具体的なルール実装のフェーズに移行することに伴い、それぞれのプラ ットフォーム等で行われるデータ取引におけるリスクを特定し、リスクに応じ た適切なルールを設定することが求められる。 また、データ利活用に関する政府の直近の取組として、2024 年 11 月の「デジ タル行財政改革会議」において、EU 等において、個人情報保護法制と整合的な 形で、医療、金融、産業等の分野でデータ利活用に係る制度の整備が急速に進展 していること等も踏まえ、デジタル行財政改革会議の下で、2025 年６月を目途 に、我が国のデータ利活用制度の在り方についての基本的な方針を策定する方 向性が示されている。 これに基づき、2024 年 12 月に「データ利活用制度・システム検討会」が立ち 上げられ、基本的な方針策定に向けた議論が開始されている。個人情報保護、消 37 例えば、EU では、2022 年２⽉に公表された欧州データ法が 2024 年１⽉に発効した。また、2024 年２⽉にデジタルサービス法 （DSA︓Digital Service ACT）が全⾯施⾏され、2024 年３⽉にデジタル市場法（DMA︓Digital Market Act）の本格的な 運⽤が始まった。 77 費者保護、競争促進、知的財産保護、サイバーセキュリティーなど、関連する様々 な政策を俯瞰する形で、利活用促進の在り方を検討する方向性が示されている ところである。 さらに、競争力ある AI 研究開発の観点でも、大規模言語モデル（LLM）のみ ならず、ロボットや自動運転等の稼働データの収集が重要となっており、これら データ利活用がより進むことにより、AI 性能の向上や多様なユースケースが生 まれることが期待される。 データ利活⽤ データの保護 （個⼈起点（⼀次利⽤）、社会起点（⼆次利⽤）） データガバナンス法（2021） データ法（2023） GDPR EU （2016） ⺠間の⾮個⼈データ（IoT等）の共有促進 データスペース構想 (2020) EHDS法 （医療・2025） データ仲介者規律枠組み等 データの 利活⽤に対する プロアクティブな制度 化アプローチ へルスケア、産業・製造等。14の分野で広域のデータ連携を検討中 ・ヘルスデータ基盤の構築 ・ヘルスデータ(仮名化情報)の 第三者提供に同意不要 ・医療機関からのデータ提出義務 PSD3（⾦融決済・検討中） ※PSD2は2015に成⽴ ⾦融データアクセスの枠組と連携したPSD2の改正 個⼈情報 保護法 ⽇本 連邦 ⽶国 各州 HIPAA法 （連邦法・ 医療・1996） GLBA法 （連邦法・ ⾦融・1999） CCPA(カリフォルニア) 等 ⺠間企業（⼤規模デジタルプラットフォーム）内 での⾃成的なデータ連携・利活⽤ リアクティブな市 場重視アプローチ （⼀般法・特別法） （出典） 「デジタル⾏財政改⾰の進捗と更なる対応について」 （2025 年２月 20 日、第９回デジタル行財政改革会議資料） 図表 44：日・米・EU の法体系比較（民間部門に係る規律のイメージ） 加えて、国連統計委員会が 2025 年に採択した国民経済計算の新しい国際基準 （2025SNA）においても、前回基準である 2008SNA の採択以降、経済のデジ タル化が大きく進展したことを受け、データを固定資本として記録することと された。 上記の通り、データの経済価値の高まりを受け、国内外様々な場で、データ利 活用に関連する動きが進展している。こうした動きを踏まえつつ、知財戦略の下 でも、従前進めている知財・無形資産の価値化と投資促進にあたっては、研究開 発費・知的財産等に加えてデータについても企業価値の源泉として把握・管理し ていくことを促していくとともに、今般策定した新戦略においても、戦略領域の １つとして、データに係るルール形成の推進を図っていくこととする。 また、研究データについては、オープン・アンド・クローズ戦略の下、政府は 統合イノベーション戦略推進会議において、「公的資金による研究データの管 理・利活用に関する基本的な考え方」 （2021 年４月）を策定し、公的資金による 研究データについての管理・利活用に向けた取組を定めた。 現在、各機関等において、研究データの管理・利活用の取組が進められており、 データポリシーについては、国立大学は 54 大学、大学共同利用機関法人は４法 78 人・機関、国立研究開発法人は 24 法人・機関が策定済みであるところ、機関リ ポジトリを有する全ての国立大学・大学共同利用機関法人・国立研究開発法人に おけるデータポリシーの策定にむけて、2025 年までに 100%を達成することを 目指している。 今後、研究データの取組の推進に当たっては、2022 年 12 月に日本学術会議 から、今後のデータ駆動型科学の振興のために考慮すべき事項やデータ共有へ の具体的取組方策に関する考え方等が示されており、内閣府等においては、この ような提言も踏まえ、研究 DX 化や AI での利活用など、研究データの管理・利 活用の取組をオープン・アンド・クローズ戦略にも配慮しつつ、より一層促進し ていくことが期待される。 （KPI）  政府全体におけるデータ利活用の議論の進展を踏まえ、今後適切なタイミン グで KPI を設定する。 （施策の方向性）  「プラットフォームにおけるデータ取扱いルールの実装ガイダンス ver1.0」の利用を促進する。 （短期・中期）（デジタル庁、関係府省）  公的資金により得られた研究データの管理・利活用を図るため、大学、 大学共同利用機関法人、国立研究開発法人等の研究開発を行う機関は、デ ータポリシーの策定を行うとともに、機関リポジトリへの研究データの収 載を進める。また、研究データ基盤システム上で検索可能とするため、研 究データへのメタデータの付与を進める。さらに、先行事例や課題点等の 横展開を促進する。 （短期・中期）（文部科学省、内閣府（科技）、関係省庁）  公募型の研究資金の新規公募分におけるデータマネジメントプラン （DMP）及びこれと連動したメタデータを付与する仕組みの構築に向け て、関係府省及び関係機関において、引き続き、取組を進める。 （短期・中期）（内閣府（科技）、文部科学省、関係省庁）  データ連携基盤におけるブローカーの無償提供と活用に関する助言を 進め、各地域による統合的なデータ連携基盤の整備・利活用を支援すると ともに、2024 年度に都道府県において策定されたデータ連携基盤の共同 利用ビジョンも踏まえ、同一機能を有した基盤への重複投資を避けつつ、 複数サービス（分野）間のデータ連携を推進する。 79     （短期・中期）（デジタル庁） 農業機械等について、メーカーやシステムの垣根を越えて安全にデータ 連携を行えるよう、2020 年度に「農業分野におけるオープン API 整備に 関するガイドライン」を策定し、トラクター、コンバイン等の農業機械に おいて位置情報や作業時間等を取得するオープン API を整備した。2025 年度以降も農業データ連携・共有のための環境整備を行うとともに、これ まで実装・公開したオープン API を活用した新たなサービス開発による サービス事業体の機能強化に対する支援を通じてオープン API の整備・ 活用を推進する。 （短期・中期）（農林水産省） 【再掲】 2021 年６月に策定したデータヘルス改革に関する工程表に沿って各施 策に関する取組を推進中であり、2024 年度は、患者の必要な医療情報を 医療機関等間で共有するための「電子カルテ情報共有サービス」を構築し、 2025 年２月から一部の地域においてモデル事業を実施した。引き続き、 データヘルス改革の各施策に関する取組を着実に進める。 （短期・中期） （厚生労働省） パーソナルデータを活用したサービス／ビジネスが変化・拡大を続ける 中、個人の同意信託を得てパーソナルデータの安全安心なデータの流通を 確保する指針を、実態に沿った形で改善・改定していくため、データの活 用の実態等を把握するとともに、諸外国の類似制度との協調を図るために 必要な調査を実施する。 （短期・中期）（総務省） 防災については、2024 年４月より運用を開始した新総合防災情報シス テム（SOBO-WEB）による災害対応機関の間での情報共有ルールを 「ルール実装ガイダンス」等に基づき整理し、さらに現在設計・構築に 向けた取組が行われているデジタル庁のデータ連携基盤との連携など、 防災分野のデータ流通促進のための検討を進めている。 （短期・中期）（内閣府（防災）） ４．新たなクールジャパン戦略のフォローアップ （１）新たなクールジャパン戦略の実装 （現状と課題） ＜クールジャパン関連産業の海外展開の進捗＞ クールジャパン関連産業の最新数値に基づく海外展開の合計は 27.1 兆円、前 回実績値から 8.0 兆円、41.92％の増加となった。コンテンツ、インバウンド、 食、ファッションともに伸びている。 80 インバウンドは、訪日外国人旅行者は 3,600 万人を超え（2024 年速報）、訪日 外国人旅行消費額は８兆 1,395 億円、訪日外国人旅行者１人当たり旅行消費額 も 22 万円を超えるなど、過去最高を更新した。観光需要が急速に回復した一方 で、都市部を中心とした一部地域への偏在傾向や地域が抱える二次交通の整備 不足38、空港での入国手続に時間を要することなど、旅行者の満足度低下の懸念 も生じており、インバウンドの受入環境の整備は引き続き課題である。 農林水産物・食品の輸出額は、１兆 5,071 億円（2024 年確々報値）、過去最高 を更新している。日本産酒類の輸出額は 1,337 億円であり、2023 年と概ね同水 準で推移しているが、2024 年 12 月ユネスコ無形文化遺産に「伝統的酒造り」 が登録されたことにより、今後の需要拡大が期待される。 また、ファッション（繊維製品）の輸出額は、1,768 億円（2023 年）、糸織物 等の繊維品は 7,736 億円であった。繊維製品輸出額は、2012 年から 2023 年で ３倍弱に増加した。主たるファッションメーカーの海外売上も増加が続いてい る。化粧品の輸出額は、2023 年において、約 6,000 億円であり、2012 年から 2021 年まで約６倍超に増えたものの、2022 年と 2023 年は減少しており、主た る化粧品メーカーも 2022 年から微減が続いている。 38 地域交通の「担い⼿」「移動の⾜」不⾜解消のため、令和６年３⽉、タクシー事業者の管理の下、⾃家⽤⾞・⼀般ドライバーを活⽤ した運送サービスの提供を可能とする⾃家⽤⾞活⽤事業が創設されている。内閣府規制改⾰推進会議地域活性化・⼈⼿不⾜対 応 ワーキング・グループ「移動の⾜不⾜の改善状況についての検証及び令和７年３⽉時点の利⽤者⽬線での検証結果の評価」 （令和７年４⽉９⽇）では、訪⽇外国⼈から、⽇本滞在中に移動の⾜に困った経験をしたと６割が回答した。また、⾃国でライドシ ェアの利⽤経験がある者のうち、⽇本でも利⽤したいと回答した者が８割強となっており、利⽤したい理由として、ライドシェアの利⽤に 慣れているためと回答した者が６割強、普段使っているアプリが使えるためと回答した者が５割弱、事前に⾦額がわかるためと回答した 者が４割半ばとなっている。さらに、ライドシェアが利⽤できるようになった場合に、６割強が移動しやすさの改善が⾒込めると回答してお り、 仮にライドシェアが導⼊されていたら、もっとできたと思うことがあると回答した者は７割半ばで、具体的には、より遠い観光地や宿泊 地、飲⾷店に⾏けたと回答した者が５割強となっている。 81 今回調査値（兆円） 増減率（%） 前回調査(兆円) コンテンツの海外展開（海外市場規模） 5.8（2023 年） 23.22 4.7（2022 年） 訪日外国人旅行（インバウンド）消費額 8.1（2024 年） 53.39 5.3（2023 年） 農林水産物・食品の輸出額 1.5（2024 年） 3.64 1.5（2023 年） 食品製造業の現地法人の売 上高39 7.3（2023 年） 109.00 3.5（2022 年） 繊維品・繊維製品の輸出 1.0（2023 年） 2.85 0.9（2022 年） 主たるファッションメーカ ーの海外売上 1.8（2023 年） 26.83 1.4（2022 年） 化粧品の輸出 0.6（2023 年） -21.05 0.8（2022 年） 1.0（2023 年） -4.77 1.0（2022 年） 27.1 41.92 19.1 食 ファッション 化粧品 主たる化粧品メーカーの海 外売上 合 計 （出典）注釈 40 の各種資料を基に内閣府知的財産戦略推進事務局が作成 40 図表 45：クールジャパン関連産業の海外展開 ＜外国人の親日度等＞ 12 か国・地域の回答者がそれぞれ５か国・地域の「好きな国・地域」を選ん で回答した、2024 年の調査結果によると、日本を「好きな国」とする率は、全 世界の国・地域平均で 56.2％、アジア平均は 69.3％、欧米豪平均は 31.0％だっ た。これらを 2033 年までに 10％向上させることを目標とする。 39 前回調査は内閣府調査をもとに作成した「主たる⾷品メーカーの海外売上」を計上していたが、今回調査からは経済産業省「海外 40 それぞれの資料等を基に内閣府知的財産戦略推進事務局が作成。 事業活動基本調査」もとに作成する「⾷品製造業の現地法⼈の売上⾼」を計上することとした。 ・コンテンツの海外展開（海外市場規模）︓（株）ヒューマンメディア 「⽇本と世界のメディア×コンテンツ市場データベース 2024」 をもとに作成。 ・訪⽇外国⼈旅⾏（インバウンド）消費額︓観光庁「インバウンド消費動向調査」をもとに作成。 ・農林⽔産物・⾷品の輸出額︓農林⽔産省が財務省「貿易統計」をもとに作成。 ・⾷品製造業の現地法⼈の売上⾼︓経済産業省「海外事業活動基本調査」をもとに作成。 ・繊維品・繊維製品の輸出︓財務省「貿易統計」をもとに作成。 ・主たるファッションメーカーの海外売上︓内閣府知的財産戦略推進事務局「2033 年度に向けて内閣府が設定した KGI/KPI に 対する実証調査」をもとに作成。 ・化粧品の輸出︓⽇本化粧品⼯業会が財務省「貿易統計」をもとに作成。 ・主たる化粧品メーカーの海外売上︓内閣府知的財産戦略推進事務局「2033 年度に向けて内閣府が設定した KGI/KPI に対 する実証調査」をもとに作成。 82 また、日本の魅力の体験率により、親日度と訪日意向が高まるかを調査した結 果、経済効果が大きいコンテンツ・食の分野は外国人の体験率も高く、それらの 日本の魅力を体験したことで、概ね４割程度の外国人が親日度・訪日意向が高ま る調査結果となった。国内外問わず日本の魅力の体験率を向上させていくこと が、親日度の上昇やインバウンドの拡大に直結する。加えて、地理的に隣接して いるアジアの親日度は総じて高く、この親日度の高さを活用していくことが重 要である。 親⽇度(KGI) ⽇本を「好きな国」と する率 全平均56.2％ ⽇本を「好きな国」とする率 ・全平均 ・アジア平均 -⾹港 -タイ -韓国 -中国 ・欧⽶豪平均 -⽶ -豪 -英 -仏 56.2％ 69.3％ 86.6％ 84.7％ 45.6％ 42.2％ 31.0％ 36.7% 41.5% 25.4% 27.7% 体験による親⽇度の向上 (KPI) ⽇本の魅⼒の体験率 (KPI) 体験による訪⽇意向の向上 体験による親⽇度向上率(全平均) ⽇本の魅⼒の体験率(全平均) 体験による訪⽇意向向上率(全平均) ・⽇本⾷ 41.5％ ・アニメ・マンガ40.2％ ・⽇本製品 35.2％ ・他のコンテンツ38.7％ ・⽇本⽂化 43.5％ ・⽇本旅⾏情報 43.4％ ・⽇本語 43.0％ ・⽇本スポーツ 40.4％ ・⽇本イベント 44.4％ ・オンラインツアー43.9％ ・⽇本コミュニティ 42.2％ 訪⽇意向 (KPI) ・⽇本⾷ 43.7％ ・アニメ・マンガ39.1％ ・⽇本製品 34.6％ ・他のコンテンツ39.6％ ・⽇本⽂化 43.5％ ・⽇本旅⾏情報 48.2％ ・⽇本語 45.7％ ・⽇本スポーツ 41.6％ ・⽇本イベント 47.7％ ・オンラインツアー46.7％ ・⽇本コミュニティ 42.2％ ・⽇本⾷ 62.3％ ・アニメ・マンガ35.0％ ・⽇本製品 32.5％ ・他のコンテンツ30.7％ ・⽇本⽂化 24.5％ ・⽇本旅⾏情報 21.9％ ・⽇本語 15.4％ ・⽇本スポーツ 13.1％ ・⽇本イベント 12.5％ ・オンラインツアー10.6％ ・⽇本コミュニティ 8.1％ 旅⾏したい国・地域とする率・順位 ・全平均 ・アジア平均 -⾹港 -タイ -中国 -韓国 ・欧⽶豪平均 -⽶ -豪 -英 -仏 54.9％/1位 63.8％/1位 77.9％/1位 76.5％/1位 44.4％/1位 43.5％/1位 37.0％/1位 29.7%/3位 45.1%/1位 39.5%/2位 38.2%/1位 ※アジアでは全ての国・地域で⽇本が好きな国・地域の1位、豪では2位、⽶では3位、仏では5位、英では8位 （出典）(株)日本政策投資銀行（DBJ）及び(公財)日本交通公社（JTBF）「DBJ・JTBF アジア・欧米豪 訪日外国人 旅行者の意向調査 2024 年度版」を基に内閣府知的財産戦略推進事務局が作成 図表 46：外国人の親日度、訪日意向、日本の魅力の体験率、体験による 親日度・訪日意向の向上 ＜日本の国際収支から見たクールジャパン＞ 近年、我が国は、貿易収支の赤字が続き、サービス収支の赤字は 2024 年速報 値では 2.6 兆円のマイナスとなっているが、サービス収支の内訳をみると、著作 権等使用料も含む「知的財産権等使用料」と「旅行」は過去数年にわたって黒字 となっており、クールジャパン戦略の推進は我が国の稼ぐ力の源となっている。 他方で、世界市場の成長を捉え、世界市場の成長スピードを上回る成長ができ ているかという視点も考慮する必要がある。グローバル視点（ドルベース）で比 較すると、例えば、旅行収入の GDP に占める割合は、日本は米国より高く、英 仏は日本の約 2.5 倍となっている。知的財産使用料については黒字で増加傾向 にあり、GDP に占める割合でみると、米国を大幅に上回り、GDP が同規模のド イツとはほぼ同じである。41 41 旅⾏収⼊及び知的財産使⽤料（収⽀尻）の GDP ⽐については、（⼀財）国際貿易投資研究所国際⽐較統計の「世界各国 の旅⾏収⽀（受取）上位 50」及び「世界各国の知的財産使⽤料（収⽀尻〜受取超過）上位 50」並びに「名⽬ GDP（IMF）」 を基に内閣府で推計した。 ・⽇本を１とした場合の旅⾏収⼊の GDP に占める割合（2023 年） ⽶国 0.75、英 2.39、仏 2.57 ・知的財産使⽤料の GDP に占める割合（2023 年） ⽶国 0.31％、独 0.55％、⽇本 0.54％ 83 <関連⼩項⽬> ⾳響・映像・関連サービス 個⼈による⾳楽映像のダウンロード、サブス クリプション、⾳楽映像制作(ライセンス除く) や興⾏のサービス取引を含む 0.0 (0.0) (5.2) (2.5) 3.3 <関連⼩項⽬>コンピューターサービス 個⼈によるゲームソフトのダウンロード、 サブスクリプション等を含む 0.7 (3.2) 0.3 <関連する⼩項⽬>産業財産権等使⽤料、 著作権等使⽤料 特許、商標、意匠、ノウハウ、著作物 (プログラ ム含む)、フランチャイズによる企業間のライセンス (0.4) 5.9 ⿊字 (0.6) ⾚字 -6 (0.9) (2.6) -4 -2 0 2 4 6 （出典）財務省「国際収支統計」を基に内閣府知的財産戦略推進事務局が作成 図表 47：日本の国際収支から見たクールジャパン（サービス収支の中の 知財・旅行収支等） （2024 年速報値） ＜クールジャパンを活用した地方創生 2.0 の推進＞ 2024 年 10 月、政府は、 「地方こそ成長の主役」との発想に基づき、地方がそ れぞれの特性に応じた発展を遂げることができるよう、内閣に「新しい地方経 済・生活環境創生本部」を設置し、2024 年 12 月、地方創生 2.0 の「基本的な考 え方」を公表した。 この「基本的な考え方」に示された地方創生 2.0 の基本構想の５本柱の一つ 「付加価値創出型の新しい地方経済の創生」に「地方におけるクールジャパンの 推進による付加価値創出」が位置付けられている。今後、地方創生 2.0 を展開し ていく上でクールジャパンの取組強化を図っていくことが求められる。 ① コンテンツを起点とした連携 近年、アニメ等のコンテンツの世界的な人気の拡大を背景に、作品に登場した 場所や原作者の出身地等、いわゆる「ゆかりの地」を訪れる42外国人が増加し、 作品に登場した食が人気になるなど、コンテンツの人気がインバウンドや食等 他の分野に波及効果をもたらしている。コンテンツを起点・入口にした分野、業 界を超えた連携は、それぞれの経済圏を拡大できる可能性がある。 42 「新たなクールジャパン戦略」（令和６年６⽉４⽇決定）では「ゆかりの地巡り」と表現しているが、聖地巡礼、アニメツーリズム、と表 現されることもある。 84 全国各地にある「ゆかりの地」は、コンテンツの関係者にとっては作品終了後 もファンエンゲージメントを高めることができ、地域にとっては関係人口の増 加や地域経済の成長等、地方創生につながる可能性がある。また、 「ゆかりの地」 は全国各地にあることから、日本全域的な周遊を促しうるものであり、地方誘客 を通じたオーバーツーリズムの未然防止・抑制にも資する可能性がある。 ② 拠点整備・人材育成等、地域における創意工夫 地域には、自治体、教育機関等との連携の下、雇用創出や地域産業の活性化を 目的としたアニメ関連企業の誘致や人材育成等の拠点施設の整備、作品の製作 過程で生み出されたマンガやアニメの原画等を活用した観光施設の整備等の取 組もある。 このように、コンテンツを起点とした異分野間連携の取組は、一部地域で官民 連携による地域一体となった取組や、コンテンツとの連携に注目する非コンテ ンツ分野の企業の動きはあるものの、分野・業界を超えた様々な関係者間の権利 調整を伴うため、地域での取組が生まれにくい面があり、全国的な取組が始まっ たところである。 異分野間連携の取組はコンテンツに限った話ではなく、例えば、国内外のハイ ブランドやデザイナーと日本が誇る伝統的工芸品等の地域産業が連携し、両者 の強みを活かしたモノづくりの動きもある。こうした連携では、新たな視点から 地域資源がブランドとして磨き上げられ、さらに新しい価値も創出されており、 地域資源の高付加価値を実現するに当たっては、異分野間連携を進めていくこ とが重要である。 ③ 地域における知財マネジメント 上記の取組の共通点は、知的財産の活用である。豊かな自然をはじめとした 様々な地域資源を生かし、国内外の様々なクラスターと連携し、グローバルに展 開していくには知的財産戦略をもつことが重要である。また、我が国のサービス 収支からみても地域における知的財産の有効活用を通じたインバウンドの拡大 は重要な取組である。 異分野間連携では、自ら持つ知恵や常識を超えることで新たな商品・サービス が創出されるが、分野・業界ごとに異なる常識があるため、それぞれのビジネス に対する想いや取組のストーリーを理解した上で、中長期的な視点での目標設 定が必要である。その際、これまで見られた地域の取組から、中核となる地域の キーパーソンの存在が不可欠であるが、それに加え、地元にはない知見やノウハ ウ、人脈等をもったプロデューサー人材の存在も重要である。 異分野間連携により、地方で新たな価値が創出されつつある一方、海外の市場 85 や顧客に魅力が届いているかというと不十分との指摘がある。海外展開では、地 域資源がもつポテンシャルを十分に理解した上でブランディングを行うことが 重要である。その際、海外発信においても、地域（分野）の垣根を超えた一覧性 のある情報発信やインフルエンサーとの連携など、外国人の視点に立った情報 発信が必要である43。 （KPI）  コンテンツの海外展開、インバウンド（訪日外国人旅行消費額）、農林水産物 等の海外展開、ファッションや化粧品等の海外展開など、クールジャパン関 連産業の経済効果として、2033 年までに 50 兆円以上の規模とする。  日本ファンの拡大に向けて、各国・地域における「日本が大好き」の割合につ いて、2033 年までに 10 ポイント上昇させる。 （施策の方向性） ＜コンテンツと地方創生の好循環プラン＞ クールジャパンを活用した地方創生 2.0 の推進に向けて、地域の自治体や関 係事業者、コンテンツ関係者等が連携し、コンテンツを起点に、地域の原風景や 食、伝統文化、特産品等のこれまで十分生かせてなかった地域資源を最大限活用 した異分野間連携を推進する。その際、関係省庁間をはじめ、自治体、民間の垣 根を超えた連携強化も推進する。地域の強みを生かした拠点整備では、産学官の 多くの関係者との連携が不可欠であるため、自治体の役割が期待される。 コンテンツを活用した高付加価値旅行者等の誘客やコンテンツ関係の拠点整 備等による産業集積等、コンテンツを活用した地方創生に取り組んでいる事例 の成功要因やノウハウを共有し、他の地域での創意工夫や取組を促進する。同時 にロケ誘致や若手クリエイター等の活動拡大等を通じて、地域に根差したコン テンツの創造も推進し、地域におけるコンテンツの魅力拡大と高付加価値旅行 者を中心としたインバウンド誘客の拡大の好循環を実現する。さらに、地域の取 組を促進する観点からコンテンツとの連携により地域経済に与える影響等の効 果検証の仕組みを構築する。その際、地域経済に利益が還元されるように考慮す る必要がある。 宿泊滞在を含めた地域観光の魅力向上に向けて、コンテンツを起点とする経 済波及効果の大きい地域一体となった官民連携の取組について、クールジャパ ン戦略会議においてコンテンツ地方創生拠点として選定を行い、関係省庁、自治 体、関係経済界が連携して強力に推進する。2033 年までに全国約 200 か所の選 43 その際、海外でサービス・商品を体験・感動できるような仕組みを作る必要がある。 86 定を目指し、地域経済の活性化を図る。 （出典）内閣府知的財産戦略推進事務局作成 図表 48：「コンテンツを活用した地方創生」の実現に向けた好循環    海外からの高付加価値インバウンド誘致など、地域経済において大きな 経済波及効果が期待されるアニメ・映画等のコンテンツの魅力を活かした 地域一体となった取組（アニメツーリズムやロケ誘致等を含む）を、クー ルジャパン戦略会議においてコンテンツ地方創生拠点として選定し、関係 省庁や自治体、関係経済界等が連携の上、その実現・拡大を促進する。 （短期・中期） 内閣府（知財）、 内閣官房（新しい地方経済・生活環境創生本部事務局）、経済産業省、 文化庁、観光庁、関係府省） ロケ撮影・誘致の円滑化及び促進のため、フィルムコミッション（FC）、 許認可権者、製作者等が取り組むべき事項等をまとめたハンドブックの周 知等を通じ、関係者間のより一層の理解の浸透や相互理解を深める。周知 に当たっては、同ハンドブックのポイントをまとめた英語版パンフレット を作成し、海外に発信する。 （短期・中期）（内閣府（知財）、警察庁、消防庁、出入国在留管理庁、 国土交通省、観光庁、関係省庁） 映画・映像を活用した地方創生に向けて、 「ロケ地の聖地化」を狙って 87      44 実現することができるように、自治体が運営する「フィルムコミッション」 等の運営や連携の在り方に加え、ロケ地における事業者へのライセンスの 在り方について検討し、ガイドライン化を進めるとともに、国としても顕 彰できるように制度化を検討する。 （短期・中期）（経済産業省） ロケ誘致による経済・社会的な産業振興を効果的に実現すべく、VFX を 含むポストプロダクション工程も含めた誘致に向けて、インセンティブ付 与及び効果的な運用に取り組む。また、インセンティブ付与対象作品の円滑 な撮影に向けた支援を検討するとともに、ロケ地域での完成作品の活用を 推進する。 （短期・中期）（経済産業省、内閣府（知財）、関係省庁） 映画やアニメ等のロケ地や舞台は、国内外の観光需要を喚起する重要な 拠点であることから、ロケ誘致による経済・社会的効果を効果的に実現す るため、観光促進のためのコンテンツの活用等、ロケツーリズム、アニメ ツーリズムの推進に向け官民一体となって取組を進める。 （短期・中期）（観光庁） 高付加価値旅行者等によるアニメやマンガ等の「ゆかりの地巡り」につ いて、大阪・関西万博で得られた調査結果をはじめ、先行地域の事例等か ら権利者との調整や実施体制のノウハウ等の収集や経済波及効果を分析 し、今後取り組む地域関係者等に提供するなど、地域の関係者がコンテン ツの関係者と連携した地域の魅力発信の取組を推進する。 （短期・中期）（内閣府（知財）、観光庁） 海外でも高く評価される日本の優れたメディア芸術分野の人材育成及 びに関連資料の収集・保存及び展示・活用を推進するとともに、振興の中 核ともなる「メディア芸術ナショナルセンター」 （仮称）として、マンガ、 アニメ・特撮及びゲームに関する作品、原画等の中間生成物並びにこれら に関連する情報等の①収集・保存・デジタル化、②調査研究、③人材育成・ 教育、④国内外への情報発信、⑤展示・利活用、⑥普及交流の機能を有す る拠点の整備に向けた取組を推進する。 （短期・中期）（文化庁） 44 文化観光推進法 に基づく計画の認定及びこれに係る財政的支援等を継 続するほか、日本遺産の更なる活性化を実現するため、施策の認知度向上 や各地域の特色を生かした取組の支援を行う。これらを通じて、文化観光 のさらなる推進を図る。 ⽂化観光拠点施設を中核とした地域における⽂化観光の推進に関する法律（令和２年法律第 18 号） 88       （短期・中期）（文化庁、観光庁） 最高峰の文化資源を活用した観光コンテンツの更なる磨き上げや創出 を行うとともに、戦略的・一体的なプロモーションを推進することによ り、訪日機運の醸成と万博（大阪・関西圏）から地方への誘客を図る 「日本博 2.0」について、これまでの取組を検証した上で、地域におい て文化資源の磨き上げ、活用、人材育成を地方創生につなげる「NEXT 日本博」（仮称）を創設する。 （短期・中期） （文化庁、関係府省） 民間活力等による国民公園や公的施設について、現代的な文化・情報発 信拠点等とするための機能強化を図る。具体的には、北の丸公園について、 最先端の科学、芸術、文化等に関する発信拠点として活用することを検討 する。 （短期・中期）（文化庁、環境省、関係府省） 自治体や企業等によるアート取組や投資を促し、アーティスト等に資 金が還元される環境を整備するため、企業等によるアート取組に関する 認定・表彰等の制度や、知見の提供及び人的ネットワークの構築等の基 盤整備を図る。 （短期・中期） （経済産業省） 地域の伝統文化や特産品等を活用したコンテンツ創出を促進するため、 アニメ業界をはじめとした各産業界に対して、立地、作品の制作、イベン トについてのプロモーションや誘致を行う。 （短期・中期）（経済産業省） 地域資源を活用した観光コンテンツの開発、適切な販路開拓、情報発信等 を総合的に支援し、地方における高付加価値なインバウンド観光地づくり を行う。この際、自然・文化・アクティビティの構成要素を通じて、日本 の本質を深く体験できるアドベンチャーツーリズムのほか、エコツーリズ ムやインフラツーリズムなど、地域の魅力が最大となるよう観光コンテン ツの磨き上げや海外への発信等を行う。また、新規参入やスタートアップ 等の事業者等を含むこれらの取組を行う事業者等に伴走して支援を行う ことを検討する。 （短期・中期） （観光庁、環境省、文化庁、国土交通省） 訪日外国人リピーターの増加、消費額の向上につながる新たな交流市場、 観光資源を形成する。また、地域周遊や長期滞在を促進するため、観光地 域づくり法人（DMO）が中心となり、地域が一体となって行う取組に対 し、総合的な支援を行う。 （短期・中期） （観光庁） 89        地域におけるコンテンツを活用した地方創生の実現に向けた取組を支 援する。 （短期・中期）（内閣官房（新しい地方経済・生活環境創生本部事務局）、 内閣府（地方創生推進室、知財）、関係省庁）） 関係府省等及び官民が連携してアニメやマンガ、映画・映像等を活用し た地域の高付加価値体験を提供する地方創生の優れた取組、人材等を表 彰・紹介することにより異業種間連携を促進する。 （短期・中期）（内閣府（知財）、経済産業省、観光庁） 異業種の人材交流の場の形成、人材ネットワーク化に取り組む。例えば、 クールジャパン官民連携プラットフォーム等を通じ、会員同士、プロデュ ーサーとのつながりを深化させる。 （短期・中期）（内閣府（知財） ） 地方の魅力の発掘・磨き上げに取り組む高付加価値化の優良事例を収集 し、成功要因やノウハウを抽出し、共有を図る。 （短期・中期）（内閣府（知財）） 地方の高い価値を有する資源を NFT（Non-Fungible Token）化してグ ローバルなプラットフォームで流通させ、国際水準ベースの価格で収益を 得る取組を推進する。この際、多数の NFT がプラットフォームに出展さ れるとともに、これらの取引が活発に行われるような仕組みを検討し、必 要に応じて支援を行う。 （短期・中期）（内閣府（知財） 、関係府省） コンテンツを活用した地域の魅力の発信において、地域（分野）の垣根 を超えた一元的な情報発信など、訪日外国人観光客視点に立った情報発信 を促進する。 （短期・中期）（内閣府（知財）、観光庁） 前例のない高付加価値サービスを提供しようとする際に、規制・制度等 が障壁となる場合がある。我が国では、規制改革関連制度として、規制改 革推進会議のほか、国家戦略特別区域制度をはじめとする特区制度、規制 のサンドボックス制度（新技術等実証制度） 、グレーゾーン解消制度等の 各種制度を設けている。また、各種制度の活用について助言を行う一元的 窓口を設けている。これらの制度や窓口について、一層の周知を図る等の 活用を促進することにより、高付加価値サービスの提供に必要な規制改革 等を推進する。 （短期・中期）（内閣府（規制改革推進室、地方創生推進事務局）、 内閣官房（新しい資本主義実現本部事務局）、経済産業省） 90 ＜世界から求められる体験価値化、高付加価値化を推進する＞ 日本各地の歴史・文化・自然にはそれぞれ魅力的なストーリーがあり、世界か ら絶好のディスティネーションとなる可能性を秘めている。それらを守り、次世 代につなげていくことも重要である。こうした地域資源を活用し、世界から求め られる価値を体験できる商品・サービスの高付加価値化に取り組み、国際水準ベ ースの価格で収益をあげ、その利益を更なる再投資につなげていく持続可能な エコシステムを構築する。その際、観光における高付加価値化においては、地方 部の高付加価値な宿泊施設の充実、二次交通の拡充、情報発信を的確に行う必要 がある。 また、デザインやアート機能は、文化・創造セクターの成長、企業価値の向上 など、日本社会全体にポジティブな影響を及ぼすことから、デザインやアートの 機能を活用して、クールジャパンの取組の底上げを図る。 さらに、イノベーションにより高付加価値化を生み出す中小企業やスタート アップの支援、新規参入しやすい環境の整備を図り、新たな技術を活用した取組 等を推進するとともに、体験価値化、高付加価値化の推進のための人材育成にも 取り組む。  訪日外国人の多様なニーズに対応し、日本の魅力を適切に伝えることが できる質の高いガイドの確保、育成を行う。特に、地方部において地域特 性等に応じた、地域一体となったローカルガイド人材の持続的な確保・育 成に関する総合的かつ戦略的な取組を支援する。 （短期・中期）（観光庁）  地域の食とそれを生み出す農林水産業を核として、訪日外国人の誘致を 図る「SAVOR JAPAN」認定地域の魅力を海外へ一体的に情報発信すると ともに、認定地域間の連携を通じた、特色ある食体験等を組み合わせた付 加価値の高いツアー提供を通じ、インバウンドによる食関連消費の拡大と、 地域振興や輸出拡大につなげる好循環を創出することを目指す。 （短期・中期）（農林水産省）  持続可能な観光地域づくりに向けて、観光地及び主要な観光資源のオウ ンドメディア45の内容充実と多言語化、観光地・観光産業のデジタルツー ルの導入、データを活用した地域活性化の好循環に取り組むモデルの構築 等を支援し、観光分野の DX を推進する。また、各地域の実情に応じたオ ーバーツーリズム対策の取組等を引き続き支援する。 （短期・中期）（観光庁）  訪日外国人旅行者の増加に伴う空港での入国手続の混雑解消のため、空 45 情報発信のために⾃社が所有するメディア（Web サイトやブログ等）。 91      港での入国審査待ち時間について、20 分以内を目指すなど、革新的な出 入国審査等を実現するため、関係省庁が連携して取組を実施する。 （短期・中期）（観光庁、出入国在留管理庁、関係省庁） 農山漁村の所得向上と関係人口の創出を図るため、農泊地域の実施体制 の整備や経営の強化、食や景観の観光コンテンツとしての磨き上げ、国内 外へのプロモーション、古民家を活用した滞在施設の整備等を一体的に支 援し、インバウンドを含めた農泊地域への誘客増大や消費機会の拡大につ なげる。 （短期・中期）（農林水産省、観光庁） 高い鮮度の水産物、漁業体験、独自の風景や歴史など、漁村ならではの 地域資源を活用する事業である海業を全国で展開することにより、交流促 進と水産物の消費増進を図るとともに、地域の所得と雇用機会の確保を図 る。 （短期・中期）（農林水産省） 国立公園における滞在体験の魅力向上に向けて、美しい自然の中での感 動体験を柱とした滞在型・高付加価値観光を推進し、国立公園のブランド 化を進め、国内外からの誘客に貢献する。国立公園満喫プロジェクトの取 組を全国の国立公園へ展開し、利用拠点の再生・上質化、自然体験活動の 促進、サステナビリティの向上等の受入環境整備を行うとともに、アドベ ンチャートラベルやサステナブルツーリズムの推進、SNS やデジタル技 術等も活用した国内外への魅力発信・プロモーションを行う。また、自然 環境の保全と調和した脱炭素化を加速化するため、先行してカーボンニュ ートラルに取り組むエリアを「ゼロカーボンパーク」と位置付けて、必要 に応じて支援を行う。 （短期・中期）（環境省） 食文化の明確化・価値化に向けた取組の支援や食文化の文化的価値に気 づきを与える情報発信、食文化分野における顕彰制度創設に係る調査・調 整、地域固有の食や食文化情報の整理等を行うとともに、和食文化を次世 代に継承する人材の育成を図り、日本の魅力ある食文化の保護・継承・活 用を図る。 （短期・中期）（文化庁、農林水産省） 我が国の長い歴史の中で育まれ、守り伝えられてきた国民の財産である とともに、国内外の人々を惹きつけ、我が国や地域の魅力を伝える文化財 の散逸・消滅の危機へ対応するため、文化財保護法に基づく指定等を適切 に実施するとともに、文化財保存活用地域計画の作成等の取組を促進し、 地域社会総がかりでの文化財の保存・活用を図る。 92        （短期・中期）（文化庁） 日本各地の歴史と文化、風土の中で育まれ、国民の生活に豊かさや潤い を与えてきた伝統的工芸品について、産地の後継者育成や技術・技法の保 存、需要開拓、表示事業等の取組や一般財団法人伝統的工芸品産業振興協 会が行う産地横断的な催事やマーケティング調査、伝統工芸士の認定事業 等への支援を継続的に行い、伝統的工芸品産業の振興発展を図っていく。 （短期・中期）（経済産業省） 化粧品産業ビジョン検討会におけるビジョンを踏まえ、新規需要を取り 込んだビジネス戦略への転換、「日本」ブランドの確立、デジタル技術の 活用を前提としたマーケティング戦略への転換、多様な人材の活用等につ いて検討・取組を促進する。 （短期・中期）（経済産業省） ファッション産業の国際競争力を強化するため、持続可能なビジネスモ デルやエコシステムへの転換、クリエイター等と地域の文化資源との協業 等による付加価値の創出、その他基盤整備等を支援し、グローバル展開や デジタル市場への参入等を促進する。 （短期・中期）（経済産業省） 海外で活躍することができるファッションクリエイターやチーム等に 対して、「エンタメ・スタートアップ事業化支援事業」の枠組みにおいて その事業化を支援し、また、日本各地の繊維産地とデザイナーを直接つな ぐような企画を実施する。 （短期・中期）（経済産業省） 日本文化のグローバル展開を推進するため、アジアを中心とするアーテ ィスト、キュレーター、クリエイター等によるネットワークを構築した上 で、西洋美術史とは異なる文脈から、ポップカルチャー等も含めたアート の「新たな価値」を形成し、世界に向けて発信していくための国際的な取 組を継続的に実施する。 （短期・中期） （文化庁） 国内の美術館や企業等が保存している日本の世界に誇る生活文化を形 作った日本企業の工業製品や、きものを含むファッション等のデザイン資 源を活用できる基盤を整備する。このため、自国の産業競争力強化や次世 代デザイナーの育成を行うとともに、観光資源としても活用されている海 外の事例を参照し、国内の美術品を保有する機関と連携しながら、これか らの時代のアーカイブの在り方の検討を進める。 （短期・中期）（経済産業省） 日本のアート市場・アートシーンの国際拠点化・活性化に向けて、国際 93     的な影響力を持つアートフェアと連携した日本初の新たなアート・プラッ トフォームの実践等により、海外市場の顧客を取り込むための環境及び体 制の整備を進める。また、国際的なイベントにおけるアートの国際発信に 係る取組を行う。 （短期・中期）（文化庁） 美術品・文化財管理の国際標準の導入、美術品の価格評価の信頼性向上 を目的とした価格評価事業者認定制度等の基盤整備を進める。 （短期・中期）（文化庁） 革新的な商品・サービスの開発等により高付加価値化を進める中小企業 への支援、スタートアップの育成に取り組むとともに、新しい事業者が参 入しやすい環境を整備する。また、ブロックチェーン／Web3.0、NFT、 AI、メタバース、VR など、新たな技術を活用した取組を推進する。 （短期・中期）（経済産業省、内閣府（知財）、関係府省） 農林水産物等の海外展開においても、イノベーションを通じた取組が行 われていること等を踏まえて、これまで海外展開が困難であった国・地域 におけるマーケットの開拓、日本の食・食文化の普及等に取り組む。 （短期・中期）（農林水産省） 日本の魅力を展開するプロデューサーのネットワークを構築し、多くの 分野の連携を創出する。 「コンテンツ」×「インバウンド」 （例えば、アニ メツーリズム）、「食」×「インバウンド」（例えば、農泊や酒蔵ツーリズ ム）及び「自然・文化体験」×「インバウンド」（例えば、アドベンチャ ーツーリズム）等の分野連携・分野融合してプロデュースすることができ るプロデューサー同士のネットワーク化に取り組む。 （短期・中期）（内閣府（知財）、関係府省） ＜マーケット目線のブランディングにより海外の市場開拓・拡大を図る＞ 世界から真に何を求められているのかというマーケット目線を更に重視した 海外の市場開拓・拡大を図るための取組を進める。 例えば、世界的な社会課題解決志向の広がりや健康志向の高まり、日本のコン テンツや食の世界的な人気の本格化やインバウンドの回復など、我が国のクー ルジャパンに対する世界の需要が高まっている中、日本産酒類については、2024 年 12 月にユネスコ無形文化遺産に「伝統的酒造り」が登録されたことにより、 今後の需要拡大が期待される。こうした世界的な評価等の高まり等を踏まえた ブランディングを促進していく。その際、ターゲットを明確にし、かつ、国・地 域により異なる文化や価値観を踏まえたマーケティング戦略、SNS 等のデジタ ルツールも活用したブランド発信が必要である。中小企業を含む海外発信する 94 企業自らが、海外市場を理解することにより、ブランド戦略を展開していくこと が海外市場の開拓・拡大の上で重要である。 一方、日本産の世界的な評価の高まりに乗じて模倣・偽装が疑われる商品が出 回り、日本産の輸出の障害が発生するリスクも生じる。海外展開にあたってはブ ランドの信頼性と認知度の向上を高めるための「ブランド戦略」が重要である。 我が国では、農林水産物等と酒類について、国及び地域の間で交わした国際約 束において指定した GI 産品の名称が保護される。これら GI は、海外において 同様の制度があることから、外国人に産品の魅力や物語をアピールする効果的 なツールとなり得る。 地域産品等については、事業者の信用の維持を図り、 「地域ブランド」の保護 による地域経済の活性化を目的として、2006 年４月１日、 「地域団体商標制度」 が導入されているほか、伝統的工芸品については、伝産法等により「伝統マーク」 を海外で商標登録することで、伝統的工芸品全体の保護を図っている。 また、EU では、 「２． （４）地域における知財保護」で述べたとおり、2025 年 12 月から手工芸品等が GI 保護の対象となることを踏まえ、EU の今後の動向を 把握し、日本での導入可否を検討する。  単なるモノ売りではなく、世界的な社会的課題の解決や健康志向の高まり といった価値観・ライフスタイルの変化に貢献できるというブランド価値 の向上を図り、新しいマーケットの開拓、既存マーケットの拡大に取り組 む。特に、農林水産物等の輸出、食・食文化の海外展開に当たっては、高 品質といった強みを活かすべく、規格の制定、イノベーションの創出・活 用、GI によるブランディング強化に取り組む。 （短期・中期）（農林水産省、国税庁、関係府省）  海外において高い評価を受けている我が国優良品種の海外流出・無断栽 培を実効的に抑止しつつ、海外からの「稼ぎ」につなげるため、戦略的な 海外ライセンスを推進する。 （短期・中期）（農林水産省）  その地域ならではの自然環境、文化、風習等に由来する品質、伝統、も のがたりを有する GI 産品について、観光庁等の関係省庁、関係者と連携 し、地域の観光資源の一つとして活用するとともに、広く周知する取組を 推進する。 （短期・中期）（農林水産省、国税庁、関係省庁）  「農林水産物・食品の輸出拡大実行戦略」を踏まえ、 「伝統的酒造り」 のユネスコ無形文化遺産登録も追い風に、日本産酒類の一層の輸出拡大を 図るため、国際的プロモーション等による認知度向上や日本の酒類事業者 と海外バイヤーとのマッチング支援等による販路拡大に積極的に取り組 95     む。また、商品の差別化・高付加価値化等のため、酒類事業者によるブラ ンド化の取組や海外展開・酒蔵ツーリズムに関する取組を支援するととも に、GI の普及・活用、技術支援等を実施する。 （短期・中期）（国税庁） 世界における価値観やライフスタイルの変化を捉えて、真に何が求めら れているか、日本の魅力が貢献できるかといった視点から、海外のマーケ ティング情報の収集・共有化等の機能を強化する。 （短期・中期）（内閣府（知財）、関係府省） 海外における日本の農林水産物・食品のブランド産品の模倣品等の流通 を防ぐため、外国との GI の相互保護の推進及び海外現地や EC サイトの 調査、農林水産物・食品の模倣品疑義情報相談窓口の運用等を通じた不正 使用の侵害対策を推進する。 （短期・中期）（農林水産省、外務省、特許庁）【再掲】 EPA の対象国である EU において手工芸品等が GI の対象となること を踏まえ、EU の動向を把握し、我が国での導入の可否を検討する。 （短期・中期）（経済産業省、外務省、）【再掲】 社会や人々の価値観の変化により、SDGs や ESG 投資の重要性が高ま ってきており、株式会社海外需要開拓支援機構（クールジャパン機構）に おいても、今後、世界が直面する様々な社会課題のうち、防災、超高齢化 社会、循環型経済など、日本が強みを発揮し得る点を明確に認識し、海外 需要開拓の支援に取り組む。 （短期・中期）（経済産業省） ＜国際的な政治・経済情勢リスクへの対応＞ 農林水産物等の輸出について、東京電力福島第一原子力発電所事故及び ALPS 処理水の海洋放出に伴う海外における輸入規制の事案等に対応するため、誤っ た情報の是正や科学的根拠に基づかない輸入規制措置の即時撤廃の働きかけを 行うとともに、輸出先の多角化、新規開拓に取り組む。また、インバウンドにつ いても、国際的な政治・経済情勢等を踏まえ、出国元に関し、様々な国・地域か ら成るポートフォリオを構築するため、マーケットの多角化・分散、新規開拓に 取り組む。 さらに、EU における食品等の包装に関する新しい規制の導入に際して日本酒 の輸出が困難となりかけた事案46のように、国際的な様々な規制の動向等を把握 46 EU 域内において、⾷品を製造・販売する事業者に対して、2030 年から⼀定割合の容器のリサイクル⼜はリユースを義務付ける規 制を導⼊しようとするもので、⽇本政府から EU 当局への働きかけにより、⽇本酒の瓶はリユース義務の対象から除外されることとなった。 96 し適切に対応する。   農林水産物等の輸出先やインバウンドの出国元を一部の国・地域に過度 に依存することを避けるため、海外マーケットのニーズを適切に把握しつ つ、輸出先の多角化や訪日プロモーションの促進等、新たなマーケットの 開拓を行う。 （短期・中期）（農林水産省、国税庁、観光庁） 海外における規制の動向を把握し、日本の農林水産物等の輸出等に不利 な影響が及ばないよう、政府、民間それぞれのレベル、ルートで適切に対 応する。 （短期・中期）（農林水産省、国税庁、外務省、関係府省） ＜日本ファンの拡大に向けて発信力を強化する＞ 日本ファンの拡大、日本のブランド価値の向上に向けて、各国・地域の政財界 の意思決定層や富裕層を含め、日本の魅力を多くの国・地域に届けるため、発信 力の強化に取り組む。情報発信においては、受け手の視点が重要であるため、日 本ファンの外国人コミュニティやインフルエンサー等との積極的な連携・活用 を進める。また、関係府省等によって分野間、地域間、官民の連携を図り、点で はなく面でプロモーションを行うなど、効果的な発信を行う。 さらに、訪日外国人が満足する体験をすることで SNS やクチコミ等による情 報拡散が行われる可能性もあることから、発信力強化の側面からみても、地域の 魅力の体験価値化、高付加価値化の取組は重要である。    在外公館やジャパン・ハウス、国際交流基金を通じた日本の魅力の発信 等について、各国・地域の需要に応じ、関係府省、関係機関等と連携した 適切なプロモーション事業や幅広い分野に関するレクチャー・公演・展示・ 上映等の文化事業をオンラインも活用しつつ実施し、戦略的な広報・文化 活動を展開する。 （短期・中期）（外務省、内閣府（知財）、関係府省） ジャパン・ハウスの発信力の更なる活用・強化を図る。その際、ジャパ ン・ハウスにおける発信がビジネスにつながるよう、発信面のみならず、 商的流通等の確保に留意する。 （短期・中期）（外務省、内閣府（知財）、関係府省） 関係府省、関係機関等からの発信について、SNS の活用も含めて連携 を図り、それぞれの知見やリソースを活かして発信力を更に高め合うとと もに、政府の国際広報による情報発信を強化する。 97       47 （短期・中期）（内閣府（政府広報）、関係府省） 効果的な情報発信につなげるため、海外で行われた関係省庁等によるク ールジャパン関連産業の日本の魅力の海外プロモーション動向等を収集 分析する。これらを踏まえ、関係省庁等によって面でのプロモーションを 積極的に実施する。 （短期・中期）（内閣府（知財）、総務省、外務省、国税庁、文化庁、 農林水産省、経済産業省、観光庁、関係府省） 農林水産物等の輸出の増加に向けて、品目単体のプロモーションだけで なく、日本の食・食文化全体の魅力を訴求するとともに、器や箸といった 食に関わるモノと一体としたプロモーションを行い、海外における日本の 食・食文化の認識・浸透度の底上げを図る。 （短期・中期）（農林水産省、国税庁、関係府省） 2024 年 12 月にユネスコ無形文化遺産に登録された「伝統的酒造り」に ついて、次世代への技術伝承及び世界的な認知度を向上させるため、シン ポジウムの開催等、様々な普及啓発活動等に取り組む。 （短期・中期）（国税庁） 大阪・関西万博は日本の魅力を世界に向けて発信する絶好のチャンスで あるため、万博会場内外、開催期間の前後を含めて、観光、食、文化等の クールジャパンに関わる様々な分野に関し、関係省庁のみならず官民が連 携し、オールジャパンで日本の魅力の発信に取り組む。 （短期・中期）（内閣府（知財）、内閣官房（万博）、国税庁、文化庁、 農林水産省、観光庁、関係府省） 「昭和 100 年」を契機として、歌謡、マンガ・アニメ、映画、出版など昭 和の文化に関連したイベントの開催を推進する。 （短期）（内閣官房（「昭和 100 年」関連施策推進室）、関係府省） 日本ファンの中には、訪日を契機に自身の興味・関心が広がり、様々な 共創を経てビジネスにつながる場合もあるため、そのような機会につなが るような国内に居住する外国人を増やす。このため、日本で活躍する外国 人の起業家や日本への留学生等を増加させるための課題47を洗い出し、環 境整備に取り組む。 （短期・中期） （内閣府（知財）、法務省、文部科学省、金融庁、 国土交通省、関係府省） 在留資格に関する指摘や来⽇初期（６か⽉間）の⾦融機関の⼝座開設が困難である等の指摘がある。なお、在留資格につい て、起業⽬的の場合には、特例制度（外国⼈起業活動促進事業（スタートアップビザ））が設けられているほか、⽂化活動を⽬的と する場合の在留資格も既に設けられている。また、起業⽬的の場合には、来⽇から６か⽉経過する以前でも⼀定の条件の下、⼝座開 設を可能とするよう⾦融庁から⾦融機関に通知が発出されている。 98    外国人留学生は、諸外国との相互理解及び友好親善の増進や日本の様々 な魅力を積極的に海外発信する上で果たす役割等の意義がある。このため、 教育未来創造会議第二次提言48等を踏まえつつ、多様な国・地域からの優 秀な外国人留学生の受入れの促進等留学モビリティの拡大、及びその基盤 となる日本人学生と外国人留学生がともに学ぶ環境の構築や大学間交流 の強化等大学の国際化を推進する。 （短期・中期）（文部科学省） 外国人目線での日本の魅力の発掘・磨き上げ、海外への発信を強化する ため、日本ファンの外国人ネットワークや国内外メディア等との連携に取 り組む。 （短期・中期）（内閣府（知財）、関係府省） 株式会社海外需要開拓支援機構（クールジャパン機構）と関係府省、関 係機関等との連携を深めるため、クールジャパン官民連携プラットフォー ム等も活用しつつ、世界の視点や新たな取組等に関する情報の同機構への 提供や、同機構の既投資案件について当該プラットフォームに参加した会 員との情報共有や連携支援を行う。 （短期・中期）（経済産業省、内閣府（知財）） （２）コンテンツ戦略 （現状と課題） 日本のコンテンツ産業の市場規模は 13.3 兆円（2023 年）であり、石油化学産 業と並び、半導体産業よりも大きい。また、日本のコンテンツの海外市場規模は 5.8 兆円（2023 年）であり、鉄鋼産業や半導体産業の輸出額を上回る規模であ る。特に、5.8 兆円（2023 年）のうち、家庭用ゲーム（オンライン）2 兆 4,833 億円と家庭用ゲーム（ソフト販売）8,697 億円で半分以上を占めており、今後も ゲーム市場が、コンテンツ市場の海外展開をけん引する分野として大いに期待 される。 世界のコンテンツ産業の市場規模49は、円ベースでみると 2019 年から 2023 年までに 62.4％、2022 年から 2023 年は 12.3％と大幅に伸びている一方、日本 のコンテンツ産業の市場規模の伸びは、2019 年から 2023 年までに 7.4%、2022 年から 2023 年は 1.0%にとどまっている（ドルベースでみると、為替変動の影 響もあり、世界のコンテンツ産業の市場規模は 2019 年から 2023 年までに 26.1%、 2022 年から 2023 年は 5.1%となっている一方、日本のコンテンツ産業の市場規 48 「未来を創造する若者の留学促進イニシアティブ」（2023 年４⽉ 27 ⽇ 教育未来創造会議）。 49 世界市場は、（株）ヒューマンメディア「⽇本と世界のメディア×コンテンツ市場データベース（2024）」をもとに、⽇⽶中独英仏韓印 のコンテンツ市場規模を合計し算出。 99 模の伸びは、2019 年から 2023 年、2022 年から 2023 年のいずれもマイナスと なる。）。少子高齢化の進展の下、日本市場が伸び悩む中、その成長を日本経済の 稼ぐ力として取り込むことが求められており、日本のコンテンツ産業の海外市 場規模は、円ベースでは 2019 年から 2023 年までに 56.2%、2022 年から 2023 年は 23.3%、ドルベースでも 2019 年から 2023 年までに 21.7%、2022 年から 2023 年は 15.5%となり、世界市場の伸びとおおむね拮抗していることから、更 なる成長が期待される。 戦略的にも、日本発の舞台が海外公演で数十万人規模の動員を達成したり、日 本のアーティストが世界の主要都市部において数十万人の動員実績を挙げたほ か、世界を代表する音楽イベントで主要な役割を務めるなど、我が国のアーティ ストが国内外の関係者と連携することで大きな市場を開拓した実績が着実に積 み重ねられつつある。また本年５月には京都において一般社団法人カルチャー・ アンド・エンタテインメント産業振興会の主催により「MUSIC AWARDS JAPAN」が開催されるなど、我が国の音楽界の層の厚さと広がりを世界の音楽 ファンやステークホルダーに認識してもらうための機会も充実しつつある。 「新たなクールジャパン戦略」にも位置付けられている通り、まさにコンテン ツ産業は日本の基幹産業であるといえる。 （出典）コンテンツ戦略ワーキンググループ（第１回）参考資料１（2024 年） 図表 49：日本国内の主要産業の 市場規模 図表 50：日本の主要産業における 海外展開の規模感比較 100 （出典）（株）ヒューマンメディア「日本と世界のメディア×コンテンツ市場データベース（2024）」を基に 内閣府知的財産戦略推進事務局が作成 図表 51：日本のコンテンツの海外市場規模の推移と分野別内訳 「新しい資本主義のグランドデザイン及び実行計画 2024 改訂版」及び「経済 財政運営と改革の基本方針 2024」 （2024 年６月 21 日閣議決定）では、アニメ・ 音楽・放送番組・映画・ゲーム・漫画等について、 「コンテンツ産業活性化戦略」 を官民連携して推進することが示されており、司令塔機能の明確化の観点から、 コンテンツ産業官民協議会及びその下部組織としての映画戦略企画委員会の設 置が位置づけられた。内閣府知的財産戦略推進事務局と内閣官房新しい資本主 義実現本部事務局が共同事務局となり、クリエイター等を含むコンテンツ産業 官民協議会及び映画戦略企画委員会を 2024 年９月に立ち上げ、開催している。 また、こうした動きを踏まえ、経済産業省は、2024 年 11 月にエンタメ・クリ エイティブ産業政策研究会を立ち上げ、流通構造の変化や、デジタル化の進展に 伴う制作環境の変化等を踏まえ、同産業を成長産業として飛躍していくために 注力すべき官民のアクションプランを、2025 年５月に取りまとめた。総務省に おいては、2025 年３月にデジタル時代における放送制度の在り方に関する検討 会「放送・配信コンテンツ産業戦略検討チーム」を立ち上げ、放送コンテンツ産 業の振興に向けた課題と対応策、及び官民連携の在り方等について検討を進め ている。 さらに、公正取引委員会では、2024 年 12 月、音楽・放送番組等の分野の実演 家と芸能事務所との取引等に関する実態調査の結果を公表し、その後、同実態調 査の結果を基に、独占禁止法等に照らして具体的な考え方を示す指針を内閣官 房と連名で公表する予定である。公正取引委員会では、並行して、2025 年１月 より映画・アニメ分野の実態調査を実施している。 2024 年 11 月にはフリーランス・事業者間取引適正化等法が施行されたとこ ろであり、同法の遵守をはじめ、コンテンツ業界において、クリエイターが安心 して持続的に働ける環境の整備を進めていくことが重要である。 101 加えて、政府による支援に関し、令和６年度補正予算において、これまで文部 科学省及び経済産業省で要求してきたクリエイター支援・事業者支援双方を束 ね、クリエイター支援基金に統合し、支援の充実を図っている。 第 217 回国会における石破内閣総理大臣の施政方針演説では、エンタメ・コ ンテンツ産業について、2033 年までに海外市場規模を 20 兆円とするという目 標を打ち出している。その達成に向けて、コンテンツの持続的な創造環境の基盤 整備と知財の多元展開を含め、コンテンツ振興策を進めていく必要がある。 そこで、本計画では、そのための施策の柱として、 「新たなクールジャパン戦 略」に示した対応方針を踏まえ、司令塔機能の強化、コンテンツと地方創生の好 循環プラン、海外へのビジネス展開力の向上、デジタル・ビジネスに対応した構 造改革の推進、コンテンツ産業を支える人材強化、海賊版対策の強化、及びデジ タルアーカイブの推進を位置づけている。 ＜司令塔機能の強化＞ コンテンツ産業官民協議会を司令塔機能として、コンテンツ産業の振興に向 けて戦略的な議論を行い、官民で PDCA サイクルを回していく。 コンテンツ産業の振興は、官民が一体となって取り組むべきところ、その実践 は、民における取組を中核としながら、官による支援は、それらの取組を効果的 に支援し、促進するものである必要がある。 このため、官による支援メニューについては、クリエイター支援基金も含め、 関係省庁の様々な支援策を一覧化するなど、利用者にとって分かりやすい機能 の構築・整備に取り組むとともに、タックス・インセンティブの導入の是非や補 助金の運用改善も含め、我が国のコンテンツ産業の振興に向けて、効果的な支援 策の在り方について継続的に検討する必要がある。 あわせて、コンテンツの各分野における就業者数や売上額も含め、基幹産業に ふさわしい統計データの整備を行うことが必要である。 また、アニメ等のコンテンツの世界的な人気の拡大を背景に、全国各地にある 作品や原作者の「ゆかりの地」への高付加価値旅行者等の誘客拡大や拠点整備を 通じた地域の関係産業の活性化、さらには、デジタルアーカイブによるソフトパ ワーの発信を通じて、地方創生につなげていくことが重要である。 ＜コンテンツと地方創生の好循環プラン＞ （前述Ⅲ．４．（１）のとおり） ＜海外へのビジネス展開力の向上＞ 我が国では、今後、人口減少が進む中で、国内のコンテンツ市場の成長には限 102 界がある。このため、我が国のコンテンツ産業にとって、海外市場の取り込みが 必要不可欠であり、 「新たなクールジャパン戦略」においても、日本発コンテン ツについて、2033 年までに海外市場規模を 20 兆円に拡大するとの目標を掲げ ている。 その実現のためには、コンテンツ・知財を継続的に生み出し、発展させること ができるコンテンツ業界である必要があり、デジタル・ビジネスに対応した構造 改革と、コンテンツ人材の強化等を各分野において進めることを基盤としつつ、 海外へのビジネス展開力の向上に向けて、取組を進める必要がある。具体的には、 海外のマーケティング情報の収集・共有化、海外の現地プレイヤー等とのマッチ ング機能の強化、外部からの資金調達の促進等に、引き続き取り組む必要がある。 なお、資金調達について、我が国では、アニメや映画等の映像製作において、 製作委員会方式が広く定着している。製作委員会方式は、高い出資リスクを複数 社で分散し、かつ、構成メンバーは窓口手数料を得ることで投資リスクを緩和で きるといったメリットがある。しかし、構成メンバーは窓口手数料見込額をもと に出資額を決めるため製作規模が大きくならないことや、構成メンバーの強み を生かした作品のビジネス展開等を可能とするため、全会一致が原則であるこ とによる制約等の課題も指摘される。 他方、複数の映画を製作するファンドを組成し、業界外の資金を呼び込みなが ら、コンテンツ開発現場に利益を還元する取組が見られるほか、音楽分野におい ても、欧米では、ストリーミング配信が広まる中、音楽著作権ファンドの広がり が見られる。 資金調達方法については、このほかにも、融資やクラウドファンディングなど、 さまざまな方策があるが、作品・分野の特徴を踏まえながら、各方策のメリット・ デメリットを踏まえ、最適な資金調達方法を選択・模索し、必要な資金の確保と コンテンツ制作現場への適切な還元の実現が望まれる。 また、国際共同製作も資金調達方法の手段の一つといえる。さらに、海外の大 規模作品（実写）のロケ誘致は、国内制作スタッフの技術力向上につながるとと もに、海外に日本の魅力を PR し、インバウンドに貢献するものであり、クール ジャパンの観点からも重要である。 ロケ誘致については、ロケ撮影の環境改善に関する実務者懇談会（事務局：内 閣府知的財産戦略推進事務局）での議論を踏まえ、関係府省の連名により、2025 年３月に「ロケ撮影ハンドブック－ロケ撮影・誘致の拡大に向けて関係者が知っ ておくべきこと－」を公表した。これは、従来のガイドライン（ 「ロケ撮影の円 滑な実施のためのガイドライン」 （令和２年８月））について、ロケ撮影に係る対 応窓口の明確化や事例集を追加する等の改訂を行ったものであり、同ハンドブ ックを活用し、国内外の映像作品の日本国内でのロケ撮影に係る環境改善の進 103 展が期待される。 海外展開については、メディアミックスによるビジネス展開を、国内のみなら ず、海外においても広く進めることが必要である。ライブエンターテインメント やグッズ販売等のキャラクタービジネスも含め、日本発のコンテンツの海外市 場規模の拡大に向けて、知財の多元展開が求められる。 ＜デジタル・ビジネスに対応した構造改革の推進＞ デジタル化の波が、コンテンツの創作・流通・消費の在り方に新たな変化をも たらし続けている。こうした変化は、コンテンツビジネスにおけるゲームチェン ジを促進し、従来のプラットフォーマーの支配を離れ、クリエイター主導のコン テンツ製作を目指す動きをさらに拡大させている。例えば、音楽分野について、 欧米ではストリーミング配信が広まる中、利用実績の把握とクリエイターへの 高い給付比率の実現が可能になっており、個人へのパワーシフトの動きがみら れるとの指摘がある。この変化をチャンスとして捉え、想定される課題にも対応 しつつ、国際水準ベースのデジタル化・DX 化を進め、新たな成長と対価還元の 充実を図ることが重要である。 また、製作工程の DX や、映像等の魅力向上、翻訳の効率化による海外展開促 進、さらにはクリエイターへの対価還元等において、テクノロジーの活用は非常 に有効である。AI や VFX、Web3.0 等の先端技術も含め、コンテンツ事業者の デジタル技術の利活用を推進する必要がある。 さらに、メタバースの発展は、現実空間における様々な財消費を仮想空間へと 転移させ、多様なコンテンツの消費・創造を拡大させるものとして期待されてい る。パブリック・ブロックチェーンや NFT 等の技術の進歩により、これらを活 用したピア・ツー・ピアのコンテンツ取引も拡大しており、クリエイターと消費 者が直接的につながる新しい経済圏が拡大している。こうした動きは、クリエイ ターエコノミーの創出やファンコミュニティの活性化を促進している。 このようなデジタル化・ネットワーク化の進展の中、コンテンツの流通過程に おいては、膨大かつ多種多様な著作物等が対象となるところ、それらの円滑な権 利処理は重要な課題である。このため、2023 年の著作権法改正による未管理公 表著作物等の利用に係る新たな裁定制度（未管理著作物裁定制度）について、 2026 年春頃までの施行に向けた環境整備を進める。また、特に放送コンテンツ について、ローカル局における権利処理の人手不足の課題が指摘されており、権 利処理の効率化を図ることが必要である。 あわせて、公正かつ自由な競争の実現に向けて、適切な対価還元の実現の観点 からも、クリエイターやコンテンツ制作会社等について、契約リテラシーの向上 を図ることが必要である。レコード演奏・伝達に係る実演家及びレコード製作者 104 への望ましい対価還元の在り方について、国際動向や関係者の合意形成及び円 滑な徴収・分配体制の見通し等を踏まえつつ、検討する必要がある。 ＜コンテンツ産業を支える人材強化＞ コンテンツの創造の源泉は、人材である。コンテンツ産業に多くの若者を惹き つけ、革新的なコンテンツの創造活動を行う産業であり続けるためには、クリエ イターが安心して持続的に働ける環境の整備と、取引適正化等に向けたコンテ ンツ産業界における取組が不可欠である。 また、デジタル・ビジネスに対応した構造改革を推進し、海外へのビジネス展 開を進めていく上で、新しい知財の創出、制作手法やプロセスの変革、そして、 新しいビジネスモデルの創出等をけん引できる人材が求められる。そのため、海 外派遣も含めた異才、クリエイターの育成のための枠組みの構築や、最先端のデ ジタル技術を使いこなすデジタルクリエイターの育成に取り組む必要がある。 さらに、留学も含め、実践的なプロデューサーを育成強化していくことが求め られるとともに、ゲーム、アニメ、マンガ、実写、音楽、舞台芸術、アート等の 分野ごとに求められるスキルの見える化が図られ、それらに対応した高等教育 による学修機会が提供されることが必要である。 「スキルの見える化」を行う上 では、高等教育機関と各分野における産業界が連携し、真に企業が必要とする人 材育成が求められるとともに、スキルに応じた処遇の確保及び待遇の改善に向 け、コンテンツ業界において積極的に取り組むことも必要である。 コンテンツ開発や利活用に関わる人材の育成については、クリエイターやプ ロデューサー人材を含め、求められる役割に応じた人材の育成が必要であるこ とや、コンテンツ業界において、正社員としての雇用形態を通じた人材の育成を 行うことを基本として、そのような人材を受け入れ、育てる環境の整備等が求め られることに留意しつつ、施策を重層的に推進していくことが必要である。 今後人口減少が進む中で、上記を実現するためには、第一にコンテンツ業界に おいて必要な労働人口・新規就業者数等を確保することが前提となるところ、コ ンテンツ産業の就業者数、市場規模等の継続的な把握に必要な統計データ等の 整備の在り方について検討することが重要となる。 ＜海賊版対策の強化＞ （前述Ⅲ．２．（２）のとおり） ＜デジタルアーカイブの推進＞ 政府では、デジタルアーカイブが日常的に活用され、多様な創作活動を支える 「デジタルアーカイブ社会」の実現を目指し、各分野のアーカイブ機関と関係省 105 庁の連携の下、デジタルアーカイブの推進に取り組んでいる。 具体的には、文化財、美術、書籍など、様々な分野のコンテンツのメタデータ を検索・閲覧・活用できるプラットフォームとして、2020 年に「ジャパンサー チ」を公開するとともに、 「ジャパンサーチ戦略方針 2021-2025」を踏まえ、デ ジタルアーカイブの構築・共有と利活用促進に向けた取組を推進している。 （出典）https://jpsearch.go.jp/ 図表 52：ジャパンサーチ（トップページ） 2024 年３月には、デジタルアーカイブの新たな推進体制（以下「デジタルア ーカイブジャパン推進体制」という。 ）として、デジタルアーカイブに関する取 組の一層の促進と、アーカイブ化された多様なコンテンツ資産のフル活用によ る新たな価値創造の活性化に向けて、 「デジタルアーカイブ戦略懇談会」及び「デ ジタルアーカイブ推進に関する検討会」 （事務局：内閣府知的財産戦略推進事務 局）を開催している。 我が国のデジタルアーカイブは、この推進体制の下、官民連携により取組を行 っているところであり、2025 年５月には、 「デジタルアーカイブ戦略 2026-2030」 を策定し、公表した。 同戦略は、2026 年度以降の５か年の期間の優先事項等を定めており、今後 5 年間で我が国のデジタルアーカイブ推進の体制・仕組みづくりを整え、ジャパン サーチを基軸としながら、国全体でデジタルアーカイブ推進に向けた取組が活 性化していく基盤作りを目指す期間として位置づけている。 106 また、 「文化資産・学術資料等」を優先対象としつつ、マンガ、アニメ、ゲー ム等のメディア芸術と、防災や観光等への活用も含めた地方創生の観点から、地 域資源も重視している。さらに、国関係のアーカイブ機関等を中核的な推進組織 として位置づけた上で、 「ジャパンサーチ」を基軸としながら、デジタルアーカ イブの推進に係る基盤整備や海外発信、及び人材育成・普及啓発を進めていくこ ととしている。 同戦略は、ジャパンサーチの規模・範囲と利便性を Europeana50並みとする ことを目指し、Europeana とジャパンサーチの相違点にも留意しつつ、公開コ ンテンツの増加を目指すとともに、連携メタデータ数を 2030 年までに 5,000 万 件（2025 年２月現在で 3,100 万件）とすることなど、ジャパンサーチや国関係 のアーカイブ機関等の到達目標も設定している。同戦略を踏まえ、デジタルアー カイブの理念・目的・関係者間の役割と連携等の法的基盤の在り方の検討も含め、 我が国におけるデジタルアーカイブ推進の基盤づくりを進めていくことが必要 である。 （KPI）  日本発のコンテンツ海外市場規模を 2033 年までに 20 兆円に拡大する。 デジタルアーカイブの推進については、  2035 年までにジャパンサーチの規模・範囲と利便性が Europeana 並みとな ることを目指す。  国関係のアーカイブ機関等におけるメタデータの整備を進め、2030 年までに 整備すべき収蔵資料に対して 100％整備されること、また、2030 年までにコ ンテンツの二次利用条件の未整備数を０件とすることを目標とする。  ジャパンサーチにおける連携メタデータ数が 3,100 万件であるところ、2030 年までに 5,000 万件への増加を、分野・地域アーカイブとの連携数を 55 機関 から 2030 年までに 80 機関に増やすことを目指す。 （施策の方向性） ＜司令塔機能の強化＞  コンテンツ産業官民協議会を司令塔機能として、コンテンツ産業の振興 に向けて戦略的な議論を行い、官民で PDCA サイクルを回す。また、司 令塔機能の在り方について更なる明確化に向けて検討する。 （短期・中期）（内閣府（知財）、内閣官房（新しい資本主義実現本部事務 50 EU 域内の分野横断型の統合ポータル 107 局）、文化庁、経済産業省、総務省、公正取引委員会）  2033 年までに 20 兆円とする目標の基礎となる日本発のコンテンツの 海外市場規模の範囲について、知財の多元展開の観点も含めた指標設定の 考え方について検討する。 （短期・中期）（内閣府（知財）、経済産業省、総務省、関係省庁）  コンテンツ産業の就業者数、市場規模等の継続的な把握に必要な統計デ ータ等の整備の在り方について検討する。 （短期・中期）（内閣府（知財） 、経済産業省、関係府省）  コンテンツに関する各種支援制度について点検しつつ、個人にとっても 分かりやすいよう支援メニューを一覧化するため、ポータルサイトを構築 するなど、効果的な発信に取り組む。 （短期・中期）（内閣府（知財）、文化庁、経済産業省、総務省、関係府省）  諸外国における税制も含めたビジネス環境の現状等について把握し、映 像産業等コンテンツ分野の効果的な支援策の在り方について検討する。 （短期・中期）（経済産業省、内閣府（知財）、関係府省） ＜コンテンツと地方創生の好循環プラン＞ （前述Ⅲ．４．（１）のとおり） ＜海外へのビジネス展開力の向上＞  コンテンツ産業の海外市場規模を 2033 年までに 20 兆円とする政府目 標の達成に向け、 「８つの不足」を克服し、10 業種について官民で取るべ き 100 のアクションを定めた「エンタメ・クリエイティブ産業戦略」の具 体化と実行を各省庁連携の下で着実に進める。 （短期・中期）（経済産業省、関係府省）  海外のマーケティング情報の収集・共有化、海外の現地プレイヤー等と のマッチング機能の強化を図るため、JETRO にコンテンツ専門人材を配 置し、JETRO を海外支援拠点として、コンテンツ産業の海外展開支援や 現地マーケット等へのコアネットワークの構築を推進する。 （短期・中期）（経済産業省、内閣府（知財）、関係省庁）  国際水準ベースの制作費を確保し、日本の豊富な知財を活かした高品質 な映像作品の製作を促すべくグローバルに競争力を有する映像作品の制 作費支援を行う。また、高品質な映像作品の製作に当たっては、完成度の 高い企画開発が求められることから、プリプロダクションへの支援もあわ せて実施することにより、高品質な映像製作に係る一貫した支援体制を構 築する。 108        （短期・中期）（経済産業省） 拡大する海外需要を獲得し、日本発のコンテンツ市場の拡大を図るため、 コンテンツの海外展開のための制作能力の強化、制作・流通ノウハウの取 得、流通プラットフォームの機能強化、プロモーションやローカライゼー ション（翻訳等）等の支援を行う。 （短期・中期） （経済産業省、文化庁、関係府省） 東南アジアの特定国において、日本の放送コンテンツを配信することで、 コンテンツの受容性等について検証を行う。海外展開を前提とした実写コ ンテンツの制作における先進的設備等の取得又は使用に要する経費等を 支援する。また、番組製作会社、放送事業者等のプロデューサー又は製作 技術担当者等に対する講習会や海外研修等を実施する。加えて、海外展開 のための市場調査を実施する。 （短期・中期）（総務省） 放送・配信コンテンツの製作力強化・海外展開を促進するため、官民が 連携して、企画開発・製作・権利処理・流通の各過程における課題を解決 するとともに、人材育成や DX の推進など横断的な取組を推進する。 （短期・中期）（総務省） 世界的に影響力のある美術館での作品の展示機会の確保に係る支援を 検討する。また、国際映画祭や国際見本市における日本パビリオン、ジャ パン・ブースの出展やその場での作品のプロモーションを支援する。その ほか、国内外の製作者の交流や日本映画の海外展開を幅広く支援するとと もに、東京国際映画祭をはじめとする国内外の国際映画祭について、官民 双方で戦略的かつ効果的な海外発信方策を検討する。 （短期・中期）（経済産業省、文化庁、関係府省） 国内外の国際見本市において、放送コンテンツの海外展開に係る取引機 会確保に向けた、効果的な訴求方策を検証する。 （短期・中期）（総務省） 拡大する海外需要を獲得し、日本発のコンテンツ市場の拡大を図るため、 日本のコンテンツのグローバルなファンダム形成に資する海外現地にお けるライブ公演等への支援を行う。 （短期・中期）（経済産業省） ロケ撮影・誘致の円滑化及び促進のため、フィルムコミッション（FC）、 許認可権者、製作者等が取り組むべき事項等をまとめたハンドブックの周 知等を通じ、関係者間のより一層の理解の浸透や相互理解を深める。周知 に当たっては、同ハンドブックのポイントをまとめた英語版パンフレット を作成し、海外に発信する。 109       （短期・中期）（内閣府（知財）、警察庁、消防庁、出入国在留管理庁、 国土交通省、観光庁、関係省庁）【再掲】 ASEAN 地域において、国際共同製作映画等の上映会を実施するととも に、上映作品にちなんだ魅力あるロケーションや各地の物産等を紹介する 事業を開催し、映画を通じたインバウンド誘致を引き続き実施する。あわ せて、国立映画アーカイブにおいて、全国各地域のフィルムコミッション が保有・蓄積している「ロケ地情報」等をインターネット上に集約・一括 検索を可能とする「ロケーションデータベース」を運営することで、日本 国内はもとより海外に向けて日本の魅力あるロケーションを発信、日本国 内における映画撮影の促進及び日本映画の創造活動の活性化を図る。 （短期・中期）（文化庁、外務省、経済産業省） 映画やアニメ等のロケ地や舞台は、国内外の観光需要を喚起する重要な 拠点であることから、ロケ誘致による経済・社会的効果を効果的に実現す るため、観光促進のためのコンテンツの活用等、ロケツーリズム、アニメ ツーリズムの推進に向け官民一体となって取組を進める。 （短期・中期）（観光庁）【再掲】 ロケ誘致による経済・社会的な産業振興を効果的に実現すべく、VFX を 含むポストプロダクション工程も含めた誘致に向けて、インセンティブ付 与及び効果的な運用に取り組む。また、インセンティブ付与対象作品の円 滑な撮影に向けた支援を検討するとともに、ロケ地域での完成作品の活用 を推進する。 （短期・中期）（経済産業省、内閣府（知財）、関係省庁）【再掲】 民間活力等を活用し、国民公園や公的施設について、現代的な文化・情 報発信拠点等とするための機能強化を図る。具体的には、北の丸公園につ いて、最先端の科学、芸術、文化等に関する発信拠点として活用すること を検討する。 （短期・中期）（文化庁、環境省、関係府省）【再掲】 海外でも高く評価される日本の優れたメディア芸術分野の人材育成及 び関連資料の収集・保存及び展示・活用を推進するとともに、振興の中核 ともなる「メディア芸術ナショナルセンター」（仮称）としてマンガ、ア ニメ・特撮及びゲームに関する作品、原画等の中間生成物及びこれらに関 連する情報等の①収集・保存・デジタル化、②調査研究、③人材育成・教 育、④国内外への情報発信、⑤展示・利活用、⑥普及交流の機能を有する 拠点の整備に向けた取組を推進する。 （短期・中期）（文化庁）【再掲】 日本の文学作品やマンガ等を海外の図書館等の制度化された枠組みの 110     中で価値付けていくため、国内外有識者、出版業界等からなる関係者協議 会を構築し、現在の課題を調査した上で図書館等への情報提供等を実施す る。 （短期・中期）（文化庁） 文学作品やマンガ等を海外へ発信・普及させるため、作家ごとの海外展 開や包摂性のあるテーマに基づいた展開がなされるよう、その価値を伝え ることができる仲介者への支援等を行う。あわせて、海外の文化や価値観 を踏まえた翻訳や批評を行うことができる海外の専門家の発掘・育成を行 う。 （短期・中期）（文化庁） 外交・交流強化が必要な国において、現地のニーズを踏まえたラインナ ップによる劇場での上映やオンライン配信等を実施し、対日理解を促進す るとともに、日本映画をはじめとする映像コンテンツの視聴需要を高める など、海外展開の土壌づくりを行う。 （短期・中期）（外務省） アニメを起点とした知財の多元展開に向けて、海外市場におけるアニメ 作品の需要動向や規制動向について情報収集・提供支援を行うほか、パー トナー獲得・資金調達、高品質な作品制作、ローカライズ・カルチャライ ズ（各国の文化に合わせた対応） ・プロモーションの支援や、映像作品の 国際共同製作を推進する。また、企業による海外展開戦略の立案やマーケ ティング、マーチャンダイジング等を支援する。 （短期・中期）（経済産業省） アーティストの海外展開を後押しするため、レコード演奏・伝達権の導 入について、関係者の合意形成の見通しや法制的な枠組み等を含めた在り 方を議論し、早期に結論を得る。 （短期・中期）（文化庁、関係府省） ＜デジタル・ビジネスに対応した構造改革の推進＞  今後のコンテンツ産業の消費者及び担い手はデジタルネイティブ層が 中核となってくることが想定される中で、新たなデジタル技術等を活用し、 高品質なデジタルコンテンツを創出することが可能な産業基盤を整備す ることが、将来のコンテンツ産業の競争力を左右する。そこで、新たなデ ジタル技術等を活用した良質なデジタルコンテンツの創出を促すととも に、そのようなコンテンツを制作・発信できるクリエイターの育成を支援 する。 （短期・中期）（文化庁、経済産業省） 111       コンテンツ配信プラットフォームや投稿サイト等における著作物等の 利用状況（権利侵害を伴う利用実態を含む） 、デジタルプラットフォーム サービスのコンテンツ市場における役割等も念頭に、国際的な動向や国内 の競争政策、デジタルプラットフォーム政策、情報通信政策等の諸政策を 踏まえつつ、著作権分野において、契約条件などデジタル時代に対応した 適切な対価還元を実現するための具体的な方策について検討する。 （短期・中期）（文化庁） デジタル時代に対応したコンテンツ創作の好循環を促し、クリエイター への対価還元にも資するものとなるよう、2023 年に改正された著作権法 に基づく未管理著作物裁定制度の円滑な運用開始に向けて必要な準備を 行う。また、制度の施行に合わせて「分野横断権利情報検索システム」が 運用されるよう、システム構築とともに、各分野のデータベースを保有す る団体等との連携を進める。 （短期・中期）（文化庁） 放送コンテンツのネット配信に係る権利処理の効率化に資するシステ ムに関する実証を継続して実施するとともに、インターネット上のコンテ ンツ流通の媒介者である通信関係事業者の協力体制及び役割分担の枠組 みについて、権利処理は当該著作物を二次利用する者において行うことが 原則であることを踏まえつつ、その交渉等を円滑に行う観点から、通信関 係事業者に対する協力の要請を検討する。 （短期・中期）（総務省、関係府省） デジタル化の進展により、配信プラットフォームによるコンテンツの提 供が主流になっているところ、日本独自のプラットフォームが少ない状況 に鑑み、マンガ・書籍分野において、電子コミック先進国である日本のノ ウハウを生かしつつ、海外で通用するプラットフォーマーの育成を支援す る。 （短期・中期）（経済産業省、関係省庁） コンテンツ分野における NFT の活用について、コンテンツホルダーの 権利保護や利用者保護の課題に対応するよう、必要な施策を推進する。 （短期・中期）（経済産業省） 日本のコンテンツ産業における新たな成長分野の開拓とクリエイター エコノミーの創出促進に向け、Web3.0 やメタバース等のデジタル技術を 活用した、個々のクリエイターを支援する環境整備の取組、知財を活用し たビジネスモデルの高度化、新たなコンテンツ体験価値の提供を図る取組 を支援する。 （短期・中期）（経済産業省、文化庁、関係府省） 112  「特定興行入場券の不正転売の禁止等による興行入場券の適正な流通の 確保に関する法律」（チケット不正転売禁止法）に基づき、違反事例の取 締りの徹底、周知・広報、相談対応を通じ、実効性のある運用を行う。 （短期・中期）（文化庁、消費者庁、警察庁） ＜コンテンツ産業を支える人材強化＞  海外展開を視野に入れた若手クリエイターやアーティスト等の挑戦を 支援し、育成体制を強化するため、ゲーム、アニメ、マンガ、実写、音楽、 舞台芸術、アート等をはじめとする次代を担うクリエイター等による作品 や公演の企画、交渉、制作、発表、海外展開までの一体的な活動について、 複数年にわたって弾力的に支援する。 （短期・中期）（文化庁）  コンテンツ産業の競争力強化に向け、クリエイター等（デジタルクリエ イターを含む）の発掘・育成、活躍の機会拡大等に向けた取組を支援する。 また、制作に携わるスタッフの能力向上、制作技術や海外展開に向けたコ ンテンツの制作・流通等のノウハウの習得及び海外向けコンテンツの資金 調達、契約交渉及び管理等を行うプロデュース人材やマネジメント人材、 コンテンツ産業の DX 化を進める人材など、最先端の技術動向等を踏まえ た人材育成（海外への留学によるものを含む）を支援する。 （短期・中期）（文化庁、関係府省）  クリエイターやそれを支える人材等を含めたエンタメ・スタートアップ 等が高品質なコンテンツ等を制作し事業化等する事業に対して、補助事業 者が開発費や制作費等の支援、制作や事業化の伴走支援等の費用を助成し、 高品質なコンテンツ等を生み出す事業の創出を促す。 （短期・中期）（経済産業省）  日本の文化芸術の国際発信強化とグローバル展開をビジネスの考え方 を取り入れつつ効果的・戦略的に進めるため、トップレベルのアーティス ト等を発掘し、当該芸術分野における国際的な中心地域のほか、今後の経 済成長やグローバル・サウスの観点も含めて、グローバルレベルでのキャ リアを積むことができる場への参加支援・マッチング、海外におけるネッ トワーク構築やプロモーション活動に関するサポート等の総合的な支援 プログラムを官民共同で実施する。 （短期・中期）（文化庁）  エンタメ産業を取り巻く諸課題に対して、先端技術の活用によるコンテ ンツの創出や収益化手法の高度化、業界構造の改革に資する取組、及びコ ンテンツの流通構造の改革に資する取組を支援する。 113        （短期・中期）（経済産業省、関係府省） コンテンツ業界における適切な人材育成のために、産業界において明確 化した各ジャンルにおいて求める人材・スキルに関するミスマッチの状況 等の実態について、官民が連携して改善のための方策の在り方を検討する とともに、労働者の予見可能性を高め、就業意欲の向上に資するよう労働 市場の将来像を明らかにする。また、産業界のニーズに応じて、必要なス キルの可視化等によりグローバルに活躍する卓越した高度専門人材の育 成に取り組むとともに、増加する国内外での需要に対応するため、コンテ ンツ制作において必要なクリエイター・スタッフ等の育成・確保に取り組 み、小中学校等へのクリエイター等の派遣や体験授業・地域での活動機会 の抜本的拡充にもつなげる。 （短期・中期）（経済産業省、文化庁、関係府省） DX 時代における新たな契約の在り方を踏まえつつ、著作物の利用に係 る契約をサポートするため、契約書の標準的ひな形の提供を行う「著作権 契約書作成支援システム」や著作権に必ずしも精通していない方々向けの 「誰でもできる著作権契約マニュアル」を適時に見直し、フリーランスの クリエイター等を支援する。 （短期・中期）（文化庁） クリエイターの適切な収益の確保に向けて、クリエイターが事業展開す る際の契約作成等に関する課題について、弁護士等の専門家による個別支 援を行う相談窓口の体制を強化する。 （短期・中期）（文化庁） 文化芸術分野の適正な契約関係の構築に向け、2022 年７月に公表した 契約書のひな形を含むガイドラインの普及・啓発を行うとともに、研修会 の実施や相談窓口の設置等の具体的な取組によって、フリーランスの芸術 家等を含む文化芸術関係者の活動環境の改善に向けた取組を進める。 （短期・中期）（文化庁） 芸術家等個人の尊厳ある創造環境の向上に向け、文化芸術団体の機能改 善を促すことなどにより、文化芸術分野におけるハラスメントや就業環境 等の課題に対する文化芸術団体の主体的な取組を促進するための方策を 講じる。 （短期・中期）（文化庁） 2024 年に施行されたフリーランス・事業者間取引適正化等法について、 引き続き周知等を行い、遵守の徹底を図る。 （短期・中期）（内閣官房、公正取引委員会、中小企業庁、厚生労働省） サプライチェーン全体で適切な価格転嫁を定着させる「構造的な価格転 114 嫁」の実現を図るため、代金に関する協議に応じないことや、協議におい て必要な説明又は情報の提供をしないことによる、一方的な代金の額の決 定を禁止すること等を内容とする下請代金支払遅延等防止法及び下請中 小企業振興法の改正法に基づき、改正事項を踏まえた制度周知及び普及啓 発等の必要な措置を講ずる。特に対応が必要な重点 22 業種に含まれる映 像・音声・文字情報制作業について、サプライチェーンの深い層まで労務 費転嫁指針の遵守が徹底されているかを重点的に確認し、必要に応じ更な る改善策を検討するとともに、更なる周知徹底に取り組む。 （短期・中期）（内閣官房（新しい資本主義実現本部事務局）、 公正取引委員会、中小企業庁、関係省庁）  放送コンテンツの製作取引の更なる適正化を図るため、下請法や独占禁 止法等を対象とするガイドラインを必要に応じて見直すとともに、幅広く 周知を行い、遵守の徹底を図る。 （短期・中期）（総務省）  2024 年 11 月に施行されたフリーランス・事業者間取引適正化等法を 踏まえ、2025 年に広告業及びアニメーション制作業における下請代金支 払遅延等防止法に関するガイドラインを改訂するとともに、幅広く周知を 行い、遵守の徹底を図る。 （短期・中期）（経済産業省）  パートナーシップ構築宣言の推進、フリーランス等による中小企業協同 組合を活用した職能別組織化、下請Ｇメンによるヒアリング調査や優越Ｇ メンへの情報提供、相談窓口の活用によって、発注者側企業および受注側 企業間における適切な価格交渉を可能とする取組・体制の整備を検討する。 （短期・中期）（中小企業庁、公正取引委員会、内閣府（政策統括官（経済 財政運営担当）、関係省庁）  映画・アニメの制作現場におけるクリエイターの取引環境に係る実態調 査について本年秋の結果公表を目指す。 （短期）（公正取引委員会）  国内映像制作等に関する事業者向け支援については、労働基準法の準拠 等に配慮した支援制度とすることにより、制作現場における環境改善を促 進する。あわせて、補助金等の支援制度の審査において、日本映画制作適 正化機構が策定した映適取引ガイドラインに則り制作される作品に対し て、加点又は要件とする支援制度とすること等を推進するとともに、制作 に係る労働環境の改善に伴う諸課題の解決策について検討する。 （短期・中期） （経済産業省、文化庁、総務省）  日本映画制作適正化機構の取組を参考に、これを他のコンテンツ分野に 115  広げるよう、関係団体等に働きかけるとともに、映適の取組の認知度を高 めるための取組を推進する。 （短期・中期）（経済産業省） 映画制作の持続的な発展に向けた取引ガイドラインの推進により就業 環境の改善を図るとともに、 「労務費の適切な転嫁のための価格交渉に関 する指針」を踏まえ、業界の自主行動計画等による取引適正化を働きかけ る。 （短期・中期）（経済産業省） ＜海賊版対策の強化＞ （前述Ⅲ.２．（２）のとおり） ＜デジタルアーカイブの推進＞  デジタルアーカイブジャパン推進体制が策定した「デジタルアーカイブ 戦略 2026-2030」に基づき、コンテンツのデジタル化等のデジタルアーカ イブの取組を総合的に推進する。 (短期・中期) （内閣府（知財）、国立国会図書館51、関係府省）  デジタルアーカイブの推進に向けて、デジタルアーカイブジャパン推進 体制の下、 「デジタルアーカイブフェス」や「デジタルアーカイブジャパ ン・アワード」を通して、効果的な実践事例の共有や顕彰を行う。 (短期・中期) （内閣府（知財）、国立国会図書館）  「デジタルアーカイブ戦略 2026-2030」に定める到達目標の下、同戦略 が示す各分野において、デジタルアーカイブの更なる拡充及びデジタルア ーカイブの利活用促進を進める。その際、各分野におけるデジタルアーカ イブの意義を踏まえつつ、ボーンデジタルのコンテンツメディアを含めた コンテンツのデジタル化や保存、それらの自由な二次利用を可能にするオ ープン化の推進等に努める。可能なものについては、デジタルアーカイブ 化されたコンテンツをオンライン配信に活用したり、海外展開等による収 益化を図るなど、更なる利活用を進める。国立国会図書館の資料デジタル 化を推進するとともに、絶版等資料のインターネット送信の拡充を図る。 （短期・中期）（内閣府、デジタル庁、総務省、文部科学省、経済産業省、 観光庁、国立国会図書館）  文化遺産のデジタルアーカイブ化や、マンガ、アニメ、ゲーム等のメデ 51 国⽴国会図書館は⽴法府に属する機関であるが、デジタルアーカイブに関する施策は国全体として取り組むものであり、同館は重要 な役割を担っていることから、便宜上、本計画に関連する同館の事業について担当欄に記載するものである。 116     ィア芸術作品、舞台芸術作品の保存・利活用を支援するとともに、 「メデ ィア芸術ナショナルセンター」（仮称）としてマンガ、アニメ・特撮及び ゲームに関する作品、原画等の中間生成物並びにこれらに関連する情報等 の①収集・保存・デジタル化、②調査研究、③人材育成・教育、④国内外 への情報発信、⑤展示・利活用、⑥普及交流の機能を有する拠点の整備に 向けた取組の推進など、文化芸術のデジタルアーカイブ化を促進するとと もに、ジャパンサーチとも連携したコンテンツ発信の場を創出し、ユーザ ーの相互誘導を促進する。 (短期・中期) （文部科学省）【再掲】 日本の多様なコンテンツに関する情報をまとめて検索・閲覧・活用でき るプラットフォームであるジャパンサーチにおいて、様々なデジタル情報 資源を網羅的にナビゲーションできるよう、連携先の拡大など、アーカイ ブ機関との連携のさらなる拡充を図る。 (短期・中期) （内閣府、国立国会図書館、関係府省） 関係府省連携の下、教育、学術・研究、観光、地域活性化等の様々な分 野・テーマにおいて、ジャパンサーチの連携コンテンツを活用した利活用 モデルの周知広報を強化し、利活用の機会拡大を図るとともに、多言語化 や海外のアーカイブ機関との交流を進め、海外発信の強化に取り組む。ま た、ジャパンサーチ連携アーカイブ機関が所蔵するデジタルコンテンツの 効率的な活用を促すよう、それらのコンテンツについて、各機関による二 次利用条件の分かりやすい表示を促進する。 (短期・中期)（内閣府、国立国会図書館、関係府省） 著作権に係る分野横断権利情報検索システムとジャパンサーチとの連 携等について、分野横断権利情報検索システムの整備・検討の進捗状況に 応じ、デジタルアーカイブジャパン推進体制の下で連携の在り方を検討し、 必要な措置を講じる。 (短期・中期)（内閣府、国立国会図書館、関係府省） 「昭和 100 年」を契機として、個人や企業が保有する資料の発掘を含 め、昭和期の史実に関する文書、写真、映像等の資料の収集・整理、ICT などの最新技術を活用したアーカイブ化の推進やアクセスしやすい形で の公開を推進する。 (短期)（内閣官房（「昭和 100 年」関連施策推進室）、関係府省） 117

資料３ 論点例 【論点①】 データの収集や、生成 AI に係る開示・表示、保護データに係る対 価還元、保護データに係る侵害防止技術、海賊版・偽情報・誤情報 のスクリーニングに係る技術など、データの信頼性・安全性を含め 生成 AI に係る開示に向けた各種の対応が必要と考えられるところ、 どのような方向で検討を進めるべきか。 【論点②】 法・技術・契約の各手段を適切に組み合わせながら、連携した取 組が重要であるところ、データ利活用に伴う対価還元を進めていく ため、どのような課題を特定しつつ、取組を進めていくべきか。 【論点③】 直近の生成 AI と知的財産をめぐる技術動向や、国内外の裁判例等 も踏まえつつ、AI とデータの取扱いについて、どのような将来像を 想定しておくべきか。 以上 1

資料４ 第 8 回 AI 時代の知的財産権検討会 【資料３】論点例に関するコメント ワシントン大学ロースクール 竹中俊子 １． 今後の検討の方向性 現在、技術者のアメリカ離れが進行しており、日本にとっては有力なイノ ベーション人材やスタートアップ企業を誘致する千載一遇の好機である。 すでに、日本の著作権法が開発者に有利であるという情報は AI 業界に浸透 しつつあり、技術開発の自由とスピードを損なうことなく、社会的受容性 を高める制度設計を目指すことが重要である。 透明性や説明責任の確保は、生成 AI の信頼性・安全性を担保する上で不可 欠であるが、開発者に過度な負担を与えることなく、データトレーサビリ ティ技術等を活用した技術支援を通じて実現すべきである。また、説明責 任についても、提供者や利用者と分散・共有することで、開発者の負担を 軽減することが望ましい。 制度設計においては、米国や EU など主要国の制度との整合性を確保しつ つ、プロ AI 開発を支援する日本独自の制度設計を推進すべきである。 ２． データ利活用の対価還元 AI の学習・生成過程で利用された著作物やデータに対し、クリエイターやデー タ提供者への対価還元の仕組みが求められている。その対応策として、著作権 のライセンス団体のように、権利者の代理管理を行う団体の創設が考えられ る。 このような団体が設立されれば、権利者による個別交渉の負担が軽減され、AI 開発者にとっても明確なライセンス体系が整備されることで、法的リスクが低 減される。また、対価の徴収と分配の透明性が確保されることで、権利者の信 頼を得やすくなる。 中間とりまとめで、「生成 AI 開発者や生成 AI 提供者が、クリエイター等の 創作した著作物を利用する際に、良質なデータを学習するために、当該クリエ イター等と合意の上で対価還元 策を講じて当該データを利用することは、著 作権法 30 条の４に定める利用を排除するものではなく、かつ、通常は公序良 俗に反する内容の契約ではなく、対価還元のために当事者間で成立した契約の 効力は何ら妨げられるものではないとする」ことが明らかにされたことに伴 い、典型的な機会学習利用等については、ライセンス団体による一元的管理を 行うことが望ましい。具体的には、対価を求める著作物やデータを登録し、団 体が AI 事業者に対して包括的ライセンスを発行。利用量や頻度に応じて、権 利者に報酬を分配する仕組みを構築する。 なお、ライセンス団体では対応しきれない非典型的な個別・特殊なケースにつ いては、契約による柔軟な権利処理で対応する。両者を技術的に支援するため に、メタデータ管理、スマートコントラクト、ブロックチェーンなどの技術を 活用することが望ましい ３． AI とデータの取扱いの将来像 AI とデータが好循環を形成する社会の構築に向けて、データ提供者に対する対 価還元の制度化を進め、AI 開発者が安心して学習データを利用できる環境を整 備することが重要である。 将来的には、AI 学習による典型的な事例についてはライセンス団体による一元 的な権利管理を行い、特殊な事例については契約による柔軟な権利処理を併存 させる制度が望ましい。これにより、主要国の制度との整合性を確保しつつ、 日本独自の強みである「AI 開発の自由度」や「信頼性」を活かした制度設計が 可能となる。 以上。

参考資料１－１ AI時代の知的財産権検討会 中間とりまとめについて 【概要】 内閣府知的財産権略推進事務局 「AI時代の知的財産権検討会」の開催経過等について 【開催趣旨】 ○ 様々なAIツールが生み出され、普及していく中にあって、それらの開発・提供・利用を促進し、我が国 経済社会の発展につなげていくためにも、生成AIの懸念やリスク等への対応を適切に行う必要がある ○ このことを踏まえ、AIと知的財産権等との関係をめぐる課題への対応について、関係省庁における 整理等を踏まえつつ、必要な対応方策等を検討するため、「AI時代の知的財産権検討会」を開催 基本的視点 （1）産業競争力強化の視点 （2）AI技術の進歩の促進と知的財産権の保護の視点 （3）国際的視点 主な検討課題 Ⅰ. 生成AIと知財をめぐる懸念・リスクへの対応等 ・著作権との関係 等 Ⅱ. AI技術の進展を踏まえた発明の保護の在り方 委員構成 〔座長〕 渡部俊也・東京大学執行役・副学長 未来ビジョン研究センター教授 * AI技術研究者、AI開発・ビジネス事業者、コンテンツ関係従事者、 知財法研究者、法曹実務家を含む、計13名で構成 * オブザーバー：内閣府（CSTI)、文化庁、経産省、特許庁 法務省、総務省、公正取引委員会、外務省 開催経過 第１回（2023年10月4日） ・開催趣旨・背景 ・本検討会において検討すべき課題 第２回（2023年10月18日） ・ヒアリング（JASRAC、日本知的財産協会、AI Picasso） ・議論 第３回（2023年11月7日） ・ヒアリング（日本マイクロソフト、日本新聞協会、特許庁） ・議論 第４回（2023年12月11月） ・ヒアリング（レベルファイブ、文化庁、経産省） ・意見募集結果公表 〔意見募集：10月5日～11月5日〕 ・論点整理（議論の振り返り） 第５回（2024年１月26日） ・残された論点等について検討 第６回（2024年３月21日） ・ヒアリング（文化庁、経産省） ・横断的見地からの検討 ・中間とりまとめ骨子（案） 第７回（2024年4月22日） ・中間とりまとめ（案）の検討 中間とりまとめ 公表 （５月28日） 2 AI時代の知的財産権検討会 中間とりまとめ 構 成 ※AI技術の更なる進歩など、様々な前提の変化によって変わり得るところであるが、必要に応じて行う各所管省庁 での更なる検討・議論にも資するよう、とりまとめたものである。 Ⅰ. はじめに １．背景 ２．現状（①生成AIの動向、②生成AI技術の概要、③生成AIをめぐる国際的動向） ３．検討課題（⇒検討課題Ⅰ及び検討課題Ⅱ） Ⅱ．基本的視点 1. 産業競争力強化の視点 2. AI技術の進歩の促進と知的財産権の保護の視点 3. 国際的視点 Ⅲ. 検討課題Ⅰ（生成AIと知財をめぐる懸念・リスクへの対応等について） １．法的ルール（①著作権法との関係、②著作権法以外の知的財産法との関係） ２．技術による対応 ３．契約による対応（対価還元の在り方） ４．その他個別課題（⇒知的財産法の視点から） （①労力・作風の保護、②声の保護、③デジタルアーカイブ、④ディープフェイク） ５．横断的見地からの検討 法 技術 契約 Ⅳ. 検討課題Ⅱ（AI技術の進展を踏まえた発明の保護の在り方について） １．AIを利用した発明の取扱いの在り方 ２．AIの利活用拡大を見据えた進歩性等の特許審査上の課題 Ⅴ. おわりに 知財とAIガバナンスの観点を踏まえたエコシステムの実現に向けて、関係省庁連携による周知啓発や AI事業者等の各主体による取組促進への期待 3 検討課題Ⅰ（生成AIと知財をめぐる懸念・リスクへの対応等） １．著作権／著作権以外の知財（意匠、商標、不正競争防止法）との関係 著作権法 学習段階 文化審議会著作権分科会にて審議  原則として、許諾不要（30条の4) 【例外】（以下の場合は許諾が必要）  「享受目的」と「非享受目的」が併存 （例）学習データの創作的表現を出力させる目的  著作権者の利益を不当に害する場合 （例）AI学習用に整理されたデータベース著作物 生成・ 利用段階  著作権侵害の判断:〔類似性＋依拠性〕  生成AI利用者 ⇒ 直接の侵害行為主体 ・ AI学習用データに既存の対象著作物が含まれ る場合は、依拠性が推認 ⇔ 学習データの創作的表現が生成されない 技術的措置が講じられていることを主張 することで、依拠性は否定される  生成AI事業者 ⇒ 侵害行為主体として責任を負う場合がある ・ 例えば、既存著作物の類似物を生成する蓋然 性の高さを認識しながら、その生成の抑止措置 を取っていない場合は、責任の可能性が高まる 法 著作権法以外の知財 意匠／商標／不競法（商品等表示・商品形態模倣）  規制の対象外 不競法（営業秘密・限定提供データ）  営業秘密・限定提供データの不正取得 又は不 正取得したものの使用・開示等は、不正競争防 止法の規制対象  秘密保持義務を負わない事業者の提供する外 部の生成AIサービスに情報を入力して、秘密管 理性や限定提供性を喪失した場合などは保護の 対象外 意匠／商標／不競法（商品等表示・商品形態模倣）  権利侵害（違法性）の判断：〔類似性〕 （例外）商品形態模倣規制は、〔実質的同一性 ＋ 依拠性〕 【関連】 AI生成物の保護について • • 人の創作を保護の前提としない「商標法」及び 「不正競争防止法」（商品等表示規制・商品 形態模倣規制）は、AI生成物も保護対象 人の創作を保護の前提とする「著作権法」及び 「意匠法」は、人の創作的寄与のないAI生成物は 保護の対象外  他方、AI技術の急速な進展による意匠制度・ 審査実務への影響等につき、今後検討が必要 4 ２．技術による対応 ３．対価還元の在り方 技術 契約  考えられる技術例等  考えられる方策例等  AIが生成したコンテンツを利用者が識別できる仕組み ・ AI生成物であること等の表示（例：電子透かし）  フィルタリング ・ 類否判定／AI入出力抑制  自動収集プログラムによる収集を拒絶する技術 ・ 「robots.txt」の記載による収集制限 ・ ID・パスワード等によるアクセス制限 ⇒ 法律による担保（不正アクセス禁止法）  画像に特殊な処理を施すことで学習を妨げる技術 ・ 学習を妨げるノイズを画像に付与  学習元コンテンツの個別追跡・除外の可能性 ・ 基本的に再学習が必要 等  追加学習（ファインチューニング）のための学習 データ提供  クリエイター自身が生成AIを開発・提供 ・ 生成物の利用条件等をあらかじめ明確にしておく必要  クリエイター自身が創作活動において生成AIを活用 ・ AI生成物の著作物性の有無や侵害回避の必要性等  権利制限規定の有無に関わらず、対価還元の 当事者間の有効な契約の効力は妨げられない ⇒ 法律による担保（許諾が必要な範囲の明確化等） ⇒ 技術による担保（自動収集プログラムによる収集 拒絶等） ４．その他個別課題 (1)労力・作風の保護 (2)声の保護 ●労力・作風それ自体は、著作権法に よる保護の対象外  ただし、学習データの著作物の創作 的表現を出力させる目的があると 評価される場合は、著作物の利用 について許諾必要（著作権法30 条の4関係） ●パブリシティ権での保護の可能性 ●知的財産法による保護は、限定的 （著作隣接権、商標権、不競法） ●なりすましにつき、詐欺罪等の対象 ●限定提供データ等は不競法で保護 ●一般不法行為責任の成否は議論 あり (3)学習用データセットとしてのデジタ ルアーカイブ整備 ●まずはパブリックドメインのデータや 公的機関が著作権を有するデータ、 権利処理済みデータを中心に検討 (4)ディープフェイク ●著作権等の侵害（ただし、多くの 場合、本来の知財法の保護法益 と異なることに留意） ●肖像権・パブリシティ権（裁判上 の権利）の保護の可能性  肖像権：社会生活上受忍の限度を 超えるかを総合的に判断  パブリシティ権：専ら肖像等の有す る顧客吸引力の利用を目的とすると いえるか否かで判断 ●他にも、名誉毀損罪 5 5．横断的見地からの検討 生成AIと知的財産権の望ましい関係の在り方 法・技術・契約の各手段は相互補完関係 AIガバナンスの議論との連動 法 生成AIに対する懸念は、必ずしも知財法が保護 対象として明記していないものの利用・生成に関す る懸念（労力・作風等）等も、複合的に関わる 契約 技術 懸念等への対応策は、安全性、公平性、透明性 といったAIガバナンスの取組の中で、生成AIに関わ る幅広い関係者が、法・技術・契約の各手段を適 切に組み合わせながら連携して取り組むことが必要 AI技術の進歩と知的財産権の適切な保護が両立するエコシステムの実現 【取組例】 AI開発者 コンテンツ創作者にとって信頼できる開発者の下に良質なデータが多数集積し、 高度な生成AIが開発・提供されることで、新たな創作活動につながる好循環 AI提供者  良質なデータを用いた学習 （⇒ 可能な場合において、機械学習 用データのライセンス市場を通じた データ収集と対価還元）  知財侵害物の出力を防止する 技術的措置の採用 AI利用者 （業務利用者） 権利者  信頼できる生成 AIサービスか否か の確認  AI提供者が意図 した範囲内で 適正利用  知財・AIの基礎 理解とデータの 適正管理  必要に応じ、相 談窓口の活用 業務外利用者 （一般利用者）  生成物の 個人的・ 家庭内での 使用 6 検討課題Ⅱ（AI技術の進展を踏まえた発明の保護の在り方） １．AIを利用した発明の取扱いの在り方 発明者 ＝ 発明の技術的特徴部分の具体化に創作的に関与した者  現時点では、AI自身が自律的に創作活動を行う段階であるかは定かではなく、AIを自然人が 利用した発明創作活動が一般的  この場合、特許法の運用においては、AIを利用した自然人について、従来の発明者認定の考え 方（発明の特徴的部分に関与した度合いに応じて発明者を認定する考え方）が適用できると 考えられる ２．AIの利活用拡大を見据えた進歩性等の特許審査上の課題 進歩性の判断＝ 先行技術に基づき、技術常識や技術水準を総合的に考慮して当業者が 請求項に係る発明を容易に想到できたことの論理付けができるか否かを検討  AI技術の存在を踏まえつつ、これまでの運用に従い、幅広い分野でのAIの活用について技術 常識や技術水準を的確に把握した上でそれを考慮することにより、適切な進歩性の判断を行 うことができると考えられる 今後も、AI技術の進展や、今後の国際動向等を踏まえながら、 必要に応じて、特許庁は関係省庁とも連携の上、適切な発明の保護の在り方の検討が必要 また、特許審査プロセスにおける AIの積極的な活用による審査の効率化や質の向上に加え、 発明等の創造・保護・活用の各過程における AI技術の活用（例えば、特許性の検討等の出願や権利化を サポートする AIサービスの開発・利用等）を通じたイノベーションの創出についても、 AI技術の進展の状況を踏まえて検討が必要である（なお、意匠についても同様である） 7

参考資料１ー２ AI 時代の知的財産権検討会 中間とりまとめ 2024 年５月 AI 時代の知的財産権検討会 〇本中間とりまとめは、本検討会における議論を踏まえ、AI と知的財産権に関する考 え方を整理し、一定の考え方を示すものである。 〇本中間とりまとめに記載した内容は、法的な拘束力を有するものではなく、公表時 点における本検討会としての考えを示すにとどまるものであって、確定的な法的評 価を行うものではないことに留意する必要がある。 目 次 Ⅰ． はじめに ............................................................................................................... 3 １．背景 ...................................................................................................................... 3 ２．現状 ...................................................................................................................... 4 （１）生成 AI の動向 ............................................................................................... 4 （２）生成 AI 技術の概要........................................................................................ 5 （３）生成 AI をめぐる国際的動向 ......................................................................... 7 ３．検討課題 ............................................................................................................. 10 Ⅱ． 基本的視点 .......................................................................................................... 11 Ⅲ． 生成 AI と知財をめぐる懸念・リスクへの対応等について ................................ 12 １．法的ルール①（著作権法との関係） .................................................................. 13 （１）著作権法制度の概要 .................................................................................... 13 （２）具体的な課題 ............................................................................................... 13 （３）生成 AI に係る各段階における著作権法の適用........................................... 15 ２．法的ルール②（著作権法以外の知的財産法との関係） ...................................... 22 （１）知的財産法制の概要 .................................................................................... 22 （２）具体的な課題 ............................................................................................... 23 （３）生成 AI と意匠法（意匠権）との関係 ......................................................... 24 （４）生成 AI と商標法（商標権）との関係 ......................................................... 26 （５）生成 AI と不正競争防止法との関係 ............................................................ 28 （５－１）商品等表示規制との関係 ...................................................................... 28 （５－２）商品形態模倣品提供規制との関係........................................................ 29 （５－３）営業秘密・限定提供データとの関係 .................................................... 31 ３．技術による対応................................................................................................... 35 （１）具体的な課題 ............................................................................................... 35 （２）考えられる技術例 ........................................................................................ 35 （２－１）AI が生成したコンテンツを利用者が識別できる仕組み ...................... 35 （２－２）フィルタリング .................................................................................... 38 （２－３）自動収集プログラム（クローラ）による収集を拒絶する技術............. 39 （２－４）画像に特殊な画像処理（学習を妨害するノイズ）を施すことで学習を 妨げる技術 .......................................................................................................... 40 （２－５）学習元コンテンツの個別追跡・除外に関する技術 .............................. 40 （３）技術による対応策の法的ルールによる担保について .................................. 43 ４．契約による対応（対価還元） ............................................................................. 44 （１）具体的な課題 ............................................................................................... 44 （２）契約による対価還元策の妥当性等 ............................................................... 44 （３）考えられる方策例 ........................................................................................ 45 1 （４）契約による対価還元策の担保について........................................................ 48 ５．個別課題 ............................................................................................................. 51 （１）労力・作風の保護 ........................................................................................ 51 （２）声の保護 ...................................................................................................... 55 （３）学習用データとしてのデジタルアーカイブ整備 ......................................... 58 （４）ディープフェイクについての知的財産法の視点からの課題整理 ................ 61 ６．横断的見地からの検討 ........................................................................................ 66 （１）問題意識 ...................................................................................................... 66 （２）生成 AI と知的財産権との望ましい関係の在り方 ....................................... 67 （３）社会への発信等の在り方 ............................................................................. 79 Ⅳ．AI 技術の進展を踏まえた発明の保護の在り方について ........................................ 81 １．AI を利用した発明の取扱いの在り方 ................................................................. 81 （１）現状と課題................................................................................................... 81 （２）考え方 .......................................................................................................... 85 ２．AI の利活用拡大を見据えた進歩性等の特許審査上の課題 ................................. 86 （１）現状と課題................................................................................................... 86 （２）考え方 .......................................................................................................... 88 Ⅴ． おわりに ............................................................................................................. 90 2 Ⅰ． はじめに １．背景 知的財産戦略本部新たな情報財検討委員会が 2017 年（平成 29 年）３月に取りまとめ た「新たな情報財検討委員会報告書」では、AI の作成及び利活用促進に向け、AI 学習 用データを提供する行為について、新たな時代のニーズに対応した著作権法の権利制限 規定に関する制度設計や運用の中で検討を進めること、AI 生成物について著作物性が認 められるための創作的寄与の程度の考え方や、AI 生成物が元の学習用データと類似する 場合の依拠性の考え方について、AI 技術の変化等を注視しつつ、具体的な事例に即して 検討をすることなどの方向性が示された。 その後、生成 AI をはじめとする AI 技術は急速な進歩を遂げ、AI の利用者数も急速 に増加した。これに伴い、生成 AI による生産性向上への期待とともに、人間による創 作と区別がつかないような生成物が大量に生み出されることに対する懸念も高まるこ ととなり、生成 AI は社会における様々な創作活動の在り方に影響を及ぼし、AI と知的 財産権の関係をめぐり新たな課題を惹起するに至った。様々な AI ツールが生み出され、 普及していく中にあって、それらの開発・提供・利用を促進し、我が国経済社会の発展 につなげていくためにも、生成 AI の懸念やリスク等への対応を適切に行う必要がある。 これに対応するべく、2023 年（令和５年）６月に、知的財産戦略本部によって決定さ れた知的財産推進計画２０２３では、知財戦略の重点 10 施策のうちの一つとして、 「急 速に発展する生成 AI 時代における知財の在り方」が取り上げられた。すなわち、生成 AI と著作権との関係について、AI 技術の進歩の促進とクリエイターの権利保護等の観 点に留意しながら、具体的な事例の把握・分析、法的な考え方の整理を進め、必要な方 策等を検討すること、及び、創作過程における AI の利活用の拡大を見据え、進歩性等 の特許審査上の課題や AI による自律的な発明の取扱いに関する課題について諸外国の 状況も踏まえて整理・検討することが、それぞれ掲げられるに至った。 特に、前者については、生成 AI が文章、画像、動画等を取り込むことでマルチモーダ ル化するに至っている現状においては、知的財産権全体を俯瞰する観点から著作権だけ にとどまらず、それ以外の知的財産権との関係についても整理する必要がある。 また、生成 AI 技術の進歩の促進とクリエイターの権利保護等の観点に留意しつつ、 必要な方策を検討するに当たっては、単に法律上の観点を整理するだけにとどまらず、 技術による対応策や、創作活動の持続可能性の観点から不可欠となる契約等による対価 還元についても視野を広げて検討し、それぞれを有機的に連携させながら権利保護と AI 技術の進歩を後押しするという方向性を見いだしていくことも必要と考えられる。 以上を踏まえ、AI と知的財産権等との関係をめぐる課題への対応について、関係省庁 における整理等を踏まえつつ、必要な対応方策等を検討するため、「AI 時代の知的財産 権検討会」（以下、「本検討会」という。）を開催し、各論点について議論を行った。 3 ２．現状 （１）生成 AI の動向 生成 AI（ジェネレーティブ AI）は、「コンテンツやモノについてデータから学習し、 それを使用して創造的かつ現実的な、まったく新しいアウトプットを生み出す機械学習 手法」を指す 1。もっとも、近時では、機械学習手法それ自体を意味するにとどまらず、 機械学習をするソフトウェアやプログラム、これを搭載するサービスやツールをも含め た広義の意味で用いられることも多い。 本中間とりまとめでは、「生成 AI」とは、機械学習手法のみにとどまらず、機械学習 をするソフトウェアやプログラムを含む抽象的な概念と捉えるものとする。 生成 AI では、文章、画像、プログラム等を生成することができ、近年、急速な広がり を見せ、また、技術は加速度的に発展し続けている。 ＡＩによるコンテンツ生成技術の動向等 ◎ AIをめぐる最近の動向として、生成AI（ジェネレーティブAI）の技術が急激に発展。 ◎ 画像生成、文章作成等の分野では、いくつかの単語や文章・画像を入力するだけで、まるで人間が作成したかのような 高精度なコンテンツを生成する強力なAIツールが、相次ぎ公表され、急速に普及。  画像生成  文章作成 ●世界の動向 • 2021年頃から、言語で指示をすると指示にあった画像を生成する AIが相次ぎ登場 （DALL-E 2［2022. ３］、Imagen［2022.5 ］、 Midjourney［2022.6 ］、DALL-E３[2023.9] など） • 大規模なテキストデータを事前に学習させることにより、数例のタスク を与えただけで、文章生成、質問応答など様々な言語処理タスク を解くことを可能とする「大規模言語モデル（LLM）」が発達。 （Open AI社の「GPT-2」[2019 年]、「GPT-3」[2020 年]など） • 2022年11月には、Open AI社より、対話形式で高精度な文章を 作成するチャットボット「ChatGPT」の試行版が公開 • 2022年8月には、英国Stability AI社が､画像生成AI 「Stable Diffusion 」を公開するとともに、その学習済みモデル のソース コードやデモ版を併せて無償公開。 → 当該学習済みモデルを組み込んだ画像生成ＡＩが次々 とネットで公開（追加学習によって、特定のクリエーターの 画風を再現した画像の生成等も可能に） • 2023年9月、米国のAdobe社が生成AI「Adobe Firefly」 （Adobe Stockの画像と、オープンライセンスのコンテンツおよび 著作権の切れた一般コンテンツを使用）の一般提供を開始。 ・ 2023年12月、米国のGoogle社が生成AI「Imagen2」の一般提 供を開始（電子透かしを組み込むことも可）。 ●日本国内の動向 • 2022年8月、㈱ ラディウス・ファイブ は クリエーターがアップロードした イラスト画像から、AIがその画風を学習し、自己の画風による新しい イラストを作成できる 「mimic｣ β 版を公開。 ※2022年11月にβ2.0版を公開。 ※利用規約上、自己が描いたイラストのみをアップロード可。 → 公開後２か月でアクティブユーザー数が１億人を超える。 → Open AI 社が「GPT-4」を発表 [2023年3月] • Google社は2023年3月に「Bard」を一般公開（2023年12月よ り「Gemini」に変更）  動画生成 「Stable Diffusion」の共同開発企業であるRunway社が､テキスト 入力や参照画像で指定した任意のスタイルを適用して、既存の映像 を新しい映像に変換できるAIモデル「Gen-1」を､2023年2月に発表 • → 2023年6月には、「Gen-2」をリリース（生成してほしいコンテンツを プロンプトすることで動画を生成 （text to video)） 2024年２月にOpen AI社が動画生成AI「Sora」を発表。 • → 文章をプロンプト入力することで動画を生成することができる 。 → プロンプト時に肖像権や知財権を侵害できないように技術で対応。  音楽生成 • キーワードや文章を入力することでイメージに合う曲を作成するツー ルや、任意の音楽を学習させることで、それらしい新曲を生成できる AI ツール等が数多く公開。 （Music LM [2023. ５]、 MusicGen [2023. ６] Stable Audio [2023.９]など） 1 知的財産戦略本部構想委員会（第２回） （2023 年３月３日開催）資料１「AI 生成物と著作権について」５頁参照 （https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kousou/2023/dai2/siryou1.pdf） 4 （２）生成 AI 技術の概要 ア 総論 後に述べるように、本検討会では、生成 AI と知的財産権に関する法的ルールの検討 については①学習段階と②生成・利用段階とに分けて、整理している。そこで、生成 AI の仕組みについて、これに即して概略を整理すると、次のとおりである。 （ア）学習段階 学習段階とは、①生データ、②学習用データ、③学習用プログラムを経て、深層学習 （ディープラーニング）により、④学習済みモデルを作成する過程により構成される。 なお、これらについて上記＜参考図＞に当てはめると、次のとおりである。 ① 生データ：上図の「著作物」や「非著作物」がこれに該当する。例えば、AI 開発者 がウェブサイト等を通じて大量に収集する情報、AI 開発者と権利者が別途契約を締 結することにより権利者から提供される情報、追加学習や検索拡張生成（RAG）等 （生成 AI によって対象データを検索し、その結果の要約等を行って回答を生成す る手法）の入力用データベースの作成に供される情報などの一次的に取得されたデ ータをいう。 ② 学習用データ：上図の「学習用データ」がこれに該当する。生データに対して、欠 測値や外れ値の除去、タグ付け（アノテーション）などを行った後の収集された生 データの集合体をいう。 ③ 学習用プログラム：上図の「AI のプログラム」がこれに該当する。例えば、学習用 データの中から一定の規則を見出し、その規則を表現するモデルを生成するための アルゴリズムを実行するプログラムをいう。具体的には、採用する学習手法による 学習を実現するために、コンピュータに実行させる手順を規定するプログラムがこ れに該当する。 ④ 学習済みモデル：上図の「学習済みモデル」がこれに該当する。学習用プログラム に学習用データを読み込ませる（学習させる）ことにより、特定の機能を実現する ために必要なパラメータ（係数）が規定された学習済みモデルが生成される。一般 に、学習済みモデルは、AI のプログラム＋パラメータ（係数）として表現される関 数であるとされている。 なお、生成 AI の開発においては、 「深層学習」 （ディープラーニング）と呼称される人 5 間の脳の神経回路（ニューラルネットワーク）を真似た学習方法が用いられることが一 般的である。深層学習では、各層に入力された情報がパラメータを利用して適宜調整や 再計算された上で、次の層に伝達され、同様の処理が行われて更に次の層に伝達される ことが繰り返され、最終的な計算結果が出力されることになる。ここでいう「学習」と は、大量のデータを用いて、最終的な出力が開発者の希望する結果となるように、パラ メータを調整することをいう。当該パラメータは、大量の数値が羅列されたものであり、 個々のパラメータが何を意味しているのか、パラメータ同士にどのような関係があるの かを理解することは一般的に困難とされている。 （イ）生成・利用段階 生成・利用段階は、学習段階を経て作成された学習済みモデルに対して、①利用者が 生成したい内容などを表示する文字列等を入力する生成指示を行い、②当生成指示に基 づき生成 AI が画像、文章及び音声等のコンテンツを出力し、③生成 AI が出力した AI 生成物を販売等の方法で利用する、といった各過程により構成される。 イ 文章の生成 AI の概要 文章の生成 AI（LLM：大規模言語モデル）は、テキストデータを収集し、収集したテ キストデータを文や単語ごとに分割し、分割した単語等をコンピュータが理解できるよ うベクトル変換を行い、利用者が単語等を入力した場合に次に続く単語等を予測できる ようなシステムを構築した AI である（例えば、OpenAI 社の GPT－4 など）。ユーザが 文章の生成 AI（大規模言語モデル）に対し、生成指示を行った場合、その指示から特定 の単語等の抽出を行い、その単語の後に続く最も可能性が高い確率の単語等を選択し、 文章を生成するものである（当該技術はトランスフォーマと呼ばれている。）。 なお、トランスフォーマによる文章の生成は、ある単語に対する次の単語を確率的に 予測して生成するものであるため、内容の正確性が保証されているものではない点に留 意が必要である。 ウ 画像の生成 AI の概要 深層学習（ディープラーニング）を利用して画像を生成するモデルとしては、①変分 オートエンコーダー（VAE）、②敵対的生成ネットワーク（GAN）、③フローベース生成 モデル及び④拡散（Diffusion）モデルなどがある。 拡散（Diffusion）モデルは、代表的な画像生成 AI である Stable Diffusion や DALLE2 で用いられている。これは、オリジナル画像㋐の情報を減少させた潜在画像を作成 し、当該潜在画像に徐々にランダムノイズを加えた画像㋑、画像㋒及び画像㋓を作成す る拡散過程を行った後で、画像㋓を画像㋒に、画像㋒を画像㋑に戻すにはどのようにノ イズを予想して取り除けば良いかを学習する逆拡散過程を繰り返し経て構築されるモ デルであり、ノイズ画像から、学習した方法でノイズを除去することで新たな画像を生 成する。 6 エ 声・音声の生成 AI の概要 音声の生成 AI は、主に、ベースとなる音声を機械学習した言語解析モジュール、韻 律データ、カスタム音声やベース音声を機械学習した声色入りのシンセサイザーモジュ ールからなり、自然言語テキスト文を入力すると、音声を出力することができる。 なお、これと類似するものとして、ボイスチェンジャーも存在しているが、ボイスチ ェンジャーは自然言語テキスト文を入力するのではなく、人間の声を吹き込むため、言 語解析及び韻律データは基本的に不要という違いがある。 オ 動画の生成 AI の概要 動画の生成 AI は、ベースとなる映像や音声のデータの学習を行い、学習したモデル として、GAN や VAE モデルがある。ユーザは、テキスト入力もしくは画像入力を行う ことで動画を出力することができる。2024 年２月に公開された OpenAI の Sora は拡散 モデルであり、生成手法として、静的ノイズから始まるビデオを生成し、ノイズを除去 しながらビデオ変換していく仕組みである 2。 （３）生成 AI をめぐる国際的動向 2023 年には、広島 AI プロセスを筆頭に、生成 AI をめぐる対応について、さまざま な議論や動きが活発に見られ、これらは現在も活発である。 米国では、2023 年１月から、権利者等による訴訟提起の動きが見られたほか、米国脚 本家協会や全米映画俳優組合による映画テレビ製作者協会へのストライキの動きが、大 きく報道された。 米国における AI 規制に関わる動きとしては、民間主導の動きが見られる。同年７月 には、AI 開発に関わる主要各社が、AI の安全性、セキュリティ及び信頼性の観点から、 自主規制につき米国政府と合意するという動きがあった。このほか、同年 10 月 30 日に は、バイデン大統領が、安全、安心で信頼できる AI の開発・利用に関する大統領令に署 名し、AI の安全性とセキュリティの確保、イノベーションと競争の促進等を含む８つの 柱について、政策パッケージを示している。 EU においては、いわゆる AI 法案の動きが、大きく注目された。欧州理事会、欧州委 員会及び欧州議会の三者による交渉を経て、2023 年 12 月に同法案は暫定合意され、 2024 年５月に成立した。同法は、安全性を確保し、基本的人権の遵守を保ちながらイノ ベーションを推進することを狙いとしており、リスクに応じて AI への義務を設定する 「リスクベースアプローチ」を特徴としている。 このほか、中国においては、2023 年８月に、生成 AI サービス管理暫定弁法が施行さ れている。 これらも含め、主なものをまとめると、概要以下のとおりである。 2 OpenAI 社のプレスリリース内容：https://openai.com/research/video-generation-models-as-world-simulators (2024 年２月 15 日) 7 AIと知財に関する国際動向 訴訟等の動き 米国の動向 ＜AI生成物の生成 ・利用＞ ⃝ サラ・アンダーセン氏ら３名のアーティストが、 画像生成AIは「何百万ものアーティストの権利を侵害する 21世紀のコラージュツール」で あるとして、Midjourney Inc.、Stability AI など３社を提訴 [2023年１月] ※ 学習用に用いられた元の著作物の特徴 （作風）を残したAI生成物が生成された場合 、当該生成物は 、無許可の二次的著作物に当たると主張 。 ⇒ カリフォルニア北部地区連邦地裁は 、AI事業者に対する直接責任や代位責任等の原告の主張につき 、不備があるものについて 、訴状の補正の余地 を残しつつ請求を却下 [2023年10月] ＜学習用データとしての著作物利用＞ ⃝ 米国の画像代理店 Getty Images 社は、Stability AI 社を相手に、画像生成 AI「Stable Diffusion 」の開発に当たり、Getty 社の画像を無断で学習利 用した行為が、著作権侵害に当たるとして提訴 [2023年３月] ※ 学習用データとしての著作物利用の適法性 の有無について、米国著作権法では、フェアユースの法理により判断。 ⃝ New York Times 社 はOpenAI社及びMicrosoft 社を相手に、自社記事が AIで無断学習されたとして訴訟提起 [2023年12月] ＜ハリウッド・ストライキ＞ ⃝ 米国脚本家協会（ WGA）による映画テレビ製作者協会（ AMPTP ）へのストライキ （2023年5月～）が合意（生成AI利用の有無 について 脚本家は 選択可（ただし、使用の際は知財等の会社の方針に従うことが条件）等） [2023年9月25日] ⃝ 全米映画俳優組合（ SAG-AFTRA）による映画テレビ製作者協会へのストライキ も、118日間を経て、暫定 合意（俳優の特徴が 識別できる複製データ の生成・利用につき、インフォームド・コンセント及び報酬等 ) [2023年11月8日] ルール形成に関わる動き ＜AIのリスク管理に向けたルールの導入＞ ⃝ AI開発に関わる主要各社は、 AIの安全性、セキュリティ、信頼性の観点 から、 自主規制につき米国政府と合意。信頼性については、電子透かし 、生成AI 利用の有無を利用者が判断できるようにするための技術開発の取組 を含む。[2023年７月（７社）・９月（８社） ] ※ Google やマイクロソフト等は、安全で責任ある AI開発を促進する業界団体（「フロンティア・モデル・フォーラム」）の設立 を発表 [2023年７月] ＜米国著作権局の判断（生成 AIと著作権）＞ ⃝ 米国著作権局は、AIで生成された素材を含むコンテンツの著作権の 扱いについてのガイダンスを公表。 [2023年3月10日公表、同16日より発効] ※ 人間のみが著作物の「著作者」たり得ることを前提に、「機械によって作成された作品又は人間である作者からの創造的な入力や介入を 伴わず、 ランダムにあるいは 自律的に動作する単なる機械的プロセスによって作成された作品は、著作権登録の対象としない」等の見解を提示。 ⇒ Thaler v. Shira Perlmutter で、コロンビア特別区連邦地方裁判所は、人による創作の関与がないことを理由に登録を拒否した著作権局の判 断を是認 [2023年8月] ⃝ 米国著作権局審査委員会は 、Midjourney により600以上のプロンプト入力などを経て生成された画像作品につき、 Midjourney はプロンプトを特定の 表現結果を作出するための具体的な指示としては解釈しないことを理由に、著作権登録を認めない判断を 行った。[2023 年９月] 大統領令 米国の動向 ＜AIに関する米国大統領令＞ 〇 バイデン大統領が、 安全、安心で信頼できるAIの開発・利用に関する 大統領令に署名 [2023年10月30日]。 AIの安全性とセキュリティの確保、イノベーションと競争の促進、労働者の支援、公平性と公民権の推進、消費者等の保護、プライバシーの保護、 連邦政府によるAI利用の促進、海外における米国のリーダーシップの強化、の８つの柱について、政策パッケージを示しており、知財に関しては、 以下を含む。 ※ 大統領令の発令日から 120日以内に、特許審査官・出願人向けに、 AIによる発明が誰の 発明であるか、及び発明プロセスにおける生成 AI等の利用に 関する問題をどのように扱うべきかという内容を含むガイダンスを公表。 ⇒ USPTO（米国特許商標庁）は、 2024年２月13日付けで AIを利用した発明についての発明者性のガイダンスを公表 ※ 大統領令の発令日から 270日以内に、特許審査官・出願人向けに、 AIと知財の関係において考慮すべき事項に関する追加ガイダンスを公表。 USPTO 長官が必要であると判断した場合には、 AIと重要な新興技術が関係する発明の 特許適格性の問題を明確化するために、現行の特許適格性に関するガイ ダンスを更新。 ※ 大統領令の発令日から 270日以内、または米国著作権局が AIと著作権に関する調査結果を公表してから 180日のいずれか遅い日までに、著作権局長 と協議し、AIによって創作された 著作物の扱いや AI学習への著作物の利用に関する扱い等についての行政措置が必要であるか大統領に報告。 ※ 大統領令の発令日から 180日以内に、AI開発者がAI関連の知的財産権上のリスクに適切に対応することを支援するために、国土安全保障長官は、米 国司法長官と協議の上、 AI関連の知的財産上のリスクを軽減するための訓練、分析、評価プログラムを開発 。 訴訟等の動き 中国の動向 ＜AI生成物の保護＞ 〇 「Stable Diffusion」を用いて原告が生成した画像が、他者により無断使用されたとして、AI生成物の著作物性等が争われた事案。 ⇒ 北京インターネット裁判所は、原告は、プロンプトを入力し、関連するパラメータを設定して最初の画像を得た後においても、プロンプトを追加し、パラ メータ を修正し、継続的に調整・修正し、最終的に本件画像を得ており、このような調整・修正過程においても、原告の美的な選択や個性的判断が 具現されている等として、本件画像について 著作物性を認めるとともに、原告を著作者であり著作権者であると判示 [2023年11月27日]。 ルール形成に関わる動き ＜生成AIサービス管理暫定弁法＞ 〇 2023年8月15日に生成AIサービス管理暫定弁法が施行され、AIサービスの提供や利用の原則として、知的財産権や商業道徳を尊重し、 営業秘密を保護することや、他人の肖像権・プライバシー権等を侵害してはならないこと等を規定。 7 8 EUの動向 ルール形成に関わる動き ＜学習用データとしての著作物利用＞ ○ 2019年6月の欧州デジタル単一市場著作権指令では、著作物等のテキストマイニング・データマイニング目的で行う複製又は抽出に関し、 加盟国が著作権等の例外・制限（権利制限）の導入を義務付け。 ※ 営利目的のためのテキスト・データマイニング に係る権利制限は、権利者が、適切な方法（機械的に読み取り可能な手段など）で、著作物等の利 用を明示的に留保していないことを条件として適用 （オプトアウト可） ※ 研究組織や文化遺産機関が、 学術研究のために行うテキスト・データマイニング については、上記の条件なし（ オプトアウト不可） ＜AI法（Artificial Intelligence Act ）について＞ 〇 欧州議会は、2023年６月14日にいわゆるAI法案を採択。その後、欧州理事会、欧州委員会及び欧州議会の三者による交渉を経て、 2023年12月に暫定合意（政治的合意）。2024年3月13日には欧州議会が採択し、2024年５月21日に欧州理事会が承認したこと によりAI法が成立した。欧州連合公報にて公布され、公布から20日後に施行、2026年の本格的用の見込みである。AI法には以下のよう な内容が記載されている。 ・ 特定のAIシステムに関し、原則として、以下の透明性義務が課せられている（50条） ※ プロバイダ（開発者・提供者） は、自然人と直接対話することを意図したAIシステムが、合理的に十分な情報を持ち、観察力があり、慎重な自然 人の観点から明らかな場合を除き、関係する自然人が AIシステムと対話していることを通知されるように設計・開発 されることを保証すること（1項） ※ 合成音声、画像、動画、またはテキストコンテンツを生成する汎用 AIシステムを含む AIシステムのプロバイダは、AIシステムの出力が機械可読形式で マークされ、人為的に生成または操作されたものとして検出可能であることを保証 すること（2項） ※ ディープフェイク を構成する画像、音声、動画コンテンツを生成または操作する AIシステムの 採用者（deployer:個人的な非専門的利用を除く） は、そのコンテンツが人為的に生成または操作されていることを開示 すること（ただし、明らかに芸術、創造的、風刺的、フィクション的な類似作品又 は番組の一部を構成するコンテンツである場合、この透明性義務は、当該作品の表示または享受を妨げない適切な方法で開示すれば足りる）（ 4 項） ※ 公共の利益に関する事項を公衆に知らせる目的で公開されるテキストを生成または操作する AIシステムの採用者は、テキストが人為的に生成または 操作されたことを開示すること（ 4項） ・ 汎用目的AI（GPAI、General Purpose AI ）モデルのプロバイダについて、以下を義務化（53条1項） ※ 欧州著作権法を遵守するための方針、特に、 欧州デジタル単一市場著作権指令に基づく権利の留保（オプトアウト）の表明を特定し、最先端 の技術を通じて遵守するための方針を導入 すること（(c)項） ※ 汎用AIモデルの 学習に用いる内容 について、 AI室が提供するテンプレートに従って、 十分に詳細な概要を作成・公開 すること（(d)項） G7広島AIプロセス G7・マルチ ＜G7広島首脳コミュニケ＞ [2023年5月20日] 「我々は、関係閣僚に対し、生成AIに関する議論を年内に行うために、包摂的な方法で、OECD及びGPAIと協力しつつ、G7の作業部会を 通じた、広島AIプロセスを創設するよう指示する。これらの議論は、ガバナンス、著作権を含む知的財産権の保護、透明性の促進、偽情報を 含む外国からの情報操作への対応、これらの技術の責任ある活用といったテーマを含み得る。」 - 閣僚級会合 [2023年9月7日] - 非公式会合＠IGF京都2023 [2023年10月9日] ＜G7首脳声明＞[2023年10月30日] AI開発者向け国際指針（Guiding Principles) 及び 国際行動規範（Code of Conduct）について歓迎し、公表。 - 閣僚級会合 [2023年12月1日] ※広島AIプロセス包括的政策枠組みを取りまとめ ・全てのAI関係者向け及びAI開発者向け広島プロセス国際指針 ・高度なAIシステムを開発する組織向けの広島プロセス国際行動規範 ・偽情報対策に資する研究の促進等のプロジェクトベースの協力 首脳に報告 ＜G7首脳声明＞[2023年12月6日] 広島AIプロセス包括的政策枠組みを歓迎 国連決議 ＜「持続可能な開発のための安全、安心で信頼できるAIシステムに係る機会活用」についての国連決議＞ [2024年3月21日] 〇 2030年の持続可能な開発アジェンダの達成に向けて安全、安心で信頼できるAIシステムを促進していくことや、加盟国やマルチステークホ ルダーに対し、そのようなAIシステムに関する規制やガバナンスアプローチの策定・支持を促すこと等を内容とするもの。また、AIシステムのライ フサイクルを通じて、人権及び基本的自由が尊重・保護され、促進されるべきことを強調。 〇 決議では、加盟国やステークホルダーに対し、安全・安心で信頼できるAIシステムを促進し、AIシステムが世界の課題に対応できるための環 境を整備することを推奨しており、そのための手段には、下記が含まれる（※各手段の要素は、広島プロセス国際指針及び行動規範の要素 が多く含まれている）。 ・ AI生成コンテンツの識別特定のためのツール等（電子透かしやラベリングのような、信頼できるコンテンツ認証・来歴メカニズムを含む） の開発・導入の勧奨（決議パラグラフ６(g)） ・ イノベーションを促進しつつ、知的財産権を尊重するための適切なセーフガードの実施勧奨（決議パラグラフ６ (i)） 9 ３．検討課題 本検討会では、大きく、以下の２つの検討課題を取り上げ、検討を行った。 （１）生成 AI と知財をめぐる懸念・リスクへの対応等について（検討課題Ⅰ） （２）AI 技術の進展を踏まえた発明の保護の在り方（検討課題Ⅱ） このうち、検討課題Ⅰについては、生成 AI と知財との関係として、著作権法との関 係とともに、著作権法以外の知的財産法との関係について取り上げたほか、技術による 対応策や、契約による対価還元の在り方について、検討を行った。併せて、個別課題と して、デジタルアーカイブ及びディープフェイク関係について、知的財産法の観点から の検討も行った。 また、本検討会では、検討の参考とするため、第１回目の開催直後から１か月間、任 意の意見募集を実施した（実施期間：2023 年 10 月５日～同年 11 月５日）。その結果、 上記の検討課題に加えて、労力、作風や声の保護についても課題として示されたことを 踏まえ、個別課題としてこれらも取り上げ、検討した。 その上で、法・技術・契約の各手段の横断的な見地からの検討を行った。 検討課題Ⅱは、AI と特許法との関係についての論点であり、AI を利用した発明の取 扱いの考え方、及び、AI の利活用拡大を見据えた進歩性等の特許審査上の課題について、 検討を行った。 なお、本検討会は、 「知的財産権全体」を俯瞰する観点から、上記のとおり、主な知的 財産法を取り上げ、検討を行ったものである。本中間とりまとめで取り上げる知的財産 法のうち、著作権法については文化庁が、特許法、意匠法及び商標法については特許庁 が、不正競争防止法については経済産業省が、それぞれ所管省庁であるところ、本検討 会では、それら省庁のオブザーバー参加も得ながら、検討を行った。 本中間とりまとめで示す内容は、AI 技術の更なる進歩など、様々な前提の変化によっ て変わり得るところであるが、必要に応じて行う各所管省庁での更なる検討・議論にも 資するよう、とりまとめたものである。 10 Ⅱ． 基本的視点 AI には、デジタル化・デジタル技術の活用を加速させ、我が国全体の生産性向上のみ ならず、様々な社会課題解決に資する可能性がある。他方、生成 AI については、様々な リスクの存在も懸念されており、そこには秘密情報の漏洩等のリスクのほか、著作権侵 害のリスクも含まれる（AI 戦略会議「AI に関する暫定的な論点整理」（2023 年５月 26 日）等参照）。 このため、生成 AI の開発・提供・利用の促進により、我が国の産業競争力の強化を図 っていくためにも、著作権を含む知的財産権全体と生成 AI との関係について整理し、 必要な方策等を検討していくことが重要である。 以上を踏まえ、本検討会において基礎とすべき基本的な視点は、次の３つとした。 ① 産業競争力強化の視点 生成 AI の開発・提供・利用の促進により、公正で自由な社会経済環境の下、幅広い産 業において付加価値が創出され、我が国の産業競争力の強化が図られることを目指す。 ② AI 技術の進歩の促進と知的財産権の保護の視点 ５～10 年先の将来を見据えつつ、AI が日常に浸透し、AI によって新たな創造が可能 になるという視点も踏まえ、生成 AI の開発・提供・利用において、AI 技術の適正な進 歩を促進しつつ、知的財産権の適切な保護が図られる方策等を目指す。 ③ 国際的視点 AI は国際的な流通が容易であり、国境を越えた課題であることを踏まえ、国際的な動 向を踏まえた方策等を目指す。 11 Ⅲ． 生成 AI と知財をめぐる懸念・リスクへの対応等について 生成 AI と知財をめぐる懸念・リスクへの対応方策としては、法・技術・契約による対 応が考えられるが、本検討会としては、各手段には限界があることも踏まえつつ、解決 策としては、それら各手段の三位一体で実現していくべきことを、まず確認した。 また、生成 AI の技術については、知的財産権の侵害リスクや悪用等による弊害が指 摘される一方で、リスクを低減する技術もあり、また、AI 技術は、社会を変えるような 広い意味でメリットもあるといった、技術の多義性・多面性や、進歩の早い技術をベー スに考える必要があることも確認しつつ、以下の課題について、検討を行った。 １．法的ルール①（著作権法との関係） ２．法的ルール②（著作権法以外の知的財産法との関係） ３．技術による対応 ４．契約による対応（対価還元の在り方） ５．その他個別課題 （１）労力・作風の保護 （２）声の保護 （３）学習用データとしてのデジタルアーカイブ整備 （４）ディープフェイク（知的財産法の視点から） ６．横断的見地からの検討 12 １．法的ルール①（著作権法との関係） （１）著作権法制度の概要 我が国の著作権法は、著作物並びに実演、レコード、放送及び有線放送の公正な利用 に留意しつつ、著作者等の権利の保護を図り、もって文化の発展に寄与することを目的 としている（著作権法１条）。この目的を受けて、著作権法では、「著作者等の権利・利 益の保護」と「著作物等の公正・円滑な利用」とのバランスを踏まえた制度設計がされ ている。 著作権法で保護される「著作物」について、著作権法２条１項１号では「思想又は感 情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するものを いう。」と定義されている。すなわち、著作物となるための要件として、①思想又は感情 を、②創作的に、③表現したものであり、かつ、④文芸、学術、美術又は音楽の範囲に 属するものであることが求められている。よって、単なる事実やデータにとどまるもの （上記要件①を欠くもの）、誰が表現しても同じようなものとなるありふれた表現（上記 要件②を欠くもの）、表現に至らないアイデア（上記要件③を欠くもの）、実用品等の文 芸、学術、美術又は音楽の範囲に属さないもの（上記要件④を欠くもの）は、著作物に 該当せず、著作権法の保護対象に含まれない。 著作権法は、著作物を利用する行為のうち、複製、公衆送信、譲渡といった特定の利 用形態（法定利用行為）ごとに複製権や公衆送信権などの各支分権が及ぶことを規定し ており、法定利用行為を行う場合は、権利者の許諾を得て行う必要があるのが原則であ る。 他方で、上述した著作権法１条に定める「文化的所産の公正な利用」という点に配慮 するため、著作権法では、一定の場合には権利者の許諾を得ることなく著作物等を利用 できる旨の、権利制限規定を設けている。AI と著作権の関係においては、著作物に表現 された思想又は感情の享受を目的としない利用（著作権法 30 条の４）や電子計算機によ る情報処理及びその結果の提供に付随する軽微利用等（著作権法 47 条の５）のほか、私 的使用のための複製（著作権法 30 条）、引用（著作権法 32 条１項）、学校その他の教育 機関における複製等（著作権法 35 条）、営利を目的としない上演等（著作権法 38 条）な どがあり、これらの各規定の要件を満たす場合には、権利者の許諾を得ることなく著作 物等を利用することができる。 （２）具体的な課題 上述した権利制限規定である著作権 30 条の４柱書は、 「著作物は、次に掲げる場合そ の他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させること を目的としない場合には、その必要と認められる限度において、いずれの方法によるか を問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用 の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。」と 規定し、同条第２号では、「情報解析（略）の用に供する場合」が掲げられている。 13 当該規定は、AI 学習のみにその適用が限定されるものではないが、情報解析の用に供 する場合である限り、AI 学習であっても原則として著作権者の許諾なく、著作物の利用 が可能であるとされるため、これに対するクリエイターの懸念を払拭するとともに、AI 事業者や AI 利用者の侵害リスクを最小化できるよう、生成 AI の発展を踏まえた論点整 理を行い、考え方を明らかにする必要がある。 AI（学習済みモデル）を作成するために、著作物を利用する段階（学習段階）と、当 該学習済みモデルに生成指示を入力し、画像、文章及び音声等を生成する段階（生成段 階）並びに生成した画像、文章及び音声等をアップロードしたり販売したりする段階（利 用段階）では、それぞれ検討すべき主な規定等が異なるため、各段階に即した検討を加 える必要がある。主な課題として、具体的には、以下のものが挙げられる。 ○ 学習段階  AI 学習について、どのような場合に許諾が必要か  著作権法 30 条の４に定める「当該著作物に表現された思想又は感情を自 ら享受し又は他人に享受させることを目的としない場合」（非享受目的） や「当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者 の利益を不当に害することとなる場合」の基本的な考え方の整理 ○ 生成・利用段階  生成指示のために生成 AI に著作物を入力する行為が著作権侵害を構成する 場合の考え方や具体的な事例の整理  AI 生成・利用に関し、著作権侵害となる場合の考え方  学習用データとして用いられた元の著作物と類似する AI 生成物の利用行 為が著作権侵害を構成する場合の要件（依拠性・類似性）の考え方や具体 的な事例の整理 〇 AI 生成物の保護（生成段階）  AI が生成した物（AI 生成物）が保護される場合の考え方  AI 生成物が著作物と認められるために必要な利用者の創作意図や創作的 寄与に関する考え方の整理 なお、本検討会では、上述の各課題のほかにも、著作権法に関する論点として、次の 点についても検討・整理が必要であることを確認した。 ○ AI 開発事業者や AI サービス提供事業者が著作権侵害の行為主体となり得るか（リ スク回避のガバナンス採用との関係性を含む）（→主に１（３）エに関連） ○ ID・パスワード等の回避によるクローリングは、現行法上、どのように評価される か（アクセスコントロール等の技術の採用と権利制限規定との関係性を含む） （→ 主に３（３）に関連） ○ 対価還元策（契約等）と権利制限規定等との関係はどのように整理できるか（対象 著作物の海賊版と権利制限規定との関係性を含む） （→主に１（３）ア及び４（５） に関連） 14 ○ AI 学習用データとしてのデジタルアーカイブ整備に関し、アーカイブ機関が権利 者ではない保有データが含まれている場合に、知的財産法の観点から、アーカイブ 機関が法的に留意すべき事項は何か（→主に５（３）に関連） （３）生成 AI に係る各段階における著作権法の適用 上述した各論点に関する著作権法の解釈については、学習段階、生成・利用段階にお ける論点を中心に、本検討会と同時期に並行して開催された文化審議会著作権分科会法 制度小委員会において、検討が進められた。 なお、本検討会における意見募集では、生成 AI と著作権に関し、様々な意見が提出 されたところである。例えば、著作権法 30 条の４の適用範囲の明確化を求める意見や、 許諾が必要な利用場面や現行制度の見直しの要否に係る各立場からの意見のほか、AI 生 成に係る依拠性の証明の可否に関する意見、AI 生成物に係る権利付与の是非等に関する 意見である。 これに加え、文化審議会著作権分科会法制度小委員会においても、その後、任意の意 見募集が行われ（実施期間：2024 年１月 23 日～同年２月 12 日）、多くの意見が提出さ れたところ、これらも踏まえつつ行った検討の結果として、同小委員会は、2024 年３月 15 日に「AI と著作権に関する考え方について」を公表した。このため、以下では、同 「AI と著作権に関する考え方について」のうち、関連箇所の内容を引用して紹介する。 なお、同「AI と著作権に関する考え方について」については、以下に紹介する事項以 外にも、本中間とりまとめにおける関連課題の該当箇所において、適宜引用して紹介を 行う。 15 ア 学習段階 （ア）「非享受目的」（著作権法 30 条の４）に該当する場合についての考え方 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （19-22 頁） 〇 一個の利用行為には複数の目的が併存する場合もあり得るところ、法第 30 条の４は、 「当該著 作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合 には」と規定していることから、この複数の目的の内にひとつでも「享受」の目的が含まれて いれば、同条の要件を欠くこととなる。 （19 頁） 〇 ある利用行為が、情報解析の用に供する場合等の非享受目的で行われる場合であっても、この 非享受目的と併存して、享受目的があると評価される場合は、法第 30 条の４は適用されない。 〇 ……生成 AI の開発・学習段階における著作物の利用行為における、享受目的が併存すると評 価される場合について、具体的には以下のような場合が想定される。 （19-20 頁）  ……既存の学習済みモデルに対する追加的な学習（そのために行う学習データの収集・加 工を含む）のうち、意図的に、学習データに含まれる著作物の創作的表現の全部又は一部 を出力させることを目的とした追加的な学習を行うため、著作物の複製等を行う場合（20 頁）  ……既存のデータベースやインターネット上に掲載されたデータに含まれる著作物の創 作的表現の全部又は一部を、生成 AI を用いて出力させることを目的として、これに用い るため著作物の内容をベクトルに変換したデータベースを作成する等の、著作物の複製 等を行う場合（20 頁） 〇 ……「学習データに含まれる著作物の創作的表現の全部又は一部を出力させる意図までは有し ていないが、少量の学習データを用いて、学習データに含まれる著作物の創作的表現の影響を 強く受けた生成物が出力されるような追加的な学習を行うため、著作物の複製等を行う場合」 に関しては、具体的事案に応じて、学習データの著作物の創作的表現を直接感得できる生成物 を出力することが目的であると評価される場合は、享受目的が併存すると考えられる。 （20 頁） 〇 法第 30 条の４が適用されない場合でも、RAG 等による回答の生成に際して既存の著作物を利 用することについては、法第 47 条の５第１項第１号又は第２号の適用があることが考えられ る。 ただし、この点に関しては、法第 47 条の５第１項に基づく既存の著作物の利用は、当該著 作物の「利用に供される部分の占める割合、その利用に供される部分の量、その利用に供され る際の表示の精度その他の要素に照らし軽微なもの」（軽微利用）に限って認められることに 留意する必要がある。また、同項に基づく既存の著作物の利用は、同項各号に掲げる行為に「付 随して」行われるものであることが必要とされているように、既存の著作物の創作的表現の提 供を主たる目的とする場合は同項に基づく権利制限の対象となるものではない、ということ にも留意する必要がある。 そのため、RAG 等による生成に際して、 「軽微利用」の程度を超えて既存の著作物を利用す るような場合は、法第 47 条の５第１項は適用されず、原則として著作権者の許諾を得て利用 する必要があると考えられる。また、RAG 等のために行うベクトルに変換したデータベース 16 の作成等に伴う、既存の著作物の複製又は公衆送信については、同条第２項に定める準備行為 として、権利制限規定の適用を受けることが考えられる。（22 頁） （※なお、 「AI と著作権に関する考え方について」における「法」とは著作権法を意味する。以下 同じ。 ） （イ）著作権法 30 条の４ただし書（著作権者の利益を不当に害することとなる場 合）についての考え方 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （26-27 頁） 〇 ……AI 学習のための著作物の複製等を防止する技術的な措置が講じられており、かつ、この ような措置が講じられていることや、過去の実績（情報解析に活用できる形で整理したデータ ベースの著作物の作成実績や、そのライセンス取引に関する実績等）といった事実から、当該 ウェブサイト内のデータを含み、情報解析に活用できる形で整理したデータベースの著作物が 将来販売される予定があることが推認される場合には、この措置を回避して、クローラにより 当該ウェブサイト内に掲載されている多数のデータを収集することにより、AI 学習のために 当該データベースの著作物の複製等をする行為は、当該データベースの著作物の将来における 潜在的販路を阻害する行為として、当該データベースの著作物との関係で、本ただし書に該当 し、法第 30 条の４による権利制限の対象とはならないことが考えられる。 （26-27 頁） 〇 この点に関しては、本ただし書の適用範囲についての判断を容易にするための一要素として、 robots.txt でのアクセス制限において必要となるクローラの名称（User-agent）等の情報が事 業者から権利者等の関係者に対して適切に提供されること、また、特定のウェブサイト内のデ ータを含み情報解析に活用できる形で整理したデータベースの著作物が現在販売されている こと及び将来販売される予定があること等の情報が、権利者から事業者等の関係者に対して適 切に提供されることにより、クローラにより AI 学習データの収集を行おうとする AI 開発事 業者及び AI サービス提供事業者においてこれらの事情を適切に認識できるような状態が実現 されることが望ましい。 （27 頁） （ウ）海賊版等の権利侵害複製物を AI 学習に供する場合の考え方 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （28 頁） 〇 AI 開発事業者や AI サービス提供事業者が、ウェブサイトが海賊版等の権利侵害複製物を掲 載していることを知りながら、当該ウェブサイトから学習データの収集を行ったという事実 は、これにより開発された生成 AI により生じる著作権侵害についての規範的な行為主体の認 定に当たり、その総合的な考慮の一要素として、当該事業者が規範的な行為主体として侵害の 責任を問われる可能性を高めるものと考えられる（……）。 17 イ 生成・利用段階 （ア）生成指示のために生成 AI に著作物を入力する場合の考え方 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （37-38 頁） 〇 生成 AI に対して生成の指示をする際は、プロンプトと呼ばれる複数の単語又は文章や、画像 等を生成 AI に入力する場合があり、入力に当たっては、著作物の複製等が生じる場合がある。 （37 頁） 〇 この生成 AI に対する入力は、生成物の生成のため、入力されたプロンプトを情報解析するも のであるため、これに伴う著作物の複製等については、法第 30 条の４の適用が考えられる。 （37 頁） 〇 ただし、生成 AI に対する入力に用いた既存の著作物と類似する生成物を生成させる目的で当 該著作物を入力する行為は、生成 AI による情報解析に用いる目的の他、入力した著作物に表 現された思想又は感情を享受する目的も併存すると考えられるため、法第 30 条の４は適用さ れないと考えられる。（37-38 頁） （イ）学習用データとして用いられた元の著作物と類似する AI 生成物の利用行 為が著作権侵害を構成する場合の要件（依拠性・類似性）の考え方 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （32-34 頁） 〇 既存の判例では、ある作品に、既存の著作物との類似性と依拠性の両者が認められる際に、著 作権侵害となるとされている。 （32 頁） 〇 AI 生成物と既存の著作物との類似性の判断についても、人間が AI を使わずに創作したもの について類似性が争われた既存の判例と同様、既存の著作物の表現上の本質的な特徴が感得で きるかどうかということ等により判断されるものと考えられる。なお、ここでいう「表現上の 本質的な特徴」に具体的に当たるものについては、個別具体的な事例に即し、判断されること に留意する必要がある。 （33 頁） 〇 依拠性の判断については、既存の判例・裁判例では、ある作品が、既存の著作物に類似してい ると認められるときに、当該作品を制作した者が、既存の著作物の表現内容を認識していたこ とや、同一性の程度の高さなどによりその有無が判断されてきた。特に、人間の創作活動にお いては、既存の著作物の表現内容を認識しえたことについて、その創作者が既存の著作物に接 する機会があったかどうかなどにより推認されてきた。 （33 頁） 〇 一方、生成 AI の場合、その開発のために利用された著作物を、生成 AI の利用者が認識して いないが、当該著作物に類似したものが生成される場合も想定され、このような事情は、従来 の依拠性の判断に影響しうると考えられる。 （33 頁） 〇 そこで、従来の人間が創作する場合における依拠性の考え方も踏まえ、生成 AI による生成行 18 為について、依拠性が認められるのはどのような場合か、整理することとする。なお、類似性 及び依拠性が認められ著作権侵害となる場合でも、前記（１）オ及び後記（２）エのとおり、 当該侵害によりどのような措置（差止請求・損害賠償請求・刑事罰）を受け得るかは、行為者 の故意又は過失の有無によることとなる。 （33 頁） ① AI 利用者が既存の著作物を認識していたと認められる場合  生成 AI を利用した場合であっても、AI 利用者が既存の著作物（その表現内容）を認 識しており、生成 AI を利用して当該著作物の創作的表現を有するものを生成させた場 合は、依拠性が認められ、AI 利用者による著作権侵害が成立すると考えられる。 （例）Image to Image（画像を生成 AI に指示として入力し、生成物として画像を得る 行為） のように、既存の著作物そのものを入力する場合や、既存の著作物の題号などの 特定の固有名詞を入力する場合（33 頁）  この点に関して、既存の判例・裁判例においては、被疑侵害者の既存著作物へのアクセ ス可能性、すなわち既存の著作物に接する機会があったことや、類似性の程度の高さ等 の間接事実により、被疑侵害者が既存の著作物の表現内容を認識していたことが推認さ れてきた。 （33-34 頁）  このような既存の判例・裁判例を踏まえると、生成 AI が利用された場合であっても、 権利者としては、被疑侵害者において既存著作物へのアクセス可能性があったことや、 生成物に既存著作物との高度な類似性があること等を立証すれば、依拠性があるとの推 認を得ることができると考えられる。 （34 頁） ② AI 利用者が既存の著作物を認識していなかったが、AI 学習用データに当該著作物が含まれ る場合 ✓ AI 利用者が既存の著作物（その表現内容）を認識していなかったが、当該生成 AI の 開発・学習段階で当該著作物を学習していた場合については、客観的に当該著作物への アクセスがあったと認められることから、当該生成 AI を利用し、当該著作物に類似し た生成物が生成された場合は、通常、依拠性があったと推認され、AI 利用者による著作 権侵害になりうると考えられる。 （34 頁） ✓ ただし、当該生成 AI について、開発・学習段階において学習に用いられた著作物の創 作的表現が、生成・利用段階において生成されることはないといえるような状態が技術 的に担保されているといえる場合もあり得る。このような状態が技術的に担保されてい ること等の事情から、当該生成 AI において、学習に用いられた著作物の創作的表現が、 生成・利用段階において出力される状態となっていないと法的に評価できる場合には、 AI 利用者において当該評価を基礎づける事情を主張することにより、当該生成 AI の 開発・学習段階で既存の著作物を学習していた場合であっても、依拠性がないと判断さ れる場合はあり得ると考えられる。 （34 頁） 19 ウ AI 生成物の著作権法による保護 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （39-40 頁） 〇 AI 生成物の著作物性は、個々の AI 生成物について個別具体的な事例に応じて判断されるも のであり、単なる労力にとどまらず、創作的寄与があるといえるものがどの程度積み重なって いるか等を総合的に考慮して判断されるものと考えられる。例として、著作物性を判断するに 当たっては、以下の①～③に示すような要素があると考えられる。 （39-40 頁） ① 指示・入力（プロンプト等）の分量・内容 ✓ AI 生成物を生成するに当たって、創作的表現といえるものを具体的に示す詳細な指 示は、創作的寄与があると評価される可能性を高めると考えられる。他方で、長大な 指示であったとしても、創作的表現に至らないアイデアを示すにとどまる指示は、創 作的寄与の判断に影響しないと考えられる。 ② 生成の試行回数 ✓ 試行回数が多いこと自体は、創作的寄与の判断に影響しないと考えられる。他方で、 ①と組み合わせた試行、すなわち生成物を確認し指示・入力を修正しつつ試行を繰り 返すといった場合には、著作物性が認められることも考えられる。 ③ 複数の生成物からの選択 ✓ 単なる選択行為自体は創作的寄与の判断に影響しないと考えられる。他方で、通常創 作性があると考えられる行為であっても、その要素として選択行為があるものもある ことから、そうした行為との関係についても考慮する必要がある。 〇 また、人間が、AI 生成物に、創作的表現といえる加筆・修正を加えた部分については、通常、 著作物性が認められると考えられる。もっとも、それ以外の部分についての著作物性には影響 しないと考えられる。 （40 頁） エ その他（AI 開発事業者やサービス提供事業者が著作権侵害の行為主体となり 得るか） 文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （36-37 頁） 〇 既存の判例・裁判例上、著作権侵害の主体としては、物理的に侵害行為を行った者が主体とな る場合のほか、一定の場合に、物理的な行為主体以外の者が、規範的な行為主体として著作権 侵害の責任を負う場合がある（いわゆる規範的行為主体論）。 （36 頁） 〇 AI 生成物の生成・利用が著作権侵害となる場合の侵害の主体の判断においては、物理的な行 為主体である当該 AI 利用者が著作権侵害行為の主体として、著作権侵害の責任を負うのが原 則である。他方で、規範的行為主体論に基づいて、AI 利用者のみならず、生成 AI の開発や、 生成 AI を用いたサービス提供を行う事業者が、著作権侵害の行為主体として責任を負う場合 があると考えられる。この点に関して、具体的には、以下のように考えられる。 （36-37 頁） ① ある特定の生成 AI を用いた場合、侵害物が高頻度で生成される場合は、事業者が侵害 主体と評価される可能性が高まるものと考えられる。 20 ② 事業者が、生成 AI の開発・提供に当たり、当該生成 AI が既存の著作物の類似物を生 成する蓋然性の高さを認識しているにも関わらず、当該類似物の生成を抑止する措置 を取っていない場合、事業者が侵害主体と評価される可能性が高まるものと考えられ る。 ③ 事業者が、生成 AI の開発・提供に当たり、当該生成 AI が既存の著作物の類似物を生 成することを防止する措置を取っている場合、事業者が侵害主体と評価される可能性 は低くなるものと考えられる。 ④ 当該生成 AI が、事業者により上記……③の手段を施されたものであるなど侵害物が 高頻度で生成されるようなものでない場合においては、たとえ、AI 利用者が既存の著 作物の類似物の生成を意図して生成 AI にプロンプト入力するなどの指示を行い、侵 害物が生成されたとしても、事業者が侵害主体と評価される可能性は低くなるものと 考えられる。 21 ２．法的ルール②（著作権法以外の知的財産法との関係） （１）知的財産法制の概要 我が国における知的財産法制について、上述した著作権法のほか、主なものとしては 特許法、意匠法、商標法及び不正競争防止法がある。これらについて、法の目的及び保 護対象に着目して整理すると次のとおりである。 また、我が国の知的財産法制について、知的創作物の保護を図るものか、営業標識の 保護を図るものかという観点で区別して整理すると次のとおりとなる。 22 （２）具体的な課題 生成 AI の利用は、文章だけでなく、標章、画像、音声など、マルチモーダル化してい る。そのため、著作権以外の知的財産権との関係についても、学習段階、生成・利用段 階における典型的な場面と当該場面における法の適用関係について、生成 AI 固有の課 題はあるかという点に留意しながら、整理・検討する必要がある。 そこで、本検討会では、意匠権及び商標権を取り上げるとともに、不正競争防止法に 定める不正競争類型のうち、商品等表示規制及び商品形態模倣品提供規制、並びに、営 業秘密及び限定提供データ規制について取り上げ、学習段階、生成・利用段階に分けて、 検討を行った。また、本検討会では、AI 生成物の利用行為が、肖像権やパブリシティ権 の侵害となり得る場合にはどのような場面があるかについても、課題として取り上げた。 具体的には、次のとおりである。 ○ 学習段階  AI（学習済みモデル）作成のために他者の登録意匠、登録商標等を学習用デー タとして使用することは、意匠権や商標権の効力が及ぶ行為に該当するか。  他人の商品等表示が含まれるデータや他人の商品の形態が含まれるデータを 学習用データとして使用することは、不正競争行為に該当し商品等表示規制や 商品形態模倣品提供規制に抵触することになるか。 また、営業秘密や限定提供データを学習用データとして使用することは、不 正競争行為に該当し、営業秘密・限定提供データ規制に抵触することになるか。 ○ 生成・利用段階  AI 生成物の利用行為が、意匠権・商標権侵害を構成する場合の要件や、不正 競争行為に該当すると判断される場合の要件の解釈に際し、AI 特有の考慮を する必要があるか。 〇 AI 生成物の保護（生成段階）  AI 生成物は、商標権、意匠権や不正競争防止法（商品等表示規制、商品形態模 倣品提供規制）の保護／規制の対象となるか。 ○ その他（肖像権及びパブリシティ権の適用）  AI 生成物に他人の肖像等が含まれ、それを利用する行為において、肖像権及 びパブリシティ権の侵害があると考えられるか。 23 （３）生成 AI と意匠法（意匠権）との関係 生成 AI と意匠法の関係について、意見募集では、特に画像生成 AI との関係で、他人 の登録意匠を意匠権者の許諾を得ずに学習する行為が意匠権の侵害となるかどうかと いう点について、侵害を構成すると考えるべきであるとの意見や、意匠の実施に該当せ ず、侵害を構成しないと考えるべきであるとの意見があった。また、AI 生成物が他人の 意匠と同一又は類似していた場合に、意匠権侵害になるかどうかという点についても懸 念の声があった。 以下では、意匠法制度を概観した上で、現行の制度を踏まえ、学習・生成・利用の各 段階における意匠法の適用関係を整理する。 ア 意匠法制度の概要 意匠法は、意匠の保護及び利用を図ることにより、意匠の創作を奨励し、もって産業 の発達に寄与することを目的とするものである（意匠法１条）。 「意匠」とは、物品若しくは建築物の形状等のほか、画像（操作用画像又は結果表示 画像）であって、視覚を通じて美感を起こさせるものであるところ（意匠法２条１項）、 登録を受けた意匠と同一又は類似する意匠を業として実施（意匠に係る物品の製造・使 用等のほか、画像意匠については、意匠に係る画像の作成、使用又は電気通信回線を通 じた提供等をする行為（意匠法２条２項））した場合には、当該登録意匠に係る意匠権の 侵害を構成する（意匠法 23 条）。 なお、意匠権侵害の成立要件として、いわゆる「依拠性」は不要であり、この点は、 先に見た著作権侵害の成立要件とは異なっている。 イ 生成 AI に係る各段階における意匠法の適用 生成 AI と意匠権について、現行の制度を踏まえると、以下の帰結や検討課題が考え られる。 （ア）学習段階 他人の登録意匠又はそれと類似する意匠（以下「登録意匠等」という。）が含まれるデ ータを AI に学習させる行為（学習段階）については、登録意匠等に係る画像であって も、AI 学習用データとしての利用は、 「意匠に係る画像」の作成や使用等には当たらず、 意匠法２条２項に定める「実施」に該当せず、意匠権の効力が及ぶ行為に該当しないと 考えられる。そもそも意匠法は設定登録により一定期間独占的に権利を実施することが できる代わりに、登録公報にその内容を掲載し、広く参照されることで更なる意匠の創 作を奨励し、産業の発達に寄与することを目的としているため、更なる意匠の創作に向 けて登録意匠等を AI に学習させることに意匠権の効力が及ばないことは、当該目的と 24 も整合的である 3。 （イ）生成・利用段階 AI 生成物に他人の登録意匠等が含まれ、それを利用する行為（生成・利用段階）につ いては、権利侵害の要件として依拠性は不要であり、また、類似性判断について、AI 特 有の考慮要素は想定し難いため、AI 生成物に関する権利侵害の判断は、従来の意匠権侵 害の判断と同様であると考えられる。すなわち、登録意匠と AI 生成物との比較を行い、 物品の用途及び機能の共通性を基準として物品が同一又は類似と評価でき、かつ、取引 者・需要者の注意を最も惹きやすい部分において構成態様を共通にしており、形態が同 一又は類似と評価できるか否かで判断を行うことになると考えられる 456。 （ウ）AI 生成物の意匠法による保護 意匠法３条１項１号は「工業上利用することができる意匠の創作をした者は、……そ の意匠について意匠登録を受けることができる。」と規定しており、意匠法６条１項２号 は「意匠の創作をした者の氏名及び住所又は居所」を願書に記載することを求めている。 意匠法６条１項１号が「出願人」について「氏名又は名称及び住所又は居所 」と規定し ていることと対比すれば、意匠法は、工業上利用することができる意匠を自然人が創作 することを前提としていると考えられる。また、意匠法 15 条２項では特許法 33 条１項 を準用し、意匠登録を受ける権利は移転することができる旨規定されており、出願前で あっても権利移転することができる権利能力を有する自然人であることを予定してい 3 なお、産業財産権の登録公報は、独立行政法人工業所有県情報研修館（INPIT) が運用している J-Plat-Pat（特許情報プラットフ ォーム）（https://www.j-platpat.inpit.go.jp/）上で、広く一般利用が可能となっている。ただし、データの単純な収集を目的とした 大量データのダウンロードや、ロボットアクセス（プログラムによる定期的な自動データ収集）のような行為は、サーバーへの負荷 が 高 ま り 、 一 般 の 利 用 を 妨 げ る 可 能 性 が あ る こ と か ら 、 禁 止 す る 運 用 が 取 ら れ て い る （ https://www.jplatpat.inpit.go.jp/help/ja/c09/c0900.html）。 4 生成段階における学習済みモデルへの入力としての登録意匠の利用は、学習用データとしての利用と同様、意匠権の侵害に当たら ないと考えられる。ただし、登録意匠（又はそれに類似する意匠）に係る画像を生成するための、学習済みモデルへの入力等がみな し侵害行為（意匠法 38 条８号ロ等）に該当するおそれがある点には留意する必要がある。 5 画像意匠については、画像の出力が意匠の実施（画像の作成。意匠法２条２項３号イ）に該当するおそれがある点に留意する必要 がある。 6 意匠法 60 条の 12 第 1 項は国際公表された意匠に関する補償金請求権について規定しているところ、その後段において「当該警 告をしない場合においても、国際公表がされた国際意匠登録出願に係る意匠であることを知つて意匠権の設定の登録前に業として その国際公表がされた国際意匠登録出願に係る意匠又はこれに類似する意匠を実施した者に対しては、同様とする。」と補償金の支 払を請求することができると規定している。 このとき、国際意匠登録出願の国際公表を学習用データとして機械学習を行って得られた学習済みモデルが特定の国際公表がさ れた国際意匠登録出願に係る意匠を出力し、それを業として実施した場合、学習用データに当該国際公表が含まれることを知って いる事実だけをもって「国際公表がされた国際意匠登録出願に係る意匠であることを知つて」いるという要件を満たすとは言えな いと考えられる。 その理由として、同項の前段では国際意匠登録出願に係る意匠を記載した書面を提示して警告をしたときに補償金の支払を請求 することができると規定していることを考慮すると、国際意匠登録出願の国際公表を全て読むことを第三者に義務付けることを求 めているものとは解されず、同項の後段で規定された「国際公表がされた国際意匠登録出願に係る意匠であることを知つて」いる状 態とは、実施した意匠と学習用データに含まれた国際公表に係る意匠とに具体的な対応関係があることを知っている状態を指して いると考えられるからである。 また、特許法 65 条においては特許に関する補償金請求権に関する規定があるが、同様に考えられる。すなわち、特許出願公開公 報を学習用データとして機械学習を行って得られた学習済みモデルが特定の特許出願に係る発明を出力し、それを業として実施し た場合、学習用データに当該公開公報が含まれることを知っている事実だけをもって特許法 65 条 1 項後段に規定されている「出願 公開がされた特許出願に係る発明であることを知つて」いるという要件を満たすとは言えないと考えられる。 なお、著作権における依拠性の考え方については、Ⅲ．１． （３）イ（イ）に記載されるとおりである。生成 AI の開発・学習段階 で既存の著作物を学習していた場合については、客観的に当該著作物へのアクセスがあったと認められることから当該生成 AI を利 用し、当該著作物に類似した生成物が生成された場合は、通常、依拠性があったと推認されると考えられる。 25 るものである。 また、裁判例によれば、意匠登録を受ける権利を有する創作者とは、 「意匠の創作に実 7 質的に関与した者」をいうとされており 、したがって、自然人が AI を道具として用い て意匠の創作に実質的に関与をしたと認められる場合には、AI を使って生成した物であ っても保護され得ると考えられる。いかなる場合に「自然人が意匠の創作に実質的に関 与」したと言えるかどうかについては、関連の裁判例 8のほか、上述した著作権法にお ける AI 生成物の保護に関する議論（具体的には、上記「１．法的ルール①（著作権法と の関係）」（３）ウ）が参考になるものと思われる。 なお、意見募集では、生成 AI は画像を大量に生成することも容易であるところ、AI 生成物が公知意匠となった場合には、特定の分野について意匠審査実務上の影響が生ず るのではないかという懸念の声もあった。 意匠登録には、意匠登録出願前に日本国内又は外国において公然知られた意匠等では ないこと（新規性） （意匠法３条１項各号）や、意匠登録出願前にその意匠の属する分野 における通常の知識を有する者が日本国内又は外国において公然知られ、頒布された刊 行物に記載され、又は電気通信回線を通じて公衆に利用可能となった形状等又は画像に 基づいて容易に意匠の創作をすることができなかったこと（創作非容易性） （意匠法３条 ２項）が必要である。 これらの要件を基礎とする意匠制度について、AI 技術の急速な進展がどのような影響 を与えるかについては、状況を注視しつつ、引き続き検討する必要がある。 （４）生成 AI と商標法（商標権）との関係 生成 AI と商標法の関係についても、意見募集では、特に画像生成 AI との関係で、他 人の登録商標を商標権者の許諾を得ずに学習する行為が商標権の侵害を構成するかど うかという点や、AI 生成物が他人の登録商標と同一又は類似していた場合に商標権侵害 になるかどうかという点、AI 生成物を商標として登録することができるかという点につ いて、様々な意見があった。 以下では、商標法制度を概観した上で、現行の制度を踏まえ、学習・生成・利用の各 段階における商標法の適用関係を整理する。 ア 商標法制度の概要 商標法は、商標を保護することにより、商標の使用をする者の業務上の信用の維持を 図り、もって産業の発達に寄与し、あわせて需要者の利益を保護することを目的とする ものである（商標法１条）。 「商標」とは、人の知覚によって認識することができるもののうち、文字、図形、記 号、立体的形状若しくは色彩又はこれらの結合、音その他政令で定めるもの（標章）で、 7 大阪高判平成６年５月 27 日（平成５年（ネ）第 2339 号）〔クランプ事件〕 大阪地判平成 29 年 10 月 12 日（平成 27 年（ワ）第 8271 号） 〔物干し器事件〕及び知財高判令和４年２月９日（令和３年（ネ）第 10077 号）〔入れ歯入れ容器事件〕等参照 8 26 業として商品を生産、証明し又は譲渡する者がその商品について使用をするもの、又は 業として役務を提供し又は証明する者がその役務について使用をするものであるとこ ろ（商標法２条１項）、他人が登録を受けた商標と同一又は類似する標章を指定商品又は 指定役務と同一又は類似する商品又は役務に使用する行為は、当該登録商標に係る商標 権の侵害を構成する（商標法 25 条及び 37 条等）。なお、意匠権侵害の場合と同様に、商 標権侵害の成立要件として、いわゆる「依拠性」は不要である。 イ 生成 AI に係る各段階における商標法の適用 生成 AI と商標権について、現行の制度を踏まえると、以下の帰結が考えられる。 （ア）学習段階 他人の登録商標又はそれと類似する商標（以下「登録商標等」という。）が含まれるデ ータを AI に学習させる行為（学習段階）については、登録商標等であっても、AI 学習 用データとしての利用は、商標権の効力が及ぶ指定商品・役務についての使用に該当し ないとして、商標権の効力が及ぶ行為に該当しないと考えられる。 （イ）生成・利用段階 AI 生成物に他人の登録商標等が含まれ、それを利用する行為（生成・利用段階）につ いては、権利侵害の要件として依拠性は不要であり、また、類似性判断について、AI 特 有の考慮要素は想定し難いため、AI 生成物に関する権利侵害の判断は、従来の商標権侵 害の判断と同様に、商品・役務の同一・類似性及び商標の同一・類似性により判断を行 うことになると考えられる。すなわち、商品・役務の類似性については、それぞれの商 品・役務について同一・類似の商標が使用された場合に同一営業主の製造、販売又は提 供に係る商品・役務と誤認されるおそれがあるか否かで判断を行い、商標の類似性につ いては、登録商標と AI 生成物が同一又は類似の商品・役務に使用された場合に、両者 の外観、称呼又は観念等によって需要者に与える印象、記憶、連想等を総合して全体的 に考察し、具体的な取引状況に基づいて、需要者に出所混同のおそれを生ずるか否かで 判断を行うことになると考えられる。 （ウ）AI 生成物の商標法による保護 商標法は、商標を使用する者の業務上の信用の維持と需要者の利益の保護を目的とし ており、自然人の創作物の保護を目的とするものではない。そのため、当該商標が自然 人により創作されたものか、AI により生成されたものかに関わらず、商標法３条及び４ 条等に規定された拒絶理由に該当しない限り商標登録を受けることができる。したがっ て、AI 生成物であっても商標法で保護され得ると考えられる。 27 （５）生成 AI と不正競争防止法との関係 生成 AI と不正競争防止法の関係については、意見募集において、商品等表示規制、 商品形態模倣品提供規制及び営業秘密・限定提供データ規制に反する利用は、従来どお り不正競争防止法違反を構成すると考えるべきであるなど、生成 AI における学習・生 成・利用の各段階における不正競争防止法の適用に関して特別な配慮は不要と考えるべ きであるとの意見が見られた。また、著作権、意匠権及び商標権と併せて、不正競争防 止法により既存のコンテンツを保護するべきであるとの指摘があった。 以下では、商品等表示規制、商品形態模倣品提供規制及び営業秘密・限定提供データ 規制に係る制度を個別に概観した上で、現行の制度を踏まえ、学習・生成・利用の各段 階における不正競争防止法の適用関係を整理する。 なお、意見募集では、著作権法では保護されない「作風」や「画風」について不正競 争防止法で保護するべきであるとの指摘もあった。この点については、５（１）におい て個別課題として検討する。 （５－１）商品等表示規制との関係 ア 不正競争防止法における商品等表示規制の概要 不正競争防止法は、事業者間の公正な競争及びこれに関する国際約束の的確な実施を 確保するため、不正競争の防止及び不正競争に係る損害賠償に関する措置等を講じ、も って国民経済の健全な発展に寄与することを目的とするものである（不正競争防止法１ 条）。 「不正競争」に該当する行為については、不正競争防止法２条１項各号に限定列挙さ れているところ、商品等表示（人の業務に係る氏名、商号、商標、標章、商品の容器若 しくは包装その他の商品又は営業を表示するもの）との関係では、①他人の周知な商品 等表示として需要者の間に広く認識されているものと同一・類似の商品等表示を使用等 することにより、他人の商品・営業と混同を生じさせる行為（不正競争防止法２条１項 １号）及び②自己の商品等表示として他人の著名な商品等表示と同一・類似のものを使 用等する行為（不正競争防止法２条１項２号）が不正競争行為とされている。 上述の①周知な商品等表示主体の混同行為又は②著名な商品等表示の冒用行為によ って他人の営業上の利益を侵害し、又は侵害されるおそれを生じさせた者は、当該侵害 行為の停止又は予防をする責任や損害賠償責任を負う（不正競争防止法３条及び４条）。 なお、商品等表示規制に係るこれらの不正競争行為について、いわゆる「依拠性」は 不要である。 イ 生成 AI に係る各段階における商品等表示規制の適用 生成 AI と不正競争防止法における商品等表示規制について、現行の制度を踏まえる と、以下の帰結が考えられる。 28 （ア）学習段階 他人の商品等表示が含まれるデータを AI に学習させる行為については、AI 学習用デ ータとしての利用は、周知な商品等表示について「混同」を生じさせるものではなく、 また、著名な商品等表示を自己の商品・営業の表示として使用する行為ともいえないた め、不正競争行為（不正競争防止法２条１項１号及び２号）に該当しないと考えられる。 （イ）生成・利用段階 AI 生成物に他人の商品等表示が含まれ、それを利用する行為（生成・利用段階）につ いては、不正競争の要件として依拠性は不要であり、また、類似性判断について、AI 特 有の考慮要素は想定し難いため、AI 生成物に関する不正競争（不正競争防止法２条１項 １号及び同項２号）か否かの判断は、一般的な違法性の判断と同様である。すなわち、 他人の周知な商品等表示と同一・類似のものを使用等することにより、他人の商品・営 業と混同を生じさせる行為（同項１号）、又は自己の商品等表示として他人の著名な商品 等表示と同一・類似のものを使用等する行為（同項２号）か否かにより判断することに なると考えられる 9。 （ウ）AI 生成物の不正競争防止法（商品等表示規制）による保護 不正競争防止法は、商品等表示規制について、 「他人の商品等表示として需要者の間に 広く認識されているもの」 （不正競争防止法２条１項１号）や「他人の著名な商品等表示」 （同項２号）と同一又は類似の商品等表示を使用等することを不正競争行為として規定 しており、当該商品等表示が自然人により創作されたものか、AI により生成されたもの かを問わない。 したがって、AI 生成物であっても商品等表示として不正競争防止法で保護され得ると 考えられる。 （５－２）商品形態模倣品提供規制との関係 ア 不正競争防止法における商品形態模倣品提供規制の概要 上述のとおり、 「不正競争」に該当する行為については、不正競争防止法２条１項各号 に限定列挙されているところ、商品形態模倣との関係では、他人の商品の形態（当該商 品の機能を確保するために不可欠な形態を除く。）を模倣した商品を譲渡等する行為（不 正競争防止法２条 1 項３号）が不正競争行為とされている。 なお、 「商品の形態」とは、需要者が通常の用法に従った使用に際して知覚によって認 識することができる商品の外部及び内部の形状並びにその形状に結合した模様、色彩、 光沢及び質感（不正競争防止法２条４項）、 「模倣する」とは、他人の商品の形態に依拠 9 商品等表示の類似性判断は、商標の外観（見た目） ・称呼（呼び方）・観念（意味合い）の各要素を総合考慮して行われている。 29 して、これと実質的に同一の形態の商品を作り出すこと（不正競争防止法２条５項）と されている。したがって、商品形態模倣品提供行為に係る不正競争行為については、著 作権侵害と同様に、いわゆる「依拠性」が要件として求められている一方、著作権侵害 と異なり、類似性では足りず、 「実質的同一性」が認められる場合に限られることに留意 が必要である。 商品形態模倣品提供行為によって他人の営業上の利益を侵害し、又は侵害されるおそ れを生じさせた者は、当該侵害行為の停止又は予防をする責任や損害賠償責任を負う （不正競争防止法３条及び４条）。 イ 生成 AI に係る各段階における商品形態模倣品提供規制の適用 生成 AI と不正競争防止法における商品形態模倣品提供規制について、現行の制度を 踏まえると、以下の帰結や検討課題が考えられる。 （ア）学習段階 他人の商品の形態が含まれるデータを AI に学習させる行為については、AI 学習用デ ータとしての利用は、他人の商品の形態を模倣した商品の譲渡等に該当せず、 「使用」は 規制の対象外であるため、不正競争行為に該当しないと考えられる。 （イ）生成・利用段階 AI 生成物に他人の商品の形態が含まれ、それを利用する行為（生成・利用段階）につ いては、実質的に同一の形態の商品といえるかどうかの判断において、AI 特有の考慮要 素は想定し難い。ただし、依拠性については、上述した著作権法の検討を応用できる面 も多いとも考えられる。 （ウ）AI 生成物の保護 不正競争防止法は、商品形態模倣品提供規制について、 「他人の商品の形態」 （不正競 争防止法２条１項３号）を模倣した商品を譲渡等することを不正競争行為として規定し ており、当該商品の形態が自然人により創作されたものか、AI により生成されたものか を問わない。 したがって、AI 生成物であっても商品形態として不正競争防止法で保護され得ると考 えられる。 30 （５－３）営業秘密・限定提供データとの関係 ア 営業秘密 10・限定提供データ 11規制の概要 上述のとおり、 「不正競争」に該当する行為については、不正競争防止法２条１項各号 に限定列挙されているところ、営業秘密・限定提供データ規制との関係では、①営業秘 密につき、不正取得又は不正取得したものを使用し、若しくは開示する行為等（不正競 争防止法２条１項４～10 号）及び②限定提供データにつき、不正取得又は不正取得した ものを使用し、若しくは開示する行為等（不正競争防止法２条１項 11～16 号）が不正競 争行為とされている。 なお、これらの不正競争行為について、いわゆる「依拠性」は不要である。 イ 生成 AI に係る各段階における営業秘密・限定提供データ規制の適用 生成 AI と不正競争防止法における営業秘密・限定提供データ規制について、現行の 制度を踏まえると、次の帰結や検討課題が考えられる。 （ア）学習段階 他人の営業秘密や限定提供データが含まれるデータを AI に学習させる行為について は、AI 学習用データとしての利用であるかどうかに関わらず、不正競争防止法が対象と するデータの保護の必要性は変わらないため、学習段階における営業秘密や限定提供デ ータの収集や使用が不正競争行為に該当するかどうかの判断は、一般的な不正競争行為 の判断と同様と考えられる。すなわち、営業秘密を含む学習用データの収集手段が正当 なものか否か、当該取得に係る営業秘密を含む学習用データを加工し、学習用プログラ ムに入力する行為が「使用」 （営業秘密の本来の目的に沿って行われ、当該営業秘密に基 づいて行われる行為）や「開示」 （営業秘密を公然と知られたものとすること及び非公知 性を失わない状態で営業秘密を特定の者に示すこと）に該当するか否か、技術上の秘密 の不正使用行為により生じた物の譲渡等に該当するか否か等によって、不正競争行為該 当性を判断することになると考えられる。 また、限定提供データを含む学習用データについても、上記と同様に限定提供データ を含む学習用データの収集手段が正当なものか否か、当該取得に係る限定提供データを 含む学習用データを加工し、学習用プログラムに入力する行為が「使用」や「開示」に 該当するか否か等によって、不正競争行為該当性を判断することになると考えられる。 いずれについても、判断基準について生成 AI 特有の問題はないと考えられる。 営業秘密や限定提供データを学習用プログラムに入力する場合には、入力により秘密 管理性や限定提供性などを喪失することのないように留意が必要である。営業秘密や限 10 「営業秘密」とは、秘密として管理されている（①秘密管理性） 、生産方法、販売方法その他の事業活動に有用な技術上又は営業 上の情報であって（②有用性）、公然と知られていないもの（③非公知性）をいう（不正競争防止法２条６項）。 11 「限定提供データ」とは、業として特定の者に提供する情報（①限定提供性）として電磁的方法により相当量蓄積され（②相当蓄 積性） 、及び管理されている（③電磁的管理性）技術上又は営業上の情報をいう(不正競争防止法２条７項）。 31 定提供データを学習用プログラムに入力した場合に秘密管理性や限定提供性を喪失す るかどうかについては、生成 AI の利用態様によって個別具体的に判断される必要があ る。 なお、限定提供データ規制についていえば、他者が、相当蓄積された記事データベー スと同一のデータベースをオープンなデータとして一般に公開している場合には、適用 除外規定（不正競争防止法 19 条１項９号ロ）が適用されるため、そもそも当該記事デー タベースについて限定提供データとしての保護が及ばないと考えられることに留意す る必要がある。他方で、記事データベースに含まれる個別の記事については、限定提供 データの要件のうち、相当蓄積性を満たさず、限定提供データとして保護されない場合 が多いと考えられる。 （イ）生成・利用段階 営業秘密や限定提供データを使用して得られた学習済みモデルや当該モデルの出力 （AI 生成物）については、学習済みモデルや AI 生成物に、元の営業秘密や限定提供デ ータ（なお、それらと実質的に等しいものを含む。）が含まれている場合には、その使用・ 開示が元の営業秘密・限定提供データの使用・開示に該当し、そうでない場合には該当 しないと考えられる。 なお、営業秘密や限定提供データを生成 AI に入力する場合には、入力により秘密管 理性や限定提供性などを喪失することのないように留意が必要である。営業秘密や限定 提供データを AI に入力した場合に秘密管理性や限定提供性を喪失するかどうかについ ては、生成 AI の利用態様によって個別具体的に判断される必要がある。例えば、秘密 保持義務を負わない事業者の提供する外部の生成 AI サービスに営業秘密を入力する場 合には保護の対象外となる可能性がある。 この点、生成 AI と営業秘密の関係については、経済産業省において、 「秘密情報の保 護ハンドブック」12を改訂し（2024 年２月改訂）、生成 AI の利用と秘密情報の管理・利 用の在り方等について明示したところであり、AI と限定提供データの関係については、 同省が公表している「限定提供データに関する指針」13の記載が参考になるところである が、同省では、今後とも、AI 技術の趨勢等を注視しつつ、必要に応じた見直し等を検討 することとしている。 （ウ）AI 生成物の保護 既に述べたとおり、不正競争防止法は、事業者の公正な競争の確保を目的としており、 営業秘密・限定提供データ規制との関係で当該情報が自然人により創作されたものか、 AI により生成されたものかを問わない。 したがって、AI 生成物であっても、営業秘密の要件（秘密管理性、有用性、非公知性） や限定提供データの要件（限定提供性、相当蓄積性、電磁的管理性）を満たす限り、不 正競争防止法で保護され得ると考えられる。 12 13 「秘密情報の保護ハンドブック」 （https://www.meti.go.jp/policy/economy/chizai/chiteki/pdf/handbook/full.pdf） 「限定提供データに関する指針」 （https://www.meti.go.jp/policy/economy/chizai/chiteki/guideline/h31pd.pdf） 32 （６）生成 AI とその他の権利（肖像権・パブリシティ権）の関係 生成 AI をめぐっては、意見募集において、特定の人物と誤認させるような写真が生 成 AI により生成されているなどの現状に鑑み、他人の肖像が学習・生成・利用の各段 階で用いられていることに対する懸念の声が複数あった。 以下では、他人の肖像との関係で主に問題となる肖像権及びパブリシティ権について 判例により認められた内容を個別に概観した上で、これらの判例で認められた権利と生 成 AI の関係について整理する。 なお、 「声」が生成 AI の学習に利用され、学習した「声」と似た音色の音声が生成さ れているとして、 「声」についても十分な保護を認めるべきであるとの意見もあった。こ の点については、５（２）において個別課題として検討する。 ア 肖像権の概要 肖像権について、法律上の明文規定は存在していないが、判例は「人は、みだりに自 己の容ぼう等を撮影されないということについて法律上保護されるべき人格的利益を 有」していると判示し 14、撮影によって当該人格的利益が侵害され、当該侵害の程度が 社会生活上受忍の限度を超える場合には、肖像権の侵害となると判示している 15。 また、最高裁判所は、上述の人格的利益の侵害が社会生活上受忍の限度を超えるかど うかの判断をするに際し、 「被撮影者の社会的地位、撮影された被撮影者の活動内容、撮 影の場所、撮影の目的、撮影の態様、撮影の必要性等を総合考慮して、被撮影者の上記 人格的利益の侵害が社会生活上受忍の限度を超えるものといえるかどうかを判断して 決すべきである。」と判示している 16。 イ パブリシティ権の概要 パブリシティ権について、法律上の明文規定は存在していないが、判例は、 「人の氏名、 肖像等……は、個人の人格の象徴であるから、当該個人は、人格権に由来するものとし て、これをみだりに利用されない権利を有すると解される……。そして、肖像等は、商 品の販売等を促進する顧客吸引力を有する場合があり、このような顧客吸引力を排他的 に利用する権利（……）は、肖像等それ自体の商業的価値に基づくものであるから、上 記の人格権に由来する権利の一内容を構成する」と述べて、パブリシティ権を認めてい る。 また、同判例は、パブリシティ権の侵害といえるかどうかについて、 「専ら肖像等の有 する顧客吸引力の利用を目的とするといえる場合」かどうかにより判断されると述べた 上で、その具体例として「①肖像等それ自体を独立して鑑賞の対象となる商品等として 使用し、②商品等の差別化を図る目的で肖像等を商品等に付し、③肖像等を商品等の広 14 最大判昭和 44 年 12 月 24 日（昭和 40 年（あ）第 1187 号）刑集 23 巻 12 号 1625 頁〔京都府学連事件〕 最判平成 17 年 11 月 10 日（平成 15 年（受）第 281 号）民集 59 巻９号 2428 頁〔法廷内写真撮影事件〕 16 ただし、あくまでも、 「ある者の容ぼう等をその承諾なく撮影することが不法行為法上違法となるかどうか」の判断基準として掲 げられたものであることに留意する必要がある。 15 33 告として使用するなど、専ら肖像等の有する顧客吸引力の利用を目的とするといえる場 合」を掲げている 17。 ウ 生成 AI に係る各段階における肖像権及びパブリシティ権の適用 学習段階、生成・利用段階において、他人の肖像が使用される場合に、それが肖像権 を侵害するものと言えるかどうかは、 「被撮影者の社会的地位、撮影された被撮影者の活 動内容、撮影の場所、撮影の目的、撮影の態様、撮影の必要性等を総合考慮して、被撮 影者の上記人格的利益の侵害が社会生活上受忍の限度を超えるものといえるかどうか」 という肖像権侵害に関する一般的な判断と同様に考えるべきであり、その判断基準につ いて生成 AI に特有の問題はないと考えられる 18。 また、学習段階、生成・利用段階において、著名人等の顧客吸引力を有する肖像等が 使用される場合があり、それがパブリシティ権を侵害するものと言えるかどうかは、専 ら肖像等の有する顧客吸引力の利用を目的とするといえるか否かというパブリシティ 権侵害に関する一般的な場合と同様に考えられ、その判断基準について、生成 AI に特 有の問題はないと考えられる。なお、判例は専ら肖像等の有する顧客吸引力の利用を目 的とするといえる場合の例として「①肖像等それ自体を独立して鑑賞の対象となる商品 等として使用し、②商品等の差別化を図る目的で肖像等を商品等に付し、③肖像等を商 品等の広告として使用するなど、専ら肖像等の有する顧客吸引力の利用を目的とすると いえる場合」を挙げていることは上述のとおりである。 17 最判平成 24 年２月２日（平成 21 年（受）第 2056 号）民集 66 巻２号 89 頁〔ピンク・レディー事件〕 なお、各要件についての具体的な考慮要素及び判定基準は、デジタルアーカイブ学会「肖像権ガイドライン」 （2023 年４月補訂版） においても紹介されており、肖像が含まれる AI 生成物の公開に関しても、参考になると考えられる。 18 34 ３．技術による対応 （１）具体的な課題 生成 AI について懸念されるリスク等に対しては、現在存在している技術に加え、新 たな技術の開発・普及も期待されるところ、知的財産権をめぐるリスクの回避等の観点 から、次の点を検討する必要がある。 ① 技術による対応策として、現在、具体的にどのような技術例が考えられるのか。 ② 技術による対応策の活用をどのように担保し、どのように促進することが適切と 考えられるか。 （２）考えられる技術例 生成 AI と知的財産権をめぐる懸念・リスクへの技術的な対応として考えられる技術 例の特徴及び留意点等については、次のとおり整理が可能である。次の（２－１）から （２－５）では、それぞれ個別に技術の特徴及び留意点を整理する。 ① AI が生成したコンテンツを利用者が識別できる仕組み ② フィルタリング ③ 自動収集プログラム（クローラ）による収集を拒絶する技術 ④ 画像に特殊な画像処理を施すことで学習を妨げる技術 ⑤ 学習元コンテンツの個別追跡・除外に関する技術 （２－１）AI が生成したコンテンツを利用者が識別できる仕組み ア AI 生成物であること等の表示 AI で生成されたコンテンツに AI ツールで生成されたこと等を示す電子透かしを追加 したり、コンテンツ認証情報（例えば、生成 AI ツールの使用の事実のほか、編集内容、 編集日時等の情報など）を AI が生成したコンテンツに紐付けして保存することなどに 特徴があり、既に商用化されているサービスも存在している。 意見募集においても、電子透かしや改竄することのできないメタデータの埋込み等に よるトレーサビリティの確保が必要であるとの意見や、コンテンツ利用者からしても AI 生成物であることを判別できる電子透かし等は有用であるとの意見が見られた。他方で、 デジタルデータである以上、技術的に削除することも不可能ではないなど、技術的な限 界があるとの意見もあった。 また、EU においては、AI 法（AI Act）により、AI システムのプロバイダ（開発者・ 提供者）に対し、AI 生成物が人為的に生成され、また操作されたものであることを機械 が検出できるようにすることを求める動きがある。 19 19 前述Ⅰ２（３）参照 35 AI 生成物であることに関する表示は、AI ツールで生成されたコンテンツについて、 来歴管理を行うことができる点で有用であると考えられるが、これらの表示を付すこと とする場合の「AI 生成物」の範囲や表示主体等については、多様な手法や考え方があり 得るため、現実的で実効的な方策について、生成 AI をとりまく関係者による議論が深 められることも期待したい。 なお、AI 生成物であることの表示が付されているかどうかと、当該 AI 生成物に著作 物性が認められるかどうかは完全に一致するものではなく、AI ツールにより生成したも のについて、著作物性が認められるかどうかについては、AI ツールの利用者による創作 的寄与がどの程度積み重なっているか等を総合的に考慮して、個別に判断する必要があ る点には留意が必要である。 【取組事例等】  Google 傘下の Google DeepMind 社は、Imagen (Google 社）による生成 AI 画像に電子透か しを追加し、透かしの入った画像を識別する技術(「SynthID」β 版）を公表 20（2023 年 8 月）  Microsoft による Bing Image Creator (Dall-E3 利用) による生成画像は、 AI で生成された ものであることを明示するために、個々の Image Creator 画像の左下隅に、AI で生成され たことを示す特別な Bing アイコンを表示 21  Adobe Firefly で生成された全てのコンテンツにおいて、AI ツールで生成されたこと等を示 す「コンテンツ認証情報」が含まれる仕様となっている 22（※生成 AI ツールの使用の事実の ほか、編集内容、編集日時等の情報が、コンテンツに紐づけられて保存される。各ファイルへ の直接添付やクラウドへの公開といった方法により、保存・復元される）  AI で生成された文章を検出することが困難であることについての指摘もなされている （Sadasivan et al, 及び Koike et al.） 23が、大規模言語語モデル（LLM）が出力するテキス トに電子透かしを入れる技術についても研究が進められている（Kirchenbauer et al） 24 イ コンテンツの信頼度を出元によって付与 インターネット上のサイト、ページ、コンテンツ、広告などについて、発信元組織の 発信情報やその信頼性に関する方法をインターネット利用者がブラウザー上で確認で きる仕組み（オリジネーター・プロファイル技術）や、発行者、作成日のほか、生成 AI ツールが使用されたことなどを C2PA 規格に準拠した改ざん防止メタデータとしてコン Google 社 Identifying AI-generated images with SynthID https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid 21 Microsoft 社 Q&A https://www.bing.com/images/create/help?FORM=GENHLP 22 https://helpx.adobe.com/jp/creative-cloud/help/content-credentials.html# 23 Sadasivan et al., “Can AI-Generated Text be Reliably Detected?”(2023) https://arxiv.org/abs/2303.11156 Koike et al., “OUTFOX: LLM-generated Essay Detection through In-context Learning with Adversarially Generated Examples”(2023) https://arxiv.org/abs/2307.11729 24 Kirchenbauer et al., “A Watermark for Large Language Models”(2023) https://arxiv.org/abs/2301.10226 20 36 テンツに添付し、専用の改ざん防止メタデータセットに保存することなどが考えられる。 前者は実用化に向けて研究開発中の技術であり、後者は Adobe 社において採用済みの技 術である。AI ツールで生成されたコンテンツの来歴を明確にする点で有用と考えられ る。 ただし、コンテンツ管理の観点からは、当該コンテンツがどの AI サービスで生成さ れたものであるかの情報が明らかになるだけでなく、当該コンテンツがいかなるプロン プトにより生成されたものか、その内容をプラットフォーマー等の AI 提供者において 管理し、明らかにすることができるような仕組みを導入することも有用であると考えら れる。 【取組事例】  オリジネーター・プロファイル（OP）技術 Originator Profile 技術研究組合が、インターネット上のサイト、ページ、コンテンツ、広告 などについて、発信元組織の発信情報やその信頼性に関する方法をインターネット利用者が ブラウザー上で確認できる仕組みを目指し、その実用化・実装に向けて、研究・開発中 25  コンテンツ認証情報（Content Credentials） C2PA 規格に準拠した改ざん防止メタデータとして、Adobe 社で採用（発行者、作成日のほ か、アドビ生成 AI ツールが使用されたことも表示） 。エクスポート又はダウンロード時にコ ンテンツに追加情報を添付し、コンテンツ認証情報と呼ばれる専用の改ざん防止メタデータ セットに保存 2627。  その他の事例 ペンタブレットを製造・販売する株式会社ワコムは、人が創作に寄与したことの証明として、 クリエイターの作品にマイクロマークを埋め込み、それに紐づいた制作履歴情報を保持する ）を検討中 28（欧州にて実証実験を実施） 。 技術（ 「Wacom Yuify」 ウ 生成物が AI によってつくられたものか否かの判定 デジタルプラットフォーム上にコンテンツが投稿される際に、当該コンテンツが AI 生成物か否か、AI 生成物である場合に使用されたソースの分類を行う仕組みである。既 に商用化されているサービスも存在しており、クリエイターがリクエストに応じたイラ ストを製作するサービスにおいて、実際に導入されている。 ただし、現状では、生成物が AI によって作られたものか否かを高精度で判定できる 保証はなく、生成物を少し改変するだけで判定困難になるなどの限界があることにも留 Originator Profile 技術研究組合 https://originator-profile.org/ja-JP/ Adobe 社 コンテンツ認証情報 https://helpx.adobe.com/jp/creative-cloud/help/content-credentials.html 27 Adobe 社 Adobe Firefly で 生 成 さ れ た 素 材 の コ ン テ ン ツ 認 証 情 報 コ ン テ ン ツ 認 証 情 報 https://helpx.adobe.com/jp/firefly/using/content-credentials.html 28 マ イ ナ ビ ニ ュ ー ス ク リ エ イ タ ー を 守 る “ 創 作 の 証 ” 「 Wacom Yuify 」 は 2024 年 に 公 開 、 ワ コ ム が 創 業 40 周 年 https://news.mynavi.jp/article/20230712-2725839/ 25 26 37 意する必要がある。 【取組事例】 Hive AI-generated content detection tool（https://hivemoderation.com/ai-generated-contentdetection）は、クリエイターがリクエストに応じたイラストを製作するサービス（Skeb 等）で導 入されている 29。 （２－２）フィルタリング AI が出力するコンテンツが他のコンテンツに類似していないかどうかを判定したり、 知的財産権を侵害するおそれのあるデータ・コンテンツの AI 入出力を抑制する技術で ある。例えば、前者については、既に Google、Bing、Yahoo!等の主要な検索エンジンに おいて類似画像検索機能が実装されている。また、後者についても、例えば、OpenAI 社 による DALL-E3 は、画像生成 AI において、“living artist”（存命中のアーティスト)の スタイルでのプロンプトは受けない仕様も搭載されているなど、実装されたサービスも 存在している。最近では、著作権が存在するキャラクターの画像生成を目的としたプロ ンプトは受け付けない等の調整が強化されつつある。 いずれも、侵害回避の観点から一定程度は有用であり、意図しない著作権侵害を回避 するためには、知的財産権に配慮する技術を採用し、透明性を重視・表明する生成 AI を 使用したり、AI 生成物を利用する前に、一般に利用できる類似画像検索ツール等を利用 したりすることを AI 利用者が希望する場合には、これを行うことができるように十分 に情報提供し、技術対応をすることが AI 開発者や AI 提供者には望まれる。意見募集で も、AI 開発者や AI 提供者において、知的財産権を侵害するおそれのあるデータやコン テンツの入出力を制限するべきであるとの意見が見られた。 ただし、著作権法における類似性判断は、創作的な表現の部分が類似している必要が あるため、AI が出力するコンテンツが他のコンテンツに（外形的に）類似しているかど うかを数値的に判定したとしても、当該判定と著作権法上の類似性判断の結果が乖離す る可能性がある。このため、類似画像検索機能等による侵害・非侵害のスクリーニング 機能は、事実上のものに留まる。また、比較対象とすべきコンテンツの範囲については、 Web 上の最新情報を想定することが望ましいため、どの時点の情報を元にして類似性を 判定しているかには留意する必要がある。加えて、知的財産権を侵害するか否かの類似 判定については、各種裁判例を参考にすることが考えられるが、いずれも個別具体的な 判断を基礎とするものであるから、裁判例との関係でも、厳密な判定には限界があるこ とにも留意する必要がある。 【取組事例】  OpenAI 社による DALL-E3 は、画像生成 AI において、“living artist”（存命中のアーティス ト) のスタイルでのプロンプトは受けない仕様 30 29 2023 年３月２日付 ITmedia「Skeb、AI 画像検出 AI を導入 取り締まり強化へ」 https://www.itmedia.co.jp/news/articles/2303/02/news102.html 30 OpenAI 社 DALL-３研究内容：https://openai.com/dall-e-3 38 （＊ただし、“living artist” の対象範囲の網羅性や「living」の判断時点等には留意が必要と も考えられる） （２－３）自動収集プログラム（クローラ）による収集を拒絶する技術 ア 「robots.txt」の記載による収集制限 「robots.txt」とは、各検索エンジンの自動収集プログラム（クローラ）に対して、特 定のコンテンツにアクセスしてよいかどうかの指示を与えるものである。クローラには、 ウェブサイト内の「robots.txt」という名称のファイルに Web サイト管理者が記載した 制限を尊重する慣行が存在し、収集を拒否したいクローラを個別に指定し、Web サイト 単位で指定することができる。既に一般化されており、一般的に用いられるクローラの 収集を拒否できる点で有用であり、意見募集においてもクリエイター保護の観点からは 重要であるとの指摘があった。 ただし、「robots.txt」の記載を無視するクローラも存在しており、当該クローラに対 しては収集を拒否できないこと、「robots.txt」の記載があるウェブサイトにアップロー ドしたコンテンツを第三者がダウンロードして別のウェブサイトに違法にアップロー ドした場合など、「robots.txt」による収集制限のないウェブサイトに別途アップロード されてしまった場合には、当該ウェブサイトからクローラに収集されてしまう場合があ ることなど、完全に収集を排除できるわけではない点には留意が必要である。また、 「robots.txt」の記載はあくまでウェブサイト管理者が行うことができる措置であり、当 該ウェブサイト管理者が常に権利者とも限らない点にも留意する必要がある。 【取組事例】  New York Times は、 「robots.txt」に OpenAI 社のクローラ（GPTBot）のブロックを開始 (2023 年８月)。また、利用規約（Terms of Service） 31の禁止事項に「機械学習又は AI シス テムの訓練を含むがこれに限定されない、いかなるソフトウェアプログラムの開発にコンテ ンツを使用すること」を追記（同４(３))  New York Times 以外にも、CNN、Bloomberg、Reuters、Business Insider、日経新聞など のペイウォールのあるメディアが GPTBot をブロックしているとされる 32。 イ ID・パスワード等によるアクセス制限 例えば、デジタルメディア上で、各種コンテンツのアクセスに制限を設けて、会員登 録をしたり、料金を支払った特定のユーザに ID やパスワード等を付して、当該特定の ユーザのみに各種コンテンツを利用できるペイウォールの仕組みなどがあり、広く一般 的に社会実装されている技術である。 https://help.nytimes.com/hc/en-us/articles/115014893428-Terms-of-Service#4 2023 年 8 月 26 日付 ITmedia「OpenAI のクローラーを New York Times などのペイウォールメディアがブロック開始」 https://www.itmedia.co.jp/news/articles/2308/26/news057.html 31 32 39 なお、ID やパスワード等を回避して行うクローリングは、不正アクセス行為に該当 し、不正アクセス禁止法違反（不正アクセス禁止法２条４項、３条及び 11 条）として刑 事罰の対象となる可能性もあり得ることには留意する必要がある。 （２－４）画像に特殊な画像処理（学習を妨害するノイズ）を施すことで学習を妨げ る技術 画像にノイズを加えることで、AI 学習において、別の画像として認識したり、画像認 識をできなくする技術であり、関連技術が既に公開されている。意見募集においても、 このような技術を用いて、権利者に無断で学習されることをクリエイター側から妨げる ことができるようなツールが必要であるとの意見や、学習を防ぐための対策をクリエイ ター側や企業に課す必要があるとの意見が見られた。 当該技術を施された画像を学習することで、同様の作風の画像を新たに生成すること はできなくなるため、権利者において自らの作品が AI 学習の用に供される事態を直接 的にコントロールすることができるという観点で、当該技術は有用である。 もっとも、AI 側にノイズによる誤認識を引き起こさせるものであるため、AI 開発者 や AI 提供者の業務を妨害することを目的とした悪質な行為については、電子計算機損 壊等業務妨害罪（刑法 234 条の２）等の刑事罰の対象となる可能性もあり得ることには 留意する必要がある。 【取組事例等】  「Glaze」 （シカゴ大学の研究チームが発表） ノイズを追加した画像を AI の学習に利用した際に AI 側が作品データを異なる作品と認識 し、アーティスト独自のスタイルなどの模倣を防御 33（研究段階）  「Mist」 （中国の開発チームが発表） ノイズを追加した画像を AI の学習に利用した際に AI 側がノイズによる誤認識で特徴を判別 することが難しくなり、クリエイターの作風に寄せた画像を新たに生成することはできなく なる仕組み 34（研究段階） （２－５）学習元コンテンツの個別追跡・除外に関する技術 ア 学習元データの個別追跡 学習元データの中にどのようなデータが含まれているかという情報を個別に追跡す ることは、学習済みモデルの作成者については生成過程を見ることで生成に寄与した学 33 Shan et al., “ Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models ” (2023 ） https://people.cs.uchicago.edu/~ravenben/publications/pdf/glaze-usenix23.pdf 34 Liang et al., “Adversarial Example Does Good: Preventing Painting Imitation from Diffusion Models via Adversarial Examples” (2023）https://icml.cc/virtual/2023/poster/23956 40 習画像を推定する研究が存在している。他方で、学習済みモデルの利用者は、学習元デ ータを学習済みモデルの作成者が自ら開示しない限り、観測することはできない。 よって、現在の技術では、学習済みモデルの作成者において学習元データの個別追跡 ができる可能性があるにとどまり、その余の追跡については、今後の研究開発の成果が 待たれるところである。 【取組事例】  生成 AI が生成した画像に対し、生成過程を見ることで生成に寄与した学習画像を推定する技 術の研究が行われている 35（研究段階）  自然言語についても、LLM から学習元の関連データを特定する技術について研究が行われて いる 36（研究段階） イ 学習用データからの除外（オプトアウト 37） 学習済みモデルが完成すると、個別の学習用データはベクトル化されていることから、 後日、学習済みモデルからの特定のデータのみを除外するということは一般的に困難と されており、学習用データからの除外を実現するためには、当該特定のデータを除外し たデータセットを用いて再学習させることにならざるを得ない。 この点、学習済みモデルについて特殊な画像でファインチューニングすることで、学 習用データから除外したい概念を生成しないようにすることができることを示す研究 があり、意見募集においても、学習済みの画像や影響を学習済みモデルから削除できる ような技術的な仕組みが必要であり、オプトアウトの権利を認めるべきであるなどの意 見があった。 確かに、学習用データからの除外は、権利者の意思を反映する仕組みとして有用では あるものの、上記のとおり、現在の技術においては当該特定のデータを除外したデータ セットを用いて再学習せざるを得ないことから、そのような対応を AI 事業者に負担さ せることが適当かという点については、技術の進展状況も踏まえつつ検討する必要があ る。 【取組事例】 学習済みモデルについて特殊な画像でファインチューニングすることで、オプトアウトした 35 Georgiev et al., “The Journey, Not the Destination: How Data Guides Diffusion Models”(2023) https://openreview.net/pdf?id=9hK9NbUAex 36 Shi et al.,“Detecting Pertaining Data From Large Language Models”(2023) https://arxiv.org/pdf/2310.16789.pdf 37 本中間とりまとめでは、権利者から請求された場合に学習済みモデルから当該権利者の請求に係る特定のデータを排除すること を指して「オプトアウト」という文言を用いており、EU におけるデジタル単一市場における著作権指令（Directive on copyright and related rights in the Digital Single Market）４条３項に定める権利（主に複製権）の留保とは異なるものであることに留意さ れたい。なお、これと対となる概念である「オプトイン」については脚注 66 参照。 41 い概念を生成しないようにすることができること等を示す論文が公表されている 3839（研究 段階） 38 Gandikota et al., “Erasing Concepts from Diffusion Models,” （2023) https://openaccess.thecvf.com/content/ICCV2023/papers/Gandikota_Erasing_Concepts_from_Diffusion_Models_ICCV_2023_pa per.pdf 39 Yao et al., “Large Language Model Unlearning,”(2023）https://arxiv.org/abs/2310.10683 42 （３）技術による対応策の法的ルールによる担保について 上記のとおり、ID やパスワード等を回避して行うクローリングは、不正アクセス行為 に該当し、不正アクセス禁止法違反として刑事罰の対象となる可能性があり得る（不正 アクセス禁止法２条４項、３条及び 11 条）。 なお、著作権法との関係については、文化審議会著作権分科会法制度小委員会「AI と 著作権に関する考え方について」において、AI 学習のための著作物の複製等を防止す る技術的な措置（ID・パスワード等を用いた認証によって、ウェブサイト内へのアクセ スを制御する措置）が、 「著作権法に規定する『技術的保護手段』又は『技術的利用制限 手段』に該当するか否かは、現時点において行われている技術的な措置が、従来、 『技術 的保護手段』又は『技術的利用制限手段』に該当すると考えられてきたものとは異なる ことから、今後の技術の動向も踏まえ検討すべきものと考えられる。」と整理されており、 引き続きの検討課題として掲げられている。 また、不正競争防止法においては、 「技術的制限手段」の回避を可能にする装置の譲渡 やプログラムを提供する行為等を規制の対象としているが（不正競争防止法２条１項 17 号及び 18 号）、上述のような ID・パスワード等によるアクセス制御措置が不正競争防止 法上の「技術的制限手段」に該当するか否かについても、今後の技術の動向も踏まえ検 討すべきものと考えられる。 43 ４．契約による対応（対価還元） （１）具体的な課題 生成 AI の開発・提供・利用の促進及び健全な発展による産業競争力の強化や、AI 技 術の進歩の促進と知的財産権の保護の視点から、知的財産権上のリスクに対する必要な 方策としては、技術による対応等と合わせて、生成 AI の利活用に係る対価がクリエイ ター等に還元され、新たな創作活動の動機付けとなるような方策を検討する必要がある。 そこで以下では、①契約による対価還元策を講じることの妥当性や、契約による対価 還元策と著作権法上の権利制限規定の関係について検討し、確認した上で、②具体的な 民間の取組事例等から考えられる方策例を示すとともに、③法・技術の観点から契約に よる対価還元策を担保する方策について、検討を行う。 （２）契約による対価還元策の妥当性等 クリエイター等に対する対価還元策に関しては、意見募集において、検討の必要があ ることの指摘がなされた一方で、対価還元の是非や範囲、実現の方法について、多様な 意見が示された。例えば、クリエイター等の協力によってデータセットを構築し、権利 を侵害しない手段で AI を利用できる仕組みを考えるべきであるといった意見や、無作 為に大量に収集したデータの全てについて、権利者を特定し、利益を公平に分配しよう とすることは非現実的であるといった意見なども見られたところである。 特に、著作権者等の利益を通常害さないと評価できる行為類型として整備された権利 制限規定の適用を受ける法定利用行為について、一律の対価還元の制度的措置を講じる ことは、理論的な説明が困難と考えられるとともに、上記のとおり、権利者の特定等の 実務上の対応にも限界があるといえる。他方で、コンテンツ創作の好循環の実現の観点 からは、民間において講じられることが考えられる任意の対価還元の方策例を示し、そ の取り組みを促進することは意義があると考えられる。 民法には「契約自由の原則」が存在しており、契約当事者は法令の制限の範囲内にお いて、契約の内容を自由に決定することができる（民法 521 条２項）。ただし、 「契約自 由の原則」といえども限界は存在しており、㋐当事者間の合意で適用を排除することが できない規定（強行規定）に反する内容の契約（民法 91 条反対解釈）及び㋑公序良俗に 反する内容の契約（民法 90 条）は、無効となる。 既に述べたとおり、生成 AI における学習については、著作権法 30 条の４をはじめと する権利制限規定が存在している。当該権利制限規定の内容は、利用条件等の設定範囲 にも影響する事柄である上、許諾が必要な利用場面についてはまさに契約による対応が 期待されるところであるから、契約による対価還元策を講じる前提として、著作権法 30 条の４をはじめとする各種権利制限規定の適用範囲についての十分な理解は必須であ る。 そして、生成 AI 開発者や生成 AI 提供者が、クリエイター等の創作した著作物を利用 44 する際に、良質なデータを学習するために、当該クリエイター等と合意の上で対価還元 策を講じて当該データを利用することは、著作権法 30 条の４に定める利用を排除する ものではなく、かつ、通常は公序良俗に反する内容の契約ではないと考えられるため、 対価還元のために当事者間で成立した契約の効力は何ら妨げられるものではないと考 えられる 40。 （３）考えられる方策例 ア 追加学習（ファインチューニング）のための学習データ提供 特定の用途に沿ったファインチューニング済みモデルの作成のため、データを保有す る権利者が学習用データを整備し、それを有償で提供する方策である。 すなわち、当該データが著作権法上の権利制限規定の対象とならない場合はもちろん、 権利制限規定の対象となり、権利者の許諾を要することなく学習できる場合であったと しても、更に良質なデータを学習するために AI 開発者や AI 提供者が権利者に対して対 価を支払い、正式なデータの提供を受けてからこれを利用するという手法であり、権利 者への対価還元方策例として有効なものであると考えられる。 この点、意見募集では、上記の方策を進める上でも、海賊版を追加学習した AI モデ ルの取締りを行い、データを保有する権利者から正規の追加学習用データを購入するよ う促すべきであるとの意見があった。 また、文化庁審議会著作権分科会法制度小委員会作成に係る「AI と著作権に関する考 え方について」でも、追加学習のうち、 「少量の学習データを用いて、学習データに含ま れる著作物の創作的表現の影響を強く受けた生成物が出力されるような追加的な学習 を行うため、著作物の複製等を行う場合」について、具体的事案に応じて、学習データ の著作物の創作的表現を直接感得できる生成物を出力することが目的であると評価さ れる場合には、享受目的が併存し、著作権法 30 条の４の適用を受けられない場合がある として、許諾が必要な場合があることが示されているところである。 重要なことは、著作権法 30 条の４の適用を受けられない場合はもちろん、適用を受け られる場合であったとしても、更に良質なデータを追加学習するための学習データ提供 契約を通じて権利者への対価還元をすることができるということである。 なお、権利者と AI 開発者や AI 提供者の間には、交渉力の差がある可能性もあるた め、当該データについての権利が及ぶ範囲や生成物の利用条件等について、権利者側と 十分な擦り合わせを行って、契約内容を明確化することが望ましい。 イ クリエイター自身が生成 AI を開発・提供 クリエイター自身が学習済みモデルを作成したり、自ら開発した生成 AI を販売した 40 なお、著作権法 30 条の４を含む権利制限規定が強行法規としての性質を有するかどうかという点についても、種々の見解がある ところである 45 りして収益を上げるということも、クリエイターに対する対価還元の手法として考えら れる。 意見募集では、クリエイターにとっての技術や作風は言わば人生の金型であるとして、 上記方策例と同様にクリエイター自身が学習モデルを作成し、クリエイター自身が開発 した生成 AI を販売することで対価還元を受けることができるようにすべきだとする意 見が示された。 他方で、生成 AI についてクリエイターから様々な懸念の声があることは文化庁審議 会著作権分科会法制度小委員会作成に係る「AI と著作権に関する考え方について」でも 示されているところであり、クリエイター自身が生成 AI を開発・適用する方法による 対価還元策の是非や可能性については、関係者間による議論の深まりも期待したい。 なお、クリエイターが自ら開発した生成 AI を他人に販売（使用許諾）する場合には、 事前学習するデータの権利が及ぶ範囲や生成物の利用条件等について、当事者間であら かじめ明確にしておくことが望ましい。 ウ クリエイター自身が創作活動において生成 AI を活用 クリエイター自身がその創作活動において生成 AI を活用する方策である。 生成 AI の利用は、各種作業の効率化とともに、個人の発想を超えたアイデアの革新 を促したりするなど、新たなコンテンツを人が創造する上で有効な面があると考えられ、 本検討会におけるヒアリングにおいても、コンテンツ業界における生成 AI の活用事例 と、その有効性についての紹介があった。また、意見募集においても、クリエイター等 が自ら生成 AI を使いこなし、より高度な作品を生み出し、それによる対価を得ること が一番の対価還元であるといった意見もあった。 他方、意見募集においては、クリエイターが生成 AI を活用して、新たな創作活動に 活かしていくことは時期尚早であるという意見も見られ、生成 AI に対するクリエイタ ーからの懸念の声があることは文化庁審議会著作権分科会法制度小委員会作成に係る 「AI と著作権に関する考え方について」でも明示されているところである。 このため、コンテンツの創作活動における生成 AI の望ましい利活用の在り方につい ても、議論の深まりも期待したい。 なお、上述のとおり、クリエイターが創作活動において生成 AI を利用した場合、そ の生成物（AI 生成物）が著作物として認められるかどうかは、単なる労力にとどまらず、 創作的寄与があるといえるものがどの程度積み重なっているか等を総合的に考慮し、 個々の AI 生成物ごとの個別具体的な事例に応じて判断されることには留意が必要であ る。また、当該 AI 生成物が、他人の著作物に係る著作権を侵害していないかどうかと いう観点でも検討が必要である。 エ その他（裁判による紛争解決） 生成 AI に関する学習段階、生成・利用段階のいずれの段階についても、その利用に つき自らの権利を侵害されたと考える者は、民事訴訟や、司法型・行政型・民間型の ADR 46 （裁判外紛争解決手続）などの各種の手続を用いた紛争解決により、対価還元を実現す ることも可能である。 通常、民事訴訟は公開された手続で実施され、ある程度の審理期間を経て解決が図ら れるものであるのに対し、例えば司法型の ADR である知財調停は、知的財産権部の裁 判官及び知的財産権に関する事件についての経験が豊富な弁護士や弁理士から構成さ れる調停委員会により、迅速かつ柔軟な解決が図られている。 なお、意見募集では、権利者に対する直接の対価還元策については、自身が権利者で あると虚偽申告をする者が出現する懸念があるとして、直接の対価還元策よりも、裁判 による紛争解決を志向する意見も見られたところである。 【参考】民間事業者による対価還元の取組事例 47 （４）契約による対価還元策の担保について 契約による対価還元について、現時点で考えられる主な方策例は上記のとおりである が、当該対価還元策を促進する観点からも、上記の契約による方策例を担保する法的ル ールを確認しておくことや、これを技術的に担保することができる措置を併せ利用する ことも有益と考えられる。 契約による対価還元策を担保する機能を有する法的ルールや技術について整理する と、概ね、次のとおりである。 ア 法的ルールによる担保 （ア）許諾が必要な範囲の明確化 著作物の著作者には著作権が発生しているため、他人の著作物を利用するには著作権 者の許諾が必要となるのが原則である。 もっとも、著作権法は、第１条に定める「文化的所産の公正な利用」という点に配慮 するため、一定の場合には権利者の許諾を得ることなく著作物等を利用できる旨の、権 利制限規定を設けている。AI と著作権の関係においては、著作物に表現された思想又は 感情の享受を目的としない利用（著作権法 30 条の４）や電子計算機による情報処理及び その結果の提供に付随する軽微利用等（著作権法 47 条の５）などの規定を利用すること が考えられるところ、生成 AI と著作権の関係については、文化審議会著作権分科会法 制度小委員会における検討を経て、許諾が必要な範囲の明確化が進められているところ である。 各権利制限規定により、権利者の許諾を得ることなく利用可能となる範囲を明確化す ることは、別途契約による利用許諾を要する場合を明確化することと同義であり、契約 による対価還元実現の担保となり得る。 なお、上述のとおり、民法には「契約自由の原則」が存在しており、契約当事者は法 令の制限の範囲内において、契約の内容を自由に決定することができる（民法 521 条２ 項）。著作権法 30 条の４をはじめとする各種権利制限規定により権利者の許諾を要する ことなくその著作物を利用することができる場合であっても、AI 開発者や AI 提供者が、 自ら進んで権利者と合意の上で対価還元策を講じることは可能であり、良質な生データ や学習データに係るライセンス市場の形成と権利者への対価還元の実現が図られるこ とも期待される。 （イ）権利者詐称問題への対応 上述のとおり、意見募集では、権利者に対する直接の対価還元策については、自身が 権利者であると虚偽申告をする者が出現する懸念があるとする意見も見られた。 著作権法は、著作者でない者の実名又は周知の変名を著作者名として表示した著作物 の複製物を頒布した者に対する罰則規定を設けており（著作権法 121 条）、現行制度にお 48 いても権利者詐称問題について一定の対応がなされている 41。 なお、この点に関し、文化庁審議会著作権分科会法制度小委員会「AI と著作権に関す る考え方について」では、 「なお、著作物に当たらないものについて著作物であると称し て流通させるという行為については、著作物のライセンス契約のような取引の場面にお いてこれを行った場合、契約上の債務不履行責任を生じさせるほか、取引の相手方を欺 いて利用の対価等の財物を交付させた詐欺行為として、民法上の不法行為責任を問われ ることや、刑法上の詐欺罪に該当する可能性が考えられる。この点に関して、著作権法 による保護が適切かどうかなど、著作権との関係については、引き続き議論が必要であ ると考えられる。」と整理されているところである（43 頁）。 イ 技術による担保 （ア）自動収集プログラム（クローラ）による収集を拒絶する技術 契約による対価還元を実現していくためには、データの適正管理が必要である。そこ で、契約による対価還元の担保策として、例えば、ID・パスワードの設定や「robots.txt」 等の対策を講じることで自動収集プログラム（クローラ）による収集を拒絶した上で、 権利者が AI 開発者や AI 提供者との間で学習データの提供に関する契約を締結するこ とが考えられる 42。 ただし、ID・パスワード等の回避は、前述のとおり、不正アクセス禁止法違反として 位置付けられ得る一方で、学習データをライセンス提供する場合も、クリエイター自身 が生成 AI を開発・提供する場合も、当該データの海賊版が広く出回ってしまう場合に は、自動収集プログラム（クローラ）により当該海賊版が読み込まれてしまうおそれが ある。 したがって、著作物等の適正な管理を期する権利者等の意思を貫徹し、契約による対 価還元を実現するためにも、インターネット上の海賊版対策を強化し、海賊版サイト運 営者の摘発など、侵害に対するエンフォースメントの取組を強化することが必要である とともに、民間においても、適正に管理された正規版の普及の取組も必要である。 （イ）学習データの追跡・特定 学習元データの中にどのようなデータが含まれているかという情報を個別に追跡・特 定することができれば、当該データの利用について、対価還元を含めた契約締結交渉等 も容易になるものと考えられる。 この点、上述のとおり、現在の技術では、学習済みモデルの作成者において学習元デ ータの個別追跡ができる可能性があるにとどまり、その余の追跡については、一般に、 41 ただし、著作権法 121 条の規定について、自身が「権利者」であると虚偽申告をする者が出現した場合に妥当するかどうかは、個 別具体的な事案に応じて検討する必要がある。 42 実際、自社記事に関し、The New York Times（米国） 、Financial Times（英国）、The Guardian（英国）は、AI 学習のための著 作物の複製等を防止する技術的な措置と、情報解析に活用できる形で整理したデータベースの著作物としての販売を併せて実施し ている。また、Axel Springer （ドイツ）は、傘下メディアの記事を掲載するウェブサイトの「robots.txt」において AI 学習データ 収集用クローラをブロックし、別途、OpenAI(米国)に対して AI 学習及び AI による要約等の生成に関する記事データのライセンス を提供している。（文化審議会著作権分科会法制度小委員会「AI と著作権の考え方について」26 頁脚注 30 参照） 49 今後の研究開発の成果が待たれるところである。他方、学習元データの特定と対価還元 を実現しようとする取組例も見られる。 【参考】学習元データの特定と対価還元の取組例 「写真・映像販売のアマナイメージズ（東京・千代田）は「日本風」の画像を描ける生成 AI（人 工知能）を開発する。……2020 年設立のブリア AI（イスラエル）が開発した画像生成 AI の基盤 モデルに、アマナイメージズが普段販売する日本で撮られた写真を追加で学習させる。……ブリア AI の基盤モデルは出力した画像１枚ごとに作画に貢献した 100〜300 枚程度の学習素材を把握で きるのが特長だ。アマナイメージズはこの機能を使い、受け取った料金の一部を作画に貢献した写 真の権利者に分配する。権利者は従来の写真素材の販売に加えて、新たな報酬を得られるようにな る 43。 」 43 2024 年 1 月 26 日 付 日 本 経 済 新 聞 「 画 像 生 成 AI 、 学 習 素 材 の 権 利 者 に 対 価 https://www.nikkei.com/article/DGXZQOUC1284M0S3A211C2000000/ 50 アマナイメージズ」 ５．個別課題 （１）労力・作風の保護 ア 具体的な課題 生成 AI のリスクや問題点に関し、知的財産権との関係においては、特に、著作権の 侵害リスクが指摘されるとともに、他人が労力を費やして収集・構築した事実・データ 等を AI に学習させることや、それらを含む情報が生成されること等は、労力に対する フリーライドであるとする意見や、他人の著作物を AI に学習させ、その著作物と類似 する作風を有するコンテンツが生成されるような事例についての懸念など、労力や作風 といった、著作権法等が必ずしも保護対象として明記していないものの利用や生成につ いての懸念が示されている 44。 そこで、生成 AI をめぐる懸念や侵害リスクに対する対応策として、著作権に限らず、 知的財産権全般との関係についての法的な整理について検討を行う必要がある。 イ 著作権法との関係 そもそも、著作権法は、著作者に著作者人格権と著作権を付与するところ（著作権法 17 条）、「著作物」とは「思想又は感情を創作的に表現したものであつて、文芸、学術、 美術又は音楽の範囲に属するもの」と定義され（著作権法２条１項１号）、具体的な表現 を得る過程で費やされた「労力」それ自体や、具体的な表現に至らない「作風」 （アイデ ア）を著作権法は保護してはいない。 したがって、現行の著作権法により「労力」や「作風」 （アイデア）それ自体を保護す ることは困難であると言わざるを得ない。 生成 AI と著作権法の関係については、文化審議会著作権分科会法制度小委員会で審 議されているところ、同小委員会作成に係る「AI と著作権に関する考え方について」に おいても、 「作風や画風といったアイデア等が類似するにとどまり、既存の著作物との類 似性が認められない生成物は、これを生成・利用したとしても、既存の著作物との関係 で著作権侵害とはならない。」と整理されている（24 頁）。 また、著作権法 30 条の４に定める「享受……を目的としない場合」との文言から明ら かなとおり、享受を目的とする場合には同条の適用がないところ、他人の著作物に含ま れる作風を意図的に出力させる目的で AI に学習させる場合には、それが「作風」 （アイ デア）にとどまらず、学習データの著作物の創作的表現を直接感得できる生成物を出力 することが目的であると評価される場合は、享受目的が併存するものとして、許諾が必 44 そもそも、著作権法の保護対象となる創作的表現と、著作権法の保護対象外であるアイデアとの区別について、画一的な線引き は困難な側面があることにも留意が必要である。 なお、アイデアは著作権法上の保護対象ではないという点は、 例えば、いわゆる キャラクターの保護の是非をめぐっても見られる論点であり、キャラクターの利用が、 創作的表現として観念し得るイラスト等の 利用でなく、登場人物の人格ともいうべき抽象的概念の利用にとどまる場合には、著作権法の保護は受け得ないと考えられるとこ ろである。 51 要な場合もあり得ると整理されている。 【参考】文化審議会著作権分科会法制度小委員会「AI と著作権に関する考え方について」 （21-22 頁） 「近時は、特定のクリエイターの作品である少量の著作物のみを学習データとして追加的な 学習を行うことで、当該作品群の影響を強く受けた生成物を生成することを可能とする行為が 行われており、このような行為によって特定のクリエイターの、いわゆる「作風」を容易に模倣 できてしまうといった点に対する懸念も示されている。 この点に関して、いわゆる「作風」は、これをアイデアにとどまるものと考えると、…「作風」 が共通すること自体は著作権侵害となるものではない。 他方で、アイデアと創作的表現との区別は、具体的事案に応じてケースバイケースで判断さ れるものであるところ、生成 AI の開発・学習段階においては、このような特定のクリエイター の作品である少量の著作物のみからなる作品群は、表現に至らないアイデアのレベルにおいて、 当該クリエイターのいわゆる「作風」を共通して有しているにとどまらず、創作的表現が共通す る作品群となっている場合もあると考えられる。このような場合に、意図的に、当該創作的表現 の全部又は一部を生成 AI によって出力させることを目的とした追加的な学習を行うため、当 該作品群の複製等を行うような場合は、享受目的が併存すると考えられる。 また、生成・利用段階においては、当該生成物が、表現に至らないアイデアのレベルにおい て、当該作品群のいわゆる「作風」と共通しているにとどまらず、表現のレベルにおいても、当 該生成物に、当該作品群の創作的表現が直接感得できる場合、当該生成物の生成及び利用は著 作権侵害に当たり得ると考えられる。 」 ウ 不正競争防止法との関係 営業秘密、限定提供データ、周知又は著名な商品等表示（人の業務に係る氏名、商号、 商標、標章、商品の容器若しくは包装その他の商品又は営業を表示するもの）、商品形態 等に該当するものは、不正競争防止法が定める一定の要件及び対象行為に対して規制が 及ぶ（２条１項各号）。ただし、当該規定は、直接の「労力」そのものを保護するもので はないことには留意する必要がある。 エ 知的財産法と一般不法行為責任との関係 個別の知的財産法による保護が及ばない場合に、一般不法行為責任が成立する余地が あるかが問題となるところ、著作権など法律に定められた厳密な意味での権利が侵害さ れた場合に限らず、法的保護に値する利益が違法に侵害された場合であれば不法行為が 成立するとして、労力を保護したとも評価し得る裁判例が存在する。 52 【参考】知財高判平成 17 年 10 月６日（平成 17 年（ネ）第 10049 号） 〔ヨミウリ・オンライン（YOL） 事件〕 「不法行為（民法 709 条）が成立するためには、必ずしも著作権など法律に定められた厳密な意 味での権利が侵害された場合に限らず、法的保護に値する利益が違法に侵害がされた場合であれ ば不法行為が成立するものと解すべきである。」 「相応の苦労・工夫により作成されたものであって、簡潔な表現により、それ自体から報道され る事件等のニュースの概要について一応の理解ができるようになっていること、YOL 見出しのみ でも有料での取引対象とされるなど独立した価値を有するものとして扱われている実情があるこ となどに照らせば、YOL 見出しは、法的保護に値する利益となり得るものというべきである。一 方、前認定の事実によれば、被控訴人は、控訴人に無断で、営利の目的をもって、かつ、反復継 続して、しかも、YOL 見出しが作成されて間もないいわば情報の鮮度が高い時期に、YOL 見出 し及び YOL 記事に依拠して、特段の労力を要することもなくこれらをデッドコピーないし実質的 にデッドコピーして LT リンク見出しを作成し、これらを自らのホームページ上の LT 表示部分の みならず２万サイト程度にも及ぶ設置登録ユーザのホームページ上の LT 表示部分に表示させる など、実質的に LT リンク見出しを配信しているものであって、このようなライントピックスサー ビスが控訴人の YOL 見出しに関する業務と競合する面があることも否定できないものである。 そうすると、被控訴人のライントピックスサービスとしての一連の行為は、社会的に許容され る限度を越えたものであって、控訴人の法的保護に値する利益を違法に侵害したものとして不法 行為を構成するものというべきである。 」 その後に登場した北朝鮮事件最高裁判決では、著作権法６条各号所定の著作物（著作 権法の保護を受ける著作物）に該当しない著作物の利用行為は、著作権法が規律の対象 とする著作物の利用による利益とは異なる法的に保護された利益を侵害するなどの特 段の事情がない限り、不法行為を構成しないとの見解を示している 45。 【参考】最判平成 23 年 12 月８日（平成 21 年（受）第 602 号、同第 603 号）民集 65 巻９号 3275 頁〔北朝鮮事件〕 「著作権法は、著作物の利用について、一定の範囲の者に対し、一定の要件の下に独占的な権利 を認めるとともに、その独占的な権利と国民の文化的生活の自由との調和を図る趣旨で、著作権 の発生原因、内容、範囲、消滅原因等を定め、独占的な権利の及ぶ範囲、限界を明らかにしてい る。同法により保護を受ける著作物の範囲を定める同法６条もその趣旨の規定であると解されるの であって、ある著作物が同条各号所定の著作物に該当しないものである場合、当該著作物を独占 的に利用する権利は、法的保護の対象とはならないものと解される。したがって、同条各号所定の 著作物に該当しない著作物の利用行為は、同法が規律の対象とする著作物の利用による利益とは 異なる法的に保護された利益を侵害するなどの特段の事情がない限り、不法行為を構成するもの ではないと解するのが相当である。 」 45 同最高裁判決の登場により、個別の知的財産法により保護されないものについては、原則として不法行為を構成することはない ことになるとも考え得る。他方、同判決は、著作権法６条についての説示であり、同条は、 「著作物」が日本の著作権法で保護され る要件を定める規定であることから、同判決は、著作物性が否定されるものの保護要件を示したものではない（著作物性が否定さ れるものの不法行為責任の成否については、民法 709 条等の要件に照らして独自に判断すれば足りる）との考え方もあり得る。 53 なお、 「作風」が、思想又は感情の創作的表現に至らない「アイデア」にとどまるもの であれば、著作権法の保護対象ではないことは上述のとおりである。一般不法行為責任 により、 「作風」を保護することができるかどうかについては、上述の「労力」に関する 考え方と同様であると考えられる。 オ 上記検討を踏まえた対応策 上述のとおり、「労力」や「作風」（アイデア）それ自体を、著作権法等の知的財産法 により保護することには、それぞれの知的財産法の目的等との関係性の下、自ずと限界 があると考えられるところである。 しかしながら、このことは「労力」や「作風」 （アイデア）がおよそ保護され得ないと いう帰結を示すものではないことに留意する必要がある。すなわち、後記６において示 すとおり、これまで検討してきた「法」、「技術」及び「契約」の各手段は、別個独立の ものと捉えるのではなく、また、それぞれには限界が存在することを踏まえ、 「法」によ る対応に限界がある部分は、 「技術」による対応（上記３）や「契約」による対応（上記 ４）も活用しながら、「労力」や「作風」 （アイデア）の適切な保護と活用のバランスを 46 探ることも考えられる 。例えば、労力をかけて制作した作品について、当該労力それ 自体が知的財産法の保護の対象として評価し得るか否かに関わらず、AI 開発者や AI 提 供者とクリエイター等との間で、追加的な学習のための学習データ提供契約を締結し、 投下した労力に相当する対価を得られるようにしたり、作風を AI に学習されたくない 場合には「robots.txt」の記載による収集制限や ID・パスワード等によるアクセス制限 を行うことなどが考えられるところである。 46 こうして、AI により利用されるデータ等には、知的財産法により保護されないものも含まれ得るところ、当事者間において、デ ータ等の具体的な取扱いにつき、契約によって定めておくことが重要となる。この点、例えば農業分野では、AI の研究開発や利用 を行う当事者における契約の円滑化を図るものとして、農林水産省により、 「農業分野における AI・データに関する契約ガイドライ ン－ノウハウ活用編－」 （令和２年３月 12 日）が公表されている（https://www.maff.go.jp/j/kanbo/tizai/brand/attach/pdf/keiyaku1.pdf ）。 54 （２）声の保護 ア 具体的な課題 昨今、声優をはじめとする人の声を学習させ、本人類似の音声を生成できる AI が無 断で開発されてウェブサイト上で販売され、これを購入した者が生成した音声をウェブ サイト上にアップロードするなどの事例が見られている。他方で、権利者から許諾を受 けて提供を受けた声優の声を学習し、本人類似の音声を生成できる AI を展開する事例 も見られる。意見募集においても、 「声」がどのように保護されているのかということに 対する懸念も示されたことから、 「声」の保護に関する法の適用関係について、整理を行 う必要がある。 ただし、 「声」の保護をめぐっては、肖像権・パブリシティ権といった、知的財産法の 周辺の法領域に関する検討も必要と考えられるため、以下では、それらも含めて確認し た。 イ 肖像権・パブリシティ権による保護の有無 （ア）肖像権による保護の有無 肖像権の概要については、既に上記「２．法的ルール②（著作権法以外の知的財産法 との関係）」 「（６）生成 AI とその他の権利（肖像権・パブリシティ権）の関係」におい て整理したとおりである。 現在、我が国には、肖像権を明文化した法令は存在しないが、判例は「人は、みだり に自己の容ぼう等を撮影されないということについて法律上保護されるべき人格的利 益を有」していると判示し 47、撮影によって当該人格的利益が侵害され、当該侵害の程 度が社会生活上受忍の限度を超える場合には、肖像権の侵害となると判示している 48。 もっとも、上述のいずれの判例においても「容ぼう等」とは「容ぼう」及び「姿態」 であると定義されているところ、これを更に抽象化・一般化して、 「容ぼう等」に「声」 が含まれると解することは文言上困難と考えられ、 「声」が上記判例でいうところの肖像 権により保護される可能性は高いとは言えないと考えられる。 （イ）パブリシティ権による保護の有無 パブリシティ権の概要についても、既に上記２（６）において整理したとおりである。 現在、我が国には、パブリシティ権を明文化した法令は存在しないが、判例は、 「人の 氏名、肖像等……は、個人の人格の象徴であるから、当該個人は、人格権に由来するも のとして、これをみだりに利用されない権利を有すると解される……。そして、肖像等 は、商品の販売等を促進する顧客吸引力を有する場合があり、このような顧客吸引力を 排他的に利用する権利（以下「パブリシティ権」という。）は、肖像等それ自体の商業的 47 48 最大判昭和 44 年 12 月 24 日（昭和 40 年（あ）第 1187 号）刑集 23 巻 12 号 1625 頁〔京都府学連事件〕 最判平成 17 年 11 月 10 日（平成 15 年（受）第 281 号）民集 59 巻９号 2428 頁〔法廷内写真撮影事件〕 55 価値に基づくものであるから、上記の人格権に由来する権利の一内容を構成する」と述 べて、パブリシティ権を認めている 49。 そして、同判決の調査官解説 50では、パブリシティ権の客体である「肖像等」につい ては、本人の人物識別情報を指し、「声」は「肖像」そのものではないとしても、「肖像 等」には「声」が含まれると明示されている。 したがって、同判例においてパブリシティ権が及ぶ場合として例示された「①肖像等 それ自体を独立して鑑賞の対象となる商品等として使用し、②商品等の差別化を図る目 的で肖像等を商品等に付し、③肖像等を商品等の広告として使用するなど、専ら肖像等 の有する顧客吸引力の利用を目的とするといえる場合」に該当する場合、すなわち、① 声自体を独立して鑑賞の対象となる商品等として使用する場合、②商品等の差別化のた めに声を商品等に付している場合、③声を商品等の広告として使用している場合には、 「声」についてパブリシティ権に基づく保護が可能と考えられる。 なお、同判例が示したパブリシティ権が及ぶ３つの場合は、あくまで例示にすぎず、 パブリシティ権により「声」が保護される場合が、上述した３つの場合に限定されるこ とを示すものではないことには留意する必要がある。パブリシティ権は、顧客吸引力を 排他的に利用する権利であるため、具体的な利用態様や状況に鑑み、 「専ら肖像等の有す る顧客吸引力の利用を目的とするといえる場合」であれば、 「声」に対するパブリシティ 権による保護は及ぶと考えられる 51。 ウ 知的財産法による保護の有無 （ア）著作隣接権による保護の有無 音声データが著作権法上の「実演」に該当する場合は、著作隣接権として保護される。 ただし、あくまでも「実演」が保護されるものであり、 「声」そのものが著作隣接権で保 護されるものではないことには留意する必要がある。 また、実演の学習行為には、著作権法 30 条の４が準用されるため（著作権法 102 条１ 項）、同条が適用される範囲内の利用については、原則として許諾を得る必要がない。 （イ）商標権による保護の有無 人の音声を含む標章は、音の商標として商標登録の対象となる（商標法２条１項）。 ただし、その保護範囲は、当該商標及び指定商品又は指定役務と同一又は類似の範囲 において、商標として使用する場合に限定される（商標法 25 条、26 条及び 37 条）。 なお、音商標の類否の判断は、音商標を構成する音の要素及び言語的要素（歌詞等） を総合して、商標全体として考察するものであり、 「声」そのものの類否は問題とならな いと考えられる点には留意する必要がある。 49 最判平成 24 年２月２日（平成 21 年（受）第 2056 号）民集 66 巻２号 89 頁〔ピンク・レディー事件〕 中島基至「判解」最判解民事篇平成 24 年度版 18 頁、41 頁 51 なお、例えば、商品等に声優の氏名が使用されていた場合には、 「氏名」についてのパブリシティ権が「声」のパブリシティ権と は別個に問題となり得る。 50 56 （ウ）不正競争防止法による保護の有無 音声データが不正競争防止法上の「営業秘密」、 「限定提供データ」、周知又は著名な「商 品等表示」 （人の業務に係る氏名、商号、商標、標章、商品の容器若しくは包装その他の 商品又は営業を表示するもの）、 「品質」等に該当する場合や、音声データを用いて他人 の営業上の信用を害する虚偽の事実を告知・流布する場合など、一定の要件及び対象行 為に対して規制が及ぶ（不正競争防止法２条１項各号）。ただし、当該規定は、 「声」そ のものを直接的に保護しているわけではないことに留意する必要がある。 エ その他の保護 生成 AI により生成された音声を用いて他人になりすます等の行為は、詐欺罪（刑法 246 条）、偽計業務妨害罪（刑法 233 条）などの刑事罰を負う可能性がある上、名誉毀損、 名誉感情侵害等に基づく民事上の責任が生じ得る。 57 （３）学習用データとしてのデジタルアーカイブ 52整備 ア 具体的な課題 生成 AI の開発・提供・利用の促進には、生成 AI の開発に要する学習データの整備が 前提として重要になる。 他方、美術館や博物館等のアーカイブ機関は、既に各種コンテンツのデジタルアーカ イブを保有しているため、当該デジタルアーカイブを AI 学習の用に供することが考え られるところ、その意義についてどのように考えるかをまずは整理する必要がある。ま た、アーカイブ機関が各種コンテンツのデジタルアーカイブを保有していたとしても、 当該デジタルアーカイブに係る保有データの権利者ではない場合も多いことから、アー カイブ機関が権利を有していない保有データを AI 開発等のために利用する場合におい て、アーカイブ機関が知的財産法の観点で留意すべき事項は何かについても検討する必 要がある。加えて、アーカイブ機関によって、その保有するデータの技術仕様が異なっ ている場合もあることから、アーカイブ機関が保有するデータを AI 学習に供するため に必要な技術仕様等についても整理する必要がある。 本検討会では、以上の諸点について検討の上、整理を行った。 イ 学習用データとしてのデジタルアーカイブ整備の基本的な考え方 意見募集では、アーカイブ機関の保有するデジタルアーカイブを生成 AI の学習に供 することは、文化財の美の価値や精神性を失墜させることになるといった意見や、仮に 政府がデジタルアーカイブを整備する場合には、完璧にクリーンなデータ（権利者の許 諾を得たデータ）を集めることには限界があるのではないかといった懸念が見られた。 他方で、例えば、古写真の修復や文字からの肖像画の生成、原生生物から絶滅動物の 画像化など、学術的な面での活用への期待を述べる意見や、国際競争力を強化するため に日本国内での大規模なデータセットを構築することは不可欠であるとする意見、公共 的なデジタルアーカイブの整備と適切な価格での頒布により、公共施設の維持管理費に 充てることも可能ではないかといった意見など、デジタルアーカイブを整備することに 意義を見出す意見も見られた。ただし、デジタルアーカイブ整備に意義を見出す意見の 中においても、まずは国や地方公共団体が権利を有する文書等やパブリックドメインの デジタルアーカイブを整備し、公開する（ただし、プライバシーや秘密保持への配慮は 必要）ことから始めるべきではないかという意見も見られたところである。 これらの意見募集の結果に鑑みれば、デジタルアーカイブを AI 学習用データして活 用することについては、アーカイブ機関が保有するデータの性格を踏まえ、各アーカイ ブ機関において、まずはパブリックドメインとなっているデータや適正に権利処理が完 了しているデータ、国や地方公共団体をはじめとする公的機関が著作権等の権利を有し ている文書等を中心に据えて、デジタルアーカイブ整備を進めることを当面の基本的な 52 「デジタルアーカイブ」とは、一般的には、博物館・美術館・公文書館や図書館等の収蔵品を始め、有形・無形の学術・文化資源 等をデジタル化して記録保存を行うことを指す。 58 考え方とすることが適当と考えられる。 53 なお、デジタルアーカイブ整備等に関する主な関連規定は次のとおりであり、これら の規定を遵守しつつ、整備を進めることが肝要である。 【参考】アーカイブ整備等に関する主な関連規定 ウ AI 学習実施のために必要な技術仕様 本検討会による検討によれば、AI 学習用データとして利用するために必要なデジタル アーカイブデータの技術仕様は、次のとおりである。  開発する AI（何を目的とする AI か）によって、学習するデータの形式は様々で ある。  データセット専用の統一したフォーマットは不要である。ただし、プログラムで 読み込めないフォーマットも存在するため、読み込みライブラリが存在するデー タが望ましい（少なくとも、フォーマットの仕様は公開されている必要がある。）。 53 デジタル庁では、適切な日本語による大規模言語モデル（LLM）の開発促進に向けて、「AI 時代の官民データの整備・連携に向 けたアクションプラン」（デジタル庁、令和５年 12 月 20 日）に沿って、生成 AI の学習に寄与する行政保有データのオープン化の 検討等を進めることとしている。 59    AI 開発者側で必要なデータ形式に加工するため、学習用データの提供者側は、デ ジタル化するコンテンツに適正なデータの種類（画像・文章・音声等）のファイ ル形式で構築すればよい。  その際、必要なデータ形式への加工・アクセスを行いやすくするため、例え ば、テキストであれば、テキスト対応のファイル形式で保存することや、ファ イルの保護措置は解除しておくこと等が望ましい。なお、数式は、LaTeX 形 式が望ましい。  AI 開発を内製する場合は、内部でのデータ加工は必要である。 学習したデータセットの品質により、AI 生成物に差異が生じることから、画像で あれば高精細なもの、テキストであれば構造化されたテキストデータ等、リッチ なデータとして構築することが望ましい。  品質が劣るものについては、最新の技術動向を踏まえつつ、適宜必要な技術 を用いながらデータの品質をリフレッシュしていくことが求められる。 学習したデータを判別することも見据えて、メタデータ（サムネイル含む）につ いても、分野で標準的に広く用いられているメタデータ形式によるメタデータの 管理を行うことが望ましい。 60 （４）ディープフェイクについての知的財産法の視点からの課題整理 ア 具体的な課題 昨今、機械学習や深層学習を含む AI 技術を用いたディープフェイク、すなわち、AI で生成又は操作された画像、音声又は映像コンテンツであって、実在の人物、物体、場 所その他の存在物や事象に類似させたり、ある人物が本物又は真実であるかのように偽 って表示し得るもの 54 がウェブサイト等で公開されることが増加している。 ディープフェイクについては、悪用により、偽情報等が社会を不安定化・混乱させる リスクをもたらすものであり、対処の必要性が高い。 これを知的財産法の観点から見れば、ディープフェイクを作成する際に、他人の著作 物（音声、画像又は動画等）を無断で利用している場合には、当該行為は著作権又は著 作者人格権侵害となり得るとともに、実演の改変を伴う場合には、実演家の権利又は実 演家人格権の侵害ともなり得る。 他方で、ディープフェイクにおいて、外見や声を無断で使用された被写体（実演家で はない者）は、どのような主張が可能かについては、検討が必要である。これについて も、肖像権・パブリシティ権といった、知的財産法の周辺の法領域に関する検討も必要 と考えられるため、それらも含めて検討の上、以下のとおり整理を行った。 イ 肖像権及びパブリシティ権等による対応の可否 肖像権及びパブリシティ権の概要については、既に上記２（６）において整理したと おりである。 ディープフェイクにおいて、自らの容貌（本物又は真実であるかのように誤って表示 された類似の容貌を含む。）が使用された場合や、自らの声（本物又は真実であるかのよ うに誤って表示された類似の声を含む。）が使用された場合に、肖像権やパブリシティ権 侵害が成立するかどうかは、上述した一般的な判断基準と異なるところはないと考えら れる。 ただし、具体的事案を踏まえて判断する必要があるところ、本検討会では、アイドル コラージュに関する知的財産高等裁判所の裁判例を参照した。これは、複数の女性芸能 人の肖像写真に裸の胸部のイラスト画を合成した画像を用いた記事が出版物に掲載さ れた事案であったところ、同裁判所は、当該合成画像が精巧に作成され、原告らに強い 羞恥心や不快感を抱かせるものであり、社会通念上受忍すべき限度を超えて肖像等を使 用したとし、人格権としての氏名権及び肖像権、並びに人格的利益としての名誉感情等 を違法に侵害するとして、一般不法行為責任（損害賠償責任）を認めている。他方、同 判決では、パブリシティ権侵害については「専ら肖像等の有する顧客吸引力の利用を目 的とする」場合には当たらないとして否定されている 55。 54 55 EU・AI 法案３条(60)（2024 年５月 21 日成立版）参照 知財高判平成 27 年８月５日（平成 27 年（ネ）第 10021 号） 61 ウ 著作権法による対応の可否 上述のとおり、ディープフェイクを作成する際に、他人の著作物（音声、画像又は動 画等）を無断で利用している場合には、当該行為は著作権又は著作者人格権侵害となり 得るとともに、実演の改変を伴う場合には、実演家の権利又は実演家人格権の侵害とも なり得るため、著作権者等は、著作権法に基づく侵害主張（損害賠償請求や差止請求等） が可能である。 他方で、ディープフェイクにおいて、外見や声を無断で使用された被写体（実演家で はない者）は、著作物や実演を無断利用されているものではないことから、固有の著作 権法上の権利侵害を理由として侵害主張を行うことは困難と考えざるを得ない 56。 この場合、被写体は、著作権者等が有する損害賠償請求権等を代位行使（債権者代位 権）できるかが問題となる。債権者代位権については、 「債権者は、自己の債権を保全す るため必要があるときは、債務者に属する権利（……）を行使することができる」 （民法 423 条本文）ものであるが、同規定を踏まえれば、債権者代位権を行使するためには、 外見や声を無断で使用された被写体（「債権者」）が当該ディープフェイクに用いられた 著作物（音声、画像又は動画等）の著作権者等（「債務者」）に対して債権（被保全債権） を有していることが必要となる。 したがって、例えば、 「被写体の外見等が第三者にみだりに利用されていた場合には、 著作権者が当該第三者に対して著作権を行使しなければならない」旨の規定が被写体と 著作権者との間で締結される契約中に明示的に存在しているにもかかわらず、著作権者 が著作権を行使しないような極めて特殊な場合でなければ、通常は被写体と著作権者と の間に被保全債権は想定し難いと考えられることに留意が必要である。 また、著作権侵害は原則として親告罪であるから（著作権法 123 条１項）、侵害者に対 して刑事責任を問う場合には告訴が必要となる。しかし、告訴権者は「犯罪により害を 被つた者」 （刑事訴訟法 230 条）と位置付けられているため、著作権法に定める刑事罰に 関し、著作権等者ではない被写体は告訴権者とは位置付けられないことにも留意する必 要がある。 エ その他の法的対応 不正競争防止法との関係においても、例えば、不正競争行為としての品質等の誤認惹 起表示（不正競争防止法２条１項 20 号）や、信用毀損行為（同 21 号）に該当する場合 には、損害賠償請求や差止請求が可能であるとともに、前者に関しては、刑事罰も科さ れ得る。 ディープフェイクにより本物又は真実であるかのように誤って表示し、実際には行っ ていない発言や行動をあたかも行っているかのような描写をする行為は、名誉毀損罪 （刑法 230 条）や偽計業務妨害罪（刑法 233 条）などの刑事罰を負う可能性がある上、 56 なお、 「声」自体が著作権法で保護されるものではないことにつき、上述５（２）ウ（ア）（著作隣接権による保護の有無）も参 照。 62 名誉毀損、名誉感情侵害等に基づく民事上の責任が生じ得ると考えられる。 【参考】関連裁判例（ディープフェイク関係） 意見募集では、ディープフェイクの問題について、個別の対象や被害に着目して論じることが必要 であり、アイドルコラージュ等をはじめとする過去の裁判例も参考になるとの意見が見られた。そこ で、本検討会において検討したところ、次の裁判例の判断の手法は、個別具体的な事案を検討するに 際して参考になると考えられる。 ① 東京地判平成 18 年４月 21 日（平成 17 年（刑わ）第 5073 号） アイドルのヌード合成写真（いわゆるアイコラ画像）を募集するウェブサイト（画像掲示板）を運 営していた者が、名誉毀損罪の共同正犯として有罪になった事案である。 裁判所は、 「アイコラ画像であることを前提に享受されている限りにおいては、対象とされたアイド ルタレントの名誉（社会的評価）を毀損する可能性は、それほど高いものではなかった」との弁護人 の主張にも一定の理解を示しつつ、 「名誉毀損罪（刑法 230 条１項）は抽象的危険犯と解されており、 一般的にみて、他人の名誉（社会的評価）を毀損するおそれがいささかなりとも認められる限り、そ の成立を認めるべきもの」と判断した。その上で、裁判所は、当該アイコラ画像が「極めて精巧な合 成写真」であり、 「画像を見るだけでは、これが合成写真であることを見抜くことはほとんど不可能」 であることなどに鑑み、名誉毀損のおそれがあったこと自体、否定し難いとして有罪の判決を言い渡 した。 ② 知財高判平成 27 年８月５日（平成 27 年（ネ）第 10021 号） 複数の女性芸能人の肖像写真に裸の胸部のイラスト画を合成した画像を用いた記事を掲載した出版 社等に対し、人格権及び人格的利益の侵害による損害賠償請求が認められた事案である。ただし、パ ブリシティ権侵害は否定されていることに留意する必要がある。 裁判所は、本件記事に用いられた原告ら８名の肖像写真は、モノクロで、かつ、合計 25 名の女性の 写真を組み込んだ記事の一部として用いられたにすぎないため、肖像写真それ自体を鑑賞の対象とす ることが目的というよりも、女性芸能人らの乳房ないし裸体を読者に想像させることを目的としたも 「専ら肖像等の有する顧客吸引力の利用を目的とする場合に当たることはできない」 のである等とし、 としてパブリシティ権侵害を否定した。他方で、本件合成画像は精巧に作成され、原告らに強い羞恥 心や不快感を抱かせるものであり、社会通念上受忍すべき限度を超えて、人格的利益としての名誉感 情を不当に害するとともに、受忍限度を超えた肖像等の使用に当たる（人格権としての氏名権及び肖 像権、並びに人格的利益としての名誉感情を違法に侵害する不法行為を構成する）と判断し、損害賠 償請求を認容した。 ③ 東京地判令和２年 12 月 18 日（令和２年（特わ）第 2557 号） 女性芸能人の顔の画像を、市販されているアダルトビデオの動画にはめ込み、同人がアダルトビデ 63 オに出演しているかのように見える、ディープフェイクポルノを作成し、自らが運営するインターネ ット掲示板で公開していた者が、著作権侵害罪（翻案権・自動公衆送信権） ・名誉毀損罪で有罪になっ た事件である。 裁判所は、 「このような行為は、女性芸能人の側から見れば、タレントとしてのイメージとその名誉 を毀損し、不快感等の精神的苦痛を及ぼすと同時に、芸能活動への支障によって多大な経済的損害を 及ぼしかねない非常に悪質な行為である」とするとともに、 「アダルトビデオの著作権者から見れば、 その販売に支障を生じさせ、経済的損害を及ぼしかねない行為であ」るとして有罪を言い渡した（な お、罪体に関する判示ではなく、量刑の理由における判示である。） 。 ④ 東京地判令和３年９月２日（令和２年（特わ）第 2564 号） アダルトビデオの女優の顔に芸能人らの顔を合成加工したディープフェイク動画を作成して自ら運 営するインターネットサイトに掲載した者が、著作権侵害罪（翻案権・自動公衆送信権） ・名誉毀損罪 で有罪になった事案である。 弁護人からは、ディープフェイク動画には口元等がぼやけている部分があること、音声が途切れた り、口の動きと整合しなかったりする部分があること、各動画には「deepfakes - japan」というロゴ タイプが付され、サムネイルには「ディープフェイク」や「激似」との見出しも付されていること、著 名な芸能人であるＡ及びＢがアダルトビデオに出演するということ自体が信じ難い内容であること等 の主張がなされたが、裁判所は、本件各動画は、 「全体としてみれば、Ａ及びＢが出演した動画として 違和感を生じさせない精巧なものと評価できる」ことから、動画を「本物であると誤信するおそれは 否定できない」等として、本件各動画の掲載は、 「Ａ及びＢがアダルトビデオに出演した旨の社会的評 価を害するに足りる事実を摘示したといえ、名誉毀損罪が成立する」と判断した。 オ ディープフェイクに関する基本的な考え方 以上がディープフェイクに対する知的財産法等による対応可否についての概観であ るところ、ディープフェイクへの対応に係る海外における法規制動向（ポルノや選挙活 動等の特定目的下での規制の動きや、偽情報対応全般を目的とした規制の動き）を踏ま えると、ディープフェイクに関する諸問題は、知的財産権法とは切り離して議論すべき 要請が強いと評価できる。 この点については、意見募集でも、ディープフェイクによる悪用事例は人権侵害であ り、知的財産以前の問題であるという意見や、名誉毀損罪、偽計業務妨害罪、詐欺罪な どの刑事罰による法的措置の発動を求める意見があったところである。 64 【参考】ディープフェイクに係る海外における法規制動向 総務省及び経済産業省による「AI 事業者ガイドライン（第 1.0 版）」（2024 年４月 19 日）13 頁では、AI 開発者、AI 提供者及び AI 利用者の各主体が取り組むべき事柄とし て、共通の指針のうち「人間中心」の取組項目の一つとして「偽情報等への対策」を掲 げ、 「生成 AI によって内容が真実・公平であるかのように装った情報を誰でも作ること ができるようになり、AI が生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱 させるリスクが高まっていることを認識した上で、必要な対策を講じる」ことを求めて いる。 また、民間事業者の取組みとしても、ディープフェイクが選挙に影響を及ぼすことを 防ぐため、世界の主要 IT 20 社（OpenAI、Microsoft、Google、Meta、X など）が、 「欺 瞞的 AI に関連するリスクを軽減する技術の開発と実施」や「欺瞞的な AI 選挙コンテン ツの配信を検出することの追求」などに取り組むことを表明する動きがあることも注目 される（2024 年２月） 57。 なお、広島 AI プロセスにおいて、G７は、生成 AI 等の高度な AI システムへの対処 を目的とした初の国際的枠組みとして、「広島 AI プロセス包括的政策枠組み」に合意 （2023 年 12 月）しているところ、当該枠組みには、偽情報対策に資する研究の促進等 のプロジェクトベースの協力として、生成 AI を用いて作成される偽情報の拡散への対 策に資する技術等の実証を実施することも含まれている。 57 IT 世界大手 20 社（Adobe、Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok, X など) は、2024 年２月 16 日のミュンヘ ン安全保障会議（MSC）の場において、 「2024 年選挙における AI の欺瞞的使用に対抗するための技術協定」について表明した。同 協定は、参加企業による自主的な枠組みとして、予防、来歴、検出、責任ある保護、評価、意識向上、強靭性といったゴールの達成 に向けて、「欺瞞的 AI に関連するリスクを軽減する技術の開発と実施」など、８つのコミットメントを内容としている （https://www.aielectionsaccord.com/） 65 ６．横断的見地からの検討 （１）問題意識 AI 技術の利用範囲や各分野での利用者の拡大に伴い、生成 AI と知的財産をめぐる懸 念・リスクが増大している。 当該リスクへの対応については、法律による対応（上記１及び２）、技術による対応（上 記３）及び契約による対応（上記４）が考えられるが、各手段は相互に関連し得るもの であり、かつ、各手段には個別の限界も存在する。したがって、各手段を別個独立のも のと捉えるのではなく、各手段について横断的見地から検討し、知的財産権による保護 の範囲と AI ガバナンス 58の観点を踏まえ、生成 AI と知的財産権との望ましい関係の在 り方を探ることが必要である。 生成 AI に関する社会的リスク（なお、知的財産権の侵害も含まれる。）の多様化・増 大を受け、AI ガバナンス全般に関しては、AI 事業者が AI の社会実装及びガバナンスを 共に実践するための我が国における統一的な指針として、総務省及び経済産業省により、 「AI 事業者ガイドライン」が示されている。 また、上記の広島 AI プロセス包括的政策枠組みにおいては、「全ての AI 関係者向け の広島 AI プロセス国際指針」、 「高度な AI システムを開発する組織向けの広島プロセス 国際指針」及び「高度な AI システムを開発する組織向けの広島プロセス国際行動規範」 が合意されており、我が国の「AI 事業者ガイドライン」では、これらも参照されている。 当該国際行動規範には、知的財産の尊重の観点も盛り込まれており、適切なデータ入力 措置と個人情報及び知的財産の保護の実施に係る行動規範例として、適用される法的枠 組みの順守や、知的財産を尊重するための安全措置の実施が記載されている 59。 「AI 事業者ガイドライン」でも確認しているように、AI に関しては、 「人間の尊厳が 尊重される社会」、 「多様な背景を持つ人々が多様な幸せを追求できる社会」及び「持続 可能な社会」を基本理念として尊重し、その実現を追求する社会を構築していくべきも のであり、その実現には、AI の開発・提供・利用に関わる各主体の自主的な取組を欠く ことはできない。 したがって、生成 AI と知的財産権との望ましい関係の在り方を探り、各主体が取り 組むことが期待される事項を検討することは、AI 技術の進歩の促進と知的財産権の適切 な保護を両立させ、各主体による連携した取組を後押ししていく上において、有益であ り、かつ必要なことであると考えられる。 AI ガバナンスとは、AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもた らされる正のインパクト（便益）を最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの 設計及び運用」をいう。（総務省・経済産業省「AI 事業者ガイドライン」９頁） 59 「 高 度 な AI シ ス テ ム を 開 発 す る 組 織 向 け の 広 島 プ ロ セ ス 国 際 行 動 規 範 」（ 仮 訳 ） https://www.soumu.go.jp/hiroshimaaiprocess/pdf/document05.pdf 58 66 （２）生成 AI と知的財産権との望ましい関係の在り方 ア 法・技術・契約の相関関係（侵害リスクへの対応の観点から） 生成 AI に関して指摘される「知的財産権の侵害リスク」とは、一般に、他人が知的財 産権を有する知的財産を利用する場合に、法的に権利者の許諾が必要であるにもかかわ らず当該許諾を得ることなく当該知的財産を利用する場面において生ずるものと言え る。例えば、法的ルールの正しい理解を欠き、当該利用行為に権利者の許諾が必要であ るとは知らないままに許諾を受けなければ行うことができない利用を行った場合は知 的財産権の侵害リスクが発現する代表例である。 したがって、AI 学習や生成・利用の各段階において、どのような場面で許諾が必要と なるのかについて、法的ルールを正しく理解することが必要であるとともに、その理解 を踏まえた上で、許諾が必要な利用については権利者から許諾を得ることなど、侵害と ならないようにする対応を行うことが必要である。 そして、生成 AI における知的財産権の侵害リスク回避の対応策を考える上では、法 的ルールの正しい理解を土台にしつつ、法・技術・契約の各手段が相互補完的に役割を 果たす相関関係にあることを意識する必要がある。 例えば、法・技術・契約の相関関係について、上記１で検討した著作権法と生成 AI の 関係を例にして説明すると、次のとおりである。 まず、著作権法では、非享受目的（当該著作物に表現された思想又は感情を自ら享受 し又は他人に享受させることを目的としない場合）であれば、AI 学習段階におけるデー タの利用について、原則として当該データの著作権者の許諾は不要である。他方で、① 非享受目的と享受目的が併存する場合 60や、②著作物の種類・用途・利用態様に照らし、 著作権者の利益を不当に害することとなる場合 61（著作権法 30 条の４ただし書）には 例外的に当該データの著作権者の許諾が必要となる。 したがって、AI 開発者及び AI 提供者としては、上記の著作権法の規定についての正 しい理解を踏まえ、AI 学習段階におけるデータの利用について、知的財産権の侵害リス クを回避するために、データの利用行為が非享受目的であるかどうかをまずは検討する こととなる（【法的ルールの観点】）。 そして、仮に著作権者からの許諾を得る必要がある場合には、著作権者と協議の上で 契約を締結して当該学習データの有償提供を受け、当該データを AI 学習に利用するこ とで、 「知的財産権の侵害リスク」を回避することが考えられる。なお、著作権法上の権 利制限規定が適用され、著作権者の許諾を得ることなくデータを利用することができる 場合であるとしても、権利者に対する適切な対価還元等を実現するために、著作権者と の間で契約を締結して当該学習用データの有償提供を受けることは何ら妨げられるも のではないことは、既に上記４（３）で検討したとおりである。 60 例えば、追加的な学習（ファインチューニング）により、学習データ（著作物）の創作的表現の全部又は一部を生成 AI により出 力させることを目的としていると評価される場合など。 61 例えば、大量の情報を容易に情報解析に活用できる形で整理・販売されているデータベースの著作物について、その全部又は一 部を AI 学習目的で複製する場合など。 67 上記のように、AI 開発者や AI 提供者において、著作権法の規定についての正しい理 解を踏まえた検討を行い、必要に応じて権利者との間で学習用データの有償提供を受け る契約を締結しようとすることは、学習用データの権利者にとって、自らの学習用デー タの流通等を適切に管理することにもなり、契約を締結することで適切な対価還元を積 極的に実現し得ることを意味することになる（【契約の観点】）。 そして、上記の法・契約による学習用データの適正な流通確保は、権利者の意向が適 切に反映された学習用データの管理が実現されることによって、より強固なものとなる ことが考えられる。そこで、例えば、権利者において自動収集プログラム（クローラ） による収集を拒絶する技術的措置を採用し、これを AI 開発者や AI 提供者が尊重するこ とで技術的な観点から学習データの適正な流通等を管理することなどが考えられる （【技術の観点】）。 その他にも ID・パスワード等による保護も考えられるところ、これを回避して行うク ローリングは、不正アクセス行為に該当し、不正アクセス禁止法違反として刑事罰の対 象となり得るなど、技術が法により担保されている（【法的ルールの観点】）。 このようにして学習用データの流通が促進されている状況にあっては、例えば、学習 用データの権利者の考え次第では、自らが権利を有する学習用データを生成 AI の追加 的な学習に供することにより、自らの作品群を活かした生成 AI を開発して、これを必 要とする者との間で契約を締結することでこれを有償提供するなど、生成 AI を積極的 に利活用することによる対価還元を権利者が受けることなども考えられるところであ る（【契約の観点】）。 以上のように、生成 AI における知的財産権の侵害リスク回避の対応策は、法的ルー ルの正しい理解を土台にしつつ、法・技術・契約の各手段は、相互補完的に役割を果た し得るのであり、相関関係にあるものである。また、このような法・技術・契約の相関 関係は、AI 技術の変化や契約慣行、AI を取り巻く社会の状況の変化等にも大きく影響 を受けながら絶えず変化し、進歩し続ける、動的なものである。 68 イ 知的財産権の視点からの AI ガバナンス （ア）AI ガバナンスの議論との連動 これまで確認してきたように、生成 AI と知的財産法については、著作権法以外にも、 意匠法や商標法等の複数の法的ルールが関わる。また、マルチモーダル化の加速と合わ せ、取り扱われるデータの扱いや種類が多様であり、生成 AI をめぐっては、必ずしも 知的財産法が保護対象として明記していないものの利用や生成についての懸念も示さ れている 62。したがって、知的財産法によるルールのみでは解決できない点も複合的に 関わるところ、そのような生成 AI に関する懸念やリスクへの対応策は、安全性、公平 性、透明性といった、AI ガバナンスの構築に向けた議論や考え方を取り入れることが必 要である。 AI ガバナンスの構築の在り方に関し、主要な国際的動向を見れば、EU においては、 AI 規制法に見られるような公的規制の枠組みが基礎となっている一方、米国において は、AI 開発に関わる主要各社による自主規制（自主誓約）が基礎となっており、アプロ ーチが異なると言える。その中で、著作権等の知的財産権の保護の在り方をめぐっては、 具体的な保護の範囲は各国の国内法に委ねられており、AI と知的財産権との関係につい ての国際的な共通の考え方としては、上述のとおり、広島 AI プロセス包括的政策枠組 みにおいて、知的財産の尊重の観点につき、一部言及があるにとどまる状況である。 我が国における AI ガバナンスは、現在、AI 事業者ガイドラインを基軸として、多様 な関係者が共同して構築する姿が目指されていると考えられる。そのような取組を後押 しするものとして、同ガイドラインでは、AI システム・サービスの開発・提供・利用に 関わる各主体が連携して取り組むべき「共通の指針」が示されている。 この共通の指針としては、 「人間中心」 （偽情報等への対策を含む）のほか、 「安全性」 （人間の生命・身体・財産、精神及び環境への配慮／ 適正利用／ 適正学習）、 「公平性」 （バイアスへの配慮等）、 「プライバシー保護」、 「セキュリティ確保」、 「透明性」 （検証可 能性の確保／ 関連するステークホルダーへの情報提供／ 合理的かつ誠実な対応等）及 び「アカウンタビリティ」 （トレーサビリティの向上、 「共通の指針」の対応状況の説明 等）が、また、各主体が社会と連携して取り組むことが期待される事項として、 「教育・ リテラシー」、「公正競争確保」及び「イノベーション」が示されているところである。 共通の指針に含まれるこれらの事項は、生成 AI による知的財産権上のリスク等への 対応のためにも、AI ガバナンスの構築に向けたそれらの取組の具体化の中で、よりよく 達成できると考えられるところであり、その際には、生成 AI に関わる幅広い関係者が、 法・技術・契約の各手段を適切に組み合わせながら連携して取り組むことが必要である。 62 AI と知的財産権に関する本検討会の意見募集においては、労力等に対するフリーライドや、生成 AI によるディープフェイクの 脅威に対する懸念、不正確な情報の出力による情報汚染問題等についても意見が示された。 69 （イ）AI 技術の進歩と知的財産権の適切な保護が両立するエコシステムの実現に 向けて 本検討会の基本的視点にも示しているとおり、AI 技術の進歩と知的財産権の適切な保 護の両立は、生成 AI と知的財産権について考える上で大切な視点であり、そのような 状況が達成されるエコシステムの実現を目指すことが望まれる。具体的には、コンテン ツ創作者にとって信頼できる開発者の下に良質なデータが多数集積し、高度な生成 AI が開発・提供されることで、新たな創作活動につながる好循環が実現している状態が理 想であり、そのようなエコシステムを構成する各主体は、それぞれが置かれている状況 や役割に応じ、エコシステムの実現に向けた取組みを実践することが、期待される。 例えば、AI 開発者や AI 提供者は、著作権法の権利制限規定を活用した AI 学習によ る AI 開発の促進の他、良質な学習データを用いて、特定の目的のための追加的な学習 による適切な重み付けを行ったり、不適切な出力を抑制する技術的措置の採用など、安 全性や公平性に配慮した生成 AI の開発・提供を行うことが求められるといえよう。 また、AI 開発者等は、追加学習等の用に供するための良質な学習データの確保等にお いて、クリエイター等の権利者との間で、契約の方法により対価還元を含めた十分な保 護措置を講じることも期待され、これらのことは、AI 利用者が安心して AI 生成物を利 用することができる社会の実現にもつながると考えられる。 これをデータの権利者から見れば、例えば、生成 AI の追加学習用にデータ（コンテ ンツ）の有償提供を行うデータベースを準備することで、対価還元を積極的に得る手段 となる（著作権法 30 条の４ただし書の「著作権者の利益を不当に害することとなる場 合」に該当し、AI 学習に許諾が必要となる）とともに、データ管理のための技術的措置 の採用や、生成 AI を活用して、より創造的な活動に集中していくことなど、知的財産 権を適切に守りながら、クリエイターを含む権利者自らが生成 AI の恩恵を適切に享受 することも促進し得る。また、人が創作した作品の作風や労力、投資等は、著作権法の 保護対象ではないものの、クリエイターの投下資本回収機会確保や人格的利益を保護す る観点から、作風や労力、投資等へのフリーライドからの防御として、クローラによる 学習を拒絶するなどの技術的な対策を講じることも許容されるとともに、それらは尊重 されて然るべきである。 AI 利用者としても、AI 提供者から信頼できる生成 AI サービスの提供を受け、知的財 産権侵害リスクの回避のための必要な技術的措置も活用しながら、AI 提供者が意図した 範囲内で適正利用を行うことにより、AI 技術の進歩と知的財産権の適切な保護の両立に 貢献し得るものとなる。 このように、生成 AI と知的財産権の関係については、侵害リスクの回避といった観 点にとどまらず、AI の活用からもたらされる便益を最大化するための AI ガバナンスの 適切な構築を目指す観点も重要である。 AI 技術の進歩の促進と知的財産権の適切な保護が両立するエコシステムの実現に向 けて、AI 開発者、AI 提供者、権利者（クリエイター等）、AI 利用者等の各主体は、法・ 技術・契約の各手段について、 ① 法的ルールの正しい理解と適正な運用 70 ② 技術的措置の活用による AI 学習・提供・利用の適正なコントロール ③ 良質な AI 学習コンテンツに係るライセンス市場の形成と権利者への対価還元 といった点に留意し、各手段を適切に組み合わせながら、連携して取り組むことが強く 期待される。 なお、以下では、AI ガバナンスの観点から、各主体に期待される取組について、AI 事 業者ガイドラインに示す「共通の指針」も踏まえ、参考取組例を紹介する。 ただし、これらは、あくまで各主体が取り組む事項を検討する際の材料を提供するも のであり、各主体は、それぞれが置かれた状況等に応じ、適切に判断し、実践すること が望まれる。また、各主体は、常に変化する環境とゴールを踏まえ、最適な解決策を適 用し、適切に AI ガバナンスが機能しているか、それぞれの果たすべき役割や取組内容 について、評価・見直しを続けることが期待される。 また、内閣府をはじめ、関係府省庁においては、各主体の取組の促進に資するよう、 本中間とりまとめの内容や、対価還元に関する動向など、生成 AI と知的財産権の関係 に係る必要な普及啓発を行うことが期待される。 71 〔参考〕各主体に期待される取組事項例 AI 技術の進歩と知的財産権の適切な保護の両立を図るエコシステムの実現を図 るためには、AI 事業者ガイドラインの直接の名宛人である AI 開発者 63、AI 提供者 64 、AI 利用者（業務利用者）65に加え、権利者（クリエイター等、学習データの正当 な権利者）、及び業務外利用者（一般利用者）のいずれもが、安心して AI を利用でき る社会を実現する必要がある。 その際には、上述のとおり、法的ルールについての正しい理解を踏まえ、知的財産 権侵害リスクを回避するために必要な技術的措置や、契約による対価還元策を組み 合わせながら、各主体が適切に対応していくことが求められる。そこで、以下では、 AI 事業者ガイドラインにおける項目を参照しつつ、各主体別に、それぞれに期待さ れる主な取組事項例を、記載するものである。 なお、主体別に記載しているが、同一主体であっても、AI に対する関わり方によ り、複数のカテゴリー（例えば、 「AI 開発者」兼「AI 提供者」等）が該当し得ること に留意されたい。 また、下記の《期待される取組事項例》における「期待される」とは、当該取組事 項例記載に係る取組を各主体が実施することにより、適法性を含む何らかの法的評 価を受けられることを意味するものではないことにも留意されたい。あくまでも AI 技術の進歩の促進と知的財産権の適切な保護が両立するエコシステムの実現に向け、 各主体間の連携強化に資する取組であるという観点で、「期待される」ものである。 【AI 開発者】 〇データ前処理・学習時 ・適切なデータの学習 《法律上の要請事項》  著作権法や不正競争防止法（営業秘密・限定提供データ等）等の法的ルー ルを踏まえたデータの適正な収集・学習  ID・パスワード等によるアクセス制限の遵守（※回避行為は不正アクセス 禁止法違反） 《期待される取組事項例》  可能な場合において、AI 学習用（機械学習用）データのライセンス市場を 通じた学習データの適正な収集 63 AI 開発者とは、AI システムを開発する事業者（AI を研究開発する事業者を含む）AI モデル・アルゴリズムの開発、データ収 集（購入を含む）、前処理、AI モデル学習、検証を通して AI モデルおよび AI モデルのシステム基盤や入出力等を含む AI システム を構築する役割を担う者をいう。 （AI 事業者ガイドラインより） 64 AI 提供者とは、AI システムをアプリケーションや製品もしくは既存のシステムやビジネスプロセス等に組み込んだサービスと して AI 利用者（AI Business User）、場合によっては業務外利用者に提供する事業者 AI システム検証、AI システムの他システム との連携の実装、AI システム・サービスの提供、正常稼働のための AI システムにおける AI 利用者（AI Business User）側の運用 サポートや AI サービスの運用自体を担う者をいう。 （AI 事業者ガイドラインより） 65 AI 利用者（業務利用者）とは、事業活動において、AI システム又は AI サービスを利用する事業者をいう。AI サービス提供者が 意図している適正な利用を行い、環境変化等の情報を AI サービス提供者と共有し正常稼働を継続することや、必要に応じて提供さ れた AI システムを運用する役割を担う。また、AI の活用において業務外利用者に何らかの影響が考えられる場合は、当該者に対 する AI による意図しない不利益の回避、AI による便益最大化の実現に努める役割を担う。 （AI 事業者ガイドラインより） 72  クローラ収集を制限する技術的措置（「robots.txt」等）の尊重  学習データの著作物の創作的表現を直接感得できる生成物を出力するこ とが目的であると評価される場合は、学習データの利用について許諾が必 要な場合があり得るといった著作権法のルールの理解 〇AI 開発時 ・知的財産権侵害リスク回避のための技術の採用 《期待される取組事項例》  学習データそのものを出力する可能性がある生成 AI 等については、その 抑制のためのガードレール技術の要求  開発時の態様（例えば、著作権侵害について、侵害物が高頻度で生成され る場合や、既存の著作物の類似物を生成する蓋然性の高さを認識している にもかかわらず、当該類似物の生成を抑止する技術的な手段を施していな い場合等）次第では、直接の権利侵害主体又は幇助者として責任を負う場 合があるという法的ルールの理解 ・トレーサビリティの向上 《期待される取組事項例》  学習データそのものを出力する可能性がある生成 AI 等については、来歴 メカニズムの構築等も含め、データの出所等につき、技術的に可能かつ合 理的な範囲で追跡・遡求が可能な状態を確保 〇AI 開発後 ・関連するステークホルダーへの情報提供 《期待される取組事項例》  自らの開発する AI システムについて、プライバシーや営業秘密に配慮し つつ、採用する技術の特性や用途に照らし合理的な範囲で、情報を提供（AI 提供者を通じて行う場合を含む） （例）AI システムの技術的特性、安全性確保の仕組み、利用の結果生じる 可能性のある予見可能なリスク及びその緩和策等の安全性に関する情 報／AI モデルで学習するデータの収集ポリシーやその学習方法 ・AI モデルのアルゴリズム等に含まれる知的財産権侵害リスク回避への配慮 《期待される取組事項例》  AI 利用者が入力するプロンプトに対する留意（既存の著作物の固有名詞 等の入力制限の必要性等）につき、AI 提供者に対し、AI 利用者との利用 規約等の締結必要性を喚起 ・社会全体への AI に関する情報提供 《期待される取組事項例》  生成 AI の仕組みや技術の概要等について、広く情報提供 73 【AI 提供者】 〇AI システム実装時 ・知的財産権の侵害リスク回避のための技術の採用 《期待される取組事項例》  学習データそのものの出力を抑制するガードレール技術等の検討  システム実装時の態様次第では、直接の権利侵害主体又は幇助者として責 任を負う可能性があるという法的ルールの理解 ・適正利用に資する提供 《期待される取組事項例》  AI 活用による知的財産権侵害による被害の性質・態様等に応じ、関連す るステークホルダーと協力して予防措置及び事後対応（情報共有、停止・ 復旧、原因解明、再発防止措置等）に取り組む 〇AI システム・サービス提供後 ・関連するステークホルダーへの情報提供 《期待される取組事項例》  提供する AI システム・サービスについて、例えば以下の事項を平易かつ アクセスしやすい形で、適時かつ適切に情報を提供 （例）AI を利用しているという事実や適切／不適切な使用方法等／提供 する AI システム・サービスの技術的特性、利用の結果生じる可能性の ある予見可能なリスク及びその緩和策等の安全性に関する情報／AI モ デルで学習するデータの収集ポリシーやその学習方法  入出力等のログの記録・保存等による確認と不適切入力についての注意喚 起 ・サービス規約等の文書化 《期待される取組事項例》  知的財産権配慮も盛り込んだ、AI 利用者、業務外利用者に向けたサービ ス規約を作成 ・社会全体への AI に関する情報提供 《期待される取組事項例》  生成 AI の仕組みや技術の概要等について、広く情報提供 【AI 利用者（業務利用者） 】 〇AI システム・サービス利用時 ・安全性を考慮した適正利用 《期待される取組事項例》  利用規約等を確認し、利用しようとする生成 AI について、クリーンなデ ータを学習対象としているか、フィルタリングに取り組んでいるか等、知 的財産権に配慮しているかを確認した上で、利用するか否かを決定 74  AI を利用するに当たり、AI 提供者からの情報提供（AI 開発者の情報を 含む）を踏まえ、AI 活用による知的財産権侵害による被害の性質・態様等 に応じ、関連するステークホルダーと協力して予防措置及び事後対応（情 報共有、停止・復旧、原因解明、再発防止措置等）に取り組む  AI システムに営業秘密を不適切に入力することがないよう注意を払う  生成 AI に関する知的財産法の正しい理解のもと、責任をもって AI 出力 結果の事業利用判断を行う ・関連するステークホルダーへの説明 《期待される取組事項例》  AI 利用者は、業務外利用者が AI の活用について適切に認識できるよう、 AI に関する利用方針（例：AI を利用している旨（具体的な機能・技術を 特定できるのであれば、その名称と内容等））を作成・公表（「アカウンタ ビリティ」） ・社会全体への AI に関する情報提供 《期待される取組事項例》  生成 AI の仕組みや技術の概要等について、広く情報提供 【権利者】 〇全般（生成 AI と知的財産権に関する情報の収集等） 《期待される取組事項例》  生成 AI の仕組みや、学習データ等の誤りが出力結果に影響する可能性が あることの理解  生成 AI と著作権法等に関するリテラシーの向上（AI 生成物が自らの作品 と同一又は類似である場合の法的ルール及び具体的な権利主張手続に関 する理解や、AI 学習において許諾が必要な場面の理解等）  生成 AI をめぐる相談については、文化庁等の相談窓口の活用も検討 〔参考〕相談窓口 ・文化庁「文化芸術活動に関する法律相談窓口」 https://www.bunka.go.jp/seisaku/bunka_gyosei/kibankyoka/madoguchi/index.html ・文化庁「インターネット上の海賊版による著作権侵害対策についての相談窓口 （ 「インターネット上の海賊版による著作権侵害対策情報ポータルサイト」内） https://www.bunka.go.jp/seisaku/chosakuken/kaizoku/index.html ・東京都「東京都芸術文化相談サポートセンター（アートノト） 」 https://artnoto.jp/ 〇AI 学習用にデータを提供することを検討する場合（オプトイン 66） 《期待される取組事項例》 66 本中間とりまとめでは、権利者から許諾を受けたデータのみを AI 学習に用いることを指して「オプトイン」という文言を用いて いる。なお、これと対となる概念である「オプトアウト」については脚注 37 参照。 75  追加的な学習（ファインチューニング）のための学習データを提供  AI 学習用にデータを積極的に整え、AI 開発者等とデータセット提供に関 する契約を締結  AI 学習用データについて、提供先以外によるデータ取得を回避するため の工夫（①自ら又は掲載するプラットフォームを通じて「robots.txt」の記 載による収集制限や、ID・パスワード等によりアクセス制限をしたり、② 当該データを一般公開する場合には、利用規約に AI 学習の用に供するこ とができないことを明示的に記載しているプラットフォームへの掲載を 検討） 〇他者による AI 学習をされたくないデータの場合（オプトアウト） 《期待される取組事項例》  当該データを一般公開する場合には、利用規約に AI 学習の用に供するこ とができないことを明示的に記載しているプラットフォームへの掲載を 検討  自ら又は掲載するプラットフォームを通じて「robots.txt」の記載による 収集制限や ID・パスワード等によるアクセス制限  必要に応じ、画像に特殊な画像処理を施すことで学習を妨げる技術を利用  自らが権利を有するデータを基に学習した生成 AI を開発・利用 【業務外利用者（一般利用者） 】 〇AI システム・サービス利用時 ・安全性を考慮した適正利用 《期待される取組事項例》  利用規約等を確認し、利用しようとする生成 AI について、フィルタリン グに取り組んでいるか等、知的財産権に配慮しているかを確認した上で、 利用するか否かを決定  生成 AI の仕組みや、学習データ等の誤りが出力結果に影響する可能性が あることの理解  AI 生成物の個人的・家庭内での使用 76 ウ 知的財産権の観点を踏まえた国際ルール形成・国際標準化 AI に関する国際的なルール形成の動きとして、G7、国連、OECD、GPAI（人工知能 グローバルパートナーシップ）等での議論やルールの設計、ISO（国際標準化機構） ・IEC （国際電気標準会議）等での国際標準化、欧州・米国等での規制・制度の導入等が進展 している。 ＜国際的なルール形成の動き＞ OECD 2019年5月22日 閣僚理事会でAIに関するOECD原則を理事会勧告として採択 GPAI 2022年11月22日 年次総会(24カ国及びEUが参加)で閣僚宣言を採択 G7首脳で以下を承認 G7 2023年12月6日 ・広島AIプロセス包括的枠組 ・広島プロセス推進作業計画 ※包括的枠組では以下のルールを含む ・全てのAI関係者及びAI開発者向け広島プロセス国際指針 ・高度なAIシステムを開発する組織向けの広島プロセス行動規範 国連 2024年3月21日 国連総会でAIの開発や利用等に関する決議を採択 ISO/IEC 2017年10月以降 ISO/IEC JTC1/SC42(AI)で関連する国際標準化を検討 米国 2023年1月26日 2023年10月30日 EU 2024年3月13日 NIST(国立標準技術研究所、商務省管轄)がAI技術のリスク管理ガイ ダンス｢AIリスクマネジメントフレームワーク｣を発表 AIの安全性に関する大統領令を発出 (安全で信頼できるAIの開発と使用に関する大統領令) 欧州議会でAIに関する包括的な規制法案を可決 (今後、EU理事会で正式承認) 我が国企業による AI ビジネスの国際展開を促進するには、このようなまだ初期段階 にある動きを踏まえつつ、安全で信頼できる AI の利活用を促進させる国際的に統一さ れたルールの形成に主体的に参画して、推進する必要がある。 例えば、現時点では国際的には「AI 生成物」自体の定義や範囲が曖昧で、定義や範囲 の明確化や共通認識の醸成が必要な段階と考えられ、知的財産権に関しては、何を保護 対象とすべきか、何をもって権利侵害と見なすかの認識は、必ずしも統一されていない。 また、インターネット上の海賊版サイトへのアクセスが増加しているところ、本検討会 では、生成 AI による日本の漫画の学習は、海外でのこうしたサイトも含めた学習であ ることは間違いない状況であるとの指摘もあった。 そこで、生成 AI に係る産業振興と権利保護の両立に向け、学習データに関するルー ルのあるべき姿を基に、権利保護の対象や権利侵害の判断基準を明確にして、学習に用 いるデータの基準やデータの識別方法の国際ルール形成や国際標準化を進める必要が 77 ある。国際標準化の場としては、AI に関する検討が以前から進められている ISO/IEC JTC1/SC42 の有効活用が考えられる。 本中間とりまとめの内容において既述のとおり、著作権を含む知的財産権の適切な保 護・管理の観点で具体的な論点は様々に存在するため、まず国際ルール形成や国際標準 化の対象となる全体像を整理する必要がある。その上で、例えば AI の信頼性や安全性 を担保するための機械学習用データの品質に関して、国際ルール形成や国際標準化の場 で必要な論点や方向性を提供し、リードできるよう、今後の戦略的な対応を検討する必 要がある。 ＜国際的なルール形成の対象と考えられる例＞ 対象領域の例 より具体的な対象の例 ・規制・制度面 ルールの局面 ・技術面 ・契約面 ・学習 生成AIに係る段階 ・生成 ・利用 関係者における ・生成AIやデータの提供者・利用者 ガバナンスや ・生成AIに入力される、または生成AIから出力されるデータの権利者 マネジメント ・ルール遵守に係る認証機関 データ利用に係る ・権利侵害からの保護対象範囲 対象・基準 ・権利侵害や公正利用等の判断基準 ・データの収集方法 データの信頼性・ 安全性等 ・生成AIに係る開示・表示方法 ・保護データに係る対価還元方法 ・保護データに係る侵害防止技術・方法 ・海賊版、偽情報・誤情報のスクリーニングに係る技術・方法 78 （３）社会への発信等の在り方 ア 生成 AI と知的財産権に関する正しい理解の普及促進の必要性 本検討会において実施した意見募集では、生成 AI の利用をめぐるインターネット上 の誹謗中傷をやめるべきことや、冷静な議論の必要性の呼びかけを求める意見が複数見 られた。もとより、誹謗中傷は許されるものでなく、また、生成 AI と知的財産権との関 係については、社会全体で、AI 技術の進歩の促進と知的財産権の適切な保護との両立を 図っていくことが重要である。 そのためにも、生成 AI に関わる誰しもが、生成 AI と知的財産権に関する正しい理解 を持つことが求められる。 特に、本中間とりまとめで示す内容も踏まえ、AI 開発者及び AI 提供者は、法令に則 りコンテンツ・データを適切に取り扱い、透明性を確保すること等を通じ、また、クリ エイター（権利者）は、適切に自らのコンテンツを守り育てることを通じ、AI 学習・提 供・利用を通じて、新たな創作の動機付けとなるような在り方を目指していくことが期 待される。 イ 普及促進に向けて 本中間とりまとめの内容のうち、法的ルールに関しては、各知的財産権法の関係省庁 における検討を基礎とするものである。著作権法との関係については、本中間とりまと めにおいても紹介しているとおり、文化審議会著作権分科会法制度小委員会により「AI と著作権に関する考え方について」 （2024 年３月 15 日）が示されたところであり、今後、 文化庁においては、「AI と著作権に関する考え方について」の内容も含め、一般社会に 分かりやすい形での周知啓発に向けて、取り組んでいくこととされている。また、文化 庁では、『AI と著作権に関する関係者ネットワーク』を立ち上げ、関係当事者間におい て適切なコミュニケーションが図られるよう関係省庁と連携し取り組んでいるところ である。 また、不正競争防止法に関しては、生成 AI と営業秘密の関係について、経済産業省 において、「秘密情報の保護ハンドブック」が改訂され、関連の記載が追加されている （2024 年２月）。 また、生成 AI と知的財産権との関係については、法的ルールに関する考え方の整理 や、技術と契約による対応策と合わせて、より広く、AI ガバナンスも大切な視点となる。 AI ガバナンスに関しては、総務省及び経済産業省による「AI 事業者ガイドライン」が 存在し、本中間とりまとめでは、知的財産権の視点から、望ましい AI ガバナンスの方 向性も検討した。 生成 AI 技術は、現時点においても進化し続けており、かつ、その動きは迅速である。 本検討会では、生成 AI をめぐるこのような急速な進展と、それにより顕在化したリス クや懸念への対応のため、知的財産権全体を視野に入れて、対応策等を検討したもので ある。 生成 AI 技術は、今後も進化し、一層普及・浸透していくことが見込まれる。 79 本中間とりまとめで示す内容も踏まえた各主体の連携による取組だけではなく、その ような取組に資する情報提供や、今後の AI 技術の進展状況を踏まえた必要な検討の継 続、また、それらの周知と具体化によって、生成 AI と知的財産権に関する正しい理解 がさらに広まり、適切な生成 AI の開発・提供・利用の促進と、コンテンツの振興が図ら れることを期待したい。 80 Ⅳ．AI 技術の進展を踏まえた発明の保護の在り方について １．AI を利用した発明の取扱いの在り方 （１）現状と課題 ア 特許法制度の概要 特許法は、発明の保護及び利用を図ることにより、発明を奨励し、もって産業の発達 に寄与することを目的とするものであり（特許法１条参照）、その保護対象は、発明（自 然法則を利用した技術的思想の創作のうち高度のもの）である（特許法２条１項参照）。 特許制度は、新しい技術を公開した者に対し、その代償として一定の期間、一定の条 件の下に特許権という独占的な権利を付与し、他方で、第三者に対してはこの公開され た発明を利用する機会を与えるものであり、権利を付与された者と、その権利の制約を 受ける第三者の利用との間に調和を求めつつ技術の進歩を図り、産業の発達に寄与して いくものである 67。 イ 問題意識 2017 年に公表された「AI を活用した創作や 3D プリンティング用データの産業財産 権法上の保護の在り方に関する調査研究報告書」では、 「現時点では、一部の企業から AI による自律的な創作を実施しているとの情報も得られているが、特許法で保護するに値 する AI による自律的な創作の存在は確認できていない。（中略）AI の自律的な創作の 取扱いは、今後の技術の進展を注視するとともに、産業界のニーズ等にも耳を傾けて、 自律的な創作が現実味を帯びてきたタイミングで、改めて検討すべき課題であると考え られる」と指摘されており 68、AI 技術の進展に関しては、 「2020 年頃には、AI が自律的 な行動計画によって動作するようになると予測されている」、 「また、2030 年頃になると、 更に広い分野で人間に近い能力を発揮できるようになり、例えば、判断や意思決定、創 造的活動等といった領域でも代替できる部分が増えると見込まれている」と予測されて いた 69。 さらに、同年に公表された「新たな情報財検討委員会報告書」では、引き続き検討す べき事項とされた AI 生成物の知的財産法制度上の在り方に関して、「AI 生成物に関す る人間の創作的寄与の程度の考え方について、AI の技術の変化等を注視しつつ、具体的 67 特許庁編「工業所有権法（産業財産権法）逐条解説〔第 22 版〕」13 頁 https://www.jpo.go.jp/system/laws/rule/kaisetu/kogyoshoyu/document/chikujokaisetsu22/all.pdf 68 一般財団法人知的財産研究教育財団 知的財産研究所「AI を活用した創作や３Ｄプリンティング用データの産業財産権法上の保 護の在り方に関する調査研究報告書」xi 頁 https://warp.da.ndl.go.jp/info:ndljp/pid/10358553/www.jpo.go.jp/shiryou/toushin/chousa/pdf/zaisanken/2016_10.pdf 69 同 vii 頁 https://warp.da.ndl.go.jp/info:ndljp/pid/10358553/www.jpo.go.jp/shiryou/toushin/chousa/pdf/zaisanken/2016_10.pdf 81 な事例に即して引き続き検討することが適当である」と指摘されていた 70。 これらの報告書が公表された後、ChatGPT の出現等、生成 AI や基盤モデルをはじめ とした AI 技術は飛躍的な進歩を遂げた。 このような AI 技術の発展に鑑みれば、発明創作過程においても AI の利活用がこれま で以上に進み、人間の関与が相対的に減ることが予想される。実際に、現時点では、発 明創作過程における AI の利活用の例として、以下のような事例が公表されている。 【取組事例】 ＜材料科学分野の AI 利活用事例＞ 2024 年１月、マイクロソフトは、米国パシフィックノースウェスト国立研究所と 共同で、新たな電池材料の発見のために、AI を活用することにより、3,200 万の 無機材料候補から有望な 18 候補までにわずか 80 時間で絞り込むことに成功した と発表した 71。 ＜創薬分野の AI 利活用事例＞ NEC は、Transgene と共同で、AI を用いて患者ごとに異なる遺伝子変異を予測 し、患者固有の変異に基づいて腫瘍細胞を認識・破壊する個別化がんワクチンの 研究開発を行っており、2021 年には臨床試験において良好な予備的データが得ら れたことを発表しており 72、2024 年１月にこれまでの結果を踏まえてさらに臨床 試験を拡大することを発表した 73。 もっとも、本検討会において実施したヒアリングや意見募集の結果を踏まえると、現 時点において、上述した取組事例のような発明の支援ツールとして AI が活用されてい るにとどまり、AI が人間の関与を離れて自律的に発明を行うまでには至っていないと考 えられる。 このように、発明創作過程における AI の利活用については、今後も AI 技術が発展す るであろうことを想定し、発明の保護との関係で発明創作過程における AI の利活用を どのように評価すべきかを確認する必要がある。 ウ 諸外国の動向 まず、上述した「AI を活用した創作や 3D プリンティング用データの産業財産権法上 の保護の在り方に関する調査研究報告書」によれば、諸外国・地域（米国、欧州、英国、 ドイツ、フランス、中国、韓国）における取扱いについて、①AI に権利主体としての地 位がない点、②権利主体は個別具体的な創作について各者の創作への貢献を評価するこ 70 知 的 財 産 戦 略 本 部 検 証 ・ 評 価 ・ 企 画 委 員 会 新 た な 情 報 財 検 討 委 員 会 「 新 た な 情 報 財 検 討 委 員 会 報 告 書 」 40 頁 ： https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2017/johozai/houkokusho.pdf 71 マイクロソフトホームページ「数年ではなく、わずか数週間で発見: AI とハイパフォーマンス コンピューティング (HPC) が科 学的発見をいかに加速するか」参照。：https://news.microsoft.com/ja-jp/features/240110-how-ai-and-hpc-are-speeding-upscientific-discovery/ 72 NEC ホームページ「Transgene 社と NEC、画期的な個別化がんワクチン TG4050 の第Ⅰ相臨床試験において良好な予備的デー タを報告」参照。https://jpn.nec.com/press/202111/20211124_01.html 73 NEC ホームページ「Transgene 社と NEC、個別化ネオアンチゲンがんワクチン TG4050 の共同臨床開発を継続するため協業を 延長」参照。https://jpn.nec.com/press/202401/20240109_02.html 82 とで決定される点、③AI の自律的な創作について AI が自然人でないため発明者の要件 を満たさず、権利の客体にもなり得ないとする点において、我が国を含めた各国・地域 共通とのことである。こうして、諸外国・地域（米国、欧州、英国、ドイツ、フランス、 中国、韓国）における AI を利用した発明の取扱いの在り方に対する考え方は、概ね軌 を一にしていると思われる 74。 また、米国においては、米国特許商標庁（USPTO）が、2024 年２月 13 日付けで AI を利用した発明についての発明者性のガイダンスを公表した 75。これは、2023 年 10 月 30 日付け大統領令 76において、USPTO に対し、120 日以内に、発明創作過程における AI の利用と発明者の問題（inventorship issues）に関するガイダンス及び事例を示すよ う指示がなされたことを受けて公表されたものであり、また、USPTO は、当該ガイダ ンスに併せて、AI を利用した発明の発明者性について、２つの事例を公表し、具体的な 事例に即した上記ガイダンスの考え方の適用関係を明らかにした。 当該ガイダンスでは、AI を利用した発明について従来の裁判例で示された発明者の認 定の基準に従うこととしており、その概要は以下のとおりである。  発明者は自然人でなければならない。  AI を利用した発明（AI-assisted inventions）は、発明者が不適切だとして 一律に拒絶されるわけではない。  発明創作過程において、連邦巡回区控訴裁判所の Pannu v. Iolab 事件判決で 示された要素 77に従って「顕著な貢献」 （significant contribution）があった と認められる自然人が発明者となる。  上記要素の適用に役立つ５つの指針 78を提示。 なお、米国在住の AI 研究者により、DABUS 79と称する AI を発明者として記載した 特許出願（「DABUS 出願」）が多数の国・地域に出願されている 80。現状、ほとんどの 国・地域では AI には発明者としての権利能力が認められていないため、日本を含め多 くの国・地域において AI は発明者として否定されている 81。 74 一般財団法人知的財産研究教育財団 知的財産研究所「AI を活用した創作や３Ｄプリンティング用データの産業財産権法上の保 護の在り方に関する調査研究報告書」xii 頁 https://warp.da.ndl.go.jp/info:ndljp/pid/10358553/www.jpo.go.jp/shiryou/toushin/chousa/pdf/zaisanken/2016_10.pdf 75 米国 Federal Register（官報）「Inventorship Guidance for AI-Assisted Inventions」 https://www.federalregister.gov/documents/2024/02/13/2024-02623/inventorship-guidance-for-ai-assisted-inventions 76 ホワイトハウスホームページ「Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence 」 https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safesecure-and-trustworthy-development-and-use-of-artificial-intelligence/ 77 ①発明の着想や実用化に何らかの重要な形で貢献すること、②貢献が発明全体と比較した場合に不十分でないこと、及び、③発 明者によく知られた概念や技術の現状を単に説明する以上の貢献をすることの３要素。 78 ①自然人が発明の創作に AI を使用したからといって、発明者としての貢献が否定されるわけではない。② AI に問題を提起し ただけの自然人は、AI の出力から特定される発明の適切な発明者ではない可能性がある。しかし、AI から特定の解決策を引き出 す方法が顕著な貢献となる可能性はある。③ 発明を実施に移行しただけでは顕著な貢献とはいえない。したがって、AI の出力を 発明として認識・評価するだけの自然人は、特に、その出力の特性や有用性が当業者にとって明らかである場合には、必ずしも発明 者であるとはいえない。④ 状況によっては、特定の解決策を引き出すために特定の問題を考慮して AI を設計、構築又は訓練する 自然人が発明者になる可能性がある。⑤ 単に発明に使用される AI を所有又は監督する者は発明者とはいえない。 79 「Device for the Autonomous Bootstrapping of Unified Sentience」 （統合知覚力の自律ブートストラップデバイス）の略（弁理 士法人太陽国際特許事務所 AI 発明者 DABUS プロジェクト特設ページ「DABUS とは」参照）。 80 The Artificial Inventor Project「Patent」参照。https://artificialinventor.com/patent/ 81 特許庁「AI の作成・利活用促進に向けた方向性等について」３頁、The Artificial Inventor Project「Patent」参照 https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kousou/2023/dai2/siryou3.pdf#page=4 https://artificialinventor.com/patent/ 83 エ 現行の制度・運用 （ア）「発明者」の認定に関する制度・運用 特許法は、 「産業上利用することができる発明をした者は、……その発明について特許 を受けることができる。」 （特許法 29 条１項柱書）と規定しており、原則として、 「発明 者」が特許を受ける権利を原始的に取得する。 そして、 「発明」とは、自然法則を利用した技術的思想の創作のうち高度のもの（特許 法２条１項）であり、技術的思想とは一般的に、特有の技術的課題を解決するための具 体的な手段をいうと考えられている。よって、 「発明者」 （共同発明者を含む。）として認 められるためには、一般に、発明の特徴的部分（従来技術には見られない、当該発明特 有の課題解決手段を基礎付ける部分）の完成に創作的に寄与することが必要であり、単 なる管理者、単なる補助者、単なる後援者については、発明者たりえないと考えられて いる。この点については、裁判例は、具体的な事案に応じて多少の文言の相違はあるも のの、これと同様の判断を示していると評価できる。 【参考】発明者の要件について判示した裁判例 「特許法２条１項は、 「発明」とは、 「自然法則を利用した技術的思想の創作のうち高 度のもの」をいうと規定し、同法 70 条１項は、 「特許発明の技術的範囲は、願書に添付 した特許請求の範囲の記載に基づいて定めなければならない。」と規定している。これ らの規定によれば、特許発明の「発明者」といえるためには、特許請求の範囲の記載に よって具体化された特許発明の技術的思想（技術的課題及びその解決手段）を着想し、 又は、その着想を具体化することに創作的に関与したことを要するものと解するのが相 当であり、その具体化に至る過程の個々の実験の遂行に研究者として現実に関与した者 であっても、その関与が、特許発明の技術的思想との関係において、創作的な関与に当 たるものと認められないときは、発明者に該当するものということはできない。」82 （強 調付加） （イ）「発明者」該当性に関する制度・運用 特許法 29 条１項は「産業上利用することができる発明した者は、……その発明につい て特許を受けることができる。」と規定しており、 「発明者」の定義規定を設けていない が、特許法 36 条１項２号では、願書に発明者の「氏名及び住所又は居所」を記載するこ 2024 年 5 月 16 日、AI を発明者として否定する東京地裁判決（令和 5 年（行ウ）第 5001 号）が出され、裁判所は「知的財産基本 法に規定する「発明」は、人間の創造的活動により生み出されるものの例示として定義されている」と指摘し、特許法には発明者が 自然人であることを前提とした規定があると述べ、特許庁の判断は適法と認めた。本結論は、本中間とりまとめの考え方とも軌を一 にするものである。 他方、同判決では、 「特許法にいう「発明者」が自然人に限られる旨の前記判断は、上記実務上の懸念までをも直ちに否定するも のではない」点、また「我が国で立法論として AI 発明に関する検討を行って可及的速やかにその結論を得ることが、AI 発明に関す る産業政策上の重要性に鑑み、特に期待されている」とも付言されている。昨今の AI を巡る状況変化は目まぐるしく、今後の AI 技 術動向や国際動向、ユーザーニーズ、その他情勢を踏まえ、特許法と AI の関係については、特許庁における検討が期待される。 82 知財高判令和 3 年 3 月 17 日（令和２年（ネ）第 10052 号） 〔免疫賦活組成物〕(この他にも、東京地判平成 17 年９月 13 日（平成 16 年（ワ）第 14321 号） 〔フィルムコーティングを施した分割錠剤〕、東京地判平成 18 年１月 26 日（平成 14 年（ワ）第 8496 号） 〔積層フィルム及び写真用支持体〕、知財高判平成 19 年７月 30 日（平成 18 年（行ケ）第 10048 号） 〔可塑性食品の移送装置〕等参 照)：https://www.courts.go.jp/app/files/hanrei_jp/178/090178_hanrei.pdf 84 ととされている。特許法 36 条１項１号が「出願人」については「氏名又は名称及び住所 又は居所」と規定していることと対比すれば、特許法は「発明者」として自然人のみを 想定していると考えられる。また、特許法 33 条１項は「特許受ける権利は、移転するこ とができる」と規定しており、出願前であっても権利移転することができる権利能力を 有する自然人であることを予定しているものである。 なお、実用新案に関する裁判例であるが、法人が実用新案の考案者になることを否定 した裁判例として東京地判昭和 30 年３月 16 日（昭和 28 年（ワ）第 5080 号） 〔ゴム製浮 袋事件〕がある。また、特許庁は「発明者は特許を受ける権利を発明の完成と同時に有 する主体であり、特許を受ける権利を有する発明者が当該権利を出願前に移転すること ができるとするこれらの規定〔特許法 29 条１項柱書、33 条１項及び 34 条１項〕は、発 明者は、権利能力を有する者であって出願人になり得る者として自然人であることを予 定しているものです。」と述べて自然人に限るとの解釈を示している 83。 （２）考え方 現時点では、AI 自身が、人間の関与を離れ、自律的に創作活動を行っている事実は確 認できておらず、依然として自然人による発明創作過程で、その支援のために AI が利 用されることが一般的であると考えられる。このような場合については、発明の特徴的 部分の完成に創作的に寄与した者を発明者とするこれまでの考え方に従って自然人の 発明者を認定すべきと考えられる。すなわち、AI を利用した発明についても、モデルや 学習データの選択、学習済みモデルへのプロンプト入力等において、自然人が関与する ことが想定されており、そのような関与をした者も含め、発明の特徴的部分の完成に創 作的に寄与したと認められる者を発明者と認定すべきと考えられる。 他方で、今後、AI 技術等のさらなる進展により、AI が自律的に発明の特徴的部分を 完成させることが可能となった場合の取扱いについては、技術の進展や国際動向、ユー ザーニーズ等を踏まえながら、発明者認定への影響を含め、引き続き必要に応じた検討 を特許庁は関係省庁と連携の上で進めることが望ましいと考えられる。 また、AI 自体の権利能力（AI 自体が特許を受ける権利や特許権の権利主体になれる か）についても、国際動向等も踏まえながら、引き続き必要に応じて検討を進めること が望ましいと考えられる。 83 特許庁ホームページ「発明者等の表示について」https://www.jpo.go.jp/system/process/shutugan/hatsumei.html 85 ２．AI の利活用拡大を見据えた進歩性等の特許審査上の課題 （１）現状と課題 ア 問題意識 「新たな情報財検討委員会報告書」において、AI 生成物に関する具体的な事例の継続 的な把握について具体的に検討を進めるべきとされた 84ことを受けて、特許庁では、こ れまでに合計 15 事例の AI 関連技術に関する特許審査事例の公表 85等の取組を行ってき た。 そして、生成 AI をはじめとした AI 技術が今後も飛躍的に発展していくことが見込ま れる中にあっては、AI の技術自体の発展及び AI の適用分野の拡大が進歩性判断に及ぼ す影響や、AI による性能予測の精度向上が記載要件（とりわけ、実施可能要件及びサポ ート要件である。）の判断に及ぼす影響を踏まえ、その判断の在り方について改めて検討 することが必要となっている。 イ 諸外国の動向 上述した「AI を活用した創作や 3D プリンティング用データの産業財産権法上の保護 の在り方に関する調査研究報告書」によれば、諸外国・地域（米国、欧州、英国、ドイ ツ、フランス、中国、韓国）においても、我が国と同様、AI を活用した発明（なお、人 間の関与が認められ、人間が「発明者」となる場合である。）に対する保護の要件に関し、 特別な規定は設けられておらず、他の AI を活用せずに創作された発明と同様の要件で 審査がされるとのことである 86。 また、 「近年の判例等を踏まえた AI 関連発明の特許審査に関する調査研究報告書」で は、諸外国（米国、欧州、英国、ドイツ、中国、韓国）における AI 関連発明の審査（特 に、発明該当性、進歩性、記載要件）の実務が分析されている。特に、AI を用いたマテ リアルズ・インフォマティクス（効果的に材料開発を行うデータ科学を用いた新材料開 発手法）による予測のみで、実際の実験結果が示されていない事例については、多くの 国・地域で実施可能要件及びサポート要件を満たさないと判断されるとされている 87。 84 知的財産戦略本部 検証・評価・企画委員会 新たな情報財検討委員会「新たな情報財検討委員会報告書」40 頁 https://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2017/johozai/houkokusho.pdf 85 特許庁ホームページ「AI 関連技術に関する特許審査事例について」。15 事例の内訳は、発明該当性３事例、進歩性６事例、記載 要件６事例。 ：https://www.jpo.go.jp/system/laws/rule/guideline/patent/ai_jirei.html 86 一般財団法人知的財産研究教育財団 知的財産研究所「AI を活用した創作や３Ｄプリンティング用データの産業財産権法上の保 護の在り方に関する調査研究報告書」272-273 頁参照 https://warp.da.ndl.go.jp/info:ndljp/pid/10358553/www.jpo.go.jp/shiryou/toushin/chousa/pdf/zaisanken/2016_10.pdf 87 一般社団法人日本国際知的財産保護協会「近年の判例等を踏まえた AI 関連発明の特許審査に関する調査研究報告書」12 頁参照 https://www.jpo.go.jp/resources/report/takoku/document/zaisanken_kouhyou/2021_01.pdf 86 ウ 現行の制度・運用等 （ア）進歩性 特許法は、特許出願前にその発明の属する技術の分野における通常の知識を有する者 （当業者 88）が公知発明等に基づいて容易に発明をすることができたときは、特許を受 けることができないとされており（特許法 29 条２項）、この要件は一般に「進歩性」と 呼ばれている。進歩性の要件が設けられた趣旨は、 「通常の人が容易に思い付くような発 明に対して排他的権利（特許権）を与えることは社会の技術の進歩に役立たないばかり でなく、かえって妨げとなるので、そのような発明を特許付与の対象から排除しようと するものである」点にあるとされている 89。 このような進歩性要件が設けられた趣旨を踏まえ、進歩性の具体的な判断に当たって は、審査官は、先行技術の中から、論理付けに最も適した一つの引用発明を選んで主引 用発明とし、請求項に係る発明と主引用発明との間の相違点に関し、他の引用発明を適 用したり、技術常識を考慮したりすることにより、主引用発明から出発して、当業者が 請求項に係る発明に容易に到達する論理付けができるか否かを判断するとされている 90。 （イ）記載要件（特に実施可能要件及びサポート要件） 特許法 36 条４項１号は、明細書の発明の詳細な説明について、「その発明の属する技 術の分野における通常の知識を有する者がその実施をすることができる程度に明確か つ十分に記載したものであること」を求めている（実施可能要件）。これは、発明の詳細 な説明の記載が明確になされていないときは、発明の公開の意義も失われ、ひいては、 産業の発達への寄与という特許制度の目的も失われてくることになることから設けら れた要件である 91。 また、同条６項１号は、特許請求の範囲の記載について、 「特許を受けようとする発明 が発明の詳細な説明に記載したものであること」を求めている（サポート要件）。これは、 発明の詳細な説明に記載していない発明について特許請求の範囲に記載することにな れば、公開しない発明について権利を請求することになりかねないことから、これを防 止するために設けられた要件である 92。 AI を利用した発明との関係で実施可能要件及びサポート要件との関係が問題となり うる領域として、例えばマテリアルズ・インフォマティクス分野が挙げられる。 88 「当業者」は、①請求項に係る発明の属する技術分野の出願時の技術常識を有しており、②研究開発のための通常の技術的手段を 用いることができ、③材料の選択、設計変更等の通常の創作能力を発揮でき、かつ、④請求項に係る発明の属する技術分野の出願時 の技術水準にあるもの全てを自らの知識とすることができ、発明が解決しようとする課題に関連した技術分野の技術を自らの知識 とすることができる者として想定された者をいうとされており、個人よりも、複数の技術分野からの「専門家からなるチーム」とし て考えた方が適切な場合もあるとされている（特許庁「特許・実用新案審査基準」第 III 部第 2 章第 2 節 2.参照。 ） 89 特許庁編「工業所有権法（産業財産権法）逐条解説〔第 22 版〕」85 頁 https://www.jpo.go.jp/system/laws/rule/kaisetu/kogyoshoyu/document/chikujokaisetsu22/tokkyo.pdf#page=85 90 特許庁「特許・実用新案審査基準」第 III 部第 2 章第 2 節 3.参照 https://www.jpo.go.jp/system/laws/rule/guideline/patent/tukujitu_kijun/document/index/03_0202.pdf 91 特許庁編「工業所有権法（産業財産権法）逐条解説〔第 22 版〕」127 頁参照 https://www.jpo.go.jp/system/laws/rule/kaisetu/kogyoshoyu/document/chikujokaisetsu22/tokkyo.pdf#page=127 92 特許庁編「工業所有権法（産業財産権法）逐条解説〔第 22 版〕」131 頁参照 https://www.jpo.go.jp/system/laws/rule/kaisetu/kogyoshoyu/document/chikujokaisetsu22/tokkyo.pdf#page=131 87 具体的には、AI によりある機能を持つと推定されたものの発明について、実施可能要 件及びサポート要件を満たし得るかという問題がある。 この点に関し、審査基準では、化学物質の発明の実施可能要件について、 「その物を作 93 れる」ように記載されていることに加え （実施例として示された構造等についての記 載や出願時の技術常識から当業者がその物を使用できる場合を除き、） 「その化学物質を 使用できることを示すためには、一つ以上の技術的に意味のある特定の用途が記載され る必要がある」、 「化学物質に関する技術分野のように、一般に物の構造や名称からその 物をどのように作り、どのように使用するかを理解することが比較的困難な技術分野に 属する発明の場合に、当業者がその発明の実施をすることができるように発明の詳細な 説明を記載するためには、通常、一つ以上の代表的な実施例が必要である。また、用途 発明(例：医薬)においては、通常、用途を裏付ける実施例が必要である」とされている 94 。 また、サポート要件については、 「出願時の技術常識に照らしても、請求項に係る発明 の範囲まで、発明の詳細な説明に開示された内容を拡張ないし一般化できるとはいえな い場合」にサポート要件違反と判断されるとしている 95。 これらを踏まえ、特許庁では、AI によって、ある機能を持つと推定された物を特許請 求の範囲に記載して行われた出願について、実際に製造して物の評価をしておらず、ま た、学習済みモデルの示す予測値の予測精度は検証されておらず、AI による予測結果が 実際に製造した物の評価に代わり得るとの技術常識が出願時にあったとは言えないと いう前提の下では、記載要件を満たさないとする事例を AI 関連技術に関する特許審査 事例として公表している 96。 （２）考え方 現時点では、発明創作過程における AI の利活用の影響によりこれまでの特許審査実 務の運用を変更すべき事情があるとは認められない。したがって、進歩性の判断に当た っては、幅広い技術分野における発明創作過程での AI の利活用を含め、技術常識や技 術水準を的確に把握した上で、これまでの運用に従い、当該技術常識や技術水準を考慮 し、進歩性のレベルを適切に設定して判断を行うべきと考えられる 97。 また、実施可能要件及びサポート要件に関しても、AI の利活用を踏まえた技術常識や 技術水準把握した上で、これまでの運用に従って判断を行うべきと考えられる。 93 審査基準第 II 部第 1 章第 1 節実施可能要件 3.1.1(2) https://www.jpo.go.jp/system/laws/rule/guideline/patent/tukujitu_kijun/document/index/02_0101.pdf 94 審査基準第 II 部第 1 章第 1 節実施可能要件 3.1.1(3) https://www.jpo.go.jp/system/laws/rule/guideline/patent/tukujitu_kijun/document/index/02_0101.pdf 95 審査基準第 II 部第 2 章第 2 節サポート要件 2.2(3) https://www.jpo.go.jp/system/laws/rule/guideline/patent/tukujitu_kijun/document/index/02_0202.pdf 96 特許庁審査一部調整課審査基準室「AI 関連技術に関する事例について」記載要件：事例５１ 嫌気性接着剤組成物、事例５２ 蛍 光発光性化合物参照 https://www.jpo.go.jp/system/laws/rule/guideline/patent/document/ai_jirei/jirei_tsuika.pdf#page=25 97 なお、特許発明の技術的範囲は、特許請求の範囲の記載に基づいて定められる（特許法 70 条１項）が、被疑侵害品が特許請求の 範囲に記載された構成と異なる（文言侵害に当たらない）場合であっても、一定の要件の下それと均等なものと認められる場合に は、特許発明の技術的範囲に含まれ、侵害（均等侵害）とされる場合がある（最判平成 10 年２月２４日（平成６年（オ）第 1083 号） 民集 52 巻１号 113 頁〔無限摺動用ボールスプライン軸受〕参照） 。その際の要件の１つである、いわゆる置換容易性の判断レベルに ついても、進歩性のレベルと同様に、AI 技術の進展により影響が生じる可能性もあると考えられる。 88 2024 年３月、特許庁は、生成 AI を含む AI 関連技術に関する審査事例を 10 事例（進 歩性４事例、記載要件４事例、発明該当性２事例）を新たに公表したところ、今後も、 技術の進展も踏まえ、必要に応じて審査事例の更なる拡充等を検討すべきと考えられる。 なお、例えば、AI を用いた機能・性質の推定等の技術がより発展した場合には、これ までの進歩性や記載要件の考え方ではイノベーションの成果を適切に保護することが できなくなる可能性もあるが、そのような場合の発明の保護の在り方については、今後 の AI 技術等の進展を見据えつつ、必要に応じて適切な発明の保護の在り方について検 討を進めることが望ましいと考えられる。 また、特許審査プロセスにおける AI の積極的な活用による審査の効率化や質の向上 に加え、発明等の創造・保護・活用の各過程における AI 技術の活用（例えば、特許性 の検討等の出願や権利化をサポートする AI サービスの開発・利用等）を通じたイノベ ーションの創出についても、AI 技術の進展の状況を踏まえて検討を進めることが望まし いと考えられる（なお、意匠についても同様である）。 89 Ⅴ． おわりに 生成 AI の技術が急速に発展し、広く普及してきたのは、ここ２年以内のことであり、 我々はいま、本格的な AI 時代の到来の黎明期にあるといえる。 本検討会は、このように急速に発展・普及する生成 AI に関し、知的財産権との関係 について横断的見地から検討を行ったものであり、特にリスクへの対応策については、 法・技術・契約の各手段を検討するとともに、動的に変化する各手段の相関関係を確認 しつつ、AI 技術を取り巻く各主体がお互いの信頼関係の下、各手段を適切に組み合わせ ながら、AI ガバナンスを実現していくべきとの方向性を示したところである。 AI 技術の利用範囲や各分野での利用者数が増加の一途を辿り、マルチモーダル化する 生成 AI やそれを取り巻く技術革新の状況に鑑みれば、各知的財産法の所管省庁である 文化庁、特許庁及び経済産業省並びにコンテンツ産業所管省庁である経済産業省及び総 務省など、関係府省庁の強固な連携の下で、AI ガバナンスの観点を踏まえたエコシステ ムの実現に向けて、必要な検討の継続や考え方についての周知啓発を行い、民間の取組 の後押しを進めることが肝要である。 また、AI 開発者、AI 提供者及び AI 利用者等の各主体は、本中間とりまとめで示す考 え方や取組例も参考に、AI 技術の進歩の促進と知的財産権の適切な保護の両立を実現す るエコシステムの構築に向けて、取組みを主体的に進めることが期待される。 なお、総務省及び経済産業省において、我が国における AI ガバナンスの統一的な指 針として、AI 事業者ガイドラインを策定し、イノベーションの促進と AI ライフサイク ルにわたるリスクの緩和を両立する枠組みを関係者と連携しながら共創していくこと を目指し、AI 開発者、AI 事業者及び AI 利用者が取り組むべき具体的な方策を示してい る。これらの主体は、本中間とりまとめで示す主体でもあることから、本中間とりまと めで示した各主体に期待される取組事項例を周知することと併せて、当該ガイドライン との有機的な連携の在り方についても今後検討する必要がある。 当面は、本中間とりまとめで示す内容も踏まえ、関係主体による継続的な取組の深化 や関係省庁における必要な検討の継続が期待されるところであり、本検討会としては、 AI 技術の動向や国際動向も踏まえ、知的財産法各所管省庁における検討状況を踏まえつ つ、各法令横断的な検討の必要性が生じた際に、引き続き検討を行うこととしたい。 以上 90 開催状況 第１回 2023 年 10 月４日（水） （１）本検討会の趣旨・背景 （２）本検討会において検討すべき課題について ※意見募集の実施 2023 年 10 月５日（木）～ 2023 年 11 月５日（日） （提出件数：1,133 件） 第２回 2023 年 10 月 18 日（水） （１）関係団体ヒアリング（一般社団法人日本音楽著作権協会、一般社団法人日本知的 財産協会、AI Picasso 株式会社） （２）本検討会において検討すべき課題について 第３回 2023 年 11 月７日（火） （１）関係団体及び事業者ヒアリング（日本マイクロソフト株式会社、一般社団法人 日 本新聞協会） （２）関係省庁ヒアリング（特許庁） （３）本検討会において検討すべき課題について（追補） 第４回 2023 年 12 月 11 日（月） （１）関係事業者ヒアリング（株式会社レベルファイブ） （２）関係省庁ヒアリング（文化庁、経済産業省 ） （３）論点整理について （４）AI 時代における知的財産権に関する意見募集の結果について 第５回 2024 年１月 26 日（金） （１）残された論点等について （２）生成 AI と知的財産権に関する横断的見地からの検討について 第６回 2024 年３月 21 日（木） （１）関係省庁ヒアリング（文化庁、経済産業省） （２）中間とりまとめ骨子（案）について （３）横断的見地からの検討について 第７回 2024 年４月 22 日（月） （１）中間とりまとめ（案）について 91 委員名簿 う え の たつひろ え あ り さ 上野 達 弘 ま 江間 有沙 早稲田大学法学学術大学院法務研究科教授 東京大学未来ビジョン研究センター准教授、 理化学研究所革新知能統合研究センター客員研究員 おかざき なおあき お か だ あつし お か だ ようすけ おくむら こ う じ 岡 﨑 直観 岡田 淳 岡田 陽 介 奥邨 弘司 さ ど し ま ようへい 佐 渡島 庸 平 しん き よ し 新 清士 東京工業大学情報理工学院情報工学系知能情報コース教授 弁護士、森・濱田松本法律事務所 ㈱ABEJA 代表取締役 CEO 兼 CTO 慶應義塾大学大学院法務研究科教授 ㈱ コルク代表取締役社長 デジタルハリウッド大学大学院教授、 ㈱ AI Frog Interactive 代表取締役 たけなか と し こ た む ら よしゆき ふ く い けんさく ふ く だ まさあき 竹中 俊子 田村 善之 福井 健 策 福田 昌 昭 わたなべ と し や ◎渡部 俊也 ワシントン大学ロースクール教授 東京大学大学院法学政治学研究科教授 弁護士、骨董通り法律事務所 ㈱Preferred Networks コンシューマープロダクト担当 VP 東京大学執行役・副学長、未来ビジョン研究センター教授 ※◎は座長 （以上 92 13 名） 【オブザーバー】 内閣府 科学技術・イノベーション推進事務局 文部科学省 文化庁 著作権課 経済産業省 経済産業政策局 知的財産政策室 経済産業省 商務情報政策局 コンテンツ産業課 経済産業省 特許庁 総務部 総務課 法務省 刑事局 刑事課 総務省 情報流通行政局 参事官 総務省 情報流通行政局 情報通信作品振興課 総務省 国際戦略局 技術政策課 研究推進室 公正取引委員会 事務総局 官房 参事官 外務省 経済局 知的財産室 【事務局】 内閣府 知的財産戦略推進事務局 93

人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）の概要 成立：令和７年５月28日 日本のAI開発・活用は遅れている。 参考資料 ２－１ 施行：令和７年６月４日（一部の規定を除く） 多くの国民がAIに対して不安。 法律の必要性 イノベーションを促進しつつ、リスクに対応するため、既存の刑法や個別の業法等に加え、新たな法律が必要。 目的 法律の概要 国民生活の向上、国民経済の発展 基本理念 経済社会及び安全保障上重要 研究開発力の保持、国際競争力の向上 基礎研究から活用まで総合的・計画的に推進 適正な研究開発・活用のため透明性の確保等 国際協力において主導的役割 AI戦略本部 本部長：内閣総理大臣 構成員：全ての国務大臣 関係行政機関等に対して必要な協力を求める AI基本計画 研究開発・活用の推進のために政府が実施すべき施策の基本的な方針等 基本的施策 研究開発の推進、施設等の整備・共用の促進 人材確保、教育振興 国際的な規範策定への参画 適正性のための国際規範に即した指針の整備 情報収集、権利利益を侵害する事案の分析・対策検討、調査 事業者等への指導・助言・情報提供 責務 国、地方公共団体、研究開発機関、事業者、国民の責務、関係者間の連携強化 事業者は国等の施策に協力しなければならない 附則 見直し規定（必要な場合は所要の措置） 世界のモデルとなる法制度を構築 国際指針に則り、イノベーション促進とリスク対応を両立。最もAIを開発・活用しやすい国へ。

参考資料２－２ 1 令和七年法律第五十三号 人工知能関連技術の研究開発及び活用の推進に関する法律 目次 第一章 総則（第一条―第十条） 第二章 基本的施策（第十一条―第十七条） 第三章 人工知能基本計画（第十八条） 第四章 人工知能戦略本部（第十九条―第二十八条） 附則 第一章 総則 （目的） 第一条 この法律は、人工知能関連技術が我が国の経済社会の発展の基盤となる技術であることに鑑み、人工知能関連技術の研究開発及び 活用の推進に関する施策について、基本理念並びに人工知能関連技術の研究開発及び活用の推進に関する基本的な計画の策定その他の施 策の基本となる事項を定めるとともに、人工知能戦略本部を設置することにより、科学技術・イノベーション基本法（平成七年法律第百 三十号）及びデジタル社会形成基本法（令和三年法律第三十五号）その他の関係法律による施策と相まって、人工知能関連技術の研究開 発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することを目 的とする。 （定義） 第二条 この法律において、「人工知能関連技術」とは、人工的な方法により人間の認知、推論及び判断に係る知的な能力を代替する機能 を実現するために必要な技術並びに入力された情報を当該技術を利用して処理し、その結果を出力する機能を実現するための情報処理シ ステムに関する技術をいう。 （基本理念） 第三条 人工知能関連技術の研究開発及び活用の推進は、科学技術・イノベーション基本法第三条に定める科学技術・イノベーション創出 の振興に関する方針及びデジタル社会形成基本法第二章に定める基本理念のほか、この条に定める基本理念に基づいて行うものとする。 ２ 人工知能関連技術の研究開発及び活用の推進は、人工知能関連技術が、その適正かつ効果的な活用によって行政事務及び民間の事業活 動の著しい効率化及び高度化並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観 点からも重要な技術であることに鑑み、我が国において人工知能関連技術の研究開発を行う能力を保持するとともに、人工知能関連技術 に関する産業の国際競争力を向上させることを旨として、行うものとする。 ３ 人工知能関連技術の研究開発及び活用の推進は、人工知能関連技術の基礎研究から国民生活及び経済活動における活用に至るまでの各 段階の関係者による取組が相互に密接な関連を有することに鑑み、これらの取組を総合的かつ計画的に推進することを旨として、行うも のとする。 ４ 人工知能関連技術の研究開発及び活用は、不正な目的又は不適切な方法で行われた場合には、犯罪への利用、個人情報の漏えい、著作 権の侵害その他の国民生活の平穏及び国民の権利利益が害される事態を助長するおそれがあることに鑑み、その適正な実施を図るため、 人工知能関連技術の研究開発及び活用の過程の透明性の確保その他の必要な施策が講じられなければならない。 ５ 人工知能関連技術の研究開発及び活用は、我が国及び国際社会の平和と発展に寄与するものとなるよう、国際的協調の下に推進するこ とを旨とし、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすよう努めるものとする。 （国の責務） 第四条 国は、前条に定める基本理念（以下「基本理念」という。）にのっとり、人工知能関連技術の研究開発及び活用の推進に関する施 策を総合的かつ計画的に策定し、及び実施する責務を有する。 ２ 国は、行政事務の効率化及び高度化を図るため、国の行政機関における人工知能関連技術の積極的な活用を進めるものとする。 （地方公共団体の責務） 第五条 地方公共団体は、基本理念にのっとり、人工知能関連技術の研究開発及び活用の推進に関し、国との適切な役割分担の下、地方公 共団体が実施すべき施策として、その地方公共団体の区域の特性を生かした自主的な施策を策定し、及び実施する責務を有する。 （研究開発機関の責務等） 第六条 大学、科学技術・イノベーション創出の活性化に関する法律（平成二十年法律第六十三号）第二条第九項に規定する研究開発法人 その他の人工知能関連技術の研究開発を行う機関（以下「研究開発機関」という。）は、基本理念にのっとり、人工知能関連技術の研究 開発及びその成果の普及並びに専門的かつ幅広い知識を有する人材の育成に積極的に努めるとともに、第四条の規定に基づき国が実施す る施策及び前条の規定に基づき地方公共団体が実施する施策に協力するよう努めるものとする。 ２ 国及び地方公共団体は、人工知能関連技術の研究開発及び活用の推進に関する施策で大学に係るものを策定し、及び実施するに当たっ ては、大学における研究活動の活性化を図るよう努めるとともに、研究者の自主性の尊重その他の大学における研究の特性に配慮しなけ ればならない。 ３ 研究開発機関は、人工知能関連技術の研究開発を効果的に進めるに当たっては、人文科学及び自然科学に関する多様な分野の知見を総 合的に活用することが必要であることに鑑み、学際的又は総合的な研究開発に努めるものとする。 （活用事業者の責務） 第七条 人工知能関連技術を活用した製品又はサービスの開発又は提供をしようとする者その他の人工知能関連技術を事業活動において活 用しようとする者（以下「活用事業者」という。）は、基本理念にのっとり、自ら積極的な人工知能関連技術の活用により事業活動の効 率化及び高度化並びに新産業の創出に努めるとともに、第四条の規定に基づき国が実施する施策及び第五条の規定に基づき地方公共団体 が実施する施策に協力しなければならない。 （国民の責務） 第八条 国民は、基本理念にのっとり、人工知能関連技術に対する理解と関心を深めるとともに、第四条の規定に基づき国が実施する施策 及び第五条の規定に基づき地方公共団体が実施する施策に協力するよう努めるものとする。 （連携の強化） 第九条 国は、国、地方公共団体、研究開発機関及び活用事業者が相互に連携を図りながら協力することにより人工知能関連技術の研究開 発及び活用の推進が図られることに鑑み、これらの者の間の連携の強化に必要な施策を講ずるものとする。 （法制上の措置等） 第十条 国は、人工知能関連技術の研究開発及び活用の推進に関する施策を実施するため必要な法制上又は財政上の措置その他の措置を講 ずるものとする。 2 第二章 基本的施策 （研究開発の推進等） 第十一条 国は、人工知能関連技術の基礎研究から実用化のための研究開発に至るまでの一貫した研究開発の推進、研究開発機関における 研究開発の成果の移転のための体制の整備、研究開発の成果に係る情報の提供その他の施策を講ずるものとする。 （施設及び設備等の整備及び共用の促進） 第十二条 国は、人工知能関連技術の研究開発及び活用に当たって必要となる大規模な情報処理、情報通信、電磁的記録（電子的方式、磁 気的方式その他人の知覚によっては認識することができない方式で作られる記録であって、電子計算機による情報処理の用に供されるも のをいう。）の保管等に係る施設及び設備並びにデータセット（特定の目的をもって収集した情報の集合物をいう。）その他の知的基盤 （科学技術・イノベーション創出の活性化に関する法律第二十四条の四に規定する知的基盤をいう。以下この条において同じ。）を研究開 発機関及び活用事業者が広く利用できるようにするため、これらの施設及び設備並びに知的基盤の整備及び共用の促進のために必要な施 策を講ずるものとする。 （適正性の確保） 第十三条 国は、人工知能関連技術の研究開発及び活用の適正な実施を図るため、国際的な規範の趣旨に即した指針の整備その他の必要な 施策を講ずるものとする。 （人材の確保等） 第十四条 国は、地方公共団体、研究開発機関及び活用事業者と緊密な連携協力を図りながら、人工知能関連技術の基礎研究から国民生活 及び経済活動における活用に至るまでの各段階において必要となる専門的かつ幅広い知識を有する多様な分野の人材の確保、養成及び資 質の向上に必要な施策を講ずるものとする。 （教育の振興等） 第十五条 国は、国民が広く人工知能関連技術に対する理解と関心を深めるよう、人工知能関連技術に関する教育及び学習の振興、広報活 動の充実その他の必要な施策を講ずるものとする。 （調査研究等） 第十六条 国は、国内外の人工知能関連技術の研究開発及び活用の動向に関する情報の収集、不正な目的又は不適切な方法による人工知能 関連技術の研究開発又は活用に伴って国民の権利利益の侵害が生じた事案の分析及びそれに基づく対策の検討その他の人工知能関連技術 の研究開発及び活用の推進に資する調査及び研究を行い、その結果に基づいて、研究開発機関、活用事業者その他の者に対する指導、助 言、情報の提供その他の必要な措置を講ずるものとする。 （国際協力） 第十七条 国は、人工知能関連技術の研究開発及び活用に関する国際協力を推進するとともに、国際的な規範の策定に積極的に参画するも のとする。 第三章 人工知能基本計画 第十八条 政府は、基本理念にのっとり、前章に定める基本的施策を踏まえ、人工知能関連技術の研究開発及び活用の推進に関する基本的 な計画（以下「人工知能基本計画」という。）を定めるものとする。 ２ 人工知能基本計画は、次に掲げる事項について定めるものとする。 一 人工知能関連技術の研究開発及び活用の推進に関する施策についての基本的な方針 二 人工知能関連技術の研究開発及び活用の推進に関し、政府が総合的かつ計画的に講ずべき施策 三 前二号に掲げるもののほか、人工知能関連技術の研究開発及び活用の推進に関する施策を政府が総合的かつ計画的に推進するために 必要な事項 ３ 内閣総理大臣は、人工知能戦略本部の作成した人工知能基本計画の案について閣議の決定を求めるものとする。 ４ 内閣総理大臣は、前項の閣議の決定があったときは、遅滞なく、人工知能基本計画を公表するものとする。 ５ 前二項の規定は、人工知能基本計画の変更について準用する。 第四章 人工知能戦略本部 （設置） 第十九条 人工知能関連技術の研究開発及び活用の推進に関する施策を総合的かつ計画的に推進するため、内閣に、人工知能戦略本部（以 下「本部」という。）を置く。 （所掌事務） 第二十条 本部は、次に掲げる事務をつかさどる。 一 人工知能基本計画の案の作成及び実施の推進に関すること。 二 前号に掲げるもののほか、人工知能関連技術の研究開発及び活用の推進に関する施策で重要なものの企画及び立案並びに総合調整に 関すること。 （組織） 第二十一条 本部は、人工知能戦略本部長、人工知能戦略副本部長及び人工知能戦略本部員をもって組織する。 （人工知能戦略本部長） 第二十二条 本部の長は、人工知能戦略本部長（以下「本部長」という。）とし、内閣総理大臣をもって充てる。 ２ 本部長は、本部の事務を総括し、所部の職員を指揮監督する。 （人工知能戦略副本部長） 第二十三条 本部に、人工知能戦略副本部長（次項及び次条第二項において「副本部長」という。）を置き、内閣官房長官及び人工知能戦 略担当大臣（内閣総理大臣の命を受けて、人工知能関連技術の研究開発及び活用の総合的かつ計画的な推進に関し内閣総理大臣を助ける ことをその職務とする国務大臣をいう。）をもって充てる。 ２ 副本部長は、本部長の職務を助ける。 （人工知能戦略本部員） 第二十四条 本部に、人工知能戦略本部員（次項において「本部員」という。）を置く。 ２ 本部員は、本部長及び副本部長以外の全ての国務大臣をもって充てる。 （資料の提出その他の協力） 第二十五条 本部は、その所掌事務を遂行するため必要があると認めるときは、関係行政機関、地方公共団体、独立行政法人（独立行政法 人通則法（平成十一年法律第百三号）第二条第一項に規定する独立行政法人をいう。）及び地方独立行政法人（地方独立行政法人法（平 成十五年法律第百十八号）第二条第一項に規定する地方独立行政法人をいう。）の長並びに特殊法人（法律により直接に設立された法人 3 又は特別の法律により特別の設立行為をもって設立された法人であって、総務省設置法（平成十一年法律第九十一号）第四条第一項第八 号の規定の適用を受けるものをいう。）の代表者に対して、資料の提出、意見の表明、説明その他必要な協力を求めることができる。 ２ 本部は、その所掌事務を遂行するために特に必要があると認めるときは、前項に規定する者以外の者に対しても、必要な協力を依頼す ることができる。 （事務） 第二十六条 本部に関する事務は、内閣府において処理する。 （主任の大臣） 第二十七条 本部に係る事項については、内閣法（昭和二十二年法律第五号）にいう主任の大臣は、内閣総理大臣とする。 （政令への委任） 第二十八条 この法律に定めるもののほか、本部に関し必要な事項は、政令で定める。 附 則 抄 （施行期日） 第一条 この法律は、公布の日から施行する。ただし、第三章及び第四章並びに附則第三条及び第四条の規定は、公布の日から起算して三 月を超えない範囲内において政令で定める日から施行する。 （検討） 第二条 政府は、人工知能関連技術の研究開発及び活用の推進に関する諸施策についての国際的動向その他の社会経済情勢の変化を勘案し つつ、この法律の施行の状況について検討を加え、必要があると認めるときは、その結果に基づいて所要の措置を講ずるものとする。

参考資料３－１ 人工知能関連技術の研究開発及び活用の推進に関する法律案に対する附帯決議 （令和７年４月 24 日 衆議院内閣委員会） 政府は、本法の施行に当たっては、次の事項に留意し、その運用等について遺漏なきを 期すべきである。 一 ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の 尊厳を損なわないことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的 に沿って動作させるＡＩアライメントの観点に基づいた研究開発を推進すること。 二 本法に基づくＡＩ基本計画、指針の策定その他のＡＩ政策の実施に当たっては、リス クの最小化のみならず、我が国におけるＡＩの導入促進による便益についても十分考慮す ること。 三 生成ＡＩを含むＡＩ技術は、社会や経済に対して便益をもたらすとともに様々なリス クを有していることに鑑み、ＡＩの利活用に際しての留意点やリスクの回避策等につい て、事業者や国民に対して十分に周知すること。また、リスクの把握を含めたＡＩの適切 な利活用の方法について、学校教育や社会教育等の場を活用することにより、ＡＩに関す るリテラシー教育を積極的に推進すること。 四 ＡＩ技術を悪用したディープフェイクポルノ、とりわけ児童の画像等を使用したもの への対策については、各種法令の適用による厳正な取締り及び被害者の保護を行うととも に、サイト管理者等への違法な情報の削除依頼を強化すること。また、同対策の実効性を 高めるための方策の在り方について検討し、その結果に基づいて必要な措置を講ずるこ と。 五 我が国で利用される生成ＡＩサービスの多くが外国産で占められている一方、日本語 での出力に課題がある現状を踏まえ、日本語の大規模言語モデルをベースとした国産の生 成ＡＩサービスの実用化に向けた研究開発及びデータ整備の一層の推進に官民を挙げて取 り組むこと。また、将来において競争力を高めるためにも、ＡＩを国家戦略上の重要分野 と位置付けるとともに、ＡＩの基盤的技術やモデルの研究開発を積極的に支援すること。 六 ＡＩ関連産業のイノベーションと健全な競争を促進するため、必要に応じてスタート アップを含む新規参入者に係る障壁を撤廃し、公正で開かれた市場環境を整備すること。 1 七 ＡＩ技術の研究開発が総合的に行われる必要があることに鑑み、学際的見地からＡＩ 人材の育成を強化し、特に次世代の競争力を高めること。また、ＡＩ技術の研究開発や人 材の育成・確保に向けた官民の十分な投資を確保するため、財政上の措置その他必要な措 置を講ずること。 八 ＡＩの利活用が行政サービスの質の向上、業務の効率化及び社会課題の解決等に資す ることに鑑み、国、地方公共団体及び地域の民間事業者によるＡＩの積極的な利活用に向 けた環境の整備に努めること。また、利活用に際しては、ＡＩが有する様々なリスクを踏 まえて、個人情報の保護その他の国民の権利利益の保護を図りつつ、適正性の確保にも十 分に留意すること。 九 活用事業者等に対する調査、指導及び助言等に当たっては、当該事業者等の営業秘密 や知的財産権の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意する こと。他方で、重大なリスクが生じるおそれのある事項に関し、指導や助言等に応じない 活用事業者等に対する実効性ある措置の在り方について検討し、その結果に基づいて必要 な措置を講ずること。 十 広島ＡＩプロセス国際行動規範の「報告枠組み」に基づき報告書を提出する活用事業 者等に対しては、既存の国内法制度に基づく報告義務に最大限活用することで、報告の重 複を軽減する仕組みを導入することなどにより、国際的な整合性や効率性を確保するこ と。 十一 ＡＩ技術が加速度的に進展している現状を踏まえ、ＡＩの利活用が国民生活の向上 及び国民経済の健全な発展に資するものとなるよう、また、新たなリスクに適時に対応す るためにも、本法その他の関連規定、ＡＩ基本計画及び指針について不断の見直しを行う こと。 十二 ＡＩ戦略本部の組織体制については、同本部がＡＩ技術の研究開発及び活用に係る 一体的な施策を推進する政府の司令塔機能を十分に発揮できるよう、各省庁の縦割りを可 能な限り排除するとともに、事務局に民間のＡＩ人材の積極的な登用を図ること。 十三 ＡＩ戦略本部に対して専門的見地から助言を行えるようにするため、有識者から構 成される会議体を早期に設置すること。また、有識者の人選については、ＡＩの倫理的、 2 法的及び社会的課題について知見を有する者など多様な主体の参画を図ること。 十四 ＡＩのリスクへの対応について、常に最新の知見の情報収集に努め、必要な対応に ついて不断の検討を行うこと。また、既存の法令やガイドライン等によっては対応が困難 な新たなリスクが顕在化した場合においては、そのリスクの程度に応じて規制の度合いを 変えるリスクベースアプローチに基づいた規制的措置の導入も含め検討し、その結果に応 じて必要な措置を講ずること。 十五 ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため、諸外 国における検討状況等を踏まえ、必要に応じ関連法制の整備を含めた対応の在り方につい て検討し、その結果に基づいて必要な措置を講ずること。 3

参考資料３－２ 一 二 三 四 令和七年五月二十七日 参 議 院 内 閣 委 員 会 人工知能関連技術の研究開発及び活用の推進に関する法律案に対する附帯決議 政府は、本法の施行に当たり、次の諸点について適切な措置を講ずるべきである。 ＡＩの研究開発及び活用に当たっては、「人間中心のＡＩ社会原則」に基づき、人間の尊厳を損なわな いことを大前提とすること。また、ＡＩを人間の倫理観、価値観及び目的に沿って動作させるＡＩアライ メントの観点に基づいた研究開発を推進すること。 本法に基づくＡＩ基本計画、指針の策定その他のＡＩ政策の実施に当たっては、リスクの最小化のみな らず、我が国におけるＡＩの導入促進による便益についても十分考慮すること。 生成ＡＩを含むＡＩ技術は、社会や経済に対して便益をもたらすとともに様々なリスクを有しているこ とに鑑み、ＡＩの利活用に際しての留意点やリスクの回避策等について、事業者や国民に対して十分に周 知すること。また、リスクの把握を含めたＡＩの適切な利活用の方法について、学校教育や社会教育等の 場を活用することにより、ＡＩに関するリテラシー教育を積極的に推進すること。 ＡＩの利活用の推進により、雇用の代替や経済格差の拡大が懸念されていることを踏まえ、ＡＩの普及 が雇用や産業構造に与える影響について分析を行った上で、民間事業者による新産業の創出に向けた支援 を実施するとともに、新たな人材需要に対応するためのリカレント教育を推進する等、必要な施策を講ず ること。 五 六 七 八 九 十 ＡＩ技術を悪用したディープフェイクポルノ、取り分け児童の画像等を使用したものについての対策と して、各種法令の適用による厳正な取締り及び被害者の保護を行うとともに、サイト管理者等への違法な 情報の削除依頼の強化に加え、被害者による告訴等の負担軽減、被害発生防止に向けた教育啓発等の措置 を講ずること。また、対策の実効性を高めるための方策の在り方について検討し、その結果に基づいて必 要な対応を図ること。 我が国で利用される生成ＡＩサービスの多くが外国産で占められている一方、日本語での出力に課題が ある現状を踏まえ、日本語の大規模言語モデルをベースとした国産の生成ＡＩサービスの実用化に向けた 研究開発及びデータ整備の一層の推進に官民を挙げて取り組むこと。 ＡＩ関連産業のイノベーションと健全な競争を促進するため、必要に応じてスタートアップを含む新規 参入者に係る障壁を撤廃し、公正で開かれた市場環境を整備すること。 国際競争力の強化を図るため、ＡＩを国家戦略上の重要分野と位置付けるとともに、ＡＩの基盤的技術 やモデルの研究開発及び海外展開を積極的に支援すること。 ＡＩの普及等に伴い需要の増大が見込まれるデータセンターの整備については、電力需給を踏まえ戦略 的に推進すること。また、稼働に伴う環境負荷の低減に向けた取組を実施するとともに、日照権や排熱の 問題について、設置者による立地地域の住民及び地方公共団体への十分な情報提供を行うことを始め、地 域との共生を図るためのデータセンター設置の在り方について検討を行い、必要な措置を講ずること。 ＡＩ技術の研究開発が総合的に行われる必要があることに鑑み、学際的見地からＡＩ人材の育成を強化 し、特に次世代の競争力を高めること。また、ＡＩ技術の研究開発や人材の育成・確保に向けた官民の十 ＡＩの利活用が行政サービスの質の向上、業務の効率化及び高度化並びに社会課題の解決等に資する 分な投資を確保するため、財政上の措置その他必要な措置を講ずること。 十一 ことに鑑み、国、地方公共団体及び民間事業者等によるＡＩの積極的な利活用が可能となる環境の整備に 努めること。また、利活用に際しては、ＡＩが有する様々なリスクを踏まえて、個人情報の保護その他の 国民の権利利益の保護を図りつつ、適正性についても確保するとともに、業務効率化による安易な人員削 差別や偏見の助長、偽・誤情報の拡散等、ＡＩのもたらし得るリスクを低減させる技術の研究開発及 減につながらないよう十分に留意すること。 十二 び社会実装を一層推進すること。また、活用事業者等に対し、透明性の確保及び不適切な出力の防止に関 する対策の実施を促進するとともに、関係者間の連携の強化や好事例の周知等、官民一体となった安全性 活用事業者等に対する調査、指導及び助言等に当たっては、当該事業者等に係る営業秘密等の知的財 の確保に向けた取組を実施すること。 十三 国民の権利利益の侵害が生じた事案等について、調査、指導及び助言等を行うに当たっては、活用事 産の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意すること。 十四 業者やＡＩサービスの利用者等から迅速な情報収集を行うとともに、平時より関係者間での情報共有を図 り、事故発生やその可能性を早急に検知し、適切な対策を講ずるための体制整備を推進すること。また、 海外の事業者や指導・助言等に応じない活用事業者等への対応に関しては、国際連携の強化等に努めると 広 島 Ａ Ｉ プ ロ セ ス 国 際 行 動 規 範 の「 報 告 枠 組 み 」に 基 づ き 報 告 書 を 提 出 す る 活 用 事 業 者 等 に 対 し て は 、 ともに、実効性ある措置の在り方について検討し、その結果に基づいて必要な措置を講ずること。 十五 既存の国内法制度に基づく報告義務に最大限活用することで、報告の重複を軽減する仕組みを導入するこ ＡＩ技術が加速度的に進展している現状を踏まえ、ＡＩの利活用が国民生活の向上及び国民経済の健 となどにより、国際的な整合性や効率性を確保すること。 十六 全な発展に資するものとなるよう、また、新たなリスクに適時に対応するためにも、本法その他の関連規 ＡＩ戦略本部の組織体制については、同本部がＡＩ技術の研究開発及び活用に係る一体的な施策を推 定、ＡＩ基本計画及び指針について不断の見直しを行うこと。 十七 進する政府の司令塔機能を十分に発揮できるよう、各省庁の縦割りによる弊害を排除するとともに、事務 ＡＩ戦略本部に対して専門的見地から助言を行えるようにするため、有識者から構成される会議体を 局に民間のＡＩ人材の積極的な登用を図ること。 十八 早期に設置すること。また、有識者の人選については、ＡＩの倫理的、法的及び社会的課題について知見 ＡＩのリスクへの対応について、常に最新の知見の情報収集に努め、必要な対応について不断の検討 を有する者など多様な主体の参画を図ること。 十九 を行うこと。また、既存の法令やガイドライン等によっては対応が困難な新たなリスクが顕在化した場合 においては、そのリスクの程度に応じて規制の度合いを変えるリスクベースアプローチに基づいた規制的 ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため、諸外国における検討状 措置の導入も含め検討し、その結果に応じて必要な措置を講ずること。 二十 況等を踏まえ、必要に応じ関連法制の整備を含めた対応の在り方について検討し、その結果に基づいて必 要な措置を講ずること。その際、特に権利者の権利が適切に保護されるよう十分考慮すること。 右決議する。

ＡＩ基本計画骨子（たたき台）：全体構成 参考資料４－１ 第１章 基本構想 ～「世界で最もＡＩを開発・活用しやすい国」を目指して～ 今こそ「反転攻勢」の好機、ＡＩを軸とした経済社会を構築する国家戦略を策定 人とＡＩが協働する「人間中心のＡＩ社会原則」を堅持、イノベーション促進とリスク対応を両立 第２章 施策についての基本的な方針 3原則：イノベーション促進とリスク対応の両立、PDCAとアジャイル対応、内外一体の政策展開 4方針：ＡＩを使う、ＡＩを創る、ＡＩの信頼性を高める、ＡＩと協働する 第３章 政府が総合的かつ計画的に講ずべき施策：4方針に基づく施策集 第１節：ＡＩ利活用の加速的推進：政府で、あるいは社会課題解決のため、まず「使ってみる」 第２節：ＡＩ開発力の戦略的強化：信頼できるＡＩエコシステムを国内で構築、海外にも展開 第３節：ＡＩガバナンスの主導：PDCAサイクルを絶えず回し適正性を確保、国際協調も主導 第４節：ＡＩ社会に向けた継続的変革：産業、雇用、社会への影響を能動的に検証・対応 第４章 施策を政府が総合的かつ計画的に推進するために必要な事項 推進体制の構築（例：規制改革推進室、デジタル庁などとの連携）、基本計画は当面毎年変更 ＜今後のスケジュール（想定）＞ 2025年９月12日 第１回ＡＩ戦略本部会合の開催、専門調査会の設置 ９月19日 専門調査会における検討の開始（第１回会合開催） 以降 2025年 年内目途 ＡＩ基本計画案の検討 ＡＩ戦略本部会合への報告、閣議決定 1 （参考）日本の置かれた現状  米国・中国のみならず、グローバルサウスを含めた世界各国がＡＩ開発競争に名乗り。  日本ではＡＩの利活用が十分に進んでおらず、ＡＩ関連の投資も停滞。  「ＡＩを使わない」ことが最大のリスクであり、日本のＡＩ投資・利活用の推進は急務。 生成ＡＩの利活用状況の変化 2023年 2024年 ●個人の生成ＡＩサービス利用経験 ●個人の生成ＡＩサービス利用経験 中国(56.3%) 米国(46.3%) 中国(81.2%) 米国(68.8%) ドイツ(34.6%) ドイツ(59.2%) 日本(9.1%) 日本(26.7%) ●企業における業務での生成ＡＩ利用率 ●企業における業務での生成ＡＩ利用率 米国(84.7%) 中国(84.4%) 米国(90.6%) 中国(95.8%) ドイツ(72.7%) ドイツ(90.3%) 日本(46.8%) 日本(55.2%) ＡＩへの民間投資額の変化 2024年 2023年 1位 ：米国(約672億ドル) 1位 ：米国(約1091億ドル) 2位 ：中国(約78億ドル) 2位 ：中国(約93億ドル) 3位 ：英国(約38億ドル) 3位 ：英国(約45億ドル) 9位 ：韓国(約14億ドル) 8位 ：アラブ首長国連邦(約18億ドル) 12位：日本(約7億ドル) 11位 ：韓国(約13億ドル) ～ ～ 13位 ：アラブ首長国連邦(約4億ドル) ～ ～ ～ 14位：日本(約9億ドル) 出典： 「令和6年版情報通信白書」及び「令和7年版情報通信白書」 並びに「スタンフォード大学による調査（AI Index Report 2024、2025）」を基に内閣府にて作成。 2 （参考）世界で最もＡＩを開発・活用しやすい国に向けて  ＡＩ利活用で、日本の長年の課題である、人口減少、国内への投資不足、賃金停滞を解決。 健康・医療、防災を含む安全・安心な国民生活、安全保障や平和構築にも貢献。  日本のＡＩ産業を振興することで、日本社会の持つ潜在力の発揮を実現、デジタル赤字抑止に貢献 し、国外市場への展開も期待。  技術進歩に伴い変動するリスクに適時適切に対応し、人間中心のＡＩを堅持。  ＡＩを基軸として、新たな経済発展と安全・安心な社会を構築。 主なメリット：自律的に業務を実行する「ＡＩエージェント」、現実世界でロボット等を動かす「フィジカル ＡＩ」、といった近時の技術進歩で、多様な可能性が拡大 効率化・ 生産性向上 （自動化、最適化） 新事業・ 新市場創造 （創薬、新素材） 方 社会課題解決 （農業、医療、介護） 包摂的成長 （中小企業、公共 サービス高度化） 生活の質の向上 （病気の早期発見、 自動運転） イノベーション促進 イノベーションの促進とリスク対応の両立 リスク対応 主なリスク：ＡＩの開発・利用の進展で、誤判断、ハルシネーション、サイバーセキュリティといったＡＩの有 する技術的リスクから「人との協働」に関する社会的リスクへ拡大 差別・偏見の助長 犯罪への利用 プライバシー・ 財産権の侵害 偽・誤情報の拡散 雇用・経済不安 3 （参考）ＡＩ施策の方向性：ＡＩ利活用の加速的推進(ＡＩを使う) • 日本社会全体で、世界最先端のＡＩ技術を積極的に利活用することで、 新たなイノベーションを創出。 • データの集積、活用、共有の促進で、ＡＩの徹底活用を可能に。 具体的取組例 ＡＩが日常化する社会を目指し、様々な局面でのＡＩ利活用を推進。 まず使ってみるという意識を広く社会に醸成。 政府でのＡＩ徹底利用（適正かつ先導的な利活用でＡＩの信頼性・適正性を確保）。 医療、介護、農林水産業等におけるＡＩエージェントやフィジカルＡＩ等の開発・実証・ 導入促進（人手不足等の社会課題を解決するための利活用支援）。 防衛力の抜本的強化と警察活動の高度化に向けたＡＩ利活用。 中小企業を含む地域産業でのＡＩ導入促進、ＡＩ利活用による新事業・新産業の創出。 地方創生、経済再生、国民生活の質の向上に資するＡＩ利活用を促すため、 ＡＩ利活用を前提に既存の規制や制度の見直しを先導的に推進。 4 （参考）ＡＩ施策の方向性：ＡＩ開発力の戦略的強化（ＡＩを創る） • ＡＩエコシステム各層 （アプリ・モデル・計算基盤等） の開発と組合せ促進で、 日本の強みとして「信頼できるＡＩ」を開発、海外にも積極的に展開。 • 国内でのＡＩ利活用促進と開発力強化の相乗効果でイノベーションの好循 環を実現。 具体的取組例 国内で、独自にＡＩエコシステムを開発できる能力を強化。質の高いデータ連携基盤の 構築、国内外トップ人材の集約、評価基盤やテストベットの整備。 日本の勝ち筋として、ＡＩモデルとアプリを組み合わせた多様なサービス創出、 フィジカルＡＩの開発・実証、ＡＩ for Science等の推進。 質の高い日本語データの整備・拡充。日本の文化・習慣等を踏まえた信頼できるＡＩ の開発・評価。 ＡＩデータセンター、効率的な電力・通信インフラの整備（ワット・ビット連携）、高性能ＡＩ 半導体開発や富岳NEXTの開発による、ＡＩ開発力を支える利用基盤の増強・確保。 積極的な海外展開と、国内外からのＡＩ開発者の確保による、信頼できるＡＩの開発 を基軸としたエコシステムの構築。 5 （参考）ＡＩ施策の方向性：ＡＩガバナンスの主導(ＡＩの信頼性を高める) • ＡＩの適正性を確保するため、PDCA（計画・実行・評価・改善）サイク ルを構築。 • 国境を越えるＡＩでは、国内だけでなく国際的なガバナンスが不可欠であり、 「広島ＡＩプロセス」を主導した日本として、引き続きこれを主導。 具体的取組例 ＡＩ法第16条の調査研究を軸に、変動するリスクを適時適切に把握。ＡＩ法第13条の 指針等で適正性を確保。 ＡＩセーフティ・インスティテュート（ＡＩＳＩ）の抜本的強化等によるＡＩの適正性に係る評 価機能構築。 広島ＡＩプロセスフレンズグループや外交機会を活用したグローバルサウス等との国際 協調。GPAI東京センターの支援やERIAでの協力モデル構築。 軍事領域に関するＡＩに関し、人道的考慮と安全保障の観点を勘案したバランスの取 れた議論を通じた国際的な議論への積極的な参画。 ＡＩ関連の国際規格策定等においてＡＩモデルの相互運用性の確保を重視し、 日本が多様なＡＩイノベーションの結節点へ。 6 （参考）ＡＩ施策の方向性：ＡＩ社会に向けた継続的変革(ＡＩと協働する) • 「人とＡＩの協働」のため、産業や雇用のあり方、制度や社会の仕組みを 先導的かつ継続的に変革。 • 「アドバンスト・エッセンシャルワーカー」等のＡＩの利活用や開発ができる 人材の育成・確保はもちろん、ＡＩ社会を生き抜く「人間力」を向上。 具体的取組例 ＡＩを基軸とした産業構造の構築に向けた、ＡＩ基軸の組織経営改革（ＡＩトランス フォーメーション）の促進、データセンター整備とＡＩ利活用産業の一体振興による新 たな地域産業の創出。 イノベーション促進とリスク対応の双方の観点からのＡＩ社会における規制や制度の あり方の検討・実証。 雇用への影響（代替性と補完性）の調査・分析と包括的な対策の継続的な実施。 アドバンスト・エッセンシャルワーカー創出のためのリスキリング支援をはじめ ＡＩ社会におけるイノベーションの担い手となる人材の育成・確保。 人とＡＩの役割分担を模索し続け、ＡＩ社会から取り残される者を生まないよう、ＡＩ 社会を生き抜く人間力を向上、教育や働き方を検討。 7

参考資料４－２ 人工知能基本計画骨子 （たたき台） 1 全体構成 第１章 基本構想 ～「世界で最もＡＩを開発・活用しやすい国」を目指して～ .................................. 3 第２章 ＡＩ関連技術の研究開発及び活用の推進に関する施策についての基本的な方針........................ 5 第３章 ＡＩ関連技術の研究開発及び活用の推進に関し、政府が総合的かつ計画的に 講ずべき施策.... 6 第１節 ＡＩ利活用の加速的推進 ........................................................................................................ 6 第２節 ＡＩ開発力の戦略的強化 ........................................................................................................ 7 第３節 ＡＩガバナンスの主導 ........................................................................................................... 8 第４節 ＡＩ社会に向けた継続的変革................................................................................................. 9 第４章 ＡＩ関連技術の研究開発及び活用の推進に関する施策を政府が総合的かつ計画的に推進するた めに必要な事項 ............................................................................................................................ 11 第１節 基本計画の推進体制及びフォローアップ ................................................................................ 11 第２節 基本計画の変更 ........................................................................................................................ 11 第３節 他の計画等との連携 ................................................................................................................. 11 2 第１章 基本構想 ～「世界で最もＡＩを開発・活用しやすい国」を目指して～ （国際競争と我が国の現状）  ＡＩは、生成ＡＩをはじめとする急速な技術進歩によって、世界の持続可能な発展に 必要不可欠なテクノロジーに。  世界各国で、ＡＩの利活用が進み、開発競争も激化。各国は国力を左右するものとし て取組を強化。  他方、我が国ではＡＩの利活用がこれまで十分に進んでおらず、ＡＩ関連の投資も 経済規模に比べて僅少。  今こそ、ＡＩの利活用及び開発、すなわちＡＩイノベーションの推進をはじめ、 我が国としてＡＩに関する国家戦略構築が不可欠。 （ＡＩイノベーション）  今年に入り、自律的に業務を実行できる「ＡＩエージェント」、現実世界でロボット等 を動かす「フィジカルＡＩ」といったイノベーションが進展。  ＡＩは、効率化・生産性向上による適時的確な業務の実施に留まらず、新たな発展に つながる新事業・新市場創造、社会課題解決、包摂的成長を可能に。 「人口減少」、 「国内への投資不足」、「賃金停滞」といった日本の経済社会の長年の課題を解決。  ＡＩは、生活の質の向上ももたらし、健康・医療、防災を含む安全・安心な国民生活 を実現。  ＡＩは、安全保障の高度化や平和の構築にも貢献。  ＡＩイノベーションを積極的に進めることで、日本社会の持つ潜在力を存分に発揮。 日本の多くの人材や産業の高付加価値化を進め、デジタル赤字抑止の観点からも、 内外一体で取組を進め、世界に展開。 （「反転攻勢」の好機）  足元ではＡＩ技術の競争環境が大きく変化。日本もキャッチアップできるチャンス。  日本の強みである質の高いデータを生かした「ＡＩイノベーション」が一つの勝ち筋 へ。  今こそ、社会全体で「ＡＩを使ってみる」ことを徹底し、 「利活用」から「開発」への サイクルを回していくことが「反転攻勢」の好機。 （リスクへの対応）  他方で、ＡＩがもたらすリスクに多くの国民が不安を抱いていることも事実。 3  ＡＩをめぐるリスクは、誤判断、ハルシネーション等の技術的リスクのみならず、 差別・偏見の助長、犯罪への利用、プライバシー・財産権の侵害、環境負荷の増大、 偽・誤情報の拡散、さらに、雇用・経済不安といった「人との協働」に関する社会的 リスクやサイバー攻撃といった安全保障リスクにも拡大。  ＡＩの技術進歩とともに変動するリスクを適時適切に把握し、ＡＩの透明性・公平性・ 安全性をはじめとする適正性を確保することで、国民の不安払拭を。 （「世界で最もＡＩを開発・活用しやすい国」に向けて）  我が国は、官民が一致団結して、ＡＩを基軸として、新たな経済発展と安全・安心な 社会を構築。  人とＡＩがたえず協働できるよう、「人間中心のＡＩ社会原則」を堅持する。 ＡＩのリスクに対応しながら、ＡＩを使いこなしていくという「イノベーション促進 とリスク対応の両立」により、「世界で最もＡＩを開発・活用しやすい国」へ。  「ＡＩ関連技術の研究開発及び活用の推進に関する法律」（以下「ＡＩ法」 ）第 18 条 第 1 項に基づく、「人工知能基本計画」は、こうした国家目標の実現に資する戦略と して策定。政府は、本計画に盛り込まれた内容を着実に推進。 4 第２章 ＡＩ関連技術の研究開発及び活用の推進に関する施策についての基本的な方針 （ＡＩ法の基本理念を踏まえた３原則）  人とＡＩが協働し、人間が創造力を発揮できる「人間中心のＡＩ社会原則」を実現す るために、イノベーションの促進とリスク対応を両立させる。  この両立に向け、ＡＩ法が体現するＰＤＣＡ（計画・実行・評価・改善）サイクルを回 し、変化にも即応して柔軟・迅速（「アジャイル」）に取り組む。  両立に向けて、国内政策と対外政策を有機的に組み合わせる「内外一体」で取り組み、 積極的な国際連携で、我が国を多様なＡＩイノベーションの結節点とする。 （４つの基本的な方針） １．ＡＩ利活用の加速的推進（「ＡＩを使う」）  日本社会全体で、世界最先端のＡＩ技術を、適切なリスク対応を行いながら積極的に 利活用することで、新たなイノベーションを創出。  ＡＩイノベーションの基盤となるデータの集積・利活用、特に組織を超えたデータの 共有を促進することで、ＡＩの徹底した利活用やＡＩの性能向上を可能とする。 ２．ＡＩ開発力の戦略的強化（「ＡＩを創る」 ）  インフラからアプリまでのＡＩエコシステムに関する各層での開発を進めつつ、それ らを有機的に組み合わせることで、日本の強みとして「信頼できるＡＩ」を開発。  研究開発から社会実装までが近接するＡＩを社会全体でまずは使い、それに伴い生じ た課題を解決するＡＩ技術を創ることで、イノベーションの好循環を実現。 ３．ＡＩガバナンスの主導（「ＡＩの信頼性を高める」 ）  人とＡＩが協働し、イノベーションの好循環を実現するために、ＡＩの適正性を確保 するガバナンスを構築。  ＡＩは国境を越えて展開しており、日本国内だけでなく、国際的なガバナンスが不可 欠。我が国はそれを主導。 ４．ＡＩ社会に向けた継続的変革（「ＡＩと協働する」）  人とＡＩの協働のため、産業や雇用のあり方、制度や社会の仕組みを先導的かつ継続 的に変革。  ＡＩを使い、ＡＩを創るＡＩ人材の育成・確保に加え、ＡＩ社会を生き抜く「人間力」 を向上。 5 第３章 （※ ＡＩ関連技術の研究開発及び活用の推進に関し、政府が総合的かつ計画的に 講ずべき施策 具体的な施策は以下に列挙するものに加え、今後も適宜充実・強化） 第１節 ＡＩ利活用の加速的推進  ＡＩが日常化する社会を目指し、様々な局面でのＡＩ利活用を推進。 「まず使ってみ る」という意識を広く社会に醸成。  「隗より始めよ」で、まずは政府自らが積極的かつ先導的に利活用。政府による適正 な調達・利活用で、日本社会で利活用されるＡＩの信頼性・透明性の確保につなげ る。  人手不足対応や安全・安心の確保、安全保障の高度化等、社会課題の解決に直結する 分野での利活用を積極的に支援。  新しい事業や産業の創出につながるＡＩ利活用を促進。  地方創生、経済再生、国民生活の質の向上に資するＡＩ利活用を促すため、ＡＩ利活 用を前提に既存の規制や制度を見直すことを含め、制度改革等を先導的に推進。 【具体的な取組例】 （１） 政府・自治体でのＡＩの徹底した利活用 ① ガバメントＡＩの推進、政府によるＡＩの適正かつ先導的な利活用 ② 生成ＡＩ等を適切に利活用した政府の業務の合理化・効率化の促進 ③ 地方自治体におけるＡＩの適正な利活用の促進 （２） 社会課題解決に向けたＡＩ利活用の推進 ① 医療・ヘルスケア、介護、金融、教育、防災、環境保全、農林水産業、食品産業、 インフラ建設・管理、造船・舶用工業等におけるＡＩエージェントやフィジカル ＡＩ等の開発・実証・導入促進 ② 中小企業を含めた、広く地域を支える産業へのＡＩ導入促進 ③ 防衛力の抜本的強化に向けたＡＩ利活用の推進 ④ 国民の安全・安心の確保に向けた警察活動の高度化のためのＡＩ利活用の推進 ⑤ 情報通信分野におけるセキュリティ確保に向けた AI 利活用の推進 （３） ＡＩ利活用推進で新しい事業や産業を創出 ① フィジカルＡＩの先導導入支援 6 ② 産学双方の研究者等におけるＡＩ利活用支援 ③ ＡＩに係る革新的技術を有するスタートアップ等の支援 （４） 更なるＡＩ利活用に向けた仕組みづくり ① ＡＩの社会実装の実現のための規制・制度の点検・見直し ② 統計作成等であると整理できるＡＩ開発等における本人同意の在り方や規律 遵守の実効性確保等の検討を通じた「個人情報の保護に関する法律」の改正 第２節 ＡＩ開発力の戦略的強化  我が国が独自にＡＩエコシステムを研究及び開発することのできる能力を強化。 ＡＩエコシステムを日本国内に構築、積極的に海外に展開することで、国際競争力も 強化し、日本の自律性・不可欠性を確保する。  開かれた形での開発を志向し、国内外からのトップ人材を集約し、日本の強みである 質の高いデータを生かし、日本国内におけるＡＩ開発力を高める。  日本の勝ち筋として、ＡＩモデルとアプリを組み合わせた多様なサービスの創出、 ＡＩとロボット等を組み合わせたフィジカルＡＩの開発導入、科学研究に広くＡＩ を利活用する AI for Science 等の推進。  国家主権と安全保障の観点から、日本の文化・習慣等も踏まえた信頼できる基盤モデ ルを開発。  ＡＩ開発・利活用基盤の増強・確保のため、データセンター、ネットワーク、計算 資源、電力等、ＡＩインフラ等の整備を加速。 【具体的な取組例】 （１） 日本国内のＡＩ開発力の強化 ① 新たなデータセット、ＡＩの開発に必要なマルチモーダルなデータの創出・提供 等のデータ連携基盤の構築 ② トップ人材を含め、国内外からＡＩ開発者を確保するための待遇面や生活環境を 含めた包括的な取組 ③ 先進的な知見を取り入れるため、大学・研究機関や国内外の民間事業者等との 連携・協働を推進 ④ ＡＩモデルの高性能化やマルチモーダル化の促進 ⑤ ＡＩ評価基盤やテストベッドの整備 ⑥ グローバルサウスを含めたＡＩ産業の海外市場展開支援 7 （２） 日本の勝ち筋となるＡＩモデル等の開発推進 ① ＡＩロボットの公的需要創出を含めたフィジカルＡＩの開発・実証の促進 ② 基盤モデルの開発・利活用、研究データ創出・利活用の高効率化、情報基盤の 強化等による AI for Science の推進 ③ 新薬の開発を高度化する創薬ＡＩを推進 （３） 信頼できるＡＩ基盤モデルの開発 ① 日本の文化・習慣等を踏まえた信頼できるＡＩの開発・評価、質の高い日本語 データの整備・拡充（既存の集積データの利活用含む） ② 日本が、信頼できるＡＩを開発する拠点となり、オープンなＡＩモデルも含めた エコシステムを世界に広げる （４） ＡＩ開発・利用基盤の増強・確保 ① ＡＩデータセンター、効率的な電力・通信インフラの整備（ワット・ビット連携）、 オール光ネットワーク、次世代情報通信基盤の研究及び開発 ② 高性能ＡＩ半導体等の研究及び開発、富岳ＮＥＸＴの開発 第３節 ＡＩガバナンスの主導  ＡＩイノベーションの好循環を実現し、信頼できるＡＩエコシステムを構築するた め、適正性の確保につながるＰＤＣＡサイクルを構築。  ＡＩガバナンスに関する国際的枠組み「広島ＡＩプロセス」を主導した日本として、 引き続きＡＩガバナンスにおける国際協調を主導。  その際、多様なＡＩモデルの相互運用性の確保を重視し、日本がＡＩイノベーション の結節点となる。 【具体的な取組例】 （１） 信頼できるＡＩエコシステムの構築 ① ＡＩ法第 16 条に基づく調査研究の実施 ② 事業者等によるＡＩの研究及び開発・利活用における適正性の確保に向けた自主 的な取組を促す、ＡＩ法第 13 条に基づく指針その他各種ガイドライン等の整備・ 周知徹底 ③ ＡＩ関連のサイバー事案の対処能力の向上など、ＡＩを悪用したサイバー攻撃や 詐欺をはじめとする各種の犯罪等への対応 8 ④ ＡＩモデルの適正性に係る評価機能の構築を含むＡＩセーフティ・インスティテ ュート（ＡＩＳＩ）の抜本的な強化 ⑤ 日本のＡＩ評価機能向上にも資する、ＡＩ生成コンテンツを判別する技術やＡＩ の制御機能等の開発支援 （２） グローバルサウスを含めた国際協調 ① 広島ＡＩプロセスフレンズグループや外交機会を活用したグローバルサウス等 との連携強化 ② ＡＩ関連の国際規格策定（ＩＳＯ/ＩＥＣ ＪＴＣ１におけるＡＩ分野の国際標準 化活動への参画等） ③ ＡＩＳＩネットワーク等を活用したＡＩガバナンスの主導 ④ 軍事領域に関するＡＩについて、人道的考慮と安全保障の観点を勘案したバラン スの取れた議論を通じた国際的な議論への積極的な参画 ⑤ ＧＰＡＩ東京専門家支援センター等を通じたプロジェクトベースでの支援 ⑥ 東アジア・アセアン経済研究センター（ＥＲＩＡ）を活用したグローバルサウス との協力モデルの構築 第４節 ＡＩ社会に向けた継続的変革  ＡＩを基軸とし、新たな産業構造を構築、地域活性化や包摂的成長の実現にも貢献。  ＡＩ技術の進歩を踏まえながら、 「人とＡＩの協働」を実現するため、制度や社会の 仕組みを先導的かつ継続的に変革。  ＡＩがもたらす雇用への影響について丁寧に分析し、新しい働き方に向けた包括的 な教育・リスキリング支援等の対策を講じる、というプロセスを継続的に実施する。  ＡＩの利活用や開発ができるＡＩ人材の育成・確保に加え、ＡＩ社会から取り残され る者を生まないよう、ＡＩ社会を生き抜く「人間力」向上を図る。 【具体的な取組例】 （１） ＡＩを基軸とした産業構造の構築 ① 日本の企業等にＡＩ基軸の組織経営改革（ＡＩトランスフォーメーション）を 促すため、当該取組の可視化、取組が進む事業者への支援の重点化 ② 具体像の提示を含め、地域のＡＩインフラを活用した新たな地域産業・雇用の 創出 9 ③ 規制のサンドボックス制度、スタートアップ支援制度などを含めたＡＩ関連産業 の立地促進 （２） ＡＩ社会における枠組みの検討・実証 ① ＡＩの社会実装の実現のための規制・制度の点検・見直し【再掲】 ② ＡＩ利活用における民事責任等のあり方の検討 ③ 適切な財産の保護と活用につながる透明性の確保 ④ ＡＩによる雇用への影響（代替性と補完性）の調査・分析、それを踏まえた 包括的な対策の継続的な実施 （３） ＡＩ人材の育成・確保 ① ＡＩや次世代半導体等の利活用・開発に係るエンジニアや研究者、データマネジ メント人材等の育成・確保 ② ＡＩ利活用・開発に係る産学官ネットワークやコミュニティ支援 ③ 従業員や労働者のＡＩリスキリング支援 ④ アドバンスト・エッセンシャルワーカー創出のためのリスキリング支援 ⑤ デジタルスキル標準の改訂 ⑥ 初等中等教育や一般市民におけるＡＩリテラシー向上支援 （４） ＡＩ時代における人間力の向上支援 ① 人とＡＩが協働する社会における人とＡＩの役割分担を模索し続け、人が人とし て生き抜く力を伸ばす ② ＡＩ時代における教育の推進 ③ ＡＩ時代の働き方の検討 10 第４章 ＡＩ関連技術の研究開発及び活用の推進に関する施策を政府が総合的かつ計画 的に推進するために必要な事項 第１節 基本計画の推進体制及びフォローアップ  内閣総理大臣を本部長とし、全閣僚を構成員とする人工知能戦略本部、関係府省庁を 構成員とする人工知能戦略推進会議を中心に、関係府省庁が緊密に連携。  人工知能戦略本部において基本計画の推進状況を把握の上、フォローアップを行う。 その際には、人工知能戦略専門調査会において有識者等の意見を適時適切に聴取。 第２節 基本計画の変更  技術の発達と活用の拡大が極めて急速であるというＡＩ関連技術の特性、動向、社会 情勢等を踏まえ、必要に応じて本計画を見直し、変更を行うこととし、当面は毎年 変更を行う。  その際、人工知能戦略専門調査会において有識者等の意見を適切に聴取する。最新の 技術動向などを積極的に基本計画に反映していくため、産学官で積極的に連携。 第３節  他の計画等との連携 「科学技術・イノベーション基本法」に基づく科学技術・イノベーション創出の振興 に関する基本的な計画、 「デジタル社会形成基本法」に基づくデジタル社会の形成に関 する重点計画等、関係する他の計画等との連携・整合を図る。 11

ＡＩ法に基づく適正性確保に関する指針の整備について １．背景 参考資料５ 〇 ＡＩ法においては、ＡＩの研究開発及び活用の適正な実施 を図るため、国際的な規範の趣旨に即した指針を整備するこ ととされている。 〇 事業者や国民がＡＩを信頼して利活用できる環境を構築。 ２．とりまとめ 方針案 〇 ＡＩに関する国際的な規範である広島ＡＩプロセスの成果 文書やOECD AI原則等を参照し、ＡＩを開発、提供する者の みならず、国民を含むＡＩの利用者も対象として、ＡＩの適 正な研究開発及び活用に関する考え方を定めた「ＡＩ指針」 を作成。（各主体が留意すべき事項について、今後専門調査 会において議論。） 〇 各主体は、ＡＩ指針と、関係府省庁が公表している各種ガ イドライン等（具体的に推奨される手続き・手順、事例等） の双方を参照。 〇 ＡＩ指針は、ＡＩ技術の進展やリスクの変化等に合わせて、 柔軟に見直し。 1 ＡＩ法に基づく指針の整備について(参考) （参考１）全てのＡＩ関係者向けの広島プロセス国際指針（2023年12月策定） １．リスクを特定、評価、軽減するための適切な措置 ２．脆弱性、インシデント、悪用パターンを特定し、緩和 ３．高度なＡＩシステムの能力、限界、適切・不適切な使用領域を公表（透明性、説明責任） ４．責任ある情報共有とインシデント報告 ５．ＡＩのガバナンスとリスク管理ポリシーを策定、実践、開示 ６．物理的セキュリティ、サイバーセキュリティ及び内部脅威対策を含む強固なセキュリティ管理に投資し、実施 ７．電子透かし等の信頼性の高いコンテンツ認証および来歴のメカニズムを開発、導入 ８．リスクの軽減のための研究を優先し、効果的な軽減手法に優先的に投資 ９．世界の最大の課題に対処するため、高度ＡＩシステムの開発を優先 10 ．国際的な技術規格の開発と採用を推進 11 ．適切なデータ入力措置と個人情報及び知的財産の保護 12 ．高度なＡＩシステムの信頼でき責任ある利用を促進 （参考２）OECD AI原則（2019年5月採択、2024年5月改定） ●信頼できるＡＩの責任ある管理運営原則 1.1 包摂的な成長、持続可能な開発及び幸福 1.2 法の支配、人権並びに公平性及びプライバシーを含む民主主義的価値観の尊重 1.3 透明性及び説明可能性 1.4 頑健性、セキュリティ及び安全性 （2024年改定時のポイント） 1.5 アカウンタビリティ ・生成ＡＩ出力における偽・誤情報対策 ●信頼できるＡＩのための国家政策と国際協力 ・目的外使用、悪用、意図しない誤用への対処 2.1 ＡＩの研究開発への投資 ・透明性と責任ある開示に必要な情報の明確化 2.2 包括的なＡＩを推進するためのエコシステム の整備 ・ＡＩシステムの誤作動時等の安全対策 2.3 ＡＩを推進するための相互運用可能なガバナンス及び ・ライフサイクル全体を通じた責任あるビジネス行動 政策環境の形成 ・ＡＩの相互運用可能なガバナンスと政策環境の醸成 2.4 人材育成及び労働市場の変化への備え ・サステナビリティの向上 2.5 信頼できるＡＩのための国際協力 2 ＡＩ法に基づく指針の整備について(参考) （参考３）関係府省庁が公表している各種ガイドライン等（一例、順不同） 分野、対象者 ＡＩ開発者、提供者、利⽤者 （公的機関を含む） 政府の生成ＡＩ、政府職員 自治体職員 学校教育関係者 名称 行政の進化と革新のための生成AIの調達・利活用に係るガイドライン 自治体におけるＡＩ活用・導入ガイドブック 初等中等教育段階における生成ＡＩの利活用に関するガイドライン プラント保安分野 プラント保安分野におけるＡＩ信頼性評価ガイドライン ＡＩ事業者ガイドライン 大学、高等専門学校 大学・高専における生成AIの教学面の取扱いについて 著作権 ＡＩと著作権に関する考え方について 個人情報取扱事業者、 生成ＡＩサービスの利用に関する注意喚起等について 行政機関等 契約に関する全ての者 ＡＩ・データの利用に関する契約ガイドライン 農業関係者、農業機械メーカー、 農業分野におけるＡＩ・データに関する契約ガイドライン ICTベンダ等 医療機関等の医療従事者、 学術研究機関等の研究者、 医療デジタルデータのＡＩ研究開発等への利活用に係るガイドライン 民間企業等の開発担当者 こども・子育て分野 生成ＡＩの導入・活用に向けた実践ハンドブック （自治体、保育施設等） ＡＩ開発者、提供者、利⽤者 ＡＩの利用・開発に関する契約チェックリスト コンテンツ制作に携わる産業界 コンテンツ制作のための生成ＡＩ利活用ガイドブック 知的財産権 ＡＩ時代の知的財産権検討会中間とりまとめ 所管 総務省、 経済産業省 デジタル庁 総務省 文部科学省 消防庁、 厚生労働省、 経済産業省 文部科学省 文化庁 個人情報保護委員会 経済産業省 農林水産省 厚生労働省 こども家庭庁 経済産業省 経済産業省 知的財産戦略推進事務局 3

ＡＩ法に基づく調査研究等について 参考資料６ • ＡＩのイノベーションを促進し、リスクに適切に対応するため、ＡＩの 研究開発及び活用の実態を把握し、分析することが必要 ⇒ＡＩ法第16条に「調査研究等」が規定  ＡＩ戦略本部の設置を待たずして、 以下について調査を実施し、現段階での調査結果をとりまとめ。 ① 性的なディープフェイクを生成するＡＩ ② 雇用（採用・人事評価等）におけるＡＩ活用 調査結果の詳細 は、次頁参照。 結果を踏まえ、 関係省庁と対策 を検討  今後、上記の調査結果や、専門調査会での検討を踏まえつつ、 必要な調査を新たに行っていく。 ・ 企業等におけるＡＩの活用実態や事例 ・ ＡＩ開発企業における安全性向上対策 ・ 国民の権利利益を侵害する案件の実態 等 1 （参考）調査結果のポイント ① 性的なディープフェイクを生成するＡＩ 児童ポルノを含む性的なディープフェイクについて、 生成可能なＡＩアプリの実態、被害状況及び拡散実態について調査 • ＡＩ技術の進歩により、性的ディープフェイクが容易に生成可能な状況 • 関連NPO法人による被害認知件数の増加などを踏まえると、更なる拡大が懸念 • 関係省庁と連携し、引き続き実態把握に努めるとともに、必要な対策を検討 ② 雇用（採用・人事評価等）におけるＡＩ活用 採用や人事評価等の人事業務を支援するＡＩシステムの実態、システムの活用実態 について調査 • 日本でも、採用面談、給与査定、人材配置等の人事業務を支援するＡＩシステムが提供 • 現状、これら支援機能の活用は一部企業等に限られているが、活用の拡大が予想 • 関係省庁と連携し、引き続き実態把握に努めるとともに、必要があれば対策を検討 2 （参考）① 性的なディープフェイクを生成するＡＩ（1/2） 性的ディープフェイクが生成可能なＡＩについて 性的ディープフェイクが生成可能な画像・動画生成サービス（アプリ）として、以下を確認。 ①Webアプリ （Web上で動作するアプリ） ②ダウンロードアプリ （利用者がＰＣにダウンロードし利用するアプリ) • 性的ディープフェイクが生成可能とされていた約50種 のWebアプリを調査した結果、現在も性的ディープ フェイクを生成可能なものは数件のみであった。 • 画像・動画生成可能なダウンロードアプリが少なくとも １万種以上Webで公開されており、 性的ディープフェイクが生成可能なものも確認。 • これは、サービスの基盤となるクラウドプロバイダが規 約に違反するとして利用停止措置または機能停止 勧告したことによる。（図１） • Webアプリと比べて導入の手間が多く、 利用時に一定のＩＴスキルが必要であるものの、 導入・利用マニュアルが出回り（図２）、 中学・高校生でも容易に利用可能な状況に あることを確認。 • 現在も生成可能なWebアプリにおいては、実際の写 真と見分けがつかない性的画像・動画を容易に生 成することができた。 図１. プロバイダによる性的ディープフェイクのWebアプリ利用停止措置 Web Webアプリ Webアプリ 停止措置 停止措置 クラウド プロバイダ クラウド プロバイダ Webアプリ クラウド プロバイダ • また、一度ダウンロードされたアプリは継続的に利 用可能。 図２.導入手順を紹介する動画のイメージ Before After 初心者でも簡単 ディープフェイクＡＩの使い方 3 （参考）① 性的なディープフェイクを生成するＡＩ（2/2） 性的ディープフェイクによる被害等の状況 被害状況 拡散実態 • 性的ディープフェイクに関する報道件数は拡大傾向(図１)。 • こうした性的ディープフェイクは、メンバを限定 するクローズドなWebコミュニティで拡散さ れることが主流とのこと。 図１.性的ディープフェイクの報道件数 Ａ新聞 Ｂ新聞 Ｃ新聞 Ｄ放送局 Ｅ新聞 Ｆ新聞 • このようなクローズドなWebコミュニティの 把握に努めているものの、 性的ディープフェイクの拡散状況の全体像 を把握することはできていない可能性が高 い。 • デジタル性被害の実態把握や被害者支援を行うNPO法人 によると、性的ディープフェイクの作成対象（被害者）が、 著名人から一般人に移行。認知件数も増加傾向とのこと。 ※３~４月に認知件数が増加（卒業アルバムの悪用が想定) • ＡＩ技術の進歩により、性的ディープフェイクが容易に生成可能な状況となっており、 その拡散についての報道件数やNPO法人の認知件数が増加傾向にあるなど、 更なる拡大が懸念される。 • こうしたことを踏まえ、関係省庁と連携し、引き続き実態把握に努めるとともに、 必要な対策を検討していく。 4 （参考）② 雇用（採用・人事評価等）におけるＡＩ活用（1/2） 人事業務を支援するＡＩを活用したシステム • 採用面談、給与査定、人材配置（マッチング）等を支援するＡＩシステムが多く提供されてきている。 採用面接を支援 給与査定を支援 適切な配属を支援 • 給与査定に必要な情報をＡＩが 整理 • 対象者の人事情報（部署、職種、 スキル等）や、競合他社の給与水 準情報等をＡＩで分析して提案 • ＡＩが、初期配属、異動時における 配置先候補を提案 • 過去の社内配置実績を基に、対象 者の経歴、スキルや配置希望等を踏 まえて、配値先候補をＡＩが提案 • 人では考慮できていなかった広範囲の 部署が配属先の候補に ＡＩアバター 採用希望者 • ＡＩアバターが面談を実施 • ＡＩが音声/画像を認識し、面談 結果を整理・評価 • 24時間365日面接が可能 • こうしたＡＩシステムを活用することにより、業務効率化(時間・人の削減)、評価の客観性向上、配置の最 適化、求職者の利便性向上(面接の24時間対応)などの効果が期待されている。 • 今回、人事業務を支援するＡＩシステムの主要開発企業数社にヒアリングしたところ、 これらにおいては、公平性、透明性を確保するためのさまざまな対策を実施していた。 • 他方で、多くの企業から新たにＡＩ採用面接システムが提供されてきており、 これらの中には公平性等の確保が十分に配慮されていない可能性もある。 5 （参考）② 雇用（採用・人事評価等）におけるＡＩ活用（2/2） 人事業務を支援するＡＩシステムの活用実態 • こうしたシステムの活用は、現状では一部の企業に留まっている状況 （図１,２）。 図１.日本の20代前半の就活経験者のＡＩ面接経験率 図２.人事評価でのＡＩ活用率 100% 聞いたこ 経験あり 22% とがない 36% 経験なし 42% Synergy Career社調べ（2025年） 90% 80% 60% 36% 40% 11% 20% 0% 米国 EU 日本 OECD調べ（2024年） • 今回、すでに活用している企業数社にヒアリングしたところ、 ＡＩシステムの活用で期待される効果を実際に挙げている、評価の公平性に留意して最終的な判断は人が 実施している、とのことであった。 • 我が国においても、採用などを支援するＡＩシステムの活用が広がりつつあるが、現状 では一部の企業に留まっている。これまでの調査では、大きな問題は確認できていない※。 • 今後さらに活用が広がると考えられることから、関係省庁と連携し引き続き実態把握に 努めるとともに、必要があれば対策を検討していく。 ※労働組合が、団体交渉において、企業の人事評価でのＡＩの活用方針に対して企業側に情報開示を求めたことに関して、不当労働行為の救済に係る 申立てを都労委へ行った事例では、企業側が、適切な情報開示を行うこと、最終的な評価は人が判断すること等の説明により和解済（2024年）。 6

参考資料７ ேᕤ▱⬟ᡓ␎ᑓ㛛ㄪᰝ఍ࡢタ⨨࡟ࡘ࠸࡚  ௧ ࿴ 㸵 ᖺ 㸷 ᭶  ᪥  ேᕤ▱⬟ᡓ␎ᮏ㒊Ỵᐃ  㸯㸬ேᕤ▱⬟ᡓ␎ᮏ㒊௧㸦௧࿴㸵ᖺᨻ௧➨  ྕ㸧➨㸯᮲ࡢつᐃ࡟ᇶ࡙ࡁࠊேᕤ ▱⬟㛵㐃ᢏ⾡ࡢ◊✲㛤Ⓨཬࡧά⏝ࡢ᥎㐍࡟㛵ࡍࡿἲᚊ 㸦௧࿴㸵ᖺἲᚊ➨  ྕ㸧 ➨  ᮲࡟つᐃࡍࡿᣦ㔪ࡢᩚഛ࡟ಀࡿ஦㡯ࠊྠἲ➨  ᮲࡟つᐃࡍࡿㄪᰝཬࡧ◊ ✲࡟ಀࡿ஦㡯ࠊྠἲ  ᮲࡟つᐃࡍࡿᇶᮏⓗ࡞ィ⏬࡟ಀࡿ஦㡯➼ேᕤ▱⬟㛵㐃 ᢏ⾡ࡢ◊✲㛤Ⓨཬࡧά⏝ࡢ᥎㐍࡟ಀࡿᑓ㛛ⓗ࡞஦㡯ࡢㄪᰝࡢࡓࡵࠊᑓ㛛ㄪᰝ఍ ࢆタ⨨ࡍࡿࠋ  㸰㸬ᑓ㛛ㄪᰝ఍ࡢጤဨࡣࠊேᕤ▱⬟㛵㐃ᢏ⾡࡟㛵ࡋᏛ㆑⤒㦂ࢆ᭷ࡍࡿ⪅ࡢ࠺ࡕ࠿ ࡽࠊෆ㛶⥲⌮኱⮧ࡀ௵࿨ࡍࡿࠋ  㸱㸬ᑓ㛛ㄪᰝ఍ࡢᗙ㛗ࡣࠊጤဨࡢ஫㑅࡟ࡼࡾỴᐃࡍࡿࠋ  㸲㸬ᑓ㛛ㄪᰝ఍ࡣࠊᚲせࡀ࠶ࡿ࡜ㄆࡵࡿ࡜ࡁࡣࠊཧ⪃ேࢆᣍ࠸࡚ពぢࢆ⫈ࡃࡇ࡜ ࡀ࡛ࡁࡿࠋ  㸳㸬ᑓ㛛ㄪᰝ఍ࡣࠊᚲせࡀ࠶ࡿ࡜ㄆࡵࡿ࡜ࡁࡣࠊ࣮࣡࢟ࣥࢢࢢ࣮ࣝࣉࢆ⨨ࡃࡇ࡜ ࡀ࡛ࡁࡿࠋ  㸴㸬ᑓ㛛ㄪᰝ఍ࡢᗢົࡣࠊ㛵ಀ┬ᗇࡢ༠ຊࢆᚓ࡚ࠊෆ㛶ᗓ⛉Ꮫᢏ⾡࣭࢖ࣀ࣮࣋ࢩ ࣙࣥ᥎㐍஦ົᒁ࡟࠾࠸࡚ฎ⌮ࡍࡿࠋ  㸵㸬๓ྛ㡯࡟ᐃࡵࡿࡶࡢࡢ࡯࠿ࠊᑓ㛛ㄪᰝ఍ࡢ㐠Ⴀ࡟㛵ࡍࡿ஦㡯ࡑࡢ௚ᚲせ࡞஦ 㡯ࡣࠊᗙ㛗ࡀᐃࡵࡿࠋ  

参考資料８ AI 事業者ガイドライン （第 1.1 版） 令和 7 年 3 ⽉ 28 ⽇ 総務省 経済産業省 ⽬次 はじめに ..................................................................................................... 2 第１部 AI とは .............................................................................................. 9 第２部 AI により⽬指すべき社会及び各主体が取り組む事項 ........................................... 11 A. 基本理念 ............................................................................................ 11 B. 原則 ................................................................................................. 12 C. 共通の指針 ......................................................................................... 13 D. ⾼度な AI システムに関係する事業者に共通の指針 ............................................... 25 E. AI ガバナンスの構築 ................................................................................ 27 第３部 AI 開発者に関する事項 .......................................................................... 30 第４部 AI 提供者に関する事項 .......................................................................... 35 第５部 AI 利⽤者に関する事項 .......................................................................... 38 1 はじめに AI 関連技術は⽇々発展をみせ、AI の利⽤機会及び様々な可能性は拡⼤の⼀途をたどり、産業におけるイ ノベーション創出及び社会課題の解決に向けても活⽤されている。また近年台頭してきた対話型の⽣成 AI によ って「AI の⺠主化」が起こり、多くの⼈が「対話」によって AI を様々な⽤途へ容易に活⽤できるようになった。これ により、企業では、ビジネスプロセスに AI を組み込むだけではなく、AI が創出する価値を踏まえてビジネスモデル ⾃体を再構築することにも取り組んでいる。また、個⼈においても⾃らの知識を AI に反映させ、⾃⾝の⽣産性を 拡⼤させる取組が加速している。我が国では、従来から Society 5.0 として、サイバー空間とフィジカル空間を⾼ 度に融合させたシステム（CPS : サイバー・フィジカルシステム）による経済発展と社会的課題の解決を両⽴す る⼈間中⼼の社会というコンセプトを掲げてきた。このコンセプトを実現するにあたり、AI が社会に受け⼊れられ適 正に利⽤されるため、2019 年 3 ⽉に「⼈間中⼼の AI 社会原則」が策定された。⼀⽅で、AI 技術の利⽤範囲 及び利⽤者の拡⼤に伴い、リスクも増⼤している。特に⽣成 AI に関して、知的財産権の侵害、偽情報・誤情 報の⽣成・発信等、これまでの AI ではなかったような新たな社会的リスクが⽣じており、AI がもたらす社会的 リ スクの多様化・増⼤が進んでいる。 そのような背景の中、本ガイドラインは、AI の安全安⼼な活⽤が促進されるよう、我が国における AI ガバナン スの統⼀的な指針を⽰す。これにより、様々な事業活動において AI を活⽤する者が、国際的な動向及びステ ークホルダーの懸念を踏まえた AI のリスクを正しく認識し、必要となる対策を AI のライフサイクル全体で⾃主的に 実⾏できるように後押しし、互いに関係者と連携しながら「共通の指針」と各主体に重要となる事項及び AI ガ バナンスを実践することを通して、イノベーションの促進とライフサイクルにわたるリスクの緩和を両⽴する枠組みを 積極的に共創していくことを⽬指す。 我が国は 2016 年 4 ⽉の G7 ⾹川・⾼松情報通信⼤⾂会合における AI 開発原則に向けた提案を先駆け とし、G7・G20、OECD 等の国際機関での議論をリードし、多くの貢献をしてきた。⼀⽅、AI に関する原則の具 体的な実践を進めていくにあたっては、  少⼦⾼齢化に伴う労働⼒の低下等の社会課題の解決⼿段として、AI の活⽤が期待されていること  法律の整備・施⾏が AI の技術発展及びその社会実装のスピード・複雑さとの間でタイムラグが発⽣す ること  細かな⾏為義務を規定するルールベースの規制を⾏うと、イノベーションを阻害する可能性があること 等が指摘されてきた。これらを踏まえ、AI がもたらす社会的リスクの低減を図るとともに、AI のイノベーション及び 活⽤を促進していくために、関係者による⾃主的な取組を促し、⾮拘束的なソフトローによって⽬的達成に導く ゴールベースの考え⽅で、ガイドラインを作成することとした。 このような認識のもと、これまでに総務省主導で「国際的な議論のための AI 開発ガイドライン案」、「AI 利活 ⽤ガイドライン〜AI 利活⽤のためのプラクティカルリファレンス〜」及び経済産業省主導で「AI 原則実践のための ガバナンス・ガイドライン Ver. 1.1」を策定・公表してきた。そして、このたび 3 つのガイドラインを統合・⾒直しし て、この数年でさらに発展した AI 技術の特徴及び国内外における AI の社会実装に係る議論を反映し、事業 者が AI の社会実装及びガバナンスを共に実践するためのガイドライン（⾮拘束的なソフトロー）として新たに策 2 定した（「図 1. 本ガイドラインの位置づけ」参照）。従来のガイドラインに代わり、本ガイドラインを参照すること で、AI を活⽤する事業者（政府・⾃治体等の公的機関を含む）が安全安⼼な AI の活⽤のための望ましい⾏ 動につながる指針（Guiding Principles）を確認できるものとしている。また、本ガイドラインは、政府が単独で 主導するのではなく、教育・研究機関、⼀般消費者を含む市⺠社会、⺠間企業等で構成されるマルチステーク ホルダーで検討を重ねることで、実効性・正当性を重視したものとして策定されている。 図 1. 本ガイドラインの位置づけ AI の利⽤は、その分野とその利⽤形態によっては、社会に対して⼤きなリスクを⽣じさせ、そのリスクに伴う社 会的な軋轢により、AI の利活⽤⾃体が阻害される可能性がある。⼀⽅で、過度な対策を講じることは、同様に AI 活⽤⾃体⼜は AI 活⽤によって得られる便益を阻害してしまう可能性がある。このような中、予め事前に当該 利⽤分野における利⽤形態に伴って⽣じうるリスクの⼤きさ（危害の⼤きさ及びその蓋然性）を把握したうえ で、その対策の程度をリスクの⼤きさに対応させる「リスクベースアプローチ」が重要となる。本ガイドラインでは、こ の「リスクベースアプローチ」にもとづく企業における対策の⽅向を記載している。なお、この「リスクベースアプロー チ」の考え⽅は、AI 先進国間で広く共有されているものである。 また、AI をめぐる動向が⽬まぐるしく変化する中、国際的な議論等も踏まえ、本ガイドラインに関しては、AI ガ バナンスの継続的な改善に向け、アジャイル・ガバナンスの思想を参考にしながら、マルチステークホルダーの関与 の下で、Living Document として適宜更新を⾏うことを予定している1。その中で、社会における AI の成熟度に 応じたリスク及びリスクへの対策となる指針並びに実践の内容の更新を検討する（「図 2. 本ガイドラインの基本 的な考え⽅」参照）。 1 総務省の AI ネットワーク社会推進会議と経済産業省の AI 事業者ガイドライン検討会にて取りまとめを⾏う。検討体制は、今後の状況に合わせ て適宜⾒直しを⾏う。 ・AI ネットワーク社会推進会議 https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/index.html ・AI 事業者ガイドライン検討会 https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html 3 図 2. 本ガイドラインの基本的な考え⽅ 本ガイドラインは、AI 開発・提供・利⽤にあたって必要な取組についての基本的な考え⽅を⽰すものである。 よって、実際の AI 開発・提供・利⽤において、本ガイドラインを参考の⼀つとしながら、AI 活⽤に取り組む全ての 事業者が⾃主的に具体的な取組を推進することが重要となる。同時に、AI 活⽤に取り組む全ての事業者は、 AI が社会にもたらす影響の⼤きさを認識し、⼈間社会をよりよいものへと発展させるために活⽤することを意識す べきである。当該取組に対して、社会から不適切⼜は不⼗分と評価される場合は、⾃らの事業活動における機 会損失が⽣じ、事業価値の維持が困難となる事態を招く恐れがあることに留意することが重要となる。このような 点に留意することにより、AI による便益の最⼤化、競争⼒の強化、事業価値の維持・向上等が可能となる。な お、AI に関係する事業者以外の者、例えば、教育・研究機関に属する者及び⼀般消費者（未成年を含む） にとっても、AI の活⽤にあたって参考となる情報及びリスクに関する情報が盛り込まれているため、有⽤といえる。 本ガイドラインは、様々な事業活動において AI の開発・提供・利⽤を担う全ての者（政府・⾃治体等の公 的機関を含む）を対象としている。他⽅で、事業活動以外で AI を利⽤する者⼜は AI を直接事業で利⽤せず に AI システム・サービスの便益を享受する、場合によっては損失を被る者（以下、あわせて「業務外利⽤者」と いう）については、本ガイドラインの対象には含まない2。ただし、事業活動において AI の開発・提供・利⽤を担う 者から業務外利⽤者への必要な対応は記載する。また、AI 活⽤に伴い学習及び利⽤に⽤いるデータが不可 ⽋となる。それらのデータを提供する特定の法⼈及び個⼈（以下、「データ提供者」という）も同様に本ガイドラ インの対象には含まない。データ収集は⾊々な⽅法が考えられる中で、本ガイドラインではデータの提供を受ける 者・データを⼊⼿する者にあたる AI の開発・提供・利⽤を担う者がデータを取り扱う際の責任を負う形で記載す る。以上より、本ガイドラインの対象者は、AI の事業活動を担う主体として、「AI 開発者」、「AI 提供者」及び 「AI 利⽤者」の 3 つに⼤別され、それぞれ以下のとおり定義される。これらの主体は事業者（⼜は各者内の部 2 ⼀般消費者が AI、特に⽣成 AI を活⽤するにあたっての注意点等については、 消費者庁「AI 利活⽤ハンドブック〜⽣成 AI 編〜」（2024 年 5 ⽉）を参照。 https://www.caa.go.jp/policies/policy/consumer_policy/information/ai_handbook また、消費者を⽀援することに活⽤できる AI を含むデジタル技術の現状や⾒通し、課題等については、内閣府「消費者をエンパワーするデジタル 技術に関する専⾨調査会」報告書で整理されている。 https://www.cao.go.jp/consumer/iinkaikouhyou/2024/doc/202412_digital_technology_houkoku.pdf 4 ⾨）を想定しており、AI の活⽤⽅法によっては同⼀の事業者が AI 開発者、AI 提供者⼜は AI 利⽤者の複数 を兼ねる場合もある（「図 3. ⼀般的な AI 活⽤の流れにおける主体の対応」参照）3。  AI 開発者（AI Developer） AI システムを開発する事業者（AI を研究開発する事業者を含む） AI モデル・アルゴリズムの開発、データ収集（購⼊を含む）、前処理、AI モデル学習及び検証を通して AI モデル、AI モデルのシステム基盤、⼊出⼒機能等を含む AI システムを構築する役割を担う。  AI 提供者（AI Provider） AI システムをアプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとして AI 利⽤者（AI Business User）、場合によっては業務外利⽤者に提供する事業者 AI システム検証、AI システムの他システムとの連携の実装、AI システム・サービスの提供、正常稼働のた めの AI システムにおける AI 利⽤者（AI Business User）側の運⽤サポート⼜は AI サービスの運⽤⾃ 体を担う。AI サービスの提供に伴い、様々なステークホルダーとのコミュニケーションが求められることもあ る。  AI 利⽤者（AI Business User） 事業活動において、AI システム⼜は AI サービスを利⽤する事業者 AI 提供者が意図している適正な利⽤を⾏い、環境変化等の情報を AI 提供者と共有し正常稼働を継 続すること⼜は必要に応じて提供された AI システムを運⽤する役割を担う。また、AI の活⽤において業 務外利⽤者に何らかの影響が考えられる場合4は、当該者に対する AI による意図しない不利益の回 避、AI による便益最⼤化の実現に努める役割を担う。 3 開発・提供 ・利⽤の対象に⽣成 AI も含まれる。AI 提供者⼜は AI 利⽤者が政府・⾃治体等、公的機関になる場合は、⺠間事業者の場合と は別の考えが必要になる可能性がある。 4 業務外利⽤者は、AI 利⽤者の指⽰及び注意に従わない場合、何らかの被害を受ける可能性があることを留意する必要がある。 5 図 3. ⼀般的な AI 活⽤の流れにおける主体の対応 ⾃らが該当する「AI 開発者」、「AI 提供者」⼜は「AI 利⽤者」の⽴場から、「ステークホルダーからの期待を鑑 みつつどのような社会を⽬指すのか（「基本理念」 = why）」を踏まえ、「AI に関しどのような取組を⾏うべきか （指針 = what）」を明らかにすることが重要であり、また指針を実現するために、「具体的にどのようなアプロー チで取り組むか（実践 = how）」を検討・決定し、実践することが AI の安全安⼼な活⽤に有⽤と考えられる。 実際の AI システム・サービスは⽬的・活⽤技術・データ・利⽤環境等によって多様なユースケースとなり、技術の 発展等、外部環境の変化も踏まえつつ、AI 開発者、AI 提供者及び AI 利⽤者が連携して最適なアプローチを 検討することが重要である。本ガイドラインは読みやすさを考慮し、本編で「基本理念」及び「指針」を扱い、別 添（付属資料）で「実践」を扱うこととする。 「基本理念」及び「指針」を扱う本ガイドラインの本編の構成を以下に記載する。  第1部 本ガイドラインの内容に関する理解を助けるために、「⽤語の定義」を中⼼に記載する。  第2部 AI の活⽤により⽬指すべき社会及びそれを実現するための「基本理念」（why）、並びに原則及び各 主体に共通する指針（what）を記載する。AI の活⽤による便益を求める中で、AI が社会にリスクをも たらす可能性を鑑み、「共通の指針」を実践するために必要となるガバナンスの構築についても触れる。 第 2 部では第 3 部以降のもととなる内容を解説しているため、AI を活⽤する全ての事業者が内容を確 認し、理解することが重要である。  第 3 部〜第 5 部 AI を活⽤した事業活動を担う 3 つの主体に関し、第 2 部では触れられない主体毎の留意点を記載す る。AI を活⽤する事業者は⾃らに関する事項を理解することが重要であり、それと同時に、隣接する主 6 体と関係する事項が多く存在するため、当該主体以外に関する事項も理解することが重要である （「図 4. 本ガイドラインの構成」参照）。 「AI 開発者」、「AI 提供者」及び「AI 利⽤者」においては、第 1 部、第 2 部に加えて、第 3 部以降の当該部 及び別添（付属資料）を確認することで、AI を活⽤する際のリスク及びその対応⽅針の基本的な考え⽅を把 握することが可能となる。特に具体的な取組が決まっていない事業者にとっては、別添の記載例が参考となるた め、別添の関連箇所を中⼼とした確認が重要となる。なお、経営者を含む事業執⾏責任者5は、その職務を全 うするために、本ガイドラインにおける「基本理念」（why）及び指針（what）を踏まえて、事業戦略と⼀体で AI を活⽤する際のリスク対策を検討・実践し、AI の安全安⼼な活⽤を推進することが重要である。 図 4. 本ガイドラインの構成 AI をめぐる環境はグローバル規模で⽇進⽉歩の進化を続けていることから、AI を活⽤する事業者は、国際的 な動向にも注意を払うことが重要である。我が国においても、こうした現状を踏まえ、広島 AI プロセス6を通じて、 AI に関する国際的な共通理解及び指針の策定を主導しており、2023 年 12 ⽉には広島 AI プロセス包括的 政策枠組み等を取りまとめた7。本ガイドラインも同プロセスへの貢献を意図するとともに、同プロセスを含む国際 5 事業執⾏責任者は、政府・⾃治体等の公的機関の事業執⾏責任者も含む。 6 2023 年 5 ⽉の G7 広島サミットの結果を受けて、⽣成 AI に関する国際的なルールの検討を⾏うため、「広島 AI プロセス」を⽴ち上げた。その 後、同年 9 ⽉の「広島 AI プロセス閣僚級会合」、10 ⽉の京都 IGF での「マルチステークホルダーハイレベル会合」等を経て発出された「広島 AI プ ロセスに関する G7 ⾸脳声明」を踏まえ、同年 12 ⽉に「G7 デジタル・技術⼤⾂会合」を開催し、同年の成果として、「広島 AI プロセス包括的政 策枠組み」を取りまとめた。さらに、2024 年には、3 ⽉の「G7 産業・技術・デジタル⼤⾂会合」、10 ⽉の「G7 デジタル・技術⼤⾂会合」を経て、国 際⾏動規範の遵守状況に係る「報告枠組み」が、同年 12 ⽉に G7 で合意された。https://www.soumu.go.jp/hiroshimaaiprocess/ 7 GPAI（The Global Partnership on Artificial Intelligence）とは、⼈間中⼼の考え⽅に⽴ち、｢責任ある AI｣の開発・利⽤をプロジェクトベ ースの取組で推進するために設⽴（2020 年）された、政府・国際機関・産業界・有識者・市⺠社会等のマルチステークホルダーによる国際連携 イニシアティブである。2024 年 7 ⽉、GPAI は OECD との統合パートナーシップ体制へと移⾏した。GPAI 専⾨家による調査研究やプロジェクトに対 7 的な議論を踏まえながら検討したものである。⼀⽅で、AI をめぐる考え⽅及び法令は国・地域で異なることから、 特に、国境を越えた活動を⾏う事業者は、現地の法令に対応すべきであり、ステークホルダーの要望に応じた対 応が期待される。特に⾼度な AI システムについては市場に導⼊される前の安全性評価8の枠組みを検討する 等、国・地域によってはガバナンスの実効性を担保するための措置を講じている場合もあり、注意を払うことが重 要である。9 し、広島 AI プロセスの推進にも協⼒している⽣成 AI に関するプロジェクトをはじめとした運営・管理⾯での⽀援を提供するため、2024 年 7 ⽉に 「GPAI 東京専⾨家⽀援センター」を国⽴研究開発法⼈情報通信研究機構(NICT)に設置。同センターでは、これまでに SAFE プロジェクト（⽣成 AI の安全性を保証するための実践的なアプローチの調査）を展開してきたほか、OECD と協議しながら新たな⽣成 AI 関連プロジェクトを実施して いくこととしている。 https://www2.nict.go.jp/gpai-tokyo-esc/ 8 2023 年 11 ⽉、英国では、⾼度な AI システムの評価の開発、実施等を⾏う「AI Safety Institute」の設置計画を発表し、⽶国では、⽶国標 準技術研究所（NIST）に AI リスクマネジメントフレームワークの実装、レッドチーミングの評価等を⾏う「US AI Safety Institute」を設⽴することを 発表した。なお、英国では、2025 年 2 ⽉に、AI Safety Institute から AI Security Institute に改称されている。⽇本においても、これらの海外 機関と連携しつつ、AI の開発・提供・利⽤の安全性向上に資する基準・ガイダンス等の検討、AI の安全性評価⽅法等の調査、AI の安全性に関 する技術・事例の調査等を⽬的とし、2024 年 2 ⽉ 14 ⽇に、関係府省庁及び関係機関の協⼒の下、「AI セーフティ・インスティテュート」を独⽴⾏ 政法⼈情報処理推進機構(IPA)に設置。本ガイドラインと⽶国 NIST AI リスクマネジメントフレームワーク（RMF）のクロスウォークや「AI セーフティ に関する評価観点ガイド」（2024 年 9 ⽉） https://aisi.go.jp/effort/effort_framework/guide_to_evaluation_perspective_on_ai_safety/の公表、各国の AISI 等との連携・意 ⾒交換、各種調査等の活動を実施している。 https://aisi.go.jp/ 9 2025 年 2 ⽉ 4 ⽇に、AI 戦略会議・AI 制度研究会 中間とりまとめが公表された。 https://www8.cao.go.jp/cstp/ai/interim_report.pdf 8 第１部 AI とは AI は Artificial Intelligence（⼈⼯知能）を意味し、1956 年にダートマス会議で初めて使⽤された⾔葉 であるとされている。AI は未だ確⽴された定義は存在しないが、「⼈⼯」・「知能」とあるように、⼈間の思考プロセ スと同じような形で動作するコンピュータープログラム、コンピューター上で知的判断を下せるシステム等を指す。機 械学習（Machine Learning、略して ML）を⾏わない、専⾨家の知識を⼤量にインプットすることで知識にもと づく推論を⾏うエキスパートシステムと呼ばれるものも、AI とみなす考えもある。しかし、2000 年代以降、ディープ ラーニング等による「画像認識」、「⾃然⾔語処理（翻訳等）」、「⾳声認識」が活⽤されるようになり、特定の 分野に特化し、予測、提案⼜は決定を⾏うことができるシステムを AI と指すようになってきた。また、2021 年以 降、基盤モデル10の台頭により、特定の分野のみに特化した AI ではない、汎⽤的な AI の開発が進んでいる。そ の結果、「予測」、「提案」、「決定」にとどまらず、画像、⽂章等を⽣成する「⽣成 AI」が普及するようになり、注 ⽬を集めている。このように、ひとくくりに「AI」と⾔っても、その種類は多岐にわたり、今後の AI 技術の在り⽅につ いては専⾨家であっても予測することは困難である。 このような状況を踏まえつつ、本ガイドラインにおける関連する⽤語を以下のとおり定義する。 関連する⽤語  AI 現時点で確⽴された定義はなく（統合イノベーション戦略推進会議決定 「⼈間中⼼の AI 社会原則」 （2019 年 3 ⽉ 29 ⽇））、広義の⼈⼯知能の外延を厳密に定義することは困難である。本ガイドライ ンにおける AI は「AI システム（以下に定義）」⾃体⼜は機械学習をするソフトウェア若しくはプログラム を含む抽象的な概念とする。 （参考として JIS X 22989:2023 では ISO/IEC 22989:2022 にもとづき、以下のように定義されてい る） ＜学問分野＞AI システムのメカニズム及び適⽤の研究開発 注釈 1. 研究開発は、コンピュータサイエンス、データサイエンス、⾃然科学、⼈⽂科学、数学等、幾つも の分野にわたって⾏うことが可能である  AI システム 活⽤の過程を通じて様々なレベルの⾃律性をもって動作し学習する機能を有するソフトウェアを要素とし て含むシステムとする（機械、ロボット、クラウドシステム等）。 （参考として JIS X 22989:2023 では ISO/IEC 22989:2022 にもとづき、以下のように定義されてい る） ⼈間が定義した所与の⽬標の集合に対して、コンテンツ、予測、推奨、意思決定等の出⼒を⽣成する ⼯学的システム 注釈 1. ⼯学的システムは、⼈⼯知能に関連する様々な技法及びアプローチを使⽤して、作業の実施 10 ⼤規模⾔語モデルに代表される基盤モデルは、様々なサービスを⽀える個別モデルを⽣み出すコアの技術基盤である。基盤モデルから派⽣する 下流の幅広いタスクに適応させたモデルの開発、開発過程そのものから得られる知⾒等の観点から、⼀般的な AI とは異なる性質を持つ。 9 に使⽤可能であるデータ、知識、プロセス等を表すモデルを開発することが可能である 注釈 2. AI システムは、様々な⾃動化のレベルで動作するように設計されている （参考として OECD AI Principles overview では以下のように定義されている） AI システムは、明⽰的⼜は暗黙的な⽬的のために推測するマシンベースのシステムである。受け取った ⼊⼒から、物理環境⼜は仮想環境に影響を与える可能性のある予測、コンテンツ、推奨、意思決定等 の出⼒を⽣成する。AI システムが異なれば、導⼊後の⾃律性及び適応性のレベルも異なる  ⾼度な AI システム 最先端の基盤モデル及び⽣成 AI システムを含む、最も⾼度な AI システムを指す。 （広島 AI プロセスでの定義を引⽤）  AI モデル（ML モデル） AI システムに含まれ、学習データを⽤いた機械学習によって得られるモデルで、⼊⼒データに応じた予測 結果を⽣成する。 （参考として JIS X 22989:2023 では ISO/IEC 22989:2022 にもとづき、以下のように定義されてい る） ⼊⼒データ⼜は情報にもとづいて推論（inference）⼜は予測を⽣成する数学的構造 例 : 単変量線形関数 y=θ0+θ1x が、線形回帰を使⽤して訓練されている場合、結果のモデルは、 y=3+7x のようになる 注釈 1. 機械学習モデルは、機械学習アルゴリズムにもとづく訓練の結果として得られる  AI サービス AI システムを⽤いた役務を指す。AI 利⽤者への価値提供の全般を指しており、AI サービスの提供・運 営は、AI システムの構成技術に限らず、⼈間によるモニタリング、ステークホルダーとの適切なコミュニケー ション等の⾮技術的アプローチも連携した形で実施される。  ⽣成 AI ⽂章、画像、プログラム等を⽣成できる AI モデルにもとづく AI の総称を指す。  AI ガバナンス AI の利活⽤によって⽣じるリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたら される正のインパクト（便益）を最⼤化することを⽬的とする、ステークホルダーによる技術的、組織的、 及び社会的システムの設計並びに運⽤。 10 第２部 AI により⽬指すべき社会及び各主体が取り組む事項 第 2 部では、まず、AI により⽬指す社会としての「A. 基本理念」を記載する。更に、その実現に向け、各主 体が取り組む「B. 原則」とともに、そこから導き出される「C. 共通の指針」を記載する。また、⾼度な AI システム に関係する事業者が遵守すべき「D. ⾼度な AI システムに関係する事業者に共通の指針」を記載する。加え て、この「C. 共通の指針」を実践し AI を安全安⼼に活⽤していくために重要な「E. AI ガバナンスの構築」につい ても記載する。 A. 基本理念 「はじめに」で述べたとおり、我が国が 2019 年 3 ⽉に策定した「⼈間中⼼の AI 社会原則」においては、AI が Society 5.0 の実現に貢献することが期待されている。また、AI を⼈類の公共財として活⽤し、社会の在り⽅の 質的変化及び真のイノベーションを通じて地球規模の持続可能性とつなげることが重要であることが述べられて いる。そして、以下の 3 つの価値を「基本理念」として尊重し、「その実現を追求する社会を構築していくべき」と している。 ① ⼈間の尊厳が尊重される社会（Dignity） AI を利活⽤して効率性や利便性を追求するあまり、⼈間が AI に過度に依存したり、⼈間の⾏動を コントロールすることに AI が利⽤される社会を構築するのではなく、⼈間が AI を道具として使いこなす ことによって、⼈間の様々な能⼒をさらに発揮することを可能とし、より⼤きな創造性を発揮したり、や りがいのある仕事に従事したりすることで、物質的にも精神的にも豊かな⽣活を送ることができるよう な、⼈間の尊厳が尊重される社会を構築する必要がある ② 多様な背景を持つ⼈々が多様な幸せを追求できる社会 （Diversity and Inclusion） 多様な背景、価値観⼜は考え⽅を持つ⼈々が多様な幸せを追求し、それらを柔軟に包摂した上で 新たな価値を創造できる社会は、現代における⼀つの理想であり、⼤きなチャレンジである。AI という 強⼒な技術は、この理想に我々を近づける⼀つの有⼒な道具となりうる。我々は AI の適正な開発と 展開によって、このように社会の在り⽅を変⾰していく必要がある ③ 持続可能な社会（Sustainability） 我々は、AI の活⽤によりビジネスやソリューションを次々と⽣み、社会の格差を解消し、地球規模の 環境問題や気候変動等にも対応が可能な持続性のある社会を構築する⽅向へ展開させる必要が ある。科学・技術⽴国としての我が国は、その科学的・技術的蓄積を AI によって強化し、そのような 社会を作ることに貢献する責務がある 11 図 5. 基本理念 この基本的な考え⽅⾃体は、著しい技術の発展によっても変わるものではなく、⽬指すべき理念であり続けて いる。したがって、AI の発展に伴い、⽇本及び多国間の枠組みで⽬指すべき⽅向性として、これらの「基本理 念」が尊重されるべきである。 B. 原則 「基本理念」を実現するためには、各主体がこれに沿う形で取組を進めることが重要であり、そのために各主 体が念頭におく「原則」を、各主体が取り組む事項及び社会と連携した取組が期待される事項に整理した。こ の「原則」は、「⼈間中⼼の AI 社会原則」を⼟台としつつ、OECD の AI 原則等の海外の諸原則を踏まえ、再 構成したものである。 各主体が取り組む事項 各主体は、「基本理念」より導き出される⼈間中⼼の考え⽅をもとに11、AI システム・サービスの開発・提供・ 利⽤を促進し、⼈間の尊厳を守りながら、事業における価値の創出、社会課題の解決等、AI の⽬的を実現し ていくことが重要である。このため、各主体は、AI 活⽤に伴う社会的リスクの低減を図るべく、安全性・公平性と いった価値を確保することが重要である。また、個⼈情報の不適正な利⽤等の防⽌を始めとするプライバシー保 護、並びに AI システムの脆弱性等による可⽤性の低下及び外部からの攻撃等のリスクに対応するセキュリティ 確保を⾏うことが重要である。これらを実現するために、各主体は、システムの検証可能性を確保しながらステー クホルダー12に対する適切な情報を提供することにより透明性を向上させ、アカウンタビリティを果たすことが重要と なる。 11 下線部は、後段の「C.共通の指針」として整理されるものである。 12 ステークホルダー︓AI 開発者、AI 提供者、AI 利⽤者及び業務外利⽤者以外の第三者を含む AI の活⽤によって直接・間接の影響を受ける 可能性がある全ての主体（以降同様） 12 加えて、今後、AI アーキテクチャの多様化に伴うバリューチェーン変動等により、各主体の役割が変動する可 能性を踏まえた上で、各主体間で連携し、バリューチェーン全体での AI の品質の向上に努めること及びマルチス テークホルダーで継続して議論していくことが重要である。 このような対応を⾏うことで、各主体が、AI のリスクを最低限に抑制しつつ、AI システム・サービスの開発・提 供・利⽤を通じて最⼤限の便益を享受することが期待される。 社会と連携した取組が期待される事項 AI による社会への便益を⼀層増⼤させ、我々が⽬指すべき「基本理念」を実現していくためには、各主体そ れぞれの取組に加え、社会（政府・⾃治体及びコミュニティも含む）と積極的に連携することが期待される。こ のため、各主体は、社会と連携して、社会の分断を回避し、全ての⼈々に AI の恩恵が⾏き渡るための教育・リ テラシー確保の機会を提供することが期待される。加えて、新たなビジネス・サービスが創出され、持続的な経済 成⻑の維持及び社会課題の解決策が提⽰されるよう、公正競争の確保及びイノベーションの促進に貢献して いくことが期待される。 C. 共通の指針 取組にあたり、各主体は、以下に述べる「1）⼈間中⼼」に照らし、法の⽀配、⼈権、⺠主主義、多様性・ 包摂性及び公平公正な社会を尊重するよう AI システム・サービスを開発・提供・利⽤すべきである。また、憲 法、知的財産関連法令及び個⼈情報保護法をはじめとする関連法令、AI に係る個別分野の既存法令等を 遵守すべきであり、国際的な指針等の検討状況についても留意することが重要である13。 なお、これらの取組は、各主体が開発・提供・利⽤する AI システム・サービスの特性、⽤途、⽬的及び社会 的⽂脈を踏まえ、各主体の資源制約を考慮しながら⾃主的に進めることが重要である。 各主体が連携して、バリューチェーン全体で取り組むべきことは、具体的には、以下のとおり整理される。 1) ⼈間中⼼ 各主体は、AI システム・サービスの開発・提供・利⽤において、後述する各事項を含む全ての取り組む べき事項が導出される⼟台として、少なくとも憲法が保障する⼜は国際的に認められた⼈権を侵すことが ないようにすべきである。また、AI が⼈々の能⼒を拡張し、多様な⼈々の多様な幸せ（well-being）の 追求が可能となるように⾏動することが重要である。 ① ⼈間の尊厳及び個⼈の⾃律  AI が活⽤される際の社会的⽂脈を踏まえ、⼈間の尊厳及び個⼈の⾃律を尊重する  特に、AI を⼈間の脳・⾝体と連携させる場合には、その周辺技術に関する情報を踏まえつつ、 諸外国及び研究機関における⽣命倫理の議論等を参照する 13 事業の地理的な展開状況、開発された AI モデルを⽤いる AI 提供者・AI 利⽤者の所在地、学習を⾏うサーバの所在地等に応じ、各準拠法 に従う必要がある。我が国の国内法に準拠する場合は、データの類型に応じ、個⼈情報、知的財産権等にそれぞれ適⽤される法令に適合した 取扱を⾏う。また、データの取扱においては、法令で定められていなくともステークホルダー間の契約関係において、利⽤が禁⽌される場合が存在す ることにも留意すべきである。 13  個⼈の権利・利益に重要な影響を及ぼす可能性のある分野において AI を利⽤したプロファイリ ングを⾏う場合、個⼈の尊厳を尊重し、アウトプットの正確性を可能な限り維持させつつ、AI の 予測、推奨、判断等の限界を理解して利⽤し、かつ⽣じうる不利益等を慎重に検討した上 で、不適切な⽬的に利⽤しない ② AI による意思決定・感情の操作等への留意  ⼈間の意思決定、認知等、感情を不当に操作することを⽬的とした、⼜は意識的に知覚でき ないレベルでの操作を前提とした AI システム・サービスの開発・提供・利⽤は⾏わない  AI システム・サービスの開発・提供・利⽤において、⾃動化バイアス14等の AI に過度に依存する リスクに注意を払い、必要な対策を講じる15  フィルターバブル16に代表されるような情報⼜は価値観の傾斜を助⻑し、AI 利⽤者を含む⼈間 が本来得られるべき選択肢が不本意に制限されるような AI の活⽤にも注意を払う  特に、選挙、コミュニティでの意思決定等をはじめとする社会に重⼤な影響を与える⼿続きに関 連しうる場合においては、AI の出⼒について慎重に取り扱う ③ 偽情報等への対策  ⽣成 AI によって、内容が真実・公平であるかのように装った情報を誰でも作ることができるように なり、AI が⽣成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが⾼まっ ていることを認識した上で、必要な対策を講じる17,18 ④ 多様性・包摂性の確保  公平性の確保に加え、いわゆる「情報弱者」及び「技術弱者」を⽣じさせず、より多くの⼈々が AI の恩恵を享受できるよう社会的弱者による AI の活⽤を容易にするよう注意を払う  ユニバーサルデザイン、アクセシビリティの確保、関連するステークホルダー19への教育・フォロ ーアップ 等 ⑤ 利⽤者⽀援 14 ⼈間の判断や意思決定において、⾃動化されたシステムや技術への過度の信頼や依存が⽣じる現象を指す。 15 必要な対策としては、AI による評価、判断、推奨、⼜は予測等のアウトプットを⼈間が鵜呑みにしないために、AI の⽋点を含む特性を理解でき るトレーニングを受けることや、AI の評価や判断等を⼈間が承認する際には⼈間⾃⾝が AI の評価や判断等を承認する理由や根拠を独⾃に考え てから承認すべきこと等が提案されている。 16 「フィルターバブル」とは、アルゴリズムがネット利⽤者個⼈の検索履歴やクリック履歴を分析し学習することで、個々にとっては望むと望まざるとにか かわらず⾒たい情報が優先的に表⽰され、利⽤者の観点に合わない情報からは隔離され、⾃⾝の考え⽅や価値観の「バブル（泡）」の中に孤⽴ するという情報環境を指す。このようなもともとある⼈間の傾向とネットメディアの特性の相互作⽤による現象と⾔われているものとして、「フィルターバ ブル」の他、「エコーチェンバー」も挙げられる。そういったリスクがある⼀⽅で、AI はパーソナライズされた的を絞った返答を AI 利⽤者や業務外利⽤者 に提供し、有益な形で提案を⾏うことを可能とするという便益もある。 17 インターネット上の偽・誤情報の流通・拡散への対応を含む、デジタル空間における情報流通の健全性確保に向けた今後の対応⽅針と具体的 な⽅策について検討するため、「デジタル空間における情報流通の健全性確保の在り⽅に関する検討会」が総務省において開催され、2024 年 9 ⽉に「とりまとめ」が公表された。（https://www.soumu.go.jp/menu_news/s-news/01ryutsu02_02000417.html） また、技術的対応として、総務省により「インターネット上の偽・誤情報等対策技術の開発・実証事業」が実施されている。 （https://www.soumu.go.jp/menu_news/s-news/01ryutsu02_02000415.html） 18 RAG（検索拡張⽣成）の活⽤等により、ハルシネーションの抑制や出⼒過程・根拠の透明性向上等が期待されている。 19 関連するステークホルダー︓AI 開発者、AI 提供者、AI 利⽤者及び業務外利⽤者を含む直接・間接問わず AI の活⽤に関与する主体（以降 同様） 14  合理的な範囲で、AI システム・サービスの機能及びその周辺技術に関する情報を提供し、選 択の機会の判断のための情報を適時かつ適切に提供する機能が利⽤可能である状態とする  デフォルトの設定、理解しやすい選択肢の提⽰、フィードバックの提供、緊急時の警告、エ ラーへの対処等 ⑥ 持続可能性の確保  AI システム・サービスの開発・提供・利⽤において、ライフサイクル全体で、地球環境への影響も 検討する（特に、⽣成 AI など計算量の多い AI システムにおいては、モデルの軽量化や⽬的に 応じたモデルの使い分け等の対策を講じる） これら全てを前提とした上で、各主体は、AI のパフォーマンス（有⽤性）を可能な範囲で⾼め、⼈々に 便益及び豊かさを与え、幸福を実現することが期待される。 2) 安全性 各主体は、AI システム・サービスの開発・提供・利⽤を通じ、ステークホルダーの⽣命・⾝体・財産に危 害を及ぼすことがないようにすべきである。加えて、精神及び環境に危害を及ぼすことがないようにすることが 重要である。 ① ⼈間の⽣命・⾝体・財産、精神及び環境への配慮  AI システム・サービスの出⼒の正確性を含め、要求に対して⼗分に動作している（信頼性）  様々な状況下でパフォーマンスレベルを維持し、無関係な事象に対して著しく誤った判断を発 ⽣させないようにする（堅牢性（robustness））  AI の活⽤⼜は意図しない AI の動作によって⽣じうる権利侵害の重⼤性、侵害発⽣の可能性 等、当該 AI の性質・⽤途等に照らし、必要に応じて定期的かつ客観的なモニタリング及び対 処も含めて⼈間がコントロールできる制御可能性を確保する  適切なリスク分析を実施し、リスクへの対策（回避、低減、移転⼜は容認）を講じる  ⼈間の⽣命・⾝体・財産、精神及び環境へ危害を及ぼす可能性がある場合は、講ずべき措 置について事前に整理し、ステークホルダーに関連する情報を提供する   関連するステークホルダーが講ずべき措置及び利⽤規則を明記する AI システム・サービスの安全性を損なう事態が⽣じた場合の対処⽅法を検討し、当該事態が ⽣じた場合に速やかに実施できるよう整える ② 適正利⽤  主体のコントロールが及ぶ範囲で本来の⽬的を逸脱した提供・利⽤20により危害が発⽣するこ とを避けるべく、AI システム・サービスの開発・提供・利⽤を⾏う  マルチモーダルな⽣成 AI を中⼼とする AI システム・サービスの⽣成物については、⽐較的容易 により精巧な⽣成物の⽣成が可能となるため、その精巧さにより誤解や偏⾒等を助⻑する可能 20 なお、RAG（検索拡張⽣成）を活⽤した場合には⽣成 AI による回答の収束が加速する可能性が⾼いため、例えばコンテンツの多様性・独創 性を必要とする業務については、RAG（検索拡張⽣成）の活⽤が適切ではない場合もあることに留意が必要である。 15 性があることや、他者の知的財産権等を侵害する可能性があること等にも留意しつつ、その利 ⽤に際し⼈間の判断を介在させる等21の対策を講じる22 ③ 適正学習23  AI システム・サービスの特性及び⽤途を踏まえ、学習等に⽤いるデータの正確性・必要な場合 には最新性（データが適切であること）等を確保する  学習等に⽤いるデータの透明性の確保、法的枠組みの遵守、AI モデルの更新等を合理的な 範囲で適切に実施する  権利侵害複製物等の違法なコンテンツ24や情報等を学習データに含めないこと等に留意する25 3) 公平性 各主体は、AI システム・サービスの開発・提供・利⽤において、特定の個⼈ないし集団への⼈種、性 別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏⾒及び差別をなくす よう努めることが重要である。また、各主体は、それでも回避できないバイアスがあることを認識しつつ、この 回避できないバイアスが⼈権及び多様な⽂化を尊重する観点から許容可能か評価した上で、AI システ ム・サービスの開発・提供・利⽤を⾏うことが重要である。26 ① 21 AI モデルの各構成技術に含まれるバイアスへの配慮 ⼈間の判断を介在させるための⼯夫としては、⽣成物であることを⽰す透かしを⼊れることやユーザーインタフェースの改善等があげられる。 22 なお、プログラムコードを⽣成する AI を活⽤する場合は、⽣成したコードの安全性やセキュリティ⾯への配慮が重要となる。 23 AI 提供者・AI 利⽤者においてもファインチューニング、再学習を⾏う場合は AI 開発者と同様に安全性の担保に努めることが重要となる。 24 ⽂化庁「AI と著作権に関する考え⽅について」（⽂化審議会著作権分科会法制度⼩委員会、2024 年 3 ⽉）において、海賊版等、違法に アップロードされているものも学習されてしまうことが権利者の懸念として挙げられている。 25 知的財産関連法令との関係については内閣府、⽂化庁等での議論が進められており、今後の検討状況についても留意すべきである。特に AI と著作権に関する考え⽅については、⽂化審議会著作権分科会法制度⼩委員会にて取りまとめており、各主体においては、その趣旨を踏まえた 対応⽅針を検討することが重要となる。 ・⽂化庁「AI と著作権に関する考え⽅について」（⽂化審議会著作権分科会法制度⼩委員会、2024 年 3 ⽉） https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf ・内閣府「AI 時代の知的財産権検討会 中間とりまとめ」（知的財産戦略推進事務局、2024 年 5 ⽉） https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2024/0528_ai.pdf ・⽂化庁「AI と著作権に関するチェックリスト＆ガイダンス」（⽂化庁著作権課、2024 年 7 ⽉） https://www.bunka.go.jp/seisaku/chosakuken/pdf/94097701_01.pdf ・内閣府「AI 時代の知的財産権検討会 中間とりまとめ ⼿引き（権利者向け）」（知的財産戦略推進事務局、2024 年 11 ⽉） https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2024/2411_tebiki.pdf なお、「AI 時代の知的財産権検討会 中間とりまとめ」及び「AI と著作権に関するチェックリスト＆ガイダンス」では、本ガイドラインと異なり、「AI 開発 者」、「AI 提供者」及び「AI 利⽤者」に加えて、「業務外利⽤者（⼀般利⽤者）」及び「権利者」も対象にして、各主体に期待される取組事項 例等を整理している。 26 「バイアス」という⾔葉には例えば以下の通り様々な解釈が考えられ、本ガイドラインではそれらを総称したものとして⽤いている。 ・統計的な⽤語（サンプリングバイアス。偏り・偏差など。） ・⼼理学的な⽤語（認知バイアス（思い込み等に起因。集団ごとの社会通念等による社会的バイアスも含む）、感情バイアス（⼈間の感情・ 都合等に起因）など。） また NIST の Proposal for Identifying and Managing Bias in Artificial Intelligence (SP 1270) では、AI において、Systemic（既存のル ールや規範、慣⾏等によるもの）、Statistical and Computational (統計的・計数的なもの)、Human（認知・知覚、習性等によるもの）とい う 3 つのカテゴリと、それぞれに属する典型的なバイアスがある旨が説明されている。 16  バイアスを⽣み出す要因は多岐に渡るため、各技術要素（学習データ、AI モデルの学習過 程、AI 利⽤者⼜は業務外利⽤者が⼊⼒するプロンプト27、AI モデルの推論時に参照する情 報、連携する外部サービス等）及び AI 利⽤者の振る舞いを含めて、公平性の問題となりうる バイアスの要因となるポイントを特定する  AI システム・サービスの特性⼜は⽤途によっては、ステークホルダーが意図しない⼜は感知できな いバイアスが⽣じる可能性についても検討する ② ⼈間の判断の介在  AI の出⼒結果が公平性を⽋くことがないよう、AI に単独で判断させるだけでなく、適切なタイミン グで⼈間の判断を介在させる利⽤を検討する。なおその際には、⼈間の判断が⾃動化バイアス に左右されないような対策28を講じるべきである  バイアスが⽣じていないか、AI システム・サービスの⽬的、制約、要件及び決定を明確かつ透明 性のある⽅法により分析し、対処するためのプロセスを導⼊する  ステークホルダーが意図しない⼜は感知できないバイアスや、潜在的なバイアス（学習データに は表れないバイアス）29に留意し、多様な背景、⽂化⼜は分野のステークホルダーと対話した 上で、⽅針を決定する 4) プライバシー保護 各主体は、AI システム・サービスの開発・提供・利⽤において、その重要性に応じ、プライバシーを尊重 し、保護することが重要である。その際、関係法令を遵守すべきである。 ① AI システム・サービス全般におけるプライバシーの保護  個⼈情報保護法30等の関連法令の遵守、各主体のプライバシーポリシーの策定・公表等によ り、社会的⽂脈及び⼈々の合理的な期待を踏まえ、ステークホルダーのプライバシーが尊重さ れ、保護されるよう、その重要性に応じた対応を取る  27 以下の事項を考慮しつつ、プライバシー保護のための対応策を検討する  個⼈情報保護法にもとづいた対応の確保  国際的な個⼈データ保護の原則及び基準の参照31 ⼤規模⾔語モデルを始めとする⽣成 AI では、AI 利⽤者は、コンテキスト内学習と呼ばれる学習⽅法により、学習済パラメータを更新することな く、AI 利⽤者の⼊⼒（プロンプトと呼ばれる）に応じて、特定のタスクに対する学習を⾏わせることが可能である。 28 必要な対策については、前掲脚注 15 を参照。 29 潜在的なバイアスの例として、⼈種や性別等の明らかなセンシティブ属性を取り除いたデータであっても、関連する情報からセンシティブ属性が類 推されてしまう場合や、複数の属性の組み合わせによってバイアスが⽣じてしまう場合（交差バイアス）などがある。 30 個⼈情報保護法については、個⼈情報保護委員会において、いわゆる 3 年ごと⾒直しに関する検討が進められている。その中で、AI 開発等を 含む統計作成等のみを⽬的とした取り扱いを実施する場合の本⼈同意の在り⽅等が検討されている。 https://www.ppc.go.jp/personalinfo/3nengotominaoshi/ （2025 年２⽉公表資料︓https://www.ppc.go.jp/files/pdf/seidotekikadainitaisurukangaekatanitsuite_r6.pdf） 31 OECD, Recommendation of the Council concerning Guidelines Governing the Protection of Privacy and Transborder Flows of Personal Data, OECD/LEGAL/0188, ISO/IEC 29100:2011 Information technology Security techniques Privacy framework 等プライ バシーに関する国際的な指針を踏まえることが期待される。また、より広範囲での個⼈データの円滑な越境移転及び各国における規律の相互運 ⽤性を促進させる等の⽬的で Global Cross-Border Privacy Rules （CBPR） Forum が⽴ち上がっており、⽇本も 2022 年 4 ⽉に参加し、 Global CBPR Framework を公表している。また、⽣成 AI に関しては、G7 データ保護プライバシー機関ラウンドテーブル会合による「⽣成 AI に関 する声明」（2023 年 6 ⽉）及び GPA（Global Privacy Assembly）による「⽣成 AI システムに関する決議」（2023 年 10 ⽉）も参照。 17 5) セキュリティ確保 各主体は、AI システム・サービスの開発・提供・利⽤において、不正操作によって AI の振る舞いに意図 せぬ変更⼜は停⽌が⽣じることのないように、セキュリティを確保することが重要である。 ① AI システム・サービスに影響するセキュリティ対策32  AI システム・サービスの機密性・完全性・可⽤性を維持し、常時、AI の安全安⼼な活⽤を確 保するため、その時点での技術⽔準に照らして合理的な対策を講じる  AI システム・サービスの特性を理解し、正常な稼働に必要なシステム間の接続が適切に⾏われ ているかを検討する  推論対象データに微細な情報を混⼊させることで関連するステークホルダーの意図しない判断 が⾏われる可能性を踏まえて、AI システム・サービスの脆弱性を完全に排除することはできない ことを認識する ② 最新動向への留意  AI システム・サービスに対する外部からの攻撃は⽇々新たな⼿法が⽣まれており、これらのリスク に対応するための留意事項を確認する 6) 透明性33 各主体は、AI システム・サービスの開発・提供・利⽤において、AI システム・サービスを活⽤する際の社 会的⽂脈を踏まえ、AI システム・サービスの検証可能性を確保しながら、必要かつ技術的に可能な範囲 で、ステークホルダーに対し合理的な範囲で情報を提供することが重要である。 ① 検証可能性の確保  AI の判断にかかわる検証可能性を確保するため、データ量⼜はデータ内容に照らし合理的な 範囲で、AI システム・サービスの開発過程、利⽤時の⼊出⼒等、AI の学習プロセス、推論過 程、判断根拠等のログを記録・保存する  ログの記録・保存にあたっては、利⽤する技術の特性及び⽤途に照らして、事故等の原因究 明、再発防⽌策の検討、損害賠償責任要件の⽴証上の重要性等を踏まえて、記録⽅法、 32 詳細な⼿法については、 英国サイバーセキュリティセンター（NCSC）「セキュアな AI システム開発のためのガイドライン （Guidelines for secure AI system development） 」 （2023 年 11 ⽉）が公開されている。 https://www8.cao.go.jp/cstp/stmain/20231128ai.html 33 透明性については、諸外国でも様々な定義がある。例えば、NIST,Artificial Intelligence Risk Management Framework（January 2023）では、透明性（システムで何が起きたかについて答えられること）、説明可能性（システムでどのように決定がなされたかについて答えられる こと）及び解釈可能性（なぜその決定がされたかについてその意味⼜は⽂脈について答えられること）に分類されており、European Commission, ETHICS GUIDELINES FOR TRUSTWORTHY AI （April 2019）では、トレーサビリティ、説明可能性及びコミュニケーションが取り 上げられている。また、国際標準(ISO/IEC JTC1/SC42)では、透明性（適切な情報が関係者に提供されること）と定義されている。その他に EU, AI 法（Artificial Intelligence Act）（June 2024）において透明性とは、AI システムが適切な追跡可能性と説明可能性を実現する⽅ 法で開発及び利⽤され、⼈間が AI システムで通信⼜は対話していることを認識できるようにし、AI システムの機能と限界について利⽤者に適切に 開⽰し、影響を受ける⼈間に対して権利について説明することを意味する。本⽂書では、情報開⽰に関する事項を広く「透明性」とする。なお定 義のほか、開⽰対象者や開⽰主体、開⽰⽬的が諸外国によって異なることにも留意する。 18 頻度、保存期間等について検討する ② 関連するステークホルダーへの情報提供  AI との関係の仕⽅、AI の性質、⽬的等に照らして、それぞれが有する知識及び能⼒に応じ、 例えば、以下について取りまとめた情報の提供及び説明を⾏う  AI システム・サービス全般  AI を利⽤しているという事実及び活⽤している範囲  データ収集及びアノテーションの⼿法  学習及び評価の⼿法  基盤としている AI モデルに関する情報  AI システム・サービスの能⼒、限界及び提供先における適正/不適正な利⽤⽅法  AI システム・サービスの提供先、AI 利⽤者が所在する国・地域等において適⽤され る関連法令等  多様なステークホルダーとの対話を通じて積極的な関与を促し、社会的な影響及び安全性に 関する様々な意⾒を収集する  加えて、実態に即して、AI システム・サービスを提供・利⽤することの優位性、それに伴うリスク等 を関連するステークホルダーに⽰す ③ 合理的かつ誠実な対応  上記の「②関連するステークホルダーへの情報提供」は、アルゴリズム⼜はソースコードの開⽰を 必ずしも想定するものではなく、プライバシー及び営業秘密を尊重して、採⽤する技術の特性 及び⽤途に照らし、社会的合理性が認められる範囲で実施する（ただし、後掲する 「④関連 するステークホルダーへの説明可能性・解釈可能性の向上」や『７）アカウンタビリティ』の要請 を満たす必要がある） ④  公開されている技術を⽤いる際には、それぞれ定められている規程に準拠する  開発した AI システムのオープンソース化にあたっても、社会的な影響を検討する 関連するステークホルダーへの説明可能性・解釈可能性の向上  関連するステークホルダーの納得感及び安⼼感の獲得、また、そのための AI の動作に対する証 拠の提⽰等を⽬的として、説明する主体がどのような説明が求められるかを分析・把握できるよ う、説明を受ける主体がどのような説明が必要かを共有し、必要な対応を講じる 7)  AI 提供者︓AI 開発者に、どのような説明が必要となるかを共有する  AI 利⽤者︓AI 開発者・AI 提供者に、どのような説明が必要となるかを共有する アカウンタビリティ34 各主体は、AI システム・サービスの開発・提供・利⽤において、トレーサビリティの確保、「共通の指針」の 対応状況等について、ステークホルダーに対して、各主体の役割及び開発・提供・利⽤する AI システム・サ 34 アカウンタビリティを説明可能性と定義することもあるが、本ガイドラインでは情報開⽰は透明性で対応することとし、アカウンタビリティとは AI に関 する事実上・法律上の責任を負うこと及びその責任を負うための前提条件の整備に関する概念とする。 19 ービスのもたらすリスクの程度を踏まえ、合理的な範囲でアカウンタビリティを果たすことが重要である。 ① トレーサビリティの向上  データの出所、AI システム・サービスの開発・提供・利⽤中に⾏われた意思決定等について、技 術的に可能かつ合理的な範囲で追跡・遡求が可能な状態を確保する ② 「共通の指針」の対応状況の説明  「共通の指針」の対応状況について、ステークホルダー（サプライヤーを含む）に対してそれぞれ が有する知識及び能⼒に応じ、例えば以下の事項を取りまとめた情報の提供及び説明を定期 的に⾏う   全般  「共通の指針」の実践を妨げるリスクの有無及び程度に関する評価  「共通の指針」の実践の進捗状況 「⼈間中⼼」関連  偽情報等への留意、多様性・包摂性、利⽤者⽀援及び持続可能性の確保の対 応状況  「安全性」関連  AI システム・サービスに関する既知のリスク及び対応策、並びに安全性確保の仕組 み  「公平性」関連  AI モデルを構成する各技術要素（学習データ、AI モデルの学習過程、AI 利⽤者 ⼜は業務外利⽤者が⼊⼒すると想定するプロンプト、AI モデルの推論時に参照する 情報、連携する外部サービス等）によってバイアスが含まれうること  「プライバシー保護」関連  AI システム・サービスにより⾃⼰⼜はステークホルダーのプライバシーが侵害されるリス ク及び対応策、並びにプライバシー侵害が発⽣した場合に講ずることが期待される措 置  「セキュリティ確保」関連  AI システム・サービスの相互間連携⼜は他システムとの連携が発⽣する場合、その 促進のために必要な標準準拠等  AI システム・サービスがインターネットを通じて他の AI システム・サービス等と連携する 場合に発⽣しうるリスク及びその対応策 ③ 責任者の明⽰  ④ 各主体においてアカウンタビリティを果たす責任者を設定する 関係者間の責任の分配  関係者間の責任について、業務外利⽤者も含めた主体間の契約、社会的な約束（ボランタリ ーコミットメント）等により、責任の所在を明確化する ⑤ ステークホルダーへの具体的な対応 20  必要に応じ、AI システム・サービスの利⽤に伴うリスク管理、安全性確保のための各主体の AI ガバナンスに関するポリシー、プライバシーポリシー等の⽅針を策定し、公表する（社会及び⼀ 般市⺠に対するビジョンの共有、並びに情報発信・提供を⾏うといった社会的責任を含む）  必要に応じ、AI の出⼒の誤り等について、ステークホルダーからの指摘を受け付ける機会を設け るとともに、定期的かつ客観的なモニタリングを実施する  ステークホルダーの利益を損なう事態が⽣じた場合35、どのように対応するか⽅針を策定してこれ を着実に実施し、進捗状況については必要に応じて定期的にステークホルダーに報告する ⑥ ⽂書化36  上記に関する情報を⽂書化して⼀定期間保管し、必要なときに、必要なところで、⼊⼿可能 かつ利⽤に適した形で参照可能な状態とする 各主体が社会と連携して取り組むことが期待される事項は、具体的には、下記のとおり整理される。 8) 教育・リテラシー 各主体は、主体内の AI に関わる者が、AI の正しい理解及び社会的に正しい利⽤ができる知識・リテラ シー・倫理感を持つために、必要な教育を⾏うことが期待される。また、各主体は、AI の複雑性、誤情報と いった特性及び意図的な悪⽤の可能性もあることを勘案して、ステークホルダーに対しても教育を⾏うこと が期待される。37 ① AI リテラシーの確保  各主体内の AI に関わる者が、その関わりにおいて⼗分なレベルの AI リテラシーを確保するため に必要な措置を講じる ② 35 教育・リスキリング 特に、学習データ等の権利者や AI の評価、判断、奨励、⼜は予測等によって不利益を被った者等から問合せや情報開⽰の要望を受けた場 合には、必要な範囲で適切な対応を⾏うことが望ましい。また、裁判所からの開⽰命令等があった場合には、当該命令等に従って必要な⼿続き を取ることが求められる。 36 「⽂書化」については、後から容易に確認可能となるよう適切なツールで記録が残されていれば差し⽀えなく、必ずしも紙媒体や特定の⽂書の 形式による必要はない。 37 経済産業省・IPA は、個⼈の学習及び企業の⼈材確保・育成の指針として DX 時代の⼈材像を「デジタルスキル標準」として整理（2022 年 12 ⽉）。2023 年 8 ⽉に「⽣成 AI 時代の DX 推進に必要な⼈材・スキルの考え⽅」を取りまとめ、指⽰（プロンプト）の習熟、「問いを⽴てる」 「仮説検証する」等の必要性をスキル標準に反映し、2024 年 7 ⽉には、普及する⽣成 AI の影響を踏まえ、新技術への向き合い⽅等を補記とし て追加し、「データ活⽤」「テクノロジー」の学習項⽬例に「⼤規模⾔語モデル・画像⽣成モデル・オーディオ⽣成モデル」等の⽣成 AI 関連の技術を 追加。また、経済産業省は、知的財産権等の権利・利益の保護に⼗分に配慮した、コンテンツ制作における⽣成 AI の適切な利活⽤の⽅向性 を⽰す「コンテンツ制作のための⽣成 AI 利活⽤ガイドブック」を公表（2024 年 7 ⽉）。 https://www.meti.go.jp/policy/mono_info_service/contents/ai_guidebook_set.pdf ・デジタルスキル標準 https://www.meti.go.jp/policy/it_policy/jinzai/skill_standard/main.html ・デジタル時代の⼈材政策に関する検討会 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/index.html また、総務省は今後の⽣活の中で⽣成 AI に触れうる国⺠（初⼼者）向けに、⽣成 AI の基礎知識、⽣成 AI の活⽤場⾯や⼊⾨的な使い⽅、 ⽣成 AI 活⽤時の注意点などを紹介する「⽣成 AI はじめの⼀歩〜⽣成 AI の⼊⾨的な使い⽅と注意点〜」を公表。 https://www.soumu.go.jp/use_the_internet_wisely/special/generativeai/ 21  ⽣成 AI の活⽤拡⼤によって、AI と⼈間の作業の棲み分けが変わっていくと想定されるため、新 たな働き⽅ができるよう教育・リスキリング等を検討する38  様々な⼈が AI で得られる便益の理解を深め、リスクに対するレジリエンスを⾼められるよう、世 代間ギャップも考慮した上での教育の機会を提供する ③ ステークホルダーへのフォローアップ  AI システム・サービス全体の安全性を⾼めるため、必要に応じて、ステークホルダーに対して教育 及びリテラシー向上のためのフォローアップを⾏う 9) 公正競争確保 各主体は、AI を活⽤した新たなビジネス・サービスが創出され、持続的な経済成⻑の維持及び社会課 題の解決策の提⽰がなされるよう、AI をめぐる公正な競争環境の維持に努めることが期待される。 10) イノベーション 各主体は、社会全体のイノベーションの促進に貢献するよう努めることが期待される。 ① ② オープンイノベーション等の推進  国際化・多様化、産学官連携及びオープンイノベーションを推進する  AI のイノベーションに必要なデータが創出される環境の維持に配慮する 相互接続性・相互運⽤性への留意  ⾃らの AI システム・サービスと他の AI システム・サービスとの相互接続性及び相互運⽤性を確 保する  ③ 標準仕様がある場合には、それに準拠する 適切な情報提供  ⾃らのイノベーションを損なわない範囲で必要な情報提供を⾏う 以上の事項に加え、AI 開発者、AI 提供者⼜は AI 利⽤者のそれぞれで重要となる事項は、「表 1. 共通の 指針に加えて主体毎に重要となる事項」のとおり整理される。なお、表の「-」が記載されている箇所は、各主体 による第 2 部 C.「共通の指針」記載の事項にもとづく対応が期待されており、対応不要を意味するものではな い。 なお、特に AI と知的財産権との関係については、AI 開発者、AI 提供者⼜は AI 利⽤者の各主体に期待さ れる取組につき、内閣府「AI 時代の知的財産権検討会 中間とりまとめ」（2024 年 5 ⽉）や⽂化庁著作権 課「AI と著作権に関するチェックリスト＆ガイダンス」（2024 年 7 ⽉）において整理されている。各主体において は、その趣旨を踏まえた対応⽅針を検討することが重要となる。 38 厚⽣労働省の雇⽤政策研究会にて「新たなテクノロジー等を活⽤した労働⽣産性の向上」というテーマで、技術変化を踏まえたキャリア形成や スキル教育について触れられている。 https://www.mhlw.go.jp/stf/shingi/other-syokuan_128950.html 22 以降は「表 1. 「共通の指針」に加えて主体毎に重要となる事項」に記載されている内容（項⽬）を、[ 主 体 – 指針番号） 記載内容. ]のルールにて識別・表記する。  主体は、AI 開発者（AI Developer）、AI 提供者（AI Provider）及び AI 利⽤者（AI Business User）の頭⽂字を⽤い、指針番号及び記載内容の番号は同表に記載の番号にて表記する 例）D-2） i. は AI 開発者の安全性に関する適切なデータの学習についての重要事項を指す 23 表 1. 「共通の指針」に加えて主体毎に重要となる事項 第 2 部. 「共通の指針」に加えて主体毎に重要となる事項 C.共通の指針 第 3 部. AI 開発者 第 4 部. AI 提供者 （D） 1） ① ⼈間の尊厳及び個⼈の⾃律 ⼈間中⼼ ② AI による意思決定・感情の操 第 5 部. AI 利⽤者 （P） - - （U） - 作等への留意 ③ 偽情報等への対策 ④ 多様性・包摂性の確保 ⑤ 利⽤者⽀援 ⑥ 持続可能性の確保 2） ① ⼈間の⽣命・⾝体・財産、精 安全性 神及び環境への配慮 ② 適正利⽤ 3） ⅰ. 適切なデータの学習 i. ⼈間の⽣命・⾝体・財産、精神 ⅱ.⼈間の⽣命・⾝体・財産、 精神及び環境に配慮した開発 ③ 適正学習 ⅲ.適正利⽤に資する開発 ① AI モデルの各構成技術に i. データに含まれるバイアスへの 公平性 含まれるバイアスへの配慮 ② ⼈間の判断の介在 i. 安全を考慮した適正利⽤ 及び環境に配慮したリスク対策 ii. 適正利⽤に資する提供 i. AI システム・サービスの構成及び i. ⼊⼒データ⼜はプロンプトに データに含まれるバイアスへの 含まれるバイアスへの配慮 配慮 ii. AI モデルのアルゴリズム等に 配慮 含まれるバイアスへの配慮 4） ① AI システム・サービス全般にお プライバシー ⅰ. 適切なデータの学習 i. プライバシー保護のための i. 個⼈情報の不適切⼊⼒及び （D-2） i. 再掲） 仕組み及び対策の導⼊ プライバシー侵害への対策 けるプライバシーの保護 保護 5） ii. プライバシー侵害への対策 ① AI システム・サービスに影響す セキュリティ i. セキュリティ対策のための仕組み るセキュリティ対策 確保 ② 最新動向への留意 6） 透明性 i. セキュリティ対策のための仕組み の導⼊ ii. 最新動向への留意 ii. 脆弱性への対応 ① 検証可能性の確保 i. 検証可能性の確保 i. システムアーキテクチャ等の ② 関連するステークホルダーへの ii. 関連するステークホルダーへの 情報提供 i. セキュリティ対策の実施 の導⼊ 情報提供 i. 関連するステークホルダーへの ⽂書化 情報提供 ii. 関連するステークホルダーへの ③ 合理的かつ誠実な対応 情報提供 ④ 関連するステークホルダーへの 説明可能性・解釈可能性の 向上 7） ① トレーサビリティの向上 アカウンタ ② 「共通の指針」の対応状況の ビリティ 説明 i. AI 提供者への「共通の指針」の i. AI 利⽤者への「共通の指針」の 対応状況の説明 i. 関連するステークホルダーへの 対応状況の説明 ii. 開発関連情報の⽂書化 ii. サービス規約等の⽂書化 説明 ii. 提供された⽂書の活⽤及び ③ 責任者の明⽰ 規約の遵守 ④ 関係者間の責任の分配 ⑤ ステークホルダーへの具体的 な対応 ⑥ ⽂書化 - - - - - - - 10） ① オープンイノベーション等の推進 i. イノベーションの機会創造への - - イノベーション ② 相互接続性・相互運⽤性へ 8） ① AI リテラシーの確保 教育・ ② 教育・リスキリング リテラシー ③ ステークホルダーへの 9） フォローアップ 公正競争確保 貢献 の留意 ③ 適切な情報提供 24 D. ⾼度な AI システムに関係する事業者に共通の指針 ⾼度な AI システムに関係する事業者は、広島 AI プロセスを経て策定された「全ての AI 関係者向けの広島 プロセス国際指針」及びその基礎となる「⾼度な AI システムを開発する組織向けの広島プロセス国際指針」を 踏まえ、「共通の指針」に加え、以下を遵守すべきである39。ただし、I）〜 XI）は⾼度な AI システムを開発する AI 開発者にのみ適⽤される内容もあるため、第 3〜5 部に後述のとおり、AI 提供者及び AI 利⽤者は適切な 範囲で遵守することが求められる。 AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、⾼度な AI システムの開発全体を通じ I) て、その導⼊前及び市場投⼊前も含め、適切な措置を講じる（「2）安全性」、「6） 透明性」「7） アカ ウンタビリティ」）  具体的には、レッドチーム40等の様々な⼿法を組み合わせて、多様/独⽴した内外部テスト⼿段を採 ⽤することや、特定されたリスクや脆弱性に対処するための適切な緩和策を実施する  上記テストを⽀援するために、開発中に⾏われた意思決定に関するトレーサビリティを確保するように 努める II) 市場投⼊を含む導⼊後、脆弱性、及び必要に応じて悪⽤されたインシデントやパターンを特定し、緩和す る（「5） セキュリティ確保」、「7） アカウンタビリティ 」）  リスクレベルに⾒合った適切なタイミングで、AI システムの活⽤状況のモニタリングを実施し、それらに対 処するための適切な措置を講じる  他の利害関係者と協⼒して、報告されたインシデントの適切な⽂書化を維持し、特定されたリ スクと脆弱性を軽減することが奨励される III) ⾼度な AI システムの能⼒、限界、適切・不適切な使⽤領域を公表し、⼗分な透明性の確保を⽀援する ことで、アカウンタビリティの向上に貢献する（「6） 透明性」、「7） アカウンタビリティ 」）  データの出所に始まり、どのような意思決定を⾏ったかについて、合理的な説明を⾏い、トレーサビリテ ィを確保するため⽂書化・公表する  関連するステークホルダーが AI システムの出⼒を解釈し、AI 利⽤者や業務外利⽤者が適切に活⽤ できるようにするために、明確で理解可能な形で⽂書化・公表する IV) 産業界、政府、市⺠社会、学界を含む、⾼度な AI システムを開発する組織間での責任ある情報共有 とインシデントの報告に向けて取り組む（「5） セキュリティ確保」、「6） 透明性」、「7）アカウンタビリテ ィ」、「10）イノベーション」） 39 詳細は、G7 デジタル・技術⼤⾂会合（2023 年 12 ⽉）で採択された「広島 AI プロセス G7 デジタル・技術閣僚声明」における「広島 AI プロセ ス包括的政策枠組み」の「II. 全ての AI 関係者向け及び⾼度な AI システムを開発する組織向けの広島プロセス国際指針」を参照。 https://www.soumu.go.jp/menu_news/s-news/01tsushin06_02000283.html 40 攻撃者がどのように対象組織を攻撃するかの観点で、セキュリティへの対応体制及び対策の有効性を確認するチームを意味する。なお、AISI か らレッドチーミング⼿法ガイドが公表されている。 AISI「AI セーフティに関するレッドチーミング⼿法ガイド」（2024 年 9 ⽉） https://aisi.go.jp/effort/effort_framework/guide_to_red_teaming_methodology_on_ai_safety/ 25  具体的には、モニタリング結果の報告書やセキュリティや安全性のリスクに関する関連⽂書等が含ま れる V) 特に⾼度な AI システム開発者に向けた、個⼈情報保護⽅針及び緩和策を含む、リスクベースのアプロー チにもとづく AI ガバナンス及びリスク管理⽅針を策定し、実施し、開⽰する（「4） プライバシー保護」、 「7）アカウンタビリティ」）  適切な場合には、プライバシーポリシーを公表する  AI ガバナンスに関するポリシーや実⾏するための組織を確⽴し、開⽰することが期待される VI) AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内部脅威に対する安全対策を 含む、強固なセキュリティ管理に投資し、実施する（「5）セキュリティ確保」）  情報セキュリティのための運⽤上の対策や適切なサイバー/物理的アクセス制御等も検討する VII) 技術的に可能な場合は、電⼦透かしやその他の技術等、AI 利⽤者及び業務外利⽤者が、AI が⽣成し たコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導⼊ する（「6）透明性」）  具体的には、適切かつ技術的に実現可能な場合、組織の⾼度な AI システムで作成されたコンテン ツ認証及び来歴メカニズムが含まれる  透かし等を通じた特定のコンテンツが⾼度な AI システムで作成されたかどうかを AI 利⽤者及び業務 外利⽤者が判断できるツールや API の開発に努める  AI 利⽤者及び業務外利⽤者が AI システムと相互作⽤していることを知ることができるよう、ラベ リングや免責事項の表⽰等、その他の仕組みを導⼊することが奨励される VIII) 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先 する（「10） イノベーション」）  AI の安全性、セキュリティ、信頼性の向上やリスクへの対処に関する研究が含まれる IX) 世界の最⼤の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されない）に対処するた め、⾼度な AI システムの開発を優先する（「10） イノベーション」）  信頼性のある⼈間中⼼の AI 開発に向けた取組を実施し、同時に業務外利⽤者も含めたリテラシー の向上のための⽀援をする X) 国際的な技術規格の開発を推進し、適切な場合にはその採⽤を推進する（「10） イノベーション」）  電⼦透かしを含む国際的な技術標準とベストプラクティスの開発に貢献し、適切な場合にはそれを利 ⽤し、標準開発組織（SDO）と協⼒する XI) 適切なデータインプット対策を実施し、個⼈データ及び知的財産を保護する（「2） 安全性」、「3） 公 平性」）  有害な偏⾒バイアスを軽減するために、訓練データやデータ収集等、データの質を管理するための適 切な措置を講じることが奨励される  訓練⽤データセットの適切な透明性も⽀援されるべきであり、適⽤される法的枠組みを遵守する 26 XII) ⾼度な AI システムの信頼でき責任ある利⽤を促進し、貢献する（「5） セキュリティ確保」、「8） 教育・ リテラシー」）  ⾼度な AI システムが特定のリスク（例えば偽情報の拡散に関するもの）をどのように増⼤させるか、 新たなリスクをどのように⽣み出すか等の課題を含め、各主体及びステークホルダーのリテラシーや認 識等の向上のための機会を提供する  各主体間で連携し、⾼度な AI システムに関する新たなリスクや脆弱性を特定し、対処するための情 報共有を⾏うことが奨励される E. AI ガバナンスの構築 各主体間で連携しバリューチェーン全体で「共通の指針」を実践し AI を安全安⼼に活⽤していくためには、AI に関するリスクをステークホルダーにとって受容可能な⽔準で管理しつつ、そこからもたらされる便益を最⼤化する ための、AI ガバナンスの構築が重要となる。また、「Society 5.0」を実現するためには、サイバー空間とフィジカル 空間を⾼度に融合させたシステム（CPS）の社会実装を進めつつ、その適切な AI ガバナンスを構築することが 不可⽋である。CPS を基盤とする社会は、複雑で変化が速く、リスクの統制が困難であり、こうした社会の変化 に応じて、AI ガバナンスが⽬指すゴールも常に変化していく。そのため、事前にルール⼜は⼿続が固定された AI ガバナンスではなく、企業・法規制・インフラ・市場・社会規範といった様々なガバナンスシステムにおいて、「環 境・リスク分析」「ゴール設定」「システムデザイン」「運⽤」「評価」といったサイクルを、マルチステークホルダーで継 続的かつ⾼速に回転させていく、「アジャイル・ガバナンス」の実践が重要となる41。 なお、具体的な検討にあたっては開発・提供・利⽤予定の AI のもたらすリスクの程度及び蓋然性、並びに各 主体の資源制約に配慮することが重要である。 ① まず、AI システム・サービスがライフサイクル全体においてもたらしうる便益/リスク、開発・運⽤に関する 社会的受容、「外部環境の変化」、AI 習熟度等を踏まえ、対象となる AI システム・サービスに関連 する「環境・リスク分析」を実施する ② これを踏まえ、AI システム・サービスを開発・提供・利⽤するか否かを判断し、開発・提供・利⽤する 場合には、AI ガバナンスに関するポリシーの策定等を通じて「AI ガバナンス・ゴール42の設定」を検討す る。なお、この AI ガバナンス・ゴールは、各主体の存在意義、理念・ビジョンといった経営上のゴールと 整合したものとなるように設定する 41 別添（付属資料）において、経済産業省「AI 原則実践のためのガバナンス・ガイドライン Ver. 1.1」を⼟台とした、AI ガバナンス実践のための 詳細解説に加え、各主体の具体的な取組事項としての「⾏動⽬標」及び各主体を想定した仮想的な「実践例」も記載しているため、ご参照のこ と。 42 AI ガバナンス・ゴールとして、本ガイドラインに記載の「共通の指針」への対応事項からなる⾃社の取組⽅針（「AI ポリシー」等、呼称は各主体に より相違）及び「共通の指針」への対応事項を包含しつつそれ以外の要素を含む取組⽅針 （データ活⽤ポリシー等） を設定すること等が考えら れる。AI を活⽤することによって多様性・包摂性を向上させる等の便益を⾼めるための指針を提⽰してもよい。また、呼称も各主体に委ねられてい る。 27 ③ 更に、この AI ガバナンス・ゴールを達成するための「AI マネジメントシステムの設計」を⾏った上で、これ を「運⽤」する。その際には、各主体が、AI ガバナンス・ゴール及びその運⽤状況について外部の「ステ ークホルダーに対する透明性、アカウンタビリティ（公平性等）」を果たすようにする ④ その上で、リスクアセスメント等をはじめとして、AI マネジメントシステムが有効に機能しているかを継続 的にモニタリングし、「評価」及び継続的改善を実施する ⑤ AI システム・サービスの運⽤開始後も、規制等の社会的制度の変更等の「外部環境の変化」を踏ま え、再び「環境・リスク分析」を実施し、必要に応じてゴールを⾒直す 図 6. アジャイル・ガバナンスの基本的なモデル また、AI ガバナンスの検討にあたっては、バリューチェーンを念頭に置き、以下の点に留意することが重要であ る。  バリューチェーン/リスクチェーンの観点で主体間の連携を確保する  複数主体にまたがる論点の例︓AI リスク把握、品質の向上、各 AI システム・サービスが相互に 繋がること（System of Systems）による新たな価値の創出、AI 利⽤者⼜は業務外利⽤者 のリテラシー向上等  主体間で整理が必要になりうる点の例︓学習及び利⽤に⽤いるデータ・⽣成された AI モデル に関する権利関係の契約等  データの流通をはじめとしたリスクチェーンの明確化、並びに開発・提供・利⽤の各段階に適したリスク 管理及び AI ガバナンス体制の構築を実施する  AI 開発からサービス実施にわたるバリューチェーン/リスクチェーンが複数国にまたがることが想定さ れる場合、データの⾃由な流通（Data Free Flow with Trust、以下、「DFFT」という）の確 保のための適切な AI ガバナンスに係る国際社会の検討状況の把握及びそれを踏まえた相互 運⽤性の確保（「標準」及び「枠組み間の相互運⽤性」の⼆側⾯） これらを効果的な取組とするためには、経営層の責任は⼤きく、そのため、リーダーシップを発揮することが重要 である。その際は、短期的な利益の追求の観点から AI ガバナンスの構築を単なるコストと捉えるのではなく、各 28 主体の持続的成⻑及び中⻑期的な発展を志向した先⾏投資として捉えることが重要である。そのリーダーシッ プの下、上記のアジャイル・ガバナンスのサイクルを回しつつ、各組織の戦略及び企業体制に AI ガバナンスを落と し込んでいくことで、各組織の中で⽂化として根付かせることが期待される。 29 第３部 AI 開発者に関する事項 AI 開発者は、AI モデルを直接的に設計し変更を加えることができるため、AI システム・サービス全体において も AI の出⼒に与える影響⼒が⾼い。また、イノベーションを牽引することが社会から期待され、社会全体に与え る影響が⾮常に⼤きい。このため、⾃⾝の開発する AI が提供・利⽤された際にどのような影響を与えるか、事前 に可能な限り検討し、対応策を講じておくことが重要となる。 AI 開発の現場においては、時に、正確性を重視するためにプライバシー⼜は公平性が損なわれたり、プライバ シーを過度に重視して透明性が損なわれたり等、リスク同⼠⼜は倫理観の衝突の場⾯がある。その場合、当該 事業者における経営リスク及び社会的な影響⼒を踏まえ、適宜判断・修正していくことが重要である。また、AI システムにおいて予期せぬ事故が発⽣した際に、AI のバリューチェーンに連なる者は、何らかの説明を求められる ⽴場に⽴つ可能性があることを念頭に置き、AI 開発者としても、どのような関与を⾏ったかについて、合理的な 説明を⾏うことができるよう記録を残すことが重要である43。 以下に AI 開発者にとって重要な事項を挙げる。  データ前処理・学習時  D-2）i. 適切なデータの学習  プライバシー・バイ・デザイン等を通じて、学習時のデータについて、適正に収集するとともに、第 三者の個⼈情報、知的財産権に留意が必要なもの等が含まれている場合には、法令に従って 適切に扱うことを、AI のライフサイクル全体を通じて確保する（「2）安全性」、「4）プライバシ ー保護」、「5）セキュリティ確保」）  学習前・学習全体を通じて、データのアクセスを管理するデータ管理・制限機能の導⼊検討を ⾏う等、適切な保護措置を実施する（「2）安全性」、「5）セキュリティ確保」）  D-3）i. データに含まれるバイアスへの配慮  学習データ、AI モデルの学習過程によってバイアス（学習データには現れない潜在的なバイアス を含む）が含まれうることに留意し、データの質を管理するための相当の措置を講じる（「3） 公平性」）  学習データ、AI モデルの学習過程からバイアスを完全に排除できないことを踏まえ、AI モデルが 代表的なデータセットで学習され、AI システムに不公正なバイアス（特定の個⼈・集団に対し、 合理的に説明できない不利益をもたらすバイアス）がないか点検されることを確保する（「3） 公平性」）  AI 開発時  D-2）ii. ⼈間の⽣命・⾝体・財産、精神及び環境に配慮した開発 AI の開発等にあたり、AI の信頼性を向上させるためのツールや指標のカタログが、OECD により提供されている。 https://oecd.ai/en/catalogue/overview 43 30  ステークホルダーの⽣命・⾝体・財産、精神及び環境に危害を及ぼすことがないよう、以下の事 項を検討する（「2）安全性」）  様々な状況下で予想される利⽤条件下でのパフォーマンスだけでなく、予期しない環境で の利⽤にも耐えうる性能の要求  リスク（連動するロボットの制御不能、不適切な出⼒等）を最⼩限に抑える⽅法の要求 （ガードレール技術等）  D-2）iii. 適正利⽤に資する開発  開発時に想定していない AI の提供・利⽤により危害が発⽣することを避けるため、安全に利⽤ 可能な AI の使い⽅について明確な⽅針・ガイダンスを設定する（「2）安全性」）  事前学習済の AI モデルに対する事後学習を⾏う場合に、学習済 AI モデルを適切に選択する （商⽤利⽤可能なライセンスかどうか、事前学習データ、学習・実⾏に必要なスペック等） （「2）安全性」）  D-3）ii. AI モデルのアルゴリズム等に含まれるバイアスへの配慮  AI モデルを構成する各技術要素（AI 利⽤者⼜は業務外利⽤者が⼊⼒するプロンプト、AI モ デルの推論時に参照する情報、連携する外部サービス等）によってバイアスが含まれうることま で検討する（「3）公平性」）  AI モデルからバイアスを完全に排除できないことを踏まえ、AI モデルが代表的なデータセットで学 習され、AI システムに不公正なバイアスがないか点検されることを確保する（「3）公平性」）  D-5）i. セキュリティ対策のための仕組みの導⼊  AI システムの開発の過程を通じて、採⽤する技術の特性に照らし適切にセキュリティ対策を講 ずる（セキュリティ・バイ・デザイン）（「5）セキュリティ確保」）  D-6）i. 検証可能性の確保  AI の予測性能及び出⼒の品質が、活⽤開始後に⼤きく変動する可能性⼜は想定する精度 に達しないこともある特性を踏まえ、事後検証のための作業記録を保存しつつ、その品質の維 持・向上を⾏う（「2）安全性」、「6）透明性」）  AI 開発後  D-5）ii. 最新動向への留意  AI システムに対する攻撃⼿法は⽇々新たなものが⽣まれており、これらのリスクに対応するため、 開発の各⼯程で留意すべき点を確認する44（「5）セキュリティ確保」）  44 D-6）ii. 関連するステークホルダーへの情報提供 IPA 「AI（Artificial Intelligence）の推進」（https://www.ipa.go.jp/digital/ai/index.html）等を通じて情報を収集することができ る。 31  ⾃らの開発する AI システムについて、例えば以下の事項を適時かつ適切に関連するステークホ ルダーに（AI 提供者を通じて⾏う場合を含む）情報を提供する（「6）透明性」）  AI システムの学習等による出⼒⼜はプログラムの変化の可能性（「1）⼈間中⼼」）  AI システムの技術的特性、安全性確保の仕組み、利⽤の結果⽣じる可能性のある予⾒ 可能なリスク及びその緩和策等の安全性に関する情報（「2）安全性」）  開発時に想定していない AI の提供・利⽤により危害が発⽣することを避けるための AI 開 発者が意図する利⽤範囲（「2）安全性」）  AI システムの動作状況に関する情報並びに不具合の原因及び対応状況（「2）安全 性」）  AI の更新を⾏った場合の内容及びその理由の情報（「2）安全性」）  AI モデルで学習するデータの収集ポリシー、学習⽅法及び実施体制等（「3）公平性」、 「4）プライバシー保護」、「5）セキュリティ確保」）  D-7）i. AI 提供者への「共通の指針」の対応状況の説明  AI 提供者に対して、AI には活⽤開始後に予測性能⼜は出⼒の品質が⼤きく変動する可能 性、想定する精度に達しないこともある旨、その結果⽣じうるリスク等の情報提供及び説明を ⾏う。具体的には以下の事項を周知する（「7）アカウンタビリティ」）  AI モデルを構成する各技術要素（学習データ、AI モデルの学習過程、AI 利⽤者⼜は業 務外利⽤者が⼊⼒すると想定するプロンプト、AI モデルの推論時に参照する情報、連携 する外部サービス等）において含まれる可能性があるバイアスへの対応等（「3）公平 性」）  D-7）ii. 開発関連情報の⽂書化  トレーサビリティ及び透明性の向上のため、AI システムの開発過程、意思決定に影響を与える データ収集及びラベリング、使⽤されたアルゴリズム等について、可能な限り第三者が検証できる ような形で⽂書化する（「7）アカウンタビリティ」） （注） ここで⽂書化されたものをすべて開⽰するという意味ではない 以下に、AI 開発者の取組が期待される事項を挙げる。  D-10）i. イノベーションの機会創造への貢献  可能な範囲で以下の事項を実施し、イノベーションの機会の創造に貢献することが期待される （「10）イノベーション」）  AI の品質・信頼性、開発の⽅法論等の研究開発を⾏う  持続的な経済成⻑の維持及び社会課題の解決策が提⽰されるよう貢献する  DFFT 等の国際議論の動向の参照、AI 開発者コミュニティ⼜は学会への参加の取組等、 国際化・多様化及び産学官連携を推進する  社会全体への AI に関する情報提供を⾏う 32 「⾼度な AI システムを開発する組織向けの広島プロセス国際⾏動規範」における追加的な記 載事項 ⾼度な AI システムを開発する AI 開発者については、上記に加え、「第 2 部 D. ⾼度な AI システムに関係す る事業者に共通の指針」及び「⾼度な AI システムを開発する組織向けの広島プロセス国際⾏動規範」45を遵 守すべきである。 以下、「第 2 部 D. ⾼度な AI システムに関係する事業者に共通の指針」との⽐較において、当該「⾏動規 範」において追加的に記載されている事項を⽰す。なお、当該「⾏動規範」全体の内容については、「別添 3. C. ⾼度な AI システムの開発にあたって遵守すべき事項」を参照のこと。 AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、⾼度な AI システムの開発全体を通じ I. て、その導⼊前及び市場投⼊前も含め、適切な措置を講じる  リスク軽減のための緩和策を⽂書化するとともに、定期的に更新すべき。また、各主体はセクターを超 えた関係者と連携してこれらのリスクへの緩和策を評価し、採⽤すべき II. 市場投⼊を含む導⼊後、脆弱性、及び必要に応じて悪⽤されたインシデントやパターンを特定し、緩和す る  報奨⾦制度、コンテスト、賞品等を通じて、責任を持って弱点を開⽰するインセンティブを与えること の検討を奨励 III. ⾼度な AI システムの能⼒、限界、適切・不適切な使⽤領域を公表し、⼗分な透明性の確保を⽀援する ことで、アカウンタビリティの向上に貢献する  透明性報告書は、使⽤説明書や関連する技術的⽂書等とともに、最新に保たれるべき IV. 産業界、政府、市⺠社会、学界を含む、⾼度な AI システムを開発する組織間での責任ある情報共有と インシデントの報告に向けて取り組む  AI システムの安全性やセキュリティ等を確保するための共有の基準、メカニズムを開発、推進すべき。 加えて、AI のライフサイクル全体にわたって、適切な⽂書化や他の主体との協⼒、関連情報の共有 や社会への報告を実施すべき V. 特に⾼度な AI システム開発者に向けた、個⼈情報保護⽅針及び緩和策を含む、リスクベースのアプロー チにもとづく AI ガバナンス及びリスク管理⽅針を策定し、実施し、開⽰する  可能であれば、AI のライフサイクル全体を通じて、AI リスクを特定・評価・予防・対処するための AI ガ バナンス⽅針を策定・実施・開⽰し、定期的に更新すべき。また、事業者の職員等に対する教育⽅ 針を確⽴すべき VI. AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内部脅威に対する安全対策を 含む、強固なセキュリティ管理に投資し、実施する 45 広島 AI プロセスに関する G7 ⾸脳声明「⾼度な AI システムを開発する組織向けの広島プロセス国際⾏動規範」（2023 年 10 ⽉） なお、同⽂書は⾼度な AI システムにおける動向に対応して、既存の OECD AI 原則にもとづいて構築される living document であることに注意が 必要である。 https://www.mofa.go.jp/mofaj/files/100573472.pdf 33  ⾼度な AI システムのサイバーセキュリティリスクの評価や、適切で安全な環境での作業と⽂書保管の 義務付けをすべき。無許可で公開されるリスク等に対応するための対策、知的財産や企業秘密の保 護と整合性のある強固な内部脅威検知プログラムの確⽴すべき VII. 技術的に可能な場合は、電⼦透かしやその他の技術等、AI 利⽤者及び業務外利⽤者が、AI が⽣成し たコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導⼊ する  透かしや識別⼦を利⽤することに加え、各主体がこの分野の状況を前進させるために協⼒し、研究 に投資すべき VIII. 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先 する  ⺠主的価値の維持や⼈権の尊重、⼦どもや社会的弱者の保護等、リスクに対処するための優先的 な研究、協⼒等を⾏うべき。加えて、環境や気候への影響を含むリスクを積極的に管理し、リスクに 関する研究とベストプラクティスを共有することを奨励 IX. 世界の最⼤の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されない）に対処するた め、⾼度な AI システムの開発を優先する  個⼈や地域社会が AI の利⽤から利益を得るためのデジタル・リテラシーのイニシアティブを⽀援し、⼀ 般市⺠の教育と訓練を促進すべき。また、市⺠社会やコミュニティ・グループとの協⼒により、課題の 特定や解決策を開発すべき X. 国際的な技術規格の開発を推進し、適切な場合にはその採⽤を推進する  国際的な技術標準の開発に加え、AI が⽣成したコンテンツと他のコンテンツを区別できる技術標準を 開発すべき XI. 適切なデータインプット対策を実施し、個⼈データ及び知的財産を保護する  データの質の管理のための適切な対策として、透明性、プライバシー保護のための機械学習や、機密 データ等の漏洩のテストとファインチューニングを含む対策を実施し、著作権で保護されたコンテンツを 含め、プライバシーや知的財産等に関する権利を尊重するために適切なセーフガードの導⼊が奨励さ れる 当該「⾏動規範」の遵守状況を⾼度な AI システムを開発する AI 開発者⾃らが⾃主的に確認し報告する「報 告枠組み」が OECD との協⼒の下、G7 で合意され、2025 年 2 ⽉より運⽤開始されている46。当該「⾏動規 範」を遵守した⾼度な AI システムを開発する AI 開発者は、「報告枠組み」に参加することが期待されている。 46 広島プロセス国際⾏動規範 「報告枠組み」 https://transparency.oecd.ai/ 34 第４部 AI 提供者に関する事項 AI 提供者は、AI 開発者が開発する AI システムに付加価値を加えて AI システム・サービスを AI 利⽤者に提 供する役割を担う。AI を社会に普及・発展させるとともに、社会経済の成⻑にも⼤きく寄与する⼀⽅で、社会に 与える影響の⼤きさゆえに、AI 提供者は、AI の適正な利⽤を前提とした AI システム・サービスの提供を実現す ることが重要となる。そのため、AI システム・サービスに組み込む AI が当該システム・サービスに相応しいものか留 意することに加え、ビジネス戦略⼜は社会環境の変化によって AI に対する期待値が変わることも考慮して、適 切な変更管理、構成管理及びサービスの維持を⾏うことが重要である。 AI システム・サービスを AI 開発者が意図している範囲で実装し、正常稼働及び適正な運⽤を継続し、AI 開 発者に対しては、AI システムが適正に開発されるように求めることが重要である。AI 利⽤者に対しては、AI シス テムの提供及び運⽤のサポート⼜は AI システムの運⽤をしつつ AI サービスを提供することが重要である。提供 に際し、ステークホルダーの権利を侵害せず、かつ社会に不利益等を⽣じさせることがないように留意し、合理的 な範囲でインシデント事例等を含む関連情報の共有を⾏い、より安全安⼼で信頼できる AI システム・サービス を提供することが期待される。 以下に AI 提供者にとって、重要な事項を挙げる。  AI システム実装時  P-2）i. ⼈間の⽣命・⾝体・財産、精神及び環境に配慮したリスク対策  AI 利⽤者を含む関連するステークホルダーの⽣命・⾝体・財産、精神及び環境に危害を及ぼ すことがないよう、提供時点で予想される利⽤条件下でのパフォーマンスだけでなく、様々な状 況下で AI システムがパフォーマンスレベルを維持できるようにし、リスク（連動するロボットの制御 不能、不適切な出⼒等）を最⼩限に抑える⽅法（ガードレール技術等）を検討する（「2） 安全性」）  P-2）ii. 適正利⽤に資する提供  AI システム・サービスの利⽤上の留意点を正しく定める（「2）安全性」）  AI 開発者が設定した範囲で AI を活⽤する（「2）安全性」）  提供時点で AI システム・サービスの正確性・必要な場合には学習データの最新性（データが 適切であること）等を担保する（「2）安全性」）  AI 開発者が設定した AI の想定利⽤環境と AI システム・サービスの利⽤者の利⽤環境に違い 等がないかを検討する（「2）安全性」）  P-3）i. AI システム・サービスの構成及びデータに含まれるバイアスへの配慮  提供時点でデータの公平性の担保及び参照する情報、連携する外部サービス等のバイアスを 検討する（「3）公平性」）  AI モデルの⼊出⼒及び判断根拠を定期的に評価し、バイアスの発⽣をモニタリングする。また、 必要に応じて、AI 開発者に AI モデルを構成する各技術要素のバイアスの再評価、評価結果 35 にもとづく AI モデル改善の判断を促す（「3）公平性」）  AI モデルの出⼒結果を受け取る AI システム・サービス、ユーザーインタフェースにおいて、ビジネス プロセス及び AI 利⽤者⼜は業務外利⽤者の判断を恣意的に制限するようなバイアスが含まれ てしまう可能性を検討する（「3）公平性」）  P-4）i. プライバシー保護のための仕組み及び対策の導⼊  AI システムの実装の過程を通じて、採⽤する技術の特性に照らし適切に個⼈情報へのアクセス を管理・制限する仕組みの導⼊等のプライバシー保護のための対策を講ずる（プライバシー・バ イ・デザイン）（「4）プライバシー保護」）  P-5）i. セキュリティ対策のための仕組みの導⼊  AI システム・サービスの提供の過程を通じて、採⽤する技術の特性に照らし適切にセキュリティ 対策を講ずる（セキュリティ・バイ・デザイン）（「5）セキュリティ確保」）  P-6）i. システムアーキテクチャ等の⽂書化  トレーサビリティ及び透明性の向上のため、意思決定に影響を与える提供する AI システム・サー ビスのシステムアーキテクチャ、データの処理プロセス等について⽂書化する（「6）透明性」）  AI システム・サービス提供後  P-2）ii. 適正利⽤に資する提供  適切な⽬的で AI システム・サービスが利⽤されているかを定期的に検証する（「2）安全 性」）  P-4）ii. プライバシー侵害への対策  AI システム・サービスにおけるプライバシー侵害に関して適宜情報収集し、侵害を認識した場合 等は適切に対処するとともに、再発の防⽌を検討する（「4）プライバシー保護」）  P-5）ii. 脆弱性への対応  AI システム・サービスに対する攻撃⼿法も数多く⽣まれているため、最新のリスク及びそれに対応 するために提供の各⼯程で気を付けるべき点の動向を確認する。また、脆弱性に対応すること を検討する（「5）セキュリティ確保」）  P-6）ii. 関連するステークホルダーへの情報提供  提供する AI システム・サービスについて、例えば以下の事項を平易かつアクセスしやすい形で、 適時かつ適切に情報を提供する（「6）透明性」）  AI を利⽤しているという事実、活⽤している範囲、適切/不適切な使⽤⽅法等（「6） 透明性」）  提供する AI システム・サービスの技術的特性、利⽤によりもたらす結果より⽣じる可能性 のある予⾒可能なリスク及びその緩和策等の安全性に関する情報（「2）安全性」） 36  AI システム・サービスの学習等による出⼒⼜はプログラムの変化の可能性（「1）⼈間中 ⼼」）  AI システム・サービスの動作状況に関する情報、不具合の原因及び対応状況、インシデ ント事例等（「2）安全性」）  AI システムの更新を⾏った場合の更新内容及びその理由の情報（「2）安全性」）  AI モデルにて学習するデータの収集ポリシー、学習⽅法、実施体制等（「3）公平性」、 「4）プライバシー保護」、「5）セキュリティ確保」）  P-7）i. AI 利⽤者への「共通の指針」の対応状況の説明  AI 利⽤者に適正利⽤を促し、以下の情報を AI 利⽤者に提供する（「7）アカウンタビリテ ィ」）  正確性・必要な場合には最新性（データが適切であること）等が担保されたデータの利 ⽤についての注意喚起（「2）安全性」）  コンテキスト内学習による不適切な AI モデルの学習に対する注意喚起（「2）安全 性」）   個⼈情報を⼊⼒する際の留意点（「4）プライバシー保護」） 提供する AI システム・サービスへの個⼈情報の不適切⼊⼒について注意喚起する（「4）プラ イバシー保護」） P-7）ii. サービス規約等の⽂書化  AI 利⽤者⼜は業務外利⽤者に向けたサービス規約を作成する（「7）アカウンタビリティ」）  プライバシーポリシーを明⽰する（「7）アカウンタビリティ」） なお、⾼度な AI システムを取り扱う AI 提供者は、「第 2 部 D. ⾼度な AI システムに関係する事業者に共 通の指針」について以下のように対応する。  I）〜XI） 適切な範囲で遵守すべきである  XII） 遵守すべきである 37 第５部 AI 利⽤者に関する事項 AI 利⽤者は、AI 提供者から安全安⼼で信頼できる AI システム・サービスの提供を受け、AI 提供者が意図し た範囲内で継続的に適正利⽤及び必要に応じて AI システムの運⽤を⾏うことが重要である。これにより業務効 率化、⽣産性・創造性の向上等 AI によるイノベーションの最⼤の恩恵を受けることが可能となる。また、⼈間の 判断を介在させることにより、⼈間の尊厳及び⾃律を守りながら予期せぬ事故を防ぐことも可能となる。 AI 利⽤者は、社会⼜はステークホルダーから AI の能⼒⼜は出⼒結果に関して説明を求められた場合、AI 提供者等のサポートを得てその要望に応え理解を得ることが期待され、より効果的な AI 利⽤のために必要な知 ⾒習得も期待される。 以下に AI 利⽤者にとって、重要な事項を挙げる。  AI システム・サービス利⽤時  U-2）i. 安全を考慮した適正利⽤  AI 提供者が定めた利⽤上の留意点を遵守して、AI 提供者が設計において想定した範囲内で AI システム・サービスを利⽤する（「2）安全性」）  正確性・必要な場合には最新性（データが適切であること）等が担保されたデータの⼊⼒を ⾏う（「2）安全性」）  AI の出⼒について精度及びリスクの程度を理解し、様々なリスク要因を確認した上で利⽤する （「2）安全性」）  U-3）i. ⼊⼒データ⼜はプロンプトに含まれるバイアスへの配慮  著しく公平性を⽋くことがないよう公平性が担保されたデータの⼊⼒を⾏い、プロンプトに含まれ るバイアスに留意して、責任をもって AI 出⼒結果の事業利⽤判断を⾏う（「3）公平性」）  U-4）i. 個⼈情報の不適切⼊⼒及びプライバシー侵害への対策  AI システム・サービスへ個⼈情報を不適切に⼊⼒することがないよう注意を払う（「4）プライバ シー保護」）  AI システム・サービスにおけるプライバシー侵害に関して適宜情報収集し、防⽌を検討する （「4）プライバシー保護」）  U-5）i. セキュリティ対策の実施  AI 提供者によるセキュリティ上の留意点を遵守する（「5）セキュリティ確保」）  AI システム・サービスに機密情報等を不適切に⼊⼒することがないよう注意を払う（「5）セキュ リティ確保」）  U-6）i. 関連するステークホルダーへの情報提供 38  著しく公平性を⽋くことがないよう、公平性が担保されたデータの⼊⼒を⾏い、プロンプトに含ま れるバイアスに留意して AI システム・サービスから出⼒結果を取得する。そして、出⼒結果を事 業判断に活⽤した際は、その結果を関連するステークホルダーに合理的な範囲で情報を提供 する（「3）公平性」、「6）透明性」）  U-7）i.関連するステークホルダーへの説明  関連するステークホルダーの性質に応じて合理的な範囲で、適正な利⽤⽅法を含む情報提供 を平易かつアクセスしやすい形で⾏う（「7）アカウンタビリティ」）  関連するステークホルダーから提供されるデータを⽤いることが予定されている場合には、AI の特 性及び⽤途、データの提供元となる関連するステークホルダーとの接点、プライバシーポリシー等 を踏まえ、データ提供の⼿段、形式等について、あらかじめ当該ステークホルダーに情報提供す る（「7）アカウンタビリティ」）  当該 AI の出⼒結果を特定の個⼈⼜は集団に対する評価の参考にする場合は、AI を利⽤し ている旨を評価対象となっている当該特定の個⼈⼜は集団に対して通知し、当ガイドラインが 推奨する出⼒結果の正確性、公正さ、透明性等を担保するための諸⼿続きを遵守し、かつ⾃ 動化バイアスも鑑みて⼈間による合理的な判断のもと、評価の対象となった個⼈⼜は集団から の求めに応じて説明責任を果たす（「１）⼈間中⼼」、「6）透明性」、「7）アカウンタビリテ ィ」）  利⽤する AI システム・サービスの性質に応じて、関連するステークホルダーからの問合せに対応 する窓⼝を合理的な範囲で設置し、AI 提供者とも連携の上説明及び要望の受付を⾏う （「7）アカウンタビリティ」）  U-7）ii.提供された⽂書の活⽤及び規約の遵守  AI 提供者から提供された AI システム・サービスについての⽂書を適切に保管・活⽤する（「7） アカウンタビリティ」）  AI 提供者が定めたサービス規約を遵守する（「7）アカウンタビリティ」） なお、⾼度な AI システムを取り扱う AI 利⽤者は、「第 2 部 D. ⾼度な AI システムに関係する事業者に共 通の指針」について以下のように対応する。  I）〜XI） 適切な範囲で遵守すべきである  XII） 遵守すべきである 39

参考資料９ Rev. 1.0.0.0019 (2025/5/26) 生成 AI 品質マネジメントガイドライン 第１版 (Revision 1.0.0) 2025 年 5 月 26 日 国立研究開発法人産業技術総合研究所 インテリジェントプラットフォーム研究部門 テクニカルレポート IPRI-TR-2025-01 サイバーフィジカルセキュリティ研究部門 テクニカルレポート CPSEC-TR-2025001 人工知能研究センター テクニカルレポート 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 前書き (Foreword and Disclaimer) 本ガイドラインは、国立研究開発法人産業技術総合研究所（産総研・AIST）が企業・ 大学等の有識者委員と共に構成した「機械学習品質マネジメント検討委員会」において とりまとめたものである。 本ガイドラインの内容に寄与した委員の意見は技術者としての個人の知見に基づく ものであり、各々が所属する会社等の意見を代表するものではない。 本ガイドラインは、生成 AI を利用したシステム・サービスの開発を主導する企業等 が、そのビジネス等への影響を踏まえて主体的にその採用の有無を選択し、共同開発者 等と共に実践するものであって、法令・公的指針等との関係においては非拘束的なもの である。本ガイドライン中で規範的 (normative) とされる規定は、あくまで本ガイドラ インを任意に採用した場合に限り、規範的な意味を持つものである。 This document is distributed on an AS IS BASIS, WITHOUT WARRANTIES OF CONDITIONS OF ANY KIND, either express or implied. ライセンス表示 (Copyright and Licensing) 本ガイドラインの著作権は国立研究開発法人産業技術総合研究所が保有します。国立 研究開発法人産業技術総合研究所は、本ガイドラインの利用を、クリエイティブコモン ズライセンス CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) の下で許可します。 Copyright © 2025 by the National Institute of Advanced Industrial Science and Technology. This document is licensed under the Creative Commons CC BY 4.0 License. To view a copy of the license, visit https://creativecommons.org/licenses/by/4.0/. ii 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 目次 前書き (Foreword and Disclaimer) .......................................................................................... ii 目次 ........................................................................................................................................ iii 1 本ガイドラインの狙い、取扱範囲、構成 ...................................................................... １ 1.1 狙い ........................................................................................................................ １ 1.2 想定読者 ................................................................................................................. ２ 1.3 取扱範囲 ................................................................................................................. ２ 1.3.1 生成 AI のリスクの全体像 .............................................................................. ２ 1.3.2 与えられる要請とその実現手法 ..................................................................... ３ 1.3.3 基盤モデルと基盤モデル利用システム .......................................................... ４ 1.3.4 基盤モデル利用システムに対する立場 .......................................................... ５ 1.4 2 1.4.1 AI 事業者ガイドライン ...................................................................................... ６ 1.4.2 AI セーフティに関するガイド群 ........................................................................ ７ 1.4.3 産総研の機械学習品質マネジメントガイドライン ........................................ ９ 1.5 用語 .................................................................................................................... １０ 1.6 構成 .................................................................................................................... １０ スコープ ..................................................................................................................... １２ 2.1 大規模言語モデルと利用 AI システム................................................................ １２ 2.1.1 生成 AI 利用 AI システム ............................................................................ １２ 2.1.2 マルチモーダル AI システム ....................................................................... １５ 2.1.3 主なコンポーネント ................................................................................... １５ 2.2 3 従来の国内政府系ガイドラインとの関係 .............................................................. ５ 再利用開発モデル............................................................................................... １６ 2.2.1 基盤モデルの利用 ....................................................................................... １７ 2.2.2 LLM の FOR と WITH................................................................................... １７ 2.2.3 USE の役割 ..................................................................................................... １９ 品質マネジメントの考え方 ........................................................................................ ２０ 3.1 LLM 利用 AI システムと品質 ............................................................................ ２０ 3.1.1 総合的な品質 .............................................................................................. ２０ 3.1.2 機能要求としての学習データ ..................................................................... ２１ 3.1.3 システムの仕様 ........................................................................................... ２１ 3.2 LLM 利用 AI システムのデザインと品質 .......................................................... ２２ 3.2.1 システムとコンポーネント......................................................................... ２２ 3.2.2 開発からの品質マネジメント ..................................................................... ２４ 3.3 システムの利用時品質 ....................................................................................... ２５ iii 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 3.4 4 プロンプトと品質 ............................................................................................... ２７ 3.4.1 プロンプトデザインに関わる品質.............................................................. ２７ 3.4.2 LLM の品質の文書化 ..................................................................................... ２８ LLM 利用 AI システムが満たすべき品質 .................................................................. ３０ 4.1 要求満足性 ......................................................................................................... ３１ 4.1.1 機能要求満足性........................................................................................... ３１ 4.1.2 品質要求満足性........................................................................................... ３１ 4.2 信頼性 ................................................................................................................. ３２ 4.2.1 成熟性 ......................................................................................................... ３２ 4.2.2 ロバスト性 .................................................................................................. ３２ 4.2.3 出力一貫性 .................................................................................................. ３３ 4.2.4 進行性 ......................................................................................................... ３４ 4.2.5 可用性 ......................................................................................................... ３４ 4.2.6 耐故障性 ..................................................................................................... ３４ 4.2.7 回復性 ......................................................................................................... ３５ 4.3 インタラクション性 ........................................................................................... ３５ 4.3.1 適切度認識性 .............................................................................................. ３５ 4.3.2 アクセシビリティ ....................................................................................... ３５ 4.3.3 可制御性 ..................................................................................................... ３５ 4.3.4 説明性 ......................................................................................................... ３６ 4.3.5 習得性 ......................................................................................................... ３６ 4.4 セキュリティ ...................................................................................................... ３７ 4.4.1 アクセス制御性........................................................................................... ３７ 4.4.2 介入性 ......................................................................................................... ３８ 4.4.3 真正性 ......................................................................................................... ３８ 4.4.4 責任追跡性 .................................................................................................. ３９ 4.5 安全性 ................................................................................................................. ３９ 4.5.1 入力制限性 .................................................................................................. ４０ 4.5.2 フェイルセーフ性 ....................................................................................... ４０ 4.5.3 否認防止性 .................................................................................................. ４１ 4.5.4 特記事項 ..................................................................................................... ４１ 4.6 プライバシー ...................................................................................................... ４２ 4.7 公平性 ................................................................................................................. ４３ 4.7.1 4.8 4.8.1 特記事項 ..................................................................................................... ４３ 性能効率性 ......................................................................................................... ４４ 時間効率性 .................................................................................................. ４５ iv 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 4.8.2 5 4.9 移植性 ................................................................................................................. ４５ 4.10 保守性 ................................................................................................................. ４５ 4.10.1 モジュール性 .............................................................................................. ４６ 4.10.2 修正性 ......................................................................................................... ４６ 4.10.3 試験性 ......................................................................................................... ４６ データ品質 ................................................................................................................. ４７ 5.1 個々のデータ点の品質観点 ................................................................................ ４７ 5.1.1 正確性 ......................................................................................................... ４８ 5.1.2 完全性 ......................................................................................................... ４８ 5.1.3 一貫性 ......................................................................................................... ４９ 5.1.4 信憑性 ......................................................................................................... ４９ 5.1.5 最新性 ......................................................................................................... ４９ 5.1.6 精度 ............................................................................................................. ５０ 5.1.7 利用性 ......................................................................................................... ５０ 5.1.8 標準適合性 .................................................................................................. ５１ 5.2 データセットの品質観点.................................................................................... ５１ 5.2.1 代表性 ......................................................................................................... ５２ 5.2.2 重複性 ......................................................................................................... ５２ 5.2.3 標本選択性 .................................................................................................. ５２ 5.2.4 一貫性 ......................................................................................................... ５２ 5.2.5 来歴性 ......................................................................................................... ５２ 5.2.6 最新性 ......................................................................................................... ５３ 5.3 6 資源効率性 .................................................................................................. ４５ 複数データセット組み合わせ利用時の品質観点 ............................................... ５３ 5.3.1 文脈整合性 .................................................................................................. ５３ 5.3.2 時制整合性 .................................................................................................. ５４ 5.3.3 操作整合性 .................................................................................................. ５４ LLM 利用 AI システムの品質実現に向けた管理策 ................................................... ５５ 6.1 システム全体 ...................................................................................................... ５５ 6.1.1 要求満足性 .................................................................................................. ５６ 6.1.2 信頼性 ......................................................................................................... ５６ 6.1.3 インタラクション性 ................................................................................... ５７ 6.1.4 セキュリティ .............................................................................................. ５７ 6.1.5 安全性 ......................................................................................................... ５８ 6.1.6 性能効率性 .................................................................................................. ５８ 6.1.7 移植性 ......................................................................................................... ５８ v 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6.2 6.2.1 信頼性 ......................................................................................................... ５８ 6.2.2 保守性 ......................................................................................................... ５９ 6.3 信頼性 ......................................................................................................... ６０ 6.3.2 安全性 ......................................................................................................... ６０ 6.3.3 プライバシー .............................................................................................. ６０ 6.3.4 公平性 ......................................................................................................... ６０ 6.3.5 性能効率性 .................................................................................................. ６１ 6.3.6 移植性 ......................................................................................................... ６１ 6.3.7 学習データ品質........................................................................................... ６１ プロンプトとその周辺 ....................................................................................... ６３ 6.4.1 システムプロンプト .................................................................................... ６３ 6.4.2 プロンプト補完コンポーネント ................................................................. ６５ 6.4.3 データとしてのプロンプト ......................................................................... ６６ 6.5 RAG 関連コンポーネント .................................................................................. ６７ 6.5.1 ファイルデータベース................................................................................ ６８ 6.5.2 ファイル検索コンポーネント..................................................................... ６８ 6.5.3 ファイルデータの品質................................................................................ ７０ 6.6 外部連携コンポーネント.................................................................................... ７１ 6.7 入力フィルター .................................................................................................. ７３ 6.8 出力フィルター .................................................................................................. ７４ 6.9 HMI コンポーネント ......................................................................................... ７５ LLM 利用 AI システムのセキュリティ対策 .............................................................. ７７ 7.1 8 LLM の選定と追加学習 ..................................................................................... ５９ 6.3.1 6.4 7 コンポーネント全般 ........................................................................................... ５８ LLM 利用 AI システムにおけるセキュリティリスクの分析 ............................. ７７ 7.1.1 生成 AI 固有のセキュリティリスクの存在 ................................................ ７７ 7.1.2 注意するべき攻撃界面................................................................................ ７７ 7.1.3 被害の出方の違い ....................................................................................... ７８ 7.1.4 レッドチーミングに対する要請 ................................................................. ７８ 7.1.5 生成 AI の性質に起因するセキュリティリスクの例 .................................. ７９ 7.1.6 セキュリティリスクアセスメントに際して ............................................... ７９ 7.1.7 生成 AI の出力に関する注意事項 ............................................................... ８０ 7.2 セキュリティの品質特性の扱い方 ..................................................................... ８０ 7.3 想定外の情報が出力に混入する事例 ................................................................. ８２ おわりに ..................................................................................................................... ８３ 8.1 今後の改訂の方針............................................................................................... ８３ vi 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 8.2 LLM エージェントについて .............................................................................. ８３ 付録 1 大規模言語モデルの特徴.................................................................................... ８４ A1.1 大規模言語モデルの仕組み ............................................................................ ８４ A1.1.1 確率モデル .................................................................................................. ８４ A1.1.2 訓練学習 ..................................................................................................... ８４ A1.1.3 出力生成 ..................................................................................................... ８５ A1.1.4 基盤モデルとしての LLM .......................................................................... ８６ A1.1.5 学習アーキテクチャ ................................................................................... ８７ A1.2 大規模言語モデルの特徴 ................................................................................ ８８ A1.2.1 経験的な知見 .............................................................................................. ８８ A1.2.2 ハルシネーション ....................................................................................... ９２ A1.2.3 アラインメント ........................................................................................... ９３ A1.2.4 訓練データ記憶........................................................................................... ９４ A1.2.5 学習コーパスの来歴 ................................................................................... ９５ A1.3 プロンプトによる制御.................................................................................... ９６ A1.3.1 プロンプトの役割 ....................................................................................... ９６ A1.3.2 プロンプトエンジニアリング ..................................................................... ９７ A1.3.3 外部情報の利用........................................................................................... ９８ A1.4 基盤モデルとしての LLM（再考）................................................................ ９９ A1.4.1 ファインチューニング................................................................................ ９９ A1.4.2 オープンなデータセット整備 ..................................................................１００ 付録 2 大規模言語モデル利用ソフトウェアシステム ................................................１０２ A2.1 エンジニアリングの工夫 .............................................................................１０２ A2.2 コンポーネント開発 ....................................................................................１０３ A2.2.1 トリプレットパターン .............................................................................１０３ A2.2.2 RAG パターン ..........................................................................................１０４ A2.2.3 オープンツールパターン .........................................................................１０５ A2.2.4 システム全体のデザイン .........................................................................１０６ A2.2.5 開発の流れ ...............................................................................................１０７ A2.3 品質特性とコンポーネント .........................................................................１０９ A2.4 品質特性と SQuaRE との関係....................................................................１１０ 付録 3 品質特性と LLM 関連 AI セキュリティ..........................................................１１３ A3.1 デザインからの対策 ....................................................................................１１３ A3.2 プロンプト周辺............................................................................................１１７ 参考文献 .........................................................................................................................１２２ 機械学習品質マネジメント検討委員会メンバーリスト .................................................１２６ vii 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ガイドライン詳細検討タスクフォース メンバーリスト...............................................１２７ viii 1 本ガイドラインの狙い、取扱範囲、構成 本書は、生成 AI の品質マネジメントに関し、ガイドラインを示すものである。これ までにも、産総研は AI の品質マネジメントに関するガイドライン[AIQMv4]を発行して きた。これは機械学習技術により、用途に応じた学習データセットからその特性を学習 させて構築する、識別ないし予測を行う機械学習モデルを核とした AI を対象としたも のである。これに対し、本書は、大規模言語モデルや画像生成モデルなどの生成 AI 1を 対象としている。 1.1 狙い 生成 AI は、テキストや画像など自由度の高いデータを生成して出力することができ る。また多くの場合、入力によって生成 AI が果たす機能を様々に変更することができ る。産総研は、[AIQMv4]の Annex [AIQMv4Annex]において、「新想定と従来想定の違 い」を以下の通り 2 つ示した。新想定が生成 AI に関するもの、従来想定が識別・予測 AI に関するものである。 １） 基盤モデルに基づく AI： 従来想定では機械学習モデルの開発者は最終用途を理解 しており、必要な品質目標を設定して品質マネジメントを行う。新想定では基盤モデ ル開発者は最終用途を決めることができず将来可能性のある幅広い用途向けに基盤 モデルを訓練する。またサービス開発者や提供者は基盤モデル開発には直接関与せ ず、調整フェーズ以降でのみ品質マネジメントを行うことができる。 ２） 訓練データを再現しうる出力： 従来想定では出力させたい値はラベルや予測値で、 あらかじめ取り得る値が分かっており、訓練データを再現する可能性はない。新想定 における出力には訓練データと同等の表現力があり、訓練データを再現しうる。 本書では、これらの違いを含め、生成 AI で新しく生じた新想定への対処策を定める ための考え方を示す。 1 現時点で、生成 AI が用いるモデルと大規模言語モデル、基盤モデル、英語文献に現れる Frontier model, General purpose AI, Advanced AI などは多くの場合同じものを指している。本 書では特に区別する必要がある場合はその旨説明する。それ以外の場合は文脈に応じた表 現を用いる。 １ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 1.2 想定読者 本書が想定する読者は、生成 AI の開発、提供、利用、規制に関わる人々である。中 でも特に、他社製の基盤モデルを用いたシステムの開発と提供に携わる人々である。最 先端の基盤モデルを開発可能な事業者は世界でも限られており、多くの人は出来合いの 基盤モデルを使う立場にあると考えられる。 また、品質マネジメントは開発組織内の内部監査によることがある。品質マネジメン トガイドラインは、開発組織を越えて、第三者監査で利用しても良い。 1.3 取扱範囲 本書の主題は品質マネジメントである。これに対して、リスクマネジメント 2がある。 本書ではこの 2 つの違いを意識した上で、まずリスクマネジメントについて論じ、必要 な場合に品質マネジメントについて補足する。 1.3.1 生成 AI のリスクの全体像 生成 AI の「セーフティ」(safety)に関して、世界各地で関心が高まり、2023 年 11 月 にイギリスで初の AI Safety Summit が開催された。またこれを契機として、英国を筆頭 に米国、日本、シンガポールなど各国で AI Safety Institute (AISI)が設立された。2024 年 5 月にはソウルで 2 回目の AI Safety Summit が開かれた。この時発表された[Bengio 2024] には 13 項目のリスクが示されている(表 1)。 このうち、 「悪意ある利用のリスク」に属するものは本書では詳細には取り上げない。 本書を含め、ガイドラインには強制力がなく、悪意を持つ人々に対しては効力を持たな い。残りのリスク(小項目)はリスクの発生形態によって、2 つのカテゴリーに大別でき る。一つは、単一の AI システムが引き起こすもので、表 1 の小項目のうち、製品機能、 2 大雑把に言うと、品質は与えられた要件の充足度である。リスクは分野によって大きく 分けて 2 つの意味で使われる。金融ではリスクは不確かさ(volatility)であり、プラスにも マイナスにもなる。IT を含めた工学ではリスクはネガティブなもので、発生確率と深刻度 の積で見積もられる。[NIST AI-600-1]では、「発生確率と結果の規模」という表現でプラ スを含めている。品質は要求仕様に有用性を含むが、有用性の不足はリスクとしてはあま り考慮されない。また要求を満たすものが引き起こすネガティブなリスクは品質ではあま り考慮されない。 ２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 公平性、プライバシー、著作権が含まれる。もう一つは AI が普及することで広く社会に 影響が及ぶものであり、制御の喪失、労働市場、二極化、市場独占、環境が含まれる。 本書の今回の版では、前者を主に考慮する。これらの多くは従来のソフトウェアや、識 別・予測 AI の品質を扱う際にも考慮されてきた事項である。また本書の想定読者にと って、生成 AI の製品に関わる上で対策が必須の事項と考えられる。一方、後者につい ては、個別に取り上げることはせず、その可能性があることを踏まえたハイレベルな議 論にとどめる。これらのリスクの中には、労働市場、二極化、市場独占のように、要求 仕様を満たすシステムこそが引き起こすと考えられるリスクがある。これらについては 社会的なガバナンスの一環として考慮されるものとし、本書ではこれ以上は扱わない。 表 1. [Bengio 2024]が挙げたリスクのリスト リスク（大分類） リスク（小分類） 本書での略称 悪意ある利用の 個人向け 虚偽コンテンツによる個人への危害 リスク 虚偽コンテンツ 公共の意見の歪曲と操作 公共の意見操作 サイバー攻撃 サイバー攻撃 デュアルユース科学のリスク デュアルユース 故障に起因する 製品機能に起因するリスク 製品機能 リスク バイアスと代表性不足によるリスク 公平性 制御の喪失 制御の喪失 システミックリ 労働市場のリスク 労働市場 スク グローバルな二極化の助長 二極化 市場独占リスクと単一障害点 市場独占 環境に対するリスク 環境 プライバシーに対するリスク プライバシー 著作権侵害 著作権 1.3.2 与えられる要請とその実現手法 本書では、既に決まった要請があるときにそれをどう実現するかを論じる。社会的な 合意がないことや、あるいは個別の状況に基づいて決める必要があり一概に決められな いことについて、本書は意見を述べない。 ３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 要請はその由来に基づいて以下のように分類できる。それぞれに小分類を示し、その 要請が対処を求めるリスクをかっこ内に添える。 提供者の狙いに由来する要請 有用性、安全性、セキュリティ（製品機能） 社会的合意に由来する要請 法的な要請（プライバシー、著作権） 倫理的要請（公平性） 「提供者の狙いに由来する要請」はシステムを社会に提供する提供者が、提供の狙い を満たすために必要な事項として定めるものである。有用性と安全性は共にこれに属す るが、力点に違いがある （[AIQMv4] 4.2 節、4.3 節を参照）。またセキュリティは攻撃 によって他の要請が充足されなくなるリスクへの対策を求める。これらはすべて、 [Bengio 2024]のリストの中では製品機能に関わる。 一方、「社会的合意に由来する要請」は社会の大方の合意として社会が要求するもの であって、法的拘束力を持つ場合もある。また、この要請は社会（国や文化）によって 異なる。社会によっては一定の社会的要請を法律として明文化している。多くの国では プライバシー、著作権はこれにあたる。また公平性は対処すべきリスクとして多くのガ イドラインで取り上げられているが、何を公平とみなすかについては様々な考え方があ り、社会的に一律の合意がない([AIQMv4]4.4 節、10.1.2 節を参照)。これらについては、 まず要請の内容を用途や利用シナリオにおいて明確にすることが重要である。本書では 要請の内容がどうあるべきかについては意見を述べない。与えられた要請に対してどの ような技術的取扱いが可能かを示す。 1.3.3 基盤モデルと基盤モデル利用システム 本書では、基盤モデルではなく、基盤モデルを利用するシステム（以下、「基盤モデ ル利用システム」と呼ぶ）を品質マネジメント対象とする。本書の想定読者について述 べた通り、多くの人々は出来合いの基盤モデルを使う立場にある。出来合いの基盤モデ ルに対して施せる管理策は限られている。また、基盤モデルは汎用性が高い。用途によ り満たすべき品質の種類や程度は異なる。基盤モデルが果たしうる全ての用途に共通に 必要な品質はごく僅かであり、それらのみを満たしても、個別の用途への適合性は保証 ４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 されない。基盤モデル利用システムは用途が定まっており、満たすべき品質の種類や程 度を詳しく見積もることができる。 1.3.4 基盤モデル利用システムに対する立場 本書では、基盤モデル利用システムの開発者および提供者を主な対象としているが、 開発者や提供者だけでは対処しきれないリスクがある。システムの悪用または誤用によ るリスクの中には、利用者 3に一定の責任や能力を求めないと対処できないものがある。 基盤モデルを自ら作る開発者が実施しうる管理策の中には、出来合いの基盤モデルを利 用する開発者には実施不可能なものがある。そこで、本書では、基盤モデル利用システ ムに対する立場によって、以下のように分けて管理策を述べる。 基盤モデルを利用する開発者および提供者が対処するべき事項 コンポーネント品質、システム品質 基盤モデル開発者が対処するべき事項 学習データ品質、モデル品質 基盤モデル利用システムの利用者が担うべき事項 悪用しない、過度に期待しない、依存しない システムの開発者や提供者は、一般に基盤モデル開発者に対して品質マネジメントの 実施を求める立場にない。そこで、品質に関わる情報を適切に開示している基盤モデル を優先して選択することが重要である。また逆に、システムの利用者に対してはシステ ムの正しい用途や機能の限界を伝達することが重要である。 1.4 従来の国内政府系ガイドラインとの関係 日本の省庁は 2010 年代後半から AI に関するガイドラインをいくつも発行している が、その多くを統合する形で 2024 年に AI 事業者ガイドラインが発行された。また 2024 年初めに AI セーフティ・インスティテュートが発足し、9 月には複数の「ガイド」を 3 AI 事業者ガイドライン[AIGBiz]では「AI 利用者」は事業として AI を利用する企業等で あり、そのため AI の運用を担う場合がある。事業としてではなく AI を利用する主体は 「事業外利用者」と呼んでいる。これに対し本書での「利用者」は他者が開発・運用する AI を利用し、AI の運用には関わらない事業者と、事業外利用者を指す。 ５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 発行した。その中でも AI セーフティに関する評価観点ガイドは幅広い意味でのセーフ ティに関わり AI 品質との関係が深い。これらの文書と本書の関係を図 1 に示す。 図 1 AI 事業者ガイドライン、AI セーフティに関する評価観点ガイド、本書の関係 AI 事業者ガイドラインは事業者の取組みの全体像を経営層に示す。評価観点ガイド は開発・運用における評価観点を開発/品質管理/運用部門の責任者に示す。生成 AIQM ガイドラインは実務者に評価観点に関し必要な水準を実現するための品質マネジメン ト手法を示す。 1.4.1 AI 事業者ガイドライン 経済産業省および総務省は 2024 年に AI 事業者ガイドライン[AIGBiz]を発行した。AI 事業者ガイドラインは AI ガバナンスの統一的な指針を示すものであり、事業として AI に関わる事業者が行うべき取組みを、経営層による方針策定や体制構築から事業部門に よる品質マネジメントまで総合的に示しているが、重点は体制やプロセスの整備にあり、 技術的施策の多くは別添での例示となっている。これに対し、産総研がこれまでに発行 した機械学習品質マネジメントガイドライン[AIQMv4]や、本書は、個別の AI システム の開発や運用を行う中で AI システムの品質を実現する技術的手法を示すものである。 この際、AI 事業者ガイドラインが掲げる 3 つの基本理念と、それに基づく原則のうち、 「各主体が取り組む事項」を前提として踏襲している。 ６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 図 2 AI 事業者ガイドラインの原則と本書の品質項目の対応 AI 事業者ガイドラインが掲げる原則と、本書で扱う品質の対応を図 2 に示す。人間 中心には AI の社会への影響と、AI の利用者や近辺にいる第三者への影響の両方を含む と考えられるが、本書では後者のみ扱う(1.3.2 節)。これには主に、要求満足性、信頼性、 インタラクション性、セキュリティ、安全性、プライバシー、公平性により対応する。 安全性原則には、品質としての信頼性と安全性で対応する。公平性原則には品質として の公平性で、プライバシー保護原則には品質としてのプライバシーで、それぞれ対応す る。セキュリティ確保の原則にも上記の品質が関わるが、本書の第 7 章でまとめて詳述 している。透明性原則には個別の品質ではなく、本書で示す AI 品質マネジメント手法 全体で対応する。アカウンタビリティ、教育・リテラシー、公正競争確保、イノベーシ ョンの各原則は、事業者と社会のかかわりの中で対応するものであり、個別の AI の品 質には対応しない。 1.4.2 AI セーフティに関するガイド群 AI セーフティ・インスティテュートは 2024 年に生成 AI を主な対象として、「AI セ ーフティに関する評価観点ガイド」[AISIeval]と「AI セーフティに関するレッドチーミ ング手法ガイド」[AISIrt]を発行した。これらのガイドと本書は役割が異なるが、対象や AI セーフティの取扱範囲に関して一致している。評価観点ガイドの役割は、AI セーフ ティを実現するために扱うべき評価観点を示すことにあり、レッドチーミング手法ガイ ドの役割は、対象 AI システムに施されたリスクへの対策を攻撃者の視点から評価する ためのレッドチーミング手法を示すことにある。これに対し本書の役割は、対象システ ７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ムの品質実現に必要な対策を示すことにあり、品質を損なう攻撃に対する備えとしてセ キュリティ対策を述べ、その一環としてレッドチーミングの必要性に言及している。 AISI の両ガイドと本書は、LLM を構成要素とする AI システムを対象とする点、およ び、AI セーフティのうち、AI システムがそのシステムのエンドユーザーに直接及ぼし うる影響を取扱範囲とする点で共通している。 図 3 評価観点ガイドの評価観点と本書の品質項目の対応 評価観点ガイドが掲げる評価観点と本書の品質項目の対応を図 3 に示す。評価観点 ガイドが挙げる AI セーフティにおける重要項目との対応も合わせて示した。公平性と プライバシー、セキュリティ、およびデータ品質の観点に対しては、直接対応する品質 項目がある（◎）。ロバスト性の観点には信頼性と安全性の品質項目が対応する（◎）。 検証可能性の観点は AI 品質マネジメント手法全体で確保するものであり、すべての品 質項目が関わる。一方、有害情報、偽誤情報、ハイリスク利用・目的外利用の観点には、 社会への影響と AI の利用者および近辺の第三者への影響があり、本書では後者のみ扱 い（△）、要求満足性、信頼性、インタラクション性、セキュリティ、および安全性の 品質で対応する。また、説明可能性は、本書では機能要件の一種とみなし（〇）、常に 必要なものとは考えない。 ８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 1.4.3 産総研の機械学習品質マネジメントガイドライン これまでに産総研が発行した機械学習品質マネジメントガイドライン[AIQMv4]は識 別や予測を行うシステムを対象としている。そこで扱うモデルは、教師あり学習等の機 械学習手法を用いて、特定の種類の識別や予測を行うように開発されるものである(図 4 の 4)。 これに対し、本書は、大規模言語モデル等の、生成系の基盤モデルを利用する基盤モ デル利用システムを対象としている。生成系の基盤モデルは入力によって様々な機能を 発揮させることができ、 自然言語処理や画像生成等の生成処理に用いられる(図 4 の 1)。 しかし、基盤モデル利用システムとして識別や予測を行うシステムを構築することは 可能である。この場合、汎用の基盤モデルを用いて目的の用途を実施させるための仕組 みについては、本書の記述が役に立つ。一方、テストデータセットの設計やテストの実 施に関しては、従来のガイドラインの記述がそのまま適用できる(図 4 の 2)。 逆に、識別・予測のためのモデルを用いて、特定の生成系機能を実行するシステムを 構築することも、目的とする機能によっては可能と考えられる。この場合、モデル開発 には従来のガイドラインが役に立つ。一方、識別・予測のためのモデルを用いて生成系 機能を実現するには、モデル以外の様々なコンポーネントが必要と考えられ、それらの コンポーネントの開発に関しては、基本的には従来のガイドラインが適用できるが、本 書の記述（第 4 章、第 5 章など）が有用な場合もあり得る(図 4 の 3)。 図 4 従来ガイドラインと本書の関係 ９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 1.5 用語 基本的な用語の説明を示す。 • 識別 AI・予測 AI：入力の特徴量から予め定められた値（離散値・連続値）を出力する 機械学習 AI。モデル訓練に用いた学習データを近似した入出力関数を用いる。 • 生成 AI：確率モデルからのサンプリングによってデータを生成する機械学習 AI。モデ ル訓練に用いた学習データの確率分布を近似した生成モデルを用いる。 • 基盤モデル：さまざまな応用が可能な共通知識を学習した事前訓練済みモデル。特定の 応用機能を持つ後段タスクの開発に利用する。 • 大規模言語モデル：自然言語マルチタスクの知識を学習した生成 AI の基盤モデル。 LLM と略記する。 • プロンプト：生成モデルからデータ（コンテンツ）をサンプリングする際のトリガーと なる入力情報。LLM のコンテンツ生成条件を定める文脈を指定する。 • ハルシネーション：大規模言語モデルが、入力プロンプトが指定する文脈から逸脱した コンテンツ・内容が自己矛盾したコンテンツ・事実に反したコンテンツなどを生成する こと。または、そのような生成コンテンツを指す。 • SQuaRE 品質モデル：システムおよびソフトウェアの品質モデルに関する ISO/IEC な らびに JIS 標準(3.2.1 節参照)。正式名称は「ソフトウェア品質要求と評価」である。 • Retrieval Augmented Generation (RAG)：生成モデルが訓練時に学習していないデータ を、運用時に情報検索によって取得し、生成モデルへの入力の一部として与えることで 生成モデルが取り扱う知識の範囲を補う手法。 • AI ガバナンス：一般には、AI が社会にもたらす便益を最大化し、またリスクを許容可 能なレベルに低減する取り組みのこと。社会から見た広義の AI セーフティと関わる。 1.6 構成 本書の以降の構成を以下に示す。 第 2 章では、本書が想定する LLM 利用 AI システムの構成や開発プロセスを示す。 第 3 章では、LLM 利用 AI システムを対象とする品質マネジメントの考え方のあらま しを示す。 第 4 章では、LLM 利用 AI システムが満たすべき品質項目の一覧を示す。ソフトウェ ア品質体系 SQuaRE にある品質項目をベースに、LLM 利用 AI システム特有の事項を 考慮して拡充したものである。 １０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 第 5 章では、一般にデータが満たすべき品質項目の一覧を示す。これも SQuaRE の 品質項目をベースに拡充したものである。個々のデータ点の品質に加え、データセット が単独で満たすべき品質、さらにデータセット間の関係に関する品質を挙げている。 第 6 章では、LLM 利用 AI システムの品質実現に向けた管理策を示す。第 2 章に示し た LLM 利用 AI システムの構成に沿って、システム全体および各コンポーネントに関 して行うべき管理策を列挙する。また各コンポーネントに関わりの深いデータについて、 そのデータ品質を実現するための管理策も合わせて示す。 第 7 章では、LLM 利用 AI システムのセキュリティマネジメントに関する観点をまと めて述べる。 第 8 章では、終章として今後の課題と計画を示す。 １１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 2 スコープ 本ガイドラインで取り扱う品質マネジメントの対象範囲を示す。 2.1 大規模言語モデルと利用 AI システム 本ガイドラインの対象は生成 AI モデルを中核とするソフトウェアシステムである。 生成 AI モデルとして大規模言語モデル（LLM）を基本とするが、画像や音声を含むマ ルチモーダル生成 AI モデルに共通する範囲を取り扱う。 2.1.1 生成 AI 利用 AI システム 対象は、LLM を利用するアプリケーションのソフトウェアシステムであって、生成 AI モデルの機能を補完するコンポーネント群からなる。図 5 に、対象システムを実現 するアーキテクチャの前提となる情報の流れを示す。以下、生成 AI モデルを LLM と して説明する。 図 5 概念的な情報の流れ 一般に、エンドユーザーが期待するアプリケーション機能の実現に際しては、当該ソ フトウェアシステムが作動する計算機環境の提供機能を活用する。LLM が訓練時に獲 得し内部に保持する内部情報（内部知識）に加えて、外部データを必要に応じて検索し たり、プラグインツールを経由して外部サービスを利用したりする。これらの外部連携 機能を実現する上で、LLM を補完するソフトウェアコンポーネント（LLM 利用ソフト ウェア）が必須となる。 １２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 本ガイドラインは、図 5 が示す構造を持つ様々な LLM 利用アプリケーションにかか わる品質マネジメントを統一的に取り扱う。図 5 で示したアーキテクチャは、以下に 挙げるような様々な LLM 利用アプリケーションに共通して現れる基本構造となってい る。 • 自然言語処理(NLP)アプリケーションシステム 概念的な情報の流れ（図 5）は、エンドユーザーが入力したプロンプトにした がって生成コンテンツを出力するという一般的な方法を想定した。LLM は自然 言語処理（NLP）の能力を持ち、さまざまな NLP サービス機能を簡便に実現 するベースとなる。多種多様なサービスが考えられ、合成（広告コピー生成な ど） 、要約（議事録作成など） 、分類（文書の感情分析など） 、変換（機械翻訳な ど） 、助言（仮想アシスタントなど） 、検索（自律的な Web 検索など）に分類す ることが多い。このような NLP アプリケーションシステムは、エンドユーザー 入力にしたがって適切なコンテンツを生成するものであって、図 5 が示唆する LLM 利用ソフトウェアのアーキテクチャに準じる。 • LLM エージェントシステム LLM エージェントやプランナー等と呼ばれる LLM 強化のリアクティブな基盤 ソフトウェアシステムでは、エンドユーザーによる入力プロンプトの取り扱い が上記とは異なり、また、実現ソフトウェアアーキテクチャが拠り所とする計 算の仕組みが複雑化する。LLM エージェントシステムでは、エンドユーザーが 入力したゴールを達成する手順を生成（プランニング）し、必要な外部サービ スを起動し利用することで、エンドユーザーが期待する機能を実現する。LLM は、ゴール生成・プランニング・外部サービス連携などの機能を実現し、ゴー ル達成に必要な外部サービスのオーケストレーションを担う基本となる。LLM エージェントシステムは、上記のプランニングやオーケストレーションが期待 の振舞いを示すことを保証しなければならない。 LLM 利用ソフトウェア提供の仕方は、２通りあり、エンドユーザーが直接使用する システムあるいは他システムに組み込まれるコンポーネントである。いずれにしても、 LLM ならびに LLM を補完するソフトウェアコンポーネントから構成される。 コラム：LLM エージェントシステム 【LLM エージェントの定義】 LLM 利用 AI システムの一形態であって、ユーザーが 与えた初期ゴールを達成する。特に、多数の外部サービスを適切に組み合わせるオーケ ストレーションを特徴とする。以下の技術からなる。 (1) 宣言的に表現されたゴールを達成する手続き的な処理列合成のプランニング １３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 (2) 個々の処理を実現した分散サービスの実行全体を管理するオーケストレーション 【LLM エージェントシステム】 概念的に、LLM エージェントを、複数のサブシステ ム（LLM 利用 AI システム）が構成する複合的な LLM 利用 AI システムと考える。以下 に概念的な構成の例を示す。 (a) Goal Creation：初期ゴールをプラン生成が可能な情報に具体化する (b) Planning：ゴールを達成するオペレーションの列（プラン）を生成する (c) Execution：外部サービス利用を実現するオペレーションの実行管理を担う (d) Orchestration：(b)と(c)は、実行時に強く結びつきオーケストレーションを実現する。 図 6 概念的 LLM エージェントの構成例 上記の Orchestration の説明から、Planning は実行時に Execution と交互に（インタリ ーブ）作動する動的なプランニングを行う。また、動的生成されたプラン（オペレーシ ョン列）は、外部分散サービスの実行を伴う。以上から、LLM エージェントシステム は、NLP アプリケーションシステムとしての LLM 利用 AI システムが満たす品質特性 に加えて、複数の LLM 利用 AI システム（サブシステム）の連携、動的プランニング、 分散サービス実行管理（オーケストレーション）に関わる品質特性を考慮する必要があ る。 【LLM エージェント・デザインパターン】LLM エージェントシステムは、上記の概念 アーキテクチャを具体化したデザインとして表現される。Auto-GPT（AutoGPT に改称） や HuggingGPT から始まる一連の研究成果を整理し、LLM エージェントシステムを構 成するコンポーネントのデザインパターンを抽出する試み[Liu2024] など、エージェン トのデザインに関する知見整理・共有の取り組みも広がってきた。特定の LLM エージ ェントシステム開発に際しては、システム要求達成という目的から適切なデザインパタ １４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ーンを選び、実行可能なコンポーネントとして実現すれば良い。この方法論は、本ガイ ドラインで想定しているパターンベースのコンポーネント開発（A2.2 節）と同じ考え方 にたつ。 2.1.2 マルチモーダル AI システム システムを構成する生成 AI が、マルチモーダルの場合を含む。テキスト・画像・ビ デオ・音声・時系列などのデータを取り扱う。一般的には、複数種類のデータを同時に 取り扱うことであるが、実際上、テキストを活用することから、マルチモーダル LLM が中心になる。また、LLM では、入力はプロンプトだったが、テキスト以外の種類のデ ータをコンテンツ生成指示に用いることができる。マルチモーダル LLM では入力を総 称してインストラクションと呼ぶことが多い。 2.1.3 主なコンポーネント 生成 AI 利用システムにおける情報の流れとして図 5 を想定した場合、生成 AI 利用 システム （図 5 の LLM 利用ソフトウェア）の主なコンポーネントとして以下のもの が考えられる。ただし、このリストは当面の状況に基づいており、今後の生成 AI 利用 システムの発展により、これ以外のコンポーネントの重要性が増すことは十分考えられ る。 • 基盤モデル • プロンプトとその周辺 • RAG 関連コンポーネント • 外部連携コンポーネント • 入力フィルター • 出力フィルター • HMI コンポーネント これらのコンポーネントの位置づけや役割の詳細は付録 A2.2 に示す。以下では概略 を述べる。 基盤モデルは大規模言語モデル(LLM)や画像生成モデル等の、プロンプトによって 様々な生成系機能を提供する訓練済み学習モデルであって、本書の想定においては他社 製の再利用部品として調達される。 １５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 プロンプトは基盤モデルに特定の機能を発揮させる役割を持つ。基盤モデルに与えら れるプロンプトには、図 5 における入力プロンプトの他、開発時に策定されるシステ ムプロンプトや、次に述べる RAG コンポーネントや外部連携コンポーネントから得ら れた情報を含むことがある。 RAG 関連コンポーネントは Retrieval Augmented Generation 手法により基盤モデルが 持つ内部知識を補い、またこの知識を上書きする役割を持つ。図 5 における外部デー タから、入力プロンプトに関わりの深い情報を検索し、プロンプトに加える。 外部連携コンポーネントは、LLM エージェントシステム(2.1.1 節)等において、基盤 モデルが出力した手順に基づいて外部サービスを利用する役割を持つ。図 5 における プラグインサービスを介して外部サービスを呼び出し、外界に対する操作を行う。また 外部サービスの応答として得られる情報をプロンプトに加える。 入力フィルターは図 5 の入力プロンプトから生成 AI 利用システムの機能や品質に悪 影響を持つものを除去する役割を持つ。外部連携コンポーネントでプラグインツールか ら得られる外部から取得した情報にも適用される。 出力フィルターは基盤モデルの出力から生成 AI 利用システムの出力（図 5 の生成コ ンテンツ）として不要または不適切なものを除去する役割を持つ。外部連携コンポーネ ントでプラグインツールに与えて外部に送出する情報にも適用される。 HMI (Human Machine Interaction)コンポーネントは生成 AI 利用システムとそのユーザ ーのやり取りを担う。図 5 の入力プロンプトの構成要素となる情報をユーザーから受 け取り、また生成コンテンツをユーザーに提示する役割を持つ。LLM エージェントシ ステムやその他複雑な構成と処理の流れを持つシステムでは、処理の流れのかなめとな る数か所で LLM が作成した実施手順やその実行にユーザーが介入する手段を提供する 役割を持つこともある。 2.2 再利用開発モデル 本ガイドラインの対象の LLM 利用 AI システムは、LLM を再利用コンポーネントと して利用する。従来のソフトウェア再利用手法と比較検討することで、LLM 利用 AI シ ステム開発の技術サプライチェーンを見通しよく整理できる。 １６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 2.2.1 基盤モデルの利用 LLM は、自然言語処理の基本的な機能を有する事前訓練済みモデル（Pre-trained Model） である。基盤モデル（Foundation Model）として、さまざまな応用システム構築のベース となる。特定アプリケーション機能の構築では、転移学習の考え方に基づくファインチ ューニング（Fine-tuning）の方法を用いることが多い。応用向けに整備した学習データ を用いて所与の LLM を再訓練するもので、目的とする機械学習タスクに応じて教師あ り学習の方法を用いる。この方法は、訓練済み学習パラメータなど、基盤モデルの LLM に関する詳細な情報を必要とする。詳細情報を公開しない商用 LLM をベースとして、 微調整の方法による再利用を独自で行うことが難しい。 GPT（Generative Pre-trained Transformer）は、文脈内学習に基づく LLM 再利用の方法 を広めた。LLM が、さまざまな自然言語タスクを内在する汎用コンポーネントである とし、入力情報（プロンプト）を工夫することで、期待するコンテンツを生成する。プ ロンプトは、LLM が応答生成する前提条件を与え、この前提条件がコンテンツ生成の 文脈を指定すると考える。LLM は、プロンプトの内容、つまり文脈に基づいて、自身の 振舞いを変更するように見える。特に、プロンプトに少数具体例を与える方法によると、 追加した情報に応じて出力が改善する。そこで、プロンプトが指定する文脈の内容を学 習すると考えて、文脈内学習（In-context Learning）と呼んだ。ファインチューニングの 方法と異なり、機械学習の用語としての「学習」ではない。LLM の詳細情報を公開する 必要がないことから、LLM 利用方法として広まっている。 2.2.2 LLM の FOR と WITH FOR 開発と WITH 開発はソフトウェアの再利用における課題の観点を示す用語であ る[Sindre 1995][中谷 2025、第 12 章]。FOR 開発は「再利用のための(FOR)開発」、WITH 開発は「再利用による(WITH)開発」を指す。 FOR-LLM 開発と WITH-LLM 開発を整理する（図 7）。ここでは、機械学習技術の層 と、それ以外の層(“ソフトウェア”) に分け、全体を４つに区分けした。 １７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 図 7 FOR と WITH の分業 応用目的に沿う期待通りの振舞いを実現するには、LLM 周辺のプログラムを適切に 導入する必要がある。たとえば、訓練データに含まれない情報（データの最新性、組織 内データ）の取り扱い、検索エンジンなど外部サービスとの連携、不適切な出力コンテ ンツのフィルタリングなど、LLM の外側で実現する補完機能を必要とする。LLM を利 用した応用システム開発事例の広がりと共に、周辺で実現する補完機能の整理が進んで いる。 • 「機械学習-FOR 開発」は、機能部品としての LLM の開発で、学習データの整 備から基本的なハルシネーション対策までを含む。機械学習の主要な技術領域 である。マルチモーダル LLM の場合は、取り扱うデータの種類に応じて、用い る学習データと訓練の方法を工夫する。 • 「機械学習-WITH 開発」は、ファインチューニングによる転移学習あるいは文 脈内学習をベースとしてプロンプトを工夫するプロンプトエンジニアリングが ある。マルチモーダル LLM の訓練方法として、ファインチューニングを採用す る場合がある。 • 「ソフトウェア-FOR 開発」は、LLM 利用ソフトウェアの共通機能を実現した コンポーネントフレームワーク開発であり、外部機能を実現したコンポーネン トの提供を目的とする。 • 「ソフトウェア-WITH 開発」は、顧客要求から LLM 利用ソフトウェアシステ ムを構築し、ユーザーに提供可能な最終成果物を得ることである。コンポーネ ントを活用し、応用サービスの目的や顧客要求に応じた個別システム開発にな る。 本ガイドラインは、「機械学習-FOR 開発」を対象としない。「ソフトウェア-WITH 開発」の最終成果物（LLM 利用ソフトウェア）を品質マネジメントの対象とし、当該成 １８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 果物の品質、およびそのために必要なファインチューニングによる「機械学習-WITH 開 発」を論じる。 また、本ガイドラインは、LLM 利用ソフトウェアシステムの開発を対象とする品質 マネジメントを論じることに注意して欲しい。「機械学習-WITH 開発」の要素技術とし て記載されているプロンプトエンジニアリングは、LLM に入力するプロンプトの記述 を工夫する技術の総称であり、当該プロンプトの作成者は多岐にわたる。LLM の利用 の仕方によっては、エンドユーザーがプロンプト作成者となる場合も考えられる。一方、 本ガイドラインは、生成 AI 利用システム（2.1.1 項）開発過程でのプロンプト作成に関 わる品質を論じる。つまり、ビジネスロジックを実現する実体としてのプロンプト（シ ステムプロンプト）を対象とする。エンドユーザーが直接取り扱うプロンプト作成に関 するプロンプトエンジニアリングは、いわばチャットボット利用技術であり、本ガイド ラインの対象外とする。 2.2.3 USE の役割 LLM 利用ソフトウェアの品質マネジメントは、エンドユーザーによるシステム利用 の仕方にも大きく関わる。LLM 利用ソフトウェアでは、入力仕様を明示することが難 しい。入力プロンプトは自然言語テキストであって、「際限のない」柔軟さを持つ。不 適切な状況を導く入力プロンプトを厳密に規定することは困難である。LLM 利用ソフ トウェアシステムのエンドユーザーに、利用の仕方の制限を課す方策として、振舞い制 限（Behavioral Restrictions）あるいは利用法の制限（Usage Restrictions）を導入する。こ れは、一般的、抽象的な表現（社会的倫理的道徳的な負のリスク軽減）にならざるを得 ない。 特定のアプリケーションやサービスを提供する LLM 利用ソフトウェアシステムでは、 当該システムの要求仕様や機能仕様をもとに、USE に課す制限事項「使用する際の指示 （Instruction for Use）」を整理する。LLM の技術的な特徴から、このような情報を包括 的に準備することは難しいため、「ソフトウェア-WITH 開発」の中で、当該 LLM 利用 ソフトウェアシステムの要求仕様や機能仕様をベースに整理する必要がある。また、技 術的に可能な範囲で、運用監視（Runtime Monitor or Human Oversight）を行う。 １９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 3 品質マネジメントの考え方 本ガイドラインの LLM 利用 AI システム品質の基本的な考え方を紹介する。 LLM 利用 AI システムに求められる品質は、従来のソフトウェアにも求められる信頼 性や安全性などの観点と、AI の影響を受ける様々な立場からの要求を反映した社会的・ 倫理的要求を総合したものになる。 従来の識別 AI・予測 AI と異なり、LLM 利用 AI システムでは、核となる LLM の学 習に使われるデータと、システムの機能が直接対応していない。幅広い学習データで訓 練された LLM が提供しうる機能のうち、システムに必要なものを引き出し、不要なも のを抑止することがシステムのコンポーネントの重要な役割となる。これを目標とした コンポーネントの品質マネジメントが、システムの品質マネジメントの主題となる。 コンポーネントの多くは機械学習によらない従来ソフトウェアとして実現されるこ とから、従来ソフトウェアの品質体系 SQuaRE がコンポーネント品質マネジメントの ベースとなる。一方、LLM 利用 AI システムに求められる社会的倫理的要求に応える上 で、公平性やプライバシーなどもコンポーネント品質として考慮することが大切になる。 プロンプトは従来ソフトウェアにも従来 AI にも見られない LLM 利用 AI システム特 有のコンポーネントであり、その品質マネジメントに独特の点が見られる。 3.1 LLM 利用 AI システムと品質 LLM 利用 AI システムは機械学習技術とソフトウェア技術の両面が関わる。 3.1.1 総合的な品質 一般に、ソフトウェアシステムでは、エンドユーザーが期待する要求を、品質を論じ る上での拠り所とする。社会との関わりが大きい AI システムでは、システムを直接利 用するエンドユーザーだけではなく、システム出力結果の影響を被る第３者の期待を考 慮しなければならない。システムの利用時品質を論じる拠り所を定める上で、立場が異 なる利害関係者からみた要求を明らかにする必要がある。高度なソフトウェアシステム に対する品質観点（システムの信頼性や安全性）に加えて、倫理的な観点からの要請（公 ２０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 平性やプライバシー）を加える。さまざまな観点を総合した「信頼される AI（Trustworthy AI） 4」に整理されている。 3.1.2 機能要求としての学習データ 機械学習 AI は、データ利活用を目的とすることから、システム要求の中心をなす機 能要求に対して、従来のソフトウェアシステムと異なる考え方をとる。識別 AI や予測 AI では、モデル訓練に用いた学習データが、暗黙に、訓練済みモデルの機能振舞いを決 めると考える。そこで、モデルが期待する振舞いを示すように、学習データを収集、整 備することが、識別 AI や予測 AI の品質マネジメントの中心課題だった。 本ガイドラインが対象とする LLM 利用 AI システムでは、品質を論じる拠り所が、 従来 AI と大きく変わる。LLM が開発と品質評価の対象（「機械学習-FOR 開発」）で あれば、LLM 訓練に用いる学習データを、２段階に分けて考えることが多い。事前学 習段階は、自然言語処理の汎用的な基盤モデルを得ることを目的とし、可能な限り広い 範囲から構築した学習コーパスを LLM 訓練に用いた。品質を論じる拠り所は、生成し た自然言語テキストの計量言語学上の知見であるが、学習コーパスに依存するという点 で、学習データが暗黙に訓練済みモデルの機能振舞いを決める。事後学習段階は、不適 切な出力を抑制することを目的とした微調整であって、何らかの適切さを基準として構 築されたインストラクション学習データを用いる。品質の評価観点は、不適切さが低減 できているかであり、インストラクション学習データに依存するという点で、学習デー タが暗黙に訓練済みモデルの機能振舞いを決める。 3.1.3 システムの仕様 LLM は、さまざまなアプリケーションサービスの機能要求を満たすと期待できる一 方で、特定機能の実現に必要としない幅広い可能性を持つ。機能振舞いが未知であるよ うな再利用部品をデザインの工夫によって如何に制御するかが、LLM 利用 AI システム 4 世界各地の公的機関[EU 2019][OECD 2019]や AI ベンダーがそれぞれの定義で用いてお り、原典と言えるものはないが、従来のソフトウェア品質に倫理的要請を加えたものとい う点は共通している。2018 年頃から 2021 年の間、さまざまな研究者による議論を経て、 概ね、コンセンサスが得られている。 ２１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 のデザイン上の工夫である 5。LLM が特定の機能振舞いを示すために、どのような入力 を与えればよいかは自明ではない。入力によっては、不要な機能が意図せず実行される 場合もある。LLM が開発対象システムに必要な機能を提供するようにすることが重要 であるが、同時に、不要な機能振舞いを LLM が示すのをできる限り防ぐことも必要で ある。また不要な機能の実行を抑止できなかった場合に、その影響をシステムの出力に 反映させない工夫・出力を阻止する工夫が求められる。 LLM の機能振舞いは学習データで決まることから、訓練時のデータが含まない情報 を反映しない。実務的には、最新のデータを扱えないこと（データ最新性）と社内情報 など利用側データを持たないこと（組織内データ）が課題となる。また、LLM は自身の 実行環境と情報をやり取りできないため、LLM 外部のソフトウェアが提供する機能と の連携も課題となる。LLM 利用 AI システムの開発は、機能要求が与えられたとき、所 与の LLM を使いこなす LLM 外部のソフトウェアを構築し、開発目的を達成すること である。学習データを暗黙の仕様と考える従来の品質マネジメントとは異なり、開発対 象システムの機能要求が品質を考える拠り所となる。 このように、システムに期待する機能仕様が品質の拠り所となることは、従来ソフト ウェアシステムに対する品質の考え方と同じである。 3.2 LLM 利用 AI システムのデザインと品質 エンドユーザーが利用する AI システムとしての品質と、AI システムの内部構造（コ ンポーネントアーキテクチャ）にしたがって評価する品質に分けて考える。 3.2.1 システムとコンポーネント LLM 利用 AI システムは、LLM の振舞いを制御するプロンプトと LLM 外部のソフト ウェアを実現するコンポーネントアーキテクチャという異なる種類の実体からなる。コ ンポーネントアーキテクチャは、構造的には、複数コンポーネントならびにコンポーネ ントを結びつけるコネクターの集まりである。また、コンポーネントは自身を実現する コンポーネントとコネクターに展開可能という点で、階層性を持つ。この階層は分解不 能なプリミティブコンポーネント（実行可能なプログラム）を端とする。 5 LLM を「野生の暴れ馬」に見立て、LLM 利用 AI システムの開発は、期待する機能振舞 いを示すように LLM を「飼い馴らすロデオゲーム」ということがある。 ２２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 最終的な成果物である LLM 利用 AI システムの品質は「システムの利用時品質」と して論じることができる。最上位のコンポーネントは「外部品質」を担い、LLM 利用 AI システムの利用時品質に寄与する。最上位以外のコンポーネントは「内部品質」を担 う。外部品質ならびに内部品質は、コンポーネント階層内における位置付けの違いであ って、品質観点は同じであり「コンポーネント品質」として論じる。つまり、「コンポ ーネント品質」は、「システムの利用時品質」に寄与する技術的な品質マネジメント方 策の対象である。 本ガイドラインは LLM 利用 AI システムを対象とすることから、従来の「ソフトウ ェアおよびシステムの品質モデル（SQuaRE 品質モデル 6）」と「信頼される AI」(3.1.1 節) の品質観点を整合的に組み合わせる。また、LLM 利用 AI システム固有の特徴を追 加する必要がある。たとえば、合成型 NLP アプリケーションシステムや LLM エージェ ントシステムでは、出力のオープン性や計算の仕組みから生じる品質を考慮する。 「 シ ス テ ム の 利 用 時 品 質 」 は 、 た と え ば 、 SQuaRE の 「 利 用 時 の 品 質 モ デ ル （ISO/IEC25010:2011）」をベースとして「AI システムの品質モデル（ISO/IEC 25059:2023） 」を考慮し、LLM 特有の技術的な性質を加味することが考えられる。一方、「コンポ 7 ーネント品質」は、SQuaRE の「製品品質モデル（ISO/IEC 25010:2011）」をベースとし て「AI システムの品質モデル（ISO/IEC 25059:2023）」を考慮し、LLM 特有の技術的な 性質を加味すればよい。また、データが LLM 利用 AI システムの品質に影響すること から、SQuaRE の「データ品質モデル（JIS X 25012:2013）」をベースとして、データセ ット（データの集まり）に関わる技術的な性質を考慮する。 AIQM ガイドライン第４版は、「機械学習要素（訓練済みモデル）」を対象とし、外 部品質ならびに内部品質を機械学習要素に対して定義した。これに対して、本ガイドラ インの対象は LLM 利用 AI システムであり、内部品質ならびに外部品質を論じる対象 は「LLM 外部のソフトウェアのコンポーネント」である。LLM は機械学習要素に対応 し、再利用ソフトウェアコンポーネントである（2.2.2 節ならびに 3.1.3 節参照）。 6 SQuaRE 品質モデルは計測指標を定義しているが、本ガイドラインでは、品質観点を整 理する指針・チェックリストの観点として用いる。 7 ISO/IEC 25059:2023 は、ISO/IEC 25010:2011 をベースとした標準文書である。今後、 ISO/IEC 25019:2023 および ISO/IEC 25010:2023 に合わせて再整備される。 ２３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 3.2.2 開発からの品質マネジメント 品質マネジメントの主題は LLM 利用 AI システムの「コンポーネント品質」である。 開発の流れを整理し、開発成果物の特徴に応じた品質マネジメントの方針を明らかにす る。与えられた要求機能を実現することが基本である一方で、要求を整理する段階では、 期待する機能が実現可能かを確認する必要がある 8。 LLM を利用する場合、期待する機能が LLM によって実現可能か（実現可能性）を確 認する作業では、主に、プロンプトデザインの試行錯誤によってプロンプトを作成する プロトタイピング手法を採用する。このプロトタイピングでは、プロンプトだけでなく、 対象とする LLM 利用 AI システムを実現することになるアーキテクチャやそこで用い られるコンポーネント、例えばファイルデータベースやそこに収めるデータの概形など も同時に検討するが、それらを踏まえて、適切なプロンプトを工夫する。この作業は、 実現可能な機能要求を検討することであり、コンポーネントアーキテクチャのデザイン に先立つ要求獲得・形式化（Requirements Acquisition and Formalization）の一部とみなす ことができる。ラピッドプロトタイピング手法によって、この要求形式化の結果として 得たプロンプトは、開発対象システムの構成要素となる。プログラミング技術によって 実現するコンポーネントではないが、システムを構成するという点で「コンポーネント 品質」に寄与すると考えられる。そこで、プロンプトは品質マネジメントの対象になり、 適切な品質特性を持つことをプロトタイピングの過程で確認する。 LLM 外部のソフトウェアを実現するコンポーネントアーキテクチャのデザインは、 実現可能性が確認された要求機能を実現する。構成するコンポーネントのデザイン過程 で適切な「コンポーネント品質」を持つことを確認する。従来ソフトウェア開発と同様 に、要求機能仕様をベースとする V 字型開発の考え方にしたがって品質マネジメント を実施する。この V 字型開発の最終ステージで、プロンプトならびにコンポーネント アーキテクチャを組み上げた最終成果物である LLM 利用 AI システムに対して、外部 品質としての「コンポーネント品質」を確認する。 8 ソフトウェア工学（要求工学）の標準的な考え方によると、 「要求」はステークホルダー の期待を表す一方、 「要求仕様」は実現可能な要求の仕様表現である。 ２４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 3.3 システムの利用時品質 システムの利用時品質は、ステークホルダーによる評価の視点を整理したもので、実 運用時のシステムに対して評価するエンドツゥエンド（End-to-end）の品質観点である。 SQuaRE ソフトウェア品質要求と評価に関する国際標準の ISO/IEC 25000 シリーズ （SQuaRE）は、利用時の品質モデルを整理している。 ISO/IEC 25010:2011（JIS X25010:2013）は製品品質モデルと共に、エンドユーザーな らびに保守運用者をステークホルダーとする利用時の品質モデルを５つの品質特性と した。また、ISO/IEC 25010:2011 の枠組みにしたがって AI システムの技術的な特徴を 考慮した ISO/IEC 25059:2023（AI システムの品質モデル）がまとめられた。その後、シ ステムの社会への影響が増大することから、組織や公共・社会など第３者をステークホ ルダーに含む ISO/IEC 25019:2023 が策定されるに至った。なお、ISO/IEC 25010:2011 の 製品品質モデルは ISO/IEC 25010:2023 に再整理されている。 以上の流れを図 8 に示す。 図 8 SQuaRE の AI システム対応 ソシオテクノロジーとしての役割が大きい AI システムでは、ステークホルダーが多 岐にわたる。利用時の品質への具体的な期待は、ステークホルダーによって異なり、社 会から見た AI ガバナンスとして、システム開発に関わる品質マネジメントに先立って 論じるべきことである。 ２５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 コラム：X 25010:2013 における利用時の品質モデル ISO/IEC 25010:2011（JIS X25010:2013）は制定時期から推察できるように、従 来のソフトウェアシステムに関わる。ここで５つの品質特性を LLM 利用 AI シ ステムに適用する場合の解釈を示す。 • 有効性は、ステークホルダーが持つ目標達成に LLM 利用 AI システムが貢 献することである。ステークホルダーが示すビジネス上の KPI にしたがっ て、LLM 利用 AI システムの役割を明らかにする。LLM 利用 AI システム の計画・導入・運用に関わる。 • 効率性は、ステークホルダーが持つ目標達成に LLM 利用 AI システムを使 用する際に必要となる利用資源である。LLM 利用 AI システムの計画・導 入・運用に関わる人的資源や LLM 利用 AI システム実行に必要な計算資源 が関わる。 • 満足性は、ステークホルダーの期待する要求を LLM 利用 AI システムが達 成することである。自然言語が HMI となる LLM 利用 AI システムの技術 的な特徴によって全般的な満足性が向上する。 • リスク回避性は、第３者を含むステークホルダーに、AI がもたらす潜在的 な負のリスクを緩和することである。LLM 利用 AI システムが出力したコ ンテンツが、リスクをもたらす内容を含むとき脅威が大きい。何を脅威と するかの決定は、ステークホルダーによる。 • 利用状況網羅性は、想定された状況ならびに想定外の状況で、他の利用時 品質観点（有効性・効率性・満足性・リスク回避性）の前提下で LLM 利用 AI システムを使用できることである。 コラム：ISO/IEC 25019:2023 の品質モデル ISO/IEC 25019:2023 は、AI システムなどのソシオテクノロジーとの親和性か ら、利用時の品質モデルを３つの品質特性に整理した。ISO/IEC 25010:2011 から の大きな変更は、品質特性として社会受容性を明示したことである。 • 便益は、ユーザビリティ・アクセシビリティ・適合性の３つの品質副特性 からなる。ISO/IEC 25010:2011 の有効性を軸に、利用者との関わりから再 構成した内容になっている。 • 安全は、経済的リスクの回避性・健康リスクの回避性・環境や社会的リス クの回避性・人間の生活へのリスクの回避性の４つの品質副特性からなる。 ２６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ISO/IEC 25010:2011 ならびに ISO/IEC 25059:2023 のリスク回避性を再 構成した内容になっている。 • 社会受容性は、経験・信用・遵法・倫理の４つの品質副特性からなる。ソシ オテクノロジーとしての役割に注目し、第３者がシステムを受け入れる条 件を品質特性として整理している。 なお、社会受容性を品質特性としない考え方もある。信頼される AI（Trustworthy AI）（3.1.1 節）では、主体（社会・人）と客体（AI システム）の間に「トラス ト（Trust）」関係が生まれる時に、社会受容性が成立すると考える。トラストに 関わる標準的な理論では、信頼される AI が示す品質を AI システムが満たすこと で、主体が ABI を知覚し、その結果、トラスト関係が生じるとする。ここで、ABI は能力（Ability）・善良さ（Benevolence）・誠実さ（Integrity）である。倫理面や 道徳面の特徴は善良さに寄与する。 3.4 プロンプトと品質 第 4 章と第 5 章で、コンポーネント品質、データ品質の順番で、LLM 利用 AI システ ムの品質観点を論じる。その準備として、プロンプトデザインに関わる品質と再利用コ ンポーネントとしての LLM 品質に対する注意事項を整理する。 3.4.1 プロンプトデザインに関わる品質 プロンプトは、LLM の振舞いを制御する入力情報であり、LLM を応用目的に即して 利用する上での基本である。LLM から、その能力を引き出す条件を明示する工夫とい える。プロンプトデザインは、LLM 利用 AI システム機能要求の実現性と関わる。この 成果物（システムプロンプト）は最終システムに組み込まれたビジネスロジックの中心 として、目的とする LLM 利用 AI システムの中核(2.2.2 節)を担う 9。重要な成果物であ ることから、以下、プロンプトに関わる品質の論点を整理しておく。 プロンプトは自然言語が持つ表現力の大きさや柔軟さを引き継ぐ。散文的な書き方で は、エンジニアリング上、修正性や試験性に劣る。プロンプトデザインでは、プロンプ ト全体を構造化し、プロンプトの段落ごとに計算上の役割を明確化する。ここで、計算 9 先にも述べた通り、プロンプトデザインは野生の暴れ馬（LLM）を飼い慣らすロデオゲ ームである。 ２７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 上の役割とは、自然言語文を計算機上の処理対象と見做したときに、データの役割、処 理ステップ指示の役割、プロンプトをメタ制御する役割（「以降を無視する」等）、な どである。たとえば、エンドユーザー入力プロンプトはデータとしてシステムに取り込 まれた後、メタ制御の働きをするシステムプロンプトの制御下で、処理ステップ指示の 役割を果たす 10、などがある。このような役割に応じて、プロンプトに対する品質を適 切な観点から論じる。 プロンプトは LLM への入力であり、一般に出所の異なるいくつかの要素で構成され る。通常は、システムプロンプトと、エンドユーザー入力プロンプトの組であるが、場 合によっては、外部の連携サービス（他の計算システム）が発生源になる要素を含むこ とがある（2.2.1 節）。そこで、プロンプトの来歴（真正性・信憑性）が重要なことがあ る（5.1 節）。 また、情報セキュリティからの見方を考慮する必要がある。 • 攻撃手段としてのユーザープロンプトという側面 • 保護すべき情報資産としてのシステムプロンプトという側面 前者はサイバーセキュリティと関わり、後者は品質特性としてのセキュリティ（4.4 節・A3.2 節）が関わる。 3.4.2 LLM の品質の文書化 プロンプトは LLM への入力であり、プロンプトが引き起こす LLM の機能振舞いは LLM に依存して総合的に決まる。プロンプトの品質は LLM の品質に依存する。一方、 品質マネジメントの対象になる LLM 利用 AI システムでは、LLM は所与の再利用部品 であり、「機械学習-FOR 開発」の成果物で品質が決まっている。LLM を利用する際に は、多数の候補から、適切な品質の LLM を選択する。その際、LLM は適切な技術情報 を伴わなければならない。LLM 自身だけではなく、訓練に用いた学習コーパス構築に 関わる技術情報を含む。このような情報が AI BOM として標準になれば、適切な LLM 選択が可能になる。 LLM 利用 AI システムの運用時（USE）に障害が生じる場合、損害に対する責任が生 じる。利用した LLM の能力に起因するとき、最終製品の提供者（「ソフトウェア-WITH 10 LISP1.5 で S 式データを関数として評価（eval）するような感じだろうか。 ２８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 開発」）と LLM の提供者（「機械学習-FOR 開発」）の間で責任を分担する。AI BOM が社会的な責任を論じるベースとなる。 現時点（2024 秋）で、AI BOM の標準は定められていない。いくつかの方向から議論 が進んでいる。 • 機械学習技術の民間企業：Model Cards あるいは System Cards • 技術コンソーシアム：Linux Foundation の AI BOM • 規制法の規定：AI-ACT の第 53 条および実践規範(Code of Practice, CoP) また、オープンな技術コミュニティでは、LLM 訓練に関わる技術情報（訓練に用い た学習データ・学習アーキテクチャ・訓練済みモデル・評価データなど）を公開する動 きがある。LLM 利用者から見ると、LLM 利用 AI システムの品質と関わる情報を手軽 に参照できることが望ましい。今後、AI BOM の標準化動向に注視する必要がある。 ２９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 4 LLM 利用 AI システムが満たすべき品質 「コンポーネント品質」は、技術的な品質マネジメント方策の主題である。開発対象 の LLM 利用 AI システムに対するゴール要求を基準として、期待される水準の「コン ポーネント品質」を達成する。 本章に掲げる「コンポーネント品質」は、SQuaRE の「製品品質モデル（JIS X 25010:2013）」を枠組みとして「AI システムの品質モデル（ISO/IEC 25059:2023）」な らびに「製品品質モデル（ISO/IEC25010:2023）」を考慮し、LLM 利用 AI システム特有 の技術的な性質を加味して整理した。品質特性の観点は、SQuaRE モデルに準じるが、 以下に示した各々の品質副特性（4.1 節から 4.10 節）は、LLM 利用 AI システムの技術 的な特徴を考慮して詳細化する。 • 要求満足性 • 信頼性 • インタラクション性 • セキュリティ • 安全性 • プライバシー • 公平性 • 性能効率性 • 移植性 • 保守性 品質観点（品質特性・品質副特性）は LLM 利用 AI システムを構成するコンポーネン ト・デザインの指針となる。概念的な情報の流れ（図 5）を具体化した「NLP アプリケ ーションシステム」ならびに「LLM エージェントシステム」が示すシステムアーキテ クチャに即して、各々の品質観点と強く関わるコンポーネントのデザインを議論する。 本章は、LLM 利用 AI システムやそのコンポーネントに求められる可能性のある品質 観点のカタログであって、ここに掲げたすべての観点での品質を必ず満たすことを求め るものではない。システムやコンポーネントの用途や機能仕様に基づいて、どの品質が 求められるかを判断する必要がある。品質観点にはしばしば相互に関連があり、ある品 質観点でシステムやコンポーネントを改善することが他の品質の改善に役立つことが ある一方、品質観点の間でトレードオフが生じることも多い。さらに、あるシステムや コンポーネントに求められる品質の中には、AI 以前のソフトウェアの品質マネジメン ３０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 トの手法で対処すればよいものもある。第 6 章では、LLM 利用 AI システムにしばしば 求められる品質に関して、LLM 利用 AI システムに強くかかわる管理策を中心に示す。 4.1 要求満足性 要求満足性（Requirements Satisfiability） 11は、LLM 利用 AI システムに期待されるソ フトウェア要求を満たすことである。ソフトウェア要求は機能要求と機能外要求から構 成される。これらに対応する 2 つの品質副特性に分ける。期待されるソフトウェア要求 を満たすように、LLM 利用 AI システムをデザインし開発（構築・検査）する。 4.1.1 機能要求満足性 機能要求満足性（Functional Requirements Satisfiability）は、LLM 利用 AI システムが 所与の機能要求を満たすことである。 • 明示的および暗黙に与えられる機能要求を評価の対象とする。 • LLM 利用 AI システムのエンドツゥエンド（End-to-End）評価であって、明示 的に与えられる機能要求に対して、生成コンテンツの定性的な評価を行う。 • 暗黙に与えられる機能要求には、社会的倫理的な観点からの期待を含む場合が ある。このような暗黙の要求が満足されているかの確認では、想定外の状況下 での評価を実施することを想定する。LLM 利用 AI システムが社会的倫理的な 観点から見て不適切なコンテンツを出力する可能性を技術的に避けることが できないことが前提になることに注意する。所与の機能要求を整理し、構築す る過程で、AI ガバナンスによって、当該の機能要求が社会的倫理的な観点に配 慮していることを前提とする。 • LLM 利用 AI システムに期待されるソフトウェア要求を満たすように、 LLM 利 用 AI システムのデザインを行い、LLM 利用 AI システムを実現するソフトウ ェア成果物（プロンプトや LLM 周辺コンポーネントなど）を開発する。 4.1.2 品質要求満足性 品質要求満足性（Quality Requirements Satisfiability）は、LLM 利用 AI システムが所与 の機能外要求（品質要求）を満たすことである。LLM 利用 AI システムの機能振舞いが、 11 「デザインからの品質」の考え方に基づき、SQuaRE 製品品質モデルの「機能適合性」 を「要求満足性」に拡張した。 ３１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 本ガイドラインの 4.2 節から 4.10 節までに掲げるような規定による品質観点を満たす ことを確認する。機能要求満足性（4.1.1 節）と組になる。 4.2 信頼性 信頼性（Reliability）は、期待される機能を実行すること、つまり、所与の仕様を満た すことである。 • LLM 利用 AI システムに関わる信頼性は、機能要求満足性（5.1.1 項）が参照す る機能要求を実行することである。 • コンポーネントに関わる信頼性は、各コンポーネントに期待される機能を実行 することである。 • 所与の仕様が適切に実現されておらず開発過程で欠陥が混入する場合、信頼性 が劣化する原因となる。また、開発時から利用状況が変化し所与の仕様が適切 でない状況に至る場合、信頼性が満たされなくなる。 4.2.1 成熟性 成熟性（Maturity）12は、想定された作動条件の下で、期待する信頼性を満足すること である。大まかには、所与の機能仕様・デザインを適切に実現していることである。 • 大まかには、検査対象が、所与の機能仕様を実現していることである。動的検 査で確認し、従来からのソフトウェアテスティング技術の方法を用いる。 4.2.2 ロバスト性 ロバスト性（Robustness）は、通常期待する基準データから外れたデータが入力され た時に、基準データが入力された場合と異なる振舞いの度合いに関わる。機械学習特有 のモデルロバスト性と一般のソフトウェアと共通するプログラムロバスト性がある。 • モデルロバスト性は、基準データと評価データを訓練済みモデルに入力した場 合の各々の出力を比較することで、当該モデルのロバスト性を評価することが できる。基本的には、基準データと評価データの違いの度合いが、各々に対す る出力の違いに大きく影響せず、滑らかに変化することである。 12 ISO/IEC 25010:2023 では、Faultlessness に名称変更されている。無欠陥性として良い かどうか、対応する JIS X 規格の出版後に決定する。 ３２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001  基準データからの違いの特徴に応じて、さまざまな評価データを考えるこ とができる。画像では、基準データにノイズ 13を付加して評価データを作 成すればよい。また、評価データの特徴に応じて、モデルロバスト性を細 分化する。特に、敵対データを用いる時は敵対ロバスト性、欠損データを 用いる時は欠損ロバスト性と呼ぶ。  生成モデルのモデルロバスト性では、基準データと評価データの違いの度 合いが、質的に異なる出力を導く場合があることを考慮した評価指標を導 入する。 • プログラムロバスト性は、通常の期待から外れた値のデータが入力された時の プログラム実行状況を対象として考える性質である。機械学習ソフトウェアな ど数値計算が主体のプログラムの場合には入力データ処理に関わる数値精度が 実行に影響することがある（数値精度の影響） 。また、繰り返し実行することで プログラムの実行環境を構成するメモリ等が不正に消費され、以降のプログラ ム実行が円滑に進まないことがある（メモリリークの影響） 。プログラムロバス ト性の劣化は信頼性に影響する。 • 一般には、ロバスト性としてシステムロバスト性を考えることがある。これは、 システムの安定運用に関わり、可用性（4.2.5 項） ・障害許容性（4.2.6 項） ・回 復性（4.2.7 項）で取り扱う。 4.2.3 出力一貫性 出力一貫性（Output Consistency）は、同一入力を繰り返したとき、入力に対する出力 内容（生成コンテンツ）が整合していることである。 • 出力一貫性は、確率的な振舞いを示すコンポーネントに対して考える品質副特 性であり、確率的な振舞いの現れとして顕在化する。 • ある入力データを基準データとする時、モデルロバスト性（4.2.2 節）は基準デ ータと異なる評価データを入力するが、出力一貫性は同一の基準データを繰り 返し入力する場合を評価対象とする品質副特性である。 • 同一入力に対して常に同じ出力を生成する確定的な振舞いのコンポーネントは 出力一貫性を満たす。また、同一入力に対して非決定的な振舞いを示す一方で、 取り得る出力値が予測可能な場合は、出力が異なる場合であっても一連の出力 に整合性があることから、出力一貫性を満たす。一方、LLM はその確率的な振 13 ホワイトノイズ・ガウスノイズなどがある。意味上の正確性に影響する敵対データはセ マンティックノイズを付加したと考える。 ３３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 舞い 14に起因して、同一入力に対して、想定を逸脱するような異なる出力 15が 生成されることがある。 4.2.4 進行性 進行性（Progress）は、コンポーネントの動的な処理過程に関わり、想定外に停止する （デッドロック）、想定外の繰り返し閉路に陥る（ライブロック）といった不適切な状 況に陥らないことである。コンピューティングに関わる性質である。 • 進行性を満たすコンポーネントは、その処理進行過程の全ての状況で想定通り の適切な状況にある（コンピューティングに関わる性質としての安全性） 。 4.2.5 可用性 可用性（Availability）は、期待する使用の状況下で、LLM 利用 AI システムが、意図 した機能振舞いを示し、運用可能なことである。 • システムロバスト性（5.2.2 項）に関係した品質副特性で、LLM 利用 AI システ ムが安定作動することである。その結果、期待されるソフトウェア要求を満た すという点で、機能要求満足性（5.1 節）と関わる。 4.2.6 耐故障性 耐故障性（Fault Tolerance）は、故障にもかかわらず、LLM 利用 AI システムが、意図 したように運用できることである。 • 故障（Failure）は、システムに付随する欠陥が原因となって、システムが期待 と異なる機能振舞いを示す状況である。欠陥（Fault）は、その特徴によって、 偶発的な欠陥・決定論的な欠陥の２つに分類される。 • LLM 利用 AI システムが分散コンピューティング基盤上で作動する場合、ネッ トワーク障害などの偶発的な欠陥が生じる可能性がある。LLM 利用 AI システ ムの LLM 周辺コンポーネントのデザインによって、故障を避ける。 • 一般にソフトウェアシステムでは決定論的な欠陥への対策を講じる。この対策 は成熟性（5.2.1 項）を満たすことであり、素朴には、デザインならびに実現の 14 LLM の確率的な振舞いに関して付録 A1.1.3 および A1.2.2 を参照のこと。 15 例えば、LLM に同じトークンだけを何百回も続けて出力するよう求めると、高確率で その出力の途中で突然訓練データを出力し始める、という報告[Nasr 2023]がある。 ３４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 不具合を事前に除去することである。 4.2.7 回復性 回復性（Resilience）は、LLM 利用 AI システムが、故障によって処理を中断した時に、 直接影響を受けた情報を回復し、システムの状態を復元できることである。 4.3 インタラクション性 インタラクション性（Interaction Capability）16は、期待される状況で、エンドユーザー 自身が想定するように LLM 利用 AI システムを利用できることである。 4.3.1 適切度認識性 適切度認識性（Appropriateness Recognizability）は、エンドユーザーの期待に対して、 LLM 利用 AI システムが適切であるかを、エンドユーザーが事前に認識できることであ る。 4.3.2 アクセシビリティ アクセシビリティ（Accessibility）は、期待される状況で、幅広い範囲の心身特性およ び能力を持つエンドユーザーが LLM 利用 AI システムを利用できることである。 4.3.3 可制御性 可制御性（Controllability）は、LLM 利用 AI システムが運用操作しやすく、制御しや すくする技術的な特性を持つことである。稼働中の LLM 利用 AI システムの動作が外 部から変更可能なことである。 • 「LLM エージェントシステム」 （2.1.1 節）に分類される LLM 利用 AI システ ムは、自律エージェントやプランナーとして機能することから、想定外の動作 を示すことがあり、極端な場合では「暴走」するとも言える。このような LLM 利用 AI システムによる「過剰な代行（Excessive Agency） 」の悪影響を軽減す る必要がある。 16 従来の「使用性」 。最新の議論に合わせて「インタラクション性（仮訳） 」とした。 ３５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 • 可制御性は、運用中に過剰な代行の悪影響が生じた際、外部から LLM 利用 AI システムの動作振舞いを制御できることである。また、信頼性の品質副特性で ある「進行性」 （4.2.4 節）が劣化した場合の制御として、緊急停止を可能にす る。 4.3.4 説明性 説明性（Explicability）は、LLM 利用 AI システムが出力コンテンツを生成した理由に 関わる情報を補って提示できることで、出力した目的コンテンツを正当化（Justification） する情報に関わる 17。 • デザイン上、補う情報源を LLM 利用 AI システムの外部から獲得するか、内部 で生成するかの違いがある。 • 外部情報を補完する方法は、生成理由に関わる情報を外部から獲得し、エンド ユーザーの指示にしたがって提示する。提示する情報の代表的な例として、生 成コンテンツの情報源がある。特に、客観的な事実情報を補うとき、生成コン テンツの「事実性」によって、説明性が向上する。 • 内部情報を活用して補完する方法は、入力から出力に至る推論過程に関わる情 報（内省情報）を整理し提示する。必ずしも「事実性」を保証することではな く、期待の確信レベルを高めることで、説明性を向上する。 • セキュリティの品質副特性である責任追跡性（4.4.4 項）と補完的な役割を果た す。 4.3.5 習得性 習得性（Learnability）は、期待される状況で、エンドユーザーが LLM 利用 AI システ ムを利用しやすいことである。 17 説明可能 AI（Explainable AI）は解釈性と透明性からなる。一方、出力の正当化理由は 弱く、その理由自身の根拠が確からしさに劣ることがある。 ３６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 4.4 セキュリティ 18 セキュリティは、LLM 利用 AI システムが管理する情報を保護することである。具体 的な保護対象をシステムアーキテクチャ（2.1.1 節）に基づいて決める。一般的には、ビ ジネスロジックの役割を担うシステムプロンプト（3.4.1 節）・訓練済み学習モデルの LLM（3.4.2 節）・LLM への入力の一部を構成する外部データ・プラグイン方式で連携 する外部ツール・エンドユーザーが入力するユーザープロンプトなど情報が保護対象と なる。デザインからのセキュリティ（Security by Design）に基づいて、これらの情報を 保護する技術的な方策を講じる。 4.4.1 アクセス制御性 アクセス制御性（Access Control）19は、利用許可条件にしたがって情報を保護し処理 できることである。 • アクセス制御は、概念的には、制御対象の情報（オブジェクト） ・アクセス主体 （サブジェクト） ・処理内容（アクション）で構成される。「オブジェクトに対 してサブジェクトが施すアクション」の許可・不許可をデザインすることで、 オブジェクトを保護する。 • 利用許可条件は、LLM 利用 AI システムの要求からトップダウンに決まるポリ シーとして規定されることがある。期待されるアクセス制御性の実現は、要求 を満足することであり、機能要求満足性（4.1.1 節）と関わる。 • 利用許可条件は、LLM 利用 AI システムを構成するコンポーネントの役割から 決まるポリシーで規定されることがあり、当該ポリシーを反映したデザインに よって、アクセス制御性を満たす。保護対象に、プロンプト（システムプロンプ ト） ・LLM・プラグインサービスがある。  システムプロンプトは、ビジネスロジックの役割を担う。エンドユーザー 入力を契機として LLM への入力の一部を構成する。想定外の漏洩、想定 外の改変を防止することで、システムプロンプトを保護する。  LLM への入力プロンプトには、できる限り信頼できる出元から得たテキ ストのみを含むようにすることで、LLM を保護する。例えば外部連携コン 18 本節では SQuaRE の文脈におけるセキュリティのみを扱う。サイバーセキュリティの 観点を含めた、より包括的なセキュリティについては第 7 章で扱う。 19 SQuaRE 製品品質モデルの「機密性」と「インテグリティ」を利用許可条件にしたがっ た「アクセス制御性」に統合した。 ３７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ポーネントを通じて呼び出せる外部サービスとして信頼できるものを設 計時に選び、それ以外のサービスからの戻り値が LLM に入力されないよ うにする。  プラグインツールに規定された利用許可条件にしたがって、当該プラグイ ンツールを保護する。 4.4.2 介入性 介入性（Intervenability）は、稼働中の LLM 利用 AI システムの動作に、外部から介入 し、システムの状態を安定させることである。 • 介入性は、稼働中の LLM 利用 AI システムの動作を中断し、その後、再開する ことを可能とするデザインを扱い、信頼性の品質副特性である可用性（4.2.5 節） ならびに回復性（4.2.7 節）と関わる。 • 介入性は、信頼性の品質副特性である「進行性」 （4.2.4 節）が劣化した場合に、 「緊急停止」などの制御を行うことを可能にする。 • インタラクション性の品質副特性である可制御性（5.3.3 項）は、ユーザーが直 接に稼働中の LLM 利用 AI システムの動作を変更可能な HMI デザインを扱う。 介入性を実現するには、可制御性の実現の一環として、例えば「大きな赤い非 常停止ボタン」などを設ける必要がある。 4.4.3 真正性 真正性（Authenticity）は、アクセス制御に関わる制御対象（オブジェクト）に関わる 情報ならびにアクセス主体（サブジェクト）に関わる情報の身元（Identity）が明らかな ことである。 • サブジェクトがエンドユーザーの場合、ユーザー認証など、有効なエンドユー ザーであることが確実になるデザインとシステム運用方策を採用する。 • サブジェクトが外部サービスの場合、来歴などの情報を活用して、正当なサー ビスであることを確認する。 ３８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 4.4.4 責任追跡性 責任追跡性（Accountability 20）は、LLM 利用 AI システムの出力コンテンツを生成し た理由や要因を再現し提示できることである。システム作動の実行履歴（ログ情報）を 活用した実行監視（Runtime Monitors）がある。 • LLM 利用 AI システムが出力するコンテンツは、不適切な内容（ハルシネーシ ョン・作り話）を含むことが避けられないことが知られている。そこで、運用 者による監視（Human Oversight）への技術的なアプローチとして、実行監視 の方策を講じる。 4.5 安全性 安全性（Safety）は、設計者が許容できるレベルまでリスク低減した上で、かつ、定 められた条件下で、LLM 利用 AI システムが、外部に危害を及ぼす状態に陥らないこと である 21。 • 定められた条件は、当該 LLM 利用 AI システムの運用制限条項やエンドユーザ ー利用の制限条項を含む。つまり、想定されていない使い方・悪意による使い 方に起因する状況（1.3.1 節）への対処としては、これらの条件を定めて利用者 に提示することができる。 • LLM 利用 AI システムの出力コンテンツが、外部に及ぼす危害の直接原因にな る。  一般には、機能要求満足性（4.1.1 節） ・ロバスト性（4.2.2 節）の劣化とし て現れる。  信頼される AI（Trustworthy AI）では、倫理面に関わる性質に起因した問 題点が顕在化する。固有の技術的な特徴を持つこと、また、その重要性が 大きいことから、個別に、プライバシー（4.6 節） ・公平性（4.7 節）とし て論じる。 • 安全性は、当該性質を論じる文脈によって、その定義が異なる。  ISO/IEC の文脈（ISO/IEC Guide 51(JIS Z 8051)、IEC61508、ISO/IEC TR5469 など）では、安全(safety)の定義は「許容不可能なリスクがないこ と (freedom from risk which is not tolerable)」である。 20 システムの処理流れに関わるラショナルのことで、制度的な観点で論じるアカウンタビ リティとは区別すべきである。 21 ISO/IEC 25010:2023 で導入された品質特性である。 ３９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001  「コンピューティング安全性（Safety of Computing） 」は、コンポーネント あるいはシステムの動的な処理過程に関わる。システム内部の振舞いに関 わる性質であって、想定外に停止する（デッドロック）ことになるような 処理進行を阻害するシステム状態（エラー状態）を避けることである。本 ガイドラインでは、信頼性（4.2 節）の進行性（4.2.4 項）で取り扱う。  「コンピュータ安全（Computer Safety） 」は、定められた条件下で作動し ているシステムを対象とし、故障発生時に外部への危害が生じないように、 システムをデザインすることである 22。本ガイドラインの安全性は、コン ピュータ安全の考え方を、信頼される AI に拡張するものである。  「AI セーフティ（AI Safety） 」は、定められた条件から逸脱した状況下で のシステム動作を含み、広範なステークホルダーへの影響を論じる。影響 に対する解釈がステークホルダーによって異なり、社会からみた AI リス クマネジメントの議論（1.3.1 節）と関わる。定められた条件から逸脱した 状況下でのシステム動作に関わる AI セーフティは本ガイドラインの対象 外である。 4.5.1 入力制限性 入力制限性（Input Constraint）23は、LLM 利用 AI システムが定められた条件下で作動 する際に、危険な状態に至るような入力を制限することである。 • LLM 利用 AI システムへの入力プロンプトに対するフィルターの役割を果たす。 一般には、LLM 利用 AI システムはオープンな利用が可能であり、プロンプト に課す条件を事前に規定することは難しい。当該 LLM 利用 AI システムの目的 （要求）に応じて入力フィルター条件を実現する。 4.5.2 フェイルセーフ性 フェイルセーフ性（Fail Safe）は、LLM 利用 AI システムが故障（Failure）発生に際し て、外部への危害が生じるような不適切な出力を行わないことである。 22 「ディペンダブルシステムのソフトウェア（Software of Dependable Systems）」が持つ べき品質特性として議論されてきた安全性のことである。また、ISO/IEC 25010:2023 の Annex B では、 IEC 60050-192 の「ディペンダビリティ（Dependability） 」マッピングを 整理し、両者の安全性が対応すると解釈している。つまり、本ガイドラインの安全性はデ ィペンダビリティに必須の品質特性といえる。 23 ISO/IEC 25010:2023 の運用制限を入力制限性とした。 ４０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 • 故障に関連する用語は、耐故障性（4.2.6 節）に示した定義を参照のこと。 • 外部への危害は、LLM 利用 AI システムの出力コンテンツが原因となって表面 化する。したがって、故障発生時に出力コンテンツの劣化を許容範囲に抑える か、あるいは、期待するコンテンツ生成が不可能な旨を出力する。 • アクセス制御性（4.4.1 節）と関わる。 4.5.3 否認防止性 否認防止性（Non-repudiation）は、LLM 利用 AI システムの出力コンテンツが、機械 学習 AI の技術を用いて生成されたことを確認できることである 24。 • コンテンツ生成過程で機械学習 AI の技術が用いられたことの明示を、AI 技術 利用の透明性と呼ぶことがある。否認防止性は、AI 技術利用の透明性に関わる 技術的な方策である。対象となるコンテンツデータの特徴によって、透かしや メタ情報利用の方法がある。しかし、利用者が透かしやメタ情報を削除するこ とを確実に防止できる方法は知られていない。 4.5.4 特記事項 安全性 (Safety) は古くからあるトピックである。品質項目としても様々な分野で取 り上げられている。電気製品、自動車、医療機器など、分野によっては、独特のマネジ メント手法が確立していることがある。一方、ソフトウェアの品質標準 SQuaRE では 近年まで安全性という品質項目が取り上げられていなかったが、2023 年の改定で Safety が追加された。生成 AI 以前の識別 AI や予測 AI の安全性に関しては、産総研の ガイドライン [AIQMv4] が「リスク回避性」として大きく取り上げて、そのマネジメン トを行うための考え方を示している。 しかし、生成 AI に関しては、「AI セーフティ (AI Safety) 」という名称で、従来よ りも幅広い種類の問題が議論されている(表 1)。本書では 1.3.1 節に述べた通り、社会全 体に影響するようなリスクではなく、個別の生成 AI がその利用者や第三者に与えるリ スクのうち、生成 AI の開発や運用の中で技術的に対処しうるものだけを扱う。 上記のように扱う範囲を限定しても、生成 AI の「安全性」には、従来 AI では考慮す る必要がなかったリスクが関わっている。例えば、個人情報や著作権で保護された情報 24 否認防止性は、本書における安全性の副品質特性と言えるかどうかには議論の余地があ る。LLM 利用 AI システムの出力と関わる第三者に対するリスクに関する品質である。 ４１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 が一目で分かるほど明瞭に出力に現れる恐れが挙げられる。これは、従来 AI に比べて 生成 AI では出力の表現力が高いことに起因している。 出力に現れるどのような表現がどういう用途において問題となるかは、社会的な合意 や文脈によって異なる。表現力の高い出力に起因するリスクとしては、公序良俗に反す るものを中心に、様々な可能性が指摘されている。例えば LLM 評価のベンチマークと して「毒性（Toxiticy）」や「有害性（Harmfulness）」などの視点からのメトリクスが 様々に用意されており、リスク検討のために参照することができる。しかし、それらの リスクの多くは生成 AI の用途によっては問題にならない。専門家を利用者とする合法 的用途の中には、一般には有害とみなされる出力を必要とするものも考えられる。一方、 年少者を含めた一般市民が使うことを想定する生成 AI ではそのような出力はリスクと して扱う必要があることが多い。したがって、出力に現れるどのような表現が安全性に 関わるかは、多くの場合、システムの想定用途に基づいて開発者や提供者が判断する必 要がある。 ただし、先に挙げた個人情報や著作権の問題には法規制があるため、かならず対処が 必要になる。これらについては 4.6 節で別に取り上げる。 4.6 プライバシー プライバシー（Information Privacy）は、パーソナルデータの取り扱いに関して、想定 外の情報プライバシー漏洩が生じないことである。 • 機械学習 AI の品質観点としてのプライバシーに関わる事項に関しては、AIQM ガイドライン第 4 版の「プライバシー」関連項目を参照のこと。 • パーソナルデータの利用に関して、データ主体の同意を得ていることを前提と する。同意の方法は、準拠する規制法にしたがう。 • 情報プライバシー漏洩への技術的な対策は、データ匿名加工の方法で、データ の利用性（5.1.7 項）を達成することである。データ保護強度への要請とデータ 匿名加工を実施する技術的なコストとの関係から適切な方法を採用する。 • 情報プライバシーは、データ主体が自身に紐づくデータ（パーソナルデータ） の第３者による利用を自己管理する「利用制御」と関わる。 「利用制御」は、ア クセス制御性（4.4.1 項）が関わる利用許可に加えて利用責務を組み合わせた考 ４２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 え方である（5.1.7 項） 25。 • 「利用制御」は、著作権者に紐づくデジタル資産に対しても論じることができ る。LLM 利用 AI システムを含む生成 AI では、LLM 訓練に用いられた学習デ ータが著作権にしたがうデータを含むとき、LLM 内部知識として保持されて いる当該データの一部が生成コンテンツに含まれることがある。その出力の利 用の仕方によっては、原著作権者の権利（著作権および関連する権利）を侵害 する恐れがある。 4.7 公平性 公平性（Algorithmic Fairness）は、要配慮属性を含むデータの取り扱いに関して、想 定外の偏りが生じないことである。 • 機械学習 AI の品質観点としての公平性に関わる事項に関しては、4.7.1 節の特 記事項に留意の上、AIQM ガイドライン第 4 版の「公平性」関連項目を参照の こと 26。 • 要配慮属性は、特定の社会集団に属する個人（データ主体）を特徴つけるデー タ属性を指す。公平性は、要配慮属性の値の違いによって LLM 利用 AI システ ムの出力コンテンツが影響を受ける状況を扱う。特に、要配慮属性の値によっ て、出力コンテンツに生じる偏りを「結果バイアス」と呼ぶ。 • 与えられたデータが明示的に要配慮属性を持つ場合と、表層的に要配慮属性を 持たなくてもデータ処理過程で要配慮属性に相当する情報（プロキシ情報）が 生じることで、LLM 利用 AI システムの出力コンテンツに想定外の結果バイア スが顕在化することがある。 4.7.1 特記事項 従来型 AI（識別 AI、予測 AI）を対象とした第 4 版[AIQMv4]で述べている公平性に 関する品質管理のうち、品質担保の基本的な考え方、「プロセス」（第 4 版 10.1.3 節 図 15）は、生成 AI に対しても適用可能である。 いっぽう、「中身・プロダクト」視点 においては、具体的な要件や目標とする評価メトリクス（＝テストすべき事項）といっ 25 法律上の情報プライバシー権の中心は、明らかにされた「利用の目的」を基準として、 データ利用の可否を論じることである。 26 一般に英語文献での「fairness」という用語は、 「公正さ」あるいは「公平さ」のどちら かを指す。その語が用いられている文脈を考慮して適切な解釈を行うことが大切になる。 ４３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 た面で、様相が異なってくる。識別 AI において公平性は、たとえばローン審査可否、 入試合否など何らかの「判定」を AI が行うにあたって、その判定が性別や人種等が異 なる集団間で不平等に扱われるかが焦点となる。また、第 4 版で詳細に述べている「結 果の公平性」 「取り扱いの公平性」や、対応する具体的なメトリクス（Demographic Parity や Equal Opportunity）も、基本的には明確に定義可能な AI の機能（判定）を前提として いる。しかし、生成 AI においては、その多彩な出力は、判定とは全く異なる場合も多 く、公平性を考えるうえでも異なる視点を要することになる。 LLM が脚光を浴びる前から、StereoSet など、言語モデル中に存在するステレオタイ プの度合を評価するためのデータセットは提案されており[StereoSet]、最近では様々な LLM の性能を比較するのに使われるリーダーボードにおいても、例えば Nejumi リーダ ーボード 3 [Nejumi]では、バイアス QA データセットである BBQ（Bias Benchmark for QA）を日本語化した JBBQ にて点付けがなされている。いずれの場合も、これら LLM のバイアス評価に使われるテストデータセットは、「あらかじめ選択・定義した各種ス テレオタイプ」が、どれぐらい回答に現れるかを確認するための質問と回答群から構成 されている。 しかしながら、 LLM を組み込んだ生成 AI システムを開発する場合、その用途・機 能に対して、前述の事前定義した各種ステレオタイプ in LLM のみで起こり得る問題が カバーされるかは全く保証できない。例えば、ジェンダーに関する倫理的な評価を行う データセットを用意して LLM を評価した際に、一般的な質問（例えば、男女どちらが 家事をすべきか？）に対してはおおむね問題ない出力をするが、それから少し外れた質 問（例えば、男女どちらが○○の書類を提出すべきか、など実際のビジネスシーンに即し た質問）に対しては問題ある回答が多くなることがあるのが知られている。当該システ ムの使われ方に基づき確認すべきステレオタイプの追加検討のみならず、LLM 入力の 前処理や、出力への後処理を含めたシステム全体においての公平性視点を盛り込んだ設 計が必要になる。 4.8 性能効率性 性能効率性（Performance Efficiency）は、LLM 利用 AI システムが、想定された状況 下で作動する度合いに応じて、期待する量の計算資源を使用することである。利用する LLM 作動に関わる計算資源が大きく影響する。 ４４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 4.8.1 時間効率性 時間効率性（Time Behavior）は、LLM 利用 AI システムが機能を実行するとき、期待 通りの応答時間・処理時間・スループットを示すことである。 4.8.2 資源効率性 資源効率性（Resource Utilization）は、LLM 利用 AI システムが機能を実行するとき、 計算資源の量を期待通りに使用し、過剰な計算資源を使用しないことである。 4.9 移植性 移植性（Portability）は、LLM 利用 AI システムを、他の運用環境あるいは利用環境に 移すのが容易であることである。 • LLM 利用 AI システムでは、クラウド環境あるいはオンプレミスでの作動を考 えるかがデザイン上の決定事項に大きく影響する。 • 本ガイドラインでは、移植前後で、 「機械学習-WITH 開発」の方策が変わらな いとする。特に、移植の前後で共通して「文脈内学習を基本とするプロンプト エンジニアリング」手法を用いることを想定する。 • 移植のユースケースとして、移植前は「文脈内学習を基本とするプロンプトエ ンジニアリング」手法を用いる一方で、移植後の LLM 利用 AI システムを「フ ァインチューニング」手法によって実現する場合がある。これは、移植前を「要 求仕様を満足する作動可能なデザイン仕様」とし、このデザイン仕様を再現す る方法として「ファインチューニング」手法を用いると見なせる。つまり、新 たな LLM 利用 AI システム開発であり、移植性の範囲を越える。 4.10 保守性 保守性（Maintainability）は、期待される状況で、保守者が LLM 利用 AI システムを 進化発展させることの容易さである。ソフトウェア保守の作業は、一般に、開発時に混 入した欠陥の修正と開発時に想定されていなかった新たな要求を満たす改良に分ける。 ここでは、後者の完全化保守・適応保守を容易にするデザインが関わる。 • 完全化保守は、性能効率性（4.8 節）や適応保守に関わる保守性の向上を目的と する。LLM 利用 AI システムでは、プロンプトデザインに関わる改良を含む。 ４５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 コンポーネントを実現するプログラムのリファクタリングを含む。 • 適応保守は、要求の変化を含むシステム利用環境の変化に合わせて、システム の継続使用を目的とする。機械学習 AI の場合、実行時入力データの分布シフ トへの対応を含む。LLM 利用 AI システムでは、再利用部品である LLM の置 き換えによる改良を含み、移植性（4.9 節）と関わる。 4.10.1 モジュール性 モジュール性（Modularity）は、LLM 利用 AI システムを構成するアーキテクチャコ ンポーネント互いの依存関係を明らかにすることである。 4.10.2 修正性 修正性（Modifiability）は、LLM 利用 AI システムならびに構成コンポーネントの修正 が容易なことである。 4.10.3 試験性 試験性（Testability）は、LLM 利用 AI システムならびに構成コンポーネントの試験が 容易なことである。試験項目（試験条件・試験基準）のデザインが容易なことを含む。 ４６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 5 データ品質 LLM 利用 AI システムでは、「データ」がさまざまな形で現れる。「機械学習-FOR 開 発」では、モデル訓練に用いる学習データ（訓練データ）の品質が、機能部品としての LLM（訓練済みモデル）に大きく影響する。一方、「機械学習-WITH 開発」や「ソフト ウェア-WITH 開発」で取り扱うデータは、訓練データだけではない。LLM 利用 AI シス テム開発に関わるデータの品質を包括的に取り扱う。 「データ品質」は、機械学習や LLM 利用 AI システム特有の技術的な性質を加味し、 品質を論じる対象によって 3 つに分けて整理した。 • 個々のデータ点 • データセット（データの集まり） • 複数データセットの組み合わせ利用 以下、品質の対象に沿って、順番に説明する。 5.1 個々のデータ点の品質観点 個々のデータ点の品質は、SQuaRE の「データ品質モデル（JIS X 25012:2013）」から 品質観点を選び、機械学習や LLM 利用 AI システムを開発する上で重要な性質を整理 したものである。ここで、データ点として以下を想定する。 • データ点は処理の単位であり、離散データか、不定長の系列データ（時系列、 トークン列）か、を区別しない。 • 素材としての「データ」と機械学習や LLM 利用 AI システムの処理対象として の「データ」の両方を対象とし、処理対象とする「データ」が満たすべき品質 観点を整理する。 LLM 利用 AI システムの品質マネジメントには以下の点で関わる。 • 対象「データ」の処理目的に応じて、品質マネジメントの取り組みが異なる。 • 教師あり学習で用いる学習データに関しては、AIQM ガイドライン第 4 版 [AIQMv4]の内部品質 B-3（データの妥当性）のデータ点の品質観点が対応す る。 「機械学習-WITH 開発」のファインチューニングに用いる「データ」の取 り扱いを含む。 • LLM 利用 AI システムが RAG(2.1.3 節、1.5 節)を用いる場合、RAG で参照す る外部データの取り扱いを含む。 ４７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 • プロンプトデザインによって、データの役割を担うプロンプト段落を導入する 場合、当該プロンプト段落のデータの取り扱いを含む。 5.1.1 正確性 正確性（Accuracy）は、構文上（形式上）ならびに意味上、正しい表現を持つことで ある。素材データが正確性に劣るとき、事前作業を適切に施して、正確性を満たす処理 対象データを得る。 • 敵対データは、訓練済みモデルを混乱させる目的で、意味上の正確性を意図的 に劣化させた処理対象データである。正確性を満たす基準データに対して、セ マンティックノイズを系統的に挿入する方法が知られている。基準データと敵 対データを訓練済みモデルに入力した場合の各々の出力を比較することで、当 該モデルの敵対ロバスト性（5.2.2 項）を評価することができる。 • 大規模言語モデルの処理対象となる系列データ（文字列データ）では、自然言 語の文字列（ここでは自然言語文と呼ぶ）を対象に考える。自然言語文の形式 上の正確性は、当該自然言語の文法規則が規定する。自然言語文の意味上の正 確性は、その文の意味内容から判断される。 5.1.2 完全性 完全性（Completeness）は、データ点が複数の属性から構成される場合、すべての属 性が欠損していないことである。素材データが完全性に劣るとき、事前作業を適切に施 して、完全性を満たす処理対象データを得る。 • データ点をレコードとみなす場合、属性をフィールドと呼ぶ。多次元ベクトル とみなす場合、成分と呼ぶ。系列データの場合、系列の要素をさす。この注意 は、以下の副特性（5.1.3 節から 5.1.8 項）に共通する。 • 完全性を満たさないデータを欠損データと呼ぶ。完全性を満たすデータを基準 とするとき、基準データと欠損データを関係つけることができる。基準データ と欠損データを訓練済みモデルに入力した場合の各々の出力を比較すること で、当該モデルの欠損ロバスト性を評価することができる。 • 系列データは、自然言語文データを含む。系列データの完全性は、要素が欠落 していないことである。特別な場合として、マスク言語文データがあるが、マ スクであることを表す要素がマスク言語文データを構成することから、マスク 言語文データは完全性を満たす。 ４８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 5.1.3 一貫性 一貫性（Consistency）は、データ点が複数の属性から構成される場合、すべての属性 の値が整合していることである。素材データが一貫性に劣るとき、事前作業を適切に施 して、一貫性を満たす処理対象データを得る。 • 整合しているとは、矛盾しないことであり、自己整合と比較整合の 2 つの場合 がある。 • 自己整合とは、当該データ点の複数の属性が意味的に関連するとき、それらの 属性値が意味的に矛盾しないことである。 • 比較整合とは、類似する他のデータ点と比較して、同じ属性が持つ値が矛盾し ないことである。ここで、2 つのデータ点が類似するとは、着目する属性以外 を除去した場合、一貫性を満たすことである。 • 分布外データ（Out-of-Distribution）は自己整合の観点で一貫性が劣る。 5.1.4 信憑性 信憑性（Credibility）は、データ点が複数の属性から構成される場合、すべての属性の 値が、データ利用者にとって、真とみなせることである。素材データが信憑性に劣ると き、当該データを削除する等の事前作業を適切に施して、信憑性を満たす処理対象デー タを得ることが望ましい。 • 信憑性は、真正性（偽造データでないこと等）を含む。 • 敵対データや分布外データは真正性を満たさない。 5.1.5 最新性 最新性（Currentness）は、データ点が複数の属性から構成される場合、すべての属性 が最新の値になっていることである。素材データが最新性に劣るとき、当該データを削 除する等の事前作業を適切に施して、最新性を満たす処理対象データを得ることが望ま しい。 • 最新性は、実世界の時間で特徴つけることではなく、バージョン概念と関わる。 • 更新されるなどの理由で、属性値が複数のバージョンを持つとき、属性ごとに 最新バージョンの値を持つことである。データ点を構成する属性値のバージョ ンが整合していることと言って良い。 ４９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 5.1.6 精度 精度（Precision）は、データ点が複数の属性から構成される場合、すべての属性の値 が期待される数値精度をもつことである。処理対象データに対して定義される。 • データが表す情報の種類に応じて適切な方法で精度を評価する。 • LLM 利用 AI システムでは、外部表現としての自然言語文字列を処理可能なデ ータに変換する「トークン化（Tokenizers） 」や「埋め込み（Embeddings） 」の 選択と関わる。 • 画像データでは、解像度が関わる。 • 時系列信号データでは、スペクトルの数値精度が関わる。 5.1.7 利用性 利用性（Data Usage Control）は、データ点が複数の属性から構成される場合、すべて の属性の値が利用承認されていることである。処理対象データに対して定義される。 • 所与のデータに対する事前処理によって、利用性を満たすデータに加工する。 さまざまなデータの加工方法（属性の削除・集約・仮名化など）が知られてい る。データの利用目的に応じて、適切な方法を選択する。 • データ加工の方法として、データ暗号化の技術が採用されることがある。 • データ加工は、プライバシー（4.5 節）や公平性（4.7 節）と強く関わる。 • データ処理に関わる利用承認は、データの利用制御と関わり、予め定められた 目的から見て正当な利用許可と利用責務として付与される。利用承認は処理対 象データの権利者による決定にしたがって付与される。つまり、データ利用制 御に関わる決定権を尊重する。 • 利用許可は、定められたアクセス制御条件を規定することであり、アクセス制 御性（4.4.1 節）と関わる。利用責務は、利用許可されたデータに対して、定め られた利用処理の種類を規定することである。 • 著作権、情報プライバシー権 27などの法規制が関わるデータは標準適合性 （5.1.8 節）にしたがう。 27 情報プライバシー権の中心は、明らかにされた「利用の目的」を基準として、データ利 用の可否を論じることである（4.6 節） 。 ５０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 5.1.8 標準適合性 標準適合性（Compliance）は、データ点が複数の属性から構成される場合、すべての 属性の値が規則に適合していることである。処理対象データに対して定義される。遵守 する規則は、公的なガイドライン・規格・規制法などがある。 5.2 データセットの品質観点 データの集まりをデータセットと呼ぶ。LLM 利用 AI システムでは、 「データセット」 がさまざまな形で現れる。「機械学習-FOR 開発」や「機械学習-WITH 開発」のファイ ンチューニングでは、モデル訓練に用いる学習データセット（訓練データセット）の品 質が、機能部品としての LLM（訓練済みモデル）に大きく影響する。また「機械学習WITH 開発」のプロンプトエンジニアリングや「ソフトウェア-WITH 開発」では、プロ ンプトで取り扱う「データ」を「データセット」として品質を論じると有用なことが多 い。ここで、LLM への入力プロンプトを構成する次のような手法の中で「データ」が現 れる。 • プロンプトエンジニアリングの少数例示学習(A1.3.1 節)による手法 • 実行時の情報検索により取得した外部データを挿入する RAG 手法 以降の「データセットの品質観点」では、LLM 利用 AI システム開発に関わるデータセット の品質を包括的に取り扱う。 LLM 利用 AI システムの品質マネジメントには以下の点で関わる。 • データセットの品質は、一般に統計的なデータ分布が良い指標となる。データ 分布を数学的な対象として明示することで、データセットの品質を論じる。 • 機械学習のモデル訓練や LLM 利用 AI システム開発では、データ分布を明示す ることができない場合、データあるいはデータセットのデザインから、品質の 問題を整理する。 • デザインの観点から、膨大なデータをカテゴリーに区分けし、各カテゴリーか ら抽出するデータを決定する指針を明確にする。 ５１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 5.2.1 代表性 代表性（Representativeness）は、問題分析からデータをカテゴリーに区分けすること を前提とするとき、カテゴリーごとに適切なデータを抽出し、全体を合わせてデータセ ットにすることである。代表性の基準となるカテゴリー分けは目的依存で決定する。 5.2.2 重複性 重複性（Overlap）は、問題分析からデータをカテゴリーに区分けするとき、カテゴリ ーと隣接カテゴリーの間で、データの一部を共有することである。冗長性（Redundancy） ともいう。なお、同一のデータが繰り返しデータセット中に出現することは、データ分 布（出現頻度）の問題であり、品質副特性としての重複性・冗長性とは異なる。 5.2.3 標本選択性 標本選択性（Sample Selection）は、取り扱うデータ全体の経験分布に関わる情報があ るとき、この経験分布を基準としたカテゴリーに対して、経験分布を再現するように、 データを選択することである。データバイアスが小さいことである。 5.2.4 一貫性 一貫性（Dataset Design Consistency）は、データセットが含むデータに対して、期待す る品質（5.1 節）を満たす処理が、定められた方針（デザイン）の下に実施されている ことである。 LLM 利用 AI システムの品質マネジメントとは以下の点で関わる。 • 個々のデータ点の品質観点（5.1 節）がデータセット全体に反映されることを 保証する。 5.2.5 来歴性 来歴性（Provenance）は、データセットが、信憑性・真正性を満たすデータ（5.1.4 節） から構成されるとき、当該データセットが持つ性質である。 • 来歴性は、成果物管理のメタ情報として、データセットに付加される。素材デ ５２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ータの入手・収集方法、データセット構築者に関わる情報、などを含む。 5.2.6 最新性 最新性（Dataset Newness）は、データセットが、最新性を満たすデータ（5.1.5 節）か ら構成されることである。 • 最新性は、成果物管理のメタ情報として、データセットに付加される。 5.3 複数データセット組み合わせ利用時の品質観点 複数のデータセットを組み合わせて利用するとき、全く無関係なデータセットであれ ば、単に和集合をとるだけで良い場合がある。データセットが何らかの特徴を共有する 場合は、メタ情報によって、データセットを組み合わせる目的に対して整合しているか を確認する。 LLM 利用 AI システムの品質マネジメントとは以下の点で関わる。 • 教師あり学習で、独立に整備された複数のデータセットを組み合わせてモデル 訓練に用いる場合に、組み合わせ利用時の品質観点を調べる。 • LLM 利用 AI システムでは、 外部参照データの知識 （Non-parametric Knowledge） と、当該 LLM が内部保有する知識（Parametric Knowledge）との関係が、組み 合わせ利用時の品質観点と関連する。どちらを優先するかの「制御」を明示的 に検討する。  RAG を用いる場合、RAG で参照する外部データの知識と、当該 LLM が 内部保有する知識との関係が、組み合わせ利用時の品質観点と関連する。  プロンプト内で参照する知識と、当該 LLM が内部保有する知識との関係 が、組み合わせ利用時の品質観点と関連する。 5.3.1 文脈整合性 文脈整合性（Contextual Adequacy）は、組み合わせる複数のデータセットが利用の目 的に対して整合していて、データセットを統合して処理できることである。データ準備 に関わる観点と目的整合に関わる観点がある。 • データ準備に関わる観点は、素材データの収集方法・処理データの整備方法な どがある。 • 目的整合に関わる観点は、データセット利用の目的が共通していることである。 ５３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 5.3.2 時制整合性 時制整合性（Temporal Adequacy）は、同一対象の異なるバージョンのデータセットが 存在するとき、バージョンの組み合わせが利用の目的に対して整合していることである。 5.3.3 操作整合性 操作整合性（Operation Adequacy）は、組み合わせる複数のデータセットが利用の目的 に対して、データセットを同時操作できることである。 ５４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6 LLM 利用 AI システムの品質実現に向けた管理策 本章では、第 4 章に挙げたコンポーネント品質を LLM 利用 AI システムが満たすこ とを目的として行う品質マネジメント上の施策（管理策）を示す。 本節の構成は、2.1.3 節に示した本書で想定する LLM 利用 AI システムの構成に沿っ ており、まずシステム全体について行うべき管理策を挙げた後、システムを構成する主 要なコンポーネントごとに行うべき管理策を示す。システム全体または主要コンポーネ ントごとの節の中では、LLM 利用 AI システムのコンポーネント品質ごとに、それを実 現するための管理策を示す。また、各コンポーネントに関わりの深いデータについて、 第 5 章に挙げたデータ品質を実現するための管理策を合わせて示す。 6.1 システム全体 LLM 利用 AI システムの品質実現に向けて、システム全体で行うべきことは、以下の ように大別できる。 • コンポーネント間のオーケストレーションの設計 • システム外の要素への対処の設計 • システム全体としての利用時品質の評価 一般に、コンポーネント間のオーケストレーションが複雑なシステムでは、システム 全体としての進行性、可用性、耐故障性、回復性、可制御性、介入性などを満たすため に、システム全体のアーキテクチャを慎重にデザインする必要がある。LLM という、 ブラックボックスで振舞いが不確定なコンポーネントを含むシステムではよりそれが 重要になる。 またシステム外の要素、たとえばユーザーや、プラグイン経由で呼び出す外部サービ スなどの素性や特性を考慮した上で、対処するべき事項があればシステムとしてどう対 処するかを設計時に決める必要がある。 さらに、システム全体の利用時品質はシステム全体としてでなければ実施できない。 コンポーネントごとに実施した管理策によって、要求を満たす品質が実現されているか どうかを確認する。 LLM 利用 AI システムが満たすべき品質ごとに、その品質の達成に向けてシステム全 体に関して実施するべき事項を以下に挙げる。 ５５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6.1.1 要求満足性 • 機能要求満足性  LLM 利用 AI システムの明示された要求仕様を基準として、当該システム への入出力から機能要求満足性を評価する。  マーケティング等で実施されるアンケートによる定性的な満足度評価手 法を生成コンテンツに対して用いることが考えられる。 • 品質要求満足性  当該 LLM 利用 AI システムが持つ品質について、システムの目的から見た 完全さ・正確さ・適切さから評価し、システム全体の品質要求満足性を整 理する。 6.1.2 信頼性 • 成熟性  結合テストに相当するソフトウェアテスティングで、システムが所与の機 能仕様を適切に実現していることを検査し成熟性を評価する。  所与の機能仕様を満たす入力（期待する基準データ）によって検査を行う 正テスティングによる確認を実施しなければならない。 • 進行性  機能要求の実現に関わるデザインと、進行性に関わるデザインを分離して 実施する。  オーケストレーションを司る自律エージェントでは、進行性を満たすこと を確認しなければならない。特に、出力が得られることを確認しなければ ならない。 • 可用性  LLM 利用 AI システムが作動する動作環境を適切に設定し安定稼働させ る。 • 耐故障性  偶発的な欠陥が生じる可能性のあるコンピューティング基盤上で作動す る状況下で、当該の欠陥がシステム停止に波及しないようにデザインする。 LLM コンポーネントの復旧施策を講じる。  決定論的な欠陥への対策が為されていることを、成熟性の評価によって確 認しなければならない。 • 回復性  故障（4.2.6 節）に至って、LLM 利用 AI システムが実行中の処理を継続で ５６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 きなくなったとき、LLM 周辺コンポーネントのデザインによって、処理の 中間点（チェックポイント）への戻りなどのデザイン上の対策を講じる。  再入可能な計算コンポーネントである LLM は初期状態に戻す。 6.1.3 インタラクション性 • アクセシビリティ  自然言語インタフェースが主となる LLM 利用 AI システムでは、入力なら びに出力コンテンツを表す言語について、エンドユーザーが習得している、 あるいは使っている言語の違いを考慮してデザインする。たとえば、多言 語対応のデザインを行う • 適切度認識性  エンドユーザーが判断できるように、LLM 利用 AI システムに付す「使用 説明（Instruction for Use）」「利用制限（Behavioral Restrictions）」といっ た文書を提供しなければならない。 • 説明性  正当化理由を提示できるよう、システムプロンプトや関連するコンポーネ ントをデザインする。 6.1.4 セキュリティ 28 • 真正性  LLM への入力プロンプトフロー（当該プロンプト発行元）が正当なことを 確認する。ユーザーや、プラグインを介して利用する外部サービスが該当 する。 • 介入性  外部からの指示によって、作動中であっても構成コンポーネントが停止し、 その後、システムの実行再開を可能にする状態へ復帰するようにデザイン する。 • 責任追跡性  LLM 利用 AI システムを構成するコンポーネント間の情報の流れをログと して保存する機能をデザインする。  28 ユーザーがログ情報を利用できる機能をデザインする。 4.4 節の注 18 を参照のこと。 ５７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6.1.5 安全性 • 入力制限性  エンドユーザーに課す利用条件の一部に、選定した LLM に付随する情報 が示す制限条項の遵守を明示する（6.3.2 項を参照）。 6.1.6 性能効率性 • 時間効率性  システムテストに相当するソフトウェアテスティングで、システムが所与 の機能仕様を適切に実現していることを検査し時間効率性を評価する。 • 資源効率性  システムテストに相当するソフトウェアテスティングで、システムが所与 の機能仕様を適切に実現していることを検査し資源効率性を評価する。 6.1.7 移植性  LLM 利用 AI システムのコンポーネントアーキテクチャは、再利用部品で ある LLM の置き換えが容易になるようにデザインする。LLM を仮想化す る「言語モデル」コンポーネントを導入する。 6.2 コンポーネント全般 LLM 利用 AI システムが満たすべき品質ごとに、その品質の達成に向けて各コンポー ネントに関して共通して実施するべき事項を以下に挙げる。 6.2.1 信頼性 • 成熟性  LLM 利用 AI システムのデザインの結果として得られた当該コンポーネン トの機能仕様を適切に実現していることを検査し成熟性を評価する。  LLM 利用 AI システムを構成する全てのコンポーネントを対象とした単体 テストに相当する。 •  ブラックボックステスティングによる確認を実施しなければならない。  必要に応じてホワイトボックステスティングによる確認を実施する。 ロバスト性 ５８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001  機械学習モデル特有のモデルロバスト性とは別に、プログラムロバスト性 をすべてのコンポーネントで満たすように実現する。 6.2.2 保守性 • モジュール性  本ガイドラインが前提とするコンポーネント中心デザインは、モジュール 性に寄与する。  LLM 利用 AI システムの概念的な情報の流れ（2.1.1 節）にしたがって、 LLM 周辺コンポーネントに明確な役割・責任（Responsibility）を与える ことで、当該コンポーネントのモジュール性が高まる。  • コンポーネントのデザインでは、入出力ポートの定義を明示する。 修正性  モジュール性（4.10.1 節）は、モジュール内に閉じた修正を可能にするこ とから、修正性に寄与する。  LLM 利用 AI システムを構成するアーキテクチャコンポーネントを明示す ることで、モジュール単位での追加・削除・置き換えに関わる修正性を向 上させる。  アーキテクチャのデザインでは、トップレベルデザインからの追跡性を向 上させることを目的としたパターン生成アーキテクチャのデザイン方法 論などを活用する。 • 試験性  モジュール性（4.10.1 節）は、個々のモジュールに対して試験を行うこと から、試験性に寄与する。  コンポーネントの入出力ポート定義をもとに、試験項目をデザインする。  LLM 利用 AI システムを構成するアーキテクチャが追跡性を満たすときよ うにすることで、階層的に試験対象を構成するようにする。 6.3 LLM の選定と追加学習 本書の想定では、LLM には第三者が開発済の基盤モデルを再利用部品として用いる。 このため、LLM の開発時に行う管理策は取り上げず、用いる LLM の選定に関わる管理 策を示す。 LLM 利用 AI システムが満たすべき品質ごとに、その品質の達成に向けて利用する LLM の選定と追加学習に関して実施するべき事項を以下に挙げる。 ５９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6.3.1 信頼性 • ロバスト性  モデルロバスト性は、訓練済み学習モデルに固有の技術的な性質であり、 LLM 利用 AI システムでは、所与の再利用コンポーネントとして選択した LLM で決まる。LLM に付された情報（AI BOM 等）をもとにして、当該 LLM 利用 AI システムの目的（要求）と整合するかを事前に判断する。 • 可用性  エンドユーザーによる利用の制限条項 29を遵守しても LLM 利用 AI シス テムの機能の実現に支障がないことを確認する。制限条項に違反する利用 を試みると、LLM はしばしば回答を拒否し、またネット上のサービスとし て提供されている LLM の場合、利用権限が取り消されることもある。 6.3.2 安全性 • 入力制限性  不適切な入力に対する振舞いを制限するように適切にアラインされてい るかを確認する。LLM に付された情報（AI BOM 等）をもとにして、当該 LLM 利用 AI システムの目的（要求）と整合するかを事前に判断する。ま た、 エンドユーザーに課す利用条件の一部に、選定した LLM に付随する 情報が示す制限条項の遵守を明示する。 6.3.3 プライバシー  情報プライバシー権や著作権にしたがって利用制御されているデータを モデル訓練に用いる場合、利用制御に関わる制度上の問題を解決済みの LLM を選ぶ。AI BOM 等の LLM に関わる情報を参照して、適切な LLM を選定しなければならない。 6.3.4 公平性  要配慮属性を含むデータをモデル訓練に用いる場合、バイアスに関わる制 度上の問題を解決済みの LLM を選ぶ。AI BOM 等の LLM に関わる情報 29 LLM に付随するライセンス項目（Behavioral Usage Restrictions や User-based Restrictions）ならびに使用説明（Instructions for Use）を参照する。 ６０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 を参照して、適切な LLM を選定しなければならない。 6.3.5 性能効率性 • 時間効率性  AI BOM 等の LLM の時間性能に関わる情報を参照して、適切な LLM を 選定しなければならない。 • 資源効率性  選定した LLM によって必要な計算資源が決まることから、AI BOM 等の LLM の資源効率に関わる情報を参照して目的に対して適切な規模の LLM を選定する。 6.3.6 移植性  LLM は、同一の開発組織によるシリーズ版であっても学習パラメータ規 模によって能力が異なり、同一プロンプト入力に対して、同じ機能振舞い を保証するわけではない（機能振舞いの揺らぎ） 。LLM への入力に関わる プロンプトならびに出力フィルターに関わるデザインと組み（トリプレッ トパターン）にして移植性を評価しなければならない。  「LLM 機能振舞いの揺らぎ」が理由となり、プロンプト等を工夫しても、 LLM 置き換え前後で同じ出力を得られるわけではない。要求満足性（4.1 節）から再評価しなければならない。 6.3.7 学習データ品質 本書の想定では、基盤モデルは他組織で開発されたブラックボックスの再利用部品で あり、その学習データの品質確保に直接関わることができないが、学習データの品質に 関して充分な情報が開示されており、それによって学習データの品質が確保されていた ことが確認できるものを選んで用いることができる。 また、本書の想定においても、基盤モデルをファインチューニングする際に使う学習 データの品質確保には関わることができる。 6.3.7.1 個々のデータ点の品質観点 教師あり学習で用いる学習データに関しては、AIQM ガイドライン第 4 版の内部品質 B-3（データの妥当性）のデータ点の品質観点が対応する。「機械学習-WITH 開発」の ファインチューニングに用いる「データ」の取り扱いを含む。 ６１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 • 完全性 • 正確性 • 一貫性 • 信憑性 • 最新性 • 精度 • 利用性  機微情報を含むデータに対して、期待される保護強度を示すデータ加工 （データ匿名加工）を施す。データの利用目的との整合性からデータ匿名 加工の方法を選定しなければならない。 • 標準適合性  所与のデータに対する事前処理によって、標準適合性を満たすデータに加 工する（5.1.8 節） 。さまざまなデータ匿名加工の方法（集約・仮名化など） が知られている。遵守する規則に応じて、適切な方法を選択する。 6.3.7.2 データセットの品質観点 教師あり学習で用いる学習データに関しては、AIQM ガイドライン第 4 版の「データ セットの被覆性（B-1）」を参照する。 • 代表性  「データセットの被覆性（B-1） 」は「対応すべき状況の組み合わせ」を基 準としたカテゴリーに対して代表性を満たすデータセットを得る。  稀な状況の取り扱いに関心が高い場合、外れ値をカテゴリーに含め、当該 カテゴリーからデータを積極的に抽出する。 「データセットの被覆性（B1） 」の特別な場合になる。 • 標本選択性  データ全体の経験分布を基準としたカテゴリーに対して代表性を満たす データセットを得る。  データ全体の経験分布以外の方法を基準としてカテゴリー分けされてい て、カテゴリーごとに固有の経験分布が既知の場合、代表性を満たすと同 時に、カテゴリー固有の経験分布からの標本選択性を満たしたデータセッ トを得る。 • 一貫性  教師あり学習で用いる学習データに関しては、AIQM ガイドライン第 4 版 の「データの妥当性（B-3） 」の「ラベリングの適切性」と関わる。データ の構築に際して、データセットを通じて一貫した方針の下にラベリングを 行う。 ６２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 • 最新性  データセットをモデル訓練に利用する際に、事前に、当該データセットの 最新性を調べて、利用目的と整合していることを確認する。 6.3.7.3 学習データセットの利用時品質観点 教師あり学習で、独立に整備された複数のデータセットを組み合わせてモデル訓練に 用いる場合に、組み合わせ利用時の品質観点を調べる。考慮しうる組合せとしては、基 盤モデルの開発時の訓練に使われたデータセット同士、基盤モデルの開発時のデータセ ットと追加学習に使うデータセットの間、さらに追加学習のデータセット同士がある。 • 文脈整合性  ファインチューニング（転移学習）では、ベースモデル訓練に用いた学習 データセットと追加訓練に用いる学習データセットの関係が、学習目的と 整合していることを確認する。 • 操作整合性  マルチモーダルモデルでは、データの種類ごとにデータセットを準備し、 組み合わせて利用することがある。データセットごとに異なる処理が定義 されている場合、組み合わせ操作を実現する。 6.4 プロンプトとその周辺 プロンプトは組成としても役割としても多様な側面を持つ要素であり、これに関わる コンポーネントは具体的な LLM 利用 AI システムごとの違いが大きいと考えられるが、 本書で想定する LLM 利用 AI システムにおける、プロンプトに関わる主な事項として 以下を本節で取り上げる。 • システムプロンプト • プロンプト補完コンポーネント • データとしてのプロンプト 6.4.1 システムプロンプト システムプロンプトはテキストデータであるが、LLM に入力として与えることで、 LLM の動作を規定するものである。それゆえ、本節では、システムプロンプトをその 動作が実現する機能を持つコンポーネントと同一視してその役割を論じる。 ６３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 LLM 利用 AI システムが満たすべき品質ごとに、その品質の達成に向けてシステムプ ロンプトに関して実施するべき事項を以下に挙げる。 • 機能要求満足性  プロンプトを入力した LLM の出力を検査することで、LLM 利用 AI シス テムの明示された要求仕様が規定する機能を LLM が実現可能かを調べる。  プロンプトと LLM の組み合わせを対象とした試行錯誤的な繰り返し（一 種のプロトタイピング開発スタイル）を通して、機能要求満足性を評価す る（4.2 節・4.4 節参照） 。 • ロバスト性  ユーザー入力に揺れがあっても、LLM が同等なコンテンツを出力するよ うに、その揺れを意味的に吸収するようなシステムプロンプトをデザイン する。 • 進行性  プロンプトが進行性を満たさない記述になっていないことを、インスペク ション等の文書レビュー手法により確認しなければならない。 • 説明性  LLM が出力を生成するために利用した情報を、出力の正当化理由として 出力するようにシステムプロンプトをデザインする。LLM が利用する情 報は、LLM が学習により取得したモデルに内在する情報である場合も、 LLM への入力の一部として与えた情報である場合もある。 • アクセス制御性  LLM がシステムプロンプトを無視してユーザー入力に従うよう LLM に指 示する(いわゆる jail break を試みる)ユーザー入力を無効化するようにシ ステムプロンプトをデザインする。Jail break が成功すると、LLM が訓練 時に取得した情報や、運用時に LLM に入力された情報が出力に出ていく 恐れがある。システムプロンプトだけで jail break を 100%阻止するのは難 しいので、入力フィルター(6.7 節)や出力フィルター(6.8 節)等の他の対策 を併用する。 • 入力制限性  ユーザーや外部サービスからの入力テキスト情報（プロンプト）を「デー タ」として取り扱うことで、入力フィルターの役割を果たすようにデザイ ンする。 • 時間効率性、資源効率性  利用する LLM の能力に応じた冗長さのないプロンプトをデザインする。 LLM によって、ビジネスロジックを実現するためにプロンプトとして与え る必要がある情報の詳しさが異なる。プロンプトが詳しいほどプロンプト ６４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 が長くなり、LLM による処理に時間がかかり、電力消費量も増える。 • 保守性  LLM 利用 AI システムの保守性を向上させるため、システムプロンプトの モジュール性を高めなければならない。プロンプトの流れを段落などの観 点から構造化し各々の段落の役割・責任（Responsibility）を明確化する （3.4.1 節） 。システムプロンプトのモジュール性は、段落間の関連が明確 になることから、システムプロンプトの修正性にも寄与する。 6.4.2 プロンプト補完コンポーネント プロンプト補完コンポーネントは、他の様々なコンポーネントから得られる情報をも ちいてプロンプト全体を構築し、LLM に入力として与える。プロンプト補完コンポー ネントがプロンプト構築に利用する主な情報としては以下が挙げられる。 • システムプロンプト • ユーザー入力（いわゆるユーザープロンプト） • ファイルデータ（RAG で用いるファイルデータベースにあるデータ） • 外部連携コンポーネントからの応答 ユーザー入力や、外部連携コンポーネントなど、LLM 利用 AI システムの外から来る 情報については、入力フィルター（6.5 節）を通した結果を利用する。 LLM にプロンプトを渡す際に、LLM の出力のサンプリング方式とそのパラメータを 指定できることが多い。この方式とパラメータ値の選択は、LLM の出力が機能仕様を 満たすかどうかに大きく影響し、どのような選択が有効かは、システムプロンプトに大 きく依存する。このため、システムプロンプトの設計と合わせて検討する必要がある。 LLM 利用 AI システムが満たすべき品質ごとに、プロンプト補完コンポーネントで実 施するべき事項を以下に挙げる。 • 機能要求満足性  LLM 出力のサンプリング手法やそのパラメータ（A1.1.3 節）を指定でき る場合、システムプロンプトの設計のための試行錯誤の中で合わせて検討 する。 • 説明性  ファイルデータや外部連携コンポーネントからの応答など実行時に選択 してプロンプトに組み込む情報については、その来歴を示す情報を添えて 組み込む。これと合わせ、システムプロンプトで来歴情報を活用するよう ６５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 指示する必要がある。 6.4.3 データとしてのプロンプト プロンプトの役割は様々であるが、LLM に対する入力となるテキストデータである ので、データ品質を満たす必要がある。ただし、プロンプトを構成する各テキスト断片 が担う役割に応じてより重視するべき品質観点は異なる。 6.4.3.1 LLM の処理を手続き的に指示する部分 LLM に期待する処理を、作業手順の記述として、または入力と出力の関係の記述と して、指示するテキストについては、主に以下の品質が必要となる。 • 正確性 • 完全性 • 一貫性 • 利用性  当該 LLM 利用 AI システムにおけるデータの利用目的から利用性を満た すか否かを決定しなければならない。 6.4.3.2 データや例示として与えられた部分 実行するべき機能を入力とそれに対し期待される出力の対の例示により示すテキス トや、その機能で前提や参考情報として扱うべき情報を与えるテキストについては主に 以下の品質が必要となる。 • 正確性 • 完全性 • 一貫性 • 信憑性、最新性  当該データの来歴に関わるメタ情報を確認する。  データ量が膨大になると、信憑性、最新性を満たさないデータが混入する 可能性が大きくなることに注意しなければならない。  生成 AI が出力したデータコンテンツデータは信憑性に劣る場合を排除で きないことから、そのようなデータの利用には注意しなければならない。 • 精度  「トークン化（Tokenizers） 」や「埋め込み（Embeddings） 」の選択に注意 しなければならない。例えばトークン化が多言語に対応していないと、対 応言語以外の言語について不適切なトークン化が行われる(A1.2.1.4 節)。 ６６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 • 利用性  当該 LLM 利用 AI システムにおけるデータの利用目的から利用性を満た すか否かを決定しなければならない。  情報プライバシー・公平性が関わる機微情報を表すデータの利用性は特に 注意しなければならない。 6.4.3.3 データセットの例示として与えられた部分 プロンプトの中に与えられた同一の事項に関する複数の例示が、データセットとして 主に満たすべき品質を以下に示す。 • 代表性  例示対象の問題分析を行なって区分けしたカテゴリーを網羅するように、 各カテゴリーから具体例をひとつずつ抽出し、全体を仮想的なデータセッ ト（デモセットと呼ばれることがある）を得る。 • 重複性  問題分析の結果であるカテゴリー間での同一情報の共有を避けることで、 有用性を高める。つまり、重複性を避ける。 • 一貫性  • 一貫した方針のもとに、例示に含む情報を決定する。 来歴性  LLM 利用 AI システムの外から運用時に取得した情報に由来するデータセ ットについては、来歴を示せるようにする。 • 時制整合性  最新データの役割を果たすプロンプト段落は、一般には、内部知識が矛盾 する場合があり、プロンプトの内容が優先されるようにする。 6.5 RAG 関連コンポーネント Retrieval Augmented Generation (RAG)の実現には一般に以下のコンポーネントが関わ る。 • 元ファイル • ファイルデータベース • ファイル検索コンポーネント 元ファイルは LLM が訓練時に学習していないと想定される情報を保持するファイル である。ファイルデータベースには元ファイルの情報を加工・変換したデータ（以下フ ァイルデータ）を格納する。ファイル検索コンポーネントは、ユーザーからの入力に関 ６７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 連が深そうな情報をファイルデータベースから検索して取得し、プロンプト構築コンポ ーネントを介して LLM に提供する。 RAG とみなせる手法にもさまざまなバリエーションがある。例えば、検索手法とし てキーワード検索を使うもの、あるいは知識グラフ上でのグラフ検索を用いるものなど がある。本節では、それらの可能性も念頭に置きつつ、主には、現時点でよく取り上げ られる、埋め込み(Embedding)とコサイン類似度に基づく検索を想定する。この場合、 RAG で扱う追加情報を扱いやすいサイズのチャンクに分割した上で、各チャンクを埋 め込みに変換した上でデータベースに格納する。ユーザーからの入力も埋め込みに変換 した上で、これとのコサイン類似度が高いデータベース中の埋め込みを検索して LLM に提供する。 以下、これらについて実施できる管理策を示す。 6.5.1 ファイルデータベース 一般的なデータベース利用システムの場合と同様であり、生成 AI 特有の事項はあま りない。しかし、埋め込みを使う場合にはベクトルの距離に基づく検索を行い、知識グ ラフを用いる場合にはグラフ構造に基づく検索を行うなど、ファイルデータの持ち方に 合わせた検索を行うことになるので、それに適したデータベースを選択する。 LLM 利用 AI システムが満たすべき品質項目ごとに、その品質の達成に向けてファイ ルデータベースに関して実施するべき事項を以下に掲げる。 • 時間効率性  実行時性能に注意する。基本性能に加えて、期待するデータ取得に至る最 終的な実行時性能に注意する。 • 資源効率性  資源効率性を考慮してデザインする。 6.5.2 ファイル検索コンポーネント ファイルデータベースに入っているファイルデータが種々のデータ品質を満たして いても、ファイル検索コンポーネントがどのような検索を行うか（検索戦略）によって LLM 利用 AI システムの品質は大きく変わる。検索戦略が悪いと検索精度が低くなる。 有用なファイルデータを抽出できなかったり、実施中の処理に関して出力してはいけな いファイルデータを抽出してしまったりする恐れがある。 ６８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ファイル検索コンポーネントが行う検索の目的には LLM 利用 AI システムによって 様々な可能性があるため、検索戦略について一般的なことを言うのは難しい。例えば、 比較的よく用いられる検索の目的は、LLM 利用 AI システムに入力として与えられた問 いに「近い」データを検出することである。この場合、検索戦略として考慮しうる事項 としては以下が考えられる。 • 問いとデータの距離をどのように測るか • どのくらいの距離を近いとみなすか • 最大何件のデータを検索結果として採用するか また、ファイルデータベースから検索してプロンプト構築コンポーネントに渡す情報 がプライバシー、著作権、公平性などに関する問題を起こさないよう設計しなければな らない。 LLM 利用 AI システムが満たすべき品質項目ごとに、その品質の達成に向けてファイ ル検索コンポーネントに関して実施すべき事項を以下に挙げる。 • 機能要求満足性  LLM 利用 AI システムの機能要求水準を満たすのに十分な検索精度を確保 する。多くの場合、想定される問題領域のなるべく多くの範囲で一定以上 の精度が出ることがよいとされる。 • フェイルセーフ性  LLM 利用 AI システムの用途から想定される問題領域の中で、高い安全性 が求められる部分に関して、十分な検索精度を確保する。  ファイル検索コンポーネント自体もしくは後段に置くプロンプト構築コ ンポーネントにおいて、検索結果が LLM に渡してよい情報かどうかを判 定し、不可の場合、後段に渡さないようにデザインする。 • プライバシー  ファイルデータが情報プライバシー権や著作権にしたがって利用制御さ れている場合、データ利用に関わる権利を侵害しないことを確認しなけれ ばならない。データ匿名加工の方法で、データの利用に関わる問題に対策 してよい。 • 公平性  ファイルデータが要配慮属性を含むデータの場合、バイアスによって権利 侵害が生じないことを確認しなければならない。データ匿名加工の方法で、 要配慮属性の利用に関わる問題に対策してよい。 ６９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6.5.3 ファイルデータの品質 ファイルデータの役割は LLM 利用システムによって異なる。 ファイルデータは、 LLM 利用 AI システムの目的、要件、仕様に応じて決まるデータ品質を満たす必要がある。 社内規定など、明示的な指示を表すファイルを扱う場合、その一言一句が個別に重要 なので、ファイルを分割してできる各ファイルデータの品質が重要であり、データセッ トとしての分布を考える余地がない。また、営業における顧客情報や、人事における業 績査定情報など、組織の活動状況を表すデータの集積の場合も、各データが実態に即し ていることが重要であって、データセットの分布を操作する余地がない。 一方、一般的な知識を表す事例集として構成されたデータセットを扱う場合も考えら れる。そのようなデータセットには、学習用データに求められるのと同様に、代表性と 標本選択性のトレードオフが求められる。LLM 利用 AI システムが対処しようとする問 題領域を分析した結果得られる問題領域の区分のうち、安全性や公平性の実現のため重 要な区分については、安全性や公平性を実現するのに十分なだけの量のデータを確保す る必要がある（代表性）。一方、そうすることにより、現実における事象の分布とデー タセットの分布が乖離すると、LLM 利用 AI システムの判断の精度が下がる恐れがある （機能要求満足性）。 6.5.3.1 個々のファイルデータの品質 • 正確性、完全性、一貫性  意図されたデータの性格（自然言語文なのかプログラム断片なのか、など） に応じて、これらの品質を保証する。たとえば、既存文書に由来するファ イルデータの場合、既存文書の内容に照らし、正確で、欠損がなく、一貫 していることを保証する。 • 信憑性、最新性  当該データの来歴に関わるメタ情報を確認する。  データ量が膨大になると、信憑性や最新性を満たさないデータが混入する 可能性が大きくなることに注意しなければならない。 • 精度  「トークン化（Tokenizers） 」や「埋め込み（Embeddings） 」を用いる場合 には、それに用いる具体的手法の選択に注意しなければならない。例えば トークン化が多言語に対応していないと、対応言語以外の言語について不 適切なトークン化が行われる(A1.2.1.4 節)。 • 利用性 ７０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001  当該 LLM 利用 AI システムにおけるデータの利用目的に照らしてデータ が利用性を満たすか否かを決定しなければならない。 • 標準適合性  当該 LLM 利用 AI システムが準拠する規則にしたがわなければならない。 プライバシーや著作権を保護する法律への適合性もここに含まれる。 6.5.3.2 ファイルデータのデータセットとしての品質 • 代表性、標本選択性  ファイルデータが一般的知識を表す事例集として使われるデータセット を含む場合、代表性と標本選択性のトレードオフにどう対処するかを、 LLM 利用 AI システムの用途を考慮して決める。 • 重複性  規定文書など、全体としてひと塊の情報を表す大量のデータを分割してフ ァイルデータベースに保持する場合、ある区分と隣接する区分でデータの 一部を共有し、問い合わせ応答に対する変化が滑らかになるようにする。 • 来歴性、最新性  外部のデータセットをファイルデータとして利用する際に、事前に、当該 データセットの来歴性および最新性を調べて、利用目的と整合しているこ とを確認する。 • 文脈整合性  外部の複数のデータ源から外部データを整備する場合、組み合わせる外部 データの文脈整合性を確認する。  訓練時に学習済みで LLM が保持する内部知識と、RAG で導入する外部デ ータの文脈整合性を確認する。ファイルデータと内部知識が共通する話題 を参照している可能性がある場合を考慮する。共通性がある場合、両者の 意味内容がアラインしているか、互いに矛盾するか、などの影響が生じう ることを考慮する。 • 時制整合性  LLM 本体のモデル訓練時の学習データセットが陳腐化している可能性が あるとき、データ最新性の問題を解決する外部データを RAG で導入する。 一般には、ファイルデータと内部知識が矛盾する場合があり、ファイルデ ータの内容が優先されるようにする。 6.6 外部連携コンポーネント 外部連携コンポーネントは、LLM からの出力を受け取って、そこに外部サービスの 呼び出し要求が含まれている場合、そのサービスの呼び出しを行う。そして、呼び出し ７１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 の結果として得られた応答を、後段のコンポーネントに渡す。多くの場合、後段のコン ポーネントを介して応答が同じ、または別の LLM に渡るようにする。外部サービスの 呼び出しを行うため、外部連携コンポーネントはいくつかのプラグインツールを備える。 外部連携コンポーネントによって呼び出す外部サービスの役割には様々なものが考 えられるが、以下のように大別することができる。 • 外部から情報を取得する。 • 外部に情報を提供する。 • 外部の状態を変更する。 これらの役割を踏まえて、LLM 利用 AI システムの品質に対する影響を考慮し、管理 策を実施する必要がある。外部から情報を取得する場合、その情報がシステムに問題を 引き起こす可能性を考慮する。外部に情報を提供する場合、その情報が守秘義務を伴う 可能性や、提供先で問題を引き起こす可能性を考慮する。外部の状態を変更する場合、 変更対象に与える影響だけでなく、その変更が LLM 利用 AI システムのユーザーや運 用者にもたらす責任について考慮する。 外部連携コンポーネントによる入出力が問題を生じる可能性への対策は、設計時の他 のコンポーネントでの取り組みに加えて、外部連携コンポーネントにおいて実行時に行 う必要がある。外部連携コンポーネントを介した入出力は、LLM 利用 AI システムの入 出力の一環であるが、他の入出力と違い、どの連携先とどんな情報をやりとりするか、 などの入出力条件を実行時に LLM に決めさせるのが特徴である。LLM の振る舞いに不 確定性があるため、LLM が決める入出力条件が問題を生じないことを設計時には保証 できない。そのため、実行時に外部連携コンポーネントで対策する必要がある。 LLM 利用 AI システムが満たすべき品質項目ごとに、その品質の達成に向けて外部連 携コンポーネントに関して実施するべき事項を以下に挙げる。 • 進行性、可用性  • 外部サービス呼び出しにタイムアウトを設ける。 説明性  外部データを、後段で LLM によるコンテンツ生成に使う場合、生成コン テンツの正当化理由として使えるよう、外部データにその出自を添えて後 段のコンポーネントに渡す。 • アクセス制御性  プラグインツールの実行（利用）に際して、当該プラグインツールに期待 ７２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 される利用許可条件にしたがったアクセス制御をデザインする。  事前に当該プラグインツールに付された情報（SBOM 等）を確認し、外部 連携としての利用可否を判断しておかなければならない。 • プライバシー、公平性  外部データが情報プライバシー権や著作権にしたがって利用制御されて いる場合、データ利用に関わる権利を侵害しないことを確認しなければな らない。データ匿名加工の方法で、データの利用に関わる問題に対策して よい。  外部データが要配慮属性を含むデータの場合、バイアスによって権利侵害 が生じないことを確認しなければならない。データ匿名加工の方法で、要 配慮属性の利用に関わる問題に対策してよい。 • 安全性  外部連携コンポーネント自体または後段に置くプロンプト構築コンポー ネントにおいて、外部データを、LLM に入力するかどうかを判定し、不可 の場合、後段への入力を抑止するようにデザインする。入力フィルター(6.5 節)の適用を検討する。  外部に提供するデータが提供してよいものかどうかを判定し、不可の場合、 外部への提供を抑止するようにデザインする。 出力フィルター (6.8 節) の 適用を考慮する。提供してよいかどうかは、データの内容だけでなく、提 供先や提供時期など様々な条件に依存することに留意する。 • サイバーセキュリティ―  第 7 章を参照。 6.7 入力フィルター 入力フィルターは LLM に入力するべきでない情報を検知し排除する。入力フィルタ ーは、プロンプトに組み込むために LLM 利用システムの外から運用時に取得する情報 に適用する。例えば、ユーザー入力と、外部連携コンポーネントが返す値が該当する。 しかし、入力フィルターに検知させたい種類のユーザー入力を高精度に検知するのは 一般に難しい。その原因の一つは、検知させたい種類のユーザー入力を明確に定義する のが難しいことにある。その問題を克服する手段として、LLM にその検知を行わせる 手法が用いられる。うまくいけばかなり有効であるが、入力フィルター自体の品質マネ ジメントが難しくなる難点がある。 また、どんな情報を入力フィルターで検知し排除するべきかは、LLM 利用 AI システ ムの用途や要件に依存する。 ７３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 LLM 利用 AI システムが満たすべき品質ごとに、入力フィルターで実施するべき事項 を以下に挙げる。 • プライバシー、公平性、安全性  LLM 利用 AI システムの用途や要件に照らして必然性がないプライバシー に関わる情報を検知し、排除する。  LLM 利用 AI システムの用途や要件に照らして必然性のない、プライバシ ーに関わる情報の出力、バイアスを反映した出力、危険な出力に対する要 求を検知し、排除する。 • サイバーセキュリティ  第 7 章を参照。 6.8 出力フィルター 出力フィルターは、LLM が生成した出力から、LLM 利用 AI システムの外に出すべ きでない情報を検知し排除する。LLM の動作に不確定性があるため、他のコンポーネ ントでの取り組みだけでは LLM の出力に LLM 利用 AI システムの外に出すべきでない 情報が含まれないことを保証するのが難しい。そこで、最後の砦として出力フィルター を用いることを考慮する。 LLM 利用 AI システムが満たすべき品質項目ごとに、その品質の達成に向けて出力フ ィルターに関して実施するべき事項を以下に挙げる。 • 説明性  • 生成コンテンツに正当化理由を補う。 否認防止性  LLM の直接あるいは間接的な出力コンテンツに対して、 「AI 技術利用」を 示すメタ情報を付加し、後段コンポーネントに出力する。対象コンテンツ が画像の場合、透かしを画像に挿入する方法がしばしば採用される。  当該の LLM 利用 AI システムに関わる規制法にしたがって、否認防止性を 達成しなければならない。 • 安全性、プライバシー、著作権、公平性  LLM 内部知識として保持されている情報が、LLM 利用 AI システムの用 途に照らして安全性を損なう情報、パーソナルデータ、著作権にしたがう データ、あるいはバイアスと関わる場合、当該データの漏洩を防止する一 般的な対策を講じることは難しい。出力コンテンツに対するフィルター機 能を導入し、それぞれ、安全性を損なう情報、想定外のパーソナルデータ ７４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 漏洩、著作権者の権利侵害に相当する出力、あるいは想定外のバイアスの 出力を防ぐようにデザインする。 • 移植性  LLM は、同一の開発組織によるシリーズ版であっても学習パラメータ規 模によって能力が異なり、同一プロンプト入力に対して、同じ機能振舞い を保証するわけではない（機能振舞いの揺らぎ） 。LLM への入力に関わる プロンプトならびに出力フィルターに関わるデザインと組み（トリプレッ トパターン）にして移植性を評価しなければならない。 6.9 HMI コンポーネント LLM 利用 AI システムが満たすべき品質項目ごとに、その品質の達成に向けて HMI コンポーネントに関して実施するべき事項を以下に挙げる。 • インタラクション性  自然言語インタフェースが主となる LLM 利用 AI システムでは、エンドユ ーザーが習得している、あるいは使っている言語の違いを考慮してデザイ ンする。  カラー画像インタフェースが主となる LLM 利用 AI システムでは、エンド ユーザーの色彩への知覚の度合いを考慮してデザインする。 • 可制御性  システム運用者であるユーザーが、LLM 利用 AI システムの動作振舞いを 中断あるいは停止可能なようにデザインしなければならない。  エンドユーザーが、LLM 利用 AI システムの動作振舞いを中断あるいは停 止可能なようにデザインする。 • 説明性  エンドユーザーの要求がある場合には、可能な限り出力の正当化理由を提 示できるようにデザインする。 • 習得性  LLM 利用 AI システムでは、UX からの HMI デザインが関わる。HMI を 実現するコンポーネントでは、GUI 対話部品の提供機能と目的を明示した デザインを行う。  一般に、自然言語インタフェースは、他の手段を用いるシステムに比べて、 習得性が向上する。一方、習得している、あるいは使っている言語が、エ ンドユーザーによって異なる場合、アクセシビリティ（4.3.2 節）の観点か ら多様な言語に対応したデザインを行う。 • アクセス制御性、真正性 ７５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001  LLM 利用 AI システムの目的と用途によっては、ユーザーを認証して、認 証を通らないユーザーの利用を拒否しなければならない。これによって、 ユーザー入力プロンプトの来歴が明らかになる。 • 介入性  • ユーザーが介入指示できるような対話インタフェースをデザインする。 入力制限性  ユーザー入力情報を制限あるいは限定することで、入力フィルターの役割 を果たすようにデザインする。 ７６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 7 LLM 利用 AI システムのセキュリティ対策 第 2 章と 4.4 節に記載されている内容を元に実際の設計開発におけるセキュリティ対 策に向け留意しておくべき事項を述べる。セキュリティリスク分析や管理策立案のため に考慮・検討するべき項目は製品やサービスによって千差万別であるため、本書では「考 慮・検討すべき項目」を考える上でのヒント・道標となる情報を紹介するに留める。 なお本章では、情報セキュリティにおいて継承されてきた「攻撃によって被害が発生 すること」を前提として記述する。LLM 利用 AI システムでは、生成 AI の特性によっ て攻撃がなく脆弱性のみによって被害が発生する場合がある。そのような問題は、安全 性(4.5 節)の一部として捉える。 7.1 LLM 利用 AI システムにおけるセキュリティリスクの分析 LLM 利用 AI システムにおけるセキュリティリスクを紹介する。以下の観点や攻撃事 例を元に脅威と脆弱性を洗い出し管理策を施行すればよい。なお、対象とするシステム に固有に想定される攻撃事例を追加・選択する必要がある。 7.1.1 生成 AI 固有のセキュリティリスクの存在 生成 AI の特性に強く依存するリスクについては個別に脅威と脆弱性を分析し、脅威 と脆弱性それぞれに対して管理策を講じる必要がある。本書で定義しているコンポーネ ント品質・データ品質の各項目が攻撃対象となり得る。 7.1.2 注意するべき攻撃界面 LLM との入出力 I/F が攻撃界面となる。LLM と、入力データ・プロンプト（システ ムプロンプト・ユーザプロンプト両方）・RAG のために導入するソフトウェア・プラグ インの間の I/F が攻撃界面である。入力データ・プロンプトの監査は「サニタイジング」 「フィルタリング」と呼ばれる。入力の対象が HMI・プラグイン・そのほかのライブラ リやプログラムのいずれについても十分なサニタイジングが必要である。 ７７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 7.1.3 被害の出方の違い 従来の情報セキュリティの基礎概念である「情報資産に脆弱性があるときに、脅威が 脆弱性を襲うことを攻撃と呼ぶ」のみではなく、脅威がなくても脆弱性のみで被害が発 生することがあり得る。本章では従来からの「脆弱性があるところに脅威が襲いかかり 攻撃する」ことを前提とし、「脆弱性のみで被害が発生する」場合については安全性と して第 6 章で取り扱い、(7.3 節を除き)本章では取り扱わない。 7.1.4 レッドチーミングに対する要請 本ガイドラインは、第三者が開発・提供する LLM（基盤モデル）を再利用部品として 用いて、別途与えられた要求仕様を満たすべく開発する LLM 利用 AI システムに関わ る品質マネジメントを取り扱っている。LLM 自体の設計開発・設定やチューニングに 関わる分析は、FOR-LLM に関わることから、当該 LLM の品質マネジメントに直接関 与することができない。これは、セキュリティリスクアセスメントの結果を用いて機械 学習要素やモデルに関わる品質マネジメントを行なってきた従来 AI の場合と全く状況 が異なる。つまり、LLM を用いる WITH 開発において、セキュリティリスクアセスメ ントを実施し、その結果を元にレッドチーミングテストを行うことになる。 この時、LLM に対するレッドチーミング（モデル・レッドチーミング）と LLM 利用 AI システムに対するレッドチーミング（システム・レッドチーミング）を行うことに注 意して欲しい。前者のモデル・レッドチーミングは、LLM 提供者から得られる情報（お そらく提供者によるモデル・レッドチーミングの結果に基づく）に加えて、現開発対象 の LLM 利用 AI システムの要求仕様に即して実施したセキュリティリスクアセスメン トの結果から、追加して行うべきテスト（LLM を対象とするペネトレーションテスト） を実施する 30。後者のシステム・レッドチーミングは、LLM 利用 AI システムの構築後 に、当該システム全体に対して実施する 31。 30 選択した LLM は、FOR-LLM の段階で、一般的なレッドチーミングテストが実施され ていても、WITH-LLM の文脈で期待するレッドチーミングテストに合格するとは限らな い。たとえば、欧米文化圏で開発された LLM をアジアなどの異なる文化圏で利用・運用 する場合には、倫理・道徳上の懸念に関わる追加テストを必要とする。 31 たとえば、LLM 利用 AI システムの作動・運用環境（実行インフラ）から生じる脆弱性 を考慮した追加テストを必要とする。 ７８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 なお、セキュリティリスクアセスメントやモデル・レッドチーミングテストは早い段 階で実施することが望まれる。 7.1.5 生成 AI の性質に起因するセキュリティリスクの例 LLM 利用 AI システムにおいて注意するべきセキュリティリスク（攻撃）は色々ある が、その中で、AI 特有の性質に起因するものとして、プロンプトインジェクションがあ る。これは、プロンプトの一部として取り込まれる入力を工夫することにより、LLM に 想定外の出力を行わせる攻撃である。とりわけ、倫理的、法的、その他何らかの意味で “不適切”な出力を防止するための施策を LLM に回避させようとする試みはジェイルブ レイク (jailbreak)と呼ばれる。プロンプトに攻撃をどう埋め込むかにより、以下を区別 できる。 • ダイレクトプロンプトインジェクション：攻撃者が攻撃内容をプロンプトに直 接入力する攻撃。 • インダイレクトプロンプトインジェクション：攻撃者が攻撃内容を画像やファ イルなどで間接的に攻撃内容を与える攻撃。 • ペイロード分割：プロンプトを複数に分けて入力することで検出を逃れようと する攻撃。分割されたプロンプトは一見攻撃用のものと判別できないよう加工 されている場合がある。 • マルチモーダルインジェクション：攻撃プロンプトを書いた黒板を写真に撮り 画像を入力すると攻撃プロンプトとして機能することを悪用した攻撃。音声で も同様の攻撃が可能である。 7.1.6 セキュリティリスクアセスメントに際して 脅威と脆弱性の導出に当たり、以下の点に留意するとよい。セキュリティリスクアセ スメントの作業の流れについては機械学習品質マネジメントガイドライン第 4 版 [AIQMv4]の AI セキュリティ章と同様である。脆弱性のみで被害が成立する場合は安全 性のリスクアセスメントで取り上げること。 (1) アクセス制御性・介入性・真正性・責任追及性・否認防止性 ７９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 これらの性質は主に運用時に関係する。7.2 節で、これらの性質を機密性・完全性・ 可用性 32にブレークダウンすることができることを示す。ブレークダウンした内容を脅 威・脆弱性の割り出しや管理策導出に用いるとよい。 (2) AI 固有でないセキュリティリスク・従来 AI セキュリティのリスク AI 固有でないセキュリティリスクについては ISO/IEC 27005 の附表、従来 AI セキュ リティのリスクに対しては機械学習品質マネジメントガイドライン第 4 版の AI セキュ リティ章の定義を参考に脅威と脆弱性を割り出し、管理策を適用するとよい。本書では 詳細に述べない。 (3) 生成 AI 固有のセキュリティリスク 7.1.5 節などを参考に攻撃事例を挙げ、脅威と脆弱性を列挙し管理策を導出する。直 接 LLM に対策を施すことができないため、LLM の外部に入力を監視するシステムを設 けて、攻撃の元となるデータやプロンプトの入力に対してサニタイジングを行う必要が ある。サニタイジング技術は未成熟・これからの発展が期待されるものであり、技術動 向に注目する必要がある。 リスクの事例については以下の文献を参考にするとよい。[OWASP 2024] [DHS 2023] [NIST 2023] [NIST 2023b] [Google 2024] [OpenAI 2024b] [Anthropic 2024] [Meta 2023] 7.1.7 生成 AI の出力に関する注意事項 生成 AI においては、ステークホルダーが想定し得ない出力が得られる場合があり、 未知であった機密情報が検出・ばく露されるなど人の想定を超える被害が発生し得る。 このため生成 AI を含めたシステム全体の脆弱性分析の対象として生成 AI からの出力 に注意する必要があり、入力と同様に出力に対してもサニタイジングが求められる可能 性がある。 7.2 セキュリティの品質特性の扱い方 4.4 節は生成 AI 利用システムが満たすべき品質項目としてのセキュリティを示す。項 目としては、アクセス制御性・介入性・真正性・責任追及性・否認防止性を挙げている。 32 本節および 7.2 節で挙げている機密性・完全性・可用性は、情報セキュリティの文脈に おける意味で使っている。特に可用性は 4.2.5 節で挙げたシステムの機能振舞いに関する 信頼性の副品質特性とは異なり、攻撃から守るべきアセットの性質について述べている。 ８０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 これらは生成 AI 利用システムにおける生成 AI の特性・特徴を考慮した管理策として 有効な項目となっており、これらの特性が侵害される場合を機密性・完全性・可用性の 3 要素から考え、セキュリティリスクアセスメントに組み込むとよい。 セキュリティリスクアセスメント手法そのものについては、機械学習品質マネジメン トガイドライン第 4 版のものと同じでよく、脅威と脆弱性を洗い出す際に本書が定義し ているセキュリティの品質特性から機密性・完全性・可用性に対する侵害を導出すれば よい。 (1) アクセス制御性の侵害 利用許可条件にしたがって情報を保護し処理できること。 (2) 介入性の侵害 システム動作に対して外部から介入してシステムの状態を安定させるので、何らかの 被害が発生している場合の管理策として外部から介入することが適用できることを検 討する必要がある。 • 機密性の側面：なし • 完全性の側面：外部からの介入できない動作の発生 • 可用性の側面：外部からの介入できない状況の発生 (3) 真正性の侵害 制御対象とアクセス主体の身元が明らかであること • 機密性の側面：身元情報に機密情報が紛れ込む。 • 完全性の側面：取得した身元に関連する情報に抜け・漏れ・改ざんなどが発生 する。 • 可用性の側面：身元に関連する情報を取得できない状況が発生する。 (4) 責任追及性の侵害 LLM 利用 AI システムの出力コンテンツを生成した理由や要因を再現し提示できる こと • 機密性の側面：コンテンツを生成した理由や要因に機密情報が紛れ込む。 • 完全性の側面：コンテンツを生成した理由や要因に抜け・漏れ・改ざんなどが 発生する。 • 可用性の側面：コンテンツを出力した理由や要因が取得できない状況が発生す る。 ８１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 7.3 想定外の情報が出力に混入する事例 ここに挙げるのは、攻撃なしに脆弱性のみで被害が発生するため、セキュリティでは なく安全性(4.5 節)に関わるリスクであり、本章のスコープ外であるが、忘備のため挙げ ておく。 • 利用者に悪意がなくても蓄積された知識と入力されたデータから利用者が想 定できない内容（虚偽情報・新たな知見）が出力に入り込む場合があり、利用 者に想定しない被害をもたらす場合がある。 • プログラム・SQL クエリ・ファイルパス・送信する電子メールの文面を生成さ せた場合に、想定しない脆弱性が混入する場合がある。 • 学習モデルからステークホルダーが意図しない外部システムにアクセスする場 合がある。 • 意図せず脆弱性が混入したプログラムが出力される場合がある。 ８２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 8 おわりに 8.1 今後の改訂の方針 品質マネジメントの詳細は、対象 AI の技術的な特徴によって異なる。産総研の機械 学習品質マネジメントガイドラインは、識別 AI と予測 AI を主な対象とする。それに対 して本ガイドラインは、LLM を中心とする生成 AI を対象とし、LLM 利用 AI システム の品質マネジメントを取り扱う。今後、当該技術の発展に応じて、それぞれ改訂を進め る。なお、応用セクター向けファインチューニングに関する品質マネジメントは、組織 的な方策の比重が高いことから別に議論する。その他、強化学習に関わる品質マネジメ ントガイドラインの整備についても検討する。 8.2 LLM エージェントについて 2025 年初めまでに、最大手の LLM 開発者が、相次いで PC 内の操作や、Web ブラウ ザ経由でのネットワークサービスの利用を行うことができる LLM 利用 AI システムを サービスとして提供開始した。これらに留まらず、2025 年中には多くの企業でいわゆ る「AI エージェント」の開発が盛んにおこなわれるだろうという見立てが広まってい る。「AI エージェント」という表記は以前よりある AI ベースのマルチエージェントシ ステムの研究と紛らわしいため、ここでは LLM エージェント(2.1.1 節)と呼ぶ。 外部連携コンポーネント(6.6 節)を利用する LLM 利用 AI システムは、最も単純なケ ースを除いては LLM エージェントと見なせると思われる。しかし、LLM エージェント に特徴的な機能やその品質を主に担うのは、「オーケストレーション」であると考えら れる。今後、オーケストレーションの高度化を踏まえて、LLM エージェントの品質マ ネジメントの考え方を整理することが、本書の今後の改訂に向けた重要な課題の一つで ある。 ８３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 付録1 大規模言語モデルの特徴 本付録章では再利用開発モデル（3.2 節）の「機械学習技術」に関連する事項を参考 情報として整理する。LLM の原理的な性質（A1.1.1 節）と経験的な知見による LLM の 特徴（A1.1.2 節）を説明し、プロンプトによる LLM 制御の方法（A1.1.3 節）を概観す る。 A1.1 大規模言語モデルの仕組み A1.1.1 確率モデル LLM の典型的な使い方は、質問を入力し回答を得ることである。LLM の中核をなす 言語モデルは確率的な振舞いを示す。自然言語処理の問題に確率モデル[岡崎 2022]か らアプローチする。 一般には、文の構造的な構成を文法規則で表す。文を単語の列（並び）とすると、文 法規則は単語を並べる規則である。ここで、単語よりも一般的にトークン（Token）と し、文をトークンの列とする。 自然言語では、簡明な文法規則を定式化することが難しい。膨大な文例（コーパス） を収集し、実際の文を構成するトークンの共起関係を表す確率モデル（言語モデル）を 求める。複数のトークンが文の構成要素として同時に出現するとき、そのトークンには 共起関係があるという。共起確率が高いトークンから構成される文は、背景にある未知 の文法規則にしたがうと考えられる。LLM の生成は、大まかには、質問と回答を結合 したトークン列が大きな確率になる内容を出力することである。 A1.1.2 訓練学習 LLM は極めて大きなニューラルネットで表現した言語モデルであり、複雑な学習モ デルを用いることで、膨大な文から得られる多様な言語表現を総括的に表す。学習パイ プラインの模式的な説明図を示す（図 9）。 ８４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 図 9 学習パイプライン 次のようなステップで訓練学習し訓練済み学習モデル（bare LLM）を得る。 1. 訓練学習の土台となる学習コーパスを収集する。インターネットのクローリ ング（Crawling）によってデジタルテキストを集め、事前処理加工を行って学 習に用いるコーパスを得る。 2. 学習コーパスからトークン列に変換して学習データを構築する。 3. 自己教師あり学習の方法で学習モデルを訓練する。GPU クラウド環境などの 大規模計算基盤上で実行する。 LLM の訓練学習は、自己教師あり学習（Self-Supervised Learning）で行われ、代表的 な方法として、自己回帰学習の次トークン予測[GPT 2018]がある。まず、訓練データと して長大なトークン列を与える。先頭から処理していく方法で、走査済みトークン列の 次に出現するトークンが、訓練データ中の実トークンに一致する確率が大きくなるよう に、学習モデルを訓練する 33。この処理を訓練対象トークン列全体に行うことで、言語 モデルを学習結果として得る。なお、自己教師あり学習の問題設定は、次トークン予測 の他にも可能であり、マスク言語を訓練データとする穴埋め問題による学習方法[Devlin 2019]が知られている。 A1.1.3 出力生成 出力生成は、原理的には、言語モデルからサンプリングの方法でデータ（トークン列） を得ることである。ランダムサンプリングの場合、何らかの文が生成されるだけで、言 語モデルの有用な使い方とはいえない。出力の促進指示（プロンプト）として、テキス ト断片を表すトークン列を与え、言語モデルから後続トークンをサンプリングする。出 現確率が大きい後続トークンを選べば、確率的に尤もらしいトークン列になる。求めた 生成トークンを列に追加し、これを新たなテキスト断片として、さらに続く文を完成す る過程を繰り返す。 33 誤差関数（ Loss Function ）を最小化する。 ８５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 原理的には、後続トークン選択に際して、出現確率をもとにトークンを決めれば良い。 しかし、予測確率の高いトークンを順番にサンプリングして繋げるだけでは、出力文（ト ークン列全体）の内容が尤もらしいかという点で不十分なことが多い。そこで、計算効 率を考慮して、デコード手法のヒューリスティクスを考える。具体的な方法として、貪 欲探索（Greedy Search）、ビーム探索（Beam Search）による制御などがある。また、出 力層の確率計算に温度（Temperature）付き softmax 関数を用い、温度パラメータ値 T に よって出力制御する方法が使われる。 温度パラメータ T を 0 にすると出力層の計算が確定的になるが、言語モデルの推論 実行に関わるさまざまな要素から唯一に定まることがない。GPU オペレーション、メ モリ参照パターン、数値計算精度などによる非決定性の影響を受ける[Riach 2019]。ま た、サンプリングのランダム性も非決定性を生じる原因となる[Gawlikowski 2022]。 LLM の振舞いについて考える場合、プロンプトを質問や問い合わせと解釈すると、 生成文が回答で、チャットボットや Q&A システムの雛形になる。また、プロンプトに 英語の文を与えて対応する日本語の文を得れば、英日自動翻訳の機能を示す。さまざま な自然言語タスクを実現することができる[McCann 2018]。 A1.1.4 基盤モデルとしての LLM LLM は、自然言語処理のさまざまな応用を実現する後段タスク（Downstream Tasks） で使われる、すなわち再利用される基盤モデル（Foundation Model）[CRFM 2021]の役割 を果たす。 基盤モデルの LLM を FOR 開発の成果物とする時、特定の応用機能を提供する後段タ スクの開発は、事前訓練済みモデル（Pre-trained Model）である LLM を流用し、当該タ スク向けの学習データを用いた転移学習[Tan 2018]による WITH 開発になる。 また、LLM 自身を単独で用いる文脈内学習（In Context Learning）の方法[Brown 2020] の場合、LLM は厳密な意味での基盤モデルではない。一方で、文脈内学習を微調整（Finetuning）とみなすこともできる[Dai 2023]。さらに、LLM の技術的な特徴が禍いし、LLM 単独で、一般に期待する応用機能を実現することができない場合がある。後段での開発 作業（LLM 利用ソフトウェア開発）によってユーザーが利用するアプリケーション開 発を実施する必要性があるという意味で、広義の基盤モデルといえる。 ８６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 A1.1.5 学習アーキテクチャ LLM は ニ ュ ー ラ ル ネ ッ ト ワ ー ク の 学 習 モ デ ル と し て ト ラ ン ス フ ォ ー マ ー （Transformer）[Attention 2017]の亜種のデコーダー・トランスフォーマー（Decoder-only Transformer）を用いる[GPT 2018]。模式的な学習アーキテクチャを図 10 に示した。 図 10 デコーダー・トランスフォーマー この学習アーキテクチャの構成要素は、埋込み処理、トランスフォーマーブロック、出力処 理に大別でき、また、トランスフォーマーブロックは、マルチヘッドアテンション処理とフ ィードフォワード処理からなる。N 層に積み重ねたトランスフォーマーブロックに続く最 後の出力層が生成列を構成するトークンの出現確率を返す。 既存 LLM をモデル規模で比較することが多い。LLM のモデル規模はトランスフォー マーを構成する学習パラメータ数で表現される。図 10 を参照して、規模の見積もり法 を示す。LLM 規模の概算値に影響する主なパラメータを • トークン（語彙）数：V • 内部状態数：D • トランスフォーマーブロックの層数：N とする時、標準的なデコーダー・トランスフォーマーの学習アーキテクチャでは、 • 埋込み処理：V×D • マルチヘッドアテンション処理：4×D2 • フィードフォワード処理：8×D2 • 出力処理：V×D となる。LLM モデル規模という場合、出力処理を含めないことが多い。そこで、 概算値 = V×D + 12×D2×N ８７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 で、たとえば、V=4×104、D=212、N=32 だと、6.6×109（6.6B）になる 34。 A1.2 大規模言語モデルの特徴 A1.2.1 経験的な知見 LLM の機能振舞いについて、原理的な面からの理解が進んでいるわけではないが、 多くの実験を通して経験的な知見が整理されている。 A1.2.1.1 定量的な分析 定量的な分析に関連して、スケーリング則が成り立つとされている[Kaplan 2020]。多 層のトランスフォーマーブロックから求めたモデル規模を M（=12×D2×N）、訓練デ ータに用いたトークン列の長さを T、訓練学習に費やす計算実行時間を C とする 35。誤 差関数 L が、各々のパラメータの冪乗にしたがって改善される、つまり、L∝1/Xα（X ∈{M, T, C}）の形になるという経験則である。 LLM の規模 M がある閾値を超えると、小さい言語モデルに見られなかった機能振舞 いを示すという観察もある。ベンチマーク問題でプロンプトに対する評価指標 P を測定 したところ、P∝Mαに比べて P の値が向上する。多層のトランスフォーマーブロックを 構成する学習パラメータが示す自由度が組み合わさり、全体が揃って振る舞うと考え、 創発的な振舞い（Emergent Behavior）と呼ぶ[Wei 2022]。一方で、この創発性は、規模 M に対して非線形性を示す評価指標 P を用いたことが原因で現れた「蜃気楼」であるとい う研究報告もある[Mirage 2023]。現時点で、産業界では、スケーリング則と創発性が成 り立つと仮定し、より規模の大きい LLM 開発を行うというビジネス上の意思決定の拠 り所にしている。 A1.2.1.2 大規模化の限界 規模を大きくすると、当然のごとく、計算の手間が膨れ上がる。たとえば、現在の計 算機性能を基準として考えるとき、現実的な経済コストで、どのくらいの規模のモデル 訓練まで可能かという疑問が生じる。また、一般にソフトウェア開発が知識集約型であ 34 GPT-3（6.7B）の概算値[Brown 2020] 35 C〜6×M×B×S、B はバッチサイズ、S はエポック数で、C の単位は FP-day（8.64× 1019 floating-point operations） 。 ８８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ることを考えると、研究開発スタッフの人的なコストも経済的な観点からの議論では重 要になる。 文献[Cottier 2024]は、2015 年 10 月から 2023 年 12 月の期間に開発された大規模言語 モデルの公開情報から、モデル訓練に要する計算機コストと開発の人的コストを抽出し、 フロンティア基盤モデルの開発コストを見積もった。計算機コストはクラウドレンタル の場合（OpenAI 社・Anthropic 社など）と独自 TPU 基盤の場合（Google 社など）で共 に年に 2.4 倍の増加率を示す。前者の場合、2027 年には 10 億ドル規模のコストに達す ることがわかった。また、開発の人的コストは、試行錯誤を含む実験・微調整・評価の 開発全般にわたる工数から推定した。その結果、全体に対して人的コストが 30 から 40% の割合を占める 。技術市場の寡占化が進む要因の一つになる 36。 もう一つの観察として、入手可能で有用なデータを使い尽くしてしまうという予測が ある。新たな学習データを得ることが難しくなり大規模化が限界を迎える[Villalobos 2024]。素朴には、生成 AI で合成したデータをモデル訓練に用いることで、この問題を 解決できるとする意見がある。しかし、合成データは、訓練データの特徴（確率分布） を近似的に学習した生成モデルからのサンプリングによって得られることから、尤度が 大きいデータが合成される確率が高い。この生成・学習の過程を繰り返すと、学習内容 の多様性が失われ、モデル崩壊が生じることが指摘されている[Shumailov 2024]。一般に 知られている「エコーチェンバー」と似た状況であり、その訓練結果として得られるモ デルは、多様性を失い、理論的に常に同じデータを生成するようになる。 技術的には、大規模化と逆の傾向として、モデルマージ（Model merge）手法の研究が 進んでいる。これは、異なる機能で良い性能を示す中規模モデルを組み合わせて、複合 的な機能を提供するモデルを合成する方法、「３人寄れば文殊の知恵」である。開発コ スト見積もり上、中規模モデルの開発であれば経済的に実行可能であり、また、モデル マージ処理は訓練を伴わないことから、計算機コストを削減できる。一方で、技術的に は、どのようにマージ（重ね合わせ）するかの系統的な方策はなく、試行錯誤によるマ ージと評価の繰り返しにならざるを得なかった。進化的モデルマージ[Akiba 2024]は、 進化計算を利用して、マージと評価を自動化する枠組みを導入した。特に、オープンソ 36 AWS 社からの Anthropic 社への出資（Claude 開発）は 2024 年 4 月までに 40 億ドルに のぼる、と報道されている。 ８９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ースとして開発された多彩なモデルを、目的に応じて、適宜選択しモデルマージすると いう新しい開発パラダイムにつながると期待されている。 大規模モデルが目的に適したサブモデルの集まりとして構成されるという発想は MoE（Mixture of Excellence）にも見られる。MoE は学習モデル全体が専門性の高いサブ ネットに分割されるという仮説に基づいて、訓練に関わる計算の効率向上からのアプロ ーチである。訓練時に更新対象の大規模モデルを局所化するというアイデアに基づく。 膨大な学習トークンの中から当該サブネットの訓練に有用なトークンを選択し、訓練対 象（学習パラメータ数）の規模を適正に保つことである。トークンを基に対象サブネッ ト候補を選ぶ戦略[Shazeer 2017]とサブネットが対象トークンを選ぶ戦略[Zhou 2022]が ある。後者によってトランスフォーマーアーキテクチャのファインチューニング時に良 い性能を示したことが報告されている。また、中国のベンチャー会社 DeepSeek は、MoE の考え方をトランスフォーマーアーキテクチャに対して全面的に採用し、さらに、計算 効率を向上させるモデルアーキテクチャ上の様々な工夫を加えて、LLM 訓練に関わる 計算資源（GPU）を大幅に低減した [DeepSeek-AI 2024]。 LLM の「推論」実行時 37に、生成するコンテンツのデータ分布を動的に適応させる 方法が提案されている[Snell 2024]。入力プロンプトの内容に応じた適応の方策を決定す るテスト時計算を追加する。規模の異なる訓練済みモデルを準備し、数学問題に対して、 テスト時計算を補った小規模モデルと 14 倍の規模のモデルを比較したところ、同等の 正解率が得られることを実験で確認した。推論能力の向上に大きく寄与する。 A1.2.1.3 定性的な分析 次に、表 2 は定性的な観点の特徴 を整理したものである[Chang 2023]。さまざまな プロンプトを入力し LLM の出力を調べたもので、外部観測による振舞い評価といえる。 表 2. LLM の定性的な特徴 1. 一般に文法的に正しいテキストを生成する。 2. 主語と動詞の一致を学習するが、節や特定の単語が間にあると影響を受けやすい。 3. 訓練の早い段階で構文規則を学習する。 4. 明示的な位置情報がなくても語順を学習できるが、多くの例で語順は必要ない。 5. 論証構造、同義語、多義語など、個々の単語の意味的複合的特性を学習する。 37 機械学習分野の習慣で「テスト時（Test-time）」と呼ぶ。訓練データに対するテストデ ータと同じニュアンスの「テスト」である。 ９０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 6. 否定をうまく扱えず、モデルの規模が大きくなるにつれて悪化することが多い。 7. 一貫性はあるものの脆弱な状況モデルを作るように思える。 8. 基本的なアナロジー、メタファー、比喩表現を扱うように振舞う。 9. テキストの登場人物の心理状態を推測できるが、含意された意味や用法の扱いには苦戦 する。 10. モデルの規模が大きくなるにつれて、事実や対象の常識的な性質を学習するが、物理的 な性質は人間ほど敏感ではない。 11. 事実の学習は、コーパス中の文脈だけでなく、事実の出現頻度に影響を受けやすい。 12. 限定的であるが、アクションやイベントに関する常識推論の自明でない能力があるよう に振舞う。 13. プロンプトを工夫することで基本的な論理推論を行えるが、複雑な推論には依然として 苦戦する。 14. 特定の入力に限って、数値推論や確率推論の基本的な能力を示す。 15. 規模が大きくなるにつれて、学習コーパスから丸暗記したテキストを生成する可能性が 高まる。 16. 入力プロンプトが指定する文脈と整合性があり、学習コーパスにないテキストを生成す る。 17. 目的を定めたプロンプトによって、攻撃的なテキストやヘイトスピーチを生成すること がある。 18. 私的な情報を晒す可能性があるが、多くの場合、特定の個人に結びつくことはない。 19. 人口統計グループ間で、実性能および有害テキストの発生確率が異なる。 20. 性別、性的指向、人種、宗教、などの人口統計学上の属性に関わる有害なステレオタイ プを反映する。 21. 事実と異なる内容や、安全でない助言を強い説得力で生成できる。 22. 生成テキストを人間が作成したテキストと区別することは難しい。 23. LLM の “個性”や政治性は、入力プロンプトが指定した文脈次第である。 表 2 で、1 から 5 と 22 は LLM が基本的な言語処理を実現していることを示す。6 か ら 10 は語用法や意味的な処理に関わる。11 から 14 は推論能力が限定されていること を示す。15 は逐語記憶、16 と 23 はプロンプトの役割が大きいことを表す。17 から 20 はプライバシーや公平性に関わる倫理的な負のリスクが生じること、21 はハルシネー ションを指す。22 は出力内容がフェイク情報の場合に負のリスクになり得る。6 や 15 はスケーリング則から期待される振舞いと異なり、規模が大きくなると共に不具合が増 す現象である。スケーリング則は好ましい結果を導くとは限らない。LLM を利用する 立場から考えると、規模と素朴な好ましさはトレードオフ関係にあることを示唆する。 ９１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 闇雲に大規模化が良いとするよりも、実現すべきアプリケーションやサービス機能の実 現に必要な振舞いを示す LLM を利用すれば良いだろう。 A1.2.1.4 数と漢字の難しさ 表 2 に示されていないが、ここでは、２つの点を追加する。第１は、「数」の取り扱 いである。対象文書に現れる「数」は「数」のテキスト表現であり、別途、数学的な対 象の「数」として解釈を適切に与えなければならない。しかし、通常のトークン化（図 9）は、「数」としての性質を考慮していないことが多い[Thawani 2021]。そこで、数値 演算が関わるようなプロンプトの処理は期待通りにならず誤答を生じることがある。 第２は、日本語などで現れる問題で、特に、日本語では、漢字の異体字の取り扱いが ある。異体字は、人名や地名に現れ、たとえば、「さいとう」の「さい」の漢字は、一 説によると 85 種類ある[森岡 2017]。初対面の場で、「『さいとう』は、漢字で、どの ように書くのですか」という質問が繰り返される。 トークン化（図 9）が対象とするデジタル文書は文字コード（Unicode）の並びであ る。ところが、手書きで 85 種類ある「さい」の漢字全てにユニークな文字コードが対 応するわけではない。そのいくつかは同じ意味を表すとして同一の文字コードにマップ されている。つまり、デジタル文書になった時点で、85 種類の違いを区別できない。こ れは、呼び方（音）で同姓同名であっても、元の手書き文書で異なる漢字を使っていた ２人が、デジタル文書の取り扱い上、同一人物になることを示唆する。すると、LLM は、 別人を同一人物とする情報に基づいたハルシネーションを生じる。 以上２つは、必ずしも LLM 自身の問題というわけではないが、利用者からみると、 LLM が奇妙な振舞いを示すように見える。したがって、LLM の定性的な特徴として説 明した。 A1.2.2 ハルシネーション 標準的な知識に照らして不適切な内容をハルシネーション（Hallucination）と呼ぶ [Siren 2023]。一般には、３つの種類に分けることが多い。 • 入力が指定する文脈から逸脱する（Input-conflicting） • 文脈内で矛盾が生じる（Context-conflicting） • 事実に反する（Fact-conflicting） ９２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 この中で、LLM では事実に反するハルシネーションは、LLM が自動的に生成するフ ェイク情報ともいえ、読み手の人間側に誤解を生じさせることから社会的な問題が大き い。ハルシネーションの原因は、LLM の訓練学習から内容生成までの複数箇所に見出 せる。 • 学習コーパスが相矛盾する情報（Misinformation）を含む • 訓練学習過程で不適切な相関（Spurious Correlation）が生じる • トークン予測機構の確率的な振舞いが原因となる 最初の２つは、従来、公平性に関連したバイアス除去を論じる際に考えた状況と同じ で、学習データならびに訓練学習機構がブラックボックス化していることと関連する。 一方、LLM でハルシネーションが生じる原因は、出力生成過程にもある。以下で直感 的な説明を示す。 出力途中時点での後続予測では、その文脈内で出現確率の高いトークンが選ばれる。 しかし、真実さ（Veracity）の確率が大きいとは限らない[Azaria 2023]。文脈上は整合し ているが、事実に反する不適切なトークンの確率が大きいことがある。これ以降の生成 過程では、この不適切なトークンを起点として整合性の高いテキストが続く。つまり、 不適切なトークンの早期選択確定（Early Commitment）に引きずられて、雪だるま式に ハルシネーションが膨れ上がる（Hallucination Snowballing）[Snowball 2023]。 上記からわかるように、LLM が事実に反するハルシネーションを生じる理由にはト ークン列予測の仕組みが関わる。したがって、さまざまな対策が講じられているものの、 完全にハルシネーションをなくすことは、実際上も原理上も不可能といえる。 A1.2.3 アラインメント ハルシネーションへの対応には、アラインメントの考え方で、LLM を再学習する方 法がある（図 11）。ハルシネーションを生じるプロンプトに対して「回答できない」 または「知らない」といった正直な内容（Honest Samples）を出力するように、適切な 訓練データセット（インストラクション学習データ）を準備し、教師あり学習の方法で 微調整（Supervised Fine-tuning）する[InstructGPT 2022]。元の基本 LLM（bare LLM）に 対して、アラインした LLM（aligned LLM）を得る。前者を得る過程を事前学習（pretraining）、後者に対して事後学習（post-training）と呼ぶことがある。 ９３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 図 11 インストラクション学習 一般に、利用者の意図に合う内容を出力するように調整することを、アラインメント （Alignment）と呼ぶ。絶対的な基準はなく、アプリケーションに依存した対策法である が、一般的な指針として、有用なこと（Helpful）、危険でないこと（Harmless）、正直 なこと・誠実なこと（Honest）の頭文字をとった３H の考え方[3H 2021]による。LLM に 対する具体的な方法として、RLHF（Reinforce Learning from Human Feedback）があり、 開発者の価値判断を報酬（Rewards）とし、強化学習（Reinforce Learning）の方法で訓練 する[RLHF 2023]。このハルシネーション対応には、次のような問題がある。 • インストラクション学習データ整備が困難 • 正直さと有用さのトレードオフ（Honest-Helpful Trade-off） また、アラインメントが、アプリケーションの目的から見て期待通りかは、別途、評価が必 要になる。AI 安全性の観点からアラインメントの標準データセットを整備する動きが活発 になっている（A1.4.2 項） 。 A1.2.4 訓練データ記憶 一般に、ニューラルネットワーク機械学習では、訓練データ記憶（Memorization）の 問題がある[Feldman 2021]。分類学習タスクなど識別 AI を対象とし、特定データが学習 に用いられたかを判定するメンバーシップ推定（Membership Inference）が可能なことが 実験的に確認された[Shokri 2017]。 LLM では訓練に用いたトークン列の漏洩が生じる[Carlini 2021]。その理由は、学習パ ラメータに現れる情報（Parametric Knowledge）が訓練データを忠実に再現する逐語記憶 （Verbatim Memorization）にある[Carlini 2023a]。これは、生成コンテンツが著作権違反 になるかの議論において、依拠性肯定に関する技術的な説明となる。同様な記憶の問題 ９４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 は画像生成 AI でも起きることが実験的に知られており[Carlini 2023b]、生成 AI 一般の 問題といえる。 LLM の逐次記憶は、訓練学習機構ならびに後続トークン予測機構と密接な関係にあ る。一連のトークンが塊として強く結びつくとき、そのトークンの並びを再現するよう に学習パラメータが決まる。生成時には、その一連のトークンが再現される確率が大き くなる。また、学習データの中に、ユニークな定数のトークン列がある場合、この一連 のトークンが塊として強く結びつくので、定数文字列は逐語記憶されやすい[Carlini 2019]。逐語記憶が直感に合った働きを裏付ける。 一般に、学習パラメータに現れる情報は、訓練に用いた学習データの経験分布に依存 する。同じテキスト（トークン列）が何度も学習データに出現すると、そのトークン列 が塊として強く結びつき逐次記憶されやすい。したがって、逐語記憶の対策は、学習デ ータの事前処理によって、重複除去（De-duplication）することである[Lee 2022] [Nasr 2023]。 重複除去は、逐語記憶を減らし訓練データ漏洩抑止に効果がある一方で、事実と反す るハルシネーションを増やす可能性がある。素朴に考えて、事実情報の出現頻度は、虚 偽情報よりも大きく、学習コーパス中で重複して出現しやすい。事実情報が重複除去さ れると、相対的に虚偽情報の割合が増え、学習コーパスがそもそも抱えていた矛盾の度 合いが増幅される。 このようなトレードオフ関係は、利用アプリケーションに即した評価が不可欠である。 また、適切な方法を実施したかを知るには、事前処理内容を、学習データの来歴情報と して明示しておく必要がある。 A1.2.5 学習コーパスの来歴 LLM においても、一般のニューラルネットワーク機械学習の場合と同様に、訓練デ ータが訓練済み学習モデルの機能振舞いを決めるベースとなる。適切性が重要であり、 矛盾する内容を含まないように訓練データを構築すれば良い。しかし、さまざまな応用 に使うことを想定し、汎用性を目指して学習コーパスを整備する場合、適切性を担保し た訓練データの構築作業は難しい。 LLM 構築では日常使っている文の用例を広範に収集することから、インターネット 上でアクセス可能な文書をクローリング（Crawling）で自動収集する方法を採用する[C4 ９５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 2020]。電子書籍、技術文書・特許文書、オンライン百科事典、ニュースメディア、オー プンソースソフトウェア（Open Source Software, OSS）のプログラムなどが、収集、整理 されて学習データに使われてきた。訓練データの特徴を簡明に文書化することは自明の 作業ではない [Datasheet 2020] [C4 2021]。 このような文書のソースは多様で、内容も玉石混交であり、そのすべての信憑性が確 認されているわけではない。膨大な文書の中には、矛盾する内容、相反する結論などが 混在する。訓練データ整備段階の事前処理によって、適切な文書だけを選び出せば良い。 しかし、何を適切とするかは、開発者の判断が関わる問題である。また、学習コーパス 規模が大きくなると共に、膨大な作業になり現実的でない。学習コーパス内文書のソー ス、事前処理の判断基準などを整理し、訓練データの来歴を明らかにしなければならな い。 LLM を含む生成 AI の訓練データでは、著作権に関わる問題が生じる。従来の識別 AI 開発では、著作物を学習データとして利用することは、フェアユースあるいは著作権の 目的外使用として、著作権者の許諾を必要しないとされている。一方、生成 AI の場合、 逐語記憶の問題から、訓練データの素材に極めて高い類似性を持つコンテンツが出力さ れ、著作権侵害の可能性が生じる。著作権のあるデータの取扱いを訓練データの来歴と して示すことで、依拠性の議論の客観性が高まると期待できる。 なお、ここでの著作権の話題は、生成コンテンツが著作物であるか否かとは異なる。 現時点では、多くの国で、生成 AI は法的に著作者ではないし、生成コンテンツ単独で は著作物にならない[Copyright 2023b]。 A1.3 プロンプトによる制御 A1.3.1 プロンプトの役割 LLM の基本的な振舞いは、入力プロンプトに対する出力テキスト生成である。プロ ンプトは字義上、処理促進のことを指す。LLM の技術分野では、入力として与えたト ークン列（テキスト断片）そのものをプロンプト（Prompt）と呼ぶ。プロンプトはトー クン列の生成条件を規定し文脈（Context）を指定する。つまり、トークン列は、与えた プロンプト下での条件付き確率で生成される。 ９６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 LLM から期待通りの有用な出力を得るには、適切なプロンプトを与える必要がある。 プロンプトの内容を構造化し、期待する出力が得られるように付加情報を与える。プロ ンプト中に与えた文脈の情報をヒントとして出力生成の方法を学習するように見える ことから、文脈内学習（In-Context Learning）と呼ぶ[Brown 2020]。特に、少数例示学習 （Few-shot Learning）は、質問と回答の組の例をヒントとして与える。このヒント情報 を教師あり学習の訓練データと見なし、少数例示学習が教師あり学習をエミュレートす ると考える[Dai 2023]。ヒント情報は実効的に訓練データと同じ役割を果たすと考える。 A1.3.2 プロンプトエンジニアリング 文脈内学習あるいは少数例示学習の方法によって、LLM の使い方が大きく変化した。 最早、LLM は後段タスク構築の基盤モデルではない。単独の機能コンポーネントとし て、事前訓練済みモデルの LLM を利用する方法が広まった。同時に、目的に応じてプ ロンプトを工夫する技法、プロンプトプログラミング（Prompt Programming）[Reynolds 2021]あるいはプロンプトエンジニアリング（Prompt Engineering）[White 2023] に関心が 移った。多くの場合、入力プロンプトが期待する出力を生成するか、試行錯誤的探索的 に LLM の挙動を調べる。 これまでに経験的に得られたプロンプト作成方針が整理され、5 つに分類されている [Bsharat 2023]。 • プロンプト構成のわかりやすさ • 具体性と情報の補足 • ユーザーとのやり取りとユーザー関与 • プロンプト内容と表現スタイル • 複雑なタスクとプロンプト書法 一方、プロンプトの具体的な表現は対象 LLM に依存する。用いる LLM ごとに、きめ 細かなチューニング、つまり、試行錯誤が必要なことに注意する。 複雑なタスクを実行させる時、プロンプトを系統的な方法で構造化する方法が有効な 場合がある。Chain-of-Thoughts（CoT）は、答えを導く思考過程の具体例をヒントとして 示すプロンプト書法であり、簡単な推論を必要とする問題に有効である[Wei 2023]。 Chain-of-Verification（CoVE）は複数のプロンプトを組み合わせて、LLM と対話的に、 回答を得る系統的な方法である。対象 LLM がハルシネーションを生じるかを調べるこ ９７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 とを目的とて考案された。本質的に同じ内容を質問の仕方を変えて実行させ、一連の出 力を総合して確認する[Dhuliawala 2023]。 一般には、LLM はブラックボックスの機能コンポーネントとして提供される。この 時、プロンプトを通して、LLM の振舞い検査あるいは動作を確認することになる。通 常のソフトウェアテスティングの場合と同様に、正常系に加えて例外系のテストケース を用いる。目的に合わせて工夫することで、さまざまなテストケースに対応するプロン プトを作成することになる。例外系テストケースでは、意図的に誤りを混入させたプロ ンプトを用いる方法を利用できる。 A1.3.3 外部情報の利用 学習パラメータに現れる情報は、訓練学習以降、更新されないことから、情報の新し さ（Newness）の問題がつきまとう。学習コーパス整備以降の新たな知見は、LLM に反 映されていない。この新たな知見が、一般に正しさを客観的に確認可能な科学的な知識 に関わると、LLM は最新情報を持たないことから、事実に反する正しくない応答を返 すことになる。情報の新しさの問題は、事実に基づく情報（Factual Knowledge）の不備 と関わり、ハルシネーションの原因になる。 文脈内学習の考え方によると、プロンプトは単なる出力の指示ではなく、期待するコ ンテンツの生成に必要な情報を与える、とする。プロンプトに新規の情報を埋め込めば、 LLM が持たない外部情報を出力生成に利用できるだろう。LLM の学習パラメータに埋 め込まれた内部情報をパラメータ情報（Parametric Knowledge）と呼ぶことがあり、これ に対して、LLM の外部から与えた非パラメータ情報（Non-parametric Knowledge）とい う。この外部情報は内部情報と組み合わせられて、出力生成に用いられるように見える。 ハルシネーション低減の効果を得られる場合がある[Shuster 2021]。 ところが、外部から与えた情報が目的とする内容出力に有用かは自明でない。外部情 報と内部情報の関係によって、生成出力が影響を受ける。 • 外部情報が内部情報にない追加の新規内容 • 外部情報が内部情報の補足となる内容 • 外部情報と内部情報が相反する内容 ９８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 １番目の場合、出力生成に際して、外部情報が優先されることが望ましい。２番目は 外部情報が補足的な役割を果たし、期待出力の生成効率向上を目的とする。３番目の場 合、一方が事実で他方が虚偽となる知識衝突（Knowledge Conflicts） が生じる[Mallen 2023]。 LLM 内部に埋め込まれた情報は所与であり、これを前提とし、アプリケーションの 目的に応じて、外部情報を選ぶ必要がある。しかし、訓練学習の結果である LLM の内 部情報を調べることは難しく、実際の状況を知ることは容易ではない。 そこで、適切な入力プロンプトに対する LLM の出力を調べる外部観測の方法に頼ら ざるを得ない。プロンプトに適切な外部情報を埋込み、その生成出力から内部情報を推 定する。仮に、訓練データに関わる情報が既知であれば、調査プロンプトを絞り込むこ とができ、実験作業の負荷を軽減できる可能性がある。訓練データの来歴を明示するこ との重要さを示す。 A1.4 基盤モデルとしての LLM（再考） ここまで、経験的な知見から得られた特徴を概観し、直接 LLM を利用するプロンプ トの役割をみてきた。以下、LLM をベースとして転移学習の方法で後続タスクを構築 する場合、すなわち、LLM が狭義の基盤モデルの役割を果たす場合について補足する。 A1.4.1 ファインチューニング 転移学習の基本的な方法では、事前訓練済み学習モデル M0 に対して、目的となる後 続タスク構築に必要な学習データセット D1 と、後続タスクを実現する学習モデル M1 を準備する。LLM の転移学習では、M0 と M1 の関係によって２つの代表的な方法があ る。 • チェックポイント（Check-point） ：M0 と同じ M1 に対して D1 の訓練を継続 する方法。M0 が M1 を訓練する際の初期値の役割を果たす。 • ファインチューニング（Fine-tuning） ：M0 に後続タスク固有の層を追加した M1 に対して D1 の訓練を行う方法。M0 に対応する層の学習パラメータは更新 しない。 実務上、チェックポイント後にファインチューニングするというように２つの方法を 組み合わせることがある。 ９９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 後続タスクを実現した訓練済み学習モデルは、期待するアプリケーション機能を提供 する。このようなドメイン特化 LLM をベースとして LLM 利用 AI システムを構築する ことで実用化する。一方で、振舞いの本質は LLM の特徴を示す。したがって、一般論 として、LLM が持つ不具合をなくすことは難しい。提供アプリケーションの目的に応 じて、適切な利用制限（Usage Restrictions）を明らかにすることが大切になる。 先に紹介したアラインメントでは、bare LLM を M0 とし、aligned LLM を M1 とする 転移学習を強化学習の方法で行った（図 11）。bare LLM を基盤モデルとする時、この アラインメントという後続タスクに対応する aligned LLM は、ハルシネーション対策機 能を施した LLM である。通常、公開される LLM は自明な不具合に対するアラインメ ントを実施済みである。LLM 利用ソフトウェア開発という場合、アラインされた LLM （aligned LLM）を用いるとする。 LLM 利用 AI システムの技術開発では、提供された LLM をブラックボックスの機能 部品として活用することから、当該システムの目的あるいは要求仕様を基準として、ガ ードレールとなる LLM 周辺コンポーネントのデザインの役割が大きい。 A1.4.2 オープンなデータセット整備 ファインチューニングの方法は、「ソフトウェア-WITH 開発」（3.2.2 節）で使われ、 適切な学習データ整備が成否に関わる。実際、アラインメントに際して、インストラク ション学習データセットを整備した。最近では、応用セクターごとに標準的な学習デー タあるいは評価ベンチマーク用データを整備する取組みが進められている。 AI ガバナンスの文脈で論じられている「安全性」は、AI がもたらす社会的倫理的な リスクの低減に関わる。不適切な機能振舞いを抑止するように、注意深く構築されたデ ータセットを整備することが大切である。社会的倫理的なリスクと関わることから、広 範なステークホルダーの協業による学習データ収集・整備が、AI 安全性に関わる国際 的な活動として進められている。 提供された LLM が不適切な機能振舞いを示さないか、どのような状況（プロンプト 入力）によって監獄破りが生じるかは、第３者によるレッドチーミング活動によるとこ ろが大きい。また、収集されたデータに適切なアノテーションを与えてデータセットを 整備する過程では、さまざまな社会背景・文化背景からのステークホルダーによる協業 が大きな役割を果たす。 １００ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 AI 安全性という公益性から見て、このようなデータセットは共通領域の技術であり、 実際、オープンな活動が活発になっている[Gallegos 2024]。国内でも大規模言語モデル の「安全性」に関わり、「要注意回答」を集めたデータセットの研究開発が進められて いる 。 実際、「機械学習-FOR 開発」では、「安全性」に関わるデータセットの整備と利用 が重要である。言語モデルの開発時に、オープンな標準データセットを用いて、「安全 性」を向上する作業を実施している事業者もいる。文献[OpenAI 2024]は、用いた「安全 性」の向上に関わるデータセットを一覧している。 １０１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 付録2 大規模言語モデル利用ソフトウェアシステム 本付録章では、LLM 利用ソフトウェア開発を対象として、エンジニアリング上の工 夫（A2.1 節）、コンポーネント指向開発の方法（A2.2 節）を整理する。 A2.1 エンジニアリングの工夫 LLM（アライン LLM）単独の利用では、プロンプトの工夫が大きな役割を果たすも のの、ハルシネーションや訓練データ漏洩といった基本的な不具合の回避が難しい。ま た、アプリケーションサービス構築に必要な機能が不足する。たとえば、出力結果をフ ァイルに格納するなど、LLM 利用 AI システムの動作環境に副作用を与える機能を考え る。LLM は、入力プロンプトに対して出力を求めるという関数的な振舞いを示す。フ ァイル書き込み操作を実現することはできず、LLM 外部でのプログラミングを必要と する。LLM を機能部品として用いるソフトウェアシステムをエンジニアリング上の工 夫で実現する。 これまで、さまざまな LLM 利用アプリケーション開発の知見から、LLM の不備を補 うように外部で工夫する機能が整理されてきた。主な５つの観点に対して、典型的な解 決パターン（Solution Patterns）が整理されている。 4. プロンプト補完：出力生成の制御に必要な情報をプロンプトに追加 5. 出力フィルター：生成内容が期待通りかを判定 6. データ最新性：新しい情報を取り込み出力生成に活用 7. オープンツール：特定機能を実現した外部ツールと連携（プラグイン） 8. 履歴メモリ：出力結果をフィードバックし入力 一般に、オブジェクト指向デザインパターンでは、複数パターンを組み合わせたデザ インからプログラムを作成する方法が実践されてきた。LLM 利用ソフトウェア開発で も複数パターンを適宜カスタマイズし組み合わせることは同じであるが、LLM の典型 的な解決パターンは粒度が大きい「コンポーネント」に対応する。LLM を抽象化して コンポーネント（言語モデルコンポーネント）とみなすと、LLM 利用ソフトウェアの デザインは、自然言語テキストのメッセージをやり取りするコンポーネントモデルとし て表現できる。 仮想的な LLM を表す言語モデルコンポーネントへの直接の入力はプロンプトである。 他方、HMI からの入力情報の取得や外部ツール連携では、プログラムを作成して情報を １０２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 加工する必要がある。簡単な例では、たとえば、少数例示プロンプトの一部をプログラ ム処理したデータに置き換えるなどがある。そこで、プロンプト中に「空き場所（Place Holder）」を配置したプロンプトテンプレートを準備しておくと、コンポーネントモデ ルに基づくデザインの見通しが良くなる。 従来からのソフトウェアデザインならびにプログラミングを組み合わせて、必要な機 能を構築することになる。LLM 利用ソフトウェアシステムの開発に際して、プロンプ トの工夫とプログラムの「すり合わせ」が必要で、プロンプトとプログラムをコデザイ ンする。 A2.2 コンポーネント開発 コンポーネントアーキテクチャをベースとする WITH-LLM の開発技術を概観する。 A2.2.1 トリプレットパターン LLM の基本的な使い方は、入力プロンプトにしたがった内容を出力することだった。 LLM 利用アプリケーションシステムでは、直接、LLM を使うことは稀で、LLM を言語 モデルとした基本形（図 12）の構成をとる。ここで、言語モデルは LLM を仮想化した コンポーネントであり、具体的な LLM をプラグインすると考える。 図 12 基本形となるトリプレット この時、開発対象の中心は期待する出力を得るプロンプトを求めることである。機能 要求を具体化し、探索的なプログラミング（Exploratory Programming）[Sheil 1983]と同 様に、試行錯誤を繰り返す。プロンプトプロトタイピング（Prompt Prototyping）である。 プロンプトを定型化できると、プロンプトの骨格を決める共通部分を抽出したプロン プトテンプレートを作成し、可変情報をユーザー入力から埋めて言語モデルへの入力プ ロンプトを生成するプロンプト補完コンポーネントを導入する。プロンプト補完の具体 １０３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 的なコンポーネントには、自動化のレベルに応じて、さまざまな方法が考えられる。た とえば、 • 埋込みプロンプト：事前に準備したプロンプトテンプレートにユーザー入力情 報を埋め込む • 生成的プロンプト：ユーザー入力からプロンプトを自動生成する がある。ここで、プロンプト補完コンポーネントが利用するプロンプトテンプレートは外部 情報の一種と考えられる。 次に、出力フィルターコンポーネントを導入し、言語モデルの出力を加工する機能を 連結する。出力フィルターの具体的なコンポーネントは、加工の目的によるが、所与の 基準から不適切な情報の出力を抑止する「情報選択」が有用である。また、出力フィル ターコンポーネントによっては、変換の方法や不適切な情報の基準を、外部から与える 方法を採用する。たとえば、事実と異なる知識であるかの判定には外部情報が不可欠で ある。ガードレール（A1.4.1 節）の実現がある。 以上のコンポーネントを逐次結合（Sequential Composition）することで、LLM 利用の 基本形を仮想化したトリプレットパターン（図 12）を得る。特に、外部情報を参照す るプロンプト補完や出力フィルターを用いることで、外部情報を活用したトリプレット パターンの機能振舞いを実現できる。 A2.2.2 RAG パターン 学習データ最新性の問題を解決するパターンとして、外部データから必要な情報を動 的に獲得する RAG（Retrieval-Augmented Generation）がある[RAG 2021] [Gao 2024]。 RAG を構成する検索器（Retriever）は、問い合わせ情報をキーとして、関連する外部 データを獲得する機能を実現する。検索器の具体的な構成方法は、機能要求からソフト ウェアデザインを具体化する方式設計で決定する。問い合わせ情報と候補データ断片の 類似性から検索する方法、検索器コンポーネントを訓練学習で獲得する方法[REPLUG 2023]など、さまざまな手法がある。 RAG デザインとして、知識グラフを活用する方法（グラフ RAG）がある。基本的な RAG ではフラットな文書として扱うことから、外部データが構造のある文書であって も構造に関わる情報が失われる。そこで、文書構造を反映した知識グラフと対象文書デ １０４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ータの両方を用いて、RAG の検索機能を高度化する。文書が構造を持たない場合であ っても、文書データから知識グラフを抽出して利用する方法を考えることができる。 グラフ RAG では、LLM との関係が多様になる[Xu 2024]。そもそも、RAG は LLM に 外部情報を補う役割を果たしていた。グラフ RAG も同じで、LLM に対して「知識埋め 込み」機能を果たす。また、文書から知識グラフを構築する際に LLM を利用すること ができ、LLM を「知識抽出」機能に用いる。さらに、知識グラフをグラフ DBMS で管 理するアーキテクチャを採用する場合、問い合わせ情報から当該 DBMS の問い合わせ 式を生成する「言語変換」機能に用いる。グラフ RAG をデザインする上で、自然言語 処理を実現する LLM の使い方を考える。 RAG パターンは外部データを取り込む仕組みを実現するが、一方で、獲得したデー タの内容が妥当かには触れない。その外部データが目的達成に有用かの評価が必要にな る。経験的には、適切な外部データによってハルシネーション低減の効果を得ることが できる[Shuster 2021]。一方で、知識衝突などに関わるデータ品質を別途、評価する必要 がある[Xie 2023]。 A2.2.3 オープンツールパターン オープンツールパターンの目的は、言語モデルと外部ツールの間での情報交換を実現 することである。さまざまな機能を持つ外部ツールを利用することで、LLM 利用ソフ トウェアの機能を拡大できる。たとえば、インターネット検索エンジンや特定応用のシ ミュレーションツールとの連携がある。外部ツールとの入出力データ形式が合致してい ること（インタフェース整合性）、外部ツール出力から必要な情報を抽出すること（出 力フィルター）、に注意する。 オープンツール言語モデルによって外部ツールとの連携が可能になると、LLM の応 用方法が広がる。ReACT パターン[Yao 2023]は、CoT などによる処理手順を制御するプ ロンプトと外部ツールのアクションを組み合わせる。手順の制御とアクション実行を自 律的に繰り返す。 LLM エージェントシステム（2.1.1 節）は、この ReACT パターンを拡張することで実 現可能になる。エンドユーザーが与えたプロンプトをゴールとする。このゴール達成に 必要なサブタスクを立案し、各々のタスクを実行する外部ツールを適切に選び実行する 自律的なソフトウェア基盤である[AutoGPT 2023] [Shen 2023] [Song 2023]。現時点では、 １０５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 実験的な技術と考えた方が良いという考察もある[Santos 2024]。システム品質には、自 律的なオーケストレーション（Orchestration）の仕組みを実現するソフトウェア計算基 盤の性質（Safety や Liveness）が影響する。 A2.2.4 システム全体のデザイン 上記に示したパターンを組み合わせることで、LLM 利用ソフトウェアのコンポーネ ントアーキテククチャを整理することができる。この考え方は、都市計画デザインに関 するパターン言語の考え方[アレグザンダー 1974]をオブジェクト指向ソフトウェアに 応用した「パターン生成アーキテクチャ（Patterns Generate Architecture）」のデザイン手 法[Beck 1994]を LLM 利用ソフトウェア開発に応用したものである。 LLM 利用ソフトウェアシステムは、このようなパターン指向コンポーネントアーキ テクチャのみで構成されるわけではない。LLM 利用ソフトウェアはユーザーとのイン タフェースを有し、HMI（Human-Machine Interaction）のデザインが重要になる。GUI を 含む HMI の良し悪しはユーザーの満足性に寄与し、利用時の品質に影響する。 一般に、HMI は複数の GUI コンポーネント（コンセプトと呼ぶ[ジャクソン 2023]） から構成されることから、 HMI デザインをコンセプトアーキテクチャとして表現する。 各コンセプトはユーザーと直接情報交換し、各々がプロンプト断片を有すると考えられ る。プロンプト補完コンポーネントはプロンプト断片を集約する役割を果たす。同様に、 出力フィルターコンポーネントは生成出力メッセージテキストを分割し、コンセプトに フィードバックする。このようなメッセージテキストの分割は、コンセプトデザインの モジュラリティを反映する（図 13）。 図 13 HI とプロンプトの集約 １０６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 以上見てきたように、HMI を含む LLM 利用ソフトウェアシステムは、２つの異なる 役割を与えられたアーキテクチャから構成される。 • LLM を中心に構成したコンポーネントアーキテクチャ • HMI デザインに関わるコンセプトアーキテクチャ 両者は、異なる視点から分析設計した結果である一方で、ひとつのソフトウェアシス テムを表す。したがって、２つのアーキテクチャは互いに関連する。視点の転換 （Viewpoint Shift）によって結びつくが、独立に分析設計を進めることができる。 A2.2.5 開発の流れ HMI を含む LLM 利用ソフトウェアシステム開発の大まかな流れを示す。 1. 要求分析 2. アーキテクチャのデザイン 3. コンポーネントのデザインと開発 4. コンセプトのデザインと開発 5. システム統合と利用時の検査 全体として、従来ソフトウェアと同様な V 字型開発モデル[中谷 2025]として整理で きる。 図 14 V 字型開発モデル 次に詳細に見ていく。要求分析は主として２つの作業に分けられる。 1. 要求の取り出し（Elicitation）と形式化または整理（Formalization） 従来ソフトウェアの要求分析フェーズで、顧客要求をビジネスソフトウェア の要求仕様として整理する作業に相当する。 2. プロンプトのプロトタイピング（Prompt Prototyping） １０７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 想定する典型的な入力を、使用する LLM に即したプロンプトとして表現でき ることを確認する作業で、従来の要求分析における実現予見の一例に相当す る。プロンプトエンジニアリングなどの知見を参考にし、本質的に試行錯誤を 伴うラピッドプロトタイピングによる。 アーキテクチャ段階は、２つのアーキテクチャ視点に関わる分析とデザインを進める。 1. アーキテクチャ分離 システム全体は、LLM を中心に構成したコンポーネントアーキテクチャと HMI デザインに関わるコンセプトアーキテクチャからなる。標準的な MVC アーキテクチャでは、前者は M（モデル）で後者は VC（ビューとコントロー ラ）に対応する。 2. コンポーネントアーキテクチャ パターン生成アーキテクチャの手法で、機能要求の実現に必要なコンポーネ ントを選び組み合わせる。 3. コンセプトアーキテクチャ HMI デザインの実現に必要なコンセプトを定義し組み合わせる。 4. 擦り合わせ メッセージテキストが２つのアーキテクチャ視点を媒介する。コンセプトのモ ジュラー性から必要となるプロンプト集約の検討を中心に、２つのアーキテク チャ視点の対応関係を調整する。必要であれば２や３に戻って検討する。 デザインとプログラム段階は、２つのアーキテクチャを並行して進め、ユニットテス ト相当の検査を行う。コンポーネントならびにコンセプトに固有の機能に関わる。コン ポーネントに着目して入出力メッセージテキストの関係が期待通りかを検査する。コン ポーネントアーキテクチャのプログラム実現する際には、既存の再利用可能なフレーム ワークを利用すればよい 38。また、コンセプトアーキテクチャのプログラム実現では、 GUI フレームワークなどを活用する。 コンポーネントならびにコンポーネントアーキテクチャの検査では、利用するパター ンごとに検査を工夫する。RAG パターンやオープンツールパターンは外部の情報交換 に関わる機能振る舞いが意図通りかを確認することから、検査の手間が大きくなる。 次に、２つのアーキテクチャ個別に、全体の流れが期待通りかを検査する。正常系テ ストに加えてストレス機能に対応する反実仮想メッセージテキストのテストケースを 検査する。最後に、統合テスト段階は、２つのアーキテクチャからシステム全体を構成 38 たとえば LangChain。 １０８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 し、総合的なテストを行う。利用時の評価に相当する統合テストを通して、ユーザーに 課す利用制限事項を整理する。 A2.3 品質特性とコンポーネント LLM 利用 AI システムの開発に際して、再利用部品である LLM の選択、プロンプト プロトタイピング、コンポーネントならびに HMI のデザインを進める。この過程で考 慮すべきコンポーネント品質およびデータ品質との関係を概観する（表 3・表 4）。 表 3 デザインで考慮するコンポーネント品質 １０９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 表 4 デザインで考慮するデータ品質 • 再利用部品の欄は、LLM 選択の際に、当該 LLM に対して期待する品質観点を 表す。印付けした観点について適切な品質を持つことを LLM に付された AI BOM 等を参照して確認する。 • プロンプトの欄は、印付けした観点について適切な品質を持つことを、プロン プト構築（プロンプトデザインならびにプロンプトプロトタインピング）の際 に確認する。プロンプト構築での目標品質観点となる。 • 主要コンポーネントの欄は、印付けした観点について適切な品質を持つことを、 当該コンポーネント開発の際に確認する。目標品質観点となる。 • システムの欄は、印付けした観点について適切な品質を持つことを、LLM 利用 AI システムに対して総合的に確認する。目標品質観点となる。 A2.4 品質特性と SQuaRE との関係 本ガイドラインの品質特性は、SQuaRE（25010・25012・25059）が示す一般的で中立 な品質モデルに、「デザインからの品質」の考え方に基づく解釈を与えて整理した。 SQuaRE 品質モデルの基本的な考え方をベースとして、LLM 利用 AI システムの技術的 な特徴を考慮している（表 5・表 6）。煩雑さを避けることから、大きく異なる項目に ついてのみ説明する。 １１０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 表 5 コンポーネント品質と SQuaRE １１１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 表 6 データ品質と SQuaRE １１２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 付録3 品質特性と LLM 関連 AI セキュリティ 本付録章では、[OWASP2023]を基に LLM に特有なセキュリティリスクのタイプに対 応した、LLM 利用 AI システムのデザインからの対策を検討する。新たに発見されるリ スクタイプへの対応が不可欠であり、本付録の内容が網羅的な対策を述べるものではな い。 A3.1 デザインからの対策 LLM に特有なリスクタイプに関して、OWASP（Open Worldwide Application Security Project）が、LLM リスクのトップ 10 を整理している 39 [OWASP 2023][Santos 2024]。 各リスクの影響を低減するように、LLM 利用 AI システムをデザインするとき、さま ざまな開発運用フェーズで行うべき対策として整理する（表 7）。WITH-LLM 開発フェ ーズを中心とし、サプライチェーン、FOR-LLM、USE に対しての期待を、提供情報あ るいは期待する対策事項という観点で整理する。WITH-LLM 開発では、このような情 報や講じられた対策を前提として、コンポーネントアーキテクチャのデザインによる対 策を考える。 39 表 7 は 1.0 版に基づく。OWASP の LLM リスク・トップ 10 は 2025 年版[OWASP 2024]が公表されている。 「システムプロンプト抽出」(A3.2 参照)が新しい問題として顕在 化している。 １１３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 表 7 OWASP の LLM リスクと対策 また、LLM 利用 AI システムの開発に際して、各 OWASP リスクの低減に寄与するコ ンポーネントならびに当該コンポーネントのデザイン時に考慮すべき品質観点を整理 する（表 8）。LLM 利用 AI システムの対策に関わるデザイン例と考えることができる。 表 8 OWASP リスク対策デザインの品質観点 OWASP リスク デザイン対象（主な品質副特性） プロンプトインジェクション プロンプト（機能要求満足性・説明性） フィルター（成熟性） システム（責任追跡性） 外部連携（アクセス制御性・真正性） 安全でない出力の取り扱い フィルター（成熟性） プロンプト（機能要求満足性・安全性） １１４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 訓練データの毒化 RAG（アクセス制御性） プロンプト（真正性） モデルの DoS システム（責任追跡性） サプライチェーン脆弱性 成果物（真正性） 機微情報の漏洩 データ保護加工（利用性） RAG（プライバシー・アクセス制御性） 外部連携（プライバシー・アクセス制御性） フィルター（プライバシー） 安全でないプラグインデザイン 外部連携（可用性・アクセス制御性・真正性） 過剰な代行 システム（要求満足性・進行性・介入性） HMI（可制御性・介入性） 過度の依存 システム（機能要求満足性） フィルター（否認防止性） モデル窃取 システム（責任追跡性） 以下、１０の OWASP リスクについて詳しく見ていく。 「プロンプトインジェクション」は、プロンプトが改変されて不適切な情報が LLM に入力されることである。不適切なプロンプトを直接入力する場合（直接攻撃）と、LLM への入力プロンプトを構築する外部サービスを改変する場合（間接攻撃）がある。 • 利用する LLM に基本的なアラインメントが施されていること（FOR-LLM） • 入力から LLM を保護するようにプロンプトをデザインすること • 不適切な生成コンテンツを検知しシステムからの出力を抑制すること • 間接攻撃への対策として外部連携サービスを確認すること • システムからの出力の根拠を示せること • 運用時の利用監視を併用すること（USE） 「安全でない出力の取り扱い」は、想定外の LLM 出力を後段アプリケーションが適 切に処理できないことである。 • 利用する LLM に基本的なアラインメントが施されていること（FOR-LLM） • 後段アプリケーションの入力仕様を明らかにすること • LLM 生成コンテンツ対する出力フィルターを導入すること。出力可否判断の 根拠は、予め決められた基準による方法を、外部データを参照して決めても良 い。 • プロンプトのデザインによって不適切な出力を抑止すること（間接的な対策） １１５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 「訓練データ毒化」は、「訓練データ」を改変することで当該データを学習したモデ ルの機能振る舞いを変更することである。「訓練データ」をどのように解釈するかで対 策が異なる。LLM をファインチューニングする場合、訓練データがセキュアに格納保 持されていることによって、このリスクを低減する。 次に、文脈内学習の方法を採用する場合を考える。訓練データと似た役割を果たすデ ータは、LLM に入力されるプロンプトの内容として現れ、２つの場合を考えることが できる。 • ユーザー入力プロンプトの場合、 「プロンプトインジェクション」に準じる • 外部データを取り込む RAG の場合、外部データがセキュアに格納保持されて いること 「モデル DoS」は、LLM 使用に関わる計算資源を不適切に消費することで正常な運 用を阻害することである。 • 運用監視によって利用状況の統計的な異常を検出すること（USE） • システムが利用ログを保持管理すること 「サプライチェーン脆弱性」は、LLM 利用 AI システムの分業開発に際して、中間成 果物・再利用可能コンポーネントを配布する際に生じ、成果物の品質を劣化させること である。 • 成果物の真正性を保証すること（サプライチェーン） • LLM の来歴を保証すること（FOR-LLM） 「機微情報の漏洩」は、LLM 利用 AI システムが保持する機微情報の漏洩を防止する ことである。「機微情報」の在処の違いによって個別に具体的な対応策を考える。 • 基本はデータの保護加工（データ匿名加工）を行うこと • LLM 訓練に用いた学習データが適切に保護加工されていること（FOR-LLM） WITH-LLM の入力となるデータは、RAG 利用やプラグイン利用を含めると、ユーザ ー入力データ・RAG による補完データ・外部ツールからの入力データなどがある。 • ユーザー入力データを WITH-LLM システム内部で保持管理する場合、格納前 に保護加工を施すこと • RAG で取り込む外部データは RAG のデータ構築の段階で保護加工を施すこと • 外部ツールからの入力データは、ユーザー入力データの取り扱いに準じる。ま １１６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 た、利用ツールの品質面で「安全でないプラグインデザイン」と関わる。 システムプロンプトはビジネスロジックを表すことから機微情報となる場合があり、 「プロンプトインジェクション」と関わる。 「安全でないプラグインデザイン」は、連携する外部ツールが不適切な振る舞いを示 すことである。従来の分散ソフトウェアで外部サービスを利用する際の品質問題と同等 である。 • 外部ツールの真正性・アクセス制御性を確認すること • 外部ツール出力のフィルターで確認すること 「過剰な代行」は、LLM 利用 AI システムが想定外の自律性を示ときに生じる。 • 要求仕様で、自律性の暴走を避けるようにシステムの振舞いを制限すること • 利用の指示（Instruction of Use）を明示すること。これを遵守すること（USE） • 運用監視によって想定外の振る舞いを検知すること • システムを強制停止する介入性の仕組みを実現すること 「過度の依存」は、利用者が LLM 出力を無批判に受け入れることの危険性に関わる。 • エンドユーザーに対する利用上の注意、社会的弱者への利用制限などを通して、 過度の依存が生じないような制度・運用面からの対策を講じること（USE） • 第３者への影響を軽減する上で、コンテンツの否認防止性を考慮すること 「モデル窃取」は、訓練済みモデル自身あるいは等価な機能振る舞いを再現可能な情 報が漏洩することである。後者について、繰り返し問い合わせによって情報を獲得する 方法が知られている。 • 成果物（訓練済みモデル）をセキュアに保持管理すること（サプライチェーン） • 訓練済みモデルの出力情報を制限・擾乱付加すること（FOR-WITH） • 繰り返し問い合わせを避ける上で利用頻度の制限といった運用面の方策を講 じること（USE） • 利用状況を把握すること A3.2 プロンプト周辺 プロンプトはエンドユーザーと LLM 利用 AI システムのインタフェースとなる重要 な要素である。使い方によってはプロンプトインジェクションがシステムへの脅威とな １１７ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 る。ここでは、標準的なプロンプト構成方法（図 15）を想定し、プロンプトに関わる 問題のいくつかを整理する。 図 15 システムプロンプト 素朴には、ユーザープロンプトが LLM への入力となる。一方、標準的なシステム構 成方法では、プロンプトにモジュラー化する。図 15 は、システムプロンプトとユーザ ープロンプトに区分けする方法を示した。ユーザーがさまざまな問い合わせを行う状況 で、問い合わせに共通する情報をシステムプロンプトとして保持しておき、ユーザーが 問い合わせごとに入力する情報を表すユーザープロンプトと組み合わせることで、LLM への入力プロンプトを合成する。 共通情報のシステムプロンプトは WITH-LLM の開発成果物であり、ビジネスロジッ クを実現すると考える。問い合わせごとに個別に与えられるユーザープロンプトは USE 時の入力情報である。WITH-LLM の品質マネジメントに関連して、２種類のプロンプ トの論理的な関係が問題となる。通常の使い方では、システムプロンプトが表すメタレ ベルでの制御下で、その共通情報とユーザープロンプトが表す個別のインスタンス情報 を組み合わせて、LLM への入力プロンプトの全体を構成する。この時、ユーザープロ ンプトとして入力した情報が適切に取り扱われるかは、「機微情報の漏洩」と関わる問 題である。 システムプロンプトで期待するユーザープロンプトが入力されるかは、USE 時の状 況による。一般には、不具合を誘発する「プロンプトインジェクション」の可能性を排 除できない。また、RAG を用いる場合、簡単には、ユーザー入力と RAG から得た情報 を、図 15 のユーザープロンプトに対応させて考えればよい。RAG を併用したプロンプ トインジェクション攻撃は、RAG によって取り込んだデータに、ユーザーが意図しな い不適切な情報が埋め込まれている場合である。 １１８ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 対策として、システムプロンプトのメタレベル制御を利用することで、ユーザープロ ンプトが適切か否かを判断し、不適切な場合に、ユーザープロンプトを無効化（スキッ プ）することができる場合がある。この問題を一般化すると、プロンプトがモジュラー 分割されている場合に、モジュール間に階層関係を導入すること、階層上位のモジュラ ープロンプトがメタレベルの役割を果たし、下位のモジュラープロンプト実行を制御す ること、を如何にして実現するかである。Instruction Hierarchy[Wallace 2024]は、モジュ ラープロンプト間の強弱関係を取り込んだ LLM を、アラインメント微調整の方法で得 る。監獄破り（Jailbreaks）を低減するアプローチになる可能性を持つ。 チャットボットのような会話型 AI では、システムプロンプトに会話の流れを誘導す るようなメタレベル情報を持たせることで、ユーザーから情報収集するような仕組みを 実現することができる。対応はエンドユーザーに委ねられる。たとえば、ユーザーが不 穏な気配を感じるなどによって、敵対的なチャットボットが欲する情報を与えなければ 良い。 ところが、システムプロンプトのメタレベル制御を用いることで、敵対的なチャット ボットを構築できる。また、プロンプトインジェクションによって、敵対的な会話を誘 導するシステムプロンプトを導入することが可能な場合もある[Greshake 2023]。 WITH-LLM で考えるべきことは、開発対象の LLM 利用 AI システムを敵対的な外部 から保護すること、エンドユーザーや第３者の権利を保護することである。一方、エン ドユーザーから見て、LLM 利用 AI システムが敵対的な振る舞いを示さないことの確認 も重要な課題となる。特に、上記で見たように、チャットボットのような会話型 AI で は、システムプロンプトが敵対的な振る舞いを誘導する恐れがある。システムプロンプ トを開示することで、敵対性がないことを主張できる。一方で、システムプロンプトに システムの目的依存の技術ノウハウ、利用している LLM の特徴を考慮したノウハウが あり、会話型 AI の開発者からすると、システムプロンプトをビジネス上の機密情報（ト レードシークレット）として保護したい。つまり、開示したくない。 このシステムプロンプト保護の問題は、技術的には、エンドユーザーに隠されている プロンプトを抽出できるかである。このプロンプト抽出（Prompt Extraction）[Zhang 2024] の基本的なアイデアは、ユーザープロンプトにメタレベル情報を与えてシステムプロン プトを制御下に置くことで、システムプロンプトと等価なテキストを逐語出力させる。 会話型 AI に対して、敵対的なやり取りを繰り返すことで、システムプロンプトを推測 する。このプロンプト抽出は、「安全でない出力の取り扱い」の問題であり、出力フィ １１９ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ルターによる対策を考えることができる。一方で、この防御が常に有効とは限らない [Zhang 2024]。 LLM からの情報流出（機密情報の漏洩）は、これまでは、訓練データに関わる権利侵 害の問題として議論されてきた。LLM 利用 AI システムが、自身に埋め込まれたシステ ムプロンプト（図 15）と共に流通する状況を考えると、プロンプト抽出攻撃への対策 がビジネス上、重要になる。 コラム：AI ガバナンスと品質マネジメントの役割の違い システムの機能要求が、そもそも包括的基本権[芦部 2023]に関わる問題などを含 むことがある。例としてダイレクトマーケティング（Direct Marketing）のサービスを 実現するシステムを考える。推奨アルゴリズム（Recommendation Algorithm）の技術 を応用して、個人向けにカスタマイズした広告情報をオンライン送付する。膨大な量 の購買履歴などのアクティビティを事前にオンライン収集し、このインターネットビ ッグデータを学習データに用いて訓練した機械学習モデルが中核となる。次に、広告 送付先の個人情報を利用することで、当該個人にカスタマイズした広告を機械学習モ デルが生成する。 ダイレクトマーケティングは、アルゴリズミックな不正義（Algorithmic Injustice） を内在することから、規制対象となる場合がある。 • 対象者が社会的弱者の場合、心理や行動に影響を与えるダイレクトマーケティング の目的そのものが道徳的な規範に反する • 広告送付先個人の機微情報に基づく判断が特定集団へのバイアスを含む場合、ダイ レクトマーケティングの機能要求そのものが倫理面の公平性に反する • 収集するアクティビティデータ利用への同意がないと情報プライバシー保護に反 する このようなシステムの影響を受けるステークホルダーは多岐にわたる。開発の可 否・利用の可否は、社会から見た AI ガバナンスで議論すべきことである。 一方、品質マネジメントは、ダイレクトマーケティングの機能仕様が与えられたと き、デザインからの品質に関わり、以下のような対応策を実施する。 • 収集したアクティビティデータはパーソナルデータであり、情報プライバシー保護 １２０ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 の観点からデータ匿名加工を施す［プライバシー］ • 公平性に配慮した機構をデザインしバイアスを避ける［公平性］ • セキュリティ機能をデザインし、システムが管理するデータへのアクセスを保護す る［セキュリティ］ • 安定して作動するようにシステムをデザインし構築する［信頼性］ AI ガバナンスも品質マネジメントも万能ではない。互いの役割を明確化し、多様 なステークホルダーが損害を被ることがないようにする。 １２１ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 参考文献 公的ガイドライン [AIGBiz] 総務省, 経済産業省. AI 事業者ガイドライン第 1.01 版. 2024 年 11 月 22 日 [AIQMv4] 産業技術総合研究所. 機械学習品質マネジメントガイドライン第 4 版. 2023 年 12 月 12 日 [AIQMv4Annex] 産業技術総合研究所. 機械学習品質マネジメントにおける AI の新潮流へ の対応. 機械学習品質マネジメントガイドライン第 4 版 Annex. 2023 年 12 月 12 日 [AISIeval] AI セーフティ・インスティテュート. AI セーフティに関する評価観点ガイド第 1.01 版. 2024 年 9 月 25 日 [AISIrt] AI セーフティ・インスティテュート. AI セーフティに関するレッドチーミング手法 ガイド第 1.00 版. 2024 年 9 月 25 日 [Copyright 2023b] Copyright Office, Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence, Federal Register, vol.88, no.51, pp.16190-16194 (2023). [DHS 2023] U.S. Department of Homeland Security, Risks and Mitigation Strategies for Adversarial Artificial Intelligence Threats: A DHS S&T Study, December 2023 [EU 2019] European Union, Ethics Guidelines for Trustworthy Artificial Intelligence. April 2019 [NIST 2023] National Institute of Standards and Technology. NIST AI Risk Management Framework. [NIST 2023b] National Institute of Standards and Technology. NIST AI Risk Management Framework Playbook, January 2023 [OECD 2019] OECD, Scoping the OECD AI principles: Deliberations of the Expert Group on Artificial Intelligence at the OECD (AIGO). OECD Digital Economy Papers, No. 291, OECD Publishing, November 2019 論文、書籍、Web 記事等 [Akiba 2024] Akiba, Takuya, Makoto Shing, Yujin Tang, Qi Sun, and David Ha, Evolutionary Optimization of Model Merging Recipes, arXiv:2403.13187 (2024). [Anthropic 2024] Tracking Voluntary Commitments https://www.anthropic.com/voluntary- commitments [Azaria 2023] Azaria, Amos and Tom Mitchell, The Internal State of an LLM Knows When It’s Lying, arXiv:2304.13734 (2023). [Beck 1994] Beck, Kent and Ralph Johnson, Patterns Generate Architecture, in Proc. ECOOP’94, pp.139-149 (1994). [Bengio 2024] Bengio, Joshua et al., International scientific report on the safety of advanced AI: １２２ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 interim report. DSIT research paper series number 2024/009. 17 May 2024. [Brown 2020] Brown, Tom B., et al., Language Models are Few-Shot Learners, arXiv:2005.14165v4 (2020). [Bsharat 2023] Bsharat, Sondos Mahmoud, Aidar Myrzakhan, and Zhiqiang Shen, Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4, arXiv:2312.16171 (2023). [Carlini 2019] Carlini, Nicholas et al., The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks, Proc. 28th USENIX Security Symposium, pp.267-284 (2019). [Carlini 2021] Carlini, Nicholas et al., Extracting Training Data from Large Language Models, arXiv:2012.07805v2 (2021). [Carlini 2023a] Carlini, Nicholas et al., Quantifying Memorization across Neural Language Models, arXiv:2202.07646v3 (2023). [Carlini 2023b] Carlini, Nicholas et al., Extracting Training Data from Diffusion Models, arXiv:2301.13188 (2023). [Chang 2023] Chang, Tyler A. and Benjamin K. Bergen, Language Model Behavior: A Comprehensive Survey, arXiv:2303.11504 (2023). [Cottier 2024] Cottier, Ben, Robi Rahman, Loredana Fattorini, Nestor Maslej, and David Owen, The Rising Costs of Training Frontier AI Models, arXiv:2405.21015 (2024). [Dai 2023] Dai, Damai et al., Why Can GPT Learn In-Context? Language Models Implicitly Perform Gradient Descent as Meta-Optimizers, arXiv:2212.10559v3 (2023). [DeepSeek-AI 2024] DeepSeek-AI. DeepSeek-V3 Technical Report, arXiv:2412.19437 (2024). [Devlin 2019] Devlin, Jacob, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova, BERT: Pretraining of Deep Bidirectional Transformers for Language Understanding, arXiv:1810.04805v2 (2019). [Dhuliawala 2023] Dhuliawala, Shehzaad, Mojtaba Kmoeili, Jing Xu, Roberta Raileanu, Xian Li, Asli Celikyilmaz, and Jason Weston, Chain-of-Verification Reduces Hallucination in Large Language Models, arXiv:2309.11495v2 (2023). [Feldman 2021] Feldman, Vitaly, Does Learning Require Memorization? A Short Tale about a Long Tail, arXiv:2004.05271v4 (2021). [Gao 2024] Gao, Yunfan, Yun Xiong, Xinyu Gao, Kangxiang Jia, Jinliu Pan, Yuxi Bi, Yi Dai, Jiawei Sun, Meng Wang, and Haofen Wang, Retrieval-Augmented Generation for Large Language Models: A Survey, arXiv: 2312.10997v5 (2024). [Gallegos 2024] Gallegos, Isabel O., Ryan A. Rossi, Joe Barrow, Md Mehrab Tanjim, Sungchul Kim, Franck Dernoncourt, Tong Yu, Ruiyi Zhang, and Nesreen K. Ahmed: Bias and Fairness in Large Language Models: A Survey, arXiv:2309.00770v3 (2024). [Gebru 2020] Gebru, Timnit, Jamie Morgenstern, Briana Vecchione, Jennifer W. Vaughan, Hanna Wallach, Hal Daumee III, and Kate Crawford, Datasheet for Datasets, arXiv:1803.09010v7 (2020). １２３ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 [Google 2024] A Guide to Google Gemini Security https://concentric.ai/google-gemini-security-risks/ [Greshake 2023] Greshake, Kai, Sahar Abdelnabi, Shailesh Mishra, Christoph Endres, Thorsten Holz, and Mario Fritz, Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection, arXiv:2302.12173v2 (2023). [Kaplan 2020] Kaplan, Jared et al., Scaling Laws for Neural Language Models, arXiv:2001.08361 (2020). [Liu2024] Yue Liu, Sin Kit Lo, Qinghua Lu, Liming Zhu, Dehai Zhao, Xiwei Xu, Stefan Harrer, and Jon Whittle: Agent Design Pattern Catalogue: a Collection of Architectural Patterns for Foundation Model based Agents, 2405.10467v4 (2024). [Mallen 2023] Mallen, Alex et al., When Not to Trust Language Models: Investigating Effectiveness of Parametric and Non-Parametric Memories, arXiv:2212.10511v3 (2023). [Meta 2023] Building Generative AI Features Responsibly (2023) https://about.fb.com/news/2023/09/building-generative-ai-features-responsibly/ [Nasr 2023] Nasr, Mirad, Nicholas Carlini, et al., Scalable Extraction of Training Data from (Production) Language Models, arXiv:2311.17035 (2023). [OpenAI 2024] OpenAI, OpenAI o1 System Card (2024). [OpenAI 2024b] Open AI Security Portal https://trust.openai.com [OWASP 2023] OWASP Foundation, OWASP Top 10 for LLM Applications, Version 1.0 (2023) [OWASP 2024] OWASP Foundation, OWASP Top 10 for LLM Applications 2025 (2024). [Shen 2023] Shen, Yongliang, Kaitao Song, Xu Tan, Dongsheng Li, Weiming Lu, and Yueting Zhuang, HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face, arXiv:2303.17580v3 (2023). [Yao 2023] Yao, Shunyu, et al., ReAct: Synergizing Reasoning and Acting in Language Models, arXiv:2210.03629v3 (2023). [Santos 2024] Omar Santos and Petar Radanliev, Beyond the Algorithm - AI, Security, Privacy, and Ethics, Addison-Wesley 2024. [Shuster 2021] Shuster, Kurt et al., Retrieval Augmentation Reduces Hallucination in Conversation, Proc. EMNLP, pp.3784-3803 (2021). [Sindre 1995] G. Sindre, R. Conradi, and E.-A. Karisson: The REBOOT Approach to Software Reuse, Journal of System and Software, vol.30, no.3, pp.201-212 (1995). [Snell 2024] Snell, Charlie, Jaehoon Lee, Kelvin Xu, and Aviral Kumar, Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters, arXiv:2408.03314 (2024). [Song 2023] Song, Chan Hee et al., LLM-Planner: Few-Shot Grounded Planning for Embodied Agents with Large Language Models, arXiv:2212.04088v3 (2023). [Tan 2018] Tan, Chuanqi, Fuchun Sun, Tao Kong, Wenchang Zhang, Chao Yang, and Chunfang Liu, A Survey on Deep Transfer Learning, arXiv:1808.01974 (2018). １２４ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 [Villalobos 2024] Villalobos, Pablo, Anson Ho, Jaime Sevilla, Tamay Besiroglu, Lennart Heim, and Marius Hobbhahn: Will we run out of data? Limits of LLM scaling based on human-generated data, arXiv:2211.04325v2 (2024). [Wei 2023] Wei, Jason, Xuezhi Wang, Dale Schuuemans, Maarten Bosma, Brian Ichter, Fei Zia, Ed. H. Chi, Quoc V. Le, and Denny Zhou, Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, arXiv:2201.11903v6 (2023). [Wei 2022] Wei, Jason et al., Emergent Abilities of Large Language Models, arXiv:2206.07682v2 (2022). [Xie 2023] Xie, Jian, Kai Zhang, Jiangjie Chen, Renze Lou, and Yu Su, Adaptive Chameleon or Stubborn Sloth: Revealing the Behavior of Large Language Models in Knowledge Conflicts, arXiv:2305.13300v3 (2023). [芦部 2023] 芦部信善、高橋和之（補訂） ：憲法[第 8 版]，岩波書店(2023). [アレグザンダー 1974] C. アレグザンダー（著），平田翰那（訳） ：パタン・ランゲージ，鹿 島出版会 (1974). [岡崎 2022] 岡崎直観、荒瀬由紀、鈴木潤、鶴岡慶雅、宮尾祐介：自然言語処理の基礎，オ ーム社 (2022). [ジャクソン 2023] D. ジャクソン（著） ，中島震（訳） ：優れたデザインにとってコンセプト が重要な理由，丸善出版 (2023). [中谷 2025] 中谷多哉子、中島震（編著）：ソフトウェア工学 [改訂版]，放送大学教育振興 会 (2025). [森岡 2017] 森岡浩，名字でわかるあなたのルーツ，小学館 (2017). １２５ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 機械学習品質マネジメント検討委員会メンバーリスト 2024 年度 （委員長、副委員長を除き、五十音順、敬称略） 中島 震(委員長) 産業技術総合研究所 妹尾 義樹(副委員長) 産業技術総合研究所 江川 尚志 産業技術総合研究所 越前 功 国立情報学研究所 大岩 寛 産業技術総合研究所 岡本 球夫 パナソニックホールディングス 小川 秀人 日立製作所 桑島 洋 デンソー 小林 健一 富士通 小宮山 英明 コニカミノルタ 新原 敦介 日立製作所 鈴木 知道 東京理科大学 高田 眞吾 慶應義塾大学 中島 裕生 NPO MedXML コンソーシアム 難波 孝彰 パナソニックホールディングス 浜谷 千波 アドソル日進 福島 真太朗 トヨタ自動車 宗像 一樹 富士通 安井 裕司 本田技術研究所 山田 敦 日本 IBM 若松 直哉 日本電気 １２６ 生成 AI 品質マネジメントガイドライン第 1 版 国立研究開発法人産業技術総合研究所 IPRI-TR-2025-01 / CPSEC-TR-2025001 ガイドライン詳細検討タスクフォース メンバーリスト 2024 年度 （五十音順、敬称略） 磯部 祥尚 産業技術総合研究所 江川 尚志 産業技術総合研究所 大岩 寛 産業技術総合研究所 岡本 球夫 パナソニックホールディングス 小川 秀人 日立製作所 川本 裕輔 産業技術総合研究所 北村 弘 IPA/AI セーフティ・インスティテュート 桑島 洋 デンソー 小西 弘一 産業技術総合研究所 小林 健一 富士通 小宮山 英明 コニカミノルタ 新原 敦介 日立製作所 妹尾 義樹 産業技術総合研究所 田部 尚志 日本電気 中島 震 産業技術総合研究所 中島 裕生 NPO MedXML コンソーシアム 難波 孝彰 パナソニックホールディングス 浜谷 千波 アドソル日進 林谷 昌洋 日本電気 三宅 和公 住友電気工業 三宅 武司 サイバー創研 若松 直哉 日本電気 本プロジェクトに関係して産業技術総合研究所に特定集中研究専門員として部分的に 在籍しているメンバーについては、それぞれの出身母体で記載した。 １２７

参考資料１０ AIと著作権に関する関係者ネットワークの総括 令和７年５月３０日 文化庁・経済産業省 ※ 本資料において取り上げる参加者の意見や感想は一例であり、関係者の総意を取りまとめたものではない。 ２．参加団体・企業について（令和７年５月３０日現在） • アドビ（株） • （一社）日本動画協会 • （協）日本脚本家連盟 • （一社）ABJ • （一社）日本ネットクリエイ ター協会 • （協）日本シナリオ作家協会 • （一社）学術著作権協会 • （一社）クリエイターエコノミー協会 • （一社）コンテンツ海外流通促進機 構 • （一社）コンピュータソフト ウェア著作権協会 • （一社）日本美術著作権連合 • （一社）日本民間放送連盟 • AIに関する音楽団体協議会 • SB Intuitions（株） • （株）ABEJA • （一社）デジタル出版者連盟 • （株）ELYZA • （一社）日本アニメフィルム文 化連盟(NAFCA) • （株）Kotoba Technologies Japan • （一社）日本映画製作者連盟 • （一社）日本映像ソフト協会 • （一社）日本雑誌協会 • （一社）日本写真著作権協会 • （一社）日本書籍出版協会 • （一社）日本新聞協会 • （協）日本俳優連合 • グーグル（同） • （公社）日本文藝家協会 • （公社）日本漫画家協会 • Sakana AI（株） • ストックマーク（株） • 日本電気（株） • 日本電信電話（株） • （株）サイバーエージェント • 日本放送協会（NHK） • （株）ディー・エヌ・エー • 日本マイクロソフト（株） • （株）ドワンゴ • note（株） • （株）Preferred Networks • HEROZ（株） • （株）ベネッセコーポレーショ ン • 富士通（株） • （株）ワークスアプリケーショ ンズ • RightsDirect Japan（株） 3 ３．各回の日程・テーマについて 日 程 テ ー マ 第１回 令和６年４月22日 • • • 本ネットワークの運営について AIの技術について説明 参加各団体・各社による自己紹介 第２回 令和６年６月18日 • • • 海賊版に対する対応、正規版の普及に関する情報共有① AIにおける望ましいデータセットの形について AIに関する関係府省の検討状況について 第３回 令和６年７月18日 • • • 海賊版に対する対応、正規版の普及に関する情報共有② アニメ制作におけるAI活用について AI利用に係るライセンスに向けた取組について 第４回 令和６年10月31日 • • 漫画制作におけるAI活用について AIに関わる最近の動向 第５回 令和７年２月５日 • • 音楽制作におけるAI活用について 権利者とAI事業者の契約事例について 等 第６回 令和７年３月25日 • • コンテンツを活用した対価還元に向けた事例について 本ネットワークのアンケート結果及び総括について 4 ４．各回の概要について（第１回）  会議運営について • 当事者間の積極的な情報共有及び闊達な意見交換を促進する観点から、 会議の内容は非公開とすること • 制度論の議論をする場では無く、関係当事者間で適切なコミュニケーション が図られることが目的であること  AIの技術について説明 • 大規模な言語の基盤モデルの開発・学習の機序等について • 大規模な画像の基盤モデルの開発・学習の機序等について • データライセンシングやAIに対するガードレール等の紹介  参加各団体・各社による自己紹介 ☆参加者からの感想など • AIの技術についての基本的な理解に役立った。 • 権利者団体とAI事業者との間で直接の交流を持つことができた。 5 ４．各回の概要について（第２回）  海賊版に対する対応、正規版の普及に関する情報共有① • 海賊版被害の現況、海賊版対策の取組について • 侵害コンテンツの発見、情報の精査等について  AIにおける望ましいデータセットの形について • 大規模言語モデル（LLM）学習の手順と使用するデータセットについて • 学習データとして望ましいデータ形式について • AI倫理・ガバナンスに関する取組や、信頼できるAIに向けた取組について  AIに関する関係府省の検討状況について ※ 会議後、AIツールに関する体験会を実施 ☆参加者からの感想など • これまで行われてきた海賊版への対応やその限界、権利者側の懸念等について 知ることができ、有意義だった。 • データセットを提供する際の対応について具体的な知見を得られた。 • AIツールのデモを交えながら、現状のテクノロジーの進化・限界が理解できた。 具体的な議論を行う上で、大変有意義だった。 6 ４．各回の概要について（第３回）  海賊版に対する対応、正規版の普及に関する情報共有② • 海賊版対策に関するこれまでの取組事例 • 著作権侵害サイト／コンテンツの発見方法について • 海賊版サイトや違法なソースからの情報収集・学習を避けるための提案  アニメ制作におけるAI活用について • AIに対する意見と、アニメ業界の概況について • AIを活用する場合に必要となる視点（世界標準への対応の必要性、関係者の合意・理解を得る 必要性等）  AI利用に係るライセンスに向けた取組について • 企業内部でのAI利用に伴う著作物の利用に関するライセンス提供の取組の紹介 ☆ 参加者からの感想など • ライセンスについて、小規模で試せる仕組みがあれば、データの提供者と利用者の間の コミュニケーションにも繋がる。 • 例えばハルシネーションなどの同じ現象に対しても、使う側の属性によりベネフィットにも リスクにもなり得るという状況があり、開発指針を定める場合でも優先順位付けが必要と 感じた。 7 ４．各回の概要について（第４回）  漫画制作におけるAI活用について • 漫画業界と、漫画を描く工程の紹介 • 生成AIで何ができるのか（テキスト生成AI・画像生成AI） • 生成AIによる新しい創作の流れについて • 生成AIの利用で権利侵害をしないために  AIに関わる最近の動向 • 生成AIの活用に関する報道等の紹介 • 団体における生成AIの利用に関する取組の紹介 ☆参加者からの感想など • AI を 活 用 す る 側 と 、 AI に 利 用 さ れ る 側 の 双 方 向 か ら 問 題 を 見 つ け る 必要性があると感じた。 • コンテンツ制作にどのようにAIが活用されているのか、具体的な話が 聞けて、大変勉強になった。 8 ４．各回の概要について（第５回）  音楽制作におけるAI活用について • 音楽創作に当たってどのようなAIを活用しているか • AIの活用に当たって、どのような課題があるか • AI事業者に対しての要望  権利者とAI事業者の契約事例について • 日本国内や海外におけるライセンス契約やパートナーシップ協定の締結 事例 等 ☆参加者からの感想など • どのようにAIが活用されているのか、具体的な話が聞けて、大変勉強に なった。 • 権利者とAI事業者との間で、契約のあり方やどう協力体制を作るか等に ついて今後のさらなる議論・検討が必要。 9 ４．各回の概要について（第６回）  権利者が持つコンテンツを活用した対価還元に向けた事例について • 参加したクリエイターに対し、AI学習に関する対価を還元する取組の紹介  本ネットワークのアンケートの結果及び総括について • これまでのネットワーク会合の成果及び今後の取組等について 等 ☆参加者からの感想など • 対価の還元の取組について、引き続き意見交換をしたい。 • 日本国内だけでなく海外への発信も重要。 • AI学習等への対応を考える際は、これまで創作されてきたものと、これ から創作されるものはある程度分けて考える必要があると感じた。 • 権利者と事業者が一堂に会して意見交換を行う場があること自体も成果。 10

参考資料１１ 肖像と声のパブリシティ価値に係る現行の 不正競争防止法における考え方の整理について 2025年 経済産業政策局 知的財産政策室 1 肖像と声のパブリシティ価値に係る現行不競法に おける考え方の整理 ⚫ 現行不競法上、俳優や声優等の肖像や声等の利用に関しては、周知表示混同惹起行為（不競法第2 条第1項第1号）、著名表示冒用行為（同項第2号）、誤認惹起行為（同項第20号）、信用毀損行 為（同項第21号）において、事案によっては該当し得る。 ⚫ ただし、実態として、①肖像や声の周知の程度、②肖像や声の利用形態等の観点により、個別に 判断をしていく必要がある。 ◼ 周知表示混同惹起行為（不競法第2条第1項第1号）・著名表示冒用行為（同項第2号） ✓ 問題となる要件： 「商品等表示」 自他識別力又は出所表示機能を有するものでなければならず、表示が単に用途や内容を表示するに過ぎない 場合には商品等表示にあたらない。 ✓ 問題となる要件： 「商品等表示を使用」 商品やサービスの出所を識別する目的で使用されなければならず、例えば、有名人がテレビCMに出演してい たとしても、視聴者は当該有名人をテレビCMの対象となる商品を示す商品等表示だとは考えないため、この ような場合は一般的に商品等表示を使用しているといえない。 ◼ 誤認惹起行為（同項第20号） ✓ 問題となる要件：「…広告…に…誤認させるような表示をし」 「広告」：公衆に対してなされる表示のうち営業目的をもってなされたものを指す。 「営業」：単に営利を直接の目的として行われる事業に限らず、事業者間の公正な競争を 確保するという法目的からして、広く経済収支上の計算の上に立って行われる事業一般を含む。 2 ＜参考＞不正競争防止法条文抜粋 第二条 この法律において「不正競争」とは、次に掲げるものをいう。 一 他人の商品等表示（人の業務に係る氏名、商号、商標、標章、商品の容器若しくは包装そ の他の商品又は営業を表示するものをいう。以下同じ。）として需要者の間に広く認識さ れているものと同一若しくは類似の商品等表示を使用し、又はその商品等表示を使用した 商品を譲渡し、引き渡し、譲渡若しくは引渡しのために展示し、輸出し、輸入し、若しく は電気通信回線を通じて提供して、他人の商品又は営業と混同を生じさせる行為 二 自己の商品等表示として他人の著名な商品等表示と同一若しくは類似のものを使用し、又 はその商品等表示を使用した商品を譲渡し、引き渡し、譲渡若しくは引渡しのために展示 し、輸出し、輸入し、若しくは電気通信回線を通じて提供する行為 三～十九 （略） 二十 商品若しくは役務若しくはその広告若しくは取引に用いる書類若しくは通信にその商品 の原産地、品質、内容、製造方法、用途若しくは数量若しくはその役務の質、内容、用途 若しくは数量について誤認させるような表示をし、又はその表示をした商品を譲渡し、引 き渡し、譲渡若しくは引渡しのために展示し、輸出し、輸入し、若しくは電気通信回線を 通じて提供し、若しくはその表示をして役務を提供する行為 二十一 競争関係にある他人の営業上の信用を害する虚偽の事実を告知し、又は流布する行為 3 現行不競法の考え方から想定し得る適用事例 （肖像の事例） ＜事例①＞生成AIを用いて、ある人物の肖像を使用した写真を作成し、それを販売した場合 ➢ 当該人物が周知な人物であれば、不競法第2条第1項第1号によって対処し得る。 ＜事例②＞生成AIを用いて、ある人物の肖像を使用した広告を作成し、それを広告として使用した 場合 ➢ 当該人物が広告対象の商品・役務と関連する分野において信用のある人物であれば、不競法第2 条第1項第20号・第21号によって対処し得る。 ※いずれも本人の許諾を得ていない場合。 4 現行不競法の考え方から想定し得る適用事例 （声の事例） ＜事例③＞ある人物と同一の声を出力することができる生成AIを用いて、当該生成AIに当該人物 の持ち歌ではない曲を歌わせ、それを動画投稿プラットフォームに投稿した場合 ➢ 当該人物の声が周知であれば、不競法第2条第1項第1号によって対処し得る。 ※ただし、打ち消し表示（例：「AI○○に歌わせてみた」）が付されている場合には、不競法第2条第1項第1号では対処が 難しいが、理論上は、著名性が認められれば、不競法第2条第1項第2号にて対処可能。 ＜事例④＞ある人物と同一の声を出力することができる生成AIを用いて、当該人物の声を使用した 目覚まし時計を作成し、それを販売する場合 ➢ 当該人物の声が周知であれば、不競法第2条第1項第1号によって対処し得る。 ➢ 声だけでなく、声と特徴的な台詞とがセットになって使用されている場合は、より広く不競法 第2条第1項第1号において対処し得る。 ※いずれも本人の許諾を得ていない場合。 5 ＜参考＞肖像・声の保護とパブリシティ権 「AI時代の知的財産権検討会 中間とりまとめ」（P56）より抜粋 ５．個別課題 （２）声の保護 （イ）パブリシティ権による保護の有無 現在、我が国には、パブリシティ権を明文化した法令は存在しないが、判例は、「人の氏名、肖像等……は、 個人の人格の象徴であるから、当該個人は、人格権に由来するものとして、これをみだりに利用されない権利を 有すると解される……。そして、肖像等 は、商品の販売等を促進する顧客吸引力を有する場合があり、このよう な顧客吸引力を 排他的に利用する権利（以下「パブリシティ権」という。）は、肖像等それ自体の価値に基づく ものであるから、上記の人格権に由来する権利の一内容を構成する」と述べて、パブリシティ権を認めている （※ １）。 そして、同判決の調査官解説（※２）では、パブリシティ権の客体である「肖像等」については、本人の人物識 別情報を指し、「声」は「肖像」そのものではないとしても、「肖像等」には「声」が含まれると明示されてい る。したがって、同判例においてパブリシティ権が及ぶ場合として例示された「①肖像等それ自体を独立して鑑 賞の対象となる商品等として使用し、②商品等の差別化を図る目的で肖像等を商品等に付し、③肖像等を商品等 の広告として使用するなど、専ら肖像等の有する顧客吸引力の利用を目的とするといえる場合」に該当する場合、 すなわち、①声自体を独立して鑑賞の対象となる商品等として使用する場合、②商品等の差別化のために声を商 品等に付している場合、③声を商品等の広告として使用している場合には、「声」についてパブリシティ権に基 づく保護が可能と考えられる。 なお、同判例が示したパブリシティ権が及ぶ３つの場合は、あくまで例示にすぎず、パブリシティ権により 「声」が保護される場合が、上述した３つの場合に限定されることを示すものではないことには留意する必要が ある。パブリシティ権は、顧客吸引力を排他的に利用する権利であるため、具体的な利用態様や状況に鑑み、 「専ら肖像等の有する顧客吸引力の利用を目的とするといえる場合」であれば、「声」に対するパブリシティ権 による保護は及ぶと考えられる。 （※１）最判平成 24 年２月２日（平成 21 年（受）第 2056 号）民集 66 巻２号 89 頁〔ピンク・レディー事件〕 （※２）中島基至「判解」最判解民事篇平成 24 年度版 18 頁、41 頁 ※（出典）AI時代の知的財産権検討会 中間とりまとめ https://www.kantei.go.jp/jp/singi/titeki2/chitekizaisan2024/0528_ai.pdf 6

参考資料１２ EU AI法の概要 2025年９月 欧州連合日本政府代表部 ※英語の条文をもとに作成したものです。日本語訳は仮訳です。 ※参照した条文はこちらです。 https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 ※網羅的なものではありません。 EU AI法（AI Act）とは ○ 欧州委員会は、2021年4月、AI法案を公表。共同立法機 関（EU理事会及び欧州議会）による審議と交渉を経て、 2024年5月成立。2024年8月1日に施行。 ○ 2026年8月2日から本格適用開始（施行６か月後、１年後、 ３年後に適用開始となる規定あり）。 ○ 人間中心の信頼できる人工知能（AI）の導入を促進するこ と、AIシステムの有害な影響に対して、健康、安全、民主主義、 法の支配、環境保護等の基本的権利の高水準の保護を確保 すること、イノベーションを支援することを目的としている。 ○ リスクベースアプローチを採用し、４つのリスクレベルを設 け、各々のリスクに応じた要件・規制を設定するとともに、広 範なタスクを学習・実行可能で他のAIシステムに統合可能な 汎用AIモデルに関する規律を規定。提供者だけでなく導入 者にかかる要件も存在。 ○ EU域内にAIシステムを提供する域外企業も適用対象。 ○ 違反の場合、最大で3,500万ユーロ又は年間世界売上高 の7％の罰金。 ○ AIシステムの市場投入前に、革新的なAIシステムの開発、 試験、検証を実施できる環境として「AI規制サンドボックス」 を提供する。 1 審議経過 欧州委員会 EUの行政機関 【2021年４月】提案 【2021年４月】提案 欧州議会 EU理事会 EUの共同立法機関の一つ 705議席（当時） EUの共同立法機関の一つ 27加盟国の担当閣僚 【2022年12月】修正案採択 【2023年6月】修正案採択 三者による非公式交渉 （トリローグ） 政治的合意 欧州議会 【2024年３月】正式承認 【2023年12月】政治合意 EU理事会 合意した修正案を正式承認 成立 【2024年5月】正式承認 【2024年5月】成立 施行【2024年8月】から２年（例外あり） 適用 （法執行は原則各加盟国、一部欧州委員会） 2 適用対象範囲①（第2条） 対象者 1. AIシステムをEU域内で市場に投入する又は稼働させる提供者（provider）。設立場所がEU域内か第 三国かは問わない。 2. EU域内に所在するAIシステムの導入者（deployer）。 3. アウトプットがEU域内で利用される場合、第三国に所在するAIシステムの提供者及び導入者。 4. AIシステムの輸入者及び流通者。 5. 自らの名称又は商標の下に、製品とともにAIシステムを市場に投入する又は稼働させる製造者。 6. EU域内で設立されていない提供者の正規代理人。 7. EU域内に所在し影響を受ける者。 3 適用対象範囲②（第2条） 適用除外 1. 下記個別法（Annex I Section Bに列挙）の適用対象は、第6条第1項（ハイリスクAIシステムの定義）、第 102条から第109条まで（関係法令のハネ改正）及び第112条（見直し規定）のみ適用。 a. b. c. d. e. f. g. h. 民間航空の安全性に関する規則（Regulation (EC) 300/2008） 農林業用車両に関する規則（Regulation (EU) No 167/2013） 二輪、三輪及び四輪車両に関する規則（Regulation (EU) No 168/2013） 船舶用機器に関する指令（Directive 2014/90/EU） 鉄道網の相互運用性に関する指令（Directive (EU) 2016/797） 自動車及びその部品に関する規則（Regulation (EU) 2018/858） 自動車の型式承認に関する規則（Regulation (EU) 2019/2144） 民間航空分野の共通ルールに関する規則（Regulation (EU) 2018/1139） 2. 軍事、防衛又は国家安全保障の目的のみのために市場に投入され、稼働され又は利用されるAIシステ ム。 3. 市場に投入され又は稼働されていないが、そのアウトプットが軍事、防衛又は国家安全保障の目的の みのために利用されるAIシステム。 4. 第三国の公的機関及び国際機関。ただし、当該機関がEU又はEU加盟国との法執行及び司法協力の 国際協力又は協定の枠組みの下でAIシステムを利用する場合であって、当該第三国又は国際機関が個人 の基本的権利及び自由の保護に関する適切な保護措置を提供するときに限る。 5. 科学研究開発の目的のみのために開発され稼働されるAIシステム及びAIモデル並びにそのアウトプッ ト。 6. 市場投入又は稼働前のAIシステム又はAIモデルに関する研究、テスト又は開発行為。 7. 純粋に個人的な非職業的活動の過程でAIシステムを使用する自然人である導入者。 8. フリー・オープンソース・ライセンスでリリースされたAIシステム。ただし、ハイリスクAIシステム、禁止 されるAIシステム（第5条）又は透明性義務（第50条）の対象となるAIシステムとして市場に投入され又 4 は稼働される場合を除く。 定義 （第３条） 用語 AIシステム （AI System） 汎用AIモデル （general-purpose AI model） 汎用AIシステム （general-purpose AI system） 提供者 （provider） 導入者 （deployer） 川下提供者 （downstream provider） 本来の用途 （intended purpose） 定義 様々なレベルの自律性で動作するように設計され、導入後に順応性を示す可能性のある、 機械ベースのシステムであって、明示的又は暗黙的な目的のために、物理的又は仮想的な 環境に影響を与え得る予測、コンテンツ、推奨又は決定等のアウトプットを生成する方法を、 受け取ったインプットから推論するもの。 AIモデルが大規模に大量のデータで自己教師あり学習される場合を含め、大きな汎用性 を示し、モデルが市場に投入される方法に関係なく広範で異なるタスクを有能に実行する ことができ、様々な川下のシステム又はアプリケーションに統合することができるAIモデル。 ただし、市場に投入される前の研究、開発、プロトタイピング活動に使用されるAIモデルを 除く。 汎用AIモデルをベースとしたAIシステムであって、直接使用する場合及び他のAIシステム に統合される場合の両方において、様々な目的に対応する能力を有するAIシステム。 AIシステム若しくは汎用AIモデルを開発する、又はAIシステム若しくは汎用AIモデルを開 発させ、有償・無償を問わず、自己の名称若しくは商標の下に市場に投入又は稼働させる 自然人又は法人、公的機関、代理店その他の団体。 自らの権限の下でAIシステムを利用する自然人又は法人、公的機関、代理店その他の団体。 ただし、AIシステムが個人的な非職業的活動の過程で利用される場合を除く。 AIモデルを統合したAIシステム（汎用AIシステムを含む）の提供者。そのAIモデルが自社 で提供され垂直統合されたものであるか、契約関係に基づき他の事業者から提供された ものであるかを問わない。 使用説明書、販売促進資料及び技術文書において提供者により提供される情報に明記さ れている、具体的な使用状況及び使用条件を含む、提供者によって意図されたAIシステム の用途。 5 リスクベースアプローチ ○ AI法では、リスクベースアプローチを採用し、４つのリスクレベルを設け、各々のリスクに応じた規制を 規定。それに加え、汎用AIに関する規制あり。 リスクベースアプローチ 容認できないリスク (Unacceptable Risk) ハイリスク (High Risk) 限定的なリスク (Limited Risk) 最小限のリスク (Minimal Risk) （欧州委員会HP等の資料から一部加工） 汎用AIモデル提供者に対する義務  サブリミナル技術、ソーシャルスコアリング、職場又は教育 機関での感情推測システム、公共空間における法執行目的 でのリアルタイム遠隔生体認証システム 等  原則禁止  機械、医療機器、生体認証、重要インフラ、教育、雇用、法執 行、移民管理 等  プロバイダー、輸入者、販売業者、導入者それぞれに対して、 リスク管理、データガバナンス、技術文書の作成、人的監視 措置、適合性評価手続、ログ保存など厳格な規制  生成AI、自然人とやり取りするAI、感情認識システム 等  AIにより生成されたコンテンツである旨のマーキングや AI使用の告知など限定的な透明性義務  上記以外  自由に利用可能（自主的な行動規範の推奨あり） 汎用AIモデル一般 システミックリスクを有する汎用AIモデル  技術文書の作成及び更新  汎用AIモデルをAIシステムに統合する提供者向けの情 報・文書の作成、更新及び提供  著作権法を遵守するためのポリシーの実行  汎用AIモデルの学習に使用したコンテンツに関する十 分に詳細な要約の作成及び公開  域内代理人の指名 （左記に加えて）  モデル評価の実施  EUレベルでのシステミックリスクの評価及び軽減  深刻なインシデント及びそれに対する是正措置のAIオ フィスへの報告  適切なレベルのサイバーセキュリティ保護 6 AIリテラシー（第4条）  AIシステムの提供者及び導入者は、技術的知識、経験、教育及び訓練並びにAIシステム が使用される文脈を考慮し、かつ、AIシステムが使用される対象者又は対象者のグルー プを考慮した上で、最善の範囲で、職員及びその職員に代わってAIシステムの操作及び 使用を担当する者の十分なレベルのAIリテラシーを確保するための措置を講じなけれ ばならない。 7 禁止されるAIシステム①（第5条） 1. サブリミナル技術を使用するAIシステム 十分な情報に基づいた意思決定を行う能力を著しく損なうことにより人の行動を著しく歪める目的又は効果を有する、人の意識を超えた サブリミナル技術又は意図的に操作的若しくは欺瞞的な技術を導入するAIシステムの上市、稼働又は利用。 2. 人の脆弱性を悪用するAIシステム 人に重大な損害を与えるか又は与える可能性が合理的に高い方法で人の行動を著しく歪める目的又は効果を有する、年齢、障害又は特定 の社会的若しくは経済的状況に起因する自然人又は特定の集団の脆弱性を悪用するAIシステムの上市、稼働又は利用。 3. ソーシャルスコアリング 社会的行動又は既知、推論若しくは予測される個人的若しくは人格的特徴に基づき一定期間にわたり自然人又は集団の評価又は分類を行 うための AI システムであって、以下のいずれかにつながるソーシャルスコアを伴うものの上市、稼働又は利用。 （１）データが当初生成又は収集された文脈とは無関係な社会的文脈での特定の自然人又は集団に対する不利益又は不利な扱い。 （２）特定の自然人または集団に対する、その社会的行動又はその重大性に照らして不当又は不釣り合いな不利益又は不利な扱い。 4. 犯罪予測 自然人のプロファイリング又はその人格的特徴及び特性の評価のみに基づいて自然人が犯罪を犯すリスクを評価又は予測するために自然 人のリスク評価を行うためのAIシステムの上市、この特定の目的のための稼働又は利用。ただし、この禁止は、犯罪活動に直接関連する 客観的かつ検証可能な事実に基づいている、犯罪活動への人の関与に関する人間による評価を支援するために使用されるAIシステムには 適用されない。 5. 顔画像のスクレイピング インターネットや監視カメラ映像から顔画像を無制限にスクレイピングし、顔認識データベースを作成又は拡張するAIシステムの上市、 この特定の目的のための稼働又は利用。 6. 職場及び教育機関での感情推測AIシステム 職場及び教育機関での自然人の感情を推測するためのAIシステムの上市、この特定の目的のための稼働又は利用。ただし、医療上又は安全 上の理由で利用することが意図されている場合を除く。 7. 生体分類システム 人種、政治的意見、労働組合への加盟、宗教的又は哲学的信条、性生活又は性的指向を推測または推論するために、生体データに基づい て自然人を分類する生体分類システムの上市、この特定の目的のための稼働又は利用。ただし、この禁止は、合法的に取得された画像な どの生体データセットの生体データに基づくラベリング若しくはフィルタリング又は法執行の分野における生体データの分類を対象とし 8 ない。 禁止されるAIシステム②（第5条） 8. 公衆がアクセス可能な空間における法執行目的でのリアルタイム遠隔生体認証システムの利用。ただし、 以下の目的のために厳密に必要な場合は除く。 (１) 誘拐、人身売買若しくは性的搾取の被害者の的を絞った捜索又は行方不明者の捜索。 (２)自然人の生命若しくは身体の安全に対する具体的、実質的かつ差し迫った脅威又は真正かつ現在若しくは真正かつ予見可能なテロ攻 撃の脅威の防止。 (３)Annex IIに言及され、かつ、当該加盟国において少なくとも4年の拘禁刑又は拘禁命令により処罰される犯罪について、犯罪捜査、訴 追又は刑事罰の執行の目的で、容疑者の所在を突き止め又は特定すること。 ※利用に当たっては、一定の緊急事態を除き、司法機関又は独立した行政機関による事前許可が必要。 ＜Annex IIに列挙されている犯罪リスト＞ - テロリズム - 人身売買 - 児童の性的搾取、児童ポルノ - 麻薬又は向精神薬の不正取引 - 武器、軍需品、爆発物の不法取引 - 殺人、重傷傷害 - 人間の臓器又は組織の不正取引 - 核物質又は放射性物質の不法取引 - 誘拐、不法な拘束又は人質取り - 国際刑事裁判所の管轄下にある犯罪 - 航空機又は船舶の不法な拿捕 - 強姦 - 環境犯罪 - 組織的又は武装した強盗 - サボタージュ - 上記の犯罪に関与する犯罪組織への参加 9 ハイリスクAI① （第6条、Annex I及びIII） ○ ハイリスクAIには２つのカテゴリが存在。それぞれAnnex IとAnnex IIIに関連。 ハイリスクAI（第１カテゴリ）  以下の条件の両方を満たすAIシステム。 （１）AIシステムが、 Annex Iに記載されている法令の対象となっている製品の安全部品として使 用されることを意図しているか、またはそれ自体が製品であること。 （２）AIシステムを安全部品とする製品又は製品としてのAIシステム自体が、 Annex Iに掲げる法 令に基づく第三者による適合性評価義務の対象であること。 Annex I Section A 1. 機械指令（Directive 2006/42/EC） 2. 玩具の安全性指令（Directive 2009/48/EC） 3. レジャー用・個人用船舶指令（Directive 2013/53/EU） 4. エレベーター及びその部品に関する指令（Directive 2014/33/EU） 5. 爆発性環境下での保護システムに関する指令（Directive 2014/34/EU） 6. 無線機器指令（Directive 2014/53/EU） 7. 圧力機器指令（Directive 2014/68/EU） 8. ロープウェイ設備規則（Regulation (EU) 2016/424） 9. 個人用保護器具規則（Regulation (EU) 2016/425） 10.ガス燃料機器規則（Regulation (EU) 2016/426） 11. 医療機器規則（Regulation (EU) 2017/745） 12.体外診断用医療機器規則（Regulation (EU) 2017/746） ※Annex II Section Bは、第112条（見直し規定）等のみが適用される製品に関する法令を列挙（P３参照）。 10 ハイリスクAI② （第6条、Annex I及びIII） ハイリスクAI（第２カテゴリ） 原則 Annex IIIに記載されているAIシステム。 ただし、意思決定の結果に重大な影響を与えないことを含め、自然人の健康、安全又 は基本的権利に危害を及ぼす重大なリスクをもたらさない場合、ハイリスクとはみ なされない。以下のいずれかを満たす場合はこの例外に該当する。 (a)AIシステムが限られた手続的タスクを実行することを意図したものであること。 例外 (b)AIシステムが以前に完了した人間の活動の結果を改善することを意図したも のであること。 (c)AIシステムが、意思決定のパターン又は以前の意思決定のパターンからの逸脱 を検出することを意図しており、人間による適切なレビューなしに以前に完了した 人間の評価に取って代わる又は影響を与えることを意図していないこと。 (d)AIシステムが、Annex IIIに掲げるユースケースの目的に関連する評価の準 備作業を行うことを意図したものであること。 例外の例外 ただし、Annex IIIに記載されているAIシステムは、自然人のプロファイリングを行 う場合、常にハイリスクとみなされるものとする。  AIシステムがAnnex IIIに列挙されているがハイリスクではないと考える提供者は、市場投入又は稼働前にその 評価を文書化し、当局の要求に応じて当該文書を提出する。ただし、当該AIシステムの登録は必要。  欧州委員会は、ハイリスク・非ハイリスクの具体例の包括的なリストを伴うガイドラインを策定する（施行から18か 月以内）。  上記(a)～(d)のリストは、欧州委員会が委任法令により追加・削除可能。 11 ハイリスクAI③ （第6条、Annex I及びIII ） Annex III ※欧州委員会が委任法令で追加・修正・削除可能。 １．生体認証 （１）遠隔生体認証システム（1対1認証（verification）は含まない）、（２）機微な特徴や属性に基づく生体分類、（３）感情認識 ２．重要インフラ 重要デジタルインフラ、道路交通、水、ガス、暖房及び電力の供給の管理・運営における安全部品 ３．教育・職業訓練 (1)教育機関及び職業訓練機関へのアクセス又は割当て決定、（２）学習結果の評価、（３）個人が受ける教育レベルの評価、 （４）テスト中の禁止行為のモニター・検知 ４．雇用、労働者管理及び自営業へのアクセス （１）採用・選考（特に職業広告、求職申込みの分析、候補者の評価）、（２）雇用関係の条件、昇進、雇用契約関係の終了、タスク 割り当て及びパフォーマンス評価に影響を与える決定 ５．必須の民間・公共サービスへのアクセス (1)公的支援給付及びサービスへの自然人の適格性の評価、付与、減額、取消し又は再請求、（２）クレジットスコア（金融詐欺 検知目的の場合を除く）、（３）生命保険・健康保険におけるリスク評価・価格決定、（４）緊急通報の評価・分類、緊急時初動対応 サービス（警察、消防士、医療、緊急患者トリアージシステム等）の派遣又はその優先順位付け ６．法執行 （１）自然人が犯罪被害者になるリスクの評価、（２）ポリグラフ、（３）犯罪捜査・訴追過程での証拠の信頼性評価、（４）プロファ イリングのみに基づかない自然人の犯罪・再犯リスクの評価又は性格特性若しくは過去の犯罪行動の評価、（５）犯罪認知・捜 査・訴追過程でのプロファイリング ７．移民、亡命、国境管理 （１）ポリグラフ、（２）入国者の安全保障上のリスク、不正移民のリスク又は健康上のリスクなどの評価、（３）亡命、査証及び滞 在許可申請並びに関連する苦情の審査、（４）自然人の検知・認識・特定（旅行書類真正性の検証を除く） ８．司法及び民主的プロセスの運営 （１）司法当局による事実と法律の調査・解釈及び法律の適用の支援並びに紛争解決手続における同様の用途、（２）選挙若し くは住民投票の結果又は投票行動に影響を与えること（選挙キャンペーンの組織運営等を除く） 12 ハイリスクAIシステム提供者の義務①（第16条～第25条、第48条～第51条、第62条） 1. ハイリスクAIシステムが本法の要件（次ページ以降参照）に準拠していることを確保すること。 2. ハイリスクAIシステム、そのパッケージ又は付属文書に、その名称、登録商号又は登録商標及び住所を表 示すること。 3. 品質管理システムを策定・文書化すること。以下の内容を含める。 1 適合性評価手順の遵守及びハイリスクAIシステム 市販後モニタリングシステムの設定、実施及び維持 7 の修正管理手順を含む、規制遵守のための戦略 2 設計、設計管理、設計検証、開発、品質管理、品質 保証に使用される技術、手順及び体系的措置 3 開発前、開発中、開発後に実施すべき審査、試験、 当局、顧客その他の利害関係者とのコミュニケーションの取 9 検証手順、それらの実施頻度 扱い 8 重大インシデントの報告に関する手順 4 適用される規格を含む技術仕様 10 関連文書及び情報の記録保持のためのシステム及び手順 5 データ管理のためのシステム及び手順 11 供給確保に関する措置を含む資源管理 6 リスク管理システム 12 各項目の管理者その他の職員の責任を定めた説明責任の枠 組み 4. 以下の文書を、市場への投入又は稼働後10年間、当局に利用可能とすること。 ・技術文書 ・品質管理システム関連文書 ・適合性評価機関に承認された変更に関する文書 ・適合性評価機関から発出された文書 ・EU適合性宣言 5. 自己の管理下にある場合、自動的に生成するログを保管すること。 ・保存期間は、本来の用途と適用される法的義務に照らして適切な期間だが、最低6ヶ月間。 6. 上市前に関連する適合性評価手続を受けること。 7. EU適合性宣言の作成及びCEマークの貼付。 8. EUデータベースへの登録（提供者とAIシステムの両方）。 13 ハイリスクAIシステム提供者の義務②（第16条～第25条、第48条～第51条、第62条） 9. ハイリスクAIシステムが本法の要件に適合していない場合、必要な是正措置（リコール含む）を講じること。 10.ハイリスクAIシステムが自然人の健康、安全又は基本的人権に対するリスクを生じさせていることを認識 した場合、直ちに原因を調査し、法令不遵守の性質及び講じた是正措置について当局及び適合性評価機 関に通知すること。 11. 当局からの要請に応じ、本法の要件遵守の証明、情報・文書の提出、保管ログへのアクセスの提供。 12.アクセシビリティに関するEU指令（指令2016/2102及び指令2019/882）の遵守。 13.域内正規代理人の設置。代理人には以下のタスクを行う権限を付与すること。 ・EU適合性宣言及び技術文書が作成されていること及び適切な適合性評価手続が実施されていることの確認。 ・市場への投入又は稼働後10年間、提供者の連絡先並びにEU適合性宣言、技術文書及び適合性証明書のコピーを当局 に利用可能とすること。 ・当局に対する本法の要件遵守の証明、情報・文書の提出、保管ログへのアクセスの提供。 ・その他当局の行動への協力。 ・EUデータベースへの登録又は登録内容の正確性の確保。 14 ハイリスクAIシステムが満たすべき要件① （第８条～第15条） 要件 内容 リスク管理シ ステム  リスク管理システムを確立・実施・文書化・維持すること。  リスク管理システムとは、以下で構成される、AIシステムのライフサイクル全体を通して 反復継続的に実施されるプロセスでなければならない。 i. 健康、安全又は基本的人権に対する既知及び予見可能なリスクの特定及び分析 ii. 本来の用途に従って使用され又は合理的に予見可能な誤用が行われた際に出現 し得るリスクの推定及び評価 iii. 市販後モニタリングに基づくリスク評価 iv. 上記i.で特定されたリスクに対処するための適切かつ的を絞ったリスク管理措置の 採用  リスク管理措置：残留リスクが許容可能と判断されるものでなければならない。措置の 特定に当たっては以下を確保する。残留リスクは、利用者に要伝達。  適切な設計及び開発により、可能な限りリスクを排除又は低減  排除できないリスクに関して、適切な軽減及び管理手段を実施  導入者に対する適切な情報及びトレーニングの提供  テスト：適切なリスク管理措置を特定するため、開発中、遅くとも上市前にテストを実施。 データガバナ ンス 以下の品質基準を満たす学習・検証・テスト用データセットに基づいて開発すること。  本来の用途に照らして適切なデータガバナンス及び管理プラクティスに服する。  本来の用途に照らして、関連性があり、十分に代表的で、可能な限り誤りがなく完全 なもの。  本来の用途のために必要な範囲において、AIシステムの利用が意図されている特 定の地理的、文脈的、行動的又は機能的設定に特有の特性又は要素を考慮する。 ※ 使用されることが意図される特定の地理的、文脈的、行動的又は機能的設定を反映したデー タに基づいて学習及びテストされたハイリスクAIシステムは、本要件に適合するものと推定 15 される。 ハイリスクAIシステムが満たすべき要件② （第８条～第15条） 要件 内容 技術文書 技術文書を上市前に作成し、最新に維持すること。  ハイリスクAIシステムが満たすべき要件を満たしていることを証明し、当局及び適合性 評価機関が要件遵守の評価を行うために必要な情報を提供するような文書。  少なくともAnnex IVの内容を含む。  ハイリスクAI第１カテゴリ（他法令の規制対象）の場合、当該他法令で求められている内 容を含む単一の技術文書とする。 記録保存 システムの耐用期間を通じて自動でログを記録する機能を備えること。 透明性及び導 入者への情報 提供  導入者がAIシステムのアウトプットを解釈して適切に利用できるよう、透明性を確保す ること。  導入者に関連し、アクセス可能で理解可能な、簡潔、完全、正確かつ明確な情報が含ま れる使用説明書を添付すること。具体的には以下の情報を含める。  提供者の身元及び連絡先  AIシステムの特徴、能力及び性能の限界 ・本来の用途 ・正確性、堅牢性及びサイバーセキュリティのレベル ・健康及び安全又は基本的権利に対するリスクにつながる可能性がある状況 ・データセットに関する情報など  初回適合性評価時点から予定されていた性能の変更  人的監視措置  必要な計算・ハードウェア資源、想定寿命及び適切な機能を確保するために必要な 保守・ケア措置 16 ハイリスクAIシステムが満たすべき要件③ （第８条～第15条） 要件 内容 人的監視措置  適切な人間・機械間インターフェースを含め、AIシステムが使用されている期間中、人 間が効果的に監督できるような方法で設計・開発すること。  人間による監視措置は、AIシステムのリスク、自律性のレベル及び使用の状況に見合っ たものでなければならず、次のいずれか又は両方を通じて確保する。  上市前又は稼働前に、提供者が特定しAIシステムに組み込む措置。  AIシステムの上市前又は稼働前に提供者が特定した措置であって、導入者が実施 することが適切なもの。  ハイリスクAIシステムは、監視業務要員が以下を行うことを可能とする態様で導入者に 提供されなければならない。  異常、機能不全及び予想外の性能の兆候を検知し対処する目的で、AIシステムの 能力及び限界を十分に理解し、その動作を適切に監視すること。  AIシステムによって生成されるアウトプットに自動的に依存し又は過度に依存する 傾向（「自動化バイアス」）の可能性について認識すること。  AIシステムのアウトプットを正しく解釈すること。  特定の状況において、AIシステムを使用しないこと、又はAIシステムの出力を無 視、上書き若しくは反転させることを決定すること。  AIシステムの動作に介入すること又は「停止」ボタン若しくは類似の手順でシステ ムを中断し、安全な状態で停止させること。 17 ハイリスクAIシステムが満たすべき要件④ （第８条～第15条） 要件 内容  適切なレベルの正確性、堅牢性、サイバーセキュリティを達成し、ライフサイクルを通じ て一貫した性能を発揮するように設計・開発すること。  欧州委員会は、利害関係者及び計量・ベンチマーク当局などの組織と協力して、ベンチ マークや計測方法の開発を奨励しなければならない。 ※サイバーセキュ  AIシステムの正確性レベル及び関連する指標は、添付の使用説明書に明記する。 リティ法に基づく 認証スキーム（が  発生する可能性のあるエラー、障害又は不整合に関して強靱でなければならない。 今後できた場合）  堅牢性は、バックアップ又はフェイルセーフプランを含む技術的な冗長性ソリューショ ンによって達成することができる。 の下で認証を受 けたハイリスクAI  上市後又は稼働後も学習を続けるAIシステムは、偏ったアウトプットが将来の運用のた システムは、本条 めのインプットに影響を及ぼす可能性（「フィードバックループ」）を可能な限り除去又は に定めるサイバー 低減するように、かつ、フィードバックループが適切な緩和措置によって適切に対処さ セキュリティ要件 れるように、開発されなければならない。 に適合するもの  ハイリスクAIシステムは、システムの脆弱性を悪用することによってその用途、アウト と推定される。 プット、性能を変更しようとする第三者による試みに対して強靱でなければならない。  AI特有の脆弱性に対処するための技術的解決策には、必要に応じて、以下の攻撃を防 止、検知、対応、解決及び制御するための措置を含まなければならない。 i. 学習データセットを操作しようとする攻撃（「データポイズニング」） ii. 学習に使用される学習済みコンポーネントを操作しようとする攻撃（「モデルポイ ズニング」） iii. AIモデルに誤りを犯させるように設計されたインプット（「敵対的事例」又は「モデ ル回避」） iv. 機密性攻撃 v. モデルの欠陥 正確性、堅牢 性、サイバーセ キュリティー 18 ハイリスクAIシステムの適合性評価手続（第４０条～第４４条） 【前提】  本法が定める要件をカバーする欧州標準に適合しているハイリスクAIシステム及び汎用AIモデル は、本法が定める要件に適合していると推定される。  欧州標準の不存在等の場合、欧州委員会は共通仕様を策定可能。本法が定める要件をカバーする 共通仕様に適合しているハイリスクAIシステム及び汎用AIモデルは、本法が定める要件に適合し ていると推定される。 対象AIシステム 適合性評価手続  欧州標準又は共通仕様を適用している場合 → 以下のいずれか。 （遠隔生体認証システ ・Annex VIに基づく自己評価 ム、機微な特徴や属 ・Annex VIIに基づく適合性評価機関による第三者認証 性に基づく生体分類、  欧州標準も共通仕様も適用していない場合（不存在の場合も含む） 感情認識） → Annex VIIに基づく適合性評価機関による第三者認証。 生体認証 ハイリスクAI（第1 カテゴリ）（他の法 令の対象）  当該他の法令の規定に従って実施 その他  Annex VIに基づく自己評価 ※欧州委員会が委任法令で第三者認証必須に変更することが可能。 ※ハイリスクAIシステムが大幅に変更された場合は、新たな適合性評価手続の実施が必要。 ※上市後又は稼働後も学習を続けるハイリスクAIシステムについて、最初の適合性評価の時点で提供者 が事前に決定していた変更であって技術文書に含まれるものは、「大幅な変更」とはならない。（＝これ 以外の場合は、学習の結果大幅な変更があった場合も、新たな適合性評価手続の実施が必要。） ※適合証明書の有効期間は①第1カテゴリ（他の法令の対象）については最長５年、②第2カテゴリ 19 （Annex III）については最長４年。更新には適合性評価手続と同様の再査定が必要。 市販後モニタリングシステム（第72条）  ハイリスクAIシステム提供者は、市販後モニタリングシステムを確立・文書化しなければ ならない。  ハイリスクAIシステムの性能について、その耐用期間を通じて、導入者から提供される 又は他の情報源を通じて収集される関連データを積極的かつ体系的に収集、文書化、分 析する。  提供者が、AIシステムが本法の定める要件に継続的に適合していることを評価するた めのもの。 ＜関連規定＞ • 市販後モニタリングシステムは、市販後モニタリング計画に基づいて実施。市販後モニ タリング計画は、技術文書の一部を構成。 • 欧州委員会は、市販後モニタリング計画のテンプレート及び盛り込まれるべき要素を 定める実施法令を、本規則施行後18か月以内に策定。 • 第1カテゴリのハイリスクAIシステム（他の法令の対象）で、当該他の法令に基づき既 に市販後モニタリングシステム・市販後モニタリング計画が策定済みのものについて は、当該システム・計画に本規則に基づく市販後モニタリングの要素を統合する。 20 市場監視当局への報告義務（第73条）  ハイリスクAIシステム提供者は、重大インシデントが発生した場合、当該インシデントが発生した加盟 国の市場監視当局に報告しなければならない。 「重大インシデント」（serious incident)の定義： 以下のいずれかに直接的又は間接的につながるAIシステムのインシデント又は誤動作をいう。 (a) 人の死亡、または人の健康への重大な危害 (b) 重要インフラの管理または運用の重大かつ不可逆的な中断 (c) 基本的権利の保護を目的とする連邦法に基づく義務の侵害 (d) 財産または環境に対する重大な損害 分類 原則 広範な侵害 インシデント（ｂ） 人が死亡 報告期限 提供者がAIシステムと重大インシデントとの間の因果関係又はその合理的な 蓋然性を立証した後直ちに、かつ、いかなる場合においても、提供者又は導 入者が重大インシデントを認識した後15日以内 提供者又は導入者が当該インシデントを認識した後直ちに、遅くとも2日以内 提供者又は導入者が、ハイリスクAIシステムと重大な事故との因果関係を立 証した後又はその疑いが生じた後直ちに、ただし、遅くとも提供者又は導入 者が重大インシデントを知った日から10日以内  まず不完全な最初の報告書を提出し、その後完全な報告書を提出することが可能。  報告後、提供者は、遅滞なく、当該重大インシデント及び当該AIシステムに関連して必要な調査（イン シデントのリスク評価と是正措置を含む）を行わなければならない。  欧州委員会は、本規則施行後12か月以内に、本報告義務に関するガイダンスを策定する。  市場監視当局は、報告の受領後７日以内に適切な措置を講じる。 21 ハイリスクAIシステム輸入者及び販売業者の義務（第２3条、第24条） 輸入者の義務 1. ハイリスクAIシステムを市場に投入する前に、以下を確認しなければならない。 ・提供者が適切な適合性評価手続を実施していること。 ・提供者が技術文書を作成していること。 ・CEマーク、EU適合性宣言及び使用説明書が添付されていること。 ・提供者の域内代理人が指名されていること。 2. ハイリスクAIシステムが本規則に適合していない、偽造されている、又は偽造文書が添付されてい ると考える十分な理由がある場合、当該AIシステムを市場に出してはならない。 3. 輸入者の名称、登録商号又は登録商標及び連絡可能な住所を表示しなければならない。 4. ハイリスクAIシステムの上市後又は稼働後１０年間、適合性証明書、使用説明書及びEU適合性宣言 のコピーを保管しなければならない。 販売業者の義務 1. ハイリスクAIシステムを市販する前に、以下を確認しなければならない。 ・CEマーク、EU適合性宣言及び使用説明書が添付されていること。 ・提供者が名称等の表示義務及び品質管理システム策定義務を遵守していること。 ・輸入者が名称等の表示義務を遵守していること。 2. ハイリスクAIシステムが本規則に適合していないと考える場合、当該システムを市販してはならない。 3. 市販したハイリスクAI システムが本規則に適合していないと考える販売業者は、必要な是正措置を 講じ、撤回し、若しくはリコールし、又は提供者、輸入者若しくは関係事業者が是正措置を講じること を確保しなければならない。 22 ハイリスクAIシステム導入者の義務（第26条） 1. 使用説明書に従って使用することを確保するための技術的及び組織的措置を講じること。 2. 必要な能力、訓練、権限、必要な支援を有する自然人に人的監視をアサインすること。 3. AIシステムの本来の用途に照らしてインプットデータの関連性と十分な代表性を確保すること。 4. 使用説明書に沿ってAIシステムの動作を監視すること。 5. AIシステムが健康、安全又は基本的人権に関するリスクをもたらす可能性があると考える理由がある場 合、提供者又は販売業者及び市場監視当局に通知し、当該AIシステムの使用を停止すること。 6. 重大なインシデントを発見した場合には、その旨をまず提供者、次いで輸入者又は販売業者及び市場監視 当局に通知すること。 7. 自動的に生成するログを保管すること。 ・保存期間は本体の用途に照らして適切な期間、少なくとも6か月間。 8. 職場でハイリスク AI システムを稼働又は使用する前に、雇用者である導入者は、ハイリスク AI システム の使用の対象となることを、労働者代表及び影響を受ける労働者に通知すること。 9. 導入者が公的機関の場合のみ：事前登録義務あり。 10.犯罪の容疑者又は有罪判決を受けた者に的を絞った捜索を行う枠組みの下で、ハイリスク事後遠隔生体 認証AIシステムの導入者のみ：事前又は遅くとも事後48時間以内に遅滞なく、司法当局又はその決定が 拘束力を有し司法に服する行政当局の許可を求めること。 11.自然人に関する意思決定を行う又は意思決定を支援するハイリスクAI第２カテゴリ（Annex III）の導入 者のみ：ハイリスクAIシステムの使用の対象であることを当該自然人に通知すること。 23 基本的権利影響評価（第27条）  Annex III記載のハイリスクAIシステムの導入者は、導入前に、当該AIシステムの利用が生み出す 可能性のある基本的権利への影響を評価しなければならない。 ただし、以下のハイリスクAIシステムや導入者は除く。 1 重要インフラで使用されるハイリスクAIシス 4 クレジットスコア評価 テム 2 公法に準拠する組織 5 生命保険・健康保険におけるリスク評価・価格決定 3 公共サービスを提供する民間団体  基本的権利影響評価は以下で構成される。 ハイリスクAIシステムがその本来の用途に 1 沿って使用される導入者のプロセスの説明 ３で特定されたカテゴリーに影響を及ぼすと見込 4 まれる具体的な危害のリスク。提供者により提供 される情報を考慮する。 ハイリスクAIシステムが使用される期間と 頻度の説明 5 使用説明書に沿った人的監視措置の実施の説明 2 特定の文脈での使用によって影響を受ける 3 可能性のある自然人および集団のカテゴ リー 6 これらのリスクが顕在化した場合に講じる措置 （内部ガバナンスや苦情メカニズムを含む）  影響評価は、ハイリスクAIシステムの最初の導入に適用される。類似のケースでは、実施済みの評価 に依拠することが可能。使用中に上記要素に変更があった又は最新でなくなったと考える場合、導入 者は情報をアップデートしなければならない。  基本的権利影響評価を実施後、市場監視当局にその結果を通知しなければならない。  AIオフィスは質問票のテンプレートを作成する。 24 AIバリューチェーンにおける責任（第２5条） 「提供者」とみなされるケース  販売業者、輸入者、導入者又はその他の第三者であっても、以下のいずれかに該当する場合、ハイリスク AIシステムの「提供者」とみなされ、提供者の義務が適用される。この場合、当初当該AIシステムを上市 又は稼働させた提供者は提供者ではなくなる。 i. 上市済み又は稼働済みのハイリスクAIシステムに自己の名称や商標を付す場合。ただし、義務を他 の方法で割り当てる契約には影響しない。 ii. 上市済み又は稼働済みのハイリスクAIシステムに大幅な変更を加える場合。 iii. 上市済み又は稼働済みでハイリスクAIシステムと分類されていないAIシステム（汎用AIシステム を含む）がハイリスクAIシステムとなるような方法で当該AIシステムの本来の用途を変更する場合。  この場合、当初の提供者は新たな提供者が本規則を遵守するために必要な協力及び情報を提供しなけ ればならない。ただし、最初の提供者がAIシステムをハイリスクAIシステムに変更してはならないこと を明確に規定している場合はこの限りではない。  第1カテゴリのハイリスクAI（他法令の対象）であって製品の安全コンポーネントであるものについては、 以下のいずれかの場合、製品の製造業者（manufacturer）がハイリスクAIシステムの提供者とみなされる。 i. ハイリスクAIシステムが製造業者の名称又は商標の下で市場に投入される場合。 ii. ハイリスクAIシステムが、市場投入後、製造業者の名称又は商標の下で稼働される場合。 提供者とサプライヤーの協力  ハイリスクAIシステムの提供者とハイリスクAIシステムにおいて使用され又は統合されるAIシステム、 ツール、サービス、コンポーネント又はプロセスを提供する第三者は、ハイリスクAIシステムの提供者が 本規則に定める義務を完全に遵守することができるよう、必要な情報、能力、技術的アクセス及びその他 の支援を書面による合意により規定するものとする。  ただし、無償かつオープンソースのライセンスに基づき、ツール、サービス、プロセス又はコンポーネン ト（汎用AIモデルを除く）を一般に公開する第三者は適用除外。 25  AIオフィスはモデル契約条項を開発・推奨する。 透明性義務（限定的なリスク、汎用AIモデル）① （第50条） 対象AIシステム 対象者 義務 自然人と直接や り取りするAIシ ステム 提供者  自然人がAIシステムとやり取りしていることを認識できるように設計・ 開発すること。 ※使用の状況や文脈を考慮し、合理的に十分な知識を持ち、観察力と思慮 深さを備えた自然人から見て明らかな場合を除く。 合成音声、画像、 提供者 動画又はテキス トコンテンツを 生成するAIシス テム（汎用AIシ ステムを含む）  AIシステムのアウトプットが人為的に生成又は操作されたものである と機械可読形式でマークされ検知可能であることを確保すること。  技術的に可能な限り、その技術的ソリューションが効果的で、相互運用 性があり、堅牢で信頼できるものであることを確保するすること。 ※以下のAIシステムには適用されない。  標準的な編集のための補助機能を実行する場合。  導入者によって提供された入力データ若しくはそのセマンティクスを 実質的に変更しない場合。  犯罪の検知、防止、捜査若しくは訴追のために法律で認められている 場合。 感情認識システ ム・生体分類シ ステム  対象者にそのシステムの運用について通知すること。 ※第三者の権利と自由のための適切な保護措置が講じられている場合、犯 罪の検知、防止、捜査のために法律で認められているものには適用され ない。 導入者 26 透明性義務（限定的なリスク、汎用AIモデル）② （第50条） 対象AIシステム 対象者 義務 ディープフェイ ク生成AIシステ ム 導入者  コンテンツが人為的に生成又は操作されたものであることを開示する こと。  コンテンツが明らかに芸術的、創作的、風刺的、フィクション的又は 類似の作品又は番組の一部を形成する場合、作品の表示又は享受 を妨げない適切な方法で、そのような生成又は操作されたコンテン ツの存在を開示することのみで足りる。 ※犯罪の検知、防止、捜査若しくは訴追のために法律で認められている場 合には適用されない。 公共の関心事に 導入者 ついて公衆に知 らせる目的で公 表されるテキス トを生成または 操作するAIシス テム  当該テキストが人為的に生成又は操作されたものであることを開示す ること。 ※以下の場合には適用されない。  犯罪の検知、防止、捜査若しくは訴追のために法律で認められている 場合。  AIが生成したコンテンツが、人によるレビュー又は編集管理のプロセ スを経ており、自然人又は法人がコンテンツの公表について編集責 任を有する場合。  開示される情報は、遅くとも最初のやり取りの時点で、明確かつ区別可能な方法で、当事者に提供さ れなければならない。  AIオフィスは、人為的に生成又は操作されたコンテンツの検知及びラベリングに関する義務の効果的 な実施を促進するため、EUレベルでの行動規範の作成を奨励し、促進する。 27 汎用AIモデルの提供者の義務（第53条、第54条） 1. 学習及びテストの過程並びに評価結果を含むモデルの技術文書を作成し、最新の状態に維持すること。 少なくともAnnex XI規定の情報を含む。AIオフィス及び加盟国当局からの要請に応じて提供する。 2. 汎用AIモデルを組み込むことを意図するAIシステムの提供者に対して、情報及び文書を作成し、最新の 状態に保ち、利用可能にすること。ただし、知的財産権、業務上の機密情報又は営業秘密を遵守し保護す る必要性を損なうものではない。情報及び文書は以下の両方を満たすものでなければならない。 ・AIシステムの提供者が、汎用AIモデルの能力と限界を十分に理解し、本規則に基づく義務を遵守でき るようにすること。 ・少なくともAnnex XII規定の要素を含むこと。 3. EU域外国の提供者のみ：域内代理人を指名すること。 例外 例外の例外 上記１．～３．の義務は、モデルへのアクセス、使用、修正及び配布を認める無償のオープ ンソースライセンスの下でリリースされ、重み、モデル構造に関する情報及びモデルの使 用に関する情報を含むパラメータが一般に公開されているAIモデルの提供者には適用 されない。 ただし、この例外は、システミック・リスクを有する汎用AIモデルには適用されない。 4. 著作権及び関連する権利に関するEU法を遵守し、特に、デジタル単一市場著作権指令（2019/790）第 4条第3項に従って表明された権利の留保（テキストマイニング及びデータマイニングに対する権利制限 への留保）を特定し、最先端技術を含めて遵守するためのポリシーを導入すること。 5. AIオフィスが提供するテンプレートに従って、汎用AIモデルの学習に使用したコンテンツに関する十分に 詳細な要約を作成し、一般に公開すること。  本法が定める要件をカバーする欧州標準に適合している汎用AIモデルは、本法が定める要件に適合し ていると推定される。  欧州標準策定までの間、提供者は、義務の遵守を証明するために行動規範（code of practice）に依拠する 28 ことができる。 システミックリスクを有する汎用AIモデル（第51条、第52条） システミックリスクを有する汎用AIモデルとは  以下のいずれかの条件を満たす汎用AIモデルはシステミックリスクを有する汎用AIモデルとして分類 される。 i. 指標やベンチマークを含む適切な技術的ツールや方法論に基づいて評価された高い影響力（high impact capabilities）を有すること。 ※学習に使用された累積計算量を浮動小数点演算（FLOP）で計測した値が10^25より大きい場 合、「高い影響力」を有すると推定される。 ii. 職権で又は科学パネルからの適格な警告に従い、欧州委員会の決定に基づき、Annex XIIIに定 める基準に照らして、上記i.と同等の能力又は影響を有すること。  欧州委員会は、上記規定の閾値を修正するための委任法令並びにベンチマーク及び指標を補足するため の委任法令を策定する。 指定手続  汎用AIモデルが「高い影響力」の条件を満たす場合、提供者は、当該要件が満たされた後又は満たされ ることが判明した後、遅滞なく、遅くとも2週間以内に欧州委員会に届け出なければならない。汎用AI モデルがシステミックリスクを有していることを知った欧州委員会が当該モデルを指定することも可能。  提供者は、その届出とともに、その汎用AIモデルが、その特性により、システミックリスクを呈さず、 したがってシステミックリスクを有する汎用AIモデルとして分類されるべきではないことを実証す るための十分な裏付けのある論拠を提示することができる。  欧州委員会は、Annex XIIIに定める基準に基づいて、職権で又は科学パネルからの適格な警告に基 づき、汎用AIモデルをシステミックリスクを有するものとして指定することができる。  指定から6か月以上経過後、提供者は、欧州委員会に対し、指定決定以降に生じた客観的かつ詳細で 新たな理由を添えて、汎用AIモデルがシステミックリスクを有するかどうかの再評価を要請可能。  欧州委員会は、システミックリスクを有する汎用AIモデルのリストが公表・更新されることを確保する。29 システミックリスクを有する汎用AIモデルの提供者の義務（第55条、第56条） システミックリスクを有する汎用AIモデルの提供者の義務 汎用AIモデルの提供者の義務に加えて以下の義務が適用される。 1. システミックリスクの特定と軽減を目的としたモデルの敵対的テストの実施と文書化を含む、最新技術を 反映した標準化されたプロトコルとツールに従って、モデル評価(model evaluation)を実施すること。 2. システミックリスクを有する汎用AIモデルの開発、市場投入、使用から生じる可能性のあるEUレベルの システミックリスクを、その発生源を含め、評価・軽減する。 3. AIオフィス及び加盟国当局に対し、重大インシデント及びそれに対処するための可能な是正措置に関す る関連情報を、遅滞なく記録、文書化し、報告すること。 4. システミックリスクを有する汎用AIモデルとその物理インフラに対する適切なレベルのサイバーセキュリ ティ保護を確保する。 （参考）汎用AIモデル提供者の義務一覧 汎用AIモデル一般 システミックリスクを有する汎用AIモデル  技術文書の作成及び更新  汎用AIモデルをAIシステムに統合する提供者向けの情 報・文書の作成、更新及び提供  著作権法を遵守するためのポリシーの実行  汎用AIモデルの学習に使用したコンテンツに関する十 分に詳細な要約の作成及び公開  域内代理人の指名 （左記に加えて）  モデル評価の実施  EUレベルでのシステミックリスクの評価及び軽減  深刻なインシデント及びそれに対する是正措置のAIオ フィスへの報告  適切なレベルのサイバーセキュリティ保護 30 汎用AIモデルに関する行動規範（第56条）  AIオフィスは、国際的なアプローチを考慮しつつ、本規則の適切な適用に寄与するため、EUレベルで の行動規範（codes of practice）の作成を奨励し、促進する。行動規範は、少なくとも汎用AIモデル関 連の義務をカバーし、以下を含める。 i. 汎用AIモデル提供者が作成すべき技術文書及びAIシステム提供者向け情報を、市場及び技術 の発展に照らして常に最新のものとするための手段。 ii. 学習に使用されたコンテンツに関する要約の詳細さの適切なレベル。 iii. その発生源を含め、EUレベルでのシステミックリスクの種類と性質の特定。 iv. EUレベルのシステミックリスクの評価及び管理のための措置、手続及び形式（その文書化を含 む）。  AIオフィスは、全ての汎用AIモデル提供者及び関連する加盟国当局に対し、行動規範の作成に参加 するよう要請することができる。市民社会組織、産業界、学界並びに川下提供者や独立専門家などの 他の関連利害関係者は、このプロセスを支援することができる。  AIオフィスは、行動規範への参加者が、コミットメントの実施、講じられた措置及びその結果について、 KPIに対する測定結果も含め、AIオフィスに定期的に報告することを確保することを目指す。KPI及 び報告のコミットメントは、参加者間の規模及び能力の違いを反映する。  AIオフィス及び欧州AI委員会は、参加者による行動規範の目的の達成及び本規則の適切な適用への 貢献を定期的に監視及び評価する。  欧州委員会は、実施法令の形で、行動規範を承認し、それを域内で一般的に有効とすることができる。  AIオフィスは、全ての汎用AIモデル提供者に対し、行動規範を遵守するよう求めることができる。  行動規範は、遅くとも本規則施行日から9か月までに作成されなければならない。もし12か月以内 に行動規範が完成しない場合又はAIオフィスが適切でないと判断した場合、欧州委員会は、実施法令 の形で、汎用AIモデル関連の義務の実施に関する共通のルールを定めることができる。 ⇒２０２５年８月の汎用AIモデル向けの条項の適用開始と同時に、行動規範が公表された（27者が署名）。 （参考） https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai 31 AI規制サンドボックス①（第57条～第59条） AI規制サンドボックスとは  AIシステムの市場投入・稼働前の限られた期間、革新的なAIシステムの開発、学習、試験、検証を容易 にする管理された環境を提供するもの。  EU加盟国の当局により、各国に少なくとも一つ設置（他の加盟国と共同設置も可。また、EU機関向けには欧州デー タ保護監督機関（EDPS）により設置）。本規則の施行日から24か月以内に運用を開始する。  サンドボックス内では、本規則及び関連法に関する当局による指導を受け、サンドボックス内での活 動結果に関する報告書を当局から受領可能。また、法定の条件を満たせば、他の利用目的のために収 集した個人データを、革新的なAIシステム開発・試験目的に利用可能。 当局の役割  当局は、特に基本的権利、安全衛生、試験、リスク軽減措置並びに本規則の義務及び要件、関連する他 のEU法及び国内法との関連におけるそれらの有効性に対するリスクを特定することを目的として、 AI規制サンドボックス内で指導、監督及び支援を提供する。AIシステムが個人データの処理を伴う場 合、加盟国は、データ保護当局の関与を確保する。  当局は、参加者に対し、規制上の期待並びに本規則に定める要件及び義務の履行方法に関するガイダ ンスを提供する。提供者の要請に応じて、当局は、①サンドボックスで成功裏に実施された活動の証 明書と②サンドボックスにおいて実施された活動、関連する結果及び学習成果を詳述した終了報告 書を提供する。参加者は、適合性評価手続又は関連する市場監視活動を通じて本規則に準拠してい ることを証明するために、これらの文書を使用することができる。  AIオフィスはAI規制サンドボックスのリストを公表・更新する。欧州委員会は、関係者がAI規制サンド ボックスとやり取りできるよう、全ての関連情報を含む単一の専用インターフェースを開発する。  当局は毎年１回、年次報告書をAIオフィスに提出し、公表する。 32 AI規制サンドボックス②（第57条～第59条） 参加者の責任  AIシステムの開発及び試験中に特定された、健康、安全、基本的権利に対する重大なリスクには、適 切な軽減策を講じる。当局は、軽減策が不可能な場合に一時的又は恒久的に試験プロセス又はサンド ボックスへの参加を停止する権限を有する。  参加者は、サンドボックス内で行われた実験の結果、第三者に与えた損害について責任を負う。ただ し、提供予定者が具体的な計画及び参加条件を遵守し、当局の指導に誠実に従っていた場合、本規則 の違反に対して当局が制裁金を課すことはない。また、他のEU法及び国内法を管轄する当局が、サ ンドボックス内のAIシステムの監督に積極的に関与し、遵守のためのガイダンスを提供していた場合、 当該法に関して制裁金が課されることはない。 細則  欧州委員会は、AI規制のサンドボックスの設置、開発、実施、運用、監督に関する詳細な取決めを規 定する実施法令を採択する。実施法令は、以下の論点に関する共通原則を含むものとする。 i. AI規制サンドボックスへの参加資格と選考基準 ii. サンドボックス計画及び終了報告書を含む、AI規制サンドボックスの申請、参加、監視、退出及び 終了の手順 iii. 参加者に適用される規約  上記実施法令は、選考基準が透明かつ公正であること、申請から３か月以内に当局の決定が行われる こと、中小企業とスタートアップについては無料とすること、中小企業やスタートアップにとってもわ かりやすいシンプルな手続とすること等の要件を満たすものとする。 33 AI規制サンドボックス③（第57条～第59条） 個人データの目的外利用  AI規制サンドボックスでは、以下の条件を全て満たす場合、他の目的で合法的に収集された個人データを、サ ンドボックス内で特定のAIシステムを開発、学習、テストする目的で処理することができる。 【対象：以下のいずれかの分野で、大きな公共の利益の保護のために開発されるAIシステム】 疾病の発見、診断、予防、管理、治療、医療システムの改善を 交通システム、モビリティ、重要インフラ及びネット 1 4 含む公共の安全と公衆衛生 ワークの安全性と強靱性 高水準の環境保護と質の向上、生物多様性の保護、汚染か 2 5 行政及び公共サービスの効率性と質 らの保護、グリーン移行措置、気候変動の緩和と適応対策 3 エネルギー持続可能性 i. 処理されるデータが、ハイリスクAIシステムに対する本規則の要件に準拠するために必要であり、匿名化 データ、合成データ又はその他の非個人データでは効果的に満たすことができないこと。 ii. データ主体の権利と自由に対する高いリスクがサンドボックス実験中に発生する可能性があるかどうかを 特定するための効果的な監視メカニズム、及びそれらのリスクを速やかに軽減し、必要に応じて処理を停 止する対応メカニズムが存在すること。 iii. 個人データが、提供予定者の管理下で、機能的に分離され、隔離され、保護されたデータ処理環境にあり、 権限を与えられた者のみがこれらのデータにアクセスできること。 iv. 個人データの共有はEUデータ保護法に従って行うこと。サンドボックス内で作成された個人データは、サ ンドボックス外で共有することはできない。 v. 個人データの処理が、データ主体に影響を及ぼす措置や決定をもたらすものではなく、 EUデータ保護法 に規定された権利の適用に影響を及ぼすものでもないこと。 vi. 個人データが、適切な技術的及び組織的手段によって保護され、サンドボックスへの参加が終了する又は 個人データの保持期間が終了した時点で削除されること。 vii. 個人データの処理に関するログをサンドボックスへの参加期間中保存すること。 viii. AIシステムの学習、試験及び検証のプロセス及び背景理論に関する完全かつ詳細な説明が、試験結果と ともに技術文書の一部として保管されること。 ix. サンドボックスで開発されたAIプロジェクト、その目的、期待される結果の簡単な概要が、当局のウェブサ 34 イトで公表されること。 中小企業・スタートアップ支援措置（第62条） 加盟国が講じる措置  参加資格と選考基準を満たす限りにおいて、 EU域内に登録されたオフィスや支社を有する中小企業 （スタートアップを含む）に対し、AI規制サンドボックスへの優先的なアクセスを提供する。  中小企業（スタートアップ、導入者、地方公共団体を含む）のニーズに合わせて、本規則の適用に関す る具体的な啓発・研修活動を実施する 。  中小企業（スタートアップ、導入者、その他のイノベーター、地方公共団体を含む）とのコミュニケーショ ンのために、既存の専用チャネルを活用し又は新たなチャネルを確立し、本規則の実施に関する助言 の提供及び問合せ対応を行う。  標準化開発プロセスへの中小企業及びその他の利害関係者の参加を促進する。 AIオフィスが講じる措置  本規則でカバーされている分野に関する標準テンプレートを提供する。  EU域内の全事業者向けに本規則に関連した使いやすい情報を提供する単一の情報プラットフォーム を開発・維持する。  本規則の義務について認識を高めるため、適切なコミュニケーションキャンペーンを実施する。  AIシステムに関連する公共調達手続のベストプラクティスの収れんを評価・促進する。 その他  適合性評価の手数料を設定する際には、中小企業（スタートアップを含む）の利益及びニーズを考慮し、 その手数料を企業規模、市場規模及びその他の関連指標に比例して減額しなければならない。 35 ガバナンス（第64条～第70条） 助言・支援 欧州委員会 AIオフィス ・本法の適用・執行（汎用AIモデルのみ） ・下位法令・ガイドラインの策定 科学パネル (Scientific Panel of Independent Experts) ・AI分野の最新の科学的知見を 有する、AIシステム提供者から 独立した専門家で構成 ・汎用AIに係る本規則の執行に 関してAIオフィスに助言・支援 ・要請に応じて加盟国の執行活 動への協力 監督 事務局機能 諮問 助言 アドバイザリー フォーラム 欧州AI委員会 （EAIB：European Artificial Intelligence Board） 市場監視SG 適合性評価SG （市場監視当局） （適合性評価機関指定当局） 構成 ・加盟国当局（うち１国が議長） ・オブザーバ：EDPS ・事務局：AIオフィス（投票権なし） 主な 業務 ・加盟国当局間の調整、統一的な行政執 行への貢献、執行に関する助言・支援 ・技術的・規制的専門性やベストプラク ティスの収集・共有 ・意見・勧告（行動規範、ガイドライン、本 規則の見直し、欧州標準、共通仕様等関 連） ・国際関係に関する欧州委への助言 (Advisory Forum) ・欧州委・EAIBへの専門的知 見の提供・助言 ・産業界、スタートアップ、中小 企業、市民団体及びアカデミア で構成 ・欧州基本権機関、ENISA、 CEN / CENELEC、ETSIも 参加 協力 参加 助言・支援 EU加盟国当局 （対EU機関の当局は欧州データ保護監督機関（EDPS）） ・本法の適用・執行（汎用AIモデルを除く） ・適合性証明機関と市場監視当局（本規則施行後12か月以内に指名・公表） 事業者 監督 36 執行①（第74条、第75条、第79条、第82条、第85条、第86条） 市場監視  市場監視規則（Regulation (EU) 2019/1020）をAIシステムにも適用。 ・EU域内代理人の設置義務、市場監視当局への協力義務等。 ・市場監視当局へ資料・情報提出命令、立入検査、是正措置命令（リコール含む）等の権限を付与。  AIシステムが汎用AIモデルに基づいており、当該モデルと当該システムが同一の提供者によって 開発されている場合、当該AIシステムを監視及び監督する権限はAIオフィスが有する。  市場監視当局は、AIシステムがリスクをもたらしていると考える十分な理由を有する場合、当該AI システムについて、本規則の要件及び義務の遵守に関する評価を実施しなければならない。  AIシステムが本規則の要件及び義務を遵守していないと認められる場合、市場監視当局は、関係事 業者に対し、当局が定める期間内、遅くとも15営業日以内又は関連法令が定める期間内のいずれ か短い期間内に、遵守するために全ての適切な是正措置をとること、当該AIシステムを市場から撤 去すること又はAIシステムをリコールすることを遅滞なく要求しなければならない。  事業者が期間内に適切な是正措置を講じない場合、市場監視当局は、あらゆる適切な暫定措置を 講じなければならない。当局は、遅滞なく、当該措置を欧州委員会及び他の加盟国に通知する。  市場監視当局は、ハイリスクAIシステムが本規則を遵守しているにもかかわらず、人の健康、安全、 基本的権利又はその他の公益保護の側面に対するリスクをもたらしていると認める場合、関係事業 者に対し、当該リスクをもたらさないことを確保するための適切な措置を講じるよう求める。 37 執行②（第74条、第75条、第79条、第82条、第85条、第86条） 当局によるアクセス  市場監視当局は、API等を通じて、提供者が使用する学習、検証及び試験のデータセットへの完全な アクセスを認められる。  ハイリスクAIシステムの本規則が定める要件への適合性を評価するために必要であり、試験又は監 査手続並びに提供者から提供されたデータ及び文書に基づく検証を実施し尽くした又は不十分であ ることが判明した場合、市場監視当局は、当該システムのソースコードへのアクセスを認められる。  市場監視当局が汎用AIモデルに関連する特定の情報にアクセスできないためにハイリスクAIシステ ムに関する調査を完了できない場合、当該当局は、AIオフィスに関連する情報へのアクセスを要求 可能。 苦情申立て等  本規則違反があったと考える根拠を有する自然人又は法人は、関連する市場監視当局に苦情を提 出することができる。  その者の健康、安全又は基本的権利に悪影響を及ぼすと考えられる法的効果を生じさせる又は同様 にその者に重大な影響を及ぼす第2カテゴリのハイリスクAIシステム（Annex III）（重要インフラ を除く）からのアウトプットに基づき導入者によって下された決定の対象となる者は、導入者から、 意思決定手続におけるAIシステムの役割及び下された決定の主な要素に関する明確かつ意味のあ る説明を受ける権利を有する。 38 執行③（第88条～第94条） 汎用AIモデル提供者の監督  欧州委員会は、汎用AIモデルに関する規定を監督し執行する独占的権限を有する。欧州委員会は、こ の業務の実施をAIオフィスに委ねるものとする。  AIオフィスは、行動規範の遵守を含め、汎用AIモデルの提供者による本規則の効果的な実施及び遵守 を監視するために必要な措置をとることができる。  川下提供者は、本規則の違反を主張する苦情を申し立てる権利を有する。  科学パネルは、ある汎用AIモデルが①EUレベルで具体的に特定可能なリスクをもたらすこと又は②シ ステミックリスクを有する汎用モデルの要件を満たすことを疑う理由がある場合、AIオフィスに適格通 報（qualified alert）を提供することができる。  適格通報を受け取った欧州委員会は、AIオフィスを通じて、また、欧州AI委員会に通知した後、当該事 項を評価する目的で本規則に規定する権限を行使することができる。講じる措置は欧州AI委員会に通 知する。  欧州委員会は、汎用AIモデル提供者に対し、必要な文書・情報の提供を要求することができる。また、 科学パネルから正当な根拠のある要請があった場合、欧州委員会は、科学パネルの任務の遂行に必要 かつ適切な場合には、汎用AIモデルの提供者に対して情報提供を要求することができる。  AIオフィスは、欧州AI委員会に諮問後、以下の目的で汎用AIモデルの評価を実施することができる。 この評価を欧州委員会に代わって実施する独立した専門家を任命可能。 i. 収集された情報が不十分である場合に、提供者が義務を遵守しているかを評価するため。 ii. 科学パネルからの適格警告に基づき、EUレベルでのシステミックリスクを調査するため。  上記評価のため、欧州委員会は、汎用AIモデル（ソースコードを含む）へのアクセスを要求可能。  汎用AIモデル提供者又はその代理人は、要求された情報を提供しなければならない。  欧州委員会は、汎用AIモデル提供者に対し、義務を遵守するための措置の実施、リスク軽減措置の実 施、市販の制限、撤回、リコールを要求することができる。 39 罰則（第９９条、第101条） 原則  本規則が定める上限の範囲内で加盟国が定める。 違反内容 罰則の上限 利用禁止AI規定への違反 3,500万ユーロ又は全世界年間売上高の7％のいずれか高い方 その他の規定への違反 1,500万ユーロ又は全世界年間売上高の3％のいずれか高い方 当局又は適合性認証機関へ の不正確、不完全又はミス リーディングな情報の提供 750万ユーロ又は全世界年間売上高の1％のいずれか高い方 ※スタートアップを含む中小企業については、それぞれ上記のうち低い方が上限。 汎用AIモデル提供者への罰則  以下のいずれかの場合、欧州委員会が1,500万ユーロ又は全世界年間売上高の3％のいずれか 高い方を科す。 i. 本規則に違反した場合 ii. 文書・情報提供要求に応じなかった場合又は不正確、不完全若しくはミスリーディングな情報 を提供した場合 iii. 措置要求に応じなかった場合 iv. モデルへのアクセスを欧州委員会に提供しなかった場合 40 行動規範（第95条） 行動規範（Code of Conduct）  AIオフィス及び加盟国は、ハイリスクAIシステム以外のAIシステムに、ハイリスクAIシ ステムが満たすべき要件の一部又は全部を自主的に適用することを促進することを意 図した、関連するガバナンス機構を含む行動規範（codes of conduct）の作成を奨励及び 促進する。  行動規範に含むべき要素は、例えば、環境の持続可能性への影響の評価・軽減、AIリテ ラシーの促進、 AIシステムの包摂的かつ多様な設計の促進、脆弱な個人又は集団への 悪影響の評価・防止を含む。  行動規範は、AIシステムの個々の提供者若しくは導入者又はそれらを代表する組織に よって、市民団体やアカデミアを含む利害関係者の関与を得ながら作成される。行動規 範は、関連するシステムの本来の用途の類似性を考慮して、1つ又は複数のAIシステム を対象とすることができる。 41 施行日（第111条、第113条）  施行（2024年8月１日）から以下の期間経過後にそれぞれ適用開始。 期間 ６か月 （２０２５年2月2日） 【適用開始済み】 適用開始規定 ・適用対象範囲 ・定義 ・AIリテラシー ・禁止されるAI 12か月 （２０２５年8月2日） 【適用開始済み】 ・適合性評価機関 ・汎用AIモデル ・ガバナンス ・罰則（汎用AIモデルの罰則は除く） 24か月 （2026年8月2日） ・その他の規定 ・これ以前に上市され又は稼働されたAIシステムは、その後設計上の大幅な 変更があった場合のみ適用。ただし、公的機関による使用が意図されている ハイリスクAIシステムの提供者及び導入者は、施行から６年以内に本規則の 要件及び義務を遵守するために必要な措置を講じる。 36か月 （2027年8月2日） ・第1カテゴリのハイリスクAIシステム（他法令の対象） ・本規則の施行日から12ヶ月以内に上市された汎用AIモデルの提供者が本 規則に定める義務を遵守するために必要な措置を講じる。 ・Annex Xに列挙された法律により設置された大規模ITシステムの構成要 2030年12月31日 素であって、本規則の施行日から36ヶ月以内に上市され又は稼働されたAI システムの本規則の遵守（禁止されるAIは除く） 42