生成AIの普及に伴うリスクに対応するため、AIの安全性確保や偽情報対策、国際競争力強化に向けた取り組みが進められている。
タグ: 生成AI, リスク, AI安全性, 偽情報対策, 国際競争力, LLM, データ整備
(特集②デジタルテクノロジー) 生成AIで顕在化した課題・リスクへの対応 7 急速に進展・普及したAIには機密情報の流出、偽・誤情報の流通の加速等の多様なリスクが存在している。 AIの安全・安心の確保に向けて、AIの安全性評価手法の検討等を行う機関として、日本にAIセーフティ・インスティテュート (AISI) が設立された。 偽・誤情報対策としてはAI生成コンテンツを判別する技術の開発・実証も進んでいるほか、メディアを中心とした 取組として、インターネット上の記事や広告に発信元の情報を付与する技術の開発等も進展している。 また、大規模言語モデル (LLM) 開発は、OpenAIのほか、巨額の投資が可能で日々大量のデータを収集し ているGAFAM等のビッグテック企業がリードしており、データの取扱いの透明性や、公平な市場環境の確保、 日本の国際競争力強化に向けた対策等が求められる。 対策の一つとして、産官学が連携して国産LLMの開発や大量・高品質で安全性の高い日本語中心の学習用 データの整備を推進している。 (その他国際的な取組及び制度的対応は次頁に記載) AIの安全・安心の確保 偽・誤情報への対策 国際競争力の強化 <AIセーフティ・インスティテュートの設立> <AI生成コンテンツを判別する技術> <国産LLMの開発> AIS Japan AI Safety Institute SYNTHETIQ VISION SYNTHETIQ VISION API can be used to detect forgery of human face. Example of detection result: Left: Real Right: Fake NICT NICT独自のLLMを開発するほか、 民間企業等におけるLLM開発に必要な大量・高品質で安全性の高い日本 語中心の学習用データを整備 NTT tsuzumi ・AIの安全性の中心的機関として、専門 人材の確保、技術的知見の集約等を推進 ・諸外国のAISI等の国際的なネットワー クを構築、AIの安全性確保に向けた方 策を検討 (出典) 国立情報学研究所 シンセティックメディア国際研究センター ・軽量ながら世界トップレベルの日本語処理性能をもつ ・特定の業界や企業組織に特化したチューニングが可能 ・商用サービスを2024年3月に開始