医療分野に特化した大規模言語モデル（LLM）を活用し、電子カルテの標準化や希少疾患治療薬の早期承認への応用が推進されている。医療AIの安全性検証を進めながら実用化を加速させる取組が行われている。

• 医療特化LLMの安全性検証と社会実装に向けた取組

AIセーフティの取組強化 ～医療特化LLMの安全性検証～ 日本の医療現場のニーズに即したLLMを開発し、かつ安心して利用できるよう、専門家の知見も得ながら、安全性検証を行う。 社会実装に向けた安全性検証 有害情報・偽情報出力制御 医学倫理に反した出力の制御 医療従事者のフィードバックの反映 プライバシー保護 個人情報を学習したLLMの出力内容の検証 個人情報を出力しないよう制御する仕組み ロバスト性 災害時も想定した安定稼働 多数の医療機関での稼働を想定した推論効率の最適化 セキュリティ確保 クラウド・プラットフォームへのセキュアなアップロード 安全性の高いLLM LLMを、異なる構造・表記の電子カルテの標準化やレジストリの構築を行うことにより、希少疾病治療薬の早期承認の条件となるデータ収集の効率化を実現 →創薬プロセスの迅速化 LLM開発 モデル学習：東京大学、東京科学大学、ABEJA データ・システム：ABEJA 事業統括 さくらインターネット 医学知見・データ提供：IHW、藤田医科大学、九州大学、東京科学大学、ヘルステックハブ 事業化 安全性評価：東京大学、理化学研究所 事業化推進：Healios、日本医療LLM研究所 医療LLM研究所 94