第21回医療の質・安全学会学術集会

座長：藤田　卓仙（公益財団法人東京財団／名古屋大学、コー／イノベーション大学）
企画提案者：土橋　由実（株式会社三菱総合研究所）

近年、生成AIの急速な発展に伴い、医療・ヘルスケア分野においても、診療記録作成支援、退院時サマリ作成、院内情報検索、患者向け相談支援など、多様なAIサービスの活用が進んでいる。一方で、AIの出力誤りや想定外の利用等による患者安全上のリスクへの対応、医療現場におけるAI導入判断の妥当性、運用管理体制の整備など、医療機関に求められるガバナンス上の課題も顕在化しつつある。特に、薬機法上のプログラム医療機器（SaMD）に該当しない業務支援・情報提供型AI（Non-SaMD）については、安全性評価や管理の基準が十分に整備されておらず、多くの医療機関が明確な判断基準を持たないまま導入の可否を検討している状況にある。

本セッションでは、AIセーフティ・インスティテュート（AISI）ヘルスケアSWGが2026年4月に公表した「ヘルスケア領域におけるAIセーフティ評価観点ガイド（第1.0版）」を題材として、医療機関におけるTrustworthy AIの実現に向けた課題と方向性を議論する。なお、本SWGはJaDHAの「信頼できるAIのイノベーション推進委員会」と連携して活動している。
セッション前半では、医療現場における生成AI活用の現状や課題を概観するとともに、ガイドが提示するAIセーフティ評価の考え方を紹介する。その上で、医療安全・患者安全の観点から、医療現場で想定されるリスク、AIの調達・契約時に求められる視点、院内AIガバナンス体制の構築、教育・人材育成のあり方等について問題提起を行う。
セッション後半では、「信頼できるAI」とは何か、AIインシデントやヒヤリハットをどのように捉え、組織として管理すべきか、また人材・組織・コストの観点からAI導入を阻む課題をどのように乗り越えるべきかについて参加者とともに議論する。さらに、医療安全管理者、病院経営層、臨床現場、医療情報部門など、それぞれの立場から期待される役割や責任について意見交換を行う。医療現場の実践知を共有し、AIの安全な利活用に向けた共通認識の形成を図るとともに、その成果を今後のガイド改訂や医療機関におけるAIガバナンスの高度化につなげることを目指す。