[3J2-OS-15b] AI for Scienceのリアル

11:00 〜 11:15

[3J2-OS-15b-01] AI for ScienceにおけるSafetyについての一検討

〇荒井 ひろみ¹、吉野 幸一郎³、清田 純² (1. 理化学研究所　革新知能統合研究センター、2. 理化学研究所　革新数理創造研究センター、3. 理化学研究所　情報統合本部)

キーワード：

AI for Science、AI安全性

AIの進展により科学研究におけるAI利用への期待が急速に高まっている。解析支援ツールなどの道具としての利用のみならず、仮説生成・実験設計・実験実行・知識統合のような意思決定にかかわる機能が発展しつつある。AIおよびロボットによる自動化、意思決定は、科学研究に様々な影響を与えうる。例えば、デュアルユース、生成データによるデータ汚染などである。AI for Scienceにおける安全性を考える際に、従来の情報セキュリティやAI Securityでの議論に加え、このような科学研究特有のリスクについても考察、検証していく必要があると考えられる。本稿においては特に実験室実験をおこなう科学研究を想定し、AI及びロボットの利用におけるリスクとその対策についての議論を行う。