[3J2-OS-15b] OS-15

11:00 AM - 11:15 AM JST(2:00 AM - 2:15 AM UTC)

[3J2-OS-15b-01] A Study of Safety in AI for Science

〇Hiromi Arai¹, Koichiro Yoshino³, Jun Seita² (1. RIKEN AIP Center for Advanced Intelligence Project, 2. RIKEN Center for Interdisciplinary Theoretical and Mathematical Sciences, 3. RIKEN Information R&D and Strategy Headquarters)

Keywords:

AI for Science,AI Safety

AIの進展により科学研究におけるAI利用への期待が急速に高まっている。解析支援ツールなどの道具としての利用のみならず、仮説生成・実験設計・実験実行・知識統合のような意思決定にかかわる機能が発展しつつある。AIおよびロボットによる自動化、意思決定は、科学研究に様々な影響を与えうる。例えば、デュアルユース、生成データによるデータ汚染などである。AI for Scienceにおける安全性を考える際に、従来の情報セキュリティやAI Securityでの議論に加え、このような科学研究特有のリスクについても考察、検証していく必要があると考えられる。本稿においては特に実験室実験をおこなう科学研究を想定し、AI及びロボットの利用におけるリスクとその対策についての議論を行う。