講演情報
[2L5-GS-5a-01]自己決定エージェントの定式化
〇大村 吉幸1、カー 航太1、國吉 康夫1 (1. 東京大学)
キーワード：
エージェント、行為の開始、責任
近年、AIの高性能化によって、AI倫理の重要性が高まり、Agencyを定義することが喫緊の課題となっている。一方で、認知科学や人工知能においてAgencyの定義は長年議論が続いており収束していない。物理は、機械的なhappeningsを記述することができるが、Agencyの自律的な行為とは大きく異なる。Agentの道徳や責任を議論するためには、Agentの行為をモデル化する必要がある。本研究では、心の哲学における議論を参考にしながら、機械的なhappeningを超えたAgent自身の行為決定を数学的に定式化することで、Agencyの因果的メカニズムを明らかにする。Agentの自律的行為を定義するためには、因果の時間的非対称性の条件を満たす必要がある。これを行うために、神経回路レベルとそのマクロ構造を考慮し、マクロレベルから神経レベルへの因果メカニズムを提案する。従来の議論では、単一レベルの因果のみを考慮するために、Agentの因果を定義しようとする場合、無限後退に陥るという問題があった。対して、マクロレベルから神経レベルへの因果を定式化し、マクロレベルでAgencyを定義することで無限後退に陥らず、自律的行為の開始を定義可能となることを示す。