講演情報

[B-6-54]クラウドGPUを用いたLLM分散推論におけるノード構成のコスト効率評価

◎△河野 尊1、神野 敦哉2、那須 渚2、田口 開智2、小板 隆浩2、小比賀 亮仁1 (1. 同志社大学、2. 同志社大学大学院)

キーワード:

メッシュLLM、アマゾンウェブサービス、大規模言語モデル、分散推論、EC2インスタンス

閲覧にはパスワードが必要です