[B-7] Information Networks

10:15 AM - 10:30 AM JST(1:15 AM - 1:30 AM UTC)

[B-7-23] 分散GPU環境における投機的デコーディングを用いたLLM推論高速化

〇kentaro hayashi¹, Kenshiro Wada¹, Naoki Kimishima¹, Kenzo Okuda¹, Hiroki Baba¹ (1. NTT, Inc.)

Keywords:

LLM,network,computing

Password required to view