講演情報

[B-7-23]分散GPU環境における投機的デコーディングを用いたLLM推論高速化

〇林 健太朗1、和田 健史郎1、君島 直樹1、奥田 兼三1、馬場 宏基1 (1. NTT株式会社)

キーワード:

LLM、ネットワーク、コンピューティング

閲覧にはパスワードが必要です