[3J3-LS-7] レッドハット株式会社 ランチョンセミナー

12:50 PM - 1:40 PM JST(3:50 AM - 4:40 AM UTC)

[3J3-LS-7-01] vLLMならRed Hat! 〜オープンソースで実現する商用AI推論基盤〜

石川 純平 (レッドハット株式会社)

Red HatはオープンソースのAI推論エンジンであるvLLMプロジェクトの開発にコントリビュートし、商用環境で利用可能な製品を提供しています。本セッションではvLLMや、関連する分散推論のオープンソースプロジェクトであるllm-dについて、またRed Hatが提供するRed Hat AI Enterpriseについてご紹介します。
※社会人優先