[5J2-OS-31a] LLM時代のソフトウェア工学

12:45 〜 13:00

[5J2-OS-31a-04] LLMを軽量な汎用部品として扱うソフトウェア工学オンデバイスLLMの実践事例から得られる示唆

〇及川 卓也¹ (1. Tably株式会社)

キーワード：

大規模言語モデル、ソフトウェア工学、オンデバイスLLM、部品化

大規模言語モデル（LLM）の普及により，ソフトウェア工学における設計や開発プロセスは変化しつつある。LLMをAPI経由で活用する事例は増えている一方で，LLMを「軽量な汎用部品」としてソフトウェアに組み込んだ場合の設計判断や開発上の留意点については，必ずしも体系的に整理されていない。

本稿では，オンデバイスLLMを軽量な汎用部品として組み込む設計パターンを整理し，従来の部品化モデルとの相違点を明らかにする。今回は、オンデバイスで推論が完結するLLMの一例として Gemini Nanoを用いたWebアプリケーションの事例を分析する。

事例分析を通じて，(1) ルールベースとの協調設計が前提となること，(2) フォールバックを例外ではなく通常系として扱う設計が求められること，(3) 非決定性を前提とした再利用やキャッシュ設計への転換が必要となること，という3つの設計特徴を抽出した。以上のように本稿では、LLMを軽量な汎用部品として扱う設計が，部品化・抽象化・再利用の考え方に再検討を迫る可能性を示し，LLM時代のソフトウェア工学に関する議論の材料を提示する。