講演情報
[B-6-55]Raspberry Piを用いたクラウドLLMオーケストレーション型分散コード生成システムの構築と評価
◎△久保 友幸1、近藤 大輔2、小比賀 亮仁1、小板 隆浩2 (1. 同志社大学、2. 同志社大学院)
キーワード：
オーケストレーション、ラズベリーパイ、ローカルLLM、分散コード生成、指示形式最適化
近年，大規模言語モデル（LLM）サービスは急速に普及する一方，LLMベンダーによる利用料金の上昇やトークン消費制限の厳格化が懸念されており，クラウドLLMへの全面依存によるコスト増大が課題となっている．本研究では，数万円で入手可能なRaspberry Pi 5（AI HAT+ 2搭載）をワーカーとして用い，クラウドLLM（Claude Haiku 4.5）をオーケストレーターとする分散コード生成システムを構築した．オーケストレーターはタスクを分析して指示を生成し，各ワーカー上のQwen2.5-Coder-1.5Bがメソッドを並列生成，ルールベースで統合するパイプラインを実現した．評価にはPythonクラス生成ベンチマークであるClassEvalの先頭20件を用い，指示形式の異なる5条件（指示なし・自然言語指示・構造化指示・Pythonコメントヒント・Claude直接生成）でpass@1を比較した．実験の結果，コードに近い指示形式（構造化指示・Pythonコメントヒント）がベースライン（条件A・B，pass@1=0.050）に対してpass@1を4倍改善（0.200）することを確認した．また，両条件は通過クラスの内訳が異なり，構造化指示は算術系，Pythonコメントヒントは状態管理系クラスに有効であり，指示形式とタスク特性に相性が存在することが示唆された．クラウドLLM直接生成の上限はpass@1=0.500であり，今後は高性能モデルへの移行，動的な指示形式切替，全100件での評価実験を進める予定である．