講演情報
[2E1-GS-5b-03]大規模言語モデルを用いた離散最適化問題の自動定式化のためのプロンプト自動設計
〇宮田 朋尚1、梶 大介1 (1. 株式会社デンソー)
キーワード:
数理最適化、プロンプトエンジニアリング、DSPy
近年,大規模言語モデル(LLM)の普及により,さまざまな分野においてプロンプトエンジニアリングを活用したタスク自動化が加速している。この潮流は最適化ソリューションの分野にも及んでおり,これまで設計者の知識や経験に基づいて行われてきた最適化要件の定式化や最適化プログラムの生成を,LLM を用いて自動化する研究が数多く行われている。しかし,プロンプトチューニングは設計者の専門性への依存度が高く,さらに使用する LLM の性能にも影響されるため,安定かつ一貫した結果を得ることが困難であるという課題がある。
この課題に対し,近年では DSPy(Declarative Self-improving Python)に代表される,宣言的仕様に基づく自動プロンプト最適化手法が注目を集めている。本発表では,離散最適化問題の自動定式化に対する評価指標を提案するとともに,DSPy を用いたアプローチについて検討する。さらに,精度評価を行い,提案手法の有効性を確認した結果について報告する。
この課題に対し,近年では DSPy(Declarative Self-improving Python)に代表される,宣言的仕様に基づく自動プロンプト最適化手法が注目を集めている。本発表では,離散最適化問題の自動定式化に対する評価指標を提案するとともに,DSPy を用いたアプローチについて検討する。さらに,精度評価を行い,提案手法の有効性を確認した結果について報告する。
