講演情報

[5H2-OS-18a-04]制約付き強化学習によるエッジクラウド連続体へのマイクロサービス配置最適化

〇笠原 弘貴1、北島 龍一1、佐藤 治1 (1. ソフトバンク株式会社)

キーワード:

エッジコンピューティング、グラフニューラルネットワーク、組合せ最適化、強化学習

エッジ・クラウド基盤におけるマイクロサービスアーキテクチャは、データ発生源の近くで処理を可能にし、低遅延なサービスを実現するのに適しているが、従来のコンテナオーケストレータでは拠点間の通信・処理遅延を考慮しておらず、End-to-Endの遅延保証を提供することは困難である。本研究では、エッジ・クラウド連続体における遅延を考慮した配置手法を検討し、複数の制約条件下でマイクロサービスの配置を最適化する制約付き強化学習フレームワークを提案する。サービス配置問題を制約付きマルコフ決定過程として定式化し、ラグランジュ緩和を用いたProximal Policy Optimizationにより最適方策を獲得する手法を構築した。提案手法の性能を評価するため、2種類の基盤トポロジーを用いた数値実験を実施し、既存2手法との比較を行った。提案手法はヒューリスティック手法と比較して目的関数値を20% – 30%改善し、さらに複数制約条件下においても既存手法より高い割合で実行解を算出した。また、最大規模の問題で平均推論時間が約45 msとなり、リアルタイムなオーケストレーションが可能であることが示唆された。