LLM開発コンペ2025参戦記： マルチノードで動かすvLLM そのハマりどころと要点

東京大学松尾・岩澤研究室主催のLLM開発コンペ2025における評価班の取り組みについて説明します。私たちチームRAMENは最終的に優勝しましたが、全国から集まった360名のAIエンジニアが12チームに分かれて競った予選は、僅差で明暗の分かれる大激戦でした。本記事では、その中で得た知見として、HPCクラスタ（マルチGPU/マルチノード）環境下でLLM推論エンジンのvLLMを動かす際の注意点を列挙します。原因・背景も記載したので、仕組みを理解したうえで、LLM運用トラブルの解消にお役立てください。