ONNX Runtimeとは、マイクロソフト社とコミュニティによって開発された、機械学習モデルの推論および学習のための高性能なオープンソースエンジンです。異なるフレームワークで訓練されたモデルを共通のフォーマットであるONNX形式に変換し、多様なハードウェア環境上で効率的かつ高速に実行することを目的としています。CPUをはじめ、GPUや専用のハードウェアアクセラレータに対応しており、モデルの最適化と実行を統合して処理できる点が大きな特徴です。クラウド環境からエッジデバイスまで、幅広いプラットフォームでAIモデルを実用化するための基盤として広く利用されています。