Open Neural Network Exchangeとは? わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > 百科事典 > Open Neural Network Exchangeの意味・解説 

Open Neural Network Exchange

出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2025/01/23 16:48 UTC 版)

Open Neural Network Exchange (ONNX)
開発元 Facebook, Microsoft
初版 2017年9月7日 (7年前) (2017-09-07)
最新版
v1.17.0 / 2024年10月2日 (3か月前) (2024-10-02)[1]
リポジトリ onnx - GitHub
種別 人工知能 機械学習
ライセンス Apache License 2.0
公式サイト onnx.ai
テンプレートを表示
ONNX Runtime
開発元 Microsoft
初版 2018年11月30日 (6年前) (2018-11-30)
最新版
v1.20.1 / 2024年11月22日 (2か月前) (2024-11-22)[2]
リポジトリ onnxruntime - GitHub
プログラミング
言語
Python, C++, C#, C言語, Java, JavaScript, Objective-C, WinRT
対応OS Windows, Linux, macOS, Android, iOS, ウェブブラウザ
プラットフォーム 多数(本記事参照)
ライセンス MIT License
公式サイト onnxruntime.ai
テンプレートを表示

Open Neural Network Exchange(略称:ONNX)とは、オープンソースで開発されている機械学習人工知能のモデルを表現する為の代表的なフォーマットである[3]。実行エンジンとしてONNX Runtimeも開発されている。

概要

機械学習、特にニューラルネットワークモデルは様々なフレームワーク上で学習され、また様々なハードウェア上で実行(推論)される。各環境に特化したモデルは他のフレームワーク・ハードウェアで利用できず相互運用性を欠いてしまう。また実装者は環境ごとにサポートをおこなう必要があり大きな労力を必要とする。

ONNXはモデルを記述する統一インターフェース(フォーマット)を提供し、これらの問題を解決する。各フレームワークは学習したモデルをONNX形式で出力する。各ハードウェアはONNX実行環境を提供することで、どのフレームワークで学習されたかを問わずモデル推論を実行する。このように相互運用可能なモデルフォーマットとしてONNXは開発されている。

2017年に開発が開始された。

開発背景

以下の特性を補完する意図にて開発が進められた。

フレームワークの相互運用性

開発工程や機械学習の高速処理、ネットワークの基本設計における柔軟性やモバイルデバイスでの推論などの特定の段階において、開発者が複数のフレームワークでのデータのやり取りを簡単に行えるようにする[4]

最適化の共有

ハードウェアベンダーなどは、ONNXを対象に調整を行うことで、複数のフレームワークにおけるニューラルネットワークのパフォーマンスを一度に改善することができる[4]

沿革

2017年9月に、FacebookMicrosoftは、PyTorchやCaffe2などの機械学習フレームワーク間において相互運用を可能にする為の取り組みとして、このプロジェクトを始動した。その後、IBMHuaweiIntelAMDARMQualcommがこの取り組みに対して積極的な支援を表明した[3]

2017年10月に、MicrosoftはCognitive ToolkitおよびProject Brainwaveプラットフォームにおいて、ONNXのサポートを発表した[3]

2019年11月、ONNXはLinux Foundation AIの卒業生プロジェクトとして承認された。

構成

ONNXは、推論(評価)に焦点を当て、拡張可能な計算グラフモデル、組み込み演算子、および標準データ型の定義を提供する[4]

それぞれのデータフローグラフは、有向非巡回グラフを形成するノードのリストになっている。ノードには入力と出力があり、各ノードが処理を呼び出すようになっている。メタデータはグラフを文書化する。組み込み演算子は、ONNXをサポートする各フレームワークで利用可能である[4]

グラフは Protocol Buffers を使用して拡張子 .onnx のバイナリファイルとして保存可能である[5]。このファイルは様々な機械学習のライブラリから読み書き可能である。

ONNX仕様は2つのサブ仕様、IRとOperatorからなる。この2つの仕様はそれぞれバージョニングされており、ONNX仕様のバージョンはこの2つのサブ仕様の特定版を指定したものとなっている。2021-12-22現在の最新バージョンは version 1.10.2 であり、これはIR v8とOperator v15-v2-v1 から成る[6]

ONNX IR

Open Neural Network Exchange Intermediate Representation (ONNX IR) はONNXの基本データ型と計算グラフを定義するサブ仕様である[7]。ONNX IRは計算グラフを構成する Model, Graph, Node 等の要素、入出力 Tensor, Sequence, Map およびデータ FLOAT, INT8, BFLOAT16 等の基本データ型を定義する。2021-12-22現在の最新バージョンは version 8 である[6]

ONNX IRが定義する要素として以下が挙げられる。

  • Graph: 計算グラフを表現する要素。Graph入出力を指定するinput/initializer[8][9]/output、計算ノード群を指定するnode、メタデータを収納するname/doc_string/value_info、の属性をもつ。
  • Node: 計算ノードを表現する要素。Node入出力を指定するinput/output、演算子とそのパラメータを指定するdomain/op_type/attribute、メタデータを収納するname/doc_string/value_info、の属性をもつ。

すなわちGraphに収納された各Nodeが入出力をもった演算 (例: Conv) になっており、Node/Graph入出力名に基づいてNode群がグラフ構造を取っている。

拡張演算子

ONNX IRはONNX Operatorで定義される標準演算子に追加して、独自の拡張演算子を受け入れられるように設計されている[10]。これによりONNXの "Extensible/拡張可能" 特性を実現している[11]。拡張演算子セットを Modelopset_import 属性に指定することで実行エンジン側へ拡張演算子の利用を通知する仕組みである[12]。ONNXを受け取った実行エンジンは opset_import を確認し、指定された演算子セット全てをサポートしていれば受け入れ、そうでなければ Model 全体を拒絶する[13]

ONNX Operator

ONNXのビルトイン演算子はサブ仕様 Operator specifications により定義される[14]。3種類の演算子セット(Opset)ai.onnx, ai.onnx.ml, ai.onnx.training が定義されており、ai.onnx がデフォルトである。2022年12月12日現在、ai.onnx の最新バージョンは version 18 である[6]

例えばOpset ai.onnx v15ではRNN系演算子として RNNLSTMGRU が定義されている。

量子化

ONNXは入出力の量子化やそれに対する操作を演算子として持つ。QuantizeLinearはスケール・シフトパラメータに基づく線形量子化をおこなう[15]DynamicQuantizeLinearは入力ベクトルのmin/maxに基づく動的uint8量子化をおこなう[16]。int8入力に対する演算にはMatMulIntegerQLinearMatMulConvIntegerQLinearConvなどがある。

ONNX Runtime

ONNX Runtime (略称: ORT[17]) は様々な環境におけるONNXモデルの推論・学習高速化を目的としたオープンソースプロジェクトである[18]。フレームワーク・OS・ハードウェアを問わず単一のRuntime APIを介してONNXモデルを利用できる[19]。またデプロイ環境に合わせた最適化を自動でおこなう[20]。ONNX Runtimeは設計方針としてアクセラレータ・ランタイム抽象化とパフォーマンス最適化の両立を掲げており、ONNXモデルの自動分割と最適アクセラレータによるサブモデル実行によりこれを実現している[21]

ONNX Runtimeがサポートする最適化には以下が挙げられる。

  • モデル量子化: 8-bit Model Quantization[22]
  • グラフ最適化[23]: Basic (不要ノード除去・一部のop fusions[24]), Extended (op fusions[25]), Layout (NCHWc Optimizer[26]) の三段階

対応デバイス

ONNX Runtime は共有ライブラリの Execution Providers によって多数のバックエンドをサポートしている[27]。これにはIntel の OpenVINO バックエンド (onnxruntime-openvino) 及び oneDNN バックエンド、NVIDIAの CUDA バックエンド (onnxruntime-gpu) 及び TensorRT バックエンド (onnxruntime-gpu)、AMDの ROCm バックエンド及び MIGraphX バックエンド、Windows の DirectML バックエンド (onnxruntime-directmlなど)、macOS / iOS の CoreML バックエンド、Android の NNAPI バックエンド、Microsoft Azure向けの Azure バックエンドなどが存在する[28][27]

以下のデバイスがONNX Runtimeに対応している。[29]

  • CPU
    • x86, x86-64, ARM32, ARM64, POWER, RISC-V[30]
    • Intel OpenVINO, Intel oneAPI Deep Neural Network Library - OpenVINOはIntelのCPU・GPU・NPUおよびARMのCPUに対応[31]
    • Google XNNPACK - ARM, x86, WebAssembly, RISC-VのCPUに対応
    • Apache TVM(プレビュー)
  • GPU
    • NVIDIA CUDA, TensorRT
    • AMD ROCm, MIGraphX
    • Intel OpenVINO
    • Microsoft DirectML
    • Apache TVM(プレビュー)
  • エッジやモバイル(NPU)
    • Intel OpenVINO - Intel Core Ultraなどに内蔵するNPUに対応
    • Qualcomm QNN - QualcommのCPU・GPU・NPUに対応
    • Microsoft DirectML - IntelやQualcommなどのNPUに対応[32][33]
    • Google XNNPACK
    • Android Neural Networks API - ただしAndroid15よりNNAPI自体が非推奨[34]
    • AMD Vitis AI(プレビュー) - AMD Ryzenなどに内蔵するNPUに対応[35]
    • Arm Compute Library, Arm NN(プレビュー) - ARMのCPU・GPU・NPUに対応
    • Apple CoreML(プレビュー)
    • Apache TVM(プレビュー)
    • Hailo(プレビュー)[36]
  • その他
    • Rockchip NPU (プレビュー)
    • AMD Vitis AI(プレビュー) - AMD Versal, Zynq, Alveo等に対応[37]
    • Huawei Compute Architecture for Neural Networks (CANN) (プレビュー)
    • Microsoft Azure(プレビュー)

主要なデバイスとしては Google の TPU, Edge TPU、AWS の Trainium, Inferentia が対応していない。Edge TPU は LiteRT のみだが、それ以外のデバイスは、JAXTensorFlowPyTorch に対応しているので、これらに変換することで動作し、AWS は Trainium, Inferentia は PyTorch 経由の動作を薦めている[38]

ONNX Runtime Web

ONNX Runtime Webはウェブブラウザを含めたJavaScript上で動作するONNX Rutime。Execution Providerとして、Web Neural Network (WebNN)、WebGPUWebGLWebAssemblyが利用可能である。WebNNはONNXのようにニューラルネットワークのモデルを表現できるので、GPUやNPUなどのアクセラレーションが有効であれば、これが最速である。WindowsではWebNNからDirectML経由でGPUやNPUで実行される。[39][40][41]

ONNXモデル

ONNXへの変換

ONNXのモデルはPythonスクリプトから生成したり(#例を参照)、他のフレームワークから変換したりすることで作ることができる。他のフレームワークからの変換には以下のような方法が存在する:

ONNXからの変換

  • onnx2tf - TensorFlow、LiteRT(旧称TensorFlow Lite)、Kerasへの変換を行う[45]
  • onnx2pytorch[46], onnx2torch[47] - PyTorchへの変換
  • JAX ONNX Runtime - JAXへの変換[48]
  • ONNX からNVIDIA GPU向けのTensorRTバイナリ (.trt) を生成するものとして NVIDIA の Polygraphy[49] や trtexec も存在する[49]
  • OONX を LLVM の MLIR によってコンパイルするための onnx-mlir も存在する[50]

モデル集

ONNXのモデル集としては以下が存在する。

線形回帰モデルの学習結果として カテゴリ

  • Portal:コンピュータ



  • 英和和英テキスト翻訳>> Weblio翻訳
    英語⇒日本語日本語⇒英語
      
    •  Open Neural Network Exchangeのページへのリンク

    辞書ショートカット

    すべての辞書の索引

    「Open Neural Network Exchange」の関連用語








    8
    4% |||||



    Open Neural Network Exchangeのお隣キーワード
    検索ランキング

       

    英語⇒日本語
    日本語⇒英語
       



    Open Neural Network Exchangeのページの著作権
    Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

       
    ウィキペディアウィキペディア
    All text is available under the terms of the GNU Free Documentation License.
    この記事は、ウィキペディアのOpen Neural Network Exchange (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。 Weblio辞書に掲載されているウィキペディアの記事も、全てGNU Free Documentation Licenseの元に提供されております。

    ©2025 GRAS Group, Inc.RSS