クロノス・グループ、ニューラル・ネットワーク変換用NNEF 1.0を発表

世界有数のハードウェアおよびソフトウェア企業からなるオープン・コンソーシアムのKhronos™ Group(以下、クロノス)は、トレーニング・フレームワークと推論エンジン間の、トレーニング・ニューラルネットワークの普遍的な交換の暫定仕様である、ニューラル・ネットワーク変換フォーマット(NNEF™)1.0を発表しました。NNEFは、ニューラル・ネットワーク・トレーニング・ツールと推論エンジンの豊富な組み合わせを、さまざまなデバイスやプラットフォームのアプリケーションで使用可能とし、マシン学習の展開におけるフラグメンテーションを軽減します。今回、NNEF 1.0を暫定仕様として発表することで、仕様が確定する前に業界からのフィードバックを組み込むことができるほか、クロノスはNNEF GitHubリポジトリでのコメントとフィードバックを歓迎します。

NNEFは、データ科学者とエンジニアがトレーニング・ネットワークを、選択したトレーニング・フレームワークから、さまざまな推論エンジンに簡単に転送可能とすることを目指しています。機器メーカーが信頼し、安定かつ柔軟で拡張可能な標準仕様は、最新機器にニューラル・ネットワークを広範囲に応用させるために重要であり、NNEFには個別のトレーニング・ニューラルネットワークの構造、動作及びパラメータの詳細をカプセル化し、それを生成するために使用されるツールと、それを実行するために使用される推論エンジンが含まれます。

クロノスで、NNEFワークグループのチェアを務めるPeter McGuinness氏は、次のように述べています。「機械学習の分野は、現場で活躍している多くのグループの活力の恩恵を受けていますが、一般的な基準が不足しています。クロノスはこの業界のニーズを受け止め、ニューラル・ネットワークの交換に関するNNEFの普遍的な標準について1年以上活動してきました。これはニューラル・ネットワークにとって、PDFが果たしたのと同等の役割を果たすものでしょう」

NNEFは、Torch、Caffe、TensorFlow、Theano、Chainer、Caffe2、PyTorch、MXNetなどのツールやエンジン間で、確実にエクスポートおよびインポートできるよう設計されています。NNEF 1.0暫定仕様は、豊富な機能セットを備えた、幅広いユースケースとネットワークタイプ、Pythonから構文要素を借用し、正確さを高める要素を追加するスケーラブルな設計に対応しています。NNEFには、高度なネットワーク最適化の機会を提供する、カスタム複合オペレーションの定義が含まれています。将来の作業は、このアーキテクチャを基にして予測可能な方法で構築されるため、NNEFは急速に変化する機械学習の分野を追跡し展開する、安定したプラットフォームを提供することになります。

Khronosは、NNEF構文パーサー/バリデーター、TensorFlowなどのフレームワークからのサンプル・エクスポーターを含む、一連のオープンソース・プロジェクトを開始し、NNEFを独自のワークフローに役立てるための機械学習コミュニティの参加を歓迎します。さらに、NNEFはクロノスのOpenVX™ワーキング・グループと緊密に連携し、NNEFファイルの処理を可能にしています。OpenVX Neural Networkの拡張により、OpenVX 1.2はクロスビジョンの推論エンジンとして機能し、コンピュータビジョンと深い学習の操作を1つのグラフにまとめることができます。

業界からの支援メッセージ

AImotiveで、ハードウェア・エンジニアリング部門責任者を務めるMarton Feher氏

「AImotiveは、新しい標準の旗振り役としてだけでなく、AI ResearchのViktor Gyenesを仕様エディタとする、NNEFの開発と初期展開における重要なプレーヤーであることを誇りに思っています。私たちは、自律運転のためのハードウェアとソフトウェアの両方の技術を早期に採用してきたため、ニューラル・ネットワークの中立交換フォーマットの重要性を十分に認識しています。開発フレームワークの数が増え、実行プラットフォームの範囲が拡大し、多様化するにつれて、ネットワークトポロジーとウェイトをある環境から別の環境に自由に移動する能力は、革新とサプライヤー選択の自由にとって不可欠です」

AMDで、Radeon Technologies Group システム・エンジニアリング部門でCTOを務めるGreg Stoner氏

「ディープ・ラーニングを、研究室からリッチな顧客主導のアプリケーションに移行するにあたり、ディープ・ラーニングの入れ替えソリューションを推進する立場として、クロノス・グループがNNEF仕様を発表し、OpenVX上に構築されたトレーニング・フレームワークと推論エンジン間のニューラル・ネットワークを、容易に動かすことができることを嬉しく思っています」

ArmでMachine Learningソフトウェア担当技術ディレクターを務めるRobert Elliott氏

「ニューラル・ネットワーク・モデル交換のためのフォーマットの標準化は、さまざまなフレームワーク、ツール、推論エンジン間のネットワークと演算子の移植性と最適化を改善するための、重要なステップです。Armは、NNEFの開発をサポートし、フレームワークとツール開発者がARM®エコシステムで利用可能な幅広いプロセッサとアクセラレータで実行および検証されるモデルを作成できるようにします」

Qualcomm Technologiesで技術担当バイス・プレジデントを務めるJeff Gehlhaar氏

「ニューラル・ネットワーク処理が、クラウドからモバイル機器や最新機器に移行するにつれて、これらのモデルの統一された表現の必要性が増すと共に、Qualcomm Technologiesといった企業各社がこれらをデバイス上で実行するための最適なプラットフォームの提供に注力するようになります。クロノスの会員として、Qualcomm Technologiesは、統合がこの分野での成長に寄与し、クラウドからデバイスのマイグレーションが主流となる、クロノスのニューラル・ネットワーク変換といったニューラル・ネットワーク・モデルを支援します」

VeriSiliconで、最高戦略責任者、シニア・バイス・プレジデント兼知的財産部門Gmを務めるWeijin Dai氏

「NNEFとOpenVXの統合により、OpenVX対応のGPUであるVision and Neural Netの処理IP上で、幅広いトレーニング・フレームワークからニューラル・ネットワークを導入するための迅速なパスが実現します。すべてのパフォーマンス層で専用のVeriSilicon IP用に最適化された共通の交換フォーマットと、ランタイムの推論を使用することで、顧客は選択したトレーニング・フレームワークに関係なく、瞬時に最適なパフォーマンスを達成できます」

NNEF 1.0のドキュメンテーション・プロジェクトと仕様は、Khronosレジストリで入手いただけます。NNEFのオープンソースツールとプロジェクトは、Khronos NNEF Toolsリポジトリにあります。視覚の加速と推論のためのOpenVXランタイムAPIの詳細は、こちらをご参照ください。

また、NNEFがフラット・オペレーションと複合オペレーションを処理するための柔軟性を提供する方法の詳細については、こちらをご参照ください。

https://www.khronos.org/blog/nnef-design-philosophy-network-structure-and-target-use-cases

クロノス・グループの詳細は、Khronos.orgをご覧ください。

Khronos Group(クロノス・グループ)について

The Khronos Groupは、さまざまなプラットフォームやデバイス上で並列コンピューティング、グラフィックス、ビジョン、センサー・プロセッシング、ダイナミック・メディアのオーサリング及び高速化を可能とする、オープンな業界標準の仕様策定を行うコンソーシアムです。クロノスが仕様策定する業界標準にはVulkan®, OpenGL®, OpenGL® ES, OpenGL® SC, WebGL™, SPIR-V™, OpenCL™, SYCL™, OpenVX™, NNEF™, COLLADA™, OpenXR™, glTF™などがあります。クロノスの会員は各仕様の策定作業に参画し、一般公開前のさまざまな過程で仕様策定に関する投票を行うことができるほか、仕様のドラフトへのアーリーアクセスならびにコンフォーマンス・テストを通して、自身のプラットフォームやアプリケーション開発の期間短縮や機能強化に役立てることができます。詳細情報はWebサイトで公開されています(www.khronos.org)。

###

Vulkan is a registered trademark of The Khronos Group. Khronos, OpenXR, DevU, SPIR, SPIR-V, SYCL, WebGL, WebCL, COLLADA, OpenKODE, OpenVG, OpenVX, EGL, glTF, OpenKCAM, StreamInput, OpenWF, OpenSL ES, NNEF and OpenMAX are trademarks of the Khronos Group Inc. OpenCL is a trademark of Apple Inc. and OpenGL is a registered trademark and the OpenGL ES and OpenGL SC logos are trademarks of Silicon Graphics International used under license by Khronos. All other product names, trademarks, and/or company names are used solely for identification and belong to their respective owners.