はじめに¶
OpenVINO へようこそ! このガイドでは、インテル® ディストリビューションの OpenVINO™ ツールキットのインストールおよび学習資料を紹介します。このガイドでは次の手順を説明します。
クイックスタートの例
OpenVINO のインストール
OpenVINO を学ぶ
1. クイックスタートの例 (インストールの必要はありません)¶
このクイックスタートの例で OpenVINO の機能を試してください。このサンプルでは、OpenVINO モノデプスモデルを使用してシーン内の深度を推定し、モデルのロード、画像の準備、画像の推論、結果の表示方法をすぐに確認できます。
2. OpenVINO のインストール¶
OpenVINO をインストールし、デバイス開発環境をセットアップするオプションについては、インストールの概要ページを参照してください。
3. OpenVINO を学ぶ¶
OpenVINO は、モデルの操作方法、推論の実行方法、アプリケーションのデプロイ方法を示す多様なサンプルとドキュメントを提供します。以下のセクションを順に進めて、OpenVINO の基本を学び、その高度な最適化機能を探索してください。詳細については、OpenVINO のドキュメントを参照してください。
あらゆる経験レベルの OpenVINO ユーザーが、最新のインテル® ハードウェアのオンラインクラスター上で OpenVINO アプリケーションを開発、テスト、実行するための無料の Web ベースサービスであるインテル® デベロッパー・クラウド を試すことができます。
OpenVINO の基本¶
OpenVINO におけるモデルの操作と推論の基本を学びます。“Hello World” 対話型チュートリアルから始めて、OpenVINO API を使用してモデルを準備し、推論を実行し、結果を取得する方法を示します。次に、Open Model Zoo および OpenVINO サンプルコードから、独自のアプリケーションに適用できる例を調べてください。
対話型チュートリアル - Jupyter ノートブック¶
モデル推論の基本、OpenVINO API、モデルを OpenVINO 形式に変換する方法などを説明する対話型の Python から始めます。
Hello 画像分類 - OpenVINO に画像分類モデルをロードし、画像にラベルを適用します
OpenVINO ランタイム API チュートリアル - OpenVINO でモデルを操作する基本的な Python API を学習します
OpenVINO サンプルコード¶
独自アプリケーションの開始点として使用できる、さまざまな C++ および Python アプリケーションのサンプルコードを示します。C++ 開発者は、C++ サンプルの開始を段階的に進めて、OpenVINO の C++ API を使用する画像分類プログラムをビルドして実行する方法を学習してください。
アプリケーションと OpenVINO を統合¶
OpenVINO の高度な機能¶
OpenVINO は、モデルのパフォーマンスの向上、ランタイムの最適化、ターゲット・ハードウェアでのアプリケーションのスループットの最大化などを実現する機能を提供します。これらの機能とその使用方法の詳細については、以下のリンクにアクセスしてください。
モデルの圧縮と量子化¶
OpenVINO のモデル圧縮ツールを使用して、良好な精度を維持しながらモデルのレイテンシーとメモリー使用量を削減します。
チュートリアル - NNCF を使用した TensorFlow での量子化を考慮したトレーニング
チュートリアル - NNCF を使用した PyTorch での量子化を考慮したトレーニング
自動デバイス設定¶
OpenVINO のハードウェア・デバイスの構成オプションを使用すると、アプリケーションを一度作成すれば、最適なパフォーマンスでどこにでもデプロイできます。
自動デバイス選択 (AUTO) によりアプリケーションの移植性を向上
マルチデバイス実行 (MULTI) を使用してプロセッサー間で並列推論を実行
ヘテロジニアス実行 (HETERO) によるハードウェア・コア間の推論の効率的な分割
柔軟なモデルとパイプライン構成¶
OpenVINO ランタイムのパイプラインおよびモデル構成機能を使用すると、任意のターゲット・ハードウェア上でアプリケーションのパフォーマンスを簡単に最適化できます。
自動バッチ処理は、推論要求をオンザフライでグループ化して、ターゲット・ハードウェアのメモリーと処理コアの使用率を最大化します。
パフォーマンス・ヒントにより、ランタイム・パラメーターが自動的に調整され、低レイテンシーまたは高スループットが優先されます。
動的形状は、任意のサイズの入力を受け入れるようにモデルを再形成し、さまざまなデータ形状を扱うアプリケーションの柔軟性を高めます。
ベンチマーク・ツールは、さまざまなハードウェアおよびパイプライン構成におけるモデルのパフォーマンスを特徴付けます。
関連情報¶
OpenVINO の成功事例 - インテルのパートナーが実働アプリケーションで OpenVINO を使用して実際の問題を解決している方法をご覧ください。
OpenVINO でサポートされるモデル - 利用するハードウェアで OpenVINO がサポートしているモデルを確認してください。
パフォーマンス・ベンチマーク - インテルのハードウェア上の OpenVINO を使用したベンチマーク・モデルの結果を表示します。