OpenVINO™ エコシステム概要#

OpenVINO™ は、コアランタイム以外も提供する大規模なプロジェクトです。ここでは、OpenVINO に関連するツールとソリューションのエコシステム全体の概要を説明します。

OpenVINO™ GenAI ライブラリーは、生成 AI モデルの推論実行を簡素化することを目的としています。GenAI がどのように動作するかを確認するには、LLM によるチャットボット Jupyter* Notebook を確認してください。

精度の低下を最小限に抑えながらニューラル・ネットワーク推論を最適化する一連の高度なアルゴリズム。NNCF は、トレーニング中に量子化、フィルターのプルーニング、バイナリー化、およびスパース性アルゴリズムを PyTorch モデルと TensorFlow モデルに適用します。

モデルサーバーへのリクエストを介してホストモデルにアクセスするのに使用できる高性能システム。

OpenVINO™ ツールキットを学習および実験する Jupyter* Notebook のコレクション。

事前に最適化された OpenVINO IR モデルをホストする Hugging Face リポジトリーで変換せずに使用できます。

ディープラーニング・モデルをトレーニングし、最適化された推論のために OpenVINO™ ツールキットを使用してモデルを変換する便利な環境です。

モデル開発者と ISV が安全にパッケージを作成し、安全にモデルを実行するためのソリューション。

データセットをビルド、変換、分析をするためのフレームワークと CLI ツール。

短時間で、少ないデータ量のコンピューター・ビジョン・モデルを構築できるインテルの新しいソフトウェア。このソフトウェアは、AI モデル開発プロセス全体にわたる面倒なデータラベル付け、モデル・トレーニング、最適化タスクを軽減し、チームが大規模なカスタム AI モデルを作成できるようにします。

OpenVINO トークナイザーは、OpenVINO にテキスト処理操作を追加します。

Open Model Zoo には、高性能なディープラーニング推論アプリケーションの開発を促進する最適化されたディープラーニング・モデルと一連のデモが含まれています。