高度な機能#
CPU 拡張#
OpenVINO でサポートされていない CPU レイヤーを共有ライブラリーとして実装できます。
モデルのキャッシュ#
OpenVINO モデルキャッシュ機能を利用して、ターゲットデバイスへの後続モデルの読み込みを高速化します。
カスタム・モデル・ローダー#
事前定義されたインターフェイスをベースに独自のカスタム・モデル・ローダーを作成し、動的ライブラリーと同様にロードします。
NGINX によるモデルサーバーの保護#
リバースプロキシーを使用したトラフィック暗号化とクライアント認証によりネットワーク・エンドポイントを保護