高度な機能
CPU 拡張
OpenVINO でサポートされていない CPU レイヤーを共有ライブラリーとして実装できます。
さらに詳しく
モデルのキャッシュ
OpenVINO モデルキャッシュ機能を利用して、ターゲットデバイスへの後続モデルの読み込みを高速化します。
さらに詳しく
カスタム・モデル・ローダー
事前定義されたインターフェイスをベースに独自のカスタム・モデル・ローダーを作成し、動的ライブラリーと同様にロードします。
さらに詳しく
NGINX によるモデルサーバーの保護
リバースプロキシーを使用したトラフィック暗号化とクライアント認証によりネットワーク・エンドポイントを保護します。
さらに詳しく