TensorFlow モデルの変換#

TensorFlow 2 モデルの変換#

TensorFlow 2.X は、次の 2 つのモデル形式をサポートしています: SavedModel と Keras H5 (または HDF5)。以下にそれぞれの変換方法を示します。

import openvino as ov 
ov_model = ov.convert_model('path_to_saved_model_dir')

ovc path_to_saved_model_dir

import tensorflow as tf 
model = tf.keras.models.load_model('model.h5') 
tf.saved_model.save(model,'model')

import tensorflow as tf 
from custom_layer import CustomLayer 
model = tf.keras.models.load_model('model.h5', custom_objects={'CustomLayer': CustomLayer}) 
tf.saved_model.save(model,'model')

TensorFlow 1 モデルの変換#

import openvino as ov 
ov_model = ov.convert_model('your_model_file.pb')

ovc your_model_file.pb

import openvino as ov 
ov_model = ov.convert_model('path_to_saved_model_dir')

ovc path_to_saved_model_dir

import openvino as ov 
ov_model = ov.convert_model(['path_to_inference_graph.pb', 'path_to_checkpoint_file.ckpt'])

ovc path_to_inference_graph.pb path_to_checkpoint_file.ckpt

import openvino as ov 
ov_model = ov.convert_model('path_to_meta_graph.meta')

ovc path_to_meta_graph.meta

import tensorflow as tf 
from tensorflow.python.framework import graph_io 
frozen = tf.compat.v1.graph_util.convert_variables_to_constants(sess, sess.graph_def, ["name_of_the_output_node"]) 

import openvino as ov 
ov_model = ov.convert_model(frozen)

Python API を使用したメモリーからの TensorFlow モデル#

モデル・トランスフォーメーション API は、TensorFlow/TensorFlow 2 モデルをメモリーから直接渡すことをサポートしています。

• Trackable。hub.load() によって返されたオブジェクトは、convert_model() を使用して ov.Model に変換できます。

  import tensorflow_hub as hub 
  import openvino as ov 
  
  model = hub.load("https://tfhub.dev/google/movenet/singlepose/lightning/4") 
  ov_model = ov.convert_model(model)

• tf.function

  @tf.function( 
      input_signature=[tf.TensorSpec(shape=[1, 2, 3], dtype=tf.float32), 
                       tf.TensorSpec(shape=[1, 2, 3], dtype=tf.float32)]) 
  def func(x, y): 
      return tf.nn.sigmoid(tf.nn.relu(x + y)) 
  
  import openvino as ov 
  ov_model = ov.convert_model(func)

• tf.keras.Model

  import openvino as ov 
  model = tf.keras.applications.ResNet50(weights="imagenet") 
  ov_model = ov.convert_model(model)

• tf.keras.layers.Layer。tf.keras.layers.Layer から変換された ov.Model には、元の入力名と出力名が含まれません。そのため、変換前にモデルを tf.keras.Model に変換するか、TensorFlow Hub モデルには hub.load() を使用することを推奨します。

  import tensorflow_hub as hub 
  import openvino as ov 
  
  model = 
  hub.KerasLayer("https://tfhub.dev/google/imagenet/mobilenet_v1_100_224/classification/5") 
  ov_model = ov.convert_model(model)

• tf.Module。input パラメーターで形状を設定する必要があります。

  import tensorflow as tf 
  import openvino as ov 
  
  class MyModule(tf.Module): 
      def __init__(self, name=None): 
          super().__init__(name=name) 
          self.constant1 = tf.constant(5.0, name="var1") 
          self.constant2 = tf.constant(1.0, name="var2") 
      def __call__(self, x): 
          return self.constant1 * x + self.constant2 
  
  model = MyModule(name="simple_module") 
  ov_model = ov.convert_model(model, input=[-1])

• tf.compat.v1.Graph

  with tf.compat.v1.Session() as sess: 
      inp1 = tf.compat.v1.placeholder(tf.float32, [100], 'Input1') 
      inp2 = tf.compat.v1.placeholder(tf.float32, [100], 'Input2') 
      output = tf.nn.relu(inp1 + inp2, name='Relu') 
      tf.compat.v1.global_variables_initializer() 
      model = sess.graph 
  
  import openvino as ov 
  ov_model = ov.convert_model(model)

• tf.compat.v1.GraphDef

  with tf.compat.v1.Session() as sess: 
      inp1 = tf.compat.v1.placeholder(tf.float32, [100], 'Input1') 
      inp2 = tf.compat.v1.placeholder(tf.float32, [100], 'Input2') 
      output = tf.nn.relu(inp1 + inp2, name='Relu') 
      tf.compat.v1.global_variables_initializer() 
      model = sess.graph_def 
  
  import openvino as ov 
  ov_model = ov.convert_model(model)

• tf.compat.v1.session

  with tf.compat.v1.Session() as sess: 
      inp1 = tf.compat.v1.placeholder(tf.float32, [100], 'Input1') 
      inp2 = tf.compat.v1.placeholder(tf.float32, [100], 'Input2') 
      output = tf.nn.relu(inp1 + inp2, name='Relu') 
      tf.compat.v1.global_variables_initializer() 
  
  import openvino as ov 
  ov_model = ov.convert_model(sess)

• tf.train.checkpoint

  model = tf.keras.Model(...) 
  checkpoint = tf.train.Checkpoint(model) 
  save_path = checkpoint.save(save_directory) 
  # ... 
  checkpoint.restore(save_path) 
  
  import openvino as ov 
  ov_model = ov.convert_model(checkpoint)

サポートされる TensorFlow および TensorFlow 2 Keras レイヤー#

サポートされる標準レイヤーのリストについては、サポートされる操作を参照してください。

まとめ#

このセッションでは、次のことを学びました:

• モデル・トランスフォーメーション API が TensorFlow モデルでどのように動作するか理解する基本情報。

• サポートされる TensorFlow モデル。

• TensorFlow モデルをフリーズする方法。