openvino_genai#

クラス

`ContinuousBatchingPipeline`
`DecodedResults`
`EncodedResults`
`GenerationConfig`	GenerationConfig パラメーター max_length: 生成されるトークンの最大長。入力プロンプトの長さ + max_new_tokens に対応します。設定されている場合、max_new_tokens によって上書きされます。 max_new_tokens: プロンプト内のトークンの数を除く、生成するトークンの最大数。max_new_tokens は max_length よりも優先されます。 ignore_eos: true に設定すると、<eos> トークンが満たされても生成は停止しません。 eos_token_id: <eos> (文の終わり) の token_id。
`GenerationResult`
`LLMPipeline`
`SchedulerConfig`
`StopCriteria`	StopCriteria は、グループ化されたビーム検索の停止条件を制御します。可能な値は次のとおりです:
`StreamerBase`
`TokenizedInputs`
`Tokenizer`	openvino_genai.Tokenizer オブジェクトは、トークナイザーがメインモデルと異なるパスにある場合に、トークナイザーを初期化するために使用されます。