HSwish

バージョン名: HSwish-4

カテゴリー: アクティベーション関数

簡単な説明: HSwish は 1 つの入力テンソルを受け取り、swish 関数のハードバージョンが要素ごとにテンソルに適用される出力テンソルを生成します。

詳細説明: 入力テンソルの各要素について、次の式により出力テンソルの対応する要素を計算します。

\[HSwish(x) = x \cdot \frac{min(max(x + 3,\ 0),\ 6)}{6}\]

HSwish 操作については以下の記事で紹介しています。

属性: 操作には属性がありません。

入力:

• 1: T タイプの多次元入力テンソル。必須。

出力:

• 1: 入力テンソルと同じ形状およびタイプの結果として得られるテンソル。

タイプ:

• T: サポートされている任意の浮動小数点タイプ。

例:

<layer ... type="HSwish">
    <input>
        <port id="0">
            <dim>256</dim>
            <dim>56</dim>
        </port>
    </input>
    <output>
        <port id="1">
            <dim>256</dim>
            <dim>56</dim>
        </port>
    </output>
</layer>