SoftSign

バージョン名: SoftSign-9

カテゴリー: アクティベーション関数

簡単な説明: SoftSign は、指定された入力テンソルに対して要素ごとのアクティベーションを実行します。

詳細説明:

SoftSign の操作については、この記事で紹介されています。

SoftSign アクティベーション関数 は、次の数学関数に基づくニューロン活性化関数です。

\[SoftSign(x) = \frac{x}{1+|x|}\]

入力:

• 1: データ。タイプ T の入力テンソル

出力:

• 1: 入力テンソルと同じ形状およびタイプの結果として得られるテンソル。

タイプ:

• T: サポートされている任意の浮動小数点タイプ。

例:

 <layer ... type="SoftSign">
     <input>
         <port id="0">
             <dim>256</dim>
             <dim>56</dim>
         </port>
     </input>
     <output>
         <port id="1">
             <dim>256</dim>
             <dim>56</dim>
         </port>
     </output>
 </layer>