【C言語】ReLU（ランプ関数）の実装

ReLU（Rectified Linear Unit）は、機械学習やニューラルネットワークなどの分野でよく使用される関数です。ランプ関数とも言います。

ここでは、C言語でReLUを実装する方法について、解説します。

ReLUとは

ReLUは、ニューラルネットワークにおいて最も一般的に使われる活性化関数の一つです。この関数は、入力が0以下の場合は出力が0で、0より大きい場合は入力をそのまま出力します。

具体的には、ReLU関数は以下の式で表されます。

$$ f(x) = max(0, x) $$

ここで、xは入力値であり、f(x)はReLU関数の出力値です。

ReLU関数は、シンプルで計算が効率的であることが特徴です。ニューラルネットワークにおいて非線形な特徴マップを生成することができるため、深層学習において広く使用されています。

ReLUの実装

以下に、ReLUの実装例を示します。

double relu(double x)
{
    return (x > 0.0) ? x : 0.0;
}

relu()関数は、引数としてxを受け取り、ReLUの計算結果を戻り値として返します。