X方向にウィンドウを設定した場合、Y方向(縦方向)の画素のデータを1列ずつ平均すると、図のような濃度変化のグラフができます。このグラフの最も明るいデータを100、最も暗いデータを0とすると、エッジとして認識するためのしきい値を0～100の範囲内で設定することができます。しきい値レベルを低くすれば、より微妙な明度変化もエッジと認識し、100に近ければ微妙な明るさ変化はエッジと認識しないことになります。

さらに、周囲の明るさが暗くなるなどして、画像全体の明度が暗くなっても、前述の通りエッジウィンドウ内の明度変化を相対的に0～100として認識するため、しきい値も明度変化に連動することができ、正確にエッジを検出することができます。

1画素ごとの各階調データをアナログ的に処理し、近似波形を演算することにより、下図のように0.1画素単位でのエッジ検出が可能となります。