画像処理装置、方法、プログラム、および撮像システム
【課題】外乱の影響を極力受けることなく撮像対象物を撮像することをできるようにする。
【解決手段】外乱判断処理部120が、処理後画像における比較対象範囲の画素データの値と、カメラ210から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理部130が、入力画像における比較対象範囲の画素データの値と、処理後画像における比較対象範囲の画素データの値とに対して、外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【解決手段】外乱判断処理部120が、処理後画像における比較対象範囲の画素データの値と、カメラ210から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理部130が、入力画像における比較対象範囲の画素データの値と、処理後画像における比較対象範囲の画素データの値とに対して、外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、方法、プログラム、および撮像システムに関し、特に撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理装置、方法、プログラム、および撮像システムに関する。
【背景技術】
【0002】
従来からカメラによる撮像対象物を撮像することが行われていた。
しかし、カメラと撮像対象物との間に障害物があるときには撮像できないので、画像処理によって障害物に関する情報をノイズであるとして除去することが検討されていた。
【0003】
図22は、従来のカメラを用いた撮像対象物を撮像するためのシステム構成例である。
図22に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送する。これにより、たとえば遠隔地にカメラ200を設置しておき、離れた場所からカメラ200が設置されているところからの映像を見ることができる。一方で、カメラ200が設置されている場所で、カメラ200と撮像対象物(たとえば火山の監視カメラである場合には、火山とその周辺部分)との間に障害物があるときは、その障害物も一緒に映りこんでしまう。
【0004】
図23は、カメラと撮像対象物との間に障害物があるときの撮像画像を示す図である。
図23(A)は、撮像対象物のみを写した状態を示しており、図23(B)は、撮像対象物に加えて障害物も写した状態を示す図である。
【0005】
図23に示すように、降雪時などのように、カメラと撮像対象物との間に障害物があるときは、その間にある障害物によって撮像対象物が見えにくくなることがある。また、最悪の場合には撮像対象物を撮像することができなくなってしまう。
【0006】
そこで、撮像画像に対して平滑化処理を行うことによりノイズを除去する画像処理装置が提案されている(たとえば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平5−136998号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかし、平滑化処理によるとノイズが画像の大半をしめているときにはノイズデータ側に寄るように平滑化処理が行われてしまい、ノイズが大部分になるような撮像画像のときには撮像対象物を撮像できなくなってしまうという問題がある。
【0009】
図24は、障害物が写っている画像を平滑化処理したときの様子を示す図である。
図24(A)は、平滑化処理前の画像例であり、図24(B)は、平滑化処理をし始めた状態の画像例であり、図24(C)は、平滑化処理が進んだ状態を示す画像例である。
【0010】
図24に示すように、障害物が写った画像を平滑化処理しても障害物を除いた撮像対象物のみが写った画像を得ることはできない。
【0011】
図25は、外乱が少ないときに平滑化処理をしたときの様子を示す図であり、図26は、外乱が多いときに平滑化処理をしたときの様子を示す図である。
図25(A)は、外乱が少ないときの平滑化処理前の画像例であり、図25(B)は、外乱が少ないときの平滑化処理後の画像例である。また、図26(A)は、外乱が多いときの平滑化処理前の画像例であり、図26(B)は、外乱が多いときの平滑化処理後の画像例である。
【0012】
図25および図26に示すように、平滑化処理は、画像中の小さなノイズを除去する際には有効なノイズ除去手段となり得るが、障害物(たとえば降雪時に撮像したときの雪)などのように画像全体の大きさに対して障害物1つの相対的な大きさが大きいときは、その雪が写っている領域周辺は、ノイズと判断すべき障害物の画像データの値に近づくように平滑化されてしまうので、外乱の多い少ないに関係なく平滑化処理によっては障害物をノイズと判断して除去することができなかった。
【0013】
そこで、平滑化処理ではなく、カメラなどの撮像手段から逐一入力される入力画像を、一定の係数によって重み付けし、もしくは一定フレームずつ間引きをして蓄積された画像データに加算していくことによって追従させていくことが考えられる。
【0014】
図27は、入力画像を蓄積された画像に追従させていく追従処理の様子を示す図である。
図27(A)は、追従処理前の画像を示す画像例であり、図27(B)は、追従処理をし始めたときの画像例であり、図27(C)は、追従処理が進んだときの画像例である。
【0015】
外乱が多いときは図27に示すように、撮像対象物がぼけて写ってしまう。具体的には、外乱が雪であるとしたとき、雪が大量に降っているときには、外乱である雪が写っている画素データも一律に一定の係数によって重み付けをし、もしくは一定フレームおきに画素データを加算してしまうので、外乱が写っている画素の画素データが一定割合で加算され続けてしまい、常に一定割合の外乱による画素データの値の影響を受け続けてしまう。
【0016】
図28は、外乱が少ないときに追従処理をしたときの様子を示す図である。
図28(A)は、追従処理前の入力画像を示す画像例であり、図28(B)は、追従処理前の初期画像を示す画像例であり、図28(C)は、追従処理をし始めたときの画像例であり、図28(D)は、追従処理が進んだときの画像例である。
【0017】
図28においては、外乱が雪である場合を示している。外乱が雪であるときは、雪は白く写ることから、初期画像を白(輝度を最大)にする。外乱である雪は、光の反射によって白く映ることから、背景より輝度が高いことが多い。したがって、格納されている処理後画像と比較して輝度が高い部分を外乱による部分である疑いが高いと判断することができる。したがって、初期値を最大輝度にしておくことにより、入力画像の画素データの影響を受けて徐々に絵作りがされることになる。
【0018】
図29は、外乱が多いときに追従処理をしたときの様子を示す図である。
図29(A)は、追従処理前の入力画像を示す画像例であり、図29(B)は、追従処理前の初期画像を示す画像例であり、図29(C)は、追従処理をし始めたときの画像例であり、図29(D)は、追従処理が進んだときの画像例である。
【0019】
図28と同様に図29の外乱も雪である場合を示している。外乱が多いとき、つまり雪が大量に降っているときには、画像データにおける一定の点(たとえば、一画素から抽出される画素データ)に着目すると、雪が写っていることによる画素データが多く抽出される。
【0020】
したがって、一定割合でその画素データを加算していくと、多くの雪による画素データを加算してしまう。つまり、外乱が雪であるときは雪が白く写ることから、全画素分の画素データを合わせて絵作りすると画像全体が雪による画素データの影響を受けて、画像全体が白っぽくなってしまうという問題がある。
【0021】
図29においては、雪が大量に降っているときを外乱が多いときとして、撮像対象の背景は明るさなどの撮像環境が変わらない理想環境を例に説明したが、実際に撮像背景を撮像するときは、撮像背景自体や、撮像環境自体が大きく変化する。
【0022】
具体的には、外乱が多く発生すると考えられる屋外の監視対象物を撮像する監視カメラに適用するときは、日の傾きや雲の切れ間から日が出たり入ったりするなど背景自体や、撮像環境が大きく変化する。このようなときは、外乱が多いときと同様になる。
【0023】
本発明はこのような点に鑑みてなされたものであり、外乱の影響を極力受けることなく撮像対象物を撮像することを可能とする画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0024】
本発明では上記問題を解決するために、撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理装置において、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段とを備えることを特徴とする画像処理装置が提供される。
【0025】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【0026】
また、本発明では、撮像手段が撮像した撮像画像を伝送する伝送装置を用いて伝送し、前記撮像手段の設置地点から離隔した場所で前記撮像画像を表示する撮像システムにおいて、前記撮像画像を構成する画素データを処理することによる画像処理後の処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段とを備える画像処理装置を備えることを特徴とする撮像システムが提供される。
【0027】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【0028】
また、本発明では、撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理方法において、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断するステップと、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行うステップとを有することを特徴とする画像処理方法が提供される。
【0029】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【0030】
また、本発明では、撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理プログラムにおいて、コンピュータを、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段、として機能させることを特徴とする画像処理プログラムが提供される。
【0031】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【発明の効果】
【0032】
本発明の画像処理装置、方法、プログラム、および撮像システムによれば、外乱判断手段が、入力画像における比較対象範囲の画素データが外乱を撮像した結果の画素データであるかを判断し、画像処理手段が、外乱判断手段がした判断に応じた重み付けを入力画像および処理後画像の画素データにし、その画素データを加算して新たな処理後画像を生成するので、外乱と判断されたデータはほとんど反映させず、外乱と判断されなかった、つまり撮像対象物を撮像したと判断されたデータを多く反映させて新たな処理後画像を生成することができる。したがって、外乱の影響を極力受けることなく撮像対象物を撮像することが可能となる。
【図面の簡単な説明】
【0033】
【図1】本実施の形態に係る画像処理装置のブロック図である。
【図2】本実施の形態に係る画像処理装置を適用した第1のシステム構成例である。
【図3】本実施の形態に係る画像処理装置を適用した第2のシステム構成例である。
【図4】本実施の形態に係る画像処理装置を適用した第3のシステム構成例である。
【図5】本実施の形態に係る画像処理装置を適用した第4のシステム構成例である。
【図6】外乱判断処理部の処理機能の一例を示すブロック図である。
【図7】外乱判断処理部の処理機能の一例を示すブロック図である。
【図8】外乱判断処理部の処理機能の一例を示すブロック図である。
【図9】画像処理装置によるランダムノイズの画像処理の手順を示すフローチャートである。
【図10】画像処理装置によるランダムノイズの画像処理の手順を示すフローチャートである。
【図11】画像処理装置による雪が外乱であるときの画像処理の手順を示すフローチャートである。
【図12】画像処理装置による雪が外乱であるときの画像処理の手順を示すフローチャートである。
【図13】外乱の輝度が高いときの追従係数についての表を示す図である。
【図14】本実施の形態の画像処理装置によって画像処理したときの様子を示す図である。
【図15】本実施の形態の画像処理装置で、外乱が少ないときに画像処理をしたときの様子を示す図である。
【図16】本実施の形態の画像処理装置で、外乱が多いときに画像処理をしたときの様子を示す図である。
【図17】本実施の形態に係る画像処理装置のブロック図である。
【図18】誤差計測部の誤差計測処理にかかるブロック図である。
【図19】画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。
【図20】画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。
【図21】画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。
【図22】従来のカメラを用いた撮像対象物を撮像するためのシステム構成例である。
【図23】カメラと撮像対象物との間に障害物があるときの撮像画像を示す図である。
【図24】障害物が写っている画像を平滑化処理したときの様子を示す図である。
【図25】外乱が少ないときに平滑化処理をしたときの様子を示す図である。
【図26】外乱が多いときに平滑化処理をしたときの様子を示す図である。
【図27】入力画像を蓄積された画像に追従させていく追従処理の様子を示す図である。
【図28】外乱が少ないときに追従処理をしたときの様子を示す図である。
【図29】外乱が多いときに追従処理をしたときの様子を示す図である。
【発明を実施するための形態】
【0034】
以下、本発明の実施の形態を図面を参照して詳細に説明する。
〔第1の実施の形態〕
図1は、本実施の形態に係る画像処理装置のブロック図である。
図1に示すように、画像処理装置100には、カメラ210と、操作部220、および表示部230が取り付けられており、画像処理装置100は、入力画像メモリ110、外乱判断処理部120、画像処理部130、処理後画像メモリ140、および追従係数メモリ150を備えている。
【0035】
入力画像メモリ110は、カメラ200が撮像した撮像画像が入力されると、その入力画像を蓄積する。
【0036】
外乱判断処理部120は、入力画像メモリ110から入力画像を読み出すとともに処理後画像メモリ140から処理後画像を読み出す。そして、入力画像の比較対象範囲と、処理後画像における比較対象範囲に対応する部分のそれぞれの画素データの値を比較する。たとえば、比較対象範囲を1画素ごととしたときは、各画像の同一座標の画素データの値同士を比較する。その比較した値が一定以上の乖離があったときはその画素データは外乱を写したことによる画素データであると判断する。この外乱判断を、画像を構成する全画素データについて行う。なお、処理後画像については後述する。
【0037】
画像処理部130は、外乱判断処理部120が判断に応じて、追従係数メモリ150から追従係数を読み出して、入力画像の比較対象範囲の画素データ、および処理後画像の比較対象範囲の画素データに対して追従係数を用いた重み付けを行い、その重み付けをした画素データを加算する画像処理を行う。この画像処理は、画像を構成する全画素データについて行う。つまり、全画素データについて画像処理が行われたものを合算(絵作り)することにより新たな処理後画像とすることができる。この新たな処理後画像を処理後画像メモリ140に格納する。なお、追従係数メモリ150に格納されている追従係数は、たとえばキーボードなどの操作部220から入力されて格納されている。
【0038】
表示部230は、処理後画像メモリ140に格納されている処理後画像を読み出して表示する。これにより処理された、つまり外乱が除去された撮像対象物を写した画像を見ることができる。
【0039】
図2は、本実施の形態に係る画像処理装置を適用した第1のシステム構成例である。
図2に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送するときは、伝送受信装置242と表示部230との間に画像処理装置100を設置することができる。つまり、伝送されてきた処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。このようなシステム構成によれば、安価なカメラで外乱を除去した画像を見ることができるし、既存のシステムへの適用も容易である。
【0040】
図3は、本実施の形態に係る画像処理装置を適用した第2のシステム構成例である。
図3に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送するときは、カメラ200と伝送送信装置241との間に画像処理装置100を設置することもできる。つまり、カメラ200が撮像した処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を伝送送信装置241および伝送受信装置242により伝送することができるので、外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。このようなシステム構成によれば、外乱を除去した画像を伝送できる。つまり、伝送量を低減することができる。
【0041】
図4は、本実施の形態に係る画像処理装置を適用した第3のシステム構成例である。
図4に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送する系統が複数あり、セレクタ250によって系統を切り替えて表示するシステムのときは、セレクタ250と表示部230との間に画像処理装置100を設置することができる。つまり、セレクタ250によって選択された系統から伝送されてきた処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。このようなシステム構成によれば、複数の伝送システムに対して1つの画像処理装置を用いて外乱を除去した画像を見ることができる。
【0042】
図5は、本実施の形態に係る画像処理装置を適用した第4のシステム構成例である。
図5に示すように、伝送送信装置241と伝送受信装置242を用いて伝送したカメラ200が撮像した画像をレコーダ260に記録して、その記録した画像を表示するときは、レコーダ260と表示部230との間に画像処理装置100を設置することができる。つまり、レコーダ260に記録された処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。なお、レコーダ260よりも上流に画像処理装置100を設置することにより、処理後画像がレコーダ260に記録されるようにしてもよいのはいうまでもない。このように、カメラからのリアルタイム映像に限らず、レコーダに記録されている映像から外乱を除去した画像を見ることができるのも当然である。
【0043】
図6は、外乱判断処理部の処理機能の一例を示すブロック図である。
図6に示すように、外乱判断処理部120は、差分算出部121と大小比較部122とを備えている。差分算出部121は、入力画像の比較対象範囲の画素データの値と、処理後画像の比較対象範囲の画素データの値の差分の絶対値を算出する。
【0044】
大小比較部122は、差分算出部121した差分値があらかじめ設定された判定基準になる値より大きいか否かを判断し、差分値が大きいときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、画像処理部130にその結果を出力する。
【0045】
図7は、外乱判断処理部の処理機能の一例を示すブロック図である。
外乱が雨や雪のように撮像対象物や撮像背景に比べて白く写るものであるときは、より白いものを外乱である疑いが高いと判断すれば足りる。
つまり図7に示すように、外乱判断処理部120は、輝度抽出部123と大小比較部124を備えていればよいことになる。
【0046】
具体的には、輝度抽出部123は、入力画像の比較対象範囲の画素データと、処理後画像の比較対象範囲の画素データとからそれぞれの輝度情報を抽出する。そして、大小比較部124は、輝度抽出部123が抽出した輝度情報を比較し、入力画像の比較対象範囲の画素データから抽出した輝度が大きいと判断したときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、画像処理部130にその結果を出力する。
【0047】
図8は、外乱判断処理部の処理機能の一例を示すブロック図である。
輝度だけでなく彩度をも判断基準として用いてもよい。
【0048】
このときは図8に示すように、外乱判断処理部120は、輝度抽出部123と大小比較部124に加えて、彩度抽出部125と大小比較部126を備え、大小比較部124,126に加算器127を備えるようにする。
【0049】
彩度抽出部125は、入力画像の比較対象範囲の画素データと、処理後画像の比較対象範囲の画素データとからそれぞれの彩度情報を抽出する。そして、大小比較部126は、彩度抽出部125が抽出した彩度情報を比較し、処理後画像の比較対象範囲の画素データから抽出した彩度の方が大きいと判断したときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、加算器127にその結果を出力する。加算器127は、大小比較部124,126の双方が外乱による画素データである疑いが高いと判断したときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、画像処理部130にその結果を出力する。
【0050】
図9,10は、画像処理装置によるランダムノイズの画像処理の手順を示すフローチャートである。以下、図9,10に示す処理をステップ番号に沿って説明する。
【0051】
〔ステップS11〕画像処理装置100は、電源が投入されると、処理後画像メモリ140内の処理後画像を初期化する。具体的には、処理後画像メモリ140にグレー(中間の階調)の画像を格納する。ランダムノイズの場合には、外乱が黒く映るものなのか、白く映るものなのかがわからないのでグレーの画像を初期画像とする。
【0052】
また、あらかじめ格納されているメモリなどから読み出すなどして追従係数α1を1.0に設定する。さらに、操作部220からの入力信号により追従係数α2を設定する。追従係数α2は外乱の量により1.0≧α2>0.0の範囲で適宜設定される。そして、外乱か否かの判断基準となる輝度差分の絶対値の差のしきい値THを16と設定する。
【0053】
〔ステップS12〕外乱判断処理部120は、カメラ210から入力され、入力画像メモリ110に格納されている入力画像を読み出す。
【0054】
〔ステップS13〕外乱判断処理部120は、読み出した入力画像の幅と高さを取得して、高さをHと、幅をWと設定する。
【0055】
〔ステップS14〕外乱判断処理部120は、高さ方向のループ変数を初期化する。つまり、ループ変数Yに0を設定する。
【0056】
〔ステップS15〕外乱判断処理部120は、ループ変数Yが画像の高さHより大きいか否かを判断する。YがHより大きいときは処理をステップS16へ処理を進め、YがH以下であるときは処理をステップS25へ進める。
【0057】
〔ステップS16〕外乱判断処理部120は、幅方向のループ変数を初期化する。つまり、ループ変数Xに0を設定する。
【0058】
〔ステップS17〕外乱判断処理部120は、ループ変数Xが画像の幅Wより大きいか否かを判断する。XがWより大きいときは処理をステップS18へ処理を進め、XがW以下であるときは処理をステップS23へ進める。
【0059】
〔ステップS18〕外乱判断処理部120は、入力画像と処理後画像のループ変数Xとループ変数Yに対応する画素(以下、(X,Y)画素と表記する。)の値を読み出し、輝度差分の絶対値を算出する。そして、算出した絶対値がしきい値THより大きいか否かを判断する。しきい値THより差分絶対値が大きいときは、比較した画素は外乱によるものである疑いが高いと判断し、その旨を画像処理部130に出力し、処理をステップS19へ進める。また、しきい値THが差分絶対値以下であるときは処理をステップS20へ進める。なお、カラー画像であるときは、以下の式1により輝度を算出する。
輝度=0.257R+0.504G+0.098B+16………………………(式1)
【0060】
〔ステップS19〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α2を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、以下の式2の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
α2×入力画像の(X,Y)画素の値+(1−α2)×処理後画像の(X,Y)画素の値……………………………………………………………………………………………(式2)
【0061】
〔ステップS20〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α1を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、以下の式3の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
α1×入力画像の(X,Y)画素の値+(1−α1)×処理後画像の(X,Y)画素の値……………………………………………………………………………………………(式3)
【0062】
〔ステップS21〕ループ変数Xに1加算する。
【0063】
〔ステップS22〕処理をステップS17へ戻す。
【0064】
〔ステップS23〕ループ変数Yに1加算する。
【0065】
〔ステップS24〕処理をステップS15へ戻す。
【0066】
〔ステップS25〕処理をステップS12へ戻す。
【0067】
図11,12は、画像処理装置による雪が外乱であるときの画像処理の手順を示すフローチャートである。以下、図11,12に示す処理をステップ番号に沿って説明する。
【0068】
〔ステップS31〕画像処理装置100は、電源が投入されると、処理後画像メモリ140内の処理後画像を初期化する。具体的には、処理後画像メモリ140に白の画像を格納する。また、あらかじめ格納されているメモリなどから読み出すなどして追従係数α1を1.0に設定する。さらに、操作部220からの入力信号により追従係数α2を設定する。追従係数α2は外乱の量により1.0≧α2>0.0の範囲で適宜設定される。
【0069】
〔ステップS32〕外乱判断処理部120は、カメラ210から入力され、入力画像メモリ110に格納されている入力画像を読み出す。
【0070】
〔ステップS33〕外乱判断処理部120は、読み出した入力画像の幅と高さを取得して、高さをHと、幅をWと設定する。
【0071】
〔ステップS34〕外乱判断処理部120は、高さ方向のループ変数を初期化する。つまり、ループ変数Yに0を設定する。
【0072】
〔ステップS35〕外乱判断処理部120は、ループ変数Yが画像の高さHより大きいか否かを判断する。YがHより大きいときは処理をステップS36へ処理を進め、YがH以下であるときは処理をステップS45へ進める。
【0073】
〔ステップS36〕外乱判断処理部120は、幅方向のループ変数を初期化する。つまり、ループ変数Xに0を設定する。
【0074】
〔ステップS37〕外乱判断処理部120は、ループ変数Xが画像の幅Wより大きいか否かを判断する。XがWより大きいときは処理をステップS38へ処理を進め、XがW以下であるときは処理をステップS43へ進める。
【0075】
〔ステップS38〕外乱判断処理部120は、入力画像と処理後画像の(X,Y)画素の値を読み出し、各画素の輝度と彩度の値を比較する。そして、処理後画像の(X,Y)画素より入力画像の(X,Y)画素の輝度が大きく、かつ入力画像の(X,Y)画素より処理後画像の(X,Y)画素の彩度が大きいときは、比較した画素は外乱によるものである疑いが高いと判断し、その旨を画像処理部130に出力し、処理をステップS39へ進め、それ以外のときは処理をステップS40へ進める。なお、彩度は、以下の式4により算出する。
M=MAX(R,G,B)
m=MIN(R,G,B)
彩度=M−m/M(M=m≠0)、0(M=m=0)……………………………(式4)
【0076】
〔ステップS39〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α2を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、上述の式2の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
【0077】
〔ステップS40〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α1を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、上述の式3の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
【0078】
〔ステップS41〕ループ変数Xに1加算する。
【0079】
〔ステップS42〕処理をステップS37へ戻す。
【0080】
〔ステップS43〕ループ変数Yに1加算する。
【0081】
〔ステップS44〕処理をステップS35へ戻す。
【0082】
〔ステップS45〕処理をステップS32へ戻す。
【0083】
図13は、外乱の輝度が高いときの追従係数についての表を示す図である。
外乱が雪であるとき、つまり輝度が比較的高い場合には、上述の通り輝度が入力画像と処理後画像の輝度の値を比較して大きいものを外乱であると判断すれば足りることが多い。しかし、外乱である雪よりも背景の輝度が高いときは、輝度が入力画像と処理後画像の輝度の値を比較して大きいものを外乱であると判断すると、雪の輝度が処理後画像に多く反映される(つまり、本来の背景輝度より暗く映ってしまう)。
【0084】
そこで、たとえば雪の輝度が256階調で200であり、背景の輝度が230であるとしたときは、輝度値160を設定しておき、入力画像が設定値である160以上であるときは一律に追従係数α2とするとよい。つまり、ある一定値以上の輝度が入力された場合には外乱の疑いが高いと判断した場合と同様に処理後画像に少なく反映することにより、雪の輝度が処理後画像に多く反映されることを防ぐことが可能となる。
【0085】
なお、外乱が多いとき(本事案においては降雪量が多いとき)は、追従処理をした後にコントラストの強調処理を追加するとより効果がある。
【0086】
図14は、本実施の形態の画像処理装置によって画像処理したときの様子を示す図である。
図14(A)は、画像処理前の画像例であり、図14(B)は、画像処理をし始めた状態の画像例であり、図14(C)は、画像処理が進んだ状態を示す画像例である。
【0087】
図14に示すように、障害物が写った画像を画像処理装置100によって画像処理すると、外乱である疑いが高い範囲(画素)については小さな追従係数が乗算され、外乱である疑いが低い範囲(画素)については大きな追従係数が乗算されて、それぞれいままでの処理後画像に加算されることにより、新たな処理後画像とするので、外乱である疑いが高い画素は新たな処理後画像への反映が少なくなるので、結果として得られる新たな処理後画像は外乱の影響がない画像を得ることができる。
【0088】
図15は、本実施の形態の画像処理装置で、外乱が少ないときに画像処理をしたときの様子を示す図である。
図15(A)は、画像処理前の入力画像を示す画像例であり、図15(B)は、画像処理前の初期画像を示す画像例であり、図15(C)は、画像処理をし始めたときの画像例であり、図15(D)は、画像処理が進んだときの画像例である。
【0089】
図15においては、外乱が雪である場合を示している。外乱が雪であるときは、雪は白く写ることから、初期画像を白にする。そして、本実施の形態に係る画像処理を行うことにより、外乱を除去した画像を得ることができる。
【0090】
図16は、本実施の形態の画像処理装置で、外乱が多いときに画像処理をしたときの様子を示す図である。
図16(A)は、画像処理前の入力画像を示す画像例であり、図16(B)は、画像処理前の初期画像を示す画像例であり、図16(C)は、画像処理をし始めたときの画像例であり、図16(D)は、画像処理が進んだときの画像例である。
【0091】
図15と同様に図16の外乱も雪である場合を示している。外乱が多いとき、つまり雪が大量に降っているときには、画像データにおける一定の点(たとえば、一画素から抽出される画素データ)に着目すると、雪が写っていることによる画素データが多く抽出される。
【0092】
しかし、画像処理装置100における外乱判断処理部120によって、画素データが外乱による画素データの疑いが高いか否かを判断しているので、画像全体を追従処理しているときとは異なり、外乱の影響がない画像を得ることができる。
【0093】
以上の処理を行うことにより、入力画像における比較対象範囲の画素データが外乱を撮像した結果の画素データであるかを判断し、外乱判断処理の判断に応じた重み付けを入力画像および処理後画像の画素データにし、その画素データを加算して新たな処理後画像を生成するので、外乱と判断されたデータはほとんど反映させず、外乱と判断されなかった、つまり撮像対象物を撮像したと判断されたデータを多く反映させて新たな処理後画像を生成することができる。したがって、外乱の影響を極力受けることなく撮像対象物を撮像することが可能となる。
【0094】
なお、本実施の形態においては、画素同士を比較して一定以上の輝度や彩度の差があった場合、もしくは入力画像の画素の方が輝度が高いときは、その画素が外乱であると判断したが、カメラをパン・チルトしたときには当然に多くの画素で一定範囲以上の輝度や彩度の差が生まれる。
【0095】
このときは、たとえば全画素数のうち80%の画素において256階調のときに16階調分以上の差が生じたと判断したときは、カメラの撮影方向が変わったと判断して、処理後画像メモリに格納されている処理後画像を破棄して入力画像をそのまま新たな処理後画像とすることもできる。
【0096】
これによると、背景に動きがある場合はもちろんのこと、カメラを動かしたときもリアルタイムに画像を追従させることが可能であり、かつその入れ替えた画像から再度外乱除去処理が行われるので、外乱の影響を極力受けることなく撮像対象物を撮像することが可能となる。
【0097】
また、本実施の形態においては、画素データが外乱による画素データの疑いが高いか否かを判断したときの追従係数α2は操作部220から適宜設定する旨を説明したが、追従係数α2がどの程度が適当であるかを判断する処理部を加えてもよい。
【0098】
以下、第2の実施の形態として、追従係数α2がどの程度が適当であるかを判断する処理部を加えた例を示す。
【0099】
〔第2の実施の形態〕
次に、本発明の第2の実施の形態について説明する。本実施の形態の画像処理装置は、追従係数を更新する追従係数更新処理部を備えることが異なる以外は、第1の実施の形態で示した構成と同様である。このため、上記第1の実施の形態とほぼ同様の構成部分については同一の符号を付すなどして適宜その説明を省略する。
【0100】
図17は、本実施の形態に係る画像処理装置のブロック図である。
図17に示すように、画像処理装置2100には、カメラ210と、操作部220、および表示部230が取り付けられており、画像処理装置2100は、入力画像メモリ110、外乱判断処理部120、画像処理部130、処理後画像メモリ140、画質基準設定メモリ2150、誤差計測部2160、および追従係数更新処理部2170を備えている。
【0101】
入力画像メモリ110は、カメラ200が撮像した撮像画像が入力されると、その入力画像を蓄積する。
【0102】
外乱判断処理部120は、入力画像メモリ110から入力画像を読み出すとともに処理後画像メモリ140から処理後画像を読み出す。そして、入力画像の比較対象範囲と、処理後画像における比較対象範囲に対応する部分のそれぞれの画素データの値を比較する。その比較した値が一定以上の乖離があったときはその画素データは外乱を写したことによる画素データであると判断する。この外乱判断を、画像を構成する全画素データについて行う。
【0103】
画像処理部130は、外乱判断処理部120が判断に応じて、追従係数更新処理部2170から追従係数を読み出して、その追従係数に合わせた重み付けを、入力画像の比較対象範囲の画素データ、および処理後画像の比較対象範囲の画素データに対して行い、その重み付けをした画素データを加算する画像処理を行い、この画像処理を、画像を構成する全画素データについて行う。つまり、全画素データについて画像処理が行われたものを合算(絵作り)することにより新たな処理後画像とすることができる。この新たな処理後画像を処理後画像メモリ140に格納する。
【0104】
表示部230は、処理後画像メモリ140に格納されている処理後画像を読み出して表示する。これにより処理された、つまり外乱が除去された撮像対象物を写した画像を見ることができる。
【0105】
誤差計測部2160は、画像処理部130が処理した処理後画像と、処理後画像メモリ140に格納されている、画像処理部130が処理した処理後画像の1フレーム前の処理後画像とを読み出して誤差計測を行う。
【0106】
具体的には、各画像のあらかじめ設定された所定範囲の画素データの値の差分が一定のしきい値を超えているか否かによって判断する。この所定範囲は、撮像画像の中でも背景の動きが少ない部分が採用される。つまり、その範囲で輝度の変化が激しいときは外乱が多いことを意味する。
【0107】
誤差計測部2160が、所定範囲の中で画素データの値の差分が一定のしきい値を超えている画素数を計数し、その画素数を追従係数更新処理部2170に出力する。所定範囲の中で画素データの値の差分の判断しきい値は、操作部220から適宜設定され、画質基準設定メモリ2150に格納されている。
【0108】
追従係数更新処理部2170は、操作部220から適宜設定され、画質基準設定メモリ2150に格納されている誤差の割合の基準値を超えているときは、外乱が多いと判断して追従係数を一段階引き下げ、誤差の割合の基準値を超えていないときは外乱が少ないと判断して追従係数を一段階引き上げる。これにより、外乱が多いときには外乱の影響を受けないように画像処理を行うことが可能となり、外乱が少ないときには外乱の影響を受けないように画像処理を行うことができると同時により早い絵作りが可能となる。
【0109】
図18は、誤差計測部の誤差計測処理にかかるブロック図である。
図18に示すように、誤差計測部2160は、フレームメモリ2161、フレーム間差分算出部2162、大小比較部2163、計数部2164、領域判定部2165,2166、および加算器2167を備えている。
【0110】
フレームメモリ2161は、画像処理部130から出力される処理後画像を1フレーム分格納する。
【0111】
フレーム間差分算出部2162は、画像処理部130から出力される処理後画像と、その1フレーム前の処理後画像であって、フレームメモリ2161に格納されている画像とのフレーム間差分を算出する。
【0112】
大小比較部2163は、領域判定部2165,2166からの出力信号を加算器2167に出力され、ループ変数X,Yともに領域内と判定されたときにその(X,Y)画素の差分値と許容値の大小比較を行う。差分値が許容値を超えているときはその旨を計数部2164に出力し、計数部2164は、差分値が許容値を超えている画素数を計数し、判定領域内における、差分値が許容値を超えている画素数を追従係数更新処理部2170に出力する。
【0113】
図19,20,21は、画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。以下、図19,20,21に示す処理をステップ番号に沿って説明する。
【0114】
〔ステップS51〕画像処理装置100は、電源が投入されると、処理後画像メモリ140内の処理後画像を初期化する。具体的には、外乱が雪であるときは処理後画像メモリ140に白の画像を格納する。また、追従係数α1を1.0に設定し、追従係数α2を0.5に設定する。
【0115】
〔ステップS52〕外乱判断処理部120は、カメラ210から入力され、入力画像メモリ110に格納されている入力画像を読み出す。
【0116】
〔ステップS53〕外乱判断処理部120および画像処理部130は、外乱判断処理および画像処理を行う。この外乱判断処理および画像処理は、第1の実施の形態の図9,10で説明したものと同じ処理を行う。
【0117】
〔ステップS54〕誤差計測部2160は、誤差計測を行う処理後画像中の範囲である誤差計測範囲の終点座標(X_END,Y_END)を設定し、カウンタ(計数部2164)をリセットする。
【0118】
〔ステップS55〕画像の高さ方向のループ変数Yを初期化する。具体的には、誤差計測範囲の始点座標(X始点,Y始点)の高さ座標である「Y始点」をループ変数Yに設定する。
【0119】
〔ステップS56〕画像の幅方向のループ変数Xを初期化する。具体的には、誤差計測範囲の始点座標(X始点,Y始点)の幅座標である「X始点」をループ変数Xに設定する。
【0120】
〔ステップS57〕Y_ENDがループ変数Yより大きいか否かを判断する。Y_ENDがループ変数Yより大きいときは処理をステップS58へ進め、Y_ENDがループ変数Y以下のときは処理をステップS66へ進める。
【0121】
〔ステップS58〕X_ENDがループ変数Xより大きいか否かを判断する。X_ENDがループ変数Xより大きいときは処理をステップS59へ進め、X_ENDがループ変数X以下のときは処理をステップS64へ進める。
【0122】
〔ステップS59〕処理後画像と、フレームメモリ2161に格納されている1フレーム前の処理後画像とにおける(X,Y)画素の輝度の差分の絶対値を算出し、その差分絶対値があらかじめ設定された許容値より大きいか否かを判断する。差分絶対値が許容値より大きいときは処理をステップS60へ進め、差分絶対値が許容値以下のときは処理をステップS61へ進める。
【0123】
〔ステップS60〕カウンタを1加算する。
【0124】
〔ステップS61〕差分絶対値が許容値より大きいか否か判断した処理後画像の画素データをフレームメモリ2161に格納する。
【0125】
〔ステップS62〕ループ変数Xを1加算する。
【0126】
〔ステップS63〕処理をステップS58へ戻す。
【0127】
〔ステップS64〕ループ変数Yを1加算する。
【0128】
〔ステップS65〕処理をステップS56へ戻す。
【0129】
〔ステップS66〕あらかじめ設定された誤差割合の基準値が、計数部2164のカウンタの値より大きいか否かを判断する。基準値がカウンタ値より大きい場合は処理をステップS67へ進め、基準値がカウンタ値以下のときは処理をステップS68へ進める。
【0130】
〔ステップS67〕追従係数更新処理部2170は、追従係数α2を一段階引き上げる。
【0131】
〔ステップS68〕追従係数更新処理部2170は、追従係数α2を一段階引き下げる。
【0132】
〔ステップS69〕処理をステップS52へ戻す。
【0133】
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、画像処理装置が有すべき機能の処理内容を記述した画像処理プログラムが提供される。その画像処理プログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述した画像処理プログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、HDD、FD、磁気テープなどがある。光ディスクには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録装置には、MO(Magneto
Optical disk)などがある。
【0134】
画像処理プログラムを流通させる場合には、たとえば、その画像処理プログラムが記録されたDVD、CD−ROMなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにその画像処理プログラムを転送することもできる。
【0135】
画像処理プログラムを実行するコンピュータは、たとえば、可搬型記録媒体に記録された画像処理プログラムもしくはサーバコンピュータから転送された画像処理プログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置から画像処理プログラムを読み取り、画像処理プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接画像処理プログラムを読み取り、その画像処理プログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータから画像処理プログラムが転送される毎に、逐次、受け取った画像処理プログラムに従った処理を実行することもできる。
【0136】
なお、本発明は、上述の実施の形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変更を加えることができる。
【0137】
上記については単に本発明の原理を示すものである。さらに、多数の変形、変更が当業者にとって可能であり、本発明は上記に示し、説明した正確な構成および応用例に限定されるものではなく、対応するすべての変形例および均等物は、添付の請求項およびその均等物による本発明の範囲とみなされる。
【符号の説明】
【0138】
100 画像処理装置
110 入力画像メモリ
120 外乱判断処理部
130 画像処理部
140 処理後画像メモリ
150 追従係数メモリ
210 カメラ
220 操作部
230 表示部
【技術分野】
【0001】
本発明は、画像処理装置、方法、プログラム、および撮像システムに関し、特に撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理装置、方法、プログラム、および撮像システムに関する。
【背景技術】
【0002】
従来からカメラによる撮像対象物を撮像することが行われていた。
しかし、カメラと撮像対象物との間に障害物があるときには撮像できないので、画像処理によって障害物に関する情報をノイズであるとして除去することが検討されていた。
【0003】
図22は、従来のカメラを用いた撮像対象物を撮像するためのシステム構成例である。
図22に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送する。これにより、たとえば遠隔地にカメラ200を設置しておき、離れた場所からカメラ200が設置されているところからの映像を見ることができる。一方で、カメラ200が設置されている場所で、カメラ200と撮像対象物(たとえば火山の監視カメラである場合には、火山とその周辺部分)との間に障害物があるときは、その障害物も一緒に映りこんでしまう。
【0004】
図23は、カメラと撮像対象物との間に障害物があるときの撮像画像を示す図である。
図23(A)は、撮像対象物のみを写した状態を示しており、図23(B)は、撮像対象物に加えて障害物も写した状態を示す図である。
【0005】
図23に示すように、降雪時などのように、カメラと撮像対象物との間に障害物があるときは、その間にある障害物によって撮像対象物が見えにくくなることがある。また、最悪の場合には撮像対象物を撮像することができなくなってしまう。
【0006】
そこで、撮像画像に対して平滑化処理を行うことによりノイズを除去する画像処理装置が提案されている(たとえば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平5−136998号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかし、平滑化処理によるとノイズが画像の大半をしめているときにはノイズデータ側に寄るように平滑化処理が行われてしまい、ノイズが大部分になるような撮像画像のときには撮像対象物を撮像できなくなってしまうという問題がある。
【0009】
図24は、障害物が写っている画像を平滑化処理したときの様子を示す図である。
図24(A)は、平滑化処理前の画像例であり、図24(B)は、平滑化処理をし始めた状態の画像例であり、図24(C)は、平滑化処理が進んだ状態を示す画像例である。
【0010】
図24に示すように、障害物が写った画像を平滑化処理しても障害物を除いた撮像対象物のみが写った画像を得ることはできない。
【0011】
図25は、外乱が少ないときに平滑化処理をしたときの様子を示す図であり、図26は、外乱が多いときに平滑化処理をしたときの様子を示す図である。
図25(A)は、外乱が少ないときの平滑化処理前の画像例であり、図25(B)は、外乱が少ないときの平滑化処理後の画像例である。また、図26(A)は、外乱が多いときの平滑化処理前の画像例であり、図26(B)は、外乱が多いときの平滑化処理後の画像例である。
【0012】
図25および図26に示すように、平滑化処理は、画像中の小さなノイズを除去する際には有効なノイズ除去手段となり得るが、障害物(たとえば降雪時に撮像したときの雪)などのように画像全体の大きさに対して障害物1つの相対的な大きさが大きいときは、その雪が写っている領域周辺は、ノイズと判断すべき障害物の画像データの値に近づくように平滑化されてしまうので、外乱の多い少ないに関係なく平滑化処理によっては障害物をノイズと判断して除去することができなかった。
【0013】
そこで、平滑化処理ではなく、カメラなどの撮像手段から逐一入力される入力画像を、一定の係数によって重み付けし、もしくは一定フレームずつ間引きをして蓄積された画像データに加算していくことによって追従させていくことが考えられる。
【0014】
図27は、入力画像を蓄積された画像に追従させていく追従処理の様子を示す図である。
図27(A)は、追従処理前の画像を示す画像例であり、図27(B)は、追従処理をし始めたときの画像例であり、図27(C)は、追従処理が進んだときの画像例である。
【0015】
外乱が多いときは図27に示すように、撮像対象物がぼけて写ってしまう。具体的には、外乱が雪であるとしたとき、雪が大量に降っているときには、外乱である雪が写っている画素データも一律に一定の係数によって重み付けをし、もしくは一定フレームおきに画素データを加算してしまうので、外乱が写っている画素の画素データが一定割合で加算され続けてしまい、常に一定割合の外乱による画素データの値の影響を受け続けてしまう。
【0016】
図28は、外乱が少ないときに追従処理をしたときの様子を示す図である。
図28(A)は、追従処理前の入力画像を示す画像例であり、図28(B)は、追従処理前の初期画像を示す画像例であり、図28(C)は、追従処理をし始めたときの画像例であり、図28(D)は、追従処理が進んだときの画像例である。
【0017】
図28においては、外乱が雪である場合を示している。外乱が雪であるときは、雪は白く写ることから、初期画像を白(輝度を最大)にする。外乱である雪は、光の反射によって白く映ることから、背景より輝度が高いことが多い。したがって、格納されている処理後画像と比較して輝度が高い部分を外乱による部分である疑いが高いと判断することができる。したがって、初期値を最大輝度にしておくことにより、入力画像の画素データの影響を受けて徐々に絵作りがされることになる。
【0018】
図29は、外乱が多いときに追従処理をしたときの様子を示す図である。
図29(A)は、追従処理前の入力画像を示す画像例であり、図29(B)は、追従処理前の初期画像を示す画像例であり、図29(C)は、追従処理をし始めたときの画像例であり、図29(D)は、追従処理が進んだときの画像例である。
【0019】
図28と同様に図29の外乱も雪である場合を示している。外乱が多いとき、つまり雪が大量に降っているときには、画像データにおける一定の点(たとえば、一画素から抽出される画素データ)に着目すると、雪が写っていることによる画素データが多く抽出される。
【0020】
したがって、一定割合でその画素データを加算していくと、多くの雪による画素データを加算してしまう。つまり、外乱が雪であるときは雪が白く写ることから、全画素分の画素データを合わせて絵作りすると画像全体が雪による画素データの影響を受けて、画像全体が白っぽくなってしまうという問題がある。
【0021】
図29においては、雪が大量に降っているときを外乱が多いときとして、撮像対象の背景は明るさなどの撮像環境が変わらない理想環境を例に説明したが、実際に撮像背景を撮像するときは、撮像背景自体や、撮像環境自体が大きく変化する。
【0022】
具体的には、外乱が多く発生すると考えられる屋外の監視対象物を撮像する監視カメラに適用するときは、日の傾きや雲の切れ間から日が出たり入ったりするなど背景自体や、撮像環境が大きく変化する。このようなときは、外乱が多いときと同様になる。
【0023】
本発明はこのような点に鑑みてなされたものであり、外乱の影響を極力受けることなく撮像対象物を撮像することを可能とする画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0024】
本発明では上記問題を解決するために、撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理装置において、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段とを備えることを特徴とする画像処理装置が提供される。
【0025】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【0026】
また、本発明では、撮像手段が撮像した撮像画像を伝送する伝送装置を用いて伝送し、前記撮像手段の設置地点から離隔した場所で前記撮像画像を表示する撮像システムにおいて、前記撮像画像を構成する画素データを処理することによる画像処理後の処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段とを備える画像処理装置を備えることを特徴とする撮像システムが提供される。
【0027】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【0028】
また、本発明では、撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理方法において、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断するステップと、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行うステップとを有することを特徴とする画像処理方法が提供される。
【0029】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【0030】
また、本発明では、撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理プログラムにおいて、コンピュータを、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段、として機能させることを特徴とする画像処理プログラムが提供される。
【0031】
これにより、外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断し、画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う。
【発明の効果】
【0032】
本発明の画像処理装置、方法、プログラム、および撮像システムによれば、外乱判断手段が、入力画像における比較対象範囲の画素データが外乱を撮像した結果の画素データであるかを判断し、画像処理手段が、外乱判断手段がした判断に応じた重み付けを入力画像および処理後画像の画素データにし、その画素データを加算して新たな処理後画像を生成するので、外乱と判断されたデータはほとんど反映させず、外乱と判断されなかった、つまり撮像対象物を撮像したと判断されたデータを多く反映させて新たな処理後画像を生成することができる。したがって、外乱の影響を極力受けることなく撮像対象物を撮像することが可能となる。
【図面の簡単な説明】
【0033】
【図1】本実施の形態に係る画像処理装置のブロック図である。
【図2】本実施の形態に係る画像処理装置を適用した第1のシステム構成例である。
【図3】本実施の形態に係る画像処理装置を適用した第2のシステム構成例である。
【図4】本実施の形態に係る画像処理装置を適用した第3のシステム構成例である。
【図5】本実施の形態に係る画像処理装置を適用した第4のシステム構成例である。
【図6】外乱判断処理部の処理機能の一例を示すブロック図である。
【図7】外乱判断処理部の処理機能の一例を示すブロック図である。
【図8】外乱判断処理部の処理機能の一例を示すブロック図である。
【図9】画像処理装置によるランダムノイズの画像処理の手順を示すフローチャートである。
【図10】画像処理装置によるランダムノイズの画像処理の手順を示すフローチャートである。
【図11】画像処理装置による雪が外乱であるときの画像処理の手順を示すフローチャートである。
【図12】画像処理装置による雪が外乱であるときの画像処理の手順を示すフローチャートである。
【図13】外乱の輝度が高いときの追従係数についての表を示す図である。
【図14】本実施の形態の画像処理装置によって画像処理したときの様子を示す図である。
【図15】本実施の形態の画像処理装置で、外乱が少ないときに画像処理をしたときの様子を示す図である。
【図16】本実施の形態の画像処理装置で、外乱が多いときに画像処理をしたときの様子を示す図である。
【図17】本実施の形態に係る画像処理装置のブロック図である。
【図18】誤差計測部の誤差計測処理にかかるブロック図である。
【図19】画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。
【図20】画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。
【図21】画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。
【図22】従来のカメラを用いた撮像対象物を撮像するためのシステム構成例である。
【図23】カメラと撮像対象物との間に障害物があるときの撮像画像を示す図である。
【図24】障害物が写っている画像を平滑化処理したときの様子を示す図である。
【図25】外乱が少ないときに平滑化処理をしたときの様子を示す図である。
【図26】外乱が多いときに平滑化処理をしたときの様子を示す図である。
【図27】入力画像を蓄積された画像に追従させていく追従処理の様子を示す図である。
【図28】外乱が少ないときに追従処理をしたときの様子を示す図である。
【図29】外乱が多いときに追従処理をしたときの様子を示す図である。
【発明を実施するための形態】
【0034】
以下、本発明の実施の形態を図面を参照して詳細に説明する。
〔第1の実施の形態〕
図1は、本実施の形態に係る画像処理装置のブロック図である。
図1に示すように、画像処理装置100には、カメラ210と、操作部220、および表示部230が取り付けられており、画像処理装置100は、入力画像メモリ110、外乱判断処理部120、画像処理部130、処理後画像メモリ140、および追従係数メモリ150を備えている。
【0035】
入力画像メモリ110は、カメラ200が撮像した撮像画像が入力されると、その入力画像を蓄積する。
【0036】
外乱判断処理部120は、入力画像メモリ110から入力画像を読み出すとともに処理後画像メモリ140から処理後画像を読み出す。そして、入力画像の比較対象範囲と、処理後画像における比較対象範囲に対応する部分のそれぞれの画素データの値を比較する。たとえば、比較対象範囲を1画素ごととしたときは、各画像の同一座標の画素データの値同士を比較する。その比較した値が一定以上の乖離があったときはその画素データは外乱を写したことによる画素データであると判断する。この外乱判断を、画像を構成する全画素データについて行う。なお、処理後画像については後述する。
【0037】
画像処理部130は、外乱判断処理部120が判断に応じて、追従係数メモリ150から追従係数を読み出して、入力画像の比較対象範囲の画素データ、および処理後画像の比較対象範囲の画素データに対して追従係数を用いた重み付けを行い、その重み付けをした画素データを加算する画像処理を行う。この画像処理は、画像を構成する全画素データについて行う。つまり、全画素データについて画像処理が行われたものを合算(絵作り)することにより新たな処理後画像とすることができる。この新たな処理後画像を処理後画像メモリ140に格納する。なお、追従係数メモリ150に格納されている追従係数は、たとえばキーボードなどの操作部220から入力されて格納されている。
【0038】
表示部230は、処理後画像メモリ140に格納されている処理後画像を読み出して表示する。これにより処理された、つまり外乱が除去された撮像対象物を写した画像を見ることができる。
【0039】
図2は、本実施の形態に係る画像処理装置を適用した第1のシステム構成例である。
図2に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送するときは、伝送受信装置242と表示部230との間に画像処理装置100を設置することができる。つまり、伝送されてきた処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。このようなシステム構成によれば、安価なカメラで外乱を除去した画像を見ることができるし、既存のシステムへの適用も容易である。
【0040】
図3は、本実施の形態に係る画像処理装置を適用した第2のシステム構成例である。
図3に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送するときは、カメラ200と伝送送信装置241との間に画像処理装置100を設置することもできる。つまり、カメラ200が撮像した処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を伝送送信装置241および伝送受信装置242により伝送することができるので、外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。このようなシステム構成によれば、外乱を除去した画像を伝送できる。つまり、伝送量を低減することができる。
【0041】
図4は、本実施の形態に係る画像処理装置を適用した第3のシステム構成例である。
図4に示すように、伝送送信装置241と伝送受信装置242を用いてカメラ200が撮像した画像を伝送する系統が複数あり、セレクタ250によって系統を切り替えて表示するシステムのときは、セレクタ250と表示部230との間に画像処理装置100を設置することができる。つまり、セレクタ250によって選択された系統から伝送されてきた処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。このようなシステム構成によれば、複数の伝送システムに対して1つの画像処理装置を用いて外乱を除去した画像を見ることができる。
【0042】
図5は、本実施の形態に係る画像処理装置を適用した第4のシステム構成例である。
図5に示すように、伝送送信装置241と伝送受信装置242を用いて伝送したカメラ200が撮像した画像をレコーダ260に記録して、その記録した画像を表示するときは、レコーダ260と表示部230との間に画像処理装置100を設置することができる。つまり、レコーダ260に記録された処理前の画像(入力画像)に対して画像処理装置100が画像処理をすることにより外乱を除去した撮像対象物を撮像した画像を見ることができるようになる。なお、レコーダ260よりも上流に画像処理装置100を設置することにより、処理後画像がレコーダ260に記録されるようにしてもよいのはいうまでもない。このように、カメラからのリアルタイム映像に限らず、レコーダに記録されている映像から外乱を除去した画像を見ることができるのも当然である。
【0043】
図6は、外乱判断処理部の処理機能の一例を示すブロック図である。
図6に示すように、外乱判断処理部120は、差分算出部121と大小比較部122とを備えている。差分算出部121は、入力画像の比較対象範囲の画素データの値と、処理後画像の比較対象範囲の画素データの値の差分の絶対値を算出する。
【0044】
大小比較部122は、差分算出部121した差分値があらかじめ設定された判定基準になる値より大きいか否かを判断し、差分値が大きいときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、画像処理部130にその結果を出力する。
【0045】
図7は、外乱判断処理部の処理機能の一例を示すブロック図である。
外乱が雨や雪のように撮像対象物や撮像背景に比べて白く写るものであるときは、より白いものを外乱である疑いが高いと判断すれば足りる。
つまり図7に示すように、外乱判断処理部120は、輝度抽出部123と大小比較部124を備えていればよいことになる。
【0046】
具体的には、輝度抽出部123は、入力画像の比較対象範囲の画素データと、処理後画像の比較対象範囲の画素データとからそれぞれの輝度情報を抽出する。そして、大小比較部124は、輝度抽出部123が抽出した輝度情報を比較し、入力画像の比較対象範囲の画素データから抽出した輝度が大きいと判断したときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、画像処理部130にその結果を出力する。
【0047】
図8は、外乱判断処理部の処理機能の一例を示すブロック図である。
輝度だけでなく彩度をも判断基準として用いてもよい。
【0048】
このときは図8に示すように、外乱判断処理部120は、輝度抽出部123と大小比較部124に加えて、彩度抽出部125と大小比較部126を備え、大小比較部124,126に加算器127を備えるようにする。
【0049】
彩度抽出部125は、入力画像の比較対象範囲の画素データと、処理後画像の比較対象範囲の画素データとからそれぞれの彩度情報を抽出する。そして、大小比較部126は、彩度抽出部125が抽出した彩度情報を比較し、処理後画像の比較対象範囲の画素データから抽出した彩度の方が大きいと判断したときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、加算器127にその結果を出力する。加算器127は、大小比較部124,126の双方が外乱による画素データである疑いが高いと判断したときは、入力画像の比較対象範囲の画素データは外乱による画素データである疑いが高いと判断して、画像処理部130にその結果を出力する。
【0050】
図9,10は、画像処理装置によるランダムノイズの画像処理の手順を示すフローチャートである。以下、図9,10に示す処理をステップ番号に沿って説明する。
【0051】
〔ステップS11〕画像処理装置100は、電源が投入されると、処理後画像メモリ140内の処理後画像を初期化する。具体的には、処理後画像メモリ140にグレー(中間の階調)の画像を格納する。ランダムノイズの場合には、外乱が黒く映るものなのか、白く映るものなのかがわからないのでグレーの画像を初期画像とする。
【0052】
また、あらかじめ格納されているメモリなどから読み出すなどして追従係数α1を1.0に設定する。さらに、操作部220からの入力信号により追従係数α2を設定する。追従係数α2は外乱の量により1.0≧α2>0.0の範囲で適宜設定される。そして、外乱か否かの判断基準となる輝度差分の絶対値の差のしきい値THを16と設定する。
【0053】
〔ステップS12〕外乱判断処理部120は、カメラ210から入力され、入力画像メモリ110に格納されている入力画像を読み出す。
【0054】
〔ステップS13〕外乱判断処理部120は、読み出した入力画像の幅と高さを取得して、高さをHと、幅をWと設定する。
【0055】
〔ステップS14〕外乱判断処理部120は、高さ方向のループ変数を初期化する。つまり、ループ変数Yに0を設定する。
【0056】
〔ステップS15〕外乱判断処理部120は、ループ変数Yが画像の高さHより大きいか否かを判断する。YがHより大きいときは処理をステップS16へ処理を進め、YがH以下であるときは処理をステップS25へ進める。
【0057】
〔ステップS16〕外乱判断処理部120は、幅方向のループ変数を初期化する。つまり、ループ変数Xに0を設定する。
【0058】
〔ステップS17〕外乱判断処理部120は、ループ変数Xが画像の幅Wより大きいか否かを判断する。XがWより大きいときは処理をステップS18へ処理を進め、XがW以下であるときは処理をステップS23へ進める。
【0059】
〔ステップS18〕外乱判断処理部120は、入力画像と処理後画像のループ変数Xとループ変数Yに対応する画素(以下、(X,Y)画素と表記する。)の値を読み出し、輝度差分の絶対値を算出する。そして、算出した絶対値がしきい値THより大きいか否かを判断する。しきい値THより差分絶対値が大きいときは、比較した画素は外乱によるものである疑いが高いと判断し、その旨を画像処理部130に出力し、処理をステップS19へ進める。また、しきい値THが差分絶対値以下であるときは処理をステップS20へ進める。なお、カラー画像であるときは、以下の式1により輝度を算出する。
輝度=0.257R+0.504G+0.098B+16………………………(式1)
【0060】
〔ステップS19〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α2を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、以下の式2の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
α2×入力画像の(X,Y)画素の値+(1−α2)×処理後画像の(X,Y)画素の値……………………………………………………………………………………………(式2)
【0061】
〔ステップS20〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α1を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、以下の式3の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
α1×入力画像の(X,Y)画素の値+(1−α1)×処理後画像の(X,Y)画素の値……………………………………………………………………………………………(式3)
【0062】
〔ステップS21〕ループ変数Xに1加算する。
【0063】
〔ステップS22〕処理をステップS17へ戻す。
【0064】
〔ステップS23〕ループ変数Yに1加算する。
【0065】
〔ステップS24〕処理をステップS15へ戻す。
【0066】
〔ステップS25〕処理をステップS12へ戻す。
【0067】
図11,12は、画像処理装置による雪が外乱であるときの画像処理の手順を示すフローチャートである。以下、図11,12に示す処理をステップ番号に沿って説明する。
【0068】
〔ステップS31〕画像処理装置100は、電源が投入されると、処理後画像メモリ140内の処理後画像を初期化する。具体的には、処理後画像メモリ140に白の画像を格納する。また、あらかじめ格納されているメモリなどから読み出すなどして追従係数α1を1.0に設定する。さらに、操作部220からの入力信号により追従係数α2を設定する。追従係数α2は外乱の量により1.0≧α2>0.0の範囲で適宜設定される。
【0069】
〔ステップS32〕外乱判断処理部120は、カメラ210から入力され、入力画像メモリ110に格納されている入力画像を読み出す。
【0070】
〔ステップS33〕外乱判断処理部120は、読み出した入力画像の幅と高さを取得して、高さをHと、幅をWと設定する。
【0071】
〔ステップS34〕外乱判断処理部120は、高さ方向のループ変数を初期化する。つまり、ループ変数Yに0を設定する。
【0072】
〔ステップS35〕外乱判断処理部120は、ループ変数Yが画像の高さHより大きいか否かを判断する。YがHより大きいときは処理をステップS36へ処理を進め、YがH以下であるときは処理をステップS45へ進める。
【0073】
〔ステップS36〕外乱判断処理部120は、幅方向のループ変数を初期化する。つまり、ループ変数Xに0を設定する。
【0074】
〔ステップS37〕外乱判断処理部120は、ループ変数Xが画像の幅Wより大きいか否かを判断する。XがWより大きいときは処理をステップS38へ処理を進め、XがW以下であるときは処理をステップS43へ進める。
【0075】
〔ステップS38〕外乱判断処理部120は、入力画像と処理後画像の(X,Y)画素の値を読み出し、各画素の輝度と彩度の値を比較する。そして、処理後画像の(X,Y)画素より入力画像の(X,Y)画素の輝度が大きく、かつ入力画像の(X,Y)画素より処理後画像の(X,Y)画素の彩度が大きいときは、比較した画素は外乱によるものである疑いが高いと判断し、その旨を画像処理部130に出力し、処理をステップS39へ進め、それ以外のときは処理をステップS40へ進める。なお、彩度は、以下の式4により算出する。
M=MAX(R,G,B)
m=MIN(R,G,B)
彩度=M−m/M(M=m≠0)、0(M=m=0)……………………………(式4)
【0076】
〔ステップS39〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α2を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、上述の式2の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
【0077】
〔ステップS40〕画像処理部130は、処理後画像の(X,Y)画素を、追従係数α1を用いて重み付けをして加算することにより、新たな処理画像の(X,Y)画素とする。この重み付けは、上述の式3の通りに行う。なお、カラー画像の場合にはRGBそれぞれに対して行う。
【0078】
〔ステップS41〕ループ変数Xに1加算する。
【0079】
〔ステップS42〕処理をステップS37へ戻す。
【0080】
〔ステップS43〕ループ変数Yに1加算する。
【0081】
〔ステップS44〕処理をステップS35へ戻す。
【0082】
〔ステップS45〕処理をステップS32へ戻す。
【0083】
図13は、外乱の輝度が高いときの追従係数についての表を示す図である。
外乱が雪であるとき、つまり輝度が比較的高い場合には、上述の通り輝度が入力画像と処理後画像の輝度の値を比較して大きいものを外乱であると判断すれば足りることが多い。しかし、外乱である雪よりも背景の輝度が高いときは、輝度が入力画像と処理後画像の輝度の値を比較して大きいものを外乱であると判断すると、雪の輝度が処理後画像に多く反映される(つまり、本来の背景輝度より暗く映ってしまう)。
【0084】
そこで、たとえば雪の輝度が256階調で200であり、背景の輝度が230であるとしたときは、輝度値160を設定しておき、入力画像が設定値である160以上であるときは一律に追従係数α2とするとよい。つまり、ある一定値以上の輝度が入力された場合には外乱の疑いが高いと判断した場合と同様に処理後画像に少なく反映することにより、雪の輝度が処理後画像に多く反映されることを防ぐことが可能となる。
【0085】
なお、外乱が多いとき(本事案においては降雪量が多いとき)は、追従処理をした後にコントラストの強調処理を追加するとより効果がある。
【0086】
図14は、本実施の形態の画像処理装置によって画像処理したときの様子を示す図である。
図14(A)は、画像処理前の画像例であり、図14(B)は、画像処理をし始めた状態の画像例であり、図14(C)は、画像処理が進んだ状態を示す画像例である。
【0087】
図14に示すように、障害物が写った画像を画像処理装置100によって画像処理すると、外乱である疑いが高い範囲(画素)については小さな追従係数が乗算され、外乱である疑いが低い範囲(画素)については大きな追従係数が乗算されて、それぞれいままでの処理後画像に加算されることにより、新たな処理後画像とするので、外乱である疑いが高い画素は新たな処理後画像への反映が少なくなるので、結果として得られる新たな処理後画像は外乱の影響がない画像を得ることができる。
【0088】
図15は、本実施の形態の画像処理装置で、外乱が少ないときに画像処理をしたときの様子を示す図である。
図15(A)は、画像処理前の入力画像を示す画像例であり、図15(B)は、画像処理前の初期画像を示す画像例であり、図15(C)は、画像処理をし始めたときの画像例であり、図15(D)は、画像処理が進んだときの画像例である。
【0089】
図15においては、外乱が雪である場合を示している。外乱が雪であるときは、雪は白く写ることから、初期画像を白にする。そして、本実施の形態に係る画像処理を行うことにより、外乱を除去した画像を得ることができる。
【0090】
図16は、本実施の形態の画像処理装置で、外乱が多いときに画像処理をしたときの様子を示す図である。
図16(A)は、画像処理前の入力画像を示す画像例であり、図16(B)は、画像処理前の初期画像を示す画像例であり、図16(C)は、画像処理をし始めたときの画像例であり、図16(D)は、画像処理が進んだときの画像例である。
【0091】
図15と同様に図16の外乱も雪である場合を示している。外乱が多いとき、つまり雪が大量に降っているときには、画像データにおける一定の点(たとえば、一画素から抽出される画素データ)に着目すると、雪が写っていることによる画素データが多く抽出される。
【0092】
しかし、画像処理装置100における外乱判断処理部120によって、画素データが外乱による画素データの疑いが高いか否かを判断しているので、画像全体を追従処理しているときとは異なり、外乱の影響がない画像を得ることができる。
【0093】
以上の処理を行うことにより、入力画像における比較対象範囲の画素データが外乱を撮像した結果の画素データであるかを判断し、外乱判断処理の判断に応じた重み付けを入力画像および処理後画像の画素データにし、その画素データを加算して新たな処理後画像を生成するので、外乱と判断されたデータはほとんど反映させず、外乱と判断されなかった、つまり撮像対象物を撮像したと判断されたデータを多く反映させて新たな処理後画像を生成することができる。したがって、外乱の影響を極力受けることなく撮像対象物を撮像することが可能となる。
【0094】
なお、本実施の形態においては、画素同士を比較して一定以上の輝度や彩度の差があった場合、もしくは入力画像の画素の方が輝度が高いときは、その画素が外乱であると判断したが、カメラをパン・チルトしたときには当然に多くの画素で一定範囲以上の輝度や彩度の差が生まれる。
【0095】
このときは、たとえば全画素数のうち80%の画素において256階調のときに16階調分以上の差が生じたと判断したときは、カメラの撮影方向が変わったと判断して、処理後画像メモリに格納されている処理後画像を破棄して入力画像をそのまま新たな処理後画像とすることもできる。
【0096】
これによると、背景に動きがある場合はもちろんのこと、カメラを動かしたときもリアルタイムに画像を追従させることが可能であり、かつその入れ替えた画像から再度外乱除去処理が行われるので、外乱の影響を極力受けることなく撮像対象物を撮像することが可能となる。
【0097】
また、本実施の形態においては、画素データが外乱による画素データの疑いが高いか否かを判断したときの追従係数α2は操作部220から適宜設定する旨を説明したが、追従係数α2がどの程度が適当であるかを判断する処理部を加えてもよい。
【0098】
以下、第2の実施の形態として、追従係数α2がどの程度が適当であるかを判断する処理部を加えた例を示す。
【0099】
〔第2の実施の形態〕
次に、本発明の第2の実施の形態について説明する。本実施の形態の画像処理装置は、追従係数を更新する追従係数更新処理部を備えることが異なる以外は、第1の実施の形態で示した構成と同様である。このため、上記第1の実施の形態とほぼ同様の構成部分については同一の符号を付すなどして適宜その説明を省略する。
【0100】
図17は、本実施の形態に係る画像処理装置のブロック図である。
図17に示すように、画像処理装置2100には、カメラ210と、操作部220、および表示部230が取り付けられており、画像処理装置2100は、入力画像メモリ110、外乱判断処理部120、画像処理部130、処理後画像メモリ140、画質基準設定メモリ2150、誤差計測部2160、および追従係数更新処理部2170を備えている。
【0101】
入力画像メモリ110は、カメラ200が撮像した撮像画像が入力されると、その入力画像を蓄積する。
【0102】
外乱判断処理部120は、入力画像メモリ110から入力画像を読み出すとともに処理後画像メモリ140から処理後画像を読み出す。そして、入力画像の比較対象範囲と、処理後画像における比較対象範囲に対応する部分のそれぞれの画素データの値を比較する。その比較した値が一定以上の乖離があったときはその画素データは外乱を写したことによる画素データであると判断する。この外乱判断を、画像を構成する全画素データについて行う。
【0103】
画像処理部130は、外乱判断処理部120が判断に応じて、追従係数更新処理部2170から追従係数を読み出して、その追従係数に合わせた重み付けを、入力画像の比較対象範囲の画素データ、および処理後画像の比較対象範囲の画素データに対して行い、その重み付けをした画素データを加算する画像処理を行い、この画像処理を、画像を構成する全画素データについて行う。つまり、全画素データについて画像処理が行われたものを合算(絵作り)することにより新たな処理後画像とすることができる。この新たな処理後画像を処理後画像メモリ140に格納する。
【0104】
表示部230は、処理後画像メモリ140に格納されている処理後画像を読み出して表示する。これにより処理された、つまり外乱が除去された撮像対象物を写した画像を見ることができる。
【0105】
誤差計測部2160は、画像処理部130が処理した処理後画像と、処理後画像メモリ140に格納されている、画像処理部130が処理した処理後画像の1フレーム前の処理後画像とを読み出して誤差計測を行う。
【0106】
具体的には、各画像のあらかじめ設定された所定範囲の画素データの値の差分が一定のしきい値を超えているか否かによって判断する。この所定範囲は、撮像画像の中でも背景の動きが少ない部分が採用される。つまり、その範囲で輝度の変化が激しいときは外乱が多いことを意味する。
【0107】
誤差計測部2160が、所定範囲の中で画素データの値の差分が一定のしきい値を超えている画素数を計数し、その画素数を追従係数更新処理部2170に出力する。所定範囲の中で画素データの値の差分の判断しきい値は、操作部220から適宜設定され、画質基準設定メモリ2150に格納されている。
【0108】
追従係数更新処理部2170は、操作部220から適宜設定され、画質基準設定メモリ2150に格納されている誤差の割合の基準値を超えているときは、外乱が多いと判断して追従係数を一段階引き下げ、誤差の割合の基準値を超えていないときは外乱が少ないと判断して追従係数を一段階引き上げる。これにより、外乱が多いときには外乱の影響を受けないように画像処理を行うことが可能となり、外乱が少ないときには外乱の影響を受けないように画像処理を行うことができると同時により早い絵作りが可能となる。
【0109】
図18は、誤差計測部の誤差計測処理にかかるブロック図である。
図18に示すように、誤差計測部2160は、フレームメモリ2161、フレーム間差分算出部2162、大小比較部2163、計数部2164、領域判定部2165,2166、および加算器2167を備えている。
【0110】
フレームメモリ2161は、画像処理部130から出力される処理後画像を1フレーム分格納する。
【0111】
フレーム間差分算出部2162は、画像処理部130から出力される処理後画像と、その1フレーム前の処理後画像であって、フレームメモリ2161に格納されている画像とのフレーム間差分を算出する。
【0112】
大小比較部2163は、領域判定部2165,2166からの出力信号を加算器2167に出力され、ループ変数X,Yともに領域内と判定されたときにその(X,Y)画素の差分値と許容値の大小比較を行う。差分値が許容値を超えているときはその旨を計数部2164に出力し、計数部2164は、差分値が許容値を超えている画素数を計数し、判定領域内における、差分値が許容値を超えている画素数を追従係数更新処理部2170に出力する。
【0113】
図19,20,21は、画像処理装置による誤差計測および追従計数更新処理を含めた画像処理の手順を示すフローチャートである。以下、図19,20,21に示す処理をステップ番号に沿って説明する。
【0114】
〔ステップS51〕画像処理装置100は、電源が投入されると、処理後画像メモリ140内の処理後画像を初期化する。具体的には、外乱が雪であるときは処理後画像メモリ140に白の画像を格納する。また、追従係数α1を1.0に設定し、追従係数α2を0.5に設定する。
【0115】
〔ステップS52〕外乱判断処理部120は、カメラ210から入力され、入力画像メモリ110に格納されている入力画像を読み出す。
【0116】
〔ステップS53〕外乱判断処理部120および画像処理部130は、外乱判断処理および画像処理を行う。この外乱判断処理および画像処理は、第1の実施の形態の図9,10で説明したものと同じ処理を行う。
【0117】
〔ステップS54〕誤差計測部2160は、誤差計測を行う処理後画像中の範囲である誤差計測範囲の終点座標(X_END,Y_END)を設定し、カウンタ(計数部2164)をリセットする。
【0118】
〔ステップS55〕画像の高さ方向のループ変数Yを初期化する。具体的には、誤差計測範囲の始点座標(X始点,Y始点)の高さ座標である「Y始点」をループ変数Yに設定する。
【0119】
〔ステップS56〕画像の幅方向のループ変数Xを初期化する。具体的には、誤差計測範囲の始点座標(X始点,Y始点)の幅座標である「X始点」をループ変数Xに設定する。
【0120】
〔ステップS57〕Y_ENDがループ変数Yより大きいか否かを判断する。Y_ENDがループ変数Yより大きいときは処理をステップS58へ進め、Y_ENDがループ変数Y以下のときは処理をステップS66へ進める。
【0121】
〔ステップS58〕X_ENDがループ変数Xより大きいか否かを判断する。X_ENDがループ変数Xより大きいときは処理をステップS59へ進め、X_ENDがループ変数X以下のときは処理をステップS64へ進める。
【0122】
〔ステップS59〕処理後画像と、フレームメモリ2161に格納されている1フレーム前の処理後画像とにおける(X,Y)画素の輝度の差分の絶対値を算出し、その差分絶対値があらかじめ設定された許容値より大きいか否かを判断する。差分絶対値が許容値より大きいときは処理をステップS60へ進め、差分絶対値が許容値以下のときは処理をステップS61へ進める。
【0123】
〔ステップS60〕カウンタを1加算する。
【0124】
〔ステップS61〕差分絶対値が許容値より大きいか否か判断した処理後画像の画素データをフレームメモリ2161に格納する。
【0125】
〔ステップS62〕ループ変数Xを1加算する。
【0126】
〔ステップS63〕処理をステップS58へ戻す。
【0127】
〔ステップS64〕ループ変数Yを1加算する。
【0128】
〔ステップS65〕処理をステップS56へ戻す。
【0129】
〔ステップS66〕あらかじめ設定された誤差割合の基準値が、計数部2164のカウンタの値より大きいか否かを判断する。基準値がカウンタ値より大きい場合は処理をステップS67へ進め、基準値がカウンタ値以下のときは処理をステップS68へ進める。
【0130】
〔ステップS67〕追従係数更新処理部2170は、追従係数α2を一段階引き上げる。
【0131】
〔ステップS68〕追従係数更新処理部2170は、追従係数α2を一段階引き下げる。
【0132】
〔ステップS69〕処理をステップS52へ戻す。
【0133】
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、画像処理装置が有すべき機能の処理内容を記述した画像処理プログラムが提供される。その画像処理プログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述した画像処理プログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、HDD、FD、磁気テープなどがある。光ディスクには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録装置には、MO(Magneto
Optical disk)などがある。
【0134】
画像処理プログラムを流通させる場合には、たとえば、その画像処理プログラムが記録されたDVD、CD−ROMなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにその画像処理プログラムを転送することもできる。
【0135】
画像処理プログラムを実行するコンピュータは、たとえば、可搬型記録媒体に記録された画像処理プログラムもしくはサーバコンピュータから転送された画像処理プログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置から画像処理プログラムを読み取り、画像処理プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接画像処理プログラムを読み取り、その画像処理プログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータから画像処理プログラムが転送される毎に、逐次、受け取った画像処理プログラムに従った処理を実行することもできる。
【0136】
なお、本発明は、上述の実施の形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変更を加えることができる。
【0137】
上記については単に本発明の原理を示すものである。さらに、多数の変形、変更が当業者にとって可能であり、本発明は上記に示し、説明した正確な構成および応用例に限定されるものではなく、対応するすべての変形例および均等物は、添付の請求項およびその均等物による本発明の範囲とみなされる。
【符号の説明】
【0138】
100 画像処理装置
110 入力画像メモリ
120 外乱判断処理部
130 画像処理部
140 処理後画像メモリ
150 追従係数メモリ
210 カメラ
220 操作部
230 表示部
【特許請求の範囲】
【請求項1】
撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理装置において、
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、
前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記比較対象範囲は、一画素ごとであることを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記画像処理手段は、
前記外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値が、外乱を写したことによる画素データである可能性が高いと判断したときは低い数値の追従係数を用いて重み付けを行い、
前記処理後画像における比較対象範囲の画素データの値が、外乱を写したことによる画素データである可能性が低いと判断したときは高い数値の追従係数を用いて重み付けを行うことを特徴とする請求項1記載の画像処理装置。
【請求項4】
撮像画像のうち、あらかじめ設定された撮像対象物の動きが少ない範囲における、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とを比較し、しきい値より多くの画素が、しきい値以上の値の乖離があったときに前記追従係数を引き下げ、そうでないときは前記追従係数を引き上げる追従係数決定手段をも備えることを特徴とする請求項4記載の画像処理装置。
【請求項5】
前記外乱判断手段が、
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、しきい値以上の値の乖離があったときは、前記入力画像における比較対象範囲の画素データが、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いと判断することを特徴とする請求項1記載の画像処理装置。
【請求項6】
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較したときに、画像全体における一定画素数以上が、一定の以上の値が乖離しているときは、前記入力画像を新たな処理後画像とすることを特徴とする請求項5記載の画像処理装置。
【請求項7】
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値との比較は、画素データの輝度を比較することにより行われることを特徴とする請求項5記載の画像処理装置。
【請求項8】
前記処理後画像における比較対象範囲の画素データの輝度より、前記撮像手段から入力される入力画像における比較対象範囲の画素データの輝度の方が大きいときは、前記入力画像における比較対象範囲の画素データが、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いと判断することを特徴とする請求項7記載の画像処理装置。
【請求項9】
外乱の輝度よりも撮像対象物の輝度が高いときは、
前記外乱の輝度以下の設定値以上の輝度の画素データが入力されたときは低い追従係数を用いて重み付けを行うことを特徴とする請求項8記載の画像処理装置。
【請求項10】
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値との比較は、さらに画素データの彩度をも比較することにより行われることを特徴とする請求項5記載の画像処理装置。
【請求項11】
前記処理後画像における比較対象範囲の画素データの彩度より、前記撮像手段から入力される入力画像における比較対象範囲の画素データの彩度の方が小さいときは、前記入力画像における比較対象範囲の画素データが、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いと判断することを特徴とする請求項10記載の画像処理装置。
【請求項12】
撮像手段が撮像した撮像画像を伝送する伝送装置を用いて伝送し、前記撮像手段の設置地点から離隔した場所で前記撮像画像を表示する撮像システムにおいて、
前記撮像画像を構成する画素データを処理することによる画像処理後の処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、
前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段と、
を備える画像処理装置を備えることを特徴とする撮像システム。
【請求項13】
前記画像処理装置が、前記撮像手段と、前記伝送装置との間に接続されることを特徴とする請求項12記載の撮像システム。
【請求項14】
前記画像処理装置が、前記伝送装置と、前記伝送手段が伝送した画像を表示する表示装置との間に接続されることを特徴とする請求項12記載の撮像システム。
【請求項15】
撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理方法において、
外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断するステップと、
画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行うステップと、
を有することを特徴とする画像処理方法。
【請求項16】
撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理プログラムにおいて、
コンピュータを、
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段、
前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段、
として機能させることを特徴とする画像処理プログラム。
【請求項1】
撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理装置において、
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、
前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記比較対象範囲は、一画素ごとであることを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記画像処理手段は、
前記外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値が、外乱を写したことによる画素データである可能性が高いと判断したときは低い数値の追従係数を用いて重み付けを行い、
前記処理後画像における比較対象範囲の画素データの値が、外乱を写したことによる画素データである可能性が低いと判断したときは高い数値の追従係数を用いて重み付けを行うことを特徴とする請求項1記載の画像処理装置。
【請求項4】
撮像画像のうち、あらかじめ設定された撮像対象物の動きが少ない範囲における、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とを比較し、しきい値より多くの画素が、しきい値以上の値の乖離があったときに前記追従係数を引き下げ、そうでないときは前記追従係数を引き上げる追従係数決定手段をも備えることを特徴とする請求項4記載の画像処理装置。
【請求項5】
前記外乱判断手段が、
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、しきい値以上の値の乖離があったときは、前記入力画像における比較対象範囲の画素データが、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いと判断することを特徴とする請求項1記載の画像処理装置。
【請求項6】
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較したときに、画像全体における一定画素数以上が、一定の以上の値が乖離しているときは、前記入力画像を新たな処理後画像とすることを特徴とする請求項5記載の画像処理装置。
【請求項7】
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値との比較は、画素データの輝度を比較することにより行われることを特徴とする請求項5記載の画像処理装置。
【請求項8】
前記処理後画像における比較対象範囲の画素データの輝度より、前記撮像手段から入力される入力画像における比較対象範囲の画素データの輝度の方が大きいときは、前記入力画像における比較対象範囲の画素データが、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いと判断することを特徴とする請求項7記載の画像処理装置。
【請求項9】
外乱の輝度よりも撮像対象物の輝度が高いときは、
前記外乱の輝度以下の設定値以上の輝度の画素データが入力されたときは低い追従係数を用いて重み付けを行うことを特徴とする請求項8記載の画像処理装置。
【請求項10】
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値との比較は、さらに画素データの彩度をも比較することにより行われることを特徴とする請求項5記載の画像処理装置。
【請求項11】
前記処理後画像における比較対象範囲の画素データの彩度より、前記撮像手段から入力される入力画像における比較対象範囲の画素データの彩度の方が小さいときは、前記入力画像における比較対象範囲の画素データが、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いと判断することを特徴とする請求項10記載の画像処理装置。
【請求項12】
撮像手段が撮像した撮像画像を伝送する伝送装置を用いて伝送し、前記撮像手段の設置地点から離隔した場所で前記撮像画像を表示する撮像システムにおいて、
前記撮像画像を構成する画素データを処理することによる画像処理後の処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段と、
前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段と、
を備える画像処理装置を備えることを特徴とする撮像システム。
【請求項13】
前記画像処理装置が、前記撮像手段と、前記伝送装置との間に接続されることを特徴とする請求項12記載の撮像システム。
【請求項14】
前記画像処理装置が、前記伝送装置と、前記伝送手段が伝送した画像を表示する表示装置との間に接続されることを特徴とする請求項12記載の撮像システム。
【請求項15】
撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理方法において、
外乱判断手段が、前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断するステップと、
画像処理手段が、前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行うステップと、
を有することを特徴とする画像処理方法。
【請求項16】
撮像手段が撮像した撮像画像を構成する画素データを処理することにより画像処理後の処理後画像を生成する画像処理プログラムにおいて、
コンピュータを、
前記処理後画像における比較対象範囲の画素データの値と、前記撮像手段から入力される入力画像における比較対象範囲の画素データの値とを比較して、撮像対象物ではなく外乱を撮像した結果の画素データである可能性が高いか否かを判断する外乱判断手段、
前記入力画像における比較対象範囲の画素データの値と、前記処理後画像における比較対象範囲の画素データの値とに対して、前記外乱判断処理の判断内容に基づいて重み付けをして加算することにより新たな処理後画像を生成する処理を行う画像処理手段、
として機能させることを特徴とする画像処理プログラム。
【図1】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図13】
【図14】
【図15】
【図16】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図13】
【図14】
【図15】
【図16】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【公開番号】特開2011−142548(P2011−142548A)
【公開日】平成23年7月21日(2011.7.21)
【国際特許分類】
【出願番号】特願2010−2727(P2010−2727)
【出願日】平成22年1月8日(2010.1.8)
【出願人】(000210964)中央電子株式会社 (81)
【Fターム(参考)】
【公開日】平成23年7月21日(2011.7.21)
【国際特許分類】
【出願日】平成22年1月8日(2010.1.8)
【出願人】(000210964)中央電子株式会社 (81)
【Fターム(参考)】
[ Back to top ]