車両周辺視認装置
【課題】画質改善処理を行うためのフィルタ処理方法を、処理を行う画面の位置に応じて適切に設定することにより、変換時に画質劣化が激しい車両遠方の画像に強いフィルタ効果を、画質劣化が少ない車両近くの画像に弱いフィルタ効果をかける。
【解決手段】撮像部100で撮像した映像がマッピングテーブル記憶部500に記憶されたマッピングテーブルに基づき映像変換処理部300で視点変換映像に変換される。また、映像変換処理部300は、マッピングテーブルに基づき視点変換画像の画素値の変化を検出し、変化が大きい場合は暈し効果の強いフィルタ処理を、変化が小さい場合は暈し効果の弱いフィルタ処理を行う。
【解決手段】撮像部100で撮像した映像がマッピングテーブル記憶部500に記憶されたマッピングテーブルに基づき映像変換処理部300で視点変換映像に変換される。また、映像変換処理部300は、マッピングテーブルに基づき視点変換画像の画素値の変化を検出し、変化が大きい場合は暈し効果の強いフィルタ処理を、変化が小さい場合は暈し効果の弱いフィルタ処理を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像部により撮像される車両周辺の映像の画質を改善するフィルタが設けられた車両周辺視認装置に関するものである。
【背景技術】
【0002】
一般に、運転初心者やトラック等の後方視界が悪い車両の運転者にとって、駐車エリアへの車両進入は困難を伴うものである。そこで、トランク先端の車幅方向中央部やナンバープレート照明位置などの車両後端にカメラを設定し、このカメラで撮像された映像をナビゲーション等のモニターに映し出すことにより、安全に駐車エリアへの車両誘導が実現できるようにしたものが知られている(特許文献1)。
【0003】
このカメラとしては通常広角カメラを使用しており、この広角カメラで駐車場の駐車スペースを撮像した場合、例えば図9(a)のような駐車場の映像IMG1が得られる。
【0004】
この図9(a)では、実際には平行な縦ラインL1、R1とこれらに垂直な横ラインH1とで設定された駐車スペースNO.3に車両が駐車するための映像IMG1が得られている。
しかし、このような広角カメラのレンズは周縁部に向かうに従ってレンズ歪が大きくなるものであった。しかも、この広角カメラによる映像IMG1は低い取り付け位置の映像であるために、運転者は車両と周囲の位置関係を正確に把握し難いものであった。このため、映像IMG1では、実際には平行な縦ラインL1、R1が、広角カメラで撮像された映像では車両後端部から離れるに従って間隔が狭くなると共に、遠方側ではレンズの歪曲収差のために極端に湾曲するような画像となっていた。
【0005】
そこで、このカメラによる視認機能を発展させたものとして、前記特許文献1では、図9(b)に示すように図9(a)のような映像を視点変換して、図9(a)の縦ラインL1、R1が図9(b)の縦ラインTL1、TL2のように平行となる映像TIMG1とすることにより上記の問題点を解決するようにしている。この視点変換処理では、図10に示すように、変換前のある画素の座標(x、y)をあらかじめ設定した変換ルールに従った座標(u、v)に置き換える処理が行われる。すなわち、この変換ルールを関数Mとすると、(u、v)=M(x、y)の関係となる。ここで、この関数Mは、カメラの取り付け位置座標、取り付け角度、撮像範囲、撮像画素数、視点変換を行う位置に仮想した仮想カメラの位置座標、取り付け角度、撮像画素数等のパラメータに基づいて、公知の技術で算出することができる。
また、画素の座標の置き換えとともに、広角カメラで撮像された映像の手前の映像部は等倍あるいは縮小して、奥の映像部は拡大するような画像処理をしている。
【0006】
ところで、例えば、図11(a)のように広角カメラで撮像された映像IMG2の中に多数個の円CL1〜CL4からなる円列CL、多数個の円CM1〜CM4からなる円列CM、多数個の円CR1〜CR4からなる円列CRの映像が得られたとする。この図11(a)の映像IMG2では、円列CL、CM、CRが平行且つ円CL1〜CL4、円CM1〜CM4、円CR1〜CR4は、それぞれ同じ直径で且つ真円の画像として得られているものとする。
【0007】
これを図9(b)と同様に視点変換処理を行ったとき、図11(a)の円列CL、CM、CRは図11(b)の映像TIMG2となる。この図11(b)に示したような映像TIMG2の円列TCL、TCM、TCRでは、円CL1〜CL4、円CM1〜CM4、円CR1〜CR4は映像TIMG2の下部では縮小された円となり、映像TIMG2の上部では大きな楕円となる。即ち、円列TCL、TCM、TCRにおいては下部から上部に向かうに従って徐々に楕円が細長くなると共に大きくなり、且つ円列TCLの円TCL1〜TCL4、円列TCMの円TCM1〜TCM4、円列TCRの円TCR1〜TCR4の間隔が大きくなる。
【0008】
このような映像の拡大は、元の映像IMG2の画素を再配置すると共に、これらの間に元の映像にはない新たな画素(補間画素)を作り出す補間処理操作が必要となる。この手法として一般に
(ア)ニアレストネイバー法(最近傍補間法)
(イ)バイリニア法(線形補間法)
(ウ)バイキュービック法(スプライン補間法)
等の補間処理技術が知られている。
【0009】
このような補間処理技術の中でハードを中心として装置を構成した場合には、(ア)のニアレストネイバー法が使われている場合が多い。これは、補間画素として最も近い位置に配置された元画素と同じ値を用いるものである。図12は、このニアレストネイバー法による処理の例を示したものである。この図12(a)は図11(a)の右上の円CR4を示し、図12(b)は図11(a)の右上の円CR4を補間処理して得られた図11(b)の右上の楕円TCR4の一部を拡大して示したものである。
【0010】
また、ソフトウェアで処理を行う場合には、(イ)のバイリニア法が使われる場合も多い。これは、補間画素として最も近い位置に配置された上下・左右の4つの元画素から、線形的に値を補間するものである。
尚、(ウ)のバイキュービック法を用いた俯瞰処理は最も画像劣化が少ない手法であるが、三次多項式の演算処理になるために、俯瞰処理に時間が掛かり、適用例は少ない。このバイキュービック法の画質向上の考え方は(イ)のバイリニア法と同様である。
【特許文献1】特開2005−311666公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、ニアレストネイバー法を用いた場合の映像の視点変換結果は、図12(b)に示したように画像変化が楕円TCR4のように大きくなると、周縁のギザギザ感が目立つような状態となる。このギザギザ感は画像全体の画質を低下させるものであった。
【0012】
このために、実際の装置の場合には、ニアレストネイバー法を使った場合にはギザギザ感を低減させる暈し効果を得るフィルタ処理(低域通過フィルタ)を視点変換処理部の後段に用いて、画質の改善が図られることが多い。
【0013】
しかし、暈し効果を得るフィルタ処理を画像全体に用いた場合、遠方の映像のギザギザ間を低減させるためにフィルタ処理の効果を強く設定すると、運転操作の補助映像として重要な車両近傍の映像までもが強い暈し効果により不鮮明となってしまい、認識のしにくい映像になってしまう、という問題点がある。
【0014】
そこで、フィルタ処理の効果の強さを映像の位置に応じて適切に設定し、視点変換時に画質劣化が激しい車両遠方の映像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの映像には効果の弱いフィルタ処理を行うことで、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善する方法が考えられる。
ところで、視点変換におけるギザギザ感の程度は、視点変換の角度に応じて異なる。したがって、前述したフィルタ処理の効果の程度も、視点変換の角度毎に適切な処理を行うことが望ましい。ここで、フィルタ処理は各画素毎に行うため、各画素毎にフィルタ処理方法(強さ)を記憶する必要があり、大きな記憶容量を必要とする。特に角度の異なる視点変換を行うアプリケーションを車両が備えている場合は、角度の異なる視点変換毎にフィルタ処理方法を記憶する必要が生じて記憶容量が増大する。このため、大きな記憶容量を備えたメモリ素子が必要となり、装置の大型化やコストアップを招いてしまう、という問題点がある。
【課題を解決するための手段】
【0015】
上記課題を解決するために、請求項1に記載の発明は、車両周辺を撮像可能に車両に取り付けられた撮像部と、前記撮像部により撮像された映像を視点変換処理して俯瞰映像とする視点変換処理部と、前記映像変換処理部により前記視点変換処理された前記俯瞰映像をフィルタ処理するフィルタ処理部と、前記フィルタ処理部により前記フィルタ処理された前記俯瞰映像を表示する表示部と、を備える車両周辺視認装置であって、前記フィルタ処理部は、前記俯瞰映像の画素に対する前記フィルタ処理の強さを、前記車両近傍から前記車両遠方に向かうに従って順次強くなるように、隣接する前記画素の画素値の変化に基づいて自動的に設定することを特徴としている。
【0016】
また、請求項2に記載の発明は、請求項1において、前記フィルタ処理部は、前記俯瞰画像を暈すフィルタ処理を行うことを特徴としている。
【0017】
また、請求項3に記載の発明は、請求項1または2において、前記フィルタ処理部は、前記俯瞰画像の水平方向と垂直方向の少なくとも一方向において、隣接する前記画素の前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴としている。
上記構成によれば、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。
また、フィルタ処理の強さは隣接する画素の画素値の変化に基づいて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。
【0018】
また、請求項4に記載の発明は、請求項1または2において、前記視点変換処理は、前記視点変換処理前後の前記画素の対応関係を表すマッピングデータを格納したマッピンングテーブルに基づいて行われ、前記フィルタ処理部は、前記マッピンングテーブルの水平方向と垂直方向の少なくとも一方向において、隣接する前記マッピングデータの変化に基づき前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴としている。
上記構成によれば、視点変換処理に用いるマッピングデータに基づいて、フィルタ処理の強さを簡単に設定することができる。
【発明の効果】
【0019】
画質改善処理を行うためのフィルタ処理方法を、フィルタ処理を行う画素の位置に応じて適切に設定することにより、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。また、フィルタ処理方法は視点変換映像の画素値の変化に基づいて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。
【発明を実施するための最良の形態】
【0020】
以下、本発明の実施形態を図面に従って説明する。
【0021】
図1に本発明の実施形態のブロック図を示す。
【0022】
車両周辺視認装置は、撮像部100、映像信号デコーダ200、映像変換処理部300、映像記憶部400、マッピングテーブル記憶部500、フィルタテーブル記憶部600、映像信号エンコーダ700、表示部800を備えている。ここで、映像変換処理部300、映像記憶部400、マッピングテーブル記憶部500が視点変換処理部310を構成する。また、映像変換処理部300、映像記憶部400、フィルタテーブル記憶部600がフィルタ処理部320を構成する。
【0023】
撮像部100は、いわゆるCCD素子、またはCMOS素子を用いた小型カメラであり、車両に取り付けられて車両の周囲を撮像し、映像信号デコーダ200に映像を出力する。取り付け位置は用途や車両の種類によって変わるが、本実施形態ではワンボックス車におけるリアビューカメラを例として、図1に示すようにルーフスポイラーの車幅方向略中央部分に取り付けられ、車両後方を撮像するものとする。
【0024】
映像信号デコーダ200は、以降の映像変換処理を行うために映像信号から同期信号を分離し、映像変換処理部300に出力する。
【0025】
マッピングテーブル記憶部500には、映像変換処理部300において視点変換処理を行うための視点変換前後の画素の座標の対応関係が定義されたマッピングデータが格納されたマッピングテーブルMTがあらかじめ記憶されている。
【0026】
映像変換処理部300は、映像信号デコーダ200から受け取った映像を映像記憶部400に出力して映像を一時的に記憶させ、マッピングテーブル記憶部500を参照し、マッピングテーブルに応じた画素の画素値を映像記憶部400から順次読み出して画素の座標変換を行い、視点変換映像(俯瞰映像)を生成する。
【0027】
次に、視点変換映像の垂直方向と水平方向の少なくとも一方向において、隣接する画素の画素値の変化またはマッピングデータの変化を調べる。ここでは変化量ではなく、変化の有無を検出すればよい。ここで、マッピングデータは変換前の画素の座標であり、変換前の画素を特定することになるため、隣接する画素のマッピングデータの変化の有無を調べることは画素値の変化の有無を調べることと同等となる。そして、変化の有無の程度に応じて各画素に施すフィルタ処理の効果(強度)を設定し(詳細は後述)、各画素毎にフィルタ処理方法をフィルタテーブル記憶部600に記憶する。フィルタ処理方法は、隣接する画素値の変化の有無が少ない車両遠方の画像には効果の強いフィルタ処理方法が設定され、隣接する画素値の変化の有無が多い車両近くの画像には効果の弱いフィルタ処理方法が設定される。
【0028】
そして、フィルタテーブル記憶部600に記憶されたフィルタ処理方法を用いて、視点変換映像のフィルタ処理を行い、視点変換処理を行った際に重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現する。
【0029】
映像信号エンコーダ700は、視点変換処理とフィルタ処理を行った映像に映像信号デコーダ200で分離した同期信号を加え、いわゆるNTSC信号として表示部800に出力する。
【0030】
表示部800は、映像信号エンコーダ700から受け取った映像信号を表示する。
【0031】
次に、フローチャートを用いて、動作の説明を行う。
【0032】
図2に、フィルタ処理方法の設定についてのフローチャートを示す。
【0033】
ステップS101では、映像変換処理部300により、視点変換処理で用いるマッピングテーブルMTがマッピングテーブル記憶部500から選択される。異なる位置の仮想カメラからの視点変換映像を得る場合、マッピングテーブルMTはそれぞれの仮想カメラ位置に対応したものが必要である。このため、異なる位置の仮想カメラからの視点変換映像を用いるアプリケーションが車載されている場合は、それぞれに応じた複数のマッピングテーブルMTがあらかじめ算出され、マッピングテーブル記憶部500に記憶されおり、映像変換処理部300はアプリケーション毎に各アプリケーションに応じたマッピングテーブルMTをマッピングテーブル記憶部500から選択決定する。なお、視点変換映像を用いるアプリケーションが一つの場合は、本ステップは省略が可能である。
【0034】
図3に示すように、マッピングテーブルMTは、視点変換後の各画素における画素値が、視点変換前のどの座標の画素値になるかの対応を表すものであり、視点変換前の画素の座標が記憶されている。例えば、図3(a)はあるマッピングテーブルの一部を抽出して示したものであるが、このうち視点変換後の左上の画素の画素値は、視点変換前の座標(n、m)の画素値となることを意味し、視点変換後の右上の画素の画素値は視点変換前の座標(n+1、m)の画素値となることを意味している。また、図3(b)では、視点変換後の左上の画素の画素値は、視点変換前の座標(n、m)の画素値となることを意味し、その右隣の画素の視点変換後の画素値も視点変換前の座標(n、m)の画素値となることを意味している。マッピングテーブルMTにおけるこの座標を、マッピングデータと呼ぶ。この後に、フローはステップS102へ移行する。
【0035】
ステップS102では、映像変換処理部300により、視点変換映像におけるフィルタ処理方法の設定部分(画素)が決定される。フィルタ処理方法の設定、すなわち、各画素に対してどのようなフィルタ処理を行うかは、視点変換映像の全画素に対して行われ、本ステップではフィルタ処理方法を設定する部分(画素)が設定される。フィルタ処理方法の設定については、後述する。この後に、フローはステップS103へ移行する。
【0036】
ステップS103では、映像変換処理部300がステップS102で決定したフィルタ処理方法の設定部分のマッピングデータをマッピングデータ記憶部500のマッピングテーブルMTから読み出す。この後に、フローはステップS104へ移行する。
【0037】
ステップS104では、フィルタ処理方法の設定部分において、画素毎にマッピングデータの変化を検出する。フィルタ処理方法は、視点変換映像においてギザギザ感の強い遠方の映像部分にはフィルタ効果の強いフィルタ処理方法が設定され、ギザギザ感の弱い自車両近傍部分にはフィルタ効果の弱いフィルタ処理方法が設定される。ここで、ギザギザ感は、隣り合う画素の画素値が同じ状態が続くほど強くなる。したがって、マッピングテーブルMTにおいて隣り合う画素のマッピングデータ(視点変換前の画素の座標)が同じであるかどうかを調べることで、隣り合う画素の画素値が同じ状態が続くか否かを検出することができる。
【0038】
図4(a)に、視点変換映像の水平方向におけるマッピングデータの変化の検出例を、図4(b)に視点変換映像の垂直方向におけるマッピングデータの変化の検出例を示す。
【0039】
以下、マッピングデータの変化の検出例を図5のフローチャートにより説明する。ここでは、図4(a)の水平方向におけるマッピングデータの変化の検出例の説明を行う。
【0040】
ステップS201では、マッピングデータMD(i)(i=1〜N)の変化を検出する部分(画素)に対応して検出結果を格納する全配列HR(i)(i=1〜N)に0が設定される。この後に、フローはステップS202へ移行する。
【0041】
ステップS202では、マッピングデータMD(i)を特定する指標iに1が設定される。この後に、フローはステップS203へ移行する。
【0042】
ステップS203では、MD(i+1)とMD(i)とが比較される。例えば、MD(2)とMD(1)とが比較される。ここで、MD(2)には視点変換前の画素(n)の座標が設定され、MD(1)にも視点変換前の画素(n)の座標が設定されており、この場合はMD(2)=MD(1)となる。一方、MD(3)には視点変換前の画素(n)の座標が設定されており、MD(4)には視点変換前の画素(n+1)の座標が設定されており、この場合はMD(4)≠MD(3)となる。MD(i+1)とMD(i)とが一致する場合は、フローはステップS204へ移行する。一方、MD(i+1)とMD(i)とが一致しない場合は、フローはステップS205へ移行する。
【0043】
ステップS204では、隣り合う画素のマッピングデータが同じ場合であり、マッピングデータが同じ状態の継続回数を、HR(i+1)=HR(i)+1の数式で算出する。例えば、MD(2)=MD(1)であるので、HR(2)=HR(1)+1=0+1=1となる。また、MD(3)=MD(2)であるので、HR(3)=HR(2)+1=1+1=2となる。この後に、フローはステップS206へ移行する。
【0044】
ステップS205では、隣り合う画素のマッピングデータが異なる場合であり、HR(i+1)に0が設定される。例えば、MD(4)≠MD(3)であるので、HR(4)=0となる。この後に、フローはステップS206へ移行する。
【0045】
ステップS206では、次のHR(i)を算出するため、iに1が加算される。この後に、フローはステップS207へ移行する。
【0046】
ステップS207では、すべてのHR(i)が算出された否かの判定が行われる。HR(1)〜HR(N)が算出されていれば、フローはステップS208へ移行する。一方、まだ算出されていないHR(i)があれば、フローはステップS203に戻り、処理を継続する。
【0047】
ステップS208で、マッピングデータMD(i)(i=1〜N)の変化の検出処理が終了する。
【0048】
なお、図4(b)の垂直方向におけるマッピングデータの変化の検出も同様の処理により行うことが出来る。
【0049】
この後に、フローはステップS105へ移行する。
【0050】
ステップS105では、マッピングデータの変化の検出結果に応じて、視点変換映像の画素毎にフィルタ処理方法を設定する。
【0051】
ここで、フィルタ処理方法はあらかじめ設定しておく。ステップS104で検出したマッピングデータの変化の検出結果が大きい場合は、視点変換映像において同じ画素値が連続している場合に相当し、映像のギザギザ感が強くなる。このため、ギザギザ感を弱めるために、暈し効果の強いフィルタ処理方法を用いてフィルタ処理を行う。一方、ステップS104で検出したマッピングデータの変化の検出結果が小さい場合は、視点変換映像において同じ画素値の連続程度が少ない場合に相当し、映像のギザギザ感は弱くなる。このため、暈し効果の弱いフィルタ処理方法を用いてフィルタ処理を行う。例えば、HR(i)≧2であれば暈し効果の強いフィルタ処理方法を用い、HR(i)≦1であれば暈し効果の弱いフィルタ処理方法を用いるものとする。
【0052】
図6に、フィルタ処理方法の一例を示す。図6(a)は、暈し効果の強いフィルタ処理方法の一例であり、図6(b)は、暈し効果の弱いフィルタ処理方法の一例である。
【0053】
図6(a)は、フィルタ処理効果の強いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、画素PX(n、m)の画素値PXD(n、m)を、画素PX(n、m)の周囲に位置する所定の画素の画素値との平均から算出するもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0054】
PXD(n、m)=1/16×(PXD(n、m−2)+PXD(n−1、m−1)+PXD(n+1、m−1)+PXD(n−2、m)+PXD(n+2、m)+PXD(n−1、m+1)+PXD(n+1、m+1)+PXD(n、m+2))+8/16×PXD(n、m) (数式1)
すなわち、広い範囲に位置する画素の画素値を平均することで、ギザギザ感の強い部分のギザギザ感を低減する。
【0055】
図6(b)は、フィルタ処理効果の弱いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、画素PX(n、m)の画素値PXD(n、m)を、画素PX(n、m)に隣接する画素の画素値との平均から算出するもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0056】
PXD(n、m)=1/8×(PXD(n、m−1)+PXD(n−1、m)+PXD(n+1、m)+PXD(n、m+1))+4/8×PXD(n、m) (数式2)
すなわち、隣接する画素の画素値を平均することで、ギザギザ感の弱い部分のギザギザ感を低減する。
【0057】
図7は他のフィルタ処理の方法の一例である。図7(a)は、フィルタ処理効果の強いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、フィルタ処理を行う画素と同じ行mおよび同じ列nにおいて隣接する画素の画素値を用いてフィルタ処理を行うもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0058】
PXD(n、m)=1/16×PXD(n−2、m)+3/16×PXD(n−1、m)+8/16×PXD(n、m)+3/16×PXD(n+1、m)+1/16×PXD(n+2、m) (数式3)
PXD(n、m)=1/16×PXD(n、m−2)+3/16×PXD(n、m−1)+8/16×PXD(n、m)+3/16×PXD(n、m+1)+1/16×PXD(n、m+2) (数式4)
図7(b)は、フィルタ処理効果の弱いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、フィルタ処理を行う画素と同じ行mおよび同じ列nにおいて隣接する画素の画素値を用いてフィルタ処理を行うもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0059】
PXD(n、m)=3/16×PXD(n−1、m)+10/16×PXD(n、m)+3/16×PXD(n+1、m) (数式5)
PXD(n、m)=3/16×PXD(n、m−1)+10/16×PXD(n、m)+3/16×PXD(n、m+1) (数式6)
なお、ある画素PX(n、m)に着目した場合、上述したフィルタ処理においては、水平方向と垂直方向のフィルタ処理が重なることになるが、この場合はより効果の強いフィルタ処理を行うものとする。
【0060】
この後に、フローはステップS106へ移行する。
【0061】
ステップS106では、ステップS105で設定したフィルタ処理方法を各画素PX(n、m)に対応させて記憶させ、フィルタテーブルFTとして記憶させる。すなわち、例えば図6(a)のフィルタ処理方法をS1、図6(b)のフィルタ処理方法をS2とすると、各画素PX(n、m)にどちらのフィルタ処理方法を行うかをフィルタテーブルFTとして記憶させる。この後に、フローはステップS107へ移行する。
【0062】
ステップS107では、すべての画素PX(n、m)について、フィルタ処理方法が設定されたか否かの判定が行われる。すべての画素PX(n、m)について、フィルタ処理方法が設定された場合は、フローはステップS108へ移行する。一方、すべての画素PX(n、m)について、フィルタ処理方法が設定されていない場合は、フローはステップS102へ戻り、処理が継続される。
【0063】
ステップS108で、フィルタ処理方法の設定が終了する。
【0064】
図8に、フィルタ処理方法を決定した後のフィルタ処理についてのフローチャートを示す。図2のフローチャートに沿ってフィルタ処理方法が決定した後、本フローチャートに沿って視点変換映像のフィルタ処理が行われる。
【0065】
ステップS301では、映像変換処理部300により、フィルタ処理を行う画素PX(n、m)が決定される。この後に、フローはステップS302へ移行する。
【0066】
ステップS302では、映像変換処理部300により、画素PX(n、m)のフィルタ処理方法がフィルタテーブル記憶部600から読み出される。この後に、フローはステップS303へ移行する。
【0067】
ステップS303では、映像変換処理部300により、ステップS302で読み出されたフィルタ処理方法で用いる画素PX(n、m)の画素値PXD(n、m)が映像記憶部400から読み出される。例えば、図6(b)に示したフィルタ処理の場合は、画素PX(n、m−1)、PX(n−1、m)、PX(n+1、m)、PX(n、m+1)の各画素値PXD(n、m−1)、PXD(n−1、m)、PXD(n+1、m)、PXD(n、m+1)が映像記憶部400から読み出される。この後に、フローはステップS304へ移行する。
【0068】
ステップS304では、ステップS303で読み出された画素値を用いて、ステップS302で読み出されたフィルタ処理方法により、画素PX(n、m)のフィルタ処理が行われ、画素PX(n、m)の画素値PXD(n、m)が算出される。例えば、図6(b)に示したフィルタ処理の場合は、画素値PXD(n、m−1)、PXD(n−1、m)、PXD(n+1、m)、PXD(n、m+1)を用いて、数式2により画素値PXD(n、m)が算出される。この後に、フローはステップS305へ移行する。
【0069】
ステップS305では、全ての画素PX(n、m)についてフィルタ処理が終了したか否かの判定が行われる。全ての画素PX(n、m)についてフィルタ処理が終了した場合は、フローはステップS306へ移行する。一方、全ての画素PX(n、m)についてフィルタ処理が終了していない場合は、フローはステップS302へ戻り、処理が継続される。
【0070】
ステップS306で、視点変換映像に対するフィルタ処理が終了する。
以上の処理により、画質改善処理を行うためのフィルタ処理方法を、フィルタ処理を行う画素の位置に応じて適切に設定することにより、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。また、フィルタ処理方法は視点変換の角度に応じて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。
以上の処理により、画質改善処理を行うためのフィルタ処理方法を、フィルタ処理を行う画素の位置に応じて適切に設定することにより、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。また、フィルタ処理方法は視点変換映像の画素値の変化に基づいて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。 以上、本発明の実施例を図面により詳述したが、実施例は本発明の例示にしか過ぎず、本発明は実施例の構成にのみ限定されるものではない。したがって本発明の要旨を逸脱しない範囲の設計の変更等があっても本発明に含まれることはもちろんである。
【0071】
例えば、ブロック図は図1に示すものに限定されるものではなく、同等の機能を備えていればよい。
【0072】
また、フィルタ処理方法は図6、図7に示す方法に限定されるものではなく、他のフィルタ処理方法を用いることができる。
【0073】
また、マッピングデータに基づくフィルタ処理方法の設定はフィルタ処理の効果の強いものと弱いものの2種類に限定されるものではなく、あらかじめ処理内容を定めたより多くのフィルタ処理方法に分類することができる。
【図面の簡単な説明】
【0074】
【図1】本発明の実施形態における車両周辺視認装置のブロック図である。
【図2】本発明の実施形態におけるフィルタ処理方法の設定のフローチャートである。
【図3】本発明の実施形態におけるマッピングテーブルの例である。
【図4】本発明の実施形態におけるマッピングデータの変化の検出方法の説明図である。
【図5】本発明の実施形態におけるマッピングデータの変化の検出方法のフローチャートである。
【図6】本発明の実施形態におけるフィルタ処理方法の例である。
【図7】本発明の実施形態におけるフィルタ処理方法の他の例である。
【図8】本発明の実施形態におけるフィルタ処理のフローチャートである。
【図9】先行技術における視点変換映像の例である。
【図10】先行技術における視点変換処理の概念図である。
【図11】先行技術における視点変換処理の概念図である。
【図12】先行技術における視点変換映像の拡大図例である。
【符号の説明】
【0075】
100 撮像部
200 映像信号デコーダ
300 映像変換処理部
310 視点変換処理部
320 フィルタ処理部
400 映像記憶部
500 マッピングテーブル記憶部
600 フィルタテーブル記憶部
700 映像信号エンコーダ
800 表示部
【技術分野】
【0001】
本発明は、撮像部により撮像される車両周辺の映像の画質を改善するフィルタが設けられた車両周辺視認装置に関するものである。
【背景技術】
【0002】
一般に、運転初心者やトラック等の後方視界が悪い車両の運転者にとって、駐車エリアへの車両進入は困難を伴うものである。そこで、トランク先端の車幅方向中央部やナンバープレート照明位置などの車両後端にカメラを設定し、このカメラで撮像された映像をナビゲーション等のモニターに映し出すことにより、安全に駐車エリアへの車両誘導が実現できるようにしたものが知られている(特許文献1)。
【0003】
このカメラとしては通常広角カメラを使用しており、この広角カメラで駐車場の駐車スペースを撮像した場合、例えば図9(a)のような駐車場の映像IMG1が得られる。
【0004】
この図9(a)では、実際には平行な縦ラインL1、R1とこれらに垂直な横ラインH1とで設定された駐車スペースNO.3に車両が駐車するための映像IMG1が得られている。
しかし、このような広角カメラのレンズは周縁部に向かうに従ってレンズ歪が大きくなるものであった。しかも、この広角カメラによる映像IMG1は低い取り付け位置の映像であるために、運転者は車両と周囲の位置関係を正確に把握し難いものであった。このため、映像IMG1では、実際には平行な縦ラインL1、R1が、広角カメラで撮像された映像では車両後端部から離れるに従って間隔が狭くなると共に、遠方側ではレンズの歪曲収差のために極端に湾曲するような画像となっていた。
【0005】
そこで、このカメラによる視認機能を発展させたものとして、前記特許文献1では、図9(b)に示すように図9(a)のような映像を視点変換して、図9(a)の縦ラインL1、R1が図9(b)の縦ラインTL1、TL2のように平行となる映像TIMG1とすることにより上記の問題点を解決するようにしている。この視点変換処理では、図10に示すように、変換前のある画素の座標(x、y)をあらかじめ設定した変換ルールに従った座標(u、v)に置き換える処理が行われる。すなわち、この変換ルールを関数Mとすると、(u、v)=M(x、y)の関係となる。ここで、この関数Mは、カメラの取り付け位置座標、取り付け角度、撮像範囲、撮像画素数、視点変換を行う位置に仮想した仮想カメラの位置座標、取り付け角度、撮像画素数等のパラメータに基づいて、公知の技術で算出することができる。
また、画素の座標の置き換えとともに、広角カメラで撮像された映像の手前の映像部は等倍あるいは縮小して、奥の映像部は拡大するような画像処理をしている。
【0006】
ところで、例えば、図11(a)のように広角カメラで撮像された映像IMG2の中に多数個の円CL1〜CL4からなる円列CL、多数個の円CM1〜CM4からなる円列CM、多数個の円CR1〜CR4からなる円列CRの映像が得られたとする。この図11(a)の映像IMG2では、円列CL、CM、CRが平行且つ円CL1〜CL4、円CM1〜CM4、円CR1〜CR4は、それぞれ同じ直径で且つ真円の画像として得られているものとする。
【0007】
これを図9(b)と同様に視点変換処理を行ったとき、図11(a)の円列CL、CM、CRは図11(b)の映像TIMG2となる。この図11(b)に示したような映像TIMG2の円列TCL、TCM、TCRでは、円CL1〜CL4、円CM1〜CM4、円CR1〜CR4は映像TIMG2の下部では縮小された円となり、映像TIMG2の上部では大きな楕円となる。即ち、円列TCL、TCM、TCRにおいては下部から上部に向かうに従って徐々に楕円が細長くなると共に大きくなり、且つ円列TCLの円TCL1〜TCL4、円列TCMの円TCM1〜TCM4、円列TCRの円TCR1〜TCR4の間隔が大きくなる。
【0008】
このような映像の拡大は、元の映像IMG2の画素を再配置すると共に、これらの間に元の映像にはない新たな画素(補間画素)を作り出す補間処理操作が必要となる。この手法として一般に
(ア)ニアレストネイバー法(最近傍補間法)
(イ)バイリニア法(線形補間法)
(ウ)バイキュービック法(スプライン補間法)
等の補間処理技術が知られている。
【0009】
このような補間処理技術の中でハードを中心として装置を構成した場合には、(ア)のニアレストネイバー法が使われている場合が多い。これは、補間画素として最も近い位置に配置された元画素と同じ値を用いるものである。図12は、このニアレストネイバー法による処理の例を示したものである。この図12(a)は図11(a)の右上の円CR4を示し、図12(b)は図11(a)の右上の円CR4を補間処理して得られた図11(b)の右上の楕円TCR4の一部を拡大して示したものである。
【0010】
また、ソフトウェアで処理を行う場合には、(イ)のバイリニア法が使われる場合も多い。これは、補間画素として最も近い位置に配置された上下・左右の4つの元画素から、線形的に値を補間するものである。
尚、(ウ)のバイキュービック法を用いた俯瞰処理は最も画像劣化が少ない手法であるが、三次多項式の演算処理になるために、俯瞰処理に時間が掛かり、適用例は少ない。このバイキュービック法の画質向上の考え方は(イ)のバイリニア法と同様である。
【特許文献1】特開2005−311666公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、ニアレストネイバー法を用いた場合の映像の視点変換結果は、図12(b)に示したように画像変化が楕円TCR4のように大きくなると、周縁のギザギザ感が目立つような状態となる。このギザギザ感は画像全体の画質を低下させるものであった。
【0012】
このために、実際の装置の場合には、ニアレストネイバー法を使った場合にはギザギザ感を低減させる暈し効果を得るフィルタ処理(低域通過フィルタ)を視点変換処理部の後段に用いて、画質の改善が図られることが多い。
【0013】
しかし、暈し効果を得るフィルタ処理を画像全体に用いた場合、遠方の映像のギザギザ間を低減させるためにフィルタ処理の効果を強く設定すると、運転操作の補助映像として重要な車両近傍の映像までもが強い暈し効果により不鮮明となってしまい、認識のしにくい映像になってしまう、という問題点がある。
【0014】
そこで、フィルタ処理の効果の強さを映像の位置に応じて適切に設定し、視点変換時に画質劣化が激しい車両遠方の映像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの映像には効果の弱いフィルタ処理を行うことで、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善する方法が考えられる。
ところで、視点変換におけるギザギザ感の程度は、視点変換の角度に応じて異なる。したがって、前述したフィルタ処理の効果の程度も、視点変換の角度毎に適切な処理を行うことが望ましい。ここで、フィルタ処理は各画素毎に行うため、各画素毎にフィルタ処理方法(強さ)を記憶する必要があり、大きな記憶容量を必要とする。特に角度の異なる視点変換を行うアプリケーションを車両が備えている場合は、角度の異なる視点変換毎にフィルタ処理方法を記憶する必要が生じて記憶容量が増大する。このため、大きな記憶容量を備えたメモリ素子が必要となり、装置の大型化やコストアップを招いてしまう、という問題点がある。
【課題を解決するための手段】
【0015】
上記課題を解決するために、請求項1に記載の発明は、車両周辺を撮像可能に車両に取り付けられた撮像部と、前記撮像部により撮像された映像を視点変換処理して俯瞰映像とする視点変換処理部と、前記映像変換処理部により前記視点変換処理された前記俯瞰映像をフィルタ処理するフィルタ処理部と、前記フィルタ処理部により前記フィルタ処理された前記俯瞰映像を表示する表示部と、を備える車両周辺視認装置であって、前記フィルタ処理部は、前記俯瞰映像の画素に対する前記フィルタ処理の強さを、前記車両近傍から前記車両遠方に向かうに従って順次強くなるように、隣接する前記画素の画素値の変化に基づいて自動的に設定することを特徴としている。
【0016】
また、請求項2に記載の発明は、請求項1において、前記フィルタ処理部は、前記俯瞰画像を暈すフィルタ処理を行うことを特徴としている。
【0017】
また、請求項3に記載の発明は、請求項1または2において、前記フィルタ処理部は、前記俯瞰画像の水平方向と垂直方向の少なくとも一方向において、隣接する前記画素の前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴としている。
上記構成によれば、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。
また、フィルタ処理の強さは隣接する画素の画素値の変化に基づいて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。
【0018】
また、請求項4に記載の発明は、請求項1または2において、前記視点変換処理は、前記視点変換処理前後の前記画素の対応関係を表すマッピングデータを格納したマッピンングテーブルに基づいて行われ、前記フィルタ処理部は、前記マッピンングテーブルの水平方向と垂直方向の少なくとも一方向において、隣接する前記マッピングデータの変化に基づき前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴としている。
上記構成によれば、視点変換処理に用いるマッピングデータに基づいて、フィルタ処理の強さを簡単に設定することができる。
【発明の効果】
【0019】
画質改善処理を行うためのフィルタ処理方法を、フィルタ処理を行う画素の位置に応じて適切に設定することにより、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。また、フィルタ処理方法は視点変換映像の画素値の変化に基づいて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。
【発明を実施するための最良の形態】
【0020】
以下、本発明の実施形態を図面に従って説明する。
【0021】
図1に本発明の実施形態のブロック図を示す。
【0022】
車両周辺視認装置は、撮像部100、映像信号デコーダ200、映像変換処理部300、映像記憶部400、マッピングテーブル記憶部500、フィルタテーブル記憶部600、映像信号エンコーダ700、表示部800を備えている。ここで、映像変換処理部300、映像記憶部400、マッピングテーブル記憶部500が視点変換処理部310を構成する。また、映像変換処理部300、映像記憶部400、フィルタテーブル記憶部600がフィルタ処理部320を構成する。
【0023】
撮像部100は、いわゆるCCD素子、またはCMOS素子を用いた小型カメラであり、車両に取り付けられて車両の周囲を撮像し、映像信号デコーダ200に映像を出力する。取り付け位置は用途や車両の種類によって変わるが、本実施形態ではワンボックス車におけるリアビューカメラを例として、図1に示すようにルーフスポイラーの車幅方向略中央部分に取り付けられ、車両後方を撮像するものとする。
【0024】
映像信号デコーダ200は、以降の映像変換処理を行うために映像信号から同期信号を分離し、映像変換処理部300に出力する。
【0025】
マッピングテーブル記憶部500には、映像変換処理部300において視点変換処理を行うための視点変換前後の画素の座標の対応関係が定義されたマッピングデータが格納されたマッピングテーブルMTがあらかじめ記憶されている。
【0026】
映像変換処理部300は、映像信号デコーダ200から受け取った映像を映像記憶部400に出力して映像を一時的に記憶させ、マッピングテーブル記憶部500を参照し、マッピングテーブルに応じた画素の画素値を映像記憶部400から順次読み出して画素の座標変換を行い、視点変換映像(俯瞰映像)を生成する。
【0027】
次に、視点変換映像の垂直方向と水平方向の少なくとも一方向において、隣接する画素の画素値の変化またはマッピングデータの変化を調べる。ここでは変化量ではなく、変化の有無を検出すればよい。ここで、マッピングデータは変換前の画素の座標であり、変換前の画素を特定することになるため、隣接する画素のマッピングデータの変化の有無を調べることは画素値の変化の有無を調べることと同等となる。そして、変化の有無の程度に応じて各画素に施すフィルタ処理の効果(強度)を設定し(詳細は後述)、各画素毎にフィルタ処理方法をフィルタテーブル記憶部600に記憶する。フィルタ処理方法は、隣接する画素値の変化の有無が少ない車両遠方の画像には効果の強いフィルタ処理方法が設定され、隣接する画素値の変化の有無が多い車両近くの画像には効果の弱いフィルタ処理方法が設定される。
【0028】
そして、フィルタテーブル記憶部600に記憶されたフィルタ処理方法を用いて、視点変換映像のフィルタ処理を行い、視点変換処理を行った際に重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現する。
【0029】
映像信号エンコーダ700は、視点変換処理とフィルタ処理を行った映像に映像信号デコーダ200で分離した同期信号を加え、いわゆるNTSC信号として表示部800に出力する。
【0030】
表示部800は、映像信号エンコーダ700から受け取った映像信号を表示する。
【0031】
次に、フローチャートを用いて、動作の説明を行う。
【0032】
図2に、フィルタ処理方法の設定についてのフローチャートを示す。
【0033】
ステップS101では、映像変換処理部300により、視点変換処理で用いるマッピングテーブルMTがマッピングテーブル記憶部500から選択される。異なる位置の仮想カメラからの視点変換映像を得る場合、マッピングテーブルMTはそれぞれの仮想カメラ位置に対応したものが必要である。このため、異なる位置の仮想カメラからの視点変換映像を用いるアプリケーションが車載されている場合は、それぞれに応じた複数のマッピングテーブルMTがあらかじめ算出され、マッピングテーブル記憶部500に記憶されおり、映像変換処理部300はアプリケーション毎に各アプリケーションに応じたマッピングテーブルMTをマッピングテーブル記憶部500から選択決定する。なお、視点変換映像を用いるアプリケーションが一つの場合は、本ステップは省略が可能である。
【0034】
図3に示すように、マッピングテーブルMTは、視点変換後の各画素における画素値が、視点変換前のどの座標の画素値になるかの対応を表すものであり、視点変換前の画素の座標が記憶されている。例えば、図3(a)はあるマッピングテーブルの一部を抽出して示したものであるが、このうち視点変換後の左上の画素の画素値は、視点変換前の座標(n、m)の画素値となることを意味し、視点変換後の右上の画素の画素値は視点変換前の座標(n+1、m)の画素値となることを意味している。また、図3(b)では、視点変換後の左上の画素の画素値は、視点変換前の座標(n、m)の画素値となることを意味し、その右隣の画素の視点変換後の画素値も視点変換前の座標(n、m)の画素値となることを意味している。マッピングテーブルMTにおけるこの座標を、マッピングデータと呼ぶ。この後に、フローはステップS102へ移行する。
【0035】
ステップS102では、映像変換処理部300により、視点変換映像におけるフィルタ処理方法の設定部分(画素)が決定される。フィルタ処理方法の設定、すなわち、各画素に対してどのようなフィルタ処理を行うかは、視点変換映像の全画素に対して行われ、本ステップではフィルタ処理方法を設定する部分(画素)が設定される。フィルタ処理方法の設定については、後述する。この後に、フローはステップS103へ移行する。
【0036】
ステップS103では、映像変換処理部300がステップS102で決定したフィルタ処理方法の設定部分のマッピングデータをマッピングデータ記憶部500のマッピングテーブルMTから読み出す。この後に、フローはステップS104へ移行する。
【0037】
ステップS104では、フィルタ処理方法の設定部分において、画素毎にマッピングデータの変化を検出する。フィルタ処理方法は、視点変換映像においてギザギザ感の強い遠方の映像部分にはフィルタ効果の強いフィルタ処理方法が設定され、ギザギザ感の弱い自車両近傍部分にはフィルタ効果の弱いフィルタ処理方法が設定される。ここで、ギザギザ感は、隣り合う画素の画素値が同じ状態が続くほど強くなる。したがって、マッピングテーブルMTにおいて隣り合う画素のマッピングデータ(視点変換前の画素の座標)が同じであるかどうかを調べることで、隣り合う画素の画素値が同じ状態が続くか否かを検出することができる。
【0038】
図4(a)に、視点変換映像の水平方向におけるマッピングデータの変化の検出例を、図4(b)に視点変換映像の垂直方向におけるマッピングデータの変化の検出例を示す。
【0039】
以下、マッピングデータの変化の検出例を図5のフローチャートにより説明する。ここでは、図4(a)の水平方向におけるマッピングデータの変化の検出例の説明を行う。
【0040】
ステップS201では、マッピングデータMD(i)(i=1〜N)の変化を検出する部分(画素)に対応して検出結果を格納する全配列HR(i)(i=1〜N)に0が設定される。この後に、フローはステップS202へ移行する。
【0041】
ステップS202では、マッピングデータMD(i)を特定する指標iに1が設定される。この後に、フローはステップS203へ移行する。
【0042】
ステップS203では、MD(i+1)とMD(i)とが比較される。例えば、MD(2)とMD(1)とが比較される。ここで、MD(2)には視点変換前の画素(n)の座標が設定され、MD(1)にも視点変換前の画素(n)の座標が設定されており、この場合はMD(2)=MD(1)となる。一方、MD(3)には視点変換前の画素(n)の座標が設定されており、MD(4)には視点変換前の画素(n+1)の座標が設定されており、この場合はMD(4)≠MD(3)となる。MD(i+1)とMD(i)とが一致する場合は、フローはステップS204へ移行する。一方、MD(i+1)とMD(i)とが一致しない場合は、フローはステップS205へ移行する。
【0043】
ステップS204では、隣り合う画素のマッピングデータが同じ場合であり、マッピングデータが同じ状態の継続回数を、HR(i+1)=HR(i)+1の数式で算出する。例えば、MD(2)=MD(1)であるので、HR(2)=HR(1)+1=0+1=1となる。また、MD(3)=MD(2)であるので、HR(3)=HR(2)+1=1+1=2となる。この後に、フローはステップS206へ移行する。
【0044】
ステップS205では、隣り合う画素のマッピングデータが異なる場合であり、HR(i+1)に0が設定される。例えば、MD(4)≠MD(3)であるので、HR(4)=0となる。この後に、フローはステップS206へ移行する。
【0045】
ステップS206では、次のHR(i)を算出するため、iに1が加算される。この後に、フローはステップS207へ移行する。
【0046】
ステップS207では、すべてのHR(i)が算出された否かの判定が行われる。HR(1)〜HR(N)が算出されていれば、フローはステップS208へ移行する。一方、まだ算出されていないHR(i)があれば、フローはステップS203に戻り、処理を継続する。
【0047】
ステップS208で、マッピングデータMD(i)(i=1〜N)の変化の検出処理が終了する。
【0048】
なお、図4(b)の垂直方向におけるマッピングデータの変化の検出も同様の処理により行うことが出来る。
【0049】
この後に、フローはステップS105へ移行する。
【0050】
ステップS105では、マッピングデータの変化の検出結果に応じて、視点変換映像の画素毎にフィルタ処理方法を設定する。
【0051】
ここで、フィルタ処理方法はあらかじめ設定しておく。ステップS104で検出したマッピングデータの変化の検出結果が大きい場合は、視点変換映像において同じ画素値が連続している場合に相当し、映像のギザギザ感が強くなる。このため、ギザギザ感を弱めるために、暈し効果の強いフィルタ処理方法を用いてフィルタ処理を行う。一方、ステップS104で検出したマッピングデータの変化の検出結果が小さい場合は、視点変換映像において同じ画素値の連続程度が少ない場合に相当し、映像のギザギザ感は弱くなる。このため、暈し効果の弱いフィルタ処理方法を用いてフィルタ処理を行う。例えば、HR(i)≧2であれば暈し効果の強いフィルタ処理方法を用い、HR(i)≦1であれば暈し効果の弱いフィルタ処理方法を用いるものとする。
【0052】
図6に、フィルタ処理方法の一例を示す。図6(a)は、暈し効果の強いフィルタ処理方法の一例であり、図6(b)は、暈し効果の弱いフィルタ処理方法の一例である。
【0053】
図6(a)は、フィルタ処理効果の強いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、画素PX(n、m)の画素値PXD(n、m)を、画素PX(n、m)の周囲に位置する所定の画素の画素値との平均から算出するもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0054】
PXD(n、m)=1/16×(PXD(n、m−2)+PXD(n−1、m−1)+PXD(n+1、m−1)+PXD(n−2、m)+PXD(n+2、m)+PXD(n−1、m+1)+PXD(n+1、m+1)+PXD(n、m+2))+8/16×PXD(n、m) (数式1)
すなわち、広い範囲に位置する画素の画素値を平均することで、ギザギザ感の強い部分のギザギザ感を低減する。
【0055】
図6(b)は、フィルタ処理効果の弱いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、画素PX(n、m)の画素値PXD(n、m)を、画素PX(n、m)に隣接する画素の画素値との平均から算出するもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0056】
PXD(n、m)=1/8×(PXD(n、m−1)+PXD(n−1、m)+PXD(n+1、m)+PXD(n、m+1))+4/8×PXD(n、m) (数式2)
すなわち、隣接する画素の画素値を平均することで、ギザギザ感の弱い部分のギザギザ感を低減する。
【0057】
図7は他のフィルタ処理の方法の一例である。図7(a)は、フィルタ処理効果の強いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、フィルタ処理を行う画素と同じ行mおよび同じ列nにおいて隣接する画素の画素値を用いてフィルタ処理を行うもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0058】
PXD(n、m)=1/16×PXD(n−2、m)+3/16×PXD(n−1、m)+8/16×PXD(n、m)+3/16×PXD(n+1、m)+1/16×PXD(n+2、m) (数式3)
PXD(n、m)=1/16×PXD(n、m−2)+3/16×PXD(n、m−1)+8/16×PXD(n、m)+3/16×PXD(n、m+1)+1/16×PXD(n、m+2) (数式4)
図7(b)は、フィルタ処理効果の弱いフィルタ処理方法の一例を示したものである。このフィルタ処理方法では、フィルタ処理を行う画素と同じ行mおよび同じ列nにおいて隣接する画素の画素値を用いてフィルタ処理を行うもので、画素PX(n、m)の画素値PXD(n、m)は以下の式で算出される。
【0059】
PXD(n、m)=3/16×PXD(n−1、m)+10/16×PXD(n、m)+3/16×PXD(n+1、m) (数式5)
PXD(n、m)=3/16×PXD(n、m−1)+10/16×PXD(n、m)+3/16×PXD(n、m+1) (数式6)
なお、ある画素PX(n、m)に着目した場合、上述したフィルタ処理においては、水平方向と垂直方向のフィルタ処理が重なることになるが、この場合はより効果の強いフィルタ処理を行うものとする。
【0060】
この後に、フローはステップS106へ移行する。
【0061】
ステップS106では、ステップS105で設定したフィルタ処理方法を各画素PX(n、m)に対応させて記憶させ、フィルタテーブルFTとして記憶させる。すなわち、例えば図6(a)のフィルタ処理方法をS1、図6(b)のフィルタ処理方法をS2とすると、各画素PX(n、m)にどちらのフィルタ処理方法を行うかをフィルタテーブルFTとして記憶させる。この後に、フローはステップS107へ移行する。
【0062】
ステップS107では、すべての画素PX(n、m)について、フィルタ処理方法が設定されたか否かの判定が行われる。すべての画素PX(n、m)について、フィルタ処理方法が設定された場合は、フローはステップS108へ移行する。一方、すべての画素PX(n、m)について、フィルタ処理方法が設定されていない場合は、フローはステップS102へ戻り、処理が継続される。
【0063】
ステップS108で、フィルタ処理方法の設定が終了する。
【0064】
図8に、フィルタ処理方法を決定した後のフィルタ処理についてのフローチャートを示す。図2のフローチャートに沿ってフィルタ処理方法が決定した後、本フローチャートに沿って視点変換映像のフィルタ処理が行われる。
【0065】
ステップS301では、映像変換処理部300により、フィルタ処理を行う画素PX(n、m)が決定される。この後に、フローはステップS302へ移行する。
【0066】
ステップS302では、映像変換処理部300により、画素PX(n、m)のフィルタ処理方法がフィルタテーブル記憶部600から読み出される。この後に、フローはステップS303へ移行する。
【0067】
ステップS303では、映像変換処理部300により、ステップS302で読み出されたフィルタ処理方法で用いる画素PX(n、m)の画素値PXD(n、m)が映像記憶部400から読み出される。例えば、図6(b)に示したフィルタ処理の場合は、画素PX(n、m−1)、PX(n−1、m)、PX(n+1、m)、PX(n、m+1)の各画素値PXD(n、m−1)、PXD(n−1、m)、PXD(n+1、m)、PXD(n、m+1)が映像記憶部400から読み出される。この後に、フローはステップS304へ移行する。
【0068】
ステップS304では、ステップS303で読み出された画素値を用いて、ステップS302で読み出されたフィルタ処理方法により、画素PX(n、m)のフィルタ処理が行われ、画素PX(n、m)の画素値PXD(n、m)が算出される。例えば、図6(b)に示したフィルタ処理の場合は、画素値PXD(n、m−1)、PXD(n−1、m)、PXD(n+1、m)、PXD(n、m+1)を用いて、数式2により画素値PXD(n、m)が算出される。この後に、フローはステップS305へ移行する。
【0069】
ステップS305では、全ての画素PX(n、m)についてフィルタ処理が終了したか否かの判定が行われる。全ての画素PX(n、m)についてフィルタ処理が終了した場合は、フローはステップS306へ移行する。一方、全ての画素PX(n、m)についてフィルタ処理が終了していない場合は、フローはステップS302へ戻り、処理が継続される。
【0070】
ステップS306で、視点変換映像に対するフィルタ処理が終了する。
以上の処理により、画質改善処理を行うためのフィルタ処理方法を、フィルタ処理を行う画素の位置に応じて適切に設定することにより、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。また、フィルタ処理方法は視点変換の角度に応じて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。
以上の処理により、画質改善処理を行うためのフィルタ処理方法を、フィルタ処理を行う画素の位置に応じて適切に設定することにより、視点変換時に画質劣化が激しい車両遠方の画像には効果の強いフィルタ処理を、画質劣化が少ない車両近くの画像には効果の弱いフィルタ処理を行う。これにより、重要な情報を含む車両近辺の映像の画質の劣化を最小限に抑えながら、車両遠方の映像の画質劣化を改善し、最適な画像品質を実現することができる。また、フィルタ処理方法は視点変換映像の画素値の変化に基づいて自動的に設定されるため、視点変換の角度に応じたフィルタ処理方法を各画素毎に全て記憶しておく必要がなく、記憶容量を低減することができ、装置の大型化やコストアップを抑制することができる。 以上、本発明の実施例を図面により詳述したが、実施例は本発明の例示にしか過ぎず、本発明は実施例の構成にのみ限定されるものではない。したがって本発明の要旨を逸脱しない範囲の設計の変更等があっても本発明に含まれることはもちろんである。
【0071】
例えば、ブロック図は図1に示すものに限定されるものではなく、同等の機能を備えていればよい。
【0072】
また、フィルタ処理方法は図6、図7に示す方法に限定されるものではなく、他のフィルタ処理方法を用いることができる。
【0073】
また、マッピングデータに基づくフィルタ処理方法の設定はフィルタ処理の効果の強いものと弱いものの2種類に限定されるものではなく、あらかじめ処理内容を定めたより多くのフィルタ処理方法に分類することができる。
【図面の簡単な説明】
【0074】
【図1】本発明の実施形態における車両周辺視認装置のブロック図である。
【図2】本発明の実施形態におけるフィルタ処理方法の設定のフローチャートである。
【図3】本発明の実施形態におけるマッピングテーブルの例である。
【図4】本発明の実施形態におけるマッピングデータの変化の検出方法の説明図である。
【図5】本発明の実施形態におけるマッピングデータの変化の検出方法のフローチャートである。
【図6】本発明の実施形態におけるフィルタ処理方法の例である。
【図7】本発明の実施形態におけるフィルタ処理方法の他の例である。
【図8】本発明の実施形態におけるフィルタ処理のフローチャートである。
【図9】先行技術における視点変換映像の例である。
【図10】先行技術における視点変換処理の概念図である。
【図11】先行技術における視点変換処理の概念図である。
【図12】先行技術における視点変換映像の拡大図例である。
【符号の説明】
【0075】
100 撮像部
200 映像信号デコーダ
300 映像変換処理部
310 視点変換処理部
320 フィルタ処理部
400 映像記憶部
500 マッピングテーブル記憶部
600 フィルタテーブル記憶部
700 映像信号エンコーダ
800 表示部
【特許請求の範囲】
【請求項1】
車両周辺を撮像可能に車両に取り付けられた撮像部と、
前記撮像部により撮像された映像を視点変換処理して俯瞰映像とする視点変換処理部と、
前記映像変換処理部により前記視点変換処理された前記俯瞰映像をフィルタ処理するフィルタ処理部と、
前記フィルタ処理部により前記フィルタ処理された前記俯瞰映像を表示する表示部と、
を備える車両周辺視認装置であって、
前記フィルタ処理部は、前記俯瞰映像の画素に対する前記フィルタ処理の強さを、前記車両近傍から前記車両遠方に向かうに従って順次強くなるように、隣接する前記画素の画素値の変化に基づいて自動的に設定することを特徴とする車両周辺視認装置。
【請求項2】
前記フィルタ処理部は、前記俯瞰画像を暈すフィルタ処理を行うことを特徴とする請求項1に記載の車両周辺視認装置。
【請求項3】
前記フィルタ処理部は、前記俯瞰画像の水平方向と垂直方向の少なくとも一方向において、隣接する前記画素の前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴とする請求項1または2に記載の車両周辺視認装置。
【請求項4】
前記視点変換処理は、前記視点変換処理前後の前記画素の対応関係を表すマッピングデータを格納したマッピンングテーブルに基づいて行われ、
前記フィルタ処理部は、前記マッピンングテーブルの水平方向と垂直方向の少なくとも一方向において、隣接する前記マッピングデータの変化に基づき前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴とする請求項1または2に記載の車両周辺視認装置。
【請求項1】
車両周辺を撮像可能に車両に取り付けられた撮像部と、
前記撮像部により撮像された映像を視点変換処理して俯瞰映像とする視点変換処理部と、
前記映像変換処理部により前記視点変換処理された前記俯瞰映像をフィルタ処理するフィルタ処理部と、
前記フィルタ処理部により前記フィルタ処理された前記俯瞰映像を表示する表示部と、
を備える車両周辺視認装置であって、
前記フィルタ処理部は、前記俯瞰映像の画素に対する前記フィルタ処理の強さを、前記車両近傍から前記車両遠方に向かうに従って順次強くなるように、隣接する前記画素の画素値の変化に基づいて自動的に設定することを特徴とする車両周辺視認装置。
【請求項2】
前記フィルタ処理部は、前記俯瞰画像を暈すフィルタ処理を行うことを特徴とする請求項1に記載の車両周辺視認装置。
【請求項3】
前記フィルタ処理部は、前記俯瞰画像の水平方向と垂直方向の少なくとも一方向において、隣接する前記画素の前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴とする請求項1または2に記載の車両周辺視認装置。
【請求項4】
前記視点変換処理は、前記視点変換処理前後の前記画素の対応関係を表すマッピングデータを格納したマッピンングテーブルに基づいて行われ、
前記フィルタ処理部は、前記マッピンングテーブルの水平方向と垂直方向の少なくとも一方向において、隣接する前記マッピングデータの変化に基づき前記画素値の変化を検出し、前記画素値の変化が小さいほど前記フィルタ処理の強さを強くすることを特徴とする請求項1または2に記載の車両周辺視認装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2008−244516(P2008−244516A)
【公開日】平成20年10月9日(2008.10.9)
【国際特許分類】
【出願番号】特願2007−77695(P2007−77695)
【出願日】平成19年3月23日(2007.3.23)
【出願人】(000005108)株式会社日立製作所 (27,607)
【出願人】(000001487)クラリオン株式会社 (1,722)
【Fターム(参考)】
【公開日】平成20年10月9日(2008.10.9)
【国際特許分類】
【出願日】平成19年3月23日(2007.3.23)
【出願人】(000005108)株式会社日立製作所 (27,607)
【出願人】(000001487)クラリオン株式会社 (1,722)
【Fターム(参考)】
[ Back to top ]