説明

車載用画像処理装置及びその画像処理方法

【課題】小さい回路規模で、補正性能をあまり劣化させることなく、運転者が十分に見易い仮想視点画像を生成する。具体的には、魚眼画像を路面に引かれた駐車枠が直線的かつ平行に近い状態に見える画像に変換する。
【解決手段】画像処理装置120は、車両100に取り付けられた撮像装置110で撮像された路面上の車両の周囲の画像を、該撮像装置の視点と異なる視点(仮想視点)からみた仮想視点画像に変換する仮想視点変換手段を有する。この仮想視点変換手段は、撮像装置で撮像された魚眼画像について、そのX座標のみの座標変換を行って、無消失点状の仮想視点画像を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載撮像装置で撮像された路面上の車両周囲の画像を処理してモニタ表示する車載用画像処理装置及びその画像処理方法に係り、詳しく、撮像装置で得られた画像を異なれる視点からみた仮想視点画像に変換する仮想視点画像変換技術に関する。
【背景技術】
【0002】
仮想視点画像変換技術は、車両に取り付けられた撮像装置で取得した画像を、真上などから見下ろした画像に変換するような技術で、車庫入れの際などに重宝されている。
【0003】
従来、仮想視点画像変換技術としては、三次元投影モデルを用いて画像変換を行う方法(特許文献1)、遠景と近景で異なる投影モデルを用いて画像変換を行う方法(特許文献2)。動画カメラを使用し動画像処理により仮想視点画像を作成する方法(特許文献3)などが知られている。
【0004】
【特許文献1】特許第3871614号公報
【特許文献2】特開2008−83786号公報
【特許文献3】特開2002−34035号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
従来の仮想視点画像変換技術は、xおよびy方向に座標変換(射影変換)を実施することを基本としており、回路規模が大きくなる問題があった。特に、撮像装置により取得した撮像画像に対して歪曲収差補正を行う処理と仮想視点画像変換を同時に行う場合には複雑な多項式等を使用するのが一般的で、回路規模が更に大きくなり、コスト低減には限界があった。また、動画像処理により仮想視点画像を作成する場合は、処理が複雑になる。
【0006】
本発明の目的は、簡単で小規模な回路、簡単な処理で、補正性能をあまり劣化させることなく、運転者が十分に見やすいような仮想視点画像を生成する車載用画像処理装置及びその画像処理方法を提供することにある。
【課題を解決するための手段】
【0007】
本発明の車載用画像処理装置は、車両に取り付けられた撮像装置(車載撮像装置)で撮像された路面上の車両の周囲の撮像画像を、撮像装置の視点と異なる視点(仮想視点)からみた仮想視点画像に変換する仮想視点変換手段を有し、該仮想視点変換手段は、撮像装置で撮像された魚眼画像について、そのx座標方向のみの座標変換を行って、無消失点状の仮想視点画像を生成するようにする。x座標方向のみの座標変換であるため、回路規模を小さくできる。
【0008】
生成される仮想視点画像は、路面に引かれた駐車枠が直線的かつ平行に近い状態に見える。これは見下ろし画像に近く、運転者にとって見やすい仮想視点画像となっている。
【0009】
具体的には、仮想視点変換手段は、座標変換に以下の変換式を用いる。
R=α・(y−γ)・β/(y−Δ)
X=R・x
Y=y
x,y…画像中心を原点とした座標変換先の座標
X,Y…画像中心を原点とした座標変換元の座標
α,β,γ,Δ…座標変換係数
【0010】
座標変換係数γ,Δは、撮像装置の路面に対する相対角度から算出される消失点に基づいて決定される。すなわち、γ=f1(vp),Δ=f2(vp)とする(vpは消失点)。これにより、歪の少ない仮想視点画像を提供できる。
【0011】
また、仮想視点変換手段は、y座標方向の値が所定の閾値以上または以下の場合には、撮像装置により撮像された画像に依存しない画像に変換するようにする。例えば、黒で塗り潰すなどする。これにより、人間が不自然と感じる画像領域を見えなくすることができる。
【0012】
本発明の画像処理方法も同様である。x座標方向のみの座標変換であるため、簡単な処理で仮想視点画像を生成できる。また、運転者にとって見やすい仮想視点画像を生成できる。
【発明の効果】
【0013】
本発明では、x方向だけの簡単な座標変換にもかかわらず、擬似的に仮想視点から見た仮想視点画像を生成することができる。この仮想視点画像は、路面に引かれた駐車枠が直線的かつ平行に近い状態に見えることから、運転者にとって十分に見やすい画像を提供できる。
【発明を実施するための最良の形態】
【0014】
図1に本発明に係る車載用画像処理装置の適用例のシステム構成図を示す。図1において、車両100は、撮像装置(車載撮像装置)110と、該撮像装置110の撮像画像を処理する画像処理装置(車載用画像処理装置)120と、該画像処理装置120で処理された画像を表示するモニタ装置130と、撮像装置110に一体的に取り付けられた該撮像装置110と路面との傾斜角を計測する傾斜角計測装置140を備える。画像処理装置120は他に操作部などを備えているが、図1では省略してある。
【0015】
撮像装置110は、例えば、車両後部に傾斜して取り付けられ、車両後方の路面上の車両周囲を斜め上方から撮像する。この撮像装置110は、被写体を広角で撮像する魚眼レンズと、その光学像を電気信号に変換する撮像素子とで構成されている。画像処理装置120は、撮像装置110の撮像画像データを入力して、必要な前処理を行った後、撮像装置110を異なる視点(仮想視点)からみた仮想視点画像に変換する処理(仮想視点画像変換処理)を行い、該変換された仮想視点画像をモニタ装置130に表示する。この仮想視点画像変換処理に、傾斜角計測装置140から得られた傾斜角データが利用される。傾斜角計測装置140としては、例えば、地磁気センサが用いられる。なお、撮像装置110と路面との傾斜角度は、利用者が撮像装置110で撮像されたモニタ画像を見ながら所定の操作を行い、該操作量から路面との傾斜角度を算出することでもよい。
【0016】
図1では、撮像装置110は、車両後部に取り付けられているとしたが、必ずしもそれに限定されず、必要に応じて前方部、側方部に取り付けることが可能である。
【0017】
図2に、画像処理装置120の画像処理系の一実施形態の機能ブロック図を示す。図2において、制御部200は、装置の各部に必要な制御信号(クロック、水平/垂直同期信号、その他)を与えて、該各部の動作をパイプライン的に制御する。データ記憶部205は、傾斜角計測装置140で計測された傾斜角データを記憶しておき、制御部200の指示により読み出される。
【0018】
撮像素子210は、CCDやCMOS等で構成されて、撮像装置110に図示しない魚眼レンズと一体的に取り付けられており、魚眼レンズで撮像された光学像を電気信号(RGB画素データ)に変換する。このRGB画素データは、車両後方等の路面上の車両周囲を斜め上方から撮像した魚眼画像である。撮像素子210にはベイヤー配列の色フィルタが設けられており、ベイヤー配列のRGB画素データが、制御部200から与えられる座標データ(x,y)に基づいて順次出力される。なお、制御部200では、撮像素子210に与える座標データ(x,y)を、順次、所定の時間ずらして後段にも与えるようにする。ここで、座標データ(x,y)は撮像素子210の内部で生成し、順次、後段に与えることでもよい。
【0019】
A/D変換部220は、撮像素子210から出力されたアナログ信号としてのベイヤー配列のRGB画素データをデジタル信号に変換してベイヤー補完部230に送出する。本実施例では、デジタル信号は、RGBそれぞれ8ビットで構成されるとする。なお、一般にA/D変換器220の前段にはAGC回路が設けられるが、ここでは省略する。
【0020】
ベイヤー補完部230は、デジタル信号に変換されたベイヤー配列のRGB画素データを入力して、RGB各色独立に、全座標位置の画素データを線形補間によって生成し、仮想視点変換部240に送出する。
【0021】
仮想視点変換部240は、ベイヤー補完部230でベイヤー補完されたRGB画素データを入力して、仮想視点から見た仮想視点画像のRGB画素データに変換する。具体的には、車両後方等の路面上の車両周囲を斜めから撮像して得られた魚眼画像としてのRGB画素データを、擬似見下ろしの仮想視点画像としてのRGB画素データに変換する。
【0022】
図1のモニタ装置130は、仮想視点変換部250で仮想視点画像変換処理されたRGB画素データを合成して、仮想視点画像を表示する。後述するように、この仮想視点画像は、路面に引かれた駐車枠等が直線的かつ平行に近い状態に見え、運転者に見やすい表示画像を提供できる。
【0023】
なお、図2の構成において、仮想視点変換部240後段に、更にMTF補正部、γ補正部などを備えてもよい。MTF補正部では、仮想視点画像のRGB画素データについて、FIRフィルタを用いてMTF補正処理を施し、MTF補正されたRGB画素データを得るようにする。また、ガンマ補正部では、MTF補正されたRGB画素データについて、所定のガンマ補正処理を施し、ガンマ補正されたRGB画素データを出力するようにする。MTF補正とガンマ補正の関係は逆でもよい。
【0024】
以下では、本実施形態の主要構成である仮想視点変換部240について詳述する。
ここでは、仮想視点変換用の座標変換式に次式を使用するとする。
y<εのとき
R=α・(y−γ)・β/(y−Δ) (1)
X=R・x (2)
Y=y (3)
y≧εのとき
X=x (4)
Y=y (5)
ここで、x,yは画面中心を原点とした場合の座標変換先の座標(本来の座標)、X、Yは画像変換元の座標、α,β,γ,Δは座標変換係数、εは閾値である。α,βは単純な定数である。γとΔは撮像装置と路面との角度から算出される消失点により決定される変数で、例えば、消失点より若干大きい値にするのが望ましい。εは不自然な領域を表示しないための閾値で、これも消失点より若干大きい値にすることが望ましい。
【0025】
上記のような座標変換式を用いると、三角関数や高次の多項式を使用しない簡単な変換式で、X方向だけの簡単な座標変換にもかかわらず、擬似的に撮像装置を鉛直下向きの仮想視点から見た画像(擬似見下ろし画像)を生成することができる。この画像処理は、X方向のみの画素移動となるので、過去の画像データを記憶するメモリを最大でも1ライン持てばよく、必要メモリ量を大幅に削減できる。
【0026】
図3に、仮想視点変換部240の一実施形態の構成図を示す。図3において、241はRGB3つの画素データを一つに合成するRGB合成部、252はRGB画素データに共通の仮想視点変換用座標変換メモリ(SRAM)、243は座標変換メモリ242から出力されるRGB画素データあるいはRGBデータ保持部247のRGB画素データを選択するセレクタ、244はセレクタ243から出力される合成画素データを元の各色成分に分離するRGB分離部、245は座標変換メモリ242に記憶されたRGB画素データに対して、式(1),(2),(3)の座標変換式に従い仮想視点用の変換座標を計算する仮想視点用座標変換演算部、246は座標変換式に使用される係数α,β,γ,Δ及び閾値εを保持する座標変換係数テーブルである。
【0027】
座標変換係数テーブル246の係数α,β,γ,Δ及び閾値εのうち、α,β,εは、例えば、人間が操作部から直接入力することで得られる。γとΔは、例えば、制御部200がデータ記憶部205から傾斜角データを読出し、消失点を算出することで得られる。
【0028】
RGBデータ保持部247には、あらかじめ黒塗りつぶし等の単一の画素データが保持される。この画素データは、RGB合成部241の出力と同一フォーマットで構成されている。
【0029】
以下に図3の動作を説明する。RGB合成部241は、順次、魚眼画像のRGB画素データを入力し、一つの画素データに合成して出力する。例えば、RGBそれぞれ8ビットで構成されるとすると、合成後の画素データは24ビットとなる。この合成された画素データが、座標変換メモリ242に、それぞれ座標データ(x,y)にしたがって先頭ラインから順次書き込まれる。
【0030】
仮想視点変換用座標演算部245は、座標データ(x,y)、すなわち、座標変換先の座標を入力として、座標変換係数テーブル246を参照して、式(1),(2),(3)の座標変換式に従いRGB共通の仮想視点変換用の変換座標を計算し、座標変換元の座標データ(X,Y)を出力する。具体的には、式(1)により変換率Rを計算した後、式(2)によりx方向の変換座標を計算し、式(3)によりy方向はそのままとして、座標変換元の座標(X,Y)を得る。
【0031】
同時に、仮想視点座標変換演算部245では、yの値を閾値εと比較し、フラグ(Flag)を出力する。ここで、y<εのとき、Flag=0,y≧εのとき、Flag=1とする。
【0032】
なお、式(1)では、変換率Rを算出するのに除算を利用している。仮想視点座標変換演算部245の回路規模が気になる場合には、Newton−Raphson法を適用することにより、除算を使うことなく高速にRの近似値を計算できるうえ、回路規模を小型化できる。また、0で除算を行うことも回避できる。
【0033】
座標変換メモリ242は、先のRGB合成画素データの書き込み動作と平行して(正確には所定時間遅れて)、仮想視点座標変換演算部245から出力される座標データ(X,Y)に基づいて、順次、RGB合成画素データを読み出していく。すなわち、座標変換メモリ242における座標(X,Y)のRGB合成画素データが、座標(x,y)のRGB合成画素データとして読み出される。式(1),(2),(3)を用いることにより、x方向のみの画素移動となるため、座標変換メモリ242は最大でも1ライン分のみ持てばよく、必要メモリ量を大幅に削減できる。もちろん、メモリ量は多く持つ分には問題ない。
【0034】
セレクタ243は、Flag=0のときは、座標変換メモリ242から読み出されたRGB合成画素データを選択して出力し、Flag=1のときは、RGBデータ保持部247のRGB合成画素データを選択して出力するようにする。RGB分離部244は、セレクタ243から出力されたRGB合成画素データをRGB各色成分の画素データに分離する。
【0035】
以上の処理により、RGB分離部244からは、y<εの領域では、撮像装置で路面を斜め上方から撮像された魚眼画像のRGB画素データを、擬似的に撮像装置を鉛直下向きの仮想視点から見た仮想視点画像(擬似見下ろし画像)に変換したRGB画素データが出力される。また、y≧εの領域では、撮像装置で撮像された画像に依存しない、あらかじめRGBデータ保持部247に保持された黒塗りつぶし画像データなどのRGBデータが出力される。この結果、モニタ装置130には、路面に引かれた駐車枠が直線的かつ平行に近い状態に見える画像が表示される。また、y座標が所定以上の領域では黒で塗りつぶされた画像が表示されるため、人間が不自然と感じることを防止できる。
【0036】
次に、座標変換式(1),(2),(3)における座標変換係数α,β,γ,Δの設定例を説明する。ここでは、シミュレーション画像をもとに最適なα,β,γ,Δを設定する手法を紹介する。
【0037】
まず、図4に示すように、路面に格子模様を配置し、路面に対して鉛直下向きにカメラ1000を配置する。このときカメラ1000の撮像面1001の縦軸と横軸が格子模様と平行になるように配置する。その後、カメラ1000を図5のように撮像面1001の横軸を基準として45度回転させる。そのときに撮影される魚眼シミュレーション画像は図6のようになる。図6において、矢印で示された、路面上の格子線が1点に集まっている箇所は消失点と呼ばれ、路面上にある平行線は、必ず消失点で交わることが知られている。消失点の位置は、路面とカメラとの角度、および路面上の格子の向きによって決定されることが知られている。
【0038】
シミュレーション画像を見ながら、α,β,γ,Δの値を調整して、路面上の縦方向の平行線が直線的でかつ平行に近い状態(無消失点状態)に見える値を求める。つまり、車両方向と駐車位置を表わす駐車の枠が平行である場合、路面に引かれた駐車枠が直線的かつ平行に近い状態に見えるように、α,β,γ,Δの値を設定する。これを、例えばカメラ1000の傾斜角を変えて繰り返す。
【0039】
車載カメラで撮影される画像に対し、縦軸横軸をそれぞれX軸、Y軸(それぞれ右方向、上方向を正)とし、画像中心を原点とする。そのとき車載カメラを車両の後部に取り付け、車両方向と駐車位置を表す駐車の枠が平行にある場合、消失の座標点は(0,Ydeg)になる(Ydegはカメラと路面との角度(deg)によって一意に決定する)。シミュレーション画像により、車両方向と駐車位置を表す駐車の枠が平行である場合、路面に引かれた駐車枠が直線的かつ平行に近くに見えるためには、γとΔはYdegより若干大きい値とするのが望ましいことが分かった。また、Δ>γとするのが望ましいことが分かった。先に述べたように、Ydegすなわち消失点はカメラと路面との角度によって一意に決定される。
【0040】
次に、閾値εの設定例について説明する。図3の実施形態では、εの値によって、セレクタ243により、魚眼撮像画像のRGB画素データについて式(1),(2),(3)を用いて座標変換されたRGB画素データを表示するか、RGBデータ保持部247のデフォルトのRGB画素データを表示するかを選択する構成となっている。式(1),(2),(3)での画像変換を行うと、消失点Ydegより大きいyの値を持つ画像範囲は、路面上でない領域を撮影した範囲となり、人間が不自然と感じる。路面上にない物体を変換するときに人間の目にとって不自然な画像が生じるのを避けるため、閾値εにより、不自然な領域は表示しないようにする。具体的には、例えば、ε=Ydeg−margin(margin>0)と設定する。
【0041】
なお、座標変換式は必ずしも上述の式である必要はなく、x座標方向のみの座標変換を行って、無消失点状の仮想視点画像を得ることができればよい。
【0042】
図7に具体的処理例を示す。図7(a)は変換前の魚眼画像であり、これは図6と同じものである。図7(b)は、図7(a)の魚眼画像に対して、式(1),(2),(3)の座標変換式を用いて座標変換して生成された仮想視点画像を示したものである。図7(b)に示すように、本発明により、車両方向と駐車位置を表わす駐車の枠が平行である場合、路面に引かれた駐車枠が直線的かつ平行に近い状態に見えるような仮想視点画像(擬似見下ろし画像)を得ることができる。なお、図7(b)において、矢印は閾値εの位置であり、ここでは、該矢印より上の画像範囲は、黒で塗りつぶして、人間に見えないようにしている。
【0043】
以上、本発明の車載用画像装置の一実施形態を示したが、本発明の画像処理方法は、例えば、図1の画像処理装置120にコンピュータを使用し、図2及び図3の各部の処理機能をCPU上でプログラムを実行することで実現される。
【図面の簡単な説明】
【0044】
【図1】本発明の車載用画像処理装置の適用例のシステム構成図。
【図2】図1中の車載用画像処理装置の一実施形態の機能ブロック図。
【図3】図2中の仮想視点変換部の一実施形態を示す構成図。
【図4】撮像装置を鉛直下向きに設置した様子を示す図。
【図5】撮像装置を45°回転した様子を示す図。
【図6】魚眼シミュレーション画像の一例を示す図。
【図7】本発明の具体的処理例を示す図。
【符号の説明】
【0045】
100 車両
110 撮像装置(車載撮像装置)
120 画像処理装置(車載用画像処理装置)
130 モニタ装置
140 傾斜角計測装置
200 制御部
210 撮像素子
220 A/D変換部
230 ベイヤー補完部
240 仮想視点変換部

【特許請求の範囲】
【請求項1】
車載撮像装置で撮像された路面上の車両の周囲の撮像画像を処理し、モニタ装置に表示する車載用画像処理装置であって、
前記撮像装置で撮像された画像を、前記撮像装置の視点と異なる仮想視点からみた仮想視点画像に変換する仮想視点変換手段を有し、
前記仮想視点変換手段は、前記撮像装置で撮像された魚眼画像について、そのx座標方向のみの座標変換を行って、無消失点状の仮想視点画像を生成することを特徴とする車載用画像処理装置。
【請求項2】
請求項1記載の車載用画像処理装置において、
前記仮想視点画像は、路面に引かれた駐車枠が直線的かつ平行に近い状態に見えることを特徴とする車載用画像処理装置。
【請求項3】
請求項1又は2記載の車載用画像処理装置において、
前記仮想視点変換手段は、座標変換に以下の式、
R=α・(y−γ)・β/(y−Δ)
X=R・x
Y=y
x,y…画像中心を原点とした座標変換先の座標
X,Y…画像中心を原点とした座標変換元の座標
α,β,γ,Δ…座標変換係数
を用いることを特徴とする車載用画像処理装置。
【請求項4】
請求項3記載の車載用画像処理装置において、
前記座標変換係数γ,Δは、前記撮像装置の路面に対する相対角度から算出される消失点に基づいて決定されることを特徴とする車載用画像処理装置。
【請求項5】
請求項1乃至4のいずれか1項に記載の車載用画像処理装置において、
前記仮想視点変換手段は、y座標方向の値が所定の閾値以上または以下の場合には、前記撮像装置により撮像された画像に依存しない画像に変換することを特徴とする車載用画像処理装置。
【請求項6】
車載撮像装置で撮像された路面上の車両の周囲の撮像画像を処理し、モニタ装置に表示する車載用画像処理装置における画像処理方法であって、
前記撮像装置で撮像された画像を、前記撮像装置の視点と異なる仮想視点からみた仮想視点画像に変換する仮想視点変換ステップを有し、
前記仮想視点変換ステップは、前記撮像装置で撮像された魚眼画像について、そのx座標方向のみの座標変換を行って、無消失点状の仮想視点画像を生成することを特徴とする画像処理方法。
【請求項7】
請求項6記載の画像処理方法において、
前記仮想視点画像は、路面に引かれた駐車枠が直線的かつ平行に近い状態に見えることを特徴とする画像処理方法。
【請求項8】
請求項6又は7記載の画像処理方法において、
前記仮想視点変換ステップでは、座標変換に以下の式、
R=α・(y−γ)・β/(y−Δ)
X=R・x
Y=y
x,y…画像中心を原点とした座標変換先の座標
X,Y…画像中心を原点とした座標変換元の座標
α,β,γ,Δ…座標変換係数
を用いることを特徴とする画像処理方法。
【請求項9】
請求項8記載の画像処理方法において、
前記座標変換係数γ,Δは、前記撮像装置の路面に対する相対角度から算出される消失点に基づいて決定されることを特徴とする画像処理方法。
【請求項10】
請求項6乃至9のいずれか1項に記載の画像処理方法において、
前記仮想視点変換ステップでは、y座標方向の値が所定の閾値以上又は以下の場合には、前記撮像装置により撮像された画像に依存しない画像に変換することを特徴とする画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2010−81479(P2010−81479A)
【公開日】平成22年4月8日(2010.4.8)
【国際特許分類】
【出願番号】特願2008−249662(P2008−249662)
【出願日】平成20年9月29日(2008.9.29)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】