物体検出装置
【課題】平面上にある特定の物体を検出することができる物体検出装置を提供する。
【解決手段】演算処理装置12は、視差データ演算部121、路面パラメータ推定部122、路面投影部123、障害物範囲特定部124、障害物領域特定部125、距離測定部126及び表示画像生成部127を備える。障害物の検出にあたっては、まず、ステレオカメラ11から演算処理装置12へ2次元ステレオ画像を入力する。続いて、視差データ演算部121が、計測点Pにおける視差を演算し、路面パラメータ推定部122が路面パラメータである高さh及び傾きφを推定する。さらに続いて、路面投影部123が、基準画像上で計測点Pを路面に投影し、障害物範囲特定部124が障害物範囲を特定し、障害物領域特定部125が障害物領域を特定する。そして、障害物距離測定部126が、障害物までの距離を測定する。
【解決手段】演算処理装置12は、視差データ演算部121、路面パラメータ推定部122、路面投影部123、障害物範囲特定部124、障害物領域特定部125、距離測定部126及び表示画像生成部127を備える。障害物の検出にあたっては、まず、ステレオカメラ11から演算処理装置12へ2次元ステレオ画像を入力する。続いて、視差データ演算部121が、計測点Pにおける視差を演算し、路面パラメータ推定部122が路面パラメータである高さh及び傾きφを推定する。さらに続いて、路面投影部123が、基準画像上で計測点Pを路面に投影し、障害物範囲特定部124が障害物範囲を特定し、障害物領域特定部125が障害物領域を特定する。そして、障害物距離測定部126が、障害物までの距離を測定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、平面上にある特定の物体を検出する物体検出装置に関する。
【背景技術】
【0002】
自動車に搭載される運転支援システムは、自動車の前方に存在する障害物を検出し、検出した障害物までの距離を測距した上で、自動車が危険な状態にあるのか否かを判断する。そして、危険な状態にある場合には、運転者に警告を発したり、自動的にブレーキを制御したりすることにより、事故の予防を支援する。
【0003】
このような運転支援システムには、自動車の前方をステレオカメラで撮影し、画像に映っている障害物をパターン認識の技術を用いて検出するとともに、検出した障害物までの距離を視差を用いて測距するものがある。ただし、画像に映っている障害物をパターン認識の技術を用いて検出するためには、複雑な画像認識処理が必要であるという問題がある。また、パターン認識の技術を用いた障害物の検出には、誤検出が多いという問題がある。
【0004】
このため、特許文献1〜3に示すように、画像に映っている障害物を視差を用いて検出することも検討されている。
【0005】
例えば、特許文献1は、画像に映っている路面を検出し、路面からの高さが所定の高さ以上の障害物を検出する技術を開示している。また、特許文献2は、光軸となす角と視差とを投票し、投票数が多い障害物を検出する技術を開示している。さらに、特許文献3は、床面に対するステレオカメラの位置及び姿勢を表す平面パラメータを推定し、床面からの高さが所定の高さ以上の障害物を検出する技術を開示している。
【0006】
【特許文献1】特開平10−143659号公報
【特許文献2】特開平11−345336号公報
【特許文献3】特開2003−269937号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
運転支援システムにおいて、走行している自動車を危険な状態に陥れる障害物として検出すべき物体は、路面上にある特定の物体に限られる。例えば、路面上にない物体を検出する必要はないし、路面上にあっても自動車を危険な状態に陥れることがない物体は検出する必要はない。一方、路面上にある先行車は、障害物として検出すべきであると考えられる。
【0008】
しかし、従来の技術による物体の検出では、路面上にある特定の物体のみを選択的に検出することはできなかった。
【0009】
このような問題は、運転支援システムに限られず、平面上にある特定の物体を検出すべき物体検出装置、例えば、自律走行ロボット、無人搬送車、監視カメラ等に搭載される物体検出装置に共通して存在する。
【0010】
本願発明は、この問題を解決するためになされたもので、平面上にある特定の物体を検出することができる物体検出装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するため、請求項1の発明は、物体検出装置であって、2次元ステレオ画像を撮影し、基準画像及び参照画像として出力するステレオカメラと、基準画像上の計測点における基準画像と参照画像との間の視差を演算する視差演算部と、計測点の座標と計測点における視差との複数の組から基準画像に映っている着目する平面に対する前記ステレオカメラの位置及び姿勢を表す平面パラメータを推定する平面パラメータ推定部と、平面パラメータを用いて基準画像上で計測点を投影面に投影する平面投影部と、前記平面投影部が複数の計測点を投影面に投影することにより得られた複数の投影点から特定の分布を有する投影点の集合を選択する物体候補選択部とを備える。
【0012】
請求項2の発明は、請求項1に記載の物体検出装置において、前記平面投影部による計測点の投影に先立って、着目する平面からの距離が特定の距離の点が映っている計測点のみを選択する第1の選択部をさらに備える。
【0013】
請求項3の発明は、請求項1又は請求項2に記載の物体検出装置において、前記物体候補選択部による投影点の集合の選択に先立って、最も前記ステレオカメラ寄りの投影点を選択する第2の選択部をさらに備える。
【0014】
請求項4の発明は、請求項1ないし請求項3のいずれかに記載の物体検出装置において、前記視差演算部は、基準画像に第1のウインドウを設定する第1のウインドウ設定部と、参照画像に第2のウインドウを設定する第2のウインドウ設定部と、第1のウインドウ内の画像を実空間から周波数空間へ変換する第1の変換部と、第2のウインドウ内の画像を実空間から周波数空間へ変換する第2の変換部と、空間周波数による振幅の変動を抑制した上で周波数空間において第1のウインドウ内の画像と第2のウインドウ内の画像とを比較する画像比較部と、前記画像比較部の比較結果に基づいて計測点に対応する参照画像上の対応点を演算する対応点演算部とを備える。
【0015】
請求項5の発明は、請求項4に記載の物体検出装置において、前記視差演算部が位相相関限定法を用いて視差を演算する。
【0016】
請求項6の発明は、請求項1ないし請求項5のいずれかに記載の物体検出装置において、前記平面パラメータ推定部がハフ変換により前記平面パラメータを推定する。
【0017】
請求項7の発明は、請求項6に記載の物体検出装置において、前記平面パラメータ推定部は、平面パラメータで張られる空間を複数のブロックに分割する空間分割部と、前記空間分割部が複数のブロックに分割した空間において計測点の座標と計測点における視差との複数の組から決定される複数の直線が通過するブロックに投票を行う投票部と、投票が最も多いブロックが代表する平面パラメータを求めるべき平面パラメータとして決定する平面パラメータ決定部とを備える。
【0018】
請求項8の発明は、請求項1ないし請求項7のいずれかに記載の物体検出装置において、前記物体候補選択部が基準画像上で特定の長さ、傾き又は形状を有する線素を構成する投影点の集合を選択する。
【0019】
請求項9の発明は、請求項8に記載の物体検出装置において、前記物体候補選択部が基準画像上で実質的に水平な線素を構成する投影点の集合を選択する。
【0020】
請求項10の発明は、請求項8に記載の物体検出装置において、前記物体候補選択部が基準画像上で基準画像上の位置に応じた長さの線素を構成する投影点の集合を選択する。
【0021】
請求項11の発明は、請求項1ないし請求項10のいずれかに記載の物体検出装置において、前記物体候補選択部が選択した投影点の集合が存在する範囲であって着目する平面からの距離が特定の距離の基準画像上の領域を検出すべき物体が映っている領域として特定する物体領域特定部をさらに備える。
【0022】
請求項12の発明は、請求項1ないし請求項10のいずれかにに記載の物体検出装置において、前記物体候補選択部が選択した投影点の集合が存在する範囲内においてパターン認識により検出すべき物体が映っている領域を特定する物体領域特定部をさらに備える。
【0023】
請求項13の発明は、請求項1ないし請求項12のいずれかに記載の物体検出装置において、前記ステレオカメラが平面上を移動する移動体に搭載され、着目した平面が前記移動体の移動面である。
【発明の効果】
【0024】
請求項1の発明によれば、平面上にある特定の物体が映っている計測点の投影点を特定することができるので、平面上にある特定の物体を検出することができる。
【0025】
請求項2の発明のよれば、検出すべき物体が映っていない計測点を投影面に投影しないので、検出すべき物体を安定して検出することができる。
【0026】
請求項3の発明によれば、ステレオカメラに最も近い物体を検出することができる。
【0027】
請求項4ないし請求項5の発明によれば、振幅の変動の影響を受けなくなるので、基準画像と参照画像との明るさの違い等の影響を受けずにロバストに視差を演算することができる。
【0028】
請求項6ないし請求項7の発明によれば、平面パラメータをロバストに推定することができる。
【0029】
請求項9ないし請求項10の発明によれば、特定の物体を適切に検出することができる。
【0030】
請求項11の発明によれば、着目する平面からの距離が特定の範囲にある物体を検出することができる。
【0031】
請求項12の発明によれば、物体の範囲及び属性をより正確に認識することができる。
【発明を実施するための最良の形態】
【0032】
<1 第1実施形態>
<1.1 障害物検出装置1の構成>
図1は、第1実施形態に係る障害物検出装置1の模式図である。図1に示す障害物検出装置1は、自動車に搭載され、自動車の前方の障害物を検出する。ただし、このことは、本願発明の適用範囲をこのような障害物検出装置1に限定するものではない。すなわち、本願発明は、自律走行ロボットや無人搬送車のような移動体に搭載され、移動体の移動面上にある特定の物体を検出する物体検出装置に適用することができるのはもちろんのこと、固定監視カメラのような移動を前提としない装置に搭載され、平面上にある特定の物体を検出する物体検出装置にも適用することができる。
【0033】
図1に戻って説明すると、障害物検出装置1は、ステレオカメラ11、演算処理装置12及び表示装置13を備える。
【0034】
{ステレオカメラ11}
ステレオカメラ11は、2次元ステレオ画像を撮影し、撮影した2次元ステレオ画像を画像データとして出力する。すなわち、ステレオカメラ11は、同期して繰り返し撮影を行う2個のカメラ111,112を備え、カメラ111が撮影した2次元画像を画像データとして出力するとともに、カメラ112が撮影した2次元画像を画像データとして出力する。
【0035】
ステレオカメラ11は、平行ステレオカメラである。したがって、カメラ111,112は、間隔を置いて同一方向に向けて設置されており、カメラ111の光軸501とカメラ112の光軸502とは平行となっている。
【0036】
また、カメラ111の光学系の焦点距離及びエリアイメージセンサの撮像面の大きさとカメラ112の光学系の焦点距離及びエリアイメージセンサの撮像面の大きさとは同一となっている。したがって、カメラ111の画角とカメラ112の画角とは同一となっている。
【0037】
さらに、カメラ111のエリアイメージセンサの画素は縦横両方向に規則的に配列されており、カメラ112のエリアイメージセンサの画素ピッチとカメラのエリアイメージセンサの画素ピッチとは同一である。したがって、カメラ111の解像度とカメラ112の解像度とは同一となっている。
【0038】
加えて、カメラ111,112の光学系の収差は、演算処理装置12における演算処理に支障が生じないように、良好に補正されている。
【0039】
ただし、カメラ111,112がこれらの条件を満たしていなくても、画像処理を行うことにより、これらの条件を満たしている場合と実質的に同等の2次元ステレオ画像を得ることができる。
【0040】
なお、ここでは、ステレオカメラ11が2個のカメラ111,112を備えるとしたが、ステレオカメラ11が3個以上のカメラを備えていてもよい。
【0041】
図2及び図3は、ステレオカメラ11が設置された自動車の模式図である。図2は、自動車の側面図、図3は、自動車の上面図となっている。図2及び図3に示すように、ステレオカメラ11は、例えば、自動車の車室内のバックミラーの近傍に前方に向けて設置され、自動車の前方を撮影する。
【0042】
{演算処理装置12}
演算処理装置12は、ステレオカメラ11が出力した2次元ステレオ画像の一方を基準画像、他方を参照画像として取得し、基準画像及び参照画像に映っている障害物を検出する。演算処理装置12は、基準画像及び参照画像に映っている物体のうち、路面上にある特定の物体を障害物として選択的に検出する。
【0043】
また、演算処理装置12は、検出した障害物の位置や検出した障害物までの距離の情報を基準画像に重畳した画像を生成し、生成した画像を出力する。
【0044】
演算処理装置12における演算処理は、専用ハードウエアを用いるハードウエア処理によって行ってもよいし、マイクロプロセッサ及びプログラムを用いるソフトウエア処理によって行ってもよいし、ハードウエア処理とソフトウエア処理とを混在させた処理によって行ってもよい。
【0045】
{表示装置13}
表示装置13は、演算処理装置12が出力した画像を表示する。
【0046】
<1.2 演算処理装置12の構成>
図4は、演算処理装置12のブロック図である。演算処理装置12は、視差データ演算部121、路面パラメータ推定部122、路面投影部123、障害物範囲特定部124、障害物領域特定部125、距離測定部126及び表示画像生成部127を備える。
【0047】
{視差データ演算部121}
図5は、基準画像501及び基準画像501に定義されたxy直交座標系を示す図であり、図6は、図5に示す基準画像501と同時に撮影された参照画像502及び参照画像502に定義されたxy直交座標系を示す図である。図5に示す基準画像501及び図6に示す参照画像502には、路面601、先行車602,603、遮音壁604、中央分離帯605、空606が映っている。基準画像501及び参照画像502に定義されたxy直交座標系は、それぞれ、基準画像501及び参照画像502の中心を原点とし、横方向をx軸方向、縦方向をy軸方向としている。
【0048】
視差データ演算部121は、図5に示す基準画像501の上の点P1(x1,y1)に対応する、図6に示す参照画像502の上の点P2(x2,y2)を特定し、基準画像501の上の点P1における基準画像501と参照画像502との間の視差dを演算する。ここでいう「対応する」とは、同じもの(図5及び図6では、先行車602のリア)が映っているという意味である。また、座標x1,x2は、それぞれ、基準画像501の上の原点及び参照画像502の上の原点から横方向に何画素分離れているのかを表しており、座標y1,y2は、それぞれ、基準画像501の上の原点及び参照画像502の上の原点から縦方向に何画素分離れているのかを表している。
【0049】
基準画像501の上の点P1と参照画像502の上の点P2との対応付けは、公知の様々な手法により行うことができるが、後述するPOC(Phase-Only Correlation;位相相関限定)法を用いて行うことが望ましい。
【0050】
対応付けは、基準画像501を構成する画素の全てについて行ってもよいし、所定の画素間隔で間引きを行った後の画素についてのみ行ってもよい。なお、以下では、対応付けを行った基準画像501の上の点を「計測点」という。
【0051】
ここで、ステレオカメラ11は平行ステレオカメラであるので、基準画像501の上の点P1のy座標y1と参照画像502の上の点P2のy座標y2とは等しくなり、視差dは、式(1)で表すことができる。
【0052】
【数1】
【0053】
{路面パラメータ推定部122}
路面パラメータ推定部122は、基準画像501に映っている路面601を認識し、3次元空間内における着目する路面601に対するステレオカメラ11の位置及び姿勢を表す路面パラメータを推定する。
【0054】
図7は、路面601に対するステレオカメラ11の配置を説明する図である。図7において、YZ直交座標系は道路に固定された道路座標系であり、Z軸は路面601にあり、+Z方向は道路の伸びる方向となっているとする。また、yz直交座標系はステレオカメラ11に固定されたカメラ座標系であり、z軸はカメラ111,112の光軸501,502と平行となっており、+z方向はステレオカメラ11の向きとなっているとする。
【0055】
道路は、カーブすることなくまっすぐ伸びているとする。また、ステレオカメラ11は、ピッチ方向(YZ平面に垂直な軸の周りに回転する方向)に下方に傾けて設置され、ステレオカメラ11の撮影方向(+z方向)と道路の伸びる方向(+Z方向)とのなす角はφであるとする。さらに、ステレオカメラ11のヨー方向(Y軸の周りに回転する方向)及びロール方向(Z軸の周りに回転する方向)の傾きは、実質的に0であるとする。加えて、ステレオカメラ11の路面601からの高さはhであるとする。
【0056】
このような前提の下では、計測点P(x,y)のy座標yと、ステレオカメラ11の直下にある道路座標原点から計測点Pに映っている点Aまでの距離Dとの関係は、式(2)及び式(3)を用いて表すことができる。
【0057】
【数2】
【0058】
【数3】
【0059】
ただし、fは、カメラ111,112の光学系の焦点距離、pは、カメラ111,112のエリアイメージセンサの画素ピッチ、Nは、カメラ111,112のエリアイメージセンサの縦方向の画素数、θは、カメラ111,112の垂直方向の画角の半角である。
【0060】
ここで、h/D及びy/αが1と比較して十分に小さい場合、式(2)は、式(4)に簡略化することができる。
【0061】
【数4】
【0062】
式(4)より、距離Dは、式(5)で表される。
【0063】
【数5】
【0064】
一方、計測点Pにおける視差dと距離Dとの関係は、式(6)で表される。
【0065】
【数6】
【0066】
ただし、Bは、基線長(ベースライン)である。
【0067】
式(5)及び式(6)より、視差dと計測点Pのy座標yとの関係は、式(7)で表される。
【0068】
【数7】
【0069】
図8は、視差d及びy座標yで張られるd−y空間における路面パラメータの推定を説明する図である。
【0070】
式(7)において、ステレオカメラ11の位置を表す高さh及びステレオカメラ11の姿勢を表す傾きφは、求めるべき路面パラメータである。また、基線長B及びパラメータαは、ステレオカメラ11の光学特性から求めることができる。したがって、式(7)は、計測点Pのy座標yと計測点Pにおける視差dとの複数の組をd−y空間にプロットすると、傾斜がB/h、y切片がBαφ/hの直線701に路面601に由来するプロット点が乗ることを示している。逆に言えば、計測点Pのy座標yと計測点Pにおける視差dとの複数の組をd−y空間にプロットし、プロット点が集中する直線701を検出すれば、例えば、直線701のx切片−αφから傾きφを推定することができ、y切片Bαφ/hから高さhを推定することができる。なお、路面パラメータとして、傾きφ及び高さh以外のパラメータを用いてもよい。
【0071】
図9は、実写画像による路面パラメータの推定例を説明する図である。図9に示すように、計測点Pのy座標と計測点Pにおける視差dとの多数の組をプロットしたd−y空間には、d=0.167y+25.0で表される直線702を検出することができ、傾きをφ=0.047rad=2.7degree、高さをh=1250mmと推定することができる。図9のd−y空間において、直線702よりも上方にあるプロット点は、主に、路面601より高い位置にある物体に由来するプロット点であり、直線702より下方にあるプロット点は、主に、ノイズに由来するプロット点である。
【0072】
ここで、d−y空間の直線702をロバストに検出し傾きφ及び高さhをロバストに推定するためには、ハフ変換に代表される投票を用いた方法により、傾きφ及び高さhで張られるφ−h空間において傾きφ及び高さhを直接推定することが望ましい。
【0073】
図10は、この方法によりφ−h空間において傾きφ及び高さhを推定する路面パラメータ推定部122のブロック図である。また、図11〜図13は、この方法によるφ−h空間における傾きφ及び高さhの推定を説明する図である。
【0074】
この方法により傾きφ及び高さhを推定するためには、まず、図11に示すように、空間分割部1221がφ−h空間を複数のブロック711に分割する。続いて、図12に示すように、投票部1222が、複数のブロック711に分割されたφ−h空間において計測点Pのy座標yと計測点Pにおける視差dとの複数の組から式(7)を変形した式(8)によって決定される複数の直線712が通過するブロック711に投票を行う。さらに続いて、図13に示すように、路面パラメータ決定部1223が投票が最も多いブロック711が代表する傾きφ及び高さhを求めるべき傾きφ及び高さhとして決定する。なお、図12及び図13においては、ブロック711の中の数字は投票数を示している。
【0075】
【数8】
【0076】
空間分割部1221は、φ−h空間のうち、傾きφ及び高さhがとり得る範囲、例えば、φ=0〜0.1,h=1000〜1500の範囲を複数のブロック711、例えば、φ方向に50個、h方向に50個のブロック711に分割する。
【0077】
このような傾きφ及び高さhの推定によれば、路面601が映っていない計測点Pに由来する投票が特定のブロック711に集中することがないので、傾きφ及び高さhをロバストに推定することができる。
【0078】
なお、演算の便宜のため、式(9)及び式(10)にしたがって、図14に示すようなh−φ空間を図15に示すようなh’−φ’空間にアフィン変換してもよい。
【0079】
【数9】
【0080】
【数10】
【0081】
ここで、p_w及びp_sは、それぞれ、φ−h空間におけるφのとり得る範囲の上限値及び下限値であり、h_w及びh_sは、それぞれ、φ−h空間におけるhのとり得る範囲の上限値及び下限値であり、p_pは、φ’−h’空間におけるφ’のとり得る範囲の上限値であり、h_pは、φ’−h’空間におけるh’のとり得る範囲の上限値である。また、このようは変換を行った場合、式(8)に代えて、式(11)を用いることになる。
【0082】
【数11】
【0083】
なお、上述の説明では、路面が平坦であることを前提として説明を行ったが、路面がうねっている場合は、基準画像501及び参照画像502を前後に分割し、分割された画像ごとに傾きφ及び高さhを推定すればよい。また、地図情報及びGPS(Global Positioning System)を用いて特定した自車位置の情報から路面601のうねりの情報をあらかじめ取得し、それにあわせて傾きφ及び高さhを調整してもよい。
【0084】
{路面投影部123}
路面投影部123は、路面パラメータを用いて基準画像501の上で計測点Pを路面601に投影する。ここで、「基準画像501の上で計測点Pを路面601に投影する」とは、計測点Pに映っている点P’を3次元空間において路面601に投影した点Q’が映っている投影点Q(xp,yp)へ、基準画像501において計測点Pを投影することをいう。
【0085】
ここで、計測点Pに映っている点P’の路面601からの高さHが式(12)で表されることから、投影点Qのy座標ypは、式(12)においてH=0,y=ypとした式(13)で表される。
【0086】
【数12】
【0087】
【数13】
【0088】
なお、路面601への投影は、2次元平面で処理を行うためのものであるため、計測点Pの投影先を路面601とすることは必須ではなく、路面601以外の平面としてもよい。例えば、障害物検出装置1では、投影面を路面601と平行な平面とすることができるし、室内を走行する自立走行ロボットに搭載される、走行路面上にあるテーブルを検出する物体検出装置では、テーブルのテーブル面を投影面とすれば、テーブルの位置を効率的に特定することができる。
【0089】
図16は、路面投影部123が計測点Pを路面601に投影した結果を示す図である。図16には、先行車602に由来する投影点Qの集合612、先行車603に由来する投影点Qの集合613、遮音壁604に由来する投影点Qの集合614、中央分離帯605に由来する投影点Qの集合615が示されている。
【0090】
{障害物範囲特定部124}
障害物範囲特定部124は、複数の投影点Qから特定の分布を有する投影点Qの集合を選択し、特定の分布を有する投影点Qの集合が存在する範囲を障害物が存在する範囲(以下、「障害物範囲」という)と特定する。ここで、「特定の分布を有する投影点Qの集合を選択」するとは、検出すべき障害物に由来する投影点Qの集合が有していると予想される分布を有する投影点Qの集合を選択するということであり、例えば、特定の長さ、傾き又は形状を有する線素を構成する投影点Qの集合を選択するということである。ここで、線素を構成する投影点Qの集合の抽出は、(1)ハフ変換による直線パラメータの推定、(2)推定された直線パラメータで表される直線の近傍の投影点のグループ化、の2つの段階を経て行うことができる。また、「線素」には、線分だけでなく曲線分も含まれる。
【0091】
障害物検出装置1が路面601の上にある先行車602,603を適切に検出するためには、基準画像501の上で実質的に水平(線素の傾きが0.1rad以内)であり、基準画像501の上の位置に応じた長さl(ay−w<l<ay+w)の線素を構成する投影点Qの集合を選択することが望ましい。基準画像501の上の位置に応じた長さlの線素を構成する投影点Qの集合を選択することにしたのは、基準画像501の上の位置によって先行車602,603が映る大きさが変化するからであり、長さlの範囲は、概ね2m程度の幅の先行車602,603が長さの範囲内になるように設定しておくことが望ましい。もちろん、検出すべき障害物に応じて長さの範囲を変更すれば、自動車の先行車602,603だけでなく、路上落下物、バイク、歩行者等も障害物として検出することができる。
【0092】
なお、障害物範囲特定部124が、実質的に水平な線素を構成する投影点Qの集合を選択する場合は、障害物範囲は水平方向(±x方向)の広がりによって特定されることになるが、より一般的には、障害物範囲は、路面601に平行な平面上の領域として特定される。
【0093】
図17は、図16に例示した投影点Qから、障害物範囲特定部124が投影点Qの集合612,613を選択した結果を示す図である。図17には、上述の条件を満たす線素を構成する先行車602に由来する投影点Qの集合612、先行車603に由来する投影点Qの集合613のみが選択され、上述の条件を満たさない線素を構成する遮音壁604に由来する投影点Qの集合614、中央分離帯605に由来する投影点Qの集合615は選択されないことが示されている。
【0094】
{障害物領域特定部125}
障害物領域特定部125は、障害物範囲であって、3次元空間において路面601からの高さHが300mm<H<1500mmとなる基準画像501の上の領域を検出すべき障害物が映っている障害物領域として特定する。高さHの範囲の上限は、衝突の可能性がある障害物のみを検出するため、自車の高さに基づいて設定することが望ましい。
【0095】
図18は、図17に例示した障害物範囲から障害物領域特定部125が障害物領域622,623を特定した結果を示す図である。図18には、衝突の可能性がある障害物が映っている範囲がハッチングで示される障害物領域622,623として特定されたことが示されている。
【0096】
なお、上述の説明では、路面601からの距離が特定の距離となる基準画像501の上の領域を障害物領域622,623として特定したが、障害物範囲においてパターン認識により障害物領域を特定するようにすれば、障害物の範囲及び属性をより正確に認識することができる。なお、パターン認識は、一般的にいって、複雑で演算コストが高い処理であるが、障害物検出装置1では、パターン認識の対象とすべき範囲が障害物範囲に限られるので、比較的に低い演算コストでパターン認識を行うことができる。また、地図情報及びGPSを用いて特定した自車位置の情報から、道路が曲がっている等の情報をあらかじめ取得し、進行方向にある障害物領域をさらに限定してもよい。
【0097】
{障害物距離測定部126}
距離測定部126は、障害物領域622,623の内にある計測点Pにおける視差から障害物領域622,623に映っている障害物までの距離Dを式(14)にしたがって測定する。図20には、式(14)の理解を容易にするため、水平面内における障害物、カメラ111,112の焦点位置及びカメラ111,112の撮像面の位置関係を示した。
【0098】
【数14】
【0099】
このとき、1個の計測点Pにおける視差dから障害物までの距離を測定してもよいが、2個以上の計測点Pにおける視差dの平均値から障害物までの距離を測定することがより望ましい。さらに、2個以上の計測点Pにおける視差dの中央値から所定範囲内にある視差dの平均値から障害物までの距離を測定するアウトライア処理を行えば、偶発的に得られた極端に大きい視差dや極端に小さい視差dの影響を受けることなく、安定した視差dの平均値を得ることができる。
【0100】
なお、このアウトライア処理により、障害物領域623を処理の対象から省くことができる。すなわち、計測点Pを多数取った場合、計測点Pの数は手前の障害物(図18では、先行車602)の方が多くなり、視差dの中央値は手前の障害物の部分の視差となるので、上述の「所定範囲内」から外れた「極端に小さい視差d」すなわち遠い距離にある障害物の視差dを距離測定の対象から省くことができる。これにより、手前の障害物のみを障害物として特定し、距離を算出することができる。
【0101】
{表示画像生成部127}
表示画像生成部127は、障害物領域特定部125が特定した障害物領域622を示す情報や距離測定部126が測定した障害物までの距離の情報を基準画像501に重畳した画像を生成し、表示装置13に出力する。
【0102】
図19は、表示画像生成部127が生成した画像の一例である。画像には、基準画像501に重畳して、障害物領域622及び障害物までの距離632が表示されている。
【0103】
{運転支援}
単に図19に示すような画像を表示するだけでなく、演算処理装置12の演算処理結果に基づいて運転支援を行うようにしてもよい。例えば、障害物までの距離が閾値以下となった場合に、衝突の危険があるとみなして、運転者に警告を発したり、ブレーキの制御を行ったりするようにしてもよい。
【0104】
{POC対応付け演算}
図21は、POC対応付け演算を行うPOC対応付け演算部140のブロック図である。
【0105】
図21に示すように、POC対応付け演算部140は、基準画像ウインドウ設定部141、参照画像ウインドウ設定部142、基準画像ウインドウDFT(Discrete Fourier Transform)部143、参照画像ウインドウDFT部144、位相比較部145、位置ズレ演算部146及び対応点演算部147を備える。
【0106】
{基準画像ウインドウ設定部141}
図22は、基準画像ウインドウ511の設定を説明する図である。
【0107】
図22に示すように、基準画像ウインドウ設定部141は、着目する点P1を中心とする矩形の基準画像ウインドウ511を基準画像501に設定する。基準画像ウインドウ511の大きさは、例えば、縦31画素×横31画素である。
【0108】
{参照画像ウインドウ設定部142}
図23は、参照画像ウインドウ512の設定を説明する図である。
【0109】
図23に示すように、参照画像ウインドウ設定部142は、基準画像ウインドウ511と形状及び大きさが同じウインドウで参照画像502を走査し、ウインドウの内の画像が基準画像ウインドウ511の内の画像と最も類似する参照画像ウインドウ512を参照画像502に設定する。パターンの類似度の評価方法は、特に制限されないが、例えば、ウインドウ間の相関演算、特にSAD(Sum of Absolute Differences)を用いた相関演算により行うことができる。
【0110】
一般的に言えば、参照画像ウインドウ設定部142は、参照画像502の全体をウインドウで走査する必要があるが、障害物検出装置1のようにステレオカメラ11が平行ステレオカメラである場合は、基準画像ウインドウ511とy座標が同じ部分のみウインドウで走査すれば足りる。
【0111】
{基準画像ウインドウDFT部143及び参照画像ウインドウDFT部144}
基準画像ウインドウDFT部143及び参照画像ウインドウDFT部144は、それぞれ、基準画像ウインドウ511の内の画像f(n1,n2)及び参照画像ウインドウ512の内の画像g(n1,n2)を式(15)、式(16)、式(17)及び式(18)にしたがって、2次元離散フーリエ変換する。
【0112】
【数15】
【0113】
【数16】
【0114】
【数17】
【0115】
【数18】
【0116】
ここで、画像f(n1,n2),g(n1,n2)の画素数は、いずれも、横方向にN1=2M1+1画素、縦方向にN2=2M2+1画素としており、離散空間のインデックスは、n1=−M1,・・・,M1,n2=−M2,・・・,M2としている。また、k1及びk2は、空間周波数であって、k1=−M1,・・・,M1,k2=−M2,・・・,M2である。式(15)中のAF(k1,k2)及び式(16)中のAG(k1,k2)は、それぞれ、空間周波数(k1,k2)における振幅であり、式(15)中のexp{jθF(k1,k2)}及び式(16)中のexp{jθG(k1,k2)}は、それぞれ、空間周波数(k1,k2)における位相である。
【0117】
このような2次元離散フーリエ変換により、実空間の画像f(n1,n2),画像g(n1,n2)は、周波数空間の画像F(k1,k2),G(k1,k2)に変換されたことになる。
【0118】
{位相比較部145}
位相比較部145は、周波数空間において画像F(k1,k2),G(k1,k2)を比較するため、式(19)で表される合成位相スペクトルR’(k1,k2)を算出する。合成位相スペクトルR’(k1,k2)は、画像F(k1,k2)と画像G(k1,k2)の複素共役G*(k1,k2)との積F(k1,k2)・G*(k1,k2)を正規化することにより得ることができる。
【0119】
【数19】
【0120】
さらに、位相比較部145は、ノイズの影響を小さくするため、式(20)で表される合成位相スペクトルR(k1,k2)を算出する。合成位相スペクトルR(k1,k2)は、重み付け関数H(k1,k2)を合成位相スペクトルR’(k1,k2)に乗ずることにより得ることができる。
【0121】
【数20】
【0122】
続いて、このような合成位相スペクトルR(k1,k2)を用いる理由について説明する。
【0123】
図24〜図28は、それぞれ、画像F(k1,k2)、画像G(k1,k2)、画像F(k1,k2)と画像G(k1,k2)の複素共役G*(k1,k2)との積F(k1,k2)・G*(k1,k2)、合成位相スペクトルR’(k1,k2)及び合成位相スペクトルR(k1,k2)の振幅及び位相の空間周波数に対する変化の一例を示す図である。これらの振幅及び位相は、2個の空間周波数k1,k2の関数であるが、図24〜図28では、説明の便宜上、1個の空間周波数にのみ着目して振幅及び位相の空間周波数に対する変化を示している。
【0124】
図26に示すように、積F(k1,k2)・G*(k1,k2)の位相の空間周波数に対する変化を示すグラフは、参照画像ウインドウ512の位置ズレに応じた位相の傾きを有するが、積F(k1,k2)・G*(k1,k2)の振幅は空間周波数により変動する。
【0125】
一方、 図27に示すように、合成位相スペクトルR’(k1,k2)の空間周波数に対する変化を示すグラフも、参照画像ウインドウ512の位置ズレに応じた位相の傾きを有するが、合成位相スペクトルR’(k1,k2)の振幅は空間周波数により変動しない。このように、空間周波数による振幅の変動を抑制した上で画像F(k1,k2),G(k1,k2)を比較するようにすると、振幅の変動の影響を受けずに画像F(k1,k2),G(k1,k2)を比較することができるので、基準画像501と参照画像502との明るさの違い等の影響を受けずにロバストに視差を演算することができる。
【0126】
さらに、図28に示すように、合成位相スペクトルR(k1,k2)の空間周波数に対する変化を示すグラフも、参照画像ウインドウ512の位置ズレに応じた位相の傾きを有するが、合成位相スペクトルR(k1,k2)の振幅は、高い周波数において0となっている。このようにノイズを多く含む高い周波数の成分を減衰させると、画像F(k1,k2),G(k1,k2)を比較することができるので、ノイズの影響を受けずにロバストに視差dを演算することができる。
【0127】
{位置ズレ演算部146}
位置ズレ演算部146は、合成位相スペクトルR(k1,k2)に基づいて、参照画像ウインドウ512の本来あるべき位置からの位置ズレを演算する。ここで、「本来あるべき位置」とは、参照画像ウインドウ512の内の画像が基準画像ウインドウ511の内の画像と理想的に一致するような参照画像ウインドウ512の位置のことをいう。
【0128】
位置ズレ演算部146は、まず、式(21)にしたがって、合成位相スペクトルR(k1,k2)を2次元離散逆フーリエ変換する。
【0129】
【数21】
【0130】
このようにして得られたPOC関数r’(n1,n2)は、画像f(n1,n2)とg(n1,n2)との移動量に相当する座標に急峻な相関ピークを持つことが知られている。このため、位置ズレ演算部146は、POC関数r’(n1,n2)が最大となるn1,n2を演算し、演算したn1,n2を参照画像ウインドウ512の本来あるべき位置からの位置ズレとする。なお、POC関数r’(n1,n2)は、一画素おきの離散な値をとるn1,n2の関数であるため、このままでは、位置ズレも一画素の分解能でしか求めることができない。
【0131】
そこで、位置ズレの演算に当たっては、2次関数等をPOC関数r’(n1,n2)にフィッティングすることのより、1画素以下の分解能でPOC関数r’(n1,n2)が最大となるn1,n2を演算することが望ましい。
【0132】
{対応点演算部147}
対応点演算部147は、参照画像ウインドウ512の座標に位置ズレ演算部146が演算した位置ズレを加えることにより、基準画像501の上の点P1に対応する参照画像502の上の点P2を演算する。
【0133】
<1.3 障害物検出装置1の動作>
図29は、障害物検出装置1の動作を説明するフローチャートである。
【0134】
図29に示すように、障害物の検出にあたっては、まず、ステレオカメラ11から演算処理装置12へ2次元ステレオ画像を入力する(ステップS101)。
【0135】
続いて、視差データ演算部121が、計測点Pにおける視差を演算し(ステップS102)、路面パラメータ推定部122が路面パラメータである傾きφ及び高さhを推定する(ステップS103)。
【0136】
さらに続いて、路面投影部123が、基準画像501の上で計測点Pを路面601に投影し(ステップS104)、障害物範囲特定部124が障害物範囲を特定し(ステップS105)、障害物領域特定部125が障害物領域を特定する(ステップ106)。
【0137】
そして、最後に、障害物距離測定部126が、障害物までの距離を測定する(ステップ107)。
【0138】
このような障害物検出装置1によれば、路面601の上にある特定の物体が映っている計測点Pの投影点Qを特定することができるので、路面601にある特定の物体を障害物として検出することができる。
【0139】
<2 第2実施形態>
第2実施形態は、第1実施形態に係る演算処理装置12に代えて採用することができる演算処理装置22に関する。
【0140】
図30は、第2実施形態に係る演算処理装置22のブロック図である。演算処理装置22は、演算処理装置12の視差データ演算部121、路面パラメータ推定部122、路面投影部123、障害物範囲特定部124、障害物領域特定部125、距離測定部126及び表示画像生成部127と同様の視差データ演算部221、路面パラメータ推定部222、路面投影部223、障害物範囲特定部224、障害物領域特定部225、距離測定部226及び表示画像生成部227を備える他、データ選択部228,229を備える。データ選択部228,229は、いずれも、検出すべき障害物が映っていない計測点Pを処理の対象から除外することにより、検出すべき障害物を安定して検出することができるようにする役割を果たしている。
【0141】
{データ選択部228}
データ選択部228は、路面投影部223による計測点Pの投影に先立って、3次元空間における路面601からの高さHが300mm<H<2000mmの範囲の点が映っている計測点Pのみを選択し、残余の計測点Pを路面601への投影対象から除外する。
【0142】
このように、路面601からの距離が特定の距離の計測点Pのみを選択するようにすれば、路面601そのものや障害物として検出すべきでない歩道橋等が映っている計測点P、すなわち、検出すべき障害物が映っていない計測点Pを路面601に投影しないので、検出すべき障害物を安定して検出することができる。
【0143】
{データ選択部229}
データ選択部229は、障害物範囲特定部124による投影点Qの集合の選択に先立って、同じx座標の投影点Qのうちy座標ypが最大となるあたりの投影点Qを選択し、残余の投影点Qを投影点Qの集合の選択対象から除外する。より望ましくは、y座標の最大値ymaxを求め、求めた最大値ymaxから所定値範囲内にあるy座標ypの投影点Qを選択する。
【0144】
このように、最もステレオカメラ11寄りの投影点Qを選択するようにすれば、最も重要なステレオカメラ11に最も近い障害物を検出することができる。
【0145】
図31は、図16に例示した投影点Qからデータ選択部229が投影点Qを選択した後に障害物範囲特定部224が投影点Qの集合を選択した結果を示す図である。図31には、先行車のうちステレオカメラ11に近い先行車602に由来する投影点Qの集合612のみが選択された状態が示されている。
【0146】
このような演算処理装置22を採用して障害物検出装置を構成しても、路面601の上にある特定の物体を障害物として検出することができる。
【図面の簡単な説明】
【0147】
【図1】第1実施形態に係る障害物検出装置の模式図である。
【図2】ステレオカメラが設置された自動車の側面図である。
【図3】ステレオカメラが設置された自動車の上面図である。
【図4】障害物検出装置のブロック図である。
【図5】基準画像及び基準画像に定義されたxy直交座標系を示す図である。
【図6】参照画像及び参照画像に定義されたxy直交座標系を示す図である。
【図7】路面に対するステレオカメラの配置を説明する図である。
【図8】路面パラメータの推定を説明する図である。
【図9】実写画像による路面パラメータの推定例を説明する図である。
【図10】路面パラメータ推定部のブロック図である。
【図11】路面パラメータの推定を説明する図である。
【図12】路面パラメータの推定を説明する図である。
【図13】路面パラメータの推定を説明する図である。
【図14】h−φ空間を示す図である。
【図15】h’−φ’空間を示す図である。
【図16】路面投影部が基準画像上で計測点を路面に投影した結果を示す図である。
【図17】障害物範囲特定部が投影点の集合を選択した結果を示す図である。
【図18】障害物領域特定部が障害物領域を特定した結果を示す図である。
【図19】表示画像生成部が生成した画像を示す図である。
【図20】水平面内における障害物、カメラの焦点位置及びカメラの撮像面の位置関係を示す図である。
【図21】POC対応付け演算部のブロック図である。
【図22】基準画像ウインドウの設定を説明する図である。
【図23】参照画像ウインドウの設定を説明する図である。
【図24】画像F(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図25】画像G(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図26】積F(k1,k2)・G*(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図27】合成位相スペクトルR’(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図28】合成位相スペクトルR(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図29】障害物検出装置の動作を説明するフローチャートである。
【図30】第2実施形態に係る演算処理装置のブロック図である。
【図31】障害物範囲特定部が投影点の集合を選択した結果を示す図である。
【符号の説明】
【0148】
1 障害物検出装置
11 ステレオカメラ
12 演算処理装置
13 表示装置
121 視差データ演算部
122 路面パラメータ推定部
123 路面投影部
124 障害物範囲特定部
125 障害物領域特定部
126 距離測定部
127 表示生成部
【技術分野】
【0001】
本発明は、平面上にある特定の物体を検出する物体検出装置に関する。
【背景技術】
【0002】
自動車に搭載される運転支援システムは、自動車の前方に存在する障害物を検出し、検出した障害物までの距離を測距した上で、自動車が危険な状態にあるのか否かを判断する。そして、危険な状態にある場合には、運転者に警告を発したり、自動的にブレーキを制御したりすることにより、事故の予防を支援する。
【0003】
このような運転支援システムには、自動車の前方をステレオカメラで撮影し、画像に映っている障害物をパターン認識の技術を用いて検出するとともに、検出した障害物までの距離を視差を用いて測距するものがある。ただし、画像に映っている障害物をパターン認識の技術を用いて検出するためには、複雑な画像認識処理が必要であるという問題がある。また、パターン認識の技術を用いた障害物の検出には、誤検出が多いという問題がある。
【0004】
このため、特許文献1〜3に示すように、画像に映っている障害物を視差を用いて検出することも検討されている。
【0005】
例えば、特許文献1は、画像に映っている路面を検出し、路面からの高さが所定の高さ以上の障害物を検出する技術を開示している。また、特許文献2は、光軸となす角と視差とを投票し、投票数が多い障害物を検出する技術を開示している。さらに、特許文献3は、床面に対するステレオカメラの位置及び姿勢を表す平面パラメータを推定し、床面からの高さが所定の高さ以上の障害物を検出する技術を開示している。
【0006】
【特許文献1】特開平10−143659号公報
【特許文献2】特開平11−345336号公報
【特許文献3】特開2003−269937号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
運転支援システムにおいて、走行している自動車を危険な状態に陥れる障害物として検出すべき物体は、路面上にある特定の物体に限られる。例えば、路面上にない物体を検出する必要はないし、路面上にあっても自動車を危険な状態に陥れることがない物体は検出する必要はない。一方、路面上にある先行車は、障害物として検出すべきであると考えられる。
【0008】
しかし、従来の技術による物体の検出では、路面上にある特定の物体のみを選択的に検出することはできなかった。
【0009】
このような問題は、運転支援システムに限られず、平面上にある特定の物体を検出すべき物体検出装置、例えば、自律走行ロボット、無人搬送車、監視カメラ等に搭載される物体検出装置に共通して存在する。
【0010】
本願発明は、この問題を解決するためになされたもので、平面上にある特定の物体を検出することができる物体検出装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するため、請求項1の発明は、物体検出装置であって、2次元ステレオ画像を撮影し、基準画像及び参照画像として出力するステレオカメラと、基準画像上の計測点における基準画像と参照画像との間の視差を演算する視差演算部と、計測点の座標と計測点における視差との複数の組から基準画像に映っている着目する平面に対する前記ステレオカメラの位置及び姿勢を表す平面パラメータを推定する平面パラメータ推定部と、平面パラメータを用いて基準画像上で計測点を投影面に投影する平面投影部と、前記平面投影部が複数の計測点を投影面に投影することにより得られた複数の投影点から特定の分布を有する投影点の集合を選択する物体候補選択部とを備える。
【0012】
請求項2の発明は、請求項1に記載の物体検出装置において、前記平面投影部による計測点の投影に先立って、着目する平面からの距離が特定の距離の点が映っている計測点のみを選択する第1の選択部をさらに備える。
【0013】
請求項3の発明は、請求項1又は請求項2に記載の物体検出装置において、前記物体候補選択部による投影点の集合の選択に先立って、最も前記ステレオカメラ寄りの投影点を選択する第2の選択部をさらに備える。
【0014】
請求項4の発明は、請求項1ないし請求項3のいずれかに記載の物体検出装置において、前記視差演算部は、基準画像に第1のウインドウを設定する第1のウインドウ設定部と、参照画像に第2のウインドウを設定する第2のウインドウ設定部と、第1のウインドウ内の画像を実空間から周波数空間へ変換する第1の変換部と、第2のウインドウ内の画像を実空間から周波数空間へ変換する第2の変換部と、空間周波数による振幅の変動を抑制した上で周波数空間において第1のウインドウ内の画像と第2のウインドウ内の画像とを比較する画像比較部と、前記画像比較部の比較結果に基づいて計測点に対応する参照画像上の対応点を演算する対応点演算部とを備える。
【0015】
請求項5の発明は、請求項4に記載の物体検出装置において、前記視差演算部が位相相関限定法を用いて視差を演算する。
【0016】
請求項6の発明は、請求項1ないし請求項5のいずれかに記載の物体検出装置において、前記平面パラメータ推定部がハフ変換により前記平面パラメータを推定する。
【0017】
請求項7の発明は、請求項6に記載の物体検出装置において、前記平面パラメータ推定部は、平面パラメータで張られる空間を複数のブロックに分割する空間分割部と、前記空間分割部が複数のブロックに分割した空間において計測点の座標と計測点における視差との複数の組から決定される複数の直線が通過するブロックに投票を行う投票部と、投票が最も多いブロックが代表する平面パラメータを求めるべき平面パラメータとして決定する平面パラメータ決定部とを備える。
【0018】
請求項8の発明は、請求項1ないし請求項7のいずれかに記載の物体検出装置において、前記物体候補選択部が基準画像上で特定の長さ、傾き又は形状を有する線素を構成する投影点の集合を選択する。
【0019】
請求項9の発明は、請求項8に記載の物体検出装置において、前記物体候補選択部が基準画像上で実質的に水平な線素を構成する投影点の集合を選択する。
【0020】
請求項10の発明は、請求項8に記載の物体検出装置において、前記物体候補選択部が基準画像上で基準画像上の位置に応じた長さの線素を構成する投影点の集合を選択する。
【0021】
請求項11の発明は、請求項1ないし請求項10のいずれかに記載の物体検出装置において、前記物体候補選択部が選択した投影点の集合が存在する範囲であって着目する平面からの距離が特定の距離の基準画像上の領域を検出すべき物体が映っている領域として特定する物体領域特定部をさらに備える。
【0022】
請求項12の発明は、請求項1ないし請求項10のいずれかにに記載の物体検出装置において、前記物体候補選択部が選択した投影点の集合が存在する範囲内においてパターン認識により検出すべき物体が映っている領域を特定する物体領域特定部をさらに備える。
【0023】
請求項13の発明は、請求項1ないし請求項12のいずれかに記載の物体検出装置において、前記ステレオカメラが平面上を移動する移動体に搭載され、着目した平面が前記移動体の移動面である。
【発明の効果】
【0024】
請求項1の発明によれば、平面上にある特定の物体が映っている計測点の投影点を特定することができるので、平面上にある特定の物体を検出することができる。
【0025】
請求項2の発明のよれば、検出すべき物体が映っていない計測点を投影面に投影しないので、検出すべき物体を安定して検出することができる。
【0026】
請求項3の発明によれば、ステレオカメラに最も近い物体を検出することができる。
【0027】
請求項4ないし請求項5の発明によれば、振幅の変動の影響を受けなくなるので、基準画像と参照画像との明るさの違い等の影響を受けずにロバストに視差を演算することができる。
【0028】
請求項6ないし請求項7の発明によれば、平面パラメータをロバストに推定することができる。
【0029】
請求項9ないし請求項10の発明によれば、特定の物体を適切に検出することができる。
【0030】
請求項11の発明によれば、着目する平面からの距離が特定の範囲にある物体を検出することができる。
【0031】
請求項12の発明によれば、物体の範囲及び属性をより正確に認識することができる。
【発明を実施するための最良の形態】
【0032】
<1 第1実施形態>
<1.1 障害物検出装置1の構成>
図1は、第1実施形態に係る障害物検出装置1の模式図である。図1に示す障害物検出装置1は、自動車に搭載され、自動車の前方の障害物を検出する。ただし、このことは、本願発明の適用範囲をこのような障害物検出装置1に限定するものではない。すなわち、本願発明は、自律走行ロボットや無人搬送車のような移動体に搭載され、移動体の移動面上にある特定の物体を検出する物体検出装置に適用することができるのはもちろんのこと、固定監視カメラのような移動を前提としない装置に搭載され、平面上にある特定の物体を検出する物体検出装置にも適用することができる。
【0033】
図1に戻って説明すると、障害物検出装置1は、ステレオカメラ11、演算処理装置12及び表示装置13を備える。
【0034】
{ステレオカメラ11}
ステレオカメラ11は、2次元ステレオ画像を撮影し、撮影した2次元ステレオ画像を画像データとして出力する。すなわち、ステレオカメラ11は、同期して繰り返し撮影を行う2個のカメラ111,112を備え、カメラ111が撮影した2次元画像を画像データとして出力するとともに、カメラ112が撮影した2次元画像を画像データとして出力する。
【0035】
ステレオカメラ11は、平行ステレオカメラである。したがって、カメラ111,112は、間隔を置いて同一方向に向けて設置されており、カメラ111の光軸501とカメラ112の光軸502とは平行となっている。
【0036】
また、カメラ111の光学系の焦点距離及びエリアイメージセンサの撮像面の大きさとカメラ112の光学系の焦点距離及びエリアイメージセンサの撮像面の大きさとは同一となっている。したがって、カメラ111の画角とカメラ112の画角とは同一となっている。
【0037】
さらに、カメラ111のエリアイメージセンサの画素は縦横両方向に規則的に配列されており、カメラ112のエリアイメージセンサの画素ピッチとカメラのエリアイメージセンサの画素ピッチとは同一である。したがって、カメラ111の解像度とカメラ112の解像度とは同一となっている。
【0038】
加えて、カメラ111,112の光学系の収差は、演算処理装置12における演算処理に支障が生じないように、良好に補正されている。
【0039】
ただし、カメラ111,112がこれらの条件を満たしていなくても、画像処理を行うことにより、これらの条件を満たしている場合と実質的に同等の2次元ステレオ画像を得ることができる。
【0040】
なお、ここでは、ステレオカメラ11が2個のカメラ111,112を備えるとしたが、ステレオカメラ11が3個以上のカメラを備えていてもよい。
【0041】
図2及び図3は、ステレオカメラ11が設置された自動車の模式図である。図2は、自動車の側面図、図3は、自動車の上面図となっている。図2及び図3に示すように、ステレオカメラ11は、例えば、自動車の車室内のバックミラーの近傍に前方に向けて設置され、自動車の前方を撮影する。
【0042】
{演算処理装置12}
演算処理装置12は、ステレオカメラ11が出力した2次元ステレオ画像の一方を基準画像、他方を参照画像として取得し、基準画像及び参照画像に映っている障害物を検出する。演算処理装置12は、基準画像及び参照画像に映っている物体のうち、路面上にある特定の物体を障害物として選択的に検出する。
【0043】
また、演算処理装置12は、検出した障害物の位置や検出した障害物までの距離の情報を基準画像に重畳した画像を生成し、生成した画像を出力する。
【0044】
演算処理装置12における演算処理は、専用ハードウエアを用いるハードウエア処理によって行ってもよいし、マイクロプロセッサ及びプログラムを用いるソフトウエア処理によって行ってもよいし、ハードウエア処理とソフトウエア処理とを混在させた処理によって行ってもよい。
【0045】
{表示装置13}
表示装置13は、演算処理装置12が出力した画像を表示する。
【0046】
<1.2 演算処理装置12の構成>
図4は、演算処理装置12のブロック図である。演算処理装置12は、視差データ演算部121、路面パラメータ推定部122、路面投影部123、障害物範囲特定部124、障害物領域特定部125、距離測定部126及び表示画像生成部127を備える。
【0047】
{視差データ演算部121}
図5は、基準画像501及び基準画像501に定義されたxy直交座標系を示す図であり、図6は、図5に示す基準画像501と同時に撮影された参照画像502及び参照画像502に定義されたxy直交座標系を示す図である。図5に示す基準画像501及び図6に示す参照画像502には、路面601、先行車602,603、遮音壁604、中央分離帯605、空606が映っている。基準画像501及び参照画像502に定義されたxy直交座標系は、それぞれ、基準画像501及び参照画像502の中心を原点とし、横方向をx軸方向、縦方向をy軸方向としている。
【0048】
視差データ演算部121は、図5に示す基準画像501の上の点P1(x1,y1)に対応する、図6に示す参照画像502の上の点P2(x2,y2)を特定し、基準画像501の上の点P1における基準画像501と参照画像502との間の視差dを演算する。ここでいう「対応する」とは、同じもの(図5及び図6では、先行車602のリア)が映っているという意味である。また、座標x1,x2は、それぞれ、基準画像501の上の原点及び参照画像502の上の原点から横方向に何画素分離れているのかを表しており、座標y1,y2は、それぞれ、基準画像501の上の原点及び参照画像502の上の原点から縦方向に何画素分離れているのかを表している。
【0049】
基準画像501の上の点P1と参照画像502の上の点P2との対応付けは、公知の様々な手法により行うことができるが、後述するPOC(Phase-Only Correlation;位相相関限定)法を用いて行うことが望ましい。
【0050】
対応付けは、基準画像501を構成する画素の全てについて行ってもよいし、所定の画素間隔で間引きを行った後の画素についてのみ行ってもよい。なお、以下では、対応付けを行った基準画像501の上の点を「計測点」という。
【0051】
ここで、ステレオカメラ11は平行ステレオカメラであるので、基準画像501の上の点P1のy座標y1と参照画像502の上の点P2のy座標y2とは等しくなり、視差dは、式(1)で表すことができる。
【0052】
【数1】
【0053】
{路面パラメータ推定部122}
路面パラメータ推定部122は、基準画像501に映っている路面601を認識し、3次元空間内における着目する路面601に対するステレオカメラ11の位置及び姿勢を表す路面パラメータを推定する。
【0054】
図7は、路面601に対するステレオカメラ11の配置を説明する図である。図7において、YZ直交座標系は道路に固定された道路座標系であり、Z軸は路面601にあり、+Z方向は道路の伸びる方向となっているとする。また、yz直交座標系はステレオカメラ11に固定されたカメラ座標系であり、z軸はカメラ111,112の光軸501,502と平行となっており、+z方向はステレオカメラ11の向きとなっているとする。
【0055】
道路は、カーブすることなくまっすぐ伸びているとする。また、ステレオカメラ11は、ピッチ方向(YZ平面に垂直な軸の周りに回転する方向)に下方に傾けて設置され、ステレオカメラ11の撮影方向(+z方向)と道路の伸びる方向(+Z方向)とのなす角はφであるとする。さらに、ステレオカメラ11のヨー方向(Y軸の周りに回転する方向)及びロール方向(Z軸の周りに回転する方向)の傾きは、実質的に0であるとする。加えて、ステレオカメラ11の路面601からの高さはhであるとする。
【0056】
このような前提の下では、計測点P(x,y)のy座標yと、ステレオカメラ11の直下にある道路座標原点から計測点Pに映っている点Aまでの距離Dとの関係は、式(2)及び式(3)を用いて表すことができる。
【0057】
【数2】
【0058】
【数3】
【0059】
ただし、fは、カメラ111,112の光学系の焦点距離、pは、カメラ111,112のエリアイメージセンサの画素ピッチ、Nは、カメラ111,112のエリアイメージセンサの縦方向の画素数、θは、カメラ111,112の垂直方向の画角の半角である。
【0060】
ここで、h/D及びy/αが1と比較して十分に小さい場合、式(2)は、式(4)に簡略化することができる。
【0061】
【数4】
【0062】
式(4)より、距離Dは、式(5)で表される。
【0063】
【数5】
【0064】
一方、計測点Pにおける視差dと距離Dとの関係は、式(6)で表される。
【0065】
【数6】
【0066】
ただし、Bは、基線長(ベースライン)である。
【0067】
式(5)及び式(6)より、視差dと計測点Pのy座標yとの関係は、式(7)で表される。
【0068】
【数7】
【0069】
図8は、視差d及びy座標yで張られるd−y空間における路面パラメータの推定を説明する図である。
【0070】
式(7)において、ステレオカメラ11の位置を表す高さh及びステレオカメラ11の姿勢を表す傾きφは、求めるべき路面パラメータである。また、基線長B及びパラメータαは、ステレオカメラ11の光学特性から求めることができる。したがって、式(7)は、計測点Pのy座標yと計測点Pにおける視差dとの複数の組をd−y空間にプロットすると、傾斜がB/h、y切片がBαφ/hの直線701に路面601に由来するプロット点が乗ることを示している。逆に言えば、計測点Pのy座標yと計測点Pにおける視差dとの複数の組をd−y空間にプロットし、プロット点が集中する直線701を検出すれば、例えば、直線701のx切片−αφから傾きφを推定することができ、y切片Bαφ/hから高さhを推定することができる。なお、路面パラメータとして、傾きφ及び高さh以外のパラメータを用いてもよい。
【0071】
図9は、実写画像による路面パラメータの推定例を説明する図である。図9に示すように、計測点Pのy座標と計測点Pにおける視差dとの多数の組をプロットしたd−y空間には、d=0.167y+25.0で表される直線702を検出することができ、傾きをφ=0.047rad=2.7degree、高さをh=1250mmと推定することができる。図9のd−y空間において、直線702よりも上方にあるプロット点は、主に、路面601より高い位置にある物体に由来するプロット点であり、直線702より下方にあるプロット点は、主に、ノイズに由来するプロット点である。
【0072】
ここで、d−y空間の直線702をロバストに検出し傾きφ及び高さhをロバストに推定するためには、ハフ変換に代表される投票を用いた方法により、傾きφ及び高さhで張られるφ−h空間において傾きφ及び高さhを直接推定することが望ましい。
【0073】
図10は、この方法によりφ−h空間において傾きφ及び高さhを推定する路面パラメータ推定部122のブロック図である。また、図11〜図13は、この方法によるφ−h空間における傾きφ及び高さhの推定を説明する図である。
【0074】
この方法により傾きφ及び高さhを推定するためには、まず、図11に示すように、空間分割部1221がφ−h空間を複数のブロック711に分割する。続いて、図12に示すように、投票部1222が、複数のブロック711に分割されたφ−h空間において計測点Pのy座標yと計測点Pにおける視差dとの複数の組から式(7)を変形した式(8)によって決定される複数の直線712が通過するブロック711に投票を行う。さらに続いて、図13に示すように、路面パラメータ決定部1223が投票が最も多いブロック711が代表する傾きφ及び高さhを求めるべき傾きφ及び高さhとして決定する。なお、図12及び図13においては、ブロック711の中の数字は投票数を示している。
【0075】
【数8】
【0076】
空間分割部1221は、φ−h空間のうち、傾きφ及び高さhがとり得る範囲、例えば、φ=0〜0.1,h=1000〜1500の範囲を複数のブロック711、例えば、φ方向に50個、h方向に50個のブロック711に分割する。
【0077】
このような傾きφ及び高さhの推定によれば、路面601が映っていない計測点Pに由来する投票が特定のブロック711に集中することがないので、傾きφ及び高さhをロバストに推定することができる。
【0078】
なお、演算の便宜のため、式(9)及び式(10)にしたがって、図14に示すようなh−φ空間を図15に示すようなh’−φ’空間にアフィン変換してもよい。
【0079】
【数9】
【0080】
【数10】
【0081】
ここで、p_w及びp_sは、それぞれ、φ−h空間におけるφのとり得る範囲の上限値及び下限値であり、h_w及びh_sは、それぞれ、φ−h空間におけるhのとり得る範囲の上限値及び下限値であり、p_pは、φ’−h’空間におけるφ’のとり得る範囲の上限値であり、h_pは、φ’−h’空間におけるh’のとり得る範囲の上限値である。また、このようは変換を行った場合、式(8)に代えて、式(11)を用いることになる。
【0082】
【数11】
【0083】
なお、上述の説明では、路面が平坦であることを前提として説明を行ったが、路面がうねっている場合は、基準画像501及び参照画像502を前後に分割し、分割された画像ごとに傾きφ及び高さhを推定すればよい。また、地図情報及びGPS(Global Positioning System)を用いて特定した自車位置の情報から路面601のうねりの情報をあらかじめ取得し、それにあわせて傾きφ及び高さhを調整してもよい。
【0084】
{路面投影部123}
路面投影部123は、路面パラメータを用いて基準画像501の上で計測点Pを路面601に投影する。ここで、「基準画像501の上で計測点Pを路面601に投影する」とは、計測点Pに映っている点P’を3次元空間において路面601に投影した点Q’が映っている投影点Q(xp,yp)へ、基準画像501において計測点Pを投影することをいう。
【0085】
ここで、計測点Pに映っている点P’の路面601からの高さHが式(12)で表されることから、投影点Qのy座標ypは、式(12)においてH=0,y=ypとした式(13)で表される。
【0086】
【数12】
【0087】
【数13】
【0088】
なお、路面601への投影は、2次元平面で処理を行うためのものであるため、計測点Pの投影先を路面601とすることは必須ではなく、路面601以外の平面としてもよい。例えば、障害物検出装置1では、投影面を路面601と平行な平面とすることができるし、室内を走行する自立走行ロボットに搭載される、走行路面上にあるテーブルを検出する物体検出装置では、テーブルのテーブル面を投影面とすれば、テーブルの位置を効率的に特定することができる。
【0089】
図16は、路面投影部123が計測点Pを路面601に投影した結果を示す図である。図16には、先行車602に由来する投影点Qの集合612、先行車603に由来する投影点Qの集合613、遮音壁604に由来する投影点Qの集合614、中央分離帯605に由来する投影点Qの集合615が示されている。
【0090】
{障害物範囲特定部124}
障害物範囲特定部124は、複数の投影点Qから特定の分布を有する投影点Qの集合を選択し、特定の分布を有する投影点Qの集合が存在する範囲を障害物が存在する範囲(以下、「障害物範囲」という)と特定する。ここで、「特定の分布を有する投影点Qの集合を選択」するとは、検出すべき障害物に由来する投影点Qの集合が有していると予想される分布を有する投影点Qの集合を選択するということであり、例えば、特定の長さ、傾き又は形状を有する線素を構成する投影点Qの集合を選択するということである。ここで、線素を構成する投影点Qの集合の抽出は、(1)ハフ変換による直線パラメータの推定、(2)推定された直線パラメータで表される直線の近傍の投影点のグループ化、の2つの段階を経て行うことができる。また、「線素」には、線分だけでなく曲線分も含まれる。
【0091】
障害物検出装置1が路面601の上にある先行車602,603を適切に検出するためには、基準画像501の上で実質的に水平(線素の傾きが0.1rad以内)であり、基準画像501の上の位置に応じた長さl(ay−w<l<ay+w)の線素を構成する投影点Qの集合を選択することが望ましい。基準画像501の上の位置に応じた長さlの線素を構成する投影点Qの集合を選択することにしたのは、基準画像501の上の位置によって先行車602,603が映る大きさが変化するからであり、長さlの範囲は、概ね2m程度の幅の先行車602,603が長さの範囲内になるように設定しておくことが望ましい。もちろん、検出すべき障害物に応じて長さの範囲を変更すれば、自動車の先行車602,603だけでなく、路上落下物、バイク、歩行者等も障害物として検出することができる。
【0092】
なお、障害物範囲特定部124が、実質的に水平な線素を構成する投影点Qの集合を選択する場合は、障害物範囲は水平方向(±x方向)の広がりによって特定されることになるが、より一般的には、障害物範囲は、路面601に平行な平面上の領域として特定される。
【0093】
図17は、図16に例示した投影点Qから、障害物範囲特定部124が投影点Qの集合612,613を選択した結果を示す図である。図17には、上述の条件を満たす線素を構成する先行車602に由来する投影点Qの集合612、先行車603に由来する投影点Qの集合613のみが選択され、上述の条件を満たさない線素を構成する遮音壁604に由来する投影点Qの集合614、中央分離帯605に由来する投影点Qの集合615は選択されないことが示されている。
【0094】
{障害物領域特定部125}
障害物領域特定部125は、障害物範囲であって、3次元空間において路面601からの高さHが300mm<H<1500mmとなる基準画像501の上の領域を検出すべき障害物が映っている障害物領域として特定する。高さHの範囲の上限は、衝突の可能性がある障害物のみを検出するため、自車の高さに基づいて設定することが望ましい。
【0095】
図18は、図17に例示した障害物範囲から障害物領域特定部125が障害物領域622,623を特定した結果を示す図である。図18には、衝突の可能性がある障害物が映っている範囲がハッチングで示される障害物領域622,623として特定されたことが示されている。
【0096】
なお、上述の説明では、路面601からの距離が特定の距離となる基準画像501の上の領域を障害物領域622,623として特定したが、障害物範囲においてパターン認識により障害物領域を特定するようにすれば、障害物の範囲及び属性をより正確に認識することができる。なお、パターン認識は、一般的にいって、複雑で演算コストが高い処理であるが、障害物検出装置1では、パターン認識の対象とすべき範囲が障害物範囲に限られるので、比較的に低い演算コストでパターン認識を行うことができる。また、地図情報及びGPSを用いて特定した自車位置の情報から、道路が曲がっている等の情報をあらかじめ取得し、進行方向にある障害物領域をさらに限定してもよい。
【0097】
{障害物距離測定部126}
距離測定部126は、障害物領域622,623の内にある計測点Pにおける視差から障害物領域622,623に映っている障害物までの距離Dを式(14)にしたがって測定する。図20には、式(14)の理解を容易にするため、水平面内における障害物、カメラ111,112の焦点位置及びカメラ111,112の撮像面の位置関係を示した。
【0098】
【数14】
【0099】
このとき、1個の計測点Pにおける視差dから障害物までの距離を測定してもよいが、2個以上の計測点Pにおける視差dの平均値から障害物までの距離を測定することがより望ましい。さらに、2個以上の計測点Pにおける視差dの中央値から所定範囲内にある視差dの平均値から障害物までの距離を測定するアウトライア処理を行えば、偶発的に得られた極端に大きい視差dや極端に小さい視差dの影響を受けることなく、安定した視差dの平均値を得ることができる。
【0100】
なお、このアウトライア処理により、障害物領域623を処理の対象から省くことができる。すなわち、計測点Pを多数取った場合、計測点Pの数は手前の障害物(図18では、先行車602)の方が多くなり、視差dの中央値は手前の障害物の部分の視差となるので、上述の「所定範囲内」から外れた「極端に小さい視差d」すなわち遠い距離にある障害物の視差dを距離測定の対象から省くことができる。これにより、手前の障害物のみを障害物として特定し、距離を算出することができる。
【0101】
{表示画像生成部127}
表示画像生成部127は、障害物領域特定部125が特定した障害物領域622を示す情報や距離測定部126が測定した障害物までの距離の情報を基準画像501に重畳した画像を生成し、表示装置13に出力する。
【0102】
図19は、表示画像生成部127が生成した画像の一例である。画像には、基準画像501に重畳して、障害物領域622及び障害物までの距離632が表示されている。
【0103】
{運転支援}
単に図19に示すような画像を表示するだけでなく、演算処理装置12の演算処理結果に基づいて運転支援を行うようにしてもよい。例えば、障害物までの距離が閾値以下となった場合に、衝突の危険があるとみなして、運転者に警告を発したり、ブレーキの制御を行ったりするようにしてもよい。
【0104】
{POC対応付け演算}
図21は、POC対応付け演算を行うPOC対応付け演算部140のブロック図である。
【0105】
図21に示すように、POC対応付け演算部140は、基準画像ウインドウ設定部141、参照画像ウインドウ設定部142、基準画像ウインドウDFT(Discrete Fourier Transform)部143、参照画像ウインドウDFT部144、位相比較部145、位置ズレ演算部146及び対応点演算部147を備える。
【0106】
{基準画像ウインドウ設定部141}
図22は、基準画像ウインドウ511の設定を説明する図である。
【0107】
図22に示すように、基準画像ウインドウ設定部141は、着目する点P1を中心とする矩形の基準画像ウインドウ511を基準画像501に設定する。基準画像ウインドウ511の大きさは、例えば、縦31画素×横31画素である。
【0108】
{参照画像ウインドウ設定部142}
図23は、参照画像ウインドウ512の設定を説明する図である。
【0109】
図23に示すように、参照画像ウインドウ設定部142は、基準画像ウインドウ511と形状及び大きさが同じウインドウで参照画像502を走査し、ウインドウの内の画像が基準画像ウインドウ511の内の画像と最も類似する参照画像ウインドウ512を参照画像502に設定する。パターンの類似度の評価方法は、特に制限されないが、例えば、ウインドウ間の相関演算、特にSAD(Sum of Absolute Differences)を用いた相関演算により行うことができる。
【0110】
一般的に言えば、参照画像ウインドウ設定部142は、参照画像502の全体をウインドウで走査する必要があるが、障害物検出装置1のようにステレオカメラ11が平行ステレオカメラである場合は、基準画像ウインドウ511とy座標が同じ部分のみウインドウで走査すれば足りる。
【0111】
{基準画像ウインドウDFT部143及び参照画像ウインドウDFT部144}
基準画像ウインドウDFT部143及び参照画像ウインドウDFT部144は、それぞれ、基準画像ウインドウ511の内の画像f(n1,n2)及び参照画像ウインドウ512の内の画像g(n1,n2)を式(15)、式(16)、式(17)及び式(18)にしたがって、2次元離散フーリエ変換する。
【0112】
【数15】
【0113】
【数16】
【0114】
【数17】
【0115】
【数18】
【0116】
ここで、画像f(n1,n2),g(n1,n2)の画素数は、いずれも、横方向にN1=2M1+1画素、縦方向にN2=2M2+1画素としており、離散空間のインデックスは、n1=−M1,・・・,M1,n2=−M2,・・・,M2としている。また、k1及びk2は、空間周波数であって、k1=−M1,・・・,M1,k2=−M2,・・・,M2である。式(15)中のAF(k1,k2)及び式(16)中のAG(k1,k2)は、それぞれ、空間周波数(k1,k2)における振幅であり、式(15)中のexp{jθF(k1,k2)}及び式(16)中のexp{jθG(k1,k2)}は、それぞれ、空間周波数(k1,k2)における位相である。
【0117】
このような2次元離散フーリエ変換により、実空間の画像f(n1,n2),画像g(n1,n2)は、周波数空間の画像F(k1,k2),G(k1,k2)に変換されたことになる。
【0118】
{位相比較部145}
位相比較部145は、周波数空間において画像F(k1,k2),G(k1,k2)を比較するため、式(19)で表される合成位相スペクトルR’(k1,k2)を算出する。合成位相スペクトルR’(k1,k2)は、画像F(k1,k2)と画像G(k1,k2)の複素共役G*(k1,k2)との積F(k1,k2)・G*(k1,k2)を正規化することにより得ることができる。
【0119】
【数19】
【0120】
さらに、位相比較部145は、ノイズの影響を小さくするため、式(20)で表される合成位相スペクトルR(k1,k2)を算出する。合成位相スペクトルR(k1,k2)は、重み付け関数H(k1,k2)を合成位相スペクトルR’(k1,k2)に乗ずることにより得ることができる。
【0121】
【数20】
【0122】
続いて、このような合成位相スペクトルR(k1,k2)を用いる理由について説明する。
【0123】
図24〜図28は、それぞれ、画像F(k1,k2)、画像G(k1,k2)、画像F(k1,k2)と画像G(k1,k2)の複素共役G*(k1,k2)との積F(k1,k2)・G*(k1,k2)、合成位相スペクトルR’(k1,k2)及び合成位相スペクトルR(k1,k2)の振幅及び位相の空間周波数に対する変化の一例を示す図である。これらの振幅及び位相は、2個の空間周波数k1,k2の関数であるが、図24〜図28では、説明の便宜上、1個の空間周波数にのみ着目して振幅及び位相の空間周波数に対する変化を示している。
【0124】
図26に示すように、積F(k1,k2)・G*(k1,k2)の位相の空間周波数に対する変化を示すグラフは、参照画像ウインドウ512の位置ズレに応じた位相の傾きを有するが、積F(k1,k2)・G*(k1,k2)の振幅は空間周波数により変動する。
【0125】
一方、 図27に示すように、合成位相スペクトルR’(k1,k2)の空間周波数に対する変化を示すグラフも、参照画像ウインドウ512の位置ズレに応じた位相の傾きを有するが、合成位相スペクトルR’(k1,k2)の振幅は空間周波数により変動しない。このように、空間周波数による振幅の変動を抑制した上で画像F(k1,k2),G(k1,k2)を比較するようにすると、振幅の変動の影響を受けずに画像F(k1,k2),G(k1,k2)を比較することができるので、基準画像501と参照画像502との明るさの違い等の影響を受けずにロバストに視差を演算することができる。
【0126】
さらに、図28に示すように、合成位相スペクトルR(k1,k2)の空間周波数に対する変化を示すグラフも、参照画像ウインドウ512の位置ズレに応じた位相の傾きを有するが、合成位相スペクトルR(k1,k2)の振幅は、高い周波数において0となっている。このようにノイズを多く含む高い周波数の成分を減衰させると、画像F(k1,k2),G(k1,k2)を比較することができるので、ノイズの影響を受けずにロバストに視差dを演算することができる。
【0127】
{位置ズレ演算部146}
位置ズレ演算部146は、合成位相スペクトルR(k1,k2)に基づいて、参照画像ウインドウ512の本来あるべき位置からの位置ズレを演算する。ここで、「本来あるべき位置」とは、参照画像ウインドウ512の内の画像が基準画像ウインドウ511の内の画像と理想的に一致するような参照画像ウインドウ512の位置のことをいう。
【0128】
位置ズレ演算部146は、まず、式(21)にしたがって、合成位相スペクトルR(k1,k2)を2次元離散逆フーリエ変換する。
【0129】
【数21】
【0130】
このようにして得られたPOC関数r’(n1,n2)は、画像f(n1,n2)とg(n1,n2)との移動量に相当する座標に急峻な相関ピークを持つことが知られている。このため、位置ズレ演算部146は、POC関数r’(n1,n2)が最大となるn1,n2を演算し、演算したn1,n2を参照画像ウインドウ512の本来あるべき位置からの位置ズレとする。なお、POC関数r’(n1,n2)は、一画素おきの離散な値をとるn1,n2の関数であるため、このままでは、位置ズレも一画素の分解能でしか求めることができない。
【0131】
そこで、位置ズレの演算に当たっては、2次関数等をPOC関数r’(n1,n2)にフィッティングすることのより、1画素以下の分解能でPOC関数r’(n1,n2)が最大となるn1,n2を演算することが望ましい。
【0132】
{対応点演算部147}
対応点演算部147は、参照画像ウインドウ512の座標に位置ズレ演算部146が演算した位置ズレを加えることにより、基準画像501の上の点P1に対応する参照画像502の上の点P2を演算する。
【0133】
<1.3 障害物検出装置1の動作>
図29は、障害物検出装置1の動作を説明するフローチャートである。
【0134】
図29に示すように、障害物の検出にあたっては、まず、ステレオカメラ11から演算処理装置12へ2次元ステレオ画像を入力する(ステップS101)。
【0135】
続いて、視差データ演算部121が、計測点Pにおける視差を演算し(ステップS102)、路面パラメータ推定部122が路面パラメータである傾きφ及び高さhを推定する(ステップS103)。
【0136】
さらに続いて、路面投影部123が、基準画像501の上で計測点Pを路面601に投影し(ステップS104)、障害物範囲特定部124が障害物範囲を特定し(ステップS105)、障害物領域特定部125が障害物領域を特定する(ステップ106)。
【0137】
そして、最後に、障害物距離測定部126が、障害物までの距離を測定する(ステップ107)。
【0138】
このような障害物検出装置1によれば、路面601の上にある特定の物体が映っている計測点Pの投影点Qを特定することができるので、路面601にある特定の物体を障害物として検出することができる。
【0139】
<2 第2実施形態>
第2実施形態は、第1実施形態に係る演算処理装置12に代えて採用することができる演算処理装置22に関する。
【0140】
図30は、第2実施形態に係る演算処理装置22のブロック図である。演算処理装置22は、演算処理装置12の視差データ演算部121、路面パラメータ推定部122、路面投影部123、障害物範囲特定部124、障害物領域特定部125、距離測定部126及び表示画像生成部127と同様の視差データ演算部221、路面パラメータ推定部222、路面投影部223、障害物範囲特定部224、障害物領域特定部225、距離測定部226及び表示画像生成部227を備える他、データ選択部228,229を備える。データ選択部228,229は、いずれも、検出すべき障害物が映っていない計測点Pを処理の対象から除外することにより、検出すべき障害物を安定して検出することができるようにする役割を果たしている。
【0141】
{データ選択部228}
データ選択部228は、路面投影部223による計測点Pの投影に先立って、3次元空間における路面601からの高さHが300mm<H<2000mmの範囲の点が映っている計測点Pのみを選択し、残余の計測点Pを路面601への投影対象から除外する。
【0142】
このように、路面601からの距離が特定の距離の計測点Pのみを選択するようにすれば、路面601そのものや障害物として検出すべきでない歩道橋等が映っている計測点P、すなわち、検出すべき障害物が映っていない計測点Pを路面601に投影しないので、検出すべき障害物を安定して検出することができる。
【0143】
{データ選択部229}
データ選択部229は、障害物範囲特定部124による投影点Qの集合の選択に先立って、同じx座標の投影点Qのうちy座標ypが最大となるあたりの投影点Qを選択し、残余の投影点Qを投影点Qの集合の選択対象から除外する。より望ましくは、y座標の最大値ymaxを求め、求めた最大値ymaxから所定値範囲内にあるy座標ypの投影点Qを選択する。
【0144】
このように、最もステレオカメラ11寄りの投影点Qを選択するようにすれば、最も重要なステレオカメラ11に最も近い障害物を検出することができる。
【0145】
図31は、図16に例示した投影点Qからデータ選択部229が投影点Qを選択した後に障害物範囲特定部224が投影点Qの集合を選択した結果を示す図である。図31には、先行車のうちステレオカメラ11に近い先行車602に由来する投影点Qの集合612のみが選択された状態が示されている。
【0146】
このような演算処理装置22を採用して障害物検出装置を構成しても、路面601の上にある特定の物体を障害物として検出することができる。
【図面の簡単な説明】
【0147】
【図1】第1実施形態に係る障害物検出装置の模式図である。
【図2】ステレオカメラが設置された自動車の側面図である。
【図3】ステレオカメラが設置された自動車の上面図である。
【図4】障害物検出装置のブロック図である。
【図5】基準画像及び基準画像に定義されたxy直交座標系を示す図である。
【図6】参照画像及び参照画像に定義されたxy直交座標系を示す図である。
【図7】路面に対するステレオカメラの配置を説明する図である。
【図8】路面パラメータの推定を説明する図である。
【図9】実写画像による路面パラメータの推定例を説明する図である。
【図10】路面パラメータ推定部のブロック図である。
【図11】路面パラメータの推定を説明する図である。
【図12】路面パラメータの推定を説明する図である。
【図13】路面パラメータの推定を説明する図である。
【図14】h−φ空間を示す図である。
【図15】h’−φ’空間を示す図である。
【図16】路面投影部が基準画像上で計測点を路面に投影した結果を示す図である。
【図17】障害物範囲特定部が投影点の集合を選択した結果を示す図である。
【図18】障害物領域特定部が障害物領域を特定した結果を示す図である。
【図19】表示画像生成部が生成した画像を示す図である。
【図20】水平面内における障害物、カメラの焦点位置及びカメラの撮像面の位置関係を示す図である。
【図21】POC対応付け演算部のブロック図である。
【図22】基準画像ウインドウの設定を説明する図である。
【図23】参照画像ウインドウの設定を説明する図である。
【図24】画像F(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図25】画像G(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図26】積F(k1,k2)・G*(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図27】合成位相スペクトルR’(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図28】合成位相スペクトルR(k1,k2)の振幅及び位相の空間周波数に対する変化を示す図である。
【図29】障害物検出装置の動作を説明するフローチャートである。
【図30】第2実施形態に係る演算処理装置のブロック図である。
【図31】障害物範囲特定部が投影点の集合を選択した結果を示す図である。
【符号の説明】
【0148】
1 障害物検出装置
11 ステレオカメラ
12 演算処理装置
13 表示装置
121 視差データ演算部
122 路面パラメータ推定部
123 路面投影部
124 障害物範囲特定部
125 障害物領域特定部
126 距離測定部
127 表示生成部
【特許請求の範囲】
【請求項1】
2次元ステレオ画像を撮影し、基準画像及び参照画像として出力するステレオカメラと、
基準画像上の計測点における基準画像と参照画像との間の視差を演算する視差演算部と、
計測点の座標と計測点における視差との複数の組から基準画像に映っている着目する平面に対する前記ステレオカメラの位置及び姿勢を表す平面パラメータを推定する平面パラメータ推定部と、
平面パラメータを用いて基準画像上で計測点を投影面に投影する平面投影部と、
前記平面投影部が複数の計測点を投影面に投影することにより得られた複数の投影点から特定の分布を有する投影点の集合を選択する物体候補選択部と、
を備える物体検出装置。
【請求項2】
前記平面投影部による計測点の投影に先立って、着目する平面からの距離が特定の距離の点が映っている計測点のみを選択する第1の選択部、
をさらに備える請求項1に記載の物体検出装置。
【請求項3】
前記物体候補選択部による投影点の集合の選択に先立って、最も前記ステレオカメラ寄りの投影点を選択する第2の選択部、
をさらに備える請求項1又は請求項2に記載の物体検出装置。
【請求項4】
前記視差演算部は、
基準画像に第1のウインドウを設定する第1のウインドウ設定部と、
参照画像に第2のウインドウを設定する第2のウインドウ設定部と、
第1のウインドウ内の画像を実空間から周波数空間へ変換する第1の変換部と、
第2のウインドウ内の画像を実空間から周波数空間へ変換する第2の変換部と、
空間周波数による振幅の変動を抑制した上で周波数空間において第1のウインドウ内の画像と第2のウインドウ内の画像とを比較する画像比較部と、
前記画像比較部の比較結果に基づいて計測点に対応する参照画像上の対応点を演算する対応点演算部と、
を備える請求項1ないし請求項3のいずれかに記載の物体検出装置。
【請求項5】
前記視差演算部が位相相関限定法を用いて視差を演算する請求項4に記載の物体検出装置。
【請求項6】
前記平面パラメータ推定部がハフ変換により平面パラメータを推定する請求項1ないし請求項5のいずれかに記載の物体検出装置。
【請求項7】
前記平面パラメータ推定部は、
平面パラメータで張られる空間を複数のブロックに分割する空間分割部と、
前記空間分割部が複数のブロックに分割した空間において計測点の座標と計測点における視差との複数の組から決定される複数の直線が通過するブロックに投票を行う投票部と、
投票が最も多いブロックが代表する平面パラメータを求めるべき平面パラメータとして決定する平面パラメータ決定部と、
を備える請求項6に記載の物体検出装置。
【請求項8】
前記物体候補選択部が基準画像上で特定の長さ、傾き又は形状を有する線素を構成する投影点の集合を選択する請求項1ないし請求項7のいずれかに記載の物体検出装置。
【請求項9】
前記物体候補選択部が基準画像上で実質的に水平な線素を構成する投影点の集合を選択する請求項8に記載の物体検出装置。
【請求項10】
前記物体候補選択部が基準画像上で基準画像上の位置に応じた長さの線素を構成する投影点の集合を選択する請求項8に記載の物体検出装置。
【請求項11】
前記物体候補選択部が選択した投影点の集合が存在する範囲であって着目する平面からの距離が特定の距離の基準画像上の領域を検出すべき物体が映っている領域として特定する物体領域特定部、
をさらに備える請求項1ないし請求項10のいずれかに記載の物体検出装置。
【請求項12】
前記物体候補選択部が選択した投影点の集合が存在する範囲内においてパターン認識により検出すべき物体が映っている領域を特定する物体領域特定部、
をさらに備える請求項1ないし請求項10のいずれかに記載の物体検出装置。
【請求項13】
前記ステレオカメラが平面上を移動する移動体に搭載され、着目した平面が前記移動体の移動面である請求項1ないし請求項12のいずれかに記載の物体検出装置。
【請求項1】
2次元ステレオ画像を撮影し、基準画像及び参照画像として出力するステレオカメラと、
基準画像上の計測点における基準画像と参照画像との間の視差を演算する視差演算部と、
計測点の座標と計測点における視差との複数の組から基準画像に映っている着目する平面に対する前記ステレオカメラの位置及び姿勢を表す平面パラメータを推定する平面パラメータ推定部と、
平面パラメータを用いて基準画像上で計測点を投影面に投影する平面投影部と、
前記平面投影部が複数の計測点を投影面に投影することにより得られた複数の投影点から特定の分布を有する投影点の集合を選択する物体候補選択部と、
を備える物体検出装置。
【請求項2】
前記平面投影部による計測点の投影に先立って、着目する平面からの距離が特定の距離の点が映っている計測点のみを選択する第1の選択部、
をさらに備える請求項1に記載の物体検出装置。
【請求項3】
前記物体候補選択部による投影点の集合の選択に先立って、最も前記ステレオカメラ寄りの投影点を選択する第2の選択部、
をさらに備える請求項1又は請求項2に記載の物体検出装置。
【請求項4】
前記視差演算部は、
基準画像に第1のウインドウを設定する第1のウインドウ設定部と、
参照画像に第2のウインドウを設定する第2のウインドウ設定部と、
第1のウインドウ内の画像を実空間から周波数空間へ変換する第1の変換部と、
第2のウインドウ内の画像を実空間から周波数空間へ変換する第2の変換部と、
空間周波数による振幅の変動を抑制した上で周波数空間において第1のウインドウ内の画像と第2のウインドウ内の画像とを比較する画像比較部と、
前記画像比較部の比較結果に基づいて計測点に対応する参照画像上の対応点を演算する対応点演算部と、
を備える請求項1ないし請求項3のいずれかに記載の物体検出装置。
【請求項5】
前記視差演算部が位相相関限定法を用いて視差を演算する請求項4に記載の物体検出装置。
【請求項6】
前記平面パラメータ推定部がハフ変換により平面パラメータを推定する請求項1ないし請求項5のいずれかに記載の物体検出装置。
【請求項7】
前記平面パラメータ推定部は、
平面パラメータで張られる空間を複数のブロックに分割する空間分割部と、
前記空間分割部が複数のブロックに分割した空間において計測点の座標と計測点における視差との複数の組から決定される複数の直線が通過するブロックに投票を行う投票部と、
投票が最も多いブロックが代表する平面パラメータを求めるべき平面パラメータとして決定する平面パラメータ決定部と、
を備える請求項6に記載の物体検出装置。
【請求項8】
前記物体候補選択部が基準画像上で特定の長さ、傾き又は形状を有する線素を構成する投影点の集合を選択する請求項1ないし請求項7のいずれかに記載の物体検出装置。
【請求項9】
前記物体候補選択部が基準画像上で実質的に水平な線素を構成する投影点の集合を選択する請求項8に記載の物体検出装置。
【請求項10】
前記物体候補選択部が基準画像上で基準画像上の位置に応じた長さの線素を構成する投影点の集合を選択する請求項8に記載の物体検出装置。
【請求項11】
前記物体候補選択部が選択した投影点の集合が存在する範囲であって着目する平面からの距離が特定の距離の基準画像上の領域を検出すべき物体が映っている領域として特定する物体領域特定部、
をさらに備える請求項1ないし請求項10のいずれかに記載の物体検出装置。
【請求項12】
前記物体候補選択部が選択した投影点の集合が存在する範囲内においてパターン認識により検出すべき物体が映っている領域を特定する物体領域特定部、
をさらに備える請求項1ないし請求項10のいずれかに記載の物体検出装置。
【請求項13】
前記ステレオカメラが平面上を移動する移動体に搭載され、着目した平面が前記移動体の移動面である請求項1ないし請求項12のいずれかに記載の物体検出装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【公開番号】特開2009−86882(P2009−86882A)
【公開日】平成21年4月23日(2009.4.23)
【国際特許分類】
【出願番号】特願2007−254066(P2007−254066)
【出願日】平成19年9月28日(2007.9.28)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】
【公開日】平成21年4月23日(2009.4.23)
【国際特許分類】
【出願日】平成19年9月28日(2007.9.28)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】
[ Back to top ]