車両用距離画像データ生成装置
【課題】 自車両前方の状況を連続的に把握できる車両用距離画像データ生成装置を提供する。
【解決手段】 自車両前方に所定周期でパルス光を投光する投光器7と、撮像エリアに応じて設定される撮像タイミングで撮像エリアから帰ってくる反射光を撮像する高速度カメラ8と、撮像エリアが連続的に変化するように撮像タイミングを制御するタイミングコントローラ9と、高速度カメラ8により得られた撮像エリアの異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する画像処理部10と、を備え、画像処理部10は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正する。
【解決手段】 自車両前方に所定周期でパルス光を投光する投光器7と、撮像エリアに応じて設定される撮像タイミングで撮像エリアから帰ってくる反射光を撮像する高速度カメラ8と、撮像エリアが連続的に変化するように撮像タイミングを制御するタイミングコントローラ9と、高速度カメラ8により得られた撮像エリアの異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する画像処理部10と、を備え、画像処理部10は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両用距離画像データ生成装置の技術分野に属する。
【背景技術】
【0002】
特許文献1には、自車両前方を投光し、ターゲット距離から戻ってくる反射光のタイミングに合わせて撮像した画像に基づいて、当該ターゲット距離に障害物等の物体が存在するか否かを検出する技術が開示されている。
【特許文献1】米国特許第6700123号明細書
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかしながら、上記従来技術にあっては、ターゲット距離以外の物体を検出できない。つまり、状況の把握が間欠的であり、自車両前方の状況を連続的に把握できないという問題があった。
【0004】
本発明の目的は、自車両前方の状況を連続的に把握できる車両用距離画像データ生成装置を提供することにある。
【課題を解決するための手段】
【0005】
上記目的を達成するため、本発明の車両用距離画像データ生成装置では、
自車両前方に所定周期でパルス光を投光する投光手段と、
ターゲット距離に応じて設定される撮像タイミングで前記ターゲット距離から帰ってくる反射光を撮像する撮像手段と、
前記ターゲット距離が連続的に変化するように前記撮像タイミングを制御するタイミング制御手段と、
前記撮像手段により得られたターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する距離画像データ生成手段と、
を備え、
前記距離画像データ生成手段は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正することを特徴とする。
【発明の効果】
【0006】
よって、本発明にあっては、ターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成するため、自車両前方の状況を連続的に把握できる。
また、パルス光を投光せずに撮像したフィルタ画像に基づいて、各撮像画像における各画素の輝度を補正するため、各撮像画像の輝度から街灯などの外乱光によるノイズ成分を除去できる。
【発明を実施するための最良の形態】
【0007】
以下、本発明の車両用距離画像データ生成装置を実現するための最良の形態を、図面に基づく実施例により説明する。
【実施例1】
【0008】
まず、構成を説明する。
図1は、本発明の車両用距離画像データ生成装置を適用した実施例1の障害物検出装置1の構成を示すブロック図であり、実施例1の障害物検出装置1は、距離画像データ生成装置2と、物体認識処理部3と、判断部4とを備えている。
【0009】
距離画像データ生成装置2は、投光器(投光手段)5と、対物レンズ6と、光増倍部7と、高速度カメラ(撮像手段)8と、タイミングコントローラ(タイミング制御手段)9と、画像処理部(距離画像データ生成手段)10とを備えている。
投光器5は、車両の前端部に配置した近赤外線LEDであり、タイミングコントローラ9から出力されるパルス信号に応じて、所定の投光時間tL(例えば、5ns)の間、パルス光を出力する。パルス信号の周期は、投光器5の投光周期tPであり、投光周期tPは、例えば、1/100s以下の間隔とする。
対物レンズ6は、物体からの反射光を受光するためのもので、投光器5と隣接配置している。例えば、自車両前方の所定範囲を撮像できる画角とするように設定された光学系である。
【0010】
光倍増部7は、ゲート7aとイメージインテンシファイア7bとを備えている。
ゲート7aは、タイミングコントローラ9からの開閉指令信号に応じて開閉する。ここで、実施例1では、ゲート7aの開時間(ゲート時間)tGを、投光時間tLと同じ5nsとしている。ここで、ゲート時間tGは、撮像エリア(ターゲット距離)の撮像対象幅に相当し、ゲート時間tGを長くするほど撮像エリアの撮像対象幅は長くなる。実施例1では、ゲート時間tG=5nsとしているため、撮像対象幅は、光速度(約3×108m/s)×ゲート時間(5ns)から、1.5mとなる。
【0011】
イメージインテンシファイア7bは、極微弱な光(物体からの反射光等)を一旦電子に変換して電気的に増幅し、再度蛍光像に戻すことで光量を倍増してコントラストのついた像を見るデバイスである。イメージインテンシファイア7bの光電面より光電現象によって打ち出された光電子はkVオーダーの高電圧で加速され、陽極側の蛍光面に打ち込まれることにより、100倍以上の光子数の蛍光を発する。蛍光面で発生した蛍光は、ファイバオプティックプレートにより、そのままの位置関係を保ったまま散乱されることなく高速度カメラ8のイメージセンサに導かれる。
高速度カメラ8は、タイミングコントローラ9からの指令信号に応じて、光倍増部7から発せられた像を撮像し、撮像画像(カラー画像)を画像処理部10へ出力する。実施例1では、解像度640×480(横:縦)、輝度値1〜255(256段階)、100fps以上のカメラを用いている。
【0012】
タイミングコントローラ9は、高速度カメラ8により撮像される撮像画像が、狙った撮像エリアから帰ってくる反射光のタイミングとなるように、投光器5の投光開始時点からゲート7aを開くまでの時間であるディレイ時間tDを設定し、ディレイ時間に応じた開閉指令信号を出力することで、撮像タイミングを制御する。つまり、ディレイ時間tDは、自車両から撮像エリアまでの距離(撮像対象距離)を決める値であり、ディレイ時間tDと撮像対象距離との関係は、以下の式となる。
撮像対象距離=光速度(約3×108m/s)×ディレイ時間tD/2
図2に、1つの撮像エリアを撮像する際の、投光器5の動作(投光動作)とゲート7aの動作(カメラゲート動作)との時間的な関係を示す。
【0013】
タイミングコントローラ9は、撮像エリアが車両手前側から先方へと連続的に移動するように、ディレイ時間tDを所定間隔(例えば、10ns)ずつ長くすることで、高速度カメラ8の撮像範囲を車両前方側へ変化させる。なお、タイミングコントローラ9は、ゲート7aが開く直前に高速度カメラ8の撮像動作を開始させ、ゲート7aが完全に閉じた後に撮像動作を終了させる。
【0014】
また、実施例1では、図3に示すように、撮像対象距離をB1→B2→B3→…と連続的に変化させながら撮像する際、撮像エリアの撮像対象幅Aよりも撮像対象距離の増加量(B2-B1)を短くすることで、撮像エリアの一部がオーバーラップしながら変化するように撮像対象距離の増加量を設定している。
【0015】
図4は、撮像対象距離の増加量を極限まで小さくした場合、言い換えると、撮像エリアを無限に増やして撮像を行った場合の時間的な輝度変化を示す模式図であり、撮像エリアの一部をオーバーラップさせることで、連続する複数の撮像画像における同一画素の輝度値は、徐々に増加し、ピーク後は徐々に小さくなる特性となる。なお、実際には撮像エリアは有限個(1〜n)であるが、連続する撮像エリアの一部をオーバーラップさせることで、時間的な輝度変化は図4の特性に近くなる。
【0016】
タイミングコントローラ9は、1フレーム分、すなわち、設定された所定範囲(エリア1、エリア2、…、エリアn)の撮像画像が全て撮像された場合、画像処理部10に対し画像処理指令信号を出力する。
ここで、タイミングコントローラ9は、1フレーム分の撮像画像を撮像する前、すなわちエリア1を撮像する前に、投光器5による投光を行わずに自車両前方を撮像し、当該画像を外乱光ノイズ除去用のフィルタ画像として画像処理部10へ出力する。
【0017】
画像処理部10は、高速度カメラ8により撮像された1フレーム分の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成し、生成した距離画像データを物体認識処理部3へ出力する。実施例1では、各撮像画像から街灯などのよる外乱光の影響を除去するために、フィルタ画像を用いて各撮像画像の輝度を補正する。この補正は、距離画像データを生成する前に行う。
【0018】
物体認識処理部3は、距離画像データに含まれる物体を特定する。物体の特定方法は、パターンマッチング等、周知の技術を用いることができる。
判断部4は、物体認識処理部3により特定された物体(人、自動車、標識等)と自車両との関係(距離、相対速度等)に基づいて、警報等による運転者への情報提示、自動ブレーキ等の車両制御の要否を判断する。
【0019】
[距離画像データ生成制御処理]
図5は、実施例1の画像処理部10で実行される距離画像データ生成制御処理の流れを示すフローチャートで、以下、各ステップについて説明する。なお、この処理は、所定の演算周期で繰り返し実行される。
【0020】
ステップS1では、投光器5による投光を行わずに自車両前方を撮像した撮像画像、すなわちフィルタ画像の最も輝度の低い輝度値データを最小値データとして記憶し、ステップS2へ移行する。
【0021】
ステップS2では、撮像画像を入力し、ステップS3へと移行する。
【0022】
ステップS3では、フィルタ画像に基づいて撮像画像の外乱光ノイズを除去し、ステップS4へ移行する。
具体的には、撮像画像の各画素の輝度値データからフィルタ画像の対応する画素の輝度値データを減算した値を当該画素の輝度値データとする。
【0023】
ステップS4では、ステップS1で記憶した最小値データと、ステップS2で入力した撮像画像の各画素の輝度値データのうち最も低い輝度値データとを比較し、当該輝度値データが最小値データよりも低いか否かを判定する。YESの場合にはステップS5へ移行し、NOの場合にはステップS6へ移行する。
【0024】
ステップS5では、最小値データよりも低い輝度値データを新たな最小値データとして記憶し、ステップS6へ移行する。
【0025】
ステップS6では、画素毎に輝度値データと最小値データとの差分を取り、当該画素における現在のデータとし、ステップS7へ移行する。
【0026】
ステップS7では、1フレーム分(エリア1、エリア2、…、エリアn)の画像入力が終了したか否かを判定する。YESの場合にはステップステップS8へ移行し、NOの場合にはステップS2へ移行する。
【0027】
ステップS8では、n個の撮像画像の同一画素の輝度値データを比較し、最も値の高い輝度値データと対応する撮像画像のフレーム番号(ディレイ時間tD)から距離画像データを生成し、リターンへ移行する。
【0028】
次に、作用を説明する。
[距離画像データ生成作用]
タイミングコントローラ9は、高速度カメラ8により撮像される撮像画像が、狙った撮像エリアから帰ってくる反射光のタイミングとなるように、ディレイ時間tDを設定し、高速度カメラ8の撮像タイミングを制御する。狙った撮像エリアに物体が存在している場合、投光器5から出射された光が撮像エリアから戻ってくる時間は、自車両と撮像エリアまでの距離(撮像対象距離)を光が往復する時間となるため、ディレイ時間tDは、撮像対象距離と光速度から求めることができる。
【0029】
上記方法で得られた高速度カメラ8の撮像画像において、撮像エリアに物体が存在する場合、当該物体の位置に対応する画素の輝度値データは、反射光の影響を受け、他の画素の輝度値データよりも高い値を示す。これにより、各画素の輝度値データに基づいて、狙った撮像エリアに存在する物体との距離を求めることができる。
【0030】
さらに、実施例1では、ディレイ時間tDを変化させながら撮像エリア1〜nの撮像画像を取得する。続いて、各撮像画像における同一画素の輝度値データを比較し、最も高い輝度値データを当該画素の距離とし、全ての画素(640×480)の距離データ(距離画像データ)を生成する。
【0031】
従来のレーザレーダやステレオカメラを用いた距離検出方法では、雨、霧や雪などの影響を受けやすく、信号レベルに対するノイズレベルが大きくなる(SN比が小さい)ため、悪天候時の信頼性が低い。なお、悪天候の影響を受けにくいミリ波レーダを用いた場合、距離検出の信頼性は高くなるが、ミリ波レーダの信号から物体認識(物体の特定)を行うのは困難であり、別途カメラ画像が必要となる。そして、悪天候時にはカメラ画像が不明瞭となるため、正確な物体認識を行うことは困難である。
【0032】
これに対し、実施例1では、狙った撮像エリアから帰ってくる反射波のみを撮像画像に反映させるため、雨、霧や雪などの影響により屈曲した光、すなわち、ノイズの混入レベルを低く抑え、高いSN比を得ることができる。つまり、悪天候や夜間にかかわらず、高い距離検出精度を得ることができる。
そして、生成された距離画像データにより、全ての画素の距離が分かるため、その後パターンマッチング等の手法を用いて物体認識を行う場合、物体との距離を瞬時に把握できる。
【0033】
さらに、実施例1では、撮像エリアを連続的に変化させて複数の撮像画像を取得し、各撮像画像を比較して各画素の距離を検出しているため、自車両前方の状況を連続的に、かつ、広範囲に亘って把握できる。例えば、自車両と先行車両との間に歩行者が飛び出してきた状況であっても、先行車と歩行者の距離をそれぞれ同時に把握でき、警報による運転者への情報提示や自動ブレーキ等の車両制御を行うことが可能である。
【0034】
図6は、自車両前方の異なる位置に4人の歩行者A〜Dが存在している状況を示し、自車両と各歩行者との距離の関係は、A<B<C<Dとする。
このとき、実施例1では、1つの物体からの反射光が連続する複数の撮像エリアにおける撮像画像の画素に反映されるように、撮像エリアの一部をオーバーラップさせている。このため、各歩行者に対応する画素の時間的な輝度変化は、図7に示すように、歩行者の位置でピークを取る三角形の特性を示す。
【0035】
なお、距離画像データは、警報や車両制御に用いるデータであるため、ある程度の演算速度が要求される以上、撮像エリアを無限に細かく設定することは時間的に不可能であるが、1つの物体からの反射光が複数の撮像画像の含まれるようにすることで、図8に示すように、画素の時間的な輝度変化を上記特性に近似させ、三角形部分のピークと対応する撮像エリアを、当該画素における物体の距離とすることで、検出精度を高めることができる。
【0036】
[走行環境に応じた撮像時間設定作用]
実施例1では、自車両前方の所定範囲を複数(n個)の撮像エリアに分割し、各撮像エリアの撮像画像を1つのフレームとして距離画像データを生成している。距離画像データは、障害物警報や車両制御に用いられるため、1フレームの長さ(フレームレート)は出来るだけ短い方が好ましい。
一方、各撮像エリアの撮像対象幅(撮像時間)は、短くするほど距離画像データにおける画素毎の物体までの距離は、より実際の値に近づく。すなわち、撮像対象幅が短いほど距離分解能を高めることができる。
【0037】
ところが、画像処理部10の演算処理能力、高速度カメラ8やゲート7aの性能により、1フレームあたりの撮影回数には限界があるため、フレームレートと撮影回数による距離分解能とのトレードオフが問題となる。つまり、フレームレートの短縮を優先した場合、撮影回数を少なくせざるを得ず、距離分解能の低下を招く。逆に、撮影回数増を優先した場合、1フレームを長くせざるを得ず、各種制御の応答性悪化を招く。
【0038】
これに対し、実施例1では、各撮像エリアの撮像対象幅を均等に分割するのではなく、走行環境に応じて各撮像エリアのうち距離分解能が高いエリアと距離分解能が低いエリアとを設定している。すなわち、高い距離分解能が必要な撮像エリアは、走行環境に応じて一部のエリアに限られる。さらに言えば、高い距離分解能が要求されるのは、運転者の前方注視点と対応する撮像エリアである。
【0039】
そこで、実施例1では、車速や障害物(物体)等の走行環境に応じて、運転者の前方注視点がどの撮像エリアにあるのかを判断し、前方注視点のある撮像エリアのみ、またはその前後のエリアのみ分解能を高め、他のエリアは分解能を低くすることで、フレームレートと距離分解能との両立を図ることができる。
【0040】
[外乱光ノイズ除去作用]
図9は、図6に示した歩行者A〜Dに加えて、車両前方に点灯した街灯Eが存在する状態を示している。街灯Eの位置は、歩行者Cよりも遠く、かつ、歩行者Dよりも近い位置とする。
【0041】
この状態で歩行者Aの存在する撮像エリアを撮像したとき、その撮像画像には、図10に示すように、街灯Eの発する光Fが反映されている。つまり、自車両前方に街灯等の発光体が存在する場合、または対向車線の車両がライトを点灯している場合など、自車両前方に発光体が存在する場合、これらの発する外乱光の影響を受けて対応する画素の輝度値が高くなってしまう。すなわち、撮像画像に反射光以外の外乱光ノイズがのってしまうため、これら外乱光ノイズがのった各撮像画像から各画素の物体までの距離を生成すると、物体の距離を正確に検出できない。
【0042】
これに対し、実施例1では、図11に示すように、タイミングコントローラ9において、1フレーム分の撮像画像を撮像する前、すなわちエリア1を撮像する前に、投光器5による投光を行わずに自車両前方を撮像し、当該画像(図11の#0画像)を外乱光ノイズ除去用のフィルタ画像として画像処理部10に出力する。
【0043】
画像処理部10では、各撮像画像(#1,#2,#3,#4,…#n)の各画素の輝度値データからフィルタ画像#0の対応する画素の輝度値データを減算した画像(#1',#2',#3',#4',…#n')を最終的な撮像画像とし、各画像(#1',#2',#3',#4',…#n')に基づいて距離画像データを生成する。
【0044】
例えば、図9のシーンで投光器5により投光を行わずに自車両前方を撮像した場合、図12に示すように、街灯Eの発する光Fのみが反映された画像が得られる。よって、各撮像画像における各画素の輝度値からフィルタ画像における対応する画素の輝度値を減算することで、各画素の輝度値は、街灯Eの発する光の影響を除いた値、すなわち、投光器5の反射光のみが反映された値となる。
【0045】
図13は上記外乱光ノイズ除去を行った歩行者Aの存在する撮像エリアの撮像画像であり、この撮像画像には、街灯Eの点灯に伴う外乱光ノイズが除去され、歩行者Aの反射光のみが反映されているのがわかる。
【0046】
次に、効果を説明する。
実施例1の距離画像データ生成装置2にあっては、以下に列挙する効果を奏する。
【0047】
(1) 自車両前方に所定周期でパルス光を投光する投光器7と、撮像エリアに応じて設定される撮像タイミングで撮像エリアから帰ってくる反射光を撮像する高速度カメラ8と、撮像エリアが連続的に変化するように撮像タイミングを制御するタイミングコントローラ9と、高速度カメラ8により得られた撮像エリアの異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する画像処理部10と、を備え、画像処理部10は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正する。これにより、各撮像画像の輝度から街灯などの外乱光によるノイズ成分を除去でき、距離画像データにおける画素毎の物体までの距離を正確に検出できる。
【0048】
82) 画像処理部10は、撮像画像の各画素の輝度からフィルタ画像の対応する画素の輝度を減算した値を当該画素の輝度とするため、各撮像画像から外乱光によるノイズ成分を確実に除去できる。
【0049】
(他の実施例)
以上、本発明を実施するための最良の形態を、実施例に基づき説明したが、本発明の具体的な構成については、実施例の構成に限らず、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計変更や追加等は許容される。
【0050】
例えば、投光周期、投光時間、ゲート時間、撮像対象幅、撮像対象距離の変化量、1フレーム中の撮像エリア数は、撮像手段の性能や距離画像データ生成手段の性能に応じて適宜設定することができる。
【図面の簡単な説明】
【0051】
【図1】実施例1の障害物検出装置1の構成を示すブロック図である。
【図2】1つの撮像エリアを撮像する際の、投光器5の動作(投光動作)とゲート7aの動作(カメラゲート動作)との時間的な関係を示す図である。
【図3】撮像エリアの一部がオーバーラップする状態を示す図である。
【図4】撮像エリアを無限に増やして撮像を行った場合の時間的な輝度変化を示す模式図である。
【図5】実施例1の画像処理部10で実行される距離画像データ生成制御処理の流れを示すフローチャートである。
【図6】自車両前方の異なる位置に4人の歩行者A〜Dが存在している状況を示す図である。
【図7】各歩行者A〜Bに対応する画素の時間的な輝度変化を示す模式図である。
【図8】実施例1の距離画像データ生成作用を示す図である。
【図9】自車両前方の異なる位置に4人の歩行者A〜Dと街灯Eが存在している状況を示す図である。
【図10】歩行者Aが存在する撮像エリアにおける撮像画像に他の撮像エリアに存在する街灯Eの発する光Fが反映さえた状態を示す図である。
【図11】実施例1のノイズ除去方法を示す図である。
【図12】フィルタ画像の一例である。
【図13】実施例1のノイズ除去作用を示す図である。
【符号の説明】
【0052】
1 障害物検出装置
2 距離画像データ生成装置
3 物体認識処理部
4 判断部
5 投光器(投光手段)
6 対物レンズ
7 光増倍部
7a ゲート
7b イメージインテンシファイア
8 高速度カメラ(撮像手段)
9 タイミングコントローラ(タイミング制御手段)
10 画像処理部(距離画像データ生成手段)
【技術分野】
【0001】
本発明は、車両用距離画像データ生成装置の技術分野に属する。
【背景技術】
【0002】
特許文献1には、自車両前方を投光し、ターゲット距離から戻ってくる反射光のタイミングに合わせて撮像した画像に基づいて、当該ターゲット距離に障害物等の物体が存在するか否かを検出する技術が開示されている。
【特許文献1】米国特許第6700123号明細書
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかしながら、上記従来技術にあっては、ターゲット距離以外の物体を検出できない。つまり、状況の把握が間欠的であり、自車両前方の状況を連続的に把握できないという問題があった。
【0004】
本発明の目的は、自車両前方の状況を連続的に把握できる車両用距離画像データ生成装置を提供することにある。
【課題を解決するための手段】
【0005】
上記目的を達成するため、本発明の車両用距離画像データ生成装置では、
自車両前方に所定周期でパルス光を投光する投光手段と、
ターゲット距離に応じて設定される撮像タイミングで前記ターゲット距離から帰ってくる反射光を撮像する撮像手段と、
前記ターゲット距離が連続的に変化するように前記撮像タイミングを制御するタイミング制御手段と、
前記撮像手段により得られたターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する距離画像データ生成手段と、
を備え、
前記距離画像データ生成手段は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正することを特徴とする。
【発明の効果】
【0006】
よって、本発明にあっては、ターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成するため、自車両前方の状況を連続的に把握できる。
また、パルス光を投光せずに撮像したフィルタ画像に基づいて、各撮像画像における各画素の輝度を補正するため、各撮像画像の輝度から街灯などの外乱光によるノイズ成分を除去できる。
【発明を実施するための最良の形態】
【0007】
以下、本発明の車両用距離画像データ生成装置を実現するための最良の形態を、図面に基づく実施例により説明する。
【実施例1】
【0008】
まず、構成を説明する。
図1は、本発明の車両用距離画像データ生成装置を適用した実施例1の障害物検出装置1の構成を示すブロック図であり、実施例1の障害物検出装置1は、距離画像データ生成装置2と、物体認識処理部3と、判断部4とを備えている。
【0009】
距離画像データ生成装置2は、投光器(投光手段)5と、対物レンズ6と、光増倍部7と、高速度カメラ(撮像手段)8と、タイミングコントローラ(タイミング制御手段)9と、画像処理部(距離画像データ生成手段)10とを備えている。
投光器5は、車両の前端部に配置した近赤外線LEDであり、タイミングコントローラ9から出力されるパルス信号に応じて、所定の投光時間tL(例えば、5ns)の間、パルス光を出力する。パルス信号の周期は、投光器5の投光周期tPであり、投光周期tPは、例えば、1/100s以下の間隔とする。
対物レンズ6は、物体からの反射光を受光するためのもので、投光器5と隣接配置している。例えば、自車両前方の所定範囲を撮像できる画角とするように設定された光学系である。
【0010】
光倍増部7は、ゲート7aとイメージインテンシファイア7bとを備えている。
ゲート7aは、タイミングコントローラ9からの開閉指令信号に応じて開閉する。ここで、実施例1では、ゲート7aの開時間(ゲート時間)tGを、投光時間tLと同じ5nsとしている。ここで、ゲート時間tGは、撮像エリア(ターゲット距離)の撮像対象幅に相当し、ゲート時間tGを長くするほど撮像エリアの撮像対象幅は長くなる。実施例1では、ゲート時間tG=5nsとしているため、撮像対象幅は、光速度(約3×108m/s)×ゲート時間(5ns)から、1.5mとなる。
【0011】
イメージインテンシファイア7bは、極微弱な光(物体からの反射光等)を一旦電子に変換して電気的に増幅し、再度蛍光像に戻すことで光量を倍増してコントラストのついた像を見るデバイスである。イメージインテンシファイア7bの光電面より光電現象によって打ち出された光電子はkVオーダーの高電圧で加速され、陽極側の蛍光面に打ち込まれることにより、100倍以上の光子数の蛍光を発する。蛍光面で発生した蛍光は、ファイバオプティックプレートにより、そのままの位置関係を保ったまま散乱されることなく高速度カメラ8のイメージセンサに導かれる。
高速度カメラ8は、タイミングコントローラ9からの指令信号に応じて、光倍増部7から発せられた像を撮像し、撮像画像(カラー画像)を画像処理部10へ出力する。実施例1では、解像度640×480(横:縦)、輝度値1〜255(256段階)、100fps以上のカメラを用いている。
【0012】
タイミングコントローラ9は、高速度カメラ8により撮像される撮像画像が、狙った撮像エリアから帰ってくる反射光のタイミングとなるように、投光器5の投光開始時点からゲート7aを開くまでの時間であるディレイ時間tDを設定し、ディレイ時間に応じた開閉指令信号を出力することで、撮像タイミングを制御する。つまり、ディレイ時間tDは、自車両から撮像エリアまでの距離(撮像対象距離)を決める値であり、ディレイ時間tDと撮像対象距離との関係は、以下の式となる。
撮像対象距離=光速度(約3×108m/s)×ディレイ時間tD/2
図2に、1つの撮像エリアを撮像する際の、投光器5の動作(投光動作)とゲート7aの動作(カメラゲート動作)との時間的な関係を示す。
【0013】
タイミングコントローラ9は、撮像エリアが車両手前側から先方へと連続的に移動するように、ディレイ時間tDを所定間隔(例えば、10ns)ずつ長くすることで、高速度カメラ8の撮像範囲を車両前方側へ変化させる。なお、タイミングコントローラ9は、ゲート7aが開く直前に高速度カメラ8の撮像動作を開始させ、ゲート7aが完全に閉じた後に撮像動作を終了させる。
【0014】
また、実施例1では、図3に示すように、撮像対象距離をB1→B2→B3→…と連続的に変化させながら撮像する際、撮像エリアの撮像対象幅Aよりも撮像対象距離の増加量(B2-B1)を短くすることで、撮像エリアの一部がオーバーラップしながら変化するように撮像対象距離の増加量を設定している。
【0015】
図4は、撮像対象距離の増加量を極限まで小さくした場合、言い換えると、撮像エリアを無限に増やして撮像を行った場合の時間的な輝度変化を示す模式図であり、撮像エリアの一部をオーバーラップさせることで、連続する複数の撮像画像における同一画素の輝度値は、徐々に増加し、ピーク後は徐々に小さくなる特性となる。なお、実際には撮像エリアは有限個(1〜n)であるが、連続する撮像エリアの一部をオーバーラップさせることで、時間的な輝度変化は図4の特性に近くなる。
【0016】
タイミングコントローラ9は、1フレーム分、すなわち、設定された所定範囲(エリア1、エリア2、…、エリアn)の撮像画像が全て撮像された場合、画像処理部10に対し画像処理指令信号を出力する。
ここで、タイミングコントローラ9は、1フレーム分の撮像画像を撮像する前、すなわちエリア1を撮像する前に、投光器5による投光を行わずに自車両前方を撮像し、当該画像を外乱光ノイズ除去用のフィルタ画像として画像処理部10へ出力する。
【0017】
画像処理部10は、高速度カメラ8により撮像された1フレーム分の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成し、生成した距離画像データを物体認識処理部3へ出力する。実施例1では、各撮像画像から街灯などのよる外乱光の影響を除去するために、フィルタ画像を用いて各撮像画像の輝度を補正する。この補正は、距離画像データを生成する前に行う。
【0018】
物体認識処理部3は、距離画像データに含まれる物体を特定する。物体の特定方法は、パターンマッチング等、周知の技術を用いることができる。
判断部4は、物体認識処理部3により特定された物体(人、自動車、標識等)と自車両との関係(距離、相対速度等)に基づいて、警報等による運転者への情報提示、自動ブレーキ等の車両制御の要否を判断する。
【0019】
[距離画像データ生成制御処理]
図5は、実施例1の画像処理部10で実行される距離画像データ生成制御処理の流れを示すフローチャートで、以下、各ステップについて説明する。なお、この処理は、所定の演算周期で繰り返し実行される。
【0020】
ステップS1では、投光器5による投光を行わずに自車両前方を撮像した撮像画像、すなわちフィルタ画像の最も輝度の低い輝度値データを最小値データとして記憶し、ステップS2へ移行する。
【0021】
ステップS2では、撮像画像を入力し、ステップS3へと移行する。
【0022】
ステップS3では、フィルタ画像に基づいて撮像画像の外乱光ノイズを除去し、ステップS4へ移行する。
具体的には、撮像画像の各画素の輝度値データからフィルタ画像の対応する画素の輝度値データを減算した値を当該画素の輝度値データとする。
【0023】
ステップS4では、ステップS1で記憶した最小値データと、ステップS2で入力した撮像画像の各画素の輝度値データのうち最も低い輝度値データとを比較し、当該輝度値データが最小値データよりも低いか否かを判定する。YESの場合にはステップS5へ移行し、NOの場合にはステップS6へ移行する。
【0024】
ステップS5では、最小値データよりも低い輝度値データを新たな最小値データとして記憶し、ステップS6へ移行する。
【0025】
ステップS6では、画素毎に輝度値データと最小値データとの差分を取り、当該画素における現在のデータとし、ステップS7へ移行する。
【0026】
ステップS7では、1フレーム分(エリア1、エリア2、…、エリアn)の画像入力が終了したか否かを判定する。YESの場合にはステップステップS8へ移行し、NOの場合にはステップS2へ移行する。
【0027】
ステップS8では、n個の撮像画像の同一画素の輝度値データを比較し、最も値の高い輝度値データと対応する撮像画像のフレーム番号(ディレイ時間tD)から距離画像データを生成し、リターンへ移行する。
【0028】
次に、作用を説明する。
[距離画像データ生成作用]
タイミングコントローラ9は、高速度カメラ8により撮像される撮像画像が、狙った撮像エリアから帰ってくる反射光のタイミングとなるように、ディレイ時間tDを設定し、高速度カメラ8の撮像タイミングを制御する。狙った撮像エリアに物体が存在している場合、投光器5から出射された光が撮像エリアから戻ってくる時間は、自車両と撮像エリアまでの距離(撮像対象距離)を光が往復する時間となるため、ディレイ時間tDは、撮像対象距離と光速度から求めることができる。
【0029】
上記方法で得られた高速度カメラ8の撮像画像において、撮像エリアに物体が存在する場合、当該物体の位置に対応する画素の輝度値データは、反射光の影響を受け、他の画素の輝度値データよりも高い値を示す。これにより、各画素の輝度値データに基づいて、狙った撮像エリアに存在する物体との距離を求めることができる。
【0030】
さらに、実施例1では、ディレイ時間tDを変化させながら撮像エリア1〜nの撮像画像を取得する。続いて、各撮像画像における同一画素の輝度値データを比較し、最も高い輝度値データを当該画素の距離とし、全ての画素(640×480)の距離データ(距離画像データ)を生成する。
【0031】
従来のレーザレーダやステレオカメラを用いた距離検出方法では、雨、霧や雪などの影響を受けやすく、信号レベルに対するノイズレベルが大きくなる(SN比が小さい)ため、悪天候時の信頼性が低い。なお、悪天候の影響を受けにくいミリ波レーダを用いた場合、距離検出の信頼性は高くなるが、ミリ波レーダの信号から物体認識(物体の特定)を行うのは困難であり、別途カメラ画像が必要となる。そして、悪天候時にはカメラ画像が不明瞭となるため、正確な物体認識を行うことは困難である。
【0032】
これに対し、実施例1では、狙った撮像エリアから帰ってくる反射波のみを撮像画像に反映させるため、雨、霧や雪などの影響により屈曲した光、すなわち、ノイズの混入レベルを低く抑え、高いSN比を得ることができる。つまり、悪天候や夜間にかかわらず、高い距離検出精度を得ることができる。
そして、生成された距離画像データにより、全ての画素の距離が分かるため、その後パターンマッチング等の手法を用いて物体認識を行う場合、物体との距離を瞬時に把握できる。
【0033】
さらに、実施例1では、撮像エリアを連続的に変化させて複数の撮像画像を取得し、各撮像画像を比較して各画素の距離を検出しているため、自車両前方の状況を連続的に、かつ、広範囲に亘って把握できる。例えば、自車両と先行車両との間に歩行者が飛び出してきた状況であっても、先行車と歩行者の距離をそれぞれ同時に把握でき、警報による運転者への情報提示や自動ブレーキ等の車両制御を行うことが可能である。
【0034】
図6は、自車両前方の異なる位置に4人の歩行者A〜Dが存在している状況を示し、自車両と各歩行者との距離の関係は、A<B<C<Dとする。
このとき、実施例1では、1つの物体からの反射光が連続する複数の撮像エリアにおける撮像画像の画素に反映されるように、撮像エリアの一部をオーバーラップさせている。このため、各歩行者に対応する画素の時間的な輝度変化は、図7に示すように、歩行者の位置でピークを取る三角形の特性を示す。
【0035】
なお、距離画像データは、警報や車両制御に用いるデータであるため、ある程度の演算速度が要求される以上、撮像エリアを無限に細かく設定することは時間的に不可能であるが、1つの物体からの反射光が複数の撮像画像の含まれるようにすることで、図8に示すように、画素の時間的な輝度変化を上記特性に近似させ、三角形部分のピークと対応する撮像エリアを、当該画素における物体の距離とすることで、検出精度を高めることができる。
【0036】
[走行環境に応じた撮像時間設定作用]
実施例1では、自車両前方の所定範囲を複数(n個)の撮像エリアに分割し、各撮像エリアの撮像画像を1つのフレームとして距離画像データを生成している。距離画像データは、障害物警報や車両制御に用いられるため、1フレームの長さ(フレームレート)は出来るだけ短い方が好ましい。
一方、各撮像エリアの撮像対象幅(撮像時間)は、短くするほど距離画像データにおける画素毎の物体までの距離は、より実際の値に近づく。すなわち、撮像対象幅が短いほど距離分解能を高めることができる。
【0037】
ところが、画像処理部10の演算処理能力、高速度カメラ8やゲート7aの性能により、1フレームあたりの撮影回数には限界があるため、フレームレートと撮影回数による距離分解能とのトレードオフが問題となる。つまり、フレームレートの短縮を優先した場合、撮影回数を少なくせざるを得ず、距離分解能の低下を招く。逆に、撮影回数増を優先した場合、1フレームを長くせざるを得ず、各種制御の応答性悪化を招く。
【0038】
これに対し、実施例1では、各撮像エリアの撮像対象幅を均等に分割するのではなく、走行環境に応じて各撮像エリアのうち距離分解能が高いエリアと距離分解能が低いエリアとを設定している。すなわち、高い距離分解能が必要な撮像エリアは、走行環境に応じて一部のエリアに限られる。さらに言えば、高い距離分解能が要求されるのは、運転者の前方注視点と対応する撮像エリアである。
【0039】
そこで、実施例1では、車速や障害物(物体)等の走行環境に応じて、運転者の前方注視点がどの撮像エリアにあるのかを判断し、前方注視点のある撮像エリアのみ、またはその前後のエリアのみ分解能を高め、他のエリアは分解能を低くすることで、フレームレートと距離分解能との両立を図ることができる。
【0040】
[外乱光ノイズ除去作用]
図9は、図6に示した歩行者A〜Dに加えて、車両前方に点灯した街灯Eが存在する状態を示している。街灯Eの位置は、歩行者Cよりも遠く、かつ、歩行者Dよりも近い位置とする。
【0041】
この状態で歩行者Aの存在する撮像エリアを撮像したとき、その撮像画像には、図10に示すように、街灯Eの発する光Fが反映されている。つまり、自車両前方に街灯等の発光体が存在する場合、または対向車線の車両がライトを点灯している場合など、自車両前方に発光体が存在する場合、これらの発する外乱光の影響を受けて対応する画素の輝度値が高くなってしまう。すなわち、撮像画像に反射光以外の外乱光ノイズがのってしまうため、これら外乱光ノイズがのった各撮像画像から各画素の物体までの距離を生成すると、物体の距離を正確に検出できない。
【0042】
これに対し、実施例1では、図11に示すように、タイミングコントローラ9において、1フレーム分の撮像画像を撮像する前、すなわちエリア1を撮像する前に、投光器5による投光を行わずに自車両前方を撮像し、当該画像(図11の#0画像)を外乱光ノイズ除去用のフィルタ画像として画像処理部10に出力する。
【0043】
画像処理部10では、各撮像画像(#1,#2,#3,#4,…#n)の各画素の輝度値データからフィルタ画像#0の対応する画素の輝度値データを減算した画像(#1',#2',#3',#4',…#n')を最終的な撮像画像とし、各画像(#1',#2',#3',#4',…#n')に基づいて距離画像データを生成する。
【0044】
例えば、図9のシーンで投光器5により投光を行わずに自車両前方を撮像した場合、図12に示すように、街灯Eの発する光Fのみが反映された画像が得られる。よって、各撮像画像における各画素の輝度値からフィルタ画像における対応する画素の輝度値を減算することで、各画素の輝度値は、街灯Eの発する光の影響を除いた値、すなわち、投光器5の反射光のみが反映された値となる。
【0045】
図13は上記外乱光ノイズ除去を行った歩行者Aの存在する撮像エリアの撮像画像であり、この撮像画像には、街灯Eの点灯に伴う外乱光ノイズが除去され、歩行者Aの反射光のみが反映されているのがわかる。
【0046】
次に、効果を説明する。
実施例1の距離画像データ生成装置2にあっては、以下に列挙する効果を奏する。
【0047】
(1) 自車両前方に所定周期でパルス光を投光する投光器7と、撮像エリアに応じて設定される撮像タイミングで撮像エリアから帰ってくる反射光を撮像する高速度カメラ8と、撮像エリアが連続的に変化するように撮像タイミングを制御するタイミングコントローラ9と、高速度カメラ8により得られた撮像エリアの異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する画像処理部10と、を備え、画像処理部10は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正する。これにより、各撮像画像の輝度から街灯などの外乱光によるノイズ成分を除去でき、距離画像データにおける画素毎の物体までの距離を正確に検出できる。
【0048】
82) 画像処理部10は、撮像画像の各画素の輝度からフィルタ画像の対応する画素の輝度を減算した値を当該画素の輝度とするため、各撮像画像から外乱光によるノイズ成分を確実に除去できる。
【0049】
(他の実施例)
以上、本発明を実施するための最良の形態を、実施例に基づき説明したが、本発明の具体的な構成については、実施例の構成に限らず、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り、設計変更や追加等は許容される。
【0050】
例えば、投光周期、投光時間、ゲート時間、撮像対象幅、撮像対象距離の変化量、1フレーム中の撮像エリア数は、撮像手段の性能や距離画像データ生成手段の性能に応じて適宜設定することができる。
【図面の簡単な説明】
【0051】
【図1】実施例1の障害物検出装置1の構成を示すブロック図である。
【図2】1つの撮像エリアを撮像する際の、投光器5の動作(投光動作)とゲート7aの動作(カメラゲート動作)との時間的な関係を示す図である。
【図3】撮像エリアの一部がオーバーラップする状態を示す図である。
【図4】撮像エリアを無限に増やして撮像を行った場合の時間的な輝度変化を示す模式図である。
【図5】実施例1の画像処理部10で実行される距離画像データ生成制御処理の流れを示すフローチャートである。
【図6】自車両前方の異なる位置に4人の歩行者A〜Dが存在している状況を示す図である。
【図7】各歩行者A〜Bに対応する画素の時間的な輝度変化を示す模式図である。
【図8】実施例1の距離画像データ生成作用を示す図である。
【図9】自車両前方の異なる位置に4人の歩行者A〜Dと街灯Eが存在している状況を示す図である。
【図10】歩行者Aが存在する撮像エリアにおける撮像画像に他の撮像エリアに存在する街灯Eの発する光Fが反映さえた状態を示す図である。
【図11】実施例1のノイズ除去方法を示す図である。
【図12】フィルタ画像の一例である。
【図13】実施例1のノイズ除去作用を示す図である。
【符号の説明】
【0052】
1 障害物検出装置
2 距離画像データ生成装置
3 物体認識処理部
4 判断部
5 投光器(投光手段)
6 対物レンズ
7 光増倍部
7a ゲート
7b イメージインテンシファイア
8 高速度カメラ(撮像手段)
9 タイミングコントローラ(タイミング制御手段)
10 画像処理部(距離画像データ生成手段)
【特許請求の範囲】
【請求項1】
自車両前方に所定周期でパルス光を投光する投光手段と、
ターゲット距離に応じて設定される撮像タイミングで前記ターゲット距離から帰ってくる反射光を撮像する撮像手段と、
前記ターゲット距離が連続的に変化するように前記撮像タイミングを制御するタイミング制御手段と、
前記撮像手段により得られたターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する距離画像データ生成手段と、
を備え、
前記距離画像データ生成手段は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正することを特徴とする車両用距離画像データ生成装置。
【請求項2】
請求項1に記載の車両用距離画像データ生成装置において、
前記距離画像データ生成手段は、前記撮像画像の各画素の輝度から前記フィルタ画像の対応する画素の輝度を減算した値を当該画素の輝度とすることを特徴とする車両用距離画像データ生成装置。
【請求項1】
自車両前方に所定周期でパルス光を投光する投光手段と、
ターゲット距離に応じて設定される撮像タイミングで前記ターゲット距離から帰ってくる反射光を撮像する撮像手段と、
前記ターゲット距離が連続的に変化するように前記撮像タイミングを制御するタイミング制御手段と、
前記撮像手段により得られたターゲット距離の異なる複数の撮像画像における同一画素の輝度に基づいて、画素毎の物体までの距離を表す距離画像データを生成する距離画像データ生成手段と、
を備え、
前記距離画像データ生成手段は、パルス光を投光せずに自車両前方を撮像した外乱光ノイズ除去用のフィルタ画像に基づいて、各撮像画像の輝度を補正することを特徴とする車両用距離画像データ生成装置。
【請求項2】
請求項1に記載の車両用距離画像データ生成装置において、
前記距離画像データ生成手段は、前記撮像画像の各画素の輝度から前記フィルタ画像の対応する画素の輝度を減算した値を当該画素の輝度とすることを特徴とする車両用距離画像データ生成装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−257982(P2009−257982A)
【公開日】平成21年11月5日(2009.11.5)
【国際特許分類】
【出願番号】特願2008−108557(P2008−108557)
【出願日】平成20年4月18日(2008.4.18)
【出願人】(000004765)カルソニックカンセイ株式会社 (3,404)
【Fターム(参考)】
【公開日】平成21年11月5日(2009.11.5)
【国際特許分類】
【出願日】平成20年4月18日(2008.4.18)
【出願人】(000004765)カルソニックカンセイ株式会社 (3,404)
【Fターム(参考)】
[ Back to top ]