無限遠点決定装置
【課題】ターゲットを設置することなくFOEを決定することができる無限遠点決定装置を提供する。
【解決手段】撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置において、その画像内におけるボンネットの頂点の位置からFOEのX座標FOE(X)およびFOEのY座標の第1候補値FOE(y1)を決定し(ステップS100)、その画像内におけるヘッドライトのカットラインCLの位置からFOEのY座標の第2候補値FOE(y2)および車載カメラ110のロール角を決定する(ステップS200)。そして、第1候補値FOF(y1)とFOE(y2)を補正し(ステップS300)、補正後の第1候補値FOF(y1’)と第2候補値FOE(y2’)とを平均してFOEのY座標FOE(Y)を決定する(ステップS350)。
【解決手段】撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置において、その画像内におけるボンネットの頂点の位置からFOEのX座標FOE(X)およびFOEのY座標の第1候補値FOE(y1)を決定し(ステップS100)、その画像内におけるヘッドライトのカットラインCLの位置からFOEのY座標の第2候補値FOE(y2)および車載カメラ110のロール角を決定する(ステップS200)。そして、第1候補値FOF(y1)とFOE(y2)を補正し(ステップS300)、補正後の第1候補値FOF(y1’)と第2候補値FOE(y2’)とを平均してFOEのY座標FOE(Y)を決定する(ステップS350)。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラによって撮像された画像内における無限遠点の位置を決定する無限遠点決定装置に関する。
【背景技術】
【0002】
車両にカメラを搭載する場合、そのカメラによって撮像された画像平面内における無限遠点(Focus Of Expansion、以下、FOEともいう)を決定しなければならない場合がある。たとえば、特許文献1に記載されているように、車載カメラによって撮像された画像から白線等の車線を区画する区画線(レーンマーク)を認識する場合には、FOEを決定する必要がある。レーンマークの位置は、そのレーンマークに沿って車両を自動走行させる制御や、車両の車線からの逸脱を検出して運転者に警報を発する制御に用いられる。
【0003】
FOEは、車線両側の一対のレーンマークを直線近似して無限遠点まで延長したときに、その一対のレーンマークが交差する点であり、また、地平線上に固定される。このFOEを基準として自車両とレーンマークとの相対位置が認識される。従って、FOEは正確に決定される必要がある。
【0004】
FOEは、車両走行時には車載カメラによって撮像された画像内のレーンマークに基づいて自動補正されるのであるが、その前提として、車載カメラの取り付け時に初期位置を決定する必要がある。図1は、FOEの初期位置を決定するための従来の方法を説明するための図である。図1に示すように、FOEの決定に際しては、車両10に対して所定の位置にターゲット12を設置する。
【0005】
図2は、車載カメラ14によって撮像された画像を示す図であり、図2に示すように、ターゲット12は3つ設置される。これら3つのターゲット12の高さは、全て同じ高さとされている。中央のターゲット12は、車両10の幅方向の中心線上に設置することとなっている。また、両側のターゲット12は、3つのターゲット12を結ぶ直線が車両10の幅方向の中心線と直行するように、且つ、中央のターゲット12からの距離が互いに等距離となるように設置することとなっている。
【0006】
図2に示す画像を撮像した後は、画像処理によって各ターゲット12の中心位置を検出する。ターゲット12は車両10に対して所定の距離に設置されており、また、ターゲット12の高も決まっていることから、図1に示す俯角θ1は幾何的に計算することができる。また、中央のターゲット12は、車両10の幅方向中心線上に設置されている。従って、中央のターゲット12の中心位置が撮像画像内においてどこに位置するかが決定できれば、画像平面内におけるFOEの位置を決定することができる。
【0007】
さらに、撮像画像内における各ターゲット12の中心位置を通る直線の傾きから、車載カメラ14の車両幅方向の傾き、すなわち車載カメラ14のロール角も決定される。そして、レーンマークの認識等のための画像処理においては、このロール角に基づいて補正された画像が用いられる。
【特許文献1】特開2004−185425号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
上述のように、従来のFOEの決定作業は、車両10に対して3つのターゲット12を所定の位置に設置することにより行われているが、3つのターゲット12を車両10に対して所定の位置に設置するのには少なくとも2人で作業する必要があり、しかも、その設置作業だけで、通常、1時間以上もの時間を必要としていた。従って、ターゲットを設置することなく、FOEを決定することができるようにすることが強く望まれていた。
【0009】
本発明は上述した点に鑑みてなされたものであり、その目的とするところは、ターゲットを設置することなくFOEを決定することができる無限遠点決定装置を提供することにある。
【課題を解決するための手段】
【0010】
その目的を達成するための請求項1記載の発明は、撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、その記憶装置に記憶されたY座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標を決定するY座標決定手段とを含むことを特徴とする。
【0011】
このようにして無限遠点が決定できるのは、ボンネットも従来のターゲットと同様に車載カメラに対する相対位置が定まっているからである。そして、このように車載カメラによって撮像された画像内におけるボンネットの頂点の位置から無限遠点を決定すれば、ターゲットを設置することなくFOEを決定することができる。
【0012】
ここで、FOEのY座標の決定は、請求項2のように、ヘッドライトのカットラインを用いることもできる。また、請求項2におけるFOEのX座標の決定方法は、請求項1と同じである。
【0013】
すなわち、前記目的を達成するための請求項2記載の発明は、撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、その記憶装置に記憶されたY座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標を決定するY座標決定手段とを含むことを特徴とする。
【0014】
車両とヘッドライトの照射面との距離が定まれば、ヘッドライトのカットラインの高さは定まることから、請求項2のようにしても、無限遠点のY座標を決定できるのである。そして、請求項2のように、車載カメラによって撮像された画像内におけるボンネットの頂点の位置およびヘッドライトのカットラインの位置から無限遠点を決定すれば、ターゲットを設置することなく無限遠点を決定することができる。
【0015】
ここで、好ましくは、請求項3のように、上記無限遠点決定装置は、前記車両のピッチ角を検出する車両ピッチ角センサと、その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標決定手段によって決定されたY座標を補正するY座標補正手段とをさらに含むことが好ましい。このように、車両のピッチ角を検出し、Y座標補正手段により、その検出した車両のピッチ角に基づいて無限遠点のY座標を補正すれば、仮に、車両が前後方向に傾斜していたとしても、精度のよい無限遠点のY座標を得ることができる。
【0016】
請求項1では、車載カメラによって撮像された画像内のボンネット位置から無限遠点のY座標を決定しており、請求項2では、車載カメラによって撮像された画像内におけるヘッドライトのカットラインの位置から無限遠点のY座標を決定していたが、請求項4のように、ボンネットおよびヘッドライトのカットラインから決定したY座標を比較して、最終的なY座標を決定してもよい。
【0017】
その請求項4記載の発明は、撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間の第1Y座標差および前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間の第2Y座標差を記憶した記憶装置と、その記憶装置に記憶された第1Y座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標の第1候補値を算出する第1候補値算出手段と、その記憶装置に記憶された第2Y座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標の第2候補値を算出する第2候補値算出手段と、第1候補値算出手段によって算出された無限遠点のY座標の第1候補値と、第2候補値算出手段によって算出された無限遠点のY座標の第2候補値とを比較した比較値が、予め設定された所定の判断基準値を超えているか否かを判断するY座標比較手段と、そのY座標比較手段において比較値が前記判断基準値を超えていないと判断された場合に、前記第1候補値算出手段によって算出された無限遠点のY座標の第1候補値、および前記第2候補値算出手段によって算出された無限遠点のY座標の第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するY座標決定手段とを含むことを特徴とする。
【0018】
この請求項4記載の発明によれば、第1候補値算出手段により、画像内のボンネットの頂点の位置から無限遠点のY座標の第1候補値が算出され、第2候補値算出手段により、画像内におけるヘッドライトのカットラインの位置から無限遠点のY座標の第2候補値が算出され、Y座標比較手段では、それら第1候補値と第2候補値とを比較した比較値が、所定の判断基準値を超えているか否かが判断される。比較値が判断基準値を超えている場合には、第1候補値および第2候補値の少なくとも一方が誤差を大きく含んだものであると言えるので、この場合には、自動的に再測定したり、車載カメラの取り付け位置を調整した後に再測定するべきとのメッセージを表示したりすることができる。従って、無限遠点のY座標に大きな誤差が含まれることが少なくなるので、一層精度よく無限遠点を決定することができる。
【0019】
なお、比較値が判断基準値を越えていない場合、すなわち、第1候補値と第2候補値とが近い場合には、両者ともに比較的精度のよい値を表していると考えられるので、Y座標決定手段により、第1候補値および第2候補値の少なくとも一方を用いて無限遠点のY座標を決定するのである。
【0020】
上記請求項4に対する請求項5は、請求項1または2に対する請求項3と同様の関係であり、車両のピッチ角に基づいて無限遠点のY座標の候補値である第1候補値および第2候補値を補正するものである。すなわち、請求項5記載の発明は、請求項4記載の無限遠点決定装置において、前記車両のピッチ角を検出する車両ピッチ角センサと、その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標の第1候補値および第2候補値を補正する候補値補正手段とをさらに備え、前記Y座標決定手段は、その候補値補正手段による補正後の第1候補値および第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するものである。このようにすれば、仮に車両が前後方向に傾斜していたとしても、一層精度のよい無限遠点のY座標を得ることができる。
【0021】
さらに、前記請求項1乃至5記載の無限遠点決定装置は、請求項6のようにして、車載カメラのロール角を決定することが好ましい。すなわち、請求項6記載の発明は、請求項1乃至5のいずれかに記載の無限遠点決定装置において、前記車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインの傾きに基づいて前記車載カメラのロール角を決定するロール角決定手段をさらに備えていることを特徴とする。
【0022】
このようにすれば、ターゲットを設置することなく車載カメラのロール角も決定することができる。
【0023】
また、上記請求項6において決定した車載カメラのロール角は、請求項7記載のように、車両ロール角に基づいて補正することが好ましい。すなわち、請求項7記載の発明は、請求項6記載の無限遠点決定装置において、前記車両のロール角を検出する車両ロール角センサと、その車両ロール角センサによって検出された車両のロール角に基づいて、前記ロール角決定手段によって決定された車載カメラのロール角を補正するロール角補正手段とをさらに備えていることを特徴とする。
【0024】
このようにすれば、仮に、車両が幅方向に傾斜していたとしても、車載カメラのロール角を精度よく決定することができる。
【発明を実施するための最良の形態】
【0025】
以下、本発明の実施の形態を図面に基づいて説明する。図3は、本発明の無限遠点決定装置100の構成を示すブロック図である。無限遠点決定装置100は、車載カメラ110によって撮像される画像を処理する演算処理装置120と、車両の姿勢角(ロール角、ピッチ角)を検出する車両姿勢角センサ130と、記憶装置として機能するE2PROM140と、表示装置150とを備えている。
【0026】
車載カメラ110は、CCDカメラによって構成されており、図4に示すように、その取り付け位置は、車両160の内部、たとえば運転席近傍の天井とされる。また、車載カメラ110の車両幅方向における取り付け位置は、車両幅方向の中心とされている。また、その車載カメラ110の垂直方向の撮像範囲θ2は、図4に示すように、車両160のボンネットが撮像可能、且つ、水平方向よりも上方が撮像可能な範囲となっている。
【0027】
図4に示す直線L1は、車両160のボンネットと接するように車載カメラ110から延びる直線であり、接点Cは直線L1とボンネットとの接点である。図5は、車載カメラ110によって撮像される画像を概念的に示す図である。図5に示されるボンネットの境界線(以下、これをボンネットラインという)BLは、図4に示す接点Cを含み、且つ、車両幅方向に対して平行な切断面、すなわち、図4に示す切断面Fにおけるボンネットの上縁と一致する。また、このボンネットラインBLは、車両幅方向の中心が頂点Pとなっている。
【0028】
ここで、車載カメラ110の取り付け位置は決まっており、接点Cは、車載カメラ110の取り付け位置が同じあれば、同じ位置となる。従って、車載カメラ110と接点Cとの間の水平方向距離および垂直方向距離は常に一定となる。車載カメラ110と接点Cとの間の水平方向距離が一定であれば、切断面Fにおける車載カメラ110の高さ方向の撮像長さh1は定まり、また、前述のように、車載カメラ110と接点Cとの間の垂直方向距離は一定である。この車載カメラ110と接点Cとの間の垂直方向距離をh2とし、画像の下端から上端までのY座標の差をY0とすれば、画像内におけるボンネットの頂点PとFOEとの間のY座標差(以下、これを第1Y座標差という)Yd1は式1から算出することができる。従って、第1Y座標差Yd1は一定値であり、予め算出することができる。E2PROM140には、予め算出された第1Y座標差Yd1が記憶されている。
(式1) Yd1=Y0×(h2/h1)
また、E2PROM140には、車載カメラ110によって撮像された画像内におけるヘッドライトのカットラインCLとFOEとの間のY座標差である第2Y座標差Yd2も記憶されている。この第2Y座標差Yd2については後述する。
【0029】
車両姿勢角センサ130は、車両ピッチ角センサおよび車両ロール角センサとして機能するものであり、たとえば、4輪のサスペンション近傍にそれぞれ設けられて各サスペンション部分における路面と車両底面との間の距離を検出する距離センサを有しており、その4つの距離センサによって検出された路面と車両底面との間の距離を相互に比較することによって、車両のロール角およびピッチ角を検出する。
【0030】
演算処理装置120は、図示しないCPU、ROM、RAM等からなるマイクロコンピュータを備えており、RAMの一次記憶機能を利用しつつ、ROMに予め記憶されたプログラムを実行することにより、E2PROM140に記憶されたその第1Y座標差Yd1、第2Y座標差Yd2、車載カメラ110によって撮像される画像、車両姿勢センサ130によって検出される車両ピッチ角、車両ロール角に基づいて、FOEの決定および車載カメラ110のロール角を決定する。
【0031】
図6は、演算処理装置120におけるFOEおよび車載カメラ110のロール角を決定する処理の要部を示すフローチャートである。図6において、まず、ステップS100では、車載カメラ110によって撮像される画像におけるボンネットの頂点の位置から、FOEのX座標(FOE(X))およびFOEのY座標の第1候補値(FOE(y1))を決定する。なお、ステップS100の実行中は、車載カメラ110は画像を連続的に撮像している。
【0032】
図6のステップS100における処理を図7に詳しく示す。図7のステップS105では、車載カメラ110によって連続的に撮像される画像に対して、露出制御を実行する。この露出制御は、車載カメラ110の取り付け誤差等により撮像範囲が多少変動したとしても、必ずボンネット部分となるように予め設定された基準範囲170(たとえば、図5に示す範囲)に対して、コントラストが最大となるように露出を調整するものである。
【0033】
続くステップS110では、上記ステップS105で調整した露出で撮像された画像を画像処理用の画像として取り込み、続くステップS115では、上記ステップS110で取り込んだ画像から、予め設定された範囲を切り出す。ここで切り出す範囲は、図5に示す一点鎖線よりも下側の範囲であり、この範囲はボンネットが大半を占めるように設定されている。
【0034】
そして、続くステップS120では、上記ステップS115で切り出した範囲について画素値ヒストグラムを作成する。図8はその画素値ヒストグラムの一例を示す図であり、図8では、画素値の最小値は0、最大値は255である。
【0035】
続くステップS125では、その画素値ヒストグラムに基づいて、ボンネットの画素値域を決定する。図8に示すように、この画素値ヒストグラムは一つの大きなピークを有しているが、この画素値ヒストグラムは、ボンネットが大半を占めるように設定された範囲のものであることから、図8に示すピークはボンネットの画素値を示すものである。そこで、ステップS125では、上記ピークの立ち上がりから立下りまでをボンネットの画素値域に決定する。
【0036】
続くステップS130では、ステップS115で切り出した範囲に対して、上記ステップS125でボンネットの画素値域に決定した範囲を白とし、その他の画素値を黒とする二値化処理を実行する。そして、ステップS135では、その二値化処理した画像における白色範囲の上側境界線をボンネットラインBLとして決定する。さらに、続くステップS140では、ステップS135で決定したボンネットラインBLの頂点、すなわち、画像内におけるボンネットの頂点を決定する。なお、図7のステップS105乃至S140が頂点決定手段に相当する。
【0037】
続くステップS145はX座標決定手段に相当する。車載カメラ110によって撮像された画像内においてボンネットの頂点は車両幅方向の中心に位置することから、このステップS145では、上記ステップS140で決定したボンネットの頂点のX座標をFOEのX座標に決定する。
【0038】
続くステップS150は第1候補値算出手段に相当し、ステップS140で決定したボンネットの頂点のY座標にE2PROM140に記憶されている第1Y座標差Yd1を加えることにより、FOEのY座標の第1候補値FOE(y1)を算出する。
【0039】
図6に戻って、ステップS100の実行後はステップS200を実行する。このステップS200は、図9に示すように、車両160を、照射面である平面状の壁面180に対して車幅方向が平行となるように、且つ、その壁面180に対して所定の距離となるように位置させ、室内を暗くし、ヘッドライトをその壁面180に照射した状態で実行する。また、ステップS200の実行中は、車載カメラ110は画像を連続的に撮像している。図10は、ステップS200の実行中に車載カメラ110によって撮像される画像を概念的に示す図であり、図10に示すように、車載カメラ110によって撮像される画像には、ヘッドライトのカットラインCLが映っている。
【0040】
ステップS200では、車載カメラ110によって撮像される画像内におけるヘッドライトのカットラインCLの位置から、FOEのY座標の第1候補値(FOE(y1))および車載カメラ110のロール角を決定する。
【0041】
ステップS200における処理を図11に詳しく示す。図11において、まず、ステップS205では、車載カメラ110によって連続的に撮像される画像に対して露出制御を実行する。この露出制御は、車載カメラ110の取り付け誤差等により撮像範囲が多少変動したとしても、画像内において必ずヘッドライトの照射部分となるように予め設定された基準範囲に対して、コントラストが最大となるように露出を調整するものである。上記基準範囲は、たとえば実験に基づいて決定したヘッドライトのカットラインの平均位置から下方に所定値だけ移動した点を中心とする狭い範囲に設定される。
【0042】
続くステップS210では、上記ステップS205で調整した露出で撮像された画像を画像処理用の画像として取り込み、続くステップS215では、上記ステップS210で取り込んだ画像から、予め設定された範囲を切り出す。ここで切り出す範囲は、図10に示す範囲である。この切り出し範囲は、ヘッドライトの照射部分が大きな割合を示すように設定されており、その範囲のX軸方向は撮像範囲と一致し、Y軸方向は画像内におけるヘッドライトのカットラインCLの位置が多少変動してもそのヘッドライトのカットラインCLが確実に含まれるように、たとえば、画像範囲の下から1/3〜下から1/10までの範囲とされている。
【0043】
そして、ステップS220では、図7のステップS120と同様に、上記ステップS215で切り出した範囲について画素値ヒストグラムを作成する。このステップS220で作成される画素値ヒストグラムは図示していないが、ヘッドライトの照射部分が大きな割合となるようにステップS215における切り出し範囲が設定されているので、ステップS220で作成される画素値ヒストグラムには、ヘッドライトの照射部分に対応する画素値に大きなピークを有する。そこでステップS225では、ステップS220で作成した画素値ヒストグラムにおける最大ピークの立ち上がりから立下りまでをヘッドライトの照射部分の画素値域に決定する。
【0044】
そして、続くステップS230では、ステップS215で切り出した範囲に対して、上記ステップS225でヘッドライトの照射部分の画素値域に決定した範囲を白とし、その他の画素値を黒とする二値化処理を実行する。続くステップS235では、その二値化処理した画像における白色範囲の上側境界線をヘッドライトのカットラインCLとして決定し、さらに、続くステップS240では、ステップS235で決定したヘッドライトカットラインCLを最小自乗法等を用いて直線近似する。なお、図11のステップS205乃至S240がカットライン決定手段に相当する。
【0045】
続くステップS245は第2候補値算出手段に相当し、ステップS240で直線近似したヘッドライトのカットラインCLの幅方向中央におけるY座標に、E2PEOM140に記憶されている第2Y座標差Yd2(車載カメラ110によって撮像された画像内におけるヘッドライトのカットラインCLとFOEとの間のY座標差)を加えることにより、FOEのY座標の第2候補値FOE(y2)を算出する。
【0046】
ここで、第2Y座標差Yd2について説明する。ヘッドライトが照射される壁面180と車両160との距離は定められていることから、車両160に対する取り付け部位が定まっている車載カメラ110と壁面180との間の距離は定まっている。また、車両160から照射面すなわち壁面180までの距離が定まっていれば、その照射面(壁面180)におけるヘッドライトのカットラインCLの高さも予め定まる。従って、図9に示す車載カメラ110とヘッドライトのカットラインCLとの間の垂直方向距離h4は予め求めることができる。また、壁面180における車載カメラ110の高さ方向の撮像長さh3も求めることができるので、これらh3、h4、および前述の画像の下端から上端までのY座標の差Y0を用いて、第2Y座標差Yd2は式2から算出することができる。
(式2) Yd2=Y0×(h4/h3)
続くステップS250はロール角決定手段に相当し、ステップS240で直線近似したヘッドライトのカットラインCLの傾きを車載カメラ110のロール角として決定する。
【0047】
図6へ戻って、ステップS200を実行した後は、候補値補正手段に相当するステップS300において、車両姿勢角センサ130から車両ピッチ角を表す信号を読み込み、その車両ピッチ角と正負が逆の値を、図7のステップS150で算出した第1候補値FOE(y1)および図11のステップS245で算出した第2候補値FOE(y2)にそれぞれ加えることにより、その第1候補値FOE(y1)および第2候補値FOE(y2)を車両のピッチ角がゼロの状態の値に補正する。なお、以下、補正後の第1候補値FOE(y1)を補正第1候補値(y1’)、補正後の第2候補値FOE(y2)を補正第2候補値FOE(y2)という。
【0048】
続くステップS310はロール角補正手段に相当する。このステップS310では、車両姿勢角センサ130から車両ロール角を表す信号を読み込み、その車両ロール角と正負が逆の値を、図11のステップS250で決定した車載カメラ110のロール角を車両のロール角がゼロの状態の値に補正する。
【0049】
続いて、Y座標比較手段に相当するステップS320乃至S330を実行する。ステップS320では、上記ステップS300で得た補正第1候補値(y1’)および補正第2候補値(y2’)の比較値を算出する。ここでは、この比較値として補正第1候補値(y1’)と補正第2候補値(y2’)との差を算出することとするが、その差に限らず、この比較値は、補正第1候補値(y1’)と補正第2候補値(y2’)との大きさの違いを示すものであればよく、たとえば両者の比を比較値として算出することもできる。
【0050】
続くステップS330は、上記ステップS320で算出した比較値が、予め設定された判断基準値THよりも大きいか否かを判断する。このステップS330の判断が肯定されるのは、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)とが比較的大きくかけ離れている場合であり、少なくともいずれか一方は大きな誤差を含んでいると考えることができる。しかし、どちらに大きな誤差が含まれているか、或いは、両方ともに大きな誤差を含んでいるのかを判断することはできないので、ステップS340において、表示装置150に再測定を指示するメッセージを表示して本ルーチンを終了する。
【0051】
一方、ステップS330の判断が肯定されるのは、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)とが比較的近い値の場合であり、この場合には、両者ともに誤差が小さいと考えられるので、いずれか一方をFOEのY座標FOE(Y)としてもよいのであるが、ここでは、ステップS350において、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)を単純平均した値をFOEのY座標FOE(Y)として決定する。なお、このステップS350がY座標決定手段に相当する。
【0052】
以上、説明した本実施形態によれば、車載カメラ110によって撮像された画像内におけるボンネットの頂点の位置およびヘッドライトのカットラインCLの位置からFOEを決定するので、従来のように、FOEの決定のためにターゲットを設置する必要がなくなる。
【0053】
また、本実施形態によれば、車両のピッチ角に基づいてFOEのY座標の第1候補値FOE(y1)および第2候補値FOE(y2)が補正されるので、車両160が前後方向に傾斜していたとしても、精度よくFOEのY座標を決定することができる。
【0054】
また、本実施形態によれば、車載カメラ110によって撮像された画像内におけるヘッドライトのカットラインCLの位置から車載カメラ110のロール角を決定するので、車載カメラ110のロール角もターゲットを設置することなく決定することができる。また、そのロール角は、車両ロール角に基づいて補正されるので、車両160が車幅方向に傾斜していたとしても精度よく車載カメラ110のロール角を決定することができる。
【0055】
以上、本発明の実施形態を説明したが、本発明は上述の実施形態に限定されるものではなく、次の実施形態も本発明の技術的範囲に含まれ、さらに、下記以外にも要旨を逸脱しない範囲内で種々変更して実施することができる。
【0056】
たとえば、前述の実施形態では、車両ピッチ角に基づいてFOEのY座標の第1候補値FOE(y1)および第2候補値FOE(y2)を補正していたが、タイヤ空気圧の調整等により車両ピッチ角が小さい状態でFOEの決定作業を行う場合には、車両ピッチ角に基づく第1候補値FOE(y1)および第2候補値(y2)の補正を実行しなくてもよい。また、車両ロール角に基づく車載カメラ110のロール角の補正も、車両ロール角が小さい状態で車載カメラ110のロール角を決定する場合には、実行しなくてもよい。
【0057】
また、前述の実施形態では、車載カメラ110によって撮像された画像内におけるボンネットの頂点の位置からFOEのY座標の第1候補値FOE(y1)を算出するとともに、その画像内におけるヘッドライトのカットラインCLの位置からFOEのY座標の第2候補値FOE(y2)を算出し、それらを比較した後にFOEのY座標を決定していたが、第1候補値FOE(y1)或いはそれを補正した補正第1候補値FOE(y1’)、または、第2候補値FOE(y2)或いはそれを補正した補正第2候補値FOE(y2’)をそのまま、FOEのY座標としてもよい。この場合には、第1候補値算出手段として機能していたステップS150または第2候補値算出手段として機能していたステップS245がY座標決定手段として機能することとなり、また、車両ピッチ角に基づいて補正を行う場合には、ステップS300がY座標補正手段として機能することとなる。
【0058】
また、前述の実施形態のステップS350では、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)を単純平均してFOEのY座標FOE(Y)を決定していたが、単純平均に代えて加重平均を用いてFOEのY座標FOE(Y)を決定してもよい。
【図面の簡単な説明】
【0059】
【図1】FOEの初期位置を決定するための従来の方法を説明するための図である。
【図2】図1の状態において車載カメラ14によって撮像される画像の一例を示す図である。
【図3】本発明が適用された無限遠点決定装置100の構成を示すブロック図である。
【図4】画像内におけるボンネットの頂点の位置からFOEを決定する作業の状態を、車両160の側方から示す図である。
【図5】図4の状態で車載カメラ110によって撮像される画像を概念的に示す図である。
【図6】演算処理装置120におけるFOEおよび車載カメラ110のロール角を決定する処理の要部を示すフローチャートである。
【図7】図6のステップS100を詳しく示すフローチャートである。
【図8】図7のステップS120で作成される画素値ヒストグラムの一例を示す図である。
【図9】画像内におけるヘッドライトのカットラインCLの位置からFOEおよび車載カメラ110のロール角を決定する作業の状態を、車両160の側方から示す図である。
【図10】図9の状態で車載カメラ110によって撮像される画像を概念的に示す図である。
【図11】図6のステップS200を詳しく示すフローチャートである。
【符号の説明】
【0060】
100:無限遠点決定装置
110:車載カメラ
130:車両姿勢角センサ(車両ロール角センサ、車両ピッチ角センサ)
140:E2PROM(記憶装置)
180:壁面(照射面)
S105乃至S140:頂点決定手段
S145:X座標決定手段
S150:第1候補値算出手段
S205乃至S240:カットライン決定手段
S245:第2候補値算出手段
S250:ロール角決定手段
S300:候補値補正手段
S310:ロール角補正手段
S320乃至S330:Y座標比較手段
S350:Y座標決定手段
【技術分野】
【0001】
本発明は、車載カメラによって撮像された画像内における無限遠点の位置を決定する無限遠点決定装置に関する。
【背景技術】
【0002】
車両にカメラを搭載する場合、そのカメラによって撮像された画像平面内における無限遠点(Focus Of Expansion、以下、FOEともいう)を決定しなければならない場合がある。たとえば、特許文献1に記載されているように、車載カメラによって撮像された画像から白線等の車線を区画する区画線(レーンマーク)を認識する場合には、FOEを決定する必要がある。レーンマークの位置は、そのレーンマークに沿って車両を自動走行させる制御や、車両の車線からの逸脱を検出して運転者に警報を発する制御に用いられる。
【0003】
FOEは、車線両側の一対のレーンマークを直線近似して無限遠点まで延長したときに、その一対のレーンマークが交差する点であり、また、地平線上に固定される。このFOEを基準として自車両とレーンマークとの相対位置が認識される。従って、FOEは正確に決定される必要がある。
【0004】
FOEは、車両走行時には車載カメラによって撮像された画像内のレーンマークに基づいて自動補正されるのであるが、その前提として、車載カメラの取り付け時に初期位置を決定する必要がある。図1は、FOEの初期位置を決定するための従来の方法を説明するための図である。図1に示すように、FOEの決定に際しては、車両10に対して所定の位置にターゲット12を設置する。
【0005】
図2は、車載カメラ14によって撮像された画像を示す図であり、図2に示すように、ターゲット12は3つ設置される。これら3つのターゲット12の高さは、全て同じ高さとされている。中央のターゲット12は、車両10の幅方向の中心線上に設置することとなっている。また、両側のターゲット12は、3つのターゲット12を結ぶ直線が車両10の幅方向の中心線と直行するように、且つ、中央のターゲット12からの距離が互いに等距離となるように設置することとなっている。
【0006】
図2に示す画像を撮像した後は、画像処理によって各ターゲット12の中心位置を検出する。ターゲット12は車両10に対して所定の距離に設置されており、また、ターゲット12の高も決まっていることから、図1に示す俯角θ1は幾何的に計算することができる。また、中央のターゲット12は、車両10の幅方向中心線上に設置されている。従って、中央のターゲット12の中心位置が撮像画像内においてどこに位置するかが決定できれば、画像平面内におけるFOEの位置を決定することができる。
【0007】
さらに、撮像画像内における各ターゲット12の中心位置を通る直線の傾きから、車載カメラ14の車両幅方向の傾き、すなわち車載カメラ14のロール角も決定される。そして、レーンマークの認識等のための画像処理においては、このロール角に基づいて補正された画像が用いられる。
【特許文献1】特開2004−185425号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
上述のように、従来のFOEの決定作業は、車両10に対して3つのターゲット12を所定の位置に設置することにより行われているが、3つのターゲット12を車両10に対して所定の位置に設置するのには少なくとも2人で作業する必要があり、しかも、その設置作業だけで、通常、1時間以上もの時間を必要としていた。従って、ターゲットを設置することなく、FOEを決定することができるようにすることが強く望まれていた。
【0009】
本発明は上述した点に鑑みてなされたものであり、その目的とするところは、ターゲットを設置することなくFOEを決定することができる無限遠点決定装置を提供することにある。
【課題を解決するための手段】
【0010】
その目的を達成するための請求項1記載の発明は、撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、その記憶装置に記憶されたY座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標を決定するY座標決定手段とを含むことを特徴とする。
【0011】
このようにして無限遠点が決定できるのは、ボンネットも従来のターゲットと同様に車載カメラに対する相対位置が定まっているからである。そして、このように車載カメラによって撮像された画像内におけるボンネットの頂点の位置から無限遠点を決定すれば、ターゲットを設置することなくFOEを決定することができる。
【0012】
ここで、FOEのY座標の決定は、請求項2のように、ヘッドライトのカットラインを用いることもできる。また、請求項2におけるFOEのX座標の決定方法は、請求項1と同じである。
【0013】
すなわち、前記目的を達成するための請求項2記載の発明は、撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、その記憶装置に記憶されたY座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標を決定するY座標決定手段とを含むことを特徴とする。
【0014】
車両とヘッドライトの照射面との距離が定まれば、ヘッドライトのカットラインの高さは定まることから、請求項2のようにしても、無限遠点のY座標を決定できるのである。そして、請求項2のように、車載カメラによって撮像された画像内におけるボンネットの頂点の位置およびヘッドライトのカットラインの位置から無限遠点を決定すれば、ターゲットを設置することなく無限遠点を決定することができる。
【0015】
ここで、好ましくは、請求項3のように、上記無限遠点決定装置は、前記車両のピッチ角を検出する車両ピッチ角センサと、その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標決定手段によって決定されたY座標を補正するY座標補正手段とをさらに含むことが好ましい。このように、車両のピッチ角を検出し、Y座標補正手段により、その検出した車両のピッチ角に基づいて無限遠点のY座標を補正すれば、仮に、車両が前後方向に傾斜していたとしても、精度のよい無限遠点のY座標を得ることができる。
【0016】
請求項1では、車載カメラによって撮像された画像内のボンネット位置から無限遠点のY座標を決定しており、請求項2では、車載カメラによって撮像された画像内におけるヘッドライトのカットラインの位置から無限遠点のY座標を決定していたが、請求項4のように、ボンネットおよびヘッドライトのカットラインから決定したY座標を比較して、最終的なY座標を決定してもよい。
【0017】
その請求項4記載の発明は、撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間の第1Y座標差および前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間の第2Y座標差を記憶した記憶装置と、その記憶装置に記憶された第1Y座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標の第1候補値を算出する第1候補値算出手段と、その記憶装置に記憶された第2Y座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標の第2候補値を算出する第2候補値算出手段と、第1候補値算出手段によって算出された無限遠点のY座標の第1候補値と、第2候補値算出手段によって算出された無限遠点のY座標の第2候補値とを比較した比較値が、予め設定された所定の判断基準値を超えているか否かを判断するY座標比較手段と、そのY座標比較手段において比較値が前記判断基準値を超えていないと判断された場合に、前記第1候補値算出手段によって算出された無限遠点のY座標の第1候補値、および前記第2候補値算出手段によって算出された無限遠点のY座標の第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するY座標決定手段とを含むことを特徴とする。
【0018】
この請求項4記載の発明によれば、第1候補値算出手段により、画像内のボンネットの頂点の位置から無限遠点のY座標の第1候補値が算出され、第2候補値算出手段により、画像内におけるヘッドライトのカットラインの位置から無限遠点のY座標の第2候補値が算出され、Y座標比較手段では、それら第1候補値と第2候補値とを比較した比較値が、所定の判断基準値を超えているか否かが判断される。比較値が判断基準値を超えている場合には、第1候補値および第2候補値の少なくとも一方が誤差を大きく含んだものであると言えるので、この場合には、自動的に再測定したり、車載カメラの取り付け位置を調整した後に再測定するべきとのメッセージを表示したりすることができる。従って、無限遠点のY座標に大きな誤差が含まれることが少なくなるので、一層精度よく無限遠点を決定することができる。
【0019】
なお、比較値が判断基準値を越えていない場合、すなわち、第1候補値と第2候補値とが近い場合には、両者ともに比較的精度のよい値を表していると考えられるので、Y座標決定手段により、第1候補値および第2候補値の少なくとも一方を用いて無限遠点のY座標を決定するのである。
【0020】
上記請求項4に対する請求項5は、請求項1または2に対する請求項3と同様の関係であり、車両のピッチ角に基づいて無限遠点のY座標の候補値である第1候補値および第2候補値を補正するものである。すなわち、請求項5記載の発明は、請求項4記載の無限遠点決定装置において、前記車両のピッチ角を検出する車両ピッチ角センサと、その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標の第1候補値および第2候補値を補正する候補値補正手段とをさらに備え、前記Y座標決定手段は、その候補値補正手段による補正後の第1候補値および第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するものである。このようにすれば、仮に車両が前後方向に傾斜していたとしても、一層精度のよい無限遠点のY座標を得ることができる。
【0021】
さらに、前記請求項1乃至5記載の無限遠点決定装置は、請求項6のようにして、車載カメラのロール角を決定することが好ましい。すなわち、請求項6記載の発明は、請求項1乃至5のいずれかに記載の無限遠点決定装置において、前記車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインの傾きに基づいて前記車載カメラのロール角を決定するロール角決定手段をさらに備えていることを特徴とする。
【0022】
このようにすれば、ターゲットを設置することなく車載カメラのロール角も決定することができる。
【0023】
また、上記請求項6において決定した車載カメラのロール角は、請求項7記載のように、車両ロール角に基づいて補正することが好ましい。すなわち、請求項7記載の発明は、請求項6記載の無限遠点決定装置において、前記車両のロール角を検出する車両ロール角センサと、その車両ロール角センサによって検出された車両のロール角に基づいて、前記ロール角決定手段によって決定された車載カメラのロール角を補正するロール角補正手段とをさらに備えていることを特徴とする。
【0024】
このようにすれば、仮に、車両が幅方向に傾斜していたとしても、車載カメラのロール角を精度よく決定することができる。
【発明を実施するための最良の形態】
【0025】
以下、本発明の実施の形態を図面に基づいて説明する。図3は、本発明の無限遠点決定装置100の構成を示すブロック図である。無限遠点決定装置100は、車載カメラ110によって撮像される画像を処理する演算処理装置120と、車両の姿勢角(ロール角、ピッチ角)を検出する車両姿勢角センサ130と、記憶装置として機能するE2PROM140と、表示装置150とを備えている。
【0026】
車載カメラ110は、CCDカメラによって構成されており、図4に示すように、その取り付け位置は、車両160の内部、たとえば運転席近傍の天井とされる。また、車載カメラ110の車両幅方向における取り付け位置は、車両幅方向の中心とされている。また、その車載カメラ110の垂直方向の撮像範囲θ2は、図4に示すように、車両160のボンネットが撮像可能、且つ、水平方向よりも上方が撮像可能な範囲となっている。
【0027】
図4に示す直線L1は、車両160のボンネットと接するように車載カメラ110から延びる直線であり、接点Cは直線L1とボンネットとの接点である。図5は、車載カメラ110によって撮像される画像を概念的に示す図である。図5に示されるボンネットの境界線(以下、これをボンネットラインという)BLは、図4に示す接点Cを含み、且つ、車両幅方向に対して平行な切断面、すなわち、図4に示す切断面Fにおけるボンネットの上縁と一致する。また、このボンネットラインBLは、車両幅方向の中心が頂点Pとなっている。
【0028】
ここで、車載カメラ110の取り付け位置は決まっており、接点Cは、車載カメラ110の取り付け位置が同じあれば、同じ位置となる。従って、車載カメラ110と接点Cとの間の水平方向距離および垂直方向距離は常に一定となる。車載カメラ110と接点Cとの間の水平方向距離が一定であれば、切断面Fにおける車載カメラ110の高さ方向の撮像長さh1は定まり、また、前述のように、車載カメラ110と接点Cとの間の垂直方向距離は一定である。この車載カメラ110と接点Cとの間の垂直方向距離をh2とし、画像の下端から上端までのY座標の差をY0とすれば、画像内におけるボンネットの頂点PとFOEとの間のY座標差(以下、これを第1Y座標差という)Yd1は式1から算出することができる。従って、第1Y座標差Yd1は一定値であり、予め算出することができる。E2PROM140には、予め算出された第1Y座標差Yd1が記憶されている。
(式1) Yd1=Y0×(h2/h1)
また、E2PROM140には、車載カメラ110によって撮像された画像内におけるヘッドライトのカットラインCLとFOEとの間のY座標差である第2Y座標差Yd2も記憶されている。この第2Y座標差Yd2については後述する。
【0029】
車両姿勢角センサ130は、車両ピッチ角センサおよび車両ロール角センサとして機能するものであり、たとえば、4輪のサスペンション近傍にそれぞれ設けられて各サスペンション部分における路面と車両底面との間の距離を検出する距離センサを有しており、その4つの距離センサによって検出された路面と車両底面との間の距離を相互に比較することによって、車両のロール角およびピッチ角を検出する。
【0030】
演算処理装置120は、図示しないCPU、ROM、RAM等からなるマイクロコンピュータを備えており、RAMの一次記憶機能を利用しつつ、ROMに予め記憶されたプログラムを実行することにより、E2PROM140に記憶されたその第1Y座標差Yd1、第2Y座標差Yd2、車載カメラ110によって撮像される画像、車両姿勢センサ130によって検出される車両ピッチ角、車両ロール角に基づいて、FOEの決定および車載カメラ110のロール角を決定する。
【0031】
図6は、演算処理装置120におけるFOEおよび車載カメラ110のロール角を決定する処理の要部を示すフローチャートである。図6において、まず、ステップS100では、車載カメラ110によって撮像される画像におけるボンネットの頂点の位置から、FOEのX座標(FOE(X))およびFOEのY座標の第1候補値(FOE(y1))を決定する。なお、ステップS100の実行中は、車載カメラ110は画像を連続的に撮像している。
【0032】
図6のステップS100における処理を図7に詳しく示す。図7のステップS105では、車載カメラ110によって連続的に撮像される画像に対して、露出制御を実行する。この露出制御は、車載カメラ110の取り付け誤差等により撮像範囲が多少変動したとしても、必ずボンネット部分となるように予め設定された基準範囲170(たとえば、図5に示す範囲)に対して、コントラストが最大となるように露出を調整するものである。
【0033】
続くステップS110では、上記ステップS105で調整した露出で撮像された画像を画像処理用の画像として取り込み、続くステップS115では、上記ステップS110で取り込んだ画像から、予め設定された範囲を切り出す。ここで切り出す範囲は、図5に示す一点鎖線よりも下側の範囲であり、この範囲はボンネットが大半を占めるように設定されている。
【0034】
そして、続くステップS120では、上記ステップS115で切り出した範囲について画素値ヒストグラムを作成する。図8はその画素値ヒストグラムの一例を示す図であり、図8では、画素値の最小値は0、最大値は255である。
【0035】
続くステップS125では、その画素値ヒストグラムに基づいて、ボンネットの画素値域を決定する。図8に示すように、この画素値ヒストグラムは一つの大きなピークを有しているが、この画素値ヒストグラムは、ボンネットが大半を占めるように設定された範囲のものであることから、図8に示すピークはボンネットの画素値を示すものである。そこで、ステップS125では、上記ピークの立ち上がりから立下りまでをボンネットの画素値域に決定する。
【0036】
続くステップS130では、ステップS115で切り出した範囲に対して、上記ステップS125でボンネットの画素値域に決定した範囲を白とし、その他の画素値を黒とする二値化処理を実行する。そして、ステップS135では、その二値化処理した画像における白色範囲の上側境界線をボンネットラインBLとして決定する。さらに、続くステップS140では、ステップS135で決定したボンネットラインBLの頂点、すなわち、画像内におけるボンネットの頂点を決定する。なお、図7のステップS105乃至S140が頂点決定手段に相当する。
【0037】
続くステップS145はX座標決定手段に相当する。車載カメラ110によって撮像された画像内においてボンネットの頂点は車両幅方向の中心に位置することから、このステップS145では、上記ステップS140で決定したボンネットの頂点のX座標をFOEのX座標に決定する。
【0038】
続くステップS150は第1候補値算出手段に相当し、ステップS140で決定したボンネットの頂点のY座標にE2PROM140に記憶されている第1Y座標差Yd1を加えることにより、FOEのY座標の第1候補値FOE(y1)を算出する。
【0039】
図6に戻って、ステップS100の実行後はステップS200を実行する。このステップS200は、図9に示すように、車両160を、照射面である平面状の壁面180に対して車幅方向が平行となるように、且つ、その壁面180に対して所定の距離となるように位置させ、室内を暗くし、ヘッドライトをその壁面180に照射した状態で実行する。また、ステップS200の実行中は、車載カメラ110は画像を連続的に撮像している。図10は、ステップS200の実行中に車載カメラ110によって撮像される画像を概念的に示す図であり、図10に示すように、車載カメラ110によって撮像される画像には、ヘッドライトのカットラインCLが映っている。
【0040】
ステップS200では、車載カメラ110によって撮像される画像内におけるヘッドライトのカットラインCLの位置から、FOEのY座標の第1候補値(FOE(y1))および車載カメラ110のロール角を決定する。
【0041】
ステップS200における処理を図11に詳しく示す。図11において、まず、ステップS205では、車載カメラ110によって連続的に撮像される画像に対して露出制御を実行する。この露出制御は、車載カメラ110の取り付け誤差等により撮像範囲が多少変動したとしても、画像内において必ずヘッドライトの照射部分となるように予め設定された基準範囲に対して、コントラストが最大となるように露出を調整するものである。上記基準範囲は、たとえば実験に基づいて決定したヘッドライトのカットラインの平均位置から下方に所定値だけ移動した点を中心とする狭い範囲に設定される。
【0042】
続くステップS210では、上記ステップS205で調整した露出で撮像された画像を画像処理用の画像として取り込み、続くステップS215では、上記ステップS210で取り込んだ画像から、予め設定された範囲を切り出す。ここで切り出す範囲は、図10に示す範囲である。この切り出し範囲は、ヘッドライトの照射部分が大きな割合を示すように設定されており、その範囲のX軸方向は撮像範囲と一致し、Y軸方向は画像内におけるヘッドライトのカットラインCLの位置が多少変動してもそのヘッドライトのカットラインCLが確実に含まれるように、たとえば、画像範囲の下から1/3〜下から1/10までの範囲とされている。
【0043】
そして、ステップS220では、図7のステップS120と同様に、上記ステップS215で切り出した範囲について画素値ヒストグラムを作成する。このステップS220で作成される画素値ヒストグラムは図示していないが、ヘッドライトの照射部分が大きな割合となるようにステップS215における切り出し範囲が設定されているので、ステップS220で作成される画素値ヒストグラムには、ヘッドライトの照射部分に対応する画素値に大きなピークを有する。そこでステップS225では、ステップS220で作成した画素値ヒストグラムにおける最大ピークの立ち上がりから立下りまでをヘッドライトの照射部分の画素値域に決定する。
【0044】
そして、続くステップS230では、ステップS215で切り出した範囲に対して、上記ステップS225でヘッドライトの照射部分の画素値域に決定した範囲を白とし、その他の画素値を黒とする二値化処理を実行する。続くステップS235では、その二値化処理した画像における白色範囲の上側境界線をヘッドライトのカットラインCLとして決定し、さらに、続くステップS240では、ステップS235で決定したヘッドライトカットラインCLを最小自乗法等を用いて直線近似する。なお、図11のステップS205乃至S240がカットライン決定手段に相当する。
【0045】
続くステップS245は第2候補値算出手段に相当し、ステップS240で直線近似したヘッドライトのカットラインCLの幅方向中央におけるY座標に、E2PEOM140に記憶されている第2Y座標差Yd2(車載カメラ110によって撮像された画像内におけるヘッドライトのカットラインCLとFOEとの間のY座標差)を加えることにより、FOEのY座標の第2候補値FOE(y2)を算出する。
【0046】
ここで、第2Y座標差Yd2について説明する。ヘッドライトが照射される壁面180と車両160との距離は定められていることから、車両160に対する取り付け部位が定まっている車載カメラ110と壁面180との間の距離は定まっている。また、車両160から照射面すなわち壁面180までの距離が定まっていれば、その照射面(壁面180)におけるヘッドライトのカットラインCLの高さも予め定まる。従って、図9に示す車載カメラ110とヘッドライトのカットラインCLとの間の垂直方向距離h4は予め求めることができる。また、壁面180における車載カメラ110の高さ方向の撮像長さh3も求めることができるので、これらh3、h4、および前述の画像の下端から上端までのY座標の差Y0を用いて、第2Y座標差Yd2は式2から算出することができる。
(式2) Yd2=Y0×(h4/h3)
続くステップS250はロール角決定手段に相当し、ステップS240で直線近似したヘッドライトのカットラインCLの傾きを車載カメラ110のロール角として決定する。
【0047】
図6へ戻って、ステップS200を実行した後は、候補値補正手段に相当するステップS300において、車両姿勢角センサ130から車両ピッチ角を表す信号を読み込み、その車両ピッチ角と正負が逆の値を、図7のステップS150で算出した第1候補値FOE(y1)および図11のステップS245で算出した第2候補値FOE(y2)にそれぞれ加えることにより、その第1候補値FOE(y1)および第2候補値FOE(y2)を車両のピッチ角がゼロの状態の値に補正する。なお、以下、補正後の第1候補値FOE(y1)を補正第1候補値(y1’)、補正後の第2候補値FOE(y2)を補正第2候補値FOE(y2)という。
【0048】
続くステップS310はロール角補正手段に相当する。このステップS310では、車両姿勢角センサ130から車両ロール角を表す信号を読み込み、その車両ロール角と正負が逆の値を、図11のステップS250で決定した車載カメラ110のロール角を車両のロール角がゼロの状態の値に補正する。
【0049】
続いて、Y座標比較手段に相当するステップS320乃至S330を実行する。ステップS320では、上記ステップS300で得た補正第1候補値(y1’)および補正第2候補値(y2’)の比較値を算出する。ここでは、この比較値として補正第1候補値(y1’)と補正第2候補値(y2’)との差を算出することとするが、その差に限らず、この比較値は、補正第1候補値(y1’)と補正第2候補値(y2’)との大きさの違いを示すものであればよく、たとえば両者の比を比較値として算出することもできる。
【0050】
続くステップS330は、上記ステップS320で算出した比較値が、予め設定された判断基準値THよりも大きいか否かを判断する。このステップS330の判断が肯定されるのは、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)とが比較的大きくかけ離れている場合であり、少なくともいずれか一方は大きな誤差を含んでいると考えることができる。しかし、どちらに大きな誤差が含まれているか、或いは、両方ともに大きな誤差を含んでいるのかを判断することはできないので、ステップS340において、表示装置150に再測定を指示するメッセージを表示して本ルーチンを終了する。
【0051】
一方、ステップS330の判断が肯定されるのは、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)とが比較的近い値の場合であり、この場合には、両者ともに誤差が小さいと考えられるので、いずれか一方をFOEのY座標FOE(Y)としてもよいのであるが、ここでは、ステップS350において、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)を単純平均した値をFOEのY座標FOE(Y)として決定する。なお、このステップS350がY座標決定手段に相当する。
【0052】
以上、説明した本実施形態によれば、車載カメラ110によって撮像された画像内におけるボンネットの頂点の位置およびヘッドライトのカットラインCLの位置からFOEを決定するので、従来のように、FOEの決定のためにターゲットを設置する必要がなくなる。
【0053】
また、本実施形態によれば、車両のピッチ角に基づいてFOEのY座標の第1候補値FOE(y1)および第2候補値FOE(y2)が補正されるので、車両160が前後方向に傾斜していたとしても、精度よくFOEのY座標を決定することができる。
【0054】
また、本実施形態によれば、車載カメラ110によって撮像された画像内におけるヘッドライトのカットラインCLの位置から車載カメラ110のロール角を決定するので、車載カメラ110のロール角もターゲットを設置することなく決定することができる。また、そのロール角は、車両ロール角に基づいて補正されるので、車両160が車幅方向に傾斜していたとしても精度よく車載カメラ110のロール角を決定することができる。
【0055】
以上、本発明の実施形態を説明したが、本発明は上述の実施形態に限定されるものではなく、次の実施形態も本発明の技術的範囲に含まれ、さらに、下記以外にも要旨を逸脱しない範囲内で種々変更して実施することができる。
【0056】
たとえば、前述の実施形態では、車両ピッチ角に基づいてFOEのY座標の第1候補値FOE(y1)および第2候補値FOE(y2)を補正していたが、タイヤ空気圧の調整等により車両ピッチ角が小さい状態でFOEの決定作業を行う場合には、車両ピッチ角に基づく第1候補値FOE(y1)および第2候補値(y2)の補正を実行しなくてもよい。また、車両ロール角に基づく車載カメラ110のロール角の補正も、車両ロール角が小さい状態で車載カメラ110のロール角を決定する場合には、実行しなくてもよい。
【0057】
また、前述の実施形態では、車載カメラ110によって撮像された画像内におけるボンネットの頂点の位置からFOEのY座標の第1候補値FOE(y1)を算出するとともに、その画像内におけるヘッドライトのカットラインCLの位置からFOEのY座標の第2候補値FOE(y2)を算出し、それらを比較した後にFOEのY座標を決定していたが、第1候補値FOE(y1)或いはそれを補正した補正第1候補値FOE(y1’)、または、第2候補値FOE(y2)或いはそれを補正した補正第2候補値FOE(y2’)をそのまま、FOEのY座標としてもよい。この場合には、第1候補値算出手段として機能していたステップS150または第2候補値算出手段として機能していたステップS245がY座標決定手段として機能することとなり、また、車両ピッチ角に基づいて補正を行う場合には、ステップS300がY座標補正手段として機能することとなる。
【0058】
また、前述の実施形態のステップS350では、補正第1候補値FOE(y1’)と補正第2候補値FOE(y2’)を単純平均してFOEのY座標FOE(Y)を決定していたが、単純平均に代えて加重平均を用いてFOEのY座標FOE(Y)を決定してもよい。
【図面の簡単な説明】
【0059】
【図1】FOEの初期位置を決定するための従来の方法を説明するための図である。
【図2】図1の状態において車載カメラ14によって撮像される画像の一例を示す図である。
【図3】本発明が適用された無限遠点決定装置100の構成を示すブロック図である。
【図4】画像内におけるボンネットの頂点の位置からFOEを決定する作業の状態を、車両160の側方から示す図である。
【図5】図4の状態で車載カメラ110によって撮像される画像を概念的に示す図である。
【図6】演算処理装置120におけるFOEおよび車載カメラ110のロール角を決定する処理の要部を示すフローチャートである。
【図7】図6のステップS100を詳しく示すフローチャートである。
【図8】図7のステップS120で作成される画素値ヒストグラムの一例を示す図である。
【図9】画像内におけるヘッドライトのカットラインCLの位置からFOEおよび車載カメラ110のロール角を決定する作業の状態を、車両160の側方から示す図である。
【図10】図9の状態で車載カメラ110によって撮像される画像を概念的に示す図である。
【図11】図6のステップS200を詳しく示すフローチャートである。
【符号の説明】
【0060】
100:無限遠点決定装置
110:車載カメラ
130:車両姿勢角センサ(車両ロール角センサ、車両ピッチ角センサ)
140:E2PROM(記憶装置)
180:壁面(照射面)
S105乃至S140:頂点決定手段
S145:X座標決定手段
S150:第1候補値算出手段
S205乃至S240:カットライン決定手段
S245:第2候補値算出手段
S250:ロール角決定手段
S300:候補値補正手段
S310:ロール角補正手段
S320乃至S330:Y座標比較手段
S350:Y座標決定手段
【特許請求の範囲】
【請求項1】
撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、
その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、
前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、
その記憶装置に記憶されたY座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標を決定するY座標決定手段と
を含むことを特徴とする無限遠点決定装置。
【請求項2】
撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、
その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、
車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、
前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、
その記憶装置に記憶されたY座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標を決定するY座標決定手段と
を含むことを特徴とする無限遠点決定装置。
【請求項3】
前記車両のピッチ角を検出する車両ピッチ角センサと、
その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標決定手段によって決定されたY座標を補正するY座標補正手段とを
さらに含むことを特徴とする請求項1または2記載の無限遠点決定装置。
【請求項4】
撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、
その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、
車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、
前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間の第1Y座標差および前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間の第2Y座標差を記憶した記憶装置と、
その記憶装置に記憶された第1Y座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標の第1候補値を算出する第1候補値算出手段と、
その記憶装置に記憶された第2Y座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標の第2候補値を算出する第2候補値算出手段と、
第1候補値算出手段によって算出された無限遠点のY座標の第1候補値と、第2候補値算出手段によって算出された無限遠点のY座標の第2候補値とを比較した比較値が、予め設定された所定の判断基準値を超えているか否かを判断するY座標比較手段と、
そのY座標比較手段において比較値が前記判断基準値を超えていないと判断された場合に、前記第1候補値算出手段によって算出された無限遠点のY座標の第1候補値、および前記第2候補値算出手段によって算出された無限遠点のY座標の第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するY座標決定手段と
を含むことを特徴とする無限遠点決定装置。
【請求項5】
前記車両のピッチ角を検出する車両ピッチ角センサと、
その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標の第1候補値および第2候補値を補正する候補値補正手段とをさらに備え、
前記Y座標決定手段は、その候補値補正手段による補正後の第1候補値および第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するものである
ことを特徴とする請求項4記載の無限遠点決定装置。
【請求項6】
前記車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインの傾きに基づいて前記車載カメラのロール角を決定するロール角決定手段をさらに備えていることを特徴とする請求項1乃至5のいずれかに記載の無限遠点決定装置。
【請求項7】
前記車両のロール角を検出する車両ロール角センサと、
その車両ロール角センサによって検出された車両のロール角に基づいて、前記ロール角決定手段によって決定された車載カメラのロール角を補正するロール角補正手段とを
さらに備えていることを特徴とする請求項6記載の無限遠点決定装置。
【請求項1】
撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、
その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、
前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、
その記憶装置に記憶されたY座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標を決定するY座標決定手段と
を含むことを特徴とする無限遠点決定装置。
【請求項2】
撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、
その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、
車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、
前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間のY座標差を記憶した記憶装置と、
その記憶装置に記憶されたY座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標を決定するY座標決定手段と
を含むことを特徴とする無限遠点決定装置。
【請求項3】
前記車両のピッチ角を検出する車両ピッチ角センサと、
その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標決定手段によって決定されたY座標を補正するY座標補正手段とを
さらに含むことを特徴とする請求項1または2記載の無限遠点決定装置。
【請求項4】
撮像範囲内にボンネットが含まれるように車両に固定された車載カメラによって撮像される画像内における無限遠点の位置を決定する無限遠点決定装置であって、
前記車載カメラによって撮像された画像内におけるボンネットの頂点の位置を決定する頂点決定手段と、
その頂点決定手段によって決定されたボンネットの頂点の前記画像内におけるX座標を前記無限遠点のX座標とするX座標決定手段と、
車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインのY座標を決定するカットライン決定手段と、
前記画像内におけるボンネットの頂点と前記無限遠点のY座標との間の第1Y座標差および前記画像内におけるヘッドライトのカットラインと前記無限遠点のY座標との間の第2Y座標差を記憶した記憶装置と、
その記憶装置に記憶された第1Y座標差と、前記頂点決定手段によって決定されたボンネットの頂点のY座標とから、前記無限遠点のY座標の第1候補値を算出する第1候補値算出手段と、
その記憶装置に記憶された第2Y座標差と、前記カットライン決定手段によって決定されたヘッドライトのカットラインのY座標とから、前記無限遠点のY座標の第2候補値を算出する第2候補値算出手段と、
第1候補値算出手段によって算出された無限遠点のY座標の第1候補値と、第2候補値算出手段によって算出された無限遠点のY座標の第2候補値とを比較した比較値が、予め設定された所定の判断基準値を超えているか否かを判断するY座標比較手段と、
そのY座標比較手段において比較値が前記判断基準値を超えていないと判断された場合に、前記第1候補値算出手段によって算出された無限遠点のY座標の第1候補値、および前記第2候補値算出手段によって算出された無限遠点のY座標の第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するY座標決定手段と
を含むことを特徴とする無限遠点決定装置。
【請求項5】
前記車両のピッチ角を検出する車両ピッチ角センサと、
その車両ピッチ角センサによって検出された車両のピッチ角に基づいて、前記Y座標の第1候補値および第2候補値を補正する候補値補正手段とをさらに備え、
前記Y座標決定手段は、その候補値補正手段による補正後の第1候補値および第2候補値の少なくとも一方に基づいて無限遠点のY座標を決定するものである
ことを特徴とする請求項4記載の無限遠点決定装置。
【請求項6】
前記車両に対して所定の相対位置に位置する照射面にヘッドライトを照射した状態で、前記車載カメラによって撮像された画像内におけるそのヘッドライトのカットラインの傾きに基づいて前記車載カメラのロール角を決定するロール角決定手段をさらに備えていることを特徴とする請求項1乃至5のいずれかに記載の無限遠点決定装置。
【請求項7】
前記車両のロール角を検出する車両ロール角センサと、
その車両ロール角センサによって検出された車両のロール角に基づいて、前記ロール角決定手段によって決定された車載カメラのロール角を補正するロール角補正手段とを
さらに備えていることを特徴とする請求項6記載の無限遠点決定装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2006−327495(P2006−327495A)
【公開日】平成18年12月7日(2006.12.7)
【国際特許分類】
【出願番号】特願2005−156125(P2005−156125)
【出願日】平成17年5月27日(2005.5.27)
【出願人】(000004260)株式会社デンソー (27,639)
【Fターム(参考)】
【公開日】平成18年12月7日(2006.12.7)
【国際特許分類】
【出願日】平成17年5月27日(2005.5.27)
【出願人】(000004260)株式会社デンソー (27,639)
【Fターム(参考)】
[ Back to top ]