画像処理装置及び運転支援装置
【課題】視野角を確保しつつ、鮮明な画像を生成する。
【解決手段】運転支援ECU1は、車両VC1の周辺の画像情報を生成する第1画像生成部101と、生成された画像毎に消失点VPの位置を求める消失点抽出部102と、車両の動きを検出する移動状態検出部106と、補正対象画像P0を選定する補正対象選定部104と、第1画像P1を選定する第1画像選定部105と、所定個数Nの第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく、所定個数Nの第1画像P1を、それぞれ、消失点VPの位置及び車両VC1の動きに基づいて補正して、補正後の画像である第2画像P2を生成する第2画像生成部111と、所定個数Nの第2画像P2を補正対象画像P0と合成することによって、補正対象画像P0を補正する画像補正実行部112と、を備える。
【解決手段】運転支援ECU1は、車両VC1の周辺の画像情報を生成する第1画像生成部101と、生成された画像毎に消失点VPの位置を求める消失点抽出部102と、車両の動きを検出する移動状態検出部106と、補正対象画像P0を選定する補正対象選定部104と、第1画像P1を選定する第1画像選定部105と、所定個数Nの第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく、所定個数Nの第1画像P1を、それぞれ、消失点VPの位置及び車両VC1の動きに基づいて補正して、補正後の画像である第2画像P2を生成する第2画像生成部111と、所定個数Nの第2画像P2を補正対象画像P0と合成することによって、補正対象画像P0を補正する画像補正実行部112と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば、車両等の移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置、及び、車両に搭載され、運転者に対して運転支援情報を出力する運転支援装置に関する。
【背景技術】
【0002】
従来、車両に搭載されたCCD(Charge Coupled Device)カメラ等を介して、該車両の周辺の路側物等の物体を検出し、検出された物体に基づいて、該車両の運転者の運転操作を支援する情報である運転支援情報を運転者に報知する技術が知られている。しかしながら、車両に搭載されたカメラは、露光時間中に車両が移動することに起因して、被写体像にブレの有る不鮮明な画像しか撮像することができない場合があった。また、このような不鮮明な画像を利用して車両の周囲に存在する物体の検出を行った場合には、適正な運転支援情報を出力できない虞があった。
【0003】
この課題を解消するために、種々の装置、方法等が提案されている(例えば、特許文献1参照)。例えば、特許文献1に記載の撮像装置は、カメラが搭載される移動体の速度に基づいて、撮像部の露光時間中における、撮像部により撮像される画像内での、撮像部の画角内に存在する被写体を示す領域の変位を算出する変位算出部と、変位を補償する、撮像部における撮像倍率の変化率を算出する撮像倍率変化率算出部と、撮像倍率を変化率で変化させるべく制御する撮像倍率制御部と、撮像倍率が変化率で変化している時に、撮像部により画像を撮像させる撮像タイミング制御部とを備える。
【0004】
上記特許文献1に記載の撮像装置によれば、車両等の移動体が移動している場合であっても、ブレの無い鮮明な画像を撮像することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−318569号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上記特許文献1に記載の撮像装置では、カメラが搭載される移動体の速度に基づいて、撮像倍率が変化されるため、予め設定された視野角を確保することができない虞がある。すなわち、例えば、カメラが車両に搭載される場合には、該カメラの視野角は、該カメラによって検出するべき物体の存在する範囲を含むように予め設定されている。そこで、撮像倍率が変化されることによって視野角が狭くなると、検出するべき物体が視野外となって検出できない場合があるのである。
【0007】
また、薄暮の時、霧、雨等により撮影条件が悪い場合には、カメラの露光時間が短いと充分なコントラストが得られず、逆にカメラの露光時間が長いと画像のブレが大きくなるという問題がある。
【0008】
本発明は、上記事情に鑑みてなされたものであって、その目的とするところは、視野角を確保しつつ、鮮明な画像を生成することの可能な画像処理装置、及び、該画像処理装置を備えた運転支援装置を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明は、以下の特徴を有している。本発明の第1の局面は、移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置であって、前記カメラを介して、予め設定された所定時間毎に、該移動体の周辺の画像情報を生成する第1画像生成手段と、前記第1画像生成手段によって生成された画像毎に、該画像の消失点の位置を求める消失点抽出手段と、前記第1画像生成手段によって画像情報が生成される時点における該移動体の移動速度を含む移動体の動きを検出する移動状態検出手段と、前記第1画像生成手段によって生成された画像の中から、補正する対象の1つの画像である補正対象画像を選定する補正対象選定手段と、前記補正対象選定手段によって選定された補正対象画像が前記第1画像生成手段によって生成される直前に、前記第1画像生成手段によって生成された1つ以上の予め設定された所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定する第1画像選定手段と、前記第1画像選定手段によって選定された前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と一致させるべく、前記所定個数の第1画像を、それぞれ、前記消失点抽出手段によって求められた消失点の位置、及び、前記移動状態検出手段によって検出された前記移動体の動きに基づいて補正して、補正後の画像である第2画像を生成する第2画像生成手段と、前記第2画像生成手段によって生成された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する画像補正手段と、を備える。
【0010】
本発明の第2の局面は、上記第1の局面において、前記第1画像生成手段によって生成された画像情報を格納する画像記憶手段を備え、前記第1画像生成手段が、生成された画像情報を画像記憶手段に記録し、前記消失点抽出手段が、求められた消失点の位置情報を、前記画像情報に対応付けて、前記画像記憶手段に記録し、前記移動状態検出手段が、検出された移動体の動き情報を前記画像情報に対応付けて、前記画像記憶手段に記録し、前記第2画像生成手段が、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報を読み出して、前記所定個数の第1画像をそれぞれ補正し、補正によって生成された前記所定個数の第2画像情報を、前記補正対象選定手段によって選定された補正対象画像情報に対応付けて、前記画像記憶手段に記録し、前記画像補正手段が、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報を読み出して、該補正対象画像を補正する。
【0011】
本発明の第3の局面は、上記第1の局面において、前記第1画像生成手段が、予め設定された閾値以下の露光時間で撮像された画像情報を生成する。
【0012】
本発明の第4の局面は、上記第3の局面において、前記移動状態検出手段によって検出された該移動体の移動速度に基づいて、前記露光時間を設定する露光時間設定手段を備え、前記第1画像生成手段が、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する。
【0013】
本発明の第5の局面は、上記第4の局面において、前記露光時間設定手段が、前記移動状態検出手段によって検出された該移動体の移動速度が速い程、前記露光時間を短く設定する。
【0014】
本発明の第6の局面は、上記第3の局面において、前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、前記撮像条件判定手段によって判定された良否の程度に基づいて、前記露光時間を設定する露光時間設定手段と、を備え、前記第1画像生成手段が、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する。
【0015】
本発明の第7の局面は、上記第6の局面において、前記露光時間設定手段が、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記露光時間を長く設定する。
【0016】
本発明の第8の局面は、上記第1の局面において、前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、前記撮像条件判定手段によって判定された良否の程度に基づいて、前記所定個数を設定する個数設定手段と、を備え、前記第1画像選定手段が、前記個数設定手段によって設定された前記所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定し、前記第2画像生成手段が、前記個数設定手段によって設定された前記所定個数の第1画像を補正して、補正後の画像である第2画像を生成し、前記画像補正手段が、前記個数設定手段によって設定された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する。
【0017】
本発明の第9の局面は、上記第8の局面において、前記個数設定手段が、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記所定個数を大きく設定する。
【0018】
本発明の第10の局面は、上記第1の局面において、該移動体の周囲に存在する他の移動体の、該移動体との間の距離、及び、相対速度を検出する移動体検出手段を備え、前記第2画像生成手段が、前記補正対象画像及び前記所定個数の第1画像に含まれる他の移動体に関して、前記所定個数の第1画像に含まれる他の移動体の位置を、前記移動体検出手段によって検出された該移動体との間の距離、及び、相対速度に基づいて補正して、補正後の画像である第2画像を生成する。
【0019】
本発明の第11の局面は、上記第1の局面において、前記移動体が、車両である。
【0020】
本発明の第12の局面は、上記第11の局面において、前記移動状態検出手段が、更に、該車両のピッチ角、ロール角、及び、ヨー角の少なくとも1つを検出する。
【0021】
本発明の第13の局面は、車両に搭載され、運転者に対して運転操作を支援する情報である運転支援情報を出力する運転支援装置であって、上記第11の局面に係る画像処理装置と、前記画像処理装置によって補正された補正対象画像に基づいて、前記運転支援情報を出力する情報出力手段と、を備える。
【発明の効果】
【0022】
上記第1の局面によれば、移動体に搭載されたカメラを介して、予め設定された所定時間毎に、該移動体の周辺の画像情報が生成される。そして、生成された画像毎に、該画像の消失点の位置が求められる。また、画像情報が生成される時点における該移動体の移動速度を含む移動体の動きが検出される。更に、生成された画像の中から、補正する対象の1つの画像である補正対象画像が選定される。加えて、選定された補正対象画像が生成される直前に、生成された1つ以上の予め設定された所定個数の画像が、前記補正対象画像の補正に用いる画像情報である第1画像として選定される。また、選定された前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と一致させるべく、前記所定個数の第1画像が、それぞれ、求められた消失点の位置、及び、検出された前記移動体の動きに基づいて補正されて、補正後の画像である第2画像が生成される。生成された前記所定個数の第2画像が、前記補正対象画像と合成されることによって、該補正対象画像が補正される。従って、視野角を確保しつつ、鮮明な画像を生成することができる。
【0023】
すなわち、画像を生成する際に、撮像倍率等を変更することがないため、視野角を確保することができるのである。また、前記補正対象画像に含まれる静止物の位置と一致させるべく、補正対象画像が生成される直前に生成された前記所定個数の第1画像が、それぞれ、求められた消失点の位置、及び、検出された前記移動体の動きに基づいて補正されて、補正後の画像である第2画像が生成される。そして、生成された前記所定個数の第2画像が、前記補正対象画像と合成されることによって、該補正対象画像が補正されるため、前記補正対象画像に含まれる静止物のS/N比を向上することができるので、鮮明な画像を生成することができるのである。
【0024】
上記第2の局面によれば、生成された画像情報を格納する画像記憶手段を備えている。そして、生成した画像情報が画像記憶手段に記録され、求められた消失点の位置情報が、前記画像情報に対応付けて、前記画像記憶手段に記録される。また、検出された移動体の動き情報が前記画像情報に対応付けて、前記画像記憶手段に記録される。更に、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報が読み出されて、前記所定個数の第1画像がそれぞれ補正され、補正によって生成された前記所定個数の第2画像情報が、選定された補正対象画像情報に対応付けて、前記画像記憶手段に記録される。また、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報が読み出されて、該補正対象画像が補正される。従って、簡素な処理で、鮮明な画像を生成することができる。
【0025】
すなわち、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報が読み出されて、前記所定個数の第1画像がそれぞれ補正され、前記所定個数の第2画像情報が生成される。また、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報が読み出されて、該補正対象画像が補正される。従って、簡素な処理で、鮮明な画像を生成することができるのである。
【0026】
上記第3の局面によれば、予め設定された閾値以下の露光時間で撮像された画像情報が生成される。従って、更に鮮明な画像を生成することができる。
【0027】
すなわち、露光時間が長いと、画像のブレが大きくなる。これに対して、露光時間が短いと、撮像されて生成された各画像は、充分なコントラストが得られない場合があるが、前記補正対象画像情報に、前記所定個数の第2画像情報が合成されて補正されるので、充分なコントラストを得ることができるのである。
【0028】
上記第4の局面によれば、検出された該移動体の移動速度に基づいて、前記露光時間が設定される。そして、設定された露光時間で撮像された画像情報が生成される。従って、更に鮮明な画像を生成することができる。
【0029】
すなわち、検出された該移動体の移動速度に基づいて、前記露光時間が設定されるため、適正な露光時間を設定することができるため、適正な露光時間で撮像された画像情報が生成されるので、更に鮮明な画像を生成することができるのである。
【0030】
上記第5の局面によれば、検出された該移動体の移動速度が速い程、前記露光時間を短く設定される。従って、更に鮮明な画像を生成することができる。
【0031】
すなわち、移動速度が速い程、画像のブレが大きくなるため、移動速度が速い程、露光時間を短く設定することによって、更に鮮明な画像を生成することができるのである。
【0032】
上記第6の局面によれば、前記カメラが撮像する条件の良否の程度が判定される。そして、判定された良否の程度に基づいて、前記露光時間が設定される。また、設定された露光時間で撮像された画像情報が生成される。従って、更に鮮明な画像を生成することができる。
【0033】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラの露光時間が短いと充分なコントラストが得られない。そこで、撮影条件の良否の程度に基づいて、前記露光時間が設定され、設定された露光時間で撮像された画像情報が生成されるため、更に鮮明な画像を生成することができるのである。
【0034】
上記第7の局面によれば、前記カメラが撮像する条件が悪いと判定される程、前記露光時間が長く設定される。従って、更に鮮明な画像を生成することができる。
【0035】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラの露光時間が短いと充分なコントラストが得られない。そこで、前記カメラが撮像する条件が悪いと判定される程、前記露光時間が長く設定されるため、更に鮮明な画像を生成することができるのである。
【0036】
上記第8の局面によれば、前記カメラが撮像する条件の良否の程度が判定される。そして、判定された良否の程度に基づいて、前記所定個数が設定される。また、設定された前記所定個数の画像が、前記補正対象画像の補正に用いる画像情報である第1画像として選定される。更に、設定された前記所定個数の第1画像が補正されて、補正後の画像である第2画像が生成される。加えて、設定された前記所定個数の第2画像が、前記補正対象画像と合成されることによって、該補正対象画像が補正される。従って、更に鮮明な画像を生成することができる。
【0037】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラを介して生成された画像において充分なコントラストが得られない虞がある。そこで、前記カメラが撮像条件の良否の程度に基づいて、前記所定個数が設定されるため、前記所定個数として適正な個数が設定される。そして、適正な個数に設定された前記所定個数の第1画像情報に基づいて、前記補正対象画像が補正されるため、更に鮮明な画像を生成することができるのである。
【0038】
上記第9の局面によれば、前記カメラが撮像する条件が悪いと判定される程、前記所定個数が大きく設定される。従って、更に鮮明な画像を生成することができる。
【0039】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラの露光時間が短いと充分なコントラストが得られない。そこで、前記カメラが撮像する条件が悪いと判定される程、前記所定個数が大きく設定されるため、更に鮮明な画像を生成することができるのである。
【0040】
上記第10の局面によれば、該移動体の周囲に存在する他の移動体の、該移動体との間の距離、及び、相対速度が検出される。そして、前記補正対象画像及び前記所定個数の第1画像に含まれる他の移動体に関して、前記所定個数の第1画像に含まれる他の移動体の位置が、検出された他の移動体の該移動体との間の距離、及び、相対速度に基づいて補正されて、補正後の画像である第2画像が生成される。従って、前記補正対象画像に、他の移動体が含まれる場合にも、該他の移動体の鮮明な画像を生成することができる。
【0041】
上記第11の局面によれば、前記移動体が車両である。従って、車両に搭載されたカメラを介して生成された該車両の周辺の画像を補正して、視野角を確保しつつ、鮮明な画像を生成することができる。
【0042】
上記第12の局面によれば、更に、該車両のピッチ角、ロール角、及び、ヨー角の少なくとも1つが検出される。従って、更に鮮明な画像を生成することができる。
【0043】
すなわち、車両の移動速度に加えて、ピッチ角、ロール角、及び、ヨー角を検出することによって、前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と更に正確に一致させるべく、前記所定個数の第1画像を補正して、補正後の画像である第2画像を生成することができるので、更に鮮明な画像を生成することができるのである。
上記第13の局面によれば、上記第11の局面に係る画像処理装置を備えるため、視野角を確保しつつ、鮮明な画像を生成することができる。そして、該画像処理装置によって補正された補正対象画像に基づいて、前記運転支援情報が出力されるため、適正な運転支援情報を出力することができる。
【図面の簡単な説明】
【0044】
【図1】本発明に係る運転支援装置の構成の一例を示すブロック図
【図2】運転支援ECUの機能構成の一例を示すブロック図
【図3】運転支援ECUによって行われる画像処理の一例を示すブロック図
【図4】運転支援ECUによって該車両の前方の画像が生成される状況の一例を示す平面図
【図5】カメラを介して生成された該車両の前方の画像(=第1画像)の一例を示す画面図、及び、対応する消失点の一例を示す説明図
【図6】カメラを介して生成された該車両の前方の画像(=第1画像及び補正対象画像)の一例を示す画面図
【図7】カメラを介して生成された第1画像と、対応する第2画像の一例を示す画面図
【図8】カメラを介して生成された第1画像と、対応する第2画像の他の一例を示す画面図
【図9】第2画像と補正対象画像との一例を示す画面図
【図10】運転支援ECUの動作の一例を示すフローチャート(前半部)
【図11】運転支援ECUの動作の一例を示すフローチャート(後半部)
【発明を実施するための形態】
【0045】
以下、図面を参照して本発明に係る画像処理装置及び運転支援装置の実施形態について説明する。本発明に係る運転支援装置は、車両に搭載され、運転者に対して運転支援情報を出力する装置である。ここでは、本発明に係る画像処理装置及び運転支援装置が搭載される移動体が、車両である場合について説明する。まず、図1を用いて、車両に搭載された運転支援装置の構成の一例について説明する。
【0046】
本実施形態では、本発明に係る画像処理装置及び運転支援装置が搭載される移動体が車両である場合について説明するが、本発明に係る画像処理装置及び運転支援装置が搭載される移動体が、その他の種類の移動体である形態でも良い。例えば、本発明に係る画像処理装置が搭載される移動体が、船舶、飛行機等である形態でも良い。
【0047】
図1は、本発明に係る運転支援装置の構成の一例を示すブロック図である。図1に示すように、本発明に係る運転支援ECU(Electronic Control Unit)1(=画像処理装置、運転支援装置に相当する)は、周辺機器としての入力機器2及び出力機器3と通信可能に接続されている。
【0048】
まず、図1を参照して、運転支援ECU1の入力機器2について説明する。入力機器2は、カメラ21、レーダ装置22、車速センサ23、操舵角センサ24、ピッチ角センサ25、ロール角センサ26、及び、ヨー角センサ27を備えている。
【0049】
カメラ21は、CCD(Charge Coupled Device)等を備え、車両VC1の前方の画像情報を生成するカメラである。また、カメラ21は、生成された画像情報を、運転支援ECU1(ここでは、図2に示す第1画像生成部101)へ出力する。また、カメラ21は、運転支援ECU1(ここでは、図2に示す露光時間設定部109)から露光時間が指示され、指示された露光時間を設定する。
【0050】
本実施形態においては、カメラ21が、車両VC1の前方の画像情報を生成する場合について説明するが、カメラ21が、車両VC1の周囲の画像情報を生成する形態であれば良い。例えば、カメラ21が、車両VC1の側方又は後方の画像情報を生成する形態でも良い。
【0051】
レーダ装置22は、例えば、ミリ波等を介して、車両VC1の周囲に存在する他の車両VC2等の移動体との距離、及び、相対速度を検出する装置である。また、レーダ装置22は、運転支援ECU1(ここでは、図2に示す移動体検出部110)に対して、車両VC1の周囲に存在する移動体との距離及び相対速度を示す信号を出力する。
【0052】
車速センサ23は、車両の走行速度を検出するセンサであって、検出された車両の走行速度を示す車速信号を運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して出力する。
【0053】
操舵角センサ24は、ステアリングセンサ等からなり、操舵角を検出するセンサであって、検出された操舵角信号を運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して出力する。
【0054】
ピッチ角センサ25は、ジャイロセンサ等からなり、ピッチ角の変化する速さ(=車両VC1の左右軸廻りの回転角速度)を示すピッチレートを検出するセンサであって、運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して、ヨー角を示す信号を出力する。
【0055】
ロール角センサ26は、ジャイロセンサ等からなり、ロール角の変化する速さ(=車両VC1の前後軸廻りの回転角速度)を検出するセンサであって、運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して、ロール角を示す信号を出力する。
【0056】
ヨー角センサ27は、ジャイロセンサ等からなり、ヨー角の変化する速さ(=車両の重心点を通る鉛直軸廻りの回転角速度)を検出するセンサであって運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して、ヨー角を示す信号を出力する。
【0057】
次に、図1を参照して、運転支援ECU1の出力機器3について説明する。出力機器3は、ディスプレイ31、及び、スピーカ32を備えている。ディスプレイ31は、運転席の前方に配設されたLCD(Liquid Crystal Display)等からなり、運転支援ECU1(ここでは、図2に示す情報出力部113)からの指示に従って、運転者から視認可能に画像、文字等を表示するものである。例えば、運転支援ECU1によって、走行している車線を右側に逸脱する可能性が高いと判定された場合には、運転支援ECU1からの指示に基づいて、ディスプレイ31に、走行している車線を右側に逸脱する旨の警報画面が表示される。
【0058】
スピーカ32は、運転席の側方等に配設され、運転支援ECU1(ここでは、図2に示す情報出力部113)からの指示に従って、運転者に対して、ガイダンス等の音声を出力するものである。例えば、運転支援ECU1によって、走行している車線を右側に逸脱する可能性が高いと判定された場合には、運転支援ECU1からの指示に基づいて、スピーカ32から、走行している車線を右側に逸脱する旨の警報情報が出力される。
【0059】
図2は、運転支援ECU1の機能構成の一例を示すブロック図である。図2に示すように、運転支援ECU1は、機能的に、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、及び、情報出力部113を備えている。
【0060】
なお、運転支援ECU1は、運転支援ECU1の適所に配設されたマイクロコンピュータに、運転支援ECU1の適所に配設されたROM(Read Only Memory)等に予め格納された制御プログラムを実行させることにより、当該マイクロコンピュータを、機能的に、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、情報出力部113等の機能部として機能させる。以下に、図2を参照しつつ、運転支援ECU1の各機能部について説明する。
【0061】
第1画像生成部101は、カメラ21を介して、予め設定された所定時間ΔT(例えば、0.1sec)毎に、車両VC1の前方の画像情報を生成する機能部である。ここで、第1画像生成部101は、第1画像生成手段に相当する。また、第1画像生成部101は、生成された画像情報を画像記憶部103に記録する。
【0062】
消失点抽出部102は、第1画像生成部101によって生成された画像毎に、該画像の消失点VPの位置を求める機能部である。ここで、消失点抽出部102は、消失点抽出手段に相当する。また、消失点抽出部102は、求められた消失点VPの位置情報を、第1画像生成部101によって生成された画像情報に対応付けて、画像記憶部103に記録する。
【0063】
ここで、消失点VPとは、もともと平行であるはずの複数の線分が、撮影した画像の中で透視ひずみによって非平行となった場合に、それらを延長して得られる交点のことである。すなわち、消失点は、車両VC1が直線状の道路を走行している場合に、該道路に平行な平行線群の画像上での収束点として定義される。また、消失点の画像上での位置は、カメラに対する平行線群の方向すなわち道路の方向を与えるものである。例えば、消失点VPは、特開2008−225784号公報に記載された消失点抽出装置等によって求めることができる。
【0064】
画像記憶部103は、第1画像生成部101によって生成された画像情報を格納する機能部である。ここで、画像記憶部103は、画像記憶手段に相当する。また、画像記憶部103は、第1画像生成部101によって生成された画像情報に対応付けて、消失点抽出部102によって求められた消失点VPの位置情報、移動状態検出部106によって検出された車両の車速情報、操舵角情報、ピッチ角情報、ロール角情報、ヨー角情報、及び、第2画像生成部111によって生成された第2画像情報等を格納する。
【0065】
補正対象選定部104は、第1画像生成部101によって生成された画像の中から、補正する対象の1つの画像である補正対象画像P0を選定する機能部である。ここで、補正対象選定部104は、補正対象選定手段に相当する。
【0066】
第1画像選定部105は、補正対象選定部104によって選定された補正対象画像が第1画像生成部101によって生成される直前に、第1画像生成部101によって生成された1つ以上の予め設定された所定個数N(ここでは、2個)の画像を、補正対象画像P0の補正に用いる画像情報である第1画像P1として選定する機能部である。ここで、第1画像選定部105は、第1画像選定手段に相当する。また、所定個数Nは、個数設定部108によって設定される。
【0067】
具体的には、第1画像生成部101は、所定時間ΔT(例えば、0.1sec)毎に、車両VC1の前方の画像情報を生成するため、所定個数Nが2個である場合には、第1画像選定部105は、第1画像P1として、補正対象画像が生成された時点T3の所定時間ΔT前の時点T2に生成された画像P11、及び、補正対象画像が生成された時点T3の所定時間ΔTの2倍だけ前の時点T1に生成された画像P12を選定する(図3参照)。
【0068】
本実施形態では、所定個数Nが2個である場合について説明するが、所定個数Nは、個数設定部108によって撮影条件等に基づいて設定されるため、1個である形態でも良いし、3個以上である形態でも良い。
【0069】
移動状態検出部106は、第1画像生成部101によって画像情報が生成される時点における車両VC1の車速を含む車両VC1の動きを検出する機能部である。ここで、移動状態検出部106は、移動状態検出手段に相当する。また、移動状態検出部106は、具体的には、車両VC1の動きとして、車速センサ23、操舵角センサ24、ピッチ角センサ25、ロール角センサ26、及び、ヨー角センサ27を介して、それぞれ、車速、操舵角、ピッチ角、ロール角及びヨー角を検出する。更に、移動状態検出部106は、検出された移動体の動き情報を、第1画像生成部101によって生成された画像情報に対応付けて、画像記憶部103に記録する。
【0070】
本実施形態では、移動状態検出部106が、車速、操舵角、ピッチ角、ロール角及びヨー角を検出する場合について説明するが、移動状態検出部106が、少なくとも、車速、操舵角を検出する形態であれば良い。また、移動状態検出部106が、車速、操舵角に加えて、ピッチ角、ロール角及びヨー角の少なくともいずれかを検出する形態であることが好ましい。
【0071】
撮影条件判定部107は、カメラ21が撮像する条件の良否の程度を判定する機能部である。ここで、撮影条件判定部107は、撮影条件判定手段に相当する。また、撮影条件判定部107は、具体的には、第1画像生成部101によって生成された画像情報のコントラスト、S/N比等に基づいて、カメラ21が撮像する条件の良否の程度を判定する。
【0072】
本実施形態では、撮影条件判定部107が、第1画像生成部101によって生成された画像情報のコントラスト、S/N比等に基づいて、カメラ21が撮像する条件の良否の程度を判定する場合について説明するが、撮影条件判定部107が、その他の情報に基づいて、カメラ21が撮像する条件の良否の程度を判定する形態でも良い。例えば、撮影条件判定部107が、インターネット等を介して気象情報を取得し、取得した気象情報に基づいて、カメラ21が撮像する条件の良否の程度を判定する形態でも良い。
【0073】
個数設定部108は、撮像条件判定部107によって判定された撮影条件の良否の程度に基づいて、補正対象画像P0の補正に用いる画像情報の個数である所定個数Nを設定する機能部である。ここで、個数設定部108は、個数設定手段に相当する。また、個数設定部108は、具体的には、撮像条件判定部107によってカメラ21が撮像する条件が悪いと判定される程、所定個数Nを大きく設定する。
【0074】
薄暮の時、霧、雨等により撮影条件が悪い場合には、カメラ21の露光時間ETが短いと充分なコントラストが得られない。そこで、上記のように、カメラ21が撮像する条件が悪いと判定される程、所定個数Nが大きく設定されるため、更に鮮明な画像を生成することができるのである。
【0075】
本実施形態では、個数設定部108が、撮影条件の良否の程度に基づいて、所定個数Nを設定する場合について説明するが、個数設定部108が、その他の条件に基づいて、所定個数Nを設定する形態でも良い。例えば、個数設定部108が、車速が速い程、所定個数Nを小さく設定する形態でも良い。車速が速い場合には、短い間隔で運転支援情報の出力要否を判定する必要がある。そこで、車速が速い程、所定個数Nを小さく設定することによって、短い間隔で運転支援情報の出力要否を判定することを可能とすることができるのである。
【0076】
露光時間設定部109は、移動状態検出部106によって検出された車両VCの車速に基づいて、露光時間ETを設定する機能部である。ここで、露光時間設定部109は、露光時間設定手段に相当する。また、露光時間設定部109は、具体的には、移動状態検出部106によって検出された車両VC1の車速が速い程、露光時間ETを短く設定する。更に、露光時間設定部109は、撮像条件判定部107によって判定された撮影条件の良否の程度に基づいて、露光時間ETを設定する。具体的には、露光時間設定部109は、撮像条件判定部107によってカメラ21が撮像する条件が悪いと判定される程、露光時間ETを長く設定する。
【0077】
このようにして、車両VC1の車速が速い程、画像のブレが大きくなるため、車速が速い程、露光時間ETを短く設定することによって、第1画像生成部101は、鮮明な画像を生成することができる。
【0078】
一方、薄暮の時、霧、雨等により撮影条件が悪い場合には、カメラ21の露光時間ETが短いと充分なコントラストが得られない。そこで、カメラ21が撮像する条件が悪いと判定される程、露光時間ETが長く設定され、設定された露光時間ETで撮像された画像情報が生成されるため、第1画像生成部101は、更に鮮明な画像を生成することができる。
【0079】
本実施形態では、露光時間設定部109が、車両VC1の車速及びカメラ21が撮像する条件の良否に基づいて、露光時間ETを設定する場合について説明するが、露光時間設定部109が、車両VC1の車速及びカメラ21が撮像する条件の良否の少なくとも一方に基づいて、露光時間ETを設定する形態であれば良い。
【0080】
移動体検出部110は、レーダ装置22を介して、車両VC1の周囲に存在する他の移動体(例えば、対向車両VC2)の、車両VC1との間の距離、及び、相対速度を検出する機能部である。ここで、移動体検出部110は、移動体検出手段に相当する。
【0081】
第2画像生成部111は、第1画像選定部105によって選定された所定個数N(ここでは、2個)の第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく、所定個数Nの第1画像P1を、それぞれ、消失点抽出部102によって求められた消失点VPの位置、及び、移動状態検出部106によって検出された車両VC1の動きに基づいて補正して、補正後の画像である第2画像P2を生成する機能部である。ここで、第2画像生成部111は、第2画像生成手段に相当する。また、第2画像生成部111は、生成した第2画像P2を、補正対象画像P0に対応付けて、画像記憶部103に記録する。更に、ここでは、移動状態検出部106によって検出された車両VC1の動きは、具体的には、車速、操舵角、ピッチ角、ロール角及びヨー角である。なお、第2画像生成部111の具体的な処理方法については、図5を用いて後述する。
【0082】
また、第2画像生成部111は、画像記憶部103から、所定個数N(ここでは、2個)の第1画像P1情報、所定個数Nの消失点VPの位置情報、及び、所定個数Nの車両VC1の動き情報を読み出して、所定個数Nの第1画像P1をそれぞれ補正して、所定個数Nの第2画像P2を生成する。
【0083】
このようにして、画像記憶部103から、所定個数N(ここでは、2個)の第1画像P1情報、所定個数Nの消失点VPの位置情報、及び、所定個数Nの車両VC1の動き情報を読み出されて、所定個数Nの第1画像P1をそれぞれ補正されて、所定個数Nの第2画像P2を生成されるため、簡素な処理で第2画像P2を生成することができる。
【0084】
更に、第2画像生成部111は、補正対象画像P0及び所定個数N(ここでは、2個)の第1画像P1に含まれる移動体(対向車両VC2等)に関して、所定個数Nの第1画像P1に含まれる他の移動体の位置(対向車両VC2等)を、移動体検出部110によって検出された車両VC1との間の距離、及び、相対速度に基づいて補正して、補正後の画像である第2画像P2を生成する。
【0085】
このようにして、補正対象画像P0及び所定個数Nの第1画像P1に含まれる他の移動体(対向車両VC2等)に関して、所定個数Nの第1画像P1に含まれる他の移動体(対向車両VC2等)の位置が、検出された他の移動体の車両VC1との間の距離、及び、相対速度に基づいて補正されて、補正後の画像である第2画像P2が生成されるため、補正対象画像P0に、他の移動体が含まれる場合にも、該他の移動体の鮮明な画像を生成することができる。
【0086】
画像補正実行部112は、第2画像生成部111によって生成された所定個数N(ここでは、2個)の第2画像P2を、補正対象画像P0と合成することによって、補正対象画像P0を補正して、補正後の画像P3を生成する機能部である。ここで、画像補正実行部112は、画像補正手段に相当する。また、画像補正実行部112は、画像記憶部103から、補正対象画像P0情報、及び、所定個数Nの第2画像P2情報が読み出して、補正対象画像P0を補正する。
【0087】
このようにして、画像記憶部103から、補正対象画像P0情報、及び、所定個数Nの第2画像P2情報が読み出されて、補正対象画像P0が補正されるため、簡素な処理で補正対象画像P0を補正することができる。
【0088】
情報出力部113は、画像補正実行部112によって補正対象画像P0が補正されて生成された画像P3に基づいて、運転者に対して運転操作を支援する情報である運転支援情報を出力する機能部である。ここで、情報出力部113は、情報出力手段に相当する。情報出力部113は、具体的には、運転支援情報として、ディスプレイ31及びスピーカ32を介して、運転者から視認可能に画像、文字等を表示すると共に、ガイダンス等の音声を出力する。
【0089】
図3は、運転支援ECU1によって行われる画像処理の一例を示すブロック図である。図の横軸は時間Tである。所定時間ΔT間隔の時点T1〜T5において、第1画像生成部101によって画像が生成される。上側の図は、時点T3の画像が補正対象画像P0として選定される場合であって、下側の図は、時点T4の画像が補正対象画像P0として選定される場合である。
【0090】
図3の上側の図に示すように、時点T3の画像が補正対象画像P0として選定される場合には、第1画像選定部105によって、時点T1及び時点T2で生成された画像が第1画像P1として選定される。そして、第2画像生成部111によって、時点T1及び時点T2で生成された2個の第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく補正されて2個の第2画像P2が生成される。また、画像補正実行部112によって、2個の第2画像P2が、補正対象画像P0と合成されて補正され、補正後の画像(ここでは、「補正画像」と表記する)P3が生成される。このようにして、時点T3で生成された補正対象画像P0が補正されて、補正画像P3が生成される。
【0091】
同様にして、図3の下側の図に示すように、時点T4の画像が補正対象画像P0として選定される場合には、第1画像選定部105によって、時点T2及び時点T3で生成された画像が第1画像P1として選定される。そして、第2画像生成部111によって、時点T2及び時点T3で生成された2個の第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく補正されて2個の第2画像P2が生成される。また、画像補正実行部112によって、2個の第2画像P2が、補正対象画像P0と合成されて補正され、補正後の画像(ここでは、「補正画像」と表記する)P3が生成される。このようにして、時点T4で生成された補正対象画像P0が補正されて、補正画像P3が生成される。
【0092】
図3に示すように、各時点で生成された画像は、補正対象選定部104によって、順次、補正対象画像P0として選定され、画像補正実行部112によって、補正されて補正画像P3が生成されるのである。そこで、第1画像生成部101によって画像が生成される度に、生成された画像が補正されるため、補正画像P3を、生成された時点から短期間で生成することができる。
【0093】
図4は、運転支援ECU1によって車両VC1の前方の画像が生成される状況の一例を示す平面図である。図4に示すように、車両VC1は、車両区画線WL、WRで区画され、センターラインCLが敷設された車線を上側に向けて走行している。ここで、車両VC1の前面部には、カメラ21が配設されており、カメラ21は、予め設定された所定の視野角の範囲DA内を撮像している。
【0094】
車両VC1の前方左側には、車両区画線WLに沿って、道路標識SP、信号機SGが敷設されており、車両VC1の前方の道路上には、マークRMが描かれている。更に、対向車線には、対向車両VC2が、下側に向けて走行している。また、図4には、図3に示す時点T1、T2、T3における車両VC1の位置を表記している。
【0095】
図5は、図4に示す状況において、カメラ21を介して生成された車両VC1の前方の画像(=第1画像P1)の一例を示す画面図410、及び、対応する消失点VPの一例を示す説明図410Aである。なお、以下の説明においては、図3の上側の図に示す場合について、第2画像生成部111によって行われる処理を説明する。すなわち、時点T1及び時点T2で生成された第1画像P1を用いて、時点T3で生成された補正対象画像P0を補正する場合について、第2画像生成部111によって、第1画像P1から第2画像P2を生成する方法を具体的に説明する。
【0096】
画面図410は、図3、図4に示す時点T1において生成された画像に対応するものであって、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像411、412、センターライン画像413、マーク画像414、信号機画像415、道路標識画像416、及び、対向車両画像417が表示されている。
【0097】
説明図410Aには、画面図410における消失点VPの位置が黒丸●で表示されている。また、説明図410Aには、消失点VPを中心として放射状にベクトルPVが表記されている。このベクトルPVは、第2画像P2を生成するために、画面図410に示す第1画像P1の各画素を移動する方向及び移動量を示すベクトルである。
【0098】
すなわち、画面図410に示す画像を構成し、ベクトルPVの起点に位置する各画素は、第2画像生成部111によって、ベクトルPVの先端の位置に移動されるのである。このベクトルPVは、第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0(ここでは、時点P3において生成された画像:図6に示す画面図430参照)に含まれる静止物の位置と一致させるべく、移動状態検出部106によって求められた車速、操舵角等に基づいて求められるものである。
【0099】
図6は、カメラ21を介して生成された車両VC1の前方の画像(=第1画像P1及び補正対象画像P0)の一例を示す画面図である。図6の上側に示す画面図420は、図3、図4に示す時点T2において生成された画像に対応する画面図である。画面図420には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像421、422、センターライン画像423、マーク画像424、信号機画像425、道路標識画像426、及び、対向車両画像427が表示されている。
【0100】
図4に示すように、時点T1から時点T2に時間が経過ことによって、車両VC1が図4に示すマークRM、信号機SG、道路標識SP、及び、対向車両VC2に接近する。そこで、図6の上側に示す画面図420において、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応するマーク画像424、信号機画像425、道路標識画像426、及び、対向車両画像427は、図5に示す画面図410のマーク画像414、信号機画像415、道路標識画像416、及び、対向車両画像417と比較して大きく表記されている。
【0101】
図6の下側に示す画面図430は、図3、図4に示す時点T3において生成された画像に対応する画面図である。画面図430には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像431、432、センターライン画像433、マーク画像434、信号機画像435、道路標識画像436、及び、対向車両画像437が表示されている。
【0102】
図4に示すように、時点T2から時点T3に時間が経過ことによって、車両VC1が図4に示すマークRM、信号機SG、道路標識SP、及び、対向車両VC2に更に接近する。そこで、図6の下側に示す画面図430において、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応するマーク画像434、信号機画像435、道路標識画像436、及び、対向車両画像437は、図6の上側に示す画面図420のマーク画像424、信号機画像425、道路標識画像426、及び、対向車両画像427と比較して更に大きく表記されている。
【0103】
図7は、カメラ21を介して生成された第1画像P1と、対応する第2画像P2の一例を示す画面図である。時点T1で生成された第1画像P1は、図5の上側に示す画面図410に対応している。ここでは、便宜上、図5の上側に示す画面図410を図7の上側に再掲する。図7の下側の図は、第2画像生成部111によって、時点T1で生成された第1画像P1に対して、図5の下側に示す消失点VP及びベクトルPVに基づいて、補正が施されて、生成された第2画像P2を示す画面図440である。なお、ここでは、便宜上、第2画像生成部111が、他の移動体に相当する車両VC2の移動に伴う位置及び大きさの補正は行っていない。
【0104】
画面図440には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像441、442、センターライン画像443、マーク画像444、信号機画像445、道路標識画像446、及び、対向車両画像447が表示されている。
【0105】
画面図440に示すように、図4に示す静止物である車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SPにそれぞれ対応する車両区画線画像441、442、センターライン画像443、マーク画像444、信号機画像445、及び、道路標識画像446は、図6の下側に示す時点T3の画像(=補正対象画像P0)に対応する画面図430の車両区画線画像421、432、センターライン画像433、マーク画像434、信号機画像435、及び、道路標識画像436と一致する位置、大きさで表示されている。すなわち、画面図410に示す時点T1で生成された第1画像P1に含まれる静止物の位置が、それぞれ、図6の画面図430に示す時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致させるべく補正されている。
【0106】
図8は、カメラ21を介して生成された第1画像P1と、対応する第2画像P2の他の一例を示す画面図である。時点T2で生成された第1画像P1は、図6の上側に示す画面図420に対応している。ここでは、便宜上、図6の上側に示す画面図420を図8の上側に再掲する。図8の下側の図は、第2画像生成部111によって、時点T2で生成された第1画像P1に対して、図5の下側に示すものと同様に、消失点VP及びベクトルPVに基づいて補正が施されて、生成された第2画像P2を示す画面図450である。なお、ここでは、便宜上、第2画像生成部111が、他の移動体に相当する車両VC2の移動に伴う位置及び大きさの補正は行っていない。
【0107】
画面図450には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像451、452、センターライン画像453、マーク画像454、信号機画像455、道路標識画像456、及び、対向車両画像457が表示されている。
【0108】
画面図450に示すように、図4に示す静止物である車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SPにそれぞれ対応する車両区画線画像451、452、センターライン画像453、マーク画像454、信号機画像455、及び、道路標識画像456は、図6の下側に示す時点T3の画像(=補正対象画像P0)に対応する画面図430の車両区画線画像421、432、センターライン画像433、マーク画像434、信号機画像435、及び、道路標識画像436と一致する位置、大きさで表示されている。すなわち、画面図420に示す時点T2で生成された第1画像P1に含まれる静止物の位置が、それぞれ、図6の画面図430に示す時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致させるべく補正されている。
【0109】
図9は、第2画像P2と補正対象画像P0との一例を示す画面図である。図9には、上から順に、時点T1で生成された第1画像P1に対応する第2画像P2を示す画面図440(図7の下側の図を再掲)、時点T2で生成された第1画像P1に対応する第2画像P2を示す画面図450(図8の下側の図を再掲)、及び、時点T3で生成された補正対象画像P0を示す画面図430(図6の下側の図を再掲)である。図9に示すように、時点T1及び時点T2でそれぞれ生成された第1画像P1に対応する第2画像P2に含まれる静止物の位置、大きさが、時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致している。
【0110】
このように、時点T1及び時点T2でそれぞれ生成された第2画像P2に含まれる静止物の位置、大きさが、時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致しているため、第2画像P2と補正対象画像P0とを合成することによって、静止物の画像のS/N比を向上することができるのである。
【0111】
図10、図11は、運転支援ECU1の動作の一例を示すフローチャートである。なお、ここでは、便宜上、第2画像生成部111が、他の移動体(ここでは、車両VC2)の移動に伴う位置及び大きさの補正は行わない場合について説明する。まず、図10に示すように、第1画像生成部101によって、車両VC1の前方の画像情報が生成され、生成された画像情報が画像記憶部103に記録される(S101)。そして、消失点抽出部102によって、ステップS101において生成された画像毎に、消失点VPの位置が求められる(S103)。次いで、消失点抽出部102によって、ステップS103において求められた消失点VPの位置情報が、ステップS101において生成された画像情報と対応付けて画像記憶部103に記録される(S105)。
【0112】
次に、移動状態検出部106によって、車両VC1の車速、操舵角が検出され、検出された車速情報、操舵角情報等がステップS101において生成された画像情報と対応付けて画像記憶部103に記録される(S107)。そして、移動状態検出部106によって、車両VC1のピッチ角、ロール角、ヨー角が検出され、検出されたピッチ角情報、ロール角情報、ヨー角情報等がステップS101において生成された画像情報と対応付けて画像記憶部103に記録される(S109)。
【0113】
次いで、撮影条件判定部107によって、カメラ21が撮像する条件の良否の程度が判定される(S111)。次に、個数設定部108によって、ステップS111において判定された撮像条件の良否の程度に基づいて、補正対象画像P0の補正に用いる画像情報の個数である所定個数Nが設定される(S113)。そして、露光時間設定部109によって、ステップS107において検出された車速、及び、ステップS111において判定された撮像条件の良否の程度に基づいて、露光時間ETが設定される(S115)。
【0114】
そして、図11に示すように、補正対象選定部104によって、図10に示すステップS101において生成された画像の中から、1個の補正対象画像P0が選定され、選定された補正対象画像P0情報が画像記憶部103から読み出される(S117)。次いで、第1画像選定部105によって、図10に示すステップS101において生成された画像の中から、所定個数N(ここでは、2個)の第1画像P1が選定される(S119)。次に、第2画像生成部111によって、ステップS119において選定された第1画像P1情報、及び、ステップS117において選定された補正対象画像P0に対応する消失点VPの位置情報(ここでは、消失点情報と略記している)が画像記憶部103から読み出される(S121)。
【0115】
そして、第2画像生成部111によって、ステップS117において選定された補正対象画像P0に対応する車速情報、操舵角情報が、画像記憶部103から読み出される(S123)。次いで、第2画像生成部111によって、ステップS117において選定された補正対象画像P0に対応するピッチ角情報、ロール角情報、ヨー角情報が、画像記憶部103から読み出される(S125)。次に、第2画像生成部111によって、ステップS121において読み出された第1画像P1が、ステップS121において読み出された消失点VPの位置情報、ステップS123において読み出された車速情報、操舵角情報、及び、ステップS125において読み出されたピッチ角情報、ロール角情報、ヨー角情報に基づいて補正されて、第2画像P2が生成される(S127)。
【0116】
そして、画像補正実行部112によって、ステップS127において生成された所定個数N(ここでは、2個)の第2画像P2が、ステップS117において読み出された補正対象画像P0と合成されて、補正画像P3が生成される(S129)。次いで、情報出力部113によって、ステップS129において生成された補正画像P3に基づいて、運転支援情報が生成される(S131)。次に、情報出力部113によって、ステップS131において生成された運転支援情報が出力され(S133)、処理が終了される。
【0117】
このようにして、画像を生成する際に、撮像倍率等を変更することがないため、視野角を確保することができるのである。また、補正対象画像P0に含まれる静止物の位置と一致させるべく、補正対象画像P0が生成される直前に生成された所定個数Nの第1画像P1が、それぞれ、求められた消失点VPの位置、及び、検出された車両VC1の動きに基づいて補正されて、補正後の画像である第2画像P2が生成される。そして、生成された所定個数Nの第2画像P2が、補正対象画像P0と合成されることによって、該補正対象画像P0が補正されるため、補正対象画像P0に含まれる静止物のS/N比を向上することができるので、鮮明な画像を生成することができる。
【0118】
なお、本発明に係る画像処理装置、運転支援装置は、上記実施形態に限定されず、下記の形態でも良い。
(A)本実施形態においては、運転支援ECU1が、機能的に、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、情報出力部113等を備える場合について説明したが、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、及び、情報出力部113の内、少なくとも1つの機能部が電気回路等のハードウェアによって実現されている形態でも良い。
【0119】
(B)本実施形態においては、露光時間設定部109が、車両VCの車速及び撮影条件の良否の程度に基づいて、露光時間ETを設定する場合について説明したが、露光時間ETが予め設定された閾値以下の露光時間EVに設定されている形態でも良い。この場合には、処理が簡略化される。また、露光時間EVが長いと、画像のブレが大きくなる。これに対して、露光時間EVが短いと、撮像されて生成された各画像は、充分なコントラストが得られない場合があるが、補正対象画像P0情報に、所定個数N(ここでは、2個)の第2画像P2情報が合成されて補正されるので、充分なコントラストを得ることができる。
【産業上の利用可能性】
【0120】
本発明は、例えば、車両等の移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置に適用することができる。また、本発明は、例えば、車両に搭載され、運転者に対して運転支援情報を出力する運転支援装置に適用することができる。
【符号の説明】
【0121】
1 運転支援ECU(画像処理装置、運転支援装置)
101 第1画像生成部(第1画像生成手段)
102 消失点抽出部(消失点抽出手段)
103 画像記憶部(画像記憶手段)
104 補正対象選定部(補正対象選定手段)
105 第1画像選定部(第1画像選定手段)
106 移動状態検出部(移動状態検出手段)
107 撮影条件判定部(撮影条件判定手段)
108 個数設定部(個数設定手段)
109 露光時間設定部(露光時間設定手段)
110 移動体検出部(移動体検出手段)
111 第2画像生成部(第2画像生成手段)
112 画像補正実行部(画像補正手段)
113 情報出力部(情報出力手段)
2 入力機器
21 カメラ
22 レーダ装置
23 車速センサ
24 操舵角センサ
25 ピッチ角センサ
26 ロール角センサ
27 ヨー角センサ
3 出力機器
31 ディスプレイ
32 スピーカ
【技術分野】
【0001】
本発明は、例えば、車両等の移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置、及び、車両に搭載され、運転者に対して運転支援情報を出力する運転支援装置に関する。
【背景技術】
【0002】
従来、車両に搭載されたCCD(Charge Coupled Device)カメラ等を介して、該車両の周辺の路側物等の物体を検出し、検出された物体に基づいて、該車両の運転者の運転操作を支援する情報である運転支援情報を運転者に報知する技術が知られている。しかしながら、車両に搭載されたカメラは、露光時間中に車両が移動することに起因して、被写体像にブレの有る不鮮明な画像しか撮像することができない場合があった。また、このような不鮮明な画像を利用して車両の周囲に存在する物体の検出を行った場合には、適正な運転支援情報を出力できない虞があった。
【0003】
この課題を解消するために、種々の装置、方法等が提案されている(例えば、特許文献1参照)。例えば、特許文献1に記載の撮像装置は、カメラが搭載される移動体の速度に基づいて、撮像部の露光時間中における、撮像部により撮像される画像内での、撮像部の画角内に存在する被写体を示す領域の変位を算出する変位算出部と、変位を補償する、撮像部における撮像倍率の変化率を算出する撮像倍率変化率算出部と、撮像倍率を変化率で変化させるべく制御する撮像倍率制御部と、撮像倍率が変化率で変化している時に、撮像部により画像を撮像させる撮像タイミング制御部とを備える。
【0004】
上記特許文献1に記載の撮像装置によれば、車両等の移動体が移動している場合であっても、ブレの無い鮮明な画像を撮像することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−318569号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上記特許文献1に記載の撮像装置では、カメラが搭載される移動体の速度に基づいて、撮像倍率が変化されるため、予め設定された視野角を確保することができない虞がある。すなわち、例えば、カメラが車両に搭載される場合には、該カメラの視野角は、該カメラによって検出するべき物体の存在する範囲を含むように予め設定されている。そこで、撮像倍率が変化されることによって視野角が狭くなると、検出するべき物体が視野外となって検出できない場合があるのである。
【0007】
また、薄暮の時、霧、雨等により撮影条件が悪い場合には、カメラの露光時間が短いと充分なコントラストが得られず、逆にカメラの露光時間が長いと画像のブレが大きくなるという問題がある。
【0008】
本発明は、上記事情に鑑みてなされたものであって、その目的とするところは、視野角を確保しつつ、鮮明な画像を生成することの可能な画像処理装置、及び、該画像処理装置を備えた運転支援装置を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明は、以下の特徴を有している。本発明の第1の局面は、移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置であって、前記カメラを介して、予め設定された所定時間毎に、該移動体の周辺の画像情報を生成する第1画像生成手段と、前記第1画像生成手段によって生成された画像毎に、該画像の消失点の位置を求める消失点抽出手段と、前記第1画像生成手段によって画像情報が生成される時点における該移動体の移動速度を含む移動体の動きを検出する移動状態検出手段と、前記第1画像生成手段によって生成された画像の中から、補正する対象の1つの画像である補正対象画像を選定する補正対象選定手段と、前記補正対象選定手段によって選定された補正対象画像が前記第1画像生成手段によって生成される直前に、前記第1画像生成手段によって生成された1つ以上の予め設定された所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定する第1画像選定手段と、前記第1画像選定手段によって選定された前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と一致させるべく、前記所定個数の第1画像を、それぞれ、前記消失点抽出手段によって求められた消失点の位置、及び、前記移動状態検出手段によって検出された前記移動体の動きに基づいて補正して、補正後の画像である第2画像を生成する第2画像生成手段と、前記第2画像生成手段によって生成された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する画像補正手段と、を備える。
【0010】
本発明の第2の局面は、上記第1の局面において、前記第1画像生成手段によって生成された画像情報を格納する画像記憶手段を備え、前記第1画像生成手段が、生成された画像情報を画像記憶手段に記録し、前記消失点抽出手段が、求められた消失点の位置情報を、前記画像情報に対応付けて、前記画像記憶手段に記録し、前記移動状態検出手段が、検出された移動体の動き情報を前記画像情報に対応付けて、前記画像記憶手段に記録し、前記第2画像生成手段が、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報を読み出して、前記所定個数の第1画像をそれぞれ補正し、補正によって生成された前記所定個数の第2画像情報を、前記補正対象選定手段によって選定された補正対象画像情報に対応付けて、前記画像記憶手段に記録し、前記画像補正手段が、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報を読み出して、該補正対象画像を補正する。
【0011】
本発明の第3の局面は、上記第1の局面において、前記第1画像生成手段が、予め設定された閾値以下の露光時間で撮像された画像情報を生成する。
【0012】
本発明の第4の局面は、上記第3の局面において、前記移動状態検出手段によって検出された該移動体の移動速度に基づいて、前記露光時間を設定する露光時間設定手段を備え、前記第1画像生成手段が、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する。
【0013】
本発明の第5の局面は、上記第4の局面において、前記露光時間設定手段が、前記移動状態検出手段によって検出された該移動体の移動速度が速い程、前記露光時間を短く設定する。
【0014】
本発明の第6の局面は、上記第3の局面において、前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、前記撮像条件判定手段によって判定された良否の程度に基づいて、前記露光時間を設定する露光時間設定手段と、を備え、前記第1画像生成手段が、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する。
【0015】
本発明の第7の局面は、上記第6の局面において、前記露光時間設定手段が、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記露光時間を長く設定する。
【0016】
本発明の第8の局面は、上記第1の局面において、前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、前記撮像条件判定手段によって判定された良否の程度に基づいて、前記所定個数を設定する個数設定手段と、を備え、前記第1画像選定手段が、前記個数設定手段によって設定された前記所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定し、前記第2画像生成手段が、前記個数設定手段によって設定された前記所定個数の第1画像を補正して、補正後の画像である第2画像を生成し、前記画像補正手段が、前記個数設定手段によって設定された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する。
【0017】
本発明の第9の局面は、上記第8の局面において、前記個数設定手段が、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記所定個数を大きく設定する。
【0018】
本発明の第10の局面は、上記第1の局面において、該移動体の周囲に存在する他の移動体の、該移動体との間の距離、及び、相対速度を検出する移動体検出手段を備え、前記第2画像生成手段が、前記補正対象画像及び前記所定個数の第1画像に含まれる他の移動体に関して、前記所定個数の第1画像に含まれる他の移動体の位置を、前記移動体検出手段によって検出された該移動体との間の距離、及び、相対速度に基づいて補正して、補正後の画像である第2画像を生成する。
【0019】
本発明の第11の局面は、上記第1の局面において、前記移動体が、車両である。
【0020】
本発明の第12の局面は、上記第11の局面において、前記移動状態検出手段が、更に、該車両のピッチ角、ロール角、及び、ヨー角の少なくとも1つを検出する。
【0021】
本発明の第13の局面は、車両に搭載され、運転者に対して運転操作を支援する情報である運転支援情報を出力する運転支援装置であって、上記第11の局面に係る画像処理装置と、前記画像処理装置によって補正された補正対象画像に基づいて、前記運転支援情報を出力する情報出力手段と、を備える。
【発明の効果】
【0022】
上記第1の局面によれば、移動体に搭載されたカメラを介して、予め設定された所定時間毎に、該移動体の周辺の画像情報が生成される。そして、生成された画像毎に、該画像の消失点の位置が求められる。また、画像情報が生成される時点における該移動体の移動速度を含む移動体の動きが検出される。更に、生成された画像の中から、補正する対象の1つの画像である補正対象画像が選定される。加えて、選定された補正対象画像が生成される直前に、生成された1つ以上の予め設定された所定個数の画像が、前記補正対象画像の補正に用いる画像情報である第1画像として選定される。また、選定された前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と一致させるべく、前記所定個数の第1画像が、それぞれ、求められた消失点の位置、及び、検出された前記移動体の動きに基づいて補正されて、補正後の画像である第2画像が生成される。生成された前記所定個数の第2画像が、前記補正対象画像と合成されることによって、該補正対象画像が補正される。従って、視野角を確保しつつ、鮮明な画像を生成することができる。
【0023】
すなわち、画像を生成する際に、撮像倍率等を変更することがないため、視野角を確保することができるのである。また、前記補正対象画像に含まれる静止物の位置と一致させるべく、補正対象画像が生成される直前に生成された前記所定個数の第1画像が、それぞれ、求められた消失点の位置、及び、検出された前記移動体の動きに基づいて補正されて、補正後の画像である第2画像が生成される。そして、生成された前記所定個数の第2画像が、前記補正対象画像と合成されることによって、該補正対象画像が補正されるため、前記補正対象画像に含まれる静止物のS/N比を向上することができるので、鮮明な画像を生成することができるのである。
【0024】
上記第2の局面によれば、生成された画像情報を格納する画像記憶手段を備えている。そして、生成した画像情報が画像記憶手段に記録され、求められた消失点の位置情報が、前記画像情報に対応付けて、前記画像記憶手段に記録される。また、検出された移動体の動き情報が前記画像情報に対応付けて、前記画像記憶手段に記録される。更に、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報が読み出されて、前記所定個数の第1画像がそれぞれ補正され、補正によって生成された前記所定個数の第2画像情報が、選定された補正対象画像情報に対応付けて、前記画像記憶手段に記録される。また、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報が読み出されて、該補正対象画像が補正される。従って、簡素な処理で、鮮明な画像を生成することができる。
【0025】
すなわち、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報が読み出されて、前記所定個数の第1画像がそれぞれ補正され、前記所定個数の第2画像情報が生成される。また、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報が読み出されて、該補正対象画像が補正される。従って、簡素な処理で、鮮明な画像を生成することができるのである。
【0026】
上記第3の局面によれば、予め設定された閾値以下の露光時間で撮像された画像情報が生成される。従って、更に鮮明な画像を生成することができる。
【0027】
すなわち、露光時間が長いと、画像のブレが大きくなる。これに対して、露光時間が短いと、撮像されて生成された各画像は、充分なコントラストが得られない場合があるが、前記補正対象画像情報に、前記所定個数の第2画像情報が合成されて補正されるので、充分なコントラストを得ることができるのである。
【0028】
上記第4の局面によれば、検出された該移動体の移動速度に基づいて、前記露光時間が設定される。そして、設定された露光時間で撮像された画像情報が生成される。従って、更に鮮明な画像を生成することができる。
【0029】
すなわち、検出された該移動体の移動速度に基づいて、前記露光時間が設定されるため、適正な露光時間を設定することができるため、適正な露光時間で撮像された画像情報が生成されるので、更に鮮明な画像を生成することができるのである。
【0030】
上記第5の局面によれば、検出された該移動体の移動速度が速い程、前記露光時間を短く設定される。従って、更に鮮明な画像を生成することができる。
【0031】
すなわち、移動速度が速い程、画像のブレが大きくなるため、移動速度が速い程、露光時間を短く設定することによって、更に鮮明な画像を生成することができるのである。
【0032】
上記第6の局面によれば、前記カメラが撮像する条件の良否の程度が判定される。そして、判定された良否の程度に基づいて、前記露光時間が設定される。また、設定された露光時間で撮像された画像情報が生成される。従って、更に鮮明な画像を生成することができる。
【0033】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラの露光時間が短いと充分なコントラストが得られない。そこで、撮影条件の良否の程度に基づいて、前記露光時間が設定され、設定された露光時間で撮像された画像情報が生成されるため、更に鮮明な画像を生成することができるのである。
【0034】
上記第7の局面によれば、前記カメラが撮像する条件が悪いと判定される程、前記露光時間が長く設定される。従って、更に鮮明な画像を生成することができる。
【0035】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラの露光時間が短いと充分なコントラストが得られない。そこで、前記カメラが撮像する条件が悪いと判定される程、前記露光時間が長く設定されるため、更に鮮明な画像を生成することができるのである。
【0036】
上記第8の局面によれば、前記カメラが撮像する条件の良否の程度が判定される。そして、判定された良否の程度に基づいて、前記所定個数が設定される。また、設定された前記所定個数の画像が、前記補正対象画像の補正に用いる画像情報である第1画像として選定される。更に、設定された前記所定個数の第1画像が補正されて、補正後の画像である第2画像が生成される。加えて、設定された前記所定個数の第2画像が、前記補正対象画像と合成されることによって、該補正対象画像が補正される。従って、更に鮮明な画像を生成することができる。
【0037】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラを介して生成された画像において充分なコントラストが得られない虞がある。そこで、前記カメラが撮像条件の良否の程度に基づいて、前記所定個数が設定されるため、前記所定個数として適正な個数が設定される。そして、適正な個数に設定された前記所定個数の第1画像情報に基づいて、前記補正対象画像が補正されるため、更に鮮明な画像を生成することができるのである。
【0038】
上記第9の局面によれば、前記カメラが撮像する条件が悪いと判定される程、前記所定個数が大きく設定される。従って、更に鮮明な画像を生成することができる。
【0039】
すなわち、薄暮の時、霧、雨等により撮影条件が悪い場合には、前記カメラの露光時間が短いと充分なコントラストが得られない。そこで、前記カメラが撮像する条件が悪いと判定される程、前記所定個数が大きく設定されるため、更に鮮明な画像を生成することができるのである。
【0040】
上記第10の局面によれば、該移動体の周囲に存在する他の移動体の、該移動体との間の距離、及び、相対速度が検出される。そして、前記補正対象画像及び前記所定個数の第1画像に含まれる他の移動体に関して、前記所定個数の第1画像に含まれる他の移動体の位置が、検出された他の移動体の該移動体との間の距離、及び、相対速度に基づいて補正されて、補正後の画像である第2画像が生成される。従って、前記補正対象画像に、他の移動体が含まれる場合にも、該他の移動体の鮮明な画像を生成することができる。
【0041】
上記第11の局面によれば、前記移動体が車両である。従って、車両に搭載されたカメラを介して生成された該車両の周辺の画像を補正して、視野角を確保しつつ、鮮明な画像を生成することができる。
【0042】
上記第12の局面によれば、更に、該車両のピッチ角、ロール角、及び、ヨー角の少なくとも1つが検出される。従って、更に鮮明な画像を生成することができる。
【0043】
すなわち、車両の移動速度に加えて、ピッチ角、ロール角、及び、ヨー角を検出することによって、前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と更に正確に一致させるべく、前記所定個数の第1画像を補正して、補正後の画像である第2画像を生成することができるので、更に鮮明な画像を生成することができるのである。
上記第13の局面によれば、上記第11の局面に係る画像処理装置を備えるため、視野角を確保しつつ、鮮明な画像を生成することができる。そして、該画像処理装置によって補正された補正対象画像に基づいて、前記運転支援情報が出力されるため、適正な運転支援情報を出力することができる。
【図面の簡単な説明】
【0044】
【図1】本発明に係る運転支援装置の構成の一例を示すブロック図
【図2】運転支援ECUの機能構成の一例を示すブロック図
【図3】運転支援ECUによって行われる画像処理の一例を示すブロック図
【図4】運転支援ECUによって該車両の前方の画像が生成される状況の一例を示す平面図
【図5】カメラを介して生成された該車両の前方の画像(=第1画像)の一例を示す画面図、及び、対応する消失点の一例を示す説明図
【図6】カメラを介して生成された該車両の前方の画像(=第1画像及び補正対象画像)の一例を示す画面図
【図7】カメラを介して生成された第1画像と、対応する第2画像の一例を示す画面図
【図8】カメラを介して生成された第1画像と、対応する第2画像の他の一例を示す画面図
【図9】第2画像と補正対象画像との一例を示す画面図
【図10】運転支援ECUの動作の一例を示すフローチャート(前半部)
【図11】運転支援ECUの動作の一例を示すフローチャート(後半部)
【発明を実施するための形態】
【0045】
以下、図面を参照して本発明に係る画像処理装置及び運転支援装置の実施形態について説明する。本発明に係る運転支援装置は、車両に搭載され、運転者に対して運転支援情報を出力する装置である。ここでは、本発明に係る画像処理装置及び運転支援装置が搭載される移動体が、車両である場合について説明する。まず、図1を用いて、車両に搭載された運転支援装置の構成の一例について説明する。
【0046】
本実施形態では、本発明に係る画像処理装置及び運転支援装置が搭載される移動体が車両である場合について説明するが、本発明に係る画像処理装置及び運転支援装置が搭載される移動体が、その他の種類の移動体である形態でも良い。例えば、本発明に係る画像処理装置が搭載される移動体が、船舶、飛行機等である形態でも良い。
【0047】
図1は、本発明に係る運転支援装置の構成の一例を示すブロック図である。図1に示すように、本発明に係る運転支援ECU(Electronic Control Unit)1(=画像処理装置、運転支援装置に相当する)は、周辺機器としての入力機器2及び出力機器3と通信可能に接続されている。
【0048】
まず、図1を参照して、運転支援ECU1の入力機器2について説明する。入力機器2は、カメラ21、レーダ装置22、車速センサ23、操舵角センサ24、ピッチ角センサ25、ロール角センサ26、及び、ヨー角センサ27を備えている。
【0049】
カメラ21は、CCD(Charge Coupled Device)等を備え、車両VC1の前方の画像情報を生成するカメラである。また、カメラ21は、生成された画像情報を、運転支援ECU1(ここでは、図2に示す第1画像生成部101)へ出力する。また、カメラ21は、運転支援ECU1(ここでは、図2に示す露光時間設定部109)から露光時間が指示され、指示された露光時間を設定する。
【0050】
本実施形態においては、カメラ21が、車両VC1の前方の画像情報を生成する場合について説明するが、カメラ21が、車両VC1の周囲の画像情報を生成する形態であれば良い。例えば、カメラ21が、車両VC1の側方又は後方の画像情報を生成する形態でも良い。
【0051】
レーダ装置22は、例えば、ミリ波等を介して、車両VC1の周囲に存在する他の車両VC2等の移動体との距離、及び、相対速度を検出する装置である。また、レーダ装置22は、運転支援ECU1(ここでは、図2に示す移動体検出部110)に対して、車両VC1の周囲に存在する移動体との距離及び相対速度を示す信号を出力する。
【0052】
車速センサ23は、車両の走行速度を検出するセンサであって、検出された車両の走行速度を示す車速信号を運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して出力する。
【0053】
操舵角センサ24は、ステアリングセンサ等からなり、操舵角を検出するセンサであって、検出された操舵角信号を運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して出力する。
【0054】
ピッチ角センサ25は、ジャイロセンサ等からなり、ピッチ角の変化する速さ(=車両VC1の左右軸廻りの回転角速度)を示すピッチレートを検出するセンサであって、運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して、ヨー角を示す信号を出力する。
【0055】
ロール角センサ26は、ジャイロセンサ等からなり、ロール角の変化する速さ(=車両VC1の前後軸廻りの回転角速度)を検出するセンサであって、運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して、ロール角を示す信号を出力する。
【0056】
ヨー角センサ27は、ジャイロセンサ等からなり、ヨー角の変化する速さ(=車両の重心点を通る鉛直軸廻りの回転角速度)を検出するセンサであって運転支援ECU1(ここでは、図2に示す移動状態検出部106)に対して、ヨー角を示す信号を出力する。
【0057】
次に、図1を参照して、運転支援ECU1の出力機器3について説明する。出力機器3は、ディスプレイ31、及び、スピーカ32を備えている。ディスプレイ31は、運転席の前方に配設されたLCD(Liquid Crystal Display)等からなり、運転支援ECU1(ここでは、図2に示す情報出力部113)からの指示に従って、運転者から視認可能に画像、文字等を表示するものである。例えば、運転支援ECU1によって、走行している車線を右側に逸脱する可能性が高いと判定された場合には、運転支援ECU1からの指示に基づいて、ディスプレイ31に、走行している車線を右側に逸脱する旨の警報画面が表示される。
【0058】
スピーカ32は、運転席の側方等に配設され、運転支援ECU1(ここでは、図2に示す情報出力部113)からの指示に従って、運転者に対して、ガイダンス等の音声を出力するものである。例えば、運転支援ECU1によって、走行している車線を右側に逸脱する可能性が高いと判定された場合には、運転支援ECU1からの指示に基づいて、スピーカ32から、走行している車線を右側に逸脱する旨の警報情報が出力される。
【0059】
図2は、運転支援ECU1の機能構成の一例を示すブロック図である。図2に示すように、運転支援ECU1は、機能的に、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、及び、情報出力部113を備えている。
【0060】
なお、運転支援ECU1は、運転支援ECU1の適所に配設されたマイクロコンピュータに、運転支援ECU1の適所に配設されたROM(Read Only Memory)等に予め格納された制御プログラムを実行させることにより、当該マイクロコンピュータを、機能的に、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、情報出力部113等の機能部として機能させる。以下に、図2を参照しつつ、運転支援ECU1の各機能部について説明する。
【0061】
第1画像生成部101は、カメラ21を介して、予め設定された所定時間ΔT(例えば、0.1sec)毎に、車両VC1の前方の画像情報を生成する機能部である。ここで、第1画像生成部101は、第1画像生成手段に相当する。また、第1画像生成部101は、生成された画像情報を画像記憶部103に記録する。
【0062】
消失点抽出部102は、第1画像生成部101によって生成された画像毎に、該画像の消失点VPの位置を求める機能部である。ここで、消失点抽出部102は、消失点抽出手段に相当する。また、消失点抽出部102は、求められた消失点VPの位置情報を、第1画像生成部101によって生成された画像情報に対応付けて、画像記憶部103に記録する。
【0063】
ここで、消失点VPとは、もともと平行であるはずの複数の線分が、撮影した画像の中で透視ひずみによって非平行となった場合に、それらを延長して得られる交点のことである。すなわち、消失点は、車両VC1が直線状の道路を走行している場合に、該道路に平行な平行線群の画像上での収束点として定義される。また、消失点の画像上での位置は、カメラに対する平行線群の方向すなわち道路の方向を与えるものである。例えば、消失点VPは、特開2008−225784号公報に記載された消失点抽出装置等によって求めることができる。
【0064】
画像記憶部103は、第1画像生成部101によって生成された画像情報を格納する機能部である。ここで、画像記憶部103は、画像記憶手段に相当する。また、画像記憶部103は、第1画像生成部101によって生成された画像情報に対応付けて、消失点抽出部102によって求められた消失点VPの位置情報、移動状態検出部106によって検出された車両の車速情報、操舵角情報、ピッチ角情報、ロール角情報、ヨー角情報、及び、第2画像生成部111によって生成された第2画像情報等を格納する。
【0065】
補正対象選定部104は、第1画像生成部101によって生成された画像の中から、補正する対象の1つの画像である補正対象画像P0を選定する機能部である。ここで、補正対象選定部104は、補正対象選定手段に相当する。
【0066】
第1画像選定部105は、補正対象選定部104によって選定された補正対象画像が第1画像生成部101によって生成される直前に、第1画像生成部101によって生成された1つ以上の予め設定された所定個数N(ここでは、2個)の画像を、補正対象画像P0の補正に用いる画像情報である第1画像P1として選定する機能部である。ここで、第1画像選定部105は、第1画像選定手段に相当する。また、所定個数Nは、個数設定部108によって設定される。
【0067】
具体的には、第1画像生成部101は、所定時間ΔT(例えば、0.1sec)毎に、車両VC1の前方の画像情報を生成するため、所定個数Nが2個である場合には、第1画像選定部105は、第1画像P1として、補正対象画像が生成された時点T3の所定時間ΔT前の時点T2に生成された画像P11、及び、補正対象画像が生成された時点T3の所定時間ΔTの2倍だけ前の時点T1に生成された画像P12を選定する(図3参照)。
【0068】
本実施形態では、所定個数Nが2個である場合について説明するが、所定個数Nは、個数設定部108によって撮影条件等に基づいて設定されるため、1個である形態でも良いし、3個以上である形態でも良い。
【0069】
移動状態検出部106は、第1画像生成部101によって画像情報が生成される時点における車両VC1の車速を含む車両VC1の動きを検出する機能部である。ここで、移動状態検出部106は、移動状態検出手段に相当する。また、移動状態検出部106は、具体的には、車両VC1の動きとして、車速センサ23、操舵角センサ24、ピッチ角センサ25、ロール角センサ26、及び、ヨー角センサ27を介して、それぞれ、車速、操舵角、ピッチ角、ロール角及びヨー角を検出する。更に、移動状態検出部106は、検出された移動体の動き情報を、第1画像生成部101によって生成された画像情報に対応付けて、画像記憶部103に記録する。
【0070】
本実施形態では、移動状態検出部106が、車速、操舵角、ピッチ角、ロール角及びヨー角を検出する場合について説明するが、移動状態検出部106が、少なくとも、車速、操舵角を検出する形態であれば良い。また、移動状態検出部106が、車速、操舵角に加えて、ピッチ角、ロール角及びヨー角の少なくともいずれかを検出する形態であることが好ましい。
【0071】
撮影条件判定部107は、カメラ21が撮像する条件の良否の程度を判定する機能部である。ここで、撮影条件判定部107は、撮影条件判定手段に相当する。また、撮影条件判定部107は、具体的には、第1画像生成部101によって生成された画像情報のコントラスト、S/N比等に基づいて、カメラ21が撮像する条件の良否の程度を判定する。
【0072】
本実施形態では、撮影条件判定部107が、第1画像生成部101によって生成された画像情報のコントラスト、S/N比等に基づいて、カメラ21が撮像する条件の良否の程度を判定する場合について説明するが、撮影条件判定部107が、その他の情報に基づいて、カメラ21が撮像する条件の良否の程度を判定する形態でも良い。例えば、撮影条件判定部107が、インターネット等を介して気象情報を取得し、取得した気象情報に基づいて、カメラ21が撮像する条件の良否の程度を判定する形態でも良い。
【0073】
個数設定部108は、撮像条件判定部107によって判定された撮影条件の良否の程度に基づいて、補正対象画像P0の補正に用いる画像情報の個数である所定個数Nを設定する機能部である。ここで、個数設定部108は、個数設定手段に相当する。また、個数設定部108は、具体的には、撮像条件判定部107によってカメラ21が撮像する条件が悪いと判定される程、所定個数Nを大きく設定する。
【0074】
薄暮の時、霧、雨等により撮影条件が悪い場合には、カメラ21の露光時間ETが短いと充分なコントラストが得られない。そこで、上記のように、カメラ21が撮像する条件が悪いと判定される程、所定個数Nが大きく設定されるため、更に鮮明な画像を生成することができるのである。
【0075】
本実施形態では、個数設定部108が、撮影条件の良否の程度に基づいて、所定個数Nを設定する場合について説明するが、個数設定部108が、その他の条件に基づいて、所定個数Nを設定する形態でも良い。例えば、個数設定部108が、車速が速い程、所定個数Nを小さく設定する形態でも良い。車速が速い場合には、短い間隔で運転支援情報の出力要否を判定する必要がある。そこで、車速が速い程、所定個数Nを小さく設定することによって、短い間隔で運転支援情報の出力要否を判定することを可能とすることができるのである。
【0076】
露光時間設定部109は、移動状態検出部106によって検出された車両VCの車速に基づいて、露光時間ETを設定する機能部である。ここで、露光時間設定部109は、露光時間設定手段に相当する。また、露光時間設定部109は、具体的には、移動状態検出部106によって検出された車両VC1の車速が速い程、露光時間ETを短く設定する。更に、露光時間設定部109は、撮像条件判定部107によって判定された撮影条件の良否の程度に基づいて、露光時間ETを設定する。具体的には、露光時間設定部109は、撮像条件判定部107によってカメラ21が撮像する条件が悪いと判定される程、露光時間ETを長く設定する。
【0077】
このようにして、車両VC1の車速が速い程、画像のブレが大きくなるため、車速が速い程、露光時間ETを短く設定することによって、第1画像生成部101は、鮮明な画像を生成することができる。
【0078】
一方、薄暮の時、霧、雨等により撮影条件が悪い場合には、カメラ21の露光時間ETが短いと充分なコントラストが得られない。そこで、カメラ21が撮像する条件が悪いと判定される程、露光時間ETが長く設定され、設定された露光時間ETで撮像された画像情報が生成されるため、第1画像生成部101は、更に鮮明な画像を生成することができる。
【0079】
本実施形態では、露光時間設定部109が、車両VC1の車速及びカメラ21が撮像する条件の良否に基づいて、露光時間ETを設定する場合について説明するが、露光時間設定部109が、車両VC1の車速及びカメラ21が撮像する条件の良否の少なくとも一方に基づいて、露光時間ETを設定する形態であれば良い。
【0080】
移動体検出部110は、レーダ装置22を介して、車両VC1の周囲に存在する他の移動体(例えば、対向車両VC2)の、車両VC1との間の距離、及び、相対速度を検出する機能部である。ここで、移動体検出部110は、移動体検出手段に相当する。
【0081】
第2画像生成部111は、第1画像選定部105によって選定された所定個数N(ここでは、2個)の第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく、所定個数Nの第1画像P1を、それぞれ、消失点抽出部102によって求められた消失点VPの位置、及び、移動状態検出部106によって検出された車両VC1の動きに基づいて補正して、補正後の画像である第2画像P2を生成する機能部である。ここで、第2画像生成部111は、第2画像生成手段に相当する。また、第2画像生成部111は、生成した第2画像P2を、補正対象画像P0に対応付けて、画像記憶部103に記録する。更に、ここでは、移動状態検出部106によって検出された車両VC1の動きは、具体的には、車速、操舵角、ピッチ角、ロール角及びヨー角である。なお、第2画像生成部111の具体的な処理方法については、図5を用いて後述する。
【0082】
また、第2画像生成部111は、画像記憶部103から、所定個数N(ここでは、2個)の第1画像P1情報、所定個数Nの消失点VPの位置情報、及び、所定個数Nの車両VC1の動き情報を読み出して、所定個数Nの第1画像P1をそれぞれ補正して、所定個数Nの第2画像P2を生成する。
【0083】
このようにして、画像記憶部103から、所定個数N(ここでは、2個)の第1画像P1情報、所定個数Nの消失点VPの位置情報、及び、所定個数Nの車両VC1の動き情報を読み出されて、所定個数Nの第1画像P1をそれぞれ補正されて、所定個数Nの第2画像P2を生成されるため、簡素な処理で第2画像P2を生成することができる。
【0084】
更に、第2画像生成部111は、補正対象画像P0及び所定個数N(ここでは、2個)の第1画像P1に含まれる移動体(対向車両VC2等)に関して、所定個数Nの第1画像P1に含まれる他の移動体の位置(対向車両VC2等)を、移動体検出部110によって検出された車両VC1との間の距離、及び、相対速度に基づいて補正して、補正後の画像である第2画像P2を生成する。
【0085】
このようにして、補正対象画像P0及び所定個数Nの第1画像P1に含まれる他の移動体(対向車両VC2等)に関して、所定個数Nの第1画像P1に含まれる他の移動体(対向車両VC2等)の位置が、検出された他の移動体の車両VC1との間の距離、及び、相対速度に基づいて補正されて、補正後の画像である第2画像P2が生成されるため、補正対象画像P0に、他の移動体が含まれる場合にも、該他の移動体の鮮明な画像を生成することができる。
【0086】
画像補正実行部112は、第2画像生成部111によって生成された所定個数N(ここでは、2個)の第2画像P2を、補正対象画像P0と合成することによって、補正対象画像P0を補正して、補正後の画像P3を生成する機能部である。ここで、画像補正実行部112は、画像補正手段に相当する。また、画像補正実行部112は、画像記憶部103から、補正対象画像P0情報、及び、所定個数Nの第2画像P2情報が読み出して、補正対象画像P0を補正する。
【0087】
このようにして、画像記憶部103から、補正対象画像P0情報、及び、所定個数Nの第2画像P2情報が読み出されて、補正対象画像P0が補正されるため、簡素な処理で補正対象画像P0を補正することができる。
【0088】
情報出力部113は、画像補正実行部112によって補正対象画像P0が補正されて生成された画像P3に基づいて、運転者に対して運転操作を支援する情報である運転支援情報を出力する機能部である。ここで、情報出力部113は、情報出力手段に相当する。情報出力部113は、具体的には、運転支援情報として、ディスプレイ31及びスピーカ32を介して、運転者から視認可能に画像、文字等を表示すると共に、ガイダンス等の音声を出力する。
【0089】
図3は、運転支援ECU1によって行われる画像処理の一例を示すブロック図である。図の横軸は時間Tである。所定時間ΔT間隔の時点T1〜T5において、第1画像生成部101によって画像が生成される。上側の図は、時点T3の画像が補正対象画像P0として選定される場合であって、下側の図は、時点T4の画像が補正対象画像P0として選定される場合である。
【0090】
図3の上側の図に示すように、時点T3の画像が補正対象画像P0として選定される場合には、第1画像選定部105によって、時点T1及び時点T2で生成された画像が第1画像P1として選定される。そして、第2画像生成部111によって、時点T1及び時点T2で生成された2個の第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく補正されて2個の第2画像P2が生成される。また、画像補正実行部112によって、2個の第2画像P2が、補正対象画像P0と合成されて補正され、補正後の画像(ここでは、「補正画像」と表記する)P3が生成される。このようにして、時点T3で生成された補正対象画像P0が補正されて、補正画像P3が生成される。
【0091】
同様にして、図3の下側の図に示すように、時点T4の画像が補正対象画像P0として選定される場合には、第1画像選定部105によって、時点T2及び時点T3で生成された画像が第1画像P1として選定される。そして、第2画像生成部111によって、時点T2及び時点T3で生成された2個の第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0に含まれる静止物の位置と一致させるべく補正されて2個の第2画像P2が生成される。また、画像補正実行部112によって、2個の第2画像P2が、補正対象画像P0と合成されて補正され、補正後の画像(ここでは、「補正画像」と表記する)P3が生成される。このようにして、時点T4で生成された補正対象画像P0が補正されて、補正画像P3が生成される。
【0092】
図3に示すように、各時点で生成された画像は、補正対象選定部104によって、順次、補正対象画像P0として選定され、画像補正実行部112によって、補正されて補正画像P3が生成されるのである。そこで、第1画像生成部101によって画像が生成される度に、生成された画像が補正されるため、補正画像P3を、生成された時点から短期間で生成することができる。
【0093】
図4は、運転支援ECU1によって車両VC1の前方の画像が生成される状況の一例を示す平面図である。図4に示すように、車両VC1は、車両区画線WL、WRで区画され、センターラインCLが敷設された車線を上側に向けて走行している。ここで、車両VC1の前面部には、カメラ21が配設されており、カメラ21は、予め設定された所定の視野角の範囲DA内を撮像している。
【0094】
車両VC1の前方左側には、車両区画線WLに沿って、道路標識SP、信号機SGが敷設されており、車両VC1の前方の道路上には、マークRMが描かれている。更に、対向車線には、対向車両VC2が、下側に向けて走行している。また、図4には、図3に示す時点T1、T2、T3における車両VC1の位置を表記している。
【0095】
図5は、図4に示す状況において、カメラ21を介して生成された車両VC1の前方の画像(=第1画像P1)の一例を示す画面図410、及び、対応する消失点VPの一例を示す説明図410Aである。なお、以下の説明においては、図3の上側の図に示す場合について、第2画像生成部111によって行われる処理を説明する。すなわち、時点T1及び時点T2で生成された第1画像P1を用いて、時点T3で生成された補正対象画像P0を補正する場合について、第2画像生成部111によって、第1画像P1から第2画像P2を生成する方法を具体的に説明する。
【0096】
画面図410は、図3、図4に示す時点T1において生成された画像に対応するものであって、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像411、412、センターライン画像413、マーク画像414、信号機画像415、道路標識画像416、及び、対向車両画像417が表示されている。
【0097】
説明図410Aには、画面図410における消失点VPの位置が黒丸●で表示されている。また、説明図410Aには、消失点VPを中心として放射状にベクトルPVが表記されている。このベクトルPVは、第2画像P2を生成するために、画面図410に示す第1画像P1の各画素を移動する方向及び移動量を示すベクトルである。
【0098】
すなわち、画面図410に示す画像を構成し、ベクトルPVの起点に位置する各画素は、第2画像生成部111によって、ベクトルPVの先端の位置に移動されるのである。このベクトルPVは、第1画像P1に含まれる静止物の位置を、それぞれ、補正対象画像P0(ここでは、時点P3において生成された画像:図6に示す画面図430参照)に含まれる静止物の位置と一致させるべく、移動状態検出部106によって求められた車速、操舵角等に基づいて求められるものである。
【0099】
図6は、カメラ21を介して生成された車両VC1の前方の画像(=第1画像P1及び補正対象画像P0)の一例を示す画面図である。図6の上側に示す画面図420は、図3、図4に示す時点T2において生成された画像に対応する画面図である。画面図420には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像421、422、センターライン画像423、マーク画像424、信号機画像425、道路標識画像426、及び、対向車両画像427が表示されている。
【0100】
図4に示すように、時点T1から時点T2に時間が経過ことによって、車両VC1が図4に示すマークRM、信号機SG、道路標識SP、及び、対向車両VC2に接近する。そこで、図6の上側に示す画面図420において、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応するマーク画像424、信号機画像425、道路標識画像426、及び、対向車両画像427は、図5に示す画面図410のマーク画像414、信号機画像415、道路標識画像416、及び、対向車両画像417と比較して大きく表記されている。
【0101】
図6の下側に示す画面図430は、図3、図4に示す時点T3において生成された画像に対応する画面図である。画面図430には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像431、432、センターライン画像433、マーク画像434、信号機画像435、道路標識画像436、及び、対向車両画像437が表示されている。
【0102】
図4に示すように、時点T2から時点T3に時間が経過ことによって、車両VC1が図4に示すマークRM、信号機SG、道路標識SP、及び、対向車両VC2に更に接近する。そこで、図6の下側に示す画面図430において、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応するマーク画像434、信号機画像435、道路標識画像436、及び、対向車両画像437は、図6の上側に示す画面図420のマーク画像424、信号機画像425、道路標識画像426、及び、対向車両画像427と比較して更に大きく表記されている。
【0103】
図7は、カメラ21を介して生成された第1画像P1と、対応する第2画像P2の一例を示す画面図である。時点T1で生成された第1画像P1は、図5の上側に示す画面図410に対応している。ここでは、便宜上、図5の上側に示す画面図410を図7の上側に再掲する。図7の下側の図は、第2画像生成部111によって、時点T1で生成された第1画像P1に対して、図5の下側に示す消失点VP及びベクトルPVに基づいて、補正が施されて、生成された第2画像P2を示す画面図440である。なお、ここでは、便宜上、第2画像生成部111が、他の移動体に相当する車両VC2の移動に伴う位置及び大きさの補正は行っていない。
【0104】
画面図440には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像441、442、センターライン画像443、マーク画像444、信号機画像445、道路標識画像446、及び、対向車両画像447が表示されている。
【0105】
画面図440に示すように、図4に示す静止物である車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SPにそれぞれ対応する車両区画線画像441、442、センターライン画像443、マーク画像444、信号機画像445、及び、道路標識画像446は、図6の下側に示す時点T3の画像(=補正対象画像P0)に対応する画面図430の車両区画線画像421、432、センターライン画像433、マーク画像434、信号機画像435、及び、道路標識画像436と一致する位置、大きさで表示されている。すなわち、画面図410に示す時点T1で生成された第1画像P1に含まれる静止物の位置が、それぞれ、図6の画面図430に示す時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致させるべく補正されている。
【0106】
図8は、カメラ21を介して生成された第1画像P1と、対応する第2画像P2の他の一例を示す画面図である。時点T2で生成された第1画像P1は、図6の上側に示す画面図420に対応している。ここでは、便宜上、図6の上側に示す画面図420を図8の上側に再掲する。図8の下側の図は、第2画像生成部111によって、時点T2で生成された第1画像P1に対して、図5の下側に示すものと同様に、消失点VP及びベクトルPVに基づいて補正が施されて、生成された第2画像P2を示す画面図450である。なお、ここでは、便宜上、第2画像生成部111が、他の移動体に相当する車両VC2の移動に伴う位置及び大きさの補正は行っていない。
【0107】
画面図450には、図4に示す車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SP、及び、対向車両VC2にそれぞれ対応する車両区画線画像451、452、センターライン画像453、マーク画像454、信号機画像455、道路標識画像456、及び、対向車両画像457が表示されている。
【0108】
画面図450に示すように、図4に示す静止物である車両区画線WL、車両区画線WR、センターラインCL、マークRM、信号機SG、道路標識SPにそれぞれ対応する車両区画線画像451、452、センターライン画像453、マーク画像454、信号機画像455、及び、道路標識画像456は、図6の下側に示す時点T3の画像(=補正対象画像P0)に対応する画面図430の車両区画線画像421、432、センターライン画像433、マーク画像434、信号機画像435、及び、道路標識画像436と一致する位置、大きさで表示されている。すなわち、画面図420に示す時点T2で生成された第1画像P1に含まれる静止物の位置が、それぞれ、図6の画面図430に示す時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致させるべく補正されている。
【0109】
図9は、第2画像P2と補正対象画像P0との一例を示す画面図である。図9には、上から順に、時点T1で生成された第1画像P1に対応する第2画像P2を示す画面図440(図7の下側の図を再掲)、時点T2で生成された第1画像P1に対応する第2画像P2を示す画面図450(図8の下側の図を再掲)、及び、時点T3で生成された補正対象画像P0を示す画面図430(図6の下側の図を再掲)である。図9に示すように、時点T1及び時点T2でそれぞれ生成された第1画像P1に対応する第2画像P2に含まれる静止物の位置、大きさが、時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致している。
【0110】
このように、時点T1及び時点T2でそれぞれ生成された第2画像P2に含まれる静止物の位置、大きさが、時点T3で生成された補正対象画像P0に含まれる静止物の位置と一致しているため、第2画像P2と補正対象画像P0とを合成することによって、静止物の画像のS/N比を向上することができるのである。
【0111】
図10、図11は、運転支援ECU1の動作の一例を示すフローチャートである。なお、ここでは、便宜上、第2画像生成部111が、他の移動体(ここでは、車両VC2)の移動に伴う位置及び大きさの補正は行わない場合について説明する。まず、図10に示すように、第1画像生成部101によって、車両VC1の前方の画像情報が生成され、生成された画像情報が画像記憶部103に記録される(S101)。そして、消失点抽出部102によって、ステップS101において生成された画像毎に、消失点VPの位置が求められる(S103)。次いで、消失点抽出部102によって、ステップS103において求められた消失点VPの位置情報が、ステップS101において生成された画像情報と対応付けて画像記憶部103に記録される(S105)。
【0112】
次に、移動状態検出部106によって、車両VC1の車速、操舵角が検出され、検出された車速情報、操舵角情報等がステップS101において生成された画像情報と対応付けて画像記憶部103に記録される(S107)。そして、移動状態検出部106によって、車両VC1のピッチ角、ロール角、ヨー角が検出され、検出されたピッチ角情報、ロール角情報、ヨー角情報等がステップS101において生成された画像情報と対応付けて画像記憶部103に記録される(S109)。
【0113】
次いで、撮影条件判定部107によって、カメラ21が撮像する条件の良否の程度が判定される(S111)。次に、個数設定部108によって、ステップS111において判定された撮像条件の良否の程度に基づいて、補正対象画像P0の補正に用いる画像情報の個数である所定個数Nが設定される(S113)。そして、露光時間設定部109によって、ステップS107において検出された車速、及び、ステップS111において判定された撮像条件の良否の程度に基づいて、露光時間ETが設定される(S115)。
【0114】
そして、図11に示すように、補正対象選定部104によって、図10に示すステップS101において生成された画像の中から、1個の補正対象画像P0が選定され、選定された補正対象画像P0情報が画像記憶部103から読み出される(S117)。次いで、第1画像選定部105によって、図10に示すステップS101において生成された画像の中から、所定個数N(ここでは、2個)の第1画像P1が選定される(S119)。次に、第2画像生成部111によって、ステップS119において選定された第1画像P1情報、及び、ステップS117において選定された補正対象画像P0に対応する消失点VPの位置情報(ここでは、消失点情報と略記している)が画像記憶部103から読み出される(S121)。
【0115】
そして、第2画像生成部111によって、ステップS117において選定された補正対象画像P0に対応する車速情報、操舵角情報が、画像記憶部103から読み出される(S123)。次いで、第2画像生成部111によって、ステップS117において選定された補正対象画像P0に対応するピッチ角情報、ロール角情報、ヨー角情報が、画像記憶部103から読み出される(S125)。次に、第2画像生成部111によって、ステップS121において読み出された第1画像P1が、ステップS121において読み出された消失点VPの位置情報、ステップS123において読み出された車速情報、操舵角情報、及び、ステップS125において読み出されたピッチ角情報、ロール角情報、ヨー角情報に基づいて補正されて、第2画像P2が生成される(S127)。
【0116】
そして、画像補正実行部112によって、ステップS127において生成された所定個数N(ここでは、2個)の第2画像P2が、ステップS117において読み出された補正対象画像P0と合成されて、補正画像P3が生成される(S129)。次いで、情報出力部113によって、ステップS129において生成された補正画像P3に基づいて、運転支援情報が生成される(S131)。次に、情報出力部113によって、ステップS131において生成された運転支援情報が出力され(S133)、処理が終了される。
【0117】
このようにして、画像を生成する際に、撮像倍率等を変更することがないため、視野角を確保することができるのである。また、補正対象画像P0に含まれる静止物の位置と一致させるべく、補正対象画像P0が生成される直前に生成された所定個数Nの第1画像P1が、それぞれ、求められた消失点VPの位置、及び、検出された車両VC1の動きに基づいて補正されて、補正後の画像である第2画像P2が生成される。そして、生成された所定個数Nの第2画像P2が、補正対象画像P0と合成されることによって、該補正対象画像P0が補正されるため、補正対象画像P0に含まれる静止物のS/N比を向上することができるので、鮮明な画像を生成することができる。
【0118】
なお、本発明に係る画像処理装置、運転支援装置は、上記実施形態に限定されず、下記の形態でも良い。
(A)本実施形態においては、運転支援ECU1が、機能的に、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、情報出力部113等を備える場合について説明したが、第1画像生成部101、消失点抽出部102、画像記憶部103、補正対象選定部104、第1画像選定部105、移動状態検出部106、撮影条件判定部107、個数設定部108、露光時間設定部109、移動体検出部110、第2画像生成部111、画像補正実行部112、及び、情報出力部113の内、少なくとも1つの機能部が電気回路等のハードウェアによって実現されている形態でも良い。
【0119】
(B)本実施形態においては、露光時間設定部109が、車両VCの車速及び撮影条件の良否の程度に基づいて、露光時間ETを設定する場合について説明したが、露光時間ETが予め設定された閾値以下の露光時間EVに設定されている形態でも良い。この場合には、処理が簡略化される。また、露光時間EVが長いと、画像のブレが大きくなる。これに対して、露光時間EVが短いと、撮像されて生成された各画像は、充分なコントラストが得られない場合があるが、補正対象画像P0情報に、所定個数N(ここでは、2個)の第2画像P2情報が合成されて補正されるので、充分なコントラストを得ることができる。
【産業上の利用可能性】
【0120】
本発明は、例えば、車両等の移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置に適用することができる。また、本発明は、例えば、車両に搭載され、運転者に対して運転支援情報を出力する運転支援装置に適用することができる。
【符号の説明】
【0121】
1 運転支援ECU(画像処理装置、運転支援装置)
101 第1画像生成部(第1画像生成手段)
102 消失点抽出部(消失点抽出手段)
103 画像記憶部(画像記憶手段)
104 補正対象選定部(補正対象選定手段)
105 第1画像選定部(第1画像選定手段)
106 移動状態検出部(移動状態検出手段)
107 撮影条件判定部(撮影条件判定手段)
108 個数設定部(個数設定手段)
109 露光時間設定部(露光時間設定手段)
110 移動体検出部(移動体検出手段)
111 第2画像生成部(第2画像生成手段)
112 画像補正実行部(画像補正手段)
113 情報出力部(情報出力手段)
2 入力機器
21 カメラ
22 レーダ装置
23 車速センサ
24 操舵角センサ
25 ピッチ角センサ
26 ロール角センサ
27 ヨー角センサ
3 出力機器
31 ディスプレイ
32 スピーカ
【特許請求の範囲】
【請求項1】
移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置であって、
前記カメラを介して、予め設定された所定時間毎に、該移動体の周辺の画像情報を生成する第1画像生成手段と、
前記第1画像生成手段によって生成された画像毎に、該画像の消失点の位置を求める消失点抽出手段と、
前記第1画像生成手段によって画像情報が生成される時点における該移動体の移動速度を含む移動体の動きを検出する移動状態検出手段と、
前記第1画像生成手段によって生成された画像の中から、補正する対象の1つの画像である補正対象画像を選定する補正対象選定手段と、
前記補正対象選定手段によって選定された補正対象画像が前記第1画像生成手段によって生成される直前に、前記第1画像生成手段によって生成された1つ以上の予め設定された所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定する第1画像選定手段と、
前記第1画像選定手段によって選定された前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と一致させるべく、前記所定個数の第1画像を、それぞれ、前記消失点抽出手段によって求められた消失点の位置、及び、前記移動状態検出手段によって検出された前記移動体の動きに基づいて補正して、補正後の画像である第2画像を生成する第2画像生成手段と、
前記第2画像生成手段によって生成された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する画像補正手段と、を備える、画像処理装置。
【請求項2】
前記第1画像生成手段によって生成された画像情報を格納する画像記憶手段を備え、
前記第1画像生成手段は、生成された画像情報を画像記憶手段に記録し、
前記消失点抽出手段は、求められた消失点の位置情報を、前記画像情報に対応付けて、前記画像記憶手段に記録し、
前記移動状態検出手段は、検出された移動体の動き情報を前記画像情報に対応付けて、前記画像記憶手段に記録し、
前記第2画像生成手段は、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報を読み出して、前記所定個数の第1画像をそれぞれ補正し、補正によって生成された前記所定個数の第2画像情報を、前記補正対象選定手段によって選定された補正対象画像情報に対応付けて、前記画像記憶手段に記録し、
前記画像補正手段は、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報を読み出して、該補正対象画像を補正する、請求項1に記載の画像処理装置。
【請求項3】
前記第1画像生成手段は、予め設定された閾値以下の露光時間で撮像された画像情報を生成する、請求項1に記載の画像処理装置。
【請求項4】
前記移動状態検出手段によって検出された該移動体の移動速度に基づいて、前記露光時間を設定する露光時間設定手段を備え、
前記第1画像生成手段は、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する、請求項3に記載の画像処理装置。
【請求項5】
前記露光時間設定手段は、前記移動状態検出手段によって検出された該移動体の移動速度が速い程、前記露光時間を短く設定する、請求項4に記載の画像処理装置。
【請求項6】
前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、
前記撮像条件判定手段によって判定された良否の程度に基づいて、前記露光時間を設定する露光時間設定手段と、を備え、
前記第1画像生成手段は、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する、請求項3に記載の画像処理装置。
【請求項7】
前記露光時間設定手段は、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記露光時間を長く設定する、請求項6に記載の画像処理装置。
【請求項8】
前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、
前記撮像条件判定手段によって判定された良否の程度に基づいて、前記所定個数を設定する個数設定手段と、を備え、
前記第1画像選定手段は、前記個数設定手段によって設定された前記所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定し、
前記第2画像生成手段は、前記個数設定手段によって設定された前記所定個数の第1画像を補正して、補正後の画像である第2画像を生成し、
前記画像補正手段は、前記個数設定手段によって設定された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する、請求項1に記載の画像処理装置。
【請求項9】
前記個数設定手段は、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記所定個数を大きく設定する、請求項8に記載の画像処理装置。
【請求項10】
該移動体の周囲に存在する他の移動体の、該移動体との間の距離、及び、相対速度を検出する移動体検出手段を備え、
前記第2画像生成手段は、前記補正対象画像及び前記所定個数の第1画像に含まれる他の移動体に関して、前記所定個数の第1画像に含まれる他の移動体の位置を、前記移動体検出手段によって検出された該移動体との間の距離、及び、相対速度に基づいて補正して、補正後の画像である第2画像を生成する、請求項1に記載の画像処理装置。
【請求項11】
前記移動体は、車両である、請求項1に記載の画像処理装置。
【請求項12】
前記移動状態検出手段は、更に、該車両のピッチ角、ロール角、及び、ヨー角の少なくとも1つを検出する、請求項11に記載の画像処理装置。
【請求項13】
車両に搭載され、運転者に対して運転操作を支援する情報である運転支援情報を出力する運転支援装置であって、
請求項11に記載の画像処理装置と、
前記画像処理装置によって補正された補正対象画像に基づいて、前記運転支援情報を出力する情報出力手段と、を備える、運転支援装置。
【請求項1】
移動体に搭載されたカメラを介して生成された該移動体の周辺の画像を補正する画像処理装置であって、
前記カメラを介して、予め設定された所定時間毎に、該移動体の周辺の画像情報を生成する第1画像生成手段と、
前記第1画像生成手段によって生成された画像毎に、該画像の消失点の位置を求める消失点抽出手段と、
前記第1画像生成手段によって画像情報が生成される時点における該移動体の移動速度を含む移動体の動きを検出する移動状態検出手段と、
前記第1画像生成手段によって生成された画像の中から、補正する対象の1つの画像である補正対象画像を選定する補正対象選定手段と、
前記補正対象選定手段によって選定された補正対象画像が前記第1画像生成手段によって生成される直前に、前記第1画像生成手段によって生成された1つ以上の予め設定された所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定する第1画像選定手段と、
前記第1画像選定手段によって選定された前記所定個数の第1画像に含まれる静止物の位置を、それぞれ、前記補正対象画像に含まれる静止物の位置と一致させるべく、前記所定個数の第1画像を、それぞれ、前記消失点抽出手段によって求められた消失点の位置、及び、前記移動状態検出手段によって検出された前記移動体の動きに基づいて補正して、補正後の画像である第2画像を生成する第2画像生成手段と、
前記第2画像生成手段によって生成された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する画像補正手段と、を備える、画像処理装置。
【請求項2】
前記第1画像生成手段によって生成された画像情報を格納する画像記憶手段を備え、
前記第1画像生成手段は、生成された画像情報を画像記憶手段に記録し、
前記消失点抽出手段は、求められた消失点の位置情報を、前記画像情報に対応付けて、前記画像記憶手段に記録し、
前記移動状態検出手段は、検出された移動体の動き情報を前記画像情報に対応付けて、前記画像記憶手段に記録し、
前記第2画像生成手段は、前記画像記憶手段から、前記所定個数の第1画像情報、前記所定個数の前記消失点の位置情報、及び、前記所定個数の前記移動体の動き情報を読み出して、前記所定個数の第1画像をそれぞれ補正し、補正によって生成された前記所定個数の第2画像情報を、前記補正対象選定手段によって選定された補正対象画像情報に対応付けて、前記画像記憶手段に記録し、
前記画像補正手段は、前記画像記憶手段から、前記補正対象画像情報、及び、前記所定個数の第2画像情報を読み出して、該補正対象画像を補正する、請求項1に記載の画像処理装置。
【請求項3】
前記第1画像生成手段は、予め設定された閾値以下の露光時間で撮像された画像情報を生成する、請求項1に記載の画像処理装置。
【請求項4】
前記移動状態検出手段によって検出された該移動体の移動速度に基づいて、前記露光時間を設定する露光時間設定手段を備え、
前記第1画像生成手段は、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する、請求項3に記載の画像処理装置。
【請求項5】
前記露光時間設定手段は、前記移動状態検出手段によって検出された該移動体の移動速度が速い程、前記露光時間を短く設定する、請求項4に記載の画像処理装置。
【請求項6】
前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、
前記撮像条件判定手段によって判定された良否の程度に基づいて、前記露光時間を設定する露光時間設定手段と、を備え、
前記第1画像生成手段は、前記露光時間設定手段によって設定された露光時間で撮像された画像情報を生成する、請求項3に記載の画像処理装置。
【請求項7】
前記露光時間設定手段は、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記露光時間を長く設定する、請求項6に記載の画像処理装置。
【請求項8】
前記カメラが撮像する条件の良否の程度を判定する撮像条件判定手段と、
前記撮像条件判定手段によって判定された良否の程度に基づいて、前記所定個数を設定する個数設定手段と、を備え、
前記第1画像選定手段は、前記個数設定手段によって設定された前記所定個数の画像を、前記補正対象画像の補正に用いる画像情報である第1画像として選定し、
前記第2画像生成手段は、前記個数設定手段によって設定された前記所定個数の第1画像を補正して、補正後の画像である第2画像を生成し、
前記画像補正手段は、前記個数設定手段によって設定された前記所定個数の第2画像を、前記補正対象画像と合成することによって、該補正対象画像を補正する、請求項1に記載の画像処理装置。
【請求項9】
前記個数設定手段は、前記撮像条件判定手段によって前記カメラが撮像する条件が悪いと判定される程、前記所定個数を大きく設定する、請求項8に記載の画像処理装置。
【請求項10】
該移動体の周囲に存在する他の移動体の、該移動体との間の距離、及び、相対速度を検出する移動体検出手段を備え、
前記第2画像生成手段は、前記補正対象画像及び前記所定個数の第1画像に含まれる他の移動体に関して、前記所定個数の第1画像に含まれる他の移動体の位置を、前記移動体検出手段によって検出された該移動体との間の距離、及び、相対速度に基づいて補正して、補正後の画像である第2画像を生成する、請求項1に記載の画像処理装置。
【請求項11】
前記移動体は、車両である、請求項1に記載の画像処理装置。
【請求項12】
前記移動状態検出手段は、更に、該車両のピッチ角、ロール角、及び、ヨー角の少なくとも1つを検出する、請求項11に記載の画像処理装置。
【請求項13】
車両に搭載され、運転者に対して運転操作を支援する情報である運転支援情報を出力する運転支援装置であって、
請求項11に記載の画像処理装置と、
前記画像処理装置によって補正された補正対象画像に基づいて、前記運転支援情報を出力する情報出力手段と、を備える、運転支援装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−23962(P2011−23962A)
【公開日】平成23年2月3日(2011.2.3)
【国際特許分類】
【出願番号】特願2009−167021(P2009−167021)
【出願日】平成21年7月15日(2009.7.15)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
【公開日】平成23年2月3日(2011.2.3)
【国際特許分類】
【出願日】平成21年7月15日(2009.7.15)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】
[ Back to top ]