車両周辺視認装置
【課題】車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる車両周辺視認装置を提供する。
【解決手段】画像処理装置3が、撮像装置1の撮像によって得られる車両周辺の原画像に対してレンズ歪み補正等を施すとともに、ステアリングセンサ5の検出結果に基づいて車両又は車両周辺に設けられた基準点が車両の走行に伴って通過してゆく予測軌跡を予測し、その予測した予測軌跡を、補正処理を施した画像上に重ねて表示する。
【解決手段】画像処理装置3が、撮像装置1の撮像によって得られる車両周辺の原画像に対してレンズ歪み補正等を施すとともに、ステアリングセンサ5の検出結果に基づいて車両又は車両周辺に設けられた基準点が車両の走行に伴って通過してゆく予測軌跡を予測し、その予測した予測軌跡を、補正処理を施した画像上に重ねて表示する。
【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は、車両周辺を撮像し、その画像を歪み補正等を施して車室内の表示装置に表示する車両周辺視認装置に関する。
【0002】
【従来の技術】
この種の従来技術としては、例えば特許文献1に記載のものがある。この従来技術では、車両周辺の画像に対して、撮像カメラの撮像特性の影響により生じる画像の歪み(カメラ光学的歪み)を補正する補正処理を施すとともに、所定の視点変換を施し、その結果に基づいて車両周辺の様子を示す合成画像を作成して表示するようになっている。
【0003】
なお、本願発明に関連する発明としては、例えば特許文献2に記載のものがある。
【0004】
【特許文献1】
特開2001−339716公報(請求項1〜3、図5等)
【特許文献2】
特開2002−218451公報
【0005】
【発明が解決しようとする課題】
しかしながら、上述の従来技術では、車両周辺の様子を示す合成画像を合成して表示するのみであるため、合成画像に基づいて自車とその周辺の各地点との位置関係、距離感や、走行に伴う自車位置の推移等が認識しにくい。
【0006】
また、上述の従来技術では、画像に基づいて合成した合成画像が表示されるため、車両周辺の状況が合成画像に十分に反映されず、表示画像に基づく車両周辺の視認性が低下する場合がある。
【0007】
そこで、本発明は、車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる車両周辺視認装置を提供することを目的とする。
【0008】
【課題を解決するための手段】
前記目的を達成するための技術的手段は、車両周辺を撮像し、その画像を車室内において表示する車両周辺視認装置において、車両前端側における左側又は右側のコーナ部の周辺を含む撮像領域を撮像する撮像カメラと、車室内に設けられた表示部と、車両のステアリングの舵角を検出するステアリングセンサと、前記撮像カメラの撮像によって得られた画像に対し、前記撮像カメラの撮像特性の影響により生じる歪みを補正する歪み補正処理を施してその画像を前記表示部に表示させるとともに、車両又は車両周辺に設けられた所定の基準点が車両の走行に伴って通過してゆく予測軌跡を前記ステアリングセンサの検出結果に基づいて予測し、その予測軌跡を前記画像上の対応する位置に重ねた状態で前記表示部に表示させる処理部と、を備えている。
【0009】
また、好ましくは、前記処理部は、さらに、前記歪み補正処理が施された前記画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理を施し、その第1の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0010】
さらに、好ましくは、前記処理部は、さらに、前記歪み補正処理及び前記第1の視点変換処理が施された前記画像に対し、その画像上における車両の直進方向が画像の縦方向と平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理を施し、その回転変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0011】
また、好ましくは、前記処理部は、さらに、前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理が施された前記画像に対し、前記撮像領域をあたかも車窓から顔を出して視認したような画像に変換するための第2の視点変換処理を施し、その第2の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0012】
さらに、好ましくは、前記処理部は、車両の左端部又は右端部に対応する地面上の地点に対応して設けられた第1の基準点、及び前記左端部又は右端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点のうちの少なくともいずれか一方に対応する前記予測軌跡を前記画像に重ねて前記表示部に表示させるのがよい。
【0013】
また、好ましくは、前記画像に施す処理のモードを切り替えるための第1の操作入力を受け付ける第1の入力受付部をさらに備え、前記処理部は、さらに、前記撮像カメラの撮像によって得られた前記画像に施す処理のモードを、前記第1の入力受付部が受け付けた第1の操作入力に応じて以下の第1ないし第4の処理モードのいずれかに切り替え、そのいずれかの処理モードに対応する処理を前記画像に施し、前記表示装置に表示させ、前記第1の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対し、前記歪み補正処理を施し、前記第2の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理をさらに施し、前記第3の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理及び前記第1の視点変換処理を施し、その画像に対し、その画像上における車両の直進方向と画像の縦方向とが平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理をさらに施し、前記第4の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理を施し、その画像に対し、前記撮像領域をあたかも車窓から頭を出して視認したような画像に変換するための第2の視点変換処理をさらに施すのがよい。
【0014】
さらに、好ましくは、前記画像に重ねて表示する前記予測軌跡の表示の有無をオン、オフ切り替えするための第2の操作入力を受け付ける第2の入力受付部をさらに備え、前記処理部は、さらに、前記画像に重ねて表示する前記予測軌跡の表示の有無を、前記第2の入力受付部が受け付けた前記第2の操作入力に応じてオン、オフ切り替えするのがよい。
【0015】
また、好ましくは、前記撮像領域内における自車から第1の基準距離の範囲内に自車と接触の可能性のある障害物があるか否かを検出する障害物センサをさらに備え、前記処理部は、さらに、前記表示部が前記撮像カメラの撮像によって得られた前記画像の表示を行っていない状態において、前記障害物センサが前記障害物の存在を検出した場合には、それに応じて前記画像を前記表示部に表示させるのがよい。
【0016】
さらに、好ましくは、前記撮像領域内における自車と接触の可能性のある障害物と自車との距離を検出する距離センサをさらに備え、前記処理部は、さらに、前記距離センサが検出した前記距離が第2の基準距離を上回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかも前記撮像カメラの視点以外の視点から見たような画像に変換するための視点変換処理をさらに施し、その上に前記予測軌跡を重ねて前記表示部に表示させる一方、前記距離センサが検出した前記距離が前記第2の基準距離を下回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、前記視点変換処理を施すことなく、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0017】
【発明の実施の形態】
<第1実施形態>
図1は、本発明の第1実施形態に係る車両周辺視認装置のブロック図である。この車両周辺視認装置は、図1に示すように、撮像装置(撮像カメラ)1と、画像処理装置(処理部)3と、ステアリングセンサ5と、表示装置(表示部)7と、入力装置(第1及び第2の入力受付部)9とを備えている。
【0018】
撮像装置1は、図2に示すように、車両前端部における左側のコーナ部11等に設置され、そのコーナ部11の周辺を含む車両周辺の撮像領域Aを撮像する。なお、本実施形態では、撮像装置1を車両の左側のコーナ部11等に設置し、そのコーナ部11の周辺を撮像するようにしたが、撮像装置1を車両前端側における右側のコーナ部13等に設置し、そのコーナ部13の周辺を撮像するようにしてもよい。本実施形態では、撮像装置1の撮像方向は、車両の直進方向に対してはその撮像光軸が斜め左前方を向くように設定され、水平方向に対してはその撮像光軸が斜め下方を向くように設定されている。
【0019】
撮像装置1の構成としては任意の構成を採用できる。例えば、上向き方向に撮像素子及び撮像レンズ系を設置し、撮像レンズ系の上方にミラーを設け、ケースに設けた小窓を介して導入した撮像領域Aからの光をミラーで反射させて結像レンズ系を介して撮像素子に入射させて撮像を行う構成(ミラー型)を採用してもよく、あるいは、ミラーを使用せずに、撮像素子及び撮像レンズ系を撮像領域Aに向けて設置し、ケースの小窓から導入した撮像領域Aからの光を結像レンズ系を介して撮像素子に入射させて撮像を行う構成(直視型)を採用してもよい。また、撮像装置1の車両への設置場所や設置形態としてもに任意の形態を採用でき、例えば、フロントバンパやヘッドライト内に撮像装置1を埋め込んでもよい。なお、撮像装置1の車両への搭載手法は、意匠性、設置の容易性、耐久性等を検討した上で最適な手法を採用する必要がある。
【0020】
ステアリングセンサ5は、車両のステアリングの舵角を検出する。表示装置7は、車室内における運転席の周辺に設置され、撮像装置1の画像等を表示する。入力装置9は、運転者等からの操作入力を受け付ける。この入力装置9には、画像処理装置3が撮像装置1の画像に対して行う処理の内容を切り替えるための操作入力(第1の操作入力)、及び画像上に重ね合わされて表示される後述する予測軌跡R1,R2(図13参照)の表示のオン、オフ切り替えを行うための操作入力(第2の操作入力)が入力される。
【0021】
画像処理装置3は、撮像装置1の画像に対して、入力装置9を介した入力された第1の操作入力に対応する処理を施し、その処理後の撮像装置を表示装置7に表示させる機能(画像処理機能)と、予測軌跡R1,R2を予測して車両周辺の画像上に重ねて表示する機能(予測軌跡表示機能)とを有している。この画像処理装置3の機能及び動作について以下に詳述する。
【0022】
まず、画像処理装置3の画像処理機能について説明する。この画像処理機能には、後述する第1ないし第4の処理モードが切替可能に備えられている。また、画像処理機能には、撮像装置1の撮像によって得られた原画像I1(図3参照)に対して第1ないし第4のいずれの処理モードによる処理を施して表示装置7に表示させるかを、入力装置9を介した操作入力に応じて切り替える機能、及び、原画像I1を第1ないし第4の処理モードによる処理を施して表示するか、それとも施さずに表示するかを、入力装置9を介した操作入力に応じて切り替える機能が含まれる。
【0023】
第1の処理モードによる処理から順に説明する。図3は、撮像装置1の撮像によって得られた原画像を示す図である。この図3に示す原画像I1は、図2に示す撮像領域Aを撮像して得られたものである。すなわち、図3の原画像I1上における符号B1,B2,B3で示す部分は、図2内の道路C1、植木C2、歩道C3にそれぞれ対応している。また、原画像I1上における符号B4で示す部分は、車体の一部が映り込んだものである。
【0024】
このような原画像I1は、撮像装置1を用いた撮像によって生じるカメラ光学的歪みにより歪みが生じている。図3上における矢印D1〜D4は、原画像I1上の各点E1〜E4に対応する景色が車両の直進に伴って移動する軌跡を示しており、この矢印D1〜D4に示す軌跡の様子からも、原画像I1に歪みが生じていることが分かる。
【0025】
そこで、本実施形態では第1の処理モードによる処理として、原画像I1に対して一般に知られているレンズ歪み補正処理を施すことにより、原画像I1の歪みを補正するようになっている。具体的には、図4に示すように、原画像I1上にxy座標系を設定し、そのxy座標系の各点に対応する画像データ(画素データ等)の位置(座標)を所定の関係式に従って補正することにより歪み補正が行われる。
【0026】
図4に示される補正前の原画像I1上の点P1の座標(x1,y1)と、図5に示される補正後の画像I2上の点P2の座標(x2,y2)との間には、3次多項式で近似した場合、一般に下記の関係式が成り立つ。
【0027】
【数1】
【0028】
ここで、上記式(1)のCx,Cyは原画像I1上に設定したxy座標系の原点に対するレンズ歪みの中心座標(Cx,Cy)の座標値に対応しており、kはレンズ歪み係数に対応しており、αは撮像装置1における撮像素子の縦横比に対応し、縦:横=2:1であればα=2となる。なお、図4及び図5の設定例では、レンズ歪みの中心座標(Cx,Cy)とxy座標系の原点とが一致している。
【0029】
そして、上記式(1)を補正後の座標値x2,y2について解くと下記の関係式が得られる。
【0030】
【数2】
【0031】
これより、例えば、原画像I1上の各点の画像データ(画素データ等)の位置(座標)を、その補正前の座標値x1,y1を上記式(2)に代入して得られる座標点(x2,y2)に補正することにより、レンズ歪みが補正される。なお、原画像I1の各点の座標点(x1,y1)と対応する補正後の座標点(x2,y2)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0032】
図6は、図3の原画像I1に対して歪み補正処理を施して得られる画像を示す図である。図6に示されるように、歪み補正後の画像I2はカメラ光学的歪みが補正されていることが分かる。
【0033】
次に、第2の処理モードによる処理について説明する。この第2の処理モードでは、原画像I1に対して上述の歪み補正処理を施した上に、その処理後の画像I2に対して第1の視点変換処理が行われる。この第1の視点変換処理とは、画像I2を、対応する撮像領域Aをあたかもその真上から見たような画像に変換するものである。
【0034】
第1の視点変換処理の具体的内容について、図7を参照して説明する。図7中におけるxy座標系は、レンズ歪み補正処理後の画像I2に対応したカメラ座標系に対応し、XYZ座標系は世界座標系に対応している。xy座標系とXYZ座標系との関係は、撮像装置1の撮像光軸GがXYZ座標系の原点Oを通り、かつ、撮像光軸GがYZ面と平行をなし、かつ、xy座標系の原点oとXYZ座標系の原点Oとの間の距離が撮像装置1の焦点距離Fと等しくなるように設定されている。
【0035】
また、図7中の仮想平面Pは、地面に対応しており、XYZ座標系においてXY面と平行をなし、Z=−Hを通る。このHは撮像装置1の地面からの取付高さに対応している。また、撮像光軸GとY軸とのなす角θは、撮像装置1の斜め下向きに設定された撮像光軸Gが水平面となす角(カメラ取付角)に対応している。
【0036】
そして、第1の視点変換処理は、カメラ座標系(xy座標系)の画像I2を、世界座標系(XYZ座標系)に設定した仮想平面Pに原点Oに関して対称になるように投影(写像)することにより行われる。この写像において、カメラ座標系の点P2(x2,y2)と世界座標系の点P3(x3,y3,−H)との間には、幾何学的な関係より、下記の関係式が成り立つ。
【0037】
【数3】
【0038】
上記式(3)を用いれば、座標点(x3,y3)に対応するカメラ座標系の座標点(x2,y2)が求まる。これにより、例えば、構成すべき画像上の各座標点(x3,y3)に対応する画像I2上の座標点(x2,y2)の画像データ(画素データ等)を割り当てて画像を変換することにより、画像I2を、撮像領域Aをあたかもその真上から見たような画像に変換することができる。なお、原画像I1に対してレンズ歪み補正処理及び第1の視点変換処理を施して得られる画像上における各座標点(x3,y3)と原画像I1上の各座標点(x1,y1)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正及び第1の視点変換処理を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0039】
次に、第3の処理モードによる処理について説明する。図8に示すように、撮像装置1の撮像光軸方向Jが車両の直進方向Kと平行でなく、直進方向Kと所定角度ψを成している。このため、原画像I1あるいはレンズ歪み補正処理等を施した画像を表示装置7に表示した際に、図6に示すように、表示画像上における車両の直進方向Lが画像の縦方向Mと平行になっていないため、運転者等がその表示画像中の景色と自車との位置関係を直感的に視認しにくい場合がある。
【0040】
そこで、本実施形態では、第3の処理モードの処理では、原画像I1に対して上述の歪み補正処理及び第1の視点変換処理を施した上に、その処理後の画像に対して所定の回転変換処理を行うようになっている。
【0041】
具体的には、回転変換処理は、図9に示すように、その画像上における車両の直進方向Lが画像の縦方向Mと平行な関係になるように、画像上の各点P3(x3,y3)の画像データ(画素データ等)を画像と平行な面内で角度ψだけ回転座標変換した点P4(x4,y4)に回転させることにより行われる。
【0042】
すなわち、点P3(x3,y3)から点P4(x4,y4)への座標変換(アフィン変換)は、下記の関係式で与えられる。
【0043】
【数4】
【0044】
上記式(4)による変換の逆変換は、
【0045】
【数5】
【0046】
の関係式で与えられる。この式(5)を用いれば、構成すべき画像上における各点(x4,y4)に対応する回転処理前の画像の各点(x3,y3)が求まる。これにより、例えば、構成すべき画像上の各座標点(x4,y4)に対応する回転処理前のもとの画像の座標点(x3,y3)の画像データ(画素データ等)を割り当てて画像を変換することにより、画像上における車両の直進方向Lと画像の縦方向Mとが平行な関係にある画像を得ることができる。なお、原画像I1に対してレンズ歪み補正処理、第1の視点変換処理及び回転変換処理を施して得られる画像上における各座標点(x4,y4)と原画像I1上の各座標点(x1,y1)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正、第1の視点変換処理及び回転変換処理を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0047】
次に、第4の処理モードによる処理について説明する。この第4の処理モードでは、原画像I1に対して上述の歪み補正処理、第1の視点変換処理及び回転変換処理を施した上に、その処理後の画像に対して第2の視点変換処理が行われる。この第2の視点変換処理とは、画像を、対応する撮像領域Aをあたかも助手席の窓から顔を出して見下ろすようにして視認したような画像に変換するものである。
【0048】
第2の視点変換処理の具体的内容について、図10を参照して説明する。図10中におけるXYZ座標系は世界座標系に対応している。また、xy座標系は、視認者が助手席の窓から顔を出して撮像領域Aを視認する際の視点位置を仮想的に設定し、その視点位置から撮像領域Aの撮像を行って得られる画像の座標系(仮想視点座標系)に対応している。xy座標系とXYZ座標系との関係は、上記視点位置に仮想的に設置された撮像装置1の撮像光軸NがXYZ座標系の原点Oを通り、かつ、撮像光軸NがYZ面と平行をなし、かつ、xy座標系の原点oとXYZ座標系の原点Oとの間の距離が撮像装置1の焦点距離Fと等しくなるように設定されている。
【0049】
また、図10中の仮想平面P’は、地面に対応しており、XYZ座標系においてXY面と平行をなし、Z=−H’を通る。このH’は前記視点位置の地面からの取付高さに対応している。また、撮像光軸NとY軸とのなす角φは、前記視点位置から撮像領域Aを見下ろす方向の水平面となす角に対応している。
【0050】
そして、第2の視点変換処理は、前述の歪み補正処理、第1の視点変換処理及び回転変換処理が施された仮想平面P’上の画像(もとの画像)を、仮想視点座標系(xy座標系)に原点Oに関して対称となるように投影(写像)することにより行われる。この写像において、仮想平面P’上のもとの画像上の点P4(x4,y4,−H’)と仮想視点座標系の点P5(x5,y5)との間には、幾何学的な関係より、下記の関係式が成り立つ。
【0051】
【数6】
【0052】
上記式(6)を用いれば、座標点(x5,y5)に対応する座標点(x4,y4)が求まる。これにより、例えば、構成すべき画像上の各座標点(x5,y5)に対応するもとの画像上の座標点(x4,y4)の画像データ(画素データ等)を割り当てて画像を変換することにより、助手席の窓から顔を出して撮像領域Aを見下ろしたときに視認されるような画像を得ることができる。なお、原画像I1に対してレンズ歪み補正処理、第1の視点変換処理、回転変換処理及び第2の視点変換処理を施して得られる画像上における各座標点(x5,y5)と原画像I1上の各座標点(x1,y1)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正、第1の視点変換処理、回転変換処理及び第2の視点変換処理を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0053】
図11は、図3の原画像I1に対して第4の処理モードによる歪み補正処理、第1の視点変換処理、回転変換処理及び第2の視点変換処理を施して得られる画像を示す図である。図11に示されるように、処理後の画像I3は、カメラ光学的歪みが補正され、画像I3上における車両の直進方向Lと画像の縦方向Mとが平行な関係にあり、しかも、あたかも助手席の窓から顔を出して撮像領域Aを見下ろしたときに視認されるような画像に変換されていることが分かる。ここで、図11の画像I3は、図12に示す略矩形の領域A1からハッチングを付して示す領域A2,A3を除いた領域を撮像領域Aとして撮像して得られた画像である。また、画像I3上におけるハッチングを付して示す部分B5,B6は、変換処理に伴って画像の欠けが生じた部分を示しており、所定の色(例えば、黒色)によるベタ画像が表示される。
【0054】
次に、上述の第1ないし第4の処理モードの切り替え動作等について説明する。撮像装置1の撮像によって得られた原画像I1に対して第1ないし第4のいずれの処理モードによる処理を施して表示装置7に表示させるかは、運転者等が入力装置9を介して操作入力を行うことにより切り替えられるようになっている。すなわち、例えば、第1の処理モードが選択された場合には、原画像I1に対してレンズ歪み補正処理が施され、その処理後の画像I2が表示装置7に表示され、第4の処理モードが選択された場合には、原画像I1に対してレンズ歪み補正処理、第1の視点変換処理、回転変換処理及び第2の視点変換処理が施され、その処理後の画像I3が表示装置7に表示される。
【0055】
また、原画像I1を第1ないし第4の処理モードによる処理を施して表示するか、それともその処理を施さずに表示するかについても、運転者等が入力装置9を介して操作入力を行うことにより切り替えられるようになっている。すなわち、原画像I1を処理を施して表示するモードが選択されている場合には、第1ないし第4の処理モードのうちのその時点で選択されている処理モードによる処理が原画像I1に施され、その処理後の画像が表示装置7に表示され、原画像I1をそのまま表示装置7に表示させるモードが選択されている場合には、原画像I1ががそのまま表示装置7に表示される。
【0056】
次に、画像処理装置3の予測軌跡表示機能について説明する。画像処理装置3は、車両又は車両周辺に設けられた基準点が車両の走行に伴って通過してゆく予測軌跡R1,R2(図13参照)をステアリングセンサ5の検出結果に基づいて予測し、その予測軌跡R1,R2を、表示装置7に表示する撮像領域Aの撮像画像上の対応する位置に重ねた状態で表示する。本実施形態では、前記基準点としては、車両の左端部(ここでは、車両前端側における左側のコーナ部11の端部)に対応する地面上の地点に対応して設けられた第1の基準点と、その左端部(例えば、コーナ部11の端部)から左方向に所定距離(例えば、50cm)だけ離れた地面上の地点に対応して設けられた第2の基準点とが設定されている。そして、予測軌跡R1は第1の基準点に対応しており、予測軌跡R2は第2の基準点に対応している。
【0057】
予測軌跡R1,R2の導出方法としては種々の方法が考えられる。例えば、一例として次の方法が考えられる。すなわち、予め第1及び第2の基準点に対応する撮像画像I1上の各座標点(基準座標点)をメモリに登録しておき、ステアリングセンサ5の検出信号が示すその時点のステアリングの舵角に基づいて、撮像画像I1上においてその各基準座標点が車両の進行に伴って移動する軌跡を計算する。そして、算出された予測軌跡R1,R2の描画像を作成し、撮像画像I1上の対応する位置に重ね合わせて、重畳画像を作成し、その撮像画像と予測軌跡R1,R2の描画像とに対して一緒に上述の第1ないし第4の処理モードによる処理を施して表示を行う。
【0058】
ここで、図13及び図14は原画像I1に対して第4の処理モードによる処理を施して得られた画像I3上に予測軌跡R1,R2が重ねて表示された例を示し、図13はステアリングの舵角が0のときの予測軌跡R1,R2の状態を示し、図14はステアリングが右に切られているときの予測軌跡R1,R2の状態を示している。また、図15は原画像I1に対して第1の処理モードによる処理を施して得られた画像I2上にステアリングの舵角が0のときの予測軌跡R1,R2が重ねて表示された例を示し、図16は原画像I1上にステアリングの舵角が0のときの予測軌跡R1,R2が重ねて表示された例を示している。
【0059】
また、画像処理装置3の機能には、予測軌跡R1,R2の表示のオン、オフ切り替えを行う機能が含まれている。すなわち、運転者等が入力装置9に対して所定の操作入力を行うと、それに応答して、画像処理装置3が、予測軌跡R1,R2を撮像画像上に重ねて表示するか否かのオン、オフ切り替えを行うようになっている。
【0060】
なお、図13等に示す例では、2つの予測軌跡R1,R2の両方を表示しているが、いずれか一方のみを表示するようにしてもよく、あるいは、入力装置9からの操作入力によりいずれの予測軌跡R1,R2を表示させるかを選択できるようにしてもよい。
【0061】
また、本実施形態では第1及び第2の基準点に対応する2つの予測軌跡R1,R2を表示するようにしたが、3つ以上の基準点を設け、それらに対応する3つ以上の予測軌跡を表示するようにしてもよい。また、第2の基準点についても、コーナ部11の端部から50cm以上(例えば、1m)離れた地面上の地点に設定してもよい。
【0062】
このようにして得られた表示画像を参照することによって、図17に示すように他の車両等の障害物の近傍をすり抜ける際や、図18に示すように道路の側縁部等の仮想線で示すスペースSに幅寄せして駐車する際や、図19に示すように駐車場の狭い駐車スペースに駐車する際などにおいて、車両周辺の障害物等の状況を的確に認識することができる。
【0063】
以上のように、本実施形態よれば、上述の第1ないし第4のいずれかの処理モードによる処理を原画像I1に施して得られる画像上に、車両又はその周辺に設けられた基準点の車両の走行に伴って通過してゆく予測軌跡R1,R2を重ねて表示することができるため、車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる。
【0064】
さらに、本実施形態では、車両の左端部に対応する地面上の地点に対応して設けられた第1の基準点、及び左端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点に対応する予測軌跡R1,R2を画像に重ねて表示するため、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等により容易に認識させることができる。
【0065】
また、上述の第2又は第3の処理モードによる処理では、原画像I1を、その対応する撮像領域Aをあたかも真上から見たような画像に変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0066】
さらに、上述の第3又は第4の処理モードによる処理では、原画像I1を、その画像I1上における車両の直進方向が画像の縦方向と平行な関係になるように変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0067】
また、上述の第4の処理モードによる処理では、撮像領域Aの原画像I1を、その撮像領域Aをあたかも助手席の窓から顔を出して見下ろすようにして視認したような画像I3に変換して表示するため、画像I3を直感的に分かりやすい状態で表示することができる。
【0068】
さらに、原画像I1に上述の第1ないし4の処理モードによる処理を施すか否か、及び、処理を施す場合に第1ないし第4のいずれの処理モードによる処理を施すかを運転者等が自由に選択することができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0069】
また、撮像画像に重ねて表示する予測軌跡R1,R2の表示の有無を運転者等が自由に切り替えることができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0070】
<第2実施形態>
図20は、本発明の第2実施形態に係る車両周辺視認装置のブロック図である。本実施形態に係る車両周辺視認装置が前述の第1実施形態に係る車両周辺視認装置と実質的に異なる点は、図20に示すようにクリアランスセンサ21を追加した点、及びそのクリアランスセンサ21の追加に伴って動作内容が一部変更された点のみであり、互いに対応する部分には同一の参照符号を付して説明を省略する。
【0071】
本実施形態において追加されたクリアランスセンサ21は、本発明に係る障害物センサに相当するものであり、超音波センサ等により構成され、撮像装置1に対応して車両のコーナ部11等に設けられ、撮像装置1の自車と接触の可能性のある障害物の有無、及び撮像領域A内に存在する障害物と自車との間の距離を検出する。より詳細には、クリアランスセンサ21は、撮像領域A内における自車から第1の基準距離の範囲内に自車と接触する可能性のある障害物があるか否かを検出し、その検出結果を画像処理装置3に与える。
【0072】
画像処理装置3は、表示装置7が撮像装置1の撮像画像の表示を行っていない状態において(例えば、カーナビゲーションのための画像が表示されている場合など)、クリアランスセンサ21が前記障害物の存在を検出した場合には、それに応じて撮像装置1の撮像画像を表示装置7に表示させるようになっている。このときの撮像画像の表示モード(第1ないし第4の処理モードの処理を行うか否か、処理を行う場合にいずれの処理モードの処理を行うか、及び、予測軌跡R1,R2の重ね合わせ表示の有無)は、その時点で設定されているモードが採用されて、撮像画像の表示が行われる。なお、撮像装置1の撮像画像の表示装置7による表示が行われているときに、クリアランスセンサ21による前記障害物の検出が行われた際には、その撮像画像の表示が継続される。
【0073】
これによって、表示装置7によってナビゲーション画像等が表示されるなどして、撮像装置1の撮像画像の表示が行われていないときに、撮像領域A内における自車から第1の基準距離の範囲内に自車と接触の可能性がある障害物が検出された場合には、それに伴って、表示装置7の表示状態が切り替えられて、撮像装置1の撮像画像が自動的に表示されるようになっている。
【0074】
したがって、本実施形態においても、前述の第1実施形態とほぼ同様な効果が得られるとともに、表示装置7が撮像装置1の撮像画像の表示を行っていない状態においても、障害物の接近に伴って表示装置1の表示状態が自動的に切り替えられて、撮像装置1の撮像画像が表示されるため、撮像領域Aの画像の表示を適切なタイミングで自動的に行わせることができる。
【0075】
<第3実施形態>
本発明の第3実施形態に係る車両周辺視認装置のブロック構成は、前述の図20に示す第2実施形態に係る構成と同様であるため、図示を省略する。本実施形態に係る車両周辺視認装置が前述の第1実施形態に係る車両周辺視認装置と実質的に異なる点は、図20に示すようにクリアランスセンサ21を追加した点、及びそのクリアランスセンサ21の追加に伴って動作内容が一部変更された点のみであり、互いに対応する部分には同一の参照符号を付して説明を省略する。
【0076】
本実施形態において追加されたクリアランスセンサ21は、本発明に係る距離センサに相当するものであり、超音波センサ等により構成され、撮像装置1に対応して車両のコーナ部11等に設けられ、撮像領域A内に存在するにおける自車と接触の可能性のある障害物と自車との距離を検出し、その検出結果を画像処理装置3に与える。
【0077】
画像処理装置3は、クリアランスセンサ21が検出した前記障害物との距離が第2の基準距離を上回っている場合には、上述の第1ないし第4の処理モードのうちのその時点で運転者等により選択されている処理モードによる処理を撮像装置1が撮像した原画像I1に対して施して、その処理後の画像を表示装置7に表示させる。
【0078】
一方、クリアランスセンサ21が検出した前記障害物との距離が前記第2の基準距離を下回っている場合には、画像処理装置3による以下の動作が行われる。この場合には、第2ないし第4の処理モードのよる処理が禁止され、第1の処理モードによる処理が選択可能な状態とされる。そして、前記障害物との距離が前記第2の基準距離を下回った時点で、運転者等により第2ないし第4の処理モードが選択されている場合には、処理モードが第2ないし第4の処理モードから第1の処理モードに強制的に切り替えられ、原画像I1に対して第1の処理モードによる処理(レンズ歪み補正処理のみ)が施されて、その処理後の画像I2が表示装置7に表示される。このように処理モードの強制的な切り替えが行われている場合には、前記障害物が前記第2の基準距離の範囲外に遠ざかるのに伴って、処理モードが第1の処理モードから運転者等によって選択されている第2ないし第4の処理モードに自動的に切り替えられる。なお、処理モードとして第1の処理モードが選択されている場合には、前記障害物との距離が前記第2の基準距離を下回っても、そのまま第1の処理モードによる処理が継続される。
【0079】
ここで、運転者等によって第1ないし第4の処理モードの処理を行わずに原画像1を表示するモードが選択されている場合には、前記障害物との距離が前記第2の基準距離を下回ったか否かにかかわらず、そのモードがそのまま保持される。また、予測軌跡R1,R2の表示の有無についての切り替えは、前記障害物との距離が前記第2の基準距離を下回ったか否かにかかわらず、運転者等の操作に基づいて行われる。
【0080】
このように原画像I1に対する処理内容を前記障害物との距離に応じて制限するのは、次のような理由による。すなわち、撮像領域A内に障害物等が存在しない場合には、実質的に平らな地面を撮像していることと等価であるため、原画像I1に対して上述の第1及び第2の視点変換処理を施しても、視点変換処理による画像の歪みの影響は小さなものとなる。しかし、撮像領域A内に障害物等が存在した場合には、障害物は高さを有しているため、視点変換処理により原画像I1中の障害物等の画像に歪みが生じてしまい、視認性が低下する。そして、その視点変換処理により生じる歪みは、障害物と自車(撮像装置1)との距離が小さくなるほど大きくなる。
【0081】
そこで、本実施形態では、障害物と自車との距離が一定の水準以下になった場合には、処理内容に視点変換処理を含む第2ないし第4の処理モードの処理が行われないように制限している。
【0082】
以上のように、本実施形態においても、前述の第1実施形態とほぼ同様な効果が得られるとともに、一定以上の高さを有する障害物が自車の至近距離に存在しているのにもかかわらず、原画像I1に対して視点変換処理を含む第2なしい第4の処理モードによる処理が行われて画像の歪みが生じ、表示画像の視認性が低下するのを防止することができる。
【0083】
【発明の効果】
請求項1に記載の発明によれば、カメラ光学的歪みを補正した車両周辺の画像上に、車両又は車両周辺に設けられた基準点が車両の走行に伴って通過してゆく予測軌跡を重ねて表示することができるため、車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる。
【0084】
請求項2に記載の発明によれば、車両周辺の画像を、その対応する撮像領域をあたかも真上から見たような画像に変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0085】
請求項3に記載の発明によれば、車両周辺の画像を、その画像上における車両の直進方向が画像の縦方向と平行な関係になるように変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0086】
請求項4に記載の発明によれば、車両周辺の撮像領域の画像を、その撮像領域をあたかも車窓から顔を出して視認したような画像に変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0087】
請求項5に記載の発明によれば、車両の左端部又は右端部に対応する地面上の地点に対応して設けられた第1の基準点、及び左端部又は右端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点のうちの少なくともいずれか一方に対応する前記予測軌跡を画像に重ねて表示するため、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等により容易に認識させることができる。
【0088】
請求項6に記載の発明によれば、車両周辺の画像に対して行う処理の内容を運転者等が自由に切り替えることができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0089】
請求項7に記載の発明によれば、画像に重ねて表示する前記予測軌跡の表示の有無を運転者等が自由に切り替えることができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0090】
請求項8に記載の発明によれば、表示部が撮像カメラの画像の表示を行っていない状態において、自車から第1の基準距離の範囲内に障害物があることが障害物センサによって検出された場合には、処理部が撮像カメラの画像を表示部に表示させるようになっているため、車両周辺の画像の表示を適切なタイミングで自動的に行わせることができる。
【0091】
請求項9に記載の発明によれば、自車と障害物との距離が第2の基準距離を下回っているか否かに応じて、車両周辺の画像に対して視点変換処理を施すか否かを切り替える構成であるため、一定以上の高さを有する障害物が自車の至近距離に存在しているのにもかかわらず、画像に対して視点変換処理が行われて画像の歪みが生じ、表示画像の視認性が低下するのを防止することができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る車両周辺視認装置のブロック図である。
【図2】撮像装置の設置位置及びその撮像領域を示す平面図である。
【図3】撮像装置によって撮像された原画像を示す図である。
【図4】撮像装置の撮像によって生じるカメラ光学的歪みの様子を示す図である。
【図5】歪み補正処理によってカメラ光学的歪みが補正された様子を示す図である。
【図6】図3の原画像に対して歪み補正処理を施して得られる画像を示す図である。
【図7】第1の視点変換処理の説明図である。
【図8】撮像装置の撮像光軸と車両の直進方向との関係を示す図である。
【図9】回転変換処理の説明図である。
【図10】第2の視点変換処理の説明図である。
【図11】図3の画像に対して第1の視点変換処理、回転変換処理及び第2の視点変換処理を施して得られる画像を示す図である。
【図12】撮像装置の撮像領域と図11の画像との関係を説明するための図である。
【図13】図11の画像に予測軌跡を重ねて表示した状態を示す図である。
【図14】図11の画像に予測軌跡を重ねて表示した状態を示す図である。
【図15】図6の画像に予測軌跡を重ねて表示した状態を示す図である。
【図16】図3の画像に予測軌跡を重ねて表示した状態を示す図である。
【図17】停車中の他の車両の側方をすり抜ける際の様子を示す図である。
【図18】道路の側縁部等に幅寄せして駐車する際の様子を示す図である。
【図19】駐車場での駐車時の様子を示す図である。
【図20】本発明の第2及び第3実施形態に係る車両周辺視認装置のブロック図である。
【符号の説明】
1 撮像装置
3 画像処理装置
5 ステアリングセンサ
7 表示装置
9 入力装置
21 クリアランスソナー
A 撮像領域
I1 原画像
I2,I3 画像
L 直進方向
M 縦方向
R1,R2 予測軌跡
【0001】
【発明の属する技術分野】
本発明は、車両周辺を撮像し、その画像を歪み補正等を施して車室内の表示装置に表示する車両周辺視認装置に関する。
【0002】
【従来の技術】
この種の従来技術としては、例えば特許文献1に記載のものがある。この従来技術では、車両周辺の画像に対して、撮像カメラの撮像特性の影響により生じる画像の歪み(カメラ光学的歪み)を補正する補正処理を施すとともに、所定の視点変換を施し、その結果に基づいて車両周辺の様子を示す合成画像を作成して表示するようになっている。
【0003】
なお、本願発明に関連する発明としては、例えば特許文献2に記載のものがある。
【0004】
【特許文献1】
特開2001−339716公報(請求項1〜3、図5等)
【特許文献2】
特開2002−218451公報
【0005】
【発明が解決しようとする課題】
しかしながら、上述の従来技術では、車両周辺の様子を示す合成画像を合成して表示するのみであるため、合成画像に基づいて自車とその周辺の各地点との位置関係、距離感や、走行に伴う自車位置の推移等が認識しにくい。
【0006】
また、上述の従来技術では、画像に基づいて合成した合成画像が表示されるため、車両周辺の状況が合成画像に十分に反映されず、表示画像に基づく車両周辺の視認性が低下する場合がある。
【0007】
そこで、本発明は、車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる車両周辺視認装置を提供することを目的とする。
【0008】
【課題を解決するための手段】
前記目的を達成するための技術的手段は、車両周辺を撮像し、その画像を車室内において表示する車両周辺視認装置において、車両前端側における左側又は右側のコーナ部の周辺を含む撮像領域を撮像する撮像カメラと、車室内に設けられた表示部と、車両のステアリングの舵角を検出するステアリングセンサと、前記撮像カメラの撮像によって得られた画像に対し、前記撮像カメラの撮像特性の影響により生じる歪みを補正する歪み補正処理を施してその画像を前記表示部に表示させるとともに、車両又は車両周辺に設けられた所定の基準点が車両の走行に伴って通過してゆく予測軌跡を前記ステアリングセンサの検出結果に基づいて予測し、その予測軌跡を前記画像上の対応する位置に重ねた状態で前記表示部に表示させる処理部と、を備えている。
【0009】
また、好ましくは、前記処理部は、さらに、前記歪み補正処理が施された前記画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理を施し、その第1の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0010】
さらに、好ましくは、前記処理部は、さらに、前記歪み補正処理及び前記第1の視点変換処理が施された前記画像に対し、その画像上における車両の直進方向が画像の縦方向と平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理を施し、その回転変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0011】
また、好ましくは、前記処理部は、さらに、前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理が施された前記画像に対し、前記撮像領域をあたかも車窓から顔を出して視認したような画像に変換するための第2の視点変換処理を施し、その第2の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0012】
さらに、好ましくは、前記処理部は、車両の左端部又は右端部に対応する地面上の地点に対応して設けられた第1の基準点、及び前記左端部又は右端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点のうちの少なくともいずれか一方に対応する前記予測軌跡を前記画像に重ねて前記表示部に表示させるのがよい。
【0013】
また、好ましくは、前記画像に施す処理のモードを切り替えるための第1の操作入力を受け付ける第1の入力受付部をさらに備え、前記処理部は、さらに、前記撮像カメラの撮像によって得られた前記画像に施す処理のモードを、前記第1の入力受付部が受け付けた第1の操作入力に応じて以下の第1ないし第4の処理モードのいずれかに切り替え、そのいずれかの処理モードに対応する処理を前記画像に施し、前記表示装置に表示させ、前記第1の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対し、前記歪み補正処理を施し、前記第2の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理をさらに施し、前記第3の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理及び前記第1の視点変換処理を施し、その画像に対し、その画像上における車両の直進方向と画像の縦方向とが平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理をさらに施し、前記第4の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理を施し、その画像に対し、前記撮像領域をあたかも車窓から頭を出して視認したような画像に変換するための第2の視点変換処理をさらに施すのがよい。
【0014】
さらに、好ましくは、前記画像に重ねて表示する前記予測軌跡の表示の有無をオン、オフ切り替えするための第2の操作入力を受け付ける第2の入力受付部をさらに備え、前記処理部は、さらに、前記画像に重ねて表示する前記予測軌跡の表示の有無を、前記第2の入力受付部が受け付けた前記第2の操作入力に応じてオン、オフ切り替えするのがよい。
【0015】
また、好ましくは、前記撮像領域内における自車から第1の基準距離の範囲内に自車と接触の可能性のある障害物があるか否かを検出する障害物センサをさらに備え、前記処理部は、さらに、前記表示部が前記撮像カメラの撮像によって得られた前記画像の表示を行っていない状態において、前記障害物センサが前記障害物の存在を検出した場合には、それに応じて前記画像を前記表示部に表示させるのがよい。
【0016】
さらに、好ましくは、前記撮像領域内における自車と接触の可能性のある障害物と自車との距離を検出する距離センサをさらに備え、前記処理部は、さらに、前記距離センサが検出した前記距離が第2の基準距離を上回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかも前記撮像カメラの視点以外の視点から見たような画像に変換するための視点変換処理をさらに施し、その上に前記予測軌跡を重ねて前記表示部に表示させる一方、前記距離センサが検出した前記距離が前記第2の基準距離を下回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、前記視点変換処理を施すことなく、その上に前記予測軌跡を重ねて前記表示部に表示させるのがよい。
【0017】
【発明の実施の形態】
<第1実施形態>
図1は、本発明の第1実施形態に係る車両周辺視認装置のブロック図である。この車両周辺視認装置は、図1に示すように、撮像装置(撮像カメラ)1と、画像処理装置(処理部)3と、ステアリングセンサ5と、表示装置(表示部)7と、入力装置(第1及び第2の入力受付部)9とを備えている。
【0018】
撮像装置1は、図2に示すように、車両前端部における左側のコーナ部11等に設置され、そのコーナ部11の周辺を含む車両周辺の撮像領域Aを撮像する。なお、本実施形態では、撮像装置1を車両の左側のコーナ部11等に設置し、そのコーナ部11の周辺を撮像するようにしたが、撮像装置1を車両前端側における右側のコーナ部13等に設置し、そのコーナ部13の周辺を撮像するようにしてもよい。本実施形態では、撮像装置1の撮像方向は、車両の直進方向に対してはその撮像光軸が斜め左前方を向くように設定され、水平方向に対してはその撮像光軸が斜め下方を向くように設定されている。
【0019】
撮像装置1の構成としては任意の構成を採用できる。例えば、上向き方向に撮像素子及び撮像レンズ系を設置し、撮像レンズ系の上方にミラーを設け、ケースに設けた小窓を介して導入した撮像領域Aからの光をミラーで反射させて結像レンズ系を介して撮像素子に入射させて撮像を行う構成(ミラー型)を採用してもよく、あるいは、ミラーを使用せずに、撮像素子及び撮像レンズ系を撮像領域Aに向けて設置し、ケースの小窓から導入した撮像領域Aからの光を結像レンズ系を介して撮像素子に入射させて撮像を行う構成(直視型)を採用してもよい。また、撮像装置1の車両への設置場所や設置形態としてもに任意の形態を採用でき、例えば、フロントバンパやヘッドライト内に撮像装置1を埋め込んでもよい。なお、撮像装置1の車両への搭載手法は、意匠性、設置の容易性、耐久性等を検討した上で最適な手法を採用する必要がある。
【0020】
ステアリングセンサ5は、車両のステアリングの舵角を検出する。表示装置7は、車室内における運転席の周辺に設置され、撮像装置1の画像等を表示する。入力装置9は、運転者等からの操作入力を受け付ける。この入力装置9には、画像処理装置3が撮像装置1の画像に対して行う処理の内容を切り替えるための操作入力(第1の操作入力)、及び画像上に重ね合わされて表示される後述する予測軌跡R1,R2(図13参照)の表示のオン、オフ切り替えを行うための操作入力(第2の操作入力)が入力される。
【0021】
画像処理装置3は、撮像装置1の画像に対して、入力装置9を介した入力された第1の操作入力に対応する処理を施し、その処理後の撮像装置を表示装置7に表示させる機能(画像処理機能)と、予測軌跡R1,R2を予測して車両周辺の画像上に重ねて表示する機能(予測軌跡表示機能)とを有している。この画像処理装置3の機能及び動作について以下に詳述する。
【0022】
まず、画像処理装置3の画像処理機能について説明する。この画像処理機能には、後述する第1ないし第4の処理モードが切替可能に備えられている。また、画像処理機能には、撮像装置1の撮像によって得られた原画像I1(図3参照)に対して第1ないし第4のいずれの処理モードによる処理を施して表示装置7に表示させるかを、入力装置9を介した操作入力に応じて切り替える機能、及び、原画像I1を第1ないし第4の処理モードによる処理を施して表示するか、それとも施さずに表示するかを、入力装置9を介した操作入力に応じて切り替える機能が含まれる。
【0023】
第1の処理モードによる処理から順に説明する。図3は、撮像装置1の撮像によって得られた原画像を示す図である。この図3に示す原画像I1は、図2に示す撮像領域Aを撮像して得られたものである。すなわち、図3の原画像I1上における符号B1,B2,B3で示す部分は、図2内の道路C1、植木C2、歩道C3にそれぞれ対応している。また、原画像I1上における符号B4で示す部分は、車体の一部が映り込んだものである。
【0024】
このような原画像I1は、撮像装置1を用いた撮像によって生じるカメラ光学的歪みにより歪みが生じている。図3上における矢印D1〜D4は、原画像I1上の各点E1〜E4に対応する景色が車両の直進に伴って移動する軌跡を示しており、この矢印D1〜D4に示す軌跡の様子からも、原画像I1に歪みが生じていることが分かる。
【0025】
そこで、本実施形態では第1の処理モードによる処理として、原画像I1に対して一般に知られているレンズ歪み補正処理を施すことにより、原画像I1の歪みを補正するようになっている。具体的には、図4に示すように、原画像I1上にxy座標系を設定し、そのxy座標系の各点に対応する画像データ(画素データ等)の位置(座標)を所定の関係式に従って補正することにより歪み補正が行われる。
【0026】
図4に示される補正前の原画像I1上の点P1の座標(x1,y1)と、図5に示される補正後の画像I2上の点P2の座標(x2,y2)との間には、3次多項式で近似した場合、一般に下記の関係式が成り立つ。
【0027】
【数1】
【0028】
ここで、上記式(1)のCx,Cyは原画像I1上に設定したxy座標系の原点に対するレンズ歪みの中心座標(Cx,Cy)の座標値に対応しており、kはレンズ歪み係数に対応しており、αは撮像装置1における撮像素子の縦横比に対応し、縦:横=2:1であればα=2となる。なお、図4及び図5の設定例では、レンズ歪みの中心座標(Cx,Cy)とxy座標系の原点とが一致している。
【0029】
そして、上記式(1)を補正後の座標値x2,y2について解くと下記の関係式が得られる。
【0030】
【数2】
【0031】
これより、例えば、原画像I1上の各点の画像データ(画素データ等)の位置(座標)を、その補正前の座標値x1,y1を上記式(2)に代入して得られる座標点(x2,y2)に補正することにより、レンズ歪みが補正される。なお、原画像I1の各点の座標点(x1,y1)と対応する補正後の座標点(x2,y2)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0032】
図6は、図3の原画像I1に対して歪み補正処理を施して得られる画像を示す図である。図6に示されるように、歪み補正後の画像I2はカメラ光学的歪みが補正されていることが分かる。
【0033】
次に、第2の処理モードによる処理について説明する。この第2の処理モードでは、原画像I1に対して上述の歪み補正処理を施した上に、その処理後の画像I2に対して第1の視点変換処理が行われる。この第1の視点変換処理とは、画像I2を、対応する撮像領域Aをあたかもその真上から見たような画像に変換するものである。
【0034】
第1の視点変換処理の具体的内容について、図7を参照して説明する。図7中におけるxy座標系は、レンズ歪み補正処理後の画像I2に対応したカメラ座標系に対応し、XYZ座標系は世界座標系に対応している。xy座標系とXYZ座標系との関係は、撮像装置1の撮像光軸GがXYZ座標系の原点Oを通り、かつ、撮像光軸GがYZ面と平行をなし、かつ、xy座標系の原点oとXYZ座標系の原点Oとの間の距離が撮像装置1の焦点距離Fと等しくなるように設定されている。
【0035】
また、図7中の仮想平面Pは、地面に対応しており、XYZ座標系においてXY面と平行をなし、Z=−Hを通る。このHは撮像装置1の地面からの取付高さに対応している。また、撮像光軸GとY軸とのなす角θは、撮像装置1の斜め下向きに設定された撮像光軸Gが水平面となす角(カメラ取付角)に対応している。
【0036】
そして、第1の視点変換処理は、カメラ座標系(xy座標系)の画像I2を、世界座標系(XYZ座標系)に設定した仮想平面Pに原点Oに関して対称になるように投影(写像)することにより行われる。この写像において、カメラ座標系の点P2(x2,y2)と世界座標系の点P3(x3,y3,−H)との間には、幾何学的な関係より、下記の関係式が成り立つ。
【0037】
【数3】
【0038】
上記式(3)を用いれば、座標点(x3,y3)に対応するカメラ座標系の座標点(x2,y2)が求まる。これにより、例えば、構成すべき画像上の各座標点(x3,y3)に対応する画像I2上の座標点(x2,y2)の画像データ(画素データ等)を割り当てて画像を変換することにより、画像I2を、撮像領域Aをあたかもその真上から見たような画像に変換することができる。なお、原画像I1に対してレンズ歪み補正処理及び第1の視点変換処理を施して得られる画像上における各座標点(x3,y3)と原画像I1上の各座標点(x1,y1)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正及び第1の視点変換処理を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0039】
次に、第3の処理モードによる処理について説明する。図8に示すように、撮像装置1の撮像光軸方向Jが車両の直進方向Kと平行でなく、直進方向Kと所定角度ψを成している。このため、原画像I1あるいはレンズ歪み補正処理等を施した画像を表示装置7に表示した際に、図6に示すように、表示画像上における車両の直進方向Lが画像の縦方向Mと平行になっていないため、運転者等がその表示画像中の景色と自車との位置関係を直感的に視認しにくい場合がある。
【0040】
そこで、本実施形態では、第3の処理モードの処理では、原画像I1に対して上述の歪み補正処理及び第1の視点変換処理を施した上に、その処理後の画像に対して所定の回転変換処理を行うようになっている。
【0041】
具体的には、回転変換処理は、図9に示すように、その画像上における車両の直進方向Lが画像の縦方向Mと平行な関係になるように、画像上の各点P3(x3,y3)の画像データ(画素データ等)を画像と平行な面内で角度ψだけ回転座標変換した点P4(x4,y4)に回転させることにより行われる。
【0042】
すなわち、点P3(x3,y3)から点P4(x4,y4)への座標変換(アフィン変換)は、下記の関係式で与えられる。
【0043】
【数4】
【0044】
上記式(4)による変換の逆変換は、
【0045】
【数5】
【0046】
の関係式で与えられる。この式(5)を用いれば、構成すべき画像上における各点(x4,y4)に対応する回転処理前の画像の各点(x3,y3)が求まる。これにより、例えば、構成すべき画像上の各座標点(x4,y4)に対応する回転処理前のもとの画像の座標点(x3,y3)の画像データ(画素データ等)を割り当てて画像を変換することにより、画像上における車両の直進方向Lと画像の縦方向Mとが平行な関係にある画像を得ることができる。なお、原画像I1に対してレンズ歪み補正処理、第1の視点変換処理及び回転変換処理を施して得られる画像上における各座標点(x4,y4)と原画像I1上の各座標点(x1,y1)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正、第1の視点変換処理及び回転変換処理を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0047】
次に、第4の処理モードによる処理について説明する。この第4の処理モードでは、原画像I1に対して上述の歪み補正処理、第1の視点変換処理及び回転変換処理を施した上に、その処理後の画像に対して第2の視点変換処理が行われる。この第2の視点変換処理とは、画像を、対応する撮像領域Aをあたかも助手席の窓から顔を出して見下ろすようにして視認したような画像に変換するものである。
【0048】
第2の視点変換処理の具体的内容について、図10を参照して説明する。図10中におけるXYZ座標系は世界座標系に対応している。また、xy座標系は、視認者が助手席の窓から顔を出して撮像領域Aを視認する際の視点位置を仮想的に設定し、その視点位置から撮像領域Aの撮像を行って得られる画像の座標系(仮想視点座標系)に対応している。xy座標系とXYZ座標系との関係は、上記視点位置に仮想的に設置された撮像装置1の撮像光軸NがXYZ座標系の原点Oを通り、かつ、撮像光軸NがYZ面と平行をなし、かつ、xy座標系の原点oとXYZ座標系の原点Oとの間の距離が撮像装置1の焦点距離Fと等しくなるように設定されている。
【0049】
また、図10中の仮想平面P’は、地面に対応しており、XYZ座標系においてXY面と平行をなし、Z=−H’を通る。このH’は前記視点位置の地面からの取付高さに対応している。また、撮像光軸NとY軸とのなす角φは、前記視点位置から撮像領域Aを見下ろす方向の水平面となす角に対応している。
【0050】
そして、第2の視点変換処理は、前述の歪み補正処理、第1の視点変換処理及び回転変換処理が施された仮想平面P’上の画像(もとの画像)を、仮想視点座標系(xy座標系)に原点Oに関して対称となるように投影(写像)することにより行われる。この写像において、仮想平面P’上のもとの画像上の点P4(x4,y4,−H’)と仮想視点座標系の点P5(x5,y5)との間には、幾何学的な関係より、下記の関係式が成り立つ。
【0051】
【数6】
【0052】
上記式(6)を用いれば、座標点(x5,y5)に対応する座標点(x4,y4)が求まる。これにより、例えば、構成すべき画像上の各座標点(x5,y5)に対応するもとの画像上の座標点(x4,y4)の画像データ(画素データ等)を割り当てて画像を変換することにより、助手席の窓から顔を出して撮像領域Aを見下ろしたときに視認されるような画像を得ることができる。なお、原画像I1に対してレンズ歪み補正処理、第1の視点変換処理、回転変換処理及び第2の視点変換処理を施して得られる画像上における各座標点(x5,y5)と原画像I1上の各座標点(x1,y1)との対応関係を示す変換テーブルを予めROMに内蔵しておき、その変換テーブルを用いて歪み補正、第1の視点変換処理、回転変換処理及び第2の視点変換処理を行うのが望ましい。これによって、座標値についての計算を逐次行う必要がなくなるという利点がある。
【0053】
図11は、図3の原画像I1に対して第4の処理モードによる歪み補正処理、第1の視点変換処理、回転変換処理及び第2の視点変換処理を施して得られる画像を示す図である。図11に示されるように、処理後の画像I3は、カメラ光学的歪みが補正され、画像I3上における車両の直進方向Lと画像の縦方向Mとが平行な関係にあり、しかも、あたかも助手席の窓から顔を出して撮像領域Aを見下ろしたときに視認されるような画像に変換されていることが分かる。ここで、図11の画像I3は、図12に示す略矩形の領域A1からハッチングを付して示す領域A2,A3を除いた領域を撮像領域Aとして撮像して得られた画像である。また、画像I3上におけるハッチングを付して示す部分B5,B6は、変換処理に伴って画像の欠けが生じた部分を示しており、所定の色(例えば、黒色)によるベタ画像が表示される。
【0054】
次に、上述の第1ないし第4の処理モードの切り替え動作等について説明する。撮像装置1の撮像によって得られた原画像I1に対して第1ないし第4のいずれの処理モードによる処理を施して表示装置7に表示させるかは、運転者等が入力装置9を介して操作入力を行うことにより切り替えられるようになっている。すなわち、例えば、第1の処理モードが選択された場合には、原画像I1に対してレンズ歪み補正処理が施され、その処理後の画像I2が表示装置7に表示され、第4の処理モードが選択された場合には、原画像I1に対してレンズ歪み補正処理、第1の視点変換処理、回転変換処理及び第2の視点変換処理が施され、その処理後の画像I3が表示装置7に表示される。
【0055】
また、原画像I1を第1ないし第4の処理モードによる処理を施して表示するか、それともその処理を施さずに表示するかについても、運転者等が入力装置9を介して操作入力を行うことにより切り替えられるようになっている。すなわち、原画像I1を処理を施して表示するモードが選択されている場合には、第1ないし第4の処理モードのうちのその時点で選択されている処理モードによる処理が原画像I1に施され、その処理後の画像が表示装置7に表示され、原画像I1をそのまま表示装置7に表示させるモードが選択されている場合には、原画像I1ががそのまま表示装置7に表示される。
【0056】
次に、画像処理装置3の予測軌跡表示機能について説明する。画像処理装置3は、車両又は車両周辺に設けられた基準点が車両の走行に伴って通過してゆく予測軌跡R1,R2(図13参照)をステアリングセンサ5の検出結果に基づいて予測し、その予測軌跡R1,R2を、表示装置7に表示する撮像領域Aの撮像画像上の対応する位置に重ねた状態で表示する。本実施形態では、前記基準点としては、車両の左端部(ここでは、車両前端側における左側のコーナ部11の端部)に対応する地面上の地点に対応して設けられた第1の基準点と、その左端部(例えば、コーナ部11の端部)から左方向に所定距離(例えば、50cm)だけ離れた地面上の地点に対応して設けられた第2の基準点とが設定されている。そして、予測軌跡R1は第1の基準点に対応しており、予測軌跡R2は第2の基準点に対応している。
【0057】
予測軌跡R1,R2の導出方法としては種々の方法が考えられる。例えば、一例として次の方法が考えられる。すなわち、予め第1及び第2の基準点に対応する撮像画像I1上の各座標点(基準座標点)をメモリに登録しておき、ステアリングセンサ5の検出信号が示すその時点のステアリングの舵角に基づいて、撮像画像I1上においてその各基準座標点が車両の進行に伴って移動する軌跡を計算する。そして、算出された予測軌跡R1,R2の描画像を作成し、撮像画像I1上の対応する位置に重ね合わせて、重畳画像を作成し、その撮像画像と予測軌跡R1,R2の描画像とに対して一緒に上述の第1ないし第4の処理モードによる処理を施して表示を行う。
【0058】
ここで、図13及び図14は原画像I1に対して第4の処理モードによる処理を施して得られた画像I3上に予測軌跡R1,R2が重ねて表示された例を示し、図13はステアリングの舵角が0のときの予測軌跡R1,R2の状態を示し、図14はステアリングが右に切られているときの予測軌跡R1,R2の状態を示している。また、図15は原画像I1に対して第1の処理モードによる処理を施して得られた画像I2上にステアリングの舵角が0のときの予測軌跡R1,R2が重ねて表示された例を示し、図16は原画像I1上にステアリングの舵角が0のときの予測軌跡R1,R2が重ねて表示された例を示している。
【0059】
また、画像処理装置3の機能には、予測軌跡R1,R2の表示のオン、オフ切り替えを行う機能が含まれている。すなわち、運転者等が入力装置9に対して所定の操作入力を行うと、それに応答して、画像処理装置3が、予測軌跡R1,R2を撮像画像上に重ねて表示するか否かのオン、オフ切り替えを行うようになっている。
【0060】
なお、図13等に示す例では、2つの予測軌跡R1,R2の両方を表示しているが、いずれか一方のみを表示するようにしてもよく、あるいは、入力装置9からの操作入力によりいずれの予測軌跡R1,R2を表示させるかを選択できるようにしてもよい。
【0061】
また、本実施形態では第1及び第2の基準点に対応する2つの予測軌跡R1,R2を表示するようにしたが、3つ以上の基準点を設け、それらに対応する3つ以上の予測軌跡を表示するようにしてもよい。また、第2の基準点についても、コーナ部11の端部から50cm以上(例えば、1m)離れた地面上の地点に設定してもよい。
【0062】
このようにして得られた表示画像を参照することによって、図17に示すように他の車両等の障害物の近傍をすり抜ける際や、図18に示すように道路の側縁部等の仮想線で示すスペースSに幅寄せして駐車する際や、図19に示すように駐車場の狭い駐車スペースに駐車する際などにおいて、車両周辺の障害物等の状況を的確に認識することができる。
【0063】
以上のように、本実施形態よれば、上述の第1ないし第4のいずれかの処理モードによる処理を原画像I1に施して得られる画像上に、車両又はその周辺に設けられた基準点の車両の走行に伴って通過してゆく予測軌跡R1,R2を重ねて表示することができるため、車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる。
【0064】
さらに、本実施形態では、車両の左端部に対応する地面上の地点に対応して設けられた第1の基準点、及び左端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点に対応する予測軌跡R1,R2を画像に重ねて表示するため、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等により容易に認識させることができる。
【0065】
また、上述の第2又は第3の処理モードによる処理では、原画像I1を、その対応する撮像領域Aをあたかも真上から見たような画像に変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0066】
さらに、上述の第3又は第4の処理モードによる処理では、原画像I1を、その画像I1上における車両の直進方向が画像の縦方向と平行な関係になるように変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0067】
また、上述の第4の処理モードによる処理では、撮像領域Aの原画像I1を、その撮像領域Aをあたかも助手席の窓から顔を出して見下ろすようにして視認したような画像I3に変換して表示するため、画像I3を直感的に分かりやすい状態で表示することができる。
【0068】
さらに、原画像I1に上述の第1ないし4の処理モードによる処理を施すか否か、及び、処理を施す場合に第1ないし第4のいずれの処理モードによる処理を施すかを運転者等が自由に選択することができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0069】
また、撮像画像に重ねて表示する予測軌跡R1,R2の表示の有無を運転者等が自由に切り替えることができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0070】
<第2実施形態>
図20は、本発明の第2実施形態に係る車両周辺視認装置のブロック図である。本実施形態に係る車両周辺視認装置が前述の第1実施形態に係る車両周辺視認装置と実質的に異なる点は、図20に示すようにクリアランスセンサ21を追加した点、及びそのクリアランスセンサ21の追加に伴って動作内容が一部変更された点のみであり、互いに対応する部分には同一の参照符号を付して説明を省略する。
【0071】
本実施形態において追加されたクリアランスセンサ21は、本発明に係る障害物センサに相当するものであり、超音波センサ等により構成され、撮像装置1に対応して車両のコーナ部11等に設けられ、撮像装置1の自車と接触の可能性のある障害物の有無、及び撮像領域A内に存在する障害物と自車との間の距離を検出する。より詳細には、クリアランスセンサ21は、撮像領域A内における自車から第1の基準距離の範囲内に自車と接触する可能性のある障害物があるか否かを検出し、その検出結果を画像処理装置3に与える。
【0072】
画像処理装置3は、表示装置7が撮像装置1の撮像画像の表示を行っていない状態において(例えば、カーナビゲーションのための画像が表示されている場合など)、クリアランスセンサ21が前記障害物の存在を検出した場合には、それに応じて撮像装置1の撮像画像を表示装置7に表示させるようになっている。このときの撮像画像の表示モード(第1ないし第4の処理モードの処理を行うか否か、処理を行う場合にいずれの処理モードの処理を行うか、及び、予測軌跡R1,R2の重ね合わせ表示の有無)は、その時点で設定されているモードが採用されて、撮像画像の表示が行われる。なお、撮像装置1の撮像画像の表示装置7による表示が行われているときに、クリアランスセンサ21による前記障害物の検出が行われた際には、その撮像画像の表示が継続される。
【0073】
これによって、表示装置7によってナビゲーション画像等が表示されるなどして、撮像装置1の撮像画像の表示が行われていないときに、撮像領域A内における自車から第1の基準距離の範囲内に自車と接触の可能性がある障害物が検出された場合には、それに伴って、表示装置7の表示状態が切り替えられて、撮像装置1の撮像画像が自動的に表示されるようになっている。
【0074】
したがって、本実施形態においても、前述の第1実施形態とほぼ同様な効果が得られるとともに、表示装置7が撮像装置1の撮像画像の表示を行っていない状態においても、障害物の接近に伴って表示装置1の表示状態が自動的に切り替えられて、撮像装置1の撮像画像が表示されるため、撮像領域Aの画像の表示を適切なタイミングで自動的に行わせることができる。
【0075】
<第3実施形態>
本発明の第3実施形態に係る車両周辺視認装置のブロック構成は、前述の図20に示す第2実施形態に係る構成と同様であるため、図示を省略する。本実施形態に係る車両周辺視認装置が前述の第1実施形態に係る車両周辺視認装置と実質的に異なる点は、図20に示すようにクリアランスセンサ21を追加した点、及びそのクリアランスセンサ21の追加に伴って動作内容が一部変更された点のみであり、互いに対応する部分には同一の参照符号を付して説明を省略する。
【0076】
本実施形態において追加されたクリアランスセンサ21は、本発明に係る距離センサに相当するものであり、超音波センサ等により構成され、撮像装置1に対応して車両のコーナ部11等に設けられ、撮像領域A内に存在するにおける自車と接触の可能性のある障害物と自車との距離を検出し、その検出結果を画像処理装置3に与える。
【0077】
画像処理装置3は、クリアランスセンサ21が検出した前記障害物との距離が第2の基準距離を上回っている場合には、上述の第1ないし第4の処理モードのうちのその時点で運転者等により選択されている処理モードによる処理を撮像装置1が撮像した原画像I1に対して施して、その処理後の画像を表示装置7に表示させる。
【0078】
一方、クリアランスセンサ21が検出した前記障害物との距離が前記第2の基準距離を下回っている場合には、画像処理装置3による以下の動作が行われる。この場合には、第2ないし第4の処理モードのよる処理が禁止され、第1の処理モードによる処理が選択可能な状態とされる。そして、前記障害物との距離が前記第2の基準距離を下回った時点で、運転者等により第2ないし第4の処理モードが選択されている場合には、処理モードが第2ないし第4の処理モードから第1の処理モードに強制的に切り替えられ、原画像I1に対して第1の処理モードによる処理(レンズ歪み補正処理のみ)が施されて、その処理後の画像I2が表示装置7に表示される。このように処理モードの強制的な切り替えが行われている場合には、前記障害物が前記第2の基準距離の範囲外に遠ざかるのに伴って、処理モードが第1の処理モードから運転者等によって選択されている第2ないし第4の処理モードに自動的に切り替えられる。なお、処理モードとして第1の処理モードが選択されている場合には、前記障害物との距離が前記第2の基準距離を下回っても、そのまま第1の処理モードによる処理が継続される。
【0079】
ここで、運転者等によって第1ないし第4の処理モードの処理を行わずに原画像1を表示するモードが選択されている場合には、前記障害物との距離が前記第2の基準距離を下回ったか否かにかかわらず、そのモードがそのまま保持される。また、予測軌跡R1,R2の表示の有無についての切り替えは、前記障害物との距離が前記第2の基準距離を下回ったか否かにかかわらず、運転者等の操作に基づいて行われる。
【0080】
このように原画像I1に対する処理内容を前記障害物との距離に応じて制限するのは、次のような理由による。すなわち、撮像領域A内に障害物等が存在しない場合には、実質的に平らな地面を撮像していることと等価であるため、原画像I1に対して上述の第1及び第2の視点変換処理を施しても、視点変換処理による画像の歪みの影響は小さなものとなる。しかし、撮像領域A内に障害物等が存在した場合には、障害物は高さを有しているため、視点変換処理により原画像I1中の障害物等の画像に歪みが生じてしまい、視認性が低下する。そして、その視点変換処理により生じる歪みは、障害物と自車(撮像装置1)との距離が小さくなるほど大きくなる。
【0081】
そこで、本実施形態では、障害物と自車との距離が一定の水準以下になった場合には、処理内容に視点変換処理を含む第2ないし第4の処理モードの処理が行われないように制限している。
【0082】
以上のように、本実施形態においても、前述の第1実施形態とほぼ同様な効果が得られるとともに、一定以上の高さを有する障害物が自車の至近距離に存在しているのにもかかわらず、原画像I1に対して視点変換処理を含む第2なしい第4の処理モードによる処理が行われて画像の歪みが生じ、表示画像の視認性が低下するのを防止することができる。
【0083】
【発明の効果】
請求項1に記載の発明によれば、カメラ光学的歪みを補正した車両周辺の画像上に、車両又は車両周辺に設けられた基準点が車両の走行に伴って通過してゆく予測軌跡を重ねて表示することができるため、車両周辺の画像をそのカメラ光学的歪みを補正して見やすくした状態で表示することができるとともに、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等に容易に認識させることができ、表示画像に基づく車両周辺の視認性の向上が図れる。
【0084】
請求項2に記載の発明によれば、車両周辺の画像を、その対応する撮像領域をあたかも真上から見たような画像に変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0085】
請求項3に記載の発明によれば、車両周辺の画像を、その画像上における車両の直進方向が画像の縦方向と平行な関係になるように変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0086】
請求項4に記載の発明によれば、車両周辺の撮像領域の画像を、その撮像領域をあたかも車窓から顔を出して視認したような画像に変換して表示するため、画像を直感的に分かりやすい状態で表示することができる。
【0087】
請求項5に記載の発明によれば、車両の左端部又は右端部に対応する地面上の地点に対応して設けられた第1の基準点、及び左端部又は右端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点のうちの少なくともいずれか一方に対応する前記予測軌跡を画像に重ねて表示するため、表示画像に基づいて自車とその周辺の各地点との位置関係及び距離感や、走行に伴う自車位置の推移等を運転者等により容易に認識させることができる。
【0088】
請求項6に記載の発明によれば、車両周辺の画像に対して行う処理の内容を運転者等が自由に切り替えることができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0089】
請求項7に記載の発明によれば、画像に重ねて表示する前記予測軌跡の表示の有無を運転者等が自由に切り替えることができるため、運転者の好みや車両の走行状況の変化等に柔軟に対応することができる。
【0090】
請求項8に記載の発明によれば、表示部が撮像カメラの画像の表示を行っていない状態において、自車から第1の基準距離の範囲内に障害物があることが障害物センサによって検出された場合には、処理部が撮像カメラの画像を表示部に表示させるようになっているため、車両周辺の画像の表示を適切なタイミングで自動的に行わせることができる。
【0091】
請求項9に記載の発明によれば、自車と障害物との距離が第2の基準距離を下回っているか否かに応じて、車両周辺の画像に対して視点変換処理を施すか否かを切り替える構成であるため、一定以上の高さを有する障害物が自車の至近距離に存在しているのにもかかわらず、画像に対して視点変換処理が行われて画像の歪みが生じ、表示画像の視認性が低下するのを防止することができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る車両周辺視認装置のブロック図である。
【図2】撮像装置の設置位置及びその撮像領域を示す平面図である。
【図3】撮像装置によって撮像された原画像を示す図である。
【図4】撮像装置の撮像によって生じるカメラ光学的歪みの様子を示す図である。
【図5】歪み補正処理によってカメラ光学的歪みが補正された様子を示す図である。
【図6】図3の原画像に対して歪み補正処理を施して得られる画像を示す図である。
【図7】第1の視点変換処理の説明図である。
【図8】撮像装置の撮像光軸と車両の直進方向との関係を示す図である。
【図9】回転変換処理の説明図である。
【図10】第2の視点変換処理の説明図である。
【図11】図3の画像に対して第1の視点変換処理、回転変換処理及び第2の視点変換処理を施して得られる画像を示す図である。
【図12】撮像装置の撮像領域と図11の画像との関係を説明するための図である。
【図13】図11の画像に予測軌跡を重ねて表示した状態を示す図である。
【図14】図11の画像に予測軌跡を重ねて表示した状態を示す図である。
【図15】図6の画像に予測軌跡を重ねて表示した状態を示す図である。
【図16】図3の画像に予測軌跡を重ねて表示した状態を示す図である。
【図17】停車中の他の車両の側方をすり抜ける際の様子を示す図である。
【図18】道路の側縁部等に幅寄せして駐車する際の様子を示す図である。
【図19】駐車場での駐車時の様子を示す図である。
【図20】本発明の第2及び第3実施形態に係る車両周辺視認装置のブロック図である。
【符号の説明】
1 撮像装置
3 画像処理装置
5 ステアリングセンサ
7 表示装置
9 入力装置
21 クリアランスソナー
A 撮像領域
I1 原画像
I2,I3 画像
L 直進方向
M 縦方向
R1,R2 予測軌跡
【特許請求の範囲】
【請求項1】
車両周辺を撮像し、その画像を車室内において表示する車両周辺視認装置において、
車両前端側における左側又は右側のコーナ部の周辺を含む撮像領域を撮像する撮像カメラと、
車室内に設けられた表示部と、
車両のステアリングの舵角を検出するステアリングセンサと、
前記撮像カメラの撮像によって得られた画像に対し、前記撮像カメラの撮像特性の影響により生じる歪みを補正する歪み補正処理を施してその画像を前記表示部に表示させるとともに、車両又は車両周辺に設けられた所定の基準点が車両の走行に伴って通過してゆく予測軌跡を前記ステアリングセンサの検出結果に基づいて予測し、その予測軌跡を前記画像上の対応する位置に重ねた状態で前記表示部に表示させる処理部と、
を備える、車両周辺視認装置。
【請求項2】
請求項1に記載の車両周辺視認装置において、
前記処理部は、さらに、
前記歪み補正処理が施された前記画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理を施し、その第1の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項3】
請求項2に記載の車両周辺視認装置において、
前記処理部は、さらに、
前記歪み補正処理及び前記第1の視点変換処理が施された前記画像に対し、その画像上における車両の直進方向が画像の縦方向と平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理を施し、その回転変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項4】
請求項3に記載の車両周辺視認装置において、
前記処理部は、さらに、
前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理が施された前記画像に対し、前記撮像領域をあたかも車窓から顔を出して視認したような画像に変換するための第2の視点変換処理を施し、その第2の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項5】
請求項1ないし4のいずれかに記載の車両周辺視認装置において、
前記処理部は、
車両の左端部又は右端部に対応する地面上の地点に対応して設けられた第1の基準点、及び前記左端部又は右端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点のうちの少なくともいずれか一方に対応する前記予測軌跡を前記画像に重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項6】
請求項1に記載の車両周辺視認装置において、
前記画像に施す処理のモードを切り替えるための第1の操作入力を受け付ける第1の入力受付部をさらに備え、
前記処理部は、さらに、
前記撮像カメラの撮像によって得られた前記画像に施す処理のモードを、前記第1の入力受付部が受け付けた第1の操作入力に応じて以下の第1ないし第4の処理モードのいずれかに切り替え、そのいずれかの処理モードに対応する処理を前記画像に施し、前記表示装置に表示させ、
前記第1の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対し、前記歪み補正処理を施し、
前記第2の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理をさらに施し、
前記第3の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理及び前記第1の視点変換処理を施し、その画像に対し、その画像上における車両の直進方向と画像の縦方向とが平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理をさらに施し、
前記第4の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理を施し、その画像に対し、前記撮像領域をあたかも車窓から頭を出して視認したような画像に変換するための第2の視点変換処理をさらに施す、車両周辺視認装置。
【請求項7】
請求項1に記載の車両周辺視認装置において、
前記画像に重ねて表示する前記予測軌跡の表示の有無をオン、オフ切り替えするための第2の操作入力を受け付ける第2の入力受付部をさらに備え、
前記処理部は、さらに、
前記画像に重ねて表示する前記予測軌跡の表示の有無を、前記第2の入力受付部が受け付けた前記第2の操作入力に応じてオン、オフ切り替えする、車両周辺視認装置。
【請求項8】
請求項1に記載の車両周辺視認装置において、
前記撮像領域内における自車から第1の基準距離の範囲内に自車と接触の可能性のある障害物があるか否かを検出する障害物センサをさらに備え、
前記処理部は、さらに、
前記表示部が前記撮像カメラの撮像によって得られた前記画像の表示を行っていない状態において、前記障害物センサが前記障害物の存在を検出した場合には、それに応じて前記画像を前記表示部に表示させる、車両周辺視認装置。
【請求項9】
請求項1に記載の車両周辺視認装置において、
前記撮像領域内における自車と接触の可能性のある障害物と自車との距離を検出する距離センサをさらに備え、
前記処理部は、さらに、
前記距離センサが検出した前記距離が第2の基準距離を上回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかも前記撮像カメラの視点以外の視点から見たような画像に変換するための視点変換処理をさらに施し、その上に前記予測軌跡を重ねて前記表示部に表示させる一方、前記距離センサが検出した前記距離が前記第2の基準距離を下回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、前記視点変換処理を施すことなく、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項1】
車両周辺を撮像し、その画像を車室内において表示する車両周辺視認装置において、
車両前端側における左側又は右側のコーナ部の周辺を含む撮像領域を撮像する撮像カメラと、
車室内に設けられた表示部と、
車両のステアリングの舵角を検出するステアリングセンサと、
前記撮像カメラの撮像によって得られた画像に対し、前記撮像カメラの撮像特性の影響により生じる歪みを補正する歪み補正処理を施してその画像を前記表示部に表示させるとともに、車両又は車両周辺に設けられた所定の基準点が車両の走行に伴って通過してゆく予測軌跡を前記ステアリングセンサの検出結果に基づいて予測し、その予測軌跡を前記画像上の対応する位置に重ねた状態で前記表示部に表示させる処理部と、
を備える、車両周辺視認装置。
【請求項2】
請求項1に記載の車両周辺視認装置において、
前記処理部は、さらに、
前記歪み補正処理が施された前記画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理を施し、その第1の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項3】
請求項2に記載の車両周辺視認装置において、
前記処理部は、さらに、
前記歪み補正処理及び前記第1の視点変換処理が施された前記画像に対し、その画像上における車両の直進方向が画像の縦方向と平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理を施し、その回転変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項4】
請求項3に記載の車両周辺視認装置において、
前記処理部は、さらに、
前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理が施された前記画像に対し、前記撮像領域をあたかも車窓から顔を出して視認したような画像に変換するための第2の視点変換処理を施し、その第2の視点変換処理を施した前記画像を、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項5】
請求項1ないし4のいずれかに記載の車両周辺視認装置において、
前記処理部は、
車両の左端部又は右端部に対応する地面上の地点に対応して設けられた第1の基準点、及び前記左端部又は右端部から所定距離だけ離れた地面上の地点に対応して設けられた第2の基準点のうちの少なくともいずれか一方に対応する前記予測軌跡を前記画像に重ねて前記表示部に表示させる、車両周辺視認装置。
【請求項6】
請求項1に記載の車両周辺視認装置において、
前記画像に施す処理のモードを切り替えるための第1の操作入力を受け付ける第1の入力受付部をさらに備え、
前記処理部は、さらに、
前記撮像カメラの撮像によって得られた前記画像に施す処理のモードを、前記第1の入力受付部が受け付けた第1の操作入力に応じて以下の第1ないし第4の処理モードのいずれかに切り替え、そのいずれかの処理モードに対応する処理を前記画像に施し、前記表示装置に表示させ、
前記第1の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対し、前記歪み補正処理を施し、
前記第2の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかもその真上から見たような画像に変換するための第1の視点変換処理をさらに施し、
前記第3の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理及び前記第1の視点変換処理を施し、その画像に対し、その画像上における車両の直進方向と画像の縦方向とが平行な関係になるように、前記画像と平行な面内で所定回転角度だけ回転変換処理をさらに施し、
前記第4の処理モードでは、前記処理部は、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理、前記第1の視点変換処理及び前記回転変換処理を施し、その画像に対し、前記撮像領域をあたかも車窓から頭を出して視認したような画像に変換するための第2の視点変換処理をさらに施す、車両周辺視認装置。
【請求項7】
請求項1に記載の車両周辺視認装置において、
前記画像に重ねて表示する前記予測軌跡の表示の有無をオン、オフ切り替えするための第2の操作入力を受け付ける第2の入力受付部をさらに備え、
前記処理部は、さらに、
前記画像に重ねて表示する前記予測軌跡の表示の有無を、前記第2の入力受付部が受け付けた前記第2の操作入力に応じてオン、オフ切り替えする、車両周辺視認装置。
【請求項8】
請求項1に記載の車両周辺視認装置において、
前記撮像領域内における自車から第1の基準距離の範囲内に自車と接触の可能性のある障害物があるか否かを検出する障害物センサをさらに備え、
前記処理部は、さらに、
前記表示部が前記撮像カメラの撮像によって得られた前記画像の表示を行っていない状態において、前記障害物センサが前記障害物の存在を検出した場合には、それに応じて前記画像を前記表示部に表示させる、車両周辺視認装置。
【請求項9】
請求項1に記載の車両周辺視認装置において、
前記撮像領域内における自車と接触の可能性のある障害物と自車との距離を検出する距離センサをさらに備え、
前記処理部は、さらに、
前記距離センサが検出した前記距離が第2の基準距離を上回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、その画像に対し、前記撮像領域をあたかも前記撮像カメラの視点以外の視点から見たような画像に変換するための視点変換処理をさらに施し、その上に前記予測軌跡を重ねて前記表示部に表示させる一方、前記距離センサが検出した前記距離が前記第2の基準距離を下回っている場合には、前記撮像カメラの撮像によって得られた前記画像に対して前記歪み補正処理を施し、前記視点変換処理を施すことなく、その上に前記予測軌跡を重ねて前記表示部に表示させる、車両周辺視認装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2004−320525(P2004−320525A)
【公開日】平成16年11月11日(2004.11.11)
【国際特許分類】
【出願番号】特願2003−112807(P2003−112807)
【出願日】平成15年4月17日(2003.4.17)
【出願人】(395011665)株式会社オートネットワーク技術研究所 (2,668)
【出願人】(000183406)住友電装株式会社 (6,135)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】
【公開日】平成16年11月11日(2004.11.11)
【国際特許分類】
【出願日】平成15年4月17日(2003.4.17)
【出願人】(395011665)株式会社オートネットワーク技術研究所 (2,668)
【出願人】(000183406)住友電装株式会社 (6,135)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】
[ Back to top ]