物体識別装置
【課題】差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、その撮像画像中の識別対象物の画像領域を高い精度で識別することを課題とする。
【解決手段】撮像領域内のP偏光画像及びS偏光画像を偏光カメラ10で撮像し、画素ごとに、P偏光画像及びS偏光画像間における輝度合計値(モノクロ輝度)と、当該輝度合計値に対するP偏光画像及びS偏光画像間における輝度差分値の比率を示す差分偏光度を算出する。そして、差分偏光度が所定の差分偏光度閾値以上であれば、差分偏光度画像処理部15が算出した差分偏光度を用いて識別対象物である路端エッジ部を識別し、そうでなければ、モノクロ画像処理部13が算出したモノクロ輝度を用いて路端エッジ部を識別する。
【解決手段】撮像領域内のP偏光画像及びS偏光画像を偏光カメラ10で撮像し、画素ごとに、P偏光画像及びS偏光画像間における輝度合計値(モノクロ輝度)と、当該輝度合計値に対するP偏光画像及びS偏光画像間における輝度差分値の比率を示す差分偏光度を算出する。そして、差分偏光度が所定の差分偏光度閾値以上であれば、差分偏光度画像処理部15が算出した差分偏光度を用いて識別対象物である路端エッジ部を識別し、そうでなければ、モノクロ画像処理部13が算出したモノクロ輝度を用いて路端エッジ部を識別する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置に関するものである。
【背景技術】
【0002】
この種の物体識別装置は、車両、船舶、航空機あるいは産業用ロボットなどの移動体の移動制御を行う移動体制御装置や、移動体の運転者に有益な情報を提供する情報提供装置などに広く利用されている。具体例を挙げると、例えば、車両の運転者(ドライバー)の運転負荷を軽減させるための、ACC(Adaptive Cruise Control)等の運転者支援システムに利用されるものが知られている。このような車両走行支援システムにおいては、自車が障害物等に衝突することを回避したり衝突時の衝撃を軽減したりするための自動ブレーキ機能や警報機能、先行車との車間距離を維持するための自車速度調整機能、自車が走行している走行レーンからの逸脱防止を支援する機能などの様々な機能を実現するために、自車の周囲に存在する障害物、先行車、車線などの物体を適切に区別して認識する(識別する)ことが必要となる。そのため、従来から様々な物体識別装置が提案されている。
【0003】
特許文献1には、撮影により得られた道路画像(撮像画像)から画像内のラインを検出することにより車両の走行レーンを区画する車線(白線)に対する自車の相対変位を検出するために、車線(物体)を識別するための物体識別装置が開示されている。この物体識別装置では、雨天により道路上に水たまりが存在する場合、太陽光等がこの水たまりで鏡面反射して、道路上の車線(白線)と同程度の輝度で撮影されることにより、水たまり部分を車線(白線)と誤認識してしまうという問題を解決するものである。具体的には、白線識別処理を行う前に道路画像から水たまり部分を取り除くため、撮影した道路画像から鏡面反射成分のみを除去することにより水たまり部分を取り除き、残りの散乱光成分から白線を認識する。鏡面反射成分のみを除去する方法としては、鏡面反射の水平偏光成分はブリュースター角でほぼ0となること、及び、散乱光成分は垂直偏光成分と水平偏光成分がほぼ等量含まれていることを利用して、次のように行っている。すなわち、撮影した道路画像中の垂直偏光成分と水平偏光成分との差分を算出し、その差分値に対し、水平偏光成分中に含まれる入射角に応じた鏡面反射成分を除去するための補正係数を乗じることで、鏡面反射成分を算出する。そして、算出した鏡面反射成分を水平偏光成分から差し引くことで、道路画像から鏡面反射成分のみを除去した錯乱光成分の画像を得る。
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の物体識別装置の多くは、撮像画像中の輝度の違いを利用して、路面上に存在する障害物(路端に存在する側壁、ガードレール、電信柱、街灯、歩行者通路の段差部等の路端障害物など)、先行車、車線などの識別対象物の境界(エッジ)を抽出し、そのエッジにより区画される領域を識別対象物の画像領域であると識別するものが一般的である。しかしながら、この方法では、路面上に輝度が大きく異なる部分が存在すると、これらの部分間の境界をエッジであるとして抽出してしまい、路面の一部を車線等の識別対象物であると誤認識してしまう場合がある。特に、路面上の日向部分と日陰部分との間では輝度に大きな違いがあるため、路面上の日陰部分(輝度が小さい部分)を日向部分(輝度が大きい部分)の路面とは別の物体であると誤認識してしまう場合がある。このような誤認識は、例えばACCであれば誤認識した日陰部分を路端に存在する側壁等の障害物であるとして、衝突回避動作を実施してしまうなど、誤制御あるいは誤処理を引き起こす原因となる。
【0005】
本出願人は、特願2009−295963号において、撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに得られる当該2つの偏光画像間における輝度合計値に対する当該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出した結果を用いて路面上の立体物を識別する方法を提案した。詳しくは、算出した差分偏光度に基づいて識別対象物に対応する処理領域を特定し、識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域を識別対象物の画像領域であると識別する方法である。この方法によれば、輝度の違いを利用する従来の方法では撮像画像中の輝度に明確な違いがないために識別精度が悪い状況であっても、撮像画像中の立体物を高い精度で識別することが可能である。
【0006】
しかしながら、本発明者らは、研究の結果、差分偏光度を用いて撮像画像中における立体物などの識別対象物の画像領域を識別する場合でも、その撮像状況によっては、高い識別精度が得られない場合があるという知見を得た。詳しくは、算出した差分偏光度により得られる差分偏光度画像のコントラストが低くなるような撮像状況下で撮像して得た撮像画像については、差分偏光度を用いても、その撮像画像中の識別対象物の画像領域を高い精度で識別できない場合があるという問題があることを見出したのである。具体例を挙げると、例えば晴れの日の順光時における路面上の路端障害物や車線を識別する場合には、差分偏光度を用いても高い識別精度で識別することができない場合がある。
【0007】
以上の問題は、運転者支援システムに用いられる物体識別装置に限らず、ロボット制御などに用いられる物体識別装置など、あらゆる物体識別装置においても同様に生じ得る問題である。
また、この問題を、撮像手段とは別の検出機器を新たに用意して解決することは、コストが高騰するため好ましくない。よって、従来の物体識別装置において物体からの反射光強度(輝度)を検出するために一般に用いられている検出機器である撮像手段を用いて、上記問題を解決することができれば、コストの観点から有益である。
【0008】
本発明は、上記問題に鑑みなされたものであり、その目的とするところは、差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、その撮像画像中の識別対象物の画像領域を高い精度で識別することが可能な物体識別装置を提供することである。
【課題を解決するための手段】
【0009】
上記目的を達成するために、請求項1の発明は、撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、該差分偏光度算出手段が算出する差分偏光度が所定の選択条件を満たすか否かを判断する選択条件判断手段と、該選択条件判断手段が該所定の選択条件を満たすと判断した場合には、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した場合には、該輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定し、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域を該識別対象物の画像領域であると識別する物体識別処理を行う物体識別処理手段とを有することを特徴とするものである。
また、請求項2の発明は、請求項1の物体識別装置において、上記選択条件判断手段は、上記撮像手段が撮像した2つの偏光画像を区分して得られる複数の選定エリアごとに、上記差分偏光度算出手段が算出する差分偏光度が上記所定の選択条件を満たすか否かを判断し、上記物体識別処理手段は、該選択条件判断手段が該所定の選択条件を満たすと判断した選定エリアについては、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した選定エリアについては、上記輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定することを特徴とするものである。
また、請求項3の発明は、請求項1又は2の物体識別装置において、上記撮像手段が撮像した2つの偏光画像内に設定される所定箇所の輝度合計値及び差分偏光度の少なくとも一方から、上記所定の選択条件に用いる差分偏光度用閾値を設定する閾値設定手段を有し、上記所定の選択条件は、上記差分偏光度算出手段が算出する差分偏光度が上記差分偏光度用閾値以上であるという条件を含むことを特徴とするものである。
また、請求項4の発明は、請求項3の物体識別装置において、上記所定の選択条件は、上記輝度算出手段が算出する輝度合計値が所定の閾値未満であるという条件を含むことを特徴とするものである。
また、請求項5の発明は、請求項1乃至4のいずれか1項に記載の物体識別装置において、上記物体識別処理手段は、上記識別対象物に対応する処理領域を特定する処理として、互いに隣接する処理領域間の輝度もしくは差分偏光度の違いの大きさを示すエッジ値を算出するエッジ抽出処理を行い、これにより抽出したエッジ値に基づいて該識別対象物に対応する処理領域を特定する処理を行うことを特徴とするものである。
また、請求項6の発明は、請求項5の物体識別装置において、上記物体識別処理手段は、上記エッジ抽出処理により抽出したエッジ値を所定のエッジ閾値により2値化処理し、その2値化処理後の値に基づいて上記識別対象物に対応する処理領域を特定する処理を行うものであり、上記差分偏光度算出手段が算出した差分偏光度及び上記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、該状況判別手段が判別した状況に応じて該エッジ閾値を決定するエッジ閾値決定手段とを有することを特徴とするものである。
また、請求項7の発明は、請求項6の物体識別装置において、上記エッジ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記エッジ閾値を決定することを特徴とするものである。
また、請求項8の発明は、請求項5乃至7のいずれか1項に記載の物体識別装置において、上記識別対象物を上記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、上記物体識別処理手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が上記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とするものである。
また、請求項9の発明は、請求項8の物体識別装置において、上記物体識別処理手段が行う上記形状近似判断処理では、上記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とするものである。
また、請求項10の発明は、請求項1乃至9のいずれか1項に記載の物体識別装置において、上記物体識別処理手段が過去に行った上記物体識別処理の結果を記憶する識別処理結果記憶手段を有し、上記物体識別処理手段は、上記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて上記物体識別処理を行うことを特徴とするものである。
【0010】
本発明者らは、研究の結果、差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、輝度を用いて識別を行うことにより、差分偏光度を用いて識別する場合よりも高い精度での識別が可能であるという知見を得た。この知見に基づき、本発明では、差分偏光度算出手段が算出する差分偏光度が所定の選択条件を満たすか否かを判断し、満たすと判断した場合は差分偏光度に基づいて識別対象物に対応する処理領域を特定するが、満たさないと判断した場合は輝度に基づいて識別対象物に対応する処理領域を特定する。これにより、差分偏光度を用いた場合には高い識別精度が得られない状況下では輝度を用いて識別を行うことが可能となり、そのような状況下であっても差分偏光度よりも高い識別精度を得ることが可能となる。
しかも、本発明によれば、識別に用いる輝度として、差分偏光度を算出するために用いる撮像手段が撮像した2つの偏光画像間の輝度合計値を使用するので、識別に用いる輝度を得るために新たな検出機器を設けることは不要である。
なお、差分偏光度を用いた場合には高い識別精度が得られない状況が撮像画像中の一部分に存在している場合には、当該一部分については輝度を用いて識別対象物に対応する処理領域を特定し、残りの部分は差分偏光度を用いて識別対象物に対応する処理領域を特定するようにしてもよい。
【発明の効果】
【0011】
以上、本発明によれば、差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、その撮像画像中の識別対象物の画像領域を高い精度で識別することが可能となるという優れた効果が得られる。
【図面の簡単な説明】
【0012】
【図1】実施形態に係る運転者支援システムの機能ブロック図である。
【図2】同運転者支援システムに利用可能な偏光カメラの一構成例を示す説明図である。
【図3】同運転者支援システムに利用可能な偏光カメラの他の構成例を示す説明図である。
【図4】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図5】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図6】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図7】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図8】(a)〜(d)は、雨の日あるいは曇りの日の昼間に、自動車に搭載した偏光カメラで走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図である。
【図9】(a)〜(d)は、晴れの日の昼間に、自動車に搭載した偏光カメラで走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図である。
【図10】(a)〜(d)は、晴れの日の昼間に、日陰となっている場所において、自動車に搭載した偏光カメラで走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図である。
【図11】実験室において、アスファルト面に対し、光源位置を変化させ、固定配置されたカメラでP偏光画像とS偏光画像を撮影する実験の概要を示す説明図である。
【図12】同実験で得られた差分偏光度の変化の一例を示すグラフである。
【図13】太陽からの光の散乱光成分を光源とした路面の差分偏光度を示すグラフである。
【図14】路端エッジ部と白線エッジ部を識別する処理の流れを示すフローチャートである。
【図15】画像選択処理の流れを示すフローチャートである。
【図16】(a)〜(d)は、それぞれ撮影状況が異なる場合のモノクロ画像を示す説明図である。
【図17】物体識別処理の流れを示すフローチャートである。
【図18】変形例1における物体識別処理で用いる差分偏光度閾値の設定変更用テーブルを示す説明図である。
【図19】(a)〜(c)は、図18に示す設定変更用テーブルの各路面状態における外光の反射特性を説明するための説明図である。
【図20】路面状態の判別処理の流れの一例を示すフローチャートである。
【図21】(a)〜(d)は、それぞれ撮影状況が異なる撮像領域を模式的に表した説明図である。
【発明を実施するための形態】
【0013】
以下、本発明に係る物体識別装置を用いて、走行路面と路端障害物との境界である識別対象物としての路端エッジ部や白線エッジ部を識別し、その結果を用いて車両の運転者(ドライバー)の運転負荷を軽減させるための運転者支援システムに適用した一実施形態について説明する。
図1は、本実施形態に係る運転者支援システムの機能ブロック図である。
図示しない車両に搭載された撮像手段としての偏光カメラ10により、移動体である車両が走行する路面(移動面)を含む自車周囲の風景を撮影し、画素(処理領域)ごとの垂直偏光強度(以下、単に「S偏光強度」という。)及び水平偏光強度(以下、単に「P偏光強度」という。)を含んだ偏光RAW画像データを取得する。偏光RAW画像データに含まれるP偏光強度データから得られる水平偏光画像データは水平偏光画像メモリ11に、偏光RAW画像データに含まれるS偏光強度データから得られる垂直偏光画像データは垂直偏光画像メモリ12にそれぞれ格納される。これらの画像データは、それぞれ、輝度算出手段としてのモノクロ画像処理部13と、差分偏光度算出手段としての差分偏光度画像処理部15に送信される。
【0014】
偏光カメラ10は、受光素子であるCCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の撮像素子により、例えばメガピクセルサイズの画素を有する周囲画像を撮像するものである。偏光カメラ10は、リアルタイムに近い短い時間間隔で周囲画像を連続的に取得するのが好ましい。偏光カメラ10は、例えばルームミラーに取り付けられ、車両前方の風景(路面を含むフロントビュー)を撮像するものであってもよいし、例えばサイドミラーに取り付けられ、車両側方の風景を撮像するものであってもよいし、例えばバックドアに取り付けられ、車両後方の風景を撮像するものであってもよい。本実施形態では、ルームミラーに取り付けられて車両前方の風景(路面を含むフロントビュー)を撮像する場合を例に挙げて説明する。
【0015】
図2は、偏光カメラ10の一構成例を示す説明図である。
この偏光カメラ10Aは、図2に示すように、CCD等の撮像素子を備えた1台のカメラ101の前面に、回転駆動する回転偏光子102を配置したものである。この偏光カメラ10Aは、回転偏光子102の回転角に応じて通過する光の偏光方向が変化する。よって、カメラ101は、回転偏光子102を回転駆動させながら撮像することで、P偏光画像とS偏光画像とを交互に撮像することができる。
【0016】
図3は、偏光カメラ10の他の構成例を示す説明図である。
この偏光カメラ10Bは、図3のように、CCD等の撮像素子を備えた2台のカメラ111,112を用い、それぞれの前面に、S偏光を透過するS偏光フィルタ113とP偏光を透過するP偏光フィルタ114とを配置したものである。図2に示した偏光カメラ10Aでは、1台のカメラ101でP偏光画像とS偏光画像とを交互に撮像するため、P偏光画像とS偏光画像とを同時に撮影することができなかったが、図3に示した偏光カメラ10Bでは、P偏光画像とS偏光画像とを同時に撮影することができる。
【0017】
図4は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Cは、図4に示すように、撮像素子がP偏光画像とS偏光画像とについて個別に設けられている点では、図3に示した偏光カメラ10Bと同様であるが、各撮像素子が図3に示した偏光カメラ10Bの場合よりも近接配置されている点で大きく異なる。この偏光カメラ10Cによれば、図3に示した偏光カメラ10Bよりも小型化できる。図4に示す偏光カメラ10Cは、レンズアレイ122と、遮光スペーサ123と、偏光フィルタ124と、スペーサ125と、固体撮像ユニット126とが積層されて形成されている。レンズアレイ122は、2つの撮像レンズ122a,122bを有する。この2つの撮像レンズ122a,122bは、互いに独立した同一形状の例えば非球面レンズ等からなる単レンズで形成され、それぞれの光軸121a,121bが互いに平行となるように、かつ、同一平面上に配置している。遮光スペーサ123は、2つの開口部123a,123bを有し、レンズアレイ122に対して被写体側とは反対側に設けられている。2つの開口部123a,123bは、光軸121a,121bをそれぞれ中心として所定の大きさで貫通され、内壁面には黒塗りや粗面やつや消しなどにより光の反射防止処理がされている。偏光フィルタ124は、偏光面が90度異なる2つの偏光子領域124a,124bを有する領域分割型の偏光子フィルタであり、遮光スペーサ123に対してレンズアレイ122とは反対側に設けられている。この偏光子領域124a,124bは、不特定の方向に電磁界が振動する無偏光を、偏光面に沿った方向の振動成分(偏光成分)だけを透過させて直線偏光にする。なお、金属の微細凹凸形状で形成されたワイヤグリッド方式や、オートクローニング型のフォトニック結晶方式を用いることで、境界部が明瞭な領域分割型の偏光子フィルタを得ることができる。スペーサ125は、偏光フィルタ124の偏光子領域偏光a,偏光bに対応する領域が貫通した開口部125aを有する矩形枠状に形成され、偏光フィルタ124に対して遮光スペース123とは反対側に設けられている。固体撮像ユニット126は、基板127上に搭載された2つの固体撮像素子126a,126bを有し、スペーサ125に対して偏光フィルタ124とは反対側に設けられている。本実施形態では、モノクロのセンシングを行うため、これらの固体撮像素子126a,126bはカラーフィルタを備えていない。ただし、カラー画像のセンシングを行う場合には、カラーフィルタを配置する。
【0018】
図5は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Dは、図5に示すように、1:1の透過性を備えるハーフミラー131と、反射ミラー132と、S偏光フィルタ133と、P偏光フィルタ134と、S偏光フィルタ133を介してS偏光を受光するS偏光用CCD135と、P偏光フィルタ134を介してP偏光を受光するP偏光用CCD136とを有する。図3や図4に示した偏光カメラ10B,10Cでは、S偏光画像とP偏光画像の同時撮影は可能であるものの、視差が生じてしまう。これに対し、図5に示した偏光カメラ10Dでは、図示しない同一の撮像光学系(レンズ)を介して受光される同じ光を使ってS偏光画像とP偏光画像を同時撮影するため、視差が生じない。よって、視差ずれ補正などの処理が不要となる。
なお、ハーフミラー131に代えて、P偏光を反射し、かつ、S偏光を透過するプリズム等の偏光ビームスプリッタを用いてもよい。このような偏光ビームスプリッタを用いることで、S偏光フィルタ133やP偏光フィルタ134を省略することが可能となり、光学系の簡素化が図られるとともに、光利用効率も向上できる。
【0019】
図6は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Eは、図6に示すように、撮像レンズ142aの光軸141に沿ってカメラ構成要素が積層されたユニットである点では、図4に示した偏光カメラ10Cと同様であるが、S偏光画像とP偏光画像を単一の撮像レンズ(撮像レンズは光軸に複数枚積層配置してもよい。)142で撮像する点で異なっている。この偏光カメラ10Eによれば、図5に示した偏光カメラ10Dと同様に、S偏光画像とP偏光画像との間で視差が生じない。しかも、図5に示した偏光カメラ10Dよりも小型化できる。なお、図6に示した偏光カメラ10Eの偏光フィルタ144は、偏光面が90度異なる2種類の偏光子領域144a,144bが2つずつ設けられた領域分割型の偏光子フィルタとなっており、これに伴い、4つの固体撮像素子146a,146b,146c,146dが設けられている。
【0020】
図7は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Fは、図7に示すように、領域分割型のフィルタを採用したものである。図7において、縦横に並ぶ正方形が各受光素子の受光部151を示し、縦線で示す領域がS偏光フィルタ152の領域を示し、横線で示す領域がP偏光フィルタ153の領域を示す。この偏光カメラ10Fは、受光素子の画素に1:1で対応させたものではなく、各フィルタ152,153の領域は、横方向に受光素子一個分の幅を持ち、領域の境界線の傾きは2、つまり横方向に1画素分進む間に縦方向に2画素分変化する角度を持つ斜めの帯の形状をとる。このような特殊なフィルタ配置パターンと信号処理を組み合わせることによって、撮像素子配列と領域分割フィルタを接合する際の位置合せの精度が十分でなくとも、画面全体で各フィルタ透過画像を再現することを可能とし、S偏光画像及びP偏光画像を撮像できる低コストの偏光カメラを実現できる。
【0021】
モノクロ画像処理部13は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとのモノクロ輝度(当該画素のP偏光強度+S偏光強度)を算出する。このモノクロ輝度データを用いてモノクロ画像が生成できる。モノクロ画像処理部13が算出したモノクロ輝度データは、ライン検出手段としての白線識別部14に出力される。
差分偏光度画像処理部15は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとに差分偏光度(識別指標値)を算出する。この差分偏光度を用いて差分偏光度画像が生成できる。差分偏光度は、下記の式(1)に示す計算式から求められる。すなわち、差分偏光度は、P偏光強度とS偏光強度との合計値(輝度合計値)に対するP偏光強度とS偏光強度との差分値(輝度差分値)の比率である。また、差分偏光度は、輝度合計値に対するP偏向強度の比率(P偏光比)と、輝度合計値に対するS偏向強度の比率(S偏光比)との差分値であると言い換えることもできる。なお、本実施形態では、P偏光強度からS偏光強度を差し引く場合について説明するが、S偏光強度からP偏光強度を差し引くようにしてもよい。差分偏光度画像処理部15が算出した差分偏光度のデータは、画像選択部16に出力される。
差分偏光度=(P偏光強度−S偏光強度)/(P偏光強度+S偏光強度) ・・(1)
【0022】
白線識別部14は、モノクロ画像処理部13により算出されたモノクロ輝度データに基づき、以下の方法により走行路面上の白線を識別するものである。なお、ここでいう白線には、黄色線等の任意の色の線、実線、破線、点線、二重線等の道路を区画するあらゆる線を含んでよい。
通常の道路の車線(区画線)は、運転者が視認しやすいように、アスファルト等の黒い部分に対し、コントラストの高い色(白等)で形成されている。したがって、このような車線(ここでは白線とする。)の輝度は、その他の場所に存在するアスファルト等の物体よりも十分に大きい。よって、モノクロ輝度データが所定の閾値以上の部分を白線と判定することができる。なお、本実施形態で用いるモノクロ輝度データは、上述した偏光カメラ10により得たP偏光強度とS偏光強度の合計値を用いている。
【0023】
白線識別部14により白線エッジ部を識別した結果は、様々な処理に利用することが可能である。
例えば、CRTや液晶等で構成される車内の情報報知手段である表示部(ディスプレイ)に、モノクロ画像処理部で算出した輝度データを用いて生成されるモノクロ画像(フロントビュー画像)を表示し、その画像中の白線部分の情報を、運転者にとって有益な情報として報知するために、運転者が見やすい表示形態で表示する処理が挙げられる。これによれば、例えば、運転者が目視で白線を認識することが困難な状況下であっても、運転者は表示部のフロントビュー画像を見ることで、自車と白線との相対位置関係を把握することができ、白線で区画される走行レーンを維持して走行させることが容易になる。
また、例えば、白線識別部14により識別された白線の位置情報から、自車と白線との相対位置関係を把握する処理を行い、自車が白線で区画される走行レーン上の適正走行位置から外れて走行していないかどうかを判断し、適正走行位置から外れて走行しているときに警報音等を発する処理が挙げられる。あるいは、適正走行位置から外れて走行しているときに、自動ブレーキ機能を実行して、自車の走行速度を落とすような処理も挙げられる。
【0024】
本実施形態においては、白線識別部14において白線エッジ部を識別できた場合、画像中における白線エッジ部の位置を特定するための情報を画像選択部16に出力する。このとき、モノクロ画像処理部13で処理されたモノクロ画像から白線部分を除去した白線無しのモノクロ画像を画像選択部16に出力するようにしてもよい。
一方、白線識別部14において白線エッジ部が識別できなかった場合、画像中における白線エッジ部の位置を特定するための情報は画像選択部16に出力されない。
【0025】
画像選択部16は、白線識別部14から出力されたモノクロ画像と、差分偏光度画像処理部15で処理された差分偏光度画像とのうち、後述する物体識別部18で用いる画像を所定の選択条件に従って選択する処理を行う。この処理の具体的な内容については後述する。
【0026】
物体識別部18は、後述する方法により、画像選択部16により選択されるモノクロ画像のモノクロ輝度あるいは差分偏光度画像の差分偏光度を用いて路端エッジ部を特定し、その路端エッジ部の特定結果を、後述の形状記憶部17に記憶されている形状テンプレートに照らし合わせて、最終的に路端の画像領域(位置)を識別する。なお、本実施形態では、識別対象物が、走行路面の路端近傍に存在する側壁、ガードレール、路端の段差部等の路端障害物と走行路面との境界である路端エッジ部である場合について説明するが、電信柱、街灯、標識などの障害物、走行路面上を走行する他の車両、走行路面上又は路肩に居る人、動物、自転車等の衝突回避物など、あらゆる物体を識別対象物とすることが可能である。また、本実施形態においては、白線識別部14において白線エッジ部を識別できなかった場合には、白線エッジ部も識別対象物に含まれることになる。本実施形態では、路端エッジ部を識別することで、白線識別部14で識別した白線と同様に、路端エッジ部の識別結果を運転者支援システムの様々な処理に利用する。
【0027】
例えば、CRTや液晶等で構成される車内の情報報知手段である表示部(ディスプレイ)に、モノクロ画像処理部で算出した輝度データを用いて生成されるモノクロ画像(フロントビュー画像)を表示し、その画像中の路端エッジ部の位置を示す情報を、運転者にとって有益な情報として報知するために、運転者が見やすい表示形態で表示する処理が挙げられる。これによれば、例えば、運転者が目視で路端を認識することが困難な状況下であっても、運転者は表示部のフロントビュー画像を見ることで、自車と路端との相対位置関係を把握することができ、路端障害物に衝突することなく安全に走行することが容易になる。
また、例えば、物体識別部18により識別された路端エッジ部の位置情報から、自車と路端エッジ部との相対位置関係を把握する処理を行い、自車が路端に近づいて走行していないかどうかを判断し、路端に近づいたときに警報音等を発する処理が挙げられる。あるいは、路端に近づいたときに、自動ブレーキ機能を実行して、自車の走行速度を落とすような処理も挙げられる。
【0028】
形状情報記憶手段としての形状記憶部17には、物体識別部18で用いる形状情報としての各種形状テンプレートのデータが記憶されている。形状記憶部17に記憶される形状テンプレートは、物体識別部18で識別する識別対象物である路端エッジ部を、偏光カメラ10により撮像したときの形状(撮像画像中における識別対象物の形状)を示すものである。したがって、本実施形態における形状テンプレートは、走行レーンに略平行に延びる直線形状のものとなる。なお、形状テンプレートは、サイズ情報が含まれていてもよい。形状テンプレートは識別対象物の形状に応じて適宜選択される。例えば、マンホールの蓋を特定するための形状テンプレート、ボッツドッツ又はキャッツアイからなる金属製区間線を特定するための形状テンプレート、高速道路や陸橋などの道路に存在する金属製の道路連結部を特定するための形状テンプレート、他の車両を特定するための形状テンプレート、電信柱や街灯を特定するための形状テンプレートなどが挙げられる。
【0029】
次に、画像選択部16が、物体識別部18で用いる画像を選択する画像選択処理について説明する。
天候に応じてあるいは日向と日影との違いに応じて、モノクロ画像処理部13で算出されるモノクロ画像や差分偏光度画像処理部15で算出される差分偏光度画像のコントラストは変化する。路端や白線などのラインを検出するにあたって、モノクロ画像、差分偏光度画像それぞれが得意とするシーン(識別精度が高い状況)、苦手とするシーン(識別精度が低い状況)がある。そして、本発明者らは、モノクロ画像が苦手とするシーンは差分偏光度画像が得意とするシーンであったり、反対に差分偏光度画像が苦手とするシーンはモノクロ画像が得意とするシーンであったりと、お互いが補間する関係にあることを、撮影実験等を通じて見出した。本実施形態は、モノクロ画像と差分偏光度画像との補間関係を利用し、状況に応じてこれらの画像を使い分け、差分偏光度画像では識別が困難な状況下においてモノクロ画像を用いることで、識別対象物(路端エッジ部)の識別精度を高めるものである。
【0030】
図8(a)〜(d)は、雨の日あるいは曇りの日の昼間に、自動車に搭載した偏光カメラ10で走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図であり、図8(a)はモノクロ画像、図8(b)は差分偏光度画像、図8(c)は図8(a)のモノクロ画像から生成したエッジ画像、図8(d)は図8(b)の差分偏光度画像から生成したエッジ画像である。
雨の日あるいは曇りの日の昼間では、図8(d)の差分偏光度を元にしたエッジ画像は、図8(c)に示すモノクロ画像を元にしたエッジ画像に比べて、路端Rの境界位置を示すコントラスト(路端Rの境界位置が白色で示され、その周囲が黒色で示されている。)が明瞭であり、路端エッジ部REの認識率が高いことがわかる。
一方、白線Wの境界位置を示すコントラスト(白線Wの外縁エッジが白色で示され、その周囲が黒色で示されている。)の明瞭性は、図8(c)及び図8(d)に示すエッジ画像の間では同等である。したがって、白線エッジ部WEの認識率に関しては、モノクロ画像と差分偏光度画像とでほとんど違いはない。
【0031】
図9(a)〜(d)は、晴れの日の昼間に、自動車に搭載した偏光カメラ10で走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図であり、図9(a)はモノクロ画像、図9(b)は差分偏光度画像、図9(c)は図9(a)のモノクロ画像から生成したエッジ画像、図9(d)は図9(b)の差分偏光度画像から生成したエッジ画像である。
晴れの日の昼間については、路端エッジ部RE及び白線エッジ部WEのいずれの認識率も、図9(d)の差分偏光度を元にしたエッジ画像よりも、図9(c)に示すモノクロ画像を元にしたエッジ画像の方が高いことがわかる。
【0032】
図10(a)〜(d)は、晴れの日の昼間に、日陰となっている場所において、自動車に搭載した偏光カメラ10で走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図であり、図10(a)はモノクロ画像、図10(b)は差分偏光度画像、図10(c)は図10(a)のモノクロ画像から生成したエッジ画像、図10(d)は図10(b)の差分偏光度画像から生成したエッジ画像である。
日陰となっている場所については、路端エッジ部RE及び白線エッジ部WEのいずれの認識率も、図10(c)に示すモノクロ画像を元にしたエッジ画像よりも、図10(d)の差分偏光度を元にしたエッジ画像の方が高いことがわかる。
【0033】
以上のような測定結果を踏まえ、本実施形態では、状況(シーン)ごとに、モノクロ画像と差分偏光度画像を使い分けることにより、それらの状況における路端エッジ部RE及び白線エッジ部WEの識別精度を向上させ、識別結果についての信頼性を向上させる。
【0034】
ここで、一般に、モノクロ画像に用いる輝度の情報に関しては、昼間の日向のシーン(太陽からの直射光が支配的な照明状況下)ではコントラストが高くなり、日影あるいは雨や曇りの日のような陽があたらないシーン(太陽からの光の散乱光成分が支配的な照明状況下)ではコントラストが低くなることは、日常生活からも人間が感じ取ることができる。これに対して、差分偏光度画像に用いる差分偏光度の情報は、人間に知覚されるような情報ではない。よって、以下、差分偏光度画像ではモノクロ画像とは異なるコントラストになる理由について説明する。
【0035】
図11は、実験室において、アスファルト面に対し、光源位置を変化させ、固定配置されたカメラでP偏光画像とS偏光画像を撮影する実験の概要を示す説明図である。
図12は、この実験で得られた差分偏光度の変化の一例を示すグラフである。
図12に示すグラフは、横軸に入射角度(光源位置)をとり、縦軸に差分偏光度をとったものである。カメラ仰角は水平から10度傾けた状態である。この差分偏光度は、各入射角度の撮影画像についての略中央部におけるP偏光成分(Rp)とS偏光成分(Rs)から上記式(1)より算出したものである。したがって、S偏光成分よりもP偏光成分の方が強い場合には、差分偏光度はプラスの値をとり、P偏光成分よりもS偏光成分の方が強い場合には、差分偏光度はマイナスの値をとることになる。
【0036】
図12に示すグラフをもとにして、図8〜図10に示した各状況における差分偏光度画像とモノクロ画像とのコントラストの違いについて説明する。
まず、図9に示した晴れの日の昼間(日向)のシーンについて説明する。
晴れの日の日向路面に照射される光の光源としては、太陽(太陽からの直射日光)、空(太陽からの光の散乱光成分)の2つに分類できるが、路面に照射される光成分は太陽からの直射日光が支配的成分である。すなわち、上述した実験状況とほぼ同様の状況であり、図12に示した実験結果をそのまま適用することが可能である。図12の実験結果から、差分偏光度は、光源(太陽)がカメラの前側にある逆光時には、マイナス側に大きくなる特性を有していることがわかる。一方、光源(太陽)がカメラの後側にある順光時には、アスファルト面(路面S)の差分偏光度は0となる。また、側壁等の路端障害物も、路面Sの場合と同様の拡散反射体であるため、差分偏光度が0になる。その結果、差分偏光度画像は画像全体でコントラストが下がり、ノイズが多いようなエッジ画像が得られることになる。
これに対し、モノクロ画像は、カメラで受光される輝度の違いがそのままコントラストに反映されるため、路面Sも、路端Rよりも路外に位置する路端障害物も、白線Wも、その反射特性に応じた適切なコントラストが得られる。
したがって、晴れの日の昼間の日向については、モノクロ画像を用いて白線エッジ部や路端エッジ部を識別することで、差分偏光度画像を用いる場合よりも高い識別精度を得ることができる。
【0037】
次に、図10に示した晴れの日の昼間(日影)のシーンについて説明する。
日影では、路面Sや側壁等の路端障害物に照射される光の光源は太陽からの直射光ではなく、空からの光(太陽からの光の散乱光成分)である。太陽からの直射光を光源とした差分偏光度は、その光源(太陽)の方位によって変化するので、図12に示したグラフのような入射角依存性を有する。これに対し、空からの光は、天空からの各高度、各方位から均等に路面Sや路端障害物に照射されるので、図12に示したグラフのような入射角依存性はない。そのため、空からの光(太陽からの光の散乱光成分)を光源とした路面Sの差分偏光度のグラフを描くと、図13に示すように、その差分偏光度が一定値(図12に示したグラフの略平均値に相当する値)をとることになる。
一方、側壁等の路端障害物や白線における差分偏光度についても、同様に一定値をとるものとなるが、路端障害物や白線(特に白線のエッジ部分)の光反射面は路面Sに対して角度を有するので、そのP偏光成分とS偏光成分の比率が異なるものとなる。したがって、その差分偏光度の一定値は、路面Sのものと異なるものとなる。特に、路面Sに対して直交する光反射面を有する路端障害物については、その差分偏光度の一定値が路面S一定値とは逆の極性を有するものとなる。その結果、晴れの日の昼間の日影については、路面Sと路端障害物や白線エッジ部との間でコントラストのある差分偏光度画像を得ることができる。
【0038】
このように、晴れの日の昼間の日影については、空からの光(太陽からの光の散乱光成分)が支配的な照明状況下での撮影となるため、モノクロ画像のコントラストは低下するが、差分偏光度画像については識別に必要な部分のコントラストがある画像が得られる。 したがって、晴れの日の昼間の日影については、差分偏光度画像を用いて白線エッジ部や路端エッジ部を識別することで、モノクロ画像を用いる場合よりも高い識別精度を得ることができる。
【0039】
次に、図8に示した雨の日や曇りの日のシーンについて説明する。
雨の日や曇りの日も、図10に示した日影のシーンと同様に、太陽からの直射光が存在しないため、差分偏光度画像については、日陰のシーンと同様にコントラストのとれたものとなる。特に、雨で路面Sや側壁等の路端障害物が濡れると、その反射面の鏡面反射成分が強くなるため、よりコントラストの高い差分偏光度画像を得ることが可能となる。これに対し、モノクロ画像では、日陰のシーンと同様にコントラストが低く、特に雨で路面等が濡れている場合には、そのエッジ画像全体が黒っぽくなり、コントラストが大幅に低下する。したがって、雨の日や曇りの日、特に雨の日については、差分偏光度画像を用いて白線エッジ部や路端エッジ部を識別することで、モノクロ画像を用いる場合よりも高い識別精度を得ることができる。
【0040】
以上のように、モノクロ画像のコントラストが生じにくい雨の日や曇りの日あるいは日影の場所のような太陽からの直射光が撮像領域内に照射されない状況下においては、差分偏光度画像の方がコントラストを大きくとることができるので、路端エッジ部や白線エッジ部等の識別対象物を高い精度で識別することができる。しかも、差分偏光度画像であれば、撮影方向(方位)による差異がないので、走行方向に関係なく安定して路端エッジ部や白線エッジ部の識別を行うことができる。したがって、このような状況下においては、差分偏光度画像を用いて識別することで、信頼性の高い識別結果を得ることができる。
しかしながら、また晴れの日の日向、特に順光時のように、太陽からの直射光が撮像領域内に照射される状況下においては、差分偏光度画像では十分なコントラストを得ることができない場合がある。一方、このような状況下では、モノクロ画像を用いることで高い識別精度を得ることが可能である。したがって、このような状況下では、モノクロ画像を用いて識別することで、信頼性の高い識別結果を得ることができる。
【0041】
次に、本実施形態に係る運転者支援システムにおいて識別対象物である路端エッジ部と白線エッジ部を識別するための処理の流れについて説明する。
図14は、路端エッジ部と白線エッジ部を識別する処理の流れを示すフローチャートである。
偏光カメラ10により偏光RAW画像データを取得したら、その偏光RAW画像データに含まれるP偏光強度データから得られる水平偏光画像データを水平偏光画像メモリ11に格納するとともに、その偏光RAW画像データに含まれるS偏光強度データから得られる垂直偏光画像データを垂直偏光画像メモリ12に格納する(S1)。その後、差分偏光度画像処理部15は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとに、上記式(1)に示す計算式より、差分偏光度(識別指標値)を算出する(S2)。この算出結果から得られる差分偏光度画像のデータは、差分偏光度画像処理部15内の図示しない画像メモリに格納される。また、モノクロ画像処理部13は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとに、モノクロ輝度(当該画素のP偏光強度+S偏光強度)を算出する(S3)。この算出結果から得られるモノクロ画像のデータは、モノクロ画像処理部13内の図示しない画像メモリに格納される。そして、白線識別部14では、モノクロ画像処理部13内の図示しない画像メモリに格納されたモノクロ画像のデータを用いて、上述した方法により白線認識処理を行う(S4)。
【0042】
続いて、画像選択部16で行われる画像選択処理(S5)について説明する。
図15は、画像選択処理の流れを示すフローチャートである。
本実施形態においては、1つの撮像画像(1フレームの画像)を左右2つの選定エリアに区分し、選定エリアごとに、識別に用いる画像を選択するようにしている。これは、自車が走行する右側領域と左側領域とでは撮影状況が異なる場合があるからである。具体的には、例えば、自車が走行する右側領域は日向であるが、左側領域は日陰になっているというような状況である。上述したように、日向と日陰では、認識に適した画像の種類(モノクロ画像か差分偏光度画像か)が変わるので、このように1つの撮像画像を複数の選定エリアに区分してそれぞれに適した種類の画像を用いて識別を行うことは、画像全体としての識別精度を向上させる上で有益である。
もちろん、このように複数の選定エリアに区分することは必須ではなく、1つの撮像画像全体についてモノクロ画像と差分偏光度画像のいずれかを用いて識別を行うようにしてもよい。
また、用途によって区分方法は適宜選定され、本実施形態のように左右2つの選定エリアに区分することに限定されるものではない。
【0043】
図16(a)〜(d)は、それぞれ撮影状況が異なる場合のモノクロ画像を示す説明図である。
図16(a)は、撮像領域全体が一様に晴れの日の日向となっている場合の例である。この場合、白線識別部14によりモノクロ画像に基づいて白線を識別することができるので、画像選択部16は、白線識別部14で識別された白線の位置を基準に、その白線の外側(画像左右方向外側)近傍に判定基準エリアP1,P2を設定する(S11)。各判定基準エリアP1,P2は、1つの撮像画像(1フレームの画像)を左右2つに区分して得られる選定エリア内それぞれに設定される。各判定基準エリアP1,P2の設定箇所は、路面Sである可能性が高い箇所に設定される。
図16(b)は、撮像領域全体が一様に晴れの日の日陰となっている場合(雨又は曇りの日の場合も同様)の例である。この場合、白線識別部14によりモノクロ画像に基づいて白線を識別することができないので、画像選択部16は、白線識別部14で識別された白線の位置を基準に判定基準エリアP1,P2を設定できない。よって、この場合は、予め実験等により決められた各選定エリア内の箇所(路面Sである可能性が高い箇所)にそれぞれ判定基準エリアP1,P2を設定する(S11)。
図16(c)は、晴れの日の日向において撮像画像中左側の選定エリア内に日陰がある場合の例である。この場合、画像選択部16は、右側の選定エリアについては、図16(a)の場合と同様に、白線識別部14で識別された白線の位置を基準にその白線の外側近傍に判定基準エリアP2を設定し、左側の選定エリアについては、図16(b)の場合と同様に、予め実験等により決められた箇所に判定基準エリアP1を設定する(S11)。
図16(d)は、晴れの日の日向において撮像画像中右側の選定エリア内に日陰がある場合の例である。この場合、画像選択部16は、左側の選定エリアについては、図16(a)の場合と同様に、白線識別部14で識別された白線の位置を基準にその白線の外側近傍に判定基準エリアP1を設定し、右側の選定エリアについては、図16(b)の場合と同様に、予め実験等により決められた箇所に判定基準エリアP2を設定する(S11)。
【0044】
画像選択部16は、以上のようにして設定した判定基準エリアP1,P2のモノクロ輝度と差分偏光度のデータを取得し(S12)、各判定基準エリアP1,P2のモノクロ輝度について、それぞれ、予め設定されたモノクロ閾値以上であるか否かを判断する(S13)。そして、判定基準エリアP1,P2のモノクロ輝度がモノクロ閾値未満(S13のNo)であると判断された選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する(S14)。ここで用いるモノクロ閾値は、その選定エリアの状況が晴れの日の日向のようにモノクロ画像にとって高い識別精度が得られる状況かどうかを判別するための基準となるもので、実験等により予め設定しておくことが可能である。したがって、モノクロ輝度がモノクロ閾値未満(S13のNo)であると判断された選定エリアは、晴れの日の日向(差分偏光度画像による認識精度が低い状況)ではないので、ここでは差分偏光度画像を選択する。
【0045】
一方、判定基準エリアP1,P2のモノクロ輝度がモノクロ閾値以上(S13のYes)であると判断された選定エリアについては、続いて、各判定基準エリアP1,P2の差分偏光度について、それぞれ、予め設定された差分偏光度閾値以上であるか否かを判断する(S15)。そして、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値以上であると判断された選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する(S14)。ここで用いる差分偏光度閾値は、その選定エリアの状況が差分偏光度画像に十分なコントラストが得られているかどうかを判別するための基準となるもので、実験等により予め設定しておくことが可能である。したがって、差分偏光度が差分偏光度閾値以上(S15のYes)であると判断された選定エリアは、差分偏光度画像に十分なコントラストが得られており、晴れの日の日向のように差分偏光度画像による認識精度が低い状況ではないので、ここでは差分偏光度画像を選択する。
【0046】
他方、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値未満(S15のNo)であると判断された選定エリアについては、物体識別部18での識別に用いる画像としてモノクロ画像を選択する(S16)。この場合、その選定エリアは、差分偏光度画像に十分なコントラストが得られておらず、かつ、晴れの日の日向のようにモノクロ画像に十分なコントラストが得られている状況なので、モノクロ画像を選択する。
【0047】
以上のような画像選択処理を行うことで、図16(a)に示した状況(撮像領域全体が一様に晴れの日の日向となっている状況)では、左右いずれの選定エリアも、モノクロ画像を用いて認識が行われる。
また、図16(b)に示した状況(撮像領域全体が一様に晴れの日の日陰となっている状況)では、左右いずれの選定エリアも、差分偏光度画像を用いて認識が行われる。
また、図16(c)に示した状況(晴れの日の日向において撮像画像中左側の選定エリア内に日陰がある状況)では、左側の選定エリアについては差分偏光度画像を用いて認識が行われ、右側の選定エリアについてはモノクロ画像を用いて認識が行われる。
また、図16(d)に示した状況(晴れの日の日向において撮像画像中右側の選定エリア内に日陰がある状況)では、右側の選定エリアについては差分偏光度画像を用いて認識が行われ、左側の選定エリアについてはモノクロ画像を用いて認識が行われる。
【0048】
画像選択処理(S5)を終えたら、次に、物体識別部18は、画像選択処理で選択された画像を用いて識別対象物の物体識別処理を行う(S6)。以下の説明では、識別対象物が路端エッジ部である場合を例に挙げて説明するが、識別対象物が白線エッジ部であったりその他の物体であったりする場合も同様である。なお、エッジ判別処理の内容は、モノクロ画像を用いる場合も差分偏光度画像を用いる場合も同様であるので、以下、差分偏光度画像を用いる場合を例に挙げて説明する。
【0049】
図17は、物体識別処理の流れを示すフローチャートである。
本実施形態の物体識別処理では、選定エリアごとに、画像選択処理で選択された画像(ここでは差分偏光度画像とする。)を入力し(S21)、その画像に対してエッジ判別処理を行う。このエッジ判別処理では、まず、画像選択処理で選択された差分偏光度画像を元にエッジ画像を作成する(S22)。このエッジ画像の作成は、処理対象として入力された差分偏光度画像に対して公知のエッジ抽出処理を施して作成する。エッジ抽出処理を施すことにより、差分偏光度が急激に変化する部分の変化度合いに応じたエッジ値(エッジの強さ)が得られ、そのエッジ値の違いを輝度の違いで表現したエッジ画像(図8〜図10を参照。)を得ることができる。
【0050】
具体的には、座標(x,y)における濃度の勾配を表す1次微分の値をベクトル量(fx,fy)として表現すると(fxはx方向の微分を、fyはy方向の微分を、それぞれ示す。)、エッジの強さは、下記の式(2)によって表される。このときの微分オペレータとしては、例えば下記の式(3)及び(4)に示すRobertsオペレータを利用することができる。
【数1】
【数2】
【0051】
このようにしてエッジ画像を作成したら、次に、そのエッジ画像を2値化する処理を行う(S23)。このときに用いるエッジ閾値としては、上述した判定基準エリアP1,P2におけるモノクロ輝度及び差分偏光度により適宜決められる値を用いる。
また、上述した画像選択処理における上記S13及び上記S15の判断結果を用いることで、撮像領域内の状況(路面の乾湿、天気など)を推測することが可能である。よって、その判断結果から路面の乾湿状態を推測し、過去の差分偏光度画像及びモノクロ画像のサンプル画像を路面の乾湿状態ごとに学習して、推測した路面の乾湿状態に応じて適切なエッジ閾値を決めるようにしてもよい。この場合、例えば雨の日のように路面が濡れていると鏡面反射成分が強くなるので、これを考慮した適切なエッジ閾値を設定することが可能となる。
また、撮像画像の上方部分と下方部分とでは、物体からの反射光の強度に差がある。これは、撮像画像の上方部分は遠くに位置する物体を撮影した部分であるため、近くに位置する物体を撮影した下方部分よりも、反射光の強度は小さいものとなる。したがって、撮像画像の上方部分と下方部分とではコントラストが異なることになるため、この違いを考慮し、撮像画像の上方部分と下方部分とで、用いるエッジ閾値を異ならせるようにしてもよい。
【0052】
次に、物体識別部18は、作成した2値化エッジ画像を用いて、識別対象物である路端エッジ部の候補点を抽出する処理を行う(S24)。この処理では、まず、2値化したエッジ画像に対して複数の処理ラインを設定する。本実施形態の処理ラインは、2値化エッジ画像内の横1列に並んだ画素列ごとに設定される。処理ラインの方向は、必ずしも横方向である必要はなく、縦方向又は斜め方向であってもよい。また、各処理ラインの画素数は、互いに同じであっても異なってもよい。また、処理ラインは、必ずしも、2値化エッジ画像内の全画素に対して設定される必要はなく、2値化エッジ画像内の適切に選択された一部の画素について設定するようにしてもよい。また、処理ラインではなく、処理ブロック(縦横それぞれ2画素以上からなるブロック)単位で行ってもよい。この場合、例えば、2値化エッジ画像に対して複数の処理ブロックを設定し、処理ブロックごとに、2値化エッジ画像のばらつき度合い(散らばり度合い)を示す標準偏差を算出し、算出した標準偏差が基準偏差閾値以上である場合にその処理ブロック内にエッジが存在すると判定することができる。なお、処理ブロックは、矩形の区域で設定されてもよいし、他の形状の区域で設定されてもよい。処理ブロックの大きさは、例えば10×10画素程度であってよい。なお、各処理ブロックは、同じサイズであっても、異なるサイズであってもよい。また、標準偏差に代えて、分散や平均偏差等の統計量が用いられてもよい。
【0053】
ここで、識別対象物である路端エッジ部は、白線よりも外側に位置するものである。したがって、白線識別部14により走行レーンの両側に位置する2つの白線が識別できている場合には、処理の簡素化のため、各処理ラインについて、各白線位置より外側に向かってエッジを探索する処理を行う。そして、この処理を処理ライン全部について行うことで、各白線よりも外側に位置するエッジ部を路端エッジ部の候補点として抽出する。
なお、白線識別部14により白線が識別できていない場合には、各処理ラインについて、例えば画像中央から左右方向に向けてエッジを探索する処理を行う。そして、この処理を処理ライン全部について行い、これにより得られるエッジ部を路端エッジ部の候補点として抽出する。
また、白線識別部14により1本の白線だけが識別できている場合には、各処理ラインについて、その白線の内側部分から左右方向に向けてエッジを探索する処理を行う。そして、この処理を処理ライン全部について行うことで、その白線を除いた画像部分に存在するエッジ部を路端エッジ部の候補点として抽出する。
【0054】
このようにして路端エッジ部の候補点を抽出した後、物体識別部18は、その路端エッジ部の候補点について形状近似認識処理を施し(S25)、路端エッジ部を特定する。具体的には、まず、物体識別部18は、路端エッジ部の候補点から一塊りの形状を認識し、これを、形状記憶部17に記憶されている路端エッジ部の形状テンプレートと比較する。そして、路端エッジ部の候補点からなる形状が形状テンプレートと一致した場合、その路端エッジ部の候補点が路端エッジ部であると特定し、その位置を記憶する。
【0055】
この形状近似認識処理では、抽出した路端エッジ部の候補点に対して形状近似認識により近似曲線を取得する。形状を認識する手法としては、最小二乗法やハフ変換やモデル方程式などの手法を用いる。なお、近似曲線を取得する際、信頼性の高い撮像画像の下方部分に位置する路端エッジ部の候補点ほど形状近似の投票値に大きな重みを持たせるようにすることが望ましい。このようにすれば、信頼性の低い撮像画像の上方部分で誤認識された路端エッジ部の候補点が存在しても、信頼性の高い撮像画像の下方部分で正常に認識された路端エッジ部の候補点が存在すれば、路端エッジ部を適切に特定することができる。
【0056】
また、路端エッジ部の特定精度を高めるために、次のような処理を付加してもよい。
上述した物体識別処理(S21〜S25)を、偏光カメラ10にて所定の時間間隔で連続的に撮影して得られる偏光画像データについて行い。路端エッジ部であると特定された領域については、その処理結果が所定のメモリに記憶される。このメモリに記憶される過去の処理結果(例えば、直前に撮像された偏光画像データについての処理結果)を利用し、今回の処理により特定された路端エッジ部が、その領域に対応する過去の処理結果でも路端エッジ部であると特定されていれば、今回の処理結果が信頼度の高いものであると判断する。そして、この信頼度を路端エッジ部として特定する際に利用する。今回の処理結果に係る領域に対応する過去の処理結果は、例えば、今回の処理結果に係る領域の位置と自車の進行方向とから、対応する過去の処理結果に係る領域の位置を検索して、対応する過去の処理結果を特定する。
【0057】
〔変形例1〕
次に、上記実施形態に係る物体識別装置において上記所定の選択条件に用いる差分偏光度閾値の設定を変更可能に構成した一変形例(以下、本変形例を「変形例1」という。)について説明する。
なお、本変形例1における物体識別装置の構成や動作において上記実施形態のものと同様の部分については説明を省略する。
【0058】
本変形例1においても、1つの撮像画像(1フレームの画像)を左右2つの選定エリアに区分し、選定エリアごとに、識別に用いる画像を選択するようにしている。具体的には、画像選択部16は、白線識別部14で識別された白線の位置を基準に、その白線の外側(画像左右方向外側)近傍に判定基準エリアP1,P2を設定し、各判定基準エリアP1,P2のモノクロ輝度と差分偏光度のデータを取得する。そして、判定基準エリアP1,P2のモノクロ輝度が予め設定されたモノクロ閾値未満である場合、その選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する。一方、判定基準エリアP1,P2のモノクロ輝度が予め設定されたモノクロ閾値以上である場合、画像選択部16は、その判定基準エリアP1,P2の差分偏光度が予め設定された差分偏光度閾値以上であるか否かを判断する。この判断において、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値以上であると判断された選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する。一方、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値未満であると判断された選定エリアについては、物体識別部18での識別に用いる画像としてモノクロ画像を選択する。
【0059】
ここで、路面Sである可能性が高い判定基準エリアP1,P2からの反射光を偏光カメラ10で受光して得られるP偏光強度及びS偏光強度並びにこれらの合計値であるモノクロ輝度は、同じ判定基準エリアP1,P2であってもその路面状態に応じて異なる値をとる。したがって、各判定基準エリアP1,P2のP偏光強度及びS偏光強度に基づく差分変更度を用いて物体識別部18での識別に適しているのは差分偏光度画像かモノクロ画像かを選択するための差分偏光度閾値の最適値も、判定基準エリアP1,P2の路面状態によって異なる値をなる。そこで、本変形例1では、判定基準エリアP1,P2の路面状態に応じて差分偏光度閾値を調整するようにしている。
【0060】
図18は、本変形例1における物体識別処理で用いる差分偏光度閾値の設定変更用テーブルを示す説明図である。
本変形例1においては、路面状態が、乾燥状態である場合、濡れた状態である場合、積雪状態である場合の3種類に区分し、その区分ごとに適した差分偏光度閾値を設定変更用テーブルに格納してある。路面状態は、1つの撮像画像(1フレームの画像)内の複数のサンプル箇所のP偏光強度やS偏光強度あるいは差分偏光度を用いることにより判別可能である。
【0061】
図19(a)〜(c)は、図18に示す設定変更用テーブルの各路面状態における外光の反射特性を説明するための説明図である。
図19(b)は、路面が濡れた状態であるときの外光の反射特性を示したものである。このような湿潤時の路面は、その表面(アスファルト等)の凹凸部分に水が溜まることによって鏡面に近い状態となる。そのため、その反射光は、鏡面における偏光特性を示す。鏡面における反射光のS偏光成分は、入射角がブリュースター角に等しいときにその反射光強度が0となり、P偏光成分は入射角の増大に伴ってその反射光強度が増加するという特性を示す。
【0062】
図19(a)は、路面が乾燥状態であるときの外光の反射特性を示したものである。乾燥時の路面は、その表面が粗面であるため、乱反射が支配的となる。そのため、乾燥時の路面からの反射光は、上述した湿潤時と比較して反射光の偏光特性が小さくなり、S偏光成分よりもP偏光成分の法が僅かに多くなる程度である。
【0063】
図19(c)は、路面が積雪状態であるときの外光の反射特性を示したものである。上述した湿潤時、乾燥時の路面からの反射光は、図19(a)や図19(b)に示したように、強い指向性を示す。これに対し、路面が積雪状態である場合には、図19(c)に示すように、路面からの反射光が全体に散乱し、その反射光は偏光特性を示さず、各偏光成分の反射率はほぼ等しくなる。
【0064】
以上のような各路面状態における反射光の偏光特性の違いによって路面状態を判別することができる。例えば、濡れた状態の路面では差分偏光度が最も大きい値をとり、積雪状態の路面では差分偏光度がほぼ0を示すので最も小さい値をとるので、差分偏光度の違いによって路面状態を判別することができる。
【0065】
図18に示した設定変更用テーブルに記述する各区分の適した差分偏光度閾値は、例えば、各区分に対応する路面状態における差分偏光度画像及びモノクロ輝度画像のサンプル画像を複数用意し、これらのサンプル画像により学習して決定する。設定変更用テーブルは、所定のメモリに記憶しておく。
【0066】
本変形例1における画像選択部16は、差分偏光度閾値を用いた判断に先立って、撮像画像内の複数のサンプル箇所のP偏光強度やS偏光強度あるいは差分偏光度から、路面状態が、乾燥状態であるか、濡れた状態であるか、積雪状態であるかを判別する。そして、その判別結果に対応する差分偏光度閾値を設定変更用テーブルから読み出し、判定基準エリアP1,P2の差分偏光度がその差分偏光度閾値以上であるか否かを判断する。
【0067】
図20は、路面状態の判別処理の流れの一例を示すフローチャートである。
まず、上記S11と同様にして判定基準エリアP1,P2を設定したら(S31)、各判定基準エリアP1,P2のモノクロ輝度及び差分偏光度のデータを取得する(S32)。そして、まず、取得したモノクロ輝度について、予め設定された第1閾値以上であるか否かを判断する(S33)。モノクロ輝度が第1閾値以上である場合、その選定エリアの路面状態は、乾燥した路面又は積雪状態の路面である可能性が高く、濡れた路面である可能性が低い。そこで、判定基準エリアP1,P2のモノクロ輝度が第1閾値未満であると判断された選定エリアについては、次に、取得した差分偏光度について、予め設定された第2閾値以上であるか否かを判断する(S34)。その結果、差分偏光度が第2閾値以上であると判断された選定エリアについては、その路面が濡れた状態であると判定する(S35)。
【0068】
一方、判定基準エリアP1,P2のモノクロ輝度が第1閾値以上であると判断された場合や、差分偏光度が第2閾値未満であると判断された選定エリアについては、次に、取得した差分偏光度が予め設定された第3閾値以上であるか否かを判断する(S36)。ここで、差分偏光度が第3閾値以上であると判断された選定エリアについては、その路面が乾燥した状態であると判定する(S37)。
他方、取得した差分偏光度が予め設定された第3閾値未満であると判断された選定エリアについては、その路面が積雪状態であると判定する(S38)。
【0069】
本変形例1によれば、物体識別部18での識別に適しているのは差分偏光度画像かモノクロ画像かを選択するにあたり、路面状態の違いによって不適切な選択がなされることが少なくなり、物体識別精度を更に向上させることができる。
なお、本変形例1では、差分偏光度だけでなくモノクロ輝度も併用して路面状態を判定しているが、差分偏光度だけでも同様の判定が可能である。
【0070】
〔変形例2〕
次に、上記実施形態に係る物体識別装置において判定基準エリアP1,P2の場所を変更した一変形例(以下、本変形例を「変形例2」という。)について説明する。
なお、本変形例2における物体識別装置の構成や動作において上記実施形態のものと同様の部分については説明を省略する。
【0071】
上述したように、撮像画像の上方部分と下方部分とでは、遠くに位置する物体を撮影した部分である上方部分よりも近くに位置する物体を撮影した下方部分の方が反射光の強度が大きく、信頼度が高い。よって、本変形例2では、物体識別部18での識別に適しているのは差分偏光度画像かモノクロ画像かを選択するためのP偏光強度及びS偏光強度を得る判定基準エリアP1,P2を、撮像画像の下方部分に設定する。
【0072】
図21(a)〜(d)は、それぞれ撮影状況が異なる撮像領域を模式的に表した説明図である。
本変形例2においては、判定基準エリアP1,P2を設定するにあたり、画像選択部16は、まず、撮像画像の下方部分を格子状に分割して、複数の判定基準対象ブロックを作成する。例えば、撮像画像の画像サイズが752×480[pixel]である場合、画像上端から360ライン目と400ライン目との間の画像部分を、5×5[pixel]からなる判定基準対象ブロックに分割する。
【0073】
図21(a)は、自車両の走行レーンの両側にそれぞれ白線が検出される場合の例である。
この場合、画像選択部16は、白線識別部14で識別された2本の白線の位置を基準に、各白線の外側(画像左右方向外側)近傍に判定基準エリアP1,P2を設定する。具体的には、まず、判定基準対象ブロックについて撮像画像下側から上側に向けて走査し、白線識別部14で識別された2本の白線の位置を特定する。2本の白線の位置を特定できたら、今度は各白線から外側(画像左右方向外側)へそれぞれ走査する。そして、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0074】
図21(b)は、自車両の走行レーンの右側に白線が検出される場合の例である。
この場合、画像選択部16は、まず、判定基準対象ブロックについて撮像画像下側から上側に向けて走査し、白線識別部14で識別された1本の白線(画像右側)の位置を特定する。このように画像右側の白線位置を特定できたら、画像右側の選定エリアに対応する判定基準エリアP2を特定するための走査は、その白線から外側(画像右側)に向けて行う。一方、画像左側の選定エリアに対応する判定基準エリアP1を特定するための走査は、画像左右方向中央から左側に向けて行う。なお、判定基準エリアP1,P2とする判定基準対象ブロックを決定方法は、図21(a)の場合と同様、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0075】
図21(c)は、自車両の走行レーンの左側に白線が検出される場合の例である。
この場合、画像選択部16は、まず、判定基準対象ブロックについて撮像画像下側から上側に向けて走査し、白線識別部14で識別された1本の白線(画像左側)の位置を特定する。このように画像左側の白線位置を特定できたら、画像左側の選定エリアに対応する判定基準エリアP1を特定するための走査は、その白線から外側(画像左側)に向けて行う。一方、画像右側の選定エリアに対応する判定基準エリアP2を特定するための走査は、画像左右方向中央から右側に向けて行う。なお、判定基準エリアP1,P2とする判定基準対象ブロックを決定方法は、図21(a)の場合と同様、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0076】
図21(d)は、白線が検出されない場合の例である。
この場合、画像選択部16は、画像左右方向中央から右側と左側に向けて走査する。そして、図21(a)の場合と同様、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0077】
なお、判定基準対象ブロックについて走査して得られた白線位置が、近い過去(例えば直近5フレーム前まで)の1つ以上の撮影画像における白線位置と同様の位置であった場合には、当該過去の撮影画像で設定した判定基準エリアP1,P2をそのまま用いるようにしてもよい。この場合、例えば直近5フレーム前までの撮影画像中のすべてから白線がロストしたときに、図21(a)〜(d)を参照して説明した上述の方法により判定基準エリアP1,P2を設定する。
【0078】
以上、本実施形態に係る物体識別装置は、撮像領域内に存在する識別対象物である路端エッジ部を撮像した撮像画像中における路端エッジ部の画像領域を識別する物体識別装置である。この物体識別装置は、撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像(P偏光画像及びS偏光画像)を撮像する撮像手段としての偏光カメラ10と、偏光カメラ10が撮像したP偏光画像及びS偏光画像をそれぞれ所定の処理領域(画素ごと)に分割し、画素ごとに、P偏光画像及びS偏光画像間における輝度合計値であるモノクロ輝度を算出する輝度算出手段としてのモノクロ画像処理部13と、画素ごとに当該輝度合計値に対するP偏光画像及びS偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段としての差分偏光度画像処理部15と、差分偏光度画像処理部15が算出する差分偏光度が所定の選択条件を満たすか否かを判断する選択条件判断手段としての画像選択部16と、画像選択部16が所定の選択条件を満たすと判断した場合には、差分偏光度画像処理部15が算出した差分偏光度に基づいて路端エッジ部に対応する画素を特定し、画像選択部16が所定の選択条件を満たさないと判断した場合には、モノクロ画像処理部13が算出したモノクロ輝度に基づいて路端エッジ部に対応する画素を特定し、路端エッジ部に対応する画素として特定した互いに近接する複数の画素を路端エッジ部の画像領域であると識別する物体識別処理を行う物体識別処理手段としての物体識別部18とを有する。これにより、晴れの日の日向や日陰あるいは雨の日や曇りの日などの状況が違っても、高い識別精度で路端エッジ部を識別することができる。
また、本実施形態において、画像選択部16は、偏光カメラ10が撮像したP偏光画像及びS偏光画像を区分して得られる複数の選定エリア(画像を左右2つに区分して得られる選定エリア)ごとに、差分偏光度画像処理部15が算出する差分偏光度が所定の選択条件を満たすか否かを判断し、物体識別部18は、画像選択部16が所定の選択条件を満たすと判断した選定エリアについては、差分偏光度画像処理部15が算出した差分偏光度に基づいて路端エッジ部に対応する画素を特定し、画像選択部16が所定の選択条件を満たさないと判断した選定エリアについては、モノクロ画像処理部13が算出したモノクロ輝度に基づいて路端エッジ部に対応する画素を特定する。これにより、選定エリアごとに状況が異なる場合でも、各選定エリアをそれぞれの状況に応じた画像を用いて路端エッジ部を識別して、全体として高い識別精度を得ることができる。
また、本実施形態においては、上記変形例1で説明したように、画像選択部16を、偏光カメラ10が撮像したP偏光画像及びS偏光画像内に設定される所定箇所(判定基準エリアP1,P2)のモノクロ輝度及び差分偏光度の少なくとも一方から上記所定の選択条件に用いる差分偏光度閾値を設定する閾値設定手段として機能させ、上記所定の選択条件に、差分偏光度画像処理部15が算出する差分偏光度が上記差分偏光度閾値以上であるという条件を含ませてもよい。これにより、差分偏光度画像について高いコントラストが得られる場合には、差分偏光度画像を用いて路端エッジ部の識別が行われるので、路端エッジ部を高い精度で識別することができる。
また、本実施形態では、更に、上記所定の選択条件に、モノクロ画像処理部13が算出するモノクロ輝度がモノクロ閾値未満であるという条件を含んでいる。これにより、モノクロ画像では十分なコントラストが得られない状況下については、差分偏光度画像を用いて路端エッジ部の識別が行われる。多くの場合、モノクロ画像で十分なコントラストが得られない状況下では、差分偏光度画像によればモノクロ画像よりも高いコントラストが得られる。よって、そのような状況下でもより高い識別精度を得ることが可能となる。
また、本実施形態において、物体識別部18は、路端エッジ部に対応する画素を特定する処理として、互いに隣接する処理領域間の輝度もしくは差分偏光度の違いの大きさを示すエッジ値を算出するエッジ抽出処理を行い、これにより抽出したエッジ値に基づいて路端エッジ部に対応する処理領域を特定する処理を行う。これにより、迅速かつ高い精度で路端エッジ部を識別することができる。
特に、本実施形態のように、エッジ抽出処理により抽出したエッジ値を所定のエッジ閾値により2値化処理し、その2値化処理後の値に基づいて路端エッジ部に対応する処理領域を特定する処理を行い、物体識別部18を、差分偏光度画像処理部15が算出した差分偏光度及びモノクロ画像処理部13が算出したモノクロ輝度の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段、及び、判別した状況に応じてエッジ閾値を決定するエッジ閾値決定手段として機能させることで、状況の依存性が少ない安定した識別が可能となる。
この場合、本実施形態のように、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いてエッジ閾値を決定することで、より適切なエッジ閾値を用いることができ、より高い精度で路端エッジ部を識別することができる。
また、本実施形態では、路端エッジ部を偏光カメラ10により撮像したときの形状を示す形状情報としての形状テンプレートを記憶する形状情報記憶手段しての形状記憶部17を設け、物体識別部18は、路端エッジ部に対応する画素として特定した互いに近接する複数の画素により示される形状が形状記憶部17に記憶されている路端エッジ部の形状テンプレートの形状に近似しているかどうかを判断する形状近似判断処理を行い、その形状近似判断処理により近似していると判断したときには、当該複数の画素を路端エッジ部の画像領域であると識別する。これにより、より高い精度で路端エッジ部を識別することができる。
この場合、上記形状近似判断処理において、P偏光画像及びS偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域(上下2つ)に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる画像上方部分よりも撮像距離が近い区域に含まれる画像下方部分の方が判断結果に与える影響が大きいように重み付けを行う。これにより、より高い精度で路端エッジ部を識別することができる。
また、物体識別部18が過去に行った識別処理の結果を記憶する識別処理結果記憶手段としてのメモリに保存しておき、物体識別部18は、このメモリに保存しておいた過去の識別処理の結果も用いて識別処理を行う。これにより、過去の識別結果と同じ結果が得られたか否かについて識別結果の信頼度を判断することが可能となる。
【0079】
なお、本実施形態に係る運転者支援システムは、そのシステム全体が車両に搭載されているが、必ずしもシステム全体が車両に搭載されている必要はない。したがって、例えば、偏光カメラ10のみを自車に搭載して、残りのシステム構成要素を自車とは別の場所に遠隔配置するようにしてもよい。この場合、車両の走行状態を運転者以外の者が客観的に把握するシステムとすることもできる。
【符号の説明】
【0080】
10 偏光カメラ
11 水平偏光画像メモリ
12 垂直偏光画像メモリ
13 モノクロ画像処理部
14 白線識別部
15 差分偏光度画像処理部
16 画像選択部
17 形状記憶部
18 物体識別部
【先行技術文献】
【特許文献】
【0081】
【特許文献1】特開平11−175702号公報
【技術分野】
【0001】
本発明は、撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置に関するものである。
【背景技術】
【0002】
この種の物体識別装置は、車両、船舶、航空機あるいは産業用ロボットなどの移動体の移動制御を行う移動体制御装置や、移動体の運転者に有益な情報を提供する情報提供装置などに広く利用されている。具体例を挙げると、例えば、車両の運転者(ドライバー)の運転負荷を軽減させるための、ACC(Adaptive Cruise Control)等の運転者支援システムに利用されるものが知られている。このような車両走行支援システムにおいては、自車が障害物等に衝突することを回避したり衝突時の衝撃を軽減したりするための自動ブレーキ機能や警報機能、先行車との車間距離を維持するための自車速度調整機能、自車が走行している走行レーンからの逸脱防止を支援する機能などの様々な機能を実現するために、自車の周囲に存在する障害物、先行車、車線などの物体を適切に区別して認識する(識別する)ことが必要となる。そのため、従来から様々な物体識別装置が提案されている。
【0003】
特許文献1には、撮影により得られた道路画像(撮像画像)から画像内のラインを検出することにより車両の走行レーンを区画する車線(白線)に対する自車の相対変位を検出するために、車線(物体)を識別するための物体識別装置が開示されている。この物体識別装置では、雨天により道路上に水たまりが存在する場合、太陽光等がこの水たまりで鏡面反射して、道路上の車線(白線)と同程度の輝度で撮影されることにより、水たまり部分を車線(白線)と誤認識してしまうという問題を解決するものである。具体的には、白線識別処理を行う前に道路画像から水たまり部分を取り除くため、撮影した道路画像から鏡面反射成分のみを除去することにより水たまり部分を取り除き、残りの散乱光成分から白線を認識する。鏡面反射成分のみを除去する方法としては、鏡面反射の水平偏光成分はブリュースター角でほぼ0となること、及び、散乱光成分は垂直偏光成分と水平偏光成分がほぼ等量含まれていることを利用して、次のように行っている。すなわち、撮影した道路画像中の垂直偏光成分と水平偏光成分との差分を算出し、その差分値に対し、水平偏光成分中に含まれる入射角に応じた鏡面反射成分を除去するための補正係数を乗じることで、鏡面反射成分を算出する。そして、算出した鏡面反射成分を水平偏光成分から差し引くことで、道路画像から鏡面反射成分のみを除去した錯乱光成分の画像を得る。
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の物体識別装置の多くは、撮像画像中の輝度の違いを利用して、路面上に存在する障害物(路端に存在する側壁、ガードレール、電信柱、街灯、歩行者通路の段差部等の路端障害物など)、先行車、車線などの識別対象物の境界(エッジ)を抽出し、そのエッジにより区画される領域を識別対象物の画像領域であると識別するものが一般的である。しかしながら、この方法では、路面上に輝度が大きく異なる部分が存在すると、これらの部分間の境界をエッジであるとして抽出してしまい、路面の一部を車線等の識別対象物であると誤認識してしまう場合がある。特に、路面上の日向部分と日陰部分との間では輝度に大きな違いがあるため、路面上の日陰部分(輝度が小さい部分)を日向部分(輝度が大きい部分)の路面とは別の物体であると誤認識してしまう場合がある。このような誤認識は、例えばACCであれば誤認識した日陰部分を路端に存在する側壁等の障害物であるとして、衝突回避動作を実施してしまうなど、誤制御あるいは誤処理を引き起こす原因となる。
【0005】
本出願人は、特願2009−295963号において、撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに得られる当該2つの偏光画像間における輝度合計値に対する当該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出した結果を用いて路面上の立体物を識別する方法を提案した。詳しくは、算出した差分偏光度に基づいて識別対象物に対応する処理領域を特定し、識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域を識別対象物の画像領域であると識別する方法である。この方法によれば、輝度の違いを利用する従来の方法では撮像画像中の輝度に明確な違いがないために識別精度が悪い状況であっても、撮像画像中の立体物を高い精度で識別することが可能である。
【0006】
しかしながら、本発明者らは、研究の結果、差分偏光度を用いて撮像画像中における立体物などの識別対象物の画像領域を識別する場合でも、その撮像状況によっては、高い識別精度が得られない場合があるという知見を得た。詳しくは、算出した差分偏光度により得られる差分偏光度画像のコントラストが低くなるような撮像状況下で撮像して得た撮像画像については、差分偏光度を用いても、その撮像画像中の識別対象物の画像領域を高い精度で識別できない場合があるという問題があることを見出したのである。具体例を挙げると、例えば晴れの日の順光時における路面上の路端障害物や車線を識別する場合には、差分偏光度を用いても高い識別精度で識別することができない場合がある。
【0007】
以上の問題は、運転者支援システムに用いられる物体識別装置に限らず、ロボット制御などに用いられる物体識別装置など、あらゆる物体識別装置においても同様に生じ得る問題である。
また、この問題を、撮像手段とは別の検出機器を新たに用意して解決することは、コストが高騰するため好ましくない。よって、従来の物体識別装置において物体からの反射光強度(輝度)を検出するために一般に用いられている検出機器である撮像手段を用いて、上記問題を解決することができれば、コストの観点から有益である。
【0008】
本発明は、上記問題に鑑みなされたものであり、その目的とするところは、差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、その撮像画像中の識別対象物の画像領域を高い精度で識別することが可能な物体識別装置を提供することである。
【課題を解決するための手段】
【0009】
上記目的を達成するために、請求項1の発明は、撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、該差分偏光度算出手段が算出する差分偏光度が所定の選択条件を満たすか否かを判断する選択条件判断手段と、該選択条件判断手段が該所定の選択条件を満たすと判断した場合には、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した場合には、該輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定し、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域を該識別対象物の画像領域であると識別する物体識別処理を行う物体識別処理手段とを有することを特徴とするものである。
また、請求項2の発明は、請求項1の物体識別装置において、上記選択条件判断手段は、上記撮像手段が撮像した2つの偏光画像を区分して得られる複数の選定エリアごとに、上記差分偏光度算出手段が算出する差分偏光度が上記所定の選択条件を満たすか否かを判断し、上記物体識別処理手段は、該選択条件判断手段が該所定の選択条件を満たすと判断した選定エリアについては、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した選定エリアについては、上記輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定することを特徴とするものである。
また、請求項3の発明は、請求項1又は2の物体識別装置において、上記撮像手段が撮像した2つの偏光画像内に設定される所定箇所の輝度合計値及び差分偏光度の少なくとも一方から、上記所定の選択条件に用いる差分偏光度用閾値を設定する閾値設定手段を有し、上記所定の選択条件は、上記差分偏光度算出手段が算出する差分偏光度が上記差分偏光度用閾値以上であるという条件を含むことを特徴とするものである。
また、請求項4の発明は、請求項3の物体識別装置において、上記所定の選択条件は、上記輝度算出手段が算出する輝度合計値が所定の閾値未満であるという条件を含むことを特徴とするものである。
また、請求項5の発明は、請求項1乃至4のいずれか1項に記載の物体識別装置において、上記物体識別処理手段は、上記識別対象物に対応する処理領域を特定する処理として、互いに隣接する処理領域間の輝度もしくは差分偏光度の違いの大きさを示すエッジ値を算出するエッジ抽出処理を行い、これにより抽出したエッジ値に基づいて該識別対象物に対応する処理領域を特定する処理を行うことを特徴とするものである。
また、請求項6の発明は、請求項5の物体識別装置において、上記物体識別処理手段は、上記エッジ抽出処理により抽出したエッジ値を所定のエッジ閾値により2値化処理し、その2値化処理後の値に基づいて上記識別対象物に対応する処理領域を特定する処理を行うものであり、上記差分偏光度算出手段が算出した差分偏光度及び上記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、該状況判別手段が判別した状況に応じて該エッジ閾値を決定するエッジ閾値決定手段とを有することを特徴とするものである。
また、請求項7の発明は、請求項6の物体識別装置において、上記エッジ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記エッジ閾値を決定することを特徴とするものである。
また、請求項8の発明は、請求項5乃至7のいずれか1項に記載の物体識別装置において、上記識別対象物を上記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、上記物体識別処理手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が上記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とするものである。
また、請求項9の発明は、請求項8の物体識別装置において、上記物体識別処理手段が行う上記形状近似判断処理では、上記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とするものである。
また、請求項10の発明は、請求項1乃至9のいずれか1項に記載の物体識別装置において、上記物体識別処理手段が過去に行った上記物体識別処理の結果を記憶する識別処理結果記憶手段を有し、上記物体識別処理手段は、上記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて上記物体識別処理を行うことを特徴とするものである。
【0010】
本発明者らは、研究の結果、差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、輝度を用いて識別を行うことにより、差分偏光度を用いて識別する場合よりも高い精度での識別が可能であるという知見を得た。この知見に基づき、本発明では、差分偏光度算出手段が算出する差分偏光度が所定の選択条件を満たすか否かを判断し、満たすと判断した場合は差分偏光度に基づいて識別対象物に対応する処理領域を特定するが、満たさないと判断した場合は輝度に基づいて識別対象物に対応する処理領域を特定する。これにより、差分偏光度を用いた場合には高い識別精度が得られない状況下では輝度を用いて識別を行うことが可能となり、そのような状況下であっても差分偏光度よりも高い識別精度を得ることが可能となる。
しかも、本発明によれば、識別に用いる輝度として、差分偏光度を算出するために用いる撮像手段が撮像した2つの偏光画像間の輝度合計値を使用するので、識別に用いる輝度を得るために新たな検出機器を設けることは不要である。
なお、差分偏光度を用いた場合には高い識別精度が得られない状況が撮像画像中の一部分に存在している場合には、当該一部分については輝度を用いて識別対象物に対応する処理領域を特定し、残りの部分は差分偏光度を用いて識別対象物に対応する処理領域を特定するようにしてもよい。
【発明の効果】
【0011】
以上、本発明によれば、差分偏光度を用いて撮像画像中における識別対象物の画像領域を識別することが困難な状況下であっても、その撮像画像中の識別対象物の画像領域を高い精度で識別することが可能となるという優れた効果が得られる。
【図面の簡単な説明】
【0012】
【図1】実施形態に係る運転者支援システムの機能ブロック図である。
【図2】同運転者支援システムに利用可能な偏光カメラの一構成例を示す説明図である。
【図3】同運転者支援システムに利用可能な偏光カメラの他の構成例を示す説明図である。
【図4】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図5】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図6】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図7】同運転者支援システムに利用可能な偏光カメラの更に他の構成例を示す説明図である。
【図8】(a)〜(d)は、雨の日あるいは曇りの日の昼間に、自動車に搭載した偏光カメラで走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図である。
【図9】(a)〜(d)は、晴れの日の昼間に、自動車に搭載した偏光カメラで走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図である。
【図10】(a)〜(d)は、晴れの日の昼間に、日陰となっている場所において、自動車に搭載した偏光カメラで走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図である。
【図11】実験室において、アスファルト面に対し、光源位置を変化させ、固定配置されたカメラでP偏光画像とS偏光画像を撮影する実験の概要を示す説明図である。
【図12】同実験で得られた差分偏光度の変化の一例を示すグラフである。
【図13】太陽からの光の散乱光成分を光源とした路面の差分偏光度を示すグラフである。
【図14】路端エッジ部と白線エッジ部を識別する処理の流れを示すフローチャートである。
【図15】画像選択処理の流れを示すフローチャートである。
【図16】(a)〜(d)は、それぞれ撮影状況が異なる場合のモノクロ画像を示す説明図である。
【図17】物体識別処理の流れを示すフローチャートである。
【図18】変形例1における物体識別処理で用いる差分偏光度閾値の設定変更用テーブルを示す説明図である。
【図19】(a)〜(c)は、図18に示す設定変更用テーブルの各路面状態における外光の反射特性を説明するための説明図である。
【図20】路面状態の判別処理の流れの一例を示すフローチャートである。
【図21】(a)〜(d)は、それぞれ撮影状況が異なる撮像領域を模式的に表した説明図である。
【発明を実施するための形態】
【0013】
以下、本発明に係る物体識別装置を用いて、走行路面と路端障害物との境界である識別対象物としての路端エッジ部や白線エッジ部を識別し、その結果を用いて車両の運転者(ドライバー)の運転負荷を軽減させるための運転者支援システムに適用した一実施形態について説明する。
図1は、本実施形態に係る運転者支援システムの機能ブロック図である。
図示しない車両に搭載された撮像手段としての偏光カメラ10により、移動体である車両が走行する路面(移動面)を含む自車周囲の風景を撮影し、画素(処理領域)ごとの垂直偏光強度(以下、単に「S偏光強度」という。)及び水平偏光強度(以下、単に「P偏光強度」という。)を含んだ偏光RAW画像データを取得する。偏光RAW画像データに含まれるP偏光強度データから得られる水平偏光画像データは水平偏光画像メモリ11に、偏光RAW画像データに含まれるS偏光強度データから得られる垂直偏光画像データは垂直偏光画像メモリ12にそれぞれ格納される。これらの画像データは、それぞれ、輝度算出手段としてのモノクロ画像処理部13と、差分偏光度算出手段としての差分偏光度画像処理部15に送信される。
【0014】
偏光カメラ10は、受光素子であるCCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の撮像素子により、例えばメガピクセルサイズの画素を有する周囲画像を撮像するものである。偏光カメラ10は、リアルタイムに近い短い時間間隔で周囲画像を連続的に取得するのが好ましい。偏光カメラ10は、例えばルームミラーに取り付けられ、車両前方の風景(路面を含むフロントビュー)を撮像するものであってもよいし、例えばサイドミラーに取り付けられ、車両側方の風景を撮像するものであってもよいし、例えばバックドアに取り付けられ、車両後方の風景を撮像するものであってもよい。本実施形態では、ルームミラーに取り付けられて車両前方の風景(路面を含むフロントビュー)を撮像する場合を例に挙げて説明する。
【0015】
図2は、偏光カメラ10の一構成例を示す説明図である。
この偏光カメラ10Aは、図2に示すように、CCD等の撮像素子を備えた1台のカメラ101の前面に、回転駆動する回転偏光子102を配置したものである。この偏光カメラ10Aは、回転偏光子102の回転角に応じて通過する光の偏光方向が変化する。よって、カメラ101は、回転偏光子102を回転駆動させながら撮像することで、P偏光画像とS偏光画像とを交互に撮像することができる。
【0016】
図3は、偏光カメラ10の他の構成例を示す説明図である。
この偏光カメラ10Bは、図3のように、CCD等の撮像素子を備えた2台のカメラ111,112を用い、それぞれの前面に、S偏光を透過するS偏光フィルタ113とP偏光を透過するP偏光フィルタ114とを配置したものである。図2に示した偏光カメラ10Aでは、1台のカメラ101でP偏光画像とS偏光画像とを交互に撮像するため、P偏光画像とS偏光画像とを同時に撮影することができなかったが、図3に示した偏光カメラ10Bでは、P偏光画像とS偏光画像とを同時に撮影することができる。
【0017】
図4は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Cは、図4に示すように、撮像素子がP偏光画像とS偏光画像とについて個別に設けられている点では、図3に示した偏光カメラ10Bと同様であるが、各撮像素子が図3に示した偏光カメラ10Bの場合よりも近接配置されている点で大きく異なる。この偏光カメラ10Cによれば、図3に示した偏光カメラ10Bよりも小型化できる。図4に示す偏光カメラ10Cは、レンズアレイ122と、遮光スペーサ123と、偏光フィルタ124と、スペーサ125と、固体撮像ユニット126とが積層されて形成されている。レンズアレイ122は、2つの撮像レンズ122a,122bを有する。この2つの撮像レンズ122a,122bは、互いに独立した同一形状の例えば非球面レンズ等からなる単レンズで形成され、それぞれの光軸121a,121bが互いに平行となるように、かつ、同一平面上に配置している。遮光スペーサ123は、2つの開口部123a,123bを有し、レンズアレイ122に対して被写体側とは反対側に設けられている。2つの開口部123a,123bは、光軸121a,121bをそれぞれ中心として所定の大きさで貫通され、内壁面には黒塗りや粗面やつや消しなどにより光の反射防止処理がされている。偏光フィルタ124は、偏光面が90度異なる2つの偏光子領域124a,124bを有する領域分割型の偏光子フィルタであり、遮光スペーサ123に対してレンズアレイ122とは反対側に設けられている。この偏光子領域124a,124bは、不特定の方向に電磁界が振動する無偏光を、偏光面に沿った方向の振動成分(偏光成分)だけを透過させて直線偏光にする。なお、金属の微細凹凸形状で形成されたワイヤグリッド方式や、オートクローニング型のフォトニック結晶方式を用いることで、境界部が明瞭な領域分割型の偏光子フィルタを得ることができる。スペーサ125は、偏光フィルタ124の偏光子領域偏光a,偏光bに対応する領域が貫通した開口部125aを有する矩形枠状に形成され、偏光フィルタ124に対して遮光スペース123とは反対側に設けられている。固体撮像ユニット126は、基板127上に搭載された2つの固体撮像素子126a,126bを有し、スペーサ125に対して偏光フィルタ124とは反対側に設けられている。本実施形態では、モノクロのセンシングを行うため、これらの固体撮像素子126a,126bはカラーフィルタを備えていない。ただし、カラー画像のセンシングを行う場合には、カラーフィルタを配置する。
【0018】
図5は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Dは、図5に示すように、1:1の透過性を備えるハーフミラー131と、反射ミラー132と、S偏光フィルタ133と、P偏光フィルタ134と、S偏光フィルタ133を介してS偏光を受光するS偏光用CCD135と、P偏光フィルタ134を介してP偏光を受光するP偏光用CCD136とを有する。図3や図4に示した偏光カメラ10B,10Cでは、S偏光画像とP偏光画像の同時撮影は可能であるものの、視差が生じてしまう。これに対し、図5に示した偏光カメラ10Dでは、図示しない同一の撮像光学系(レンズ)を介して受光される同じ光を使ってS偏光画像とP偏光画像を同時撮影するため、視差が生じない。よって、視差ずれ補正などの処理が不要となる。
なお、ハーフミラー131に代えて、P偏光を反射し、かつ、S偏光を透過するプリズム等の偏光ビームスプリッタを用いてもよい。このような偏光ビームスプリッタを用いることで、S偏光フィルタ133やP偏光フィルタ134を省略することが可能となり、光学系の簡素化が図られるとともに、光利用効率も向上できる。
【0019】
図6は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Eは、図6に示すように、撮像レンズ142aの光軸141に沿ってカメラ構成要素が積層されたユニットである点では、図4に示した偏光カメラ10Cと同様であるが、S偏光画像とP偏光画像を単一の撮像レンズ(撮像レンズは光軸に複数枚積層配置してもよい。)142で撮像する点で異なっている。この偏光カメラ10Eによれば、図5に示した偏光カメラ10Dと同様に、S偏光画像とP偏光画像との間で視差が生じない。しかも、図5に示した偏光カメラ10Dよりも小型化できる。なお、図6に示した偏光カメラ10Eの偏光フィルタ144は、偏光面が90度異なる2種類の偏光子領域144a,144bが2つずつ設けられた領域分割型の偏光子フィルタとなっており、これに伴い、4つの固体撮像素子146a,146b,146c,146dが設けられている。
【0020】
図7は、偏光カメラ10の更に他の構成例を示す説明図である。
この偏光カメラ10Fは、図7に示すように、領域分割型のフィルタを採用したものである。図7において、縦横に並ぶ正方形が各受光素子の受光部151を示し、縦線で示す領域がS偏光フィルタ152の領域を示し、横線で示す領域がP偏光フィルタ153の領域を示す。この偏光カメラ10Fは、受光素子の画素に1:1で対応させたものではなく、各フィルタ152,153の領域は、横方向に受光素子一個分の幅を持ち、領域の境界線の傾きは2、つまり横方向に1画素分進む間に縦方向に2画素分変化する角度を持つ斜めの帯の形状をとる。このような特殊なフィルタ配置パターンと信号処理を組み合わせることによって、撮像素子配列と領域分割フィルタを接合する際の位置合せの精度が十分でなくとも、画面全体で各フィルタ透過画像を再現することを可能とし、S偏光画像及びP偏光画像を撮像できる低コストの偏光カメラを実現できる。
【0021】
モノクロ画像処理部13は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとのモノクロ輝度(当該画素のP偏光強度+S偏光強度)を算出する。このモノクロ輝度データを用いてモノクロ画像が生成できる。モノクロ画像処理部13が算出したモノクロ輝度データは、ライン検出手段としての白線識別部14に出力される。
差分偏光度画像処理部15は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとに差分偏光度(識別指標値)を算出する。この差分偏光度を用いて差分偏光度画像が生成できる。差分偏光度は、下記の式(1)に示す計算式から求められる。すなわち、差分偏光度は、P偏光強度とS偏光強度との合計値(輝度合計値)に対するP偏光強度とS偏光強度との差分値(輝度差分値)の比率である。また、差分偏光度は、輝度合計値に対するP偏向強度の比率(P偏光比)と、輝度合計値に対するS偏向強度の比率(S偏光比)との差分値であると言い換えることもできる。なお、本実施形態では、P偏光強度からS偏光強度を差し引く場合について説明するが、S偏光強度からP偏光強度を差し引くようにしてもよい。差分偏光度画像処理部15が算出した差分偏光度のデータは、画像選択部16に出力される。
差分偏光度=(P偏光強度−S偏光強度)/(P偏光強度+S偏光強度) ・・(1)
【0022】
白線識別部14は、モノクロ画像処理部13により算出されたモノクロ輝度データに基づき、以下の方法により走行路面上の白線を識別するものである。なお、ここでいう白線には、黄色線等の任意の色の線、実線、破線、点線、二重線等の道路を区画するあらゆる線を含んでよい。
通常の道路の車線(区画線)は、運転者が視認しやすいように、アスファルト等の黒い部分に対し、コントラストの高い色(白等)で形成されている。したがって、このような車線(ここでは白線とする。)の輝度は、その他の場所に存在するアスファルト等の物体よりも十分に大きい。よって、モノクロ輝度データが所定の閾値以上の部分を白線と判定することができる。なお、本実施形態で用いるモノクロ輝度データは、上述した偏光カメラ10により得たP偏光強度とS偏光強度の合計値を用いている。
【0023】
白線識別部14により白線エッジ部を識別した結果は、様々な処理に利用することが可能である。
例えば、CRTや液晶等で構成される車内の情報報知手段である表示部(ディスプレイ)に、モノクロ画像処理部で算出した輝度データを用いて生成されるモノクロ画像(フロントビュー画像)を表示し、その画像中の白線部分の情報を、運転者にとって有益な情報として報知するために、運転者が見やすい表示形態で表示する処理が挙げられる。これによれば、例えば、運転者が目視で白線を認識することが困難な状況下であっても、運転者は表示部のフロントビュー画像を見ることで、自車と白線との相対位置関係を把握することができ、白線で区画される走行レーンを維持して走行させることが容易になる。
また、例えば、白線識別部14により識別された白線の位置情報から、自車と白線との相対位置関係を把握する処理を行い、自車が白線で区画される走行レーン上の適正走行位置から外れて走行していないかどうかを判断し、適正走行位置から外れて走行しているときに警報音等を発する処理が挙げられる。あるいは、適正走行位置から外れて走行しているときに、自動ブレーキ機能を実行して、自車の走行速度を落とすような処理も挙げられる。
【0024】
本実施形態においては、白線識別部14において白線エッジ部を識別できた場合、画像中における白線エッジ部の位置を特定するための情報を画像選択部16に出力する。このとき、モノクロ画像処理部13で処理されたモノクロ画像から白線部分を除去した白線無しのモノクロ画像を画像選択部16に出力するようにしてもよい。
一方、白線識別部14において白線エッジ部が識別できなかった場合、画像中における白線エッジ部の位置を特定するための情報は画像選択部16に出力されない。
【0025】
画像選択部16は、白線識別部14から出力されたモノクロ画像と、差分偏光度画像処理部15で処理された差分偏光度画像とのうち、後述する物体識別部18で用いる画像を所定の選択条件に従って選択する処理を行う。この処理の具体的な内容については後述する。
【0026】
物体識別部18は、後述する方法により、画像選択部16により選択されるモノクロ画像のモノクロ輝度あるいは差分偏光度画像の差分偏光度を用いて路端エッジ部を特定し、その路端エッジ部の特定結果を、後述の形状記憶部17に記憶されている形状テンプレートに照らし合わせて、最終的に路端の画像領域(位置)を識別する。なお、本実施形態では、識別対象物が、走行路面の路端近傍に存在する側壁、ガードレール、路端の段差部等の路端障害物と走行路面との境界である路端エッジ部である場合について説明するが、電信柱、街灯、標識などの障害物、走行路面上を走行する他の車両、走行路面上又は路肩に居る人、動物、自転車等の衝突回避物など、あらゆる物体を識別対象物とすることが可能である。また、本実施形態においては、白線識別部14において白線エッジ部を識別できなかった場合には、白線エッジ部も識別対象物に含まれることになる。本実施形態では、路端エッジ部を識別することで、白線識別部14で識別した白線と同様に、路端エッジ部の識別結果を運転者支援システムの様々な処理に利用する。
【0027】
例えば、CRTや液晶等で構成される車内の情報報知手段である表示部(ディスプレイ)に、モノクロ画像処理部で算出した輝度データを用いて生成されるモノクロ画像(フロントビュー画像)を表示し、その画像中の路端エッジ部の位置を示す情報を、運転者にとって有益な情報として報知するために、運転者が見やすい表示形態で表示する処理が挙げられる。これによれば、例えば、運転者が目視で路端を認識することが困難な状況下であっても、運転者は表示部のフロントビュー画像を見ることで、自車と路端との相対位置関係を把握することができ、路端障害物に衝突することなく安全に走行することが容易になる。
また、例えば、物体識別部18により識別された路端エッジ部の位置情報から、自車と路端エッジ部との相対位置関係を把握する処理を行い、自車が路端に近づいて走行していないかどうかを判断し、路端に近づいたときに警報音等を発する処理が挙げられる。あるいは、路端に近づいたときに、自動ブレーキ機能を実行して、自車の走行速度を落とすような処理も挙げられる。
【0028】
形状情報記憶手段としての形状記憶部17には、物体識別部18で用いる形状情報としての各種形状テンプレートのデータが記憶されている。形状記憶部17に記憶される形状テンプレートは、物体識別部18で識別する識別対象物である路端エッジ部を、偏光カメラ10により撮像したときの形状(撮像画像中における識別対象物の形状)を示すものである。したがって、本実施形態における形状テンプレートは、走行レーンに略平行に延びる直線形状のものとなる。なお、形状テンプレートは、サイズ情報が含まれていてもよい。形状テンプレートは識別対象物の形状に応じて適宜選択される。例えば、マンホールの蓋を特定するための形状テンプレート、ボッツドッツ又はキャッツアイからなる金属製区間線を特定するための形状テンプレート、高速道路や陸橋などの道路に存在する金属製の道路連結部を特定するための形状テンプレート、他の車両を特定するための形状テンプレート、電信柱や街灯を特定するための形状テンプレートなどが挙げられる。
【0029】
次に、画像選択部16が、物体識別部18で用いる画像を選択する画像選択処理について説明する。
天候に応じてあるいは日向と日影との違いに応じて、モノクロ画像処理部13で算出されるモノクロ画像や差分偏光度画像処理部15で算出される差分偏光度画像のコントラストは変化する。路端や白線などのラインを検出するにあたって、モノクロ画像、差分偏光度画像それぞれが得意とするシーン(識別精度が高い状況)、苦手とするシーン(識別精度が低い状況)がある。そして、本発明者らは、モノクロ画像が苦手とするシーンは差分偏光度画像が得意とするシーンであったり、反対に差分偏光度画像が苦手とするシーンはモノクロ画像が得意とするシーンであったりと、お互いが補間する関係にあることを、撮影実験等を通じて見出した。本実施形態は、モノクロ画像と差分偏光度画像との補間関係を利用し、状況に応じてこれらの画像を使い分け、差分偏光度画像では識別が困難な状況下においてモノクロ画像を用いることで、識別対象物(路端エッジ部)の識別精度を高めるものである。
【0030】
図8(a)〜(d)は、雨の日あるいは曇りの日の昼間に、自動車に搭載した偏光カメラ10で走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図であり、図8(a)はモノクロ画像、図8(b)は差分偏光度画像、図8(c)は図8(a)のモノクロ画像から生成したエッジ画像、図8(d)は図8(b)の差分偏光度画像から生成したエッジ画像である。
雨の日あるいは曇りの日の昼間では、図8(d)の差分偏光度を元にしたエッジ画像は、図8(c)に示すモノクロ画像を元にしたエッジ画像に比べて、路端Rの境界位置を示すコントラスト(路端Rの境界位置が白色で示され、その周囲が黒色で示されている。)が明瞭であり、路端エッジ部REの認識率が高いことがわかる。
一方、白線Wの境界位置を示すコントラスト(白線Wの外縁エッジが白色で示され、その周囲が黒色で示されている。)の明瞭性は、図8(c)及び図8(d)に示すエッジ画像の間では同等である。したがって、白線エッジ部WEの認識率に関しては、モノクロ画像と差分偏光度画像とでほとんど違いはない。
【0031】
図9(a)〜(d)は、晴れの日の昼間に、自動車に搭載した偏光カメラ10で走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図であり、図9(a)はモノクロ画像、図9(b)は差分偏光度画像、図9(c)は図9(a)のモノクロ画像から生成したエッジ画像、図9(d)は図9(b)の差分偏光度画像から生成したエッジ画像である。
晴れの日の昼間については、路端エッジ部RE及び白線エッジ部WEのいずれの認識率も、図9(d)の差分偏光度を元にしたエッジ画像よりも、図9(c)に示すモノクロ画像を元にしたエッジ画像の方が高いことがわかる。
【0032】
図10(a)〜(d)は、晴れの日の昼間に、日陰となっている場所において、自動車に搭載した偏光カメラ10で走行中の車両から走行方向前方を撮影したときの各種画像を示す説明図であり、図10(a)はモノクロ画像、図10(b)は差分偏光度画像、図10(c)は図10(a)のモノクロ画像から生成したエッジ画像、図10(d)は図10(b)の差分偏光度画像から生成したエッジ画像である。
日陰となっている場所については、路端エッジ部RE及び白線エッジ部WEのいずれの認識率も、図10(c)に示すモノクロ画像を元にしたエッジ画像よりも、図10(d)の差分偏光度を元にしたエッジ画像の方が高いことがわかる。
【0033】
以上のような測定結果を踏まえ、本実施形態では、状況(シーン)ごとに、モノクロ画像と差分偏光度画像を使い分けることにより、それらの状況における路端エッジ部RE及び白線エッジ部WEの識別精度を向上させ、識別結果についての信頼性を向上させる。
【0034】
ここで、一般に、モノクロ画像に用いる輝度の情報に関しては、昼間の日向のシーン(太陽からの直射光が支配的な照明状況下)ではコントラストが高くなり、日影あるいは雨や曇りの日のような陽があたらないシーン(太陽からの光の散乱光成分が支配的な照明状況下)ではコントラストが低くなることは、日常生活からも人間が感じ取ることができる。これに対して、差分偏光度画像に用いる差分偏光度の情報は、人間に知覚されるような情報ではない。よって、以下、差分偏光度画像ではモノクロ画像とは異なるコントラストになる理由について説明する。
【0035】
図11は、実験室において、アスファルト面に対し、光源位置を変化させ、固定配置されたカメラでP偏光画像とS偏光画像を撮影する実験の概要を示す説明図である。
図12は、この実験で得られた差分偏光度の変化の一例を示すグラフである。
図12に示すグラフは、横軸に入射角度(光源位置)をとり、縦軸に差分偏光度をとったものである。カメラ仰角は水平から10度傾けた状態である。この差分偏光度は、各入射角度の撮影画像についての略中央部におけるP偏光成分(Rp)とS偏光成分(Rs)から上記式(1)より算出したものである。したがって、S偏光成分よりもP偏光成分の方が強い場合には、差分偏光度はプラスの値をとり、P偏光成分よりもS偏光成分の方が強い場合には、差分偏光度はマイナスの値をとることになる。
【0036】
図12に示すグラフをもとにして、図8〜図10に示した各状況における差分偏光度画像とモノクロ画像とのコントラストの違いについて説明する。
まず、図9に示した晴れの日の昼間(日向)のシーンについて説明する。
晴れの日の日向路面に照射される光の光源としては、太陽(太陽からの直射日光)、空(太陽からの光の散乱光成分)の2つに分類できるが、路面に照射される光成分は太陽からの直射日光が支配的成分である。すなわち、上述した実験状況とほぼ同様の状況であり、図12に示した実験結果をそのまま適用することが可能である。図12の実験結果から、差分偏光度は、光源(太陽)がカメラの前側にある逆光時には、マイナス側に大きくなる特性を有していることがわかる。一方、光源(太陽)がカメラの後側にある順光時には、アスファルト面(路面S)の差分偏光度は0となる。また、側壁等の路端障害物も、路面Sの場合と同様の拡散反射体であるため、差分偏光度が0になる。その結果、差分偏光度画像は画像全体でコントラストが下がり、ノイズが多いようなエッジ画像が得られることになる。
これに対し、モノクロ画像は、カメラで受光される輝度の違いがそのままコントラストに反映されるため、路面Sも、路端Rよりも路外に位置する路端障害物も、白線Wも、その反射特性に応じた適切なコントラストが得られる。
したがって、晴れの日の昼間の日向については、モノクロ画像を用いて白線エッジ部や路端エッジ部を識別することで、差分偏光度画像を用いる場合よりも高い識別精度を得ることができる。
【0037】
次に、図10に示した晴れの日の昼間(日影)のシーンについて説明する。
日影では、路面Sや側壁等の路端障害物に照射される光の光源は太陽からの直射光ではなく、空からの光(太陽からの光の散乱光成分)である。太陽からの直射光を光源とした差分偏光度は、その光源(太陽)の方位によって変化するので、図12に示したグラフのような入射角依存性を有する。これに対し、空からの光は、天空からの各高度、各方位から均等に路面Sや路端障害物に照射されるので、図12に示したグラフのような入射角依存性はない。そのため、空からの光(太陽からの光の散乱光成分)を光源とした路面Sの差分偏光度のグラフを描くと、図13に示すように、その差分偏光度が一定値(図12に示したグラフの略平均値に相当する値)をとることになる。
一方、側壁等の路端障害物や白線における差分偏光度についても、同様に一定値をとるものとなるが、路端障害物や白線(特に白線のエッジ部分)の光反射面は路面Sに対して角度を有するので、そのP偏光成分とS偏光成分の比率が異なるものとなる。したがって、その差分偏光度の一定値は、路面Sのものと異なるものとなる。特に、路面Sに対して直交する光反射面を有する路端障害物については、その差分偏光度の一定値が路面S一定値とは逆の極性を有するものとなる。その結果、晴れの日の昼間の日影については、路面Sと路端障害物や白線エッジ部との間でコントラストのある差分偏光度画像を得ることができる。
【0038】
このように、晴れの日の昼間の日影については、空からの光(太陽からの光の散乱光成分)が支配的な照明状況下での撮影となるため、モノクロ画像のコントラストは低下するが、差分偏光度画像については識別に必要な部分のコントラストがある画像が得られる。 したがって、晴れの日の昼間の日影については、差分偏光度画像を用いて白線エッジ部や路端エッジ部を識別することで、モノクロ画像を用いる場合よりも高い識別精度を得ることができる。
【0039】
次に、図8に示した雨の日や曇りの日のシーンについて説明する。
雨の日や曇りの日も、図10に示した日影のシーンと同様に、太陽からの直射光が存在しないため、差分偏光度画像については、日陰のシーンと同様にコントラストのとれたものとなる。特に、雨で路面Sや側壁等の路端障害物が濡れると、その反射面の鏡面反射成分が強くなるため、よりコントラストの高い差分偏光度画像を得ることが可能となる。これに対し、モノクロ画像では、日陰のシーンと同様にコントラストが低く、特に雨で路面等が濡れている場合には、そのエッジ画像全体が黒っぽくなり、コントラストが大幅に低下する。したがって、雨の日や曇りの日、特に雨の日については、差分偏光度画像を用いて白線エッジ部や路端エッジ部を識別することで、モノクロ画像を用いる場合よりも高い識別精度を得ることができる。
【0040】
以上のように、モノクロ画像のコントラストが生じにくい雨の日や曇りの日あるいは日影の場所のような太陽からの直射光が撮像領域内に照射されない状況下においては、差分偏光度画像の方がコントラストを大きくとることができるので、路端エッジ部や白線エッジ部等の識別対象物を高い精度で識別することができる。しかも、差分偏光度画像であれば、撮影方向(方位)による差異がないので、走行方向に関係なく安定して路端エッジ部や白線エッジ部の識別を行うことができる。したがって、このような状況下においては、差分偏光度画像を用いて識別することで、信頼性の高い識別結果を得ることができる。
しかしながら、また晴れの日の日向、特に順光時のように、太陽からの直射光が撮像領域内に照射される状況下においては、差分偏光度画像では十分なコントラストを得ることができない場合がある。一方、このような状況下では、モノクロ画像を用いることで高い識別精度を得ることが可能である。したがって、このような状況下では、モノクロ画像を用いて識別することで、信頼性の高い識別結果を得ることができる。
【0041】
次に、本実施形態に係る運転者支援システムにおいて識別対象物である路端エッジ部と白線エッジ部を識別するための処理の流れについて説明する。
図14は、路端エッジ部と白線エッジ部を識別する処理の流れを示すフローチャートである。
偏光カメラ10により偏光RAW画像データを取得したら、その偏光RAW画像データに含まれるP偏光強度データから得られる水平偏光画像データを水平偏光画像メモリ11に格納するとともに、その偏光RAW画像データに含まれるS偏光強度データから得られる垂直偏光画像データを垂直偏光画像メモリ12に格納する(S1)。その後、差分偏光度画像処理部15は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとに、上記式(1)に示す計算式より、差分偏光度(識別指標値)を算出する(S2)。この算出結果から得られる差分偏光度画像のデータは、差分偏光度画像処理部15内の図示しない画像メモリに格納される。また、モノクロ画像処理部13は、水平偏光画像メモリ11及び垂直偏光画像メモリ12内のP偏光強度データ及びS偏光強度データから、画素ごとに、モノクロ輝度(当該画素のP偏光強度+S偏光強度)を算出する(S3)。この算出結果から得られるモノクロ画像のデータは、モノクロ画像処理部13内の図示しない画像メモリに格納される。そして、白線識別部14では、モノクロ画像処理部13内の図示しない画像メモリに格納されたモノクロ画像のデータを用いて、上述した方法により白線認識処理を行う(S4)。
【0042】
続いて、画像選択部16で行われる画像選択処理(S5)について説明する。
図15は、画像選択処理の流れを示すフローチャートである。
本実施形態においては、1つの撮像画像(1フレームの画像)を左右2つの選定エリアに区分し、選定エリアごとに、識別に用いる画像を選択するようにしている。これは、自車が走行する右側領域と左側領域とでは撮影状況が異なる場合があるからである。具体的には、例えば、自車が走行する右側領域は日向であるが、左側領域は日陰になっているというような状況である。上述したように、日向と日陰では、認識に適した画像の種類(モノクロ画像か差分偏光度画像か)が変わるので、このように1つの撮像画像を複数の選定エリアに区分してそれぞれに適した種類の画像を用いて識別を行うことは、画像全体としての識別精度を向上させる上で有益である。
もちろん、このように複数の選定エリアに区分することは必須ではなく、1つの撮像画像全体についてモノクロ画像と差分偏光度画像のいずれかを用いて識別を行うようにしてもよい。
また、用途によって区分方法は適宜選定され、本実施形態のように左右2つの選定エリアに区分することに限定されるものではない。
【0043】
図16(a)〜(d)は、それぞれ撮影状況が異なる場合のモノクロ画像を示す説明図である。
図16(a)は、撮像領域全体が一様に晴れの日の日向となっている場合の例である。この場合、白線識別部14によりモノクロ画像に基づいて白線を識別することができるので、画像選択部16は、白線識別部14で識別された白線の位置を基準に、その白線の外側(画像左右方向外側)近傍に判定基準エリアP1,P2を設定する(S11)。各判定基準エリアP1,P2は、1つの撮像画像(1フレームの画像)を左右2つに区分して得られる選定エリア内それぞれに設定される。各判定基準エリアP1,P2の設定箇所は、路面Sである可能性が高い箇所に設定される。
図16(b)は、撮像領域全体が一様に晴れの日の日陰となっている場合(雨又は曇りの日の場合も同様)の例である。この場合、白線識別部14によりモノクロ画像に基づいて白線を識別することができないので、画像選択部16は、白線識別部14で識別された白線の位置を基準に判定基準エリアP1,P2を設定できない。よって、この場合は、予め実験等により決められた各選定エリア内の箇所(路面Sである可能性が高い箇所)にそれぞれ判定基準エリアP1,P2を設定する(S11)。
図16(c)は、晴れの日の日向において撮像画像中左側の選定エリア内に日陰がある場合の例である。この場合、画像選択部16は、右側の選定エリアについては、図16(a)の場合と同様に、白線識別部14で識別された白線の位置を基準にその白線の外側近傍に判定基準エリアP2を設定し、左側の選定エリアについては、図16(b)の場合と同様に、予め実験等により決められた箇所に判定基準エリアP1を設定する(S11)。
図16(d)は、晴れの日の日向において撮像画像中右側の選定エリア内に日陰がある場合の例である。この場合、画像選択部16は、左側の選定エリアについては、図16(a)の場合と同様に、白線識別部14で識別された白線の位置を基準にその白線の外側近傍に判定基準エリアP1を設定し、右側の選定エリアについては、図16(b)の場合と同様に、予め実験等により決められた箇所に判定基準エリアP2を設定する(S11)。
【0044】
画像選択部16は、以上のようにして設定した判定基準エリアP1,P2のモノクロ輝度と差分偏光度のデータを取得し(S12)、各判定基準エリアP1,P2のモノクロ輝度について、それぞれ、予め設定されたモノクロ閾値以上であるか否かを判断する(S13)。そして、判定基準エリアP1,P2のモノクロ輝度がモノクロ閾値未満(S13のNo)であると判断された選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する(S14)。ここで用いるモノクロ閾値は、その選定エリアの状況が晴れの日の日向のようにモノクロ画像にとって高い識別精度が得られる状況かどうかを判別するための基準となるもので、実験等により予め設定しておくことが可能である。したがって、モノクロ輝度がモノクロ閾値未満(S13のNo)であると判断された選定エリアは、晴れの日の日向(差分偏光度画像による認識精度が低い状況)ではないので、ここでは差分偏光度画像を選択する。
【0045】
一方、判定基準エリアP1,P2のモノクロ輝度がモノクロ閾値以上(S13のYes)であると判断された選定エリアについては、続いて、各判定基準エリアP1,P2の差分偏光度について、それぞれ、予め設定された差分偏光度閾値以上であるか否かを判断する(S15)。そして、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値以上であると判断された選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する(S14)。ここで用いる差分偏光度閾値は、その選定エリアの状況が差分偏光度画像に十分なコントラストが得られているかどうかを判別するための基準となるもので、実験等により予め設定しておくことが可能である。したがって、差分偏光度が差分偏光度閾値以上(S15のYes)であると判断された選定エリアは、差分偏光度画像に十分なコントラストが得られており、晴れの日の日向のように差分偏光度画像による認識精度が低い状況ではないので、ここでは差分偏光度画像を選択する。
【0046】
他方、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値未満(S15のNo)であると判断された選定エリアについては、物体識別部18での識別に用いる画像としてモノクロ画像を選択する(S16)。この場合、その選定エリアは、差分偏光度画像に十分なコントラストが得られておらず、かつ、晴れの日の日向のようにモノクロ画像に十分なコントラストが得られている状況なので、モノクロ画像を選択する。
【0047】
以上のような画像選択処理を行うことで、図16(a)に示した状況(撮像領域全体が一様に晴れの日の日向となっている状況)では、左右いずれの選定エリアも、モノクロ画像を用いて認識が行われる。
また、図16(b)に示した状況(撮像領域全体が一様に晴れの日の日陰となっている状況)では、左右いずれの選定エリアも、差分偏光度画像を用いて認識が行われる。
また、図16(c)に示した状況(晴れの日の日向において撮像画像中左側の選定エリア内に日陰がある状況)では、左側の選定エリアについては差分偏光度画像を用いて認識が行われ、右側の選定エリアについてはモノクロ画像を用いて認識が行われる。
また、図16(d)に示した状況(晴れの日の日向において撮像画像中右側の選定エリア内に日陰がある状況)では、右側の選定エリアについては差分偏光度画像を用いて認識が行われ、左側の選定エリアについてはモノクロ画像を用いて認識が行われる。
【0048】
画像選択処理(S5)を終えたら、次に、物体識別部18は、画像選択処理で選択された画像を用いて識別対象物の物体識別処理を行う(S6)。以下の説明では、識別対象物が路端エッジ部である場合を例に挙げて説明するが、識別対象物が白線エッジ部であったりその他の物体であったりする場合も同様である。なお、エッジ判別処理の内容は、モノクロ画像を用いる場合も差分偏光度画像を用いる場合も同様であるので、以下、差分偏光度画像を用いる場合を例に挙げて説明する。
【0049】
図17は、物体識別処理の流れを示すフローチャートである。
本実施形態の物体識別処理では、選定エリアごとに、画像選択処理で選択された画像(ここでは差分偏光度画像とする。)を入力し(S21)、その画像に対してエッジ判別処理を行う。このエッジ判別処理では、まず、画像選択処理で選択された差分偏光度画像を元にエッジ画像を作成する(S22)。このエッジ画像の作成は、処理対象として入力された差分偏光度画像に対して公知のエッジ抽出処理を施して作成する。エッジ抽出処理を施すことにより、差分偏光度が急激に変化する部分の変化度合いに応じたエッジ値(エッジの強さ)が得られ、そのエッジ値の違いを輝度の違いで表現したエッジ画像(図8〜図10を参照。)を得ることができる。
【0050】
具体的には、座標(x,y)における濃度の勾配を表す1次微分の値をベクトル量(fx,fy)として表現すると(fxはx方向の微分を、fyはy方向の微分を、それぞれ示す。)、エッジの強さは、下記の式(2)によって表される。このときの微分オペレータとしては、例えば下記の式(3)及び(4)に示すRobertsオペレータを利用することができる。
【数1】
【数2】
【0051】
このようにしてエッジ画像を作成したら、次に、そのエッジ画像を2値化する処理を行う(S23)。このときに用いるエッジ閾値としては、上述した判定基準エリアP1,P2におけるモノクロ輝度及び差分偏光度により適宜決められる値を用いる。
また、上述した画像選択処理における上記S13及び上記S15の判断結果を用いることで、撮像領域内の状況(路面の乾湿、天気など)を推測することが可能である。よって、その判断結果から路面の乾湿状態を推測し、過去の差分偏光度画像及びモノクロ画像のサンプル画像を路面の乾湿状態ごとに学習して、推測した路面の乾湿状態に応じて適切なエッジ閾値を決めるようにしてもよい。この場合、例えば雨の日のように路面が濡れていると鏡面反射成分が強くなるので、これを考慮した適切なエッジ閾値を設定することが可能となる。
また、撮像画像の上方部分と下方部分とでは、物体からの反射光の強度に差がある。これは、撮像画像の上方部分は遠くに位置する物体を撮影した部分であるため、近くに位置する物体を撮影した下方部分よりも、反射光の強度は小さいものとなる。したがって、撮像画像の上方部分と下方部分とではコントラストが異なることになるため、この違いを考慮し、撮像画像の上方部分と下方部分とで、用いるエッジ閾値を異ならせるようにしてもよい。
【0052】
次に、物体識別部18は、作成した2値化エッジ画像を用いて、識別対象物である路端エッジ部の候補点を抽出する処理を行う(S24)。この処理では、まず、2値化したエッジ画像に対して複数の処理ラインを設定する。本実施形態の処理ラインは、2値化エッジ画像内の横1列に並んだ画素列ごとに設定される。処理ラインの方向は、必ずしも横方向である必要はなく、縦方向又は斜め方向であってもよい。また、各処理ラインの画素数は、互いに同じであっても異なってもよい。また、処理ラインは、必ずしも、2値化エッジ画像内の全画素に対して設定される必要はなく、2値化エッジ画像内の適切に選択された一部の画素について設定するようにしてもよい。また、処理ラインではなく、処理ブロック(縦横それぞれ2画素以上からなるブロック)単位で行ってもよい。この場合、例えば、2値化エッジ画像に対して複数の処理ブロックを設定し、処理ブロックごとに、2値化エッジ画像のばらつき度合い(散らばり度合い)を示す標準偏差を算出し、算出した標準偏差が基準偏差閾値以上である場合にその処理ブロック内にエッジが存在すると判定することができる。なお、処理ブロックは、矩形の区域で設定されてもよいし、他の形状の区域で設定されてもよい。処理ブロックの大きさは、例えば10×10画素程度であってよい。なお、各処理ブロックは、同じサイズであっても、異なるサイズであってもよい。また、標準偏差に代えて、分散や平均偏差等の統計量が用いられてもよい。
【0053】
ここで、識別対象物である路端エッジ部は、白線よりも外側に位置するものである。したがって、白線識別部14により走行レーンの両側に位置する2つの白線が識別できている場合には、処理の簡素化のため、各処理ラインについて、各白線位置より外側に向かってエッジを探索する処理を行う。そして、この処理を処理ライン全部について行うことで、各白線よりも外側に位置するエッジ部を路端エッジ部の候補点として抽出する。
なお、白線識別部14により白線が識別できていない場合には、各処理ラインについて、例えば画像中央から左右方向に向けてエッジを探索する処理を行う。そして、この処理を処理ライン全部について行い、これにより得られるエッジ部を路端エッジ部の候補点として抽出する。
また、白線識別部14により1本の白線だけが識別できている場合には、各処理ラインについて、その白線の内側部分から左右方向に向けてエッジを探索する処理を行う。そして、この処理を処理ライン全部について行うことで、その白線を除いた画像部分に存在するエッジ部を路端エッジ部の候補点として抽出する。
【0054】
このようにして路端エッジ部の候補点を抽出した後、物体識別部18は、その路端エッジ部の候補点について形状近似認識処理を施し(S25)、路端エッジ部を特定する。具体的には、まず、物体識別部18は、路端エッジ部の候補点から一塊りの形状を認識し、これを、形状記憶部17に記憶されている路端エッジ部の形状テンプレートと比較する。そして、路端エッジ部の候補点からなる形状が形状テンプレートと一致した場合、その路端エッジ部の候補点が路端エッジ部であると特定し、その位置を記憶する。
【0055】
この形状近似認識処理では、抽出した路端エッジ部の候補点に対して形状近似認識により近似曲線を取得する。形状を認識する手法としては、最小二乗法やハフ変換やモデル方程式などの手法を用いる。なお、近似曲線を取得する際、信頼性の高い撮像画像の下方部分に位置する路端エッジ部の候補点ほど形状近似の投票値に大きな重みを持たせるようにすることが望ましい。このようにすれば、信頼性の低い撮像画像の上方部分で誤認識された路端エッジ部の候補点が存在しても、信頼性の高い撮像画像の下方部分で正常に認識された路端エッジ部の候補点が存在すれば、路端エッジ部を適切に特定することができる。
【0056】
また、路端エッジ部の特定精度を高めるために、次のような処理を付加してもよい。
上述した物体識別処理(S21〜S25)を、偏光カメラ10にて所定の時間間隔で連続的に撮影して得られる偏光画像データについて行い。路端エッジ部であると特定された領域については、その処理結果が所定のメモリに記憶される。このメモリに記憶される過去の処理結果(例えば、直前に撮像された偏光画像データについての処理結果)を利用し、今回の処理により特定された路端エッジ部が、その領域に対応する過去の処理結果でも路端エッジ部であると特定されていれば、今回の処理結果が信頼度の高いものであると判断する。そして、この信頼度を路端エッジ部として特定する際に利用する。今回の処理結果に係る領域に対応する過去の処理結果は、例えば、今回の処理結果に係る領域の位置と自車の進行方向とから、対応する過去の処理結果に係る領域の位置を検索して、対応する過去の処理結果を特定する。
【0057】
〔変形例1〕
次に、上記実施形態に係る物体識別装置において上記所定の選択条件に用いる差分偏光度閾値の設定を変更可能に構成した一変形例(以下、本変形例を「変形例1」という。)について説明する。
なお、本変形例1における物体識別装置の構成や動作において上記実施形態のものと同様の部分については説明を省略する。
【0058】
本変形例1においても、1つの撮像画像(1フレームの画像)を左右2つの選定エリアに区分し、選定エリアごとに、識別に用いる画像を選択するようにしている。具体的には、画像選択部16は、白線識別部14で識別された白線の位置を基準に、その白線の外側(画像左右方向外側)近傍に判定基準エリアP1,P2を設定し、各判定基準エリアP1,P2のモノクロ輝度と差分偏光度のデータを取得する。そして、判定基準エリアP1,P2のモノクロ輝度が予め設定されたモノクロ閾値未満である場合、その選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する。一方、判定基準エリアP1,P2のモノクロ輝度が予め設定されたモノクロ閾値以上である場合、画像選択部16は、その判定基準エリアP1,P2の差分偏光度が予め設定された差分偏光度閾値以上であるか否かを判断する。この判断において、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値以上であると判断された選定エリアについては、物体識別部18での識別に用いる画像として差分偏光度画像を選択する。一方、判定基準エリアP1,P2の差分偏光度が差分偏光度閾値未満であると判断された選定エリアについては、物体識別部18での識別に用いる画像としてモノクロ画像を選択する。
【0059】
ここで、路面Sである可能性が高い判定基準エリアP1,P2からの反射光を偏光カメラ10で受光して得られるP偏光強度及びS偏光強度並びにこれらの合計値であるモノクロ輝度は、同じ判定基準エリアP1,P2であってもその路面状態に応じて異なる値をとる。したがって、各判定基準エリアP1,P2のP偏光強度及びS偏光強度に基づく差分変更度を用いて物体識別部18での識別に適しているのは差分偏光度画像かモノクロ画像かを選択するための差分偏光度閾値の最適値も、判定基準エリアP1,P2の路面状態によって異なる値をなる。そこで、本変形例1では、判定基準エリアP1,P2の路面状態に応じて差分偏光度閾値を調整するようにしている。
【0060】
図18は、本変形例1における物体識別処理で用いる差分偏光度閾値の設定変更用テーブルを示す説明図である。
本変形例1においては、路面状態が、乾燥状態である場合、濡れた状態である場合、積雪状態である場合の3種類に区分し、その区分ごとに適した差分偏光度閾値を設定変更用テーブルに格納してある。路面状態は、1つの撮像画像(1フレームの画像)内の複数のサンプル箇所のP偏光強度やS偏光強度あるいは差分偏光度を用いることにより判別可能である。
【0061】
図19(a)〜(c)は、図18に示す設定変更用テーブルの各路面状態における外光の反射特性を説明するための説明図である。
図19(b)は、路面が濡れた状態であるときの外光の反射特性を示したものである。このような湿潤時の路面は、その表面(アスファルト等)の凹凸部分に水が溜まることによって鏡面に近い状態となる。そのため、その反射光は、鏡面における偏光特性を示す。鏡面における反射光のS偏光成分は、入射角がブリュースター角に等しいときにその反射光強度が0となり、P偏光成分は入射角の増大に伴ってその反射光強度が増加するという特性を示す。
【0062】
図19(a)は、路面が乾燥状態であるときの外光の反射特性を示したものである。乾燥時の路面は、その表面が粗面であるため、乱反射が支配的となる。そのため、乾燥時の路面からの反射光は、上述した湿潤時と比較して反射光の偏光特性が小さくなり、S偏光成分よりもP偏光成分の法が僅かに多くなる程度である。
【0063】
図19(c)は、路面が積雪状態であるときの外光の反射特性を示したものである。上述した湿潤時、乾燥時の路面からの反射光は、図19(a)や図19(b)に示したように、強い指向性を示す。これに対し、路面が積雪状態である場合には、図19(c)に示すように、路面からの反射光が全体に散乱し、その反射光は偏光特性を示さず、各偏光成分の反射率はほぼ等しくなる。
【0064】
以上のような各路面状態における反射光の偏光特性の違いによって路面状態を判別することができる。例えば、濡れた状態の路面では差分偏光度が最も大きい値をとり、積雪状態の路面では差分偏光度がほぼ0を示すので最も小さい値をとるので、差分偏光度の違いによって路面状態を判別することができる。
【0065】
図18に示した設定変更用テーブルに記述する各区分の適した差分偏光度閾値は、例えば、各区分に対応する路面状態における差分偏光度画像及びモノクロ輝度画像のサンプル画像を複数用意し、これらのサンプル画像により学習して決定する。設定変更用テーブルは、所定のメモリに記憶しておく。
【0066】
本変形例1における画像選択部16は、差分偏光度閾値を用いた判断に先立って、撮像画像内の複数のサンプル箇所のP偏光強度やS偏光強度あるいは差分偏光度から、路面状態が、乾燥状態であるか、濡れた状態であるか、積雪状態であるかを判別する。そして、その判別結果に対応する差分偏光度閾値を設定変更用テーブルから読み出し、判定基準エリアP1,P2の差分偏光度がその差分偏光度閾値以上であるか否かを判断する。
【0067】
図20は、路面状態の判別処理の流れの一例を示すフローチャートである。
まず、上記S11と同様にして判定基準エリアP1,P2を設定したら(S31)、各判定基準エリアP1,P2のモノクロ輝度及び差分偏光度のデータを取得する(S32)。そして、まず、取得したモノクロ輝度について、予め設定された第1閾値以上であるか否かを判断する(S33)。モノクロ輝度が第1閾値以上である場合、その選定エリアの路面状態は、乾燥した路面又は積雪状態の路面である可能性が高く、濡れた路面である可能性が低い。そこで、判定基準エリアP1,P2のモノクロ輝度が第1閾値未満であると判断された選定エリアについては、次に、取得した差分偏光度について、予め設定された第2閾値以上であるか否かを判断する(S34)。その結果、差分偏光度が第2閾値以上であると判断された選定エリアについては、その路面が濡れた状態であると判定する(S35)。
【0068】
一方、判定基準エリアP1,P2のモノクロ輝度が第1閾値以上であると判断された場合や、差分偏光度が第2閾値未満であると判断された選定エリアについては、次に、取得した差分偏光度が予め設定された第3閾値以上であるか否かを判断する(S36)。ここで、差分偏光度が第3閾値以上であると判断された選定エリアについては、その路面が乾燥した状態であると判定する(S37)。
他方、取得した差分偏光度が予め設定された第3閾値未満であると判断された選定エリアについては、その路面が積雪状態であると判定する(S38)。
【0069】
本変形例1によれば、物体識別部18での識別に適しているのは差分偏光度画像かモノクロ画像かを選択するにあたり、路面状態の違いによって不適切な選択がなされることが少なくなり、物体識別精度を更に向上させることができる。
なお、本変形例1では、差分偏光度だけでなくモノクロ輝度も併用して路面状態を判定しているが、差分偏光度だけでも同様の判定が可能である。
【0070】
〔変形例2〕
次に、上記実施形態に係る物体識別装置において判定基準エリアP1,P2の場所を変更した一変形例(以下、本変形例を「変形例2」という。)について説明する。
なお、本変形例2における物体識別装置の構成や動作において上記実施形態のものと同様の部分については説明を省略する。
【0071】
上述したように、撮像画像の上方部分と下方部分とでは、遠くに位置する物体を撮影した部分である上方部分よりも近くに位置する物体を撮影した下方部分の方が反射光の強度が大きく、信頼度が高い。よって、本変形例2では、物体識別部18での識別に適しているのは差分偏光度画像かモノクロ画像かを選択するためのP偏光強度及びS偏光強度を得る判定基準エリアP1,P2を、撮像画像の下方部分に設定する。
【0072】
図21(a)〜(d)は、それぞれ撮影状況が異なる撮像領域を模式的に表した説明図である。
本変形例2においては、判定基準エリアP1,P2を設定するにあたり、画像選択部16は、まず、撮像画像の下方部分を格子状に分割して、複数の判定基準対象ブロックを作成する。例えば、撮像画像の画像サイズが752×480[pixel]である場合、画像上端から360ライン目と400ライン目との間の画像部分を、5×5[pixel]からなる判定基準対象ブロックに分割する。
【0073】
図21(a)は、自車両の走行レーンの両側にそれぞれ白線が検出される場合の例である。
この場合、画像選択部16は、白線識別部14で識別された2本の白線の位置を基準に、各白線の外側(画像左右方向外側)近傍に判定基準エリアP1,P2を設定する。具体的には、まず、判定基準対象ブロックについて撮像画像下側から上側に向けて走査し、白線識別部14で識別された2本の白線の位置を特定する。2本の白線の位置を特定できたら、今度は各白線から外側(画像左右方向外側)へそれぞれ走査する。そして、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0074】
図21(b)は、自車両の走行レーンの右側に白線が検出される場合の例である。
この場合、画像選択部16は、まず、判定基準対象ブロックについて撮像画像下側から上側に向けて走査し、白線識別部14で識別された1本の白線(画像右側)の位置を特定する。このように画像右側の白線位置を特定できたら、画像右側の選定エリアに対応する判定基準エリアP2を特定するための走査は、その白線から外側(画像右側)に向けて行う。一方、画像左側の選定エリアに対応する判定基準エリアP1を特定するための走査は、画像左右方向中央から左側に向けて行う。なお、判定基準エリアP1,P2とする判定基準対象ブロックを決定方法は、図21(a)の場合と同様、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0075】
図21(c)は、自車両の走行レーンの左側に白線が検出される場合の例である。
この場合、画像選択部16は、まず、判定基準対象ブロックについて撮像画像下側から上側に向けて走査し、白線識別部14で識別された1本の白線(画像左側)の位置を特定する。このように画像左側の白線位置を特定できたら、画像左側の選定エリアに対応する判定基準エリアP1を特定するための走査は、その白線から外側(画像左側)に向けて行う。一方、画像右側の選定エリアに対応する判定基準エリアP2を特定するための走査は、画像左右方向中央から右側に向けて行う。なお、判定基準エリアP1,P2とする判定基準対象ブロックを決定方法は、図21(a)の場合と同様、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0076】
図21(d)は、白線が検出されない場合の例である。
この場合、画像選択部16は、画像左右方向中央から右側と左側に向けて走査する。そして、図21(a)の場合と同様、対象の判定基準対象ブロックとその周囲の判定基準対象ブロックとの間で、P偏光強度やS偏光強度あるいは差分偏光度について同様のヒストグラム分布が得られたとき、当該対象の判定基準対象ブロックを判定基準エリアP1,P2として設定する。
【0077】
なお、判定基準対象ブロックについて走査して得られた白線位置が、近い過去(例えば直近5フレーム前まで)の1つ以上の撮影画像における白線位置と同様の位置であった場合には、当該過去の撮影画像で設定した判定基準エリアP1,P2をそのまま用いるようにしてもよい。この場合、例えば直近5フレーム前までの撮影画像中のすべてから白線がロストしたときに、図21(a)〜(d)を参照して説明した上述の方法により判定基準エリアP1,P2を設定する。
【0078】
以上、本実施形態に係る物体識別装置は、撮像領域内に存在する識別対象物である路端エッジ部を撮像した撮像画像中における路端エッジ部の画像領域を識別する物体識別装置である。この物体識別装置は、撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像(P偏光画像及びS偏光画像)を撮像する撮像手段としての偏光カメラ10と、偏光カメラ10が撮像したP偏光画像及びS偏光画像をそれぞれ所定の処理領域(画素ごと)に分割し、画素ごとに、P偏光画像及びS偏光画像間における輝度合計値であるモノクロ輝度を算出する輝度算出手段としてのモノクロ画像処理部13と、画素ごとに当該輝度合計値に対するP偏光画像及びS偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段としての差分偏光度画像処理部15と、差分偏光度画像処理部15が算出する差分偏光度が所定の選択条件を満たすか否かを判断する選択条件判断手段としての画像選択部16と、画像選択部16が所定の選択条件を満たすと判断した場合には、差分偏光度画像処理部15が算出した差分偏光度に基づいて路端エッジ部に対応する画素を特定し、画像選択部16が所定の選択条件を満たさないと判断した場合には、モノクロ画像処理部13が算出したモノクロ輝度に基づいて路端エッジ部に対応する画素を特定し、路端エッジ部に対応する画素として特定した互いに近接する複数の画素を路端エッジ部の画像領域であると識別する物体識別処理を行う物体識別処理手段としての物体識別部18とを有する。これにより、晴れの日の日向や日陰あるいは雨の日や曇りの日などの状況が違っても、高い識別精度で路端エッジ部を識別することができる。
また、本実施形態において、画像選択部16は、偏光カメラ10が撮像したP偏光画像及びS偏光画像を区分して得られる複数の選定エリア(画像を左右2つに区分して得られる選定エリア)ごとに、差分偏光度画像処理部15が算出する差分偏光度が所定の選択条件を満たすか否かを判断し、物体識別部18は、画像選択部16が所定の選択条件を満たすと判断した選定エリアについては、差分偏光度画像処理部15が算出した差分偏光度に基づいて路端エッジ部に対応する画素を特定し、画像選択部16が所定の選択条件を満たさないと判断した選定エリアについては、モノクロ画像処理部13が算出したモノクロ輝度に基づいて路端エッジ部に対応する画素を特定する。これにより、選定エリアごとに状況が異なる場合でも、各選定エリアをそれぞれの状況に応じた画像を用いて路端エッジ部を識別して、全体として高い識別精度を得ることができる。
また、本実施形態においては、上記変形例1で説明したように、画像選択部16を、偏光カメラ10が撮像したP偏光画像及びS偏光画像内に設定される所定箇所(判定基準エリアP1,P2)のモノクロ輝度及び差分偏光度の少なくとも一方から上記所定の選択条件に用いる差分偏光度閾値を設定する閾値設定手段として機能させ、上記所定の選択条件に、差分偏光度画像処理部15が算出する差分偏光度が上記差分偏光度閾値以上であるという条件を含ませてもよい。これにより、差分偏光度画像について高いコントラストが得られる場合には、差分偏光度画像を用いて路端エッジ部の識別が行われるので、路端エッジ部を高い精度で識別することができる。
また、本実施形態では、更に、上記所定の選択条件に、モノクロ画像処理部13が算出するモノクロ輝度がモノクロ閾値未満であるという条件を含んでいる。これにより、モノクロ画像では十分なコントラストが得られない状況下については、差分偏光度画像を用いて路端エッジ部の識別が行われる。多くの場合、モノクロ画像で十分なコントラストが得られない状況下では、差分偏光度画像によればモノクロ画像よりも高いコントラストが得られる。よって、そのような状況下でもより高い識別精度を得ることが可能となる。
また、本実施形態において、物体識別部18は、路端エッジ部に対応する画素を特定する処理として、互いに隣接する処理領域間の輝度もしくは差分偏光度の違いの大きさを示すエッジ値を算出するエッジ抽出処理を行い、これにより抽出したエッジ値に基づいて路端エッジ部に対応する処理領域を特定する処理を行う。これにより、迅速かつ高い精度で路端エッジ部を識別することができる。
特に、本実施形態のように、エッジ抽出処理により抽出したエッジ値を所定のエッジ閾値により2値化処理し、その2値化処理後の値に基づいて路端エッジ部に対応する処理領域を特定する処理を行い、物体識別部18を、差分偏光度画像処理部15が算出した差分偏光度及びモノクロ画像処理部13が算出したモノクロ輝度の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段、及び、判別した状況に応じてエッジ閾値を決定するエッジ閾値決定手段として機能させることで、状況の依存性が少ない安定した識別が可能となる。
この場合、本実施形態のように、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いてエッジ閾値を決定することで、より適切なエッジ閾値を用いることができ、より高い精度で路端エッジ部を識別することができる。
また、本実施形態では、路端エッジ部を偏光カメラ10により撮像したときの形状を示す形状情報としての形状テンプレートを記憶する形状情報記憶手段しての形状記憶部17を設け、物体識別部18は、路端エッジ部に対応する画素として特定した互いに近接する複数の画素により示される形状が形状記憶部17に記憶されている路端エッジ部の形状テンプレートの形状に近似しているかどうかを判断する形状近似判断処理を行い、その形状近似判断処理により近似していると判断したときには、当該複数の画素を路端エッジ部の画像領域であると識別する。これにより、より高い精度で路端エッジ部を識別することができる。
この場合、上記形状近似判断処理において、P偏光画像及びS偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域(上下2つ)に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる画像上方部分よりも撮像距離が近い区域に含まれる画像下方部分の方が判断結果に与える影響が大きいように重み付けを行う。これにより、より高い精度で路端エッジ部を識別することができる。
また、物体識別部18が過去に行った識別処理の結果を記憶する識別処理結果記憶手段としてのメモリに保存しておき、物体識別部18は、このメモリに保存しておいた過去の識別処理の結果も用いて識別処理を行う。これにより、過去の識別結果と同じ結果が得られたか否かについて識別結果の信頼度を判断することが可能となる。
【0079】
なお、本実施形態に係る運転者支援システムは、そのシステム全体が車両に搭載されているが、必ずしもシステム全体が車両に搭載されている必要はない。したがって、例えば、偏光カメラ10のみを自車に搭載して、残りのシステム構成要素を自車とは別の場所に遠隔配置するようにしてもよい。この場合、車両の走行状態を運転者以外の者が客観的に把握するシステムとすることもできる。
【符号の説明】
【0080】
10 偏光カメラ
11 水平偏光画像メモリ
12 垂直偏光画像メモリ
13 モノクロ画像処理部
14 白線識別部
15 差分偏光度画像処理部
16 画像選択部
17 形状記憶部
18 物体識別部
【先行技術文献】
【特許文献】
【0081】
【特許文献1】特開平11−175702号公報
【特許請求の範囲】
【請求項1】
撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、
撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、
該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、
該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、
該差分偏光度算出手段が算出する差分偏光度が所定の選択条件を満たすか否かを判断する選択条件判断手段と、
該選択条件判断手段が該所定の選択条件を満たすと判断した場合には、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した場合には、該輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定し、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域を該識別対象物の画像領域であると識別する物体識別処理を行う物体識別処理手段とを有することを特徴とする物体識別装置。
【請求項2】
請求項1の物体識別装置において、
上記選択条件判断手段は、上記撮像手段が撮像した2つの偏光画像を区分して得られる複数の選定エリアごとに、上記差分偏光度算出手段が算出する差分偏光度が上記所定の選択条件を満たすか否かを判断し、
上記物体識別処理手段は、該選択条件判断手段が該所定の選択条件を満たすと判断した選定エリアについては、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した選定エリアについては、上記輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定することを特徴とする物体識別装置。
【請求項3】
請求項1又は2の物体識別装置において、
上記撮像手段が撮像した2つの偏光画像内に設定される所定箇所の輝度合計値及び差分偏光度の少なくとも一方から、上記所定の選択条件に用いる差分偏光度用閾値を設定する閾値設定手段を有し、
上記所定の選択条件は、上記差分偏光度算出手段が算出する差分偏光度が上記差分偏光度用閾値以上であるという条件を含むことを特徴とする物体識別装置。
【請求項4】
請求項3の物体識別装置において、
上記所定の選択条件は、上記輝度算出手段が算出する輝度合計値が所定の閾値未満であるという条件を含むことを特徴とする物体識別装置。
【請求項5】
請求項1乃至4のいずれか1項に記載の物体識別装置において、
上記物体識別処理手段は、上記識別対象物に対応する処理領域を特定する処理として、互いに隣接する処理領域間の輝度もしくは差分偏光度の違いの大きさを示すエッジ値を算出するエッジ抽出処理を行い、これにより抽出したエッジ値に基づいて該識別対象物に対応する処理領域を特定する処理を行うことを特徴とする物体識別装置。
【請求項6】
請求項5の物体識別装置において、
上記物体識別処理手段は、上記エッジ抽出処理により抽出したエッジ値を所定のエッジ閾値により2値化処理し、その2値化処理後の値に基づいて上記識別対象物に対応する処理領域を特定する処理を行うものであり、
上記差分偏光度算出手段が算出した差分偏光度及び上記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、
該状況判別手段が判別した状況に応じて該エッジ閾値を決定するエッジ閾値決定手段とを有することを特徴とする物体識別装置。
【請求項7】
請求項6の物体識別装置において、
上記エッジ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記エッジ閾値を決定することを特徴とする物体識別装置。
【請求項8】
請求項5乃至7のいずれか1項に記載の物体識別装置において、
上記識別対象物を上記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、
上記物体識別処理手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が上記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とする物体識別装置。
【請求項9】
請求項8の物体識別装置において、
上記物体識別処理手段が行う上記形状近似判断処理では、上記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とする物体識別装置。
【請求項10】
請求項1乃至9のいずれか1項に記載の物体識別装置において、
上記物体識別処理手段が過去に行った上記物体識別処理の結果を記憶する識別処理結果記憶手段を有し、
上記物体識別処理手段は、上記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて上記物体識別処理を行うことを特徴とする物体識別装置。
【請求項1】
撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、
撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、
該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、
該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、
該差分偏光度算出手段が算出する差分偏光度が所定の選択条件を満たすか否かを判断する選択条件判断手段と、
該選択条件判断手段が該所定の選択条件を満たすと判断した場合には、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した場合には、該輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定し、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域を該識別対象物の画像領域であると識別する物体識別処理を行う物体識別処理手段とを有することを特徴とする物体識別装置。
【請求項2】
請求項1の物体識別装置において、
上記選択条件判断手段は、上記撮像手段が撮像した2つの偏光画像を区分して得られる複数の選定エリアごとに、上記差分偏光度算出手段が算出する差分偏光度が上記所定の選択条件を満たすか否かを判断し、
上記物体識別処理手段は、該選択条件判断手段が該所定の選択条件を満たすと判断した選定エリアについては、該差分偏光度算出手段が算出した差分偏光度に基づいて上記識別対象物に対応する処理領域を特定し、該選択条件判断手段が該所定の選択条件を満たさないと判断した選定エリアについては、上記輝度算出手段が算出した輝度合計値に基づいて上記識別対象物に対応する処理領域を特定することを特徴とする物体識別装置。
【請求項3】
請求項1又は2の物体識別装置において、
上記撮像手段が撮像した2つの偏光画像内に設定される所定箇所の輝度合計値及び差分偏光度の少なくとも一方から、上記所定の選択条件に用いる差分偏光度用閾値を設定する閾値設定手段を有し、
上記所定の選択条件は、上記差分偏光度算出手段が算出する差分偏光度が上記差分偏光度用閾値以上であるという条件を含むことを特徴とする物体識別装置。
【請求項4】
請求項3の物体識別装置において、
上記所定の選択条件は、上記輝度算出手段が算出する輝度合計値が所定の閾値未満であるという条件を含むことを特徴とする物体識別装置。
【請求項5】
請求項1乃至4のいずれか1項に記載の物体識別装置において、
上記物体識別処理手段は、上記識別対象物に対応する処理領域を特定する処理として、互いに隣接する処理領域間の輝度もしくは差分偏光度の違いの大きさを示すエッジ値を算出するエッジ抽出処理を行い、これにより抽出したエッジ値に基づいて該識別対象物に対応する処理領域を特定する処理を行うことを特徴とする物体識別装置。
【請求項6】
請求項5の物体識別装置において、
上記物体識別処理手段は、上記エッジ抽出処理により抽出したエッジ値を所定のエッジ閾値により2値化処理し、その2値化処理後の値に基づいて上記識別対象物に対応する処理領域を特定する処理を行うものであり、
上記差分偏光度算出手段が算出した差分偏光度及び上記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、
該状況判別手段が判別した状況に応じて該エッジ閾値を決定するエッジ閾値決定手段とを有することを特徴とする物体識別装置。
【請求項7】
請求項6の物体識別装置において、
上記エッジ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記エッジ閾値を決定することを特徴とする物体識別装置。
【請求項8】
請求項5乃至7のいずれか1項に記載の物体識別装置において、
上記識別対象物を上記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、
上記物体識別処理手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が上記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とする物体識別装置。
【請求項9】
請求項8の物体識別装置において、
上記物体識別処理手段が行う上記形状近似判断処理では、上記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とする物体識別装置。
【請求項10】
請求項1乃至9のいずれか1項に記載の物体識別装置において、
上記物体識別処理手段が過去に行った上記物体識別処理の結果を記憶する識別処理結果記憶手段を有し、
上記物体識別処理手段は、上記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて上記物体識別処理を行うことを特徴とする物体識別装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図11】
【図12】
【図13】
【図14】
【図15】
【図17】
【図18】
【図19】
【図20】
【図21】
【図8】
【図9】
【図10】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図11】
【図12】
【図13】
【図14】
【図15】
【図17】
【図18】
【図19】
【図20】
【図21】
【図8】
【図9】
【図10】
【図16】
【公開番号】特開2012−33149(P2012−33149A)
【公開日】平成24年2月16日(2012.2.16)
【国際特許分類】
【出願番号】特願2011−114337(P2011−114337)
【出願日】平成23年5月23日(2011.5.23)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成24年2月16日(2012.2.16)
【国際特許分類】
【出願日】平成23年5月23日(2011.5.23)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]