撮像装置、車載用撮像システム、路面外観認識方法及び物体識別装置
【課題】撮影環境によらずに簡易な構成で走行路面の境界を正確に検出することができ、安全な運転のための運転者への視認表示や車両制御への的確な情報を提供し得る撮像装置を提供する。
【解決手段】偏光カメラによって撮影した路面の垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成する。偏光カメラで撮影した画像の輝度情報に基づいて白線WLを検出し、内側のそれぞれの偏光比(走査用基準偏光比)を使って、1走査線ごとに画面の下から画面の上まで中央から左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較することで、路端REを検出する。差分値が閾値以内の部分は×で表示し、閾値より大きい部分は黒丸で表示している。黒丸部分は路端REとして認識されたところである。
【解決手段】偏光カメラによって撮影した路面の垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成する。偏光カメラで撮影した画像の輝度情報に基づいて白線WLを検出し、内側のそれぞれの偏光比(走査用基準偏光比)を使って、1走査線ごとに画面の下から画面の上まで中央から左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較することで、路端REを検出する。差分値が閾値以内の部分は×で表示し、閾値より大きい部分は黒丸で表示している。黒丸部分は路端REとして認識されたところである。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車等の走行体ないし移動体が走行する路面(道路)の外観を撮影して走行領域における境界等の位置情報を得る撮像装置、該撮像装置を備えた車載用撮像システム、路面外観認識方法及び物体識別装置に関する。
【背景技術】
【0002】
近年、車載カメラなどの撮像システムにおいては、センターライン越え等による車両の衝突や道路からの逸脱等の事故発生を防止するため、道路の白線(黄線を含む)位置を認識し、車両の操舵を制御して車線を維持しながら走行するシステムが提案されている。
この技術では、車両に搭載された白線認識装置がCCDカメラ等の撮像手段により車両前方の道路画像を取り込み、白線位置で輝度が高いことを利用して白線を検出する。具体的には、例えば画像の微分処理および2値化処理によるエッジ(エッジ点列)抽出を行い、その抽出エッジについて白線エッジか否かの判定を行う。さらに、抽出エッジについて、直線検出法として知られるハフ(Hough)変換を行うことで、白線位置を決定することが開示され既に知られている。
【0003】
特許文献1には、太陽光が路面に反射する場合であっても、安定して白線を検出することができるようにする目的で、透過させる光の偏光方向が各々異なる複数の偏光フィルタを、車両上下方向に配列した偏光フィルタ群を介して、自車両の前方を撮像するシステムが開示されている。
これは、撮像装置によって撮像された前方路面画像の複数の偏光フィルタに対応する複数のスキャンライン領域のうち、領域における各画素の輝度値の変化量が閾値以上となるスキャンライン領域の輝度値に基づいて、白線検出部によって路面上の白線を検出する方法を採っている。
特許文献2には、走行環境或いは撮影環境によらず道路画像から白線などのラインを検出する目的で、その1つとして、露光量の異なる二つの道路画像を撮影し、例えば車両がトンネルに進入する場合には露光量の多い画像を用いて、輝度差に基づくテンプレートマッチング手法により白線を検出する方法が開示されている。
また、水たまり部分を白線と誤認識するのを防止するために、垂直偏光画像と水平偏光画像を撮影し、その差分を演算して入射光が散乱光か鏡面反射光かを識別し、水たまり等による鏡面反射成分を除去する方法が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記した従来の白線検出方法にあっては、垂直偏光および水平偏光の2枚の画像が必要であり、自動検出が可能なセンサシステムとして達成しようとする場合、テレビカメラの他に、偏光フィルタを回転制御するための機構などが必要となり、コスト高になるといった問題があった。
しかし、今までの白線を検出する装置では、装置構成が煩雑の問題と、検出精度を高めれば、画像処理の演算負担が大きくなり、画像処理の演算負担を小さくすれば、白線の検出精度は低下する問題と、曇りやトンネル等の撮像素子の入射光量が不足する撮影環境場合線などのラインを正しく検出することが難しい問題があった。
【0005】
すなわち、このようなシステムでは、撮影された道路画像から白線をいかに正確に検出するかが重要な課題となっている。しかしながら、以下のような状況においては白線位置が認識できないという問題があった。
(1)白線が影内にある場合、白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
(2)逆光を浴びて路面が光っているとき、太陽光の反射による路面と白線との輝度差が小さいため、白線エッジを抽出できず、未認識となる。
(3)天候(雨、曇りのときなど)により、白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
(4)雨あがりなどで、路面がぬれて光っているときや水たまりがあるため、白線エッジを抽出できず、未認識となる。
(5)白線の外側に路肩、溝等が存在する場合、それらのエッジを白線エッジと判断し、誤認識となる。
(6)道路上における道路補修跡により、白線エッジを抽出できず、誤認識となる。
【0006】
また、路面を車が安全に走行するには、センターラインや路側帯ラインなどの白線(黄色のUターン禁止ライン等を含む)を認識するだけでなく、路端、すなわち走行路面と角度(高低差を含む)を有して隣接する路面領域外部材(中央分離帯や側壁、縁石、植栽、土手など)との境界を明確に認識する必要がある。
一般に路面はアスファルトで形成されており、樹脂材料で形成された白線とは光の反射率が大きく異なるため、白線検出には上述した従来の輝度差による認識手法が適用可能であるが、側壁等の路面と角度を有して隣接する路面領域外部材は材質がコンクリートやレンガ、土、植物などであるため、路面との反射率の違いが少ない場合が多く、白線を検出するのに比べて検出精度は低くなる。
夜間やトンネル内等のように入射光量が不足する撮影環境では、検出精度の低下はさらに困難となる。
垂直偏光画像と水平偏光画像の差分を用いる方式においても、輝度差による検出方式に変わりがないため、路端検出の適用において精度を高めることは困難であった。
【0007】
従来の輝度差による検出手法において、検出精度を高めるためには、複数のカメラを備えたステレオ光学系などの測距機構が必要であり、装置構成が煩雑になるとともに、画像処理の演算負担が大きくなることを避けられない。
【0008】
本発明はこのような事情に鑑みてなされたもので、撮影環境によらずに簡易な構成で白線や走行路面の境界を正確に検出することができ、安全な運転のための運転者への視認表示や車両制御への的確な情報を提供し得る撮像装置等の提供を、その主な目的とする。
【課題を解決するための手段】
【0009】
まず、本発明が具体化されるに到った経緯を以下に説明する。
2つの屈折率の異なる材質の界面に、ある角度をもって光が入射する時、入射面に平行な偏光成分であるP偏光成分と、垂直な偏光成分であるS偏光成分では反射率が異なり、P偏光成分はある角度(ブリュースター角)で0まで減少し、その後増加する。S偏光成分は単調に増加することが知られている。
【0010】
P偏光成分とS偏光成分の反射特性に差異が出るため、下記の式2で定義される偏光度も入射角や屈折率によって変化する。
偏光度=(P偏光成分−S偏光成分)/(P偏光成分+S偏光成分)・・・・・(式2)
偏光度は屈折率と光源からの被写体への入射角、被写体からカメラへの取り込み角度に応じて変化する。
一般に路面はアスファルトによって形成されている。一方、路面と角度を有して隣接する路面領域外部材はコンクリートや植栽、土といった材質の異なるものである。路面上に平面的に形成された白線等のラインもアスファルトとは材質が異なる。
材質が異なると屈折率も異なるため、路面とラインとの間または路面領域外部材との間で偏光度(偏光比)に違いが生じる。偏光度の違いは輝度差による認識方式の場合のように入射光量にあまり左右されないため、偏光比画像を生成することにより、路面とラインとの境界、または路面領域外部材のエッジに相当する路肩(路端)を検知することが可能となる。
【0011】
また、路面に隣接する路面領域外部材は路面に対して角度を有して存在している。被写体の面の法線方向が異なると、被写体への光源からの入射角やカメラでの取り込み角度が異なるため、路面と隣接領域(路面領域外部材)との間で偏光度に違いが生じる。
この観点からも、偏光比画像を生成することにより、路面と隣接する路面領域外部材のエッジ(境界)に相当する路肩(路端)を検知することが可能となる。特に、路面領域外部材との間においては、材質の相違による偏光度の違いに、角度の相違による偏光度の違いが加味されるため、検出精度は高くなる。
このように偏光度の画像を生成することで、材質と角度の違いに基づき路面とライン間のエッジや、路面と路面領域外部材間のエッジ(路端)を検出することが可能となる。
偏光度は、式1に示す通り、P偏光成分とS偏光成分の差分値を、各々の和で規格化した値であるため、輝度差がない暗い環境下でも路端を検知することができるのである。
【0012】
本発明は、このような技術思想の下、上記目的を達成すべく創案されたもので、請求項1に記載の発明は、走行する路面の垂直偏光画像および水平偏光画像を撮影可能な撮像手段と、前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成する偏光比画像生成手段と、前記偏光比画像上の偏光比情報により、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する異部材検出手段と、を有することを特徴とする撮像装置である。
【0013】
請求項2に記載の発明は、請求項1に記載の撮像装置において、前記異部材検出手段は、前記偏光比画像を走査し、1走査線ごとの偏光比情報により異物を検出することを特徴とする。
請求項3に記載の発明は、請求項2に記載の撮像装置において、前記異部材検出手段は、走査に使用する偏光比と同じ走査線上にある偏光比との差分値を算出し、予め定められた閾値と比較することにより異部材を検出することを特徴とする。
請求項4に記載の発明は、請求項3に記載の撮像装置において、前記垂直偏光画像と水平偏光画像とから輝度情報を算出する輝度情報算出手段と、算出された輝度情報に基づいて前記ラインを検出するライン検出手段と、を有し、前記異部材検出手段は、検出された前記ラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
【0014】
請求項5に記載の発明は、請求項4に記載の撮像装置において、前記異部材検出手段は、前記ラインを検出できなかった場合、過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
請求項6に記載の発明は、請求項4に記載の撮像装置において、前記異部材検出手段は、前記ラインが走行方向に途切れていた場合、ラインが無い領域では過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
請求項7に記載の発明は、請求項5または6に記載の撮像装置において、前記異部材検出手段は、過去の画像により抽出したラインが走行方向に途切れていた場合、同じ偏光比画像内の他の走査線で検出されたラインの仮想延長線を基準した偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
【0015】
請求項8に記載の発明は、請求項4に記載の撮像装置において、前記異部材検出手段は、前記ラインを検出できなかった場合、路面中心部の偏光比を前記走査に使用する偏光比とすることを特徴とする。
請求項9に記載の発明は、請求項4〜8の何れか1つに記載の撮像装置において、前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記ライン検出手段は、輝度値画像を上方と下方の二つのエリアに分け、エリア毎に適用する輝度の閾値を設定することを特徴とする。
請求項10に記載の発明は、請求項4〜9の何れか1つに記載の撮像装置において、前記ライン検出手段は、前記ラインを判断するためのエッジ候補からライン幅を算出し、算出したライン幅が規定範囲の場合にラインエッジと判断することを特徴とする。
【0016】
請求項11に記載の発明は、請求項4〜10の何れか1つに記載の撮像装置において、前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記異部材検出手段または前記ライン検出手段は、画像の下方から上方へという順序で画像水平方向の走査線の中央から画像の左右方向へ走査して、異部材を検出することを特徴とする。
請求項12に記載の発明は、請求項4〜11の何れか1つに記載の撮像装置において、1フレーム以上の過去の撮影画像により認識した前記ラインと前記路面領域外部材との領域を記憶する領域記憶手段と、記憶された結果に基づいて次のフレームの探索位置を決める探索位置決定手段とを有していることを特徴とする。
請求項13に記載の発明は、請求項9または11に記載の撮像装置において、検出された前記ラインのエッジと前記路面領域外部材のエッジに対して形状近似認識により近似曲線を取得する近似曲線取得手段を有し、偏光比画像の下部で抽出した信頼性の高いラインエッジと前記路面領域外部材のエッジには形状近似の投票値に大きな重みを持たせることを特徴とする。
【0017】
請求項14に記載の発明は、車に取り付けられ、路面を撮影する撮像装置と、撮影された画像を表示する表示手段とを有する車載用撮像システムにおいて、前記撮像装置が、請求項1〜13のいずれか1つに記載のものであることを特徴とする。
請求項15に記載の発明は、走行する路面の垂直偏光画像および水平偏光画像を撮影し、前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成し、特定の偏光比を使用して前記偏光比画像を走査することにより、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出することを特徴とする路面外観認識方法である。
【0018】
請求項16に記載の発明は、撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、該差分偏光度により差分偏光度画像を生成する差分偏光度画像生成手段と、該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に車両の走行レーンを区画する車線の車線候補点の検出を行う車線候補点検出手段と、該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に平面的に形成されて路面領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する路面形状推定手段と、該路面形状推定手段で推定された路面の形状に基づいて、車線領域を決定する車線探索領域決定手段と、該車線領域決定手段で決定した車線領域にある車線候補点に基づいて、走行車線を認識する車線検出手段と、を有することを特徴とする。
【0019】
請求項17に記載の発明は、請求項16に記載の物体識別装置において、前記車線探索領域決定手段は、走行路面の傾きと幅とにより、車線の探索領域を決定することを特徴とする。
請求項18に記載の発明は、請求項16または17に記載の物体識別装置において、前記車線探索領域内では、車線を認識できなかった場合、車線探索領域に対応する部分では、前記車線検出手段は適用する差分偏光度のパラメータ閾値を下げることを特徴とする。
請求項19に記載の発明は、請求項16に記載の物体識別装置において、前記路面形状推定手段は、差分偏光度画像を所定パラメータの閾値により2値化処理を行い、2値化処理後の値に基づいて、路面の特徴量を持つ領域内画像データの連結成分をラベリング処理により抽出し、抽出された前記連結成分を路面として、識別することを特徴とする。
【0020】
請求項20に記載の発明は、請求項19に記載の物体識別装置において、前記差分偏光度画像を2値化するため、前記差分偏光度算出手段が算出した差分偏光度及び前記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、該状況判別手段が判別した状況に応じて該パラメータの閾値を決定するパラメータ閾値決定手段と、を有することを特徴とする。
請求項21に記載の発明は、請求項20に記載の物体識別装置において、上記パラメータ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記パラメータ閾値を決定することを特徴とする。
【0021】
請求項22に記載の発明は、請求項16〜21の何れか1つに記載の物体識別装置において、前記認識対象物を前記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、前記車線検出手段と前記路面形状推定手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が前記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とする。
【0022】
請求項23に記載の発明は、請求項16〜22の何れか1つに記載の物体識別装置において、前記車線検出手段と前記路面形状推定手段とが行う前記形状近似判断処理では、前記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とする。
請求項24に記載の発明は、請求項1〜23の何れか1つに記載の物体識別装置において、過去に行った物体識別処理の結果を記憶する識別処理結果記憶手段を有し、前記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて物体識別処理を行うことを特徴とする。
【発明の効果】
【0023】
本発明によれば、撮影環境の明暗によらずに簡易な構成で走行路面の境界(白線との境界及び路面領域外部材との境界)を正確に検出することができ、安全な運転のための運転者への視認表示や車両制御への的確な情報を提供することができる。
本発明によれば、撮影環境によらずに、路面反射光の差分偏光度成分の強度変化を利用して簡易の構成で白線を正確に検出することができる。
また、前方道路の差分偏光度成分から推測された路面の形状情報を利用し、白線の外側に路肩、溝等により、白線の未認識と誤認識を防止することができる。
【図面の簡単な説明】
【0024】
【図1】本発明の一実施形態に係る車載用撮像システムの構成を示すブロック図である。
【図2】制御動作を示すフローチャートである。
【図3】白線と路端の走査順次を示す図で、(a)は偏光比画像を示す図、(b)はその偏光比画像を走査している状態を示す図である。
【図4】高速道路における偏光比の変化箇所を示す図である。
【図5】偏光比と頻度の関係を示すグラフである。
【図6】サンプル画像の枚数と偏光比の変化を示す雨の日のデータによるグラフである。
【図7】サンプル画像の枚数と偏光比の変化を示す晴れの日のデータによるグラフである。
【図8】白線エッジ検出の処理動作を示すフローチャートである。
【図9】路端エッジ検出の処理動作を示すフローチャートである。
【図10】路面上に白線が2本ある場合の路端検出のための走査状態を示す図である。
【図11】路面上に白線が1本ある場合の路端検出のための走査状態を示す図である。
【図12】路面上に白線が無い場合の過去画像のデータを利用した路端検出のための走査状態を示す図である。
【図13】路面上に白線が無い場合に画像中央の偏光比を利用した路端検出のための走査状態を示す図である。
【図14】路面上の白線が不連続となっている場合の過去画像のデータを利用した路端検出のための走査状態を示す図である。
【図15】路面上の白線が途切れている場合の画像中央の偏光比を利用した路端検出のための走査状態を示す図である。
【図16】路面に影がある場合の走査状態を示す図である。
【図17】輝度画像と差分偏光度画像とでコントラストの差異が生じる理由を説明するための写真画像である。
【図18】太陽からの光において、高度と方位によって縦横偏光度が変化することを示す図である。
【図19】日陰の中の路面等に照射される空からの光は角度依存性がないことを示す図である。
【図20】逆光を浴びて路面が光っているときのモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図21】曇天の日におけるモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図22】雨上がりで路面が濡れているときのモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図23】白線の外側に路肩、溝等が存在する場合のモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図24】本発明における車線の認識処理の工程を示す図である。
【図25】車両前方路面のモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図26】差分偏光度画像を用いて車線っぽいエッジを検出する状態を示す写真画像である。
【図27】差分偏光度画像を用いて、ラベリング処理により路面の形状を認識した状態を示す写真画像である。
【図28】路面の幅及び傾きにより車線の探索範囲を決定した状態を示す写真画像である。
【図29】車線探索領域にある抽出された車線エッジに基づいて、ハフ変換を用いて車線の形状を近似した状態を示す写真画像である。
【図30】他の実施形態に係る車載用撮像システムの構成を示すブロック図である。
【図31】全体処理の制御動作を示すフローチャートである。
【図32】撮像手段の一具体例を示す図である。
【図33】撮像手段の他の例を示す図である。
【図34】撮像手段の他の例を示す図である。
【図35】撮像手段の他の例を示す図である。
【図36】撮像手段の他の例を示す図である。
【図37】撮像手段の他の例を示す図である。
【図38】車線候補点検出の処理制御を示すフローチャートである。
【図39】路面形状推定手段の処理制御を示すフローチャートである。
【図40】2値化した差分偏光度画像において路面の特徴により路面の連結成分を抽出した写真画像である。
【図41】路面状態の学習によりパラメータ決定の制御を示すフローチャートである。
【発明を実施するための形態】
【0025】
以下、本発明の一実施形態を図を参照して説明する。
図1は、本実施形態に係る車載用撮像システム10の全体構成(ハードウェア構成)を示すブロック図である。
図示しない車両に搭載された撮像手段としての偏光カメラ12により、車両が走行する道路の外観(ここでは走行方向前方の景色=フロントビューとする)を撮影し、その垂直偏光成分(以下、単に「S成分」という)と水平偏光成分(以下、単に「P成分」という)及びこれを包含した偏光RAW画像データを取得する。
撮影された水平偏光画像データはメモリ1に、垂直偏光画像データはメモリ2にそれぞれ格納される。
これらの画像データは、それぞれ輝度情報算出手段としてのモノクロ情報処理部14と、偏光比画像生成手段としての偏光比情報処理部16に送信される。偏光比情報処理部16は取得されたP成分とS成分を用い、偏光比を算出して偏光比画像を生成する。
モノクロ情報処理部14は、取得されたP成分とS成分を用い、モノクロ画像の生成と、輝度情報(生成されたモノクロ画像の画素ごとの輝度値)の算出を行う。
【0026】
偏光比情報処理部16は、式1に示す計算式により、それらの比率を計算することで、偏光比情報画像データを得る。偏光比の計算は、取得した偏光成分の比率を計算できればよいので、式2で計算してもよい。
また、偏光比情報処理部16では、式3により輝度情報画像データも生成し、出力する。
偏光比=P偏光成分/S偏光成分・・・・・(式1)
偏光比=(P偏光成分−S偏光成分)/(P偏光成分+S偏光成分)・・・・・(式2)
輝度データ=(P偏光成分+S偏光成分)・・・・・(式3)
【0027】
ライン検出手段としての白線検出部18は、モノクロ情報処理部14により計算された輝度情報を元に、後述する方法にて走行路面上の白線領域を検出するものである。異部材検出手段としての路端検出部20は、白線検出部18により検出された白線情報に基づいて、偏光比情報処理部16で計算された偏光比情報により、路端を検出するものである。
白線検出部18により検出された白線や、路端検出部20により検出された路端は、CRTや液晶等で構成される表示部(ディスプレイ)22に、運転者が見やすい形態で表示される。路端検出部20による検出データを車両制御部24に送信して車両制御を行ってもよい。
メモリ1、メモリ2、モノクロ情報処理部14、偏光比情報処理部16、白線検出部18及び路端検出部20は、画像処理装置26を構成している。
偏光カメラ12、画像処理装置26及び表示部22は、車載用撮像システム10を構成し、偏光カメラ12及び画像処理装置26は撮像装置2を構成する。
本実施形態に係る車載用撮像システム10において、偏光カメラ12、画像処理装置26及び表示部22のシステム全体を車両に搭載してもよく、偏光カメラ12のみを搭載して、画像処理装置26及び表示部22は遠隔配置して車両の走行状態を運転者以外の者が客観的に把握するシステムとすることもできる。
本実施形態に係る偏光カメラ12は、1台で水平偏光画像と垂直偏光画像の両方を撮影できる構成を有しているが、水平偏光画像を撮影する偏光カメラと垂直偏光画像を撮影する偏光カメラとで撮像手段を構成してもよい。
【0028】
図2に基づいて車載用撮像システム10の制御動作を説明する。
偏光カメラ12にて取得した車両前方路面のS成分とP成分及びこれを包含した偏光RAW画像データを用いて、上述の式2と式3で偏光比情報と輝度情報を算出する。
得られた道路画像の輝度情報により後述する方法にて白線のエッジを検出する。検出された白線の内側の偏光比を「走査用基準偏光比」として用い、偏光比画像を走査する。偏光比画像を構成する画素ごとに偏光比が設定されており、路端検出部20は偏光比情報処理部16が生成した偏光比画像にアクセスして画素ライン(走査線)をビームで走査する。「走査線」とは、ディスプレイで電子ビームが走査する画面左端から右端までの軌跡のことである。
偏光比画像の左右方向へ同じ走査線上にある偏光比と比較し、偏光比の変化(走査用基準偏光比と走査した偏光比との差分値)が予め定められた閾値より小さい場合、同じ走査線上の次の画素位置へ走査し続ける。大きい場合には、路端エッジとして抽出する。
【0029】
白線の内側の偏光比を走査用基準偏光比として用いる理由は、前方車両、街路樹、建物などの影の影響による路端エッジの誤認識を少なくすることができるからである。なお、走査線中央(偏光比画像の中央)の偏光比を走査用基準偏光比として用い、路端エッジを認識することもできる。
白線エッジと路端エッジを検出する際、信頼性が高い画像(画面)の下方から上方へという順序でx軸方向(画面縦方向)に走査線上を走査する。
一画面分の路端エッジと白線エッジを抽出した後、抽出した路端エッジと白線エッジに対して形状近似認識により近似曲線を取得する。この取得は近似曲線取得手段を兼ねる路端検出部20により実行される。
形状を認識する手法に関しては、最小二乗法やハフ変換やモデル方程式などの手法を適用できる。近似曲線を取得する際、道路画像の下部(画面下部)で抽出した信頼性の高い白線エッジと路端エッジには形状近似の投票値に大きな重みを持たせる。このようにすれば、道路画像の上方走査範囲で白線エッジと路端エッジを誤認識しても、下方走査範囲で正しい白線エッジと路端エッジを抽出できていれば、白線と路端の認識を成功させることができる。
【0030】
リアルタイムに白線と路端を検出する場合においては、一枚(フレーム)以上の過去の撮影画像(偏光比画像)に同じような白線と路端が見つかったら、信頼できると判断する。次のフレームから前のフレームの白線位置に基づいて、白線エッジと路端エッジを探索し、線を引く。5フレーム分の画像の白線エッジ位置と路端エッジ位置がロストしたら、最初の下方の走査線の中央位置から探し始める。最後に、検出した結果を使って車両制御してもよいし、白線、路端を運転者が見やすい形態でディスプレイに表示してもよい。
【0031】
図3に基づいて、白線と路端の走査順次について説明する。
白線エッジと路端エッジを検出する際、信頼性が高い画像下方から上方へという順序でx軸方向に走査線BL上を走査する。図3(b)に示すように、走査線の中央部CTから画像の左右方向へ走行路面RFの両端の白線WLと路端REを検出する。図3において符号30はディスプレイの表示面を、32は車を示している。
図4〜図7に基づいて、100枚のサンプル画像の偏光比変化について説明する。図4は高速道路での走行状態を示している。晴れの日と雨の日では、左側の路端REにある領域内の偏光比は、左側の白線WLの内側領域内の偏光比と比べると、図6及び図7から急激に変化していることがわかる。これにより、路端領域と路面領域で偏光比は切り分け可能である。
この特徴を利用して、モノクロ画像には見えない違う材質のラインと角度がある路面領域外部材を検出することができる。
図5は、図4に示す一画面内の四ヶ所、P1(左側の路端)、P2(自車線の左側=白線内側=路面左)、P3(自車線=路面真ん中)、P4(自車線の右側=路面右)の領域での偏光比のヒストグラムを示している。
【0032】
図8に基づいて、白線エッジ検出の処理フローについて説明する。
通常の道路はアスファルト等の黒い部分に白線が形成されており、白線の部分の輝度はその他の部分より十分大きいため、得られた路面の輝度が所定値以上の部分を白線と判定するこができる。
車両前方路面のS成分とP成分により路面の輝度情報(輝度値)を算出する。モノクロ情報処理部14によって生成された輝度値画像において、白線検出部18により路面の輝度データと予め設定された閾値とを大小比較することにより白線エッジの候補点を検出する。検出された白線エッジの候補点と予め定められた白線幅の閾値とを大小比較することにより路面上に描かれた一対の白線エッジを抽出する。
輝度の閾値設定のステップでは、画像上方と下方の白線のコントラストが違っているため、同一の閾値を用いて処理を行うと良好な結果が得られない。そこで、一フレームの画像に対して、x方向において上方と下方の二つのエリアに分け、それぞれに適用する輝度の閾値を設定する。
【0033】
図9に基づいて、路端エッジ検出の処理フローについて説明する。
上記と同様に、偏光比画像を生成して、走査用基準偏光比を設定するとともに閾値を設定する。
検出された白線の内側の偏光比を用いて、画面の左側のエリアにあれば、白線の内側から画面の左へ走査線ごとに同じ走査線にある偏光比との差分を算出する。画面の右側のエリアにあれば、白線の内側から画面の右へ走査線ごとに同じ走査線にある偏光比との差分を算出する。
差分値と閾値とを大小比較し、所定値以上の部分を路端と判定するこができる。
【0034】
図10〜図15に基づいて、白線情報により路端を検出する方法について具体的に説明する。
図10は走行路面上の二本の白線WLにより路端REを認識するための走査状態を示す図である。図に示すように、認識された二本の白線の内側のそれぞれの偏光比(走査用基準偏光比)を使って、1走査線ごとに画面の下から画面の上まで中央から左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較することで、路端認識する。
差分値が閾値以内の部分は×で表示し、閾値より大きい部分は黒丸で表示している(他の図において同じ)。黒丸部分は路端として認識されたところである。
図11は、走行路面上に一本の白線WLしかない場合に、白線により路端を認識するための走査状態を示す図である。図に示すように認識された一本の白線WLの内側の偏光比(走査用基準偏光比)を使って、1走査線ごとに画面の下から画面の上まで左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較する。図10の場合と同様に路端を検出することができる。
【0035】
図12は、走行路面上の白線を抽出できなかった場合の走査方法を示している。(b)に示すように白線を抽出できなかった場合、(a)に示す1フレーム前の過去画像で認識した白線((b)において一点鎖線で表示)の内側の偏光比を用いて、路端を探索する。
この場合、過去画像における白線と路端との領域は領域記憶手段50(図1参照)に記憶されており、探索位置検定手段を兼ねる路端検出部20は記憶された結果に基づいて次のフレーム(現フレーム)の探索位置を決定する。
図13は、走行路面上の白線を抽出できなかった上に、(a)に示す1フレーム前の過去画像にも白線がなかった場合の走査方法を示している。この場合、(b)に示すように走査線中心(画像中央、画面中央)の偏光比を使って、1走査線ごとに画面の下から画面の上まで中央から左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較することで、路端認識する。
【0036】
図14は走行路面上の白線が切れていた場合、すなわち、走行方向に不連続となっていた場合の走査方法を示している。この場合、切れていた白線が存在するラインの、(a)に示す1フレーム前の過去画像で認識した白線((b)において一点鎖線で表示)の内側の偏光比を用いて、路端を探索する。
図15は、走行路面上の白線が途切れてなくなった場合の走査方法を示している。この場合、途切れた白線が存在するラインの、(a)に示す1フレーム前の過去画像でも白線が認識できなかった時、同じ画面内の他の走査線で見つけた結果の延長線((b)において一点鎖線で表示)上にある偏光比を用いて、路端を探索する。
【0037】
図16は、走行路面上に影がある場合の走査方法を示している。
走行路面上に影SDがある場合、左側の白線の内側の領域と路端の隣の領域は同じ影の下にある。
この場合、輝度差で検出する方式では影によって入射光量が低下し、路面と路端の輝度差がなくなるため、検出が困難となるのに比べ、影のある部分とない部分とで偏光比の特性は変わるが、偏光比の差分レベルはそのまま残る。
したがって、路端と近い白線内の偏光比を用い、1走査線ごとに路面上の両端の路端を探索することで、影の影響を減らすことができる。
【0038】
上記実施形態では、輝度情報に基づいてライン検出手段としての白線検出部18で白線を検出するようにしたが、路端検出と同様に、例えば画像中央の偏光比を走査用基準偏光比として用い、走査して白線を検出するようにしてもよい。
この場合、図1におけるモノクロ情報処理部14及び白線検出部18は不要となる。
【0039】
本発明の実施形態を実際の写真画像によりより詳細に説明する。
天候や日向・日影の差異に応じて、輝度画像や差分偏光度画像のコントラストは変化する。白線などのラインを検出するにあたって、輝度画像、差分偏光度画像それぞれが得意とするシーン、苦手とするシーンがある。
そして、輝度画像が苦手とするシーンは差分偏光度画像が得意とするシーンであったり、反対に差分偏光度画像が苦手とするシーンは輝度画像が得意とするシーンであったり、とお互いが補間する関係にあることを本発明者らは撮影実験を通して見出した。
このような輝度情報と差分偏光度情報の補間関係を利用しているので、撮影環境によらずに簡易の構成で白線の認識精度の信頼性を向上させることができる。
特に輝度情報では認識が困難とされるシーンについて具体例を挙げて説明する。なお撮影は車両前方を撮影するように車内に設置された撮像装置での異なるシーンの撮影結果を示す。
【0040】
[1.白線が影内にある場合]
白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
図17は晴れの日の影となっているシーンの撮影結果であり、図17(a)は差分偏光度画像、図17(b)はモノクロ輝度画像である。モノクロ輝度画像に比べ、差分偏光度画像のほうが白線が鮮明に確認できる。
このように、輝度画像と差分偏光度画像でコントラストの差異が生じる理由について説明する。
一般に輝度情報に関しては、昼間の日向のシーンのコントラストが高くなり、日影や雨や曇りの日のような陽があたらないシーンではコントラストが低くなることは、我々の日常生活からも実感できる。これに対して、差分偏光度は不可視の情報でありコントラストの差異が生じる理由について説明を要する。
【0041】
図18は、実験室において、アスファルト面に対し、光源位置を変化させて固定配置されたカメラでP偏光画像とS偏光画像を撮影したときの差分偏光度の変化の一例を示すグラフである。このグラフは、横軸に入射角度(光源位置)をとり、縦軸に差分偏光度をとったものである。カメラ仰角は水平から10度傾けた状態である。この差分偏光度は、各入射角度の撮影画像についての略中央部の輝度情報から算出したものである。このブラフにおける差分偏光度は、P偏光成分(Rp)とS偏光成分(Rs)の合計値に対する、P偏光成分からS偏光成分を差し引いた値の比率である。
よって、S偏光成分よりもP偏光成分の方が強い場合には、差分偏光度は正の値をとり、P偏光成分よりもS偏光成分の方が強い場合には、差分偏光度は負の値をとることになる。
【0042】
図17の日影のシーンの撮影結果がどのような状態になっているかを、図18の結果をもとにして説明する。
日影のなかの路面や側壁物に照射される光の光源は太陽からの直射光ではなく、空からの光である。太陽からの光はその高度と方位によって、縦横偏光度が変化するのに対して、空からの光は、天空からの各高度、各方位から均等に被検物である路面や側壁物に照射されている、よって図18に示すような角度依存性はなく、図19のような縦横偏光度と入射角特性のグラフを引くと、所定の値(図18の略平均値相当)をとる。
一方、白線は散乱体を含む塗料を有するものであり、差分偏光度は入射角依存少なくほぼ0である。日影の路面と白線を撮影した場合、コントラストのある差分偏光度画像となる。日影については輝度画像のコントラストが低下するのに対して、差分偏光度についてはコントラストある画像がとれるため、日影については差分偏光度画像を使って白線の認識をしてやればよい。
【0043】
[2.逆光を浴びて路面が光っている場合]
太陽光の反射による路面と白線(黄線)との輝度差が小さいため、白線エッジを抽出できず、未認識となる。
図20は晴れの日の撮影結果であり、図20(a)は差分偏光度画像、図20(b)はモノクロ輝度画像である。差分偏光度画像のほうが路端部、白線の認識率が高いことがわかる。
図20の晴れのシーンについて説明する。晴れの日向路面に照射される光の光源としては、太陽、空(太陽からの光が散乱光成分)の2つに分類できるが、路面に照射される光成分は太陽からの光が支配的成分である。すなわち図18の測定結果をそのまま適用することが可能である。
【0044】
図18の測定結果から、逆光時には差分偏光度は負側に大きくなる特性を有している。一方、太陽がカメラの後ろ側にある順光のときはアスファルト面の差分偏光度は0である。これに対して、白線は散乱体を含む塗料を有するものであり、差分偏光度は入射角依存少なくほぼ0である。逆光の路面と白線を撮影した場合、コントラストのある差分偏光度画像となる。逆光については、輝度画像の路面も反射光量が強くなり、白っぽく見えるようになり、白線との差異が低下するのに対して、差分偏光度についてはコントラストある画像がとれるため、逆光については差分偏光度画像を使って白線の認識をしてやればよい。
【0045】
[3.天候が雨や曇りの場合]
白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
図21は曇天の日の撮影結果であり、図21(a)は差分偏光度画像、図21(b)はモノクロ輝度画像である。差分偏光度画像のほうが白線の認識率が高いことがわかる。
このような雨の日や曇りの日についても、日影のシーンと同様に太陽からの直射光は存在しないため、コントラストのとれた差分偏光度画像となる。曇天時の路面と白線を撮影した場合、コントラストのある差分偏光度画像となる。輝度画像のコントラストが低下するのに対して、差分偏光度についてはコントラストある画像がとれるため、曇天については差分偏光度画像を使って白線の認識をしてやればよい。
【0046】
[4.雨上がりなどの場合]
路面がぬれて光っているときや水たまりがあるため、白線エッジを抽出できず、未認識となる。
さらに雨で路面が濡れると、鏡面反射成分が強くなるため、輝度画像では白線が見えにくくなる。輝度画像としては濡れて画像全体が黒くなりコントラストが低くなる方向である。これに対して、差分偏光度では鏡面反射成分を除いて、下層にある路面情報を検出することが可能である。そのため雨路についても図22に示すように、差分偏光度で白線(黄線)の認識をしてやればよい。
【0047】
[5.白線の外側に路肩、溝等が存在する場合]
それらのエッジを白線エッジと判断し、ご認識となる。
偏光情報は上述のように材質の違いを検出することが可能である。同時に角度の違いも検出することが可能である。例えば鏡面反射面を想定した場合、直交したもの同士では差分偏光度も反転する。
このような現象を用いることにより、モノクロ輝度画像では検出不可能な角度情報も検出できる。よって図23のように側壁物があるシーンではその路面と側壁物の間で差分偏光度に差異が生じる。このような性質を併用することで図23(b)のモノクロ輝度画像では白線なのか壁なのかが区別できないようなシーンについても、図23(a)に示すように、差分偏光度画像の情報を用いて壁と認識することが可能となる。
【0048】
[6.道路上に補修跡が存在する場合]
この場合も白線エッジを抽出できず、誤認識となる。
図18のアスファルトの反射特性はアスファルトの状態、例えば新しいか古いかで変化する。よって道路補修後のように路面の材質が異なると、そのアスファルト間で差分偏光度に差異が生じる。この差異を利用することで白線の認識率を上げられる。
【0049】
以上のように、輝度画像のコントラストが生じにくい雨の日や曇りの日や日影のような太陽からの光が被検対象である路面に直接あたらない場合においては、路面と白線の差分偏光度のコントラストが大きくなるとともに、撮影方向による差異がなく安定的な撮影が可能であるので、これらのシーンについては、差分偏光度を使用することにより、路面外観認識方法の信頼性を向上させることができる。また晴れの日向、特に逆光時についても差分偏光度画像で認識処理を行ってやればよい。
一方、順光時はモノクロ輝度画像のほうがよい。このような輝度情報と差分偏光度情報の補間関係を利用しているので、撮影環境によらずに簡易の構成で白線の認識方法の信頼性を向上させることができる。
【0050】
以下に本発明の他の実施形態を説明する。
まず、本実施形態に係る本発明の原理及び特徴を写真画像を含めて説明する。
本発明は、車線(白線、黄線)を検出する処理に際して、以下の特徴を有する。要するに、本発明は、差分偏光度画像のエッジ画像を用い、車線の候補点を検出する。また、差分偏光度画像で推定した路面の形状(幅、傾き)により、車線探索領域を決定し、該車線探索範囲内にある車線の候補点を用い、車線の認識処理を行うことが特徴になっている。
図24(a)に示すように、差分偏光度画像のエッジ画像により、走行路面上の車線っぽいエッジを検出する。図24(b)に示すように、差分偏光度画像では、路面と路面隣接物を識別できる特性により、ラベリング処理を用いて、路面の形状を推定する。
図24(c)に示すように、推定した路面の幅と傾きにより、車線探索領域を決定する。図24(d)に示すように、車線探索領域にある抽出された車線エッジに基づいて、ハフ変換を用いて、車線の形状を近似する。
【0051】
実際の処理の結果画像を用いて、具体的な処理のフローを説明する。
図25は、撮影素子により撮影した車両前方路面のモノクロ輝度画像と差分偏光度画像である。
まず、差分偏光度画像を用いて、車線っぽいエッジを検出する。結果を図26に示す。
次に、差分偏光度画像を用いて、ラベリング処理により路面の形状を認識する。認識結果を図27に示す。
次に、路面の幅及び傾き(両端の黒い線の間の距離及び黒い線の傾き)により車線の探索範囲を決定する。結果を図28に示す。
車線探索領域にある抽出された車線エッジに基づいて、ハフ変換を用いて、車線の形状を近似する。結果を図29に示す。
図25〜図29までの処理により、図23(b)に示したようなモノクロ輝度画像では、左側の白い壁を白線としての誤認識や、白線と道路の輝度差が小さい時の白線エッジを抽出できない未認識などの問題を防止することができる。
【0052】
図30乃至35に基づいて、本実施形態に係る車載用撮像システムを具体的に説明する。なお、上記実施形態と同一部分は同一符号で示す。
図30に示すように、メモリ1、メモリ2、モノクロ情報処理部14、差分変更度情報処理部16、路面形状推定部34、車線候補点検出部36、車線探索領域決定部38、車線検出部40及び領域記憶手段50は、画像処理装置26を構成している。
偏光カメラ12、画像処理装置26及び表示部22は、車載用撮像システム10を構成し、偏光カメラ12及び画像処理装置26は撮像装置としての物体識別装置2を構成する。
全体の処理の流れとしては、撮像手段にて取得した車両前方路面の垂直偏光成分(S)と水平偏光成分(P)及びこれを包含した偏光RAW画像データを用いて、差分偏光度情報とモノクロ輝度情報を算出する。得られた道路画像の差分偏光度情報により後述する方法にて路面と白線を検出する。
本実施形態において、画像処理装置26は、状況判別手段、パラメータ閾値決定手段、物体識別処理手段を兼ね、領域記憶手段50は、形状情報記憶手段、識別処理結果記憶手段を兼ねている。
【0053】
図30と図31の処理の流れに従って、具体的な処理について説明する。
撮像手段(偏光カメラ)12は、受光素子としてCCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の撮像素子により、例えばメガピクセルサイズの画素を有する路面を含む周囲画像を取得する。
撮像手段12は、例えば車のルームミラーに取り付けられ、車両前方の路面を撮像するものであってもよいし、例えばサイドミラーに取り付けられ、車両側方の路面を撮像するものであってもよい。さらに、例えばバックドアに取り付けられ、車両後方の路面を撮像するものであってもよい。
【0054】
本発明における撮像手段は輝度画像に加えて、差分偏光画像を取得できるものである。この差分偏光画像を形成するための撮像手段の構成例を以下に列記する。但し、本発明の撮像手段はこれに限定されない。
[撮像手段の構成例1]
図32に示すように、1台のカメラ60の前面に偏光子を回転自在に取り付けた構成を有し、計測対象62を撮影する時に偏光子を回転しながら縦偏光画像と横偏光画像を取り込み、この2つの画像の差分偏光度画像を形成する。
[撮像手段の構成例2]
図33に示すように、縦方向の偏光を透過する位置に偏光フィルタを配置し縦偏光画像を撮影するカメラ64と、横方向の偏光を透過する位置に偏光フィルタを配置し横偏光画像を撮影するカメラ64とを備えたものであってもよい。
撮像手段の構成例1での偏光フィルタを回転させる時間のズレはなく、縦偏光画像と横偏光画像が同時に撮影することが可能である。
[撮像手段の構成例3]
ステレオ方式とは異なり、2台のカメラは近接配置可能である。近年、機器の小型化のニーズが高いため、撮像手段の構成例2をさらに小型化する構成として、レンズアレイ、偏光子のフィルタアレイを介して、一つの受光素子で撮像するものであってもよい。
具体的には、図34に示すように、複数のレンズを同一基板上に有するレンズアレイ66と、該レンズアレイ66の各レンズを透過した光束に応じて領域分離されたフィルタ68と、該フィルタ68の各領域を通過した光を受光して被写体像を撮影する複数の撮像領域を有する撮像ユニット70とからなり、フィルタ68は透過軸が直交する少なくとも2つの偏光子領域を有し、撮像ユニット70のいずれかの撮像領域で縦偏光画像を撮影し、他の撮像領域で横偏光画像を撮影する。
[撮像手段の構成例4]
一つの撮像レンズ(レンズは同軸に複数枚でもよい)で画像を撮像し、レンズ後段で垂直偏光画像と水平偏光画像を分離し、それぞれの画像から差分偏光度画像を形成する。
図35に示すように、縦偏光画像および横偏光画像を撮像するために、1:1の透過性を備えるハーフミラーボックスと、ミラーと、縦偏光フィルタと、横偏光フィルタと、縦偏光フィルタを介して視野像を撮像するCCDと、横偏光フィルタを介して視野像を撮像するCCDを有する構成であってもよい。
撮像手段の構成例2では、縦偏光画像と横偏光画像の同時撮影が可能であるが、視差が生じてしまう、これに対して本例の構成では同一の撮像光学系(レンズ)を介して撮影するために視差が生じないため、検出領域が小さくてすみ、また視差ずれ補正などの処理が不要となる。
[撮像手段の構成例5]
撮像手段の構成例4において、ハーフミラーの代わりに偏光ビームスプリッタであってもよい。偏光ビームスプリッタは、横偏光を反射し、縦偏光を透過するプリズムである。このようなプリズムを配置することにより、縦偏光フィルタ、横偏光フィルタを配置しなくてもよく、光学系の簡素化が図れるとともに、光利用効率も向上させられる。
[撮像手段の構成例5]
図36に示すように、一つの撮像レンズ(レンズは同軸に複数枚でもよい)72で撮像し、レンズ後段に縦偏光のみを通す偏光子領域と横偏光の光のみを通す偏光子領域を有する領域分割型のフィルタ74を配置した構成であってもよい。なお偏光子領域としては金属の微細凹凸形状で形成されたワイヤグリッド方式や、オートクローニング型のフォトニック結晶方式により境界部が明瞭な領域分割型の偏光子フィルタを形成できる。
撮像手段の構成例4では縦偏光画像と横偏光画像をプリズム分岐するために光学系が大型化するし、2つの受光素子が必要となる。これに対して本例の構成であれば、撮像レンズの同軸上の光学系で横偏光画像と縦偏光画像の取得が可能である。
[撮像手段の構成例6]
領域分割型のフィルタの構成としては、受光素子の画素に1:1対応させるものに限られない。例えば図37に示すように、縦横に並ぶ正方形が各受光素子の受光部となる受光素子アレイとし、2種類の斜めの帯で縦横方向2種類の偏光フィルタ領域を形成する。各フィルタ領域は、幅1画素、つまり横方向に受光素子一個分の幅を持ち、領域の境界線の傾きは2、つまり横方向に1画素分進む間に縦方向に2画素分変化する角度を持つ斜めの帯の形状をとる。このような特殊なフィルタ配置パターンと信号処理を組み合わせることによって、撮像素子配列と領域分割フィルタを接合する際の位置合せの精度が十分でなくとも画面全体で各フィルタ透過画像を再現することを可能とし、低コストにこのような撮像装置を実現できる。
以上のような偏光画像を取得可能な撮像手段は、好ましくはリアルタイムに周囲画像を取得し、取得された周囲画像は、画像処理装置に供給される。
【0055】
図示しない車両に搭載された撮影手段としての偏光カメラ12により、車両が走行する道路の外観(ここでは走行方向前方の景色=フロントビューとする)を撮影し、その垂直偏光成分(S成分)と水平偏光成分(P成分)及びこれを包含した偏光RAW画像データを取得する。
撮影された水平偏光画像データはメモリ1に、垂直偏光画像データはメモリ2にそれぞれ格納される。
これらの画像データは、それぞれモノクロ輝度情報生成手段としてのモノクロ輝度情報処理部14と、差分偏光比画像生成手段としての差分偏光度情報処理部16に送信される。差分偏光度情報処理部16は取得されたP成分とS成分を用い、差分偏光比を算出して差分偏光比画像を生成する。
【0056】
モノクロ輝度情報処理部14は、取得されたP成分とS成分を用い、モノクロ画像の生成と、輝度情報(生成されたモノクロ画像の画素ごとの輝度値)の算出を行う。
差分偏光度情報処理部16は、上記式2に示す計算式により、それらの比率を計算することで、差分偏光比情報画像データを得る。
また、モノクロ輝度情報処理部14では、上記式3によりモノクロ輝度情報画像データを生成し、出力する。
図38は、具体的な車線候補点検出の処理フローについて説明する図である。
車線候補点検出部36では、差分偏光度情報の利用方法としては、従来から知られる白線検出などが行える。なお、車線には、黄色線等の任意の色の線、実線、破線、点線、二重線等の道路を区画するあらゆる線を含んでよい。車線検出部40は、計算された差分偏光度情報を元に、後述する方法にて走行路面上の車線候補領域を抽出するものである。
通常の道路はアスファルト等の黒い部分に白線が形成されており、白線の部分の差分偏光度は無偏光状態になっており、差分偏光度はその他の部分より十分小さいため、得られた路面の差分偏光度が所定値以下の部分を白線と判定するこができる。
【0057】
車両前方路面の垂直偏光成分(S)と水平偏光成分(P)により路面の差分偏光度を算出する。車線候補エッジを検出する際、走査線の中央付近の差分偏光度を用いて、1走査線ごとに走査線の中央から画像の左右方向へ差分偏光度データと閾値とを大小比較することにより白線エッジの候補点を検出する。
検出された白線エッジの候補点と予め定められた白線幅の閾値とを大小比較することにより路面上に描かれた白線候補エッジを抽出する。差分偏光度の閾値設定のステップでは、画像上方と下方の白線の差分偏光度コントラストが違っているため、同一の閾値を用いて処理を行うと良好な結果が得られない。
そこで、一フレームの画像に対して、上方と下方を二つのエリアを分け、それぞれに適用する差分偏光度の閾値を設定する。
【0058】
図39は、具体的な路面形状推定手段としての路面形状推定部34の処理フローについて説明する図である。
路面形状推定部34では、差分偏光度情報の利用方法としては、モノクロ輝度画像では検出が難しい走行路面の形状を認識することが行える。
差分偏光度画像を閾値により2値化する。2値化した差分偏光度画像に含まれる連結成分について、各連結成分の特徴をラベリング処理により調べ、路面の特徴により路面の連結成分を抽出する。
図40に示したように、画面の両端の黒い線は路面形状により出した路面領域の線である。
車線探索領域決定部38では、路面の幅と路面の傾き(黒い線の傾き)により車線の探索領域を決定することができる。車線の領域は少なくとも路面領域の内側にある。
車線探索領域内に車線が見つからなかった場合、車線エッジを検出パラメータの閾値を下げて、車線探索領域内にもう一回車線エッジを検出する。
【0059】
車線検出部では、車線探索領域内にある検出された車線エッジに基づいて、形状近似認識により近似曲線を取得する。形状を認識する手法に関しては、最小二乗方やハフ変換やモデル方程式などの手法が適用する。近似曲線を取得際、道路画像の下部で抽出した信頼性の高い車線エッジには形状近似の投票値に大きな重みを持たせる。
このようにすれば、道路画像の上方走査範囲で車線エッジを誤認識しても、下方走査範囲で正しい車線エッジを抽出できていれば、車線の認識を成功させることができる。
最後に、検出した結果を使って、車両制御してもよいし、白線、路端を運転者が見やすい形態でディスプレイに表示してもよい。
以上のように、差分偏光度により、路面領域の認識と車線候補エッジを抽出し、当該認識結果に基づいて、車線領域と車線検出を実行することで、路肩と白壁を車線としての誤認識や、輝度のコントラストが低いための未認識などを適切に除去しつつ、車線を高精度に検出することも可能である。
【0060】
図41は、具体的な路面状態の学習によりパラメータを決定について説明する図である。
生成された差分偏光度画像とモノクロ輝度画像の路面に設けられた白線を除く路面領域に、同じエリア内で画像輝度が所定の輝度に対する予め設定した閾値より小さいか否かを判別し、同輝度に対する閾値より小さいと判別した場合に前方路面が濡れた状態と判断している。
同輝度に対する閾値以上であると判別した場合に同じエリア内に取得した差分偏光度が所定の強度に対する閾値以上であるか否かを判別し、同強度に対する閾値以上であると判別した場合に、前方路面が濡れた状態と判断しており、同強度に対する閾値より小さいと判別した場合に上記前方路面が乾燥状態と判断することができる。輝度と差分偏光度の閾値は事前の実験により決められる。
【0061】
また、この方法により、路面の乾湿と天気を推測できる。各路面状態の差分偏光度画像とモノクロ輝度画像のサンプル画像を学習し、各路面状態に応じる最適な2値化処理するパラメータを事前に決定する。
領域記憶手段では、リアルタイムに車線と車線探索領域を検出する場合においては、一枚以上の過去の撮影画像に同じような車線と車線探索領域が見つかったら、信頼できると判断する。次のフレームから前のフレーム車線探索領域位置に基づいて、車線エッジを探索し、形状を近似する。
5フレーム分の画像の車線エッジがある閾値以上検出できなかったら、最初の路面下方の走査線の中央位置から探し始まる。
【符号の説明】
【0062】
12 撮像手段としての偏光カメラ
14 輝度情報算出手段としてのモノクロ情報処理部
16 偏光比画像生成手段としての偏光比情報処理部
18 ライン検出手段としての白線検出部
20 異部材検出手段、探索位置決定手段、近似曲線取得手段としての路端検出部
34 路面形状推定手段
36 車線候補点検出手段
38 車線探索領域決定手段
40 車線検出手段
50 領域記憶手段
【先行技術文献】
【特許文献】
【0063】
【特許文献1】特開2010−64531号公報
【特許文献2】特開平11−175702号公報
【技術分野】
【0001】
本発明は、車等の走行体ないし移動体が走行する路面(道路)の外観を撮影して走行領域における境界等の位置情報を得る撮像装置、該撮像装置を備えた車載用撮像システム、路面外観認識方法及び物体識別装置に関する。
【背景技術】
【0002】
近年、車載カメラなどの撮像システムにおいては、センターライン越え等による車両の衝突や道路からの逸脱等の事故発生を防止するため、道路の白線(黄線を含む)位置を認識し、車両の操舵を制御して車線を維持しながら走行するシステムが提案されている。
この技術では、車両に搭載された白線認識装置がCCDカメラ等の撮像手段により車両前方の道路画像を取り込み、白線位置で輝度が高いことを利用して白線を検出する。具体的には、例えば画像の微分処理および2値化処理によるエッジ(エッジ点列)抽出を行い、その抽出エッジについて白線エッジか否かの判定を行う。さらに、抽出エッジについて、直線検出法として知られるハフ(Hough)変換を行うことで、白線位置を決定することが開示され既に知られている。
【0003】
特許文献1には、太陽光が路面に反射する場合であっても、安定して白線を検出することができるようにする目的で、透過させる光の偏光方向が各々異なる複数の偏光フィルタを、車両上下方向に配列した偏光フィルタ群を介して、自車両の前方を撮像するシステムが開示されている。
これは、撮像装置によって撮像された前方路面画像の複数の偏光フィルタに対応する複数のスキャンライン領域のうち、領域における各画素の輝度値の変化量が閾値以上となるスキャンライン領域の輝度値に基づいて、白線検出部によって路面上の白線を検出する方法を採っている。
特許文献2には、走行環境或いは撮影環境によらず道路画像から白線などのラインを検出する目的で、その1つとして、露光量の異なる二つの道路画像を撮影し、例えば車両がトンネルに進入する場合には露光量の多い画像を用いて、輝度差に基づくテンプレートマッチング手法により白線を検出する方法が開示されている。
また、水たまり部分を白線と誤認識するのを防止するために、垂直偏光画像と水平偏光画像を撮影し、その差分を演算して入射光が散乱光か鏡面反射光かを識別し、水たまり等による鏡面反射成分を除去する方法が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記した従来の白線検出方法にあっては、垂直偏光および水平偏光の2枚の画像が必要であり、自動検出が可能なセンサシステムとして達成しようとする場合、テレビカメラの他に、偏光フィルタを回転制御するための機構などが必要となり、コスト高になるといった問題があった。
しかし、今までの白線を検出する装置では、装置構成が煩雑の問題と、検出精度を高めれば、画像処理の演算負担が大きくなり、画像処理の演算負担を小さくすれば、白線の検出精度は低下する問題と、曇りやトンネル等の撮像素子の入射光量が不足する撮影環境場合線などのラインを正しく検出することが難しい問題があった。
【0005】
すなわち、このようなシステムでは、撮影された道路画像から白線をいかに正確に検出するかが重要な課題となっている。しかしながら、以下のような状況においては白線位置が認識できないという問題があった。
(1)白線が影内にある場合、白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
(2)逆光を浴びて路面が光っているとき、太陽光の反射による路面と白線との輝度差が小さいため、白線エッジを抽出できず、未認識となる。
(3)天候(雨、曇りのときなど)により、白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
(4)雨あがりなどで、路面がぬれて光っているときや水たまりがあるため、白線エッジを抽出できず、未認識となる。
(5)白線の外側に路肩、溝等が存在する場合、それらのエッジを白線エッジと判断し、誤認識となる。
(6)道路上における道路補修跡により、白線エッジを抽出できず、誤認識となる。
【0006】
また、路面を車が安全に走行するには、センターラインや路側帯ラインなどの白線(黄色のUターン禁止ライン等を含む)を認識するだけでなく、路端、すなわち走行路面と角度(高低差を含む)を有して隣接する路面領域外部材(中央分離帯や側壁、縁石、植栽、土手など)との境界を明確に認識する必要がある。
一般に路面はアスファルトで形成されており、樹脂材料で形成された白線とは光の反射率が大きく異なるため、白線検出には上述した従来の輝度差による認識手法が適用可能であるが、側壁等の路面と角度を有して隣接する路面領域外部材は材質がコンクリートやレンガ、土、植物などであるため、路面との反射率の違いが少ない場合が多く、白線を検出するのに比べて検出精度は低くなる。
夜間やトンネル内等のように入射光量が不足する撮影環境では、検出精度の低下はさらに困難となる。
垂直偏光画像と水平偏光画像の差分を用いる方式においても、輝度差による検出方式に変わりがないため、路端検出の適用において精度を高めることは困難であった。
【0007】
従来の輝度差による検出手法において、検出精度を高めるためには、複数のカメラを備えたステレオ光学系などの測距機構が必要であり、装置構成が煩雑になるとともに、画像処理の演算負担が大きくなることを避けられない。
【0008】
本発明はこのような事情に鑑みてなされたもので、撮影環境によらずに簡易な構成で白線や走行路面の境界を正確に検出することができ、安全な運転のための運転者への視認表示や車両制御への的確な情報を提供し得る撮像装置等の提供を、その主な目的とする。
【課題を解決するための手段】
【0009】
まず、本発明が具体化されるに到った経緯を以下に説明する。
2つの屈折率の異なる材質の界面に、ある角度をもって光が入射する時、入射面に平行な偏光成分であるP偏光成分と、垂直な偏光成分であるS偏光成分では反射率が異なり、P偏光成分はある角度(ブリュースター角)で0まで減少し、その後増加する。S偏光成分は単調に増加することが知られている。
【0010】
P偏光成分とS偏光成分の反射特性に差異が出るため、下記の式2で定義される偏光度も入射角や屈折率によって変化する。
偏光度=(P偏光成分−S偏光成分)/(P偏光成分+S偏光成分)・・・・・(式2)
偏光度は屈折率と光源からの被写体への入射角、被写体からカメラへの取り込み角度に応じて変化する。
一般に路面はアスファルトによって形成されている。一方、路面と角度を有して隣接する路面領域外部材はコンクリートや植栽、土といった材質の異なるものである。路面上に平面的に形成された白線等のラインもアスファルトとは材質が異なる。
材質が異なると屈折率も異なるため、路面とラインとの間または路面領域外部材との間で偏光度(偏光比)に違いが生じる。偏光度の違いは輝度差による認識方式の場合のように入射光量にあまり左右されないため、偏光比画像を生成することにより、路面とラインとの境界、または路面領域外部材のエッジに相当する路肩(路端)を検知することが可能となる。
【0011】
また、路面に隣接する路面領域外部材は路面に対して角度を有して存在している。被写体の面の法線方向が異なると、被写体への光源からの入射角やカメラでの取り込み角度が異なるため、路面と隣接領域(路面領域外部材)との間で偏光度に違いが生じる。
この観点からも、偏光比画像を生成することにより、路面と隣接する路面領域外部材のエッジ(境界)に相当する路肩(路端)を検知することが可能となる。特に、路面領域外部材との間においては、材質の相違による偏光度の違いに、角度の相違による偏光度の違いが加味されるため、検出精度は高くなる。
このように偏光度の画像を生成することで、材質と角度の違いに基づき路面とライン間のエッジや、路面と路面領域外部材間のエッジ(路端)を検出することが可能となる。
偏光度は、式1に示す通り、P偏光成分とS偏光成分の差分値を、各々の和で規格化した値であるため、輝度差がない暗い環境下でも路端を検知することができるのである。
【0012】
本発明は、このような技術思想の下、上記目的を達成すべく創案されたもので、請求項1に記載の発明は、走行する路面の垂直偏光画像および水平偏光画像を撮影可能な撮像手段と、前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成する偏光比画像生成手段と、前記偏光比画像上の偏光比情報により、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する異部材検出手段と、を有することを特徴とする撮像装置である。
【0013】
請求項2に記載の発明は、請求項1に記載の撮像装置において、前記異部材検出手段は、前記偏光比画像を走査し、1走査線ごとの偏光比情報により異物を検出することを特徴とする。
請求項3に記載の発明は、請求項2に記載の撮像装置において、前記異部材検出手段は、走査に使用する偏光比と同じ走査線上にある偏光比との差分値を算出し、予め定められた閾値と比較することにより異部材を検出することを特徴とする。
請求項4に記載の発明は、請求項3に記載の撮像装置において、前記垂直偏光画像と水平偏光画像とから輝度情報を算出する輝度情報算出手段と、算出された輝度情報に基づいて前記ラインを検出するライン検出手段と、を有し、前記異部材検出手段は、検出された前記ラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
【0014】
請求項5に記載の発明は、請求項4に記載の撮像装置において、前記異部材検出手段は、前記ラインを検出できなかった場合、過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
請求項6に記載の発明は、請求項4に記載の撮像装置において、前記異部材検出手段は、前記ラインが走行方向に途切れていた場合、ラインが無い領域では過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
請求項7に記載の発明は、請求項5または6に記載の撮像装置において、前記異部材検出手段は、過去の画像により抽出したラインが走行方向に途切れていた場合、同じ偏光比画像内の他の走査線で検出されたラインの仮想延長線を基準した偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする。
【0015】
請求項8に記載の発明は、請求項4に記載の撮像装置において、前記異部材検出手段は、前記ラインを検出できなかった場合、路面中心部の偏光比を前記走査に使用する偏光比とすることを特徴とする。
請求項9に記載の発明は、請求項4〜8の何れか1つに記載の撮像装置において、前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記ライン検出手段は、輝度値画像を上方と下方の二つのエリアに分け、エリア毎に適用する輝度の閾値を設定することを特徴とする。
請求項10に記載の発明は、請求項4〜9の何れか1つに記載の撮像装置において、前記ライン検出手段は、前記ラインを判断するためのエッジ候補からライン幅を算出し、算出したライン幅が規定範囲の場合にラインエッジと判断することを特徴とする。
【0016】
請求項11に記載の発明は、請求項4〜10の何れか1つに記載の撮像装置において、前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記異部材検出手段または前記ライン検出手段は、画像の下方から上方へという順序で画像水平方向の走査線の中央から画像の左右方向へ走査して、異部材を検出することを特徴とする。
請求項12に記載の発明は、請求項4〜11の何れか1つに記載の撮像装置において、1フレーム以上の過去の撮影画像により認識した前記ラインと前記路面領域外部材との領域を記憶する領域記憶手段と、記憶された結果に基づいて次のフレームの探索位置を決める探索位置決定手段とを有していることを特徴とする。
請求項13に記載の発明は、請求項9または11に記載の撮像装置において、検出された前記ラインのエッジと前記路面領域外部材のエッジに対して形状近似認識により近似曲線を取得する近似曲線取得手段を有し、偏光比画像の下部で抽出した信頼性の高いラインエッジと前記路面領域外部材のエッジには形状近似の投票値に大きな重みを持たせることを特徴とする。
【0017】
請求項14に記載の発明は、車に取り付けられ、路面を撮影する撮像装置と、撮影された画像を表示する表示手段とを有する車載用撮像システムにおいて、前記撮像装置が、請求項1〜13のいずれか1つに記載のものであることを特徴とする。
請求項15に記載の発明は、走行する路面の垂直偏光画像および水平偏光画像を撮影し、前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成し、特定の偏光比を使用して前記偏光比画像を走査することにより、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出することを特徴とする路面外観認識方法である。
【0018】
請求項16に記載の発明は、撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、該差分偏光度により差分偏光度画像を生成する差分偏光度画像生成手段と、該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に車両の走行レーンを区画する車線の車線候補点の検出を行う車線候補点検出手段と、該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に平面的に形成されて路面領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する路面形状推定手段と、該路面形状推定手段で推定された路面の形状に基づいて、車線領域を決定する車線探索領域決定手段と、該車線領域決定手段で決定した車線領域にある車線候補点に基づいて、走行車線を認識する車線検出手段と、を有することを特徴とする。
【0019】
請求項17に記載の発明は、請求項16に記載の物体識別装置において、前記車線探索領域決定手段は、走行路面の傾きと幅とにより、車線の探索領域を決定することを特徴とする。
請求項18に記載の発明は、請求項16または17に記載の物体識別装置において、前記車線探索領域内では、車線を認識できなかった場合、車線探索領域に対応する部分では、前記車線検出手段は適用する差分偏光度のパラメータ閾値を下げることを特徴とする。
請求項19に記載の発明は、請求項16に記載の物体識別装置において、前記路面形状推定手段は、差分偏光度画像を所定パラメータの閾値により2値化処理を行い、2値化処理後の値に基づいて、路面の特徴量を持つ領域内画像データの連結成分をラベリング処理により抽出し、抽出された前記連結成分を路面として、識別することを特徴とする。
【0020】
請求項20に記載の発明は、請求項19に記載の物体識別装置において、前記差分偏光度画像を2値化するため、前記差分偏光度算出手段が算出した差分偏光度及び前記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、該状況判別手段が判別した状況に応じて該パラメータの閾値を決定するパラメータ閾値決定手段と、を有することを特徴とする。
請求項21に記載の発明は、請求項20に記載の物体識別装置において、上記パラメータ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記パラメータ閾値を決定することを特徴とする。
【0021】
請求項22に記載の発明は、請求項16〜21の何れか1つに記載の物体識別装置において、前記認識対象物を前記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、前記車線検出手段と前記路面形状推定手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が前記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とする。
【0022】
請求項23に記載の発明は、請求項16〜22の何れか1つに記載の物体識別装置において、前記車線検出手段と前記路面形状推定手段とが行う前記形状近似判断処理では、前記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とする。
請求項24に記載の発明は、請求項1〜23の何れか1つに記載の物体識別装置において、過去に行った物体識別処理の結果を記憶する識別処理結果記憶手段を有し、前記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて物体識別処理を行うことを特徴とする。
【発明の効果】
【0023】
本発明によれば、撮影環境の明暗によらずに簡易な構成で走行路面の境界(白線との境界及び路面領域外部材との境界)を正確に検出することができ、安全な運転のための運転者への視認表示や車両制御への的確な情報を提供することができる。
本発明によれば、撮影環境によらずに、路面反射光の差分偏光度成分の強度変化を利用して簡易の構成で白線を正確に検出することができる。
また、前方道路の差分偏光度成分から推測された路面の形状情報を利用し、白線の外側に路肩、溝等により、白線の未認識と誤認識を防止することができる。
【図面の簡単な説明】
【0024】
【図1】本発明の一実施形態に係る車載用撮像システムの構成を示すブロック図である。
【図2】制御動作を示すフローチャートである。
【図3】白線と路端の走査順次を示す図で、(a)は偏光比画像を示す図、(b)はその偏光比画像を走査している状態を示す図である。
【図4】高速道路における偏光比の変化箇所を示す図である。
【図5】偏光比と頻度の関係を示すグラフである。
【図6】サンプル画像の枚数と偏光比の変化を示す雨の日のデータによるグラフである。
【図7】サンプル画像の枚数と偏光比の変化を示す晴れの日のデータによるグラフである。
【図8】白線エッジ検出の処理動作を示すフローチャートである。
【図9】路端エッジ検出の処理動作を示すフローチャートである。
【図10】路面上に白線が2本ある場合の路端検出のための走査状態を示す図である。
【図11】路面上に白線が1本ある場合の路端検出のための走査状態を示す図である。
【図12】路面上に白線が無い場合の過去画像のデータを利用した路端検出のための走査状態を示す図である。
【図13】路面上に白線が無い場合に画像中央の偏光比を利用した路端検出のための走査状態を示す図である。
【図14】路面上の白線が不連続となっている場合の過去画像のデータを利用した路端検出のための走査状態を示す図である。
【図15】路面上の白線が途切れている場合の画像中央の偏光比を利用した路端検出のための走査状態を示す図である。
【図16】路面に影がある場合の走査状態を示す図である。
【図17】輝度画像と差分偏光度画像とでコントラストの差異が生じる理由を説明するための写真画像である。
【図18】太陽からの光において、高度と方位によって縦横偏光度が変化することを示す図である。
【図19】日陰の中の路面等に照射される空からの光は角度依存性がないことを示す図である。
【図20】逆光を浴びて路面が光っているときのモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図21】曇天の日におけるモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図22】雨上がりで路面が濡れているときのモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図23】白線の外側に路肩、溝等が存在する場合のモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図24】本発明における車線の認識処理の工程を示す図である。
【図25】車両前方路面のモノクロ輝度画像と差分偏光度画像との差異を示す写真画像である。
【図26】差分偏光度画像を用いて車線っぽいエッジを検出する状態を示す写真画像である。
【図27】差分偏光度画像を用いて、ラベリング処理により路面の形状を認識した状態を示す写真画像である。
【図28】路面の幅及び傾きにより車線の探索範囲を決定した状態を示す写真画像である。
【図29】車線探索領域にある抽出された車線エッジに基づいて、ハフ変換を用いて車線の形状を近似した状態を示す写真画像である。
【図30】他の実施形態に係る車載用撮像システムの構成を示すブロック図である。
【図31】全体処理の制御動作を示すフローチャートである。
【図32】撮像手段の一具体例を示す図である。
【図33】撮像手段の他の例を示す図である。
【図34】撮像手段の他の例を示す図である。
【図35】撮像手段の他の例を示す図である。
【図36】撮像手段の他の例を示す図である。
【図37】撮像手段の他の例を示す図である。
【図38】車線候補点検出の処理制御を示すフローチャートである。
【図39】路面形状推定手段の処理制御を示すフローチャートである。
【図40】2値化した差分偏光度画像において路面の特徴により路面の連結成分を抽出した写真画像である。
【図41】路面状態の学習によりパラメータ決定の制御を示すフローチャートである。
【発明を実施するための形態】
【0025】
以下、本発明の一実施形態を図を参照して説明する。
図1は、本実施形態に係る車載用撮像システム10の全体構成(ハードウェア構成)を示すブロック図である。
図示しない車両に搭載された撮像手段としての偏光カメラ12により、車両が走行する道路の外観(ここでは走行方向前方の景色=フロントビューとする)を撮影し、その垂直偏光成分(以下、単に「S成分」という)と水平偏光成分(以下、単に「P成分」という)及びこれを包含した偏光RAW画像データを取得する。
撮影された水平偏光画像データはメモリ1に、垂直偏光画像データはメモリ2にそれぞれ格納される。
これらの画像データは、それぞれ輝度情報算出手段としてのモノクロ情報処理部14と、偏光比画像生成手段としての偏光比情報処理部16に送信される。偏光比情報処理部16は取得されたP成分とS成分を用い、偏光比を算出して偏光比画像を生成する。
モノクロ情報処理部14は、取得されたP成分とS成分を用い、モノクロ画像の生成と、輝度情報(生成されたモノクロ画像の画素ごとの輝度値)の算出を行う。
【0026】
偏光比情報処理部16は、式1に示す計算式により、それらの比率を計算することで、偏光比情報画像データを得る。偏光比の計算は、取得した偏光成分の比率を計算できればよいので、式2で計算してもよい。
また、偏光比情報処理部16では、式3により輝度情報画像データも生成し、出力する。
偏光比=P偏光成分/S偏光成分・・・・・(式1)
偏光比=(P偏光成分−S偏光成分)/(P偏光成分+S偏光成分)・・・・・(式2)
輝度データ=(P偏光成分+S偏光成分)・・・・・(式3)
【0027】
ライン検出手段としての白線検出部18は、モノクロ情報処理部14により計算された輝度情報を元に、後述する方法にて走行路面上の白線領域を検出するものである。異部材検出手段としての路端検出部20は、白線検出部18により検出された白線情報に基づいて、偏光比情報処理部16で計算された偏光比情報により、路端を検出するものである。
白線検出部18により検出された白線や、路端検出部20により検出された路端は、CRTや液晶等で構成される表示部(ディスプレイ)22に、運転者が見やすい形態で表示される。路端検出部20による検出データを車両制御部24に送信して車両制御を行ってもよい。
メモリ1、メモリ2、モノクロ情報処理部14、偏光比情報処理部16、白線検出部18及び路端検出部20は、画像処理装置26を構成している。
偏光カメラ12、画像処理装置26及び表示部22は、車載用撮像システム10を構成し、偏光カメラ12及び画像処理装置26は撮像装置2を構成する。
本実施形態に係る車載用撮像システム10において、偏光カメラ12、画像処理装置26及び表示部22のシステム全体を車両に搭載してもよく、偏光カメラ12のみを搭載して、画像処理装置26及び表示部22は遠隔配置して車両の走行状態を運転者以外の者が客観的に把握するシステムとすることもできる。
本実施形態に係る偏光カメラ12は、1台で水平偏光画像と垂直偏光画像の両方を撮影できる構成を有しているが、水平偏光画像を撮影する偏光カメラと垂直偏光画像を撮影する偏光カメラとで撮像手段を構成してもよい。
【0028】
図2に基づいて車載用撮像システム10の制御動作を説明する。
偏光カメラ12にて取得した車両前方路面のS成分とP成分及びこれを包含した偏光RAW画像データを用いて、上述の式2と式3で偏光比情報と輝度情報を算出する。
得られた道路画像の輝度情報により後述する方法にて白線のエッジを検出する。検出された白線の内側の偏光比を「走査用基準偏光比」として用い、偏光比画像を走査する。偏光比画像を構成する画素ごとに偏光比が設定されており、路端検出部20は偏光比情報処理部16が生成した偏光比画像にアクセスして画素ライン(走査線)をビームで走査する。「走査線」とは、ディスプレイで電子ビームが走査する画面左端から右端までの軌跡のことである。
偏光比画像の左右方向へ同じ走査線上にある偏光比と比較し、偏光比の変化(走査用基準偏光比と走査した偏光比との差分値)が予め定められた閾値より小さい場合、同じ走査線上の次の画素位置へ走査し続ける。大きい場合には、路端エッジとして抽出する。
【0029】
白線の内側の偏光比を走査用基準偏光比として用いる理由は、前方車両、街路樹、建物などの影の影響による路端エッジの誤認識を少なくすることができるからである。なお、走査線中央(偏光比画像の中央)の偏光比を走査用基準偏光比として用い、路端エッジを認識することもできる。
白線エッジと路端エッジを検出する際、信頼性が高い画像(画面)の下方から上方へという順序でx軸方向(画面縦方向)に走査線上を走査する。
一画面分の路端エッジと白線エッジを抽出した後、抽出した路端エッジと白線エッジに対して形状近似認識により近似曲線を取得する。この取得は近似曲線取得手段を兼ねる路端検出部20により実行される。
形状を認識する手法に関しては、最小二乗法やハフ変換やモデル方程式などの手法を適用できる。近似曲線を取得する際、道路画像の下部(画面下部)で抽出した信頼性の高い白線エッジと路端エッジには形状近似の投票値に大きな重みを持たせる。このようにすれば、道路画像の上方走査範囲で白線エッジと路端エッジを誤認識しても、下方走査範囲で正しい白線エッジと路端エッジを抽出できていれば、白線と路端の認識を成功させることができる。
【0030】
リアルタイムに白線と路端を検出する場合においては、一枚(フレーム)以上の過去の撮影画像(偏光比画像)に同じような白線と路端が見つかったら、信頼できると判断する。次のフレームから前のフレームの白線位置に基づいて、白線エッジと路端エッジを探索し、線を引く。5フレーム分の画像の白線エッジ位置と路端エッジ位置がロストしたら、最初の下方の走査線の中央位置から探し始める。最後に、検出した結果を使って車両制御してもよいし、白線、路端を運転者が見やすい形態でディスプレイに表示してもよい。
【0031】
図3に基づいて、白線と路端の走査順次について説明する。
白線エッジと路端エッジを検出する際、信頼性が高い画像下方から上方へという順序でx軸方向に走査線BL上を走査する。図3(b)に示すように、走査線の中央部CTから画像の左右方向へ走行路面RFの両端の白線WLと路端REを検出する。図3において符号30はディスプレイの表示面を、32は車を示している。
図4〜図7に基づいて、100枚のサンプル画像の偏光比変化について説明する。図4は高速道路での走行状態を示している。晴れの日と雨の日では、左側の路端REにある領域内の偏光比は、左側の白線WLの内側領域内の偏光比と比べると、図6及び図7から急激に変化していることがわかる。これにより、路端領域と路面領域で偏光比は切り分け可能である。
この特徴を利用して、モノクロ画像には見えない違う材質のラインと角度がある路面領域外部材を検出することができる。
図5は、図4に示す一画面内の四ヶ所、P1(左側の路端)、P2(自車線の左側=白線内側=路面左)、P3(自車線=路面真ん中)、P4(自車線の右側=路面右)の領域での偏光比のヒストグラムを示している。
【0032】
図8に基づいて、白線エッジ検出の処理フローについて説明する。
通常の道路はアスファルト等の黒い部分に白線が形成されており、白線の部分の輝度はその他の部分より十分大きいため、得られた路面の輝度が所定値以上の部分を白線と判定するこができる。
車両前方路面のS成分とP成分により路面の輝度情報(輝度値)を算出する。モノクロ情報処理部14によって生成された輝度値画像において、白線検出部18により路面の輝度データと予め設定された閾値とを大小比較することにより白線エッジの候補点を検出する。検出された白線エッジの候補点と予め定められた白線幅の閾値とを大小比較することにより路面上に描かれた一対の白線エッジを抽出する。
輝度の閾値設定のステップでは、画像上方と下方の白線のコントラストが違っているため、同一の閾値を用いて処理を行うと良好な結果が得られない。そこで、一フレームの画像に対して、x方向において上方と下方の二つのエリアに分け、それぞれに適用する輝度の閾値を設定する。
【0033】
図9に基づいて、路端エッジ検出の処理フローについて説明する。
上記と同様に、偏光比画像を生成して、走査用基準偏光比を設定するとともに閾値を設定する。
検出された白線の内側の偏光比を用いて、画面の左側のエリアにあれば、白線の内側から画面の左へ走査線ごとに同じ走査線にある偏光比との差分を算出する。画面の右側のエリアにあれば、白線の内側から画面の右へ走査線ごとに同じ走査線にある偏光比との差分を算出する。
差分値と閾値とを大小比較し、所定値以上の部分を路端と判定するこができる。
【0034】
図10〜図15に基づいて、白線情報により路端を検出する方法について具体的に説明する。
図10は走行路面上の二本の白線WLにより路端REを認識するための走査状態を示す図である。図に示すように、認識された二本の白線の内側のそれぞれの偏光比(走査用基準偏光比)を使って、1走査線ごとに画面の下から画面の上まで中央から左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較することで、路端認識する。
差分値が閾値以内の部分は×で表示し、閾値より大きい部分は黒丸で表示している(他の図において同じ)。黒丸部分は路端として認識されたところである。
図11は、走行路面上に一本の白線WLしかない場合に、白線により路端を認識するための走査状態を示す図である。図に示すように認識された一本の白線WLの内側の偏光比(走査用基準偏光比)を使って、1走査線ごとに画面の下から画面の上まで左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較する。図10の場合と同様に路端を検出することができる。
【0035】
図12は、走行路面上の白線を抽出できなかった場合の走査方法を示している。(b)に示すように白線を抽出できなかった場合、(a)に示す1フレーム前の過去画像で認識した白線((b)において一点鎖線で表示)の内側の偏光比を用いて、路端を探索する。
この場合、過去画像における白線と路端との領域は領域記憶手段50(図1参照)に記憶されており、探索位置検定手段を兼ねる路端検出部20は記憶された結果に基づいて次のフレーム(現フレーム)の探索位置を決定する。
図13は、走行路面上の白線を抽出できなかった上に、(a)に示す1フレーム前の過去画像にも白線がなかった場合の走査方法を示している。この場合、(b)に示すように走査線中心(画像中央、画面中央)の偏光比を使って、1走査線ごとに画面の下から画面の上まで中央から左、右方向へ同じ走査線にある偏光比との差分を算出し、予め設定された閾値と比較することで、路端認識する。
【0036】
図14は走行路面上の白線が切れていた場合、すなわち、走行方向に不連続となっていた場合の走査方法を示している。この場合、切れていた白線が存在するラインの、(a)に示す1フレーム前の過去画像で認識した白線((b)において一点鎖線で表示)の内側の偏光比を用いて、路端を探索する。
図15は、走行路面上の白線が途切れてなくなった場合の走査方法を示している。この場合、途切れた白線が存在するラインの、(a)に示す1フレーム前の過去画像でも白線が認識できなかった時、同じ画面内の他の走査線で見つけた結果の延長線((b)において一点鎖線で表示)上にある偏光比を用いて、路端を探索する。
【0037】
図16は、走行路面上に影がある場合の走査方法を示している。
走行路面上に影SDがある場合、左側の白線の内側の領域と路端の隣の領域は同じ影の下にある。
この場合、輝度差で検出する方式では影によって入射光量が低下し、路面と路端の輝度差がなくなるため、検出が困難となるのに比べ、影のある部分とない部分とで偏光比の特性は変わるが、偏光比の差分レベルはそのまま残る。
したがって、路端と近い白線内の偏光比を用い、1走査線ごとに路面上の両端の路端を探索することで、影の影響を減らすことができる。
【0038】
上記実施形態では、輝度情報に基づいてライン検出手段としての白線検出部18で白線を検出するようにしたが、路端検出と同様に、例えば画像中央の偏光比を走査用基準偏光比として用い、走査して白線を検出するようにしてもよい。
この場合、図1におけるモノクロ情報処理部14及び白線検出部18は不要となる。
【0039】
本発明の実施形態を実際の写真画像によりより詳細に説明する。
天候や日向・日影の差異に応じて、輝度画像や差分偏光度画像のコントラストは変化する。白線などのラインを検出するにあたって、輝度画像、差分偏光度画像それぞれが得意とするシーン、苦手とするシーンがある。
そして、輝度画像が苦手とするシーンは差分偏光度画像が得意とするシーンであったり、反対に差分偏光度画像が苦手とするシーンは輝度画像が得意とするシーンであったり、とお互いが補間する関係にあることを本発明者らは撮影実験を通して見出した。
このような輝度情報と差分偏光度情報の補間関係を利用しているので、撮影環境によらずに簡易の構成で白線の認識精度の信頼性を向上させることができる。
特に輝度情報では認識が困難とされるシーンについて具体例を挙げて説明する。なお撮影は車両前方を撮影するように車内に設置された撮像装置での異なるシーンの撮影結果を示す。
【0040】
[1.白線が影内にある場合]
白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
図17は晴れの日の影となっているシーンの撮影結果であり、図17(a)は差分偏光度画像、図17(b)はモノクロ輝度画像である。モノクロ輝度画像に比べ、差分偏光度画像のほうが白線が鮮明に確認できる。
このように、輝度画像と差分偏光度画像でコントラストの差異が生じる理由について説明する。
一般に輝度情報に関しては、昼間の日向のシーンのコントラストが高くなり、日影や雨や曇りの日のような陽があたらないシーンではコントラストが低くなることは、我々の日常生活からも実感できる。これに対して、差分偏光度は不可視の情報でありコントラストの差異が生じる理由について説明を要する。
【0041】
図18は、実験室において、アスファルト面に対し、光源位置を変化させて固定配置されたカメラでP偏光画像とS偏光画像を撮影したときの差分偏光度の変化の一例を示すグラフである。このグラフは、横軸に入射角度(光源位置)をとり、縦軸に差分偏光度をとったものである。カメラ仰角は水平から10度傾けた状態である。この差分偏光度は、各入射角度の撮影画像についての略中央部の輝度情報から算出したものである。このブラフにおける差分偏光度は、P偏光成分(Rp)とS偏光成分(Rs)の合計値に対する、P偏光成分からS偏光成分を差し引いた値の比率である。
よって、S偏光成分よりもP偏光成分の方が強い場合には、差分偏光度は正の値をとり、P偏光成分よりもS偏光成分の方が強い場合には、差分偏光度は負の値をとることになる。
【0042】
図17の日影のシーンの撮影結果がどのような状態になっているかを、図18の結果をもとにして説明する。
日影のなかの路面や側壁物に照射される光の光源は太陽からの直射光ではなく、空からの光である。太陽からの光はその高度と方位によって、縦横偏光度が変化するのに対して、空からの光は、天空からの各高度、各方位から均等に被検物である路面や側壁物に照射されている、よって図18に示すような角度依存性はなく、図19のような縦横偏光度と入射角特性のグラフを引くと、所定の値(図18の略平均値相当)をとる。
一方、白線は散乱体を含む塗料を有するものであり、差分偏光度は入射角依存少なくほぼ0である。日影の路面と白線を撮影した場合、コントラストのある差分偏光度画像となる。日影については輝度画像のコントラストが低下するのに対して、差分偏光度についてはコントラストある画像がとれるため、日影については差分偏光度画像を使って白線の認識をしてやればよい。
【0043】
[2.逆光を浴びて路面が光っている場合]
太陽光の反射による路面と白線(黄線)との輝度差が小さいため、白線エッジを抽出できず、未認識となる。
図20は晴れの日の撮影結果であり、図20(a)は差分偏光度画像、図20(b)はモノクロ輝度画像である。差分偏光度画像のほうが路端部、白線の認識率が高いことがわかる。
図20の晴れのシーンについて説明する。晴れの日向路面に照射される光の光源としては、太陽、空(太陽からの光が散乱光成分)の2つに分類できるが、路面に照射される光成分は太陽からの光が支配的成分である。すなわち図18の測定結果をそのまま適用することが可能である。
【0044】
図18の測定結果から、逆光時には差分偏光度は負側に大きくなる特性を有している。一方、太陽がカメラの後ろ側にある順光のときはアスファルト面の差分偏光度は0である。これに対して、白線は散乱体を含む塗料を有するものであり、差分偏光度は入射角依存少なくほぼ0である。逆光の路面と白線を撮影した場合、コントラストのある差分偏光度画像となる。逆光については、輝度画像の路面も反射光量が強くなり、白っぽく見えるようになり、白線との差異が低下するのに対して、差分偏光度についてはコントラストある画像がとれるため、逆光については差分偏光度画像を使って白線の認識をしてやればよい。
【0045】
[3.天候が雨や曇りの場合]
白線と道路の輝度差が小さいため、白線エッジを抽出できず、未認識となる。
図21は曇天の日の撮影結果であり、図21(a)は差分偏光度画像、図21(b)はモノクロ輝度画像である。差分偏光度画像のほうが白線の認識率が高いことがわかる。
このような雨の日や曇りの日についても、日影のシーンと同様に太陽からの直射光は存在しないため、コントラストのとれた差分偏光度画像となる。曇天時の路面と白線を撮影した場合、コントラストのある差分偏光度画像となる。輝度画像のコントラストが低下するのに対して、差分偏光度についてはコントラストある画像がとれるため、曇天については差分偏光度画像を使って白線の認識をしてやればよい。
【0046】
[4.雨上がりなどの場合]
路面がぬれて光っているときや水たまりがあるため、白線エッジを抽出できず、未認識となる。
さらに雨で路面が濡れると、鏡面反射成分が強くなるため、輝度画像では白線が見えにくくなる。輝度画像としては濡れて画像全体が黒くなりコントラストが低くなる方向である。これに対して、差分偏光度では鏡面反射成分を除いて、下層にある路面情報を検出することが可能である。そのため雨路についても図22に示すように、差分偏光度で白線(黄線)の認識をしてやればよい。
【0047】
[5.白線の外側に路肩、溝等が存在する場合]
それらのエッジを白線エッジと判断し、ご認識となる。
偏光情報は上述のように材質の違いを検出することが可能である。同時に角度の違いも検出することが可能である。例えば鏡面反射面を想定した場合、直交したもの同士では差分偏光度も反転する。
このような現象を用いることにより、モノクロ輝度画像では検出不可能な角度情報も検出できる。よって図23のように側壁物があるシーンではその路面と側壁物の間で差分偏光度に差異が生じる。このような性質を併用することで図23(b)のモノクロ輝度画像では白線なのか壁なのかが区別できないようなシーンについても、図23(a)に示すように、差分偏光度画像の情報を用いて壁と認識することが可能となる。
【0048】
[6.道路上に補修跡が存在する場合]
この場合も白線エッジを抽出できず、誤認識となる。
図18のアスファルトの反射特性はアスファルトの状態、例えば新しいか古いかで変化する。よって道路補修後のように路面の材質が異なると、そのアスファルト間で差分偏光度に差異が生じる。この差異を利用することで白線の認識率を上げられる。
【0049】
以上のように、輝度画像のコントラストが生じにくい雨の日や曇りの日や日影のような太陽からの光が被検対象である路面に直接あたらない場合においては、路面と白線の差分偏光度のコントラストが大きくなるとともに、撮影方向による差異がなく安定的な撮影が可能であるので、これらのシーンについては、差分偏光度を使用することにより、路面外観認識方法の信頼性を向上させることができる。また晴れの日向、特に逆光時についても差分偏光度画像で認識処理を行ってやればよい。
一方、順光時はモノクロ輝度画像のほうがよい。このような輝度情報と差分偏光度情報の補間関係を利用しているので、撮影環境によらずに簡易の構成で白線の認識方法の信頼性を向上させることができる。
【0050】
以下に本発明の他の実施形態を説明する。
まず、本実施形態に係る本発明の原理及び特徴を写真画像を含めて説明する。
本発明は、車線(白線、黄線)を検出する処理に際して、以下の特徴を有する。要するに、本発明は、差分偏光度画像のエッジ画像を用い、車線の候補点を検出する。また、差分偏光度画像で推定した路面の形状(幅、傾き)により、車線探索領域を決定し、該車線探索範囲内にある車線の候補点を用い、車線の認識処理を行うことが特徴になっている。
図24(a)に示すように、差分偏光度画像のエッジ画像により、走行路面上の車線っぽいエッジを検出する。図24(b)に示すように、差分偏光度画像では、路面と路面隣接物を識別できる特性により、ラベリング処理を用いて、路面の形状を推定する。
図24(c)に示すように、推定した路面の幅と傾きにより、車線探索領域を決定する。図24(d)に示すように、車線探索領域にある抽出された車線エッジに基づいて、ハフ変換を用いて、車線の形状を近似する。
【0051】
実際の処理の結果画像を用いて、具体的な処理のフローを説明する。
図25は、撮影素子により撮影した車両前方路面のモノクロ輝度画像と差分偏光度画像である。
まず、差分偏光度画像を用いて、車線っぽいエッジを検出する。結果を図26に示す。
次に、差分偏光度画像を用いて、ラベリング処理により路面の形状を認識する。認識結果を図27に示す。
次に、路面の幅及び傾き(両端の黒い線の間の距離及び黒い線の傾き)により車線の探索範囲を決定する。結果を図28に示す。
車線探索領域にある抽出された車線エッジに基づいて、ハフ変換を用いて、車線の形状を近似する。結果を図29に示す。
図25〜図29までの処理により、図23(b)に示したようなモノクロ輝度画像では、左側の白い壁を白線としての誤認識や、白線と道路の輝度差が小さい時の白線エッジを抽出できない未認識などの問題を防止することができる。
【0052】
図30乃至35に基づいて、本実施形態に係る車載用撮像システムを具体的に説明する。なお、上記実施形態と同一部分は同一符号で示す。
図30に示すように、メモリ1、メモリ2、モノクロ情報処理部14、差分変更度情報処理部16、路面形状推定部34、車線候補点検出部36、車線探索領域決定部38、車線検出部40及び領域記憶手段50は、画像処理装置26を構成している。
偏光カメラ12、画像処理装置26及び表示部22は、車載用撮像システム10を構成し、偏光カメラ12及び画像処理装置26は撮像装置としての物体識別装置2を構成する。
全体の処理の流れとしては、撮像手段にて取得した車両前方路面の垂直偏光成分(S)と水平偏光成分(P)及びこれを包含した偏光RAW画像データを用いて、差分偏光度情報とモノクロ輝度情報を算出する。得られた道路画像の差分偏光度情報により後述する方法にて路面と白線を検出する。
本実施形態において、画像処理装置26は、状況判別手段、パラメータ閾値決定手段、物体識別処理手段を兼ね、領域記憶手段50は、形状情報記憶手段、識別処理結果記憶手段を兼ねている。
【0053】
図30と図31の処理の流れに従って、具体的な処理について説明する。
撮像手段(偏光カメラ)12は、受光素子としてCCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の撮像素子により、例えばメガピクセルサイズの画素を有する路面を含む周囲画像を取得する。
撮像手段12は、例えば車のルームミラーに取り付けられ、車両前方の路面を撮像するものであってもよいし、例えばサイドミラーに取り付けられ、車両側方の路面を撮像するものであってもよい。さらに、例えばバックドアに取り付けられ、車両後方の路面を撮像するものであってもよい。
【0054】
本発明における撮像手段は輝度画像に加えて、差分偏光画像を取得できるものである。この差分偏光画像を形成するための撮像手段の構成例を以下に列記する。但し、本発明の撮像手段はこれに限定されない。
[撮像手段の構成例1]
図32に示すように、1台のカメラ60の前面に偏光子を回転自在に取り付けた構成を有し、計測対象62を撮影する時に偏光子を回転しながら縦偏光画像と横偏光画像を取り込み、この2つの画像の差分偏光度画像を形成する。
[撮像手段の構成例2]
図33に示すように、縦方向の偏光を透過する位置に偏光フィルタを配置し縦偏光画像を撮影するカメラ64と、横方向の偏光を透過する位置に偏光フィルタを配置し横偏光画像を撮影するカメラ64とを備えたものであってもよい。
撮像手段の構成例1での偏光フィルタを回転させる時間のズレはなく、縦偏光画像と横偏光画像が同時に撮影することが可能である。
[撮像手段の構成例3]
ステレオ方式とは異なり、2台のカメラは近接配置可能である。近年、機器の小型化のニーズが高いため、撮像手段の構成例2をさらに小型化する構成として、レンズアレイ、偏光子のフィルタアレイを介して、一つの受光素子で撮像するものであってもよい。
具体的には、図34に示すように、複数のレンズを同一基板上に有するレンズアレイ66と、該レンズアレイ66の各レンズを透過した光束に応じて領域分離されたフィルタ68と、該フィルタ68の各領域を通過した光を受光して被写体像を撮影する複数の撮像領域を有する撮像ユニット70とからなり、フィルタ68は透過軸が直交する少なくとも2つの偏光子領域を有し、撮像ユニット70のいずれかの撮像領域で縦偏光画像を撮影し、他の撮像領域で横偏光画像を撮影する。
[撮像手段の構成例4]
一つの撮像レンズ(レンズは同軸に複数枚でもよい)で画像を撮像し、レンズ後段で垂直偏光画像と水平偏光画像を分離し、それぞれの画像から差分偏光度画像を形成する。
図35に示すように、縦偏光画像および横偏光画像を撮像するために、1:1の透過性を備えるハーフミラーボックスと、ミラーと、縦偏光フィルタと、横偏光フィルタと、縦偏光フィルタを介して視野像を撮像するCCDと、横偏光フィルタを介して視野像を撮像するCCDを有する構成であってもよい。
撮像手段の構成例2では、縦偏光画像と横偏光画像の同時撮影が可能であるが、視差が生じてしまう、これに対して本例の構成では同一の撮像光学系(レンズ)を介して撮影するために視差が生じないため、検出領域が小さくてすみ、また視差ずれ補正などの処理が不要となる。
[撮像手段の構成例5]
撮像手段の構成例4において、ハーフミラーの代わりに偏光ビームスプリッタであってもよい。偏光ビームスプリッタは、横偏光を反射し、縦偏光を透過するプリズムである。このようなプリズムを配置することにより、縦偏光フィルタ、横偏光フィルタを配置しなくてもよく、光学系の簡素化が図れるとともに、光利用効率も向上させられる。
[撮像手段の構成例5]
図36に示すように、一つの撮像レンズ(レンズは同軸に複数枚でもよい)72で撮像し、レンズ後段に縦偏光のみを通す偏光子領域と横偏光の光のみを通す偏光子領域を有する領域分割型のフィルタ74を配置した構成であってもよい。なお偏光子領域としては金属の微細凹凸形状で形成されたワイヤグリッド方式や、オートクローニング型のフォトニック結晶方式により境界部が明瞭な領域分割型の偏光子フィルタを形成できる。
撮像手段の構成例4では縦偏光画像と横偏光画像をプリズム分岐するために光学系が大型化するし、2つの受光素子が必要となる。これに対して本例の構成であれば、撮像レンズの同軸上の光学系で横偏光画像と縦偏光画像の取得が可能である。
[撮像手段の構成例6]
領域分割型のフィルタの構成としては、受光素子の画素に1:1対応させるものに限られない。例えば図37に示すように、縦横に並ぶ正方形が各受光素子の受光部となる受光素子アレイとし、2種類の斜めの帯で縦横方向2種類の偏光フィルタ領域を形成する。各フィルタ領域は、幅1画素、つまり横方向に受光素子一個分の幅を持ち、領域の境界線の傾きは2、つまり横方向に1画素分進む間に縦方向に2画素分変化する角度を持つ斜めの帯の形状をとる。このような特殊なフィルタ配置パターンと信号処理を組み合わせることによって、撮像素子配列と領域分割フィルタを接合する際の位置合せの精度が十分でなくとも画面全体で各フィルタ透過画像を再現することを可能とし、低コストにこのような撮像装置を実現できる。
以上のような偏光画像を取得可能な撮像手段は、好ましくはリアルタイムに周囲画像を取得し、取得された周囲画像は、画像処理装置に供給される。
【0055】
図示しない車両に搭載された撮影手段としての偏光カメラ12により、車両が走行する道路の外観(ここでは走行方向前方の景色=フロントビューとする)を撮影し、その垂直偏光成分(S成分)と水平偏光成分(P成分)及びこれを包含した偏光RAW画像データを取得する。
撮影された水平偏光画像データはメモリ1に、垂直偏光画像データはメモリ2にそれぞれ格納される。
これらの画像データは、それぞれモノクロ輝度情報生成手段としてのモノクロ輝度情報処理部14と、差分偏光比画像生成手段としての差分偏光度情報処理部16に送信される。差分偏光度情報処理部16は取得されたP成分とS成分を用い、差分偏光比を算出して差分偏光比画像を生成する。
【0056】
モノクロ輝度情報処理部14は、取得されたP成分とS成分を用い、モノクロ画像の生成と、輝度情報(生成されたモノクロ画像の画素ごとの輝度値)の算出を行う。
差分偏光度情報処理部16は、上記式2に示す計算式により、それらの比率を計算することで、差分偏光比情報画像データを得る。
また、モノクロ輝度情報処理部14では、上記式3によりモノクロ輝度情報画像データを生成し、出力する。
図38は、具体的な車線候補点検出の処理フローについて説明する図である。
車線候補点検出部36では、差分偏光度情報の利用方法としては、従来から知られる白線検出などが行える。なお、車線には、黄色線等の任意の色の線、実線、破線、点線、二重線等の道路を区画するあらゆる線を含んでよい。車線検出部40は、計算された差分偏光度情報を元に、後述する方法にて走行路面上の車線候補領域を抽出するものである。
通常の道路はアスファルト等の黒い部分に白線が形成されており、白線の部分の差分偏光度は無偏光状態になっており、差分偏光度はその他の部分より十分小さいため、得られた路面の差分偏光度が所定値以下の部分を白線と判定するこができる。
【0057】
車両前方路面の垂直偏光成分(S)と水平偏光成分(P)により路面の差分偏光度を算出する。車線候補エッジを検出する際、走査線の中央付近の差分偏光度を用いて、1走査線ごとに走査線の中央から画像の左右方向へ差分偏光度データと閾値とを大小比較することにより白線エッジの候補点を検出する。
検出された白線エッジの候補点と予め定められた白線幅の閾値とを大小比較することにより路面上に描かれた白線候補エッジを抽出する。差分偏光度の閾値設定のステップでは、画像上方と下方の白線の差分偏光度コントラストが違っているため、同一の閾値を用いて処理を行うと良好な結果が得られない。
そこで、一フレームの画像に対して、上方と下方を二つのエリアを分け、それぞれに適用する差分偏光度の閾値を設定する。
【0058】
図39は、具体的な路面形状推定手段としての路面形状推定部34の処理フローについて説明する図である。
路面形状推定部34では、差分偏光度情報の利用方法としては、モノクロ輝度画像では検出が難しい走行路面の形状を認識することが行える。
差分偏光度画像を閾値により2値化する。2値化した差分偏光度画像に含まれる連結成分について、各連結成分の特徴をラベリング処理により調べ、路面の特徴により路面の連結成分を抽出する。
図40に示したように、画面の両端の黒い線は路面形状により出した路面領域の線である。
車線探索領域決定部38では、路面の幅と路面の傾き(黒い線の傾き)により車線の探索領域を決定することができる。車線の領域は少なくとも路面領域の内側にある。
車線探索領域内に車線が見つからなかった場合、車線エッジを検出パラメータの閾値を下げて、車線探索領域内にもう一回車線エッジを検出する。
【0059】
車線検出部では、車線探索領域内にある検出された車線エッジに基づいて、形状近似認識により近似曲線を取得する。形状を認識する手法に関しては、最小二乗方やハフ変換やモデル方程式などの手法が適用する。近似曲線を取得際、道路画像の下部で抽出した信頼性の高い車線エッジには形状近似の投票値に大きな重みを持たせる。
このようにすれば、道路画像の上方走査範囲で車線エッジを誤認識しても、下方走査範囲で正しい車線エッジを抽出できていれば、車線の認識を成功させることができる。
最後に、検出した結果を使って、車両制御してもよいし、白線、路端を運転者が見やすい形態でディスプレイに表示してもよい。
以上のように、差分偏光度により、路面領域の認識と車線候補エッジを抽出し、当該認識結果に基づいて、車線領域と車線検出を実行することで、路肩と白壁を車線としての誤認識や、輝度のコントラストが低いための未認識などを適切に除去しつつ、車線を高精度に検出することも可能である。
【0060】
図41は、具体的な路面状態の学習によりパラメータを決定について説明する図である。
生成された差分偏光度画像とモノクロ輝度画像の路面に設けられた白線を除く路面領域に、同じエリア内で画像輝度が所定の輝度に対する予め設定した閾値より小さいか否かを判別し、同輝度に対する閾値より小さいと判別した場合に前方路面が濡れた状態と判断している。
同輝度に対する閾値以上であると判別した場合に同じエリア内に取得した差分偏光度が所定の強度に対する閾値以上であるか否かを判別し、同強度に対する閾値以上であると判別した場合に、前方路面が濡れた状態と判断しており、同強度に対する閾値より小さいと判別した場合に上記前方路面が乾燥状態と判断することができる。輝度と差分偏光度の閾値は事前の実験により決められる。
【0061】
また、この方法により、路面の乾湿と天気を推測できる。各路面状態の差分偏光度画像とモノクロ輝度画像のサンプル画像を学習し、各路面状態に応じる最適な2値化処理するパラメータを事前に決定する。
領域記憶手段では、リアルタイムに車線と車線探索領域を検出する場合においては、一枚以上の過去の撮影画像に同じような車線と車線探索領域が見つかったら、信頼できると判断する。次のフレームから前のフレーム車線探索領域位置に基づいて、車線エッジを探索し、形状を近似する。
5フレーム分の画像の車線エッジがある閾値以上検出できなかったら、最初の路面下方の走査線の中央位置から探し始まる。
【符号の説明】
【0062】
12 撮像手段としての偏光カメラ
14 輝度情報算出手段としてのモノクロ情報処理部
16 偏光比画像生成手段としての偏光比情報処理部
18 ライン検出手段としての白線検出部
20 異部材検出手段、探索位置決定手段、近似曲線取得手段としての路端検出部
34 路面形状推定手段
36 車線候補点検出手段
38 車線探索領域決定手段
40 車線検出手段
50 領域記憶手段
【先行技術文献】
【特許文献】
【0063】
【特許文献1】特開2010−64531号公報
【特許文献2】特開平11−175702号公報
【特許請求の範囲】
【請求項1】
走行する路面の垂直偏光画像および水平偏光画像を撮影可能な撮像手段と、
前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成する偏光比画像生成手段と、
前記偏光比画像上の偏光比情報により、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する異部材検出手段と、
を有することを特徴とする撮像装置。
【請求項2】
請求項1に記載の撮像装置において、
前記異部材検出手段は、前記偏光比画像を走査し、1走査線ごとの偏光比情報により異物を検出することを特徴とする撮像装置。
【請求項3】
請求項2に記載の撮像装置において、
前記異部材検出手段は、走査に使用する偏光比と同じ走査線上にある偏光比との差分値を算出し、予め定められた閾値と比較することにより異部材を検出することを特徴とする撮像装置。
【請求項4】
請求項3に記載の撮像装置において、
前記垂直偏光画像と水平偏光画像とから輝度情報を算出する輝度情報算出手段と、算出された輝度情報に基づいて前記ラインを検出するライン検出手段と、を有し、
前記異部材検出手段は、検出された前記ラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項5】
請求項4に記載の撮像装置において、
前記異部材検出手段は、前記ラインを検出できなかった場合、過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項6】
請求項4に記載の撮像装置において、
前記異部材検出手段は、前記ラインが走行方向に途切れていた場合、ラインが無い領域では過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項7】
請求項5または6に記載の撮像装置において、
前記異部材検出手段は、過去の画像により抽出したラインが走行方向に途切れていた場合、同じ偏光比画像内の他の走査線で検出されたラインの仮想延長線を基準した偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項8】
請求項4に記載の撮像装置において、
前記異部材検出手段は、前記ラインを検出できなかった場合、路面中心部の偏光比を前記走査に使用する偏光比とすることを特徴とする撮像装置。
【請求項9】
請求項4〜8の何れか1つに記載の撮像装置において、
前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記ライン検出手段は、輝度値画像を上方と下方の二つのエリアに分け、エリア毎に適用する輝度の閾値を設定することを特徴とする撮像装置。
【請求項10】
請求項4〜9の何れか1つに記載の撮像装置において、
前記ライン検出手段は、前記ラインを判断するためのエッジ候補からライン幅を算出し、算出したライン幅が規定範囲の場合にラインエッジと判断することを特徴とする撮像装置。
【請求項11】
請求項4〜10の何れか1つに記載の撮像装置において、
前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記異部材検出手段または前記ライン検出手段は、画像の下方から上方へという順序で画像水平方向の走査線の中央から画像の左右方向へ走査して、異部材を検出することを特徴とする撮像装置。
【請求項12】
請求項4〜11の何れか1つに記載の撮像装置において、
1フレーム以上の過去の撮影画像により認識した前記ラインと前記路面領域外部材との領域を記憶する領域記憶手段と、記憶された結果に基づいて次のフレームの探索位置を決める探索位置決定手段とを有していることを特徴とする撮像装置。
【請求項13】
請求項9または11に記載の撮像装置において、
検出された前記ラインのエッジと前記路面領域外部材のエッジに対して形状近似認識により近似曲線を取得する近似曲線取得手段を有し、偏光比画像の下部で抽出した信頼性の高いラインエッジと前記路面領域外部材のエッジには形状近似の投票値に大きな重みを持たせることを特徴とする撮像装置。
【請求項14】
車に取り付けられ、路面を撮影する撮像装置と、撮影された画像を表示する表示手段とを有する車載用撮像システムにおいて、
前記撮像装置が、請求項1〜13のいずれか1つに記載のものであることを特徴とする車載用撮像システム。
【請求項15】
走行する路面の垂直偏光画像および水平偏光画像を撮影し、前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成し、特定の偏光比を使用して前記偏光比画像を走査することにより、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出することを特徴とする路面外観認識方法。
【請求項16】
撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、
撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、
該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、
該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、
該差分偏光度により差分偏光度画像を生成する差分偏光度画像生成手段と、
該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に車両の走行レーンを区画する車線の車線候補点の検出を行う車線候補点検出手段と、
該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に平面的に形成されて路面領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する路面形状推定手段と、
該路面形状推定手段で推定された路面の形状に基づいて、車線領域を決定する車線探索領域決定手段と、
該車線領域決定手段で決定した車線領域にある車線候補点に基づいて、走行車線を認識する車線検出手段と、
を有することを特徴とする物体識別装置。
【請求項17】
請求項16に記載の物体識別装置において、
前記車線探索領域決定手段は、走行路面の傾きと幅とにより、車線の探索領域を決定することを特徴とする物体識別装置。
【請求項18】
請求項16または17に記載の物体識別装置において、
前記車線探索領域内では、車線を認識できなかった場合、車線探索領域に対応する部分では、前記車線検出手段は適用する差分偏光度のパラメータ閾値を下げることを特徴とする物体識別装置。
【請求項19】
請求項16に記載の物体識別装置において、
前記路面形状推定手段は、差分偏光度画像を所定パラメータの閾値により2値化処理を行い、2値化処理後の値に基づいて、路面の特徴量を持つ領域内画像データの連結成分をラベリング処理により抽出し、抽出された前記連結成分を路面として、識別することを特徴とする物体識別装置。
【請求項20】
請求項19に記載の物体識別装置において、
前記差分偏光度画像を2値化するため、前記差分偏光度算出手段が算出した差分偏光度及び前記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、
該状況判別手段が判別した状況に応じて該パラメータの閾値を決定するパラメータ閾値決定手段と、
を有することを特徴とする物体識別装置。
【請求項21】
請求項20に記載の物体識別装置において、
上記パラメータ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記パラメータ閾値を決定することを特徴とする物体識別装置。
【請求項22】
請求項16〜21の何れか1つに記載の物体識別装置において、
前記認識対象物を前記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、
前記車線検出手段と前記路面形状推定手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が前記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とする物体識別装置。
【請求項23】
請求項16〜22の何れか1つに記載の物体識別装置において、
前記車線検出手段と前記路面形状推定手段とが行う前記形状近似判断処理では、前記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とする物体識別装置。
【請求項24】
請求項1〜23の何れか1つに記載の物体識別装置において、
過去に行った物体識別処理の結果を記憶する識別処理結果記憶手段を有し、
前記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて物体識別処理を行うことを特徴とする物体識別装置。
【請求項1】
走行する路面の垂直偏光画像および水平偏光画像を撮影可能な撮像手段と、
前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成する偏光比画像生成手段と、
前記偏光比画像上の偏光比情報により、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する異部材検出手段と、
を有することを特徴とする撮像装置。
【請求項2】
請求項1に記載の撮像装置において、
前記異部材検出手段は、前記偏光比画像を走査し、1走査線ごとの偏光比情報により異物を検出することを特徴とする撮像装置。
【請求項3】
請求項2に記載の撮像装置において、
前記異部材検出手段は、走査に使用する偏光比と同じ走査線上にある偏光比との差分値を算出し、予め定められた閾値と比較することにより異部材を検出することを特徴とする撮像装置。
【請求項4】
請求項3に記載の撮像装置において、
前記垂直偏光画像と水平偏光画像とから輝度情報を算出する輝度情報算出手段と、算出された輝度情報に基づいて前記ラインを検出するライン検出手段と、を有し、
前記異部材検出手段は、検出された前記ラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項5】
請求項4に記載の撮像装置において、
前記異部材検出手段は、前記ラインを検出できなかった場合、過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記路面領域外部材を検出するための前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項6】
請求項4に記載の撮像装置において、
前記異部材検出手段は、前記ラインが走行方向に途切れていた場合、ラインが無い領域では過去の偏光比画像で検出されたラインを基準とした偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項7】
請求項5または6に記載の撮像装置において、
前記異部材検出手段は、過去の画像により抽出したラインが走行方向に途切れていた場合、同じ偏光比画像内の他の走査線で検出されたラインの仮想延長線を基準した偏光比情報に基づいて、前記走査に使用する偏光比と前記閾値とを決定することを特徴とする撮像装置。
【請求項8】
請求項4に記載の撮像装置において、
前記異部材検出手段は、前記ラインを検出できなかった場合、路面中心部の偏光比を前記走査に使用する偏光比とすることを特徴とする撮像装置。
【請求項9】
請求項4〜8の何れか1つに記載の撮像装置において、
前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記ライン検出手段は、輝度値画像を上方と下方の二つのエリアに分け、エリア毎に適用する輝度の閾値を設定することを特徴とする撮像装置。
【請求項10】
請求項4〜9の何れか1つに記載の撮像装置において、
前記ライン検出手段は、前記ラインを判断するためのエッジ候補からライン幅を算出し、算出したライン幅が規定範囲の場合にラインエッジと判断することを特徴とする撮像装置。
【請求項11】
請求項4〜10の何れか1つに記載の撮像装置において、
前記偏光比画像の走行方向前方に対応する部分を画像の上側とした場合、前記異部材検出手段または前記ライン検出手段は、画像の下方から上方へという順序で画像水平方向の走査線の中央から画像の左右方向へ走査して、異部材を検出することを特徴とする撮像装置。
【請求項12】
請求項4〜11の何れか1つに記載の撮像装置において、
1フレーム以上の過去の撮影画像により認識した前記ラインと前記路面領域外部材との領域を記憶する領域記憶手段と、記憶された結果に基づいて次のフレームの探索位置を決める探索位置決定手段とを有していることを特徴とする撮像装置。
【請求項13】
請求項9または11に記載の撮像装置において、
検出された前記ラインのエッジと前記路面領域外部材のエッジに対して形状近似認識により近似曲線を取得する近似曲線取得手段を有し、偏光比画像の下部で抽出した信頼性の高いラインエッジと前記路面領域外部材のエッジには形状近似の投票値に大きな重みを持たせることを特徴とする撮像装置。
【請求項14】
車に取り付けられ、路面を撮影する撮像装置と、撮影された画像を表示する表示手段とを有する車載用撮像システムにおいて、
前記撮像装置が、請求項1〜13のいずれか1つに記載のものであることを特徴とする車載用撮像システム。
【請求項15】
走行する路面の垂直偏光画像および水平偏光画像を撮影し、前記垂直偏光画像と水平偏光画像とから偏光比を算出して偏光比画像を生成し、特定の偏光比を使用して前記偏光比画像を走査することにより、路面上に平面的に形成されて路面の領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出することを特徴とする路面外観認識方法。
【請求項16】
撮像領域内に存在する識別対象物を撮像した撮像画像中における該識別対象物の画像領域を識別する物体識別装置において、
撮像領域内に存在する物体からの反射光に含まれている偏光方向が互いに異なる2つの偏光を受光して、それぞれの偏光画像を撮像する撮像手段と、
該撮像手段が撮像した2つの偏光画像をそれぞれ所定の処理領域に分割し、処理領域ごとに、該2つの偏光画像間における輝度合計値を算出する輝度算出手段と、
該処理領域ごとに、該輝度合計値に対する該2つの偏光画像間における輝度差分値の比率を示す差分偏光度を算出する差分偏光度算出手段と、
該差分偏光度により差分偏光度画像を生成する差分偏光度画像生成手段と、
該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に車両の走行レーンを区画する車線の車線候補点の検出を行う車線候補点検出手段と、
該差分偏光度算出手段で算出した差分偏光度に基づいて、路面上に平面的に形成されて路面領域を区画するライン、または路面に角度を有して隣接する路面領域外部材を検出する路面形状推定手段と、
該路面形状推定手段で推定された路面の形状に基づいて、車線領域を決定する車線探索領域決定手段と、
該車線領域決定手段で決定した車線領域にある車線候補点に基づいて、走行車線を認識する車線検出手段と、
を有することを特徴とする物体識別装置。
【請求項17】
請求項16に記載の物体識別装置において、
前記車線探索領域決定手段は、走行路面の傾きと幅とにより、車線の探索領域を決定することを特徴とする物体識別装置。
【請求項18】
請求項16または17に記載の物体識別装置において、
前記車線探索領域内では、車線を認識できなかった場合、車線探索領域に対応する部分では、前記車線検出手段は適用する差分偏光度のパラメータ閾値を下げることを特徴とする物体識別装置。
【請求項19】
請求項16に記載の物体識別装置において、
前記路面形状推定手段は、差分偏光度画像を所定パラメータの閾値により2値化処理を行い、2値化処理後の値に基づいて、路面の特徴量を持つ領域内画像データの連結成分をラベリング処理により抽出し、抽出された前記連結成分を路面として、識別することを特徴とする物体識別装置。
【請求項20】
請求項19に記載の物体識別装置において、
前記差分偏光度画像を2値化するため、前記差分偏光度算出手段が算出した差分偏光度及び前記輝度算出手段が算出した輝度合計値の少なくとも一方に基づいて撮像領域内の状況を判別する状況判別手段と、
該状況判別手段が判別した状況に応じて該パラメータの閾値を決定するパラメータ閾値決定手段と、
を有することを特徴とする物体識別装置。
【請求項21】
請求項20に記載の物体識別装置において、
上記パラメータ閾値決定手段は、状況ごとの過去の差分偏光度及び輝度合計値の少なくとも一方を用いて学習した結果を用いて、上記パラメータ閾値を決定することを特徴とする物体識別装置。
【請求項22】
請求項16〜21の何れか1つに記載の物体識別装置において、
前記認識対象物を前記撮像手段により撮像したときの形状を示す形状情報を記憶する形状情報記憶手段を有し、
前記車線検出手段と前記路面形状推定手段は、該識別対象物に対応する処理領域として特定した互いに近接する複数の処理領域により示される形状が前記形状情報記憶手段に記憶されている形状情報の形状に近似しているかどうかを判断する形状近似判断処理を行い、該形状近似判断処理により近似していると判断したときには、該複数の処理領域を該識別対象物の画像領域であると識別することを特徴とする物体識別装置。
【請求項23】
請求項16〜22の何れか1つに記載の物体識別装置において、
前記車線検出手段と前記路面形状推定手段とが行う前記形状近似判断処理では、前記2つの偏光画像をそれぞれ撮像距離に応じて少なくとも2つ以上の区域に区分し、形状が近似しているかどうかの判断に際し、撮像距離が遠い区域に含まれる部分よりも撮像距離が近い区域に含まれる部分の方が判断結果に与える影響が大きいように重み付けを行うことを特徴とする物体識別装置。
【請求項24】
請求項1〜23の何れか1つに記載の物体識別装置において、
過去に行った物体識別処理の結果を記憶する識別処理結果記憶手段を有し、
前記識別処理結果記憶手段に記憶された過去の物体識別処理の結果も用いて物体識別処理を行うことを特徴とする物体識別装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【公開番号】特開2011−150689(P2011−150689A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−254213(P2010−254213)
【出願日】平成22年11月12日(2010.11.12)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願日】平成22年11月12日(2010.11.12)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]