画像認識装置
【課題】 画像認識装置の信頼性を向上する。
【解決手段】 自動車などの車両に搭載したカメラ1によって走行方向前方を撮像し、道路の走行レーンを表示する白線を認識処理し、運転支援、自動運転を行う。条件検出手段は、カメラ1からの画像データを演算処理し、認識処理が不可能である条件、たとえば逆光、雨上がりなどによって画像が明るすぎるとき、夜間などで画像が暗すぎるとき、薄暮、雪などによって画像が低コントラストであるとき、さらに逆光などによるスミアが発生しているときなどの条件を検出する。報知手段12は、このような認識処理が不可能である条件を報知する。したがってカメラ1が故障などして異常であったか、またはカメラへの入力画像が異常、または不適切であったかを判断することができる。
【解決手段】 自動車などの車両に搭載したカメラ1によって走行方向前方を撮像し、道路の走行レーンを表示する白線を認識処理し、運転支援、自動運転を行う。条件検出手段は、カメラ1からの画像データを演算処理し、認識処理が不可能である条件、たとえば逆光、雨上がりなどによって画像が明るすぎるとき、夜間などで画像が暗すぎるとき、薄暮、雪などによって画像が低コントラストであるとき、さらに逆光などによるスミアが発生しているときなどの条件を検出する。報知手段12は、このような認識処理が不可能である条件を報知する。したがってカメラ1が故障などして異常であったか、またはカメラへの入力画像が異常、または不適切であったかを判断することができる。
【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、カメラによって撮像した画像データによって物体などの認識処理を行う画像認識装置に関し、特に自動車などの車両に搭載され、自動車の前方、側方または後方などに光軸が向けられて搭載された車載カメラからの画像データによって、たとえば道路に描かれた走行レーンを表す白線および他の車両の有無などを認識し、運転者に報知し、または車両の運転制御を行う運転支援、自動運転装置に好適に実施される画像認識装置に関する。
【0002】
【従来の技術】このような運転支援、自動運転装置用画像認識装置では、認識する対象物体であるたとえば道路の白線または先行車両を、カメラからの画像データによって画像認識することができない場合、画像認識不可能であると判断している。
【0003】図20は、上述の先行技術の動作を説明するためのフローチャートである。ステップg1からステップg2に移り、カメラからの画像データをコンピュータなどによって実現される処理手段に入力する。ステップg3では、この画像データを用いて、道路上に描かれた走行レーンを表示する白線などの物体を認識する認識処理を行う。ステップg4において認識処理が可能であるとき、ステップg5において白線の認識が可能であることを表す信号を導出し、ステップg7では、その信号を用いて、運転支援、自動運転などのための動作が実施される。ステップg6では、白線の認識処理が不可能であることを表す信号が導出され、これによって運転支援、自動運転の動作が停止される。
【0004】このような先行技術では、画像認識の処理が不可能である条件が、たとえば雨または雪などの周囲環境によるのか、またはカメラもしくはそのカメラからの画像データを認識処理する回路が故障して異常であるのかを判断することができない。したがって画像認識装置の信頼性が劣る結果になる。
【0005】また画像認識装置の認識性能を向上させ、すなわち適用範囲を拡大すると、物体の認識率は向上するけれども、これと同時に、誤認識も増加することがある。したがって操作者は、カメラからの画像データの認識処理を適切に行うことができるか、または認識処理が不可能であるかを知る必要が生じる。
【0006】特に前述の運転支援、自動運転装置では、カメラからの画像データの認識処理を適切に行うことができるかどうかを正確に判断することが、安全運転の観点から必要であり、さもなければ、運転支援、自動運転装置を使用することができなくなってしまう。
【0007】
【発明が解決しようとする課題】本発明の目的は、たとえば運転支援、自動運転装置などの用途において、カメラによって撮像して得られる画像データを用いて対象物体の認識処理を行うことができるかどうかを判断する画像認識装置を提供することである。
【0008】
【課題を解決するための手段】本発明は、カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段と、条件検出手段の出力に応答し、認識処理が可能であるとき、カメラからの画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置である。
【0009】本発明に従えば、条件検出手段によって、カメラからの画像データの認識処理を認識処理手段によって行うことができるかどうかを判断し、認識処理が不可能であるとき、その条件、すなわち原因を検出し、報知手段によって報知する。この報知手段は、液晶または陰極線管などの2次元表示面を有する目視表示手段であってもよく、または音声合成回路とスピーカとを有する音響表示手段であってもよく、その他の構成を有する報知手段であってもよい。したがってたとえば運転支援、自動運転装置用画像処理装置において、カメラによって撮像した先行車両を認識処理手段が認識処理することができない場合、先行車両がいないことによって認識できなかったのか、またはカメラからの画像データが異常でありもしくは動作が不適切であることによって認識できないのかを、操作者は、知ることができる。こうして画像認識装置の信頼性が確保される。
【0010】また本発明は、カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、カメラへの入力画像を補正し、またはカメラからの画像データを補正する補正手段と、入力画像が補正手段によって補正されたカメラからの画像データ、または補正手段によって補正された画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置である。
【0011】本発明に従えば、条件検出手段によって、カメラからの画像データを認識処理手段が認識処理することが不可能であると判断したとき、補正手段は、カメラへの入力画像を補正し、たとえば(a)カメラの絞りまたはシャッタ速度を適正値に変更して露光条件を補正し、または(b)自動車の車室内にカメラが搭載され、車両の前方を撮像する構成において、フロントガラスの外周面を払拭するワイパを自動的に作動させて正常な前方の状況をカメラによって撮像することができるように補正する。補正手段はまた、カメラからの画像データを補正するように構成されてもよく、たとえば(c)カメラからの画像データが、濃淡を表すアナログ信号である場合、条件検出手段によって画像データが低コントラストであることが判断されたとき、アナログ信号をデジタル信号に変換するアナログ/デジタル変換への感度を広げ、すなわちアナログ信号のわずかな差毎に、デジタル信号に変換するように構成し、こうしてカメラからの画像データを補正することができる。
【0012】こうして入力画像が補正されたカメラからの画像データを用いて、またはカメラからの画像データを補正することによって、認識処理手段は、その画像データの認識処理を行うことができる。こうして条件検出手段によって画像データの認識処理が不可能であると判断されたとき、補正手段の働きによって、対応環境とされる利用領域を拡大し、画像認識装置の性能を向上させることができる。
【0013】また本発明は、カメラと、カメラの周囲環境を検出するセンサと、カメラからの画像データの認識処理をする認識処理手段と、センサの出力に応答し、認識処理手段によって、カメラからの画像データの認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段とを含むことを特徴とする画像認識装置である。
【0014】本発明に従えば、センサによってカメラの周囲環境を検出し、このセンサによって検出された周囲環境が、認識処理手段によるカメラからの画像データの認識処理が不可能である条件であるかを、条件検出手段によって判断し、認識処理が不可能であるとき、報知手段によって認識処理が不可能である条件を検出して判断するために、カメラからの画像データを演算処理する必要がなく、センサの出力を用いるようにしたので、演算処理量を減少し、迅速な演算処理不可能条件の判断を行うことができる。
【0015】また本発明は、条件検出手段は、センサの出力によって検出された条件と、カメラからの画像データを演算処理することによって検出された条件とが、一致したとき、その条件を表す出力を報知手段に与えることを特徴とする。
【0016】本発明に従えば、認識処理手段による画像データの認識処理が不可能である条件を、センサの出力だけでなく、カメラからの画像データを演算処理することによってもまた検出する。こうして得られた認識処理不可能の条件が一致したとき、その認識処理不可能な条件を、報知手段によって報知するようにしたので、認識処理が不可能である条件の判断を高精度で達成することができるようになる。
【0017】
【発明の実施の形態】図1は、本発明の実施の一形態の画像認識装置を備える運転支援、自動運転装置の全体の構成を示すブロック図である。カメラ1からの画像データは、マイクロコンピュータによって実現される処理回路2に与えられ、これによって制御回路3は、自動車の車体を走行駆動する内燃機関4を制御するとともに、制動手段5を制御する。カメラ1によって、自車よりも走行方向前方を走行している先行車両を検出し、その先行車両と自車との間の距離を処理手段2によって測定し、この距離が予め定める値に保たれるように、制御回路3は、内燃機関4と制動手段5とを制御し、こうして先行車両が走行すると、自車も走行し、また先行車両が停止すると自車も停止するように、自動運転が行われる。さらに処理手段2では、カメラ1によって撮像された画像データを認識処理し、車両の前方の道路に描かれた走行レーンを表す白線を検出する。この検出された白線が、車両の左右に短い周期で変動したとき、運転者が居眠りをしているものと判断して、たとえばブザーなどの音響表示手段によって音響を発生し、居眠り運転を防止し、運転支援を行う。
【0018】図2は、自動車の車体6の簡略化した側面図である。運転者用座席7が設けられた車室8内には、車体6の背後である走行方向後方を見るためのルームミラーである反射鏡9が設けられ、この反射鏡9の走行方向前方(図2の左方)にはカメラ1が設けられる。さらにカメラ1の前方には、フロントガラス10が配置される。フロントガラス10の外表面は、ワイパ11によって払拭することができる。
【0019】図3は、処理手段2の動作を説明するためのフローチャートである。ステップa1からステップa2に移り、カメラ1によって撮像された車体6の走行方向前方の景色の画像データが処理回路2に入力される。ステップa3では、カメラ1からの画像データを演算処理し、道路に描かれた白線である物体の認識処理が不可能である条件を検出して判断する。ステップa4において白線である物体の認識処理が可能であるとき、ステップa5では、その物体の認識処理を行う。ステップa6では、物体の認識処理が行われ、その物体が認識されたかどうかが判断される。道路上の白線が検出されていれば、ステップa7では、その物体である白線が認識されたことを表す信号が導出される。これとは逆に、白線である物体が認識されなければ、車体6は、道路の走行レーンを外れて走行しているおそれがあり、このとき白線が認識されていないことを表す信号を、ステップa8において導出する。ステップa9では、白線が認識されているとき、車体6は走行レーンを走行しているものと判断することができ、このとき制御回路3によって、内燃機関4および制動手段5を制御して自動運転動作を行うとともに、居眠り防止のための運転支援動作を行う。白線がステップa8において認識されないとき、制御回路3による自動運転動作を停止する。
【0020】ステップa4においてステップa5における物体の認識処理が不可能である条件を検出したとき、ステップa9では、その認識処理が不可能である条件を、報知手段12によって報知する。報知手段12は、たとえば液晶または陰極線管などの2次元表示面に目視表示をする手段であってもよく、または音声合成回路とスピーカを備えた音響表示手段であってもよく、その他の報知を行う構成を有していてもよい。認識処理が不可能である条件というのは、たとえば表1に示される条件が挙げられる。
【0021】
【表1】
【0022】図4は、図1に示される処理手段2の動作の一部をさらに詳細に示すフローチャートである。図4のステップb2は、図3のステップa3と同一であって、認識処理が不可能であるかどうかの判断を行うステップである。図3のステップa4の具体的な動作は、図4のステップb3〜b10に示される。これらの各ステップb3〜b10の動作は、表2に示される画像の現象1〜8にそれぞれ対応する。
【0023】
【表2】
【0024】図5は、カメラ1によって撮像され報知手段12の2次元表示面に表示された画像16を示す正面図である。この2次元表示面16の画面全体17には、斜線を施して示す道路部分18と、車体6の前部である自車ボデー部19とが含まれる。
【0025】図4のステップb2では、上述の表2に示される判断動作が行われる。次のステップb3では、カメラ1によって撮像された画像が、逆光、雨上がりなどの認識不可能条件によって、画像が明る過ぎるかが判断される。この判断のために表2の判断動作1a〜1cが実行される。
【0026】図6は、判断動作1aを説明するための図である。図6(1)に示されるように画面全体の画像が逆光によって明る過ぎると判断する際、図6(2)に示される濃度ヒストグラムを求める。この濃度ヒストグラムは、横軸が階調1(黒)〜256(白)であり、縦軸は、その濃度を有する画素数である。画面の各画素毎に、8ビットから成る画像データが得られる。図6(2)の濃度ヒストグラムでは、輝度値すなわち濃度の分布の傾向が、ほとんど白であることが判る。このような濃度ヒストグラムにおいて、たとえば濃度201以上の画素数が予め定める値以上であるとき、画像が明る過ぎると判断することができる。
【0027】画面を構成する画素の輝度値すなわち濃度の階調というのは、画像のデータをデジタル値に変換したときの明るさ、すなわち濃淡度を示し、モノクロ画像の場合、1画素につき、8ビットの分解能0〜255の値によって輝度値が表される。濃度ヒストグラムは、画像の処理対象領域内の全画素を、各輝度値毎に分布状態を求めたグラフである。
【0028】本発明の実施の他の形態では、画像が明る過ぎることを判断する判断動作1bでは、画面の一部分(たとえば図5に示される道路部分18)の濃度ヒストグラムを求め、その輝度値の分布の傾向がほとんど白であるとき、画像が明る過ぎるものと判断する。本発明の実施のさらに他の形態では、判断動作1cにおいて、カメラ1の入力画像において、常に同じ状態の部分(たとえば図5の自車ボデー部19)の平均濃度を演算して求め、この濃度値が通常走行時の平均濃度と比べ、予め定める差以上の差があるとき、画像が明る過ぎると判断する。
【0029】図4のステップb4では、カメラ1によって撮像された画像が、認識不可能条件である夜間などによって、画像が暗過ぎるかが判断される。図7(1)は、夜間、カメラ1によって撮像された画像が暗過ぎる状態を示すための図である。図7(1)では、暗過ぎる画像を示し、図7(2)は、その図7(1)の画像の濃度ヒストグラムである。この画像が暗過ぎるための判断動作2aは、画面全体の濃度ヒストグラムを、図7(2)に示されるようにして求め、その輝度値の分布の傾向がほとんど黒であるとき、画像が暗過ぎるものと判断する。すなわち濃度ヒストグラムにおいて、たとえば濃度51未満における画素数が予め定める値以上であるとき、画像が暗過ぎるものと判断する。
【0030】本発明の実施の他の形態の判断動作2bでは、画面の一部分(たとえば図5の道路部分18)の濃度ヒストグラムを求め、その輝度値の分布の傾向がほとんど黒であるとき、画像が暗過ぎるものと判断する。
【0031】本発明の実施のさらに他の形態の判断動作2cでは、カメラ1の入力画像における常に同じ状態の部分(たとえば図5の自車ボデー部19)の平均濃度を求め、この濃度値が通常走行時の平均濃度と比べ、暗過ぎるとき、画像が暗過ぎるものと判断する。
【0032】図4のステップb5では、画像が、薄暮、霧などによって低コントラストであるかが判断される。図8は、画像が低コントラストであるときの状態を示す図である。図8(1)は低コントラストの画像を示し、図8(2)はその画像の濃度ヒストグラムを示す。画像が低コントラストであると判断する判断動作3aでは、画面全体の濃度ヒストグラムを求め、その輝度値の分布の傾向が、一部に集中しているとき、画面が低コントラストであるものと判断する。このために濃度ヒストグラムにおいて予め定める画素数以上を有する濃度の範囲が予め定める濃度値未満であるとき、低コントラストであるものと判断する。
【0033】本発明の実施の他の形態では、画面が低コントラストであると判断する判断動作3bにおいて、画面の一部分(たとえば図5の道路部分18)の濃度ヒストグラムを求め、その輝度値の分布の傾向が一部に集中するとき、低コントラストであるものと判断する。
【0034】ステップb6では、カメラ1によって撮像された画像にスミアが発生していることを判断し、このようなスミアの発生は、逆光などの認識不可能条件において発生する。スミアというのは、次の図9(1)に示されるように、カメラ1の外光の影響で画面に発生する縦縞模様をいう。
【0035】図9は、カメラ1によって撮像された画像にスミアが発生した状態を説明するための図である。図9(1)の画像では、スミアである縦縞模様20が表示されている。この画像の垂直方向への濃度投影は図9(2)に示される。図9(2)において横軸は、画面の水平方向の位置であり、縦軸は垂直方向の各画素の濃度の合計値である濃度和を表す。スミアの発生を判断する判断動作4aでは、画像全体の垂直方向への濃度投影を求め、その投影値の一部が参照符21で示されるように突出しているとき、スミアが発生しているものと判断する。
【0036】図10は、図4のステップb2においてスミアが発生している判断動作4aの具体的な動作を説明するための図である。ステップc1からステップc2に移り、図9(2)に示される画像全体の垂直方向への濃度投影において、水平方向(図9(2)の横方向)に各画素の位置毎に、まず、第1ピークp1が存在するかどうか、すなわち両側の濃度和よりも高い濃度和を有する位置であるかを判断する。次のステップc3では、その第1ピークp1の両側±Lの範囲を設定する。この±Lは、たとえば自己の画素の位置の両側に±10画素分の範囲である。ステップc4では、この範囲±Lにおける第1ピークp1よりも高い、または低い第2ピークp2を求める。ステップc5では、第1および第2ピークp1,p2の差ΔP(=│p1−p2│)を演算して求める。ステップc6では、差Δpが、予め定める値Δp1以上であるか(Δp≧Δp1)が判断される。差Δpが、予め定める値Δp1以上であるとき、ステップc7では、スミアが発生したものと判断する。
【0037】本発明の実施の他の形態では、スミアの発生を判断する判断動作4bにおいて、画面の一部分(たとえば図5の道路部分18)の垂直方向への濃度投影を求め、その投影値の一部が突出しているとき、スミアの発生であると判断する。
【0038】図4のステップb7では、画面が、霧、カメラ異常、フロントガラス10の汚れなどの認識不可能条件によってぼやけており、すなわちぼんやりしていることが判断される。
【0039】図11は画面がぼんやりしている状態を説明するための図であり、図12は同一被写体の画面が順光においてぼやけていない明瞭である状態を説明するための図である。図11(1)に示されるぼやけた画面の画面全体の垂直方向への濃度投影は図11(2)に示される。図12(1)の明瞭な画面の画面全体の垂直方向への濃度投影は図12(2)に示される。図11(2)は、画面の水平方向の各画素位置に対応するエッジ値の垂直方向の和を示し、このことは図12(2)においても同様である。画面がぼやけているかどうかの判断動作においては、エッジ抽出の手法が実行される。このエッジ値は、画像中で、輝度値が急激に変化する部分を取出した値であり、エッジ抽出を行うことによって、画像中の物体の輪郭線を抽出することができる。
【0040】図13は、エッジ値を抽出するための演算係数を示す図である。座標(i,j)のエッジ値をΔf(i,j)とし、濃度値をf(i,j)とすると、 Δf(i,j)=f(i−1,j−1)+2f(i−1,j)
+f(i−1,j+1)−f(i+1,j−1)
−2f(i+1,j)−f(i+1,j+1) …(1)
画面がぼやけているという判断動作5aでは、画面全体の図11(2)および図12(2)に示されるエッジ画像を求め、予め定める所定数以上のエッジ値が得られないとき、画面がぼやけているものと判断する。本発明の実施の他の形態では、画面がぼやけていると判断する判断動作5bにおいて、画面の一部分(たとえば図5の道路部分18)のエッジ画像を求め、所定数以上のエッジ値が得られないとき、画面がぼやけていると判断する。本発明の実施のさらに他の形態では、画面がぼやけていると判断する判断動作5cにおいて、常に輪郭線が得られる部分(たとえば図5の自車ボディ部19と道路との境目部分)のエッジ値を求め、所定数以上のエッジ値が得られないとき、画面がぼやけているものと判断する。
【0041】図14は、図4のステップb8において、カメラ1による画像が、雨などがフロントガラス10の外表面に付着するなどの認識不可能条件によって、にじんでいる状態を説明するための図である。図14(1)では、にじんでいる画像が示され、図14(2)では、図14(1)における画像の垂直方向へのエッジ投影を示す。画像がにじんでいる際、判断動作6aでは、認識した対象物体のエッジの長さおよび方向が不適切に歪んでいるとき、画像がにじんでいるものと判断する。エッジの長さは、図14(2)において予め定めるエッジ和が、予め定める値以上である長さL1が得られたとき、画像がにじんでいるものと判断してもよい。
【0042】図4のステップb9では、車両が移動しているのにもかかわらず、カメラ1によって撮像される画像が変化しない現象が生じたとき、カメラが故障などして異常であるなどの認識不可能条件を判断する判断動作7aが行われる。この判断動作7aでは、車体6の車輪速度を検出する検出手段からの出力が得られ、しかも順次的な複数画面の画像が変化していないとき、画像が変化なしと判断される。
【0043】本発明の実施の他の形態では、表2において、車両が移動しているのにもかかわらず画像が変化無と判断する判断動作7bにおいて、画像全体の前回の入力画像との差分を求め、所定数以上の差分値が得られないとき、画像が変化無と判断する。差分というのは、時間的に隣り合う2枚の画像の対応する各画素の輝度値の差を求めた値であり、画像に変化が無ければ、または少なければ、差分値は零または小さい値になる。こうして前入力画像と今回の現在の画像との対応する画素毎の輝度値の差を求めて、レベル弁別することによって、画像が変化無であるものと判断することができる。
【0044】本発明の実施のさらに他の形態では表2において、車両が移動しているのにもかかわらず、画像が変化無と判断する判断動作7cにおいて、画面の一部分(たとえば図5の道路部分18)の前入力画像と現在の入力画像との差分を上述のように求め、所定数以上の差分値が得られないとき、画像が変化無と判断する。
【0045】表2に示されるその他の画像の現象として、カメラの故障などに起因した異常である認識不可能条件を判断する判断動作8aでは、カメラ1から得られる画像信号中に含まれる水平または垂直の同期信号のレベルが異常であり、判断動作8bでは、その画像信号中の映像信号のレベルが異常であり、判断動作8cでは、画像信号中の同期信号の間隔すなわち周期が異常であるとき、カメラ異常である認識不可能条件が発生したものと判断する。画像信号とは、映像信号と水平、垂直の同期信号とを含む複合映像信号である。NTSC(National TelevisionStandard Comittee)方式の同期信号では、白レベルおよび同期信号の上部分と底との値が定められ、また垂直同期信号の間隔は16.7msecであり、水平同期信号の間隔は63.5μsecに定められている。
【0046】上述の表2の画像の現象1〜8が、図4のステップb3〜b10で検出されたとき、認識処理が不可能である条件を、図3のステップa9において報知手段12によって報知される。
【0047】図15は、本発明の実施の他の形態の全体の構成を示すブロック図である。この実施の形態は、前述の図1〜図14の実施の形態に類似し、対応する部分には同一の参照符を付す。この実施の形態では、前述の実施の形態における表2の画像の現象を判断して認識不可能条件を報知した後、すぐに画像認識不可能と判断するのではなく、カメラ1への入力画像を補正し、またはカメラからの画像データを補正し、これによって画像認識処理が可能である状態とする。図15においてフロントガラス10の外表面を払拭するワイパ11の駆動手段が、処理回路2によって制御される。カメラ1からの画像データのアナログ信号は、アナログ/デジタル変換器23においてデジタル信号に変換され、処理回路本体24において前述と同様な演算処理動作が行われる。カメラ1の受光量調節手段25は、処理手段2からの制御信号に応答し、カメラ1の絞りおよび/またはシャッタ速度を調整する。その他の構成と動作は、前述の実施の形態と同様である。
【0048】図16は、図15に示される実施の形態の処理回路本体24の動作を説明するためのフローチャートである。図16のステップd2,d4〜d8は、前述の実施の形態における図3のステップa2,a5〜a9と同様である。ステップd1からステップd2に移り、カメラ1の画像データがアナログ/デジタル(A/D)変換器23を経て処理回路本体24に与えられる。ステップd3では、認識不可判断を行い、認識不可の場合に入力画像データを補正する。その補正後に、認識処理を行い、画像認識可能状態とし、またこのような補正後においても認識処理が不可能であるとき、その認識処理が不可能な領域を、認識処理領域から除外してもよい。ステップd4では、得られた補正後の画像データを認識処理し、たとえば道路の前記白線などの物体の認識処理を行う。認識不可能条件が存在しないとき、ステップd2で与えられたカメラ1からの画像データが、ステップd4においてそのまま認識処理される。その他の動作は、前述の実施の形態と同様である。
【0049】図17は、図15および図16に示される実施の形態において、図16のステップd3のさらに具体的な動作を説明するためのフローチャートである。ステップe1〜e5では、表3に示される画像の現象および画像の認識処理不可能条件1〜4,6を、表2の判断動作によって実行する。これらの画像の現象と認識不可能条件1〜4,6は、表2に示される画像の現象および認識不可能条件の参照符と同様である。
【0050】
【表3】
【0051】図17のステップe1において画面が明る過ぎると判断されたときおよびステップe2において画面が暗過ぎると判断されたとき、ステップe6に移り、フラグaが論理「1」であるかが判断される。初期状態において、フラグaは論理「0」である。そこでステップe6からステップe7に移り、フラグaが論理「1」にされ、ステップe8では、カメラ1に備えられる絞りおよび/またはシャッタ速度が調整され、画像認識が可能な状態に調整される。その後再びステップe1,e2に戻る。絞りおよび/またはシャッタ速度が調整されたにもかかわらず、画像が明る過ぎたり、または画像が暗過ぎたりしたとき、再びe6に移り、フラグaが論理「1」であるので、次のステップe9では、画像の全体の認識処理領域から、認識不可能条件を有する領域を外す。ステップe10では、フラグaを論理「0」に戻す。こうして前述の図16におけるステップd4で、物体の認識処理を行う。
【0052】図17のステップe3において、画像のコントラストが低いと判断されたとき、ステップe11からステップe12に移り、フラグbが論理「1」とされ、次のステップe13では、処理手段2に備えられているアナログ/デジタル変換器23の感度を広げる。すなわちアナログ/デジタル変換器23において、隣接するデジタル信号が表す入力アナログ信号のレベルの差を大きくし、コントラストを高くするように調整される。ステップe13の次に、再びステップe1〜e3に戻り、ステップe11からステップe14に移る。画面が依然として低コントラストであるとき、ステップe14では、その認識不可能条件を有する領域を、画像全体の認識処理領域から外し、次のステップe15では、フラグbを論理「0」に戻す。こうして図16のステップd4において物体の認識処理を行う。
【0053】画像のスミアが発生したことが、ステップe4において判断されたとき、前述のステップe6に移る。ステップe4においてスミアの発生が検出されたとき、カメラ1に制御信号を送信し、スミアが発生しないようにレンズの絞りおよび/またはシャッタ速度を調整して変更する。この画像中にスミアが発生したとき、上述の調整動作によっては除外することができないとき、画像認識処理を行う際に、スミアが発生している領域を、認識処理領域から外す。これによってスミアが発生するときであっても、認識処理を行うことができる。
【0054】ステップe5においてフロントガラス10に雨滴が付着しているという認識不可能条件が判断されたとき、ステップe16からステップe17に移り、フラグcが論理「1」とされる。ステップe18では、ワイパ11が駆動され、フロントガラス10の外表面が払拭されて清浄化される。再びステップe5に戻り、ワイパ11が駆動されたにもかかわらず、雨滴が付着しているという認識不可能条件が判断されると、ステップe16からステップe19に移り、その認識不可能条件が存在する領域が、画像の全体の認識処理領域から外される。ステップe20では、フラグcが論理「0」に戻される。その後物体の認識処理が図16のステップd4において実行される。
【0055】図18は、本発明の実施のさらに他の形態の全体の構成を示すブロック図である。この実施の形態は前述の実施の形態に類似し、対応する部分には同一の参照符を付す。この実施の形態では、カメラ1の画像データを用いた認識処理不可能条件である周囲環境を判断するために、図18の参照符27〜34で示される各種のセンサを用いる。各センサによる認識不可能条件は表4に示されるとおりである。
【0056】
【表4】
【0057】図19は、図18に示される処理回路2の動作を説明するためのフローチャートである。この図19のステップf1においてワイパの動作を検出するセンサ27がワイパの動作が行われない状態であることを検出し、または車体6に設けられた雨滴センサ28が降雨状態を検出したとき、認識処理不可能条件を表す信号を導出する。
【0058】ステップf2において路面の摩擦係数μをμセンサ29によって検出し、その道路の摩擦係数μが、小さく、雨が降っている状態、雨上がりの状態または雪の状態である認識不可能条件を検出したとき、認識不可能条件を表す信号を導出する。これによって報知手段12は、たとえば「道路状態不良のため、道路の白線が検出不可」と表示して報知する。
【0059】ステップf3では、音センサ30を用い、車体6に衝突する雨滴の音を検出する。音センサ30によって雨滴の音が検出されるとき、認識不可能条件を表す信号を導出する。ステップf4では、車体6に設けられた高度計、湿度計、温度計を含むセンサ31によって検出される高度、湿度および温度から霧が発生していること、したがって認識処理が不可能である条件を表す信号を導出する。
【0060】ステップf8では、前述のステップf4において認識不可能条件である霧が発生していることが判断されたとき、ステップf8ではさらに、カメラ1からの画像データを演算処理し、前述の実施の形態と同様に認識処理が不可能である条件を検出して判断する。このステップf8において得られた画像データの演算処理による認識不可能条件が霧であることが判断され、したがってステップf4におけるセンサの出力によって検出された認識不可能条件である霧と一致したとき、その認識不可能条件を、ステップf9で報知手段12によって報知する。ステップf8における各検出された条件が一致しないときには、認識処理を行うために、次のステップf5に移る。
【0061】本発明の実施の他の形態では、ステップf8は省略され、ステップf4において認識不可能条件である霧が検出されたとき、認識処理を行わないようにして、ステップf9において報知を行うようにしてもよい。
【0062】ステップf5において照度計32によって、照度値が検出され、これによって認識不可能条件である逆光または真暗であることが検出されると、認識処理を行わず、この認識不可能条件である逆光または真暗であることが報知手段12によって報知される。照度計の代わりに、指向性が高い日射センサが用いられ、日射強度が検出されるようにしてもよい。この日射センサによって、逆光または真暗である認識不可能条件を検出することができる。
【0063】ステップf6では、時計の時刻と方位のセンサ33によって、太陽の方向を推測し、これによってカメラ1が逆光であることを判断したとき、この認識不可能条件を報知手段12によって報知し、認識処理を行わない。
【0064】ステップf7では、ナビゲーション装置(略称ナビ)が備えている車両の現在位置を検出するGPS(Gloval Positioning System)装置からの衛星受信状態をセンサ34によって検出し、受信できないとき、認識不可能条件であるトンネル内を走行中であることを報知手段12によって報知し、認識処理を行わない。このGPS装置は、図18において参照符34で示されている。こうしてナビゲーションシステムでは、車両を、予め入力した目的地に到達するための経路を2次元表示面で表示し、しかも現在の自車位置をその2次元表示面上に表示された地図に表示する。このようなナビゲーション装置におけるGPS装置の出力を用いて、画像認識不可能条件を判断するので、認識不可能条件の判断のための構成を簡略化することができる。ナビゲーション装置に代えて、その他の各種の装置の構成の一部を、認識不可能条件の検出のために兼用するようにしてもよい。
【0065】本発明の画像認識装置は、自動車などの車両に搭載されて実施されてもよいけれども、車両に搭載されずに、実施されてもよい。
【0066】
【発明の効果】請求項1の本発明によれば、認識処理手段によるカメラからの画像データの認識処理が不可能であるとき、その不可能である条件、すなわち原因を、条件検出手段によって検出して判断し、報知手段によって報知されるので、カメラへの入力画像が異常であったかまたは不適切であったかどうかを操作者は判断することができ、こうして画像認識装置の信頼性を確保することができる。
【0067】請求項2の本発明によれば、条件検出手段によって、認識処理が不可能である条件が検出されて判断されたとき、補正手段は、カメラへの入力画像を補正し、またはカメラから得られる画像データを補正し、これによって認識処理手段による対象物体の認識処理を可能にし、したがって対応環境とされる利用領域を拡大し、画像認識装置の性能を向上することができる。
【0068】請求項3の本発明によれば、認識処理手段による物体の認識処理が不可能であるかどうかを、周囲環境を検出するセンサからの出力に基づいて条件検出手段が判断するようにしたので、カメラからの画像データの演算処理による認識不可能かどうかの判断を行う必要がなく、演算処理を軽減することができ、条件検出手段による認識処理が不可能である条件の検出判断を迅速に行うことができる。
【0069】請求項4の本発明によれば、センサの出力によって検出された条件と、カメラからの画像データを演算処理することによって検出された認識処理手段の認識処理が不可能である条件とが、一致したとき、その一致した条件を報知手段によって出力するので、認識不可能の判断を高精度で行うことができ、画像認識装置の信頼性をさらに向上することができる。
【図面の簡単な説明】
【図1】本発明の実施の一形態の画像認識装置を備える運転支援、自動運転装置の全体の構成を示すブロック図である。
【図2】自動車の車体6の簡略化した側面図である。
【図3】処理手段2の動作を説明するためのフローチャートである。
【図4】は図1に示される処理手段2の動作の一部をさらに詳細に示すフローチャートである。
【図5】カメラ1によって撮像され報知手段12の2次元表示面に表示された画像16を示す正面図である。
【図6】カメラ1によって撮像された画像が明るすぎる状態を示す図である。
【図7】夜間、カメラ1によって撮像された画像が暗過ぎる状態を示すための図である。
【図8】画像が低コントラストであるときの状態を示す図である。
【図9】カメラ1によって撮像された画像にスミアが発生した状態を説明するための図である。
【図10】図4のステップb2においてスミアが発生している判断動作4aの具体的な動作を説明するための図である。
【図11】画面がぼんやりしている状態を説明するための図である。
【図12】同一被写体の画面が順光においてぼやけていない明瞭である状態を説明するための図である。
【図13】エッジ値を抽出するための演算係数を示す図である。
【図14】にじんでいる画像を説明するための図である。
【図15】本発明の実施の他の形態の全体の構成を示すブロック図である。
【図16】図15に示される実施の形態の処理回路本体24の動作を説明するためのフローチャートである。
【図17】図15および図16に示される実施の形態において、図16のステップd3のさらに具体的な動作を説明するためのフローチャートである。
【図18】本発明の実施のさらに他の形態の全体の構成を示すブロック図である。
【図19】図18に示される処理回路2の動作を説明するためのフローチャートである。
【図20】先行技術の動作を説明するためのフローチャートである。
【符号の説明】
1 カメラ
2 処理回路
3 制御回路
10 フロントガラス
11 ワイパ
12 報知手段
16 画像
23 アナログ/デジタル変換器
24 処理回路本体
25 受光量調節手段
32 照度計
33 方位センサ
【0001】
【発明の属する技術分野】本発明は、カメラによって撮像した画像データによって物体などの認識処理を行う画像認識装置に関し、特に自動車などの車両に搭載され、自動車の前方、側方または後方などに光軸が向けられて搭載された車載カメラからの画像データによって、たとえば道路に描かれた走行レーンを表す白線および他の車両の有無などを認識し、運転者に報知し、または車両の運転制御を行う運転支援、自動運転装置に好適に実施される画像認識装置に関する。
【0002】
【従来の技術】このような運転支援、自動運転装置用画像認識装置では、認識する対象物体であるたとえば道路の白線または先行車両を、カメラからの画像データによって画像認識することができない場合、画像認識不可能であると判断している。
【0003】図20は、上述の先行技術の動作を説明するためのフローチャートである。ステップg1からステップg2に移り、カメラからの画像データをコンピュータなどによって実現される処理手段に入力する。ステップg3では、この画像データを用いて、道路上に描かれた走行レーンを表示する白線などの物体を認識する認識処理を行う。ステップg4において認識処理が可能であるとき、ステップg5において白線の認識が可能であることを表す信号を導出し、ステップg7では、その信号を用いて、運転支援、自動運転などのための動作が実施される。ステップg6では、白線の認識処理が不可能であることを表す信号が導出され、これによって運転支援、自動運転の動作が停止される。
【0004】このような先行技術では、画像認識の処理が不可能である条件が、たとえば雨または雪などの周囲環境によるのか、またはカメラもしくはそのカメラからの画像データを認識処理する回路が故障して異常であるのかを判断することができない。したがって画像認識装置の信頼性が劣る結果になる。
【0005】また画像認識装置の認識性能を向上させ、すなわち適用範囲を拡大すると、物体の認識率は向上するけれども、これと同時に、誤認識も増加することがある。したがって操作者は、カメラからの画像データの認識処理を適切に行うことができるか、または認識処理が不可能であるかを知る必要が生じる。
【0006】特に前述の運転支援、自動運転装置では、カメラからの画像データの認識処理を適切に行うことができるかどうかを正確に判断することが、安全運転の観点から必要であり、さもなければ、運転支援、自動運転装置を使用することができなくなってしまう。
【0007】
【発明が解決しようとする課題】本発明の目的は、たとえば運転支援、自動運転装置などの用途において、カメラによって撮像して得られる画像データを用いて対象物体の認識処理を行うことができるかどうかを判断する画像認識装置を提供することである。
【0008】
【課題を解決するための手段】本発明は、カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段と、条件検出手段の出力に応答し、認識処理が可能であるとき、カメラからの画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置である。
【0009】本発明に従えば、条件検出手段によって、カメラからの画像データの認識処理を認識処理手段によって行うことができるかどうかを判断し、認識処理が不可能であるとき、その条件、すなわち原因を検出し、報知手段によって報知する。この報知手段は、液晶または陰極線管などの2次元表示面を有する目視表示手段であってもよく、または音声合成回路とスピーカとを有する音響表示手段であってもよく、その他の構成を有する報知手段であってもよい。したがってたとえば運転支援、自動運転装置用画像処理装置において、カメラによって撮像した先行車両を認識処理手段が認識処理することができない場合、先行車両がいないことによって認識できなかったのか、またはカメラからの画像データが異常でありもしくは動作が不適切であることによって認識できないのかを、操作者は、知ることができる。こうして画像認識装置の信頼性が確保される。
【0010】また本発明は、カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、カメラへの入力画像を補正し、またはカメラからの画像データを補正する補正手段と、入力画像が補正手段によって補正されたカメラからの画像データ、または補正手段によって補正された画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置である。
【0011】本発明に従えば、条件検出手段によって、カメラからの画像データを認識処理手段が認識処理することが不可能であると判断したとき、補正手段は、カメラへの入力画像を補正し、たとえば(a)カメラの絞りまたはシャッタ速度を適正値に変更して露光条件を補正し、または(b)自動車の車室内にカメラが搭載され、車両の前方を撮像する構成において、フロントガラスの外周面を払拭するワイパを自動的に作動させて正常な前方の状況をカメラによって撮像することができるように補正する。補正手段はまた、カメラからの画像データを補正するように構成されてもよく、たとえば(c)カメラからの画像データが、濃淡を表すアナログ信号である場合、条件検出手段によって画像データが低コントラストであることが判断されたとき、アナログ信号をデジタル信号に変換するアナログ/デジタル変換への感度を広げ、すなわちアナログ信号のわずかな差毎に、デジタル信号に変換するように構成し、こうしてカメラからの画像データを補正することができる。
【0012】こうして入力画像が補正されたカメラからの画像データを用いて、またはカメラからの画像データを補正することによって、認識処理手段は、その画像データの認識処理を行うことができる。こうして条件検出手段によって画像データの認識処理が不可能であると判断されたとき、補正手段の働きによって、対応環境とされる利用領域を拡大し、画像認識装置の性能を向上させることができる。
【0013】また本発明は、カメラと、カメラの周囲環境を検出するセンサと、カメラからの画像データの認識処理をする認識処理手段と、センサの出力に応答し、認識処理手段によって、カメラからの画像データの認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段とを含むことを特徴とする画像認識装置である。
【0014】本発明に従えば、センサによってカメラの周囲環境を検出し、このセンサによって検出された周囲環境が、認識処理手段によるカメラからの画像データの認識処理が不可能である条件であるかを、条件検出手段によって判断し、認識処理が不可能であるとき、報知手段によって認識処理が不可能である条件を検出して判断するために、カメラからの画像データを演算処理する必要がなく、センサの出力を用いるようにしたので、演算処理量を減少し、迅速な演算処理不可能条件の判断を行うことができる。
【0015】また本発明は、条件検出手段は、センサの出力によって検出された条件と、カメラからの画像データを演算処理することによって検出された条件とが、一致したとき、その条件を表す出力を報知手段に与えることを特徴とする。
【0016】本発明に従えば、認識処理手段による画像データの認識処理が不可能である条件を、センサの出力だけでなく、カメラからの画像データを演算処理することによってもまた検出する。こうして得られた認識処理不可能の条件が一致したとき、その認識処理不可能な条件を、報知手段によって報知するようにしたので、認識処理が不可能である条件の判断を高精度で達成することができるようになる。
【0017】
【発明の実施の形態】図1は、本発明の実施の一形態の画像認識装置を備える運転支援、自動運転装置の全体の構成を示すブロック図である。カメラ1からの画像データは、マイクロコンピュータによって実現される処理回路2に与えられ、これによって制御回路3は、自動車の車体を走行駆動する内燃機関4を制御するとともに、制動手段5を制御する。カメラ1によって、自車よりも走行方向前方を走行している先行車両を検出し、その先行車両と自車との間の距離を処理手段2によって測定し、この距離が予め定める値に保たれるように、制御回路3は、内燃機関4と制動手段5とを制御し、こうして先行車両が走行すると、自車も走行し、また先行車両が停止すると自車も停止するように、自動運転が行われる。さらに処理手段2では、カメラ1によって撮像された画像データを認識処理し、車両の前方の道路に描かれた走行レーンを表す白線を検出する。この検出された白線が、車両の左右に短い周期で変動したとき、運転者が居眠りをしているものと判断して、たとえばブザーなどの音響表示手段によって音響を発生し、居眠り運転を防止し、運転支援を行う。
【0018】図2は、自動車の車体6の簡略化した側面図である。運転者用座席7が設けられた車室8内には、車体6の背後である走行方向後方を見るためのルームミラーである反射鏡9が設けられ、この反射鏡9の走行方向前方(図2の左方)にはカメラ1が設けられる。さらにカメラ1の前方には、フロントガラス10が配置される。フロントガラス10の外表面は、ワイパ11によって払拭することができる。
【0019】図3は、処理手段2の動作を説明するためのフローチャートである。ステップa1からステップa2に移り、カメラ1によって撮像された車体6の走行方向前方の景色の画像データが処理回路2に入力される。ステップa3では、カメラ1からの画像データを演算処理し、道路に描かれた白線である物体の認識処理が不可能である条件を検出して判断する。ステップa4において白線である物体の認識処理が可能であるとき、ステップa5では、その物体の認識処理を行う。ステップa6では、物体の認識処理が行われ、その物体が認識されたかどうかが判断される。道路上の白線が検出されていれば、ステップa7では、その物体である白線が認識されたことを表す信号が導出される。これとは逆に、白線である物体が認識されなければ、車体6は、道路の走行レーンを外れて走行しているおそれがあり、このとき白線が認識されていないことを表す信号を、ステップa8において導出する。ステップa9では、白線が認識されているとき、車体6は走行レーンを走行しているものと判断することができ、このとき制御回路3によって、内燃機関4および制動手段5を制御して自動運転動作を行うとともに、居眠り防止のための運転支援動作を行う。白線がステップa8において認識されないとき、制御回路3による自動運転動作を停止する。
【0020】ステップa4においてステップa5における物体の認識処理が不可能である条件を検出したとき、ステップa9では、その認識処理が不可能である条件を、報知手段12によって報知する。報知手段12は、たとえば液晶または陰極線管などの2次元表示面に目視表示をする手段であってもよく、または音声合成回路とスピーカを備えた音響表示手段であってもよく、その他の報知を行う構成を有していてもよい。認識処理が不可能である条件というのは、たとえば表1に示される条件が挙げられる。
【0021】
【表1】
【0022】図4は、図1に示される処理手段2の動作の一部をさらに詳細に示すフローチャートである。図4のステップb2は、図3のステップa3と同一であって、認識処理が不可能であるかどうかの判断を行うステップである。図3のステップa4の具体的な動作は、図4のステップb3〜b10に示される。これらの各ステップb3〜b10の動作は、表2に示される画像の現象1〜8にそれぞれ対応する。
【0023】
【表2】
【0024】図5は、カメラ1によって撮像され報知手段12の2次元表示面に表示された画像16を示す正面図である。この2次元表示面16の画面全体17には、斜線を施して示す道路部分18と、車体6の前部である自車ボデー部19とが含まれる。
【0025】図4のステップb2では、上述の表2に示される判断動作が行われる。次のステップb3では、カメラ1によって撮像された画像が、逆光、雨上がりなどの認識不可能条件によって、画像が明る過ぎるかが判断される。この判断のために表2の判断動作1a〜1cが実行される。
【0026】図6は、判断動作1aを説明するための図である。図6(1)に示されるように画面全体の画像が逆光によって明る過ぎると判断する際、図6(2)に示される濃度ヒストグラムを求める。この濃度ヒストグラムは、横軸が階調1(黒)〜256(白)であり、縦軸は、その濃度を有する画素数である。画面の各画素毎に、8ビットから成る画像データが得られる。図6(2)の濃度ヒストグラムでは、輝度値すなわち濃度の分布の傾向が、ほとんど白であることが判る。このような濃度ヒストグラムにおいて、たとえば濃度201以上の画素数が予め定める値以上であるとき、画像が明る過ぎると判断することができる。
【0027】画面を構成する画素の輝度値すなわち濃度の階調というのは、画像のデータをデジタル値に変換したときの明るさ、すなわち濃淡度を示し、モノクロ画像の場合、1画素につき、8ビットの分解能0〜255の値によって輝度値が表される。濃度ヒストグラムは、画像の処理対象領域内の全画素を、各輝度値毎に分布状態を求めたグラフである。
【0028】本発明の実施の他の形態では、画像が明る過ぎることを判断する判断動作1bでは、画面の一部分(たとえば図5に示される道路部分18)の濃度ヒストグラムを求め、その輝度値の分布の傾向がほとんど白であるとき、画像が明る過ぎるものと判断する。本発明の実施のさらに他の形態では、判断動作1cにおいて、カメラ1の入力画像において、常に同じ状態の部分(たとえば図5の自車ボデー部19)の平均濃度を演算して求め、この濃度値が通常走行時の平均濃度と比べ、予め定める差以上の差があるとき、画像が明る過ぎると判断する。
【0029】図4のステップb4では、カメラ1によって撮像された画像が、認識不可能条件である夜間などによって、画像が暗過ぎるかが判断される。図7(1)は、夜間、カメラ1によって撮像された画像が暗過ぎる状態を示すための図である。図7(1)では、暗過ぎる画像を示し、図7(2)は、その図7(1)の画像の濃度ヒストグラムである。この画像が暗過ぎるための判断動作2aは、画面全体の濃度ヒストグラムを、図7(2)に示されるようにして求め、その輝度値の分布の傾向がほとんど黒であるとき、画像が暗過ぎるものと判断する。すなわち濃度ヒストグラムにおいて、たとえば濃度51未満における画素数が予め定める値以上であるとき、画像が暗過ぎるものと判断する。
【0030】本発明の実施の他の形態の判断動作2bでは、画面の一部分(たとえば図5の道路部分18)の濃度ヒストグラムを求め、その輝度値の分布の傾向がほとんど黒であるとき、画像が暗過ぎるものと判断する。
【0031】本発明の実施のさらに他の形態の判断動作2cでは、カメラ1の入力画像における常に同じ状態の部分(たとえば図5の自車ボデー部19)の平均濃度を求め、この濃度値が通常走行時の平均濃度と比べ、暗過ぎるとき、画像が暗過ぎるものと判断する。
【0032】図4のステップb5では、画像が、薄暮、霧などによって低コントラストであるかが判断される。図8は、画像が低コントラストであるときの状態を示す図である。図8(1)は低コントラストの画像を示し、図8(2)はその画像の濃度ヒストグラムを示す。画像が低コントラストであると判断する判断動作3aでは、画面全体の濃度ヒストグラムを求め、その輝度値の分布の傾向が、一部に集中しているとき、画面が低コントラストであるものと判断する。このために濃度ヒストグラムにおいて予め定める画素数以上を有する濃度の範囲が予め定める濃度値未満であるとき、低コントラストであるものと判断する。
【0033】本発明の実施の他の形態では、画面が低コントラストであると判断する判断動作3bにおいて、画面の一部分(たとえば図5の道路部分18)の濃度ヒストグラムを求め、その輝度値の分布の傾向が一部に集中するとき、低コントラストであるものと判断する。
【0034】ステップb6では、カメラ1によって撮像された画像にスミアが発生していることを判断し、このようなスミアの発生は、逆光などの認識不可能条件において発生する。スミアというのは、次の図9(1)に示されるように、カメラ1の外光の影響で画面に発生する縦縞模様をいう。
【0035】図9は、カメラ1によって撮像された画像にスミアが発生した状態を説明するための図である。図9(1)の画像では、スミアである縦縞模様20が表示されている。この画像の垂直方向への濃度投影は図9(2)に示される。図9(2)において横軸は、画面の水平方向の位置であり、縦軸は垂直方向の各画素の濃度の合計値である濃度和を表す。スミアの発生を判断する判断動作4aでは、画像全体の垂直方向への濃度投影を求め、その投影値の一部が参照符21で示されるように突出しているとき、スミアが発生しているものと判断する。
【0036】図10は、図4のステップb2においてスミアが発生している判断動作4aの具体的な動作を説明するための図である。ステップc1からステップc2に移り、図9(2)に示される画像全体の垂直方向への濃度投影において、水平方向(図9(2)の横方向)に各画素の位置毎に、まず、第1ピークp1が存在するかどうか、すなわち両側の濃度和よりも高い濃度和を有する位置であるかを判断する。次のステップc3では、その第1ピークp1の両側±Lの範囲を設定する。この±Lは、たとえば自己の画素の位置の両側に±10画素分の範囲である。ステップc4では、この範囲±Lにおける第1ピークp1よりも高い、または低い第2ピークp2を求める。ステップc5では、第1および第2ピークp1,p2の差ΔP(=│p1−p2│)を演算して求める。ステップc6では、差Δpが、予め定める値Δp1以上であるか(Δp≧Δp1)が判断される。差Δpが、予め定める値Δp1以上であるとき、ステップc7では、スミアが発生したものと判断する。
【0037】本発明の実施の他の形態では、スミアの発生を判断する判断動作4bにおいて、画面の一部分(たとえば図5の道路部分18)の垂直方向への濃度投影を求め、その投影値の一部が突出しているとき、スミアの発生であると判断する。
【0038】図4のステップb7では、画面が、霧、カメラ異常、フロントガラス10の汚れなどの認識不可能条件によってぼやけており、すなわちぼんやりしていることが判断される。
【0039】図11は画面がぼんやりしている状態を説明するための図であり、図12は同一被写体の画面が順光においてぼやけていない明瞭である状態を説明するための図である。図11(1)に示されるぼやけた画面の画面全体の垂直方向への濃度投影は図11(2)に示される。図12(1)の明瞭な画面の画面全体の垂直方向への濃度投影は図12(2)に示される。図11(2)は、画面の水平方向の各画素位置に対応するエッジ値の垂直方向の和を示し、このことは図12(2)においても同様である。画面がぼやけているかどうかの判断動作においては、エッジ抽出の手法が実行される。このエッジ値は、画像中で、輝度値が急激に変化する部分を取出した値であり、エッジ抽出を行うことによって、画像中の物体の輪郭線を抽出することができる。
【0040】図13は、エッジ値を抽出するための演算係数を示す図である。座標(i,j)のエッジ値をΔf(i,j)とし、濃度値をf(i,j)とすると、 Δf(i,j)=f(i−1,j−1)+2f(i−1,j)
+f(i−1,j+1)−f(i+1,j−1)
−2f(i+1,j)−f(i+1,j+1) …(1)
画面がぼやけているという判断動作5aでは、画面全体の図11(2)および図12(2)に示されるエッジ画像を求め、予め定める所定数以上のエッジ値が得られないとき、画面がぼやけているものと判断する。本発明の実施の他の形態では、画面がぼやけていると判断する判断動作5bにおいて、画面の一部分(たとえば図5の道路部分18)のエッジ画像を求め、所定数以上のエッジ値が得られないとき、画面がぼやけていると判断する。本発明の実施のさらに他の形態では、画面がぼやけていると判断する判断動作5cにおいて、常に輪郭線が得られる部分(たとえば図5の自車ボディ部19と道路との境目部分)のエッジ値を求め、所定数以上のエッジ値が得られないとき、画面がぼやけているものと判断する。
【0041】図14は、図4のステップb8において、カメラ1による画像が、雨などがフロントガラス10の外表面に付着するなどの認識不可能条件によって、にじんでいる状態を説明するための図である。図14(1)では、にじんでいる画像が示され、図14(2)では、図14(1)における画像の垂直方向へのエッジ投影を示す。画像がにじんでいる際、判断動作6aでは、認識した対象物体のエッジの長さおよび方向が不適切に歪んでいるとき、画像がにじんでいるものと判断する。エッジの長さは、図14(2)において予め定めるエッジ和が、予め定める値以上である長さL1が得られたとき、画像がにじんでいるものと判断してもよい。
【0042】図4のステップb9では、車両が移動しているのにもかかわらず、カメラ1によって撮像される画像が変化しない現象が生じたとき、カメラが故障などして異常であるなどの認識不可能条件を判断する判断動作7aが行われる。この判断動作7aでは、車体6の車輪速度を検出する検出手段からの出力が得られ、しかも順次的な複数画面の画像が変化していないとき、画像が変化なしと判断される。
【0043】本発明の実施の他の形態では、表2において、車両が移動しているのにもかかわらず画像が変化無と判断する判断動作7bにおいて、画像全体の前回の入力画像との差分を求め、所定数以上の差分値が得られないとき、画像が変化無と判断する。差分というのは、時間的に隣り合う2枚の画像の対応する各画素の輝度値の差を求めた値であり、画像に変化が無ければ、または少なければ、差分値は零または小さい値になる。こうして前入力画像と今回の現在の画像との対応する画素毎の輝度値の差を求めて、レベル弁別することによって、画像が変化無であるものと判断することができる。
【0044】本発明の実施のさらに他の形態では表2において、車両が移動しているのにもかかわらず、画像が変化無と判断する判断動作7cにおいて、画面の一部分(たとえば図5の道路部分18)の前入力画像と現在の入力画像との差分を上述のように求め、所定数以上の差分値が得られないとき、画像が変化無と判断する。
【0045】表2に示されるその他の画像の現象として、カメラの故障などに起因した異常である認識不可能条件を判断する判断動作8aでは、カメラ1から得られる画像信号中に含まれる水平または垂直の同期信号のレベルが異常であり、判断動作8bでは、その画像信号中の映像信号のレベルが異常であり、判断動作8cでは、画像信号中の同期信号の間隔すなわち周期が異常であるとき、カメラ異常である認識不可能条件が発生したものと判断する。画像信号とは、映像信号と水平、垂直の同期信号とを含む複合映像信号である。NTSC(National TelevisionStandard Comittee)方式の同期信号では、白レベルおよび同期信号の上部分と底との値が定められ、また垂直同期信号の間隔は16.7msecであり、水平同期信号の間隔は63.5μsecに定められている。
【0046】上述の表2の画像の現象1〜8が、図4のステップb3〜b10で検出されたとき、認識処理が不可能である条件を、図3のステップa9において報知手段12によって報知される。
【0047】図15は、本発明の実施の他の形態の全体の構成を示すブロック図である。この実施の形態は、前述の図1〜図14の実施の形態に類似し、対応する部分には同一の参照符を付す。この実施の形態では、前述の実施の形態における表2の画像の現象を判断して認識不可能条件を報知した後、すぐに画像認識不可能と判断するのではなく、カメラ1への入力画像を補正し、またはカメラからの画像データを補正し、これによって画像認識処理が可能である状態とする。図15においてフロントガラス10の外表面を払拭するワイパ11の駆動手段が、処理回路2によって制御される。カメラ1からの画像データのアナログ信号は、アナログ/デジタル変換器23においてデジタル信号に変換され、処理回路本体24において前述と同様な演算処理動作が行われる。カメラ1の受光量調節手段25は、処理手段2からの制御信号に応答し、カメラ1の絞りおよび/またはシャッタ速度を調整する。その他の構成と動作は、前述の実施の形態と同様である。
【0048】図16は、図15に示される実施の形態の処理回路本体24の動作を説明するためのフローチャートである。図16のステップd2,d4〜d8は、前述の実施の形態における図3のステップa2,a5〜a9と同様である。ステップd1からステップd2に移り、カメラ1の画像データがアナログ/デジタル(A/D)変換器23を経て処理回路本体24に与えられる。ステップd3では、認識不可判断を行い、認識不可の場合に入力画像データを補正する。その補正後に、認識処理を行い、画像認識可能状態とし、またこのような補正後においても認識処理が不可能であるとき、その認識処理が不可能な領域を、認識処理領域から除外してもよい。ステップd4では、得られた補正後の画像データを認識処理し、たとえば道路の前記白線などの物体の認識処理を行う。認識不可能条件が存在しないとき、ステップd2で与えられたカメラ1からの画像データが、ステップd4においてそのまま認識処理される。その他の動作は、前述の実施の形態と同様である。
【0049】図17は、図15および図16に示される実施の形態において、図16のステップd3のさらに具体的な動作を説明するためのフローチャートである。ステップe1〜e5では、表3に示される画像の現象および画像の認識処理不可能条件1〜4,6を、表2の判断動作によって実行する。これらの画像の現象と認識不可能条件1〜4,6は、表2に示される画像の現象および認識不可能条件の参照符と同様である。
【0050】
【表3】
【0051】図17のステップe1において画面が明る過ぎると判断されたときおよびステップe2において画面が暗過ぎると判断されたとき、ステップe6に移り、フラグaが論理「1」であるかが判断される。初期状態において、フラグaは論理「0」である。そこでステップe6からステップe7に移り、フラグaが論理「1」にされ、ステップe8では、カメラ1に備えられる絞りおよび/またはシャッタ速度が調整され、画像認識が可能な状態に調整される。その後再びステップe1,e2に戻る。絞りおよび/またはシャッタ速度が調整されたにもかかわらず、画像が明る過ぎたり、または画像が暗過ぎたりしたとき、再びe6に移り、フラグaが論理「1」であるので、次のステップe9では、画像の全体の認識処理領域から、認識不可能条件を有する領域を外す。ステップe10では、フラグaを論理「0」に戻す。こうして前述の図16におけるステップd4で、物体の認識処理を行う。
【0052】図17のステップe3において、画像のコントラストが低いと判断されたとき、ステップe11からステップe12に移り、フラグbが論理「1」とされ、次のステップe13では、処理手段2に備えられているアナログ/デジタル変換器23の感度を広げる。すなわちアナログ/デジタル変換器23において、隣接するデジタル信号が表す入力アナログ信号のレベルの差を大きくし、コントラストを高くするように調整される。ステップe13の次に、再びステップe1〜e3に戻り、ステップe11からステップe14に移る。画面が依然として低コントラストであるとき、ステップe14では、その認識不可能条件を有する領域を、画像全体の認識処理領域から外し、次のステップe15では、フラグbを論理「0」に戻す。こうして図16のステップd4において物体の認識処理を行う。
【0053】画像のスミアが発生したことが、ステップe4において判断されたとき、前述のステップe6に移る。ステップe4においてスミアの発生が検出されたとき、カメラ1に制御信号を送信し、スミアが発生しないようにレンズの絞りおよび/またはシャッタ速度を調整して変更する。この画像中にスミアが発生したとき、上述の調整動作によっては除外することができないとき、画像認識処理を行う際に、スミアが発生している領域を、認識処理領域から外す。これによってスミアが発生するときであっても、認識処理を行うことができる。
【0054】ステップe5においてフロントガラス10に雨滴が付着しているという認識不可能条件が判断されたとき、ステップe16からステップe17に移り、フラグcが論理「1」とされる。ステップe18では、ワイパ11が駆動され、フロントガラス10の外表面が払拭されて清浄化される。再びステップe5に戻り、ワイパ11が駆動されたにもかかわらず、雨滴が付着しているという認識不可能条件が判断されると、ステップe16からステップe19に移り、その認識不可能条件が存在する領域が、画像の全体の認識処理領域から外される。ステップe20では、フラグcが論理「0」に戻される。その後物体の認識処理が図16のステップd4において実行される。
【0055】図18は、本発明の実施のさらに他の形態の全体の構成を示すブロック図である。この実施の形態は前述の実施の形態に類似し、対応する部分には同一の参照符を付す。この実施の形態では、カメラ1の画像データを用いた認識処理不可能条件である周囲環境を判断するために、図18の参照符27〜34で示される各種のセンサを用いる。各センサによる認識不可能条件は表4に示されるとおりである。
【0056】
【表4】
【0057】図19は、図18に示される処理回路2の動作を説明するためのフローチャートである。この図19のステップf1においてワイパの動作を検出するセンサ27がワイパの動作が行われない状態であることを検出し、または車体6に設けられた雨滴センサ28が降雨状態を検出したとき、認識処理不可能条件を表す信号を導出する。
【0058】ステップf2において路面の摩擦係数μをμセンサ29によって検出し、その道路の摩擦係数μが、小さく、雨が降っている状態、雨上がりの状態または雪の状態である認識不可能条件を検出したとき、認識不可能条件を表す信号を導出する。これによって報知手段12は、たとえば「道路状態不良のため、道路の白線が検出不可」と表示して報知する。
【0059】ステップf3では、音センサ30を用い、車体6に衝突する雨滴の音を検出する。音センサ30によって雨滴の音が検出されるとき、認識不可能条件を表す信号を導出する。ステップf4では、車体6に設けられた高度計、湿度計、温度計を含むセンサ31によって検出される高度、湿度および温度から霧が発生していること、したがって認識処理が不可能である条件を表す信号を導出する。
【0060】ステップf8では、前述のステップf4において認識不可能条件である霧が発生していることが判断されたとき、ステップf8ではさらに、カメラ1からの画像データを演算処理し、前述の実施の形態と同様に認識処理が不可能である条件を検出して判断する。このステップf8において得られた画像データの演算処理による認識不可能条件が霧であることが判断され、したがってステップf4におけるセンサの出力によって検出された認識不可能条件である霧と一致したとき、その認識不可能条件を、ステップf9で報知手段12によって報知する。ステップf8における各検出された条件が一致しないときには、認識処理を行うために、次のステップf5に移る。
【0061】本発明の実施の他の形態では、ステップf8は省略され、ステップf4において認識不可能条件である霧が検出されたとき、認識処理を行わないようにして、ステップf9において報知を行うようにしてもよい。
【0062】ステップf5において照度計32によって、照度値が検出され、これによって認識不可能条件である逆光または真暗であることが検出されると、認識処理を行わず、この認識不可能条件である逆光または真暗であることが報知手段12によって報知される。照度計の代わりに、指向性が高い日射センサが用いられ、日射強度が検出されるようにしてもよい。この日射センサによって、逆光または真暗である認識不可能条件を検出することができる。
【0063】ステップf6では、時計の時刻と方位のセンサ33によって、太陽の方向を推測し、これによってカメラ1が逆光であることを判断したとき、この認識不可能条件を報知手段12によって報知し、認識処理を行わない。
【0064】ステップf7では、ナビゲーション装置(略称ナビ)が備えている車両の現在位置を検出するGPS(Gloval Positioning System)装置からの衛星受信状態をセンサ34によって検出し、受信できないとき、認識不可能条件であるトンネル内を走行中であることを報知手段12によって報知し、認識処理を行わない。このGPS装置は、図18において参照符34で示されている。こうしてナビゲーションシステムでは、車両を、予め入力した目的地に到達するための経路を2次元表示面で表示し、しかも現在の自車位置をその2次元表示面上に表示された地図に表示する。このようなナビゲーション装置におけるGPS装置の出力を用いて、画像認識不可能条件を判断するので、認識不可能条件の判断のための構成を簡略化することができる。ナビゲーション装置に代えて、その他の各種の装置の構成の一部を、認識不可能条件の検出のために兼用するようにしてもよい。
【0065】本発明の画像認識装置は、自動車などの車両に搭載されて実施されてもよいけれども、車両に搭載されずに、実施されてもよい。
【0066】
【発明の効果】請求項1の本発明によれば、認識処理手段によるカメラからの画像データの認識処理が不可能であるとき、その不可能である条件、すなわち原因を、条件検出手段によって検出して判断し、報知手段によって報知されるので、カメラへの入力画像が異常であったかまたは不適切であったかどうかを操作者は判断することができ、こうして画像認識装置の信頼性を確保することができる。
【0067】請求項2の本発明によれば、条件検出手段によって、認識処理が不可能である条件が検出されて判断されたとき、補正手段は、カメラへの入力画像を補正し、またはカメラから得られる画像データを補正し、これによって認識処理手段による対象物体の認識処理を可能にし、したがって対応環境とされる利用領域を拡大し、画像認識装置の性能を向上することができる。
【0068】請求項3の本発明によれば、認識処理手段による物体の認識処理が不可能であるかどうかを、周囲環境を検出するセンサからの出力に基づいて条件検出手段が判断するようにしたので、カメラからの画像データの演算処理による認識不可能かどうかの判断を行う必要がなく、演算処理を軽減することができ、条件検出手段による認識処理が不可能である条件の検出判断を迅速に行うことができる。
【0069】請求項4の本発明によれば、センサの出力によって検出された条件と、カメラからの画像データを演算処理することによって検出された認識処理手段の認識処理が不可能である条件とが、一致したとき、その一致した条件を報知手段によって出力するので、認識不可能の判断を高精度で行うことができ、画像認識装置の信頼性をさらに向上することができる。
【図面の簡単な説明】
【図1】本発明の実施の一形態の画像認識装置を備える運転支援、自動運転装置の全体の構成を示すブロック図である。
【図2】自動車の車体6の簡略化した側面図である。
【図3】処理手段2の動作を説明するためのフローチャートである。
【図4】は図1に示される処理手段2の動作の一部をさらに詳細に示すフローチャートである。
【図5】カメラ1によって撮像され報知手段12の2次元表示面に表示された画像16を示す正面図である。
【図6】カメラ1によって撮像された画像が明るすぎる状態を示す図である。
【図7】夜間、カメラ1によって撮像された画像が暗過ぎる状態を示すための図である。
【図8】画像が低コントラストであるときの状態を示す図である。
【図9】カメラ1によって撮像された画像にスミアが発生した状態を説明するための図である。
【図10】図4のステップb2においてスミアが発生している判断動作4aの具体的な動作を説明するための図である。
【図11】画面がぼんやりしている状態を説明するための図である。
【図12】同一被写体の画面が順光においてぼやけていない明瞭である状態を説明するための図である。
【図13】エッジ値を抽出するための演算係数を示す図である。
【図14】にじんでいる画像を説明するための図である。
【図15】本発明の実施の他の形態の全体の構成を示すブロック図である。
【図16】図15に示される実施の形態の処理回路本体24の動作を説明するためのフローチャートである。
【図17】図15および図16に示される実施の形態において、図16のステップd3のさらに具体的な動作を説明するためのフローチャートである。
【図18】本発明の実施のさらに他の形態の全体の構成を示すブロック図である。
【図19】図18に示される処理回路2の動作を説明するためのフローチャートである。
【図20】先行技術の動作を説明するためのフローチャートである。
【符号の説明】
1 カメラ
2 処理回路
3 制御回路
10 フロントガラス
11 ワイパ
12 報知手段
16 画像
23 アナログ/デジタル変換器
24 処理回路本体
25 受光量調節手段
32 照度計
33 方位センサ
【特許請求の範囲】
【請求項1】 カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段と、条件検出手段の出力に応答し、認識処理が可能であるとき、カメラからの画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置。
【請求項2】 カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、カメラへの入力画像を補正し、またはカメラからの画像データを補正する補正手段と、入力画像が補正手段によって補正されたカメラからの画像データ、または補正手段によって補正された画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置。
【請求項3】 カメラと、カメラの周囲環境を検出するセンサと、カメラからの画像データの認識処理をする認識処理手段と、センサの出力に応答し、認識処理手段によって、カメラからの画像データの認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段とを含むことを特徴とする画像認識装置。
【請求項4】 条件検出手段は、センサの出力によって検出された条件と、カメラからの画像データを演算処理することによって検出された条件とが、一致したとき、その条件を表す出力を報知手段に与えることを特徴とする請求項3記載の画像認識装置。
【請求項1】 カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段と、条件検出手段の出力に応答し、認識処理が可能であるとき、カメラからの画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置。
【請求項2】 カメラと、カメラからの画像データを演算処理し、認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、カメラへの入力画像を補正し、またはカメラからの画像データを補正する補正手段と、入力画像が補正手段によって補正されたカメラからの画像データ、または補正手段によって補正された画像データの認識処理をする認識処理手段とを含むことを特徴とする画像認識装置。
【請求項3】 カメラと、カメラの周囲環境を検出するセンサと、カメラからの画像データの認識処理をする認識処理手段と、センサの出力に応答し、認識処理手段によって、カメラからの画像データの認識処理が不可能である条件を検出する条件検出手段と、条件検出手段の出力に応答し、認識処理が不可能である条件を報知する報知手段とを含むことを特徴とする画像認識装置。
【請求項4】 条件検出手段は、センサの出力によって検出された条件と、カメラからの画像データを演算処理することによって検出された条件とが、一致したとき、その条件を表す出力を報知手段に与えることを特徴とする請求項3記載の画像認識装置。
【図1】
【図2】
【図3】
【図4】
【図13】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図15】
【図12】
【図14】
【図16】
【図18】
【図17】
【図19】
【図20】
【図2】
【図3】
【図4】
【図13】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図15】
【図12】
【図14】
【図16】
【図18】
【図17】
【図19】
【図20】
【公開番号】特開2000−207563(P2000−207563A)
【公開日】平成12年7月28日(2000.7.28)
【国際特許分類】
【出願番号】特願平11−12333
【出願日】平成11年1月20日(1999.1.20)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
【公開日】平成12年7月28日(2000.7.28)
【国際特許分類】
【出願日】平成11年1月20日(1999.1.20)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
[ Back to top ]