車載撮像表示装置
【課題】運転者がスイッチ操作などを行うことなく、車輌に搭載された撮像手段により撮像された画像を、車内に設けられた表示手段に自動的に切り替えて表示することができる車載撮像表示装置を提供する。
【解決手段】サイドカメラ5が撮像した画像から画像処理部31が直線成分を検出する。CPU35は、車速センサ81による車輌の速度が所定速度を超えず、画像処理部31にて検出された直線成分の長さが所定長を超え、且つ、直線成分の角度が所定角範囲内である場合に、サイドカメラ5が撮像した画像を表示すると判断し、画像処理部31を制御してディスプレイ2に画像を表示させる。
【解決手段】サイドカメラ5が撮像した画像から画像処理部31が直線成分を検出する。CPU35は、車速センサ81による車輌の速度が所定速度を超えず、画像処理部31にて検出された直線成分の長さが所定長を超え、且つ、直線成分の角度が所定角範囲内である場合に、サイドカメラ5が撮像した画像を表示すると判断し、画像処理部31を制御してディスプレイ2に画像を表示させる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車輌に一又は複数のカメラ(撮像手段)を搭載して車輌の外界を撮像し、撮像により取得した画像を車内に設けられたディスプレイ(表示手段)に表示する車載撮像表示装置に関する。
【背景技術】
【0002】
従来、車輌の前側、後側又は左右側等にカメラを搭載して車輌の外界を撮像し、取得した画像を車輌内の運転席近傍に配設されたディスプレイに表示することによって、運転者へ種々の情報を提供し、運転者の運転を支援する車載撮像表示装置が実用化されている。例えば、車輌が幅の狭い道路を走行する場合、見通しの悪い交差点を走行する場合、又は駐車場に車輌を駐車する場合等に、車輌の運転席から死角となる部分をカメラで撮像してディスプレイに表示することができるため、事故を未然に防ぐことが可能となる。
【0003】
例えば、車輌の後部にカメラを搭載することによって、車輌の後退又は車庫入れ等を行う場合に、運転者が直接的に視認できない車輌の後方の路面などをディスプレイに表示することができる。また例えば、右ハンドルの車輌にて左側のサイドミラーにカメラを搭載することによって、車輌が幅の狭い道路を走行する場合、更には幅の狭い道路で対向車とすれ違う場合などに、車輌の左下方の路面などをディスプレイに表示することができる。これらにより、路面に存在する障害物又は身長の低い子供等を運転者がディスプレイにて視認することができ、車輌との接触を回避することができる。
【0004】
また、特許文献1においては、車輌の後方を撮像するカメラを搭載し、後方の映像から縦列駐車する場所の路側を検出して、撮像した画像にガイド線を重畳してディスプレイに表示することにより、安定して同じ位置に縦列駐車を行うことができる運転支援装置が提案されている。
【特許文献1】特開2006−176041号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、車輌内に配設されたディスプレイは、車輌の外界を撮像して表示する場合にのみに用いられるわけではなく、例えばカーナビゲーション装置が現在位置及び案内経路等を運転者に通知するための地図画像などを表示する場合に用いられ、また、車輌に搭載されたチューナにより受信したテレビ番組を表示する場合に用いられるなど、多種の目的に利用されることが多い。よって、ディスプレイに表示する画像を切り替える必要が生じるが、従来の装置では、運転者がスイッチ又はボタン等を操作して直接的に画像を切り替えるか、又は車速及びシフトレバー等の状態を基に自動的に切り替えるかしていた。
【0006】
例えば、車輌の後部に搭載されたカメラが撮像する画像を表示するか否かは、シフトレバーが「R(リバース)」状態であるか否か、即ち車輌が後退中又は後退可能な状態であるか否かに応じて判断することができるため、車載撮像表示装置はシフトレバーの状態に応じて自動的にディスプレイの表示を切り替えることができる。しかしながら、車輌のサイドミラーなどに搭載されて車輌の側方を撮像するカメラの場合、車輌が前進する場合であっても視認を行う必要が生じるため、シフトレバーの状態に応じて自動的にディスプレイに画像を表示することができない。このため、従来の車載撮像表示装置では、運転者が運転席近傍に配設されたスイッチなどを操作し、ディスプレイの表示を手動で切り替えて車輌の側方の画像を表示させる必要があり、操作が煩わしいという問題があった。
【0007】
特許文献1に記載の運転支援装置は、車輌に搭載されたカメラが撮像した画像にガイド線を重畳して表示することを目的とするものであり、ディスプレイに表示する画像を自動的に切り替える技術ではないため、上述の問題を解決し得るものではない。
【0008】
本発明は、斯かる事情に鑑みてなされたものであって、その目的とするところは、車輌に搭載された撮像手段が撮像して取得した画像から直線成分を検出し、この直線成分が所定長を超え、且つ直線成分の車輌に対する角度が所定角範囲内の場合に、撮像手段が撮像して取得した画像を表示手段に表示する構成とすることにより、車輌の周辺に存在する側溝又は建物等の直線成分を検出して自動的に表示手段が表示する画像を切り替えることができる車載撮像表示装置を提供することにある。
【0009】
また本発明の他の目的とするところは、車輌に搭載された撮像手段が車輌の右方又は左方の外界を撮像する構成とすることにより、車輌が幅の狭い道路を走行し、運転者から死角となる車輌の右方又は左方に側溝又は建物等が存在する場合などに、これらの画像を自動的に表示することができる車載撮像表示装置を提供することにある。
【0010】
また本発明の他の目的とするところは、車輌に搭載された撮像手段が車輌の右方又は左方の外界を撮像し、撮像して取得した画像から直線成分を検出し、この直線成分が所定長を超え、且つ直線成分の車輌に対する角度が所定角範囲内の場合に、車輌の右方又は左方の外界を撮像した画像を表示手段に表示する構成とすることにより、車輌の右方又は左方に存在する側溝又は建物等の直線成分を検出して自動的に表示手段が表示する画像を切り替えることができる車載撮像表示装置を提供することにある。
【0011】
また本発明の他の目的とするところは、撮像手段が撮像して取得した画像の歪を補正してエッジ成分を抽出し、エッジ成分を基に直線成分の検出を行う構成とすることにより、少ない処理量で精度よく直線成分の検出を行うことができる車載撮像表示装置を提供することにある。
【0012】
また本発明の他の目的とするところは、画像から抽出したエッジ成分に含まれる複数の点の座標をそれぞれハフ変換して複数のハフ曲線を取得し、複数のハフ曲線の交点を抽出することで直線成分を検出する構成とすることにより、直線成分を精度よく検出することができる車載撮像表示装置を提供することにある。
【0013】
また本発明の他の目的とするところは、画像中に複数の直線成分が含まれる場合に、ハフ変換によるハフ曲線の複数の交点のうち、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出して、長さ及び角度の判定を行う構成とすることにより、画像を表示するか否かの判定を容易に行うことができる車載撮像表示装置を提供することにある。
【0014】
また本発明の他の目的とするところは、車輌の車速を検出し、車速が所定速度を超えない場合に撮像手段が撮像した画像を表示手段に表示する構成とすることにより、高速走行中などの撮像手段による画像を表示する必要がない状況においては、カーナビゲーション装置の案内画像などの他の画像を表示することができる車載撮像表示装置を提供することにある。
【課題を解決するための手段】
【0015】
第1発明に係る車載撮像表示装置は、車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させる表示制御手段とを備えることを特徴とする。
【0016】
本発明においては、撮像手段が撮像した車輌の外界の画像から直線成分を検出する。撮像手段が撮像した画像を表示する必要があるのは、車輌が道路の端に接近した場合であり、道路の端には側溝又は建物等が存在するため、これらの存在を表示切替の判定基準とすることができる。車輌の周辺に側溝又は建物等が存在する場合、撮像手段により側溝又は建物等が撮像され、撮像により取得する画像中には側溝又は建物等が有する直線成分が含まれる。よって、画像から直線成分が検出された場合には、画像中に側溝又は建物等が写されており、車輌の周辺に側溝又は建物等が存在する可能性がある。車輌の周辺に存在する側溝又は建物等の長さは、車輌の長さより十分に長く、撮像手段の撮像範囲より十分に長い場合が多いため、検出された直線成分の長さを判定することによって、画像中に側溝又は建物等が写されているか否かを判定することができる。また、表示手段に表示して運転者が視認する必要がある側溝又は建物等は、車輌の車体の前後方向(走行方向又は道路の方向等であってもよい)に対して略平行に設けられたものである場合が多いため、画像から検出された直線成分の角度を判定することによって、表示手段に表示する必要があるか否かを判定することができる。よって、これらの条件に応じて撮像された画像を表示するか否かを判定することによって、表示手段に表示する画像を自動的に切り替えることが可能となる。
【0017】
また、第2発明に係る車載撮像表示装置は、前記撮像手段が、前記車輌から右方又は左方の外界を撮像するようにしてあることを特徴とする。
【0018】
本発明においては、撮像手段により車輌の右方又は左方の外界を撮像する。例えば、撮像手段を車輌のサイドミラーに搭載することで右方又は左方の外界を撮像することができる。特に、車輌の運転席が設けられた側の反対側については、路面の状況などを運転者が直接的に視認することが困難であるため、撮像した画像を車内の表示手段に表示することが運転の支援に効果的である。幅の狭い道路を走行するときに車輌が側溝又は建物等に接近し、撮像手段により側溝又は建物等が撮像された場合に、撮像された側溝又は建物等を表示手段に自動的に表示して運転者に視認させることができる。
【0019】
また、第3発明に係る車載撮像表示装置は、車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、前記車輌から右方又は左方の外界を撮像する撮像手段と、前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記車輌の右方又は左方の外界を撮像した画像を前記表示手段に表示させる表示制御手段とを備えることを特徴とする。
【0020】
本発明においては、撮像手段により車輌の右方又は左方の外界を撮像して、撮像した車輌の外界の画像から直線成分を検出する。直線成分が検出された場合には、検出された直線成分の長さ及び角度を判定することによって、表示手段に表示する必要があるか否かを判定する。判定の結果、車輌の右方又は左方に側溝又は建物等が存在するなどの要因で表示の必要ありと判定された場合には、直線成分が検出された車輌の右方又は左方を撮像して画像を表示する。このとき、側溝又は建物等の直線成分を検出した撮像手段と、表示手段に表示する画像を撮像する撮像手段とは、同じであってもよく、異なるものであってもよい。例えば、車輌の前部に搭載された撮像手段により検出を行うと共に、車輌の左側部に搭載された撮像手段が撮像した画像を表示する構成とすることができる。
【0021】
また、第4発明に係る車載撮像表示装置は、前記撮像手段が撮像して取得した画像の歪みを補正する歪補正手段と、該歪補正手段が補正した画像からエッジ成分を抽出するエッジ抽出手段とを備え、前記直線検出手段は、前記エッジ抽出手段が抽出したエッジ成分を基に、前記直線成分の検出を行うようにしてあることを特徴とする。
【0022】
本発明においては、車輌に搭載される撮像手段には、広範囲を撮像するために広角レンズ又は魚眼レンズ等が用いられ、撮像された画像は端部が若干歪んだ画像となることが多いため、この歪みを補正する。更に、歪補正を行った画像からエッジ成分の抽出を行う。エッジ成分の抽出は、ソーベルフィルタなどを用いた画像処理により行うことができ、又は、画像中の隣接する画素の画素値を比較し、画素値の差が所定値以上の画素を抽出することで行うことができる。直線成分の検出をエッジ成分に対してのみ行うことにより、検出のための処理量を低減することができる。
【0023】
また、第5発明に係る車載撮像表示装置は、前記直線検出手段が、前記エッジ成分に含まれる複数の点の座標をそれぞれハフ変換して複数のハフ曲線を取得し、前記複数のハフ曲線の交点を抽出することによって、前記直線成分を検出するようにしてあることを特徴とする。
【0024】
本発明においては、上述のエッジ成分をハフ変換することにより直線成分の検出を行う。詳しくは、エッジ成分に含まれる複数の点(画素)の座標をそれぞれハフ変換して複数のハフ曲線とし、複数のハフ曲線の交点を抽出する。この交点が元の画像での直線成分に相当するものであり、交点で交わるハフ曲線の数から直線の長さを判断することができ、交点の座標から直線成分の角度を判断することができるため、直線成分の検出及び判定を容易に且つ高精度に行うことができる。
【0025】
また、第6発明に係る車載撮像表示装置は、前記直線検出手段が、前記撮像手段が撮像して取得した画像に複数の直線成分が含まれる場合に、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出するようにしてあることを特徴とする。
【0026】
本発明においては、画像中に複数の直線成分が含まれる場合には、ハフ変換によるハフ曲線の交点が複数存在する。よって、各交点にて交わるハフ曲線の数を調べ、最多のハフ曲線が交わる一つの交点を抽出して、この交点に対応する直線成分を検出結果とする。直線成分が複数含まれる場合であっても、側溝又は建物等に含まれる可能性が最も高い一の直線成分についてのみ長さ及び角度の判定が行われるため、判定処理を容易化できる。
【0027】
また、第7発明に係る車載撮像表示装置は、前記車輌の車速を検出する車速検出手段を備え、前記表示制御手段は、前記車速検出手段が検出した車速が所定速度を超えない場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させるようにしてあることを特徴とする。
【0028】
本発明においては、車輌の車速を検出し、車速が所定速度を超えない場合にのみ、上述の判定に基づいて撮像手段が撮像した画像を表示手段に表示する。車輌が幅の狭い道路を走行して左方又は右方の側溝又は建物等に接近する場合には、車輌はある程度低速で走行していると考えられる。また、高速走行中に運転者が車内のディスプレイなどの表示手段を見て運転を行うことは危険である。よって、例えば時速30km/hなどの所定速度を超えない場合にのみ、撮像手段が撮像した車輌の外界の画像を表示することにより、車載撮像表示装置の不要な処理を低減できると共に、高速走行時の運転を妨げとなることを防止できる。
【発明の効果】
【0029】
第1発明による場合は、車輌に搭載された撮像手段が撮像した画像から直線成分を検出し、検出した直線成分が所定長を超え、且つ直線成分の角度が所定角範囲内の場合に、撮像した画像を表示手段に表示する構成とすることにより、表示手段に表示する画像を自動的に切り替えて、直線成分を有する車輌の周辺の側溝又は建物等を表示手段に表示することができる。よって、運転者はスイッチ操作などにより表示手段に表示される画像の切り替えを行う必要がないため、車載撮像表示装置の利便性を向上することができる。また、車輌の周辺に側溝又は建物等が存在する場合に、車載撮像表示装置が自動的にこれらを表示手段に表示し、車輌が道路の端に接近している旨を運転者に警告することができるため、車輌の走行の安全性を高めることができる。
【0030】
また、第2発明による場合は、撮像手段が車輌の右方又は左方の外界を撮像する構成とすることにより、運転者から死角となる車輌の右方又は左方の路面の状況などを運転者が視認することができるため、車輌が幅の狭い道路を走行する場合などに走行の安全性を高めることができる。
【0031】
また、第3発明による場合は、撮像手段が撮像して取得した車輌の右方又は左方の画像から直線成分を検出し、検出した直線成分が所定長を超え、且つ直線成分の角度が所定角範囲内の場合に、車輌の右方又は左方の画像を表示手段に表示する構成とすることにより、表示手段に表示する画像を自動的に切り替えて、直線成分を有する車輌の周辺の側溝又は建物等を表示手段に表示することができる。よって、車載撮像表示装置の利便性を向上することができると共に、車輌が道路の右端又は左端等に接近している旨を運転者に警告することができるため、車輌の走行の安全性を高めることができる。
【0032】
また、第4発明による場合は、撮像した画像の歪みを補正してエッジ成分を抽出し、エッジ成分を基に直線成分の検出を行う構成とすることにより、直線成分の検出をエッジ成分に対してのみ行うことができ、検出のための処理量を低減することができるため、車載撮像表示装置が精度よく高速に直線成分の検出処理を行うことができる。
【0033】
また、第5発明による場合は、画像から抽出したエッジ成分をハフ変換して直線成分の検出を行う構成とすることにより、直線成分の検出及び判定を容易に且つ高精度に行うことができるため、車載撮像表示装置による表示画像の自動的な切り替え機能の信頼性を高めることができる。
【0034】
また、第6発明による場合は、ハフ変換によるハフ曲線の複数の交点のうち、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出して、長さ及び角度の判定を行う構成とすることにより、画像中に複数の直線成分が含まれる場合であっても、側溝又は建物等に含まれる可能性が最も高い一の直線成分についてのみ判定処理を行うため、判定のための処理量を低減することができ、車載撮像表示装置が精度よく高速に表示切替の判定処理を行うことができる。
【0035】
また、第7発明による場合は、車輌の車速が所定速度を超えない場合に撮像手段が撮像した画像を表示手段に表示する構成とすることにより、高速走行中などの撮像手段による画像を表示する必要がない状況において、車載撮像表示装置の不要な処理を低減できると共に、高速走行時の運転を妨げとなることを防止できるため、車載撮像表示装置により車輌の走行の安全性を確実に高めることができる。
【発明を実施するための最良の形態】
【0036】
以下、本発明をその実施の形態を示す図面に基づき具体的に説明する。図1は、本発明に係る車載撮像表示装置の構成を示す模式図である。図において1は車輌であり、図示は省略するが運転席が車輌1の右側に設けられた所謂右ハンドル車である。車輌1の左側のサイドミラーにはサイドカメラ5が搭載してあり、車輌1の後部のバンパー近傍などにはバックカメラ6が搭載してある。サイドカメラ5は車輌1の左方の路面を前方から後方へ約180°の範囲に亘って撮像するようにしてあり、バックカメラ6は車輌1の後方の路面を左右に約180°に亘って撮像するようにしてある。車載撮像表示装置がサイドカメラ5及びバックカメラ6が撮像して取得した画像を車輌1の運転席近傍に配設されたディスプレイ2(図2にて図示する)に表示することによって、運転者は死角となる車輌1の周辺を間接的に目視して運転を行うことができる。
【0037】
図2は、本発明に係る車載撮像表示装置の構成を示すブロック図である。車輌1に搭載される車載撮像表示装置は、上述のサイドカメラ5及びバックカメラ6と、これらのカメラにより撮像された画像又はカーナビゲーション装置9の案内図画像等の表示を行うディスプレイ2と、このディスプレイ2に表示する画像を選択して切り替える処理を主として行うECU(Electronic Control Unit)3と、車輌1の走行に係る情報を取得してECU3へ与える走行情報取得部8とを備えている。これらの各構成要素は車輌1の適宜の位置に配設されて、適宜に接続ケーブル又は通信ケーブル等により接続してあり、データ又は信号の授受を行うことができるようにしてある。
【0038】
サイドカメラ5及びバックカメラ6は、CCD(Charge Coupled Device)などによる撮像素子と、この撮像素子へ光を集光する一又は複数のレンズとをそれぞれ有しており、レンズが集光した光を撮像素子が検知することによって、1秒間に30回程度の頻度で撮像を行う装置である。サイドカメラ5及びバックカメラ6のレンズには広角レンズ又は魚眼レンズ等の画角が広いレンズが用いられており、車輌1の水平方向に約180°の範囲で撮像を行うことができる。サイドカメラ5及びバックカメラ6はECU3にそれぞれ接続してあり、撮像により取得した画像をECU3へそれぞれ与えるようにしてある。
【0039】
ECU3は、サイドカメラ5及びバックカメラ6から与えられた画像に種々の画像処理を行う画像処理部31を有している。画像処理部31が行う画像処理は、例えば歪補正、視点変換、拡大/縮小、一部の切り出し及び他の画像の重畳等の処理である。また、画像処理部31にはカーナビゲーション装置9からの画像が与えられており、サイドカメラ5、バックカメラ6及びカーナビゲーション装置9からそれぞれ与えられる複数の画像からいずれか1つを選択して出力するようにしてある。画像処理部31には、車輌1の運転席近傍に配設された液晶などによるディスプレイ2が接続してあり、出力した画像をディスプレイ2へ与えて表示をさせることができるようにしてある。
【0040】
また、ECU3は、サイドカメラ5、バックカメラ6及びカーナビゲーション装置9から与えられた画像又は画像処理部31が画像処理を行った画像等を一時的に蓄積するための画像メモリ32と、歪補正又は視点変換等の画像処理を行う際に用いる各種のテーブルが記憶されたテーブル用メモリ33とを有しており、画像メモリ32及びテーブル用メモリ33は画像処理部31にそれぞれ接続され、画像処理部31との間でデータの授受を行うようにしてある。画像メモリ32は、SRAM(Static Random Access Memory)又はDRAM(Dynamic Random Access Memory)等の書き換え可能な大容量のメモリ素子により構成してあり、テーブル用メモリ33は、マスクROM(Read Only Memory)又はEEPROM(Electrically Erasable Programmable ROM)等の不揮発性のメモリ素子により構成してある。
【0041】
サイドカメラ5及びバックカメラ6は広角レンズ又は魚眼レンズ等のレンズにより撮像を行うため、撮像により得られる画像は中央から端部へ向けて徐々に湾曲した歪みを有する画像である。画像処理部31はサイドカメラ5及びバックカメラ6から与えられた画像の歪みを補正する処理を行うことができ、この補正処理を行う場合にはテーブル用メモリ33に予め記憶してある補正テーブルを用いるようにしてある。歪補正処理は、与えられた画像の各画素を予め定められた位置へ移動させることで行うことができ、補正テーブルには画像の各画素と画素の移動先とが対応付けて記憶してある。画像処理部31は、テーブル用メモリ33から補正テーブルを読み出して、撮像部5から与えられた画像の各画素を補正テーブルにて定められた位置に移動させることにより歪補正処理を行うようにしてある。
【0042】
また、ECU3には、車輌1の走行に係る情報を取得する走行情報取得部8から、取得した走行情報が与えられている。走行情報取得部8では、車輌1の走行速度を検知する車速センサ81から車速を取得し、車輌1のシフトレバー82の状態を取得するようにしてある。更に、図示は省略するが、車輌1のサイドブレーキ及びフットブレーキの状態を取得し、舵角センサにより車輌1のハンドルの舵角を取得し、加速度センサにより車輌1の加速度を取得し、ヘッドライトの点灯状態を取得し、ワイパーの動作状態を取得する等、種々の情報を取得することができる。
【0043】
ECU3は、走行情報取得部8から与えられる情報を基にECU3内の各部の動作を制御するCPU35を備えており、CPU35にはROM34及びRAM36が接続してある。ROM34は、CPU35にて実行される種々のプログラム及びデータ等が予め記憶してあり、マスクROM又はEEPROM等の不揮発性メモリ素子により構成してある。RAM36は、CPU35が制御処理及び演算処理等を行う際に生じる一時的なデータを記憶するものであり、SRAM又はDRAM等の書き換え可能なメモリ素子により構成してある。CPU35は、ROM34から制御プログラムを読み出して実行することによって、走行情報取得部8から与えられた走行情報を基にECU3内の各部の動作を制御し、ディスプレイ2に表示する画像を選択し、画像処理部31に適切な画像の加工処理を行わせるなど、ディスプレイ2の表示に係る種々の処理を行うようにしてある。
【0044】
本発明に係る車載撮像表示装置は、車輌1が後退する場合には、バックカメラ6が撮像する車輌1の後方の画像をディスプレイ2に表示するようにしてある。また、車輌1が後退せずに停車又は通常走行している場合には、カーナビゲーション装置9による案内画像をディスプレイ2に表示するようにしてあるが、車輌1が道路の端に接近し、サイドカメラ5に道路の側溝又は建物等が撮像された場合には、ディスプレイ2の表示を切り替えてサイドカメラ5が撮像した画像を表示するようにしてある。これらの車載撮像表示装置によるディスプレイ2の表示切替はECU3にて自動的に行われるものである。ただし、車輌1が高速走行(例えば、時速30km/h以上)している場合には、車載撮像表示装置は表示切替を行わず、カーナビゲーション装置9の案内画像をディスプレイ2に表示するようにしてある。
【0045】
ECU3は、バックカメラ6が撮像した画像をディスプレイ2に表示するか否かを、走行情報取得部8から与えられるシフトレバー82の状態に基づいて判定するようにしてある。シフトレバー82の状態に係る情報が与えられたCPU35は、シフトレバー82の状態が「R」であるか否かを判定するようにしてある。シフトレバー82の状態が「R」の場合、CPU35は画像処理装置31にバックカメラ6からの画像をディスプレイ2に出力させて、ディスプレイ2にバックカメラ6が撮像した画像を表示させるようにしてある。シフトレバー82の状態が「R」でない場合、CPU35はサイドカメラ5が撮像した画像又はカーナビゲーション装置9の案内画像をディスプレイ2に表示するように画像処理部31の制御を行うようにしてある。
【0046】
また、ECU3は、サイドカメラ5が撮像した画像をディスプレイ2に表示するか否かを、走行情報取得部8からの車速センサ81による車輌1の車速と、サイドカメラ5が撮像した画像とを基に判定するようにしてある。車速センサ81が検知する車輌1の車速が与えられたCPU35は、車速が所定速度(例えば時速30km/h)を超えるか否かを調べて、車速が所定速度を超える場合にはディスプレイ2にてカーナビゲーション装置9の案内画像の表示のみを行うように画像処理部31の制御を行うようにしてある。車速が所定速度を超えない場合には、CPU35は画像処理部31にてサイドカメラ5が撮像した画像から直線成分の検出処理を行わせると共に、検出した直線成分の長さ及び角度等を調べることによって、サイドカメラ5が撮像した画像を表示するか否かを判定するようにしてある。
【0047】
図3乃至図5は、本発明に係る車載撮像表示装置によるサイドカメラ5が撮像した画像を表示するか否かを判定する方法を説明するための模式図である。図3(a)にはサイドカメラ5が撮像した画像の一例が示してある。上述のように、サイドカメラ5は広角レンズ又は魚眼レンズ等のレンズにより撮像を行うカメラであるため、撮像により取得できる画像は中央部から端部へ向けて若干の歪みを有する画像である。画像処理部31は、サイドカメラ5が撮像した画像から図中の矩形枠で示す判定領域101の画像を抽出して、歪補正を行うようにしてある。判定領域101は、車輌1の種類及びサイドカメラ5の搭載場所等により予め決定される領域であり、例えば車輌1の車体側面から約1mの範囲の路面が撮像される範囲などとすることができる。また、比較のために、図5(f)にもサイドカメラ5が撮像した画像の一例を示してあるが、図3(a)は判定領域101内に直線成分が存在する場合であり、図5(f)は直線成分が存在しない場合である。
【0048】
画像処理部31は、テーブル用メモリ33に記憶された補正テーブルを利用して、判定領域101の各画素を補正テーブルにより定められる位置へ移動させると共に、移動後の画素間のデータを線形補間などにより補間することによって、歪補正処理を行うようにしてある。図3(b)には、歪補正処理が施された判定領域101の画像が示してある。歪補正後の画像には直線が歪むことなく写されている。
【0049】
次いで、画像処理部31は、歪補正後の画像のエッジ抽出を行うようにしてある。エッジ抽出は、例えば隣接する画素の画素値の差が閾値を超える場合にその画素をエッジ成分として抽出することができ、また、例えばソーベルフィルタなどのフィルタ処理を行って、処理結果を2値化することで行うことができる。図4(c)にはソーベルフィルタを利用したエッジ抽出処理が施された画像が示してあり、抽出されたエッジ成分を黒色で示してある。
【0050】
次いで、画像処理部31は、エッジ抽出処理が施された画像をハフ変換するようにしてある。ハフ変換は、画像の各点(x、y)をx−y平面からρ−θ平面上でのρ=xcosθ+ysinθというハフ曲線に変換する処理である。画像処理部31は、エッジ抽出処理が施された画像の各エッジ成分についてハフ変換を行ってρ−θ平面のデータ(図4(d))を取得し、ρ−θ平面上でハフ曲線が最も多く交わる一の交点(ρ、θ)を抽出する。この交点がx−y平面での直線成分に相当するため、ρ−θ平面での交点を抽出する処理はx−y平面での直線成分を検出する処理に相当する。図4(e)には、抽出した交点を逆ハフ変換した場合の直線成分102を元の画像(図4(c)の画像)に重ねて示してある。ただし、画像処理部31は逆ハフ変換を行う必要はない。また、抽出した交点で交わるハフ曲線の数は、この交点に対応するx−y平面での直線成分の長さに比例するため、ハフ曲線が最も多く交わる一の交点を抽出する処理は、最も長い直線成分を抽出することに相当する。
【0051】
次いで、画像処理部31は、抽出した一の交点で交わるハフ曲線の数が予め定められた数を超えるかを判定すると共に、抽出した交点の座標θの値が所定範囲内であるかを判定するようにしてある。換言すれば、画像処理部31は、抽出した交点に対応する元の画像での直線成分の長さが所定長を超えるか否かを判定すると共に、元の画像中での直線成分の角度が所定角範囲内であるか否かを判定するようにしてある。
【0052】
判定の基準をなす所定長及び所定角範囲は予め定められた固定値である。車輌1の左側に存在する側溝又は建物等は、車輌1の長さより十分に長く、サイドカメラ5の撮像範囲と同じ程度か又は撮像範囲に収まらないほどに長い場合が多い。よって、所定長は、例えば撮像された画像の縦(y方向)の長さの80%程度の長さ以上と予め定めることができる。この所定長の直線成分をハフ変換した場合のハフ曲線の交わる数は予め算出することができるため、画像処理部31はこの数を記憶して判定に用いるようにしてある。
【0053】
また、車輌1の左側に側溝又は建物等が存在する場合、これらの直線成分は車輌1(車輌1の車体側面又は進行方向等)に対して略平行である場合が多く、少なくとも車輌1に対して所定角範囲内に収まると考えられる。よって、所定角範囲は、例えば車輌1に対して±30°の範囲内などと定めることができる。もちろん、これらの値は一例であって、これに限るものではない。
【0054】
画像処理部31は、この2つの判定結果をCPU35に通知するようにしてある。CPU35は、サイドカメラ5にて撮像された画像中に直線成分が存在し、この直線成分の長さが所定長を超えると共に、画像中での直線成分の角度が所定角範囲内である場合に、サイドカメラ5にて撮像された画像をディスプレイ2に表示させると判断し、画像処理部31に表示指示を与えるようにしてある。
【0055】
図6及び図7は、本発明に係る車載撮像表示装置による表示例を示す模式図である。なお、図6においては走行中の車輌1とこの左側に存在する側溝110との位置関係を示してあり、図7においてはディスプレイ2に表示される画像の例を示してある。図6(A)の位置関係の場合に表示される画像が図7(A)であり、図6(B)の位置関係の場合に表示される画像が図7(B)である。また、車輌1は例えば時速20km/hで走行しているものとする。
【0056】
車輌1が側溝110から離れた位置を走行中であり、サイドカメラ5にて側溝110が撮像されない場合(図6(A)参照)、車載撮像表示装置のECU3では画像処理部31にて直線成分が検出されないため、CPU35がカーナビゲーション装置9から与えられる案内画像をディスプレイ2に表示するように画像処理部31を制御するようにしてある(図7(A)参照)。また、車輌1が側溝110の近辺を走行中であり、サイドカメラ5にて側溝110が撮像される場合(図6(B)参照)、ECU3では画像処理部31にて直線成分が検出される。検出された直線成分の長さが所定長を超え、且つ、角度が所定角範囲内の場合には、CPU35はサイドカメラ5にて撮像された画像をディスプレイ2に表示するように画像処理部31を制御するようにしてある(図7(B)参照)。なお、この場合において画像処理部31は、ディスプレイ2にサイドカメラ5が撮像した画像を表示するのみでなく、ディスプレイ2に表示している画像がサイドカメラ5が撮像した画像であることを運転者に通知するためのアイコン120を、サイドカメラ5が撮像した画像と並べて表示してもよい。
【0057】
図8及び図9は、本発明に係る車載撮像表示装置が行う表示切替処理の手順を示すフローチャートであり、ECU3のCPU35にて表示切替処理用のプログラムを実行することにより行われる処理である。図1において図示は省略するが、車輌周辺認識装置は運転者の操作を受け付けるためのスイッチ又はボタン等が配された操作部を備えており、運転者が操作部を操作することによって、車載撮像表示装置によるサイドカメラ5の画像を表示する機能をオフにする指示を与えることができるようにしてある。この操作部に対する運転者の操作内容はECU3のCPU35に与えられている。車載撮像表示装置が表示切替処理を行う場合、まず、CPU35は運転者が操作部を操作することによってサイドカメラ5の画像の表示をオフにする指示が与えられたか否かを調べる(ステップS1)。
【0058】
サイドカメラ5が撮像した画像の表示をオフにする指示が与えられた場合には(S1:YES)、CPU35は表示切替処理を終了する。表示をオフにする指示が与えられていない場合(S1:NO)、CPU35は走行情報取得部8からシフトレバー82の状態を取得して、車輌1のシフトレバー82の状態が「R」であるか否かを調べる(ステップS2)。シフトレバー82の状態が「R」の場合(S2:YES)、CPU35は画像処理部31を制御してバックカメラ6が撮像した画像をディスプレイ2に表示し(ステップS3)、ステップS1へ戻る。
【0059】
シフトレバー82の状態が「R」でない場合(S2:NO)、CPU35は走行情報取得部8から車速センサ81による車輌1の車速を取得して、車速が30km/h未満であるか否かを調べる(ステップS4)。車速が30km/h以上の場合(S4:NO)、CPU35は画像処理部31を制御してカーナビゲーション装置9からの案内画像をディスプレイ2に表示し(ステップS5)、ステップS1へ戻る。
【0060】
車輌1の車速が30km/h未満の場合(S4:YES)、CPU35は画像処理部31にて、サイドカメラ5が撮像した画像を取得し(ステップS6)、取得した画像から判定領域101の画像を抽出する(ステップS7)。次いで、CPU35は画像処理部31にて、抽出した判定領域101の画像の歪補正処理を行い(ステップS8)、歪補正を行った画像からエッジ抽出処理を行う(ステップS9)。次いで、CPU35は画像処理部31にて、抽出した各エッジ成分についてハフ変換を行って(ステップS10)、ハフ曲線を取得し、ρ−θ平面上でハフ曲線が最も多く交わる一の交点を抽出する(ステップS11)。この抽出処理がx−y平面での直線成分の検出処理に相当する。
【0061】
一の交点を抽出した後、CPU35は画像処理部31にて、この交点で交わるハフ曲線の数が所定数を超えるか否かを調べ(ステップS12)、所定数を超える場合には(S12:YES)、更にこの交点のρ−θ平面での座標θが所定角範囲内であるか否かを調べる(ステップS13)。座標θが所定角範囲内の場合(S13:YES)、CPU35は画像処理部31を制御してサイドカメラ5が撮像した画像をディスプレイ2に表示し(ステップS14)、ステップS1へ戻る。また、ステップS12にて交点で交わるハフ曲線の数が所定数を超えない場合(S12:NO)、又はステップS13にて交点の座標θが所定角範囲内でない場合(S13:NO)、CPU35は画像処理部31を制御してカーナビゲーション装置9からの案内画像をディスプレイ2に表示し(ステップS15)、ステップS1へ戻る。その後、CPU35は、運転者が操作部を操作することにより表示オフの指示が与えられるまで表示切替処理を継続して行うようにしてある。
【0062】
以上の構成の車載撮像表示装置においては、サイドカメラ5が撮像した画像から画像処理部31が直線成分を検出し、検出した直線成分が所定長を超え、且つ画像中での角度が所定角度範囲内の場合に、CPU35が画像処理部31を制御して、サイドカメラ5が撮像した画像をディスプレイ2に表示する構成とすることにより、車輌1が道路の端に接近し、サイドカメラ5に側溝又は建物等が撮像された場合に、ディスプレイ2の表示をカーナビゲーション装置9の画像からサイドカメラ5が撮像した画像へ自動的に切り替えることができる。よって、運転者はサイドカメラ5の画像をディスプレイ2に表示させるためにスイッチ操作などを行う必要がないため、車載撮像表示装置の利便性を向上することができる。また、車輌1の周辺に側溝又は建物等が存在する場合に、これらをディスプレイ2に自動的に表示することができるため、車輌1が道路の端に接近している旨を運転者に警告することができ、車輌1の走行の安全性を高めることができる。
【0063】
また、サイドカメラ5が撮像した画像を画像処理部31が歪補正してエッジ成分を抽出し、抽出したエッジ成分をハフ変換することによって直線成分の検出を行う構成とすることにより、直線成分の検出を容易に且つ高精度に行うことができる。また、エッジ成分のハフ変換によるハフ曲線が最も多く交わる一の交点を抽出する構成とすることにより、画像中の長さが最も長い直線成分を容易に検出することができる。また、この交点にて交わるハフ曲線の数が所定数を超えるか否かにより、直線成分の長さが所定長を超えるか否かを判定すると共に、この交点のρ−θ平面での座標θが所定各範囲内であるか否かを判定する構成とすることにより、サイドカメラ5が撮像した画像をディスプレイ2に表示するか否かの判定を容易且つ精度よく行うことができる。また、車輌情報取得部8により車速センサ81が検知する車速及びシフトレバー82の状態等を取得し、取得した情報を基にサイドカメラ5、バックカメラ6又はカーナビゲーション装置9の画像を切り替えてディスプレイ2に表示する構成とすることにより、車輌1に搭載された多くの装置からの画像を車輌1の走行状態及び周囲の状態等に応じて適切なタイミングで切り替えて表示することができる。
【0064】
なお、本実施の形態においては、車輌1にバックカメラ6を搭載する構成としたが、これに限るものではなく、バックカメラ6を搭載しない構成であってもよい。また、車輌1にフロントカメラ又は右側のサイドカメラ等の他のカメラを更に搭載する構成としてもよい。また、車輌1にカーナビゲーション装置9を搭載する構成としたが、これに限るものではなく、カーナビゲーション装置9を搭載しない構成としてもよい。また、オーディオ装置又はテレビジョン装置等の他の装置を車輌1に搭載し、これらの他の装置からの画像を自動的に切り替えてディスプレイ2に表示する構成としてもよい。
【0065】
また、走行情報取得部8にて取得する車速センサ81の車速に応じて、ECU3がディスプレイ2に表示する画像をサイドカメラ5の画像又はカーナビゲーション装置9の画像に切り替える構成としたが、これに限るものではなく、ECU3が車輌1の車速に応じた切り替えを行わない構成としてもよい。また、サイドカメラ5が撮像した画像を画像処理部31が歪補正する構成としたが、これに限るものではなく、サイドカメラ5が広角レンズ又は魚眼レンズ等による撮像を行うものでない場合には、歪補正を行わない構成としてもよい。また、歪補正に代えて、サイドカメラ5が撮像した画像の視点を変更するトップビュー変換を行う構成としてもよい。また、サイドカメラ5が撮像した画像のうち判定領域101内のみ直線成分の検出処理などを行う構成としたが、これに限るものではなく、サイドカメラ5が撮像した画像全体について処理を行う構成としてもよい。
【0066】
(変形例)
上述の車載撮像表示装置は、サイドカメラ5が撮像して取得した画像から直線成分の検出を行ってディスプレイ2に表示するか否かを判定する構成であるが、これに限るものではなく、以下の変形例に示すように、直線成分の検出及び判定等を行うカメラと、ディスプレイ2に表示する画像を撮像するカメラとが別のカメラであってもよい。図10は、本発明の変形例に係る車載撮像表示装置の構成を示す模式図である。変形例の車載撮像表示装置は、車輌1の左側のサイドミラーに搭載されたサイドカメラ5と、車輌1の後部に搭載されたバックカメラ6とを備えると共に、更に車輌1の前部に搭載されたフロントカメラ201と、車輌1の右側のサイドミラーに搭載されたサイドカメラ202とを備えている。フロントカメラ201は、車輌1の前方の路面を左右に約180°に亘って撮像するようにしてある。また、右側のサイドカメラ202は、車輌1の右方の路面を前方から後方へ約180°の範囲に亘って撮像するようにしてある。
【0067】
変形例に係る車載撮像表示装置では、車輌1の前部に搭載されたフロントカメラ201が撮像した画像を用いて、車輌1の左方又は右方に存在する側溝又は建物等の直線成分の検出を行うようにしてある。また、図10には破線でフロントカメラ201の撮像範囲201aが示してあるが、直線成分の検出はこの撮像範囲201aの全てについて行うのではなく、図10のハッチングを付した検出領域201bについてのみ行うようにしてある。検出領域201bは、フロントカメラ201の撮像範囲201aの左右両側の領域であり、車輌1が直進した場合に車輌1の右方及び左方に相当する領域である。
【0068】
よって、フロントカメラ201が撮像した画像を取得したECU3では、この画像から撮像範囲201aに相当する部分を抽出し、抽出した画像から直線成分の検出と、検出した直線成分の長さ及び角度の判定とを行うようにしてある。左側の検出領域201bにて直線成分が検出されて長さ及び角度の条件を満たす場合には、ECU3は左側のサイドカメラ5が撮像した画像をディスプレイ2に表示するようにしてある。このとき、ECU3は、フロントカメラ201が撮像した画像を共にディスプレイ2に表示してもよい。同様に、右側の検出領域201bにて直線成分が検出されて長さ及び角度の条件を満たす場合には、ECU3は右側のサイドカメラ202が撮像した画像をディスプレイ2に表示するようにしてある。
【0069】
以上の変形例に示す車載撮像表示装置は、フロントカメラ201にて直線成分の検出を行う構成であるため、サイドカメラ5又は202にて直線成分を検出する構成と比較して、車輌が直進している場合においては、より早く直線成分の検出を行うことができるという利点がある。なお、フロントカメラ201のみでなく、サイドカメラ5及び202についても直線成分の検出を行う構成とし、いずれかのカメラにて直線成分が検出されて長さ及び角度の条件を満たす場合に、ディスプレイ2の表示を変更する構成としてもよい。バックカメラ6についてもフロントカメラ201と同様に直線成分の検出に利用する構成としてもよい。
【図面の簡単な説明】
【0070】
【図1】本発明に係る車載撮像表示装置の構成を示す模式図である。
【図2】本発明に係る車載撮像表示装置の構成を示すブロック図である。
【図3】本発明に係る車載撮像表示装置によるサイドカメラが撮像した画像を表示するか否かを判定する方法を説明するための模式図である。
【図4】本発明に係る車載撮像表示装置によるサイドカメラが撮像した画像を表示するか否かを判定する方法を説明するための模式図である。
【図5】本発明に係る車載撮像表示装置によるサイドカメラが撮像した画像を表示するか否かを判定する方法を説明するための模式図である。
【図6】本発明に係る車載撮像表示装置による表示例を示す模式図である。
【図7】本発明に係る車載撮像表示装置による表示例を示す模式図である。
【図8】本発明に係る車載撮像表示装置が行う表示切替処理の手順を示すフローチャートである。
【図9】本発明に係る車載撮像表示装置が行う表示切替処理の手順を示すフローチャートである。
【図10】本発明の変形例に係る車載撮像表示装置の構成を示す模式図である。
【符号の説明】
【0071】
1 車輌
2 ディスプレイ(表示手段)
3 ECU
5 サイドカメラ(撮像手段)
6 バックカメラ
8 走行情報取得部
9 カーナビゲーション装置
31 画像処理部(直線検出手段、判定手段、歪補正手段、エッジ検出手段)
32 画像メモリ
33 テーブル用メモリ
34 ROM
35 CPU(表示制御手段)
36 RAM
81 車速センサ(車速検出手段)
82 シフトレバー
【技術分野】
【0001】
本発明は、車輌に一又は複数のカメラ(撮像手段)を搭載して車輌の外界を撮像し、撮像により取得した画像を車内に設けられたディスプレイ(表示手段)に表示する車載撮像表示装置に関する。
【背景技術】
【0002】
従来、車輌の前側、後側又は左右側等にカメラを搭載して車輌の外界を撮像し、取得した画像を車輌内の運転席近傍に配設されたディスプレイに表示することによって、運転者へ種々の情報を提供し、運転者の運転を支援する車載撮像表示装置が実用化されている。例えば、車輌が幅の狭い道路を走行する場合、見通しの悪い交差点を走行する場合、又は駐車場に車輌を駐車する場合等に、車輌の運転席から死角となる部分をカメラで撮像してディスプレイに表示することができるため、事故を未然に防ぐことが可能となる。
【0003】
例えば、車輌の後部にカメラを搭載することによって、車輌の後退又は車庫入れ等を行う場合に、運転者が直接的に視認できない車輌の後方の路面などをディスプレイに表示することができる。また例えば、右ハンドルの車輌にて左側のサイドミラーにカメラを搭載することによって、車輌が幅の狭い道路を走行する場合、更には幅の狭い道路で対向車とすれ違う場合などに、車輌の左下方の路面などをディスプレイに表示することができる。これらにより、路面に存在する障害物又は身長の低い子供等を運転者がディスプレイにて視認することができ、車輌との接触を回避することができる。
【0004】
また、特許文献1においては、車輌の後方を撮像するカメラを搭載し、後方の映像から縦列駐車する場所の路側を検出して、撮像した画像にガイド線を重畳してディスプレイに表示することにより、安定して同じ位置に縦列駐車を行うことができる運転支援装置が提案されている。
【特許文献1】特開2006−176041号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、車輌内に配設されたディスプレイは、車輌の外界を撮像して表示する場合にのみに用いられるわけではなく、例えばカーナビゲーション装置が現在位置及び案内経路等を運転者に通知するための地図画像などを表示する場合に用いられ、また、車輌に搭載されたチューナにより受信したテレビ番組を表示する場合に用いられるなど、多種の目的に利用されることが多い。よって、ディスプレイに表示する画像を切り替える必要が生じるが、従来の装置では、運転者がスイッチ又はボタン等を操作して直接的に画像を切り替えるか、又は車速及びシフトレバー等の状態を基に自動的に切り替えるかしていた。
【0006】
例えば、車輌の後部に搭載されたカメラが撮像する画像を表示するか否かは、シフトレバーが「R(リバース)」状態であるか否か、即ち車輌が後退中又は後退可能な状態であるか否かに応じて判断することができるため、車載撮像表示装置はシフトレバーの状態に応じて自動的にディスプレイの表示を切り替えることができる。しかしながら、車輌のサイドミラーなどに搭載されて車輌の側方を撮像するカメラの場合、車輌が前進する場合であっても視認を行う必要が生じるため、シフトレバーの状態に応じて自動的にディスプレイに画像を表示することができない。このため、従来の車載撮像表示装置では、運転者が運転席近傍に配設されたスイッチなどを操作し、ディスプレイの表示を手動で切り替えて車輌の側方の画像を表示させる必要があり、操作が煩わしいという問題があった。
【0007】
特許文献1に記載の運転支援装置は、車輌に搭載されたカメラが撮像した画像にガイド線を重畳して表示することを目的とするものであり、ディスプレイに表示する画像を自動的に切り替える技術ではないため、上述の問題を解決し得るものではない。
【0008】
本発明は、斯かる事情に鑑みてなされたものであって、その目的とするところは、車輌に搭載された撮像手段が撮像して取得した画像から直線成分を検出し、この直線成分が所定長を超え、且つ直線成分の車輌に対する角度が所定角範囲内の場合に、撮像手段が撮像して取得した画像を表示手段に表示する構成とすることにより、車輌の周辺に存在する側溝又は建物等の直線成分を検出して自動的に表示手段が表示する画像を切り替えることができる車載撮像表示装置を提供することにある。
【0009】
また本発明の他の目的とするところは、車輌に搭載された撮像手段が車輌の右方又は左方の外界を撮像する構成とすることにより、車輌が幅の狭い道路を走行し、運転者から死角となる車輌の右方又は左方に側溝又は建物等が存在する場合などに、これらの画像を自動的に表示することができる車載撮像表示装置を提供することにある。
【0010】
また本発明の他の目的とするところは、車輌に搭載された撮像手段が車輌の右方又は左方の外界を撮像し、撮像して取得した画像から直線成分を検出し、この直線成分が所定長を超え、且つ直線成分の車輌に対する角度が所定角範囲内の場合に、車輌の右方又は左方の外界を撮像した画像を表示手段に表示する構成とすることにより、車輌の右方又は左方に存在する側溝又は建物等の直線成分を検出して自動的に表示手段が表示する画像を切り替えることができる車載撮像表示装置を提供することにある。
【0011】
また本発明の他の目的とするところは、撮像手段が撮像して取得した画像の歪を補正してエッジ成分を抽出し、エッジ成分を基に直線成分の検出を行う構成とすることにより、少ない処理量で精度よく直線成分の検出を行うことができる車載撮像表示装置を提供することにある。
【0012】
また本発明の他の目的とするところは、画像から抽出したエッジ成分に含まれる複数の点の座標をそれぞれハフ変換して複数のハフ曲線を取得し、複数のハフ曲線の交点を抽出することで直線成分を検出する構成とすることにより、直線成分を精度よく検出することができる車載撮像表示装置を提供することにある。
【0013】
また本発明の他の目的とするところは、画像中に複数の直線成分が含まれる場合に、ハフ変換によるハフ曲線の複数の交点のうち、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出して、長さ及び角度の判定を行う構成とすることにより、画像を表示するか否かの判定を容易に行うことができる車載撮像表示装置を提供することにある。
【0014】
また本発明の他の目的とするところは、車輌の車速を検出し、車速が所定速度を超えない場合に撮像手段が撮像した画像を表示手段に表示する構成とすることにより、高速走行中などの撮像手段による画像を表示する必要がない状況においては、カーナビゲーション装置の案内画像などの他の画像を表示することができる車載撮像表示装置を提供することにある。
【課題を解決するための手段】
【0015】
第1発明に係る車載撮像表示装置は、車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させる表示制御手段とを備えることを特徴とする。
【0016】
本発明においては、撮像手段が撮像した車輌の外界の画像から直線成分を検出する。撮像手段が撮像した画像を表示する必要があるのは、車輌が道路の端に接近した場合であり、道路の端には側溝又は建物等が存在するため、これらの存在を表示切替の判定基準とすることができる。車輌の周辺に側溝又は建物等が存在する場合、撮像手段により側溝又は建物等が撮像され、撮像により取得する画像中には側溝又は建物等が有する直線成分が含まれる。よって、画像から直線成分が検出された場合には、画像中に側溝又は建物等が写されており、車輌の周辺に側溝又は建物等が存在する可能性がある。車輌の周辺に存在する側溝又は建物等の長さは、車輌の長さより十分に長く、撮像手段の撮像範囲より十分に長い場合が多いため、検出された直線成分の長さを判定することによって、画像中に側溝又は建物等が写されているか否かを判定することができる。また、表示手段に表示して運転者が視認する必要がある側溝又は建物等は、車輌の車体の前後方向(走行方向又は道路の方向等であってもよい)に対して略平行に設けられたものである場合が多いため、画像から検出された直線成分の角度を判定することによって、表示手段に表示する必要があるか否かを判定することができる。よって、これらの条件に応じて撮像された画像を表示するか否かを判定することによって、表示手段に表示する画像を自動的に切り替えることが可能となる。
【0017】
また、第2発明に係る車載撮像表示装置は、前記撮像手段が、前記車輌から右方又は左方の外界を撮像するようにしてあることを特徴とする。
【0018】
本発明においては、撮像手段により車輌の右方又は左方の外界を撮像する。例えば、撮像手段を車輌のサイドミラーに搭載することで右方又は左方の外界を撮像することができる。特に、車輌の運転席が設けられた側の反対側については、路面の状況などを運転者が直接的に視認することが困難であるため、撮像した画像を車内の表示手段に表示することが運転の支援に効果的である。幅の狭い道路を走行するときに車輌が側溝又は建物等に接近し、撮像手段により側溝又は建物等が撮像された場合に、撮像された側溝又は建物等を表示手段に自動的に表示して運転者に視認させることができる。
【0019】
また、第3発明に係る車載撮像表示装置は、車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、前記車輌から右方又は左方の外界を撮像する撮像手段と、前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記車輌の右方又は左方の外界を撮像した画像を前記表示手段に表示させる表示制御手段とを備えることを特徴とする。
【0020】
本発明においては、撮像手段により車輌の右方又は左方の外界を撮像して、撮像した車輌の外界の画像から直線成分を検出する。直線成分が検出された場合には、検出された直線成分の長さ及び角度を判定することによって、表示手段に表示する必要があるか否かを判定する。判定の結果、車輌の右方又は左方に側溝又は建物等が存在するなどの要因で表示の必要ありと判定された場合には、直線成分が検出された車輌の右方又は左方を撮像して画像を表示する。このとき、側溝又は建物等の直線成分を検出した撮像手段と、表示手段に表示する画像を撮像する撮像手段とは、同じであってもよく、異なるものであってもよい。例えば、車輌の前部に搭載された撮像手段により検出を行うと共に、車輌の左側部に搭載された撮像手段が撮像した画像を表示する構成とすることができる。
【0021】
また、第4発明に係る車載撮像表示装置は、前記撮像手段が撮像して取得した画像の歪みを補正する歪補正手段と、該歪補正手段が補正した画像からエッジ成分を抽出するエッジ抽出手段とを備え、前記直線検出手段は、前記エッジ抽出手段が抽出したエッジ成分を基に、前記直線成分の検出を行うようにしてあることを特徴とする。
【0022】
本発明においては、車輌に搭載される撮像手段には、広範囲を撮像するために広角レンズ又は魚眼レンズ等が用いられ、撮像された画像は端部が若干歪んだ画像となることが多いため、この歪みを補正する。更に、歪補正を行った画像からエッジ成分の抽出を行う。エッジ成分の抽出は、ソーベルフィルタなどを用いた画像処理により行うことができ、又は、画像中の隣接する画素の画素値を比較し、画素値の差が所定値以上の画素を抽出することで行うことができる。直線成分の検出をエッジ成分に対してのみ行うことにより、検出のための処理量を低減することができる。
【0023】
また、第5発明に係る車載撮像表示装置は、前記直線検出手段が、前記エッジ成分に含まれる複数の点の座標をそれぞれハフ変換して複数のハフ曲線を取得し、前記複数のハフ曲線の交点を抽出することによって、前記直線成分を検出するようにしてあることを特徴とする。
【0024】
本発明においては、上述のエッジ成分をハフ変換することにより直線成分の検出を行う。詳しくは、エッジ成分に含まれる複数の点(画素)の座標をそれぞれハフ変換して複数のハフ曲線とし、複数のハフ曲線の交点を抽出する。この交点が元の画像での直線成分に相当するものであり、交点で交わるハフ曲線の数から直線の長さを判断することができ、交点の座標から直線成分の角度を判断することができるため、直線成分の検出及び判定を容易に且つ高精度に行うことができる。
【0025】
また、第6発明に係る車載撮像表示装置は、前記直線検出手段が、前記撮像手段が撮像して取得した画像に複数の直線成分が含まれる場合に、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出するようにしてあることを特徴とする。
【0026】
本発明においては、画像中に複数の直線成分が含まれる場合には、ハフ変換によるハフ曲線の交点が複数存在する。よって、各交点にて交わるハフ曲線の数を調べ、最多のハフ曲線が交わる一つの交点を抽出して、この交点に対応する直線成分を検出結果とする。直線成分が複数含まれる場合であっても、側溝又は建物等に含まれる可能性が最も高い一の直線成分についてのみ長さ及び角度の判定が行われるため、判定処理を容易化できる。
【0027】
また、第7発明に係る車載撮像表示装置は、前記車輌の車速を検出する車速検出手段を備え、前記表示制御手段は、前記車速検出手段が検出した車速が所定速度を超えない場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させるようにしてあることを特徴とする。
【0028】
本発明においては、車輌の車速を検出し、車速が所定速度を超えない場合にのみ、上述の判定に基づいて撮像手段が撮像した画像を表示手段に表示する。車輌が幅の狭い道路を走行して左方又は右方の側溝又は建物等に接近する場合には、車輌はある程度低速で走行していると考えられる。また、高速走行中に運転者が車内のディスプレイなどの表示手段を見て運転を行うことは危険である。よって、例えば時速30km/hなどの所定速度を超えない場合にのみ、撮像手段が撮像した車輌の外界の画像を表示することにより、車載撮像表示装置の不要な処理を低減できると共に、高速走行時の運転を妨げとなることを防止できる。
【発明の効果】
【0029】
第1発明による場合は、車輌に搭載された撮像手段が撮像した画像から直線成分を検出し、検出した直線成分が所定長を超え、且つ直線成分の角度が所定角範囲内の場合に、撮像した画像を表示手段に表示する構成とすることにより、表示手段に表示する画像を自動的に切り替えて、直線成分を有する車輌の周辺の側溝又は建物等を表示手段に表示することができる。よって、運転者はスイッチ操作などにより表示手段に表示される画像の切り替えを行う必要がないため、車載撮像表示装置の利便性を向上することができる。また、車輌の周辺に側溝又は建物等が存在する場合に、車載撮像表示装置が自動的にこれらを表示手段に表示し、車輌が道路の端に接近している旨を運転者に警告することができるため、車輌の走行の安全性を高めることができる。
【0030】
また、第2発明による場合は、撮像手段が車輌の右方又は左方の外界を撮像する構成とすることにより、運転者から死角となる車輌の右方又は左方の路面の状況などを運転者が視認することができるため、車輌が幅の狭い道路を走行する場合などに走行の安全性を高めることができる。
【0031】
また、第3発明による場合は、撮像手段が撮像して取得した車輌の右方又は左方の画像から直線成分を検出し、検出した直線成分が所定長を超え、且つ直線成分の角度が所定角範囲内の場合に、車輌の右方又は左方の画像を表示手段に表示する構成とすることにより、表示手段に表示する画像を自動的に切り替えて、直線成分を有する車輌の周辺の側溝又は建物等を表示手段に表示することができる。よって、車載撮像表示装置の利便性を向上することができると共に、車輌が道路の右端又は左端等に接近している旨を運転者に警告することができるため、車輌の走行の安全性を高めることができる。
【0032】
また、第4発明による場合は、撮像した画像の歪みを補正してエッジ成分を抽出し、エッジ成分を基に直線成分の検出を行う構成とすることにより、直線成分の検出をエッジ成分に対してのみ行うことができ、検出のための処理量を低減することができるため、車載撮像表示装置が精度よく高速に直線成分の検出処理を行うことができる。
【0033】
また、第5発明による場合は、画像から抽出したエッジ成分をハフ変換して直線成分の検出を行う構成とすることにより、直線成分の検出及び判定を容易に且つ高精度に行うことができるため、車載撮像表示装置による表示画像の自動的な切り替え機能の信頼性を高めることができる。
【0034】
また、第6発明による場合は、ハフ変換によるハフ曲線の複数の交点のうち、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出して、長さ及び角度の判定を行う構成とすることにより、画像中に複数の直線成分が含まれる場合であっても、側溝又は建物等に含まれる可能性が最も高い一の直線成分についてのみ判定処理を行うため、判定のための処理量を低減することができ、車載撮像表示装置が精度よく高速に表示切替の判定処理を行うことができる。
【0035】
また、第7発明による場合は、車輌の車速が所定速度を超えない場合に撮像手段が撮像した画像を表示手段に表示する構成とすることにより、高速走行中などの撮像手段による画像を表示する必要がない状況において、車載撮像表示装置の不要な処理を低減できると共に、高速走行時の運転を妨げとなることを防止できるため、車載撮像表示装置により車輌の走行の安全性を確実に高めることができる。
【発明を実施するための最良の形態】
【0036】
以下、本発明をその実施の形態を示す図面に基づき具体的に説明する。図1は、本発明に係る車載撮像表示装置の構成を示す模式図である。図において1は車輌であり、図示は省略するが運転席が車輌1の右側に設けられた所謂右ハンドル車である。車輌1の左側のサイドミラーにはサイドカメラ5が搭載してあり、車輌1の後部のバンパー近傍などにはバックカメラ6が搭載してある。サイドカメラ5は車輌1の左方の路面を前方から後方へ約180°の範囲に亘って撮像するようにしてあり、バックカメラ6は車輌1の後方の路面を左右に約180°に亘って撮像するようにしてある。車載撮像表示装置がサイドカメラ5及びバックカメラ6が撮像して取得した画像を車輌1の運転席近傍に配設されたディスプレイ2(図2にて図示する)に表示することによって、運転者は死角となる車輌1の周辺を間接的に目視して運転を行うことができる。
【0037】
図2は、本発明に係る車載撮像表示装置の構成を示すブロック図である。車輌1に搭載される車載撮像表示装置は、上述のサイドカメラ5及びバックカメラ6と、これらのカメラにより撮像された画像又はカーナビゲーション装置9の案内図画像等の表示を行うディスプレイ2と、このディスプレイ2に表示する画像を選択して切り替える処理を主として行うECU(Electronic Control Unit)3と、車輌1の走行に係る情報を取得してECU3へ与える走行情報取得部8とを備えている。これらの各構成要素は車輌1の適宜の位置に配設されて、適宜に接続ケーブル又は通信ケーブル等により接続してあり、データ又は信号の授受を行うことができるようにしてある。
【0038】
サイドカメラ5及びバックカメラ6は、CCD(Charge Coupled Device)などによる撮像素子と、この撮像素子へ光を集光する一又は複数のレンズとをそれぞれ有しており、レンズが集光した光を撮像素子が検知することによって、1秒間に30回程度の頻度で撮像を行う装置である。サイドカメラ5及びバックカメラ6のレンズには広角レンズ又は魚眼レンズ等の画角が広いレンズが用いられており、車輌1の水平方向に約180°の範囲で撮像を行うことができる。サイドカメラ5及びバックカメラ6はECU3にそれぞれ接続してあり、撮像により取得した画像をECU3へそれぞれ与えるようにしてある。
【0039】
ECU3は、サイドカメラ5及びバックカメラ6から与えられた画像に種々の画像処理を行う画像処理部31を有している。画像処理部31が行う画像処理は、例えば歪補正、視点変換、拡大/縮小、一部の切り出し及び他の画像の重畳等の処理である。また、画像処理部31にはカーナビゲーション装置9からの画像が与えられており、サイドカメラ5、バックカメラ6及びカーナビゲーション装置9からそれぞれ与えられる複数の画像からいずれか1つを選択して出力するようにしてある。画像処理部31には、車輌1の運転席近傍に配設された液晶などによるディスプレイ2が接続してあり、出力した画像をディスプレイ2へ与えて表示をさせることができるようにしてある。
【0040】
また、ECU3は、サイドカメラ5、バックカメラ6及びカーナビゲーション装置9から与えられた画像又は画像処理部31が画像処理を行った画像等を一時的に蓄積するための画像メモリ32と、歪補正又は視点変換等の画像処理を行う際に用いる各種のテーブルが記憶されたテーブル用メモリ33とを有しており、画像メモリ32及びテーブル用メモリ33は画像処理部31にそれぞれ接続され、画像処理部31との間でデータの授受を行うようにしてある。画像メモリ32は、SRAM(Static Random Access Memory)又はDRAM(Dynamic Random Access Memory)等の書き換え可能な大容量のメモリ素子により構成してあり、テーブル用メモリ33は、マスクROM(Read Only Memory)又はEEPROM(Electrically Erasable Programmable ROM)等の不揮発性のメモリ素子により構成してある。
【0041】
サイドカメラ5及びバックカメラ6は広角レンズ又は魚眼レンズ等のレンズにより撮像を行うため、撮像により得られる画像は中央から端部へ向けて徐々に湾曲した歪みを有する画像である。画像処理部31はサイドカメラ5及びバックカメラ6から与えられた画像の歪みを補正する処理を行うことができ、この補正処理を行う場合にはテーブル用メモリ33に予め記憶してある補正テーブルを用いるようにしてある。歪補正処理は、与えられた画像の各画素を予め定められた位置へ移動させることで行うことができ、補正テーブルには画像の各画素と画素の移動先とが対応付けて記憶してある。画像処理部31は、テーブル用メモリ33から補正テーブルを読み出して、撮像部5から与えられた画像の各画素を補正テーブルにて定められた位置に移動させることにより歪補正処理を行うようにしてある。
【0042】
また、ECU3には、車輌1の走行に係る情報を取得する走行情報取得部8から、取得した走行情報が与えられている。走行情報取得部8では、車輌1の走行速度を検知する車速センサ81から車速を取得し、車輌1のシフトレバー82の状態を取得するようにしてある。更に、図示は省略するが、車輌1のサイドブレーキ及びフットブレーキの状態を取得し、舵角センサにより車輌1のハンドルの舵角を取得し、加速度センサにより車輌1の加速度を取得し、ヘッドライトの点灯状態を取得し、ワイパーの動作状態を取得する等、種々の情報を取得することができる。
【0043】
ECU3は、走行情報取得部8から与えられる情報を基にECU3内の各部の動作を制御するCPU35を備えており、CPU35にはROM34及びRAM36が接続してある。ROM34は、CPU35にて実行される種々のプログラム及びデータ等が予め記憶してあり、マスクROM又はEEPROM等の不揮発性メモリ素子により構成してある。RAM36は、CPU35が制御処理及び演算処理等を行う際に生じる一時的なデータを記憶するものであり、SRAM又はDRAM等の書き換え可能なメモリ素子により構成してある。CPU35は、ROM34から制御プログラムを読み出して実行することによって、走行情報取得部8から与えられた走行情報を基にECU3内の各部の動作を制御し、ディスプレイ2に表示する画像を選択し、画像処理部31に適切な画像の加工処理を行わせるなど、ディスプレイ2の表示に係る種々の処理を行うようにしてある。
【0044】
本発明に係る車載撮像表示装置は、車輌1が後退する場合には、バックカメラ6が撮像する車輌1の後方の画像をディスプレイ2に表示するようにしてある。また、車輌1が後退せずに停車又は通常走行している場合には、カーナビゲーション装置9による案内画像をディスプレイ2に表示するようにしてあるが、車輌1が道路の端に接近し、サイドカメラ5に道路の側溝又は建物等が撮像された場合には、ディスプレイ2の表示を切り替えてサイドカメラ5が撮像した画像を表示するようにしてある。これらの車載撮像表示装置によるディスプレイ2の表示切替はECU3にて自動的に行われるものである。ただし、車輌1が高速走行(例えば、時速30km/h以上)している場合には、車載撮像表示装置は表示切替を行わず、カーナビゲーション装置9の案内画像をディスプレイ2に表示するようにしてある。
【0045】
ECU3は、バックカメラ6が撮像した画像をディスプレイ2に表示するか否かを、走行情報取得部8から与えられるシフトレバー82の状態に基づいて判定するようにしてある。シフトレバー82の状態に係る情報が与えられたCPU35は、シフトレバー82の状態が「R」であるか否かを判定するようにしてある。シフトレバー82の状態が「R」の場合、CPU35は画像処理装置31にバックカメラ6からの画像をディスプレイ2に出力させて、ディスプレイ2にバックカメラ6が撮像した画像を表示させるようにしてある。シフトレバー82の状態が「R」でない場合、CPU35はサイドカメラ5が撮像した画像又はカーナビゲーション装置9の案内画像をディスプレイ2に表示するように画像処理部31の制御を行うようにしてある。
【0046】
また、ECU3は、サイドカメラ5が撮像した画像をディスプレイ2に表示するか否かを、走行情報取得部8からの車速センサ81による車輌1の車速と、サイドカメラ5が撮像した画像とを基に判定するようにしてある。車速センサ81が検知する車輌1の車速が与えられたCPU35は、車速が所定速度(例えば時速30km/h)を超えるか否かを調べて、車速が所定速度を超える場合にはディスプレイ2にてカーナビゲーション装置9の案内画像の表示のみを行うように画像処理部31の制御を行うようにしてある。車速が所定速度を超えない場合には、CPU35は画像処理部31にてサイドカメラ5が撮像した画像から直線成分の検出処理を行わせると共に、検出した直線成分の長さ及び角度等を調べることによって、サイドカメラ5が撮像した画像を表示するか否かを判定するようにしてある。
【0047】
図3乃至図5は、本発明に係る車載撮像表示装置によるサイドカメラ5が撮像した画像を表示するか否かを判定する方法を説明するための模式図である。図3(a)にはサイドカメラ5が撮像した画像の一例が示してある。上述のように、サイドカメラ5は広角レンズ又は魚眼レンズ等のレンズにより撮像を行うカメラであるため、撮像により取得できる画像は中央部から端部へ向けて若干の歪みを有する画像である。画像処理部31は、サイドカメラ5が撮像した画像から図中の矩形枠で示す判定領域101の画像を抽出して、歪補正を行うようにしてある。判定領域101は、車輌1の種類及びサイドカメラ5の搭載場所等により予め決定される領域であり、例えば車輌1の車体側面から約1mの範囲の路面が撮像される範囲などとすることができる。また、比較のために、図5(f)にもサイドカメラ5が撮像した画像の一例を示してあるが、図3(a)は判定領域101内に直線成分が存在する場合であり、図5(f)は直線成分が存在しない場合である。
【0048】
画像処理部31は、テーブル用メモリ33に記憶された補正テーブルを利用して、判定領域101の各画素を補正テーブルにより定められる位置へ移動させると共に、移動後の画素間のデータを線形補間などにより補間することによって、歪補正処理を行うようにしてある。図3(b)には、歪補正処理が施された判定領域101の画像が示してある。歪補正後の画像には直線が歪むことなく写されている。
【0049】
次いで、画像処理部31は、歪補正後の画像のエッジ抽出を行うようにしてある。エッジ抽出は、例えば隣接する画素の画素値の差が閾値を超える場合にその画素をエッジ成分として抽出することができ、また、例えばソーベルフィルタなどのフィルタ処理を行って、処理結果を2値化することで行うことができる。図4(c)にはソーベルフィルタを利用したエッジ抽出処理が施された画像が示してあり、抽出されたエッジ成分を黒色で示してある。
【0050】
次いで、画像処理部31は、エッジ抽出処理が施された画像をハフ変換するようにしてある。ハフ変換は、画像の各点(x、y)をx−y平面からρ−θ平面上でのρ=xcosθ+ysinθというハフ曲線に変換する処理である。画像処理部31は、エッジ抽出処理が施された画像の各エッジ成分についてハフ変換を行ってρ−θ平面のデータ(図4(d))を取得し、ρ−θ平面上でハフ曲線が最も多く交わる一の交点(ρ、θ)を抽出する。この交点がx−y平面での直線成分に相当するため、ρ−θ平面での交点を抽出する処理はx−y平面での直線成分を検出する処理に相当する。図4(e)には、抽出した交点を逆ハフ変換した場合の直線成分102を元の画像(図4(c)の画像)に重ねて示してある。ただし、画像処理部31は逆ハフ変換を行う必要はない。また、抽出した交点で交わるハフ曲線の数は、この交点に対応するx−y平面での直線成分の長さに比例するため、ハフ曲線が最も多く交わる一の交点を抽出する処理は、最も長い直線成分を抽出することに相当する。
【0051】
次いで、画像処理部31は、抽出した一の交点で交わるハフ曲線の数が予め定められた数を超えるかを判定すると共に、抽出した交点の座標θの値が所定範囲内であるかを判定するようにしてある。換言すれば、画像処理部31は、抽出した交点に対応する元の画像での直線成分の長さが所定長を超えるか否かを判定すると共に、元の画像中での直線成分の角度が所定角範囲内であるか否かを判定するようにしてある。
【0052】
判定の基準をなす所定長及び所定角範囲は予め定められた固定値である。車輌1の左側に存在する側溝又は建物等は、車輌1の長さより十分に長く、サイドカメラ5の撮像範囲と同じ程度か又は撮像範囲に収まらないほどに長い場合が多い。よって、所定長は、例えば撮像された画像の縦(y方向)の長さの80%程度の長さ以上と予め定めることができる。この所定長の直線成分をハフ変換した場合のハフ曲線の交わる数は予め算出することができるため、画像処理部31はこの数を記憶して判定に用いるようにしてある。
【0053】
また、車輌1の左側に側溝又は建物等が存在する場合、これらの直線成分は車輌1(車輌1の車体側面又は進行方向等)に対して略平行である場合が多く、少なくとも車輌1に対して所定角範囲内に収まると考えられる。よって、所定角範囲は、例えば車輌1に対して±30°の範囲内などと定めることができる。もちろん、これらの値は一例であって、これに限るものではない。
【0054】
画像処理部31は、この2つの判定結果をCPU35に通知するようにしてある。CPU35は、サイドカメラ5にて撮像された画像中に直線成分が存在し、この直線成分の長さが所定長を超えると共に、画像中での直線成分の角度が所定角範囲内である場合に、サイドカメラ5にて撮像された画像をディスプレイ2に表示させると判断し、画像処理部31に表示指示を与えるようにしてある。
【0055】
図6及び図7は、本発明に係る車載撮像表示装置による表示例を示す模式図である。なお、図6においては走行中の車輌1とこの左側に存在する側溝110との位置関係を示してあり、図7においてはディスプレイ2に表示される画像の例を示してある。図6(A)の位置関係の場合に表示される画像が図7(A)であり、図6(B)の位置関係の場合に表示される画像が図7(B)である。また、車輌1は例えば時速20km/hで走行しているものとする。
【0056】
車輌1が側溝110から離れた位置を走行中であり、サイドカメラ5にて側溝110が撮像されない場合(図6(A)参照)、車載撮像表示装置のECU3では画像処理部31にて直線成分が検出されないため、CPU35がカーナビゲーション装置9から与えられる案内画像をディスプレイ2に表示するように画像処理部31を制御するようにしてある(図7(A)参照)。また、車輌1が側溝110の近辺を走行中であり、サイドカメラ5にて側溝110が撮像される場合(図6(B)参照)、ECU3では画像処理部31にて直線成分が検出される。検出された直線成分の長さが所定長を超え、且つ、角度が所定角範囲内の場合には、CPU35はサイドカメラ5にて撮像された画像をディスプレイ2に表示するように画像処理部31を制御するようにしてある(図7(B)参照)。なお、この場合において画像処理部31は、ディスプレイ2にサイドカメラ5が撮像した画像を表示するのみでなく、ディスプレイ2に表示している画像がサイドカメラ5が撮像した画像であることを運転者に通知するためのアイコン120を、サイドカメラ5が撮像した画像と並べて表示してもよい。
【0057】
図8及び図9は、本発明に係る車載撮像表示装置が行う表示切替処理の手順を示すフローチャートであり、ECU3のCPU35にて表示切替処理用のプログラムを実行することにより行われる処理である。図1において図示は省略するが、車輌周辺認識装置は運転者の操作を受け付けるためのスイッチ又はボタン等が配された操作部を備えており、運転者が操作部を操作することによって、車載撮像表示装置によるサイドカメラ5の画像を表示する機能をオフにする指示を与えることができるようにしてある。この操作部に対する運転者の操作内容はECU3のCPU35に与えられている。車載撮像表示装置が表示切替処理を行う場合、まず、CPU35は運転者が操作部を操作することによってサイドカメラ5の画像の表示をオフにする指示が与えられたか否かを調べる(ステップS1)。
【0058】
サイドカメラ5が撮像した画像の表示をオフにする指示が与えられた場合には(S1:YES)、CPU35は表示切替処理を終了する。表示をオフにする指示が与えられていない場合(S1:NO)、CPU35は走行情報取得部8からシフトレバー82の状態を取得して、車輌1のシフトレバー82の状態が「R」であるか否かを調べる(ステップS2)。シフトレバー82の状態が「R」の場合(S2:YES)、CPU35は画像処理部31を制御してバックカメラ6が撮像した画像をディスプレイ2に表示し(ステップS3)、ステップS1へ戻る。
【0059】
シフトレバー82の状態が「R」でない場合(S2:NO)、CPU35は走行情報取得部8から車速センサ81による車輌1の車速を取得して、車速が30km/h未満であるか否かを調べる(ステップS4)。車速が30km/h以上の場合(S4:NO)、CPU35は画像処理部31を制御してカーナビゲーション装置9からの案内画像をディスプレイ2に表示し(ステップS5)、ステップS1へ戻る。
【0060】
車輌1の車速が30km/h未満の場合(S4:YES)、CPU35は画像処理部31にて、サイドカメラ5が撮像した画像を取得し(ステップS6)、取得した画像から判定領域101の画像を抽出する(ステップS7)。次いで、CPU35は画像処理部31にて、抽出した判定領域101の画像の歪補正処理を行い(ステップS8)、歪補正を行った画像からエッジ抽出処理を行う(ステップS9)。次いで、CPU35は画像処理部31にて、抽出した各エッジ成分についてハフ変換を行って(ステップS10)、ハフ曲線を取得し、ρ−θ平面上でハフ曲線が最も多く交わる一の交点を抽出する(ステップS11)。この抽出処理がx−y平面での直線成分の検出処理に相当する。
【0061】
一の交点を抽出した後、CPU35は画像処理部31にて、この交点で交わるハフ曲線の数が所定数を超えるか否かを調べ(ステップS12)、所定数を超える場合には(S12:YES)、更にこの交点のρ−θ平面での座標θが所定角範囲内であるか否かを調べる(ステップS13)。座標θが所定角範囲内の場合(S13:YES)、CPU35は画像処理部31を制御してサイドカメラ5が撮像した画像をディスプレイ2に表示し(ステップS14)、ステップS1へ戻る。また、ステップS12にて交点で交わるハフ曲線の数が所定数を超えない場合(S12:NO)、又はステップS13にて交点の座標θが所定角範囲内でない場合(S13:NO)、CPU35は画像処理部31を制御してカーナビゲーション装置9からの案内画像をディスプレイ2に表示し(ステップS15)、ステップS1へ戻る。その後、CPU35は、運転者が操作部を操作することにより表示オフの指示が与えられるまで表示切替処理を継続して行うようにしてある。
【0062】
以上の構成の車載撮像表示装置においては、サイドカメラ5が撮像した画像から画像処理部31が直線成分を検出し、検出した直線成分が所定長を超え、且つ画像中での角度が所定角度範囲内の場合に、CPU35が画像処理部31を制御して、サイドカメラ5が撮像した画像をディスプレイ2に表示する構成とすることにより、車輌1が道路の端に接近し、サイドカメラ5に側溝又は建物等が撮像された場合に、ディスプレイ2の表示をカーナビゲーション装置9の画像からサイドカメラ5が撮像した画像へ自動的に切り替えることができる。よって、運転者はサイドカメラ5の画像をディスプレイ2に表示させるためにスイッチ操作などを行う必要がないため、車載撮像表示装置の利便性を向上することができる。また、車輌1の周辺に側溝又は建物等が存在する場合に、これらをディスプレイ2に自動的に表示することができるため、車輌1が道路の端に接近している旨を運転者に警告することができ、車輌1の走行の安全性を高めることができる。
【0063】
また、サイドカメラ5が撮像した画像を画像処理部31が歪補正してエッジ成分を抽出し、抽出したエッジ成分をハフ変換することによって直線成分の検出を行う構成とすることにより、直線成分の検出を容易に且つ高精度に行うことができる。また、エッジ成分のハフ変換によるハフ曲線が最も多く交わる一の交点を抽出する構成とすることにより、画像中の長さが最も長い直線成分を容易に検出することができる。また、この交点にて交わるハフ曲線の数が所定数を超えるか否かにより、直線成分の長さが所定長を超えるか否かを判定すると共に、この交点のρ−θ平面での座標θが所定各範囲内であるか否かを判定する構成とすることにより、サイドカメラ5が撮像した画像をディスプレイ2に表示するか否かの判定を容易且つ精度よく行うことができる。また、車輌情報取得部8により車速センサ81が検知する車速及びシフトレバー82の状態等を取得し、取得した情報を基にサイドカメラ5、バックカメラ6又はカーナビゲーション装置9の画像を切り替えてディスプレイ2に表示する構成とすることにより、車輌1に搭載された多くの装置からの画像を車輌1の走行状態及び周囲の状態等に応じて適切なタイミングで切り替えて表示することができる。
【0064】
なお、本実施の形態においては、車輌1にバックカメラ6を搭載する構成としたが、これに限るものではなく、バックカメラ6を搭載しない構成であってもよい。また、車輌1にフロントカメラ又は右側のサイドカメラ等の他のカメラを更に搭載する構成としてもよい。また、車輌1にカーナビゲーション装置9を搭載する構成としたが、これに限るものではなく、カーナビゲーション装置9を搭載しない構成としてもよい。また、オーディオ装置又はテレビジョン装置等の他の装置を車輌1に搭載し、これらの他の装置からの画像を自動的に切り替えてディスプレイ2に表示する構成としてもよい。
【0065】
また、走行情報取得部8にて取得する車速センサ81の車速に応じて、ECU3がディスプレイ2に表示する画像をサイドカメラ5の画像又はカーナビゲーション装置9の画像に切り替える構成としたが、これに限るものではなく、ECU3が車輌1の車速に応じた切り替えを行わない構成としてもよい。また、サイドカメラ5が撮像した画像を画像処理部31が歪補正する構成としたが、これに限るものではなく、サイドカメラ5が広角レンズ又は魚眼レンズ等による撮像を行うものでない場合には、歪補正を行わない構成としてもよい。また、歪補正に代えて、サイドカメラ5が撮像した画像の視点を変更するトップビュー変換を行う構成としてもよい。また、サイドカメラ5が撮像した画像のうち判定領域101内のみ直線成分の検出処理などを行う構成としたが、これに限るものではなく、サイドカメラ5が撮像した画像全体について処理を行う構成としてもよい。
【0066】
(変形例)
上述の車載撮像表示装置は、サイドカメラ5が撮像して取得した画像から直線成分の検出を行ってディスプレイ2に表示するか否かを判定する構成であるが、これに限るものではなく、以下の変形例に示すように、直線成分の検出及び判定等を行うカメラと、ディスプレイ2に表示する画像を撮像するカメラとが別のカメラであってもよい。図10は、本発明の変形例に係る車載撮像表示装置の構成を示す模式図である。変形例の車載撮像表示装置は、車輌1の左側のサイドミラーに搭載されたサイドカメラ5と、車輌1の後部に搭載されたバックカメラ6とを備えると共に、更に車輌1の前部に搭載されたフロントカメラ201と、車輌1の右側のサイドミラーに搭載されたサイドカメラ202とを備えている。フロントカメラ201は、車輌1の前方の路面を左右に約180°に亘って撮像するようにしてある。また、右側のサイドカメラ202は、車輌1の右方の路面を前方から後方へ約180°の範囲に亘って撮像するようにしてある。
【0067】
変形例に係る車載撮像表示装置では、車輌1の前部に搭載されたフロントカメラ201が撮像した画像を用いて、車輌1の左方又は右方に存在する側溝又は建物等の直線成分の検出を行うようにしてある。また、図10には破線でフロントカメラ201の撮像範囲201aが示してあるが、直線成分の検出はこの撮像範囲201aの全てについて行うのではなく、図10のハッチングを付した検出領域201bについてのみ行うようにしてある。検出領域201bは、フロントカメラ201の撮像範囲201aの左右両側の領域であり、車輌1が直進した場合に車輌1の右方及び左方に相当する領域である。
【0068】
よって、フロントカメラ201が撮像した画像を取得したECU3では、この画像から撮像範囲201aに相当する部分を抽出し、抽出した画像から直線成分の検出と、検出した直線成分の長さ及び角度の判定とを行うようにしてある。左側の検出領域201bにて直線成分が検出されて長さ及び角度の条件を満たす場合には、ECU3は左側のサイドカメラ5が撮像した画像をディスプレイ2に表示するようにしてある。このとき、ECU3は、フロントカメラ201が撮像した画像を共にディスプレイ2に表示してもよい。同様に、右側の検出領域201bにて直線成分が検出されて長さ及び角度の条件を満たす場合には、ECU3は右側のサイドカメラ202が撮像した画像をディスプレイ2に表示するようにしてある。
【0069】
以上の変形例に示す車載撮像表示装置は、フロントカメラ201にて直線成分の検出を行う構成であるため、サイドカメラ5又は202にて直線成分を検出する構成と比較して、車輌が直進している場合においては、より早く直線成分の検出を行うことができるという利点がある。なお、フロントカメラ201のみでなく、サイドカメラ5及び202についても直線成分の検出を行う構成とし、いずれかのカメラにて直線成分が検出されて長さ及び角度の条件を満たす場合に、ディスプレイ2の表示を変更する構成としてもよい。バックカメラ6についてもフロントカメラ201と同様に直線成分の検出に利用する構成としてもよい。
【図面の簡単な説明】
【0070】
【図1】本発明に係る車載撮像表示装置の構成を示す模式図である。
【図2】本発明に係る車載撮像表示装置の構成を示すブロック図である。
【図3】本発明に係る車載撮像表示装置によるサイドカメラが撮像した画像を表示するか否かを判定する方法を説明するための模式図である。
【図4】本発明に係る車載撮像表示装置によるサイドカメラが撮像した画像を表示するか否かを判定する方法を説明するための模式図である。
【図5】本発明に係る車載撮像表示装置によるサイドカメラが撮像した画像を表示するか否かを判定する方法を説明するための模式図である。
【図6】本発明に係る車載撮像表示装置による表示例を示す模式図である。
【図7】本発明に係る車載撮像表示装置による表示例を示す模式図である。
【図8】本発明に係る車載撮像表示装置が行う表示切替処理の手順を示すフローチャートである。
【図9】本発明に係る車載撮像表示装置が行う表示切替処理の手順を示すフローチャートである。
【図10】本発明の変形例に係る車載撮像表示装置の構成を示す模式図である。
【符号の説明】
【0071】
1 車輌
2 ディスプレイ(表示手段)
3 ECU
5 サイドカメラ(撮像手段)
6 バックカメラ
8 走行情報取得部
9 カーナビゲーション装置
31 画像処理部(直線検出手段、判定手段、歪補正手段、エッジ検出手段)
32 画像メモリ
33 テーブル用メモリ
34 ROM
35 CPU(表示制御手段)
36 RAM
81 車速センサ(車速検出手段)
82 シフトレバー
【特許請求の範囲】
【請求項1】
車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、
前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、
該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、
該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させる表示制御手段と
を備えることを特徴とする車載撮像表示装置。
【請求項2】
前記撮像手段は、前記車輌から右方又は左方の外界を撮像するようにしてあること
を特徴とする請求項1に記載の車載撮像表示装置。
【請求項3】
車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、
前記車輌から右方又は左方の外界を撮像する撮像手段と、
前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、
該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、
該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記車輌の右方又は左方の外界を撮像した画像を前記表示手段に表示させる表示制御手段と
を備えることを特徴とする車載撮像表示装置。
【請求項4】
前記撮像手段が撮像して取得した画像の歪みを補正する歪補正手段と、
該歪補正手段が補正した画像からエッジ成分を抽出するエッジ抽出手段と
を備え、
前記直線検出手段は、前記エッジ抽出手段が抽出したエッジ成分を基に、前記直線成分の検出を行うようにしてあること
を特徴とする請求項1乃至請求項3のいずれか1つに記載の車載撮像表示装置。
【請求項5】
前記直線検出手段は、前記エッジ成分に含まれる複数の点の座標をそれぞれハフ変換して複数のハフ曲線を取得し、前記複数のハフ曲線の交点を抽出することによって、前記直線成分を検出するようにしてあること
を特徴とする請求項4に記載の車載撮像表示装置。
【請求項6】
前記直線検出手段は、前記撮像手段が撮像して取得した画像に複数の直線成分が含まれる場合に、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出するようにしてあること
を特徴とする請求項5に記載の車載撮像表示装置。
【請求項7】
前記車輌の車速を検出する車速検出手段を備え、
前記表示制御手段は、前記車速検出手段が検出した車速が所定速度を超えない場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させるようにしてあること
を特徴とする請求項1乃至請求項6のいずれか1つに記載の車載撮像表示装置。
【請求項1】
車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、
前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、
該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、
該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させる表示制御手段と
を備えることを特徴とする車載撮像表示装置。
【請求項2】
前記撮像手段は、前記車輌から右方又は左方の外界を撮像するようにしてあること
を特徴とする請求項1に記載の車載撮像表示装置。
【請求項3】
車輌に搭載され、該車輌の外界を撮像して画像を取得する撮像手段と、該撮像手段が撮像して取得した画像を表示する表示手段とを備える車載撮像表示装置において、
前記車輌から右方又は左方の外界を撮像する撮像手段と、
前記撮像手段が撮像して取得した画像から直線成分を検出する直線検出手段と、
該直線検出手段が検出した直線成分の長さが所定長を超えるか否か、及び前記直線成分の前記車輌に対する角度が所定角範囲内であるか否かを判定する判定手段と、
該判定手段により前記直線成分が所定長を超え且つ所定角範囲内と判定された場合に、前記車輌の右方又は左方の外界を撮像した画像を前記表示手段に表示させる表示制御手段と
を備えることを特徴とする車載撮像表示装置。
【請求項4】
前記撮像手段が撮像して取得した画像の歪みを補正する歪補正手段と、
該歪補正手段が補正した画像からエッジ成分を抽出するエッジ抽出手段と
を備え、
前記直線検出手段は、前記エッジ抽出手段が抽出したエッジ成分を基に、前記直線成分の検出を行うようにしてあること
を特徴とする請求項1乃至請求項3のいずれか1つに記載の車載撮像表示装置。
【請求項5】
前記直線検出手段は、前記エッジ成分に含まれる複数の点の座標をそれぞれハフ変換して複数のハフ曲線を取得し、前記複数のハフ曲線の交点を抽出することによって、前記直線成分を検出するようにしてあること
を特徴とする請求項4に記載の車載撮像表示装置。
【請求項6】
前記直線検出手段は、前記撮像手段が撮像して取得した画像に複数の直線成分が含まれる場合に、最多のハフ曲線が交わる一の交点に対応する一の直線成分を検出するようにしてあること
を特徴とする請求項5に記載の車載撮像表示装置。
【請求項7】
前記車輌の車速を検出する車速検出手段を備え、
前記表示制御手段は、前記車速検出手段が検出した車速が所定速度を超えない場合に、前記撮像手段が撮像して取得した画像を前記表示手段に表示させるようにしてあること
を特徴とする請求項1乃至請求項6のいずれか1つに記載の車載撮像表示装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2008−306402(P2008−306402A)
【公開日】平成20年12月18日(2008.12.18)
【国際特許分類】
【出願番号】特願2007−150885(P2007−150885)
【出願日】平成19年6月6日(2007.6.6)
【出願人】(395011665)株式会社オートネットワーク技術研究所 (2,668)
【出願人】(000183406)住友電装株式会社 (6,135)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】
【公開日】平成20年12月18日(2008.12.18)
【国際特許分類】
【出願日】平成19年6月6日(2007.6.6)
【出願人】(395011665)株式会社オートネットワーク技術研究所 (2,668)
【出願人】(000183406)住友電装株式会社 (6,135)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】
[ Back to top ]