説明

車両用対象物画像認識装置、車両用対象物画像認識方法及びコンピュータプログラム

【課題】従来より簡易な処理によって画像認識処理を実行することを可能とした車両用対象物画像認識装置、車両用対象物画像認識方法及びコンピュータプログラムを提供する。
【解決手段】バックカメラにより撮像された撮像画像中に含まれる対象オブジェクトのバックカメラの光軸方向に対する相対角度(対象相対角度)を検出し(S5)、同じく、バックカメラにより撮像された撮像画像中に含まれる基準オブジェクトのバックカメラの光軸方向に対する相対角度(基準相対角度)を検出し(S7)、検出された基準相対角度と対象相対角度とに基づいて、基準オブジェクトに対する対象オブジェクトの相対角度(比較相対角度)を算出し(S9)、算出された比較相対角度を対象オブジェクトに対応づけてオブジェクトDBに記憶し、オブジェクトDBを作成する(S10)ように構成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両周辺にある対象オブジェクトを認識する車両用対象物画像認識装置、車両用対象物画像認識方法及びコンピュータプログラムに関する。
【背景技術】
【0002】
従来より、地図情報やGPS等の各種センサによって特定される車両の走行情報を取得し、運転手に対する報知や、運転の補助を行う運転支援装置について提案されている。このような運転支援装置としては、例えばナビゲーション装置の他、プリクラッシュセーフティシステム、オートクルーズコントロールシステム、レーンキーピングアシストシステム等がある。
【0003】
そして、そのような運転支援装置の中には、車両の前面にカメラ等の撮像装置を設け、車両周辺にあるオブジェクト(人、物、標示等)を撮像し、撮像された画像に対して画像認識処理を実施してオブジェクトを認識し、認識結果に基づいて報知や車両の制御を行うものがある。例えば、車両周辺に位置する人や自転車等の障害物を撮像画像から認識し、認識された障害物の種類や位置に基づいて該障害物への警告を行うものがある。また、車両の前方に位置する前方車両を撮像画像から認識し、認識された前方車両との間隔に基づいてアクセルやブレーキを制御するものがある。また、車両が走行する道路上に形成された最高速度や区画線等の道路標識を撮像画像から認識し、認識された道路標識の車両に対する相対位置に基づいて車両の詳細な現在位置を特定したり、ステアリング制御を行うものがある。
【0004】
ここで、車両に設置された撮像装置によりオブジェクトを撮像し、撮像された画像に基づいてオブジェクトを認識する際には以下の問題があった。即ち、道路形状や車両の走行態様によってオブジェクトに対する撮像装置の位置関係や角度が変化するので、同じオブジェクトを撮像した場合であっても撮像画像中のオブジェクトの形状が毎回変化することとなる。そこで、例えば特開平8−320990号公報には、カメラで撮像した画像から車両のナンバープレートを認識する技術において、撮像画像中のナンバープレートに含まれる車番の歪み量を検出し、検出された歪み量に基づいて車番の歪みを補正し、補正後の画像に基づいて車番を認識することについて記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平8−320990号公報(第3頁〜第5頁)
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら上記特許文献1に記載された技術では、車番の歪み量を検出する処理と、検出された歪み量に基づいて車番の歪みを補正する処理とをそれぞれ実行した後に、画像認識処理を行うので、処理に係るCPUの負担が大きくなる問題があった。また、画像認識処理では、撮像されたオブジェクトの種類を特定する他の認識方法として、テンプレートマッチングによる方法がある。テンプレートマッチングでは、テンプレートのサイズや角度を少しずつ変化させて走査を行い撮像画像中のオブジェクトがテンプレートと一致するか否かを判定する処理を繰り返し行う必要がある。ここで、道路上にあるオブジェクトについては、撮像した際のサイズはそれほど大きく変化しないが、車両の向きや道路形状によって撮像した際のオブジェクトの角度は大きく変化する。従って、テンプレートマッチングによる画像認識処理についても、処理時間の長時間化やCPUの処理負荷の増大が問題となっていた。
【0007】
本発明は前記従来における問題点を解消するためになされたものであり、認識対象となる対象オブジェクトについて、予め基準オブジェクトに対する相対角度をデータベース化することによって、その後に対象オブジェクトを検出する為の画像認識処理を実行する場合において、撮像装置に対する該対象オブジェクトの相対角度を予め把握することが可能となり、従来より簡易な処理によって画像認識処理を実行することを可能とした車両用対象物画像認識装置、車両用対象物画像認識方法及びコンピュータプログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
前記目的を達成するため本願の請求項1に係る車両用対象物画像認識装置(1)は、車両に設置された撮像装置(19)により前記車両の周辺を撮像する撮像手段(13)と、前記撮像手段により撮像された撮像画像中に含まれる基準オブジェクト(52)の前記撮像装置に対する相対角度を基準相対角度として検出する基準相対角度検出手段(13)と、前記撮像手段により撮像された撮像画像中に含まれる対象オブジェクト(51)の前記撮像装置に対する相対角度を対象相対角度として検出する対象相対角度検出手段(13)と、前記基準相対角度と前記対象相対角度とに基づいて、前記基準オブジェクトに対する前記対象オブジェクトの相対角度を比較相対角度として算出する比較相対角度算出手段(13)と、前記比較相対角度を前記対象オブジェクトに対応づけて記憶媒体(33)に記憶する相対角度記憶手段(13)と、を有することを特徴とする。
尚、「対象オブジェクト」や「基準オブジェクト」としては、道路上又は道路付近において位置や角度が固定されている物が該当し、障害物、建造物、道路標識(路面標示含む)等がある。
【0009】
また、請求項2に係る車両用対象物画像認識装置(1)は、請求項1に記載の車両用対象物画像認識装置であって、前記車両の周辺に前記対象オブジェクト(51)が位置するか否かを判定する対象オブジェクト判定手段(13)と、前記対象オブジェクト判定手段によって前記車両の周辺に前記対象オブジェクトが位置すると判定された場合に、前記撮像手段(19)により撮像された撮像画像中に含まれる基準オブジェクト(52)の前記撮像装置に対する相対角度を第1相対角度として検出する第1相対角度検出手段(13)と、前記記憶媒体(33)に記憶された前記比較相対角度の内、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトに対応づけて記憶された前記比較相対角度を抽出する角度抽出手段(13)と、前記角度抽出手段によって抽出された前記比較相対角度と前記第1相対角度とに基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトの前記撮像装置に対する相対角度を第2相対角度として検出する第2相対角度検出手段(13)と、前記第2相対角度に基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトを検出する為の前記撮像画像に対する画像認識処理を行う対象オブジェクト認識手段(13)と、を有することを特徴とする。
【0010】
また、請求項3に係る車両用対象物画像認識装置(1)は、車両に設置された撮像装置(19)により車両の周辺を撮像する撮像手段(13)と、基準オブジェクト(52)に対する対象オブジェクト(51)の相対角度を比較相対角度として前記対象オブジェクトに対応づけて記憶媒体(33)に記憶する相対角度記憶手段(13)と、車両の周辺に前記対象オブジェクトが位置するか否かを判定する対象オブジェクト判定手段(13)と、前記対象オブジェクト判定手段によって前記車両の周辺に前記対象オブジェクトが位置すると判定された場合に、前記撮像手段により撮像された撮像画像中に含まれる基準オブジェクトの前記撮像装置に対する相対角度を第1相対角度として検出する第1相対角度検出手段(13)と、前記記憶媒体に記憶された前記比較相対角度の内、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトに対応づけて記憶された前記比較相対角度を抽出する角度抽出手段(13)と、前記角度抽出手段によって抽出された前記比較相対角度と前記第1相対角度とに基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトの前記撮像装置に対する相対角度を第2相対角度として検出する第2相対角度検出手段(13)と、前記第2相対角度に基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトを検出する為の前記撮像画像に対する画像認識処理を行う対象オブジェクト認識手段(13)と、を有することを特徴とする。
【0011】
また、請求項4に係る車両用対象物画像認識方法は、車両に設置された撮像装置(19)により車両の周辺を撮像する撮像ステップと、前記撮像ステップにより撮像された撮像画像中に含まれる基準オブジェクト(52)の前記撮像装置に対する相対角度を基準相対角度として検出する基準相対角度検出ステップと、前記撮像ステップにより撮像された撮像画像中に含まれる対象オブジェクト(51)の前記撮像装置に対する相対角度を対象相対角度として検出する対象相対角度検出ステップと、前記基準相対角度と前記対象相対角度とに基づいて、前記基準オブジェクトに対する前記対象オブジェクトの相対角度を比較相対角度として算出する比較相対角度算出ステップと、前記比較相対角度を前記対象オブジェクトに対応づけて記憶媒体(33)に記憶する相対角度記憶ステップと、を有することを特徴とする。
【0012】
更に、請求項5に係るコンピュータプログラムは、コンピュータに搭載され、車両に設置された撮像装置(19)により車両の周辺を撮像する撮像機能と、前記撮像機能により撮像された撮像画像中に含まれる基準オブジェクト(52)の前記撮像装置に対する相対角度を基準相対角度として検出する基準相対角度検出機能と、前記撮像機能により撮像された撮像画像中に含まれる対象オブジェクト(51)の前記撮像装置に対する相対角度を対象相対角度として検出する対象相対角度検出機能と、前記基準相対角度と前記対象相対角度とに基づいて、前記基準オブジェクトに対する前記対象オブジェクトの相対角度を比較相対角度として算出する比較相対角度算出機能と、前記比較相対角度を前記対象オブジェクトに対応づけて記憶媒体(33)に記憶する相対角度記憶機能と、を実行させることを特徴とする。
【発明の効果】
【0013】
前記構成を有する請求項1に記載の車両用対象物画像認識装置では、認識対象となる対象オブジェクトについて、予め基準オブジェクトに対する相対角度をデータベース化することによって、その後に対象オブジェクトを検出する為の画像認識処理を実行する場合において、撮像装置に対する該対象オブジェクトの相対角度を予め把握することが可能となる。従って、従来より簡易な処理によって対象オブジェクトを検出する為の画像認識処理を実行することが可能となる。その結果、画像認識処理に必要となる処理時間を短時間化し、CPUの処理負荷を軽減することが可能となる。
【0014】
また、請求項2に記載の車両用対象物画像認識装置では、データベース化された基準オブジェクトに対する対象オブジェクトの相対角度を用いることによって、認識対象とする対象オブジェクトを検出する為の画像認識処理を実行する前に、撮像装置に対する該対象オブジェクトの相対角度を予め把握することが可能となる。その結果、従来より簡易な処理によって対象オブジェクトを検出する為の画像認識処理を実行することが可能となる。
【0015】
また、請求項3に記載の車両用対象物画像認識装置では、基準オブジェクトに対する対象オブジェクトの相対角度を記憶したデータベースを備えることによって、認識対象とする対象オブジェクトを検出する為の画像認識処理を実行する前に、撮像装置に対する該対象オブジェクトの相対角度を予め把握することが可能となる。その結果、従来より簡易な処理によって対象オブジェクトを検出する為の画像認識処理を実行することが可能となる。
【0016】
また、請求項4に記載の車両用対象物画像認識方法では、認識対象となる対象オブジェクトについて、予め基準オブジェクトに対する相対角度をデータベース化することによって、その後に対象オブジェクトを検出する為の画像認識処理を実行する場合において、撮像装置に対する該対象オブジェクトの相対角度を予め把握することが可能となる。従って、従来より簡易な処理によって対象オブジェクトを検出する為の画像認識処理を実行することが可能となる。その結果、画像認識処理に必要となる処理時間を短時間化し、CPUの処理負荷を軽減することが可能となる。
【0017】
更に、請求項5に記載のコンピュータプログラムでは、認識対象となる対象オブジェクトについて、予め基準オブジェクトに対する相対角度をデータベース化させることによって、その後に対象オブジェクトを検出する為の画像認識処理を実行させる場合において、撮像装置に対する該対象オブジェクトの相対角度を予め把握させることが可能となる。従って、従来より簡易な処理によって対象オブジェクトを検出する為の画像認識処理を実行させることが可能となる。その結果、画像認識処理に必要となる処理時間を短時間化し、CPUの処理負荷を軽減することが可能となる。
【図面の簡単な説明】
【0018】
【図1】本実施形態に係るナビゲーション装置を示したブロック図である。
【図2】路面標示DBの記憶領域の一例を示した図である。
【図3】オブジェクトDBの記憶領域の一例を示した図である。
【図4】対象オブジェクトと基準オブジェクトの一例を示した図である。
【図5】対象オブジェクトと中心線の一例を示した図である。
【図6】本実施形態に係る画像認識処理プログラムのフローチャートである。
【図7】本実施形態に係る画像認識処理プログラムのフローチャートである。
【図8】対象相対角度と基準相対角度の検出例を示した図である。
【発明を実施するための形態】
【0019】
以下、本発明に係る車両用対象物画像認識装置についてナビゲーション装置に具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係るナビゲーション装置1の概略構成について図1を用いて説明する。図1は本実施形態に係るナビゲーション装置1を示したブロック図である。
【0020】
図1に示すように本実施形態に係るナビゲーション装置1は、車両の現在位置を検出する現在位置検出部11と、各種のデータが記録されたデータ記録部12と、入力された情報に基づいて、各種の演算処理を行うナビゲーションECU13と、ユーザからの操作を受け付ける操作部14と、ユーザに対して地図や目的地までの案内経路を表示する液晶ディスプレイ15と、経路案内に関する音声ガイダンスを出力するスピーカ16と、プログラムを記憶した記憶媒体であるDVDを読み取るDVDドライブ17と、交通情報センタ等の情報センタとの間で通信を行う通信モジュール18と、から構成されている。また、ナビゲーション装置1には後述する基準オブジェクト及び対象オブジェクトを検出する為のバックカメラ19が接続されている。
【0021】
以下に、ナビゲーション装置1を構成する各構成要素について順に説明する。
現在位置検出部11は、GPS21、車速センサ22、ステアリングセンサ23、ジャイロセンサ24、高度計(図示せず)等からなり、現在の車両の位置、方位、車両の走行速度等を検出することが可能となっている。ここで、特に車速センサ22は、車両の移動距離や車速を検出する為のセンサであり、車両の車輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションECU13に出力する。そして、ナビゲーションECU13は発生するパルスを計数することにより車輪の回転速度や移動距離を算出する。尚、上記4種類のセンサをナビゲーション装置1が全て備える必要はなく、これらの内の1又は複数種類のセンサのみをナビゲーション装置1が備える構成としても良い。
【0022】
また、データ記録部12は、外部記憶装置及び記録媒体としてのハードディスク(図示せず)と、ハードディスクに記録された地図情報DB31、路面標示DB32、オブジェクトDB33、オブジェクト識別情報34、所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド(図示せず)とを備えている。
【0023】
ここで、地図情報DB31は、経路案内、交通情報案内及び地図表示に必要な各種地図データが記録されている。
また、地図データは、具体的には、道路(リンク)形状に関するリンクデータ、ノード点に関するノードデータ、施設等の地点に関する情報であるPOIデータ、各交差点に関する交差点データ、経路を探索するための探索データ、地点を検索するための検索データ、地図、道路、交通情報等の画像を液晶ディスプレイ15に描画するための画像描画データ等から構成されている。
【0024】
また、路面標示DB32は、路面上に形成されたオブジェクトである路面標示に関する路面表示情報が記憶されたDBである。ここで、図2は路面標示DB32の記憶領域の一例を示した図である。図2に示すように、路面標示DB32は、路面標示の位置を地図上で特定する座標データと、路面上に形成された路面標示の種類(例えば、停止線、横断歩道、文字列、最高速度)を識別する為の種類情報(識別子)と、路面標示に関連付けられた制御対象物(停止線、コーナ、交差点等)と、路面標示に関連付けられた制御対象物までの道なり距離から構成される。
【0025】
例えば、図2に示す例では、座標(x1,y1)には「横断歩道有り」の路面標示が形成されており、且つその路面標示には60m前方に制御対象物として「停止線」の路面標示が対応付けられていることを示す。そして、ナビゲーションECU13はバックカメラ19で撮像した撮像画像から路面標示DB32に記録されたいずれかの路面標示を認識した場合に、認識した路面標示に関連付けられた制御対象物までの道なり距離に基づいて車両から制御対象物までの詳細な距離を間接的に算出する。そして、算出された距離に基づいて案内や車両制御を行う。
【0026】
また、オブジェクトDB33は、本実施形態の画像認識処理で認識対象となるオブジェクトである対象オブジェクトについて、比較基準となるオブジェクトである基準オブジェクトに対する相対角度が、該対象オブジェクトに対応づけて記憶されたDBである。ここで、本実施形態では、対象オブジェクトは道路の路面上に形成された路面標示(例えば、停止線、横断歩道、文字列、最高速度等)とする。また、基本オブジェクトは区画線(車道中央線、車線境界線、車道外側線等)とするが、区画線以外のオブジェクトを基本オブジェクトとしても良い。ここで、図3はオブジェクトDB33の記憶領域の一例を示した図である。図3に示すように、オブジェクトDB33は、対象オブジェクトの位置を地図上で特定する座標データと、対象オブジェクトの種類(例えば、停止線、横断歩道、文字列、最高速度)を識別する為の種類情報(識別子)と、基準オブジェクトに対する相対角度(以下、比較相対角度という)とから構成される。
尚、基準オブジェクトは、バックカメラ19に対する相対角度が常時確実に検出できるオブジェクトとする。本実施形態では上述のように区画線(車道中央線、車線境界線、車道外側線等)を用いる。ここで、区画線は、背景である道路路面の色と明度が大きく異なる白線であって、また直線部分が多い。その結果、エッジ処理のベクトルのズレ量が小さく、角度の検出が容易になる利点がある。また、区画線は、ほとんどの道路に配置されているので、どのような道路を車両が走行する場合であっても検出できる利点がある。
【0027】
例えば、図3に示す例では、座標(x1,y1)には「横断歩道有り」の路面標示が対象オブジェクトとして存在し、且つその対象オブジェクトは基準オブジェクトに対する比較相対角度が5度であることを示す。また、比較相対角度は、対象オブジェクトの中心線と基準オブジェクトの中心線のなす角度によって定義される。ここで、図4は対象オブジェクトが「横断歩道有り」の路面標示であって、基準オブジェクトが車道外側線である場合の例である。図4に示すように、基準オブジェクト52の中心線54に対する対象オブジェクト51の中心線53の角度θが比較相対角度となる。尚、対象オブジェクト51の中心線53は、図5に示すように対象オブジェクト51の左右方向の中心を通る中心線となる。例えば、最高速度のように2つの数字が平行に並んで形成される対象オブジェクト51については、各数字の間を通る線となる。また、一の文字や記号から形成される対象オブジェクト51については、文字や記号の中心を通る線となる。尚、「止まれ」のような文字列から形成されるオブジェクトについては、文字列ではなく文字列を構成する文字毎にオブジェクトDB33に記憶しても良い。
そして、ナビゲーションECU13はオブジェクトDB33に記憶された対象オブジェクトに関する情報に基づいて、車両周辺に位置する対象オブジェクトのバックカメラ19の光軸に対する相対角度を予め検出する。そして、予め検出された相対角度に基づいてバックカメラ19で撮像した撮像画像に含まれる対象オブジェクトの簡略化した画像認識処理を行う。具体的には、パターンマッチングによる画像認識処理が行われ、その際のテンプレートマッチングにおけるテンプレートの角度の初期角度として算出された相対角度を設定して走査を開始する。
尚、路面標示DB32とオブジェクトDB33は同一のDBにより構成しても良い。
【0028】
また、オブジェクト識別情報34は、路面上に形成されたオブジェクトである路面標示の画像認識処理に用いられる情報である。具体的には、路面標示の種類(例えば、停止線、横断歩道、文字列、最高速度)毎のテンプレートが記憶される。
【0029】
一方、ナビゲーションECU(エレクトロニック・コントロール・ユニット)13は、目的地が選択された場合に現在位置から目的地までの案内経路を設定する案内経路設定処理、車両に設置されたバックカメラ19により車両の周辺を撮像する撮像処理、撮像された撮像画像中に含まれる基準オブジェクトのバックカメラ19の光軸に対する相対角度(以下、基準相対角度という)を検出する処理、撮像された撮像画像中に含まれる対象オブジェクトのバックカメラ19の光軸に対する相対角度(以下、対象相対角度という)を検出する処理、基準相対角度と対象相対角度とに基づいて、基準オブジェクトに対する対象オブジェクトの比較相対角度を算出する処理、算出された比較相対角度を対象オブジェクトに対応づけてオブジェクトDB33に記憶する処理、オブジェクトDB33に基づいて車両の周辺に位置する対象オブジェクトのバックカメラ19の光軸に対する相対角度を検出する処理、検出された相対角度に基づいて車両の周辺に位置する対象オブジェクトに対する簡略化された認識処理を行う処理、認識された対象オブジェクトに基づいて案内や車両制御を行う処理等のナビゲーション装置1の全体の制御を行う電子制御ユニットである。そして、演算装置及び制御装置としてのCPU41、並びにCPU41が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるRAM42、制御用のプログラムのほか、後述の画像認識処理プログラム(図6、図7参照)等が記録されたROM43、ROM43から読み出したプログラムを記憶するフラッシュメモリ44等の内部記憶装置を備えている。
【0030】
操作部14は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ(図示せず)から構成される。そして、ナビゲーションECU13は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、液晶ディスプレイ15の前面に設けたタッチパネルによって構成することもできる。
【0031】
また、液晶ディスプレイ15には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの走行予定経路、走行予定経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。
【0032】
また、スピーカ16は、ナビゲーションECU13からの指示に基づいて走行予定経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。
【0033】
また、DVDドライブ17は、DVDやCD等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて地図情報DB31や路面標示DB32の更新等が行われる。
【0034】
また、通信モジュール18は、交通情報センタ、例えば、VICS(登録商標:Vehicle Information and Communication System)センタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やDCMが該当する。
【0035】
また、バックカメラ19は、例えばCCD等の固体撮像素子を用いたものであり、車両の後方に装着されたナンバープレートの上中央付近に取り付けられ、視線方向を水平より所定角度下方に向けて設置される。そして、走行時に車両の進行方向と逆方向となる車両後方を撮像する。そして、撮像画像の画像認識処理を行うことによって、車両の周囲にある対象オブジェクトや基準オブジェクトの種類や位置を検出する。そして、検出された対象オブジェクトや基準オブジェクトに基づいてオブジェクトDB33を作成したり、車両から制御対象物(停止線、コーナ、交差点等)までの詳細な道なり距離を間接的に算出する。
【0036】
続いて、前記構成を有するナビゲーション装置1において実行する画像認識処理プログラムについて図6及び図7に基づき説明する。図6及び図7は本実施形態に係る画像認識処理プログラムのフローチャートである。ここで、画像認識処理プログラムは車両のACCがONされた後に実行され、バックカメラ19で撮像した撮像画像に基づいてオブジェクトDB33を作成するとともに、作成されたオブジェクトDB33に基づいて対象オブジェクトの簡略化した画像認識処理を行うプログラムである。尚、以下の図6、図7にフローチャートで示されるプログラムは、ナビゲーションECU13が備えているRAM42、ROM43等に記憶されており、CPU41により実行される。
【0037】
画像認識処理プログラムでは、先ずステップ(以下、Sと略記する)1において、CPU41は、車両情報を取得する。前記S1で取得される車両情報としては、車両の現在位置、車両の方位、バックカメラ19の光軸方向に関する情報がある。尚、車両の現在位置や方位については、GPS21やジャイロセンサ24の検出結果に基づいて取得する。更に、車両の現在位置については、地図情報DB31に記憶された地図情報を用いて地図上で車両の現在位置を特定するマップマッチング処理についても行う。一方、バックカメラ19の光軸方向については、車両の方位とバックカメラ19の設計値に基づいて算出される。尚、バックカメラ19の設計値についてはROM43等に記憶される。
【0038】
次に、S2でCPU41は、前記S1で取得した車両の現在位置及び方位に基づいて、車両周辺にある対象オブジェクトに関する情報を取得する。尚、本実施形態では対象オブジェクトは路面上に形成された路面標示である。従って、前記S2でCPU41は、路面標示DB32(図2参照)に記録された路面標示の位置情報に基づいて、車両の周辺(例えば、車両の前方2000m〜後方500m)に位置する路面標示の情報(路面標示の位置座標、識別子、関連付けられた制御対象物、制御対象物までの道なり距離)を路面標示DB32から読み出す。
【0039】
続いて、S3でCPU41は、前記S1で取得した車両の現在位置及び方位と前記S2で取得した対象オブジェクトに関する情報に基づいて、前記S2で情報を取得した対象オブジェクトの内、特に車両の周囲(車両の前方30m〜後方20m)に位置する対象オブジェクトがあるか否かを判定する。そして、車両の周囲に対象オブジェクトがあると判定された場合(S3:YES)には、S4へと移行する。一方、車両の周囲に対象オブジェクトがないと判定された場合(S3:NO)には、当該画像認識処理プログラムを終了する。
【0040】
S4においてCPU41は、車両の周囲に位置する対象オブジェクトが、既にオブジェクトDB33(図3)に情報が記憶されている対象オブジェクトか否か判定する。そして、車両の周囲に位置する対象オブジェクトが、既にオブジェクトDB33に情報が記憶されている対象オブジェクトであると判定された場合(S4:YES)には、後述のS11へと移行する。一方、車両の周囲に位置する対象オブジェクトが、まだオブジェクトDB33に情報が記憶されていない対象オブジェクトであると判定された場合(S4:NO)には、S5へと移行する。尚、S5以降ではオブジェクトDB33の作成に関する処理が実行され、S11以降ではオブジェクトDB33を用いた対象オブジェクトの画像認識処理が実行される。
【0041】
S5においてCPU41は、バックカメラ19により撮像された撮像画像に対して通常のパターンマッチングによる画像認識処理を実行し、撮像画像中に含まれる対象オブジェクトを検出する。尚、通常のパターンマッチングによる画像認識処理については既に公知であるので、詳細な説明は省略する。
【0042】
次に、S6においてCPU41は、前記S5で実施された通常のパターンマッチングによる画像認識処理によって、撮像画像中に含まれる対象オブジェクトが検出でき、且つ、バックカメラ19の光軸方向に対する対象オブジェクトの相対角度(対象相対角度)αを検出できたか否か判定する。ここで、対象相対角度αは、バックカメラ19の光軸方向と対象オブジェクトの中心線のなす角度によって定義される。図8は車両61が対象オブジェクトとして「横断歩道有り」の路面標示62を検出した場合の例である。図8に示すように、バックカメラ19の光軸Lに対する路面標示62の中心線63の角度が対象相対角度αとなる。
【0043】
そして、バックカメラ19の光軸方向に対する対象オブジェクトの対象相対角度αが検出できたと判定された場合(S6:YES)には、S7へと移行する。一方、バックカメラ19の光軸方向に対する対象オブジェクトの対象相対角度αが検出できなかったと判定された場合(S6:NO)には、当該画像認識処理プログラムを終了する。
【0044】
S7においてCPU41は、バックカメラ19により撮像された撮像画像に対して通常の特徴点マッチングによる画像認識処理を実行し、撮像画像中に含まれる基準オブジェクトを検出する。尚、本実施形態では基準オブジェクトは路面上に形成される区画線(車道中央線、車線境界線、車道外側線等)である。尚、通常の特徴点マッチングによる画像認識処理については既に公知であるので、詳細な説明は省略する。
【0045】
次に、S8においてCPU41は、前記S7で実施された通常の特徴点マッチングによる画像認識処理によって、撮像画像中に含まれる基準オブジェクトが検出でき、且つ、バックカメラ19の光軸方向に対する基準オブジェクトの相対角度(基準相対角度)βを検出できたか否か判定する。ここで、基準相対角度βは、バックカメラ19の光軸方向と基準オブジェクトの中心線のなす角度によって定義される。図8は車両61が基準オブジェクトとして車道外側線64を検出した場合の例である。図8に示すように、バックカメラ19の光軸Lに対する車道外側線64の中心線65の角度が基準相対角度βとなる。
【0046】
そして、バックカメラ19の光軸方向に対する基準オブジェクトの基準相対角度βが検出できたと判定された場合(S8:YES)には、S9へと移行する。一方、バックカメラ19の光軸方向に対する基準オブジェクトの基準相対角度βが検出できなかったと判定された場合(S8:NO)には、当該画像認識処理プログラムを終了する。
【0047】
S9においてCPU41は、前記S5及びS7の画像認識処理によって検出された対象相対角度αと基準相対角度βに基づいて、基準オブジェクトに対する対象オブジェクトの相対角度(比較相対角度)θを算出する。具体的には、以下の式(1)により算出される。
θ=β−α・・・・(1)
(α:対象相対角度、β:基準相対角度、θ:比較相対角度)
【0048】
続いて、S10においてCPU41は、前記S9で算出された比較相対角度θを検出された対象オブジェクトに対応づけてオブジェクトDB33(図3)に記憶する。それによって、オブジェクトDB33を作成する。
【0049】
一方、前記S4において、車両の周囲に位置する対象オブジェクトが、既にオブジェクトDB33に情報が記憶されている対象オブジェクトであると判定された場合(S4:YES)に実行されるS11では、CPU41は、車両の周囲に位置する対象オブジェクトの情報(位置座標、識別子、比較相対角度θ)をオブジェクトDB33から取得する。
【0050】
次に、S12においてCPU41は、バックカメラ19により撮像された撮像画像に対して通常の特徴点マッチングによる画像認識処理を実行し、撮像画像中に含まれる基準オブジェクトを検出する。尚、本実施形態では基準オブジェクトは路面上に形成される区画線(車道中央線、車線境界線、車道外側線等)である。尚、通常の特徴点マッチングによる画像認識処理については既に公知であるので、詳細な説明は省略する。
【0051】
続いて、S13においてCPU41は、前記S12で実施された通常の特徴点マッチングによる画像認識処理によって、撮像画像中に含まれる基準オブジェクトが検出でき、且つ、バックカメラ19の光軸方向に対する基準オブジェクトの相対角度(第1相対角度)γを検出できたか否か判定する。ここで、第1相対角度γは、基準相対角度βと同様にバックカメラ19の光軸方向と基準オブジェクトの中心線のなす角度によって定義される。
【0052】
そして、バックカメラ19の光軸方向に対する基準オブジェクトの第1相対角度γが検出できたと判定された場合(S13:YES)には、S14へと移行する。一方、バックカメラ19の光軸方向に対する基準オブジェクトの第1相対角度γが検出できなかったと判定された場合(S13:NO)には、S16へと移行する。
【0053】
S14でCPU41は、前記S11においてオブジェクトDB33から取得した情報(位置座標、識別子、比較相対角度θ)と前記S12の画像認識処理により検出した第1相対角度γに基づいて、車両周辺に位置する対象オブジェクトのバックカメラ19の光軸方向に対する相対角度(第2相対角度)φを算出する。具体的には、以下の式(2)により算出される。
φ=γ−θ・・・・(2)
(φ:第2相対角度、γ:第1相対角度、θ:比較相対角度)
【0054】
続いて、S15でCPU41は、前記S14で算出されたバックカメラ19の光軸方向に対する対象オブジェクトの第2相対角度φを用いて、バックカメラ19により撮像された撮像画像に対して簡略化したパターンマッチングによる画像認識処理を実行し、撮像画像中に含まれる対象オブジェクトを検出する。尚、簡略化したパターンマッチングによる画像認識処理では、テンプレートマッチングにおけるテンプレートの角度の初期角度として算出された第2相対角度φを設定して走査を開始する。そして、第2相対角度を中心にテンプレートの角度を変化させることによってテンプレートマッチングを行う。その結果、初期角度を固定角度(例えば0度)から開始する通常のパターンマッチングによる画像認識処理と比較して処理時間を簡略化することができる。また、CPU41の処理負荷も軽減することが可能となる。その後、S17の処理へと移行する。
【0055】
S16においてCPU41は、バックカメラ19により撮像された撮像画像に対して通常のパターンマッチングによる画像認識処理を実行し、撮像画像中に含まれる対象オブジェクトを検出する。尚、通常のパターンマッチングによる画像認識処理については既に公知であるので、詳細な説明は省略する。その後、S17の処理へと移行する。
【0056】
S17においてCPU41は、前記S15で実施された簡略化したパターンマッチングによる画像認識処理又は前記S16で実施された通常のパターンマッチングによる画像認識処理によって、撮像画像中に含まれる対象オブジェクトが検出できたか否か判定する。
【0057】
そして、対象オブジェクトが検出できたと判定された場合(S17:YES)には、S18へと移行する。一方、対象オブジェクトが検出できなかったと判定された場合(S17:NO)には、当該画像認識処理プログラムを終了する。
【0058】
S18においてCPU41は、検出された対象オブジェクトに基づく案内や車両制御処理を実行する。例えば、検出された対象オブジェクトに関連付けられた制御対象物(停止線、コーナ、交差点等)までの道なり距離に基づいて車両から制御対象物までの詳細な距離を間接的に算出し、算出された距離に基づいて案内や車両制御を行う。
【0059】
以上詳細に説明した通り、本実施形態に係るナビゲーション装置1、ナビゲーション装置1による車両用対象物画像認識方法及びナビゲーション装置1で実行されるコンピュータプログラムでは、バックカメラ19により撮像された撮像画像中に含まれる対象オブジェクトのバックカメラ19の光軸方向に対する相対角度(対象相対角度)を検出し(S5)、同じく、バックカメラ19により撮像された撮像画像中に含まれる基準オブジェクトのバックカメラ19の光軸方向に対する相対角度(基準相対角度)を検出し(S7)、検出された基準相対角度と対象相対角度とに基づいて、基準オブジェクトに対する対象オブジェクトの相対角度(比較相対角度)を算出し(S9)、算出された比較相対角度を対象オブジェクトに対応づけてオブジェクトDB33に記憶し、オブジェクトDB33を作成する(S10)。その後に、オブジェクトDB33に記憶された対象オブジェクトを検出する為の画像認識処理を実行する場合において、撮像画像中に含まれる基準オブジェクトのバックカメラ19の光軸方向に対する相対角度(第1相対角度)を検出し(S12)、検出された第1相対角度とオブジェクトDB33に記憶された比較相対角度とに基づいて対象オブジェクトのバックカメラ19の光軸方向に対する相対角度(第2相対角度)を算出し(S14)、算出された第2相対角度に基づいて、対象オブジェクトを検出する為の撮像画像に対する画像認識処理を行う(S15)ので、対象オブジェクトを検出する為の画像認識処理(S15)を実行する場合において、バックカメラ19の光軸方向に対する該対象オブジェクトの相対角度を予め把握することが可能となる。従って、従来より簡易な処理によって対象オブジェクトを検出する為の画像認識処理を実行することが可能となる。その結果、画像認識処理に必要となる処理時間を短時間化し、CPUの処理負荷を軽減することが可能となる。
尚、簡略化したパターンマッチングによる画像認識処理(S15)では、テンプレートマッチングにおけるテンプレートの角度の初期角度として算出された第2相対角度を設定して走査を開始する。そして、第2相対角度を中心にテンプレートの角度を変化させることによってテンプレートマッチングを行う。その結果、初期角度を固定角度(例えば0度)から開始する通常のパターンマッチングによる画像認識処理と比較して処理時間を簡略化することができる。
【0060】
尚、本発明は前記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、本実施形態では、対象オブジェクトとして路面標示(停止線、横断歩道、文字列、最高速度等)を検出する構成としているが、対象オブジェクトは路面標示に限られることなく、道路上又は道路付近において位置や角度が固定されている物であればよく、障害物、建造物、他の道路標識などでも良い。
【0061】
同じく、本実施形態では区画線を基準オブジェクトとして用いているが、道路上又は道路付近において位置や角度が固定されている物であれば他の物でも良い。また、基準オブジェクトは一種類に限定されることなく、周辺の道路形状や環境によって異なる基準オブジェクトを用いるように構成しても良い。その際には、オブジェクトDB33において基準オブジェクトを特定する情報についても比較相対角度に対応づけて記憶する必要がある。
【0062】
また、本実施形態では画像認識処理によって対象オブジェクトを検出した後に、検出された対象オブジェクトに関連付けられた制御対象物(停止線、コーナ、交差点等)までの道なり距離に基づいて車両から制御対象物までの詳細な距離を間接的に算出し、算出された距離に基づいて案内や車両制御を行うこととしているが、対象オブジェクトに基づく他の案内や車両制御を行っても良い。
【0063】
また、本実施形態では、撮像装置に対する相対角度を算出する際に、バックカメラ19の光軸に対する相対角度を算出しているが、バックカメラ19に基づく他の基準方向に対する相対角度を算出しても良い。
【符号の説明】
【0064】
1 ナビゲーション装置
13 ナビゲーションECU
41 CPU
42 ROM
43 RAM
19 バックカメラ
33 オブジェクトDB
51 対象オブジェクト
52 基準オブジェクト

【特許請求の範囲】
【請求項1】
車両に設置された撮像装置により前記車両の周辺を撮像する撮像手段と、
前記撮像手段により撮像された撮像画像中に含まれる基準オブジェクトの前記撮像装置に対する相対角度を基準相対角度として検出する基準相対角度検出手段と、
前記撮像手段により撮像された撮像画像中に含まれる対象オブジェクトの前記撮像装置に対する相対角度を対象相対角度として検出する対象相対角度検出手段と、
前記基準相対角度と前記対象相対角度とに基づいて、前記基準オブジェクトに対する前記対象オブジェクトの相対角度を比較相対角度として算出する比較相対角度算出手段と、
前記比較相対角度を前記対象オブジェクトに対応づけて記憶媒体に記憶する相対角度記憶手段と、を有することを特徴とする車両用対象物画像認識装置。
【請求項2】
前記車両の周辺に前記対象オブジェクトが位置するか否かを判定する対象オブジェクト判定手段と、
前記対象オブジェクト判定手段によって前記車両の周辺に前記対象オブジェクトが位置すると判定された場合に、前記撮像手段により撮像された撮像画像中に含まれる基準オブジェクトの前記撮像装置に対する相対角度を第1相対角度として検出する第1相対角度検出手段と、
前記記憶媒体に記憶された前記比較相対角度の内、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトに対応づけて記憶された前記比較相対角度を抽出する角度抽出手段と、
前記角度抽出手段によって抽出された前記比較相対角度と前記第1相対角度とに基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトの前記撮像装置に対する相対角度を第2相対角度として検出する第2相対角度検出手段と、
前記第2相対角度に基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトを検出する為の前記撮像画像に対する画像認識処理を行う対象オブジェクト認識手段と、を有することを特徴とする請求項1に記載の車両用対象物画像認識装置。
【請求項3】
車両に設置された撮像装置により車両の周辺を撮像する撮像手段と、
基準オブジェクトに対する対象オブジェクトの相対角度を比較相対角度として前記対象オブジェクトに対応づけて記憶媒体に記憶する相対角度記憶手段と、
車両の周辺に前記対象オブジェクトが位置するか否かを判定する対象オブジェクト判定手段と、
前記対象オブジェクト判定手段によって前記車両の周辺に前記対象オブジェクトが位置すると判定された場合に、前記撮像手段により撮像された撮像画像中に含まれる基準オブジェクトの前記撮像装置に対する相対角度を第1相対角度として検出する第1相対角度検出手段と、
前記記憶媒体に記憶された前記比較相対角度の内、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトに対応づけて記憶された前記比較相対角度を抽出する角度抽出手段と、
前記角度抽出手段によって抽出された前記比較相対角度と前記第1相対角度とに基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトの前記撮像装置に対する相対角度を第2相対角度として検出する第2相対角度検出手段と、
前記第2相対角度に基づいて、前記対象オブジェクト判定手段によって前記車両の周辺に位置すると判定された前記対象オブジェクトを検出する為の前記撮像画像に対する画像認識処理を行う対象オブジェクト認識手段と、を有することを特徴とする車両用対象物画像認識装置。
【請求項4】
車両に設置された撮像装置により車両の周辺を撮像する撮像ステップと、
前記撮像ステップにより撮像された撮像画像中に含まれる基準オブジェクトの前記撮像装置に対する相対角度を基準相対角度として検出する基準相対角度検出ステップと、
前記撮像ステップにより撮像された撮像画像中に含まれる対象オブジェクトの前記撮像装置に対する相対角度を対象相対角度として検出する対象相対角度検出ステップと、
前記基準相対角度と前記対象相対角度とに基づいて、前記基準オブジェクトに対する前記対象オブジェクトの相対角度を比較相対角度として算出する比較相対角度算出ステップと、
前記比較相対角度を前記対象オブジェクトに対応づけて記憶媒体に記憶する相対角度記憶ステップと、を有することを特徴とする車両用対象物画像認識方法。
【請求項5】
コンピュータに搭載され、
車両に設置された撮像装置により車両の周辺を撮像する撮像機能と、
前記撮像機能により撮像された撮像画像中に含まれる基準オブジェクトの前記撮像装置に対する相対角度を基準相対角度として検出する基準相対角度検出機能と、
前記撮像機能により撮像された撮像画像中に含まれる対象オブジェクトの前記撮像装置に対する相対角度を対象相対角度として検出する対象相対角度検出機能と、
前記基準相対角度と前記対象相対角度とに基づいて、前記基準オブジェクトに対する前記対象オブジェクトの相対角度を比較相対角度として算出する比較相対角度算出機能と、
前記比較相対角度を前記対象オブジェクトに対応づけて記憶媒体に記憶する相対角度記憶機能と、
を実行させることを特徴とするコンピュータプログラム。




【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2011−198002(P2011−198002A)
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願番号】特願2010−63790(P2010−63790)
【出願日】平成22年3月19日(2010.3.19)
【出願人】(000100768)アイシン・エィ・ダブリュ株式会社 (3,717)
【Fターム(参考)】