地物認識装置
【課題】道路地図データベースに登録されている地物と対応付けて認識できる地物認識装置を提供する。
【解決手段】移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像に基づいて複数の特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、画像由来位置関係と地図由来位置関係とを照合することにより、近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている特定種地物とを対応付ける照合手段と、を備える地物認識装置。
【解決手段】移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像に基づいて複数の特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、画像由来位置関係と地図由来位置関係とを照合することにより、近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている特定種地物とを対応付ける照合手段と、を備える地物認識装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、移動体に搭載される地物認識装置、地物認識方法及び地物認識プログラムに関し、特に移動体の近傍に存在する信号機等の地物を認識する技術に関する。
【背景技術】
【0002】
特許文献1には、信号機の色や道路標識を画像解析により認識し、信号機の色や道路標識の位置や種類など地物の属性に応じて車両を制御する方法が開示されている。しかし、特許文献1に記載された方法によると、例えば車両の前方に複数の信号機が配列されており、車載カメラによってそれらの信号機が一画面内に撮像される場合には、車両を制御するために色を判定すべき信号機がどれであるのかを判定することが困難であるという問題がある。すなわち、この場合、車両を制御するために色を判定すべき信号機は、車両が走行している道路上にあって車両の前方にあり車両から最も近い信号機であるが、そのような信号機を画像解析だけで認識することは困難である。
【0003】
【特許文献1】特開平11−306498号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
本発明は上述した問題を解決するための創作されたものであって、移動体に搭載されたカメラユニットから取得される画像に表れる複数の同一種地物を、道路地図データベースに登録されている地物と対応付けて認識できる地物認識装置、地物認識方法及び地物認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
(1)上記目的を達成するための地物認識装置は、移動体の現在位置を取得する現在位置取得手段と、前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定する画像解析手段と、前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、を備える。
移動体に搭載されたカメラユニットから取得される近傍画像に表れる地物の近傍画像内の位置は、地物と移動体の位置関係に応じて変化する。しかし、地物と移動体の位置関係が変化するとしても、複数の地物間の現実の位置関係によって、近傍画像に表れるそれら複数の地物間の近傍画像内での位置関係は決まる。したがって、移動体に搭載されたカメラユニットから取得される近傍画像を解析することにより、地物間の現実の位置関係も特定できる。一方、地物間の現実の位置関係は、道路地図データベースに登録されている地物の位置の解析によっても特定可能である。道路地図データベースに登録されている地物のうち、移動体に搭載されたカメラユニットから取得される近傍画像に表れる地物は、移動体の近傍に存在する地物であって、移動体の現在位置に基づいて特定可能である。この地物認識装置は、移動体の近傍に存在する複数の特定種地物の位置を道路地図データベースから取得し、取得した複数の位置の解析によって特定種地物間の位置関係である地図由来位置関係を特定する。さらに、この地物認識装置は、移動体に搭載されたカメラユニットから取得した近傍画像に表れている複数の特定種地物間の位置関係である画像由来位置関係を近傍画像の解析によって特定する。この地物認識装置によると、このようにして特定された地図由来位置関係と画像由来位置関係とを照合することにより、移動体の近傍画像に表れている複数の同一種地物を道路地図データベースに登録されている地物に対応付けて認識することができる。
【0006】
(2)上記目的を達成するための地物認識装置は、前記道路地図データベースと前記現在位置とに基づいて、前記道路地図データベースに登録されている前記特定種地物の少なくとも1つを目標地物として特定する目標特定手段と、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物との対応に基づいて、前記目標地物に対応する、前記近傍画像に表れている前記特定種地物を選抜する目標選抜手段と、前記近傍画像の解析によって特定される前記目標地物の属性を前記移動体の制御部に出力する出力手段と、をさらに備えてもよい。
移動体を信号機、停止線等の地物を目標として制御しようとするとき、道路網上における移動体の現在位置によって、道路網上にある地物のうちで目標となる地物が決まる。この地物認識装置によると、道路地図データベースと現在位置とに基づいて特定される目標地物の属性を移動体の制御部に出力することができる。
【0007】
(3)上記目的を達成するための地物認識装置において、前記目標地物の属性は前記移動体に対する前記目標地物の位置であってもよい。
この地物認識装置が搭載された移動体の制御部は、移動体に対する目標地物の位置によって制御量を設定することができる。
【0008】
(4)上記目的を達成するための地物認識装置において、前記目標地物の属性は信号機の色であってもよい。
この地物認識装置が搭載された移動体の制御部は、信号機の色によって制御量を設定することができる。尚、信号機の色とは信号機の点灯している点灯部の色である。
【0009】
(5)上記目的を達成するための地物認識装置は、前記カメラユニットの絶対撮影方向を特定する絶対撮影方向特定手段をさらに備えてもよい。この地物認識装置において、前記地物情報取得手段は、前記特定種地物の位置とともに前記特定種地物の絶対方向を前記道路地図データベースから取得してもよいし、前記照合手段は、前記画像由来位置関係と前記地図由来位置関係とを前記絶対方向を用いて照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付けてもよい。
移動体に搭載されたカメラユニットから取得される近傍画像に表れる特定種地物を認識するためには、特定種地物の形態属性に基づいたパターンマッチングなどが必要になる。しかし、移動体に搭載されたカメラユニットから取得される画像に表れる地物の形状は地面を基準として地物の向いている方向(絶対方向)と地面を基準としてカメラユニットが撮影する方向(絶対撮影方向)とに応じて変わる。この地物認識装置によると、画像由来位置関係と地図由来位置関係とを照合するとき、特定種地物の絶対方向を用いるため、近傍画像に表れている特定種地物と道路地図データベースに登録されている特定種地物とを正確に対応付けることができる。尚、位置、絶対撮影方向又は絶対方向というとき、それらは現実空間を二次元空間で捉えた場合の位置又は方向を意味する。
【0010】
(6)上記目的を達成するための地物認識方法は、移動体の現在位置を取得し、前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得し、複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定し、前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得し、前記近傍画像に表れている複数の前記特定種地物の前記移動体に対する位置を前記近傍画像の解析によって特定し、前記近傍画像の解析によって特定された前記移動体に対する複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定し、前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける、ことを含む。
この地物認識方法によると、移動体の近傍画像に表れている複数の同一種地物を道路地図データベースに登録されている地物に対応付けて認識することができる。
【0011】
(7)上記目的を達成するための地物認識プログラムは、移動体の現在位置を取得する現在位置取得手段と、前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、前記近傍画像に表れている複数の前記特定種地物の前記移動体に対する位置を前記近傍画像の解析によって特定する画像解析手段と、前記近傍画像の解析によって特定された前記移動体に対する複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、としてコンピュータを機能させる。
この地物認識プログラムによると、移動体の近傍画像に表れている複数の同一種地物を道路地図データベースに登録されている地物に対応付けて認識することができる。
【0012】
尚、請求項に記載された方法の各動作の順序は、技術上の阻害要因がない限り、記載順に限定されるものではなく、どのような順番で実行されてもよく、また同時に実行されてもよい。また、本発明に備わる複数の手段の各機能は、構成自体で機能が特定されるハードウェア資源、プログラムにより機能が特定されるハードウェア資源、又はそれらの組み合わせにより実現される。また、これら複数の手段の各機能は、各々が物理的に互いに独立したハードウェア資源で実現されるものに限定されない。
【発明を実施するための最良の形態】
【0013】
以下、実施例に基づいて本発明の実施の形態を説明する。
[地物認識装置のハードウェア構成]
図2は、本発明を適用した地物認識装置1を示すブロック図である。地物認識装置1は、自動車、オートバイ等の移動体としての車両に搭載されるナビゲーションシステムとして構成されている。
【0014】
出力手段としてのインタフェース15は、AD変換器、DA変換器等で構成され、車両に搭載された外部ユニットと地物認識装置1との間でのデータの転送を制御する入出力機構である。
ハードディスク装置(HDD)18には、道路地図データベース及び地物認識プログラムが格納されている。道路地図データベースは、CD、DVD等の他の大容量不揮発性記憶媒体に格納されていてもよい。地物認識プログラムはROM20に格納されていてもよい。道路地図データベース及び地物認識プログラムは、通信回線を介してダウンロードしたり、リムーバブルメモリから読み込むことにより、地物認識装置1にインストールすることができる。
【0015】
方位センサ16は推測航法に用いる地磁気センサ、左右車輪速度差センサ、振動ジャイロ、ガスレートジャイロ、光ファイバジャイロなどで構成され、自車の進行方向を検出する。
GPSユニット14は、衛星航法に用いる3個または4個の衛星から送られてくる軌道データを受信し、自車の現在位置の緯度経度データを出力するためのアンテナ、ASIC等で構成される。
【0016】
カメラユニット10は、CCDイメージセンサなどのカラー撮像素子とその駆動回路と画像信号処理回路とを備えている所謂単眼カメラである。カメラユニット10は車両の外界の前方視界を表すディジタルカラー画像が所定のフレームレートで生成する。以下、車両の外界の前方視界を表すディジタルカラー画像を単に近傍画像というものとする。
速度センサ12は、推測航法に用いられる。単位時間当たりの車輪の回転数から求まる車速を時間で積分することにより走行距離が求まる。電波や超音波を用いたドップラ対地速度センサ、光と空間フィルタを用いた対地速度センサを用いて走行距離を求めてもよい。
【0017】
ROM20は、フラッシュメモリなどの不揮発性記憶媒体であって、ブートプログラムが格納されている。
CPU22は、ROM20及びHDD18に格納されている各種のプログラムを実行することにより、現在位置取得手段、地物情報取得手段、地図由来位置関係特定手段、画像取得手段、画像解析手段、画像由来位置関係特定手段、照合手段、目標特定手段、目標選抜手段、出力手段、および絶対撮影方向特定手段として機能する。
【0018】
RAM24は、揮発性記憶媒体であって、CPU22に実行されるプログラムやプログラムの処理対象データが一時的に格納されるワークメモリとして機能する。
移動体の制御部としてのAT制御ユニット26は、オートマチックトランスミッションの油圧回路に設けられた各種の電磁弁及び電動ポンプを駆動するための駆動回路及びECUを備えている。
移動体の制御部としてのブレーキ制御ユニット28は、ブレーキを駆動するための油圧回路に設けられた各種の電磁弁及び電動ポンプを駆動するための駆動回路及びECUを備えている。
【0019】
[地物認識プログラムの構成]
図3は地物認識プログラム32の構成を示すブロック図である。
地物認識プログラム32によって利用される道路地図データベース(DB)42は、グラフ構造で地図をディジタル表現した情報で構成されるデータベースであって、道路網上の自車の現在位置の特定、地物の位置の特定などに用いられる。道路地図DB42では、交差点、合流点、曲がり点、行き止まり点などはノードであり、道路はノードとノードを結ぶリンクとして定義されている。また各リンクには信号機の有無、距離、制限速度、レーン数、幅員、道路種別(高速道路、一般道など)などが属性情報として定義され、各ノードにはノードの位置を表す緯度経度などが属性情報として定義されている。リンクに信号機が有る場合、信号機の点灯部の位置を表す緯度経度、点灯部の高さを表す絶対高さ、点灯部が向いている方位を表す絶対方向等がそのリンクに関連付けて定義されている。これらの他、例えば点灯部の指向性(視野角)に関する情報が信号機の属性として定義されていてもよい。
【0020】
地物認識プログラム32によって利用されるロケーティングモジュール40は、CPU20を現在位置取得手段として機能させるプログラム部品である。ロケーティングモジュール40は、GPSユニット14、速度センサ12及び方位センサ16の出力に基づいて衛星航法及び推測航法を併用しながら自車の現在位置を特定する。
画像認識モジュール38は、CPU22を画像取得手段及び画像解析手段として機能させるプログラム部品である。画像認識モジュール38は、カメラユニット10から出力される近傍画像を解析し、近傍画像に表れている特定種地物としての信号機を検出し、近傍画像内において信号機の点灯部が表れている位置と、信号機の色とを特定する。近傍画像の解析によって信号機を検出する方法としては、構造マッチング、テンプレートマッチング、弛緩法などのいかなるパターン認識方法をも採用しうる。減速、加速、停止、操舵などを制御するための目標となる種類の地物である目標種地物としては、信号機、停止線等の各種の道路標識が考えられるが、本実施形態では信号機が目標種地物として説明される。目標種地物の属性としては、道路標識の種類、状態、自車からの距離、自車からみて存在する方向等が考えられるが、本実施形態では信号機の色と自車に対する位置として説明される。
【0021】
画像データ管理モジュール36は、画像認識モジュール38の実行によって特定された信号機の近傍画像内の位置と色とを信号機毎に認識データ30としてRAM24に蓄積し、制御目標判定モジュール34のリクエストに応じて近傍画像に表れている特定の信号機について色と近傍画像内の位置とを制御目標判定モジュール34に渡す。
制御目標判定モジュール34は、CPU22を地物情報取得手段、地図由来位置関係特定手段、画像由来位置関係特定手段、照合手段、目標特定手段、目標選抜手段、出力手段及び絶対撮影方向特定手段として機能させるプログラム部品である。制御目標判定モジュール34は、近傍画像内で検出された信号機と道路地図DB42に登録されている信号機とを対応付け、画像認識モジュール38の実行によって検出された自車の近傍に存在する信号機のうち目標となる信号機の自車からの距離及び色をAT制御ユニット26、ブレーキ制御ユニット28等の車両の制御部に出力する。
【0022】
[複数の信号機間の位置関係を画像解析により特定する方法]
信号機の高さが揃っているという前提があれば、自車に近い信号機ほど画像の上辺近くに表れ、自車から遠い信号機ほど画像の底辺近くに表れるため、近傍画像に表れる複数の信号機の現実のY方向の配列順序は各信号機に対応する画素の座標の垂直成分の比較のみで特定可能である。尚、画像の底辺は撮像範囲の底面に対応し、画像の上辺は撮像範囲の上面に対応するものとし、自車の進行方向に垂直で水平面に平行な方向をX方向といい、自車の進行方向をY方向というものとする。また、各信号機は、自車を基準にして各信号機が存在する方位に応じて近傍画像内に表れる水平方向位置が決まるため、近傍画像に表れる複数の信号機の現実のX方向の配列順序は各信号機に対応する画素の座標の水平成分の比較のみで特定可能である。
【0023】
次に、カメラユニット10から出力される近傍画像の解析によって複数の信号機間の位置関係をより詳しく特定する方法を説明する。以下の説明では、図4に示すように近傍画像の画素の位置を画像の中央水平線及び中央垂直線を座標軸とする座標(xp、yp)で表す。
まず地面上の点Pと自車とが自車の進行方向(Y方向)にどれだけ離れているかを特定する方法について図4及び図5に基づいて説明する。地上からカメラユニット10のレンズの焦点までの高さをHcamera、カメラユニット10のレンズの光軸と鉛直線がなす角度をθsetとし、点Pが表れている注目画素に対応する視線S(図4(B)参照)とカメラユニット10のレンズの光軸とがなす角度をθpとし、カメラユニット10のレンズの焦点位置を自車位置とみなして自車と点PまでのY方向の距離をDpとするとき次式(1)の関係が成り立っている。
Dp=Hcameratan(θset+θp)
=Hcamera(tanθset+tanθp)/(1−tanθsettanθp)[Deg]・・・(1)
【0024】
カメラユニット10の垂直画角の1/2をθr、カメラユニット10のレンズの焦点距離をf、カメラユニット10の撮像素子における画素の垂直方向の配列間隔をa、カメラユニット10の撮像素子の垂直方向画素数をNhとするとき、次式(2)、(3)の関係が成り立っている。
tanθr=aNh/f・・・(2)
tanθp=ayp/f・・・(3)
よってtanθpは注目画素の座標の垂直方向成分(yp)を用いて次式(4)で表すことができる。
tanθp=yptanθr/Nh・・・(4)
したがって、自車と点PまでのY方向の距離Dpは次式(5)にypを代入することによって導出できる。
Dp=Hcamera(tanθset+yptanθr/Nh)/(1−tanθsetyptanθr/Nh)[Deg]
【0025】
次に、信号機と自車とが自車の進行方向(Y方向)にどれだけ離れているかを特定する方法について図6に基づいて説明する。信号機Scの点灯部の高さは一般に5〜6mである。例えば日本国内では点灯部の高さが5m以上6m以下である信号機は信号機全体の90%以上に相当する。そこで、信号機Scの点灯部の高さHsignalを一定とみなし、各信号機の点灯部を通る水平面を想定する。この水平面を地面と想定すれば、信号機Scの点灯部はそのように想定した地面にあることになる。自車から信号機ScまでのY方向の距離をDsignalとするとき、次式(5)の関係が成り立つため、式(4)を用いてDsignalを求めることができる。
Dsignal=(Hsignal−Hcamera)tan(180−θset−θp)・・・(5)
自車から各信号機の点灯部までのY方向の距離Dsignalによって、複数の信号機間のY方向の位置関係は一義的に決まる。
【0026】
次に、近傍画像内に表れている複数の信号機間のX方向の位置関係を詳しく特定する方法について図7に基づいて説明する。今、近傍画像内で検出された3つの信号機Sc1、Sc2、Sc3間の位置関係について考える。近傍画像内に表れる信号機と自車とのX方向の距離は、近傍画像内での信号機から中央垂直線までの距離に比例し、自車に対する信号機の車両の進行方向(Y方向)の距離の比に反比例する。したがって、自車から信号機Sc1、Sc2、Sc3までのY方向の距離をそれぞれDc1、Dc2、Dc3とし、信号機S1、S2間の現実のX方向の距離をWc12、信号機Sc2、Sc3間の現実のX方向の距離をWc23とし、信号機Sc1、Sc3間の現実のX方向の距離をWc13、近傍画像内における信号機Sc1、Sc2、Sc3の座標の水平方向成分(xp)をWp1、Wp2、Wp3とすると、Wc12とWc23とWc13の関係は次式(7)、(8)によって規定される。
Wc12/Wc23=(Wp1/Dc1−Wp2/Dc2)/(Wp2/Dc2−Wp3/Dc3)・・・(7)
Wc13/Wc23=(Wp1/Dc1−Wp3/Dc3)/(Wp2/Dc2−Wp3/Dc3)・・・(8)
すなわち、近傍画像内に表れている3個以上の信号機間のX方向の位置関係は、いずれか1個の信号機を基準として他の信号機がどれだけX方向に離れているかを比で表すことによって詳しく特定することができる。
以上、単眼カメラとしてカメラユニット10が構成されている場合に複数の信号機間の位置関係を画像解析によって特定する方法について説明したが、ステレオカメラとしてカメラユニット10が構成されている場合には、三角測量の原理を用いて複数の信号機間の位置関係を特定することができる。
【0027】
[地物認識方法]
図1は地物認識装置1を用いた地物認識方法の処理のながれを示すフローチャートである。図1に示す処理ルーチンは、CPU22が地物認識プログラム32を一定時間間隔(例えば1秒間隔)で繰り返し実行することによって、繰り返し実行される。
ステップS100では、CPU22はロケーティングモジュール40によって自車の現在位置が特定されているかを判定する。自車の現在位置が特定されていない場合、図1に示す処理ルーチンが終了する。
【0028】
ステップS102では、CPU22はロケーティングモジュール40から自車の現在位置を取得する。自車の現在位置は緯度及び経度によって表されている。
ステップS104では、CPU22は自車の近傍(例えば半径100m以内)に存在する目標種地物である信号機の情報を道路地図DB42から取得する。自車の近傍に信号機が存在している場合(ステップS106で肯定判定される場合)、自車の近傍に存在している全ての信号機について、上述した信号機が存在するリンクの識別情報、信号機の位置、及び信号機の絶対方向がCPU22によって道路地図DB42から取得される。ここで、CPU22は各信号機の絶対高さを道路地図DB42から取得し、各信号機の絶対高さが予め決められた範囲内に分布しているかを判定し、その範囲内に分布していない場合、図1に示す処理ルーチンを終了させてもよい。
【0029】
自車の近傍に信号機が存在していない場合(ステップS106で否定判定される場合)、図1に示す処理ルーチンは終了する。
自車の近傍に信号機が存在している場合、CPU22は近傍画像の解析により近傍画像に表れている信号機を検出し、認識データをRAM24に格納する(ステップS108)。具体的には、信号機の点灯部の形態に対応するパターンが近傍画像内で検索される。このとき、カメラユニット10の画角内に存在する信号機であっても、図8に示すように自車の方を向いていない信号機Sh1、Sh2、Sh3、Sh4、Sh5は検出されない。信号機の点灯部の形態に対応するパターンが近傍画像内に表れている場合(後のステップS110で肯定判定される場合)、そのパターンが表れた近傍画像内の位置を表す座標と信号機の色とが認識データ30としてRAM24に格納される。信号機の点灯部の形態に対応するパターンが近傍画像内に複数表れている場合(後のステップS112で肯定判定される場合)、そのパターンが表れた近傍画像内のそれぞれの位置を表す複数の座標と信号機の色とが認識データ30としてRAM24に格納される。尚、自車と信号機との位置関係に応じて信号機が近傍画像内に表れる位置が変化し、時間の経過に伴って信号機の色が変化するため、CPU22は検出した信号機について認識データ30をフレーム毎に更新する。
【0030】
近傍画像の解析により信号機が検出されなかった場合(ステップS110で否定判定される場合)、図1に示す処理ルーチンは終了する。
近傍画像の解析により信号機が複数検出された場合(ステップS112で肯定判定される場合)、次に述べるステップS114の処理に進む。近傍画像の解析により信号機が1個だけ検出された場合(ステップS112で否定判定される場合)、CPU22は検出した信号機を目標信号機として設定し(ステップS113)、ステップS120の処理に進む。
【0031】
・画像由来位置関係の特定
ステップS114では、CPU22は認識データ30に基づいて複数の信号機間の位置関係を特定し、特定した位置関係を画像由来位置関係として記憶する。この処理について図9、図10及び図7に基づいて具体的に説明する。まず、CPU22は近傍画像内における各信号機の点灯部の位置を表す座標の垂直方向成分Hp1、Hp2、Hp3に基づいて自車から近傍画像内で検出された信号機Sc1、Sc2、Sc3までのY方向の距離Dc1、Dc2、Dc3を特定する。次にCPU22はDc1、Dc2、Dc3に基づいて各信号機間のY方向の距離Dc12、Dc23、Dc13を求めることによって各信号機間のY方向の位置関係を特定する。さらにCPU22は近傍画像内における各信号機の点灯部の位置を表す座標の水平方向成分Wp1、Wp2、Wp3に基づいてWc12/Wc23、Wc13/Wc23を求めることによって信号機Sc1、Sc2、Sc3のX方向の位置関係を特定する。
【0032】
・地図由来位置関係の特定
ステップS116では、CPU22はステップS104で道路地図DB42から取得した信号機の位置に基づいて自車の近傍に存在する信号機間の位置関係を特定し、地図由来位置関係として記憶する。このとき、CPU22は各信号機の位置と向きと自車の現在位置と進行方向とに基づいて、画像解析によって検出されている可能性のある信号機についてのみ位置関係を特定する。例えば、自車の進行方向側に存在し、自車の進行方向と信号機の向き(絶対方向)のなす角が180度±45度の範囲にある信号機Sm1、Sm2、Sm3についてのみ位置関係が特定される。地図由来位置関係は画像由来位置関係と照合されるものであるため、地図由来位置関係と画像由来位置関係を表す座標軸の方向が一致していなければならない。そこでCPU22は道路地図DB42に登録されている信号機の位置を表す座標を、X方向及びY方向に伸びる2軸を座標軸とする座標平面の座標に変換する(図11参照)。具体的には例えば、CPU22はステップS102で取得した自車の進行方向と北の方位とがなす角度だけ信号機の位置を原点周りに回転移動させる行列変換式を用いて各信号機のX座標及びY座標を求める。さらにCPU22は各信号機間のY方向の距離Dm12、Dm23、Dm13を信号機Sm1、Sm2、Sm3間のY方向の位置関係として求める。またCPU22は各信号機間のX方向の距離Wm12、Wm23、Wm13を求め、信号機Sm1、Sm2、Sm3のX方向の位置関係をWm12/Wm23とWm13/Wm23を求めることによって特定する。
【0033】
・画像由来位置関係と地図由来位置関係の照合
ステップS118ではCPU22は図12に示すサブルーチンを実行することによって画像由来位置関係と地図由来位置関係とを照合し、近傍画像に表れている信号機のうち目標となる信号機を特定する。
ステップS200ではCPU22はステップS104で取得した自車近傍に存在する信号機の情報に基づいて自車が現在走行している道路に存在する信号機を選抜する。具体的には、CPU22はロケーティングモジュール40から自車が現在走行しているリンクの識別情報を取得し、取得したリンクの識別情報がステップS104で取得された信号機を選抜する。
【0034】
ステップS202ではCPU22はステップS200で選抜された信号機のうち自車の進行方向に存在している信号機を目標地物としての目標信号機として選抜する。この処理では、道路地図DB42において各リンクが双方向リンクとして定義されているために、各信号機について自車の進行方向に存在しているか否かが信号機の位置と自車の現在位置と自車の進行方向とに基づいて判断される。
ステップS202で複数の信号機情報が目標信号機として選抜される場合(ステップS204で肯定判定される場合)、具体的には例えばペア信号が自車の走行リンク上において自車の進行方向に存在している場合、CPU22は、自車の現在位置から最も近くに位置が道路地図DB42に登録されている信号機を目標信号機として選抜する(ステップS206)。尚、ペア信号とは、交差点手前の1つの道路上にある車両に対して設けられ、同一のパターンで点灯する2つ1組の信号である。
【0035】
ステップS208では、CPU22は画像由来位置関係と地図由来位置関係とを照合することによって、近傍画像内で検出された信号機のうちで目標信号機に対応する信号機を特定する。具体的には、CPU22は、近傍画像内で検出された複数の信号機と、地図由来関係を特定した複数の信号機との対応を順次仮定し、各仮定において画像由来位置関係と地図由来位置関係とが整合するかを判定し、整合する場合には、仮定した対応を確定させる。図10及び図13に基づいてより具体的に説明する。まず、近傍画像内で検出された複数の信号機のうち、例えば信号機Sc2が目標信号機Sm2に対応し、Sc1とSm1、Sc3とSm3がそれぞれ対応すると仮定される。次に、その仮定について、Wm12/Wm23≒Wc12/Wc23、Wm13/Wm23≒Wc13/Wc23、Dm12≒Dc12、Dm23≒Dc23が成立するかが判定される。成立する場合には、CPU22は仮定した対応付けを確定させる。成立しない場合には、CPU22は別の組み合わせで対応付けを仮定し、Wm12/Wm23≒Wc12/Wc23、Wm13/Wm23≒Wc13/Wc23、Dm12≒Dc12、Dm23≒Dc23が成立するかが判定される。
【0036】
ステップS120では、CPU22は近傍画像の解析により目標信号機の属性を特定する。具体的には、目標信号機と対応付けられた近傍画像に表れている信号機について、属性としての色と自車までのY方向の距離とが近傍画像の解析によって特定される。
ステップS122では、CPU22はインタフェース15を介してAT制御ユニット26及びブレーキ制御ユニット28に画像解析によって特定した目標信号機の色と自車からのY方向の距離とを出力する。このとき、CPU22は信号機の色や道路標識の種類に応じた目標速度などの制御量をAT制御ユニット26及びブレーキ制御ユニット28に出力することもできる。
【0037】
[他の実施形態]
本発明は、上記実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々の実施形態に適用可能である。例えば、本発明は、近傍画像に表れている特定種地物と道路地図DB42に登録されている特定種地物とを対応付けることにより、自車の現在位置を正確に特定する技術に適用することもできる。
【図面の簡単な説明】
【0038】
【図1】本発明の実施形態に係るフローチャート。
【図2】本発明の実施形態に係るブロック図。
【図3】本発明の実施形態に係るブロック図。
【図4】本発明の実施形態に係る模式図。
【図5】本発明の実施形態に係る模式図。
【図6】本発明の実施形態に係る模式図。
【図7】本発明の実施形態に係る模式図。
【図8】本発明の実施形態に係る模式図。
【図9】本発明の実施形態に係る模式図。
【図10】本発明の実施形態に係る模式図。
【図11】本発明の実施形態に係る模式図。
【図12】本発明の実施形態に係るフローチャート。
【図13】本発明の実施形態に係る模式図。
【符号の説明】
【0039】
1:地物認識装置、10:カメラユニット、22:CPU、26:AT制御ユニット(運動制御部)、28:ブレーキ制御ユニット(運動制御部)、32:地物認識プログラム、34:制御目標判定モジュール(物情報取得手段、地図由来位置関係特定手段、画像由来位置関係特定手段、照合手段、目標特定手段、目標選抜手段、出力手段、絶対撮影方向特定手段)、36:画像データ管理モジュール、38:画像認識モジュール(画像取得手段、画像解析手段)、40:ロケーティングモジュール、42:道路地図データベース、
【技術分野】
【0001】
本発明は、移動体に搭載される地物認識装置、地物認識方法及び地物認識プログラムに関し、特に移動体の近傍に存在する信号機等の地物を認識する技術に関する。
【背景技術】
【0002】
特許文献1には、信号機の色や道路標識を画像解析により認識し、信号機の色や道路標識の位置や種類など地物の属性に応じて車両を制御する方法が開示されている。しかし、特許文献1に記載された方法によると、例えば車両の前方に複数の信号機が配列されており、車載カメラによってそれらの信号機が一画面内に撮像される場合には、車両を制御するために色を判定すべき信号機がどれであるのかを判定することが困難であるという問題がある。すなわち、この場合、車両を制御するために色を判定すべき信号機は、車両が走行している道路上にあって車両の前方にあり車両から最も近い信号機であるが、そのような信号機を画像解析だけで認識することは困難である。
【0003】
【特許文献1】特開平11−306498号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
本発明は上述した問題を解決するための創作されたものであって、移動体に搭載されたカメラユニットから取得される画像に表れる複数の同一種地物を、道路地図データベースに登録されている地物と対応付けて認識できる地物認識装置、地物認識方法及び地物認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
(1)上記目的を達成するための地物認識装置は、移動体の現在位置を取得する現在位置取得手段と、前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定する画像解析手段と、前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、を備える。
移動体に搭載されたカメラユニットから取得される近傍画像に表れる地物の近傍画像内の位置は、地物と移動体の位置関係に応じて変化する。しかし、地物と移動体の位置関係が変化するとしても、複数の地物間の現実の位置関係によって、近傍画像に表れるそれら複数の地物間の近傍画像内での位置関係は決まる。したがって、移動体に搭載されたカメラユニットから取得される近傍画像を解析することにより、地物間の現実の位置関係も特定できる。一方、地物間の現実の位置関係は、道路地図データベースに登録されている地物の位置の解析によっても特定可能である。道路地図データベースに登録されている地物のうち、移動体に搭載されたカメラユニットから取得される近傍画像に表れる地物は、移動体の近傍に存在する地物であって、移動体の現在位置に基づいて特定可能である。この地物認識装置は、移動体の近傍に存在する複数の特定種地物の位置を道路地図データベースから取得し、取得した複数の位置の解析によって特定種地物間の位置関係である地図由来位置関係を特定する。さらに、この地物認識装置は、移動体に搭載されたカメラユニットから取得した近傍画像に表れている複数の特定種地物間の位置関係である画像由来位置関係を近傍画像の解析によって特定する。この地物認識装置によると、このようにして特定された地図由来位置関係と画像由来位置関係とを照合することにより、移動体の近傍画像に表れている複数の同一種地物を道路地図データベースに登録されている地物に対応付けて認識することができる。
【0006】
(2)上記目的を達成するための地物認識装置は、前記道路地図データベースと前記現在位置とに基づいて、前記道路地図データベースに登録されている前記特定種地物の少なくとも1つを目標地物として特定する目標特定手段と、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物との対応に基づいて、前記目標地物に対応する、前記近傍画像に表れている前記特定種地物を選抜する目標選抜手段と、前記近傍画像の解析によって特定される前記目標地物の属性を前記移動体の制御部に出力する出力手段と、をさらに備えてもよい。
移動体を信号機、停止線等の地物を目標として制御しようとするとき、道路網上における移動体の現在位置によって、道路網上にある地物のうちで目標となる地物が決まる。この地物認識装置によると、道路地図データベースと現在位置とに基づいて特定される目標地物の属性を移動体の制御部に出力することができる。
【0007】
(3)上記目的を達成するための地物認識装置において、前記目標地物の属性は前記移動体に対する前記目標地物の位置であってもよい。
この地物認識装置が搭載された移動体の制御部は、移動体に対する目標地物の位置によって制御量を設定することができる。
【0008】
(4)上記目的を達成するための地物認識装置において、前記目標地物の属性は信号機の色であってもよい。
この地物認識装置が搭載された移動体の制御部は、信号機の色によって制御量を設定することができる。尚、信号機の色とは信号機の点灯している点灯部の色である。
【0009】
(5)上記目的を達成するための地物認識装置は、前記カメラユニットの絶対撮影方向を特定する絶対撮影方向特定手段をさらに備えてもよい。この地物認識装置において、前記地物情報取得手段は、前記特定種地物の位置とともに前記特定種地物の絶対方向を前記道路地図データベースから取得してもよいし、前記照合手段は、前記画像由来位置関係と前記地図由来位置関係とを前記絶対方向を用いて照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付けてもよい。
移動体に搭載されたカメラユニットから取得される近傍画像に表れる特定種地物を認識するためには、特定種地物の形態属性に基づいたパターンマッチングなどが必要になる。しかし、移動体に搭載されたカメラユニットから取得される画像に表れる地物の形状は地面を基準として地物の向いている方向(絶対方向)と地面を基準としてカメラユニットが撮影する方向(絶対撮影方向)とに応じて変わる。この地物認識装置によると、画像由来位置関係と地図由来位置関係とを照合するとき、特定種地物の絶対方向を用いるため、近傍画像に表れている特定種地物と道路地図データベースに登録されている特定種地物とを正確に対応付けることができる。尚、位置、絶対撮影方向又は絶対方向というとき、それらは現実空間を二次元空間で捉えた場合の位置又は方向を意味する。
【0010】
(6)上記目的を達成するための地物認識方法は、移動体の現在位置を取得し、前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得し、複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定し、前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得し、前記近傍画像に表れている複数の前記特定種地物の前記移動体に対する位置を前記近傍画像の解析によって特定し、前記近傍画像の解析によって特定された前記移動体に対する複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定し、前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける、ことを含む。
この地物認識方法によると、移動体の近傍画像に表れている複数の同一種地物を道路地図データベースに登録されている地物に対応付けて認識することができる。
【0011】
(7)上記目的を達成するための地物認識プログラムは、移動体の現在位置を取得する現在位置取得手段と、前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、前記近傍画像に表れている複数の前記特定種地物の前記移動体に対する位置を前記近傍画像の解析によって特定する画像解析手段と、前記近傍画像の解析によって特定された前記移動体に対する複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、としてコンピュータを機能させる。
この地物認識プログラムによると、移動体の近傍画像に表れている複数の同一種地物を道路地図データベースに登録されている地物に対応付けて認識することができる。
【0012】
尚、請求項に記載された方法の各動作の順序は、技術上の阻害要因がない限り、記載順に限定されるものではなく、どのような順番で実行されてもよく、また同時に実行されてもよい。また、本発明に備わる複数の手段の各機能は、構成自体で機能が特定されるハードウェア資源、プログラムにより機能が特定されるハードウェア資源、又はそれらの組み合わせにより実現される。また、これら複数の手段の各機能は、各々が物理的に互いに独立したハードウェア資源で実現されるものに限定されない。
【発明を実施するための最良の形態】
【0013】
以下、実施例に基づいて本発明の実施の形態を説明する。
[地物認識装置のハードウェア構成]
図2は、本発明を適用した地物認識装置1を示すブロック図である。地物認識装置1は、自動車、オートバイ等の移動体としての車両に搭載されるナビゲーションシステムとして構成されている。
【0014】
出力手段としてのインタフェース15は、AD変換器、DA変換器等で構成され、車両に搭載された外部ユニットと地物認識装置1との間でのデータの転送を制御する入出力機構である。
ハードディスク装置(HDD)18には、道路地図データベース及び地物認識プログラムが格納されている。道路地図データベースは、CD、DVD等の他の大容量不揮発性記憶媒体に格納されていてもよい。地物認識プログラムはROM20に格納されていてもよい。道路地図データベース及び地物認識プログラムは、通信回線を介してダウンロードしたり、リムーバブルメモリから読み込むことにより、地物認識装置1にインストールすることができる。
【0015】
方位センサ16は推測航法に用いる地磁気センサ、左右車輪速度差センサ、振動ジャイロ、ガスレートジャイロ、光ファイバジャイロなどで構成され、自車の進行方向を検出する。
GPSユニット14は、衛星航法に用いる3個または4個の衛星から送られてくる軌道データを受信し、自車の現在位置の緯度経度データを出力するためのアンテナ、ASIC等で構成される。
【0016】
カメラユニット10は、CCDイメージセンサなどのカラー撮像素子とその駆動回路と画像信号処理回路とを備えている所謂単眼カメラである。カメラユニット10は車両の外界の前方視界を表すディジタルカラー画像が所定のフレームレートで生成する。以下、車両の外界の前方視界を表すディジタルカラー画像を単に近傍画像というものとする。
速度センサ12は、推測航法に用いられる。単位時間当たりの車輪の回転数から求まる車速を時間で積分することにより走行距離が求まる。電波や超音波を用いたドップラ対地速度センサ、光と空間フィルタを用いた対地速度センサを用いて走行距離を求めてもよい。
【0017】
ROM20は、フラッシュメモリなどの不揮発性記憶媒体であって、ブートプログラムが格納されている。
CPU22は、ROM20及びHDD18に格納されている各種のプログラムを実行することにより、現在位置取得手段、地物情報取得手段、地図由来位置関係特定手段、画像取得手段、画像解析手段、画像由来位置関係特定手段、照合手段、目標特定手段、目標選抜手段、出力手段、および絶対撮影方向特定手段として機能する。
【0018】
RAM24は、揮発性記憶媒体であって、CPU22に実行されるプログラムやプログラムの処理対象データが一時的に格納されるワークメモリとして機能する。
移動体の制御部としてのAT制御ユニット26は、オートマチックトランスミッションの油圧回路に設けられた各種の電磁弁及び電動ポンプを駆動するための駆動回路及びECUを備えている。
移動体の制御部としてのブレーキ制御ユニット28は、ブレーキを駆動するための油圧回路に設けられた各種の電磁弁及び電動ポンプを駆動するための駆動回路及びECUを備えている。
【0019】
[地物認識プログラムの構成]
図3は地物認識プログラム32の構成を示すブロック図である。
地物認識プログラム32によって利用される道路地図データベース(DB)42は、グラフ構造で地図をディジタル表現した情報で構成されるデータベースであって、道路網上の自車の現在位置の特定、地物の位置の特定などに用いられる。道路地図DB42では、交差点、合流点、曲がり点、行き止まり点などはノードであり、道路はノードとノードを結ぶリンクとして定義されている。また各リンクには信号機の有無、距離、制限速度、レーン数、幅員、道路種別(高速道路、一般道など)などが属性情報として定義され、各ノードにはノードの位置を表す緯度経度などが属性情報として定義されている。リンクに信号機が有る場合、信号機の点灯部の位置を表す緯度経度、点灯部の高さを表す絶対高さ、点灯部が向いている方位を表す絶対方向等がそのリンクに関連付けて定義されている。これらの他、例えば点灯部の指向性(視野角)に関する情報が信号機の属性として定義されていてもよい。
【0020】
地物認識プログラム32によって利用されるロケーティングモジュール40は、CPU20を現在位置取得手段として機能させるプログラム部品である。ロケーティングモジュール40は、GPSユニット14、速度センサ12及び方位センサ16の出力に基づいて衛星航法及び推測航法を併用しながら自車の現在位置を特定する。
画像認識モジュール38は、CPU22を画像取得手段及び画像解析手段として機能させるプログラム部品である。画像認識モジュール38は、カメラユニット10から出力される近傍画像を解析し、近傍画像に表れている特定種地物としての信号機を検出し、近傍画像内において信号機の点灯部が表れている位置と、信号機の色とを特定する。近傍画像の解析によって信号機を検出する方法としては、構造マッチング、テンプレートマッチング、弛緩法などのいかなるパターン認識方法をも採用しうる。減速、加速、停止、操舵などを制御するための目標となる種類の地物である目標種地物としては、信号機、停止線等の各種の道路標識が考えられるが、本実施形態では信号機が目標種地物として説明される。目標種地物の属性としては、道路標識の種類、状態、自車からの距離、自車からみて存在する方向等が考えられるが、本実施形態では信号機の色と自車に対する位置として説明される。
【0021】
画像データ管理モジュール36は、画像認識モジュール38の実行によって特定された信号機の近傍画像内の位置と色とを信号機毎に認識データ30としてRAM24に蓄積し、制御目標判定モジュール34のリクエストに応じて近傍画像に表れている特定の信号機について色と近傍画像内の位置とを制御目標判定モジュール34に渡す。
制御目標判定モジュール34は、CPU22を地物情報取得手段、地図由来位置関係特定手段、画像由来位置関係特定手段、照合手段、目標特定手段、目標選抜手段、出力手段及び絶対撮影方向特定手段として機能させるプログラム部品である。制御目標判定モジュール34は、近傍画像内で検出された信号機と道路地図DB42に登録されている信号機とを対応付け、画像認識モジュール38の実行によって検出された自車の近傍に存在する信号機のうち目標となる信号機の自車からの距離及び色をAT制御ユニット26、ブレーキ制御ユニット28等の車両の制御部に出力する。
【0022】
[複数の信号機間の位置関係を画像解析により特定する方法]
信号機の高さが揃っているという前提があれば、自車に近い信号機ほど画像の上辺近くに表れ、自車から遠い信号機ほど画像の底辺近くに表れるため、近傍画像に表れる複数の信号機の現実のY方向の配列順序は各信号機に対応する画素の座標の垂直成分の比較のみで特定可能である。尚、画像の底辺は撮像範囲の底面に対応し、画像の上辺は撮像範囲の上面に対応するものとし、自車の進行方向に垂直で水平面に平行な方向をX方向といい、自車の進行方向をY方向というものとする。また、各信号機は、自車を基準にして各信号機が存在する方位に応じて近傍画像内に表れる水平方向位置が決まるため、近傍画像に表れる複数の信号機の現実のX方向の配列順序は各信号機に対応する画素の座標の水平成分の比較のみで特定可能である。
【0023】
次に、カメラユニット10から出力される近傍画像の解析によって複数の信号機間の位置関係をより詳しく特定する方法を説明する。以下の説明では、図4に示すように近傍画像の画素の位置を画像の中央水平線及び中央垂直線を座標軸とする座標(xp、yp)で表す。
まず地面上の点Pと自車とが自車の進行方向(Y方向)にどれだけ離れているかを特定する方法について図4及び図5に基づいて説明する。地上からカメラユニット10のレンズの焦点までの高さをHcamera、カメラユニット10のレンズの光軸と鉛直線がなす角度をθsetとし、点Pが表れている注目画素に対応する視線S(図4(B)参照)とカメラユニット10のレンズの光軸とがなす角度をθpとし、カメラユニット10のレンズの焦点位置を自車位置とみなして自車と点PまでのY方向の距離をDpとするとき次式(1)の関係が成り立っている。
Dp=Hcameratan(θset+θp)
=Hcamera(tanθset+tanθp)/(1−tanθsettanθp)[Deg]・・・(1)
【0024】
カメラユニット10の垂直画角の1/2をθr、カメラユニット10のレンズの焦点距離をf、カメラユニット10の撮像素子における画素の垂直方向の配列間隔をa、カメラユニット10の撮像素子の垂直方向画素数をNhとするとき、次式(2)、(3)の関係が成り立っている。
tanθr=aNh/f・・・(2)
tanθp=ayp/f・・・(3)
よってtanθpは注目画素の座標の垂直方向成分(yp)を用いて次式(4)で表すことができる。
tanθp=yptanθr/Nh・・・(4)
したがって、自車と点PまでのY方向の距離Dpは次式(5)にypを代入することによって導出できる。
Dp=Hcamera(tanθset+yptanθr/Nh)/(1−tanθsetyptanθr/Nh)[Deg]
【0025】
次に、信号機と自車とが自車の進行方向(Y方向)にどれだけ離れているかを特定する方法について図6に基づいて説明する。信号機Scの点灯部の高さは一般に5〜6mである。例えば日本国内では点灯部の高さが5m以上6m以下である信号機は信号機全体の90%以上に相当する。そこで、信号機Scの点灯部の高さHsignalを一定とみなし、各信号機の点灯部を通る水平面を想定する。この水平面を地面と想定すれば、信号機Scの点灯部はそのように想定した地面にあることになる。自車から信号機ScまでのY方向の距離をDsignalとするとき、次式(5)の関係が成り立つため、式(4)を用いてDsignalを求めることができる。
Dsignal=(Hsignal−Hcamera)tan(180−θset−θp)・・・(5)
自車から各信号機の点灯部までのY方向の距離Dsignalによって、複数の信号機間のY方向の位置関係は一義的に決まる。
【0026】
次に、近傍画像内に表れている複数の信号機間のX方向の位置関係を詳しく特定する方法について図7に基づいて説明する。今、近傍画像内で検出された3つの信号機Sc1、Sc2、Sc3間の位置関係について考える。近傍画像内に表れる信号機と自車とのX方向の距離は、近傍画像内での信号機から中央垂直線までの距離に比例し、自車に対する信号機の車両の進行方向(Y方向)の距離の比に反比例する。したがって、自車から信号機Sc1、Sc2、Sc3までのY方向の距離をそれぞれDc1、Dc2、Dc3とし、信号機S1、S2間の現実のX方向の距離をWc12、信号機Sc2、Sc3間の現実のX方向の距離をWc23とし、信号機Sc1、Sc3間の現実のX方向の距離をWc13、近傍画像内における信号機Sc1、Sc2、Sc3の座標の水平方向成分(xp)をWp1、Wp2、Wp3とすると、Wc12とWc23とWc13の関係は次式(7)、(8)によって規定される。
Wc12/Wc23=(Wp1/Dc1−Wp2/Dc2)/(Wp2/Dc2−Wp3/Dc3)・・・(7)
Wc13/Wc23=(Wp1/Dc1−Wp3/Dc3)/(Wp2/Dc2−Wp3/Dc3)・・・(8)
すなわち、近傍画像内に表れている3個以上の信号機間のX方向の位置関係は、いずれか1個の信号機を基準として他の信号機がどれだけX方向に離れているかを比で表すことによって詳しく特定することができる。
以上、単眼カメラとしてカメラユニット10が構成されている場合に複数の信号機間の位置関係を画像解析によって特定する方法について説明したが、ステレオカメラとしてカメラユニット10が構成されている場合には、三角測量の原理を用いて複数の信号機間の位置関係を特定することができる。
【0027】
[地物認識方法]
図1は地物認識装置1を用いた地物認識方法の処理のながれを示すフローチャートである。図1に示す処理ルーチンは、CPU22が地物認識プログラム32を一定時間間隔(例えば1秒間隔)で繰り返し実行することによって、繰り返し実行される。
ステップS100では、CPU22はロケーティングモジュール40によって自車の現在位置が特定されているかを判定する。自車の現在位置が特定されていない場合、図1に示す処理ルーチンが終了する。
【0028】
ステップS102では、CPU22はロケーティングモジュール40から自車の現在位置を取得する。自車の現在位置は緯度及び経度によって表されている。
ステップS104では、CPU22は自車の近傍(例えば半径100m以内)に存在する目標種地物である信号機の情報を道路地図DB42から取得する。自車の近傍に信号機が存在している場合(ステップS106で肯定判定される場合)、自車の近傍に存在している全ての信号機について、上述した信号機が存在するリンクの識別情報、信号機の位置、及び信号機の絶対方向がCPU22によって道路地図DB42から取得される。ここで、CPU22は各信号機の絶対高さを道路地図DB42から取得し、各信号機の絶対高さが予め決められた範囲内に分布しているかを判定し、その範囲内に分布していない場合、図1に示す処理ルーチンを終了させてもよい。
【0029】
自車の近傍に信号機が存在していない場合(ステップS106で否定判定される場合)、図1に示す処理ルーチンは終了する。
自車の近傍に信号機が存在している場合、CPU22は近傍画像の解析により近傍画像に表れている信号機を検出し、認識データをRAM24に格納する(ステップS108)。具体的には、信号機の点灯部の形態に対応するパターンが近傍画像内で検索される。このとき、カメラユニット10の画角内に存在する信号機であっても、図8に示すように自車の方を向いていない信号機Sh1、Sh2、Sh3、Sh4、Sh5は検出されない。信号機の点灯部の形態に対応するパターンが近傍画像内に表れている場合(後のステップS110で肯定判定される場合)、そのパターンが表れた近傍画像内の位置を表す座標と信号機の色とが認識データ30としてRAM24に格納される。信号機の点灯部の形態に対応するパターンが近傍画像内に複数表れている場合(後のステップS112で肯定判定される場合)、そのパターンが表れた近傍画像内のそれぞれの位置を表す複数の座標と信号機の色とが認識データ30としてRAM24に格納される。尚、自車と信号機との位置関係に応じて信号機が近傍画像内に表れる位置が変化し、時間の経過に伴って信号機の色が変化するため、CPU22は検出した信号機について認識データ30をフレーム毎に更新する。
【0030】
近傍画像の解析により信号機が検出されなかった場合(ステップS110で否定判定される場合)、図1に示す処理ルーチンは終了する。
近傍画像の解析により信号機が複数検出された場合(ステップS112で肯定判定される場合)、次に述べるステップS114の処理に進む。近傍画像の解析により信号機が1個だけ検出された場合(ステップS112で否定判定される場合)、CPU22は検出した信号機を目標信号機として設定し(ステップS113)、ステップS120の処理に進む。
【0031】
・画像由来位置関係の特定
ステップS114では、CPU22は認識データ30に基づいて複数の信号機間の位置関係を特定し、特定した位置関係を画像由来位置関係として記憶する。この処理について図9、図10及び図7に基づいて具体的に説明する。まず、CPU22は近傍画像内における各信号機の点灯部の位置を表す座標の垂直方向成分Hp1、Hp2、Hp3に基づいて自車から近傍画像内で検出された信号機Sc1、Sc2、Sc3までのY方向の距離Dc1、Dc2、Dc3を特定する。次にCPU22はDc1、Dc2、Dc3に基づいて各信号機間のY方向の距離Dc12、Dc23、Dc13を求めることによって各信号機間のY方向の位置関係を特定する。さらにCPU22は近傍画像内における各信号機の点灯部の位置を表す座標の水平方向成分Wp1、Wp2、Wp3に基づいてWc12/Wc23、Wc13/Wc23を求めることによって信号機Sc1、Sc2、Sc3のX方向の位置関係を特定する。
【0032】
・地図由来位置関係の特定
ステップS116では、CPU22はステップS104で道路地図DB42から取得した信号機の位置に基づいて自車の近傍に存在する信号機間の位置関係を特定し、地図由来位置関係として記憶する。このとき、CPU22は各信号機の位置と向きと自車の現在位置と進行方向とに基づいて、画像解析によって検出されている可能性のある信号機についてのみ位置関係を特定する。例えば、自車の進行方向側に存在し、自車の進行方向と信号機の向き(絶対方向)のなす角が180度±45度の範囲にある信号機Sm1、Sm2、Sm3についてのみ位置関係が特定される。地図由来位置関係は画像由来位置関係と照合されるものであるため、地図由来位置関係と画像由来位置関係を表す座標軸の方向が一致していなければならない。そこでCPU22は道路地図DB42に登録されている信号機の位置を表す座標を、X方向及びY方向に伸びる2軸を座標軸とする座標平面の座標に変換する(図11参照)。具体的には例えば、CPU22はステップS102で取得した自車の進行方向と北の方位とがなす角度だけ信号機の位置を原点周りに回転移動させる行列変換式を用いて各信号機のX座標及びY座標を求める。さらにCPU22は各信号機間のY方向の距離Dm12、Dm23、Dm13を信号機Sm1、Sm2、Sm3間のY方向の位置関係として求める。またCPU22は各信号機間のX方向の距離Wm12、Wm23、Wm13を求め、信号機Sm1、Sm2、Sm3のX方向の位置関係をWm12/Wm23とWm13/Wm23を求めることによって特定する。
【0033】
・画像由来位置関係と地図由来位置関係の照合
ステップS118ではCPU22は図12に示すサブルーチンを実行することによって画像由来位置関係と地図由来位置関係とを照合し、近傍画像に表れている信号機のうち目標となる信号機を特定する。
ステップS200ではCPU22はステップS104で取得した自車近傍に存在する信号機の情報に基づいて自車が現在走行している道路に存在する信号機を選抜する。具体的には、CPU22はロケーティングモジュール40から自車が現在走行しているリンクの識別情報を取得し、取得したリンクの識別情報がステップS104で取得された信号機を選抜する。
【0034】
ステップS202ではCPU22はステップS200で選抜された信号機のうち自車の進行方向に存在している信号機を目標地物としての目標信号機として選抜する。この処理では、道路地図DB42において各リンクが双方向リンクとして定義されているために、各信号機について自車の進行方向に存在しているか否かが信号機の位置と自車の現在位置と自車の進行方向とに基づいて判断される。
ステップS202で複数の信号機情報が目標信号機として選抜される場合(ステップS204で肯定判定される場合)、具体的には例えばペア信号が自車の走行リンク上において自車の進行方向に存在している場合、CPU22は、自車の現在位置から最も近くに位置が道路地図DB42に登録されている信号機を目標信号機として選抜する(ステップS206)。尚、ペア信号とは、交差点手前の1つの道路上にある車両に対して設けられ、同一のパターンで点灯する2つ1組の信号である。
【0035】
ステップS208では、CPU22は画像由来位置関係と地図由来位置関係とを照合することによって、近傍画像内で検出された信号機のうちで目標信号機に対応する信号機を特定する。具体的には、CPU22は、近傍画像内で検出された複数の信号機と、地図由来関係を特定した複数の信号機との対応を順次仮定し、各仮定において画像由来位置関係と地図由来位置関係とが整合するかを判定し、整合する場合には、仮定した対応を確定させる。図10及び図13に基づいてより具体的に説明する。まず、近傍画像内で検出された複数の信号機のうち、例えば信号機Sc2が目標信号機Sm2に対応し、Sc1とSm1、Sc3とSm3がそれぞれ対応すると仮定される。次に、その仮定について、Wm12/Wm23≒Wc12/Wc23、Wm13/Wm23≒Wc13/Wc23、Dm12≒Dc12、Dm23≒Dc23が成立するかが判定される。成立する場合には、CPU22は仮定した対応付けを確定させる。成立しない場合には、CPU22は別の組み合わせで対応付けを仮定し、Wm12/Wm23≒Wc12/Wc23、Wm13/Wm23≒Wc13/Wc23、Dm12≒Dc12、Dm23≒Dc23が成立するかが判定される。
【0036】
ステップS120では、CPU22は近傍画像の解析により目標信号機の属性を特定する。具体的には、目標信号機と対応付けられた近傍画像に表れている信号機について、属性としての色と自車までのY方向の距離とが近傍画像の解析によって特定される。
ステップS122では、CPU22はインタフェース15を介してAT制御ユニット26及びブレーキ制御ユニット28に画像解析によって特定した目標信号機の色と自車からのY方向の距離とを出力する。このとき、CPU22は信号機の色や道路標識の種類に応じた目標速度などの制御量をAT制御ユニット26及びブレーキ制御ユニット28に出力することもできる。
【0037】
[他の実施形態]
本発明は、上記実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々の実施形態に適用可能である。例えば、本発明は、近傍画像に表れている特定種地物と道路地図DB42に登録されている特定種地物とを対応付けることにより、自車の現在位置を正確に特定する技術に適用することもできる。
【図面の簡単な説明】
【0038】
【図1】本発明の実施形態に係るフローチャート。
【図2】本発明の実施形態に係るブロック図。
【図3】本発明の実施形態に係るブロック図。
【図4】本発明の実施形態に係る模式図。
【図5】本発明の実施形態に係る模式図。
【図6】本発明の実施形態に係る模式図。
【図7】本発明の実施形態に係る模式図。
【図8】本発明の実施形態に係る模式図。
【図9】本発明の実施形態に係る模式図。
【図10】本発明の実施形態に係る模式図。
【図11】本発明の実施形態に係る模式図。
【図12】本発明の実施形態に係るフローチャート。
【図13】本発明の実施形態に係る模式図。
【符号の説明】
【0039】
1:地物認識装置、10:カメラユニット、22:CPU、26:AT制御ユニット(運動制御部)、28:ブレーキ制御ユニット(運動制御部)、32:地物認識プログラム、34:制御目標判定モジュール(物情報取得手段、地図由来位置関係特定手段、画像由来位置関係特定手段、照合手段、目標特定手段、目標選抜手段、出力手段、絶対撮影方向特定手段)、36:画像データ管理モジュール、38:画像認識モジュール(画像取得手段、画像解析手段)、40:ロケーティングモジュール、42:道路地図データベース、
【特許請求の範囲】
【請求項1】
移動体の現在位置を取得する現在位置取得手段と、
前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、
複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、
前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、
前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定する画像解析手段と、
前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、
前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、
を備える地物認識装置。
【請求項2】
前記道路地図データベースと前記現在位置とに基づいて、前記道路地図データベースに登録されている前記特定種地物の少なくとも1つを目標地物として特定する目標特定手段と、
前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物との対応に基づいて、前記目標地物に対応する、前記近傍画像に表れている前記特定種地物を選抜する目標選抜手段と、
前記近傍画像の解析によって特定される前記目標地物の属性を前記移動体の制御部に出力する出力手段と、をさらに備える、
請求項1に記載の地物認識装置。
【請求項3】
前記目標地物の属性は前記移動体に対する前記目標地物の位置である、
請求項2に記載の地物認識装置。
【請求項4】
前記目標地物の属性は信号機の色である、
請求項2に記載の地物認識装置。
【請求項5】
前記カメラユニットの絶対撮影方向を特定する絶対撮影方向特定手段をさらに備え、
前記地物情報取得手段は、前記特定種地物の位置とともに前記特定種地物の絶対方向を前記道路地図データベースから取得し、
前記照合手段は、前記画像由来位置関係と前記地図由来位置関係とを前記絶対方向を用いて照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける、
請求項1〜4のいずれか一項に記載の地物認識装置。
【請求項6】
移動体の現在位置を取得し、
前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得し、
複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定し、
前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得し、
前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定し、
前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定し、
前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける、
ことを含む地物認識方法。
【請求項7】
移動体の現在位置を取得する現在位置取得手段と、
前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、
複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、
前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、
前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定する画像解析手段と、
前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、
前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、
としてコンピュータを機能させる地物認識プログラム。
【請求項1】
移動体の現在位置を取得する現在位置取得手段と、
前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、
複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、
前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、
前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定する画像解析手段と、
前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、
前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、
を備える地物認識装置。
【請求項2】
前記道路地図データベースと前記現在位置とに基づいて、前記道路地図データベースに登録されている前記特定種地物の少なくとも1つを目標地物として特定する目標特定手段と、
前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物との対応に基づいて、前記目標地物に対応する、前記近傍画像に表れている前記特定種地物を選抜する目標選抜手段と、
前記近傍画像の解析によって特定される前記目標地物の属性を前記移動体の制御部に出力する出力手段と、をさらに備える、
請求項1に記載の地物認識装置。
【請求項3】
前記目標地物の属性は前記移動体に対する前記目標地物の位置である、
請求項2に記載の地物認識装置。
【請求項4】
前記目標地物の属性は信号機の色である、
請求項2に記載の地物認識装置。
【請求項5】
前記カメラユニットの絶対撮影方向を特定する絶対撮影方向特定手段をさらに備え、
前記地物情報取得手段は、前記特定種地物の位置とともに前記特定種地物の絶対方向を前記道路地図データベースから取得し、
前記照合手段は、前記画像由来位置関係と前記地図由来位置関係とを前記絶対方向を用いて照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける、
請求項1〜4のいずれか一項に記載の地物認識装置。
【請求項6】
移動体の現在位置を取得し、
前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得し、
複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定し、
前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得し、
前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定し、
前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定し、
前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける、
ことを含む地物認識方法。
【請求項7】
移動体の現在位置を取得する現在位置取得手段と、
前記移動体の近傍に存在する複数の特定種地物の位置を前記現在位置を用いて道路地図データベースから取得する地物情報取得手段と、
複数の前記特定種地物間の位置関係である地図由来位置関係を、複数の前記特定種地物の位置の解析によって特定する地図由来位置関係特定手段と、
前記移動体の近傍画像を前記移動体に搭載されたカメラユニットから取得する画像取得手段と、
前記近傍画像に表れている複数の前記特定種地物の前記近傍画像内の位置を前記近傍画像の解析によって特定する画像解析手段と、
前記近傍画像の解析によって特定された前記近傍画像内の複数の前記特定種地物の位置に基づいて複数の前記特定種地物間の位置関係である画像由来位置関係を特定する画像由来位置関係特定手段と、
前記画像由来位置関係と前記地図由来位置関係とを照合することにより、前記近傍画像に表れている前記特定種地物と前記道路地図データベースに登録されている前記特定種地物とを対応付ける照合手段と、
としてコンピュータを機能させる地物認識プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2007−178223(P2007−178223A)
【公開日】平成19年7月12日(2007.7.12)
【国際特許分類】
【出願番号】特願2005−375909(P2005−375909)
【出願日】平成17年12月27日(2005.12.27)
【出願人】(000100768)アイシン・エィ・ダブリュ株式会社 (3,717)
【Fターム(参考)】
【公開日】平成19年7月12日(2007.7.12)
【国際特許分類】
【出願日】平成17年12月27日(2005.12.27)
【出願人】(000100768)アイシン・エィ・ダブリュ株式会社 (3,717)
【Fターム(参考)】
[ Back to top ]