説明

路面標示地図生成方法

【課題】 道路を走行しながら路面を撮影した画像から、路面標示を含む画像を生成し、路面標示を認識する。
【解決手段】 道路を走行しながら路面をビデオカメラで撮影するとともに、各撮影地点の位置座標をGPS等で取得する。コンピュータは、この動画の各フレーム画像を変換して真上から見た状態の正射画像を生成する。また、撮影時のパスにそって正射画像を配置することで連結画像を生成し、連結画像から横断歩道などの道路標示を認識する。その後、認識された複数の標示を合成、整形する等の修正を施す。
この際、複数の標示の位置関係に基づいてこれらの修正を施すことにより、標示単体ではなし得ない修正を施すことができ、全体として標示の認識精度を向上させることができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、道路面に施された標示を含む路面標示地図を生成する技術に関する。
【背景技術】
【0002】
カーナビゲーションなどで使用される電子地図データには、多様な機能を実現するため、種々の詳細なデータが要求されている。その一つとして、横断歩道や中央線、車線境界線などの路面に描かれる標示が挙げられる。これらの標示を予め画像として取得しておくことにより、ユーザに対して実際の路面に近い画像を提供することができ、直感的に理解しやすい案内を実現することが可能となる。
【0003】
標示を含む路面の画像を効率的に生成するための技術として特許文献1、特許文献2などが挙げられる。
特許文献1は、車輌の前後または側方に対してデジタルカメラ等により取得された画像から、路面の標示を含む静止画像を生成する技術を開示している。この技術では、目的の道路を車両で走行しながら、その車両に搭載されたデジタルカメラ等で路面の標示等を撮影する。そして、動画を構成する各フレーム画像を真上から見た状態の正射画像に変換し、撮影位置に応じて配列する。正射画像とは、道路の垂直上方の無限遠点に視点を置いた場合の道路画像を言う。複数のフレーム画像を配列することによって、1回の走行の軌跡(以下、パスと呼ぶこともある)に沿った道路面の合成画像を得ることができる。
【0004】
特許文献2は、2つのパスで得られた画像を合成して幅広の道路画像を合成する技術を開示している。この技術では、まず一つのパスで得られた画像に対して、道路の車線境界線など、本来、直線的に描かれているものが直線として表示されるようにアフィン変換をかける。そして、2つのパスで共通して撮影されている車線境界線などの座標が一致するように、一方のパスの画像をアフィン変換する。また、同様の方法によって、パスごとに画像をアフィン変換しながら合成することによって3以上のパスを合成する技術も開示している。
【0005】
特許文献3は、道路面の画像から、標示を抽出する技術を開示している。この技術では、航空写真などの画像から、画像処理によって道路ペイントに当たる部分を抽出し、抽出された部分の特徴量に基づいて道路ペイントの種別を判断する。特徴量としては、抽出した部分の長手方向を代表する軸と、道路ネットワークのリンクとの角度などが用いられている。
【0006】
【特許文献1】特開2007−249103号公報
【特許文献2】特許第3820428号公報
【特許文献3】特開2007−122665号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
地図データには、経路探索用に道路をノード、リンクで表した道路ネットワーク、および地図を表示するために道路をポリゴンで表したデータなどがある。道路ネットワークでは、道路を1本または2本のリンクで代表させているため、リンクに付された座標は、道路のいずれの部分を表しているか厳密には分からない。描画データでは、道路を表すポリゴンの外周の位置座標は分かるものの、道路内部の地点についての位置座標は分からない。
例えば、道路内部の各地点の位置座標が詳細に得られている地図データが存在すれば、車両の現在位置に応じて、車両が道路のどの車線を走行しているかを判断して、車線変更の案内を行うことや、車両に横断歩道が接近していることを警告するなどの高機能な案内を実現することが可能となる。
しかし、従来の地図データは、これらの高精度、高機能な案内を実現するためには不十分な精度しか有していなかった。仮に車両の現在位置を精度良く把握したとしても、その位置情報を活かすだけの詳細な地図データが用意されていたとは言えなかったのである。
【0008】
路面の標示は道路上の位置座標を豊富にするための目的物として適している。例えば、横断歩道や車線境界線の位置座標が得られていれば、上述した高機能な案内の実現に資することができる。
しかし、従来技術は、いずれも道路面の合成画像を得ることを主目的としており、路面の標示の位置座標を得ることを目的としてはいなかった。
例えば、特許文献2の技術は、道路が直線か曲線かに関わらず車両の進行方向をX軸とし、その移動距離をX座標として画像を表しているに過ぎず、このX軸に直交する方向にのみ画像をアフィン変換するに過ぎない。複数のパスで得られた画像について、このように定められたX座標が十分に一致しているという保証はないから、特許文献2の技術では路面の標示の位置座標を精度良く得ることはできない。
また、アフィン変換は、原画像の長方形領域を平行四辺形に歪ませる作用を持つ変換とも言えるから、特許文献2の技術では、アフィン変換によって画像の合成を行うことにより画質の劣化を招き、路面の標示の位置座標を一層低下させるという課題もある。
一方、特許文献1記載の技術は、1回のパスで得られる画像に対する処理を開示しているのみであり、道路全体を十分にカバーすることができない。
【0009】
従来技術では、道路面の画像から標示を抽出する際にも、標示の位置精度を十分に確保できないという課題があった。特許文献3は、道路ネットワークで与えられるリンクとの位置関係で標示の種別や位置を認定しているものの、先に説明した通り、リンクに付された座標は、道路のいずれの部分を表しているか厳密には分からないデータである。従って、リンクを基準として標示の位置を認識しても、十分な精度を確保することはできない。
【0010】
また、従来技術では、路面標示が誤認識された場合に、その形状等を修正する方法については検討されてはいなかった。
標示を自動で抽出する場合には、認識された標示同士が重なり合っていたり、単一の標示が分断された個別の標示として認識されていたり、本来、標示が存在するはずの場所であるにも関わらず認識漏れが生じていたり、という種々のタイプの誤認識が発生する。また、複数のパスで得られる画像にまたがって存在する路面標示は、各パスで正確に認識されたとしても、結果として、単一の標示が分断されて認識されたのと同じ状態となり、本来の単一の標示から見れば、不適切な状態で認識されていることになる。
これらの誤認識または不適切な状態での認識が存在すると、当然、路面標示の認識精度が低下し、それを用いた地図の信用性を損ねてしまう。
【0011】
本発明は、これらの課題を解決し、複数の路面標示が誤認識または不適切な状態で認識された場合に、それを修正し、全体として標示を高い位置精度で抽出し、これらの標示を含む地図の生成を可能とすることを目的とする。
【課題を解決するための手段】
【0012】
本発明は、コンピュータによって道路面に施された標示を含む路面標示地図を生成する生成方法として構成することができる。
本発明では、まず、コンピュータは、道路面を撮影する際の移動軌跡である所定のパスに沿って移動しながら標示を含む路面を撮影した連続画像の画像データと、この画像データの撮影位置を表す位置座標データとを入力する。所定のパスは、一つでも良いし、複数でもよい。
上述の画像データは、例えば、車両などの移動体に搭載した撮影装置によって撮影することができる。撮影装置としては、例えば、ディジタル・ビデオ・カメラなどを用いることができる。また、撮影装置には、撮影時の位置座標データを取得する位置計測装置を搭載しておくことが好ましい。位置計測装置は、例えば、GPS(Global Positioning System)や、ジャイロなどの慣性航法装置などを単独または組み合わせて用いることができる。また、処理の便宜上、撮影した画像と位置座標データを入力し、両者を同期させて記録する記録装置を用意しておくことが好ましい。
【0013】
コンピュータは、入力された画像データを構成する各フレーム画像を変換して、路面を真上から見た状態の正射画像を得る。正射画像は、各フレーム画像の一部を利用して生成してもよい。
そして、こうして得られた正射画像を位置座標データに基づいて、パス上に配置することにより、各パスの路面を表す連結画像を生成する。この際、正射画像の一部が重なっても良い。正射画像は、例えば、その中心線がパスの進行方向に沿う状態で配置することが好ましい。
複数のパスで撮影されている場合には、各パスについて正射画像を配置する。こうすることで連結画像がパスの本数分だけ得られる。複数パスの連結画像は、部分的に重なった状態で配置されることになる。
【0014】
各連結画像には、種々の路面標示が含まれている。コンピュータは、この路面標示の種別および位置を認識する。
路面標示の認識には、例えば、パターンマッチングを用いてもよい。連結画像から、白および黄色など標示に用いられる所定色の部分を抽出し、標示の種別ごとに予め用意された標示パターンと抽出された部分とのマッチングによって標示の認識を行うのである。
標示を認識する第2の方法として、標示に該当する部分の幾何学的な条件に基づいて標示を特定する方法をとってもよい。連結画像から標示に用いられる所定色の部分を抽出し、パスに沿う方向との位置関係および大きさに基づいて、標示の種別を認識するのである。標示を認識するための条件を以下に例示する。
横断歩道…パスに平行な方向に、均等な平行線が複数認識される領域;
自転車横断帯…パスに直交する線分のうち、一定の間隔で描かれている2本線を表しているもの(横断歩道の付近という条件を加味してもよい);
停止線…パスに直交する線分のうち、1本線を表しているもの;
車線境界線…パスに平行な線分のうち、所定長さ以上のもの;
減速帯…パスに直交する所定長さ線分が、パス方向に平行に配置されているもの;
ゼブラ…所定間隔で平行線が描かれている領域のうち、横断歩道および減速帯に該当しないもの;
【0015】
本発明では、連結画像から認識された複数の標示の位置関係に基づき、標示が適正な位置関係となるよう、認識された標示の少なくとも一部を修正する。
ここで言う修正には、例えば、他のパスの連結画像が上に重なって非表示となるはずの標示を表示される状態に変更するなどの非表示/表示の切り替え、複数の標示の合成、標示の整形などの処理が含まれる。
本発明は、このように認識された標示単体で修正を施すのとは異なり、複数の位置関係に基づいて標示の修正を施す。従って、複数の路面標示が誤認識または不適切な状態で認識された場合に、標示単体ではなし得ない修正を施すことができ、全体として標示の認識精度を向上させることができる。
【0016】
処理対象となる複数の表示は、単一の連結画像内に存在するものであってもよいし、複数の連結画像から認識されたものであってもよい。
複数のパスで生成された連結画像間には、撮影時の位置誤差が含まれていることがあり、連結画像間の標示の位置に不整合が生じることがある。かかる不整合を抑制するため、パスの位置誤差を修正する処理を施しても良い。この方法としては、例えば、各パスの位置精度、またはオペレータの指示などに基づいて、複数のパスのいずれかを基準パスとし、この基準パスに他のパスを合わせる方法を採ることができる。
位置合わせを行うためには、2本以上のパスの連結画像に共通して撮影されている領域内で、対応する対応点を特定する。例えば、2本のパスに横断歩道が共通に撮影されている場合には、それぞれの連結画像において横断歩道の縞模様のいずれかの角を対応する対応点とすることができる。対応点は、各連結画像からの標示の認識結果に基づいて自動的に設定してもよいし、オペレータの指示によるものとしてもよい。
こうして特定された対応点同士のずれは、位置座標の誤差を表すことになる。従って、対応する対応点の位置が一致するように設定された移動ベクトルに基づいて、基準パス以外のパスの連結画像に対して補正をかけることで、複数のパスの位置の不整合を解消することが出来る。
【0017】
本発明において、連結画像の一部が重なり合う位置関係にある複数のパスについて生成されている場合には、連結画像の一部を透過状態とするための透明化ポリゴンを設定する処理を施しても良い。透明化ポリゴンが設定された場所では透過状態となるため、連結画像が重なり合っている箇所でも下側の連結画像内の路面標示を表示させることができる。透明化ポリゴンは、路面標示の位置を認識して自動的に設定されるようにしてもよいし、オペレータの指示を受け付けて設定するようにしてもよい。
このように透明化ポリゴンが設定されている場合には、認識された標示の一部が、透明化ポリゴンによって透過状態とされることがある。このような場合には、透明化ポリゴンによって透過状態とされる部分を除いた状態の標示に基づいて、標示間の位置関係を判定してもよい。こうすることによって、表示時の標示に基づいて修正処理を施すことができる。
【0018】
本発明における修正は、種々の態様を採ることができる。
例えば、認識された複数の標示が同一の種別である場合には、位置関係に応じて、標示を合成して単一の標示としてもよい。連結画像が重なり合っている部分などでは、一つの標示が重複して認識されることがある。これらの標示は、同一種別であるとともに、相互に重なり合う位置関係、近接している位置関係、一定方向に配列されている位置関係など、相互に関連した位置関係にある。本態様によれば、同一種別の標示を、相互の位置関係に応じて、同一の標示であると認識し、合成することができる。こうすることで、一つの標示が重複して認識されるという一種の誤認識を解消することができる。
【0019】
別の態様として、幅方向の位置が異なる複数のパスに対して連結画像が生成されており、連結画像の一部が重なり合っている場合に、複数のパスの連結画像からそれぞれ認識された標示を合成してもよい。合成の例として、道路の幅方向に並ぶ同一種別の標示を合成して、道路の幅方向に延伸する単一の標示とする処理が挙げられる。
横断歩道、自転車横断帯、停止線など、路面標示には、道路の幅方向に伸びるものがある。幅広の道路の場合、一つのパスで生成される連結画像では、道路幅全体を包含することができず、横断歩道等の路面標示も全体を包含することができないことがある。この結果、横断歩道等の路面標示は、複数の連結画像で分断して認識されることになる。
本態様によれば、同一種別の標示が、幅方向に並んでいる位置関係にあることで、同一の標示が分断して認識されているものと判断して、合成することができる。従って、一つの標示が、複数の標示かのように分断されて認識されている不適切な状態を解消することが出来る。
【0020】
本発明においては、標示の形状を予め規定された幾何学形状で近似してもよい。こうすることによって、この幾何学形状を用いて標示の修正を行うことができる。この幾何学形状を、以下、存在領域と呼ぶものとする。存在領域として用いる幾何学形状、標示の種別等に応じて任意に設定可能である。例えば、横断歩道や矢印などは、四角形、矩形などを用いることができる。また、存在領域はポリゴンである必要はなく、例えば、車線境界線を折れ線で近似するようにしてもよい。
各標示の重心位置や、重なり合いの有無などを判断する際、それぞれの標示の形状を画像処理で認識して処理を行うことも可能ではあるが、幾何学形状を用いることによって、標示の形状を単純化して扱うことができるため、位置関係を容易に判断することができる利点がある。
【0021】
修正の別の態様として、標示には、道路の幅方向に延伸する標示、および車線境界線の双方が含まれている場合には、幅方向に延伸する標示の輪郭線上に車線境界線の端点が来るように、車線境界線の形状を修正してもよい。道路の幅方向に延伸する標示としては、横断歩道、自転車横断帯、停止線などが挙げられる。車線境界線は道路に沿って描かれる標示であるから、幅方向に延伸する横断歩道等とは交差する位置関係にある。従って、幅方向に延伸する横断歩道等の標示の輪郭線上に車線境界線の端点が来るように修正することによって、車線境界線と横断歩道等とを接続することができ、両者の位置関係の適正化を図ることができる。
【0022】
修正の別の態様として、複数のパスに対して生成された連結画像の一部が重なり合っている場合、重なり合う領域において、下側の連結画像においてのみ認識されている標示を、上側に配置される連結画像で隠されない状態としてもよい。例えば、下側の連結画像内の標示を切り取って、上側の連結画像内に移動させてもよい。また、標示に対応する位置に、先に説明した透明化ポリゴンを設定してもよい。
連結画像同士が重なっている場合、重なり合っている部分では、下側の連結画像内に存在する標示に対応する標示が、上側の連結画像から認識されているのが本来である。下側の連結画像においてしか標示が認識されておらず、上側の連結画像に対応する標示が認識されていない場合は、誤認識の一つに当たる。本態様によれば、下側の連結画像においてのみ認識されている標示を抽出し、表示可能な状態とすることができる。従って、こうした誤認識を解消し、下側の連結画像での認識結果を有効活用することが可能となる。
【0023】
本発明は、必ずしも上述した特徴を全て備えている必要はなく、適宜、その一部を省略してもよいし、いくつかの特徴を適宜、組み合わせて備えるようにしてもよい。
本発明は、上述の生成方法に限らず、この生成方法によって道路面に施された標示を含む路面標示地図を生成する生成装置として構成してもよい。
また、上述の生成方法をコンピュータに実現させるためのコンピュータプログラムとして構成してもよいし、かかるコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体として構成してもよい。記録媒体としては、例えば、フレキシブルディスクやCD−ROM、光磁気ディスク、ICカード、ROMカートリッジ、パンチカード、バーコードなどの符号が印刷された印刷物、コンピュータの内部記憶装置(RAMやROMなどのメモリ)および外部記憶装置等、コンピュータが読取り可能な種々の媒体を利用できる。
【発明を実施するための最良の形態】
【0024】
本発明の実施例について以下の順序で説明する。
A.システム構成:
A1.道路面撮影システム:
A2.路面標示地図生成装置:
B.処理概要:
B1.中間データ構成:
B2.処理例:
B3.位置合わせ加工概要:
C.路面標示地図生成方法:
C1.連結画像生成処理:
C2.位置合わせ加工:
C3.基準パス設定処理:
C4.連結画像移動処理:
C5.透明化ポリゴン設定処理:
C6.ペイント認識処理:
D.効果:
【0025】
A.システム構成:
本実施例では、車両に搭載したビデオカメラで撮影した道路面の画像を用いて、路面の標示を含む地図(以下、「路面標示地図」と呼ぶ)を生成する方法を示す。
本実施例のシステムは、道路面撮影システムと路面標示地図生成装置から構成される。道路面撮影システムは、道路を走行しながら道路面の画像をビデオカメラで撮影するシステムである。本実施例では、対象となる道路を、異なる走行軌跡で複数回走行し、それぞれ画像を撮影する。
路面標示地図生成装置は、道路面撮影システムで撮影された道路面の画像に基づいて路面標示地図を生成する装置である。まず、上述の各走行軌跡上に、撮影された画像を正射画像に変換した上で配置することで、道路面の一部の車線についての連結画像を生成する。そして、複数の走行軌跡の画像を、位置座標が整合するように配置することで道路全体の画像を生成する。また、こうして生成された連結画像から道路面の標示を抽出する。
以下、道路面撮影システムと路面標示地図生成装置のシステム構成について説明する。
【0026】
A1.道路面撮影システム:
図1は実施例としての道路面撮影システムの構成を示す説明図である。
道路面撮影システム100は、車両に搭載されたシステムである。図の下方のブロック図に基づき、システム構成を説明する。
ビデオカメラ120は、走行中の道路面の画像を撮影する。
位置計測部110は、撮影中の位置座標を計測する装置である。位置計測部110は、GPS(Global Positioning System)114、IMU(Inertial
Measurement Unit)116、DMI(Distance Measuring Instrument)118およびコントローラ112から構成されている。GPS114は、全地球測位システムである。IMU116は、内部に3軸のジャイロおよび加速度センサを備えた慣性計測装置である。DMI118は、車輪の回転を検出して移動距離を計測する装置である。
【0027】
コントローラ112は、GPS114、IMU116、DMI118からの信号を受け、撮影時の位置座標を逐次出力する。位置座標は任意の座標系を採ることができるが、本実施例では、緯度経度および標高を用いた。
また、これらの信号の取得後、位置座標の計測精度の評価値である自己推定位置精度σを併せて出力する。一般にGPS114は、位置座標の検出に使用される人工衛星の配置、電波の受信状況、建造物などに反射した電波を受信することによるマルチパスの有無などによって検出精度が変動することが知られている。またディファレンシャル測位では、基準局の稼働状況によっても検出精度は影響を受ける。
自己推定位置精度σは、任意に定義可能である。例えば、GPS114の人工衛星の配置によって定まる精度低下率(DOP(Dilution of Precision))を用いて自己推定位置精度σを算出するようにしてもよい。
自己推定位置精度σは、取得されたデータを後述する路面標示地図生成装置で処理する際に、解析するようにしてもよい。
【0028】
記録装置130は、ビデオカメラ120および位置計測部110の出力信号を同期して記録する。本実施例では、記録装置130は、汎用のパーソナルコンピュータに、記録用のハードディスク140を増設した装置によって構成した。ハードディスク140内には、図示する通り、画像データ142、同期データ144、計測データ146が記録される。画像データ142は、ビデオカメラで撮影された画像の動画ファイルである。計測データ146は、位置計測部110で得られた位置座標である。同期データ144は、画像データ142と計測データ146との取得時刻を対応づけるデータである。同期データ144および計測データ146を参照することにより、画像データ142のフレームごとに撮影地点の位置座標を得ることができる。
【0029】
撮影時の記録用のデータ構造は、上述した構造に限られない。例えば、計測データ146は、画像データ142の各フレームの位置座標を順次、格納するデータとしてもよい。こうすることにより、同期データ144を省略することが可能となる。かかるデータを取得するためには、例えば、記録装置130がビデオカメラ120のフレームごとに同期信号を位置計測部110に出力し、その時の位置座標を取得する方法を採ることができる。
【0030】
図の上方に、車両に搭載した状態を模式的に示した。
ビデオカメラ120は、前方画像を撮影できるよう、車両の前方に設置する。画角を広げるために広角レンズを装着してもよい。
GPS114のアンテナ114Aは、車両のルーフ上部に設置する。本実施例では、GPS用の人工衛星からの電波を確実に受信し、十分な位置精度を確保することができるよう、アンテナ114Aを車両の前後に主副の2台設置した。いずれか一台のみを用いるものとしてもよい。
IMU116、DMI118、コントローラ112は、それぞれ車両の後部に設置した。DMI118は、後輪の回転を検出可能に装着されている。
記録装置130およびハードディスク140は車室内の任意の場所に設置可能であるため、図示を省略した。
【0031】
A2.路面標示地図生成装置:
図2は実施例としての路面標示地図生成装置の構成を示す説明図である。道路面撮影システムで撮影された道路面の画像に基づいて路面標示地図を生成するための装置である。本実施例では、完全に自動で路面標示地図を生成するのではなく、適宜、オペレータからのコマンドによる指示を受けながら対話型または半自動で処理を進める方法を採用した。
【0032】
図中には、路面標示地図生成装置200の機能ブロックを示した。本実施例では、路面標示地図生成装置200は、図示する各機能を実現するためのコンピュータプログラムを、汎用のパーソナルコンピュータにインストールすることによってソフトウェア的に構築した。これらの機能ブロックの一部は、OS(Operating System)によって提供してもよい。また、これらの機能ブロックは、それぞれハードウェア的に構成することも可能である。また、ここでは説明の便宜上、スタンドアロンで稼働する装置として説明するが、各機能ブロックをネットワークで接続された複数のコンピュータに分散して用意してもよい。
【0033】
主制御部201は、各機能ブロックを統合制御する。データ入力部204は、道路面撮影システム100で取得した各種データを記録したハードディスク140から、画像データ142、同期データ144、計測データ146を入力する。本実施例では、ハードディスク140を道路面撮影システム100から路面標示地図生成装置200に接続し直すことによって、これらのデータを受け渡す方法を採ったが、ネットワーク経由でデータを送信する方法や、DVDなどの記録媒体を用いてデータを受け渡す方法を採ってもよい。
【0034】
コマンド入力部202は、コンピュータに備えられたキーボードやマウスなどの操作を介して、オペレータからのコマンドを入力する。
表示制御部203は、コンピュータのディスプレイに、路面標示地図生成装置200での処理結果を表示したり、オペレータが種々のコマンドを指示するための画面を表示したりする。コマンド入力部202、表示制御部203の機能は、コンピュータのOS(Operating System)によって提供してもよい。
【0035】
軌跡データ算出部205は、計測データ146に基づき、画像データ142を撮影した時の走行軌跡(以下、「パス」と呼ぶこともある)を表すデータを生成する。本実施例では、軌跡データ算出部205は、道路面撮影システム100によって得られる位置座標を記録した計測データ146に対して、位置座標が既知の基準局から提供されている検出情報に基づく補正を施すことによって軌跡データを生成する。基準局の情報を用いて位置座標を補正する技術は周知であるため、説明を省略する。この処理によって位置座標の精度を向上させることが可能となる。
もっとも、基準局からのデータを用いることは必須ではない。計測データ146で得られた位置座標をそのまま用いるものとしてもよい。かかる場合には、軌跡データ算出部205は省略することも可能である。
【0036】
画像変換部206は、正射投影、即ち画像データ142の各フレーム画像を真上から見た状態に変換して正射画像を生成する。
1パス合成部207は、画像変換部206によって得られた各フレーム画像の正射画像を、その正射画像内の代表点が、撮影時の位置座標に基づいて定まる位置座標に来るように配置することによって、撮影時の走行軌跡(パス)に沿った道路面の画像を合成する。こうして合成された画像を、連結画像と呼ぶものとする。合成された連結画像は、処理データ記憶部210に保存される。
本実施例では、それぞれの道路に対して、異なる走行軌跡で、複数回走行して、撮影を行う。1パス画像合成部207は、それぞれのパスごとに合成画像を生成する。この結果、連結画像は、パスの本数に応じて、複数生成される。
【0037】
位置合わせ処理部220は、1パス画像合成部207で生成された複数の連結画像を、位置合わせ処理、即ち連結画像間の位置座標の誤差を修正して路面の画像が整合するように配置する処理を行うことで、道路全体の正射画像(以下、「道路画像」と呼ぶこともある)を生成する。位置合わせ処理は、オペレータからの指示に応じて行う。処理内容は後述する。
位置合わせで得られた道路画像は、処理データ記憶部210に保存される。
【0038】
透明化ポリゴン設定部221は、得られた道路画像上に、オペレータの指示によって、透明化ポリゴンを設定する。上述の位置合わせを行う際には、隣接するパスに対応する正射画像の一部が重なり合うことがある。そして重なった部分では、下側に配置された正射画像の方に、路面標示が鮮明に写されている場合もある。透明化ポリゴンは、このような場合に、下側の画像が表示されるように上側の正射画像の一部を透明化する処理を施す領域を指定するためのポリゴンである。透明化ポリゴンを設定することにより、路面標示を正確に把握可能な地図を提供することが可能となる。
【0039】
ペイント認識部223は、道路面の標示(以下、「ペイント」と呼ぶこともある)を認識する。本実施例では、1パス画像合成部207で生成された連結画像に基づいて標示の認識を行うものとした。ペイント認識結果は、処理データ記憶部210に保存される。
【0040】
ペイント解析部225は、ペイント認識結果に対し、ペイント相互の相関関係に基づいて、誤認識の有無を検出する。誤認識が検出されたペイントに対しては、削除など、誤認識の態様に応じた対処を施す。これらの対処結果は、ペイント認識結果に反映される。
相関関係とは、例えば、路面標示が所定の組み合わせで描かれているか否か、異種の標示が重なり合っていないかなどの関係を言う。例えば、横断歩道と自転車横断帯とは隣接して描かれているのが通常であるため、自転車横断帯が単独で描かれている場合には、自転車横断帯が誤認識されていると判断することができる。
標示の相関関係は、標示の種別に応じて定められた幾何学形状からなる存在領域に基づいて行われる。本実施例では、この存在領域をオブジェクトファイルと呼ぶものとする。オブジェクトファイルは、相関関係の判定に先立って、ペイント解析部で設定され、処理データ記憶部210に記憶される。
【0041】
ペイント修正部227は、処理データ記憶部210に記憶されたペイント認識結果に対して、相互の位置関係に基づき、適正な位置関係が実現されるよう認識結果を修正する。修正には、例えば、複数の標示同士を合成したり、非表示状態の標示を表示状態に切り換える処理が含まれる。具体的な修正方法については後述する。 位置関係の判断には、処理データ記憶部210内のオブジェクトファイルを利用する。
【0042】
路面標示地図生成装置は、以上で生成された道路画像に基づいて路面標示地図を出力することができる。例えば、道路画像を印刷可能なファイルとして出力してもよい。また、路面標示地図を電子地図として生成するように、道路画像を電子データとして出力してもよい。また、これらの出力に先立って、道路画像に基づいて路面標示の位置座標や形状データを取得する処理を行うようにしてもよい。
【0043】
B.処理概要:
B1.中間データ構成:
図3は路面標示地図の生成過程における中間データを示す説明図である。これらのデータは、順次、処理データ記憶部210(図2参照)に記憶される。
本実施例では、道路を走行しながらビデオカメラ120および位置計測部110で取得したデータが記録装置130としてのパーソナルコンピュータによってハードディスク140内に格納されている。格納されるデータとしては、画像データ142、計測データ146、および両者の同期をとるための同期データ144がある。
【0044】
計測データ146は、撮影時の位置座標データの記録である。本実施例では、基準局データ150を参照して、計測データ146を補正することにより、軌跡データ210aを算出する。これは、先に図2で説明した軌跡データ算出部205が行う処理である。基準局データ150は、位置座標が既知の基準点におけるGPSでの検出結果を表すデータであり、例えば、国土地理院が提供している基準点データなどを用いることができる。ここで得られた軌跡データ210aは、以下、それぞれの処理において、道路面の画像を撮影した際の軌跡(以下、「パス」と呼ぶこともある)を緯度経度、高度からなる絶対座標で表すデータとして利用される。
【0045】
一方、画像データ142、同期データ144、軌跡データ210aからは、路面テクスチャ210cが生成される。また、同期データ144と軌跡データ210aから、路面軌跡データが生成される。
本実施例では、各道路を複数回走行して、道路面の画像を撮影する。従って、路面テクスチャ210cおよび路線軌跡データ210bは、各道路に対して複数パス分、生成されることになる。
【0046】
路面テクスチャ210cおよび路線軌跡データ210bを用いて、連結画像210dが生成される。連結画像210dは、図2中の1パス画像合成部207によって生成される画像である。つまり、連結画像210dとは、路線軌跡データ210bで表される位置座標に基づき、各路面テクスチャ210cを配置することによって生成される各パスの路面画像である。連結画像210dも、各道路に対して複数パス分、生成されることになる。
連結画像210dは、路面テクスチャ210cを結合した一つの画像ファイルとして生成することもできる。本実施例では、後に続く処理の便宜上、合成画像として生成するのではなく、路面テクスチャ210cを配置して連結画像210dを生成するための情報(以下、「登録データ」と呼ぶこともある)を、路面テクスチャ210cの各画像と対応づけて格納するものとした。かかる情報には、路面テクスチャ210cを配置する位置座標、配置する際の姿勢(角度)、および隣接する路面テクスチャ210cを特定する情報、隣接する路面テクスチャ210cとの上下関係などを含めることができる。
【0047】
こうして得られた連結画像210dを用いて、位置合わせおよび透明化ポリゴン設定などの処理を行う。これらの処理は、図2の位置合わせ処理部220、透明化ポリゴン設定部221が行う処理である。この処理によって、複数パス分の連結画像210dを合成して、道路ごとに道路画像210eを得ることができる。
道路画像210eについても、合成画像として生成してもよいし、路面テクスチャ210cを配置して道路画像210eを生成するための情報を、路面テクスチャ210cの各画像と対応づけて格納するようにしてもよい。本実施例では、後者の方法を採用した。それぞれの路面テクスチャ210cを配置する位置座標、配置する際の姿勢(角度)などの情報は、道路画像用登録データ210fとして保存されている。また、位置合わせの過程で、路線軌跡データ210bに対して、位置誤差を修正する処理が施されるため、この原データに対する修正過程を表す情報を、軌跡用登録データ210gとして保存する。
この他、連結画像210dのデータ(路面テクスチャ210c、路線軌跡データ210bを含む)も併せて保存する。原データである画像データ142、軌跡データ210aも保存しておくことが好ましい。仮に、合成画像化された形で連結画像210dを保存している場合には、道路画像210eは、連結画像210dを合成することになるため、合成の繰り返しで原データに比較して画質が劣化するおそれがある。これに対し、本実施例のように、路面テクスチャ210cも含めて、原データに近いデータを残しておくことにより、これらのデータを利用して道路画像210eを生成することが可能となる。従って、合成の繰り返しなど、画像データに重畳的に画像処理が施されることを抑制でき、道路画像210eの画質を向上させることが可能となる。
【0048】
B2.処理例:
次に、本実施例における処理の概要理解を容易にするため、処理例を示す。
図4は実施例における道路画像の生成例を示す説明図である。図4(a)には、1本のパスに沿って得られた連結画像の生成例を示し、図4(b)には、複数パスの連結画像を配置して得られた道路画像の例を示している。
図4(a)中の直線L41〜L44は、それぞれ道路面撮影システム100で走行しながら道路画像を撮影した際の走行軌跡(パス)を表している。図4(a)のPIC41は、パスL43を走行して得られた画像データに基づいて生成された連結画像である。本実施例では、広角レンズを用いて撮影しているため、1回のパスでも複数車線を覆うだけの連結画像を得ることができている。連結画像の両端が、のこぎり刃状にギザギザになっているのは、画像データの各フレームを正射投影した際に生じる形状歪みの影響である。この連結画像PIC41は、ギザギザの山数に応じたフレーム数の正射画像(路面テクスチャ)を配置して生成されているのである。
このような連結画像は、図中のパスL41〜L44のそれぞれに対して得られる。
【0049】
図4(b)は、パスL41〜L44に対する連結画像を合成して得られた道路画像PIC42を示している。図4(a)よりも幅広く、反対車線まで含めて道路画像が生成されていることが分かる。複数パスの連結画像を合成する際、各パスの位置座標に誤差があると、連結画像間にずれが生じる。これらのずれが存在すると、図4(b)中の横断歩道、車線境界線などの標示も途中でずれた状態で表示されてしまう。本実施例では、各パスの連結画像間の位置座標の誤差を修正しつつ合成を行う。この処理を位置合わせと呼ぶ。このように位置合わせを行って連結画像を合成することにより、図4(b)に示すように、横断歩道、車線境界線などの標示が整合した道路画像を得ることができる。
【0050】
B3.位置合わせ加工概要:
図5は位置合わせ加工の概要を示す説明図である。本実施例では、複数の連結画像に共通して撮影されている標示に基づいてオペレータが指定した対応点の位置を合わせるように、連結画像を平行移動することによって位置合わせを行う。
図5(a)には対応点が1つだけ指定された場合の処理方法を示した。図中には、2本の連結画像PIC51、PIC52が描かれている。これらには、それぞれ菱形の標示、つまり横断歩道の予告標示が含まれている。ただし、図5(a)左側の状態では、連結画像PIC51、PIC52には相対的に位置誤差があるため、標示の位置がずれている。
オペレータは、この表示画面を見ながら、マウス等のポインティングデバイスを用いて対応点を指定する。図の例では、横断歩道の予告表示の頂点に当たるP51、P52を指定した状態を示した。これらの対応点P51、P52は、連結画像PIC51、PIC52に位置誤差がなければ、本来、同じ位置に重なるはずの点である。そこで、本実施例では、対応点P51、P52が一致するよう、図中に矢印で示すように連結画像PIC51、PIC52を平行移動させる。
この際、連結画像PIC51、PIC52の一方を基準とし、他方を平行移動する方法を採った。図の例では、連結画像PIC51を基準とし、連結画像PIC52を移動させた例を示している。このように移動することにより、予告標示のずれが解消した状態の道路画像PIC53を得ることができる。
【0051】
図5(b)には対応点が複数指定された場合の処理方法を示した。図中には、2本の連結画像PIC54、PIC55が描かれている。これらには、それぞれ横断歩道の予告標示が含まれている。但し、図5(b)の左側の状態では、連結画像PIC54、PIC55には相対的に位置誤差があるため、標示の位置がずれている。
この状態で、オペレータが、2組の対応点を指定したとする。対応点P54、P53の組と、対応点P56、P55の組である。連結画像PIC54では、連結画像PIC55に含まれる予告標示M52は全体が描かれており、連結画像PIC54に含まれる予告標示M51は一部が消えている。このような状態であっても、対応点P55、P56が対応することは明らかであるため、対応点として指定することは可能である。
このように複数組の対応点が指定されると、連結画像PIC54を基準として、それぞれの対応点が一致するように、連結画像PIC55を移動させる。ただし、対応点P53をP54に一致させるための第1の移動量と、対応点P55をP56に一致させるための第2の移動量とが同じであるとは限らない。そこで、対応点P53とP55との間の領域では、第1の移動量、第2の移動量を直線補間して、各点の移動量を設定する。こうすることにより、予告標示のずれが解消した状態の道路画像PIC56を得ることができる。
【0052】
図5(b)中には、透明化ポリゴンの設定例も併せて示した。
この例では、連結画像PIC54中の予告標示M51は半分が欠けている。この状態で位置合わせを行うと、この例では、連結画像PIC54をPIC55の上側に重ねるように表示しているから、連結画像PIC55の予告標示M52は、連結画像PIC54によって覆い隠されてしまう。この結果、連結画像PIC55では完全な状態で描かれている標示M52を道路画像PIC56で活かすことができない。
そこで、このような場合に、オペレータの指示によって予告標示M52を取り囲むように透明化ポリゴンTP50を設定する。透明化ポリゴンTP50が設定された箇所では、上側の連結画像が透明化され、切り取られたように表示される。この結果、透明化ポリゴンTP50の部分では、連結画像PIC54の下側に配置された連結画像PIC55に描かれている予告標示M52が表示される。
本実施例では、このように透明化ポリゴンを設定可能とすることによって、それぞれの連結画像で描かれている標示を、道路画像においても有効活用することができる。
【0053】
図6は交差点が存在する場合の位置合わせの手順を示す説明図である。図の煩雑化を避けるため、ここでは連結画像のパスの位置関係のみを示した。図中には、2つの交差点周辺の道路が描かれている。縦の道路では、それぞれパスBP61、BP62に沿って連結画像が得られているとする。横の道路については、破線で示したパスBP63b、BP64b、NP61bに沿って連結画像が得られているとする。
【0054】
本実施例では、複数のパス間の位置合わせを行う際には、いずれか一つのパスを基準パスに設定し、他のパスを平行移動して基準パスに合わせる。基準パス以外のパスを、以下、標準パスと呼ぶものとする。基準パスおよび標準パスは、任意の方法で設定可能であるが、本実施例では、後述する通り、位置精度が高いものを基準パスとして設定している。
図6の例では、縦の道路については、それぞれ単一のパスしか存在しないため、パスBP61、BP62が基準パスとなる。
横の道路については、区間D61ではパスBP63bとNP61bのうち位置精度が高い側を基準パスとし、区間D62についてはBP64bとNP61bのうち位置精度が高い側を基準パスとする。ここでは、それぞれパスBP63b、BP64bが基準パスとして設定されているものとする。更に、パスBP63b、BP64b間の位置精度を比較して、優劣を決める。パスBP63b、BP64bはそれぞれ区間D61、D62の基準パスではあるが、一本の道路に配置された連続するパスなので、これらのパス間でも位置合わせを行う必要があるからである。図6の例では、パスBP63bの方が、パスBP64bよりも位置精度が高いものとする。
この結果、横のパスについては、基準パスBP63b>基準パスBP64b>標準パスNP61bの順に位置合わせの優先度が定まる。
【0055】
次に、上述の優先度に従って、それぞれのパスの位置合わせを行う。縦のパスBP61、BP62は既に位置合わせが完了しているものとする。
まず、基準パスBP63bの位置合わせを行う。オペレータの指示によって、基準パスBP63b上の対応点P63bが指定され、その本来の位置として、点P63aが指定されたとする。この結果、基準パスBP63bは、対応点P63bが、点P63aに一致するように移動され、実線で示した基準パスBP63aが得られる。
図示を省略したが、基準パスBP63bに対応した連結画像も基準パスBP63aに合わせて移動する。本実施例では、基準パスBP63bに沿って路面テクスチャを配置することによって連結画像を表示しており、これらの路面テクスチャを合成してはいない。従って、基準パスBP63aへの移動が行われた場合には、基準パスBP63aに沿うように、各路面テクスチャの位置を平行移動することによって、基準パスBP63aの連結画像を得ることができる。
【0056】
次に、基準パスBP64bの位置合わせを行う。オペレータの指示によって、基準パスBP64b上の対応点P65b、P64bが指定され、その本来の位置として、点P65a、P64aが指定されたとする。この対応点は、基準パスBP63aの連結画像に基づいて指定されている。つまり、基準パスBP63bを基準パスBP63aに位置合わせする処理の結果に応じて、基準パスBP64bの位置合わせは影響を受けることになる。
対応点が指定されると、基準パスBP64bは、対応点P65b、P64bが、点P65a、P64aに一致するように移動され、実線で示した基準パスBP64aが得られる。これに合わせて、基準パスBP64bの連結画像を構成していた路面テクスチャも、それぞれ基準パスBP64a上に平行移動される。
【0057】
最後に、標準パスNP61bの位置合わせを行う。オペレータの指示によって、標準パスNP61b上の対応点P68b、P67b、P66bが指定され、その本来の位置として、点P68a、P67a、P66aが指定されたとする。この対応点は、基準パスBP63a、BP64aの連結画像に基づいて指定されている。つまり、基準パスBP63bを基準パスBP63aに位置合わせする処理、および基準パスBP64bを基準パスBP64aに位置合わせする処理の結果に応じて、標準パスNP61bの位置合わせは影響を受けることになる。
対応点が指定されると、標準パスNP61bは、対応点P68b、P67bが、点P68a、P67aに一致するように移動されるとともに、対応点P67b、P66bが、点P67a、P66aに一致するように移動される。これらの3点は一直線上にはないから、結果として、標準パスNP61bは、折れ線状の標準パスN61aに移動される。これに合わせて、標準パスNP61bの連結画像を構成していた路面テクスチャも、それぞれ標準パスNP61a上に平行移動される。
【0058】
本実施例では、図6に示すように複数のパスが存在する場合には、以上で説明した手順によって、位置精度が高いパスから優先的に位置合わせが行われる。こうすることによって、全体の位置精度を十分に確保しつつ位置合わせを行うことができる。
例えば、図6の処理において、位置精度が低い順、つまり標準パスNP61b、基準パスBP64b、基準パスBP63bの順に位置合わせをしたとする。この場合には、基準パスBP64bの位置合わせは、標準パスNP61bの位置合わせの影響を受け、位置精度が低下する。基準パスBP63bの位置合わせは、標準パスNP61b、基準パスBP64bの位置合わせの影響を受け、位置精度が低下する。従って、位置精度が低い順に位置合わせを行うと、パス間の相互作用によって全体の位置精度が低下してしまう。
本実施例では、これとは逆に、位置精度が高い順に位置合わせを行う。従って、最も位置精度が高いパスの位置精度を劣化させることなく、全体の位置合わせを行うことが可能となるのである。
【0059】
C.路面標示地図生成方法:
以下、図1〜6で説明した路面標示地図の生成方法について、オペレータが必要に応じて指示を行う場合を例にとって、詳細に説明する。
まず、連結画像生成処理、つまり図2中の路面テクスチャ210c、路面軌跡データ210bに基づいて各パスの連結画像210dを得る処理について説明する。
次に、位置合わせ加工、つまり複数パスに対する連結画像210dの位置合わせを行う処理、および位置合わせ加工の中で行われる基準パス設定処理、連結画像移動処理について説明する。
また、透明化ポリゴンの設定処理について説明する。
【0060】
上述の一連の処理においては、路面標示地図生成装置が連結画像内の標示の位置を表示するようにすれば、オペレータが対応点や透明化ポリゴンの位置を容易に指定可能となる。また、自動的に対応点を特定したり、透明化ポリゴンを設定したりすることも可能となる。こうした処理を可能にするための処理として、ペイント認識処理について説明する。
ペイント認識処理が終わると、路面標示地図生成装置は、ペイント間の相関関係に基づいて誤認識の検出・対処を行うペイント解析処理を行う。この際には、相関関係を判定するため、路面標示地図生成装置は、各ペイントを包含する幾何学形状で規定された存在領域を生成し、これをオブジェクトファイルとして記憶する。
次に、路面標示地図生成装置は、オブジェクトファイルに基づいて、複数の路面標示の位置関係を適正にするための処理、ペイント修正処理を行う。
【0061】
C1.連結画像生成処理:
図7は連結画像生成処理のフローチャートである。ハードウェア的には路面標示地図生成装置200のCPUが実行する処理である。これは、図2に示した画像変換部206、1パス合成部207の処理に相当する。
処理を開始すると、CPUは、まずフレームデータを読み込む(ステップS10)。フレームデータとは、道路面撮影システム100(図1)のビデオカメラ120で撮影された画像データ142を構成する各フレームの画像である。
【0062】
図中にフレームデータの例を示した。ビデオカメラ120は、道路面撮影システム100の前方に向けて設置されているため、フレームデータには、車両の前方の道路、前方車両などが写っている。本実施例では、道路面の画像を生成したいため、このフレームデータの一部の領域を切り出して使用する。図中の領域A71は、道路面のみが含まれるように設定された切り出し領域を現している。本実施例では、車両の前方5〜7mの領域の画像を取得するように領域A71を設定した。領域A71の各フレーム内での相対的な位置は一定である。
領域A71は、上述の例に限らず、任意に設定可能である。ビデオカメラ120が一定のフレームレートで画像を撮影するため、フレームデータは、道路面を間欠的に撮影した画像群となる。従って、領域A71は、間欠的に撮影された画像群を並べた時に、道路が連続画像として再現できるように範囲を決定することが好ましい。例えば、領域A71の縦幅を狭くすれば、車両の速度が速い場合には、あるフレームデータから切り出された領域と、次のフレームデータから切り出された領域との間に隙間が生じやすくなる。一方、領域A71の縦幅を広くすれば、前方車両や空、建物など、道路画像とは異なる雑多な映像が含まれやすくなる。領域A71は、これらの影響を考慮した上で、設定すればよい。
【0063】
次に、CPUは、取得されたフレームデータを正射画像(路面テクスチャ)に画像変換する(ステップS12)。図中に処理の概要を示した。上側にはフレームデータの例である。ここでは路面の状態のみが撮影され、道路の左右の車線規制線L71、L72および標示M7が写されている例を示した。前方を撮影した画像であるため、パース(遠近法)の影響で、本来平行な車線規制線L71、L72が、ハの字状に写されている。
先に説明した通り、このフレームデータの一部の領域A71を切り出して使用する。
下段には、領域A71の画像を正射投影変換した状態を例示した。道路を真上から見た画像に変換するため、左右の車線規制線L71、L72は図示する通り、平行な線分に変換される。標示M7も同様に真上から見た状態の形状に変換される。
【0064】
正射投影変換の方法を説明する。
まず、道路面撮影システム100を搭載した車両は水平面上を走行しており、被写体である道路も同一水平面上にあるものとする。
この時、道路画像、即ちフレームデータの画面上の2次元座標をm=[u,v]とする。また、地面に固定された世界座標系の3次元座標をM=[X,Y,Z]とする。これらの各座標に1の要素を直積で加えたベクトルを、次式(1)の通り定義する。
【0065】
【数1】

【0066】
3次元座標Mと、その投影画像の2次元座標mとの関係を以下の関係式(2)(3)によりモデル化する。
【0067】
【数2】

【0068】
ここで、sはスケール・ファクター;
[Rt]は、外部パラメータ行列;
Rは回転行列;
tは平行移動行列;
Aは内部パラメータ行列である。
【0069】
内部パラメータ行列Aは、ビデオカメラ120の焦点距離等を考慮した内部的なパラメータであり、実画像座標系(xy座標系)からフレーム座標系(uv座標系)への写像パラメータを表す。
α、βはそれぞれu軸、v軸方向のスケール因子、γは2つの画像軸のスキューにより表されるパラメータ;
[u0,v0は、画像の主点の座標(主点座標)である。
画像のピクセルサイズを(k、k)、u軸とv軸とのなす角をθ、焦点距離をfとすると、α、β、γは次式(4)で表される。
【0070】
【数3】

【0071】
外部パラメータ行列[Rt]は、ビデオカメラ120の設置位置、設置姿勢などによる外部的なパラメータであり、世界座標系(XYZ座標系)から実画像座標系(xy座標系)への写像パラメータを表す。世界座標系は、ビデオカメラ120の真下の路面を原点とし、車両の進行方向に対し垂直な水平軸をX軸、鉛直軸をY軸、進行方向の水平軸をZ軸とする。
平行移動ベクトルtは、世界座標系において原点に対する実画像の画像主点の移動ベクトルである。
ビデオカメラ120の高さ(実画像の画像主点の高さ)をhとすると、平行移動ベクトルtは次式(5)で表される。
【0072】
【数4】

【0073】
また、世界座標系において、実画像のヘディング方向の回転角(ヨー角)をφ、ピッチ角をω、ロール角をκとすると、回転行列Rは次式(6)で表される。
【数5】

【0074】
内部パラメータ行列Aは、事前の測定によって得られる。
ヨー角φ、ピッチ角ω、ロール角κおよび画像主点の高さhは、次の手順で得られる。まず、初期状態、即ち車両が水平な地面に設置されている状態において、ヨー角φ0、ピッチ角ω0、ロール角κ0、および高さh0の基準値を計測しておく。次に、走行中には逐次、車両の姿勢角の変化および車高の変化をジャイロ、加速度センサ等で記録しておき、上述の基準値にこの変化を反映することで、各地点でのヨー角φ、ピッチ角ω、ロール角κおよび高さを得ることができる。
【0075】
正射投影変換は、これらのパラメータに基づき、式(2)を用いることにより、行われ、フレーム座標系(uv座標系)の道路画像を、世界座標系(XYZ座標系)の投射道路画像に変換することができる。その手順は次の通りである。
まず、被写体である道路面を水平面(Y=0)の画像であると仮定する。この時、式(2)より、次式(7)の関係が成立する。
【0076】
【数6】

【0077】
この結果、ピクセル(u,v)に対する世界座標(X,Z)及びスケールパラメータsは次式(8)により求めることができる。
【0078】
【数7】

【0079】
次に、路面標示地図生成装置200のCPUは、被写体である道路面の傾斜を考慮した補正を行う。
まず、フレームデータを取得した各地点の位置座標データ(X,Y,Z)と、被写体である道路面付近の複数点の位置座標(X,Y,Z)とから、被写体である道路面の勾配を計算する。本実施例では、勾配は一様であるものと仮定した。
具体的には、撮影地点の世界座標点(X,Y,Z)付近の位置座標データから、高さの変化Δhを求める。つまり、Δh=Y−Yである。この時、一様な勾配を仮定すると、道路面上の世界座標系(X’,Y’,Z’)の点の奥行きZ’は次式(9)で求めることができる。
【0080】
【数8】

【0081】
補正した道路面上の奥行きZ’が決まると、式(2)より、フレーム座標点(u,v)と世界座標点(X’,Y’,Z’)との関係は次式(10)の通りとなる。
【0082】
【数9】

【0083】
これより、世界座標点のX’,Y’を次式(11)によって計算することができる。
【数10】

【0084】
以上の通り、フレームデータ上の点(u,v)を、それぞれ(X’,Z’)に写像すれば、正射画像(路面テクスチャ)を得ることができる。図7中に示すように、フレームデータを矩形の領域A71で切り出した上で正射投影すると、上方が広がる台形状の正射画像(路面テクスチャ)A72が得られる。
本実施例では、後に続く処理の便宜のため、正射画像(路面テクスチャ)を低解像度/高解像度の2通りで生成するものとした。高解像度の正射画像(路面テクスチャ)(以下、「高解像度画像」と呼ぶ)は、もとのフレームデータの切り出し領域A71をそのまま利用して生成された画像、即ち原画像と同じ解像度で生成された画像である。低解像度の正射画像(路面テクスチャ)(以下、「低解像度画像」と呼ぶ)は、解像度を原データよりも下げた画像である。低解像度画像の解像度は、路面標示地図生成装置200が軽い負荷で画像を表示することができる程度の値とすることが好ましく、原画像の解像度の半分など、任意に設定可能である。
【0085】
次に、路面標示地図生成装置200のCPUは、得られた正射画像(路面テクスチャ)を配置して1パス画像の合成を行う(ステップS14)。図中に1パス画像合成の例を示した。この例では、正射画像(路面テクスチャ)A72[0]〜A72[5]が合成されている。
各正射画像(路面テクスチャ)A72は、フレーム座標系(uv座標系)の原点に対応する点を、各フレームデータの撮影時の位置座標に基づいて配置すればよい。フレームデータは車両の位置よりも前方を写したものであるため、正射画像(路面テクスチャ)は、車両位置から一定距離だけ前方に移動させた地点に配置する必要がある。本実施例では、フレームデータ毎に車輌位置とフレーム座標系の位置関係を計算して配置する。また、正射画像(路面テクスチャ)は、時系列的に古い画像から新しい画像に順次、配置するものとした。
このように正射画像(路面テクスチャ)を配置することによって、道路面の車線境界線L71、L72および標示M7が再現される。
本実施例では、連結画像生成処理の段階では、正射画像(路面テクスチャ)を1枚の画像に結合することなく、配置して表示する状態に留めている。従って、1パス画像合成処理(ステップS14)で生成されるのは、合成画像ではなく、各正射画像(路面テクスチャ)の配置を決定する情報となる。もっとも、この処理において、正射画像(路面テクスチャ)を1枚の画像に結合する方法を採ることもできる。
【0086】
C2.位置合わせ加工:
図8は位置合わせ加工のフローチャートである。ハードウェア的には路面標示地図生成装置200のCPUが実行する処理である。これは、図2に示した位置合わせ処理部220の処理に相当する。
処理を開始すると、CPUは、まず処理の対象となる道路(以下、「対象道路」と言う)についてのオペレータからの指定を入力する(ステップS20)。そして、対象道路に対応する連結画像を入力する(ステップS22)。本実施例では、それぞれの道路について、走行位置を変えながら複数回走行して、路面画像を撮影している。従って、各走行に対応するパスに基づいて、それぞれ連結画像が生成されている。ステップS22では、これらの複数の連結画像を読み込む。
【0087】
次に、CPUは基準パスを設定する(ステップS30)。基準パスとは、複数のパスの位置合わせをする際に、基準となるパスである。本実施例では、対象道路に対応するパスのうち、位置精度の評価値、即ち自己推定位置精度が最も高いものを選択する。基準パスの設定方法については、後述する。
【0088】
基準パスが設定されると、CPUはオペレータの操作に従い、各パスについて対応点を設定する処理を行う(ステップS40)。
本実施例では、図中に示すように、基準パスおよび標準パスの連結画像をディスプレイに表示し、オペレータが、マウスなどのポインティングデバイスを操作して、この画面内で対応点を設定するという方法を採った。図の例では、標準パスの画像内で菱形をした横断歩道予告標示の頂点を対応点として指定し、次に、これに対応する頂点を基準パスの画像内で指定する例を示した。対応点は、1点に限らず、複数の点を指定可能である。
後述するペイント認識処理が行われており、各連結画像内の標示が抽出されている場合には、CPUは、抽出した標示をディスプレイに表示し、オペレータがこの中から対応点として用いるべき標示を選択するようにしてもよい。また、連結画像間で抽出した標示の位置関係に基づいて、対応する標示を特定し、対応点や透明化ポリゴンを自動的に設定可能としてもよい。
【0089】
本実施例では、この連結画像の表示には、低解像度画像を用いる。こうすることにより、対応点を指定する際に、表示の移動、拡大・縮小を円滑に行うことができ、作業効率を高めることができる利点がある。
【0090】
対応点が指定されると、CPUは、対応点同士が一致するように、標準パスの連結画像を基準パスの連結画像に合わせるよう移動する処理を行って、位置合わせ加工を終了する(ステップS50)。
先に説明した通り、本実施例では、連結画像は一枚の合成画像として生成されている訳ではなく、正射画像(路面テクスチャ)を配置して表示している。従って、ステップS50の処理では、それぞれの正射画像(路面テクスチャ)を移動することで、連結画像の移動処理が行われる。移動処理と併せて、それぞれの正射画像を低解像度画像から高解像度画像に置換する処理が行われる。高解像度画像を用いて、正射画像を再配置する処理を行うものとしてもよい。
連結画像移動処理の内容は、後で詳述する。
【0091】
C3.基準パス設定処理:
図9は基準パス設定処理のフローチャートである。位置合わせ加工(図8)のステップS30に相当する処理であり、複数のパスの位置合わせをする際に、自己推定位置精度が最も高いものを基準パスとして設定するための処理である。
【0092】
CPUは、処理を開始すると、対象道路の各パスについて、フレーム画像が取得されている各地点での位置精度を入力する(ステップS31)。撮影時には、図中に示すように、パスにそって点P91,P92、P93等でフレーム画像を撮影するとともに、各点ごとに東西方向の位置精度AC1、南北方向の位置精度AC2が記録されている。
【0093】
一般にGPS114は、位置座標の検出に使用される人工衛星の配置、電波の受信状況、建造物などに反射した電波を受信することによるマルチパスの有無などによって検出精度が変動することが知られている。またディファレンシャル測位では、基準局の稼働状況によっても検出精度は影響を受ける。位置精度は、これらの影響を定量的に評価したものである。位置精度は、任意に定義可能であり、例えば、精度低下率(DOP(Dilution of Precision))等を用いても良い。
【0094】
CPUは、各点の位置精度に基づいて、パスごとに自己推定位置精度σを算出する(ステップS32)。
【0095】
自己位置推定精度は、GPSと、IMU、DMI等とのずれに基づいて定まる値としてもよい。この場合は、例えば、ずれ量の標準偏差を用いても良い。また、東西方向の標準偏差の自乗と、南北方向の標準偏差の自乗の和を求め、この平方根を自己位置推定精度として用いても良い。このように、GPSと、IMU、DMI等のずれ量に応じた値とする場合には、自己位置推定精度は、ずれが大きい程、大きい値となる。つまり、自己推定位置精度は値が小さい方が、精度が高いことを示す評価値となる。
各パスの自己推定位置精度σが得られると、CPUはこの値が最小となるパスを基準パスとして設定する(ステップS33)。対象道路に対して単一のパスしか存在しない場合には、無条件にそのパスが基準パスとして設定されることになる。この基準パスの自己推定位置精度をσとする。
【0096】
ステップS33で設定された基準パスの自己推定位置精度σが、所定の閾値σTHよりも低い場合には(ステップS34)、基準パス設定処理を終了する。
これに対し、自己推定位置精度σが、所定の閾値σTH以上の場合には、エラー表示を行って(ステップS35)、処理を終了する。この場合には、基準パスの位置精度が十分確保されていないことを意味するため、位置合わせ処理を行っても、位置精度が十分に保証されないからである。
所定の閾値σTHは、上述の通り、路面標示地図として確保すべき位置精度に基づいて任意に設定可能である。
【0097】
エラー表示(ステップS35)を行うか否かの判断対象となるのは、基準パスの自己推定位置精度σのみとした。他の標準パスについては、自己推定位置精度が低い場合でも、基準パスを基準として位置合わせを行うことにより、位置精度を高めることが可能だからである。
もっとも、位置合わせ処理における修正は、いずれのパスに対してもできるだけ小さい方が、より好ましいと言える。従って、ステップS34において、全てのパスの自己推定位置精度を閾値σTHと比較し、いずれか一本でも、この閾値を下回る精度のパスが存在する場合にはエラー表示を行うようにしてもよい。
ただし、標準パスにも基準パスと同等の位置精度を要求すると、エラー表示が頻繁になされるおそれがある。かかる弊害を回避するため、標準パスでは基準パスよりも高い閾値σTHを用いるようにしてもよい。つまり、標準パスについては位置精度の要求を基準パスよりも緩めるのである。こうすることによって、標準パスについても最低限の位置精度を保証しつつ、エラー表示が頻繁になされるのを回避することができる。
【0098】
C4.連結画像移動処理:
(1)フローチャート:
図10は連結画像移動処理のフローチャートである。位置合わせ処理(図8)のステップS50の処理に相当する。
処理を開始すると、CPUは移動対象となる標準パスのデータおよび対応点のデータを入力する(ステップS51)。標準パスのデータとは、フレーム画像が撮影された時の位置座標を順次、記録した点列からなる軌跡データである。対応点のデータは、図8のステップS20において、基準パスおよび標準パスが表示された画面内でオペレータが指定した対応点の座標値である。
【0099】
CPUは、次に、標準パス上で正射画像(路面テクスチャ)が配置されている点ごとに、移動ベクトルを算出する(ステップS52)。
図中に移動ベクトルの算出例を示した。この例では、標準パスNP10について、対応点P101、P103が指定されているものとする。標準パス上には、図中に台形で示すように正射画像(路面テクスチャ)が配置されている。
【0100】
対応点P101、P103に対応する点としては、基準パス上では、対応点P102、P104が指定されているものとする。CPUは、これらの指定結果に基づき、対応点について移動ベクトルを求める。図の例では、標準パスの対応点P101からP102に向かう移動ベクトルV10と、対応点P103からP104に向かう移動ベクトルV11が得られる。
【0101】
対応点は、標示の頂点など、オペレータが基準パスと標準パスとで対応をとりやすい点を指定するため、必ずしも標準パスNP10上で指定されるとは限らない。対応点が標準パスNP10からずれた場所で指定されている場合には、図中に破線で示すように標準パスNP10からずれた場所に移動ベクトルV10aが得られる。従って、この移動ベクトルV10aの始点が標準パスNP10上に来るように、標準パスNP10に垂直方向に移動させて移動ベクトルV10を求めればよい。
【0102】
対応点での移動ベクトルV10、V11が得られると、CPUは、これらを補間することによって、対応点P101、P103の間に位置する各点での移動ベクトルを求める。例えば、図中に示すように、フレーム画像の撮影地点PP10で移動ベクトルを求める場合には、この地点を始点とするように移動ベクトルV10、V11を平行移動し、両ベクトルの終点を結ぶ線分を、対応点P101〜PP10の距離、P103〜PP10の距離の比で内分する点を求める。こうすることによって、点PP10を始点とし、この内分点を終点とする移動ベクトルVP10を求めることができる。
【0103】
2つの移動ベクトルV10、V11に挟まれた区間に存在しない点については、最も近い位置にある移動ベクトルをそのまま用いる。図中の例では、点P101よりも右側の区間では、移動ベクトルV10をそのまま用い、点P103の左側の区間では、移動ベクトルV11をそのまま用いることになる。
また、対応点が一つしか指定されておらず、移動ベクトルが一つしか与えられない場合は、この移動ベクトルを用いる。
【0104】
CPUは以上の処理で得られた移動ベクトルに従って、正射画像(路面テクスチャ)を平行移動して(ステップS53)、連結画像移動処理を終了する。図の例では、標準パスNP10の点PP10に配置されていた路面テクスチャTX11が、移動ベクトルVP10に従って路面テクスチャTX12の位置に平行移動される例を示している。
この処理と併せて、標準パスNP10上の点PP10の位置も移動ベクトルVP10によって修正される。従って、ステップS53の処理では、路面テクスチャの移動と共に、標準パスNP10の軌跡も修正されることになる。
【0105】
(2)位置合わせ加工の処理例(1):
図11は位置合わせ加工の処理例(1)を示す説明図である。図11(a)〜図11(c)のそれぞれには、標準パスNP11および基準パスBP11に対する連結画像を重ねて表示した状態を示している。図11(a)は標準パスNP11の連結画像を、基準パスBP11の連結画像よりも上に配置した状態である。先に説明した通り、連結画像は多数の路面テクスチャを配置することで構成されているが、図中には、説明の便宜上、一つの路面テクスチャTX11に輪郭を付して示した。
オペレータは、この画面中で、標準パスNP11における対応点P111を指定する。対応点P111は、任意に設定可能である。本実施例では、分離帯標示M11の白線の斜め縞模様の端点の一つを対応点P111として選択している。
【0106】
図11(b)は、基準パスBP11の連結画像を上側にして配置した状態を示している。この状態では、標準パスNP11と基準パスBP11の位置がずれている。従って、基準パスBP11の連結画像を上側に表示すると、対応点P111の位置は、分離帯標示M12の白線の斜め縞模様からずれてしまう。
【0107】
図11(c)は、基準パスBP11の連結画像を上側にした状態で、対応点P112を指定した状態を示している。つまり、基準パスBP11を上側にした画像内で、分離帯標示M11の白線の斜め縞模様の端点を対応点P112として選択すればよい。
対応点P112が指定されると、標準パスNP11の対応点P111から基準パスBP11の対応点P112に向かうように移動ベクトルV11が求められる。この移動ベクトルV11に従って、路面テクスチャTX11を移動すれば、対応点P111は対応点P112に一致し、分離帯標示M11、M12の位置も一致させることができる。
【0108】
路面テクスチャTX11だけでなく、位置合わせ加工では、標準パスNP11を構成する他の路面テクスチャも同様に、移動ベクトルV11に従って移動させる。ここでは対応点を一つだけ指定した処理例を示したが、対応点は複数指定してもよい。例えば、図の例では、横断歩道の縞模様、停止線、車線境界線の端点などを対応点として利用することが考えられる。
【0109】
(3)位置合わせ加工の処理例(2):
図12は位置合わせ加工の処理例(2)を示す説明図である。標準パスNP12、基準パスBP12の連結画像を重ねた状態を示した。説明の便宜上、双方の路面標示を視認可能な状態で示している。位置合わせ前は、標準パスNP12、基準パスBP12の位置がずれているため、車線境界線などの標示の位置はずれている。
オペレータは、ここでは破線での車線境界線の端点の一つを対応点として選択している。標準パスNP12については車線境界線L122の端点を対応点P122として選択し、基準パスBP12については車線境界線L121の端点を対応点P121として選択する。この結果、標準パスNP12の対応点P122から基準パスBP12の対応点P121に向かう移動ベクトルV12が定まる。
【0110】
図13は位置合わせ加工の処理(2)の加工結果を示す説明図である。
上述の通り、標準パスNP12の連結画像を、移動ベクトルV12に従って移動することによって、車線境界線の位置を合わせることができる。位置合わせの結果が車線境界線L13である。
また、この位置合わせ加工によって、標準パスも基準パスの位置に合わせられる。本実施例は、本来、異なる位置を走行した複数のパスを位置合わせすることによって、道路面の画像を生成する。この際、図12、図13の比較から分かる通り、対応点に基づいて設定される移動ベクトルに従って、標準パスを平行移動することにより、複数のパス間で、路面標示の位置関係およびパスの位置関係を、非常によく一致させることができる。
【0111】
(4)絶対座標の取得:
図14は路面標示の絶対位置座標の取得方法を示す説明図である。図の例では、標準パスNP14上の路面テクスチャTX142、基準パスBP14上の路面テクスチャTX141を例示した。路面テクスチャTX141、TX142内には、それぞれ標示M141、M142が含まれている。
路面テクスチャTX141、TX142は、それぞれの代表点が、基準パスBP14上の点P141、および標準パスNP14上の点P143に一致するように配置される。
【0112】
路面テクスチャTX141内で、標示M141の頂点P142の位置は、代表点を原点とする相対的な座標(x142,y142)で特定することができる。従って、代表点の絶対座標、即ち路面テクスチャTX141が配置されている位置座標(X141,Y141)が分かれば、これに、上述の相対的な座標を加えることによって、標示M141の頂点P142の絶対位置座標を取得することができる。
【0113】
路面テクスチャTX142内も同様に、標示M142の頂点P145の位置は、代表点を原点とする相対的な座標(x145,Y145)で特定することができる。従って、代表点の絶対座標、即ち路面テクスチャTX142が配置されている位置座標(X143,Y143)が分かれば、これに、上述の相対的な座標を加えることによって、標示M142の頂点P145の絶対位置座標を取得することができる。
【0114】
路面テクスチャTX142については、位置合わせ加工によって、移動ベクトルV14に従って、代表点の位置P143が点P144に移動したとする。この時、位置合わせ後の点P144の絶対位置座標は、移動前の点P143の位置座標(X143,Y143)に、移動ベクトルV14の成分(VX14,VY14)を加えることで得ることができる。更に、こうして得られた点P144の絶対位置座標に対して、点P145の相対的な座標(x145,Y145)を加えれば、位置合わせ加工後の標示M142の頂点P145の絶対位置座標を取得することができる。
【0115】
ここでは、路面テクスチャ内の標示M141,M142の頂点について絶対位置座標を取得する方法を示したが、路面テクスチャ内の任意の点は、それぞれ路面テクスチャの代表点を基準とする相対的な座標で特定可能であるから、同様の方法によって任意の点の絶対位置座標を取得することが可能である。
【0116】
C5.透明化ポリゴン設定処理:
(1)処理概要:
図15は透明化ポリゴン設定処理の概要を示す説明図である。透明化ポリゴン設定処理は、重ねられた道路画像上に、オペレータの指示によって、透明化ポリゴンを設定することによって、隣接するパスに対応する正射画像同士が重なり合っている部分で、上側の正射画像の一部を透明化して、下側の正射画像を透視可能とする処理である。
図の中央に、正射画像P152の上に正射画像P151が重ねられている様子を斜視図的に示した。下側の正射画像P152には、横断歩道A154が分断された状態で含まれており、停止線A153が完全な状態で含まれている。上側の正射画像P151には、横断歩道A152が完全な形で含まれており、停止線A151が分断された状態で含まれている。それぞれ分断された部分を、破線で囲んで示した。
この状態で正射画像P151、P152を重ねると、左側に示したように表示される。つまり、両者が重なった部分では、上側の正射画像P151の画像のみが表示されるため、横断歩道A152は完全な状態で表示されるが、停止線A151は分断された状態で示されてしまうのである。
仮に、正射画像P151、P152の上下関係を変えたとすれば、今度は、停止線A153は完全な状態で表示することができるが、横断歩道A154が分断された状態で表示されることになる。このように、正射画像P151、P152の上下関係だけでは、横断歩道、停止線の双方を完全な状態で表示させることはできない。
【0117】
そこで、本実施例では、透明化ポリゴンPOL15を設定する。この例では、上側の正射画像P151において、分断されている停止線A151を覆うように設定した例を示した。透明化ポリゴンPOL15内では、上側の正射画像P151は透過した状態で表示される。従って、図の右側に示すように、正射画像P151、P152を重ねた状態では、透明化ポリゴンPOL15の内部では、下側の正射画像P152が表示され、その他の部分では、上側の正射画像P151が表示される。この結果、下側の正射画像P151に含まれる停止線A153と、上側の正射画像P152に含まれる横断歩道A152が表示され、停止線および横断歩道の双方を完全な形で表示することができる。
【0118】
(2)フローチャート:
図16は透明化ポリゴン設定処理のフローチャートである。ハードウェア的には路面標示地図生成装置200のCPUが実行する処理である。これは、図2に示した透明化ポリゴン設定部221の処理に相当する。
処理を開始すると、CPUは、オペレータからの対象道路の指定を入力し(ステップS100)、対象道路に対応する連結画像を入力する(ステップS102)。対象道路に対して複数のパスが対応している場合には、これらのパスに対応する複数の連結画像が入力される。
【0119】
CPUは、これらの連結画像を表示し、オペレータの操作に基づいて優先パスの指定を入力する(ステップS104)。優先パスとは、複数のパスのうち路面画像が最も良好なパスを言い、複数のパスの連結画像を重ねる際に最も上に位置するパスを言う。優先パスは、位置合わせ加工で用いられた基準パスとは異なる。基準パスは位置精度が最も良いものを意味したが、位置精度が良いからといって、路面画像が良好とは限らないからである。複数のパス間の連結画像の重ね合わせの上下関係がどのような状態であっても、位置合わせは支障なく行うことが可能であるから、位置合わせ用の基準パスと優先パスとは相互に独立して設定可能である。
本実施例では、優先パスは、オペレータが各パスの連結画像を比較しながら、任意に設定することができる。仮に、路面画像が最も粗いパスを優先パスに指定しても構わない。このような場合には、後述する透明化ポリゴンの設定数が増えるだけのことである。
【0120】
優先パスが設定されると、CPUは、オペレータの操作に従い透明化ポリゴンを設定する(ステップS106)。
図中に透明化ポリゴンの設定例を示した。この例では、優先パスに沿った路面テクスチャTX161と、その他のパスに沿った路面テクスチャTX162を示した。
撮影時には矩形の画像が、正射画像変換により、台形になるため、路面テクスチャTX161、TX162を配置すると、図示するようにのこぎり刃状になる。のこぎり刃状の部分からは、路面画像の見栄えを落とすと共に、分断された路面画像しか得られないため、完全な路面画像を得るという目的からは不要な部分となる。そこで、図の例では、路面テクスチャTX161、TX162が重なり合った部分では、のこぎり刃状になった路面テクスチャTX161の左端の部分に透明化ポリゴンPOL161を設定し、のこぎり刃状の部分が表示されないようにしている。
【0121】
一方、路面テクスチャTX161、TX162が重なりあっていない部分、図の例では、両端の領域A161、A162の部分には、透明化ポリゴンは設定しない。この部分では、それぞれ路面テクスチャTX161、TX162によって得られる画像が、唯一の画像情報となるからである。両端の領域に透明化ポリゴンを設定すると、この部分に含まれる路面画像の情報は活用し得なくなる。本実施例では、このように他の路面テクスチャと重なり合っていない部分には、透明化ポリゴンを設定しないようにすることで、路面テクスチャに含まれる路面画像の情報を有効活用できるようにした。
かかる設定は、単に路面テクスチャが重なっていない部分を避けて、オペレータが透明化ポリゴンを設定するという運用によって実現してもよいが、透明化ポリゴンの設定処理(ステップS106)において、透明化ポリゴンの設定位置を制限するようにしてもよい。つまり、路面テクスチャが重なり合っている部分についてのみ、オペレータによる透明化ポリゴンの設定操作を受け付けるようにしても良い。
【0122】
路面テクスチャTX161によって隠されている標示がある場合には、オペレータはその標示が視認できるように透明化ポリゴンを設定する。図の例では、矢印の標示を覆うように、透明化ポリゴンPOL162が設定されている例を示した。矢印の標示は、テクスチャTX161の下側に配置されているテクスチャに含まれている画像である。
【0123】
このように標示を覆う透明化ポリゴンPOL162を設定するためには、一旦、路面テクスチャTX161を他の路面テクスチャよりも下側に位置するように上下関係を変更したり、路面テクスチャTX161を非表示としたりすればよい。これらの操作によって、路面テクスチャTX161に隠された標示を視認可能な状態にした上で、その標示を覆うように透明化ポリゴンPOL162を設定し、路面テクスチャTX161の表示を元に戻せばよい。
【0124】
以上の処理によって、透明化ポリゴンの設定が終わると、CPUは、設定結果を出力して、透明化ポリゴン設定処理を終了する。
【0125】
(3)処理例:
図17は透明化ポリゴンを設定する前の道路画像例を示す説明図である。この例では、パスP171、P172の2本に沿って得られた連結画像の位置合わせを行って生成された道路画像を示した。パスP172の連結画像と、パスP171の連結画像とで、のこぎり刃状の両端の形状が逆向きになっているのは、これらのパスP171,P172を道路面撮影システム100の車両が走行する方向が逆だからである。
【0126】
パスP172の連結画像が、パスP171の連結画像と重なっている部分では、パスP172の連結画像の端部B17ののこぎり刃状の境界が現れており、道路画像の画質を劣化させている。ただし、図17では、図示の都合上、のこぎり刃状の輪郭を付して端部B17の形状を強調してある。
また、パスP172の路面画像が端の方で不鮮明なため、例えば、領域A171では横断歩道の縞模様が歪んでいる。領域A172では、停止線が分断された状態となっている。領域A173では、路線バス等優先通行帯(いわゆるバスレーン)であることを示す「バス専用」の文字が読めない程に崩れている。領域A174では、破線状の車線境界線が途中で分断された状態となっている。
【0127】
これらの影響を回避するため、図17では、領域A171〜A174および端部B17を包含する透明化テクスチャPOL17を図中の一点鎖線のように設定した。
このように透明化ポリゴンPOL17を設定すると、パスP172側の路面テクスチャは、透明化ポリゴンPOL17の内部では透視状態となり、下側に配置されたパスP171側の路面テクスチャが視認されるようになる。
【0128】
図18は透明化ポリゴンの設定後の道路画像例を示す説明図である。上述の透明化ポリゴンの作用により、領域A181では、下側の画像が表示されるため、図17で示した横断歩道の分断状態が解消される。領域A182でも同様に、停止線が完全な状態で表示される。また、領域B18に例示するように、路面テクスチャの端部ののこぎり刃状の輪郭は視認されなくなり、道路画像全体の画質が向上する。
領域A183では、バス専用の文字が、はっきりと判読可能な状態となる。領域A184では、車線境界線が完全な状態で表示される。
このように、本実施例では、透明化ポリゴンを設定することにより、道路画像の画質を向上させることができるとともに、道路面の標示の画質も向上させることができる。
【0129】
C6.ペイント認識処理:
(1)全体処理:
図19はペイント認識処理のフローチャートである。ハードウェア的には路面標示地図生成装置200のCPUが実行する処理である。これは、図2に示したペイント認識部223の処理に相当する。
処理を開始すると、CPUは処理データ記憶部210から、処理対象となっている道路の画像、即ち路面テクスチャ、パスのデータを読み込む(ステップS300)。
次に、CPUは縦配置処理を行って(ステップS302)、縦配置画像を生成し、処理データ記憶部210に格納する。
【0130】
図20は縦配置処理の内容を示す説明図である。図20(a)に通常の処理における連結画像を示した。図中の一点鎖線の矢印PA20は画像を撮影した際のパスを表している。通常の処理では、パスPA20に沿って路面テクスチャTx20を配置する。パスPA20の位置座標は、緯度経度などの絶対座標系XYで得られている。従って、絶対座標系でパスPA20および路面テクスチャTx20を配置すると、図20(a)に示すように連結画像は斜めに表示されることがある。この例では、直線状の道路を例示しているが、道路がカーブしている場合には、連結画像もカーブした状態となる。
【0131】
図20(b)は縦配置した画像例を示した。道路が直線状のため、図20(a)の向きを矢印A20方向に回転した状態の画像となっている。
縦配置の画像は、次の手順で生成することができる。まず、2次元座標xyの縦(y)方向に距離軸を設定する。距離軸とは、パスPA20に沿って画像を撮影する際の開始点からの移動距離を表す軸である。パスPA20が直線状の時は、パスPA20の進行方向を上向きに表示した状態となる。パスが曲線状のときには、パスを直線状に伸ばした状態となる。
それぞれの路面テクスチャTx20については、撮影時の位置座標データおよび撮影開始からの移動距離が得られているから(図1の位置計測部110参照)、これらのデータに基づき、距離軸上に路面テクスチャTx20を配置する。路面テクスチャTx20は、画像内の代表点を距離軸上に置き、左右対称軸が距離軸に平行になるよう配置する。こうすることによって、パスが曲線状か否かに関わらず、進行方向が縦方向に直線状に伸ばされた状態の連結画像を表示することができる。この連結画像によれば、図示する通り、横断歩道および停止線は距離軸に直交する方向(図中の左右方向)に描かれ、車線境界線は距離軸に沿う方向(図中の上下方向)に描かれる。縦配置画像には、このように道路の標示が一定の位置関係で描画されるため、これらの認識がしやすくなるという利点がある。
ここでは、距離軸を縦に配置する例を示したが、横または斜めなど任意の方向に配置可能である。
【0132】
図19に戻り、ペイント認識処理について説明する。
縦配置処理が完了すると、CPUは横断関連ペイント抽出処理を行う(ステップS310)。これは、横断歩道、自転車横断帯、停止線など交差点近辺の標示を抽出する処理である。本実施例では、処理データ記憶部210に格納された縦配置画像を用い、そこに描かれた標示を画像処理で抽出するとともに、標示に含まれる線分の位置関係や長さなどに基づく条件判断によって標示の種別を判断するようにした。
【0133】
横断関連ペイント処理が終わると、CPUは各種ペイント抽出処理を行う(ステップS350)。この処理で抽出対象となる標示を図中に示した。
「境界線」とは、実線および破線などで描かれた車線境界線である。
「矢印」とは、交差点内の進行方向の規制を示すために、交差点付近で各車線に示されている矢印である。
「ゼブラ」とは、横断歩道とは異なり、中央分離帯や右左折用の車線が増える箇所などに標示されている縞模様である。
「Uターン」とは、Uターン禁止道路に描かれているU字形状の矢印である。
「転回禁止」とは、Uターンの矢印とともに描かれている×印である。
「規制」とは、通行規制の時刻標示等である。例えば、バスレーンなどの標示と併せて描かれる「17−19」の標示(17時〜19時であることを意味)のような通行態様の規制等である。
「数字」とは、速度規制などの数字である。
「横断歩道予告」とは、横断歩道手前に描かれている菱形の記号である。
「減速帯」とは、車速の減速を促すために、路面上にパスに直交する方向の線分をパスの進行方向に沿って平行に複数本配置することで描かれている縞模様である。
「路面塗装」は、急カーブその他の運転者の注意を喚起すべき箇所に対し、通行の安全のために施されている赤色等の舗装領域である。
「バスレーン文字」とは、バスレーンとして使用される車線に付される「バス専用」「バス優先」という文字である。本実施例では、バスレーンを例示しているが、バスレーンに限らず、路面に標示される文字一般を対象としてもよい。
「終わり記号」とは、バスレーンなどの終了地点を示す「0」形状の記号である。
本実施例では、これらの標示を対象としているが、これらは例示に過ぎず、更に多くの標示を対象としてもよいし、この中の一部を抽出処理の対象外としても構わない。
【0134】
各種ペイント抽出処理(ステップS350)では、予め用意されたモデルを用いて、パターンマッチングを行う。本実施例では、人工モデル画像、OCRモデル画像の2種類を用いるものとした。これらのモデルは、予め処理データ記憶部210に記憶されている。
人工モデル画像とは、コンピュータグラフィックスによって生成されたモデルである。矢印、Uターン、転回禁止など、比較的単純な標示のマッチング用のモデルとして適している。
OCRモデル画像とは、撮影された画像から、オペレータが手作業で切り出した画像に基づいて生成されたモデルである。例えば、数字、バスレーンなどの複雑な形状をした標示のマッチング用のモデルとして適している。これらのモデルをコンピュータグラフィックスによって生成することも不可能ではないが、文字の形状を現実の道路標示に併せてモデルを生成するためには、結局、撮影した画像をトレース等する必要が生じるため、結果としてOCRモデルを利用しているのと大差ない。
【0135】
CPUは、以上の処理を連結画像単位で、実行し、ペイント認識結果を処理データ記憶部210に格納して、ペイント認識処理を終了する。
以下では、相対座標変換処理(ステップS370)について詳細に説明する。
【0136】
(2)相対座標変換処理:
図21は相対座標変換処理の内容を示す説明図である。本実施例では、以上で説明した各種標示の認識結果は、全て距離軸に沿って路面テクスチャを配置した直線状の画像を用いて得られている。従って、認識結果は、この直線状の画像を表示する座標系における相対的な位置が取得されているに過ぎない。相対座標変換処理は、この相対的な位置を、撮影時の位置座標に対応する絶対座標系の位置に変換する処理である。
【0137】
図の左側には、直線状の連結画像で標示を認識した状態を示している。ここでは、矩形の存在領域M391、M392を示した。これらの存在領域M391、M392の位置は、代表点としての重心G391、G392の位置座標で表される。この座標は、直線状の連結画像を表示するための座標系xn、ynで与えられる。この座標系xn、ynは、例えば、距離軸NP39をyn軸として定義することが好ましい。
【0138】
連結画像では、路面テクスチャTx39の代表点が、撮影時の位置に応じて、距離軸上に配置されている。各路面テクスチャTx39内の各点の代表点からの相対的な座標は既知である。従って、各存在領域の重心G391、G392の路面テクスチャTx39内での相対的な座標が求まるため、重心G391、G392から距離軸におろした垂線の足R391、R392の座標も求めることができる。
【0139】
図の右側には、絶対座標系XYに変換した状態を示した。道路は直線とは限らないから、絶対座標系では、撮影時に取得された位置座標に従い、パスRP39は曲線状に描かれることもある。
各存在領域M391、M392の位置および向きは次の方法で求める。
まず、この曲線状のパスRP39の基準点からの距離に応じて、存在領域の垂線の足R391、R392のパスRP39上での位置を求め、点R391、R392から、それぞれ法線ベクトルV391、V392を描き、その終点を重心G391、G392とする。法線ベクトルV391、V392の大きさは、直線状の連結画像における点R391、G391間の距離、および点R392、G392間の距離にそれぞれ等しい。存在領域M391、M392の方向は、長手方向が法線ベクトルV391、V392と直交するように配置する。つまり、存在領域M391、M392と、重心G391、G392、および垂線の足R391、R392の相対的な位置関係が、直線状の連結画像(図の左側)と絶対座標系(図の右側)とで同一となるように、存在領域M391、M392を配置するのである。
この変換処理により、抽出された各標示の位置を絶対座標系の位置座標で表すことが可能となる。
【0140】
上述した絶対座標系への位置座標の変換処理は、次の方法で行っても良い。
まず、各存在領域の構成点、つまり存在領域の頂点の位置を、それぞれの頂点が属する路面テクスチャの代表点を基準とする相対座標で求める。そして、それぞれの路面テクスチャを絶対座標系XYでの配置に変換する際に、同様の変換をそれぞれの構成点に施すのである。こうすることにより、比較的容易に絶対座標系での構成点の位置座標を得ることができる。
ただし、この方法では、構成点ごとに座標変換するため、変換時に存在領域の形状が崩れる場合がある。従って、変換後の構成点の配置を、存在領域の形状に適合させる修正処理を施しても良い。
【0141】
C7.ペイント解析処理:
次にCPUは、ペイント解析処理を行う。ペイント解析処理とは、ペイント認識処理の結果に対して、誤認識の有無を判定し、誤認識が検出された時には、ペイントの削除などの対処を行う処理である。本実施例では、各ペイントを単独で解析するのに加えて、ペイント相互の相関関係の適否を判定することで、誤認識を検出する。相関関係の適否は、ペイントの種別および位置関係に基づいて判断される。本実施例では、ペイント相互の位置関係は、ペイントの存在領域に基づいて判断するものとした。
【0142】
存在領域とは、ペイントを包含する矩形などの予め決められた幾何学形状を言う。存在領域として用いるべき幾何学形状は、ペイントの種類ごとに任意に設定可能である。本実施例では、主として矩形を用いるものとした。
例えば、矢印の場合には、矢印の中心軸に平行な辺を有する矩形を用いることができる。そのサイズは、矢印の先端(終点)および開始点を含む形状とすることができる。
このように存在領域が設定されると、存在領域の位置、形状および「矢印」という標示の種別が与えられると、予め用意された矢印モデルを、存在領域内に内接するように拡大・縮小することによって、矢印の標示を再現することが可能となる。
他のペイントについても同様である。ペイントごとに存在領域として用いるべき幾何学形状を予め設定しておくとともに、モデルを用意しておけば、それぞれのペイントを比較的容易に再現することが可能である。こうすることにより、ペイントのデータ容量を抑制することができる利点がある。また、存在領域は幾何学形状であるため、これを用いることにより、ペイント同士の間隔や、重なりの有無などの位置関係を比較的容易に判断することが可能である。
本実施例では、こうして設定された存在領域データをオブジェクトファイルと称する。
【0143】
C8.ペイント修正処理:
(1)全体処理:
図22はペイント修正処理のフローチャートである。ハードウェア的には路面標示地図生成装置200のCPUが実行する処理である。これは、図2に示したペイント修正部227の処理に相当する。
処理を開始すると、CPUは処理データ記憶部210から、処理対象となっている道路のオブジェクトファイルおよびパスのデータ、透明化ポリゴンを読み込む(ステップS600)。
【0144】
次に、CPUは各パスのオブジェクトファイルから、表示に使用される部分を抽出する(ステップS630)。
図の右側にこの処理の概要を例示した。図の例は、連結画像UP22の上に、連結画像OP22が部分的に重なっている状態を示している。連結画像UP22内には、標示を表すオブジェクトPu221、Pu222が含まれており、連結画像UP22内には、オブジェクトPo221、Po222が含まれている。
また、オブジェクトPo222を包含するように、透明化ポリゴンTP222が設定されている。透明化ポリゴンTP222が透過状態となるため、連結画像UP22の領域TP221が表示される。オブジェクトPo222は非表示となる。
【0145】
この状態で、ステップS630の処理では、CPUは、下側のオブジェクトPu221,Pu222に対しては、図中のハッチングの部分のみを表示に使用される部分として抽出する。オブジェクトPu222は全体が表示されるため、そのままの形状で抽出される。オブジェクトPu221は、連結画像OP22で隠される部分を除くハッチングの部分が抽出される。
一方、上側の連結画像OP22については、オブジェクトPo221は全体が表示に使用されるため、そのまま抽出される。オブジェクトPo222は、透明化ポリゴンTP222によって透過状態とされるため、抽出されない。仮に、透明化ポリゴンTP222が、領域TP221に対応する部分に設定されている場合には、オブジェクトPo222については、図中のハッチングを付した部分が表示に使用されるようになるため、この部分が抽出されることになる。
【0146】
次に、CPUはオブジェクト結合処理を行う(ステップS650)。本実施例では、車線境界線、横断歩道、自転車横断帯、および停止線をこの処理の対象とした。
オブジェクト結合処理とは、複数の同種のオブジェクトの位置関係に基づいて、単一のオブジェクトか否かを判定するとともに、単一のオブジェクトと判断される場合には、複数のオブジェクトを結合して一つのオブジェクトを生成する処理である。
それぞれのオブジェクトに対する結合処理の内容は後述する。
【0147】
オブジェクト結合処理が終わると、CPUはオブジェクト補正処理を行う(ステップS680)。オブジェクト補正処理は、それぞれのオブジェクトを整形したり、非表示のオブジェクトを表示状態に変更したりする処理である。この処理内容についても後述する。
【0148】
(2)車線境界線結合処理:
図23は車線境界線結合処理のフローチャートである。ペイント修正処理(図22)のステップS650に相当する処理である。
この処理では、CPUはまず車線境界線のオブジェクトを入力し(ステップS651)、処理対象となる境界線を任意に選択する(以下、選択されたものを「対象境界線」と称する)。そして、対象境界線の端点から距離R内に端点が存在する車線境界線を抽出する(ステップS652)。
【0149】
図中に抽出例を示した。表示領域A231から対象境界線として車線境界線PL23が選択されているとする。表示領域A231は、連結画像と同一としてもよいし、連結画像を規定のサイズで分断して定義してもよい。
ステップS652の処理では、対象境界線の端点P230から、距離R(図中の円)内に端点が存在するものとして、表示領域A231内の車線境界線L231、隣接する表示領域A232内の車線境界線L232、L233が抽出される。このように、距離R内の車線境界線は、対象境界線が存在する連結画像内から抽出するものに限定されず、他の連結画像から抽出されたものであってもよい。
抽出の基準となる距離Rは、対象境界線と連続した車線境界線とみなすことができる範囲内で任意に設定可能である。距離Rを小さい値に設定すれば、連続していない車線境界線を抽出する可能性を低減することができるが、連続した車線境界線に抽出漏れが生じるおそれがある。距離Rの値は、こうした両面を考慮して設定することができる。
【0150】
こうして近接する車線境界線を抽出すると、CPUは、異なる表示領域内から端点間の距離が最短となる車線境界線を選択し、結合する(ステップS653)。図中に結合の例を示した。図の例では、車線境界線L231は、対象境界線PL23と同じ表示領域内にあるから選択の対象外となる。異なる表示領域にある車線境界線L232、L233のうち、端点P230からの距離が短いのは、車線境界線L232である。従って、対象境界線PL23と車線境界線L232が連続した車線境界線であると判断し、端点P230と、車線境界線L232の端点LP232を結合する。こうすることで、一つの連続した車線境界線が定義される。
【0151】
こうして結合が完了すると、CPUはスムージングを施す(ステップS654)。図中にスムージングの例を示した。スムージングによって、端点P230、P232で結合された2つの車線境界線の各構成点を通過する曲線SL23が得られる。スムージングは、ベジェ曲線、スプライン曲線などを用いることができる。こうすることによって、結合部分のいびつさを抑制することができる。
CPUは以上の処理を、対象境界線を変えながら、全ての車線境界線について実行する。
【0152】
(3)横断歩道・自転車横断帯合成処理:
図24は横断歩道・自転車横断帯合成処理のフローチャートである。ペイント修正処理(図22)のステップS650に相当する処理である。
処理を開始すると、CPUは横断歩道、自転車横断帯オブジェクトを入力する(ステップS661)。
そして、各オブジェクトについて近似四辺形を生成する(ステップS662)。横断歩道、自転車横断帯のオブジェクトとして、矩形または四角形の存在領域が設定されている時は、この処理は省略することができる。
【0153】
図中に近似四辺形の生成方法を示した。横断歩道等のオブジェクトが、点P241〜P245からなる五角形で設定されている場合を例示した。近似四辺形を生成する際には、この点P241〜P245から、最大距離を有する2点の対角線P241−P244を求める。そして、残余の各構成点P242、P243、P245から、この対角線への距離d242,d243、d241を求め、その中の大きい側から2つを選択する。ただし、これらの2つの点は、対角線P241−P244を挟んで両側に位置するよう選択する。図の例では、距離d241、d243が大きい値となるため、これらに対応する構成点P245、P243を選択する。
こうして選択された構成点P245、P243および上述の対角線の両端の点P241、P244によって四辺形を得ることができる。
【0154】
次に、CPUは、横断歩道、自転車横断帯をグループ化する(ステップS663)。つまり、複数の横断歩道、自転車横断帯のうち道路の幅方向に配列しているものは、単一の横断歩道、自転車横断帯を表しているものとみなし、これらをグループ化するのである。
まず処理対象となる四辺形CR242のうち、パスPS242にほぼ平行な2つの辺の中点Pb241、Pb242を求める。そして、中点Pb241、Pb242を延長し、他のパスPS241,PS243との交点Pb243、Pb244を求める。こうして得られた点のうち、最も離れて存在する2点を選択する。図中の例では、点Pb243、Pb244となる。
そして、この2点Pb243、Pb244を結ぶ線分を規定の倍率で延長して線分L241を得る。
また、この線分L241を、図中の矢印に示すように、パスPS242の前後方向にそれぞれ所定量だけオフセットすることによって、線分L242、L243を得る。この線分L242、L243を2つの辺とする四辺形(図中の太線で示した四辺形)を定義し、この四辺形と重なるオブジェクトCR241〜CR246を一つのグループと認識する。
以下、太線の四辺形をグループ化領域と呼ぶこともある。
【0155】
上述の処理において、2点Pb243、Pb244を結ぶ線分を延長して線分L241を得る際の倍率、および線分L241をパスPS242から線分L242、L243を得る際のオフセット量は、それぞれ任意に設定可能である。
例えば、倍率は、パスPS241、PS243の連結画像内のオブジェクトCR241、CR243を捕捉できる程度の値を設定すればよい。またオフセット量は、横断歩道および自転車横断帯の標準的な幅(パスの進行方向に沿った長さ)を考慮して設定すればよい。
【0156】
次に、CPUは、次の手順で、グループ化されたオブジェクトCR241〜CR246の合成、整形処理を行う(ステップS664)。
まずグループ内にあるオブジェクトを種別に応じて、横断歩道のオブジェクトCR241〜CR243と、自転車横断帯のオブジェクトCR244〜CR246に分ける。
横断歩道のオブジェクトCR241〜CR243については、これらのオブジェクトを構成する各辺のうち、最も離れた2辺S241,S242を抽出する。そして、2辺S241、S242を対向する2辺とする四辺形R241を生成し、これを合成形状とする。
自転車横断帯についても同様に、オブジェクトCR244〜CR246を構成する各辺のうち、最も離れた2辺S243、S244を抽出する。そして、2辺S243、S244を対向する2辺とする四辺形R242を生成し、これを合成形状とする。
こうして得られた合成形状R241、R242について、次に示す整形処理を施す。
【0157】
図25は横断歩道・自転車横断帯の整形方法を示す説明図である。横断歩道と自転車横断帯とは隣接して平行に描かれているのが通常であるため、横断歩道および自転車横断帯の合成形状を、このような状態に整形するための処理である。
【0158】
図25(a)は、横断歩道の合成形状CR251に対して、自転車横断帯の合成形状CR252の長さ(道路の横断方向、図中の例では左右方向)の割合が所定値(本実施例では2/3とした)以上となる場合の処理例を示した。所定値は任意に設定可能である。
横断歩道の合成形状CR251は、整形前はハッチングの状態であったとする。自転車横断帯の長さが十分にある場合には、自転車横断を基準として横断歩道の合成形状CR251を整形する。従って、自転車横断帯の辺S253の延長線と、横断報道の合成形状CR251の左右の辺S251、S252の延長線との交点P251、P252を求め、これらの点を含む台形を横断歩道の合成形状とする。
【0159】
図25(b)は、自転車横断帯の長さが十分でない場合、つまり自転車横断帯の長さが横断歩道の長さの2/3よりも小さい場合の例を示した。この場合は、横断歩道の形状を基準として自転車横断帯の合成形状を整形する。自転車横断帯の幅は、D25であるとする。
従って、図25(b)に示すように、自転車横断帯の合成形状CR254の両側の辺S254、S255を延長し、横断歩道の合成形状CR253との交点P253、P254を求める。
次に、図25(c)に示すように、点P253、P254から幅D25だけ移動した点に辺S256を設定し、これらで囲まれる部分を自転車横断帯の合成形状CR255とする。
【0160】
図25(d)には、上述の整形の結果、横断歩道と自転車横断帯の長さが異なる場合の例を示した。図の例では、横断歩道の合成形状CR253の長さよりも、自転車横断帯の合成形状CR255の長さが短い例を示している。この場合には、自転車横断帯の合成形状CR255の両端の辺S257、S258を横断歩道の合成形状CR253に一致するまで移動させる。また、これに合わせて辺S256を延長する。
こうすることによって、自転車横断帯の合成形状CR255と、横断歩道の合成形状CR253の長さを一致させることができる。
図の例では、自転車横断帯の合成形状CR255を左右方向に延長する処理例を示したが、横断歩道の長さが自転車横断帯よりも短い場合には、同様の処理によって、横断歩道を延長してもよい。
【0161】
(4)停止線合成処理:
図26は停止線合成処理のフローチャートである。ペイント修正処理(図22)のステップS650に相当する処理である。
処理を開始すると、CPUは停止線オブジェクトを入力する(ステップS671)。そして、停止線をグループ化および合成を行う(ステップS672、S673)。グループ化および合成は、横断歩道、自転車横断帯と同じ方法(図24のステップS663、S664)で行うことができる。
【0162】
次に、CPUは停止線の整形を行う(ステップS674)。停止線は、車線境界線の間に描かれているのが通常であるため、車線境界線をはみ出す部分を削除するのである。
図中に処理例を示した。左側に示すように、停止線について台形状の合成形状SL261が得られているとする。車線境界線L261、L262内にはハッチングの部分が描かれており、その両端は車線境界線L261、L262からはみ出している。
CPUは、停止線の合成形状SL261と、車線境界線L261、L262との交点P261〜P264を求め、停止線の両端を削除する。こうすることによって、図の右側に示すように、車線境界線L261、L262内に収まるように整形した停止線の合成形状SL262を得ることができる。
【0163】
(5)オブジェクト補正処理:
図27はオブジェクト補正処理のフローチャートである。ペイント修正処理(図22)のステップS680に相当する処理である。
処理を開始すると、CPUは各オブジェクトを入力し(ステップS681)、車線境界線を整形する(ステップS682)。
本実施例の整形処理では、横断歩道、自転車横断帯および停止線を基準として車線境界線を整形するようにした。車線境界線に比較して横断歩道等の方が、誤認識が少ないからである。
【0164】
図中に整形の処理例を示した。この例では、停止線SL271、SL272および横断歩道CR271、自転車横断帯CR272が含まれている。
停止線SL272の両側には車線境界線L271が存在する。車線境界線L271と自転車横断帯CR272との間には隙間がある。そこで、整形処理では、車線境界線L271を線分L272に示すように延長し、自転車横断帯CR272に接続させる。横断歩道CR271との間に隙間がある車線境界線L273も同様に、線分L274に示すように延長し、横断歩道CR271に接続させる。
【0165】
停止線SL271の端に位置する車線境界線L275は、逆に、横断歩道CR271内に入り込んでいる。従って、整形処理では、破線の線分L275cに示すように、横断歩道CR271の境界線よりも内部に入り込んだ部分を削除する。同様に、車線境界線L277についても、自転車横断帯CR272に入り込んだ部分L277cを削除する。
また、車線境界線L276は、横断歩道CR271、自転車横断帯CR272を貫通している。従って、整形処理では、貫通している部分L276cを削除する。この結果、車線境界線L276は、横断歩道CR271、自転車横断帯CR272の左右の部分に分断されることになる。
【0166】
次に、CPUはペイント補正処理を行う(ステップS683)。ペイント補正処理とは、連結画像が重なり合っている部分で、下側の連結画像においてのみ認識されており非表示となっているペイントを表示可能な状態に変更する処理である。
図中に処理例を示した。下側に配置されている連結画像およびペイントを破線で示し、上側に重ねられる連結画像およびペイントを実線で示した。
下側の矢印M272には、対応する位置に上側の矢印M271が存在する。従って、ここでは、矢印M271、M272を比較した上で矢印M271が採用されていると判断されるため、矢印M272はそのまま非表示の状態とされる。なお、比較の結果、矢印M272側を表示に使用すると判断された場合には、矢印M271を包含するように透明化ポリゴンを設定すればよい。
これに対し、矢印M273には、重なり合う上側の矢印が存在しない。従って、矢印M273は、従前の処理において誤認識と判断され、非表示の状態に設定されていると判断される。そこで、本実施例では、オブジェクト補正処理として、このように下側にのみ位置する矢印M273を、表示可能な状態に変更する。例えば、矢印M273を切り抜いて上側の連結画像内に結合させるようにしてもよいし、上側の連結画像内の矢印M273に対応する位置に透明化ポリゴンを設定してもよい。
【0167】
D.効果:
以上で説明した実施例の道路面撮影システム100および路面標示地図生成装置200によれば、道路を走行しながら取得したフレーム画像を正射変換して得られた路面テクスチャを配置することにより、走行軌跡(パス)に沿って位置精度のよい連結画像を得ることができる。更に、複数のパスに沿って得られた連結画像同士を、位置合わせして合成することにより、道路全体の路面画像を得ることができる。この際、画像を撮影した際の各パスの位置精度が最も高いものを基準パスとして、他のパスをこの基準パスに合わせる方法を採ることにより、全体の位置精度を確保しつつ路面画像を生成することができる。
本実施例では、各パスの連結画像は、路面テクスチャを配置するまでに留め、これらを一枚の画像として合成していない。従って、路面テクスチャ単位で配置を平行移動することによって、複数パスの連結画像を容易に合成可能である。
【0168】
本実施例では、各パスの連結画像の生成、および複数パスの連結画像の合成のいずれの処理も、路面テクスチャに対するアフィン変換を施す必要がなく、単純な平行移動で行う。従って、複雑な画像処理に伴う画質の劣化を回避することができ、路面標示が鮮明な状態で表示された路面画像を得ることが可能である。また、平行移動で行うため、路面テクスチャ内の代表点を基準とする相対的な座標系は、連結画像の生成および合成の前後で維持される。この結果、代表点の絶対位置座標が得られれば、路面テクスチャ内の各点の絶対位置座標を容易に取得することが可能となり、路面標示の絶対位置座標を取得することも可能となる。
【0169】
また、本実施例では、連結画像から認識された複数の標示について、その位置関係に基づき、単一の標示と判断できるものを合成することができる。また、横断歩道等に車線境界線を接続させたり、逆に、横断歩道等の内部に入り込んだ車線境界線を削除したりすることによって、両者の位置関係を適正化することができる。更に、連結画像同士の重なり合いによって、隠されてしまっている標示を、それに重なる標示の有無に応じて、表示状態とさせることができる。
複数の標示間の位置関係に基づいて、これらの修正を施すことにより、本実施例では、標示の誤認識等の一部を除去することができ、標示の認識精度を向上させることができる。
【0170】
以上、本発明の種々の実施例について説明したが、本発明はこれらの実施例に限定されず、その趣旨を逸脱しない範囲で種々の構成を採ることができることはいうまでもない。
例えば、連結画像は、路面テクスチャを合成した一枚の画像として生成してもよい。この場合、複数パスの合成を行う際には、連結画像を路面テクスチャに相当する複数の領域に分割した上で、領域ごとに平行移動すればよい。
本実施例では、車両に搭載したビデオカメラで撮影した画像を利用する例を示したが、車両に限らず自転車その他の種々の移動体を利用可能であり、歩行しながら撮影する方法を採っても良い。
【図面の簡単な説明】
【0171】
【図1】実施例としての道路面撮影システムの構成を示す説明図である。
【図2】実施例としての路面標示地図生成装置の構成を示す説明図である。
【図3】路面標示地図の生成過程における中間データを示す説明図である。
【図4】実施例における道路画像の生成例を示す説明図である。
【図5】位置合わせ加工の概要を示す説明図である。
【図6】交差点が存在する場合の位置合わせの手順を示す説明図である。
【図7】連結画像生成処理のフローチャートである。
【図8】位置合わせ加工のフローチャートである。
【図9】基準パス設定処理のフローチャートである。
【図10】連結画像移動処理のフローチャートである。
【図11】位置合わせ加工の処理例(1)を示す説明図である。
【図12】位置合わせ加工の処理例(2)を示す説明図である。
【図13】位置合わせ加工の処理(2)の加工結果を示す説明図である。
【図14】路面標示の絶対位置座標の取得方法を示す説明図である。
【図15】透明化ポリゴン設定処理の概要を示す説明図である。
【図16】透明化ポリゴン設定処理のフローチャートである。
【図17】透明化ポリゴンを設定する前の道路画像例を示す説明図である。
【図18】透明化ポリゴンの設定後の道路画像例を示す説明図である。
【図19】ペイント認識処理のフローチャートである。
【図20】縦配置処理の内容を示す説明図である。
【図21】相対座標変換処理の内容を示す説明図である。
【図22】ペイント修正処理のフローチャートである。
【図23】車線境界線結合処理のフローチャートである。
【図24】横断歩道・自転車横断帯合成処理のフローチャートである。
【図25】横断歩道・自転車横断帯の整形方法を示す説明図である。
【図26】停止線合成処理のフローチャートである。
【図27】オブジェクト補正処理のフローチャートである。
【符号の説明】
【0172】
100…道路面撮影システム
110…位置計測部
110…計測データ
112…コントローラ
114…GPS
114A…アンテナ
116…IMU
118…DMI
120…ビデオカメラ
130…記録装置
140…ハードディスク
142…画像データ
144…同期データ
146…計測データ
150…基準局データ
200…路面標示地図生成装置
201…主制御部
202…コマンド入力部
203…表示制御部
204…データ入力部
205…軌跡データ算出部
206…画像変換部
207…1パス画像合成部
210a…軌跡データ
210b…路面軌跡データ
210c…路面テクスチャ
210d…連結画像
210e…道路画像
210f…道路画像用登録データ
210g…軌跡用登録データ
210…処理データ記憶部
220…位置合わせ処理部
221…透明化ポリゴン設定部

【特許請求の範囲】
【請求項1】
コンピュータによって道路面に施された標示を含む路面標示地図を生成する生成方法であって、
(a) 前記道路面を撮影する際の移動軌跡である所定のパスに沿って移動しながら前記標示を含む路面を撮影した連続画像の画像データと、該画像データの撮影位置を表す位置座標データとを入力する工程と、
(b) 前記入力された画像データを構成する各フレーム画像を変換して、前記路面を真上から見た状態の正射画像を得る工程と、
(c) 前記正射画像を配置して前記各パスの路面を表す連結画像を生成する工程と、
(e) 前記連結画像に基づいて、前記路面に描かれた標示の種別および位置を認識する工程と、
(f) 前記連結画像から認識された複数の標示の位置関係に基づき、該標示が適正な位置関係となるよう、該標示の少なくとも一部を修正する工程とを備える生成方法。
【請求項2】
請求項1記載の生成方法であって、更に、
前記工程(a)〜(c)は、前記連結画像の一部が重なり合う位置関係にある複数のパスに対して処理されており、
(g) 前記工程(f)に先だって、前記連結画像の一部を透過状態とするための透明化ポリゴンを設定する工程を供え、
前記工程(f)における前記位置関係は、前記透明化ポリゴンによって透過状態とされる部分を除いた状態の前記標示に基づいて判定される生成方法。
【請求項3】
請求項1または2記載の生成方法であって、
前記工程(f)は、認識された前記複数の標示が同一の種別である場合には、位置関係に応じて、前記標示を合成して単一の標示とする工程である生成方法。
【請求項4】
請求項1〜3いずれか記載の生成方法であって、
前記工程(a)〜(c)は、前記連結画像の一部が重なり合う範囲で道路の幅方向の位置が異なる複数のパスに対して処理されており、
前記工程(f)は、前記複数のパスの連結画像からそれぞれ認識され、前記道路の幅方向に並ぶ同一種別の標示を合成して、前記道路の幅方向に延伸する単一の標示とする工程である生成方法。
【請求項5】
請求項1〜4いずれか記載の生成方法であって、
前記工程(f)は、前記標示の形状を予め規定された幾何学形状で近似し、該幾何学形状を用いて前記標示の修正を行う生成方法。
【請求項6】
請求項1〜5いずれか記載の生成方法であって、
前記標示には、前記道路の幅方向に延伸する標示、および車線境界線が含まれ、
前記工程(f)は、前記幅方向に延伸する標示の輪郭線上に前記車線境界線の端点が来るように、前記車線境界線の形状を修正する生成方法。
【請求項7】
請求項1〜6いずれか記載の生成方法であって、
前記工程(a)〜(c)は、前記連結画像の一部が重なり合う位置関係にある複数のパスに対して処理されており、
前記工程(f)は、前記重なり合う領域において、下側の連結画像においてのみ認識されている標示を、上側に配置される連結画像で隠されない状態とする生成方法。
【請求項8】
道路面に施された標示を含む路面標示地図を生成する生成装置であって、
前記道路面を撮影する際の移動軌跡である所定のパスに沿って移動しながら前記標示を含む路面を撮影した連続画像の画像データと、該画像データの撮影位置を表す位置座標データとを入力する入力部と、
前記入力された画像データを構成する各フレーム画像を変換して、前記路面を真上から見た状態の正射画像を得る画像変換部と、
前記正射画像を配置して前記各パスの路面を表す直線状の連結画像を生成する連結画像生成部と、
前記連結画像に基づいて、前記路面に描かれた標示の種別および位置を認識する標示認識部と、
前記連結画像から認識された複数の標示の位置関係に基づき、該標示が適正な位置関係となるよう、該標示の少なくとも一部を修正する標示修正部とを備える生成装置。
【請求項9】
道路面に施された標示を含む路面標示地図を生成するためのコンピュータプログラムであって、
前記道路面を撮影する際の移動軌跡である所定のパスに沿って移動しながら前記標示を含む路面を撮影した連続画像の画像データと、該画像データの撮影位置を表す位置座標データとを入力する入力サブプログラムと、
前記入力された画像データを構成する各フレーム画像を変換して、前記路面を真上から見た状態の正射画像を得る画像変換サブプログラムと、
前記正射画像を配置して前記各パスの路面を表す直線状の連結画像を生成する連結画像生成サブプログラムと、
前記連結画像に基づいて、前記路面に描かれた標示の種別および位置を認識する標示認識サブプログラムと、
前記連結画像から認識された前記標示の位置関係に基づき、該標示が適正な位置関係となるよう、該標示の少なくとも一部を修正する標示修正サブプログラムとを備えるコンピュータプログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図4】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図17】
image rotate

【図18】
image rotate


【公開番号】特開2009−223221(P2009−223221A)
【公開日】平成21年10月1日(2009.10.1)
【国際特許分類】
【出願番号】特願2008−70218(P2008−70218)
【出願日】平成20年3月18日(2008.3.18)
【出願人】(597151563)株式会社ゼンリン (155)
【Fターム(参考)】