説明

空撮画像の位置合わせ装置およびプログラム

【課題】画像中の地物の濃淡の不変度が保証されない場合、事前にほぼ同一領域を撮影したデータを持っていない場合にも空撮画像の位置合わせを行える。
【解決手段】機体より所定の時間間隔で地表の空撮対象領域を撮影して空撮画像を得る画像空撮手段、その撮影時刻、位置、姿勢データを空撮情報として得る空撮情報検出手段、撮影時に空撮対象領域内を移動する特定車両に搭載され車両位置と位置取得時刻を得る現在位置記録手段、特定車両の屋根の色彩を入力保持する色彩入力手段、撮影ごとの空撮対象領域を空撮情報に基づく仮位置合わせ、その空撮画像から特定車両と同じ色彩の色彩物を検出、検出色彩物から同時刻の特定車両の位置に近い色彩物を算出、算出色彩物の位置と対応する特定車両の位置から仮位置合わせした空撮対象領域の位置を補正する位置合わせ計算手段を備える。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、航空機などから地表を撮影した画像を得て、空撮画像の撮影対象領域を緯度・経度で把握するという位置合わせの作業を効率化する空撮画像の位置合わせ装置およびプログラムに関するものである。
【背景技術】
【0002】
航空機などから地表を撮影した空撮画像には、地表を撮影した光学的な色彩画像および地表の位置・高度情報を記録した電波高度画像などがある。取得された空撮画像は、これを処理して名称、等高線などの他の情報を加えた地図などを作成するのに用いられている。また、空撮画像は、過去に撮影された参照用空撮画像や地図と比較することにより、撮影対象領域の地物(地形ないし物体)の変化の判別に用いられている。地物の変化としては、建造物や道路の生成・消滅、河川の氾濫を含むくぼ地の生成・消滅、がけ崩れを含む一定傾斜斜面の生成・消滅、海岸線や湖岸線の移動等がある。これは、高度情報を記録した電波高度画像の場合でも同様である。
このように、空撮画像をもって地図作成の原材料とし、あるいは地物の変化を求めるためには、前提として、空撮画像の位置が厳密に判明している必要がある。そのため、空撮画像の位置を空撮画像の四隅の緯度・経度として求め、空撮画像の内部の位置を四隅の位置からの内分比で求めることが行なわれている。
【0003】
従来の空撮画像の位置合わせ技術では、過去の該当地区の精密に位置の判明している空撮画像ないし地図を参照画像とし、これに対し、今回撮影した空撮画像の位置を、航空機や人工衛星の飛行軌跡情報、カメラやセンサの地軸に対する傾きの情報などを基にして位置合わせを行なうが、そのままの結果では位置精度に誤差がある。この空撮画像の位置精度の誤差をなくす、あるいは最小限に抑えるために、測量の際には、地上に位置を厳密に測定した対空標識を設置して位置合わせの基準とする方法がある(例えば非特許文献1参照)。しかし、測量を意図して準備した測定以外の場合、特に災害が発生した後の地上の撮影においては、このような位置合わせ用の対空標識は被写体である地上には設定されない。また、緊急出動するヘリコプターなどでは、測量用の航空機と違ってカメラを厳密に鉛直下向きに設定することが困難で、またカメラの傾きの情報などにも誤差が出やすい。
【0004】
また、空撮画像の位置合わせを自動化する技術も開発されており(例えば非特許文献2、3参照)、これらの非特許文献の技術に共通するのは、おおよその位置合わせの後に、画像の濃淡あるいはスペクトル差により得られるパターンを基にして、空撮画像と参照用空撮画像との間の共通のパターンを探索し、共通のパターンが得られる場所を基にして位置合わせをすることである。
また、空撮画像同士の位置合わせにおいて、空撮画像から抽出した特徴点と過去の空撮画像上の特徴点との対応付けを基に位置合わせを行う技術(例えば特許文献1参照)、また空撮画像同士の位置合わせにおいて、空撮画像から抽出される色彩領域が過去の空撮画像上の色彩領域と対応付けられるという性質をもとに位置合わせを行う技術がある(例えば特許文献2参照)。しかし、これらは、いずれも同一特徴の表れる画像が用意できる、いいかえればほぼ同じ領域を複数回撮影できる場合にのみ有効となる方法である。
【0005】
また、GPSを利用した技術として、GPSで得た精密な位置を利用して、地図原画像、すなわち空撮画像の位置合わせを行なう手法がある(例えば特許文献3参照)。しかし、この方法はGPS受信機を設置する位置を人間が意図をもって選択することを前提としていて、空撮画像からGPS受信機の設置場所を自動的に決定する方法については開示していない。
また、空撮画像としてレーダ撮影で得た高度を記録した電波画像を対象として、地上の地物において、その位置・高度をGPSなどの測位手段で記録し、この地物の位置・高度により電波画像の位置合わせを行なう方法がある(例えば特許文献4参照)。しかし、この方法は、地物の位置を、精密な位置が記録されている地図上におくことにより可能となったものであり、電波画像自体から測位手段で記録されている位置を特定する方法については開示していない。
【0006】
一方、地物の変化を判別する過程を人間の目視能力によらずに自動的に行う方法が発明されている。その一つは、建造物や自然物等の物体が存在する地域の空撮画像からエッジ画像を生成し、生成したエッジ画像毎に当該画像全体に対する存在確度を算出すると共に、存在確度が一定値以下となるエッジ画像を当該撮影画像の該当領域から除去し、物体の日照に影響される影成分が削除された前処理画像を生成する画像処理技術である(例えば特許文献5参照)。
また他例として、同一地域に対し時間を置いて上空から撮影した新旧画像間を用意し、上記新旧画像の夫々から第1の画像変換手法により第1及び第2の変換画像を求め、該第1及び第2の変換画像を比較し、変化領域と推定されるデータを有する第1の2値化画像を求め、上記新旧画像の夫々から第2の画像変換手法により第3及び第4の変換画像を求め、該第3及び第4の変換画像を比較し、変化領域と推定されるデータを有する第2の2値化画像を求め、上記第1の2値化画像を所定画素数からなる複数の画素領域に分割し、夫々の画素領域中の領域変化を示す画素数を求め、該画素数をしきい値と比較して第3の2値化画像を求め、上記第2の2値化画像を所定画素数からなる複数の画素領域に分割し、夫々の画素領域中の領域変化を示す画素数を求め、該画素数をしきい値と比較して第4の2値化画像を求め、上記第3及び第4の2値化画像に基づいて上記新旧画像間の変化領域を特定する画像データ処理方法がある(例えば特許文献6参照)。この特許文献6における地物変化の検出手法においては、新旧の該当地域を撮影した画像を正確に位置合わせしてから、その後に地表変化を検出する必要があるが、この際の位置合わせの手法については、同一縮尺の平行移動のみで位置合わせをすることのみを示しており、手作業で位置合わせを行うことを前提として記述されている。
【0007】
【特許文献1】特開2004−151278号公報
【特許文献2】特開平5−181411号公報
【特許文献3】特開2000−298430号公報
【特許文献4】特開2004−333445公報
【特許文献5】特開平10−312466号公報
【特許文献6】特開2001−109872号公報
【非特許文献1】国土交通省公共測量作業規定、国土交通省大臣官房技術調査課監修、社団法人 日本測量協会、平成14年6月6日、第3章 空中写真測量、第1節 要旨、第98条、P.43
【非特許文献2】李、佐藤、村上(産総研)「マルチモーダル画像位置合わせアルゴリズムをもちいたロバストな自動システムの構築に向けて」、リモートセンシング学会第40回学術講演会、2006年5月
【非特許文献3】萩原、瀬戸、吉光(日立)、賀来(資源・環境観測解析センター)「異種スペクトル間画像レジストレーションアルゴリズムの開発」、電子情報通信学会技術研究所報告(信学技報)SANE95−7,1995年5月
【発明の開示】
【発明が解決しようとする課題】
【0008】
以上のような従来の空撮画像の位置合わせ技術によれば、事前に精密な位置を測定した対空標識の設置がない場合、画像同士から画像の濃淡や色彩の変化、特徴などを捉えて位置合わせを行なうが、市街地における建物や交差点のように画像の濃淡や色彩が周囲とは際立っていて不変である場合、あるいは角や直線のような特徴点や特徴ある線分が抽出される場合、事前にほぼ同一領域を撮影して特徴を予め把握している場合を除いては自動位置合わせが困難であった。
また、従来の空撮画像の位置合わせ技術においては、地上の地物の位置の測定をGPS装置などで精密に行なった場合でも、該当の地物を空撮画像から直接抽出することはできず、事前に用意されているほぼ同一領域の地図などに頼らざるをえないという問題があった。
【0009】
この発明は、上記問題点を解決するためになされたもので、空撮画像の位置合わせを、画像中の地物の濃淡の不変度が保証されない場合、また事前にほぼ同一領域を撮影したデータを持っていない場合にも行えるようにする空撮画像の位置合わせ装置およびそのプログラムを得ることを目的とする。
【課題を解決するための手段】
【0010】
この発明に係る空撮画像の位置合わせ装置は、上空を移動する機体に搭載され、光学的カメラにより所定の時間間隔で地表の空撮対象領域を撮影してそれぞれの空撮画像を得る画像空撮手段と、機体に搭載され、画像空撮手段による撮影の時刻、その時のカメラの位置、カメラの姿勢データを空撮情報として検出する空撮情報検出手段と、画像空撮手段による撮影時に空撮対象領域内を移動する特定車両に搭載され、当該特定車両の現在位置と当該位置の取得時刻を取得し車両の位置情報として順次記録する現在位置記録手段と、特定車両の屋根の色彩を含む色彩情報を予め入力保持する色彩入力手段と、画像空撮手段で撮影時刻ごとに得られる空撮画像の空撮対象領域について空撮情報検出手段で取得された空撮情報に基づいて仮位置合わせを行い、仮位置合わせされた空撮画像の中から色彩情報に基づいて特定車両と同じ色彩を持つ色彩物を検出し、当該色彩物の位置の中から車両の位置情報の同時刻に対応する特定車両の位置に近い色彩物の位置を算出し、当該算出された色彩物の位置とこれに対応する特定車両の位置に基づいて仮位置合わせされた空撮対象領域の位置を補正する位置合わせ計算手段を備えたものである。
【発明の効果】
【0011】
この発明によれば、撮影した空撮画像中の地物の濃淡の不変度が保証されない場合、また事前にほぼ同一領域を撮影したデータを持っていない場合にも空撮画像の位置合わせを自動的に、精度よく行うことができる。
【発明を実施するための最良の形態】
【0012】
実施の形態1.
図1は、この発明の実施の形態1による空撮画像の位置合わせ装置の機能構成を示すブロック図である。
この空撮画像の位置合わせ装置は、空撮画像の位置を、被写体中の特定の色彩の物体(車両の屋根)から位置合わせするもので、そのため、航空機100、車両(特定車両)200および位置合わせ計算手段300に分かれた処理構成を持つ。
航空機100内には、画像空撮手段101、空撮画像メモリ102、空撮情報検出手段103、空撮情報メモリ104が備えられている。
画像空撮手段101は、例えば地上を可視光領域で撮影するデジタルカメラを有し、地上を所定の時間間隔で撮影してそれぞれの空撮画像を得て、付属の空撮画像メモリ102に格納する手段である。空撮画像メモリ102内では、画像は画素ごとに、三原色である赤(R)、緑(G)、青(B)の成分に分解して保持される。空撮情報検出手段103は、例えばGPS受信機とジャイロ姿勢制御装置を組み合わせたものであり、画像空撮手段101で撮影した時刻、その時のカメラの位置(緯度・経度)およびカメラの姿勢データを検出し、これらの時刻、位置、カメラの姿勢データを空撮情報として付属の空撮情報メモリ104に格納する手段である。なお、カメラの姿勢データは、図3で後述するカメラの視線傾き角、視線方向角および撮影範囲角などである。
【0013】
車両200は屋根の色が原則的に一色である自動車で、その中には、現在位置記録手段201、現在位置メモリ202、色彩入力手段203、色彩メモリ204が備えられている。
現在位置記録手段201は、例えばGPS受信機であり、車両200に設置され車両の現在位置(緯度・経度)と当該位置の取得時刻を検出し、これらの位置と時刻を車両の位置情報とし付属の順次現在位置メモリ202に記録する手段である。色彩入力手段203は、例えばデジタルカメラであり、該当の車両200の屋根を視野いっぱいに撮影し、該当車両の屋根の色彩を含むデジタルの色彩情報を取得し予め付属の色彩メモリ204に格納する手段である。
【0014】
位置合わせ計算手段300は、例えば汎用のコンピュータ、入出力装置、記憶装置および位置合わせプログラムから構成することができるもので、機能構成として空撮画像メモリ102A、空撮情報メモリ104A、現在位置メモリ202A、色彩メモリ204A、時刻同期手段301、仮位置合わせ手段302、画像表示手段303、色彩物検出手段304、車両位置決定手段305、精密位置合わせ手段306、色彩決定手段311を備えている。
空撮画像メモリ102A、空撮情報メモリ104A、現在位置メモリ202A、色彩メモリ204Aは、航空機100側および車両200側にある同名称のメモリ内のデータを移して格納するメモリである。仮位置合わせ手段302は、空撮情報検出手段103で得られた空撮情報に含まれる空撮画像の取得位置とカメラの姿勢データに基づいて、対応する空撮対象領域の四隅の位置を算出する手段である。色彩決定手段311は、色彩入力手段203で得られた色彩情報に基づいて色彩ベクトルの分布の平均値をとることにより車両200の色彩範囲を決定する手段である。色彩物検出手段304は、仮位置合わせされた空撮画像の中から車両200の色彩範囲と同じ色彩物をそれぞれ検出する手段である。車両位置決定手段305は、色彩物検出手段304で検出された色彩物の位置の中から車両の位置情報に対応する時刻の車両200の位置に近いと想定される色彩物の位置を空撮画像上の特定車両の位置と決定する手段である。精密位置合わせ手段306は、車両位置決定手段305で決定された空撮画像上の特定車両の位置と対応する時刻の車両200の位置に基づいて、仮位置合わせ手段302で仮位置合わせされた空撮対象領域の四隅の位置を補正する手段である。
【0015】
図2から図10は、後述する空撮画像の位置合わせ装置の一連の動作説明で引用する図である。
図2は、航空機100が空中を進路方向500に飛行しながら地表の空撮対象領域501の範囲を空撮する状況を模式的に表わす。この空撮対象領域501の一部分を拡大したものが空撮対象領域部分501Bである。この空撮対象領域部分501Bには、この発明の一要素である車両200と、一般の非該当車両210が走行している様子が描かれている。
【0016】
図3は、航空機100、進路方向500、空撮対象領域501などを、地上の緯度・経度で表わされる地理座標空間510と対応させて示している。図において、地理座標空間510は緯度軸(U軸)、経度軸(V軸)からなる。511はカメラからの鉛直ベクトルであり、航空機100内の画像空撮手段101であるカメラ位置Pから鉛直下向きに伸びている。点Qは、カメラからの鉛直ベクトル511の地表と交わる「足」である。512は、カメラ位置Pからの視線ベクトルである。ωは、視線傾き角であって、カメラからの鉛直ベクトル511とカメラの視線ベクトル512のなす角を表わす。φは視線方向角であって、カメラの視線ベクトル512の地上への投影が進路方向500となす角を表わす。ρは、撮影範囲角であって、カメラの撮影範囲に入る限界(視野線)を進路方向500にとった場合の視野線とカメラの視線ベクトル512のなす角であり、カメラによって定まる定数であるが、空撮情報検出手段103から出力される。なお、ここでは撮影範囲角ρは、進路方向500の右側、左側、後側へも適用されるとして、一般性を失わない。hは、対地高度であり、カメラ位置Pと点Qとの距離を表わす。
【0017】
図4は、空撮対象領域501などとカメラの撮影範囲角ρの対応関係を示しており、図4(a)は、カメラの視線ベクトル512が鉛直下向きの場合の空撮範囲の想定図である。501Bは、視線が鉛直下向きの場合の鉛直撮影時の空撮対象領域であり、地上において、撮影範囲角ρで区切られた、紙面に向かって左上端点A、右上端点B、左下端点C、右下端点Dの四隅を持つ正方形領域である。図4(b)は、カメラの視線ベクトル512が進路方向500に向かって、視線傾き角ωだけ前方に傾いている場合の想定図である。501は、撮影時の空撮対象領域であり、撮影範囲で区切られた、紙面に向かって左上端点E、右上端点F、左下端点G、右下端点Hの四隅を持つ台形領域となる。
【0018】
図5は、空撮対象領域501を地理座標空間510上で表している。空撮対象領域501は、図4に示した空撮対象領域を再び示したものであるが、ここでは地理座標空間510において、進路方向500は、緯度方向(U軸)に対して、視線方向角φの傾きを持っていることを表している。空撮対象領域501において、四隅の端点E,F,G,Hはそれぞれ図4(b)に対応した端点である。
【0019】
図6は、表示座標空間503と地理座標空間510の対応関係を示している。図6(a)は、表示画素数が水平のS軸、垂直のT軸とも1000である表示座標空間503において、空撮対象領域501が画像表示手段303上に表示されている様子を示している。空撮対象領域501において、進路方向500に対して、紙面に向かって左上端点がE、右上端点がF、左下端点がG、右下端点がHである。Rは、空撮対象領域501内の任意の着目点であり、表示座標空間503において、S軸の値がRs、T軸の値がRtであることを示している。図6(b)は、地理座標空間510上の空撮対象領域501を示したものであり、図6(a)に対応した符号が付されて表されている。
【0020】
図7は、色彩決定手段311で用いられる色彩決定の原理を示している。図7(a)は、三次元色彩空間600を表しており、3原色の赤(R)、緑(G)、青(B)の各成分は、値が0から最大値(例えば255)で構成される。その色彩空間中で、ある色彩を表わす色彩ベクトル601はC(r0,g0,b0)として定義される。図7(b)は、ニ次元色彩空間600Aを表しており、ここでは色彩ベクトル601は、説明を簡単化するために赤(R)、緑(G)成分のみで表されている。
【0021】
図8は、画像表示手段303の表示画面上に表示された空撮画像の例を示している。画像表示手段303の表示画面上には、右向きをS軸、上向きをT軸とした表示座標空間503が表示されている。ここでは、進路方向500は原則としてT軸方向に合わせている。空撮対象領域501内には、車両候補Aと、車両候補Bの画像が表示されている。また、506Aは画像処理的に求められた車両候補Aの重心で、506Bは同様に画像処理的に求められた車両候補Bの重心である。なお、後述するが車両候補Bは車両200ではない非該当車両とする。
【0022】
図9は、画像表示手段303の表示画面上に表示された車両候補位置とその誤差の例を示す。図9には、図8と同様に、表示画面上で右向きをS軸、上向きをT軸とした表示座標空間503が表示されており、進路方向500は原則としてT軸方向に合わせている。空撮対象領域501内には、画像処理的に求められた、車両候補Aの重心506Aと車両候補Bの重心506Bが表示されている。また表示画面上には、車両候補現在位置518が表示されている。この車両候補現在位置518は、現在位置記録手段201で得た位置を基に車両200の現在の位置を算出したものである。
【0023】
図10は、上記図9で表示された状態から微小時間経過後における車両候補位置とその誤差の例を示す。図10は、図9と同様にして示している。車両候補A重心506Aは、微小時間(例:1秒)経過後には後時刻車両候補A重心526Aとして表示され、車両候補B重心506Bは、微小時間経過後には後時刻車両候補B重心526Bとして表示されている。また、車両候補現在位置518に対応して、微小時間経過後には車両候補後時刻位置528が表示されている。
【0024】
次に動作について説明する。
進路方向500に飛行する航空機100に搭載された画像空撮手段101は、地上の空撮対象領域501を撮影すると、撮影した画像を、進路方向500を画面上部とするデジタル画像(空撮画像)にして画像メモリ102に蓄える。現行の技術では、地上解像度として例えば1画素40cmの撮影が行なわれている。さらに微小時間(例:1秒)経過後に再び撮影を行なう。ところで、空撮対象領域501内にあり被写体となる車両200として普通乗用車を例にとると、その屋根の寸法は、おおむね幅が120〜150cm、長さが180cm〜250cmである。そこで、車両200の屋根の幅を120cm、長さを180cmとした場合、屋根は空撮画像においては、3×4=12画素程度で表わされる。また、屋根の幅を150cm、長さを250cmとした場合、屋根は4×6=24画素程度で表わされる。
【0025】
空撮情報検出手段103では、航空機100からの撮影の時刻を協定世界時UTCとして取得し、画像空撮手段101の撮影時における位置(緯度・経度・対地高度)をGPS受信機によって取得し、空撮情報メモリ104に格納する。また、ジャイロ姿勢制御装置により、画像空撮手段101のカメラの視線傾き角ω、視線方向角φを検出し、またカメラ固有の定数として撮影範囲角ρを出力し、あわせて空撮情報として付属の空撮情報メモリ104に格納する。
ここで、カメラの視線傾き角ωは、カメラの視線ベクトル512が鉛直下向きより進路方向500に向けて傾いている角度である。視線方向角φは、進路方向500が緯度の増加方向(真北)から水平方向に傾いている角度である。また、撮影範囲角ρは、カメラにより定まる定数であり、カメラの視線ベクトル512に対し、撮影範囲を定める角度である。画像空撮手段101による空撮は、微小時間(例:1秒)間隔で行なわれるものとする。
【0026】
一方、車両200内において、現在位置記録手段201は、GPS受信機によって、走行中の車両の位置・時刻を検出して車両の位置情報として付属の現在位置メモリ202に格納していく。この場合の現在位置記録手段201で取得する時刻は、協定世界時UTCとしており、画像空撮手段101の時刻と厳密に同期する。また、車両200には、デジタルカメラを用いた色彩入力手段203があり、車両の屋根を視野の大部分に入れて撮影することにより、車両200の屋根の色彩をデジタルカメラのメモリからなる色彩メモリ204に格納する。ここで、車両200の屋根の色彩を単色と限定することは本技術の有効性を失わせない。現在位置の記録は、微小時間(例:1秒)間隔で行なうものとする。
【0027】
位置合わせ計算手段300においては、航空機100での撮影後、取得された空撮画像は空撮画像メモリ102から空撮画像メモリ102Aに移され、また空撮情報は空撮情報メモリ104から空撮情報メモリ104Aに移される。さらに、航空機100による撮影と同時刻に走行していた車両200で取得された現在位置情報は現在位置メモリ202から現在位置メモリ202Aに移される。また、色彩情報については、撮影後または事前に色彩メモリ204から色彩メモリ204Aに移される。
【0028】
仮位置合わせ手段302では、空撮情報メモリ104A内の空撮情報に基づいて、空撮画像メモリ102A内にある空撮画像の空撮対象領域501の四隅の緯度・経度などを、ある程度の誤差を許容して算出する仮位置合わせを行なう。この仮位置合わせ手段302の具体的な処理について図3〜図6を用いて説明する。なお、この仮位置合わせは、空撮情報メモリ104A内の時刻情報を基に、ある時刻t1で行ない、次に微小時間後の時刻t2で行なう。この時刻t1、t2は時刻同期手段301を通して現在位置メモリ202Aに伝えられる。
図3において、点Pをカメラ位置として、地上に鉛直線を降ろした足を点Qとする。一般に画像空撮手段101はカメラの視線方向ベクトル512を鉛直下向きに保持するよう試みるが、実際には航空機100の飛行姿勢や、画像空撮手段101を鉛直に保持する機構の誤差などで、カメラからの鉛直ベクトル511に対して、カメラの視線傾き角ωを持つ。なお、ここでは、カメラの視線傾き角ωは進路方向500の方向のみに対して存在するとして以後の話を進めるが、カメラの視線傾きが進路500以外に向かっている場合にも類似の幾何計算が適用されるので一般性を失わない。ここで、カメラの視線方向ベクトル512が大地と交わる点をRとする。線分QRの緯度方向となす角を視線方向角φとする。
【0029】
空撮対象領域501の四隅の地理座標(緯度・経度)の推定であるが、説明の順序として、まず視線傾き角ωの値が0の場合、すなわち、視線が鉛直下向きの場合を図4(a)により説明する。
画像空撮手段101の特性として、被写体が映りこまれる範囲を、画面上方向、下方向、左方向、右方向に対して、おのおの撮影範囲角ρの正方形の範囲とする。前述のように、紙面上方向は、航空機100の進路方向500である。航空機100の対地高度をhとし、点Qを航空機100の位置の鉛直下向きの線が地上(対地高度0)上の点、すなわち「足」とすると、足Qから上端までの距離=足Qから下端までの距離=足Qから右端までの距離=足Qから左端までの距離であり、この距離をiとおくと、式(1)が成り立つ。
i=h×tanρ (1)
【0030】
次に、視線傾き角ωが、図3にあるように進路方向500に対して存在する場合を説明する。図4(b)において、地面(対地高度=0)で作られる空撮対象領域501の、紙面に向かって左上端をE、右上端をF、左下端をG、右下端をHとし、右をx軸の正方向、上(航空機の進路方向500)をy軸の正方向とする。足Qから上端までの距離をk、足Qから下端までの距離をlとおくと、(2)、(3)式が成り立つ。
k=h×tan(ρ+ω) (2)
l=h×tan(ρ−ω) (3)
また、足Qを通るy軸から左上端Eまでの距離をm、右上端Fまでの距離をnとおくと、(4)、(5)式が成り立つ。
m=h×tanρ/cos(ρ+ω) (4)
n=h×tanρ/cos(ρ−ω) (5)
【0031】
ところで、図3にあるように、カメラの視線方向ベクトル512は地理座標空間510に対して視線方向角φを持っている。したがって、図5に示すように、空撮対象領域501は、地理座標空間510に対して、ある傾きのある形状を持っている。そこで、カメラの視線の上方(進路方向500)が、緯度・経度をおのおの軸U・軸V方向とする座標で、視線方向角φを持っているとすると、足Qから左上端Eまでの緯度方向の差eu、経度方向の差evは(6)、(7)式のようになる。
eu=k×cosφ+m×sinφ (6)
ev=−k×sinφ+m×cosφ (7)
足Qの緯度・経度の値をQ(Qu,Qv)とするとき、点Eの緯度・経度の値E(Eu,Ev)は、(8)、(9)式のようになる。
Eu=Qu+eu (8)
Ev=Qv+ev (9)
この(8)、(9)式を(2)〜(5)式を用いて展開すると、(10)、(11)式のようになる。
Eu=Qu+h×{tan(ρ+ω)×cosφ+tanρ/cos(ρ+ω)×sinφ} (10)
Ev=Qv−h×{tan(ρ+ω)×sinφ+tanρ/cos(ρ+ω)×cosφ} (11)
F,G,Hの緯度・経度も(10)、(11)式と同様にして求めることができる。これにより、仮位置合わせ手段302は空撮対称領域501の地理座標空間510に対する仮位置合わせを達成する。この結果の、誤差を含みつつも、地理座標が付された仮位置合わせ後の空撮画像は、空撮画像メモリ102Aに入力され保持される。
【0032】
位置合わせ計算手段300において、空撮画像メモリ102Aの内容は、画像表示手段303に表示される。画像表示手段303は、仮位置合わせされた空撮画像を図6(a)に示されるように、画面上、進路方向500を上にして表示する。ここで、空撮画像メモリ102A内の空撮画像の左上端Eの座標を(0,1000)、右上端Fの座標を(1000,1000)、左下Gの座標を(0,0)、右下Hの座標を(1000,0)とする。この範囲内の任意の着目点Rの座標を(Rs,Rt)とする。ここで、水平に着目点Rを通る線を引き、画面左枠との交点をI、右枠との交点をJとし、また垂直に着目点Rを通る線を引き、画面上枠との交点をK、下枠との交点をLとする。
交点Iの位置を緯度Iu・経度Ivとして求めると(12)、(13)式のようになる。
Iu=Gu+Rt×(Eu−Gu)/1000 (12)
Iv=Gv+Rt×(Ev−Gv)/1000 (13)
同様に、交点J、K、Lの緯度・経度もそれぞれ下記の各式のように求めることができる。
Ju=Hu+Rt×(Fu−Hu)/1000 (14)
Jv=Hv+Rt×(Fv−Hv)/1000 (15)
Ku=Eu+Rs×(Fu−Eu)/1000 (16)
Kv=Ev+Rs×(Fv−Ev)/1000 (17)
Lu=Gu+Rs×(Hu−Gu)/1000 (18)
Lv=Gv+Rs×(Hv−Gv)/1000 (19)
よって、着目点R(Rs,Rt)の位置は、線分I−Jと線分K−Lの交点として求めることができる。
【0033】
以上の図3〜図6を用いた説明に示されるように、仮位置合わせ手段302を用いることにより、ある程度の誤差を含みつつも、空撮画像メモリ102A内の空撮画像は、画像表示手段303において、その位置を表示座標空間503上で表わすことができ、また地理座標空間510上で表すことができ、これらの値は計算によりに相互に変換できるものとなる。なお、この説明は任意の時刻に適用できるものであり、したがって、ある時刻t1と、微小時間Δt後の時刻t2の仮位置合わせ各々に適用できる。
【0034】
次に、空撮画像メモリ102A内の仮位置合わせされた空撮画像から、車両200を検出する処理があるが、その説明の前に、画像表示手段303上の車両200の色彩範囲を色彩決定手段311で決定する処理があるので、この処理について説明する。
色彩メモリ204A内の被写体のほとんどは車両200の単色の屋根である。一般に色彩メモリ204A内の被写体の色彩は、画素ごとに図7(a)の三次元色彩空間600内の色彩ベクトル601で表わされ、色彩の3原色の赤(R)、緑(G)、青(B)成分でC(r,g,b)として表わす。したがって、色彩メモリ204A内の車両の屋根の色彩を含む色彩情報を色彩決定手段311に入力して、色彩ベクトル601の分布の平均値をとることにより、車両200の色彩はC0(r0,g0,b0)のように表わされる。また、ばらつきの範囲として、α1、α2を定数として、
r<r0−α1=r1、かつ r0+α2=r2<r (20)
の範囲を該当車両200の色彩ベクトルの赤(R)成分の範囲とし、同様に、
g<g0−α1=g1、かつ g0+α2=g2<g (21)
b<b0−α1=b1、かつ b0+α2=b2<b (22)
を、該当車両200の色彩ベクトルの緑(G)成分と青成分(B)の範囲とする。
【0035】
また、このr,g,bの範囲ではベクトルの向きで表現される色相に差が出るので、β、γ1、γ2を定数として、
tanγ<tan(r0/g0−β)=tanγ1、かつ tan(r0/g0+β)=tanγ2<tanγ (23)
という制限を設け、また同様にb0/r0、g0/b0の値についても
tanγ<tan(b0/r0−β)=tanγ1、かつ tan(b0/r0+β)=tanγ2<tanγ (24)
tanγ<tan(g0/b0−β)=tanγ1、かつ tan(g0/b0+β)=tanγ2<tanγ (25)
という制限を設けて、
論理式=式(20)、かつ式(21)、かつ式(22)、かつ式(23)、かつ式(24)、かつ式(25) (26)
において、論理式(26)が成り立つ範囲内の色彩ベクトルを該当車両200の屋根の色と定義する。
以上のようにして色彩決定手段311では、画素の色ベクトルに対して、該当車両200の屋根の色とすべき色彩ベクトル601の範囲を決定する。
【0036】
色彩物検出手段304では、空撮画像メモリ102A内の仮位置合わせされた空撮画像の中から車両200と同じ色彩範囲を持つ色彩物を検出する処理を行う。この処理について説明する。
時刻同期手段301で指定された時刻(t1ないしt2)の空撮画像が空撮画像メモリ102Aから色彩物検出手段304に出力される。色彩物検出手段304では、画素単位に論理式(26)を適用し、成り立つ範囲の画素の値を1(黒)、成り立たない範囲の画素の値を0(白)とする。この結果、図8に示すように、該当の色の車両200を構成するところは値1の画素が集まる。そこで、画像処理上の画素に関するノイズの影響をなくすため、この値1の画素を上下左右、斜め上下左右の8近傍を連結して車両候補Aとする。なお、色彩物検出手段304は、現在位置記録手段201を持たないため、同じ色彩を持つ非該当車両があった場合でも同様の処理をするので、車両候補Bも得られることになる。次に、車両候補A,Bについて、画像処理的に、その上下の中心、左右の中心をとって、車両候補A,Bの重心506A,506Bを得る。図9に示すように、この車両候補A重心506Aの表示座標空間503上の位置を基に、地理座標空間510上の位置を仮位置合わせ手段302で合わせて、緯度・経度を(Au,Av)とする。同様に車両候補B重心505Bの表示座標空間503上の位置を基に、地理座標空間510上の位置を合わせて、緯度・経度を(Bu,Bv)とする。
【0037】
次に、車両位置決定手段305により、表示座標503上の車両200の位置を決定する。
もともと車両200の位置は、現在位置記録手段201で、緯度・経度座標で記録されており、位置合わせ計算手段300内では現在位置メモリ202Aに地理座標空間510上の緯度・経度として記録されている。車両位置決定手段305では、時刻同期手段301を通して同期をとった時刻(t1ないしt2)における車両200の位置を現在位置メモリ202A内から探索し、この位置に車両200を表わす記号を付けて、図9のように、画像表示手段303上に車両候補現在位置518として、すでに表示されている車両候補A,Bの重心506A,506Bと共に表示する。
【0038】
さまざまな要因により、同一車両200に対しても、車両候補A重心506Aと車両候補現在位置518とは重ならないことが多い。この理由は、空撮情報検出手段103の検出精度、現在位置記録手段201の検出精度の双方に誤差が含まれているためである。この誤差について考察すると、車両200の位置の精度は、車両候補現在位置518においては、現在位置記録手段201の精度にのみ由来するが、現在位置記録手段201では、車両の走行程度の移動物体に対する位置の精度を、既出のGPS装置に対して次の手段で補正することができる。その手段としては、いわゆるディファレンシャルGPS装置などの地上のGPS基地局との交信で行なう手段、車速パルスやジャイロによる補正を行なう手段、地図上を車両が走行していることを前提として現在位置を道路上にもってくるマップマッチング手段などがある。これらを適用することで、現在の技術水準で5m程度以内の誤差を達成している。
【0039】
これに対し、航空機100からの計測を基にした車両候補A重心506Aの場合、空撮情報検出手段103を構成するGPS装置の誤差、慣性航法装置の誤差、カメラの光軸と計測装置との角度の誤差、さらには地表面の対地高度を0として計算してきたことに対し、実際の空撮対象領域501の四隅や車両200の高度が、対地高度の基準からずれていることからの誤差、色彩決定手段311での色彩抽出の誤差などがある。したがって、車両位置決定手段305においては、車両200に由来する車両候補現在位置518を地理座標空間510上の正しい位置とみなし、航空機100に由来する車両候補A重心506Aを誤差があるものとして扱う。ただし、画像上は車両候補A重心506Aが実際の車両200を表示座標空間503上で表わしているものとみなす。
【0040】
図8、図9では説明の簡略化のため、空撮対象領域501内の特定の車両200が1台で、非対象車両も1台とした例を示したが、実際には複数の特定車両、複数の非対象車両が存在することもあるので、これに対処するために複数時点の車両位置を用いて、車両位置決定手段305は車両200の位置を決定する。
なお、時速360kmの航空機は1秒に移動するのは100m、時速36kmの車両は1秒に移動するのは10mであり、1秒ごとに空撮を行なえば、航空機と車両とが逆方向に移動していたとしても離れる距離は120mであり、空撮対象領域のかなりの部分を重ねることができる。したがって、複数時点として、微小時間Δtの間隔を1秒ないし2秒とおいた空撮画像を用いることは実用上問題がない。また、ヘリコプターを車両とほぼ同期して飛行させるという使い方では、空撮対象領域は車両の速度に応じて変化するので問題がない。
【0041】
車両位置決定手段305は、時刻t1において、図10のように、車両候補A重心506A、車両候補B重心506B、車両候補現在位置518を画像表示手段303に表示すると共に、その時刻t1から微小時間後の時刻t2における後時刻車両候補A重心526A、後時刻車両候補B重心526B、車両候補後時刻位置528を表示する。なお、時刻t2においては、空撮対象領域501も移動しているが、これは元の時刻t1の空撮対象領域501に合わせて表示するものとする。このとき、車両候補現在位置518からは、車両候補A重心506A、車両候補B重心506Bがほぼ等しい距離にあり、どちらが本来の車両200の位置であるか判定できにくくなる。その場合でも、時刻t2の表示の場合、車両候補後時刻位置528からの車両候補A重心526A、車両候補B重心526Bの距離を判定した場合、距離の近い後時刻車両候補A重心526A側を該当車両200とみなすことができる。このように、移動している車両200の移動情報を用いることにより、車両位置決定手段305は該当車両200を識別することができる。
【0042】
さらに、空撮対象領域501内に現在位置記録手段201を持った複数の車両200がいる場合には、前述の処理で1台ごとに該当車両の位置を確定させたあと、全車両候補走行位置の重心をもって仮想的な車両の走行位置とし、全車両の車両候補A重心をもって仮想的な車両候補の重心とする。
以上の処理により、車両位置決定手段305は、車両200の地理座標空間510上の位置と表示座標空間503上との位置を決定する。
なお、車両候補現在位置518より一定の距離のしきい値以内に車両候補重心が見出されない場合は、次に示す精密位置合わせ手段306による補正を行なわず、仮位置合わせ手段302の値を位置合わせに用い、「位置補正なし」との付加情報をつけて出力する。
【0043】
次に、精密位置合わせ手段306では、図9に示すように、表示座標空間503上の該当車両の車両候補A重心506Aの位置を地理座標空間510で表わした時の座標値(Au,Av)を正として、車両候補現在位置518を地理座標空間510で表わした時の座標値(Zu,Zv)を、誤差があるものとして補正する。具体的には、空撮対象領域501の四隅、すなわち左上端E、右上端F、左下端G、右下端Hの地理座標空間510による座標を、各々、仮位置合わせ手段302で得たものに対して(Au−Zu,Av−Zv)を加えることによって補正して、精密な位置座標を得る。
【0044】
このようにして、位置合わせ計算手段300は、画像空撮手段101が撮影した空撮対象領域501の四隅の座標を、空撮情報検出手段103から算出される地理座標空間510上の位置を基にして、車両200の現在位置記録手段201が指し示す位置で補正して出力するものである。空撮対象領域501の四隅の座標が算出されれば、空撮対象領域501内の任意の着目点Rの座標が、図6で説明される補間方式により再度、位置合わせ後の座標値によって算出されるので、該当空撮対象領域501全体について、位置が確定し、位置合わせが終了する。
【0045】
以上のように、この実施の形態1によれば、仮位置合わせ手段302により、空撮情報検出手段103で得られた空撮情報に含まれる空撮画像の取得位置とカメラの姿勢データに基づいて、対応する空撮対象領域の位置を算出する仮位置合わせを行い、色彩決定手段311で、色彩入力手段203から入力された色彩情報に基づいて色彩ベクトルの分布の平均値をとることにより特定車両200の色彩範囲を決定し、色彩物検出手段304で、仮位置合わせされた空撮画像の中から特定車両200の色彩範囲と同じ色彩物を検出し、車両位置決定手段305において、色彩物検出手段304で検出された色彩物の位置の中から現在位置記録手段201の車両の位置情報にある対応する時刻の特定車両の位置に近いと想定される色彩物の位置を空撮画像上の特定車両の位置と決定し、当該決定された空撮画像上の特定車両の位置と対応する時刻の特定車両の位置に基づいて、上記仮位置合わせされた空撮対象領域の四隅の位置を補正するようにしている。したがって、空撮画像中の地物の濃淡の不変度が保証されない場合、また事前にほぼ同一領域を撮影したデータを持っていない場合にも空撮画像の位置合わせを精度よく行うことができる。
上記例では、空撮画像の位置を地理座標上で確定する位置合わせまでを説明してきた。この位置合わせ後の画像については、地図ないし既存の過去の位置合わせ済み空撮画像などと隣接して表示し、あるいは重畳して表示することにより、地図補正の原材料とすることや、地表の変化を求めるという技術に応用することが可能である。
【0046】
なお、上記例では、画像空撮手段101は航空機に搭載しているとして説明してきたが、この画像空撮手段101は人工衛星などの上空を移動する移動体に搭載したものであってもよい。また、例えば車両に気球を搭載して移動し、車両上ないし車両脇の停車地から気球を打ち上げて空撮を行なうようにしたものであってもよい。
また、上記例では、現在位置記録手段201は地上を走行する車両に搭載していると説明してきたが、代わって、移動する人物、落下させたパラシュート、航行する船舶に保持または搭載してもよい。あるいは、位置が固定している建物あるいは電子基準点でもよい。ただし、撮影した画像で該当の色彩の画素が複数並ぶように、人物やパラシュートの場合は特定の色彩の板、布などを広げるように設定するとよい。また、建物の場合は、同一色の屋根が相当広い面積を占めるため、該当色彩物の重心を求めるだけでは位置の誤差が生じる可能性がある。そのため、現在位置メモリ202に、例えば建物の北端の位置と色彩を格納し、色彩物検出手段304としては該当の色彩領域の北端の位置を検出するように構成することが有効である。
【0047】
また、上記例では、色彩入力手段203は該当の車両200を撮影した画像を用いるとして説明してきたが、これに代わって、事前に車両の塗料見本の画像を入力すること、あるいは事前に車両の塗料の情報などをもとに数値的に色彩ベクトルの範囲を入力することも可能である。また、色彩決定手段311は可視スペクトル内の色彩ベクトルから該当車両を色彩により判別するとして説明したが、空撮の際に車両の屋根の色に合わせた特定スペクトルでの撮影を行なうことも可能である。
また、上記例では、車両200の屋根の色は単色として説明してきたが、類似の屋根の色を持つ車両との区別を明瞭にするため、大型トラックの幌などを2色に塗り分け、該当の2色を色彩物検出手段304で検出するように構成してもよい。
また、上記例では、色彩情報を取得するのは自車両の屋根のみとして説明してきたが、車両200の屋根に、他の車両の屋根乃至地面を撮影するデジタルカメラをおき、当該カメラの中央部に映る他の物体(車両の屋根乃至地面)の色彩を記録し、また当該カメラの視線方向を車両上のジャイロなどで記録することにより、デジタルカメラの中央部に映る物体の位置を推測することにより、車両の前後の色彩物を基にした位置計測を行なって、精密位置合わせの精度を上げることができる。
【0048】
また、上記例では、地上の位置は移動する車両の位置を用いるために、画像空撮手段101と車両の現在位置記録手段201との時刻の同期を条件として説明してきた。前述のように、地上の位置を時刻変動のない建物の屋根をもとに求めることも可能である。この場合、該当の建物の位置の把握は空撮より前に行なったものでもよい。また、空撮の後、画像表示手段303に表示されている建物や特異な色彩の物体を見つけて、そこへGPS受信機などを持参して位置を把握してもよい。
また、上記例では、航空機100で得た空撮画像メモリ102と空撮情報メモリ104の内容を、それぞれ位置合わせ計算手段300内の同機能のメモリ102A,104Aに移し、また車両で得た現在位置メモリ202、色彩メモリ204の内容を位置合わせ計算手段内300の同機能のメモリ202A,204Aに移し、その上で位置合わせを行なうと説明してきた。この構成に対して、航空機100の取得情報を直接無線で位置合わせ計算手段300に送るようにしてもよく、そうすれば航空機側における空撮画像メモリ102や空撮情報メモリ104を省略することができる。同様に、車両200の取得情報も直接無線で位置合わせ計算手段300に送るようにすれば、車両側の現在位置メモリ202や色彩メモリ204も省略することができる。
【0049】
実施の形態2.
この実施の形態2では、センサから電波(レーザ光を含む)を地上に照射し、地上の反射波から得られる電波画像を空撮画像(以下、空撮電波画像とする)に生成し、この空撮電波画像の空撮対称領域の位置を、被写体中の地物の三次元形状を基に位置合わせする空撮画像の位置合わせ装置について説明する。
図11は、この発明の実施の形態2による空撮画像の位置合わせ装置の機能構成を示すブロック図である。図において、図1に相当する機能部分には同一符号を付す。
航空機100内には、空撮情報検出手段103、空撮情報メモリ104、電波画像空撮手段111、空撮電波画像メモリ112、電波画像位置決め手段115が備えられている。
電波画像空撮手段111は、上空を移動する機体に搭載され、レーザレーダ(LIDARとも称する)や干渉合成開口レーダ(ISARとも称する)などのセンサにより所定の時間間隔で電波を照射して地表の空撮対象領域を撮影して地表の位置・高度を含むそれぞれの空撮電波画像を得る手段である。空撮情報検出手段103は、上記実施の形態1と同様で、電波画像空撮手段111による撮影の時刻、その時のセンサの位置(緯度・経度)およびセンサの姿勢データを取得し空撮情報として付属の空撮情報メモリ104に格納すると共に、空撮情報を電波画像位置決め手段115にも与える手段である。電波画像位置決め手段115は、電波画像空撮手段111で取得した空撮電波画像に対して、空撮情報検出手段103の空撮情報に基づいて、地上の地点の緯度、経度、標高の座標で位置決めした空撮電波画像を生成して付属の空撮電波画像メモリ112へ格納する手段である。
【0050】
車両200内には、現在位置記録手段201、現在位置メモリ202、三次元地上計測手段213、地上形状メモリ214、地上形状位置決め手段215が備えられている。
現在位置記録手段201および現在位置メモリ202は、上記実施の形態1と同じ機能を持つ。なお、現在位置記録手段201は、記録した車両の位置情報を地上形状位置決め手段215にも与える。三次元地上計測手段213は、車両200に搭載した例えばレーザ距離計で、車両200と当該車両の側面にある道路、斜面、建物の壁面などの地物の三次元形状物との距離を計測し車両側方計測情報(距離データ)として取得する手段である。地上形状位置決め手段215は、現在位置記録手段201の車両の位置情報と三次元地上計測手段213の車両側方計測情報に基づいて、車両位置の取得時刻に対応して車両100の側面方向に存在する地上形状物である地物の位置・標高・地物度合い判定値を算出し、地上形状位置情報として付属の地上形状メモリ214に格納する手段である。ここで、地上形状位置決め手段215は、地上形状位置情報として、車両の側面から照射されレーザの反射点の座標(u,v,t、f)(uは緯度、vは経度、tは標高、fはフラグ)を算出するが、反射点が垂直の壁面上にあった場合、同一の緯度・経度に異なる標高の点が重なるので、反射点の座標としては最大の標高の点のみ出力し、地物度合い判定値としてフラグをf=1と設定する。また、レーザの到達範囲は限界があるので、その限界点に達しても反射がない場合は、該当限界点を反射点とみなし、反射点の標高を車両200の標高より低いと判断し、車両自身の標高値を限界点の標高として出力し、フラグをf=−1と設定する。また、これらの二つの場合を除いた反射点のフラグをf=0と設定する。
【0051】
位置合わせ計算手段300は、例えば汎用のコンピュータ、入出力装置、記憶装置および位置合わせプログラムから構成することができるもので、空撮情報メモリ104A、空撮電波画像メモリ112A、現在位置メモリ202A、地上形状メモリ214A、時刻同期手段301、仮位置合わせ手段302、画像表示手段303、車両位置決定手段305、精密位置合わせ手段306を備えている。
空撮情報メモリ104A、空撮電波画像メモリ112A、現在位置メモリ202A、地上形状メモリ214Aは、航空機100側および車両200側にある同名称のメモリ内のデータを移して格納するメモリである。
仮位置合わせ手段302は、実施の形態1の場合と同様で、空撮情報検出手段103で得られた空撮情報に含まれる空撮電波画像の取得位置とセンサの姿勢データに基づいて、対応する空撮対象領域の四隅の位置を算出する仮位置合わせを行う手段である。車両位置決定手段305は、地上形状位置決め手段215で算出された地上形状位置情報に含まれる地物の標高と仮位置合わせされた空撮電波画像上における地上の地点の標高との差が最小となる場合の地物の位置を空撮電波画像上の特定車両の位置と決定する手段である。精密位置合わせ手段306は、車両位置決定手段305で決定された空撮画像上の特定車両の位置と対応する時刻の車両200の位置に基づいて、仮位置合わせされた空撮対象領域の四隅の位置を補正する手段である。
【0052】
図12はこの発明の実施の形態2に係る三次元形状空間を表す模式図である。
図12(a)は、航空機100から得られる三次元形状空間700の例であり、地上を二次元平面とみなしておかれた仮想格子701の上に、電波画像位置決め手段115で生成された高度に応じた空撮電波画像上の点702を表している。これら空撮電波画像の点702の位置は、座標(U,V,T)(Uは緯度、Vは経度、Tは標高)で表わされる。一方、図12(b)は、車両200から得られる三次元形状空間700の例であり、車両の側面の鉛直状に広がる二次元平面におかれた仮想格子701の上に、地上形状位置決め手段215で得られた車両からの距離に応じた地上形状の点712が存在している様子を表している。これら地上形状の点712の位置は、フラグを含み、座標(u,v,t,f)(uは緯度、vは経度、tは標高,fはフラグ)で表わされる。フラグf=1は、該当の地上形状の点712の標高が、与えられた標高以上であることを示し、フラグf=−1は、該当の地上形状の点712の標高が、与えられた標高以下であることを示し、またフラグf=0は、該当の地上形状の点712の標高が、与えられた標高値そのものであることを示す。
【0053】
次に、動作について説明する。
電波画像空撮手段111は、進路方向500に進む航空機100に搭載されていて地上の空撮対象領域501を撮影し、進路方向500を画面上部とする三次元デジタルの電波画像を取得する。現行の技術では、地上における水平方向の間隔として例えば40cm、鉛直方向の解像度として10cmの三次元データが得られる。この三次元データに対して、水平方向の絶対値を、実施の形態1と同様に空撮情報検出手段103により取得し、電波画像位置決め手段115で位置決めすることにより、図12(a)に示すような空撮電波画像の点702の集まりを得て、これを空撮電波画像メモリ112に格納する。
【0054】
位置合わせ計算手段300において、航空機100における撮影後、空撮電波画像が空撮電波画像メモリ112から空撮電波画像メモリ112Aに移され、また空撮情報が空撮情報メモリ104から空撮情報メモリ104Aに移される。
次に、仮位置合わせ手段302では、時刻同期手段301の指示する時刻に従って、空撮情報メモリ104Aの空撮情報に含まれる空撮画像の取得位置とセンサの姿勢データに基づいて、空撮電波画像メモリ112A内にある空撮電波画像の空撮対象領域501の四隅の位置(緯度・経度)を、ある程度の誤差を許容して算出する仮位置合わせを行う。仮位置合わせ手段302内の詳細な処理は、実施の形態1の場合と同様であるので、ここでは説明を省略する。この結果の、誤差を含みつつも、地理座標が付された空撮電波画像は、空撮電波画像メモリ112Aに入力され保持される。
【0055】
一方、車両200内においては、現在位置記録手段201が、実施の形態1と同様にGPS受信機によって、走行中の車両の位置・時刻を検出し車両の位置情報として現在位置メモリ202に格納する。三次元地上計測手段213では、車両200の側面方向にレーザを照射し、その反射波から車両200の側面ある建物の壁面や崖など三次元形状の地物との距離を測定し車両側方計測情報として地上形状位置決め手段215に出力する。この測定結果は三次元地上計測手段213からの相対値である。そのため、地上形状位置決め手段215では、車両側方計測情報に対して現在位置記録手段201で取得された車両の位置情報(緯度・経度)を加え、車両200の側面方向の各測定距離の地理座標上における位置を算出する。また、この際に、三次元形状の地物がどのようなレベルのものであるかを判定し、フラグで表す地物度合い判定値を算出する。結果、図12(b)に示すような地上形状の点712の集まり(地物の位置・標高・地物度合い判定値からなる地上形状位置情報)を収集して、これを地上形状メモリ214に格納する。
車両200の走行後に、この地上形状メモリ214の内容は位置合わせ計算手段300側の地上形状メモリ214Aに移されて保持され、また、現在位置メモリ202から車両の位置情報も現在位置メモリ202Aに移されて保持される。
【0056】
次に、位置合わせ計算手段300内において、車両位置決定手段305は、地上形状メモリ214Aに格納されている地上形状位置情報に含まれる地物度合い判定値に応じた地物の標高と空撮電波画像メモリ112Aに格納されている空撮電波画像上における地上の地点の標高との差が最小となる場合の地物の位置を空撮電波画像上の特定車両の位置として求める。具体的には、時刻同期手段301の指示する時刻について、地上形状メモリ214A内にある地上形状の点712の集合が、空撮電波画像メモリ112A内のどこに相当するかを検出する。この処理を行うのは、実施の形態1で説明したように、航空機100側からの計測の誤差により、同じ地理座標を用いていても、空撮電波画像メモリ112A内の空撮電波画像の点702と地上形状の点712が重ならないからである。
【0057】
もとより、図12に示された空撮電波画像の点702は緯度・経度的に離散的に存在し、地上形状の点712も緯度・経度的に離散的に存在する。そのため、車両位置決定手段305では、まず、緯度・経度上の誤差がないと仮定して、地上形状の点712のある緯度・経度における空撮電波画像の標高を、地上形状の点712を囲む空撮電波画像の点702からの内分比で算出する。ただし、地上形状の点712の標高の範囲は限られていることに鑑み、算出された値が地上形状の点712のフラグがf=1ないしf=−1のときは、地上形状の点712の標高を空撮電波画像の該当点の標高とする。車両位置決定手段305では、この計算を、地上形状メモリ214A上の各点で行い、空撮電波画像の点702の標高と三次元形状空間700の標高の差の平均二乗誤差を求める。この平均二乗誤差を最小にする位置(ただし、複数あるときは、もとの位置にもっとも近い位置)をもって、車両200の位置と空撮電波画像の位置とを確定させる。時刻同期手段301により、この処理を時刻t1、t2、…について行なうことにより、車両200の位置を精度よく算出することができる。
【0058】
精密位置合わせ手段306は、実施の形態1と同様に、車両位置決定手段305で決定された空撮画像上の特定車両の位置と対応する時刻の車両200の位置に基づいて、仮位置合わせされた空撮対象領域の四隅の位置を補正し、精密な位置座標を得る。
以上のようにして、位置合わせ計算手段300は、電波画像空撮手段111で撮影した空撮対象領域501の四隅の座標を、空撮情報検出手段103から算出される地理座標空間510上の位置を基にして、車両200の現在位置記録手段201が指し示す位置で補正して出力する。空撮対象領域501の四隅の座標が算出されれば、実施の形態1と同様に、空撮対象領域501内の任意の着目点Rの座標が、図6で説明される補間方式により再度、位置合わせ後の座標値によって算出されるので、該当空撮対象領域501全体について、位置が確定し、位置合わせは終了する。
【0059】
以上のように、この実施の形態2によれば、位置合わせ計算手段300内において、仮位置合わせ手段302により、空撮情報検出手段103で得られた空撮情報に含まれる空撮電波画像の取得位置とセンサの姿勢データに基づいて、対応する空撮対象領域の四隅の位置を算出する仮位置合わせを行い、車両位置決定手段305により、地上形状位置決め手段215で算出された地上形状位置情報に含まれる地物度合い判定値に応じた地物の標高と仮位置合わせされた空撮電波画像上における地上の地点の標高との差が最小となる場合の地物の位置を空撮電波画像上の特定車両の位置として算出し、精密位置合わせ手段306で、上記算出された空撮画像上の特定車両の位置と対応する時刻の特定車両の位置に基づいて、前記仮位置合わせされた空撮対象領域の四隅の位置を補正するようにしたので、実施の形態1と同様、空撮電波画像中の地物の濃淡の不変度が保証されない場合、また事前にほぼ同一領域を撮影したデータを持っていない場合にも空撮電波画像の位置合わせを精度よく行うことができる。
上記例では、空撮電波画像の位置を地理座標上で確定する位置合わせまでを説明してきた。この位置合わせ後の画像については、地図ないし既存の過去の位置合わせ済み空撮電波画像などと隣接して表示し、あるいは重畳して表示することにより、地図補正の原材料とすることや、地表の変化を求めるという技術に応用することが可能である。
【0060】
なお、上記例では、電波画像空撮手段111は航空機に搭載しているとして説明してきたが、この電波画像空撮手段111は人工衛星などの上空を移動する移動体に搭載したものであってもよい。また、例えば車両に気球を搭載して移動し、車両上ないし車両脇の停車地から気球を打ち上げて空撮を行なうようにしたものであってもよい。
また、上記例では、現在位置記録手段201は地上を走行する車両に搭載していると説明してきたが、代わって、移動する人物、落下させたパラシュート、航行する船舶に保持または搭載してもよい。あるいは、位置が固定している建物あるいは電子基準点でもよい。
【0061】
また、上記例では、航空機100で得た空撮電波画像メモリ112と空撮情報メモリ104の内容を、それぞれ位置合わせ計算手段300内の同機能のメモリ112A,104Aに移し、また車両で得た現在位置メモリ202、地上形状メモリ214の内容を、それぞれ位置合わせ計算手段300内の同機能のメモリ202A,214Aに移し、その上で位置合わせを行なうと説明してきた。この構成に対して、無線で直接航空機100から取得情報を位置合わせ計算手段300に送るようにしてもよく、そうすれば航空機側における空撮電波画像メモリ112や空撮情報メモリ104を省略することができる。同様に、取得情報を無線で車両から位置合わせ計算手段300に送るようにすれば、車両側の現在位置メモリ202や地上形状メモリ214も省略することができる。
【図面の簡単な説明】
【0062】
【図1】この発明の実施の形態1による空撮画像の位置合わせ装置の機能構成を示すブロック図である。
【図2】この発明の実施の形態1に係る空撮状況を表わす模式図である。
【図3】同実施の形態1に係る航空機、進路、空撮対象領域などを地理座標空間に対応させて表した模式図である。
【図4】同実施の形態1に係る空撮の撮影対象領域などとカメラの撮影範囲角の対応関係を示す説明図である。
【図5】同実施の形態1に係る空撮の撮影対象領域を地理座標空間上に示す説明図である。
【図6】同実施の形態1に係る仮位置合わせ後の空撮画像の表示座標空間と地理座標空間の対応関係を示す説明図である。
【図7】同実施の形態1に係る色彩決定手段で用いられる色彩決定の原理を示す説明図である。
【図8】同実施の形態1に係る画像表示手段に表示された空撮画像の例である。
【図9】同実施の形態1に係る画像表示手段に表示された車両候補位置とその誤差の例を示す説明図である。
【図10】図9の状態から微小時間経過後における車両候補位置とその誤差の例を示す説明図である。
【図11】この発明の実施の形態2による空撮画像の位置合わせ装置の機能構成を示すブロック図である。
【図12】この発明の実施の形態2に係る三次元形状空間を表す模式図である。
【符号の説明】
【0063】
100 航空機、101 画像空撮手段、102,102A 空撮画像メモリ、103 空撮情報検出手段、104,104A 空撮情報メモリ、111 電波画像空撮手段、112,112A 空撮電波画像メモリ、115 電波画像位置決め手段、200 車両、201 現在位置記録手段、202,202A 現在位置メモリ、203 色彩入力手段、204,204A 色彩メモリ、210 非該当車両、213 三次元地上計測手段、214,214A 地上形状メモリ、215 地上形状位置決め手段、300 位置合わせ計算手段、301 時刻同期手段、302 仮位置合わせ手段、303 画像表示手段、304 色彩物検出手段、305 車両位置決定手段、306 精密位置合わせ手段、311 色彩決定手段、500 進路方向、501 空撮対象領域、501B 空撮対象領域部分、503表示座標空間、506A 車両候補A重心、506B 車両候補B重心、510 地理座標空間、511 カメラからの鉛直ベクトル、512 カメラの視線ベクトル、518 車両候補現在位置、526A 後時刻車両候補A重心、526B 後時刻車両候補B重心、528 車両候補後時刻位置、600 三次元色彩空間、600A 二次元色彩空間、601 色彩ベクトル、700 三次元形状空間、701 仮想格子、702 空撮電波画像の点、712 地上形状の点、A,B 車両候補、ω 視線傾き角、φ 視線方向角、ρ 撮影範囲角、h 対地高度、R 着目点。

【特許請求の範囲】
【請求項1】
上空を移動する機体に搭載され、光学的カメラにより所定の時間間隔で地表の空撮対象領域を撮影してそれぞれの空撮画像を得る画像空撮手段と、
前記機体に搭載され、前記画像空撮手段による撮影の時刻、その時のカメラの位置、カメラの姿勢データを空撮情報として検出する空撮情報検出手段と、
前記画像空撮手段による撮影時に空撮対象領域内を移動する特定車両に搭載され、当該特定車両の現在位置と当該位置の取得時刻を取得し車両の位置情報として順次記録する現在位置記録手段と、
前記特定車両の屋根の色彩を含む色彩情報を予め入力保持する色彩入力手段と、
前記画像空撮手段で撮影時刻ごとに得られる空撮画像の空撮対象領域について前記空撮情報検出手段で取得された空撮情報に基づいて仮位置合わせを行い、前記仮位置合わせされた空撮画像の中から前記色彩情報に基づいて特定車両と同じ色彩を持つ色彩物を検出し、当該色彩物の位置の中から前記車両の位置情報の同時刻に対応する特定車両の位置に近い色彩物の位置を算出し、当該算出された色彩物の位置とこれに対応する特定車両の位置に基づいて前記仮位置合わせされた空撮対象領域の位置を補正する位置合わせ計算手段を備えたことを特徴とする空撮画像の位置合わせ装置。
【請求項2】
位置合わせ計算手段は、
空撮情報検出手段で得られた空撮情報に含まれる空撮画像の取得位置とカメラの姿勢データに基づいて、対応する空撮対象領域の四隅の位置を算出する仮位置合わせを行う仮位置合わせ手段と、
色彩入力手段で得られた色彩情報に基づいて色彩ベクトルの分布の平均値をとることにより特定車両の色彩範囲を決定する色彩決定手段と、
前記仮位置合わせされた空撮画像の中から前記特定車両の色彩範囲と同じ色彩物を検出する色彩物検出手段と、
前記色彩物検出手段で検出された前記色彩物の位置の中から車両の位置情報にある対応する時刻の特定車両の位置に近いと想定される色彩物の位置を空撮画像上の特定車両の位置と決定する車両位置決定手段と、
前記決定された空撮画像上の特定車両の位置と対応する時刻の特定車両の位置に基づいて、前記仮位置合わせされた空撮対象領域の四隅の位置を補正する精密位置合わせ手段を有することを特徴とする請求項1記載の空撮画像の位置合わせ装置。
【請求項3】
上空を移動する機体に搭載され、センサにより所定の時間間隔で電波を照射して地表の空撮対象領域を撮影して地表の位置・高度を含むそれぞれの空撮電波画像を得る電波画像空撮手段と、
前記機体に搭載され、前記電波画像空撮手段による撮影の時刻、その時のセンサの位置、センサの姿勢データを空撮情報として取得する空撮情報検出手段と、
前記機体に搭載され、前記電波画像空撮手段で取得した空撮電波画像に対して、前記空撮情報に基づいて、地上の地点の位置の緯度、経度、標高の位置座標で位置決めした空撮電波画像を生成する電波画像位置決め手段と、
前記電波画像空撮手段による撮影時に空撮対象領域内を移動する特定車両に搭載され、当該特定車両の現在位置と当該位置の取得時刻を取得し車両の位置情報として順次記録する現在位置記録手段と、
前記特定車両に搭載され、当該車両とその側面方向にある三次元形状物との距離を計測し車両側方計測情報として取得する三次元地上計測手段と、
前記特定車両に搭載され、前記車両の位置情報と前記車両側方計測情報に基づいて、前記車両位置の取得時刻に対応して前記特定車両の側面方向に存在する地上形状物である地物の位置・標高・地物度合い判定値を算出し、地上形状位置情報として格納する地上形状位置決め手段と、
前記電波画像空撮手段で撮影時刻ごとに得られる空撮電波画像の空撮対象領域について前記空撮情報検出手段で取得された前記空撮情報に基づいて仮位置合わせを行い、前記仮位置合わせされた空撮画像の中から前記地上形状位置情報にある地物度合い判定値に応じた地物の位置に近い地上形状物の位置を算出し、当該算出された地上形状物の位置とこれに対応する特定車両の位置に基づいて前記仮位置合わせされた空撮対象領域の位置を補正する位置合わせ計算手段を備えたことを特徴とする空撮画像の位置合わせ装置。
【請求項4】
位置合わせ計算手段は、
空撮情報検出手段で得られた空撮情報に含まれる空撮電波画像の取得位置とセンサの姿勢データに基づいて、対応する空撮対象領域の四隅の位置を算出する仮位置合わせを行う仮位置合わせ手段と、
地上形状位置情報に含まれる地物度合い判定値に応じた地物の標高と前記仮位置合わせされた空撮電波画像上における地上の地点の標高との差が最小となる場合の地物の位置を空撮電波画像上の特定車両の位置と決定する車両位置決定手段と、
前記決定された空撮画像上の特定車両の位置と対応する時刻の特定車両の位置に基づいて、前記仮位置合わせされた空撮対象領域の四隅の位置を補正する精密位置合わせ手段を有することを特徴とする請求項3記載の空撮画像の位置合わせ装置。
【請求項5】
上空を移動する機体に搭載された光学的カメラにより所定の時間間隔で地表の空撮対象領域を撮影してそれぞれ得られる空撮画像と、前記撮影の際に検出される撮影時刻、空撮画像の位置、カメラの姿勢データを含む空撮情報と、前記撮影時に空撮対象領域内を移動する特定車両において取得される当該特定車両の現在位置、当該位置の取得時刻を含む車両の位置情報と、前記特定車両の屋根の色彩を含む色彩情報とを入力とするコンピュータにインストールして空撮画像の位置合わせ処理を実行するプログラムであって、
指定された2つの時刻に取得された空撮画像の空撮対象領域について前記空撮情報に含まれる空撮画像の取得位置とカメラの姿勢データに基づいて各空撮対象領域の四隅の位置を算出する仮位置合わせを行い、
前記仮位置合わせした2つの時刻の空撮画像の中から前記色彩情報にある特定車両の色彩と同じ色彩物をそれぞれ検出し、
前記仮位置合わせした2つの時刻の空撮画像上で前記車両の位置情報にある対応する時刻の特定車両の位置と前記検出された色彩物の位置との距離をそれぞれ比較し、両時刻における距離さで変化が最も少ない色彩物の位置を空撮画像上の特定車両の位置と決定し、
当該決定された空撮画像上の特定車両の位置と対応する時刻の特定車両の位置との座標上の距離差を算出し、
当該座標上の距離差を前記仮位置合わせされた空撮対象領域の四隅の位置に加算することにより空撮対象領域を補正することを特徴とする空撮画像の位置合わせプログラム。
【請求項6】
色彩物の検出処理は、色彩情報に基づいて色彩ベクトルの分布の平均値をとることにより特定車両の色彩範囲を決定し、当該決定された色彩範囲と同じ色彩を持つ色彩物を検出するものであることを特徴とする請求項5記載の空撮画像の位置合わせプログラム。
【請求項7】
上空を移動する機体に搭載されたセンサから所定の時間間隔で電波を照射して地表の空撮対象領域を撮影してそれぞれ得られる地表の位置・高度を含む空撮電波画像と、前記撮影の際に検出される撮影時刻、空撮電波画像の位置、センサの姿勢データを含む空撮情報と、前記撮影時に空撮対象領域内を移動する特定車両において取得される当該特定車両の現在位置、当該位置の取得時刻を含む車両の位置情報と、前記特定車両で計測された側面方向に存在する三次元形状物である地物の位置・標高・地物度合い判定値、前記車両位置の取得時刻を含む地上形状位置情報とを入力とするコンピュータにインストールして空撮電波画像の位置合わせ処理を実行するプログラムであって、
撮影時刻ごとに得られる空撮電波画像の空撮対象領域について前記空撮情報に含まれる空撮電波画像の取得位置とセンサの姿勢データに基づいて空撮対象領域の四隅の位置を算出する仮位置合わせを行い、
地上形状位置情報に含まれる地物度合い判定値に応じた地物の標高と前記仮位置合わせされた空撮電波画像上における地上の地点の標高を比較し、標高差が最小となる場合の地物の位置を空撮画像上の特定車両の位置として算出し、
当該算出された空撮画像上の特定車両の位置と対応する時刻の特定車両の位置
との座標上の距離差を算出し、
当該座標上の距離差を前記仮位置合わせされた空撮対象領域の四隅の位置に加算することにより空撮対象領域を補正することを特徴とする空撮画像の位置合わせプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2009−122315(P2009−122315A)
【公開日】平成21年6月4日(2009.6.4)
【国際特許分類】
【出願番号】特願2007−295231(P2007−295231)
【出願日】平成19年11月14日(2007.11.14)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】