説明

画像取得装置

【課題】単独のカメラにてリアル画像と光スペクトル画像とを取得可能な画像取得装置を提供する。
【解決手段】光学特性変更部15と、対物レンズ47を含み、該対物レンズからの光を前記光学特性変更部へと導く光学系45と、前記光学特性変更部を介した光を受光する撮像素子52とを具備し、前記光学特性変更部は複数の分割部を有すると共に分割部の1つを選択的に光路に配置させる構成であり、前記分割部は前記光学系からの光から特定の波長を選択する第1領域と、前記光学系からの光の光学特性を変更させない第2領域とを有する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、測定対象物の光スペクトル特性、更にハイパースペクトル画像を取得する画像取得装置に関するものである。
【背景技術】
【0002】
測定対象物を写真測量する等して、測定対象物の3次元データを取得するのと同時に測定対象物の画像を取得し、画像付の3次元データを取得することが行われている。
【0003】
従来の3次元測定装置で得られる画像付の3次元データは、地図データ等に用いられており、使用者の視認性を高める等の効果が得られている。
【0004】
一方、得られるデータは測定対象物の3次元位置データであり、得られる情報としては測定対象物の3次元位置である。
【0005】
測定対象物について測定を行う場合、より多くの情報が得られることが望まれ、測定対象物の位置情報のみならず、測定対象物の性状についての情報が得られることが望ましく主に地理情報システム(GIS)で利用される。
【0006】
例えば、農作物の発育状態についての情報が得られれば、農作業について適切な判断、適切な処置が可能となり、或は地表に露出した鉱物の種類等が判断できれば、適切な土木工法の選択が可能となる等である。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2011−89895号公報
【特許文献2】特開2006−10376号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明は斯かる実情に鑑み、光スペクトル特性、特にハイパースペクトル画像を取得可能な画像取得装置を提供するものである。
【課題を解決するための手段】
【0009】
本発明は、光学特性変更部と、対物レンズを含み、該対物レンズからの光を前記光学特性変更部へと導く光学系と、前記光学特性変更部を介した光を受光する撮像素子とを具備し、前記光学特性変更部は複数の分割部を有すると共に分割部の1つを選択的に光路に配置させる構成であり、前記分割部は前記光学系からの光から特定の波長を選択する第1領域と、前記光学系からの光の光学特性を変更させない第2領域とを有する画像取得装置に係るものである。
【0010】
又本発明は、撮像制御装置を更に具備し、1つの分割部の前記第2領域を介して撮像された画像と、他の分割部の前記第2領域を介して撮像された画像との画像マッチングに基づき、前記1つの分割部の前記第1領域を介して撮像された画像と、前記他の分割部の前記第1領域を介して撮像された画像とを合成して光スペクトル合成画像を作成する画像取得装置に係るものである。
【0011】
又本発明は、光路に配置された絞りを更に具備し、該絞りは絞り孔を有し、前記絞りを移動させることで前記光学特性変更部により選択される波長が変化する画像取得装置に係るものである。
【0012】
又本発明は、前記光学特性変更部は、前記第1領域及び前記第2領域共に光学特性を変更させない更に他の分割部を更に具備する画像取得装置に係るものである。
【0013】
又本発明は、前記撮像制御装置は複数の分割部の前記第2領域を介して撮像された画像と、前記更に他の分割部を介して撮像された静止画像との画像マッチングに基づき、複数の分割部の前記第1領域を介して撮像された画像と、前記静止画像とを合成してハイパースペクトル画像を作成する画像取得装置に係るものである。
【0014】
更に又本発明は、地心座標の測定を行うGPS装置を更に具備し、前記撮像制御装置は第1地点で前記更に他の分割部を介して静止画像を取得すると共に、第1地点の静止画像から複数の特徴点を抽出し、第1地点から第2地点に移動中に前記更に他の分割部を介して時系列に連続するフレーム画像で構成される動画像を取得し、更に第1地点から第2地点に移動中の動画像により動画像トラッキングを行うと共に、第2地点で前記更に他の分割部を介して静止画像を取得し、第2地点の静止画像に前記特徴点を特定し、該特徴点に基づき第1地点の静止画像と第2地点の静止画像とをステレオマッチングすると共に、前記GPS装置により測定された第1地点及び第2地点の地心座標系の位置に基づき3次元モデルを形成し、又前記撮像制御装置は前記光スペクトル合成画像と前記3次元モデルとを合成し、3次元位置データと光スペクトル情報を有する4次元モデルを作成する画像取得装置に係るものである。
【発明の効果】
【0015】
本発明によれば、光学特性変更部と、対物レンズを含み、該対物レンズからの光を前記光学特性変更部へと導く光学系と、前記光学特性変更部を介した光を受光する撮像素子とを具備し、前記光学特性変更部は複数の分割部を有すると共に分割部の1つを選択的に光路に配置させる構成であり、前記分割部は前記光学系からの光から特定の波長を選択する第1領域と、前記光学系からの光の光学特性を変更させない第2領域とを有するので、前記光学特性変更部により1つのカメラで光学特性を変更させないリアル画像と、光学特性を変更させた光スペクトル画像の両方を同時に取得することができ、構造の簡易化及びコストの低減を図ることができる。
【0016】
又本発明によれば、撮像制御装置を更に具備し、1つの分割部の前記第2領域を介して撮像された画像と、他の分割部の前記第2領域を介して撮像された画像との画像マッチングに基づき、前記1つの分割部の前記第1領域を介して撮像された画像と、前記他の分割部の前記第1領域を介して撮像された画像とを合成して光スペクトル合成画像を作成するので、前記第2領域を介して撮像された画像間のマッチング条件をそのまま前記第1領域を介して撮像された画像に適用できる。
【0017】
又本発明によれば、光路に配置された絞りを更に具備し、該絞りは絞り孔を有し、前記絞りを移動させることで前記光学特性変更部により選択される波長が変化するので、該光学特性変更部を交換することなく所定の波長範囲に於ける光スペクトルを取得することができる。
【0018】
又本発明によれば、前記光学特性変更部は、前記第1領域及び前記第2領域共に光学特性を変更させない更に他の分割部を更に具備するので、光学特性を変更させないリアル画像のみの取得が可能となり、画像取得装置を移動させる際に容易に動画像トラッキングを行うことができる。
【0019】
又本発明によれば、前記撮像制御装置は複数の分割部の前記第2領域を介して撮像された画像と、前記更に他の分割部を介して撮像された静止画像との画像マッチングに基づき、複数の分割部の前記第1領域を介して撮像された画像と、前記静止画像とを合成してハイパースペクトル画像を作成するので、ハイパースペクトル画像を1つのカメラにて容易に取得することができる。
【0020】
更に又本発明によれば、地心座標の測定を行うGPS装置を更に具備し、前記撮像制御装置は第1地点で前記更に他の分割部を介して静止画像を取得すると共に、第1地点の静止画像から複数の特徴点を抽出し、第1地点から第2地点に移動中に前記更に他の分割部を介して時系列に連続するフレーム画像で構成される動画像を取得し、更に第1地点から第2地点に移動中の動画像により動画像トラッキングを行うと共に、第2地点で前記更に他の分割部を介して静止画像を取得し、第2地点の静止画像に前記特徴点を特定し、該特徴点に基づき第1地点の静止画像と第2地点の静止画像とをステレオマッチングすると共に、前記GPS装置により測定された第1地点及び第2地点の地心座標系の位置に基づき3次元モデルを形成し、又前記撮像制御装置は前記光スペクトル合成画像と前記3次元モデルとを合成し、3次元位置データと光スペクトル情報を有する4次元モデルを作成するので、4次元モデルが1つのカメラにて容易に取得可能となり、測定対象物の任意の3次元位置データと光スペクトル情報を簡単に得ることができるという優れた効果を発揮する。
【図面の簡単な説明】
【0021】
【図1】本発明に係る撮像装置が搭載された小型飛行体を示す概略図である。
【図2】本発明の第1の実施例に係る撮像装置のカメラ部及び撮像制御装置の概略構成図である。
【図3】第1の実施例に係る特性の異なる複数の透過干渉膜を備えた干渉フィルタの正面図である。
【図4】本発明の実施例に用いられる透過型の干渉フィルタを有するカメラの光学系を示す説明図であり、(A)は絞り孔が光軸と一致した状態を示し、(B)は絞り孔が光軸と離反した状態を示している。
【図5】入射角と透過するピーク波長の関係を示すグラフである。
【図6】干渉フィルタへの入射角に対応する波長透過特性を示すグラフである。
【図7】本実施例に於いて、ハイパースペクトル画像を取得する状態を示す説明図である。
【図8】ホバリング状態で画像を複数取得した場合の画像間の状態を示す説明図である。
【図9】本発明の第1の実施例の作用を説明するフローチャートである。
【図10】図9中のSTEP:03〜STEP:06の詳細を説明するフローチャートである。
【図11】本発明の第2の実施例に用いられるカメラで、反射式の干渉フィルタを有する光学系を示す説明図であり、(A)は絞り孔が光軸と一致した状態を示し、(B)は絞り孔が光軸と離反した状態を示している。
【図12】第2の実施例に於ける特性の異なる複数の反射干渉膜を備えた干渉フィルタの正面図である。
【図13】本発明の第2の実施例に用いられるカメラの変更例で、反射式の干渉フィルタを有する光学系を示す説明図であり、(A)は絞り孔が光軸と一致した状態を示し、(B)は絞り孔が光軸と離反した状態を示している。
【図14】本発明の第3の実施例に係る撮像装置のカメラ部及び撮像制御装置の概略構成図である。
【発明を実施するための形態】
【0022】
以下、図面を参照しつつ本発明の実施例を説明する。
【0023】
本発明の実施例に係る画像取得装置は、小型無人飛行体、例えば遠隔操作可能な小型ヘリコプタ或は自律飛行可能な小型ヘリコプタに搭載される。
【0024】
図1は、本実施例に係る画像取得装置を搭載した小型飛行体1を示している。
【0025】
図1中、2は地上に設置される基地制御装置である。該基地制御装置2は前記飛行体1とデータ通信が可能であり、該飛行体1の制御、飛行計画の設定、変更、前記飛行体1が収集した情報を保存、管理する。
【0026】
前記飛行体1は、例えば自律飛行する小型飛行体としてのヘリコプタである。該ヘリコプタ1は前記基地制御装置2から遠隔操作で操縦され、或は前記基地制御装置2から前記ヘリコプタ1の制御装置(図示せず)に飛行計画が設定され、該制御装置が航行手段(後述)を制御し、飛行計画に従って自律飛行する。又、制御装置は航行手段を制御し、前記ヘリコプタ1を所定の速度、所定の高度での飛行に制御すると共に、所定位置でホバリング(静止飛行状態)に制御することが可能である。
【0027】
前記ヘリコプタ1は、機体3、該機体3に設けられた所要数のプロペラ、例えば前後左右、計4組のプロペラ4,5,6,7を有し、該プロペラ4,5,6,7をそれぞれ個別にモータ(図示せず)に連結され、又該モータは独立して駆動が制御される様になっている。尚、前記プロペラ4,5,6,7及び前記モータ等は飛行体の航行手段を構成する。
【0028】
前記機体3には、前記ヘリコプタ1の基準位置(例えば前記機体3の中心)を測定するGPS装置9が設けられている。
【0029】
前記ヘリコプタ1の機体3には、撮像装置11が搭載されている。該撮像装置11は光軸12を有し、該光軸12は下方に延出し、前記撮像装置11は前記ヘリコプタ1の下方を撮像する様になっている。
【0030】
次に、図2により、本発明の第1の実施例に係る前記撮像装置11の概略構成を説明する。
【0031】
該撮像装置11は、カメラ部13及び撮像制御装置21を有し、該撮像制御装置21は前記カメラ部13が撮像した画像データ及び前記GPS装置9からの位置情報に基づき測定対象物の写真測量を行い、或は前記画像データと前記カメラ部13が取得した光スペクトル画像データの合成等の処理を行う。
【0032】
先ず、該カメラ部13について説明する。
【0033】
該カメラ部13は、カメラ14と、後述する光学特性変更部である干渉フィルタ15と、該干渉フィルタ15の切替え手段としてのモータ16とを具備している。前記カメラ14は前記光軸12上に設けられ、測定対象物のありのままの画像(リアル画像)と、光スペクトル画像を取得可能となっている。
【0034】
尚、前記カメラ14は測定箇所の画像を撮像し、デジタルの画像データを出力するものであり、静止画像を所定時間間隔で撮像できると共に、画像を連続的に撮像する動画像を撮像できる様になっている。
【0035】
又、前記カメラ14は、撮像素子17として、画素(ピクセル)の集合体であるCCD、或はCMOSセンサを有しており、前記撮像素子17の中心(受光面の座標中心)を前記光軸12が垂直に通過する様に該光軸12と前記撮像素子17との関係が設定されている。従って、前記撮像素子17の各画素は該撮像素子17上の位置(座標)が特定でき、更に各画素の画角(前記光軸12に対する角度)が分る様になっている。
【0036】
又、前記カメラ14は、前記光軸12上に設けられ一部に干渉膜が形成された干渉フィルタ15を有し、該干渉フィルタ15は回転可能に支持され、前記モータ16によって回転可能となっている。前記干渉フィルタ15は光学特性の異なる複数の分割部を有し、又各分割部は前記干渉膜が形成された領域を有すると共に、光学特性を有していない領域を有する。前記モータ16により前記干渉フィルタ15が回転されることで分割部が選択される。選択された分割部は前記カメラ14の光軸と合致し、光は選択された分割部を通過し、更に通過する分割部に応じて所定波長の光と全波長の光とが前記撮像素子17に同時に受光され、前記カメラ14によって所定波長の光スペクトル画像とリアル画像とが同時に取得される様になっている。
【0037】
次に、図3に於いて、前記干渉フィルタ15の詳細について説明する。
【0038】
該干渉フィルタ15は、透過型の干渉フィルタであり、図3で示す様に形状が円板であり、透過面が円周方向に所要角度に等分(図示では6等分)され、前記分割部は分割透過面60a〜60fとして形成されている。
【0039】
前記分割透過面60a〜60fの内、複数の分割部である分割透過面60a〜60eには、同心円状に第2領域、第1領域、第2領域がそれぞれ形成されている。前記第1領域には各分割透過面60a〜60e毎に選択波長λ1〜λ5の選択波長特性の異なる透過干渉膜が形成され、更に他の分割部である分割透過面60fは第1領域、第2領域(60f′,60f′′)共に光学特性を有さず、全ての波長を透過させる様になっている。
【0040】
例えば、第1領域に於いて、分割透過面60aには選択波長λ1が400nm〜450nm、分割透過面60bには選択波長λ2が450nm〜525nm、分割透過面60cには選択波長λ3が525nm〜650nm、分割透過面60dには選択波長λ4が650nm〜750nm、分割透過面60eには選択波長λ5が750nm〜870nmの透過干渉膜がそれぞれ形成される。
【0041】
又、前記分割透過面60a〜60eは、前記第1領域の外周側の外周部60a′〜60e′と内周側の内周部60a′′〜60e′′が前記第2領域となっており、これら第2領域は全ての波長を通過させる。前記干渉フィルタ15上に結像される結像58は、前記第2領域、前記第1領域、前記第2領域に掛渡り、前記結像58の外周側の一部が前記外周部60a′〜60e′,60f′にオーバラップし、内周側の一部が前記内周部60a′′〜60e′′,60f′′にオーバラップする様になっている。
【0042】
前記干渉フィルタ15を用いる場合、前記分割透過面60fを選択し、該分割透過面60fに光軸を合致させた場合は、波長選択されることなく全透過され、リアル画像データのみが取得される。又、前記分割透過面60a〜60eのいずれかが選択された場合、例えば分割透過面60eが選択された場合、前記結像58の内、分割透過面60eの透過干渉膜を透過する第1領域部58aは波長選択され、前記外周部60e′及び前記内周部60e′′を透過する第2領域部58b,58cは全透過され、前記第1領域部58aで得られる光スペクトル画像データと、前記第2領域部58b,58cであるリアル画像データとが一体となった混合画像データが取得される。
【0043】
尚、得たい光スペクトルの波長範囲が、400nm〜870nmに及ぶ時は、前記分割透過面60aから前記分割透過面60e迄、順次分割透過面を切替え、切替えられた分割透過面60毎に光スペクトル画像が取得される様になっている。
【0044】
而して、前記干渉フィルタ15の回転により、400nm〜870nm迄の範囲で波長が選択され、選択した波長毎に前記撮像素子17で画像が取得され、400nm〜870nmの範囲に於ける所定の光スペクトルを取得することができる。
【0045】
尚、得たい光スペクトルの波長に合わせて分割数を決定し、更に得たい光スペクトルの波長が限られている場合は、該当する選択波長特性を有する分割透過面を選択して光スペクトルを取得すればよい。
【0046】
又、上記干渉フィルタ15は円板とし、回転可能としたが、長矩形形状とし、干渉フィルタ15を長手方向に分割して、分割透過面を形成し、前記干渉フィルタ15を長手方向にスライドさせ、分割透過面の切替えを行ってもよい。
【0047】
次に、前記撮像制御装置21について説明する。
【0048】
該撮像制御装置21は、演算制御部(CPU)22、画像データ記録部23、カメラコントローラ24、カメラ制御部25、フィルタコントローラ26、スペクトルデータ記憶部27、画像合成部28、画像処理部29、特徴抽出部31、マッチング部32、測定部33、モデル画像形成部34、表示部35、記憶部36を具備している。
【0049】
前記カメラ制御部25は、前記カメラ14、前記干渉フィルタ15、絞り55を同期制御するものである。尚、該絞り55については後述する。前記フィルタコントローラ26は前記カメラ制御部25からの指令信号に基づき前記モータ16を駆動し、光束が前記干渉フィルタ15の所定の分割透過面を透過する様、該干渉フィルタ15を回転し、位置決めする。
【0050】
又、前記カメラコントローラ24は前記カメラ制御部25からの指令信号に基づき、前記撮像素子17から発せられる信号を取得する。光束が前記干渉フィルタ15の前記分割透過面60a〜60eを透過する場合には、透過する第1領域部58aと第2領域部58b,58cに応じて、取得された混合画像データをリアル画像データと、所定波長の光スペクトル画像データとに分離する。分離されたリアル画像データは撮像時間に関連付けて前記画像データ記録部23に格納され、光スペクトル画像データは撮像時間に関連付けて前記スペクトルデータ記憶部27に格納される。
【0051】
又、光束が前記干渉フィルタ15の前記分割透過面60fを透過する場合には、第1領域、第2領域共に全透過面であるので、リアル画像のみからなる静止画像データが取得される。取得された静止画像データは、撮像時間に関連付けて前記画像データ記録部23に格納される。
【0052】
前記画像合成部28は、前記画像データ記録部23に格納された第2領域のリアル画像データに基づき、前記スペクトルデータ記憶部27に格納された光スペクトル画像データを合成し、更に光スペクトル合成画像と前記静止画像を合成し、1つの画像の全ピクセル(画素)にスペクトル情報を有するハイパースペクトル画像を作成するものである。
【0053】
前記画像処理部29は前記特徴抽出部31、前記マッチング部32を具備し、1フレームの画像データから特徴点(パスポイント)を少なくとも5以上抽出し、時間的に異なる画像データ、或は異なる撮像位置から取得した画像データについて前記特徴点に基づき画像のトラッキング或はマッチングを行うものである。
【0054】
尚、画像トラッキング、画像マッチングについては、SSDA法(Sequential Similarity Detection Algorithm)、正規化相互相関法、最小2乗マッチング法等が用いられる。
【0055】
前記測定部33は、異なる撮像位置から前記カメラ14で取得した2つの画像データ及び撮像位置の位置データに基づき写真測量を実行するものである。
【0056】
前記モデル画像形成部34は、前記ハイパースペクトル画像に前記測定部33で測定した各画素の3次元データを関連付け、3次元データ+光スペクトル画像データの4次元データを有するモデル画像を形成する。
【0057】
前記記憶部36には、カメラ制御に必要なプログラム、モータ制御に必要なプログラム、画像データと光スペクトル画像データの合成に必要なプログラム、画像トラッキングする為のプログラム、画像処理に必要なプログラム、測定に必要なプログラム、モデル画像を形成する為に必要なプログラム、前記表示部35を制御する為のプログラム等の各種プログラムが格納されている。尚、前記記憶部36の一部に前記画像データ記録部23、前記スペクトルデータ記憶部27を形成してもよい。
【0058】
次に、本実施例で使用されるカメラ14の一例について、図4〜図6を参照して説明する。尚、以下に説明するカメラ14は、前記干渉フィルタ15の分割透過面60a〜60eで得られる光スペクトル間を更に細分化した光スペクトルが得られる様に構成されている。
【0059】
図4は、該カメラ14の光学系45と、該光学系45の光路に設けられた干渉フィルタ15を示している。
【0060】
図4中、46は該光学系45の光軸を示し、該光軸46上に対物レンズ47、第1リレーレンズ48、第2リレーレンズ49、第3リレーレンズ50、結像レンズ51、撮像素子52が配設されている。又、図4中、53は前記対物レンズ47によって結像された像を示し、又fは前記第2リレーレンズ49の焦点距離を示している。
【0061】
前記第1リレーレンズ48の前記第2リレーレンズ49側に絞り55が配設され、前記対物レンズ47、前記第1リレーレンズ48、前記第2リレーレンズ49、前記第3リレーレンズ50、前記結像レンズ51、前記撮像素子52、前記絞り55により前記光学系45が構成されている。
【0062】
該絞り55は、図中紙面に対して垂直な方向に延びるスリット状の絞り孔55aを有している。又、該絞り55は前記第2リレーレンズ49の物側焦点位置又は略物側焦点位置に配設され、該絞り55は前記光軸46に対して垂直な方向(前記絞り孔55aと直交する方向)に移動可能に支持され、前記絞り55はリニアモータ等の位置変位手段により適宜位置が変更される様になっている。
【0063】
ここで、前記絞り55、前記第2リレーレンズ49はテレセントリック光学系56を構成する。前記第1リレーレンズ48を透過した光束は、前記テレセントリック光学系56によって平行な多数の光束(主光線57)に分割される。
【0064】
該主光線57の集光位置(前記第2リレーレンズ49による結像位置、或は略結像位置)には、選択波長特性の異なる複数の透過型干渉膜が形成された透過式の干渉フィルタ15が配設される。該干渉フィルタ15は、回転軸59を中心として回転可能に支持され、更にモータ等の回転手段により回転可能となっている。又、前記干渉フィルタ15は波長選択フィルタとして機能し、前記干渉フィルタ15の干渉膜を透過した特定波長の光線が、前記第3リレーレンズ50及び前記結像レンズ51によって前記撮像素子52上に結像される。結像された像は、特定波長に形成され2次元の像となる。
【0065】
前記干渉フィルタ15は、該干渉フィルタ15に入射する光線の入射角によって選択波長特性が変化する性質を有する。図5は、入射角と透過するピーク波長の関係(ピーク波長の入射角依存性)を示しており、入射角を変化させることでピーク波長が変化していることが分る。
【0066】
又、図4(A)は、前記絞り55の前記絞り孔55aが前記光軸46上に位置しており、この場合前記主光線57は前記光軸46と平行となる。次に、図4(B)に示す様に前記絞り55を移動させた場合、例えば図示の様に、上方に移動させると、前記主光線57は前記光軸46に対して傾斜する。即ち、前記干渉フィルタ15に対する入射角が変化する。従って、前記絞り55を移動させることで前記干渉フィルタ15を透過する波長を変化させることが可能となる。
【0067】
例えば、図5を参照すれば、前記干渉フィルタ15に対する入射角を0゜〜50゜に変化させると、透過波長のピークは600nm〜520nmに変化する。即ち、前記干渉フィルタ15は、600nm〜520nmの波長選択範囲Wを有することになる。図6は、前記干渉フィルタ15への入射角に対応する波長透過特性を示しており、該干渉フィルタ15の角度を0°,10°,20°,30°,40°と変化させた場合に得られる光スペクトルの一例を示している。
【0068】
図4では、前記干渉フィルタ15を前記光軸46に対して傾斜させているが、図5に示される様に入射角依存性は入射角が10゜を超えた辺りからリニアとなる。従って、予め前記干渉フィルタ15を傾斜させておくことで、前記絞り55の変位に対する選択波長の変化が効果的に得られる。
【0069】
従って、前記絞り55を変位させる度に、前記撮像素子17より画像を取得し、又例えば図4の波長透過特性を有する干渉フィルタ15の分割透過面を前記主光線57の光路に配置することで、600nm〜520nmの波長範囲での光スペクトルを取得することができる。又、600nm〜520nmを超える波長範囲での光スペクトルを取得する場合は、前記主光線57の光路に異なる波長選択範囲W′を有する分割透過面が配置される様前記干渉フィルタ15を回転させればよい。上記の様に、該干渉フィルタ15に前記絞り55を組合わせることで、前記干渉フィルタ15自体で得られる光スペクトルを更に細分化した光スペクトルを得ることができる。
【0070】
以下、本実施例に於ける作動を図7、図8を参照して説明する。尚、以下では、カメラ14として、前記干渉フィルタ15を有する前記光学系45が用いられ、且つ前記カメラ14が飛行体であるヘリコプタ1に搭載された場合について説明している。
【0071】
ホバリング状態で画像を取得している状態では、前記カメラ14の姿勢は常に変動しており、完全に静止しているとは言えない。従って、各波長毎に取得した画像には、多少のズレがある。この為、前記スペクトルデータ記憶部27に格納された光スペクトル画像をそのまま合成すると、誤差が生じ、或はぼやける等の問題が生じる。
【0072】
図8は、ホバリング状態で、選択した波長がλ1,λ2,λ3,λ4の光スペクトル画像を取得している状態を示しており、図8(A)のS1は、撮像装置11が完全に静止している状態、S2はホバリング状態で撮像装置11が変動している状態を示している。又図8(B)は、前記撮像装置11が変動している状態で取得したλ1,λ2,λ3,λ4の光スペクトル画像を、時間的な経過に合わせて展開した図である。尚、図中、黒丸は前記第2領域である外周部60a′〜60e′及び内周部60a′′〜60e′′の透過領域を透過した像(リアル画像)から抽出した特徴点である。図8(A)、図8(B)から分る様に、画像をそのまま合成すると、各画像間で特徴点は合致せず、誤差が生じ、或はぼやけることが分る。
【0073】
従って、ホバリング状態で各波長毎に取得した光スペクトル画像を合成できる様に前記第2領域で特徴点をマッチング(相対的な位置合せ)する必要がある。
【0074】
本実施例では、前記干渉フィルタ15の回転により、前記主光線57を前記分割透過面60fに透過させることでリアル画像のみからなる静止画像が取得できると共に、前記主光線57を前記分割透過面60a〜60eに透過させることで光スペクトル画像が得られ、更に前記主光線57を前記外周部60a′〜60e′及び内周部60a′′〜60e′′の透過領域を透過したリアル画像も得られるので、これらが一体化された混合画像データを取得できる様になっている。
【0075】
先ず、前記ヘリコプタ1をO1 地点でホバリングさせ静止させた後、前記干渉フィルタ15を回転させ、分割透過面60fを選択する。その後、前記カメラ14により前記分割透過面60fを介してO1 地点で静止画像(左画像42)を取得し、又前記GPS装置9でO1 地点の位置の測定が行われる。取得された静止画像は前記画像データ記録部23に格納され、更に前記画像処理部29により前記静止画像の第2領域部58b,58c部分の画像データから、特徴点が少なくとも5以上(好ましくは多数)抽出される。
【0076】
O1 地点で静止画像を取得した後には、O1 地点で前記干渉フィルタ15を回転させ、分割透過面60a〜60eを順次切替える。又、各分割透過面で前記絞り55の位置を所定時間間隔毎に変位させ、該絞り55の位置変更毎に混合画像を取得し、前記第1領域部58aを透過した部分について、各分割透過面毎にλ1〜λnの光スペクトル画像を取得する。
【0077】
例えば、前記分割透過面60aを選択した場合には、λa1〜λanの光スペクトル画像が取得され、前記分割透過面60bを選択した場合には、λb1〜λbnの光スペクトル画像が取得され、前記分割透過面60cを選択した場合には、λc1〜λcnの光スペクトル画像が取得され、前記分割透過面60dを選択した場合には、λd1〜λdnの光スペクトル画像が取得され、前記分割透過面60eを選択した場合には、λe1〜λenの光スペクトル画像が取得される。
【0078】
上記した全ての光スペクトル画像を取得することで、全波長に於ける光スペクトル画像が取得される。光スペクトル画像の取得中、前記第2領域部58b,58cで得られたリアル画像より、少なくとも5の特徴点が抽出されており、該特徴点を基に時間的に隣接するリアル画像間のトラッキングが行われる。又、リアル画像の取得後、次のリアル画像を取得する迄に、両リアル画像間で光軸の傾き等が生じた場合は、両リアル画像間で特徴点に基づき座標変換が実行され、画像マッチングが行われる。
【0079】
尚、混合画像から分離されたリアル画像は撮像範囲が狭くなっているが、該リアル画像は静止状態に於ける撮像画像であるので、画像間の変位量は小さく、狭い範囲のリアル画像でのトラッキングが可能となっている。
【0080】
更に、混合画像から分離したリアル画像と光スペクトル画像は位置関係が常に一定であるので、リアル画像間で得られた条件はそのまま光スペクトル画像間のマッチングに適用することができる。
【0081】
而して、O1 地点の全波長に於ける光スペクトル画像を取得し、全リアル画像間でのトラッキングが終了すると、リアル画像のトラッキング情報を基に全ての各光スペクトル画像を誤差なく位置合せ及び合成することができる。
【0082】
又、光スペクトル合成画像とO1 地点の静止画像の前記第1領域部58aとを合成し、ハイパースペクトル画像を作成する。
【0083】
O1 地点からO2 地点へ移動を開始する際には、先ず前記干渉フィルタ15を回転し、前記分割透過面60fに切替える。前記干渉フィルタ15の切替え後、始めにO1 地点で取得した静止画像から、少なくとも5の特徴点を抽出し、O1 地点からO2 地点への移動を開始する。O1 地点からO2 地点への移動中、前記カメラ14により前記分割透過面60fを介して動画像(フレーム画像)が取得されており、抽出した特徴点を基に各フレーム画像のトラッキングを行う。前記分割透過面60fは全領域でリアル画像を取得できるので、大きな変位にも対応して画像トラッキングが可能である。
【0084】
O2 地点に到達すると、前記カメラ14により前記分割透過面60fを介してO2 地点での静止画像(右画像43)を取得し、前記GPS装置9により、O2 地点の位置測定が行われる。次に、前記画像処理部29により、O2 地点での静止画像に前記特徴点を少なくとも5つ特定し、該特徴点に基づきO1 地点での静止画像とO2 地点での静止画像についてマッチングを行う。更に前記測定部33により、O1 地点で取得した静止画像と、O2 地点で取得した静止画像、及び前記GPS装置9で測定したO1 地点、O2 地点の位置データにより写真測量を行い、各画素毎の3次元データを取得する。
【0085】
最後に、O1 地点で得た3次元データと、O1 地点で得たハイパースペクトル画像とを合成し、スペクトルデータを含む4次元画像を作成する。
【0086】
尚、上記ではO1 地点でハイパースペクトル画像を取得しているが、O2 地点に於いても、O1 地点と同様の処理が行われることでハイパースペクトル画像を取得することができる。従って、O2 地点でハイパースペクトル画像を取得してもよい。
【0087】
従って、作物の発育状態を光スペクトルから、或は作物の3次元データから大きさを認識することが可能である。或は、地表の状態を露出した物質の種類の情報も合わせて取得することができる。
【0088】
上記した写真測量、光スペクトル画像、ハイパースペクトル画像の取得合成等について、図9、図10を参照して更に説明する。
【0089】
STEP:01 前記ヘリコプタ1をO1 地点でホバリングを開始し、前記干渉フィルタ15を回転させて前記分割透過面60fを選択した後、O1 地点で前記カメラ14により左画像42を取得する。又、前記GPS装置9によるヘリコプタ1の位置(即ちO1 地点)の測定が行われる。
【0090】
STEP:02 取得した左画像42をエッジ処理或はコーナ抽出処理をする等して特徴点を抽出する。
【0091】
STEP:03 その後、前記主光線57が前記分割透過面60a〜60eの所定の領域を透過する様前記干渉フィルタ15を間欠回転させ、更に各分割透過面毎に前記絞り55の位置を変更させ、各絞り55の位置毎に前記画像カメラ14により光スペクトル画像とリアル画像とを有する混合画像を取得する。又、取得した混合画像より光スペクトル画像とリアル画像を分離させ、分離させたリアル画像により同位置での画像トラッキング(以下、同位置トラッキング)が実行され、同位置トラッキングの結果に基づき各光スペクトル画像間での画像位置補正が実行される。
【0092】
O1 地点での光スペクトル画像の取得、画像位置補正について、STEP:21〜STEP:27により説明する。
【0093】
STEP:21 スペクトル測定が開始されると、所定波長領域(λ1〜λn)の光スペクトル画像部を有する混合画像が、各波長毎に所定の時間間隔で取得される。
【0094】
STEP:22 取得された混合画像は、前記カメラコントローラ24により光スペクトル画像部とリアル画像部とに分離され、光スペクトル画像部が時系列に前記スペクトルデータ記憶部27に格納されると共に、リアル画像部が時系列に前記画像データ記録部23に格納される。
【0095】
STEP:23 画像トラッキング(同位置トラッキング)は、分離された光スペクトル画像部(λ1)と同時に取得されたリアル画像部(第1リアル画像)から少なくとも5の特徴点を抽出し、時間的に隣接する次の光スペクトル画像部(λ2)と同期したリアル画像部(第2リアル画像)に特徴点を特定する。
【0096】
STEP:24 得られた第1リアル画像部の特徴点と第2リアル画像部の特徴点とに基づき第1リアル画像部と第2リアル画像部間のマッチング、第1リアル画像部と第2リアル画像部との間の座標変換が実行される。
【0097】
STEP:25 リアル画像部と光スペクトル画像部とは同時に取得されるので、リアル画像部に対応する光スペクトル画像部との位置関係は常に一定であり、前記リアル画像部をマッチングした条件、座標変換の条件が時間的に隣接する前記光スペクトル画像部に適用される。
【0098】
STEP:26 全ての波長の光スペクトル画像部が取得されているかどうかが判断され、取得されていない場合は、STEP:21に戻り、引続き光スペクトル画像部の取得、同位置トラッキングが行われる。
【0099】
STEP:27 所定波長領域(λ1〜λn)の全ての波長についての光スペクトル画像部が取得されると、全ての光スペクトル画像部をリアル画像部によるトラッキングで得た条件で合成することでO1 地点での所定波長領域(λ1〜λn)の光スペクトルを有する第1光スペクトル合成画像を取得することができる。更に、該第1光スペクトル合成画像と前記静止画像とを合成することでハイパースペクトル画像を取得することができる。
【0100】
STEP:04〜STEP:06 O1 地点での前記静止画像とハイパースペクトル画像が取得されると、前記ヘリコプタ1がO2 地点に移動する。移動の際には、先ず前記干渉フィルタ15が回転されて前記分割透過面60fが選択される。移動中には前記カメラ14により動画像が取得され、画像トラッキング(移動トラッキング)が実行される。移動トラッキングは前記左画像42で抽出した特徴点に基づき実行しても、或はホバリング状態で同位置トラッキングで最終的に得られる特徴点を用いて移動中の画像トラッキングを行ってもよい。
【0101】
STEP:07 前記ヘリコプタ1がO2 地点に到達し、移動トラッキングが終了されると、ホバリングが開始され、静止画像である右画像43が取得される。
【0102】
STEP:08 ホバリング状態で、前記干渉フィルタ15を回転させて前記分割透過面60a〜60eを選択し、更に前記絞り55を変位させ、該絞り55の各位置毎に前記カメラ14により混合画像を取得する。又、取得した混合画像より光スペクトル画像部とリアル画像部を分離させ、分離させたリアル画像部により同位置での画像トラッキング(以下、同位置トラッキング)が実行され、同位置トラッキングの結果に基づき各光スペクトル画像部間での画像位置補正が実行される。
【0103】
前記STEP:21〜STEP:27が実行され、O2 地点で所定波長領域(λ1〜λn)の全ての波長についての光スペクトル画像部が取得され、得られた全ての光スペクトル画像部を合成してO2 地点での所定波長領域(λ1〜λn)の光スペクトルを有する第2光スペクトル合成画像が取得され、更に、該第2光スペクトル合成画像と前記右画像43とを合成することでハイパースペクトル画像が取得される。
【0104】
STEP:09、STEP:10、STEP:11 画像トラッキングにより前記右画像43中に特定された特徴点と、前記左画像42中に特定された特徴点とに基づき、マッチングが行われ、又左画像42又は右画像43のいずれかを基準とする座標変換(相互標定)が行われ、更にGPS装置9の地心座標への座標変換(絶対標定)が行われる。
【0105】
STEP:12、STEP:13 絶対標定の結果を基に左画像42と右画像43とのステレオマッチングが行われ、3次元位置データを有する地形の3次元モデルが得られる。
【0106】
STEP:14 上記した様に、混合画像と静止画像とは同軸で撮像され、1:1に対応しているので、光スペクトルが得られる位置での3次元位置データが得られ、光スペクトル画像と前記3次元モデルとを合成することで、地形の3次元位置データと光スペクトル情報を有する4次元モデルが作成できる。
【0107】
上述の様に、本実施例では、前記カメラ14に円板状の前記干渉フィルタ15を設け、該干渉フィルタ15に円周方向に所要角度に分割された分割透過面を形成し、該分割透過面の1つを全波長が透過する全透過面とし、1つのカメラでリアル画像部と光スペクトル画像部の両方を取得することができる様にしたので、リアル画像に基づき光スペクトル画像の位置合せを実行でき、画像取得装置が飛行体1等の動体に設けられた場合でも精度の高い光スペクトル合成画像、又ハイパースペクトル画像を取得することができる。更に、リアル画像を取得するカメラの他に光スペクトル画像を取得するスペクトルカメラを別途設ける必要がなく、構造の簡易化及びコストの低減を図ることができる。
【0108】
又、前記絞り55を設けることで、分割透過面の一以上の光スペクトルを得ることができる。
【0109】
又、異なる選択波長特性の干渉膜が形成された分割透過面の一部に、前記主光線57が全透過する第2領域を形成したので、光スペクトル画像部とリアル画像部とを同時に取得することができ、各画像間で経時的にズレを生じてもリアル画像部をマッチングさせることで容易に光スペクトル画像部の合成を行うことができる。
【0110】
更に、前記分割透過面60fを前記主光線57が全透過する全透過面としているので、リアル画像のみを広範囲に取得することが可能となり、動画トラッキング等多数の特徴点抽出を必要とする処理であっても本実施例に於ける撮像装置11を適用することができる。
【0111】
尚、前記光学系45では、前記絞り55の位置を変更することで前記干渉フィルタ15に対する入射角を変位させ、所定範囲に於ける波長の変更を可能としているが、取得したい光スペクトルの波長が決っており、且つ種類も少ない場合には、前記絞り55を省略してもよい。
【0112】
図11、図12は、本発明の第2の実施例に於ける光学系45′を示している。
【0113】
図3で示した前記光学系45では透過式の干渉フィルタ15を用いたが、図11で示される様に、光学特性変更部である反射式の干渉フィルタ61を用いて光学系45′を構成することもできる。前記干渉フィルタ61は反射鏡に反射式の干渉膜を形成したものであり、回転軸59を中心として回転可能に支持され、更にモータ等の回転手段により回転可能となっている。前記光学系45′では、前記干渉フィルタ61が主光線57を反射することで波長が選択される。
【0114】
尚、図11中、図4中で示したものと同等のものには同符号を付してあり、その説明を省略する。
【0115】
上記第2の実施例でも、図11(B)に示される様に、前記絞り55を移動させることで、前記干渉フィルタ61への主光線57の入射角が変化し、所定の波長選択範囲W内での特定波長が選択反射される。
【0116】
又、図12に示される様に、前記干渉フィルタ61は円板状であり、反射面には円周方向に所要角度に等分(図示では6等分)され、分割部は分割反射面63a〜63fとして形成されている。
【0117】
前記干渉フィルタ61では、前記分割反射面63a〜63fの内、複数の分割部である分割反射面63a〜63eには、同心円状に第2領域、第1領域、第2領域がそれぞれ形成され、前記第1領域には各分割反射面63a〜63e毎に選択波長λ1〜λ5の選択波長特性の異なる第1領域である反射干渉膜が形成され、更に他の分割部である分割反射面63fは、第1領域、第2領域(63f′,63f′′)共に光学特性を有さず全ての波長を反射する様になっている。
【0118】
又、各分割反射面63a〜63eは、前記第1領域の外周側の外周部63a′〜63e′と内周側の内周部63a′′〜63e′′が前記第2領域となっており、これら第2領域は全ての波長を反射させる。前記干渉フィルタ61上に結像される結像58は、前記第2領域、前記第1領域、前記第2領域に掛渡り、前記結像58の外周側の一部が前記外周部63a′〜63e′,63f′にオーバラップし、内周側の一部が前記内周部63a′′〜63e′′,63f′′にオーバラップする。
【0119】
前記干渉フィルタ61で反射された光束は、結像レンズ51を経て撮像素子52に結像される様になっている。前記干渉フィルタ61を用いる場合、前記分割反射面63fを選択し、該分割反射面63fに前記光軸46を合致させた場合は、波長選択されることなく全反射され、リアル画像データのみの静止画像データが取得される。又、前記分割反射面63a〜63eのいずれかが選択された場合、例えば分割反射面63eが選択された場合、分割反射面63eの第1領域部58aで反射され波長選択されると共に、前記結像58の内、第2領域部58b,58cとで部分的に全反射され、混合画像データが取得される様になっている。
【0120】
上記の様に、干渉フィルタとして反射式の干渉フィルタ61を用いることで、光学系45′をコンパクトにすることができる。
【0121】
図13は、図11で示した光学系45′の変更例を示している。
【0122】
図13で示す変更例では、反射式の干渉フィルタ62を用いており、該干渉フィルタ62は干渉フィルタ61と同様の構成となっている。
【0123】
光軸46上に対物レンズ47、第1リレーレンズ48、絞り55が配置され、前記光軸46と平行で所定量離反した光軸上に第2リレーレンズ49が配設され、該第2リレーレンズ49に対向して前記干渉フィルタ62が設けられている。該干渉フィルタ62で反射された光束は、反射鏡64によって偏向され、偏向された光束は結像レンズ51を経て撮像素子52に結像される。
【0124】
該変更例では、第1リレーレンズ48、絞り55が前記第2リレーレンズ49の光軸46とはずれた位置にあるので、テレセントリック光学系56によって分割された主光線57は前記干渉フィルタ62に傾斜して入射する。更に、図13(B)に示される様に、前記絞り55を前記光軸46より離反する様に移動させれば、前記主光線57の入射角は更に大きくなる。従って、前記絞り55を移動させることで選択波長を変更することができる。
【0125】
上記変更例では、反射式の前記干渉フィルタ62を使用しているので、光学系45′′のコンパクト化が図れると共に、第3リレーレンズ50を前記第2リレーレンズ49が兼用している為、部品点数が削減でき、コストの低減を図ることができる。
【0126】
次に、図14に於いて、本発明の第3の実施例について説明する。
【0127】
図14は、第3の実施例に於ける撮像装置11の概略構成を示しており、第3の実施例では、カメラ14で撮像された混合画像データが、カメラコントローラ24により光スペクトル画像データとリアル画像データとに分離されることなく画像データ記録部23に格納される様になっている。
【0128】
該画像データ記録部23に格納された混合画像データは、リアル画像部分、即ち第2領域部58b,58c(図3参照)より少なくとも3の特徴点が抽出され、該特徴点を基に時間的に隣接する混合画像データをマッチングさせる。
【0129】
混合画像データは、光スペクトル画像データとリアル画像データとが一体となった画像データであり、混合画像データ内の光スペクトル画像データとリアル画像データとの位置関係は常に一定であるので、特徴点を基に混合画像データをマッチングさせた結果、自動的に光スペクトル画像部分もマッチングされる。
【0130】
最後に、マッチングさせた混合画像データより、画像分離部30によりリアル画像部を分離させることで、所定波長領域(λ1〜λn)の光スペクトルを有する光スペクトル合成画像が取得される。
【0131】
上述の様に、第3の実施例では、混合画像データに於けるリアル画像部分の特徴点抽出、マッチング処理が光スペクトル画像データの合成処理を兼ねるので、処理工程を減少させ、処理負担の低減を図ることができる。
【符号の説明】
【0132】
1 ヘリコプタ
2 基地制御装置
3 機体
9 GPS装置
11 撮像装置
12 光軸
13 カメラ部
14 カメラ
15 干渉フィルタ
21 撮像制御装置
22 演算制御部
28 画像合成部
29 画像処理部
33 測定部
34 モデル画像形成部
35 表示部
36 記憶部
45 光学系
47 対物レンズ
48 第1リレーレンズ
49 第2リレーレンズ
50 第3リレーレンズ
51 結像レンズ
52 撮像素子
55 絞り
56 テレセントリック光学系
57 主光線
58 結像
60 分割透過面
61 干渉フィルタ
62 干渉フィルタ
63 分割反射面
64 反射鏡

【特許請求の範囲】
【請求項1】
光学特性変更部と、対物レンズを含み、該対物レンズからの光を前記光学特性変更部へと導く光学系と、前記光学特性変更部を介した光を受光する撮像素子とを具備し、前記光学特性変更部は複数の分割部を有すると共に分割部の1つを選択的に光路に配置させる構成であり、前記分割部は前記光学系からの光から特定の波長を選択する第1領域と、前記光学系からの光の光学特性を変更させない第2領域とを有することを特徴とする画像取得装置。
【請求項2】
撮像制御装置を更に具備し、1つの分割部の前記第2領域を介して撮像された画像と、他の分割部の前記第2領域を介して撮像された画像との画像マッチングに基づき、前記1つの分割部の前記第1領域を介して撮像された画像と、前記他の分割部の前記第1領域を介して撮像された画像とを合成して光スペクトル合成画像を作成する請求項1の画像取得装置。
【請求項3】
光路に配置された絞りを更に具備し、該絞りは絞り孔を有し、前記絞りを移動させることで前記光学特性変更部により選択される波長が変化する請求項1又は請求項2の画像取得装置。
【請求項4】
前記光学特性変更部は、前記第1領域及び前記第2領域共に光学特性を変更させない更に他の分割部を更に具備する請求項1〜請求項3のうちいずれかの画像取得装置。
【請求項5】
前記撮像制御装置は複数の分割部の前記第2領域を介して撮像された画像と、前記更に他の分割部を介して撮像された静止画像との画像マッチングに基づき、複数の分割部の前記第1領域を介して撮像された画像と、前記静止画像とを合成してハイパースペクトル画像を作成する請求項4の画像取得装置。
【請求項6】
地心座標の測定を行うGPS装置を更に具備し、前記撮像制御装置は第1地点で前記更に他の分割部を介して静止画像を取得すると共に、第1地点の静止画像から複数の特徴点を抽出し、第1地点から第2地点に移動中に前記更に他の分割部を介して時系列に連続するフレーム画像で構成される動画像を取得し、更に第1地点から第2地点に移動中の動画像により動画像トラッキングを行うと共に、第2地点で前記更に他の分割部を介して静止画像を取得し、第2地点の静止画像に前記特徴点を特定し、該特徴点に基づき第1地点の静止画像と第2地点の静止画像とをステレオマッチングすると共に、前記GPS装置により測定された第1地点及び第2地点の地心座標系の位置に基づき3次元モデルを形成し、又前記撮像制御装置は前記光スペクトル合成画像と前記3次元モデルとを合成し、3次元位置データと光スペクトル情報を有する4次元モデルを作成する請求項5の画像取得装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図7】
image rotate


【公開番号】特開2013−90230(P2013−90230A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−230443(P2011−230443)
【出願日】平成23年10月20日(2011.10.20)
【出願人】(000220343)株式会社トプコン (904)
【Fターム(参考)】