説明

航空機の目標物追跡のための自動警報方法及びシステム

【課題】目標物が何か意味のあることをしている時点を自動的に推測し、オペレータに警報を出すためのシステムを提供する。
【解決手段】リモートオペレータ118は、航空機AV112のセンサ114を用いて目標物116を自動的に追跡する。センサ114のフットプリントの座標を特定し、目標物116の追跡メトリックを計算して、追跡メトリックとしきい値とを比較して、追跡メトリックがしきい値から外れる場合に、リモートオペレータ118に警報を出す。警報は、目標物116が、突然停止する、急激に方向転換する、又は攻撃又は回避作戦行動に従事しているなどの何か意味のあることをしているときに出される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、航空機の目標物追跡のための自動警報方法及びシステムに関する。
政府実施許諾権
国防総省国防高等研究事業局との契約第FA8650−04−C−7142号の条件によって規定されるように、米国政府は本発明において一定の権利を有する。
【背景技術】
【0002】
航空機(AV)は、遠隔操縦することができるか、又は搭載コンピュータシステムによって自動操縦することができる有人航空機又は無人航空機であり、カメラ、センサ、通信装置又は他のペイロードを搭載することができる。AVは、何年にもわたって、偵察及び情報収集の役割を果たすために用いられてきた。近年になって、AVは、監視及び目標物追跡のために開発されている。
【0003】
軍事又は民間のどちらの環境においても、AVによって実行される自律的な監視及び目標物追跡は、情報収集の重要な側面となっている。典型的には、目標物が航空機(たとえば、1つのAV)から追跡されているとき、人間オペレータは、航空機からストリームされる画像を注意深く監視して、目標物の挙動を評価すると共に目標物が常に確実に視野に入るようにしなければならない。
【発明の開示】
【発明が解決しようとする課題】
【0004】
本発明は、目標物が何か意味のあることをしている時点(たとえば、突然停止する、急激に方向転換する、又は追跡視界から出て行く)を自動的に推測し、オペレータに警報を出すためのシステム及び方法を提供する。
【課題を解決するための手段】
【0005】
警報システムは、目標物が行なっていることの分類も提供する。システムは、画像のストリームを絶えず監視することからオペレータを解放するので、オペレータは他の任務を果たすことができる。
【0006】
図面を参照して、以下の説明から、当業者には本発明の特徴が明らかになるであろう。図面は本発明の典型的な実施形態のみを示しており、それゆえ、範囲を限定するものと見なされるべきでないことを了解した上で、添付の図面を使用することによって、本発明がさらに具体的且つ詳細に説明される。
【発明を実施するための最良の形態】
【0007】
以下の詳細な説明では、当業者が本発明を実施することができるようにするほど十分に詳しく実施形態が説明される。本発明の範囲から逸脱することなく、他の実施形態を利用することができることは理解されたい。それゆえ、以下の詳細な説明は、限定する意味に解釈されるべきではない。
【0008】
図1は、AVから目標物を自動的に追跡するためのシステム100を示す簡略化された図である。図1に示されるように、そのシステムは、(1)少なくとも1つのセンサ114を備えるAV112と、(2)目標物116と、(3)リモートオペレータ118とを含む。図1においてリモートオペレータ118が示されるが、リモートオペレータ118は、AV112及び目標物116から何マイルも離れていることがあることは理解されたい。
【0009】
AV112は、遠隔操縦又は自動操縦することができる航空機である。AV112は、カメラ、センサ、通信装置、又は他のペイロードを搭載することができる。AV112は、ホバリング可能な航空機、又は固定翼航空機とすることがある。センサ114は、カメラ又はレーダのような、目標物を撮像することができる任意のデバイスとすることができる。目標物116は、AV112によって監視される任意のものとすることができる。たとえば、目標物116は、地上車両、飛行体、又は人等である。目標物を捕捉するために、AV112は典型的には、センサ114からリモートオペレータ118に画像を送信する。その際、リモートオペレータ118は、画像内の1つのエリアを目標物と定義し、その目標物をAV112に送信する。
【0010】
リモートオペレータ118は、AV112と通信することができる任意のデバイスとすることができる。さらに、リモートオペレータ118は、AV112を遠隔制御するように構成することができる。リモートオペレータ118は、たとえば、ジョイスティックを備えるデスクトップコンピュータ、ラップトップ、携帯情報端末(「PDA」)のようなデバイスとすることができる。
【0011】
本発明の態様は、AV112及び/またリモートオペレータ118(又はAV112を制御することができる任意の他の実体)によって実行されることがある。図2は、本発明の種々の態様を実行するために、AV112及び/又はリモートオペレータ118内に含むことができる機能構成要素を示す。図2に示されるように、それらの構成要素は、通信インターフェース200と、処理回路202と、データ記憶装置206とを含み、全てシステムバス、ネットワーク又は他の機構210によって互いに結合することができる。
【0012】
通信インターフェース200は、エアーインターフェース上で通信し、それによってAV112とリモートオペレータ118との間の通信を容易にする機構を含む。さらに、通信インターフェース200は、エアーインターフェース通信を容易にする1つ又は複数のアンテナを含むことがある。
【0013】
処理ユニット202は、1つ若しくは複数の汎用プロセッサ(たとえば、INTELマイクロプロセッサ)及び/又は1つ若しくは複数の専用プロセッサ(たとえば、デジタルシグナルプロセッサ)を含む。さらに、データ記憶装置204は、たとえば、メモリ及び/又はディスクドライブ記憶装置のような1つ若しくは複数の揮発性及び/又は不揮発性の記憶機構を含み、それは全体的に、また部分的に処理ユニット202と統合することができる。
【0014】
図に示されるように、データ記憶装置204は、プログラムロジック206と基準データ208とを含む。プログラムロジック206は、1つ又は複数の論理モジュール(アプリケーション)を含み、(1)センサ114のフットプリントの座標を特定すること、(2)目標物のフットプリントの中心に対する近さの関数として、正規化された追跡メトリックを計算すること、(3)追跡メトリックとしきい値とを比較すること、及び(4)追跡メトリック(又はその時間導関数)がしきい値から外れる場合には、リモートオペレータ118に警報を出すことのような、本明細書で記載される種々の機能を実行するために、処理ユニット204によって実行可能な機械語命令を含むことが好ましい。さらに、基準データ208は、センサ114によって収集される画像形成データのようなデータを含むことができる。
【0015】
図3は、本発明の一実施形態による、AVによって追跡されている車両の状態についてリモートオペレータに自動的に警報を出すことを示す流れ図である。詳細には、図3は、(1)センサ114のフットプリントの座標を特定すること、(2)目標物のフットプリントの中心に対する近さの関数として、正規化された追跡メトリックを計算すること、(3)追跡メトリックとしきい値とを比較すること、及び(4)追跡メトリック(又はその時間導関数)がしきい値から外れる場合には、リモートオペレータ118に警報を出すことを示す。
【0016】
図3に示されるように、ステップ302では、AV112はセンサ114のフットプリント(すなわち、視認窓)の頂点及び中心の座標を特定する。センサフットプリントの例が図4に示される。図4に示されるように、AV112は前方監視センサ及び側方監視センサを備える。前方監視センサフットプリント402は、頂点{a,b,c,d}を含む。フットプリント402の中心は、{i}として特定される。側方監視センサフットプリント404は、頂点{e,f,g,h}を含む。側方監視センサフットプリントの中心は{j}として特定される。
【0017】
図6は、正規化されている(すなわち、長方形として表示されている)前方監視センサフットプリントを示す。図6に示されるように、そのフットプリントは、頂点{a,b,c,d}と、中心{i}と、中間点{ad,ab,bc,dc}と、角度{α/2,α/2}とを含む。ここで、α及びαは、センサ114のための視野角の水平視野及び垂直視野である。
【0018】
図3に戻ると、以下のデータを用いて、センサフットプリントの頂点及び中心の座標を計算することができる。
[α,α]、センサ114のための水平視野及び垂直視野;
[θ,φ,ψ]、AV112の姿勢角、ここで、θは縦揺れ(pitch)であり、φは横揺れ(roll)であり、ψは偏揺れ(yaw)である。この例では、上昇するのは正の縦揺れを必要とし、右翼を下げるのは正の横揺れであり、AVの上から時計回りは正の偏揺れである;
[θ,φ,ψ]、センサ114の姿勢角、ここで、θは縦揺れであり、φは横揺れであり、ψは偏揺れである。この例では、縦揺れは、垂直下方向から測定して0度と90度との間で測定される。カメラ下方監視角は(1−θ)であり、横揺れ角は右に正であり、偏揺れ角は時計回りにおいて正である。結果として、前方監視センサ114はψ=0を有し、一方、左方監視カメラは、ψ=−90度を有する;
[N,E,h]、AV112の位置座標、ここで、或る基準点からN=北、E=東及びh=高さである(UTM北距(northings)、東距(eastings)、高度等)。
【0019】
フットプリントの頂点及び中心のローカル座標は以下のように特定される。
【0020】
【数1】

【0021】
ステップ304では、センサフットプリントの各辺の中間点のローカル座標が以下のように特定される。
【0022】
【数2】

【0023】
ステップ306では、その座標に、縦揺れ−横揺れ−偏揺れの回転行列[R]及び[R]を乗算することによって、各ローカル座標が、グローバル慣性座標に変換される。ここで、
【0024】
【数3】

【0025】
である。
したがって、以下の式が成り立つ。
【0026】
【数4】

【0027】
回転行列は当該技術分野において既知であり、ここで詳細には説明されない。
ステップ308では、AV112が地面の上方を飛行している高さ(h)(目標物116が地上目標物である場合)、又はAV112が目標物116の飛行している高さ(h)(目標物116は必ずしも地上にはない)だけ慣性座標をスケーリングすることによって、センサフットプリントのスケーリングされた座標が計算される。フットプリントは、以下のように計算される。
【0028】
【数5】

【0029】
センサ114のセンサフットプリントの種々の座標を計算した後に、ステップ310では、(1)経時的に、一連の瞬時正規化追跡メトリック(ρTR)を計算すること、及び(2)瞬時正規化追跡メトリックの重み付けされた移動平均を計算することによって、追跡メトリックρが計算される。
【0030】
ρTRは、(1)地上における、カメラフットプリントの中心に対する目標物の位置(rtarget)、(2)カメラフットプリントの中心から、目標物に最も近いフットプリントの辺(たとえば、[ABcgBCcgDCcgADcg])までの距離(rside)、(3)フレームの中心から目標物までの距離(r)を用いて計算される。これらの位置が図5に示されており、図5は、ρTRを計算するために必要とされる変数を例示するフットプリントの図である。図5に示されるように、そのフレームは、中心点、目標物、rtarget、r、rside、及びフレームの移動方向を含む。
【0031】
ρTRを計算するために、rtarget及びrsideの値が最初に計算される。以下の式を用いることによって、rtargetが計算される。
【0032】
【数6】

【0033】
式中、
【0034】
【数7】

【0035】
は目標物からフットプリントの中心までの線に沿った単位ベクトルであり、
【0036】
【数8】

【0037】
は最も近い辺の中間点から中心までの線に沿った単位ベクトルである。すなわち、
【0038】
【数9】

【0039】
はrに沿った単位ベクトルであり、一方、
【0040】
【数10】

【0041】
はrsideに沿った単位ベクトルである。
sideは、以下の式を用いて計算される。
【0042】
【数11】

【0043】
式中、rABcg−rADcgは、フレームの中心からフレームの辺までの距離である。
target及びrsideを計算した後に、ρTRが以下のように計算される。
【0044】
【数12】

【0045】
ρTR=0である場合には、目標物114は、フットプリントの中心の真上にある。これは、完全な追跡であると見なされる。ρTR≧1である場合には、AV112は目標物114を見失っている。AV112(及びおそらく目標物116)は動いているので、ρTRは、ランダムな時間間隔でも計算することはできるが、規則的な時間間隔で計算されるべきである(すなわち、10ms毎に1回)。
【0046】
ρTRを計算した後に、ρTRの重み付けされた移動平均として、追跡メトリックρが計算され、ρTRの新たに計算された値には、より大きな重みがかけられる。
【0047】
【数13】

【0048】
式中、bは重みであり、以下の式が成り立つ。
【0049】
【数14】

【0050】
式中、kはサンプリング時刻であり、nは、平均化が行なわれる移動窓である。たとえば、そのアルゴリズムのサンプリング時刻がtであり、平均化が、t秒の時間窓にわたって行なわれる場合には、以下の式が成り立つ。
【0051】
【数15】

【0052】
ρを計算することに加えて、ρの第1の時間導関数及び第2の時間導関数
【0053】
【数16】

【0054】
の値を計算することができる。
ρを得た後に、ステップ312では、
【0055】
【数17】

【0056】
の値がしきい値
【0057】
【数18】

【0058】
を超えるとき、リモートオペレータ118が警報を受ける。しきい値は、静的値、又は動的値とすることができる。たとえば、ρのためのしきい値は、1よりもわずかに小さくなるように設定されることがあり、リモートオペレータ118は、ρがそのしきい値を超える場合に警報を受ける。非可動追跡センサを有し、最小旋回半径がRminであり、対気速度Vで飛行中の固定翼AVの場合、
【0059】
【数19】

【0060】
のためのしきい値は以下のように求めることができる。
【0061】
【数20】

【0062】
こうして、
【0063】
【数21】

【0064】
の値が、AV112の最大対気速度、及び目標物が追跡センサフレーム内で移動している方向に沿って分解される、AV112の現在の対気速度のうちの小さい方よりも大きい場合には、リモートオペレータ118は警報を受ける。
【0065】
【数22】

【0066】
の値は以下のように求めることができる。
【0067】
【数23】

【0068】
それゆえ、
【0069】
【数24】

【0070】
がフレーム内の目標物の移動方向に沿ったAVの加速度よりも大きい場合には、リモートオペレータ118は警報を受ける。
ステップ312においてリモートオペレータ118に送信された警報は、複数のカテゴリに分類することができる。たとえば、その警報は、AV112が目標物116を見失いかけていることを指示することができ、それはρが1よりもわずかに小さく(すなわち、0.9)、
【0071】
【数25】

【0072】
が正であるときに生じる。また、その警報は、目標物116が、たとえば、突然停止すること、急激に方向転換すること、又は攻撃又は回避作戦行動に従事していることのような、何か意味のあることをしていることを示すこともできる。そのような警報は、
【0073】
【数26】

【0074】
がいずれもそのしきい値を超える場合に起動することができる。
本発明は、その不可欠な特徴から逸脱することなく、他の具体的な形で実施することができる。記述される実施形態は、全ての点において、例示にすぎず、限定するものと見なされるべきではない。それゆえ、本発明の範囲は、これまでの説明によってではなく、むしろ添付の特許請求の範囲によって指示される。特許請求の範囲の均等物の意味及び範囲内に入る全ての変更が、特許請求の範囲に包含される。
【図面の簡単な説明】
【0075】
【図1】本発明の一実施形態による、地上車両を空中から追跡するためのシステムを示す概略図である。
【図2】例示的な実施形態の態様を実施するように構成される実体の簡略化されたブロック図である。
【図3】例示的な実施形態に従って実行することができる機能を示す流れ図である。
【図4】センサフットプリントの一例を示す図である。
【図5】瞬時追跡メトリックを計算するために必要とされる変数を示す図である。
【図6】正規化されている前方監視センサフットプリントを示す図である。

【特許請求の範囲】
【請求項1】
センサのフットプリントの少なくとも1つの座標を特定するステップであって、該センサは航空機に備え付けられる、特定するステップ、
目標物の前記フットプリントの中心に対する近さの関数として追跡メトリックを計算するステップ、
前記追跡メトリックをしきい値と比較するステップ、及び
前記追跡メトリックが前記しきい値から外れる場合に、リモートオペレータに警報を出すステップを含む、方法。
【請求項2】
前記フットプリントの少なくとも1つの座標を特定するステップは、(i)前記フットプリントの頂点及び(ii)前記フットプリントの中心の座標を特定するステップを含み、前記フットプリントの辺毎の中間点の座標を特定するステップをさらに含み、(i)前記フットプリントの辺毎の前記中間点、(ii)前記フットプリントの前記頂点、及び(iii)前記フットプリントの前記中心の慣性座標を特定するステップをさらに含む、請求項1に記載の方法。
【請求項3】
前記航空機が前記目標物の上方を飛行している高さによって、(i)前記フットプリントの辺毎の前記中間点、(ii)前記フットプリントの前記頂点、及び(iii)前記フットプリントの前記中心の前記慣性座標をスケーリングするステップをさらに含む、請求項2に記載の方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2009−176281(P2009−176281A)
【公開日】平成21年8月6日(2009.8.6)
【国際特許分類】
【外国語出願】
【出願番号】特願2008−296602(P2008−296602)
【出願日】平成20年11月20日(2008.11.20)
【出願人】(500575824)ハネウェル・インターナショナル・インコーポレーテッド (1,504)
【Fターム(参考)】