オブジェクトのモザイク処理方法及びモザイク処理装置
【課題】本発明は、指定フレーム上の対象物に沿った形状をポリゴンで作成し一連の動きの中で後続フレーム上の対象物を自動的に抽出することを目的とした、信頼性の高いトラッキング機能を具備したマスク処理システムを提供する。
【解決手段】最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施すことを特徴とするオブジェクトのモザイク処理方法である。
【解決手段】最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施すことを特徴とするオブジェクトのモザイク処理方法である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は映像処理に係わり、特に人物の動きに対応した特定の部位にモザイク処理を生成するオブジェクトのモザイク処理方法及びモザイク処理装置に関する。
【背景技術】
【0002】
モザイク処理は難易度が高い。なぜなら、モザイク処理が必要な映像は偶発的に収録可能になった状況が多く、モザイク処理を行うために収録を行うという事例は極めて少ないためである。つまり映像処理を行うために撮影側で環境を整備することは困難である。そのような状況下では既存のクロマキー装置やマスク生成装置を使用することも出来ない。ゆえにモザイク処理を行うことを前提にされなかった収録映像を処理する事となる。
【0003】
より品質の高いモザイク処理を行うためには、それぞれのフレーム内のモザイク処理必要領域を作業者が抽出しマスクを作成することとなり膨大な作業時間が必要となる。
【0004】
モザイク処理には主に次の2つの方法が挙げられる。
第一に人間が1フレームずつ手書きでマスクを作成する方法である。
1フレームずつモザイク処理を施さなければならない領域を描写していく。1秒間で30枚の収録映像につき、作業を施すために作業時間、作業工程は必然的に多くなる。
【0005】
第二に映像合成ソフトを使用してモザイク処理を行う方法である。
第一フレームに作業者がモザイク修正領域を指定する(第一点)。第二点に再び修正領域を指定する。第一点と第二点の間は自動的に補完される。しかしながら、対象物の移動速度は一定ではなく、かつカメラアングルも固定されないため、直線的な補完では対象物が領域外に出てしまう場合が多い。作業者は対象物が領域外に出た箇所を検出し修正をするといった作業の繰り返しとなる。
【0006】
本発明は、モザイク処理を施さなければならない領域を自動的に抽出することである。従来よりモーショントラッキング機能を利用してトラッキングデータを生成することが行われている。モーショントラッキング機能は映像の色彩データを基に対象物の移動データを生成する。しかし対象物の形状に沿った動きを生成することは出来ない。
【0007】
この点、ビデオオブジェクトをトラッキングする方法及び装置が、特許文献1によって提案されている。この先提案技術に従うと、オブジェクトは複数の画像フレームでトラッキングされる。最初のフレームでは、オペレータはトラッキングされるべきオブジェクトを選択する。選択されたオブジェクトまたは選択されたオブジェクトの修正された推定値を画像の残りの背景部分と区別して、背景マスクおよび前景マスクを生成する。前景マスクはトラッキングされるべきオブジェクトに対応する。後続のフレーム内では背景マスクのモデルが用いられ、更新され、後続のフレーム内では前景マスクのモデルが用いられ、更新される。後続のフレーム内の画素は背景または前景に属するものとして分類される。そして、後続のフレームの各々では、以下を含む決定がなされる。すなわち、どの画素が背景に属さないか、(元の画像に基づいて)前景内のどの画素が更新されるべきか、背景内のどの画素が現在のフレーム内で不正確に認識されたか、どの背景画素が初めて認識されているのか、を含めての決定がなされる。これらの決定のいくつかは必ずしも他の決定と相互に相反するものではない。
【0008】
更に、この先提案技術に従えば、画素の分類に加えて、マスクフィルタリングが行なわれて誤りが訂正され、小さな島が除去され、前景マスクの空間的および時間的整合性が維持される。わずかな出力遅延を用いてオブジェクトトラッキングが達成される。ある実施例では、3フレーム待ち時間が採用される。
【0009】
この先提案技術の利点は、変化が速い形状を有するオブジェクトが動きのない背景に対して正確にトラッキングされることである。前のフレームおよび未来フレーム内の情報を用いてオブジェクトの動きを検出する。オブジェクトは内部で変化し得るものであり、それ自体で自身を隠すものでさえあり得る。別の利点は、以前には現れていない(unrevealed)(つまり、隠されていた)背景部分が識別され、オブジェクト推定値の正確さが増すことである。別の利点は、オブジェクト内のホールも正確にトラッキングされることである。
【0010】
しかしこの先提案技術によっても、被処理オブジェクト(映像)の種類によっては、信頼性の点で不充分であった。
【特許文献1】特開2003−51983
【発明の開示】
【発明が解決しようとする課題】
【0011】
本発明は、指定フレーム上の対象物に沿った形状をポリゴンで作成し一連の動きの中で後続フレーム上の対象物を自動的に抽出することを目的とした、信頼性の高いトラッキング機能を具備したマスク処理システムに関するものである。
【課題を解決するための手段】
【0012】
上記発明の課題は、下記構成によって解決される。
1.最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施すことを特徴とするオブジェクトのモザイク処理方法。
【0013】
2.「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを有することを特徴とするオブジェクトのモザイク処理方法。
【0014】
3.トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定されることを特徴とする前記1又は2に記載のオブジェクトのモザイク処理方法。
【0015】
4.ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避けることを特徴とする前記1〜3のいずれかに記載のオブジェクトのモザイク処理方法。
【0016】
5.前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行うことを特徴とする前記1〜4のいずれかに記載のオブジェクトのモザイク処理方法。
【0017】
6.マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まないことを特徴とする前記1〜5のいずれかに記載のオブジェクトのモザイク処理方法。
【0018】
7.ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にすることを特徴とする前記1〜6のいずれかに記載のオブジェクトのモザイク処理方法。
【0019】
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【0020】
8.トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入したことを特徴とする前記1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
【0021】
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【0022】
9.あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行されることを特徴とする前記1〜8のいずれかに記載のオブジェクトのモザイク処理方法。
【0023】
10.対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理することを特徴とする前記1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
【0024】
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
【0025】
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【0026】
11.プロセッサを有するオブジェクトのモザイク処理装置において、最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施す構成のプロセッサを有することを特徴とするオブジェクトのモザイク処理装置。
【0027】
12.プロセッサを有するオブジェクトのモザイク処理装置において、プロセッサは、「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを行う構成であることを特徴とするオブジェクトのモザイク処理装置。
【0028】
13.トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定される構成のプロセッサを有することを特徴とする前記11又は12に記載のオブジェクトのモザイク処理装置。
【0029】
14.ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避ける構成のプロセッサを有することを特徴とする前記11〜13のいずれかに記載のオブジェクトのモザイク処理装置。
【0030】
15.前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行う構成のプロセッサを有することを特徴とする前記11〜14のいずれかに記載のオブジェクトのモザイク処理装置。
【0031】
16.マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない処理を行う構成のプロセッサを有することを特徴とする前記11〜15のいずれかに記載のオブジェクトのモザイク処理装置。
【0032】
17.ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にする構成のプロセッサを有することを特徴とする前記11〜16のいずれかに記載のオブジェクトのモザイク処理装置。
【0033】
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【0034】
18.トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入した構成のプロセッサを有することを特徴とする前記11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
【0035】
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【0036】
19.あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行される構成のプロセッサを有することを特徴とする前記11〜18のいずれかに記載のオブジェクトのモザイク処理装置。
【0037】
20.対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理する構成のプロセッサを有することを特徴とする前記11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
【0038】
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
【0039】
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【発明を実施するための最良の形態】
【0040】
本発明はデジタル画像オブジェクトのトラッキング処理及び装置に関するものである。本発明に係るシステムの概念図を図1に示す。
【0041】
AVI(映像標準フォ−マット)ファイルの最初のフレーム上の特定領域(オブジェクト)をユーザが指定し、連続する後続フレームに対してその領域(オブジェクト)をトラッキングする。最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定める。得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められる。このトラッキング処理が後続フレームに対して連続的に実行される。このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施す。この処理の全体フローチャートを図2に示す。
【0042】
即ち、「入力AVIファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップで処理されることとなる。
【0043】
トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義される。ユーザが指定した領域に対して後続フレームでのトラッキングが実行される。トラッキングはポリゴン上の各ポイントを対象にして実行される。前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、トラッキング速度を上げるために、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用される。前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定される。
【0044】
ポイント近傍ブロック生成の考え方は多くの研究論文で使われているが、本発明で採用したポイント近傍ブロックはポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避けることができるため、良質なトラッキング結果が期待できる。マッチング処理においては領域ベーストラッキングや境界ベーストラッキングの手法が通常使用されるが、本発明では、領域ベーストラッキングと境界ベーストラッキングの両方の概念を取り入れた独自のアルゴリズムを用いている。本発明ではシンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用する。シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものである。デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成とマッチングのやり方は、本発明者らによって独自に開発された。このブロックの生成とマッチング法に採用されたやり方は、本発明者らによる多大の検討、研究の中から導かれた。デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない。その理由は、これらのピクセルは境界外ピクセルの色の影響を大きく受けることにより、トラッキング結果に悪い影響を与えるためである。
【0045】
トラッキング処理速度の向上とトラッキング精度の維持という相反する目的を達成するために、ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはしない。さらにポイント近傍ブロックには多孔性ブロックという新しい概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にする。
【0046】
各フレーム上でのトラッキングを繰り返すにつれて小さな誤差が累積される。この誤差はトラッキングを行うフレーム数が少ない内は問題とはならないが、多数のフレームを処理するにつれて誤差累積による形状崩れは無視できなくなる。正確なトラッキングを行うと同時に、オブジェクトの幾何形状を維持することも重要となる。本発明ではこの問題を解決するために形状修正アルゴリズムという手法を導入した。
【0047】
トラッキング対象オブジェクトは変形無しの剛体移動だけをするとは限らない。オブジェクト領域は僅かながらも変形をする可能性がある。そのため、トラッキングの際には形状の変化を考慮する必要がある。現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較してはならない。この問題を解決するために、“変形”及び“変形限界”という新しい概念をブロックマッチング・アルゴリズムに導入した。
【0048】
繰り返し的な極めて速い動きが実際問題においては存在する。このようなケースでは、前フレームの情報だけに基づいて現フレームのトラッキングを行うシーケンシャルトラッキングのやり方では追随できない問題が生じる。このような場合の対処法として、あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入された。登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択される。このポリゴン候補に対してさらにトラッキング処理が実行される。
【実施例】
【0049】
図1にMask Trackerシステムの構成図の例を示す。映像データはオーディオデータとビデオデータの2種から構成されている。映像データはAVIフォーマットに変換される。映像編集ソフトウェアを使ってトラッキング処理を行う映像部分を切り出し、Mask Trackerプラグインを介してMask Trackerアプリケーションでトラッキング処理を実行する。トラッキングオブジェクトに対するマスク処理を施されたAVIファイルは、Mask Trackerプラグインを介し映像処理ソフトウェアを使って元の映像AVIファイルに書き込まれ、さらに変換ハードウェアにより映像テープに変換される。Mask Trackerプラグインは映像編集ソフトウェアとMask Trackerアプリケーションの仲介的役割を行う。Mask Trackerアプリケーションへの入力データはMask Trackerプラグインから受け取ったAVIファイルである。ユーザはMask Trackerアプリケーションを使って対象オブジェクトのトラッキングを行うことができる。トラッキング処理されたAVIファイルは再びMask Trackerプラグインを介して映像編集ソフトウェアに戻される。
【0050】
AVIファイルの最初のフレーム上の特定領域をユーザが指定し、連続する後続フレームに対してその領域をトラッキングする。最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定する。最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定める。トラッキング処理の全体フローチャートは、前記図2に示す通りである。
【0051】
Mask Trackerハンドラーは領域指定のポリゴンを有する最初のフレームにアクセスし、その後で2番目のフレームを読み込む。このフレーム上で、フレームトラッキングのアルゴリズムを使ってポリゴンのトラッキングを行う。2番目のフレーム上でのポリゴン位置を確定した後で、このポリゴンをベースにして3番目のフレーム上でのトラッキングが実行される。同様の処理が後続フレームに対しても次々と行われる。Mask Trackerハンドラーアルゴリズムのフローチャートを図3に示す。
【0052】
即ち、トラッキング領域指定のポリゴンを有する1番目のフレームから現フレームが最後のフレームになるまでは、最後のフレームまで次々とトラッキングが実行される。現フレームが最後のフレームでない限り、トラッキング対象の次のフレームを選択し、フレーム・トラッキングのアルゴリズムを使い、前フレーム上のポリゴンを参照してトラッキングを行うことが繰返される。そして、現フレームが最後のフレームになったとき、AVIファイルのトラッキングが終了となる。
【0053】
本発明において、トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって定義されるポリゴンによって定義される。フレーム上に作成されたポイントを通るスプラインが作成されるので、ポリゴンは角を持たない滑らかな曲線として表示される。
【0054】
前フレーム上に存在するポリゴン上のポイントを現在フレームに対してトラッキングする際にはトラッキング速度を上げるために、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用される。前フレーム上の各ポリゴンのすべてのポイントは現フレーム上でブロックマッチングアルゴリズムを使ってトラッキングされる。前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定するものである。前フレーム上のすべてのポリゴンに対するトラッキングが完了した時点で、現在フレームに対するトラッキング処理は終了となる。このフレームトラッキングアルゴリズムのフローチャートを図4に示す。ブロックマッチングアルゴリズムについては後述する。
【0055】
フレームトラッキングアルゴリズムは、図4(A)のフローチャートに示ず如く、「ポリゴンを有する前フレームとトラッキングを行う現フレーム」ステップ、「現フレーム上の処理対象ポリゴンにアクセス」ステップ、「選択されたポリゴン上の次のポイントにアクセス」ステップ、「ブロックマッチングハンドラー・アルゴリズムを使って上記ポリゴンポイントのトラッキング」ステップ、下記「(A)」へというステップを経るが、後記「(B)」は「現フレーム上の処理対象ポリゴンにアクセス」のズテップへ、そして後記「(C)」は「選択されたポリゴン上の次のポイントにアクセス」のステップを経ることとなる。図4(B)のフローチャートに示ず如く、前記「(A)」から「前フレームのポイントのX、Y座標値を現フレームでのトラッキング初期値に設定」ステップ、「現在のポイントが最後か」のステップへ、このステップにおいてNOの場合は前記「(C)」へ、そしてYESの場合、「現在のポリゴンが前フレーム上の最後のポリゴンか」ステップへ、NOの場合は前記「(B)」へ、そしてYESの場合は「現フレーム上のトラッキング終了」のステップを経て終わる。
【0056】
ポイント近傍ブロック生成の考え方は多くの研究論文で使われているが、本発明で採用したポイント近傍ブロックはポリゴン領域内(指定オブジェクト領域内)の一部ピクセルだけから構成されていて、ポリゴン領域外の影響を避けることができるため、良質なトラッキング結果が期待できる。トラッキング処理速度はブロック内の処理対象ピクセル数に比例する。そのため、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、一部のピクセルを間引きした残りのピクセルをブロックピクセルとして処理対象にする多孔性ブロックにすることによってトラッキング速度を向上させることができる。トラッキング速度改善を図って単にブロックサイズを小さくするだけであれば、良いトラッキング結果は得られない。大きなブロックサイズの優位性とトラッキング速度の向上を両立させるやり方として多孔性ブロックという新しい考え方が導入された。間引き率(多孔率)はポリゴン幅を基にして定められる。多孔率が大きいほどトラッキング速度は上がるがトラッキング精度は悪くなる。多孔率はポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなる。ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならない。図7に多孔ブロックの一例を示す。線1はポリゴン境界を示す。矩形2はポリゴン上のポイントである。この図は多孔率が3である例を示しており、ピクセルは3つおきに選択されている。選択されたピクセルは丸3で示されている。ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【0057】
マッチング処理においては領域ベーストラッキングや境界ベーストラッキングの手法が通常使用されるが、本発明では、領域ベーストラッキングと境界ベーストラッキングの両方の概念を融合した独自のアルゴリズムを用いている。本発明ではシンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用する。
【0058】
図5にポリゴン上のポイント近傍に生成されたシンプルブロックを示す。灰色の領域5がブロック領域である。丸4はポリゴン上のポイント(制御点)である。灰色領域内部に離散的に存在する点6は選択されたピクセルを示す。これがブロックの多孔性を示している。
【0059】
ポイント近傍ブロック生成の考え方は多くの研究論文で使われているが、本発明者らが採用したやり方は独自の考え方を基にしている。本発明におけるポイント近傍ブロックはポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されている。ポリゴン領域外の影響を避けることができるため、良質なトラッキング結果が期待できる。トラッキング処理速度を上げるために、多孔性ブロックという新しい概念を取り入れた。ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、一部のピクセルを間引きした残りのピクセルをブロックピクセルとして処理対象にする。間引き率(多孔率)はポリゴン幅を基にして定められる。
【0060】
多孔率が大きいほどトラッキング速度は上がるがトラッキング精度は悪くなる。多孔率はポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなる。
【0061】
ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならない。
【0062】
図5のブロックはポリゴン上のポイント近傍ブロックを模式的に示すもので、ポイント近傍ブロックにはシンプルブロックとデリバティブブロックの2種類があるが、この図はシンプルブロックのケースであり、ブロックの領域は同図の線と線で囲まれた部分であり、各方眼は1ピクセル領域を表しており矩形部分(黒い太線上)がポリゴン上のポイントである。
【0063】
前フレームでのこのポリゴンポイントが、次フレームではどこに位置するかを決定するのがマッチング処理であり、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定する。この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行う。次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになる(同様な判定をデリバティブブロックに関しても行う。)。マッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行う。このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行う。
【0064】
上述のプロセスには膨大な演算が必要となる。この演算量を低減することを目的にして多孔性ブロックが導入された。この場合、ブロック上の全ピクセルを対象にした比較は行わず、一部のピクセルだけをピックアップして比較演算を行う。図5の丸の位置にあるピクセルがピックアップされたピクセルを示している。各丸ピクセル間には空白の3つの方眼がある。これらの空白方眼の位置にあるピクセルは演算対象から除外されている。即ち、この図は多孔率が3の例を示している。
【0065】
デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない。その理由は、これらのピクセルは境界外ピクセルの色の影響を大きく受けることにより、トラッキング結果に悪い影響を与えるためである。境界から遠く離れたピクセルは境界の特性を有しないため、これらのピクセルもデリバティブブロックには含めない。ポリゴン境界とデリバティブブロックの境界ピクセルとの間の最短距離は少なくとも4ピクセル以上とし、最長距離はポリゴン幅に基いて決定される(最長距離=ポリゴン幅/2.5)。ただし、この最長距離は少なくとも8ピクセル以下にはしない。図6にデリバティブブロックの例を示す。なお、デリバティブブロックはシンプルブロックと同様に多孔性を有する。
【0066】
シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものである。デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成とマッチングのやり方は本発明者らによって開発された。このブロックの生成とマッチング法に採用されたやり方は本発明者らによる多大の研究の中から導かれた。デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない。その理由は、これらのピクセルは境界外ピクセルの色の影響を大きく受けることにより、トラッキング結果に悪い影響を与えるためである。
【0067】
ブロックマッチングハンドラーアルゴリズムのフローチャートを図8に示す。
即ち、「トラッキング対象のポイントを前フレームから得る」ステップ、「ポイント近傍ブロックの生成」ステップ、「ブロックマッチング・アルゴリズムを使って現フレーム上での最適ポイントを決定」ステップ、「ブロックマッチング・アルゴリズムを使って全方向を探索。1番目のポイントに対する探索限界は20ピクセル、その他のポイントに対し対する探索限界は2ピクセル。」ステップ、「トラッキング結果のポイント変位が18ピクセル以上か(1番目のポイントに関して。他のポイントの場合は1ピクセル)」のステップを経て、YESの場合は、「新たな位置補正をしてマッチング継続」ステップ、「ブロックマッチング・アルゴリズムを使って全方向を探索。1番目のポイントに対する探索限界は20ピクセル、その他のポイントに対し対する探索限界は2ピクセル。」へのステップへ、そして、NOの場合、「対象ポイントのトラッキング終了」となる。
【0068】
ブロックマッチングハンドラーアルゴリズムは前フレームのトラッキング対象ポリゴン上のポイント近傍のピクセルから構成されるブロックを生成する。このポイント近傍ブロックに対してはブロックマッチングアルゴリズムを使い現フレーム上でのマッチングが行われる。対象ポイントが前フレームのポリゴン上の最初のポイントの場合、このポイントは位置補正無しで現フレーム上でも使用される。ポイント近傍ブロックは現フレーム上の該当ポイント位置を起点にして全4方向に最大20ピクセルの範囲内でマッチング処理される。対象ポイントが前フレームのポリゴン上の最初のポイントではない場合、ポイント近傍ブロックは現フレーム上の該当ポイント位置を起点にして全4方向に最大2ピクセルの範囲内でマッチング処理される。
【0069】
このアルゴリズムがマッチング処理の中核となるアルゴリズムである。前フレーム上のポリゴンの各ポイント(制御点)におけるシンプルブロックとデリバティブブロックに対して現フレーム上でのトラッキングが実行される。ブロックマッチング処理における入力は、現フレーム上でのマッチングにおいて参照する前フレームのブロックピクセルであり、出力は現フレーム上での最適マッチングポイント位置の座標である。最初のポリゴンポイントに対しては現フレーム上のトラッキング探索領域は広く取られる。トラッキング処理時間を短縮するために、2番目以降のポリゴンポイントのトラッキングでは最初のポリゴンポイントの移動変位分を位置補正して使用する。 現フレーム上でのブロックマッチングを図9に示す。
【0070】
図9に示す二つのフレームにおいて、フレーム1(A図)はトラッキング対象オブジェクトが定義されている前フレームであり、フレーム2(B図)はトラッキング処理により対象オブジェクトが生成される現フレームである。フレーム1には対象オブジェクトを示すポリゴンの一部が表示されている。丸印のP1、P2、P3はポリゴンポイントを示している。P1はトラッキング対象の最初のポリゴンポイントである。P1は現フレーム上の広い領域(20画素四方)でマッチングされる。P1以外のポリゴンポイントに対してはP1の移動変位分を位置補正して使用するため、より狭い領域(2画素四方)でのマッチングが実行される。マッチングは探索領域内のの全4方向に対して行われる。この探索領域はフレーム2でポリゴンポイント近傍の矩形領域として示されている。フレーム2の新P1は最初のポリゴンポイントP1に対するトラッキングの結果によって得られた位置である。候補P2と候補P3はP1の移動変位分を補正した後の前フレーム上のP2とP3に対応した現フレーム上の候補位置である。これらのポリゴンポイントに対しては位置決めのための探索領域は狭く取られる。
【0071】
前フレーム上に形成されたシンプルブロックとデリバティブブロックは現フレーム上に置かれ、前フレーム上のブロックピクセルと現フレーム上のブロックピクセルとの間の差異が計算される。シンプルブロック間の色の差異とデリバティブブロック間の色の差異の総和が求められ、この総和が最小となる位置を現フレーム上での対応するポリゴンポイントの位置とする。総和を求める次式は経験則に基づいて決定された。
【0072】
色の差異の総和=デリバティブブロック間の色の差異+
(シンプルブロック間の色の差異×シンプルブロック間の色の差異)
【0073】
シンプルブロックマッチングでは前フレーム上のブロックピクセルと、現フレーム上の対応ピクセルとの間の色に関する差異が計算される。デリバティブブロックマッチングのアルゴリズムは境界を境にして色の値が大きく変化する性質を利用することを考えて設計されている。オブジェクト領域と隣接領域とは識別可能な境界によって分離されていることが多いため、トラッキングに関しては境界は極めて重要な情報を与えてくれる。
【0074】
Mask Trackerアプリケーションで使用されているデリバティブマスクのX係数(A)とY係数(B)を図10に示す。
【0075】
各フレーム上でのトラッキングを繰り返すにつれて小さな誤差が生じる。この誤差はトラッキングを行うフレーム数が少ない内は問題とはならないが、多数のフレームを処理するにつれて誤差累積による形状崩れは無視できなくなる。正確なトラッキングを行うと同時に、オブジェクトの幾何形状を維持することも重要となる。本発明ではこの問題を解決するために形状修正アルゴリズムという手法を導入した。形状修正アルゴリズムはトラッキング結果の改善を行うものである。前フレーム上のポリゴンの内角を求めておく。トラッキングの結果として得られた現フレーム上のポリゴンの内角も計算により求める。前フレーム上のポリゴンの内角と、現フレーム上のポリゴンの内角に差があるかを計算する。内角に最大の違いがあるポイントに対して内角の差を最小化する位置に現フレーム上のポリゴンポイントを移動させることによりその差を最小化する。内角の差を最小化させるために移動させるポリゴンポイントはブロックマッチング結果とも矛盾しない範囲での移動量となる。これによって現フレーム上でのポリゴン形状の修正がなされる。
【0076】
トラッキング対象オブジェクトは変形無しの剛体移動だけをするとは限らない。オブジェクト領域は僅かながらも変形をする可能性がある。そのため、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較してはならない。この問題を解決するために、“変形”及び“変形限界”という新しい考え方をブロックマッチングアルゴリズムに導入した。変形処理は次のようにして行う。前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行う。隣接ピクセル数は適用する変形限界によって定められる。図11の丸7はマッチングに使うブロックピクセルである。このブロックの多孔率は3となっている例である。前フレームのブロック(A)上の丸ピクセル7が、現フレーム上の対応するブロック(B)の丸ピクセル7とマッチングされる。前フレーム上の丸ピクセル7は、現フレーム上の対応するブロックピクセル7との比較に加えて、さらに隣接ピクセル8ともマッチングされる。すなわち、前フレーム上の各ブロックピクセルは現フレーム上の9側のピクセルとマッチングされることになる。
【0077】
理想的には、トラッキング対象のオブジェクトを最初のフレーム上で定義すれば、Mask Trackerアプリケーションが最後のフレームまでトラッキングするのが望ましい。しかし実際には多くの理由によりそれは不可能である。例えば、Mask Trackerアプリケーションは対象領域をフレームを追ってトラッキングするが、前後のフレーム間には認知し難いレベルの小さな誤差が発生する。この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じる。この問題に対処する方法としてキーフレームという考え方が導入された。
【0078】
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておく。これらのフレームがキーフレームである。トラッキングに問題が発生しやすいと考えられるフレームをキーフレームとして設定する。問題が起こりやすいケースしては次のような場合がある。
【0079】
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
トラッキングの途中でキーフレームに到達すると、Mask Trackerアプリケーションはキーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行う。キーフレームに到達した時点で誤差の累積はキャンセルされることになる。このやり方は処理時間の節約になるとともに、トラッキングが問題なく進行しているかどうかを監視しておく必要がないのでトラッキングのバッチ処理が可能となる。
【0080】
繰り返し的な極めて速い動きが実際問題においては存在する。このようなケースでは、前フレームの情報だけに基づいて現フレームのトラッキングを行うシーケンシャルトラッキングでは追随能力上で問題が生じる。このような場合の対処法として、あらかじめ対象オブジェクトが取り得る位置を示すフレームをキーフレーム(参照フレーム)として登録しておく方式が開発された。登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択される。このトラッキング処理の際にはポリゴン内部領域全体が比較対象となる。さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【図面の簡単な説明】
【0081】
【図1】Mask Mask Trackerシステムのブロック図
【図2】Mask Mask Trackerシステムのフローチャート
【図3】Mask Trackerハンドラーアルゴリズムのフローチャート
【図4】フレームトラッキングアルゴリズムのフローチャート
【図5】ポリゴンポイント近傍に生成されるシンプルブロックの説明図
【図6】ポリゴンポイント近傍に生成されるデリバティブブロックの説明図
【図7】多孔性ブロックの説明図
【図8】ブロックマッチングハンドラーアルゴリズムのフローチャート
【図9】ブロックマッチングの説明図
【図10】デリバティブマスクのX係数とY係数の説明図
【図11】変形限界の説明図
【技術分野】
【0001】
本発明は映像処理に係わり、特に人物の動きに対応した特定の部位にモザイク処理を生成するオブジェクトのモザイク処理方法及びモザイク処理装置に関する。
【背景技術】
【0002】
モザイク処理は難易度が高い。なぜなら、モザイク処理が必要な映像は偶発的に収録可能になった状況が多く、モザイク処理を行うために収録を行うという事例は極めて少ないためである。つまり映像処理を行うために撮影側で環境を整備することは困難である。そのような状況下では既存のクロマキー装置やマスク生成装置を使用することも出来ない。ゆえにモザイク処理を行うことを前提にされなかった収録映像を処理する事となる。
【0003】
より品質の高いモザイク処理を行うためには、それぞれのフレーム内のモザイク処理必要領域を作業者が抽出しマスクを作成することとなり膨大な作業時間が必要となる。
【0004】
モザイク処理には主に次の2つの方法が挙げられる。
第一に人間が1フレームずつ手書きでマスクを作成する方法である。
1フレームずつモザイク処理を施さなければならない領域を描写していく。1秒間で30枚の収録映像につき、作業を施すために作業時間、作業工程は必然的に多くなる。
【0005】
第二に映像合成ソフトを使用してモザイク処理を行う方法である。
第一フレームに作業者がモザイク修正領域を指定する(第一点)。第二点に再び修正領域を指定する。第一点と第二点の間は自動的に補完される。しかしながら、対象物の移動速度は一定ではなく、かつカメラアングルも固定されないため、直線的な補完では対象物が領域外に出てしまう場合が多い。作業者は対象物が領域外に出た箇所を検出し修正をするといった作業の繰り返しとなる。
【0006】
本発明は、モザイク処理を施さなければならない領域を自動的に抽出することである。従来よりモーショントラッキング機能を利用してトラッキングデータを生成することが行われている。モーショントラッキング機能は映像の色彩データを基に対象物の移動データを生成する。しかし対象物の形状に沿った動きを生成することは出来ない。
【0007】
この点、ビデオオブジェクトをトラッキングする方法及び装置が、特許文献1によって提案されている。この先提案技術に従うと、オブジェクトは複数の画像フレームでトラッキングされる。最初のフレームでは、オペレータはトラッキングされるべきオブジェクトを選択する。選択されたオブジェクトまたは選択されたオブジェクトの修正された推定値を画像の残りの背景部分と区別して、背景マスクおよび前景マスクを生成する。前景マスクはトラッキングされるべきオブジェクトに対応する。後続のフレーム内では背景マスクのモデルが用いられ、更新され、後続のフレーム内では前景マスクのモデルが用いられ、更新される。後続のフレーム内の画素は背景または前景に属するものとして分類される。そして、後続のフレームの各々では、以下を含む決定がなされる。すなわち、どの画素が背景に属さないか、(元の画像に基づいて)前景内のどの画素が更新されるべきか、背景内のどの画素が現在のフレーム内で不正確に認識されたか、どの背景画素が初めて認識されているのか、を含めての決定がなされる。これらの決定のいくつかは必ずしも他の決定と相互に相反するものではない。
【0008】
更に、この先提案技術に従えば、画素の分類に加えて、マスクフィルタリングが行なわれて誤りが訂正され、小さな島が除去され、前景マスクの空間的および時間的整合性が維持される。わずかな出力遅延を用いてオブジェクトトラッキングが達成される。ある実施例では、3フレーム待ち時間が採用される。
【0009】
この先提案技術の利点は、変化が速い形状を有するオブジェクトが動きのない背景に対して正確にトラッキングされることである。前のフレームおよび未来フレーム内の情報を用いてオブジェクトの動きを検出する。オブジェクトは内部で変化し得るものであり、それ自体で自身を隠すものでさえあり得る。別の利点は、以前には現れていない(unrevealed)(つまり、隠されていた)背景部分が識別され、オブジェクト推定値の正確さが増すことである。別の利点は、オブジェクト内のホールも正確にトラッキングされることである。
【0010】
しかしこの先提案技術によっても、被処理オブジェクト(映像)の種類によっては、信頼性の点で不充分であった。
【特許文献1】特開2003−51983
【発明の開示】
【発明が解決しようとする課題】
【0011】
本発明は、指定フレーム上の対象物に沿った形状をポリゴンで作成し一連の動きの中で後続フレーム上の対象物を自動的に抽出することを目的とした、信頼性の高いトラッキング機能を具備したマスク処理システムに関するものである。
【課題を解決するための手段】
【0012】
上記発明の課題は、下記構成によって解決される。
1.最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施すことを特徴とするオブジェクトのモザイク処理方法。
【0013】
2.「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを有することを特徴とするオブジェクトのモザイク処理方法。
【0014】
3.トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定されることを特徴とする前記1又は2に記載のオブジェクトのモザイク処理方法。
【0015】
4.ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避けることを特徴とする前記1〜3のいずれかに記載のオブジェクトのモザイク処理方法。
【0016】
5.前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行うことを特徴とする前記1〜4のいずれかに記載のオブジェクトのモザイク処理方法。
【0017】
6.マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まないことを特徴とする前記1〜5のいずれかに記載のオブジェクトのモザイク処理方法。
【0018】
7.ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にすることを特徴とする前記1〜6のいずれかに記載のオブジェクトのモザイク処理方法。
【0019】
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【0020】
8.トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入したことを特徴とする前記1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
【0021】
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【0022】
9.あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行されることを特徴とする前記1〜8のいずれかに記載のオブジェクトのモザイク処理方法。
【0023】
10.対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理することを特徴とする前記1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
【0024】
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
【0025】
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【0026】
11.プロセッサを有するオブジェクトのモザイク処理装置において、最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施す構成のプロセッサを有することを特徴とするオブジェクトのモザイク処理装置。
【0027】
12.プロセッサを有するオブジェクトのモザイク処理装置において、プロセッサは、「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを行う構成であることを特徴とするオブジェクトのモザイク処理装置。
【0028】
13.トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定される構成のプロセッサを有することを特徴とする前記11又は12に記載のオブジェクトのモザイク処理装置。
【0029】
14.ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避ける構成のプロセッサを有することを特徴とする前記11〜13のいずれかに記載のオブジェクトのモザイク処理装置。
【0030】
15.前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行う構成のプロセッサを有することを特徴とする前記11〜14のいずれかに記載のオブジェクトのモザイク処理装置。
【0031】
16.マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない処理を行う構成のプロセッサを有することを特徴とする前記11〜15のいずれかに記載のオブジェクトのモザイク処理装置。
【0032】
17.ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にする構成のプロセッサを有することを特徴とする前記11〜16のいずれかに記載のオブジェクトのモザイク処理装置。
【0033】
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【0034】
18.トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入した構成のプロセッサを有することを特徴とする前記11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
【0035】
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【0036】
19.あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行される構成のプロセッサを有することを特徴とする前記11〜18のいずれかに記載のオブジェクトのモザイク処理装置。
【0037】
20.対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理する構成のプロセッサを有することを特徴とする前記11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
【0038】
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
【0039】
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【発明を実施するための最良の形態】
【0040】
本発明はデジタル画像オブジェクトのトラッキング処理及び装置に関するものである。本発明に係るシステムの概念図を図1に示す。
【0041】
AVI(映像標準フォ−マット)ファイルの最初のフレーム上の特定領域(オブジェクト)をユーザが指定し、連続する後続フレームに対してその領域(オブジェクト)をトラッキングする。最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定める。得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められる。このトラッキング処理が後続フレームに対して連続的に実行される。このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施す。この処理の全体フローチャートを図2に示す。
【0042】
即ち、「入力AVIファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップで処理されることとなる。
【0043】
トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義される。ユーザが指定した領域に対して後続フレームでのトラッキングが実行される。トラッキングはポリゴン上の各ポイントを対象にして実行される。前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、トラッキング速度を上げるために、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用される。前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定される。
【0044】
ポイント近傍ブロック生成の考え方は多くの研究論文で使われているが、本発明で採用したポイント近傍ブロックはポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避けることができるため、良質なトラッキング結果が期待できる。マッチング処理においては領域ベーストラッキングや境界ベーストラッキングの手法が通常使用されるが、本発明では、領域ベーストラッキングと境界ベーストラッキングの両方の概念を取り入れた独自のアルゴリズムを用いている。本発明ではシンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用する。シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものである。デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成とマッチングのやり方は、本発明者らによって独自に開発された。このブロックの生成とマッチング法に採用されたやり方は、本発明者らによる多大の検討、研究の中から導かれた。デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない。その理由は、これらのピクセルは境界外ピクセルの色の影響を大きく受けることにより、トラッキング結果に悪い影響を与えるためである。
【0045】
トラッキング処理速度の向上とトラッキング精度の維持という相反する目的を達成するために、ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはしない。さらにポイント近傍ブロックには多孔性ブロックという新しい概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にする。
【0046】
各フレーム上でのトラッキングを繰り返すにつれて小さな誤差が累積される。この誤差はトラッキングを行うフレーム数が少ない内は問題とはならないが、多数のフレームを処理するにつれて誤差累積による形状崩れは無視できなくなる。正確なトラッキングを行うと同時に、オブジェクトの幾何形状を維持することも重要となる。本発明ではこの問題を解決するために形状修正アルゴリズムという手法を導入した。
【0047】
トラッキング対象オブジェクトは変形無しの剛体移動だけをするとは限らない。オブジェクト領域は僅かながらも変形をする可能性がある。そのため、トラッキングの際には形状の変化を考慮する必要がある。現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較してはならない。この問題を解決するために、“変形”及び“変形限界”という新しい概念をブロックマッチング・アルゴリズムに導入した。
【0048】
繰り返し的な極めて速い動きが実際問題においては存在する。このようなケースでは、前フレームの情報だけに基づいて現フレームのトラッキングを行うシーケンシャルトラッキングのやり方では追随できない問題が生じる。このような場合の対処法として、あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入された。登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択される。このポリゴン候補に対してさらにトラッキング処理が実行される。
【実施例】
【0049】
図1にMask Trackerシステムの構成図の例を示す。映像データはオーディオデータとビデオデータの2種から構成されている。映像データはAVIフォーマットに変換される。映像編集ソフトウェアを使ってトラッキング処理を行う映像部分を切り出し、Mask Trackerプラグインを介してMask Trackerアプリケーションでトラッキング処理を実行する。トラッキングオブジェクトに対するマスク処理を施されたAVIファイルは、Mask Trackerプラグインを介し映像処理ソフトウェアを使って元の映像AVIファイルに書き込まれ、さらに変換ハードウェアにより映像テープに変換される。Mask Trackerプラグインは映像編集ソフトウェアとMask Trackerアプリケーションの仲介的役割を行う。Mask Trackerアプリケーションへの入力データはMask Trackerプラグインから受け取ったAVIファイルである。ユーザはMask Trackerアプリケーションを使って対象オブジェクトのトラッキングを行うことができる。トラッキング処理されたAVIファイルは再びMask Trackerプラグインを介して映像編集ソフトウェアに戻される。
【0050】
AVIファイルの最初のフレーム上の特定領域をユーザが指定し、連続する後続フレームに対してその領域をトラッキングする。最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定する。最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定める。トラッキング処理の全体フローチャートは、前記図2に示す通りである。
【0051】
Mask Trackerハンドラーは領域指定のポリゴンを有する最初のフレームにアクセスし、その後で2番目のフレームを読み込む。このフレーム上で、フレームトラッキングのアルゴリズムを使ってポリゴンのトラッキングを行う。2番目のフレーム上でのポリゴン位置を確定した後で、このポリゴンをベースにして3番目のフレーム上でのトラッキングが実行される。同様の処理が後続フレームに対しても次々と行われる。Mask Trackerハンドラーアルゴリズムのフローチャートを図3に示す。
【0052】
即ち、トラッキング領域指定のポリゴンを有する1番目のフレームから現フレームが最後のフレームになるまでは、最後のフレームまで次々とトラッキングが実行される。現フレームが最後のフレームでない限り、トラッキング対象の次のフレームを選択し、フレーム・トラッキングのアルゴリズムを使い、前フレーム上のポリゴンを参照してトラッキングを行うことが繰返される。そして、現フレームが最後のフレームになったとき、AVIファイルのトラッキングが終了となる。
【0053】
本発明において、トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって定義されるポリゴンによって定義される。フレーム上に作成されたポイントを通るスプラインが作成されるので、ポリゴンは角を持たない滑らかな曲線として表示される。
【0054】
前フレーム上に存在するポリゴン上のポイントを現在フレームに対してトラッキングする際にはトラッキング速度を上げるために、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用される。前フレーム上の各ポリゴンのすべてのポイントは現フレーム上でブロックマッチングアルゴリズムを使ってトラッキングされる。前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定するものである。前フレーム上のすべてのポリゴンに対するトラッキングが完了した時点で、現在フレームに対するトラッキング処理は終了となる。このフレームトラッキングアルゴリズムのフローチャートを図4に示す。ブロックマッチングアルゴリズムについては後述する。
【0055】
フレームトラッキングアルゴリズムは、図4(A)のフローチャートに示ず如く、「ポリゴンを有する前フレームとトラッキングを行う現フレーム」ステップ、「現フレーム上の処理対象ポリゴンにアクセス」ステップ、「選択されたポリゴン上の次のポイントにアクセス」ステップ、「ブロックマッチングハンドラー・アルゴリズムを使って上記ポリゴンポイントのトラッキング」ステップ、下記「(A)」へというステップを経るが、後記「(B)」は「現フレーム上の処理対象ポリゴンにアクセス」のズテップへ、そして後記「(C)」は「選択されたポリゴン上の次のポイントにアクセス」のステップを経ることとなる。図4(B)のフローチャートに示ず如く、前記「(A)」から「前フレームのポイントのX、Y座標値を現フレームでのトラッキング初期値に設定」ステップ、「現在のポイントが最後か」のステップへ、このステップにおいてNOの場合は前記「(C)」へ、そしてYESの場合、「現在のポリゴンが前フレーム上の最後のポリゴンか」ステップへ、NOの場合は前記「(B)」へ、そしてYESの場合は「現フレーム上のトラッキング終了」のステップを経て終わる。
【0056】
ポイント近傍ブロック生成の考え方は多くの研究論文で使われているが、本発明で採用したポイント近傍ブロックはポリゴン領域内(指定オブジェクト領域内)の一部ピクセルだけから構成されていて、ポリゴン領域外の影響を避けることができるため、良質なトラッキング結果が期待できる。トラッキング処理速度はブロック内の処理対象ピクセル数に比例する。そのため、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、一部のピクセルを間引きした残りのピクセルをブロックピクセルとして処理対象にする多孔性ブロックにすることによってトラッキング速度を向上させることができる。トラッキング速度改善を図って単にブロックサイズを小さくするだけであれば、良いトラッキング結果は得られない。大きなブロックサイズの優位性とトラッキング速度の向上を両立させるやり方として多孔性ブロックという新しい考え方が導入された。間引き率(多孔率)はポリゴン幅を基にして定められる。多孔率が大きいほどトラッキング速度は上がるがトラッキング精度は悪くなる。多孔率はポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなる。ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならない。図7に多孔ブロックの一例を示す。線1はポリゴン境界を示す。矩形2はポリゴン上のポイントである。この図は多孔率が3である例を示しており、ピクセルは3つおきに選択されている。選択されたピクセルは丸3で示されている。ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【0057】
マッチング処理においては領域ベーストラッキングや境界ベーストラッキングの手法が通常使用されるが、本発明では、領域ベーストラッキングと境界ベーストラッキングの両方の概念を融合した独自のアルゴリズムを用いている。本発明ではシンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用する。
【0058】
図5にポリゴン上のポイント近傍に生成されたシンプルブロックを示す。灰色の領域5がブロック領域である。丸4はポリゴン上のポイント(制御点)である。灰色領域内部に離散的に存在する点6は選択されたピクセルを示す。これがブロックの多孔性を示している。
【0059】
ポイント近傍ブロック生成の考え方は多くの研究論文で使われているが、本発明者らが採用したやり方は独自の考え方を基にしている。本発明におけるポイント近傍ブロックはポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されている。ポリゴン領域外の影響を避けることができるため、良質なトラッキング結果が期待できる。トラッキング処理速度を上げるために、多孔性ブロックという新しい概念を取り入れた。ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、一部のピクセルを間引きした残りのピクセルをブロックピクセルとして処理対象にする。間引き率(多孔率)はポリゴン幅を基にして定められる。
【0060】
多孔率が大きいほどトラッキング速度は上がるがトラッキング精度は悪くなる。多孔率はポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなる。
【0061】
ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならない。
【0062】
図5のブロックはポリゴン上のポイント近傍ブロックを模式的に示すもので、ポイント近傍ブロックにはシンプルブロックとデリバティブブロックの2種類があるが、この図はシンプルブロックのケースであり、ブロックの領域は同図の線と線で囲まれた部分であり、各方眼は1ピクセル領域を表しており矩形部分(黒い太線上)がポリゴン上のポイントである。
【0063】
前フレームでのこのポリゴンポイントが、次フレームではどこに位置するかを決定するのがマッチング処理であり、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定する。この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行う。次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになる(同様な判定をデリバティブブロックに関しても行う。)。マッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行う。このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行う。
【0064】
上述のプロセスには膨大な演算が必要となる。この演算量を低減することを目的にして多孔性ブロックが導入された。この場合、ブロック上の全ピクセルを対象にした比較は行わず、一部のピクセルだけをピックアップして比較演算を行う。図5の丸の位置にあるピクセルがピックアップされたピクセルを示している。各丸ピクセル間には空白の3つの方眼がある。これらの空白方眼の位置にあるピクセルは演算対象から除外されている。即ち、この図は多孔率が3の例を示している。
【0065】
デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない。その理由は、これらのピクセルは境界外ピクセルの色の影響を大きく受けることにより、トラッキング結果に悪い影響を与えるためである。境界から遠く離れたピクセルは境界の特性を有しないため、これらのピクセルもデリバティブブロックには含めない。ポリゴン境界とデリバティブブロックの境界ピクセルとの間の最短距離は少なくとも4ピクセル以上とし、最長距離はポリゴン幅に基いて決定される(最長距離=ポリゴン幅/2.5)。ただし、この最長距離は少なくとも8ピクセル以下にはしない。図6にデリバティブブロックの例を示す。なお、デリバティブブロックはシンプルブロックと同様に多孔性を有する。
【0066】
シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものである。デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成とマッチングのやり方は本発明者らによって開発された。このブロックの生成とマッチング法に採用されたやり方は本発明者らによる多大の研究の中から導かれた。デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない。その理由は、これらのピクセルは境界外ピクセルの色の影響を大きく受けることにより、トラッキング結果に悪い影響を与えるためである。
【0067】
ブロックマッチングハンドラーアルゴリズムのフローチャートを図8に示す。
即ち、「トラッキング対象のポイントを前フレームから得る」ステップ、「ポイント近傍ブロックの生成」ステップ、「ブロックマッチング・アルゴリズムを使って現フレーム上での最適ポイントを決定」ステップ、「ブロックマッチング・アルゴリズムを使って全方向を探索。1番目のポイントに対する探索限界は20ピクセル、その他のポイントに対し対する探索限界は2ピクセル。」ステップ、「トラッキング結果のポイント変位が18ピクセル以上か(1番目のポイントに関して。他のポイントの場合は1ピクセル)」のステップを経て、YESの場合は、「新たな位置補正をしてマッチング継続」ステップ、「ブロックマッチング・アルゴリズムを使って全方向を探索。1番目のポイントに対する探索限界は20ピクセル、その他のポイントに対し対する探索限界は2ピクセル。」へのステップへ、そして、NOの場合、「対象ポイントのトラッキング終了」となる。
【0068】
ブロックマッチングハンドラーアルゴリズムは前フレームのトラッキング対象ポリゴン上のポイント近傍のピクセルから構成されるブロックを生成する。このポイント近傍ブロックに対してはブロックマッチングアルゴリズムを使い現フレーム上でのマッチングが行われる。対象ポイントが前フレームのポリゴン上の最初のポイントの場合、このポイントは位置補正無しで現フレーム上でも使用される。ポイント近傍ブロックは現フレーム上の該当ポイント位置を起点にして全4方向に最大20ピクセルの範囲内でマッチング処理される。対象ポイントが前フレームのポリゴン上の最初のポイントではない場合、ポイント近傍ブロックは現フレーム上の該当ポイント位置を起点にして全4方向に最大2ピクセルの範囲内でマッチング処理される。
【0069】
このアルゴリズムがマッチング処理の中核となるアルゴリズムである。前フレーム上のポリゴンの各ポイント(制御点)におけるシンプルブロックとデリバティブブロックに対して現フレーム上でのトラッキングが実行される。ブロックマッチング処理における入力は、現フレーム上でのマッチングにおいて参照する前フレームのブロックピクセルであり、出力は現フレーム上での最適マッチングポイント位置の座標である。最初のポリゴンポイントに対しては現フレーム上のトラッキング探索領域は広く取られる。トラッキング処理時間を短縮するために、2番目以降のポリゴンポイントのトラッキングでは最初のポリゴンポイントの移動変位分を位置補正して使用する。 現フレーム上でのブロックマッチングを図9に示す。
【0070】
図9に示す二つのフレームにおいて、フレーム1(A図)はトラッキング対象オブジェクトが定義されている前フレームであり、フレーム2(B図)はトラッキング処理により対象オブジェクトが生成される現フレームである。フレーム1には対象オブジェクトを示すポリゴンの一部が表示されている。丸印のP1、P2、P3はポリゴンポイントを示している。P1はトラッキング対象の最初のポリゴンポイントである。P1は現フレーム上の広い領域(20画素四方)でマッチングされる。P1以外のポリゴンポイントに対してはP1の移動変位分を位置補正して使用するため、より狭い領域(2画素四方)でのマッチングが実行される。マッチングは探索領域内のの全4方向に対して行われる。この探索領域はフレーム2でポリゴンポイント近傍の矩形領域として示されている。フレーム2の新P1は最初のポリゴンポイントP1に対するトラッキングの結果によって得られた位置である。候補P2と候補P3はP1の移動変位分を補正した後の前フレーム上のP2とP3に対応した現フレーム上の候補位置である。これらのポリゴンポイントに対しては位置決めのための探索領域は狭く取られる。
【0071】
前フレーム上に形成されたシンプルブロックとデリバティブブロックは現フレーム上に置かれ、前フレーム上のブロックピクセルと現フレーム上のブロックピクセルとの間の差異が計算される。シンプルブロック間の色の差異とデリバティブブロック間の色の差異の総和が求められ、この総和が最小となる位置を現フレーム上での対応するポリゴンポイントの位置とする。総和を求める次式は経験則に基づいて決定された。
【0072】
色の差異の総和=デリバティブブロック間の色の差異+
(シンプルブロック間の色の差異×シンプルブロック間の色の差異)
【0073】
シンプルブロックマッチングでは前フレーム上のブロックピクセルと、現フレーム上の対応ピクセルとの間の色に関する差異が計算される。デリバティブブロックマッチングのアルゴリズムは境界を境にして色の値が大きく変化する性質を利用することを考えて設計されている。オブジェクト領域と隣接領域とは識別可能な境界によって分離されていることが多いため、トラッキングに関しては境界は極めて重要な情報を与えてくれる。
【0074】
Mask Trackerアプリケーションで使用されているデリバティブマスクのX係数(A)とY係数(B)を図10に示す。
【0075】
各フレーム上でのトラッキングを繰り返すにつれて小さな誤差が生じる。この誤差はトラッキングを行うフレーム数が少ない内は問題とはならないが、多数のフレームを処理するにつれて誤差累積による形状崩れは無視できなくなる。正確なトラッキングを行うと同時に、オブジェクトの幾何形状を維持することも重要となる。本発明ではこの問題を解決するために形状修正アルゴリズムという手法を導入した。形状修正アルゴリズムはトラッキング結果の改善を行うものである。前フレーム上のポリゴンの内角を求めておく。トラッキングの結果として得られた現フレーム上のポリゴンの内角も計算により求める。前フレーム上のポリゴンの内角と、現フレーム上のポリゴンの内角に差があるかを計算する。内角に最大の違いがあるポイントに対して内角の差を最小化する位置に現フレーム上のポリゴンポイントを移動させることによりその差を最小化する。内角の差を最小化させるために移動させるポリゴンポイントはブロックマッチング結果とも矛盾しない範囲での移動量となる。これによって現フレーム上でのポリゴン形状の修正がなされる。
【0076】
トラッキング対象オブジェクトは変形無しの剛体移動だけをするとは限らない。オブジェクト領域は僅かながらも変形をする可能性がある。そのため、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較してはならない。この問題を解決するために、“変形”及び“変形限界”という新しい考え方をブロックマッチングアルゴリズムに導入した。変形処理は次のようにして行う。前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行う。隣接ピクセル数は適用する変形限界によって定められる。図11の丸7はマッチングに使うブロックピクセルである。このブロックの多孔率は3となっている例である。前フレームのブロック(A)上の丸ピクセル7が、現フレーム上の対応するブロック(B)の丸ピクセル7とマッチングされる。前フレーム上の丸ピクセル7は、現フレーム上の対応するブロックピクセル7との比較に加えて、さらに隣接ピクセル8ともマッチングされる。すなわち、前フレーム上の各ブロックピクセルは現フレーム上の9側のピクセルとマッチングされることになる。
【0077】
理想的には、トラッキング対象のオブジェクトを最初のフレーム上で定義すれば、Mask Trackerアプリケーションが最後のフレームまでトラッキングするのが望ましい。しかし実際には多くの理由によりそれは不可能である。例えば、Mask Trackerアプリケーションは対象領域をフレームを追ってトラッキングするが、前後のフレーム間には認知し難いレベルの小さな誤差が発生する。この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じる。この問題に対処する方法としてキーフレームという考え方が導入された。
【0078】
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておく。これらのフレームがキーフレームである。トラッキングに問題が発生しやすいと考えられるフレームをキーフレームとして設定する。問題が起こりやすいケースしては次のような場合がある。
【0079】
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
トラッキングの途中でキーフレームに到達すると、Mask Trackerアプリケーションはキーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行う。キーフレームに到達した時点で誤差の累積はキャンセルされることになる。このやり方は処理時間の節約になるとともに、トラッキングが問題なく進行しているかどうかを監視しておく必要がないのでトラッキングのバッチ処理が可能となる。
【0080】
繰り返し的な極めて速い動きが実際問題においては存在する。このようなケースでは、前フレームの情報だけに基づいて現フレームのトラッキングを行うシーケンシャルトラッキングでは追随能力上で問題が生じる。このような場合の対処法として、あらかじめ対象オブジェクトが取り得る位置を示すフレームをキーフレーム(参照フレーム)として登録しておく方式が開発された。登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択される。このトラッキング処理の際にはポリゴン内部領域全体が比較対象となる。さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【図面の簡単な説明】
【0081】
【図1】Mask Mask Trackerシステムのブロック図
【図2】Mask Mask Trackerシステムのフローチャート
【図3】Mask Trackerハンドラーアルゴリズムのフローチャート
【図4】フレームトラッキングアルゴリズムのフローチャート
【図5】ポリゴンポイント近傍に生成されるシンプルブロックの説明図
【図6】ポリゴンポイント近傍に生成されるデリバティブブロックの説明図
【図7】多孔性ブロックの説明図
【図8】ブロックマッチングハンドラーアルゴリズムのフローチャート
【図9】ブロックマッチングの説明図
【図10】デリバティブマスクのX係数とY係数の説明図
【図11】変形限界の説明図
【特許請求の範囲】
【請求項1】
最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施すことを特徴とするオブジェクトのモザイク処理方法。
【請求項2】
「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを有することを特徴とするオブジェクトのモザイク処理方法。
【請求項3】
トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定されることを特徴とする請求項1又は2に記載のオブジェクトのモザイク処理方法。
【請求項4】
ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避けることを特徴とする請求項1〜3のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項5】
前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行うことを特徴とする請求項1〜4のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項6】
マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まないことを特徴とする請求項1〜5のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項7】
ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にすることを特徴とする請求項1〜6のいずれかに記載のオブジェクトのモザイク処理方法。
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【請求項8】
トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入したことを特徴とする請求項1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【請求項9】
あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行されることを特徴とする請求項1〜8のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項10】
対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理することを特徴とする請求項1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【請求項11】
プロセッサを有するオブジェクトのモザイク処理装置において、最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施す構成のプロセッサを有することを特徴とするオブジェクトのモザイク処理装置。
【請求項12】
プロセッサを有するオブジェクトのモザイク処理装置において、プロセッサは、「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを行う構成であることを特徴とするオブジェクトのモザイク処理装置。
【請求項13】
トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定される構成のプロセッサを有することを特徴とする請求項11又は12に記載のオブジェクトのモザイク処理装置。
【請求項14】
ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避ける構成のプロセッサを有することを特徴とする請求項11〜13のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項15】
前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行う構成のプロセッサを有することを特徴とする請求項11〜14のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項16】
マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない処理を行う構成のプロセッサを有することを特徴とする請求項11〜15のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項17】
ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にする構成のプロセッサを有することを特徴とする請求項11〜16のいずれかに記載のオブジェクトのモザイク処理装置。
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【請求項18】
トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入した構成のプロセッサを有することを特徴とする請求項11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【請求項19】
あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行される構成のプロセッサを有することを特徴とする請求項11〜18のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項20】
対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理する構成のプロセッサを有することを特徴とする請求項11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【請求項1】
最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施すことを特徴とするオブジェクトのモザイク処理方法。
【請求項2】
「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを有することを特徴とするオブジェクトのモザイク処理方法。
【請求項3】
トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定されることを特徴とする請求項1又は2に記載のオブジェクトのモザイク処理方法。
【請求項4】
ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避けることを特徴とする請求項1〜3のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項5】
前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行うことを特徴とする請求項1〜4のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項6】
マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まないことを特徴とする請求項1〜5のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項7】
ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にすることを特徴とする請求項1〜6のいずれかに記載のオブジェクトのモザイク処理方法。
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【請求項8】
トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入したことを特徴とする請求項1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【請求項9】
あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行されることを特徴とする請求項1〜8のいずれかに記載のオブジェクトのモザイク処理方法。
【請求項10】
対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理することを特徴とする請求項1〜7のいずれかに記載のオブジェクトのモザイク処理方法。
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【請求項11】
プロセッサを有するオブジェクトのモザイク処理装置において、最初のフレーム上にトラッキング対象のオブジェクト領域をユーザが指定し、後続フレームに対しては指定領域(オブジェクト)をトラッキングして後続フレーム上でのその位置を定め、得られた指定領域の新しい位置を基にし、さらに次のフレームに対してトラッキングにより指定領域(オブジェクト)の位置が定められ、このトラッキング処理が後続フレームに対して連続的に実行され、このようにして得られた各フレーム上のオブジェクトに対して指定されたマスク処理を施す構成のプロセッサを有することを特徴とするオブジェクトのモザイク処理装置。
【請求項12】
プロセッサを有するオブジェクトのモザイク処理装置において、プロセッサは、「入力AVI(映像標準フォーマット)ファイルの読込」ステップ、「最初のフレームを表示」ステップ、「指定領域にポリゴン作成」ステップ、「後続フレーム上での指定領域のトラッキング」ステップ、「トラッキングで得られた指定領域上でのマスク処理(モザイク発生、切り抜き)」ステップ、「マスク処理が付加されたAVIファイルの保存」のステップを行う構成であることを特徴とするオブジェクトのモザイク処理装置。
【請求項13】
トラッキング対象領域は、マウスクリックによるポイント(制御点)群によって生成されるポリゴンによって定義され、ユーザが指定した領域に対して後続フレームでのトラッキングが実行され、トラッキングはポリゴン上の各ポイントを対象にして実行され、前フレームのポリゴン上のポイントを現フレームに対してトラッキングする際には、前フレーム上でのポイント座標値が現フレームでのポイント座標初期値として利用され、前フレーム上の各ポリゴンのすべてのポイントに対してポリゴンポイント近傍にブロックを生成し、同一ブロックを現フレーム上の対応ポイント候補位置にも作成し、この両ブロック上でのマッチング比較によって現フレーム上での対応ポイントの位置が確定される構成のプロセッサを有することを特徴とする請求項11又は12に記載のオブジェクトのモザイク処理装置。
【請求項14】
ポイント近傍ブロックは、ポリゴン領域内(指定オブジェクト領域内)のピクセルだけから構成されていて、ポリゴン領域外の影響を避ける構成のプロセッサを有することを特徴とする請求項11〜13のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項15】
前フレームでのポリゴンポイントが、次フレームではどこに位置するかを決定するマッチング処理が、次フレームでのポイント候補位置に対して作成したポイント近傍ブロックと、前フレームでの対応ポイントに対して作成されているポイント近傍ブロックが同じかどうかを判定することによって行われ、この判定は両ブロックの対応する位置にあるピクセルのRGB値を比較することにより行い、次フレーム上のブロックの全ピクセルがそれぞれ前フレーム上のブロックの対応するピクセルと同じRGB値であれば、両ブロックは完全にマッチングしていることになり(同様な判定をデリバティブブロックに関しても行う。)、このマッチングの度合いが基準判定値を満足していない場合は、次フレーム上でのポイント候補位置をずらして、再度同様な判定を行い、このプロセスを次フレーム上でのポイント位置が定まるまで繰り返し行う構成のプロセッサを有することを特徴とする請求項11〜14のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項16】
マッチング処理において、領域ベーストラッキングと境界ベーストラッキングの両方の概念を有し、シンプルブロックマッチング用のシンプルブロックと、デリバティブブロックマッチング用のデリバティブブロックの2種のブロックを使用し、シンプルブロックの生成とシンプルブロックマッチングは領域トラッキングの優位性を利用するものであり、デリバティブブロックは境界トラッキングの優位性を利用するもので、デリバティブブロックの生成に際しては、境界上と境界近傍のピクセルはブロックには含まない処理を行う構成のプロセッサを有することを特徴とする請求項11〜15のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項17】
ブロックの大きさは対象領域ポリゴンの大きさに基づいて定め、対象全領域をカバーすることはせず、さらにポイント近傍ブロックには、下記で定義される多孔性ブロックという概念を導入し、ブロック内部の全ピクセルをブロックピクセルとして取り扱うのではなく、下記特定の間引き率(多孔率)によって一部のピクセルを間引きした残りのピクセルだけをブロックピクセルとして処理対象にする構成のプロセッサを有することを特徴とする請求項11〜16のいずれかに記載のオブジェクトのモザイク処理装置。
[間引き率(多孔率)]
間引き率(多孔率)は、ポリゴン平均幅に比例して定められ、ポリゴン幅が広くなるにつれて多孔率は大きくなり、ポリゴン幅が広い大きなポリゴンの場合はトラッキング精度を上げるにはより大きなブロックサイズが必要であるが、多孔率が大きくなるのでブロックピクセル数はそれほど多くならないし、そして、ブロック生成に際しては境界外のピクセルは除外され、境界内のピクセルが離散的に選択される。
【請求項18】
トラッキング対象オブジェクトは、領域は僅かながらも変形をする可能性があり、トラッキングの際には形状の変化を考慮するものとし、現フレームとのマッチングを行う際に、前フレーム上のブロック形状を不変として比較せず、下記で定義される、“変形”及び“変形限界”という概念をブロックマッチング・アルゴリズムに導入した構成のプロセッサを有することを特徴とする請求項11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
[変形及び変形限界]
前フレーム上の各ブロックピクセルに対しては、対応する現フレーム上のピクセルとのマッチングを行うのに加えて、そのピクセルに隣接するピクセルとのマッチングも行い、隣接ピクセル数は適用する変形限界によって定められ、マッチングに使うブロックピクセルのブロックの多孔率は2以上とし、前フレームのブロック上の丸ピクセルが、現フレーム上の対応するブロックの丸ピクセルとマッチングされ、前フレーム上の丸ピクセルは、現フレーム上の対応するブロックピクセルとの比較に加えて、さらに隣接ピクセルともマッチングされること。
【請求項19】
あらかじめ対象オブジェクトが取り得る種々の形状を定義されたフレームを参照フレームとして登録しておくデータベーストラキング方式が導入され、登録されたすべての参照フレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じた参照フレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このポリゴン候補に対してさらにトラッキング処理が実行される構成のプロセッサを有することを特徴とする請求項11〜18のいずれかに記載のオブジェクトのモザイク処理装置。
【請求項20】
対象領域をフレームを追ってトラッキングするに際し、前後のフレーム間には認知し難いレベルの小さな誤差が発生し、この誤差はフレームを追うに従って累積され、ついには明確に認識できるレベルの違いが生じることに対処する方法として下記で定義されるキーフレームという概念を用いて処理する構成のプロセッサを有することを特徴とする請求項11〜17のいずれかに記載のオブジェクトのモザイク処理装置。
[キーフレーム]
ユーザは前もって数箇所のフレーム上にトラッキング対象オブジェクトを定義しておき(キーフレーム)、トラッキングに次のような問題が発生しやすいと考えられるフレームをキーフレームとして設定する。
(1)オブジェクトが急激、または極めて速い動きをする場合
(2)カメラの動きが大きい場合
(3)複数オブジェクトが重なり合う場合
(4)照明状況が変化する場合
トラッキングの途中でキーフレームに到達すると、キーフレーム上に定義済みのオブジェクトポリゴンを使ってトラッキングを行うものとし、キーフレームに到達した時点で誤差の累積はキャンセルされることになり、登録されたすべてのキーフレームに対して現フレームのトラッキングが実行され、その中で最良の結果を生じたキーフレーム上のポリゴンが現フレーム上でのポリゴン候補として選択され、このトラッキング処理の際にはポリゴン内部領域全体が比較対象となり、さらに最終調整として、上記処理で得られたポリゴン候補に対して現フレーム上で上下左右への平行移動、回転、オフセットを実行して領域全体比較での色の差異を最小にする形状を求める。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2006−293883(P2006−293883A)
【公開日】平成18年10月26日(2006.10.26)
【国際特許分類】
【出願番号】特願2005−116561(P2005−116561)
【出願日】平成17年4月14日(2005.4.14)
【出願人】(500133071)ソフト・オン・デマンド株式会社 (1)
【Fターム(参考)】
【公開日】平成18年10月26日(2006.10.26)
【国際特許分類】
【出願日】平成17年4月14日(2005.4.14)
【出願人】(500133071)ソフト・オン・デマンド株式会社 (1)
【Fターム(参考)】
[ Back to top ]