動きベクトル導出方法、動きベクトル導出プログラム及びこの動きベクトル導出プログラムを格納したデータ記憶媒体
【課題】効率のよい動きベクトル導出方法を得る。
【解決手段】現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出方法であって、処理対象のブロックに隣接する複数のブロックの動きベクトルを検索し、動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、複数の動きベクトルをそれぞれ分類し、複数のグループのうち最も多くの動きベクトルが属するグループを選択し、選択されたグループに属する動きベクトルに対して所定の演算処理を行い、この演算結果を処理対象のブロックの動きベクトルとする。
【解決手段】現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出方法であって、処理対象のブロックに隣接する複数のブロックの動きベクトルを検索し、動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、複数の動きベクトルをそれぞれ分類し、複数のグループのうち最も多くの動きベクトルが属するグループを選択し、選択されたグループに属する動きベクトルに対して所定の演算処理を行い、この演算結果を処理対象のブロックの動きベクトルとする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、イメージデータを処理する方法および装置に関するものである。本発明は、特に、例えば伝送の結果として発生する誤りを補償するためにイメージデータを処理する方法に関するものである。本発明は、詳細には、動きベクトルの誤りに関係するものである。
【背景技術】
【0002】
イメージデータ、特に圧縮ビデオビットストリームは、誤りに対して非常に敏感である。たとえば、符号化ビデオビットストリームの単一ビット誤りによって、表示画質に深刻な劣化がもたらされる可能性がある。誤り訂正方式は既知であり広く使用されているが、必ずしもうまくいくとは限らない。誤り、例えば伝送中に発生するビット誤りを、誤り訂正方式によって完全に訂正することができない場合、誤りによってもたらされるイメージの破損を隠蔽するために、誤り検出および隠蔽を使用することが既知である。
【0003】
既知のタイプの誤り隠蔽アルゴリズムは、概して2つの種類、すなわち空間的隠蔽と時間的隠蔽とに分類される。空間的隠蔽では、欠損データは隣接する空間情報を使用して復元されるが、時間的隠蔽では、それらは先のフレームのデータを使用して復元される。
【0004】
ビデオ信号における時間的相関を利用することによって時間的隠蔽を実行する1つの既知の方法は、損傷したマクロブロック(MB)を先のフレームの空間的に対応するMBと置換することである(例えば、特許文献1参照。)。
この方法は、コピーイングアルゴリズムと呼ばれる。この方法は、実現は容易であるが、動きが存在する領域に不適当な隠蔽をもたらす可能性がある。損傷MBを先のフレームからの動き補償済みブロックと置換することによって、著しく改善することができる。図1は、この技術を示す。しかしながら、これをうまく行うためには、動きベクトルが必要であり、マクロブロックデータが破損された場合、動きベクトルは入手可能でない場合がある。
【0005】
図2は、中心MBとその8つの隣接ブロックとを示す。動きベクトルは、失われると、隣接するMBの動きベクトルから推定することができる。それは、イメージ内の隣接するMBがしばしば同様に移動するため、通常、図2に示すような中心MBに隣接するMBの動きベクトルがある程度まで中心MBに相関するためである。図3は、同様の方向に向いている隣接するMBの動きベクトルを示す。損傷した動きベクトルが隣接するブロックからの動きベクトルによって置換される方法に関する(例えば、特許文献2および3参照。)。
隣接するブロックの動きベクトルの平均(すなわち、平均値または中央値から中心MBの動きベクトルの推定値を導出することは既知である(例えば、特許文献4参照。)。
所与のMBが損傷を受けると、図4に示すように、水平に隣接するMBもまた損傷を受ける可能性が高い。このため、それら動きベクトルは、平均化計算から除外されてよい。
【0006】
概して、中央値は平均値より好ましいが、著しい量の処理パワーが必要である。かかる計算上高価な方法は、携帯ビデオ電話等、所定の用途に対して特に望ましくない可能性がある。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】米国特許第5,910,827号明細書
【特許文献2】米国特許第5,724,369号明細書
【特許文献3】米国特許第5,737,022号明細書
【特許文献4】米国特許第5,912,707号明細書
【発明の概要】
【発明が解決しようとする課題】
【0008】
上述したように、イメージ内の隣接するMBは、しばしば、特に同じオブジェクトに属する場合は同様に移動する。したがって、隣接するMBの動きベクトルに関して損傷した動きベクトルを推定することは、一般的に妥当である。しかしながら、ことによると異なるブロックは異なる方向に移動している異なるオブジェクトに関連するため、時には隣接するブロックは同様の動きを有さない可能性がある。言換えれば、動きベクトルは、しばしばイメージのオブジェクト境界上またはその周囲において一様でないか相関していない。そのため、上述したような隣接する動きベクトルを平均化する動きベクトルの推定により、不正確な結果がもたらされる可能性があり、それに対応して表示イメージの品質が低下する可能性がある。例えば、MBの最上列が第1の方向に移動しているオブジェクトに関連し、MBの最下列が反対方向に移動している異なるオブジェクトに関連するものとすると、平均の値はおよそ0であるが、中心MBは実際には、第1の方向に移動しているオブジェクトに関連する。
【課題を解決するための手段】
【0009】
本発明の態様は、併記の特許請求の範囲に示されている。
【0010】
本発明は、画像情報を構成する画像フレーム列に含まれる現フレームにおいて、前記現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出方法であって、処理対象の前記ブロックに隣接する複数の前記ブロックの動きベクトルを検索する検索ステップと、動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、前記複数の動きベクトルをそれぞれ分類するグループ化ステップと、前記複数のグループのうち最も多くの動きベクトルが属するグループを選択する選択ステップと、前記選択されたグループに属する動きベクトルに対して所定の演算処理を行う演算ステップとを備え、前記演算ステップの演算結果を前記処理対象のブロックの動きベクトルとすることを特徴とする。
【発明の効果】
【0011】
本発明の結果として、損傷した動きベクトルのより正確な指示を導出することができ、したがって、よりよい表示イメージを得ることができる。望まれる処理の量を、特にいくつかの実施の形態に対して、比較的小さくすることができる。
【図面の簡単な説明】
【0012】
【図1】隣接するフレームのマクロブロックの図である。
【図2】中心ブロックに空間的に隣接するブロックの図である。
【図3】動きベクトルを示す動きベクトルグラフである。
【図4】隣接するブロックの図である。
【図5】携帯電話の略ブロック図である。
【図6】フローチャートである。
【図7】象限の形態でグループ化を示す動きベクトルグラフである。
【図8】動きベクトルの他の実施例を示す動きベクトルグラフである。
【図9】時間的および空間的に隣接するブロックの図である。
【図10】グループ化の他の実施例を示す動きベクトルグラフである。
【図11】動きベクトルの他の実施例を示す動きベクトルグラフである。
【図12】図11に対応する動きベクトルグラフである。
【図13】グループ化の他の実施例を示す。
【図14】探索図である。
【図15】グループ化の他の実施例を示す図である。
【図16】グループ化の他の実施例を示す図である。
【発明を実施するための形態】
【0013】
本発明の実施の形態を、添付図面に関連して説明する。
【0014】
本発明の実施の形態を、第1の携帯電話のビデオカメラによって取込まれたイメージデータが第2の携帯電話に送信され表示される、携帯ビデオ電話のコンテキストで説明する。
【0015】
図5は、携帯ビデオ電話1(以下、単に「電話1」とする)の関連部分を概略的に示す。電話1は、データを送受信する送受信機2と、受信データを復号化するデコーダ4と、受信イメージを表示するディスプレイ6とを有する。また、電話1は、ユーザのイメージシーケンスを取込むカメラ8と、取込んだイメージシーケンスを符号化するエンコーダ10も有する。
【0016】
デコーダ4は、適当な符号化技術にしたがって受信データを復号化するデータデコーダ12と、復号化データの誤りを検出する誤り検出器14と、損傷した動きベクトルを推定する動きベクトル推定器16と、動きベクトル推定器の出力に従って誤りを隠蔽する誤り隠蔽器18とを有する。
【0017】
本発明の実施の形態によりディスプレイ6に表示する受信イメージデータを復号化する方法を、以下に説明する。
【0018】
第1の携帯電話のカメラ8によって取込まれたイメージデータは、例えばMPEG−4技術等、フレーム、マクロブロックおよび動き補償を使用する適当な既知の技術を使用して、送信するために符号化される。そして、符号化データは送信される。
【0019】
イメージデータは、第2の携帯電話によって受信され、データデコーダ12によって復号化される。従来技術と同様に、送信データで発生する誤りが、誤り検出器14によって検出され、可能な場合は誤り訂正方式を使用して訂正される。動きベクトルの誤りを検出することが可能でない場合、図6のフローチャートに関して後述するように、推定方法が動きベクトル推定器16において適用される。
【0020】
マクロブロックMB(x,y)を記述するデータに誤りが発生したとすると、これによって、このマクロブロック内の動きベクトルに誤りがもたらされる可能性がある。6つの隣接するMB(図4参照)の動きベクトル(MV)が検索される(ステップ100)。図4において、MB(x,y)に水平に隣接するMBは、同様に損傷を受けていると想定して排除される。しかしながら、水平に隣接する動きベクトルが損傷を受けていない場合は、推定に含まれてよい。
【0021】
次に、隣接する動きベクトルがグループに分割される(ステップ110)。より詳細には、動きベクトルは、本実施の形態ではxおよびy成分の符号に従ってグループに分割される。図7は、x−y平面の4象限に対応する4つのグループを示し、主軸はxおよびy軸である。グループは以下のように記述することができる。
【0022】
MVx水平方向およびMVy垂直方向によって動きベクトルを画定することにより、
MV=(MVx,MVy)
これら2つの水平および垂直変位は、正および負の方向を有することができる。したがって、動きベクトルの4つのグループを有することができる。
グループ1:MVx≧0,MVy≧0
グループ2:MVx<0,MVy≧0
グループ3:MVx<0,MVy<0
グループ4:MVx≧0,MVy<0
そして、最大数の動きベクトルを含むグループが選択される(ステップ120)。
【0023】
次いで、選択されたグループの動きベクトルの平均が計算され、他の動きベクトルは除外される(ステップ130)。平均は、選択されたグループの中央値または平均値であってよい。本実施の形態では、中央値より必要な処理パワーが小さいことから、平均値が計算される。平均値は、以下の公式を使用して計算される。
【0024】
【数1】
【0025】
ここで、NのうちMの動きベクトルは、最大数の動きベクトルを含むグループに属する。
【0026】
図8は、損傷を受けた動きベクトルを有するブロックに隣接するブロックから現れる6つの動きベクトルの実施例を示す。再び図7を参照すると、図8の動きベクトルに対し、グループ1(第1象限)は動きベクトルを有さず、グループ2(第2象限)は2つの動きベクトルを有し、グループ3(第3象限)は4つの動きベクトルを有し、グループ4(第4象限)は動きベクトルを有していない。グループ3は最大数の動きベクトルを有するため、中心ブロックMB(x,y)に隣接するブロックの動きの最も典型的である典型グループとして選択される。中心ブロックMB(x,y)の動きベクトルの推定値は、上記式(1)を使用して、グループ3の動きベクトルの平均値として計算される。
【0027】
そして、損傷したMBは、計算された動きベクトルに対応する先のフレームのMBと置換される。最終的に、置換MBを含む完全なイメージがディスプレイ6に表示される。
【0028】
ここで、本発明の第2の実施の形態を説明する。
【0029】
第2の実施の形態は第1の実施の形態に類似している。しかしながら、第2の実施の形態では、先のフレームからの動きベクトルもまた、動きベクトル推定に使用される。これは、例えばいずれのグループも最大数の動きベクトルを有していない場合に、特に有用である。これは、単一フレームに対して最大数の動きベクトルを有する2つ以上の動きベクトルのグループがある場合に発生する可能性がある。
【0030】
図9は、中心MBと1〜6の番号が付された隣接するブロックとを有する現フレームを示す。本実施の形態では、先のフレームからのブロック7〜15が動き推定に含まれる。ここでは、ブロック7が、先のフレームにおける中心ブロックMBに空間的に対応するブロックであり、ブロック8〜15が、先のフレームにおいてブロック7を包囲するブロックである。先のフレームからの動きベクトルは、現フレームのものとある程度まで相関されるものと想定されるため、使用することができる。本実施の形態では、ブロック1〜6と先のフレームのブロック7〜15とのすべての動きベクトルがグループ化され、最大数の動きベクトルを包含するグループが選択される。
【0031】
上述した実施の形態では、動きベクトルは、xおよびy成分の符号に従って象限に分割される。ゼロ動きベクトルは極めて一般的であるため、上述した実施の形態の改良である第3の実施の形態では、ゼロ動きベクトルに対して追加のグループが提供され、結果としてグループが5つになる。あり得るグループ化の実施例を下に示す。
グループ0:MVx=0,MVy=0
グループ1:MVx≧0,MVy>0
グループ2:MVx<0,MVy≧0
グループ3:MVx≦0,MVy<0
グループ4:MVx>0,MVy≦0
【0032】
図10は、上記5つのグループを示す。
【0033】
等式および不等式を調整することによって、他のグループ化を使用することができる。
【0034】
図11に示すように、動きベクトルがxまたはy軸の一方の周りに集中するものとする。第1の実施の形態によれば、平均化において第1象限の動きベクトルのみが使用される。しかしながら、これは、第1象限と第4象限との両方の動きベクトルが同様のタイプの動きに関連するため、わずかに誤りを招く。第4の実施の形態は、図12に示すように、この問題を克服する他のタイプのグループ化に関連する。ここでは、動きベクトルx−y平面のグループの境界は、ラインy=xおよびy=−xである。これらグループを、以下のように記述することができる。
グループ1:|MVx|>|MVy|,MVx≧0
グループ2:|MVx|≦|MVy|,MVy>0
グループ3:|MVx|>|MVy|,MVx<0
グループ4:|MVx|≦|MVy|,MVy≦0
上記と同様に、ゼロベクトルグループを追加のグループとすることができる。
【0035】
第5の実施の形態では、第3の実施の形態と第4の実施の形態とのグループ化が結合される。これにより、以下に示すように包括的なアルゴリズムがもたらされる。グループ化を、図13に示す。
グループ0:MVx=0,MVy=0
グループ1:MVx≧0,MVy≧0
グループ2:MVx<0,MVy≧0
グループ3:MVx<0,MVy<0
グループ4:MVx≧0,MVy<0
グループ5:|MVy|<|MVx|,MVx≧0
グループ6:|MVy|≧|MVx|,MVy≧0
グループ7:|MVy|<|MVx|,MVx<0
グループ8:|MVy|≧|MVx|,MVy<0
【0036】
図14は、第5の実施の形態に従って動きベクトルをグループに入れるための探索図を示す。
【0037】
上記実施の形態では、動きベクトルはそれらの方向によってグループ化される。第6の実施の形態では、動きベクトルは大きさ(動きベクトルの絶対値)によってグループ化される。図15は、大きさによる、すなわち、低速動き、中間動きおよび高速動きによる動きベクトルのグループを示す。動きベクトルは、絶対値を計算しそれをグループの境界を画定する閾値と比較することによって、グループ化される。最大数のメンバを有するグループが選択され、損傷した動きベクトルが同様の大きさを有するものと想定される。より詳細には、選択されたグループのメンバが平均化(例えば、平均値または中央値)されることにより推定大きさが取得される。動きベクトルの方向は、別個に推定され、その後推定大きさを有するように調整される。
【0038】
第7の実施の形態は、第5の実施の形態と第6の実施の形態を組合せることにより、大きさと方向との両方にしたがって動きベクトルをグループ化する。図16は、その組合せを示す。図示するように、動きベクトルとその大きさとの方向による17のあり得るグループがある。ここでは、あり得る動きベクトルの大きさは2つしかないが、いかなる数の大きさも可能である。
【0039】
第2から第7の実施の形態の説明は、動きベクトルのグループがいかに選択されるかを示す。本方法の他のステップは、第1の実施の形態と同様である。
【0040】
上述した実施の形態では、グループは、x−y平面のxおよびy軸等、固定境界によって画定される。代替的に、所定の形状および大きさの境界は、最大数の動きベクトルの境界となるまで移動することができる。例えば、図7を参照すると、象限形状の領域が、領域の境界内の動きベクトルの数をカウントする度に、固定数の角度、例えば45°ずつ最初の位置に戻るまで、または何回転かだけ、連続的に回転することができる。象限形状領域の1つの位置に対する動きベクトルの最大グループを使用して、動きベクトルが推定される。同様に、大きさに対し、固定閾値を使用する代りに、グループ化の幅が固定であってよく、閾値は最大数の動きベクトルを包含するグループを検出するように移動可能であってよい。
【0041】
動きベクトルを、例えばより小さいかまたは大きい領域を描く他の領域に従ってグループ化することができる。例えば、各境界は、半象限かまたは2象限を画定することができる。しかしながら、経験および試験により、象限は過度な複雑性無しに優れた解決法を提供するということが分かった。同様に、第5の実施の形態におけるような固定象限の組合せにより、象限を回転させるより複雑でない優れた結果がもたらされる。象限は、同じタイプの動きに関連するようにみなされる動きベクトルを含むためには十分に大きいが、他のタイプの動きに関連する動きベクトルを排除するためには十分に小さいため、良好な妥協案である。例えば、2象限は、明らかに異なるタイプの動きに関連する、45°を指すベクトルの第1のグループと、135°を指す第2のグループとを含む可能性がある。
【0042】
特定の実施の形態は、いずれも推定の精度を低下させる、異なるオブジェクトかまたは偶然の動きベクトルに関連する動きを排除する、単純な低処理分析を提供する。
【技術分野】
【0001】
本発明は、イメージデータを処理する方法および装置に関するものである。本発明は、特に、例えば伝送の結果として発生する誤りを補償するためにイメージデータを処理する方法に関するものである。本発明は、詳細には、動きベクトルの誤りに関係するものである。
【背景技術】
【0002】
イメージデータ、特に圧縮ビデオビットストリームは、誤りに対して非常に敏感である。たとえば、符号化ビデオビットストリームの単一ビット誤りによって、表示画質に深刻な劣化がもたらされる可能性がある。誤り訂正方式は既知であり広く使用されているが、必ずしもうまくいくとは限らない。誤り、例えば伝送中に発生するビット誤りを、誤り訂正方式によって完全に訂正することができない場合、誤りによってもたらされるイメージの破損を隠蔽するために、誤り検出および隠蔽を使用することが既知である。
【0003】
既知のタイプの誤り隠蔽アルゴリズムは、概して2つの種類、すなわち空間的隠蔽と時間的隠蔽とに分類される。空間的隠蔽では、欠損データは隣接する空間情報を使用して復元されるが、時間的隠蔽では、それらは先のフレームのデータを使用して復元される。
【0004】
ビデオ信号における時間的相関を利用することによって時間的隠蔽を実行する1つの既知の方法は、損傷したマクロブロック(MB)を先のフレームの空間的に対応するMBと置換することである(例えば、特許文献1参照。)。
この方法は、コピーイングアルゴリズムと呼ばれる。この方法は、実現は容易であるが、動きが存在する領域に不適当な隠蔽をもたらす可能性がある。損傷MBを先のフレームからの動き補償済みブロックと置換することによって、著しく改善することができる。図1は、この技術を示す。しかしながら、これをうまく行うためには、動きベクトルが必要であり、マクロブロックデータが破損された場合、動きベクトルは入手可能でない場合がある。
【0005】
図2は、中心MBとその8つの隣接ブロックとを示す。動きベクトルは、失われると、隣接するMBの動きベクトルから推定することができる。それは、イメージ内の隣接するMBがしばしば同様に移動するため、通常、図2に示すような中心MBに隣接するMBの動きベクトルがある程度まで中心MBに相関するためである。図3は、同様の方向に向いている隣接するMBの動きベクトルを示す。損傷した動きベクトルが隣接するブロックからの動きベクトルによって置換される方法に関する(例えば、特許文献2および3参照。)。
隣接するブロックの動きベクトルの平均(すなわち、平均値または中央値から中心MBの動きベクトルの推定値を導出することは既知である(例えば、特許文献4参照。)。
所与のMBが損傷を受けると、図4に示すように、水平に隣接するMBもまた損傷を受ける可能性が高い。このため、それら動きベクトルは、平均化計算から除外されてよい。
【0006】
概して、中央値は平均値より好ましいが、著しい量の処理パワーが必要である。かかる計算上高価な方法は、携帯ビデオ電話等、所定の用途に対して特に望ましくない可能性がある。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】米国特許第5,910,827号明細書
【特許文献2】米国特許第5,724,369号明細書
【特許文献3】米国特許第5,737,022号明細書
【特許文献4】米国特許第5,912,707号明細書
【発明の概要】
【発明が解決しようとする課題】
【0008】
上述したように、イメージ内の隣接するMBは、しばしば、特に同じオブジェクトに属する場合は同様に移動する。したがって、隣接するMBの動きベクトルに関して損傷した動きベクトルを推定することは、一般的に妥当である。しかしながら、ことによると異なるブロックは異なる方向に移動している異なるオブジェクトに関連するため、時には隣接するブロックは同様の動きを有さない可能性がある。言換えれば、動きベクトルは、しばしばイメージのオブジェクト境界上またはその周囲において一様でないか相関していない。そのため、上述したような隣接する動きベクトルを平均化する動きベクトルの推定により、不正確な結果がもたらされる可能性があり、それに対応して表示イメージの品質が低下する可能性がある。例えば、MBの最上列が第1の方向に移動しているオブジェクトに関連し、MBの最下列が反対方向に移動している異なるオブジェクトに関連するものとすると、平均の値はおよそ0であるが、中心MBは実際には、第1の方向に移動しているオブジェクトに関連する。
【課題を解決するための手段】
【0009】
本発明の態様は、併記の特許請求の範囲に示されている。
【0010】
本発明は、画像情報を構成する画像フレーム列に含まれる現フレームにおいて、前記現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出方法であって、処理対象の前記ブロックに隣接する複数の前記ブロックの動きベクトルを検索する検索ステップと、動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、前記複数の動きベクトルをそれぞれ分類するグループ化ステップと、前記複数のグループのうち最も多くの動きベクトルが属するグループを選択する選択ステップと、前記選択されたグループに属する動きベクトルに対して所定の演算処理を行う演算ステップとを備え、前記演算ステップの演算結果を前記処理対象のブロックの動きベクトルとすることを特徴とする。
【発明の効果】
【0011】
本発明の結果として、損傷した動きベクトルのより正確な指示を導出することができ、したがって、よりよい表示イメージを得ることができる。望まれる処理の量を、特にいくつかの実施の形態に対して、比較的小さくすることができる。
【図面の簡単な説明】
【0012】
【図1】隣接するフレームのマクロブロックの図である。
【図2】中心ブロックに空間的に隣接するブロックの図である。
【図3】動きベクトルを示す動きベクトルグラフである。
【図4】隣接するブロックの図である。
【図5】携帯電話の略ブロック図である。
【図6】フローチャートである。
【図7】象限の形態でグループ化を示す動きベクトルグラフである。
【図8】動きベクトルの他の実施例を示す動きベクトルグラフである。
【図9】時間的および空間的に隣接するブロックの図である。
【図10】グループ化の他の実施例を示す動きベクトルグラフである。
【図11】動きベクトルの他の実施例を示す動きベクトルグラフである。
【図12】図11に対応する動きベクトルグラフである。
【図13】グループ化の他の実施例を示す。
【図14】探索図である。
【図15】グループ化の他の実施例を示す図である。
【図16】グループ化の他の実施例を示す図である。
【発明を実施するための形態】
【0013】
本発明の実施の形態を、添付図面に関連して説明する。
【0014】
本発明の実施の形態を、第1の携帯電話のビデオカメラによって取込まれたイメージデータが第2の携帯電話に送信され表示される、携帯ビデオ電話のコンテキストで説明する。
【0015】
図5は、携帯ビデオ電話1(以下、単に「電話1」とする)の関連部分を概略的に示す。電話1は、データを送受信する送受信機2と、受信データを復号化するデコーダ4と、受信イメージを表示するディスプレイ6とを有する。また、電話1は、ユーザのイメージシーケンスを取込むカメラ8と、取込んだイメージシーケンスを符号化するエンコーダ10も有する。
【0016】
デコーダ4は、適当な符号化技術にしたがって受信データを復号化するデータデコーダ12と、復号化データの誤りを検出する誤り検出器14と、損傷した動きベクトルを推定する動きベクトル推定器16と、動きベクトル推定器の出力に従って誤りを隠蔽する誤り隠蔽器18とを有する。
【0017】
本発明の実施の形態によりディスプレイ6に表示する受信イメージデータを復号化する方法を、以下に説明する。
【0018】
第1の携帯電話のカメラ8によって取込まれたイメージデータは、例えばMPEG−4技術等、フレーム、マクロブロックおよび動き補償を使用する適当な既知の技術を使用して、送信するために符号化される。そして、符号化データは送信される。
【0019】
イメージデータは、第2の携帯電話によって受信され、データデコーダ12によって復号化される。従来技術と同様に、送信データで発生する誤りが、誤り検出器14によって検出され、可能な場合は誤り訂正方式を使用して訂正される。動きベクトルの誤りを検出することが可能でない場合、図6のフローチャートに関して後述するように、推定方法が動きベクトル推定器16において適用される。
【0020】
マクロブロックMB(x,y)を記述するデータに誤りが発生したとすると、これによって、このマクロブロック内の動きベクトルに誤りがもたらされる可能性がある。6つの隣接するMB(図4参照)の動きベクトル(MV)が検索される(ステップ100)。図4において、MB(x,y)に水平に隣接するMBは、同様に損傷を受けていると想定して排除される。しかしながら、水平に隣接する動きベクトルが損傷を受けていない場合は、推定に含まれてよい。
【0021】
次に、隣接する動きベクトルがグループに分割される(ステップ110)。より詳細には、動きベクトルは、本実施の形態ではxおよびy成分の符号に従ってグループに分割される。図7は、x−y平面の4象限に対応する4つのグループを示し、主軸はxおよびy軸である。グループは以下のように記述することができる。
【0022】
MVx水平方向およびMVy垂直方向によって動きベクトルを画定することにより、
MV=(MVx,MVy)
これら2つの水平および垂直変位は、正および負の方向を有することができる。したがって、動きベクトルの4つのグループを有することができる。
グループ1:MVx≧0,MVy≧0
グループ2:MVx<0,MVy≧0
グループ3:MVx<0,MVy<0
グループ4:MVx≧0,MVy<0
そして、最大数の動きベクトルを含むグループが選択される(ステップ120)。
【0023】
次いで、選択されたグループの動きベクトルの平均が計算され、他の動きベクトルは除外される(ステップ130)。平均は、選択されたグループの中央値または平均値であってよい。本実施の形態では、中央値より必要な処理パワーが小さいことから、平均値が計算される。平均値は、以下の公式を使用して計算される。
【0024】
【数1】
【0025】
ここで、NのうちMの動きベクトルは、最大数の動きベクトルを含むグループに属する。
【0026】
図8は、損傷を受けた動きベクトルを有するブロックに隣接するブロックから現れる6つの動きベクトルの実施例を示す。再び図7を参照すると、図8の動きベクトルに対し、グループ1(第1象限)は動きベクトルを有さず、グループ2(第2象限)は2つの動きベクトルを有し、グループ3(第3象限)は4つの動きベクトルを有し、グループ4(第4象限)は動きベクトルを有していない。グループ3は最大数の動きベクトルを有するため、中心ブロックMB(x,y)に隣接するブロックの動きの最も典型的である典型グループとして選択される。中心ブロックMB(x,y)の動きベクトルの推定値は、上記式(1)を使用して、グループ3の動きベクトルの平均値として計算される。
【0027】
そして、損傷したMBは、計算された動きベクトルに対応する先のフレームのMBと置換される。最終的に、置換MBを含む完全なイメージがディスプレイ6に表示される。
【0028】
ここで、本発明の第2の実施の形態を説明する。
【0029】
第2の実施の形態は第1の実施の形態に類似している。しかしながら、第2の実施の形態では、先のフレームからの動きベクトルもまた、動きベクトル推定に使用される。これは、例えばいずれのグループも最大数の動きベクトルを有していない場合に、特に有用である。これは、単一フレームに対して最大数の動きベクトルを有する2つ以上の動きベクトルのグループがある場合に発生する可能性がある。
【0030】
図9は、中心MBと1〜6の番号が付された隣接するブロックとを有する現フレームを示す。本実施の形態では、先のフレームからのブロック7〜15が動き推定に含まれる。ここでは、ブロック7が、先のフレームにおける中心ブロックMBに空間的に対応するブロックであり、ブロック8〜15が、先のフレームにおいてブロック7を包囲するブロックである。先のフレームからの動きベクトルは、現フレームのものとある程度まで相関されるものと想定されるため、使用することができる。本実施の形態では、ブロック1〜6と先のフレームのブロック7〜15とのすべての動きベクトルがグループ化され、最大数の動きベクトルを包含するグループが選択される。
【0031】
上述した実施の形態では、動きベクトルは、xおよびy成分の符号に従って象限に分割される。ゼロ動きベクトルは極めて一般的であるため、上述した実施の形態の改良である第3の実施の形態では、ゼロ動きベクトルに対して追加のグループが提供され、結果としてグループが5つになる。あり得るグループ化の実施例を下に示す。
グループ0:MVx=0,MVy=0
グループ1:MVx≧0,MVy>0
グループ2:MVx<0,MVy≧0
グループ3:MVx≦0,MVy<0
グループ4:MVx>0,MVy≦0
【0032】
図10は、上記5つのグループを示す。
【0033】
等式および不等式を調整することによって、他のグループ化を使用することができる。
【0034】
図11に示すように、動きベクトルがxまたはy軸の一方の周りに集中するものとする。第1の実施の形態によれば、平均化において第1象限の動きベクトルのみが使用される。しかしながら、これは、第1象限と第4象限との両方の動きベクトルが同様のタイプの動きに関連するため、わずかに誤りを招く。第4の実施の形態は、図12に示すように、この問題を克服する他のタイプのグループ化に関連する。ここでは、動きベクトルx−y平面のグループの境界は、ラインy=xおよびy=−xである。これらグループを、以下のように記述することができる。
グループ1:|MVx|>|MVy|,MVx≧0
グループ2:|MVx|≦|MVy|,MVy>0
グループ3:|MVx|>|MVy|,MVx<0
グループ4:|MVx|≦|MVy|,MVy≦0
上記と同様に、ゼロベクトルグループを追加のグループとすることができる。
【0035】
第5の実施の形態では、第3の実施の形態と第4の実施の形態とのグループ化が結合される。これにより、以下に示すように包括的なアルゴリズムがもたらされる。グループ化を、図13に示す。
グループ0:MVx=0,MVy=0
グループ1:MVx≧0,MVy≧0
グループ2:MVx<0,MVy≧0
グループ3:MVx<0,MVy<0
グループ4:MVx≧0,MVy<0
グループ5:|MVy|<|MVx|,MVx≧0
グループ6:|MVy|≧|MVx|,MVy≧0
グループ7:|MVy|<|MVx|,MVx<0
グループ8:|MVy|≧|MVx|,MVy<0
【0036】
図14は、第5の実施の形態に従って動きベクトルをグループに入れるための探索図を示す。
【0037】
上記実施の形態では、動きベクトルはそれらの方向によってグループ化される。第6の実施の形態では、動きベクトルは大きさ(動きベクトルの絶対値)によってグループ化される。図15は、大きさによる、すなわち、低速動き、中間動きおよび高速動きによる動きベクトルのグループを示す。動きベクトルは、絶対値を計算しそれをグループの境界を画定する閾値と比較することによって、グループ化される。最大数のメンバを有するグループが選択され、損傷した動きベクトルが同様の大きさを有するものと想定される。より詳細には、選択されたグループのメンバが平均化(例えば、平均値または中央値)されることにより推定大きさが取得される。動きベクトルの方向は、別個に推定され、その後推定大きさを有するように調整される。
【0038】
第7の実施の形態は、第5の実施の形態と第6の実施の形態を組合せることにより、大きさと方向との両方にしたがって動きベクトルをグループ化する。図16は、その組合せを示す。図示するように、動きベクトルとその大きさとの方向による17のあり得るグループがある。ここでは、あり得る動きベクトルの大きさは2つしかないが、いかなる数の大きさも可能である。
【0039】
第2から第7の実施の形態の説明は、動きベクトルのグループがいかに選択されるかを示す。本方法の他のステップは、第1の実施の形態と同様である。
【0040】
上述した実施の形態では、グループは、x−y平面のxおよびy軸等、固定境界によって画定される。代替的に、所定の形状および大きさの境界は、最大数の動きベクトルの境界となるまで移動することができる。例えば、図7を参照すると、象限形状の領域が、領域の境界内の動きベクトルの数をカウントする度に、固定数の角度、例えば45°ずつ最初の位置に戻るまで、または何回転かだけ、連続的に回転することができる。象限形状領域の1つの位置に対する動きベクトルの最大グループを使用して、動きベクトルが推定される。同様に、大きさに対し、固定閾値を使用する代りに、グループ化の幅が固定であってよく、閾値は最大数の動きベクトルを包含するグループを検出するように移動可能であってよい。
【0041】
動きベクトルを、例えばより小さいかまたは大きい領域を描く他の領域に従ってグループ化することができる。例えば、各境界は、半象限かまたは2象限を画定することができる。しかしながら、経験および試験により、象限は過度な複雑性無しに優れた解決法を提供するということが分かった。同様に、第5の実施の形態におけるような固定象限の組合せにより、象限を回転させるより複雑でない優れた結果がもたらされる。象限は、同じタイプの動きに関連するようにみなされる動きベクトルを含むためには十分に大きいが、他のタイプの動きに関連する動きベクトルを排除するためには十分に小さいため、良好な妥協案である。例えば、2象限は、明らかに異なるタイプの動きに関連する、45°を指すベクトルの第1のグループと、135°を指す第2のグループとを含む可能性がある。
【0042】
特定の実施の形態は、いずれも推定の精度を低下させる、異なるオブジェクトかまたは偶然の動きベクトルに関連する動きを排除する、単純な低処理分析を提供する。
【特許請求の範囲】
【請求項1】
画像情報を構成する画像フレーム列に含まれる現フレームにおいて、前記現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出方法であって、
処理対象の前記ブロックに隣接する複数の前記ブロックの動きベクトルを検索する検索ステップと、
動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、前記複数の動きベクトルをそれぞれ分類するグループ化ステップと、
前記複数のグループのうち最も多くの動きベクトルが属するグループを選択する選択ステップと、
前記選択されたグループに属する動きベクトルに対して所定の演算処理を行う演算ステップとを備え、
前記演算ステップの演算結果を前記処理対象のブロックの動きベクトルとする
ことを特徴とする動きベクトル導出方法。
【請求項2】
前記動きベクトルの方向に関する所定の基準は、前記動きベクトルの水平方向、及び垂直方向に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記水平方向の符号、及び前記垂直方向の符号に従って設定された複数のグループである
ことを特徴とする請求項1に記載の動きベクトル導出方法。
【請求項3】
前記動きベクトルの大きさに関する所定の基準は、前記動きベクトルの大きさの絶対値に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさの絶対値に従って段階的に設定された複数のグループである
ことを特徴とする請求項1に記載の動きベクトル導出方法。
【請求項4】
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさがゼロであるグループを含む
ことを特徴とする請求項2または3に記載の動きベクトル導出方法。
【請求項5】
前記選択されたグループに属する動きベクトルに行われる所定の演算処理は、前記選択されたグループに属する動きベクトルの平均値を演算する処理、あるいは中央値を演算する処理である
ことを特徴とする請求項1から請求項4までのいずれか1項に記載の動きベクトル導出方法。
【請求項6】
画像情報を構成する画像フレーム列に含まれる現フレームにおいて、前記現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出プログラムであって、
コンピュータに、
処理対象の前記ブロックに隣接する複数の前記ブロックの動きベクトルを検索する検索手順と、
動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、前記複数の動きベクトルをそれぞれ分類するグループ化手順と、
前記複数のグループのうち最も多くの動きベクトルが属するグループを選択する選択手順と、
前記選択されたグループに属する動きベクトルに対して所定の演算処理を行う演算手順とを実行させるための動きベクトル導出プログラムであり、
前記演算手順の演算結果を前記処理対象のブロックの動きベクトルとする
ことを特徴とする動きベクトル導出プログラム。
【請求項7】
前記動きベクトルの方向に関する所定の基準は、前記動きベクトルの水平方向、及び垂直方向に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記水平方向の符号、及び前記垂直方向の符号に従って設定された複数のグループである
ことを特徴とする請求項6に記載の動きベクトル導出プログラム。
【請求項8】
前記動きベクトルの大きさに関する所定の基準は、前記動きベクトルの大きさの絶対値に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさの絶対値に従って段階的に設定された複数のグループである
ことを特徴とする請求項6に記載の動きベクトル導出プログラム。
【請求項9】
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさがゼロであるグループを含む
ことを特徴とする請求項7または8に記載の動きベクトル導出方法。
【請求項10】
前記選択されたグループに属する動きベクトルに行われる所定の演算処理は、前記選択されたグループに属する動きベクトルの平均値を演算する処理、あるいは中央値を演算する処理である
ことを特徴とする請求項6から請求項9までのいずれか1項に記載の動きベクトル導出方法。
【請求項11】
請求項6から請求項10までのいずれか1項に記載された動きベクトル導出プログラムを格納したデータ記憶媒体。
【請求項1】
画像情報を構成する画像フレーム列に含まれる現フレームにおいて、前記現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出方法であって、
処理対象の前記ブロックに隣接する複数の前記ブロックの動きベクトルを検索する検索ステップと、
動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、前記複数の動きベクトルをそれぞれ分類するグループ化ステップと、
前記複数のグループのうち最も多くの動きベクトルが属するグループを選択する選択ステップと、
前記選択されたグループに属する動きベクトルに対して所定の演算処理を行う演算ステップとを備え、
前記演算ステップの演算結果を前記処理対象のブロックの動きベクトルとする
ことを特徴とする動きベクトル導出方法。
【請求項2】
前記動きベクトルの方向に関する所定の基準は、前記動きベクトルの水平方向、及び垂直方向に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記水平方向の符号、及び前記垂直方向の符号に従って設定された複数のグループである
ことを特徴とする請求項1に記載の動きベクトル導出方法。
【請求項3】
前記動きベクトルの大きさに関する所定の基準は、前記動きベクトルの大きさの絶対値に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさの絶対値に従って段階的に設定された複数のグループである
ことを特徴とする請求項1に記載の動きベクトル導出方法。
【請求項4】
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさがゼロであるグループを含む
ことを特徴とする請求項2または3に記載の動きベクトル導出方法。
【請求項5】
前記選択されたグループに属する動きベクトルに行われる所定の演算処理は、前記選択されたグループに属する動きベクトルの平均値を演算する処理、あるいは中央値を演算する処理である
ことを特徴とする請求項1から請求項4までのいずれか1項に記載の動きベクトル導出方法。
【請求項6】
画像情報を構成する画像フレーム列に含まれる現フレームにおいて、前記現フレームを構成するブロックの動きベクトルを導出する動きベクトル導出プログラムであって、
コンピュータに、
処理対象の前記ブロックに隣接する複数の前記ブロックの動きベクトルを検索する検索手順と、
動きベクトルの方向および/または動きベクトルの大きさに関する所定の基準に基づいて設定された複数のグループに対して、前記複数の動きベクトルをそれぞれ分類するグループ化手順と、
前記複数のグループのうち最も多くの動きベクトルが属するグループを選択する選択手順と、
前記選択されたグループに属する動きベクトルに対して所定の演算処理を行う演算手順とを実行させるための動きベクトル導出プログラムであり、
前記演算手順の演算結果を前記処理対象のブロックの動きベクトルとする
ことを特徴とする動きベクトル導出プログラム。
【請求項7】
前記動きベクトルの方向に関する所定の基準は、前記動きベクトルの水平方向、及び垂直方向に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記水平方向の符号、及び前記垂直方向の符号に従って設定された複数のグループである
ことを特徴とする請求項6に記載の動きベクトル導出プログラム。
【請求項8】
前記動きベクトルの大きさに関する所定の基準は、前記動きベクトルの大きさの絶対値に関するものであり、
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさの絶対値に従って段階的に設定された複数のグループである
ことを特徴とする請求項6に記載の動きベクトル導出プログラム。
【請求項9】
前記所定の基準に従って設定された複数のグループは、前記動きベクトルの大きさがゼロであるグループを含む
ことを特徴とする請求項7または8に記載の動きベクトル導出方法。
【請求項10】
前記選択されたグループに属する動きベクトルに行われる所定の演算処理は、前記選択されたグループに属する動きベクトルの平均値を演算する処理、あるいは中央値を演算する処理である
ことを特徴とする請求項6から請求項9までのいずれか1項に記載の動きベクトル導出方法。
【請求項11】
請求項6から請求項10までのいずれか1項に記載された動きベクトル導出プログラムを格納したデータ記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2009−105950(P2009−105950A)
【公開日】平成21年5月14日(2009.5.14)
【国際特許分類】
【出願番号】特願2009−13230(P2009−13230)
【出願日】平成21年1月23日(2009.1.23)
【分割の表示】特願2002−293591(P2002−293591)の分割
【原出願日】平成14年10月7日(2002.10.7)
【出願人】(501253316)ミツビシ・エレクトリック・インフォメイション・テクノロジー・センター・ヨーロッパ・ビーヴィ (77)
【氏名又は名称原語表記】MITSUBISHI ELECRIC INFORMATION TECHNOLOGY CENTRE EUROPE B.V.
【住所又は居所原語表記】20 Frederick Sanger Road, The Surrey Research Park, Guildford, Surrey GU2 5YD, Great Britain
【Fターム(参考)】
【公開日】平成21年5月14日(2009.5.14)
【国際特許分類】
【出願日】平成21年1月23日(2009.1.23)
【分割の表示】特願2002−293591(P2002−293591)の分割
【原出願日】平成14年10月7日(2002.10.7)
【出願人】(501253316)ミツビシ・エレクトリック・インフォメイション・テクノロジー・センター・ヨーロッパ・ビーヴィ (77)
【氏名又は名称原語表記】MITSUBISHI ELECRIC INFORMATION TECHNOLOGY CENTRE EUROPE B.V.
【住所又は居所原語表記】20 Frederick Sanger Road, The Surrey Research Park, Guildford, Surrey GU2 5YD, Great Britain
【Fターム(参考)】
[ Back to top ]