動きベクトルに基づく画像のスケーリング
今日、複数のテレビ規格は異なるアスペクト比を用いている。例えば、ワイドスクリーンのアスペクト比16:9は、アスペクト比4:3を用いる既存のテレビ放送において一般的である。均一又は非均一のスケーリング比により水平方向に画像をスケーリングする方法は“パノラマスケーリング”と呼ばれる。画像102の少なくとも一部の動きベクトル101に基づいて生成されるスケーリング関数121により画像102をスケーリングする装置100及び方法800について開示されている。装置100は、第1アスペクト比を有する第1画像を第2アスペクト比の第2画像に変換する画像処理装置又は画像表示装置において用いられる。開示されている装置100は、特に、シーンにおいて動いている対象物の場合に、パノラマスケーリングによりもたらされる可視的な歪みの低減において有用である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像を処理する方法に関し、特に、画像の映像シーケンスに属す画像をスケーリングする方法に関する。
【背景技術】
【0002】
画像のアスペクト比は、画像が表示される高さで除算される画像が表示される幅(通常、“X:Y”で表される)である。今日、種々のテレビの基準で異なるアスペクト比が用いられている。16:9のワイドスクリーンのアスペクト比は、4:3のアスペクト比を用いる既存のテレビ放送における支持を得ている。その結果、アスペクト比についての要請がもたらされた。アスペクト比変換のための一部の一般的な方法は、両側に黒色のバーを付加すること、水平方向にのみ画像を走査すること及び水平方向及び鉛直方向に画像を走査することである。走査は、映像データの画像フレームの解像度を変えることを有する。非均一なスケーリング機能により水平方向に画像をスケーリングする方法は“パノラマスケーリング”と呼ばれている。非均一スケーリングは、側部における対象物が中央における対象物に比べてより歪むようにする。一般に、パノラマスケーリングは静止画像について許容可能であるが、例えば、カメラパニングによりもたらされる画像における動きの場合、対象物は、異なる空間の場所において異なるスケーリングの影響下に置かれるため、サイズが変わったように現れる。このことは、かなり厄介である対象物の視覚的な歪みをもたらす。
【発明の開示】
【発明が解決しようとする課題】
【0003】
画像の映像シーケンスに属す画像をスケーリングする改善された方法を有することが要請されている。
【課題を解決するための手段】
【0004】
従って、ここで開示されている画像の映像シーケンスに属す画像をスケーリングする改善された方法において、その方法は、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間における対象物の位置の変化を表す動きベクトルに基づいて画像をスケーリングする段階であって、前記画像は画像の映像シーケンスに属す、段階を有する。
【0005】
好適な実施形態において、画像をスケーリングする段階は、動きベクトルに基づいてスケーリング関数を生成する段階と、画像の1つ又はそれ以上の画素にスケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得る段階とを有する。
【0006】
また、画像の映像シーケンスに属す画像の改善されたスケーリングのため装置を有することは好ましいことである。
【0007】
従って、本明細書において開示される画像の改善されたスケーリングのための装置において、その装置は、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の対象物の位置の変化を表す動きベクトルを受け入れることができる第1受信器であって、前記画像は画像の映像シーケンスに属す、第1受信器と、動きベクトルに基づいてスケーリング関数を生成することができる第1ジェネレータと、画像の1つ又はそれ以上の画素にスケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得ることができる画像スケーラと、を有する。
【0008】
画像の改善されたスケーリングのための画像処理装置であって、スケーリングが所定のアスペクト比に基づいている、画像処理装置を有することはまた、好ましいことである。
【0009】
従って、本明細書に開示されている画像の改善されたスケーリングのための画像処理装置において、画像処理装置は、画像のシーケンスを受け入れる第2受信器と、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の対象物の位置の変化を表す動きベクトルを予測することができる動き予測ユニットであって、前記画像は画像の映像シーケンスに属す、動き予測ユニットと、画像の映像シーケンスに属す画像をスケーリングすることができる装置であって、そのスケーリングは所定のアスペクト比に基づいている、装置と、を有する。
【0010】
また、画像の改善されたスケーリング及び画像の表示のための画像表示装置を有することは好ましいことである。
【0011】
従って、本明細書で開示される画像表示装置において、その画像表示装置は、画像処理装置と、表示装置と、を有する。画像処理装置は、画像の映像シーケンスに属す画像の改善されたスケーリングのために備えられ、表示装置は、スケーリングされた画像を表示するために備えられる。
【0012】
また、動きベクトルに基づいて画像をスケーリングする方法の複数の段階を実行する
コンピュータプログラム及びコンピュータプログラムプロダクトを有することは好ましいことである。
【0013】
従って、本明細書に開示されているコンピュータプログラム及びコンピュータプログラムプロダクトにおいて、コンピュータプログラム及びコンピュータプログラムプロダクトは、動きベクトルに基づくスケーリング関数を生成する命令と、画像の映像シーケンスに属す画像の1つ又はそれ以上の画素にスケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得る命令と、を有する。
【0014】
上記の及び他の特徴については、例示として、添付図を参照して、以下の実施形態に基づいて詳述する。
【0015】
複数の図で用いている対応する参照番号は、それらの図における対応する要素を表している。
【発明を実施するための最良の形態】
【0016】
映像データは、行列状に配列された画素から成る画像のシーケンスを有する。それらの画像はフレームと呼ばれる。例えば、映像データは、1秒当たり30フレーム又は1秒の映像データから成る30の個別の画像を有することが可能である。ディジタルテレビ及びストリーミングメディアにより、複数の新しい技術が、複数のメディアフォーマット及び表示フォーマットの互換性及び相互運用性を可能にするように開発されてきた。画像をスケーリングすることによる画像のアスペクト比の変換は重要な技術である。例えば、640x480画素(NDTV解像度)を有するアスペクト比4:3の画像は、1920x1080画素(HDTV解像度)を有するアスペクト比16:9にスケーリングされることができる。画像がスケーリングされるとき、スケーリングされる画像における各々の新しい画素の値はオリジナルの画像における1つ又はそれ以上の画素に基づいている。各々の新しい画素の演算はスケーリング関数により数式化されることができる。最も単純なスケーリング関数は一次式である。一次式を適用することにより、画像は、必要な数の画素を得るように、一定の水平方向のスケーリング比及び垂直方向のスケーリング比に従って水平方向及び垂直方向の両方において均一に伸長される。しばしば、水平方向のスケーリング比は、例えば、NTSC解像度をHDTV解像度に変換するとき、垂直方向のスケーリング比に等しくない。等しくない水平方向のスケーリング比及び垂直方向のスケーリング比を有する画像のスケーリングは、スケーリングされた画像における対象物が水平方向か又は垂直方向のどちらかにおいて引き伸ばされたようにみえるため、視覚的な歪みをもたらす可能性がある。不均一なパノラマスケーリングは、一般に、そのような歪みを低減するように用いられる。この技術に従って、画像における行画素は、空間的な場所に依存して変わるスケーリング比に従ってスケーリングされる。例えば、水平方向のスケーリング比は、パノラマ画像の水平方向の中央から両側に次第に増加する、しかしながら、この技術はまた、動いているシーンにおいて特に、視覚的な歪みをもたらす。対象物がシーンを横断して動く又はカメラがシーンを横断してパンするとき、視覚的な歪みは、対象物がその幅が一定に変化するように現れるために、より顕著である。特に、動いているシーンにおける、低減された視覚的な歪みを伴う、パノラマスケーリングを有することは好ましいことである。
【0017】
図1は、動きベクトル101に基づいて画像102をスケーリングする方法100の有効な実施形態を示している。スケーリング関数121が段階120において生成され、スケーリングされた画像131は、画像102の1つ又はそれ以上の画素にスケーリング関数121を適用することにより、段階130において得られる。
【0018】
動きベクトル101は、典型的には、動き予測方法により得られる。動きベクトルは、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の対象物の位置の変化であって、前記第1画像及び第2画像が画像の映像シーケンスに属す、変化である。第1画像及び第2画像は、時間経過と共に表示され、動いているシーンを描く。
【0019】
視覚的な歪みを低減するように、非均一なスケーリングが、シーンにおける対象物の動きの速度に依存して行われることが可能である。動きベクトルから、画像における動きに適合される適合スケーリング関数が得られる。換言すれば、非均一なスケーリングは静止シーンに適用され、略均一なスケーリングは、高速で動いているシーンに適用され、中程度の非均一なスケーリングは、動きの大きさに依存して画像に適用される。シーンにおける対象物の速度が所定速度に近づくにつれて、非均一なスケーリングは均一なスケーリングになる傾向にある。
【0020】
画像のシーケンスの各々の画像について、動きベクトルに基づく新しいスケーリング関数が演算される。異なるスケーリング比が各々の画像に適用されることが可能である。各々の画像において、スケーリング比は、場所に応じて非均一であることが可能である。スケーリング関数の非線形性は、異なるスケーリング比が異なる空間的な場所において得られるように、調整される。例えば、シーンにおける対象物の高速の動きによる、より大きい大きさの動きベクトルについては、実質的に線形のスケーリング関数が、ビューアが強い“ハーモニカ”効果を知覚しないように得られるように、適用される。この結果、実質的に均一なスケーリング比がその画像における画素に適用される。他方、例えば、実質的に静止シーンから得られるより大きさの小さい動きベクトルについては、実質的に非均一なスケーリング比を生成するスケーリング関数が生成される。このことは、例えば、一部の人々が画像の一部に存在し、周囲の領域をスケーリングする必要性があまり重要でないシーンについては、有用である。その結果、実質的に非均一なスケーリング比が、実質的に静止シーンの画像をスケーリングするために用いられる。従って、そのスケーリングは、動きベクトルの大きさに従って適用され、異なる空間的な場所に適用される、そのスケーリングは、空間において及び時間経過につれて配分され、それにより、実質的に視覚的な歪みを低減することができる。
【0021】
開示されている装置についての有用な動きベクトルの予測は、文献“Progress in Motion Estimation for Consumer Video Format Conversion”,by G.de Haan,IEEE Transaction Consumer Electronics,vol.46,no.3,pp.449−459,(August 2000)に開示されているブロックマッチング及びリカーシブ型の動きベクトル予測を含むが、それに限定されるものではない。当業者は、複数の既知の技術により、画像のシーケンスから、少なくとも画像の一部の動きベクトルを得ることができる。更に、本発明の装置についての有用な動き予測は、ブロックばかりでなく、ブロック及び画素を有する何れかの種類の形状の領域において機能することができる。
【0022】
本発明の方法100の他の実施形態においては、画像102と第2画像との間のグローバル変化を表すグローバル動きベクトル101が用いられる。グローバル動きベクトルは、動きベクトルから決定されることが可能である。グローバル動き予測は、完全な画像における動き、即ち、多かれ少なかれ同様の動きを有する大きい対象物又は複数の対象物の平均的な動き又は主要な動きについてのメトリックである。動きモデルは、対象物又はカメラのパニング(即ち、並進)の検出において適用されることが可能である。動きモデルは、ときどき、“パン−ズームモデル”と呼ばれる。スケーリング関数はまた、異なるモデル、例えば、スケーリングの必要性を最適化するように、それにより、視覚的なアーティファクトを最小化するように回転しているシーンについて導き出されることが可能である。グローバル動きベクトルに基づくスケーリング関数は、全体の画像をスケーリングするために有利に用いられることが可能であるスケーリング関数を生成するように有利に用いられることが可能である。
【0023】
画像のグローバル動きベクトルを予測する技術については、当該技術分野において知られている。例えば、文献“An efficient true−motion estimator using candidate vectors from a panoramic motion model”,by G.de Haan,et al.,in IEEE circuits and systems for video technology,vol.8,no.1.pp.85−91,March 1998において、動きモデルからグローバル動きベクトルを予測するスキームについて記載されている。そのような方法を用いる場合、グローバル動きベクトルは、一般に、装置の実施形態の1つにおいて予測されて、用いられる。
【0024】
方法100の他の実施形態においては、スケーリング関数120は、動きベクトル101の成分の一に基づいて、スケーリング関数120の少なくとも1つのパラメータを変化させることにより生成される。スケーリング関数120は、画像の複数の空間的な場所において異なるスケーリング比を生成するようにデザインされる。空間的に変化する非線形変換関数がスケーリング関数として選択されることが可能である。例示として、式(1)に示す二次関数について考える。
f(x)=ax2+bx+c (a≠0) (1)
二次関数(1)は放物線の形をしていて、その放物線の頂点はx座標b/2aを有するグラフにおける点にある。二次関数は、中央の画素が均一なスケーリング比により変換され、側部にある画素は次第に大きくなる非均一スケーリング比により変換される。この変換の結果として、中央における対象物は正常に現れ、側部における対象物は、伸長され且つ歪んで現れる。異なる形状の放物線がまた、動きベクトルから導き出される値により制御されるパラメータaの値を変化させることにより得られる。その導き出された値は、動きベクトルの水平方向成分、垂直方向成分又はそれらの成分の二乗平方根平均値であることが可能である。その導き出された値は、増加した安定性のために0乃至1の範囲内で正規化されることが可能である。その変化は、より大きい大きさの動きベクトルについて、放物線があまり深くなく、均一なスケーリング比が得られるように、制御されることが可能である。他方、あまり大きくない大きさの動きベクトルは、比較的大きい深さの放物線をもたらす。異なる形状の放物線により、スケーリング比の非均一性が制御されることが可能である。
【0025】
方法100の他の実施形態においては、マルチモーダル関数が、例えば、複数の関数の組み合わせに基づいて、用いられることが可能である。実施例は、異なる場所において重なり合った放物線形状をもたらす二次関数の組み合わせであることが可能である。例えば、ある動作を有効に表す画像の中央領域及びある背景を有する画像の周囲の領域が、異なる二次関数から得られる異なる放物線の形状でスケーリングされることが可能である。
【0026】
スケーリングされた画像において、対象物は、典型的には、水平方向のスケーリング比が垂直方向のスケーリング比と等しくないとき、形状が歪んでいるように現れる。2つの可能性が存在し、第1の可能性は、水平方向のスケーリング比が垂直方向のスケーリング比より大きく、第2の可能性は、垂直方向のスケーリング比が水平方向のスケーリング比より大きいことである。第1の場合、水平方向のスケーリング関数は、典型的には、動きベクトルの水平方向の成分に基づいて生成されることが可能であり、第2の場合、対直方向のスケーリング関数は、典型的には、動きベクトルの垂直方向の成分に基づいて生成されることが可能である。水平方向のスケーリング関数は画素の行において適用され、垂直方向のスケーリング関数は画素の列において適用される。垂直方向のスケーリング関数は、表示されるピクチャの高さが幅より大きい、例えば、携帯型装置で表示されるときに、適用されることが可能である。それ故、垂直方向のスケーリング関数又は水平方向のスケーリング関数は、アプリケーションに依存して生成される及び選択的に適用されることが可能である。
【0027】
その方法の一の有効な実施形態に従った水平方向のスケーリング関数を用いる水平方向のスケーリングを実行することについて、以下に詳細に説明する。各々の行に640個の画素を、各々の列に480個の画素を有するアスペクト比4:3の入力画像について考えることにする。その入力画像は、アスペクト比16:9に適合する1920x1080画素の出力画像を得るようにスケーリングされるようになっている。この実施例においては、水平方向のスケーリング比は垂直方向のスケーリング比より大きい。その方法の一実施形態に従って、非均一な水平方向のスケーリング関数及び均一な垂直方向のスケーリング関数が入力画像に適用される。そのような場合、入力画像に属すラインの特定の部分におけるK個の画素が、水平方向のスケーリング関数を適用することにより、出力画像に属すラインの対応する部分において、L個の画素を生成するように用いられ、ここでは、K≠Lである。L個の出力画素は、既知の補完方法の一つにより生成されることが可能である。非均一性もまた、パラメータが動きベクトルの水平方向の成分により制御される非線形関数から得られる。それ故、動き依存性である非均一スケーリング関数を適用することにより画像をスケーリングすることにより画像のアスペクト比を変換する方法が提供される。
【0028】
その方法の他の実施形態においては、画像102は、典型的には、矩形に、即ち画素のブロックに分割されることが可能である。適切な非線形性を有するスケーリング関数が、連続的な動きを有し、それにより、視覚的な歪みがもたらされない画像の各々の部分に適用されることが可能である。
【0029】
図2は、基底関数からスケーリング関数を生成するように備えられている方法200の有効な実施形態について示している。スケーリング関数121は段階120で生成され、スケーリングされる画像131は、画像102の1つ又はそれ以上の画素にスケーリング関数121を適用することにより段階130において得られる。2つの有効な関数270及び280の群からの関数260は段階120において選択され、用いられることが可能である。非線形関数270の集合及び区分線形関数280が提供される。選択された非線形関数の少なくとも1つのパラメータは、動きベクトル101からもたらされる値に従って変えられることが可能である。例示として、式(1)に示されている関数について考えることにする。非線形関数の集合は、パラメータaを変えることにより生成されることが可能である、更に、実質的な線形関数f(x)=bx+cはまた、a=0を選択することにより得られる。非線形関数の幾つかの実施形態は、二次関数、指数関数及び対数関数である。それらの関数の何れかの一が基底関数として選択されることが可能である。ディジタル演算装置における、より容易な操作及び演算のために区分線形関数として非線形関数で表すことはしばしば、便利である。例えば、ルックアップテーブルの形の入力−出力変換がしばしば、非線形変換を表現するために用いられる。区分線形関数はまた、ある式に適合することが可能でない入力−出力値を表すために有用である。
【0030】
図3は、少なくとも1つのパラメータ値を制限することによりスケーリング関数を生成する方法300の実施例である。制限する段階325は更に、スケーリング関数を生成する段階320に含まれる。動きベクトル101のダイナミックレンジは、一般に、スケーリング関数321の許容パラメータ範囲に比べてかなり広い。それ故、許容範囲内のスケーリング関数の少なくとも1つのパラメータを制限することは有利である。生成されるスケーリング関数の少なくとも1つのパラメータは、パラメータの所定の範囲内で、段階325において実質的に制限され、それにより、装置300の全体的な安定性を向上することができる。パラメータを制限することは、その構成がスケーリングされた画像を得る段階330における飽和状態又は暴走状態を回避することにより信頼性を向上させるために、有利である。スケーリング関数321のパラメータの範囲は設計パラメータであることが可能である、又はその範囲はスケーリングされた画像331を得る段階330における許容入力範囲に従って決定されることが可能である。
【0031】
図4は、信頼性値403に基づいてスケーリング関数を選択する方法の実施例について示している。全ての動きベクトル101は任意に、信頼性値403に関連付けられることが可能である。その方法400は、段階120により生成されるスケーリング関数121か又は信頼性値403に基づく所定のスケーリング関数426のどちらかを選択するための選択段階425を有する。所定のスケーリング関数の実施例は単純な線形関数である。図1についての記載で説明しているパン−ズームモデルにおいて、予測される動きベクトルの信頼性値が利用可能である。その信頼性値は、シーンが異なる方向に動いている複数の対象物を有するとき、例えば、無秩序状態のシーンのときは、小さい。スケーリングに基づく動きベクトルは、信頼性値で示されるため、予測される動きベクトルが高信頼性であるときにのみ、その動きベクトルが適用される。選択されたスケーリング関数427は、スケーリングされた画像131を得る段階130で用いられる。
【0032】
図5は、シーン変化信号503に基づいてスケーリング関数を選択する方法の実施例について示している。シーン変化信号503は、動きベクトル101を予測するために用いられる方法又は装置により任意に生成されることが可能である。シーン変化信号を得る幾つかの他の方法についてが当該技術分野で知られている。方法500は、段階120により生成されるスケーリング関数121を又はシーン変化信号503に基づいて所定のスケーリング関数526を選択する段階525を有する。シーン変化が存在しない限り、生成されるスケーリング関数525が、スケーリングされる画像を生成する段階130に適用される。シーン変化が存在するとき、先行するシーンのスケーリング関数121の連続する適用が視覚的な歪みをもたらす可能性がある。スケーリング関数のパラメータをリセットすることが可能である所定のスケーリング関数526が、画像の新しいシーケンスが安定化されるときに、中間期において有利に適用されることが可能である。例えば、所定のパラメータの集合を有する二次関数が新しいシーンについて用いられることが可能である。選択されたスケーリング関数527が、スケーリングされた画像131を生成するように段階130に適用される。この構成のために、シーン変化による可視的なアーティファクトが相対的に低減され、方法500のロバストネスが向上する。
【0033】
図6は、タイミング関数を生成する方法600の実施例を示している。スケーリング関数121を生成する段階120に加えて、その方法は、動きベクトル101からタイミング関数を生成する段階640を有する。タイミング関数641は、スケーリングされた画像631を得るための段階630において用いられる。タイミング関数641は、スケーリング関数121が画像102に適用されるべきレートを決定する。スケーリング比を突然変えることは、出力画像331におけるジャーク及び可視的なアーティファクトをもたらす可能性がある。スケーリング関数121はスケーリング比における変化の品質を制御する一方、タイミング関数641は、変化量が画像のシーケンス、即ち、一度に一画像フレームに適用されるべきレートを制御する。それ故、スケーリングは、付加的次元、即ち、時間で制御される。動きベクトルの大きさにおける速く且つ頻繁の変化はスケーリング関数121における対応する変化をもたらすことが可能であり、瞬間的に適用されるとき、その変化は、出力画像631における好ましくないジャーク及び歪みをもたらす可能性がある。タイミング関数641は、スケーリング関数121における徐々の変化を達成するのに有用である。例えば、スケーリング関数の遅延適用について線形タイミング関数が選択されることが可能である。その結果、出力画像631における対象物はよりスムーズな移行を得るように現れる。スケーリング比における変化は時空間において分散され、より少ない視覚的な歪みをもたらす。
【0034】
図7は、少なくとも1つのパラメータ値を制限することにより、タイミング関数751を生成する方法700の実施例を示している。制限する段階750は、タイミング関数を生成する段階740に含まれている。動きベクトル101のダイナミックレンジは、一般に、タイミング関数の所定のパラメータの範囲に比べてかなり大きい。それ故、許容範囲内のタイミング関数により生成される値を制限することは有利である。生成されたタイミング関数751のパラメータは、実質的に所定の範囲内に制限され、それにより、全体の方法700の安定性が高められる。タイミング関数のパラメータを制限することは、その構成が段階700における飽和状態又は暴走状態を回避することにより信頼性を向上させるために、有利である。タイミング関数のパラメータのための所定の範囲は設計特徴であることが可能である。その範囲は、画像102をスケーリングする段階630における許容入力により決定されることが可能である。
【0035】
図8は、信頼性値803に基づいてタイミング関数を選択する方法800の実施例を示している。全ての動きベクトル101は、信頼性値803と共に任意に受け入れられることが可能である。その方法800は、信頼性値803に基づいて、段階640により生成されるタイミング関数641か又は所定のタイミング関数860のどちらかを選択する選択段階850を有する。生成されたタイミング関数641は、信頼性値803が所定の閾値を上回るときのみに、スケーリング画像631を生成する段階630で用いられる。予測動きベクトル803が高信頼性であることが判明したとき、所定のタイミング関数860、例えば、一定のタイミング値又は線形タイミング関数が選択され、その選択されたタイミング関数851が画像102のスケーリングにおいて用いられる。
【0036】
図9は、シーン変化信号903に基づいてタイミング関数を選択する方法900の実施例を示している。シーン変化信号903は、動きベクトル101を予測するために用いられる方法又は装置により任意に生成されることが可能である。シーン変化信号を得る幾つかの他の方法が当該技術分野において知られている。方法900は、段階640により生成されるタイミング関数641を又はシーン変化信号903に基づいて所定のタイミング関数960を選択する段階950を有する。シーン変化が存在しない限り、生成されたタイミング関数641はスケーリング画像631を生成する段階630で用いられる。上記のように、選択されたタイミング関数951は、所望のレートでスケーリング関数121を適用することにおいて有用である。シーン変化が存在するとき、先行するシーンのスケーリング関数の連続的適用は視覚的な歪みをもたらす可能性がある。所定のタイミング関数960が、画像の新しいシーケンスが安定化されるまで、中間期において適用されることが可能である。この構成のために、シーン変化のための外乱は相対的に低減され、その方法900のロバスト性は高められる。
【0037】
図10は、画素のMxNブロックを有する画像102を模式的に示している。その画像にはM個の行及びN個の列のブロックが存在する。各々のブロックにおいては、m個の行及びn個の列の画素が存在する。一般に、m≠n及びM≠Nであるが、M=N及びm=nの特別な場合は提供される装置において排除されない。既知の映像圧縮スキーム、例えば、MPEGにおいて、動きベクトルは、各々のブロックについて予測され、ブロックに属す各々の画素に割り当てられる。グローバル動きベクトルが、MxNブロックを用いる動きモデルから決定されることが可能である。グローバル動きベクトルは、その画像についてのスケーリング関数を生成するために用いられることが可能である。他の実施形態においては、Mx1ブロック又は1xNブロックに対応するM個の動きベクトル又はN個の動きベクトルが、M個又はN個のスケーリング関数のそれぞれを生成するために予測されて、用いられることが可能である。M個のスケーリング関数は、幅mの画素の各々のそれぞれのM個の水平方向のストリップに属す画素をスケーリングするために適用されることが可能である。同様に、N個のスケーリング関数が、幅nの画素の各々のそれぞれのN個のストリップに属す画素をスケーリングするために適用されることが可能である。それ故、その画像の各々のストリップ又はその部分は、異なるスケーリング関数によりスケーリングされ、その画像の各々の部分について独立してスケーリング比を制御されることが可能である。このスキームは、1つ又はそれ以上の水平方向のストリップが連続的な動き、例えば、ティッカーテープを含むことが可能であるアプリケーションにおいて、特に有用である。
【0038】
図11は、画像のシーケンスに属す画像102をスケーリングする装置1100を模式的に示している。そのスケーリングは、画像102における対象物の一つの変化を表す動きベクトル101に基づいている。代替として、動きベクトル101は、背景領域の変化を表すことが可能である。装置1100は、動きベクトル101を受信する第1受信器1110と、スケーリング関数121を生成する第1ジェネレータ1120と、画像102の1つ又はそれ以上の画素においてスケーリング関数121を適用することによりスケーリング画像131を得る画像スケーラ1130と、を有する。
【0039】
装置1100が動作しているとき、第1受信器1110は、典型的には、動き予測ユニットから動きベクトル101を受信する。動きベクトル101は、対象物の動きを表し、又は少なくとも、第1画像の一部及び第2画像の対応する一部の変化を表し、第1画像及び第2画像は、時間経過と共に移動され、動いているシーンを表す画像シーケンスに属している。動きベクトル101の好ましい値111は第1ジェネレータ1120に結合される。好ましい値111は、動きベクトルの垂直成分又は水平成分のような成分の一、又は動きベクトルの二乗平方根平均値から得られる結果の大きさであることが可能である。その得られた値111は、特定の範囲内の正規化された値、例えば、0乃至1であることが可能である。第1ジェネレータ1120は、得られた値111に基づいてスケーリング関数121を生成する。画像スケーラ1130は、画像102における1つ又はそれ以上の画素にスケーリング関数121を適用する。画像スケーラ1130は、画像102の少なくとも一部に又は全体の画像102に属す1つ又はそれ以上の画素にスケーリング関数121を適用することができる。画像スケーラは、例えば、ティッカーテープテキストを有するピクチャの副範囲のみをスケーリングし、画像の残りを影響されないまま保つことができる。画像スケーラは、画像の影響されない部分を、時間的に隣接する画像から得られる黒色のバー又は‘フィラー’で満たすように備えられることが可能である。
【0040】
図12は、画像処理装置1200の実施形態を模式的に示している。装置1200は、第2受信器1210と、動きベクトル予測ユニット1220と、画像スケーラ1230と、を有する。動作中、第2受信器1210は、画像のシーケンスに属す画像1201を受信する。動きベクトル予測ユニット1220は、画像1201の少なくとも一部の動きベクトル1221を予測する。動きベクトル予測ユニット1220は、少なくとも画像の一部の動きベクトル1221を予測するように、当該技術分野で知られている方法の一つを用いる。一実施形態においては、動きベクトル予測ユニット1220は、画像1201のグローバル動きベクトルを予測するように備えられている。一般に、動きベクトルの予測のために、時間経過に伴って移動され、画像のシーケンスに属す2つの画像が用いられる。一実施形態においては、動きベクトルユニット1220は、画像シーケンスに属す3つの連続的な画像を用いることが可能である。動きベクトル予測ユニット1220は、ある画像と先行する画像との間の、又はある画像と後続する画像との間のグローバル変化を表すグローバル動きベクトルを予測する付加動きモデルユニットを任意に有することが可能である。適応スケーリング関数及び対応するスケーリング比が、画像のアスペクト比変換のために与えられる。画像処理装置は、例えば、PC、セットトップボックス、VCR/VCP(ビデオカセットレコーダ/プレーヤ)、衛星チューナ、DVD(Digital Versatile Disk)プレーヤ/レコーダ、スタジオにおける職業的映像処理ステーション、又はネットワークオペレータのリンクステーションにおける変換装置であることが可能である。
【0041】
図13は、画像表示装置1300の実施形態を模式的に示している。画像表示装置1300は、画像処理装置1200と、表示装置1320と、を有する。画像表示装置は、画像の映像シーケンスを受信する及びそれらの画像を表示することができる。表示装置1320は、ワイドスクリーンのアスペクト比、例えば、16:9を有することが可能である。一般に、ワイドスクリーンの表示装置についてのアスペクト比は、開示されている画像処理装置1200から得られることが可能である。衛星ナビゲートシステム及び携帯電話のような携帯型装置のあるディスプレイにおいては、画像の表示される高さはその幅より大きいことが可能である。表示装置1300はまた、4:3より小さい又は大きいアスペクト比の画像を表示するために有用である。表示装置1300は、その表示高さより大きい幅を有する表示を有するワイドスクリーンのテレビ、ワイドスクリーン表示を有するPC、メディアセンタ、幅より大きい表示高さを有する携帯型装置であることが可能である。
【0042】
図14は、動きベクトルに基づいて画像をスケーリングする装置1400の実施形態を模式的に示している。装置1400は、第1受信器1410と、第1ジェネレータ1420と、第2ジェネレータ1440と、第1信頼性ユニット1450と、第2信頼性ユニット1460と、画像スケーラ1430と、を有する。動作中、第1受信器1410は、画像102の少なくとも一部の動きベクトル101、その動きベクトル101に関連付けられた信頼性値1403及びシーン変化値1405を受信する。信頼性値1403及びシーン変化値1405は、動きベクトル予測ユニットにより任意に生成されることが可能である。画像のシーケンスから独立して又は動きベクトル予測ユニットからシーン変化値を得る技術は当該技術分野において知られている。入力101、1403及び1405は、第1受信器1410により独立して処理されることが可能である。第1受信器1410の出力は、動きベクトル101の導き出された値111と、信頼性値1403から導き出された信頼性信号1413と、シーン変化値1405から導き出されたシーン変化信号1415と、を有する。装置1400の一実施形態においては、信頼性信号及びシーン変化信号を得る所定の閾値が第1受信器に適用されることが可能である。装置1400の他の実施形態においては、所定の閾値が、それぞれの信頼性ユニット1450及び1460において適用されることが可能である。
【0043】
動作中、第1信頼性ユニット1450は、2つのスケーリング関数の一、即ち、第1の処置のスケーリング関数1445又は生成されたスケーリング関数121を選択し、その選択は、信頼性信号1413により影響される。動きベクトルの信頼性値1403が所定の閾値を上回る場合、生成されるスケーリング関数121は画像スケーリングユニット1430により用いられる。第1信頼性ユニット1450はまた、同様な方法で、生成されたタイミング関数341又は第1所定タイミング関数1447に切り換えるように備えられる。一実施形態においては、第1所定スケーリング関数1445は、信頼性値1403が所定の閾値より小さい時点で適用される関数であることが可能である。同様に、第1所定タイミング関数1447は、信頼性値1403が所定の閾値より小さくなる時点で適用される関数であることが可能である。
【0044】
シーン変化信号1415は、シーン変化値1405が所定の閾値を上回るとき、受信器1410において生成される。外部のソースから直接、シーン変化検出信号1415を受信することが可能である。第2信頼性ユニット1460の機能は、第1信頼性ユニット1450の出力において利用可能な第2所定スケーリング関数1455か又はスケーリング関数1451のどちらかを選択することであり、その選択はシーン変化検出信号1415により制御される。シーン変化が存在しない限り、第1信頼性ユニット1450の出力において利用可能であるスケーリング関数1451及びタイミング関数1453が画像スケーリングユニット1430に結合される。それ故、選択されたスケーリング関数1461及び選択されたタイミング関数1463は、画像スケーラ1430において利用可能になる。シーン変化信号が存在するとき、先行するシーン用のスケーリング関数及びタイミング関数は視覚的な歪みをもたらす可能性がある。従って、第2信頼性ユニットは、第2所定スケーリング関数1455及び第2所定タイミング関数1457を切り換えるように備えられている。装置1400の一実施形態においては、第2所定スケーリング関数1455及び第2所定タイミング関数1457は、最初の設定にリセットされる。この構成のために、シーン変化のための外乱は相対的に低減され、装置1400のロバスト性は向上する。
【0045】
画像の1つ又はそれ以上の画素のスケーリングに基づく動きベクトルのための装置1100、画像処理装置1200及び画像表示装置1300は、ディジタル信号プロセッサにより又は汎用目的のコンピュータにより実行されるソフトウェアにより又はディジタルハードウェアにより実行されることが可能である。
【0046】
グローバルカメラパンのようなグローバル動きのみを特定する単純な実施形態だけでなく、別個の対象物の動き、典型的には、前景の対象物が解析されることが可能であり、スケーリングがそれらの対象物を考慮することができる。例えば、単一のスケーリング関数が、ひとりの人間又は前景の動きを追跡するように微調整されることが可能である。前景の対象物は、動きベクトルのみに基づいて容易にセグメント化されることが可能である。しかしながら、前景の対象物の更なる解析、例えば、テクスチャ解析又は顔検出が、対象物を分類するように及び適切なスケーリング関数を選択するように実行されることが可能である。
【0047】
ショットにおいて、最適なスケーリング関数が、そのショットにおける全ての関連動きを考慮して、選択及び修正されることが可能である。最適なバランスが、それ故、動いているひとの歪み及び背景の歪みの種々の厳しさの条件を考慮することによりとられることが可能である。例えば、一部の歪みにおいては、人間の視覚の周囲にアーティファクトが現れる場合、好ましくない度合いが小さく、その歪みは、より大きいパニング速度についてより好ましくないことが可能である。周囲のピクチャから適切な外挿データにより部分的に補われる第2二次関数のような適切な背景のスケーリング関数が選択されることが可能である。
【0048】
動きベクトルは進行中に決定されることが可能であるが、動きベクトルは、画像シーケンスにおいて、又は代替として、画像シーケンスを補完するメタデータとして、有効に予め組み込まれていることが可能である。オフラインシナリオにおけるシーケンスについて一度、動きベクトルを演算することにより、処理の必要性が低減される。更に、結果として得られる動きベクトルの品質を改善するように、高性能のセグメント化技術を用いることが可能である高品質のアルゴリズムを用いることが可能である。
【0049】
動きベクトル情報はまた、付加係数を有することが可能であり、その付加係数は動きベクトルの生成の品質を改善し、オフラインで決定されたものである。この情報は、例えば、ショットの境界、ショットの種類を有することが可能であり、パン又はズームシーケンスを表すパラメータを有することが可能である。
【0050】
代替として、メタデータは、スケーリング関数自体を生成するように用いられる実際の係数を有することが可能である。コンテンツ作成における専門のアーティストは、少なくとも1つのスケーリング関数の係数又は他のデータをテレビ信号(例えば、圧縮されたテレビ信号の又はテレテキストラインにおける補完的改善情報としての)の指定データ部分に指定することが可能であり、それ故、そのディスプレイは最適な効果を生成し、そのアーティストは、複数のディスプレイ(例えば、小さい投影乃至大きい投影)についてそのように最適な効果を生成することさえ可能であり、ディスプレイは、どのスケーリングの種類が最も適切であるかを特定することができる。
【0051】
幾つかのスケーリング関数(例えば、複数の二次関数)、例えば、シーンにおける中央のアクションにおける第1二次関数と、画像の周縁近傍の背景領域についての第2二次関数の組み合わせを用いることがまた、可能である。代替として、そのようなスケーリング関数は、区分線形スケーリング関数として実施されることが可能である。
【0052】
クロック、ロゴ、コマーシャル情報、スクロールテキスト又は黒色のバー等の影響されない部分における付加ピクチャを伴う、スケーリングされない画像の残りをそのままにして、画像の一部、例えば、サブテキスト領域に幾つかのスケーリング関数を適用することがまた、可能である。
【0053】
本発明の範囲は、明示的に開示されている上記の実施形態に限定されるものではない。本発明は、各々の新規な特徴及び各々の新規な特徴の組み合わせにおいて実施されることが可能である。用語“を有する”は、請求項において列挙されている要素又は段階以外の要素又は段階の存在を排除するものではない。要素の単数表現は、その要素の複数の存在を排除するものではない。記載されている全ての装置のユニット及び方法の段階は、1つ又は複数のハードウェアのユニット又はソフトウェアの実施形態として組み合わされる及び実現される、及びネットワークにおいて分配される、順序付けられる等が行われることが可能である。
【図面の簡単な説明】
【0054】
【図1】動きベクトルに基づいて画像をスケーリングする方法の実施例を示す図である。
【図2】基底関数からスケーリング関数を生成する方法の実施例を示す図である。
【図3】少なくとも1つのパラメータ値を制限することによりスケーリング関数を生成する方法の実施例を示す図である。
【図4】信頼性値にスケーリング関数を選択する方法の実施例を示す図である。
【図5】シーン変化信号に基づいてスケーリング関数を選択する方法の実施例を示す図である。
【図6】タイミング関数を生成する方法の実施例を示す図である。
【図7】少なくとも1つのパラメータ値を制限することによりタイミング関数を生成する方法の実施例を示す図である。
【図8】信頼性値に基づいてタイミング関数を選択する方法の実施例を示す図である。
【図9】シーン変化信号に基づいてタイミング関数を選択する方法の実施例を示す図である。
【図10】画素のMxNブロックを有する画像を模式的に示す図である。
【図11】画像のスケーリングするための装置の実施形態を模式的に示す図である。
【図12】画像処理装置の実施形態を模式的に示す図である。
【図13】画像表示装置の実施形態を模式的に示す図である。
【図14】画像をスケーリングする信頼性装置の実施形態を模式的に示す図である。
【技術分野】
【0001】
本発明は、画像を処理する方法に関し、特に、画像の映像シーケンスに属す画像をスケーリングする方法に関する。
【背景技術】
【0002】
画像のアスペクト比は、画像が表示される高さで除算される画像が表示される幅(通常、“X:Y”で表される)である。今日、種々のテレビの基準で異なるアスペクト比が用いられている。16:9のワイドスクリーンのアスペクト比は、4:3のアスペクト比を用いる既存のテレビ放送における支持を得ている。その結果、アスペクト比についての要請がもたらされた。アスペクト比変換のための一部の一般的な方法は、両側に黒色のバーを付加すること、水平方向にのみ画像を走査すること及び水平方向及び鉛直方向に画像を走査することである。走査は、映像データの画像フレームの解像度を変えることを有する。非均一なスケーリング機能により水平方向に画像をスケーリングする方法は“パノラマスケーリング”と呼ばれている。非均一スケーリングは、側部における対象物が中央における対象物に比べてより歪むようにする。一般に、パノラマスケーリングは静止画像について許容可能であるが、例えば、カメラパニングによりもたらされる画像における動きの場合、対象物は、異なる空間の場所において異なるスケーリングの影響下に置かれるため、サイズが変わったように現れる。このことは、かなり厄介である対象物の視覚的な歪みをもたらす。
【発明の開示】
【発明が解決しようとする課題】
【0003】
画像の映像シーケンスに属す画像をスケーリングする改善された方法を有することが要請されている。
【課題を解決するための手段】
【0004】
従って、ここで開示されている画像の映像シーケンスに属す画像をスケーリングする改善された方法において、その方法は、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間における対象物の位置の変化を表す動きベクトルに基づいて画像をスケーリングする段階であって、前記画像は画像の映像シーケンスに属す、段階を有する。
【0005】
好適な実施形態において、画像をスケーリングする段階は、動きベクトルに基づいてスケーリング関数を生成する段階と、画像の1つ又はそれ以上の画素にスケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得る段階とを有する。
【0006】
また、画像の映像シーケンスに属す画像の改善されたスケーリングのため装置を有することは好ましいことである。
【0007】
従って、本明細書において開示される画像の改善されたスケーリングのための装置において、その装置は、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の対象物の位置の変化を表す動きベクトルを受け入れることができる第1受信器であって、前記画像は画像の映像シーケンスに属す、第1受信器と、動きベクトルに基づいてスケーリング関数を生成することができる第1ジェネレータと、画像の1つ又はそれ以上の画素にスケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得ることができる画像スケーラと、を有する。
【0008】
画像の改善されたスケーリングのための画像処理装置であって、スケーリングが所定のアスペクト比に基づいている、画像処理装置を有することはまた、好ましいことである。
【0009】
従って、本明細書に開示されている画像の改善されたスケーリングのための画像処理装置において、画像処理装置は、画像のシーケンスを受け入れる第2受信器と、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の対象物の位置の変化を表す動きベクトルを予測することができる動き予測ユニットであって、前記画像は画像の映像シーケンスに属す、動き予測ユニットと、画像の映像シーケンスに属す画像をスケーリングすることができる装置であって、そのスケーリングは所定のアスペクト比に基づいている、装置と、を有する。
【0010】
また、画像の改善されたスケーリング及び画像の表示のための画像表示装置を有することは好ましいことである。
【0011】
従って、本明細書で開示される画像表示装置において、その画像表示装置は、画像処理装置と、表示装置と、を有する。画像処理装置は、画像の映像シーケンスに属す画像の改善されたスケーリングのために備えられ、表示装置は、スケーリングされた画像を表示するために備えられる。
【0012】
また、動きベクトルに基づいて画像をスケーリングする方法の複数の段階を実行する
コンピュータプログラム及びコンピュータプログラムプロダクトを有することは好ましいことである。
【0013】
従って、本明細書に開示されているコンピュータプログラム及びコンピュータプログラムプロダクトにおいて、コンピュータプログラム及びコンピュータプログラムプロダクトは、動きベクトルに基づくスケーリング関数を生成する命令と、画像の映像シーケンスに属す画像の1つ又はそれ以上の画素にスケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得る命令と、を有する。
【0014】
上記の及び他の特徴については、例示として、添付図を参照して、以下の実施形態に基づいて詳述する。
【0015】
複数の図で用いている対応する参照番号は、それらの図における対応する要素を表している。
【発明を実施するための最良の形態】
【0016】
映像データは、行列状に配列された画素から成る画像のシーケンスを有する。それらの画像はフレームと呼ばれる。例えば、映像データは、1秒当たり30フレーム又は1秒の映像データから成る30の個別の画像を有することが可能である。ディジタルテレビ及びストリーミングメディアにより、複数の新しい技術が、複数のメディアフォーマット及び表示フォーマットの互換性及び相互運用性を可能にするように開発されてきた。画像をスケーリングすることによる画像のアスペクト比の変換は重要な技術である。例えば、640x480画素(NDTV解像度)を有するアスペクト比4:3の画像は、1920x1080画素(HDTV解像度)を有するアスペクト比16:9にスケーリングされることができる。画像がスケーリングされるとき、スケーリングされる画像における各々の新しい画素の値はオリジナルの画像における1つ又はそれ以上の画素に基づいている。各々の新しい画素の演算はスケーリング関数により数式化されることができる。最も単純なスケーリング関数は一次式である。一次式を適用することにより、画像は、必要な数の画素を得るように、一定の水平方向のスケーリング比及び垂直方向のスケーリング比に従って水平方向及び垂直方向の両方において均一に伸長される。しばしば、水平方向のスケーリング比は、例えば、NTSC解像度をHDTV解像度に変換するとき、垂直方向のスケーリング比に等しくない。等しくない水平方向のスケーリング比及び垂直方向のスケーリング比を有する画像のスケーリングは、スケーリングされた画像における対象物が水平方向か又は垂直方向のどちらかにおいて引き伸ばされたようにみえるため、視覚的な歪みをもたらす可能性がある。不均一なパノラマスケーリングは、一般に、そのような歪みを低減するように用いられる。この技術に従って、画像における行画素は、空間的な場所に依存して変わるスケーリング比に従ってスケーリングされる。例えば、水平方向のスケーリング比は、パノラマ画像の水平方向の中央から両側に次第に増加する、しかしながら、この技術はまた、動いているシーンにおいて特に、視覚的な歪みをもたらす。対象物がシーンを横断して動く又はカメラがシーンを横断してパンするとき、視覚的な歪みは、対象物がその幅が一定に変化するように現れるために、より顕著である。特に、動いているシーンにおける、低減された視覚的な歪みを伴う、パノラマスケーリングを有することは好ましいことである。
【0017】
図1は、動きベクトル101に基づいて画像102をスケーリングする方法100の有効な実施形態を示している。スケーリング関数121が段階120において生成され、スケーリングされた画像131は、画像102の1つ又はそれ以上の画素にスケーリング関数121を適用することにより、段階130において得られる。
【0018】
動きベクトル101は、典型的には、動き予測方法により得られる。動きベクトルは、第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の対象物の位置の変化であって、前記第1画像及び第2画像が画像の映像シーケンスに属す、変化である。第1画像及び第2画像は、時間経過と共に表示され、動いているシーンを描く。
【0019】
視覚的な歪みを低減するように、非均一なスケーリングが、シーンにおける対象物の動きの速度に依存して行われることが可能である。動きベクトルから、画像における動きに適合される適合スケーリング関数が得られる。換言すれば、非均一なスケーリングは静止シーンに適用され、略均一なスケーリングは、高速で動いているシーンに適用され、中程度の非均一なスケーリングは、動きの大きさに依存して画像に適用される。シーンにおける対象物の速度が所定速度に近づくにつれて、非均一なスケーリングは均一なスケーリングになる傾向にある。
【0020】
画像のシーケンスの各々の画像について、動きベクトルに基づく新しいスケーリング関数が演算される。異なるスケーリング比が各々の画像に適用されることが可能である。各々の画像において、スケーリング比は、場所に応じて非均一であることが可能である。スケーリング関数の非線形性は、異なるスケーリング比が異なる空間的な場所において得られるように、調整される。例えば、シーンにおける対象物の高速の動きによる、より大きい大きさの動きベクトルについては、実質的に線形のスケーリング関数が、ビューアが強い“ハーモニカ”効果を知覚しないように得られるように、適用される。この結果、実質的に均一なスケーリング比がその画像における画素に適用される。他方、例えば、実質的に静止シーンから得られるより大きさの小さい動きベクトルについては、実質的に非均一なスケーリング比を生成するスケーリング関数が生成される。このことは、例えば、一部の人々が画像の一部に存在し、周囲の領域をスケーリングする必要性があまり重要でないシーンについては、有用である。その結果、実質的に非均一なスケーリング比が、実質的に静止シーンの画像をスケーリングするために用いられる。従って、そのスケーリングは、動きベクトルの大きさに従って適用され、異なる空間的な場所に適用される、そのスケーリングは、空間において及び時間経過につれて配分され、それにより、実質的に視覚的な歪みを低減することができる。
【0021】
開示されている装置についての有用な動きベクトルの予測は、文献“Progress in Motion Estimation for Consumer Video Format Conversion”,by G.de Haan,IEEE Transaction Consumer Electronics,vol.46,no.3,pp.449−459,(August 2000)に開示されているブロックマッチング及びリカーシブ型の動きベクトル予測を含むが、それに限定されるものではない。当業者は、複数の既知の技術により、画像のシーケンスから、少なくとも画像の一部の動きベクトルを得ることができる。更に、本発明の装置についての有用な動き予測は、ブロックばかりでなく、ブロック及び画素を有する何れかの種類の形状の領域において機能することができる。
【0022】
本発明の方法100の他の実施形態においては、画像102と第2画像との間のグローバル変化を表すグローバル動きベクトル101が用いられる。グローバル動きベクトルは、動きベクトルから決定されることが可能である。グローバル動き予測は、完全な画像における動き、即ち、多かれ少なかれ同様の動きを有する大きい対象物又は複数の対象物の平均的な動き又は主要な動きについてのメトリックである。動きモデルは、対象物又はカメラのパニング(即ち、並進)の検出において適用されることが可能である。動きモデルは、ときどき、“パン−ズームモデル”と呼ばれる。スケーリング関数はまた、異なるモデル、例えば、スケーリングの必要性を最適化するように、それにより、視覚的なアーティファクトを最小化するように回転しているシーンについて導き出されることが可能である。グローバル動きベクトルに基づくスケーリング関数は、全体の画像をスケーリングするために有利に用いられることが可能であるスケーリング関数を生成するように有利に用いられることが可能である。
【0023】
画像のグローバル動きベクトルを予測する技術については、当該技術分野において知られている。例えば、文献“An efficient true−motion estimator using candidate vectors from a panoramic motion model”,by G.de Haan,et al.,in IEEE circuits and systems for video technology,vol.8,no.1.pp.85−91,March 1998において、動きモデルからグローバル動きベクトルを予測するスキームについて記載されている。そのような方法を用いる場合、グローバル動きベクトルは、一般に、装置の実施形態の1つにおいて予測されて、用いられる。
【0024】
方法100の他の実施形態においては、スケーリング関数120は、動きベクトル101の成分の一に基づいて、スケーリング関数120の少なくとも1つのパラメータを変化させることにより生成される。スケーリング関数120は、画像の複数の空間的な場所において異なるスケーリング比を生成するようにデザインされる。空間的に変化する非線形変換関数がスケーリング関数として選択されることが可能である。例示として、式(1)に示す二次関数について考える。
f(x)=ax2+bx+c (a≠0) (1)
二次関数(1)は放物線の形をしていて、その放物線の頂点はx座標b/2aを有するグラフにおける点にある。二次関数は、中央の画素が均一なスケーリング比により変換され、側部にある画素は次第に大きくなる非均一スケーリング比により変換される。この変換の結果として、中央における対象物は正常に現れ、側部における対象物は、伸長され且つ歪んで現れる。異なる形状の放物線がまた、動きベクトルから導き出される値により制御されるパラメータaの値を変化させることにより得られる。その導き出された値は、動きベクトルの水平方向成分、垂直方向成分又はそれらの成分の二乗平方根平均値であることが可能である。その導き出された値は、増加した安定性のために0乃至1の範囲内で正規化されることが可能である。その変化は、より大きい大きさの動きベクトルについて、放物線があまり深くなく、均一なスケーリング比が得られるように、制御されることが可能である。他方、あまり大きくない大きさの動きベクトルは、比較的大きい深さの放物線をもたらす。異なる形状の放物線により、スケーリング比の非均一性が制御されることが可能である。
【0025】
方法100の他の実施形態においては、マルチモーダル関数が、例えば、複数の関数の組み合わせに基づいて、用いられることが可能である。実施例は、異なる場所において重なり合った放物線形状をもたらす二次関数の組み合わせであることが可能である。例えば、ある動作を有効に表す画像の中央領域及びある背景を有する画像の周囲の領域が、異なる二次関数から得られる異なる放物線の形状でスケーリングされることが可能である。
【0026】
スケーリングされた画像において、対象物は、典型的には、水平方向のスケーリング比が垂直方向のスケーリング比と等しくないとき、形状が歪んでいるように現れる。2つの可能性が存在し、第1の可能性は、水平方向のスケーリング比が垂直方向のスケーリング比より大きく、第2の可能性は、垂直方向のスケーリング比が水平方向のスケーリング比より大きいことである。第1の場合、水平方向のスケーリング関数は、典型的には、動きベクトルの水平方向の成分に基づいて生成されることが可能であり、第2の場合、対直方向のスケーリング関数は、典型的には、動きベクトルの垂直方向の成分に基づいて生成されることが可能である。水平方向のスケーリング関数は画素の行において適用され、垂直方向のスケーリング関数は画素の列において適用される。垂直方向のスケーリング関数は、表示されるピクチャの高さが幅より大きい、例えば、携帯型装置で表示されるときに、適用されることが可能である。それ故、垂直方向のスケーリング関数又は水平方向のスケーリング関数は、アプリケーションに依存して生成される及び選択的に適用されることが可能である。
【0027】
その方法の一の有効な実施形態に従った水平方向のスケーリング関数を用いる水平方向のスケーリングを実行することについて、以下に詳細に説明する。各々の行に640個の画素を、各々の列に480個の画素を有するアスペクト比4:3の入力画像について考えることにする。その入力画像は、アスペクト比16:9に適合する1920x1080画素の出力画像を得るようにスケーリングされるようになっている。この実施例においては、水平方向のスケーリング比は垂直方向のスケーリング比より大きい。その方法の一実施形態に従って、非均一な水平方向のスケーリング関数及び均一な垂直方向のスケーリング関数が入力画像に適用される。そのような場合、入力画像に属すラインの特定の部分におけるK個の画素が、水平方向のスケーリング関数を適用することにより、出力画像に属すラインの対応する部分において、L個の画素を生成するように用いられ、ここでは、K≠Lである。L個の出力画素は、既知の補完方法の一つにより生成されることが可能である。非均一性もまた、パラメータが動きベクトルの水平方向の成分により制御される非線形関数から得られる。それ故、動き依存性である非均一スケーリング関数を適用することにより画像をスケーリングすることにより画像のアスペクト比を変換する方法が提供される。
【0028】
その方法の他の実施形態においては、画像102は、典型的には、矩形に、即ち画素のブロックに分割されることが可能である。適切な非線形性を有するスケーリング関数が、連続的な動きを有し、それにより、視覚的な歪みがもたらされない画像の各々の部分に適用されることが可能である。
【0029】
図2は、基底関数からスケーリング関数を生成するように備えられている方法200の有効な実施形態について示している。スケーリング関数121は段階120で生成され、スケーリングされる画像131は、画像102の1つ又はそれ以上の画素にスケーリング関数121を適用することにより段階130において得られる。2つの有効な関数270及び280の群からの関数260は段階120において選択され、用いられることが可能である。非線形関数270の集合及び区分線形関数280が提供される。選択された非線形関数の少なくとも1つのパラメータは、動きベクトル101からもたらされる値に従って変えられることが可能である。例示として、式(1)に示されている関数について考えることにする。非線形関数の集合は、パラメータaを変えることにより生成されることが可能である、更に、実質的な線形関数f(x)=bx+cはまた、a=0を選択することにより得られる。非線形関数の幾つかの実施形態は、二次関数、指数関数及び対数関数である。それらの関数の何れかの一が基底関数として選択されることが可能である。ディジタル演算装置における、より容易な操作及び演算のために区分線形関数として非線形関数で表すことはしばしば、便利である。例えば、ルックアップテーブルの形の入力−出力変換がしばしば、非線形変換を表現するために用いられる。区分線形関数はまた、ある式に適合することが可能でない入力−出力値を表すために有用である。
【0030】
図3は、少なくとも1つのパラメータ値を制限することによりスケーリング関数を生成する方法300の実施例である。制限する段階325は更に、スケーリング関数を生成する段階320に含まれる。動きベクトル101のダイナミックレンジは、一般に、スケーリング関数321の許容パラメータ範囲に比べてかなり広い。それ故、許容範囲内のスケーリング関数の少なくとも1つのパラメータを制限することは有利である。生成されるスケーリング関数の少なくとも1つのパラメータは、パラメータの所定の範囲内で、段階325において実質的に制限され、それにより、装置300の全体的な安定性を向上することができる。パラメータを制限することは、その構成がスケーリングされた画像を得る段階330における飽和状態又は暴走状態を回避することにより信頼性を向上させるために、有利である。スケーリング関数321のパラメータの範囲は設計パラメータであることが可能である、又はその範囲はスケーリングされた画像331を得る段階330における許容入力範囲に従って決定されることが可能である。
【0031】
図4は、信頼性値403に基づいてスケーリング関数を選択する方法の実施例について示している。全ての動きベクトル101は任意に、信頼性値403に関連付けられることが可能である。その方法400は、段階120により生成されるスケーリング関数121か又は信頼性値403に基づく所定のスケーリング関数426のどちらかを選択するための選択段階425を有する。所定のスケーリング関数の実施例は単純な線形関数である。図1についての記載で説明しているパン−ズームモデルにおいて、予測される動きベクトルの信頼性値が利用可能である。その信頼性値は、シーンが異なる方向に動いている複数の対象物を有するとき、例えば、無秩序状態のシーンのときは、小さい。スケーリングに基づく動きベクトルは、信頼性値で示されるため、予測される動きベクトルが高信頼性であるときにのみ、その動きベクトルが適用される。選択されたスケーリング関数427は、スケーリングされた画像131を得る段階130で用いられる。
【0032】
図5は、シーン変化信号503に基づいてスケーリング関数を選択する方法の実施例について示している。シーン変化信号503は、動きベクトル101を予測するために用いられる方法又は装置により任意に生成されることが可能である。シーン変化信号を得る幾つかの他の方法についてが当該技術分野で知られている。方法500は、段階120により生成されるスケーリング関数121を又はシーン変化信号503に基づいて所定のスケーリング関数526を選択する段階525を有する。シーン変化が存在しない限り、生成されるスケーリング関数525が、スケーリングされる画像を生成する段階130に適用される。シーン変化が存在するとき、先行するシーンのスケーリング関数121の連続する適用が視覚的な歪みをもたらす可能性がある。スケーリング関数のパラメータをリセットすることが可能である所定のスケーリング関数526が、画像の新しいシーケンスが安定化されるときに、中間期において有利に適用されることが可能である。例えば、所定のパラメータの集合を有する二次関数が新しいシーンについて用いられることが可能である。選択されたスケーリング関数527が、スケーリングされた画像131を生成するように段階130に適用される。この構成のために、シーン変化による可視的なアーティファクトが相対的に低減され、方法500のロバストネスが向上する。
【0033】
図6は、タイミング関数を生成する方法600の実施例を示している。スケーリング関数121を生成する段階120に加えて、その方法は、動きベクトル101からタイミング関数を生成する段階640を有する。タイミング関数641は、スケーリングされた画像631を得るための段階630において用いられる。タイミング関数641は、スケーリング関数121が画像102に適用されるべきレートを決定する。スケーリング比を突然変えることは、出力画像331におけるジャーク及び可視的なアーティファクトをもたらす可能性がある。スケーリング関数121はスケーリング比における変化の品質を制御する一方、タイミング関数641は、変化量が画像のシーケンス、即ち、一度に一画像フレームに適用されるべきレートを制御する。それ故、スケーリングは、付加的次元、即ち、時間で制御される。動きベクトルの大きさにおける速く且つ頻繁の変化はスケーリング関数121における対応する変化をもたらすことが可能であり、瞬間的に適用されるとき、その変化は、出力画像631における好ましくないジャーク及び歪みをもたらす可能性がある。タイミング関数641は、スケーリング関数121における徐々の変化を達成するのに有用である。例えば、スケーリング関数の遅延適用について線形タイミング関数が選択されることが可能である。その結果、出力画像631における対象物はよりスムーズな移行を得るように現れる。スケーリング比における変化は時空間において分散され、より少ない視覚的な歪みをもたらす。
【0034】
図7は、少なくとも1つのパラメータ値を制限することにより、タイミング関数751を生成する方法700の実施例を示している。制限する段階750は、タイミング関数を生成する段階740に含まれている。動きベクトル101のダイナミックレンジは、一般に、タイミング関数の所定のパラメータの範囲に比べてかなり大きい。それ故、許容範囲内のタイミング関数により生成される値を制限することは有利である。生成されたタイミング関数751のパラメータは、実質的に所定の範囲内に制限され、それにより、全体の方法700の安定性が高められる。タイミング関数のパラメータを制限することは、その構成が段階700における飽和状態又は暴走状態を回避することにより信頼性を向上させるために、有利である。タイミング関数のパラメータのための所定の範囲は設計特徴であることが可能である。その範囲は、画像102をスケーリングする段階630における許容入力により決定されることが可能である。
【0035】
図8は、信頼性値803に基づいてタイミング関数を選択する方法800の実施例を示している。全ての動きベクトル101は、信頼性値803と共に任意に受け入れられることが可能である。その方法800は、信頼性値803に基づいて、段階640により生成されるタイミング関数641か又は所定のタイミング関数860のどちらかを選択する選択段階850を有する。生成されたタイミング関数641は、信頼性値803が所定の閾値を上回るときのみに、スケーリング画像631を生成する段階630で用いられる。予測動きベクトル803が高信頼性であることが判明したとき、所定のタイミング関数860、例えば、一定のタイミング値又は線形タイミング関数が選択され、その選択されたタイミング関数851が画像102のスケーリングにおいて用いられる。
【0036】
図9は、シーン変化信号903に基づいてタイミング関数を選択する方法900の実施例を示している。シーン変化信号903は、動きベクトル101を予測するために用いられる方法又は装置により任意に生成されることが可能である。シーン変化信号を得る幾つかの他の方法が当該技術分野において知られている。方法900は、段階640により生成されるタイミング関数641を又はシーン変化信号903に基づいて所定のタイミング関数960を選択する段階950を有する。シーン変化が存在しない限り、生成されたタイミング関数641はスケーリング画像631を生成する段階630で用いられる。上記のように、選択されたタイミング関数951は、所望のレートでスケーリング関数121を適用することにおいて有用である。シーン変化が存在するとき、先行するシーンのスケーリング関数の連続的適用は視覚的な歪みをもたらす可能性がある。所定のタイミング関数960が、画像の新しいシーケンスが安定化されるまで、中間期において適用されることが可能である。この構成のために、シーン変化のための外乱は相対的に低減され、その方法900のロバスト性は高められる。
【0037】
図10は、画素のMxNブロックを有する画像102を模式的に示している。その画像にはM個の行及びN個の列のブロックが存在する。各々のブロックにおいては、m個の行及びn個の列の画素が存在する。一般に、m≠n及びM≠Nであるが、M=N及びm=nの特別な場合は提供される装置において排除されない。既知の映像圧縮スキーム、例えば、MPEGにおいて、動きベクトルは、各々のブロックについて予測され、ブロックに属す各々の画素に割り当てられる。グローバル動きベクトルが、MxNブロックを用いる動きモデルから決定されることが可能である。グローバル動きベクトルは、その画像についてのスケーリング関数を生成するために用いられることが可能である。他の実施形態においては、Mx1ブロック又は1xNブロックに対応するM個の動きベクトル又はN個の動きベクトルが、M個又はN個のスケーリング関数のそれぞれを生成するために予測されて、用いられることが可能である。M個のスケーリング関数は、幅mの画素の各々のそれぞれのM個の水平方向のストリップに属す画素をスケーリングするために適用されることが可能である。同様に、N個のスケーリング関数が、幅nの画素の各々のそれぞれのN個のストリップに属す画素をスケーリングするために適用されることが可能である。それ故、その画像の各々のストリップ又はその部分は、異なるスケーリング関数によりスケーリングされ、その画像の各々の部分について独立してスケーリング比を制御されることが可能である。このスキームは、1つ又はそれ以上の水平方向のストリップが連続的な動き、例えば、ティッカーテープを含むことが可能であるアプリケーションにおいて、特に有用である。
【0038】
図11は、画像のシーケンスに属す画像102をスケーリングする装置1100を模式的に示している。そのスケーリングは、画像102における対象物の一つの変化を表す動きベクトル101に基づいている。代替として、動きベクトル101は、背景領域の変化を表すことが可能である。装置1100は、動きベクトル101を受信する第1受信器1110と、スケーリング関数121を生成する第1ジェネレータ1120と、画像102の1つ又はそれ以上の画素においてスケーリング関数121を適用することによりスケーリング画像131を得る画像スケーラ1130と、を有する。
【0039】
装置1100が動作しているとき、第1受信器1110は、典型的には、動き予測ユニットから動きベクトル101を受信する。動きベクトル101は、対象物の動きを表し、又は少なくとも、第1画像の一部及び第2画像の対応する一部の変化を表し、第1画像及び第2画像は、時間経過と共に移動され、動いているシーンを表す画像シーケンスに属している。動きベクトル101の好ましい値111は第1ジェネレータ1120に結合される。好ましい値111は、動きベクトルの垂直成分又は水平成分のような成分の一、又は動きベクトルの二乗平方根平均値から得られる結果の大きさであることが可能である。その得られた値111は、特定の範囲内の正規化された値、例えば、0乃至1であることが可能である。第1ジェネレータ1120は、得られた値111に基づいてスケーリング関数121を生成する。画像スケーラ1130は、画像102における1つ又はそれ以上の画素にスケーリング関数121を適用する。画像スケーラ1130は、画像102の少なくとも一部に又は全体の画像102に属す1つ又はそれ以上の画素にスケーリング関数121を適用することができる。画像スケーラは、例えば、ティッカーテープテキストを有するピクチャの副範囲のみをスケーリングし、画像の残りを影響されないまま保つことができる。画像スケーラは、画像の影響されない部分を、時間的に隣接する画像から得られる黒色のバー又は‘フィラー’で満たすように備えられることが可能である。
【0040】
図12は、画像処理装置1200の実施形態を模式的に示している。装置1200は、第2受信器1210と、動きベクトル予測ユニット1220と、画像スケーラ1230と、を有する。動作中、第2受信器1210は、画像のシーケンスに属す画像1201を受信する。動きベクトル予測ユニット1220は、画像1201の少なくとも一部の動きベクトル1221を予測する。動きベクトル予測ユニット1220は、少なくとも画像の一部の動きベクトル1221を予測するように、当該技術分野で知られている方法の一つを用いる。一実施形態においては、動きベクトル予測ユニット1220は、画像1201のグローバル動きベクトルを予測するように備えられている。一般に、動きベクトルの予測のために、時間経過に伴って移動され、画像のシーケンスに属す2つの画像が用いられる。一実施形態においては、動きベクトルユニット1220は、画像シーケンスに属す3つの連続的な画像を用いることが可能である。動きベクトル予測ユニット1220は、ある画像と先行する画像との間の、又はある画像と後続する画像との間のグローバル変化を表すグローバル動きベクトルを予測する付加動きモデルユニットを任意に有することが可能である。適応スケーリング関数及び対応するスケーリング比が、画像のアスペクト比変換のために与えられる。画像処理装置は、例えば、PC、セットトップボックス、VCR/VCP(ビデオカセットレコーダ/プレーヤ)、衛星チューナ、DVD(Digital Versatile Disk)プレーヤ/レコーダ、スタジオにおける職業的映像処理ステーション、又はネットワークオペレータのリンクステーションにおける変換装置であることが可能である。
【0041】
図13は、画像表示装置1300の実施形態を模式的に示している。画像表示装置1300は、画像処理装置1200と、表示装置1320と、を有する。画像表示装置は、画像の映像シーケンスを受信する及びそれらの画像を表示することができる。表示装置1320は、ワイドスクリーンのアスペクト比、例えば、16:9を有することが可能である。一般に、ワイドスクリーンの表示装置についてのアスペクト比は、開示されている画像処理装置1200から得られることが可能である。衛星ナビゲートシステム及び携帯電話のような携帯型装置のあるディスプレイにおいては、画像の表示される高さはその幅より大きいことが可能である。表示装置1300はまた、4:3より小さい又は大きいアスペクト比の画像を表示するために有用である。表示装置1300は、その表示高さより大きい幅を有する表示を有するワイドスクリーンのテレビ、ワイドスクリーン表示を有するPC、メディアセンタ、幅より大きい表示高さを有する携帯型装置であることが可能である。
【0042】
図14は、動きベクトルに基づいて画像をスケーリングする装置1400の実施形態を模式的に示している。装置1400は、第1受信器1410と、第1ジェネレータ1420と、第2ジェネレータ1440と、第1信頼性ユニット1450と、第2信頼性ユニット1460と、画像スケーラ1430と、を有する。動作中、第1受信器1410は、画像102の少なくとも一部の動きベクトル101、その動きベクトル101に関連付けられた信頼性値1403及びシーン変化値1405を受信する。信頼性値1403及びシーン変化値1405は、動きベクトル予測ユニットにより任意に生成されることが可能である。画像のシーケンスから独立して又は動きベクトル予測ユニットからシーン変化値を得る技術は当該技術分野において知られている。入力101、1403及び1405は、第1受信器1410により独立して処理されることが可能である。第1受信器1410の出力は、動きベクトル101の導き出された値111と、信頼性値1403から導き出された信頼性信号1413と、シーン変化値1405から導き出されたシーン変化信号1415と、を有する。装置1400の一実施形態においては、信頼性信号及びシーン変化信号を得る所定の閾値が第1受信器に適用されることが可能である。装置1400の他の実施形態においては、所定の閾値が、それぞれの信頼性ユニット1450及び1460において適用されることが可能である。
【0043】
動作中、第1信頼性ユニット1450は、2つのスケーリング関数の一、即ち、第1の処置のスケーリング関数1445又は生成されたスケーリング関数121を選択し、その選択は、信頼性信号1413により影響される。動きベクトルの信頼性値1403が所定の閾値を上回る場合、生成されるスケーリング関数121は画像スケーリングユニット1430により用いられる。第1信頼性ユニット1450はまた、同様な方法で、生成されたタイミング関数341又は第1所定タイミング関数1447に切り換えるように備えられる。一実施形態においては、第1所定スケーリング関数1445は、信頼性値1403が所定の閾値より小さい時点で適用される関数であることが可能である。同様に、第1所定タイミング関数1447は、信頼性値1403が所定の閾値より小さくなる時点で適用される関数であることが可能である。
【0044】
シーン変化信号1415は、シーン変化値1405が所定の閾値を上回るとき、受信器1410において生成される。外部のソースから直接、シーン変化検出信号1415を受信することが可能である。第2信頼性ユニット1460の機能は、第1信頼性ユニット1450の出力において利用可能な第2所定スケーリング関数1455か又はスケーリング関数1451のどちらかを選択することであり、その選択はシーン変化検出信号1415により制御される。シーン変化が存在しない限り、第1信頼性ユニット1450の出力において利用可能であるスケーリング関数1451及びタイミング関数1453が画像スケーリングユニット1430に結合される。それ故、選択されたスケーリング関数1461及び選択されたタイミング関数1463は、画像スケーラ1430において利用可能になる。シーン変化信号が存在するとき、先行するシーン用のスケーリング関数及びタイミング関数は視覚的な歪みをもたらす可能性がある。従って、第2信頼性ユニットは、第2所定スケーリング関数1455及び第2所定タイミング関数1457を切り換えるように備えられている。装置1400の一実施形態においては、第2所定スケーリング関数1455及び第2所定タイミング関数1457は、最初の設定にリセットされる。この構成のために、シーン変化のための外乱は相対的に低減され、装置1400のロバスト性は向上する。
【0045】
画像の1つ又はそれ以上の画素のスケーリングに基づく動きベクトルのための装置1100、画像処理装置1200及び画像表示装置1300は、ディジタル信号プロセッサにより又は汎用目的のコンピュータにより実行されるソフトウェアにより又はディジタルハードウェアにより実行されることが可能である。
【0046】
グローバルカメラパンのようなグローバル動きのみを特定する単純な実施形態だけでなく、別個の対象物の動き、典型的には、前景の対象物が解析されることが可能であり、スケーリングがそれらの対象物を考慮することができる。例えば、単一のスケーリング関数が、ひとりの人間又は前景の動きを追跡するように微調整されることが可能である。前景の対象物は、動きベクトルのみに基づいて容易にセグメント化されることが可能である。しかしながら、前景の対象物の更なる解析、例えば、テクスチャ解析又は顔検出が、対象物を分類するように及び適切なスケーリング関数を選択するように実行されることが可能である。
【0047】
ショットにおいて、最適なスケーリング関数が、そのショットにおける全ての関連動きを考慮して、選択及び修正されることが可能である。最適なバランスが、それ故、動いているひとの歪み及び背景の歪みの種々の厳しさの条件を考慮することによりとられることが可能である。例えば、一部の歪みにおいては、人間の視覚の周囲にアーティファクトが現れる場合、好ましくない度合いが小さく、その歪みは、より大きいパニング速度についてより好ましくないことが可能である。周囲のピクチャから適切な外挿データにより部分的に補われる第2二次関数のような適切な背景のスケーリング関数が選択されることが可能である。
【0048】
動きベクトルは進行中に決定されることが可能であるが、動きベクトルは、画像シーケンスにおいて、又は代替として、画像シーケンスを補完するメタデータとして、有効に予め組み込まれていることが可能である。オフラインシナリオにおけるシーケンスについて一度、動きベクトルを演算することにより、処理の必要性が低減される。更に、結果として得られる動きベクトルの品質を改善するように、高性能のセグメント化技術を用いることが可能である高品質のアルゴリズムを用いることが可能である。
【0049】
動きベクトル情報はまた、付加係数を有することが可能であり、その付加係数は動きベクトルの生成の品質を改善し、オフラインで決定されたものである。この情報は、例えば、ショットの境界、ショットの種類を有することが可能であり、パン又はズームシーケンスを表すパラメータを有することが可能である。
【0050】
代替として、メタデータは、スケーリング関数自体を生成するように用いられる実際の係数を有することが可能である。コンテンツ作成における専門のアーティストは、少なくとも1つのスケーリング関数の係数又は他のデータをテレビ信号(例えば、圧縮されたテレビ信号の又はテレテキストラインにおける補完的改善情報としての)の指定データ部分に指定することが可能であり、それ故、そのディスプレイは最適な効果を生成し、そのアーティストは、複数のディスプレイ(例えば、小さい投影乃至大きい投影)についてそのように最適な効果を生成することさえ可能であり、ディスプレイは、どのスケーリングの種類が最も適切であるかを特定することができる。
【0051】
幾つかのスケーリング関数(例えば、複数の二次関数)、例えば、シーンにおける中央のアクションにおける第1二次関数と、画像の周縁近傍の背景領域についての第2二次関数の組み合わせを用いることがまた、可能である。代替として、そのようなスケーリング関数は、区分線形スケーリング関数として実施されることが可能である。
【0052】
クロック、ロゴ、コマーシャル情報、スクロールテキスト又は黒色のバー等の影響されない部分における付加ピクチャを伴う、スケーリングされない画像の残りをそのままにして、画像の一部、例えば、サブテキスト領域に幾つかのスケーリング関数を適用することがまた、可能である。
【0053】
本発明の範囲は、明示的に開示されている上記の実施形態に限定されるものではない。本発明は、各々の新規な特徴及び各々の新規な特徴の組み合わせにおいて実施されることが可能である。用語“を有する”は、請求項において列挙されている要素又は段階以外の要素又は段階の存在を排除するものではない。要素の単数表現は、その要素の複数の存在を排除するものではない。記載されている全ての装置のユニット及び方法の段階は、1つ又は複数のハードウェアのユニット又はソフトウェアの実施形態として組み合わされる及び実現される、及びネットワークにおいて分配される、順序付けられる等が行われることが可能である。
【図面の簡単な説明】
【0054】
【図1】動きベクトルに基づいて画像をスケーリングする方法の実施例を示す図である。
【図2】基底関数からスケーリング関数を生成する方法の実施例を示す図である。
【図3】少なくとも1つのパラメータ値を制限することによりスケーリング関数を生成する方法の実施例を示す図である。
【図4】信頼性値にスケーリング関数を選択する方法の実施例を示す図である。
【図5】シーン変化信号に基づいてスケーリング関数を選択する方法の実施例を示す図である。
【図6】タイミング関数を生成する方法の実施例を示す図である。
【図7】少なくとも1つのパラメータ値を制限することによりタイミング関数を生成する方法の実施例を示す図である。
【図8】信頼性値に基づいてタイミング関数を選択する方法の実施例を示す図である。
【図9】シーン変化信号に基づいてタイミング関数を選択する方法の実施例を示す図である。
【図10】画素のMxNブロックを有する画像を模式的に示す図である。
【図11】画像のスケーリングするための装置の実施形態を模式的に示す図である。
【図12】画像処理装置の実施形態を模式的に示す図である。
【図13】画像表示装置の実施形態を模式的に示す図である。
【図14】画像をスケーリングする信頼性装置の実施形態を模式的に示す図である。
【特許請求の範囲】
【請求項1】
画像の映像シーケンスに属す画像を処理する方法であって、第1画像における対象物の第1位置と第2画像における前記対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルに基づいて前記画像をスケーリングする段階であって、前記画像は前記の画像の映像シーケンスに属す、段階を有する方法。
【請求項2】
請求項1に記載の方法であって、前記画像をスケーリングする段階は:
前記動きベクトルに基づいてスケーリング関数を生成する段階;及び
前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することにより、スケーリングされた画像の1つ又はそれ以上の画素を得る段階;
を有する、方法。
【請求項3】
請求項2に記載の方法であって、前記画像をスケーリングする段階は、前記第1画像と前記第2画像との間のグローバル変化を表すグローバル動きベクトルに基づいている、方法。
【請求項4】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、前記動きベクトルの水平成分に基づいて前記スケーリング関数の少なくとも1つのパラメータ値を変える段階を有し、前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階は、前記画像の画素の対応する行に属す1つ又はそれ以上の画素に前記スケーリング関数を適用することにより、前記スケーリングされた画像の画素の行に属す1つ又はそれ以上の画素を得る段階を有する、方法。
【請求項5】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、前記動きベクトルの垂直成分に基づいて前記スケーリング関数の少なくとも1つのパラメータ値を変える段階を有し、前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階は、前記画像の画素の対応する列に属す1つ又はそれ以上の画素に前記スケーリング関数を適用することにより、前記スケーリングされた画像の画素の列に属す1つ又はそれ以上の画素を得る段階を有する、方法。
【請求項6】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、非線形関数及び区分線形関数を有する群から基底関数を選択する段階と、前記基底関数を用いて前記スケーリング関数を生成する段階と、を有する、方法。
【請求項7】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、二次関数を選択する段階と、前記動きベクトルから演算された大きさの値に基づいて前記二次関数のパラメータを変える段階と、を有する、方法。
【請求項8】
請求項4又は5に記載の方法であって、前記スケーリング関数を生成する段階は、パラメータの値の実質的に所定の範囲内に前記スケーリング関数の前記少なくとも1つのパラメータ値を制限する段階を更に有する、方法。
【請求項9】
請求項2に記載の方法であって、前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用することに先行して、第1所定スケーリング関数又は前記動きベクトルに関連する信頼性値に基づいて前記生成されたスケーリング関数を選択する段階を更に有する、方法。
【請求項10】
請求項2に記載の方法であって、前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用することに先行して、第2所定スケーリング関数又はシーン変化信号に基づいて前記生成されたスケーリング関数を選択する段階を更に有する、方法。
【請求項11】
請求項2に記載の方法であって、前記動きベクトルに基づいて、異なる時刻についてスケーリングを制御するようにタイミング関数を生成する段階を更に有する、方法であり、前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階は、前記前記タイミング関数に従って前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用する段階を有する、方法。
【請求項12】
請求項11に記載の方法であって、前記タイミング関数を生成する段階は、前記動きベクトルから演算された大きさの値に基づいて前記タイミング関数の少なくとも1つのパラメータ値を制御する段階を有する、方法。
【請求項13】
請求項12に記載の方法であって、前記タイミング関数を生成する段階は、パラメータ値の実質的に所定の範囲内に前記タイミング関数の前記少なくとも1つのパラメータ値を制限する段階を更に有する、方法。
【請求項14】
請求項11に記載の方法であって、前記選択されたタイミング関数に従って前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用する段階に先行して、前記動きベクトルに関連する信頼性値に基づいて第1所定タイミング関数又は前記生成されたタイミング関数を選択する段階を更に有する、方法。
【請求項15】
請求項11に記載の方法であって、前記選択されたタイミング関数に従って前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用する段階に先行して、シーン変化信号に基づいて第2所定タイミング関数又は前記生成されたタイミング関数を選択する段階を更に有する、方法。
【請求項16】
請求項1に記載の方法であって、前記画像は画素のMxNブロックを有し、前記画像の1つ又はそれ以上の画素をスケーリングする段階は:
前記MxNブロックに関連するそれぞれの前記1つ又はそれ以上の動きベクトルに基づいて1つ又はそれ以上のスケーリング関数を生成する段階;及び
前記画像のそれぞれのMxNブロックの1つ又はそれ以上の画素に前記1つ又はそれ以上のスケーリング関数を適用することにより前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階;
を有する、方法。
【請求項17】
請求項1乃至16の何れか一項に記載の方法であって、少なくとも1つの前景の対象物は、該対象物のコヒーレントな動き又は他の画像特徴により検出され、前記スケーリングは、少なくとも1つの前景の対象物の空間−時間位置を考慮する、方法。
【請求項18】
画像の映像シーケンスに属す画像をスケーリングする装置であって:
第1画像における対象物の第1位置と第2画像における前記対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルを受信することができる第1受信器であって、前記画像は前記の画像の映像シーケンスに属す、第1受信器;
前記動きベクトルに基づいてスケーリング関数を生成することができる第1ジェネレータ;及び
前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得ることができる画像スケーラ;
を有する装置。
【請求項19】
画像の映像シーケンスを受信することができる第2受信器;
第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルを予測することができる動き予測ユニットであって、前記画像は前記の画像の画像シーケンスに属す、動き予測ユニット;及び
前記の画像の画像シーケンスに属す画像をスケーリングすることができる、請求項18に記載の装置であって、前記スケーリングは所定のアスペクト比に基づく、装置;
を有する画像処理装置。
【請求項20】
所定のアスペクト比に基づいて選択された画像を得ることができる、請求項19に記載の画像処理装置;及び
スケーリングされた画像を表示することができる表示装置;
を有する画像表示装置。
【請求項21】
請求項20に記載の画像表示装置であって、ワイドスクリーンテレビ、携帯型装置、携帯電話、ナビゲーション受信器、ピクチャインピクチャテレビ(picture−in−picture television)、複数のスクリーンを有するコンピュータディスプレイ及びマルチメディアセンタを有する群から選択された装置が前記画像表示装置を有する、画像表示装置。
【請求項22】
画像の映像シーケンスに属す画像を処理するコンピュータプログラムであって:
第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルに基づいてスケーリング関数を生成するための命令であって、前記画像は前記の画像の画像シーケンスに属す、命令;及び
前記の画像の画像シーケンスに属す前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得るための命令;
を有するコンピュータプログラム。
【請求項23】
画像の映像シーケンスに属す画像を処理するコンピュータプログラムを有する媒体であって:
第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルに基づいてスケーリング関数を生成するための命令であって、前記画像は前記の画像の画像シーケンスに属す、命令;及び
前記の画像の画像シーケンスに属す前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得るための命令;
を有する媒体。
【請求項1】
画像の映像シーケンスに属す画像を処理する方法であって、第1画像における対象物の第1位置と第2画像における前記対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルに基づいて前記画像をスケーリングする段階であって、前記画像は前記の画像の映像シーケンスに属す、段階を有する方法。
【請求項2】
請求項1に記載の方法であって、前記画像をスケーリングする段階は:
前記動きベクトルに基づいてスケーリング関数を生成する段階;及び
前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することにより、スケーリングされた画像の1つ又はそれ以上の画素を得る段階;
を有する、方法。
【請求項3】
請求項2に記載の方法であって、前記画像をスケーリングする段階は、前記第1画像と前記第2画像との間のグローバル変化を表すグローバル動きベクトルに基づいている、方法。
【請求項4】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、前記動きベクトルの水平成分に基づいて前記スケーリング関数の少なくとも1つのパラメータ値を変える段階を有し、前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階は、前記画像の画素の対応する行に属す1つ又はそれ以上の画素に前記スケーリング関数を適用することにより、前記スケーリングされた画像の画素の行に属す1つ又はそれ以上の画素を得る段階を有する、方法。
【請求項5】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、前記動きベクトルの垂直成分に基づいて前記スケーリング関数の少なくとも1つのパラメータ値を変える段階を有し、前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階は、前記画像の画素の対応する列に属す1つ又はそれ以上の画素に前記スケーリング関数を適用することにより、前記スケーリングされた画像の画素の列に属す1つ又はそれ以上の画素を得る段階を有する、方法。
【請求項6】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、非線形関数及び区分線形関数を有する群から基底関数を選択する段階と、前記基底関数を用いて前記スケーリング関数を生成する段階と、を有する、方法。
【請求項7】
請求項2に記載の方法であって、前記スケーリング関数を生成する段階は、二次関数を選択する段階と、前記動きベクトルから演算された大きさの値に基づいて前記二次関数のパラメータを変える段階と、を有する、方法。
【請求項8】
請求項4又は5に記載の方法であって、前記スケーリング関数を生成する段階は、パラメータの値の実質的に所定の範囲内に前記スケーリング関数の前記少なくとも1つのパラメータ値を制限する段階を更に有する、方法。
【請求項9】
請求項2に記載の方法であって、前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用することに先行して、第1所定スケーリング関数又は前記動きベクトルに関連する信頼性値に基づいて前記生成されたスケーリング関数を選択する段階を更に有する、方法。
【請求項10】
請求項2に記載の方法であって、前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用することに先行して、第2所定スケーリング関数又はシーン変化信号に基づいて前記生成されたスケーリング関数を選択する段階を更に有する、方法。
【請求項11】
請求項2に記載の方法であって、前記動きベクトルに基づいて、異なる時刻についてスケーリングを制御するようにタイミング関数を生成する段階を更に有する、方法であり、前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階は、前記前記タイミング関数に従って前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用する段階を有する、方法。
【請求項12】
請求項11に記載の方法であって、前記タイミング関数を生成する段階は、前記動きベクトルから演算された大きさの値に基づいて前記タイミング関数の少なくとも1つのパラメータ値を制御する段階を有する、方法。
【請求項13】
請求項12に記載の方法であって、前記タイミング関数を生成する段階は、パラメータ値の実質的に所定の範囲内に前記タイミング関数の前記少なくとも1つのパラメータ値を制限する段階を更に有する、方法。
【請求項14】
請求項11に記載の方法であって、前記選択されたタイミング関数に従って前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用する段階に先行して、前記動きベクトルに関連する信頼性値に基づいて第1所定タイミング関数又は前記生成されたタイミング関数を選択する段階を更に有する、方法。
【請求項15】
請求項11に記載の方法であって、前記選択されたタイミング関数に従って前記画像の前記1つ又はそれ以上の画素に前記スケーリング関数を適用する段階に先行して、シーン変化信号に基づいて第2所定タイミング関数又は前記生成されたタイミング関数を選択する段階を更に有する、方法。
【請求項16】
請求項1に記載の方法であって、前記画像は画素のMxNブロックを有し、前記画像の1つ又はそれ以上の画素をスケーリングする段階は:
前記MxNブロックに関連するそれぞれの前記1つ又はそれ以上の動きベクトルに基づいて1つ又はそれ以上のスケーリング関数を生成する段階;及び
前記画像のそれぞれのMxNブロックの1つ又はそれ以上の画素に前記1つ又はそれ以上のスケーリング関数を適用することにより前記スケーリングされた画像の1つ又はそれ以上の画素を得る段階;
を有する、方法。
【請求項17】
請求項1乃至16の何れか一項に記載の方法であって、少なくとも1つの前景の対象物は、該対象物のコヒーレントな動き又は他の画像特徴により検出され、前記スケーリングは、少なくとも1つの前景の対象物の空間−時間位置を考慮する、方法。
【請求項18】
画像の映像シーケンスに属す画像をスケーリングする装置であって:
第1画像における対象物の第1位置と第2画像における前記対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルを受信することができる第1受信器であって、前記画像は前記の画像の映像シーケンスに属す、第1受信器;
前記動きベクトルに基づいてスケーリング関数を生成することができる第1ジェネレータ;及び
前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得ることができる画像スケーラ;
を有する装置。
【請求項19】
画像の映像シーケンスを受信することができる第2受信器;
第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルを予測することができる動き予測ユニットであって、前記画像は前記の画像の画像シーケンスに属す、動き予測ユニット;及び
前記の画像の画像シーケンスに属す画像をスケーリングすることができる、請求項18に記載の装置であって、前記スケーリングは所定のアスペクト比に基づく、装置;
を有する画像処理装置。
【請求項20】
所定のアスペクト比に基づいて選択された画像を得ることができる、請求項19に記載の画像処理装置;及び
スケーリングされた画像を表示することができる表示装置;
を有する画像表示装置。
【請求項21】
請求項20に記載の画像表示装置であって、ワイドスクリーンテレビ、携帯型装置、携帯電話、ナビゲーション受信器、ピクチャインピクチャテレビ(picture−in−picture television)、複数のスクリーンを有するコンピュータディスプレイ及びマルチメディアセンタを有する群から選択された装置が前記画像表示装置を有する、画像表示装置。
【請求項22】
画像の映像シーケンスに属す画像を処理するコンピュータプログラムであって:
第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルに基づいてスケーリング関数を生成するための命令であって、前記画像は前記の画像の画像シーケンスに属す、命令;及び
前記の画像の画像シーケンスに属す前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得るための命令;
を有するコンピュータプログラム。
【請求項23】
画像の映像シーケンスに属す画像を処理するコンピュータプログラムを有する媒体であって:
第1画像における対象物の第1位置と第2画像における対象物の第2位置との間の前記対象物の位置の変化を表す動きベクトルに基づいてスケーリング関数を生成するための命令であって、前記画像は前記の画像の画像シーケンスに属す、命令;及び
前記の画像の画像シーケンスに属す前記画像の1つ又はそれ以上の画素に前記スケーリング関数を適用することによりスケーリングされた画像の1つ又はそれ以上の画素を得るための命令;
を有する媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公表番号】特表2009−540652(P2009−540652A)
【公表日】平成21年11月19日(2009.11.19)
【国際特許分類】
【出願番号】特願2009−513811(P2009−513811)
【出願日】平成19年5月23日(2007.5.23)
【国際出願番号】PCT/IB2007/051940
【国際公開番号】WO2007/141693
【国際公開日】平成19年12月13日(2007.12.13)
【出願人】(590000248)コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ (12,071)
【Fターム(参考)】
【公表日】平成21年11月19日(2009.11.19)
【国際特許分類】
【出願日】平成19年5月23日(2007.5.23)
【国際出願番号】PCT/IB2007/051940
【国際公開番号】WO2007/141693
【国際公開日】平成19年12月13日(2007.12.13)
【出願人】(590000248)コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ (12,071)
【Fターム(参考)】
[ Back to top ]