環状映像の参照画素補間方法、その装置、環状映像符号化方法、その装置及び環状映像復号化方法ならびにその装置
本発明によって環状映像の参照画素補間方法、その装置、環状映像符号化方法、その装置及び環状映像復号化方法ならびにその装置が開示される。
本発明による環状映像の参照画素を補間する方法は、環状映像の歪曲方向に配列された複数の参照画素を選択するステップと、選択された複数の参照画素の値に基づいて補間しようとする対象参照画素の値を補間するステップと、を含む。このような本発明によれば、環状映像の歪曲特性を考慮して環状映像の空間的相関関係を利用して補間を行うことによって、環状映像の画面間予測を効果的に行える。
本発明による環状映像の参照画素を補間する方法は、環状映像の歪曲方向に配列された複数の参照画素を選択するステップと、選択された複数の参照画素の値に基づいて補間しようとする対象参照画素の値を補間するステップと、を含む。このような本発明によれば、環状映像の歪曲特性を考慮して環状映像の空間的相関関係を利用して補間を行うことによって、環状映像の画面間予測を効果的に行える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、環状映像の参照画素補間方法、その装置、環状映像符号化方法、その装置、環状映像復号化方法ならびにその装置に関する。
【背景技術】
【0002】
21世紀になってハードウェアとソフトウェアにまたがるデジタル技術の総体的な発達につれて、各通信媒体が独立的に領域を守ってきた時代がすぎて、いつでもどこでもオンラインでサービスを受けられるユビキタス(Ubiquitous)の時代を迎えようとしている。ユビキタスの時代のユーザは、身体の一部のように情報の取得及び使用を望んでいる。その始まりとして、対話形放送と3次元実感放送についての研究開発がいつよりも活発に行われているようになっている。対話形放送及び3次元実感放送を構成するためには、立体(stereoscopic)カメラシステムや全方向ビデオシステム、多視点カメラシステムのような3次元ビデオカメラシステムが要求される。
【0003】
また、3次元ビデオカメラシステムから得られた3次元実感映像の圧縮を標準化するために、MPEGでは3DAV(Audio Visual) EE(Exploration Experiments)−1からEE−4までが新設され、それらは研究中である。このうち、EE−1では全方向ビデオの圧縮に関する研究が進められているが、まだ映像自体の変換に関する主題のみが取り扱われているのが実情である。
【0004】
従来のMPEG−1、MPEG−2、MPEG−4、H.263、H.264などのビデオ圧縮方法は2次元映像に好適に設計され、3次元、特に全方向ビデオ圧縮には適していない。特に、双曲面鏡を利用して生成した環状映像の場合には、一般映像と異なる360°全方向についての情報が含まれており、円形の独特の歪曲を持っている。このような環状映像の特徴により既存の2次元映像に適したビデオコーディングアルゴリズムをそのまま使用すると、当然のこととして予測及び圧縮効率が低下する。
【0005】
環状映像(Annular Image)は、全方向カメラのうち鏡基盤カメラシステムで鏡に反射されてカメラに撮られた映像をいい、360°全景情報を含んでいる。図1に、このような環状映像の一例を表す。このような環状映像は、可視領域(FOV:field of view)が制限されている典型的な従来のイメージセンサーと異なって、投射の中心から360°全方向の状況を入力されうる全方向イメージセンサーにより撮影されうる。
【0006】
環状映像に一般的2次元平面映像コーデックを適用すれば、映像の特性上空間的歪曲によって空間及び時間的相関関係をもって予測をする画面内及び画面間の予測のような予測アルゴリズムの効率が落ちる。その理由は、2次元平面映像と比較して環状映像の歪曲の程度が大きいためである。例えば、図2A及び図2Bに図示したように、客体(object)が上下運動を行うと、2次元平面映像ではカメラと客体との距離が一定ならば、ある程度の客体移動がおきても、その形態(shape)は歪曲されないが、全方向性カメラでは双曲面鏡の特性によって客体の形態が容易に歪曲されることを表す。
【0007】
ここで、空間的相関関係が落ちる理由は、環状映像が空間的に円周率と類似した歪曲率を持つためである。これは、画面間予測をする時に効率を大きく落とす原因となる。そして、時間的相関関係が落ちる理由は、図2A及び図2Bに図示したように時間的移動によって客体の形態がある程度一定に維持されるものではなく、歪曲が激しく現れるためである。このような理由によって、動きベクトルの正確なマッチングを困難にし、1/2pel補間(1/2 pixel-base interpolation)及び1/4pel補間(1/4 pixel-base interpolation)時に空間的相関関係の少ない参照画素を参照するので、コーディング効率の低下を引き起こす。
【0008】
さらに、2次元動画コーディング技法のうちの一つであるH.264を中心に現在の予測方法を紹介する。
画面間予測(Inter Prediction)は、ブロック基盤動き補償(block−based motion compensation)を使用して、一つまたはそれ以上の以前に符号化されたビデオフレームまたはフィールドから予測モデルを生成する。
【0009】
画面間コーディングされたマクロブロックでの各パーティション及びサブ・パーティションは、参照映像のような大きさの位置から予測される。位置に関して、輝度成分に対しては1/4pel解像度を持ち、色度成分に対しては1/8pel解像度を持つ。サブサンプル位置での明度及び色度成分サンプルは、参照映像で対応するサンプルが存在しないので、コーディングされた周囲サンプルから補間する方法を使用する。
【0010】
図3Aは、現在フレームの4×4ブロックは、参照映像で対応するブロックの隣接領域から予測される。動きベクトルの水平と垂直の成分いずれも整数(1,−1)ならば、図3Bに図示したように、参照ブロックの適切なサンプルは、実際に参照映像で灰色点(gray dots)で存在する。もし、動きベクトルの一つまたは二つのベクトル成分が、図3Cに図示したように小数値(0.75,−0.5)ならば、灰色点で表示された予測サンプルは、参照フレームでの隣接サンプル、すなわち、白色点(white dots)により補間を行うようになる。
【0011】
1/4pel単位の輝度成分補間は、(1,−5,20,20,−5,1)の係数を持つ6タップフィルターを整数位置の輝度画素の水平方向および垂直方向に適用して1/2pel位置の輝度成分値を求めた後、整数位置と1/2pel位置のサンプル値とを平均して1/4pel単位の輝度サンプルを求める。また、色度成分は、輝度成分の解像度の1/2解像度を持っているために、1/4pel単位の輝度成分動きベクトルが色度成分の動き補償のために使われる場合には、1/8pel単位の動きベクトルと解釈される。したがって、色度成分1/8pel単位の補間を必要とする。
補間は、次の数式を利用して画素値を求めるが、図4でbの画素値を求めるためには数式1を利用する。
【0012】
(数式1)
b=round((E−5F+20G+20H−5I+J)/32)
【0013】
6タップフィルターを利用した1/2pel実行後に図5Aないし図5Cに図示したような方法で下の式を使用して行う。数式2は、1/4pelのaという画素値を求める数式である。
【0014】
(数式2)
a=round((G+b+1)/2)
【0015】
すなわち、図5Aを参照すれば、例えば、画素aは、画素Gと画素bとを利用して求め、図5Bを参照すれば、画素dは、画素Gと画素hとを利用して求め、図5Cを参照すれば、画素eは、画素bと画素hとを利用して求める。
【0016】
このように、従来技術による補間方法は、映像の歪曲特性を考慮せずに水平方向または垂直方向の参照画素を利用して補間を行う。しかし、環状映像の場合にも、このような従来の水平方向または垂直方向の参照画素を利用して補間を行う場合には、空間的相関関係が落ちて画素値予測が正常になされない。例えば、図6A及び図6Bに図示したようにブロッキング現象が発生する。
【0017】
図6A及び図6Bは、従来技術によって環状映像の画面間の予測を行う時のブロッキング現象を説明するための参考図である。
あらゆる動画コーデックの基本処理単位の形態が2次元平面方形のブロックまたはマクロブロックであるために、円形の歪曲を持つ環状映像を処理するには図6A及び図6Bに図示したようなエラーが発生する。図6A及び図6Bは、環状映像をH.264ベースラインプロファイルから選んだ画面間予測データである。図6Bを参照すれば、人の顔の形態の一部が空いている状態にある。図6A及び図6Bに図示したようなブロッキング現象が現れる理由は、画面間予測実行時に利用される1/2pel及び1/4pelの6タップフィルターの参照画素を参照する座標の空間的相関関係が相対的に低いためである。
【発明の開示】
【発明が解決しようとする課題】
【0018】
本発明は、前記のような問題点を解決して環状映像の歪曲特性を考慮して、環状映像の空間的相関関係を利用して補間を行うことによって、環状映像の画面間予測を効果的に行えるようにする環状映像の参照画素補間方法、その装置、環状映像符号化方法、その装置及び環状映像復号化方法及びその装置を提供することを目的とする。
【課題を解決するための手段】
【0019】
前記のような課題を解決するための本発明の一つの特徴は、環状映像の参照画素を補間する方法において、前記環状映像の歪曲方向に配列された複数の参照画素を選択するステップと、前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間するステップと、を含むことである。
前記配列された複数の参照画素は、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列されており、前記対象参照画素から前記円周上の所定距離以内に位置する参照画素を含むことが望ましい。
【0020】
前記複数の参照画素選択ステップは、所定の数式により決定された前記複数の参照画素に対する位置を利用して、前記複数の参照画素を選択するステップ、または、前記円の円周方向に配列された複数の参照画素の位置を保存しているテーブルを利用して、前記複数の参照画素を選択するステップを含むことが望ましい。
前記補間ステップは、前記複数の参照画素の各画素値にそれぞれ所定の加重値を乗算するステップと、前記所定の加重値がそれぞれ乗算された参照画素の値をいずれも加算して対象参照画素の値を獲得するステップと、を含むことが望ましい。
【0021】
本発明の他の特徴は、環状映像の参照画素を補間する装置において、前記環状映像の歪曲方向に配列された複数の参照画素を選択する参照画素選択部と、前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間する補間部と、を備えることである。
【0022】
本発明のさらに他の特徴は、環状映像を符号化する方法において、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間し、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定するステップと、前記予測されたマクロブロックと原マクロブロックとの差をDCT変換し、前記変換されたDCT係数を量子化し、前記量子化されたDCT変換係数を再配置し、前記再配置されたDCT変換係数をエントロピー符号化するステップと、を含むことである。
【0023】
本発明のさらに他の特徴は、環状映像を符号化する装置において、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定する動き推定及び補償部と、前記予測されたマクロブロックと原マクロブロックとの差をDCT変換するDCT変換部と、前記変換されたDCT係数を量子化する量子化部と、前記量子化されたDCT変換係数を再配置する再配置部と、前記再配置されたDCT変換係数をエントロピー符号化するエントロピー符号化部と、を備えることである。
【0024】
本発明のさらに他の特徴は、環状映像復号化方法において、受信された符号化されたビットストリームをエントロピー復号化し、エントロピー復号化されたデータサンプルを再配置し、前記再配置されたデータサンプルを逆量子化し、前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成するステップと、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定するステップと、前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算するステップと、を含むことである。
【0025】
本発明のさらに他の特徴は、環状映像復号化装置において、符号化装置から受信されたビットストリームをエントロピー復号化するエントロピー復号化部と、エントロピー復号化されたデータサンプルを再配置する再配置部と、前記再配置されたデータサンプルを逆量子化する逆量子化部と、前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成する逆DCT変換部と、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定する動き補償部と、前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算する加算部と、を備えることである。
【発明の効果】
【0026】
本発明による符号化/復号化システムでは、環状映像の符号化及び復号化過程に含まれる画素補間方法を、従来の垂直、水平概念ではなく環状映像の歪曲形態による参照画素を利用して補間を行うことによって、環状映像の特徴を最大限反映して予測を効果的に行える。
【発明を実施するための最良の形態】
【0027】
以下、添付された図面を参照して本発明を詳細に説明する。
図7は、本発明による符号化/復号化システムの概略図である。
本発明による符号化装置100は、環状映像を受信して環状映像の歪曲方向を考慮して画面間予測時補間を行って、環状映像を符号化する。符号化された環状映像は、ネットワークなどを通じて復号化装置200に受信され、復号化装置200では同様に環状映像の歪曲方向を考慮して画面間予測時補間を行って符号化された環状映像を復号化する。このように復号化された環状映像は、平面映像変換装置300により平面映像に変換されてユーザに出力されうる。
【0028】
このように本発明による符号化/復号化システムでは、環状映像の符号化及び復号化過程に含まれる画素補間方法を、従来の垂直、水平方向にある参照画素を利用するものではなく、環状映像の歪曲形態による参照画素を利用して補間を行うことによって、環状映像の特徴を最大限反映して予測を効果的に行える。
【0029】
図8は、本発明による符号化装置の具体的なブロック図である。
図8を参照すれば、符号化装置は、動き推定部1と、動き補償部2と、加算部3と、DCT変換部4と、量子化部5と、再配置部6と、エントロピー符号化部7と、逆量子化部9と、逆DCT変換部8と、加算部12とを備える。
符号化装置は、二つのデータフロー経路を備える。一つは、左側から右側に進行するフォワード経路であり、他の一つは、右側から左側に進行する再構成経路である。
【0030】
まず、フォワード経路を説明する。
符号化のための入力映像フレームFnは、(16x16の輝度領域とこれと関連した色差サンプルに該当する)マクロブロック単位で処理される。
動き推定部1は、現在入力フレームFnと以前に符号化された参照フレームF’n−1とを比較して、動き推定部分がF’n−1内でFn内の現在のマクロブロックと一致するまたは類似していると判断される16x16領域を探す。現在マクロブロックの位置と選択された参照領域との間の差が動きベクトルとなる。
【0031】
動き推定部1は、参照画素補間部10と動きベクトル予測部11とを備える。現在フレームのマクロブロックは、参照フレームで現在マクロブロックの位置と隣接した領域から予測される。この時、水平と垂直の動きベクトルが整数ならば、関連したサンプルが参照マクロブロックに実際に存在するが、一つまたは二つのベクトルが小数ならば、参照画素補間部10は予測サンプルを、参照フレーム内の隣接したサンプル間を補間して生成する。特に、参照画素補間部10は本発明によって、入力映像が環状映像であることに鑑みて、環状映像の歪曲を考慮して参照画素を補間する。すなわち、参照画素補間部10は、参照画素を補間する時に従来のように水平方向や垂直方向の参照画素を利用して補間するものではなく、環状映像の歪曲方向に配列された参照画素を利用して補間を行う。ここで、“環状映像の歪曲方向に配列された参照画素”とは、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列され、前記対象参照画素に隣接した複数個の画素をいう。これについては詳細に後述する。
【0032】
動きベクトル予測部11は、参照画素補間部10により補間された画素を含めて、参照フレームF’n−1内で現在のマクロブロックと最も類似していると判断される領域を選択して、現在マクロブロックの位置と選択された参照領域との差を動きベクトルとして予測する。
【0033】
動き補償部2は、選択された動きベクトルによって動き補償された予測マクロブロックP(すなわち、動き推定により選択された16x16領域)を生成する。
加算部3は、現在マクロブロックから予測マクロブロックPを引いて差マクロブロックDnを生成する。
【0034】
このような差マクロブロックDnは、DCT変換部4によりDCT変換され、量子化部5により量子化されて、量子化された変換係数Xを生成する。このような係数は、再配置部6により再配置されてランレベルコーディングされ、エントロピー符号化部7によりエントロピー符号化される。エントロピー符号化された係数は、マクロブロックのデコーディングに要求される付加情報と共に圧縮されたビットストリームを生成する。このような付加情報としては、動きベクトル情報やヘッダ情報などを含む。このように圧縮されたビットストリームは、伝送または保存のためにNAL(Network Abstraction Layer)に伝えられる。
【0035】
再構成経路は次の通りである。
符号化されたマクロブロック係数Xは、他のマクロブロックの符号化のためのフレームを再構成するためにデコーディングされる。すなわち、係数Xは、逆量子化部9により逆量子化され、逆DCT変換部8により逆DCT変換されて差マクロブロックDn’を生成する。これは、信号損失による影響で元来の差マクロブロックDnと同一ではない。
【0036】
予測マクロブロックPは、加算部12によりDn’に加えられて再構成されたマクロブロックを生成する。このように再構成されたマクロブロックは、元来のマクロブロックの歪曲されたバージョンである。このような歪曲の影響を低減するためにフィルター(図示せず)が付加されて、再構成された参照フレームは一連のマクロブロックF’nから生成されうる。
【0037】
図9は、図8に図示した符号化装置のフローチャートである。
図9を参照すれば、動き推定部1により、入力映像である環状映像の中心を円の中心とする円の円周方向に配列された複数の参照画素に基づいて補間を行って、環状映像の動きが推定される(910)。
【0038】
次いで、動き補償部2により、動き推定結果である動きベクトルを利用して動き補償が行われて(920)予測マクロブロックが生成され、予測マクロブロックと現在マクロブロックとの差マクロブロックがDCT変換部4によりDCT変換され(930)、DCT変換されたサンプルは量子化部5により量子化される(940)。次いで、量子化されたサンプルは、再配置部6により再配置されてランレベルコーディングされて(950)、エントロピー符号化部7によりエントロピー符号化される(960)。
【0039】
図10は、本発明による復号化装置の具体的なブロック図である。
図10を参照すれば、復号化装置は、エントロピー復号化部21と、再配置部22と、逆量子化部23と、逆DCT変換部24と、加算部25と、動き補償部26とを備える。
復号化装置のエントロピー復号化部21は、NALから圧縮されたビットストリームを受信して、ビットストリームをエントロピー復号化して各マクロブロックの係数、動きベクトル、そしてヘッダを抽出する。
【0040】
再配置部22は、符号化装置で行なわれたランレベル符号化と再配置過程の逆過程を行って変換されたマクロブロックXを生成する。逆量子化部23は、マクロブロックXを逆量子化し、逆DCT変換部24は、逆量子化されたXを逆DCT変換して差マクロブロックD’nを生成する。
【0041】
動き補償部26は、復号化装置が持っている以前参照フレーム内で参照領域の位置を探すために動きベクトルを使用して、動き補償された予測マクロブロックPを決定する。
動き補償部26は、参照画素補間部27と予測マクロブロック決定部28とを備える。参照画素補間部27は、符号化装置の参照画素補間部10のような機能を行う。すなわち、参照画素補間部27は、本発明によって、入力映像が環状映像であることに鑑みて、環状映像の歪曲を考慮して参照画素を補間する。すなわち、参照画素補間部27は、参照画素を補間する時に、従来のように水平方向や垂直方向の参照画素を利用して補間するものではなく、環状映像の歪曲方向に配列された参照画素を利用して補間を行う。ここで、“環状映像の歪曲方向に配列された参照画素”とは、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列され、前記対象参照画素に隣接した複数個の画素をいう。これについては、詳細に後述する。予測マクロブロック決定部28は、補間された参照画素に対して動きベクトルを利用して予測マクロブロックPを決定する。
【0042】
加算部25は、予測マクロブロックPに差マクロブロックD’nを加えて復元されたマクロブロックを生成し、復元されたマクロブロックは、復号化されたフレームF’nを生成するために保存される。
【0043】
図11は、図10に図示された復号化装置のフローチャートである。
図11を参照すれば、復号化装置により受信された圧縮ビットストリームは、エントロピー復号化部21によりエントロピー復号化され(1110)、エントロピー復号化されたデータサンプルは、再配置部22によりランレベルコーディングと再配置の逆過程が行われ(1120)、再配置されたデータサンプルは、逆量子化部23により逆量子化され(1130)、逆量子化されたデータサンプルは、逆DCT変換部24により逆DCT変換されて(1140)、差マクロブロックD’nとして生成される。
【0044】
動き補償部26により環状映像の中心を円の中心とする円の円周方向に配列された複数の参照画素に基づいて補間を行って、現在マクロブロックの予測マクロブロックが決定され(1150)、このような予測マクロブロックと差マクロブロックとが加算部25により加えられて復元されたマクロブロックが生成される(1160)。
【0045】
以下では、本発明によって環状映像の歪曲特性を考慮した補間方法を具体的に説明する。本発明によって参照画素を補間する方法は、単純に水平及び垂直方向にある参照画素を利用するものではなく、環状映像の歪曲方向にある参照画素を利用するものであるために、所定の曲面に沿って配列された参照画素の位置を捜し出さねばならないので、参照画素の位置に関して2次元極座標系を利用することが望ましい。
【0046】
図12Aは、2次元極座標系を示す。
図12Aに図示したように、2次元極座標系(平面極座標系、plane polar coordinate system)は原点からの距離と方位角により定義される。図12Aでrは、原点から点Pまでの距離を、θは、水平軸から逆時計回り方向に測定した方位角を表す。したがって、点Pの位置は(r,θ)で表示できるが、r及びθを2次元極座標と呼ぶ。
【0047】
極座標系は、人体分節の運動を表現するのに有用に使われうるが、これは、人体運動の根源が関節運動であるためである。関節運動のうち各人体分節は関節を中心に回転するために、方位角を使用することが直角座標を使用することより有利である。しかし、ここで一つ注意せねばならない点は、r(距離)とθ(角度)とが互いに同じ種類の座標ではないという点である。
2次元極座標と2次元直角座標との関係は次のように整理できる。
【0048】
【数1】
【0049】
場合によっては、直角座標を極座標と類似して使用できる。図12Bに表示されたXr軸は半径軸、Xθ軸はこれに直交する軸である。二本の軸は互いに直交するために一種の直角座標系を構成する。場合によっては、直角座標系を使用することより便利であるが、これは両座標系の長所をいずれも取れるためである。Xr軸方向の運動は半径方向の運動を、Xθ軸方向の運動は回転運動を意味する。
【0050】
本発明による環状映像の補間方法は、環状映像の歪曲特性を利用して2次元平面映像のような垂直と水平方向ではない、同一角度及び同一半径を利用して垂直と水平概念を代替することである。
図12Cに図示したような2次元平面映像の水平概念は、図12Dに図示したような円周率を適用した曲線の概念に変わる。
ここでの条件は、2次元極座標系の数式の半径rが同じであるという条件を満たせねばならない。
また図12Eに図示したような2次元平面映像の垂直概念は、図12Fに図示したような同一角を持って半径値のr増減で直線を描けなければならない。
【0051】
このような概念を適用した各四分面の1/2pel補間の例を挙げて説明する。
図13Aに図示したような環状映像の1四分面では、歪曲された形態に沿って大きい矢印のような形態に動きが発生する。
図13Bは、図13Aに図示された環状映像の1四分面内に存在する領域1300の一部を表す。例えば、画素j値を補間しようとすれば、従来には水平方向のcc、dd、h、m、ee、ffに加重分値を適用して補間したが、本発明によれば、図13Bに図示された矢印方向に配列された画素値を利用して補間を行う。すなわち、本発明によれば、画素j値は、画素1301、画素1302、画素1303、画素1304、画素1305、画素1306の値に加重値を適用して補間する。画素j値だけでなく画素b、h、m、sも同様に環状映像の歪曲方向に配列された画素値を参照して補間を行う。従来に垂直や水平方向から参照せねばならない画素値を、図13Bの黒色方形のように参照画素の位置を変化させて画素値を参照する。また、マクロブロックの位置による2次元極座標変換でθを探して垂直方向に勾配を変化させて、図13Bに図示した参照画素の値を取る。
【0052】
図14Aに図示したような環状映像の2四分面では、歪曲された形態に沿って大きい矢印のような形態で動きが発生する。
図14Bは、図14Aに図示された環状映像の2四分面内に存在する領域1400の一部を表す。例えば、画素j値を補間しようとすれば、従来には水平方向のcc、dd、h、m、ee、ffに加重分値を適用して補間したが、本発明によれば、図14Bに図示された矢印方向に配列された画素値を利用して補間を行う。すなわち、本発明によれば、画素j値は、画素1401、画素1402、画素1403、画素1404、画素1405、画素1406の値に加重値を適用して補間する。画素j値だけでなく画素b、h、m、sも同様に環状映像の歪曲方向に配列された画素値を参照して補間を行う。
【0053】
図面には環状映像の1四分面と2四分面だけを例として挙げたが、当業者ならば本発明によって環状映像の歪曲方向に配列された画素を利用して副画素を補間する方法が、3四分面と4四分面にも同一に適用されうるということを十分に理解できるであろう。
図15Aに図示したような環状映像の1四分面と4四分面との境界にある領域1500では、図15Bに図示された矢印のような方向の画素を参照して補間を行う。
【0054】
図15Bは、図15Aに図示された環状映像の1四分面と4四分面との境界にある領域1500を表す。例えば、画素b値を補間しようとすれば、従来には水平方向のE、F、G、H、I、Jに加重分値を適用して補間したが、本発明によれば、図15Bに図示された矢印方向に配列された画素値を利用して補間を行う。すなわち、本発明によれば、画素b値は、画素A 1501、画素bb 1502、画素S 1503、画素gg 1404、画素T 1505の値に加重値を適用して補間する。画素b値だけでなく画素h、m、sも同様に、環状映像の歪曲方向に配列された画素値を参照して補間を行う。
【0055】
本発明による半画素補間法は、環状映像の歪曲方向に配列された所定数の画素値を利用して次のように表現できる。
1/2pel値=round((aA+bB+cC+dD+eE+fF)/K)
6タップフィルターを使用する場合に、A、B、C、D、E、Fは、環状映像の歪曲方向に配列されており、補間しようとする対象画素に隣接した6個の画素を表す。
【0056】
a、b、c、d、e、fは、それぞれ6個の画素にそれぞれ乗算される加重値を表す。
ここで、補間に利用される周辺画素AないしFの位置は、あらかじめシステムで適切な位置を決定して計算した後、テーブル形態を記憶していて、補間を行う時にこのようなテーブルから対象画素の周辺画素を検索して利用してもよく、または、補間する度に所定の数式を利用して対象画素の補間に利用される周辺画素の位置を計算してもよい。
1/4pelの場合にも、1/2pelに適用された補間方法を同一に適用できる。
【0057】
図16Aは、従来技術によるH.264の予測結果を表し、図16Bは、本発明を適用したH.264の予測結果を表す。
従来技術によるH.264の場合には、環状映像の歪曲された部分を正常に参照できずに、映像の一部分にブロッキング現象が現れたことを観察できる一方、本発明によって環状映像の歪曲方向を考慮して補間を行ったH.264の場合には、映像のブロッキング現象なしに映像予測されたことが分かる。
【0058】
以上、説明したような符号化、復号化方法はまたコンピュータで読み取り可能な記録媒体にコンピュータで読み取り可能なコードとして具現することができる。コンピュータで読み取り可能な記録媒体は、コンピュータシステムによって読み取られるデータが保存されるあらゆる種類の記録装置を含む。コンピュータで読み取り可能な記録媒体の例には、ROM、RAM、CD−ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ保存装置などがあり、また、キャリアウェーブ(例えば、インターネットを通じた伝送)の形態で具現されるものも含む。また、コンピュータで読み取り可能な記録媒体は、ネットワークに連結されたコンピュータシステムに分散されて、分散方式でコンピュータで読み取り可能なコードが保存されて実行されうる。そして、前記符号化方法、復号化方法を具現するための機能的なプログラム、コード及びコードセグメントは、本発明が属する技術分野のプログラマーにより容易に推論されうる。
【0059】
これまで本発明についてその望ましい実施形態を中心に説明した。当業者ならば、本発明が本発明の本質的な特性から逸脱しない範囲で変形された形態で具現されうるということを理解できるであろう。したがって、開示された実施形態は限定的な観点ではなく説明的な観点で考慮されねばならない。本発明の範囲は前述した説明ではなく特許請求の範囲に現れており、それと同等な範囲内にあるあらゆる差異点は本発明に含まれていると解釈されねばならない。
【図面の簡単な説明】
【0060】
【図1】環状映像の一例を示す図面である。
【図2A】客体の上下運動による歪曲現象を説明するための参考図である。
【図2B】客体の上下運動による歪曲現象を説明するための参考図である。
【図3A】整数画素及び副画素予測を説明するための参考図である。
【図3B】整数画素及び副画素予測を説明するための参考図である。
【図3C】整数画素及び副画素予測を説明するための参考図である。
【図4】従来技術によって、1/2pel参照ピクセルの方向を説明するための参考図である。
【図5A】従来技術によって、1/4pel位置の補間を説明するための参考図である。
【図5B】従来技術によって、1/4pel位置の補間を説明するための参考図である。
【図5C】従来技術によって、1/4pel位置の補間を説明するための参考図である。
【図6A】従来技術によって環状映像の画面間の予測を行う時のブロッキング現象を説明するための参考図である。
【図6B】従来技術によって環状映像の画面間の予測を行う時のブロッキング現象を説明するための参考図である。
【図7】本発明による符号化/復号化システムの概略図である。
【図8】本発明による符号化装置の具体的なブロック図である。
【図9】図8に図示された符号化装置のフローチャートである。
【図10】本発明による復号化装置の具体的なブロック図である。
【図11】図10に図示された復号化装置のフローチャートである。
【図12A】2次元極座標系を示す図面である。
【図12B】点(P)の動きによる方向性を示す図面である。
【図12C】2次元平面の水平及び3次元環状映像での円周率曲線概念図である。
【図12D】2次元平面の水平及び3次元環状映像での円周率曲線概念図である。
【図12E】2次元平面の垂直及び3次元環状映像での角の概念図である。
【図12F】2次元平面の垂直及び3次元環状映像での角の概念図である。
【図13A】環状映像での1四分面方向性の例を示す図面である。
【図13B】図13Aに図示された歪曲による1/2pel補間時に、参照画素の位置を示す図面である。
【図14A】環状映像での2四分面方向性の例を示す図面である。
【図14B】図14Aに図示された歪曲による1/2pel補間時に、参照画素の位置を示す図面である。
【図15A】環状映像での水平方向の方向性の例を示す図面である。
【図15B】図15Aに図示された歪曲による1/2pel補間時に、参照画素の位置を示す図面である。
【図16A】従来技術によるH.264の予測結果を示す図面である。
【図16B】本発明を適用したH.264の予測結果を示す図面である。
【符号の説明】
【0061】
100;符号化装置
200;複合化装置
300;平面映像変換装置
【技術分野】
【0001】
本発明は、環状映像の参照画素補間方法、その装置、環状映像符号化方法、その装置、環状映像復号化方法ならびにその装置に関する。
【背景技術】
【0002】
21世紀になってハードウェアとソフトウェアにまたがるデジタル技術の総体的な発達につれて、各通信媒体が独立的に領域を守ってきた時代がすぎて、いつでもどこでもオンラインでサービスを受けられるユビキタス(Ubiquitous)の時代を迎えようとしている。ユビキタスの時代のユーザは、身体の一部のように情報の取得及び使用を望んでいる。その始まりとして、対話形放送と3次元実感放送についての研究開発がいつよりも活発に行われているようになっている。対話形放送及び3次元実感放送を構成するためには、立体(stereoscopic)カメラシステムや全方向ビデオシステム、多視点カメラシステムのような3次元ビデオカメラシステムが要求される。
【0003】
また、3次元ビデオカメラシステムから得られた3次元実感映像の圧縮を標準化するために、MPEGでは3DAV(Audio Visual) EE(Exploration Experiments)−1からEE−4までが新設され、それらは研究中である。このうち、EE−1では全方向ビデオの圧縮に関する研究が進められているが、まだ映像自体の変換に関する主題のみが取り扱われているのが実情である。
【0004】
従来のMPEG−1、MPEG−2、MPEG−4、H.263、H.264などのビデオ圧縮方法は2次元映像に好適に設計され、3次元、特に全方向ビデオ圧縮には適していない。特に、双曲面鏡を利用して生成した環状映像の場合には、一般映像と異なる360°全方向についての情報が含まれており、円形の独特の歪曲を持っている。このような環状映像の特徴により既存の2次元映像に適したビデオコーディングアルゴリズムをそのまま使用すると、当然のこととして予測及び圧縮効率が低下する。
【0005】
環状映像(Annular Image)は、全方向カメラのうち鏡基盤カメラシステムで鏡に反射されてカメラに撮られた映像をいい、360°全景情報を含んでいる。図1に、このような環状映像の一例を表す。このような環状映像は、可視領域(FOV:field of view)が制限されている典型的な従来のイメージセンサーと異なって、投射の中心から360°全方向の状況を入力されうる全方向イメージセンサーにより撮影されうる。
【0006】
環状映像に一般的2次元平面映像コーデックを適用すれば、映像の特性上空間的歪曲によって空間及び時間的相関関係をもって予測をする画面内及び画面間の予測のような予測アルゴリズムの効率が落ちる。その理由は、2次元平面映像と比較して環状映像の歪曲の程度が大きいためである。例えば、図2A及び図2Bに図示したように、客体(object)が上下運動を行うと、2次元平面映像ではカメラと客体との距離が一定ならば、ある程度の客体移動がおきても、その形態(shape)は歪曲されないが、全方向性カメラでは双曲面鏡の特性によって客体の形態が容易に歪曲されることを表す。
【0007】
ここで、空間的相関関係が落ちる理由は、環状映像が空間的に円周率と類似した歪曲率を持つためである。これは、画面間予測をする時に効率を大きく落とす原因となる。そして、時間的相関関係が落ちる理由は、図2A及び図2Bに図示したように時間的移動によって客体の形態がある程度一定に維持されるものではなく、歪曲が激しく現れるためである。このような理由によって、動きベクトルの正確なマッチングを困難にし、1/2pel補間(1/2 pixel-base interpolation)及び1/4pel補間(1/4 pixel-base interpolation)時に空間的相関関係の少ない参照画素を参照するので、コーディング効率の低下を引き起こす。
【0008】
さらに、2次元動画コーディング技法のうちの一つであるH.264を中心に現在の予測方法を紹介する。
画面間予測(Inter Prediction)は、ブロック基盤動き補償(block−based motion compensation)を使用して、一つまたはそれ以上の以前に符号化されたビデオフレームまたはフィールドから予測モデルを生成する。
【0009】
画面間コーディングされたマクロブロックでの各パーティション及びサブ・パーティションは、参照映像のような大きさの位置から予測される。位置に関して、輝度成分に対しては1/4pel解像度を持ち、色度成分に対しては1/8pel解像度を持つ。サブサンプル位置での明度及び色度成分サンプルは、参照映像で対応するサンプルが存在しないので、コーディングされた周囲サンプルから補間する方法を使用する。
【0010】
図3Aは、現在フレームの4×4ブロックは、参照映像で対応するブロックの隣接領域から予測される。動きベクトルの水平と垂直の成分いずれも整数(1,−1)ならば、図3Bに図示したように、参照ブロックの適切なサンプルは、実際に参照映像で灰色点(gray dots)で存在する。もし、動きベクトルの一つまたは二つのベクトル成分が、図3Cに図示したように小数値(0.75,−0.5)ならば、灰色点で表示された予測サンプルは、参照フレームでの隣接サンプル、すなわち、白色点(white dots)により補間を行うようになる。
【0011】
1/4pel単位の輝度成分補間は、(1,−5,20,20,−5,1)の係数を持つ6タップフィルターを整数位置の輝度画素の水平方向および垂直方向に適用して1/2pel位置の輝度成分値を求めた後、整数位置と1/2pel位置のサンプル値とを平均して1/4pel単位の輝度サンプルを求める。また、色度成分は、輝度成分の解像度の1/2解像度を持っているために、1/4pel単位の輝度成分動きベクトルが色度成分の動き補償のために使われる場合には、1/8pel単位の動きベクトルと解釈される。したがって、色度成分1/8pel単位の補間を必要とする。
補間は、次の数式を利用して画素値を求めるが、図4でbの画素値を求めるためには数式1を利用する。
【0012】
(数式1)
b=round((E−5F+20G+20H−5I+J)/32)
【0013】
6タップフィルターを利用した1/2pel実行後に図5Aないし図5Cに図示したような方法で下の式を使用して行う。数式2は、1/4pelのaという画素値を求める数式である。
【0014】
(数式2)
a=round((G+b+1)/2)
【0015】
すなわち、図5Aを参照すれば、例えば、画素aは、画素Gと画素bとを利用して求め、図5Bを参照すれば、画素dは、画素Gと画素hとを利用して求め、図5Cを参照すれば、画素eは、画素bと画素hとを利用して求める。
【0016】
このように、従来技術による補間方法は、映像の歪曲特性を考慮せずに水平方向または垂直方向の参照画素を利用して補間を行う。しかし、環状映像の場合にも、このような従来の水平方向または垂直方向の参照画素を利用して補間を行う場合には、空間的相関関係が落ちて画素値予測が正常になされない。例えば、図6A及び図6Bに図示したようにブロッキング現象が発生する。
【0017】
図6A及び図6Bは、従来技術によって環状映像の画面間の予測を行う時のブロッキング現象を説明するための参考図である。
あらゆる動画コーデックの基本処理単位の形態が2次元平面方形のブロックまたはマクロブロックであるために、円形の歪曲を持つ環状映像を処理するには図6A及び図6Bに図示したようなエラーが発生する。図6A及び図6Bは、環状映像をH.264ベースラインプロファイルから選んだ画面間予測データである。図6Bを参照すれば、人の顔の形態の一部が空いている状態にある。図6A及び図6Bに図示したようなブロッキング現象が現れる理由は、画面間予測実行時に利用される1/2pel及び1/4pelの6タップフィルターの参照画素を参照する座標の空間的相関関係が相対的に低いためである。
【発明の開示】
【発明が解決しようとする課題】
【0018】
本発明は、前記のような問題点を解決して環状映像の歪曲特性を考慮して、環状映像の空間的相関関係を利用して補間を行うことによって、環状映像の画面間予測を効果的に行えるようにする環状映像の参照画素補間方法、その装置、環状映像符号化方法、その装置及び環状映像復号化方法及びその装置を提供することを目的とする。
【課題を解決するための手段】
【0019】
前記のような課題を解決するための本発明の一つの特徴は、環状映像の参照画素を補間する方法において、前記環状映像の歪曲方向に配列された複数の参照画素を選択するステップと、前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間するステップと、を含むことである。
前記配列された複数の参照画素は、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列されており、前記対象参照画素から前記円周上の所定距離以内に位置する参照画素を含むことが望ましい。
【0020】
前記複数の参照画素選択ステップは、所定の数式により決定された前記複数の参照画素に対する位置を利用して、前記複数の参照画素を選択するステップ、または、前記円の円周方向に配列された複数の参照画素の位置を保存しているテーブルを利用して、前記複数の参照画素を選択するステップを含むことが望ましい。
前記補間ステップは、前記複数の参照画素の各画素値にそれぞれ所定の加重値を乗算するステップと、前記所定の加重値がそれぞれ乗算された参照画素の値をいずれも加算して対象参照画素の値を獲得するステップと、を含むことが望ましい。
【0021】
本発明の他の特徴は、環状映像の参照画素を補間する装置において、前記環状映像の歪曲方向に配列された複数の参照画素を選択する参照画素選択部と、前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間する補間部と、を備えることである。
【0022】
本発明のさらに他の特徴は、環状映像を符号化する方法において、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間し、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定するステップと、前記予測されたマクロブロックと原マクロブロックとの差をDCT変換し、前記変換されたDCT係数を量子化し、前記量子化されたDCT変換係数を再配置し、前記再配置されたDCT変換係数をエントロピー符号化するステップと、を含むことである。
【0023】
本発明のさらに他の特徴は、環状映像を符号化する装置において、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定する動き推定及び補償部と、前記予測されたマクロブロックと原マクロブロックとの差をDCT変換するDCT変換部と、前記変換されたDCT係数を量子化する量子化部と、前記量子化されたDCT変換係数を再配置する再配置部と、前記再配置されたDCT変換係数をエントロピー符号化するエントロピー符号化部と、を備えることである。
【0024】
本発明のさらに他の特徴は、環状映像復号化方法において、受信された符号化されたビットストリームをエントロピー復号化し、エントロピー復号化されたデータサンプルを再配置し、前記再配置されたデータサンプルを逆量子化し、前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成するステップと、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定するステップと、前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算するステップと、を含むことである。
【0025】
本発明のさらに他の特徴は、環状映像復号化装置において、符号化装置から受信されたビットストリームをエントロピー復号化するエントロピー復号化部と、エントロピー復号化されたデータサンプルを再配置する再配置部と、前記再配置されたデータサンプルを逆量子化する逆量子化部と、前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成する逆DCT変換部と、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定する動き補償部と、前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算する加算部と、を備えることである。
【発明の効果】
【0026】
本発明による符号化/復号化システムでは、環状映像の符号化及び復号化過程に含まれる画素補間方法を、従来の垂直、水平概念ではなく環状映像の歪曲形態による参照画素を利用して補間を行うことによって、環状映像の特徴を最大限反映して予測を効果的に行える。
【発明を実施するための最良の形態】
【0027】
以下、添付された図面を参照して本発明を詳細に説明する。
図7は、本発明による符号化/復号化システムの概略図である。
本発明による符号化装置100は、環状映像を受信して環状映像の歪曲方向を考慮して画面間予測時補間を行って、環状映像を符号化する。符号化された環状映像は、ネットワークなどを通じて復号化装置200に受信され、復号化装置200では同様に環状映像の歪曲方向を考慮して画面間予測時補間を行って符号化された環状映像を復号化する。このように復号化された環状映像は、平面映像変換装置300により平面映像に変換されてユーザに出力されうる。
【0028】
このように本発明による符号化/復号化システムでは、環状映像の符号化及び復号化過程に含まれる画素補間方法を、従来の垂直、水平方向にある参照画素を利用するものではなく、環状映像の歪曲形態による参照画素を利用して補間を行うことによって、環状映像の特徴を最大限反映して予測を効果的に行える。
【0029】
図8は、本発明による符号化装置の具体的なブロック図である。
図8を参照すれば、符号化装置は、動き推定部1と、動き補償部2と、加算部3と、DCT変換部4と、量子化部5と、再配置部6と、エントロピー符号化部7と、逆量子化部9と、逆DCT変換部8と、加算部12とを備える。
符号化装置は、二つのデータフロー経路を備える。一つは、左側から右側に進行するフォワード経路であり、他の一つは、右側から左側に進行する再構成経路である。
【0030】
まず、フォワード経路を説明する。
符号化のための入力映像フレームFnは、(16x16の輝度領域とこれと関連した色差サンプルに該当する)マクロブロック単位で処理される。
動き推定部1は、現在入力フレームFnと以前に符号化された参照フレームF’n−1とを比較して、動き推定部分がF’n−1内でFn内の現在のマクロブロックと一致するまたは類似していると判断される16x16領域を探す。現在マクロブロックの位置と選択された参照領域との間の差が動きベクトルとなる。
【0031】
動き推定部1は、参照画素補間部10と動きベクトル予測部11とを備える。現在フレームのマクロブロックは、参照フレームで現在マクロブロックの位置と隣接した領域から予測される。この時、水平と垂直の動きベクトルが整数ならば、関連したサンプルが参照マクロブロックに実際に存在するが、一つまたは二つのベクトルが小数ならば、参照画素補間部10は予測サンプルを、参照フレーム内の隣接したサンプル間を補間して生成する。特に、参照画素補間部10は本発明によって、入力映像が環状映像であることに鑑みて、環状映像の歪曲を考慮して参照画素を補間する。すなわち、参照画素補間部10は、参照画素を補間する時に従来のように水平方向や垂直方向の参照画素を利用して補間するものではなく、環状映像の歪曲方向に配列された参照画素を利用して補間を行う。ここで、“環状映像の歪曲方向に配列された参照画素”とは、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列され、前記対象参照画素に隣接した複数個の画素をいう。これについては詳細に後述する。
【0032】
動きベクトル予測部11は、参照画素補間部10により補間された画素を含めて、参照フレームF’n−1内で現在のマクロブロックと最も類似していると判断される領域を選択して、現在マクロブロックの位置と選択された参照領域との差を動きベクトルとして予測する。
【0033】
動き補償部2は、選択された動きベクトルによって動き補償された予測マクロブロックP(すなわち、動き推定により選択された16x16領域)を生成する。
加算部3は、現在マクロブロックから予測マクロブロックPを引いて差マクロブロックDnを生成する。
【0034】
このような差マクロブロックDnは、DCT変換部4によりDCT変換され、量子化部5により量子化されて、量子化された変換係数Xを生成する。このような係数は、再配置部6により再配置されてランレベルコーディングされ、エントロピー符号化部7によりエントロピー符号化される。エントロピー符号化された係数は、マクロブロックのデコーディングに要求される付加情報と共に圧縮されたビットストリームを生成する。このような付加情報としては、動きベクトル情報やヘッダ情報などを含む。このように圧縮されたビットストリームは、伝送または保存のためにNAL(Network Abstraction Layer)に伝えられる。
【0035】
再構成経路は次の通りである。
符号化されたマクロブロック係数Xは、他のマクロブロックの符号化のためのフレームを再構成するためにデコーディングされる。すなわち、係数Xは、逆量子化部9により逆量子化され、逆DCT変換部8により逆DCT変換されて差マクロブロックDn’を生成する。これは、信号損失による影響で元来の差マクロブロックDnと同一ではない。
【0036】
予測マクロブロックPは、加算部12によりDn’に加えられて再構成されたマクロブロックを生成する。このように再構成されたマクロブロックは、元来のマクロブロックの歪曲されたバージョンである。このような歪曲の影響を低減するためにフィルター(図示せず)が付加されて、再構成された参照フレームは一連のマクロブロックF’nから生成されうる。
【0037】
図9は、図8に図示した符号化装置のフローチャートである。
図9を参照すれば、動き推定部1により、入力映像である環状映像の中心を円の中心とする円の円周方向に配列された複数の参照画素に基づいて補間を行って、環状映像の動きが推定される(910)。
【0038】
次いで、動き補償部2により、動き推定結果である動きベクトルを利用して動き補償が行われて(920)予測マクロブロックが生成され、予測マクロブロックと現在マクロブロックとの差マクロブロックがDCT変換部4によりDCT変換され(930)、DCT変換されたサンプルは量子化部5により量子化される(940)。次いで、量子化されたサンプルは、再配置部6により再配置されてランレベルコーディングされて(950)、エントロピー符号化部7によりエントロピー符号化される(960)。
【0039】
図10は、本発明による復号化装置の具体的なブロック図である。
図10を参照すれば、復号化装置は、エントロピー復号化部21と、再配置部22と、逆量子化部23と、逆DCT変換部24と、加算部25と、動き補償部26とを備える。
復号化装置のエントロピー復号化部21は、NALから圧縮されたビットストリームを受信して、ビットストリームをエントロピー復号化して各マクロブロックの係数、動きベクトル、そしてヘッダを抽出する。
【0040】
再配置部22は、符号化装置で行なわれたランレベル符号化と再配置過程の逆過程を行って変換されたマクロブロックXを生成する。逆量子化部23は、マクロブロックXを逆量子化し、逆DCT変換部24は、逆量子化されたXを逆DCT変換して差マクロブロックD’nを生成する。
【0041】
動き補償部26は、復号化装置が持っている以前参照フレーム内で参照領域の位置を探すために動きベクトルを使用して、動き補償された予測マクロブロックPを決定する。
動き補償部26は、参照画素補間部27と予測マクロブロック決定部28とを備える。参照画素補間部27は、符号化装置の参照画素補間部10のような機能を行う。すなわち、参照画素補間部27は、本発明によって、入力映像が環状映像であることに鑑みて、環状映像の歪曲を考慮して参照画素を補間する。すなわち、参照画素補間部27は、参照画素を補間する時に、従来のように水平方向や垂直方向の参照画素を利用して補間するものではなく、環状映像の歪曲方向に配列された参照画素を利用して補間を行う。ここで、“環状映像の歪曲方向に配列された参照画素”とは、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列され、前記対象参照画素に隣接した複数個の画素をいう。これについては、詳細に後述する。予測マクロブロック決定部28は、補間された参照画素に対して動きベクトルを利用して予測マクロブロックPを決定する。
【0042】
加算部25は、予測マクロブロックPに差マクロブロックD’nを加えて復元されたマクロブロックを生成し、復元されたマクロブロックは、復号化されたフレームF’nを生成するために保存される。
【0043】
図11は、図10に図示された復号化装置のフローチャートである。
図11を参照すれば、復号化装置により受信された圧縮ビットストリームは、エントロピー復号化部21によりエントロピー復号化され(1110)、エントロピー復号化されたデータサンプルは、再配置部22によりランレベルコーディングと再配置の逆過程が行われ(1120)、再配置されたデータサンプルは、逆量子化部23により逆量子化され(1130)、逆量子化されたデータサンプルは、逆DCT変換部24により逆DCT変換されて(1140)、差マクロブロックD’nとして生成される。
【0044】
動き補償部26により環状映像の中心を円の中心とする円の円周方向に配列された複数の参照画素に基づいて補間を行って、現在マクロブロックの予測マクロブロックが決定され(1150)、このような予測マクロブロックと差マクロブロックとが加算部25により加えられて復元されたマクロブロックが生成される(1160)。
【0045】
以下では、本発明によって環状映像の歪曲特性を考慮した補間方法を具体的に説明する。本発明によって参照画素を補間する方法は、単純に水平及び垂直方向にある参照画素を利用するものではなく、環状映像の歪曲方向にある参照画素を利用するものであるために、所定の曲面に沿って配列された参照画素の位置を捜し出さねばならないので、参照画素の位置に関して2次元極座標系を利用することが望ましい。
【0046】
図12Aは、2次元極座標系を示す。
図12Aに図示したように、2次元極座標系(平面極座標系、plane polar coordinate system)は原点からの距離と方位角により定義される。図12Aでrは、原点から点Pまでの距離を、θは、水平軸から逆時計回り方向に測定した方位角を表す。したがって、点Pの位置は(r,θ)で表示できるが、r及びθを2次元極座標と呼ぶ。
【0047】
極座標系は、人体分節の運動を表現するのに有用に使われうるが、これは、人体運動の根源が関節運動であるためである。関節運動のうち各人体分節は関節を中心に回転するために、方位角を使用することが直角座標を使用することより有利である。しかし、ここで一つ注意せねばならない点は、r(距離)とθ(角度)とが互いに同じ種類の座標ではないという点である。
2次元極座標と2次元直角座標との関係は次のように整理できる。
【0048】
【数1】
【0049】
場合によっては、直角座標を極座標と類似して使用できる。図12Bに表示されたXr軸は半径軸、Xθ軸はこれに直交する軸である。二本の軸は互いに直交するために一種の直角座標系を構成する。場合によっては、直角座標系を使用することより便利であるが、これは両座標系の長所をいずれも取れるためである。Xr軸方向の運動は半径方向の運動を、Xθ軸方向の運動は回転運動を意味する。
【0050】
本発明による環状映像の補間方法は、環状映像の歪曲特性を利用して2次元平面映像のような垂直と水平方向ではない、同一角度及び同一半径を利用して垂直と水平概念を代替することである。
図12Cに図示したような2次元平面映像の水平概念は、図12Dに図示したような円周率を適用した曲線の概念に変わる。
ここでの条件は、2次元極座標系の数式の半径rが同じであるという条件を満たせねばならない。
また図12Eに図示したような2次元平面映像の垂直概念は、図12Fに図示したような同一角を持って半径値のr増減で直線を描けなければならない。
【0051】
このような概念を適用した各四分面の1/2pel補間の例を挙げて説明する。
図13Aに図示したような環状映像の1四分面では、歪曲された形態に沿って大きい矢印のような形態に動きが発生する。
図13Bは、図13Aに図示された環状映像の1四分面内に存在する領域1300の一部を表す。例えば、画素j値を補間しようとすれば、従来には水平方向のcc、dd、h、m、ee、ffに加重分値を適用して補間したが、本発明によれば、図13Bに図示された矢印方向に配列された画素値を利用して補間を行う。すなわち、本発明によれば、画素j値は、画素1301、画素1302、画素1303、画素1304、画素1305、画素1306の値に加重値を適用して補間する。画素j値だけでなく画素b、h、m、sも同様に環状映像の歪曲方向に配列された画素値を参照して補間を行う。従来に垂直や水平方向から参照せねばならない画素値を、図13Bの黒色方形のように参照画素の位置を変化させて画素値を参照する。また、マクロブロックの位置による2次元極座標変換でθを探して垂直方向に勾配を変化させて、図13Bに図示した参照画素の値を取る。
【0052】
図14Aに図示したような環状映像の2四分面では、歪曲された形態に沿って大きい矢印のような形態で動きが発生する。
図14Bは、図14Aに図示された環状映像の2四分面内に存在する領域1400の一部を表す。例えば、画素j値を補間しようとすれば、従来には水平方向のcc、dd、h、m、ee、ffに加重分値を適用して補間したが、本発明によれば、図14Bに図示された矢印方向に配列された画素値を利用して補間を行う。すなわち、本発明によれば、画素j値は、画素1401、画素1402、画素1403、画素1404、画素1405、画素1406の値に加重値を適用して補間する。画素j値だけでなく画素b、h、m、sも同様に環状映像の歪曲方向に配列された画素値を参照して補間を行う。
【0053】
図面には環状映像の1四分面と2四分面だけを例として挙げたが、当業者ならば本発明によって環状映像の歪曲方向に配列された画素を利用して副画素を補間する方法が、3四分面と4四分面にも同一に適用されうるということを十分に理解できるであろう。
図15Aに図示したような環状映像の1四分面と4四分面との境界にある領域1500では、図15Bに図示された矢印のような方向の画素を参照して補間を行う。
【0054】
図15Bは、図15Aに図示された環状映像の1四分面と4四分面との境界にある領域1500を表す。例えば、画素b値を補間しようとすれば、従来には水平方向のE、F、G、H、I、Jに加重分値を適用して補間したが、本発明によれば、図15Bに図示された矢印方向に配列された画素値を利用して補間を行う。すなわち、本発明によれば、画素b値は、画素A 1501、画素bb 1502、画素S 1503、画素gg 1404、画素T 1505の値に加重値を適用して補間する。画素b値だけでなく画素h、m、sも同様に、環状映像の歪曲方向に配列された画素値を参照して補間を行う。
【0055】
本発明による半画素補間法は、環状映像の歪曲方向に配列された所定数の画素値を利用して次のように表現できる。
1/2pel値=round((aA+bB+cC+dD+eE+fF)/K)
6タップフィルターを使用する場合に、A、B、C、D、E、Fは、環状映像の歪曲方向に配列されており、補間しようとする対象画素に隣接した6個の画素を表す。
【0056】
a、b、c、d、e、fは、それぞれ6個の画素にそれぞれ乗算される加重値を表す。
ここで、補間に利用される周辺画素AないしFの位置は、あらかじめシステムで適切な位置を決定して計算した後、テーブル形態を記憶していて、補間を行う時にこのようなテーブルから対象画素の周辺画素を検索して利用してもよく、または、補間する度に所定の数式を利用して対象画素の補間に利用される周辺画素の位置を計算してもよい。
1/4pelの場合にも、1/2pelに適用された補間方法を同一に適用できる。
【0057】
図16Aは、従来技術によるH.264の予測結果を表し、図16Bは、本発明を適用したH.264の予測結果を表す。
従来技術によるH.264の場合には、環状映像の歪曲された部分を正常に参照できずに、映像の一部分にブロッキング現象が現れたことを観察できる一方、本発明によって環状映像の歪曲方向を考慮して補間を行ったH.264の場合には、映像のブロッキング現象なしに映像予測されたことが分かる。
【0058】
以上、説明したような符号化、復号化方法はまたコンピュータで読み取り可能な記録媒体にコンピュータで読み取り可能なコードとして具現することができる。コンピュータで読み取り可能な記録媒体は、コンピュータシステムによって読み取られるデータが保存されるあらゆる種類の記録装置を含む。コンピュータで読み取り可能な記録媒体の例には、ROM、RAM、CD−ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ保存装置などがあり、また、キャリアウェーブ(例えば、インターネットを通じた伝送)の形態で具現されるものも含む。また、コンピュータで読み取り可能な記録媒体は、ネットワークに連結されたコンピュータシステムに分散されて、分散方式でコンピュータで読み取り可能なコードが保存されて実行されうる。そして、前記符号化方法、復号化方法を具現するための機能的なプログラム、コード及びコードセグメントは、本発明が属する技術分野のプログラマーにより容易に推論されうる。
【0059】
これまで本発明についてその望ましい実施形態を中心に説明した。当業者ならば、本発明が本発明の本質的な特性から逸脱しない範囲で変形された形態で具現されうるということを理解できるであろう。したがって、開示された実施形態は限定的な観点ではなく説明的な観点で考慮されねばならない。本発明の範囲は前述した説明ではなく特許請求の範囲に現れており、それと同等な範囲内にあるあらゆる差異点は本発明に含まれていると解釈されねばならない。
【図面の簡単な説明】
【0060】
【図1】環状映像の一例を示す図面である。
【図2A】客体の上下運動による歪曲現象を説明するための参考図である。
【図2B】客体の上下運動による歪曲現象を説明するための参考図である。
【図3A】整数画素及び副画素予測を説明するための参考図である。
【図3B】整数画素及び副画素予測を説明するための参考図である。
【図3C】整数画素及び副画素予測を説明するための参考図である。
【図4】従来技術によって、1/2pel参照ピクセルの方向を説明するための参考図である。
【図5A】従来技術によって、1/4pel位置の補間を説明するための参考図である。
【図5B】従来技術によって、1/4pel位置の補間を説明するための参考図である。
【図5C】従来技術によって、1/4pel位置の補間を説明するための参考図である。
【図6A】従来技術によって環状映像の画面間の予測を行う時のブロッキング現象を説明するための参考図である。
【図6B】従来技術によって環状映像の画面間の予測を行う時のブロッキング現象を説明するための参考図である。
【図7】本発明による符号化/復号化システムの概略図である。
【図8】本発明による符号化装置の具体的なブロック図である。
【図9】図8に図示された符号化装置のフローチャートである。
【図10】本発明による復号化装置の具体的なブロック図である。
【図11】図10に図示された復号化装置のフローチャートである。
【図12A】2次元極座標系を示す図面である。
【図12B】点(P)の動きによる方向性を示す図面である。
【図12C】2次元平面の水平及び3次元環状映像での円周率曲線概念図である。
【図12D】2次元平面の水平及び3次元環状映像での円周率曲線概念図である。
【図12E】2次元平面の垂直及び3次元環状映像での角の概念図である。
【図12F】2次元平面の垂直及び3次元環状映像での角の概念図である。
【図13A】環状映像での1四分面方向性の例を示す図面である。
【図13B】図13Aに図示された歪曲による1/2pel補間時に、参照画素の位置を示す図面である。
【図14A】環状映像での2四分面方向性の例を示す図面である。
【図14B】図14Aに図示された歪曲による1/2pel補間時に、参照画素の位置を示す図面である。
【図15A】環状映像での水平方向の方向性の例を示す図面である。
【図15B】図15Aに図示された歪曲による1/2pel補間時に、参照画素の位置を示す図面である。
【図16A】従来技術によるH.264の予測結果を示す図面である。
【図16B】本発明を適用したH.264の予測結果を示す図面である。
【符号の説明】
【0061】
100;符号化装置
200;複合化装置
300;平面映像変換装置
【特許請求の範囲】
【請求項1】
環状映像の参照画素を補間する方法において、
前記環状映像の歪曲方向に配列された複数の参照画素を選択するステップと、
前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間するステップと、を含むことを特徴とする補間方法。
【請求項2】
前記配列された複数の参照画素は、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列されており、前記対象参照画素から前記円周上の所定距離以内に位置する参照画素を含むことを特徴とする請求項1に記載の補間方法。
【請求項3】
前記複数の参照画素選択ステップは、
所定の数式により決定された前記複数の参照画素に対する位置を利用して、前記複数の参照画素を選択するステップを含むことを特徴とする請求項1に記載の補間方法。
【請求項4】
前記複数の参照画素選択ステップは、
前記円の円周方向に配列された複数の参照画素の位置を保存しているテーブルを利用して、前記複数の参照画素を選択するステップを含むことを特徴とする請求項1に記載の補間方法。
【請求項5】
前記対象参照画素は、1/2pelまたは1/4pelであることを特徴とする請求項1に記載の補間方法。
【請求項6】
前記補間ステップは、
前記複数の参照画素の各画素値にそれぞれ所定の加重値を乗算するステップと、
前記所定の加重値がそれぞれ乗算された参照画素の値をいずれも加算して対象参照画素の値を獲得するステップと、を含むことを特徴とする請求項1に記載の補間方法。
【請求項7】
環状映像の参照画素を補間する装置において、
前記環状映像の歪曲方向に配列された複数の参照画素を選択する参照画素選択部と、
前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間する補間部と、を備えることを特徴とする補間装置。
【請求項8】
前記配列された複数の参照画素は、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列されており、前記対象参照画素から前記円周上の所定距離以内に位置する参照画素を含むことを特徴とする請求項7に記載の補間装置。
【請求項9】
前記参照画素選択部は、
所定の数式により決定された前記複数の参照画素に対する位置を利用して、前記複数の参照画素を選択することを特徴とする請求項7に記載の補間装置。
【請求項10】
前記参照画素選択部は、
前記円の円周方向に配列された複数の参照画素の位置を保存しているテーブルを利用して、前記複数の参照画素を選択することを特徴とする請求項7に記載の補間装置。
【請求項11】
前記対象参照画素は、1/2pelまたは1/4pelであることを特徴とする請求項7に記載の補間装置。
【請求項12】
前記補間部は、
前記複数の参照画素の各画素値にそれぞれ所定の加重値を乗算して、前記所定の加重値がそれぞれ乗算された参照画素の値をいずれも加算して対象参照画素の値を獲得することを特徴とする請求項7に記載の補間装置。
【請求項13】
環状映像を符号化する方法において、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間し、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定するステップと、
前記予測されたマクロブロックと原マクロブロックとの差をDCT変換し、前記変換されたDCT係数を量子化し、前記量子化されたDCT変換係数を再配置し、前記再配置されたDCT変換係数をエントロピー符号化するステップと、を含むことを特徴とする環状映像符号化方法。
【請求項14】
環状映像を符号化する装置において、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定する動き推定及び補償部と、
前記予測されたマクロブロックと原マクロブロックとの差をDCT変換するDCT変換部と、
前記変換されたDCT係数を量子化する量子化部と、
前記量子化されたDCT変換係数を再配置する再配置部と、
前記再配置されたDCT変換係数をエントロピー符号化するエントロピー符号化部と、を備えることを特徴とする環状映像符号化装置。
【請求項15】
環状映像復号化方法において、
受信された符号化されたビットストリームをエントロピー復号化し、エントロピー復号化されたデータサンプルを再配置し、前記再配置されたデータサンプルを逆量子化し、前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成するステップと、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定するステップと、
前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算するステップと、を含むことを特徴とする環状映像復号化方法。
【請求項16】
環状映像復号化装置において、
符号化装置から受信されたビットストリームをエントロピー復号化するエントロピー復号化部と、
エントロピー復号化されたデータサンプルを再配置する再配置部と、
前記再配置されたデータサンプルを逆量子化する逆量子化部と、
前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成する逆DCT変換部と、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定する動き補償部と、
前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算する加算部と、を備えることを特徴とする環状映像復号化装置。
【請求項1】
環状映像の参照画素を補間する方法において、
前記環状映像の歪曲方向に配列された複数の参照画素を選択するステップと、
前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間するステップと、を含むことを特徴とする補間方法。
【請求項2】
前記配列された複数の参照画素は、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列されており、前記対象参照画素から前記円周上の所定距離以内に位置する参照画素を含むことを特徴とする請求項1に記載の補間方法。
【請求項3】
前記複数の参照画素選択ステップは、
所定の数式により決定された前記複数の参照画素に対する位置を利用して、前記複数の参照画素を選択するステップを含むことを特徴とする請求項1に記載の補間方法。
【請求項4】
前記複数の参照画素選択ステップは、
前記円の円周方向に配列された複数の参照画素の位置を保存しているテーブルを利用して、前記複数の参照画素を選択するステップを含むことを特徴とする請求項1に記載の補間方法。
【請求項5】
前記対象参照画素は、1/2pelまたは1/4pelであることを特徴とする請求項1に記載の補間方法。
【請求項6】
前記補間ステップは、
前記複数の参照画素の各画素値にそれぞれ所定の加重値を乗算するステップと、
前記所定の加重値がそれぞれ乗算された参照画素の値をいずれも加算して対象参照画素の値を獲得するステップと、を含むことを特徴とする請求項1に記載の補間方法。
【請求項7】
環状映像の参照画素を補間する装置において、
前記環状映像の歪曲方向に配列された複数の参照画素を選択する参照画素選択部と、
前記選択された複数の参照画素の値に基づいて前記補間しようとする対象参照画素の値を補間する補間部と、を備えることを特徴とする補間装置。
【請求項8】
前記配列された複数の参照画素は、前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列されており、前記対象参照画素から前記円周上の所定距離以内に位置する参照画素を含むことを特徴とする請求項7に記載の補間装置。
【請求項9】
前記参照画素選択部は、
所定の数式により決定された前記複数の参照画素に対する位置を利用して、前記複数の参照画素を選択することを特徴とする請求項7に記載の補間装置。
【請求項10】
前記参照画素選択部は、
前記円の円周方向に配列された複数の参照画素の位置を保存しているテーブルを利用して、前記複数の参照画素を選択することを特徴とする請求項7に記載の補間装置。
【請求項11】
前記対象参照画素は、1/2pelまたは1/4pelであることを特徴とする請求項7に記載の補間装置。
【請求項12】
前記補間部は、
前記複数の参照画素の各画素値にそれぞれ所定の加重値を乗算して、前記所定の加重値がそれぞれ乗算された参照画素の値をいずれも加算して対象参照画素の値を獲得することを特徴とする請求項7に記載の補間装置。
【請求項13】
環状映像を符号化する方法において、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間し、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定するステップと、
前記予測されたマクロブロックと原マクロブロックとの差をDCT変換し、前記変換されたDCT係数を量子化し、前記量子化されたDCT変換係数を再配置し、前記再配置されたDCT変換係数をエントロピー符号化するステップと、を含むことを特徴とする環状映像符号化方法。
【請求項14】
環状映像を符号化する装置において、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、前記環状映像の動きを推定することによって現在マクロブロックの予測された予測マクロブロックを決定する動き推定及び補償部と、
前記予測されたマクロブロックと原マクロブロックとの差をDCT変換するDCT変換部と、
前記変換されたDCT係数を量子化する量子化部と、
前記量子化されたDCT変換係数を再配置する再配置部と、
前記再配置されたDCT変換係数をエントロピー符号化するエントロピー符号化部と、を備えることを特徴とする環状映像符号化装置。
【請求項15】
環状映像復号化方法において、
受信された符号化されたビットストリームをエントロピー復号化し、エントロピー復号化されたデータサンプルを再配置し、前記再配置されたデータサンプルを逆量子化し、前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成するステップと、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定するステップと、
前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算するステップと、を含むことを特徴とする環状映像復号化方法。
【請求項16】
環状映像復号化装置において、
符号化装置から受信されたビットストリームをエントロピー復号化するエントロピー復号化部と、
エントロピー復号化されたデータサンプルを再配置する再配置部と、
前記再配置されたデータサンプルを逆量子化する逆量子化部と、
前記逆量子化されたデータサンプルを逆DCT変換して逆DCT係数を生成する逆DCT変換部と、
前記環状映像の中心から補間しようとする対象参照画素の位置までを半径とする円の円周方向に配列された複数の参照画素の値に基づいて、前記補間しようとする対象参照画素の値を補間して、現在マクロブロックの予測された予測マクロブロックを決定する動き補償部と、
前記逆DCT係数からなるマクロブロックと前記予測マクロブロックとを加算する加算部と、を備えることを特徴とする環状映像復号化装置。
【図1】
【図2A】
【図2B】
【図3A】
【図3B】
【図3C】
【図4】
【図5A】
【図5B】
【図5C】
【図6A】
【図6B】
【図8】
【図9】
【図10】
【図11】
【図12A】
【図12B】
【図12C】
【図12D】
【図12E】
【図12F】
【図13A】
【図13B】
【図14A】
【図14B】
【図15A】
【図15B】
【図16A】
【図7】
【図16B】
【図2A】
【図2B】
【図3A】
【図3B】
【図3C】
【図4】
【図5A】
【図5B】
【図5C】
【図6A】
【図6B】
【図8】
【図9】
【図10】
【図11】
【図12A】
【図12B】
【図12C】
【図12D】
【図12E】
【図12F】
【図13A】
【図13B】
【図14A】
【図14B】
【図15A】
【図15B】
【図16A】
【図7】
【図16B】
【公表番号】特表2008−510356(P2008−510356A)
【公表日】平成20年4月3日(2008.4.3)
【国際特許分類】
【出願番号】特願2007−525545(P2007−525545)
【出願日】平成17年8月13日(2005.8.13)
【国際出願番号】PCT/KR2005/002635
【国際公開番号】WO2006/016780
【国際公開日】平成18年2月16日(2006.2.16)
【出願人】(507043287)インダストリー・アカデミック・コーオペレーション・ファウンデーション・キョンヒ・ユニヴァーシティ (7)
【出願人】(503447036)サムスン エレクトロニクス カンパニー リミテッド (2,221)
【Fターム(参考)】
【公表日】平成20年4月3日(2008.4.3)
【国際特許分類】
【出願日】平成17年8月13日(2005.8.13)
【国際出願番号】PCT/KR2005/002635
【国際公開番号】WO2006/016780
【国際公開日】平成18年2月16日(2006.2.16)
【出願人】(507043287)インダストリー・アカデミック・コーオペレーション・ファウンデーション・キョンヒ・ユニヴァーシティ (7)
【出願人】(503447036)サムスン エレクトロニクス カンパニー リミテッド (2,221)
【Fターム(参考)】
[ Back to top ]