説明

眼鏡なし3次元立体テレビのための高速多視点3次元立体映像の合成装置及び方法

高速多視点3次元立体映像の合成装置は、左側及び右側映像のピクセルデータを用いて、左側映像両眼視差マップを生成する両眼視差マップ生成モジュール(dispartiy map generation module)と、前記左側及び右側映像のピクセルデータと前記左側映像両眼視差マップを用いて、中間視点(intermediate view)ピクセルデータを生成する中間視点生成モジュール(intermediate view generation module)と、前記左側及び右側映像のピクセルデータ前記中間視点ピクセルデータを用いて、多視点3次元立体映像(multiview 3D image)のピクセルデータを生成する多視点3次元立体映像生成モジュール(multiview 3D image generation module)とを含む。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は高速多視点3次元立体映像の合成装置及び方法に関し、より詳しくは、両眼視差マップ(disparity map)を用いた眼鏡なし3次元立体テレビディスプレイのための高速多視点3次元立体映像の合成装置及び方法に関する。
【背景技術】
【0002】
ステレオ映像マッチング方法は、一対の2次元映像から3次元空間情報を再生産する技術である。
【0003】
図1は、従来技術によるステレオ映像マッチング方法を示す図である。図1を参照すれば、ステレオ映像マッチング方法は、先ず、左側映像エピポーラ(epipolar)ライン及び右側映像エピポーラライン上の映像ライン上の3次元空間内の(X、Y、Z)の同じ位置に対応する左側映像ピクセル10及び右側映像ピクセル11を見つける。
【0004】
次いで、一対のピクセル対、すなわち、左側そして右側ピクセルに対する両眼視差が獲得される。図1において、両眼視差「d」はd=X-Xと規定される。両眼視差は距離情報を備え、両眼視差から計算された幾何学的距離は深さと称される。
【0005】
両眼視差マップはステレオ映像マッチング方法によって求められる両眼視差の集合である。観測空間上における3次元距離情報及び形状情報は、入力映像からの両眼視差マップの計算により測定され得る。 従って、両眼視差マップは眼鏡なし3次元テレビディスプレイに必要な多数の映像の合成に用いられる。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は上記事情に鑑みてなされたものであって、その目的は、両眼視差マップを用いた高速多視点3次元立体映像の合成装置及び方法を提供することにある。
【課題を解決するための手段】
【0007】
前記目的を達成するために、本発明による眼鏡なし3次元立体テレビのための高速多視点3次元立体映像の合成装置は、左側及び右側映像のピクセルデータを受信して、前記左側及び右側映像のピクセルデータから左側映像両眼視差マップを生成し出力する両眼視差マップ生成モジュールと、左側及び右側映像のピクセルデータと前記左側映像両眼視差マップを受信して、第1〜第Nの中間視点ピクセルデータを生成し出力する中間視点生成モジュールと、第1〜第Nの中間視点ピクセルデータを受信して、多視点3次元立体映像のピクセルデータを生成し、前記多視点3次元立体映像のピクセルデータを出力する多視点3次元立体映像生成モジュールとを含む。
【0008】
好ましくは、左側及び右側映像のピクセルデータは、同一のエピポーラライン上にあることを特徴とする。
【0009】
好ましくは、両眼視差マップ生成モジュールは、信頼性拡散基盤アルゴリズムを通じて前記左側及び右側映像のピクセルデータから左側映像両眼視差マップを生成することを特徴とする。
【0010】
好ましくは、中間視点生成モジュールは左側映像両眼視差マップを受信して、加工されていない右側映像両眼視差を生成し出力する右側映像両眼視差生成部と、加工されていない右側映像両眼視差を受信して、遮られている領域のない右側映像両眼視差を生成し出力する遮り領域補償部と、遮られている領域のない右側映像両眼視差を受信して、第1〜第Nの中間視点ピクセルデータを生成し出力する中間視点生成部とを含むことを特徴とする。
【0011】
好ましくは、多視点3次元立体映像生成モジュールは、第1〜第Nの中間視点ピクセルデータを混ぜ合わせて前記多視点3次元立体映像のピクセルデータを生成することを特徴とする。
【0012】
前記目的を達成するために、本発明による眼鏡なし3次元立体テレビのための高速多視点3次元立体映像の合成方法は、左側及び右側映像のピクセルデータから左側映像両眼視差マップを生成する段階と、左側及び右側映像のピクセルデータと前記左側映像両眼視差マップを用いて第1〜第Nの中間視点ピクセルデータを生成する段階と、第1〜第Nの中間視点ピクセルデータを用いて多視点3次元立体映像のピクセルデータを生成する段階とを含む。
【0013】
好ましくは、中間視点ピクセルデータを生成する段階は、(a)遮られている領域の検出のために中間視点を初期化する段階と、(b)前記左側映像両眼視差マップを用いて前記左側映像ピクセルデータからマッピングされた前記第1中間視点ピクセルデータ値を決定し、左側映像両眼視差マップを用いて前記左側映像ピクセルデータからマッピングされた右側映像両眼視差を決定し、右側映像両眼視差を用いて前記右側映像ピクセルデータからマッピングされた前記第2中間視点ピクセルデータ値を決定する段階と、(c)前記中間視点が前記左側映像ピクセルデータの近く又は前記右側映像ピクセルデータの近くであるかを判定する段階と、(d)前記左側映像ピクセルデータからの第1中間視点と前記右側映像ピクセルデータからの第2中間視点とを結合し、前記結合された中間視点ピクセル値を出力する段階とを含む。
【0014】
好ましくは、(b)段階の前記右側映像両眼視差の決定は、遮られている領域の検出のために前記右側映像両眼視差を初期化する段階と、左側映像両眼視差マップを用いて前記左側映像両眼視差からマッピングされた前記右側映像両眼視差のピクセル値を決定する段階と、決定されたピクセル値の隣接したピクセル値で前記右側映像両眼視差の前記遮られている領域を補償する段階とを含む。
【0015】
好ましくは、遮られている領域を補償する段階は、決定されたピクセル値の前方の隣接ピクセル値で前記遮られている領域のピクセル値を満たす段階と、決定されたピクセル値の後方の隣接ピクセル値で前記遮られている領域のピクセル値を満たす段階と、前方及び後方の隣接ピクセル値を比較する段階と、前方の隣接ピクセル値が前記後方の隣接ピクセル値よりも小さければ、前記遮られている領域を補償するために前記前方の隣接ピクセル値を採択し、前記後方の隣接ピクセル値が前記前方の隣接ピクセル値よりも小さければ、前記遮られている領域を補償するために前記後方の隣接ピクセル値を採択する段階とを含む。
【0016】
好ましくは、中間視点ピクセルデータを生成する段階は、並列処理メカニズムによって並列的に処理されることを特徴とする。
【発明の効果】
【0017】
本発明によれば、上記多視点3次元映像の合成装置は線形並列処理を通じて高速多視点3次元映像を合成し、かつ小型チップで実現可能である。また、眼鏡なし3次元立体テレビのためのエラー率の低い鮮明な多視点3次元立体映像を出力できるという効果を奏する。
【0018】
また、本発明によれば、眼鏡なし3次元立体テレビ及び眼鏡なし3次元立体携帯電話ディスプレイ市場において高解像度の高速リアルタイム多視点3次元立体映像の合成を通じて既存の低い3次元解像度技術よりも市場における競争優位を獲得でき、更には眼鏡なし3次元立体医療機器ディスプレイにも適用可能である。
【図面の簡単な説明】
【0019】
【図1】ステレオ映像マッチングを示す図である。
【図2】本発明の一実施形態による中間視点生成を示す図である。
【図3】本発明の一実施形態による両眼視差マップを用いた高速多重映像合成装置のブロックダイアグラムを示す図である。
【図4】図3に示す中間視点映像生成部の並列処理メカニズムのブロックダイアグラムを示す図である。
【図5】図3に中間視点映像生成部で行われる中間視点の映像生成方法のフローチャートを示す図である。
【図6】図3に示す中間視点生成モジュールの右側映像両眼視差マップdRLの生成方法のフローチャートを示す図である。
【図7】図6に示す遮られている領域補償方法のフローチャートを示す図である。
【図8】図3に示す多視点3次元立体映像生成モジュールの多視点3次元立体映像生成方法のフローチャートを示す図である。
【図9】本発明の例示的な実施形態による図3の装置を用いる高速多視点映像合成方法の並列処理メカニズムのブロックダイアグラムを示す図である。
【発明を実施するための形態】
【0020】
以下、本発明の好適な実施形態を添付の図面を参照して詳細に説明する。
【0021】
図2は、本発明の一実施形態による中間視点生成ダイヤグラムを示す図である。中間視点(intermediate view)映像20は、左側映像21及び右側映像22から再投影された映像である。
【0022】
図3は、本発明の一実施形態による高速多視点3次元立体映像合成装置のブロックダイアグラムを示す図である。
【0023】
図3に示すように、 本発明の高速多視点3次元立体映像の合成装置は、両眼視差マップ生成モジュール100、中間視点生成モジュール200及び多視点3次元立体映像生成モジュール300を含む。両眼視差マップ生成モジュール100は、左側及び右側映像ピクセル値を受信し、 左側映像両眼視差マップdLRを出力する。中間視点生成モジュール200は、左側映像、右側映像及び両眼視差マップ生成モジュール100から提供された左側映像両眼視差マップ dLR を受信し、多様な観点から中間視点の映像、すなわち、第1〜第Nの中間視点の映像を出力する(ここで, Nは整数)。多視点3次元立体映像生成モジュール300は、中間視点生成モジュール200から提供された第1〜第Nの中間視点の映像を受信し、ユーザに3次元の認知を与えるために眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像を出力する。
【0024】
図3を参照すれば、中間視点生成モジュール200は、右側映像両眼視差マップ(dRL)生成部210、遮り領域補償部220及び中間視点映像生成部230を含む。右側映像両眼視差マップ生成部210は、両眼視差マップ生成モジュール100により提供される左側映像両眼視差マップdLRを受信し、遮られている領域がある加工していない右側映像両眼視差マップを出力する。遮り領域補償部220は、右側映像両眼視差マップ生成部210により提供される加工していない右側映像両眼視差マップを受信し、遮られている領域がない精密な右側映像両眼視差dRLを出力する。中間視点映像生成部230は、遮り領域補償部220により提供される遮られた映像がない精密な右側映像両眼視差マップdRL、左側及び右側映像 を受信し、多様な観点からの第1〜第Nの中間視点の映像を出力する。
【0025】
多視点3次元立体映像生成モジュール300は、前記中間視点映像生成部230から第1〜第Nの中間視点の映像を受信し、多視点映像ピクセルデータを計算して、多視点映像を出力する。上記両眼視差マップ生成モジュール100、中間視点生成モジュール200及び多視点3次元立体映像生成モジュール300は映像のエピポーラライン上の映像ラインに対して上記過程を繰り返し行われる。
【0026】
図4は、図3の中間視点映像生成部230の並列処理メカニズムのブロックダイアグラムを示す図である。中間視点映像生成部230の 入力データは左側映像ILの1つのラインピクセルデータ411、一対の映像の同一のエピポーラライン上の右側映像IRの1つのラインピクセルデータ413及びステレオ映像対のための右側映像両眼視差dRLの1つのラインピクセルデータ412を含む。
【0027】
中間視点映像生成部230の中間データは、左側映像Iから再投影された中間映像421、右側映像Iから再投影された中間映像424を含む。また、422は左側映像両眼視差dLRに係数α(0<α<1)をかけたものであって、左側及び右側映像間の中間映像の相対的位置を示し、423は右側映像両眼視差dRLに係数1-α(0<α<1)をかけたものであって、左側及び右側映像間の中間映像の相対的位置を示す。中間視点映像生成部230の出力データは、第Nの中間視点の1つのラインピクセルデータ430を含む。左側映像ピクセルデータ411から再投影された中間映像421は、第Nの中間視点の1つのラインピクセルデータ430を出力するために右側映像ピクセルデータ413から投影された中間映像424を組み合わせる。
【0028】
図5は、図3に示す中間視点映像生成部230で行われる中間視点の映像生成方法のフローチャートを示す図である。
【0029】
図5を参照して、左側映像及び右側映像からの再投影された中間映像の初期値IIL(XIL、Y)及びIIR(XIR、Y)は式1により与えられる(段階S510)。
【0030】
[式1]
Y=0からN-1までに対して、
X=0からM-1までに対して、
IL(X、Y)=0;
IR(X、Y)=0
ここで、Mは映像の幅であり、Nは視点の数であり 、(X、Y)は再投影された中間映像中の平面座標である。
【0031】
初期値は、遮られている領域を検出するために与えられる(段階S541及びS542)。遮られている領域は左側から中間へ又は右側から中間へ再投影された映像が情報を有していない場合に生じる。本来の左側映像中の遮られている領域は観点が異なるため、再投影された中間映像に露出する。遮られている領域を検出するために、再投影された映像の初期値IIL(XIL、Y)及びIIR(XIR、Y)は0に設定される。従って、遮られていない領域点及び遮られている領域点は左側映像から中間映像へ又は右側映像から中間映像へ投影された後、ピクセル値だけ異なり得る。
【0032】
中間映像IIL及びIIRが左側映像I及び右側映像Iから投影されて強度(intensity)値が指定されることが式2に示されている(段階S520)。
【0033】
[式2]
Y=0からN-1までに対して、
X=0からM-1までに対して、
IL(X、Y)=IIL(X+α*dLR(X、Y)、Y)=I(X、Y);(0<α<1)
IR(X、Y)=IIR(X+(1-α)*dRL(X、Y)、Y)=I(X、Y)(0<α<1)
ここで、αと1-αは左側映像I及び右側映像Iから離れた所望の中間映像IIL、IIRの相対的に正規化された距離を意味する。 dLRは左側映像Iから右側映像Iへの両眼視差マップである。dRLは右側映像Iから左側映像Iへの両眼視差マップである。
【0034】
α=0を左側映像の位置に、α=1を右側映像の位置にする。従って、0<α<1は中間映像の有効な位置である。中間映像を生成するために、所望の中間位置に対する両眼視差の指定が要求される。この処理はdLR及びdRL両眼視差マップを中間映像上に投影して行われる。左側映像のある位置(X、Y)に対して、中間映像の投影された位置は(X+α*dLR(X、Y)、Y)である。右側映像のある位置(X、Y)に対して、中間映像の投影された位置は(X+(1-α)*dRL(X、Y)、Y)である。中間映像の各位置(X 、Y)に対して、2つの対応する位置、左側映像上の(X、Y)及び右側映像上の(X、Y)は2つの両眼視差マップdLR及びdRLを通じて容易に発見され得る。中間映像IIL、IIR上のある位置(X、Y)に対して、仮想の視点は強度値IIL(X、Y)=IIL(X+α*dLR(X、Y)、Y)=I(X、Y)及びIIR(X、Y)=IIR(X+(1-α)*dRL(X、Y)、Y)=I(X、Y)の指定を通じて合成される(段階S520)。
【0035】
図5を参照すれば、最終の所望の中間映像が左側映像の近くにあるかは段階S530で判断される。
【0036】
段階S530の判断結果において, 遮られている領域の補償は式3及び式4を 用いて行われる。
【0037】
[式3]
Y=0からN-1までに対して、
X=0からM-1までに対して、
仮りにIIL(XIL、Y)=0であれば、
IL(XIL、Y)=IIR(XIR、Y)
(X、Y)=IIL(XIL、Y)
[式4]
Y=0からN-1までに対して、
X=0からM-1までに対して、
仮りにIIR(XIR、Y)=0であれば、
IR(XIR、Y)=IIL(XIL、Y)
(X、Y)=IIR(XIR、Y)
ここで、IIL(XIL、Y)=0であるとき、(XIL、Y)は中間映像IILの遮られている領域を示し、IIL(XIL、Y)=0であるとき、(XIR、Y)は中間映像IIRの遮られている領域を示す。
【0038】
図5を参照して、段階S530で、仮りに最終の所望の中間映像Iが左側映像Iの近くにあれば、中間映像IIRは中間映像IILの遮られている領域を補償するために用いられるように決定される(段階S541)。逆に、段階S530で、仮りに最終の所望の中間映像Iが右側映像Iの近くにあれば、中間映像IILは中間映像IIRの遮られている領域を補償するために用いられるように決定される(段階S542)。補償後段階S541において(IIR(XIR、Y)がIIL(XIL、Y)に設定されることとIIL(XIL、Y)が最終の所望の中間映像Iに割り当てられることと、 段階S542においてIIL(XIL、Y)がIIR(XIR、Y)に設定されることとIIR(XIR、Y) が最終の所望の中間映像Iに割り当てられることが式3及び式4に示されている。
【0039】
図6は、中間視点生成モジュール200で行われる右側映像両眼視差マップdRL生成方法のフローチャートを示す図である。前述の如く、dRLは右側映像Iから左側映像Iへの両眼視差マップである。dLRは左側映像Iから右側映像Iへの両眼視差マップである。両眼視差マップ生成モジュール100から単に左側映像の両眼視差マップdLRのみが生成される。しかしながら、中間視点生成モジュール200で、両眼視差マップdRLも要求される。従って、両眼視差マップdRLは、中間視点生成モジュール200内でdRLからdLRへのマッピング点により計算され得る。
【0040】
両眼視差マップdRL(X、Y)の初期値は、式5で与えられる(段階S610)。
【0041】
[式5]
Y=0からN-1までに対して、
X=0からM-1までに対して、
RL(X、Y)=0
ここで、dRLは右側映像Iから左側映像Iへの両眼視差マップである。(X、Y)は映像中の平面座標である。
【0042】
LRから再投影された両眼視差マップdRLが情報を有していない時に遮られている領域が生じる。本来の両眼視差マップdLR中の遮られている領域は観点が異なるため、再投影された両眼視差マップdRLで露出する。遮られている領域を検出するために、再投影された両眼視差マップdRLの初期値は0に設定される。従って、遮られていない領域点及び遮られている領域点はdLRからdRLへの投影(マッピング)後にピクセル値だけ異なり得る。
【0043】
左側映像I及び右側映像Iからの投影(マッピング)により両眼視差マップdRLの初期値が割り当てられることが(段階S620)式6に示されている。
【0044】
[式6]
Y=0からN-1までに対して、
X=0からM-1までに対して、
RL(X+dLR、Y)=dLR(X、Y)
LRは左側映像Iから右側映像Iへの両眼視差マップである。dRLは右側映像Iから左側映像Iへの両眼視差マップである。
【0045】
両眼視差マップdRLを生成するために、本来の両眼視差マップdLRの位置に対する強度値の割り当てが要求される。この過程は、両眼視差マップdRL上にdLR両眼視差を投影して行われる。両眼視差マップdLR上のある位置(X、Y)に対して、両眼視差マップdRL上の投影された位置は(X+dLR、Y)である。両眼視差マップdRL上の各位置(X+dLR、Y)に対して、両眼視差マップdLR上の対応する位置(X、Y)は両眼視差マップdLRを通じて容易に発見され得る。 段階S620で、両眼視差マップdRL上のある位置(X+dLR、Y)に対して、強度値を割り当て、仮想の視点が合成される。
【0046】
段階S620の後、両眼視差マップdRLが式6により強度値が割り当てられて合成されるが、両眼視差マップdRLの遮られている領域は依然として存在する。この問題を解決するために、遮られている領域は隣接ピクセル値によって補償される(段階S630)。両眼視差マップdRLの遮られている領域が補償されるとき、両眼視差マップdRLの生成が完了する。遮られている領域の補償方法は以下に説明される。
【0047】
図7は、図6の遮られている領域(occluded region)補償方法のフローチャートを示す図である。 図6の段階S620で、遮られている領域がある両眼視差マップdRLが合成される。dRLの遮られている領域を補償するために、遮られている領域の前方及び後方の隣接ピクセル値が遮られている領域を補償するために用いられる。仮りに、前方及び後方の隣接ピクセル値がいずれも遮られている領域に割り当てられれば、衝突が発生し得る。従って、前方及び後方のピクセル値を比較して、より小さな値が採択される。
【0048】
図7を参照すれば、dRLの遮られている領域の強度値が前方の隣接ピクセル値により満たされることが式7に説明されている(段階S710)。
【0049】
[式7]
Y=0からN-1までに対して、
X=0からM-1までに対して、
仮りにdRL(X、Y)=0であれば、
RL(X、Y)=dRL(X-1、Y-1)
ここで、dRLは右側映像Iから左側映像Iへの両眼視差マップである。dRL(X、Y)=0であるとき、(X、Y)は両眼視差マップdRLの遮られている領域を示す。(X-1、Y-1)は遮られている領域の前方の隣接ピクセル値を示す。式7において、dRLは前方の隣接ピクセルによる補償の後、遮られている領域の強度値を格納する。
【0050】
図7を参照すれば、dRLの遮られている領域の強度値が後方の隣接ピクセル値で満たされることが式8で説明される(段階S720)。
【0051】
[式8]
Y=0からN-1までに対して、
X=0からM-1までに対して、
仮りにdRL(X、Y)=0であれば、
RL(X、Y)=dRL(X+1、Y+1)
ここで、dRLは右側映像Iから左側映像Iへの両眼視差マップである。dRL(X、Y)=0であるとき、(X、Y)は両眼視差マップdRLの遮られている領域を示す。(X+1、Y+1)は遮られている領域の後方の隣接ピクセル値を示す。式8において、dRLは後方の隣接ピクセルによる補償の後、遮られている領域の強度値を格納する。
【0052】
従って、遮られている領域の強度値dRL及びdRLが比較されることが式9に示されている(段階S730)。
【0053】
[式9]
【数1】

【0054】
ここで、仮りにdRL(X、Y)<dRL(X、Y)であれば、前方の隣接ピクセル値dRLがdRL(X、Y)の遮られている領域を補償するために採択される。仮りにdRL(X、Y)>dRL(X、Y)であれば、後方の隣接ピクセル値dRLがdRL(X、Y)の遮られている領域を補償するために採択される。
【0055】
上記遮られている領域の強度値dRL(X、Y)が段階S730、S741及びS742を通じて判定される。dRL(X、Y)の遮られている領域は、ステレオ映像対において背景物体である。背景物体の両眼視差値は常に前景物体の両眼視差値よりも小さく、従って、dRL(X、Y)の遮られている領域の両眼視差値は前方及び後方の隣接ピクセル値のうち、より小さな値で与えられる。
【0056】
図8は、図3に示す多視点3次元立体映像生成モジュール300において行われる多視点3次元立体映像生成方法のフローチャートを示す図である。
【0057】
n視点がある眼鏡なし多視点ディスプレイは、本来の左側映像及び右側映像間の多様な観点からのn-2中間視点を要求する。図5を参照して、中間視点の合成を適用すれば、多様な観点からの中間視点が生成される。
【0058】
眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像は、多様な観点のn視点から列(column)を混合して製作される。この映像は、左側目が単に左側目の映像からの欠片のみを見ることができ、右側目は単に右側目の映像からの欠片のみを見ることができるように配列される。これは、観測者に3次元認識(3次元場面の深さ)を与える。
【0059】
眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像を形成するために多様な観点からの個別映像がインターリーブされることが式10を通じて説明される。
【0060】
[式10]
【数2】

【0061】
ここで、IAutostereoViewは多視点3次元立体映像のピクセル値を示し、IからIn-1は眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像を形成するための多様な観点からのnサブ映像のピクセル値を示す。Iは本来の左側映像であり、In-1は本来の右側映像であり、I、I、…In-2は本来の左側映像及び右側映像間の多様な観点からのn-2中間視点を示す。(X、Y)は映像中の平面座標である。 式10で、段階S810、S821、S822、S831、S832、S840、S850、S860で、X%nはサブ映像nが水平軸Xにより分割された後の残りを意味する。
【0062】
図8を参照すれば、眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像を形成するために、多様な観点からのn視点の列ピクセルがIからIn-1まで順次インターリーブされる。多視点3次元立体映像コンテンツは、眼鏡なし3次元立体テレビディスプレイスクリーンに対するその位置に依存して観測者に観測される。眼鏡なし3次元立体テレビディスプレイスクリーン(レンズの形状又はパララックスバリア)のため、観測者の左側目はその右側目が得るのと異なる列ピクセルを受信する。これは、観測者に3次元立体場面の深さ認識(3次元場面の深さ)を与える。
【0063】
図9は、本発明の一実施形態による図3の装置を用いる高速多視点映像合成方法の並列処理メカニズムのブロックダイアグラムを示す図である。 図9の両眼視差マップ生成モジュール100は、左側映像両眼視差マップdLRの1つのラインピクセル値を出力する。左側及び右側映像は、同じ時間に左側及び右側映像の1つのラインピクセル値を出力する。多様な観点からの第1〜第Nの視点を生成するための並列処理のために、中間視点生成モジュール200の数は(N-2)である。左側映像、右側映像及び左側映像両眼視差マップの1つのラインピクセル値を受信した後、(N-2)中間視点生成モジュールはそれぞれ多様な観点から1つのラインピクセル値を出力する。ここで、第1中間視点は左側映像であり、第Nの中間視点は右側映像である。多視点3次元立体映像生成モジュール300は、中間視点生成モジュール200により提供された多様な観点からの第1〜第Nの中間視点の1つのラインピクセル値を受信し、ユーザに3次元の認識を与えるために眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像を出力する。第1〜第Nの中間視点がそれぞれライン別に生成されるので、両眼視差マップを用いた高速多視点映像合成方法のパラレル処理が実施される。すなわち、左側映像及び右側映像はパラレル処理により眼鏡なし3次元立体テレビディスプレイのための多視点3次元立体映像を合成できる。
【0064】
本発明は現在最も実用的、かつ、好適な実施形態として考慮されるものと共に説明されたが、本発明は開示された実施形態に限定されず、添付する請求範囲の精神と範疇内に含まれる多様な修正及び同等な構成を含むことを意図する。

【特許請求の範囲】
【請求項1】
左側及び右側映像のピクセルデータを用いて、左側映像両眼視差マップを生成する両眼視差マップ生成モジュール(dispartiy map generation module)と、
前記左側及び右側映像のピクセルデータと前記左側映像両眼視差マップを用いて、中間視点(intermediate view)ピクセルデータを生成する中間視点生成モジュール(intermediate view generation module)と、
前記左側及び右側映像のピクセルデータ前記中間視点ピクセルデータを用いて、多視点3次元立体映像(multiview 3D image)のピクセルデータを生成する多視点3次元立体映像生成モジュール(multiview 3D image generation module)と
を含む高速多視点3次元立体映像の合成装置。
【請求項2】
前記左側及び右側映像のピクセルデータは、
同一のエピポーラライン上にあることを特徴とする請求項1に記載の高速多視点3次元立体映像の合成装置。
【請求項3】
前記両眼視差マップ生成モジュールは、
信頼性拡散(belief propagation)基盤アルゴリズムを通じて前記左側映像両眼視差マップを生成することを特徴とする請求項1に記載の高速多視点3次元立体映像の合成装置。
【請求項4】
前記中間視点生成モジュールは、
前記左側映像両眼視差マップを受信して、加工されていない右側映像両眼視差マップを生成する右側映像両眼視差マップ生成部と、
前記加工されていない右側映像両眼視差マップを受信して、遮られている領域のない右側映像両眼視差マップを生成する遮り領域補償部と、
前記遮り領域補償部によって生成された右側映像両眼視差マップを用いて、多様な観点から中間視点ピクセルデータを生成する中間視点生成部と
を含むことを特徴とする請求項1に記載の高速多視点3次元立体映像の合成装置。
【請求項5】
前記多視点3次元立体映像生成モジュールは、
前記多様な観点 から中間視点ピクセルデータを混ぜ合わせて前記多視点3次元立体映像のピクセルデータを生成することを特徴とする請求項1に記載の高速多視点3次元立体映像の合成装置。
【請求項6】
左側及び右側映像のピクセルデータから左側映像両眼視差マップを生成する段階と、
前記左側及び右側映像のピクセルデータと前記左側映像両眼視差マップを用いて中間視点ピクセルデータを生成する段階と、
前記左側及び右側映像のピクセルデータと前記中間視点ピクセルデータを用いて多視点3次元立体映像のピクセルデータを生成する段階と
を含む高速多視点3次元立体映像の合成方法。
【請求項7】
前記中間視点ピクセルデータを生成する段階は、
中間視点(intermediate view)を初期化する段階と、
前記左側映像両眼視差マップを用いて前記左側映像ピクセルデータからマッピングされた前記第1中間視点ピクセルデータ値を決定し、
前記左側映像両眼視差マップを用いて前記左側映像ピクセルデータからマッピングされた右側映像両眼視差を決定し、
前記右側映像両眼視差マップを用いて前記右側映像ピクセルデータからマッピングされた前記第2中間視点ピクセルデータ値を決定する段階と、
前記中間視点が前記左側映像ピクセルデータの近く又は前記右側映像ピクセルデータの近くであるかを判定する段階と、
前記第1中間視点ピクセルデータと前記第2中間視点ピクセルデータとを結合して、前記中間視点ピクセル値を生成する段階とを含むことを特徴とする請求項6に記載の眼鏡なし3次元立体テレビのための高速多視点3次元立体映像の合成方法。
【請求項8】
前記右側映像両眼視差マップの決定は、
前記右側映像両眼視差マップを初期化する段階と、
前記左側映像両眼視差マップを用いて前記左側映像両眼視差マップからマッピングされた前記右側映像両眼視差マップのピクセル値を決定する段階と、
前記決定されたピクセル値の隣接したピクセル値で前記右側映像両眼視差の前記遮られている領域を補償する段階と
を含むことを特徴とする請求項7に記載の高速多視点3次元立体映像の合成方法。
【請求項9】
前記遮られている領域を補償する段階は、
前記ピクセル値が決定されたピクセルの前方へ隣接するピクセルの前方隣接ピクセル値を格納する段階と、
前記ピクセル値が決定されたピクセルの後方へ隣接するピクセルの後方隣接ピクセル値を格納する段階と、
前記前方及び後方の隣接ピクセル値を比較する段階と、
前記前方の隣接ピクセル値と前記後方の隣接ピクセル値のうち小さい値を採択する段階と、
採択したピクセル値で前記遮られている領域のピクセル値を満たす段階と
を含むことを特徴とする請求項8に記載の高速多視点3次元立体映像の合成方法。
【請求項10】
前記中間視点ピクセルデータを生成する段階は、
並列的に処理されることを特徴とする請求項6に記載の高速多視点3次元立体映像の合成方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公表番号】特表2011−519209(P2011−519209A)
【公表日】平成23年6月30日(2011.6.30)
【国際特許分類】
【出願番号】特願2011−503910(P2011−503910)
【出願日】平成21年4月9日(2009.4.9)
【国際出願番号】PCT/KR2009/001834
【国際公開番号】WO2009/125988
【国際公開日】平成21年10月15日(2009.10.15)
【出願人】(505282042)ポステック・アカデミー‐インダストリー・ファウンデーション (34)
【Fターム(参考)】