説明

3D映像変換装置、その具現方法及びその保存媒体

【課題】 3D映像変換装置、その具現方法及びその保存媒体を開示する。
【解決手段】 本発明による3D映像変換装置は、複数のフレームを含む入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行して前記入力映像を立体映像に変換させる映像変換部と;前記複数のフレームの中で立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行する制御部と;前記映像変換部によって変換された立体映像と、前記制御部によって遂行されたエラーチェック結果に従って前記複数のフレームの中で前記一部フレームに対するエラー情報を表示するディスプレイ部と;を含む。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、3D映像変換装置、その具現方法及びその保存媒体に係り、さらに詳しくは、2D入力映像を3D映像に変換する3D映像変換装置、その具現方法及びその保存媒体に関する。
【背景技術】
【0002】
複数のフレームを含む2D映像を3D映像に変換できる従来の映像変換装置は、前記複数のフレームの一部が3D映像に変換される過程中には、変換エラーが発生されたか否かを確認することができなかった。従って、前記複数のフレーム全体が3D映像に変換された後に、エラーをチェックしなければならないので不便があった。
【0003】
従って、2D映像を3D映像に変換する時、前記複数のフレームの中で一部のフレームに対応して生成された3D映像に対して、変換時のエラー発生可否をチェックする必要がある。
【発明の概要】
【発明が解決しようとする課題】
【0004】
従って、本発明の目的は、複数のフレームを含む2D映像を3D映像に変換する時に、前記複数のフレームの中で一部のフレームに対応して生成された3D映像に対して、エラーをチェックし修正できる3D映像変換装置、その具現方法及びその保存媒体を提供することである。
【課題を解決するための手段】
【0005】
前記目的は、本発明により、3D映像変換装置において、ディスプレイ部と;複数のフレームを含む入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行して前記入力映像を立体映像に変換させる映像変換部と;前記複数のフレームの中で立体映像変換情報が生成された一部のフレームに対してエラーチェックを遂行する制御部と;前記映像変換部によって変換された立体映像と、前記制御部によって遂行されたエラーチェック結果に従って前記複数のフレームの中で前記一部フレームに対するエラー情報を表示するディスプレイ部と;を含むことを特徴とする3D映像変換装置によって達成されることができる。
【0006】
前記映像変換部は、前記複数のフレームの中でキーフレームを選定し、前記選定されたキーフレームに含まれたオブジェクトを抽出し、前記抽出されたオブジェクトに対する深さ情報を割り当て、前記複数のフレームの中でキーフレームでない非−キーフレームに対してトラッキングを遂行することによって、前記立体映像変換情報を生成することができる。
【0007】
前記制御部は、前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームのモーションベクターに基づいて前記オブジェクト抽出のエラー可否を判断することができる。
【0008】
前記制御部は、前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームの深さマップに基づいて前記深さ情報割当のエラー可否を判断することができる。
【0009】
前記制御部は、前記非−キーフレームに対して、オブジェクト抽出又は深さ情報割当のエラー発生頻度に基づいて前記非−キーフレームに対応するキーフレームの選定のエラー可否を判断することができる。
【0010】
前記制御部は、前記エラーに対する情報として前記複数のフレームの中で前記一部フレーム上にエラーが発生された所定の領域をボールド、ハイライト及びモーションベクターを他の色で表示することの中で少なくとも何れか一つを利用して表示することができる。
【0011】
前記3D映像変換装置は、エラー修正のための第1UIを生成するUI生成部をさらに含み、前記制御部は、前記エラーが発見された前記複数のフレームの中で前記一部フレームに前記生成された第1UIを生成及び表示するように前記UI生成部を制御することができる。
【0012】
前記3D映像変換装置は、ユーザ入力部をさらに含み、前記制御部は、前記第1UIを通じて入力された選択に基づいて前記立体映像変換情報を修正し、修正された立体映像変換情報に基づいて前記入力映像をレンダリングするように前記映像変換部を制御することができる。
【0013】
前記3D映像変換装置は、エラー発生可能レベルを表示するための第2UIを生成するUI生成部をさらに含み、前記制御部は、前記複数のフレームに対するエラー発生可能レベルを判断し、前記判断されたエラー発生レベルを表示するための第2UIを生成及び表示するように前記UI生成部を制御することができる。
【0014】
前記制御部は、前記複数のフレームに含まれたオブジェクトの複雑性又はオブジェクトの動き量に基づいて前記エラー発生可能レベルを判断することができる。
【0015】
前記3D映像変換装置は、ユーザ入力部をさらに含み、前記制御部は、前記ユーザ入力部を通じてエラーチェックモード選択が入力されれば、前記複数のフレームの中で前記入力時点まで立体映像変換情報が生成された一部のフレームに対してエラーチェックを遂行することができる。
【0016】
また、前記目的は、本発明により、3D映像変換装置によって具現される方法において、複数のフレームを含む入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行して前記入力映像を立体映像に変換させる段階と;前記複数のフレームの中で立体映像変換情報が生成された一部のフレームに対してエラーチェックを遂行する段階と;前記エラーチェック結果によるエラーに対する情報と前記立体映像を表示する段階と;を含むことを特徴とする方法によって達成されることができる。
【0017】
前記立体映像変換情報生成段階は、前記複数のフレームの中でキーフレームを選定する段階と;前記選定されたキーフレームに含まれたオブジェクトを抽出する段階と;前記抽出されたオブジェクトに対する深さ情報を割り当てる段階と;前記複数のフレームの中でキーフレームでない非−キーフレームに対してトラッキングを遂行する段階と;を含むことができる。
【0018】
前記エラーチェック遂行段階は、前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームのモーションベクターに基づいて前記オブジェクト抽出のエラー可否を判断する段階を含むことができる。
【0019】
前記エラーチェック遂行段階は、前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームの深さマップに基づいて前記深さ情報割当のエラー可否を判断する段階を含むことができる。
【0020】
前記エラーチェック遂行段階は、前記非−キーフレームに対してオブジェクト抽出又は深さ情報割当のエラー発生頻度に基づいて前記非−キーフレームに対応するキーフレームの選定のエラー可否を判断する段階を含むことができる。
【0021】
前記エラー情報表示段階は、前記エラーに対する情報として前記複数のフレームの中で前記一部フレーム上にエラーが発生された所定の領域をボールド、ハイライト及びモーションベクターを他の色で表示することの中で少なくとも何れか一つを利用して表示する段階を含むことができる。
【0022】
前記方法は、前記エラーが発見された前記複数のフレームの中で前記一部フレームにエラー修正のための第1UIを生成及び表示する段階をさらに含むことができる。
【0023】
前記方法は、前記第1UIを通じて入力された選択に基づいて前記立体映像変換情報を修正する段階と;前記修正された立体映像変換情報に基づいて前記入力映像をレンダリングする段階と;をさらに含むことができる。
【0024】
前記方法は、前記複数のフレームに対するエラー発生可能レベルを判断する段階と;前記判断されたエラー発生可能レベルを表示するための第2UIを生成及び表示する段階と;をさらに含むことができる。
【0025】
前記判断段階は、前記複数のフレームに含まれたオブジェクトの複雑性又は前記オブジェクトの動き量に基づいて前記エラー発生可能レベルを判断する段階である。
【0026】
前記エラーチェック遂行段階は、エラーチェックモード選択が入力されれば、前記複数のフレームの中で前記入力時点まで立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行する段階である。
【0027】
また、前記目的は、本発明により、前記方法をコンピュータで実行させるためのプログラムを記録した記録媒体によって達成される。
【発明の効果】
【0028】
以上、説明した通り、本発明によれば、複数のフレームを含む2D映像を3D映像に変換する時に、前記複数のフレームの中で一部のフレームに対応して生成された3D映像に対して、エラーをチェックし修正できる3D映像変換装置、その具現方法及びその保存媒体が提供される。
【図面の簡単な説明】
【0029】
【図1】本発明の一実施形態による3D映像変換装置の制御ブロック図である。
【図2】本発明の一実施形態による3D映像変換装置の制御部の動作を示す一実施形態である。
【図3】本発明の一実施形態による3D映像変換装置の制御部の他の動作を示す一実施形態である。
【図4】本発明の一実施形態による3D映像変換装置の制御部のまた他の動作を示す一実施形態である。
【図5】本発明の3D映像変換装置の具現方法を示すフローチャートである。
【図6】本発明の3D映像変換装置の具現方法を示すフローチャートである。
【発明を実施するための形態】
【0030】
以下、添付図面を参考して、本発明の実施形態に対して本発明が属する技術分野で通常の知識を有する者が容易に実施することができるように詳細に説明する。本発明は、多様な形態で具現されることができるし、ここで説明する実施形態に限定されない。本発明を明確に説明するために説明に係らない部分は省略し、明細書において、同一又は類似な構成要素に対しては同じ参照符号を付けるようにする。
【0031】
図1は、本発明の一実施形態による3D映像変換装置の制御ブロック図である。3D映像変換装置100は、外部のソース提供装置(図示せず)又は保存媒体(図示せず)から提供される単眼映像の入力映像を両眼映像に変換することができる。前記単眼映像は、2次元映像を含むことで、二つの用語は互いに混用されて使用されることができる。前記両眼映像は、3次元映像(3D映像又は立体映像)を含むことで、これら用語は互いに混用されて使用されることができる。3D映像変換装置100は、入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行することによって3次元映像に変換させる。
【0032】
3D映像変換装置100が複数のフレームを含む入力映像を3次元映像に変換を遂行する中間に、ユーザからエラーチェックモード選択入力が受信されれば、前記複数のフレームの中で立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行することができる。3D映像変換装置100は、前記エラーチェック遂行結果、エラーが発生されたと確認されれば、前記エラーが発生されたフレーム上にエラーに対する情報を表示することができる。また、3D映像変換装置100を通じて前記エラーを修正するために前記生成された立体映像変換情報を修正することができるし、修正された立体映像変換情報に基づいて前記入力映像に対してレンダリングを遂行して立体映像に変換することができる。
【0033】
図面に示すように、3D映像変換装置100は、受信部110、映像変換部120、ディスプレイ部130、ユーザ入力部140、UI生成部150及びこれらを制御する制御部160を含む。
【0034】
3D映像変換装置100は、単眼映像である入力映像を両眼映像に変換できるいかなるタイプの電子装置も含むことができる。または、3D映像変換装置100は、単眼映像を両眼映像に変換するプログラムを含むいかなる電子装置を含むことができる。このような電子装置は、ディスプレイ装置、例えば、PC等を含むことができる。
【0035】
3D映像変換装置100は、受信部110を通じて外部のソース提供装置(図示せず)から複数のフレームを含む入力映像を受信することができる。3D映像変換装置100は、外部のソース提供装置(図示せず)と所定の有線又は無線ネットワークを通じてデータ通信が可能である。または、3D映像変換装置100は、USB、CD、BD等のような外部保存媒体(図示せず)から複数のフレームを含む入力映像を受信することができる。
【0036】
3D映像変換装置100によって入力映像から変換された立体映像は、シャッターメガネ方式による立体映像又は偏光メガネ方式による立体映像であることができる。前記シャッターメガネ方式は、シャッターメガネを使用して3D映像を具現する方式として、ディスプレイ装置が左右の映像を別に表示し、左側映像は左側メガネが、右側映像は右側メガネが開かれて左右映像を分離することによって立体感を提供する方式である。前記偏光メガネ方式は、偏光メガネを使用して3D映像を具現する方式として、ディスプレイ装置100は、偏光フィルターが含まれていて、偏光フィルターと同じ偏光方式の偏光メガネで見ることによって、左側目には左側映像だけ、右側目には右側映像だけが入力されて、立体感を認知するようにする。3D映像変換装置100の映像変換部110は、入力映像に対する立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行し、前記シャッターメガネ方式及び偏光メガネ方式の中で何れか一つに対応されるフォーマットでフォーマット変更を遂行することによって、シャッターメガネ方式による立体映像又は偏光メガネ方式による立体映像を生成することができる。
【0037】
映像変換部120は、複数のフレームを含む入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行して前記入力映像を立体映像に変換させる。
【0038】
前記立体映像変換情報は、キーフレーム情報、オブジェクト抽出情報及び深さ情報の中で少なくとも何れか一つを含む。前記キーフレーム情報は、前記入力映像を構成する複数のフレームの中でシーン変化フレーム、重要オブジェクトが最初に現れるフレーム、オブジェクトの動きが大きいフレーム等を含む。前記オブジェクト抽出情報は、変換しようとするフレームに含まれた少なくとも一つのオブジェクトに対して立体感を表示するための深さ値が割り当てられるオブジェクトの選択情報を含む。前記深さ情報は、立体感を表示するための深さ値を含む。従って、映像変換部120は、前記複数のフレームの中でキーフレームを選定し、前記選定されたキーフレームに含まれたオブジェクトを抽出し、前記抽出されたオブジェクトに対する深さ情報を割り当て、前記複数のフレームの中でキーフレームでない非−キーフレームに対してトラッキングを遂行することによって、前記立体映像変換情報を生成する。前記非−キーフレームは、前記複数のフレームの中でキーフレームではない残りのフレームを含むことである。例えて説明すれば、シーンが変化されるフレームをキーフレームとして選定すれば、非−キーフレームは、前記キーフレームすぐ次のフレームから前記シーンの次のシーンが変化されるフレーム直前までのフレームを意味する。従って、非−キーフレームは、前記キーフレームと類似な背景及び類似なオブジェクトを含むと推定することができるし、前記キーフレームに対するオブジェクト抽出情報及び深さ情報割当情報を利用して、前記非−キーフレームに対するオブジェクト抽出及び深さ情報割当を遂行することができるし、このような過程をトラッキング過程という。
【0039】
映像変換部120は、前記映像変換部の機能を実質的に機能できる所定の映像変換プログラムの形態で具現されることができる。映像変換部120が所定の映像変換プログラムの形態で具現される場合、前記映像変換プログラムは、保存部(図示せず)に保存されていて、制御部160の制御下で保存部(図示せず)に保存された映像変換プログラムがRAM(図示せず)にローディングされて実行されることができる。
【0040】
ディスプレイ部130は、映像変換部120によって変換された立体映像を3次元的に表示することができる。ディスプレイ部130は、制御部160の制御によって、エラーチェック遂行結果によるエラーに対する情報を該当フレーム上に表示することができる。また、ディスプレイ部130は、後述するUI生成部150によって生成されたUIを表示する。ディスプレイ部130の具現方式は、限定されず、液晶(liquid crystal)、プラズマ(plasma)、発光ダイオード(light−emitting diode)、有機発光ダイオード(organic light−emitting diode)、面伝導電子銃(surface−conduction electron−emitter)、炭素ナノチューブ(carbon nano−tube)、ナノクリスタル(nano−crystal)等の多様なディスプレイ方式で具現されることができる。
【0041】
ユーザ入力部140は、ユーザの入力を受信するユーザインターフェースとして、3D映像変換装置100の機能又は作動に関するユーザの選択が入力される。従って、3D映像変換装置100は、ユーザ入力部130を通じてエラーチェックモード選択の入力を受信したりディスプレイ部130に表示されるUIの選択入力を受信することができる。ユーザ入力部140は、少なくとも一つのキーボタンを備えることができるし、3D映像変換装置100に設けられる操作パネル又はタッチパネルで具現されることができる。または、3D映像変換装置100に有線又は無線で連結されるリモートコントローラー、キーボード、マウス等のようなポインティン装置等の形態で具現されることができる。
【0042】
UI生成部150は、制御部160の制御によってエラー修正のための第1UIを生成する。また、UI生成部150は、制御部160の制御によってエラー発生可能レベルを表示するための第2UIを生成する。UI生成部140によって生成されるすべてのUIはGUIの形態で生成されて、ディスプレイ部130に表示されることができる。
【0043】
制御部160は、入力映像を構成する複数のフレームの中で立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行し、その結果によるエラーに対する情報を該当フレーム上に表示されるようにディスプレイ部130を制御することができる。制御部160は、ユーザ入力部140を通じてユーザからエラーチェックモード選択が入力されれば、前記複数のフレームの中で前記エラーチェックモード選択の入力時点まで立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行することができる。制御部160は、前記入力時点まで立体映像変換情報が生成された一部フレームに対してエラーチェックのためのレンダリングを遂行するように映像変換部120を制御し、レンダリングされた立体映像に対してエラーチェックを遂行する。以下、図2乃至図4を参照して、制御部160の動作に対してさらに詳しく説明する。
【0044】
図2は、本発明の一実施形態による3D映像変換装置の制御部の動作を示す一実施形態である。
【0045】
前述のように、映像変換部120は、入力映像を構成する複数のフレームの中でキーフレームを選定し、前記選定されたキーフレームに含まれたオブジェクトを抽出し、前記抽出されたオブジェクトに対する深さ情報を割り当て、前記複数のフレームの中でキーフレームでない非−キーフレームに対してトラッキングを遂行することによって、入力映像に対する立体映像変換情報を生成する。
【0046】
制御部160は、ユーザ入力部140を通じてエラーチェックモード選択が入力されれば、前記映像変換部120の動作遂行結果に対してエラーチェックを遂行することになる。
【0047】
前記エラーチェック遂行の一実施形態として、制御部160は、エラーチェックを遂行したフレームのモーションベクターに基づいて前記オブジェクト抽出のエラー可否を判断することができる。
【0048】
図2の(A)は、前記複数のフレームの中で特定フレームの原本イメージを示している。図2の(B)は、前記原本イメージAに対応される立体映像変換情報が生成されたフレームに対して、ブロック基盤モーションベクター推定を遂行した結果である。即ち、制御部は、オブジェクト抽出のエラー可否を判断するために、エラーチェックを遂行するフレームに対してブロック基盤モーションベクターを推定することになる。その結果、図2の(B)のように、制御部160は、特定領域(第1領域)161のモーションベクターが、他の領域のモーションベクターとその方向が異なると判断されれば、前記第1領域161のオブジェクトの抽出にエラーが発生されたと判断する。この場合、制御部160は、ユーザ識別のために、該当フレームの前記エラーが発生された第1領域161のモーションベクターを他の領域のモーションベクターよりボールド又はハイライトで表示したり、異なる色で表示したりすることができる。
【0049】
前記エラーチェック遂行の他の一実施形態として、制御部160は、エラーチェックを遂行したフレームの深さマップに基づいて、前記深さ情報割当のエラー可否を判断することができる。
【0050】
図2の(C)は、前記原本イメージ(A)に対応される立体映像変換情報が生成されたフレームに対する深さマップを示している。前記深さマップは、該当フレームに適用された深さ値をマップで表現したことで、深さ値に従ってブラック及びホワイトで表示される。(−)深さ値を有するほどホワイトで、(+)深さ値を有するほどブラックで表示すれば、深さ値の大きさは、その濃度で表示されることである。
【0051】
原本イメージAと比べる時、図2の(C)の深さマップで、第2領域163は(−)深さ値が割り当てられなければならないのに(+)深さ値が割り当てられ、第3領域165は(+)深さ値が割り当てられなければならないのに(−)深さ値が割り当てられた。このように、制御部160は、深さマップに基づいて深さ情報割当のエラー可否を判断できて、前記エラーが発生された領域をユーザが識別できる表示(領域指定、指定された領域の色又はハイライト表示)を遂行することができる。
【0052】
エラーチェック遂行のまた他の実施形態で、制御部160は、前記複数のフレームの中で非−キーフレームに対してオブジェクト抽出又は深さ情報割当のエラー発生頻度に基づいて、前記非−キーフレームに対応するキーフレームの選定のエラー可否を判断することができる。映像変換部120で、前述のように、少なくとも一つの非−キーフレームは、キーフレームに対してトラッキング過程を遂行してオブジェクト抽出及び深さ情報が割り当てられる。従って、制御部160は、オブジェクト抽出又は深さ情報の割当に対するエラーが発生されたフレームが前記非−キーフレームであり、エラーが発生された非−キーフレームの個数が所定の個数以上になれば、前記非−キーフレームに対応するキーフレームの選定にエラーがあると判断することができる。この場合、制御部160は、エラーが発生された少なくとも一つの非−キーフレーム上にキーフレーム選定のエラーが発生されたことを、ユーザが識別することができるように表示することができる。
【0053】
図3は、本発明の一実施形態による3D映像変換装置の制御部の他の動作を示す一実施形態である。
【0054】
前記エラーチェックを遂行した結果、エラーが発生されたと確認されれば、制御部160は、UI生成部150を制御してエラー修正のための第1UIを生成及び表示されるようにする。制御部160は、前記エラーが表示されたフレームに対してユーザ入力部140を通じてエラー修正モード選択が入力されれば、UI生成部150を制御して第1UIを生成及び表示されるようにする。前記第1UIは、オブジェクト抽出を修正するための第1サブUI、深さ情報再割当のための第2サブ及びUIキーフレーム再選定のための第3サブUIの中で少なくともいずれか一つを含む。
【0055】
図面に示すように、制御部160は、エラーが発生された領域161、163、165を含むフレーム上にエラー修正のための第1UIを生成して表示する。
【0056】
図3の(A)の場合、制御部160の制御によって、第1サブUIが生成された一実施形態を示している。前記図2の(B)で制御部160は、オブジェクト抽出のエラーが発生されたと確認された第1領域161に対して、前記オブジェクト抽出の修正のための第1サブUI151を生成及び表示するように、UI生成部150を制御することができる。前記第1サブUI151は、ポインティン装置のようなユーザ入力部140を通じてオブジェクト抽出のための境界線152を修正できるインターフェースである。従って、前記第1サブUI151を通じてユーザは、オブジェクト抽出のための境界線152を適切に修正することができる。
【0057】
図3の(B)の場合、制御部160の制御によって、第2サブUIが生成された一実施形態を示している。前記図2の(C)で制御部160は、深さ情報割当のエラーが発生されたと確認された第2領域163及び第3領域165に対して、前記深さ情報の再割当のための第2UIを生成及び表示するように、UI生成部150を制御することができる。例えば、ユーザがユーザ入力部140を通じて前記第3領域165を選択する場合、前記第2サブUI153が生成及び表示され、前記第2サブUI153は、深さ値を調整できるスライドバーの形態で具現されて、ユーザが希望する所定の深さ値になるように調整することができる。たとえ、本実施形態ではスライドバーの形態で具現されたが、特定数値を入力できるUIの形態で具現されることもできる。従って、ユーザの選択を受けることができるいかなる形態のUIも含まれることができる。
【0058】
制御部160は、前記第1UIを通じてユーザ選択が入力されれば、前記ユーザ選択に基づいて前記立体映像変換情報を修正し、修正された立体映像変換情報に基づいて前記入力映像をレンダリングするように映像変換部120を制御することができる。従って、本発明は、入力映像の立体映像への変換する過程中にエラーチェック遂行モードを通じてユーザは立体映像変換情報生成の妥当性を中間に検討できて、また修正モードを通じて立体映像変換情報を修正し、前記修正が反映された立体映像に変化されるようにすることができる利点を有する。
【0059】
図4は、本発明の一実施形態による3D映像変換装置の制御部のまた他の動作を示す一実施形態である。
【0060】
制御部160は、前記複数のフレームに対するエラー発生可能レベルを判断し、前記判断されたレベルを表示するための第2UIを生成及び表示するようにUI生成部150を制御することができる。これは、ユーザが前記複数のフレームに対してエラー発生の可能性がどの程度であるかを予め確認できるようにする。また、前記エラー発生可能性が高いと判断されたフレームに対してだけエラーチェックを遂行するようにすることもできる。
【0061】
制御部160は、前記複数のフレーム各々に含まれたオブジェクトの複雑性又はオブジェクトの動き量に基づいて前記エラー発生可能レベルを判断することができる。オブジェクトが複雑だったり、オブジェクトの動き量が大きい場合には、前記オブジェクト抽出にエラーが発生する確率が高くて、またオブジェクト抽出がエラーが発生する確率が高ければ前記抽出されたオブジェクトに深さ値の割当にもエラーが発生する確率が高いためである。従って、制御部160は、ユーザ入力部140を通じて特定キー入力が受信されれば、前記複数のフレームに対するエラー発生可能レベルを判断し、前記判断結果を表示するための第2UIを生成及び表示するようにUI生成部150を制御する。
【0062】
前記第2UIの具現形態の一実施形態は、図4に示す通りである。所定大きさのバー167は、複数のフレームの区間を示すこととして、複数のフレームを構成する第1フレームから第Nフレームを表示することで、矢印168はバー167上を前後に自由に移動可能に具現されたこととして、前記矢印168の移動で前記複数のフレームをナビゲーションすることができる。前記矢印168の移動でいずれか一つのフレームが選択されれば、該当フレームのサムネイルイメージ168aが表示される。グラフ169は、制御部160によるエラー発生可能レベルの判断結果を示す。前記グラフ169を通じて、ユーザは、どのフレームにエラー発生の可能性が高いかをひと目で確認することができる。
【0063】
また、制御部160は、前記エラー発生可能レベルが所定レベル以上だと確認された少なくとも一つのフレームに対してだけエラーチェックを遂行することもできる。
【0064】
図5及び図6は、本発明の3D映像変換装置の具現方法を示すフローチャートである。図5に示すように、複数のフレームを含む入力映像の立体映像に変換が開始される段階(S201)と、エラーチェックモード選択の入力が受信される段階(S202)、前記複数のフレームの中で立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行する段階(S203)と、前記遂行結果に他のエラーに対する情報を表示する段階(S204)を含む。
【0065】
図6は、前記具現方法をさらに詳しく示すフローチャートで、図面に示すように、入力映像に対して映像変換部120は、複数のフレームの中でキーフレームを選定し(S301)、前記キーフレームに対するオブジェクトを抽出し(S302)、前記抽出されたオブジェクトに対して深さ情報を割り当て(S303)、前記キーフレームではない残りのフレーム(非−キーフレーム)に対してトラッキングを遂行し(S304)、エラーチェックモード選択の入力が受信されれば、前記入力時点まで立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行する(S305)。前記エラーチェックの遂行結果(S306)、エラーが発見されなければ、前記生成された立体映像変換情報に基づいてレンダリングを遂行して立体映像に変換を完了し(S307)、前記エラーが発見されれば、エラーに対する情報を該当フレームに表示する(S308)。エラー修正モードの入力が受信されれば、前記エラー修正のためのUIを生成及び表示し(S309)、前記UIを通じて立体映像変換情報が修正されれば(S310)、前記修正された立体映像変換情報に基づいてレンダリングを遂行して立体映像への変換を完了する(S311)。
【0066】
本発明による3D映像変換装置によって具現される方法は、多様なコンピュータ手段を通じて行なわれることができるプログラム命令形態で具現されてコンピュータ判読可能な保存媒体に記録されることができる。前記コンピュータ判読可能な保存媒体は、プログラム命令、データファイル、データ構造などを単独で又は組み合わせて含むことができる。前記保存媒体に記録されるプログラム命令は、本発明のために特別に設計され構成されたことや、コンピュータソフトウェア当業者に公知されて使用可能なことでありうる。コンピュータ判読可能な記録媒体は、例えば、ハードディスク、フロッピー(登録商標)ディスク、磁気テープのような磁気媒体(magnetic media)、CD-ROM、DVDのような光記録媒体(optical media)、フロプティカルディスク(floptical disk)のような磁気−光媒体(magneto−optical media)、及びロム(ROM)、ラム(RAM)、フラッシュメモリーなどのようなプログラム命令を保存し遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令は、例えば、コンパイラーによって作られるような機械語コードだけでなく、インタープリターなどを使ってコンピュータによって実行されることができる高級言語コードを含む。前記ハードウェア装置は、本発明の動作を遂行するために、一つ以上のソフトウェアモジュールとして作動するように構成され、その反対も同じである。
【0067】
以上、多様な実施形態を通じて本発明に対して図示し説明したが、本発明はこれに限定されず、本発明の属する技術分野の通常の知識を有する人なら本発明の原則や精神に外れなく本発明の一実施形態を変形し得ることを分かることができる。発明の範囲は、特許請求の範囲とその均等物によって定まれる。
【符号の説明】
【0068】
100 3D映像変換装置
110 受信部
120 映像変換部
130 ディスプレイ部
140 ユーザ入力部
150 UI生成部
160 制御部

【特許請求の範囲】
【請求項1】
3D映像変換装置において、
複数のフレームを含む入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行して前記入力映像を立体映像に変換させる映像変換部と;
前記複数のフレームの中で立体映像変換情報が生成された一部のフレームに対してエラーチェックを遂行する制御部と;
前記映像変換部によって変換された立体映像と、前記制御部によって遂行されたエラーチェック結果に従って前記複数のフレームの中で前記一部フレームに対するエラー情報を表示するディスプレイ部と;
を含むことを特徴とする3D映像変換装置。
【請求項2】
前記映像変換部は、前記複数のフレームの中でキーフレームを選定し、前記選定されたキーフレームに含まれたオブジェクトを抽出し、前記抽出されたオブジェクトに対する深さ情報を割り当て、前記複数のフレームの中でキーフレームでない非−キーフレームに対してトラッキングを遂行することによって、前記立体映像変換情報を生成することを特徴とする請求項1に記載の3D映像変換装置。
【請求項3】
前記制御部は、
前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームのモーションベクターに基づいて前記オブジェクト抽出のエラー可否を判断することを特徴とする請求項2に記載の3D映像変換装置。
【請求項4】
前記制御部は、
前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームの深さマップに基づいて前記深さ情報割当のエラー可否を判断することを特徴とする請求項2に記載の3D映像変換装置。
【請求項5】
前記制御部は、
前記非−キーフレームに対してオブジェクト抽出又は深さ情報割当のエラー発生頻度に基づいて前記非−キーフレームに対応するキーフレームの選定のエラー可否を判断することを特徴とする請求項2に記載の3D映像変換装置。
【請求項6】
前記制御部は、
前記エラーに対する情報として前記複数のフレームの中で前記一部フレーム上にエラーが発生された所定の領域をボールド、ハイライト及びモーションベクターを他の色で表示することの中で少なくとも何れか一つを利用して表示することを特徴とする請求項2に記載の3D映像変換装置。
【請求項7】
エラー修正のためのUIを生成するUI生成部をさらに含み、
前記制御部は、前記エラーが発見された前記複数のフレームの中で前記一部フレームに前記生成されたUIを生成及び表示するように前記UI生成部を制御することを特徴とする請求項1に記載の3D映像変換装置。
【請求項8】
ユーザ入力部をさらに含み、
前記制御部は、前記UIを通じて入力された選択に基づいて前記立体映像変換情報を修正し、修正された立体映像変換情報に基づいて前記入力映像をレンダリングするように前記映像変換部を制御することを特徴とする請求項7に記載の3D映像変換装置。
【請求項9】
エラー発生可能レベルを表示するためのUIを生成するUI生成部をさらに含み、
前記制御部は、前記複数のフレームに対するエラー発生可能レベルを判断し、前記判断されたエラー発生可能レベルを表示するための前記UIを生成及び表示するように前記UI生成部を制御することを特徴とする請求項1に記載の3D映像変換装置。
【請求項10】
前記制御部は、
前記複数のフレームに含まれたオブジェクトの複雑性又は前記オブジェクトの動き量に基づいて前記エラー発生可能レベルを判断することを特徴とする請求項9に記載の3D映像変換装置。
【請求項11】
ユーザ入力部をさらに含み、
前記制御部は、前記ユーザ入力部を通じてエラーチェックモード選択が入力されれば、前記複数のフレームの中で前記入力時点まで前記立体映像変換情報が生成された前記一部フレームに対して前記エラーチェックを遂行することを特徴とする請求項1に記載の3D映像変換装置。
【請求項12】
3D映像変換装置によって具現される方法において、
複数のフレームを含む入力映像に対して立体映像変換情報を生成し、前記生成された立体映像変換情報に基づいてレンダリングを遂行して前記入力映像を立体映像に変換させる段階と;
前記複数のフレームの中で立体映像変換情報が生成された一部フレームに対してエラーチェックを遂行する段階と;
前記エラーチェック遂行結果によるエラーに対する情報と前記立体映像を表示する段階を含むことを特徴とする方法。
【請求項13】
前記立体映像変換情報生成段階は、
前記複数のフレームの中でキーフレームを選定する段階と;
前記選定されたキーフレームに含まれたオブジェクトを抽出する段階と;
前記抽出されたオブジェクトに対する深さ情報を割り当てる段階と;
前記複数のフレームの中でキーフレームでない非−キーフレームに対してトラッキングを遂行する段階と;
を含むことを特徴とする請求項12に記載の方法。
【請求項14】
前記エラーチェック遂行段階は、前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームのモーションベクターに基づいて前記オブジェクト抽出のエラー可否を判断するか、又は、前記エラーチェックが遂行された前記複数のフレームの中で前記一部フレームの深さマップに基づいて前記深さ情報割当のエラー可否を判断する段階を含むことを特徴とする請求項13に記載の方法。
【請求項15】
前記エラー情報表示段階は、
前記エラーに対する情報として、前記複数のフレームの中で前記一部フレーム上にエラーが発生された所定の領域をボールド、ハイライト及びモーションベクターを他の色で表示することの中で少なくとも何れか一つを利用して表示する段階を含むことを特徴とする請求項12に記載の方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2013−21695(P2013−21695A)
【公開日】平成25年1月31日(2013.1.31)
【国際特許分類】
【出願番号】特願2012−156698(P2012−156698)
【出願日】平成24年7月12日(2012.7.12)
【出願人】(390019839)三星電子株式会社 (8,520)
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】129,Samsung−ro,Yeongtong−gu,Suwon−si,Gyeonggi−do,Republic of Korea
【Fターム(参考)】