奥行き製作支援装置、奥行き製作支援方法、およびプログラム
【課題】視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することができる奥行き製作支援装置等を提供する。
【解決手段】ボタン群21が押下されると、奥行き画像を製作する入力画像群が読み込まれる。開始フレーム表示エリア23、終了フレーム表示エリア24には、マスク選択プルダウン25で選択されているマスクの開始フレームと終了フレームのマスク画像がそれぞれ表示され、2次元画像表示エリア28には、2次元画像のプレビューが表示され、奥行き設定画面26には、読み込まれた複数のマスクの奥行き値曲線が表示される。フレームスライダーバー34、奥行き値スライダーバー37がスライドされると、奥行き設定フレームと奥行き値の変更を行うことができる。
【解決手段】ボタン群21が押下されると、奥行き画像を製作する入力画像群が読み込まれる。開始フレーム表示エリア23、終了フレーム表示エリア24には、マスク選択プルダウン25で選択されているマスクの開始フレームと終了フレームのマスク画像がそれぞれ表示され、2次元画像表示エリア28には、2次元画像のプレビューが表示され、奥行き設定画面26には、読み込まれた複数のマスクの奥行き値曲線が表示される。フレームスライダーバー34、奥行き値スライダーバー37がスライドされると、奥行き設定フレームと奥行き値の変更を行うことができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、奥行き製作支援装置、奥行き製作支援方法、およびプログラムに関し、特に、立体視を実現するための視差画像を生成する視差画像生成装置が利用する奥行き画像を製作する奥行き製作支援装置等に関する。
【背景技術】
【0002】
従来、3次元映像表示システムでは、大別して、2視差方式のものと、3以上の視差を持つ多視差方式のものがある。いずれの方式も、必要な視点数からシーンを見た映像を準備する必要がある。
【0003】
最も直接的な映像の制作方法としては、必要な視差数分のカメラを用意し、同一シーンを所定の間隔に配置された複数のカメラで撮影する方法が考えられる。最近では2視差を直接撮影できるカメラが市販されているが、多視差を直接撮影できるカメラは一般的でない。
【0004】
また、3次元CG(Computer Graphics)画像を作成し、複数のカメラ位置を設定してレンダリングする方法も考えられる。3次元CG画像には奥行き情報が含まれており、3次元画像から多視差方式に対応した視差画像を作成することは可能である。しかし、カメラ位置の数が多い場合、レンダリング回数が多くなり、時間とコストがかかるという問題がある。
【0005】
さらに、ほとんどの映像はCG画像ではなく実写であり、実写から3次元映像を作成することが求められている。
【0006】
実写映像による多視差映像を制作する為に、平面(2D)映像を基にして多視差映像に変換する手法(いわゆる2次元/3次元変換の手法)は、いくつか存在する。
【0007】
しかしながら、多視差映像に変換する手法では、奥行き情報がない。そのため全てのシーン(フレーム)において手作業で1枚ずつ奥行き情報を作成する必要が生じ、非常に作業負荷が高かった。
【0008】
そこで、奥行き値を設定するための手法として、例えば、特許文献1には、ユーザ指示に応じてメッシュ形状を変形させ、奥行き値を設定する技術が提案されている。また例えば、非特許文献1には、3次元空間内において、映像の選択部分をユーザが移動・回転させ、奥行き値を設定する技術が提案されている。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特表2010−516155号公報
【非特許文献】
【0010】
【非特許文献1】Depth Director: A System forAdding Depth to Movies
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかしながら、特許文献1に記載の技術は、操作すべき項目が多く、1フレーム分の奥行き情報を設定するための長時間を要し、設定した奥行き値が確認し難いという課題がある。
【0012】
これに対し、非特許文献1に記載の技術は、設定方法は簡略化されているものの、異なるフレームにおける奥行き値の比較ができないため、位置関係の矛盾が生じやすいという課題があった。
【0013】
本発明は、前述した問題点に鑑みてなされたもので、その目的とすることは、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することを支援する奥行き製作支援装置等を提供することである。
【課題を解決するための手段】
【0014】
前述した目的を達成するために、第1の発明は、立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置であって、元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込手段と、前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示手段と、前記奥行き値曲線表示手段において、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定手段と、前記設定手段において奥行き値が設定された前記フレームの前後の奥行き値を補間する補間手段と、前記補間手段による補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成手段と、を具備することを特徴とする奥行き製作支援装置である。
第1の発明によって、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することが可能となる。
【0015】
前記設定手段は、前記奥行き値曲線表示手段において奥行き値を指定するための画面部品である奥行き値指定部品を有し、前記奥行き値指定部品の移動に連動して、前記奥行き値を示す画素値を変えながら、前記奥行き画像のプレビューを表示する奥行き画像表示手段をさらに備える。
これにより、ユーザは、同一フレームにおける被写体間で違和感がないかどうかを容易に確認することができる。
【0016】
前記設定手段は、前記奥行き値曲線表示手段において時刻を指定するための画面部品である時刻指定部品を有し、前記奥行き画像表示手段は、前記時刻指定部品の移動に連動して、奥行き画像のフレームを変更する。
これにより、ユーザは、フレーム間で違和感がないかどうかを容易に確認することができる。
【0017】
前記時刻指定部品の移動に連動して、映像の時刻を変えながら前記元の映像を表示する映像表示手段をさらに備える。
これにより、ユーザは、奥行き画像の仕上りを容易に確認することができる。
【0018】
前記補間手段による補間結果に基づいて、前記元の映像を構成する被写体を識別するラベル値を画素値に置き換えた画像であるラベル画像を作成するラベル画像作成手段をさらに備える。
これにより、奥行き画像と合わせてラベル画像も作成することができる。
【0019】
いずれか1つのマスク画像に被写体が存在するフレームの範囲を検出し、奥行き値設定範囲の開始フレームおよび終了フレームを決定するマスク範囲検出手段をさらに備える。
これにより、奥行き値の設定が必要なフレームだけを表示手段に表示させることができ、利便性が高まる。
【0020】
第2の発明は、立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置の奥行き製作支援方法であって、元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、前記補間ステップによる補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成ステップと、を含むことを特徴とする。
第2の発明によって、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することが可能となる。
【0021】
第3の発明は、元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、前記補間ステップによる補間結果に基づいて、立体視を実現するための視差画像の生成処理に利用する奥行き画像を作成する奥行き画像作成ステップと、を実行させるためのプログラムである。
【0022】
第3の発明に係るプログラムをコンピュータにインストールすることで、第1の発明に係る奥行き製作支援装置を得ることができる。
【発明の効果】
【0023】
本発明により、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することができる奥行き製作支援装置等を提供することができる。
【図面の簡単な説明】
【0024】
【図1】本発明の実施の形態に係る奥行き製作支援装置のハードウエア構成図である。
【図2】奥行き製作支援装置および視差画像生成装置の入出力データを示す図である。
【図3】2次元画像の一例を示す図である。
【図4】図3に示した2次元画像に基づいて生成された背景画像の一例を示す図である。
【図5】マスク画像の一例を示す図である。
【図6】他のマスク画像の一例を示す図である。
【図7】他のマスク画像の一例を示す図である。
【図8】奥行き画像の一例を示す図である。
【図9】入出力画像の対応付けを説明するための図である。
【図10】奥行き製作支援処理を説明するフローチャートである。
【図11】奥行き製作支援画面の表示例である。
【図12】奥行き設定画面を拡大した表示例である。
【図13】奥行き設定画面の他の表示例である。
【図14】奥行き設定画面の他の表示例である。
【図15】奥行き設定画面の他の表示例である。
【図16】奥行き設定画面の他の表示例である。
【図17】ラベル画像の作成を説明する図である。
【発明を実施するための形態】
【0025】
以下、図面に基づいて、本発明の実施形態を詳細に説明する。
【0026】
[本発明の実施の形態]
図1は、本発明の実施の形態に係る奥行き製作支援装置1のハードウエア構成図である。尚、図1のハードウエア構成は一例であり、用途、目的に応じて様々な構成を採ることが可能である。
【0027】
奥行き製作支援装置1は、制御部11、記憶部12、メディア入出力部13、通信制御部14、入力部15、表示部16、周辺機器I/F部17等が、バス18を介して接続される。
【0028】
制御部11は、CPU(Central Processing Unit)、ROM(Read OnlY MemorY)、RAM(Random Access MemorY)等で構成される。
【0029】
CPUは、記憶部12、ROM、記録媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス18を介して接続された各装置を駆動制御し、奥行き製作支援装置1が行う後述する処理を実現する。ROMは、不揮発性メモリであり、奥行き製作支援装置1のブートプログラムやBIOS等のプログラム、データ等を恒久的に保持している。RAMは、揮発性メモリであり、記憶部12、ROM、記録媒体等からロードしたプログラム、データ等を一時的に保持するとともに、制御部11が各種処理を行う為に使用するワークエリアを備える。
【0030】
記憶部12は、HDD(ハードディスクドライブ)等であり、制御部11が実行するプログラム、プログラム実行に必要なデータ、OS(オペレーティングシステム)等が格納される。プログラムに関しては、OS(オペレーティングシステム)に相当する制御プログラムや、後述する処理を奥行き製作支援装置1に実行させるためのアプリケーションプログラムが格納されている。これらの各プログラムコードは、制御部11により必要に応じて読み出されてRAMに移され、CPUに読み出されて各種の手段として実行される。
【0031】
メディア入出力部13(ドライブ装置)は、データの入出力を行い、例えば、CDドライブ(−ROM、−R、−RW等)、DVDドライブ(−ROM、−R、−RW等)等のメディア入出力装置を有する。
【0032】
通信制御部14は、通信制御装置、通信ポート等を有し、奥行き製作支援装置1とネットワーク間の通信を媒介する通信インタフェースであり、ネットワークを介して、他の装置間との通信制御を行う。ネットワークは、有線、無線を問わない。
【0033】
入力部15は、データの入力を行い、例えば、キーボード、マウス等のポインティングデバイス、テンキー等の入力装置を有する。入力部15を介して、奥行き製作支援装置1に対して、操作指示、動作指示、データ入力等を行うことができる。
【0034】
表示部16は、CRTモニタ、液晶パネル等のディスプレイ装置、ディスプレイ装置と連携して奥行き製作支援装置1のビデオ機能を実現するための論理回路等(ビデオアダプタ等)を有する。
【0035】
周辺機器I/F(インタフェース)部17は、奥行き製作支援装置1に周辺機器を接続させるためのポートであり、周辺機器I/F部17を介して奥行き製作支援装置1は周辺機器とのデータの送受信を行う。周辺機器I/F部17は、USBやIEEE1394やRS−235C等で構成されており、通常複数の周辺機器I/Fを有する。周辺機器との接続形態は有線、無線を問わない。
【0036】
バス18は、各装置間の制御信号、データ信号等の授受を媒介する経路である。
【0037】
図2は、奥行き製作支援装置1および視差画像生成装置2の入出力データを示す図である。図2に示すように、奥行き製作支援装置1は、2次元画像3、背景画像4、マスク画像5、及び奥行き値6を入力データとし、奥行き画像7、およびラベル画像8を出力データとする。視差画像生成装置2は、2次元画像3、奥行き画像7、およびラベル画像8を入力データとし、視差画像9を出力データとする。
【0038】
2次元画像3、背景画像4、及びマスク画像5は、奥行き製作支援装置1の制御部11が生成しても良いし、メディア入出力部13、通信制御部14等を介して外部から取得しても良い。また、奥行き値6は、奥行き製作支援装置1の入力部15を介して入力しても良いし、予め奥行き値6が定義されたファイルを外部から取得しても良い。
【0039】
2次元画像3は、動画像(平面映像)の1枚分のフレーム画像または静止画像である。動画像(平面映像)には、例えば、単位時間当たり所定のフレーム数(通常、1秒間に30フレーム)のカラー静止画像が含まれており、各画素がRGB各256段階の階調を持つ。
【0040】
背景画像4は、背景の奥行き感を示す画像である。背景画像4は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、別途ソフトウエアを用いて自動的に生成してもよい。
【0041】
マスク画像5は、特定の被写体を識別するための2値化画像である。マスク画像5は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、別途ソフトウエアを用いて自動的に生成してもよい。
【0042】
奥行き値6は、被写体の奥行き方向の位置を定義する値である。本発明では、奥行き値6の画素値の範囲を0〜255の256階調として表現する。0が黒、255が白、1〜254がグレー(中間調)に対応する。
【0043】
奥行き製作支援装置1は、2次元画像3、背景画像4、マスク画像5、および奥行き値6に基づいて、奥行き画像7の製作を支援するものであって、特に奥行き値6を設定し、その結果を確認するための画面インターフェース(後述する図11〜図16)に特徴を有するものである。
【0044】
奥行き画像7は、2次元画像3に係るカメラから被写体までの奥行き値を画素値に置き換えた画像である。ここで、カメラとは、視差画像生成装置2の内部処理において定義される仮想的なカメラを意味する。
【0045】
奥行き画像7は、例えば、画素値の範囲が0〜255(8ビット)のグレースケールであり、0(黒)が最も奥、255(白)が最も手前を意味する場合が多いが、逆であっても良い。以下では、説明を分かり易くするために、奥行き画像7は、画素値の範囲が0〜255であり、0(黒)が最も奥、255(白)が最も手前を意味するものとする。
【0046】
ラベル画像8は、それぞれの2次元画像3に対応付けて、2次元画像3に記録されたシーンを構成する被写体を識別する固有の数値(ラベル値)によって領域分けし、このラベル値を画素値に置き換えた(ラベリングされた)画像である。例えば、背景、建物、及び人物から構成されるシーンにおいて、背景、建物、及び人物に相当するラベル値として、それぞれL0、L1、L2を割り当て、対応する2次元画像3の各画素がどの被写体に属しているかを、L0、L1、L2の画素値に置き換えることによって表現する。
【0047】
ラベル画像8は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、本発明のように、奥行き製作支援装置1が自動的に生成してもよい。
【0048】
視差画像9は、立体視を実現するための画像である。本発明の実施の形態では、視差画像9は、特に、両目視差(約60mm〜70mm程度)を利用し、裸眼観察によって立体視を実現するための画像である。
【0049】
尚、本発明の実施の形態では詳細に述べないが、複数の視差画像9をディスプレイの仕様に合わせて合成し、ディスプレイに表示することによって、裸眼観察による立体視を実現することが可能となる。複数の視差画像9の合成処理については、公知の技術を利用すれば良い。
【0050】
視差画像生成装置2は、2次元画像3、奥行き画像7、およびラベル画像8に基づいて視差画像9を生成するものである。視差画像生成装置2の詳細は、本出願人が先に出願した、特願2010−176864号、および特願2011−55878号に記載されている。
【0051】
次に、図3〜図8を参照して、奥行き製作支援装置1の入出力データの表示例について説明する。
【0052】
図3は、2次元画像3の一例を示している。図3の例では、複数人でスポールブールというボール競技をしている動画像の1フレーム分を示している。図4は、図3に示した2次元画像3に基づいて生成された背景画像4の一例を示している。図3および図4は、同一フレームである。なお、背景画像4の奥行き感は、厳密でなくてよい。また背景画像4はなくてもよい。
【0053】
図5は、図3に示した2次元画像3と同一フレームのマスク画像5の一例を示している。図5の例では、球技参加者であるプレー中の人物(特定の被写体)を識別するための2値化画像であり、そのプレー中の人物の画素が白、それ以外の画素が黒にされている。以下、図5のマスク画像5を、適宜、マスクAのマスク画像と称する。
【0054】
図6は、他のマスク画像5の一例を示している。図6の例では、対戦している様子を少し離れて見物している2人の人物(特定の被写体)を識別するための2値化画像であり、その2人の人物の画素が白、それ以外の画素が黒にされている。図6は、図3〜図5、図7とは別フレーム(異なる時刻)である。以下、図6のマスク画像5を、適宜、マスクBのマスク画像と称する。
【0055】
図7は、他のマスク画像5の一例を示している。図7の例では、対戦相手の人物(特定の被写体)を識別するための2値化画像であり、その対戦相手の人物の画素が白、それ以外の画素が黒にされている。図7は、図3〜図6とは別フレームである。以下、図7のマスク画像5を、適宜、マスクCのマスク画像と称する。
【0056】
なお、図3に示す2次元画像3において、マスクBの被写体(見物している2人の人物)の中の1人は、マスクAの被写体(プレー中の人物)に隠れており映っていない。また、マスクCの被写体は、マスクBの被写体よりも右側に位置しており、図3に示す2次元画像3に映っていない。
【0057】
以上のように、奥行き製作支援装置1は、フレームごとに、マスクAのマスク画像(図5)、マスクBのマスク画像(図6)、およびマスクCのマスク画像(図7)を予め用意しておき、それらのマスク画像5と奥行き値6に基づいて、フレームごとに奥行き画像7を製作する。
【0058】
図8は、奥行き画像7の一例を示している。奥行き画像7は、複数の被写体同士の奥行き方向の相対的な位置関係が、模擬的に定義された画像である。図8は、図3〜図7とは別フレームであり、プレー中の人物がボールを投げる直前のフレームである。図8の例では、一番手前(白の領域)にマスクAの被写体(プレー中の人物)、奥(グレーの領域)にマスクBの被写体(見物している2人の人物)が存在するという奥行き方向の位置関係が定義されている。また、背景画像4の奥行き情報も付加されている。
【0059】
図9は、奥行き製作支援装置1が扱う入出力画像の対応付けを説明するための図である。
【0060】
図9に示すように、入力画像群は、フレームごとに、2次元画像、マスクAのマスク画像、マスクBのマスク画像、マスクCのマスク画像、および背景画像の5枚の画像が1組となっている。また出力画像群は、フレームごとに、奥行き画像、およびラベル画像の2枚の画像が1組となっている。例えば、フレーム数が1000枚の場合、2次元画像は1000枚、マスク画像は3000枚、背景画像は1000枚準備され、奥行き画像は1000枚、ラベル画像は1000枚出力されることになる。
【0061】
図10は、奥行き製作支援装置1が実行する奥行き製作支援処理を説明するフローチャートである。図10の説明に当たり、図11〜図17を参照し、具体的な操作内容も説明する。
【0062】
まず、ユーザは、奥行き製作支援処理を開始するにあたり、図11に示すような奥行き製作支援画面20を表示部16に表示させる。図11の例の場合、奥行き製作支援画面20には、「マスク読み込み」、「ムービー読み込み」、「背景読み込み」のボタン群21、マスク範囲検出チェックボタン22、開始フレーム表示エリア23、終了フレーム表示エリア24、マスク選択プルダウン25、奥行き設定画面26、奥行き画像表示エリア27、2次元画像表示エリア28、および書き出しボタン29が表示されている。
【0063】
ボタン群21は、マスク読み込み、ムービー読み込み、背景読み込みを行う場合に操作(押下)される。マスク範囲検出チェックボタン22は、選択されているマスクの被写体が存在するフレームの範囲を検出する場合に操作される。開始フレーム表示エリア23には、検出範囲における開始フレームのマスクが表示され、終了フレーム表示エリア24には、検出範囲における終了フレームのマスクが表示される。マスク選択プルダウン25は、奥行き設定するマスクを選択する場合に操作される。奥行き設定画面26は、マスク選択プルダウン25で選択されたマスクの奥行き値を変更するための設定画面である。
【0064】
奥行き画像表示エリア27には、読み込まれた複数のマスクに基づいて奥行き方向の位置関係が模擬的に定義された奥行き画像のプレビューが表示される。2次元画像表示エリア28には、読み込まれた2次元画像のプレビューが表示される。書き出しボタン29は、奥行き画像を保存する場合に選択される。
【0065】
図12は、奥行き設定画面26を拡大した表示例である。
【0066】
図12に示すように、奥行き設定画面26の縦軸は、デプス値(奥行き値)を表し、横軸は、Time(フレーム)を表している。奥行き設定画面26内において、奥行き値曲線31a、31b、31cは、それぞれ、マスクA、マスクB、マスクCの奥行き値を示す曲線であって、初期画面では、3つが重なって表示される。開始位置32は、開始フレームの位置を示し、終了位置33は、終了フレームの位置を示している。
【0067】
フレームスライダーバー34は、奥行き値を設定するフレームを指定する場合に横方向にスライド(移動)される。番号35は、フレームスライダーバー34によって指定されているフレームの番号を示す。フレーム位置36は、フレームスライダーバー34によって指定されているフレーム方向の位置を示し、初期画面では、開始位置32とフレーム位置36は重なって表示される。奥行き値スライダーバー37は、奥行き値を指定する場合に縦方向にスライドされる。キーフレーム削除ボタン38は、現在選択されているマスクのキーフレーム(変化が定義されているフレーム)を削除する場合に選択される。
【0068】
以上のような奥行き製作支援画面20において、ユーザは、ボタン群21を押下し、奥行き画像を製作するための入力画像群の読み込みを指示する。
【0069】
ステップS1において、奥行き製作支援装置1の制御部11は、ユーザからの指示に基づいて、入力画像群を読み込む。例えば、図9に示したように、フレームごとに、2次元画像、マスクAのマスク画像、マスクBのマスク画像、マスクCのマスク画像、および背景画像の5枚の画像が1組となった入力画像群が読み込まれる。また、ユーザによって、マスク範囲検出チェックボタン22が押下されることで、奥行き値の設定が必要なフレーム範囲が検出される。
【0070】
これにより、奥行き製作支援画面20において、開始フレーム表示エリア23には、マスク選択プルダウン25で選択されているマスクの開始フレームのマスク画像が表示され、終了フレーム表示エリア24には、マスク選択プルダウン25で選択されているマスクの終了フレームのマスク画像が表示され、2次元画像表示エリア28には、2次元画像のプレビューが表示される。また、奥行き設定画面26には、読み込まれた複数のマスクの奥行き値曲線が表示される。
【0071】
ステップS2において、奥行き製作支援装置1の制御部11は、ユーザによってマスク選択プルダウンの入力指示があったか否か、つまり、図11のマスク選択プルダウン25で新たにマスクが選択されたか否かを判定し、マスク選択プルダウンの入力指示があったと判定した場合、ステップS3に進む。ステップS3において、奥行き製作支援装置1の制御部11は、ユーザからの入力指示に基づいて奥行き設定するマスクを変更する。
【0072】
奥行き製作支援装置1の制御部11は、ステップS2において、マスク選択プルダウンの入力指示がないと判定した場合、または、ステップS3において、奥行き設定するマスクを変更した後、ステップS4に進む。
【0073】
ステップS4において、奥行き製作支援装置1の制御部11は、ユーザによってフレームスライダーバーの変更指示があったか否か、つまり、図12のフレームスライダーバー34がスライドされたか否かを判定し、フレームスライダーバーの変更指示があったと判定した場合、ステップS5に進む。
【0074】
例えば、ユーザは、図12に示す奥行き設定画面26の初期画面において、フレームスライダーバー34を右方向にスライドすることで奥行き設定フレームの変更を行うことができる。
【0075】
図13は、図12に示す奥行き設定画面26の状態から、マスク選択プルダウン25によって単一のマスク(例えば、マスクA)が選択され、フレームスライダーバー34がスライドされた状態を示している。マスク選択プルダウン25によってマスクAが選択されたことにより、開始フレームと終了フレームが、自動的にキーフレーム41a、42aとして設定される。また、フレームスライダーバー34のスライドに連動して、フレーム位置36もスライドされる。このとき、奥行き設定フレームの変更操作に連動して、奥行き画像表示エリア27に複数フレームの奥行き画像のプレビューが連続的に表示されるとともに、2次元画像表示エリア28に複数フレームの2次元画像のプレビューが連続的に表示される。
【0076】
以上のようにして、ユーザは、簡単な操作で、奥行き設定フレームの変更を行うことができる。また、複数フレームの奥行き画像を連続的に表示させることができるため、ユーザは、フレーム間で違和感がないかどうかを容易に確認することができる。さらに、奥行き画像と元映像とを連動させて、複数フレームを連続的に表示させることができるため、奥行き画像の仕上がりを容易に確認することができる。
【0077】
図10の説明に戻る。ステップS5において、奥行き製作支援装置1の制御部11は、ユーザによる変更指示に基づいて奥行き設定フレームの変更を行う。
【0078】
奥行き製作支援装置1の制御部11は、ステップS4において、フレームスライダーバーの変更指示がないと判定した場合、または、ステップS5において、奥行き設定フレームを変更した後、ステップS6に進む。
【0079】
ステップS6において、奥行き製作支援装置1の制御部11は、ユーザによって奥行き値スライダーバーの変更指示があったか否か、つまり、図12の奥行き値スライダーバー37がスライドされたか否かを判定し、奥行き値スライダーバーの変更指示があったと判定した場合、ステップS7に進む。
【0080】
例えば、ユーザは、図13に示す奥行き設定画面26において、奥行き値スライダーバー37を上方向にスライドすることで奥行き値の変更を行うことができる。
【0081】
図14は、図13に示す奥行き設定画面26の状態から、奥行き値スライダーバー37がスライドされた状態を示している。奥行き値スライダーバー37のスライドに連動して、奥行き値曲線31aが変形される。具体的には、フレームスライダーバー34によって指定されているフレーム位置34と、奥行き値スライダーバー37によって指定されるデプス値方向の位置の交点(移動点)が上下にスライドされ、その交点の位置を確定すると(例えば、奥行き値スライダーバー37の選択を解除する操作であるマウスの左クリックを離すと)、交点にキーフレーム43aが設定される。このとき、奥行き値の変更操作に連動して、奥行き値を示す画素値を変えながら、奥行き画像表示エリア27に表示される奥行き画像のプレビューも連続的に変化される。
【0082】
以上のようにして、ユーザは、簡単な操作で、奥行き値の変更を行うことができる。また、奥行き値を変化させたときに、奥行き画像がどのように変化するのかを連続的に表示させることができるため、ユーザは、同一フレームにおける被写体間で違和感がないかどうかを容易に確認することができる。
【0083】
図10の説明に戻る。ステップS7において、奥行き製作支援装置1の制御部11は、ユーザによる変更指示に基づいて奥行き値の設定を行う。ステップS8において、奥行き製作支援装置1の制御部11は、ステップS7で設定した奥行き値に基づいて、奥行き値の補間を行う。具体的には、図14に示すキーフレーム43aと、そのキーフレーム43aに隣接するキーフレーム41a、キーフレーム42aとの間が補間される。図14の例では、線形補間を適用しているが、これに限らず、例えば、多項式補間、スプライン補間、ベジェ曲線補間などでもよい。
【0084】
このように、一部のフレームについて奥行き値を設定すれば、他のフレームについては、違和感のない範囲で自動的に補間されるため、全フレームの奥行き値を手作業する手間が省け、作業効率が大幅に良くなる。
【0085】
ステップS9において、奥行き製作支援装置1の制御部11は、ステップS8の処理で補間された奥行き値に応じて奥行き方向の位置関係が模擬的に定義された奥行き画像を作成し、奥行き画像表示エリア27に表示させる。
【0086】
奥行き製作支援装置1の制御部11は、ステップS6において、奥行き値スライダーバーの変更指示がないと判定した場合、または、ステップS9において、奥行き画像の作成、表示が行われた後、ステップS10に進む。
【0087】
ステップS10において、奥行き製作支援装置1の制御部11は、書き出しボタンの押下指示があったか否か、つまり、図11の書き出しボタン29が押下されたか否かを判定し、まだ書き出しボタン押下指示がないと判定した場合、ステップS2に戻り、上述した処理を繰り返し実行する。
【0088】
例えば、ユーザは、図14に示す奥行き設定画面26において、さらに、フレームスライダーバー34を右方向にスライドすることで奥行き設定フレームの変更を再度行うことができる。
【0089】
図15は、図14に示す奥行き設定画面26の状態から、フレームスライダーバー34をスライドさせ、奥行き値スライダーバー37をスライドさせることにより新たにキーフレームを作成した状態を示している。フレームスライダーバー34のスライドに連動して、フレーム位置36もスライドされる。また、奥行き値スライダーバー37のスライドに連動して、新たなキーフレームが作成されたり、キーフレームが移動したりする。
【0090】
具体的には、奥行き値スライダーバー37を動かした際、そのフレームにキーフレームが存在しなければ新たなキーフレームが作成され、キーフレームが存在すればそのキーフレームが移動する。このとき、奥行き設定フレームの変更操作に連動して、奥行き画像表示エリア27に複数フレームの奥行き画像のプレビューが連続的に表示されるとともに、2次元画像表示エリア28に複数フレームの2次元画像のプレビューが連続的に表示される。
【0091】
以上のようにして、ユーザは、簡単な操作で、奥行き設定フレームと奥行き値の変更を何度も行うことができるため、1つのマスクに対して複数個のキーフレームを設定することが可能である。また、複数フレームの奥行き画像を連続的に表示させたり、奥行き画像と元映像とを連動させて、複数フレームを連続的に表示させたりすることができるため、ユーザは、フレーム間で違和感がないかどうか、奥行き画像の仕上がりを容易に確認することができる。
【0092】
また例えば、図15に示す奥行き設定画面26の状態において、ユーザは、マスク選択プルダウン25から別のマスク(例えば、マスクB)を選択し、上述したような奥行き設定フレームと奥行き値の変更を行うこともできる。
【0093】
図16は、図15に示す奥行き設定画面26の状態において、マスク選択プルダウン25からマスクBが選択され、奥行き値スライダーバー37がスライドされた状態を示している。マスク選択プルダウン25によってマスクBが選択されたことにより、開始フレームと終了フレームが、自動的にキーフレーム41b、42として設定される。そして、奥行き値スライダーバー37のスライドに連動して、キーフレーム41bが上下にスライドされ、位置確定により、キーフレーム41bの位置が変更される。このとき、奥行き値の変更操作に連動して、奥行き値を示す画素値を変えながら、奥行き画像表示エリア27に表示される奥行き画像のプレビューも連続的に変化される。
【0094】
以上のようにして、ユーザは、簡単な操作で、別のマスクについても奥行き設定フレームや奥行き値の変更を行うことができる。また、別のマスクについても、奥行き画像がどのように変化するのかを連続的に表示させたり、複数フレームの奥行き画像を連続的に表示させたり、奥行き画像と元映像とを連動させて、複数フレームを連続的に表示させたりすることができるため、ユーザは、同一フレームにおける被写体間で違和感がないかどうか、フレーム間で違和感がないかどうか、奥行き画像の仕上がりを容易に確認することができる。
【0095】
図10の説明に戻る。ステップS10において、奥行き製作支援装置1の制御部11は、書き出しボタンの押下指示があったと判定した場合、ステップS11に進み、以上のようにして奥行き設定フレームや奥行き値が変更(補間)された奥行き画像7を記憶部12に保存する。ステップS12において、奥行き製作支援装置1の制御部11は、2次元画像3に対応付けてラベル画像8を作成し、記憶部12に保存する。
【0096】
図17は、ラベル画像8の作成を説明する図である。
【0097】
例えば、図17(a)に示すように、マスク画像5dは、四角の物体の被写体のマスクDであり、マスク画像5eは、円の物体の被写体のマスクEであるとする。上述したような奥行き値の設定により、図17(b)に示すように、マスクDの被写体7dが最も手前(白)、マスクEの被写体7eの被写体が最も奥(黒)となるように奥行き値が設定され、奥行き画像7が生成されたとする。
【0098】
図17(c)に示すように、手前の被写体7dに対応するラベルDについては、マスク画像5Dと同様の領域が、ラベルDのラベリング領域8dとしてラベリングされる。
【0099】
図17(c)に示すように、奥の被写体7eに対応するラベルEについては、マスク画像5eの領域からラベルDとの重複部分を除いた領域(斜線部の領域)が、ラベルEのラベリング領域8eとしてラベリングされる。
【0100】
以上のように、ラベル画像8には、他のマスク画像5と重複していない、又は他のマスク画像5よりも手前の被写体については、マスク画像5と同じ領域がラベリングされる(図17のラベルD)。また、ラベル画像8には、他のマスク画像5と重複しており、他のマスク画像5よりも奥の被写体については、マスク画像5の領域から重複部分を除外した領域がラベリングされる(図17のラベルE)。
【0101】
[発明の実施の形態における効果]
1.同一被写体の複数フレームに対する奥行き値を互いに比較表示させながら、奥行き値の設定ができるので、フレーム間で違和感のない奥行き値を設定することが可能となる。これにより、ユーザは、フレーム間で違和感がないかどうかを容易に確認することができる。
【0102】
2.同一フレームの複数被写体に対する奥行き値を互いに比較表示させながら、奥行き値の設定ができるので、同一フレームにおける被写体間で違和感のない奥行き値を設定することが可能となる。これにより、ユーザは、同一フレームにおける被写体間で違和感がないかどうかを容易に確認することができる。
【0103】
3.一部のフレームについて奥行き値を設定すれば、他のフレームについては、装置が違和感のない範囲で自動的に補間するので、全フレームの奥行き値を手作業で設定していた従来と比較して、作業効率が大幅に良くなる。
【0104】
4.奥行き画像と元映像を連動させて、複数フレームを連続的に表示させることができるので、奥行き画像の仕上りを容易に確認することができる。
【0105】
5.奥行き値の設定が必要なフレームだけを表示させることができ、利便性が高まる。
【0106】
以上、添付図面を参照しながら、本発明に係る奥行き製作支援装置等の好適な実施形態について説明したが、本発明はかかる例に限定されない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0107】
1………奥行き製作支援装置
3………2次元画像
4………背景画像
5………マスク画像
6………奥行き値
7………奥行き画像
8………ラベル画像
【技術分野】
【0001】
本発明は、奥行き製作支援装置、奥行き製作支援方法、およびプログラムに関し、特に、立体視を実現するための視差画像を生成する視差画像生成装置が利用する奥行き画像を製作する奥行き製作支援装置等に関する。
【背景技術】
【0002】
従来、3次元映像表示システムでは、大別して、2視差方式のものと、3以上の視差を持つ多視差方式のものがある。いずれの方式も、必要な視点数からシーンを見た映像を準備する必要がある。
【0003】
最も直接的な映像の制作方法としては、必要な視差数分のカメラを用意し、同一シーンを所定の間隔に配置された複数のカメラで撮影する方法が考えられる。最近では2視差を直接撮影できるカメラが市販されているが、多視差を直接撮影できるカメラは一般的でない。
【0004】
また、3次元CG(Computer Graphics)画像を作成し、複数のカメラ位置を設定してレンダリングする方法も考えられる。3次元CG画像には奥行き情報が含まれており、3次元画像から多視差方式に対応した視差画像を作成することは可能である。しかし、カメラ位置の数が多い場合、レンダリング回数が多くなり、時間とコストがかかるという問題がある。
【0005】
さらに、ほとんどの映像はCG画像ではなく実写であり、実写から3次元映像を作成することが求められている。
【0006】
実写映像による多視差映像を制作する為に、平面(2D)映像を基にして多視差映像に変換する手法(いわゆる2次元/3次元変換の手法)は、いくつか存在する。
【0007】
しかしながら、多視差映像に変換する手法では、奥行き情報がない。そのため全てのシーン(フレーム)において手作業で1枚ずつ奥行き情報を作成する必要が生じ、非常に作業負荷が高かった。
【0008】
そこで、奥行き値を設定するための手法として、例えば、特許文献1には、ユーザ指示に応じてメッシュ形状を変形させ、奥行き値を設定する技術が提案されている。また例えば、非特許文献1には、3次元空間内において、映像の選択部分をユーザが移動・回転させ、奥行き値を設定する技術が提案されている。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特表2010−516155号公報
【非特許文献】
【0010】
【非特許文献1】Depth Director: A System forAdding Depth to Movies
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかしながら、特許文献1に記載の技術は、操作すべき項目が多く、1フレーム分の奥行き情報を設定するための長時間を要し、設定した奥行き値が確認し難いという課題がある。
【0012】
これに対し、非特許文献1に記載の技術は、設定方法は簡略化されているものの、異なるフレームにおける奥行き値の比較ができないため、位置関係の矛盾が生じやすいという課題があった。
【0013】
本発明は、前述した問題点に鑑みてなされたもので、その目的とすることは、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することを支援する奥行き製作支援装置等を提供することである。
【課題を解決するための手段】
【0014】
前述した目的を達成するために、第1の発明は、立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置であって、元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込手段と、前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示手段と、前記奥行き値曲線表示手段において、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定手段と、前記設定手段において奥行き値が設定された前記フレームの前後の奥行き値を補間する補間手段と、前記補間手段による補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成手段と、を具備することを特徴とする奥行き製作支援装置である。
第1の発明によって、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することが可能となる。
【0015】
前記設定手段は、前記奥行き値曲線表示手段において奥行き値を指定するための画面部品である奥行き値指定部品を有し、前記奥行き値指定部品の移動に連動して、前記奥行き値を示す画素値を変えながら、前記奥行き画像のプレビューを表示する奥行き画像表示手段をさらに備える。
これにより、ユーザは、同一フレームにおける被写体間で違和感がないかどうかを容易に確認することができる。
【0016】
前記設定手段は、前記奥行き値曲線表示手段において時刻を指定するための画面部品である時刻指定部品を有し、前記奥行き画像表示手段は、前記時刻指定部品の移動に連動して、奥行き画像のフレームを変更する。
これにより、ユーザは、フレーム間で違和感がないかどうかを容易に確認することができる。
【0017】
前記時刻指定部品の移動に連動して、映像の時刻を変えながら前記元の映像を表示する映像表示手段をさらに備える。
これにより、ユーザは、奥行き画像の仕上りを容易に確認することができる。
【0018】
前記補間手段による補間結果に基づいて、前記元の映像を構成する被写体を識別するラベル値を画素値に置き換えた画像であるラベル画像を作成するラベル画像作成手段をさらに備える。
これにより、奥行き画像と合わせてラベル画像も作成することができる。
【0019】
いずれか1つのマスク画像に被写体が存在するフレームの範囲を検出し、奥行き値設定範囲の開始フレームおよび終了フレームを決定するマスク範囲検出手段をさらに備える。
これにより、奥行き値の設定が必要なフレームだけを表示手段に表示させることができ、利便性が高まる。
【0020】
第2の発明は、立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置の奥行き製作支援方法であって、元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、前記補間ステップによる補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成ステップと、を含むことを特徴とする。
第2の発明によって、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することが可能となる。
【0021】
第3の発明は、元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、前記補間ステップによる補間結果に基づいて、立体視を実現するための視差画像の生成処理に利用する奥行き画像を作成する奥行き画像作成ステップと、を実行させるためのプログラムである。
【0022】
第3の発明に係るプログラムをコンピュータにインストールすることで、第1の発明に係る奥行き製作支援装置を得ることができる。
【発明の効果】
【0023】
本発明により、視差画像生成装置が利用する奥行き画像を精度良く、かつ、効率的に製作することができる奥行き製作支援装置等を提供することができる。
【図面の簡単な説明】
【0024】
【図1】本発明の実施の形態に係る奥行き製作支援装置のハードウエア構成図である。
【図2】奥行き製作支援装置および視差画像生成装置の入出力データを示す図である。
【図3】2次元画像の一例を示す図である。
【図4】図3に示した2次元画像に基づいて生成された背景画像の一例を示す図である。
【図5】マスク画像の一例を示す図である。
【図6】他のマスク画像の一例を示す図である。
【図7】他のマスク画像の一例を示す図である。
【図8】奥行き画像の一例を示す図である。
【図9】入出力画像の対応付けを説明するための図である。
【図10】奥行き製作支援処理を説明するフローチャートである。
【図11】奥行き製作支援画面の表示例である。
【図12】奥行き設定画面を拡大した表示例である。
【図13】奥行き設定画面の他の表示例である。
【図14】奥行き設定画面の他の表示例である。
【図15】奥行き設定画面の他の表示例である。
【図16】奥行き設定画面の他の表示例である。
【図17】ラベル画像の作成を説明する図である。
【発明を実施するための形態】
【0025】
以下、図面に基づいて、本発明の実施形態を詳細に説明する。
【0026】
[本発明の実施の形態]
図1は、本発明の実施の形態に係る奥行き製作支援装置1のハードウエア構成図である。尚、図1のハードウエア構成は一例であり、用途、目的に応じて様々な構成を採ることが可能である。
【0027】
奥行き製作支援装置1は、制御部11、記憶部12、メディア入出力部13、通信制御部14、入力部15、表示部16、周辺機器I/F部17等が、バス18を介して接続される。
【0028】
制御部11は、CPU(Central Processing Unit)、ROM(Read OnlY MemorY)、RAM(Random Access MemorY)等で構成される。
【0029】
CPUは、記憶部12、ROM、記録媒体等に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス18を介して接続された各装置を駆動制御し、奥行き製作支援装置1が行う後述する処理を実現する。ROMは、不揮発性メモリであり、奥行き製作支援装置1のブートプログラムやBIOS等のプログラム、データ等を恒久的に保持している。RAMは、揮発性メモリであり、記憶部12、ROM、記録媒体等からロードしたプログラム、データ等を一時的に保持するとともに、制御部11が各種処理を行う為に使用するワークエリアを備える。
【0030】
記憶部12は、HDD(ハードディスクドライブ)等であり、制御部11が実行するプログラム、プログラム実行に必要なデータ、OS(オペレーティングシステム)等が格納される。プログラムに関しては、OS(オペレーティングシステム)に相当する制御プログラムや、後述する処理を奥行き製作支援装置1に実行させるためのアプリケーションプログラムが格納されている。これらの各プログラムコードは、制御部11により必要に応じて読み出されてRAMに移され、CPUに読み出されて各種の手段として実行される。
【0031】
メディア入出力部13(ドライブ装置)は、データの入出力を行い、例えば、CDドライブ(−ROM、−R、−RW等)、DVDドライブ(−ROM、−R、−RW等)等のメディア入出力装置を有する。
【0032】
通信制御部14は、通信制御装置、通信ポート等を有し、奥行き製作支援装置1とネットワーク間の通信を媒介する通信インタフェースであり、ネットワークを介して、他の装置間との通信制御を行う。ネットワークは、有線、無線を問わない。
【0033】
入力部15は、データの入力を行い、例えば、キーボード、マウス等のポインティングデバイス、テンキー等の入力装置を有する。入力部15を介して、奥行き製作支援装置1に対して、操作指示、動作指示、データ入力等を行うことができる。
【0034】
表示部16は、CRTモニタ、液晶パネル等のディスプレイ装置、ディスプレイ装置と連携して奥行き製作支援装置1のビデオ機能を実現するための論理回路等(ビデオアダプタ等)を有する。
【0035】
周辺機器I/F(インタフェース)部17は、奥行き製作支援装置1に周辺機器を接続させるためのポートであり、周辺機器I/F部17を介して奥行き製作支援装置1は周辺機器とのデータの送受信を行う。周辺機器I/F部17は、USBやIEEE1394やRS−235C等で構成されており、通常複数の周辺機器I/Fを有する。周辺機器との接続形態は有線、無線を問わない。
【0036】
バス18は、各装置間の制御信号、データ信号等の授受を媒介する経路である。
【0037】
図2は、奥行き製作支援装置1および視差画像生成装置2の入出力データを示す図である。図2に示すように、奥行き製作支援装置1は、2次元画像3、背景画像4、マスク画像5、及び奥行き値6を入力データとし、奥行き画像7、およびラベル画像8を出力データとする。視差画像生成装置2は、2次元画像3、奥行き画像7、およびラベル画像8を入力データとし、視差画像9を出力データとする。
【0038】
2次元画像3、背景画像4、及びマスク画像5は、奥行き製作支援装置1の制御部11が生成しても良いし、メディア入出力部13、通信制御部14等を介して外部から取得しても良い。また、奥行き値6は、奥行き製作支援装置1の入力部15を介して入力しても良いし、予め奥行き値6が定義されたファイルを外部から取得しても良い。
【0039】
2次元画像3は、動画像(平面映像)の1枚分のフレーム画像または静止画像である。動画像(平面映像)には、例えば、単位時間当たり所定のフレーム数(通常、1秒間に30フレーム)のカラー静止画像が含まれており、各画素がRGB各256段階の階調を持つ。
【0040】
背景画像4は、背景の奥行き感を示す画像である。背景画像4は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、別途ソフトウエアを用いて自動的に生成してもよい。
【0041】
マスク画像5は、特定の被写体を識別するための2値化画像である。マスク画像5は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、別途ソフトウエアを用いて自動的に生成してもよい。
【0042】
奥行き値6は、被写体の奥行き方向の位置を定義する値である。本発明では、奥行き値6の画素値の範囲を0〜255の256階調として表現する。0が黒、255が白、1〜254がグレー(中間調)に対応する。
【0043】
奥行き製作支援装置1は、2次元画像3、背景画像4、マスク画像5、および奥行き値6に基づいて、奥行き画像7の製作を支援するものであって、特に奥行き値6を設定し、その結果を確認するための画面インターフェース(後述する図11〜図16)に特徴を有するものである。
【0044】
奥行き画像7は、2次元画像3に係るカメラから被写体までの奥行き値を画素値に置き換えた画像である。ここで、カメラとは、視差画像生成装置2の内部処理において定義される仮想的なカメラを意味する。
【0045】
奥行き画像7は、例えば、画素値の範囲が0〜255(8ビット)のグレースケールであり、0(黒)が最も奥、255(白)が最も手前を意味する場合が多いが、逆であっても良い。以下では、説明を分かり易くするために、奥行き画像7は、画素値の範囲が0〜255であり、0(黒)が最も奥、255(白)が最も手前を意味するものとする。
【0046】
ラベル画像8は、それぞれの2次元画像3に対応付けて、2次元画像3に記録されたシーンを構成する被写体を識別する固有の数値(ラベル値)によって領域分けし、このラベル値を画素値に置き換えた(ラベリングされた)画像である。例えば、背景、建物、及び人物から構成されるシーンにおいて、背景、建物、及び人物に相当するラベル値として、それぞれL0、L1、L2を割り当て、対応する2次元画像3の各画素がどの被写体に属しているかを、L0、L1、L2の画素値に置き換えることによって表現する。
【0047】
ラベル画像8は、2次元画像3に基づいてフォトレタッチソフトなどを用いて手作業で生成してもよいし、本発明のように、奥行き製作支援装置1が自動的に生成してもよい。
【0048】
視差画像9は、立体視を実現するための画像である。本発明の実施の形態では、視差画像9は、特に、両目視差(約60mm〜70mm程度)を利用し、裸眼観察によって立体視を実現するための画像である。
【0049】
尚、本発明の実施の形態では詳細に述べないが、複数の視差画像9をディスプレイの仕様に合わせて合成し、ディスプレイに表示することによって、裸眼観察による立体視を実現することが可能となる。複数の視差画像9の合成処理については、公知の技術を利用すれば良い。
【0050】
視差画像生成装置2は、2次元画像3、奥行き画像7、およびラベル画像8に基づいて視差画像9を生成するものである。視差画像生成装置2の詳細は、本出願人が先に出願した、特願2010−176864号、および特願2011−55878号に記載されている。
【0051】
次に、図3〜図8を参照して、奥行き製作支援装置1の入出力データの表示例について説明する。
【0052】
図3は、2次元画像3の一例を示している。図3の例では、複数人でスポールブールというボール競技をしている動画像の1フレーム分を示している。図4は、図3に示した2次元画像3に基づいて生成された背景画像4の一例を示している。図3および図4は、同一フレームである。なお、背景画像4の奥行き感は、厳密でなくてよい。また背景画像4はなくてもよい。
【0053】
図5は、図3に示した2次元画像3と同一フレームのマスク画像5の一例を示している。図5の例では、球技参加者であるプレー中の人物(特定の被写体)を識別するための2値化画像であり、そのプレー中の人物の画素が白、それ以外の画素が黒にされている。以下、図5のマスク画像5を、適宜、マスクAのマスク画像と称する。
【0054】
図6は、他のマスク画像5の一例を示している。図6の例では、対戦している様子を少し離れて見物している2人の人物(特定の被写体)を識別するための2値化画像であり、その2人の人物の画素が白、それ以外の画素が黒にされている。図6は、図3〜図5、図7とは別フレーム(異なる時刻)である。以下、図6のマスク画像5を、適宜、マスクBのマスク画像と称する。
【0055】
図7は、他のマスク画像5の一例を示している。図7の例では、対戦相手の人物(特定の被写体)を識別するための2値化画像であり、その対戦相手の人物の画素が白、それ以外の画素が黒にされている。図7は、図3〜図6とは別フレームである。以下、図7のマスク画像5を、適宜、マスクCのマスク画像と称する。
【0056】
なお、図3に示す2次元画像3において、マスクBの被写体(見物している2人の人物)の中の1人は、マスクAの被写体(プレー中の人物)に隠れており映っていない。また、マスクCの被写体は、マスクBの被写体よりも右側に位置しており、図3に示す2次元画像3に映っていない。
【0057】
以上のように、奥行き製作支援装置1は、フレームごとに、マスクAのマスク画像(図5)、マスクBのマスク画像(図6)、およびマスクCのマスク画像(図7)を予め用意しておき、それらのマスク画像5と奥行き値6に基づいて、フレームごとに奥行き画像7を製作する。
【0058】
図8は、奥行き画像7の一例を示している。奥行き画像7は、複数の被写体同士の奥行き方向の相対的な位置関係が、模擬的に定義された画像である。図8は、図3〜図7とは別フレームであり、プレー中の人物がボールを投げる直前のフレームである。図8の例では、一番手前(白の領域)にマスクAの被写体(プレー中の人物)、奥(グレーの領域)にマスクBの被写体(見物している2人の人物)が存在するという奥行き方向の位置関係が定義されている。また、背景画像4の奥行き情報も付加されている。
【0059】
図9は、奥行き製作支援装置1が扱う入出力画像の対応付けを説明するための図である。
【0060】
図9に示すように、入力画像群は、フレームごとに、2次元画像、マスクAのマスク画像、マスクBのマスク画像、マスクCのマスク画像、および背景画像の5枚の画像が1組となっている。また出力画像群は、フレームごとに、奥行き画像、およびラベル画像の2枚の画像が1組となっている。例えば、フレーム数が1000枚の場合、2次元画像は1000枚、マスク画像は3000枚、背景画像は1000枚準備され、奥行き画像は1000枚、ラベル画像は1000枚出力されることになる。
【0061】
図10は、奥行き製作支援装置1が実行する奥行き製作支援処理を説明するフローチャートである。図10の説明に当たり、図11〜図17を参照し、具体的な操作内容も説明する。
【0062】
まず、ユーザは、奥行き製作支援処理を開始するにあたり、図11に示すような奥行き製作支援画面20を表示部16に表示させる。図11の例の場合、奥行き製作支援画面20には、「マスク読み込み」、「ムービー読み込み」、「背景読み込み」のボタン群21、マスク範囲検出チェックボタン22、開始フレーム表示エリア23、終了フレーム表示エリア24、マスク選択プルダウン25、奥行き設定画面26、奥行き画像表示エリア27、2次元画像表示エリア28、および書き出しボタン29が表示されている。
【0063】
ボタン群21は、マスク読み込み、ムービー読み込み、背景読み込みを行う場合に操作(押下)される。マスク範囲検出チェックボタン22は、選択されているマスクの被写体が存在するフレームの範囲を検出する場合に操作される。開始フレーム表示エリア23には、検出範囲における開始フレームのマスクが表示され、終了フレーム表示エリア24には、検出範囲における終了フレームのマスクが表示される。マスク選択プルダウン25は、奥行き設定するマスクを選択する場合に操作される。奥行き設定画面26は、マスク選択プルダウン25で選択されたマスクの奥行き値を変更するための設定画面である。
【0064】
奥行き画像表示エリア27には、読み込まれた複数のマスクに基づいて奥行き方向の位置関係が模擬的に定義された奥行き画像のプレビューが表示される。2次元画像表示エリア28には、読み込まれた2次元画像のプレビューが表示される。書き出しボタン29は、奥行き画像を保存する場合に選択される。
【0065】
図12は、奥行き設定画面26を拡大した表示例である。
【0066】
図12に示すように、奥行き設定画面26の縦軸は、デプス値(奥行き値)を表し、横軸は、Time(フレーム)を表している。奥行き設定画面26内において、奥行き値曲線31a、31b、31cは、それぞれ、マスクA、マスクB、マスクCの奥行き値を示す曲線であって、初期画面では、3つが重なって表示される。開始位置32は、開始フレームの位置を示し、終了位置33は、終了フレームの位置を示している。
【0067】
フレームスライダーバー34は、奥行き値を設定するフレームを指定する場合に横方向にスライド(移動)される。番号35は、フレームスライダーバー34によって指定されているフレームの番号を示す。フレーム位置36は、フレームスライダーバー34によって指定されているフレーム方向の位置を示し、初期画面では、開始位置32とフレーム位置36は重なって表示される。奥行き値スライダーバー37は、奥行き値を指定する場合に縦方向にスライドされる。キーフレーム削除ボタン38は、現在選択されているマスクのキーフレーム(変化が定義されているフレーム)を削除する場合に選択される。
【0068】
以上のような奥行き製作支援画面20において、ユーザは、ボタン群21を押下し、奥行き画像を製作するための入力画像群の読み込みを指示する。
【0069】
ステップS1において、奥行き製作支援装置1の制御部11は、ユーザからの指示に基づいて、入力画像群を読み込む。例えば、図9に示したように、フレームごとに、2次元画像、マスクAのマスク画像、マスクBのマスク画像、マスクCのマスク画像、および背景画像の5枚の画像が1組となった入力画像群が読み込まれる。また、ユーザによって、マスク範囲検出チェックボタン22が押下されることで、奥行き値の設定が必要なフレーム範囲が検出される。
【0070】
これにより、奥行き製作支援画面20において、開始フレーム表示エリア23には、マスク選択プルダウン25で選択されているマスクの開始フレームのマスク画像が表示され、終了フレーム表示エリア24には、マスク選択プルダウン25で選択されているマスクの終了フレームのマスク画像が表示され、2次元画像表示エリア28には、2次元画像のプレビューが表示される。また、奥行き設定画面26には、読み込まれた複数のマスクの奥行き値曲線が表示される。
【0071】
ステップS2において、奥行き製作支援装置1の制御部11は、ユーザによってマスク選択プルダウンの入力指示があったか否か、つまり、図11のマスク選択プルダウン25で新たにマスクが選択されたか否かを判定し、マスク選択プルダウンの入力指示があったと判定した場合、ステップS3に進む。ステップS3において、奥行き製作支援装置1の制御部11は、ユーザからの入力指示に基づいて奥行き設定するマスクを変更する。
【0072】
奥行き製作支援装置1の制御部11は、ステップS2において、マスク選択プルダウンの入力指示がないと判定した場合、または、ステップS3において、奥行き設定するマスクを変更した後、ステップS4に進む。
【0073】
ステップS4において、奥行き製作支援装置1の制御部11は、ユーザによってフレームスライダーバーの変更指示があったか否か、つまり、図12のフレームスライダーバー34がスライドされたか否かを判定し、フレームスライダーバーの変更指示があったと判定した場合、ステップS5に進む。
【0074】
例えば、ユーザは、図12に示す奥行き設定画面26の初期画面において、フレームスライダーバー34を右方向にスライドすることで奥行き設定フレームの変更を行うことができる。
【0075】
図13は、図12に示す奥行き設定画面26の状態から、マスク選択プルダウン25によって単一のマスク(例えば、マスクA)が選択され、フレームスライダーバー34がスライドされた状態を示している。マスク選択プルダウン25によってマスクAが選択されたことにより、開始フレームと終了フレームが、自動的にキーフレーム41a、42aとして設定される。また、フレームスライダーバー34のスライドに連動して、フレーム位置36もスライドされる。このとき、奥行き設定フレームの変更操作に連動して、奥行き画像表示エリア27に複数フレームの奥行き画像のプレビューが連続的に表示されるとともに、2次元画像表示エリア28に複数フレームの2次元画像のプレビューが連続的に表示される。
【0076】
以上のようにして、ユーザは、簡単な操作で、奥行き設定フレームの変更を行うことができる。また、複数フレームの奥行き画像を連続的に表示させることができるため、ユーザは、フレーム間で違和感がないかどうかを容易に確認することができる。さらに、奥行き画像と元映像とを連動させて、複数フレームを連続的に表示させることができるため、奥行き画像の仕上がりを容易に確認することができる。
【0077】
図10の説明に戻る。ステップS5において、奥行き製作支援装置1の制御部11は、ユーザによる変更指示に基づいて奥行き設定フレームの変更を行う。
【0078】
奥行き製作支援装置1の制御部11は、ステップS4において、フレームスライダーバーの変更指示がないと判定した場合、または、ステップS5において、奥行き設定フレームを変更した後、ステップS6に進む。
【0079】
ステップS6において、奥行き製作支援装置1の制御部11は、ユーザによって奥行き値スライダーバーの変更指示があったか否か、つまり、図12の奥行き値スライダーバー37がスライドされたか否かを判定し、奥行き値スライダーバーの変更指示があったと判定した場合、ステップS7に進む。
【0080】
例えば、ユーザは、図13に示す奥行き設定画面26において、奥行き値スライダーバー37を上方向にスライドすることで奥行き値の変更を行うことができる。
【0081】
図14は、図13に示す奥行き設定画面26の状態から、奥行き値スライダーバー37がスライドされた状態を示している。奥行き値スライダーバー37のスライドに連動して、奥行き値曲線31aが変形される。具体的には、フレームスライダーバー34によって指定されているフレーム位置34と、奥行き値スライダーバー37によって指定されるデプス値方向の位置の交点(移動点)が上下にスライドされ、その交点の位置を確定すると(例えば、奥行き値スライダーバー37の選択を解除する操作であるマウスの左クリックを離すと)、交点にキーフレーム43aが設定される。このとき、奥行き値の変更操作に連動して、奥行き値を示す画素値を変えながら、奥行き画像表示エリア27に表示される奥行き画像のプレビューも連続的に変化される。
【0082】
以上のようにして、ユーザは、簡単な操作で、奥行き値の変更を行うことができる。また、奥行き値を変化させたときに、奥行き画像がどのように変化するのかを連続的に表示させることができるため、ユーザは、同一フレームにおける被写体間で違和感がないかどうかを容易に確認することができる。
【0083】
図10の説明に戻る。ステップS7において、奥行き製作支援装置1の制御部11は、ユーザによる変更指示に基づいて奥行き値の設定を行う。ステップS8において、奥行き製作支援装置1の制御部11は、ステップS7で設定した奥行き値に基づいて、奥行き値の補間を行う。具体的には、図14に示すキーフレーム43aと、そのキーフレーム43aに隣接するキーフレーム41a、キーフレーム42aとの間が補間される。図14の例では、線形補間を適用しているが、これに限らず、例えば、多項式補間、スプライン補間、ベジェ曲線補間などでもよい。
【0084】
このように、一部のフレームについて奥行き値を設定すれば、他のフレームについては、違和感のない範囲で自動的に補間されるため、全フレームの奥行き値を手作業する手間が省け、作業効率が大幅に良くなる。
【0085】
ステップS9において、奥行き製作支援装置1の制御部11は、ステップS8の処理で補間された奥行き値に応じて奥行き方向の位置関係が模擬的に定義された奥行き画像を作成し、奥行き画像表示エリア27に表示させる。
【0086】
奥行き製作支援装置1の制御部11は、ステップS6において、奥行き値スライダーバーの変更指示がないと判定した場合、または、ステップS9において、奥行き画像の作成、表示が行われた後、ステップS10に進む。
【0087】
ステップS10において、奥行き製作支援装置1の制御部11は、書き出しボタンの押下指示があったか否か、つまり、図11の書き出しボタン29が押下されたか否かを判定し、まだ書き出しボタン押下指示がないと判定した場合、ステップS2に戻り、上述した処理を繰り返し実行する。
【0088】
例えば、ユーザは、図14に示す奥行き設定画面26において、さらに、フレームスライダーバー34を右方向にスライドすることで奥行き設定フレームの変更を再度行うことができる。
【0089】
図15は、図14に示す奥行き設定画面26の状態から、フレームスライダーバー34をスライドさせ、奥行き値スライダーバー37をスライドさせることにより新たにキーフレームを作成した状態を示している。フレームスライダーバー34のスライドに連動して、フレーム位置36もスライドされる。また、奥行き値スライダーバー37のスライドに連動して、新たなキーフレームが作成されたり、キーフレームが移動したりする。
【0090】
具体的には、奥行き値スライダーバー37を動かした際、そのフレームにキーフレームが存在しなければ新たなキーフレームが作成され、キーフレームが存在すればそのキーフレームが移動する。このとき、奥行き設定フレームの変更操作に連動して、奥行き画像表示エリア27に複数フレームの奥行き画像のプレビューが連続的に表示されるとともに、2次元画像表示エリア28に複数フレームの2次元画像のプレビューが連続的に表示される。
【0091】
以上のようにして、ユーザは、簡単な操作で、奥行き設定フレームと奥行き値の変更を何度も行うことができるため、1つのマスクに対して複数個のキーフレームを設定することが可能である。また、複数フレームの奥行き画像を連続的に表示させたり、奥行き画像と元映像とを連動させて、複数フレームを連続的に表示させたりすることができるため、ユーザは、フレーム間で違和感がないかどうか、奥行き画像の仕上がりを容易に確認することができる。
【0092】
また例えば、図15に示す奥行き設定画面26の状態において、ユーザは、マスク選択プルダウン25から別のマスク(例えば、マスクB)を選択し、上述したような奥行き設定フレームと奥行き値の変更を行うこともできる。
【0093】
図16は、図15に示す奥行き設定画面26の状態において、マスク選択プルダウン25からマスクBが選択され、奥行き値スライダーバー37がスライドされた状態を示している。マスク選択プルダウン25によってマスクBが選択されたことにより、開始フレームと終了フレームが、自動的にキーフレーム41b、42として設定される。そして、奥行き値スライダーバー37のスライドに連動して、キーフレーム41bが上下にスライドされ、位置確定により、キーフレーム41bの位置が変更される。このとき、奥行き値の変更操作に連動して、奥行き値を示す画素値を変えながら、奥行き画像表示エリア27に表示される奥行き画像のプレビューも連続的に変化される。
【0094】
以上のようにして、ユーザは、簡単な操作で、別のマスクについても奥行き設定フレームや奥行き値の変更を行うことができる。また、別のマスクについても、奥行き画像がどのように変化するのかを連続的に表示させたり、複数フレームの奥行き画像を連続的に表示させたり、奥行き画像と元映像とを連動させて、複数フレームを連続的に表示させたりすることができるため、ユーザは、同一フレームにおける被写体間で違和感がないかどうか、フレーム間で違和感がないかどうか、奥行き画像の仕上がりを容易に確認することができる。
【0095】
図10の説明に戻る。ステップS10において、奥行き製作支援装置1の制御部11は、書き出しボタンの押下指示があったと判定した場合、ステップS11に進み、以上のようにして奥行き設定フレームや奥行き値が変更(補間)された奥行き画像7を記憶部12に保存する。ステップS12において、奥行き製作支援装置1の制御部11は、2次元画像3に対応付けてラベル画像8を作成し、記憶部12に保存する。
【0096】
図17は、ラベル画像8の作成を説明する図である。
【0097】
例えば、図17(a)に示すように、マスク画像5dは、四角の物体の被写体のマスクDであり、マスク画像5eは、円の物体の被写体のマスクEであるとする。上述したような奥行き値の設定により、図17(b)に示すように、マスクDの被写体7dが最も手前(白)、マスクEの被写体7eの被写体が最も奥(黒)となるように奥行き値が設定され、奥行き画像7が生成されたとする。
【0098】
図17(c)に示すように、手前の被写体7dに対応するラベルDについては、マスク画像5Dと同様の領域が、ラベルDのラベリング領域8dとしてラベリングされる。
【0099】
図17(c)に示すように、奥の被写体7eに対応するラベルEについては、マスク画像5eの領域からラベルDとの重複部分を除いた領域(斜線部の領域)が、ラベルEのラベリング領域8eとしてラベリングされる。
【0100】
以上のように、ラベル画像8には、他のマスク画像5と重複していない、又は他のマスク画像5よりも手前の被写体については、マスク画像5と同じ領域がラベリングされる(図17のラベルD)。また、ラベル画像8には、他のマスク画像5と重複しており、他のマスク画像5よりも奥の被写体については、マスク画像5の領域から重複部分を除外した領域がラベリングされる(図17のラベルE)。
【0101】
[発明の実施の形態における効果]
1.同一被写体の複数フレームに対する奥行き値を互いに比較表示させながら、奥行き値の設定ができるので、フレーム間で違和感のない奥行き値を設定することが可能となる。これにより、ユーザは、フレーム間で違和感がないかどうかを容易に確認することができる。
【0102】
2.同一フレームの複数被写体に対する奥行き値を互いに比較表示させながら、奥行き値の設定ができるので、同一フレームにおける被写体間で違和感のない奥行き値を設定することが可能となる。これにより、ユーザは、同一フレームにおける被写体間で違和感がないかどうかを容易に確認することができる。
【0103】
3.一部のフレームについて奥行き値を設定すれば、他のフレームについては、装置が違和感のない範囲で自動的に補間するので、全フレームの奥行き値を手作業で設定していた従来と比較して、作業効率が大幅に良くなる。
【0104】
4.奥行き画像と元映像を連動させて、複数フレームを連続的に表示させることができるので、奥行き画像の仕上りを容易に確認することができる。
【0105】
5.奥行き値の設定が必要なフレームだけを表示させることができ、利便性が高まる。
【0106】
以上、添付図面を参照しながら、本発明に係る奥行き製作支援装置等の好適な実施形態について説明したが、本発明はかかる例に限定されない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0107】
1………奥行き製作支援装置
3………2次元画像
4………背景画像
5………マスク画像
6………奥行き値
7………奥行き画像
8………ラベル画像
【特許請求の範囲】
【請求項1】
立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置であって、
元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込手段と、
前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示手段と、
前記奥行き値曲線表示手段において、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定手段と、
前記設定手段において奥行き値が設定された前記フレームの前後の奥行き値を補間する補間手段と、
前記補間手段による補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成手段と、
を備えることを特徴とする奥行き製作支援装置。
【請求項2】
前記設定手段は、前記奥行き値曲線表示手段において奥行き値を指定するための画面部品である奥行き値指定部品を有し、
前記奥行き値指定部品の移動に連動して、前記奥行き値を示す画素値を変えながら、前記奥行き画像のプレビューを表示する奥行き画像表示手段をさらに備える
ことを特徴とする請求項1に記載の奥行き製作支援装置。
【請求項3】
前記設定手段は、前記奥行き値曲線表示手段において時刻を指定するための画面部品である時刻指定部品を有し、
前記奥行き画像表示手段は、前記時刻指定部品の移動に連動して、奥行き画像のフレームを変更する
ことを特徴とする請求項2に記載の奥行き製作支援装置。
【請求項4】
前記時刻指定部品の移動に連動して、映像の時刻を変えながら前記元の映像を表示する映像表示手段をさらに備える
ことを特徴とする請求項3に記載の奥行き製作支援装置。
【請求項5】
前記補間手段による補間結果に基づいて、前記元の映像を構成する被写体を識別するラベル値を画素値に置き換えた画像であるラベル画像を作成するラベル画像作成手段をさらに備える
ことを特徴とする請求項1に記載の奥行き製作支援装置。
【請求項6】
いずれか1つのマスク画像に被写体が存在するフレームの範囲を検出し、奥行き値設定範囲の開始フレームおよび終了フレームを決定するマスク範囲検出手段をさらに備える
ことを特徴とする請求項1に記載の奥行き製作支援装置。
【請求項7】
立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置の奥行き製作支援方法であって、
元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、
前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、
前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、
前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、
前記補間ステップによる補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成ステップと、
を含むことを特徴とする奥行き製作支援方法。
【請求項8】
コンピュータに、
元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、
前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、
前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、
前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、
前記補間ステップによる補間結果に基づいて、立体視を実現するための視差画像の生成処理に利用する奥行き画像を作成する奥行き画像作成ステップと、
を実行させるためのプログラム。
【請求項1】
立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置であって、
元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込手段と、
前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示手段と、
前記奥行き値曲線表示手段において、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定手段と、
前記設定手段において奥行き値が設定された前記フレームの前後の奥行き値を補間する補間手段と、
前記補間手段による補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成手段と、
を備えることを特徴とする奥行き製作支援装置。
【請求項2】
前記設定手段は、前記奥行き値曲線表示手段において奥行き値を指定するための画面部品である奥行き値指定部品を有し、
前記奥行き値指定部品の移動に連動して、前記奥行き値を示す画素値を変えながら、前記奥行き画像のプレビューを表示する奥行き画像表示手段をさらに備える
ことを特徴とする請求項1に記載の奥行き製作支援装置。
【請求項3】
前記設定手段は、前記奥行き値曲線表示手段において時刻を指定するための画面部品である時刻指定部品を有し、
前記奥行き画像表示手段は、前記時刻指定部品の移動に連動して、奥行き画像のフレームを変更する
ことを特徴とする請求項2に記載の奥行き製作支援装置。
【請求項4】
前記時刻指定部品の移動に連動して、映像の時刻を変えながら前記元の映像を表示する映像表示手段をさらに備える
ことを特徴とする請求項3に記載の奥行き製作支援装置。
【請求項5】
前記補間手段による補間結果に基づいて、前記元の映像を構成する被写体を識別するラベル値を画素値に置き換えた画像であるラベル画像を作成するラベル画像作成手段をさらに備える
ことを特徴とする請求項1に記載の奥行き製作支援装置。
【請求項6】
いずれか1つのマスク画像に被写体が存在するフレームの範囲を検出し、奥行き値設定範囲の開始フレームおよび終了フレームを決定するマスク範囲検出手段をさらに備える
ことを特徴とする請求項1に記載の奥行き製作支援装置。
【請求項7】
立体視を実現するための視差画像の生成処理に利用する奥行き画像を製作する奥行き製作支援装置の奥行き製作支援方法であって、
元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、
前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、
前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、
前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、
前記補間ステップによる補間結果に基づいて、前記奥行き画像を作成する奥行き画像作成ステップと、
を含むことを特徴とする奥行き製作支援方法。
【請求項8】
コンピュータに、
元の映像の各フレームに対して、特定の被写体を識別するために2値化された複数のマスク画像を読み込む読込ステップと、
前記マスク画像毎に、各フレームにおける奥行き値を示す奥行き値曲線を表示する奥行き値曲線表示ステップと、
前記奥行き値曲線表示ステップにおいて、選択された単一のマスク画像の奥行き値曲線における単一のフレームの奥行き値を設定する設定ステップと、
前記設定ステップにおいて奥行き値が設定された前記フレームの前後の奥行き値を補間する補間ステップと、
前記補間ステップによる補間結果に基づいて、立体視を実現するための視差画像の生成処理に利用する奥行き画像を作成する奥行き画像作成ステップと、
を実行させるためのプログラム。
【図1】
【図2】
【図9】
【図10】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図11】
【図2】
【図9】
【図10】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図11】
【公開番号】特開2013−34084(P2013−34084A)
【公開日】平成25年2月14日(2013.2.14)
【国際特許分類】
【出願番号】特願2011−168920(P2011−168920)
【出願日】平成23年8月2日(2011.8.2)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成25年2月14日(2013.2.14)
【国際特許分類】
【出願日】平成23年8月2日(2011.8.2)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]