説明

立体映像処理装置及び立体映像処理装置の制御方法

【課題】 帯画像が予め挿入された立体映像に対して、字幕やUIなどのグラフィック画像を重畳させる場合に、立体映像の映像全体の視差の変化に追従させた、立体視可能なグラフィック画像を合成する。
【解決手段】 視差量調整部302は、水平黒帯検出部301からの黒帯幅情報をもとに、字幕視差量データを調整する値である変更値Mcを算出する。グラフィック挿入部106では、グラフィック生成部114が生成した左眼用字幕画像と右眼用字幕画像を左眼用画像と右眼用画像にそれぞれ合成する際には変更値Mcを用いて左右の字幕画像の合成位置を水平方向に移動させる処理を実行する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、左眼用の映像と右眼用の映像を表示装置に表示することで、映像を立体的に視認させることが可能な立体映像処理装置及び立体映像処理装置の制御方法に関する。
【背景技術】
【0002】
それぞれに視差を与えた左眼用映像と右眼用映像を交互に表示することで、ユーザに映像を立体視させることが可能である。こうした立体視技術においては、左眼用映像と右眼用映像を水平方向に移動させた状態で表示することで、立体映像を全体的に手前に飛び出させたり、奥行き方向に引き込ませたりすることができる。例えば、立体映像を全体的に奥行き方向に引き込ませる場合には、左右の眼用映像の視差量を小さくすればよい。従って、元々の左右の画像(図8(a))の視差量を縮小するために、左眼用画像及び右眼用画像全体を各々ずらし、視差量を変化させた左右の眼用画像を生成することになる。しかし、単純に左眼用画像及び右眼用画像を各々ずらした画像を生成すると、元々画像が存在しない領域が生じることになるので、図8(b)のように、左眼用画像及び右眼用画像それぞれの映像が存在しない領域に黒帯画像を挿入することが一般的に行われている。
【0003】
こうした処理は、映像を表示する装置側で実行されるだけでなく、映像制作の過程において、意図的に行われる場合がある。すなわち、生成された立体映像そのものに黒帯画像が挿入されているものが存在する。
【0004】
一方、立体映像に対し視差量を持った文字列を挿入する技術として、立体映像内の物体(以後、オブジェクトと表現する)の視差量を検出し、検出した視差量をこのオブジェクトの位置に挿入する文字列の視差量として、左眼用画像及び右眼用画像に視差量を持った文字列を挿入する技術が提案されている。(例えば、特許文献1参照)
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2006−325165号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述したように、立体映像は、左眼用画像と右目用画像の組が複数設けられることで成立している。そして、映像全体の視差を一律に変化させるような映像、つまり、黒帯画像の領域が徐々に変化するような映像の場合には、その変化期間にあたる左眼用画像と右目用画像には黒帯画像が視差の変化に伴って挿入されることになる。つまり、挿入される黒帯画像の面積が変化する。
【0007】
ここで、上述した黒帯画像が予め挿入された立体映像に対して、字幕やUIなどのグラフィック画像を重畳させて合成する場合を考える。映像全体が手前側(視聴者側)または奥側に全体的に移動するように見せかけるために映像全体の視差を一律に変化させるような映像に、字幕などのグラフィック画像を重畳させるにあたり、重畳させた画像の視差量が固定だとする。立体映像は全体的に手前や奥側に移動するように表示されているが、グラフィック画像自体は一定の奥行き位置に表示されるため、立体映像とグラフィック画像の奥行き方向の相対的な位置関係が変化するようにユーザには視認される。例えば、立体映像が全体的に奥に引き込まれるような映像の場合、グラフィック画像が一定の位置に表示されていると、ユーザはグラフィック画像が手前に飛び出してくる(ユーザに近づいてくる)ように視認してしまう。これでは、映像制作時に意図した効果が得られない。
【0008】
特許文献1に記載の技術は、映像内のオブジェクト(例えば、ボール)の近傍に、そのオブジェクトの視差量と合致した視差量の文字列を表示するものであるので、オブジェクトの視差量が変化することで、文字列の視差量も変化することが予想される。
【0009】
しかし、字幕やメニュー画面などのグラフィック画像は、特定のオブジェクトに関係するものではないので、オブジェクトに依存した処理を行う特許文献1の技術は適用できない。また、オブジェクト自体が認識できないような映像の場合には視差量を検出することもできない。
【0010】
そこで、本発明は、帯画像が予め挿入された立体映像に対して、字幕やUIなどのグラフィック画像を重畳させる場合に、立体映像の映像全体の視差の変化に追従させた、立体視可能なグラフィック画像を合成することを可能とする立体映像処理装置及び立体映像処理装置の制御方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するために、本発明の立体映像処理装置は、視差を有する左眼用フレーム画像と右眼用フレーム画像とを時分割で表示することで映像を立体的に表示することが可能な立体映像処理装置であって、立体映像を構成する左眼用フレーム画像及び右眼用フレーム画像にそれぞれ合成するための左眼用グラフィック画像及び右眼用グラフィック画像を生成する生成手段と、左眼用フレーム画像及び右眼用フレーム画像の有効画像領域内の水平方向の端部に設けられた帯画像の水平方向の画素数を検出する解析手段と、前記解析手段で解析した帯画像の画素数を用いて、当該帯画像を有する左眼用フレーム画像及び右眼用フレーム画像にそれぞれ合成する左眼用グラフィック画像及び右眼用グラフィック画像の視差量が前記左眼用フレーム画像及び前記右眼用フレーム画像の視差量の変化に追従するように、前記左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量を調整するための変更値を生成する調整手段と、前記調整手段で生成された変更値を用いて前記左眼用グラフィック画像及び前記右眼用グラフィック画像を水平方向に移動させ、前記左眼用フレーム画像及び前記右眼用フレーム画像のそれぞれに合成する合成手段と、を有する。
【発明の効果】
【0012】
以上説明したように、本発明によれば、黒帯画像が予め挿入された立体映像に対して、字幕やUIなどのグラフィック画像を重畳させる場合に、立体映像の映像全体の視差の変化に追従させた、立体視可能なグラフィック画像を合成することを可能とする立体映像処理装置及び立体映像処理装置の制御方法を提供することができる。
【図面の簡単な説明】
【0013】
【図1】立体映像処理装置のブロック図である。
【図2】1920×1080画素のフルハイビジョン立体映像を例にした映像信号の構成を示すイメージ図である。
【図3】映像解析部105及びグラフィック挿入部106の詳細図である。
【図4】水平黒帯検出処理のフローチャートである。
【図5】視差量調整部処理のフローチャートである。
【図6】黒帯画像と字幕画像との関係を示すイメージ図である。
【図7】字幕画像合成後の映像の遷移状態を示すイメージ図である。
【図8】背景技術を説明するためのイメージ図である。
【発明を実施するための形態】
【0014】
以下、本発明を実施するための形態について詳細に説明する。本発明の各実施例においては、立体映像処理装置として映像表示部108を備えたテレビを想定することとするが、本発明の立体映像処理装置は、放送波を受信可能な装置や、映像表示部108を備えた装置に限ったものではない。
【0015】
なお、本発明の前提として、立体映像処理装置に入力される立体映像データは、予め左眼用映像と右眼用映像とが用意されているものとなる。左眼用映像を構成する複数の左眼用画像データと右目用映像を構成する複数の右目用画像データによって、立体映像データが構成されている。従って、上述した黒帯画像も立体映像の制作者によって予め左眼用画像データ及び右目用画像データに挿入された状態で構成されている。
【0016】
そして、立体映像処理装置では、立体映像を処理して忠実に再生することになるが、ユーザの指示などに従い、字幕やOSD(オンスクリーンディスプレイ)などのグラフィック画像を立体的に(立体視可能なように)立体映像に合成して表示する。例えば、ブルーレイディスクなどに記録された映画やデジタル放送番組などでは、ユーザの好みにあわせて、字幕表示のON/OFFなどが可能である。つまり、字幕画像は予め映像に焼き込まれているのではなく、字幕表示用の字幕データが映像データとは別に用意されている。そして、記録映像の再生装置やテレビなどの制御により、字幕表示用の字幕データから字幕画像を生成して、映像に合成している。本発明の立体映像処理装置では、立体映像とは別に用意された字幕データや、装置に備えられたグラフィックデータから生成した画像を立体映像に合成して表示するにあたり、これらの画像も映像と同様、立体視可能なように表示する処理を実行する。
【0017】
後述する各実施例では、字幕の表示を例として説明を行う。立体映像に対応付けられた字幕データは、社団法人電波産業会(ARIB)が定めたデジタル字幕データ形式に準ずる(STD−B24)。字幕データには、字幕本文のテキストデータの他、字幕を表示するタイミングや位置などを規定した字幕管理データが含まれており、立体映像処理装置は字幕データを解析して、映像に合成する字幕画像を生成する。
【0018】
なお、本発明では、この字幕管理データに字幕画像の視差量を示す字幕視差量データが含まれているものとする。字幕画像の視差量とは、あるシーンに対応して表示することが定められた字幕画像(字幕文)を立体視可能に表示する場合に、左眼用画像と右眼用画像のそれぞれに合成する字幕画像のずれ量を示すものである。本実施例では、字幕視差量データMは字幕文それぞれに対応して定められている。字幕視差量データMがゼロの場合は、表示画面上に字幕が表示されているように視認される。即ち、視差をつけないで字幕画像を合成する場合である。字幕視差量データが+Mの場合には、左眼用画像には視差量データがゼロの場合に字幕文が表示される位置から、左方向に+M移動した位置に字幕画像を合成する。また、右目用画像には右方向に+M移動した位置に字幕画像を合成する。これにより、左右の画像間では、字幕画像に2Mの視差量が付与される。これにより、字幕画像は表示画面よりも奥側に表示されているように視認できる。反対に、字幕視差量データが−Mの場合には、左眼用画像には右方向に+M移動した位置に字幕画像を合成し、右目用画像には左方向に+M移動した位置に字幕画像を合成する。これにより、字幕画像は表示画面よりも手前側に表示されているように視認できる。
【0019】
このように、映像に合成して表示される字幕文(字幕画像)には視差量データが付与されているものとする。そして、この字幕文が表示されている期間は、基本的には付与された視差量データに従って視差がつけられた左眼用の字幕画像と右眼用の字幕画像とがそれぞれ左眼用画像と右眼用画像に合成されて表示される。
【実施例1】
【0020】
以下、本発明の第1の実施例について説明する。第1の実施例として、シャッター式メガネを用いた時分割方式の立体映像処理装置において、デジタル放送波を受信、デコードし、字幕を多重して映像出力する場合について説明する。
【0021】
最初に、図1のブロック図を用いて立体映像表示部100について説明する。チューナ部102は、アンテナ部101にて受信したデジタル放送波を、所望のチャンネルについて映像・音声情報を含む時分割多重化されたスクランブルTSデータに復調し、デスクランブラ部103に出力する。
【0022】
デスクランブラ部103は、復調されたスクランブルTSデータを復号し、復号したデスクランブルTSデータをデコーダ部104に出力する。デコーダ部104は、デスクランブラ部103より入力されたデスクランブルTSデータを、映像データと音声データとに分離する。そして、各々のデータを後段の映像解析部105、グラフィック挿入部106、グラフィック生成部114、音声出力制御部109へ伝送する信号にデコード処理する。デコーダ部104は、デコード処理した映像をYUVフォーマットのベース映像信号として、映像解析部105及びグラフィック挿入部106に出力する。さらに、デコーダ部104ではベース映像信号と共に、左眼用映像及び右眼用映像を識別するための信号として、映像識別信号を生成し、映像解析部105、グラフィック挿入部106、グラフィック生成部114に出力する。この映像識別信号は左眼映像伝送期間が0、右眼映像伝送期間が1を示す。また、デコーダ部104はデコードした音声信号を音声出力制御部109に出力する。
【0023】
また、デコーダ部104は、装置の字幕の表示設定が有効になっている場合、デスクランブルTSデータに多重されている字幕データをデコードする。デコードされた字幕データは字幕情報としてグラフィック生成部114に送信される。グラフィック生成部114では、字幕情報から字幕画像を生成し、透過度情報α値を含むαYUVフォーマットのグラフィック信号として、グラフィック挿入部106に出力する。この処理は、一般的な二次元映像の字幕画像の生成処理と同じである。ただし、立体映像に対して、立体視可能な字幕画像を生成するにあたっては、グラフィック生成部114は、字幕視差量データMの値から左眼用画像に合成する左眼用字幕画像と右眼用画像に合成する右眼用字幕画像をそれぞれ視差を設けた状態で生成する。なお、字幕表示を無効にしている場合は、デコーダ部104は字幕データをデコードしない。
【0024】
字幕表示の有効/無効の設定は、リモコン部121の操作ボタンに字幕表示の切り替えキーを設け、ユーザ操作によって設定することができる。
【0025】
図2は1920×1080のフルハイビジョン立体映像を例にした映像信号の構成を示すイメージ図である。デコーダ部104と映像解析部105及びグラフィック挿入部106間の映像伝送仕様に関しては、図2で示すように水平フロントポーチ幅及び水平バックポーチ幅、垂直フロントポーチ幅及び垂直バックポーチ幅が予め規定されている。そして黒帯画像領域を含めた有効画像領域内のアドレスを規定する。
【0026】
映像解析部105では、デコーダ部104からのベース映像信号中の輝度信号(Y)をもとに、ベース映像における有効画像領域内の水平方向の端部に設けられた黒帯画像の水平方向の幅の値(画素数)を検出する。そして、映像解析部105は、検出した黒帯画像の幅の値に基づいて、検出したベース映像信号(フレーム画像)と同期して表示される字幕文に対応付けられた字幕視差量データを変更するための変更値Mcを生成し、グラフィック挿入部106に出力する。
【0027】
グラフィック挿入部106では、デコーダ部104からのベース映像信号に対し、グラフィック生成部114から送信された字幕画像を合成する処理を実行する。この処理にあたり、字幕画像の合成位置、即ち、字幕画像の視差量は、映像解析部105が決定した変更値Mcを用いて、最終的に決定される。つまり、グラフィック生成部114で、字幕視差量データMに基づいて生成された左眼用字幕画像と右眼用字幕画像は、最終的には変更値Mcにより視差量が調整されることになる。字幕画像を挿入した立体映像信号は、映像出力制御部107に出力される。
【0028】
なお、映像解析部105およびグラフィック挿入部106の内部動作については、後でより詳しく説明する。
【0029】
映像出力制御部107では、グラフィック挿入部106より入力される立体映像信号を映像表示部108に適した駆動信号に変換し、映像表示部108を制御する。これにより、映像表示部108に時分割で左眼用映像と右眼用映像が交互に表示されることで、ユーザには立体映像が視認可能となる。
【0030】
音声出力制御部109は、デコーダ部104から入力される音声信号を、スピーカ部110に適した駆動信号に変換し、スピーカ部110から音声を出力する。
【0031】
リモコン部121は、ユーザによるリモコン部121を用いたキー操作の情報を赤外線信号に変換し、出力する。リモコン受信部113は、その赤外線信号を受信し、リモコンキー操作の情報を制御部A111に伝える。
【0032】
制御部A111は、立体映像表示部100のシステム制御を行い、リモコン受信部113を介して伝えられるユーザ要求に合わせ、所望の機能制御を行う。また、映像表示部108で出画される時分割立体映像とシャッター部152のシャッター開閉動作の同期を取るため、シャッター方式メガネ部150に対するシャッター制御信号を生成する。制御信号送信部112は、制御部A111で生成されたシャッター制御信号を赤外線信号に変調し出力する。
【0033】
続いて、シャッター方式メガネ部150について説明する。制御信号受信部153は、制御信号送信部112からの赤外線信号を受信し、電気信号に復調したシャッター制御信号を制御部B151に伝送する。制御部B151は、制御信号受信部153より得られるシャッター制御信号を元に、シャッター部152のシャッター開閉制御を行う。シャッター部152は、制御部B151からのシャッター開閉制御を受けて、左眼及び右眼のシャッター開閉動作を行う。
【0034】
次に、図3のブロック図を用いて、映像解析部105及びグラフィック挿入部106の内部処理について詳しく説明する。
【0035】
映像解析部105内部は水平黒帯検出部301と視差量調整部302によって構成される。水平黒帯検出部301では、デコーダ部104からのベース映像の輝度信号(Y)をもとに、有効映像領域の左端及び右端に黒帯があるか識別し、黒帯が有る場合はその黒帯幅の画素数をカウントすることで検出する。検出結果は黒帯幅情報として、視差量調整部302に出力される。
【0036】
水平黒帯検出部301における、水平黒帯検出処理の詳細動作について、図4のフローチャートを用いて説明する。以下のステップは、水平黒帯検出部301が実行するものである。
【0037】
ステップS401では、黒帯検出を行う有効映像領域内水平ラインの1つのY(v)を選択し、ステップS402に進む。なお、vは有効映像領域内の選択ライン番号を指す。ステップS402では、左端黒帯画素数:Xf及び右端黒帯画素数:Xeの初期値として各々0を設定し、ステップS403に進む。ステップS403では、ステップS404での処理対象画素として、有効映像領域内の左端画素にあたるX軸アドレス:X(0)を選択し、ステップS404に進む。
【0038】
ステップS404では、処理対象画素の輝度値が予め定めるしきい値H未満の場合はステップS405に進み、しきい値H未満ではない場合はステップS408に進む。例えば、処理対象画素の階調数が8ビット(256階調)であり、しきい値Hを8とした場合、対象画素の輝度値が7以下の時はしきい値未満であり、8以上の時はしきい値以上であると判断することになる。
【0039】
ステップS405では、ステップS404での処理の結果、処理対象画素が黒帯に相当する画素であると判断したので、Xfの値を+1とカウントし、ステップS406に進む。
【0040】
ステップS406では、ステップS404でしきい値Hと比較した画素が、水平ラインY(v)有効映像領域の右端の画素か識別する。図2でいえば、X軸アドレス:X(1919)であるか識別することになる。右端の画素でない場合はステップS407に進み、右端の画素の場合はステップS423に進む。ステップS407では、次にステップS404の処理を行う対象画素として1つ右隣の画素を選択、つまりはX軸アドレスを+1し、ステップS404に戻る。
【0041】
ステップS408では、ステップS406と同様に、水平ラインY(v)の有効映像領域の右端の画素か識別する。右端の画素でない場合はステップS409に進み、右端の画素の場合はステップS423に進む。ステップS409では、次のステップ410で処理を行う対象画素として1つ右隣の画素を選択、つまりはX軸アドレスを+1し、ステップS410に進む。
【0042】
ステップS410では、対象画素の輝度値が予め定めるしきい値H以上の場合はステップS411に進み、しきい値以上ではない場合はステップS413に進む。ステップS411では、ステップS410でしきい値Hと比較した画素が、水平ラインY(v)有効映像領域の右端の画素か識別する。右端の画素でない場合はステップS412に進み、右端の画素の場合はステップS423に進む。ステップS412では、次に処理を行う対象画素として1つ右隣の画素を選択、つまりはX軸アドレスを+1し、ステップS410に戻る。
【0043】
ステップS413では、対象画素が黒帯に相当する画素であると判断したので、Xeの値を+1とカウントし、ステップS414に進む。ステップS414では、ステップS411と同様に、ステップS410でしきい値Hと比較した画素が、水平ラインY(v)有効映像領域の右端の画素か識別する。右端の画素でない場合はステップS415に進み、右端の画素の場合はステップS423に進む。ステップS415では、次に処理を行う画素として1つ右隣の画素を選択、つまりはX軸アドレスを+1し、ステップS416に進む。
【0044】
ステップS416では、選択した画素の輝度値が予め定めるしきい値H未満の場合はステップS420に進み、しきい値未満ではない場合はステップS417に進む。ステップS417では、黒帯ではない画素と判断したため、Xeの値を0に値をリセットし、ステップS418に進む。S418では、ステップS416で閾値Hと比較した画素が、水平ラインY(v)有効映像領域の右端の画素か識別する。右端の画素でない場合はステップS419に進み、右端の画素の場合はステップS423に進む。ステップS419では、次に処理を行う画素として1つ右隣の画素を選択、つまりはX軸アドレスを+1し、ステップS416に戻る。
【0045】
ステップS420では、対象画素が黒帯に相当する画素であると判断したので、Xeの値を+1とカウントし、ステップS421に進む。ステップS421では、ステップS418と同様に、ステップS416でしきい値Hと比較した画素が、水平ラインY(v)有効映像領域の右端の画素か識別する。右端の画素でない場合はステップS422に進み、右端の画素の場合はステップS423に進む。ステップS422では、次に処理を行う画素として1つ右隣の画素を選択、つまりはX軸アドレスを+1し、ステップS416に戻る。
【0046】
ステップS423では、有効映像領域内の水平ラインY(v)全画素に対し、しきい値Hとの比較処理を修了したことから、水平ラインY(v)におけるXf値及びXe値を確定し、水平ラインY(v)に対する黒帯検出処理を修了する。Xf値もしくはXe値が0でない場合、黒帯検出対象となった立体映像には黒帯が存在することを示し、Xf値が映像左端の黒帯画素数を示し、Xe値が映像右端の黒帯画素数を示すことになる。
【0047】
なお、黒帯検出精度を高めるため、複数の水平ラインに対し上記黒帯検出処理を行い、各々の検出結果を比較し、Xf値の最小値Xf(min)及びXe値の最小値Xe(min)を、最終的な黒帯検出結果とする。これを黒帯幅情報として視差量調整部302に出力する。
【0048】
水平黒帯検出部301での黒帯検出処理については、上記の検出方法に限定されるものではなく、所望の黒帯幅情報が得られる上記以外の検出方法を用いても構わない。
【0049】
続いて、図5を用いて、視差量調整部302が実施する視差量調整処理について説明を行う。
【0050】
まず、ステップS501では、視差量調整部302は、水平黒帯検出部301からの黒帯幅情報をもとに、字幕視差量データを調整する値である変更値McをMc=〔Xf(min)−Xe(min)〕/2の式に当てはめて算出する。算出した変更値Mcはグラフィック挿入部106に出力される。
【0051】
続いて、ステップS502では、グラフィック挿入部106では、グラフィック生成部114が生成した字幕画像と、視差量調整部302からの変更値Mcをもとに、ベース映像に対し字幕画像を合成する。グラフィック挿入部106には左眼用画像と右眼用画像とを識別するための識別信号が入力されている。グラフィック挿入部106では、グラフィック生成部114が生成した左眼用字幕画像と右眼用字幕画像を左眼用画像と右眼用画像にそれぞれ合成する際には変更値Mcを用いて合成画像を変更する。合成画像の変更とは、左右の字幕画像の合成位置を水平方向に移動させる処理である。
【0052】
なお、グラフィック挿入部106内には、映像解析部105及びグラフィック挿入部106での処理遅延に対応するための、ベース映像信号及び字幕画像のラインバッファないしフレームバッファを有し、ベース映像信号に同期したグラフィック挿入処理を実現する。
【0053】
この処理により、図6で示す例のように、左眼映像の左端にnの幅の黒帯がある場合、このnの幅の黒帯を検出し、上記の計算式により、変更値Mcは(n−0)/2=n/2として求められる。左眼用画像への字幕画像の合成位置はもとの合成位置(字幕視差量データで指定された位置)に対してn/2の幅で水平方向に移動することになる。当該処理は、立体映像を構成している左眼用画像及び右眼用画像の全てに対して行うので、字幕画像の合成位置の移動処理も全ての画像毎に行うことになる。もちろん、黒帯画像が検出されない場合には、字幕画像の合成位置の移動処理は不要である。
【0054】
図7は、本実施例の処理によって生成された合成後の映像の遷移を示すものである。この例では、ある字幕文を表示している最中に、その字幕文の字幕画像を合成している立体映像において黒帯画像の領域が変化する様子を示している。図7では、字幕文のイメージとして「ABCDEFGHIJKLMNOPQR」との字幕画像が、左眼用画像及び右眼用画像にそれぞれ合成されている状態である。時間変化に伴い、左眼用画像及び右眼用画像は左右端部に黒帯画像が挿入されている画像に変化している。画像の変化に伴い、左右の字幕画像は、黒帯画像の幅nから求めた変更値Mc=n/2を用いて、字幕データに含まれていた字幕視差量データMによって定められた合成位置からn/2ずらして立体映像を構成する左右の画像に合成している。
【0055】
これにより、黒帯画像が予め挿入された立体映像に対して、字幕やUIなどのグラフィック画像を重畳させる場合に、立体映像の映像全体の視差の変化(立体感の変化)に追従させた、立体視可能なグラフィック画像を合成することが可能となる。なお、この合成処理は左眼用フレーム画像1枚と右眼用フレーム画像1枚からなる1組単位で行われる。
【0056】
ステップS503では、視差量調整部302は、当該1組のフレーム画像の視差量の変更値McをMc’として視差量調整部302内のメモリ(不図示)に保持する。Mc’を第1の変更値とする。
【0057】
続いて、ステップS504では、視差量調整部302は、ステップS502までの処理で合成の対象とした1組のフレーム画像の次の1組のフレーム画像の変更値Mcを新たに算出する。この算出処理は、図4のフローチャートを用いて説明した黒帯画像の検出処理とステップS501で実施した処理と同様であるので説明を省略する。Mcを第2の変更値とする。
【0058】
ステップS505では、視差量調整部302は、メモリに保持した第1の変更値Mc’とステップS504で算出した第2の変更値Mcとの差の絶対値を求め、所定の閾値Zと比較する。この閾値Zは、処理対象の左右のフレーム画像の組と一つ前の左右フレーム画像の組との間の黒帯画像の急激な変化を判断するために設けられたものであり、正の値を有する。即ち、Mc’とMcとの差の絶対値が閾値Zを超える場合には、処理対象の左右のフレーム画像の組と一つ前の左右フレーム画像の組との間で字幕画像の急激な変化が生じる可能性があると判断することができる。
【0059】
もし、Mc’とMcとの差の絶対値が閾値Z以下であれば、左右のフレーム画像の組が次の組に変化しても、黒帯画像の変化は大きくないと判断できる。そこで、ステップS506へ処理を移行し、視差量調整部302はステップS504で算出した変更値Mcをグラフィック挿入部106に出力する。グラフィック挿入部106は変更値Mcを用いて当該組のフレーム画像に対応する字幕視差量データMを調整し、字幕画像の合成処理を実行する。
【0060】
一方、ステップS505にて、Mc’からMcとの差の絶対値が閾値Zより大きいと判断された場合には、ステップS507へ処理を移行する。
【0061】
ステップS507では、視差量調整部302は、McからMc’を減じた値が正の値をとなるか否かを判定する。McからMc’を減じた値が正の値となる場合には、ステップS508へ処理を移行し、McからMc’を減じた値が負の値となる場合には、ステップS509へ処理を移行する。この処理は、左右のフレーム画像の組が次の左右のフレーム画像の組に変わったことで、黒帯画像の幅の値が増加したのか減少したのかを判定する目的で行われる。黒帯画像の幅の値がフレームの組が変わったことで増加したのであれば、映像全体の立体感は視聴者側に飛び出す方向に変化したものと考えることができる。反対に、黒帯画像の幅の値が減少したのであれば、映像全体の立体感は視聴者から遠ざかる方向に変化したものと考えることができる。
【0062】
従って、映像全体が視聴者側に急激に飛び出したり、遠ざかる方向に移動したりするように視認され、それに伴って求めた変更値Mcで字幕の視差量を調整すると、字幕画像の立体感も急激に変化するため、字幕画像の視認性を低下させる可能性がある。そこで、ステップS508やステップS509では、映像全体の立体感の急激な変化に追従して、視差量調整後の字幕画像の変化が大きくなりすぎることが無いように、字幕画像の合成位置の移動を調整するための処理を行う。
【0063】
ステップS508は、前の左右フレーム画像の組と次の左右フレーム画像の組との間での黒帯画像の幅の変化が映像が視聴者側に飛び出す方向に大きい場合の処理となる。視差量調整部302は、黒帯画像の幅から求めた変更値Mcではなく、一つ前の左右のフレーム画像の組の変更値Mc’に閾値Zを加えた値を変更値Mcとする。そして、この値をグラフィック挿入部106に出力し、字幕画像の合成を行う。
【0064】
同様に、ステップS508は、前の左右フレーム画像の組と次の左右フレーム画像の組との間での黒帯画像の幅の変化が映像が視聴者から遠ざかる方向に大きい場合の処理となる。つまり、Mc’からMcを減じた値はマイナスの値となる。視差量調整部302は、黒帯画像の幅から求めた変更値Mcではなく、一つ前の左右のフレーム画像の組の変更値Mc’に閾値Zを減じた値を変更値Mcとする。そして、この値をグラフィック挿入部106に出力し、字幕画像の合成を行う。
【0065】
以上、ステップS506、ステップS508、ステップS509の処理が終了すると、ステップS503に処理を戻し、当該左右のフレーム画像の組に適用した変更値Mcでメモリに記憶された1つ前の組の変更値Mcを更新する。
【0066】
上述した特許文献1のように、左眼用映像と右眼用映像に含まれるオブジェクトを検出して視差量を求めるなどの複雑な構成を用いることなく、かつ、制作者の意図を尊重した字幕の合成を行うことができる。
【0067】
なお、上述した実施例では、立体映像を構成する画像に対して合成するグラフィック画像は、制作者が作成する字幕データを元にした字幕画像とした。しかし、立体映像処理装置が独自にOSD用のグラフィック画像を生成して立体映像に合成することも可能である。例えば、画像の一部にメニュー画面などを合成するような場合である。この場合、制御部A111がグラフィック生成部114に対して、メニュー画面などの立体映像処理装置独自のグラフィック画像の合成指示を行う。グラフィック生成部114では、予め定められて保持していたグラフィック画像の視差量データを用いて、立体映像に合成するメニュー画面画像を生成する。つまり、左眼用グラフィック画像と右眼用グラフィック画像を生成する。なお、この視差量データは、任意の視差量で良いが、必ずしも立体視可能な視差量(つまり、ゼロ以外の値)でなくてもよい。視差量がゼロの場合は立体映像に合成するメニュー画面は表示部の表示面上に表示されることになる。そして、映像解析部105によって算出された変更値Mcを用いて、グラフィック挿入部106がメニュー画面画像の合成位置を移動させて表示することになる。このように構成することで、立体映像処理装置独自のグラフィック画像であっても、黒帯画像の挿入に伴う映像全体の視差の変化に追従させた合成が可能となる。
【0068】
また、上述した実施例では、有効画像領域内の水平方向の端部に設けられた帯画像を黒帯画像として説明したが、必ずしもこの帯画像は黒色である必要は無い。映像への注目度を増すために、単色の黒を用いて帯画像を付加するのが一般的ではあるが、濃いグレーなどの画像など、どのような画像であっても構わない。

【特許請求の範囲】
【請求項1】
視差を有する左眼用フレーム画像と右眼用フレーム画像とを時分割で表示することで映像を立体的に表示することが可能な立体映像処理装置であって、
立体映像を構成する左眼用フレーム画像及び右眼用フレーム画像にそれぞれ合成するための左眼用グラフィック画像及び右眼用グラフィック画像を生成する生成手段と、
左眼用フレーム画像及び右眼用フレーム画像の有効画像領域内の水平方向の端部に設けられた帯画像の水平方向の画素数を検出する解析手段と、
前記解析手段で解析した帯画像の画素数を用いて、当該帯画像を有する左眼用フレーム画像及び右眼用フレーム画像にそれぞれ合成する左眼用グラフィック画像及び右眼用グラフィック画像の視差量が前記左眼用フレーム画像及び前記右眼用フレーム画像の視差量の変化に追従するように、前記左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量を調整するための変更値を生成する調整手段と、
前記調整手段で生成された変更値を用いて前記左眼用グラフィック画像及び前記右眼用グラフィック画像を水平方向に移動させ、前記左眼用フレーム画像及び前記右眼用フレーム画像のそれぞれに合成する合成手段と、
を有することを特徴とする立体映像処理装置。
【請求項2】
前記調整手段は、前記左眼用フレーム画像及び前記右眼用フレーム画像の一つの組に合成する前記左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量の第1の変更値と、前記一つの組の次の組に合成する左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量の第2の変更値との差の絶対値が所定の閾値よりも大きい場合には、前記第2の変更値に替えて前記第1の変更値と前記閾値とを用いた変更値を生成することを特徴とする請求項1に記載の立体映像処理装置。
【請求項3】
視差を有する左眼用フレーム画像と右眼用フレーム画像とを時分割で表示することで映像を立体的に表示することが可能な立体映像処理装置の制御方法であって、
立体映像を構成する左眼用フレーム画像及び右眼用フレーム画像にそれぞれ合成するための左眼用グラフィック画像及び右眼用グラフィック画像を生成する生成工程と、
左眼用フレーム画像及び右眼用フレーム画像の有効画像領域内の水平方向の端部に設けられた帯画像の水平方向の画素数を検出する解析工程と、
前記解析工程で解析した帯画像の画素数を用いて、当該帯画像を有する左眼用フレーム画像及び右眼用フレーム画像にそれぞれ合成する左眼用グラフィック画像及び右眼用グラフィック画像の視差量が前記左眼用フレーム画像及び前記右眼用フレーム画像の視差量の変化に追従するように、前記左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量を調整するための変更値を生成する調整工程と、
前記調整工程で生成された変更値を用いて前記左眼用グラフィック画像及び前記右眼用グラフィック画像を水平方向に移動させ、前記左眼用フレーム画像及び前記右眼用フレーム画像のそれぞれに合成する合成工程と、
を有することを特徴とする立体映像処理装置の制御方法。
【請求項4】
前記調整工程では、前記左眼用フレーム画像及び前記右眼用フレーム画像の一つの組に合成する前記左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量の第1の変更値と、前記一つの組の次の組に合成する左眼用グラフィック画像及び前記右眼用グラフィック画像の視差量の第2の変更値との差の絶対値が所定の閾値よりも大きい場合には、前記第2の変更値に替えて前記第1の変更値と前記閾値とを用いた変更値を生成することを特徴とする請求項3に記載の立体映像処理装置の制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2011−130133(P2011−130133A)
【公開日】平成23年6月30日(2011.6.30)
【国際特許分類】
【出願番号】特願2009−285776(P2009−285776)
【出願日】平成21年12月16日(2009.12.16)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】