ステレオ映像信号制御方法、制御装置及び制御プログラム
【課題】複数の観察者が視聴した場合でも、各個人が眼精疲労をあまり感じることのない高臨場なステレオ映像を表示する。
【解決手段】視差変化量測定部103は、視差量測定部102から入力された代表視差量のフレーム間における視差の時間変化量である視差変化量を求める。出力制御部104は、入力映像フレームレート、表示映像フレームレート及びフレーム更新期間倍率と、文字検出部101からの文字の有無情報、視差変化量測定部103からの視差変化量とに応じてフレーム更新期間FTを決定する。フレーム補間部106は、出力制御部104からのフレーム更新期間FTに従って右目用映像信号と左目用映像信号の各フレームをそれぞれ出力する。フレーム補間部106は、フレーム更新期間FTの間に表示時刻があれば、右目用映像信号と左目用映像信号それぞれの補間フレームを生成して出力する。
【解決手段】視差変化量測定部103は、視差量測定部102から入力された代表視差量のフレーム間における視差の時間変化量である視差変化量を求める。出力制御部104は、入力映像フレームレート、表示映像フレームレート及びフレーム更新期間倍率と、文字検出部101からの文字の有無情報、視差変化量測定部103からの視差変化量とに応じてフレーム更新期間FTを決定する。フレーム補間部106は、出力制御部104からのフレーム更新期間FTに従って右目用映像信号と左目用映像信号の各フレームをそれぞれ出力する。フレーム補間部106は、フレーム更新期間FTの間に表示時刻があれば、右目用映像信号と左目用映像信号それぞれの補間フレームを生成して出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明はステレオ映像信号制御方法、制御装置及び制御プログラムに係り、特に入力映像のフレームレートよりも高い表示映像フレームレートを持つような表示装置により立体映像であるステレオ映像を表示させるステレオ映像信号制御方法、制御装置及び制御プログラムに関する。
【背景技術】
【0002】
従来から両眼視差を利用した様々なステレオ映像表示方式が提案されている。代表的な方式として、観察者が液晶シャッター眼鏡あるいは偏光眼鏡をかけて立体映像(ステレオ映像)を観察する両眼視差を利用したステレオ映像方式がある。液晶シャッターを用いるステレオ映像方式では、左目用の映像と右目用の映像とをモニタ上に時分割で表示し、液晶シャッター眼鏡をかけた観察者が、左目用の映像を左目で、右目用の映像を右目で見ることにより立体映像を観察する。また、偏光眼鏡を用いるステレオ映像方式では、左目用の視差映像と右目用の視差映像とを空間分割でモニタ上に表示し、偏光眼鏡をかけた観察者が左目用の視差映像を左目で、右目用の視差映像を右目で見ることにより立体映像を観察する。
【0003】
このような両眼視差を利用したステレオ映像方式の視聴において、観察者が眼精疲労や不快感を生じることが知られている。眼精疲労や不快感を生じる主原因の一つに輻輳と調整の不整合がある。輻輳と調整の不整合について簡単に説明する。人間は両眼の視線を立体像に集中させる(輻輳距離)。一方で、人間の目の水晶体はモニタ上の像にピントを調整する(調整距離)。自然界の状態では輻輳距離と調整距離は一致しているが、両眼視差を利用したモニタでは輻輳距離と調整距離が一致しない。この不整合のために、眼精疲労や不快感が生じることが知られている。また、この輻輳と調整の不整合が長時間連続する場合や急激に変化する場合に眼精疲労や不快感が強くなることが知られている。
【0004】
このような輻輳と調整の不整合を軽減させるための発明が従来よりなされている。
【0005】
特許文献1記載の発明では、右目用映像と奥行き情報とから左目用映像を生成するとき、奥行き情報が大きく変化する瞬間をシーンチェンジとして検出し、大きく変化する奥行き情報を緩やかに変換し、輻輳と調整の不整合を軽減している。
【0006】
特許文献2記載の発明では、視差を検出し、検出した視差量に応じて疲労度を評価し、評価した疲労度に応じて平面映像とステレオ映像とを切り替えることで、輻輳と調整の不整合を軽減している。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平10−40420号公報
【特許文献2】特開平11−355808号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、特許文献1記載の発明では、左目用映像を右目用映像から生成するため、本来左目用映像と右目用映像からなるステレオ映像に適用した場合には、本来のステレオ映像とは異なる奥行き感となり、本来のステレオ映像の持つ高臨場なステレオ映像を実現することができない。また、左目用映像を右目用映像から作成する処理が必要となる。
【0009】
また、特許文献2記載の発明では、ヘッドマウントディスプレイなど個人で視聴するような環境であれば問題ないが、リビングルームなどで1台のディスプレイを多人数で視聴するような環境の場合に、各個人の疲労度の相違によって、本来視聴可能な高臨場のステレオ映像を見ることができない人が発生する。
【0010】
本発明は以上の点に鑑みなされたもので、複数の観察者が視聴した場合でも、各個人が眼精疲労をあまり感じることのない高臨場なステレオ映像を表示し得るステレオ映像信号制御方法、制御装置及び制御プログラムを提供することを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するため、第1の発明のステレオ映像信号制御方法は、入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する第1のステップと、第1のステップで測定された視差量のフレーム間における視差の時間変化量である視差変化量を測定する第2のステップと、第2のステップにより測定された視差変化量が大きいほど、入力されるステレオ映像信号の備える右目用映像信号及び左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、視差変化量が小さいほど、右目用映像信号及び左目用映像信号のフレーム更新期間が、定常状態のフレーム更新期間よりも短い最小値として設定された所定の表示フレーム期間までの範囲内で短くなるように、フレーム更新期間を決定する第3のステップと、入力されるステレオ映像信号の備える右目用映像信号及び左目用映像信号のフレーム更新期間が、第3のステップで決定したフレーム更新期間となるように、右目用映像信号及び左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された右目用映像信号及び左目用映像信号における所定の表示フレーム期間よりも長いフレーム更新期間に、右目用映像信号及び左目用映像信号のそれぞれに対して生成した補間フレームを挿入して、ステレオ映像信号を所定の表示フレーム期間の信号とする第4のステップとを含むことを特徴とする。
【0012】
また、上記目的を達成するため、第1の発明のステレオ映像信号制御方法は、入力される右目用映像信号及び左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する第5のステップを更に含み、第4のステップは、第5のステップにより文字情報を含むことが検出された右目用映像信号及び左目用映像信号に対しては、フレーム更新期間が定常状態のフレーム更新期間となるように調整時間を制御し、第5のステップにより文字情報を含まないことが検出された右目用映像信号及び左目用映像信号に対しては、予め設定された最小値から最大値の範囲内で視差変化量に応じてフレーム更新期間を設定するように、調整時間をフレーム単位で制御することを特徴とする。
【0013】
また、上記の目的を達成するため、第3の発明のステレオ映像信号制御方法は、上記第4のステップは、フレーム更新期間の設定対象であるフレームにおいて、視差変化量に応じて設定されたフレーム更新期間と、その設定されたフレーム更新期間が得られるように右目用映像信号及び左目用映像信号に与えられる調整時間と、定常状態のフレーム更新期間とから、設定対象であるフレームの次のフレームにおける、全フレーム更新期間が定常状態である場合に対する遅延時間を算出し、次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、設定されたフレーム更新期間が定常状態のフレーム更新期間よりも長いときは、設定されたフレーム更新期間を、定常状態のフレーム更新期間に訂正することを特徴とする。
【0014】
また、上記の目的を達成するため、第4の発明のステレオ映像信号制御装置は、入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する視差量測定手段と、視差量測定手段から入力される視差量のフレーム間における視差の時間変化量である視差変化量を測定する視差変化量測定手段と、入力される右目用映像信号及び左目用映像信号のそれぞれに対して生成した補間フレームを、入力される右目用映像信号及び左目用映像信号のそれぞれに挿入し、フレーム期間を所定の表示フレーム期間としたステレオ映像信号を出力するフレーム補間手段と、視差変化量測定手段により測定された視差変化量が大きいほど、入力されるステレオ映像信号の備える右目用映像信号及び左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、視差変化量が小さいほど、右目用映像信号及び左目用映像信号のフレーム更新期間が、定常状態のフレーム更新期間よりも短い最小値として設定された所定の表示フレーム期間までの範囲内で短くなるように、フレーム補間手段による右目用映像信号及び左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された右目用映像信号及び左目用映像信号における所定の表示フレーム期間よりも長いフレーム更新期間に補間フレームを挿入させて、ステレオ映像信号が所定の表示フレーム期間の信号として出力されるように、フレーム補間手段を制御する出力制御手段とを有することを特徴とする。
【0015】
また、上記の目的を達成するため、第5の発明のステレオ映像信号制御装置は、入力される右目用映像信号及び左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する文字検出手段を更に有し、出力制御手段は、文字検出手段により文字情報を含むことが検出された右目用映像信号及び左目用映像信号に対しては、フレーム更新期間が定常状態のフレーム更新期間となるように、フレーム補間手段による調整時間を制御し、文字検出手段により文字情報を含まないことが検出された右目用映像信号及び左目用映像信号に対しては、予め設定された最小値から最大値の範囲内で視差変化量に応じてフレーム更新期間を設定するように、フレーム補間手段による調整時間をフレーム単位で制御することを特徴とする。
【0016】
また、上記の目的を達成するため、第6の発明のステレオ映像信号制御装置は、上記出力制御手段は、フレーム更新期間の設定対象であるフレームにおいて、視差変化量に応じて設定されたフレーム更新期間と、その設定されたフレーム更新期間が得られるようにフレーム補間手段において右目用映像信号及び左目用映像信号に与えられる調整時間と、定常状態のフレーム更新期間とから、設定対象であるフレームの次のフレームにおける、全フレーム更新期間が定常状態である場合に対する遅延時間を算出し、次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、設定されたフレーム更新期間が定常状態のフレーム更新期間よりも長いときは、設定されたフレーム更新期間を、定常状態のフレーム更新期間に訂正することを特徴とする。
【0017】
更に、上記の目的を達成するため、本発明のステレオ映像信号制御プログラムは、第1の発明のステレオ映像信号制御方法における各ステップをコンピュータにより実行させることを特徴とする。
【発明の効果】
【0018】
本発明によれば、ステレオ映像信号の視差変化量が大きいフレームではフレーム更新期間を定常状態よりも長くし、視差変化量が小さいフレームではフレーム更新期間を定常状態よりも短くすることで、ステレオ映像の視聴の際の視差変化量を平均化でき、観察者の眼精疲労や不快感を低減させることができる。
【0019】
また、本発明によれば、リビングルームなどで1台のディスプレイを多人数で視聴するような環境の場合でも、観察者全員に高臨場のステレオ映像を提供することができる。
【図面の簡単な説明】
【0020】
【図1】本発明のステレオ映像信号制御装置の第1の実施の形態のブロック図である。
【図2】図1に示す本発明装置の動作説明用フローチャートである。
【図3】図1のフレーム補間部の動作の一例を説明する図である。
【図4】図1のフレーム補間部の動作の他の例を説明する図である。
【図5】定常状態の入力映像フレームと表示映像フレームとの関係の一例を説明するタイミングチャートである。
【図6】図1に示す本発明装置のフレーム更新期間FTの決定方法の一例を説明するフローチャートである。
【図7】フレーム更新期間FTに関する関数の一例を示す図である。
【図8】図1に示す本発明装置のフレーム更新期間FTの決定例を示す図である。
【図9】図1に示す本発明装置による入力映像フレームと表示映像フレームとの関係を説明するタイミングチャートである。
【図10】本発明のステレオ映像信号制御装置の第2の実施の形態のブロック図である。
【図11】図10に示す本発明装置のフレーム更新期間FTの決定方法の一例を説明するフローチャートである。
【図12】図10に示す本発明装置の入力映像フレームと表示映像フレームとの関係を説明するタイミングチャートである。
【図13】図10に示す本発明装置のフレーム更新期間FTの決定例を示す図である。
【発明を実施するための形態】
【0021】
次に、本発明の実施の形態について図面と共に説明する。
【0022】
(第1の実施の形態)
図1は本発明になるステレオ映像信号制御装置の第1の実施の形態のブロック図を示す。同図に示すように、第1の実施の形態のステレオ映像信号制御装置100は、文字検出部101、視差量測定部102、視差変化量測定部103、出力制御部104、フレームメモリ105及びフレーム補間部106から構成される。
【0023】
ステレオ映像信号制御装置100には右目用映像信号と左目用映像信号がそれぞれフレーム単位で入力される。例えば、右目用映像信号と左目用映像信号がインタレース信号である場合には事前にプログレッシブ化されていることを前提とする。映像表示部150は、フレーム補間部106から出力される左目用映像信号と右目用映像信号とをそれぞれ公知の両眼視差を利用したステレオ映像方式で表示する。
【0024】
次に、本実施の形態のステレオ映像信号制御装置100の動作について図2のフローチャート等を併せ参照して説明する。
【0025】
右目用映像信号は、文字検出部101、視差量測定部102及びフレームメモリ105に供給される。一方、左目用映像信号は、視差量測定部102及びフレームメモリ105に供給され、文字検出部101には供給されない。なお、右目用映像信号と左目用映像信号の供給先を逆にしてもよい。
【0026】
文字検出部101は、入力された右目用映像信号の予め設定した所定領域の輝度レベルについてブロック単位でヒストグラムを求めるなどして、フレーム内の文字の有無を検出する(ステップS11)。文字検出部101は、上記のヒストグラムが或る特定ブロックで周辺ブロックに比べて所定の閾値より大きいとき、文字が有ると検出する。文字検出部101は、フレーム内の所定領域から検出した文字の有無情報Lを出力制御部104に供給する。なお、上記の所定領域は、一般的に字幕などの文字が頻繁に表示される領域であるが、画面全体の領域であってもよい。
【0027】
視差量測定部102は、入力された右目用映像信号と左目用映像信号との間の視差量を測定する(ステップS12)。視差量測定部102は、右目用映像信号及び左目用映像信号の一画面領域をそれぞれ矩形の複数のブロックに分割したときの各ブロックのうち、両映像信号の対応するブロック同士毎に求めた視差量について、フレーム全体の平均値、フレーム内の最大値、1つ又は複数の注目点の視差量の最大値などのうち、予め定めた値を代表視差量Pとする視差量測定を行う。視差量測定部102は、測定した代表視差量Pを視差変化量測定部103に供給する。
【0028】
ここで、視差量の測定方法の一例について更に説明する。周知の通り、ステレオ映像における視差は、右目用映像信号と左目用映像信号との間における水平方向のずれ量として観測できる。従って、視差の測定は、対象画素ブロックの水平位置と同じ水平線(エピポーラライン)上を、例えば水平方向4画素、垂直方向4画素のブロック単位でブロックマッチングにより測定する。
【0029】
視差変化量測定部103は、視差量測定部102から入力された代表視差量Pのフレーム間における視差の時間変化量である視差変化量λを求める(ステップS13)。ここで、視差変化量測定部103は、時刻iの視差変化量λ(i)を、時刻iの代表視差量P(i)と時刻i−1の代表視差量P(i−1)とから次式のように算出する。
【0030】
λ(i)=P(i) − P(i-1) (1)
視差変化量測定部103は、求めた視差変化量λを出力制御部104に供給する。
【0031】
出力制御部104は、端子110より映像表示部150の表示映像フレームレートPFR、入力映像信号の入力映像フレームレートIFR、及びフレーム更新期間倍率βが設定される。出力制御部104は、これらの入力映像フレームレートIFR、表示映像フレームレートPFR、及びフレーム更新期間倍率βと、文字検出部101から入力された文字の有無情報L、視差変化量測定部103から入力された視差変化量λとに応じてフレーム更新期間FTを決定する(ステップS14)。ここで、フレーム更新期間FTは、ステレオ映像信号制御装置100に入力された右目用映像信号及び左目用映像信号がそれぞれ元々有するフレームにおける、ステレオ映像信号制御装置100から映像表示部150へ出力されるときのそれぞれの信号でのフレーム間隔を示す。出力制御部104は、フレーム補間部106にフレーム更新期間FTを供給する。なお、出力制御部104の詳細な動作については後述する。
【0032】
フレームメモリ105は、入力される右目用映像信号と左目用映像信号とをそれぞれ1フレーム分一時的に記憶し、フレーム補間部106に空きがあれば1フレーム分の右目用映像と左目用映像信号とをフレーム補間部106に供給する。フレームメモリ105は、フレーム補間部106に空きがなければ、フレーム補間部106に空きができるまで右目用映像信号と左目用映像信号とをフレーム単位で保持し、フレーム補間部106に空きができれば時間的に古いフレームの右目用映像信号及び左目用映像信号からフレーム補間部106に供給する。
【0033】
フレーム補間部106は、フレームメモリ105から入力された右目用映像信号と左目用映像信号の各フレームを最大でそれぞれ2フレーム分記憶し、出力制御部104からのフレーム更新期間FTに従って右目用映像信号と左目用映像信号の各フレームをそれぞれ出力する。フレーム補間部106内の出力後の右目用映像信号と左目用映像信号の各フレームは、フレーム更新期間FTの経過後に削除される。また、フレーム補間部106は、フレーム更新期間FTの間に表示時刻があれば、右目用映像信号と左目用映像信号それぞれの補間フレームを生成して出力する(ステップS15)。これにより、フレーム補間部106は、右目用映像信号及び左目用映像信号からなるステレオ映像信号、又はそれらの補間フレームからなるステレオ映像信号を所定の表示フレーム期間(所定の表示フレームレート)でフレーム単位に出力する。
【0034】
ここで、フレーム補間部106による補間フレーム生成方法の一例について図3及び図4を用いて説明する。図3は、内挿的な補間方法を説明する図である。フレーム補間部106は、内挿的な補間方法で補間フレームを生成する場合は、まず、入力映像フレームF(k)を例えば、水平方向4画素、垂直方向4画素のブロック単位に分割し、参照フレームを入力映像フレームF(k−1)としてそれぞれのブロックについて一般的なブロックマッチング方法によって、図3(a)に示すような動きベクトルMVF(k)を求める。
【0035】
いま、入力映像フレームF(k−1)とF(k)のフレーム期間が「4」、入力映像フレームF(k−1)と補間フレームG(k)のフレーム期間が「1」であるとすると、フレーム補間部106は、補間フレームG(k)の動きベクトルMVG(k)を次式で求め、動き補償予測により補間フレームG(k)を生成する。
【0036】
MVG(k)=MVF(k)×1/4 (2)
図3(b)は、補間フレームG(k)の動きベクトルMVG(k)と動きベクトルMVF(k)との関係を示す。
【0037】
フレーム補間部106は、補間フレームG(k+1)、G(k+2)の各々の動きベクトルMVG(k+1)、MVG(k+2)も同様に次式で求める。
【0038】
MVG(k+1)=MVF(k)×2/4 (3)
MVG(k+2)=MVF(k)×3/4 (4)
図4は、外挿的な補間方法を説明する図である。フレーム補間部106は、外挿的な補間方法で補間フレームを生成する場合は、まず、入力映像フレームF(k)を例えば、水平方向4画素、垂直方向4画素のブロック単位に分割し、参照フレームを入力映像フレームF(k−1)としてそれぞれのブロックについて一般的なブロックマッチング方法によって、図4(a)に示すような動きベクトルMVF(k)を求める。
【0039】
いま、入力映像フレームF(k−1)とF(k)のフレーム期間が「1」、入力映像フレームF(k−1)と補間フレームG(k)のフレーム期間が「2」であるとすると、フレーム補間部106は、補間フレームG(k)の動きベクトルMVG(k)を次式で求め、動き補償予測により補間フレームG(k)を生成する。
【0040】
MVG(k)=MVF(k)×2 (5)
図4(b)は、補間フレームG(k)の動きベクトルMVG(k)と動きベクトルMVF(k)との関係を示す。
【0041】
フレーム補間部106は、補間フレームG(k+1)、G(k+2)の各々の動きベクトルMVG(k+1)、MVG(k+2)も同様に次式で求める。
【0042】
MVG(k+1)=MVF(k)×3 (6)
MVG(k+2)=MVF(k)×4 (7)
以下、本実施の形態では特に断らない限り、内挿的な補間方法を用いた場合について説明する。なお、フレーム補間部106の出力制御の詳細な動作については後述する。
【0043】
映像表示部150は、フレーム補間部106から入力された右目用映像信号と左目用映像信号の各フレームをそれぞれ公知の両眼視差を利用したステレオ映像方式で表示する(ステップS16)。
【0044】
次に、本実施の形態の各部について詳細に説明する。
【0045】
最初に、表示映像フレームレートPFRと入力映像フレームレートIFRの関係について説明する。表示映像フレームレートPFRは、映像表示部150の表示映像フレームレートである。入力映像フレームレートIFRは、ステレオ映像信号制御装置100に入力されるプログレッシブ化されたステレオ映像信号(右目用映像信号及び左目用映像信号)のフレームレートである。この入力映像フレームレートIFRは、ステレオ映像信号制御装置100に入力される右目用映像信号及び左目用映像信号の元々の定常状態のフレーム更新期間に対応したレートである。
【0046】
表示映像フレームレートPFRと入力映像フレームレートIFRとの比を倍速率αとすると、次式の関係が成り立つ。
【0047】
α=PFR/IFR (PFR≧IFR) (8)
本実施の形態では、入力映像フレームレートIFRを60(フレーム/秒)、表示映像フレームレートPFRを120(フレーム/秒)とする。従って、本実施の形態の倍速率αは(8)式から「2」となる。ただし、表示映像フレームレートPFRと入力映像フレームレートIFRは、上記の例に限定されるものではない。
【0048】
次に、視差変化量が変化しない定常状態の場合の入力映像フレームと表示映像フレームとの関係について図5を用いて説明する。図5(a)は表示映像フレームレートPFRの表示フレーム間隔、図5(b)は入力映像フレームレートIFRの入力映像フレーム、図5(c)は表示映像フレームレートPFRの表示映像フレームの様子を模式的に示している。なお、図5は右目用映像信号の様子を示しているが、左目用映像信号についても同様である。
【0049】
図5(b)に示す入力映像フレームは、時刻t(i)でフレームF(j)が入力され、時刻t(i+2)でフレームF(j+1)が入力され、以下、時刻t(i+n)でフレームF(j+n/2)が入力される様子を示している(n=0,1,2,3,・・・)。
【0050】
図5(c)に示す表示映像フレームは、時刻t(i+1)でフレームF(j)が表示され、時刻t(i+2)で補間フレームG(j)が表示され、時刻t(i+3)でフレームF(j+1)が表示され、時刻t(i+4)で補間フレームG(j+1)が表示され、以下順次表示されるフレームの様子を示している。
【0051】
ここで、補間フレームG(j)はフレームF(j)とフレームF(j+1)とから内挿的に補間され、補間フレームG(j+1)は同様にフレームF(j+1)とフレームF(j+2)とから補間されるとする。なお、補間フレームを作成するため遅延が生じ、フレームF(j)を表示する時刻は図5(c)に示すように、時刻t(i+1)となる。
【0052】
なお、外挿的に補間フレームを生成する場合には遅延をなくすことも可能である。
【0053】
次に、出力制御部104の前記ステップS14によるフレーム更新期間FTの決定動作について詳細に説明する。
【0054】
最初に、出力制御部104は、フレーム更新期間FTの最小値FTminと最大値FTmaxとを、倍速率α及びフレーム更新期間倍率βから次式により求める。
【0055】
FTmin=1 (9)
FTmax=α×β (10)
フレーム更新期間FTは、FTminとFTmaxとの間の整数値をとるものとする。本実施の形態では(8)式からα=2、図5(c)からβ=2であるため、(10)式からFTmax=4となる。
【0056】
なお、フレーム更新期間倍率βは、フレーム更新期間の最大値FTmaxを調整するためのパラメータである。このフレーム更新期間倍率βを大きくすることでフレーム更新期間の最大値FTmaxを大きくして、フレームの表示速度をよりゆっくりと見易く調整できる。
【0057】
次に、出力制御部104は、フレーム単位で文字の有無情報L及び視差変化量λからフレーム更新期間FTを決定し、決定したフレーム更新期間FTをフレーム補間部106に供給する。
【0058】
フレーム更新期間FTの決定方法について、図6に示すフローチャートを用いて説明する。出力制御部104は、最初に、文字の有無情報LがYES(文字が有)であるかどうか検査する(ステップS21)。
【0059】
文字の有無情報LがYESである場合は、フレーム更新期間FTを倍速率αと同じ値に設定する(ステップS22)。これによって、テロップが流れるような入力映像フレームに対しては、そのフレーム表示期間を定常状態とすることができる。
【0060】
文字の有無情報LがNO(文字が無)である場合は、出力制御部104は、フレーム更新期間FTを次式により求める(ステップS23)。
【0061】
FT=f(λ) (11)
ここで、(11)式においてf(λ)は暫定フレーム期間で、図7に示すように視差変化量λに比例してFTmin(ここでは、1)からFTmax(ここでは、4)まで自然数単位で変化し、かつ、FT=α(ここでは、2)が最も選択され易い特性を持つ関数である。
【0062】
次に、フレーム補間部106の動作について図8、図9を用いて詳細に説明する。図8は、フレーム更新期間FTの決定例を示す図、図9は、本実施の形態のステレオ映像信号制御装置100による入力映像フレームと表示映像フレームとの関係を説明するタイミングチャートを示す。
【0063】
例えば、出力制御部104によってF(0)からF(7)までの各入力映像フレームのフレーム更新期間FTが図8のように決定したとする。このとき、フレーム補間部106は、図9(c)に模式的に示すように映像フレームが表示されるように、入力映像フレームを出力する。すなわち、フレーム補間部106は、最初に図9(b)に模式的に示す時刻t0の入力映像フレームF(0)を、同図(c)に模式的に示すように時刻t1で出力する。続いて、フレーム補間部106は、同図(b)に模式的に示す時刻t2の入力映像フレームF(1)を、F(0)のフレーム更新期間FTが「4」であるため同図(c)に模式的に示すように、F(0)の出力時刻t1の4フレーム後の時刻t5で出力する。上記の時刻t1と時刻t5との間の時刻t2、t3、t4については、フレーム補間部106は、図9(c)に模式的に示すように、補間フレームG(0)、G(1)、G(2)を生成して出力する。
【0064】
続く入力映像フレームF(2)は図8に示したようにF(1)のフレーム更新期間FTが「3」であるため、フレーム補間部106は、図9(c)に模式的に示すように、入力映像フレームF(2)を、直前の映像フレームF(1)の出力時刻t5の3フレーム後の時刻t8で出力する。上記の時刻t5と時刻t8との間の時刻t6、t7については、フレーム補間部106は、図9(c)に模式的に示すように、補間フレームG(3)、G(4)を生成して出力する。フレーム補間部106は、以下同様の動作を行う。映像表示部150は、図9(c)に模式的に示したタイミングで同期して入力される右目映像信号と左目映像信号の各映像フレームを表示する。従って、フレーム補間部106が入力映像フレーム又は補間フレームを映像表示部150へ出力する時刻は、表示時刻に等しい。
【0065】
以上のように、本実施の形態のステレオ映像信号制御装置100によれば、視差変化量λが倍速率αより大きい入力映像フレームに対してはフレーム更新期間FTを定常状態(表示映像フレームレートPFRで表示する状態)よりも長くし、視差変化量λが倍速率αより小さい入力映像フレームに対してはフレーム更新期間FTを定常状態よりも短くすることで、視差変化量を平均化でき、その結果、眼精疲労や不快感を低減させることができる。
【0066】
また、本実施の形態のステレオ映像信号制御装置100によれば、本来の入力映像の表示時刻からの遅延時間によって、補間フレームの数を制御することで本来のステレオ映像の持つ高臨場感と眼精疲労や不快感の低減を両立することができる。また、奥行き感を調整する必要がないため、本来のステレオ映像の持つ奥行き感を損なうことがなく、また、奥行き感を調整するための余計な装置が必要ない。
【0067】
更に、本実施の形態のステレオ映像信号制御装置100によれば、ヘッドマウントディスプレイなど個人で視聴するような環境に限定されず、リビングルームなどで1台のディスプレイを多人数で視聴するような環境でも、観察者全員に高臨場のステレオ映像を提供することができる。
【0068】
(第2の実施の形態)
次に、本発明の第2の実施の形態について図面と共に説明する。
【0069】
図10は、本発明になるステレオ映像信号制御装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。図10において、第2の実施の形態のステレオ映像信号制御装置200は、文字検出部101、視差量測定部102、視差変化量測定部103、フレームメモリ105、出力制御部201、フレーム更新期間訂正部202及びフレーム補間部106から構成される。本実施の形態のステレオ映像信号制御装置200は、第1の実施の形態のステレオ映像信号制御装置100の構成に加えてフレーム更新期間訂正部202を設けると共に、出力制御部201がフレーム更新期間訂正部202に対してフレーム更新期間FTを供給し、また、フレーム更新期間訂正部202からの訂正されたフレーム更新期間FTが入力される構成に特徴がある。
【0070】
フレーム更新期間訂正部202は、端子120より最大遅延時間LTmaxが設定される。フレーム更新期間訂正部202は、出力制御部201から入力されたフレーム更新期間FTを、必要に応じて訂正して出力制御部201に供給する。
【0071】
次に、フレーム更新期間訂正部202によるフレーム更新期間FTの訂正方法について、図11のフローチャートを併せ参照して詳細に説明する。図11において、ステップS31、S32、S33の出力制御部201の処理動作は、図6に示した第1の実施の形態のステップS21、S22、S23の出力制御部104の処理動作と同じであるため、その説明は省略する。
【0072】
フレーム更新期間訂正部202は、ステップS32又はS33により決定されたフレーム更新期間FTが出力制御部201から入力されると、そのフレーム更新期間FTと定常状態のフレーム更新期間FTOとから次式によって次フレームの遅延時間NLTを算出する(ステップS34)。なお、次式において、LTは入力映像フレームの遅延時間であり、初期値は「0」である。また、定常状態のフレーム更新期間FTOは、倍速率αに等しい。
【0073】
NLT=LT+(FT−FTO) (12)
次に、フレーム更新期間訂正部202は、算出した次フレームの遅延時間NLTが端子120から入力された最大遅延時間LTmaxよりも長いかどうか比較する(ステップS35)。次フレームの遅延時間NLTが最大遅延時間LTmaxよりも長いときは、フレーム更新期間訂正部202は、フレーム更新期間FTが倍速率αよりも大きいかどうか比較する(ステップ36)。そして、フレーム更新期間訂正部202は、フレーム更新期間FTが倍速率αよりも大きければ、フレーム更新期間FTを倍速率αと同じ値に訂正する(ステップS37)。
【0074】
その他の場合、すなわち、次フレームの遅延時間NLTが最大遅延時間LTmax以下である場合(ステップS35のNO)、又はフレーム更新期間FTが倍速率α以下である場合(ステップS36のNO)は、フレーム更新期間訂正部202は、フレーム更新期間FTの訂正はしない。最後に、フレーム更新期間訂正部202は、フレーム更新期間FTと定常状態のフレーム更新期間FTOとから次式により遅延時間LTを算出する(ステップS38)。
【0075】
LT=LT+(FT−FTO) (13)
このようにして、フレーム更新期間訂正部202において算出された遅延時間LTは、図10の出力制御部201に供給される。
【0076】
次に、フレーム更新期間FTの訂正の具体例について図12及び図13を併せ参照して詳細に説明する。図12は、フレーム更新期間FTの訂正動作を説明するタイミングチャートで、同図(a)は表示フレーム間隔、同図(b)は入力映像フレーム、同図(c)は定常状態の表示映像フレーム、同図(d)は第1の実施の形態(実施形態1)による表示映像フレーム、同図(e)は本実施の形態による表示映像フレームを模式的に示す。また、図13は、遅延時間LT、訂正前のフレーム更新期間FT、次フレームの遅延時間NLT、訂正後のフレーム更新期間FTの入力映像フレーム単位の値の変化を示す。
【0077】
まず、第1の実施の形態における表示映像フレームの遅延時間について説明する。図1に示した出力制御部104が、図13の訂正前のフレーム更新期間FTに示すように各入力映像フレームのフレーム更新期間FTを決定したものとする。第1の実施の形態においては、出力制御部104が決定したフレーム更新期間FTをそのまま利用するため、各表示映像フレームは、図12(d)に示すようになる。
【0078】
従って、このときの定常状態の表示映像フレームに対する表示映像フレームの遅延時間LTは、図12(c)、(d)に示すように、表示映像フレームF(0)の遅延時間LT(0)は0フレーム、表示映像フレームF(1)の遅延時間LT(1)は2フレーム、表示映像フレームF(2)の遅延時間LT(2)は4フレーム、表示映像フレームF(3)の遅延時間LT(3)は6フレーム、表示映像フレームF(4)の遅延時間LT(4)は7フレームとなる。
【0079】
次に、本実施の形態における表示映像フレームの遅延時間について説明する。図10に示した出力制御部201が、上記と同様に図13の訂正前のフレーム更新期間FTに示すように各入力映像フレームのフレーム更新期間FTを決定したものとする。
【0080】
本実施の形態のステレオ映像信号制御装置200は、前述したように、決定したフレーム更新期間FTをそのまま用いるのではなく、(12)式によりFTを用いて次フレームの更新期間NLTを算出し、その次フレームの更新期間NLTと最大遅延時間LTmaxとを比較し、NLTがLTmaxより長く、かつ、FTがαよりも大きければフレーム更新期間FTを倍速率αと同じ値に訂正する。このため、最大遅延時間LTmaxを4フレームとし、倍速率αを第1の実施の形態と同様に「2」とした場合、フレーム更新期間FTは図13に「訂正後FT」で示すように、次フレームの更新期間NLTが最大遅延時間LTmaxを超える表示映像フレームF(2)、F(3)において「2フレーム」に訂正される。
【0081】
従って、本実施の形態のステレオ映像信号制御装置200によれば、各表示映像フレームは、図12(e)に示すようになる。このときの定常状態の表示映像フレームに対する表示映像フレームの遅延時間LTは、図12(c)、(e)に示すように、表示映像フレームF(0)の遅延時間LT(0)は0フレーム、表示映像フレームF(1)の遅延時間LT(1)は2フレーム、表示映像フレームF(2)の遅延時間LT(2)は4フレーム、表示映像フレームF(3)の遅延時間LT(3)は4フレーム、表示映像フレームF(4)の遅延時間LT(4)は4フレームとなる。
【0082】
このように、本実施の形態によれば、最大遅延時間LTmaxを設定することで、視差変化量が大きなシーンが連続する場合、第1の実施の形態ではLT(3)、LT(4)が6フレーム、7フレームというように表示遅延が発生していたのに対し、LT(3)、LT(4)がそれぞれ最大遅延時間LTmaxの4フレームに制限され、表示遅延が無制限に大きくなるのを防ぐことができる。また、本実施の形態も第1の実施の形態と同様の効果が得られる。すなわち、本実施の形態もフレーム更新期間FTを視差変化量に応じて制御することで視差変化量を平均化するようにしているため、眼精疲労や不快感を低減させることができ、また、1台のディスプレイを多人数で視聴するような環境でも、観察者全員に高臨場のステレオ映像を提供することができる。
【0083】
なお、本発明は以上の実施の形態に限定されるものではなく、以上の実施の形態の構成及び動作をコンピュータにより実行させるステレオ映像表示プログラムも包含するものである。このステレオ映像表示プログラムは、記録媒体からコンピュータに読み込むようにしてもよいし、ネットワークを介して配信されてコンピュータに取り込むようにしてもよく、更にはファームウェアとしてコンピュータに組み込まれるようにしてもよい。
【符号の説明】
【0084】
100、200 ステレオ映像信号制御装置
101 文字検出部
102 視差量測定部
103 視差変化量測定部
104、201 出力制御部
105 フレームメモリ
106 フレーム補間部
110、120 端子
150 映像表示部
202 フレーム更新期間訂正部
【技術分野】
【0001】
本発明はステレオ映像信号制御方法、制御装置及び制御プログラムに係り、特に入力映像のフレームレートよりも高い表示映像フレームレートを持つような表示装置により立体映像であるステレオ映像を表示させるステレオ映像信号制御方法、制御装置及び制御プログラムに関する。
【背景技術】
【0002】
従来から両眼視差を利用した様々なステレオ映像表示方式が提案されている。代表的な方式として、観察者が液晶シャッター眼鏡あるいは偏光眼鏡をかけて立体映像(ステレオ映像)を観察する両眼視差を利用したステレオ映像方式がある。液晶シャッターを用いるステレオ映像方式では、左目用の映像と右目用の映像とをモニタ上に時分割で表示し、液晶シャッター眼鏡をかけた観察者が、左目用の映像を左目で、右目用の映像を右目で見ることにより立体映像を観察する。また、偏光眼鏡を用いるステレオ映像方式では、左目用の視差映像と右目用の視差映像とを空間分割でモニタ上に表示し、偏光眼鏡をかけた観察者が左目用の視差映像を左目で、右目用の視差映像を右目で見ることにより立体映像を観察する。
【0003】
このような両眼視差を利用したステレオ映像方式の視聴において、観察者が眼精疲労や不快感を生じることが知られている。眼精疲労や不快感を生じる主原因の一つに輻輳と調整の不整合がある。輻輳と調整の不整合について簡単に説明する。人間は両眼の視線を立体像に集中させる(輻輳距離)。一方で、人間の目の水晶体はモニタ上の像にピントを調整する(調整距離)。自然界の状態では輻輳距離と調整距離は一致しているが、両眼視差を利用したモニタでは輻輳距離と調整距離が一致しない。この不整合のために、眼精疲労や不快感が生じることが知られている。また、この輻輳と調整の不整合が長時間連続する場合や急激に変化する場合に眼精疲労や不快感が強くなることが知られている。
【0004】
このような輻輳と調整の不整合を軽減させるための発明が従来よりなされている。
【0005】
特許文献1記載の発明では、右目用映像と奥行き情報とから左目用映像を生成するとき、奥行き情報が大きく変化する瞬間をシーンチェンジとして検出し、大きく変化する奥行き情報を緩やかに変換し、輻輳と調整の不整合を軽減している。
【0006】
特許文献2記載の発明では、視差を検出し、検出した視差量に応じて疲労度を評価し、評価した疲労度に応じて平面映像とステレオ映像とを切り替えることで、輻輳と調整の不整合を軽減している。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平10−40420号公報
【特許文献2】特開平11−355808号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、特許文献1記載の発明では、左目用映像を右目用映像から生成するため、本来左目用映像と右目用映像からなるステレオ映像に適用した場合には、本来のステレオ映像とは異なる奥行き感となり、本来のステレオ映像の持つ高臨場なステレオ映像を実現することができない。また、左目用映像を右目用映像から作成する処理が必要となる。
【0009】
また、特許文献2記載の発明では、ヘッドマウントディスプレイなど個人で視聴するような環境であれば問題ないが、リビングルームなどで1台のディスプレイを多人数で視聴するような環境の場合に、各個人の疲労度の相違によって、本来視聴可能な高臨場のステレオ映像を見ることができない人が発生する。
【0010】
本発明は以上の点に鑑みなされたもので、複数の観察者が視聴した場合でも、各個人が眼精疲労をあまり感じることのない高臨場なステレオ映像を表示し得るステレオ映像信号制御方法、制御装置及び制御プログラムを提供することを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するため、第1の発明のステレオ映像信号制御方法は、入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する第1のステップと、第1のステップで測定された視差量のフレーム間における視差の時間変化量である視差変化量を測定する第2のステップと、第2のステップにより測定された視差変化量が大きいほど、入力されるステレオ映像信号の備える右目用映像信号及び左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、視差変化量が小さいほど、右目用映像信号及び左目用映像信号のフレーム更新期間が、定常状態のフレーム更新期間よりも短い最小値として設定された所定の表示フレーム期間までの範囲内で短くなるように、フレーム更新期間を決定する第3のステップと、入力されるステレオ映像信号の備える右目用映像信号及び左目用映像信号のフレーム更新期間が、第3のステップで決定したフレーム更新期間となるように、右目用映像信号及び左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された右目用映像信号及び左目用映像信号における所定の表示フレーム期間よりも長いフレーム更新期間に、右目用映像信号及び左目用映像信号のそれぞれに対して生成した補間フレームを挿入して、ステレオ映像信号を所定の表示フレーム期間の信号とする第4のステップとを含むことを特徴とする。
【0012】
また、上記目的を達成するため、第1の発明のステレオ映像信号制御方法は、入力される右目用映像信号及び左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する第5のステップを更に含み、第4のステップは、第5のステップにより文字情報を含むことが検出された右目用映像信号及び左目用映像信号に対しては、フレーム更新期間が定常状態のフレーム更新期間となるように調整時間を制御し、第5のステップにより文字情報を含まないことが検出された右目用映像信号及び左目用映像信号に対しては、予め設定された最小値から最大値の範囲内で視差変化量に応じてフレーム更新期間を設定するように、調整時間をフレーム単位で制御することを特徴とする。
【0013】
また、上記の目的を達成するため、第3の発明のステレオ映像信号制御方法は、上記第4のステップは、フレーム更新期間の設定対象であるフレームにおいて、視差変化量に応じて設定されたフレーム更新期間と、その設定されたフレーム更新期間が得られるように右目用映像信号及び左目用映像信号に与えられる調整時間と、定常状態のフレーム更新期間とから、設定対象であるフレームの次のフレームにおける、全フレーム更新期間が定常状態である場合に対する遅延時間を算出し、次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、設定されたフレーム更新期間が定常状態のフレーム更新期間よりも長いときは、設定されたフレーム更新期間を、定常状態のフレーム更新期間に訂正することを特徴とする。
【0014】
また、上記の目的を達成するため、第4の発明のステレオ映像信号制御装置は、入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する視差量測定手段と、視差量測定手段から入力される視差量のフレーム間における視差の時間変化量である視差変化量を測定する視差変化量測定手段と、入力される右目用映像信号及び左目用映像信号のそれぞれに対して生成した補間フレームを、入力される右目用映像信号及び左目用映像信号のそれぞれに挿入し、フレーム期間を所定の表示フレーム期間としたステレオ映像信号を出力するフレーム補間手段と、視差変化量測定手段により測定された視差変化量が大きいほど、入力されるステレオ映像信号の備える右目用映像信号及び左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、視差変化量が小さいほど、右目用映像信号及び左目用映像信号のフレーム更新期間が、定常状態のフレーム更新期間よりも短い最小値として設定された所定の表示フレーム期間までの範囲内で短くなるように、フレーム補間手段による右目用映像信号及び左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された右目用映像信号及び左目用映像信号における所定の表示フレーム期間よりも長いフレーム更新期間に補間フレームを挿入させて、ステレオ映像信号が所定の表示フレーム期間の信号として出力されるように、フレーム補間手段を制御する出力制御手段とを有することを特徴とする。
【0015】
また、上記の目的を達成するため、第5の発明のステレオ映像信号制御装置は、入力される右目用映像信号及び左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する文字検出手段を更に有し、出力制御手段は、文字検出手段により文字情報を含むことが検出された右目用映像信号及び左目用映像信号に対しては、フレーム更新期間が定常状態のフレーム更新期間となるように、フレーム補間手段による調整時間を制御し、文字検出手段により文字情報を含まないことが検出された右目用映像信号及び左目用映像信号に対しては、予め設定された最小値から最大値の範囲内で視差変化量に応じてフレーム更新期間を設定するように、フレーム補間手段による調整時間をフレーム単位で制御することを特徴とする。
【0016】
また、上記の目的を達成するため、第6の発明のステレオ映像信号制御装置は、上記出力制御手段は、フレーム更新期間の設定対象であるフレームにおいて、視差変化量に応じて設定されたフレーム更新期間と、その設定されたフレーム更新期間が得られるようにフレーム補間手段において右目用映像信号及び左目用映像信号に与えられる調整時間と、定常状態のフレーム更新期間とから、設定対象であるフレームの次のフレームにおける、全フレーム更新期間が定常状態である場合に対する遅延時間を算出し、次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、設定されたフレーム更新期間が定常状態のフレーム更新期間よりも長いときは、設定されたフレーム更新期間を、定常状態のフレーム更新期間に訂正することを特徴とする。
【0017】
更に、上記の目的を達成するため、本発明のステレオ映像信号制御プログラムは、第1の発明のステレオ映像信号制御方法における各ステップをコンピュータにより実行させることを特徴とする。
【発明の効果】
【0018】
本発明によれば、ステレオ映像信号の視差変化量が大きいフレームではフレーム更新期間を定常状態よりも長くし、視差変化量が小さいフレームではフレーム更新期間を定常状態よりも短くすることで、ステレオ映像の視聴の際の視差変化量を平均化でき、観察者の眼精疲労や不快感を低減させることができる。
【0019】
また、本発明によれば、リビングルームなどで1台のディスプレイを多人数で視聴するような環境の場合でも、観察者全員に高臨場のステレオ映像を提供することができる。
【図面の簡単な説明】
【0020】
【図1】本発明のステレオ映像信号制御装置の第1の実施の形態のブロック図である。
【図2】図1に示す本発明装置の動作説明用フローチャートである。
【図3】図1のフレーム補間部の動作の一例を説明する図である。
【図4】図1のフレーム補間部の動作の他の例を説明する図である。
【図5】定常状態の入力映像フレームと表示映像フレームとの関係の一例を説明するタイミングチャートである。
【図6】図1に示す本発明装置のフレーム更新期間FTの決定方法の一例を説明するフローチャートである。
【図7】フレーム更新期間FTに関する関数の一例を示す図である。
【図8】図1に示す本発明装置のフレーム更新期間FTの決定例を示す図である。
【図9】図1に示す本発明装置による入力映像フレームと表示映像フレームとの関係を説明するタイミングチャートである。
【図10】本発明のステレオ映像信号制御装置の第2の実施の形態のブロック図である。
【図11】図10に示す本発明装置のフレーム更新期間FTの決定方法の一例を説明するフローチャートである。
【図12】図10に示す本発明装置の入力映像フレームと表示映像フレームとの関係を説明するタイミングチャートである。
【図13】図10に示す本発明装置のフレーム更新期間FTの決定例を示す図である。
【発明を実施するための形態】
【0021】
次に、本発明の実施の形態について図面と共に説明する。
【0022】
(第1の実施の形態)
図1は本発明になるステレオ映像信号制御装置の第1の実施の形態のブロック図を示す。同図に示すように、第1の実施の形態のステレオ映像信号制御装置100は、文字検出部101、視差量測定部102、視差変化量測定部103、出力制御部104、フレームメモリ105及びフレーム補間部106から構成される。
【0023】
ステレオ映像信号制御装置100には右目用映像信号と左目用映像信号がそれぞれフレーム単位で入力される。例えば、右目用映像信号と左目用映像信号がインタレース信号である場合には事前にプログレッシブ化されていることを前提とする。映像表示部150は、フレーム補間部106から出力される左目用映像信号と右目用映像信号とをそれぞれ公知の両眼視差を利用したステレオ映像方式で表示する。
【0024】
次に、本実施の形態のステレオ映像信号制御装置100の動作について図2のフローチャート等を併せ参照して説明する。
【0025】
右目用映像信号は、文字検出部101、視差量測定部102及びフレームメモリ105に供給される。一方、左目用映像信号は、視差量測定部102及びフレームメモリ105に供給され、文字検出部101には供給されない。なお、右目用映像信号と左目用映像信号の供給先を逆にしてもよい。
【0026】
文字検出部101は、入力された右目用映像信号の予め設定した所定領域の輝度レベルについてブロック単位でヒストグラムを求めるなどして、フレーム内の文字の有無を検出する(ステップS11)。文字検出部101は、上記のヒストグラムが或る特定ブロックで周辺ブロックに比べて所定の閾値より大きいとき、文字が有ると検出する。文字検出部101は、フレーム内の所定領域から検出した文字の有無情報Lを出力制御部104に供給する。なお、上記の所定領域は、一般的に字幕などの文字が頻繁に表示される領域であるが、画面全体の領域であってもよい。
【0027】
視差量測定部102は、入力された右目用映像信号と左目用映像信号との間の視差量を測定する(ステップS12)。視差量測定部102は、右目用映像信号及び左目用映像信号の一画面領域をそれぞれ矩形の複数のブロックに分割したときの各ブロックのうち、両映像信号の対応するブロック同士毎に求めた視差量について、フレーム全体の平均値、フレーム内の最大値、1つ又は複数の注目点の視差量の最大値などのうち、予め定めた値を代表視差量Pとする視差量測定を行う。視差量測定部102は、測定した代表視差量Pを視差変化量測定部103に供給する。
【0028】
ここで、視差量の測定方法の一例について更に説明する。周知の通り、ステレオ映像における視差は、右目用映像信号と左目用映像信号との間における水平方向のずれ量として観測できる。従って、視差の測定は、対象画素ブロックの水平位置と同じ水平線(エピポーラライン)上を、例えば水平方向4画素、垂直方向4画素のブロック単位でブロックマッチングにより測定する。
【0029】
視差変化量測定部103は、視差量測定部102から入力された代表視差量Pのフレーム間における視差の時間変化量である視差変化量λを求める(ステップS13)。ここで、視差変化量測定部103は、時刻iの視差変化量λ(i)を、時刻iの代表視差量P(i)と時刻i−1の代表視差量P(i−1)とから次式のように算出する。
【0030】
λ(i)=P(i) − P(i-1) (1)
視差変化量測定部103は、求めた視差変化量λを出力制御部104に供給する。
【0031】
出力制御部104は、端子110より映像表示部150の表示映像フレームレートPFR、入力映像信号の入力映像フレームレートIFR、及びフレーム更新期間倍率βが設定される。出力制御部104は、これらの入力映像フレームレートIFR、表示映像フレームレートPFR、及びフレーム更新期間倍率βと、文字検出部101から入力された文字の有無情報L、視差変化量測定部103から入力された視差変化量λとに応じてフレーム更新期間FTを決定する(ステップS14)。ここで、フレーム更新期間FTは、ステレオ映像信号制御装置100に入力された右目用映像信号及び左目用映像信号がそれぞれ元々有するフレームにおける、ステレオ映像信号制御装置100から映像表示部150へ出力されるときのそれぞれの信号でのフレーム間隔を示す。出力制御部104は、フレーム補間部106にフレーム更新期間FTを供給する。なお、出力制御部104の詳細な動作については後述する。
【0032】
フレームメモリ105は、入力される右目用映像信号と左目用映像信号とをそれぞれ1フレーム分一時的に記憶し、フレーム補間部106に空きがあれば1フレーム分の右目用映像と左目用映像信号とをフレーム補間部106に供給する。フレームメモリ105は、フレーム補間部106に空きがなければ、フレーム補間部106に空きができるまで右目用映像信号と左目用映像信号とをフレーム単位で保持し、フレーム補間部106に空きができれば時間的に古いフレームの右目用映像信号及び左目用映像信号からフレーム補間部106に供給する。
【0033】
フレーム補間部106は、フレームメモリ105から入力された右目用映像信号と左目用映像信号の各フレームを最大でそれぞれ2フレーム分記憶し、出力制御部104からのフレーム更新期間FTに従って右目用映像信号と左目用映像信号の各フレームをそれぞれ出力する。フレーム補間部106内の出力後の右目用映像信号と左目用映像信号の各フレームは、フレーム更新期間FTの経過後に削除される。また、フレーム補間部106は、フレーム更新期間FTの間に表示時刻があれば、右目用映像信号と左目用映像信号それぞれの補間フレームを生成して出力する(ステップS15)。これにより、フレーム補間部106は、右目用映像信号及び左目用映像信号からなるステレオ映像信号、又はそれらの補間フレームからなるステレオ映像信号を所定の表示フレーム期間(所定の表示フレームレート)でフレーム単位に出力する。
【0034】
ここで、フレーム補間部106による補間フレーム生成方法の一例について図3及び図4を用いて説明する。図3は、内挿的な補間方法を説明する図である。フレーム補間部106は、内挿的な補間方法で補間フレームを生成する場合は、まず、入力映像フレームF(k)を例えば、水平方向4画素、垂直方向4画素のブロック単位に分割し、参照フレームを入力映像フレームF(k−1)としてそれぞれのブロックについて一般的なブロックマッチング方法によって、図3(a)に示すような動きベクトルMVF(k)を求める。
【0035】
いま、入力映像フレームF(k−1)とF(k)のフレーム期間が「4」、入力映像フレームF(k−1)と補間フレームG(k)のフレーム期間が「1」であるとすると、フレーム補間部106は、補間フレームG(k)の動きベクトルMVG(k)を次式で求め、動き補償予測により補間フレームG(k)を生成する。
【0036】
MVG(k)=MVF(k)×1/4 (2)
図3(b)は、補間フレームG(k)の動きベクトルMVG(k)と動きベクトルMVF(k)との関係を示す。
【0037】
フレーム補間部106は、補間フレームG(k+1)、G(k+2)の各々の動きベクトルMVG(k+1)、MVG(k+2)も同様に次式で求める。
【0038】
MVG(k+1)=MVF(k)×2/4 (3)
MVG(k+2)=MVF(k)×3/4 (4)
図4は、外挿的な補間方法を説明する図である。フレーム補間部106は、外挿的な補間方法で補間フレームを生成する場合は、まず、入力映像フレームF(k)を例えば、水平方向4画素、垂直方向4画素のブロック単位に分割し、参照フレームを入力映像フレームF(k−1)としてそれぞれのブロックについて一般的なブロックマッチング方法によって、図4(a)に示すような動きベクトルMVF(k)を求める。
【0039】
いま、入力映像フレームF(k−1)とF(k)のフレーム期間が「1」、入力映像フレームF(k−1)と補間フレームG(k)のフレーム期間が「2」であるとすると、フレーム補間部106は、補間フレームG(k)の動きベクトルMVG(k)を次式で求め、動き補償予測により補間フレームG(k)を生成する。
【0040】
MVG(k)=MVF(k)×2 (5)
図4(b)は、補間フレームG(k)の動きベクトルMVG(k)と動きベクトルMVF(k)との関係を示す。
【0041】
フレーム補間部106は、補間フレームG(k+1)、G(k+2)の各々の動きベクトルMVG(k+1)、MVG(k+2)も同様に次式で求める。
【0042】
MVG(k+1)=MVF(k)×3 (6)
MVG(k+2)=MVF(k)×4 (7)
以下、本実施の形態では特に断らない限り、内挿的な補間方法を用いた場合について説明する。なお、フレーム補間部106の出力制御の詳細な動作については後述する。
【0043】
映像表示部150は、フレーム補間部106から入力された右目用映像信号と左目用映像信号の各フレームをそれぞれ公知の両眼視差を利用したステレオ映像方式で表示する(ステップS16)。
【0044】
次に、本実施の形態の各部について詳細に説明する。
【0045】
最初に、表示映像フレームレートPFRと入力映像フレームレートIFRの関係について説明する。表示映像フレームレートPFRは、映像表示部150の表示映像フレームレートである。入力映像フレームレートIFRは、ステレオ映像信号制御装置100に入力されるプログレッシブ化されたステレオ映像信号(右目用映像信号及び左目用映像信号)のフレームレートである。この入力映像フレームレートIFRは、ステレオ映像信号制御装置100に入力される右目用映像信号及び左目用映像信号の元々の定常状態のフレーム更新期間に対応したレートである。
【0046】
表示映像フレームレートPFRと入力映像フレームレートIFRとの比を倍速率αとすると、次式の関係が成り立つ。
【0047】
α=PFR/IFR (PFR≧IFR) (8)
本実施の形態では、入力映像フレームレートIFRを60(フレーム/秒)、表示映像フレームレートPFRを120(フレーム/秒)とする。従って、本実施の形態の倍速率αは(8)式から「2」となる。ただし、表示映像フレームレートPFRと入力映像フレームレートIFRは、上記の例に限定されるものではない。
【0048】
次に、視差変化量が変化しない定常状態の場合の入力映像フレームと表示映像フレームとの関係について図5を用いて説明する。図5(a)は表示映像フレームレートPFRの表示フレーム間隔、図5(b)は入力映像フレームレートIFRの入力映像フレーム、図5(c)は表示映像フレームレートPFRの表示映像フレームの様子を模式的に示している。なお、図5は右目用映像信号の様子を示しているが、左目用映像信号についても同様である。
【0049】
図5(b)に示す入力映像フレームは、時刻t(i)でフレームF(j)が入力され、時刻t(i+2)でフレームF(j+1)が入力され、以下、時刻t(i+n)でフレームF(j+n/2)が入力される様子を示している(n=0,1,2,3,・・・)。
【0050】
図5(c)に示す表示映像フレームは、時刻t(i+1)でフレームF(j)が表示され、時刻t(i+2)で補間フレームG(j)が表示され、時刻t(i+3)でフレームF(j+1)が表示され、時刻t(i+4)で補間フレームG(j+1)が表示され、以下順次表示されるフレームの様子を示している。
【0051】
ここで、補間フレームG(j)はフレームF(j)とフレームF(j+1)とから内挿的に補間され、補間フレームG(j+1)は同様にフレームF(j+1)とフレームF(j+2)とから補間されるとする。なお、補間フレームを作成するため遅延が生じ、フレームF(j)を表示する時刻は図5(c)に示すように、時刻t(i+1)となる。
【0052】
なお、外挿的に補間フレームを生成する場合には遅延をなくすことも可能である。
【0053】
次に、出力制御部104の前記ステップS14によるフレーム更新期間FTの決定動作について詳細に説明する。
【0054】
最初に、出力制御部104は、フレーム更新期間FTの最小値FTminと最大値FTmaxとを、倍速率α及びフレーム更新期間倍率βから次式により求める。
【0055】
FTmin=1 (9)
FTmax=α×β (10)
フレーム更新期間FTは、FTminとFTmaxとの間の整数値をとるものとする。本実施の形態では(8)式からα=2、図5(c)からβ=2であるため、(10)式からFTmax=4となる。
【0056】
なお、フレーム更新期間倍率βは、フレーム更新期間の最大値FTmaxを調整するためのパラメータである。このフレーム更新期間倍率βを大きくすることでフレーム更新期間の最大値FTmaxを大きくして、フレームの表示速度をよりゆっくりと見易く調整できる。
【0057】
次に、出力制御部104は、フレーム単位で文字の有無情報L及び視差変化量λからフレーム更新期間FTを決定し、決定したフレーム更新期間FTをフレーム補間部106に供給する。
【0058】
フレーム更新期間FTの決定方法について、図6に示すフローチャートを用いて説明する。出力制御部104は、最初に、文字の有無情報LがYES(文字が有)であるかどうか検査する(ステップS21)。
【0059】
文字の有無情報LがYESである場合は、フレーム更新期間FTを倍速率αと同じ値に設定する(ステップS22)。これによって、テロップが流れるような入力映像フレームに対しては、そのフレーム表示期間を定常状態とすることができる。
【0060】
文字の有無情報LがNO(文字が無)である場合は、出力制御部104は、フレーム更新期間FTを次式により求める(ステップS23)。
【0061】
FT=f(λ) (11)
ここで、(11)式においてf(λ)は暫定フレーム期間で、図7に示すように視差変化量λに比例してFTmin(ここでは、1)からFTmax(ここでは、4)まで自然数単位で変化し、かつ、FT=α(ここでは、2)が最も選択され易い特性を持つ関数である。
【0062】
次に、フレーム補間部106の動作について図8、図9を用いて詳細に説明する。図8は、フレーム更新期間FTの決定例を示す図、図9は、本実施の形態のステレオ映像信号制御装置100による入力映像フレームと表示映像フレームとの関係を説明するタイミングチャートを示す。
【0063】
例えば、出力制御部104によってF(0)からF(7)までの各入力映像フレームのフレーム更新期間FTが図8のように決定したとする。このとき、フレーム補間部106は、図9(c)に模式的に示すように映像フレームが表示されるように、入力映像フレームを出力する。すなわち、フレーム補間部106は、最初に図9(b)に模式的に示す時刻t0の入力映像フレームF(0)を、同図(c)に模式的に示すように時刻t1で出力する。続いて、フレーム補間部106は、同図(b)に模式的に示す時刻t2の入力映像フレームF(1)を、F(0)のフレーム更新期間FTが「4」であるため同図(c)に模式的に示すように、F(0)の出力時刻t1の4フレーム後の時刻t5で出力する。上記の時刻t1と時刻t5との間の時刻t2、t3、t4については、フレーム補間部106は、図9(c)に模式的に示すように、補間フレームG(0)、G(1)、G(2)を生成して出力する。
【0064】
続く入力映像フレームF(2)は図8に示したようにF(1)のフレーム更新期間FTが「3」であるため、フレーム補間部106は、図9(c)に模式的に示すように、入力映像フレームF(2)を、直前の映像フレームF(1)の出力時刻t5の3フレーム後の時刻t8で出力する。上記の時刻t5と時刻t8との間の時刻t6、t7については、フレーム補間部106は、図9(c)に模式的に示すように、補間フレームG(3)、G(4)を生成して出力する。フレーム補間部106は、以下同様の動作を行う。映像表示部150は、図9(c)に模式的に示したタイミングで同期して入力される右目映像信号と左目映像信号の各映像フレームを表示する。従って、フレーム補間部106が入力映像フレーム又は補間フレームを映像表示部150へ出力する時刻は、表示時刻に等しい。
【0065】
以上のように、本実施の形態のステレオ映像信号制御装置100によれば、視差変化量λが倍速率αより大きい入力映像フレームに対してはフレーム更新期間FTを定常状態(表示映像フレームレートPFRで表示する状態)よりも長くし、視差変化量λが倍速率αより小さい入力映像フレームに対してはフレーム更新期間FTを定常状態よりも短くすることで、視差変化量を平均化でき、その結果、眼精疲労や不快感を低減させることができる。
【0066】
また、本実施の形態のステレオ映像信号制御装置100によれば、本来の入力映像の表示時刻からの遅延時間によって、補間フレームの数を制御することで本来のステレオ映像の持つ高臨場感と眼精疲労や不快感の低減を両立することができる。また、奥行き感を調整する必要がないため、本来のステレオ映像の持つ奥行き感を損なうことがなく、また、奥行き感を調整するための余計な装置が必要ない。
【0067】
更に、本実施の形態のステレオ映像信号制御装置100によれば、ヘッドマウントディスプレイなど個人で視聴するような環境に限定されず、リビングルームなどで1台のディスプレイを多人数で視聴するような環境でも、観察者全員に高臨場のステレオ映像を提供することができる。
【0068】
(第2の実施の形態)
次に、本発明の第2の実施の形態について図面と共に説明する。
【0069】
図10は、本発明になるステレオ映像信号制御装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。図10において、第2の実施の形態のステレオ映像信号制御装置200は、文字検出部101、視差量測定部102、視差変化量測定部103、フレームメモリ105、出力制御部201、フレーム更新期間訂正部202及びフレーム補間部106から構成される。本実施の形態のステレオ映像信号制御装置200は、第1の実施の形態のステレオ映像信号制御装置100の構成に加えてフレーム更新期間訂正部202を設けると共に、出力制御部201がフレーム更新期間訂正部202に対してフレーム更新期間FTを供給し、また、フレーム更新期間訂正部202からの訂正されたフレーム更新期間FTが入力される構成に特徴がある。
【0070】
フレーム更新期間訂正部202は、端子120より最大遅延時間LTmaxが設定される。フレーム更新期間訂正部202は、出力制御部201から入力されたフレーム更新期間FTを、必要に応じて訂正して出力制御部201に供給する。
【0071】
次に、フレーム更新期間訂正部202によるフレーム更新期間FTの訂正方法について、図11のフローチャートを併せ参照して詳細に説明する。図11において、ステップS31、S32、S33の出力制御部201の処理動作は、図6に示した第1の実施の形態のステップS21、S22、S23の出力制御部104の処理動作と同じであるため、その説明は省略する。
【0072】
フレーム更新期間訂正部202は、ステップS32又はS33により決定されたフレーム更新期間FTが出力制御部201から入力されると、そのフレーム更新期間FTと定常状態のフレーム更新期間FTOとから次式によって次フレームの遅延時間NLTを算出する(ステップS34)。なお、次式において、LTは入力映像フレームの遅延時間であり、初期値は「0」である。また、定常状態のフレーム更新期間FTOは、倍速率αに等しい。
【0073】
NLT=LT+(FT−FTO) (12)
次に、フレーム更新期間訂正部202は、算出した次フレームの遅延時間NLTが端子120から入力された最大遅延時間LTmaxよりも長いかどうか比較する(ステップS35)。次フレームの遅延時間NLTが最大遅延時間LTmaxよりも長いときは、フレーム更新期間訂正部202は、フレーム更新期間FTが倍速率αよりも大きいかどうか比較する(ステップ36)。そして、フレーム更新期間訂正部202は、フレーム更新期間FTが倍速率αよりも大きければ、フレーム更新期間FTを倍速率αと同じ値に訂正する(ステップS37)。
【0074】
その他の場合、すなわち、次フレームの遅延時間NLTが最大遅延時間LTmax以下である場合(ステップS35のNO)、又はフレーム更新期間FTが倍速率α以下である場合(ステップS36のNO)は、フレーム更新期間訂正部202は、フレーム更新期間FTの訂正はしない。最後に、フレーム更新期間訂正部202は、フレーム更新期間FTと定常状態のフレーム更新期間FTOとから次式により遅延時間LTを算出する(ステップS38)。
【0075】
LT=LT+(FT−FTO) (13)
このようにして、フレーム更新期間訂正部202において算出された遅延時間LTは、図10の出力制御部201に供給される。
【0076】
次に、フレーム更新期間FTの訂正の具体例について図12及び図13を併せ参照して詳細に説明する。図12は、フレーム更新期間FTの訂正動作を説明するタイミングチャートで、同図(a)は表示フレーム間隔、同図(b)は入力映像フレーム、同図(c)は定常状態の表示映像フレーム、同図(d)は第1の実施の形態(実施形態1)による表示映像フレーム、同図(e)は本実施の形態による表示映像フレームを模式的に示す。また、図13は、遅延時間LT、訂正前のフレーム更新期間FT、次フレームの遅延時間NLT、訂正後のフレーム更新期間FTの入力映像フレーム単位の値の変化を示す。
【0077】
まず、第1の実施の形態における表示映像フレームの遅延時間について説明する。図1に示した出力制御部104が、図13の訂正前のフレーム更新期間FTに示すように各入力映像フレームのフレーム更新期間FTを決定したものとする。第1の実施の形態においては、出力制御部104が決定したフレーム更新期間FTをそのまま利用するため、各表示映像フレームは、図12(d)に示すようになる。
【0078】
従って、このときの定常状態の表示映像フレームに対する表示映像フレームの遅延時間LTは、図12(c)、(d)に示すように、表示映像フレームF(0)の遅延時間LT(0)は0フレーム、表示映像フレームF(1)の遅延時間LT(1)は2フレーム、表示映像フレームF(2)の遅延時間LT(2)は4フレーム、表示映像フレームF(3)の遅延時間LT(3)は6フレーム、表示映像フレームF(4)の遅延時間LT(4)は7フレームとなる。
【0079】
次に、本実施の形態における表示映像フレームの遅延時間について説明する。図10に示した出力制御部201が、上記と同様に図13の訂正前のフレーム更新期間FTに示すように各入力映像フレームのフレーム更新期間FTを決定したものとする。
【0080】
本実施の形態のステレオ映像信号制御装置200は、前述したように、決定したフレーム更新期間FTをそのまま用いるのではなく、(12)式によりFTを用いて次フレームの更新期間NLTを算出し、その次フレームの更新期間NLTと最大遅延時間LTmaxとを比較し、NLTがLTmaxより長く、かつ、FTがαよりも大きければフレーム更新期間FTを倍速率αと同じ値に訂正する。このため、最大遅延時間LTmaxを4フレームとし、倍速率αを第1の実施の形態と同様に「2」とした場合、フレーム更新期間FTは図13に「訂正後FT」で示すように、次フレームの更新期間NLTが最大遅延時間LTmaxを超える表示映像フレームF(2)、F(3)において「2フレーム」に訂正される。
【0081】
従って、本実施の形態のステレオ映像信号制御装置200によれば、各表示映像フレームは、図12(e)に示すようになる。このときの定常状態の表示映像フレームに対する表示映像フレームの遅延時間LTは、図12(c)、(e)に示すように、表示映像フレームF(0)の遅延時間LT(0)は0フレーム、表示映像フレームF(1)の遅延時間LT(1)は2フレーム、表示映像フレームF(2)の遅延時間LT(2)は4フレーム、表示映像フレームF(3)の遅延時間LT(3)は4フレーム、表示映像フレームF(4)の遅延時間LT(4)は4フレームとなる。
【0082】
このように、本実施の形態によれば、最大遅延時間LTmaxを設定することで、視差変化量が大きなシーンが連続する場合、第1の実施の形態ではLT(3)、LT(4)が6フレーム、7フレームというように表示遅延が発生していたのに対し、LT(3)、LT(4)がそれぞれ最大遅延時間LTmaxの4フレームに制限され、表示遅延が無制限に大きくなるのを防ぐことができる。また、本実施の形態も第1の実施の形態と同様の効果が得られる。すなわち、本実施の形態もフレーム更新期間FTを視差変化量に応じて制御することで視差変化量を平均化するようにしているため、眼精疲労や不快感を低減させることができ、また、1台のディスプレイを多人数で視聴するような環境でも、観察者全員に高臨場のステレオ映像を提供することができる。
【0083】
なお、本発明は以上の実施の形態に限定されるものではなく、以上の実施の形態の構成及び動作をコンピュータにより実行させるステレオ映像表示プログラムも包含するものである。このステレオ映像表示プログラムは、記録媒体からコンピュータに読み込むようにしてもよいし、ネットワークを介して配信されてコンピュータに取り込むようにしてもよく、更にはファームウェアとしてコンピュータに組み込まれるようにしてもよい。
【符号の説明】
【0084】
100、200 ステレオ映像信号制御装置
101 文字検出部
102 視差量測定部
103 視差変化量測定部
104、201 出力制御部
105 フレームメモリ
106 フレーム補間部
110、120 端子
150 映像表示部
202 フレーム更新期間訂正部
【特許請求の範囲】
【請求項1】
入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する第1のステップと、
前記第1のステップで測定された前記視差量のフレーム間における視差の時間変化量である視差変化量を測定する第2のステップと、
前記第2のステップにより測定された前記視差変化量が大きいほど、入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、前記視差変化量が小さいほど、前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記定常状態のフレーム更新期間よりも短い最小値として設定された前記所定の表示フレーム期間までの範囲内で短くなるように、フレーム更新期間を決定する第3のステップと、
入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記第3のステップで決定したフレーム更新期間となるように、前記右目用映像信号及び前記左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された前記右目用映像信号及び前記左目用映像信号における前記所定の表示フレーム期間よりも長いフレーム更新期間に、前記右目用映像信号及び前記左目用映像信号のそれぞれに対して生成した補間フレームを挿入して、前記ステレオ映像信号を前記所定の表示フレーム期間の信号とする第4のステップと
を含むことを特徴とするステレオ映像信号制御方法。
【請求項2】
入力される前記右目用映像信号及び前記左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する第5のステップを更に含み、
前記第4のステップは、前記第5のステップにより文字情報を含むことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記フレーム更新期間が前記定常状態のフレーム更新期間となるように前記調整時間を制御し、前記第5のステップにより文字情報を含まないことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記予め設定された最小値から最大値の範囲内で前記視差変化量に応じて前記フレーム更新期間を設定するように、前記調整時間をフレーム単位で制御することを特徴とする請求項1記載のステレオ映像信号制御方法。
【請求項3】
前記第4のステップは、前記フレーム更新期間の設定対象であるフレームにおいて、前記視差変化量に応じて設定された前記フレーム更新期間と、その設定されたフレーム更新期間が得られるように前記右目用映像信号及び前記左目用映像信号に与えられる前記調整時間と、前記定常状態のフレーム更新期間とから、前記設定対象であるフレームの次のフレームにおける、全フレーム更新期間が前記定常状態である場合に対する遅延時間を算出し、前記次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、前記設定されたフレーム更新期間が前記定常状態のフレーム更新期間よりも長いときは、前記設定されたフレーム更新期間を、前記定常状態のフレーム更新期間に訂正することを特徴とする請求項1又は2記載のステレオ映像信号制御方法。
レオ映像信号制御方法。
【請求項4】
入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する視差量測定手段と、
前記視差量測定手段から入力される前記視差量のフレーム間における視差の時間変化量である視差変化量を測定する視差変化量測定手段と、
入力される前記右目用映像信号及び前記左目用映像信号のそれぞれに対して生成した補間フレームを、入力される前記右目用映像信号及び前記左目用映像信号のそれぞれに挿入し、フレーム期間を所定の表示フレーム期間としたステレオ映像信号を出力するフレーム補間手段と、
前記視差変化量測定手段により測定された前記視差変化量が大きいほど、入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、前記視差変化量が小さいほど、前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記定常状態のフレーム更新期間よりも短い最小値として設定された前記所定の表示フレーム期間までの範囲内で短くなるように、前記フレーム補間手段による前記右目用映像信号及び前記左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された前記右目用映像信号及び前記左目用映像信号における前記所定の表示フレーム期間よりも長いフレーム更新期間に前記補間フレームを挿入させて、前記ステレオ映像信号が前記所定の表示フレーム期間の信号として出力されるように、前記フレーム補間手段を制御する出力制御手段と
を有することを特徴とするステレオ映像信号制御装置。
【請求項5】
入力される前記右目用映像信号及び前記左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する文字検出手段を更に有し、
前記出力制御手段は、前記文字検出手段により文字情報を含むことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記フレーム更新期間が前記定常状態のフレーム更新期間となるように、前記フレーム補間手段による前記調整時間を制御し、前記文字検出手段により文字情報を含まないことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記予め設定された最小値から最大値の範囲内で前記視差変化量に応じて前記フレーム更新期間を設定するように、前記フレーム補間手段による前記調整時間をフレーム単位で制御することを特徴とする請求項4記載のステレオ映像信号制御装置。
【請求項6】
前記出力制御手段は、前記フレーム更新期間の設定対象であるフレームにおいて、前記視差変化量に応じて設定された前記フレーム更新期間と、その設定されたフレーム更新期間が得られるように前記フレーム補間手段において前記右目用映像信号及び前記左目用映像信号に与えられる調整時間と、前記定常状態のフレーム更新期間とから、前記設定対象であるフレームの次のフレームにおける、全フレーム更新期間が前記定常状態である場合に対する遅延時間を算出し、前記次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、前記設定されたフレーム更新期間が前記定常状態のフレーム更新期間よりも長いときは、前記設定されたフレーム更新期間を、前記定常状態のフレーム更新期間に訂正することを特徴とする請求項4又は5記載のステレオ映像信号制御装置。
【請求項7】
コンピュータに、
入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する第1のステップと、
前記第1のステップで測定された前記視差量のフレーム間における視差の時間変化量である視差変化量を測定する第2のステップと、
前記第2のステップにより測定された前記視差変化量が大きいほど、入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、前記視差変化量が小さいほど、前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記定常状態のフレーム更新期間よりも短い最小値として設定された前記所定の表示フレーム期間までの範囲内で短くなるように、フレーム更新期間を決定する第3のステップと、
入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記第3のステップで決定したフレーム更新期間となるように、前記右目用映像信号及び前記左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された前記右目用映像信号及び前記左目用映像信号における前記所定の表示フレーム期間よりも長いフレーム更新期間に、前記右目用映像信号及び前記左目用映像信号のそれぞれに対して生成した補間フレームを挿入して、前記ステレオ映像信号を前記所定の表示フレーム期間の信号とする第4のステップと
を実行させることを特徴とするステレオ映像信号制御プログラム。
【請求項1】
入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する第1のステップと、
前記第1のステップで測定された前記視差量のフレーム間における視差の時間変化量である視差変化量を測定する第2のステップと、
前記第2のステップにより測定された前記視差変化量が大きいほど、入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、前記視差変化量が小さいほど、前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記定常状態のフレーム更新期間よりも短い最小値として設定された前記所定の表示フレーム期間までの範囲内で短くなるように、フレーム更新期間を決定する第3のステップと、
入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記第3のステップで決定したフレーム更新期間となるように、前記右目用映像信号及び前記左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された前記右目用映像信号及び前記左目用映像信号における前記所定の表示フレーム期間よりも長いフレーム更新期間に、前記右目用映像信号及び前記左目用映像信号のそれぞれに対して生成した補間フレームを挿入して、前記ステレオ映像信号を前記所定の表示フレーム期間の信号とする第4のステップと
を含むことを特徴とするステレオ映像信号制御方法。
【請求項2】
入力される前記右目用映像信号及び前記左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する第5のステップを更に含み、
前記第4のステップは、前記第5のステップにより文字情報を含むことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記フレーム更新期間が前記定常状態のフレーム更新期間となるように前記調整時間を制御し、前記第5のステップにより文字情報を含まないことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記予め設定された最小値から最大値の範囲内で前記視差変化量に応じて前記フレーム更新期間を設定するように、前記調整時間をフレーム単位で制御することを特徴とする請求項1記載のステレオ映像信号制御方法。
【請求項3】
前記第4のステップは、前記フレーム更新期間の設定対象であるフレームにおいて、前記視差変化量に応じて設定された前記フレーム更新期間と、その設定されたフレーム更新期間が得られるように前記右目用映像信号及び前記左目用映像信号に与えられる前記調整時間と、前記定常状態のフレーム更新期間とから、前記設定対象であるフレームの次のフレームにおける、全フレーム更新期間が前記定常状態である場合に対する遅延時間を算出し、前記次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、前記設定されたフレーム更新期間が前記定常状態のフレーム更新期間よりも長いときは、前記設定されたフレーム更新期間を、前記定常状態のフレーム更新期間に訂正することを特徴とする請求項1又は2記載のステレオ映像信号制御方法。
レオ映像信号制御方法。
【請求項4】
入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する視差量測定手段と、
前記視差量測定手段から入力される前記視差量のフレーム間における視差の時間変化量である視差変化量を測定する視差変化量測定手段と、
入力される前記右目用映像信号及び前記左目用映像信号のそれぞれに対して生成した補間フレームを、入力される前記右目用映像信号及び前記左目用映像信号のそれぞれに挿入し、フレーム期間を所定の表示フレーム期間としたステレオ映像信号を出力するフレーム補間手段と、
前記視差変化量測定手段により測定された前記視差変化量が大きいほど、入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、前記視差変化量が小さいほど、前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記定常状態のフレーム更新期間よりも短い最小値として設定された前記所定の表示フレーム期間までの範囲内で短くなるように、前記フレーム補間手段による前記右目用映像信号及び前記左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された前記右目用映像信号及び前記左目用映像信号における前記所定の表示フレーム期間よりも長いフレーム更新期間に前記補間フレームを挿入させて、前記ステレオ映像信号が前記所定の表示フレーム期間の信号として出力されるように、前記フレーム補間手段を制御する出力制御手段と
を有することを特徴とするステレオ映像信号制御装置。
【請求項5】
入力される前記右目用映像信号及び前記左目用映像信号の予め設定した画面領域の映像情報に文字情報を含むか否かを検出する文字検出手段を更に有し、
前記出力制御手段は、前記文字検出手段により文字情報を含むことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記フレーム更新期間が前記定常状態のフレーム更新期間となるように、前記フレーム補間手段による前記調整時間を制御し、前記文字検出手段により文字情報を含まないことが検出された前記右目用映像信号及び前記左目用映像信号に対しては、前記予め設定された最小値から最大値の範囲内で前記視差変化量に応じて前記フレーム更新期間を設定するように、前記フレーム補間手段による前記調整時間をフレーム単位で制御することを特徴とする請求項4記載のステレオ映像信号制御装置。
【請求項6】
前記出力制御手段は、前記フレーム更新期間の設定対象であるフレームにおいて、前記視差変化量に応じて設定された前記フレーム更新期間と、その設定されたフレーム更新期間が得られるように前記フレーム補間手段において前記右目用映像信号及び前記左目用映像信号に与えられる調整時間と、前記定常状態のフレーム更新期間とから、前記設定対象であるフレームの次のフレームにおける、全フレーム更新期間が前記定常状態である場合に対する遅延時間を算出し、前記次のフレームの遅延時間が予め設定された最大遅延時間よりも長く、かつ、前記設定されたフレーム更新期間が前記定常状態のフレーム更新期間よりも長いときは、前記設定されたフレーム更新期間を、前記定常状態のフレーム更新期間に訂正することを特徴とする請求項4又は5記載のステレオ映像信号制御装置。
【請求項7】
コンピュータに、
入力されるステレオ映像信号の備える右目用映像信号と左目用映像信号との間の視差量を、フレーム毎に測定する第1のステップと、
前記第1のステップで測定された前記視差量のフレーム間における視差の時間変化量である視差変化量を測定する第2のステップと、
前記第2のステップにより測定された前記視差変化量が大きいほど、入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、入力時の定常状態のフレーム更新期間よりも長く設定された最大値までの範囲内で長くなり、前記視差変化量が小さいほど、前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記定常状態のフレーム更新期間よりも短い最小値として設定された前記所定の表示フレーム期間までの範囲内で短くなるように、フレーム更新期間を決定する第3のステップと、
入力される前記ステレオ映像信号の備える前記右目用映像信号及び前記左目用映像信号のフレーム更新期間が、前記第3のステップで決定したフレーム更新期間となるように、前記右目用映像信号及び前記左目用映像信号に対する調整時間をフレーム単位で制御し、そのフレーム更新期間が制御された前記右目用映像信号及び前記左目用映像信号における前記所定の表示フレーム期間よりも長いフレーム更新期間に、前記右目用映像信号及び前記左目用映像信号のそれぞれに対して生成した補間フレームを挿入して、前記ステレオ映像信号を前記所定の表示フレーム期間の信号とする第4のステップと
を実行させることを特徴とするステレオ映像信号制御プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2011−176523(P2011−176523A)
【公開日】平成23年9月8日(2011.9.8)
【国際特許分類】
【出願番号】特願2010−38222(P2010−38222)
【出願日】平成22年2月24日(2010.2.24)
【出願人】(308036402)JVC・ケンウッド・ホールディングス株式会社 (1,152)
【Fターム(参考)】
【公開日】平成23年9月8日(2011.9.8)
【国際特許分類】
【出願日】平成22年2月24日(2010.2.24)
【出願人】(308036402)JVC・ケンウッド・ホールディングス株式会社 (1,152)
【Fターム(参考)】
[ Back to top ]