説明

立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置

【課題】本発明は、立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置を提供することを目的とする。
【解決手段】この発明にかかる立体映像配信システムは、複数ある立体映像配信を行う映像配信元サーバ250,251,252,253からの立体映像信号を、一旦トランスコーディングサーバ254で受けることにより、立体視聴用のBDプレーヤやTV256にて再生できるようにしたものである。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置に係る発明に関するものである。
【背景技術】
【0002】
ディジタル映像信号を圧縮する符号化技術が進むにつれ、圧縮された映像信号を光ディスクに記録することによって、検索性や操作性に優れた光ディスク装置を実現することが可能となった。このような光ディスク装置は、映像をディジタル信号として記録するため、アナログ映像信号を記録する場合に比べてダビングによる劣化が無い他、光記録再生であるため、非接触で信頼性に優れている。
【0003】
一方、上記のようなディジタル映像信号をデータ圧縮する符号化方法としては、例えば、MPEG(Moving Picture coding Experts Group)方式によるものがあるが、この圧縮方法はモーションJPEG等の面内圧縮方法に比べ圧縮効率は良いものの、時間方向の動き補償予測を用いているため、複数枚の映像グループからなる(GOP)映像単位でしか検索できなかったり、ディスク上のアクセスも面内圧縮からなるIピクチャにまずアクセスしなければならない等の制約条件が存在していた。そのため、特許文献1では、光ディスク上のデータフォーマットを工夫することが提案されている。
【0004】
また、特許文献1のデータフォーマットは、あくまで2次元の平面映像をファイルするためのものである。立体映像をファイルする場合、TV信号の第一フィールドと第二フィールドとで、それぞれ右目左目の映像を別々に表示し、偏向メガネ等で2つの映像をそれぞれのフィールド映像をそれぞれの目にのみ見せる特許文献2の方法を採用することが必要である。
【0005】
またサーバ上に立体画像を入れておき表示させる方法としては特許文献3に記載があるが、これは画像を回転表示させることによって広告を立体的に見せるものであり、特許文献5に記載された複数カメラを用いた方法についてもあくまで回転画像により、立体的に見せる工夫を行ったものにすぎない。一方、サーバ内で動画キャラクターとして生成するための方法として、左右の画像を用い3次元画像をサーバにアップロードする方式が特許文献4に記載があるほか、遠隔操作時の医療用の3次元画像レンダリング処理方法として特許文献7に記載があるが、立体映像をサーバ配信する際の信号フォーマット等の記載はない。また特許文献6には映像情報送出手段において、2D映像から3D映像への変換の記述があるが具体的変換方法等の記載はない。また、立体仮想実現空間を実現するための方法としては特許文献8と特許文献9にも記載あるが、本件にある映像コンテンツを立体視聴するためのシステムや信号フォーマットに関するものではない。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−260988号公報
【特許文献2】特開2007−166651号公報
【特許文献3】特開2001−167180号公報
【特許文献4】特表2002−517840号公表
【特許文献5】特表2003−532346号公表
【特許文献6】特開2005−175566号公報
【特許文献7】特開2006−101329号公報
【特許文献8】特開2006−31665号公報
【特許文献9】特表2007−500883号公表
【発明の概要】
【発明が解決しようとする課題】
【0007】
立体映像視聴する際の信号フォーマットとしては、左右映像をそれぞれMPEG圧縮し伝送する方法や、画面を両サイドに分割する方法、また画面を上下に分割する方法など、さまざまな方法が提案されている。そのため配信される映像コンテンツの元映像として、多くの方法が並存し、各社が所有しサービスを行う映像配信サーバにおいても、特定の方式に統一することが難しい状態にあった。
【0008】
また、これら方式が異なる複数のサーバを課金処理も含め統合的に取り扱うことができる方法が望まれていた。
【0009】
また、ユーザの視聴環境においても、映像配信元サーバが立体映像コンテンツを所有している場合でも、必ずしもユーザの視聴環境として立体視聴できる状態にあるとは限らず、視差映像に基づく立体映像が配信された場合、通常の2次元映像視聴TVでは2重写しに見えたり、立体視聴可能なTVであっても、TVの設定が平面映像視聴設定となっていた場合は同様な問題が生じた。
【0010】
また、コンテンツの視聴メニューにおいても、立体視聴環境が可能な場合と、平面映像しか視聴できない場合とで、3Dコンテンツを含む含まない等別々のメニューを配信する必要があったが、視聴環境の状態を認識しないとできない等の問題があった。
【0011】
また、マルチアングル映像の配信に関し、装置からのアングル切り替え指示に対する応答が遅く、視聴すべきコンテンツをアングル回転して視聴する等の対応ができないなどの課題があった。
【0012】
また、ウィジェット情報をTV画面にオーバレイもしくは画面分割して視聴する場合、2次元映像用に作られたウィジェット情報を立体映像中にそのまま表示させると、常に奥行き飛び出し方向の位置がデフォルトの位置に固定され視聴しづらかったり、例えば映像全体が飛び出している場合に奥のほうに位置するように見える違和感のあるウィジェット情報が視聴される問題があった。
【0013】
また、通常の映像配信コンテンツは一般的には平面映像によるものがほとんどであるが、立体視聴環境を有するユーザにおいては、2次元映像を3次元化して視聴できる方法が望まれていたほか、目の疲れ等の視聴安全性に配慮し、映像の飛び出し量を可変する方法も望まれていた。
【0014】
また、ユーザがムービ等で個人的に録画した2次元コンテンツについても同様に3次元化して視聴する方法が望まれていたほか、個人のコンテンツをアップした場合においても他の人が簡単に視聴できてしまう問題があった。
【0015】
本発明の目的は、映像配信元サーバからの立体映像信号フォーマットが複数ある形態であっても、プレーヤもしくはTVで再生可能な統一されたフォーマットで変換して、あらゆる映像配信元サーバが所有する立体映像コンテンツも、家庭内の映像視聴装置で再生・視聴することができる立体映像配信システム、立体映像配信方法、立体映像配信装置を提供することである。
【課題を解決するための手段】
【0016】
この発明の第1の態様にかかる立体映像配信システムは、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されているとともに、映像配信時においては、前記複数の映像配信サーバの中から外部指示により選択した所望のコンテンツを有する特定の前記映像配信サーバより前記立体映像配信コンテンツが配信され、前記配信される立体映像配信コンテンツはさらに一旦トランスコーディングサーバに入力し、前記トランスコーディングサーバにてフォーマット変換することにより、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態にして、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【0017】
また、この発明の第2の態様にかかる立体映像配信システムは、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成されるとともに、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信されるとともに、前記配信される平面映像配信コンテンツはさらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させるとともに、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【0018】
また、この発明の第3の態様にかかる立体映像配信システムは、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部保有の映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードするとともに、前記アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させるとともに、前記変換した映像を、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【0019】
また、この発明の第1の態様にかかる立体映像配信方法は、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されているとともに、映像配信時においては、前記複数の映像配信サーバの中から外部指示により選択した所望のコンテンツを有する特定の前記映像配信サーバより前記立体映像配信コンテンツが配信され、前記配信される立体映像配信コンテンツはさらに一旦トランスコーディングサーバに入力し、前記トランスコーディングサーバにてフォーマット変換することにより、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態にして、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【0020】
また、この発明の第2の態様にかかる立体映像配信方法は、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成されるとともに、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信されるとともに、前記配信される平面映像配信コンテンツはさらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させるとともに、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【0021】
また、この発明の第3の態様にかかる立体映像配信方法は、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部保有の映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードするとともに、前記アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させるとともに、前記変換した映像を、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【0022】
また、この発明の第1の態様にかかる立体映像配信装置は、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管され、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した、所望のコンテンツを有する特定の前記映像配信サーバより、前記立体映像配信コンテンツが配信され、配信される前記立体映像配信コンテンツは、さらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバはフォーマット変換手段を有し、前記フォーマット変換手段にて前記立体映像配信コンテンツを立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態にして、立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とする。
【0023】
また、この発明の第2の態様にかかる立体映像配信装置は、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成され、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信され、前記配信される平面映像配信コンテンツは、さらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させる手段と、立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態に当該コンテンツのフォーマットを変換する手段とを備え、前記立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とする。
【0024】
また、この発明の第3の態様にかかる立体映像配信装置は、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部が保有する映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードする手段と、アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させる手段と、前記変換した映像を、立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態に変換する手段とを備え、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする。
【発明の効果】
【0025】
この発明の第1の態様にかかる立体映像配信システムによれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されているとともに、映像配信時においては、前記複数の映像配信サーバの中から外部指示により選択した所望のコンテンツを有する特定の前記映像配信サーバより前記立体映像配信コンテンツが配信され、前記配信される立体映像配信コンテンツはさらに一旦トランスコーディングサーバに入力し、前記トランスコーディングサーバにてフォーマット変換することにより、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態にして、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、映像配信元サーバからの立体映像信号フォーマットが複数ある形態であっても、一旦トランスコーディングサーバにてプレーヤもしくはTVで再生可能な統一されたフォーマットで変換して伝送されるため、あらゆる映像配信元サーバが所有する立体映像コンテンツも、家庭内の映像視聴装置で再生・視聴することができる。
【0026】
また、この発明の第2の態様にかかる立体映像配信システムによれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成されるとともに、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信されるとともに、前記配信される平面映像配信コンテンツはさらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させるとともに、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、映像配信元サーバのコンテンツが平面映像のものしかない場合でも、トランスコーディングサーバにて立体映像に変換し、またプレーヤやTVで再生できる信号フォーマットに変換して配信するため、通常の平面映像であっても立体映像視聴を楽しむことが可能となる。
【0027】
また、この発明の第3の態様にかかる立体映像配信システムによれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部保有の映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードするとともに、前記アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させるとともに、前記変換した映像を、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、ユーザがムービなどで録画した映像をサーバにアップし、この平面映像を立体映像に変換し、プレーヤやTVで再生できる信号フォーマットに変換して、特定のIDで認証のうえ配信するため、個人的な映像を立体変換し、プライバシーを保った上で視聴することが可能となる。
【0028】
また、この発明の第1の態様にかかる立体映像配信方法によれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されているとともに、映像配信時においては、前記複数の映像配信サーバの中から外部指示により選択した所望のコンテンツを有する特定の前記映像配信サーバより前記立体映像配信コンテンツが配信され、前記配信される立体映像配信コンテンツはさらに一旦トランスコーディングサーバに入力し、前記トランスコーディングサーバにてフォーマット変換することにより、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態にして、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、映像配信元サーバからの立体映像信号フォーマットが複数ある形態であっても、一旦トランスコーディングサーバにてプレーヤもしくはTVで再生可能な統一されたフォーマットで変換して伝送されるため、あらゆる映像配信元サーバが所有する立体映像コンテンツも、家庭内の映像視聴装置で再生・視聴することができる。
【0029】
また、この発明の第2の態様にかかる立体映像配信方法によれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成されるとともに、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信されるとともに、前記配信される平面映像配信コンテンツはさらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させるとともに、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、映像配信元サーバのコンテンツが平面映像のものしかない場合でも、トランスコーディングサーバにて立体映像に変換し、またプレーヤやTVで再生できる信号フォーマットに変換して配信するため、通常の平面映像であっても立体映像視聴を楽しむことが可能となる。
【0030】
また、この発明の第3の態様にかかる立体映像配信方法によれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部保有の映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードするとともに、前記アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させるとともに、前記変換した映像を、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、ユーザがムービなどで録画した映像をサーバにアップし、この平面映像を立体映像に変換し、プレーヤやTVで再生できる信号フォーマットに変換して、特定のIDで認証のうえ配信するため、個人的な映像を立体変換し、プライバシーを保った上で視聴することが可能となる。
【0031】
また、この発明の第1の態様にかかる立体映像配信装置によれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管され、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した、所望のコンテンツを有する特定の前記映像配信サーバより、前記立体映像配信コンテンツが配信され、配信される前記立体映像配信コンテンツは、さらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバはフォーマット変換手段を有し、前記フォーマット変換手段にて前記立体映像配信コンテンツを立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態にして、立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とすることにより、映像配信元サーバからの立体映像信号フォーマットが複数ある形態であっても、一旦トランスコーディングサーバにてプレーヤもしくはTVで再生可能な統一されたフォーマットで変換して伝送されるため、あらゆる映像配信元サーバが所有する立体映像コンテンツも、家庭内の映像視聴装置で再生・視聴することができる。
【0032】
また、この発明の第2の態様にかかる立体映像配信装置によれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成され、映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信され、前記配信される平面映像配信コンテンツは、さらに一旦トランスコーディングサーバに入力され、前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させる手段と、立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態に当該コンテンツのフォーマットを変換する手段とを備え、前記立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とすることにより、映像配信元サーバのコンテンツが平面映像のものしかない場合でも、トランスコーディングサーバにて立体映像に変換し、またプレーヤやTVで再生できる信号フォーマットに変換して配信するため、通常の平面映像であっても立体映像視聴を楽しむことが可能となる。
【0033】
また、この発明の第3の態様にかかる立体映像配信装置によれば、視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部が保有する映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードする手段と、アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させる手段と、前記変換した映像を、立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態に変換する手段とを備え、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とすることにより、ユーザがムービなどで録画した映像をサーバにアップし、この平面映像を立体映像に変換し、プレーヤやTVで再生できる信号フォーマットに変換して、特定のIDで認証のうえ配信するため、個人的な映像を立体変換し、プライバシーを保った上で視聴することが可能となる。
【図面の簡単な説明】
【0034】
【図1】本発明の実施の形態1に係るシャッタを用いた立体映像表示システムの概念図である。
【図2】本発明の実施の形態1に係る偏光フィルタを用いた立体映像表示システムの概念図である。
【図3】本発明の実施の形態1に係る回転偏光フィルタを用いた立体映像表示システムの概念図である。
【図4】本発明の実施の形態1に係る多重情報を用いた立体映像表示システムの概念図である。
【図5】本発明の実施の形態1に係る立体映像の模試図である。
【図6】本発明の実施の形態1に係る字幕表示を含む立体映像の模試図である。
【図7】本発明の実施の形態1に係る目の疲労度を説明するための図である。
【図8】本発明の実施の形態1に係る奥行き方向の加速度と目の疲労度を説明するための図である。
【図9】本発明の実施の形態1に係る字幕の表示範囲を説明するための図である。
【図10】本発明の実施の形態2に係る記録媒体上の情報記録領域を示す図である。
【図11】本発明の実施の形態2に係る映像タイトルの映像ストリーム構造を説明するための図である。
【図12】本発明の実施の形態2に係る映像タイトルの映像ストリーム構造を説明するための図である。
【図13】本発明の実施の形態2に係る映像タイトルの映像ストリーム構造を説明するための図である。
【図14】本発明の実施の形態2に係る付帯情報のコンテンツ情報を説明するための図である。
【図15】本発明の実施の形態2に係る付帯情報のタイムコード情報を説明するための図である。
【図16】本発明の実施の形態2に係る付帯情報の配置情報を説明するための図である。
【図17】本発明の実施の形態2に係る付帯情報の映像情報を説明するための図である。
【図18】本発明の実施の形態2に係る付帯情報を用いたTV表示の概念図である。
【図19】本発明の実施の形態2に係るマルチアングル情報の模試図である。
【図20】本発明の実施の形態2に係るOSD情報を説明するための図である。
【図21】本発明の実施の形態2に係る映像制御情報のGOPテーブル情報を説明するための図である。
【図22】本発明の実施の形態2に係る映像制御情報のGOPテーブル情報とOSD情報を説明するための図である。
【図23】本発明の実施の形態2に係る映像制御情報のシーケンス情報とOSD情報と映像属性情報を説明するための図である。
【図24】本発明の実施の形態3に係る立体映像記録装置のブロック図である。
【図25】本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。
【図26】本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。
【図27】本発明の実施の形態3に係る立体映像記録装置のブロック図である。
【図28】本発明の実施の形態3に係る差分情報の圧縮の原理を説明するための視差画像概念図である。
【図29】本発明の実施の形態3に係る立体映像記録装置のブロック図である。
【図30】本発明の実施の形態3に係る視差情報画像変換の圧縮を説明するための模試図である。
【図31】本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。
【図32】本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。
【図33】本発明の実施の形態3に係る立体映像記録装置のブロック図である。
【図34】本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。
【図35】本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。
【図36】本発明の実施の形態4に係る立体映像再生装置のブロック図である。
【図37】本発明の実施の形態4に係る立体映像再生装置のブロック図である。
【図38】本発明の実施の形態4に係る立体映像再生装置を説明する図である。
【図39】本発明の実施の形態4に係る立体映像再生装置を説明する図である。
【図40】本発明の実施の形態4に係る立体映像再生装置を説明する図である。
【図41】本発明の実施の形態5に係るネットワークによる立体視聴システムを説明するための図である。
【図42】本発明の実施の形態5に係るネットワーク視聴時の視聴選択画面を説明するための図である。
【図43】本発明の実施の形態5に係る立体ウィジェット表示システムを説明するための図である。
【図44】本発明の実施の形態6に係る立体映像視聴システムのブロック図である。
【図45】本発明の実施の形態6に係る立体映像視聴システムのブロック図である。
【図46】本発明の実施の形態6に係る立体映像視聴のフローを説明するための図である。
【図47】本発明の実施の形態6に係る立体映像視聴のフローを説明するための図である。
【図48】本発明の実施の形態6に係る立体映像視聴のフローを説明するための図である。
【図49】本発明の実施の形態6に係る立体映像視聴を説明するための図である。
【発明を実施するための形態】
【0035】
(実施の形態1)
本発明の実施の形態1について、図に従い以下に説明する。図1は、本実施の形態に係る立体映像システムの全体構成を示すブロック図である。図1に示す立体映像システムでは、立体映像が記録されたメディアを再生して右目映像1及び左目映像2を出力する立体映像記録装置6(以下、単に記録装置6ともいう)、TVやプロジェクター等の表示装置3、液晶等で構成され2つの透過偏光を切り替える事ができるシャッタ4、シャッタ4を介したフレーム順からなる映像5A,5Bを見るために左右それぞれに液晶シャッタもしくは左右それぞれに異なる偏光板が構成されたメガネ7Aとで構成されている。図2は、本実施の形態1に係る立体映像システムの別の構成例を示している。図2に示す立体映像システムでは、図1と異なり2つの表示装置A,Bを備え、且つそれぞれ方向の異なる特定の偏光成分の光のみを通すための偏光板9,10、表示パネル12に投影させるための光学系11、偏光板9,10を介して得られるフレーム順からなる映像5C,5Dを見るために左右異なる偏光板を有するメガネ7Bとで構成されている。
【0036】
図3は、本実施の形態1に係る立体映像システムのさらなる別の構成例を示している。図3に示す立体映像システムでは、図1と異なりそれぞれ方向の異なる特定の偏光成分の光のみを通す半円の偏光板を張り合わせた円形の回転円盤を有する同期回転部材13と、同期回転部材13に光を投射する光源14とを備えている。図4は、本実施の形態1に係る立体映像システムのさらなる別の構成例を示している。図4に示す立体映像システムでは、図1と異なり、映像信号22に基づく複数の映像を投影するための表示デバイス15〜19と、投影された立体映像を再現するための回転ミラー21とを備えている。
【0037】
図5は、人間が知覚する立体映像を模試したものである。図5では、無限遠方111から順に奥行き位置112〜117として、奥行き位置117が一番飛び出した(目に近い)位置としている。さらに、図5では、奥行き位置115上に表示された人間118、奥行き114上に表示された人間119、遠方から流れてくる川120、遠方に見える山121が図示されている。図6は、図5の表示にさらに字幕表示を追加表示したもので、それぞれの奥行き位置に表示された字幕122A〜122Cと、当該字幕の奥行き範囲123A〜123Cとを図示している。
【0038】
図7(a),図7(b)は、視差の角度変化加速度・変化にかかる時間・回数と目の疲労度を示した図である。図7(a)では、目の疲労度124を縦軸、角度変化加速度・変化の積125を横軸とし、注目点や字幕に対する目の疲労度126、注目点や字幕に対する最高疲労点127、背景画像の目の疲労度128、背景映像における酔いが発生する限界点129、人の目に対する安全領域130、人の目に対する危険領域131、人の目に対する3D酔いが発生する領域132をそれぞれ図示している。また、図7(b)は、目の視差運動を示すための模試図であり、注目点の遠くの映像126A、注目点の近くの映像126B、近くにある場合の視野角126D、遠くにある場合の視野角126E、人間の目126F、映像126Bが表示されている奥行き126G、映像126Aが表示されている奥行き126Hをそれぞれ図示している。
【0039】
また、図8は、注目点の奥行き方向の加速度と移動時間×回数との関係を示したグラフである。図8に示すグラフでは、注目点の奥行き方向の加速度133を縦軸、移動時間と回数の積(移動時間×回数)134を横軸として、安全領域130と危険領域131の境界135、危険領域131と3D酔い発生領域132との境界136とを図示している。また、図9は、字幕表示における奥行き位置と奥行き位置変化量の関係を示したものである。図9では、奥行き位置137を縦軸、奥行き変化量140を横軸として、無限遠の位置138、目の位置(一番手前)139、奥行き変化量制限値141、手前の奥行き制限(飛び出し制限)142、遠方の奥行き制限143をそれぞれ示している。
【0040】
ここで、一般的にTVやプロジェクターを用いた立体映像システムでは、図1から図3に示されるように、人間の目の視差情報を利用したものが多く、メガネによって左右にそれぞれの映像情報を投影し、立体に見せるものである。一般的には映像の撮影の際も2台のカメラを用いて、左右の目に入力させるための映像を撮影するため、2つのストリームが構成させることになる。ここではまず記録装置6に蓄積された左右の映像情報を、TVやプロジェクターの表示装置に入力させる。この際、記録装置6と表示装置間の情報インターフェイスとしてアナログ方式の場合は、左右それぞれ別々の情報伝送が必要となるが、HDMI等のディジタルインターフェイスの場合は左右の情報を交互にシリアル伝送させることも可能である他、記録装置6側で圧縮して伝送し、TV側で解凍させる方法もある。また。左右の映像情報はTV表示の場合フィールド毎に、左と右を切り替えて表示する事となるが、近年の倍スキャン表示を用いたTVを用いれば再生映像を、フィールド毎に左右に分けるにあたり、フリッカ等の問題を解消する事ができ、スムーズな立体映像再生が可能になっている。
【0041】
さらに、図1に示すように液晶等で構成され2つの透過偏光を切り替える事ができるシャッタ4を構成した場合は、透過するフィールド映像5Aを例えば縦偏光、映像5Bを横偏光とするように、シャッタ4を制御する事でフィールド毎の光の偏光角を変える事ができる。この場合はメガネ7A側は左右異なる偏光板(縦偏光と横偏光)を貼り付けたものでよく、ケーブル3Aを介して表示装置3がシャッタ4を制御するタイミングに対応する信号を表示装置3からメガネ7Aに供給するケーブル3Bが不要となる。一方、シャッタ4を用いない場合は、メガネ7A側に液晶シャッタを設ける必要があり、ケーブル3Bのフィールド同期信号ケーブルが必要となる。メガネ7A側の液晶シャッタで対応する場合は偏光を用いていないため、首を傾けたりする等のメガネの角度が変わっても立体表示に対する影響は小さく抑えられる効果がある。
【0042】
また、図2の方式では、PLD素子や透過型液晶タイプを有する表示デバイスを2つ有することにより、それぞれに左右別々の映像を表示させる方法である。この場合は表示装置(A,B)7,8の前面に異なる偏光方向を持つ偏光板9,10を取りつけておく。このことで、それぞれの表示発光部分から出射される光が異なる偏光となっており、これを光学系11を介して表示パネル12に投影する事で、例えば右目は縦偏光の映像5C、左目は横偏光の映像5Dを映し出す事が可能となる。ここではさらに、偏光メガネ7Bを用いてそれぞれの目に視差のある映像情報を入力させる。
【0043】
また、図3の方式ではPLD等の光学素子に入射させる光源の部分において、TVのフィールド表示のタイミングに同期して回転する同期回転部材13を有する偏光切換え機構を構成し、フィールド表示のタイミングにあわせた偏光を有する光をPLD素子等に入射させる方式である。この場合、映像表示パネル上にはフィールド毎に異なる偏光を有する映像が投射される。これを図2と同様な方式の偏光メガネ7で見ることにより視差映像を目に入れることが可能となる。また、図4のように複数の表示デバイス15〜19によって複数角度から撮影した映像を投影し、立体映像を再現する方法もある。この場合は立体用の映像ストリームは2本ではなく複数本のストリームを蓄積し再生しなければならない。
【0044】
さらに、TVのフィールド表示のタイミングに同期して回転する上記同期回転部材13をRGBの特定の波長のみを通す光学フィルタにて構成し、円盤の半分を左目用残りの半分を右目用として、それぞれのRGBの波長をずらす事によって、右目用の光と左目用に光の波長を変え、またメガネ7をそれぞれ右目用と左目用の波長しか通さない光学フィルタから構成する事によっても左右の映像をそれぞれの目に入射させる事ができる。この場合、左右のRGBのずれはTVの表示側の色調整によって補正し、色再現上遜色ないようにする事が可能で、またこのRGB波長を左右でずらす方式ではメガネを傾けてもメガネ7からの光が減衰したりする事がない。
【0045】
また、図4の回転ミラー21を用いた方式では、複数の視点による映像を表示デバイス15〜19によって、回転ミラー21に立体映像が投影されるため、実際の立体映像においてみる側の視点を変えても実物のように見える(極端な場合は裏側等隠れて見えなかった部分も見えるようになる。)ものである。
【0046】
次に、実際の立体映像について説明する。視差を利用した映像再現の場合であっても、人間の目においては図5のように知覚される。この場合、奥行き位置の無限遠111から目の位置117までの奥行きを分解表現すると、奥行き位置112〜115までの奥行き平面上にそれぞれの画像が表示されている事となる。例えば、注目点となる登場人物は手前にあれば大きく人間118のように見え、離れると人間119のように見える。背景情報である川121などは手前に近づけば大きく遠くなれば小さく見え、大きな山121などは背景であっても大きく見える。例えば、図5に示すような立体映像に字幕を表示させた場合、図6のように表現される。近くにある字幕122Aは、字幕122B,122Cと表示が少しずつ遠ざかっていく。この注目点である登場人物である人間119A〜119Cはシーンにより奥行き位置が変化しているとすると、字幕もそれにあわせて変化させれば目の焦点の動きを少なくさせるため疲れにくくなる。そのため、登場人物である人間119Aのシーンでは字幕122Aを、登場人物である人間119Bのシーンでは字幕122Bを、登場人物である人間119Cのシーンでは字幕122Cを表示させる事が望ましい。従来の2D映像においてはもともと奥行き位置の変化がないため、ユーザとTVとの距離が人間の目の焦点であり、目の焦点方向の筋肉を動かすことはないが、立体映像では視差を利用したものであっても視差分の目の移動が必要となるためである。
【0047】
また、図7(a)に示すように登場人物等の注目点の焦点方向の移動においては、その視差角度の変化速度や変化にかかる時間やその回数に比例して目の疲れが発生する。特に注目点においては目が追随しなければならないため、目の疲労は激しく、視差角度の変化速度や変化にかかる時間やその回数が少ない段階で疲労のピークに達するものと考えられる。特に、図7(b)に示す視野角126Dのように手前の映像は視差角度が大きく、遠くのものは視野角126Eのように視差角度が小さい。遠近が変化すると視差角度が変化し両目126Fはこの角度をつけて目標に焦点を合わせる必要が生じ、遠近の変化に伴う視差角の変化に追従しなければならない。従来の平面映像を表示するTVは遠近の映像がないため目の奥行き方向認知に必要な視差角は常に一定であるが立体映像の場合は、平面内の目の動きの他に奥行き方向(視差角をもたせる)の目の動きをつけなければならないため、目の負担は増大する。ただし、目の応答よりも早い動きをした場合は追従できないので逆に疲労も減少するため目の疲労度126のカーブのようになるものと予想される。また、背景情報については元々目が追随していないものの、遠近の変化に伴う視差角度の変化速度や変化にかかる時間やその回数が増えると、疲労度が増加傾向にあるものと推定される。これを奥行き方向加速度と、移動時間と回数の積の関係で表したものが図8であり、奥行き方向の加速度が小さくても回数や距離が増えると危険領域や酔いの発生が見られるが、あるレベルを下回った場合、移動時間と回数の積が増えても疲れない状態になると推定する。
【0048】
ここで、評価値としての目の疲労度は、画面サイズが大きくなると面内方向の目の移動も大きくなり疲労も増大する事から、これを配慮した場合とそうでない場合とで2つの評価関数が考えられる。まず、評価関数1は、目の追従が無視できる値a<注目点の視差角変化速度<目の追従範囲bとして、評価値(目の疲労度)が視差角変化速度×変化にかかる時間×変化した回数に比例する。評価関数2は、目の追従が無視できる値a<注目点の視差角変化速度<目の追従範囲bとして、評価値(目の疲労度)が視差角変化速度×変化にかかる時間×変化した回数×画面サイズに比例する。TV画面のサイズが検知できる場合は評価関数2を、できない場合は評価関数1を用いる。なお、実施の形態2以降では上記評価値(目の疲労度)は奥行き変化度として記載している。
【0049】
1本の立体映像を製作する際、1本の映像コンテンツにおける立体映像の視差角変化量と変化に関わる時間と変化した回数を評価係数としてもっておき、これが図7の危険領域131に入らないように再エンコードする事で立体映像コンテンツを製作する事ができる。また、この立体映像コンテンツにおいても評価関数としての奥行き変化度を記述しておくことで、映画視聴前に目の疲労度を提示しユーザに2D再生とするか3D再生とするかの選択をさせる事ができる。この際、再エンコードの方法としては視差映像を撮影するカメラの視差間隔を小さくする(2台のカメラの距離を小さくする)といった撮影上の工夫や、後述する視差情報を用いた画素変換処理によって視差を小さくするような画像処理を行う方法、アニメーション等ではCG等でのコンテンツ制作時に飛び出し量を制限させる方法等が行われる。
【0050】
このような映画等のストーリを把握するため、ユーザが必ず読まなければならない字幕表示については、図9に示すように奥行き方向の変化量を制限する必要がある。あまり目の焦点方向の追従速度が速くなると図7や図8のように目の疲れが増大し3D酔いが発生しやすくなるからである。また、あまり遠方すぎる位置の字幕は、字幕の大きさと背景との関係で、図6にあるように違和感があるため遠方位置についても制限を加えたほうがよいと思われる。また、目に近い手前側についても制限が必要である。これは特に目に近すぎる位置は視野角の関係で目の角度変化量が大きくなるため元々目の疲労が大きくなるほか、飛び出し量が大きいと「びっくりする」,「おどろく」といった影響を及ぼす場合もあるからである。また、表示するTV画面が大きくなる場合、面内方向の目の動き量も増大するとともに、上述する「びっくりする」,「おどろく」といった心理的効果も増大するため、より制限を大きくする事が望ましい。再生装置とTVがリンク接続されている場合、TV画面の大きさに関する情報を再生装置との間でやりとりし、字幕等の飛び出し範囲制限をきびしくする。また、飛び出し量の異なる複数のストリームが配置されている場合、TV画面の大きい場合は飛び出し量の小さいストリームを選択し、TV画面が小さい場合は飛び出し量の大きなストリームを選択する等の構成が考えられる。また、後述する装置側の設定によって飛び出し量が可変できる場合には、TVのサイズ情報やユーザの状態(年齢等)を配慮し自動設定する事も考えられる。
【0051】
この際、上記評価値や視野角である最大飛び出し量からなる立体映像パレンタルレベルを規定し、立体映像パレンタルレベルに応じて、視聴する年齢の制限やお年寄りや病人に対する危険告知を行う事が可能となる。例えば、立体映像パレンタルレベルとして、レベル1は疲労・危険が大として、評価値(目の疲労度)>c,最大飛び出し量>d,通常のパレンタルレベルが高い場合とする。レベル2は疲労・危険がやや大として、評価値(目の疲労度)>c,最大飛び出し量>d,通常のパレンタルレベルが普通以下の場合、又は評価値(目の疲労度)>e,最大飛び出し量>f,通常のパレンタルレベルが高いの場合とする。レベル3は疲労・危険が中として、評価値(目の疲労度)>e,最大飛び出し量>f,通常のパレンタルレベルが普通以下の場合とする。レベル4は疲労・危険なしとして、評価値(目の疲労度)>g,最大飛び出し量>h,通常のパレンタルレベルが普通以下とする。
【0052】
なお、上記の立体映像パレンタルレベルの例では、c>e>g,d>f>hの関係を有し、通常のパレンタルレベル(平面画像パレンタルレベル)が、ホラー映画等に対し現行の2D映像のDVD等で規定されている安全のための視聴制限を指すものとする。また、このような立体映像パレンタルレベルの設定は製品購入時や、初期設定時に設定・変更する事ができ、例えば暗証番号等を記憶させる事によって、後での解除変更をできるようにしておけばより有用である。
【0053】
(実施の形態2)
次に、本実施の形態2について、図に従い以下に説明する。図1から図3のような特に視差情報を用いた立体映像においては、そのままTV放送すると2重写しのような画面になり、上述したような専用の立体表示装置を構成しなければ見ることができない。従って、放送において立体映像を行う事は視聴者側の機器のインフラにも左右されるため、一般には視聴できない専用のチャンネルを設けるか、3D映像である事のフラグを放送の情報に重畳する等が必要となる。そのため、通常では記録メディア等で配信され、専用のプレーヤもしくは本機能が搭載されたプレーヤで見るのが都合が良い。このような状況から、上記のような立体映像を記録メディアに保存するための方法やフォーマットを、以下に説明する。
【0054】
図10は、本実施の形態2に係る記録媒体26である。本発明に係る記録媒体(映像メディア)は、DVDやBD、HD−DVD、MO等の光ディスク媒体の他、HDD媒体であっても良いことはいうまでもない。HDDの場合はそれ自体可搬できない場合が多いものの、放送された立体映像情報を記録する際には容量の点からも有利である。一方、ROMメディア等の光ディスク媒体においては、放送される前の立体のキラーコンテンツや、立体有料コンテンツを配信するのに有効である。図10に示す円盤状の記録媒体26では、映像情報に関する制御情報を確認している領域(映像制御情報23)、立体映像が格納されている領域(映像タイトル24)、通常の2D映像が格納されている領域(映像タイトル25)に分けられている。
【0055】
図11は、図10の映像タイトル(映像コンテンツ)24部分の映像ストリームの構造例を示したものである。図11では、映像タイトル27が2D映像情報28、ユーザの選択が可能な2D映像情報30,31、表示装置が立体映像表示可能な場合に自動的に選択もしくはユーザの選択により選ばれる3D映像情報29、上記映像情報29〜31に引き続いて再生される2D映像情報32、映像タイトル27の最後の2D映像情報33で構成されている。また、図11では、GOPレイヤのストリーム情報として、後に続くGOP映像情報35,36の先頭に配置されGOP映像情報に関連した付帯情報が記述された付帯情報領域34、GOP映像情報38の先頭に配置されGOP映像情報に関連した付帯情報が記述された付帯情報領域37、GOP映像情報40,41の先頭に配置されGOP映像情報に関連した付帯情報が記述された付帯情報領域39が図示されている。
【0056】
また、図11では、ピクチャレイヤのストリーム情報として、付帯情報を記載したパケットデータ部42、面内符号化データから構成されたIピクチャデータ43、Iピクチャデータ43とPピクチャ45とから時間方向に予測された符号化データであるBピクチャ44、Iピクチャデータ43から片方向のみの時間方向に予測された符号化データであるPピクチャ45が図示されている。また、図11では、トランスポートパケットデータのレイヤとして、付帯情報を記載したトランスポートパケットデータ部でパケットデータ部42と同じパケット46、Iピクチャデータ43をトランスポートパケットで分割した先頭のパケット47、Iピクチャデータ43の最後のデータが格納されたトランスポートパケット48、トランスポートパケット48の中のIピクチャデータの最後の部分49、トランスポートパケット48の中のパディング処理された部分50が図示されている。
【0057】
また、図12は、映像タイトル(映像コンテンツ)27における3D映像情報29、2D映像情報30,31とが選択的に選べる領域の階層のデータ構造を示したものである。図12では、3D映像情報29、2D映像情報30,31とが選択的に選べる領域における先頭に配置された本映像列に関連した情報が格納された付帯情報51、当該領域におけるGOP映像情報列52、GOP映像情報列54に関連した情報が格納されている付帯情報53、当該領域の最後のGOP映像情報列56に関連した情報が格納されている付帯情報55が図示されている。また、図12では、ピクチャレイヤのストリーム情報として、面内符号化データから構成されたIピクチャデータ57、Iピクチャデータ57とPピクチャ59とから時間方向に予測された符号化データであるPピクチャ58、Iピクチャデータ57から片方向のみの時間方向に予測された符号化データであるBピクチャ59が図示されている。
【0058】
また、図12では、トランスポートパケットデータのレイヤとして、Iピクチャデータ57をトランスポートパケットで分割した先頭のパケット60、Iピクチャデータ57の最後のデータが格納されたトランスポートパケット61、トランスポートパケット61の中のIピクチャデータの最後の部分62、トランスポートパケット61の中のパディング処理された部分63が図示されている。また、図12に示す矢印Aは再生部分、矢印Bは3D再生を行った場合にジャンプする部分、矢印Cは3D再生を行うために再生する部分であり、右目映像のGOP映像情報と左目映像のGOP映像情報とが配置されているものである。図13では、映像タイトル27における3D映像情報29、2D映像情報31とが選択的に選べる領域の階層のデータ構造を示したものであり、基本的に図12と同じであるため同じ構成要素については同符号を付して説明を省略する。
【0059】
光ディスクやHDD媒体に記録されるデータの構造としては、図10に示されるように映像関連の付帯情報やシーケンス等を記録した映像制御情報23の領域と実際の映像タイトル(映像コンテンツ)24,25の領域とから構成される。この時、3D映像は必ずしも全編が3D映像となっているわけではなく、2D映像との混在である場合や、これら映像がユーザの選択により切り替えられる場合が想定される。特に、DVD規格においてはマルチアングルといったユーザの選択可能な映像情報列を切り替えて表示できるようになっており、3D映像情報の場合も、ユーザの機器がすべて3D映像対応になっていない事を考慮すると、2D映像ストリームの上に、追加的に3D映像ストリームが構築される。そして、ユーザの表示機器が3D対応の場合、HDMI端子のリンク機能等により自動的に識別し3D映像ストリームを選択的に表示させるか、ユーザのボタン操作により選択的に3D映像側に決定し動作させる方法が考えられる。もちろん、全てのコンテンツが2D映像のみもしくは3D映像のみの形態もある事はいうまでもないが、フォーマットとしてはこのような複合形態への配慮が必要である。
【0060】
また、映像タイトル24の映像情報ストリームにおいても、映像情報ストリーム上にこれに関連する付帯情報領域を設け、情報のアクセスと管理や、機器の設定切換えの対応等を行う事が望ましい。特に、2D映像と3D映像とが混在するコンテンツにおいては、TV側で映像ストリームの2D映像か3D映像かの判定を行う必要があり、ストリーム上に付帯情報領域があればこの情報に基づき、TV側の設定を簡便にかつ自動的に切り替える事が可能となる。記録媒体を再生もしくは記録するプレーヤ・レコーダですべての設定を閉じて行う場合、制御情報をディスクの一部に集約して配置する映像制御情報23に記載するのみでも良い。しかし、TVとの接続連携を行う場合では、特に再生中にTVを切り替える等の処置を行う場合は、映像情報自体に、必要最低限の制御情報を重畳させておくことで、TV側の自動切換え設定等が行えるようになる。上記映像情報中の制御情報がない場合は、TVの接続切換えを検出し、別途制御情報をプレーヤ・レコーダから送出しTV側の設定を変更した後、映像情報を送出する事となる。これらTV側の設定変更については、立体映像再生の処理自体が偏光を切り替える等表示装置側で行われるため、表示装置の設定変更処理を迅速に行うようなしくみが必要となる事はいうまでもない。
【0061】
付帯情報51は、情報のアクセス管理にも使用する事が可能であり、DVD規格ではNavi情報として定着しているものである。ここで、2D映像と3D映像とが混在している場合、図11に示す3D映像情報29,2D映像情報30,31のようにコンテンツの時系列上は並列する形となる。そこで、先頭にある付帯情報34はGOPデータ情報群の頭に配置される必要があり、まず付帯情報の内容を読み取る事により、次のGOP列の情報が2D映像なのか、3D映像なのか、3D映像であれば左目映像なのか右目映像なのか、またGOP映像情報群におけるそれらの配置情報(どこにアクセスすれば良いか)を判断する事ができる。ここで、付帯情報51を先頭に含むGOP映像情報群はビデオユニットとしてGOP映像情報よりもさらに大きな映像単位として定義される。
【0062】
また、MPEG等の時間方向にも圧縮をかけた映像情報データの場合は、Iピクチャを先頭とするGOP映像情報単位で情報が存在するため、映像データのアクセスはこのGOP映像情報単位となる事はいうまでもない。また、付帯情報は最初に読み取る必要があるためGOP映像情報群の先頭に配置しなければならず、例えば図12のように3D映像情報部分を再生する場合は、まず付帯情報51を再生(図中矢印A)した後、2D映像情報30,31をジャンプして、3D映像情報29を再生する。この際、2D映像情報30,31は図中矢印Bのようにジャンプし再生機器のメモリに不要な情報(この場合は2D映像情報30,31)を取り込まないようにして不要なメモリの増大を回避するとともに、映像の途切れが生じないように図中矢印Cの3D映像情報29を再生する。
【0063】
また、上記GOP映像情報の先頭の付帯情報51は、その下のピクチャレイヤの状態で示すと、Iピクチャ57の先頭位置に配置されている。さらに、地上波や衛星・ケーブル等のディジタル放送等との親和性を持たせるため、これら圧縮映像データはトランスポートパケットで分割しておく事が便利であるため、最下層のデータとしては図12のようにトランスポートパケット60,61に分割する。この場合でも付帯情報51はGOP映像情報群52の先頭のトランスポートパケットにて記載される事となる。なお、トランスポートパケットにおける新たに定義されたプライベートパケットを使用する事はいうまでもない。さらに、上記GOP映像情報群の最後のトランスポートパケット61は、必ずしも一定のトランスポートパケット単位でデータが切れるわけではないので、最後の部分63を「00」や「FF」でパディングしてGOP映像情報単位でパケットのデータが完結するようにしておく事が良い。また、図13のように1つの2D映像31と1つの3D映像29との2本に分岐している場合は、図12と比べ図中矢印BのジャンプするGOP映像情報量が少ないだけであり、基本的な動作は図11と変わらない。
【0064】
なお、上記付帯情報の内容についてさらに説明する。図14に示す付帯情報51は、コンテンツ情報64、タイムコード65、配置情報66、映像情報に関する情報67、音声情報に関する情報68、OSD情報に関する情報69で構成されている。そして、図14に示すコンテンツ情報64は、コンテンツ名70、著作権71、暗号情報72、3D映像の有無73、有効地域情報74で構成されている。
【0065】
また、図15に示すタイムコード情報領域65は、プレゼンテーションタイム65A、同期情報65Bで構成されている。図16に示す配置情報66は、シームレス情報75、ジャンプ先情報76、アングル情報77、GOP内配置情報78で構成されている。図17に示す映像情報67は、解像度情報79、フレームレート情報80、3D映像情報81、パレンタル情報82、アングル情報83、暗号情報84、3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き解像度に関する情報88、奥行き変化度に関する情報89、字幕許可の奥行きに関する情報90、奥行き制限に関する情報100、視差量制限に関する情報101で構成されている。
【0066】
また、図18は、上記付帯情報を表示装置であるTVに表示させた場合の模試図である。図19(a),図19(b)は、複数のカメラからマルチアングル撮影した場合の模試図である。また、図20に示すOSD情報69は、OSD配置情報69A、OSD格納先の情報69B、フォントや字体の大きさ指定69C、面内のOSD配置情報69D、奥行き方向のOSD配置情報69E、奥行き位置69F、奥行き許可制限69G、奥行きズーミング速度69Hで構成されている。
【0067】
ここで、図14における付帯情報51は、まずストリーム上のGOP映像情報群毎に記述されたものであり、TV等にHDMI伝送された場合でも、映像情報ともに伝送されるものである。従って、特に3D映像表示に関するTV側の設定にも必要な情報も含まれることはいうまでもない。
【0068】
次に、図14に示すコンテンツ情報64について説明する。コンテンツ名70は、(1)コンテンツ名,(2)出演者名,(3)製作時期,(4)配給会社,(5)関連する作品名,(6)あらましをTV側のOSD情報として表示させる場合がある。当該コンテンツ名70は、映像ストリーム上に重畳された付帯情報51が含まれるのであれば、途中でTV側の入力を3D映像情報に切り替えた場合でも、コンテンツ名70の内容を表示する事が可能となる。
【0069】
図14に示す著作権情報71として、(7)著作権者,(8)配給会社,(9)輸入業者,(10)資本参加社を記載しておくことで、映像ストリームの著作権所有者の情報も同時に配信する事ができ、本再生データを用いて不正な使用を行った場合でも著作権者の権利を主張する事ができる。また、本情報は映像ストリームに重畳されるため、TVをつなぎかえた場合においても常にTV側に情報配信されるため、著作権に関する表示を行う事も可能となる。
【0070】
また、図14に示す暗号情報72は、(11)暗号の有無,(12)暗号方式を記載しておく事で、暗号化された機密性の高い情報なのか、コマーシャル等の機密性の無い情報なのか伝送先の機器へ送付する事ができる。
【0071】
また、図14に示す3D映像情報73は、(13)3D映像対応の有無,(14)全2D映像対応かどうか(2D映像表示のみで最後まで再生できるかどうか?),(15)3D映像対応の場合、3D映像再生が優先かどうかを記載する事で、3D映像対応でないTVと接続した場合には非対応である事をユーザに表示させる事ができるようになる。また、TVとHDMIでリンク接続している場合は、TV側を自動的に3D映像設定に切り替えたり(例えば、図1から図3に示すように自動的に2映像ストリームをフィールド毎に表示させる)、TV側に3D映像機能が無い場合は、TVや再生装置側でTVが未対応と表示させたり、ディスクを吐き出す等の処置を行う事ができる。
【0072】
また、図14に示す有効地域74は、(16)2D映像の再生許可地域,(17)3D映像の再生許可地域を記述する事で、本ディスクの再生許可地域を限定するだけではなく、2D映像のみ許可し3D映像対応の表示を許可する地域を限定して指定する事もできる。これは、3D映像再生に関するライセンス条件が整っていない場合に、特定の地域で2D映像再生のみを許可するケースが生じるからである。3D映像の再生許可地域が許可されていない地域であれば、3D映像表示装置と接続してあっても2D映像のみの再生となったり、ディスクを吐き出す等の処置が行われる事となる。
【0073】
次に、図15に示すタイムコード情報65について説明する。2D映像と3D映像とが混在する映像コンテンツにおいては、ユーザによって途中の切換え(例えば3D映像から2D映像)が発生した場合でも、映像情報の流れを途切れたり省略したりする事なく連続的に再生させなければならない。また、ユーザの指示から例えば10分前に戻る・進む等のタイムサーチが発生する場合がある。そのためGOP映像情報群の先頭には以下に示す、その映像のタイトル開始時点からの再生時間情報であるプレゼンテーションタイム65Aを記録しておく必要がある。なお、タイトル再生終了までの残り時間情報もしくはタイトル再生全時間を記載しておく事でTV側で残時間表示等を行う事が可能となる。
【0074】
また、3D映像は実施の形態1で説明した目の疲れ等を誘発しやすいため、3D映像再生開始からのタイムコード(連続してどれだけの3D映像を視聴したか)や、本映像コンテンツのトータルでどれだけの3D映像を視聴したかについて表示し、目の疲れを防ぐための休憩の指示や危険表示を行う事ができる。また、3D映像における右目・左目それぞれのGOP映像情報があった場合、その再生順序に対応するフィールド指定を行う事が可能となる。つまり、プレゼンテーションタイム65Aには、(18)タイトル開始時点からのタイムコード(プレゼンテーションタイム),(19)タイトル再生終了までの残り時間情報もしくはタイトル再生全時間,(20)3D映像再生開始からのタイムコード(3Dプレゼンテーションタイム),(23)トータル3D再生時間,(24)左右映像の再生順もしくはフィールド指定を記載しておく。また、同期情報65Bは、映像コンテンツの同期を規定し左右映像の再生順もしくはフィールドを指定して行う。
【0075】
次に、図16に示す配置情報66について説明する。特に2D映像コンテンツと3D映像コンテンツとが混在する場合、再生に不要な情報を飛ばしたり、必要なデータの先頭位置にGOP映像情報群における配置情報の記述が必要となる。また、特殊再生動作を行う場合はMPEG等の時間軸方向の圧縮映像の特性からまず面内圧縮画像からアクセスが必要となる点も配慮しなければならない。そのため、シームレス情報75には、(25)シームレス再生の有無(次のGOP映像情報群までの)が記録される。また、ジャンプ先情報76には、(26)ジャンプ先(正方向と逆方向)アドレス1、アドレス2等,(27)ジャンプ先のタイムコード情報1、タイムコード情報2等(複数のジャンプ先情報をテーブル情報として有する),(28)ジャンプ先の3D映像情報有無が記録される。なお、(28)ジャンプ先の3D映像情報有無の情報に基づきジャンプ先に3D映像情報が無い場合、ストリーム再生中にTVの設定を2D映像に戻すことができる。
【0076】
アングル情報77には、(29)複数のアングルに対応したGOP映像情報のアドレス1、アドレス2等,(30)複数のアングルに対応したGOP映像情報のタイムコード情報1、タイムコード情報2等が記録される。GOP内配置情報78には、(31)各GOP内のPピクチャの配置情報としてのアドレス情報1、アドレス情報2等が記録されることになる。以上のように、シームレス情報75を有することにより、必要なアングルをつなぎながら順次再生する事も可能になるほか、GOP内の配置情報によりIピクチャのみを再生したり、IとPピクチャのみを再生する事による早送りや早戻し際再生が可能となる。
【0077】
次に、図17に示す映像情報67について説明する。映像情報67において立体映像情報として特に必要となるものを以下に示す。まず、解像度情報79には、(32)2D映像再生の場合の解像度(面内方向)、PinP画像の解像度(面内方向),(33)3D再生時の解像度(面内方向)を記憶する。3D映像有無方式85には、(34)3Dの有無,(35)3D映像方式指定(倍スキャンレート指定,偏光メガネありなし,液晶シャッタありなし)が記録される。3Dフレームレート86には、(36)2D映像再生時のフレームレート、3D映像再生時のフレームレートが記録される。
【0078】
3D映像情報数87には、(37)平行して再生される独立した3D映像情報ストリーム数が記録される。なお、別々のアングルがn本ある場合は、n=アングル番号と記載される。本情報に基づき、再生中にアングル数を表示し、ユーザからの選択によるアングルの切換えとともに、アングル番号の表示による認識を行わせる事が可能となる。3D映像情報数87には、(38)左右映像を順次切換える場合の3D映像ストリーム数とカメラ情報も記録される。例えば、図19(a)に示すように、5本の視差分だけずれたカメラD〜Hを用いて映像を撮影、もしくは、アニメ画像等をCGによって5本の視差映像情報にして記録した場合、これらの本数と、各カメラの間隔もしくは角度を記載する。付帯情報の記載一例としては、総合情報−映像本数5−カメラ間隔**mm,カメラDによる映像1−角度1,カメラEによる映像2−角度2,カメラFによる映像3−角度3,カメラGによる映像4−角度4,カメラHによる映像5−角度5となる。
【0079】
視差分だけずれた映像が5本あった場合、実際のアングル映像としては、アングルDは映像1が左、映像2が右,アングルEは映像2が左、映像3が右,アングルFは映像3が左、映像4が右,アングルGは映像4が左、映像5が右と5本の視差映像情報で、図19(b)に示すように少しずつアングルの異なる4つの立体アングル映像を再生する事ができる。このとき順次アングル情報をずらす事で映像を回転させたりする事も可能である。従って、各映像ストリームが1つのアングル情報を指すのではなく、隣接する視差角を持った映像との組み合わせで新たなアングル情報が構築できる。近年、CG技術の進化により、アニメーション映像では容易に立体映像を作る事が可能となっており、このような複数アングルの視差情報を準備し、ユーザからのリモコンの指定によりおのおのにアクセスする事で、アングルずらしによる視点変更も可能になる。
【0080】
奥行き解像度88には、(39)3D映像における奥行き解像度1、解像度2等が記録される。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向解像度を記載する。例えば、CG映像等により極端に奥行き解像度が低く、時間的にもカクカク動くような場合は、本情報に基づき、時間方向に奥行きを補完して、なめらかに表示させる事も可能になる。奥行き変化度89には、(40)3D映像における奥行き変化度1、変化度2等が記録される。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向変化度を記載する。特に、変化度については実施の形態1に示すような人間の目の疲れに関連するため、安全性を確保するために、記載しておき、ユーザへの警告や休憩指示等に用いる事ができる。
【0081】
字幕許可奥行き90には、(41)字幕許可奥行き範囲(最大視野角1、最小視野角1、最大視野角2、最小視野角2等)が記録される。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向変化度を記載する。字幕情報については、後述する立体映像視聴の際に、字幕焦点位置と注目点とで焦点を頻繁に合わせる必要がある事から、目の疲れに影響しやすく、表示範囲を十分限定しておくことが必要となる。また、奥行き情報の記載は、実距離にした場合、遠い方が無限遠になるため数値化しづらく、視野角情報で記載する事が望ましい。また、無限遠に近い場合は詳細数値を記載する事に意味をなさないため、例えば視野角1deg以下は省略する等の下限を設けても良い。プレーヤではこれら情報に基づいて、OSDの表示における字幕の奥行き位置を設定する。
【0082】
奥行き制限100には、(42)奥行き制限(最大視野角1、最大視野角2等)が記録される。あまり近くに飛び出してくる立体映像においては、心理的な効果からびっくりする等の感覚を与える。そのため、字幕ではなく立体映像そのものの飛び出し量を制限し、目にやさしい効果や、あまりびっくりさせないような配慮を行う。この場合プレーヤでは、図17に示すように映像コンテンツで予め飛び出しの最大量となる視野角を記録しておく事により、図18のように小さなお子さま等の視聴者に警告したり視聴制限させる事が可能となる。
【0083】
視差量制限101には、(43)視差量制限(撮影時の最大視野角1、最小視野角1、最大視野角2、最小視野角2等)を記載する。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向変化度を記載する。本情報は撮影時の2つのカメラの距離である視差基準量は人の目の間隔によって異なるため、この基準角度のずれ量の範囲を規定したものである。これにより両目の間隔の小さな子供等が視聴した場合の違和感を予め把握する事ができる。
【0084】
このように、違和感の解消のために、同一映像コンテンツにおいて視差基準量の異なる複数立体映像を用意し、視聴者の目の間隔に合わせて選択する方法等も考えられる。複数の視差基準量については、近年CG技術が革新し、アニメーション映像等においてはコンピュータにより容易に変更できるようになっている。この場合、このような視差量制限情報を付帯情報に記載することによって、プレーヤでは図18に示すように**才〜**才、大人等の選択キーを用意し、これを選択する事で元の映像コンテンツにおける視差基準量を視聴者にあわせて、正確な立体視聴が可能となる。また、視差のずれた映像を長時間見る事による目の疲れ等も回避できる。さらに、パレンタル82においては、通常の平面映像2Dパレンタルレベル以外に3D映像対応した立体映像パレンタルレベルが規定される。パレンタル82には、(44A)平面映像パレンタルレベル(現行DVD等と同等のパレンタル表記),(44B)立体映像パレンタルレベル(実施の形態1にて説明した立体映像パレンタルレベル)とを記録する。
【0085】
また、図20に示すようにOSD情報69には、まずOSD自体の付帯情報となる配置情報69Aと、OSDそのものの情報が格納されているアドレスを記載したOSD情報格納先69Bとを記録する。OSD表示69には、まずこの付帯情報を取り込みマイコン等で理解した上で、この格納先情報により実際のOSDを取得し表示させる事となる。
【0086】
ここで、字体の大きさ等の情報69Cには、(45)字体フォント、字体大きさを記録する。面内配置情報69Dには、(46)字体の配置情報(X位置、Y位置)を記録する。
【0087】
奥行き方向OSD配置情報69Eには、(47)奥行き位置69F,(48)奥行き許可制限69G(遠方制限位置、手前制限位置、奥行き変化量制限等の実施の形態1における目の疲れを軽減するための制限),(49)奥行きズーミング速度69H(ズーミングありなし、ズーミング速度)が記録される。なお、奥行きズーミング速度69Hでズーミングを規定する事により、ある字幕から次の字幕に切りかわる際に、瞬時に奥行き位置を変化させるのではなく、すこしずつズームするように変化させ、目の疲れを軽減させるためのものである。
【0088】
なお、上記(1)から(43)までの3D映像情報における付帯情報は、映像情報ストリームに重畳されたものとして、映像情報とともに配信されるが、以下に述べる映像情報そのものとは別の領域に記載された映像制御情報23にも同様な記載を行う事ができる。また、プレーヤ起動時の最初にすべての情報を読み込めるため、各種初期設定を行う事が可能である他、ビットレートやメモリの制限にかかる事なく映像情報に重畳するよりも多くの情報を記述できるため、より詳細な制御情報を記述する事が可能である。
【0089】
次に、記録媒体のある領域に映像情報とは別に配置されている制御情報の構造について説明する。図21は、まとめて配置されている映像制御情報23のGOPテーブル部分とその中の映像関連情報について詳細に説明するための図である。図21に示す映像制御情報23は、コンテンツ情報64、著作権71、暗号情報72、3D映像の有無73、有効地域情報74、GOPテーブル情報102、シーケンス情報103、メニュー情報104、メニューのOSDデータ105を備えている。そして、GOPテーブル情報102は、図21に示すように表形式となっており、GOP番号、論理アドレス、タイムコード、シーケンス、配置、映像、音声、OSDの各欄が設けられている。
【0090】
図21では、特に映像欄の構成が図示されており、解像度情報79、フレームレート情報80、3D映像情報81、パレンタル情報82、アングル情報83、暗号情報84で構成されている。さらに、図21では、3D映像情報81が3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き解像度に関する情報88、奥行き変化度に関する情報89、字幕許可の奥行きに関する情報90、奥行き制限に関する情報100、視差量制限に関する情報101で構成されていることが図示されている。
【0091】
また、図22も、まとめて配置されている映像制御情報23のGOPテーブル部分とその中の映像関連情報について詳細に説明するための図である。図22では、特にOSD欄の構成が図示されており、字幕の有無106とOSD情報69とで構成されている。OSD情報69は、OSD配置情報69A、OSD格納先の情報69Bで構成され、OSD配置情報69Aは、フォントや字体の大きさ指定69C、面内のOSD配置情報69D、奥行き方向のOSD配置情報69Eで構成され、奥行き方向のOSD配置情報69Eは、奥行き位置69F、奥行き許可制限69G、奥行きズーミング速度69Hで構成されている。
【0092】
また、図23は、記録媒体のある領域に映像情報とは別にまとめて配置されている映像制御情報のシーケンス情報の構造について説明したもので、シーケンス情報103が表形式で記録されていることを示している。図23の映像欄には、解像度情報79、フレームレート情報80、アングル情報83、3D映像情報81、パレンタル情報82が記録されている。なお、3D映像情報81は、3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き制限に関する情報100、視差量制限に関する情報101で構成されている。一方、図23のOSD欄には、字幕の有無106、字幕フォント・色107、字幕表示方法108、字幕表示奥行制限109、字幕データアドレス110とが記録されている。
【0093】
記録媒体のある領域に映像情報とは別に配置されている制御情報については、映像情報ストリーム上に重畳された付帯情報34、51の情報を含めてすべての情報が記載されている。これはプレーヤ・レコーダの立ち上げ時にまず制御情報を読みこみ、各種初期設定を行うためである。
【0094】
まず、映像制御情報23は図21のように記載されており、図14の映像情報中に重畳された付帯情報51と同じくコンテンツ情報64、タイムコード65、配置情報66、映像情報に関する情報67、音声情報に関する情報68、OSD情報に関する情報69を含んでいる。しかしながら、より多くの情報を格納できる映像制御情報23においては、GOPテーブル102といった全GOPに関するテーブル情報を記載する事ができ、映像再生しなくてもGOP映像情報単位での情報内容を把握する事が可能となる。ここでGOPテーブル102は図21中の表のように記載され、論理アドレスがある事から、所定のセクタ領域から読み出された信号から上記データ・ファイル識別情報を検出し、検出された上記データ・ファイル識別情報にもとづいて、上記位置識別信号によって示された位置にある上記符号化単位に対応した上記データ・ファイルがディスク媒体上に記録されている位置を識別する。識別された上記ディスク媒体上の位置にもとづいて上記データ・ファイルを読み出し、読み出された上記データ・ファイルに含まれる上記符号化単位で符号化された信号を復号化して画像信号を再生する事ができる。これにより、所望の時点にある符号化単位が記録されている位置を容易にしかも即座に特定して再生することを可能にする。
【0095】
また、上記GOPテーブル102においては映像に関する付帯情報において3D映像情報を含み上記(32)〜(43)の映像ストリーム中に記述された項目と同じ項目の付帯情報をGOP映像情報毎に記述する事が可能となる。また、字幕情報に関しても、図23に示すように字幕の有無106、字幕フォント・色107、字幕表示方法108、字幕表示奥行制限109、字幕データアドレス110を記述する事で(44)〜(49)に示す情報と同様な情報をGOP映像情報単位に字幕の付帯情報を記載可能となる。
【0096】
また、上記映像制御情報23には図23に示すようにGOP映像情報単位のシーケンス情報を記載する事も可能である。これにより再生開始時に、データ・ファイルの再生順序を示す情報が記録された所定のセクタ領域のセクタ・アドレスを生成し、データ読み出し手段によって読み出されたデータから再生順序情報を読む事によって再生順序情報が検出され、その後再生順序情報にもとづいてセクタ・アドレスを生成する。これにより、記録媒体上に分散したセクタに記録された画像信号も再生することが可能となっている。このようなシーケンステーブル情報にも上記(32)〜(49)に示す付帯情報を記載することが可能となる。
【0097】
(実施の形態3)
次に、本実施の形態3について以下に説明する。図24は、本実施の形態3に係る立体映像記録装置のブロック図である。図24に示す立体映像記録装置は、視差情報を利用した立体映像の右目映像と左目映像のそれぞれの映像信号をディジタル化するためのADコンバータ146と、時間方向に画像圧縮するために必要な動きベクトル検出(動き検出)147と、面内圧縮に必要なDCT変換回路148と、面内圧縮に必要な適応量子化回路149、ローカルデコーダにおける逆量子化回路150とを備えている。さらに、図24に示す立体映像記録装置は、面内圧縮に必要な可変長符号化回路151と、ローカルデコーダにおけるDCT逆変換回路152と、ローカルデコーダにおけるフレームメモリ153と、圧縮後のデータを格納するバッファメモリ154と、OSD情報のエンコーダ155と、音声エンコーダ156と、フォーマットエンコーダ157と、光ディスク165に書き込む信号を生成するための変調手段158と、LD変調回路159とを備えている。さらに、図24に示す立体映像記録装置は、光ディスク165に記録するアドレスを抽出するためのアドレスヘッダ認識回路160と、光ヘッド164からの信号を再生するための再生アンプ161と、光ヘッド164や送りモータ163や回転モータ166を制御するためのサーボ回路162と、装置全体のシーケンスを制御管理するためのシステムコントローラ167とを備えている。
【0098】
また、図25は、図24の立体映像記録装置に基づいて生成した立体映像信号のストリーム構造を示した図である。図25に示す立体映像信号のストリーム構造は、付帯情報51以降に、右目映像のGOP168、左目映像のGOP169、情報に関する情報68、OSD情報69の構成が順に繰り返す構造である。また、図25に示す右目映像のGOP168は、GOPヘッダ170、ピクチャヘッダ171,173、Iピクチャデータ172、Bピクチャデータ174で構成されている。さらに、図25に示すGOPヘッダ170は、GOPヘッダ170内にあるユーザデータスタートコード175、GOPヘッダ170内にある3D映像情報176で構成されている。さらに、図25に示す3D映像情報176は、左目映像か右目映像かを記載した情報177、3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き制限に関する情報100、視差量制限に関する情報101で構成されている。
【0099】
また、図26は、図24の立体映像記録装置に基づいて生成した立体映像信号のストリーム構造において下位の構造部分を図示したものである。図26では、右目映像のGOP168のトランスポートストリームパケット178〜182で示しており、左目映像のGOP169のトランスポートストリームパケット185〜188で示している。GOP映像情報の最後のデータが記述されたトランスポートパケット182,188の最後のデータがそれぞれデータ183,189であり、データ183,189のそれぞれにパディング処理された部分184,190が付加されている。
【0100】
ここで、図24に示す立体映像記録装置は、左目と右目のそれぞれで同じ映像圧縮を行うようにしたものであり、ADコンバータ146でディジタル化された右目映像は動き検出147の処理によって各映像マクロブロック単位での動きベクトルが抽出される。また、映像データの最初は面内符号化処理されているため、DCT変換回路148にてDCT変換した後、適応量子化回路149で量子化され、可変長符号化回路151にて可変長符号化してバッファメモリへと送付される。この時、適応量子化後の映像データは逆量子化回路150、DCT逆変換回路152によるローカルデコーダによって元の映像信号が復元され、さらにフレームメモリ153にて動き補償した映像と比較する事で、以降の時間軸方向の圧縮を行う画面において差分情報のみを使用して圧縮していく事が可能となっている。このような圧縮方式はMPEGやH.264等の圧縮方法において基本的な方式となっており広く用いられているものである。
【0101】
ここで、図24では右目映像と左目映像とをそれぞれ独立した映像ストリームとして入力し、それぞれ別々のエンコードブロックにてエンコードされる。そのため図24では右目及び左目が同じブロックをそれぞれ並列に配した構造となっている。ただし、入力部分にメモリを配置し、一旦左目映像と右目映像とを蓄積した上で、同じエンコード回路を倍の速度で処理し、1つのエンコードブロックで同様に処理を行う事も可能である。これらエンコードされた立体映像情報は、バッファメモリ154でOSDエンコーダ155からのOSD情報、音声エンコーダ156からの音声情報、フォーマットエンコーダ157からのフォーマットに必要な付帯情報を追記し、記録媒体である光ディスク165に記録するデータ形式に整えられる。ここで、フォーマットエンコーダ157は、従来の光ディスクフォーマットに必要とされるNavi情報やメニュー情報に加えて、本発明に係る3D映像情報の記録に必要な付帯情報も追記する。
【0102】
なお、光ディスクに記録される形式の映像データは、変調手段158で光ディスク165に物理的に書き込むための情報として誤り訂正符号を付加するとともに変調処理され、LD変調回路159にて光ヘッド164に搭載されたレーザを変調させるための信号を生成する。この際、光ディスク165に安定的に記録させるためのサーボ回路162によって、光ヘッド164を移動させる送りモータ163やディスク165を回転させる回転モータ166や光ヘッド164内の対物レンズアクチュエータを制御しトラックあわせや焦点あわせを行っている。また記録時には光ディスク165上のアドレスを読み込む必要があり、光ヘッドにて受光した信号を光電変換した微小信号を再生アンプ161で再生し、アドレスヘッダ認識回路160でアドレス情報を生成する。これらアドレス情報はシステムコントローラ167で各ブロックの起動設定とあわせシーケンス処理され、特に高速なタイミングが必要とられる書き込みタイミング処理等は専用のハードウェアで行われ、プログラミングが必要なシーケンス設定部分はCPU等で行われる。
【0103】
ここで、立体映像記録装置によって生成される映像ストリームは、図25に示す構造となる。まずMPEG等の時間軸方向の圧縮映像を含む圧縮映像データは一般的にGOPと呼ばれる面内圧縮符号映像を含む。例えば15ピクチャ単位程度の映像ブロックとして構成される。ここでは視差情報を利用した右目映像ブロックと左目映像ブロックとの2つあるため、付帯情報51を先頭とし右目映像のGOP168と左目映像のGOP169とがシーケンシャルに配置させる。なお、右目映像及び左目映像がそれぞれ1GOPの例を示しているが、映像条件が変わらない範囲で同一GOP数であれば複数個のGOPから構成してもよい。また、付帯情報51については実施の形態2で説明した通りであるが、ここではさらにGOPヘッダ部分に新たなユーザデータスタートコードを定義し、その後ろに3D映像情報176を記載する事も可能である。
【0104】
まず、3D映像情報176には左目映像か右目映像かを識別するための情報(フラグでもよい)177を配置するとともに、実施の形態2にて説明した3D映像方式の有無85や、3D映像フレームレート86、3D映像情報87、奥行き情報100、視差量制限情報101を記録する。また、図26に示すように付帯情報51は、トランスポートパケットのレイヤにおいてプライベートパケット(TSP1)178を設け、これをトランスポートデコーダの部分で分離抽出する事になる。図25のように構成する事でMPEGデータの階層レベルでも同じ3D情報を抽出する事が可能となる。これらは再生装置とTVがリンク接続され自動的に3D映像設定する場合や、映像再生中にTVを切り替えたりする場合に、TV側にトランスポートデコーダでの付帯情報抽出設定が有効であれば付帯情報51が有効になるし、MPEGレイヤでの立体映像付帯情報が有効であれば3D映像情報176が有効になってくる。
【0105】
また、図25の映像ストリームはMPEG情報レイヤの単位で記載したものであるが、もう1段下のトランスポートパケットの単位で記述したものが図26である。図26において、右目及び左目映像のGOP168,169のブロック単位での映像データは、トランスポートパケット178の先頭からスタートしGOP映像情報の終端では必ずしもトランスポートパケットの整数倍のデータには収まらないため、最終のトランスポートパケット182内の残りをパディングし、最終データ183に対しパディングデータ184で情報を埋める処理を行う。これによりトランスポートパケット179からトランスポートパケット182までを取り出すことにより右目映像のGOP168のみを抽出する事が可能となる。左目映像のGOP169においても右目と同様な処理が行われ、トランスポートパケット185を先頭に、パディングデータ190を含むトランスポートパケット188までを抽出する事により左目映像のみを取り出す事が可能となる。
【0106】
なお、図24の立体映像記録装置においては、左目映像と右目映像とをそのままエンコードしていたが、左目映像と右目映像とは基本的には視差分だけずれた映像情報であり相関性が非常に高いものであるから、例えば左目映像については右目映像からの差分情報のみを記録するように構成すれば、全体の情報量も圧縮が可能である。そのための立体映像記録装置のブロック図を図27に示す。図27に示す立体映像記録装置は、右目映像のブロック部分を主映像として図24で示した映像圧縮のブロック構成と同じ構成を採用している。しかし、左目映像においては、左目映像の動き検出147の出力を右目映像のフレームメモリ153の出力と差分を取り、左目映像と右目映像との差分情報のみを抽出する。この差分情報は、左目映像のラインにおけるDCT変換148及び適応量子化149の処理を経て、可変長符号化処理151を行う事で左目映像の差分情報のみをバッファメモリ154に記録させる。以降の光ディスクに書き込むまでの処理は図24と同じである。なお、図27に示す例では、右目映像を主映像とし、左目映像を差分をとる副映像としたが、左右が逆(左目映像が主映像で右目映像が差分をとる副映像)であっても良いことはいうまでもない。
【0107】
また、図27に示す立体映像記録装置では、左目映像と右目映像との差分をとることで、片方の映像情報量をさらに圧縮する方法について述べたが、本映像情報が視差情報によるものである事からさらに情報圧縮をかける事が可能である。図28(a),図28(b)に視差映像の原理を模式的に示した図である。図28(a)では、奥行き位置126Mにある手前の映像物126Gと、奥行き位置126Lにある奥の映像物126H、両目126Fまでの奥行き位置(一番手前)126Nとし、映像物126Hの視野角126D、映像物126Gの視野角126Eとしている。また、図28(b)では、映像物126Gの左目映像126GA、映像物126Gの右目映像126GB、左目映像126GAと右目映像126GBとの視差量126I、左目映像と右目映像との同一画素点126Kとしている。さらに、図27(b)では、映像物126Hの左目映像126HA、映像物126Hの右目映像126HB、左目映像126HAと右目映像126HBとの視差量126J、左目映像と右目映像との同一画素点126Lとしている。
【0108】
図29は、片方の映像をさらに圧縮する立体映像記録装置のブロック図である。図29に示す立体映像記録装置は、左目映像と右目映像とからの視差量を演算するための視差情報演算回路191Aと、奥行き方向の動き検出回路191Cと、推定視差情報生成回路191Dとを備えている。さらに、図29に示す立体映像記録装置は、推定視差情報から元の左目映像を右目映像に変換するための逆視差演算処理回路191Bと、右目映像と逆視差演算処理回路191Bによって生成した右目映像とを比較した結果よりDCT変換するDCT変換回191Eと、適応量子化回路191Fと、可変長符号化191Gとを備えている。なお、視差情報演算回路191Aから可変長符号化191Gまでが立体映像圧縮処理を行う部分である。
【0109】
また、図30は、図29の立体映像記録装置による圧縮方法での映像ストリームのエンコードとデコードを説明するための図である。図30では、右目映像192A〜192G、左目映像右目映像の視差情報演算値193、左目映像194A〜194G、奥行き方向動きベクトル演算値196、推定視差情報197、右目主映像の圧縮映像195A〜195Gが図示されている。さらに、図30では、右目主映像の圧縮映像195A〜195Gに基づく再生主映像198A〜198G、再生主映像198A〜198Gにそれぞれ対応する推定視差情報204〜210、再生副映像211〜217とが図示されている。また、図31は、図27もしくは図29に示す立体映像記録装置による圧縮方法で生成された映像ストリーム構造を示した図である。図31に示す映像ストリーム構造は、基本的に図25と同じであるが、左目映像のGOP169に代えて差分映像情報218である点と、3D映像方式の有無85にGOP映像情報か差分情報かの情報219が追加されている点とが異なる。また、図32は、図29に示す立体映像記録装置による圧縮方法で生成された映像ストリーム構造におけるトランスポートレベルの階層でのストリーム構造を示したものである。図32は、基本的に図26と同じであるが、左目映像のGOP169に代えて差分映像情報218である点が異なる。
【0110】
ここで、視差を利用した右目映像と左目映像とから立体方向を図示すると図28(a)のようになる。図28(a)では、両目126Fから見た視差角度が奥行きに応じて異なって見える。そのため、左右の視差映像となった場合は図28(b)のように手前の映像物126Gは大きく、左目映像126GAと右目映像126GBとが離れて見え、視差量126Iも大きくなる。一方、遠方にある映像物126Hは小さく、左目映像126HAと右目映像126HBとが離れて見え、視差量126Jも小さくなる。
【0111】
そのため、視差量(126Iもしくは126J)又は視差角情報(126Dもしくは126E)の情報があれば、図28(b)のように左目映像から右目映像を推定(視差情報変換による映像生成)する(126K及び126L)事が可能である。この条件としては、見る角度によって輝度や色が変わらない事が前提となるため、角度による映像の回り込みや影等の変化については本推定では推定できない情報となる。
【0112】
ここで、図29に示す立体映像記録装置では、左目映像及び右目映像の動き検出ブロック147から得られる映像物の面内位置情報から視差角を抽出し、視差情報演算回路191Aによってマクロブロック単位もしくは画素単位での視差情報を演算する。さらに、時間軸方向での圧縮を行うため奥行き方向動き検出回路191Cにおいて、画面単位での奥行き方向の動きベクトルを抽出する。推定視差情報生成回路191Dでは、この奥行き方向の動き情報と視差情報をもって推定視差情報として生成する。また、上述したように片方の映像(ここでは右目映像として説明)情報から視差情報だけで逆側(ここでは左目映像として説明)の映像を完全に再現できるわけではなく、画像の回り込みによる変化(隠れた部分が見えてくる等)等については推定できない情報として残ってしまう。
【0113】
そのため、図29に示す立体映像記録装置では、立体映像圧縮において推定視差情報から逆視差演算処理回路191Bによってまず不完全ながら逆側(ここでは左目映像として説明)の映像を視差情報を利用しローカルデコード再現し、これと実際に撮影した逆側の映像を圧縮処理したもの(ローカルデコーダにおけるフレームメモリ153上の映像)との差分をとる。この差分をとった情報が上述した画像の回り込みによる変化した再現できない部分の情報であり、視差情報を利用した圧縮ストリームにおいても視差情報で完全に再現できない部分をカバーする事ができる。また、図示していないが、奥行き方向の動きベクトルを抽出した場合、さらに視差の変化量も情報として利用するため、通常の情報圧縮のローカルデコーダと同じく、逆量子化回路とDCT逆変換回路、フレームメモリを用い、奥行き方向の動きベクトルから元の映像をローカルデコーダにより再現し再比較する事で、奥行き方向の動きベクトルを利用し圧縮効率をアップさせる事ができるようになる。
【0114】
ここで、画面単位での映像データは図30のように示される。図30にある右目カメラから右目主映像192A〜192G、左目カメラから左目副映像194A〜194Gが取り出される。ここで、図29の視差情報演算回路191Aにより、右目主映像192A〜192Gと左目副映像194A〜194Gとから視差情報193が演算される。また、奥行き方向の動きベクトル演算191Cは、視差情報193の画面単位での変化から奥行き方向動きベクトル演算値196が抽出され推定視差情報197として生成される。この推定視差情報197自体は、画像のマクロブロック単位であったり画素単位であってもよい。
【0115】
一方、映像の再生時には、右目主映像192A〜192Gは映像圧縮により符号化され右目主映像の圧縮映像195A〜195Gとなっている。具体的に右目主映像の圧縮映像は、面内圧縮映像のIピクチャ195Aと、面内動きベクトルを用いた時間方向の圧縮を行ったPピクチャ195D及び195Gと、Bピクチャ195B,195C,195E,195Fから構成されている。この右目主映像の圧縮映像は、通常の圧縮映像伸張回路により再生主映像198A〜198Gとして右目映像に再現される。そして、それぞれの再生主映像(右目映像)198A〜198Gと、画面毎の推定視差情報204〜210と、画面毎の差分情報を逆量子化し逆DCT変換した情報とで再生副映像(左目映像)211〜217が復元される。ここで、差分情報からの復元映像部分は、画像の回りこみ等推定視差情報では再現できない部分を補完する役割を担っている。
【0116】
図29又は図27に示す立体映像記録装置での圧縮映像を用いた映像ストリームは、図31のように示され、あくまでもGOP映像情報単位のデータとして単位化される。これは右目映像が元々GOP映像情報単位で単位化されており、左目の差分圧縮データもこの右目映像を利用する関係で画像の単位化レベルを合わせこむ必要があるからである。ここでは右目映像のGOP168内のGOPヘッダ170において、図25で説明したような立体映像に関する付帯情報が付加される。ただし、左目映像に関し図29に示した推定視差情報197を用いた圧縮情報なのか、図27に示した差分圧縮情報なのか、図24に示した立体映像としての圧縮は行わない方式であるか等の識別情報を図31に示すように3D映像方式の有無85にGOP映像情報か差分情報かの情報219を記述しておく必要がある。また、トランスポートパケットのレベルでストリーム構造を見た場合、図32のように示され、図26と同様にGOP映像データの終端部分はトランスポートパケット内でパディングさせるほか、立体方向の圧縮映像データであっても終端部分はトランスポートパケット内でパディングさせる。なお、上述は右目映像が主映像、左目映像が立体方向に圧縮をかけた副映像としているが、逆であってもまったく問題なく、右目映像が主映像で左目映像が副映像、左目映像が主映像で右映像が副映像と混在した映像ストリームであってもよい。ただし、規格上混在を許可させる場合は、どちらの映像が主映像でどちらが副映像であるかの識別情報の記述が必要となる。
【0117】
また、左目及び右目の立体映像をもっと簡便に映像ストリーム化することも可能である。例えば、図33に示す立体映像記録装置は、簡便に映像ストリーム化する画像構成処理部である合成回路220を備えている。また、図34は、図33に示す立体映像記録装置における映像ストリームの構造を示したもので、左目又は右目映像のGOP221が1つのGOP映像情報単位となっている。また、図35は、図33に示す立体映像記録装置における映像ストリームのトランスポートパケットレベル階層での構造を示したものである。
【0118】
ここで、入力される左目及び右目の視差映像は一旦合成回路220に入力され、図33に示すように1つの画面内に縦長の2つの画面として挿入される。この際、各映像の画素は単に映像ラインで間引かれるのではなく、フィルタ処理を施され水平方向に圧縮された後、左目右目映像に合成される。このように各画面は縦長の2枚の左目映像と右目映像とで構成されることになるが、以降は通常の画像圧縮処理の方法を用いてストリーム生成される。この場合でも図34に示す映像ストリームにおいては付帯情報51もしくはGOPヘッダ170内の3D情報領域176において、水平方向に圧縮された映像情報である事が記述され、通常のTVでそのまま再生されないようにする事が必要である。また、図34に示す映像ストリーム構造を採用する場合でも、トランスポートパケットのレベルにおいては図26や図32と同様に、GOP映像情報の終端におけるトランスポートパケットの最終データ183に対しパディングデータ184で情報を埋める処理を行う。なお、本発明では光ディスクに記録された立体映像記録装置や立体映像記録方法について記載したが、記録媒体としてハードディスクであってもまったく同様の効果が得られることはいうまでもない。
【0119】
(実施の形態4)
次に、本実施の形態4について、図に従い以下に説明する。実施の形態3においては、立体映像記録装置について説明したが、本実施の形態では立体映像再生装置について説明する。図36は、本実施の形態に係る立体映像再生装置のブロック図である。図36に示す立体映像再生装置では、復調訂正回路222と、アドレスヘッダ認識回路223、光ディスクドライブ部分と映像音声処理部分であるバックエンドとを接続するためのIF(インターフェイス)224と、光ディスクドライブ部分からのデータを一旦蓄えるためのデータバッファ225とを備えている。また、図36に示す立体映像再生装置では、映像音声データ等のストリームを分離するためのシステムデコーダ226と、圧縮映像を伸張するためのMPEG,H264デコーダ227と、オーディオデコーダ228と、字幕表等のためのOSDデコーダ229と、OSD情報の奥行き生成回路229Aとを備えている。さらに、図36に示す立体映像再生装置では、3D映像処理回路230と、映像にOSD情報をかぶせるためのブレンディング処理回路229Bと、外部との汎用IF231と、右目専用IF232と、左目専用IF233と、バッファ回路234と、バックエンド全体のシステムコントローラ235とを備える。
【0120】
また、図37は、実施の形態3で示した立体方向の圧縮映像から左目映像をデコードする部分を示したブロック図である。図37では、映像ストリームの視差情報や奥行き動きベクトル情報を抽出するためのシステムデコーダ236と、MPEGやH264等の圧縮映像ストリームをデコードするMPEG、H264デコーダ237と、視差情報238と、動きベクトル情報239と、視差情報演算回路240と、左目映像再現回路241とを備えている。なお、視差情報238、動きベクトル情報239、視差情報演算回路240及び左目映像再現回路241が3D映像処理回路230を構成している。
【0121】
ここで、図36に示す立体映像再生装置では、まず光ディスクドライブ内の復調訂正回路222よって光ディスク165に記載された映像音声データや付帯データが再生される。この際、サーボ回路162は光ヘッド164からの再生信号を高品位に抽出し続けるように作用し、アドレスヘッダ認識回路223は所定のアドレスの瞬時にアクセスするために作用する。ここで、光ディスクドライブから再生されたデータはIF回路224を介して一旦データバッファ回路225に入力された後、システムデコーダ226に入力される。システムデコーダ226では、映像音声データ等のストリームを分離し、音声情報はオーディオデコーダ228、OSD情報はOSDデコーダ229、映像情報はMPEG,H264デコーダ227に入力される。
【0122】
なお、OSD情報はOSD奥行き設定回路229Aでシステムデコーダ226から得られる付帯情報により奥行きをもったOSD情報として生成される。また、MPEG,H264デコーダ227でデコードされた映像ストリームは3D映像処理回路230にて3D映像情報として処理され、ブレンディング回路229Bで奥行きをもったOSD映像とブレンディングされ、転送レートが低い場合はHDMI等の汎用IFで出力したり、左目映像を左目専用IF233で、右目映像を右目専用IF232で、それぞれ出力させる事が可能となる。
【0123】
また、実施の形態3で示したような片側映像が視差情報を用いた圧縮をさらに行っている場合、立体映再生装置における3D映像処理230は図37のように構成される。ここで、システムデコーダ236で抽出した左目の圧縮映像情報である視差情報238と奥行き動きベクトル239を用いて各画素もしくはマクロブロック単位での視差情報演算を視差情報演算回路240で行い、右目映像から左目映像を生成するための変換係数を生成する。この変換係数を用いてMPEG,H264デコーダで生成した右目映像から、左目映像再現回路241にて左目映像を再現する。ここで、圧縮された左目映像が視差情報による圧縮のみであれば視差情報演算回路240の出力に基づく再変換のみであるが、図33に示す立体映像記録装置のようにDCT変換と適応量子化を行った圧縮情報であれば、逆量子化と逆変換回路とを左目映像再現回路241内に内蔵する必要がある。
【0124】
次に、左目及び右目の立体映像から立体でない2D映像を再現する立体再生装置について説明する。図38(a)は、2D映像を再現する立体再生装置のブロック図である。図38(a)では、視差情報に基づく合成処理回路242を備えている。また、図38(b)は、合成処理回路242で構成される映像を模式的に説明する図であり、左目映像232Aと、右目映像233Aとが合成された映像が2D映像231Aである。ここで、一般的なTV等の表示装置においては、必ずしも3D映像対応であるとは限らず、むしろ2D映像対応である事の方が多い。従って3D映像のみが記載されたメディアを再生する場合、2D映像でも再生できるようにしておく事が望ましい。最も簡単な方法としては、右目映像もしくは左目映像のみを表示させる事で2D映像を再現できる。例えば、TVが2D映像しか対応していない場合は、プレーヤとTVの間でのリンク接続処理において自動検知し、片方の映像のみを常に再生しておく事となる。
【0125】
しかしながらこの方法では、奥行きが目に近い(飛び出して見える)映像の場合、視差量が大きく、図38(b)に示す左目映像232Aや右目映像233Aのように、左右位置が大きくずれた映像となってしまう問題があった。そのため、左目及び右目映像における視差情報を用いてこれを合成し、2D映像231Aのような中間位置の映像を再現する事で違和感のない2D映像を再現する事ができる。ただし、この場合の画面の両サイドは、視差量が大きいと演算できないため、元の映像が左目映像の場合は左側に広く、右目映像の場合は右側に広く撮影されていないと、映像241Aの部分(画面の両サイド)がカットされたような映像となる。
【0126】
さらに、実施の形態2で示したように画面の飛び出し量が大きいと目の疲れやびっくりした感じを増大する懸念がある。そのため、飛び出し量を可変できるようにした立体映像再生装置のブロック図を図39(a)に示す。図39(a)では、係数変更視差による左目映像再現回路243と、係数変視差による右目映像変換処理回路244と、飛び出し量可変のためのユーザインターフェイス245と、視差情報係数変更部246とを備えている。また、図39(b)は、立体映像再生装置の飛び出し量の可変を説明するための図である。さらに、図39(c)は、図39(a)の回路により飛び出し量を変化させた場合の結果を説明する図である。また、図39(d)は、立体映像再生装置を接続した表示装置に表示されている飛び出し量を可変するためのOSDバー246Aを図示している。
【0127】
図29に示す立体映像記録装置のように片側映像を視差情報により圧縮した方式においては、画素もしくはマクロブロック単位でそのまま飛び出し量と関連している視差情報がリンクされている。そのため、ユーザからの飛び出し量可変指示があった場合、図39(d)のユーザインターフェイス245に、例えばTV画面のOSDバー246Aに示されるようなOSD画面を使って指示を入力させ、視差情報係数変更部246にてどの程度飛び出し度合いを減衰させるのか変換係数を決定する。この変換係数によって視差情報演算回路240での視差演算量を決定し、左目映像であれば係数変更視差による左目映像再現回路243により、右目映像であれば係数変視差情報に基づく画像変換処理回路244により左目映像と右目映像との視差量を、図39(b)に示すよう左目映像126GAと右目映像126GBとが波線から実線となるように小さく変換して表示させる。結果的には、専用IF232,233の出力から得られる立体映像は図39(c)の立体視された三角図形のように飛び出し量が小さく再現される。
【0128】
また、図39(a)に示す立体映像再生装置では、あくまで映像ストリーム上に視差情報が記録されている場合にこれを用いて飛び出し量の変換を行うものであったが、視差情報がない場合で考えられる。そこで、図40に示す立体映像再生装置では、映像ストリーム上に視差情報が記録されていない場合でも飛び出し量を制御できる構成を示す。図40に示す立体映像再生装置では、左目映像と右目映像とにそれぞれMPEG,H264デコーダ237A,237Bと、視差情報抽出部247と、右目映像の視差変換部248と、左目映像の視差変換部249とを備えている。図40に示す立体映像再生装置では、視差映像抽出部247にて左目映像及び右目映像のデコード映像から、新たに視差情報を検出すればよい。また、この視差情報は図39(a)の場合と同様にユーザインターフェイス245を介し、視差情報係数変更部246を介して新たな視差情報を視差情報演算部240で生成し、右目映像の視差変換部248及び左目映像の視差変換部249に供給される。
【0129】
なお、本実施の形態では光ディスクに記録された立体映像情報を再生する装置や再生方法について記載したが、記憶媒体としてハードディスクであってもまったく同様の効果が得られることはいうまでもない。
【0130】
(実施の形態5)
本実施の形態5は、前述の実施の形態1〜4の場合の平面映像、立体映像が混在している場合に、当該映像を所定のフォーマットで配信する等により、より臨場感のある映像、音声の視聴が可能になるものである。よって、以下の説明においては、平面映像と立体映像とに関する詳細な記載は省略されているが、実施の形態1〜4における平面映像、立体映像の実施形態と組み合わせて実施することが可能である。
【0131】
実施の形態2から4では、立体映像情報が光ディスクメディアに記録されており、これを視聴する場合について記載しているが、近年のBDプレーヤではネットワーク接続の規格が追加されており、ディスク媒体上の情報からではなく、ネットワーク視聴による立体映像視聴も可能になるものと思われる。
【0132】
そこで図41はネットワークによる立体視聴を行うシステムについて記載したもので、図41において、ユーザが選択可能な複数の映像配信元サーバ群250、251、252、253と、家庭にあるAV機器までの中間に位置し各映像配信元サーバからの映像情報をトランスコーディングし中継を行うトランスコーディングサーバ254と、立体映像の再生が可能なプレーヤまたはレコーダ255と、立体視聴が可能なTV256と、立体視聴を行うためのメガネ257と、映像配信元サーバから伝送される立体映像信号258、259、260、261と、右目映像Rと、左目映像Lと、トランスコーディングサーバから配信される立体映像情報262と、左右の映像の差分圧縮を行った左目映像263とが示されている。立体映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツである。
【0133】
図42はネットワーク視聴時の視聴選択画面を示したもので、図42において、タイトル名264と、コンテンツの内容265と、3Dか2Dかを示す識別情報266とが示されている。
【0134】
図43はネットワークから立体のウィジェット情報をダウンロードしてTV画面に表示させる方法を示したもので、図43において、トランスコーディングサーバ254からダウンロードするOSDデータの信号フォーマット267と、奥行きないし飛び出し方向の位置情報を面内OSD情報に加えたフォーマット268と、OSD自体が右目左目の立体映像情報となっているフォーマット269と、TV画面上に立体表示されるウィジェット270とが示されている。ウィジェット情報をダウンロードする場合、ウィジェット情報配信要求をトランスコーディングサーバ254に出力し、トランスコーディングサーバ254内の立体視聴可能なウィジェット情報270を、立体視聴可能なプレーヤ等に対し、立体表示可能なOSD信号フォーマット267として配信する。
【0135】
このように構成されているので、サーバからのウィジェット配信も、TVの視聴環境に応じて立体ウィジェット配信を行えるようになるため、立体映像コンテンツの状況に合わせ効果的な視聴ができるようになる。
【0136】
次に本発明の実施の形態を図において説明する。すでにPCの領域では一般的になっているYou−Tube等のコンテンツ視聴はパソコン等のCPUの演算速度が高いものを前提に構築されている。そのため、各コンテンツ提供元は映像の配信フォーマットが異なる方式であっても、各ユーザが必要なデコードプログラムをネットワークからダウンロードして搭載することで対応が可能となっている。しかしながら一般的なAV機器においては搭載しているCPUのパフォーマンスが低く、またユーザがデコードに必要なSWをわざわざダウンロードする手間を好まないため、専用のデコーダもしくはデコード処理プログラムを搭載し、本デコード処理に対応できるサービスのみを接続する形態となっている。そのため各異なるデコード処理やユーザIFの対応が必要となる。
【0137】
そのため図41の立体映像視聴システムにおいては、ユーザが(外部から)視聴するTVが、まず立体映像対応機なのかどうかをHDMIケーブルを介して立体再生プレーヤもしくは立体映像レコーダ255が確認し、次にTVが立体映像対応機(立体視聴可能)であった場合、立体再生プレーヤもしくは立体映像レコーダ255はトランスコーディングサーバ254に対し立体映像を含むコンテンツメニューを送付するように指示する。ここでは、各映像配信元サーバ250〜253から映像の配信フォーマットの異なる方式(フォーマットが図41に示す立体映像情報258〜261のように異なる場合)で配信されたとしても、トランスコーディングサーバ254で一旦フォーマット変換手段によってフォーマット変換(立体映像情報262が示されるようにフォーマット変換)することで、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットである、例えば実施の形態2ないし実施の形態3にて記載された、光メディアに記録されているフォーマットと同じ形式での立体映像情報として再配信することにより、安価なプレーヤもしくはレコーダが元々もつメディア再生用のデコーダ回路もしくはデコードプログラムを用い視聴することができる。
【0138】
さらに本実施の形態では、例えば実施の形態3の図31ないし図32に記載された、右目映像もしくは左目映像のどちらか一方を基準とする2D映像とし、上記2D映像の反対側の目の映像を上記2D映像側の映像との差分をとることによりさらに圧縮をかける信号方式を用いている。この方式は実施の形態3に記載されたストレージメディアに記録するための立体映像信号フォーマット(圧縮方式)であるが、図41のトランスコーディングサーバ254にてどの映像配信元サーバからの映像コンテンツもこの光ディスク等のメディア記録用立体映像信号フォーマットに合わせて変換(トランスコード)し配信することで、プレーヤもしくはレコーダ255にて立体再生視聴が可能となり、光ディスク等による立体映像を再生するプレーヤでもサーバからの立体映像をデコードできるようになった。
【0139】
ここで図41の映像配信元サーバからは、あるサーバからはステレオカメラの2CHカメラ映像を各々MPEG2やH.264の圧縮フォーマットで伝送する方式も想定され、この場合はトランスコーディングサーバ254で本発明の実施の形態3で記載された左右映像の差分をとることで片側のCHの映像情報をさらに圧縮した方式に変換してプレーヤやレコーダ255に伝送することとなる。この場合、本伝送される左右映像の差分をとることで片側のCHの映像情報をさらに圧縮した方式の映像情報は、例えば光ディスクに記録される映像フォーマットと同じ方式であるため、同じデコーダ回路もしくはデコードSWで再生処理が可能となる。
【0140】
通常このような映像フォーマットの差異に配慮がされていない理由としては、ストレージ媒体の場合には限られた媒体容量の範囲に収める必要があるため、圧縮効率の高い方法を選択する必要があるものの、サーバとの情報やりとりにおいては必ずしも容量制限を配慮しなくてもよいために例えば左右映像をそのまま通常の画像圧縮方式で配信することができるからである。しかしながら、映像配信フォーマットの多様化とともに、デコーダ側の負担も大きくなり、本実施の形態にあるようなトランスコーディング技術を用い、フォーマットを一本化もしくは少なくすることで、安価なCPUを有するデコーダを搭載したTVやプレーヤでの視聴が可能になる。
【0141】
また、映像や音声フォーマットだけでなく、OSD情報や字幕情報などについてもメディアの記録されるフォーマットと同じフォーマットとして再配信することで、ディスクメディア再生時と同じユーザIFで操作することが可能となる。
【0142】
また、図41の立体プレーヤまたは立体レコーダ255が再生専用機ではなくレコーダの場合は、レコーダ255における立体映像をメディア記録用のフォーマットに変換することなくダイレクトにダウンロード録画することが可能である(図43)。ただし当然のことであるが、本レコーダにダウンロードする場合やプレーヤやTVで直接視聴する場合でも、ネットワーク配信の映像信号においては、2D映像・立体映像にかかわらずネットワークコンテンツプロテクションのための暗号化がほどこされており、この暗号化のためのキーのやりとりや認証作業がサーバ間で必要となることはいうまでもない。なお、ダウンロード録画の場合は、ネット回線の環境に左右されにくい利点があるので、回線環境により途中の映像信号が途切れるような場合であっても、再生時には映像音声の途切れの無いスムーズな再生が可能となっている。またこのような有利な条件であるため、ダウンロード録画の場合は視聴するだけの場合に比べ、配信のビットレートを高く設定することが可能となる。
【0143】
また、実施の形態2で説明したように、立体映像が複数のアングル映像で構成されている場合、視聴時の映像データは膨大なものとなる。このようなマルチアングル立体映像をストレージ媒体に入れる場合、ストレージ媒体の容量制限からあまり多くのアングル数を入れ込むことができない。しかしながら、サーバ上にストアするのであればほとんど制限なしに多くのアングル情報を入れることが可能となるため、例えばTVのリモコン等のマルチアングル切り替え手段によってアングル切り替えの操作を行った場合、プレーヤやレコーダにてアングル切り替え指令情報をトランスコーディングサーバに転送し、サーバ上の映像データアングルを切り替えてフォーマット変換し、プレーヤやレコーダに再配信することも可能である。もちろんトランスコーディングサーバでフォーマット変換が必要な場合は、映像配信元サーバからまずアングルの異なる映像を再配信させ、再配信した立体映像を、トランスコーディングサーバでフォーマット変換した後、プレーヤやレコーダに配信することとなる。
【0144】
このように構成されているので、複数のアングル情報を有する情報量の大きな立体映像であっても、光ディスクメディア等の容量制限を受けることなく、サーバ上に保管し視聴することができるようになったほか、ユーザ(外部)からのアングル切り替え要求に応じて、サーバ内に保管されている立体映像コンテンツのアングルを切り替えて配信できるようになった。
【0145】
なお、立体視聴可能プレーヤもしくは立体視聴可能TVにおいては、トランスコーディングサーバおよび映像配信サーバ間の通信時間、映像配信サーバにおけるアングルの異なる映像への切り替え時間、トランスコーディングサーバにおけるフォーマット変換処理時間、およびトランスコーディングサーバと立体視聴可能プレーヤもしくは立体視聴可能TV間との通信時間の合計時間を上回るだけの容量を有する、映像配信バッファを持つことが望ましい。
【0146】
また、上記マルチアングルをアングル順次切り替え手段により順次動かしていく(右回り、左回り)ことで、実施の形態2にあるように、物体を回転させたり、回り込みながら視聴することが可能となる。この際、一般的にプレーヤやレコーダとサーバ間の時間遅れや、映像配信下サーバとトランスコーディングサーバ間の時間遅れがあるため、アングルの連続切り替えがぎくしゃくした動きになる場合がある。このような場合は、あらかじめ視聴対象を、“回転させる”“特定角度単位で特定角度方向に連続的にずらしていく”などの複数の回転角度をもったアングル映像を連続的に1つのコマンドで動かす連続動作を、一回で操作可能なコマンドとして定義し、これをトランスコーディングサーバや映像配信元サーバに送ることで、アングルの連続的変更をサーバの映像配信システム上で実現できるようになり、なめらかな動きを再現させることが可能になる。
【0147】
また、図41のレコーダもしくはプレーヤ255が存在せず、直接TVにネットワーク接続する場合も想定される。この場合は図41のTV256にプレーヤ255が有するデコーダ回路もしくはデコーダSWを実装しておけばよい。ただしこの場合は、デコード処理をTV内のLSI上で行う必要があり、LSIの処理速度次第では処理が間に合わなくなる場合も想定され、この場合は前記プレーヤやレコーダを外付けし、前記プレーヤやレコーダにてデコード処理を行った後、視聴を行うこととなる。
【0148】
なお、図42のネット視聴画面においては、トランスコーディングサーバとプレーヤやレコーダ間の機器認証が完了し、前記プレーヤやレコーダに立体視聴が可能なTVが接続されていることをHDMIケーブルのフラグ情報等で前記プレーヤやレコーダが確認手段により認識した後(当該視聴環境の確認情報は保有手段にて保有される)、前記プレーヤやレコーダがトランスコーディングサーバに3D視聴環境である旨の視聴環境確認情報を伝送手段にて発信(伝送)し、トランスコーディングサーバにおいて予め用意された平面映像からなる映像配信メニューにおいて、平面視聴のみなら平面映像の視聴の選択メニューを、3D視聴可能環境にあり立体視聴もする場合は、3Dコンテンツと2Dコンテンツが混在する選択メニューを平面映像か立体映像か識別できるリストとしてプレーヤやレコーダに転送し、TVのリモコンにて例えば選択部分がハイライト表示されたメニューを押下することにより視聴したいコンテンツを選択する。これにより、視聴環境に合ったコンテンツメニュー画面が配信され、ユーザはそのうちから視聴したいコンテンツを選択することが可能となった。
【0149】
また、この際、3Dコンテンツが選択された場合は、TV画面に“メガネをかけてください”等の視聴上ユーザが対応しなければならない内容を表示させることも必要となる。
【0150】
(実施の形態6)
では次に、あらかじめ立体映像が配信されていない場合に、トランスコーディングサーバ内で2D映像を3D化する場合について、図44において説明する。
【0151】
図44において、映像配信元の2D映像配信サーバ271、272と、映像配信元サーバ271,272からの信号を映像や音声・付帯情報に分離するためのシステムデコーダ273、274と、システムデコーダ273およびシステムデコーダ274から出力される映像信号から背景情報のみを抽出するための背景抽出部275と、システムデコーダ273およびシステムデコーダ274から出力される映像信号からの手前付近にある人物を抽出するための前方人物抽出部276と、システムデコーダ273およびシステムデコーダ274から出力される映像信号から物や家その他手前にある物体を抽出するための手前物体抽出部277と、各抽出された物体の重なり具合から前後関係を抽出し立体方向の重みづけを行うための前後抽出および立体方向重み付け部278と、前後抽出および立体方向重み付け部278からの出力から映像を合成する映像合成部279と、システムデコーダ273およびシステムデコーダ274および前方人物抽出部276からの出力から音像を制御する音像制御部280と、システムデコーダ273およびシステムデコーダ274からの出力からウィジェット情報を抽出するウィジェット情報抽出部281と、ウィジェット情報抽出部281の3Dのウィジェット情報と音像制御部280の出力と前後抽出および立体方向重み付け部278の出力と映像合成部279とから、3Dフォーマットを生成する3Dフォーマット生成部282と、3Dフォーマット生成部282からの出力を受け取るトランスコーディングサーバ283と、トランスコーディングサーバ283と通信する立体再生用BDプレーヤ284と、立体再生用BDプレーヤ284に接続された3D対応テレビ285とが示されている。本システムは、システムデコーダ273,274において取得される平面映像情報から、3Dフォーマット生成部282において立体映像情報を生成し、トランスコーディングサーバ283を介して、テレビ285の視聴環境に応じて要求される映像の内容に該当する映像情報を提供するものである。
【0152】
また、図45は外部の立体ムービや、立体ムービで撮影した映像を保管している立体映像レコーダの情報をトランスコーディングサーバに配信し、あとで視聴するためのシステムを表したもので、図45において、立体ムービ286と、立体レコーダ287と、立体ムービあるいは立体レコーダからの信号を映像や音声・付帯情報に分離するためのシステムデコーダC288とがさらに示されている。システムデコーダ273,274に加えて、システムデコーダ288からの映像情報も含め、上記の3Dフォーマットが生成される。
【0153】
また、図46、図47は、図44の動作フローを示したものである。また図48は、ムービやムービなどの個人映像を録画したレコーダからサーバへアップし、2Dから3Dへの変換サービスを行って視聴するシステムを記載したフローである。
【0154】
図44と図46、図47において動作を説明する。
【0155】
まずユーザはTV285をリモコン等で操作しながら、立体BDプレーヤ284の再生画面に切り替えるとともに、見たい映画などのVOD視聴サービスメニューを選択する(STEP101)。次に立体プレーヤ284はトランスコーディングサーバ283間との機器認証を行う(STEP102)。
【0156】
機器認証後、立体プレーヤ284は視聴環境に関する情報をHDMIケーブルを通した通信により確認する(STEP103)。TV285が3D対応であるかどうかを確認し(STEP104)、視聴環境が2D環境の場合は立体プレーヤ284はトランスコーディングサーバ283に対して2D用メニューを要求し(STEP105)、視聴環境が3D環境の場合は立体プレーヤ284はトランスコーディングサーバ283に対して2Dと3Dが混在した3D用メニューを要求する(STEP106)。
【0157】
トランスコーディングサーバ283は立体プレーヤ284から2D用メニューの要求があれば立体プレーヤ284に対して2D用メニューを配信し(STEP107)、3D用メニューの要求があれば立体プレーヤ284に対して2Dと3Dが混在した3D用メニューを配信する(STEP108)。
【0158】
次にユーザが配信されてきたメニューから視聴コンテンツを選択する(STEP109、STEP110)。選択されたコンテンツが2Dコンテンツか、3Dコンテンツかを確認し(STEP111)、2Dコンテンツを選択した場合は、まず立体プレーヤ284はトランスコーディングサーバ283との間で課金処理を行い(STEP112)、次にトランスコーディングサーバ283が選択されたコンテンツを所有するコンテンツ所有サーバを選択する(STEP113)。
【0159】
そして、このコンテンツ所有サーバとトランスコーディングサーバ283間でサーバ認証を行う(STEP114)。認証後、コンテンツ送信依頼を行う(STEP115)とともに、サーバ間の課金認証(第二の課金処理)を行う(STEP116)。本サーバ間の課金認証によって、ユーザが支払った金額の一部がトランスコーディングサーバ側の費用となり、残りがコンテンツ提供元に還元(配分)される。
【0160】
次にコンテンツ提供サーバから所望のコンテンツがトランスコーディングサーバ283に送信される(STEP117)とともに、トランスコーディングサーバ283では立体プレーヤ284で再生できる形態にフォーマットの変換処理が行われ(STEP118)、変換後のストリームが立体プレーヤ284に送信され(STEP119)、立体プレーヤ284にて2Dの再生処理が行われる(STEP120)。
【0161】
一方、ユーザが3Dコンテンツを選択した場合、まず立体プレーヤ284はトランスコーディングサーバ283との間で課金処理を行い(STEP121)、次に2Dコンテンツの場合同様にトランスコーディンサーバ283が所望のコンテンツを有するコンテンツ所有サーバを選択する(STEP122)。そしてサーバ間認証処理を行い(STEP123)、コンテンツ送信要求を出す(STEP124)とともに、サーバ間の課金処理を行う(STEP125)。
【0162】
次にコンテンツ所有サーバからトランスコーディングサーバ283へコンテンツが送信され(STEP126)、送信されたコンテンツが2D映像か3D映像かの確認を行い(STEP127)、立体映像として配信される場合は、トランスコーディングサーバ283が立体プレーヤ284で再生できる形態にフォーマット変換を行い(STEP128)、変換後のストリームが立体プレーヤ284に送信され(STEP129)、立体プレーヤ284にて3Dの再生処理が行われる(STEP130)。
【0163】
本フォーマット変換では実施の形態5にて記載したように、例えば左右画像のどちらかを左右画像の差分によって圧縮する方式がとられ、メディア上に録画されている3Dコンテンツと同じ信号フォーマット形式として配信される。
【0164】
また、3Dコンテンツを選択した場合でも、コンテンツ所有サーバが有するコンテンツが2Dしか存在しない場合は、トランスコーディングサーバ283にて2Dから3Dへの変換が変換手段にて行われる(STEP131)。そしてトランスコーディングサーバ283が立体プレーヤ284で再生できる形態にフォーマット変換を行い(STEP132)、変換後のストリームが立体プレーヤ284に送信され(STEP133)、立体プレーヤ284にて3Dの再生処理が行われる(STEP130)。
【0165】
ここでは、配信されたストリームはシステムデコーダ273あるいはシステムデコーダ274によって映像信号と音声やウィジェット情報その他に分けられる。次に映像信号から背景部分や手前側の人物部分、物や家その他手前にある物体部分などが背景部分抽出手段および手前映像分離手段により抽出され、それらを立体方向位置重み付け手段によって立体方向の前後関係や飛び出し奥行き量を規定し立体映像情報として配置される。
【0166】
特に立体方向の前後関係や飛び出し奥行き量は、大きいものが手前にあることによる物体や人物の大きさや、重なった部分の映像の動き解析によっての前後関係の把握、細かいほど遠くにあると推定される背景の細かさなどの解析によって、立体方向の位置づけが行われる。次にこれら立体化された映像パーツは一旦映像信号として合成されたのち、音声やウィジェット情報とあわせフォーマット化される。フォーマット後の映像信号は元々コンテンツサーバに3D信号が格納されている場合と同じフォーマット形式として立体プレーヤに配信され、立体映像の再生が行われる。
【0167】
また上記は映像信号のみを立体変換して配信することについて述べているが、音像定位を可変することでの立体音響信号への変換処理や、ウィジェット表示情報を立体化変換させ、表示させることも可能である。
【0168】
一般的なウィジェット情報は、天気予報のマークや、野球中継の速報、ニュースや株価などを小さな画像としてTV画面上にオーバレイ表示させるか、画面を分割してコンテンツ情報画面以外の領域に表示させる等が行われている。この場合には、ウィジェット情報配信要求をトランスコーディングサーバに出力し、複数の映像配信サーバから所望のウィジェット情報を有するものを選択し、オーバレイもしくは分割した表示になるよう、立体視聴コンテンツとウィジェット情報を組み合わせた第二の立体視聴コンテンツを生成し、再配信する。
【0169】
立体映像視聴の場合にウィジェット情報を表示させる場合においては、立体方向位置に表示させるかがPointとなるため、立体方向の位置を可変できるようにすることが望ましい。そのため、2次元のウィジェット情報についても、本発明の実施の形態にあるように立体方向の位置を加えて、立体のOSD情報として本トランスコーディングサーバから伝送する方法がある。サーバからのウィジェット配信も、TVの視聴環境に応じて立体ウィジェット配信を行えるようになる他、立体映像のウィジェト情報における立体方向の位置を変更できるようになるため、立体映像コンテンツの状況に合わせ効果的なウィジェット位置を選択したり、目が疲れにくい表示パネルから奥行き方向の側にウィジェット配置を変更することが可能となる。
【0170】
この場合、2次元画像情報に、奥行きまたは飛び出し方向のオフセットを持たせるか、3次元映像と同じように左右映像(どちらかを基準とし、残りは差分圧縮する)の立体情報として伝送することで、プレーヤやTVでデコード可能な信号フォーマットとして伝送することができる。また、本トランスコーディングサーバ上で立体映像コンテンツにあらかじめオーバレイしてしまって、オーバレイ後の立体映像情報を伝送する方法もある。この場合であれば、プレーヤやTVではウィジェット表示のための特別なデコーダは必要ないのでウィジェット表示のためのCPU負荷を減らす事もできるが、画面上の配置変更等はすべてトランスコーディングサーバへ表示位置変更の指示を送信する必要があり、アクセスのための時間遅れが発生する。
【0171】
またこのように、トランスコーディングサーバでウィジェット情報を一旦受けることによって、ウィジェット情報配信要求をトランスコーディングサーバに出力し、複数の映像配信サーバであるウィジェットサービス配信元のウィジェットを選択又は同時に利用可能になるほか、2次元映像のウィジェットを立体表示可能なOSD信号フォーマットに変換させたりすることも可能となった。
【0172】
また、必ずしもコンテンツ所有サーバからの映像配信だけではなく、一般的にムービなどで撮影した2D映像や、ムービで撮影した映像を録画してある家庭内のレコーダ装置から、本トランスコーディングサーバにデータをアップし、ここで2Dから3Dへ変換処理を行って、立体プレーヤで視聴させることも可能である。この場合、トランスコーディングサーバにある平面―立体変換機能を利用し、立体映像を楽しむことができるようになるほか、立体の度合いを可変する立体方向位置可変入力手段によりユーザから立体の度合いを設定し、立体方向位置可変制御コマンドを送信できるようにすることで、立体感を強めることにより臨場感をアップさせたり、立体感を弱めることにより飛び出し量を目にやさしい範囲に抑えたりすることができるようになった。
【0173】
ここで平面映像からの立体変換は、画像の背景成分と人物や手前の物体を抽出する画像処理部で、個々の画像部分を抽出し、これを立体方向重みづけ手段によってそれぞれ立体方向に重みづけし、画像合成することで得られるものである。本立体変換における立体方向の重み付けを可変できるようにしたため、奥行きや飛び出し量を可変することにより、視聴者の健康状態や、画面の大きさや、好みの臨場感等に合わせることができるようになった。なお、この立体位置可変、立体方向重み付け、およびその合成は、ウィジェット情報だけでなく、平面映像から変換し合成される立体情報の場合も同様である。
【0174】
また、画像の動きに伴い、各抽出した画像部分の重なり具合等を見ることで、どちらの画像片が手前にあるかを判断し、立体方向の位置を特定させることが可能である。このようにして合成された立体映像は、3Dフォーマット化部でプレーヤやTVで再生できる映像フォーマットに変換され配信される。またこのような画像片抽出による立体方向位置をつける方法を用いれば、元の映像が立体映像であった場合でも、再度画像片に分解し重み付けを変えることで、立体度合いを可変させることも可能である。特に元が立体映像の場合、各画素毎に視差がついており、それぞれの画素の立体方向位置が特定されているため、これらの立体方向位置を変更することは実施の形態4で記載した方法等により容易に実現可能である。
【0175】
また、この際ムービやレコーダと、本トランスコーディングサーバ間での機器認証を行い、またあらかじめ会員登録することにより得られるユーザID番号を機器認証時に送信することで、本立体変換のサービスを受けることも可能となる。課金の処理については、会員登録時に一定データ量もしくは一定期限までの立体化サービスをまとめて支払うことも可能であるが、サーバへデータをアップさせる際に毎回支払い処理を行わせることも可能である。
【0176】
これらアップされた個人の2D映像はアップしたユーザの登録したID番号によって管理されるとともに、視聴時は立体プレーヤから同じID番号を有することを機器認証で確認(IDを再入力)することによって立体再生させることが可能となる。この際立体視聴時においても立体プレーヤにおいてユーザIDを入力することにより、ユーザIDと機器IDの認証を行うことで個人情報の保護を行い、ユーザ自身がアップした映像のみを視聴することとなる。またさらに各アップしたユーザの個人映像に開示用の暗証コードをさらにつけておくことで、知り合いや家族友人など他の人にこの開示用暗証コードをメール等で送信し、視聴させることも可能となる。なお、アップロード時に登録したIDを立体視聴可能なプレーヤもしくはTVに予め設定することで、機器認証と合わせ登録したIDを自動的に確認することも可能である。
【0177】
次にムービ286などで撮影した2D映像や、ムービ286で撮影した映像を録画してある家庭内のレコーダ装置287から、本トランスコーディングサーバ283にデータをアップし、ここで2Dから3Dへ変換処理を変換手段において行って、立体プレーヤで視聴させるまでの流れを図48のフロー図を用いて説明する。
【0178】
まず、ユーザはムービ等で撮影した映像を、直接あるいはレコーダ装置等のネットワークに接続できる端末を経由してトランスコーディングサーバへのアップロードを指示する(STEP201)。ムービあるいはレコーダ装置等はユーザからのアップロード指示でトランスコーディングサーバとの間で機器認証を行う(STEP202)。機器認証後、ムービあるいはレコーダ装置等は暗号化されたユーザIDをトランスコーディングサーバへ送信し(STEP203)、トランスコーディングサーバとの間で課金処理を行う(STEP204)。課金処理が完了すると、映像のアップロードが開始される(STEP205)。アップロードされた映像はトランスコーディングサーバの平面―立体変換機能を用いて立体映像に変換される。
【0179】
次にユーザがトランスコーディングサーバから映像をダウンロードし、視聴するまでのフローを図48および図49を用いて説明する。
【0180】
まず、ユーザは立体プレーヤのメニュー画面289からパーソナル映像配信を選択する(STEP206)。ユーザがパーソナル映像配信を選択により、立体プレーヤはトランスコーディングサーバとの間で機器認証を行う(STEP207)。機器認証後、立体プレーヤはユーザID入力画面290を表示し、ユーザはユーザIDの入力を行う(STEP208)。ユーザIDが入力されると立体プレーヤはトランスコーディングサーバに対して暗号化されたユーザIDを送信する。トランスコーディングサーバでは立体プレーヤの機器IDおよびユーザIDを確認し、機器IDおよびユーザIDがサーバ上の該当コンテンツが保持する機器IDおよびユーザIDと一致したときに、該当コンテンツの情報を立体プレーヤに送信する(STEP209)。立体プレーヤは受信した該当コンテンツの情報をパーソナルコンテンツ選択画面291に表示する(STEP210)。またここで、必要であれば立体プレーヤとトランスコーディングサーバとの間で課金処理を行う(STEP211)。
【0181】
ユーザはパーソナルコンテンツ選択画面291から所望のコンテンツを選択し(STEP212)、立体プレーヤはトランスコーディングサーバへ選択されたコンテンツの送信を依頼する(STEP213)。ここでユーザが選択したコンテンツに対して課金処理を行うようにしてもよい。トランスコーディングサーバでは選択されたコンテンツに対して平面―立体変換を行い、選択されたコンテンツを立体映像に変換する(STEP214)。立体映像への変換はあらかじめ行っておいてもよい。トランスコーディングサーバは選択されたコンテンツを立体映像に変換し、立体プレーヤに配信する(STEP215)。立体プレーヤがトランスコーディングサーバから配信された立体映像を再生することで、ユーザがムービで撮影した映像を立体映像として楽しむことが可能となる(STEP216)。
【0182】
また、上述のように、3D映像に変換し配信させる方法について述べたが、再生するプレーヤは通常の2D再生用のものでもよく、この場合は3D変換のサービスは行わずに、サーバのファイルストレージ機能をサービスとして受けるとともに、トランスコード処理によってプレーヤに再生できるフォーマットへの変換処理をサーバ側に持たせただけのサービスとなる。特に3D変換を行わない場合でも、いわゆるストレージサービスとして十分利用可能である。この場合、3D映像のみの配信コンテンツであっても、本トランスコーディングサーバにて2D映像フォーマットに変換し再配信することで、同様に通常の2D再生プレーヤで視聴できる。
【0183】
また、上述のように、あくまで個人映像にIDをつけて、サーバにアップした個人が自分自身の著作権を有する画像もしくは録画した画像を見るだけであるが、放送されたものを録画してサーバにアップし他人に視聴許可させる場合などは著作権の問題が生じる。この場合、ムービなどパーソナルコンテンツに対してはムービにて画像すかし技術を応用するなどして、個人映像側の映像に暗号キーを埋め込み、この映像に重畳された暗号キーを有するもののみが、本トランスコーディングサーバを介して他人への配信を許可するしくみを入れておくことも可能である。
【0184】
なお、実施の形態5,6に示した立体映像配信システムにより配信された立体映像配信コンテンツを用いて、立体映像が視聴可能である立体映像視聴システムの実施も可能である。
【0185】
また、実施の形態5,6に示した立体映像配信方法により配信された立体映像配信コンテンツを用いて、立体映像が視聴可能である立体映像視聴方法の実施も可能である。
【0186】
また、実施の形態5,6に示した立体映像配信装置により配信された立体映像配信コンテンツを用いて、立体映像が視聴可能である立体映像視聴装置の実施も可能である。
【符号の説明】
【0187】
1 右目映像、2 左目映像、3,8 表示装置、4 シャッタ、5 映像、6 記録装置、7 メガネ、9,10 偏向板、11 表示光学系、12 表示パネル、13 同期回転部材、14 光源、15〜20 表示デバイス、21 回転ミラー、22 像信号、23 映像制御情報、24,25 映像タイトル、26 記録媒体、146 ADコンバータ、147 動き検出回路、148 DCT変換回路、149 適応量子化回路、150 逆量子化回路、151 可変長符号化回路、152 DCT逆変換回路、153 フレームメモリ、154 バッファメモリ、155 OSDエンコーダ、156 音声エンコーダ、157 フォーマットエンコーダ、158 変調回路、159 LD変調回路、160 アドレスヘッダ認識回路、161 再生アンプ、162 サーボ回路、163 送りモータ、164 光ヘッド、165 光ディスク、166 回転モータ、167 システムコントローラ、191A 視差情報演算回路、191B 逆視差演算処理回路、191C 奥行き方向動き検出回路、191D 推定視差情報生成回路、191E DCT変換回路、191F 適応量子化回路、191G 可変長符号化回路、222 復調訂正回路、223 アドレスヘッダ認識回路、224 インターフェイス回路、225 データバッファ、226,236 システムデコーダ、227,237 MPEG・H264デコーダ、228 オーディオデコーダ、229 OSDデコーダ、229A OSD奥行き生成回路、229B ブレンディング回路、230 3D映像処理回路、231 汎用IF、232,233 専用IF、234 バッファ、235 システムデコーダ、238 視差情報生成回路、239 動きベクトル生成回路、240 視差情報演算回路、241 左目映像再現回路、242,244 視差情報に基づく合成処理回路、243 左目映像再現回路、245A OSDバー、246 視差情報係数変更部、245 ユーザインターフェイス、247 視差情報抽出部、248 右目映像視差変換回路、249 左目映像視差変換回路、250〜253 映像配信元サーバ、254,283 トランスコーディングサーバ、255 立体プレーヤまたは立体レコーダ、256 立体視聴テレビ、257 立体視聴メガネ、258〜261 立体映像信号、262 立体映像情報、263 差分圧縮映像情報、264 タイトル名、265 コンテンツ内容、266 2D/3D識別情報、267 OSD信号フォーマット、268,269 OSD信号フォーマット、270 立体ウィジェット、271 2D映像配信サーバ、272 2D映像配信サーバ、273,274,288 システムデコーダ、275 背景抽出部、276 前方人物抽出部、277 手前物体抽出部、278 立体方向重み付け部、279 映像合成部、280 音像制御部、281 ウィジェット情報抽出部、282 3Dフォーマット生成部、284 立体再生用BDプレーヤ、285 立体視聴テレビ、286 立体ムービ、287 立体レコーダ、289 メニュー画面、290 ユーザID入力画面、291 パーソナルコンテンツ選択画面。

【特許請求の範囲】
【請求項1】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、
前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されているとともに、
映像配信時においては、前記複数の映像配信サーバの中から外部指示により選択した所望のコンテンツを有する特定の前記映像配信サーバより前記立体映像配信コンテンツが配信され、
前記配信される立体映像配信コンテンツはさらに一旦トランスコーディングサーバに入力し、前記トランスコーディングサーバにてフォーマット変換することにより、
立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態にして、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信システム。
【請求項2】
前記再配信後の立体映像信号フォーマット形態が、前記立体視聴可能なプレーヤにおけるストレージメディアに記録されている立体映像信号フォーマット形態と同じ圧縮構造を有するよう、前記トランスコーディングサーバにてトランスコーディングされてから配信される事を特徴とする、
請求項1に記載の立体映像配信システム。
【請求項3】
前記トランスコーディング後の立体映像信号フォーマットが、左目映像もしくは右目映像の片方のみで構成される平面映像と、前記平面映像との差分を取ることで前記平面映像と逆側の目の圧縮効率をアップさせた映像との立体映像信号フォーマットから構成されることを特徴とする
請求項1に記載の立体映像配信システム。
【請求項4】
TVの設定が、平面映像視聴可能であるか立体視聴可能であるかを、HDMIケーブルの情報として立体再生プレーヤが確認処理を実行し、視聴環境確認情報として保有するとともに、
前記立体再生プレーヤが前記トランスコーディングサーバと認証処理を行う際に前記HDMIケーブルによる視聴環境確認情報を伝送し、
前記トランスコーディングサーバにてあらかじめ用意された平面映像からなる映像配信メニューにおいて、前記平面映像視聴可能時は平面映像の視聴メニューを、立体映像視聴可能時は、立体映像視聴用と平面映像視聴用のコンテンツが、平面映像用か立体映像用か識別できるリストとして混在する、視聴メニューを配信することを特徴とする
請求項1に記載の立体映像配信システム。
【請求項5】
立体視聴可能なプレーヤに接続されたTVが、平面映像視聴用であるか立体映像視聴用であるかどうかを、HDMIケーブルの情報として立体再生プレーヤが確認処理を実行し、視聴環境確認情報として保有するとともに、
前記立体視聴可能なプレーヤが前記トランスコーディングサーバと認証処理を行う際、前記HDMIケーブルによる前記視聴環境確認情報を伝送し、
前記トランスコーディングサーバにてあらかじめ用意された平面映像からなる映像配信メニューにおいて、前記平面映像視聴用TV接続時は平面映像の視聴メニューを、立体視聴可能TV接続時は、立体映像視聴用と平面映像視聴用のコンテンツが、平面映像用か立体映像用か識別できるリストとして混在する、視聴メニューを配信することを特徴とする
請求項1に記載の立体映像配信システム。
【請求項6】
前記立体視聴可能プレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバ内にある立体視聴可能な所望のウィジェット情報を前記立体視聴可能なプレーヤや立体視聴可能なTVにて立体表示可能なOSD信号フォーマットとして配信することを特徴とする
請求項1に記載の立体映像配信システム。
【請求項7】
前記立体視聴可能プレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバが立体視聴可能な所望のウィジェット情報を有する映像配信サーバを前記複数の映像配信サーバの中から選択するとともに、前記映像配信サーバが前記立体視聴用のウィジェット情報を前記トランスコーディングサーバへ配信し、
前記トランスコーディングサーバにて前記立体視聴可能なプレーヤや立体視聴可能なTVにて立体表示可能なOSD信号フォーマットに変換するとともに、前記立体映像配信コンテンツとあわせて前記立体視聴用の前記ウィジェット情報を前記立体視聴可能プレーヤもしくは立体視聴可能TVへ伝送することを特徴とする
請求項1に記載の立体映像配信システム。
【請求項8】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバが立体視聴可能な所望のウィジェット情報を有する前記映像配信サーバを前記複数の映像配信サーバの中から選択するとともに、
前記映像配信サーバが前記立体視聴用のウィジェット情報を前記トランスコーディングサーバへ配信し、
前記トランスコーディングサーバにて立体映像配信コンテンツ画面上にオーバレイもしくは画面分割したコンテンツ情報画面以外の領域に表示させるよう、前記立体視聴コンテンツと前記ウィジェット情報を組み合わせた第二の立体映像配信コンテンツを生成するとともに、
前記第二の前記立体映像配信コンテンツを前記立体視聴可能プレーヤもしくは立体視聴可能TVに再配信することを特徴とする
請求項1に記載の立体映像配信システム。
【請求項9】
前記立体視聴可能プレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求をトランスコーディングサーバへ出力する際、
前記映像配信サーバが保有または前記トランスコーディングサーバが保有する平面映像からなる所望のウィジェット情報を、前記トランスコーディングサーバにおいて、前記ウィジェット情報を立体方向に位置づけて配置させるとともに、
前記トランスコーディングサーバ内の映像合成部において、前記立体映像配信コンテンツと前記ウィジェット情報とを画像合成した第二の立体映像配信コンテンツとして生成し、
前記第二の立体映像配信コンテンツを前記立体視聴可能なプレーヤや立体視聴可能なTVにて立体表示可能な映像信号フォーマットとして配信することを特徴とする
請求項1に記載の立体映像配信システム。
【請求項10】
合成される前記ウィジェット情報の立体方向位置を、前記立体視聴可能なプレーヤもしくは立体視聴可能なTVからの立体方向位置可変入力手段により外部から設定されるとともに、
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVから前記トランスコーディングサーバへ送信される立体方向位置可変制御コマンドに基づき、前記トランスコーディングサーバ内の立体方向重み付け手段の重み付けパラメータを可変することで、
合成された立体映像の奥行きもしくは飛び出し方向の立体感を強めたり弱めたりする事が可能な
請求項9に記載の立体映像配信システム。
【請求項11】
前記映像配信サーバに保管されている前記立体映像配信コンテンツが、複数のアングル情報を含む立体映像配信コンテンツであって、
前記立体視聴可能なプレーヤもしくは前記立体再生可能なTVの視聴時において、
前記外部のマルチアングル表示番号を含むマルチアングル切り替え操作情報を、前記立体視聴可能なプレーヤもしくは前記立体再生可能なTVより前記トランスコーディングサーバへ伝送し、
さらに前記トランスコーディングサーバから前記映像配信サーバへ前記映像配信サーバが受け付け可能な情報として前記マルチアングル切り替え情報を伝送することで、
前記映像配信サーバよりアングルを切り替えた立体映像配信コンテンツ配信をし、
前記アングルが切り替わった立体映像配信コンテンツをフォーマット変換し、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVに再配信することで、前記立体映像配信コンテンツのマルチアングル切り替え操作を行うことを特徴とする
請求項1に記載の立体映像配信システム。
【請求項12】
前記映像配信サーバに保管されている前記立体映像配信コンテンツが、複数のアングル情報を含む立体映像配信コンテンツであって、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVの視聴時において、
前記外部から視聴中のアングル角度から所定時間毎に右回りもしくは左回りに順次切り替えていくアングル順次切り替えコマンドを定義し、
アングル順次切り替えコマンドを、前記立体再生可能なプレーヤもしくは前記立体再生可能なTVより前記トランスコーディングサーバへ伝送し、
さらに前記トランスコーディングサーバから前記映像配信サーバへ前記映像配信サーバが受け付け可能な情報として前記マルチアングル切り替え情報を伝送することで、
前記映像配信サーバより右回りもしくは左回りに順次アングルが切り替わる立体映像配信コンテンツを配信し、
前記アングルが切り替わった立体映像配信コンテンツを前記トランスコーディングサーバにてフォーマット変換し、前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVに再配信することで、立体映像配信コンテンツの右回りもしくは左回り方向のマルチアングル順次切り替え操作を行うことを特徴とする
請求項1に記載の立体映像配信システム。
【請求項13】
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVが前記トランスコーディングサーバと認証処理を行う際に、前記外部と前記トランスコーディングサーバとの間で課金処理を行うとともに、
前記外部と前記トランスコーディングサーバとの前記課金処理完了後、前記トランスコーディングサーバと前記外部が所望する立体映像配信コンテンツを有する前記映像配信サーバとの間にて第二の課金処理を実行するとともに、
前記外部から支払われた金額の所定割合が前記映像配信サーバの権利者へ、残りの金額を前記トランスコーディングサーバの権利者へ配分される事を特徴とする
請求項1に記載の立体映像配信システム。
【請求項14】
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVにおいては、前記トランスコーディングサーバおよび前記映像配信サーバ間の通信時間、前記映像配信サーバにおけるアングルの異なる映像への切り替え時間、前記トランスコーディングサーバにおけるフォーマット変換処理時間、および前記トランスコーディングサーバと前記立体視聴可能プレーヤもしくは立体視聴可能TV間との通信時間の合計時間を上回るだけの容量を有する、映像配信バッファを持つことを特徴とする
請求項1に記載の立体映像配信システム。
【請求項15】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、
前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成されるとともに、
映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信されるとともに、
前記配信される平面映像配信コンテンツはさらに一旦トランスコーディングサーバに入力され、
前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させるとともに、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、
前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信システム。
【請求項16】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信システムであって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部保有の映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードするとともに、
前記アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させるとともに、
前記変換した映像を、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信システム。
【請求項17】
前記平面映像から立体映像への変換が、
映像の背景部分抽出する手段と、
手前にある人物や物などの手前映像を分離する手段と、
これら分離された映像の立体方向位置の重み付けをする手段と、
立体方向に重み付けされた映像を合成する手段とにより実現される事を特徴とする
請求項15または16に記載の立体映像配信システム。
【請求項18】
前記外部から直接前記トランスコーディングサーバにアップロードする際に、当該トランスコーディングサーバと外部保有機器との間でまず機器認証を行うとともに、
前記外部のID登録を行い、前記外部から前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVにおいて前記外部が前記トランスコーディングサーバに前記アップロードした映像を視聴する際に、前記外部から立体視聴可能なプレーヤもしくはTVとトランスコーディングサーバ間で機器認証を行うとともに、
前記アップロード時に登録したIDを再入力することを特徴とする
請求項16に記載の立体映像配信システム。
【請求項19】
前記外部から立体視聴可能なプレーヤもしくはTVにおいて前記外部が前記トランスコーディングサーバにアップロードした映像を視聴する際、前記アップロード時に登録したIDを前記立体視聴可能なプレーヤもしくはTVにあらかじめ設定しておき、
前記立体視聴可能なプレーヤもしくはTVとの機器認証とあわせ登録したIDを確認することで、新たな入力手続きを不要とする事を特徴とする
請求項16に記載の立体映像配信システム。
【請求項20】
前記平面映像から変換し合成される立体情報の立体方向位置が、前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVからの立体方向位置可変入力手段により外部から設定されるとともに、
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVから前記トランスコーディングサーバへ送信される立体方向位置可変制御コマンドに基づき、前記トランスコーディングサーバ内の立体方向重み付け手段の重み付けパラメータを可変することで、
合成された立体映像の奥行きもしくは飛び出し方向の立体感を強めたり弱めたりする事が可能な
請求項15または16に記載の立体映像配信システム。
【請求項21】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、
前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されているとともに、
映像配信時においては、前記複数の映像配信サーバの中から外部指示により選択した所望のコンテンツを有する特定の前記映像配信サーバより前記立体映像配信コンテンツが配信され、
前記配信される立体映像配信コンテンツはさらに一旦トランスコーディングサーバに入力し、前記トランスコーディングサーバにてフォーマット変換することにより、
立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態にして、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信方法。
【請求項22】
前記再配信後の立体映像信号フォーマット形態が、前記立体視聴可能なプレーヤにおけるストレージメディアに記録されている立体映像信号フォーマット形態と同じ圧縮方式を有するよう、前記トランスコーディングサーバにてトランスコーディングされてから配信される事を特徴とする、
請求項21に記載の立体映像配信方法。
【請求項23】
前記トランスコーディング後の立体映像信号フォーマットを、左目映像もしくは右目映像の片方のみで構成される平面映像と、前記平面映像との差分を取ることで前記平面映像と逆側の目の圧縮効率をアップさせた映像との立体映像信号フォーマットにすることを特徴とする
請求項21に記載の立体映像配信方法。
【請求項24】
TVの設定が、平面映像視聴可能であるか立体視聴可能であるかを、HDMIケーブルの情報として立体再生プレーヤが確認処理を実行し、視聴環境確認情報として保有するとともに、
前記立体再生プレーヤが前記トランスコーディングサーバと認証処理を行う際に前記HDMIケーブルによる視聴環境確認情報を伝送し、
前記トランスコーディングサーバにてあらかじめ用意された平面映像からなる映像配信メニューにおいて、前記平面映像視聴可能時は平面映像の視聴メニューを、立体映像視聴可能時は、立体映像視聴用と平面映像視聴用のコンテンツが、平面映像用か立体映像用か識別できるリストとして混在する、視聴メニューを配信することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項25】
立体視聴可能なプレーヤに接続されたTVが、平面映像視聴用であるか立体映像視聴用であるかどうかを、HDMIケーブルの情報として立体再生プレーヤが確認処理を実行し、視聴環境確認情報として保有するとともに、
前記立体視聴可能なプレーヤが前記トランスコーディングサーバと認証処理を行う際、前記HDMIケーブルによる前記視聴環境確認情報を伝送し、
前記トランスコーディングサーバにてあらかじめ用意された平面映像からなる映像配信メニューにおいて、前記平面映像視聴用TV接続時は平面映像の視聴メニューを、立体視聴可能TV接続時は、立体映像視聴用と平面映像視聴用のコンテンツが、平面映像用か立体映像用か識別できるリストとして混在する、視聴メニューを配信することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項26】
前記立体視聴可能プレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバ内にある立体視聴可能な所望のウィジェット情報を前記立体視聴可能なプレーヤや立体視聴可能なTVにて立体表示可能なOSD信号フォーマットとして配信することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項27】
前記立体視聴可能プレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバが立体視聴可能な所望のウィジェット情報を有する映像配信サーバを前記複数の映像配信サーバの中から選択するとともに、前記映像配信サーバが前記立体視聴用のウィジェット情報を前記トランスコーディングサーバへ配信し、
前記トランスコーディングサーバにて前記立体視聴可能なプレーヤや立体視聴可能なTVにて立体表示可能なOSD信号フォーマットに変換するとともに、前記立体映像配信コンテンツとあわせて前記立体視聴用の前記ウィジェット情報を前記立体視聴可能プレーヤもしくは立体視聴可能TVへ伝送することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項28】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバが立体視聴可能な所望のウィジェット情報を有する前記映像配信サーバを前記複数の映像配信サーバの中から選択するとともに、
前記映像配信サーバが前記立体視聴用のウィジェット情報を前記トランスコーディングサーバへ配信し、
前記トランスコーディングサーバにて立体映像配信コンテンツ画面上にオーバレイもしくは画面分割したコンテンツ情報画面以外の領域に表示させるよう、前記立体視聴コンテンツと前記ウィジェット情報を組み合わせた第二の立体映像配信コンテンツを生成するとともに、
前記第二の前記立体映像配信コンテンツを前記立体視聴可能プレーヤもしくは立体視聴可能TVに再配信することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項29】
前記立体視聴可能プレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求をトランスコーディングサーバへ出力する際、
前記映像配信サーバが保有または前記トランスコーディングサーバが保有する平面映像からなる所望のウィジェット情報を、前記トランスコーディングサーバにおいて、前記ウィジェット情報を立体方向に位置づけて配置させるとともに、
前記トランスコーディングサーバ内の映像合成部において、前記立体映像配信コンテンツと前記ウィジェット情報とを画像合成した第二の立体映像配信コンテンツとして生成し、
前記第二の立体映像配信コンテンツを前記立体視聴可能なプレーヤや立体視聴可能なTVにて立体表示可能な映像信号フォーマットとして配信することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項30】
合成される前記ウィジェット情報の立体方向位置を、前記立体視聴可能なプレーヤもしくは立体視聴可能なTVからの立体方向位置可変入力手段により外部から設定されるとともに、
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVから前記トランスコーディングサーバへ送信される立体方向位置可変制御コマンドに基づき、前記トランスコーディングサーバ内の立体方向重み付け手段の重み付けパラメータを可変することで、
合成された立体映像の奥行きもしくは飛び出し方向の立体感を強めたり弱めたりする事が可能な
請求項29に記載の立体映像配信方法。
【請求項31】
前記映像配信サーバに保管されている前記立体映像配信コンテンツが、複数のアングル情報を含む立体映像配信コンテンツであって、
前記立体視聴可能なプレーヤもしくは前記立体再生可能なTVの視聴時において、
前記外部のマルチアングル表示番号を含むマルチアングル切り替え操作情報を、前記立体視聴可能なプレーヤもしくは前記立体再生可能なTVより前記トランスコーディングサーバへ伝送し、
さらに前記トランスコーディングサーバから前記映像配信サーバへ前記映像配信サーバが受け付け可能な情報として前記マルチアングル切り替え情報を伝送することで、
前記映像配信サーバよりアングルを切り替えた立体映像配信コンテンツ配信をし、
前記アングルが切り替わった立体映像配信コンテンツをフォーマット変換し、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVに再配信することで、前記立体映像配信コンテンツのマルチアングル切り替え操作を行うことを特徴とする
請求項21に記載の立体映像配信方法。
【請求項32】
前記映像配信サーバに保管されている前記立体映像配信コンテンツが、複数のアングル情報を含む立体映像配信コンテンツであって、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVの視聴時において、
前記外部から視聴中のアングル角度から所定時間毎に右回りもしくは左回りに順次切り替えていくアングル順次切り替えコマンドを定義し、
アングル順次切り替えコマンドを、前記立体再生可能なプレーヤもしくは前記立体再生可能なTVより前記トランスコーディングサーバへ伝送し、
さらに前記トランスコーディングサーバから前記映像配信サーバへ前記映像配信サーバが受け付け可能な情報として前記マルチアングル切り替え情報を伝送することで、
前記映像配信サーバより右回りもしくは左回りに順次アングルが切り替わる立体映像配信コンテンツを配信し、
前記アングルが切り替わった立体映像配信コンテンツを前記トランスコーディングサーバにてフォーマット変換し、前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVに再配信することで、立体映像配信コンテンツの右回りもしくは左回り方向のマルチアングル順次切り替え操作を行うことを特徴とする
請求項21に記載の立体映像配信方法。
【請求項33】
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVが前記トランスコーディングサーバと認証処理を行う際に、前記外部と前記トランスコーディングサーバとの間で課金処理を行うとともに、
前記外部と前記トランスコーディングサーバとの前記課金処理完了後、前記トランスコーディングサーバと前記外部が所望する立体映像配信コンテンツを有する前記映像配信サーバとの間にて第二の課金処理を実行するとともに、
前記外部から支払われた金額の所定割合が前記映像配信サーバの権利者へ、残りの金額を前記トランスコーディングサーバの権利者へ配分される事を特徴とする
請求項21に記載の立体映像配信方法。
【請求項34】
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVにおいては、前記トランスコーディングサーバおよび前記映像配信サーバ間の通信時間、前記映像配信サーバにおけるアングルの異なる映像への切り替え時間、前記トランスコーディングサーバにおけるフォーマット変換処理時間、および前記トランスコーディングサーバと前記立体視聴可能プレーヤもしくは立体視聴可能TV間との通信時間の合計時間を上回るだけの容量を有する、映像配信バッファを設定することを特徴とする
請求項21に記載の立体映像配信方法。
【請求項35】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、
前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成されるとともに、
映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信されるとともに、
前記配信される平面映像配信コンテンツはさらに一旦トランスコーディングサーバに入力され、
前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させるとともに、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、
前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信方法。
【請求項36】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信方法であって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成されるとともに、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部保有の映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードするとともに、
前記アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させるとともに、
前記変換した映像を、立体視聴可能なプレーヤもしくはTVにおいてデコードできる映像信号フォーマットの形態に変換して、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信方法。
【請求項37】
前記平面映像から立体映像への変換は、
映像の背景部分を抽出し、
手前にある人物や物などの手前映像を分離し、
これら分離された映像の立体方向位置の重み付けをし、
立体方向に重み付けされた映像を合成することにより実現される事を特徴とする
請求項35または36に記載の立体映像配信方法。
【請求項38】
前記外部から直接前記トランスコーディングサーバにアップロードする際に、当該トランスコーディングサーバと外部保有機器との間でまず機器認証を行うとともに、
前記外部のID登録を行い、前記外部が前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVにおいて前記外部が前記トランスコーディングサーバに前記アップロードした映像を視聴する際に、前記外部から立体視聴可能なプレーヤもしくはTVとトランスコーディングサーバ間で機器認証を行うとともに、
前記アップロード時に登録したIDを再入力することを特徴とする
請求項36に記載の立体映像配信方法。
【請求項39】
前記外部から立体視聴可能なプレーヤもしくはTVにおいて前記外部が前記トランスコーディングサーバにアップロードした映像を視聴する際、前記アップロード時に登録したIDを前記立体視聴可能なプレーヤもしくはTVにあらかじめ設定しておき、
前記立体視聴可能なプレーヤもしくはTVとの機器認証とあわせ登録したIDを確認することで、新たな入力手続きを不要とする事を特徴とする
請求項36に記載の立体映像配信方法。
【請求項40】
前記平面映像から変換し合成される立体情報の立体方向位置が、前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVからの立体方向位置可変入力手段により外部から設定されるとともに、
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVから前記トランスコーディングサーバへ送信される立体方向位置可変制御コマンドに基づき、前記トランスコーディングサーバ内の立体方向重み付け手段の重み付けパラメータを可変することで、
合成された立体映像の奥行きもしくは飛び出し方向の立体感を強めたり弱めたりする事が可能な
請求項35または36に記載の立体映像配信方法。
【請求項41】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、
前記立体映像配信コンテンツは、複数の映像配信サーバにて保管され、
映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した、所望のコンテンツを有する特定の前記映像配信サーバより、前記立体映像配信コンテンツが配信され、
配信される前記立体映像配信コンテンツは、さらに一旦トランスコーディングサーバに入力され、
前記トランスコーディングサーバはフォーマット変換手段を有し、
前記フォーマット変換手段にて前記立体映像配信コンテンツを立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態にして、立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とする
立体映像配信装置。
【請求項42】
前記再配信後の映像信号フォーマット形態が、前記立体視聴可能なプレーヤにおけるストレージメディアに記録されている映像信号フォーマット形態と同じ圧縮方式となるよう、前記トランスコーディングサーバのフォーマット変換手段によりトランスコードされてから配信される事を特徴とする
請求項41に記載の立体映像配信装置。
【請求項43】
前記トランスコーディング後の映像信号フォーマットが、左目映像もしくは右目映像の片方のみで構成される平面映像と、前記平面映像との差分を取ることで前記平面映像と逆側の目の圧縮効率をアップさせた映像との映像信号フォーマットであることを特徴とする
請求項41に記載の立体映像配信装置。
【請求項44】
TVの設定が、平面映像視聴可能であるか立体映像視聴可能であるかを、HDMIケーブルの情報として立体再生プレーヤが確認処理を実行し、視聴環境確認情報として保有し、
前記立体再生プレーヤが前記トランスコーディングサーバと認証処理を行う際に、前記HDMIケーブルによる視聴環境確認情報を伝送する手段と、
前記トランスコーディングサーバにてあらかじめ用意された平面映像からなる映像配信メニューにおいて、前記平面映像視聴可能時は平面映像の視聴メニューを、立体映像視聴可能時は、立体映像視聴用と平面映像視聴用のコンテンツが、平面映像用か立体映像用か識別できるリストとして混在する、視聴メニューを配信する手段とをさらに備える、
請求項41に記載の立体映像配信装置。
【請求項45】
立体視聴可能なプレーヤに接続されたTVが、平面映像視聴用であるか立体映像視聴用であるかを、HDMIケーブルの情報としての立体再生プレーヤでの確認手段と、
前記確認手段における視聴環境確認情報を保有する保有手段と、
前記立体視聴可能なプレーヤが前記トランスコーディングサーバと認証処理を行う際、前記HDMIケーブルによる前記視聴環境確認情報を伝送する手段と、
前記トランスコーディングサーバにてあらかじめ用意された平面映像からなる映像配信メニューにおいて、前記平面映像視聴用TV接続時は平面映像の視聴メニューを、立体視聴可能TV接続時は、立体映像視聴用と平面映像視聴用のコンテンツが、平面映像用か立体映像用か識別できるリストとして混在する、視聴メニューを配信する手段とをさらに備える、
請求項41に記載の立体映像配信装置。
【請求項46】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する手段と、
前記トランスコーディングサーバ内にある立体視聴可能な所望のウィジェット情報を前記立体視聴可能なプレーヤや立体視聴可能TVにて立体表示可能なOSD信号フォーマットとして配信する手段とをさらに備える、
請求項41に記載の立体映像配信装置。
【請求項47】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバが、立体視聴可能な所望のウィジェット情報を有する前記映像配信サーバを前記複数の映像配信サーバの中から選択する手段と、
前記映像配信サーバが前記ウィジェット情報を前記トランスコーディングサーバへ配信する手段と、
前記トランスコーディングサーバにて、前記立体視聴可能なプレーヤや立体視聴可能TVで立体表示可能なOSD信号フォーマットに前記ウィジェット情報を変換する手段と、
前記立体映像配信コンテンツとあわせて前記ウィジェット情報を前記立体視聴可能なプレーヤもしくは立体視聴可能TVへ伝送する手段とをさらに備える、
請求項41に記載の立体映像配信装置。
【請求項48】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバが立体視聴可能な所望のウィジェット情報を有する前記映像配信サーバを前記複数の映像配信サーバの中から選択する手段と、
前記映像配信サーバが前記ウィジェット情報を前記トランスコーディングサーバへ配信する手段と、
前記トランスコーディングサーバにて立体映像配信コンテンツ画面上にオーバレイもしくは画面分割した前記映像配信コンテンツ画面以外の領域に表示させるよう、前記立体映像配信コンテンツと前記ウィジェット情報を組み合わせた第二の立体映像配信コンテンツを生成する手段とをさらに備え、前記第二の立体映像配信コンテンツを前記立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とする
請求項41に記載の立体映像配信装置。
【請求項49】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが所望のウィジェット情報配信要求を前記トランスコーディングサーバへ出力する際、
前記トランスコーディングサーバにおいて、前記映像配信サーバが保有または前記トランスコーディングサーバが保有する平面映像からなる所望のウィジェット情報を、前記ウィジェット情報を立体方向に位置づけて配置させる手段と、
前記トランスコーディングサーバ内の映像合成部において、前記立体映像配信コンテンツと前記ウィジェット情報とを画像合成した第二の立体映像配信コンテンツとして生成する手段と、
前記第二の立体映像配信コンテンツを前記立体視聴可能なプレーヤや立体視聴可能TVにて立体表示可能な映像信号フォーマットとして配信する手段とをさらに備える、
請求項41に記載の立体映像配信装置。
【請求項50】
合成される前記ウィジェット情報の立体方向位置を、前記立体視聴可能なプレーヤもしくは立体視聴可能TVからの立体方向位置可変入力手段により外部から設定する手段と、
前記立体視聴可能なプレーヤもしくは立体視聴可能TVから前記トランスコーディングサーバへ、前記立体方向位置を設定する立体方向位置可変制御コマンドを送信する手段と、
前記トランスコーディングサーバ内の立体方向重み付け手段の重み付けパラメータを可変する手段とをさらに備え、合成された立体映像の奥行きもしくは飛び出し方向の立体感を強めたり弱めたりする事を可能せしめる
請求項49に記載の立体映像配信装置。
【請求項51】
前記映像配信サーバに保管されている前記立体映像配信コンテンツが、複数のアングル情報を含む立体映像配信コンテンツであって、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVの視聴時において、
前記外部からのマルチアングル表示番号を含むマルチアングル切り替え情報により前記アングルを切り替えるマルチアングル切り替え操作手段と、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVより前記トランスコーディングサーバへ前記マルチアングル切り替え情報を伝送する手段と、
さらに前記トランスコーディングサーバから前記映像配信サーバへ、前記映像配信サーバが受け付け可能な情報として前記マルチアングル切り替え情報を伝送する手段と、
前記映像配信サーバより前記アングルを切り替えた前記立体映像配信コンテンツを配信する手段と、
前記アングルが切り替わった前記立体映像配信コンテンツをフォーマット変換する手段と、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVに再配信する手段とをさらに備え、前記立体映像配信コンテンツのマルチアングル切り替え操作を行うことを特徴とする
請求項41に記載の立体映像配信装置。
【請求項52】
前記映像配信サーバに保管されている前記立体映像配信コンテンツが、複数のアングル情報を含む立体映像コンテンツであって、
前記立体視聴可能なプレーヤもしくは前記立体視聴可能なTVの視聴時において、
前記外部から視聴中のアングル角度から所定時間毎に右回りもしくは左回りに順次切り替えていくアングル順次切り替えコマンドを発行する発行手段と、
前記アングル順次切り替えコマンドを、前記立体視聴可能なプレーヤもしくは前記立体視聴可能TVより前記トランスコーディングサーバへ伝送する手段と、
さらに前記トランスコーディングサーバから前記映像配信サーバへ、前記映像配信サーバが受け付け可能な情報として前記アングル順次切り替えコマンドを伝送する手段と、
前記映像配信サーバより右回りもしくは左回りに順次アングルが切り替わる前記立体映像配信コンテンツを配信する手段と、
前記アングルが切り替わった立体映像配信コンテンツを前記トランスコーディングサーバにてフォーマット変換する手段と、
前記立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信する手段とをさらに備え、前記立体映像配信コンテンツの右回りもしくは左回り方向のマルチアングル順次切り替え操作を行うことを特徴とする
請求項41に記載の立体映像配信装置。
【請求項53】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVが前記トランスコーディングサーバと認証処理を行う際に、
前記外部と前記トランスコーディングサーバとの間で課金処理を行う手段と、
前記外部と前記トランスコーディングサーバとの前記課金処理完了後、前記トランスコーディングサーバと、前記外部が所望する立体映像配信コンテンツを有する前記映像配信サーバとの間にて、第二の課金処理を実行する手段と、
前記外部から支払われた金額の所定割合が前記映像配信サーバの権利者へ、残りの金額が前記トランスコーディングサーバの権利者へ配分される手段とをさらに備える、
請求項41に記載の立体映像配信装置。
【請求項54】
前記立体視聴可能なプレーヤもしくは立体視聴可能TVにおいては、前記トランスコーディングサーバおよび前記映像配信サーバ間の通信時間、前記映像配信サーバにおけるアングルの異なる映像への切り替え時間、前記トランスコーディングサーバにおけるフォーマット変換処理時間、および前記トランスコーディングサーバと前記立体視聴可能プレーヤもしくは立体視聴可能TV間との通信時間の合計時間を上回るだけの容量を有する、映像配信バッファを持つことを特徴とする
請求項41に記載の立体映像配信装置。
【請求項55】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像と、さらに前記平面映像と逆側の目の映像の情報とを用いることにより立体映像視聴可能となる立体映像配信コンテンツであって、
前記立体映像配信コンテンツは、複数の映像配信サーバにて保管されている左目映像もしくは右目映像の片方のみで構成される平面映像から構成され、
映像配信時において、前記複数の映像配信サーバの中から外部指示により選択した所望の平面映像配信コンテンツを有する特定の前記映像配信サーバより所望の平面映像配信コンテンツが配信され、
前記配信される平面映像配信コンテンツは、さらに一旦トランスコーディングサーバに入力され、
前記トランスコーディングサーバにて前記平面映像配信コンテンツを平面映像から立体映像に変換させる手段と、
立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態に当該コンテンツのフォーマットを変換する手段とを備え、前記立体視聴可能なプレーヤもしくは立体視聴可能TVに再配信することを特徴とする
立体映像配信装置。
【請求項56】
視差映像を利用した左目映像と右目映像とからなる立体映像をサーバから配信する立体映像配信装置であって、
立体映像を含む映像コンテンツは、フレーム内でデータ圧縮されたIピクチャと、時間的に前方向の前記Iピクチャによる動き補償を加えてデータ圧縮されたPピクチャと、時間的に前後方向の前記Iピクチャ又は前記Pピクチャによる動き補償を加えてデータ圧縮されたBピクチャとを有するディジタル映像情報により構成され、
前記映像情報は、左目映像もしくは右目映像の片方のみで構成される平面映像が、まず外部が保有する映像機器であるムービで撮影した映像をムービから、もしくは外部が録画した映像をレコーダから、直接トランスコーディングサーバにアップロードする手段と、
アップロードした前記平面映像を前記トランスコーディングサーバにて平面映像から立体映像に変換させる手段と、
前記変換した映像を、立体視聴可能なプレーヤもしくは立体視聴可能TVにおいてデコードできる映像信号フォーマットの形態に変換する手段とを備え、前記立体視聴可能なプレーヤもしくはTVに再配信することを特徴とする
立体映像配信装置。
【請求項57】
平面映像から立体映像への前記変換が、
映像の背景部分抽出する手段と、
手前にある人物や物などの手前映像を分離する手段と、
前記分離された映像の立体方向位置の重み付けをする手段と、
前記立体方向に重み付けされた映像を合成する手段とをさらに備える、
請求項55または56に記載の立体映像配信装置。
【請求項58】
前記外部から直接前記トランスコーディングサーバにアップロードする際に、当該トランスコーディングサーバと外部保有機器との間でまず機器認証を行う手段と、
前記アップロード時に外部のID登録を行う手段と、
前記外部から立体視聴可能なプレーヤもしくは立体視聴可能TVにおいて前記外部が前記トランスコーディングサーバに前記アップロードした映像を視聴する際に、前記外部が立体視聴可能なプレーヤもしくは立体視聴可能TVと前記トランスコーディングサーバとの間で機器認証を行う手段と、
前記アップロード時に登録したIDを再入力する手段とをさらに備える、
請求項55または56に記載の立体映像配信装置。
【請求項59】
前記外部から立体視聴可能なプレーヤもしくは立体視聴可能TVにおいて前記外部が前記トランスコーディングサーバにアップロードした映像を視聴する際、前記アップロード時に登録したIDを前記立体視聴可能なプレーヤもしくは立体視聴可能TVにあらかじめ設定する手段と、
前記立体視聴可能なプレーヤもしくは立体視聴可能TVとの機器認証とあわせ登録したIDを自動的に確認する手段とをさらに備え、新たな入力手続きを不要とする事を特徴とする
請求項55または56に記載の立体映像配信装置。
【請求項60】
平面映像から変換し合成される立体情報の立体方向位置が、前記立体視聴可能なプレーヤもしくは前記立体視聴可能なTVからの立体方向位置可変入力手段により外部から設定する手段と、
前記立体視聴可能なプレーヤもしくは立体視聴可能なTVから前記トランスコーディングサーバへ、前記立体方向位置を設定する立体方向位置可変制御コマンドを送信する手段と、
前記トランスコーディングサーバ内の立体方向重み付け手段の重み付けパラメータを可変する手段とをさらに備え、合成された立体映像の奥行きもしくは飛び出し方向の立体感を強めたり弱めたりする事が可能な
請求項55または56に記載の立体映像配信装置。
【請求項61】
請求項1〜20のいずれかに記載の立体映像配信システムにより配信された前記立体映像配信コンテンツを用いて、前記立体映像が視聴可能である、
立体映像視聴システム。
【請求項62】
請求項21〜40のいずれかに記載の立体映像配信方法により配信された前記立体映像配信コンテンツを用いて、前記立体映像が視聴可能である、
立体映像視聴方法。
【請求項63】
請求項41〜60のいずれかに記載の立体映像配信装置により配信された前記立体映像配信コンテンツを用いて、前記立体映像が視聴可能である、
立体映像視聴装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate

【図36】
image rotate

【図37】
image rotate

【図38】
image rotate

【図39】
image rotate

【図40】
image rotate

【図41】
image rotate

【図42】
image rotate

【図43】
image rotate

【図44】
image rotate

【図45】
image rotate

【図46】
image rotate

【図47】
image rotate

【図48】
image rotate

【図49】
image rotate


【公開番号】特開2010−258848(P2010−258848A)
【公開日】平成22年11月11日(2010.11.11)
【国際特許分類】
【出願番号】特願2009−107393(P2009−107393)
【出願日】平成21年4月27日(2009.4.27)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】