説明

画像データ送信装置、画像データ送信方法、画像データ受信装置および画像データ受信方法

【課題】受信側においてクロッピング情報を用いた切り出し処理が常に適切に行われるようにする。
【解決手段】ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナ、例えばトランスポートストリームを送信する。ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報を挿入する。画像データが2次元画像データあるいはフレームコンパチブル方式の立体画像データのいずれであっても、受信側において、クロッピング情報を解釈情報に基づいて適切に解釈でき、このクロッピング情報を用いた切り出し処理(クロッピング)を適切に行って表示用画像データを正しく生成できる。

【発明の詳細な説明】
【技術分野】
【0001】
本技術は、画像データ送信装置、画像データ送信方法、画像データ受信装置および画像データ受信方法に関し、特に、送信側から画像データと共にクロッピング情報を送信し、受信側ではこのクロッピング情報を用いて画像データの切り出し処理を行う画像送受信システムにおける画像データ送信装置等に関する。
【背景技術】
【0002】
例えば、特許文献1には、立体画像データのテレビ放送電波を用いた伝送方式について提案されている。この場合、左眼用画像データおよび右眼用画像データを含む立体画像データが送信され、テレビ受信機において、両眼視差を利用した立体画像表示が行われる。
【0003】
図22は、両眼視差を利用した立体画像表示において、スクリーン上におけるオブジェクト(物体)の左右像の表示位置と、その立体画像(3D画像)の再生位置との関係を示している。例えば、スクリーン上に図示のように左像Laが右側に右像Raが左側にずれて表示されているオブジェクトAに関しては、左右の視線がスクリーン面より手前で交差するため、その立体画像の再生位置はスクリーン面より手前となる。DPaは、オブジェクトAに関する水平方向の視差ベクトルを表している。
【0004】
また、例えば、スクリーン上に図示のように左像Lbおよび右像Rbが同一位置に表示されているオブジェクトBに関しては、左右の視線がスクリーン面で交差するため、その立体画像の再生位置はスクリーン面上となる。さらに、例えば、スクリーン上に図示のように左像Lcが左側に右像Rcが右側にずれて表示されているオブジェクトCに関しては、左右の視線がスクリーン面より奥で交差するため、その立体画像の再生位置はスクリーン面より奥となる。DPcは、オブジェクトCに関する水平方向の視差ベクトルを表している。
【0005】
従来、立体画像データの伝送フォーマットとして、サイド・バイ・サイド(Side By Side)方式、トップ・アンド・ボトム(Top & Bottom)方式などのフレームコンパチブル方式が知られている。例えば、図23(a)はサイド・バイ・サイド方式を示し、図23(b)はトップ・アンド・ボトム方式を示している。ここでは、1920×1080のピクセルフォーマットである場合を示している。
【0006】
サイド・バイ・サイド方式は、図23(a)に示すように、水平方向の前半では左眼画像データのピクセルデータを伝送し、水平方向の後半では右眼画像データのピクセルデータを伝送する方式である。この方式の場合、左眼画像データおよび右眼画像データは、それぞれ、水平方向のピクセルデータが1/2に間引かれ、原信号に対して水平解像度は半分となる。
【0007】
トップ・アンド・ボトム方式は、図23(b)に示すように、垂直方向の前半では左眼画像データの各ラインのデータを伝送し、垂直方向の後半では右眼画像データの各ラインのデータを伝送する方式である。この方式の場合、左眼画像データおよび右眼画像データのラインが1/2に間引かれ、原信号に対して垂直解像度は半分となる。
【0008】
ここで、受信側における表示画像データ生成処理について簡単に説明する。図24(a)は、1920×1080のピクセルフォーマットの2次元画像データに関する処理を概略的に示している。この場合、送信側では、16×16のブロック毎に符号化を行うために、ブランクデータからなる8ラインを付加して、1920画素×1088ラインの画像データとして符号化が行われる。
【0009】
そのため、受信側では、復号化後に、1920画素×1088ラインの画像データが得られる。しかし、そのうち8ラインはブランクデータであることから、ビデオデータストリームに含まれるクロッピング(cropping)情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データの切り出しが行われて、2次元テレビ受信機(以下、適宜、「2DTV」という)用の表示用画像データが生成される。
【0010】
図24(b)は、1920×1080のピクセルフォーマットのサイド・バイ・サイド方式の立体画像データ(3次元画像データ)に関する処理を概略的に示している。この場合も、送信側では、16×16のブロック毎に符号化を行うために、ブランクデータからなる8ラインを付加して、1920画素×1088ラインの画像データとして符号化が行われる。
【0011】
そのため、受信側では、復号化後に、1920画素×1088ラインの画像データが得られる。しかし、そのうち8ラインはブランクデータであることから、ビデオデータストリームに含まれるクロッピング情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データの切り出しが行われる。そして、この画像データが左右に二分され、それぞれにスケーリング処理が施されて、立体テレビ受信機(以下、適宜、「3DTV」という)用の左眼および右眼の表示用画像データが生成される。
【0012】
図24(c)は、1920×1080のピクセルフォーマットのトップ・アンド・ボトム方式の立体画像データ(3次元画像データ)に関する処理を概略的に示している。この場合も、送信側では、16×16のブロック毎に符号化を行うために、ブランクデータからなる8ラインを付加して、1920画素×1088ラインの画像データとして符号化が行われている。
【0013】
そのため、受信側では、復号化後に、1920画素×1088ラインの画像データが得られる。しかし、そのうち8ラインはブランクデータであることから、ビデオデータストリームに含まれるクロッピング情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データの切り出しが行われる。そして、この画像データが上下に二分され、それぞれにスケーリング処理が施されて、3DTV用の左眼および右眼の表示用画像データが生成される。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特開2005−6114号公報
【発明の概要】
【発明が解決しようとする課題】
【0015】
2DTVにおいて、上述のサイド・バイ・サイド方式、あるいはトップ・アンド・ボトム方式の立体画像データの場合、1920画素×1080ラインの画像データを切り出しして2DTV用の表示用画像データを生成した場合、左右あるいは上下に同様の画像が並んだ不自然な画像表示となる。
【0016】
そこで、2DTVにおいて、この不自然な画像表示を回避できるように、ビデオデータストリームに含まれるクロッピング情報を、左眼または右眼の一方、例えば左眼の画像データのみを切り出すための情報とすることが考えられる。その場合、2DTV、3DTVの処理は、以下のようになる。
【0017】
図25(a)は、2DTVにおける、1920×1080のピクセルフォーマットのサイド・バイ・サイド方式の立体画像データ(3次元画像データ)における処理を概略的に示している。2DTVでは、復号化後に、1920画素×1088ラインの画像データが得られるが、そのうち8ラインはブランクデータである。この場合、クロッピング(cropping)情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、960画素×1080ラインの左眼画像データの切り出しが行われる。そして、この左眼画像データにスケーリング処理が施されて、2DTV用の表示用画像データが生成される。この場合、正しく2次元表示(2D表示)が行われる。
【0018】
これに対して、図25(b)は、3DTVにおける、1920×1080のピクセルフォーマットのサイド・バイ・サイド方式の立体画像データ(3次元画像データ)における処理を概略的に示している。3DTVでも、復号化後に、1920画素×1088ラインの画像データが得られるが、そのうち8ラインはブランクデータである。この場合、クロッピング(cropping)情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、960画素×1080ラインの左眼画像データの切り出しが行われる。
【0019】
そして、この左眼画像データにスケーリング処理が施されて、1920画素×1080ラインの画像データが生成される。この画像データは、上述した2DTVの表示用画像データと同じものである。3DTVでは、サイド・バイ・サイド方式なので、さらに、この画像データが左右に二分され、それぞれにスケーリング処理が施されて、3DTV用の左眼および右眼の表示用画像データが生成される。この場合、左眼画像および右眼画像は、1つの画像を左右に二分した一方および他方であることから、正しく立体表示(3D表示)がなされない。
【0020】
図26(a)は、2DTVにおける、1920×1080のピクセルフォーマットのトップ・アンド・ボトム方式の立体画像データ(3次元画像データ)における処理を概略的に示している。2DTVでは、復号化後に、1920画素×1088ラインの画像データが得られるが、そのうち8ラインはブランクデータである。この場合、クロッピング(cropping)情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、1920画素×540ラインの左眼画像データの切り出しが行われる。そして、この左眼画像データにスケーリング処理が施されて、2DTV用の表示用画像データが生成される。この場合、正しく2次元表示(2D表示)が行われる。
【0021】
これに対して、26(b)は、3DTVにおける、1920×1080のピクセルフォーマットのトップ・アンド・ボトム方式の立体画像データ(3次元画像データ)の処理を概略的に示している。3DTVでも、復号化後に、1920画素×1088ラインの画像データが得られるが、そのうち8ラインはブランクデータである。この場合、クロッピング(cropping)情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、1920画素×540ラインの左眼画像データの切り出しが行われる。
【0022】
そして、この左眼画像データにスケーリング処理が施されて、1920画素×1080ラインの画像データが生成される。この画像データは、上述した2DTVの表示用画像データと同じものである。3DTVでは、トップ・アンド・ボトム方式なので、さらに、この画像データが上下に二分され、それぞれにスケーリング処理が施されて、3DTV用の左眼および右眼の表示用画像データが生成される。この場合、左眼画像および右眼画像は、1つの画像を上下に二分した一方および他方であることから、正しく立体表示(3D表示)がなされない。
【0023】
本技術の目的は、受信側においてクロッピング情報を用いた切り出し処理を適切に行って表示用画像データを正しく生成可能とすることにある。
【課題を解決するための手段】
【0024】
本技術の概念は、
画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを送信する画像データ送信部と、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入する情報挿入部を備える
画像データ送信装置にある。
【0025】
本技術において、画像データ送信部により、画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナが送信される。例えば、コンテナは、デジタル放送規格で採用されているトランスポートストリーム(MPEG−2 TS)であってもよい。また、例えば、コンテナは、インターネットの配信などで用いられるMP4、あるいはそれ以外のフォーマットのコンテナであってもよい。
【0026】
情報挿入部により、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報が挿入される。例えば、コンテナはトランスポートストリームであり、情報挿入部は、解釈情報をプログラム・マップ・テーブル、あるいはイベント・インフォメーション・テーブルの配下に挿入する、ようにされてもよい。例えば、情報挿入部は、プログラム・マップ・テーブル、あるいはイベント・インフォメーション・テーブルの配下に挿入されるデスクリプタに、解釈情報を記述する、ようにされる。
【0027】
例えば、ビデオストリームは、H.264/AVC、あるいはHEVCの符号化データであり、クロッピング情報は、ビデオストリームのシーケンス・パラメータ・セットに定義されており、情報挿入部は、解釈情報を、プログラム・マップ・テーブル、あるいはイベント・インフォメーション・テーブルの配下に挿入されるデスクリプタに記述する、ようにされてもよい。
【0028】
例えば、解釈情報は、画像データが、同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データ、いわゆるフレームコンパチブル方式の立体画像データであるとき、クロッピング情報のパラメータ値を特殊に解釈すべきことを示す、ものとされる。なお、この場合、解釈情報は、画像データが2次元画像データであるとき、クロッピング情報のパラメータ値をそのままに解釈すべきことを示す、ものとされる。
【0029】
例えば、画像データが、同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであるとき、解釈情報は、クロッピング情報のパラメータ値を、クロッピング領域が水平方向あるいは垂直方向に2倍となるように解釈すべきことを示す、ようにされてもよい。例えば、サイド・バイ・サイド方式の立体画像データである場合には、クロッピング領域が水平方向に2倍となるように解釈すべきことを示すものとなる。また、例えば、トップ・アンド・ボトム方式の立体画像データである場合には、クロッピング領域が垂直に2倍となるように解釈すべきことを示すものとなる。この場合、解釈情報は、クロッピング情報のパラメータ値の解釈を指定する。
【0030】
このように本技術においては、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報が挿入される。そのため、画像データが2次元画像データあるいはフレームコンパチブル方式の立体画像データのいずれであっても、受信側では、クロッピング情報のパラメータ値を解釈情報により適切に解釈でき、このクロッピング情報を用いた切り出し処理(クロッピング)を適切に行って表示用画像データを正しく生成可能となる。
【0031】
なお、本技術において、例えば、画像データは、2次元画像データあるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであり、情報挿入部は、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで、切り替え後の画像データに対応して変更された解釈情報をビデオストリームよりも上位のレイヤに挿入する、ようにされてもよい。
【0032】
この場合、受信側では、2次元画像データおよび立体画像データの切り替えタイミングの前に、切り替え後の画像データに対応して変更された解釈情報を取得することが可能となる。そのため、切り換えタイミングから直ちに切り替え後の画像データに合ったクロッピング情報のパラメータ値の解釈で画像データの切り出し(クロッピング)を行うことが可能となり、画像データの切り替えにより不自然な画像表示が行われることを回避可能となる。
【0033】
また、本技術の他の概念は、
画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを受信する画像データ受信部を備え、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報が挿入されており、
上記コンテナから上記解釈情報を取得する情報取得部と、
上記コンテナが有するビデオストリームをデコードして上記画像データおよび上記クロッピング情報を取得するデコード部と、
上記クロッピング情報のパラメータ値を上記解釈情報に基づいて解釈し、上記画像データから、所定の領域の画像データを切り出して表示用の画像データを生成する画像データ処理部とをさらに備える
画像データ受信装置にある。
【0034】
本技術において、画像データ受信部により、画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナ、例えばトランスポートストリームが受信される。ここで、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報が挿入されている。
【0035】
情報取得部により、コンテナから解釈情報が取得される。また、デコード部により、コンテナが有するビデオストリームがデコードされて、画像データおよびクロッピング情報が取得される。そして、画像データ処理部により、クロッピング情報のパラメータ値が解釈情報に基づいて解釈され、画像データから、所定の領域の画像データが切り出されて表示用の画像データが生成される。
【0036】
このように本技術においては、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナが受信されるが、ビデオストリームよりも上位のレイヤに、クロッピング情報の解釈情報が挿入されている。そのため、画像データが2次元画像データあるいはフレームコンパチブル方式の立体画像データのいずれであっても、クロッピング情報を解釈情報により適切に解釈でき、このクロッピング情報を用いた切り出し処理を適切に行って表示用画像データを正しく生成可能となる。
【0037】
なお、本技術において、例えば、画像データは、2次元画像データあるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであり、切り替え後の画像データに対応して変更された解釈情報は、ビデオストリームよりも上位のレイヤに、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで挿入されており、画像データ処理部は、画像データの切り替えタイミングから、この切り替えタイミングに先行するタイミングで挿入されている、切り替え後の画像データに対応して変更された解釈情報に基づいて、クロッピング情報のパラメータ値を解釈する、ようにされてもよい。
【0038】
この場合、切り換えタイミングから直ちに切り替え後の画像データに合ったクロッピング情報のパラメータ値の解釈で画像データの切り出しを適切に行うことが可能となる。また、解釈情報の取得が画像データの切り替えタイミングに同期していなくても、不自然な画像表示が行われることを回避できる。
【発明の効果】
【0039】
本技術によれば、受信側においてクロッピング情報を用いた切り出し処理を適切に行って表示用画像データを正しく生成できる。
【図面の簡単な説明】
【0040】
【図1】実施の形態としての画像送受信システムの構成例を示すブロック図である。
【図2】ビデオストリームにおけるアクセスユニットのデータ構造例を示す図である。
【図3】アクセスユニットのSPS(Sequence Parameter Set)の中で定義されているクロッピング情報の構造を示す図である。
【図4】1920×1080のピクセルフォーマットのサイド・バイ・サイド方式の立体画像データに対する受信処理を概略的に示す図である。
【図5】1920×1080のピクセルフォーマットのトップ・アンド・ボトム方式の立体画像データに対する受信処理を概略的に示す図である。
【図6】画像送受信システムを構成する放送局の送信データ生成部の構成例を示すブロック図である。
【図7】トランスポートストリームTSの構成例を示す図である。
【図8】トランスポートストリームTSの他の構成例を示す図である。
【図9】「AVC_video_descriptor」の構造例(Syntax)を示す図である。
【図10】「AVC_video_descriptor」の規定内容(Semantics)を示す図である。
【図11】「Cropping_interpretation_descriptor」の構造例(Syntax)を示す図である。
【図12】画像送受信システムを構成する受信機の構成例を示すブロック図である。
【図13】受信機内のCPUのクロッピング制御処理の一例を示すフローチャートである。
【図14】PMT配下のAVC・ビデオ・デスクリプタに記述される「cropping_normal_interpretation_flag」のフラグ情報の運用時の一例を説明するための図である。
【図15】トランスポートストリームTSの構成例を示す図である。
【図16】トランスポートストリームTSの他の構成例を示す図である。
【図17】「AVC_video_descriptor」の構造例(Syntax)を示す図である。
【図18】「AVC_video_descriptor」の規定内容(Semantics)を示す図である。
【図19】「Cropping_interpretation_descriptor」の構造例(Syntax)を示す図である。
【図20】受信機内のCPUのクロッピング制御処理の一例を示すフローチャートである。
【図21】PMT配下のAVC・ビデオ・デスクリプタに記述される「cropping_interpretation_mode」のモード情報の運用時の一例を説明するための図である。
【図22】両眼視差を利用した立体画像表示において、スクリーン上におけるオブジェクトの左右像の表示位置と、その立体像の再生位置との関係を説明するための図である。
【図23】立体画像データの伝送フォーマットの一例(サイド・バイ・サイド方式、トップ・アンド・ボトム方式など)を説明するための図である。
【図24】受信側における表示画像データ生成処理を説明するための図である。
【図25】従来のクロッピング情報を用いたサイド・バイ・サイド方式における画像処理を説明するための図である。
【図26】従来のクロッピング情報を用いたトップ・アンド・ボトム方式における画像処理を説明するための図である。
【発明を実施するための形態】
【0041】
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
【0042】
<1.実施の形態>
[画像送受信システム]
図1は、実施の形態としての画像送受信システム10の構成例を示している。この画像送受信システム10は、放送局100、および受信機(3DTV)200により構成されている。放送局100は、画像データを含むビデオストリームを有するトランスポートストリームTSを、放送波に載せて送信する。
【0043】
このビデオストリームに含まれる画像データは、2次元画像データ、あるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された、いわゆるフレームコンパチブル方式の立体画像データである。この立体画像データの伝送フォーマットは、例えば、サイド・バイ・サイド(Side By Side)方式(図23(a)参照)、トップ・アンド・ボトム(Top& Bottom)方式(図23(b)参照)などである。
【0044】
この実施の形態において、画像データのピクセルフォーマットは、1920×1080であるとする。放送局100は、この画像データに対して、16×16のブロック毎に符号化を行う。そのため、放送局100は、ブランクデータからなる8ラインを付加して、1920画素×1088ラインの画像データとして符号化を行う。
【0045】
ビデオストリームのヘッダ部には、クロッピング(cropping)情報が挿入されている。このクロッピング情報は、画像データが2次元画像データである場合、デコード後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データを切り出すための情報となっている。
【0046】
また、このクロッピング情報は、画像データがフレームコンパチブル方式の立体画像データである場合、デコード後の1920画素×1088ラインの画像データから、実質的な左眼画像データあるいは右眼画像データを切り出すための情報となる。例えば、サイド・バイ・サイド方式の立体画像データでは、960画素×1080ラインの画像データの切り出しを行うための情報となる。また、例えば、トップ・アンド・ボトム方式の立体画像データでは、1920画素×540ラインの画像データの切り出しを行うための情報となる。
【0047】
なお、この実施の形態において、ビデオデータストリームは、例えば、H.264/AVC(Advanced Video Coding)ストリームであり、クロッピング情報はビデオストリームのシーケンス・パラメータ・セット(SPS)に定義されている。図2(a),(b)は、ビデオデータストリームにおけるアクセスユニットのデータ構造例を示している。H.264ではピクチャをアクセスユニットという単位で定義している。図2(a)は、GOP(Group Of Pictures)の先頭のアクセスユニットの構造を示し、図2(b)は、GOPの先頭以外のアクセスユニットの構造を示している。
【0048】
クロッピング情報は、GOPの先頭のアクセスユニットに存在するSPS(Sequence Parameter Set)の部分に挿入される。図3は、SPSの中で定義されているクロッピング情報の構造(Syntax)を示している。このSPSの中では、「frame_cropping_flag」のフラグ情報でクロッピング情報の存在の有無が示される。そして、クロッピング情報は、画像データの切り出し領域としての長方形領域を指定する情報である。
【0049】
「frame_crop_left_offset」は水平方向の開始位置、つまり左端位置を示す。「frame_crop_right_offset」は水平方向の終了位置、つまり右端位置を示す。「frame_crop_top_offset」は垂直方向の開始位置、つまり上端位置を示す。「frame_crop_bottom_offset」は垂直方向の終了位置、つまり下端位置を示す。いずれも、左上位置からのオフセット値で示される。
【0050】
画像データが立体画像データである場合、アクセスユニットのSEIsの部分に、「Frame Packing Arrangement SEI message」が挿入される。このSEIに、画像データがいかなる伝送フォーマットの立体画像データであるかを示すタイプ情報が含まれている。
【0051】
トランスポートストリームTSには、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報が挿入される。この解釈情報は、例えば、プログラム・マップ・テーブル(PMT:Program Map Table)の配下に挿入される。具体的には、この解釈情報は、例えば、プログラム・マップ・テーブルのビデオエレメンタリ・ループの配下に挿入されるデスクリプタ(descriptor)に記述される。このデスクリプタは、例えば、既存のAVC・ビデオ・デスクリプタ(AVC video descriptor)、あるいは新規に定義されるクロッピング・インタープリテーション・デスクリプタ(Cropping_interpretation_descriptor)である。
【0052】
この解釈情報は、画像データがフレームコンパチブル方式の立体画像データである場合、クロッピング情報のパラメータ値を特殊に解釈すべきことを示す。また、この解釈情報は、画像データが2次元画像データである場合、クロッピング情報のパラメータ値をそのままに解釈すべきことを示す。この解釈情報は、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで挿入される。
【0053】
受信機200は、放送局100から放送波に載せて送られてくるトランスポートストリームTSを受信する。受信機200は、トラスポートストリームTSから、上述したようにビデオストリームよりも上位のレイヤに挿入されているクロッピング情報のパラメータ値の解釈情報を取得する。また、受信機200は、ビデオストリームをデコードして、画像データおよびクロッピング情報を取得する。
【0054】
そして、受信機200は、クロッピング情報のパラメータ値を解釈情報に基づいて解釈し、画像データから、所定の領域の画像データを切り出して表示用の画像データを生成する。例えば、画像データが2次元画像データである場合、クロッピング情報は、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データを切り出すための情報となっている。この場合、受信機200は、クロッピング情報のパラメータ値をそのままに解釈し、デコード後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データを切り出し、2次元画像表示の画像データを生成さする。
【0055】
また、例えば、画像データがフレームコンパチブル方式の立体画像データである場合、クロッピング情報は、デコード後の1920画素×1088ラインの画像データから、実質的な左眼画像データあるいは右眼画像データを切り出すための情報となっている。この場合、受信機200は、クロッピング情報のパラメータ値を、クロッピング領域が水平方向あるいは垂直方向に2倍となるように解釈する。そして、受信機200は、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データを切り出し、左眼および右眼の各画像データ部分のそれぞれにスケーリング処理を施して、立体画像表示用の左眼および右眼の画像データを生成する。
【0056】
なお、解釈情報は、上述したように、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで挿入されている。受信機200は、画像データの切り替えタイミングから、この切り替えタイミングに先行するタイミングで挿入されている、切り替え後の画像データに対応して変更された解釈情報に基づいて、クロッピング情報のパラメータ値を解釈する。つまり、受信機200は、切り換えタイミングから直ちに切り替え後の画像データに合ったクロッピング情報の解釈で画像データの切り出しを行って、表示用画像データを生成する。
【0057】
図4は、1920×1080のピクセルフォーマットのサイド・バイ・サイド方式の立体画像データに対する受信処理を概略的に示している。復号化後に、1920画素×1088ラインの画像データが得られるが、そのうち8ラインはブランクデータである。
【0058】
2次元(2D)表示モードの場合、クロッピング情報(白抜きの○印でオフセット位置を示す)は、そのままに解釈される。そのため、このクロッピング情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、例えば、960画素×1080ラインの左眼画像データの切り出しが行われる。そして、この左眼画像データに水平方向のスケーリング処理が施されて、2次元画像表示用の画像データが生成される。この場合、正しく2次元画像の表示が行われる。
【0059】
また、立体(3D)表示モードの場合、クロッピング情報(白抜きの○印でオフセット位置を示す)は、クロッピング領域が水平方向に2倍となるように、解釈される(ハッチングされた○印でオフセットの変更位置を示す)。そのため、このクロッピング情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データの切り出しが行われる。そして、サイド・バイ・サイド方式の立体画像データであることから、この切り出された画像データが左右に二分され、それぞれに水平方向のスケーリング処理が施されて、立体画像表示用の左眼および右眼の画像データが生成される。この場合、正しく立体画像の表示が行われる。
【0060】
また、図5は、1920×1080のピクセルフォーマットのトップ・アンド・ボトム方式の立体画像データに対する受信処理を概略的に示している。復号化後に、1920画素×1088ラインの画像データが得られるが、そのうち8ラインはブランクデータである。
【0061】
2次元(2D)表示モードの場合、クロッピング情報(白抜きの○印でオフセット位置を示す)は、そのままに解釈される。そのため、このクロッピング情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、例えば、1920画素×540ラインの左眼画像データの切り出しが行われる。そして、この左眼画像データに垂直方向のスケーリング処理が施されて、2次元画像表示用の画像データが生成される。この場合、正しく2次元画像の表示が行われる。
【0062】
また、立体(3D)表示モードの場合、クロッピング情報(白抜きの○印でオフセット位置を示す)は、クロッピング領域が垂直方向に2倍となるように、解釈される(ハッチングされた○印でオフセットの変更位置を示す)。そのため、このクロッピング情報に基づいて、実質的な画像データが含まれる1920画素×1080ラインの画像データの切り出しが行われる。そして、トップ・アンド・ボトム方式の立体画像データであることから、この切り出された画像データが上下に二分され、それぞれに垂直方向のスケーリング処理が施されて、立体画像表示用の左眼および右眼の画像データが生成される。この場合、正しく立体画像の表示が行われる。
【0063】
「送信データ生成部の構成例」
図6は、放送局100において、上述したトランスポートストリームTSを生成する送信データ生成部110の構成例を示している。この送信データ生成部110は、データ取り出し部(アーカイブ部)111と、ビデオエンコーダ112と、オーディオエンコーダ113と、マルチプレクサ114を有している。
【0064】
データ取り出し部111には、データ記録媒体111aが、例えば、着脱自在に装着される。データ記録媒体111aは、ディスク状記録媒体、半導体メモリ等である。このデータ記録媒体111aには、トランスポートストリームTSで送信する複数の番組の画像データが記録されている。
【0065】
各番組の画像データは、例えば、2次元画像データあるいはフレームコンパチブル方式の立体画像データ(以下、単、「立体画像データ」という)とされている。この立体画像データの伝送フォーマットは、例えば、サイド・バイ・サイド方式、トップ・アンド・ボトム方式などである(図23(a),(b)参照)。データ取り出し部111は、データ記録媒体111aから、送信対象番組の画像データおよび音声データを順次取り出して出力する。
【0066】
ビデオエンコーダ112は、データ取り出し部111から出力される画像データに対して、H.264/AVC(Advanced Video Coding)の符号化を施して符号化ビデオデータを得る。また、このビデオエンコーダ112は、後段に備えるストリームフォーマッタ(図示せず)により、この符号化ビデオデータを含むビデオストリーム(ビデオエレメンタリストリーム)を生成する。この際、ビデオエンコーダ112は、このビデオストリームのヘッダ部に、クロッピング情報を挿入する。上述したように、クロッピング情報は、GOPの先頭のアクセスユニットに存在するSPS(Sequence Parameter Set)の部分に挿入される(図2(a)参照)。
【0067】
オーディオエンコーダ113は、データ取り出し部111から出力される音声データに対して、MPEG−2Audio AAC等の符号化を施し、オーディオストリーム(オーディオエレメンタリストリーム)を生成する。マルチプレクサ114は、ビデオエンコーダ112およびオーディオエンコーダ113で生成された各エレメンタリストリームをパケット化して多重し、トランスポートストリーム(多重化データストリーム)TSを生成する。
【0068】
ここで、マルチプレクサ114は、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報を挿入する。マルチプレクサ114は、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで、その切り替え後の画像データに対応した解釈情報を挿入する。
【0069】
上述したように、この解釈情報は、例えば、プログラム・マップ・テーブルのビデオエレメンタリ・ループの配下に挿入されるデスクリプタ(descriptor)に記述される。このデスクリプタは、例えば、既存のAVC・ビデオ・デスクリプタ(AVC video descriptor)、あるいは新規に定義されるクロッピング・インタープリテーション・デスクリプタ(Cropping_interpretation_descriptor)である。
【0070】
図7は、トランスポートストリームTSの構成例を示している。この構成例は、既存のAVC・ビデオ・デスクリプタに、クロッピング情報のパラメータ値の解釈情報としての「cropping_normal_interpretation_flag」のフラグ情報が記述される例である。
【0071】
この構成例では、ビデオストリームのPESパケット「Video PES」が含まれている。このビデオストリームには、含まれる画像データが立体画像データである場合には、上述したように、そのアクセスユニットのSEIsの部分に、「Frame Packing Arrangement SEI message」が挿入されている。このSEIには、画像データがいかなる伝送フォーマットの立体画像データであるかを示すタイプ情報が含まれている。
【0072】
トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(ProgramMap Table)が含まれている。このPSIは、トランスポートストリームに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。また、トランスポートストリームには、イベント単位の管理を行うSI(Serviced Information)としてのEIT(EventInformation Table)が含まれている。
【0073】
PMTには、プログラム全体に関連する情報を記述するプログラム・デスクリプタ(Program Descriptor)が存在する。また、このPMTには、各エレメンタリストリームに関連した情報を持つエレメンタリ・ループが存在する。この構成例では、ビデオエレメンタリ・ループ(Video ES loop)が存在する。
【0074】
このエレメンタリ・ループには、ストリーム毎に、パケット識別子(PID)などの情報が配置されると共に、そのエレメンタリストリームに関連する情報を記述するデスクリプタも配置される。なお、この構成例では、図面の簡単化のために、オーディオに関しては、その図示を省略している。
【0075】
この構成例では、「cropping_normal_interpretation_flag」のフラグ情報が、ビデオエレメンタリ・ループ(Video ES loop)に含まれる「AVC_video_descriptor」内に記述されている。
【0076】
図8(a)は、トランスポートストリームTSの他の構成例を示している。この構成例は、新規定義されるクロッピング・インタープリテーション・デスクリプタに、クロッピング情報のパラメータ値の解釈情報としての「cropping_normal_interpretation_flag」のフラグ情報が記述される例である。
【0077】
この構成例では、「cropping_normal_interpretation_flag」のフラグ情報が、ビデオエレメンタリ・ループ(Video ES loop)に挿入される「Cropping_interpretation_descriptor」内に記述されている。詳細説明は省略するが、この構成例におけるその他は、図7に示す構成例と同様である。
【0078】
なお、イベントごとにクロッピング情報のパラメータ値の解釈を変える場合、「Cropping_interpretation_descriptor」を、図8(b)に示すように、EITの配下に挿入することも考えられる。
【0079】
図9は、「AVC_video_descriptor」の構造例(Syntax)を示している。このデスクリプタ自体は、既にH.264/AVCの規格に入っている。ここでは、このデスクリプタに、「cropping_normal_interpretation_flag」の1ビットのフラグ情報が、新たに、定義される。
【0080】
このフラグ情報は、図10の規定内容(semantics)に示すように、GOPの先頭アクセスユニット内のSPS(SequenceParameter Set)で定義されるクロッピング情報のパラメータ値をそのまま適用するかどうか、換言すれば、このクロッピング情報のパラメータ値を特殊に解釈すべきかどうか、を示す。
【0081】
このフラグ情報が“0”であるとき、クロッピング情報のパラメータ値を特殊解釈すべきことを示す。このとき、受信機は、(frame_crop_right_offset - frame_crop_left_offset )がピクチャ(picture)の水平方向サイズ(horizontal_size)の1/2に一致する場合、以下の(1)あるいは(2)において、各々右辺を左辺に代入することで、クロッピングをする位置を設定し、それに基づいてクロッピング(cropping)を施すことになる。なお、(1)か(2)かは、例えば、(1)による解釈の値が、ピクチャサイズ(picture size)の範囲に収まるかどうかで判断可能である。
【0082】
(1) frame_crop_right_offset = frame_crop_right_offset * 2
(2) frame_crop_left_offset = 0
【0083】
また、このとき、受信機は、( frame_crop_bottom _offset - frame_crop_ top_offset )がピクチャ(picture)の垂直方向サイズ(vertical_size)の1/2に一致する場合、以下の(3)あるいは(4)において、各々右辺を左辺に代入することで、クロッピングをする位置を設定し、それに基づいてクロッピング(cropping)を施すことになる。なお、(3)か(4)かは、例えば、(3)による解釈の値が、ピクチャサイズ(picture size)の範囲に収まるかどうかで判断可能である。
【0084】
(3) frame_crop_bottom_offset = frame_crop_bottom_offset * 2
(4) frame_crop_top_offset = 0
【0085】
なお、受信機は、このようにフラグ情報が“0”であるが、上述のいずれにも当てはまらない場合は、SPSで定義されるクロッピング情報のパラメータ値そのままと解釈し、クロッピング(cropping)を施すことになる。
【0086】
また、このフラグ情報が“1”であるとき、受信機は、SPSで定義されるクロッピング情報のパラメータ値そのままと解釈し、クロッピング(cropping)を施すことになる。
【0087】
図11は、「Cropping_interpretation_descriptor」の構造例(Syntax)を示している。「descriptor_tag」の8ビットフィールドは、このデスクリプタが「Cropping_interpretation_descriptor」であることを示す。「descriptor_length」の8ビットフィールドは、以降のデータバイト数を示す。そして、このデスクリプタに、上述した「cropping_normal_interpretation_flag」の1ビットのフラグ情報が記述されている。
【0088】
図6に示す送信データ生成部110の動作を簡単に説明する。データ取り出し部111から順次出力される送信対象番組の画像データ(2次元画像データあるいは立体画像データ)は、ビデオエンコーダ112に供給される。このビデオエンコーダ112では、その画像データに対して、H.264/AVC(Advanced Video Coding)の符号化が施されて、符号化ビデオデータが得られる。また、このビデオエンコーダ112では、後段に備えるストリームフォーマッタ(図示せず)により、この符号化ビデオデータを含むビデオストリーム(ビデオエレメンタリストリーム)が生成される。
【0089】
この場合、ビデオエンコーダ112では、このビデオデータストリームのヘッダ部に、クロッピング情報が挿入される。すなわち、この場合、GOPの先頭のアクセスユニットに存在するSPS(Sequence Parameter Set)の部分に、クロッピング情報が挿入される(図2、図3参照)。また、このビデオエンコーダ112では、画像データが立体画像データである場合、アクセスユニットのSEIsの部分に、「Frame Packing Arrangement SEI message」が挿入される(図2参照)。このSEIには、画像データがいかなる伝送フォーマットの立体画像データであるかを示すタイプ情報が含まれている。
【0090】
また、データ取り出し部111から上述の送信対象番組の画像データが出力されるとき、このデータ取り出し部111からその画像データに対応した音声データも出力される。この音声データは、オーディオエンコーダ113に供給される。このオーディオエンコーダ113では、音声データに対して、MPEG−2Audio AAC等の符号化が施され、符号化オーディオデータを含むオーディオストリーム(オーディオエレメンタリストリーム)が生成される。
【0091】
ビデオエンコーダ112で生成されたビデオストリームはマルチプレクサ114に供給される。また、オーディエンコーダ113で生成されたオーディオストリームはマルチプレクサ114に供給される。マルチプレクサ114では、各エンコーダから供給されるエレメンタリストリームがパケット化されて多重化され、トランスポートストリーム(多重化データストリーム)TSが生成される。
【0092】
この場合、マルチプレクサ114では、ビデオデータストリームの上位レイヤに、クロッピング情報のパラメータ値の解釈情報が挿入される。この場合、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで、その切り替え後の画像データに対応した解釈情報が挿入される。この場合、解釈情報としての「cropping_normal_interpretation_flag」のフラグ情報が、例えば、プログラム・マップ・テーブルのビデオエレメンタリ・ループの配下に挿入されるデスクリプタ(descriptor)に記述される(図7、図8、図9、図11参照)。
【0093】
上述したように、図6に示す送信データ生成部110では、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報が挿入される。そのため、画像データが2次元画像データあるいは立体画像データのいずれであっても、受信側では、クロッピング情報のパラメータ値をこの解釈情報により適切に解釈でき、このクロッピング情報を用いた切り出し処理(クロッピング)を適切に行って表示用画像データを正しく生成できる。
【0094】
また、図6に示す送信データ生成部110では、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで、その切り替え後の画像データに対応した解釈情報が、ビデオストリームよりも上位のレイヤに挿入される。そのため、受信側では、2次元画像データおよび立体画像データの切り替えタイミングの前に、切り替え後の画像データに対応して変更された解釈情報を取得できる。したがって、切り換えタイミングから直ちに切り替え後の画像データに合ったクロッピング情報のパラメータ値の解釈で画像データの切り出し処理(クロッピング)を行うことができ、画像データの切り替えにより不自然な画像表示が行われることを回避できる。
【0095】
「受信機の構成例」
図12は、受信機(3DTV)200の構成例を示している。この受信機200は、CPU201と、フラッシュROM202と、DRAM203と、内部バス204と、リモートコントロール受信部(RC受信部)205と、リモートコントロール送信機(RC送信機)206を有している。
【0096】
また、この受信機200は、アンテナ端子210と、デジタルチューナ211と、デマルチプレクサ213と、ビデオデコーダ部214と、ビューバッファ217L,217Rと、オーディオデコーダ218と、チャネル処理部219を有している。
【0097】
CPU201は、受信機200の各部の動作を制御する。フラッシュROM202は、制御ソフトウェアの格納およびデータの保管を行う。DRAM203は、CPU201のワークエリアを構成する。CPU201は、フラッシュROM202から読み出したソフトウェアやデータをDRAM203上に展開してソフトウェアを起動させ、受信機200の各部を制御する。RC受信部205は、RC送信機206から送信されたリモーコントロール信号(リモコンコード)を受信し、CPU201に供給する。CPU201は、このリモコンコードに基づいて、受信機200の各部を制御する。CPU201、フラッシュROM202およびDRAM203は内部バス204に接続されている。
【0098】
アンテナ端子210は、受信アンテナ(図示せず)で受信されたテレビ放送信号を入力する端子である。デジタルチューナ211は、アンテナ端子210に入力されたテレビ放送信号を処理して、ユーザの選択チャネルに対応した所定のトランスポートストリームTSを出力する。
【0099】
トランスポートストリームTSは、上述したように、画像データを含むビデオストリームを有するものであって、ヘッダ部にクロッピング情報が挿入されている。ここで、画像データは、2次元画像データあるいは立体画像データである。また、このトランスポートストリームTSにおいて、上述したように、ビデオストリームよりも上位のレイヤに、クロッピング情報のパラメータ値の解釈情報としての「cropping_normal_interpretation_flag」のフラグ情報が挿入されている。
【0100】
上述したように、この解釈情報は、例えば、プログラム・マップ・テーブル、あるいはイベント・インフォメーション・テーブルの配下に挿入されるデスクリプタ内に記述されている。このデスクリプタは、例えば、既存のAVC・ビデオ・デスクリプタ、あるいは新規に定義されるクロッピング・インタープリテーション・デスクリプタでる。また、この場合、2次元画像データおよび立体画像データの切り替えタイミングに先行するタイミングで、その切り替え後の画像データに対応した解釈情報が、ビデオストリームよりも上位のレイヤに挿入されている。
【0101】
デマルチプレクサ213は、デジタルチューナ221から出力されるトランスポートストリームTSから、ビデオおよびオーディオの各ストリームを抽出する。また、デマルチプレクサ213は、このトランスポートストリームTSからプログラム・マップ・テーブル(PMT)等の情報を抽出し、その情報をCPU201に供給する。
【0102】
この情報には、上述したように、クロッピング情報のパラメータ値の解釈情報としての「cropping_normal_interpretation_flag」のフラグ情報も含まれている。CPU201は、このフラグ情報に基づいてクロッピング情報のパラメータ値の解釈を行って、復号化後の画像データからの画像データの切り出し処理(クロッピング)を制御する。
【0103】
ビデオデコーダ部214は、上述の送信データ生成部110のビデオエンコーダ112とは逆の処理を行う。すなわち、このビデオデコーダ214は、デマルチプレクサ213で抽出されたビデオストリームに含まれる符号化画像データに対して復号化処理を行って復号化された画像データを得る。
【0104】
上述したように、放送局100の送信データ生成部110では、16×16のブロック毎に符号化を行うため、ブランクデータからなる8ラインが付加されて、1920画素×1088ラインの画像データとして符号化が行われている。そのため、ビデオデコーダ部214は、復号化後の画像データとして、ブランクデータからなる8ラインが付加された1920画素×1088ラインの画像データを取得する。
【0105】
また、ビデオデコーダ部214は、ビデオデータストリームのヘッダ情報を抽出し、このヘッダ情報をCPU201に供給する。この場合、GOPの先頭アクセスユニットのSPSの部分にはクロッピング情報が含まれている。また、画像データが立体画像データである場合には、アクセスユニットのSEIsの部分に、そのタイプ情報を含む「Frame Packing Arrangement SEI message」が挿入されている。CPU201は、クロッピング情報およびSEIに基づいて、復号化後の画像データからの画像データの切り出し処理(クロッピング)を制御する。
【0106】
また、ビデオデコーダ部214は、復号化後の画像データから、CPU201の制御のもと、画像データの切り出し処理(クロッピング)を行い、適宜、スケーリングを行って、表示用の画像データを生成する。
【0107】
ビデオデコーダ部214は、画像データが2次元画像データである場合、以下の処理を行う。すなわち、ビデオデコーダ部214は、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データを切り出して、2次元画像表示用の画像データSVを生成する。
【0108】
また、ビデオデコーダ部214は、画像データが立体画像データであって、2次元表示モードにある場合、以下の処理を行う。すなわち、ビデオデコーダ部214は、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、左眼画像データあるいは右眼画像データを切り出す。さらに、ビデオデコーダ部214は、切り出した画像データにスケーリングを行って、2次元画像表示用の画像データSVを生成する(図4、図5の2D表示モード参照)。
【0109】
また、ビデオデコーダ部214は、画像データが立体画像データであって、立体表示モードにある場合、以下の処理を行う。すなわち、ビデオデコーダ部214は、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データを切り出す。
【0110】
さらに、ビデオデコーダ部214は、切り出した画像データを左右あるいは上下に二分し、それぞれにスケーリングを行って、立体画像表示用の左眼画像データSLおよび右眼画像データSRを生成する(図4、図5の3D表示モード参照)。この場合、サイド・バイ・サイド方式の立体画像データである場合には左右に二分し、トップ・アンド・ボトム方式の立体画像データである場合には上下に二分する。
【0111】
ビューバッファ217Lは、ビデオデコーダ部214で生成された、1920画素×1080ラインの、2次元画像データSVあるいは左眼画像データSLを一時的に蓄積し、表示ディスプレイなどの画像出力部に出力する。また、ビューバッファ217Rは、ビデオデコーダ部214で生成された1920画素×1080ラインの右眼画像データSRを一時的に蓄積し、表示ディスプレイなどの画像出力部に出力する。
【0112】
オーディオデコーダ218は、上述の送信データ生成部110のオーディオエンコーダ113とは逆の処理を行う。すなわち、このオーディオデコーダ218は、デマルチプレクサ213で抽出されたオーディオストリームに含まれる符号化音声データに対して復号化処理を行って復号化された音声データを得る。チャネル処理部219は、オーディオデコーダ218で得られる音声データに対して、例えば5.1chサラウンド等を実現するための各チャネルの音声データSAを生成し、スピーカなどの音声出力部に出力する。
【0113】
[クロッピング制御]
CPU201によるビデオデコーダ部214におけるクロッピング(画像データ切り出し処理)の制御について説明する。CPU201は、クロッピング情報、そのパラメータ値の解釈情報、さらには立体画像データのタイプ情報が含まれているSEIなどに基づいて、画像データ処理部216におけるクロッピング制御を行う。
【0114】
図13のフローチャートは、CPU201のクロッピング制御処理の一例を示している。CPU201は、ピクチャ毎に、このフローチャートの処理を実行する。CPU201は、ステップST1において、処理を開始し、その後に、ステップST2の処理に移る。このステップST2において、CPU201は、3D表示モードか否かを判断する。なお、ユーザは、RC送信機206を操作することで、3D表示モードあるいは2D表示モードの設定を行うことができる。
【0115】
3D表示モードであるとき、CPU201は、ステップST3において、クロッピング情報のパラメータ値の解釈情報である「cropping_normal_interpretation_flag」が“0”であるか否かを判断する。このフラグ情報は、画像データが立体画像データであり、かつ、2D互換性を考慮した3Dサービスの場合には“0”とされている。
【0116】
このフラグ情報が“0”であるとき、CPU201は、ステップST4において、「Frame Packing Arrangement SEI message」のSEIを検出したか否かを判断する。このSEIは、画像データが立体画像データである場合には存在する。このSEIを検出したとき、CPU201は、ステップST5において、(frame_crop_right_offset - frame_crop_left_offset )が、ピクチャ(picture)の水平方向サイズ(horizontal_size)の1/2に一致するか否かを判断する。
【0117】
サイド・バイ・サイド方式の立体画像データである場合には、このステップST5の条件を満足する。そのため、CPU201は、ステップST5の条件を満足するとき、ステップST6の処理に移る。このステップST6において、CPU201は、クロッピング領域が水平方向に2倍となるように、クロッピング情報を解釈して、クロッピングの制御処理を行う。
【0118】
この場合、CPU201は、元々のクロッピング情報で切り出される領域が左側半分であるか右側半分であるかにより、クロッピング情報のパラメータ値を以下のように変更する。すなわち、左側半分であるときは、「frame_crop_right_offset = frame_crop_right_offset * 2」と右辺を左辺に代入するかたちで解釈を行った上で、クロッピングの制御処理を行う。一方、右側半分であるときは、「frame_crop_left_offset = 0」と右辺を左辺に代入するかたちで解釈を行った上で、クロッピングの制御処理を行う。
【0119】
CPU201は、ステップST6の処理の後、ステップST7において、処理を終了する。
【0120】
また、CPU201は、ステップST5の条件を満足しないとき、ステップST8の処理に移る。このステップST8において、CPU201は、(frame_crop_bottom_offset - frame_crop_top_offset )が、ピクチャ(picture)の垂直方向サイズ(vertical_size)の1/2に一致するか否かを判断する。
【0121】
トップ・アンド・ボトム方式の立体画像データである場合には、このステップST8の条件を満足する。そのため、CPU201は、ステップST8の条件を満足するとき、ステップST9の処理に移る。このステップST9において、CPU201は、クロッピング領域が垂直方向に2倍となるように、クロッピング情報を解釈して、クロッピングの制御処理を行う。
【0122】
この場合、CPU201は、元々のクロッピング情報で切り出される領域が上側半分であるか下側半分であるかにより、クロッピング情報のパラメータ値を以下のように変更する。すなわち、上側半分であるときは、「frame_crop_bottom_offset = frame_crop_bottom_offset * 2」と右辺を左辺に代入するかたちで解釈を行った上で、クロッピングの制御処理を行う。一方、下側半分であるときは、「frame_crop_top_offset = 0」と右辺を左辺に代入するかたちで解釈を行った上で、クロッピングの制御処理を行う。
【0123】
CPU201は、ステップST9の処理の後、ステップST7において、処理を終了する。なお、該当するピクチャのフォーマットがサイド・バイ・サイドかトップ・アンド・ボトムかは、「Frame Packing Arrangement SEI」で分かることは言うまでもない。
【0124】
また、CPU201は、ステップST2で3D表示モードでないとき、ステップST3でフラグ情報が“1”であるとき、ステップST4でSEIの検出がなかったとき、さらには、ステップST8の条件を満足しないとき、ステップST10の処理に移る。このステップST10において、CPU201は、クロッピング情報のパラメータ値をそのままとして、クロッピングの制御処理を行う。CPU201は、このステップST10の処理の後、ステップST7において、処理を終了する。
【0125】
図14は、システムレイヤに挿入されるPMT配下のAVC・ビデオ・デスクリプタ(AVC_video_descriptor)に記述される「cropping_normal_interpretation_flag」のフラグ情報の運用時の一例を示している。MPEGでは、PMTの最大挿入サイクルは100msecである。そのため、PMTの挿入タイミングとビデオのフレームのタイミングとは必ずしも一致しない。なお、以下では、3D表示モードにあるとして、説明する。
【0126】
図示の例において、画像データは、タイミングTbで、2次元画像データから立体画像データに切り替えられている。この切り替え後の画像データに対応した「cropping_normal_interpretation_flag」のフラグ情報が記述されたAVC・ビデオ・デスクリプタは、タイミングTbに先行したタイミングTaで取得される。
【0127】
切り替え後の画像データが立体画像データであることから、このAVC・ビデオ・デスクリプタ(AVC_video_descriptor)において、「Frame_Packing_SEI_not_present_flag= 0」であり、「cropping_normal_interpretation_flag = 0」となっている。しかし、画像データは、タイミングTbとなるまでは、2次元画像データであって、「Frame Packing Arrangement SEI message」のSEIが検出されることはない。
【0128】
つまり、CPU201は、「cropping_normal_interpretation_flag = 0」のフラグ情報が取得されたとしても、タイミングTbまでは、クロッピング情報のパラメータ値を特殊解釈することはなく、そのままの値に解釈し、クロッピングの制御処理を行う。そのため、タイミングTbまでは、画像データ処理部216で、2次元画像表示用の画像データSVが正しく生成される。
【0129】
タイミングTbとなると、「Frame Packing Arrangement SEI message」のSEIが検出される。図示の例では、このSEIに含まれる立体画像データのタイプ情報が「3」とされており、サイド・バイ・サイド方式の立体画像データであることが分かる。CPU201は、このタイミングTbからクロッピング情報のパラメータ値を特殊解釈し、クロッピングの制御処理を行う。そのため、タイミングTbから、画像データ処理部216で、立体画像表示用の画像データSL,SRが正しく生成される。
【0130】
同様に、図示の例において、画像データは、タイミングTdで、立体画像データから2次元画像データに切り替えられている。この切り替え後の画像データに対応した「cropping_normal_interpretation_flag」のフラグ情報が記述されたAVC・ビデオ・デスクリプタは、タイミングTdに先行したタイミングTcで取得される。
【0131】
切り替え後の画像データが2次元画像データであることから、このAVC・ビデオ・デスクリプタ(AVC_video_descriptor)において、「Frame_Packing_SEI_not_present_flag= 1」であり、「cropping_normal_interpretation_flag = 1」となっている。しかし、画像データは、タイミングTdとなるまでは、立体画像データであって、「Frame Packing Arrangement SEI message」のSEIが検出される。
【0132】
つまり、CPU201は、「cropping_normal_interpretation_flag = 1」のフラグ情報が取得されたとしても、タイミングTdまでは、クロッピング情報のパラメータ値を特殊解釈することを継続し、クロッピングの制御処理を行う。そのため、タイミングTdまでは、画像データ処理部216で、立体画像表示用の画像データSL,SRが正しく生成される。これは、前の状態において、「cropping_normal_interpretation_flag=0 であったことを受信機において記憶しておくことで可能となる。
【0133】
一方、図14において、チャンネル切り替えがTdのタイミングで起こった場合にも正しい表示を行うために、「cropping_normal_interpretation_flag」を常に“0”としておき、クロッピング情報のパラメータ値の解釈を受信機側に行わせることで、表示範囲を決定させることが可能である。
【0134】
サイド・バイ・サイド方式の立体画像データである場合には、受信機側に、以下のような解釈を行わせる。すなわち、切り出し領域が左側半分であると判断できる場合には、「frame_crop_right_offset = frame_crop_right_offset * 2」と右辺を左辺に代入するかたちで解釈を行わせる。また、切り出し領域が右側半分であると判断できる場合には、「frame_crop_left_offset = 0」と右辺を左辺に代入するかたちで解釈を行わせる。
【0135】
また、トップ・アンド・ボトム方式の立体画像データである場合には、受信機側に、以下のような解釈を行わせる。すなわち、切り出し領域が上側半分であると判断できる場合には、「frame_crop_bottom_offset = frame_crop_bottom_offset * 2」と右辺を左辺に代入するかたちで解釈を行わせる。また、切り出し領域が下側半分であるとであると判断できる場合には、「frame_crop_top_offset = 0」と右辺を左辺に代入するかたちで解釈を行わせる。
【0136】
あるいは、イベントごとにクロッピング情報のパラメータ値の解釈を設定する場合には、上述の図8(b)のような配置、すなわち「Cropping_interpretation_descriptor」をEITの配下に挿入することで実現可能である。
【0137】
タイミングTdとなると、「Frame Packing Arrangement SEI message」のSEIが検出されなくなる。CPU201は、このタイミングTdからクロッピング情報のパラメータ値をそのままに解釈し、クロッピングの制御処理を行う。そのため、タイミングTdから、画像データ処理部216で、2次元画像表示用の画像データSVが正しく生成される。
【0138】
受信機200の動作を簡単に説明する。アンテナ端子210に入力されたテレビ放送信号はデジタルチューナ211に供給される。このデジタルチューナ211では、テレビ放送信号が処理されて、ユーザの選択チャネルに対応した所定のトランスポートストリームTSが出力される。
【0139】
デマルチプレクサ213では、デジタルチューナ211で得られるトランスポートストリームTSから、ビデオおよびオーディオの各エレメンタリストリームが抽出される。また、デマルチプレクサ213では、トランスポートストリームTSからプログラム・マップ・テーブル(PMT)等の情報が抽出され、その情報はCPU201に供給される。この情報には、クロッピング情報のパラメータ値の解釈情報としての「cropping_normal_interpretation_flag」のフラグ情報も含まれている。
【0140】
デマルチプレクサ213で抽出されるビデオストリームは、ビデオデコーダ部214に供給される。このビデオデコーダ部214では、ビデオストリームに含まれる符号化画像データに対して復号化処理が行われ、復号化された画像データ(2次元画像データあるいは立体画像データ)が得られる。この画像データは、ブランクデータからなる8ラインが付加された1920画素×1088ラインの画像データである。また、ビデオデコーダ部214では、ビデオデータストリームのヘッダ情報が抽出され、このヘッダ情報はCPU201に供給される。このヘッダ情報には、クロッピング情報や「Frame Packing Arrangement SEI message」のSEIも含まれている。
【0141】
CPU201により、クロッピング情報、そのパラメータ値の解釈情報、さらには立体画像データのタイプ情報が含まれているSEIなどに基づいて、ビデオデコーダ部214に対するクロッピング制御が行われる。この場合、CPU201では、画像データが2次元画像データであるときは、クロッピング情報のパラメータ値をそのままに解釈することが行われる。
【0142】
また、CPU201では、2D表示モードにあって、画像データが立体画像データであるときは、クロッピング情報のパラメータ値をそのままに解釈することが行われる。さらに、CPU201では、3D表示モードにあって、画像データが立体画像データであるときは、クロッピング領域が水平方向あるいは垂直方向に2倍となるように、クロッピング情報を解釈することが行われる。
【0143】
ビデオデコーダ部214では、復号化後の画像データから、CPU201の制御のもと、解釈されたクロッピング情報に基づいて画像データの切り出し処理(クロッピング)が行われる。さらに、ビデオデコーダ部214では、切り出された画像データに対して、適宜、スケーリングが行われて、表示用の画像データが生成される。
【0144】
ここで、画像データが2次元画像データである場合、ビデオデコーダ部214では、以下の処理が行われる。すなわち、ビデオデコーダ部214では、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データが切り出されて、2次元画像表示用の画像データSVが生成される。
【0145】
また、画像データが立体画像データであって、2次元表示モードにある場合、ビデオデコーダ部214では、以下の処理が行われる。すなわち、ビデオデコーダ部214では、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、左眼画像データあるいは右眼画像データが切り出される。さらに、ビデオデコーダ部214では、切り出された画像データにスケーリングが行われて、2次元画像表示用の画像データSVが生成される。
【0146】
また、画像データが立体画像データであって、立体表示モードにある場合、ビデオデコーダ部214では、以下の処理が行われる。すなわち、ビデオデコーダ部214では、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データが切り出される。さらに、ビデオデコーダ部214では、切り出された画像データが左右あるいは上下に二分され、それぞれにスケーリングが行われて、立体画像表示用の左眼画像データSLおよび右眼画像データSRが生成される。
【0147】
ビデオデコーダ部214で生成された2次元画像表示用の画像データSV、あるいは立体画像表示用の左眼画像データSLは、ビューバッファ217Lを通じて、表示ディスプレイなどの画像出力部に出力される。また、ビデオデコーダ部214で生成された立体画像表示用の右眼画像データSRは、ビューバッファ217Rを通じて、表示ディスプレイなどの画像出力部に出力される。
【0148】
また、デマルチプレクサ213で抽出されたオーディオストリームは、オーディオデコーダ218に供給される。このオーディオデコーダ218では、オーディオストリームに含まれる符号化音声データに対して復号化処理が行われて、復号化された音声データが得られる。この音声データは、チャネル処理部219に供給される。チャネル処理部219では、その音声データに対して、例えば5.1chサラウンド等を実現するための各チャネルの音声データSAが生成される。この音声データSAは、スピーカなどの音声出力部に出力される。
【0149】
上述したように、図12に示す受信装置200において、CPU201では、ビデオストリームよりも上位のレイヤに挿入されているクロッピング情報のパラメータ値の解釈情報に基づいて、ビデオストリームのヘッダ部に挿入されたクロッピング情報が適切に解釈される。そして、その解釈結果に基づいて、CPU201により、画像データ処理部216における画像データの切り出し処理(クロッピング)が制御される。したがって、画像データが2次元画像データあるいは立体画像データのいずれであっても、画像データ処理部216では、画像データの切り出し処理を適切に行うことができ、表示用画像データを正しく生成できる。
【0150】
また、図12に示す受信機200において、CPU201では、画像データの切り替えタイミングに先行して、切り替え後の画像データに対応して変更された解釈情報が取得される。しかし、この解釈情報によるクロッピング情報のパラメータ値の解釈の反映は、実際に画像データが切り替わった直後から行われる。したがって、切り換えタイミングから直ちに切り替え後の画像データに合ったクロッピング情報のパラメータ値の解釈で画像データの切り出しを適切に行うことができる。また、解釈情報の取得が画像データの切り替えタイミングに同期していなくても、不自然な画像表示が行われることを回避できる。
【0151】
ここで、図1に示す画像送受信システム10における放送局100からのトランスポートストリームTsを、レガシーの2D受信機(2DTV)が受信する場合について説明する。この場合、レガシーの2D受信機は、ビデオストリームよりも上位のレイヤに挿入されるクロッピング情報のパラメータ値の解釈情報を読み飛ばすこととなる。そのため、この解釈情報が2D受信機におけるクロッピングの処理に影響を与えることはない。
【0152】
<2.変形例>
なお、上述実施の形態においては、プログラム・マップ・テーブルのビデオエレメンタリ・ループの配下に挿入されるデスクリプタ(descriptor)に、「cropping_normal_interpretation_flag」のフラグ情報を解釈情報として記述する例を示した。このフラグ情報の代わりに、以下に詳述する「cropping_interpretation_mode」のモード情報を、解釈情報として、デスクリプタに記述することも考えられる。
【0153】
図15は、トランスポートストリームTSの構成例を示している。この構成例は、既存のAVC・ビデオ・デスクリプタに、クロッピング情報のパラメータ値の解釈情報としての「cropping_interpretation_mode」のモード情報が記述される例である。
【0154】
この構成例では、ビデオストリームのPESパケット「Video PES」が含まれている。このビデオストリームには、含まれる画像データが立体画像データである場合には、上述したように、そのアクセスユニットのSEIsの部分に、「Frame Packing Arrangement SEI message」が挿入されている。このSEIには、画像データがいかなる伝送フォーマットの立体画像データであるかを示すタイプ情報が含まれている。
【0155】
トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(ProgramMap Table)が含まれている。このPSIは、トランスポートストリームに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。また、トランスポートストリームには、イベント単位の管理を行うSI(Serviced Information)としてのEIT(EventInformation Table)が含まれている。
【0156】
PMTには、プログラム全体に関連する情報を記述するプログラム・デスクリプタ(Program Descriptor)が存在する。また、このPMTには、各エレメンタリストリームに関連した情報を持つエレメンタリ・ループが存在する。この構成例では、ビデオエレメンタリ・ループ(Video ES loop)が存在する。
【0157】
このエレメンタリ・ループには、ストリーム毎に、パケット識別子(PID)などの情報が配置されると共に、そのエレメンタリストリームに関連する情報を記述するデスクリプタも配置される。なお、この構成例では、図面の簡単化のために、オーディオに関しては、その図示を省略している。
【0158】
この構成例では、「cropping_interpretation_mode」のモード情報が、ビデオエレメンタリ・ループ(Video ES loop)に含まれる「AVC_video_descriptor」内に記述されている。
【0159】
図16(a)は、トランスポートストリームTSの他の構成例を示している。この構成例は、新規定義されるクロッピング・インタープリテーション・デスクリプタに、クロッピング情報のパラメータ値の解釈情報としての「cropping_interpretation_mode」のモード情報が記述される例である。
【0160】
この構成例では、「cropping_interpretation_mode」のモード情報が、ビデオエレメンタリ・ループ(Video ES loop)に挿入される「Cropping_interpretation_descriptor」内に記述されている。詳細説明は省略するが、この構成例におけるその他は、図15に示す構成例と同様である。
【0161】
なお、イベントごとにクロッピング情報のパラメータ値の解釈を変える場合、「Cropping_interpretation_descriptor」を、図16(b)に示すように、EITの配下に挿入することも考えられる。
【0162】
図17は、「AVC_video_descriptor」の構造例(Syntax)を示している。このデスクリプタ自体は、既にH.264/AVCの規格に入っている。ここでは、このデスクリプタに、「cropping_interpretation_mode」の2ビットのモード情報が、新たに、定義される。
【0163】
このモード情報は、図18の規定内容(semantics)に示すように、GOPの先頭アクセスユニット内のSPS(SequenceParameter Set)で定義されるクロッピング情報のパラメータ値の解釈を指定する。01”であるとき、frame_crop_right_offsetの値を2倍に解釈することを指定する。これは、サイド・バイ・サイド方式の立体画像データに向けたものである。また、“10”であるとき、frame_crop_bottom_offsetの値を2倍に解釈することを指定する。これは、トップ・アンド・ボトム方式の立体画像データに向けたものである。さらに、“11”であるとき、クロッピング情報のパラメータ値をそのままに解釈することを指定する。
【0164】
図19は、「Cropping_interpretation_descriptor」の構造例(Syntax)を示している。「descriptor_tag」の8ビットフィールドは、このデスクリプタが「Cropping_interpretation_descriptor」であることを示す。「descriptor_length」の8ビットフィールドは、以降のデータバイト数を示す。そして、このデスクリプタに、上述した「cropping_interpretation_mode」の2ビットのモード情報が記述されている。
【0165】
受信機200の画像データ処理部216では、CPU201の制御のもと、「cropping_normal_interpretation_flag」のフラグ情報の代わりに、「cropping_interpretation_mode」のモード情報を使用した場合であっても、同様の処理が行われる。
【0166】
すなわち、画像データが2次元画像データである場合、画像データ処理部216では、以下の処理が行われる。すなわち、画像データ処理部216では、DOバッファ215に蓄積されている復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データが切り出されて、2次元画像表示用の画像データSVが生成される。
【0167】
また、画像データが立体画像データであって、2次元表示モードにある場合、画像データ処理部216では、以下の処理が行われる。すなわち、画像データ処理部216では、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データのうち、左眼画像データあるいは右眼画像データが切り出される。そして、画像データ処理部216では、切り出された画像データにスケーリングが行われて、2次元画像表示用の画像データSVが生成される。
【0168】
また、画像データが立体画像データであって、立体表示モードにある場合、画像データ処理部216では、以下の処理が行われる。すなわち、画像データ処理部216では、復号化後の1920画素×1088ラインの画像データから、実質的な画像データが含まれる1920画素×1080ラインの画像データが切り出される。そして、画像データ処理部216では、切り出された画像データが左右あるいは上下に二分され、それぞれにスケーリングが行われて、立体画像表示用の左眼画像データSLおよび右眼画像データSRが生成される。
【0169】
図20のフローチャートは、「cropping_interpretation_mode」のモード情報を使用する場合における、CPU201のクロッピング制御処理の一例を示している。CPU201は、ピクチャ毎に、このフローチャートの処理を実行する。CPU201は、ステップST11において、処理を開始し、その後に、ステップST12の処理に移る。このステップST12において、CPU201は、3D表示モードか否かを判断する。なお、ユーザは、RC送信機206を操作することで、3D表示モードあるいは2D表示モードの設定を行うことができる。
【0170】
3D表示モードであるとき、CPU201は、ステップST13において、「cropping_interpretation_mode」のモード情報が“01”であるか否かを判断する。このモード情報が“01”であるとき、CPU201は、ステップST14において、「Frame Packing Arrangement SEI message」のSEIを検出したか否かを判断する。このSEIは、画像データが立体画像データである場合には存在する。このSEIを検出したとき、CPU201は、ステップST15において、(frame_crop_right_offset - frame_crop_left_offset )が、ピクチャ(picture)の水平方向サイズ(horizontal_size)の1/2に一致するか否かを判断する。
【0171】
サイド・バイ・サイド方式の立体画像データである場合には、このステップST15の条件を満足する。そのため、CPU201は、ステップST15の条件を満足するとき、ステップST16の処理に移る。このステップST16において、CPU201は、クロッピング領域が水平方向に2倍となるように、クロッピング情報を解釈して、クロッピングの制御処理を行う。
【0172】
この場合、CPU201は、元々のクロッピング情報で切り出される領域が左側半分であるか右側半分であるかにより、クロッピング情報のパラメータ値を以下のように変更する。すなわち、左側半分であるときは、「frame_crop_right_offset = frame_crop_right_offset * 2」として、クロッピングの制御処理を行う。一方、右側半分であるときは、「frame_crop_left_offset = 0」として、クロッピングの制御処理を行う。
【0173】
CPU201は、ステップST16の処理の後、ステップST17において、処理を終了する。
【0174】
また、CPU201は、ステップST12で3D表示モードでないとき、ステップST14でSEIの検出がなかったとき、さらには、ステップST15の条件を満足しないとき、ステップST18の処理に移る。このステップST18において、CPU201は、クロッピング情報のパラメータ値をそのままとして、クロッピングの制御処理を行う。CPU201は、このステップST18の処理の後、ステップST17において、処理を終了する。
【0175】
また、CPU201は、ステップST13でモード情報が“01”でないとき、ステップST19の処理に移る。このステップST19において、CPU201は、「cropping_interpretation_mode」のモード情報が“10”であるか否かを判断する。このモード情報が“10”であるとき、CPU201は、ステップST20において、「Frame Packing Arrangement SEI message」のSEIを検出したか否かを判断する。
【0176】
このSEIは、画像データが立体画像データである場合には存在する。このSEIを検出したとき、CPU201は、ステップST21において、 (frame_crop_bottom_offset - frame_crop_top_offset )が、ピクチャ(picture)の垂直方向サイズ(vertical_size)の1/2に一致するか否かを判断する。
【0177】
トップ・アンド・ボトム方式の立体画像データである場合には、このステップST21の条件を満足する。そのため、CPU201は、ステップST21の条件を満足するとき、ステップST22の処理に移る。このステップST22において、CPU201は、クロッピング領域が垂直方向に2倍となるように、クロッピング情報を解釈して、クロッピングの制御処理を行う。
【0178】
この場合、CPU201は、元々のクロッピング情報で切り出される領域が上側半分であるか下側半分であるかにより、クロッピング情報のパラメータ値を以下のように変更する。すなわち、上側半分であるときは、「frame_crop_bottom_offset = frame_crop_bottom_offset * 2」として、クロッピングの制御処理を行う。一方、下側半分であるときは、「frame_crop_top_offset = 0」として、クロッピングの制御処理を行う。
【0179】
CPU201は、ステップST22の処理の後、ステップST17において、処理を終了する。
【0180】
また、CPU201は、ステップST19でモード情報が“10”でないとき、ステップST20でSEIの検出がなかったとき、さらには、ステップST21の条件を満足しないとき、ステップST18の処理に移る。このステップST18において、CPU201は、クロッピング情報のパラメータ値をそのままとして、クロッピングの制御処理を行う。CPU201は、このステップST18の処理の後、ステップST17において、処理を終了する。
【0181】
図21は、システムレイヤに挿入されるPMT配下のAVC・ビデオ・デスクリプタ(AVC_video_descriptor)に記述される「cropping_interpretation_mode」のモード情報の運用時の一例を示している。MPEGでは、PMTの最大挿入サイクルは100msecである。そのため、PMTの挿入タイミングとビデオのフレームのタイミングとは必ずしも一致しない。なお、以下では、3D表示モードにあるとして、説明する。
【0182】
図示の例において、画像データは、タイミングTbで、2次元画像データから立体画像データに切り替えられている。この切り替え後の画像データに対応した「cropping_interpretation_mode」のモード情報が記述されたAVC・ビデオ・デスクリプタは、タイミングTbに先行したタイミングTaで取得される。
【0183】
切り替え後の画像データが立体画像データであることから、このAVC・ビデオ・デスクリプタ(AVC_video_descriptor)において、「Frame_Packing_SEI_not_present_flag= 0」であり、「cropping_interpretation_mode = 01」となっている。しかし、画像データは、タイミングTbとなるまでは、2次元画像データであって、「Frame Packing Arrangement SEI message」のSEIが検出されることはない。
【0184】
つまり、CPU201は、「cropping_interpretation_mode = 01」のモード情報が取得されたとしても、タイミングTbまでは、frame_crop_right_offset の値を2倍に解釈するということはせず、そのままの値に解釈し、クロッピングの制御処理を行う。そのため、タイミングTbまでは、画像データ処理部216で、2次元画像表示用の画像データSVが正しく生成される。
【0185】
タイミングTbとなると、「Frame Packing Arrangement SEI message」のSEIが検出される。図示の例では、このSEIに含まれる立体画像データのタイプ情報が「3」とされており、サイド・バイ・サイド方式の立体画像データであることが分かる。CPU201は、このタイミングTbから、frame_crop_right_offset の値を2倍に解釈し、クロッピングの制御処理を行う。そのため、タイミングTbから、画像データ処理部216で、立体画像表示用の画像データSL,SRが正しく生成される。
【0186】
同様に、図示の例において、画像データは、タイミングTdで、立体画像データから2次元画像データに切り替えられている。この切り替え後の画像データに対応した「cropping_interpretation_mode」のモード情報が記述されたAVC・ビデオ・デスクリプタは、タイミングTdに先行したタイミングTcで取得される。
【0187】
切り替え後の画像データが2次元画像データであることから、このAVC・ビデオ・デスクリプタ(AVC_video_descriptor)において、「Frame_Packing_SEI_not_present_flag= 1」であり、「cropping_interpretation_mode = 11」となっている。しかし、画像データは、タイミングTdとなるまでは、立体画像データであって、「Frame PackingArrangement SEI message」のSEIが検出される。
【0188】
つまり、CPU201は、「cropping_interpretation_mode = 11」のフラグ情報が取得されたとしても、タイミングTdまでは、frame_crop_right_offset の値を2倍に解釈することを継続し、クロッピングの制御処理を行う。そのため、タイミングTdまでは、画像データ処理部216で、立体画像表示用の画像データSL,SRが正しく生成される。これは、前の状態において、「cropping_interpretation_mode」が“01”あるいは“10”であったことを受信機において記憶しておくことで可能となる。
【0189】
一方、図21において、チャンネル切り替えがTdのタイミングで起こった場合にも正しい表示を行うために、「cropping_interpretation_mode」を常に“01”あるいは“10”としておき、クロッピング情報のパラメータ値の解釈を受信機側に行わせることで、表示範囲を決定させることが可能である。
【0190】
サイド・バイ・サイド方式の立体画像データである場合には、受信機側に、以下のような解釈を行わせる。すなわち、切り出し領域が左側半分であると判断できる場合には、「frame_crop_right_offset = frame_crop_right_offset * 2」と右辺を左辺に代入するかたちで解釈を行わせる。また、切り出し領域が右側半分であると判断できる場合には、「frame_crop_left_offset = 0」と右辺を左辺に代入するかたちで解釈を行わせる。
【0191】
また、トップ・アンド・ボトム方式の立体画像データである場合には、受信機側に、以下のような解釈を行わせる。すなわち、切り出し領域が上側半分であると判断できる場合には、「frame_crop_bottom_offset = frame_crop_bottom_offset * 2」と右辺を左辺に代入するかたちで解釈を行わせる。また、切り出し領域が下側半分であると判断できる場合には、「frame_crop_top_offset = 0」と右辺を左辺に代入するかたちで解釈を行わせる。
【0192】
あるいは、イベントごとにクロッピング情報のパラメータ値の解釈を設定する場合には、上述の図16(b)のような配置、すなわち「Cropping_interpretation_descriptor」をEITの配下に挿入することで実現可能である。
【0193】
タイミングTdとなると、「Frame Packing Arrangement SEI message」のSEIが検出されなくなる。CPU201は、このタイミングTdからクロッピング情報のパラメータ値をそのままに解釈し、クロッピングの制御処理を行う。そのため、タイミングTdから、画像データ処理部216で、2次元画像表示用の画像データSVが正しく生成される。
【0194】
このように、「cropping_interpretation_mode」のモード情報を、解釈情報としてデスクリプタに記述する場合にあっても、受信機200においては、上述実施の形態と同様の動作が可能となる。つまり、この場合にあっても、上述実施の形態と同様の効果を得ることができる。
【0195】
また、上述実施例においては、画像データに対してH.264/AVCの符号化を施す例を示した。しかし、画像データに対して、例えば、MPEG2videoなどのその他の符号化が施されるものであってもよい。また、画像データに対して、例えば、HEVC (High Efficiency Video Coding )などのその他の符号化が施されるものであってもよい。MPEG2videoの符号化の場合には、立体画像データのタイプ情報は、例えばピクチャヘッダに挿入されている。
【0196】
また、上述実施の形態においては、放送局100と受信機200からなる画像送受信システム10を示したが、本技術を適用し得る画像送受信システムの構成は、これに限定されるものではない。例えば、受信機200の部分が、例えば、HDMI(High-Definition Multimedia Interface)などのデジタルインタフェースで接続されたセットトップボックスおよびモニタの構成などであってもよい。
【0197】
また、上述実施の形態においては、コンテナがトランスポートストリーム(MPEG−2 TS)である例を示した。しかし、本技術は、インターネット等のネットワークを利用して受信端末に配信される構成のシステムにも同様に適用できる。インターネットの配信では、MP4やそれ以外のフォーマットのコンテナで配信されることが多い。つまり、コンテナとしては、デジタル放送規格で採用されているトランスポートストリーム(MPEG−2 TS)、インターネット配信で使用されているMP4などの種々のフォーマットのコンテナが該当する。
【0198】
また、本技術は、以下のような構成を取ることもできる。
(1)画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを送信する画像データ送信部と、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入する情報挿入部を備える
画像データ送信装置。
(2)上記解釈情報は、
上記画像データが、同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであるとき、
上記クロッピング情報のパラメータ値を特殊に解釈すべきことを示す
前記(1)に記載の画像データ送信装置。
(3)上記解釈情報は、
上記クロッピング情報のパラメータ値を、クロッピング領域が水平方向あるいは垂直方向に2倍となるように解釈すべきことを示す
前記(2)に記載の画像データ送信装置。
(4)上記画像データは、2次元画像データあるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであり、
上記情報挿入部は、
上記2次元画像データおよび上記立体画像データの切り替えタイミングに先行するタイミングで、切り替え後の画像データに対応して変更された上記解釈情報を、上記ビデオストリームよりも上位のレイヤに挿入する
前記(1)から(3)のいずれかに記載の画像データ送信装置。
(5)上記コンテナは、トランスポートストリームであり、
上記情報挿入部は、
上記解釈情報をプログラム・マップ・テーブル、あるいは、イベント・インフォメーション・テーブルの配下に挿入する
前記(1)から(4)のいずれかに記載の画像データ送信装置。
(6)上記情報挿入部は、
上記プログラム・マップ・テーブル、あるいは、イベント・インフォメーション・テーブルの配下に挿入されるデスクリプタに、上記解釈情報を記述する
前記(5)に記載の画像データ送信装置。
(7)上記ビデオストリームは、H.264/AVC、あるいはHEVCの符号化データであり、
上記クロッピング情報は、上記ビデオストリームのシーケンス・パラメータ・セットに定義されており、
上記情報挿入部は、
上記解釈情報を、上記プログラム・マップ・テーブル、あるいは、イベント・インフォメーション・テーブルの配下に挿入されるデスクリプタに記述する
前記(6)に記載の画像データ送信装置。
(8)画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを送信する画像データ送信ステップと、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入する情報挿入ステップを備える
画像データ送信方法。
(9)画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを受信する画像データ受信部を備え、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報が挿入されており、
上記コンテナから上記解釈情報を取得する情報取得部と、
上記コンテナが有するビデオストリームをデコードして上記画像データおよびクロッピング情報を取得するデコード部と、
上記クロッピング情報のパラメータ値を上記解釈情報に基づいて解釈し、上記画像データから、所定の領域の画像データを切り出して表示用の画像データを生成する画像データ処理部とをさらに備える
画像データ受信装置。
(10)上記画像データは、2次元画像データあるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであり、
切り替え後の画像データに対応して変更された上記解釈情報は、上記ビデオストリームよりも上位のレイヤに、上記2次元画像データおよび上記立体画像データの切り替えタイミングに先行するタイミングで挿入されており、
上記画像データ処理部は、
画像データの上記切り替えタイミングから、該切り替えタイミングに先行するタイミングで挿入されている、上記切り替え後の画像データに対応して変更された上記解釈情報に基づいて、上記クロッピング情報のパラメータ値を解釈する
前記(10)に記載の画像データ受信装置。
(11)画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを受信する画像データ受信ステップを備え、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入されており、
上記コンテナから上記解釈情報を取得する情報取得ステップと、
上記コンテナが有するビデオストリームをデコードして上記画像データおよびクロッピング情報を取得するデコードステップと、
上記クロッピング情報のパラメータ値を上記解釈情報に基づいて解釈し、上記画像データから、所定の領域の画像データを切り出して表示用の画像データを生成する画像データ処理ステップとをさらに備える
画像データ受信方法。
【0199】
本技術の主な特徴は、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのトランスポートストリーム(コンテナ)を送信する際に、ビデオストリームよりも上位のレイヤにクロッピング情報のパラメータ値の解釈情報を挿入するようにしたことで、受信側におけるクリッピング情報を用いた画像データの切り出し処理(クロッピング)が常に適切に行われるようにしたことである(図4、図5参照)
【符号の説明】
【0200】
10・・・画像送受信システム
100・・・放送局
110・・・送信データ生成部
111・・・データ取り出し部
111a・・・データ記録媒体
112・・・ビデオエンコーダ
113・・・オーディオエンコーダ
114・・・マルチプレクサ
200・・・受信機
201・・・CPU
202・・・フラッシュROM
203・・・DRAM
204・・・内部バス
205・・・リモートコントロール受信部(RC受信部)
206・・・リモートコントロール送信機(RC送信機)
210・・・アンテナ端子
211・・・デジタルチューナ
213・・・デマルチプレクサ
214・・・ビデオデコーダ部
217L,217R・・・ビューバッファ
218・・・オーディオデコーダ
219・・・チャネル処理部

【特許請求の範囲】
【請求項1】
画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを送信する画像データ送信部と、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入する情報挿入部を備える
画像データ送信装置。
【請求項2】
上記解釈情報は、
上記画像データが、同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであるとき、
上記クロッピング情報のパラメータ値を特殊に解釈すべきことを示す
請求項1に記載の画像データ送信装置。
【請求項3】
上記解釈情報は、
上記クロッピング情報のパラメータ値を、クロッピング領域が水平方向あるいは垂直方向に2倍となるように解釈すべきことを示す
請求項2に記載の画像データ送信装置。
【請求項4】
上記画像データは、2次元画像データあるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであり、
上記情報挿入部は、
上記2次元画像データおよび上記立体画像データの切り替えタイミングに先行するタイミングで、切り替え後の画像データに対応して変更された上記解釈情報を、上記ビデオストリームよりも上位のレイヤに挿入する
請求項1に記載の画像データ送信装置。
【請求項5】
上記コンテナは、トランスポートストリームであり、
上記情報挿入部は、
上記解釈情報をプログラム・マップ・テーブル、あるいは、イベント・インフォメーション・テーブルの配下に挿入する
請求項1に記載の画像データ送信装置。
【請求項6】
上記情報挿入部は、
上記プログラム・マップ・テーブル、あるいは、イベント・インフォメーション・テーブルの配下に挿入されるデスクリプタに、上記解釈情報を記述する
請求項5に記載の画像データ送信装置。
【請求項7】
上記ビデオストリームは、H.264/AVC、あるいはHEVCの符号化データであり、
上記クロッピング情報は、上記ビデオストリームのシーケンス・パラメータ・セットに定義されており、
上記情報挿入部は、
上記解釈情報を、上記プログラム・マップ・テーブル、あるいは、イベント・インフォメーション・テーブルの配下に挿入されるデスクリプタに記述する
請求項6に記載の画像データ送信装置。
【請求項8】
画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを送信する画像データ送信ステップと、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入する情報挿入ステップを備える
画像データ送信方法。
【請求項9】
画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを受信する画像データ受信部を備え、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報が挿入されており、
上記コンテナから上記解釈情報を取得する情報取得部と、
上記コンテナが有するビデオストリームをデコードして上記画像データおよびクロッピング情報を取得するデコード部と、
上記クロッピング情報のパラメータ値を上記解釈情報に基づいて解釈し、上記画像データから、所定の領域の画像データを切り出して表示用の画像データを生成する画像データ処理部とをさらに備える
画像データ受信装置。
【請求項10】
上記画像データは、2次元画像データあるいは同一フレーム内に左眼画像データおよび右眼画像データが水平方向あるいは垂直方向に分割配置された立体画像データであり、
切り替え後の画像データに対応して変更された上記解釈情報は、上記ビデオストリームよりも上位のレイヤに、上記2次元画像データおよび上記立体画像データの切り替えタイミングに先行するタイミングで挿入されており、
上記画像データ処理部は、
画像データの上記切り替えタイミングから、該切り替えタイミングに先行するタイミングで挿入されている、上記切り替え後の画像データに対応して変更された上記解釈情報に基づいて、上記クロッピング情報のパラメータ値を解釈する
請求項9に記載の画像データ受信装置。
【請求項11】
画像データを含み、ヘッダ部にクロッピング情報が挿入されたビデオストリームを有する所定フォーマットのコンテナを受信する画像データ受信ステップを備え、
上記ビデオストリームよりも上位のレイヤに、上記クロッピング情報のパラメータ値の解釈情報を挿入されており、
上記コンテナから上記解釈情報を取得する情報取得ステップと、
上記コンテナが有するビデオストリームをデコードして上記画像データおよびクロッピング情報を取得するデコードステップと、
上記クロッピング情報のパラメータ値を上記解釈情報に基づいて解釈し、上記画像データから、所定の領域の画像データを切り出して表示用の画像データを生成する画像データ処理ステップとをさらに備える
画像データ受信方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate


【公開番号】特開2013−110540(P2013−110540A)
【公開日】平成25年6月6日(2013.6.6)
【国際特許分類】
【出願番号】特願2011−253350(P2011−253350)
【出願日】平成23年11月18日(2011.11.18)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】