説明

画像処理装置、画像処理方法、およびプログラム

【課題】ユーザの視聴状況に応じて、コンテンツを保存することができるようにする。
【解決手段】コンテンツデータ記憶部53は、3Dコンテンツのコンテンツデータを記憶する。視聴状況解析部51は、コンテンツデータ記憶部53に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、コンテンツデータ記憶部53に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する。視聴条件反映部52は、決定されたデータ削減レベルに従って、コンテンツデータ記憶部53に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行う。本発明は、例えば、3Dコンテンツのコンテンツデータを処理する画像処理装置に適用できる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法、およびプログラムに関し、特に、ユーザの視聴状況に応じて、コンテンツを保存することができるようにする画像処理装置、画像処理方法、およびプログラムに関する。
【背景技術】
【0002】
近年、画像を立体的に視認できる3次元立体画像コンテンツ(以下、3Dコンテンツという。)が注目されてきており、3Dコンテンツの表示技術も多数提案されている。例えば、特許文献1では、多視点画像のクロストークを抑制することで高画質化する立体表示装置が提案されている。
【0003】
3次元立体画像の鑑賞方式としては、視差を設けた左眼用画像(以下、L画像と称する。)と右眼用画像(以下、R画像と称する。)を鑑賞者に鑑賞させる両眼視差方式が普及しつつある。
【0004】
L画像とR画像は、例えば、左右交互に開閉するシャッタ機能を有するシャッタメガネを鑑賞者が装着することにより、右眼と左眼それぞれで独立に視認される。また、メガネを装着しない方式には、かまぼこ型の細かなレンズ(レンチキュラーレンズ)を配列させることによってL画像とR画像の光路を分離し、右眼と左眼それぞれで独立に視認させる方式などがある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−0083073号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
以上のように、3Dコンテンツでは、L画像とR画像が必要であるため、データ量が従来の2次元画像コンテンツ(以下、2Dコンテンツという。)よりも多くなる。
【0007】
従来、HDDレコーダ等の記録再生装置において、ユーザが録画したコンテンツの整理、例えば、視聴しないコンテンツの削除やコンテンツのデータ圧縮などは、ユーザ自身が行っている。3Dコンテンツは、上述したように2Dコンテンツに比べてデータ量が多いため、記録再生装置等において、コンテンツの整理が必要となる回数も増えることが予想される。従って、ユーザを煩わせないコンテンツの保存方法が望まれる。
【0008】
本発明は、このような状況に鑑みてなされたものであり、ユーザの視聴状況に応じて、コンテンツを保存することができるようにするものである。
【課題を解決するための手段】
【0009】
本発明の一側面の画像処理装置は、所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する視聴状況解析手段と、決定された前記データ削減レベルに従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行うデータ変換手段とを備える。
【0010】
本発明の一側面の画像処理方法は、画像データを処理する画像処理装置が、所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定し、決定された前記データ削減レベルに従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行う。
【0011】
本発明の一側面のプログラムは、コンピュータに、所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する視聴状況解析手段と、決定された前記データ削減レベルに従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行うデータ変換手段として機能させる。
【0012】
本発明の一側面においては、所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報が取得され、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルが決定される。そして、決定されたデータ削減レベルに従って、記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮が行われる。
【0013】
画像処理装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
【発明の効果】
【0014】
本発明の一側面によれば、ユーザの視聴状況に応じて、コンテンツを保存することができる。
【図面の簡単な説明】
【0015】
【図1】本発明を適用した記録再生装置の一実施の形態の構成例を示すブロック図である。
【図2】視聴状況適応保存処理を実行する場合の機能的構成例を示すブロック図である。
【図3】データ削減レベルの決定方法について説明する図である。
【図4】視聴条件反映部の詳細構成例を示すブロック図である。
【図5】3Dコンテンツデータの各フォーマットとデータ容量との関係を示す図である。
【図6】データ削減レベルに応じたデータ変換をまとめた図である。
【図7】視差制御部の詳細構成例を示すブロック図である。
【図8】3Dコンテンツに対する視聴状況適応保存処理を説明するフローチャートである。
【図9】コンテンツデータ記憶部に記憶されている3Dコンテンツに対する視聴状況適応保存処理を説明するフローチャートである。
【図10】高画質化処理にクラス分類適応処理を採用した場合の概念図である。
【図11】図11のクラス分類適応処理部の構成例を示すブロック図である。
【図12】図11のクラス分類適応処理部による高画質化処理について説明するフローチャートである。
【図13】図11の予測学習部の構成例を示すブロック図である。
【図14】図13の学習部の構成例を示すブロック図である。
【図15】図11の予測学習部の学習処理について説明するフローチャートである。
【図16】本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【発明を実施するための形態】
【0016】
[本発明を適用した記録再生装置の構成例]
図1は、本発明を適用した記録再生装置の一実施の形態の構成例を示している。
【0017】
記録再生装置1は、2Dコンテンツおよび3Dコンテンツのデータを記録または再生する装置である。なお、以下では、2Dコンテンツおよび3Dコンテンツのデータを、それぞれ、2Dコンテンツデータおよび3Dコンテンツデータということにし、特に区別する必要がない場合には単にコンテンツおよびコンテンツデータという。
【0018】
チューナ11は、デジタル放送(地上デジタル放送、BS(Broadcasting Satellite)/CS(Communications Satellite)デジタル放送)の放送波信号を、アンテナを介して受信して、復調する。また、チューナ11は、復調した信号から、MPEG-TS(Moving Picture Experts Group-Transport Stream)を取得し、それをデコーダ12に供給する。
【0019】
デコーダ12は、チューナ11から供給されたMPEG-TSに施されているスクランブルを解除し、視聴対象(記録対象)になっている番組のデータを含むストリームを抽出する。デコーダ12は、抽出したストリームを構成する音声パケットと映像パケットをデコードし、得られた音声データと映像データを出力部16などに供給する。また、デコーダ12は、MPEG-TSからEPG(Electronic Program Guide)データ等も抽出し、コントローラ13に供給する。
【0020】
デコーダ12において、デコードにより得られる音声データと映像データは、2Dコンテンツまたは3Dコンテンツの音声データと映像データである。
【0021】
3Dコンテンツのデータは、L画像とR画像のデータがそれぞれ異なるMPEG-TSとして供給されてもよいし、1つのMPEG-TSとして供給されてもよい。また、L画像とR画像のデータは、L画像またはR画像のいずれか一方のデータと、奥行き情報(Depth情報)という形で供給されてもよい。
【0022】
なお、チューナ11で受信される放送波信号における符号化方式と、後述するエンコーダ14の符号化方式が異なる場合には、デコーダ12は、両方の符号化方式に対応するデコードが可能である。
【0023】
コントローラ13は、メモリ19またはローカルストレージ20に記録された制御プログラムにより、操作入力部15からの動作命令に従って、記録再生装置1の記録再生動作を制御する。
【0024】
例えば、コントローラ13は、チューナ11で受信したコンテンツデータを記録する場合、デコードされたコンテンツデータを、デコーダ12から、ディスクドライブ18またはローカルストレージ20に供給させる。
【0025】
また例えば、コントローラ13は、コンテンツデータを再生する場合、光ディスク17が装着されているディスクドライブ18またはローカルストレージ20にコンテンツデータを読み出させ、出力部16に供給させる。
【0026】
エンコーダ14は、コントローラ13の制御にしたがい、デコーダ12や光ディスク17等から供給されるコンテンツデータをMPEG方式でエンコードする。
【0027】
エンコーダ14は、3Dコンテンツのデータを、データ容量を少なくして保存することができるようにするため、H.264 AVC(Advanced Video Coding)/MVC(Multi-view Video coding)による符号化を行うことができる。
【0028】
H.264 AVC/MVCでは、Base view videoと呼ばれる画像ストリームと、Dependent view videoと呼ばれる画像ストリームとが定義されている。以下、適宜、H.264 AVC/MVCを単にMVCという。
【0029】
MVCは、時間方向の画像間の予測だけでなく、ストリーム(view)間の予測も用いた符号化を行う。
【0030】
即ち、MVCにおいては、Base view videoには、他のストリームを参照画像とする予測符号化が許されていないが、Dependent view videoには、Base view videoを参照画像とする予測符号化が許されている。従って、例えば、エンコーダ14は、L画像をBase view videoとし、R画像をDependent view videoとする符号化を行う。この場合、R画像についてはL画像を基に予測符号化を行うので、Dependent view videoストリームのデータ量を、Base view videoストリームのデータ量に比較して少なくすることができる。また、L画像とR画像の視差が小さくなるほど、view間の予測における予測誤差が小さくなるので、符号化後の3Dコンテンツデータのデータ量は少なくなる。
【0031】
なお、H.264/AVCでの符号化であるから、Base view videoについて時間方向の予測は行われている。また、Dependent view videoについても、view間の予測とともに、時間方向の予測が行われている。Dependent view videoをデコードするには、エンコード時に参照先とした、対応するBase view videoのデコードが先に終了している必要がある。
【0032】
操作入力部15は、ボタン、キー、タッチパネル、ジョグダイヤル、マウスなどの入力デバイスや、所定のリモートコマンダから送信される赤外線などの信号を受信する受信部により構成される。操作入力部15はユーザの操作を検出し、検出した操作の内容を表す信号を動作命令としてコントローラ13に供給する。
【0033】
出力部16は、D/Aコンバータを内蔵し、デコーダ12等から供給されるコンテンツデータを、アナログまたはデジタルのAV信号として表示装置31に出力する。出力部16は、出力端子として、たとえば、AV信号をHDMI(High-Definition Multimedia Interface)信号により出力するHDMI出力端子や、AV信号をコンポーネント信号により出力する出力端子などを有する。
【0034】
ディスクドライブ18は、デコーダ12やローカルストレージ20等から供給されるコンテンツデータを、装着された光ディスク17に記録する。また、ディスクドライブ18は、光ディスク17に記録されたコンテンツデータを読み出し、デコーダ12等に供給する。光ディスク17は、例えば、DVD(Digital Versatile Disc)やBlu-ray(登録商標) Disc等で構成される。
【0035】
メモリ19は、記録再生装置1の記録再生動作において一時的に記憶しておくことが必要なデータを記憶する。
【0036】
ローカルストレージ20は、たとえば、HDD(Hard Disk Drive)により構成される。ローカルストレージ20は、記録再生動作を行うための制御プログラムや、チューナ11、光ディスク17等から取得されたデータ(コンテンツデータを含む)を記憶する。
【0037】
ネットワークインタフェース21は、コントローラ13の制御に従ってネットワーク32を介して図示せぬサーバと通信を行い、サーバからダウンロードしたデータをローカルストレージ20に供給する。
【0038】
以上のように構成される記録再生装置1は、ユーザの再生指示の操作に基づいて、ローカルストレージ20等に記録された3Dのコンテンツデータを再生し、その結果得られるL画像とR画像を、表示装置31に表示させる。ユーザは、例えば、シャッタ方式により時分割で表示されるL画像とR画像を視認することで、画像を立体的に知覚することができる。
【0039】
記録再生装置1は、ローカルストレージ20に記憶されている3Dコンテンツデータのデータ容量を、ユーザの視聴状況に応じて削減する機能(視聴状況適応保存機能)を有している。
【0040】
図2は、視聴状況適応保存機能に関する記録再生装置1の機能的構成例を示すブロック図である。
【0041】
記録再生装置1は、設定入力部50、視聴状況解析部51、視聴条件反映部52、コンテンツデータ記憶部53、およびコンテンツ再生部54により構成される。
【0042】
例えば、設定入力部50は、図1の操作入力部15に対応する。また、視聴状況解析部51は図1のコントローラ13に対応し、視聴条件反映部52は図1のデコーダ12、コントローラ13、およびエンコーダ14に対応する。コンテンツデータ記憶部53は図1のローカルストレージ20に対応し、コンテンツ再生部54は図1のデコーダ12およびディスクドライブ18に対応する。
【0043】
設定入力部50は、ユーザによる入力を受け付ける。ユーザは、設定入力部50において、視聴状況適応保存機能のオンまたはオフを設定することができる。また、ユーザは、設定入力部50において、データ容量を削減する方法(データ削減方法)を設定することができる。データ削減方法には、ビットレート変換により低減する方法、解像度変換により低減する方法、データフォーマット変換により低減する方法、または、L画像とR画像の視差を小さくすることにより低減する方法がある。ユーザは、これらの4種類のデータ削減方法のなかから、所望のデータ削減方法を選択する。なお、勿論これ以外の方法によるデータの削減を排除するものではなく、任意のデータ削減方法を設定可能とすることができる。
【0044】
ユーザによって設定された、視聴状況適応保存機能のオンオフ情報、および、データ削減方法を示す情報は、ユーザ設定情報として、設定入力部50から視聴状況解析部51に供給される。
【0045】
視聴状況解析部51は、ユーザ設定情報に基づき、コンテンツデータ記憶部53に記憶されている3Dコンテンツデータのデータ容量を、ユーザの視聴状況に応じて削減するための制御を行う。
【0046】
具体的には、視聴状況解析部51は、コンテンツデータ記憶部53に記憶されている各3Dコンテンツに対するユーザの視聴状況を解析する。即ち、視聴状況解析部51は、コンテンツデータ記憶部53に記憶されている各3Dコンテンツのなかで、例えば、経過時間が所定の基準を超えた3Dコンテンツや視聴回数が少ない3Dコンテンツなど、データ削減対象の3Dコンテンツを検索する。なお、コンテンツデータ記憶部53には、後述するように、3Dコンテンツデータと対応付けて、その3Dコンテンツの視聴状況を表すデータも記憶されている。そして、視聴状況解析部51は、データ削減対象として検索された3Dコンテンツに対し、データ削減レベルを決定する。
【0047】
また、コンテンツ再生部54において3Dコンテンツが再生された場合、3Dコンテンツの視聴状況が変わる。そのため、視聴状況解析部51は、コンテンツ再生部54において3Dコンテンツが再生された場合、再生中の3Dコンテンツの視聴状況をコンテンツ再生部54から取得する。そして、視聴状況解析部51は、再生中の3Dコンテンツの視聴状況を解析し、再生中の3Dコンテンツに対するデータ削減レベルを決定する。
【0048】
決定されたデータ削減レベルに変更がある場合、即ち、コンテンツデータ記憶部53内の3Dコンテンツデータをデータ圧縮する必要がある場合、視聴状況解析部51は、決定された3Dコンテンツのデータ削減レベルを、ユーザにより設定されたデータ削減方法とともに、視聴条件反映部52に供給する。
【0049】
なお、本実施の形態において、データの削減レベルには、“データ削減なし”、“低”、“高”の3段階が用意されていることとする。
【0050】
視聴条件反映部52は、視聴状況解析部51から供給されたデータ削減レベルとデータ削減方法に基づいて、コンテンツデータ記憶部53に記憶されている3Dコンテンツデータのデータ変換(データ圧縮)を行う。
【0051】
3Dコンテンツデータが視聴条件反映部52によってデータ変換された場合、コンテンツ再生部54は、データ変換後の3Dコンテンツデータを再生する。従って、視聴状況解析部51から供給されるデータ削減レベルとデータ削減方法は、ユーザが3Dコンテンツを視聴するときの3Dコンテンツデータの条件(視聴条件)であるとも言える。
【0052】
従って、視聴状況解析部51は、3Dコンテンツに対するユーザの視聴状況に応じた視聴条件を視聴条件反映部52に供給し、視聴条件反映部52は、コンテンツデータ記憶部53に記憶されている3Dコンテンツデータに視聴条件を反映させる。データ変換後の3Dコンテンツデータは、変換前の3Dコンテンツデータに代えて、コンテンツデータ記憶部53に記憶される。
【0053】
コンテンツデータ記憶部53は、チューナ11により受信されたり、光ディスク17から読み出されるなどして取得された3Dコンテンツデータを記憶する。なお、3Dコンテンツデータは、最初にコンテンツデータ記憶部53に記憶されるとき、ビットレートが8Mbps(Mega bit per second)、解像度1920×1080p(Full HDサイズ)でL画像とR画像の2枚(Full HD×2)を有する形式で記憶される。
【0054】
また、コンテンツデータ記憶部53は、3Dコンテンツデータに関連するデータであるコンテンツ関連データを、3Dコンテンツデータと対応付けて記憶する。コンテンツ関連データは、その3Dコンテンツの視聴状況を表す情報であって、具体的には、これまでの視聴回数と、コンテンツデータ記憶部53に保存されたときからの経過時間である。コンテンツ関連データは、視聴状況解析部51によって作成され、3Dコンテンツデータと対応付けられる。
【0055】
コンテンツ再生部54は、コンテンツデータ記憶部53から、再生対象の3Dコンテンツデータとコンテンツ関連データを取得し、3Dコンテンツの再生を行う。また、コンテンツ再生部54は、取得したコンテンツ関連データに基づいて、再生した3Dコンテンツの視聴状況を視聴状況解析部51に供給する。
【0056】
[データ削減レベルの決定方法]
次に、図3を参照して、視聴状況解析部51による、データ削減レベルの決定方法について説明する。
【0057】
視聴状況解析部51は、3Dコンテンツの視聴状況、即ち、視聴回数と経過時間に応じて、3Dコンテンツデータのデータ削減レベルを決定する。データ削減レベルは、上述したように、“データ削減なし”、“低”、または“高”の3段階に分類される。
【0058】
視聴状況解析部51は、図3に示すように、視聴回数が多く、経過時間が短い3Dコンテンツに対して、データ削減レベルとして、“データ削減なし”を選択する。
【0059】
一方、視聴状況解析部51は、視聴回数が多く経過時間が長い3Dコンテンツ、および、視聴回数が少なく経過時間が短い3Dコンテンツに対しては、データ削減レベルとして、“低”を選択する。
【0060】
また、視聴状況解析部51は、視聴回数が少なく経過時間が長い3Dコンテンツに対しては、データ削減レベルとして、“高”を設定する。
【0061】
視聴状況解析部51は、以上のように、ユーザの視聴状況に応じた保存基準に基づいてデータ削減レベルを決定し、ユーザが設定したデータ削減方法とともに、視聴条件として、視聴条件反映部52に供給する。
【0062】
なお、視聴回数がどのくらいであれば、視聴回数が「少ない」または「多い」とするか、および、経過時間がどのくらいであれば、経過時間が「短い」または「長い」とするかは、ユーザが設定入力部50から設定することができる。さらに、図3のテーブルの視聴回数と経過時間との各組み合わせの4パターンに対し、どのようなデータ削減レベルを割り当てるかについてもユーザ自身が設定することができるようにしてもよい。
【0063】
[視聴条件反映部52の詳細構成例]
図4は、視聴条件反映部52の詳細構成例を示すブロック図である。
【0064】
視聴条件反映部52は、視聴条件制御部71、ビットレート変換部72、解像度変換部73、フォーマット変換部74、および視差制御部75により構成される。
【0065】
視聴条件制御部71は、視聴状況解析部51から供給される視聴条件に基づいて、ビットレート変換部72、解像度変換部73、フォーマット変換部74、または視差制御部75のいずれかを動作させるように制御する。
【0066】
すなわち、視聴条件制御部71は、視聴条件として供給されるデータ削減方法がビットレート変換である場合には、ビットレート変換部72に、コンテンツデータ記憶部53から3Dコンテンツデータを取得させ、データ変換させる。一方、視聴条件として供給されるデータ削減方法が解像度変換である場合には、視聴条件制御部71は、解像度変換部73にデータ変換させる。また、視聴条件制御部71は、視聴条件として供給されるデータ削減方法がフォーマット変換である場合には、フォーマット変換部74にデータ変換させ、データ削減方法が視差制御部75である場合には、視差制御部75にデータ変換させる。
【0067】
ビットレート変換部72は、視聴条件制御部71から供給されたデータ削減レベルに応じた3Dコンテンツデータのビットレート変換を行う。具体的には、視聴条件制御部71から“低”レベルのビットレート変換が指示された場合、ビットレート変換部72は、ビットレート8Mbpsの3Dコンテンツデータを、5Mbpsにビットレート変換する。また、ビットレート変換部72は、視聴条件制御部71から“高”レベルのビットレート変換が指示された場合、3Dコンテンツデータのビットレートを3Mbpsにビットレート変換する。
【0068】
解像度変換部73は、視聴条件制御部71から供給されたデータ削減レベルに応じた3Dコンテンツデータの解像度変換を行う。具体的には、視聴条件制御部71から“低”レベルの解像度変換が指示された場合、解像度変換部73は、解像度1920×1080pの3Dコンテンツデータを、解像度1280×720pに解像度変換する。また、解像度変換部73は、視聴条件制御部71から“高”レベルの解像度変換が指示された場合、3Dコンテンツデータの解像度を720×480pに解像度変換する。
【0069】
フォーマット変換部74は、視聴条件制御部71から供給されたデータ削減レベルに応じた3Dコンテンツデータのフォーマット変換を行う。
【0070】
図5は、3Dコンテンツデータの各フォーマットとデータ容量との関係を示している。
【0071】
なお、図5のL画像およびR画像は、実際にはカラー画像であるが、図5では線図で表している。また、図5では、奥行き情報が濃淡情報で概念的に表されている。
【0072】
3Dコンテンツデータのフォーマットには、図5に示されるように、L画像とR画像をそれぞれ保持する第1の形式、L画像またはR画像のいずれか一方と奥行き情報とからなる第2の形式、L画像とR画像の2枚の画像を1枚のL画像(R画像)と同サイズに合成した第3の形式などがある。ここで、第1および第2の形式のL画像とR画像、第3の形式の合成画像のサイズは、Full HDサイズであるとする。この場合、保存する場合のデータ容量は、図5に示されるように、第1の形式、第2の形式、第3の形式の順に小さくなる。
【0073】
フォーマット変換部74は、視聴条件制御部71から“低”レベルのフォーマット変換が指示された場合、Full HDサイズのL画像とR画像の2枚からなる第1の形式から、1枚のFull HDサイズの画像と奥行き情報とからなる第2の形式にフォーマット変換する。
【0074】
一方、フォーマット変換部74は、視聴条件制御部71から“高”レベルのフォーマット変換が指示された場合、3Dコンテンツデータのフォーマットを、1枚のFull HDサイズの第3の形式にフォーマット変換する。なお、図5に示されるように、1枚のFull HDサイズとした場合に、L画像とR画像を左右に配置する形式(Side by Side)に合成するか、上下に配置する形式(Over/Under)に合成するかは任意に決定することができる。
【0075】
図4に戻り、視差制御部75は、視聴条件制御部71から供給されたデータ削減レベルに応じた3Dコンテンツデータの視差制御を行う。具体的には、視聴条件制御部71から“低”レベルの視差制御が指示された場合、視差制御部75は、元のL画像とR画像に設定された視差に対して所定の比率で、視差を小さく変更する。また、視差制御部75は、視聴条件制御部71から“高”レベルの視差制御が指示された場合、視差をゼロに変更する。即ち、視差制御部75は、元のL画像とR画像のいずれか一方のみを保持し、他方を削除する。
【0076】
ビットレート変換部72、解像度変換部73、フォーマット変換部74、または視差制御部75による、視聴条件制御部71から供給されたデータ削減レベルに応じたデータ変換をまとめると、図6に示すようになる。
【0077】
なお、本実施の形態では、図6に示される4種類のデータ削減方法のいずれかを選択可能とするが、データ削減方法は4種類に限らず、少なくとも1種類あればよい。また、4種類のデータ削減方法のうちの複数を同時に選択、実行するようにしてもよい。
【0078】
コンテンツデータ記憶部53に記憶されている3Dコンテンツデータは、ビットレート変換部72、解像度変換部73、フォーマット変換部74、または視差制御部75のいずれかによってデータ変換が実行されることで、データ容量が削減される。
【0079】
なお、ビットレート変換部72、解像度変換部73、フォーマット変換部74、および視差制御部75は、データ変換の前後に、必要に応じてMVCによる復号または符号化を行う。
【0080】
[視差制御部75の詳細構成例]
図7は、L画像とR画像の視差を小さくする制御を行う視差制御部75の詳細構成例を示すブロック図である。
【0081】
視差制御部75は、視差検出部81、視差制御部82、および画像合成部83により構成される。
【0082】
視差制御部75に供給されたL画像とR画像は、視差検出部81と画像合成部83に入力される。視差検出部81は、L画像とR画像から、それらの視差を検出し、視差制御部82に供給する。
【0083】
視差制御部82は、視差検出部81で検出された視差に基づいて、変更後の視差をいくつにすればよいかを決定し、画像合成部83に供給する。画像合成部83は、視差制御部82により決定された視差となるように、入力されたL画像とR画像から、視差変更後のL画像とR画像を生成し、出力する。
【0084】
[再生コンテンツに対する視聴状況適応保存処理]
次に、図8のフローチャートを参照して、コンテンツ再生部54で再生された3Dコンテンツに対する視聴状況適応保存処理を説明する。
【0085】
初めに、ステップS1において、コンテンツ再生部54は、ユーザにより再生が指示された3Dコンテンツ(以下、再生コンテンツと称する。)の3Dコンテンツデータと、そのコンテンツ関連データを取得する。
【0086】
ステップS2において、コンテンツ再生部54は、再生コンテンツの再生を開始する。
【0087】
ステップS3において、コンテンツ再生部54は、再生コンテンツの再生が終了したかを判定し、再生が終了したと判定されるまで待機する。
【0088】
ステップS3で、再生が終了したと判定された場合、処理はステップS4に進み、コンテンツ再生部54は、コンテンツ関連データを視聴状況解析部51に供給する。
【0089】
ステップS5において、視聴状況解析部51は、コンテンツ再生部54から供給された再生コンテンツの視聴状況を解析し、ユーザ設定情報に基づいて、再生コンテンツの視聴条件を決定する。即ち、視聴状況解析部51は、再生コンテンツの視聴状況に基づいて、再生コンテンツをデータ削減するか、データ削減する場合にはどのデータ削減方法で、どのデータ削減レベルで行うかを決定する。
【0090】
ステップS6において、視聴状況解析部51は、解析の結果、再生コンテンツの視聴条件に変更があるかを判定する。ステップS6で、再生コンテンツの視聴条件に変更がないと判定された場合、視聴状況適応保存処理は終了する。
【0091】
一方、ステップS6で、再生コンテンツの視聴条件に変更があると判定された場合、処理はステップS7に進み、視聴状況解析部51は、視聴条件反映部52に視聴条件を反映させる。即ち、視聴状況解析部51は、再生コンテンツに対する視聴条件を視聴条件反映部52に供給する。視聴条件反映部52は、コンテンツデータ記憶部53に記憶されている再生コンテンツの3Dコンテンツデータを、設定されたデータ削減方法およびデータ削減レベルでデータ圧縮し、処理を終了する。
【0092】
図8の処理により、3Dコンテンツが再生された場合に、再生された3Dコンテンツの視聴状況が確認され、視聴状況に応じて、コンテンツデータ記憶部53の3Dコンテンツデータが圧縮される。
【0093】
[コンテンツデータ記憶部53の3Dコンテンツに対する視聴状況適応保存処理]
次に、コンテンツデータ記憶部53に記憶されている3Dコンテンツに対する視聴状況適応保存処理について説明する。
【0094】
図9は、コンテンツデータ記憶部53に記憶されている3Dコンテンツに対する視聴状況適応保存処理のフローチャートである。
【0095】
はじめに、ステップS11において、視聴状況解析部51は、コンテンツデータ記憶部53内に記憶されている3Dコンテンツのコンテンツ関連データを取得する。
【0096】
ステップS12において、視聴状況解析部51は、ユーザ設定情報に基づいて、コンテンツの視聴条件に変更がある3Dコンテンツがあるかを判定する。
【0097】
ステップS12で、視聴条件に変更がある3Dコンテンツがないと判定された場合、視聴状況適応保存処理は終了する。
【0098】
一方、ステップS12で、視聴条件に変更がある3Dコンテンツがあると判定された場合、視聴状況解析部51は、その3Dコンテンツの視聴条件を視聴条件反映部52に反映させて、視聴状況適応保存処理を終了する。
【0099】
図9の処理により、コンテンツデータ記憶部53に記憶されている3Dコンテンツの視聴状況が確認され、視聴状況に応じて、コンテンツデータ記憶部53の3Dコンテンツデータが圧縮される。
【0100】
以上のように、記録再生装置1の視聴状況適応保存機能により、ユーザの視聴状況に応じて、コンテンツデータ記憶部53の3Dコンテンツデータが整理される。即ち、ユーザの視聴回数が少ない3Dコンテンツや経過時間の長い3Dコンテンツのデータが、視聴状況適応保存処理により、データ圧縮される。これにより、コンテンツデータ記憶部53に保存されている3Dコンテンツのデータ容量を削減することができる。3Dコンテンツは、2Dコンテンツと比べてデータ量が多いため、このようなデータ容量削減機能がより有効となる。
【0101】
[本実施の形態の変形例]
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【0102】
たとえば、3Dコンテンツの視聴状況として、図3を参照して説明したように、視聴回数と経過時間を採用したが、視聴回数または経過時間のいずれか一方のみを採用してもよい。
【0103】
また、視聴回数と経過時間には、正規化したデータを利用することができる。具体的には、視聴回数が最も多い3Dコンテンツの視聴回数を1として、全ての3Dコンテンツの視聴回数を設定することができる。また、経過時間が最長の3Dコンテンツの経過時間を1として、全ての3Dコンテンツの経過時間を設定することができる。
【0104】
また、3Dコンテンツの視聴状況には、視聴回数と経過時間以外のデータを採用することができる。たとえば、視聴回数に代えて、3Dコンテンツの視聴時間を、3Dコンテンツの録画時間(番組の放送時間)で除算した値(視聴時間/録画時間)を採用することができる。
【0105】
3Dコンテンツ単位で視聴状況を設定するのではなく、3Dコンテンツのジャンル毎に視聴状況を設定してもよい。例えば、ジャンルが「映画」である3Dコンテンツに対して、コンテンツデータ記憶部53に記憶されている全ての3Dコンテンツにおける「映画」コンテンツの割合を、各「映画」コンテンツの視聴状況とすることができる。これにより、ジャンル単位で、コンテンツデータ記憶部53に記憶されている3Dコンテンツを整理することができる。
【0106】
上述した実施の形態では、整理対象の3Dコンテンツを保存する記憶媒体が、記録再生装置1内に存在する例について説明したが、整理対象の3Dコンテンツを保存する記憶媒体は、装置の外部に設けられていてもよい。この場合、記憶媒体に保存されている3Dコンテンツを制御する制御部は、コンテンツの視聴状況を通信により授受し、所定のデータ削減方法による3Dコンテンツデータのデータ圧縮を制御する。
【0107】
また、整理対象の3Dコンテンツが保存される記憶媒体は、HDD以外の磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどでもよい。
【0108】
さらに、上述した実施の形態では、記録再生装置1が視聴状況適応保存処理を実行する例を説明したが、本発明は、記録再生装置以外にも、テレビジョン受像機、携帯端末、撮像装置など、コンテンツの保存機能を有する装置に対して適用可能である。
【0109】
[その他の実施の形態]
上述した実施の形態では、ユーザの視聴状況に応じて、3Dコンテンツデータをデータ圧縮し、再生が指示された場合には、データ圧縮された3Dコンテンツデータがそのまま再生に利用される。
【0110】
従って、コンテンツデータ記憶部53のデータ容量は削減することができるが、再生する場合に表示装置31に表示される画像の画質は、記録再生装置1が最初に取得したときの3Dコンテンツデータを再生したものより劣ってしまう。
【0111】
そこで、再生対象の3Dコンテンツデータがデータ圧縮されている場合に、画像処理装置1には、データ圧縮された3Dコンテンツデータに高画質化処理を施し、処理後の3Dコンテンツデータを再生させることができる。
【0112】
データ圧縮された3Dコンテンツデータの高画質化処理には、例えば、クラス分類適応処理を採用することができる。
【0113】
図10は、データ圧縮された3Dコンテンツデータの高画質化処理にクラス分類適応処理を採用した場合の、概念図を示している。
【0114】
クラス分類適応処理では、入力画像を基に出力画像を生成するための学習係数が、学習の教師となる教師データと学習の生徒となる生徒データを用いた学習により予め求められる。そして、学習により得られた学習係数を用いて、入力された画像を変換する処理が実行される。
【0115】
クラス分類適応処理により、データ圧縮された3Dコンテンツデータの高画質化処理を実行する場合には、データ圧縮前の3Dコンテンツデータが教師データ、データ圧縮後の3Dコンテンツデータが生徒データとされる。例えば、図10に示されるように、2枚のFull HDサイズのL画像とR画像からなる第1の形式の3Dコンテンツデータが教師データ、1枚のFull HDサイズの第3の形式にフォーマット変換された3Dコンテンツデータが生徒データとされる。そして、予測学習部101により学習係数が求められ、学習係数記憶部102に記憶される。
【0116】
そして、高画質化処理実行時には、学習係数記憶部102に記憶された学習係数を用いて、クラス分類適応処理部103が、入力画像を高画質化した画像に変換する画像変換処理を実行し、変換後の画像を出力する。
【0117】
例えば、クラス分類適応処理部103は、コンテンツデータ記憶部53に記憶されている、1枚のFull HDサイズの3Dコンテンツデータを、学習係数記憶部102に記憶された学習係数を用いて、2枚のFull HDサイズのL画像とR画像からなる3Dコンテンツデータに変換する。これにより、データ削減前と同様の画質に高画質化された3Dコンテンツデータを再生することができる。
【0118】
図11乃至図15を参照して、学習係数を求める予測学習部101と、学習により得られた学習係数を用いて高画質化処理を行うクラス分類適応処理部103の詳細について説明する。
【0119】
[クラス分類適応処理部103の詳細構成例]
図11は、クラス分類適応処理部103の構成例を示している。
【0120】
クラス分類適応処理部103では、データ圧縮後の3Dコンテンツデータが第1の画像データとして入力され、データ削減前と同様の画質に高画質化された3Dコンテンツデータが第2の画像として、出力される。
【0121】
クラス分類適応処理部103では、第2の画像データのうちの注目している注目画素(の画素値)を複数のクラスのうちのいずれかのクラスにクラス分類することにより得られるクラスの学習係数と、注目画素に対して選択される第1の画像データの画素(の画素値)とを用いた演算により、注目画素(の画素値)が求められる。
【0122】
第1の画像データとしての、データ圧縮前の3Dコンテンツデータが、タップ選択部112および113に供給される。
【0123】
注目画素選択部111は、第2の画像データを構成する画素を、順次、注目画素とし、その注目画素を表す情報を、必要なブロックに供給する。
【0124】
タップ選択部112は、注目画素(の画素値)を予測するのに用いる第1の画像データを構成する画素(の画素値)の幾つかを、予測タップとして選択する。
【0125】
具体的には、タップ選択部112は、注目画素の時空間の位置から空間的または時間的に近い位置にある第1の画像データの複数の画素を、予測タップとして選択する。
【0126】
タップ選択部113は、注目画素を、幾つかのクラスのうちのいずれかにクラス分けするクラス分類を行うのに用いる第1の画像データを構成する画素の幾つかを、クラスタップとして選択する。即ち、タップ選択部113は、タップ選択部112が予測タップを選択するのと同様にして、クラスタップを選択する。
【0127】
なお、予測タップとクラスタップは、同一のタップ構造を有するものであっても良いし、異なるタップ構造を有するものであっても良い。
【0128】
タップ選択部112で得られた予測タップは、予測演算部116に供給され、タップ選択部113で得られたクラスタップは、クラス分類部114に供給される。
【0129】
クラス分類部114は、タップ選択部13からのクラスタップに基づき、注目画素をクラス分類し、その結果得られるクラスに対応するクラスコードを、係数出力部115に供給する。
【0130】
ここで、クラス分類を行う方法としては、例えば、ADRC(Adaptive Dynamic Range Coding)等を採用することができる。
【0131】
ADRCを用いる方法では、クラスタップを構成する画素(の画素値)が、ADRC処理され、その結果得られるADRCコードにしたがって、注目画素のクラスが決定される。
【0132】
なお、KビットADRCにおいては、例えば、クラスタップを構成する画素の画素値の最大値MAXと最小値MINが検出され、DR=MAX-MINを、集合の局所的なダイナミックレンジとし、このダイナミックレンジDRに基づいて、クラスタップを構成する各画素の画素値がKビットに再量子化される。即ち、クラスタップを構成する各画素の画素値から、最小値MINが減算され、その減算値がDR/2Kで除算(再量子化)される。そして、以上のようにして得られる、クラスタップを構成するKビットの各画素の画素値を、所定の順番で並べたビット列が、ADRCコードとして出力される。従って、クラスタップが、例えば、1ビットADRC処理された場合には、そのクラスタップを構成する各画素の画素値は、最大値MAXと最小値MINとの平均値で除算され(小数点以下切り捨て)、これにより、各画素の画素値が1ビットとされる(2値化される)。そして、その1ビットの画素値を所定の順番で並べたビット列が、ADRCコードとして出力される。
【0133】
なお、クラス分類部114には、例えば、クラスタップを構成する画素の画素値のレベル分布のパターンを、そのままクラスコードとして出力させることも可能である。しかしながら、この場合、クラスタップが、N個の画素の画素値で構成され、各画素の画素値に、Kビットが割り当てられているとすると、クラス分類部14が出力するクラスコードの場合の数は、(2NK通りとなり、画素の画素値のビット数Kに指数的に比例した膨大な数となる。
【0134】
従って、クラス分類部114においては、クラスタップの情報量を、上述のADRC処理や、あるいはベクトル量子化等によって圧縮することにより、クラス分類を行うのが好ましい。
【0135】
係数出力部115は、後述する学習によって求められたクラスごとの学習係数を記憶し、さらに、その記憶した学習係数のうちの、クラス分類部114から供給されるクラスコードに対応するアドレスに記憶されている学習係数(クラス分類部114から供給されるクラスコードが表すクラスの学習係数)を出力する。この学習係数は、予測演算部116に供給される。
【0136】
予測演算部116は、タップ選択部112が出力する予測タップと、係数出力部115が出力する学習係数とを取得し、その予測タップと学習係数とを用いて、注目画素の真値の予測値を求める所定の予測演算を行う。これにより、予測演算部116は、注目画素の画素値(の予測値)、即ち、第2の画像データを構成する画素の画素値を求めて出力する。
【0137】
次に、図12のフローチャートを参照して、図11のクラス分類適応処理部103による高画質化処理について説明する。
【0138】
ステップS41において、注目画素選択部111は、クラス分類適応処理部103に入力される第1の画像データに対する第2の画像データを構成する画素のうち、まだ、注目画素とされていないものの1つを、注目画素として選択する。例えば、第2の画像データを構成する画素のうち、ラスタスキャン順で、まだ、注目画素とされていないものが、注目画素として選択される。
【0139】
ステップS42において、タップ選択部112とタップ選択部113が、そこに供給される第1の画像データから、注目画素についての予測タップとクラスタップとするものを、それぞれ選択する。そして、予測タップは、タップ選択部112から予測演算部116に供給され、クラスタップは、タップ選択部113からクラス分類部114に供給される。
【0140】
クラス分類部114は、タップ選択部113から、注目画素についてのクラスタップを受信し、ステップS43において、そのクラスタップに基づき、注目画素をクラス分類する。さらに、クラス分類部114は、そのクラス分類の結果得られる注目画素のクラスを表すクラスコードを、係数出力部115に出力する。
【0141】
ステップS44では、係数出力部115が、クラス分類部114から供給されるクラスコードに対応するアドレスに記憶されている学習係数を取得して出力する。さらに、ステップS44では、予測演算部116が、係数出力部115が出力する学習係数を取得する。
【0142】
ステップS45では、予測演算部116が、タップ選択部112が出力する予測タップと、係数出力部115から取得した学習係数とを用いて、所定の予測演算を行う。これにより、予測演算部116は、注目画素の画素値を求めて出力する。
【0143】
ステップS46では、注目画素選択部111が、まだ、注目画素としていない第2の画像データがあるかどうかを判定する。ステップS46において、まだ、注目画素としていない第2の画像データがあると判定された場合、処理はステップS41に戻り、以下、同様の処理が繰り返される。
【0144】
また、ステップS46において、まだ、注目画素とされていない第2の画像データがないと判定された場合、処理は終了する。
【0145】
次に、図11の予測演算部116における予測演算と、係数出力部115に記憶された学習係数の学習について説明する。
【0146】
いま、第1の画像データの画素(低画質画素)から予測タップを選択し、その予測タップと学習係数を用いて、第2の画像データの画素(高画質画素)の画素値を、所定の予測演算によって求める(予測する)ことを考える。
【0147】
所定の予測演算として、例えば、線形1次予測演算を採用することとすると、高画質画素の画素値yは、次の線形1次式によって求められることになる。
【0148】
【数1】

但し、式(1)において、xnは、高画質画素yについての予測タップを構成する、n番目の低画質画像データの画素(以下、適宜、低画質画素という)の画素値を表し、wnは、n番目の低画質画素(の画素値)と乗算されるn番目の学習係数を表す。なお、式(1)では、予測タップが、N個の低画質画素x1,x2,・・・,xNで構成されるものとしてある。
【0149】
ここで、高画質画素の画素値yは、式(1)に示した線形1次式ではなく、2次以上の高次の式によって求めるようにすることも可能である。
【0150】
いま、第kサンプルの高画質画素の画素値の真値をykと表すとともに、式(1)によって得られるその真値ykの予測値をyk'と表すと、その予測誤差ekは、次式で表される。
【0151】
【数2】

【0152】
いま、式(2)の予測値yk'は、式(1)にしたがって求められるため、式(2)のyk'を、式(1)にしたがって置き換えると、次式が得られる。
【0153】
【数3】

【0154】
但し、式(3)において、xn,kは、第kサンプルの高画質画素についての予測タップを構成するn番目の低画質画素を表す。
【0155】
式(3)(または式(2))の予測誤差ekを0とする学習係数wnが、高画質画素を予測するのに最適なものとなるが、すべての高画質画素について、そのような学習係数wnを求めることは、一般には困難である。
【0156】
そこで、学習係数wnが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適な学習係数wnは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
【0157】
【数4】

【0158】
但し、式(4)において、Kは、高画質画素ykと、その高画質画素ykについての予測タップを構成する低画質画素x1,k,x2,k,・・・,xN,kとのセットのサンプル数(学習用のサンプルの数)を表す。
【0159】
式(4)の自乗誤差の総和Eの最小値(極小値)は、式(5)に示すように、総和Eを学習係数wnで偏微分したものを0とするwnによって与えられる。
【0160】
【数5】

【0161】
そこで、上述の式(3)を学習係数wnで偏微分すると、次式が得られる。
【0162】
【数6】

【0163】
式(5)と(6)から、次式が得られる。
【0164】
【数7】

【0165】
式(7)のekに、式(3)を代入することにより、式(7)は、式(8)に示す正規方程式で表すことができる。
【0166】
【数8】

【0167】
式(8)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、学習係数wnについて解くことができる。
【0168】
式(8)の正規方程式を、クラスごとにたてて解くことにより、最適な学習係数(ここでは、自乗誤差の総和Eを最小にする学習係数)wnを、クラスごとに求めることができる。
【0169】
図13は、式(8)の正規方程式をたてて解くことにより学習係数wnを求める学習を行う予測学習部101の構成例を示している。
【0170】
学習用画像記憶部131は、学習係数wnの学習に用いられる学習用画像データを記憶している。ここで、学習用画像データとしては、例えば、第1の形式の3Dコンテンツデータを用いることができる。
【0171】
教師データ生成部132は、学習用画像記憶部131から学習用画像データを読み出す。さらに、教師データ生成部132は、学習用画像データから、学習係数の学習の教師(真値)、即ち、式(1)による予測演算としての写像の写像先の画素値となる教師データを生成し、教師データ記憶部133に供給する。ここでは、教師データ生成部132は、例えば、学習用画像データとしての3Dコンテンツデータを、そのまま教師データとして、教師データ記憶部133に供給する。
【0172】
教師データ記憶部133は、教師データ生成部132から供給される教師データとしての3Dコンテンツデータを記憶する。
【0173】
生徒データ生成部134は、学習用画像記憶部131から学習用画像データを読み出す。さらに、生徒データ生成部134は、学習用画像データから、学習係数の学習の生徒、即ち、式(1)による予測演算としての写像による変換対象の画素値となる生徒データを生成し、生徒データ記憶部135に供給する。ここでは、生徒データ生成部134は、例えば、学習用画像データとしての第1の形式の3Dコンテンツデータを、フォーマット変換して第3の形式の3Dコンテンツデータを生成し、生徒データとして、生徒データ記憶部135に供給する。
【0174】
生徒データ記憶部135は、生徒データ生成部134から供給される生徒データを記憶する。
【0175】
学習部136は、教師データ記憶部133に記憶された教師データとしての第1の形式の3Dコンテンツデータを構成する画素を、順次、注目画素とし、その注目画素について、生徒データ記憶部135に記憶された生徒データとしての第3の形式の3Dコンテンツデータを構成する低画質画素のうちの、図11のタップ選択部112が選択するのと同一のタップ構造の低画質画素を、予測タップとして選択する。さらに、学習部136は、教師データを構成する各画素と、その画素が注目画素とされたときに選択された予測タップとを用い、クラスごとに、式(8)の正規方程式をたてて解くことにより、クラスごとの学習係数を求める。
【0176】
即ち、図14は、図13の学習部136の構成例を示している。
【0177】
注目画素選択部141は、教師データ記憶部133に記憶されている教師データを構成する画素を、順次、注目画素として選択し、その注目画素を表す情報を、必要なブロックに供給する。
【0178】
タップ選択部142は、注目画素について、生徒データ記憶部135に記憶された生徒データとしての低画質画像データを構成する低画質画素から、図11のタップ選択部112が選択するのと同一の画素を選択する。これにより、タップ選択部142は、タップ選択部112で得られるのと同一のタップ構造の予測タップを得て、足し込み部145に供給する。
【0179】
タップ選択部143は、注目画素について、生徒データ記憶部135に記憶された生徒データとしての低画質画像データを構成する低画質画素から、図11のタップ選択部113が選択するのと同一の画素を選択する。これにより、タップ選択部143は、タップ選択部113で得られるのと同一のタップ構造のクラスタップを得て、クラス分類部144に供給する。
【0180】
クラス分類部144は、タップ選択部143が出力するクラスタップに基づき、図11のクラス分類部114と同一のクラス分類を行い、その結果得られるクラスに対応するクラスコードを、足し込み部145に出力する。
【0181】
足し込み部145は、教師データ記憶部133から、注目画素となっている教師データ(画素)を読み出し、その注目画素と、タップ選択部142から供給される注目画素についての予測タップを構成する生徒データ(画素)とを対象とした足し込みを、クラス分類部144から供給されるクラスコードごとに行う。
【0182】
即ち、足し込み部145には、教師データ記憶部133に記憶された教師データyk、タップ選択部142が出力する予測タップxn,k、クラス分類部144が出力するクラスコードが供給される。
【0183】
そして、足し込み部145は、クラス分類部144から供給されるクラスコードに対応するクラスごとに、予測タップ(生徒データ)xn,kを用い、式(8)の左辺の行列における生徒データどうしの乗算(xn,kn',k)と、サメーション(Σ)に相当する演算を行う。
【0184】
さらに、足し込み部145は、やはり、クラス分類部144から供給されるクラスコードに対応するクラスごとに、予測タップ(生徒データ)xn,kと教師データykを用い、式(8)の右辺のベクトルにおける生徒データxn,kおよび教師データykの乗算(xn,kk)と、サメーション(Σ)に相当する演算を行う。
【0185】
即ち、足し込み部145は、前回、注目画素とされた教師データについて求められた式(8)における左辺の行列のコンポーネント(Σxn,kn',k)と、右辺のベクトルのコンポーネント(Σxn,kk)を、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネント(Σxn,kn',k)またはベクトルのコンポーネント(Σxn,kk)に対して、新たに注目画素とされた教師データについて、その教師データyk+1および生徒データxn,k+1を用いて計算される、対応するコンポーネントxn,k+1n',k+1またはxn,k+1k+1を足し込む(式(8)のサメーションで表される加算を行う)。
【0186】
そして、足し込み部145は、教師データ記憶部133(図13)に記憶された教師データすべてを注目画素として、上述の足し込みを行うことにより、各クラスについて、式(8)に示した正規方程式をたてると、その正規方程式を、学習係数算出部146に供給する。
【0187】
学習係数算出部146は、足し込み部145から供給される各クラスについての正規方程式を解くことにより、各クラスについて、最適な学習係数wnを求めて出力する。
【0188】
図11のクラス分類適応処理部103における係数出力部115には、以上のようにして求められたクラスごとの学習係数wnが記憶されている。即ち、図11のクラス分類適応処理部103における係数出力部115が、図10の学習係数記憶部102に対応する。
【0189】
次に、図15のフローチャートを参照して、図13の予測学習部101の処理(学習処理)について説明する。
【0190】
最初に、ステップS61において、教師データ生成部132と生徒データ生成部134が、学習用画像記憶部131に記憶された学習用画像データから、教師データと生徒データを生成し、教師データ記憶部133と生徒データ生成部134にそれぞれ供給して記憶させる。
【0191】
なお、教師データ生成部132と生徒データ生成部134において、それぞれ、どのような生徒データと教師データを生成するかは、データ変換後の3Dコンテンツデータを、どのデータ変換前の3Dコンテンツデータに高画質化するかによって異なる。
【0192】
その後、処理はステップS62に進み、学習部136(図14)において、注目画素選択部141は、教師データ記憶部133に記憶された教師データのうち、まだ、注目画素としていないものを、注目画素として選択する。
【0193】
ステップS63では、タップ選択部142が、注目画素について、生徒データ記憶部135に記憶された生徒データから予測タップとする生徒データとしての画素を選択し、足し込み部145に供給する。また、ステップS63では、タップ選択部143が、やはり、注目画素について、生徒データ記憶部135に記憶された生徒データからクラスタップとする生徒データを選択し、クラス分類部144に供給する。
【0194】
ステップS64において、クラス分類部144は、注目画素についてのクラスタップに基づき、注目画素のクラス分類を行い、その結果得られるクラスに対応するクラスコードを、足し込み部145に出力する。
【0195】
ステップS65では、足し込み部145は、教師データ記憶部133から、注目画素を読み出す。そして、足し込み部145は、その注目画素と、タップ選択部142から供給される注目画素について選択された予測タップを構成する生徒データとを対象とした式(8)の足し込みを、クラス分類部144から供給されるクラスコードごとに行う。
【0196】
ステップS66では、注目画素選択部141が、教師データ記憶部133に、まだ、注目画素としていない教師データが記憶されているかどうかを判定する。ステップS66において、注目画素としていない教師データが、まだ、教師データ記憶部133に記憶されていると判定された場合、処理はステップS62に戻り、以下、同様の処理が繰り返される。
【0197】
また、ステップS66において、注目画素としていない教師データが、教師データ記憶部133に記憶されていないと判定された場合、処理はステップS67に進み、足し込み部145は、いままでのステップS62乃至S66の処理によって得られたクラスごとの式(8)における左辺の行列と、右辺のベクトルを、学習係数算出部146に供給する。
【0198】
さらに、ステップS67では、学習係数算出部146は、足し込み部145から供給されるクラスごとの式(8)における左辺の行列と右辺のベクトルによって構成されるクラスごとの正規方程式を解くことにより、クラスごとに、学習係数wnを求めて出力し、処理を終了する。
【0199】
なお、学習用画像データの数が十分でないこと等に起因して、学習係数を求めるのに必要な数の正規方程式が得られないクラスが生じることがあり得るが、そのようなクラスについては、学習係数算出部146は、例えば、デフォルトの学習係数を出力するようになっている。
【0200】
以上のように、記録再生装置1は、クラス分類適応処理を採用した高画質化処理を、データ圧縮された3Dコンテンツデータに対して行うことにより、データ圧縮された3Dコンテンツデータを高画質化した後で、再生することができる。
【0201】
なお、ビットレート変換によりデータ圧縮された3Dコンテンツデータに対しては、学習処理において、教師データをビットレート8Mbpsの3Dコンテンツデータ、生徒データをビットレート5Mbpsまたは3Mbpsの3Dコンテンツデータとすることができる。
【0202】
また、解像度変換によりデータ圧縮された3Dコンテンツデータに対しては、学習処理において、教師データを解像度1920×1080pの3Dコンテンツデータ、生徒データを解像度1280×720pまたは1280×720pの3Dコンテンツデータとすることができる。
【0203】
さらに、視差制御によりデータ圧縮された3Dコンテンツデータに対しては、学習処理において、教師データを視差を変更していない3Dコンテンツデータ、生徒データを、視差が縮小された(視差ゼロも含む)3Dコンテンツデータとすることができる。
【0204】
なお、上述したクラス分類適応処理による高画質化処理は、それを実行する新たなブロックを設けてもよいし、視聴条件反映部52またはコンテンツ再生部54に行わせることも可能である。
【0205】
また、高画質化処理には、クラス分類適応処理以外の処理を採用することもできる。例えば、ビットレート変換によりデータ圧縮された3Dコンテンツデータの高画質化処理として、ノイズ低減(Noise Reduction)処理を実行させることができる。この場合、ビットレート3Mbpsの3Dコンテンツデータに対しては、ビットレート5Mbpsの3Dコンテンツデータよりも、ノイズ低減効果のより高いノイズ低減処理が施される。
【0206】
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【0207】
図16は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【0208】
コンピュータにおいて、CPU(Central Processing Unit)201,ROM(Read Only Memory)202,RAM(Random Access Memory)203は、バス204により相互に接続されている。
【0209】
バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、入力部206、出力部207、記憶部208、通信部209、及びドライブ210が接続されている。
【0210】
入力部206は、キーボード、マウス、マイクロホンなどよりなる。出力部207は、ディスプレイ、スピーカなどよりなる。記憶部208は、ハードディスクや不揮発性のメモリなどよりなる。通信部209は、ネットワークインタフェースなどよりなる。ドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブル記録媒体211を駆動する。
【0211】
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
【0212】
コンピュータ(CPU201)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記録媒体211に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【0213】
コンピュータでは、プログラムは、リムーバブル記録媒体211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
【0214】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【符号の説明】
【0215】
1 記録再生装置, 12 デコーダ, 13 コントローラ, 14 エンコーダ, 15 操作入力部, 18 ディスクドライブ, 20 ローカルストレージ, 50 設定入力部, 51 視聴状況解析部, 52 視聴条件反映部, 53 コンテンツデータ記憶部, 54 コンテンツ再生部

【特許請求の範囲】
【請求項1】
所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する視聴状況解析手段と、
決定された前記データ削減レベルに従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行うデータ変換手段と
を備える画像処理装置。
【請求項2】
前記視聴状況を表す情報は、3Dコンテンツが前記記憶手段に保存されたときからの経過時間を含み、
前記視聴状況解析手段は、前記経過時間に応じて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する
請求項1に記載の画像処理装置。
【請求項3】
前記視聴状況を表す情報は、3Dコンテンツの視聴回数をさらに含み、
前記視聴状況解析手段は、前記経過時間と前記視聴回数に応じて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する
請求項2に記載の画像処理装置。
【請求項4】
前記視聴状況解析手段は、前記データ削減レベルに加えて、データ削減方法も決定し、
前記データ変換手段は、決定された前記データ削減レベルと前記データ削減方法に従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行う
請求項1に記載の画像処理装置。
【請求項5】
前記データ削減方法は、ビットレート変換、解像度変換、フォーマット変換、または視差制御のいずれかである
請求項4に記載の画像処理装置。
【請求項6】
前記記憶手段に記憶されている3Dコンテンツを再生する再生手段をさらに備え、
前記視聴状況解析手段は、前記再生手段により再生された前記3Dコンテンツの前記ユーザの視聴状況を表す情報を取得し、前記保存基準に基づいて、前記再生手段により再生された前記3Dコンテンツのコンテンツデータのデータ削減レベルを決定する
請求項1に記載の画像処理装置。
【請求項7】
前記データ変換手段により、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮が行われた場合、前記記憶手段は、データ圧縮後の3Dコンテンツのコンテンツデータを記憶し、
前記データ圧縮後の3Dコンテンツのコンテンツデータに高画質化処理を施す高画質化手段をさらに備え、
前記再生手段は、前記高画質化手段による処理後の前記3Dコンテンツのコンテンツデータを再生する
請求項6に記載の画像処理装置。
【請求項8】
ユーザによる、前記3Dコンテンツの視聴状況に応じた保存基準の設定を受け付ける設定入力手段をさらに備え、
前記視聴状況解析手段は、前記設定入力手段において前記ユーザにより設定された前記3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する
請求項1に記載の画像処理装置。
【請求項9】
画像データを処理する画像処理装置が、
所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定し、
決定された前記データ削減レベルに従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行う
画像処理方法。
【請求項10】
コンピュータに、
所定の記憶手段に記憶されている3Dコンテンツに対するユーザの視聴状況を表す情報を取得し、予め設定された3Dコンテンツの視聴状況に応じた保存基準に基づいて、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ削減レベルを決定する視聴状況解析手段と、
決定された前記データ削減レベルに従って、前記記憶手段に記憶されている3Dコンテンツのコンテンツデータのデータ圧縮を行うデータ変換手段
として機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate