説明

再生装置、再生方法、およびプログラム

【課題】ディスプレイの属性に応じて、コンテンツの特徴的な区間として選択する区間を切り替えることができるようにする。
【解決手段】再生装置1においては、3D対応であるか否かとサイズなどの、コンテンツの画像を表示するディスプレイの属性が検出され、検出された属性と、ダイジェスト再生を行うコンテンツの種類に応じて、ダイジェスト再生の対象となる区間が切り替えられる。例えば、再生対象のコンテンツが3Dコンテンツであり、ディスプレイが3D対応の大型のディスプレイである場合、左目用画像と右目用画像の視差の大きい区間が優先的に再生され、ディスプレイが3D非対応または小型のディスプレイである場合、視差以外の他の特徴が多く検出された区間が優先的に再生される。本発明は、3Dコンテンツを再生するプレーヤに適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、再生装置、再生方法、およびプログラムに関し、特に、ディスプレイの属性に応じて、コンテンツの特徴的な区間として選択する区間を切り替えることができるようにした再生装置、再生方法、およびプログラムに関する。
【背景技術】
【0002】
近年、立体視が可能な3D画像関連の技術が注目されている。一般のユーザであっても、例えば映画館などにおいて画質の良い3D対応のディスプレイや3Dコンテンツを利用することができ、3Dで表示される映画の視聴を楽しむことができるようになってきている。
【0003】
ここで、3Dコンテンツとは、3D画像を表示するためのデータを含むコンテンツをいう。3D画像の表示方式には、同じオブジェクト間に視差がある左目用の画像と右目用の画像を交互に表示するフレームシーケンシャル方式がある。左目用の画像と右目用の画像をシャッタメガネ等を用いて視聴者の左右のそれぞれの目に届けることにより、奥行き感を視聴者に感じさせることが可能になる。
【0004】
Blu-ray Disc(商標)等の記録媒体に記録された3Dコンテンツを再生したり、3Dコンテンツを記録したりすることが可能な3D対応のビデオレコーダも提案されている。このような3D対応のビデオレコーダは、通常、互換性を確保するため、3Dコンテンツの他に、2Dコンテンツを再生したり記録したりすることができるようになっている。3D対応のビデオレコーダが再生し、出力するビデオデータは、3D画像のデータであるときもあるし、2D画像のデータであるときもある。
【0005】
従って、3D対応のビデオレコーダに接続するディスプレイは、3D画像と2D画像の両方の画像の表示が可能であることが望ましい。3D画像と2D画像を表示可能なディスプレイである3D対応ディスプレイとしては様々なものが開発されており、テレビジョン受像機用やパーソナルコンピュータ用のものだけでなく、携帯電話機などの小型の機器用の3Dディスプレイも開発されている。
【0006】
ところで、ハードディスクレコーダ等のビデオレコーダの中には、長時間にわたるコンテンツの内容を短時間で把握できるようにするためのダイジェスト再生の機能が搭載されているものがある。
【0007】
ダイジェスト再生の手法には、ビデオデータを解析して画像の特徴的な区間を検出し、その特徴的な区間だけを再生することが知られている。例えば、ズーム、パン、チルトなどのカメラワークに関する動作が検出され、カメラワークに関する動作が行われた時刻を含む区間が、特徴的な区間として再生される。
【0008】
特許文献1には、パン、チルト、ズーム等のカメラワークに関する動作を画像の特徴として検出する技術が開示されている。特許文献2には、シーンの切り替わりを検出し、切り替わり位置の映像の奥行き感を調整する技術が開示されている。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2009−42917号公報
【特許文献2】特開2009−239388号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
上述したダイジェスト再生を、3Dコンテンツを対象として行うことが考えられる。例えば、物や人などのオブジェクトが顕著に飛び出して表示される区間が3D特徴区間として検出され、順次再生されることによって、ユーザは、3D画像を視聴してコンテンツの内容を確認することが可能になる。
【0011】
この場合、ダイジェスト再生を行うビデオレコーダに接続されているディスプレイが3D対応であり、サイズが大型であるときには、臨場感のある3D画像が表示されることになるため、3D特徴区間を優先的に再生することには意味があるといえる。
【0012】
一方、ビデオレコーダに接続されているディスプレイのサイズが小さいときには、3D画像が表示されるものの大型のディスプレイに比べると臨場感が低下するため、パンなどのカメラの動作が検出された区間を優先的に再生した方が効果的な場合もある。また、ビデオレコーダに接続されているディスプレイが3D画像に非対応である場合、3D特徴区間を優先的に再生することにはあまり意味がない。
【0013】
本発明はこのような状況に鑑みてなされたものであり、ディスプレイの属性に応じて、コンテンツの特徴的な区間として選択する区間を切り替えることができるようにするものである。
【課題を解決するための手段】
【0014】
本発明の一側面の再生装置は、コンテンツの画像を表示するディスプレイの属性を検出する属性検出手段と、画像に関する特徴を前記コンテンツの区間毎に検出する特徴検出手段と、前記特徴検出手段により検出された前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間を、前記属性検出手段により検出された前記ディスプレイの属性に応じて切り替える選択手段とを備える。
【0015】
前記属性検出手段には、前記ディスプレイの属性として、3D画像の表示に対応しているか否かと、サイズが閾値より大きいか否かとを検出させ、前記特徴検出手段には、前記画像に関する特徴として、前記コンテンツが3D画像を含むコンテンツである場合には、左目用画像と右目用画像の視差と、前記視差とは異なる種類の所定の特徴とを検出させ、前記コンテンツが2D画像を含むコンテンツである場合には前記所定の特徴を検出させることができる。
【0016】
前記選択手段には、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応する閾値より大きいサイズのディスプレイである場合、前記視差が閾値より大きい区間の中から前記特徴区間を選択させることができる。
【0017】
前記選択手段には、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応しない、または、閾値より小さいサイズのディスプレイである場合、前記所定の特徴が閾値より大きい区間の中から前記特徴区間を選択させることができる。
【0018】
前記選択手段には、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応する閾値より大きいサイズのディスプレイである場合、前記コンテンツの区間毎に、前記所定の特徴の量を表す値に第1の重み係数を乗算して得られた値と、視差を表す値に、前記第1の重み係数より大きい第2の重み係数を乗算して得られた値とを加算することによって評価値を算出し、算出した評価値が閾値より大きい区間を、前記特徴区間として選択させることができる。
【0019】
前記選択手段には、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応しない、または、閾値より小さいサイズのディスプレイである場合、前記コンテンツの区間毎に、前記所定の特徴の量を表す値に第1の重み係数を乗算して得られた値と、視差を表す値に、前記第1の重み係数より小さい第2の重み係数を乗算して得られた値とを加算することによって評価値を算出し、算出した評価値が閾値より大きい区間を、前記特徴区間として選択させることができる。
【0020】
本発明の一側面の再生方法は、コンテンツの画像を表示するディスプレイの属性を検出し、画像に関する特徴を前記コンテンツの区間毎に検出し、前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間を、前記ディスプレイの属性に応じて切り替えるステップを含む。
【0021】
本発明の一側面のプログラムは、コンテンツの画像を表示するディスプレイの属性を検出し、画像に関する特徴を前記コンテンツの区間毎に検出し、前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間を、前記ディスプレイの属性に応じて切り替えるステップを含む処理をコンピュータに実行させる。
【0022】
本発明の一側面においては、コンテンツの画像を表示するディスプレイの属性が検出され、画像に関する特徴が前記コンテンツの区間毎に検出され、前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間が、前記ディスプレイの属性に応じて切り替えられる。
【発明の効果】
【0023】
本発明によれば、ディスプレイの属性に応じて、コンテンツの特徴的な区間として選択する区間を切り替えることができる。
【図面の簡単な説明】
【0024】
【図1】本発明の一実施形態に係る再生装置に接続されるディスプレイの例を示す図である。
【図2】キーフレーム区間の選択の例を示す図である。
【図3】ダイジェスト再生の例を示す図である。
【図4】キーフレーム区間の選択の他の例を示す図である。
【図5】ダイジェスト再生の他の例を示す図である。
【図6】再生装置の構成例を示すブロック図である。
【図7】特徴検出区間の例を示す図である。
【図8】システムコントローラの機能構成例を示すブロック図である。
【図9】3D特徴評価値の例を示す図である。
【図10】優先的に選択する特徴検出区間の例を示す図である。
【図11】再生装置のダイジェスト再生処理について説明するフローチャートである。
【図12】図11のステップS11において行われるキーフレーム区間選択処理1について説明するフローチャートである。
【図13】図12のステップS30において行われる要約モード時の選択処理1について説明するフローチャートである。
【図14】図12のステップS31において行われる要約モード時の選択処理2について説明するフローチャートである。
【図15】図11のステップS12において行われるキーフレーム区間選択処理2について説明するフローチャートである。
【図16】キーフレーム区間の選択の例を示す図である。
【図17】キーフレーム区間の選択の他の例を示す図である。
【図18】重み係数の関係の例を示す図である。
【図19】図11のステップS11において行われる他のキーフレーム区間選択処理1について説明するフローチャートである。
【図20】図11のステップS12において行われる他のキーフレーム区間選択処理2について説明するフローチャートである。
【図21】コンピュータの構成例を示すブロック図である。
【発明を実施するための形態】
【0025】
[ダイジェスト再生について]
図1は、本発明の一実施形態に係る再生装置1に接続されるディスプレイの例を示す図である。
【0026】
再生装置1は、Blu-ray Discなどの着脱可能な記録媒体に記録されている3Dコンテンツや、HDD(Hard Disk Drive)などの内蔵の記録媒体に記録されている3Dコンテンツを再生する機能を有する。また、再生装置1は、着脱可能な記録媒体や内蔵の記録媒体に記録されている2Dコンテンツを再生する機能をも有する。
【0027】
3Dコンテンツは、例えば3D画像の表示方式がフレームシーケンシャル方式である場合には、左目用の画像と右目用の画像からなる3D画像のデータを含むコンテンツである。2Dコンテンツは、通常の2D画像のデータを含むコンテンツである。
【0028】
3Dコンテンツ、または2Dコンテンツを再生して得られた画像データは、HDMI(High Definition Multimedia Interface)規格のケーブルなどを介して再生装置1に接続されている外部のディスプレイに出力される。再生装置1に接続されている外部のディスプレイにより、3D画像、または2D画像が表示される。
【0029】
図1の上段においては、携帯電話機11が再生装置1に接続されている。再生装置1が出力する画像データに基づいて、携帯電話機11のディスプレイに画像が表示される。携帯電話機11のディスプレイは、3D対応であり、例えば2,3インチといったような、サイズが小さいディスプレイである。
【0030】
図1の中段においては、テレビジョン受像機12が再生装置1に接続されている。再生装置1が出力する画像データに基づいて、テレビジョン受像機12のディスプレイに画像が表示される。テレビジョン受像機12のディスプレイは、携帯電話機11のディスプレイよりサイズが大きい、2D対応(3D非対応)のディスプレイである。
【0031】
図1の下段においては、テレビジョン受像機13が再生装置1に接続されている。再生装置1が出力する画像データに基づいて、テレビジョン受像機13のディスプレイに画像が表示される。テレビジョン受像機13のディスプレイは、携帯電話機11のディスプレイよりサイズが大きい、3D対応(2D画像の表示にも対応)のディスプレイである。
【0032】
このように、再生装置1には、機能やサイズなどの属性の異なる各種のディスプレイを有する機器が接続される。再生装置1が再生するコンテンツの画像を表示するディスプレイは、3D対応の小型ディスプレイであるときもあるし、3D非対応のディスプレイであるときもあるし、3D対応の大型ディスプレイであるときもある。
【0033】
また、再生装置1は、コンテンツの全区間のうち、特徴的な区間だけを再生するダイジェスト再生の機能を有する。再生装置1は、ダイジェスト再生の対象となるコンテンツの画像データを解析し、各区間の画像に関する特徴を検出する。
【0034】
再生装置1が検出する特徴は、例えば、パン、チルト、ズーム等の、映像コンテンツを撮影するカメラワークに関する動作と、対象とするコンテンツが3Dコンテンツである場合には、左目用の画像と右目用の画像の間の視差である。視差が大きいほど、左目用の画像と右目用の画像を見たユーザはより大きな奥行き感を感じることになる。
【0035】
以下、適宜、パン、チルト、ズーム等のカメラワークに関する動作をカメラ特徴といい、左目用の画像と右目用の画像の間の視差を3D特徴という。
【0036】
再生装置1による画像データの解析は、例えば3秒間などの所定の長さの各区間を対象として行われる。例えば、パンやズームなどのカメラ特徴に基づいてカメラ特徴評価値が算出され、閾値を超える区間がカメラ特徴区間として決定される。また、再生対象のコンテンツが3Dコンテンツである場合には、視差の量に基づいて3D特徴評価値が算出され、閾値を超える区間が3D特徴区間として決定される。
【0037】
また、再生装置1は、ダイジェスト再生を行う場合、ダイジェスト再生によって画像を表示するディスプレイの属性を検出する。ディスプレイの属性には、3D対応であるか否かと、ディスプレイのサイズが含まれる。サイズは、インチ数、または画素数により表される。
【0038】
再生装置1は、決定したカメラ特徴区間や3D特徴区間のうち、どの区間をキーフレーム区間として選択するのかを、ディスプレイの属性と、再生対象のコンテンツが3Dコンテンツであるか、2Dコンテンツであるかなどに応じて切り替える。キーフレーム区間は、コンテンツの特徴を表していると考えられる区間であり、ダイジェスト再生によって再生される。
【0039】
図2は、再生対象のコンテンツが3Dコンテンツである場合のキーフレーム区間の選択の例を示す図である。
【0040】
図2において、「ズーム」、「パン」の文字を付して示す区間はカメラ特徴区間であり、「飛び出し」の文字を付して示す区間は3D特徴区間である。図2の例においては、再生対象の3Dコンテンツの区間T乃至T10のうち、区間T,T,T,Tがカメラ特徴区間として決定され、区間T,T,Tが3D特徴区間として決定されている。区間T,T,T,T10は、カメラ特徴区間でも3D特徴区間でもない区間である。
【0041】
カメラ特徴区間と3D特徴区間がこのようにして決定された場合を考える。この場合において、ディスプレイが3D対応の小型のディスプレイであるとき、または3D非対応のディスプレイであるとき、図2の下段に示すように、カメラ特徴区間が優先的に再生されるように、区間T,T,T,Tがキーフレーム区間として選択される。
【0042】
ダイジェスト再生時、図3に示すように、カメラ特徴区間である区間T,T,T,Tが続けて再生される。
【0043】
図4は、キーフレーム区間の選択の他の例を示す図である。
【0044】
図4の例においても、再生対象の3Dコンテンツの区間T乃至T10のうち、区間T,T,T,Tがカメラ特徴区間として決定され、区間T,T,Tが3D特徴区間として決定されている。
【0045】
この場合において、ディスプレイが3D対応の大型のディスプレイであるとき、図4の下段に示すように、3D特徴区間が優先的に再生されるように、区間T,T,Tがキーフレーム区間として選択される。3D特徴区間を再生しただけではダイジェスト再生の時間に足りない場合、他の区間である区間Tもキーフレーム区間として適宜選択される。
【0046】
ダイジェスト再生時、図5に示すように、区間T,T,T,Tが連続して再生される。
【0047】
このように、再生装置1においては、ディスプレイの属性と、再生対象のコンテンツの種類などに応じて、ディスプレイに適した区間が優先的に再生されるように、キーフレーム区間として選択される区間が切り替えられる。
【0048】
これにより、例えば、3D対応の小型ディスプレイや3D非対応のディスプレイに3D特徴区間の画像が表示されるといったような、ダイジェスト再生が非効率に行われるのを防ぐことができる。
【0049】
3D対応の小型ディスプレイに3D画像を表示したとしても奥行き感をユーザに与えることができず、ユーザが得る臨場感は小さい。従って、そのような再生は、3D対応の大型ディスプレイに3D画像を表示する場合に較べて非効率といえる。
【0050】
3D対応の大型ディスプレイに3D特徴区間の画像を表示させることによって、ダイジェスト再生を効率的に行うことが可能になる。
【0051】
[再生装置1の構成例]
図6は、再生装置1の構成例を示すブロック図である。
【0052】
システムコントローラ31は、ユーザI/F32から供給されるユーザの操作の内容を表す信号に従って、再生装置1の全体の動作を制御する。
【0053】
例えば、システムコントローラ31は、特徴抽出部36から供給されたデータにより表される各区間の特徴量に基づいて、カメラ特徴区間と3D特徴区間を決定する。また、システムコントローラ31は、表示処理部37から供給された属性データに基づいてディスプレイ22の属性を検出し、上述したようにしてキーフレーム区間を選択する。
【0054】
システムコントローラ31は、画像データの解析時、再生対象のコンテンツの全区間の画像データの再生が行われるように再生制御部33を制御し、ダイジェスト再生時、キーフレーム区間の再生が行われるように再生制御部33を制御する。
【0055】
ユーザI/F32は、リモートコントローラ21からの信号を受光する受光部などにより構成される。ユーザI/F32は、リモートコントローラ21に対するユーザの操作を検出し、その内容を表す信号をシステムコントローラ31に出力する。
【0056】
再生制御部33は、システムコントローラ31による制御に従って、記録媒体34からのデータの読み出しを制御する。再生制御部33は、画像データの解析時、再生対象のコンテンツの全区間の画像データを再生処理部35に供給させ、ダイジェスト再生時、キーフレーム区間の画像データを再生処理部35に供給させる。
【0057】
記録媒体34は例えばHDDであり、コンテンツを記録する。
【0058】
再生処理部35は、記録媒体34から供給されたコンテンツのデータに対して、圧縮されているデータを伸張するデコード処理等の再生処理を施す。再生処理部35は、画像データの解析時、再生処理によって得られた画像データを特徴抽出部36に出力し、ダイジェスト再生時、再生処理によって得られた画像データを表示処理部37に出力する。
【0059】
特徴抽出部36は、ダイジェスト再生の対象とするコンテンツ全体を所定の長さの区間毎に区切り、各区間の特徴を検出する。
【0060】
図7は、特徴検出の対象となる区間の例を示す図である。
【0061】
図7の例においては、コンテンツの画像データ全体が3秒間の区間毎に区切られている。このようにして区切られた各区間を特徴検出の対象となる特徴検出区間として、再生対象のコンテンツが3Dコンテンツである場合にはカメラ特徴と3D特徴が検出され、2Dコンテンツである場合にはカメラ特徴が検出される。
【0062】
特徴抽出部36は、このようにして検出したカメラ特徴の量を表すデータと、3D特徴の量を表すデータをシステムコントローラ31に出力する。
【0063】
表示処理部37は、再生装置1に接続された外部のディスプレイであるディスプレイ22と通信を行う。図1の例の場合、ディスプレイ22は、携帯電話機11、テレビジョン受像機12、またはテレビジョン受像機13のディスプレイとなる。
【0064】
表示処理部37は、ディスプレイ22に要求することによって、ディスプレイ22の属性を表すデータを受信し、受信したデータをシステムコントローラ31に出力する。ディスプレイ22は、再生装置1からの要求に応じて、ディスプレイ22の属性を表すデータを再生装置1に送信する。
【0065】
ディスプレイ22の属性を表すデータは、例えばHDMI規格のversion1.4で規定されるHDMI Vender Specific InfoFrame Packetなどに格納してディスプレイ22から再生装置1に送信される。HDMI Vender Specific InfoFrame Packetは、各ベンダーが規定した制御コマンドの送受信などに用いられるパケットである。HDMI Vender Specific InfoFrame Packetは、送信側の機器から受信側の機器に対して、HDMIのCEC(Consumer Electronics Control)線を介して送信される。
【0066】
また、表示処理部37は、再生処理部35から供給された画像データをディスプレイ22に出力し、画像を表示させる。
【0067】
図8は、システムコントローラ31の機能構成例を示すブロック図である。
【0068】
図8に示すように、システムコントローラ31においては、所定のプログラムが実行されることによって、属性検出部51とキーフレーム区間選択部52が実現される。
【0069】
属性検出部51は、表示処理部37から供給されたデータに基づいてディスプレイ22の属性を検出する。属性検出部51は、ディスプレイ22が3D対応のディスプレイであるか、3D非対応のディスプレイであるかを検出し、3D対応/非対応を表すデータをキーフレーム区間選択部52に出力する。
【0070】
また、属性検出部51は、表示処理部37から供給されたデータに基づいてディスプレイ22のサイズを検出する。例えば、属性検出部51は、ディスプレイ22のインチ数が20インチ以上である場合、または、ディスプレイ22の画素数が1366×768以上である場合、サイズが大型であることを表すデータをキーフレーム区間選択部52に出力する。
【0071】
キーフレーム区間選択部52は、特徴抽出部36から供給されたカメラ特徴の量を表すデータに基づいて、特徴検出区間毎のカメラ特徴評価値を算出する。
【0072】
ここで、カメラ特徴評価値の算出方法として、特許文献1(特開2009−42917号公報)に開示されている方法を用いることが可能である。特許文献1には、ブロックマッチングによりオブジェクトの動きベクトルを検出し、動きベクトルに基づいて、アフィン変換モデルを用いた重回帰分析により、ズーム、パン、チルトの各アフィン係数を求める技術が開示されている。アフィン変換モデルは、フレーム内のオブジェクトの平行移動、拡大/縮小、回転を、行列を用いた座標変換処理として記述したモデルである。
【0073】
キーフレーム区間選択部52は、算出したズームのアフィン係数であるズーム係数、パンのアフィン係数であるパン係数、チルトのアフィン係数であるチルト係数に基づいて、下式(1)によりカメラ特徴評価値を算出する。式(1)のkz,kp,ktは、それぞれ、ズーム係数、パン係数、チルト係数の重み係数である。
カメラ特徴評価値=kz・(ズーム係数)+kp・(パン係数)+kt・(チルト係数)
・・・ (1)
【0074】
キーフレーム区間選択部52は、特徴検出区間内におけるカメラ特徴評価値の平均値を閾値と比較し、カメラ特徴評価値の平均値が閾値を超えている特徴検出区間をカメラ特徴区間として決定する。
【0075】
また、キーフレーム区間選択部52は、特徴抽出部36から供給された3D特徴の量を表すデータに基づいて、特徴検出区間毎に、視差の量に応じた値である3D特徴評価値を算出する。
【0076】
図9は、3D特徴評価値の例を示す図である。
【0077】
特徴抽出部36においては、あるタイミングで表示されるL画像(左目用の画像)と、そのL画像の次のタイミングで表示されるR画像(右目用の画像)中のオブジェクトの位置のずれ量が視差量として検出される。L画像とR画像中のオブジェクトの位置のずれ量はブロックマッチングにより検出される。視差量の検出については、例えば、特開平7−282259号公報、特開平4−360395号公報、特開平6−215111号公報に開示されている。
【0078】
また、特徴抽出部36においては、検出された視差量の特徴検出区間毎の積分結果が求められ、図9の中段に示すような視差量の積分結果を表す時系列データが出力される。特徴検出区間毎の積分値ではなく、視差量の平均値が特徴検出区間毎に求められ、3D特徴の検出結果のデータとして出力されるようにしてもよい。
【0079】
キーフレーム区間選択部52は、特徴抽出部36から供給された時系列データに基づいて、視差量の積分結果が大きい、すなわちオブジェクトの飛び出し量が大きい特徴検出区間の3D特徴評価値として大きい値を設定する。図9の下段の例においては、時刻tからtまでの期間の3D特徴評価値として値Vが設定され、時刻tからtまでの期間の3D特徴評価値として、値Vより大きい値である値Vが設定されている。
【0080】
キーフレーム区間選択部52は、算出した3D特徴評価値を閾値と比較し、3D特徴評価値が閾値を超えている特徴検出区間を3D特徴区間として決定する。
【0081】
なお、画像データの解析が行われたコンテンツが3Dコンテンツである場合、カメラ特徴評価値と3D特徴評価値がいずれも閾値を超えている特徴検出区間については3D特徴区間として決定される。
【0082】
キーフレーム区間選択部52は、ディスプレイ22の属性、ダイジェスト再生の対象となるコンテンツの種類(3D/2D)、および、ダイジェスト再生を行う時間に基づいて、カメラ特徴区間と3D特徴区間の中からキーフレーム区間を選択する。
【0083】
ダイジェスト再生のモードには、10分などの所定の時間だけ再生を行う通常ダイジェスト再生モード(通常モード)と、通常モード時の再生時間より短い時間だけ再生を行う短時間ダイジェスト再生モード(要約モード)とがあり、ユーザがいずれかを選択することが可能とされている。要約モードが選択されている場合、キーフレーム区間として選択される特徴検出区間の数は、通常モードが選択されているときに選択される特徴検出区間の数より少なくなる。
【0084】
図10は、キーフレーム区間として優先的に選択される特徴検出区間の例を示す図である。
【0085】
ユーザにより選択されたダイジェスト再生のモードが通常モードである場合について説明する。
【0086】
この場合において、ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、カメラ特徴区間が、キーフレーム区間として優先的に選択される。
【0087】
例えば、カメラ特徴区間の数が、キーフレーム区間として選択する特徴検出区間の数mより多い場合、キーフレーム評価値の高い順にm区間だけ選択される。キーフレーム区間として選択する特徴検出区間の数mは、ダイジェスト再生モードによってコンテンツを再生する時間によって定まる。
【0088】
ここで、キーフレーム評価値は、キーフレーム区間として選択するか否かの判定の基準となる評価値であり、特徴検出区間毎に、例えば下式(2)により算出される。
キーフレーム評価値=k1・(カメラ特徴評価値)+k2・(3D特徴評価値)
・・・ (2)
【0089】
式(2)のk1,k2は、それぞれ、カメラ特徴評価値、3D特徴評価値の重み係数である。再生対象のコンテンツが2Dコンテンツである場合、重み係数k2として0が設定される。なお、キーフレーム評価値の算出においては、カメラ特徴評価値と3D特徴評価値は同じ単位の値に置き換えられ、正規化される。
【0090】
また、ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、カメラ特徴区間と3D特徴検出区間が、キーフレーム区間として優先的に選択される。
【0091】
なお、ディスプレイ22が3D非対応のディスプレイであるとき、3Dコンテンツの再生は、3D画像を構成するL画像とR画像のうちの一方を表示するなどして、2D画像を表示するようにして行われる。ディスプレイ22が3D対応の小型のディスプレイである場合、そのまま3D画像を表示するようにして、3Dコンテンツの再生が行われるようにしてもよい。
【0092】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、カメラ特徴区間が、キーフレーム区間として優先的に選択される。上述したように、3D対応のディスプレイは2D画像の表示にも対応している。
【0093】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、カメラ特徴区間と3D特徴区間が、キーフレーム区間として優先的に選択される。
【0094】
ユーザにより選択されたダイジェスト再生のモードが要約モードである場合について説明する。
【0095】
この場合において、ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、キーフレーム評価値の高いカメラ特徴区間が、キーフレーム区間として優先的に選択される。
【0096】
ダイジェスト再生のモードが要約モードである場合、再生時間が短いから、キーフレーム区間として選択される特徴検出区間の数は、通常モード時に選択される数より少ない。従って、上述したようにしてキーフレーム評価値の高い順に選択するとした場合、要約モード時にキーフレーム区間として選択される特徴検出区間のキーフレーム評価値は、通常モード時に選択される特徴検出区間のキーフレーム評価値より高くなる。
【0097】
また、ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、キーフレーム評価値の高いカメラ特徴区間が、キーフレーム区間として優先的に選択される。
【0098】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、キーフレーム評価値の高いカメラ特徴区間が、キーフレーム区間として優先的に選択される。
【0099】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、キーフレーム評価値の高い3D特徴区間が、キーフレーム区間として優先的に選択される。
【0100】
なお、図10に示すようにしてキーフレーム区間を選択した場合において、キーフレーム区間の数が、ダイジェスト再生の時間を満たす数に足りないとき、キーフレーム評価値に基づいて他の特徴検出区間がキーフレーム区間として選択される。
【0101】
また、図10に示すようにしてキーフレーム区間を選択した場合において、キーフレーム区間の数が、ダイジェスト再生の時間を満たす数より多いとき、キーフレーム評価値に基づいて特徴検出区間の絞り込みが行われる。
【0102】
[再生装置1の動作]
図11のフローチャートを参照して、図10に示すようにしてキーフレーム区間を選択し、ダイジェスト再生を行う再生装置1の処理について説明する。
【0103】
図11の処理は、例えば、ユーザにより、再生対象のコンテンツが選択され、ダイジェスト再生のモードとして、通常モードと要約モードのうちのいずれかが選択されたときに開始される。ダイジェスト再生を行うことが指示されたとき、表示処理部37とディスプレイ22の間では通信が行われ、ディスプレイ22の属性を表すデータが表示処理部37からシステムコントローラ31に出力される。
【0104】
ステップS1において、システムコントローラ31の属性検出部51は、表示処理部37から供給されたデータに基づいてディスプレイ22の属性を検出する。属性検出部51は、ディスプレイ22の属性を表すデータをキーフレーム区間選択部52に出力する。
【0105】
ステップS2において、キーフレーム区間選択部52は、ディスプレイ22が3D対応の大型ディスプレイであるか否かを判定する。
【0106】
ディスプレイ22が3D対応の大型ディスプレイであるとステップS2において判定した場合、ステップS3において、キーフレーム区間選択部52は、ディスプレイ22の属性を表すDisplay typeの値として3を設定する。
【0107】
一方、ディスプレイ22が3D対応の大型ではない、すなわち3D非対応または小型のディスプレイであるとステップS2において判定した場合、ステップS4において、キーフレーム区間選択部52はDisplay typeの値として2を設定する。
【0108】
ステップS5において、キーフレーム区間選択部52は、ユーザにより選択されたダイジェスト再生のモードに応じて、ダイジェスト再生によって再生する特徴検出区間の数である再生区間数mを設定する。再生区間数mは、ユーザにより選択されたダイジェスト再生のモードが通常モードである場合の方が、要約モードである場合より大きくなる。
【0109】
ステップS6において、特徴抽出部36は、再生対象のコンテンツの全特徴検出区間のカメラ特徴を検出する。再生対象のコンテンツ全体のデータは、再生制御部33により記録媒体34から再生処理部35に供給され、再生処理が施された後、特徴抽出部36に供給されてカメラ特徴の検出に用いられる。
【0110】
ステップS7において、キーフレーム区間選択部52は、特徴抽出部36による検出結果に基づいて、カメラ特徴評価値が閾値を超える特徴検出区間をカメラ特徴区間として決定し、カメラ特徴区間数aを求める。
【0111】
ステップS8において、キーフレーム区間選択部52は、再生対象のコンテンツが3Dコンテンツであるか否かを判定する。
【0112】
再生対象のコンテンツが3DコンテンツであるとステップS8において判定された場合、ステップS9において、特徴抽出部36は、再生対象のコンテンツの全特徴検出区間の3D特徴を検出する。
【0113】
ステップS10において、キーフレーム区間選択部52は、特徴抽出部36による検出結果に基づいて、3D特徴評価値が閾値を超える特徴検出区間を3D特徴区間として決定し、3D特徴区間数bを求める。
【0114】
ステップS11において、キーフレーム区間選択部52はキーフレーム区間選択処理1を行う。
【0115】
一方、再生対象のコンテンツが3DコンテンツではないとステップS8において判定された場合、ステップS12において、キーフレーム区間選択部52はキーフレーム区間選択処理2を行う。
【0116】
キーフレーム区間選択処理1または2により選択されたキーフレーム区間を表す情報は、キーフレーム区間選択部52から再生制御部33に供給され、キーフレーム区間のデータが記録媒体34から再生処理部35に供給される。
【0117】
ステップS13において、再生処理部35は、キーフレーム区間のデータに対して再生処理を施し、再生処理を施すことによって得られた画像データを表示処理部37に出力する。表示処理部37は、キーフレーム区間の画像データをディスプレイ22に出力し、画像を表示させる。なお、キーフレーム区間の音声データも、所定の経路を介してディスプレイ22に供給され、画像の表示にあわせて音声が出力される。
【0118】
全てのキーフレーム区間の再生が終了した後、処理は終了される。
【0119】
次に、図12のフローチャートを参照して、図11のステップS11において行われるキーフレーム区間選択処理1について説明する。
【0120】
キーフレーム区間選択処理1は、図10を参照して説明した、再生対象のコンテンツが3Dコンテンツである場合の処理である。
【0121】
ステップS21において、キーフレーム区間選択部52は、ユーザにより選択されたダイジェスト再生のモードが通常モードであるか否かを判定する。
【0122】
ダイジェスト再生のモードが通常モードであるとステップS21において判定した場合、ステップS22において、キーフレーム区間選択部52は、カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数m以下であるか否かを判定する。
【0123】
カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数m以下であるとステップS22において判定した場合、ステップS23において、キーフレーム区間選択部52は、カメラ特徴区間と3D特徴区間を全てキーフレーム区間として選択する。
【0124】
ステップS24において、キーフレーム区間選択部52は、カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数mと等しいか否かを判定する。
【0125】
カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数mと等しくないとステップS24において判定した場合、ステップS25において、キーフレーム区間選択部52は各特徴検出区間のキーフレーム評価値を算出する。
【0126】
カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数m以下であり、かつ等しくない、すなわち再生区間数m未満である場合、キーフレーム区間の数がダイジェスト再生の再生時間の分に足りないことになる。従って、足りない分を他の特徴検出区間でいわば埋める必要がある。ステップS25においてキーフレーム評価値を算出する対象となる特徴検出区間は、カメラ特徴区間と3D特徴区間以外の区間である。
【0127】
ステップS26において、キーフレーム区間選択部52は、カメラ特徴区間と3D特徴区間以外の特徴検出区間の中から、キーフレーム区間の数がmになるように、キーフレーム評価値の高い順に所定の数の特徴検出区間をキーフレーム区間として選択する。キーフレーム区間の数がmになるように選択された後、図11のステップS11に戻り、それ以降の処理が行われる。
【0128】
カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数mと等しいとステップS24において判定された場合、ステップS25およびS26の処理はスキップされる。
【0129】
一方、カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数mを超えているとステップS22において判定した場合、ステップS27において、キーフレーム区間選択部52は、カメラ特徴区間と3D特徴区間のキーフレーム評価値を算出する。
【0130】
カメラ特徴区間数aと3D特徴区間数bを足した数が再生区間数mを超えている場合、キーフレーム区間の数がダイジェスト再生の再生時間の分を超えていることになる。従って、超えている分だけいわば絞り込みを行う必要がある。
【0131】
ステップS28において、キーフレーム区間選択部52は、カメラ特徴区間と3D特徴区間の中から、キーフレーム評価値の高い順にm区間をキーフレーム区間として選択する。キーフレーム区間がm区間だけ選択された後、図11のステップS11に戻り、それ以降の処理が行われる。
【0132】
一方、ステップS21において、ユーザにより選択されたダイジェスト再生のモードが通常モードではない、すなわち要約モードであると判定した場合、ステップS29において、キーフレーム区間選択部52はDisplay typeの値が3であるか否かを判定する。
【0133】
ディスプレイ22が3D対応の大型ディスプレイであり、Display typeの値が3であるとステップS29において判定した場合、ステップS30において、キーフレーム区間選択部52は要約モード時の選択処理1を行う。
【0134】
一方、ディスプレイ22が3D非対応または小型のディスプレイであり、Display typeの値が2であるとステップS29において判定した場合、ステップS31において、キーフレーム区間選択部52は要約モード時の選択処理2を行う。
【0135】
要約モード時の選択処理1または2においてキーフレーム区間が選択された後、図11のステップS11に戻り、それ以降の処理が行われる。
【0136】
次に、図13のフローチャートを参照して、図12のステップS30において行われる要約モード時の選択処理1について説明する。
【0137】
要約モード時の選択処理1は、図10を参照して説明した、ダイジェスト再生のモードが要約モードであり、再生対象のコンテンツが3Dコンテンツであり、ディスプレイ22が3D対応の大型ディスプレイである場合の処理である。
【0138】
ステップS41において、キーフレーム区間選択部52は、3D特徴区間数bが再生区間数m以下であるか否かを判定する。
【0139】
3D特徴区間数bが再生区間数m以下であるとステップS41において判定した場合、ステップS42において、キーフレーム区間選択部52は、3D特徴区間を全てキーフレーム区間として選択する。
【0140】
ステップS43において、キーフレーム区間選択部52は、3D特徴区間数bが再生区間数mと等しいか否かを判定する。
【0141】
3D特徴区間数bが再生区間数mと等しくないとステップS43において判定した場合、ステップS44において、キーフレーム区間選択部52は、3D特徴区間以外の特徴検出区間のキーフレーム評価値を算出する。
【0142】
3D特徴区間数bが再生区間数m以下であり、かつ等しくない、すなわち再生区間数m未満である場合、キーフレーム区間の数がダイジェスト再生の再生時間の分に足りないから、足りない分を他の特徴検出区間で埋める必要がある。
【0143】
ステップS45において、キーフレーム区間選択部52は、3D特徴区間以外の特徴検出区間の中から、キーフレーム区間の数がmになるように、キーフレーム評価値の高い順に所定の数の特徴検出区間をキーフレーム区間として選択する。キーフレーム区間の数がmになるように選択された後、図12のステップS30に戻り、それ以降の処理が行われる。
【0144】
3D特徴区間数bが再生区間数mと等しいとステップS43において判定された場合、ステップS44およびS45の処理はスキップされる。
【0145】
一方、3D特徴区間数bが再生区間数mを超えているとステップS41において判定した場合、ステップS46において、キーフレーム区間選択部52は、3D特徴区間のキーフレーム評価値を算出する。
【0146】
3D特徴区間数bが再生区間数mを超えている場合、キーフレーム区間の数がダイジェスト再生の再生時間の分を超えているから、超えている分だけ絞り込みを行う必要がある。
【0147】
ステップS47において、キーフレーム区間選択部52は、3D特徴区間の中から、キーフレーム評価値の高い順に、m区間をキーフレーム区間として選択する。キーフレーム区間がm区間だけ選択された後、図12のステップS30に戻り、それ以降の処理が行われる。
【0148】
次に、図14のフローチャートを参照して、図12のステップS31において行われる要約モード時の選択処理2について説明する。
【0149】
要約モード時の選択処理2は、図10を参照して説明した、ダイジェスト再生のモードが要約モードであり、再生対象のコンテンツが3Dコンテンツであり、ディスプレイ22が3D非対応または小型のディスプレイである場合の処理である。
【0150】
ステップS61において、キーフレーム区間選択部52は、カメラ特徴区間数aが再生区間数m以下であるか否かを判定する。
【0151】
カメラ特徴区間数aが再生区間数m以下であるとステップS61において判定した場合、ステップS62において、キーフレーム区間選択部52は、カメラ特徴区間を全てキーフレーム区間として選択する。
【0152】
ステップS63において、キーフレーム区間選択部52は、カメラ特徴区間数aが再生区間数mと等しいか否かを判定する。
【0153】
カメラ特徴区間数aが再生区間数mと等しくないとステップS63において判定した場合、ステップS64において、キーフレーム区間選択部52は、カメラ特徴区間以外の特徴検出区間のキーフレーム評価値を算出する。
【0154】
カメラ特徴区間数aが再生区間数m以下であり、かつ等しくない、すなわち再生区間数m未満である場合、キーフレーム区間の数がダイジェスト再生の再生時間の分に足りないから、足りない分を他の特徴検出区間で埋める必要がある。
【0155】
ステップS65において、キーフレーム区間選択部52は、カメラ特徴区間以外の特徴検出区間の中から、キーフレーム区間の数がmになるように、キーフレーム評価値の高い順に所定の数の特徴検出区間をキーフレーム区間として選択する。キーフレーム区間の数がmになるように選択された後、図12のステップS31に戻り、それ以降の処理が行われる。
【0156】
カメラ特徴区間数aが再生区間数mと等しいとステップS63において判定された場合、ステップS64およびS65の処理はスキップされる。
【0157】
一方、カメラ特徴区間数aが再生区間数mを超えているとステップS61において判定した場合、ステップS66において、キーフレーム区間選択部52は、カメラ特徴区間のキーフレーム評価値を算出する。
【0158】
カメラ特徴区間数aが再生区間数mを超えている場合、キーフレーム区間の数がダイジェスト再生の再生時間の分を超えているから、超えている分だけ絞り込みを行う必要がある。
【0159】
ステップS67において、キーフレーム区間選択部52は、カメラ特徴区間の中から、キーフレーム評価値の高い順に、m区間をキーフレーム区間として選択する。キーフレーム区間がm区間だけ選択された後、図12のステップS31に戻り、それ以降の処理が行われる。
【0160】
次に、図15のフローチャートを参照して、図11のステップS12において行われるキーフレーム区間選択処理2について説明する。
【0161】
キーフレーム区間選択処理2は、図10を参照して説明した、再生対象のコンテンツが2Dコンテンツである場合の処理である。再生対象のコンテンツが2Dコンテンツである場合、ダイジェスト再生のモードが通常モードであっても要約モードであっても、カメラ特徴区間が優先的にキーフレーム区間として選択される。
【0162】
ステップS81において、キーフレーム区間選択部52は、カメラ特徴区間数aが再生区間数m以下であるか否かを判定する。
【0163】
カメラ特徴区間数aが再生区間数m以下であるとステップS81において判定した場合、ステップS82において、キーフレーム区間選択部52は、カメラ特徴区間を全てキーフレーム区間として選択する。
【0164】
ステップS83において、キーフレーム区間選択部52は、カメラ特徴区間数aが再生区間数mと等しいか否かを判定する。
【0165】
カメラ特徴区間数aが再生区間数mと等しくないとステップS83において判定した場合、ステップS84において、キーフレーム区間選択部52は、カメラ特徴区間以外の特徴検出区間のキーフレーム評価値を算出する。
【0166】
ステップS85において、キーフレーム区間選択部52は、カメラ特徴区間以外の特徴検出区間の中から、キーフレーム区間の数がmになるように、キーフレーム評価値の高い順に所定の数の特徴検出区間をキーフレーム区間として選択する。図15の処理が開始される前に3D特徴の検出は行われていないから、重み係数k1が1以上の値であるとすると、キーフレーム評価値はカメラ特徴評価値に比例し、カメラ特徴評価値の高い順にキーフレーム区間として選択されることになる。
【0167】
キーフレーム区間の数がmになるように選択された後、図11のステップS12に戻り、それ以降の処理が行われる。
【0168】
カメラ特徴区間数aが再生区間数mと等しいとステップS83において判定された場合、ステップS84およびS85の処理はスキップされる。
【0169】
一方、カメラ特徴区間数aが再生区間数mを超えているとステップS81において判定した場合、ステップS86において、キーフレーム区間選択部52は、カメラ特徴区間のキーフレーム評価値を算出する。
【0170】
ステップS87において、キーフレーム区間選択部52は、カメラ特徴区間の中から、キーフレーム評価値の高い順に、m区間をキーフレーム区間として選択する。
【0171】
ダイジェスト再生のモードが要約モードである場合の再生区間数mは、通常モード時の再生区間数mより少ない。従って、要約モード時のステップS87の処理においてキーフレーム区間として選択される特徴検出区間のキーフレーム評価値は、通常モード時のステップS87の処理において選択される特徴検出区間のキーフレーム評価値より高くなる。
【0172】
キーフレーム区間がm区間だけ選択された後、図11のステップS12に戻り、それ以降の処理が行われる。
【0173】
図16は、以上の一連の処理によって実現される、再生対象のコンテンツが3Dコンテンツである場合のキーフレーム区間の選択の例を示す図である。
【0174】
図16において、「ズーム」、「パン」、「チルト」の文字を付して示す区間はカメラ特徴区間であり、「飛び出し」の文字を付して示す区間は3D特徴区間である。
【0175】
図16の(1)の例においては、再生対象の3Dコンテンツの区間T乃至T17のうち、区間T,T,T,T11,T12,T15がカメラ特徴区間として決定されている。カメラ特徴区間数aは6である。また、区間T,T,T,T,T16が3D特徴区間として決定されている。3D特徴区間数bは5である。区間T,T,T,T10,T13,T14,T17は、カメラ特徴区間でも3D特徴区間でもない区間である。
【0176】
カメラ特徴区間と3D特徴区間がこのようにして決定され、カメラ特徴区間数aが3D特徴区間数bより多い場合を考える。また、ダイジェスト再生のモードが通常モードである場合の再生区間数mは11、要約モードである場合の再生区間数mは6であるものとする。
【0177】
ダイジェスト再生のモードが通常モードであり、ディスプレイ22が3D対応のディスプレイである場合、図16の(2)に示すように、区間T,T,T,T,T,T,T,T11,T12,T15,T16がキーフレーム区間として選択される。すなわち、図12のステップS23の処理によって、カメラ特徴区間と3D特徴区間が全てキーフレーム区間として選択される。
【0178】
ダイジェスト再生のモードが通常モードであり、ディスプレイ22が3D非対応のディスプレイである場合、図16の(3)に示すように、区間T,T,T,T,T,T,T,T11,T12,T15,T16がキーフレーム区間として選択される。これらの区間も、図12のステップS23の処理によってキーフレーム区間として選択されたものである。
【0179】
ダイジェスト再生のモードが要約モードであり、ディスプレイ22が3D対応のディスプレイである場合、図16の(4)に示すように、区間T,T,T,T,T,T16がキーフレーム区間として選択される。すなわち、図13のステップS42の処理によって、3D特徴区間である区間T,T,T,T,T16がキーフレーム区間として選択され、図13のステップS45の処理によって、カメラ特徴区間である区間Tが選択される。この例によっては、カメラ特徴区間である区間Tによって、再生区間数mの埋め合わせが行われている。
【0180】
ダイジェスト再生のモードが要約モードであり、ディスプレイ22が3D非対応のディスプレイである場合、図16の(5)に示すように、区間T,T,T,T11,T12,T15がキーフレーム区間として選択される。すなわち、図14のステップS62の処理によって、カメラ特徴区間が全てキーフレーム区間として選択される。
【0181】
図17は、以上の一連の処理によって実現される、再生対象のコンテンツが3Dコンテンツである場合のキーフレーム区間の選択の他の例を示す図である。
【0182】
図17の(1)の例においては、再生対象の3Dコンテンツの区間T30乃至T47のうち、区間T36,T41,T42,T45がカメラ特徴区間として決定されている。カメラ特徴区間数aは4である。また、区間T32,T33,T34,T37,T38,T46が3D特徴区間として決定されている。3D特徴区間数bは6である。区間T30,T31,T35,T39,T40,T43,T44,T47は、カメラ特徴区間でも3D特徴区間でもない区間である。
【0183】
カメラ特徴区間と3D特徴区間がこのようにして決定され、3D特徴区間数bがカメラ特徴区間数aより多い場合を考える。また、ダイジェスト再生のモードが通常モードである場合の再生区間数mは10、要約モードである場合の再生区間数mは5であるものとする。
【0184】
ダイジェスト再生のモードが通常モードであり、ディスプレイ22が3D対応のディスプレイである場合、図17の(2)に示すように、区間T32,T33,T34,T36,T37,T38,T41,T42,T45,T46がキーフレーム区間として選択される。すなわち、図12のステップS23の処理によって、カメラ特徴区間と3D特徴区間が全てキーフレーム区間として選択される。
【0185】
ダイジェスト再生のモードが通常モードであり、ディスプレイ22が3D非対応のディスプレイである場合、図17の(3)に示すように、区間T32,T33,T34,T36,T37,T38,T41,T42,T45,T46がキーフレーム区間として選択される。これらの区間も、図12のステップS23の処理によってキーフレーム区間として選択されたものである。
【0186】
ダイジェスト再生のモードが要約モードであり、ディスプレイ22が3D対応のディスプレイである場合、図17の(4)に示すように、区間T32,T33,T37,T38,T46がキーフレーム区間として選択される。すなわち、図13のステップS47の処理によって、3D特徴区間の中から、キーフレーム評価値の高い順に区間T32,T33,T37,T38,T46がキーフレーム区間として選択される。この例においては、キーフレーム評価値に基づく絞り込みによって、3D特徴区間である区間T34がキーフレーム区間として選択されていない。
【0187】
ダイジェスト再生のモードが要約モードであり、ディスプレイ22が3D非対応のディスプレイである場合、図17の(5)に示すように、区間T32,T36,T41,T42,T45がキーフレーム区間として選択される。すなわち、図14のステップS62の処理によって、カメラ特徴区間である区間T36,T41,T42,T45がキーフレーム区間として選択され、図14のステップS65の処理によって、3D特徴区間である区間T32が選択される。この例によっては、3D特徴区間である区間T32によって、再生区間数mの埋め合わせが行われている。
【0188】
以上の処理により、コンテンツのダイジェスト再生を行う場合に、コンテンツの再生区間をディスプレイの属性に応じて切り替えることが可能になる。
【0189】
また、ユーザは、ディスプレイに適した画像を視聴することによって、コンテンツの内容を効率的に確認することができる。
【0190】
[変形例]
以上においては、カメラ特徴区間と3D特徴区間を決定し、その中からキーフレーム区間を優先的に選択するものとしたが、カメラ特徴区間と3D特徴区間を決定することなく、キーフレーム評価値に基づいて選択するようにしてもよい。
【0191】
図18は、キーフレーム評価値を算出するときに用いる重み係数k1,k2の関係の例を示す図である。
【0192】
式(2)を参照して説明したように、k1はカメラ特徴評価値の重み係数であり、k2は3D特徴評価値の重み係数である。
【0193】
ユーザにより選択されたダイジェスト再生のモードが通常モードである場合について説明する。
【0194】
この場合において、ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、重み係数k1として所定の値が設定され、重み係数k2として0が設定される。2Dコンテンツを対象としては3D特徴の検出は行われないから、キーフレーム評価値の算出に際して3D特徴評価値は考慮されない。
【0195】
ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、重み係数k1と重み係数k2として所定の同じ値が設定される。
【0196】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、重み係数k1として所定の値が設定され、重み係数k2として0が設定される。
【0197】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、重み係数k1と重み係数k2として所定の同じ値が設定される。
【0198】
ユーザにより選択されたダイジェスト再生のモードが要約モードである場合について説明する。
【0199】
ダイジェスト再生のモードが要約モードである場合、キーフレーム区間として選択するか否かの判定においてキーフレーム評価値との比較に用いられる閾値として、通常モード時の閾値より大きい値が設定される。これにより、通常、キーフレーム区間として選択される特徴検出区間の数が通常モード時より少なくなる。
【0200】
この場合において、ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、重み係数k1として所定の値が設定され、重み係数k2として0が設定される。
【0201】
ディスプレイ22が3D非対応または小型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、重み係数k1として、重み係数k2より大きい値が設定される。これにより、カメラ特徴評価値がキーフレーム評価値に与える影響の方が、3D特徴評価値がキーフレーム評価値に与える影響より大きくなるから、カメラ特徴評価値の大きい特徴検出区間がキーフレーム区間として選択されやすくなる。
【0202】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが2Dコンテンツであるとき、重み係数k1として所定の値が設定され、重み係数k2として0が設定される。
【0203】
ディスプレイ22が3D対応の大型のディスプレイであり、再生対象のコンテンツが3Dコンテンツであるとき、重み係数k2として、重み係数k1より大きい値が設定される。これにより、3D特徴評価値がキーフレーム評価値に与える影響の方が、カメラ特徴評価値がキーフレーム評価値に与える影響より大きくなるから、3D特徴評価値の大きい特徴検出区間がキーフレーム区間として選択されやすくなる。
【0204】
図18に示すようにして重み係数を設定し、キーフレーム区間を選択する再生装置1の処理について説明する。
【0205】
この処理は、キーフレーム区間選択処理1および2(ステップSS11,S12)の内容が異なる点を除いて、図11を参照して説明した処理と同じ処理である。重複する説明については省略する。
【0206】
図19のフローチャートを参照して、図18に示すようにして重み係数を設定し、キーフレーム区間を選択する場合に図11のステップS11において行われるキーフレーム区間選択処理1について説明する。
【0207】
キーフレーム区間選択処理1は、図18を参照して説明した、再生対象のコンテンツが3Dコンテンツである場合の処理である。
【0208】
ステップS101において、キーフレーム区間選択部52は、ユーザにより選択されたダイジェスト再生のモードが通常モードであるか否かを判定する。
【0209】
ダイジェスト再生のモードが通常モードであるとステップS101において判定した場合、ステップS102において、キーフレーム区間選択部52は、重み係数k1と重み係数k2として所定の同じ値を設定する。また、キーフレーム区間選択部52は、閾値Th1を設定する。
【0210】
一方、ステップS101において、ダイジェスト再生のモードが通常モードではない、すなわち要約モードであると判定した場合、ステップS103において、キーフレーム区間選択部52は、Display typeの値が3であるか否かを判定する。
【0211】
Display typeの値が3であるとステップS103において判定した場合、ステップS104において、キーフレーム区間選択部52は、重み係数k2として、重み係数k1より大きい値を設定する。また、キーフレーム区間選択部52は、閾値Th2として閾値Th1より大きい値を設定する。
【0212】
Display typeの値が2であるとステップS103において判定した場合、ステップS105において、キーフレーム区間選択部52は、重み係数k1として、重み係数k2より大きい値を設定する。また、キーフレーム区間選択部52は、閾値Th2として閾値Th1より大きい値を設定する。
【0213】
重み係数と閾値を設定した後、ステップS106において、キーフレーム区間選択部52は、選択済みのキーフレーム区間の数を表すnの値として0を設定し、初期化する。
【0214】
ステップS107において、キーフレーム区間選択部52は、一つの特徴検出区間に注目する。例えば、先頭の特徴検出区間から順に一区間ずつ注目される。
【0215】
ステップS108において、キーフレーム区間選択部52は、注目している特徴検出区間のキーフレーム評価値を算出する。
【0216】
図19の処理が開始される前、カメラ特徴評価値は図11のステップS7において算出され、3D特徴評価値は図11のステップS10において算出されている。キーフレーム区間選択部52は、式(2)に従って、カメラ特徴評価値と、設定した重み係数k1を乗算するとともに、3D特徴評価値と、設定した重み係数k2を乗算し、それらの乗算結果を加算することによってキーフレーム評価値を算出する。
【0217】
ステップS109において、キーフレーム区間選択部52は、注目している特徴検出区間のキーフレーム評価値が、そのとき設定されている閾値(閾値Th1またはTh2)を超えているか否かを判定する。
【0218】
注目している特徴検出区間のキーフレーム評価値が閾値を超えているとステップS109において判定した場合、ステップS110において、キーフレーム区間選択部52は、いま注目している特徴検出区間をキーフレーム区間として選択する。
【0219】
ステップS111において、キーフレーム区間選択部52は、nの値を1だけインクリメントする。
【0220】
ステップS112において、キーフレーム区間選択部52は、nの値が再生区間数mと等しいか否かを判定する。
【0221】
nの値が再生区間数mと等しいとステップS112において判定された場合、図11のステップS11に戻り、それ以降の処理が行われる。図11のステップS13において、図19の処理により選択されたキーフレーム区間が順次再生される。
【0222】
一方、キーフレーム評価値が閾値を超えていないとステップS109において判定した場合、ステップS113において、キーフレーム区間選択部52は、全ての特徴検出区間に注目したか否かを判定する。nの値が再生区間数mと等しくないとステップS112において判定された場合も同様に処理はステップS113に進む。
【0223】
全ての特徴検出区間に注目していないとステップS113において判定した場合、キーフレーム区間選択部52は、ステップS107に戻り、注目する特徴検出区間を切り替えて同様の処理を繰り返す。
【0224】
一方、全ての特徴検出区間に注目したとステップS113において判定された場合、図11のステップS11に戻り、それ以降の処理が行われる。キーフレーム区間の数が足りない場合、キーフレーム区間の数がmになるように、キーフレーム評価値の高い順に特徴検出区間が選択されるようにしてもよい。
【0225】
次に、図20のフローチャートを参照して、図18に示すようにして重み係数を設定し、キーフレーム区間を選択する場合に図11のステップS12において行われるキーフレーム区間選択処理2について説明する。
【0226】
キーフレーム区間選択処理2は、図18を参照して説明した、再生対象のコンテンツが2Dコンテンツである場合の処理である。
【0227】
ステップS121において、キーフレーム区間選択部52は、ユーザにより選択されたダイジェスト再生のモードが通常モードであるか否かを判定する。
【0228】
ダイジェスト再生のモードが通常モードであるとステップS121において判定した場合、ステップS122において、キーフレーム区間選択部52は、重み係数k1として所定の値を設定し、重み係数k2として0を設定する。また、キーフレーム区間選択部52は、閾値Th1を設定する。
【0229】
一方、ステップS121において、ダイジェスト再生のモードが通常モードではない、すなわち要約モードであると判定した場合、ステップS123において、キーフレーム区間選択部52は、重み係数k1として所定の値を設定し、重み係数k2として0を設定する。また、キーフレーム区間選択部52は、閾値Th2の値として閾値Th1より大きい値を設定する。
【0230】
ステップS124以降の処理は、図19のステップS106以降の処理と同様の処理である。ステップS124において、キーフレーム区間選択部52は、選択済みのキーフレーム区間の数を表すnの値として0を設定し、初期化する。
【0231】
ステップS125において、キーフレーム区間選択部52は、一つの特徴検出区間に注目する。
【0232】
ステップS126において、キーフレーム区間選択部52は、注目している特徴検出区間のキーフレーム評価値を算出する。
【0233】
図19の処理が開始される前、カメラ特徴評価値は図11のステップS7において算出されている。キーフレーム区間選択部52は、式(2)に従って、カメラ特徴評価値と、設定した重み係数k1を乗算することによってキーフレーム評価値を算出する。
【0234】
ステップS127において、キーフレーム区間選択部52は、注目している特徴検出区間のキーフレーム評価値が、そのとき設定されている閾値(閾値Th1またはTh2)を超えているか否かを判定する。
【0235】
注目している特徴検出区間のキーフレーム評価値が閾値を超えているとステップS127において判定した場合、ステップS128において、キーフレーム区間選択部52は、いま注目している特徴検出区間をキーフレーム区間として選択する。
【0236】
ステップS129において、キーフレーム区間選択部52は、nの値を1だけインクリメントする。
【0237】
ステップS130において、キーフレーム区間選択部52は、nの値が再生区間数mと等しいか否かを判定する。
【0238】
nの値が再生区間数mと等しいとステップS130において判定された場合、図11のステップS12に戻り、それ以降の処理が行われる。図11のステップS13において、図20の処理により選択されたキーフレーム区間が順次再生される。
【0239】
一方、キーフレーム評価値が閾値を超えていないとステップS127において判定した場合、ステップS131において、キーフレーム区間選択部52は、全ての特徴検出区間に注目したか否かを判定する。nの値が再生区間数mと等しくないとステップS130において判定された場合も同様に処理はステップS131に進む。
【0240】
全ての特徴検出区間に注目していないとステップS131において判定した場合、キーフレーム区間選択部52は、ステップS125に戻り、注目する特徴検出区間を切り替えて同様の処理を繰り返す。
【0241】
一方、全ての特徴検出区間に注目したとステップS131において判定された場合、図11のステップS12に戻り、それ以降の処理が行われる。キーフレーム区間の数が足りない場合、キーフレーム区間の数がmになるように、キーフレーム評価値の高い順に特徴検出区間が選択されるようにしてもよい。
【0242】
以上の処理によって、ディスプレイ22が3D対応の大型のディスプレイである場合には、3D特徴評価値の大きい特徴検出区間がキーフレーム区間として選択されやすくなり、ユーザはコンテンツの内容を効率的に確認することができる。
【0243】
また、ディスプレイ22が3D非対応または小型のディスプレイである場合には、カメラ特徴評価値の大きい特徴検出区間がキーフレーム区間として選択されやすくなり、これによっても、ユーザはコンテンツの内容を効率的に確認することができる。
【0244】
[変形例]
以上においては、キーフレーム区間の選択がカメラ特徴と3D特徴に基づいて行われるものとしたが、コンテンツに含まれる音声の特徴をも用いてキーフレーム区間が選択されるようにしてもよい。音声の特徴には音量が含まれる。
【0245】
特徴検出区間のうち、音声特徴に基づいて算出された音声特徴評価値が閾値より大きい特徴検出区間は音声特徴区間として決定される。音声特徴を考慮する場合、図10の表における「カメラ特徴区間」の部分を、「カメラ特徴区間+音声特徴区間」と置き換えてキーフレーム区間の選択が行われる。
【0246】
また、図10に示すようにしてカメラ特徴区間と3D特徴区間の中から優先的にキーフレーム区間を選択した場合においてキーフレーム区間の数が足りないとき、音声特徴区間の中からキーフレーム区間が優先的に選択されるようにしてもよい。
【0247】
コンテンツの画像に関する特徴として、3D特徴とともにカメラ特徴が用いられるものとしたが、パンやズームなどのカメラ特徴に代えて、シーンチェンジや明るさ情報などの、画像に関する他の特徴が用いられるようにしてもよい。
【0248】
以上においては、ダイジェスト再生を行うためにキーフレーム区間の選択が行われるものとしたが、選択したキーフレーム区間を用いて他の処理が行われるようにしてもよい。例えば、キーフレーム区間の先頭の1フレームの画像が、録画済みのコンテンツの一覧画面などにコンテンツの代表画として表示されるようにしてもよい。
【0249】
[コンピュータの構成例]
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【0250】
図21は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0251】
CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103は、バス104により相互に接続されている。
【0252】
バス104には、さらに、入出力インタフェース105が接続されている。入出力インタフェース105には、キーボード、マウスなどよりなる入力部106、ディスプレイ、スピーカなどよりなる出力部107が接続される。また、入出力インタフェース105には、ハードディスクや不揮発性のメモリなどよりなる記憶部108、ネットワークインタフェースなどよりなる通信部109、リムーバブルメディア111を駆動するドライブ110が接続される。
【0253】
以上のように構成されるコンピュータでは、CPU101が、例えば、記憶部108に記憶されているプログラムを入出力インタフェース105及びバス104を介してRAM103にロードして実行することにより、上述した一連の処理が行われる。
【0254】
CPU101が実行するプログラムは、例えばリムーバブルメディア111に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部108にインストールされる。
【0255】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0256】
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0257】
1 再生装置, 31 システムコントローラ, 32 ユーザI/F, 33 再生制御部, 34 記録媒体, 35 再生処理部, 36 特徴抽出部, 37 表示処理部, 51 属性検出部, 52 キーフレーム区間選択部

【特許請求の範囲】
【請求項1】
コンテンツの画像を表示するディスプレイの属性を検出する属性検出手段と、
画像に関する特徴を前記コンテンツの区間毎に検出する特徴検出手段と、
前記特徴検出手段により検出された前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間を、前記属性検出手段により検出された前記ディスプレイの属性に応じて切り替える選択手段と
を備える再生装置。
【請求項2】
前記属性検出手段は、前記ディスプレイの属性として、3D画像の表示に対応しているか否かと、サイズが閾値より大きいか否かとを検出し、
前記特徴検出手段は、前記画像に関する特徴として、前記コンテンツが3D画像を含むコンテンツである場合には、左目用画像と右目用画像の視差と、前記視差とは異なる種類の所定の特徴とを検出し、前記コンテンツが2D画像を含むコンテンツである場合には前記所定の特徴を検出する
請求項1に記載の再生装置。
【請求項3】
前記選択手段は、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応する閾値より大きいサイズのディスプレイである場合、前記視差が閾値より大きい区間の中から前記特徴区間を選択する
請求項2に記載の再生装置。
【請求項4】
前記選択手段は、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応しない、または、閾値より小さいサイズのディスプレイである場合、前記所定の特徴が閾値より大きい区間の中から前記特徴区間を選択する
請求項3に記載の再生装置。
【請求項5】
前記選択手段は、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応する閾値より大きいサイズのディスプレイである場合、前記コンテンツの区間毎に、前記所定の特徴の量を表す値に第1の重み係数を乗算して得られた値と、視差を表す値に、前記第1の重み係数より大きい第2の重み係数を乗算して得られた値とを加算することによって評価値を算出し、算出した評価値が閾値より大きい区間を、前記特徴区間として選択する
請求項2に記載の再生装置。
【請求項6】
前記選択手段は、前記コンテンツが3D画像を含むコンテンツであり、前記ディスプレイが3D画像の表示に対応しない、または、閾値より小さいサイズのディスプレイである場合、前記コンテンツの区間毎に、前記所定の特徴の量を表す値に第1の重み係数を乗算して得られた値と、視差を表す値に、前記第1の重み係数より小さい第2の重み係数を乗算して得られた値とを加算することによって評価値を算出し、算出した評価値が閾値より大きい区間を、前記特徴区間として選択する
請求項5に記載の再生装置。
【請求項7】
前記コンテンツの全区間のうち、前記選択手段により選択された前記特徴区間を再生する再生手段と、
前記再生手段により再生された前記特徴区間の画像を前記ディスプレイに表示させる表示制御手段と
をさらに備える請求項1に記載の再生装置。
【請求項8】
コンテンツの画像を表示するディスプレイの属性を検出し、
画像に関する特徴を前記コンテンツの区間毎に検出し、
前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間を、前記ディスプレイの属性に応じて切り替える
ステップを含む再生方法。
【請求項9】
コンテンツの画像を表示するディスプレイの属性を検出し、
画像に関する特徴を前記コンテンツの区間毎に検出し、
前記画像に関する特徴に基づいて選択する前記コンテンツの区間である特徴区間を、前記ディスプレイの属性に応じて切り替える
ステップを含む処理をコンピュータに実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate


【公開番号】特開2011−171862(P2011−171862A)
【公開日】平成23年9月1日(2011.9.1)
【国際特許分類】
【出願番号】特願2010−31857(P2010−31857)
【出願日】平成22年2月16日(2010.2.16)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】