説明

情報処理装置および方法

【課題】ユーザに理解しやすく再生する。
【解決手段】映像出力部51は、映像とともに、映像に対応する字幕やコメント等の付随情報を、図示せぬモニタに表示し、付随情報毎分量計測部46は、付随情報の、1分間あたりに再生されるデータ量である付随情報毎分量を計測し、再生速度算出部47は、計測された付随情報毎分量に基づいて、映像および付随情報の再生速度を算出し、再生制御部48は、再生速度算出部47により算出された再生速度での、映像および付随情報の再生を制御する。本発明は、例えば、AVストリームを再生する再生装置に適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置および方法に関し、特に、情報を再生する際、再生する情報をユーザに理解しやすく再生できるようにする情報処理装置および方法に関する。
【背景技術】
【0002】
近年、テレビジョン放送のデジタル化が進み、また、DVD(Digital Versatile Disk)やBD(Blu-ray Disc(商標))の普及に伴い、映像コンテンツを単に視聴して楽しむだけでなく、映像コンテンツと、その映像コンテンツとともに再生される字幕や関連情報、詳細情報とを併せて楽しむことができるようになった。
【0003】
また、インターネット上で共有された映像コンテンツの所定の部分に対して、他のユーザが書き込んだコメントを、映像コンテンツとともに楽しむこともできるようになった。
【0004】
上述のような映像コンテンツの楽しみ方においては、主たる映像コンテンツよりもむしろ関連情報やコメント等の、映像コンテンツに付随する付随情報の重要度が高まり、ユーザは、その付随情報を楽しむために映像コンテンツを視聴するようになりつつある。
【0005】
しかしながら、上述した付随情報のデータ量は一定ではなく、映像コンテンツのデータ量に対して所定の割合以下であることが保証されているわけでもない。ユーザが映像コンテンツとともに付随情報を楽しむ場合、映像コンテンツに比べて付随情報の方が内容が濃く、ユーザは、理解するのに時間を要することがあり、付随情報の内容を完全に理解するのを諦める場合があった。
【0006】
そこで、字幕等の副映像の内容の更新に応じて、主映像の静止および再生を制御する手法が提案されている(例えば、特許文献1参照)。
【0007】
【特許文献1】特開2003−134472号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、特許文献1の手法では、映像の一時停止および再生を繰り返すので、映像および音声が細切れに再生されてしまい、映像自体の把握に影響を及ぼす恐れがある。
【0009】
本発明は、このような状況に鑑みてなされたものであり、情報を再生する際、再生する情報をユーザに理解しやすく再生できるようにするものである。
【課題を解決するための手段】
【0010】
本発明の一側面の情報処理装置は、第1のデータとともに第2のデータを再生する再生手段と、前記第2のデータの、単位時間あたりに再生されるデータ量である単位時間データ量を計測する計測手段と、前記計測手段により計測された前記第2のデータの前記単位時間データ量に基づいて、前記再生手段による前記第1のデータおよび前記第2のデータの再生を制御する再生制御手段とを備える。
【0011】
前記情報処理装置には、前記第2のデータの前記単位時間データ量に基づいて、前記第1のデータおよび前記第2のデータの再生速度を算出する再生速度算出手段をさらに設け、前記再生制御手段には、前記再生速度算出手段により算出された前記再生速度での、前記再生手段による前記第1のデータおよび前記第2のデータの再生を制御させることができる。
【0012】
前記第1のデータは、主データとし、前記第2のデータは、前記主データに付随する副データとすることができる。
【0013】
前記第1のデータは、映像データとし、前記第2のデータは、前記映像データに付随する文字データとすることができる。
【0014】
前記情報処理装置には、前記第2のデータの前記単位時間データ量と、前記再生速度との関係を対応付ける対応情報を記憶する記憶手段をさらに設け、前記再生速度算出手段には、前記記憶手段により記憶されている前記対応情報と、前記計測手段により計測された前記第2のデータの前記単位時間データ量とに基づいて、前記再生速度を算出させることができる。
【0015】
前記対応情報は、前記再生速度が、前記第2のデータの前記単位時間データ量に対して反比例する関係を示すようにできる。
【0016】
前記情報処理装置には、前記対応情報により示される関係を調整する指示を入力する入力手段をさらに設け、前記再生速度算出手段には、調整が指示された前記対応情報と、前記第2のデータの前記単位時間データ量とに基づいて、前記再生速度を算出させることができる。
【0017】
前記情報処理装置には、前記第2のデータの前記単位時間データ量に基づいて、前記第1のデータの所定の区間の再生を繰り返す繰り返し回数を設定する繰り返し回数設定手段をさらに設け、前記再生制御手段には、前記再生速度算出手段により算出された前記再生速度での、前記繰り返し回数分の、前記第1のデータおよび前記第2のデータの前記所定の区間の再生を制御させることができる。
【0018】
前記第1のデータは、前記第2のデータとともに、所定の記録媒体に記録されるようにできる。
【0019】
前記第1のデータおよび前記第2のデータの両方、または、いずれか一方は、ネットワーク上の所定のサーバに記憶されるようにでき、前記情報処理装置には、前記第1のデータおよび前記第2のデータの両方、または、いずれか一方を、前記所定のサーバとの通信によって取得する通信手段をさらに設けることができる。
【0020】
前記情報処理装置には、複数の前記計測手段により計測された、前記第2のデータそれぞれの前記単位時間データ量に基づいて、複数の前記再生制御手段による、前記第2のデータそれぞれが付随する前記第1のデータそれぞれの再生の制御に基づいて表示される映像それぞれの表示領域の大きさを設定する表示領域設定手段と、前記表示領域設定手段により設定された表示領域の大きさの前記映像それぞれを合成した合成映像を生成する合成手段とをさらに設け、前記再生手段には、前記合成映像を再生させることができる。
【0021】
前記情報処理装置には、複数の前記計測手段により計測された、前記第2のデータそれぞれの前記単位時間データ量に基づいて、複数の前記再生制御手段による、前記第2のデータそれぞれが付随する前記第1のデータそれぞれの再生の制御に基づいて表示される映像それぞれの重ね順を設定する重ね順設定手段と、前記重ね順設定手段により設定された重ね順で前記映像それぞれを合成した合成映像を生成する合成手段とをさらに設け、前記再生手段は、前記合成映像を再生させることができる。
【0022】
前記情報処理装置には、複数の前記計測手段により計測された、前記第2のデータそれぞれの前記単位時間データ量に基づいて、複数の前記再生制御手段による、前記第2のデータそれぞれが付随する前記第1のデータそれぞれの再生の制御に基づいて表示される映像それぞれに対応して出力される音声の音声データの音量レベルを設定する音量設定手段と、前記音量設定手段により設定された音量レベルの前記音声データそれぞれを合成した合成音声データを生成する合成手段とをさらに設けることができる。
【0023】
本発明の一側面の情報処理方法は、第1のデータとともに第2のデータを再生する再生ステップと、前記第2のデータの、単位時間あたりに再生されるデータ量である単位時間データ量を計測する計測ステップと、前記計測手段により計測された前記第2のデータの前記単位時間データ量に基づいて、前記再生ステップの処理における前記第1のデータおよび前記第2のデータの再生を制御する再生制御ステップとを含む。
【0024】
本発明の一側面においては、第1のデータとともに第2のデータが再生され、第2のデータの、単位時間あたりに再生されるデータ量である単位時間データ量が計測され、計測手段により計測された第2のデータの単位時間データ量に基づいて、第1のデータおよび第2のデータの再生が制御される。
【発明の効果】
【0025】
本発明の一側面によれば、情報を再生する際、再生する情報をユーザに理解しやすく再生することが可能となる。
【発明を実施するための最良の形態】
【0026】
以下、本発明の実施の形態について図を参照して説明する。
【0027】
図1は、本発明を適用した再生装置の一実施の形態の構成例を示すブロック図である。
【0028】
図1の再生装置11は、例えば、DVD等の図示せぬ記録媒体に記録されている、所定の方式で符号化されたAV(Audio Visual)ストリームを読み出し、復号することで得られる映像や音声を再生する。
【0029】
また、再生装置11は、映像や音楽とともに、映像に対応する字幕やコメント等の文字データ、映像および音楽に関連する関連情報、映像および音楽の詳細を示す詳細情報等を再生する。字幕やコメント、関連情報、および詳細情報等は、映像や音楽に付随する情報であり、以下、付随情報と称する。付随情報は、映像とともに再生される。
【0030】
再生装置11が読み出すAVストリームは、例えば、MPEG(Moving Picture Experts Group)2-PS(Program Stream)のデータ形式であり、MPEG2方式に従って符号化された映像ストリーム、音声ストリーム、および付随情報が、MPEG2システムの方式に従って多重化されている。
【0031】
図1の再生装置11は、分離部41、音声復号部42、映像復号部43、付随情報復号部44、基準時刻生成部45、付随情報毎分量計測部46、再生速度算出部47、再生制御部48、音声出力部49、映像処理部50、および映像出力部51から構成される。
【0032】
分離部41は、図示せぬ記録媒体から読み出されたAVストリームから、映像ストリーム、音声ストリーム、符号化された付随情報(以下、適宜、符号化付随情報と称する)、および、AVストリームに挿入されている時刻情報を分離する。分離部41は、AVストリームから分離した音声ストリームを音声復号部42に、映像ストリームを映像復号部43に、符号化付随情報を付随情報復号部44に、それぞれ供給する。また、分離部41は、分離した時刻情報を、基準時刻生成部45および再生制御部48に供給する。
【0033】
音声復号部42は、その内部に図示せぬメモリを有し、そのメモリに、分離部41から供給された音声ストリームを一時記憶(バッファリング)する。音声復号部42は、音声ストリームから表示時刻情報を取り出し、再生制御部48に供給する。音声復号部42は、所定のタイミングで、バッファリングされた音声ストリームを復号し、その結果得られる音声データを、音声出力部49に供給する。
【0034】
映像復号部43は、その内部に図示せぬメモリを有し、そのメモリに、分離部41から供給された映像ストリームを一時記憶(バッファリング)する。映像復号部43は、映像ストリームから表示時刻情報を取り出し、再生制御部48に供給する。映像復号部43は、所定のタイミングで、バッファリングされた映像ストリームを復号し、その結果得られる映像データを、映像処理部50に供給する。
【0035】
付随情報復号部44は、その内部に図示せぬメモリを有し、そのメモリに、分離部41から供給された符号化付随情報を一時記憶(バッファリング)する。付随情報復号部44は、符号化付随情報から表示時刻情報を取り出し、再生制御部48に供給する。付随情報復号部44は、所定のタイミングで、バッファリングされた符号化付随情報を復号し、その結果得られる付随情報を、映像処理部50に供給する。
【0036】
基準時刻生成部45は、分離部41から供給された時刻情報に含まれる、システムクロックを校正するための情報を基に、27MHzのクロックを校正し、システムクロックを生成して、付随情報毎分量計測部46および再生制御部48に供給する。
【0037】
付随情報毎分量計測部46は、基準時刻生成部45からのシステムクロックに基づいて、付随情報復号部44において、例えば、1分間等の単位時間あたりに復号される符号化付随情報のデータ量(以下、適宜、付随情報毎分量と称する)を計測し、再生速度算出部47に供給する。
【0038】
付随情報毎分量の単位は、符号化付随情報が単位時間あたりに復号されるビット数や、付随情報が文字データである場合には、例えば、復号された結果、単位時間あたりに再生(表示)される文字数などとされる。
【0039】
再生制御部48は、音声復号部42、映像復号部43、および付随情報復号部44によって復号された音声データ、映像データ、および付随情報の再生を制御する。
【0040】
より具体的には、再生制御部48は、音声復号部42、映像復号部43、および付随情報復号部44から供給される表示時刻情報と、基準時刻生成部45から供給されるシステムクロックとが一致したとき、音声復号部42、映像復号部43、および付随情報復号部44それぞれに復号を指示する。
【0041】
すなわち、音声復号部42、映像復号部43、および付随情報復号部44は、再生制御部48から復号が指示されたタイミングで、それぞれの内部に有するメモリにバッファリングされている映像ストリーム、音声ストリーム、および符号化付随情報を、それぞれ復号する。
【0042】
再生速度算出部47は、付随情報毎分量計測部46から供給された付随情報毎分量に基づいて、再生制御部48の制御により再生される映像データ、音声データ、および付随情報の再生速度を算出する。
【0043】
さらに、再生制御部48は、再生速度算出部47により算出された再生速度での、音声データ、映像データ、および付随情報の再生を制御する。
【0044】
より具体的には、再生制御部48は、音声データ、映像データ、および付随情報の再生速度が、再生速度算出部47により算出された再生速度となるように、表示時刻情報とシステムクロックとが一致する時刻の間隔を調整して、音声復号部42、映像復号部43、および付随情報復号部44に復号を指示する。
【0045】
音声出力部49は、図示せぬスピーカに接続されており、音声復号部42からの音声データに対応する音声を、スピーカより出力する。
【0046】
映像処理部50は、映像復号部43からの映像データと、付随情報復号部44からの付随情報とを合成し、1つの映像データとして、映像出力部51に供給する。
【0047】
映像出力部51は、映像を表示するモニタ(図示せず)に接続されており、映像処理部50からの映像データに対応する映像を、モニタに表示する。
【0048】
次に、図2のブロック図を参照して、図1の再生速度算出部47の構成例について説明する。
【0049】
図2の再生速度算出部47は、再生速度調整量算出部71、再生速度調整量管理部72、および逆比算出部73から構成される。
【0050】
再生速度調整量算出部71は、付随情報毎分量計測部46からの付随情報毎分量と、再生速度調整量管理部72に記憶されている再生速度調整量対応情報とに基づいて、再生速度調整量を算出し、逆比算出部73に供給する。再生速度調整量対応情報は、付随情報毎分量と、再生速度の遅さの度合いを表す再生速度調整量との関係を対応付ける情報であり、その詳細は、後述する。
【0051】
逆比算出部73は、再生速度調整量算出部71から供給された再生速度調整量の逆比(逆数)を算出し、再生制御部48に供給する。
【0052】
すなわち、再生制御部48は、音声データ、映像データ、および付随情報の再生速度が、標準再生速度(以下、単に、標準速度と称する)と再生速度調整量の逆比との積で表される再生速度となるように、表示時刻情報およびシステムクロックとが一致する時刻の間隔を調整して、音声復号部42、映像復号部43、および付随情報復号部44に復号を指示する。
【0053】
次に、図3のフローチャートを参照して、図1の再生装置11のストリームの再生処理について説明する。
【0054】
ステップS11において、分離部41は、図示せぬ記録媒体から読み出されたAVストリームから、映像ストリーム、音声ストリーム、符号化付随情報、および時刻情報を分離する。そして、分離部41は、そのうちの音声ストリームを音声復号部42に、映像ストリームを映像復号部43に、符号化付随情報を付随情報復号部44に、それぞれ供給する。また、分離部41は、分離した時刻情報を、基準時刻生成部45および再生制御部48に供給する。
【0055】
ステップS12において、音声復号部42、映像復号部43、および付随情報復号部44は、分離部41から供給され、それぞれの内部に有するメモリにバッファリングされている映像ストリーム、音声ストリーム、および符号化付随情報を、それぞれ復号する。
【0056】
ステップS13において、付随情報毎分量計測部46は、付随情報復号部44において、1分間あたりに復号される付随情報のデータ量である付随情報毎分量を計測し、再生速度算出部47に供給する。
【0057】
ステップS14において、再生速度算出部47は、付随情報毎分量計測部46から供給された付随情報毎分量が、所定の値Sより小さいか否かを判定する。
【0058】
ここで、所定の値Sは、予め設定された値であり、それより大きい値であれば、ユーザは、標準速度で映像とともに再生(表示)される付随情報を完全に理解することが難しく、それより小さい値であれば、付随情報を完全に理解できるとされる付随情報毎分量を表す。
【0059】
ステップS14において、付随情報毎分量が、所定の値Sより小さくないと判定された場合、処理は、ステップS15に進む。そして、ステップS15において、再生速度算出部47の再生速度調整量算出部71は、付随情報毎分量と、再生速度調整量管理部72に記憶されている再生速度調整量対応情報とに基づいて、再生速度調整量を算出する。
【0060】
ここで、図4を参照して、再生速度調整量対応情報が示す、付随情報毎分量と再生速度調整量との関係について説明する。
【0061】
図4において、横軸は、付随情報毎分量を示し、縦軸は、再生速度調整量を示している。
【0062】
図4に示されるように、付随情報毎分量が0乃至Sである場合、再生速度調整量は1となり、付随情報毎分量がSより小さくない場合、再生速度調整量は、付随情報毎分量に対して比例関係を示す。
【0063】
すなわち、ステップS15において、再生速度調整量算出部71は、図4に示される、付随情報毎分量と再生速度調整量との関係に基づいて、付随情報毎分量Nに応じた再生速度調整量nを求め、逆比算出部73に供給して、ステップS16に進む。
【0064】
ステップS16において、逆比算出部73は、再生速度調整量算出部71から供給された再生速度調整量nの逆比(逆数)1/nを算出し、再生制御部48に供給する。
【0065】
ステップS17において、再生制御部48は、標準速度の1/n倍速での、映像、音声、および付随情報の再生を制御する。
【0066】
具体的には、再生制御部48は、音声データ、映像データ、および付随情報の再生速度が、標準速度の1/n倍速となるように、表示時刻情報およびシステムクロックとが一致する時刻の間隔を調整して、音声復号部42、映像復号部43、および付随情報復号部44に復号を指示する。例えば、再生制御部48は、システムクロックのnクロックのうちの1クロックを、システムクロックとして採用し、そのシステムクロックと表示時刻情報とが一致したとき、音声復号部42、映像復号部43、および付随情報復号部44に復号を指示する。そして、音声復号部42、映像復号部43、および付随情報復号部44は、それぞれの内部に有するメモリにバッファリングされている映像ストリーム、音声ストリーム、および符号化付随情報を、再生制御部48から復号が指示されたタイミングで復号する。
【0067】
そして、音声復号部42は、復号の結果得られた音声データを音声出力部49に供給し、音声出力部49は、音声復号部42からの音声データに対応する音声を、図示せぬスピーカより出力する。また、映像復号部43および付随情報復号部44はそれぞれ、復号の結果得られた映像データおよび付随情報を、映像処理部50に供給し、映像処理部50は、映像データと付随情報とを合成した、1つの映像データを映像出力部51に供給する。映像出力部51は、映像処理部50からの映像データに対応する映像を、モニタに表示する。
【0068】
一方、ステップS14において、付随情報毎分量が、所定の値Sより小さいと判定された場合、処理は、ステップS18に進む。
【0069】
ステップS18において、再生速度算出部47の再生速度調整量算出部71は、図4に示される、付随情報毎分量と再生速度調整量との関係に基づいて、再生速度調整量を1とし、逆比算出部73に供給する。逆比算出部73は、再生速度調整量の逆比(逆数)を算出するが、1である再生速度調整量の逆比は1であるので、再生制御部48は、標準速度での、映像、音声、および付随情報の再生を制御する。
【0070】
以上の処理により、再生装置11は、付随情報毎分量Nに応じて、標準速度の1/n倍速で、映像、音声、および付随情報を再生することができる。
【0071】
このように、付随情報毎分量が多いほど、再生速度が遅くなるので、標準速度では、ユーザが完全に理解することが難しい量の付随情報が、映像とともに表示されるAVストリームであっても、付随情報の量に応じて、再生速度を遅くして、ユーザに理解しやすく再生することが可能となる。
【0072】
なお、付随情報毎分量と再生速度調整量との関係は、図4を参照して説明したような比例関係に限らず、例えば、図5に示されるように、付随情報毎分量が0乃至Sである場合、再生速度調整量は1となり、付随情報毎分量がSより大きい場合、再生速度調整量は、所定の付随情報毎分量毎に、段階的に増加していくようにしてもよい。この場合、再生速度は、所定の付随情報毎分量毎に、段階的に遅くなる。
【0073】
次に、図6を参照して、再生装置の他の構成例について説明する。
【0074】
なお、図6においては、図1と対応する部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図6の再生装置111は、再生繰り返し数算出部141を新たに備え、再生制御部48に代わって再生制御部142を備えている以外は、基本的に、図1の再生装置11と同様の構成を有するものである。
【0075】
図6の再生装置111において、付随情報毎分量計測部46は、付随情報復号部44において、付随情報毎分量を計測し、再生速度算出部47および再生繰り返し数算出部141に供給する。
【0076】
再生繰り返し数算出部141は、付随情報毎分量計測部46から供給された付随情報毎分量に基づいて、映像処理部50の制御により表示される映像および付随情報の、所定の区間の再生を繰り返す再生繰り返し数を設定し、再生制御部142に供給する。
【0077】
ここで、所定の区間は、例えば、映像ストリームに含まれる、シーンの開始時刻を指定するstart情報と、そのシーンの再生時間を秒単位で指定するduration情報で表される区間(時間)を示す。すなわち、所定の区間は、所定の1シーンが再生される時間を示す。
【0078】
再生制御部142は、再生制御部48と同様の機能を備えるとともに、再生速度算出部47により算出された再生速度での、再生繰り返し数算出部141から供給された再生繰り返し数分、所定の区間の再生を繰り返すように、再生を制御する。
【0079】
次に、図7のフローチャートを参照して、図6の再生装置111のストリームの再生処理について説明する。
【0080】
図7のフローチャートのステップS41およびS42、並びにステップS50乃至S53の処理は、図3のフローチャートのステップS11およびS12、並びにステップS15乃至S18の処理と同様であるので、その説明は省略する。
【0081】
ステップS43において、付随情報毎分量計測部46は、付随情報復号部44において、1分間あたりに復号される付随情報毎分量を計測し、再生速度算出部47および再生繰り返し数算出部141に供給する。
【0082】
ステップS44において、再生速度算出部47は、付随情報毎分量計測部46から供給された付随情報毎分量が、所定の値Sより小さいか否かを判定する。
【0083】
ステップS44において、付随情報毎分量が、所定の値Sより小さくないと判定された場合、処理は、ステップS45に進み、再生速度算出部47は、付随情報毎分量が、所定の値Mより小さくないか否かを判定する。
【0084】
ここで、所定の値Mは、対応する再生速度調整量mにより決定される再生速度が、再生装置111における再生速度の下限とされる付随情報毎分量を表す。
【0085】
ステップS45において、付随情報毎分量が、所定の値Mより小さくないと判定された場合、処理は、ステップS46に進み、再生速度算出部47の再生速度調整量算出部71は、付随情報毎分量と、再生速度調整量管理部72に記憶されている再生速度調整量対応情報とに基づいて、再生速度調整量を算出する。
【0086】
ここで、図8を参照して、再生速度調整量対応情報が示す、付随情報毎分量と再生速度調整量との関係、および付随情報毎分量と再生繰り返し数との関係について説明する。
【0087】
図8において、横軸は、付随情報毎分量を示し、左側の縦軸は、太線で表される再生速度調整量を示し、右側の縦軸は、太点線で表される再生繰り返し数を示している。
【0088】
図8に示されるように、付随情報毎分量が0乃至Sである場合、再生速度調整量は1となり、付随情報毎分量がSより大きい場合、再生速度調整量は、付随情報毎分量に対して比例関係を示す。そして、付随情報毎分量がMより大きい場合、再生速度調整量は、付随情報毎分量に対して一定の値mとなる。
【0089】
すなわち、ステップS46において、再生速度調整量算出部71は、図8に示される、付随情報毎分量と再生速度調整量との関係に基づいて、再生速度調整量をmとし、逆比算出部73に供給して、ステップS47に進む。
【0090】
ステップS47において、逆比算出部73は、再生速度調整量算出部71から供給された再生速度調整量の逆比(逆数)1/mを算出し、再生制御部142に供給する。
【0091】
ステップS48において、再生繰り返し数算出部141は、付随情報毎分量計測部46から供給された付随情報毎分量に基づいて、映像の所定の1シーンの再生を繰り返す再生繰り返し数を設定し、再生制御部142に供給する。
【0092】
ここで、図8に示されるように、付随情報毎分量が0乃至Mである場合、再生繰り返し数は1となり、付随情報毎分量がMより大きく、かつ、Zより小さい場合、再生繰り返し数は2となる。さらに、付随情報毎分量がZより大きい場合、再生繰り返し数は3となる。
【0093】
すなわち、ステップS48において、再生繰り返し数算出部141は、図8に示される、付随情報毎分量と再生繰り返し数との関係に基づいて、例えば、付随情報毎分量がMより大きく、かつ、Zより小さい場合には、再生繰り返し数を2とし、再生制御部142に供給して、ステップS49に進む。
【0094】
ステップS49において、再生制御部142は、標準速度の1/m倍速での、所定の区間の映像、音声、および付随情報の再生を、再生繰り返し数分、繰り返すように再生を制御する。例えば、再生制御部48は、標準速度の1/m倍速で、所定の1シーンを2回繰り返すように、映像、音声、および付随情報の再生を制御する。
【0095】
一方、ステップS45において、付随情報毎分量が、所定の値Mより小さいと判定された場合、処理は、ステップS50に進み、最終的に、標準速度の1/n倍速で、映像、音声、および付随情報が再生される。
【0096】
また、ステップS44において、付随情報毎分量が、所定の値Sより小さいと判定された場合、処理は、ステップS53に進み、最終的に、標準速度で、映像、音声、および付随情報が再生される。
【0097】
以上の処理により、再生装置111は、付随情報毎分量Nに応じて、標準速度の1/n倍速で、映像、音声、および付随情報を再生するとともに、付随情報毎分量Mより大きい場合には、再生速度の下限を維持しながら、所定の区間、繰り返し再生することができる。
【0098】
このように、最も遅い再生速度で、所定の区間、繰り返し再生されるので、最も遅い再生速度でも、ユーザが完全に理解することが難しい量の付随情報が、映像とともに表示されるAVストリームであっても、ユーザに理解しやすく再生することが可能となる。
【0099】
なお、上述した説明において、再生が繰り返される区間は、start情報およびduration情報で決まる所定のシーンが再生される時間としたが、例えば、5秒間等の、予め設定された所定の時間であってもよい。また、映像の特徴量の変化を用いて検出されるシーンチェンジの間隔であってもよいし、映像とともに再生される付随情報としての文字列(文字データ)の文脈が切り替わる時点の間隔であってもよい。
【0100】
また、図8においては、Mより大きい付随情報毎分量に対する再生速度を、一定にするようにしたが、例えば、図9に示されるように、付随情報毎分量に応じて再生繰り返し数が増える毎に、mまで増加した再生速度調整量を所定の値まで下げる、すなわち、標準速度の1/m倍速まで遅くなった再生速度を所定の再生速度まで速くするようにしてもよい。
【0101】
上述した説明において、再生装置は、図示せぬ記録媒体から、映像、音声、および付随情報が含まれる(多重化された)AVストリームを読み出すようにしたが、図10に示される再生装置211のように、インターネット210等のネットワークを介して、サーバ212からAVストリームに含まれる情報の一部または全部を読み出すようにしてもよい。
【0102】
図11は、サーバ212から、AVストリームに含まれる情報の一部を読み出すようにした再生装置211の構成例を示している。
【0103】
なお、図11においては、図1と対応する部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図11の再生装置211は、分離部41に代わって分離部241を備え、新たに、通信部242を備えている以外は、基本的に、図1の再生装置11と同様の構成を有するものである。
【0104】
図11の再生装置211において、分離部241は、図示せぬ記録媒体から読み出されたAVストリームから、映像ストリーム、音声ストリーム、および、AVストリームに挿入されている時刻情報を分離し、そのうちの音声ストリームを音声復号部42に、映像ストリームを映像復号部43に、それぞれ供給する。また、分離部241は、分離した時刻情報を、基準時刻生成部45および再生制御部48に供給する。
【0105】
通信部242は、インターネット210を介して、サーバ212との通信を行うことで、サーバ212から、図示せぬ記録媒体に記憶されているAVストリームに対応する付随情報(符号化付随情報)を取得し、付随情報復号部44に供給する。
【0106】
このような構成により、付随情報が含まれていないAVストリームを読み出して再生する場合でも、再生装置211は、サーバ212からの付随情報の量に応じて、再生速度を遅くして、ユーザに理解しやすく再生することができる。
【0107】
また、図11の構成では、付随情報をサーバ212から取得するようにしたが、映像、音声、および付随情報を含むAVストリームをサーバ212から取得する構成としてもよい。さらに、映像および音声を含むAVストリームと、付随情報(符号化付随情報)とをそれぞれ異なるサーバから取得するようにしてもよい。
【0108】
なお、図11の再生装置211によるストリームの再生処理については、付随情報をサーバ212から取得する点を除いて、図3のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【0109】
以上においては、再生装置が、再生速度を調整する例について説明してきたが、ユーザ自身が、再生速度を調整することはできなかった。
【0110】
そこで、図12を参照して、ユーザにより再生速度を調整できるようにした再生装置の構成例について説明する。
【0111】
なお、図12においては、図1と対応する部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図12の再生装置311は、新たに、操作入力部341を備え、再生速度算出部47に代わって再生速度算出部342を備えている以外は、基本的に、図1の再生装置11と同様の構成を有するものである。
【0112】
操作入力部341は、例えば、各種の操作ボタンやダイヤル等から構成され、再生装置311に対する指示が入力されるとき、ユーザに操作され、その操作内容に対応した操作信号を発生し、再生速度算出部342に供給する。
【0113】
より具体的には、操作入力部341は、再生速度に関する調整が指示されるとき、ユーザにより操作され、その操作内容に対応した操作信号を発生し、再生速度算出部342に供給する。
【0114】
再生速度算出部342は、操作入力部341からの操作信号に応じて、算出した再生速度に関する調整を行う。
【0115】
次に、図13のブロック図を参照して、図12の再生速度算出部342の構成例について説明する。
【0116】
図13においては、図2と対応する部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図13の再生速度算出部342は、逆比算出部73に代わって逆比算出部371を備えている以外は、基本的に、図2の再生速度算出部47と同様の構成を有するものである。
【0117】
逆比算出部371は、再生速度調整量算出部71から供給された再生速度調整量の逆比(逆数)を算出するとともに、その逆比と、操作入力部341からの操作信号に応じた所定の係数α(以下、速度調整係数αと称する)とを乗算し、乗算の結果得られた積を、再生制御部48に供給する。
【0118】
例えば、逆比算出部371は、算出した再生速度調整量の逆比1/nと、速度調整係数αとを乗算し、乗算の結果得られた積α/nを、再生制御部48に供給する。
【0119】
速度調整係数αが1未満である場合、積α/nは、逆比1/nより小さい値となり、再生速度は、標準速度の1/n倍速より遅い再生速度となる。また、速度調整係数αが1より大きい場合、積α/nは、逆比1/nより大きい値となり、再生速度は、標準速度の1/n倍速より速い再生速度となる。
【0120】
次に、図14のフローチャートを参照して、図13の再生速度算出部342の再生速度算出処理について説明する。
【0121】
ステップS61において、再生速度算出部342の逆比算出部371は、操作入力部341が、ユーザによって操作され、速度の調整が指示されたか否かを判定する。
【0122】
ステップS61において、速度の調整が指示された場合、処理は、ステップS62に進む。
【0123】
ステップS62において、逆比算出部371は、再生速度調整量算出部71から供給された再生速度調整量の逆比1/nと、操作入力部341からの速度の調整を指示する旨の操作信号に応じた速度調整係数αとを乗算し、乗算の結果得られた積α/nを、再生制御部48に供給する。
【0124】
また、ステップS61において、速度の調整が指示されなかった場合、速度の調整が指示されるまで、ステップS61の処理が繰り返される。
【0125】
以上の処理により、ユーザの操作に応じた速度調整係数αによって、再生速度を調整することができるので、同じ量の付随情報を理解する速さが異なる複数のユーザに対しても、それぞれのユーザに理解しやすく再生することができる。
【0126】
以上においては、操作信号に基づいて、逆比を調整する例に説明してきたが、さらに、再生速度調整量を調整するようにしてもよい。
【0127】
図15は、再生速度調整量をも調整するようにした再生速度算出部の構成例を示している。
【0128】
なお、図15の再生速度算出部342は、図13の再生速度算出部342において、再生速度調整量管理部72に代わって再生速度調整量管理部372を備えている以外は、図13の再生速度算出部342と同様の構成を有する。
【0129】
再生速度調整量管理部372は、再生速度調整量対応情報を記憶する他、操作入力部341からの操作信号に応じて、再生速度調整量対応情報を変更する。
【0130】
例えば、再生速度調整量対応情報によって示される、図4で説明した付随情報毎分量Nと再生速度調整量nとの関係において、付随情報毎分量がSより大きいときに、n=pN(pは傾き)で示される式を定義する。この場合、再生速度調整量管理部372は、傾きpと、操作入力部341からの操作信号に応じた所定の係数β(以下、傾き調整係数βと称する)とを乗算する。すなわち、図4において、付随情報毎分量Sより大きいときの、付随情報毎分量Nと再生速度調整量nとの関係は、n=βpNで示される。
【0131】
速度調整係数βが1未満である場合、付随情報毎分量Nに対する再生速度調整量nは、傾きpのときより小さい値となり、再生速度は、傾きpのときより速い再生速度となる。また、速度調整係数βが1より大きい場合、付随情報毎分量Nに対する再生速度調整量nは、傾きpのときより大きい値となり、再生速度は、傾きpのときより遅い再生速度となる。
【0132】
次に、図16のフローチャートを参照して、図15の再生速度算出部342の再生速度算出処理について説明する。
【0133】
ステップS81において、再生速度算出部342の再生速度調整量管理部372は、操作入力部341が、ユーザによって操作され、速度の調整が指示されたか否かを判定する。
【0134】
ステップS81において、速度の調整が指示された場合、処理は、ステップS82に進む。
【0135】
ステップS82において、再生速度調整量管理部372は、再生速度調整量対応情報における傾きpと、操作入力部341からの操作信号に応じた傾き調整係数βとを乗算する。
【0136】
その後、再生速度調整量算出部71は、傾き調整係数βが乗じられた付随情報毎分量と再生速度調整量との関係に基づいて、再生速度調整量nを求め、逆比算出部371は、逆比1/nを算出する。なお、このとき、逆比算出部371は、操作入力部341からの操作信号に応じて、算出した逆比1/nと速度調整係数αを乗算してもよい。
【0137】
また、ステップS81において、速度の調整が指示されなかった場合、速度の調整が指示されるまで、ステップS81の処理が繰り返される。
【0138】
以上の処理により、ユーザの操作に応じた傾き調整係数βによって、最終的に得られる再生速度を調整することができるので、同じ量の付随情報を理解する速さが異なる複数のユーザに対しても、それぞれのユーザに理解しやすく再生することができる。
【0139】
また、図15の再生速度調整量管理部372は、複数の再生速度調整量対応情報を記憶し、操作入力部341からの操作信号に応じて、再生速度調整量算出部71によって参照される再生速度調整量対応情報を変更するようにしてもよい。例えば、再生速度調整量管理部372は、図4で説明した関係を示す再生速度調整量対応情報、および、図5で説明した関係を示す再生速度調整量対応情報を記憶し、操作入力部341からの操作信号に応じて、いずれかの再生速度調整量対応情報を選択するようにしてもよい。
【0140】
また、図15の再生速度調整量管理部372は、再生速度調整量対応情報を記憶しているが、操作入力部341からの操作信号により、新たな再生速度調整量対応情報を記憶するようにしてもよい。例えば、再生速度調整量管理部372は、図4で説明した関係を示す再生速度調整量対応情報を記憶しており、操作入力部341からの操作信号により、図5で説明した関係を示す再生速度調整量対応情報を新たに記憶し、ユーザに応じて、いずれかの再生速度調整量対応情報に基づいて、再生を制御するようにしてもよい。
【0141】
以上のように、付随情報の量に応じて遅くなった再生速度を、ユーザの操作に応じて、さらに調整することができるので、付随情報を理解する速さに合わせて、ユーザに理解しやすく再生することができる。
【0142】
以上においては、単独のAVストリームを扱う例について説明してきたが、複数のAVストリームを再生し、合成して表示する例にも適用することができる。
【0143】
図17は、複数のストリームを再生し、合成して表示する再生装置の実施の形態の構成例を示している。
【0144】
図17の再生装置531は、例えば、DVD等の図示せぬ記録媒体や、ネットワーク上の図示せぬサーバから、所定の方式で符号化された複数のAVストリームを読み出し、復号することで得られる複数の映像を、対応する付随情報とともに再生する。
【0145】
図17の再生装置531は、再生処理部541−1乃至541−4、表示領域設定部542、映像合成部543、および映像出力部544から構成される。
【0146】
再生処理部541−1乃至541−4は、それぞれ、図示せぬ記録媒体や、図示せぬサーバから読み出したAVストリームを分離、復号して、得られた映像データを映像合成部543に供給する。また、再生処理部541−1乃至541−4は、それぞれ、読み出したAVストリームについての付随情報毎分量を計測し、表示領域設定部542に供給する。
【0147】
図17においては、再生処理部541−1は、読み出したストリームAを復号して得られた映像A’の映像データ(以下、単に、映像A’などとも称する)を、映像合成部543に供給するとともに、計測した付随情報毎分量NAを、表示領域設定部542に供給する。再生処理部541−2は、読み出したストリームBを復号して得られた映像B’を、映像合成部543に供給するとともに、計測した付随情報毎分量NBを、表示領域設定部542に供給する。
【0148】
同様に、再生処理部541−3は、読み出したストリームCを復号して得られた映像C’を、映像合成部543に供給するとともに、計測した付随情報毎分量NCを、表示領域設定部542に供給する。再生処理部541−4は、読み出したストリームDを復号して得られた映像D’を、映像合成部543に供給するとともに、計測した付随情報毎分量NDを、表示領域設定部542に供給する。
【0149】
表示領域設定部542は、再生処理部541−1乃至541−4から供給された付随情報毎分量NA乃至NDに基づいて、映像出力部544に表示される映像A’乃至D’それぞれの表示領域の大きさを設定し、映像合成部543に供給する。
【0150】
映像合成部543は、表示領域設定部542からの、映像A’乃至D’それぞれの表示領域の大きさに基づいて、再生処理部541−1乃至541−4から供給された映像A’乃至D’を、それぞれ設定された表示領域の大きさにして、合成した合成映像データを生成する。映像合成部543は、生成した合成映像データを、映像出力部544に供給する。
【0151】
映像出力部544は、映像を表示するモニタ(図示せず)に接続されており、映像合成部543からの合成映像データに対応する合成映像を、モニタに表示する。
【0152】
次に、図18のブロック図を参照して、図17の再生処理部541−1乃至541−4の構成例について説明する。なお、再生処理部541−1乃至541−4は、それぞれ同一の構成を有しており、特に、区別が不要な場合は、単に、再生処理部541と称する。
【0153】
図18においては、図1と対応する部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図18の再生処理部541は、再生速度算出部47、音声出力部49、および映像出力部51が削除された以外は、基本的に、図1の再生装置11と同様の構成を有するものである。
【0154】
音声復号部42は、AVストリームのうちの音声ストリームを復号し、その結果得られる音声データを、図示せぬ音声合成部に供給する。
【0155】
付随情報毎分量計測部46は、基準時刻生成部45からのシステムクロックに基づいて、付随情報毎分量を計測し、表示領域設定部542に出力する。
【0156】
再生制御部48は、単に、音声復号部42、映像復号部43、および付随情報復号部44によって復号された音声データ、映像データ、および付随情報の再生を制御する。
【0157】
映像処理部50は、映像復号部43からの映像データと、付随情報復号部44からの付随情報とを合成し、1つの映像データとして、映像合成部543に供給する。
【0158】
次に、図19のブロック図を参照して、図17の表示領域設定部542の構成例について説明する。
【0159】
図19の表示領域設定部542は、表示領域倍率算出部551および表示領域倍率管理部552から構成される。
【0160】
表示領域倍率算出部551は、再生処理部541−1乃至541−4それぞれからの付随情報毎分量NA乃至NDと、表示領域倍率管理部552に記憶されている表示領域倍率対応情報とに基づいて、表示領域倍率を算出し、映像合成部543に供給する。表示領域倍率対応情報は、付随情報毎分量と、映像が本来表示される表示領域に対する倍率を表す表示領域倍率との関係を対応付ける情報であり、その詳細は、後述する。
【0161】
すなわち、映像合成部543は、表示領域設定部542からの、映像A’乃至D’それぞれについての表示領域倍率に基づいて、映像A’乃至D’が表示されるウィンドウを所定数倍し、1つの映像として合成した合成映像を生成する。
【0162】
次に、図20のフローチャートを参照して、図17の再生装置531の複数ストリームの再生処理について説明する。
【0163】
複数ストリームの再生処理において、再生装置531の再生処理部541−1乃至541−4は、それぞれ読み出したAVストリームを、順次、分離、復号する。
【0164】
ステップS111において、再生処理部541−1乃至541−4それぞれの付随情報毎分量計測部46は、ストリームA乃至Dについて、1分間あたりに復号される付随情報毎分量を計測し、表示領域設定部542に供給する。
【0165】
ステップS112において、表示領域設定部542は、再生処理部541−1乃至541−4それぞれの付随情報毎分量計測部46から供給された付随情報毎分量NA乃至NDのうちのいずれかについて、所定の値Sより小さいか否かを判定する。
【0166】
ここで、所定の値Sは、それより大きい値であれば、映像が表示されるウィンドウの大きさは付随情報に応じて大きくなり、それより小さい値であれば、ウィンドウの大きさは標準の大きさのままとされる付随情報毎分量を表す。
【0167】
ステップS112において、付随情報毎分量が、所定の値Sより小さくないと判定された場合、処理は、ステップS113に進み、表示領域設定部542の表示領域倍率算出部551は、付随情報毎分量と、表示領域倍率管理部552に記憶されている表示領域倍率対応情報とに基づいて、表示領域倍率を算出する。
【0168】
ここで、図21を参照して、表示領域倍率対応情報が示す、付随情報毎分量と表示領域倍率との関係について説明する。
【0169】
図21において、横軸は、付随情報毎分量を示し、縦軸は、表示領域倍率を示している。
【0170】
図21に示されるように、付随情報毎分量が0乃至Sである場合、表示領域倍率は1となり、付随情報毎分量がSより大きい場合、表示領域倍率は、付随情報毎分量に対して比例関係を示す。
【0171】
すなわち、ステップS113において、表示領域倍率算出部551は、図21に示される、付随情報毎分量と表示領域倍率との関係に基づいて、付随情報毎分量Nに応じた表示領域倍率nwを求め、処理は、ステップS115に進む。
【0172】
一方、ステップS112において、付随情報毎分量が、所定の値Sより小さいと判定された場合、処理は、ステップS114に進む。
【0173】
ステップS114において、表示領域設定部542の表示領域倍率算出部551は、図21に示される、付随情報毎分量と表示領域倍率との関係に基づいて、表示領域倍率nwを1とし、処理は、ステップS115に進む。
【0174】
ステップS115において、表示領域設定部542は、全てのストリーム(映像)について、表示領域倍率nwを求めたか否かを判定する。
【0175】
ステップS115において、全てのストリーム(映像)について、表示領域倍率nwを求めていないと判定された場合、処理は、ステップS112に戻り、全てのストリーム(映像)について、表示領域倍率nwを求めるまで、ステップS112乃至ステップS115の処理を繰り返す。
【0176】
一方、ステップS115において、全てのストリーム(映像)について、表示領域倍率nwを求めたと判定された場合、表示領域設定部542は、全てのストリーム(映像)について求めた表示領域倍率nwを映像合成部543に供給し、処理は、ステップS116に進む。
【0177】
ステップS116において、映像合成部543は、表示領域設定部542からの、映像A’乃至D’それぞれについての表示領域倍率nwに基づいて、映像A’乃至D’が表示されるウィンドウをそれぞれnw倍し、1つの映像として合成した合成映像データを生成して、映像出力部544に供給する。映像出力部544は、映像合成部543からの合成映像データに対応する合成映像を、図示せぬモニタに表示する。
【0178】
以上の処理により、例えば、再生処理部541−1乃至541−3から供給された付随情報毎分量NA乃至NCのそれぞれに応じた表示領域倍率nwが、いずれも1で、再生処理部541−4から供給された付随情報毎分量NDに応じた表示領域倍率nwが、1より大きい値であった場合、再生装置531は、図22に示されるように、再生処理部541−1からの映像A’が表示されるウィンドウW1、再生処理部541−2からの映像B’が表示されるウィンドウW2、再生処理部541−3からの映像C’が表示されるウィンドウW3それぞれの大きさを、標準の大きさのままとし、再生処理部541−4からの映像D’が表示されるウィンドウW4の大きさを、標準の大きさのnw倍の大きさとした合成映像を、映像出力部544に接続されたモニタ(図示せず)に表示することができる。
【0179】
また、nw倍の大きさのウィンドウW1乃至W4が、全て、映像出力部544に接続されたモニタ(図示せず)に表示しきれない程の大きさになってしまう場合、それぞれについての表示領域倍率nwの比率に応じた大きさのウィンドウW1乃至W4を表示するようにしてもよい。
【0180】
このように、所定の映像についての付随情報毎分量が多いほど、合成映像における、その所定の映像が表示されるウィンドウの大きさが大きくなるので、例えば、コメントが集中している映像の1場面において、ユーザの注意を引くことができ、ユーザに理解しやすく再生することが可能となる。
【0181】
以上においては、複数のストリームを再生するにあたり、付随情報毎分量に応じて、ウィンドウの大きさを調整する例について説明してきたが、付随情報毎分量に応じて、見やすさを変化させればよいので、例えば、ウィンドウを重ねて表示し、その順序を調整するようにしてもよい。
【0182】
図23は、複数ストリームを再生させる際、それぞれのウィンドウを重ねて表示し、付随情報毎分量に応じて、その順序を調整するようにした再生装置の実施の形態の構成例を示している。
【0183】
なお、図23においては、図17と対応する部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図23の再生装置561は、表示領域設定部542に代わって重ね順設定部571を備えている以外は、基本的に、図17の再生装置531と同様の構成を有するものである。
【0184】
重ね順設定部571は、再生処理部541−1乃至541−4から供給された付随情報毎分量NA乃至NDに基づいて、映像出力部544に接続されたモニタ(図示せず)に表示される映像A’乃至D’についての重ね順を設定し、映像合成部543に供給する。
【0185】
映像合成部543は、重ね順設定部571からの、映像A’乃至D’についての重ね順に基づいて、再生処理部541−1乃至541−4から供給された映像A’乃至D’を、設定された重ね順に合成することで合成映像データを生成する。
【0186】
次に、図24のフローチャートを参照して、図23の再生装置561の複数ストリームの再生処理について説明する。
【0187】
複数ストリームの再生処理において、再生装置561の再生処理部541−1乃至541−4は、それぞれ読み出したAVストリームを、順次、分離、復号する。
【0188】
ステップS141において、再生処理部541−1乃至541−4それぞれの付随情報毎分量計測部46は、ストリームA乃至Dについて、1分間あたりに復号される付随情報毎分量を計測し、重ね順設定部571に供給する。
【0189】
ステップS142において、重ね順設定部571は、再生処理部541−1乃至541−4それぞれの付随情報毎分量計測部46から供給された付随情報毎分量NA乃至NDに応じて、映像出力部544に接続されたモニタ(図示せず)に表示される映像A’乃至D’についての重ね順を設定し、映像合成部543に供給する。
【0190】
より具体的には、重ね順設定部571は、再生処理部541−1乃至541−4それぞれから供給された付随情報毎分量NA乃至NDに対して、データ量の多い順に順位付けを行い、その順位を、順位付けされた付随情報毎分量NA乃至NDに対応する映像A’乃至D’の重ね順とする。
【0191】
ステップS143において、映像合成部543は、重ね順設定部571からの、映像A’乃至D’それぞれの重ね順に基づいて、再生処理部541−1乃至541−4から供給された映像A’乃至D’を、設定された重ね順で合成することで合成映像データを生成し、映像出力部544に供給する。映像出力部544は、映像合成部543からの合成映像データに対応する合成映像を、図示せぬモニタに表示する。
【0192】
以上の処理により、例えば、再生処理部541−1乃至541−4それぞれから供給された付随情報毎分量NA乃至NDについて、ND>NB=NC>NAと順位付けがされた場合、再生装置561は、図25に示されるように、ウィンドウW4を最前面に、ウィンドウW2およびウィンドウW3をウィンドウW4の背面に、そして、ウィンドウW1を最背面にした合成映像を表示することができる。
【0193】
このように、所定の映像についての付随情報毎分量が多いほど、合成映像における、その所定の映像の重ね順が前面になるので、図22の例と同様に、コメントが集中している映像の1場面において、ユーザの注意を引くことができ、ユーザに理解しやすく再生することが可能となる。
【0194】
以上においては、複数ストリームを再生させる際、付随情報毎分量に応じて、ストリーム毎のウィンドウの大きさや重ね順を調整する例について説明してきたが、ウィンドウのみならず、例えば、音量を調整するようにしてもよい。
【0195】
図26は、複数ストリームを再生させる際、ストリーム毎の音量を調整するようにした再生装置の実施の形態の構成例を示している。
【0196】
図26の再生装置631は、例えば、DVD等の図示せぬ記録媒体や、ネットワーク上の図示せぬサーバから、所定の方式で符号化された複数のAVストリームを読み出し、復号することで得られる複数の映像に対応する音声を出力する。
【0197】
図26の再生装置631は、再生処理部541−1乃至541−4、音量設定部641、音声合成部642、および音声出力部643から構成される。
【0198】
再生処理部541−1乃至541−4は、それぞれ、図示せぬ記録媒体や、図示せぬサーバから読み出したAVストリームを分離、復号して、得られた音声データを音声合成部642に供給する。また、再生処理部541−1乃至541−4は、それぞれ、読み出したAVストリームについての付随情報毎分量を計測し、音量設定部641に供給する。
【0199】
図26においては、再生処理部541−1は、読み出したストリームAを復号して得られた音声A’’の音声データ(以下、単に、音声A’’などとも称する)を、音声合成部642に供給するとともに、計測した付随情報毎分量NAを、音量設定部641に供給する。再生処理部541−2は、読み出したストリームBを復号して得られた音声B’’を、音声合成部642に供給するとともに、計測した付随情報毎分量NBを、音量設定部641に供給する。
【0200】
同様に、再生処理部541−3は、読み出したストリームCを復号して得られた音声C’’を、音声合成部642に供給するとともに、計測した付随情報毎分量NCを、音量設定部641に供給する。再生処理部541−4は、読み出したストリームDを復号して得られた音声D’’を、音声合成部642に供給するとともに、計測した付随情報毎分量NDを、音量設定部641に供給する。
【0201】
音量設定部641は、再生処理部541−1乃至541−4から供給された付随情報毎分量NA乃至NDに基づいて、音声出力部643に出力される音声A’’乃至D’’それぞれ(の音声データ)の音量レベルを設定し、音声合成部642に供給する。
【0202】
音声合成部642は、音量設定部641からの、音声A’’乃至D’’それぞれの音量レベルに基づいて、再生処理部541−1乃至541−4から供給された音声A’’乃至D’’を、それぞれ設定された音量レベルにして、合成した合成音声データを生成する。音声合成部642は、生成した合成音声データを、音声出力部643に供給する。
【0203】
音声出力部643は、図示せぬスピーカに接続されており、音声合成部642からの合成音声データに対応する音声を、スピーカより出力する。
【0204】
次に、図27のブロック図を参照して、図26の音量設定部641の構成例について説明する。
【0205】
図27の音量設定部641は、音量レベル倍率算出部651および音量レベル倍率管理部652から構成される。
【0206】
音量レベル倍率算出部651は、再生処理部541−1乃至541−4それぞれからの付随情報毎分量NA乃至NDと、音量レベル倍率管理部652に記憶されている音量レベル倍率対応情報とに基づいて、音量レベル倍率を算出し、音声合成部642に供給する。音量レベル倍率対応情報は、付随情報毎分量と、音声が本来出力される標準の音量レベルに対する倍率を表す音量レベル倍率との関係を対応付ける情報であり、その詳細は、後述する。
【0207】
すなわち、音声合成部642は、音量設定部641からの、音声A’’乃至D’’それぞれについての音量レベル倍率に基づいて、音声A’’乃至D’’の音量レベルを所定数倍し、1つの音声として合成した合成音声を生成する。
【0208】
次に、図28のフローチャートを参照して、図26の再生装置631の複数ストリームの再生処理について説明する。
【0209】
複数ストリームの再生処理において、再生装置631の再生処理部541−1乃至541−4は、それぞれ読み出したAVストリームを、順次、分離、復号する。
【0210】
ステップS171において、再生処理部541−1乃至541−4それぞれの付随情報毎分量計測部46は、ストリームA乃至Dについて、1分間あたりに復号される付随情報毎分量を計測し、音量設定部641に供給する。
【0211】
ステップS172において、音量設定部641は、再生処理部541−1乃至541−4それぞれの付随情報毎分量計測部46から供給された付随情報毎分量NA乃至NDのうちのいずれかについて、所定の値Sより小さいか否かを判定する。
【0212】
ここで、所定の値Sは、それより大きい値であれば、音声の音量レベルは付随情報に応じて高くなり、それより小さい値であれば、音声の音量レベルは標準の音量レベルのままとされる付随情報毎分量を表す。
【0213】
ステップS172において、付随情報毎分量が、所定の値Sより小さくないと判定された場合、処理は、ステップS173に進み、音量設定部641の音量レベル倍率算出部651は、付随情報毎分量と、音量レベル倍率管理部652に記憶されている音量レベル倍率対応情報とに基づいて、音量レベル倍率を算出する。
【0214】
ここで、図29を参照して、音量レベル倍率対応情報が示す、付随情報毎分量と音量レベル倍率との関係について説明する。
【0215】
図29において、横軸は、付随情報毎分量を示し、縦軸は、音量レベル倍率を示している。
【0216】
図29に示されるように、付随情報毎分量が0乃至Sである場合、音量レベル倍率は1となり、付随情報毎分量がSより大きい場合、音量レベル倍率は、付随情報毎分量に対して比例関係を示す。
【0217】
すなわち、ステップS173において、音量レベル倍率算出部651は、図29に示される、付随情報毎分量と音量レベル倍率との関係に基づいて、付随情報毎分量Nに応じた音量レベル倍率nvを求め、処理は、ステップS175に進む。
【0218】
一方、ステップS172において、付随情報毎分量が、所定の値Sより小さいと判定された場合、処理は、ステップS174に進む。
【0219】
ステップS174において、音量設定部641の音量レベル倍率算出部651は、図29に示される、付随情報毎分量と音量レベル倍率との関係に基づいて、音量レベル倍率nvを1とし、処理は、ステップS175に進む。
【0220】
ステップS175において、音量設定部641は、全てのストリーム(音声)について、音量レベル倍率nvを求めたか否かを判定する。
【0221】
ステップS175において、全てのストリーム(音声)について、音量レベル倍率nvを求めていないと判定された場合、処理は、ステップS172に戻り、全てのストリーム(音声)について、音量レベル倍率nvを求めるまで、ステップS172乃至ステップS175の処理を繰り返す。
【0222】
一方、ステップS175において、全てのストリーム(音声)について、音量レベル倍率nvを求めたと判定された場合、音量設定部641は、全てのストリーム(音声)について求めた音量レベル倍率nvを音声合成部642に供給し、処理は、ステップS176に進む。
【0223】
ステップS176において、音声合成部642は、音量設定部641からの、音声A’’乃至D’’それぞれについての音量レベル倍率nvに基づいて、音声A’’乃至D’’の音量レベルをそれぞれnv倍し、1つの音声として合成した合成音声データを生成して、音声出力部643に供給する。音声出力部643は、音声合成部642からの合成音声データに対応する音声を、図示せぬスピーカより出力する。
【0224】
以上の処理により、再生装置631は、例えば、図30に示されるように、再生処理部541−1乃至541−4から供給された付随情報毎分量NA乃至NDに応じて、映像A’に対応して出力される音声A’’の音量レベルをnv倍したボリュームaの音声、映像B’に対応して出力される音声B’’の音量レベルをnv倍したボリュームbの音声、映像C’に対応して出力される音声C’’の音量レベルをnv倍したボリュームcの音声、および、映像D’に対応して出力される音声D’’の音量レベルをnv倍したボリュームdの音声を合成した合成音声を出力するようにすることができる。
【0225】
このように、所定の映像についての付随情報毎分量が多いほど、合成音声における、その所定の映像に対応した音声の音量レベルが高くなるので、図22や図25の例と同様に、コメントが集中している映像の1場面において、ユーザの注意を引くことができ、ユーザに理解しやすく再生することが可能となる。
【0226】
以上のように、再生装置では、映像とともに付随情報を再生し、付随情報の、単位時間あたりに再生されるデータ量である付随情報毎分量を計測し、計測された付随情報毎分量に基づいて、映像および付随情報の再生を制御するので、標準速度では、ユーザが完全に理解することが難しい量の付随情報が、映像とともに表示されるAVストリームであっても、付随情報の量に応じて、再生速度を遅くして、ユーザに理解しやすく再生することが可能となる。
【0227】
また、本発明をAVストリームを再生する再生装置に適用した実施の形態について説明したが、本発明は、映像コンテンツを再生する機能を有する、その他の情報処理装置に適用することができる。
【0228】
なお、上述した説明においては、再生の対象を、映像とともに付随情報が表示されるAVストリームとしたが、図および文字が表示されたスライドを連続して再生するスライドショー機能を有するプレゼンテーション用アプリケーション等を対象としてもよい。
【0229】
上述した再生処理の一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等に、プログラム記録媒体からインストールされる。
【0230】
図31は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0231】
コンピュータにおいて、CPU(Central Processing Unit)801,ROM(Read Only Memory)802,RAM(Random Access Memory)803は、バス804により相互に接続されている。
【0232】
バス804には、さらに、入出力インターフェース805が接続されている。入出力インターフェース805には、キーボード、マウス、マイクロホン等よりなる入力部806、ディスプレイ、スピーカ等よりなる出力部807、ハードディスクや不揮発性のメモリ等よりなる記憶部808、ネットワークインタフェース等よりなる通信部809、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア811を駆動するドライブ810が接続されている。
【0233】
以上のように構成されるコンピュータでは、CPU801が、例えば、記憶部808に記憶されているプログラムを、入出力インターフェース805およびバス804を介して、RAM803にロードして実行することにより、上述した一連の処理が行われる。
【0234】
コンピュータ(CPU801)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア811に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
【0235】
そして、プログラムは、リムーバブルメディア811をドライブ810に装着することにより、入出力インターフェース805を介して、記憶部808にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部809で受信し、記憶部808にインストールすることができる。その他、プログラムは、ROM802や記憶部808に、あらかじめインストールしておくことができる。
【0236】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0237】
また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【図面の簡単な説明】
【0238】
【図1】本発明を適用した再生装置の一実施の形態の構成例を示すブロック図である。
【図2】再生速度算出部の構成例を示すブロック図である。
【図3】図1の再生装置のストリームの再生処理を説明するフローチャートである。
【図4】顔付随情報毎分量と再生速度調整量との関係について説明する図である。
【図5】顔付随情報毎分量と再生速度調整量との関係について説明する図である。
【図6】再生装置の他の構成例を示すブロック図である。
【図7】図6の再生装置のストリームの再生処理を説明するフローチャートである。
【図8】付随情報毎分量と再生速度調整量との関係、および付随情報毎分量と再生繰り返し数との関係について説明する図である。
【図9】付随情報毎分量と再生速度調整量との関係、および付随情報毎分量と再生繰り返し数との関係について説明する図である。
【図10】ネットワークに接続される再生装置を説明するブロック図である。
【図11】再生装置のさらに他の構成例を示すブロック図である。
【図12】再生装置のさらに他の構成例を示すブロック図である。
【図13】図12の再生速度算出部の構成例を示すブロック図である。
【図14】図13の再生速度算出部の再生速度算出処理を説明するフローチャートである。
【図15】図12の再生速度算出部の他の構成例を示すブロック図である。
【図16】図15の再生速度算出部の再生速度算出処理を説明するフローチャートである。
【図17】再生装置の他の実施の形態の構成例を示すブロック図である。
【図18】図17の再生処理部の構成例を示すブロック図である。
【図19】図17の表示領域設定部の構成例を示すブロック図である。
【図20】図17の再生装置の複数ストリームの再生処理を説明するフローチャートである。
【図21】付随情報毎分量と表示領域倍率との関係について説明する図である。
【図22】映像出力部の表示の例について説明する図である。
【図23】再生装置の他の構成例を示すブロック図である。
【図24】図23の再生装置の複数ストリームの再生処理を説明するフローチャートである。
【図25】映像出力部の表示の他の例について説明する図である。
【図26】再生装置のさらに他の構成例を示すブロック図である。
【図27】図26の音量設定部の構成例を示すブロック図である。
【図28】図26の再生装置の複数ストリームの再生処理を説明するフローチャートである。
【図29】付随情報毎分量と音量レベル倍率との関係について説明する図である。
【図30】音声出力部の音声出力の例について説明する図である。
【図31】本発明が適用される再生装置として機能するコンピュータのハードウェアの構成例を示すブロック図である。
【符号の説明】
【0239】
11 再生装置, 42 音声復号部, 43 映像復号部, 44 付随情報復号部, 46 付随情報毎分量計測部, 47 再生速度算出部, 48 再生制御部, 71 再生速度調整量算出部, 72 再生速度調整量管理部, 73 逆比算出部, 141 再生繰り返し数算出部, 211 再生装置, 242 通信部, 341 操作入力部, 342 再生速度算出部, 371 逆比算出部, 372 再生速度調整量管理部, 531 再生装置, 541−1乃至541−4 再生処理部, 542 表示領域設定部, 543 映像合成部, 551 表示領域倍率算出部, 552 表示領域倍率管理部, 561 再生装置, 571 重ね順設定部, 631 再生装置 641 音量設定部, 642 音声合成部, 651 音量レベル倍率算出部, 652 音量レベル倍率管理部

【特許請求の範囲】
【請求項1】
第1のデータとともに第2のデータを再生する再生手段と、
前記第2のデータの、単位時間あたりに再生されるデータ量である単位時間データ量を計測する計測手段と、
前記計測手段により計測された前記第2のデータの前記単位時間データ量に基づいて、前記再生手段による前記第1のデータおよび前記第2のデータの再生を制御する再生制御手段と
を備える情報処理装置。
【請求項2】
前記第2のデータの前記単位時間データ量に基づいて、前記第1のデータおよび前記第2のデータの再生速度を算出する再生速度算出手段をさらに備え、
前記再生制御手段は、前記再生速度算出手段により算出された前記再生速度での、前記再生手段による前記第1のデータおよび前記第2のデータの再生を制御する
請求項1に記載の情報処理装置。
【請求項3】
前記第1のデータは、主データであり、
前記第2のデータは、前記主データに付随する副データである
請求項1に記載の情報処理装置。
【請求項4】
前記第1のデータは、映像データであり、
前記第2のデータは、前記映像データに付随する文字データである
請求項1に記載の情報処理装置。
【請求項5】
前記第2のデータの前記単位時間データ量と、前記再生速度との関係を対応付ける対応情報を記憶する記憶手段をさらに備え、
前記再生速度算出手段は、前記記憶手段により記憶されている前記対応情報と、前記計測手段により計測された前記第2のデータの前記単位時間データ量とに基づいて、前記再生速度を算出する
請求項2に記載の情報処理装置。
【請求項6】
前記対応情報は、前記再生速度が、前記第2のデータの前記単位時間データ量に対して反比例する関係を示す
請求項5に記載の情報処理装置。
【請求項7】
前記対応情報により示される関係を調整する指示を入力する入力手段をさらに備え、
前記再生速度算出手段は、調整が指示された前記対応情報と、前記第2のデータの前記単位時間データ量とに基づいて、前記再生速度を算出する
請求項5に記載の情報処理装置。
【請求項8】
前記第2のデータの前記単位時間データ量に基づいて、前記第1のデータの所定の区間の再生を繰り返す繰り返し回数を設定する繰り返し回数設定手段をさらに備え、
前記再生制御手段は、前記再生速度算出手段により算出された前記再生速度での、前記繰り返し回数分の、前記第1のデータおよび前記第2のデータの前記所定の区間の再生を制御する
請求項2に記載の情報処理装置。
【請求項9】
前記第1のデータは、前記第2のデータとともに、所定の記録媒体に記録されている
請求項2に記載の情報処理装置。
【請求項10】
前記第1のデータおよび前記第2のデータの両方、または、いずれか一方は、ネットワーク上の所定のサーバに記憶されており、
前記第1のデータおよび前記第2のデータの両方、または、いずれか一方を、前記所定のサーバとの通信によって取得する通信手段をさらに備える
請求項2に記載の情報処理装置。
【請求項11】
複数の前記計測手段により計測された、前記第2のデータそれぞれの前記単位時間データ量に基づいて、複数の前記再生制御手段による、前記第2のデータそれぞれが付随する前記第1のデータそれぞれの再生の制御に基づいて表示される映像それぞれの表示領域の大きさを設定する表示領域設定手段と、
前記表示領域設定手段により設定された表示領域の大きさの前記映像それぞれを合成した合成映像を生成する合成手段とをさらに備え、
前記再生手段は、前記合成映像を再生する
請求項4に記載の情報処理装置。
【請求項12】
複数の前記計測手段により計測された、前記第2のデータそれぞれの前記単位時間データ量に基づいて、複数の前記再生制御手段による、前記第2のデータそれぞれが付随する前記第1のデータそれぞれの再生の制御に基づいて表示される映像それぞれの重ね順を設定する重ね順設定手段と、
前記重ね順設定手段により設定された重ね順で前記映像それぞれを合成した合成映像を生成する合成手段とをさらに備え、
前記再生手段は、前記合成映像を再生する
請求項4に記載の情報処理装置。
【請求項13】
複数の前記計測手段により計測された、前記第2のデータそれぞれの前記単位時間データ量に基づいて、複数の前記再生制御手段による、前記第2のデータそれぞれが付随する前記第1のデータそれぞれの再生の制御に基づいて表示される映像それぞれに対応して出力される音声の音声データの音量レベルを設定する音量設定手段と、
前記音量設定手段により設定された音量レベルの前記音声データそれぞれを合成した合成音声データを生成する合成手段とをさらに備える
請求項4に記載の情報処理装置。
【請求項14】
第1のデータとともに第2のデータを再生する再生ステップと、
前記第2のデータの、単位時間あたりに再生されるデータ量である単位時間データ量を計測する計測ステップと、
前記計測手段により計測された前記第2のデータの前記単位時間データ量に基づいて、前記再生ステップの処理における前記第1のデータおよび前記第2のデータの再生を制御する再生制御ステップと
を含む情報処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate


【公開番号】特開2009−253342(P2009−253342A)
【公開日】平成21年10月29日(2009.10.29)
【国際特許分類】
【出願番号】特願2008−94847(P2008−94847)
【出願日】平成20年4月1日(2008.4.1)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】