再生方法、再生プログラムおよび再生装置
【課題】映像と音声との間に生じるずれを軽減させる。
【解決手段】重複するオーディオ処理単位dおよびhを、再生区間指定情報#1および#3の再生順に従って順番に配置する。こうすることにより、再生制御情報の再生終了位置とオーディオデータの再生終了位置との間には、ずれが生じる。このずれは、複数の再生区間指定情報を連結した際に、その境界部分で連続的とならないオーディオデータが対応付けられた再生区間指定情報を連結する数が増えるにしたがって蓄積される。ずれの時間長が所定値以上となった場合には、対応する所定時間分のビデオデータを挿入する。こうすることにより、再生制御情報とオーディオデータとの間のずれを軽減させることができる。
【解決手段】重複するオーディオ処理単位dおよびhを、再生区間指定情報#1および#3の再生順に従って順番に配置する。こうすることにより、再生制御情報の再生終了位置とオーディオデータの再生終了位置との間には、ずれが生じる。このずれは、複数の再生区間指定情報を連結した際に、その境界部分で連続的とならないオーディオデータが対応付けられた再生区間指定情報を連結する数が増えるにしたがって蓄積される。ずれの時間長が所定値以上となった場合には、対応する所定時間分のビデオデータを挿入する。こうすることにより、再生制御情報とオーディオデータとの間のずれを軽減させることができる。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、映像信号の再生区間を指定した再生制御情報に基づき映像信号の再生を行うようにした再生方法、再生プログラムおよび再生装置に関する。
【背景技術】
【0002】
ビデオデータとオーディオデータとが多重されたストリームデータの再生方法を指定する手段として、ストリームデータに対して再生区間や再生順序を指定する再生区間指定情報と、この再生区間指定情報の再生順序を指定する再生制御情報とを用いて、ストリームデータの再生制御を行う方法が知られている。このような再生方法は、実際のストリームデータを加工することなく再生区間や再生順序の指定や変更が可能であり、ストリームデータの取り扱いが容易となるため便利である。
【0003】
このように、再生制御情報内の再生区間指定情報に記述された再生区間を参照してストリームデータを再生する方法に関する技術が下記の特許文献1に記載されている。
【0004】
【特許文献1】特開2004−304767号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところで、ストリームデータ中のビデオデータは、フレーム単位で処理が行われ、ストリームデータ中のオーディオデータは、圧縮符号化の単位などを処理単位として処理が行われる。オーディオデータの処理単位は、ビデオデータの処理単位に対して無関係に決めらるため、再生区間指定情報で再生区間が指定されるビデオデータの時間長と、このビデオデータに対応するオーディオデータの時間長とは、必ずしも一致しない。
【0006】
ここで、オーディオデータが連続的に再生されるようにされた複数の連続した再生区間指定情報#1、#2および#3の再生順を編集し、再生区間指定情報#1および#3を連結するように構成する場合について考える。この場合、再生区間指定情報#1の後端を含むオーディオ処理単位は、再生区間指定情報#1に対応付けられる。また、再生区間指定情報#3の前端を含むオーディオ処理単位は、再生区間指定情報#3に対応付けられる。
【0007】
再生区間指定情報#1および#3を連結すると、再生区間指定情報#1および#3の境界部分では、再生区間指定情報#1に対応する再生区間指定情報#1の後端を含むオーディオ処理単位と、再生区間指定情報#3に対応する再生区間指定情報#3の前端を含むオーディオ処理単位とが重複することになる。
【0008】
このような場合、従来は、重複するオーディオ処理単位を再生区間指定情報の再生順に従い、続けて再生するか、重複するオーディオ処理単位のうちいずれか一方のオーディオ処理単位を削除し、オーディオデータが連続的に再生されるように詰めて再生するようにしていた。
【0009】
しかしながら、このようにオーディオ処理単位を続けて再生したり、重複するオーディオ処理単位のうち一方を削除して再生した場合には、映像と音声との間にずれが生じてしまうことになる。再生区間指定情報#1および#3で構成された再生制御情報に基づきストリームデータを繰り返し再生すると、上述のずれが蓄積されるため、映像と音声との間に生じるずれがより顕著となってしまうという問題点があった。
【0010】
したがって、この発明の目的は、オーディオデータが連続的に再生されるように予め編集された再生制御情報を編集し、再生区間指定情報の構成を異ならせた再生制御情報において、映像と音声との間に生じるずれを軽減し、表示が不自然になるのを抑えることができる再生方法、再生プログラムおよび再生装置を提供することにある。
【課題を解決するための手段】
【0011】
上述した課題を解決するために、第1の発明は、ビデオデータとビデオデータに関連付けられたオーディオデータとを再生する再生方法において、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求め、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、第1の変換は、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにしたことを特徴とする再生方法である。
【0012】
また、第2の発明は、ビデオデータとビデオデータに関連付けられたオーディオデータとを再生する再生方法をコンピュータ装置に実行させる再生プログラムにおいて、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求め、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、第1の変換は、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした再生方法をコンピュータ装置に実行させることを特徴とする再生プログラムである。
【0013】
また、第3の発明は、ビデオデータとビデオデータに関連付けられたオーディオデータとを再生する再生装置において、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求める制御部と、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換部と、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換部とを有し、第1の変換部は、制御部の制御に基づき、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにしたことを特徴とする再生装置である。
【0014】
上述したように、第1、第2および第3の発明では、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求め、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、第1の変換は、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにしているため、ビデオデータとオーディオデータとの長さの差が少ない。
【発明の効果】
【0015】
この発明は、現在再生中の再生区間指定情報によって指定される区間の後端を含むオーディオ処理単位と、次に処理されることが期待される再生区間指定情報によって指定される区間の前端を含むオーディオ処理単位との重複量を算出し、算出された重複量を積算して得られた積算値が1フレーム以上となるかどうかを判断し、積算値が1フレーム以上となった場合には、1フレームを挿入するようにしている。したがって、再生されるビデオデータとオーディオデータとの間のずれが軽減されるという効果がある。
【発明を実施するための最良の形態】
【0016】
以下、この発明の実施の一形態について、図面を参照して説明する。この発明の実施の一形態では、ビデオデータとオーディオデータとが多重されたストリームデータに対して再生区間や再生順序を指定する再生区間指定情報と、この再生区間指定情報の再生順序を指定する再生制御情報とを用いて、ストリームデータの再生制御を行うようにしている。
【0017】
先ず、再生制御情報、再生区間指定情報およびストリームデータの関係について、図1を参照して説明する。図1に示すように、再生区間指定情報は、ストリームデータに対して再生箇所を示す再生開始点(IN点)および再生終了点(OUT点)を設定する。再生区間指定情報は、IN点およびOUT点の情報を一組として記述される。再生制御情報は、複数の再生区間指定情報の集合で構成され、複数の再生区間指定情報の再生順序を指定する。ストリームデータを再生する場合には、再生制御情報に基づき再生区間指定情報に記述されたIN点およびOUT点の情報を参照して、ストリームデータ中の対応する区間が再生される。
【0018】
次に、この発明の実施の一形態による再生制御方法について、図2を参照して説明する。例えば、図2Aに示すように、オーディオ処理単位a〜kが再生区間指定情報#1〜#3に対して対応付けられ、連続的に再生されるようになっているものとする。
【0019】
このように、オーディオデータが連続的に再生されるようにされた複数の連続した再生区間指定情報#1、#2および#3で構成された再生制御情報を編集し、再生区間指定情報#1および#3を連結するように構成する場合について考える。図2Bに示すように、再生区間指定情報#1を再生するためには、再生区間指定情報#1によって指定される区間の前端および後端を含むオーディオ処理単位a〜dが必要となる。また、再生区間指定情報#3を再生するためには、再生区間指定情報#3によって指定される区間の前端および後端を含むオーディオ処理単位h〜kが必要となる。
【0020】
したがって、再生区間指定情報#1よって指定される区間と再生区間指定情報#3よって指定される区間とが連続的に再生されるように連結させた場合には、図2Cに示すように、再生区間指定情報#1によって指定される区間の後端を含むオーディオ処理単位dの一部分と、再生区間指定情報#3に対応付けられたオーディオ処理単位h〜kのうち、再生区間指定情報#3によって指定される区間の前端を含むオーディオ処理単位hの一部分とが重複してしまうことになる。
【0021】
このような場合には、上述の背景技術の項目で既に説明したように、オーディオデータが連続的に再生されるようにする方法として、重複するオーディオ処理単位を再生区間指定情報の再生順に従って続けて再生する第1の方法と、重複するオーディオ処理単位のうちいずれか一方のオーディオ処理単位を削除する第2の方法とが考えられる。この発明の実施の一形態では、ビデオデータとオーディオデータとの間のずれを軽減するために、重複するオーディオ処理単位を再生区間指定情報の再生順に従って続けて再生する第1の方法を用いる。
【0022】
第1の方法では、図2Dに示すように、重複するオーディオ処理単位dおよびhを、再生区間指定情報#1および#3の再生順に従って順番に配置する。このように、重複するオーディオ処理単位を順番に配置することにより、再生制御情報の再生終了位置とオーディオデータの再生終了位置との間には、ずれが生じる。このずれは、複数の再生区間指定情報を連結した際に、その境界部分で連続的とならないオーディオデータが対応付けられた再生区間指定情報を連結する数が増えるにしたがって蓄積される。一例として、このようにして構成された再生制御情報を繰り返す毎に、ずれが蓄積される。
【0023】
そこで、図3Aに示すように、ずれの時間長が所定値以上となった場合には、対応する所定時間分のビデオデータを挿入する。こうすることにより、再生制御情報とオーディオデータとの間のずれを軽減させることができる。具体的には、例えば、ずれの時間長がビデオフレーム1フレーム分の時間長以上となった場合には、図3Bに示すように、ビデオフレームを1フレーム分挿入する。
【0024】
ところで、例えば映画映像は、従来から光学フィルムを用いて制作されており、毎秒24コマの映像信号である。これは、ビデオ信号としては、フレーム周波数が24Hzでプログレッシブ走査のビデオ信号となる。現在では、このような映画映像などの、フレーム周波数が24Hzのビデオ信号を、フレーム周波数を変換しないまま記録媒体に記録する方法が開発されている。この場合の再生区間指定情報は、フレーム周波数が24Hzの信号の時間情報に基づき記述されている。したがって、映画映像などを再生する場合には、フレーム周波数が24Hzであるビデオ信号を、モニタ表示に適したフレーム周波数のビデオ信号に変換する必要がある。
【0025】
一方、日本などのテレビジョン放送に用いられているNTSC(National Television System Committee)方式においては、ビデオ信号のフレーム周波数は59.94Hzとされており、映像を表示するモニタ装置のフレーム周波数も59.94Hzとされている。したがって、フレーム周波数が24Hzである映画映像など、ビデオ信号のフレーム周波数が59.94Hz以外の場合には、フレーム周波数を59.94Hzに変換する必要がある。
【0026】
フレーム周波数が24Hzでプログレッシブ走査(以下、24pと適宜称する)のビデオ信号を、フレーム周波数が59.94Hzでプログレッシブ走査(以下、59.94pと適宜称する)のビデオ信号に変換する際には、オリジナルのフレーム周波数が24Hzのビデオ信号における各フレームを一旦フレーム周波数が60Hzでプログレッシブ走査(以下、60pと適宜称する)のビデオ信号の3フレームおよび2フレームに交互に変換する処理、所謂3−2プルダウン(または2−3プルダウン)と称される処理が行われる。そして、60pのビデオ信号に対して所定の変換処理を施し、59.94pのビデオ信号に変換する。
【0027】
24pのビデオ信号と60pのビデオ信号とでは、フレーム周波数に2対5の関係がある。そこで、例えば図4Aに示すように、24pのビデオ信号のフレームを、3−2プルダウンにより3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、図4Bに示すように60Hzのフレーム周波数で出力することで、24pのビデオ信号が60pのビデオ信号に変換される。
【0028】
なお、以下では、3−2プルダウン処理により24pのフレームがn回繰り返された隣接するフレームの集合をグループと呼び、24pのフレームが3回繰り返された隣接する3フレームからなるグループを3フレームグループ、24pのフレームが2回繰り返された隣接する2フレームからなるグループを2フレームグループとそれぞれ呼ぶことにする。
【0029】
この発明の実施の一形態では、ビデオデータとオーディオデータとの間のずれを軽減するための、1フレーム分のビデオフレームを挿入する処理を、上述の3−2プルダウン(または2−3プルダウン)処理の際に2フレームグループに対して行う。
【0030】
すなわち、3フレームグループに1フレームの挿入を行ってしまうと、2フレームグループの次が3フレームグループに同一のフレームが挿入された、4枚の同一のフレームからなるグループとされ、その次が2フレームグループとされる。この場合、2フレームグループの再生直後に、4枚の同一フレームが再生され、次に2フレームグループの再生が行われることになり、フレーム挿入を行ったグループと、当該グループ前後の、フレーム挿入を行っていないグループとの間のフレーム枚数差が2以上となり、表示が不自然となる。
【0031】
そこで、図5Aに示されるように、3−2プルダウン処理を行ったビデオ信号に対してフレームを挿入する場合には、2フレームグループに対して1フレームの挿入を行うようにする。こうすることで、図5Bに示すように、1フレームの挿入を行ったグループと、当該グループ前後の、フレーム挿入を行っていないグループとの間のフレーム枚数差が2フレーム以上にならず、不自然な表示となることを防ぐことができる。
【0032】
図6は、この発明の実施の一形態に適用可能な再生装置1の一例の構成を示す。以下では、例えば、フレーム周波数が24Hzのビデオデータを、フレーム周波数が59.94Hzのビデオデータに変換する必要がある場合など、ビデオデータのフレーム周波数の変更が必要な場合を例にとって説明する。再生装置1は、ディスクドライブ12、デマルチプレクサ(DeMUX)13、ビデオデコーダ14、ビデオ変換部15、オーディオデコーダ16、オーディオ出力部17、制御部18およびSTC(System Time Clock)回路19で構成されている。
【0033】
ストリームデータは、着脱可能な記録媒体11に記録されて供給される。記録媒体11の例としては、再生専用または記録可能なディスク状記録媒体、フラッシュメモリといった半導体メモリ、着脱可能なハードディスクドライブなどが考えられる。ディスク状記録媒体としては、例えばBlu−ray Disc(登録商標)およびBlu−ray Discに基づく再生専用の規格であるBD−ROM(Blu-ray Disc-Read Only Memory)、さらにはDVD(Digital Versatile Disc)やCD(Compact Disc)などが考えられる。
【0034】
ストリームデータの供給源としては、ディスク状記録媒体の他に、例えば、インターネットなどの通信ネットワークやディジタルテレビジョン放送が考えられる。以下では、ストリームデータの供給源として、ディスク状記録媒体などの着脱可能な記録媒体11を例にとって説明する。
【0035】
ディスクドライブ12は、装填された記録媒体11に記録されたストリームデータを再生する。記録媒体11には、例えばMPEG2(Moving Picture Experts Group 2)システムズに規定されるトランスポートストリーム(TS)やプログラムストリーム(PS)の形式で、ビデオデータおよびオーディオデータが多重化されたストリームデータが記録されている。記録媒体11から再生されたトランスポートストリームまたはプログラムストリームは、デマルチプレクサ13に供給される。
【0036】
デマルチプレクサ13は、供給されたストリームデータからビデオストリームおよびオーディオストリームを分離する。例えば、ディスクドライブ11からトランスポートストリームとしてストリームデータが供給された場合、デマルチプレクサ13は、トランスポートパケット毎にPID(Packet IDentification)を解析し、ビデオデータが格納されたパケットを集める。集めたパケットのペイロードに格納されたデータからPES(Packetized Elementary Stream)パケットを再構築する。そして、PESパケットのヘッダに格納された情報などに基づき、PESパケット毎にビデオデータのエレメンタリストリームを取り出してビデオストリームを復元する。また、ビデオストリームの復元と同様にして、デマルチプレクサ13は、トランスポートパケット毎のPIDに基づきオーディオデータが格納されたパケットを集め、オーディオストリームを復元する。
【0037】
ディスクドライブ12からプログラムストリームとしてストリームデータが供給された場合、デマルチプレクサ13は、パックヘッダなどのヘッダ情報に基づきPESパケットを分離し、PESパケットのヘッダに格納された情報などに基づき、PESパケット毎にビデオデータのエレメンタリストリームを取り出してビデオストリームを復元する。また、ビデオストリームの復元と同様にして、デマルチプレクサ13は、パックヘッダなどのヘッダ情報に基づきPESパケットを分離し、オーディオストリームを復元する。
【0038】
デマルチプレクサ13で分離されたビデオストリームは、ビデオデコーダ14に供給され、オーディオストリームは、オーディオデコーダ16に供給される。ビデオデコーダ14は、供給されたビデオストリームをデコードし、ベースバンドのビデオデータとして出力する。
【0039】
ここで、例えばMPEG2システムズにより伝送されるビデオストリームの符号化方式は、MPEG2方式に限られない。例えば、ITU−T(International Telecommunication Union-Telecommunication Standarization Sector)勧告H.264あるいはISO(International Organization for Standarization)/IEC(International Electrotechnical Commission)国際標準14496−10(MPEG−4パート10)Advanced Video Coding(以下、H.264|AVCと略称する)に規定される符号化方式や、VC1(Video Codec 1)方式で符号化されたビデオストリームを、MPEG2システムズにより伝送することができる。
【0040】
ビデオデコーダ14は、これら複数の符号化フォーマットにそれぞれ対応してビデオストリームをデコードするようにできる。この場合、ビデオデコーダ14は、例えばビデオストリームのヘッダ情報や、ビデオストリームに所定に付加される属性情報に基づき符号化フォーマットを判別し、対応する復号方式でビデオストリームをデコードする。ユーザ操作などに基づく外部からの制御に応じて符号化フォーマットを設定することもできる。
【0041】
勿論、ビデオデコーダ14が単独の符号化フォーマットにのみ対応するようにもできる。この場合には、ビデオデコーダ14が対応していない符号化フォーマットのビデオストリームが供給されると、例えばエラー処理がなされる。
【0042】
また、ビデオデコーダ14は、供給されたビデオストリームのフレームレートすなわちフレーム周波数を取得する。一例として、上述したMPEG2方式、H.264|AVC方式およびVC1方式においては、ストリームのヘッダ部分にフレームレートに関する情報が格納される。ビデオデコーダ14は、供給されたビデオストリームの例えばヘッダ部分からフレームレートに関する情報を抽出し、当該ビデオストリームのフレームレートを取得する。
【0043】
より具体的には、MPEG2の場合、シーケンスヘッダ(Sequence Header)内のデータ項目frame_rate_codeにフレームレートframe_rate_valueが記述される。H.264|AVCの場合、シーケンスパラメータセット(Sequence Parameter Set)におけるシーケンスパラメータvui_parameters()内のパラメータnum_units_in_tickおよびパラメータtime_scaleを用いて(time_scale/num_units_in_tick)/2を計算することにより、フレームレートframe_rate_valueが求められる。また、VC1の場合、シーケンスレイヤSEQUENCE LAYER()における項目FRAMERATENRおよび項目FRAMERATEDRでそれぞれ示される値value of Frame Rate Numeratorおよび値value of Frame Rate Denominatorを用いて(value of Frame Rate Numerator)/(value of Frame Rate Denominator)を計算することにより、フレームレートframe_rate_valueが求められる。
【0044】
ビデオデコーダ14から、ビデオストリームがデコードされたビデオデータと、ビデオストリームから所定に取得されたフレームレート情報とがビデオ変換部15に供給される。ビデオデータは、例えばこのビデオデータのフレームレートに従いビデオ変換部15に供給される。
【0045】
オーディオデコーダ16は、供給されたオーディオストリームを所定の処理単位に基づきデコードし、オーディオ出力部17に対してオーディオ処理単位毎に出力する。オーディオストリームは、復号可能なAU(Access Unit;アクセスユニット)と呼ばれるオーディオ処理単位が、並べられることによって構成されている。
【0046】
また、オーディオストリームのコーデック処理としては、種々の方式を用いることができ、例えば、MP3(MPEG audio layer 3)やAC3(Audio Code number 3)、AAC(Advanced Audio Coding)を用いることができる。復号されたオーディオ処理単位の再生時間は、適用されるコーデック処理によって異なる。例えば、コーデック処理としてMP3を用いた場合のオーディオ処理単位の再生時間は、サンプリング周波数を48[kHz]とすると、1152[sample]/48[kHz]=24[msec]となる。また、例えば、コーデック処理としてAC3を用いた場合のオーディオ処理単位の再生時間は、サンプリング周波数を48[kHz]とすると、1536[sample]/48[kHz]=32[msec]となる。さらに、例えば、コーデック処理としてAACを用いた場合のオーディオ処理単位の再生時間は、サンプリング周波数を48[kHz]とすると、1024[sample]/48[kHz]=21.33[msec]となる。
【0047】
オーディオデコーダ16は、ビデオデコーダ14と同様に、これらの複数の符号化フォーマットにそれぞれ対応してオーディオストリームをデコードするようにできる。例えばこの場合、オーディオデコーダ16は、オーディオストリームのヘッダ情報や、オーディオストリームに所定に付加される属性情報に基づき符号化フォーマットやサンプリング周波数を判別し、対応する復号方式でオーディオストリームをデコードする。
【0048】
制御部18は、CPU(Central Processing Unit)、ROM(Read Only Memory)およびRAM(Random Access Memory)などからなる。ROMは、CPU上で動作されるプログラムや動作のために必要なデータが予め記憶される。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムやデータを必要に応じて読み出し、RAMをワークメモリとして用いながら、この再生装置1の各部を制御する。なお、ROMは、記憶されたプログラムやデータを書き換えて、更新可能としてもよい。
【0049】
STC回路19は、ビデオデータとオーディオデータとを同期させるための同期基準信号であるSTCを発生させる。発生したSTCは、ビデオ変換部15およびオーディオ出力部17に供給される。
【0050】
ビデオ変換部15は、ビデオデコーダ14から供給されたフレームレート情報に基づき、このビデオデータのフレーム周波数の変換を行う。例えば、図7に例示されるように、ビデオ変換部15は、フレームメモリ30およびビデオ制御部31からなり、ビデオ制御部31は、制御部18の制御に基づき、フレームメモリ30からのビデオデータの読み出しを制御することで、3−2プルダウン処理などの処理を行う。
【0051】
一例として、24pのビデオデータを60pのビデオデータに変換する3−2プルダウン処理は、例えば、24pすなわちフレーム周波数が24Hzで供給されたビデオデータをフレーム単位でフレームメモリ30に格納し、ビデオ制御部31は、フレームメモリ30から3回若しくは2回繰り返して同一フレームを読み出すように制御する。
【0052】
また、ビデオ変換部15は、制御部18の制御に基づき、ビデオデータとオーディオデータとの間のずれの補正を行う。例えば、ビデオ変換部15は、STC回路19から加算器20を介して供給されたクロックに基づき、所定のタイミングでピクチャを挿入する。
【0053】
さらに、ビデオ変換部15は、上述したように処理されたビデオデータに対して、1001フレーム毎に所定の1フレームを間引く処理を行うことにより、60pのビデオデータを59.94pのビデオデータに変換する。
【0054】
変換されたビデオデータは、STC回路19から供給される同期基準信号であるSTCの値に基づき、STC値とビデオデータのPTSで指定される時間とが一致した場合に出力される。
【0055】
オーディオ出力部17は、例えば図示されないバッファを有し、デコードされたオーディオ処理単位をバッファに格納する。そして、STC回路19から供給されるSTCの値に基づき、STC値とオーディオデータのPTSで指定される時間とが一致した場合にオーディオ処理単位を連続的に出力する。また、オーディオ出力部17は、オーディオ処理単位同士の重複量を算出するための情報を制御部18に供給する。
【0056】
制御部18は、オーディオ出力部17から供給される情報に基づきオーディオ処理単位の重複量を算出するとともに重複量の積算を行う。そして、重複量の積算値が所定値、例えば1フレーム分以上となった場合には、ビデオ変換部15に対して所定のタイミングでピクチャを挿入するように制御する。また、制御部18は、STC回路19からビデオ変換部15に対して供給されるSTC値に対して、加算器20を介して所定値分、例えば1フレーム分だけ遅らせるように制御する。
【0057】
上述では、図6に示す再生装置1の各部がそれぞれハードウェアで構成されるように説明したが、これはこの例に限定されない。すなわち、再生装置1におけるデマルチプレクサ13、ビデオデコーダ14、ビデオ変換部15、オーディオデコーダ16、オーディオ出力部17、制御部18およびSTC回路19の全てまたは一部を、CPU上で所定のプログラムを実行させることで構成することも可能である。プログラムは、再生装置1が有する図示されないROMに予め記憶させておいてもよいし、DVD−ROMやCD−ROMといった記録媒体に記録された状態で提供されてもよい。インターネットなどの通信ネットワークを介してプログラムを提供することもできる。提供されたプログラムは、再生装置1が有する図示されないハードディスクドライブや不揮発性メモリなどに記憶され、CPUに読み込まれて実行される。
【0058】
図8は、この発明の実施の一形態による一例の再生処理を示すフローチャートである。この図8に例示する再生処理は、主に、上述した再生装置1の制御部18で行われる。記録媒体11をディスクドライブ12に装着され、記録媒体11がディスクドライブ12に再生されると、記録媒体11からメニューを表示するための情報と、メニューによって指定されるタイトルで再生される再生制御情報および再生区間指定情報が図示されないメモリに読み込まれる。制御部18は、読み込まれたこれらの情報を用いて、記録媒体11に記録されているストリームデータの再生制御を行う。なお、この例では、再生されるビデオデータのフレーム周波数が24Hzである場合には、再生処理と並行して、ビデオ変換部15におけるビデオデータの3−2プルダウン処理等の変換処理が行われているものとする。
【0059】
ステップS1では、複数の再生区間指定情報を連続的に再生するように並べた場合に、それぞれの再生区間指定情報に対応するオーディオ処理単位が重複した際の重複量を積算したものを示す重複量積算値audio_overlap_sumの値が"0"とされる。
【0060】
次のステップS2では、現在のオーディオ処理単位の次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsを、値exp_ptsが無効であることを示す値"INVALID_PTS"とする。また、現在再生中の再生区間指定情報の次に処理されることが期待される再生区間指定情報を識別するための識別情報であるIDを示す値exp_pts_item_idを、値exp_pts_item_idが無効であることを示す値"INVALID_ITEM_ID"とする。
【0061】
ステップS3では、現在のオーディオ処理単位のPTSの値が、値au_ptsに格納される。また、現在再生中の再生区間指定情報を識別するための識別情報であるIDを示す値が、値au_pts_item_idに格納される。
【0062】
ステップS4では、次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsが値"INVALID_PTS"であるかどうかが判断される。次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsが値"INVALID_PTS"以外の値であると判断された場合には、処理がステップS5に移行し、値exp_ptsが値"INVALID_PTS"であると判断された場合には、処理がステップS6に移行する。
【0063】
ステップS5では、値exp_pts_item_idと値au_pts_item_idとが等しいかどうかが判断される。値exp_pts_item_idと値au_pts_item_idとが等しいと判断された場合には、処理がステップS6に移行する。
【0064】
ステップS6では、現在のオーディオ処理単位のコーデック処理とサンプリング周波数に基づき、現在のオーディオ処理単位の再生時間audio_durationが算出され、ステップS7で、数式(1)に基づき現在のオーディオ処理単位のPTSの値au_ptsに対して上述のオーディオ処理単位の再生時間audio_durationが加算され、次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsに格納される。また、数式(2)に基づき現在の再生区間指定情報のIDの値au_pts_item_idが、次に処理されることが期待される再生区間指定情報のIDの値exp_pts_item_idに格納される。そして、ステップS8で現在のオーディオ処理単位が出力され、次のオーディオ処理単位が現在のオーディオ処理単位とされ、処理がステップS3に戻る。
exp_pts=au_pts+audio_duration ・・・(1)
exp_pts_item_id=au_pts_item_id ・・・(2)
【0065】
一方、ステップS5において、期待するオーディオ処理単位が対応付けられた再生区間指定情報のIDの値exp_pts_item_idと、現在のオーディオ処理単位が対応付けられた再生区間指定情報のIDの値au_pts_item_idとが異なると判断された場合には、処理がステップS9に移行する。
【0066】
ステップS9では、現在再生中の再生区間指定情報の後端を含むオーディオ処理単位と次に処理されることが期待される再生区間指定情報の前端を含むオーディオ処理単位との重複量が算出され、算出された重複量が積算される。そして、積算された重複量が所定値以上となった場合には、ビデオフレームを挿入するフィードバック処理が行われ、処理がステップS2に戻る。なお、ステップS9における処理の詳細については後述する。
【0067】
次に、ステップS9におけるオーディオ処理単位の重複量の積算およびフィードバック処理について、図9を参照して説明する。ステップS11では、値au_pts_item_idが示す再生区間指定情報におけるIN点を示す情報が値in_timeに格納される。また、値exp_pts_item_idが示す再生区間指定情報におけるOUT点を示す情報が値out_timeに格納される。
【0068】
ステップS12では、数式(3)および数式(4)に基づき、期待するオーディオ処理単位のPTSの値が現在のオーディオ処理単位のPTSの時間に変換される。
item_diff=out_time−in_time ・・・(3)
exp_pts=exp_pts+item_diff ・・・(4)
【0069】
ステップS13では、数式(5)に基づき重複するオーディオ処理単位の重複量over_lapが算出され、ステップS14において、数式(6)に基づき重複量over_lapの積算値である重複量積算値audio_overlap_sumが算出される。そして、ステップS15では、積算した重複量積算値audio_overlap_sumを補正する補正量feedbackが1フレーム分の時間に設定される。
over_lap=exp_pts−au_pts ・・・(5)
audio_overlap_sum=audio_overlap_sum+over_lap ・・・(6)
【0070】
ステップS16では、次の表示ピクチャが準備できたかどうかが判断される。次の表示ピクチャが準備できたと判断された場合には、処理がステップS17に移行する。一方、次の表示ピクチャが準備できていないと判断された場合には、処理がステップS16に戻り、次の表示ピクチャが準備できるまでステップS16の処理が繰り返される。
【0071】
ステップS17では、ビデオ変換部15で行われる3−2プルダウン処理におけるフレームグループ内のフレーム数カウント値video_frame_cntがビデオ変換部15から取得される。ステップS18では、フレーム数カウント値video_frame_cntの値が"2"であるかどうかが判断される。フレーム数カウント値video_frame_cntが"2"であると判断された場合には、処理がステップS19に移行する。一方、フレーム数カウント値video_frame_cntが"2"以外であると判断された場合には、処理がステップS16に戻る。
【0072】
ステップS19では、積算した重複量積算値audio_overlap_sumが補正量feedbackの値を超えたかどうかが判断される。重複量積算値audio_overlap_sumが補正量feedbackの値を超えたと判断された場合には、処理がステップS20に移行する。一方、重複量積算値audio_overlap_sumが補正量feedbackの値以下であると判断された場合には、一連の処理が終了し、図8のステップS2に戻る。
【0073】
ステップS20では、フレーム数カウント値video_frame_cntの値を"3"として、ビデオ変換部15に通知する。すなわち、ビデオ変換部15における3−2プルダウン処理において、1つのピクチャを2回繰り返して読み出される部分が3回繰り返して読み出されるようになる。これにより、1フレーム分のピクチャが2フレームグループに挿入されることになり、ビデオデータの再生タイミングが1フレーム分遅らされ、ビデオデータとオーディオデータとの間のずれが軽減されることになる。
【0074】
ステップS21では、数式(7)に基づき、STC回路19からビデオ変換部15に対して供給された同期基準時間STCの値v_STCから、加算器20を介して補正量feedbackを減じる。また、ステップS22において、数式(8)に基づき、重複量積算値audio_overlap_sumから補正量feedbackを減じ、重複積算値audio_overlap_sumが補正される。
v_STC=v_STC−feedback ・・・(7)
audio_overlap_sum=audio_overlap_sum−feedback ・・・(8)
【0075】
この処理によれば、現在再生中の再生区間指定情報によって指定される区間の後端を含むオーディオ処理単位と、次に処理されることが期待される再生区間指定情報によって指定される区間の前端を含むオーディオ処理単位との重複量over_lapを算出し、算出された重複量を積算して得られた積算値audio_overlap_sumが1フレーム以上となるかどうかを判断する。そして積算値audio_overlap_sumが1フレーム以上となった場合には、1フレームを挿入するようにしている。したがって、再生されるビデオデータとオーディオデータとの間のずれが軽減される。また、1フレームの挿入をビデオ変換部15における3−2プルダウン処理の際に、2フレームグループに対して行っているため、表示が不自然になることが防がれる。
【0076】
次に、この発明の実施の一形態の変形例について説明する。この発明の実施の一形態の変形例では、ビデオデータとオーディオデータとの間のずれを軽減するために、先行する再生区間指定情報によって指定される区間の後端を含むオーディオ処理単位と、次の再生区間指定情報によって指定される区間の前端を含むオーディオ処理単位とのうち、いずれか一方のオーディオ処理単位を削除することによってオーディオデータを連続的に再生する第2の方法を用いる。
【0077】
図10は、再生制御情報を編集して別の再生制御情報を生成した場合におけるストリームデータの具体的な再生制御方法の一例を示す。例えば、図10Aに示すように、オーディオ処理単位a〜kが再生区間指定情報#1〜#3に対して対応付けられ、連続的に再生されるようになっているものとする。
【0078】
このように、オーディオデータが連続的に再生されるようにされた複数の連続した再生区間指定情報#1、#2および#3で構成された再生制御情報を編集し、再生区間指定情報#1および#3を連結するように構成する場合について考える。図10Bに示すように、再生区間指定情報#1を再生するためには、再生区間指定情報#1によって指定される区間の前端および後端を含むオーディオ処理単位a〜dが必要となる。また、再生区間指定情報#3を再生するためには、再生区間指定情報#3によって指定される区間の前端および後端を含むオーディオ処理単位h〜kが必要となる。
【0079】
したがって、再生区間指定情報#1および再生区間指定情報#3が連続的に再生されるように連結させた場合には、図10Cに示すように、再生区間指定情報#1によって指定される区間の後端を含むオーディオ処理単位dの一部分と、再生区間指定情報#3によって指定される区間の前端を含むオーディオ処理単位hの一部分とが重複してしまうことになる。
【0080】
このような場合、この発明の実施の一形態の変形例では、図10Dに示すように、重複するオーディオ処理単位dおよびhのうち、いずれか一方のオーディオ処理単位を削除する。このように、重複する2つのオーディオ処理単位のうち一方のオーディオ処理単位を削除することにより、再生制御情報の再生終了位置とオーディオデータの再生終了位置との間には、ずれが生じる。なお、ここでは、重複するオーディオ処理単位dおよびhのうち、オーディオ処理単位hを削除する場合を例にとって説明するが、これに限られず、例えば、重複するオーディオ処理単位dおよびhのうち、オーディオ処理単位dを削除してもよい。
【0081】
この実施の一形態の変形例では、図11Aに示すように、ずれの時間長が所定値以上となった場合には、所定時間分のビデオデータを間引く。こうすることにより、再生制御情報とオーディオデータとの間のずれを軽減させることができる。具体的には、例えば、ずれの時間長がビデオフレーム1フレーム分の時間長以上となった場合には、図11Bに示すように、ビデオフレームを1フレーム分間引く。
【0082】
59.94p以外のビデオ信号である場合、例えば、24pのビデオ信号である場合においては、上述の実施の一形態で説明した3−2プルダウン(または2−3プルダウン)処理を行い、24pのビデオ信号を60pのビデオ信号に変換する。
【0083】
この発明の実施の一形態の変形例では、ビデオデータとオーディオデータとの間のずれを軽減するための、1フレーム分のビデオフレームを間引く処理を、上述の3−2プルダウン(または2−3プルダウン)処理の際に3フレームグループに対して行う。
【0084】
すなわち、2フレームグループから1フレームを間引きしてしまうと、3フレームグループの次が2フレームグループから1フレーム間引きされた、1フレームとなり、その次が3フレームグループとされる。この場合、3フレームグループの再生直後に、2フレームグループから1フレーム間引きされた1フレームが再生され、次に3フレームグループの再生が行われることになり、フレーム間引きを行ったグループと、当該グループ前後の、間引きを行っていないグループとの間のフレーム枚数差が2以上となり、表示が不自然となる。
【0085】
そこで、3−2プルダウン処理を行ったビデオ信号に対してフレーム間引きを行う場合には、図12Aに示すように、3フレームグループに対して1フレームの間引きを行うようにする。こうすることで、図12Bに示すように、1フレームの間引きを行ったグループと、当該グループ前後の、フレーム間引きを行っていないグループとの間のフレーム枚数差が2フレーム以上にならず、不自然な表示となることを防ぐことができる。
【0086】
このように、この発明の実施の一形態および実施の一形態の変形例では、ビデオデータとオーディオデータとの間にずれが生じた場合において、このずれが所定量以上となった際には、所定の位置にビデオフレームを挿入したり、所定の位置からビデオフレームを間引きするようにしているため、ビデオデータとオーディオデータとの間のずれが軽減され、映像および音声のタイミングが不自然になることを防ぐことができる。
【0087】
以上、この発明の実施の一形態および実施の一形態の変形例について説明したが、この発明は、上述したこの発明の実施の一形態および実施の一形態の変形例に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【図面の簡単な説明】
【0088】
【図1】再生制御情報、再生区間指定情報およびストリームデータの関係を示す略線図である。
【図2】この発明の実施の一形態による一例の再生処理を示す略線図である。
【図3】この発明の実施の一形態によるずれを軽減する方法を説明するための略線図である。
【図4】3−2プルダウン処理を説明するための略線図である。
【図5】3−2プルダウン処理を適用したビデオデータとオーディオデータとの間のずれを軽減する方法を説明するための略線図である。
【図6】この発明の実施の一形態に適用可能な再生装置の一例の構成を示すブロック図である。
【図7】ビデオ変換部の一例の構成を示すブロック図である。
【図8】この発明の実施の一形態による一例の再生処理を示すフローチャートである。
【図9】オーディオ処理単位の重複量の積算およびフィードバック処理を示すフローチャートである。
【図10】この発明の実施の一形態の変形例による一例の再生処理を示す略線図である。
【図11】この発明の実施の一形態の変形例によるずれを軽減する方法を説明するための略線図である。
【図12】この発明の実施の一形態の変形例による3−2プルダウン処理を適用したビデオデータとオーディオデータとの間のずれを軽減する方法を説明するための略線図である。
【符号の説明】
【0089】
1 再生装置
11 記録媒体
12 ディスクドライブ
13 デマルチプレクサ
14 ビデオデコーダ
15 ビデオ変換部
16 オーディオデコーダ
17 オーディオ出力部
18 制御部
19 STC回路
30 フレームメモリ
31 ビデオ制御部
【技術分野】
【0001】
この発明は、映像信号の再生区間を指定した再生制御情報に基づき映像信号の再生を行うようにした再生方法、再生プログラムおよび再生装置に関する。
【背景技術】
【0002】
ビデオデータとオーディオデータとが多重されたストリームデータの再生方法を指定する手段として、ストリームデータに対して再生区間や再生順序を指定する再生区間指定情報と、この再生区間指定情報の再生順序を指定する再生制御情報とを用いて、ストリームデータの再生制御を行う方法が知られている。このような再生方法は、実際のストリームデータを加工することなく再生区間や再生順序の指定や変更が可能であり、ストリームデータの取り扱いが容易となるため便利である。
【0003】
このように、再生制御情報内の再生区間指定情報に記述された再生区間を参照してストリームデータを再生する方法に関する技術が下記の特許文献1に記載されている。
【0004】
【特許文献1】特開2004−304767号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところで、ストリームデータ中のビデオデータは、フレーム単位で処理が行われ、ストリームデータ中のオーディオデータは、圧縮符号化の単位などを処理単位として処理が行われる。オーディオデータの処理単位は、ビデオデータの処理単位に対して無関係に決めらるため、再生区間指定情報で再生区間が指定されるビデオデータの時間長と、このビデオデータに対応するオーディオデータの時間長とは、必ずしも一致しない。
【0006】
ここで、オーディオデータが連続的に再生されるようにされた複数の連続した再生区間指定情報#1、#2および#3の再生順を編集し、再生区間指定情報#1および#3を連結するように構成する場合について考える。この場合、再生区間指定情報#1の後端を含むオーディオ処理単位は、再生区間指定情報#1に対応付けられる。また、再生区間指定情報#3の前端を含むオーディオ処理単位は、再生区間指定情報#3に対応付けられる。
【0007】
再生区間指定情報#1および#3を連結すると、再生区間指定情報#1および#3の境界部分では、再生区間指定情報#1に対応する再生区間指定情報#1の後端を含むオーディオ処理単位と、再生区間指定情報#3に対応する再生区間指定情報#3の前端を含むオーディオ処理単位とが重複することになる。
【0008】
このような場合、従来は、重複するオーディオ処理単位を再生区間指定情報の再生順に従い、続けて再生するか、重複するオーディオ処理単位のうちいずれか一方のオーディオ処理単位を削除し、オーディオデータが連続的に再生されるように詰めて再生するようにしていた。
【0009】
しかしながら、このようにオーディオ処理単位を続けて再生したり、重複するオーディオ処理単位のうち一方を削除して再生した場合には、映像と音声との間にずれが生じてしまうことになる。再生区間指定情報#1および#3で構成された再生制御情報に基づきストリームデータを繰り返し再生すると、上述のずれが蓄積されるため、映像と音声との間に生じるずれがより顕著となってしまうという問題点があった。
【0010】
したがって、この発明の目的は、オーディオデータが連続的に再生されるように予め編集された再生制御情報を編集し、再生区間指定情報の構成を異ならせた再生制御情報において、映像と音声との間に生じるずれを軽減し、表示が不自然になるのを抑えることができる再生方法、再生プログラムおよび再生装置を提供することにある。
【課題を解決するための手段】
【0011】
上述した課題を解決するために、第1の発明は、ビデオデータとビデオデータに関連付けられたオーディオデータとを再生する再生方法において、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求め、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、第1の変換は、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにしたことを特徴とする再生方法である。
【0012】
また、第2の発明は、ビデオデータとビデオデータに関連付けられたオーディオデータとを再生する再生方法をコンピュータ装置に実行させる再生プログラムにおいて、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求め、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、第1の変換は、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした再生方法をコンピュータ装置に実行させることを特徴とする再生プログラムである。
【0013】
また、第3の発明は、ビデオデータとビデオデータに関連付けられたオーディオデータとを再生する再生装置において、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求める制御部と、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換部と、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換部とを有し、第1の変換部は、制御部の制御に基づき、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにしたことを特徴とする再生装置である。
【0014】
上述したように、第1、第2および第3の発明では、ビデオデータに対して、ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、再生区間指定情報に対応する、第1の処理単位とは異なる長さの第2の処理単位の集合であるオーディオデータの区間との差分を求め、差分に応じて、再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、第1の変換は、3回繰り返し出力のフレームに基づくフレーム群と、3回繰り返し出力のフレームに基づくフレーム群に連続する、2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにしているため、ビデオデータとオーディオデータとの長さの差が少ない。
【発明の効果】
【0015】
この発明は、現在再生中の再生区間指定情報によって指定される区間の後端を含むオーディオ処理単位と、次に処理されることが期待される再生区間指定情報によって指定される区間の前端を含むオーディオ処理単位との重複量を算出し、算出された重複量を積算して得られた積算値が1フレーム以上となるかどうかを判断し、積算値が1フレーム以上となった場合には、1フレームを挿入するようにしている。したがって、再生されるビデオデータとオーディオデータとの間のずれが軽減されるという効果がある。
【発明を実施するための最良の形態】
【0016】
以下、この発明の実施の一形態について、図面を参照して説明する。この発明の実施の一形態では、ビデオデータとオーディオデータとが多重されたストリームデータに対して再生区間や再生順序を指定する再生区間指定情報と、この再生区間指定情報の再生順序を指定する再生制御情報とを用いて、ストリームデータの再生制御を行うようにしている。
【0017】
先ず、再生制御情報、再生区間指定情報およびストリームデータの関係について、図1を参照して説明する。図1に示すように、再生区間指定情報は、ストリームデータに対して再生箇所を示す再生開始点(IN点)および再生終了点(OUT点)を設定する。再生区間指定情報は、IN点およびOUT点の情報を一組として記述される。再生制御情報は、複数の再生区間指定情報の集合で構成され、複数の再生区間指定情報の再生順序を指定する。ストリームデータを再生する場合には、再生制御情報に基づき再生区間指定情報に記述されたIN点およびOUT点の情報を参照して、ストリームデータ中の対応する区間が再生される。
【0018】
次に、この発明の実施の一形態による再生制御方法について、図2を参照して説明する。例えば、図2Aに示すように、オーディオ処理単位a〜kが再生区間指定情報#1〜#3に対して対応付けられ、連続的に再生されるようになっているものとする。
【0019】
このように、オーディオデータが連続的に再生されるようにされた複数の連続した再生区間指定情報#1、#2および#3で構成された再生制御情報を編集し、再生区間指定情報#1および#3を連結するように構成する場合について考える。図2Bに示すように、再生区間指定情報#1を再生するためには、再生区間指定情報#1によって指定される区間の前端および後端を含むオーディオ処理単位a〜dが必要となる。また、再生区間指定情報#3を再生するためには、再生区間指定情報#3によって指定される区間の前端および後端を含むオーディオ処理単位h〜kが必要となる。
【0020】
したがって、再生区間指定情報#1よって指定される区間と再生区間指定情報#3よって指定される区間とが連続的に再生されるように連結させた場合には、図2Cに示すように、再生区間指定情報#1によって指定される区間の後端を含むオーディオ処理単位dの一部分と、再生区間指定情報#3に対応付けられたオーディオ処理単位h〜kのうち、再生区間指定情報#3によって指定される区間の前端を含むオーディオ処理単位hの一部分とが重複してしまうことになる。
【0021】
このような場合には、上述の背景技術の項目で既に説明したように、オーディオデータが連続的に再生されるようにする方法として、重複するオーディオ処理単位を再生区間指定情報の再生順に従って続けて再生する第1の方法と、重複するオーディオ処理単位のうちいずれか一方のオーディオ処理単位を削除する第2の方法とが考えられる。この発明の実施の一形態では、ビデオデータとオーディオデータとの間のずれを軽減するために、重複するオーディオ処理単位を再生区間指定情報の再生順に従って続けて再生する第1の方法を用いる。
【0022】
第1の方法では、図2Dに示すように、重複するオーディオ処理単位dおよびhを、再生区間指定情報#1および#3の再生順に従って順番に配置する。このように、重複するオーディオ処理単位を順番に配置することにより、再生制御情報の再生終了位置とオーディオデータの再生終了位置との間には、ずれが生じる。このずれは、複数の再生区間指定情報を連結した際に、その境界部分で連続的とならないオーディオデータが対応付けられた再生区間指定情報を連結する数が増えるにしたがって蓄積される。一例として、このようにして構成された再生制御情報を繰り返す毎に、ずれが蓄積される。
【0023】
そこで、図3Aに示すように、ずれの時間長が所定値以上となった場合には、対応する所定時間分のビデオデータを挿入する。こうすることにより、再生制御情報とオーディオデータとの間のずれを軽減させることができる。具体的には、例えば、ずれの時間長がビデオフレーム1フレーム分の時間長以上となった場合には、図3Bに示すように、ビデオフレームを1フレーム分挿入する。
【0024】
ところで、例えば映画映像は、従来から光学フィルムを用いて制作されており、毎秒24コマの映像信号である。これは、ビデオ信号としては、フレーム周波数が24Hzでプログレッシブ走査のビデオ信号となる。現在では、このような映画映像などの、フレーム周波数が24Hzのビデオ信号を、フレーム周波数を変換しないまま記録媒体に記録する方法が開発されている。この場合の再生区間指定情報は、フレーム周波数が24Hzの信号の時間情報に基づき記述されている。したがって、映画映像などを再生する場合には、フレーム周波数が24Hzであるビデオ信号を、モニタ表示に適したフレーム周波数のビデオ信号に変換する必要がある。
【0025】
一方、日本などのテレビジョン放送に用いられているNTSC(National Television System Committee)方式においては、ビデオ信号のフレーム周波数は59.94Hzとされており、映像を表示するモニタ装置のフレーム周波数も59.94Hzとされている。したがって、フレーム周波数が24Hzである映画映像など、ビデオ信号のフレーム周波数が59.94Hz以外の場合には、フレーム周波数を59.94Hzに変換する必要がある。
【0026】
フレーム周波数が24Hzでプログレッシブ走査(以下、24pと適宜称する)のビデオ信号を、フレーム周波数が59.94Hzでプログレッシブ走査(以下、59.94pと適宜称する)のビデオ信号に変換する際には、オリジナルのフレーム周波数が24Hzのビデオ信号における各フレームを一旦フレーム周波数が60Hzでプログレッシブ走査(以下、60pと適宜称する)のビデオ信号の3フレームおよび2フレームに交互に変換する処理、所謂3−2プルダウン(または2−3プルダウン)と称される処理が行われる。そして、60pのビデオ信号に対して所定の変換処理を施し、59.94pのビデオ信号に変換する。
【0027】
24pのビデオ信号と60pのビデオ信号とでは、フレーム周波数に2対5の関係がある。そこで、例えば図4Aに示すように、24pのビデオ信号のフレームを、3−2プルダウンにより3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、図4Bに示すように60Hzのフレーム周波数で出力することで、24pのビデオ信号が60pのビデオ信号に変換される。
【0028】
なお、以下では、3−2プルダウン処理により24pのフレームがn回繰り返された隣接するフレームの集合をグループと呼び、24pのフレームが3回繰り返された隣接する3フレームからなるグループを3フレームグループ、24pのフレームが2回繰り返された隣接する2フレームからなるグループを2フレームグループとそれぞれ呼ぶことにする。
【0029】
この発明の実施の一形態では、ビデオデータとオーディオデータとの間のずれを軽減するための、1フレーム分のビデオフレームを挿入する処理を、上述の3−2プルダウン(または2−3プルダウン)処理の際に2フレームグループに対して行う。
【0030】
すなわち、3フレームグループに1フレームの挿入を行ってしまうと、2フレームグループの次が3フレームグループに同一のフレームが挿入された、4枚の同一のフレームからなるグループとされ、その次が2フレームグループとされる。この場合、2フレームグループの再生直後に、4枚の同一フレームが再生され、次に2フレームグループの再生が行われることになり、フレーム挿入を行ったグループと、当該グループ前後の、フレーム挿入を行っていないグループとの間のフレーム枚数差が2以上となり、表示が不自然となる。
【0031】
そこで、図5Aに示されるように、3−2プルダウン処理を行ったビデオ信号に対してフレームを挿入する場合には、2フレームグループに対して1フレームの挿入を行うようにする。こうすることで、図5Bに示すように、1フレームの挿入を行ったグループと、当該グループ前後の、フレーム挿入を行っていないグループとの間のフレーム枚数差が2フレーム以上にならず、不自然な表示となることを防ぐことができる。
【0032】
図6は、この発明の実施の一形態に適用可能な再生装置1の一例の構成を示す。以下では、例えば、フレーム周波数が24Hzのビデオデータを、フレーム周波数が59.94Hzのビデオデータに変換する必要がある場合など、ビデオデータのフレーム周波数の変更が必要な場合を例にとって説明する。再生装置1は、ディスクドライブ12、デマルチプレクサ(DeMUX)13、ビデオデコーダ14、ビデオ変換部15、オーディオデコーダ16、オーディオ出力部17、制御部18およびSTC(System Time Clock)回路19で構成されている。
【0033】
ストリームデータは、着脱可能な記録媒体11に記録されて供給される。記録媒体11の例としては、再生専用または記録可能なディスク状記録媒体、フラッシュメモリといった半導体メモリ、着脱可能なハードディスクドライブなどが考えられる。ディスク状記録媒体としては、例えばBlu−ray Disc(登録商標)およびBlu−ray Discに基づく再生専用の規格であるBD−ROM(Blu-ray Disc-Read Only Memory)、さらにはDVD(Digital Versatile Disc)やCD(Compact Disc)などが考えられる。
【0034】
ストリームデータの供給源としては、ディスク状記録媒体の他に、例えば、インターネットなどの通信ネットワークやディジタルテレビジョン放送が考えられる。以下では、ストリームデータの供給源として、ディスク状記録媒体などの着脱可能な記録媒体11を例にとって説明する。
【0035】
ディスクドライブ12は、装填された記録媒体11に記録されたストリームデータを再生する。記録媒体11には、例えばMPEG2(Moving Picture Experts Group 2)システムズに規定されるトランスポートストリーム(TS)やプログラムストリーム(PS)の形式で、ビデオデータおよびオーディオデータが多重化されたストリームデータが記録されている。記録媒体11から再生されたトランスポートストリームまたはプログラムストリームは、デマルチプレクサ13に供給される。
【0036】
デマルチプレクサ13は、供給されたストリームデータからビデオストリームおよびオーディオストリームを分離する。例えば、ディスクドライブ11からトランスポートストリームとしてストリームデータが供給された場合、デマルチプレクサ13は、トランスポートパケット毎にPID(Packet IDentification)を解析し、ビデオデータが格納されたパケットを集める。集めたパケットのペイロードに格納されたデータからPES(Packetized Elementary Stream)パケットを再構築する。そして、PESパケットのヘッダに格納された情報などに基づき、PESパケット毎にビデオデータのエレメンタリストリームを取り出してビデオストリームを復元する。また、ビデオストリームの復元と同様にして、デマルチプレクサ13は、トランスポートパケット毎のPIDに基づきオーディオデータが格納されたパケットを集め、オーディオストリームを復元する。
【0037】
ディスクドライブ12からプログラムストリームとしてストリームデータが供給された場合、デマルチプレクサ13は、パックヘッダなどのヘッダ情報に基づきPESパケットを分離し、PESパケットのヘッダに格納された情報などに基づき、PESパケット毎にビデオデータのエレメンタリストリームを取り出してビデオストリームを復元する。また、ビデオストリームの復元と同様にして、デマルチプレクサ13は、パックヘッダなどのヘッダ情報に基づきPESパケットを分離し、オーディオストリームを復元する。
【0038】
デマルチプレクサ13で分離されたビデオストリームは、ビデオデコーダ14に供給され、オーディオストリームは、オーディオデコーダ16に供給される。ビデオデコーダ14は、供給されたビデオストリームをデコードし、ベースバンドのビデオデータとして出力する。
【0039】
ここで、例えばMPEG2システムズにより伝送されるビデオストリームの符号化方式は、MPEG2方式に限られない。例えば、ITU−T(International Telecommunication Union-Telecommunication Standarization Sector)勧告H.264あるいはISO(International Organization for Standarization)/IEC(International Electrotechnical Commission)国際標準14496−10(MPEG−4パート10)Advanced Video Coding(以下、H.264|AVCと略称する)に規定される符号化方式や、VC1(Video Codec 1)方式で符号化されたビデオストリームを、MPEG2システムズにより伝送することができる。
【0040】
ビデオデコーダ14は、これら複数の符号化フォーマットにそれぞれ対応してビデオストリームをデコードするようにできる。この場合、ビデオデコーダ14は、例えばビデオストリームのヘッダ情報や、ビデオストリームに所定に付加される属性情報に基づき符号化フォーマットを判別し、対応する復号方式でビデオストリームをデコードする。ユーザ操作などに基づく外部からの制御に応じて符号化フォーマットを設定することもできる。
【0041】
勿論、ビデオデコーダ14が単独の符号化フォーマットにのみ対応するようにもできる。この場合には、ビデオデコーダ14が対応していない符号化フォーマットのビデオストリームが供給されると、例えばエラー処理がなされる。
【0042】
また、ビデオデコーダ14は、供給されたビデオストリームのフレームレートすなわちフレーム周波数を取得する。一例として、上述したMPEG2方式、H.264|AVC方式およびVC1方式においては、ストリームのヘッダ部分にフレームレートに関する情報が格納される。ビデオデコーダ14は、供給されたビデオストリームの例えばヘッダ部分からフレームレートに関する情報を抽出し、当該ビデオストリームのフレームレートを取得する。
【0043】
より具体的には、MPEG2の場合、シーケンスヘッダ(Sequence Header)内のデータ項目frame_rate_codeにフレームレートframe_rate_valueが記述される。H.264|AVCの場合、シーケンスパラメータセット(Sequence Parameter Set)におけるシーケンスパラメータvui_parameters()内のパラメータnum_units_in_tickおよびパラメータtime_scaleを用いて(time_scale/num_units_in_tick)/2を計算することにより、フレームレートframe_rate_valueが求められる。また、VC1の場合、シーケンスレイヤSEQUENCE LAYER()における項目FRAMERATENRおよび項目FRAMERATEDRでそれぞれ示される値value of Frame Rate Numeratorおよび値value of Frame Rate Denominatorを用いて(value of Frame Rate Numerator)/(value of Frame Rate Denominator)を計算することにより、フレームレートframe_rate_valueが求められる。
【0044】
ビデオデコーダ14から、ビデオストリームがデコードされたビデオデータと、ビデオストリームから所定に取得されたフレームレート情報とがビデオ変換部15に供給される。ビデオデータは、例えばこのビデオデータのフレームレートに従いビデオ変換部15に供給される。
【0045】
オーディオデコーダ16は、供給されたオーディオストリームを所定の処理単位に基づきデコードし、オーディオ出力部17に対してオーディオ処理単位毎に出力する。オーディオストリームは、復号可能なAU(Access Unit;アクセスユニット)と呼ばれるオーディオ処理単位が、並べられることによって構成されている。
【0046】
また、オーディオストリームのコーデック処理としては、種々の方式を用いることができ、例えば、MP3(MPEG audio layer 3)やAC3(Audio Code number 3)、AAC(Advanced Audio Coding)を用いることができる。復号されたオーディオ処理単位の再生時間は、適用されるコーデック処理によって異なる。例えば、コーデック処理としてMP3を用いた場合のオーディオ処理単位の再生時間は、サンプリング周波数を48[kHz]とすると、1152[sample]/48[kHz]=24[msec]となる。また、例えば、コーデック処理としてAC3を用いた場合のオーディオ処理単位の再生時間は、サンプリング周波数を48[kHz]とすると、1536[sample]/48[kHz]=32[msec]となる。さらに、例えば、コーデック処理としてAACを用いた場合のオーディオ処理単位の再生時間は、サンプリング周波数を48[kHz]とすると、1024[sample]/48[kHz]=21.33[msec]となる。
【0047】
オーディオデコーダ16は、ビデオデコーダ14と同様に、これらの複数の符号化フォーマットにそれぞれ対応してオーディオストリームをデコードするようにできる。例えばこの場合、オーディオデコーダ16は、オーディオストリームのヘッダ情報や、オーディオストリームに所定に付加される属性情報に基づき符号化フォーマットやサンプリング周波数を判別し、対応する復号方式でオーディオストリームをデコードする。
【0048】
制御部18は、CPU(Central Processing Unit)、ROM(Read Only Memory)およびRAM(Random Access Memory)などからなる。ROMは、CPU上で動作されるプログラムや動作のために必要なデータが予め記憶される。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムやデータを必要に応じて読み出し、RAMをワークメモリとして用いながら、この再生装置1の各部を制御する。なお、ROMは、記憶されたプログラムやデータを書き換えて、更新可能としてもよい。
【0049】
STC回路19は、ビデオデータとオーディオデータとを同期させるための同期基準信号であるSTCを発生させる。発生したSTCは、ビデオ変換部15およびオーディオ出力部17に供給される。
【0050】
ビデオ変換部15は、ビデオデコーダ14から供給されたフレームレート情報に基づき、このビデオデータのフレーム周波数の変換を行う。例えば、図7に例示されるように、ビデオ変換部15は、フレームメモリ30およびビデオ制御部31からなり、ビデオ制御部31は、制御部18の制御に基づき、フレームメモリ30からのビデオデータの読み出しを制御することで、3−2プルダウン処理などの処理を行う。
【0051】
一例として、24pのビデオデータを60pのビデオデータに変換する3−2プルダウン処理は、例えば、24pすなわちフレーム周波数が24Hzで供給されたビデオデータをフレーム単位でフレームメモリ30に格納し、ビデオ制御部31は、フレームメモリ30から3回若しくは2回繰り返して同一フレームを読み出すように制御する。
【0052】
また、ビデオ変換部15は、制御部18の制御に基づき、ビデオデータとオーディオデータとの間のずれの補正を行う。例えば、ビデオ変換部15は、STC回路19から加算器20を介して供給されたクロックに基づき、所定のタイミングでピクチャを挿入する。
【0053】
さらに、ビデオ変換部15は、上述したように処理されたビデオデータに対して、1001フレーム毎に所定の1フレームを間引く処理を行うことにより、60pのビデオデータを59.94pのビデオデータに変換する。
【0054】
変換されたビデオデータは、STC回路19から供給される同期基準信号であるSTCの値に基づき、STC値とビデオデータのPTSで指定される時間とが一致した場合に出力される。
【0055】
オーディオ出力部17は、例えば図示されないバッファを有し、デコードされたオーディオ処理単位をバッファに格納する。そして、STC回路19から供給されるSTCの値に基づき、STC値とオーディオデータのPTSで指定される時間とが一致した場合にオーディオ処理単位を連続的に出力する。また、オーディオ出力部17は、オーディオ処理単位同士の重複量を算出するための情報を制御部18に供給する。
【0056】
制御部18は、オーディオ出力部17から供給される情報に基づきオーディオ処理単位の重複量を算出するとともに重複量の積算を行う。そして、重複量の積算値が所定値、例えば1フレーム分以上となった場合には、ビデオ変換部15に対して所定のタイミングでピクチャを挿入するように制御する。また、制御部18は、STC回路19からビデオ変換部15に対して供給されるSTC値に対して、加算器20を介して所定値分、例えば1フレーム分だけ遅らせるように制御する。
【0057】
上述では、図6に示す再生装置1の各部がそれぞれハードウェアで構成されるように説明したが、これはこの例に限定されない。すなわち、再生装置1におけるデマルチプレクサ13、ビデオデコーダ14、ビデオ変換部15、オーディオデコーダ16、オーディオ出力部17、制御部18およびSTC回路19の全てまたは一部を、CPU上で所定のプログラムを実行させることで構成することも可能である。プログラムは、再生装置1が有する図示されないROMに予め記憶させておいてもよいし、DVD−ROMやCD−ROMといった記録媒体に記録された状態で提供されてもよい。インターネットなどの通信ネットワークを介してプログラムを提供することもできる。提供されたプログラムは、再生装置1が有する図示されないハードディスクドライブや不揮発性メモリなどに記憶され、CPUに読み込まれて実行される。
【0058】
図8は、この発明の実施の一形態による一例の再生処理を示すフローチャートである。この図8に例示する再生処理は、主に、上述した再生装置1の制御部18で行われる。記録媒体11をディスクドライブ12に装着され、記録媒体11がディスクドライブ12に再生されると、記録媒体11からメニューを表示するための情報と、メニューによって指定されるタイトルで再生される再生制御情報および再生区間指定情報が図示されないメモリに読み込まれる。制御部18は、読み込まれたこれらの情報を用いて、記録媒体11に記録されているストリームデータの再生制御を行う。なお、この例では、再生されるビデオデータのフレーム周波数が24Hzである場合には、再生処理と並行して、ビデオ変換部15におけるビデオデータの3−2プルダウン処理等の変換処理が行われているものとする。
【0059】
ステップS1では、複数の再生区間指定情報を連続的に再生するように並べた場合に、それぞれの再生区間指定情報に対応するオーディオ処理単位が重複した際の重複量を積算したものを示す重複量積算値audio_overlap_sumの値が"0"とされる。
【0060】
次のステップS2では、現在のオーディオ処理単位の次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsを、値exp_ptsが無効であることを示す値"INVALID_PTS"とする。また、現在再生中の再生区間指定情報の次に処理されることが期待される再生区間指定情報を識別するための識別情報であるIDを示す値exp_pts_item_idを、値exp_pts_item_idが無効であることを示す値"INVALID_ITEM_ID"とする。
【0061】
ステップS3では、現在のオーディオ処理単位のPTSの値が、値au_ptsに格納される。また、現在再生中の再生区間指定情報を識別するための識別情報であるIDを示す値が、値au_pts_item_idに格納される。
【0062】
ステップS4では、次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsが値"INVALID_PTS"であるかどうかが判断される。次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsが値"INVALID_PTS"以外の値であると判断された場合には、処理がステップS5に移行し、値exp_ptsが値"INVALID_PTS"であると判断された場合には、処理がステップS6に移行する。
【0063】
ステップS5では、値exp_pts_item_idと値au_pts_item_idとが等しいかどうかが判断される。値exp_pts_item_idと値au_pts_item_idとが等しいと判断された場合には、処理がステップS6に移行する。
【0064】
ステップS6では、現在のオーディオ処理単位のコーデック処理とサンプリング周波数に基づき、現在のオーディオ処理単位の再生時間audio_durationが算出され、ステップS7で、数式(1)に基づき現在のオーディオ処理単位のPTSの値au_ptsに対して上述のオーディオ処理単位の再生時間audio_durationが加算され、次に処理されることが期待されるオーディオ処理単位のPTSの値exp_ptsに格納される。また、数式(2)に基づき現在の再生区間指定情報のIDの値au_pts_item_idが、次に処理されることが期待される再生区間指定情報のIDの値exp_pts_item_idに格納される。そして、ステップS8で現在のオーディオ処理単位が出力され、次のオーディオ処理単位が現在のオーディオ処理単位とされ、処理がステップS3に戻る。
exp_pts=au_pts+audio_duration ・・・(1)
exp_pts_item_id=au_pts_item_id ・・・(2)
【0065】
一方、ステップS5において、期待するオーディオ処理単位が対応付けられた再生区間指定情報のIDの値exp_pts_item_idと、現在のオーディオ処理単位が対応付けられた再生区間指定情報のIDの値au_pts_item_idとが異なると判断された場合には、処理がステップS9に移行する。
【0066】
ステップS9では、現在再生中の再生区間指定情報の後端を含むオーディオ処理単位と次に処理されることが期待される再生区間指定情報の前端を含むオーディオ処理単位との重複量が算出され、算出された重複量が積算される。そして、積算された重複量が所定値以上となった場合には、ビデオフレームを挿入するフィードバック処理が行われ、処理がステップS2に戻る。なお、ステップS9における処理の詳細については後述する。
【0067】
次に、ステップS9におけるオーディオ処理単位の重複量の積算およびフィードバック処理について、図9を参照して説明する。ステップS11では、値au_pts_item_idが示す再生区間指定情報におけるIN点を示す情報が値in_timeに格納される。また、値exp_pts_item_idが示す再生区間指定情報におけるOUT点を示す情報が値out_timeに格納される。
【0068】
ステップS12では、数式(3)および数式(4)に基づき、期待するオーディオ処理単位のPTSの値が現在のオーディオ処理単位のPTSの時間に変換される。
item_diff=out_time−in_time ・・・(3)
exp_pts=exp_pts+item_diff ・・・(4)
【0069】
ステップS13では、数式(5)に基づき重複するオーディオ処理単位の重複量over_lapが算出され、ステップS14において、数式(6)に基づき重複量over_lapの積算値である重複量積算値audio_overlap_sumが算出される。そして、ステップS15では、積算した重複量積算値audio_overlap_sumを補正する補正量feedbackが1フレーム分の時間に設定される。
over_lap=exp_pts−au_pts ・・・(5)
audio_overlap_sum=audio_overlap_sum+over_lap ・・・(6)
【0070】
ステップS16では、次の表示ピクチャが準備できたかどうかが判断される。次の表示ピクチャが準備できたと判断された場合には、処理がステップS17に移行する。一方、次の表示ピクチャが準備できていないと判断された場合には、処理がステップS16に戻り、次の表示ピクチャが準備できるまでステップS16の処理が繰り返される。
【0071】
ステップS17では、ビデオ変換部15で行われる3−2プルダウン処理におけるフレームグループ内のフレーム数カウント値video_frame_cntがビデオ変換部15から取得される。ステップS18では、フレーム数カウント値video_frame_cntの値が"2"であるかどうかが判断される。フレーム数カウント値video_frame_cntが"2"であると判断された場合には、処理がステップS19に移行する。一方、フレーム数カウント値video_frame_cntが"2"以外であると判断された場合には、処理がステップS16に戻る。
【0072】
ステップS19では、積算した重複量積算値audio_overlap_sumが補正量feedbackの値を超えたかどうかが判断される。重複量積算値audio_overlap_sumが補正量feedbackの値を超えたと判断された場合には、処理がステップS20に移行する。一方、重複量積算値audio_overlap_sumが補正量feedbackの値以下であると判断された場合には、一連の処理が終了し、図8のステップS2に戻る。
【0073】
ステップS20では、フレーム数カウント値video_frame_cntの値を"3"として、ビデオ変換部15に通知する。すなわち、ビデオ変換部15における3−2プルダウン処理において、1つのピクチャを2回繰り返して読み出される部分が3回繰り返して読み出されるようになる。これにより、1フレーム分のピクチャが2フレームグループに挿入されることになり、ビデオデータの再生タイミングが1フレーム分遅らされ、ビデオデータとオーディオデータとの間のずれが軽減されることになる。
【0074】
ステップS21では、数式(7)に基づき、STC回路19からビデオ変換部15に対して供給された同期基準時間STCの値v_STCから、加算器20を介して補正量feedbackを減じる。また、ステップS22において、数式(8)に基づき、重複量積算値audio_overlap_sumから補正量feedbackを減じ、重複積算値audio_overlap_sumが補正される。
v_STC=v_STC−feedback ・・・(7)
audio_overlap_sum=audio_overlap_sum−feedback ・・・(8)
【0075】
この処理によれば、現在再生中の再生区間指定情報によって指定される区間の後端を含むオーディオ処理単位と、次に処理されることが期待される再生区間指定情報によって指定される区間の前端を含むオーディオ処理単位との重複量over_lapを算出し、算出された重複量を積算して得られた積算値audio_overlap_sumが1フレーム以上となるかどうかを判断する。そして積算値audio_overlap_sumが1フレーム以上となった場合には、1フレームを挿入するようにしている。したがって、再生されるビデオデータとオーディオデータとの間のずれが軽減される。また、1フレームの挿入をビデオ変換部15における3−2プルダウン処理の際に、2フレームグループに対して行っているため、表示が不自然になることが防がれる。
【0076】
次に、この発明の実施の一形態の変形例について説明する。この発明の実施の一形態の変形例では、ビデオデータとオーディオデータとの間のずれを軽減するために、先行する再生区間指定情報によって指定される区間の後端を含むオーディオ処理単位と、次の再生区間指定情報によって指定される区間の前端を含むオーディオ処理単位とのうち、いずれか一方のオーディオ処理単位を削除することによってオーディオデータを連続的に再生する第2の方法を用いる。
【0077】
図10は、再生制御情報を編集して別の再生制御情報を生成した場合におけるストリームデータの具体的な再生制御方法の一例を示す。例えば、図10Aに示すように、オーディオ処理単位a〜kが再生区間指定情報#1〜#3に対して対応付けられ、連続的に再生されるようになっているものとする。
【0078】
このように、オーディオデータが連続的に再生されるようにされた複数の連続した再生区間指定情報#1、#2および#3で構成された再生制御情報を編集し、再生区間指定情報#1および#3を連結するように構成する場合について考える。図10Bに示すように、再生区間指定情報#1を再生するためには、再生区間指定情報#1によって指定される区間の前端および後端を含むオーディオ処理単位a〜dが必要となる。また、再生区間指定情報#3を再生するためには、再生区間指定情報#3によって指定される区間の前端および後端を含むオーディオ処理単位h〜kが必要となる。
【0079】
したがって、再生区間指定情報#1および再生区間指定情報#3が連続的に再生されるように連結させた場合には、図10Cに示すように、再生区間指定情報#1によって指定される区間の後端を含むオーディオ処理単位dの一部分と、再生区間指定情報#3によって指定される区間の前端を含むオーディオ処理単位hの一部分とが重複してしまうことになる。
【0080】
このような場合、この発明の実施の一形態の変形例では、図10Dに示すように、重複するオーディオ処理単位dおよびhのうち、いずれか一方のオーディオ処理単位を削除する。このように、重複する2つのオーディオ処理単位のうち一方のオーディオ処理単位を削除することにより、再生制御情報の再生終了位置とオーディオデータの再生終了位置との間には、ずれが生じる。なお、ここでは、重複するオーディオ処理単位dおよびhのうち、オーディオ処理単位hを削除する場合を例にとって説明するが、これに限られず、例えば、重複するオーディオ処理単位dおよびhのうち、オーディオ処理単位dを削除してもよい。
【0081】
この実施の一形態の変形例では、図11Aに示すように、ずれの時間長が所定値以上となった場合には、所定時間分のビデオデータを間引く。こうすることにより、再生制御情報とオーディオデータとの間のずれを軽減させることができる。具体的には、例えば、ずれの時間長がビデオフレーム1フレーム分の時間長以上となった場合には、図11Bに示すように、ビデオフレームを1フレーム分間引く。
【0082】
59.94p以外のビデオ信号である場合、例えば、24pのビデオ信号である場合においては、上述の実施の一形態で説明した3−2プルダウン(または2−3プルダウン)処理を行い、24pのビデオ信号を60pのビデオ信号に変換する。
【0083】
この発明の実施の一形態の変形例では、ビデオデータとオーディオデータとの間のずれを軽減するための、1フレーム分のビデオフレームを間引く処理を、上述の3−2プルダウン(または2−3プルダウン)処理の際に3フレームグループに対して行う。
【0084】
すなわち、2フレームグループから1フレームを間引きしてしまうと、3フレームグループの次が2フレームグループから1フレーム間引きされた、1フレームとなり、その次が3フレームグループとされる。この場合、3フレームグループの再生直後に、2フレームグループから1フレーム間引きされた1フレームが再生され、次に3フレームグループの再生が行われることになり、フレーム間引きを行ったグループと、当該グループ前後の、間引きを行っていないグループとの間のフレーム枚数差が2以上となり、表示が不自然となる。
【0085】
そこで、3−2プルダウン処理を行ったビデオ信号に対してフレーム間引きを行う場合には、図12Aに示すように、3フレームグループに対して1フレームの間引きを行うようにする。こうすることで、図12Bに示すように、1フレームの間引きを行ったグループと、当該グループ前後の、フレーム間引きを行っていないグループとの間のフレーム枚数差が2フレーム以上にならず、不自然な表示となることを防ぐことができる。
【0086】
このように、この発明の実施の一形態および実施の一形態の変形例では、ビデオデータとオーディオデータとの間にずれが生じた場合において、このずれが所定量以上となった際には、所定の位置にビデオフレームを挿入したり、所定の位置からビデオフレームを間引きするようにしているため、ビデオデータとオーディオデータとの間のずれが軽減され、映像および音声のタイミングが不自然になることを防ぐことができる。
【0087】
以上、この発明の実施の一形態および実施の一形態の変形例について説明したが、この発明は、上述したこの発明の実施の一形態および実施の一形態の変形例に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【図面の簡単な説明】
【0088】
【図1】再生制御情報、再生区間指定情報およびストリームデータの関係を示す略線図である。
【図2】この発明の実施の一形態による一例の再生処理を示す略線図である。
【図3】この発明の実施の一形態によるずれを軽減する方法を説明するための略線図である。
【図4】3−2プルダウン処理を説明するための略線図である。
【図5】3−2プルダウン処理を適用したビデオデータとオーディオデータとの間のずれを軽減する方法を説明するための略線図である。
【図6】この発明の実施の一形態に適用可能な再生装置の一例の構成を示すブロック図である。
【図7】ビデオ変換部の一例の構成を示すブロック図である。
【図8】この発明の実施の一形態による一例の再生処理を示すフローチャートである。
【図9】オーディオ処理単位の重複量の積算およびフィードバック処理を示すフローチャートである。
【図10】この発明の実施の一形態の変形例による一例の再生処理を示す略線図である。
【図11】この発明の実施の一形態の変形例によるずれを軽減する方法を説明するための略線図である。
【図12】この発明の実施の一形態の変形例による3−2プルダウン処理を適用したビデオデータとオーディオデータとの間のずれを軽減する方法を説明するための略線図である。
【符号の説明】
【0089】
1 再生装置
11 記録媒体
12 ディスクドライブ
13 デマルチプレクサ
14 ビデオデコーダ
15 ビデオ変換部
16 オーディオデコーダ
17 オーディオ出力部
18 制御部
19 STC回路
30 フレームメモリ
31 ビデオ制御部
【特許請求の範囲】
【請求項1】
ビデオデータと該ビデオデータに関連付けられたオーディオデータとを再生する再生方法において、
上記ビデオデータに対して、該ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、上記再生区間指定情報に対応する、上記第1の処理単位とは異なる長さの第2の処理単位の集合である上記オーディオデータの区間との差分を求め、
上記差分に応じて、上記再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、
上記ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、上記第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、
上記第1の変換は、
上記3回繰り返し出力のフレームに基づくフレーム群と、該3回繰り返し出力のフレームに基づくフレーム群に連続する、上記2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした
ことを特徴とする再生方法。
【請求項2】
請求項1に記載の再生方法において、
上記第1の変換は、
上記2回繰り返し出力のフレームに基づくフレーム群に対して1フレームを挿入するようにした
ことを特徴とする再生方法。
【請求項3】
請求項2に記載の再生方法において、
上記ビデオデータを再生するための基準信号を1フレーム分の時間だけ遅らせるようにした
ことを特徴とする再生方法。
【請求項4】
請求項1に記載の再生方法において、
上記第1の変換は、
上記3回繰り返し出力のフレームに基づくフレーム群から1フレーム削除するようにした
ことを特徴とする再生方法。
【請求項5】
請求項4に記載の再生方法において、
上記ビデオデータを再生するための基準信号を1フレーム分の時間だけ進めるようにした
ことを特徴とする再生方法。
【請求項6】
ビデオデータと該ビデオデータに関連付けられたオーディオデータとを再生する再生方法をコンピュータ装置に実行させる再生プログラムにおいて、
上記ビデオデータに対して、該ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、上記再生区間指定情報に対応する、上記第1の処理単位とは異なる長さの第2の処理単位の集合である上記オーディオデータの区間との差分を求め、
上記差分に応じて、上記再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、
上記ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、上記第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、
上記第1の変換は、
上記3回繰り返し出力のフレームに基づくフレーム群と、該3回繰り返し出力のフレームに基づくフレーム群に連続する、上記2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした再生方法をコンピュータ装置に実行させる
ことを特徴とする再生プログラム。
【請求項7】
ビデオデータと該ビデオデータに関連付けられたオーディオデータとを再生する再生装置において、
上記ビデオデータに対して、該ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、上記再生区間指定情報に対応する、上記第1の処理単位とは異なる長さの第2の処理単位の集合である上記オーディオデータの区間との差分を求める制御部と、
上記差分に応じて、上記再生区間指定情報により指定される再生区間の長さを変換する第1の変換部と、
上記ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、上記第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換部と
を有し、
上記第1の変換部は、
上記制御部の制御に基づき、上記3回繰り返し出力のフレームに基づくフレーム群と、該3回繰り返し出力のフレームに基づくフレーム群に連続する、上記2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした
ことを特徴とする再生装置。
【請求項1】
ビデオデータと該ビデオデータに関連付けられたオーディオデータとを再生する再生方法において、
上記ビデオデータに対して、該ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、上記再生区間指定情報に対応する、上記第1の処理単位とは異なる長さの第2の処理単位の集合である上記オーディオデータの区間との差分を求め、
上記差分に応じて、上記再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、
上記ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、上記第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、
上記第1の変換は、
上記3回繰り返し出力のフレームに基づくフレーム群と、該3回繰り返し出力のフレームに基づくフレーム群に連続する、上記2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした
ことを特徴とする再生方法。
【請求項2】
請求項1に記載の再生方法において、
上記第1の変換は、
上記2回繰り返し出力のフレームに基づくフレーム群に対して1フレームを挿入するようにした
ことを特徴とする再生方法。
【請求項3】
請求項2に記載の再生方法において、
上記ビデオデータを再生するための基準信号を1フレーム分の時間だけ遅らせるようにした
ことを特徴とする再生方法。
【請求項4】
請求項1に記載の再生方法において、
上記第1の変換は、
上記3回繰り返し出力のフレームに基づくフレーム群から1フレーム削除するようにした
ことを特徴とする再生方法。
【請求項5】
請求項4に記載の再生方法において、
上記ビデオデータを再生するための基準信号を1フレーム分の時間だけ進めるようにした
ことを特徴とする再生方法。
【請求項6】
ビデオデータと該ビデオデータに関連付けられたオーディオデータとを再生する再生方法をコンピュータ装置に実行させる再生プログラムにおいて、
上記ビデオデータに対して、該ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、上記再生区間指定情報に対応する、上記第1の処理単位とは異なる長さの第2の処理単位の集合である上記オーディオデータの区間との差分を求め、
上記差分に応じて、上記再生区間指定情報により指定される再生区間の長さを変換する第1の変換を行い、
上記ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、上記第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換を行い、
上記第1の変換は、
上記3回繰り返し出力のフレームに基づくフレーム群と、該3回繰り返し出力のフレームに基づくフレーム群に連続する、上記2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした再生方法をコンピュータ装置に実行させる
ことを特徴とする再生プログラム。
【請求項7】
ビデオデータと該ビデオデータに関連付けられたオーディオデータとを再生する再生装置において、
上記ビデオデータに対して、該ビデオデータを処理する第1の処理単位に基づき再生区間を指定する再生区間指定情報により指定される再生区間と、上記再生区間指定情報に対応する、上記第1の処理単位とは異なる長さの第2の処理単位の集合である上記オーディオデータの区間との差分を求める制御部と、
上記差分に応じて、上記再生区間指定情報により指定される再生区間の長さを変換する第1の変換部と、
上記ビデオデータに対し、フレームの3回繰り返し出力と2回繰り返し出力とをフレーム毎に交互に行い、第1のフレーム周波数のビデオデータを、上記第1のフレーム周波数と2対5の関係になる第2のフレーム周波数のビデオデータに変換する第2の変換部と
を有し、
上記第1の変換部は、
上記制御部の制御に基づき、上記3回繰り返し出力のフレームに基づくフレーム群と、該3回繰り返し出力のフレームに基づくフレーム群に連続する、上記2回繰り返し出力のフレームに基づくフレーム群との、変換後のフレーム差が1以下となるようにした
ことを特徴とする再生装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2008−79050(P2008−79050A)
【公開日】平成20年4月3日(2008.4.3)
【国際特許分類】
【出願番号】特願2006−256537(P2006−256537)
【出願日】平成18年9月21日(2006.9.21)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成20年4月3日(2008.4.3)
【国際特許分類】
【出願日】平成18年9月21日(2006.9.21)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]