映像記録装置
【課題】STCを生成する回路構成を簡易にした上で、動作中に記録フレームレートの変更を可能にする映像記録装置を提供する。
【解決手段】STCクロック生成手段53は、有効フレーム期間のタイミングを生成し全体の制御を切り替える制御手段60、STCの原クロック27MHzを入力し60/24逓倍するPLL回路61、制御手段60からのタイミング信号により有効フレーム期間のみクロックを出力するクロック停止スイッチ62、及び記録フレームレートと再生フレームレートが異なる可変速記録時と通常記録でクロックを切り替える切替スイッチ63を備える。
【解決手段】STCクロック生成手段53は、有効フレーム期間のタイミングを生成し全体の制御を切り替える制御手段60、STCの原クロック27MHzを入力し60/24逓倍するPLL回路61、制御手段60からのタイミング信号により有効フレーム期間のみクロックを出力するクロック停止スイッチ62、及び記録フレームレートと再生フレームレートが異なる可変速記録時と通常記録でクロックを切り替える切替スイッチ63を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ビデオカメラ等の映像記録装置に関し、特に映画におけるスローモーション効果やクイックモーション効果をフィルムではなく電子的なフレームレート変換処理により得るために好適な映像記録装置、及びこの映像記録装置を構成する際に用いる多重方法、プログラム、及び記録媒体に関するものである。
【背景技術】
【0002】
従来、映像記録装置においては、映画におけるスローモーション効果やクイックモーション効果を、撮影フィルムの早回しや遅回しにより記録フレームレートを変更することで実現していた。
【0003】
しかし、近年、半導体技術、コンピュータ技術、及び高密度記録技術の進展により、放送機器システムの画質及び性能が飛躍的に向上した。その結果、従来はフィルムによって撮影や編集が行われていた映画を、VTRやコンピュータベースのノンリニア編集機を用いた電子シネマシステムで制作する動きが活発化してきた。その中で、撮像部のCCD(Charge Coupled Device)駆動方法を制御することで、撮像時のフレームレートを任意の値に設定できるマルチフレームレート対応撮像装置を用い、スローモーション効果やクイックモーション効果を電子的に実現することが可能なものがあった。
【0004】
例えば、特許文献1には、マルチフレームレート対応撮像装置を用いてスローモーション効果やクイックモーション効果と言った可変速度再生を電子的に実現可能な映像記録装置が記載されている。この装置では撮像装置から出力される映像信号の有効フレームのみを再生時に標準データレートで所定の再生フレームレートが得られるようにレート制御方法を変更して符号化し、TS多重部は有効フレームレートと再生フレームレートの比だけ標準のSTCクロックを周波数変換してPCR、PTS、DTSの値を作成し、多重した上で記録を行っている。
【0005】
そして、この様に記録されたMPEG−TSストリームは、再生するフレームレートを換算してMPEGのタイミング情報を多重している為、再生時には特殊な処理を行う事なく、通常のデコード処理のみで、可変速度再生を実現している。
【特許文献1】特開2005−318502号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、従来の映像記録装置においては、STCクロックを記録フレームレートと再生フレームレートの比に基づいてクロック周波数を変更する為、対応する記録フレームレートの種類に対応した分周器の設定が必要であり、回路が増加するという課題がある。
【0007】
また、記録フレームレートに対応してPLLの周波数が大きく変動する為、幅広い周波数に対応したPLLを用意する必要があり、特に回路全体をLSI化する際には幅広い性能を持つPLLを構成する事が困難である。
【0008】
さらに、クロック周波数を変更する際に安定にいたるまでの時間や、その間の周波数等を正確に制御する事が不可能な為、記録動作中に記録フレームレートを変更する事は困難である。
【0009】
本発明は前記課題に鑑み、STCを生成する回路構成を簡易にした上で、動作中に記録フレームレートの変更を可能にする映像記録装置を提供することを目的とするものである。
【課題を解決するための手段】
【0010】
上述した課題を解決するために、本発明に係る映像記録装置は、映像信号を圧縮符号化して生成された圧縮映像データに対し、復号処理に関する時刻を規定する時刻管理情報を多重するために、前記時刻の基準となるクロックを発生するクロック発生手段と、前記圧縮映像データに前記時刻管理情報を多重化したシステムストリームを生成する多重手段と、前記多重手段において生成される前記システムストリームを記録媒体に記録する記録手段とを備え、入力されてくる前記映像信号の記録フレームレートと、前記システムストリームを記録再生および復号した後に得られる再生映像信号において予め設定されている再生フレームレートとが異なる場合において、前記クロック発生手段は、間欠的にクロックを発生し、前記多重手段は、前記再生フレームレートに対応した前記時刻管理情報を、前記クロック発生手段において発生された間欠的なクロックのタイミングで前記圧縮映像データに多重したシステムストリームを生成し、前記記録手段は、当該システムストリームを前記記録媒体に記録することを特徴とする。
【0011】
また、本発明に係る映像記録装置は、さらに、入力されてくる前記映像信号が、各フレームを1回または複数回繰り返すことにより生成された映像信号である場合であって、入力されてくる前記映像信号の生成元となったフレームである有効フレームを示す有効フレームフラグが入力される場合、入力されてくる前記有効フレームフラグを利用して入力されてくる前記映像信号から前記有効フレームを検出する有効フレーム検出手段を備え、前記クロック発生手段は、検出される前記有効フレームに相当する期間のみクロックを発生し、前記有効フレーム以外の期間である無効フレームに相当する期間ではクロックを停止することで間欠的にクロックを発生することを特徴とする。
【0012】
これらの構成により、前記クロック発生手段において時間管理情報を生成する際に記録する有効フレーム(X映像信号)に同期してクロック動作をオンオフすることができ、可変速度再生に対応した時刻情報を生成することが可能となる。
【0013】
また、本発明に係る映像記録装置の前記クロック発生手段は、復号処理の動作基準となる基準クロックを逓倍するPLL(Phase Locked Loop)部と、前記PLL部から入力されるクロックに対して、前記有効フレームに相当する期間のみクロックを発生し、前記無効フレームに相当する期間ではクロックを停止するためのクロック停止スイッチ部と、前記記録フレームレートと前記再生フレームレートとが等しい場合には、前記基準クロックが前記PLL部及び前記クロック停止スイッチ部を通らないようにし、前記記録フレームレートと前記再生フレームレートとが異なる場合には、前記PLL部及び前記クロック停止スイッチ部を通るように回路を選択する切替スイッチ部とを備えることを特徴とする。
【0014】
この構成により、記録フレームレートと再生フレームレートが異なる可変速度の記録中においても、前記PLL部及び前記クロック停止スイッチ部を通るようにすることで、基準クロックの周波数は常に一定となり、回路構成を簡易にする事が出来る。
【0015】
さらに、本発明に係る映像記録装置の前記クロック発生手段は、さらに、前記記録フレームレートより大である記録処理フレームレートに同期して動作し、入力される映像信号の前記有効フレームと前記無効フレームとで処理を切り替える制御部を備えることを特徴とする。
【0016】
この構成により、前記制御部において、有効フレームに同期して制御する事で、記録途中に記録フレームレートを変更した場合にも容易に追従できるため、記録時に記録フレームレートを自由に変更する事か可能となり多彩な映像記録を実現する事が出来る。
【0017】
尚、前記目的を達成するために、本発明は、映像記録装置の特徴的な手段をステップとする映像記録方法として実現したり、コンピュータに各ステップを実行させるためのプログラムとして実現することもできる。そのようなプログラムは、CD−ROM等の記録媒体やインターネット等の伝送媒体を通じて配信することができるのは言うまでもない。
【発明の効果】
【0018】
本発明の映像記録装置は、上記構成を有し、時刻管理情報を生成する際に記録する有効フレーム(X映像信号)に同期してクロック動作をオンオフすることで、可変速度再生に対応した時刻情報を生成する事ができる。このため、記録フレームレートと再生フレームレートが異なる可変速度の記録中においても基準クロックの周波数は常に一定となり、回路構成を簡易にする事が出来る。さらに、有効フレームに同期して制御する事で、記録途中に記録フレームレートを変更した場合にも容易に追従できるため、記録時に記録フレームレートを自由に変更する事か可能となり多彩な映像記録を実現する事が出来る。
【発明を実施するための最良の形態】
【0019】
以下、本発明の映像記録装置、映像符号化方法および多重方法について、図面を参照しながら説明する。
【0020】
(実施例1)
図1に本発明の実施例1における映像記録装置を用いた撮像記録装置のブロック図を示す。
【0021】
図1において、撮像記録装置は、撮像装置1、映像記録装置2、電子ビューファインダー3(以下、EVFと略する)、マイク4、制御部5を備えている。撮像装置1から映像記録装置2へは、60p映像信号6、60p映像信号からCCD10の出力であるXp映像信号に相当する有効フレームを抜き取るための有効フレームフラグ7が送信される。
【0022】
また、撮像装置1は、プログレッシブ走査可能なCCD10、フレームメモリ11、カメラのプロセス処理を行うカメラ処理部12、CCD駆動回路13、マルチフレームレートに対応する駆動パルスを切り替え出力する駆動パルス切換回路14を備えている。
【0023】
さらに、映像記録装置2は、60p映像信号から有効フレームを抜き取り、Xp映像信号として出力する有効フレーム抽出部20、Xp映像信号をMPEGビデオ圧縮符号化し圧縮映像データを出力する映像符号化部21、入力された圧縮映像データや、圧縮音声データに、復号処理に関する時刻を規定する時刻管理情報や、その他必要な情報を多重してMPEG−TS(Transport Stream)形式のシステムストリームを出力するTS多重部22、システムストリームを記録媒体に記録する記録部23、音声符号化部24を備えている。
【0024】
なお、本実施例の映像符号化部21は本発明の映像符号化手段の例であり、本実施例のTS多重部22は本発明の多重手段の例であり、本実施例の記録部23は本発明の記録手段の例である。
【0025】
次に、このような本実施例の動作を説明する。
撮像装置1は、背景技術で説明した従来の撮像装置と同様に撮像装置のフレームレートを可変出来るものとする。制御部5は図示しないユーザー操作部からユーザーにより設定された撮影フレームレートの値X及び再生フレームレートの値Yを受け取り、これらの値に応じた制御信号を各部へ出力する。以下の説明においては再生フレームレートの値Yは24フレーム/秒であるものとする。なお、本実施例においても背景技術で説明したのと同様に、CCDにおける撮影フレームレートをXフレーム/秒とするとともに、CCD出力の映像信号をXp映像信号と呼ぶことにする。
【0026】
駆動パルス切換回路14は制御部5からの制御信号を受け、Xp映像信号を撮影するために必要な駆動パルスを発生し、CCD駆動回路13に出力する。CCD駆動回路13は、駆動パルス切換回路14からの駆動パルスを所定電圧に変換してCCD10を駆動する。CCD10からは撮影したXp映像信号がフレームメモリ11に出力される。
【0027】
図2は図1の各部の信号波形図である。図2(a)はCCD10の出力信号を示す。なお、ここではCCD10の出力信号をXp映像信号そのものとして図示しているが、Xp映像信号に相当する映像情報を含んでいれば良く、同期信号のフォーマットは必ずしもXp映像信号と同一である必要は無い。
【0028】
フレームメモリ11はCCD10からのXp映像信号の映像情報を書き込み、同じフレームの映像情報を複数回読み出すことにより、プルダウン処理された60p映像信号を出力する。この60p映像信号はカメラ処理部12により60p映像信号としてカメラプロセスの所定の処理が施され、図2(b)に示した60p映像信号としてEVF3及び有効フレーム抽出部20に出力される。EVF3では60フレーム/秒で画像を表示することでXp映像信号の映像情報を容易に表示することが可能である。
【0029】
また、プルダウン処理された60p映像信号においては映像情報がXp映像信号の単位で変化するが、図2(c)に示すように、映像情報の変わり目において60p映像信号のなかでXp映像信号に相当する有効フレームを抜き取るための有効フレームフラグ7が有効フレーム抽出部20に出力される。なお、ここでは有効フレームフラグ7を映像信号6とは別に出力する構成としているが、例えば映像信号6の垂直ブランキング期間に多重して出力しても良い。
【0030】
有効フレーム抽出部20は、有効フレームフラグ7を用いて60p映像信号からXp映像信号を抜き出し、映像符号化部21に出力する。映像符号化部21は、入力されたXp映像信号をMPEGビデオ圧縮符号化し圧縮映像データを出力する。この際に、圧縮符号化の処理はXp映像信号に対して行うが、圧縮符号化のレート制御、及びヘッダ付加は再生時の24フレーム/秒に対応して行う。このとき、再生時の基準データレート、すなわち撮影フレームレートと再生フレームレートが同一になる(X=24)ときのデータレートをRビット/秒とすると、映像符号化部21は、Xp映像信号をR・(X/24)ビット/秒に圧縮符号化するようなレート制御を行う。この処理に関する詳細は後述する。
【0031】
一方、マイク4が収録した音声信号は音声符号化部24に入力され、オーディオ圧縮符号化し圧縮音声データを出力する。この際に、音声信号に対して映像信号のフレームレート変換に合わせた処理を行うことは可能である。すなわち音声信号のサンプリング周波数をFa、圧縮符号化後の基準データレートをRaとしたときに、入力映像信号のフレームレートに合わせてサンプリング周波数を(X/24)に変換し、さらにオーディオ圧縮符号化する際に圧縮音声データのデータレートがRa・(X/24)になるようなレート制御を行って圧縮する。なおこのとき、入力音声信号に対し、入力映像信号のフレームレートに合わせてサンプリング周波数を(X/24)に変換した音声データを、圧縮符号化を行わずに多重化しても良い。
【0032】
すなわち、音声符号化部24は、入力されてくる映像信号のフレームレートと、システムストリームの再生時のフレームレートとが等しい場合、入力されてくる前記音声データのサンプリング周波数を変えずに前記音声データを記録音声データとして出力し、入力されてくる前記映像信号のフレームレートと、前記システムストリームの再生時のフレームレートとが異なっている場合、入力されてくる前記音声データのサンプリング周波数を異なる周波数に変換して記録音声データとして出力しても構わない。
【0033】
なお、本実施例においては、より実装を簡略化した形態としてX=24の場合のみ圧縮音声データを生成および多重し、それ以外の場合は圧縮音声データを生成及び多重しない場合について説明する。
【0034】
すなわち、TS多重部22は、圧縮映像データに加え、音声データをも入力し、入力されてくる映像信号のフレームレートと、システムストリームの再生時のフレームレートとが等しい場合、TS多重部22は、入力された音声データをシステムストリームに多重し、入力されてくる映像信号のフレームレートと、システムストリームの再生時のフレームレートとが異なっている場合、TS多重部22は、入力された音声データをシステムストリームに多重しない。
【0035】
TS多重部22は映像符号化部21から入力された圧縮映像データ、音声符号化部24から入力された圧縮音声データに、復号処理に関する時刻を規定する時刻管理情報や、その他必要な情報を多重して図2(d)に示したMPEG−TS形式のシステムストリームを出力する。
【0036】
図2(d)等において、I2等の「I」は、Iピクチャすなわちフレーム内符号化画像(Intra符号化画像)を表し、B0等の「B」は、Bピクチャすなわち双方向予測符号化画像(Bidirectionally predictive符号化画像)を表し、P5等の「P」は、Pピクチャすなわちフレーム間順方向予測符号化画像(Predictive符号化画像)を表している。従って、背景技術で説明した従来映像記録装置とは異なり、本実施例の映像記録装置では、フレーム内圧縮のみならず、BピクチャやPピクチャ等のフレーム間圧縮も用いられている。
【0037】
TS多重部22から出力されたシステムストリームは記録部23に記録される。ここで、時刻管理情報としては、復号及び出力(表示)のタイミング基準となるPCR(Program Clock Reference)、復号後の各フレームの出力タイミングを示すPTS(Presentation Time Stamp)、復号のタイミングを示すDTS(Decoding Time Stamp)が含まれる。
【0038】
本実施例の映像記録装置の記録部23に記録されたシステムストリームが、外部の復号装置に出力され、この復号装置において出力されたシステムストリームを復号する時には、PCRを用いて復号装置の動作基準となるSTC(System Time Clock)が生成される。そして、このSTCに合わせて復号・表示がPTS/DTSで指定された時刻に行われるように復号装置が制御される。したがって、Xp映像信号を圧縮符号化及び多重する際には、再生時に24p映像信号を圧縮符号化及び多重したシステムストリームを再生する場合と同様の制御が行われるようにPCR、PTS、DTSの値を変更する必要がある。従って、Xp映像信号のフレームレートと、前記記録部23に記録されるシステムストリームの再生時の予め設定されているフレームレートとが異なっている場合、TS多重部22は、システムストリームの再生時の予め設定されているフレームレートに対応した時刻管理情報を圧縮映像データに多重する。なお、本実施例のXp映像信号のフレームレートは、本発明の記録フレームレートの例であり、本実施例のシステムストリームの再生時の予め設定されているフレームレートは、本発明の再生フレームレートの例である。また、この詳細については後述する。
【0039】
再生時には図2(e)に示したように、システムストリームは24p映像信号を基準データレートで再生する場合と同一形式で再生される。圧縮映像データの復号も図2(f)に示したように通常の24p映像信号に対するものと同様に行われる。最後に、復号後の24p映像信号は映像モニタとの間で一般的に使用されるインターフェースにあわせるため、60フレーム/秒のプログレッシブもしくはインタレースの画像に、いわゆる2−3プルダウンされて出力される。従って、映像符号化部21においては、圧縮符号化を施す際にはこの2−3プルダウンに対応してrepeat_first_field、top_field_firstを設定する必要がある。
【0040】
図3に本発明の実施例1における映像記録装置2のより詳細なブロック図を示す。図1と共通の構成要素については同一番号を付与し、詳細な説明を省略する。
【0041】
映像符号化部21は、入力フレームの処理順を変更するためにMPEG2のBピクチャに対応するフレームを保存するフレームメモリ30、31、圧縮映像データのデータレートが目標値近傍になるように制御を行うレート制御手段32、減算器33、DCT手段34、量子化手段35、圧縮映像データを一定レートで出力するために一旦保存するビットバッファ36、逆量子化手段37、IDCT手段38、加算器39、及び参照画像を保存するためのフレームメモリ40、41を備えている。これらを含む映像符号化部21はMPEG2ビデオ圧縮符号化処理を行うが、MPEG2−Videoは当業者に周知の規格であるため、例えばDCT、量子化など、本規格にもとづく各種の用語、及び関連するブロックの動作については、詳細な説明は省略する。また、MPEG2規格では一般に符号化する1枚の画像をピクチャと呼称しているため、以降の説明では必要に応じてフレームをピクチャと言い換えるが、ここではフレームとピクチャは同じものを指す。
【0042】
また、TS多重化部22は、それぞれ映像と音声に対応したPESパケット生成のためのPES化手段50、55、入力されたPESパケットを分割し、必要な情報を多重してTSパケットを生成するTS化手段51、56、映像と音声のそれぞれのTSパケットとその他の必要なパケットを多重する多重手段52、時刻管理情報を生成するための時間軸の基準となるSTCクロックを生成するSTCクロック生成手段53、及びSTCクロックから時刻管理情報を生成するとともに多重タイミングの管理を行うSTC制御回路54を備えている。なお、STCクロック生成手段53は本発明のクロックの例である。これらを含むTS多重部22はMPEG2―TS多重処理を行うが、MPEG2−TSは当業者に周知の規格であるため、例えばPES(Packetized Elementary Stream)、TS(Transport Stream)など、本規格にもとづく各種の用語、及び関連するブロックの動作については、詳細な説明は省略する。
【0043】
図4は、図1及び図3各部の信号波形図である。図4(d)はフレームメモリ30の内容を示す図である。図4(e)はフレームメモリ31の内容を示す図である。図4(f)はフレームメモリ40の内容を示す図である。図4(g)はフレームメモリ41の内容を示す図である。Bピクチャに対応するフレームを保存するフレームメモリを30、31の2つだけにするためには、図4(h)に示したようにエンコード処理はXp映像信号の各フレームに対しても、60p映像信号の処理と同等の処理速度で行う必要がある。
【0044】
以下、本発明に係る映像の圧縮符号化におけるレート制御について詳細に説明する。先に述べたように、本発明において映像符号化部21は、Xp映像信号をR・(X/24)ビット/秒に圧縮符号化するようなレート制御を行う必要がある。
【0045】
図5は、映像符号化部のビットバッファ36のデータ容量と、再生時の復号処理を想定したVBVバッファ容量とを示す図である。レート制御手段32は、図5(e)に示すように再生時のVBVバッファがオーバーフローもアンダーフローも発生しないように圧縮映像データのデータレートを制御する必要がある。ここで、図5(c)は、記録時に、時間の経過とともに各フレームがどのように記録されていくかを示す図である。また、図5(d)は、再生時に、時間の経過とともに各フレームがどのように再生されていくかを示す図である。図5(c)では有効なフレームの符号化が完了する毎にフレーム時間単位で記録が行われる。無効なフレームのタイミングでは記録は行わない事とする。また、有効なフレームでの記録のデータレートは、圧縮映像データの標準レートRに60/24を乗算したものとし、Xpには依存せずに一定である。従って、無効フレームを含めて平均化した記録レートはR×X/24となる為、各フレームを圧縮符号化することにより生成されるデータ量、つまり、レート制御手段32において、圧縮後の各フレームに対する目標データ量は(入力映像信号がXp映像信号であるにも関わらず)24p映像信号を圧縮する場合と同一になる。
【0046】
ここで、符号化された後の1フレームあたりの発生データ量はI、B、Pピクチャの種類やピクチャの絵柄によって変動するが、記録を行う時間タイミングは一定とする。つまり図5(c)では有効フレームのタイミングで、各フレームに対応した圧縮TSデータを記録すると簡易的に図示しているが、実際にはフレーム毎の発生符号量により、TS記録するタイミングと画像内容の時刻は変動する。しかし、記録に要する時間単位は常に1フレーム時間固定である。また、この発生データ量の変動はビットバッファ36により吸収される。
【0047】
図6は、レート制御手段32における処理手順を示す図である。まず、ステップS1において、再生フレームレートY(本実施例では24に固定されている)及び再生ビットレート(圧縮映像データの標準レート)Rが設定される。ここで、YとRの値は、例えばスイッチやGUI(Graphical User Interface)画面からの入力により決定しても良いし、映像記録装置の実装時に予め決定した値を不揮発性メモリーに記憶しておいて読み出すようにしても良い。次に、ステップS2において、撮影フレームレートXの値をスイッチやGUI画面からの入力により設定する。
【0048】
続いてステップS3において、実際のレート制御に用いるパラメータを算出する。ひとつは映像符号化部21への入力映像フレームレートpicture_rateであり、これについては撮影フレームレートXの値をそのまま使用できる。もうひとつは、有効フレームにおける圧縮映像データの目標レートbit_rateであり、これは再生ビットレートRに伝送フレームレートと再生フレームレートの比(60/Y)を掛けることで求めることができる。
【0049】
最後にステップS4において、ステップS3により求めたPicture_Rate、bit_rateの値を用いて圧縮符号化処理のレート制御を行う。ここで、レート制御の方法は任意の方法を用いることが可能である。例えば、MPEG2規格化の際に用いられ、公知となっているMPEG2 TM5(Test Model 5)におけるレート制御方法が使用可能である。MPEG2 TM5のレート制御方法を用いた場合について以下に説明する。
【0050】
レート制御手段32において、あるGOP(Group of Picture)の次のピクチャに割り当てられる目標データ量は、例えば数1に示した式で設定される。ここで、Tiは次のIピクチャに割り当てられる目標データ量である。Tpは次のPピクチャに割り当てられる目標データ量である。Tbは次のBピクチャに割り当てられる目標データ量である。また、KpおよびKbは量子化手段35の処理内容に依存して決まる定数である。Rgopは現在処理中のGOPに割り当てられたビット数の残量である。Np、Nbは現在処理中のGOPに含まれるPピクチャ、Bピクチャの残数である。Xi、Xp、Xbはそれぞれ先に符号化されたIピクチャ、Pピクチャ、Bピクチャの複雑さを示す指標である。これらのパラメータの詳細はMPEG2 TM5の中で公開されており、ここでは説明を省略する。
【0051】
【数1】
【0052】
数1において、Rgopは符号化するシーケンスの先頭で初期値として数2が与えられ、その後1ピクチャを符号化する毎に更新される。ここでNはシーケンスの最初のGOPに含まれるピクチャの数である。
【0053】
【数2】
【0054】
従って、数1により求められるTi、Tp、Tbは、圧縮映像データの目標レートbit_rateとフレームレートpicture_rateにより変化する。レート制御手段32をMPEG2 TM5に準じて(数1および数2を用いて)実装した場合に、図5(b)に示したバッファ制御はbit_rateをR・(60/24)、picture_rateをXとすることで容易に実現可能である。
【0055】
このように、入力されてくる映像信号のフレームレートがXフレーム/秒であり、システムストリームの再生時の予め設定されているフレームレートがYフレーム/秒であり、システムストリームに含まれる圧縮映像データの再生時の基準データレートがRビット/秒である場合、映像符号化部21は、入力されてくる映像信号をR×(X/Y)ビット/秒のデータレートで圧縮符号化するようにレート制御を行う。
【0056】
なお、先に図5において、圧縮後の各フレームに対する目標データ量は(入力映像信号がXp映像信号であるにも関わらず)24p映像信号を圧縮する場合と同一になることを示したが、これに対応してステップS3における処理をpicture_rate=Y、bit_rate=Rと設定する処理に変更することも可能である。先に示したMPEG2 TM5のレート制御の場合、レート制御に関連する式がいずれもbit_rate/picture_rateの割合により変化する式となっており、いずれか一方だけを用いないため、数3に示したようにbit_rateをR、picture_rateをYとしても同じ結果が得られるということになる。
【0057】
【数3】
【0058】
すなわち、入力されてくる映像信号のフレームレートがXフレーム/秒であり、システムストリームの再生時の予め設定されているフレームレートがYフレーム/秒であり、システムストリームに含まれる圧縮映像データの再生時の基準データレートがRビット/秒である場合、映像符号化部21は、入力されてくる映像信号フレームレートがXであるにも関わらず、フレームレートがYの映像信号をRビット/秒のデータレートで圧縮符号化するようにレート制御を行っても上記と同様の結果を得ることが出来る。
【0059】
要するに、入力されてくる映像信号のフレームレートが再生時のフレームレートと異なる場合であっても、映像符号化部21は、再生時のフレームレートに対応する、圧縮映像データの再生時の基準データレートに実質上一致するように入力されてくる映像信号を圧縮符号化する。従って、再生時のVBVバッファがオーバーフローもアンダーフローも発生しないように圧縮映像データのデータレートを制御することが出来る。
【0060】
次に、本発明の実施例における時刻管理情報の生成について詳細に説明する。先に述べたように、本実施例においては、再生時に24p映像信号を圧縮符号化及び多重したシステムストリームを再生する場合と同様の制御が行われるようにPCR、PTS、DTSの値を変更するとともに、PCR、PTS、DTSを多重する間隔も変更する必要がある。
ここで、本発明においては、PCR,PTS,DTSを多重する際の基本となるSTCクロックを図5(c)に示すように有効フレームの記録時のみ駆動する間欠動作とする。無効フレームの記録に相当する期間はクロックを停止させる。従ってその間はPCR,PTS,DTSのカウント動作は停止する事になる。また、STCクロックの動作を通常記録時27MHzに対して処理フレームレート(60p相当)と再生フレームレート24pの比を掛けた値(27×60/24MHz)とする。すなわち有効フレーム期間のみを通常の60/24倍でタイミングカウントとする事とする。この動作により、図5(c)に示す記録時での有効フレームのみでの1フレーム時間(1/60秒)あたりのカウント数は、図5(d)に示す再生時の1フレーム時間(1/24秒)でのカウント数と等しく、有効フレームのみでのカウント積算値は、記録時と再生時で等価となる。従って、このSTCの制御により、レートXpに依存する事なくPCR、PTS、DTSの算出を行う事が可能となる。
【0061】
図7はSTCクロック生成手段53の構成の一例を示すブロック図である。このSTCクロック生成手段53は、有効フレーム期間のタイミングを生成し全体の制御を切り替える制御手段60、STCの原クロック27MHzを入力し60/24逓倍するPLL回路61、制御手段60からのタイミング信号により有効フレーム期間のみクロックを出力するクロック停止スイッチ62、及び記録フレームレートと再生フレームレートが異なる可変速記録時と通常記録でクロックを切り替える切替スイッチ63を備える。
【0062】
図7に示した構成により、STCクロックの原クロック(27MHz)から図5の図5(c)に示す有効フレーム記録期間のみ60/24倍としたクロックを生成する事が可能である。
【0063】
なお、PTS、DTS、PVRのいずれかまたは全てにおいて、上記の回路構成で行うのと同等の処理をソフトウエアプログラムで行う事も可能である。その場合はSTCクロック生成回路は仮想的に実現し、回路は不要となる。
【0064】
なお、図4、図5には撮影フレームレートX=8で、再生時に3倍クイックモーションとなる場合を図示したが、図8、図9に示したように撮影フレームレートXを再生フレームレート24フレーム/秒よりも高いフレームレートとし、再生時にスローモーションを実現することも可能である。この場合、図4と図8、図5と図9とを比較してもわかるように、撮影フレームレートXと再生フレームレート24の大小関係が異なるだけで、上記した構成及び動作を適用することで実現可能である。
【0065】
以上、実施例1においては、有効フレーム(Xp映像信号)のみを記録することで、記録媒体の消費量が少ない映像記録装置を提供することができる。また、画像圧縮符号化としてフレーム内符号化ではなく、フレーム間符号化であるMPEG2を用いることで高圧縮率を得ることができるため、記録媒体の消費量はより少なくすむ。さらに、予め設定された再生フレームレート(24フレーム/秒)に合わせて圧縮符号化処理、多重処理を行うため、再生時に通常記録した場合と同一フレームレート(24フレーム/秒)、同一データレートRで再生することが可能で、特殊な装置を必要としない映像記録装置を提供することができる。
【0066】
なお言うまでもないが、実施例1においては撮影したXp映像信号を60p映像信号にプルダウンして映像記録装置に入力し、再生フレームレートを24フレーム/秒として説明したが、任意のNフレーム/秒にプルダウン変換した映像信号を映像記録装置に入力して、再生フレームレートをMフレーム/秒として処理することが出来る。
【0067】
以上、示したように本実施例では、STCクロックを間欠的に動作し、その周波数は標準周波数に対して記録処理フレームレートと再生フレームレートの比を乗じた周波数で多重化を行う事が可能であり、有効フレームレートに依存しないSTCクロックの制御が可能となる。その為、記録の途中で有効フレームレートが変動する場合でもSTCクロックは一定であり、処理の簡素化が図れる。
【0068】
(実施例2)
図10に本発明の実施例2における映像記録装置2のブロック図を示す。図1及び図3と共通の構成要素については同一番号を付与し、詳細な説明を省略する。記録部23は、ATS値生成手段90、ATS多重手段91、及び記録媒体制御部92を備える。
【0069】
MPEG2−TSをTS多重手段22から記録手段23に転送する際に、実際の転送可能レートが高い場合にはTSパケットは間欠的に転送されることになる。また、MPEG2−TSを記録媒体に記録する際に効率よく記録することを目的として、実際のトランスポートストリーム中にあるNullパケットなどの不要な情報を削除する場合がある。これらの場合には、記録手段23へTSパケットが入出力されるタイミングを何らかの形で記録媒体に記録する必要がある。この目的でブルーレイ(Bru−ray)ディスクなどではATS(Arrival Time Stamp)が用いられている。
【0070】
以下、通常の記録再生におけるATSの効果について説明する。図11にMPEG2−TSを記録手段23に記録する際のパケットタイミング保存の概念を示す。図11(a)はTS多重手段22から記録手段23への入力TSである。図11(b)は記録媒体に実際に記録されるTSである。図11(c)は記録媒体から再生され、出力されるTSである。300〜302はNullパケットである。303〜305はTSパケットの無いタイミングを示す。
【0071】
図11(a)の入力TSにおいて、300から302に示したようにNullパケットが含まれているとすると、これらのNullパケット自体は映像・音声の記録再生に必要な情報を何ら含まないため、図11(b)の記録TSにおいては削除して記録したい。ただし、MPEG2−TSにおいてPCRは到着タイミングが時刻情報を持つため、再生時に図11(b)のままの状態で再生すると正しいSTCが再生されず、図11(c)に示したようにNullパケットの部分はパケットの無いままタイミングを空けるか、あるいはNullパケットを再度挿入して出力する必要がある。これを実現するために、図11(b)では記録する各パケットの先頭にそのパケットの入力タイミングを示すATSを付加して記録している。
【0072】
図12にATSが付加されたTSパケットの例を示す。MPEG2−TSのTSパケット188バイトの前にATS4バイトが付加される。このようなATS付加は例えばATS値生成手段90としてフリーランの27MHzで動作する32ビットのカウンタを用いてそのカウンタ値をATS多重手段91に入力し、各TSパケットがATS記録手段23に入力された時点でのカウンタ値をそのままそのTSパケットの前に付加すれば実現できる。
【0073】
このようにしてATSを付加されたTSパケットの再生タイミングを再現する回路例を図13に示す。再生装置は、スムージングバッファ70、スムージングバッファ70に記憶されているATS71、比較器72、読み出し制御部73、及びカウンタ74を備える。
【0074】
図11(b)に示した記録TSがスムージングバッファ70に入力される。スムージングバッファ70に記憶されたTSパケットのうち、最初に記憶されたTSパケットに付加されたATS71が読み出されて比較器72に入力される。一方、カウンタ74は記録の際にATSを生成するために用いられたのと同一周波数の27MHzクロックで動作し、カウンタ値を比較器72へ出力する。
【0075】
図11(b)の記録TSを再生する際に、最初に再生されるTSパケットに付加されたATSがカウンタ74にロードされるとともに、最初のTSパケットが出力される。これ以降は、比較器72が続くTSパケットに付加されたATS71の値とカウンタ74の値を比較し、一致したときに読み出し制御部73に一致情報を伝える。読み出し制御部73は一致情報が比較器72から入力されると、その時刻にATS71が付加されていたTSパケットがスムージングバッファ70から読み出されるように制御する。以上の動作により、スムージングバッファ70から読み出されるTSパケットは図11(c)のように入力TS(図11(a))と同じタイミングで出力される。図11(c)の303〜305の部分は対応するATSを付加されたTSパケットが無いため、データが無いまま時間が経過して空き領域となる。
【0076】
以上が通常記録再生、すなわち撮影フレームレートの値Xと再生フレームレートの値Yが同一である場合のATSの効果である。例えば記録媒体がメモリーであった場合、アクセスにアドレス指定が必要であることなどから、入力トランスポートストリームそのままではパケット間のタイミングを保持して記録再生することができず、ATSのような仕組みで入力時のパケット間タイミングを再現することは必須の動作となる。
【0077】
次に本発明に係る、撮影フレームレートの値Xと再生フレームレートの値Yを異なる値に設定した場合の構成及び動作について説明する。なお、ここでは再生フレームレートY=(24/1.001)fpsの場合を前提として説明する。またここでは、再生時のMPEG2−TSの基準データレートRts=24Mbpsとして説明する。
【0078】
図14は撮影フレームレートの値X=(8/1.001)fpsである場合の各部動作を示すタイミング図である。図14(a)はPES化手段50から出力される記録側のビデオPESである。記録側のビデオPESには撮影フレームレート(有効フレームレート)8fpsの映像信号の1フレーム分を圧縮したデータ毎にPTS/DTSが付加される。従って、PTS/DTSが付加される間隔は撮影フレームレートを反映する。また、実施例1にて説明したように、有効フレーム期間のみSTCが駆動され、圧縮データが出力される。 図14(b)はATS多重手段91から出力されるATSを付加されたMPEG2−TSである。図14(a)のビデオPESは細かく分割されてそれぞれTSパケット(TSP)のペイロードに格納される。
【0079】
ここで、本発明においては、ATSのカウンタを図14に示すように有効フレームの記録時のみ駆動する間欠動作とする。無効フレームの記録に相当する期間はカウンタを停止させる。また、ATSカウンタの動作は通常記録時27MHzに対して処理フレームレート(60p相当)と再生フレームレート24pの比を掛けた値(27×60/24MHz)とする。すなわち有効フレーム期間のみを通常の60/24倍でタイミングカウントとする事とする。また、再生時は通常通り27MHzでカウントするので、図14(b)に示す記録時での有効フレームのみでの1フレーム時間(1/60秒)あたりのカウント数は、図14(c)に示す再生時の1フレーム時間(1/24秒)でのカウント数と等しく、有効フレームのみでのカウント積算値は、記録時と再生時で等価となる。従って、このATSカウンタの動作により、有効フレームレートXpに依存する事なく再生時に24Pのタイミングで動作するATSカウンタの制御を行う事が可能となる。
【0080】
ここで、ATSカウンタのクロック制御は実施例1に示すSTCクロックと同様の制御で実現する事は可能である。また、同一のクロックとする事も出来る。
【0081】
図14(c)は記録媒体から再生され、元のTSパケットのタイミングが再現された後のMPEG2−TSである。ただし、完全に記録時と同じタイミングではなく、撮影フレームレートと再生フレームレートの比だけデータレートが変化している。なお、本来この段階ではATSは通常削除されるが、説明の簡単のためにここではATSを残した図を用いて説明する。
【0082】
また、図14(d)は図14(c)のMPEG2−TSから分離したビデオPESである。この図についても、記録側のビデオPES(図14(a))に対して、撮影フレームレートと再生フレームレートの比だけデータレートが変化している。
【0083】
以上、実施例2においては、ATS(ArrivalTimeStamp)を用いてTSパケットタイミングを再生する記録再生系においても可変フレームレート記録が可能で、予め設定された再生フレームレート(24フレーム/秒)に合わせて圧縮符号化処理、多重処理を行うため、再生時に特殊な装置を必要とせずに通常記録した場合と同一フレームレート(24フレーム/秒)、同一TSデータレートRtsで再生できる映像記録装置を提供することができる。
【0084】
さらに、ATSクロックを間欠的に動作し、その周波数は標準周波数に対して記録処理フレームレートと再生フレームレートの比を乗じた周波数で多重化を行う事が可能であり、有効フレームレートに依存しないATSクロックの制御が可能となる。その為、記録の途中で有効フレームレートが変動する場合でもATSクロックは一定であり、処理の簡素化が図れる。
【0085】
なお、本発明の実施例においては、多重化としてMPEG2−TSを用いることを前提として説明したが、多重化の方式はこれに限るものではなく、例えばMPEG2−PS(Program Stream)などを用いてもよい。同様に、映像の圧縮符号化としてMPEG2ビデオ符号化を用いることを前提として説明したが、圧縮符号化の方式もこれに限るものではなく、例えばMPEG4ビデオ符号化、H.264ビデオ符号化、DVC(Digital Video Cassette)における圧縮符号化などを用いてもよい。
【0086】
さらに、本実施例では、映像記録装置2が有効フレーム抽出部20及び映像符号化部21を備えているとして説明したが、これに限らず、映像記録装置2が、有効フレーム抽出部20、映像符号化部21、及び音声符号化部24を備えていなくても構わない。この場合、映像記録装置2以外の外部の装置が有効フレーム抽出部20、映像符号化部21、及び音声符号化部24を備えている。そして、撮像装置1から出力されたXp映像信号6と有効フレームフラグ7は、この外部の装置で処理され、その結果外部の装置から圧縮映像データが出力される。そして、映像記録装置2は、この外部の装置から出力された圧縮映像データを入力してTS多重部22にてシステムストリームを生成する。このように、映像記録装置2自体が入力映像信号の圧縮符号化を行わず、映像記録装置2が圧縮符号化された圧縮映像データを入力して多重処理のみを行うものであっても構わない。
【0087】
尚、本発明のプログラムは、上述した本発明の映像記録装置の全部又は一部の手段の機能をコンピュータにより実行させるためのプログラムであって、コンピュータと協働して動作するプログラムである。
【0088】
又、本発明の記録媒体は、上述した本発明の映像記録装置の全部又は一部の手段(又は、装置、素子等)の機能をコンピュータにより実行させるためのプログラムを担持した記録媒体であり、コンピュータにより読み取り可能且つ、読み取られた前記プログラムが前記コンピュータと協動して前記機能を実行する記録媒体である。
【0089】
尚、本発明の上記「一部の手段」とは、それらの複数の手段の内の、一つ又は幾つかの手段を意味する。
【0090】
又、本発明の上記「手段の機能」とは、前記手段の全部又は一部の機能を意味する。
又、本発明のプログラムの一利用形態は、コンピュータにより読み取り可能な記録媒体に記録され、コンピュータと協働して動作する態様であっても良い。
【0091】
又、本発明のプログラムの一利用形態は、伝送媒体中を伝送し、コンピュータにより読みとられ、コンピュータと協働して動作する態様であっても良い。
【0092】
又、本発明のデータ構造としては、データベース、データフォーマット、データテーブル、データリスト、データの種類などを含む。
【0093】
又、記録媒体としては、ROM等が含まれ、伝送媒体としては、インターネット等の伝送媒体、光・電波・音波等が含まれる。
【0094】
又、上述した本発明のコンピュータは、CPU等の純然たるハードウェアに限らず、ファームウェアや、OS、更に周辺機器を含むものであっても良い。
【0095】
尚、以上説明した様に、本発明の構成は、ソフトウェア的に実現しても良いし、ハードウェア的に実現しても良い。
【産業上の利用可能性】
【0096】
本発明にかかる映像記録装置は、例えば、ビデオカメラとして有用であり、特に映画におけるスローモーション効果やクイックモーション効果をフィルムではなく電子的なフレームレート変換処理により得るビデオカメラに適している。
【図面の簡単な説明】
【0097】
【図1】本発明の実施例1における映像記録装置を用いた撮像記録装置のブロック図
【図2】図1の各部の信号波形図
【図3】本発明の実施例1における映像記録装置2の詳細ブロック図
【図4】図1及び図3各部の信号波形図
【図5】ビットバッファ36のデータ容量と、再生時の復号処理を想定したVBVバッファ容量とを示す図
【図6】レート制御手段32における処理手順を示す図
【図7】STCクロック生成手段53に追加すべき構成を示すブロック図
【図8】スローモーションの場合の、図1及び図3各部の信号波形図
【図9】スローモーションの場合の、ビットバッファ36のデータ容量と、再生時の復号処理を想定したVBVバッファ容量とを示す図
【図10】本発明の実施例2における映像記録装置2のブロック図
【図11】MPEG2−TSを記録手段23に記録する際のパケットタイミング保存の概念図
【図12】ATSが付加されたTSパケットの例
【図13】ATSを付加されたTSパケットの再生タイミングを再現する回路例
【図14】撮影フレームレートの値X=8fpsである場合の各部動作を示すタイミング図
【符号の説明】
【0098】
1 撮像装置
2 映像記録装置
3 電子ビューファインダー
4 マイク
5 制御部
6 60p映像信号
7 有効フレームフラグ
10 CCD
11 フレームメモリ
12 カメラ処理部
13 CCD駆動回路
14 駆動パルス切換回路
20 有効フレーム抽出部
21 映像符号化部
22 TS多重部
23 記録部
24 音声符号化部
【技術分野】
【0001】
本発明は、ビデオカメラ等の映像記録装置に関し、特に映画におけるスローモーション効果やクイックモーション効果をフィルムではなく電子的なフレームレート変換処理により得るために好適な映像記録装置、及びこの映像記録装置を構成する際に用いる多重方法、プログラム、及び記録媒体に関するものである。
【背景技術】
【0002】
従来、映像記録装置においては、映画におけるスローモーション効果やクイックモーション効果を、撮影フィルムの早回しや遅回しにより記録フレームレートを変更することで実現していた。
【0003】
しかし、近年、半導体技術、コンピュータ技術、及び高密度記録技術の進展により、放送機器システムの画質及び性能が飛躍的に向上した。その結果、従来はフィルムによって撮影や編集が行われていた映画を、VTRやコンピュータベースのノンリニア編集機を用いた電子シネマシステムで制作する動きが活発化してきた。その中で、撮像部のCCD(Charge Coupled Device)駆動方法を制御することで、撮像時のフレームレートを任意の値に設定できるマルチフレームレート対応撮像装置を用い、スローモーション効果やクイックモーション効果を電子的に実現することが可能なものがあった。
【0004】
例えば、特許文献1には、マルチフレームレート対応撮像装置を用いてスローモーション効果やクイックモーション効果と言った可変速度再生を電子的に実現可能な映像記録装置が記載されている。この装置では撮像装置から出力される映像信号の有効フレームのみを再生時に標準データレートで所定の再生フレームレートが得られるようにレート制御方法を変更して符号化し、TS多重部は有効フレームレートと再生フレームレートの比だけ標準のSTCクロックを周波数変換してPCR、PTS、DTSの値を作成し、多重した上で記録を行っている。
【0005】
そして、この様に記録されたMPEG−TSストリームは、再生するフレームレートを換算してMPEGのタイミング情報を多重している為、再生時には特殊な処理を行う事なく、通常のデコード処理のみで、可変速度再生を実現している。
【特許文献1】特開2005−318502号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、従来の映像記録装置においては、STCクロックを記録フレームレートと再生フレームレートの比に基づいてクロック周波数を変更する為、対応する記録フレームレートの種類に対応した分周器の設定が必要であり、回路が増加するという課題がある。
【0007】
また、記録フレームレートに対応してPLLの周波数が大きく変動する為、幅広い周波数に対応したPLLを用意する必要があり、特に回路全体をLSI化する際には幅広い性能を持つPLLを構成する事が困難である。
【0008】
さらに、クロック周波数を変更する際に安定にいたるまでの時間や、その間の周波数等を正確に制御する事が不可能な為、記録動作中に記録フレームレートを変更する事は困難である。
【0009】
本発明は前記課題に鑑み、STCを生成する回路構成を簡易にした上で、動作中に記録フレームレートの変更を可能にする映像記録装置を提供することを目的とするものである。
【課題を解決するための手段】
【0010】
上述した課題を解決するために、本発明に係る映像記録装置は、映像信号を圧縮符号化して生成された圧縮映像データに対し、復号処理に関する時刻を規定する時刻管理情報を多重するために、前記時刻の基準となるクロックを発生するクロック発生手段と、前記圧縮映像データに前記時刻管理情報を多重化したシステムストリームを生成する多重手段と、前記多重手段において生成される前記システムストリームを記録媒体に記録する記録手段とを備え、入力されてくる前記映像信号の記録フレームレートと、前記システムストリームを記録再生および復号した後に得られる再生映像信号において予め設定されている再生フレームレートとが異なる場合において、前記クロック発生手段は、間欠的にクロックを発生し、前記多重手段は、前記再生フレームレートに対応した前記時刻管理情報を、前記クロック発生手段において発生された間欠的なクロックのタイミングで前記圧縮映像データに多重したシステムストリームを生成し、前記記録手段は、当該システムストリームを前記記録媒体に記録することを特徴とする。
【0011】
また、本発明に係る映像記録装置は、さらに、入力されてくる前記映像信号が、各フレームを1回または複数回繰り返すことにより生成された映像信号である場合であって、入力されてくる前記映像信号の生成元となったフレームである有効フレームを示す有効フレームフラグが入力される場合、入力されてくる前記有効フレームフラグを利用して入力されてくる前記映像信号から前記有効フレームを検出する有効フレーム検出手段を備え、前記クロック発生手段は、検出される前記有効フレームに相当する期間のみクロックを発生し、前記有効フレーム以外の期間である無効フレームに相当する期間ではクロックを停止することで間欠的にクロックを発生することを特徴とする。
【0012】
これらの構成により、前記クロック発生手段において時間管理情報を生成する際に記録する有効フレーム(X映像信号)に同期してクロック動作をオンオフすることができ、可変速度再生に対応した時刻情報を生成することが可能となる。
【0013】
また、本発明に係る映像記録装置の前記クロック発生手段は、復号処理の動作基準となる基準クロックを逓倍するPLL(Phase Locked Loop)部と、前記PLL部から入力されるクロックに対して、前記有効フレームに相当する期間のみクロックを発生し、前記無効フレームに相当する期間ではクロックを停止するためのクロック停止スイッチ部と、前記記録フレームレートと前記再生フレームレートとが等しい場合には、前記基準クロックが前記PLL部及び前記クロック停止スイッチ部を通らないようにし、前記記録フレームレートと前記再生フレームレートとが異なる場合には、前記PLL部及び前記クロック停止スイッチ部を通るように回路を選択する切替スイッチ部とを備えることを特徴とする。
【0014】
この構成により、記録フレームレートと再生フレームレートが異なる可変速度の記録中においても、前記PLL部及び前記クロック停止スイッチ部を通るようにすることで、基準クロックの周波数は常に一定となり、回路構成を簡易にする事が出来る。
【0015】
さらに、本発明に係る映像記録装置の前記クロック発生手段は、さらに、前記記録フレームレートより大である記録処理フレームレートに同期して動作し、入力される映像信号の前記有効フレームと前記無効フレームとで処理を切り替える制御部を備えることを特徴とする。
【0016】
この構成により、前記制御部において、有効フレームに同期して制御する事で、記録途中に記録フレームレートを変更した場合にも容易に追従できるため、記録時に記録フレームレートを自由に変更する事か可能となり多彩な映像記録を実現する事が出来る。
【0017】
尚、前記目的を達成するために、本発明は、映像記録装置の特徴的な手段をステップとする映像記録方法として実現したり、コンピュータに各ステップを実行させるためのプログラムとして実現することもできる。そのようなプログラムは、CD−ROM等の記録媒体やインターネット等の伝送媒体を通じて配信することができるのは言うまでもない。
【発明の効果】
【0018】
本発明の映像記録装置は、上記構成を有し、時刻管理情報を生成する際に記録する有効フレーム(X映像信号)に同期してクロック動作をオンオフすることで、可変速度再生に対応した時刻情報を生成する事ができる。このため、記録フレームレートと再生フレームレートが異なる可変速度の記録中においても基準クロックの周波数は常に一定となり、回路構成を簡易にする事が出来る。さらに、有効フレームに同期して制御する事で、記録途中に記録フレームレートを変更した場合にも容易に追従できるため、記録時に記録フレームレートを自由に変更する事か可能となり多彩な映像記録を実現する事が出来る。
【発明を実施するための最良の形態】
【0019】
以下、本発明の映像記録装置、映像符号化方法および多重方法について、図面を参照しながら説明する。
【0020】
(実施例1)
図1に本発明の実施例1における映像記録装置を用いた撮像記録装置のブロック図を示す。
【0021】
図1において、撮像記録装置は、撮像装置1、映像記録装置2、電子ビューファインダー3(以下、EVFと略する)、マイク4、制御部5を備えている。撮像装置1から映像記録装置2へは、60p映像信号6、60p映像信号からCCD10の出力であるXp映像信号に相当する有効フレームを抜き取るための有効フレームフラグ7が送信される。
【0022】
また、撮像装置1は、プログレッシブ走査可能なCCD10、フレームメモリ11、カメラのプロセス処理を行うカメラ処理部12、CCD駆動回路13、マルチフレームレートに対応する駆動パルスを切り替え出力する駆動パルス切換回路14を備えている。
【0023】
さらに、映像記録装置2は、60p映像信号から有効フレームを抜き取り、Xp映像信号として出力する有効フレーム抽出部20、Xp映像信号をMPEGビデオ圧縮符号化し圧縮映像データを出力する映像符号化部21、入力された圧縮映像データや、圧縮音声データに、復号処理に関する時刻を規定する時刻管理情報や、その他必要な情報を多重してMPEG−TS(Transport Stream)形式のシステムストリームを出力するTS多重部22、システムストリームを記録媒体に記録する記録部23、音声符号化部24を備えている。
【0024】
なお、本実施例の映像符号化部21は本発明の映像符号化手段の例であり、本実施例のTS多重部22は本発明の多重手段の例であり、本実施例の記録部23は本発明の記録手段の例である。
【0025】
次に、このような本実施例の動作を説明する。
撮像装置1は、背景技術で説明した従来の撮像装置と同様に撮像装置のフレームレートを可変出来るものとする。制御部5は図示しないユーザー操作部からユーザーにより設定された撮影フレームレートの値X及び再生フレームレートの値Yを受け取り、これらの値に応じた制御信号を各部へ出力する。以下の説明においては再生フレームレートの値Yは24フレーム/秒であるものとする。なお、本実施例においても背景技術で説明したのと同様に、CCDにおける撮影フレームレートをXフレーム/秒とするとともに、CCD出力の映像信号をXp映像信号と呼ぶことにする。
【0026】
駆動パルス切換回路14は制御部5からの制御信号を受け、Xp映像信号を撮影するために必要な駆動パルスを発生し、CCD駆動回路13に出力する。CCD駆動回路13は、駆動パルス切換回路14からの駆動パルスを所定電圧に変換してCCD10を駆動する。CCD10からは撮影したXp映像信号がフレームメモリ11に出力される。
【0027】
図2は図1の各部の信号波形図である。図2(a)はCCD10の出力信号を示す。なお、ここではCCD10の出力信号をXp映像信号そのものとして図示しているが、Xp映像信号に相当する映像情報を含んでいれば良く、同期信号のフォーマットは必ずしもXp映像信号と同一である必要は無い。
【0028】
フレームメモリ11はCCD10からのXp映像信号の映像情報を書き込み、同じフレームの映像情報を複数回読み出すことにより、プルダウン処理された60p映像信号を出力する。この60p映像信号はカメラ処理部12により60p映像信号としてカメラプロセスの所定の処理が施され、図2(b)に示した60p映像信号としてEVF3及び有効フレーム抽出部20に出力される。EVF3では60フレーム/秒で画像を表示することでXp映像信号の映像情報を容易に表示することが可能である。
【0029】
また、プルダウン処理された60p映像信号においては映像情報がXp映像信号の単位で変化するが、図2(c)に示すように、映像情報の変わり目において60p映像信号のなかでXp映像信号に相当する有効フレームを抜き取るための有効フレームフラグ7が有効フレーム抽出部20に出力される。なお、ここでは有効フレームフラグ7を映像信号6とは別に出力する構成としているが、例えば映像信号6の垂直ブランキング期間に多重して出力しても良い。
【0030】
有効フレーム抽出部20は、有効フレームフラグ7を用いて60p映像信号からXp映像信号を抜き出し、映像符号化部21に出力する。映像符号化部21は、入力されたXp映像信号をMPEGビデオ圧縮符号化し圧縮映像データを出力する。この際に、圧縮符号化の処理はXp映像信号に対して行うが、圧縮符号化のレート制御、及びヘッダ付加は再生時の24フレーム/秒に対応して行う。このとき、再生時の基準データレート、すなわち撮影フレームレートと再生フレームレートが同一になる(X=24)ときのデータレートをRビット/秒とすると、映像符号化部21は、Xp映像信号をR・(X/24)ビット/秒に圧縮符号化するようなレート制御を行う。この処理に関する詳細は後述する。
【0031】
一方、マイク4が収録した音声信号は音声符号化部24に入力され、オーディオ圧縮符号化し圧縮音声データを出力する。この際に、音声信号に対して映像信号のフレームレート変換に合わせた処理を行うことは可能である。すなわち音声信号のサンプリング周波数をFa、圧縮符号化後の基準データレートをRaとしたときに、入力映像信号のフレームレートに合わせてサンプリング周波数を(X/24)に変換し、さらにオーディオ圧縮符号化する際に圧縮音声データのデータレートがRa・(X/24)になるようなレート制御を行って圧縮する。なおこのとき、入力音声信号に対し、入力映像信号のフレームレートに合わせてサンプリング周波数を(X/24)に変換した音声データを、圧縮符号化を行わずに多重化しても良い。
【0032】
すなわち、音声符号化部24は、入力されてくる映像信号のフレームレートと、システムストリームの再生時のフレームレートとが等しい場合、入力されてくる前記音声データのサンプリング周波数を変えずに前記音声データを記録音声データとして出力し、入力されてくる前記映像信号のフレームレートと、前記システムストリームの再生時のフレームレートとが異なっている場合、入力されてくる前記音声データのサンプリング周波数を異なる周波数に変換して記録音声データとして出力しても構わない。
【0033】
なお、本実施例においては、より実装を簡略化した形態としてX=24の場合のみ圧縮音声データを生成および多重し、それ以外の場合は圧縮音声データを生成及び多重しない場合について説明する。
【0034】
すなわち、TS多重部22は、圧縮映像データに加え、音声データをも入力し、入力されてくる映像信号のフレームレートと、システムストリームの再生時のフレームレートとが等しい場合、TS多重部22は、入力された音声データをシステムストリームに多重し、入力されてくる映像信号のフレームレートと、システムストリームの再生時のフレームレートとが異なっている場合、TS多重部22は、入力された音声データをシステムストリームに多重しない。
【0035】
TS多重部22は映像符号化部21から入力された圧縮映像データ、音声符号化部24から入力された圧縮音声データに、復号処理に関する時刻を規定する時刻管理情報や、その他必要な情報を多重して図2(d)に示したMPEG−TS形式のシステムストリームを出力する。
【0036】
図2(d)等において、I2等の「I」は、Iピクチャすなわちフレーム内符号化画像(Intra符号化画像)を表し、B0等の「B」は、Bピクチャすなわち双方向予測符号化画像(Bidirectionally predictive符号化画像)を表し、P5等の「P」は、Pピクチャすなわちフレーム間順方向予測符号化画像(Predictive符号化画像)を表している。従って、背景技術で説明した従来映像記録装置とは異なり、本実施例の映像記録装置では、フレーム内圧縮のみならず、BピクチャやPピクチャ等のフレーム間圧縮も用いられている。
【0037】
TS多重部22から出力されたシステムストリームは記録部23に記録される。ここで、時刻管理情報としては、復号及び出力(表示)のタイミング基準となるPCR(Program Clock Reference)、復号後の各フレームの出力タイミングを示すPTS(Presentation Time Stamp)、復号のタイミングを示すDTS(Decoding Time Stamp)が含まれる。
【0038】
本実施例の映像記録装置の記録部23に記録されたシステムストリームが、外部の復号装置に出力され、この復号装置において出力されたシステムストリームを復号する時には、PCRを用いて復号装置の動作基準となるSTC(System Time Clock)が生成される。そして、このSTCに合わせて復号・表示がPTS/DTSで指定された時刻に行われるように復号装置が制御される。したがって、Xp映像信号を圧縮符号化及び多重する際には、再生時に24p映像信号を圧縮符号化及び多重したシステムストリームを再生する場合と同様の制御が行われるようにPCR、PTS、DTSの値を変更する必要がある。従って、Xp映像信号のフレームレートと、前記記録部23に記録されるシステムストリームの再生時の予め設定されているフレームレートとが異なっている場合、TS多重部22は、システムストリームの再生時の予め設定されているフレームレートに対応した時刻管理情報を圧縮映像データに多重する。なお、本実施例のXp映像信号のフレームレートは、本発明の記録フレームレートの例であり、本実施例のシステムストリームの再生時の予め設定されているフレームレートは、本発明の再生フレームレートの例である。また、この詳細については後述する。
【0039】
再生時には図2(e)に示したように、システムストリームは24p映像信号を基準データレートで再生する場合と同一形式で再生される。圧縮映像データの復号も図2(f)に示したように通常の24p映像信号に対するものと同様に行われる。最後に、復号後の24p映像信号は映像モニタとの間で一般的に使用されるインターフェースにあわせるため、60フレーム/秒のプログレッシブもしくはインタレースの画像に、いわゆる2−3プルダウンされて出力される。従って、映像符号化部21においては、圧縮符号化を施す際にはこの2−3プルダウンに対応してrepeat_first_field、top_field_firstを設定する必要がある。
【0040】
図3に本発明の実施例1における映像記録装置2のより詳細なブロック図を示す。図1と共通の構成要素については同一番号を付与し、詳細な説明を省略する。
【0041】
映像符号化部21は、入力フレームの処理順を変更するためにMPEG2のBピクチャに対応するフレームを保存するフレームメモリ30、31、圧縮映像データのデータレートが目標値近傍になるように制御を行うレート制御手段32、減算器33、DCT手段34、量子化手段35、圧縮映像データを一定レートで出力するために一旦保存するビットバッファ36、逆量子化手段37、IDCT手段38、加算器39、及び参照画像を保存するためのフレームメモリ40、41を備えている。これらを含む映像符号化部21はMPEG2ビデオ圧縮符号化処理を行うが、MPEG2−Videoは当業者に周知の規格であるため、例えばDCT、量子化など、本規格にもとづく各種の用語、及び関連するブロックの動作については、詳細な説明は省略する。また、MPEG2規格では一般に符号化する1枚の画像をピクチャと呼称しているため、以降の説明では必要に応じてフレームをピクチャと言い換えるが、ここではフレームとピクチャは同じものを指す。
【0042】
また、TS多重化部22は、それぞれ映像と音声に対応したPESパケット生成のためのPES化手段50、55、入力されたPESパケットを分割し、必要な情報を多重してTSパケットを生成するTS化手段51、56、映像と音声のそれぞれのTSパケットとその他の必要なパケットを多重する多重手段52、時刻管理情報を生成するための時間軸の基準となるSTCクロックを生成するSTCクロック生成手段53、及びSTCクロックから時刻管理情報を生成するとともに多重タイミングの管理を行うSTC制御回路54を備えている。なお、STCクロック生成手段53は本発明のクロックの例である。これらを含むTS多重部22はMPEG2―TS多重処理を行うが、MPEG2−TSは当業者に周知の規格であるため、例えばPES(Packetized Elementary Stream)、TS(Transport Stream)など、本規格にもとづく各種の用語、及び関連するブロックの動作については、詳細な説明は省略する。
【0043】
図4は、図1及び図3各部の信号波形図である。図4(d)はフレームメモリ30の内容を示す図である。図4(e)はフレームメモリ31の内容を示す図である。図4(f)はフレームメモリ40の内容を示す図である。図4(g)はフレームメモリ41の内容を示す図である。Bピクチャに対応するフレームを保存するフレームメモリを30、31の2つだけにするためには、図4(h)に示したようにエンコード処理はXp映像信号の各フレームに対しても、60p映像信号の処理と同等の処理速度で行う必要がある。
【0044】
以下、本発明に係る映像の圧縮符号化におけるレート制御について詳細に説明する。先に述べたように、本発明において映像符号化部21は、Xp映像信号をR・(X/24)ビット/秒に圧縮符号化するようなレート制御を行う必要がある。
【0045】
図5は、映像符号化部のビットバッファ36のデータ容量と、再生時の復号処理を想定したVBVバッファ容量とを示す図である。レート制御手段32は、図5(e)に示すように再生時のVBVバッファがオーバーフローもアンダーフローも発生しないように圧縮映像データのデータレートを制御する必要がある。ここで、図5(c)は、記録時に、時間の経過とともに各フレームがどのように記録されていくかを示す図である。また、図5(d)は、再生時に、時間の経過とともに各フレームがどのように再生されていくかを示す図である。図5(c)では有効なフレームの符号化が完了する毎にフレーム時間単位で記録が行われる。無効なフレームのタイミングでは記録は行わない事とする。また、有効なフレームでの記録のデータレートは、圧縮映像データの標準レートRに60/24を乗算したものとし、Xpには依存せずに一定である。従って、無効フレームを含めて平均化した記録レートはR×X/24となる為、各フレームを圧縮符号化することにより生成されるデータ量、つまり、レート制御手段32において、圧縮後の各フレームに対する目標データ量は(入力映像信号がXp映像信号であるにも関わらず)24p映像信号を圧縮する場合と同一になる。
【0046】
ここで、符号化された後の1フレームあたりの発生データ量はI、B、Pピクチャの種類やピクチャの絵柄によって変動するが、記録を行う時間タイミングは一定とする。つまり図5(c)では有効フレームのタイミングで、各フレームに対応した圧縮TSデータを記録すると簡易的に図示しているが、実際にはフレーム毎の発生符号量により、TS記録するタイミングと画像内容の時刻は変動する。しかし、記録に要する時間単位は常に1フレーム時間固定である。また、この発生データ量の変動はビットバッファ36により吸収される。
【0047】
図6は、レート制御手段32における処理手順を示す図である。まず、ステップS1において、再生フレームレートY(本実施例では24に固定されている)及び再生ビットレート(圧縮映像データの標準レート)Rが設定される。ここで、YとRの値は、例えばスイッチやGUI(Graphical User Interface)画面からの入力により決定しても良いし、映像記録装置の実装時に予め決定した値を不揮発性メモリーに記憶しておいて読み出すようにしても良い。次に、ステップS2において、撮影フレームレートXの値をスイッチやGUI画面からの入力により設定する。
【0048】
続いてステップS3において、実際のレート制御に用いるパラメータを算出する。ひとつは映像符号化部21への入力映像フレームレートpicture_rateであり、これについては撮影フレームレートXの値をそのまま使用できる。もうひとつは、有効フレームにおける圧縮映像データの目標レートbit_rateであり、これは再生ビットレートRに伝送フレームレートと再生フレームレートの比(60/Y)を掛けることで求めることができる。
【0049】
最後にステップS4において、ステップS3により求めたPicture_Rate、bit_rateの値を用いて圧縮符号化処理のレート制御を行う。ここで、レート制御の方法は任意の方法を用いることが可能である。例えば、MPEG2規格化の際に用いられ、公知となっているMPEG2 TM5(Test Model 5)におけるレート制御方法が使用可能である。MPEG2 TM5のレート制御方法を用いた場合について以下に説明する。
【0050】
レート制御手段32において、あるGOP(Group of Picture)の次のピクチャに割り当てられる目標データ量は、例えば数1に示した式で設定される。ここで、Tiは次のIピクチャに割り当てられる目標データ量である。Tpは次のPピクチャに割り当てられる目標データ量である。Tbは次のBピクチャに割り当てられる目標データ量である。また、KpおよびKbは量子化手段35の処理内容に依存して決まる定数である。Rgopは現在処理中のGOPに割り当てられたビット数の残量である。Np、Nbは現在処理中のGOPに含まれるPピクチャ、Bピクチャの残数である。Xi、Xp、Xbはそれぞれ先に符号化されたIピクチャ、Pピクチャ、Bピクチャの複雑さを示す指標である。これらのパラメータの詳細はMPEG2 TM5の中で公開されており、ここでは説明を省略する。
【0051】
【数1】
【0052】
数1において、Rgopは符号化するシーケンスの先頭で初期値として数2が与えられ、その後1ピクチャを符号化する毎に更新される。ここでNはシーケンスの最初のGOPに含まれるピクチャの数である。
【0053】
【数2】
【0054】
従って、数1により求められるTi、Tp、Tbは、圧縮映像データの目標レートbit_rateとフレームレートpicture_rateにより変化する。レート制御手段32をMPEG2 TM5に準じて(数1および数2を用いて)実装した場合に、図5(b)に示したバッファ制御はbit_rateをR・(60/24)、picture_rateをXとすることで容易に実現可能である。
【0055】
このように、入力されてくる映像信号のフレームレートがXフレーム/秒であり、システムストリームの再生時の予め設定されているフレームレートがYフレーム/秒であり、システムストリームに含まれる圧縮映像データの再生時の基準データレートがRビット/秒である場合、映像符号化部21は、入力されてくる映像信号をR×(X/Y)ビット/秒のデータレートで圧縮符号化するようにレート制御を行う。
【0056】
なお、先に図5において、圧縮後の各フレームに対する目標データ量は(入力映像信号がXp映像信号であるにも関わらず)24p映像信号を圧縮する場合と同一になることを示したが、これに対応してステップS3における処理をpicture_rate=Y、bit_rate=Rと設定する処理に変更することも可能である。先に示したMPEG2 TM5のレート制御の場合、レート制御に関連する式がいずれもbit_rate/picture_rateの割合により変化する式となっており、いずれか一方だけを用いないため、数3に示したようにbit_rateをR、picture_rateをYとしても同じ結果が得られるということになる。
【0057】
【数3】
【0058】
すなわち、入力されてくる映像信号のフレームレートがXフレーム/秒であり、システムストリームの再生時の予め設定されているフレームレートがYフレーム/秒であり、システムストリームに含まれる圧縮映像データの再生時の基準データレートがRビット/秒である場合、映像符号化部21は、入力されてくる映像信号フレームレートがXであるにも関わらず、フレームレートがYの映像信号をRビット/秒のデータレートで圧縮符号化するようにレート制御を行っても上記と同様の結果を得ることが出来る。
【0059】
要するに、入力されてくる映像信号のフレームレートが再生時のフレームレートと異なる場合であっても、映像符号化部21は、再生時のフレームレートに対応する、圧縮映像データの再生時の基準データレートに実質上一致するように入力されてくる映像信号を圧縮符号化する。従って、再生時のVBVバッファがオーバーフローもアンダーフローも発生しないように圧縮映像データのデータレートを制御することが出来る。
【0060】
次に、本発明の実施例における時刻管理情報の生成について詳細に説明する。先に述べたように、本実施例においては、再生時に24p映像信号を圧縮符号化及び多重したシステムストリームを再生する場合と同様の制御が行われるようにPCR、PTS、DTSの値を変更するとともに、PCR、PTS、DTSを多重する間隔も変更する必要がある。
ここで、本発明においては、PCR,PTS,DTSを多重する際の基本となるSTCクロックを図5(c)に示すように有効フレームの記録時のみ駆動する間欠動作とする。無効フレームの記録に相当する期間はクロックを停止させる。従ってその間はPCR,PTS,DTSのカウント動作は停止する事になる。また、STCクロックの動作を通常記録時27MHzに対して処理フレームレート(60p相当)と再生フレームレート24pの比を掛けた値(27×60/24MHz)とする。すなわち有効フレーム期間のみを通常の60/24倍でタイミングカウントとする事とする。この動作により、図5(c)に示す記録時での有効フレームのみでの1フレーム時間(1/60秒)あたりのカウント数は、図5(d)に示す再生時の1フレーム時間(1/24秒)でのカウント数と等しく、有効フレームのみでのカウント積算値は、記録時と再生時で等価となる。従って、このSTCの制御により、レートXpに依存する事なくPCR、PTS、DTSの算出を行う事が可能となる。
【0061】
図7はSTCクロック生成手段53の構成の一例を示すブロック図である。このSTCクロック生成手段53は、有効フレーム期間のタイミングを生成し全体の制御を切り替える制御手段60、STCの原クロック27MHzを入力し60/24逓倍するPLL回路61、制御手段60からのタイミング信号により有効フレーム期間のみクロックを出力するクロック停止スイッチ62、及び記録フレームレートと再生フレームレートが異なる可変速記録時と通常記録でクロックを切り替える切替スイッチ63を備える。
【0062】
図7に示した構成により、STCクロックの原クロック(27MHz)から図5の図5(c)に示す有効フレーム記録期間のみ60/24倍としたクロックを生成する事が可能である。
【0063】
なお、PTS、DTS、PVRのいずれかまたは全てにおいて、上記の回路構成で行うのと同等の処理をソフトウエアプログラムで行う事も可能である。その場合はSTCクロック生成回路は仮想的に実現し、回路は不要となる。
【0064】
なお、図4、図5には撮影フレームレートX=8で、再生時に3倍クイックモーションとなる場合を図示したが、図8、図9に示したように撮影フレームレートXを再生フレームレート24フレーム/秒よりも高いフレームレートとし、再生時にスローモーションを実現することも可能である。この場合、図4と図8、図5と図9とを比較してもわかるように、撮影フレームレートXと再生フレームレート24の大小関係が異なるだけで、上記した構成及び動作を適用することで実現可能である。
【0065】
以上、実施例1においては、有効フレーム(Xp映像信号)のみを記録することで、記録媒体の消費量が少ない映像記録装置を提供することができる。また、画像圧縮符号化としてフレーム内符号化ではなく、フレーム間符号化であるMPEG2を用いることで高圧縮率を得ることができるため、記録媒体の消費量はより少なくすむ。さらに、予め設定された再生フレームレート(24フレーム/秒)に合わせて圧縮符号化処理、多重処理を行うため、再生時に通常記録した場合と同一フレームレート(24フレーム/秒)、同一データレートRで再生することが可能で、特殊な装置を必要としない映像記録装置を提供することができる。
【0066】
なお言うまでもないが、実施例1においては撮影したXp映像信号を60p映像信号にプルダウンして映像記録装置に入力し、再生フレームレートを24フレーム/秒として説明したが、任意のNフレーム/秒にプルダウン変換した映像信号を映像記録装置に入力して、再生フレームレートをMフレーム/秒として処理することが出来る。
【0067】
以上、示したように本実施例では、STCクロックを間欠的に動作し、その周波数は標準周波数に対して記録処理フレームレートと再生フレームレートの比を乗じた周波数で多重化を行う事が可能であり、有効フレームレートに依存しないSTCクロックの制御が可能となる。その為、記録の途中で有効フレームレートが変動する場合でもSTCクロックは一定であり、処理の簡素化が図れる。
【0068】
(実施例2)
図10に本発明の実施例2における映像記録装置2のブロック図を示す。図1及び図3と共通の構成要素については同一番号を付与し、詳細な説明を省略する。記録部23は、ATS値生成手段90、ATS多重手段91、及び記録媒体制御部92を備える。
【0069】
MPEG2−TSをTS多重手段22から記録手段23に転送する際に、実際の転送可能レートが高い場合にはTSパケットは間欠的に転送されることになる。また、MPEG2−TSを記録媒体に記録する際に効率よく記録することを目的として、実際のトランスポートストリーム中にあるNullパケットなどの不要な情報を削除する場合がある。これらの場合には、記録手段23へTSパケットが入出力されるタイミングを何らかの形で記録媒体に記録する必要がある。この目的でブルーレイ(Bru−ray)ディスクなどではATS(Arrival Time Stamp)が用いられている。
【0070】
以下、通常の記録再生におけるATSの効果について説明する。図11にMPEG2−TSを記録手段23に記録する際のパケットタイミング保存の概念を示す。図11(a)はTS多重手段22から記録手段23への入力TSである。図11(b)は記録媒体に実際に記録されるTSである。図11(c)は記録媒体から再生され、出力されるTSである。300〜302はNullパケットである。303〜305はTSパケットの無いタイミングを示す。
【0071】
図11(a)の入力TSにおいて、300から302に示したようにNullパケットが含まれているとすると、これらのNullパケット自体は映像・音声の記録再生に必要な情報を何ら含まないため、図11(b)の記録TSにおいては削除して記録したい。ただし、MPEG2−TSにおいてPCRは到着タイミングが時刻情報を持つため、再生時に図11(b)のままの状態で再生すると正しいSTCが再生されず、図11(c)に示したようにNullパケットの部分はパケットの無いままタイミングを空けるか、あるいはNullパケットを再度挿入して出力する必要がある。これを実現するために、図11(b)では記録する各パケットの先頭にそのパケットの入力タイミングを示すATSを付加して記録している。
【0072】
図12にATSが付加されたTSパケットの例を示す。MPEG2−TSのTSパケット188バイトの前にATS4バイトが付加される。このようなATS付加は例えばATS値生成手段90としてフリーランの27MHzで動作する32ビットのカウンタを用いてそのカウンタ値をATS多重手段91に入力し、各TSパケットがATS記録手段23に入力された時点でのカウンタ値をそのままそのTSパケットの前に付加すれば実現できる。
【0073】
このようにしてATSを付加されたTSパケットの再生タイミングを再現する回路例を図13に示す。再生装置は、スムージングバッファ70、スムージングバッファ70に記憶されているATS71、比較器72、読み出し制御部73、及びカウンタ74を備える。
【0074】
図11(b)に示した記録TSがスムージングバッファ70に入力される。スムージングバッファ70に記憶されたTSパケットのうち、最初に記憶されたTSパケットに付加されたATS71が読み出されて比較器72に入力される。一方、カウンタ74は記録の際にATSを生成するために用いられたのと同一周波数の27MHzクロックで動作し、カウンタ値を比較器72へ出力する。
【0075】
図11(b)の記録TSを再生する際に、最初に再生されるTSパケットに付加されたATSがカウンタ74にロードされるとともに、最初のTSパケットが出力される。これ以降は、比較器72が続くTSパケットに付加されたATS71の値とカウンタ74の値を比較し、一致したときに読み出し制御部73に一致情報を伝える。読み出し制御部73は一致情報が比較器72から入力されると、その時刻にATS71が付加されていたTSパケットがスムージングバッファ70から読み出されるように制御する。以上の動作により、スムージングバッファ70から読み出されるTSパケットは図11(c)のように入力TS(図11(a))と同じタイミングで出力される。図11(c)の303〜305の部分は対応するATSを付加されたTSパケットが無いため、データが無いまま時間が経過して空き領域となる。
【0076】
以上が通常記録再生、すなわち撮影フレームレートの値Xと再生フレームレートの値Yが同一である場合のATSの効果である。例えば記録媒体がメモリーであった場合、アクセスにアドレス指定が必要であることなどから、入力トランスポートストリームそのままではパケット間のタイミングを保持して記録再生することができず、ATSのような仕組みで入力時のパケット間タイミングを再現することは必須の動作となる。
【0077】
次に本発明に係る、撮影フレームレートの値Xと再生フレームレートの値Yを異なる値に設定した場合の構成及び動作について説明する。なお、ここでは再生フレームレートY=(24/1.001)fpsの場合を前提として説明する。またここでは、再生時のMPEG2−TSの基準データレートRts=24Mbpsとして説明する。
【0078】
図14は撮影フレームレートの値X=(8/1.001)fpsである場合の各部動作を示すタイミング図である。図14(a)はPES化手段50から出力される記録側のビデオPESである。記録側のビデオPESには撮影フレームレート(有効フレームレート)8fpsの映像信号の1フレーム分を圧縮したデータ毎にPTS/DTSが付加される。従って、PTS/DTSが付加される間隔は撮影フレームレートを反映する。また、実施例1にて説明したように、有効フレーム期間のみSTCが駆動され、圧縮データが出力される。 図14(b)はATS多重手段91から出力されるATSを付加されたMPEG2−TSである。図14(a)のビデオPESは細かく分割されてそれぞれTSパケット(TSP)のペイロードに格納される。
【0079】
ここで、本発明においては、ATSのカウンタを図14に示すように有効フレームの記録時のみ駆動する間欠動作とする。無効フレームの記録に相当する期間はカウンタを停止させる。また、ATSカウンタの動作は通常記録時27MHzに対して処理フレームレート(60p相当)と再生フレームレート24pの比を掛けた値(27×60/24MHz)とする。すなわち有効フレーム期間のみを通常の60/24倍でタイミングカウントとする事とする。また、再生時は通常通り27MHzでカウントするので、図14(b)に示す記録時での有効フレームのみでの1フレーム時間(1/60秒)あたりのカウント数は、図14(c)に示す再生時の1フレーム時間(1/24秒)でのカウント数と等しく、有効フレームのみでのカウント積算値は、記録時と再生時で等価となる。従って、このATSカウンタの動作により、有効フレームレートXpに依存する事なく再生時に24Pのタイミングで動作するATSカウンタの制御を行う事が可能となる。
【0080】
ここで、ATSカウンタのクロック制御は実施例1に示すSTCクロックと同様の制御で実現する事は可能である。また、同一のクロックとする事も出来る。
【0081】
図14(c)は記録媒体から再生され、元のTSパケットのタイミングが再現された後のMPEG2−TSである。ただし、完全に記録時と同じタイミングではなく、撮影フレームレートと再生フレームレートの比だけデータレートが変化している。なお、本来この段階ではATSは通常削除されるが、説明の簡単のためにここではATSを残した図を用いて説明する。
【0082】
また、図14(d)は図14(c)のMPEG2−TSから分離したビデオPESである。この図についても、記録側のビデオPES(図14(a))に対して、撮影フレームレートと再生フレームレートの比だけデータレートが変化している。
【0083】
以上、実施例2においては、ATS(ArrivalTimeStamp)を用いてTSパケットタイミングを再生する記録再生系においても可変フレームレート記録が可能で、予め設定された再生フレームレート(24フレーム/秒)に合わせて圧縮符号化処理、多重処理を行うため、再生時に特殊な装置を必要とせずに通常記録した場合と同一フレームレート(24フレーム/秒)、同一TSデータレートRtsで再生できる映像記録装置を提供することができる。
【0084】
さらに、ATSクロックを間欠的に動作し、その周波数は標準周波数に対して記録処理フレームレートと再生フレームレートの比を乗じた周波数で多重化を行う事が可能であり、有効フレームレートに依存しないATSクロックの制御が可能となる。その為、記録の途中で有効フレームレートが変動する場合でもATSクロックは一定であり、処理の簡素化が図れる。
【0085】
なお、本発明の実施例においては、多重化としてMPEG2−TSを用いることを前提として説明したが、多重化の方式はこれに限るものではなく、例えばMPEG2−PS(Program Stream)などを用いてもよい。同様に、映像の圧縮符号化としてMPEG2ビデオ符号化を用いることを前提として説明したが、圧縮符号化の方式もこれに限るものではなく、例えばMPEG4ビデオ符号化、H.264ビデオ符号化、DVC(Digital Video Cassette)における圧縮符号化などを用いてもよい。
【0086】
さらに、本実施例では、映像記録装置2が有効フレーム抽出部20及び映像符号化部21を備えているとして説明したが、これに限らず、映像記録装置2が、有効フレーム抽出部20、映像符号化部21、及び音声符号化部24を備えていなくても構わない。この場合、映像記録装置2以外の外部の装置が有効フレーム抽出部20、映像符号化部21、及び音声符号化部24を備えている。そして、撮像装置1から出力されたXp映像信号6と有効フレームフラグ7は、この外部の装置で処理され、その結果外部の装置から圧縮映像データが出力される。そして、映像記録装置2は、この外部の装置から出力された圧縮映像データを入力してTS多重部22にてシステムストリームを生成する。このように、映像記録装置2自体が入力映像信号の圧縮符号化を行わず、映像記録装置2が圧縮符号化された圧縮映像データを入力して多重処理のみを行うものであっても構わない。
【0087】
尚、本発明のプログラムは、上述した本発明の映像記録装置の全部又は一部の手段の機能をコンピュータにより実行させるためのプログラムであって、コンピュータと協働して動作するプログラムである。
【0088】
又、本発明の記録媒体は、上述した本発明の映像記録装置の全部又は一部の手段(又は、装置、素子等)の機能をコンピュータにより実行させるためのプログラムを担持した記録媒体であり、コンピュータにより読み取り可能且つ、読み取られた前記プログラムが前記コンピュータと協動して前記機能を実行する記録媒体である。
【0089】
尚、本発明の上記「一部の手段」とは、それらの複数の手段の内の、一つ又は幾つかの手段を意味する。
【0090】
又、本発明の上記「手段の機能」とは、前記手段の全部又は一部の機能を意味する。
又、本発明のプログラムの一利用形態は、コンピュータにより読み取り可能な記録媒体に記録され、コンピュータと協働して動作する態様であっても良い。
【0091】
又、本発明のプログラムの一利用形態は、伝送媒体中を伝送し、コンピュータにより読みとられ、コンピュータと協働して動作する態様であっても良い。
【0092】
又、本発明のデータ構造としては、データベース、データフォーマット、データテーブル、データリスト、データの種類などを含む。
【0093】
又、記録媒体としては、ROM等が含まれ、伝送媒体としては、インターネット等の伝送媒体、光・電波・音波等が含まれる。
【0094】
又、上述した本発明のコンピュータは、CPU等の純然たるハードウェアに限らず、ファームウェアや、OS、更に周辺機器を含むものであっても良い。
【0095】
尚、以上説明した様に、本発明の構成は、ソフトウェア的に実現しても良いし、ハードウェア的に実現しても良い。
【産業上の利用可能性】
【0096】
本発明にかかる映像記録装置は、例えば、ビデオカメラとして有用であり、特に映画におけるスローモーション効果やクイックモーション効果をフィルムではなく電子的なフレームレート変換処理により得るビデオカメラに適している。
【図面の簡単な説明】
【0097】
【図1】本発明の実施例1における映像記録装置を用いた撮像記録装置のブロック図
【図2】図1の各部の信号波形図
【図3】本発明の実施例1における映像記録装置2の詳細ブロック図
【図4】図1及び図3各部の信号波形図
【図5】ビットバッファ36のデータ容量と、再生時の復号処理を想定したVBVバッファ容量とを示す図
【図6】レート制御手段32における処理手順を示す図
【図7】STCクロック生成手段53に追加すべき構成を示すブロック図
【図8】スローモーションの場合の、図1及び図3各部の信号波形図
【図9】スローモーションの場合の、ビットバッファ36のデータ容量と、再生時の復号処理を想定したVBVバッファ容量とを示す図
【図10】本発明の実施例2における映像記録装置2のブロック図
【図11】MPEG2−TSを記録手段23に記録する際のパケットタイミング保存の概念図
【図12】ATSが付加されたTSパケットの例
【図13】ATSを付加されたTSパケットの再生タイミングを再現する回路例
【図14】撮影フレームレートの値X=8fpsである場合の各部動作を示すタイミング図
【符号の説明】
【0098】
1 撮像装置
2 映像記録装置
3 電子ビューファインダー
4 マイク
5 制御部
6 60p映像信号
7 有効フレームフラグ
10 CCD
11 フレームメモリ
12 カメラ処理部
13 CCD駆動回路
14 駆動パルス切換回路
20 有効フレーム抽出部
21 映像符号化部
22 TS多重部
23 記録部
24 音声符号化部
【特許請求の範囲】
【請求項1】
映像信号を圧縮符号化して生成された圧縮映像データに対し、復号処理に関する時刻を規定する時刻管理情報を多重するために、前記時刻の基準となるクロックを発生するクロック発生手段と、
前記圧縮映像データに前記時刻管理情報を多重化したシステムストリームを生成する多重手段と、
前記多重手段において生成される前記システムストリームを記録媒体に記録する記録手段とを備え、
入力されてくる前記映像信号の記録フレームレートと、前記システムストリームを記録再生および復号した後に得られる再生映像信号において予め設定されている再生フレームレートとが異なる場合において、
前記クロック発生手段は、間欠的にクロックを発生し、
前記多重手段は、前記再生フレームレートに対応した前記時刻管理情報を、前記クロック発生手段において発生された間欠的なクロックのタイミングで前記圧縮映像データに多重したシステムストリームを生成し、
前記記録手段は、当該システムストリームを前記記録媒体に記録する
ことを特徴とする映像記録装置。
【請求項2】
前記映像記録装置は、さらに、
入力されてくる前記映像信号が、各フレームを1回または複数回繰り返すことにより生成された映像信号である場合であって、入力されてくる前記映像信号の生成元となったフレームである有効フレームを示す有効フレームフラグが入力される場合、入力されてくる前記有効フレームフラグを利用して入力されてくる前記映像信号から前記有効フレームを検出する有効フレーム検出手段を備え、
前記クロック発生手段は、検出される前記有効フレームに相当する期間のみクロックを発生し、前記有効フレーム以外の期間である無効フレームに相当する期間ではクロックを停止することで間欠的にクロックを発生する
ことを特徴とする請求項1記載の映像記録装置。
【請求項3】
前記クロック発生手段は、
復号処理の動作基準となる基準クロックを逓倍するPLL(Phase Locked Loop)部と、
前記PLL部から入力されるクロックに対して、前記有効フレームに相当する期間のみクロックを発生し、前記無効フレームに相当する期間ではクロックを停止するためのクロック停止スイッチ部と、
前記記録フレームレートと前記再生フレームレートとが等しい場合には、前記基準クロックが前記PLL部及び前記クロック停止スイッチ部を通らないようにし、前記記録フレームレートと前記再生フレームレートとが異なる場合には、前記PLL部及び前記クロック停止スイッチ部を通るように回路を選択する切替スイッチ部とを備える
ことを特徴とする請求項2記載の映像記録装置。
【請求項4】
前記クロック発生手段は、さらに、
前記記録フレームレートより大である記録処理フレームレートに同期して動作し、入力される映像信号の前記有効フレームと前記無効フレームとで処理を切り替える制御部を備える
ことを特徴とする請求項3記載の映像記録装置。
【請求項5】
前記制御部は、さらに、前記有効フレーム検出手段で検出される前記有効フレームに相当する期間のみクロックを発生するようにタイミング信号を送信して前記クロック停止スイッチ部を制御する
ことを特徴とする請求項4記載の映像記録装置。
【請求項6】
前記クロック発生手段は、前記記録フレームレートと前記再生フレームレートが等しい場合には、基準クロックの周波数Fのクロックを発生し、前記記録フレームレートXpと前記再生フレームレートXが異なる場合には、記録処理フレームレートをYとすると、F×Y/Xの周波数のクロックを発生する
ことを特徴とする請求項1記載の映像記録装置。
【請求項7】
前記多重手段は、MPEG規格に対応した多重化を行い、前記時刻管理情報は復号及び出力(表示)のタイミング基準となるPCR(Program Clock Reference)またはSCR(System Clock Reference)、復号後の各フレームの出力タイミングを示すPTS(Presentation Time Stamp)、復号のタイミングを示すDTS(Decoding Time Stamp)を含む
ことを特徴とする請求項1記載の映像記録装置。
【請求項8】
前記記録手段は、さらに、
前記システムストリームを構成する前記パケットに再生処理に関する時刻を規定するパケット再生時刻情報を生成する生成部と、
前記パケット再生時刻情報である第二の多重信号を、前記クロック発生手段において発生される間欠的なクロックのタイミングで前記多重手段において生成される前記システムストリームに多重する第二多重部とを備える
ことを特徴とする請求項1記載の映像記録装置。
【請求項9】
映像信号を圧縮符号化して生成された圧縮映像データに対し、復号処理に関する時刻を規定する時刻管理情報を多重するために、前記時刻の基準となるクロックを発生するクロック発生ステップと、
前記圧縮映像データに前記時刻管理情報を多重化したシステムストリームを生成する多重ステップと、
前記多重ステップにおいて生成される前記システムストリームを記録媒体に記録する記録ステップとを含み、
入力されてくる前記映像信号の記録フレームレートと、前記システムストリームを記録再生および復号した後に得られる再生映像信号において予め設定されている再生フレームレートとが異なる場合において、
前記クロック発生ステップにおいては、間欠的にクロックを発生し、
前記多重ステップにおいては、前記再生フレームレートに対応した前記時刻管理情報を、前記クロック発生ステップにおいて発生された間欠的なクロックのタイミングで前記圧縮映像データに多重したシステムストリームを生成し、
前記記録ステップにおいては、当該システムストリームを前記記録媒体に記録する
ことを特徴とする映像記録方法。
【請求項1】
映像信号を圧縮符号化して生成された圧縮映像データに対し、復号処理に関する時刻を規定する時刻管理情報を多重するために、前記時刻の基準となるクロックを発生するクロック発生手段と、
前記圧縮映像データに前記時刻管理情報を多重化したシステムストリームを生成する多重手段と、
前記多重手段において生成される前記システムストリームを記録媒体に記録する記録手段とを備え、
入力されてくる前記映像信号の記録フレームレートと、前記システムストリームを記録再生および復号した後に得られる再生映像信号において予め設定されている再生フレームレートとが異なる場合において、
前記クロック発生手段は、間欠的にクロックを発生し、
前記多重手段は、前記再生フレームレートに対応した前記時刻管理情報を、前記クロック発生手段において発生された間欠的なクロックのタイミングで前記圧縮映像データに多重したシステムストリームを生成し、
前記記録手段は、当該システムストリームを前記記録媒体に記録する
ことを特徴とする映像記録装置。
【請求項2】
前記映像記録装置は、さらに、
入力されてくる前記映像信号が、各フレームを1回または複数回繰り返すことにより生成された映像信号である場合であって、入力されてくる前記映像信号の生成元となったフレームである有効フレームを示す有効フレームフラグが入力される場合、入力されてくる前記有効フレームフラグを利用して入力されてくる前記映像信号から前記有効フレームを検出する有効フレーム検出手段を備え、
前記クロック発生手段は、検出される前記有効フレームに相当する期間のみクロックを発生し、前記有効フレーム以外の期間である無効フレームに相当する期間ではクロックを停止することで間欠的にクロックを発生する
ことを特徴とする請求項1記載の映像記録装置。
【請求項3】
前記クロック発生手段は、
復号処理の動作基準となる基準クロックを逓倍するPLL(Phase Locked Loop)部と、
前記PLL部から入力されるクロックに対して、前記有効フレームに相当する期間のみクロックを発生し、前記無効フレームに相当する期間ではクロックを停止するためのクロック停止スイッチ部と、
前記記録フレームレートと前記再生フレームレートとが等しい場合には、前記基準クロックが前記PLL部及び前記クロック停止スイッチ部を通らないようにし、前記記録フレームレートと前記再生フレームレートとが異なる場合には、前記PLL部及び前記クロック停止スイッチ部を通るように回路を選択する切替スイッチ部とを備える
ことを特徴とする請求項2記載の映像記録装置。
【請求項4】
前記クロック発生手段は、さらに、
前記記録フレームレートより大である記録処理フレームレートに同期して動作し、入力される映像信号の前記有効フレームと前記無効フレームとで処理を切り替える制御部を備える
ことを特徴とする請求項3記載の映像記録装置。
【請求項5】
前記制御部は、さらに、前記有効フレーム検出手段で検出される前記有効フレームに相当する期間のみクロックを発生するようにタイミング信号を送信して前記クロック停止スイッチ部を制御する
ことを特徴とする請求項4記載の映像記録装置。
【請求項6】
前記クロック発生手段は、前記記録フレームレートと前記再生フレームレートが等しい場合には、基準クロックの周波数Fのクロックを発生し、前記記録フレームレートXpと前記再生フレームレートXが異なる場合には、記録処理フレームレートをYとすると、F×Y/Xの周波数のクロックを発生する
ことを特徴とする請求項1記載の映像記録装置。
【請求項7】
前記多重手段は、MPEG規格に対応した多重化を行い、前記時刻管理情報は復号及び出力(表示)のタイミング基準となるPCR(Program Clock Reference)またはSCR(System Clock Reference)、復号後の各フレームの出力タイミングを示すPTS(Presentation Time Stamp)、復号のタイミングを示すDTS(Decoding Time Stamp)を含む
ことを特徴とする請求項1記載の映像記録装置。
【請求項8】
前記記録手段は、さらに、
前記システムストリームを構成する前記パケットに再生処理に関する時刻を規定するパケット再生時刻情報を生成する生成部と、
前記パケット再生時刻情報である第二の多重信号を、前記クロック発生手段において発生される間欠的なクロックのタイミングで前記多重手段において生成される前記システムストリームに多重する第二多重部とを備える
ことを特徴とする請求項1記載の映像記録装置。
【請求項9】
映像信号を圧縮符号化して生成された圧縮映像データに対し、復号処理に関する時刻を規定する時刻管理情報を多重するために、前記時刻の基準となるクロックを発生するクロック発生ステップと、
前記圧縮映像データに前記時刻管理情報を多重化したシステムストリームを生成する多重ステップと、
前記多重ステップにおいて生成される前記システムストリームを記録媒体に記録する記録ステップとを含み、
入力されてくる前記映像信号の記録フレームレートと、前記システムストリームを記録再生および復号した後に得られる再生映像信号において予め設定されている再生フレームレートとが異なる場合において、
前記クロック発生ステップにおいては、間欠的にクロックを発生し、
前記多重ステップにおいては、前記再生フレームレートに対応した前記時刻管理情報を、前記クロック発生ステップにおいて発生された間欠的なクロックのタイミングで前記圧縮映像データに多重したシステムストリームを生成し、
前記記録ステップにおいては、当該システムストリームを前記記録媒体に記録する
ことを特徴とする映像記録方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2007−158432(P2007−158432A)
【公開日】平成19年6月21日(2007.6.21)
【国際特許分類】
【出願番号】特願2005−346735(P2005−346735)
【出願日】平成17年11月30日(2005.11.30)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
【公開日】平成19年6月21日(2007.6.21)
【国際特許分類】
【出願日】平成17年11月30日(2005.11.30)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]