情報記録装置、情報再生装置、情報記録プログラムおよび情報再生プログラム
【課題】動画の情報を静止画再生時に使用することで、記録する静止画の情報量を削減することが可能な情報記録装置及び情報再生装置を提供する。
【解決手段】撮像レンズから入射された光線を分離する光路分離器と、前記光路分離器で分離された光を受光し、動画信号として出力する少なくとも1つの受光素子と、前記分配部で分離された光を受光し、静止画信号として出力する少なくとも1つの受光素子と、前記動画信号を記録媒体に記録する動画信号記録器と、前記静止画信号を記録媒体に記録する静止画信号記録器とを備えた動画静止画同時記録装置において、前記静止画は対応する動画像ピクチャーデータのもつ情報を補う、補足静止画情報として記録されることを特徴とする情報記録装置及び情報再生装置。
【解決手段】撮像レンズから入射された光線を分離する光路分離器と、前記光路分離器で分離された光を受光し、動画信号として出力する少なくとも1つの受光素子と、前記分配部で分離された光を受光し、静止画信号として出力する少なくとも1つの受光素子と、前記動画信号を記録媒体に記録する動画信号記録器と、前記静止画信号を記録媒体に記録する静止画信号記録器とを備えた動画静止画同時記録装置において、前記静止画は対応する動画像ピクチャーデータのもつ情報を補う、補足静止画情報として記録されることを特徴とする情報記録装置及び情報再生装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報記録装置、情報再生装置、情報記録プログラムおよび情報再生プログラムに係り、特に動画と静止画とを共に記録及び再生する際に、記録する静止画の画像データの一部を、同時期に記録する動画の画像データを用いて補間することにより、静止画の記録に要するデータ容量を削減することが可能な情報記録装置、情報再生装置、情報記録プログラムおよび情報再生プログラムに関するものである。
【背景技術】
【0002】
動画と静止画を共に記録し、また再生することが可能な情報記録再生装置が存在する
例えば、特許文献1には、広角レンズによる撮像信号と、ズームレンズによる撮像信号とを、同一の記録媒体に同時記録して、2種類の映像を2つの光学系にて記録する技術が開示されている。
【0003】
また、特許文献2には、入射光をプリズム分岐させて動画撮影用CCDと静止画撮影用CCDに受光させ、1つの光学系で、2つのCCDを用いて、動画像はMPEG圧縮されて記録し、静止画はJPEG圧縮してメモリカードに同時に記録される技術が開示されている。
【0004】
特許文献3には、対物光学系の光路を二つに分離するハーフミラーの二つの分離光路を用いて、異なる画素位置のデータからなる画像信号を形成するように配置された2つのCCDから、設定された画素以外の欠落画素を周囲の画素信号から演算し、高解像度の画像を生成する技術が開示されている。
【0005】
特許文献4には記録媒体の破損や、通信の障害などにより、入力符号化データにエラーや、符号化データ自体の供給不足が生じ、正常な復号動作を行えない場合においても、タイマーを設け、もしも、CPUからの制御がタイマーに対して適切なタイミングできなかった場合、表示部のセレクタは、自動的に静止画画像生成部の出力を選択するように切り替わるようにして、高品位の静止画が出力されるようにする技術が開示されている。
<MPEG>
次に、上記した記録再生装置で使用されているMPEGについて説明する。
【0006】
MPEGは1988年、ISO/IEC JTC1/SC2(国際標準化機構/国際電気標準化会合同技術委員会1/専門部会2、現在のSC29)に設立された動画像符号化標準を検討する組織の名称(Moving Pictures Expert Group)の略称である。MPEG1(MPEGフェーズ1)は1.5Mbps程度の蓄積メディアを対象とした標準で、静止画符号化を目的としたJPEGと、ISDNのテレビ会議やテレビ電話の低転送レート用の動画像圧縮を目的としたH.261(CCITT SGXV、現在のITU-T SG15で標準化)の基本的な技術を受け継ぎ、蓄積メディア用に新しい技術を導入したものである。これらは1993年8月、ISO/IEC 11172 として成立している。
【0007】
MPEG2(MPEGフェーズ2)は通信や放送などの多様なアプリケーションに対応できるように汎用標準を目的として、1994年11月ISO/IEC 13818、H.262として成立している。
MPEGは幾つかの技術の組み合わせで実現される。
【0008】
入力画像は動き補償器で復号化した画像と、入力画像の差分を取ることで時間冗長部分を削減する。予測の方向は、過去、未来、両方からの3モード存在する。またこれらは16画素×16画素のMB(マクロブロック)ごとに切り替えて使用できる。予測方向は入力画像に与えられたピクチャータイプによって決定される。過去からの予測と、予測をしないでそのMBを独立で符号化する2モード存在するのがPピクチャーである。また未来からの予測、過去からの予測、両方からの予測、独立で符号化する4モード存在するのがBピクチャーである。そして全てのMBが独立で符号化するのがIピクチャーである。動き補償は、動き領域をMBごとにパターンマッチングを行ってハーフペル精度で動きベクトルを検出し、動き分だけシフトしてから予測する。動きベクトルは水平方向と垂直方向が存在し、何処からの予測かを示すMC(Motion Compensation)モードとともにMBの付加情報として伝送される。Iピクチャーから次のIピクチャーの前のピクチャーまでをGOP(Group Of Picture)といい、蓄積メディアなどで使用される場合には、一般に約15ピクチャー程度が使用される。
【0009】
差分画像はDCT器において直交変換が行われる。DCT(Discrete Cosine Transform)とは 余弦関数を積分核とした積分変換を有限空間への離散変換する直交変換である。MPEGではMBを4分割し8×8のDCTブロックに対して、2次元DCTを行う。一般にビデオ信号は低域成分が多く高域成分が少ないため、DCTを行うと係数が低域に集中する。
【0010】
DCTされた画像データ(DCT係数)は量子化器で量子化が行われる。量子化は量子化マトリックスという8×8の2次元周波数を視覚特性で重み付けした値と、その全体をスカラー倍する量子化スケールという値で乗算した値を量子化値として、DCT係数をその量子化値で除算する。デコーダーで逆量子化するときは量子化値で乗算することにより、元のDCT係数に近似している値を得ることになる。
【0011】
量子化されたデータはVLC器で可変長符号化される。量子化された値のうち直流(DC)成分は予測符号化のひとつであるDPCM(differential pulse code modulation )を使用する。また交流(AC)成分は 低域から高域にzigzag scanを行い、ゼロのラン長および有効係数値を1つの事象とし、出現確率の高いものから符号長の短い符号を割り当てていくハフマン符号化が行われる。
【0012】
可変長符号化されたデータは一時バッファに蓄えられ、所定の転送レートで符号化データとして出力される。また、その出力されるデータのマクロブロック毎の発生符号量は、符号量制御器に送信され、目標符号量に対する発生符号量との誤差符号量を量子化器にフィードバックして量子化スケールを調整することで符号量制御される。量子化された画像データは逆量子化器にて逆量子化、逆DCT器にて逆DCTされ一時、画像メモリーに蓄えられたのち、動き補償予測器において、差分画像を計算するためのリファレンスの復号化画像として使用される。これら全体の符号化構成例を図10に示す。
【0013】
符号化されたストリームはバッファリングされ、バッファからのデータはVLD器に入力される。VLD器では可変長復号化され、直流(DC)成分および交流(AC)成分を得る。交流(AC)成分データは低域から高域にzigzag scanの順で8x8のマトリックスに配置する。このデータは逆量子化器に入力され、量子化マトリックスにて逆量子化される。逆量子化されたデータは逆DCT器に入力され、逆DCTされ一時、画像データ(復号化データ)として出力される。また、復号化データは一時、画像メモリーに蓄えられたのち、動き補償予測器において、差分画像を計算するためのリファレンスの復号化画像として使用される。復号化構成例を図11に示す。
<ディスクフォーマットの一般的データ構造>
次に、CD等の従来のディスク媒体と比較して、数倍から十数倍の記憶容量を有する近年開発された次世代のディスク媒体におけるディスクフォーマットの一般的なデータ構造について説明する。
【0014】
次世代のディスク媒体としては、DVD-ROMディスク(DVD Specifications for Read-Only Discに準拠した読み出し専用光ディスク)、DVD-RWディスク(DVD Specifications for Re-recordable Discに準拠した再記録可能なディスク)DVD-RAMディスク(DVD Specifications for Rewritable Discに準拠した再書き込み可能なディスク)などがある。
【0015】
DVD-RWまたはDVD-RAMディスク上に画像データを収録する規格も策定されており、その大容量を活かして高画質な動画及び静止画を記録し、様々な編集を経て再生する手法が提供される。
【0016】
DVD-RWまたはDVD-RAMディスク上(以下、DVD-RW/RAMディスクと略す)に動画データを収録する規格であるVIDEO RECORDING規格(以下DVD-VRと略す)では、動画データはVOB(Video Object)単位に記録される。VOBとは連続する動画を任意の範囲毎に区別するための単位である。
【0017】
そして、この記録された各VOBの再生には、そのVOB群の各VOBの再生順序を記述した管理データであるPGC (Program Chain)が用いられる。再生装置は再生時にこのPGCを参照して、記述されている順序でVOBを再生する。
【0018】
このPGCのうち、ディスクに記録されている全てのVOBを、各VOBを記録した時の順序で全て再生するための順序が記述されているPGCはオリジナルPGC と定義されている。
また、全VOBのうち利用者が任意に選択し順序を設定した内容を記述したPGCはユーザー定義PGC (User Defined PGC)と定義されている。
【0019】
1枚のディスク上に、オリジナルPGCはただ一つ存在し、ユーザー定義PGCは複数存在しうる。 従って、1枚のディスクに対して利用者が複数いても、その各利用者に対応したそれぞれ別々のユーザー定義PGCを作成し、編集することが可能である。また一人の利用者が好みに応じて複数のユーザー定義PGCを作成し、編集することも可能である。
[ディレクトリ構造]
"DVD Specifications for Rewritable/Re-recordable Discs、 Part3 VIDEO RECORDING、 Version 1.0"で示されるように、DVD-VRでは、DVD-RW/RAM上におけるディレクトリ構造が定義されている。図12にそのディレクトリ構造図を示す。
【0020】
ルートディレクトリ下にDVD_RTAVディレクトリがある。
そのDVD_RTAVディレクトリの下のVR_MANGER.IFOファイルは、全ての記録再生管理データを収録するためのファイルであり、オリジナルPGC、ユーザー定義PGCなどが記述される。VR_MOVIE.VROファイルには、動画データの本体が記録される。VR_STILL.VROファイルには、静止画データの本体が記録される。VR_AUDIO.VROファイルには、音声データの本体が記録される。
【0021】
このように、実際の動画データ(VR_MOVIE.VRO)、静止画データ(VR_STILL.VRO)、音声データ(VR_AUDIO.VRO)等の実データと、記録再生管理データとを分離して記録する構造とすることで、実際の動画、静止画、音声の各データを変更することなく、ユーザー定義PGCによって任意の再生順序を設定することが出来る。なお、VR_STILL.VRO中の各静止画は、MPEG Video規格に準拠したMPEGイントラ画像として記録される。
[オリジナルPGC]
図13はオリジナルPGCの構造概念図である。
【0022】
DVD-VRディスクに、複数の動画データを記録する場合、その記録された各動画データを参照するためのプログラム(Program)がオリジナルPGC内に記述される。そして、その記述された各プログラムで参照される動画データを、更に1つまたは複数に分けるためのセル(Cell)が上記したプログラムと対応付けられて記述される。一般的には、記録の途中でポーズした場合や、記録後に番組の途中部分を編集で削除した場合などに、プログラムはその途切れ部分を境とする複数のセルに分割された構成をとる。各セルはそれぞれ対応する各VOBを参照している。このプログラムおよびセルがオリジナルPGCの記録再生管理データである。
【0023】
VOBは、上記セルで参照される動画データそのものであり、MPEG-2システムに準拠したプログラムストリームとして記録されている。
図13において、ディスクに最初に記録された動画データはVOB1であり、これを参照するプログラム及びセルがProgram1、Cell1としてオリジナルPGC内に記述される。以下、VOBが追加記録されていくたびに、その各VOBを参照するプログラムがProgram2、 Program 3、 ...、セルがCell2、Cell3、...というように追加記述されていく。なおVOBは、上記したとおり1つのプログラムの中で記録ポーズなどの区切りが発生した場合は複数に分かれるので、そのVOBを参照するセルも1つのプログラム内で複数記述されることになる。図13は、Program2がCell2、Cell3に分かれている例である。
【0024】
このオリジナルPGCを用いると、オリジナルPGC内に記述されているプログラムまたはセル(つまりディスクに記録されている全てのプログラムまたはセル)に対応した全VOBを記述順、つまり記録順に再生することが可能となる。また、オリジナルPGC上の特定のプログラムを利用者に指定させて、その指定させたプログラムが参照するVOBのみ再生することも可能である。
[ユーザー定義PGC]
図14はユーザー定義PGCの構造概念図である。
【0025】
オリジナルPGCで参照されている各VOBは、その全部または一部をユーザー定義PGCでも参照可能である。ユーザー定義PGCで用いられるセルは、オリジナルPGCと異なり、VOBと1対1に対応しなくてもよく、一つのVOBの中の一部分のみを参照したり、二つのVOBにまたがって参照したりすることが可能である。例えば、VOB内のコマーシャルの部分や不要場面の部分を除いた必要場面の部分のみを参照したり、2つ以上の番組(Program)の一部分を繋いで再生したりする用途等に適している。
【0026】
また、ユーザー定義PGC中にはプログラムの階層は存在しない。つまり、ひとつのユーザー定義PGCが、オリジナルPGCで言う1つのプログラムに相当する。
[PGCI]
表5は、オリジナルPGC及びユーザー定義PGCに記述される情報(PGCI)の具体的定義内容を示す表である。PGCIは以下の情報からなる。
・PGC_GI:PGCの一般情報。
・PGI:各プログラムナンバーのPGI。
【0027】
(オリジナルPGCの場合のみ定義する。ユーザー定義PGCでは定義しない。)
・CI_SRP :PGC中の各セル情報の検索ポインタ。
・M_CI:動画セルの場合の各セル情報。
【0028】
(静止画セルの場合はS_CIと置き換える。)
次に、上記各要素の詳細内容を説明する。
PGC_GIには、PGC内のプログラム数が記述されるPG_Ns、及びCI_SRPの数が記述されるCI_SRP_Nsが定義される。ユーザー定義PGCの場合は上記したようにプログラムの階層を持たないのでPG_Nsはゼロである。
【0029】
PGIは、PG_Nsに記述される個数分存在し、それぞれに付加されるナンバーi(iは整数)で区別する。PGI内には、プログラム中のセル数が記述されるC_Ns、プログラムに関するテキスト情報を記述するプライマリテキスト情報が記述されるPRM_TXTI、プログラムに関連するアイテムテキスト情報(PGCIではなく、VR_MANGR.IFO内の別のデータ構造として別途収録されている)の検索ポインタ番号が記述されるIT_TXT_SRPN、プログラムを代表する静止画像の位置を指定する代表静止画情報が記述されるEP_PICTI等が定義される。
【0030】
CI_SRPは、CI_SRP_Nsに記述されるプログラムの個数分存在し、それぞれに付加されるナンバーj(jは整数)で区別する。各CI_SRP内にはセル情報M_CI(静止画の場合はS_CI)の先頭アドレスが記述されるCI_SAが定義される。
【0031】
M_CIには、セルの一般情報を記述するM_C_GIと0個以上のセルエントリーポイント情報が記述されるM_C_EPIが定義される。M_CIはC_Nsに記述されるセルの個数分存在し、それぞれに付加されるナンバーj(jは整数)で区別する。
【0032】
M_C_GI内には、セルのタイプが記述されるC_TY、セルエントリーポイント数が記述されるC_EPI_Ns等が定義される。
M_C_EPI内には、エントリーポイントのタイプが記述されるEP_TY(AとB、AはPRM_TXTIなし、BはPRM_TXTIあり)、エントリーポイントの再生時刻が記述されるEP_PTM、及びエントリーポイントに関するプライマリテキスト情報が既出されるPRM_TXTIが定義される。M_C_EPIはC_EPI_Nsに記述されるエントリーポイントの個数分存在し、それぞれに付加されるナンバーk(kは整数)で区別する。
【0033】
ここで、エントリーポイントとはセル内の任意の時刻を指定し、プログラムやセルの任意の中間地点へのアクセスを可能にする情報である。図13および図14中に、セル内に指定されるエントリーポイントの例(EPと示される矢印)を示す。
【0034】
なお、静止画のセルを再生する場合には、M_CIの代わりにS_CIが用いられる。(S_CIの内容はここでは省略する。) 従って、オリジナルPGC上に動画と静止画を記録する場合はセル毎に混在することになる。ユーザー定義PGC上も、セル毎に動画用セルと静止画用セルを混在させることが出来る。
【特許文献1】特開平5−292445
【特許文献2】特開2004−72148
【特許文献3】特開平11−76159
【特許文献4】特開平2002−152743
【発明の開示】
【発明が解決しようとする課題】
【0035】
上記した特許文献1〜4に記載の動画と静止画とを共に記録再生可能な従来の情報記録再生装置においては、動画と静止画とを互いに独立して記録及び再生を行なっている。
しかしながら、同一被写体に対して動画及び静止画を記録する場合、その動画と静止画には互いに相関がある。この相関性を利用すれば動画及び静止画の互いの記録再生に必要な情報量の削減が可能となるが、従来の方法ではこの相関性を利用していないので情報量を削減できず効率的な圧縮記録及び伸長再生をすることが出来ないという課題があった。
【課題を解決するための手段】
【0036】
そこで、上記課題を解決するために本発明は、以下の装置およびプログラムを提供するものである。
(1)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する動画生成手段と(107)、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する補足静止画生成手段と(116)、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と(114、117〜120)、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と(111、112)、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と(112、118、120)、
を有することを特徴とする情報記録装置。
(2)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する動画生成手段と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する補足静止画生成手段と、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と、
を有することを特徴とする情報記録装置。
(3)上記(1)に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と(210)、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを再生する第2の再生手段と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する静止画生成手段と(212)、
を有することを特徴とする情報再生装置。
(4)上記(2)に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と(210)、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを再生する第2の再生手段と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する静止画生成手段と(212)、
を有することを特徴とする情報再生装置。
(5)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する機能と(107)、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する機能と(116)、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と(114、117〜120)、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と(111、112)、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と(112、118、120)、
をコンピュータに実行させる情報記録プログラム。
(6)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する機能と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する機能と、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と、
をコンピュータに実行させる情報記録プログラム。
(7)上記(5)に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と(210)、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを前記第2の再生手段を用いて再生させる機能と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する機能と(212)、
をコンピュータに実行させる情報記録プログラム。
(8)上記(6)に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と(210)、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを前記第2の再生手段を用いて再生させる機能と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する機能と(212)、
をコンピュータに実行させる情報記録プログラム。
【発明の効果】
【0037】
本発明によれば、静止画の記録時に、この静止画を記録した時期と同時期に記録した動画のフィールド又はフレームの情報を、記録する静止画の補間情報として用いるので、従来の方法のように動画と静止画とを独立に記録する場合に比較して、静止画の記録のための情報量を減らすことができ、記録媒体の効率的な使用が可能となる。
【0038】
請求項1に記載の発明によれば、インターレースで記録する動画の偶数又は奇数フィールドの画像データを、同時期に記録する静止画の補間情報に用いる。従って、記録媒体に記録する静止画用の画像データは、この動画の偶数又は奇数フィールドの画像とペアとなるべき奇数又は偶数フィールドに相当する静止画補間画像データのみでよい。
【0039】
そして再生時には、この静止画補間画像データと、前述のペアとなるべき動画の偶数または奇数フィールドの画像データとを組み合わせれば、高精細なプログレッシブ静止画像を生成でき、表示することが可能となる。
【0040】
従って上記によれば、静止画として記録媒体に記録する必要のある情報量を、従来例と比較して半減させることが可能となる。
また請求項2に記載の発明によれば、記録する静止画像の画素数より少ない画素数で記録する動画を、静止画の画素数相当となるようにオーバーサンプリングする。そして、撮像素子から取り込んだ静止画像データと、このオーバーサンプリングして同一画素数相当となった動画像データとの各画素毎の差分を取り、残差画像データを生成する。この残差画像データを静止画補間画像データとして記録媒体に記録する。
【0041】
そして再生時には、この静止画補間画像データと、記録時にこの静止画補間画像データとの差分をとったオーバーサンプルした動画の画像データとを各画素毎に加算すれば基の高精細な静止画を生成でき、表示することが可能となる。
【0042】
従って上記によれば、静止画として記録媒体に記録する必要のある情報量を、従来例と比較して、静止画像の低域から中域に相当する空間周波数帯域の情報量を削減させることが可能となる。
【発明を実施するための最良の形態】
【0043】
図1は本発明の情報記録装置の一実施例のブロック図である。本実施例の情報記録装置は、動画の記録中でもその記録を中断することなく、情報量を削減した静止画を記録することを可能とするものである。詳細内容は後述する。
【0044】
図3は本発明の情報再生装置の一実施例のブロック図である。本実施例の情報再生装置は、記録した動画及び情報量を削減した静止画を再生すると共に、情報量を削減した静止画から基の静止画を生成して、表示することを可能とするものである。詳細内容は後述する。
<ディスクフォーマットのデータ構造>
まず、上記情報記録装置及び情報再生装置の実施例で使用する、ディスクフォーマットのデータ構造について説明する。これは従来例で説明した、一般的なディスクフォーマットのデータ構造を、本実施例の情報記録装置及び情報再生装置用にカスタマイズしたものである。
【0045】
図15は本実施例で使用するディスクフォーマットのデータ構造の例である。なお、ディレクトリ名やファイル名は本実施例を説明する目的で使用しており、これ以外の名称でも構わない。図示していないルートディレクトリの下にJVC_HDVD_SYSTEMディレクトリがあり、その下に、本実施例に関わる全ての管理データ、音声データ、動画データ、静止画データがファイルとして保存される。これは、従来例で説明した図12のDVD_RTAVディレクトリ以降に対応する。つまり、JVC_HDVD_SYSTEMが図12のDVD_RTAVに対応する。
[動画ファイル]
V_PR_SETは、記録されている各VOBをグループ化する為のディレクトリであり、このディレクトリ中に各VOBがV_PRn.dat (ここで、nは1から開始されるプログラム番号)ファイルとしてそれぞれ記録される。各VOBはMPEG-2システム規格のプログラムストリームまたは、トランスポートストリームとして記録される。上記V_PRn.datファイルは、従来例で説明した図12のVR_MOVIE.VROファイルに対応する。
[音声ファイル]
A_PR_SETは、音声の各プログラムをグループ化する為のディレクトリでありディレクトリ中に上記VOBと同様の各オーディオオブジェクト(AOB)がA_PRn.dat (ここで、nは1から開始されるプログラム番号)ファイルとしてそれぞれ記録される。各AOBはMPEG-2システム規格のプログラムストリームまたは、トランスポートストリームとして記録される。上記A_PRn.datファイルは、従来例で説明した図12のVR_AUDIO.VROファイルに対応する。
[Pack]
VOB及びAOBを記録する場合、図9のように、MPEG多重化規格のフォーマットに従い、パック化が施される。VOB及びAOBは複数の所定バイト数(1パック内にセット可能なバイト数)毎に分割され、それぞれ図9のAudio or Video data部にセットされる。
【0046】
なお、ひとつのPackはPack Header部とPacket部に分かれており、更にPacket部はPacket Header部と、分割されたVOB又はAOBがセットされるAudio or Video data部とに分かれている。なおPacket Header部の直後には、必要に応じてPrivate Headerが付加される場合がある。
[静止画ファイル]
S_PR_SETは、記録されている静止画の各ファイルをグループ化する為のディレクトリであり、このディレクトリ中に静止画の各ファイルがS_PRn.jpg (ここで、nは1から開始されるプログラム番号)ファイルとして記録されている。なお、各静止画ファイルはJPEGファイルとして記録される。上記S_PRn.jpgは、従来例で説明した図12のVR_STILL.VROファイルに対応する。
【0047】
なお、図15では動画、音声、静止画のプログラムに関するファイル群をそれぞれ異なるディレクトリ下に記録する例を示したが、3種全てのファイル群を同一ディレクトリ、例えばAVS_PR_SETなどの下に記録するようにしても、本発明の趣旨と相違しない。 さらには、動画のプログラムをそれぞれ一つのファイルV_PRn.datとして記録する例、及び音声のプログラムをそれぞれ一つのファイルA_PRn.datとして記録する例を示したが、全てのビデオプログラムを同一のファイル、例えばV_PR.dat内に連続して記録し、V_PR.dat内のどの部分がどのプログラムデータに相当するかを別途の情報として保持するようにしても良い。A_PR.datについても同様である。
[TMG.ifo]
TMG.ifo(Total Manager Information)は、オリジナル管理データ及びユーザー定義管理データ(以下、プレイリストとも呼ぶ)を記録する為のファイルである。このTMG.ifoファイルは、従来例で説明した図12のVR_MANGRDVD.IFOファイルに対応する。また、オリジナル管理データは図12のオリジナルPGC、ユーザー定義管理データは図12のユーザー定義PGCにそれぞれ相当するものである。
【0048】
TMG.ifoファイルの構造を図16に示す。TOTAL_MAN_IFO(Total Manager Information)は、GENERAL_IFO(General Information)、CNTNT_IFO(Content Information)及びSTATUS_IFO(Status Information)で構成される。
【0049】
[STATUS_IFO]
STATUS_IFOには、最後に再生したプログラムの種類や番号など、ステータスに関する情報が記述される。
【0050】
[CNTNT_IFO]
CNTNT_IFOは、動画プログラム情報構造体V_PR_IFOT(Video Program Information Table)、音声プログラム情報構造体A_PR_IFOT(Audio Program Information Table)、静止画プログラム情報構造体S_PR_IFOT(Still picture Program Information Table)、プレイリスト情報構造体PL_IFOT(Play List Information Table)で構成される。
【0051】
上記のうち、V_PR_IFOT、A_PR_IFOT及びS_PR_IFOTの3つがそれぞれ動画、音声静止画用のオリジナル管理データである。また、PL_IFOTがユーザー定義管理データである。
【0052】
V_PR_IFOTは、各動画プログラム毎の情報V_PR_IFO_i(iは1からnまでの整数)の集まりで構成される。
A_PR_IFOTは、各音声プログラム毎の情報A_PR_IFO_j(jは1からmまでの整数)の集まりで構成される。
【0053】
S_PR_IFOTは、各静止画プログラム毎の情報S_PR_IFO_k(kは1からqまでの整数)の集まりで構成される。
PL_IFOTは、各プレイリスト毎の情報PL_IFO_p(pは1からrまでの整数)の集まりで構成される。
【0054】
以下では上記したそれぞれの整数i、 j、 k、 pをそれぞれ、V_PR_IFO番号、 A_PR_IFO番号、S_PR_IFO番号、PL_PR_IFO番号と呼ぶことにする。
以下に上記したV_PR_IFO_i、A_PR_IFO_i、S_PR_IFO_i、PL_IFO_iの詳細内容を説明する。
[動画プログラム情報構造体]
表1は、動画プログラム情報構造体V_PR_IFO_i のデータフィールドと内容の例を示す表である。
【0055】
データフィールドの中の、PR number (V_PRN)に記述される値は、この動画プログラムの番号(i)を示し、V_PR_IFO番号と等しい。
Video Group number (V_GRN)に記述される値は、この動画プログラムが属する動画グループの番号を示す。
【0056】
V_ATRには表1の下側の表に示すような内容の、このV_PR_IFO_iで参照される動画データ(各VOB)の各種属性情報が記述される。例えば、圧縮方式を示すVideo_compression_mode、PALやNTSC等の放送方式を示すTV_system、アスペクト比情報を示すAspect_ratio、水平解像度であるHorizontal_video_resolution、垂直解像度であるVertical_video_resolution等の各種属性情報が記述される。
【0057】
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
なお、V_PR_IFO_iは動画プログラムの再生に必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表1の実施例以外にも様々な情報構造をとり得る。
[音声プログラム情報構造体]
表2は、音声プログラム情報構造体A_PR_IFO_j のデータフィールドと内容の例を示す表である。
【0058】
データフィールドの中の、PR number (A_PRN)に記述される値は、この音声プログラムの番号(j)を示し、A_PR_IFO番号と等しい。
Audio Group number (A_GRN)に記述される値は、この音声プログラムが属する音声グループの番号を示す。
【0059】
Track number (TKN)に記述される値は、オーディオグループ内のトラック番号を示す。
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
【0060】
なお、A_PR_IFO_jは音声プログラムの再生に必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表2の実施例以外にも様々な情報構造をとり得る。
[静止画プログラム情報構造体]
表3は、静止画プログラム情報構造体S_PR_IFO_kのデータフィールドと内容の例を示す表である。
【0061】
データフィールドの中の、PR number (S_PRN)に記述される値は、この静止画プログラムの番号(k)を示し、S_PR_IFO番号と等しい。
Still picture Group number (S_GRN)に記述される値は、この静止画プログラムが属する静止画グループの番号を示す。
【0062】
Linked_video_program_numberには、この静止画プログラムと関連付けられる(以下リンクされると称する)動画プログラムのPR_numberが記述される。なお、関連付けられていない(以下リンクされていないと称する)場合には0が記述される。リンクに関する詳細内容は後述する。
【0063】
Linked_video_entry_timeには、リンクされている動画プログラムの中のピクチャーのタイムコードが記述される。
S_ATRには表3の下側の表に示すような内容の、このS_PR_IFO_kで参照される静止画データの各種属性情報が記述される。例えば圧縮方式を示すVideo_compression_modeや、PALやNTSCのTVシステムを識別するTV_system、アスペクト比情報を示すAspect_ratioなどが記述される。更にsupplement_infoには、この静止画データとリンクしており、記録されている補足静止画データから基の静止画データを生成するために用いる動画が、奇数フィールド(odd_field)の画像データなのか、偶数フィールドeven_field)の画像データなのか、あるいはそのどちらでもなくオーバーサンプルする画像データなのか(over_sample)を識別する情報が記述される。このsupplement_infoについての詳細内容は後述する。
【0064】
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
なお、S_PR_IFO_kは静止画プログラムの再生に必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表3の実施例以外にも様々な情報構造をとり得る。
[プレイリストプログラム情報構造体]
表4は、プレイリストプログラム情報構造体PL_IFO_pのデータフィールドと内容の例を示す表である。
【0065】
データフィールドの中の、PL numberに記述される値は、このプレイリストの番号(p)を示す。
num_of_ud_programsには、このプレイリストに含まれるユーザー定義プログラムの数が記述される。ユーザー定義プログラムUD_PR(User Defined Program)とは、利用者が設定するもので、一つ以上の動画プログラム、一つ以上の音声プログラムまたは一つ以上の静止画プログラムが記述されるものである。または、一つ以上の音声プログラムと、それと同時に再生すべき一つ以上の静止画プログラムが記述される場合もある。
【0066】
UD_PR_modeには、対応するUD_PRに動画、音声、静止画のうちのいずれのプログラムが記述されているかを示す情報が記述されている。
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
【0067】
各プログラムの機能、プログラムとユーザー定義プログラム、プレイリストの関係などについては後述する。
なお、プレイリストプログラム情報構造体PL_IFO_pは動画、音声、静止画の各プログラムを関連付けて再生するのに必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表4の実施例以外にも様々な情報構造をとり得る。
[GENERAL_IFO]
GENERAL_IFOには、System IDやVersion number、 及びCNTNT_IFOとSTATUS_IFOの先頭アドレスなど、TOTAL_MAN_IFOの一般情報を記述する。詳細な例を表6に示す。この中の、Global_entry_offsetフィールドは、各静止画とリンクしているそれぞれの動画のピクチャーからエントリーする一般的なオフセットタイムが記述されるフィールドである。このGlobal_entry_offsetの値は、各静止画に対応する静止画プログラム情報構造体S_PR_IFO_kの entry_offset_time フィールドに具体的な値が記載されていない場合に有効となるものである。
<記録装置>
図1は本発明の情報記録装置の一実施例のブロック図である。本実施例の情報記録装置は、上記したディスクフォーマットのデータ構造を用いることにより、動画の記録中でもその記録を中断することなく、情報量を削減した静止画を記録することを可能とするものである。
【0068】
以下、この図1を用いて実施例を説明する。
入力された画像光はレンズ101を通して、光路分離器102に入力される。光路分離器にはプリズムやハーフミラーなどが用いられる。この光路分離器102によって2つに分離された画像光は動画用受光素子104と、静止画用受光素子105に入光される。受光素子には例えばCCDやCMOSなどが用いられる。このとき、動画用撮像素子の解像度よりも、静止画用撮像素子の解像度のほうを例えばプログレッシブにして垂直方向を2倍とするとか、水平垂直ともに大きくするのが効果的である。図5は、これまで説明したレンズ101から静止画用受光素子105までの所謂光学ブロックの具体例を示す構造図である。レンズ101に対応するレンズ群501、光路分離器102に対応するプリズム502、動画用受光素子104に対応するCCD503、静止画用受光素子105に対応するCCD504から構成されている。
【0069】
動画用受光素子104と静止画用受光素子105とで画像光はそれぞれ光電変換されて電気的な画像信号となる。更に画像信号はA/D変換されてデジタルデータとしてそれぞれ動画符号化器114、補足静止画情報生成器116に入力される。
【0070】
また、オーディオ入力器103からのオーディオデータはA/D変換器108にてデジタルデータに変換され、音声符号化器113に入力される。音声符号化器113では入力されるデジタルデータを例えばドルビーAC3を用いて信号圧縮処理を行う。
【0071】
ユーザーインターフェース部(U/I)109は、利用者の操作情報を入力するブロックである。たとえば、動画を記録している途中に、利用者によってシャッターボタンが押されたなどの操作情報が入力されたならば、その押した時点のタイミング情報をCPUへ出力する。
【0072】
CPU110は、上記のタイミング情報を受信したならば、静止画記録の開始を静止画撮影タイミング信号生成器111に送信する。
静止画撮影タイミング信号生成器111は、CPU110より静止画記録の開始指示を受けたならば、静止画記録開始信号を補足静止画情報生成器116、動画符号化器114に送信する。また同時に、これから記録する静止画のプログラムナンバーと、この静止画とリンクする動画のプログラムナンバー及びピクチャータイムコードとを生成して、それぞれを管理データメモリー112に送信し、また静止画のプログラムナンバーは、動画符号化器114へも送信する。
【0073】
動画符号化器115は、静止画記録開始信号を受信したならば、動画符号化を開始する。そして、同時に受信した静止画のプログラムナンバーを、動画符号化データの1ピクチャー毎に付加されているMPEGのユーザーデータ領域にセットする。これにより、動画記録中に記録した静止画と、その静止画を記録したのと同時期に記録されていた動画の1枚のピクチャーとの対応付けがなされることになる。
【0074】
静止画のプログラムナンバーとは、表3に示す静止画プログラム情報構造体のS_PR_IFOフィールドの中のPR_numberの値である。
MPEGのユーザーデータ領域とは、図2に示すようにMPEGストリームの1ピクチャー毎に1つ付加されているものである。表7はMPEG2ビデオレーヤの1ピクチャーのシンタックスを示したものであり、この中のuser_dataを使用する。user_dataは、User_data_start_codeという一意に決定できるバイトアラインされたスタートコードから始まり、次に0x000001の3バイトを受信するまで、user_dataを続けることができる。ここに静止画の識別情報(後述するS_PRN)を記述する。その際、他のアプリケーションでuser_dataを使用している可能性もあるので、user_data_start_codeに続く4バイトのuser_dataに、本方式のデータであることを示す識別コード0x22220204を記述する。これにより他の用途で使用されているユーザーデータとの混同を防ぐことができる。
なお、ここでは4バイトの識別コード0x22220204としているが、この識別コードのバイト長は4バイトに限らずまた識別コードも0x22220204に限るものではない。
【0075】
動画局部復号器115は、動画復号器114で符号化された動画データを局部的に復号し、復号データを補足静止画情報生成器116へ送信する。
補足静止画情報生成器116は、記録対象の静止画と同時期に記録した動画とで相関性があり重複する画像データを、静止画の画像データから除いた補足静止画情報を生成し、補足静止画符号化器117へ送信する。この補足静止画情報の生成処理の詳細内容は後述する。
【0076】
補足静止画符号化器117は受信した補足静止画情報に対して例えばJPEGを用いて圧縮符号化を行なう。
管理データメモリー112は、前述したTMG.ifoファイルを記憶し管理するメモリーである。このメモリーに送信された静止画のプログラムナンバー、この静止画とリンクする動画のプログラムナンバー及びピクチャータイムコードは、CPU110からの制御指示に従って、以下のように処理される。
【0077】
受信した静止画のプログラムナンバーと同じプログラムナンバーの静止画プログラム情報構造体がTMG.ifoファイル中に存在しない場合は、このプログラムナンバーの静止画プログラム情報構造体を新たに作成しTMG.ifoファイルに追加する。そしてこのプログラムナンバーを新たに作成した静止画プログラム情報構造体のPR_numberフィールドにセットする。
【0078】
この静止画とリンクする動画のプログラムナンバーは、上記で新たに作成した静止画プログラム情報構造体のLinked_video_programフィールドにセットする。この動画のプログラムナンバーは、現在記録中の動画に対応して既に作成されている表1に示す動画プログラム情報構造体のV_PR_IFOフィールドの中のPR_numberと同じ値を記述する。つまり、記録中の動画の動画プログラム情報構造対のPR_numberを、これから記録する静止画の静止画プログラム情報構造対のLinked_video_programに記述することで、現在記録中の動画とこれから記録する静止画との対応付け(リンク)がなされることになる。
【0079】
ピクチャータイムコードは、Linked_video_entry_timeフィールドにセットする。
ピクチャータイムコードとは、所謂タイムコードであり、MPEGなどで用いられているGOP単位のGOPヘッダーに記述されている時分秒フレーム数で表されるタイムコードを用いる。このタイムコードを、Linked_video_entry_timeフィールドに記述することにより、現在記録中の動画プログラム中のピクチャーとこれから記録する静止画プログラムとの対応付け(リンク)がなされることになる。なお、このinked_video_entry_timeフィールドに記述する情報は、動画プログラムの中のピクチャーを特定できる情報(動画ピクチャーの位置情報)であればタイムコードでなくて良い。例えば、記録されている動画プログラムの先頭からのフレーム数または先頭からのアドレス(バイト数)であっても良い。
【0080】
多重化器117は、それぞれの符号化器で独立に符号化された動画符号化データ、静止画符号化データ、音声符号化データを、時分割多重化する。
ディスクフォーマット器119は、上記多重化された各符号化データに対して、上記したディスクフォーマットである動画ディレクトリ(V_PR_SET)中の動画ファイル(V_PRn.dat)、音声ディレクトリ(A_PR_SET)中の音声ファイル(A_PRn.dat)、静止画ディレクトリ(S_PR_SET)中の静止画ファイル(S_PRn.jpg)に対応するようにフォーマット化する。
【0081】
記録媒体書き込み器118は、管理データメモリー112で生成され、記憶されているTMG.ifoファイル、及びディスクフォーマット器119によってフォーマット化された動画ファイル(V_PRn.dat)、音声ファイル(A_PRn.dat)、静止画ファイル(S_PRn.jpg)をCPU110からの制御信号に従って、記録媒体120に記録する。
[補足静止画情報生成処理]
次に補足静止画情報生成器116で行なう補足静止画情報生成処理について、図4を用いて詳細に説明する。
【0082】
図4(1)は通常の動画を記録中に静止画を記録するときの概念説明図である。上部の5コマは連続して記録している動画である。矢印の方向(左から右へ)が時刻の経過方向である。中心のコマ(a)を記録している時刻とほとんど同時刻に静止画を記録したとすると、その静止画は(b)として撮像素子から取り込まれる。
【0083】
<第1実施例>
上記のようにして取り込んだ図4(1)の動画(a)を用いて静止画(b)の情報量を削減した補足静止画情報を生成する為の第1の実施例を、図4(2)を用いて以下に説明する。
【0084】
第1の実施例は、動画(a)をインターレース方式による720x240画素の1フィールドとし、同時刻に記録する静止画(b)を720x480画素のプログレッシブフレームとして記録する場合、つまりフレーム換算で同一画素サイズの動画と静止画を記録する場合の例である。
【0085】
図4(2)において上側の3コマはインターレース方式で伝送される各フィールドの様子を示している。矢印の方向(左から右へ)が時刻の経過方向である。また、黒色の帯が画像を表示する為の走査線である。左端から偶数(even)フィールド、奇数(odd)フィールド、偶数(even)フィールドである。そして、これら偶数(even)フィールドと奇数(odd)フィールドとが交互に繰り返される。そして、1組の奇数(odd)フィールドと偶数(even)フィールドとで1枚の動画(フレーム)が完成する。
【0086】
上記のようなインターレース方式で動画を記録中に、静止画を図4(2)の動画(a)の記録時刻付近で記録すると、この静止画の画像データと動画(a)の画像データとは極めて相関性が強くなる。
【0087】
この動画(a)は720x240画素の奇数フィールドである。
一方、静止画は720x480画素のプログレッシブフレームである。つまり、この720x480画素の静止画のうち上記動画で記録される奇数フィールドに相当する画素データ(720x240画素)分は上記(a)の動画の画素データとほとんど同一であることがわかる。従って、このほとんど同一であり冗長な情報である動画の奇数フィールド分の画素データを間引いて(b)に示すような偶数フィールドに相当する画素データを生成し、これを補足静止画情報とする。
【0088】
そして再生時には、図4(2)下側に示すように、動画(a)と補足静止画情報(b)とを加算することにより、基の720x480画素のプログレッシブフレームの静止画(c)を得ることができる。
【0089】
この第1の実施例の場合は、補足静止画情報生成器116は、基の静止画の画素データから動画(a)の奇数フィールドに相当する画像データを間引けばよいので、動画局部復号器115から供給される復号データは使用しなくてもよい。この復号データは次に述べる第2の実施例で使用する。
【0090】
<第2実施例>
次に第2の実施例を、図4(3)を用いて以下に説明する。
第2の実施例は、動画(a)を720x480画素の1プログレッシブフレームとし、同時刻に記録する静止画(b)を1440x960画素のプログレッシブフレームとして記録する例、つまり静止画の画素サイズが動画の画素サイズよりも大きい場合の例である。
【0091】
図4(3)において上側の3コマはプログレッシブ方式で伝送される各フレームの様子を示している。矢印の方向(左から右へ)が時刻の経過方向である。
上記のようなプログレッシブ方式で動画を記録中に、静止画を図4(3)の動画(a)記録時刻付近で記録すると、の静止画の画像データと動画(a)の画像データとは極めて相関性が強くなる。
【0092】
この動画(a)は720x480の画素のプログレッシブフレームである。
一方、静止画は1440x960画素のプログレッシブフレームである。つまり、この静止画は動画(a)の4倍の解像度を有する。しかしその画像内容は動画(a)とほとんど同一である。静止画の画像データと動画の画像データとの違いは、静止画と動画との解像度の差で発生する空間周波数的な高周波領域の画像データのみであり、低周波数領域及び中周波数領域の画像データは、動画が有する画像データとほとんど同一であり冗長な情報と考えることができる。
【0093】
従って、静止画の画像データから冗長な情報である低周波数領域及び中周波数領域の画像データを差し引いた高周波成分のみの画像データを生成し、これを補足静止画情報とする。
【0094】
そして再生時には、図4(3)下側に示すように、オーバーサンプリングした動画(a’)と補足静止画情報(b)とを加算することにより、基の高精細な静止画(c)を得ることができる。
【0095】
なお、本実施例は光路分離器102を用いて2つの光路に分離して、動画と静止画とをそれぞれ独立して記録する例であるが、光路分離器102を用いて2つの光路に分離しなくても良い。解像度の十分に高い受光素子と、静止画記録と動画記録とを切り替えるスイッチ105と、動画記録時に解像度を低くする為の解像度変換器107とがあれば、本発明は1つの受光素子で実現できる。
[再生装置]
図3は本発明の情報再生装置の一実施例のブロック図である。本実施例の情報再生装置は、記録した動画及び情報量を削減した静止画を再生すると共に、情報量を削減した静止画から基の静止画を生成して、表示することを可能とするものである。
【0096】
以下、この図3を用いて実施例を説明する。
ユーザーインターフェース(U/I)203は、利用者からの動画や静止画の再生指示をCPU204へ送信する。
【0097】
CPU204は、ユーザーインターフェース(U/I)203から動画や静止画の再生指示をうけたならば、記録媒体読み出し器202へ動画又は静止画の再生開始指示の制御信号を出力する。
【0098】
記録媒体読み出し器202は、CPU204から再生開始指示の制御信号を受けたならば、記録媒体201に記録されている動画ファイル(V_PRn.dat)、静止画ファイル(S_PRn.jpg)、音声(A_PRn.dat)の多重化データと、管理データであるTMG.ifoファイルを読み出す。そして読み出したTMG.ifoファイルを管理データメモリー206に記録する。また動画ファイル(V_PRn.dat)、静止画ファイル(S_PRn.jpg)、音声(A_PRn.dat)の多重化データをディスクフォーマットデコーダー器205に入力する。
【0099】
ディスクフォーマットデコーダー器205は、先に説明したディスクフォーマットで記録されている動画ファイル(V_PRn.dat)、静止画ファイル(S_PRn.jpg)、音声ファイル(A_PRn.dat)をそれぞれフォーマットデコードして多重化分離器207へ出力する。
【0100】
多重化分離器207は、フォーマットデコードされた多重化データから、動画、静止画、音声の各符号化データを分離する。
音声復号化器209は、分離された音声符号化データを復号する。
【0101】
補足静止画復号化器210は、分離された補足静止画符号化データを復号する。
動画復号化器211は、分離された動画符号化データを復号する。
静止画像構成器212は、補足静止画復号化器210で復号し生成された補足静止画情報と、動画復号化器211で復号された再生する静止画と同時期に記録されている動画の画像データとを用いて基の静止画を構成する。
【0102】
管理データメモリー206は、先に述べたTNG.ifoファイルを 管理、記録しておくブロックである。TNG.ifoには静止画像構成器212で基の静止画を構成する際に用いる動画のピクチャーを特定するリンク情報が記述されている。詳細は後述する。
【0103】
ランダムアクセス制御器208は、CPU204から制御され、動画のサーチを行なう。通常の動画再生時のサーチに加えて、静止画再生時の基の静止画を構成するために用いられる動画のピクチャーのサーチも行なう。
【0104】
画像出力器214は、復号した動画信号および静止画信号を図示していないモニターなどへ出力する。
音声復号器210は、復号した音声信号を図示していないスピーカなどに出力する。
【0105】
以下に、補足静止画情報から静止画を構成する処理の詳細内容を説明する。
利用者よりユーザーインターフェース(U/I)203を介してCPU204へひとつの静止画の再生指示がなされたならば、CPU204は管理データメモリー206のTMG.ifoファイルから、この静止画とリンクしている動画のピクチャーの情報を取得する。具体的には表3に示す対象の静止画のプログラムナンバーの静止画プログラム構造体のlinked_video_program_numberとlinked_video_entry_timeとの情報である。この2つの情報をランダムアクセス制御器208に伝送する。
【0106】
ランダムアクセス制御器208では、linked_video_program_numberを用いて、サーチする対象の動画プログラムを特定し、linked_video_entry_timeを用いて、動画プログラムのなかのピクチャーを特定する。そして、このピクチャーへのサーチ制御信号を記録媒体読み出し器202に送信する。
【0107】
記録媒体読み出し器202は、サーチ制御信号により指定される動画のピクチャーを読み出し、ディスクフォーマットデコーダー器205、多重分離器207、動画複号器211を介して、復号した動画のピクチャーデータを静止画像構成器212に送信する。
【0108】
静止画像構成器212では、補足静止画情報と、上記で送信される復号した動画のピクチャーデータとを用いて基の静止画を構成する。
上記に用いる動画のピクチャーデータは、例えば先に説明した第1実施例の場合には、の図4(2)(a)の画像(720x240画素の奇数フィールド)である。また、補足静止画情報は(b)の画像(720x240画素の偶数フィールド)である。従って、静止画像構成器212では、この2つのフィールド画像をマージすることで、基の静止画(c)(720x480画素のプログレッシブフレーム)を構成できる。このとき用いる
また第2の実施例の場合は、動画のピクチャーデータは図4(3)(a)の画像(720x480画素のプログレッシブフレーム)である。また、補足静止画情報は(b)の画像(1440x960画素のプログレッシブフレーム)である。従って、静止画像構成器212では、この2つの画像をマージすることで、基の静止画(c)(1440x960画素のプログレッシブフレーム)を構成できる。
【0109】
上記した第1の実施例、及び第2の実施例は一つの再生装置で共に実現が可能である。表3に示す再生対象の静止画のプログラムナンバーの静止画プログラム構造体のsupplement_info、Horizontal_video_rezolution、Vertical_video_rezolutionの情報を用いる。対象静止画再生時にこの情報を参照し、supplement_infoがodd field(01)又はeven Field(10)の場合は第1の実施例と判断でき、over sample(11)の場合は第2の実施例と判断できる。また第2の実施例の場合は、更に自身の水平及び垂直画素数であるHorizontal_video_rezolution、Vertical_video_rezolutionを参照して、TV_systemの放送方式で決まる動画の画素数との比率を算出すればオーバーサンプルする倍率を決定できる。
【0110】
[記録手順]
次に、本実施例の記録装置における記録手順について、図6のフローチャートを用いて説明する。
【0111】
ステップ601:記録処理スタート
ステップ602:動画、音声の記録を開始する。
ステップ603:静止画を記録するかを否か判断する。の判断は、例えば利用者による静止画記録ボタンの押下などの操作結果によって行う。
【0112】
操作結果が、静止画を記録する(YES)であった場合はステップ604へ処理を移行する。操作結果が記録しない(NO)、または操作が無かった場合には、ステップ608へ処理を移行する。
【0113】
ステップ604:静止画データを撮像素子から取り込む。
ステップ605:補足静止画情報を生成する。
ステップ606:補足静止画情報の記録を行う。
【0114】
ステップ607:静止画記録開始信号を出力する。
ステップ608:動画または補足静止画情報の符号化を行う。動画は、MPEG2圧縮符号化を行う。補足静止画情報はJPEG圧縮符号化を行う。音声は動画とともにドルビーAC3やMPEG音声符号化などの圧縮符号化を行う。
【0115】
ステップ609:符号化された動画、補足静止画情報、音声の各符号化データをそれぞれパック化して、パックヘッダーやタイムスタンプなどを付加して多重化を行う。
ステップ610:多重化されたデータのうちの動画データのピクチャー毎のユーザーデータ領域に、静止画のプログラムナンバーを記録する。この静止画のプログラムナンバーとは、表3の静止画プログラム情報構造体に記述されるPR_numberである。
【0116】
ステップ611:多重化されたデータを、図15のフォーマットにしたがってフォーマット化し、バッファリングする。バッファにある程度のデータ量が蓄積されたら、記録媒体に記録する。
【0117】
ステップ612:記録が全部終了したかどうかを判定する。
終了(YES)であればステップ613に処理を移行し、終了でない(NO)であればステップ602へ戻る。
【0118】
ステップ613:記録結果に基づいて、管理データであるTMG.ifoファイルを記録媒体に記録する。
ステップ614:記録処理エンド
[再生手順]
次に、本実施例の再生装置における再生手順について、図8のフローチャートを用いて説明する。
【0119】
ステップ801:再生処理スタート
ステップ802:記録媒体から管理データであるTMG.ifoファイルを読み取り、管理データメモリー112に記録する。
【0120】
ステップ803:動画再生か、静止画再生かを選択する。動画再生の場合にはステップ805に処理を移行する。静止画再生の場合は、ステップ804に処理を移行する。
ステップ804:補足静止画情報を再生する。ステップ806に処理を移行する。
【0121】
ステップ806:補足静止画毎のLinked_video_programとLinked_video_entry_timeとを読み出す。
ステップ807:補足静止画に対応した動画のピクチャーを再生する。
【0122】
ステップ808:補足静止画情報の再生画像と対応する動画のピクチャー(再生画像)とで画像のマージを行う。
ステップ809:マージした静止画を表示する。
【0123】
ステップ810:静止画再生を継続するか終了するかを判定する。
終了しない(NO)の場合にはステップ804に処理を戻す。終了する場合(YES)にはステップ813に処理を移行する。
【0124】
ステップ805:動画の再生を行なう。ステップ811に処理を移行する。
ステップ811:動画データの表示を行う。
ステップ812:動画再生を継続するか終了するを判定する。
【0125】
終了(Y)の場合にはステップ813に処理を移行する。終了でない(NO)場合にはステップ805処理を戻す。
ステップ813:再生処理エンド。
【0126】
なお、本実施例では、記録媒体を特定していないが、ランダムアクセスできる記録媒体、例えばハードディスクや光ディスクなどであればどんな記録媒体であっても良い。
また、記録媒体にデータを記録しなくても、通信、放送などあらゆる伝送媒体を経由してデータを送信することが可能で、その場合には、記録装置は伝送装置として使用することもできる。また再生装置は受信装置として使用することも可能である。
【0127】
また、本実施例の信号データを記録した記録媒体は、図15、図16、表1、表2、表3、表4、表6に示したフォーマット構造のデータが記録されていて、さらに、静止画は対応する動画ピクチャーのもつ情報を補う補足静止画情報として記録媒体に圧縮記録されているので、前記静止画信号に対応した前記動画像のピクチャーにエントリーする場合に、その前記補足静止画情報と動画情報から、静止画像を構成し再生することができるという記録媒体特有の機能を持ち、従来の方法で記録する動画像の情報量と、静止画像の情報量を加算した値の情報量よりも、情報量が減らすことができ、記録媒体の効率的なシステムを好適に実現することができる。
【0128】
また、記録媒体は、媒体という定義はデータを記録できる媒体という、狭義な媒体というものだけでなく、信号データを伝送するための電磁波、光などを含む。また、記録媒体に記録されている情報は、記録されていない状態での、電子ファイルなどのデータ自身を含むものとする。
【0129】
また、本発明は上記した情報記録装置及び情報再生装置の機能をコンピュータに実現させるためのプログラムを含むものである。これらのプログラムは、記録媒体から読み取られてコンピュータに取り込まれてもよいし、通信ネットワークを介して伝送されてコンピュータに取り込まれてもよい。
【0130】
【表1】
【0131】
【表2】
【0132】
【表3】
【0133】
【表4】
【0134】
【表5】
【0135】
【表6】
【0136】
【表7】
【図面の簡単な説明】
【0137】
【図1】本発明の第1実施例の好適な記録装置を示すブロック図である。
【図2】本発明の実施例のMPEGのユーザーデータ中に記録するデータ構造の説明図である。
【図3】本発明の実施例の好適な再生装置を示すブロック図である。
【図4】本発明の実施例の補足静止画の構成例の説明図である。
【図5】本発明の実施例の好適な記録装置の光学系部分を示す構成図である。
【図6】本発明の実施例の好適な記録方法を示すフローチャート図である。
【図7】本発明の第2実施例の好適な記録装置を示すブロック図である。
【図8】本発明の実施例の好適な再生方法を示すフローチャート図である。
【図9】従来技術におけるMPEG規格のデータパック構造を示す説明図である。
【図10】従来技術におけるMPEG符号化器のブロック図である。
【図11】従来技術におけるMPEG復号化器のブロック図である。
【図12】従来技術におけるディレクトリ、ファイル構造例の説明図である。
【図13】従来技術におけるオリジナルPGCの構造を示す説明図である。
【図14】従来技術におけるユーザー定義PGCの構造を示す説明図である。
【図15】本発明の実施例のディレクトリ、ファイル構造の例を示す図である。
【図16】本発明の実施例のTMG.ifoのデータ構造例を示す図である。
【符号の説明】
【0138】
101 レンズ
102 光路分離機
103 オーディオ入力器
104 受光素子
105 受光素子
106 A/D変換器
107 A/D変換器
108 A/D変換器
109 U/I
110 CPU
111 静止画撮像タイミング信号生成器
112 管理データメモリ
113 音声符号化器
114 動画符号化器
115 動画局部複合器
116 補足静止画情報生成器
117 補足静止画符号化器
118 多重化器
119 ディスクフォーマット器
120 記録媒体書き込み器
121 記録媒体
【技術分野】
【0001】
本発明は、情報記録装置、情報再生装置、情報記録プログラムおよび情報再生プログラムに係り、特に動画と静止画とを共に記録及び再生する際に、記録する静止画の画像データの一部を、同時期に記録する動画の画像データを用いて補間することにより、静止画の記録に要するデータ容量を削減することが可能な情報記録装置、情報再生装置、情報記録プログラムおよび情報再生プログラムに関するものである。
【背景技術】
【0002】
動画と静止画を共に記録し、また再生することが可能な情報記録再生装置が存在する
例えば、特許文献1には、広角レンズによる撮像信号と、ズームレンズによる撮像信号とを、同一の記録媒体に同時記録して、2種類の映像を2つの光学系にて記録する技術が開示されている。
【0003】
また、特許文献2には、入射光をプリズム分岐させて動画撮影用CCDと静止画撮影用CCDに受光させ、1つの光学系で、2つのCCDを用いて、動画像はMPEG圧縮されて記録し、静止画はJPEG圧縮してメモリカードに同時に記録される技術が開示されている。
【0004】
特許文献3には、対物光学系の光路を二つに分離するハーフミラーの二つの分離光路を用いて、異なる画素位置のデータからなる画像信号を形成するように配置された2つのCCDから、設定された画素以外の欠落画素を周囲の画素信号から演算し、高解像度の画像を生成する技術が開示されている。
【0005】
特許文献4には記録媒体の破損や、通信の障害などにより、入力符号化データにエラーや、符号化データ自体の供給不足が生じ、正常な復号動作を行えない場合においても、タイマーを設け、もしも、CPUからの制御がタイマーに対して適切なタイミングできなかった場合、表示部のセレクタは、自動的に静止画画像生成部の出力を選択するように切り替わるようにして、高品位の静止画が出力されるようにする技術が開示されている。
<MPEG>
次に、上記した記録再生装置で使用されているMPEGについて説明する。
【0006】
MPEGは1988年、ISO/IEC JTC1/SC2(国際標準化機構/国際電気標準化会合同技術委員会1/専門部会2、現在のSC29)に設立された動画像符号化標準を検討する組織の名称(Moving Pictures Expert Group)の略称である。MPEG1(MPEGフェーズ1)は1.5Mbps程度の蓄積メディアを対象とした標準で、静止画符号化を目的としたJPEGと、ISDNのテレビ会議やテレビ電話の低転送レート用の動画像圧縮を目的としたH.261(CCITT SGXV、現在のITU-T SG15で標準化)の基本的な技術を受け継ぎ、蓄積メディア用に新しい技術を導入したものである。これらは1993年8月、ISO/IEC 11172 として成立している。
【0007】
MPEG2(MPEGフェーズ2)は通信や放送などの多様なアプリケーションに対応できるように汎用標準を目的として、1994年11月ISO/IEC 13818、H.262として成立している。
MPEGは幾つかの技術の組み合わせで実現される。
【0008】
入力画像は動き補償器で復号化した画像と、入力画像の差分を取ることで時間冗長部分を削減する。予測の方向は、過去、未来、両方からの3モード存在する。またこれらは16画素×16画素のMB(マクロブロック)ごとに切り替えて使用できる。予測方向は入力画像に与えられたピクチャータイプによって決定される。過去からの予測と、予測をしないでそのMBを独立で符号化する2モード存在するのがPピクチャーである。また未来からの予測、過去からの予測、両方からの予測、独立で符号化する4モード存在するのがBピクチャーである。そして全てのMBが独立で符号化するのがIピクチャーである。動き補償は、動き領域をMBごとにパターンマッチングを行ってハーフペル精度で動きベクトルを検出し、動き分だけシフトしてから予測する。動きベクトルは水平方向と垂直方向が存在し、何処からの予測かを示すMC(Motion Compensation)モードとともにMBの付加情報として伝送される。Iピクチャーから次のIピクチャーの前のピクチャーまでをGOP(Group Of Picture)といい、蓄積メディアなどで使用される場合には、一般に約15ピクチャー程度が使用される。
【0009】
差分画像はDCT器において直交変換が行われる。DCT(Discrete Cosine Transform)とは 余弦関数を積分核とした積分変換を有限空間への離散変換する直交変換である。MPEGではMBを4分割し8×8のDCTブロックに対して、2次元DCTを行う。一般にビデオ信号は低域成分が多く高域成分が少ないため、DCTを行うと係数が低域に集中する。
【0010】
DCTされた画像データ(DCT係数)は量子化器で量子化が行われる。量子化は量子化マトリックスという8×8の2次元周波数を視覚特性で重み付けした値と、その全体をスカラー倍する量子化スケールという値で乗算した値を量子化値として、DCT係数をその量子化値で除算する。デコーダーで逆量子化するときは量子化値で乗算することにより、元のDCT係数に近似している値を得ることになる。
【0011】
量子化されたデータはVLC器で可変長符号化される。量子化された値のうち直流(DC)成分は予測符号化のひとつであるDPCM(differential pulse code modulation )を使用する。また交流(AC)成分は 低域から高域にzigzag scanを行い、ゼロのラン長および有効係数値を1つの事象とし、出現確率の高いものから符号長の短い符号を割り当てていくハフマン符号化が行われる。
【0012】
可変長符号化されたデータは一時バッファに蓄えられ、所定の転送レートで符号化データとして出力される。また、その出力されるデータのマクロブロック毎の発生符号量は、符号量制御器に送信され、目標符号量に対する発生符号量との誤差符号量を量子化器にフィードバックして量子化スケールを調整することで符号量制御される。量子化された画像データは逆量子化器にて逆量子化、逆DCT器にて逆DCTされ一時、画像メモリーに蓄えられたのち、動き補償予測器において、差分画像を計算するためのリファレンスの復号化画像として使用される。これら全体の符号化構成例を図10に示す。
【0013】
符号化されたストリームはバッファリングされ、バッファからのデータはVLD器に入力される。VLD器では可変長復号化され、直流(DC)成分および交流(AC)成分を得る。交流(AC)成分データは低域から高域にzigzag scanの順で8x8のマトリックスに配置する。このデータは逆量子化器に入力され、量子化マトリックスにて逆量子化される。逆量子化されたデータは逆DCT器に入力され、逆DCTされ一時、画像データ(復号化データ)として出力される。また、復号化データは一時、画像メモリーに蓄えられたのち、動き補償予測器において、差分画像を計算するためのリファレンスの復号化画像として使用される。復号化構成例を図11に示す。
<ディスクフォーマットの一般的データ構造>
次に、CD等の従来のディスク媒体と比較して、数倍から十数倍の記憶容量を有する近年開発された次世代のディスク媒体におけるディスクフォーマットの一般的なデータ構造について説明する。
【0014】
次世代のディスク媒体としては、DVD-ROMディスク(DVD Specifications for Read-Only Discに準拠した読み出し専用光ディスク)、DVD-RWディスク(DVD Specifications for Re-recordable Discに準拠した再記録可能なディスク)DVD-RAMディスク(DVD Specifications for Rewritable Discに準拠した再書き込み可能なディスク)などがある。
【0015】
DVD-RWまたはDVD-RAMディスク上に画像データを収録する規格も策定されており、その大容量を活かして高画質な動画及び静止画を記録し、様々な編集を経て再生する手法が提供される。
【0016】
DVD-RWまたはDVD-RAMディスク上(以下、DVD-RW/RAMディスクと略す)に動画データを収録する規格であるVIDEO RECORDING規格(以下DVD-VRと略す)では、動画データはVOB(Video Object)単位に記録される。VOBとは連続する動画を任意の範囲毎に区別するための単位である。
【0017】
そして、この記録された各VOBの再生には、そのVOB群の各VOBの再生順序を記述した管理データであるPGC (Program Chain)が用いられる。再生装置は再生時にこのPGCを参照して、記述されている順序でVOBを再生する。
【0018】
このPGCのうち、ディスクに記録されている全てのVOBを、各VOBを記録した時の順序で全て再生するための順序が記述されているPGCはオリジナルPGC と定義されている。
また、全VOBのうち利用者が任意に選択し順序を設定した内容を記述したPGCはユーザー定義PGC (User Defined PGC)と定義されている。
【0019】
1枚のディスク上に、オリジナルPGCはただ一つ存在し、ユーザー定義PGCは複数存在しうる。 従って、1枚のディスクに対して利用者が複数いても、その各利用者に対応したそれぞれ別々のユーザー定義PGCを作成し、編集することが可能である。また一人の利用者が好みに応じて複数のユーザー定義PGCを作成し、編集することも可能である。
[ディレクトリ構造]
"DVD Specifications for Rewritable/Re-recordable Discs、 Part3 VIDEO RECORDING、 Version 1.0"で示されるように、DVD-VRでは、DVD-RW/RAM上におけるディレクトリ構造が定義されている。図12にそのディレクトリ構造図を示す。
【0020】
ルートディレクトリ下にDVD_RTAVディレクトリがある。
そのDVD_RTAVディレクトリの下のVR_MANGER.IFOファイルは、全ての記録再生管理データを収録するためのファイルであり、オリジナルPGC、ユーザー定義PGCなどが記述される。VR_MOVIE.VROファイルには、動画データの本体が記録される。VR_STILL.VROファイルには、静止画データの本体が記録される。VR_AUDIO.VROファイルには、音声データの本体が記録される。
【0021】
このように、実際の動画データ(VR_MOVIE.VRO)、静止画データ(VR_STILL.VRO)、音声データ(VR_AUDIO.VRO)等の実データと、記録再生管理データとを分離して記録する構造とすることで、実際の動画、静止画、音声の各データを変更することなく、ユーザー定義PGCによって任意の再生順序を設定することが出来る。なお、VR_STILL.VRO中の各静止画は、MPEG Video規格に準拠したMPEGイントラ画像として記録される。
[オリジナルPGC]
図13はオリジナルPGCの構造概念図である。
【0022】
DVD-VRディスクに、複数の動画データを記録する場合、その記録された各動画データを参照するためのプログラム(Program)がオリジナルPGC内に記述される。そして、その記述された各プログラムで参照される動画データを、更に1つまたは複数に分けるためのセル(Cell)が上記したプログラムと対応付けられて記述される。一般的には、記録の途中でポーズした場合や、記録後に番組の途中部分を編集で削除した場合などに、プログラムはその途切れ部分を境とする複数のセルに分割された構成をとる。各セルはそれぞれ対応する各VOBを参照している。このプログラムおよびセルがオリジナルPGCの記録再生管理データである。
【0023】
VOBは、上記セルで参照される動画データそのものであり、MPEG-2システムに準拠したプログラムストリームとして記録されている。
図13において、ディスクに最初に記録された動画データはVOB1であり、これを参照するプログラム及びセルがProgram1、Cell1としてオリジナルPGC内に記述される。以下、VOBが追加記録されていくたびに、その各VOBを参照するプログラムがProgram2、 Program 3、 ...、セルがCell2、Cell3、...というように追加記述されていく。なおVOBは、上記したとおり1つのプログラムの中で記録ポーズなどの区切りが発生した場合は複数に分かれるので、そのVOBを参照するセルも1つのプログラム内で複数記述されることになる。図13は、Program2がCell2、Cell3に分かれている例である。
【0024】
このオリジナルPGCを用いると、オリジナルPGC内に記述されているプログラムまたはセル(つまりディスクに記録されている全てのプログラムまたはセル)に対応した全VOBを記述順、つまり記録順に再生することが可能となる。また、オリジナルPGC上の特定のプログラムを利用者に指定させて、その指定させたプログラムが参照するVOBのみ再生することも可能である。
[ユーザー定義PGC]
図14はユーザー定義PGCの構造概念図である。
【0025】
オリジナルPGCで参照されている各VOBは、その全部または一部をユーザー定義PGCでも参照可能である。ユーザー定義PGCで用いられるセルは、オリジナルPGCと異なり、VOBと1対1に対応しなくてもよく、一つのVOBの中の一部分のみを参照したり、二つのVOBにまたがって参照したりすることが可能である。例えば、VOB内のコマーシャルの部分や不要場面の部分を除いた必要場面の部分のみを参照したり、2つ以上の番組(Program)の一部分を繋いで再生したりする用途等に適している。
【0026】
また、ユーザー定義PGC中にはプログラムの階層は存在しない。つまり、ひとつのユーザー定義PGCが、オリジナルPGCで言う1つのプログラムに相当する。
[PGCI]
表5は、オリジナルPGC及びユーザー定義PGCに記述される情報(PGCI)の具体的定義内容を示す表である。PGCIは以下の情報からなる。
・PGC_GI:PGCの一般情報。
・PGI:各プログラムナンバーのPGI。
【0027】
(オリジナルPGCの場合のみ定義する。ユーザー定義PGCでは定義しない。)
・CI_SRP :PGC中の各セル情報の検索ポインタ。
・M_CI:動画セルの場合の各セル情報。
【0028】
(静止画セルの場合はS_CIと置き換える。)
次に、上記各要素の詳細内容を説明する。
PGC_GIには、PGC内のプログラム数が記述されるPG_Ns、及びCI_SRPの数が記述されるCI_SRP_Nsが定義される。ユーザー定義PGCの場合は上記したようにプログラムの階層を持たないのでPG_Nsはゼロである。
【0029】
PGIは、PG_Nsに記述される個数分存在し、それぞれに付加されるナンバーi(iは整数)で区別する。PGI内には、プログラム中のセル数が記述されるC_Ns、プログラムに関するテキスト情報を記述するプライマリテキスト情報が記述されるPRM_TXTI、プログラムに関連するアイテムテキスト情報(PGCIではなく、VR_MANGR.IFO内の別のデータ構造として別途収録されている)の検索ポインタ番号が記述されるIT_TXT_SRPN、プログラムを代表する静止画像の位置を指定する代表静止画情報が記述されるEP_PICTI等が定義される。
【0030】
CI_SRPは、CI_SRP_Nsに記述されるプログラムの個数分存在し、それぞれに付加されるナンバーj(jは整数)で区別する。各CI_SRP内にはセル情報M_CI(静止画の場合はS_CI)の先頭アドレスが記述されるCI_SAが定義される。
【0031】
M_CIには、セルの一般情報を記述するM_C_GIと0個以上のセルエントリーポイント情報が記述されるM_C_EPIが定義される。M_CIはC_Nsに記述されるセルの個数分存在し、それぞれに付加されるナンバーj(jは整数)で区別する。
【0032】
M_C_GI内には、セルのタイプが記述されるC_TY、セルエントリーポイント数が記述されるC_EPI_Ns等が定義される。
M_C_EPI内には、エントリーポイントのタイプが記述されるEP_TY(AとB、AはPRM_TXTIなし、BはPRM_TXTIあり)、エントリーポイントの再生時刻が記述されるEP_PTM、及びエントリーポイントに関するプライマリテキスト情報が既出されるPRM_TXTIが定義される。M_C_EPIはC_EPI_Nsに記述されるエントリーポイントの個数分存在し、それぞれに付加されるナンバーk(kは整数)で区別する。
【0033】
ここで、エントリーポイントとはセル内の任意の時刻を指定し、プログラムやセルの任意の中間地点へのアクセスを可能にする情報である。図13および図14中に、セル内に指定されるエントリーポイントの例(EPと示される矢印)を示す。
【0034】
なお、静止画のセルを再生する場合には、M_CIの代わりにS_CIが用いられる。(S_CIの内容はここでは省略する。) 従って、オリジナルPGC上に動画と静止画を記録する場合はセル毎に混在することになる。ユーザー定義PGC上も、セル毎に動画用セルと静止画用セルを混在させることが出来る。
【特許文献1】特開平5−292445
【特許文献2】特開2004−72148
【特許文献3】特開平11−76159
【特許文献4】特開平2002−152743
【発明の開示】
【発明が解決しようとする課題】
【0035】
上記した特許文献1〜4に記載の動画と静止画とを共に記録再生可能な従来の情報記録再生装置においては、動画と静止画とを互いに独立して記録及び再生を行なっている。
しかしながら、同一被写体に対して動画及び静止画を記録する場合、その動画と静止画には互いに相関がある。この相関性を利用すれば動画及び静止画の互いの記録再生に必要な情報量の削減が可能となるが、従来の方法ではこの相関性を利用していないので情報量を削減できず効率的な圧縮記録及び伸長再生をすることが出来ないという課題があった。
【課題を解決するための手段】
【0036】
そこで、上記課題を解決するために本発明は、以下の装置およびプログラムを提供するものである。
(1)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する動画生成手段と(107)、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する補足静止画生成手段と(116)、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と(114、117〜120)、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と(111、112)、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と(112、118、120)、
を有することを特徴とする情報記録装置。
(2)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する動画生成手段と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する補足静止画生成手段と、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と、
を有することを特徴とする情報記録装置。
(3)上記(1)に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と(210)、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを再生する第2の再生手段と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する静止画生成手段と(212)、
を有することを特徴とする情報再生装置。
(4)上記(2)に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と(210)、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを再生する第2の再生手段と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する静止画生成手段と(212)、
を有することを特徴とする情報再生装置。
(5)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する機能と(107)、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する機能と(116)、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と(114、117〜120)、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と(111、112)、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と(112、118、120)、
をコンピュータに実行させる情報記録プログラム。
(6)連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する機能と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する機能と、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と、
をコンピュータに実行させる情報記録プログラム。
(7)上記(5)に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と(210)、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを前記第2の再生手段を用いて再生させる機能と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する機能と(212)、
をコンピュータに実行させる情報記録プログラム。
(8)上記(6)に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と(210)、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを前記第2の再生手段を用いて再生させる機能と(208,211)、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する機能と(212)、
をコンピュータに実行させる情報記録プログラム。
【発明の効果】
【0037】
本発明によれば、静止画の記録時に、この静止画を記録した時期と同時期に記録した動画のフィールド又はフレームの情報を、記録する静止画の補間情報として用いるので、従来の方法のように動画と静止画とを独立に記録する場合に比較して、静止画の記録のための情報量を減らすことができ、記録媒体の効率的な使用が可能となる。
【0038】
請求項1に記載の発明によれば、インターレースで記録する動画の偶数又は奇数フィールドの画像データを、同時期に記録する静止画の補間情報に用いる。従って、記録媒体に記録する静止画用の画像データは、この動画の偶数又は奇数フィールドの画像とペアとなるべき奇数又は偶数フィールドに相当する静止画補間画像データのみでよい。
【0039】
そして再生時には、この静止画補間画像データと、前述のペアとなるべき動画の偶数または奇数フィールドの画像データとを組み合わせれば、高精細なプログレッシブ静止画像を生成でき、表示することが可能となる。
【0040】
従って上記によれば、静止画として記録媒体に記録する必要のある情報量を、従来例と比較して半減させることが可能となる。
また請求項2に記載の発明によれば、記録する静止画像の画素数より少ない画素数で記録する動画を、静止画の画素数相当となるようにオーバーサンプリングする。そして、撮像素子から取り込んだ静止画像データと、このオーバーサンプリングして同一画素数相当となった動画像データとの各画素毎の差分を取り、残差画像データを生成する。この残差画像データを静止画補間画像データとして記録媒体に記録する。
【0041】
そして再生時には、この静止画補間画像データと、記録時にこの静止画補間画像データとの差分をとったオーバーサンプルした動画の画像データとを各画素毎に加算すれば基の高精細な静止画を生成でき、表示することが可能となる。
【0042】
従って上記によれば、静止画として記録媒体に記録する必要のある情報量を、従来例と比較して、静止画像の低域から中域に相当する空間周波数帯域の情報量を削減させることが可能となる。
【発明を実施するための最良の形態】
【0043】
図1は本発明の情報記録装置の一実施例のブロック図である。本実施例の情報記録装置は、動画の記録中でもその記録を中断することなく、情報量を削減した静止画を記録することを可能とするものである。詳細内容は後述する。
【0044】
図3は本発明の情報再生装置の一実施例のブロック図である。本実施例の情報再生装置は、記録した動画及び情報量を削減した静止画を再生すると共に、情報量を削減した静止画から基の静止画を生成して、表示することを可能とするものである。詳細内容は後述する。
<ディスクフォーマットのデータ構造>
まず、上記情報記録装置及び情報再生装置の実施例で使用する、ディスクフォーマットのデータ構造について説明する。これは従来例で説明した、一般的なディスクフォーマットのデータ構造を、本実施例の情報記録装置及び情報再生装置用にカスタマイズしたものである。
【0045】
図15は本実施例で使用するディスクフォーマットのデータ構造の例である。なお、ディレクトリ名やファイル名は本実施例を説明する目的で使用しており、これ以外の名称でも構わない。図示していないルートディレクトリの下にJVC_HDVD_SYSTEMディレクトリがあり、その下に、本実施例に関わる全ての管理データ、音声データ、動画データ、静止画データがファイルとして保存される。これは、従来例で説明した図12のDVD_RTAVディレクトリ以降に対応する。つまり、JVC_HDVD_SYSTEMが図12のDVD_RTAVに対応する。
[動画ファイル]
V_PR_SETは、記録されている各VOBをグループ化する為のディレクトリであり、このディレクトリ中に各VOBがV_PRn.dat (ここで、nは1から開始されるプログラム番号)ファイルとしてそれぞれ記録される。各VOBはMPEG-2システム規格のプログラムストリームまたは、トランスポートストリームとして記録される。上記V_PRn.datファイルは、従来例で説明した図12のVR_MOVIE.VROファイルに対応する。
[音声ファイル]
A_PR_SETは、音声の各プログラムをグループ化する為のディレクトリでありディレクトリ中に上記VOBと同様の各オーディオオブジェクト(AOB)がA_PRn.dat (ここで、nは1から開始されるプログラム番号)ファイルとしてそれぞれ記録される。各AOBはMPEG-2システム規格のプログラムストリームまたは、トランスポートストリームとして記録される。上記A_PRn.datファイルは、従来例で説明した図12のVR_AUDIO.VROファイルに対応する。
[Pack]
VOB及びAOBを記録する場合、図9のように、MPEG多重化規格のフォーマットに従い、パック化が施される。VOB及びAOBは複数の所定バイト数(1パック内にセット可能なバイト数)毎に分割され、それぞれ図9のAudio or Video data部にセットされる。
【0046】
なお、ひとつのPackはPack Header部とPacket部に分かれており、更にPacket部はPacket Header部と、分割されたVOB又はAOBがセットされるAudio or Video data部とに分かれている。なおPacket Header部の直後には、必要に応じてPrivate Headerが付加される場合がある。
[静止画ファイル]
S_PR_SETは、記録されている静止画の各ファイルをグループ化する為のディレクトリであり、このディレクトリ中に静止画の各ファイルがS_PRn.jpg (ここで、nは1から開始されるプログラム番号)ファイルとして記録されている。なお、各静止画ファイルはJPEGファイルとして記録される。上記S_PRn.jpgは、従来例で説明した図12のVR_STILL.VROファイルに対応する。
【0047】
なお、図15では動画、音声、静止画のプログラムに関するファイル群をそれぞれ異なるディレクトリ下に記録する例を示したが、3種全てのファイル群を同一ディレクトリ、例えばAVS_PR_SETなどの下に記録するようにしても、本発明の趣旨と相違しない。 さらには、動画のプログラムをそれぞれ一つのファイルV_PRn.datとして記録する例、及び音声のプログラムをそれぞれ一つのファイルA_PRn.datとして記録する例を示したが、全てのビデオプログラムを同一のファイル、例えばV_PR.dat内に連続して記録し、V_PR.dat内のどの部分がどのプログラムデータに相当するかを別途の情報として保持するようにしても良い。A_PR.datについても同様である。
[TMG.ifo]
TMG.ifo(Total Manager Information)は、オリジナル管理データ及びユーザー定義管理データ(以下、プレイリストとも呼ぶ)を記録する為のファイルである。このTMG.ifoファイルは、従来例で説明した図12のVR_MANGRDVD.IFOファイルに対応する。また、オリジナル管理データは図12のオリジナルPGC、ユーザー定義管理データは図12のユーザー定義PGCにそれぞれ相当するものである。
【0048】
TMG.ifoファイルの構造を図16に示す。TOTAL_MAN_IFO(Total Manager Information)は、GENERAL_IFO(General Information)、CNTNT_IFO(Content Information)及びSTATUS_IFO(Status Information)で構成される。
【0049】
[STATUS_IFO]
STATUS_IFOには、最後に再生したプログラムの種類や番号など、ステータスに関する情報が記述される。
【0050】
[CNTNT_IFO]
CNTNT_IFOは、動画プログラム情報構造体V_PR_IFOT(Video Program Information Table)、音声プログラム情報構造体A_PR_IFOT(Audio Program Information Table)、静止画プログラム情報構造体S_PR_IFOT(Still picture Program Information Table)、プレイリスト情報構造体PL_IFOT(Play List Information Table)で構成される。
【0051】
上記のうち、V_PR_IFOT、A_PR_IFOT及びS_PR_IFOTの3つがそれぞれ動画、音声静止画用のオリジナル管理データである。また、PL_IFOTがユーザー定義管理データである。
【0052】
V_PR_IFOTは、各動画プログラム毎の情報V_PR_IFO_i(iは1からnまでの整数)の集まりで構成される。
A_PR_IFOTは、各音声プログラム毎の情報A_PR_IFO_j(jは1からmまでの整数)の集まりで構成される。
【0053】
S_PR_IFOTは、各静止画プログラム毎の情報S_PR_IFO_k(kは1からqまでの整数)の集まりで構成される。
PL_IFOTは、各プレイリスト毎の情報PL_IFO_p(pは1からrまでの整数)の集まりで構成される。
【0054】
以下では上記したそれぞれの整数i、 j、 k、 pをそれぞれ、V_PR_IFO番号、 A_PR_IFO番号、S_PR_IFO番号、PL_PR_IFO番号と呼ぶことにする。
以下に上記したV_PR_IFO_i、A_PR_IFO_i、S_PR_IFO_i、PL_IFO_iの詳細内容を説明する。
[動画プログラム情報構造体]
表1は、動画プログラム情報構造体V_PR_IFO_i のデータフィールドと内容の例を示す表である。
【0055】
データフィールドの中の、PR number (V_PRN)に記述される値は、この動画プログラムの番号(i)を示し、V_PR_IFO番号と等しい。
Video Group number (V_GRN)に記述される値は、この動画プログラムが属する動画グループの番号を示す。
【0056】
V_ATRには表1の下側の表に示すような内容の、このV_PR_IFO_iで参照される動画データ(各VOB)の各種属性情報が記述される。例えば、圧縮方式を示すVideo_compression_mode、PALやNTSC等の放送方式を示すTV_system、アスペクト比情報を示すAspect_ratio、水平解像度であるHorizontal_video_resolution、垂直解像度であるVertical_video_resolution等の各種属性情報が記述される。
【0057】
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
なお、V_PR_IFO_iは動画プログラムの再生に必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表1の実施例以外にも様々な情報構造をとり得る。
[音声プログラム情報構造体]
表2は、音声プログラム情報構造体A_PR_IFO_j のデータフィールドと内容の例を示す表である。
【0058】
データフィールドの中の、PR number (A_PRN)に記述される値は、この音声プログラムの番号(j)を示し、A_PR_IFO番号と等しい。
Audio Group number (A_GRN)に記述される値は、この音声プログラムが属する音声グループの番号を示す。
【0059】
Track number (TKN)に記述される値は、オーディオグループ内のトラック番号を示す。
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
【0060】
なお、A_PR_IFO_jは音声プログラムの再生に必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表2の実施例以外にも様々な情報構造をとり得る。
[静止画プログラム情報構造体]
表3は、静止画プログラム情報構造体S_PR_IFO_kのデータフィールドと内容の例を示す表である。
【0061】
データフィールドの中の、PR number (S_PRN)に記述される値は、この静止画プログラムの番号(k)を示し、S_PR_IFO番号と等しい。
Still picture Group number (S_GRN)に記述される値は、この静止画プログラムが属する静止画グループの番号を示す。
【0062】
Linked_video_program_numberには、この静止画プログラムと関連付けられる(以下リンクされると称する)動画プログラムのPR_numberが記述される。なお、関連付けられていない(以下リンクされていないと称する)場合には0が記述される。リンクに関する詳細内容は後述する。
【0063】
Linked_video_entry_timeには、リンクされている動画プログラムの中のピクチャーのタイムコードが記述される。
S_ATRには表3の下側の表に示すような内容の、このS_PR_IFO_kで参照される静止画データの各種属性情報が記述される。例えば圧縮方式を示すVideo_compression_modeや、PALやNTSCのTVシステムを識別するTV_system、アスペクト比情報を示すAspect_ratioなどが記述される。更にsupplement_infoには、この静止画データとリンクしており、記録されている補足静止画データから基の静止画データを生成するために用いる動画が、奇数フィールド(odd_field)の画像データなのか、偶数フィールドeven_field)の画像データなのか、あるいはそのどちらでもなくオーバーサンプルする画像データなのか(over_sample)を識別する情報が記述される。このsupplement_infoについての詳細内容は後述する。
【0064】
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
なお、S_PR_IFO_kは静止画プログラムの再生に必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表3の実施例以外にも様々な情報構造をとり得る。
[プレイリストプログラム情報構造体]
表4は、プレイリストプログラム情報構造体PL_IFO_pのデータフィールドと内容の例を示す表である。
【0065】
データフィールドの中の、PL numberに記述される値は、このプレイリストの番号(p)を示す。
num_of_ud_programsには、このプレイリストに含まれるユーザー定義プログラムの数が記述される。ユーザー定義プログラムUD_PR(User Defined Program)とは、利用者が設定するもので、一つ以上の動画プログラム、一つ以上の音声プログラムまたは一つ以上の静止画プログラムが記述されるものである。または、一つ以上の音声プログラムと、それと同時に再生すべき一つ以上の静止画プログラムが記述される場合もある。
【0066】
UD_PR_modeには、対応するUD_PRに動画、音声、静止画のうちのいずれのプログラムが記述されているかを示す情報が記述されている。
その他のデータフィールドについては、本実施例とは関係性が低いので説明を省略する。
【0067】
各プログラムの機能、プログラムとユーザー定義プログラム、プレイリストの関係などについては後述する。
なお、プレイリストプログラム情報構造体PL_IFO_pは動画、音声、静止画の各プログラムを関連付けて再生するのに必要なアドレス情報や属性情報、テキスト等の付随情報を記述する為のものであり、表4の実施例以外にも様々な情報構造をとり得る。
[GENERAL_IFO]
GENERAL_IFOには、System IDやVersion number、 及びCNTNT_IFOとSTATUS_IFOの先頭アドレスなど、TOTAL_MAN_IFOの一般情報を記述する。詳細な例を表6に示す。この中の、Global_entry_offsetフィールドは、各静止画とリンクしているそれぞれの動画のピクチャーからエントリーする一般的なオフセットタイムが記述されるフィールドである。このGlobal_entry_offsetの値は、各静止画に対応する静止画プログラム情報構造体S_PR_IFO_kの entry_offset_time フィールドに具体的な値が記載されていない場合に有効となるものである。
<記録装置>
図1は本発明の情報記録装置の一実施例のブロック図である。本実施例の情報記録装置は、上記したディスクフォーマットのデータ構造を用いることにより、動画の記録中でもその記録を中断することなく、情報量を削減した静止画を記録することを可能とするものである。
【0068】
以下、この図1を用いて実施例を説明する。
入力された画像光はレンズ101を通して、光路分離器102に入力される。光路分離器にはプリズムやハーフミラーなどが用いられる。この光路分離器102によって2つに分離された画像光は動画用受光素子104と、静止画用受光素子105に入光される。受光素子には例えばCCDやCMOSなどが用いられる。このとき、動画用撮像素子の解像度よりも、静止画用撮像素子の解像度のほうを例えばプログレッシブにして垂直方向を2倍とするとか、水平垂直ともに大きくするのが効果的である。図5は、これまで説明したレンズ101から静止画用受光素子105までの所謂光学ブロックの具体例を示す構造図である。レンズ101に対応するレンズ群501、光路分離器102に対応するプリズム502、動画用受光素子104に対応するCCD503、静止画用受光素子105に対応するCCD504から構成されている。
【0069】
動画用受光素子104と静止画用受光素子105とで画像光はそれぞれ光電変換されて電気的な画像信号となる。更に画像信号はA/D変換されてデジタルデータとしてそれぞれ動画符号化器114、補足静止画情報生成器116に入力される。
【0070】
また、オーディオ入力器103からのオーディオデータはA/D変換器108にてデジタルデータに変換され、音声符号化器113に入力される。音声符号化器113では入力されるデジタルデータを例えばドルビーAC3を用いて信号圧縮処理を行う。
【0071】
ユーザーインターフェース部(U/I)109は、利用者の操作情報を入力するブロックである。たとえば、動画を記録している途中に、利用者によってシャッターボタンが押されたなどの操作情報が入力されたならば、その押した時点のタイミング情報をCPUへ出力する。
【0072】
CPU110は、上記のタイミング情報を受信したならば、静止画記録の開始を静止画撮影タイミング信号生成器111に送信する。
静止画撮影タイミング信号生成器111は、CPU110より静止画記録の開始指示を受けたならば、静止画記録開始信号を補足静止画情報生成器116、動画符号化器114に送信する。また同時に、これから記録する静止画のプログラムナンバーと、この静止画とリンクする動画のプログラムナンバー及びピクチャータイムコードとを生成して、それぞれを管理データメモリー112に送信し、また静止画のプログラムナンバーは、動画符号化器114へも送信する。
【0073】
動画符号化器115は、静止画記録開始信号を受信したならば、動画符号化を開始する。そして、同時に受信した静止画のプログラムナンバーを、動画符号化データの1ピクチャー毎に付加されているMPEGのユーザーデータ領域にセットする。これにより、動画記録中に記録した静止画と、その静止画を記録したのと同時期に記録されていた動画の1枚のピクチャーとの対応付けがなされることになる。
【0074】
静止画のプログラムナンバーとは、表3に示す静止画プログラム情報構造体のS_PR_IFOフィールドの中のPR_numberの値である。
MPEGのユーザーデータ領域とは、図2に示すようにMPEGストリームの1ピクチャー毎に1つ付加されているものである。表7はMPEG2ビデオレーヤの1ピクチャーのシンタックスを示したものであり、この中のuser_dataを使用する。user_dataは、User_data_start_codeという一意に決定できるバイトアラインされたスタートコードから始まり、次に0x000001の3バイトを受信するまで、user_dataを続けることができる。ここに静止画の識別情報(後述するS_PRN)を記述する。その際、他のアプリケーションでuser_dataを使用している可能性もあるので、user_data_start_codeに続く4バイトのuser_dataに、本方式のデータであることを示す識別コード0x22220204を記述する。これにより他の用途で使用されているユーザーデータとの混同を防ぐことができる。
なお、ここでは4バイトの識別コード0x22220204としているが、この識別コードのバイト長は4バイトに限らずまた識別コードも0x22220204に限るものではない。
【0075】
動画局部復号器115は、動画復号器114で符号化された動画データを局部的に復号し、復号データを補足静止画情報生成器116へ送信する。
補足静止画情報生成器116は、記録対象の静止画と同時期に記録した動画とで相関性があり重複する画像データを、静止画の画像データから除いた補足静止画情報を生成し、補足静止画符号化器117へ送信する。この補足静止画情報の生成処理の詳細内容は後述する。
【0076】
補足静止画符号化器117は受信した補足静止画情報に対して例えばJPEGを用いて圧縮符号化を行なう。
管理データメモリー112は、前述したTMG.ifoファイルを記憶し管理するメモリーである。このメモリーに送信された静止画のプログラムナンバー、この静止画とリンクする動画のプログラムナンバー及びピクチャータイムコードは、CPU110からの制御指示に従って、以下のように処理される。
【0077】
受信した静止画のプログラムナンバーと同じプログラムナンバーの静止画プログラム情報構造体がTMG.ifoファイル中に存在しない場合は、このプログラムナンバーの静止画プログラム情報構造体を新たに作成しTMG.ifoファイルに追加する。そしてこのプログラムナンバーを新たに作成した静止画プログラム情報構造体のPR_numberフィールドにセットする。
【0078】
この静止画とリンクする動画のプログラムナンバーは、上記で新たに作成した静止画プログラム情報構造体のLinked_video_programフィールドにセットする。この動画のプログラムナンバーは、現在記録中の動画に対応して既に作成されている表1に示す動画プログラム情報構造体のV_PR_IFOフィールドの中のPR_numberと同じ値を記述する。つまり、記録中の動画の動画プログラム情報構造対のPR_numberを、これから記録する静止画の静止画プログラム情報構造対のLinked_video_programに記述することで、現在記録中の動画とこれから記録する静止画との対応付け(リンク)がなされることになる。
【0079】
ピクチャータイムコードは、Linked_video_entry_timeフィールドにセットする。
ピクチャータイムコードとは、所謂タイムコードであり、MPEGなどで用いられているGOP単位のGOPヘッダーに記述されている時分秒フレーム数で表されるタイムコードを用いる。このタイムコードを、Linked_video_entry_timeフィールドに記述することにより、現在記録中の動画プログラム中のピクチャーとこれから記録する静止画プログラムとの対応付け(リンク)がなされることになる。なお、このinked_video_entry_timeフィールドに記述する情報は、動画プログラムの中のピクチャーを特定できる情報(動画ピクチャーの位置情報)であればタイムコードでなくて良い。例えば、記録されている動画プログラムの先頭からのフレーム数または先頭からのアドレス(バイト数)であっても良い。
【0080】
多重化器117は、それぞれの符号化器で独立に符号化された動画符号化データ、静止画符号化データ、音声符号化データを、時分割多重化する。
ディスクフォーマット器119は、上記多重化された各符号化データに対して、上記したディスクフォーマットである動画ディレクトリ(V_PR_SET)中の動画ファイル(V_PRn.dat)、音声ディレクトリ(A_PR_SET)中の音声ファイル(A_PRn.dat)、静止画ディレクトリ(S_PR_SET)中の静止画ファイル(S_PRn.jpg)に対応するようにフォーマット化する。
【0081】
記録媒体書き込み器118は、管理データメモリー112で生成され、記憶されているTMG.ifoファイル、及びディスクフォーマット器119によってフォーマット化された動画ファイル(V_PRn.dat)、音声ファイル(A_PRn.dat)、静止画ファイル(S_PRn.jpg)をCPU110からの制御信号に従って、記録媒体120に記録する。
[補足静止画情報生成処理]
次に補足静止画情報生成器116で行なう補足静止画情報生成処理について、図4を用いて詳細に説明する。
【0082】
図4(1)は通常の動画を記録中に静止画を記録するときの概念説明図である。上部の5コマは連続して記録している動画である。矢印の方向(左から右へ)が時刻の経過方向である。中心のコマ(a)を記録している時刻とほとんど同時刻に静止画を記録したとすると、その静止画は(b)として撮像素子から取り込まれる。
【0083】
<第1実施例>
上記のようにして取り込んだ図4(1)の動画(a)を用いて静止画(b)の情報量を削減した補足静止画情報を生成する為の第1の実施例を、図4(2)を用いて以下に説明する。
【0084】
第1の実施例は、動画(a)をインターレース方式による720x240画素の1フィールドとし、同時刻に記録する静止画(b)を720x480画素のプログレッシブフレームとして記録する場合、つまりフレーム換算で同一画素サイズの動画と静止画を記録する場合の例である。
【0085】
図4(2)において上側の3コマはインターレース方式で伝送される各フィールドの様子を示している。矢印の方向(左から右へ)が時刻の経過方向である。また、黒色の帯が画像を表示する為の走査線である。左端から偶数(even)フィールド、奇数(odd)フィールド、偶数(even)フィールドである。そして、これら偶数(even)フィールドと奇数(odd)フィールドとが交互に繰り返される。そして、1組の奇数(odd)フィールドと偶数(even)フィールドとで1枚の動画(フレーム)が完成する。
【0086】
上記のようなインターレース方式で動画を記録中に、静止画を図4(2)の動画(a)の記録時刻付近で記録すると、この静止画の画像データと動画(a)の画像データとは極めて相関性が強くなる。
【0087】
この動画(a)は720x240画素の奇数フィールドである。
一方、静止画は720x480画素のプログレッシブフレームである。つまり、この720x480画素の静止画のうち上記動画で記録される奇数フィールドに相当する画素データ(720x240画素)分は上記(a)の動画の画素データとほとんど同一であることがわかる。従って、このほとんど同一であり冗長な情報である動画の奇数フィールド分の画素データを間引いて(b)に示すような偶数フィールドに相当する画素データを生成し、これを補足静止画情報とする。
【0088】
そして再生時には、図4(2)下側に示すように、動画(a)と補足静止画情報(b)とを加算することにより、基の720x480画素のプログレッシブフレームの静止画(c)を得ることができる。
【0089】
この第1の実施例の場合は、補足静止画情報生成器116は、基の静止画の画素データから動画(a)の奇数フィールドに相当する画像データを間引けばよいので、動画局部復号器115から供給される復号データは使用しなくてもよい。この復号データは次に述べる第2の実施例で使用する。
【0090】
<第2実施例>
次に第2の実施例を、図4(3)を用いて以下に説明する。
第2の実施例は、動画(a)を720x480画素の1プログレッシブフレームとし、同時刻に記録する静止画(b)を1440x960画素のプログレッシブフレームとして記録する例、つまり静止画の画素サイズが動画の画素サイズよりも大きい場合の例である。
【0091】
図4(3)において上側の3コマはプログレッシブ方式で伝送される各フレームの様子を示している。矢印の方向(左から右へ)が時刻の経過方向である。
上記のようなプログレッシブ方式で動画を記録中に、静止画を図4(3)の動画(a)記録時刻付近で記録すると、の静止画の画像データと動画(a)の画像データとは極めて相関性が強くなる。
【0092】
この動画(a)は720x480の画素のプログレッシブフレームである。
一方、静止画は1440x960画素のプログレッシブフレームである。つまり、この静止画は動画(a)の4倍の解像度を有する。しかしその画像内容は動画(a)とほとんど同一である。静止画の画像データと動画の画像データとの違いは、静止画と動画との解像度の差で発生する空間周波数的な高周波領域の画像データのみであり、低周波数領域及び中周波数領域の画像データは、動画が有する画像データとほとんど同一であり冗長な情報と考えることができる。
【0093】
従って、静止画の画像データから冗長な情報である低周波数領域及び中周波数領域の画像データを差し引いた高周波成分のみの画像データを生成し、これを補足静止画情報とする。
【0094】
そして再生時には、図4(3)下側に示すように、オーバーサンプリングした動画(a’)と補足静止画情報(b)とを加算することにより、基の高精細な静止画(c)を得ることができる。
【0095】
なお、本実施例は光路分離器102を用いて2つの光路に分離して、動画と静止画とをそれぞれ独立して記録する例であるが、光路分離器102を用いて2つの光路に分離しなくても良い。解像度の十分に高い受光素子と、静止画記録と動画記録とを切り替えるスイッチ105と、動画記録時に解像度を低くする為の解像度変換器107とがあれば、本発明は1つの受光素子で実現できる。
[再生装置]
図3は本発明の情報再生装置の一実施例のブロック図である。本実施例の情報再生装置は、記録した動画及び情報量を削減した静止画を再生すると共に、情報量を削減した静止画から基の静止画を生成して、表示することを可能とするものである。
【0096】
以下、この図3を用いて実施例を説明する。
ユーザーインターフェース(U/I)203は、利用者からの動画や静止画の再生指示をCPU204へ送信する。
【0097】
CPU204は、ユーザーインターフェース(U/I)203から動画や静止画の再生指示をうけたならば、記録媒体読み出し器202へ動画又は静止画の再生開始指示の制御信号を出力する。
【0098】
記録媒体読み出し器202は、CPU204から再生開始指示の制御信号を受けたならば、記録媒体201に記録されている動画ファイル(V_PRn.dat)、静止画ファイル(S_PRn.jpg)、音声(A_PRn.dat)の多重化データと、管理データであるTMG.ifoファイルを読み出す。そして読み出したTMG.ifoファイルを管理データメモリー206に記録する。また動画ファイル(V_PRn.dat)、静止画ファイル(S_PRn.jpg)、音声(A_PRn.dat)の多重化データをディスクフォーマットデコーダー器205に入力する。
【0099】
ディスクフォーマットデコーダー器205は、先に説明したディスクフォーマットで記録されている動画ファイル(V_PRn.dat)、静止画ファイル(S_PRn.jpg)、音声ファイル(A_PRn.dat)をそれぞれフォーマットデコードして多重化分離器207へ出力する。
【0100】
多重化分離器207は、フォーマットデコードされた多重化データから、動画、静止画、音声の各符号化データを分離する。
音声復号化器209は、分離された音声符号化データを復号する。
【0101】
補足静止画復号化器210は、分離された補足静止画符号化データを復号する。
動画復号化器211は、分離された動画符号化データを復号する。
静止画像構成器212は、補足静止画復号化器210で復号し生成された補足静止画情報と、動画復号化器211で復号された再生する静止画と同時期に記録されている動画の画像データとを用いて基の静止画を構成する。
【0102】
管理データメモリー206は、先に述べたTNG.ifoファイルを 管理、記録しておくブロックである。TNG.ifoには静止画像構成器212で基の静止画を構成する際に用いる動画のピクチャーを特定するリンク情報が記述されている。詳細は後述する。
【0103】
ランダムアクセス制御器208は、CPU204から制御され、動画のサーチを行なう。通常の動画再生時のサーチに加えて、静止画再生時の基の静止画を構成するために用いられる動画のピクチャーのサーチも行なう。
【0104】
画像出力器214は、復号した動画信号および静止画信号を図示していないモニターなどへ出力する。
音声復号器210は、復号した音声信号を図示していないスピーカなどに出力する。
【0105】
以下に、補足静止画情報から静止画を構成する処理の詳細内容を説明する。
利用者よりユーザーインターフェース(U/I)203を介してCPU204へひとつの静止画の再生指示がなされたならば、CPU204は管理データメモリー206のTMG.ifoファイルから、この静止画とリンクしている動画のピクチャーの情報を取得する。具体的には表3に示す対象の静止画のプログラムナンバーの静止画プログラム構造体のlinked_video_program_numberとlinked_video_entry_timeとの情報である。この2つの情報をランダムアクセス制御器208に伝送する。
【0106】
ランダムアクセス制御器208では、linked_video_program_numberを用いて、サーチする対象の動画プログラムを特定し、linked_video_entry_timeを用いて、動画プログラムのなかのピクチャーを特定する。そして、このピクチャーへのサーチ制御信号を記録媒体読み出し器202に送信する。
【0107】
記録媒体読み出し器202は、サーチ制御信号により指定される動画のピクチャーを読み出し、ディスクフォーマットデコーダー器205、多重分離器207、動画複号器211を介して、復号した動画のピクチャーデータを静止画像構成器212に送信する。
【0108】
静止画像構成器212では、補足静止画情報と、上記で送信される復号した動画のピクチャーデータとを用いて基の静止画を構成する。
上記に用いる動画のピクチャーデータは、例えば先に説明した第1実施例の場合には、の図4(2)(a)の画像(720x240画素の奇数フィールド)である。また、補足静止画情報は(b)の画像(720x240画素の偶数フィールド)である。従って、静止画像構成器212では、この2つのフィールド画像をマージすることで、基の静止画(c)(720x480画素のプログレッシブフレーム)を構成できる。このとき用いる
また第2の実施例の場合は、動画のピクチャーデータは図4(3)(a)の画像(720x480画素のプログレッシブフレーム)である。また、補足静止画情報は(b)の画像(1440x960画素のプログレッシブフレーム)である。従って、静止画像構成器212では、この2つの画像をマージすることで、基の静止画(c)(1440x960画素のプログレッシブフレーム)を構成できる。
【0109】
上記した第1の実施例、及び第2の実施例は一つの再生装置で共に実現が可能である。表3に示す再生対象の静止画のプログラムナンバーの静止画プログラム構造体のsupplement_info、Horizontal_video_rezolution、Vertical_video_rezolutionの情報を用いる。対象静止画再生時にこの情報を参照し、supplement_infoがodd field(01)又はeven Field(10)の場合は第1の実施例と判断でき、over sample(11)の場合は第2の実施例と判断できる。また第2の実施例の場合は、更に自身の水平及び垂直画素数であるHorizontal_video_rezolution、Vertical_video_rezolutionを参照して、TV_systemの放送方式で決まる動画の画素数との比率を算出すればオーバーサンプルする倍率を決定できる。
【0110】
[記録手順]
次に、本実施例の記録装置における記録手順について、図6のフローチャートを用いて説明する。
【0111】
ステップ601:記録処理スタート
ステップ602:動画、音声の記録を開始する。
ステップ603:静止画を記録するかを否か判断する。の判断は、例えば利用者による静止画記録ボタンの押下などの操作結果によって行う。
【0112】
操作結果が、静止画を記録する(YES)であった場合はステップ604へ処理を移行する。操作結果が記録しない(NO)、または操作が無かった場合には、ステップ608へ処理を移行する。
【0113】
ステップ604:静止画データを撮像素子から取り込む。
ステップ605:補足静止画情報を生成する。
ステップ606:補足静止画情報の記録を行う。
【0114】
ステップ607:静止画記録開始信号を出力する。
ステップ608:動画または補足静止画情報の符号化を行う。動画は、MPEG2圧縮符号化を行う。補足静止画情報はJPEG圧縮符号化を行う。音声は動画とともにドルビーAC3やMPEG音声符号化などの圧縮符号化を行う。
【0115】
ステップ609:符号化された動画、補足静止画情報、音声の各符号化データをそれぞれパック化して、パックヘッダーやタイムスタンプなどを付加して多重化を行う。
ステップ610:多重化されたデータのうちの動画データのピクチャー毎のユーザーデータ領域に、静止画のプログラムナンバーを記録する。この静止画のプログラムナンバーとは、表3の静止画プログラム情報構造体に記述されるPR_numberである。
【0116】
ステップ611:多重化されたデータを、図15のフォーマットにしたがってフォーマット化し、バッファリングする。バッファにある程度のデータ量が蓄積されたら、記録媒体に記録する。
【0117】
ステップ612:記録が全部終了したかどうかを判定する。
終了(YES)であればステップ613に処理を移行し、終了でない(NO)であればステップ602へ戻る。
【0118】
ステップ613:記録結果に基づいて、管理データであるTMG.ifoファイルを記録媒体に記録する。
ステップ614:記録処理エンド
[再生手順]
次に、本実施例の再生装置における再生手順について、図8のフローチャートを用いて説明する。
【0119】
ステップ801:再生処理スタート
ステップ802:記録媒体から管理データであるTMG.ifoファイルを読み取り、管理データメモリー112に記録する。
【0120】
ステップ803:動画再生か、静止画再生かを選択する。動画再生の場合にはステップ805に処理を移行する。静止画再生の場合は、ステップ804に処理を移行する。
ステップ804:補足静止画情報を再生する。ステップ806に処理を移行する。
【0121】
ステップ806:補足静止画毎のLinked_video_programとLinked_video_entry_timeとを読み出す。
ステップ807:補足静止画に対応した動画のピクチャーを再生する。
【0122】
ステップ808:補足静止画情報の再生画像と対応する動画のピクチャー(再生画像)とで画像のマージを行う。
ステップ809:マージした静止画を表示する。
【0123】
ステップ810:静止画再生を継続するか終了するかを判定する。
終了しない(NO)の場合にはステップ804に処理を戻す。終了する場合(YES)にはステップ813に処理を移行する。
【0124】
ステップ805:動画の再生を行なう。ステップ811に処理を移行する。
ステップ811:動画データの表示を行う。
ステップ812:動画再生を継続するか終了するを判定する。
【0125】
終了(Y)の場合にはステップ813に処理を移行する。終了でない(NO)場合にはステップ805処理を戻す。
ステップ813:再生処理エンド。
【0126】
なお、本実施例では、記録媒体を特定していないが、ランダムアクセスできる記録媒体、例えばハードディスクや光ディスクなどであればどんな記録媒体であっても良い。
また、記録媒体にデータを記録しなくても、通信、放送などあらゆる伝送媒体を経由してデータを送信することが可能で、その場合には、記録装置は伝送装置として使用することもできる。また再生装置は受信装置として使用することも可能である。
【0127】
また、本実施例の信号データを記録した記録媒体は、図15、図16、表1、表2、表3、表4、表6に示したフォーマット構造のデータが記録されていて、さらに、静止画は対応する動画ピクチャーのもつ情報を補う補足静止画情報として記録媒体に圧縮記録されているので、前記静止画信号に対応した前記動画像のピクチャーにエントリーする場合に、その前記補足静止画情報と動画情報から、静止画像を構成し再生することができるという記録媒体特有の機能を持ち、従来の方法で記録する動画像の情報量と、静止画像の情報量を加算した値の情報量よりも、情報量が減らすことができ、記録媒体の効率的なシステムを好適に実現することができる。
【0128】
また、記録媒体は、媒体という定義はデータを記録できる媒体という、狭義な媒体というものだけでなく、信号データを伝送するための電磁波、光などを含む。また、記録媒体に記録されている情報は、記録されていない状態での、電子ファイルなどのデータ自身を含むものとする。
【0129】
また、本発明は上記した情報記録装置及び情報再生装置の機能をコンピュータに実現させるためのプログラムを含むものである。これらのプログラムは、記録媒体から読み取られてコンピュータに取り込まれてもよいし、通信ネットワークを介して伝送されてコンピュータに取り込まれてもよい。
【0130】
【表1】
【0131】
【表2】
【0132】
【表3】
【0133】
【表4】
【0134】
【表5】
【0135】
【表6】
【0136】
【表7】
【図面の簡単な説明】
【0137】
【図1】本発明の第1実施例の好適な記録装置を示すブロック図である。
【図2】本発明の実施例のMPEGのユーザーデータ中に記録するデータ構造の説明図である。
【図3】本発明の実施例の好適な再生装置を示すブロック図である。
【図4】本発明の実施例の補足静止画の構成例の説明図である。
【図5】本発明の実施例の好適な記録装置の光学系部分を示す構成図である。
【図6】本発明の実施例の好適な記録方法を示すフローチャート図である。
【図7】本発明の第2実施例の好適な記録装置を示すブロック図である。
【図8】本発明の実施例の好適な再生方法を示すフローチャート図である。
【図9】従来技術におけるMPEG規格のデータパック構造を示す説明図である。
【図10】従来技術におけるMPEG符号化器のブロック図である。
【図11】従来技術におけるMPEG復号化器のブロック図である。
【図12】従来技術におけるディレクトリ、ファイル構造例の説明図である。
【図13】従来技術におけるオリジナルPGCの構造を示す説明図である。
【図14】従来技術におけるユーザー定義PGCの構造を示す説明図である。
【図15】本発明の実施例のディレクトリ、ファイル構造の例を示す図である。
【図16】本発明の実施例のTMG.ifoのデータ構造例を示す図である。
【符号の説明】
【0138】
101 レンズ
102 光路分離機
103 オーディオ入力器
104 受光素子
105 受光素子
106 A/D変換器
107 A/D変換器
108 A/D変換器
109 U/I
110 CPU
111 静止画撮像タイミング信号生成器
112 管理データメモリ
113 音声符号化器
114 動画符号化器
115 動画局部複合器
116 補足静止画情報生成器
117 補足静止画符号化器
118 多重化器
119 ディスクフォーマット器
120 記録媒体書き込み器
121 記録媒体
【特許請求の範囲】
【請求項1】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する動画生成手段と(107)、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する補足静止画生成手段と、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と、
を有することを特徴とする情報記録装置。
【請求項2】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する動画生成手段と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する補足静止画生成手段と、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と、
を有することを特徴とする情報記録装置。
【請求項3】
前記請求項1に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを再生する第2の再生手段と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する静止画生成手段と、
を有することを特徴とする情報再生装置。
【請求項4】
前記請求項2に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを再生する第2の再生手段と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する静止画生成手段と、
を有することを特徴とする情報再生装置。
【請求項5】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する機能と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する機能と、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項6】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する機能と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する機能と、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項7】
前記請求項5に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを前記第2の再生手段を用いて再生させる機能と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項8】
前記請求項6に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを前記第2の再生手段を用いて再生させる機能と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項1】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する動画生成手段と(107)、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する補足静止画生成手段と、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と、
を有することを特徴とする情報記録装置。
【請求項2】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録する情報記録装置であって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する動画生成手段と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する補足静止画生成手段と、
前記動画と前記補足静止画とを前記記録媒体に記録する第1の記録手段と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成するリンク情報生成手段と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に記録する第2の記録手段と、
を有することを特徴とする情報記録装置。
【請求項3】
前記請求項1に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを再生する第2の再生手段と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する静止画生成手段と、
を有することを特徴とする情報再生装置。
【請求項4】
前記請求項2に記載の情報記録装置で記録媒体に記録された前記動画と前記補足用静止画とをそれぞれ再生する情報再生装置であって、
前記記録媒体に記録された前記補足静止画のうちの1つを再生する第1の再生手段と、
動画再生モード時は、前記記録媒体に記録された動画を再生し、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを再生する第2の再生手段と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する静止画生成手段と、
を有することを特徴とする情報再生装置。
【請求項5】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
所定フレーム周期のプログレッシブ方式で連続して撮影される前記撮影画像の1つのフレームから1つのフィールドを生成し、この生成する1つのフィールドは、交互に奇数フィールド、偶数フィールドとなる、前記撮影画像のフレーム周期と同一周期のフィールド周期のインターレース方式の動画を生成する機能と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択し、この選択した撮影画像の1フレームの画像情報から前記動画生成手段で生成した動画の1フィールドの画像情報を除いて補足静止画を生成する機能と、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フィールドとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項6】
連続して撮影される撮影画像から動画と静止画とを生成して記録媒体に記録させる為の情報記録プログラムであって、
第1の所定画素サイズを有する前記撮影画像を、前記第1の所定画素サイズよりも小さい第2の所定画素サイズに縮小した動画を生成する機能と、
静止画記録開始信号が入力されたならば、前記連続する撮影画像のうちの1フレームを選択すると共に、前記選択した撮影画像の1フレームを縮小して得た前記動画の1フレームを前記第1の所定画素サイズにオーバーサンプリングした拡大動画の1フレームを生成し、前記選択した撮影画像の1フレームの画像情報から前記拡大動画の1フレームの画像情報を差し引いて補足静止画を生成する機能と、
前記動画と前記補足静止画とを前記記録媒体に第1の記録手段を用いて記録させる機能と、
前記補足静止画と、前記補足静止画を生成したのと同じ撮影画像の1フレームを用いて生成した前記動画の1フレームとを1対1に関連付けるリンク情報をそれぞれの前記補足静止画毎に生成する機能と、
それぞれの前記補足静止画毎の前記リンク情報を前記記録媒体に第2の記録手段を用いて記録させる機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項7】
前記請求項5に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フィールドを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フィールドを前記第2の再生手段を用いて再生させる機能と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フィールドとを合成して静止画を生成する機能と、
をコンピュータに実行させる情報記録プログラム。
【請求項8】
前記請求項6に記載の情報記録プログラムをコンピュータに実行させて記録媒体に記録させた前記動画と前記補足用静止画とをそれぞれ再生させる為の情報再生プログラムであって、
前記記録媒体に記録された前記補足静止画のうちの1つを第1の再生手段を用いて再生させる機能と、
動画再生モード時は、前記記録媒体に記録された動画を第2の再生手段を用いて再生させ、
静止画再生モード時は、前記第1の再生手段で再生された前記補足静止画と関連付けられている前記記録媒体に記録された動画の1フレームを、前記記録媒体から読み出したリンク情報を用いて特定し、その特定した動画の1フレームを前記第2の再生手段を用いて再生させる機能と、
前記第1の再生手段で再生された前期補足静止画と前記第2の再生手段で再生された前記動画の1フレームとを加算して静止画を生成する機能と、
をコンピュータに実行させる情報記録プログラム。
【図1】
【図2】
【図3】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図4】
【図5】
【図2】
【図3】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図4】
【図5】
【公開番号】特開2006−222931(P2006−222931A)
【公開日】平成18年8月24日(2006.8.24)
【国際特許分類】
【出願番号】特願2005−332539(P2005−332539)
【出願日】平成17年11月17日(2005.11.17)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
【公開日】平成18年8月24日(2006.8.24)
【国際特許分類】
【出願日】平成17年11月17日(2005.11.17)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
[ Back to top ]