説明

映像記録装置及び再生装置

【課題】、動き量が所定の閾値未満の画像の符号化と復号化を間引くことにより、処理量を減らし、パフォーマンスの向上と消費電力の低下、生成される映像の容量削減を行う。
【解決手段】間引き判断器16は、入力された右目用画像とひとつ前の右目用画像との動き量が所定の閾値未満である場合、入力された右目用画像は符号化せず間引くと判断すると共に、比較したひとつ前の画像を右用保持画像バッファ14にコピーする。そして、画像符号化器19は、間引き画像ヘッダー情報作成器18により作成した専用のヘッダー情報を付加する。また、動き量が所定の閾値以上である場合、その画像は符号化すると判断し、画像符号化器19により符号化させる。画像符号化器19は、符号化した右目用画像にヘッダー情報作成器17からのヘッダー情報を付加する。映像記録装置10は、動きが所定の閾値未満の画像の符号化を間引くため、処理量を減らすことができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は映像記録装置及び再生装置に係り、特に複眼カメラで撮影した映像を記録媒体に記録する映像記録装置、及びその記録媒体から複眼カメラで撮影した映像を再生する再生装置に関する。
【背景技術】
【0002】
立体映像を符号化する技術は多数存在するが、今後主流となると考えられている技術がMVC(Multi-view Video Coding)である。これは現在の符号化方式の主流となっているMPEG4 AVC(Moving Picture Experts Group 4 Advanced Video Coding)(H.264)規格を多視点に拡張した技術である。
【0003】
符号化の方法としては、例えば2視点の場合、2つのレンズから入力された画像をそれぞれ別の画像として符号化していく。この時、符号化効率を上げるために、ひとつのレンズから入力される画像の前後としか参照を行わないところを、もう一方のレンズから入力される画像とも参照を行うようにしている。このような符号化を行うことで作成される映像の大きさが2倍となってしまうところを、最高で1.5倍程度に抑えることを可能にしている。
【0004】
上記のような符号化を行うことで、符号化された画像の大きさを抑えることが可能となった。しかし、すべての画像を符号化することに変わりはなく、符号化の処理量は減らすことができない。同様に、復号化の処理量も減らすことができない。その結果、立体映像を記録再生すると、通常の映像を記録再生するのと比べて処理量と消費電力が高くなってしまうという問題がある。
【0005】
そこで、符号化と復号化を行わないという技術が開示されている(例えば、特許文献1参照)。この特許文献1記載の技術は、2つの画像の動き量を検出し、動きが一様な場合に符号化を間引くという技術である。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特許第2919211号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1記載の技術は、時間的に前後で動きが一様な場合にしか使用することができず、また、動きがある場面で使用すると、再生した時に滑らかな動きにならないという問題がある。また、上記の技術では、再生する時は間引いた画像を作成するために、時間的に前後の画像から合成するという復号化の処理が入るため再生の処理量を減らすことができない。
【0008】
本発明は以上の点に鑑みなされたもので、動き量が所定の閾値未満の画像の符号化と復号化を間引くことにより、処理量を減らすことができ、パフォーマンスの向上と消費電力の低下、生成される映像の容量削減ができる映像記録装置及び再生装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の目的を達成するため、第1の発明の映像記録装置は、立体映像を構成する左目用画像及び右目用画像のうち左目用画像を生成する左目用画像生成手段と、右目用画像を生成する右目用画像生成手段と、左目用画像を蓄える左用画像バッファと、右目用画像を蓄える右用画像バッファと、左目用画像及び右目用画像のうち予め定めた一方の画像を1枚蓄える保持画像バッファと、保持画像バッファに蓄積される一方の画像の入力時にその一方の画像とそれ以前に入力された一方の画像との動き量を検出する動き検出手段と、動き検出手段で検出された動き量を所定の閾値と比較して、動き量が閾値未満のとき間引き可と判断し、動き量が閾値以上のとき間引き否と判断する間引き判断手段と、間引き判断手段により間引き可と判断された画像に使用する第1のヘッダー情報を作成する第1のヘッダー情報作成手段と、間引き判断手段で間引き否と判断された画像に使用する第2のヘッダー情報を作成する第2のヘッダー情報作成手段と、間引き判断手段で間引き否と判断された画像を符号化し、かつ、第2のヘッダー情報を付加して、符号化された右目用画像と符号化された左目用画像とが交互に合成された画像ストリームを出力すると共に、符号化された画像のうち間引き判断手段で間引き可と判断された画像の符号化画像に代えて第1のヘッダー情報を画像ストリーム中に合成して出力する画像符号化手段と、画像符号化手段からの画像ストリームを記録媒体に記録する記録手段と、を備えることを特徴とする。
【0010】
また、上記の目的を達成するため、第2の発明の映像記録装置は、立体映像を構成する左目用画像及び右目用画像のうち左目用画像を生成する左目用画像生成手段と、右目用画像を生成する右目用画像生成手段と、左目用画像を入力毎に蓄える左用画像バッファと、右目用画像を入力毎に蓄える右用画像バッファと、左目用画像を1枚蓄える左用保持画像バッファと、右目用画像を1枚蓄える右用保持画像バッファと、左目用画像及び右目用画像のうち入力された一方の画像の入力時にその一方の画像とそれ以前に入力された一方の画像との動き量を検出する動き検出手段と、左目用画像及び右目用画像のうち入力された一方の画像を符号化するときに、左用保持画像バッファ及び右用保持画像バッファのうち、入力された一方の画像の保持画像バッファに保持画像があるときには、その保持画像を削除すると共に一方の画像を符号化する画像とし、一方の画像の保持画像バッファに保持画像がなく、かつ、もう一方の画像の保持画像バッファに保持画像があるときは一方の画像又はもう一方の画像を符号化する画像とし、左用保持画像バッファ及び右用保持画像バッファの両方に保持画像が存在しないときは動き検出手段で検出された動き量を所定の閾値と比較して、動き量が閾値未満のとき間引き可と判断し、動き量が閾値以上のとき間引き否と判断する間引き判断手段と、間引き判断手段により間引き可と判断された画像に使用する第1のヘッダー情報を作成する第1のヘッダー情報作成手段と、間引き判断手段で間引き否と判断された画像に使用する第2のヘッダー情報を作成する第2のヘッダー情報作成手段と、間引き判断手段で符号化する画像と判断された画像及び間引き否と判断された画像を符号化し、かつ、第2のヘッダー情報を付加して、符号化された右目用画像と符号化された左目用画像とが交互に合成された画像ストリームを出力すると共に、間引き判断手段で間引き可と判断された画像に代えて第1のヘッダー情報を画像ストリーム中に合成して出力する画像符号化手段と、画像符号化手段からの画像ストリームを記録媒体に記録する記録手段と、を備えることを特徴とする。
【0011】
また、上記の目的を達成するため、第3の発明の再生装置は、第1の発明の記録媒体から画像ストリームを再生する再生手段と、画像ストリーム中の間引き可と判断された画像に使用される第1のヘッダー情報及び間引き否と判断された画像に使用される第2のヘッダー情報を参照して、画像ストリーム中の画像が間引き画像であるか否かを判断する間引き判断手段と、間引き判断手段により間引き画像でないと判断された画像を復号化する画像復号化手段と、画像復号化手段により復号化された左目用画像と右目用画像とを別々に蓄える左用画像バッファ及び右用画像バッファと、間引き判断手段への第1のヘッダー情報の入力時に、その第1のヘッダー情報に記された出画順の画像がコピーされる保持画像バッファと、左用画像バッファ、右用画像バッファ及び保持用画像バッファから左目用画像及び右目用画像が1枚ずつ交互に入力される立体映像を表示部に表示させるる表示制御手段とを備えることを特徴とする。
【0012】
また、上記の目的を達成するため、第4の発明の再生装置は、第2の発明の記録媒体から画像ストリームを再生する再生手段と、画像ストリームの間引き可と判断された画像に使用される第1のヘッダー情報及び間引き否と判断された画像に使用される第2のヘッダー情報を参照して、画像ストリーム中の画像が間引き画像であるか否かを判断する間引き判断手段と、間引き判断手段により間引き画像でないと判断された画像を復号化する画像復号化手段と、画像復号化手段により復号化された左目用画像と右目用画像とを別々に蓄える左用画像バッファ及び右用画像バッファと、間引き判断手段への第1のヘッダー情報の入力時に、その第1のヘッダー情報に記された出画順の左目用画像がコピーされる左用保持画像バッファと、間引き判断手段への第1のヘッダー情報の入力時に、その第1のヘッダー情報に記された出画順の右目用画像がコピーされる右用保持画像バッファと、左用画像バッファ、右用画像バッファ、左用保持画像バッファ及び右用保持用画像バッファのうち選択されたバッファから左目用画像及び右目用画像が1枚ずつ交互に入力される立体映像を表示部に表示させる表示制御手段とを備えることを特徴とする。
【発明の効果】
【0013】
本発明によれば、動き量が所定の閾値未満の画像の符号化と復号化を間引くことにより、処理量を減らすことができ、パフォーマンスの向上と消費電力の低下、生成される映像の容量削減ができる。
【図面の簡単な説明】
【0014】
【図1】本発明の映像記録装置の第1の実施の形態のブロック図である。
【図2】符号化される画像に付加されるヘッダー情報の一例を示す図である。
【図3】間引く画像の代わりに使用される専用ヘッダー情報の一例を示す図である。
【図4】図1の映像記録装置の間引き記録動作の一例を模式的に示す図である。
【図5】図1の映像記録装置の動作説明用フローチャートである。
【図6】図1の画像符号化器により生成される画像ストリームの一例を示す図である。
【図7】本発明の再生装置の第1の実施の形態のブロック図である。
【図8】図7の再生装置の間引き画像再生動作の一例を模式的に示す図である。
【図9】図7の再生装置の間引き画像再生動作説明用フローチャートである。
【図10】本発明の映像記録装置の第2の実施の形態のブロック図である。
【図11】図10の映像記録装置の間引き記録動作の一例を模式的に示す図である。
【図12】図10の映像記録装置の動作説明用フローチャートである。
【図13】図10の画像符号化器により生成される画像ストリームの一例を示す図である。
【図14】本発明の再生装置の第2の実施の形態のブロック図である。
【図15】図14の再生装置の間引き画像再生動作の一例を模式的に示す図である。
【図16】図14の再生装置の間引き画像再生動作説明用フローチャートである。
【発明を実施するための形態】
【0015】
次に、本発明の各実施の形態について図面を参照して説明する。
【0016】
立体映像表示を行う場合、左目用画像と右目用画像をモニタの奇数ラインと偶数ラインに出力する(例えば、左目用画像は奇数ライン、右目用画像は偶数ライン)。もしくはフレームレートを倍にして、左目用画像と右目用画像とを交互に出力する。このため、一方の画像をある一定の動きの範囲内において一時停止させたとしても、もう一方の画像が動いていることにより再生した時に滑らかな動きに見え、立体感も損なわれない。そこで、本発明はこのことに着目し、立体映像信号を記録する際、動きがある一定の範囲内の場合、片方の画像の符号化と復号化を間引くか、あるいは両方の画像の符号化と符号化を交互に間引くことで従来の課題を解決したものであり、以下、本発明の各実施の形態について説明する。
【0017】
(第1の実施の形態)
図1は、本発明になる映像記録装置の第1の実施の形態のブロック図を示す。同図において、本実施の形態の映像記録装置10は、左目の画像を入力する左用レンズ11Lと、左用レンズ11Lから入力された光情報を電子情報である左目用映像信号に変換する左用撮像素子12Lと、左用撮像素子12Lからの左目用映像信号を蓄える左用画像バッファ13Lと、右目の画像を入力する右用レンズ11Rと、右用レンズ11Rから入力された光情報を電子情報である右目用映像信号に変換する右用撮像素子12Rと、右用撮像素子12Rからの右目用映像信号を蓄える右用画像バッファ13Rと、右目用映像信号を1枚(1フレーム分)蓄える右用保持画像バッファ14と、2枚の画像の動き量を検出する動き検出器15と、動き検出器15で検出された動き量に基づいて符号化の間引きの可否を判断する間引き判断器16と、間引き判断器16で間引き可と判断された画像に使用するヘッダー情報を作成するヘッダー情報作成器17と、間引き判断器16で間引き否と判断された画像に使用するヘッダー情報を作成する間引き画像ヘッダー作成器18と、映像信号を符号化する画像符号化器19と、音声を収音して音声信号に変換するマイク20と、音声信号を符号化する音声符号化器21と、符号化映像信号と符号化音声信号とを多重化する多重化器22と、多重化器22で多重化して得られた動画ストリームデータを記録媒体23に記録する記録手段とで構成される。
【0018】
立体映像を構成する左目用画像及び右目用画像のうち、左用レンズ11Lと左用撮像素子12Lは左目用画像を生成する本発明の左目用画像生成手段を構成し、右用レンズ11Rと右用撮像素子12Rは右目用画像を生成する本発明の右目用画像生成手段を構成している。また、マイク20と音声符号化器21とは、本発明の符号化音声信号生成手段を構成している。本実施の形態の映像記録装置10は、2眼カメラで片方の画像を間引いて記録をする。なお、本実施の形態では2眼カメラの例について説明するが、本発明はこれに限らず、3眼以上のカメラでも利用できる。
【0019】
次に、本実施の形態の映像記録装置10の処理内容について説明する。
【0020】
左用画像バッファ13Lは、左用撮像素子12Lで撮像された左目用映像信号(以下、左目用画像ともいう)を一時保存する。一方、右用画像バッファ13Rは、右用撮像素子12Rで撮像された右目用映像信号(以下、右目用画像ともいう)を一時保存する。左用画像バッファ13L及び右用画像バッファ13Rは、それぞれ複数枚の画像の映像信号を蓄えることができる。画像符号化器19は、左目用映像信号に対しては通常の記録と同様にそのままヘッダー情報作成器17からのヘッダー情報を付加して符号化する。ヘッダー情報は、図2に示すように、間引き画像であるかないかを示す間引き画像情報31と、先頭からの通し番号32と、出画順の番号33と、復号化に必要な復号化情報34とが記載されている。
【0021】
一方、画像符号化器19は、右目用映像信号に対しては間引き判断器16を通って間引かない右目用画像はそのまま左用のヘッダー情報と同じものを付加して符号化し、間引く右目用画像は専用のヘッダー情報を付加して符号化しない。間引く右目用画像は復号化を行わないので、専用のヘッダー情報には復号化に関する情報はなくてよい。この専用のヘッダー情報は、図3に示すように間引き画像であるかないか示す間引き画像情報31と、先頭からの通し番号32と、出画順の番号33と、出画する際に代わりに出画する画像の番号36とが記載されている。多重化器22は、画像符号化器19により符号化された符号化映像信号を音声符号化器21からの符号化音声信号と多重化して動画ストリームを生成し、それを記録媒体23に記録する。
【0022】
なお、本実施の形態では右目画像を間引くとしているが、左目画像を間引いてもよい。例えば、視力が右目の方が良い人が見る場合、左目画像を間引いた方がきれいな画像に見えることがある。また利き目による影響もあるのでこれを考慮してもよい。
【0023】
次に、映像記録装置10における間引き記録方法について、図4及び図5を図1と併せ参照して説明する。図4は、間引き記録動作を模式的に示し、図5は、記録動作説明用フローチャートを示す。
【0024】
まず、画像が入力される(ステップS1)。続いて、右用保持画像バッファ14に右目用画像があるか否かを調べる(ステップS2)。記録開始直後は右用保持画像バッファ14に右目用画像は保存されていない(以下、このことを「保持画像がない」というものとする)。右用保持画像バッファ14は、間引きが行われている際に動き量を比較する画像を保持するのに使用される。比較に用いる画像が消えないようにするためである。通常、画像バッファは古い画像から上書きされてしまうからである。仮に、指定した画像バッファの画像を上書きされないようにすれば、右用保持画像バッファ14を用いなくともよい。
【0025】
右用保持画像バッファ14に保持画像がない場合、動き検出器15は右用画像バッファ13Rに保持されている時間的にひとつ前の右目用画像と、現在符号化しようとしている入力された右目用画像との動き量(すなわち、隣接する2枚の右目用画像の動き量)を所定の閾値と比較する(ステップS9)。間引き判断器16は、その動き量が所定の閾値以上の場合、符号化しようとしている右目用画像は符号化すると判断して、画像符号化器19により符号化させる(ステップS13)。図4の画像1〜画像3はステップS13により符号化されると判断された右目用画像である。続いて、画像符号化器19は、符号化した右目用画像にヘッダー情報作成器17により作成された図2に示したヘッダー情報を付加する(ステップS14)。
【0026】
一方、間引き判断器16は、上記動き量が所定の閾値未満である場合、符号化しようとしている右目用画像は符号化せず間引くと判断する(ステップS10)。続いて、間引き判断器16は、比較に用いたひとつ前の右目用画像を右用保持画像バッファ14にコピーする(ステップS11)。続いて、画像符号化器19は、間引いたと判断した画像に代えて間引き画像ヘッダー情報作成器18により作成した図3に示した専用のヘッダー情報を付加する(ステップS12)。図4の画像4はステップS10で間引くと判断された右目用画像であり、このとき比較に用いたひとつ前の画像3が右用保持画像バッファ14にコピーされる。
【0027】
上記閾値の値は、記録する画質モードによって変更してもよい。例えば高画質モードでは値を小さくし、低画質モードでは値を大きくする。また、上記専用のヘッダー情報は、このヘッダー情報がある場合、間引きされていることを明示させるとともに、再生の際に代わりに出画する画像を指定するのに使われる。各画像のヘッダー情報に通し番号を記し、専用ヘッダー情報に出画する番号を示すことで代わりに出画する画像を指定できる。
【0028】
一方、右用保持画像バッファ14に右目用画像が保存されている(以下、このことを「保持画像がある」というものとする)場合、動き検出器15は右用保持画像バッファ14の保持画像と、符号化しようとしている入力画像との動き量を所定の閾値と比較する(ステップS3)。図4には、右用保持画像バッファ14に保持されている画像3と、符号化しようとしている入力画像5との動き比較を行うことが示されている。
【0029】
間引き判断器16は、動き量が所定の閾値以上である場合、入力画像は符号化すると判断し、画像符号化器19により符号化させる(ステップS6)。更に、間引き判断器16は、右用保持画像バッファ14に保持されている画像を削除する(ステップS7)。続いて、画像符号化器19は、符号化した右目用画像にヘッダー情報作成器17により作成された図2に示したヘッダー情報を付加する(ステップS8)。
【0030】
一方、間引き判断器16は動き量が所定の閾値未満の場合、その画像は符号化せず間引くと判断する(ステップS4)。続いて、画像符号化器19は、間引いたと判断した画像を符号化する代わりに、間引き画像ヘッダー情報作成器18により作成した図3に示した専用のヘッダー情報を付加する(ステップS5)。図4の画像5、画像6はステップS4で間引くと判断された画像であり、画像7はステップS6で符号化すると判断された画像であり、このとき保持画像3が削除されることを示す。また、図4の画像8はステップS13で符号化すると判断された画像である。
【0031】
図6は、画像符号化器19により生成される画像ストリームの一例を示す。この例では左目用画像Rと右目用画像Lとが交互に多重化されている。この例では4番目、5番目、6番目の右目用画像が間引かれており、それらの右目用画像は専用のヘッダー情報のみの構成となり画像データはない。専用のヘッダー情報は、再生の際に3番目の右目用画像を使用することが記されている。
【0032】
多重化器22は、この画像ストリームを音声ストリームと多重化し(ステップS15)、TSパケットに分割して記録媒体23に公知の記録手段により記録する(ステップS16)。
【0033】
このように、本実施の形態の映像記録装置10によれば、立体映像信号の記録時に、動きが所定の閾値未満の画像の符号化を間引くため、処理量を減らすことができる。
【0034】
次に、本発明の再生装置の第1の実施の形態について説明する。
【0035】
図7は、本発明になる再生装置の第1の実施の形態のブロック図を示す。同図に示すように、本実施の形態の再生装置40は、ストリームデータが記録されている記録媒体41の再生手段と、ストリームデータを画像と音声に分ける分離器42と、画像のヘッダー情報を参照し間引き画像かを判断する間引き判断器43と、画像を復号化する画像復号化器44と、復号化された左目用画像を蓄える左用画像バッファ45Lと、復号された右目用画像を蓄える右用画像バッファ45Rと、右目用画像を1枚蓄える右用保持画像バッファ46と、立体映像をモニタ48に表示させる表示制御部47と、音声を復号化する音声復号化器491と、音声を出力するスピーカ492とで構成される。本実施の形態の再生装置40は、2眼カメラで片方の画像を間引き記録をした映像を再生する。ここでは間引いた画像は右目用画像とする。なお、3眼以上のカメラで記録をした映像の再生装置も本実施の形態と同様に構成することができる。
【0036】
記録媒体41は、記録媒体23と同様に図6に示したフォーマットの画像ストリームと音声ストリームとが多重化された動画ストリームが記録されている。分離器42は、記録媒体41から読みだされた動画ストリームから画像ストリームと音声ストリームとに分離する。
【0037】
間引き判断器43は、分離された画像ストリームの各画像中のヘッダー情報を解析し、符号化されている左目用画像は通常の再生と同様にそのまま画像復号化器44に供給して復号化させると共に、符号化されている右目用画像はヘッダー情報から間引き画像か否かを判断し、間引き画像でなければ画像復号化器44に供給して復号化させると共に右用画像バッファ45Rに蓄え、間引き画像であれば復号化せず、右用画像バッファ45Rに保持されている画像中の代わりに出画する画像を検索し、検索した画像を右用保持画像バッファ46にコピーする。
【0038】
右用保持画像バッファ46は、間引きが行われている右目用画像の代わりの右目用画像を出画するのに使用される。出画に用いる右目用画像が消えないようにするためである。通常、画像バッファは古い画像から上書きされてしまうからである。仮に指定した画像バッファの画像を上書きされないようにすれば右用保持画像バッファ46を用いなくともよい。
【0039】
画像復号化器44は入力された符号化画像を復号化し、復号化した左目用画像は左目用画像バッファ45Lに蓄積し、復号化した右目用画像は右目用画像バッファ45Rに蓄積する。表示制御部47は、適切なタイミングで左用画像バッファ45Lと右用画像バッファ45Rとから左目用画像と右目用画像とを1枚ずつ交互に取り出して立体映像としてモニタ48に表示させる。
【0040】
次に、本実施の形態の再生装置40の再生処理動作について、図8及び図9を図7と併せ参照して説明する。図8は、再生装置40の間引き画像再生動作を模式的に示す図であり、図9は、再生装置40の間引き画像再生動作を説明するフローチャートである。
【0041】
まず、公知の再生手段により記録媒体41から再生され、更に分離器42により分離された再生画像ストリームが入力される(ステップS21)。間引き判断器43は、再生画像ストリーム中のヘッダー情報を解析し、符号化されている右目用画像は間引き画像か否かを判定する(ステップS22)。
【0042】
間引き判断器43は、再生画像ストリーム中の入力された符号化されている右目用画像が間引き画像ではないと判定した場合、右用保持画像バッファ46に画像があるか否かを調べる(ステップS27)。右用保持画像バッファ46に保持画像がない場合、入力された符号化右目用画像を画像復号化器44に供給して復号化させる(ステップS31)。そして、画像復号化器44は、復号化した右目用画像を右用画像バッファ45Rに蓄積する(ステップS32)。右用画像バッファ45Rは、蓄積した右目用画像をヘッダー情報が示す出画の順番がきたら表示制御部47へ出力する(ステップS33)。図8中の画像1、画像2、画像3は、間引き画像ではなく、かつ、右用保持画像バッファ46に保持画像がないときの右目用画像を示す。
【0043】
また、間引き判断器43は、ステップS27で右用保持画像バッファ46に保持画像があると判定した場合、入力された符号化右目用画像を画像復号化器44に供給して復号化させる(ステップS28)。この場合、間引き判断器43は、間引き画像が一旦終わったことになるので、右用保持画像バッファ46にある保持画像を削除する(ステップS29)。
【0044】
そして、画像復号化器44は、復号化した右目用画像を右用画像バッファ45Rに蓄積する(ステップS30)。右用画像バッファ45Rは蓄積した右目用画像の出画の順番がきたら表示制御部47に出力する(ステップS33)。図8中の画像7は、右用保持画像バッファ46に保持画像があるときに入力された、間引きされていない右目用画像を示す。
【0045】
一方、間引き判断器43は、ステップS22で再生画像ストリーム中の入力された符号化されている右目用画像が間引き画像であると判定した場合、右用保持画像バッファ46に保持画像があるか否かを調べる(ステップS23)。右用保持画像バッファ46に保持画像がない場合、間引き判断器43は、入力された符号化されている右目用画像を復号化せず間引き(ステップS25)、その代わりに出画する画像の番号を入力された間引き画像に付加されているヘッダー情報から求め、その出画する画像の番号を持つヘッダー情報の右目用画像を右用画像バッファ45Rから右用保持画像バッファ46にコピーする(ステップS26)。右用保持画像バッファ46は、コピーされた右目用画像を出画の順番がきたら表示制御部47に出力する(ステップS33)。
【0046】
図8中の画像4は間引き画像であり、その入力時には右用保持画像バッファ46には保持画像がない。また、間引き画像4のヘッダー情報に記述されている出画する画像の番号が画像3であるので、その番号をヘッダー情報に持つ画像3が右用保持画像バッファ46にコピーされる。表示制御部47には、間引き画像4の代わりに画像3が出力される。
【0047】
また、間引き判断器43は、ステップS23で右用保持画像バッファ46に保持画像があると判定した場合、入力された符号化されている右目用画像を復号化せず間引く(ステップS24)。このときは、入力された間引き画像の代わりに、右用保持画像バッファ46の保持画像が、出力の順番がきたら出力される(ステップS33)。図8中の画像5及び画像6は、右用保持画像バッファ46に画像3が保持されているときに入力された間引き画像であることを示しており、この画像5及び画像6に代えて画像3が出力される。
【0048】
表示制御部47は、入力される各画像をモニタ48へ表示させる。
【0049】
(第2の実施の形態)
図10は、本発明になる映像記録装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。図10において、本実施の形態の映像記録装置50は、左目の画像を入力する左用レンズ11Lと、左用レンズ11Lから入力された光情報を電子情報である左目用映像信号に変換する左用撮像素子12Lと、左用撮像素子12Lからの左目用映像信号を蓄える左用画像バッファ13Lと、左目用映像信号を1枚(1フレーム分)蓄える左用保持画像バッファ51と、右目の画像を入力する右用レンズ11Rと、右用レンズ11Rから入力された光情報を電子情報である右目用映像信号に変換する右用撮像素子12Rと、右用撮像素子12Rからの右目用映像信号を蓄える右用画像バッファ13Rと、右目用映像信号を1枚(1フレーム分)蓄える右用保持画像バッファ14と、時間的に異なる2枚の画像の動き量を検出する動き検出器52と、動き検出器52で検出された動き量に基づいて符号化の間引きの可否を判断する間引き判断器53と、間引き判断器53で間引き可と判断された画像に使用するヘッダー情報を作成するヘッダー情報作成器17と、間引き判断器53で間引き否と判断された画像に使用するヘッダー情報を作成する間引き画像ヘッダー作成器18と、映像信号を符号化する画像符号化器54と、音声を収音して音声信号に変換するマイク20と、音声信号を符号化する音声符号化器21と、符号化映像信号と符号化音声信号とを多重化する多重化器55と、多重化器55で多重化して得られた動画ストリームデータを記録媒体56に記録する記録手段とで構成される。本実施の形態の映像記録装置50は、2眼カメラで両方の画像を交互に間引いて記録をする。なお、本実施の形態では2眼カメラの例について説明するが、本発明はこれに限らず、3眼以上のカメラでも利用できる。
【0050】
次に、映像記録装置50における間引き記録方法について、図11及び図12を図10と併せ参照して説明する。図11は、間引き記録動作を模式的に示し、図12は、記録動作説明用フローチャートを示す。
【0051】
まず、画像が入力される(ステップS41)。続いて、間引き判断器53は、自分の保持画像バッファに保持画像があるか否かを調べる(ステップS42)。自分の保持画像バッファとは、左目用画像を符号化するときには左用保持画像バッファ51、右目用画像を符号化するときには右用保持画像バッファ14である。記録開始直後は、右用保持画像バッファ14と左用保持画像バッファ51に保持画像はない。右用保持画像バッファ14と左用保持画像バッファ51は、間引きが行われている際に動き量を比較する画像を保持するのに使用される。比較に用いる画像が消えないようにするためである。通常、画像バッファは古い画像から上書きされてしまうからである。仮に、指定した画像バッファの画像を上書きされないようにすれば、右用保持画像バッファ14と左用保持画像バッファ51を用いなくともよい。
【0052】
間引き判断器53は、符号化する側の自分の保持画像バッファに保持画像がある場合、自分の保持画像バッファにある画像を削除し(ステップS43)、今回入力された画像を画像符号化器54に供給して符号化させる(ステップS47)。図11の左目用画像5が入力されたときは左用保持画像バッファ51に左目用画像3が保持されているので、左目用画像3は削除され、今回入力された左目用画像5はステップS43で符号化される。同様に、図11の右目用画像6が入力されたときに右目用保持画像バッファ14に右目用画像4が保持されているので、右目用画像4が削除され、今回入力された右目用画像6がステップS43で符号化される。
【0053】
また、間引き判断器53は、ステップS42で自分の保持画像バッファに保持画像がないと判定した場合、もう一方の保持画像バッファに保持画像があるか否かを調べる(ステップS44)。もう一方の保持画像バッファとは、左目用画像を符号化するときには右用保持画像バッファ14、右目用画像を符号化するときには左用保持画像バッファ51である。
【0054】
間引き判断器53は、ステップS44でもう一方の保持画像バッファには保持画像があると判定したときは、今回の入力画像が右目用画像であるか左目用画像であるかを判定する(ステップS45)。間引き判断器53は、ステップS45で今回の入力画像が右目用画像である判定したときは、その右目用画像を画像符号化器54に供給して符号化させる(ステップS47)。図11の右目用画像4が入力されたとき右用保持画像バッファ14には保持画像はないとステップS42で判定され、このとき左用保持画像バッファ51に左目用画像3が保持されているとステップS44で判定され、入力画像が右目用画像であるとステップS45で判定され、右目用画像4はステップS47で符号化される。なお、上記のステップS47に続いて、画像符号化器54は、符号化した画像にヘッダー情報作成器17により作成された図2に示したヘッダー情報を付加する(ステップS48)。
【0055】
間引き判断器53は、ステップS44でもう一方の保持画像バッファにも保持画像がないと判定したとき、あるいはステップS45で今回の入力画像が左目用画像であると判定したときは、動き検出器52で検出された一つ前の画像と符号化しようとしている今回の入力画像との動き量を所定の閾値と比較する(ステップS46)。間引き判断器53は、動き量が閾値以上の場合は今回の入力画像を画像符号化器54に供給して符号化させる(ステップS47)。例えば、図11の左目用画像3は一つ前の左目用画像2との動き量が閾値以上であるとステップS46で判定された結果ステップS47で符号化される。図11の右目用画像3も同様に符号化される。
【0056】
一方、間引き判断器53は、ステップS46で動き量が閾値未満であると判定した場合は、その時の入力画像は符号化しないと判断しその画像は符号化せず間引くと判断し、比較に用いた画像を保持画像バッファにコピーする(ステップS49)。例えば、図11の左目用画像4が入力されたときは2つの保持画像バッファ51及び14の両方に保持画像が存在しないため、入力された左目用画像4は一つ前の左目用画像3との動き量が閾値未満であるとステップS46で判定されたときは、ステップS49で間引かれ、比較に用いた左目用画像3がステップS49で左用保持画像バッファ51にコピーされる。図11の右目用画像5も同様に間引かれ、右目用画像5と比較された右目用画像4が右用保持画像バッファ14にコピーされる。そして、画像符号化器54は、間引き判断器53が間引いたと判断した画像を符号化せず、間引き画像ヘッダー情報作成器18により作成した図3に示した専用のヘッダー情報を付加する(ステップS50)。
【0057】
ステップS46で用いられる閾値の値は、記録する画質モードによって変更してもよい。例えば高画質モードでは値を小さくし、低画質モードでは値を大きくする。また、専用のヘッダー情報は、このヘッダー情報がある場合、間引きされていることを明示させるとともに、再生の際に代わりに出画する画質を指定するのに使われる。各画像のヘッダーに通し番号を記し、専用のヘッダー情報に代わりに出画する番号を示すことで代わりに出画する画像を指定できる。これらの作業を繰り返していく。
【0058】
ステップS48又はS50の終了後、多重化器55は、画像符号化器54により得られた画像ストリームを音声符号化器21により得られた音声ストリームと多重化し(ステップS51)、TSパケットに分割して記録媒体56に公知の記録手段により記録する(ステップS52)。
【0059】
図13は、画像符号化器54により生成される画像ストリームの一例を示す。この例では左右の画像が交互に多重化されている。この例では左目用画像のL4,L6と右目用画像のR5,R7とが間引かれているとする。左目用画像のL4、L6と右目用画像のR5,R7とはヘッダー情報Hのみの構成となり、画像データSはない。ヘッダー情報Hは専用のものとなっており、再生の際にそれぞれ一つ前の画像を使用することが記されている。
【0060】
このように、本実施の形態の映像記録装置50によれば、立体映像信号の記録時に、動きが所定の閾値未満の画像の符号化を間引くため、処理量を減らすことができる。
【0061】
次に、本発明の再生装置の第2の実施の形態について説明する。
【0062】
図14は、本発明になる再生装置の第2の実施の形態のブロック図を示す。同図中、図7と同一構成部分には同一符号を付し、その説明を省略する。図14に示すように、本実施の形態の再生装置60は、記録媒体61からストリームデータを再生する再生手段と、ストリームデータを画像と音声に分ける分離器42と、画像のヘッダー情報を参照し間引き画像かを判断する間引き判断器62と、画像を復号化する画像復号化器44と、復号化された左目用画像を蓄える左用画像バッファ45Lと、左目用画像を1枚蓄える左用保持画像バッファ63と、復号された右目用画像を蓄える右用画像バッファ45Rと、右目用画像を1枚蓄える右用保持画像バッファ46と、立体映像をモニタ48に表示させる表示制御部47と、音声を復号化する音声復号化器491と、音声を出力するスピーカ492とで構成される。本実施の形態の再生装置60は、2眼カメラで左右両方の画像を交互に間引いて記録媒体61に記録をした映像を再生する。なお、3眼以上のカメラで記録をした映像の再生装置も本実施の形態と同様に構成することができる。
【0063】
記録媒体61は、記録媒体56と同様に図13に示したフォーマットの画像ストリームと音声ストリームとが多重化された動画ストリームが記録されている。分離器42は、記録媒体61から読みだされた動画ストリームから画像ストリームと音声ストリームとに分離する。間引き判断器62は画像ストリームのヘッダー情報を解析して、間引き画像でなければ復号化しそれぞれの画像バッファ45L又は45Rに蓄える。間引き画像であれば復号化せず、代わりに出画する画像を検索し、画像バッファから対応する保持画像バッファ63又は46にコピーする。適切なタイミングで左右の画像バッファ45L、45R、46又は63から表示制御部47に出力する。表示制御部47は、左目用映像と右目用映像とが交互に1枚ずつ入力される立体映像をモニタ48に表示させる。
【0064】
次に、本実施の形態の再生装置60の再生処理動作について、図15及び図16を図14と併せ参照して説明する。図15は、再生装置60の間引き画像再生動作を模式的に示す図であり、図16は、再生装置60の間引き画像再生動作を説明するフローチャートである。なお、図16中、図9と同一処理ステップには同一符号を付し、その説明を省略する。
【0065】
まず、公知の再生手段により記録媒体61から再生され、更に分離器42により分離された再生画像ストリームが入力される(ステップS21)。間引き判断器62は、再生画像ストリーム中のヘッダー情報を解析し、符号化されている画像は間引き画像か否かを判定する(ステップS50)。間引き判断器62は、再生画像ストリーム中の入力された符号化されている画像が間引き画像ではないと判定した場合、その画像に対応した保持画像バッファ46及び63に画像があるか否かを調べる(ステップS51)。保持画像バッファ46及び63は、間引きが行われている画像の代わりの画像を出画するのに使用される。出画に用いる画像が消えないようにするためである。通常、画像バッファは古い画像から上書きされてしまうからである。仮に、指定した画像バッファの画像を上書きされないようにすれば保持画像バッファ46及び63を用いなくてもよい。
【0066】
保持画像バッファ46及び63に保持画像がない場合、入力された符号化画像を画像復号化器44に供給して復号化させる(ステップS31)。そして、画像復号化器44は、復号化した画像を対応する右用画像バッファ45R又は左用画像バッファ45Lに蓄積する(ステップS52)。
【0067】
右用画像バッファ45R及び左用画像バッファ45Lは、蓄積した画像をヘッダー情報が示す出画の順番がきたら表示制御部47へ出力する(ステップS53)。図15中の左目用画像1、左目用画像2、左目用画像3、右目用画像1、右目用画像2、右目用画像3は、間引き画像ではなく、かつ、右用保持画像バッファ46及び左用保持画像バッファ63に保持画像がないときの画像を示す。
【0068】
また、間引き判断器62は、ステップS51で保持画像バッファ46、63に保持画像があると判定した場合、入力された符号化画像を画像復号化器44に供給して復号化させる(ステップS28)。この場合、間引き判断器62は、間引き画像が一旦終わったことになるので、保持画像バッファ46、63にある保持画像を削除する(ステップS29)。
【0069】
そして、画像復号化器44は、復号化した画像を対応する右用画像バッファ45R又は左用画像バッファ45Lに蓄積する(ステップS54)。右用画像バッファ45R及び左用画像バッファ45Lは、蓄積した画像をヘッダー情報が示す出画の順番がきたら表示制御部47へ出力する(ステップS53)。図15中の左目用画像5、左目用画像7は、左用保持画像バッファ63に保持画像があるときに入力された、間引きされていない左目用画像を示し、右目用画像6、右目用画像8は、右用保持画像バッファ46に保持画像があるときに入力された、間引きされていない右目用画像を示す。
【0070】
一方、間引き判断器62は、ステップS50で再生画像ストリーム中の入力された符号化されている画像が間引き画像であると判定した場合、右用保持画像バッファ46及び左用保持画像バッファ63に保持画像があるか否かを調べる(ステップS55)。保持画像バッファに保持画像がない場合、間引き判断器62は、入力された符号化されている画像を復号化せず間引き(ステップS25)、その代わりに出画する画像の番号を入力された間引き画像に付加されているヘッダー情報から求め、その出画する画像の番号を持つヘッダー情報の画像を画像バッファ45R又は45Lから右用保持画像バッファ46又は左用保持画像バッファ63にコピーする(ステップS56)。右用保持画像バッファ46及び左用保持画像バッファ63は、コピーされた画像を出画の順番がきたら表示制御部47に出力する(ステップS53)。
【0071】
図15中の左目用画像4、左目用画像6、右目用画像5、右目用画像7は間引き画像であり、その入力時には保持画像バッファ46、63には保持画像がない。また、間引き画像のヘッダー情報に記述されている出画する画像の番号をヘッダー情報に持つ画像が右用保持画像バッファ46、左用保持画像バッファ63にコピーされる。表示制御部47には、間引き画像の代わりに保持画像バッファ46、63にコピーされた画像が出力される。どの画像を使用するかは、間引いた画像に付加してあるヘッダー情報に代わりに出画する画像の番号が記載されているため、その番号をもつヘッダー情報の画像となる。
【0072】
表示制御部47は、入力される各画像をモニタ48へ表示させる。
【0073】
なお、本実施の形態では間引き画像で、かつ、保持画像がある場合は存在しない。
【符号の説明】
【0074】
10、50 映像記録装置
11L 左用レンズ
11R 右用レンズ
12L 左用撮像素子
12R 右用撮像素子
13L、45L 左用画像バッファ
13R、45R 右用画像バッファ
14、46 右用保持画像バッファ
15、52 動き検出器
16、43、54、62 間引き判断器
17 ヘッダー情報作成器
18 間引きヘッダー情報作成器
19 画像符号化器
20 マイク
21 音声符号化器
22、55 多重化器
23、41、56、61 記録媒体
40、60 再生装置
42 分離器
44 画像復号化器
47 表示制御部
48 モニタ
51、63 左用保持画像バッファ

【特許請求の範囲】
【請求項1】
立体映像を構成する左目用画像及び右目用画像のうち前記左目用画像を生成する左目用画像生成手段と、
前記右目用画像を生成する右目用画像生成手段と、
前記左目用画像を蓄える左用画像バッファと、
前記右目用画像を蓄える右用画像バッファと、
前記左目用画像及び前記右目用画像のうち予め定めた一方の画像を1枚蓄える保持画像バッファと、
前記保持画像バッファに蓄積される前記一方の画像の入力時にその一方の画像とそれ以前に入力された前記一方の画像との動き量を検出する動き検出手段と、
前記動き検出手段で検出された動き量を所定の閾値と比較して、前記動き量が前記閾値未満のとき間引き可と判断し、前記動き量が前記閾値以上のとき間引き否と判断する間引き判断手段と、
前記間引き判断手段により間引き可と判断された画像に使用する第1のヘッダー情報を作成する第1のヘッダー情報作成手段と、
前記間引き判断手段で間引き否と判断された画像に使用する第2のヘッダー情報を作成する第2のヘッダー情報作成手段と、
前記間引き判断手段で間引き否と判断された画像を符号化し、かつ、前記第2のヘッダー情報を付加して、符号化された前記右目用画像と符号化された前記左目用画像とが交互に合成された画像ストリームを出力すると共に、前記符号化された画像のうち前記間引き判断手段で間引き可と判断された画像の符号化画像に代えて前記第1のヘッダー情報を前記画像ストリーム中に合成して出力する画像符号化手段と、
前記画像符号化手段からの前記画像ストリームを記録媒体に記録する記録手段と、
を備えることを特徴とする映像記録装置。
【請求項2】
立体映像を構成する左目用画像及び右目用画像のうち前記左目用画像を生成する左目用画像生成手段と、
前記右目用画像を生成する右目用画像生成手段と、
前記左目用画像を入力毎に蓄える左用画像バッファと、
前記右目用画像を入力毎に蓄える右用画像バッファと、
前記左目用画像を1枚蓄える左用保持画像バッファと、
前記右目用画像を1枚蓄える右用保持画像バッファと、
前記左目用画像及び右目用画像のうち入力された一方の画像の入力時にその一方の画像とそれ以前に入力された前記一方の画像との動き量を検出する動き検出手段と、
前記左目用画像及び右目用画像のうち入力された一方の画像を符号化するときに、前記左用保持画像バッファ及び右用保持画像バッファのうち、入力された前記一方の画像の保持画像バッファに保持画像があるときには、その保持画像を削除すると共に前記一方の画像を符号化する画像とし、前記一方の画像の保持画像バッファに保持画像がなく、かつ、もう一方の画像の保持画像バッファに保持画像があるときは前記一方の画像又はもう一方の画像を符号化する画像とし、前記左用保持画像バッファ及び右用保持画像バッファの両方に保持画像が存在しないときは前記動き検出手段で検出された動き量を所定の閾値と比較して、前記動き量が前記閾値未満のとき間引き可と判断し、前記動き量が前記閾値以上のとき間引き否と判断する間引き判断手段と、
前記間引き判断手段により間引き可と判断された画像に使用する第1のヘッダー情報を作成する第1のヘッダー情報作成手段と、
前記間引き判断手段で間引き否と判断された画像に使用する第2のヘッダー情報を作成する第2のヘッダー情報作成手段と、
前記間引き判断手段で符号化する画像と判断された画像及び間引き否と判断された画像を符号化し、かつ、前記第2のヘッダー情報を付加して、符号化された前記右目用画像と符号化された前記左目用画像とが交互に合成された画像ストリームを出力すると共に、前記間引き判断手段で間引き可と判断された画像に代えて前記第1のヘッダー情報を前記画像ストリーム中に合成して出力する画像符号化手段と、
前記画像符号化手段からの前記画像ストリームを記録媒体に記録する記録手段と、
を備えることを特徴とする映像記録装置。
【請求項3】
請求項1記載の記録媒体から前記画像ストリームを再生する再生手段と、
前記画像ストリーム中の間引き可と判断された画像に使用する第1のヘッダー情報及び間引き否と判断された画像に使用する第2のヘッダー情報を参照して、前記画像ストリーム中の画像が間引き画像であるか否かを判断する間引き判断手段と、
前記間引き判断手段により前記間引き画像でないと判断された画像を復号化する画像復号化手段と、
前記画像復号化手段により復号化された左目用画像と右目用画像とを別々に蓄える左用画像バッファ及び右用画像バッファと、
前記間引き判断手段への前記第1のヘッダー情報の入力時に、その第1のヘッダー情報に記された出画順の画像がコピーされる保持画像バッファと、
前記左用画像バッファ、右用画像バッファ及び保持用画像バッファから左目用画像及び右目用画像が1枚ずつ交互に入力される立体映像を表示部に表示させる表示制御手段と、
を備えることを特徴とする再生装置。
【請求項4】
請求項2記載の記録媒体から前記画像ストリームを再生する再生手段と、
前記画像ストリーム中の間引き可と判断された画像に使用する第1のヘッダー情報及び間引き否と判断された画像に使用する第2のヘッダー情報を参照して、前記画像ストリーム中の画像が間引き画像であるか否かを判断する間引き判断手段と、
前記間引き判断手段により前記間引き画像でないと判断された画像を復号化する画像復号化手段と、
前記画像復号化手段により復号化された左目用画像と右目用画像とを別々に蓄える左用画像バッファ及び右用画像バッファと、
前記間引き判断手段への前記第1のヘッダー情報の入力時に、その第1のヘッダー情報に記された出画順の左目用画像がコピーされる左用保持画像バッファと、
前記間引き判断手段への前記第1のヘッダー情報の入力時に、その第1のヘッダー情報に記された出画順の右目用画像がコピーされる右用保持画像バッファと、
前記左用画像バッファ、右用画像バッファ、左用保持画像バッファ及び右用保持用画像バッファのうち選択されたバッファから左目用画像及び右目用画像が1枚ずつ交互に入力される立体映像を表示部に表示させる表示制御手段と、
を備えることを特徴とする再生装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2012−114543(P2012−114543A)
【公開日】平成24年6月14日(2012.6.14)
【国際特許分類】
【出願番号】特願2010−259822(P2010−259822)
【出願日】平成22年11月22日(2010.11.22)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】