情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラム
【課題】 画像の編集データを画像データと同じようにVTR上に圧縮符号化して保存する。
【解決手段】 DCT変換の基底ベクトルの組み合わせパターンに、ビット・ストリームのデータのパターンをマッピングした画像を作成して、この画像をVTRに記録する。このとき、自然画像では低周波成分に集中し高周波成分が丸め込まれる、という符号化圧縮の特性から、ビット・ストリームの各データを基底ベクトルにマッピングする際には、低周波成分のみを使用することによって、復号化伸張時におけるビット・ストリームの再現性の維持を図る。
【解決手段】 DCT変換の基底ベクトルの組み合わせパターンに、ビット・ストリームのデータのパターンをマッピングした画像を作成して、この画像をVTRに記録する。このとき、自然画像では低周波成分に集中し高周波成分が丸め込まれる、という符号化圧縮の特性から、ビット・ストリームの各データを基底ベクトルにマッピングする際には、低周波成分のみを使用することによって、復号化伸張時におけるビット・ストリームの再現性の維持を図る。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報の蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化する情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに係り、特に、動画などの画像情報のための情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに関する。
【0002】
さらに詳しくは、本発明は、ビデオ・テープなどの特定の記録媒体上に格納されている画像情報に関する編集情報を蓄積したり伝送するために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化する情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに係り、特に、編集情報を元の画像情報と同じ記録媒体上に蓄積したり、同様の方式で転送したりする情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに関する。
【背景技術】
【0003】
一般に、映像信号の保存にはVTR(ビデオ・テープ・レコーダ)などの画像記録装置が使用される。また、放送局や映画制作会社などでは、編集作業を行う画像編集装置には、画像情報のソースであるVTRなどの画像記録装置が接続されている。例えば、オリジナル画像が記録してあるテープをVTRで再生して、オリジナル画像を画像編集装置に取り込む。そして、画像編集装置上で画像を編集し、最終的に得たい画像を得る。最終的な画像はVTRに記録される。このように、画像編集装置にはVTRが必要不可欠である。
【0004】
さて、画像編集は、長い時間かけて、ユーザにより行われる。もし編集過程において編集装置に不具合が生じてしまい、それまでに行なわれた編集データがすべて消失してしまうと、ユーザは最初から編集作業をやり直さなければならなくなる。このような事態を避けるために、編集過程の情報を同じVTR上に記録する(すなわち、データをバックアップする)ということが一般的に行われている。
【0005】
ここで、画像の編集データは、画像データそのものではなく、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成されるビット・ストリームである。
【0006】
勿論、この編集過程の情報であるビット・ストリームを、VTR(若しくは、元の画像情報と同じ画像記録装置)ではなく別のデータ記録装置(例えば、フレキシブル・ディスクなど)に記録してもよい。しかしながら、画像編集装置にはせっかくVTRが接続されており、このVTRを使用すれば他の記録装置を別途用意する必要がなくなるので、ビット・ストリームをそのままVTRへ記録したいという、ユーザからの強い要望がある。VTRに編集データを保存することは、画像データと同じ場所に編集データを置くことを意味し、編集データの保管場所が分からなくなる(データが行方不明になる)という不都合も回避することができる。
【0007】
ところで、画像データは一般にデータ・サイズが膨大である。このため、近年のVTRには画像圧縮技術を利用しているものが多い。ここで、「圧縮」とは、データの冗長性を削除して、ファイルやデータのサイズを小さくすることを言い、「画像圧縮」は画像データに特化した圧縮を行う技術のことである。すなわち、画像を圧縮(エンコード)することで、同じ長さのビデオ・テープ上にはより多くの画像を記録することができるようになる。また、圧縮されたデータを伸張(デコード)すると、圧縮(エンコード)前の画像とほとんど見分けがつかない画像を復元できる。
【0008】
画像圧縮技術は、
(1)テープの消費量を抑えることができる。
(2)記録して再生したとき、すなわち圧縮と伸張を行ったとき、オリジナル画像と見分けのつかない画像を再生できる。
という2つのメリットがあるため、多くのVTRに採用されるようになった。
【0009】
画像圧縮には、一般に、時間軸を周波数軸に置き換えるDCT(Discreet Cosine Transform)処理が適用される。DCT自体は単なる座標軸の変換であるが、変換することによって信号電力の大きい周波数領域と少ない周波数領域に分けて重み付け量子化することにより、データ量を削減することができる。
【0010】
この種の画像圧縮符号化の他の特徴として、不可逆変換であること、すなわち復号化しても完全に元のデータが完全に再現される保証がないということが挙げられる。但し、元の画像が完全に再現されなくても、目視で認識できない程度の画像劣化であれば、特に問題とはならない。
【0011】
ところが、先に述べた画像編集データのようなバイナリ・データのビット・ストリームをVTRに保存する場合には大いに問題がある。何故なら、バイナリ・データのビット・ストリームは、0と1が乱数的に出現するデータ列であるが、少なくとも一部のビット位置において値が入れ替わるだけでも、データ列全体が編集データとしてはまったく意味を持たなくなってしまう。
【0012】
編集データを画像に特化した圧縮方法により圧縮並びに伸張処理を適用すると、その不可逆性のために幾つかのデータは正しく再生されなくなる。つまり、0というデータをVTRに記録して再生すると1になることが起こり得る。また、その逆も起こり得る。このような不可逆性は、画像情報の再生には問題とはならないが、編集データにとっては致命的なのである。
例えば、画像形式以外のデータを画像形式のデータと同様に且つ同じメディアに記録・再生するファイルデータの記録方法について提案がなされている(例えば、特許文献1を参照のこと)。しかしながら、この方法では、VTRに記録する際にはDCT方式による圧縮処理を経なければならず、また、VTRから再生する際にはDCT方式による伸張処理を経なければ元のファイルデータを構築することができない、という問題がある。
【特許文献1】特開平11−266434号公報
【発明の開示】
【発明が解決しようとする課題】
【0013】
本発明の目的は、動画などの画像情報の蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することにある。
【0014】
本発明のさらなる目的は、ビデオ・テープなどの特定の記録媒体上に格納されている画像情報に関する編集情報を蓄積したり伝送するために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することにある。
【0015】
本発明のさらなる目的は、編集情報を元の画像情報と同じ記録媒体上に蓄積したり、同様の方式で転送したりすることができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することにある。
【課題を解決するための手段】
【0016】
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、第1のデータ実空間上の第1のデータを、第2のデータ実空間を符号化してなる第2のデータ符号化空間にマッピングするマッピング手段又はステップを備える、
ことを特徴とする情報符号化装置又は情報符号化方法である。
【0017】
ここで、第2のデータ実空間上のデータは、例えば、動画像などの画像データである。このような場合、第2のデータ符号化空間は、画像データを離散コサイン変換(DCT)してなるDCT符号化空間である。DCT符号化空間は、低周波数から高周波数に至る各周波数帯の成分をそれぞれ表す所定個数(例えば、8×8=64個)の基底ベクトルからなる。
【0018】
また、第1のデータは、画像データに対する編集情報であり、ビット・ストリームで構成される。このような場合、前記マッピング手段又はステップは、該ビット・ストリームのビット値を第2の符号化空間を構成する基底ベクトルにマッピングすることができる。
【0019】
本発明の第1の側面に係る情報符号化装置又は情報符号化方法は、第2のデータ符号化空間上の符号化データを記録する記録手段又はステップをさらに備えていてもよい。記録手段又はステップは、例えば、動画像を記録するVTR(ビデオ・テープ・レコード)などであり、画像データをDCTなどにより符号化圧縮してから記録するようになっている。
【0020】
このように記録手段又はステップが、元の画像データを符号化圧縮されたデータを記録するように構成されている場合には、本発明の第1の側面に係る情報符号化装置又は情報符号化方法は、前記マッピング手段又はステップにより第1のデータ実空間上の第1のデータが第2のデータ符号化空間にマッピングされた擬似的な符号化データを復号化して第2のデータ実空間上の擬似的な第2のデータを生成する擬似データ復号化手段又はステップをさらに備えていればよい。このようにすれば、前記記録手段又はステップでは、この擬似的な第2のデータを符号化してから第2のデータ符号化空間にマッピングされた状態で第1のデータを記録することができる。
【0021】
既に述べたように、近年のVTRの多くは画像圧縮技術を採用しているが、編集データなどのビット・ストリームをそのままVTRに保存した場合、圧縮〜伸張時の不可逆性のために、元の編集データを再現できなくなってしまう可能性がある。
【0022】
そこで、本発明の第1の側面に係る情報符号化装置又は情報符号化方法では、再現性を保つために、編集データなどのビット・ストリームをVTRに記録する際には、画像圧縮符号化により変換される符号化空間上にビット・ストリームの各データをマッピングした画像フレームを作成して、この画像をVTRに記録する。すなわち、編集データなどのビット・ストリームを記録する際には、同じ圧縮変換方法で用いられる変換の基底ベクトルの組み合わせパターンに、ビット・ストリームのデータのパターンをマッピングした擬似的な符号化画像を作成して、この符号化画像をVTRに記録する。
【0023】
ビット・ストリームをDCT符号化空間にマッピングする際、自然画像では低周波数成分に集中し高周波数成分が丸め込まれるという符号化圧縮の特性を考慮して、低周波数成分側の所定個数までの各基底ベクトル、例えば低周波数成分側から20個までを使用してビット・ストリームの各データをマッピングすることによって、復号化伸張時におけるビット・ストリームの再現性の維持を図ることができる。
【0024】
ここで、前記マッピング手段により第2のデータ符号化空間にマッピングされた擬似的な符号化データを復号化してエラーを検出するエラー検出手段又はステップと、該エラー検出結果に応じて、使用する基底ベクトルの周波数帯域を調整する周波数帯域調整手段又はステップとをさらに備えていてもよい。
【0025】
例えば、ビット・ストリームのマッピングに使用した最も高周波数成分の基底ベクトルにおける再現性をチェックして、エラーが検出されたならば、可逆性が保証されないことになるので、マッピングに使用する基底ベクトルをより低周波数成分に限定することにより、再現性の維持を図るようにする。
【0026】
あるいは、第2の符号化空間のうち低周波数成分側の所定個数までの各基底ベクトルに対してビット・ストリームの各ビットの値を順次マッピングしていく代わりに、ビット・ストリーム中の連続するnビットの値を、前記第2の符号化空間のうち低周波数成分側のm個の基底ベクトルのうちk個に1を代入するとともに残りのm−k個に0を代入して表現されたビット・パターンにマッピングするようにしてもよい(但し、2n<mCk)。
【0027】
例えば第2の符号化空間を構成する20個の基底ベクトルのうち任意の3個を選ぶ組み合わせ20C3は、(20×19×18)÷(3×2×1)=1140通りである。一方、ビット・ストリームを構成する10ビットのデータ・パターンは210=1024通りなので、これら1024個のパターンの1つずつを、20個の基底ベクトルの中の3個を選んだパターンに対応させることによって、ビット・ストリームの20個分のビット列を表現することができる。すなわち、選ばれた3個の基底ベクトルのみ成分に1を代入するとともに、残りの17個の基底ベクトルの成分を0に設定する。
【0028】
また、本発明の第2の側面は、第1のデータ実空間上の第1のデータが第2のデータ実空間を符号化した第2のデータ符号化空間にマッピングされてなる符号化データを第1のデータ実空間上に復号化する復号化手段又はステップを備える、
ことを特徴とする情報復号化装置又は情報復号化方法である。
【0029】
本発明の第2の側面に係る情報復号化装置又は情報復号化方法によれば、本発明の第1の側面に係る情報符号化装置又は情報符号化方法に対応した復号化処理を行なうことができる。
【0030】
すなわち、本発明の第1の側面に係る情報符号化装置又は情報符号化方法では、第1のデータを構成するビット・ストリームのビット値を第2の符号化空間を構成する基底ベクトルにマッピングされているので、前記復号化手段又はステップは、基底ベクトルにマッピングされたビット値をビット・ストリームに再マッピングするようにすればよい。
【0031】
例えば、前記第2の符号化空間のうち低周波数成分側の所定個数までの各基底ベクトルに対して該ビット・ストリームの各ビットの値が順次マッピングされている場合には、前記復号化手段は又ステップは、基底ベクトルにマッピングされたビット値を順次ビット・ストリームに再マッピングするようにすればよい。
【0032】
あるいは、ビット・ストリーム中の連続するnビットの値が前記第2の符号化空間のうち低周波数成分側のm個の基底ベクトルのうちk個に1を代入するとともに残りのm−k個に0を代入して表現されたビット・パターンにマッピングされている場合には(但し、2n<mCk)、前記復号化手段は又ステップは、m個の基底ベクトルにより表現されたビット・パターンをビット・ストリームの連続するnビットの値に再マッピングするようにすればよい。
【0033】
また、本発明の第3の側面は、第1のデータ実空間上の第1のデータを第2の密度を以って第2のデータ実空間に変換するマッピング手段又はステップを備える、
ことを特徴とする情報符号化装置又は情報符号化方法である。
【0034】
ここで、第2のデータ実空間上のデータは動画像などの画像データである。また、第1のデータは、画像データに対する編集情報であり、ビット・ストリームで構成される。
【0035】
本発明の第3の側面に係る情報符号化装置又は情報符号化方法は、第1のデータがマッピングされた第2のデータ実空間上の擬似的な第2のデータを符号化して記録する記録手段又はステップをさらに備えていてもよい。記録手段又はステップは、例えば、動画像を記録するVTR(ビデオ・テープ・レコード)などであり、画像データをDCTなどにより符号化圧縮してから記録するようになっている。
【0036】
既に述べたように、近年のVTRの多くは画像圧縮技術を採用しているが、編集データなどのビット・ストリームをそのままVTRに保存した場合、圧縮〜伸張時の不可逆性のために、元の編集データを再現できなくなってしまう可能性がある。
【0037】
そこで、本発明の第3の側面に係る情報符号化装置又は情報符号化方法では、再現性を保つために、編集データなどのビット・ストリームをVTRに記録する際には、ビット・ストリームを第2の密度を以って画像フレームの画素にマッピングし、この擬似的な画像フレームを通常の画像フレームと同様に符号化圧縮してVTRに記録するようにした。
【0038】
さらに、ビット・ストリームがマッピングされた擬似的な画像フレームに対して符号化及び復号化処理を経た後、ビット・ストリームの復元を試みて、エラーを検出して、エラーが発生しないようにビット・ストリームを画像フレームにマッピングする密度を調整することができる。
【0039】
例えば、ビット・ストリームを構成する各ビット位置における値を、画像フレーム中で対応する画素位置における1画素あるいはn×n画素ブロックの画素値としてマッピングして、一旦擬似的な画像フレームを生成して、さらにこの擬似画像フレームをDCT符号化圧縮してVTRに記録する。
【0040】
そして、符号化及び復号化を経た後、ビット・ストリームを再現することができなかった場合には、再現性を高めるために、ビット・ストリームの各ビットをマッピングする画素数を増やす。例えば、ビット・ストリームの各ビット位置の値を擬似画像フレーム中の(n+1)×(n+1)画素のブロックを使って記憶させる。このように、ビット・ストリームの各1ビットを、より多くの画素数からなるブロックに割り当てることにより、作成される擬似画像は高周波数成分が抑えられた画像となるので、DCTによる高周波数成分の劣化の影響を受けずに済む。
【0041】
また、本発明の第4の側面は、第1のデータ実空間上の第1のデータを第2の密度を以って第2のデータ実空間に変換されてなる符号化データを第1のデータ実空間上に第2の密度の逆数を以って逆変換する復号化手段又はステップを備える、
ことを特徴とする情報復号化装置又は情報復号化方法である。
【0042】
本発明の第4の側面に係る情報復号化装置又は情報復号化方法によれば、本発明の第3の側面に係る情報符号化装置又は情報符号化方法に対応した復号化処理を行なうことができる。
【0043】
すなわち、本発明の第3の側面に係る情報符号化装置又は情報符号化方法では、ビット・ストリームの各ビットが第2の密度を以って画像フレームにマッピングされているので、前記復号化手段又はステップは、画像フレーム中の画素値を第2の密度の逆数を以って再マッピングするようにすればよい。
【0044】
例えば、ビット・ストリームの各ビット値が第2のデータ実空間をn×n画素毎に分割されたブロックにマッピングされている場合には、前記復号化手段は又ステップは、第2のデータ実空間上の各n×n画素ブロックの画素値を第1のデータ実空間上に再マッピングするようにすればよい。
【0045】
また、本発明の第5の側面は、画像以外の第1のデータを符号化する情報符号化装置又は情報符号化方法であって、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段又はステップと、
該擬似的な画像フレームを複数枚連続させる、擬似画像フレーム複製手段又はステップと、
を具備することを特徴とする情報符号化装置又は情報符号化方法である。
【0046】
ここで、第1のデータは画像データの編集データなどであり、ビット・ストリームで構成される。そして、前記マッピング手段又はステップは、該ビット・ストリームのビット値を画像フレームの画素に所定の密度を以ってマッピングすることができる。
【0047】
あるいは、前記マッピング手段又はステップは、画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルに該ビット・ストリームのビット値をマッピングすることができる。
【0048】
また、本発明の第5の側面に係る情報符号化装置又は情報符号化方法は、各擬似的な画像フレームが複数枚連続してなる画像フレーム群を動き補償する擬似画像フレーム符号化手段又はステップをさらに備えていてもよい。
【0049】
動画像の画像圧縮技術においては、「動き補償(Motion Compensation:MC)」が導入される場合がある。動き補償による圧縮では、時間的に連続する複数の画像をイントラ・ピクチャとノンイントラ・ピクチャの2つのグループに分ける。
【0050】
ここで、編集データなどのビット・ストリームがマッピングされた擬似的な画像フレームをノンイントラ・ピクチャとして扱った場合、擬似的な画像から他の画像との差分をとってもデータの冗長性を削除することが期待できないばかりか、ノンイントラ・ピクチャ内のデータも不正確になってしまい可逆性が著しく損なわれる。このため、ノンイントラ・ピクチャとして処理された擬似的な画像フレームをVTRに記録した後、元のビット・ストリームを完全に再現できなくなる。
【0051】
そこで、本発明の第5の側面に係る情報符号化装置又は情報符号化方法においては、ビット・ストリームをマッピングした擬似的な画像フレームがイントラ・ピクチャに割り当てられるようにすることで、動き補償が適用された画像フレームから元のビット・ストリームを最大限正確に取り出すことができるようにする。より具体的には、ビット・ストリームのデータをマッピングした擬似的な画像フレームを作成した後、この画像フレームを複数枚連続してVTRに記録することによって、イントラ・ピクチャにこの擬似的な画像フレームが割り当てられるようにする。
【0052】
動き補償を適用する画像圧縮器においては、イントラ・ピクチャが出現する周期Mを規定していることが多い。このような場合、周期に相当するM枚分だけ擬似的な画像フレームを連続させることによって、そのうちの1枚は必ずイントラ・ピクチャに割り当てられるので、この画像フレームを使うことで、データ削減による劣化のない状態でビット・ストリームを取り出すことができる。
【0053】
また、本発明の第6の側面は、第1のデータを画像フレームにマッピングして生成された擬似的な各画像フレームを複数枚連続させてなる擬似的な画像フレーム群が動き補償により符号化された擬似的な符号化画像から第1のデータを復号化する情報復号化装置又は情報復号化方法であって、
擬似的な符号化画像を動き補償により復号化して擬似的な画像フレーム群を作成する復号化手段又はステップと、
該復号化された画像フレーム群からMフレーム間隔で画像フレームを取り出して画像フレームの組を形成して、各画像フレームの組毎に画像フレームを第1のデータに再マッピングする再マッピング手段又はステップと、
各画像フレームの組についての再マッピングの結果をエラー検証して、最もエラーの少ない再マッピング結果を復号化された第1のデータとして出力する出力手段又はステップと、
を具備することを特徴とする情報復号化装置又は情報復号化方法である。
【0054】
本発明の第6の側面に係る情報復号化装置又は情報復号化方法によれば、本発明の第5の側面に係る情報符号化装置又は情報符号化方法に対応した復号化処理を行なうことができる。
【0055】
すなわち、ビット・ストリームを画像フレームに変換してVTRに記録した後、VTRからビット・ストリームを再構築する際、VTRから再生される画像フレーム列のうち、時刻0から始まるM枚毎の画像からビット・ストリームを再構築する(但し、Mはイントラ・ピクチャの出現周期であることが好ましい)。また、時刻1から始まるM枚毎の画像からビット・ストリームを再構築する。また、時刻2から始まるM枚毎の画像からビット・ストリームを再構築する。以降同様に、時刻3から時刻N−1までのものに対してもビット・ストリームを再構築する。
【0056】
そして、これらN個の再構築されたビット・ストリームの中から最もエラーの少なかったビット・ストリームを選び出して、これをVTRから再現した結果として出力する。最もエラーの少なかったビット・ストリームは、イントラ・ピクチャに割り当てられたM枚置きの画像フレームの組から再現されたものと推測される。勿論、エラーの少ないビット・ストリームが再現されることが目的であり、必ずしもイントラ・ピクチャに割り当てられた画像フレームから再現しなければならないという訳ではない。
【0057】
また、本発明の第7の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、
画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルのうち所定の周波数帯又は所定個数の基底ベクトルに対して、符号化対象となる情報を構成するビット・ストリームのビットをマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な符号化画像に対して、復号化/符号化を行なった後、該擬似的な符号化画像を構成する各基底ベクトルを再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームのマッピングに使用する基底ベクトルの周波数帯又は個数を調整する周波数帯調整ステップと、
を具備することを特徴とする記憶媒体である。
【0058】
また、本発明の第8の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、
符号化対象となる情報を構成するビット・ストリームのビットを所定の密度を以って画像フレーム上の画素にマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な画像フレームの画素を前記所定の密度の逆数を以って再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームを画像フレームにマッピングするときの密度を調整する密度調整ステップと、
を具備することを特徴とする記憶媒体である。
【0059】
また、本発明の第9の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、
符号化対象となる情報を画像フレームにマッピングして擬似的な画像フレームを作成するマッピング・ステップと、
該擬似的な画像フレームをそれぞれM枚連続させる擬似画像フレーム複製ステップと、
各擬似的な画像フレームがM枚連続してなる画像フレーム群をMフレーム周期でイントラ・ピクチャを挿入して動き補償する擬似画像フレーム符号化ステップと、
該符号化された擬似的な画像フレームを動き補償により復号化して擬似的な画像フレーム群を作成する復号化ステップと、
該復号化された画像フレーム群からMフレーム間隔で画像フレームを取り出して画像フレームの組を形成して、各画像フレームの組毎に画像フレームを第1のデータに再マッピングする再マッピング・ステップと、
各画像フレームの組についての再マッピングの結果をエラー検証して、最もエラーの少ない再マッピング結果を復号化された第1のデータとして出力する出力ステップと、
を具備することを特徴とする記憶媒体である。
【0060】
本発明の第7乃至第9の各側面の各側面に係る記憶媒体は、例えば、さまざまなプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ・ソフトウェアをコンピュータ可読な形式で提供する媒体である。このような媒体は、例えば、DVD(Digital Versatile Disc)、CD(Compact Disc)やFD(Flexible Disk)、MO(Magneto−Optical disc)などの着脱自在で可搬性の記憶媒体である。あるいは、ネットワーク(ネットワークは無線、有線の区別を問わない)などの伝送媒体などを経由してコンピュータ・ソフトウェアを特定のコンピュータ・システムに提供することも技術的に可能である。
【0061】
本発明の第7乃至第9の各側面に係る記憶媒体は、コンピュータ・システム上で所定のコンピュータ・ソフトウェアの機能を実現するための、コンピュータ・ソフトウェアと記憶媒体との構造上又は機能上の協働的関係を定義したものである。換言すれば、本発明の第7乃至第9の各側面に係る記憶媒体を介して所定のコンピュータ・ソフトウェアをコンピュータ・システムにインストールすることによって、コンピュータ・システム上では協働的作用が発揮され、本発明の第1、第3、第5の各側面に係る情報符号化装置又は情報符号化方法とそれぞれ同様の作用効果を得ることができる。
【0062】
また、本発明の第10の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・プログラムであって、
画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルのうち所定の周波数帯の所定個数の基底ベクトルに対して、符号化対象となる情報を構成するビット・ストリームのビットをマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な符号化画像に対して、復号化/符号化を行なった後、該擬似的な符号化画像を構成する各基底ベクトルを再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームのマッピングに使用する基底ベクトルの周波数帯又は個数を調整する周波数帯調整ステップと、
を具備することを特徴とするコンピュータ・プログラムである。
【0063】
また、本発明の第11の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・プログラムであって、
符号化対象となる情報を構成するビット・ストリームのビットを所定の密度を以って画像フレーム上の画素にマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な画像フレームの画素を前記所定の密度の逆数を以って再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームを画像フレームにマッピングするときの密度を調整する密度調整ステップと、
を具備することを特徴とするコンピュータ・プログラムである。
【0064】
また、本発明の第12の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・プログラムであって、
符号化対象となる情報を画像フレームにマッピングして擬似的な画像フレームを作成するマッピング・ステップと、
該擬似的な画像フレームをそれぞれM枚連続させる擬似画像フレーム複製ステップと、
各擬似的な画像フレームがM枚連続してなる画像フレーム群をMフレーム周期でイントラ・ピクチャを挿入して動き補償する擬似画像フレーム符号化ステップと、
該符号化された擬似的な画像フレームを動き補償により復号化して擬似的な画像フレーム群を作成する復号化ステップと、
該復号化された画像フレーム群からMフレーム間隔で画像フレームを取り出して画像フレームの組を形成して、各画像フレームの組毎に画像フレームを第1のデータに再マッピングする再マッピング・ステップと、
各画像フレームの組についての再マッピングの結果をエラー検証して、最もエラーの少ない再マッピング結果を復号化された第1のデータとして出力する出力ステップと、
を具備することを特徴とするコンピュータ・プログラムである。
【0065】
本発明の第10乃至第12の各側面に係るコンピュータ・プログラムは、コンピュータ・システム上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータ・プログラムを定義したものである。換言すれば、本発明の第10乃至第12の各側面に係るコンピュータ・プログラムをコンピュータ・システムにインストールすることによって、コンピュータ・システム上では協働的作用が発揮され、本発明の第1、第3、第5の各側面に係る情報符号化装置又は情報符号化方法とそれぞれ同様の作用効果を得ることができる。
【発明の効果】
【0066】
本発明によれば、動画などの画像情報の蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することができる。
【0067】
また、本発明によれば、ビデオ・テープなどの特定の記録媒体上に格納されている画像情報に関する編集情報を蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することができる。
【0068】
また、本発明によれば、編集情報を元の画像情報と同じ記録媒体上に蓄積したり、同様の方式で転送したりすることができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することができる。
【0069】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【発明を実施するための最良の形態】
【0070】
以下、図面を参照しながら本発明の実施形態について詳解する。
【0071】
第1の実施形態:
本発明は、VTR上に格納されている画像情報に関する編集データを同じVTR上に保存することによって、ユーザの便宜を図るものである。
【0072】
既に述べたように、近年のVTRの多くは画像圧縮技術を採用しているが、編集データなどのビット・ストリームをそのままVTRに保存した場合、圧縮〜伸張時の不可逆性のために、元の編集データを再現できなくなってしまう可能性がある。そこで、本発明では、再現性が最大限維持されるようにビット・ストリームを画像圧縮にかけるようにする。
【0073】
本発明の第1の実施形態では、再現性を保つために、編集データなどのビット・ストリームをVTRに記録する際には、画像圧縮符号化により変換される符号化空間上にビット・ストリームの各データをマッピングした画像フレームを作成して、この画像をVTRに記録するようにした。
【0074】
ここで、画像圧縮には、一般に、時間軸を周波数軸に置き換えるDCT(Discreet Cosine Transform)処理が適用される。DCT処理は、画像フレームを例えば8×8のブロックに分割し、それぞれのブロックに対して周波数空間へ変換する。すなわち、DCTにより変換符号化された符号化空間は、図1に示すように、ランダムに分布していた画素値が低周波数成分から高周波数成分に至る64個の周波数項(変換係数)V1〜V64で表される(但し、Viは添え字iが小さいほど低周波数成分を、大きいほど高周波数成分を表す)。すなわち、DCT符号化空間は、V1〜V64を成分に持つ「基底ベクトル」として表現することができる。一般的な画像では高周波数成分が含まれていないので、このDCTの処理により周波数空間に変換されたデータは低周波数成分に集中することを利用して、データ量を減らすことができる。
【0075】
本実施形態では、編集データなどのビット・ストリームを記録する際には、同じ圧縮変換方法で用いられる変換の基底ベクトルの組み合わせパターンに、ビット・ストリームのデータのパターンをマッピングした擬似的な符号化画像を作成して、この符号化画像をVTRに記録する。
【0076】
また、本実施形態では、ビット・ストリームをDCT符号化空間にマッピングする際、自然画像では低周波数成分に集中し高周波数成分が丸め込まれるという符号化圧縮の特性を考慮して、例えば基底ベクトルのうちV1〜V20までの低周波数成分側のみを使用してビット・ストリームの各データをマッピングすることによって、復号化伸張時におけるビット・ストリームの再現性の維持を図るようにした。
【0077】
図2には、本実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示している。
【0078】
ビット・ストリームは、画像の編集データであり、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成される(前述)。
【0079】
また、画像圧縮のために画像が変換されるDCT符号化空間は、低周波数成分から高周波数成分まで、8×8=64個の成分V1〜V64からなる基底ベクトルである(図1を参照のこと)。このうち高周波数成分は圧縮により無視される可能性が高いので、低周波数成分側の例えば20個の成分V1〜V20をビット・ストリームをマッピングするために使用する。
【0080】
ビット・ストリームの先頭(すなわち、第1番目)のデータが0である場合にはV1成分を0とし、1である場合にはV1成分を1とする。また、第2番目のデータが0である場合にはV2成分は0とし、1である場合にはV2成分は1とする。同様に、第i(i=3〜20)番目のデータが0である場合にはVi成分を0とし、1である場合にはVi成分を1とする。このようにして、ビット・ストリームの先頭の20個のデータの値により、基底ベクトルのうち低周波数側の20個の成分V1からV20が決定される。また、第21番目以降の高周波数側の成分V21〜V64には0を代入する。このような周波数成分をもつ8×8ブロックの基底ベクトルからなる擬似的なDCT符号化画像を作成する。
【0081】
同様に、ビット・ストリームの第21番目から第40番目までのデータに対応した8×8の符号化空間を作成し、この8×8の符号化空間を1つのブロックと考える。また、第41番目以降に関しても、同様に、ビット・ストリームの次の20個のデータの値により基底ベクトルのうち低周波数側の20個の成分V1からV20が決定することによって、次フレームに相当する擬似的なDCT符号化空間を作成していく。
【0082】
これら8×8のブロック群よりなるデータ群は、DCTにより符号化を行なった圧縮画像に相当するので、そのまま通常の圧縮画像とともにVTRに記録してもよい。
【0083】
あるいは、図2に示すように、DCT処理器を内蔵するVTRに記録する場合には、上述したように編集データのビット・ストリームから得られた擬似的な符号化圧縮画像をIDCT(Inverse Discreet Cosine Transform:逆離散コサイン変換)して擬似的な原画像フレームを生成してから、VTRに投入してビデオ・テープ上に記録するようにする。
【0084】
このように記録したVTRから画像を再生するときには、VTR内でIDCTによる復号化伸張処理が行なわれて、画像情報が再現される。
【0085】
また、画像情報ではなくビット・ストリームからなる擬似的な画像情報である場合には、さらにDCT処理することにより、低周波数成分側の成分V1〜V20にビット・ストリームがマッピングされた擬似的な符号化圧縮画像が得られる。
【0086】
あるいは、VTR内でIDCTを行わない場合には、VTRで再生された符号化圧縮画像からそのままV1〜V20にビット・ストリームがマッピングされた擬似的な符号化画像フレームを得ることができる。
【0087】
ビット・ストリームをVTRに記録するときには、Nビット毎に分割されたビット列のうちj番目のビット位置におけるビット値がDCT符号化空間の基底ベクトルにおける低周波数成分側のj番目の成分Vj(j=1〜20)に順次マッピングされる。
【0088】
したがって、これらV1、V2、…、V20の成分があるかどうかで、ビット・ストリーム内の各データが0か1であるかを復元することができる。そして、記録時とは逆に、DCT符号化空間の基底ベクトルのうち低周波数側のj番目の成分ベクトルVj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置に順次マッピングしていくことで、元のビット・ストリームを再現することができる。
【0089】
さらに、ビット・ストリームを一度VTRに記録した後にその再生を試みて、ビット・ストリームの再現性を検証するようにしてもよい。例えば、記録時にビット・ストリームにエラー訂正用のパリティを付加しておき、再生されたビット・ストリームと互いのエラー数をチェックするようにしてもよい。
【0090】
あるいは、ビット・ストリームのマッピングに使用した最も高周波数成分に相当する周波数項V20の値が0あるいは1にほぼ等しいかどうかをチェックすることによっても、ビット・ストリームの再現性を検証してみることも考えられる。
【0091】
周波数項V20の値をチェックしてみた結果、例えば、「V20の成分として0.5前後の値が観測された」、あるいは、「V20の成分は1として記録したにもかかわらず、再生してみると0として観測された」という事態が検出されたならば、それはV20が既に高周波数成分の領域に相当し可逆性が保証されないこと、すなわち圧縮によりV20の成分が信用できない値になったことを意味する。
【0092】
このような場合、V20はビット・ストリームの記録には使わないようにする。すなわち、ビット・ストリームを20ビットではなく19ビット毎に区切り、それぞれを画像フレームのDCT符号化空間の基底ベクトルのうち低周波数側の19個までの成分V1〜V19に割り当てて、V20は使わないようにして、再度ビット・ストリームをVTRに記録し直すようにしてもよい。
【0093】
このようにして記録したVTRを再生するとき、VTR内でIDCTによる復号化伸張処理が行なわれて、画像情報が再現される。画像情報ではなくビット・ストリームからなる擬似的な画像情報である場合には、さらにDCT処理することにより、低周波数成分側の成分V1〜V19にビット・ストリームがマッピングされた擬似的な符号化圧縮画像が得られる(同上)。そして、これらV1、V2、…、V19の成分があるかどうかで、ビット・ストリーム内の各データが0か1であるかを復元することができる。
【0094】
勿論、この場合にも、さらに、ビット・ストリームを一度VTRに記録した後に再生を試みて、V19の成分が0あるいは1にほぼ等しいかどうか、すなわち可逆性をチェックしてみてもよい。そして、もしも可逆性が保証されない場合には、ビット・ストリームを19ビットではなく18ビット毎に区切り、それぞれを画像フレームのDCT符号化空間の基底ベクトルのうち低周波数側の18個までの成分V1〜V18に割り当てて、V19は使わないようにする。
【0095】
上述した例では、編集データを構成するビット・ストリームを例えば20ビット毎に区切って、DCT符号化空間の基底ベクトルのうち例えば低周波数側の20個までの成分V1〜V20に1ビットずつ順次マッピングしていくようにしている。すなわち、ビット・ストリームの各ビットをそれぞれ基底ベクトルの1個の成分に逐次マッピングしているが、ビット・ストリームをDCT符号化空間にマッピングする方法はこれに限定されるものではない。ビット・ストリームをDCT符号化空間にマッピングする他の方法について、以下に説明する。
【0096】
例えば、DCT符号化空間を構成する基底ベクトルは、低周波数から高周波数まで8×8=64個の成分からなる。このうち高周波数成分は圧縮により無視される可能性があるので、例えば、低周波数成分側の20個を使うことにする(同上)。この20個の成分をV1、V2、…、V20とする。
【0097】
このV1〜V20の中から、任意の3個を選ぶ組み合わせ20C3は、(20×19×18)÷(3×2×1)=1140通りである。ここで、ビット・ストリームの先頭の10個のデータのパターンは210=1024通りなので、これら1024個のパターンの1つずつを、「V1からV20の中の3個を選んだパターン」に対応させることによって、ビット・ストリームの10個分のビット列を表現することができる。すなわち、選ばれた3個のVi(但し、i=1〜20)のみ成分に1を代入するとともに、残りの17個のViの成分を0に設定する。
【0098】
このようにして、まず、ビット・ストリームの先頭の10個分のビット値により、V1からV20までの低周波数側の成分を決定するとともに、V21以降の高周波数側の成分に0を代入することによって、8×8ブロックからなる擬似的なDCT符号化画像を作成する。
【0099】
同様に、ビット・ストリームの第11番目から第20番目までのビット列に対応した8×8の擬似的なDCT符号化画像を作成し、この8×8の画像を1つのブロックと考える。第21番目以降も同様にして、8×8のブロックを作成していく。
【0100】
これら8×8のブロック群よりなるデータ群は、DCTにより符号化圧縮を行なった画像に相当するので、そのまま圧縮画像とともに保存してもよい。
【0101】
あるいは、図2に示すように、DCT処理器を内蔵するVTRに保存する場合には、上述したように編集データのビット・ストリームから得られた擬似的な符号化圧縮画像を一旦IDCT(Inverse Discreet CosineTransform:逆離散コサイン変換)して擬似的な原画像フレームを生成してから、VTRに投入してビデオ・テープ上に記録するようにする。
【0102】
このように記録したVTRを再生するとき、VTR内でIDCTによる復号化伸張処理が行なわれて、画像情報が再現される。画像情報ではなくビット・ストリームからなる擬似的な画像情報である場合には、さらにDCT処理することにより、選ばれた3個のVi(但し、i=1〜20)のみ成分に1を代入するとともに、残りの17個のViの成分を0に設定されている擬似的な符号化圧縮画像を得ることができる。そして、V1からV20のうちでどの成分が1になっているかによって、元の10個分のビット列を復元することができる。
【0103】
図3には、本実施形態に適用可能な画像処理装置100のハードウェア構成を模式的に示している。
【0104】
この画像処理装置100には、画像情報のソースであるVTRなどの画像記録装置が接続されている。そして、オリジナル画像が記録してあるテープをVTRで再生して取り込み、画像処理装置100上では画像編集を行うとともに、編集過程の画像編集データをこのVTR上に記録する。また、画像処理装置100は、画像圧縮・伸張時における不可逆性のために編集データが損なわれないようにするために、編集データのビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する。
【0105】
以下、図3を参照しながら、画像処理装置100内の各部について説明する。
【0106】
システム100のメイン・コントローラであるCPU(Central Processing Unit)101は、オペレーティング・システム(OS)の制御下で、各種のアプリケーションを実行する。CPU101は、例えば、VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを実行することができる。図示の通り、CPU101は、バス108によって他の機器類(後述)と相互接続されている。
【0107】
メモリ102は、CPU101において実行されるプログラム・コードを格納したり、実行中の作業データを一時保管するために使用される記憶装置である。同図に示すメモリ102は、ROMなどの不揮発性メモリ及びDRAMなどの揮発性メモリの双方を含むものと理解されたい。
【0108】
ディスプレイ・コントローラ103は、CPU101が発行する描画命令を実際に処理するための専用コントローラである。ディスプレイ・コントローラ103において処理された描画データは、例えばフレーム・バッファ(図示しない)に一旦書き込まれた後、ディスプレイ111によって画面出力される。例えば、VTRから再生された画像やその編集内容はディスプレイ111で画面表示されて、確認を行なうことができる。
【0109】
入力機器インターフェース104は、キーボード112やマウス113などのユーザ入力機器をコンピュータ・システム100に接続するための装置である。ユーザは、キーボード112やマウス114を介して、画像編集のためのデータやコマンドを入力することができる。
【0110】
ネットワーク・インターフェース105は、Ethernet(登録商標)などの所定の通信プロトコルに従って、システム100をLAN(Local Area Network)などの局所的ネットワーク、さらにはインターネットのような広域ネットワークに接続することができる。
【0111】
ネットワーク上では、複数のホスト端末(図示しない)がトランスペアレントな状態で接続され、分散コンピューティング環境が構築されている。ネットワーク上では、ソフトウェア・プログラムやデータ・コンテンツなどの配信サービスを行うことができる。例えば、VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを、ネットワーク経由でダウンロードすることができる。
【0112】
外部機器インターフェース107は、ハード・ディスク・ドライブ(HDD)114やメディア・ドライブ115などの外部装置をシステム100に接続するための装置である。
【0113】
HDD114は、記憶担体としての磁気ディスクを固定的に搭載した外部記憶装置であり(周知)、記憶容量やデータ転送速度などの点で他の外部記憶装置よりも優れている。ソフトウェア・プログラムを実行可能な状態でHDD114上に置くことをプログラムのシステムへの「インストール」と呼ぶ。通常、HDD114には、CPU101が実行すべきオペレーティング・システムのプログラム・コードや、アプリケーション・プログラム、デバイス・ドライバなどが不揮発的に格納されている。例えば、VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを、HDD114上にインストールすることができる。
【0114】
メディア・ドライブ115は、CD(Compact Disc)やMO(Magneto−Optical disc)、DVD(Digital Versatile Disc)などの可搬型メディアを装填して、そのデータ記録面にアクセスするための装置である。
【0115】
可搬型メディアは、主として、ソフトウェア・プログラムやデータ・ファイルなどをコンピュータ可読形式のデータとしてバックアップすることや、これらをシステム間で移動(すなわち販売・流通・配布を含む)する目的で使用される。VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを、これら可搬型メディアを利用して複数の機器間で物理的に流通・配布することができる。
【0116】
VTRインターフェース109は、VTRから再生されるビデオ信号を画像処理装置100内に取り込むための装置である。
【0117】
なお、図3に示すような画像処理装置100の一例は、米IBM社のパーソナル・コンピュータ“PC/AT(Personal Computer/Advanced Technology)”の互換機又は後継機である。勿論、他のアーキテクチャを備えたコンピュータを、本実施形態に係る画像処理装置100として適用することも可能である。
【0118】
図4及び図5には、この画像処理装置100上で実行される、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順をそれぞれフローチャートの形式でそれぞれ示している。
【0119】
本実施形態では、ビット・ストリームをVTRに記録する際には、ビット・ストリームの再現性を最大限に維持するために、ビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する。
【0120】
このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。以下、図4及び図5に示されている各フローチャートを参照しながら、この処理手順について説明する。
【0121】
ビット・ストリームを入力すると(ステップS1)、まず、この入力ビット・ストリームに対してパリティ・ビットを付加して、エラー訂正可能なパリティ付きビット・ストリームを作成する(ステップS2)。但し、パリティ・ビットの付加は本実施形態における必須の要件ではない。
【0122】
次いで、変数Nに初期値20を代入する(ステップS3)。この変数Nは、画像のDCT符号化空間の基底ベクトルを構成する成分64個のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する(図1を参照のこと)。
【0123】
次いで、パリティ付きビット・ストリームを、Nビットずつに分割する(ステップS4)。そして、分割された各Nビットのデータを、それぞれDCT符号化空間の基底ベクトルのうち低周波数側のN個の成分にマッピングしていく(ステップS5)。
【0124】
DCT符号化空間の基底ベクトルは64個の成分Vi(i=1〜64)で構成されている。ステップS5では、分割されたNビットのデータ中のj番目のビット位置におけるビット値をDCT符号化空間の低周波数側のj番目の成分Vj(j=1〜20)に順次マッピングしていく。
【0125】
さらに、DCT符号化空間を構成する基底ベクトルのN+1番目以降の高周波数側の成分に0を代入することによって、8×8ブロックからなる擬似的な符号化画像を作成する(ステップS6)。但し、8×8ブロックが5280個集まって、NTSC(National Television System Committee)の画像1フレームを構成する。
【0126】
ビット・ストリームをN個毎に分割して、Nビットのビット列の塊が(K÷5280)個できたとすると、このような8×8ブロックが5280個集まってできる擬似的な符号化画像フレームがKフレームだけ作成される。なお、ここでは1フレームは704画素×480画素よりなると仮定している。すなわち、5280個の8×8ブロックより1フレームは構成されるとしている。この擬似的な符号化画像フレームを、通常の画像フレームをDCT符号化して得た圧縮画像とともに、VTRに記録する(ステップS7)。
【0127】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのDCT処理をスキップするか、又は、ステップS6で生成された擬似的な符号化画像を一旦IDCT処理して擬似的な原画像にした後、VTRに投入して、DCT処理を経て記録するようにすればよい。
【0128】
図6には、上記のステップS5及びS6において、ビット・ストリームのNビットのデータをマッピングして8×8ブロックの擬似的な符号化画像を生成するための処理手順をさらに詳細に示している。
【0129】
まず変数iに初期値1を代入する(ステップS5−1)。
【0130】
次いで、パリティ付きビット・ストリームから分割されたNビットのビット列うち、i番目のビット値をチェックする(ステップS5−2,S5−3)。
【0131】
ビット列のi番目のビット値が0である場合には、DCT符号化空間を構成する基底ベクトルの低周波数側のi番目の成分Viを0にする(ステップS5−4)。また、ビット列のi番目のビット値が0である場合には、DCT符号化空間を構成する基底ベクトルの低周波数側のi番目の成分Viを1にする(ステップS5−5)。
【0132】
次いで、iがNに到達したかどうかをチェックする(ステップS5−6)。Nは、画像のDCT符号化空間の基底ベクトルを構成する64個の成分のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する変数である(前述)。
【0133】
iがまだNに到達していない場合には、ステップS5−7においてiを1だけインクリメントした後、ステップS5−2に戻り、パリティ付きビット・ストリームから分割されたNビットのビット列うち、i番目のビット値を基底ベクトルの次の成分にマッピングする処理を繰り返し実行する。
【0134】
また、iがNに到達した場合には、次ステップS6−1に進んで、DCT符号化空間を構成する基底ベクトルのうち、低周波数成分側から数えてN+1番目以降64番目までの残りのすべての高周波数側成分を0にする。
【0135】
そして、上述のようにして作成された基底ベクトルの成分を持つ8×8ブロックの擬似的な符号化画像を作成する(ステップS6−2)
【0136】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0137】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS11)。
【0138】
次いで、再生された擬似的な画像に対してさらにDCT処理を適用することによって、符号化画像を取り出す(ステップS12)。ここで取り出される符号化画像は、基底ベクトルのうち低周波数成分側の20番目までの成分Vj(j=1〜20)にビット・ストリームがマッピングされた8×8ブロックの擬似的な符号化画像である。
【0139】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのIDCT処理をスキップするか、又は、符号化画像を一旦IDCT処理してVTRが出力する擬似的な原画像に対して、さらにDCT処理を適用することによって、基底ベクトルのうち低周波数成分側の20番目までの成分Vj(j=1〜20)にビット・ストリームがマッピングされた8×8ブロックの擬似的な符号化画像を取り出すことができる。
【0140】
図4に示したVTR記録時には、N(=20)ビット毎に分割されたビット列のうちj番目のビット位置におけるビット値が、DCT符号化空間を構成する64個の基底ベクトルの低周波数側からj番目の成分Vj(j=1〜20)に順次マッピングされている。したがって、再生時には逆に、この基底ベクトルの低周波数成分側のj番目の成分Vj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置にマッピングする(ステップS13)。さらに、基底ベクトルの低周波数成分が順次マッピングされたこれらNビット毎のビット列をまとめることで、ビット・ストリームを作成する(ステップS14)。
【0141】
次いで、このビット・ストリームの再現性を検証する。この例では、図4のステップS2において生成した記録時のパリティ付きビット・ストリームと比較して、互いのエラー数をチェックする(ステップS15)。そして、エラー数が少ないかをチェックする(ステップS16)。
【0142】
ステップS14において作成されたビット・ストリームのエラー数が少なければ、ビット・ストリームは正しく再現されたものとして、この再生処理ルーチンを終了する。
【0143】
他方、ステップS14において作成されたビット・ストリームのエラー数が少なくない場合には、Nを1だけデクリメントして(ステップS17)、再現性が確保されるように、ビット・ストリームのマッピングに使用する基底ベクトルの成分をさらに低周波数成分側に制限する。そして、図4のステップS4に戻って、ビット・ストリームの記録処理を繰り返し実行する。
【0144】
なお、ステップS15及びS16におけるビット・ストリームの再現性の検証処理としては、エラー訂正用のパリティを使用する以外に、ビット・ストリームのマッピングに使用した基底ベクトルの成分のうち最も高周波数となる成分の値の確からしさによって検証する方法(前述)を適用することができる。
【0145】
図7には、上記のステップS13及びS14において、8×8ブロックの擬似的な符号化画像を構成する基底ベクトルのうち低周波数成分側のN個をビット・ストリーム中のNビットのデータにマッピングして、ビット・ストリームを作成するための処理手順をさらに詳細に示している。
【0146】
まず、8×8ブロックの画像をDCT処理して、擬似的な符号化空間を構成する基底ベクトルの64個の成分V1〜V64を求める(ステップS13−1)。先行するステップS12又はS13により既に擬似的なDCT符号化空間が得られている場合には当該ステップをスキップしてもよい。
【0147】
次いで、変数iに初期値1を代入する(ステップS13−2)。
【0148】
次いで、基底ベクトルの低周波数成分側のi番目の成分Viをチェックする(ステップS13−3,S13−4)。
【0149】
基底ベクトルのi番目の成分Viの値が0.5未満である場合には、作成しようとしているビット・ストリームのデータのi番目の値を0にする(ステップS13−5)。また、基底ベクトルのi番目の成分Viの値が0.5以上である場合には、作成しようとしているビット・ストリームのデータのi番目の値を0にする(ステップS13−6)。
【0150】
次いで、iがNに到達したかどうかをチェックする(ステップS13−7)。Nは、画像のDCT符号化空間の基底ベクトルを構成する64個の成分のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する変数である(前述)。
【0151】
iがまだNに到達していない場合には、ステップS13−8においてiを1だけインクリメントした後、ステップS13−3に戻り、基底ベクトルの低周波数成分側のi番目の成分からビット・ストリームの作成中のデータのi番目のビット値を求める処理を繰り返し実行する。
【0152】
また、iがNに到達した場合には、次ステップS14−1に進んで、作成されたNビットからなる各データをまとめて最終的なビット・ストリームとして出力する。
【0153】
また、図8及び図9には、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順の変形例をそれぞれフローチャートの形式で示している。図4及び図5に示した例ではビット・ストリームの各ビットをそれぞれDCT符号化空間を構成する基底ベクトルの1個の成分に逐次マッピングしているが、ビット・ストリームを10ビット毎に分割して得られるデータのパターンを、基底ベクトルの低周波数成分側の20個の成分V1〜V20で表現された20Ck通りのビット・パターンにマッピングするようにしている(但し、kは20個の基底ベクトルのうち1を代入するものの個数)。このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。以下、このフローチャートを参照しながら、この処理手順について説明する。
【0154】
まず、ビット・ストリームを入力する(ステップS21)。次いで、ビット・ストリームを、10ビットずつに分割する(ステップS23)。
【0155】
そして、この10ビット毎のデータのパターンを、DCT符号化空間を構成する基底ベクトルの低周波数成分側の20個の成分V1〜V20のなすビット・パターンにマッピングする(ステップS23)。
【0156】
20個の成分V1〜V20の中から任意の3個を選ぶ組み合わせ20C3は、(20×19×18)÷(3×2×1)=1140通りである。一方、ビット・ストリームの先頭の10個のデータのパターンは210=1024通りなので、これら1024個のパターンをそれぞれV1からV20の中の3個を選んだパターンに対応させることによって、ビット・ストリームの10個分のビット列を表現することができる。すなわち、選ばれた3個のVi(但し、i=1〜20)のみ成分に1を代入するとともに、残りの17個のViの成分を0に設定する。
【0157】
さらに、DCT符号化空間を構成する基底ベクトルの21番目以降の高周波数成分側の成分に0を代入することによって、8×8ブロックからなる擬似的な符号化画像を作成する(ステップS24)。
【0158】
ビット・ストリームを10個毎に分割して、10ビットのビット列の塊が(M’÷5280)個できたとすると、このような8×8ブロックが5280個集まってできる擬似的な符号化画像フレームがM’フレームだけ作成される。なお、ここでは1フレームは704画素×480画素よりなるとかていしている。すなわち、5280個の8×8ブロックより1フレームは構成されるとしている。この擬似的な符号化画像フレームを、通常の画像フレームをDCT符号化して得た圧縮画像とともに、VTRに記録する(ステップS25)
【0159】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのDCT処理をスキップするか、又は、ステップS24で生成された擬似的な符号化画像を一旦IDCT処理して擬似的な原画像にした後、VTRに投入して、DCT処理を経て記録するようにすればよい。
【0160】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0161】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS31)。
【0162】
次いで、再生された擬似的な画像に対してさらにDCT処理を適用することによって、ビット・ストリームの10ビット毎のデータのパターンが基底ベクトルの低周波数成分側の20個の成分V1〜V20によるビット・パターンにマッピングされた8×8ブロックの擬似的な符号化画像を取り出す(ステップS32)。
【0163】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのIDCT処理をスキップするか、又は、符号化画像フレームを一旦IDCT処理してVTRが出力する擬似的な原画像に対して、さらにDCT処理を適用することによって、基底ベクトルの低周波数成分側の20個の成分V1〜V20のなすビット・パターンにマッピングされた8×8ブロックの擬似的な符号化画像を取り出すことができる。
【0164】
図8に示した記録時には、ビット・ストリームを分割してできた各10個のビットによる1024個のデータ・パターンをそれぞれV1からV20の中の3個を選んだパターンに対応させて、ビット・ストリームの10ビットを表現することにより、ビット・ストリームをDCT符号化空間にマッピングさせている。したがって、再生時には逆に、DCT符号化空間の低周波数成分側のV1からV20までで表現されたデータ・パターンを基に、対応する10ビットのデータ・パターンを割り出す(ステップS33)。
【0165】
さらに、これらの10ビット毎のビット列をまとめることで、ビット・ストリームを作成して、本処理ルーチン全体を終了する(ステップS34)。
【0166】
第2の実施形態:
本発明は、VTR上に格納されている画像情報に関する編集データを同じVTR上に保存することによって、ユーザの便宜を図るものである。
【0167】
上述した本発明の第1の実施形態では、編集データからなるビット・ストリームの各ビットを、画像のDCT符号化空間を構成する基底ベクトルのうち低周波数成分側の成分にマッピングして、擬似的な符号化画像を生成することにより、DCT符号化圧縮してVTRに記録した際における再現性を最大限維持できるようにした。
【0168】
これに対し、本実施形態では、編集データからなるビット・ストリームを構成する各ビット位置における値を、画像フレーム中で対応する画素位置における1画素あるいはn×m画素ブロックの画素値としてマッピングして、一旦擬似的な画像フレームを生成して、さらにこの擬似画像フレームをDCT符号化圧縮してVTRに記録するようにした。ビット・ストリームの1ビットをn×m画素ブロックにマッピングすることは、記録密度を変換することに相当する。
【0169】
図10には、本実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示している。
【0170】
ビット・ストリームは、画像の編集データであり、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成される(前述)。
【0171】
ビット・ストリームの先頭(すなわち、第1番目)のデータが0である場合には、擬似的な画像フレーム上の第1画素目の値を0とし、また、1である場合にはこれを1とする。次いで、ビット・ストリームの第2番目のデータが0である場合には擬似的な画像フレームの第2画素目の値を0とし、1である場合にはこれを1とする。同様に、ビット・ストリームの第i番目のデータが0である場合には擬似的な画像フレームの第i画素目の値を0とし、1である場合にはこれを1とする。
【0172】
つまり、擬似的な画像フレームの1画素を使ってビット・ストリームの各1ビットの値をマッピングしていくことによって、ビット・ストリームを記録するための擬似的な画像フレームを完成させる。そして、VTRでは、この擬似画像をDCTにより符号化圧縮処理してからビデオ・テープに記録する。
【0173】
次いで、擬似画像フレームをDCTにより符号化圧縮して一旦記録した後、ビデオ・テープから再生し、さらにIDCTにより復号化伸張処理する。そして、各画素の値が0あるいは1にほぼ等しいかどうか、すなわちビット・ストリームの再現性をチェックしてみる。
【0174】
復号化伸張処理した画像フレームをチェックしてみて、例えば、「ある画素の成分として0.5前後の値が観測された」、あるいは、「ある画素の成分は1として記録したにもかかわらず、再生してみると0として観測された」という事態が検出されたならば、それは圧縮により各画素の値が信用できない値になったこと、すなわち圧縮符号化が不可逆であったことを意味する。
【0175】
ビット・ストリームを再現できなかった場合には、再現性を高めるために、ビット・ストリームの各ビットをマッピングする画素数を増やす。例えば、ビット・ストリームの各ビット位置の値を擬似画像フレーム中の2×2画素のブロックを使って記憶させる。言い換えれば、ビット・ストリームの1ビットを画像フレームにマッピングする密度を低下させる。
【0176】
より具体的に言えば、ビット・ストリームをマッピングする擬似画像フレームを2×2のブロックに分割するとともに、各ブロック内の全画素をビット・ストリームの1ビットの値を対応させる。例えば、ビット・ストリームの先頭(すなわち、第1番目)のデータが0である場合には、擬似画像フレーム中の第1番目の2×2ブロック内の4画素の値をすべて0とする。また1である場合には、第1番目の2×2ブロック内の4画素の値をすべて1とする。また、ビット・ストリームの第2番目のデータが0である場合には擬似画像フレーム中の第2番目の2×2ブロック内の4画素の値をすべて0とし、1である場合には第2番目の2×2ブロック内の4画素の値をすべて1とする。同様に、ビット・ストリームの第i番目のデータが0である場合には擬似画像フレーム中の第i番目の2×2ブロック内の4画素の値をすべて0とし、1である場合には第i番目の2×2ブロック内の4画素の値をすべて1とする。
【0177】
このように、ビット・ストリームの各1ビットを擬似画像フレームの1画素に割り当てるのではなく、2×2画素ブロックに1ビットを割り当てる(あるいは画素ブロックの画素数をさらに増大させていく)。この結果、作成される擬似画像は高周波数成分が抑えられた画像となるので、DCTによる高周波数成分の劣化の影響を受けずに済む。
【0178】
このようにして、ビット・ストリームから作成された擬似画像をVTRに記録しさらにVTRから再生すると、DCTによる符号化圧縮、並びにIDCTによる復号化伸張がそれぞれ1度ずつ行われるが、2×2画素ブロック毎に記録された画素の値はDCTによる高周波数成分の劣化の影響を受けずに復元することができる。そして、これら画素の値が0であるか1であるかにより、ビット・ストリーム内の対応するビット位置のデータが0か1であるかを再現することができる。ビット・ストリームの1ビットを2×2画素ブロックにマッピングしても、なお可逆性が保証されない場合には、マッピング時の密度をさらに低下させるようにしてもよい。
【0179】
図3に示した画像処理装置100は、本実施形態にも適用されるので、その装置構成についてはここでは説明しない。この画像処理装置100には、画像情報のソースであるVTRなどの画像記録装置が接続されている。そして、オリジナル画像が記録してあるテープをVTRで再生して取り込み、画像処理装置100上では画像編集を行うとともに、編集過程の画像編集データをこのVTR上に記録する。また、画像処理装置100は、画像圧縮・伸張時における不可逆性のために編集データが損なわれないようにするために、編集データのビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する(同上)。
【0180】
図11及び図12には、本実施形態において、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順をフローチャートの形式でそれぞれ示している。
【0181】
本実施形態では、ビット・ストリームを画像フレームにマッピングして、この擬似的に画像フレームをVTRに記録する。このとき、ビット・ストリームの1ビットにN×N画素の画素ブロックを割り当てることにより、高周波数成分が抑えられた画像を作成する。この結果、VTRに記録する際に、DCTによる高周波数成分の劣化の影響を受けずに済む。このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。ここで、変数Nは、ビット・ストリームの1ビットを画像フレームにマッピングするときの密度に相当する。
【0182】
以下、図11及び図12に示したフローチャートを参照しながら、本実施形態におけるビット・ストリームのVTRへの記録及び再生の処理手順について説明する。
【0183】
ビット・ストリームを入力すると(ステップS41)、まず、この入力ビット・ストリームに対してパリティ・ビットを付加して、エラー訂正可能なパリティ付きビット・ストリームを作成する(ステップS42)。但し、パリティの付加は本発明に必須の要件ではない。
【0184】
次いで、変数Nに初期値1を代入する(ステップS43)。この変数Nは、ビット・ストリームの1ビットをマッピングするのに使用するN×N画素ブロックのサイズを決定する。変数Nはビット・ストリームの1ビットを画像フレームにマッピングするときの密度に相当する。Nが大きくなるほど、画像フレームにマッピングされたデータは冗長となりメモリ効率が低下するが、作成される擬似画像フレームの高周波成分が抑えられるので、DCTによるデータの劣化の影響を受けずに済む。
【0185】
次いで、ビット・ストリームをマッピングするための擬似的な画像フレームをN×N画素ブロックの領域に分割していく(ステップS44)。そして、パリティ付きビット・ストリームを構成する各ビットの値を、N×N画素ブロック領域に対応付ける(ステップS45)。このとき、ビット・ストリーム側のビットが0であれば、対応するN×N画素ブロック内のすべての画素値を0にする。また、ビット・ストリーム側のビットが1であれば、対応するN×N画素ブロック内のすべての画素値を1にする。
【0186】
このようにして、パリティ付きビット・ストリームの各ビットを順次N×N画素ブロックに割り当てていくと、高周波成分が抑制された擬似的な画像フレームを作成することができる。この擬似的な画像フレームを、通常の画像フレームと同様に、VTRに記録する(ステップS46)。VTRに記録する際に、DCTによる高周波数成分の劣化の影響を受けずに済む。
【0187】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0188】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS51)。
【0189】
次いで、取り出した擬似的な画像フレームをN×N画素ブロックの領域に分割していく(ステップS52)。
【0190】
次いで、各N×N画素ブロックからビット値を再現して、これらをつなぎ合わせてビット・ストリームを作成する(ステップS53)。N×N画素ブロックからビット値を再現する際、ブロック内の画素値の平均を求め、平均値が0.5未満であれば0とし、0.5以上であれば1として、ビット・ストリームの対応するビット位置に書き込む。
【0191】
次いで、このビット・ストリームの再現性を検証する。この例では、図11のステップS42において生成した記録時のパリティ付きビット・ストリームと比較して、互いのエラー数をチェックする(ステップS54)。そして、エラー数が少ないかをチェックする(ステップS55)。
【0192】
ステップS43において作成されたビット・ストリームのエラー数が少なければ、ビット・ストリームは正しく再現されたものとして、この再生処理ルーチンを終了する。
【0193】
他方、ステップS53において作成されたビット・ストリームのエラー数が少なくない場合には、Nを1だけインクリメントして(ステップS56)、再現性が確保されるように、ビット・ストリームのマッピングに使用する基底ベクトルの成分をさらに低周波数成分側に制限する。Nをインクリメントすることは、ビット・ストリームのビットを画像フレームにマッピングするための密度を低下させることを意味する。そして、図11のステップS44に戻って、ビット・ストリームの記録処理を繰り返し実行する。
【0194】
Nを1だけインクリメントすることによって、画像フレームにマッピングされたデータの冗長度が増してメモリの使用効率が低下するが、作成される擬似画像フレームの高周波成分が抑えられるので、DCTによるデータの劣化の影響をさらに抑制することができる。
【0195】
第3の実施形態:
本発明は、VTR上に格納されている画像情報に関する編集データを同じVTR上に保存することによって、ユーザの便宜を図るものである。
【0196】
上述した本発明の第1の実施形態では、編集データからなるビット・ストリームの各ビットを基底ベクトルのうち低周波数成分側にマッピングした擬似的な符号化画像を生成することにより、VTRに記録した際における再現性を最大限維持できるようにした。また、第2の実施形態では、ビット・ストリームの1ビットにN×N画素の画素ブロックを割り当てることにより、高周波数成分が抑えられた画像を作成することにより、VTRに記録する際に、DCTによる高周波数成分の劣化の影響を抑制するようにした。
【0197】
要約すれば、上記の各実施形態においては、DCTによるデータの劣化の影響が少なくなるようにビット・ストリームを画像フレームにマッピングするための方法に関するものである。
【0198】
他方、動画像の画像圧縮技術においては、「動き補償(Motion Compensation:MC)」が導入される場合がある。この動き補償とは、連続する画像フレーム間で、データがどの方向へ動いたのかを考慮して圧縮・展開を行うものである。上述したDCTなどの直交変換は画像フレームにおける空間方向の冗長度を削減して圧縮を行うのに対して、動き補償は時間方向の冗長度を削減する。
【0199】
動き補償による圧縮では、時間的に連続する複数の画像をイントラ・ピクチャとノンイントラ・ピクチャの2つのグループに分ける。
【0200】
イントラ・ピクチャ(Intra−Picture)すなわちIピクチャに対しては、DCTなどの処理により、イントラ符号化(フレーム内予測)のみによる圧縮が行われる。
【0201】
他方、ノンイントラ・ピクチャに対しては、別の画像との相関を調べ、似ている部分との差分をとる。ノンイントラ・ピクチャは、動きの差分をとることにより、ほぼ0になるので、データ量を減らすことができる。ノンイントラ・ピクチャには、(Intra−Picture)フレーム間順方向予測により生成されるPピクチャ(Predictive−Picture)、フレーム間双方向予測により生成されるBピクチャ(Bidirectionallypredictive Picture)の2種類がある。
【0202】
ここで、上述した本発明の第1の実施形態又は第2の実施形態により編集データなどのビット・ストリームがマッピングされた擬似的な画像フレームに対して、動き補償による圧縮が適用された場合について考察してみる。
【0203】
動き補償による圧縮の過程で、擬似的な画像フレームがイントラ・ピクチャとして扱われる場合には、DCT処理が適用されるだけなので、上述した各実施形態で既に述べた手法を適用することにより、高周波成分による劣化の影響を抑制することができるので、符号化による不可逆性の問題を解消して、ビット・ストリームの再現性を最大限に維持することができる。
【0204】
これに対し、PピクチャやBピクチャなどのノンイントラ・ピクチャは、他の画像(ピクチャ)から似ている部分との差分をとっている。ビット・ストリームのデータにより作成された乱数的なデータである画像では、画像間で似ている部分はほとんどない。このため、擬似的な画像から他の画像との差分をとってもデータの冗長性を削除することが期待できないばかりか、ノンイントラ・ピクチャ内のデータも不正確になってしまい可逆性が著しく損なわれる。したがって、ノンイントラ・ピクチャとして処理された擬似的な画像フレームをVTRに記録した後、元のビット・ストリームを完全に再現できなくなると推測される。
【0205】
本発明の第3の実施形態は、ビット・ストリームをマッピングした擬似的な画像フレームがイントラ・ピクチャに割り当てられるようにすることで、動き補償が適用された画像フレームから元のビット・ストリームを最大限正確に取り出すことができるようにする。より具体的には、ビット・ストリームのデータをマッピングした擬似的な画像フレームを作成した後、この画像フレームを複数枚連続してVTRに記録することによって、イントラ・ピクチャにこの擬似的な画像フレームが割り当てられるようにする。
【0206】
動き補償を適用する画像圧縮器においては、イントラ・ピクチャが出現する周期Mを規定していることが多い。このような場合、周期に相当するM枚分だけ擬似的な画像フレームを連続させることによって、そのうちの1枚は必ずイントラ・ピクチャに割り当てられるので、この画像フレームを使うことで、データ削減による劣化のない状態でビット・ストリームを取り出すことができる。
【0207】
ビット・ストリームを画像フレームに変換してVTRに記録した後、VTRからビット・ストリームを再構築する際、VTRから再生される画像フレーム列のうち、時刻0から始まるM枚毎の画像からビット・ストリームを再構築する(但し、Mはイントラ・ピクチャの出現周期であることが好ましい)。また、時刻1から始まるM枚毎の画像からビット・ストリームを再構築する。また、時刻2から始まるM枚毎の画像からビット・ストリームを再構築する。以降同様に、時刻3から時刻M−1までのものに対してもビット・ストリームを再構築する。
【0208】
そして、これらM個の再構築されたビット・ストリームの中から最もエラーの少なかったビット・ストリームを選び出して、これをVTRから再現した結果として出力する。
【0209】
勿論、エラーの少ないビット・ストリームが再現されることが目的であり、必ずしもイントラ・ピクチャに割り当てられた画像フレームからビット・ストリームを再現しなければならないという訳ではない。
【0210】
また、ビット・ストリームのデータを画像データに直接マッピングする(第2の実施形態)のではなく、DCT符号化空間の基底ベクトルにビット・ストリームをマッピングした後、このDCT符号化画像をIDCT処理して擬似的な画像フレームを作成するようにした場合(第1の実施形態)であっても、本発明の第3の実施形態を適用することができる。
【0211】
図13には、本実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示している。
【0212】
ビット・ストリームは、画像の編集データであり、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成される(前述)。
【0213】
まず、ビット・ストリームの第i番目のデータが0である場合には擬似的な画像フレームの第i画素目の値を0とし、1である場合にはこれを1とする、という処理を繰り返し実行することによって、擬似的な画像フレームの1画素を使ってビット・ストリームの各1ビットの値をマッピングして、ビット・ストリームを記録するための擬似的な画像フレームを完成させる。
【0214】
ついで、作成された各画像フレームを複数枚連続させる。図13に示すVTRでは、イントラ・ピクチャが出現する周期Mが3に設定されている。この場合、イントラ・ピクチャとして圧縮される画像が2枚おきに現れるので、画像を3フレーム間隔で記録していけばよい。
【0215】
ビット・ストリームから作成された画像がA,B,C,及びDの計4枚あったとする。この場合、これら4枚のうち最初の画像Aを3回重複させて時刻0と1と2の画像とする。次いで、2枚目の画像Bも3回重複させて、時刻3と4と5の画像とする。以下同様に、3枚目の画像Cも3回重複させて時刻6と7と8の画像ととともに、最後の画像Dも3回重複させて時刻9と10と11の画像とする。この結果、合計12枚の連続する画像が生成されて、VTRに投入される。
【0216】
VTRでは、イントラ・ピクチャに対してDCT処理を行なうDCT器と、ノンイントラ・ピクチャに対して動き補償処理を行なうMC器が装備されている。そして、所定の周期M=3フレーム毎に入力画像をDCT器に接続してイントラ・ピクチャとしてDCT処理し、それ以外の入力画像についてはMC器に接続して動き補償処理してから、それぞれビデオ・テープに記録する。
【0217】
このようにVTRに記録すれば、周期M=3フレーム毎にイントラ・ピクチャが出現することから、「時刻0と3と6と9の4枚よりなる画像の組」、あるいは、「時刻1と4と7と10の4枚よりなる画像の組」、あるいは、「時刻2と5と8と11の4枚よりなる画像の組」というM=3通りの組み合わせのうちいずれか1つの組は、イントラ・ピクチャで構成されている。
【0218】
このように記録されたVTRからビット・ストリームのデータを復元するには、まず、記録時とは逆に、イントラ・ピクチャに対してはIDCT処理を行うとともにノンイントラ・ピクチャに対して動き補償処理を行なって、ビデオ・テープからこれら12枚の画像を再生する。
【0219】
そして、この12枚の画像を、「時刻0と3と6と9の4枚よりなる画像の組(以下、「第1の組」とする)」、「時刻1と4と7と10の4枚よりなる画像の組(以下、「第2の組」とする)」、「時刻2と5と8と11の4枚よりなる画像の組(以下、「第3の組」とする。)」という3つの画像フレームの組に分ける。
【0220】
次いで、ビット・ストリームを画像フレームにマッピングしたときとは逆の手順により、第1の組からビット・ストリームを復元することを試みる。このときのエラーを「第1のエラー」とする。次いで、第2の組からビット・ストリームを復元することを試み、このときのエラーを「第2のエラー」とする。同様に、第3の組からビット・ストリームを復元することを試み、このときのエラーを「第3のエラー」とする。
【0221】
次いで、これら第1、第2、3のエラーの中で最もエラーの小さかったものを選択する。そして、これに対応する画像フレームの組(第1あるいは第2あるいは第3の組)から実際にビット・ストリームのデータを復元すればよい。何故ならば、エラーが小さいということは、その組の画像はイントラ・ピクチャで構成されていたと推測され、正確にビット・ストリームを再現していると判断されるからである。勿論、ビット・ストリームを再現するにあたり、イントラ・ピクチャを用いて復元することよりも、エラーが最も小さい画像の組を使用することの方が重要である。
【0222】
なお、エラーの量は、以下のようにして計測できる。例えば、ビット・ストリームのデータにより画像フレーム内の画素に0又は1の値を割り当てることによって画像を作成してVTRに記録したとする。このような状況で、VTRを再生して、ある画素の値として0.5前後の値が観測された場合は、誤差が大きいと判断できる。あるいは、例えば、VTRに記録する際にビット・ストリームにパリティ・ビットを加えている場合、VTRを再生して、パリティ・エラーの起こる割合が大きければ、誤差が大きいと判断することができる。
【0223】
図3に示した画像処理装置100は、本実施形態にも適用されるので、その装置構成についてはここでは説明しない。この画像処理装置100には、画像情報のソースであるVTRなどの画像記録装置が接続されている。そして、オリジナル画像が記録してあるテープをVTRで再生して取り込み、画像処理装置100上では画像編集を行うとともに、編集過程の画像編集データをこのVTR上に記録する。また、画像処理装置100は、画像圧縮・伸張時における不可逆性のために編集データが損なわれないようにするために、編集データのビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する(同上)。
【0224】
図14及び図15には、本実施形態において、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順をフローチャートの形式でそれぞれ示している。
【0225】
本実施形態では、ビット・ストリームがマッピングされた画像フレームを複数枚連続してVTRに記録することによって、イントラ・ピクチャにこの擬似的な画像フレームが割り当てられるようにする。但し、ここでは、上述した第1の実施形態と同様にビット・ストリームをDCT符号化空間の基底ベクトルにマッピングするものとする。
【0226】
このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。以下、図14及び図15に示されている各フローチャートを参照しながら、この処理手順について説明する。
【0227】
ビット・ストリームを入力すると(ステップS61)、まず、この入力ビット・ストリームに対してパリティ・ビットを付加して、エラー訂正可能なパリティ付きビット・ストリームを作成する(ステップS62)。
【0228】
次いで、変数Nに初期値20を代入する(ステップS63)。この変数Nは、画像のDCT符号化空間の基底ベクトルを構成する成分64個のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する(図1を参照のこと)。
【0229】
次いで、パリティ付きビット・ストリームを、Nビットずつに分割する(ステップS64)。そして、分割された各Nビットのデータを、それぞれDCT符号化空間の基底ベクトルのうち低周波数側のN個の成分にマッピングしていき、さらに、DCT符号化空間を構成する基底ベクトルのN+1番目以降の高周波数側の成分に0を代入することによって、8×8ブロックからなる擬似的な符号化画像を作成する。なお、VTR内部でイントラ・ピクチャに対してDCT処理を行なうのが一般的であるが、このVTR内部でのDCT処理をスキップさせることができない場合には、上述した第1の実施形態と同様に、上記の擬似的な符号化画像を一旦IDCT処理して擬似的な原画像にする(ステップS65)。
【0230】
上記のステップS65において、ビット・ストリームのNビットのデータをマッピングして8×8ブロックの擬似的な符号化画像を生成するための処理は図6にフローチャートの形式で示した手順に従って行なうことができる。
【0231】
ビット・ストリームをN個毎に分割して、Nビットのビット列の塊が(K÷5280)個できたとすると、このような8×8ブロックが5280個集まってできる擬似的な符号化画像フレームがKフレームだけ作成される。なお、ここでは、1フレームは704画素×480画素よりなると仮定している。すなわち、5280個の8×8ブロックより1フレームは構成されるとしている(ステップS66)。
【0232】
次いで、K枚の各画像フレームを、動き補償においてイントラ・ピクチャが出現する周期Mに相当する数だけ連続させて、時刻0から時刻M×K−1までの合計M×K枚の画像を作成して、VTRに記録する(ステップS67)。但し、時刻3i−2,3i−2,3i−1(i=0〜K)の画像は、ステップS66により作成された第i番目の画像とまったく同じ画像である。また、VTRでは、周期M毎にイントラ・ピクチャとして画像をDCT処理し、その他の画像は動き補償処理を適用する。
【0233】
次いで、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS68)。すなわち、時刻0から時刻M×K−1までの画像を取り出す。
【0234】
ここで、エラー・チェックのために使用する変数pに初期値0を代入する(ステップS69)。変数p(=0〜M−1)は、ビット・ストリームをマッピングした画像フレームをイントラ・ピクチャに割り当てるために形成された画像の組を指定するために使用される。
【0235】
VTR記録時には、N(=20)ビット毎に分割されたビット列のうちj番目のビット位置におけるビット値が、DCT符号化空間を構成する64個の基底ベクトルの低周波数側からj番目の成分Vj(j=1〜20)に順次マッピングされている。また、イントラ・ピクチャの周期Mに相当する間隔で、時刻p、M+p、2M+p、…、M×(K−1)+pの画像からなる第pの画像の組が形成されている。
【0236】
したがって、再生時には、第pの画像の組すなわち時刻p、M+p、2M+p、…、M×(K−1)+pの画像をそれぞれ8×8ブロックに分割して、それぞれ基底ベクトルの低周波数成分側のj番目の成分Vj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置にマッピングする。さらに、基底ベクトルの低周波数成分が順次マッピングされたこれらNビット毎のビット列をまとめることで、ビット・ストリームを作成する(ステップS70)。
【0237】
上記のステップS70において、時刻p、M+p、2M+p、…、M×(K−1)+pの画像の組からビット・ストリームを生成するための処理は図7にフローチャートの形式で示した手順に従って行なうことができる。
【0238】
次いで、ステップS62において生成した記録時のパリティ付きビット・ストリームと比較して、互いのエラー数をチェックする(ステップS71)。そして、エラー数が少ないかをチェックする(ステップS72)。
【0239】
ステップS72において作成されたビット・ストリームのエラー数が少なければ、ビット・ストリームは正しく再現されたものとして、このVTR記録処理ルーチンを終了する。
【0240】
他方、ステップS72において作成されたビット・ストリームのエラー数が少なくない場合には、pを1だけインクリメントして(ステップS73)、pがイントラ・ピクチャの周期すなわち同じ画像の連続枚数M未満かどうかをチェックする(ステップS74)。
【0241】
pがM未満であれば、ステップS70に戻り、次の第p番目の画像の組を用いてビット・ストリームを作成し、そのエラー・チェックを繰り返し実行する。
【0242】
また、pがMに到達した場合には、Nを1だけデクリメントして(ステップS75)、再現性が確保されるように、ビット・ストリームのマッピングに使用する基底ベクトルの成分をさらに低周波数成分側に制限する。そして、ステップS64に戻って、ビット・ストリームの記録処理を改めて実行する。
【0243】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0244】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS81)。すなわち、時刻0から時刻M×K−1までの画像を取り出す。
【0245】
ここで、エラー・チェックのために使用する変数pに初期値0を代入する(ステップS82)。変数p(=0〜M−1)は、ビット・ストリームをマッピングした画像フレームをイントラ・ピクチャに割り当てるために形成された画像の組を指定するために使用される。
【0246】
VTR記録時には、N(=20)ビット毎に分割されたビット列のうちj番目のビット位置におけるビット値が、DCT符号化空間を構成する64個の基底ベクトルの低周波数側からj番目の成分Vj(j=1〜20)に順次マッピングされている。また、イントラ・ピクチャの周期Mに相当する間隔で、時刻p、M+p、2M+p、…、M×(K−1)+pの画像からなる第pの画像の組が形成されている。
【0247】
したがって、再生時には、第pの画像の組すなわち時刻p、M+p、2M+p、…、M×(K−1)+pの画像をそれぞれ8×8ブロックに分割して、それぞれ基底ベクトルの低周波数成分側のj番目の成分Vj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置にマッピングする。さらに、基底ベクトルの低周波数成分が順次マッピングされたこれらNビット毎のビット列をまとめることで、第p番目のビット・ストリームを作成する(ステップS83)。
【0248】
上記のステップS83において、時刻p、M+p、2M+p、…、M×(K−1)+pの画像の組からビット・ストリームを生成するための処理は図7にフローチャートの形式で示した手順に従って行なうことができる。
【0249】
次いで、この第p番目のビット・ストリームに対して、パリティ・エラーの量をチェックする(ステップS84)。このエラー量を「第p番目のエラー量」とする。
【0250】
次いで、pを1だけインクリメントして(ステップS85)、pがイントラ・ピクチャの周期すなわち同じ画像の連続枚数M未満かどうかをチェックする(ステップS86)。
【0251】
pがM未満であれば、ステップS83に戻り、次の第p番目の画像の組を用いてビット・ストリームを作成し、そのエラー量の検出を繰り返し実行する。
【0252】
また、pがMに到達した場合には、第0番目から第(M−1)番目のエラー量の中で最もエラー量が小さくなるものの番号pminを選択する。エラーが最も小さくなる第pmin番目の画像の組は、イントラ・ピクチャで構成されていたと推測される。
【0253】
そして、最もエラー量が小さくなる第pmin番目の画像の組によって生成される第pmin番目のビット・ストリームを、パリティ付きのビット・ストリームであると推定して、エラー訂正を行い、訂正後のビット・ストリームを出力する(ステップS87)。
【0254】
エラーが小さい画像の組はイントラ・ピクチャで構成されていたと推測されるが、勿論、ビット・ストリームを再現するにあたり、イントラ・ピクチャを用いて復元することよりも、エラーが最も小さい画像の組を使用することの方が重要である。
【産業上の利用可能性】
【0255】
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
【図面の簡単な説明】
【0256】
【図1】DCTにより変換符号化された符号化空間の構成を模式的に示した図である。
【図2】本発明の第1の実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示した図である。
【図3】本実施形態に適用可能な画像処理装置100のハードウェア構成を模式的に示した図である。
【図4】画像編集データとしてのビット・ストリームをVTRに記録するための処理手順をフローチャートの形式で示した図である。
【図5】画像編集データとしてのビット・ストリームをVTRから再生するための処理手順をフローチャートの形式で示した図である。
【図6】図4に示したフローチャート中のステップS5及びS6における、ビット・ストリームのNビットのデータをマッピングして8×8ブロックの擬似的な符号化画像を生成するための処理手順をさらに詳細に示したフローチャートである。
【図7】図5に示したフローチャート中のステップS14及びS15において、8×8ブロックの擬似的な符号化画像を構成する基底ベクトルのうち低周波数成分側のN個をビット・ストリーム中のNビットのデータにマッピングして、ビット・ストリームを作成するための処理手順をさらに詳細に示したフローチャートである。
【図8】画像編集データとしてのビット・ストリームをVTRに記録するための処理手順の変形例をフローチャートの形式で示した図である。
【図9】画像編集データとしてのビット・ストリームをVTRから再生するための処理手順の変形例をフローチャートの形式で示した図である。
【図10】本発明の第2の実施形態における、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示した図である。
【図11】本発明の第2の実施形態における、画像編集データとしてのビット・ストリームをVTRに記録するための処理手順を示したフローチャートである。
【図12】本発明の第2の実施形態における、VTRから再生してビット・ストリームを取得するための処理手順を示したフローチャートである。
【図13】本発明の第3の実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示した図である。
【図14】本発明の第3の実施形態における、画像編集データとしてのビット・ストリームをVTRに記録するための処理手順を示したフローチャートである。
【図15】本発明の第3の実施形態における、VTRから再生してビット・ストリームを取得するための処理手順を示したフローチャートである。
【符号の説明】
【0257】
100…画像処理装置
101…CPU,102…メモリ
103…ディスプレイ・コントローラ
104…入力機器インターフェース
105…ネットワーク・インターフェース
107…外部機器インターフェース,108…バス
109…VTRインターフェース
111…ディスプレイ
112…キーボード,113…マウス
114…ハード・ディスク装置
115…メディア・ドライブ
【技術分野】
【0001】
本発明は、情報の蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化する情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに係り、特に、動画などの画像情報のための情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに関する。
【0002】
さらに詳しくは、本発明は、ビデオ・テープなどの特定の記録媒体上に格納されている画像情報に関する編集情報を蓄積したり伝送するために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化する情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに係り、特に、編集情報を元の画像情報と同じ記録媒体上に蓄積したり、同様の方式で転送したりする情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムに関する。
【背景技術】
【0003】
一般に、映像信号の保存にはVTR(ビデオ・テープ・レコーダ)などの画像記録装置が使用される。また、放送局や映画制作会社などでは、編集作業を行う画像編集装置には、画像情報のソースであるVTRなどの画像記録装置が接続されている。例えば、オリジナル画像が記録してあるテープをVTRで再生して、オリジナル画像を画像編集装置に取り込む。そして、画像編集装置上で画像を編集し、最終的に得たい画像を得る。最終的な画像はVTRに記録される。このように、画像編集装置にはVTRが必要不可欠である。
【0004】
さて、画像編集は、長い時間かけて、ユーザにより行われる。もし編集過程において編集装置に不具合が生じてしまい、それまでに行なわれた編集データがすべて消失してしまうと、ユーザは最初から編集作業をやり直さなければならなくなる。このような事態を避けるために、編集過程の情報を同じVTR上に記録する(すなわち、データをバックアップする)ということが一般的に行われている。
【0005】
ここで、画像の編集データは、画像データそのものではなく、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成されるビット・ストリームである。
【0006】
勿論、この編集過程の情報であるビット・ストリームを、VTR(若しくは、元の画像情報と同じ画像記録装置)ではなく別のデータ記録装置(例えば、フレキシブル・ディスクなど)に記録してもよい。しかしながら、画像編集装置にはせっかくVTRが接続されており、このVTRを使用すれば他の記録装置を別途用意する必要がなくなるので、ビット・ストリームをそのままVTRへ記録したいという、ユーザからの強い要望がある。VTRに編集データを保存することは、画像データと同じ場所に編集データを置くことを意味し、編集データの保管場所が分からなくなる(データが行方不明になる)という不都合も回避することができる。
【0007】
ところで、画像データは一般にデータ・サイズが膨大である。このため、近年のVTRには画像圧縮技術を利用しているものが多い。ここで、「圧縮」とは、データの冗長性を削除して、ファイルやデータのサイズを小さくすることを言い、「画像圧縮」は画像データに特化した圧縮を行う技術のことである。すなわち、画像を圧縮(エンコード)することで、同じ長さのビデオ・テープ上にはより多くの画像を記録することができるようになる。また、圧縮されたデータを伸張(デコード)すると、圧縮(エンコード)前の画像とほとんど見分けがつかない画像を復元できる。
【0008】
画像圧縮技術は、
(1)テープの消費量を抑えることができる。
(2)記録して再生したとき、すなわち圧縮と伸張を行ったとき、オリジナル画像と見分けのつかない画像を再生できる。
という2つのメリットがあるため、多くのVTRに採用されるようになった。
【0009】
画像圧縮には、一般に、時間軸を周波数軸に置き換えるDCT(Discreet Cosine Transform)処理が適用される。DCT自体は単なる座標軸の変換であるが、変換することによって信号電力の大きい周波数領域と少ない周波数領域に分けて重み付け量子化することにより、データ量を削減することができる。
【0010】
この種の画像圧縮符号化の他の特徴として、不可逆変換であること、すなわち復号化しても完全に元のデータが完全に再現される保証がないということが挙げられる。但し、元の画像が完全に再現されなくても、目視で認識できない程度の画像劣化であれば、特に問題とはならない。
【0011】
ところが、先に述べた画像編集データのようなバイナリ・データのビット・ストリームをVTRに保存する場合には大いに問題がある。何故なら、バイナリ・データのビット・ストリームは、0と1が乱数的に出現するデータ列であるが、少なくとも一部のビット位置において値が入れ替わるだけでも、データ列全体が編集データとしてはまったく意味を持たなくなってしまう。
【0012】
編集データを画像に特化した圧縮方法により圧縮並びに伸張処理を適用すると、その不可逆性のために幾つかのデータは正しく再生されなくなる。つまり、0というデータをVTRに記録して再生すると1になることが起こり得る。また、その逆も起こり得る。このような不可逆性は、画像情報の再生には問題とはならないが、編集データにとっては致命的なのである。
例えば、画像形式以外のデータを画像形式のデータと同様に且つ同じメディアに記録・再生するファイルデータの記録方法について提案がなされている(例えば、特許文献1を参照のこと)。しかしながら、この方法では、VTRに記録する際にはDCT方式による圧縮処理を経なければならず、また、VTRから再生する際にはDCT方式による伸張処理を経なければ元のファイルデータを構築することができない、という問題がある。
【特許文献1】特開平11−266434号公報
【発明の開示】
【発明が解決しようとする課題】
【0013】
本発明の目的は、動画などの画像情報の蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することにある。
【0014】
本発明のさらなる目的は、ビデオ・テープなどの特定の記録媒体上に格納されている画像情報に関する編集情報を蓄積したり伝送するために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することにある。
【0015】
本発明のさらなる目的は、編集情報を元の画像情報と同じ記録媒体上に蓄積したり、同様の方式で転送したりすることができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することにある。
【課題を解決するための手段】
【0016】
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、第1のデータ実空間上の第1のデータを、第2のデータ実空間を符号化してなる第2のデータ符号化空間にマッピングするマッピング手段又はステップを備える、
ことを特徴とする情報符号化装置又は情報符号化方法である。
【0017】
ここで、第2のデータ実空間上のデータは、例えば、動画像などの画像データである。このような場合、第2のデータ符号化空間は、画像データを離散コサイン変換(DCT)してなるDCT符号化空間である。DCT符号化空間は、低周波数から高周波数に至る各周波数帯の成分をそれぞれ表す所定個数(例えば、8×8=64個)の基底ベクトルからなる。
【0018】
また、第1のデータは、画像データに対する編集情報であり、ビット・ストリームで構成される。このような場合、前記マッピング手段又はステップは、該ビット・ストリームのビット値を第2の符号化空間を構成する基底ベクトルにマッピングすることができる。
【0019】
本発明の第1の側面に係る情報符号化装置又は情報符号化方法は、第2のデータ符号化空間上の符号化データを記録する記録手段又はステップをさらに備えていてもよい。記録手段又はステップは、例えば、動画像を記録するVTR(ビデオ・テープ・レコード)などであり、画像データをDCTなどにより符号化圧縮してから記録するようになっている。
【0020】
このように記録手段又はステップが、元の画像データを符号化圧縮されたデータを記録するように構成されている場合には、本発明の第1の側面に係る情報符号化装置又は情報符号化方法は、前記マッピング手段又はステップにより第1のデータ実空間上の第1のデータが第2のデータ符号化空間にマッピングされた擬似的な符号化データを復号化して第2のデータ実空間上の擬似的な第2のデータを生成する擬似データ復号化手段又はステップをさらに備えていればよい。このようにすれば、前記記録手段又はステップでは、この擬似的な第2のデータを符号化してから第2のデータ符号化空間にマッピングされた状態で第1のデータを記録することができる。
【0021】
既に述べたように、近年のVTRの多くは画像圧縮技術を採用しているが、編集データなどのビット・ストリームをそのままVTRに保存した場合、圧縮〜伸張時の不可逆性のために、元の編集データを再現できなくなってしまう可能性がある。
【0022】
そこで、本発明の第1の側面に係る情報符号化装置又は情報符号化方法では、再現性を保つために、編集データなどのビット・ストリームをVTRに記録する際には、画像圧縮符号化により変換される符号化空間上にビット・ストリームの各データをマッピングした画像フレームを作成して、この画像をVTRに記録する。すなわち、編集データなどのビット・ストリームを記録する際には、同じ圧縮変換方法で用いられる変換の基底ベクトルの組み合わせパターンに、ビット・ストリームのデータのパターンをマッピングした擬似的な符号化画像を作成して、この符号化画像をVTRに記録する。
【0023】
ビット・ストリームをDCT符号化空間にマッピングする際、自然画像では低周波数成分に集中し高周波数成分が丸め込まれるという符号化圧縮の特性を考慮して、低周波数成分側の所定個数までの各基底ベクトル、例えば低周波数成分側から20個までを使用してビット・ストリームの各データをマッピングすることによって、復号化伸張時におけるビット・ストリームの再現性の維持を図ることができる。
【0024】
ここで、前記マッピング手段により第2のデータ符号化空間にマッピングされた擬似的な符号化データを復号化してエラーを検出するエラー検出手段又はステップと、該エラー検出結果に応じて、使用する基底ベクトルの周波数帯域を調整する周波数帯域調整手段又はステップとをさらに備えていてもよい。
【0025】
例えば、ビット・ストリームのマッピングに使用した最も高周波数成分の基底ベクトルにおける再現性をチェックして、エラーが検出されたならば、可逆性が保証されないことになるので、マッピングに使用する基底ベクトルをより低周波数成分に限定することにより、再現性の維持を図るようにする。
【0026】
あるいは、第2の符号化空間のうち低周波数成分側の所定個数までの各基底ベクトルに対してビット・ストリームの各ビットの値を順次マッピングしていく代わりに、ビット・ストリーム中の連続するnビットの値を、前記第2の符号化空間のうち低周波数成分側のm個の基底ベクトルのうちk個に1を代入するとともに残りのm−k個に0を代入して表現されたビット・パターンにマッピングするようにしてもよい(但し、2n<mCk)。
【0027】
例えば第2の符号化空間を構成する20個の基底ベクトルのうち任意の3個を選ぶ組み合わせ20C3は、(20×19×18)÷(3×2×1)=1140通りである。一方、ビット・ストリームを構成する10ビットのデータ・パターンは210=1024通りなので、これら1024個のパターンの1つずつを、20個の基底ベクトルの中の3個を選んだパターンに対応させることによって、ビット・ストリームの20個分のビット列を表現することができる。すなわち、選ばれた3個の基底ベクトルのみ成分に1を代入するとともに、残りの17個の基底ベクトルの成分を0に設定する。
【0028】
また、本発明の第2の側面は、第1のデータ実空間上の第1のデータが第2のデータ実空間を符号化した第2のデータ符号化空間にマッピングされてなる符号化データを第1のデータ実空間上に復号化する復号化手段又はステップを備える、
ことを特徴とする情報復号化装置又は情報復号化方法である。
【0029】
本発明の第2の側面に係る情報復号化装置又は情報復号化方法によれば、本発明の第1の側面に係る情報符号化装置又は情報符号化方法に対応した復号化処理を行なうことができる。
【0030】
すなわち、本発明の第1の側面に係る情報符号化装置又は情報符号化方法では、第1のデータを構成するビット・ストリームのビット値を第2の符号化空間を構成する基底ベクトルにマッピングされているので、前記復号化手段又はステップは、基底ベクトルにマッピングされたビット値をビット・ストリームに再マッピングするようにすればよい。
【0031】
例えば、前記第2の符号化空間のうち低周波数成分側の所定個数までの各基底ベクトルに対して該ビット・ストリームの各ビットの値が順次マッピングされている場合には、前記復号化手段は又ステップは、基底ベクトルにマッピングされたビット値を順次ビット・ストリームに再マッピングするようにすればよい。
【0032】
あるいは、ビット・ストリーム中の連続するnビットの値が前記第2の符号化空間のうち低周波数成分側のm個の基底ベクトルのうちk個に1を代入するとともに残りのm−k個に0を代入して表現されたビット・パターンにマッピングされている場合には(但し、2n<mCk)、前記復号化手段は又ステップは、m個の基底ベクトルにより表現されたビット・パターンをビット・ストリームの連続するnビットの値に再マッピングするようにすればよい。
【0033】
また、本発明の第3の側面は、第1のデータ実空間上の第1のデータを第2の密度を以って第2のデータ実空間に変換するマッピング手段又はステップを備える、
ことを特徴とする情報符号化装置又は情報符号化方法である。
【0034】
ここで、第2のデータ実空間上のデータは動画像などの画像データである。また、第1のデータは、画像データに対する編集情報であり、ビット・ストリームで構成される。
【0035】
本発明の第3の側面に係る情報符号化装置又は情報符号化方法は、第1のデータがマッピングされた第2のデータ実空間上の擬似的な第2のデータを符号化して記録する記録手段又はステップをさらに備えていてもよい。記録手段又はステップは、例えば、動画像を記録するVTR(ビデオ・テープ・レコード)などであり、画像データをDCTなどにより符号化圧縮してから記録するようになっている。
【0036】
既に述べたように、近年のVTRの多くは画像圧縮技術を採用しているが、編集データなどのビット・ストリームをそのままVTRに保存した場合、圧縮〜伸張時の不可逆性のために、元の編集データを再現できなくなってしまう可能性がある。
【0037】
そこで、本発明の第3の側面に係る情報符号化装置又は情報符号化方法では、再現性を保つために、編集データなどのビット・ストリームをVTRに記録する際には、ビット・ストリームを第2の密度を以って画像フレームの画素にマッピングし、この擬似的な画像フレームを通常の画像フレームと同様に符号化圧縮してVTRに記録するようにした。
【0038】
さらに、ビット・ストリームがマッピングされた擬似的な画像フレームに対して符号化及び復号化処理を経た後、ビット・ストリームの復元を試みて、エラーを検出して、エラーが発生しないようにビット・ストリームを画像フレームにマッピングする密度を調整することができる。
【0039】
例えば、ビット・ストリームを構成する各ビット位置における値を、画像フレーム中で対応する画素位置における1画素あるいはn×n画素ブロックの画素値としてマッピングして、一旦擬似的な画像フレームを生成して、さらにこの擬似画像フレームをDCT符号化圧縮してVTRに記録する。
【0040】
そして、符号化及び復号化を経た後、ビット・ストリームを再現することができなかった場合には、再現性を高めるために、ビット・ストリームの各ビットをマッピングする画素数を増やす。例えば、ビット・ストリームの各ビット位置の値を擬似画像フレーム中の(n+1)×(n+1)画素のブロックを使って記憶させる。このように、ビット・ストリームの各1ビットを、より多くの画素数からなるブロックに割り当てることにより、作成される擬似画像は高周波数成分が抑えられた画像となるので、DCTによる高周波数成分の劣化の影響を受けずに済む。
【0041】
また、本発明の第4の側面は、第1のデータ実空間上の第1のデータを第2の密度を以って第2のデータ実空間に変換されてなる符号化データを第1のデータ実空間上に第2の密度の逆数を以って逆変換する復号化手段又はステップを備える、
ことを特徴とする情報復号化装置又は情報復号化方法である。
【0042】
本発明の第4の側面に係る情報復号化装置又は情報復号化方法によれば、本発明の第3の側面に係る情報符号化装置又は情報符号化方法に対応した復号化処理を行なうことができる。
【0043】
すなわち、本発明の第3の側面に係る情報符号化装置又は情報符号化方法では、ビット・ストリームの各ビットが第2の密度を以って画像フレームにマッピングされているので、前記復号化手段又はステップは、画像フレーム中の画素値を第2の密度の逆数を以って再マッピングするようにすればよい。
【0044】
例えば、ビット・ストリームの各ビット値が第2のデータ実空間をn×n画素毎に分割されたブロックにマッピングされている場合には、前記復号化手段は又ステップは、第2のデータ実空間上の各n×n画素ブロックの画素値を第1のデータ実空間上に再マッピングするようにすればよい。
【0045】
また、本発明の第5の側面は、画像以外の第1のデータを符号化する情報符号化装置又は情報符号化方法であって、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段又はステップと、
該擬似的な画像フレームを複数枚連続させる、擬似画像フレーム複製手段又はステップと、
を具備することを特徴とする情報符号化装置又は情報符号化方法である。
【0046】
ここで、第1のデータは画像データの編集データなどであり、ビット・ストリームで構成される。そして、前記マッピング手段又はステップは、該ビット・ストリームのビット値を画像フレームの画素に所定の密度を以ってマッピングすることができる。
【0047】
あるいは、前記マッピング手段又はステップは、画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルに該ビット・ストリームのビット値をマッピングすることができる。
【0048】
また、本発明の第5の側面に係る情報符号化装置又は情報符号化方法は、各擬似的な画像フレームが複数枚連続してなる画像フレーム群を動き補償する擬似画像フレーム符号化手段又はステップをさらに備えていてもよい。
【0049】
動画像の画像圧縮技術においては、「動き補償(Motion Compensation:MC)」が導入される場合がある。動き補償による圧縮では、時間的に連続する複数の画像をイントラ・ピクチャとノンイントラ・ピクチャの2つのグループに分ける。
【0050】
ここで、編集データなどのビット・ストリームがマッピングされた擬似的な画像フレームをノンイントラ・ピクチャとして扱った場合、擬似的な画像から他の画像との差分をとってもデータの冗長性を削除することが期待できないばかりか、ノンイントラ・ピクチャ内のデータも不正確になってしまい可逆性が著しく損なわれる。このため、ノンイントラ・ピクチャとして処理された擬似的な画像フレームをVTRに記録した後、元のビット・ストリームを完全に再現できなくなる。
【0051】
そこで、本発明の第5の側面に係る情報符号化装置又は情報符号化方法においては、ビット・ストリームをマッピングした擬似的な画像フレームがイントラ・ピクチャに割り当てられるようにすることで、動き補償が適用された画像フレームから元のビット・ストリームを最大限正確に取り出すことができるようにする。より具体的には、ビット・ストリームのデータをマッピングした擬似的な画像フレームを作成した後、この画像フレームを複数枚連続してVTRに記録することによって、イントラ・ピクチャにこの擬似的な画像フレームが割り当てられるようにする。
【0052】
動き補償を適用する画像圧縮器においては、イントラ・ピクチャが出現する周期Mを規定していることが多い。このような場合、周期に相当するM枚分だけ擬似的な画像フレームを連続させることによって、そのうちの1枚は必ずイントラ・ピクチャに割り当てられるので、この画像フレームを使うことで、データ削減による劣化のない状態でビット・ストリームを取り出すことができる。
【0053】
また、本発明の第6の側面は、第1のデータを画像フレームにマッピングして生成された擬似的な各画像フレームを複数枚連続させてなる擬似的な画像フレーム群が動き補償により符号化された擬似的な符号化画像から第1のデータを復号化する情報復号化装置又は情報復号化方法であって、
擬似的な符号化画像を動き補償により復号化して擬似的な画像フレーム群を作成する復号化手段又はステップと、
該復号化された画像フレーム群からMフレーム間隔で画像フレームを取り出して画像フレームの組を形成して、各画像フレームの組毎に画像フレームを第1のデータに再マッピングする再マッピング手段又はステップと、
各画像フレームの組についての再マッピングの結果をエラー検証して、最もエラーの少ない再マッピング結果を復号化された第1のデータとして出力する出力手段又はステップと、
を具備することを特徴とする情報復号化装置又は情報復号化方法である。
【0054】
本発明の第6の側面に係る情報復号化装置又は情報復号化方法によれば、本発明の第5の側面に係る情報符号化装置又は情報符号化方法に対応した復号化処理を行なうことができる。
【0055】
すなわち、ビット・ストリームを画像フレームに変換してVTRに記録した後、VTRからビット・ストリームを再構築する際、VTRから再生される画像フレーム列のうち、時刻0から始まるM枚毎の画像からビット・ストリームを再構築する(但し、Mはイントラ・ピクチャの出現周期であることが好ましい)。また、時刻1から始まるM枚毎の画像からビット・ストリームを再構築する。また、時刻2から始まるM枚毎の画像からビット・ストリームを再構築する。以降同様に、時刻3から時刻N−1までのものに対してもビット・ストリームを再構築する。
【0056】
そして、これらN個の再構築されたビット・ストリームの中から最もエラーの少なかったビット・ストリームを選び出して、これをVTRから再現した結果として出力する。最もエラーの少なかったビット・ストリームは、イントラ・ピクチャに割り当てられたM枚置きの画像フレームの組から再現されたものと推測される。勿論、エラーの少ないビット・ストリームが再現されることが目的であり、必ずしもイントラ・ピクチャに割り当てられた画像フレームから再現しなければならないという訳ではない。
【0057】
また、本発明の第7の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、
画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルのうち所定の周波数帯又は所定個数の基底ベクトルに対して、符号化対象となる情報を構成するビット・ストリームのビットをマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な符号化画像に対して、復号化/符号化を行なった後、該擬似的な符号化画像を構成する各基底ベクトルを再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームのマッピングに使用する基底ベクトルの周波数帯又は個数を調整する周波数帯調整ステップと、
を具備することを特徴とする記憶媒体である。
【0058】
また、本発明の第8の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、
符号化対象となる情報を構成するビット・ストリームのビットを所定の密度を以って画像フレーム上の画素にマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な画像フレームの画素を前記所定の密度の逆数を以って再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームを画像フレームにマッピングするときの密度を調整する密度調整ステップと、
を具備することを特徴とする記憶媒体である。
【0059】
また、本発明の第9の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、
符号化対象となる情報を画像フレームにマッピングして擬似的な画像フレームを作成するマッピング・ステップと、
該擬似的な画像フレームをそれぞれM枚連続させる擬似画像フレーム複製ステップと、
各擬似的な画像フレームがM枚連続してなる画像フレーム群をMフレーム周期でイントラ・ピクチャを挿入して動き補償する擬似画像フレーム符号化ステップと、
該符号化された擬似的な画像フレームを動き補償により復号化して擬似的な画像フレーム群を作成する復号化ステップと、
該復号化された画像フレーム群からMフレーム間隔で画像フレームを取り出して画像フレームの組を形成して、各画像フレームの組毎に画像フレームを第1のデータに再マッピングする再マッピング・ステップと、
各画像フレームの組についての再マッピングの結果をエラー検証して、最もエラーの少ない再マッピング結果を復号化された第1のデータとして出力する出力ステップと、
を具備することを特徴とする記憶媒体である。
【0060】
本発明の第7乃至第9の各側面の各側面に係る記憶媒体は、例えば、さまざまなプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ・ソフトウェアをコンピュータ可読な形式で提供する媒体である。このような媒体は、例えば、DVD(Digital Versatile Disc)、CD(Compact Disc)やFD(Flexible Disk)、MO(Magneto−Optical disc)などの着脱自在で可搬性の記憶媒体である。あるいは、ネットワーク(ネットワークは無線、有線の区別を問わない)などの伝送媒体などを経由してコンピュータ・ソフトウェアを特定のコンピュータ・システムに提供することも技術的に可能である。
【0061】
本発明の第7乃至第9の各側面に係る記憶媒体は、コンピュータ・システム上で所定のコンピュータ・ソフトウェアの機能を実現するための、コンピュータ・ソフトウェアと記憶媒体との構造上又は機能上の協働的関係を定義したものである。換言すれば、本発明の第7乃至第9の各側面に係る記憶媒体を介して所定のコンピュータ・ソフトウェアをコンピュータ・システムにインストールすることによって、コンピュータ・システム上では協働的作用が発揮され、本発明の第1、第3、第5の各側面に係る情報符号化装置又は情報符号化方法とそれぞれ同様の作用効果を得ることができる。
【0062】
また、本発明の第10の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・プログラムであって、
画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルのうち所定の周波数帯の所定個数の基底ベクトルに対して、符号化対象となる情報を構成するビット・ストリームのビットをマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な符号化画像に対して、復号化/符号化を行なった後、該擬似的な符号化画像を構成する各基底ベクトルを再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームのマッピングに使用する基底ベクトルの周波数帯又は個数を調整する周波数帯調整ステップと、
を具備することを特徴とするコンピュータ・プログラムである。
【0063】
また、本発明の第11の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・プログラムであって、
符号化対象となる情報を構成するビット・ストリームのビットを所定の密度を以って画像フレーム上の画素にマッピングするマッピング・ステップと、
該ビット・ストリームがマッピングされた擬似的な画像フレームの画素を前記所定の密度の逆数を以って再マッピングしてビット・ストリームを作成する復号化ステップと、
前記復号化されたビット・ストリームのエラーを検証して、該エラー検証結果に応じてビット・ストリームを画像フレームにマッピングするときの密度を調整する密度調整ステップと、
を具備することを特徴とするコンピュータ・プログラムである。
【0064】
また、本発明の第12の側面は、情報を符号化するための情報符号化処理をコンピュータ・システム上で実行するように記述されたコンピュータ・プログラムであって、
符号化対象となる情報を画像フレームにマッピングして擬似的な画像フレームを作成するマッピング・ステップと、
該擬似的な画像フレームをそれぞれM枚連続させる擬似画像フレーム複製ステップと、
各擬似的な画像フレームがM枚連続してなる画像フレーム群をMフレーム周期でイントラ・ピクチャを挿入して動き補償する擬似画像フレーム符号化ステップと、
該符号化された擬似的な画像フレームを動き補償により復号化して擬似的な画像フレーム群を作成する復号化ステップと、
該復号化された画像フレーム群からMフレーム間隔で画像フレームを取り出して画像フレームの組を形成して、各画像フレームの組毎に画像フレームを第1のデータに再マッピングする再マッピング・ステップと、
各画像フレームの組についての再マッピングの結果をエラー検証して、最もエラーの少ない再マッピング結果を復号化された第1のデータとして出力する出力ステップと、
を具備することを特徴とするコンピュータ・プログラムである。
【0065】
本発明の第10乃至第12の各側面に係るコンピュータ・プログラムは、コンピュータ・システム上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータ・プログラムを定義したものである。換言すれば、本発明の第10乃至第12の各側面に係るコンピュータ・プログラムをコンピュータ・システムにインストールすることによって、コンピュータ・システム上では協働的作用が発揮され、本発明の第1、第3、第5の各側面に係る情報符号化装置又は情報符号化方法とそれぞれ同様の作用効果を得ることができる。
【発明の効果】
【0066】
本発明によれば、動画などの画像情報の蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することができる。
【0067】
また、本発明によれば、ビデオ・テープなどの特定の記録媒体上に格納されている画像情報に関する編集情報を蓄積や伝送のために情報を符号化したり、符号化した情報を再生したり受信して再利用のために復号化することができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することができる。
【0068】
また、本発明によれば、編集情報を元の画像情報と同じ記録媒体上に蓄積したり、同様の方式で転送したりすることができる、優れた情報符号化装置及び情報符号化方法、情報復号化装置及び情報復号化方法、記憶媒体、並びにコンピュータ・プログラムを提供することができる。
【0069】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【発明を実施するための最良の形態】
【0070】
以下、図面を参照しながら本発明の実施形態について詳解する。
【0071】
第1の実施形態:
本発明は、VTR上に格納されている画像情報に関する編集データを同じVTR上に保存することによって、ユーザの便宜を図るものである。
【0072】
既に述べたように、近年のVTRの多くは画像圧縮技術を採用しているが、編集データなどのビット・ストリームをそのままVTRに保存した場合、圧縮〜伸張時の不可逆性のために、元の編集データを再現できなくなってしまう可能性がある。そこで、本発明では、再現性が最大限維持されるようにビット・ストリームを画像圧縮にかけるようにする。
【0073】
本発明の第1の実施形態では、再現性を保つために、編集データなどのビット・ストリームをVTRに記録する際には、画像圧縮符号化により変換される符号化空間上にビット・ストリームの各データをマッピングした画像フレームを作成して、この画像をVTRに記録するようにした。
【0074】
ここで、画像圧縮には、一般に、時間軸を周波数軸に置き換えるDCT(Discreet Cosine Transform)処理が適用される。DCT処理は、画像フレームを例えば8×8のブロックに分割し、それぞれのブロックに対して周波数空間へ変換する。すなわち、DCTにより変換符号化された符号化空間は、図1に示すように、ランダムに分布していた画素値が低周波数成分から高周波数成分に至る64個の周波数項(変換係数)V1〜V64で表される(但し、Viは添え字iが小さいほど低周波数成分を、大きいほど高周波数成分を表す)。すなわち、DCT符号化空間は、V1〜V64を成分に持つ「基底ベクトル」として表現することができる。一般的な画像では高周波数成分が含まれていないので、このDCTの処理により周波数空間に変換されたデータは低周波数成分に集中することを利用して、データ量を減らすことができる。
【0075】
本実施形態では、編集データなどのビット・ストリームを記録する際には、同じ圧縮変換方法で用いられる変換の基底ベクトルの組み合わせパターンに、ビット・ストリームのデータのパターンをマッピングした擬似的な符号化画像を作成して、この符号化画像をVTRに記録する。
【0076】
また、本実施形態では、ビット・ストリームをDCT符号化空間にマッピングする際、自然画像では低周波数成分に集中し高周波数成分が丸め込まれるという符号化圧縮の特性を考慮して、例えば基底ベクトルのうちV1〜V20までの低周波数成分側のみを使用してビット・ストリームの各データをマッピングすることによって、復号化伸張時におけるビット・ストリームの再現性の維持を図るようにした。
【0077】
図2には、本実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示している。
【0078】
ビット・ストリームは、画像の編集データであり、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成される(前述)。
【0079】
また、画像圧縮のために画像が変換されるDCT符号化空間は、低周波数成分から高周波数成分まで、8×8=64個の成分V1〜V64からなる基底ベクトルである(図1を参照のこと)。このうち高周波数成分は圧縮により無視される可能性が高いので、低周波数成分側の例えば20個の成分V1〜V20をビット・ストリームをマッピングするために使用する。
【0080】
ビット・ストリームの先頭(すなわち、第1番目)のデータが0である場合にはV1成分を0とし、1である場合にはV1成分を1とする。また、第2番目のデータが0である場合にはV2成分は0とし、1である場合にはV2成分は1とする。同様に、第i(i=3〜20)番目のデータが0である場合にはVi成分を0とし、1である場合にはVi成分を1とする。このようにして、ビット・ストリームの先頭の20個のデータの値により、基底ベクトルのうち低周波数側の20個の成分V1からV20が決定される。また、第21番目以降の高周波数側の成分V21〜V64には0を代入する。このような周波数成分をもつ8×8ブロックの基底ベクトルからなる擬似的なDCT符号化画像を作成する。
【0081】
同様に、ビット・ストリームの第21番目から第40番目までのデータに対応した8×8の符号化空間を作成し、この8×8の符号化空間を1つのブロックと考える。また、第41番目以降に関しても、同様に、ビット・ストリームの次の20個のデータの値により基底ベクトルのうち低周波数側の20個の成分V1からV20が決定することによって、次フレームに相当する擬似的なDCT符号化空間を作成していく。
【0082】
これら8×8のブロック群よりなるデータ群は、DCTにより符号化を行なった圧縮画像に相当するので、そのまま通常の圧縮画像とともにVTRに記録してもよい。
【0083】
あるいは、図2に示すように、DCT処理器を内蔵するVTRに記録する場合には、上述したように編集データのビット・ストリームから得られた擬似的な符号化圧縮画像をIDCT(Inverse Discreet Cosine Transform:逆離散コサイン変換)して擬似的な原画像フレームを生成してから、VTRに投入してビデオ・テープ上に記録するようにする。
【0084】
このように記録したVTRから画像を再生するときには、VTR内でIDCTによる復号化伸張処理が行なわれて、画像情報が再現される。
【0085】
また、画像情報ではなくビット・ストリームからなる擬似的な画像情報である場合には、さらにDCT処理することにより、低周波数成分側の成分V1〜V20にビット・ストリームがマッピングされた擬似的な符号化圧縮画像が得られる。
【0086】
あるいは、VTR内でIDCTを行わない場合には、VTRで再生された符号化圧縮画像からそのままV1〜V20にビット・ストリームがマッピングされた擬似的な符号化画像フレームを得ることができる。
【0087】
ビット・ストリームをVTRに記録するときには、Nビット毎に分割されたビット列のうちj番目のビット位置におけるビット値がDCT符号化空間の基底ベクトルにおける低周波数成分側のj番目の成分Vj(j=1〜20)に順次マッピングされる。
【0088】
したがって、これらV1、V2、…、V20の成分があるかどうかで、ビット・ストリーム内の各データが0か1であるかを復元することができる。そして、記録時とは逆に、DCT符号化空間の基底ベクトルのうち低周波数側のj番目の成分ベクトルVj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置に順次マッピングしていくことで、元のビット・ストリームを再現することができる。
【0089】
さらに、ビット・ストリームを一度VTRに記録した後にその再生を試みて、ビット・ストリームの再現性を検証するようにしてもよい。例えば、記録時にビット・ストリームにエラー訂正用のパリティを付加しておき、再生されたビット・ストリームと互いのエラー数をチェックするようにしてもよい。
【0090】
あるいは、ビット・ストリームのマッピングに使用した最も高周波数成分に相当する周波数項V20の値が0あるいは1にほぼ等しいかどうかをチェックすることによっても、ビット・ストリームの再現性を検証してみることも考えられる。
【0091】
周波数項V20の値をチェックしてみた結果、例えば、「V20の成分として0.5前後の値が観測された」、あるいは、「V20の成分は1として記録したにもかかわらず、再生してみると0として観測された」という事態が検出されたならば、それはV20が既に高周波数成分の領域に相当し可逆性が保証されないこと、すなわち圧縮によりV20の成分が信用できない値になったことを意味する。
【0092】
このような場合、V20はビット・ストリームの記録には使わないようにする。すなわち、ビット・ストリームを20ビットではなく19ビット毎に区切り、それぞれを画像フレームのDCT符号化空間の基底ベクトルのうち低周波数側の19個までの成分V1〜V19に割り当てて、V20は使わないようにして、再度ビット・ストリームをVTRに記録し直すようにしてもよい。
【0093】
このようにして記録したVTRを再生するとき、VTR内でIDCTによる復号化伸張処理が行なわれて、画像情報が再現される。画像情報ではなくビット・ストリームからなる擬似的な画像情報である場合には、さらにDCT処理することにより、低周波数成分側の成分V1〜V19にビット・ストリームがマッピングされた擬似的な符号化圧縮画像が得られる(同上)。そして、これらV1、V2、…、V19の成分があるかどうかで、ビット・ストリーム内の各データが0か1であるかを復元することができる。
【0094】
勿論、この場合にも、さらに、ビット・ストリームを一度VTRに記録した後に再生を試みて、V19の成分が0あるいは1にほぼ等しいかどうか、すなわち可逆性をチェックしてみてもよい。そして、もしも可逆性が保証されない場合には、ビット・ストリームを19ビットではなく18ビット毎に区切り、それぞれを画像フレームのDCT符号化空間の基底ベクトルのうち低周波数側の18個までの成分V1〜V18に割り当てて、V19は使わないようにする。
【0095】
上述した例では、編集データを構成するビット・ストリームを例えば20ビット毎に区切って、DCT符号化空間の基底ベクトルのうち例えば低周波数側の20個までの成分V1〜V20に1ビットずつ順次マッピングしていくようにしている。すなわち、ビット・ストリームの各ビットをそれぞれ基底ベクトルの1個の成分に逐次マッピングしているが、ビット・ストリームをDCT符号化空間にマッピングする方法はこれに限定されるものではない。ビット・ストリームをDCT符号化空間にマッピングする他の方法について、以下に説明する。
【0096】
例えば、DCT符号化空間を構成する基底ベクトルは、低周波数から高周波数まで8×8=64個の成分からなる。このうち高周波数成分は圧縮により無視される可能性があるので、例えば、低周波数成分側の20個を使うことにする(同上)。この20個の成分をV1、V2、…、V20とする。
【0097】
このV1〜V20の中から、任意の3個を選ぶ組み合わせ20C3は、(20×19×18)÷(3×2×1)=1140通りである。ここで、ビット・ストリームの先頭の10個のデータのパターンは210=1024通りなので、これら1024個のパターンの1つずつを、「V1からV20の中の3個を選んだパターン」に対応させることによって、ビット・ストリームの10個分のビット列を表現することができる。すなわち、選ばれた3個のVi(但し、i=1〜20)のみ成分に1を代入するとともに、残りの17個のViの成分を0に設定する。
【0098】
このようにして、まず、ビット・ストリームの先頭の10個分のビット値により、V1からV20までの低周波数側の成分を決定するとともに、V21以降の高周波数側の成分に0を代入することによって、8×8ブロックからなる擬似的なDCT符号化画像を作成する。
【0099】
同様に、ビット・ストリームの第11番目から第20番目までのビット列に対応した8×8の擬似的なDCT符号化画像を作成し、この8×8の画像を1つのブロックと考える。第21番目以降も同様にして、8×8のブロックを作成していく。
【0100】
これら8×8のブロック群よりなるデータ群は、DCTにより符号化圧縮を行なった画像に相当するので、そのまま圧縮画像とともに保存してもよい。
【0101】
あるいは、図2に示すように、DCT処理器を内蔵するVTRに保存する場合には、上述したように編集データのビット・ストリームから得られた擬似的な符号化圧縮画像を一旦IDCT(Inverse Discreet CosineTransform:逆離散コサイン変換)して擬似的な原画像フレームを生成してから、VTRに投入してビデオ・テープ上に記録するようにする。
【0102】
このように記録したVTRを再生するとき、VTR内でIDCTによる復号化伸張処理が行なわれて、画像情報が再現される。画像情報ではなくビット・ストリームからなる擬似的な画像情報である場合には、さらにDCT処理することにより、選ばれた3個のVi(但し、i=1〜20)のみ成分に1を代入するとともに、残りの17個のViの成分を0に設定されている擬似的な符号化圧縮画像を得ることができる。そして、V1からV20のうちでどの成分が1になっているかによって、元の10個分のビット列を復元することができる。
【0103】
図3には、本実施形態に適用可能な画像処理装置100のハードウェア構成を模式的に示している。
【0104】
この画像処理装置100には、画像情報のソースであるVTRなどの画像記録装置が接続されている。そして、オリジナル画像が記録してあるテープをVTRで再生して取り込み、画像処理装置100上では画像編集を行うとともに、編集過程の画像編集データをこのVTR上に記録する。また、画像処理装置100は、画像圧縮・伸張時における不可逆性のために編集データが損なわれないようにするために、編集データのビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する。
【0105】
以下、図3を参照しながら、画像処理装置100内の各部について説明する。
【0106】
システム100のメイン・コントローラであるCPU(Central Processing Unit)101は、オペレーティング・システム(OS)の制御下で、各種のアプリケーションを実行する。CPU101は、例えば、VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを実行することができる。図示の通り、CPU101は、バス108によって他の機器類(後述)と相互接続されている。
【0107】
メモリ102は、CPU101において実行されるプログラム・コードを格納したり、実行中の作業データを一時保管するために使用される記憶装置である。同図に示すメモリ102は、ROMなどの不揮発性メモリ及びDRAMなどの揮発性メモリの双方を含むものと理解されたい。
【0108】
ディスプレイ・コントローラ103は、CPU101が発行する描画命令を実際に処理するための専用コントローラである。ディスプレイ・コントローラ103において処理された描画データは、例えばフレーム・バッファ(図示しない)に一旦書き込まれた後、ディスプレイ111によって画面出力される。例えば、VTRから再生された画像やその編集内容はディスプレイ111で画面表示されて、確認を行なうことができる。
【0109】
入力機器インターフェース104は、キーボード112やマウス113などのユーザ入力機器をコンピュータ・システム100に接続するための装置である。ユーザは、キーボード112やマウス114を介して、画像編集のためのデータやコマンドを入力することができる。
【0110】
ネットワーク・インターフェース105は、Ethernet(登録商標)などの所定の通信プロトコルに従って、システム100をLAN(Local Area Network)などの局所的ネットワーク、さらにはインターネットのような広域ネットワークに接続することができる。
【0111】
ネットワーク上では、複数のホスト端末(図示しない)がトランスペアレントな状態で接続され、分散コンピューティング環境が構築されている。ネットワーク上では、ソフトウェア・プログラムやデータ・コンテンツなどの配信サービスを行うことができる。例えば、VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを、ネットワーク経由でダウンロードすることができる。
【0112】
外部機器インターフェース107は、ハード・ディスク・ドライブ(HDD)114やメディア・ドライブ115などの外部装置をシステム100に接続するための装置である。
【0113】
HDD114は、記憶担体としての磁気ディスクを固定的に搭載した外部記憶装置であり(周知)、記憶容量やデータ転送速度などの点で他の外部記憶装置よりも優れている。ソフトウェア・プログラムを実行可能な状態でHDD114上に置くことをプログラムのシステムへの「インストール」と呼ぶ。通常、HDD114には、CPU101が実行すべきオペレーティング・システムのプログラム・コードや、アプリケーション・プログラム、デバイス・ドライバなどが不揮発的に格納されている。例えば、VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを、HDD114上にインストールすることができる。
【0114】
メディア・ドライブ115は、CD(Compact Disc)やMO(Magneto−Optical disc)、DVD(Digital Versatile Disc)などの可搬型メディアを装填して、そのデータ記録面にアクセスするための装置である。
【0115】
可搬型メディアは、主として、ソフトウェア・プログラムやデータ・ファイルなどをコンピュータ可読形式のデータとしてバックアップすることや、これらをシステム間で移動(すなわち販売・流通・配布を含む)する目的で使用される。VTRから再生された画像の編集処理を行うためのオーサリング・アプリケーションや、画像編集過程の編集データであるビット・ストリームをVTRに記録するための処理を行うアプリケーション・プログラムを、これら可搬型メディアを利用して複数の機器間で物理的に流通・配布することができる。
【0116】
VTRインターフェース109は、VTRから再生されるビデオ信号を画像処理装置100内に取り込むための装置である。
【0117】
なお、図3に示すような画像処理装置100の一例は、米IBM社のパーソナル・コンピュータ“PC/AT(Personal Computer/Advanced Technology)”の互換機又は後継機である。勿論、他のアーキテクチャを備えたコンピュータを、本実施形態に係る画像処理装置100として適用することも可能である。
【0118】
図4及び図5には、この画像処理装置100上で実行される、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順をそれぞれフローチャートの形式でそれぞれ示している。
【0119】
本実施形態では、ビット・ストリームをVTRに記録する際には、ビット・ストリームの再現性を最大限に維持するために、ビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する。
【0120】
このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。以下、図4及び図5に示されている各フローチャートを参照しながら、この処理手順について説明する。
【0121】
ビット・ストリームを入力すると(ステップS1)、まず、この入力ビット・ストリームに対してパリティ・ビットを付加して、エラー訂正可能なパリティ付きビット・ストリームを作成する(ステップS2)。但し、パリティ・ビットの付加は本実施形態における必須の要件ではない。
【0122】
次いで、変数Nに初期値20を代入する(ステップS3)。この変数Nは、画像のDCT符号化空間の基底ベクトルを構成する成分64個のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する(図1を参照のこと)。
【0123】
次いで、パリティ付きビット・ストリームを、Nビットずつに分割する(ステップS4)。そして、分割された各Nビットのデータを、それぞれDCT符号化空間の基底ベクトルのうち低周波数側のN個の成分にマッピングしていく(ステップS5)。
【0124】
DCT符号化空間の基底ベクトルは64個の成分Vi(i=1〜64)で構成されている。ステップS5では、分割されたNビットのデータ中のj番目のビット位置におけるビット値をDCT符号化空間の低周波数側のj番目の成分Vj(j=1〜20)に順次マッピングしていく。
【0125】
さらに、DCT符号化空間を構成する基底ベクトルのN+1番目以降の高周波数側の成分に0を代入することによって、8×8ブロックからなる擬似的な符号化画像を作成する(ステップS6)。但し、8×8ブロックが5280個集まって、NTSC(National Television System Committee)の画像1フレームを構成する。
【0126】
ビット・ストリームをN個毎に分割して、Nビットのビット列の塊が(K÷5280)個できたとすると、このような8×8ブロックが5280個集まってできる擬似的な符号化画像フレームがKフレームだけ作成される。なお、ここでは1フレームは704画素×480画素よりなると仮定している。すなわち、5280個の8×8ブロックより1フレームは構成されるとしている。この擬似的な符号化画像フレームを、通常の画像フレームをDCT符号化して得た圧縮画像とともに、VTRに記録する(ステップS7)。
【0127】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのDCT処理をスキップするか、又は、ステップS6で生成された擬似的な符号化画像を一旦IDCT処理して擬似的な原画像にした後、VTRに投入して、DCT処理を経て記録するようにすればよい。
【0128】
図6には、上記のステップS5及びS6において、ビット・ストリームのNビットのデータをマッピングして8×8ブロックの擬似的な符号化画像を生成するための処理手順をさらに詳細に示している。
【0129】
まず変数iに初期値1を代入する(ステップS5−1)。
【0130】
次いで、パリティ付きビット・ストリームから分割されたNビットのビット列うち、i番目のビット値をチェックする(ステップS5−2,S5−3)。
【0131】
ビット列のi番目のビット値が0である場合には、DCT符号化空間を構成する基底ベクトルの低周波数側のi番目の成分Viを0にする(ステップS5−4)。また、ビット列のi番目のビット値が0である場合には、DCT符号化空間を構成する基底ベクトルの低周波数側のi番目の成分Viを1にする(ステップS5−5)。
【0132】
次いで、iがNに到達したかどうかをチェックする(ステップS5−6)。Nは、画像のDCT符号化空間の基底ベクトルを構成する64個の成分のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する変数である(前述)。
【0133】
iがまだNに到達していない場合には、ステップS5−7においてiを1だけインクリメントした後、ステップS5−2に戻り、パリティ付きビット・ストリームから分割されたNビットのビット列うち、i番目のビット値を基底ベクトルの次の成分にマッピングする処理を繰り返し実行する。
【0134】
また、iがNに到達した場合には、次ステップS6−1に進んで、DCT符号化空間を構成する基底ベクトルのうち、低周波数成分側から数えてN+1番目以降64番目までの残りのすべての高周波数側成分を0にする。
【0135】
そして、上述のようにして作成された基底ベクトルの成分を持つ8×8ブロックの擬似的な符号化画像を作成する(ステップS6−2)
【0136】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0137】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS11)。
【0138】
次いで、再生された擬似的な画像に対してさらにDCT処理を適用することによって、符号化画像を取り出す(ステップS12)。ここで取り出される符号化画像は、基底ベクトルのうち低周波数成分側の20番目までの成分Vj(j=1〜20)にビット・ストリームがマッピングされた8×8ブロックの擬似的な符号化画像である。
【0139】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのIDCT処理をスキップするか、又は、符号化画像を一旦IDCT処理してVTRが出力する擬似的な原画像に対して、さらにDCT処理を適用することによって、基底ベクトルのうち低周波数成分側の20番目までの成分Vj(j=1〜20)にビット・ストリームがマッピングされた8×8ブロックの擬似的な符号化画像を取り出すことができる。
【0140】
図4に示したVTR記録時には、N(=20)ビット毎に分割されたビット列のうちj番目のビット位置におけるビット値が、DCT符号化空間を構成する64個の基底ベクトルの低周波数側からj番目の成分Vj(j=1〜20)に順次マッピングされている。したがって、再生時には逆に、この基底ベクトルの低周波数成分側のj番目の成分Vj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置にマッピングする(ステップS13)。さらに、基底ベクトルの低周波数成分が順次マッピングされたこれらNビット毎のビット列をまとめることで、ビット・ストリームを作成する(ステップS14)。
【0141】
次いで、このビット・ストリームの再現性を検証する。この例では、図4のステップS2において生成した記録時のパリティ付きビット・ストリームと比較して、互いのエラー数をチェックする(ステップS15)。そして、エラー数が少ないかをチェックする(ステップS16)。
【0142】
ステップS14において作成されたビット・ストリームのエラー数が少なければ、ビット・ストリームは正しく再現されたものとして、この再生処理ルーチンを終了する。
【0143】
他方、ステップS14において作成されたビット・ストリームのエラー数が少なくない場合には、Nを1だけデクリメントして(ステップS17)、再現性が確保されるように、ビット・ストリームのマッピングに使用する基底ベクトルの成分をさらに低周波数成分側に制限する。そして、図4のステップS4に戻って、ビット・ストリームの記録処理を繰り返し実行する。
【0144】
なお、ステップS15及びS16におけるビット・ストリームの再現性の検証処理としては、エラー訂正用のパリティを使用する以外に、ビット・ストリームのマッピングに使用した基底ベクトルの成分のうち最も高周波数となる成分の値の確からしさによって検証する方法(前述)を適用することができる。
【0145】
図7には、上記のステップS13及びS14において、8×8ブロックの擬似的な符号化画像を構成する基底ベクトルのうち低周波数成分側のN個をビット・ストリーム中のNビットのデータにマッピングして、ビット・ストリームを作成するための処理手順をさらに詳細に示している。
【0146】
まず、8×8ブロックの画像をDCT処理して、擬似的な符号化空間を構成する基底ベクトルの64個の成分V1〜V64を求める(ステップS13−1)。先行するステップS12又はS13により既に擬似的なDCT符号化空間が得られている場合には当該ステップをスキップしてもよい。
【0147】
次いで、変数iに初期値1を代入する(ステップS13−2)。
【0148】
次いで、基底ベクトルの低周波数成分側のi番目の成分Viをチェックする(ステップS13−3,S13−4)。
【0149】
基底ベクトルのi番目の成分Viの値が0.5未満である場合には、作成しようとしているビット・ストリームのデータのi番目の値を0にする(ステップS13−5)。また、基底ベクトルのi番目の成分Viの値が0.5以上である場合には、作成しようとしているビット・ストリームのデータのi番目の値を0にする(ステップS13−6)。
【0150】
次いで、iがNに到達したかどうかをチェックする(ステップS13−7)。Nは、画像のDCT符号化空間の基底ベクトルを構成する64個の成分のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する変数である(前述)。
【0151】
iがまだNに到達していない場合には、ステップS13−8においてiを1だけインクリメントした後、ステップS13−3に戻り、基底ベクトルの低周波数成分側のi番目の成分からビット・ストリームの作成中のデータのi番目のビット値を求める処理を繰り返し実行する。
【0152】
また、iがNに到達した場合には、次ステップS14−1に進んで、作成されたNビットからなる各データをまとめて最終的なビット・ストリームとして出力する。
【0153】
また、図8及び図9には、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順の変形例をそれぞれフローチャートの形式で示している。図4及び図5に示した例ではビット・ストリームの各ビットをそれぞれDCT符号化空間を構成する基底ベクトルの1個の成分に逐次マッピングしているが、ビット・ストリームを10ビット毎に分割して得られるデータのパターンを、基底ベクトルの低周波数成分側の20個の成分V1〜V20で表現された20Ck通りのビット・パターンにマッピングするようにしている(但し、kは20個の基底ベクトルのうち1を代入するものの個数)。このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。以下、このフローチャートを参照しながら、この処理手順について説明する。
【0154】
まず、ビット・ストリームを入力する(ステップS21)。次いで、ビット・ストリームを、10ビットずつに分割する(ステップS23)。
【0155】
そして、この10ビット毎のデータのパターンを、DCT符号化空間を構成する基底ベクトルの低周波数成分側の20個の成分V1〜V20のなすビット・パターンにマッピングする(ステップS23)。
【0156】
20個の成分V1〜V20の中から任意の3個を選ぶ組み合わせ20C3は、(20×19×18)÷(3×2×1)=1140通りである。一方、ビット・ストリームの先頭の10個のデータのパターンは210=1024通りなので、これら1024個のパターンをそれぞれV1からV20の中の3個を選んだパターンに対応させることによって、ビット・ストリームの10個分のビット列を表現することができる。すなわち、選ばれた3個のVi(但し、i=1〜20)のみ成分に1を代入するとともに、残りの17個のViの成分を0に設定する。
【0157】
さらに、DCT符号化空間を構成する基底ベクトルの21番目以降の高周波数成分側の成分に0を代入することによって、8×8ブロックからなる擬似的な符号化画像を作成する(ステップS24)。
【0158】
ビット・ストリームを10個毎に分割して、10ビットのビット列の塊が(M’÷5280)個できたとすると、このような8×8ブロックが5280個集まってできる擬似的な符号化画像フレームがM’フレームだけ作成される。なお、ここでは1フレームは704画素×480画素よりなるとかていしている。すなわち、5280個の8×8ブロックより1フレームは構成されるとしている。この擬似的な符号化画像フレームを、通常の画像フレームをDCT符号化して得た圧縮画像とともに、VTRに記録する(ステップS25)
【0159】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのDCT処理をスキップするか、又は、ステップS24で生成された擬似的な符号化画像を一旦IDCT処理して擬似的な原画像にした後、VTRに投入して、DCT処理を経て記録するようにすればよい。
【0160】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0161】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS31)。
【0162】
次いで、再生された擬似的な画像に対してさらにDCT処理を適用することによって、ビット・ストリームの10ビット毎のデータのパターンが基底ベクトルの低周波数成分側の20個の成分V1〜V20によるビット・パターンにマッピングされた8×8ブロックの擬似的な符号化画像を取り出す(ステップS32)。
【0163】
ここで、VTRが画像圧縮機能を装備している場合には、VTR内部でのIDCT処理をスキップするか、又は、符号化画像フレームを一旦IDCT処理してVTRが出力する擬似的な原画像に対して、さらにDCT処理を適用することによって、基底ベクトルの低周波数成分側の20個の成分V1〜V20のなすビット・パターンにマッピングされた8×8ブロックの擬似的な符号化画像を取り出すことができる。
【0164】
図8に示した記録時には、ビット・ストリームを分割してできた各10個のビットによる1024個のデータ・パターンをそれぞれV1からV20の中の3個を選んだパターンに対応させて、ビット・ストリームの10ビットを表現することにより、ビット・ストリームをDCT符号化空間にマッピングさせている。したがって、再生時には逆に、DCT符号化空間の低周波数成分側のV1からV20までで表現されたデータ・パターンを基に、対応する10ビットのデータ・パターンを割り出す(ステップS33)。
【0165】
さらに、これらの10ビット毎のビット列をまとめることで、ビット・ストリームを作成して、本処理ルーチン全体を終了する(ステップS34)。
【0166】
第2の実施形態:
本発明は、VTR上に格納されている画像情報に関する編集データを同じVTR上に保存することによって、ユーザの便宜を図るものである。
【0167】
上述した本発明の第1の実施形態では、編集データからなるビット・ストリームの各ビットを、画像のDCT符号化空間を構成する基底ベクトルのうち低周波数成分側の成分にマッピングして、擬似的な符号化画像を生成することにより、DCT符号化圧縮してVTRに記録した際における再現性を最大限維持できるようにした。
【0168】
これに対し、本実施形態では、編集データからなるビット・ストリームを構成する各ビット位置における値を、画像フレーム中で対応する画素位置における1画素あるいはn×m画素ブロックの画素値としてマッピングして、一旦擬似的な画像フレームを生成して、さらにこの擬似画像フレームをDCT符号化圧縮してVTRに記録するようにした。ビット・ストリームの1ビットをn×m画素ブロックにマッピングすることは、記録密度を変換することに相当する。
【0169】
図10には、本実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示している。
【0170】
ビット・ストリームは、画像の編集データであり、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成される(前述)。
【0171】
ビット・ストリームの先頭(すなわち、第1番目)のデータが0である場合には、擬似的な画像フレーム上の第1画素目の値を0とし、また、1である場合にはこれを1とする。次いで、ビット・ストリームの第2番目のデータが0である場合には擬似的な画像フレームの第2画素目の値を0とし、1である場合にはこれを1とする。同様に、ビット・ストリームの第i番目のデータが0である場合には擬似的な画像フレームの第i画素目の値を0とし、1である場合にはこれを1とする。
【0172】
つまり、擬似的な画像フレームの1画素を使ってビット・ストリームの各1ビットの値をマッピングしていくことによって、ビット・ストリームを記録するための擬似的な画像フレームを完成させる。そして、VTRでは、この擬似画像をDCTにより符号化圧縮処理してからビデオ・テープに記録する。
【0173】
次いで、擬似画像フレームをDCTにより符号化圧縮して一旦記録した後、ビデオ・テープから再生し、さらにIDCTにより復号化伸張処理する。そして、各画素の値が0あるいは1にほぼ等しいかどうか、すなわちビット・ストリームの再現性をチェックしてみる。
【0174】
復号化伸張処理した画像フレームをチェックしてみて、例えば、「ある画素の成分として0.5前後の値が観測された」、あるいは、「ある画素の成分は1として記録したにもかかわらず、再生してみると0として観測された」という事態が検出されたならば、それは圧縮により各画素の値が信用できない値になったこと、すなわち圧縮符号化が不可逆であったことを意味する。
【0175】
ビット・ストリームを再現できなかった場合には、再現性を高めるために、ビット・ストリームの各ビットをマッピングする画素数を増やす。例えば、ビット・ストリームの各ビット位置の値を擬似画像フレーム中の2×2画素のブロックを使って記憶させる。言い換えれば、ビット・ストリームの1ビットを画像フレームにマッピングする密度を低下させる。
【0176】
より具体的に言えば、ビット・ストリームをマッピングする擬似画像フレームを2×2のブロックに分割するとともに、各ブロック内の全画素をビット・ストリームの1ビットの値を対応させる。例えば、ビット・ストリームの先頭(すなわち、第1番目)のデータが0である場合には、擬似画像フレーム中の第1番目の2×2ブロック内の4画素の値をすべて0とする。また1である場合には、第1番目の2×2ブロック内の4画素の値をすべて1とする。また、ビット・ストリームの第2番目のデータが0である場合には擬似画像フレーム中の第2番目の2×2ブロック内の4画素の値をすべて0とし、1である場合には第2番目の2×2ブロック内の4画素の値をすべて1とする。同様に、ビット・ストリームの第i番目のデータが0である場合には擬似画像フレーム中の第i番目の2×2ブロック内の4画素の値をすべて0とし、1である場合には第i番目の2×2ブロック内の4画素の値をすべて1とする。
【0177】
このように、ビット・ストリームの各1ビットを擬似画像フレームの1画素に割り当てるのではなく、2×2画素ブロックに1ビットを割り当てる(あるいは画素ブロックの画素数をさらに増大させていく)。この結果、作成される擬似画像は高周波数成分が抑えられた画像となるので、DCTによる高周波数成分の劣化の影響を受けずに済む。
【0178】
このようにして、ビット・ストリームから作成された擬似画像をVTRに記録しさらにVTRから再生すると、DCTによる符号化圧縮、並びにIDCTによる復号化伸張がそれぞれ1度ずつ行われるが、2×2画素ブロック毎に記録された画素の値はDCTによる高周波数成分の劣化の影響を受けずに復元することができる。そして、これら画素の値が0であるか1であるかにより、ビット・ストリーム内の対応するビット位置のデータが0か1であるかを再現することができる。ビット・ストリームの1ビットを2×2画素ブロックにマッピングしても、なお可逆性が保証されない場合には、マッピング時の密度をさらに低下させるようにしてもよい。
【0179】
図3に示した画像処理装置100は、本実施形態にも適用されるので、その装置構成についてはここでは説明しない。この画像処理装置100には、画像情報のソースであるVTRなどの画像記録装置が接続されている。そして、オリジナル画像が記録してあるテープをVTRで再生して取り込み、画像処理装置100上では画像編集を行うとともに、編集過程の画像編集データをこのVTR上に記録する。また、画像処理装置100は、画像圧縮・伸張時における不可逆性のために編集データが損なわれないようにするために、編集データのビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する(同上)。
【0180】
図11及び図12には、本実施形態において、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順をフローチャートの形式でそれぞれ示している。
【0181】
本実施形態では、ビット・ストリームを画像フレームにマッピングして、この擬似的に画像フレームをVTRに記録する。このとき、ビット・ストリームの1ビットにN×N画素の画素ブロックを割り当てることにより、高周波数成分が抑えられた画像を作成する。この結果、VTRに記録する際に、DCTによる高周波数成分の劣化の影響を受けずに済む。このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。ここで、変数Nは、ビット・ストリームの1ビットを画像フレームにマッピングするときの密度に相当する。
【0182】
以下、図11及び図12に示したフローチャートを参照しながら、本実施形態におけるビット・ストリームのVTRへの記録及び再生の処理手順について説明する。
【0183】
ビット・ストリームを入力すると(ステップS41)、まず、この入力ビット・ストリームに対してパリティ・ビットを付加して、エラー訂正可能なパリティ付きビット・ストリームを作成する(ステップS42)。但し、パリティの付加は本発明に必須の要件ではない。
【0184】
次いで、変数Nに初期値1を代入する(ステップS43)。この変数Nは、ビット・ストリームの1ビットをマッピングするのに使用するN×N画素ブロックのサイズを決定する。変数Nはビット・ストリームの1ビットを画像フレームにマッピングするときの密度に相当する。Nが大きくなるほど、画像フレームにマッピングされたデータは冗長となりメモリ効率が低下するが、作成される擬似画像フレームの高周波成分が抑えられるので、DCTによるデータの劣化の影響を受けずに済む。
【0185】
次いで、ビット・ストリームをマッピングするための擬似的な画像フレームをN×N画素ブロックの領域に分割していく(ステップS44)。そして、パリティ付きビット・ストリームを構成する各ビットの値を、N×N画素ブロック領域に対応付ける(ステップS45)。このとき、ビット・ストリーム側のビットが0であれば、対応するN×N画素ブロック内のすべての画素値を0にする。また、ビット・ストリーム側のビットが1であれば、対応するN×N画素ブロック内のすべての画素値を1にする。
【0186】
このようにして、パリティ付きビット・ストリームの各ビットを順次N×N画素ブロックに割り当てていくと、高周波成分が抑制された擬似的な画像フレームを作成することができる。この擬似的な画像フレームを、通常の画像フレームと同様に、VTRに記録する(ステップS46)。VTRに記録する際に、DCTによる高周波数成分の劣化の影響を受けずに済む。
【0187】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0188】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS51)。
【0189】
次いで、取り出した擬似的な画像フレームをN×N画素ブロックの領域に分割していく(ステップS52)。
【0190】
次いで、各N×N画素ブロックからビット値を再現して、これらをつなぎ合わせてビット・ストリームを作成する(ステップS53)。N×N画素ブロックからビット値を再現する際、ブロック内の画素値の平均を求め、平均値が0.5未満であれば0とし、0.5以上であれば1として、ビット・ストリームの対応するビット位置に書き込む。
【0191】
次いで、このビット・ストリームの再現性を検証する。この例では、図11のステップS42において生成した記録時のパリティ付きビット・ストリームと比較して、互いのエラー数をチェックする(ステップS54)。そして、エラー数が少ないかをチェックする(ステップS55)。
【0192】
ステップS43において作成されたビット・ストリームのエラー数が少なければ、ビット・ストリームは正しく再現されたものとして、この再生処理ルーチンを終了する。
【0193】
他方、ステップS53において作成されたビット・ストリームのエラー数が少なくない場合には、Nを1だけインクリメントして(ステップS56)、再現性が確保されるように、ビット・ストリームのマッピングに使用する基底ベクトルの成分をさらに低周波数成分側に制限する。Nをインクリメントすることは、ビット・ストリームのビットを画像フレームにマッピングするための密度を低下させることを意味する。そして、図11のステップS44に戻って、ビット・ストリームの記録処理を繰り返し実行する。
【0194】
Nを1だけインクリメントすることによって、画像フレームにマッピングされたデータの冗長度が増してメモリの使用効率が低下するが、作成される擬似画像フレームの高周波成分が抑えられるので、DCTによるデータの劣化の影響をさらに抑制することができる。
【0195】
第3の実施形態:
本発明は、VTR上に格納されている画像情報に関する編集データを同じVTR上に保存することによって、ユーザの便宜を図るものである。
【0196】
上述した本発明の第1の実施形態では、編集データからなるビット・ストリームの各ビットを基底ベクトルのうち低周波数成分側にマッピングした擬似的な符号化画像を生成することにより、VTRに記録した際における再現性を最大限維持できるようにした。また、第2の実施形態では、ビット・ストリームの1ビットにN×N画素の画素ブロックを割り当てることにより、高周波数成分が抑えられた画像を作成することにより、VTRに記録する際に、DCTによる高周波数成分の劣化の影響を抑制するようにした。
【0197】
要約すれば、上記の各実施形態においては、DCTによるデータの劣化の影響が少なくなるようにビット・ストリームを画像フレームにマッピングするための方法に関するものである。
【0198】
他方、動画像の画像圧縮技術においては、「動き補償(Motion Compensation:MC)」が導入される場合がある。この動き補償とは、連続する画像フレーム間で、データがどの方向へ動いたのかを考慮して圧縮・展開を行うものである。上述したDCTなどの直交変換は画像フレームにおける空間方向の冗長度を削減して圧縮を行うのに対して、動き補償は時間方向の冗長度を削減する。
【0199】
動き補償による圧縮では、時間的に連続する複数の画像をイントラ・ピクチャとノンイントラ・ピクチャの2つのグループに分ける。
【0200】
イントラ・ピクチャ(Intra−Picture)すなわちIピクチャに対しては、DCTなどの処理により、イントラ符号化(フレーム内予測)のみによる圧縮が行われる。
【0201】
他方、ノンイントラ・ピクチャに対しては、別の画像との相関を調べ、似ている部分との差分をとる。ノンイントラ・ピクチャは、動きの差分をとることにより、ほぼ0になるので、データ量を減らすことができる。ノンイントラ・ピクチャには、(Intra−Picture)フレーム間順方向予測により生成されるPピクチャ(Predictive−Picture)、フレーム間双方向予測により生成されるBピクチャ(Bidirectionallypredictive Picture)の2種類がある。
【0202】
ここで、上述した本発明の第1の実施形態又は第2の実施形態により編集データなどのビット・ストリームがマッピングされた擬似的な画像フレームに対して、動き補償による圧縮が適用された場合について考察してみる。
【0203】
動き補償による圧縮の過程で、擬似的な画像フレームがイントラ・ピクチャとして扱われる場合には、DCT処理が適用されるだけなので、上述した各実施形態で既に述べた手法を適用することにより、高周波成分による劣化の影響を抑制することができるので、符号化による不可逆性の問題を解消して、ビット・ストリームの再現性を最大限に維持することができる。
【0204】
これに対し、PピクチャやBピクチャなどのノンイントラ・ピクチャは、他の画像(ピクチャ)から似ている部分との差分をとっている。ビット・ストリームのデータにより作成された乱数的なデータである画像では、画像間で似ている部分はほとんどない。このため、擬似的な画像から他の画像との差分をとってもデータの冗長性を削除することが期待できないばかりか、ノンイントラ・ピクチャ内のデータも不正確になってしまい可逆性が著しく損なわれる。したがって、ノンイントラ・ピクチャとして処理された擬似的な画像フレームをVTRに記録した後、元のビット・ストリームを完全に再現できなくなると推測される。
【0205】
本発明の第3の実施形態は、ビット・ストリームをマッピングした擬似的な画像フレームがイントラ・ピクチャに割り当てられるようにすることで、動き補償が適用された画像フレームから元のビット・ストリームを最大限正確に取り出すことができるようにする。より具体的には、ビット・ストリームのデータをマッピングした擬似的な画像フレームを作成した後、この画像フレームを複数枚連続してVTRに記録することによって、イントラ・ピクチャにこの擬似的な画像フレームが割り当てられるようにする。
【0206】
動き補償を適用する画像圧縮器においては、イントラ・ピクチャが出現する周期Mを規定していることが多い。このような場合、周期に相当するM枚分だけ擬似的な画像フレームを連続させることによって、そのうちの1枚は必ずイントラ・ピクチャに割り当てられるので、この画像フレームを使うことで、データ削減による劣化のない状態でビット・ストリームを取り出すことができる。
【0207】
ビット・ストリームを画像フレームに変換してVTRに記録した後、VTRからビット・ストリームを再構築する際、VTRから再生される画像フレーム列のうち、時刻0から始まるM枚毎の画像からビット・ストリームを再構築する(但し、Mはイントラ・ピクチャの出現周期であることが好ましい)。また、時刻1から始まるM枚毎の画像からビット・ストリームを再構築する。また、時刻2から始まるM枚毎の画像からビット・ストリームを再構築する。以降同様に、時刻3から時刻M−1までのものに対してもビット・ストリームを再構築する。
【0208】
そして、これらM個の再構築されたビット・ストリームの中から最もエラーの少なかったビット・ストリームを選び出して、これをVTRから再現した結果として出力する。
【0209】
勿論、エラーの少ないビット・ストリームが再現されることが目的であり、必ずしもイントラ・ピクチャに割り当てられた画像フレームからビット・ストリームを再現しなければならないという訳ではない。
【0210】
また、ビット・ストリームのデータを画像データに直接マッピングする(第2の実施形態)のではなく、DCT符号化空間の基底ベクトルにビット・ストリームをマッピングした後、このDCT符号化画像をIDCT処理して擬似的な画像フレームを作成するようにした場合(第1の実施形態)であっても、本発明の第3の実施形態を適用することができる。
【0211】
図13には、本実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示している。
【0212】
ビット・ストリームは、画像の編集データであり、どの画像にどの処理を施したかを示すデータ(例えば、画像を一意に決定するIDと、処理を一意に決定するIDの組み合わせからなるデータ)であり、0と1の信号(バイナリーデータ)で構成される(前述)。
【0213】
まず、ビット・ストリームの第i番目のデータが0である場合には擬似的な画像フレームの第i画素目の値を0とし、1である場合にはこれを1とする、という処理を繰り返し実行することによって、擬似的な画像フレームの1画素を使ってビット・ストリームの各1ビットの値をマッピングして、ビット・ストリームを記録するための擬似的な画像フレームを完成させる。
【0214】
ついで、作成された各画像フレームを複数枚連続させる。図13に示すVTRでは、イントラ・ピクチャが出現する周期Mが3に設定されている。この場合、イントラ・ピクチャとして圧縮される画像が2枚おきに現れるので、画像を3フレーム間隔で記録していけばよい。
【0215】
ビット・ストリームから作成された画像がA,B,C,及びDの計4枚あったとする。この場合、これら4枚のうち最初の画像Aを3回重複させて時刻0と1と2の画像とする。次いで、2枚目の画像Bも3回重複させて、時刻3と4と5の画像とする。以下同様に、3枚目の画像Cも3回重複させて時刻6と7と8の画像ととともに、最後の画像Dも3回重複させて時刻9と10と11の画像とする。この結果、合計12枚の連続する画像が生成されて、VTRに投入される。
【0216】
VTRでは、イントラ・ピクチャに対してDCT処理を行なうDCT器と、ノンイントラ・ピクチャに対して動き補償処理を行なうMC器が装備されている。そして、所定の周期M=3フレーム毎に入力画像をDCT器に接続してイントラ・ピクチャとしてDCT処理し、それ以外の入力画像についてはMC器に接続して動き補償処理してから、それぞれビデオ・テープに記録する。
【0217】
このようにVTRに記録すれば、周期M=3フレーム毎にイントラ・ピクチャが出現することから、「時刻0と3と6と9の4枚よりなる画像の組」、あるいは、「時刻1と4と7と10の4枚よりなる画像の組」、あるいは、「時刻2と5と8と11の4枚よりなる画像の組」というM=3通りの組み合わせのうちいずれか1つの組は、イントラ・ピクチャで構成されている。
【0218】
このように記録されたVTRからビット・ストリームのデータを復元するには、まず、記録時とは逆に、イントラ・ピクチャに対してはIDCT処理を行うとともにノンイントラ・ピクチャに対して動き補償処理を行なって、ビデオ・テープからこれら12枚の画像を再生する。
【0219】
そして、この12枚の画像を、「時刻0と3と6と9の4枚よりなる画像の組(以下、「第1の組」とする)」、「時刻1と4と7と10の4枚よりなる画像の組(以下、「第2の組」とする)」、「時刻2と5と8と11の4枚よりなる画像の組(以下、「第3の組」とする。)」という3つの画像フレームの組に分ける。
【0220】
次いで、ビット・ストリームを画像フレームにマッピングしたときとは逆の手順により、第1の組からビット・ストリームを復元することを試みる。このときのエラーを「第1のエラー」とする。次いで、第2の組からビット・ストリームを復元することを試み、このときのエラーを「第2のエラー」とする。同様に、第3の組からビット・ストリームを復元することを試み、このときのエラーを「第3のエラー」とする。
【0221】
次いで、これら第1、第2、3のエラーの中で最もエラーの小さかったものを選択する。そして、これに対応する画像フレームの組(第1あるいは第2あるいは第3の組)から実際にビット・ストリームのデータを復元すればよい。何故ならば、エラーが小さいということは、その組の画像はイントラ・ピクチャで構成されていたと推測され、正確にビット・ストリームを再現していると判断されるからである。勿論、ビット・ストリームを再現するにあたり、イントラ・ピクチャを用いて復元することよりも、エラーが最も小さい画像の組を使用することの方が重要である。
【0222】
なお、エラーの量は、以下のようにして計測できる。例えば、ビット・ストリームのデータにより画像フレーム内の画素に0又は1の値を割り当てることによって画像を作成してVTRに記録したとする。このような状況で、VTRを再生して、ある画素の値として0.5前後の値が観測された場合は、誤差が大きいと判断できる。あるいは、例えば、VTRに記録する際にビット・ストリームにパリティ・ビットを加えている場合、VTRを再生して、パリティ・エラーの起こる割合が大きければ、誤差が大きいと判断することができる。
【0223】
図3に示した画像処理装置100は、本実施形態にも適用されるので、その装置構成についてはここでは説明しない。この画像処理装置100には、画像情報のソースであるVTRなどの画像記録装置が接続されている。そして、オリジナル画像が記録してあるテープをVTRで再生して取り込み、画像処理装置100上では画像編集を行うとともに、編集過程の画像編集データをこのVTR上に記録する。また、画像処理装置100は、画像圧縮・伸張時における不可逆性のために編集データが損なわれないようにするために、編集データのビット・ストリームをDCT符号化空間の低周波数帯域にマッピングしてからVTRに記録する(同上)。
【0224】
図14及び図15には、本実施形態において、画像編集データとしてのビット・ストリームをVTRに記録し、並びにVTRから再生するための処理手順をフローチャートの形式でそれぞれ示している。
【0225】
本実施形態では、ビット・ストリームがマッピングされた画像フレームを複数枚連続してVTRに記録することによって、イントラ・ピクチャにこの擬似的な画像フレームが割り当てられるようにする。但し、ここでは、上述した第1の実施形態と同様にビット・ストリームをDCT符号化空間の基底ベクトルにマッピングするものとする。
【0226】
このような処理は、実際には、CPU101が所定のプログラム・コードを実行するという形態で実現される。以下、図14及び図15に示されている各フローチャートを参照しながら、この処理手順について説明する。
【0227】
ビット・ストリームを入力すると(ステップS61)、まず、この入力ビット・ストリームに対してパリティ・ビットを付加して、エラー訂正可能なパリティ付きビット・ストリームを作成する(ステップS62)。
【0228】
次いで、変数Nに初期値20を代入する(ステップS63)。この変数Nは、画像のDCT符号化空間の基底ベクトルを構成する成分64個のうち低周波数成分側の何個をビット・ストリームのマッピングに使用するかを決定する(図1を参照のこと)。
【0229】
次いで、パリティ付きビット・ストリームを、Nビットずつに分割する(ステップS64)。そして、分割された各Nビットのデータを、それぞれDCT符号化空間の基底ベクトルのうち低周波数側のN個の成分にマッピングしていき、さらに、DCT符号化空間を構成する基底ベクトルのN+1番目以降の高周波数側の成分に0を代入することによって、8×8ブロックからなる擬似的な符号化画像を作成する。なお、VTR内部でイントラ・ピクチャに対してDCT処理を行なうのが一般的であるが、このVTR内部でのDCT処理をスキップさせることができない場合には、上述した第1の実施形態と同様に、上記の擬似的な符号化画像を一旦IDCT処理して擬似的な原画像にする(ステップS65)。
【0230】
上記のステップS65において、ビット・ストリームのNビットのデータをマッピングして8×8ブロックの擬似的な符号化画像を生成するための処理は図6にフローチャートの形式で示した手順に従って行なうことができる。
【0231】
ビット・ストリームをN個毎に分割して、Nビットのビット列の塊が(K÷5280)個できたとすると、このような8×8ブロックが5280個集まってできる擬似的な符号化画像フレームがKフレームだけ作成される。なお、ここでは、1フレームは704画素×480画素よりなると仮定している。すなわち、5280個の8×8ブロックより1フレームは構成されるとしている(ステップS66)。
【0232】
次いで、K枚の各画像フレームを、動き補償においてイントラ・ピクチャが出現する周期Mに相当する数だけ連続させて、時刻0から時刻M×K−1までの合計M×K枚の画像を作成して、VTRに記録する(ステップS67)。但し、時刻3i−2,3i−2,3i−1(i=0〜K)の画像は、ステップS66により作成された第i番目の画像とまったく同じ画像である。また、VTRでは、周期M毎にイントラ・ピクチャとして画像をDCT処理し、その他の画像は動き補償処理を適用する。
【0233】
次いで、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS68)。すなわち、時刻0から時刻M×K−1までの画像を取り出す。
【0234】
ここで、エラー・チェックのために使用する変数pに初期値0を代入する(ステップS69)。変数p(=0〜M−1)は、ビット・ストリームをマッピングした画像フレームをイントラ・ピクチャに割り当てるために形成された画像の組を指定するために使用される。
【0235】
VTR記録時には、N(=20)ビット毎に分割されたビット列のうちj番目のビット位置におけるビット値が、DCT符号化空間を構成する64個の基底ベクトルの低周波数側からj番目の成分Vj(j=1〜20)に順次マッピングされている。また、イントラ・ピクチャの周期Mに相当する間隔で、時刻p、M+p、2M+p、…、M×(K−1)+pの画像からなる第pの画像の組が形成されている。
【0236】
したがって、再生時には、第pの画像の組すなわち時刻p、M+p、2M+p、…、M×(K−1)+pの画像をそれぞれ8×8ブロックに分割して、それぞれ基底ベクトルの低周波数成分側のj番目の成分Vj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置にマッピングする。さらに、基底ベクトルの低周波数成分が順次マッピングされたこれらNビット毎のビット列をまとめることで、ビット・ストリームを作成する(ステップS70)。
【0237】
上記のステップS70において、時刻p、M+p、2M+p、…、M×(K−1)+pの画像の組からビット・ストリームを生成するための処理は図7にフローチャートの形式で示した手順に従って行なうことができる。
【0238】
次いで、ステップS62において生成した記録時のパリティ付きビット・ストリームと比較して、互いのエラー数をチェックする(ステップS71)。そして、エラー数が少ないかをチェックする(ステップS72)。
【0239】
ステップS72において作成されたビット・ストリームのエラー数が少なければ、ビット・ストリームは正しく再現されたものとして、このVTR記録処理ルーチンを終了する。
【0240】
他方、ステップS72において作成されたビット・ストリームのエラー数が少なくない場合には、pを1だけインクリメントして(ステップS73)、pがイントラ・ピクチャの周期すなわち同じ画像の連続枚数M未満かどうかをチェックする(ステップS74)。
【0241】
pがM未満であれば、ステップS70に戻り、次の第p番目の画像の組を用いてビット・ストリームを作成し、そのエラー・チェックを繰り返し実行する。
【0242】
また、pがMに到達した場合には、Nを1だけデクリメントして(ステップS75)、再現性が確保されるように、ビット・ストリームのマッピングに使用する基底ベクトルの成分をさらに低周波数成分側に制限する。そして、ステップS64に戻って、ビット・ストリームの記録処理を改めて実行する。
【0243】
次いで、VTRから画像を再生する処理、すなわちビット・ストリームを再現する処理について説明する。
【0244】
まず、VTRを再生して、ビット・ストリームを含んだ擬似的な画像を取り出す(ステップS81)。すなわち、時刻0から時刻M×K−1までの画像を取り出す。
【0245】
ここで、エラー・チェックのために使用する変数pに初期値0を代入する(ステップS82)。変数p(=0〜M−1)は、ビット・ストリームをマッピングした画像フレームをイントラ・ピクチャに割り当てるために形成された画像の組を指定するために使用される。
【0246】
VTR記録時には、N(=20)ビット毎に分割されたビット列のうちj番目のビット位置におけるビット値が、DCT符号化空間を構成する64個の基底ベクトルの低周波数側からj番目の成分Vj(j=1〜20)に順次マッピングされている。また、イントラ・ピクチャの周期Mに相当する間隔で、時刻p、M+p、2M+p、…、M×(K−1)+pの画像からなる第pの画像の組が形成されている。
【0247】
したがって、再生時には、第pの画像の組すなわち時刻p、M+p、2M+p、…、M×(K−1)+pの画像をそれぞれ8×8ブロックに分割して、それぞれ基底ベクトルの低周波数成分側のj番目の成分Vj(j=1〜20)の値を、Nビット毎に分割されたビット列のj番目のビット位置にマッピングする。さらに、基底ベクトルの低周波数成分が順次マッピングされたこれらNビット毎のビット列をまとめることで、第p番目のビット・ストリームを作成する(ステップS83)。
【0248】
上記のステップS83において、時刻p、M+p、2M+p、…、M×(K−1)+pの画像の組からビット・ストリームを生成するための処理は図7にフローチャートの形式で示した手順に従って行なうことができる。
【0249】
次いで、この第p番目のビット・ストリームに対して、パリティ・エラーの量をチェックする(ステップS84)。このエラー量を「第p番目のエラー量」とする。
【0250】
次いで、pを1だけインクリメントして(ステップS85)、pがイントラ・ピクチャの周期すなわち同じ画像の連続枚数M未満かどうかをチェックする(ステップS86)。
【0251】
pがM未満であれば、ステップS83に戻り、次の第p番目の画像の組を用いてビット・ストリームを作成し、そのエラー量の検出を繰り返し実行する。
【0252】
また、pがMに到達した場合には、第0番目から第(M−1)番目のエラー量の中で最もエラー量が小さくなるものの番号pminを選択する。エラーが最も小さくなる第pmin番目の画像の組は、イントラ・ピクチャで構成されていたと推測される。
【0253】
そして、最もエラー量が小さくなる第pmin番目の画像の組によって生成される第pmin番目のビット・ストリームを、パリティ付きのビット・ストリームであると推定して、エラー訂正を行い、訂正後のビット・ストリームを出力する(ステップS87)。
【0254】
エラーが小さい画像の組はイントラ・ピクチャで構成されていたと推測されるが、勿論、ビット・ストリームを再現するにあたり、イントラ・ピクチャを用いて復元することよりも、エラーが最も小さい画像の組を使用することの方が重要である。
【産業上の利用可能性】
【0255】
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
【図面の簡単な説明】
【0256】
【図1】DCTにより変換符号化された符号化空間の構成を模式的に示した図である。
【図2】本発明の第1の実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示した図である。
【図3】本実施形態に適用可能な画像処理装置100のハードウェア構成を模式的に示した図である。
【図4】画像編集データとしてのビット・ストリームをVTRに記録するための処理手順をフローチャートの形式で示した図である。
【図5】画像編集データとしてのビット・ストリームをVTRから再生するための処理手順をフローチャートの形式で示した図である。
【図6】図4に示したフローチャート中のステップS5及びS6における、ビット・ストリームのNビットのデータをマッピングして8×8ブロックの擬似的な符号化画像を生成するための処理手順をさらに詳細に示したフローチャートである。
【図7】図5に示したフローチャート中のステップS14及びS15において、8×8ブロックの擬似的な符号化画像を構成する基底ベクトルのうち低周波数成分側のN個をビット・ストリーム中のNビットのデータにマッピングして、ビット・ストリームを作成するための処理手順をさらに詳細に示したフローチャートである。
【図8】画像編集データとしてのビット・ストリームをVTRに記録するための処理手順の変形例をフローチャートの形式で示した図である。
【図9】画像編集データとしてのビット・ストリームをVTRから再生するための処理手順の変形例をフローチャートの形式で示した図である。
【図10】本発明の第2の実施形態における、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示した図である。
【図11】本発明の第2の実施形態における、画像編集データとしてのビット・ストリームをVTRに記録するための処理手順を示したフローチャートである。
【図12】本発明の第2の実施形態における、VTRから再生してビット・ストリームを取得するための処理手順を示したフローチャートである。
【図13】本発明の第3の実施形態において、ビット・ストリームをVTRに保存しさらに再生するためのデータ処理の流れを模式的に示した図である。
【図14】本発明の第3の実施形態における、画像編集データとしてのビット・ストリームをVTRに記録するための処理手順を示したフローチャートである。
【図15】本発明の第3の実施形態における、VTRから再生してビット・ストリームを取得するための処理手順を示したフローチャートである。
【符号の説明】
【0257】
100…画像処理装置
101…CPU,102…メモリ
103…ディスプレイ・コントローラ
104…入力機器インターフェース
105…ネットワーク・インターフェース
107…外部機器インターフェース,108…バス
109…VTRインターフェース
111…ディスプレイ
112…キーボード,113…マウス
114…ハード・ディスク装置
115…メディア・ドライブ
【特許請求の範囲】
【請求項1】
画像以外の第1のデータを符号化する情報符号化装置であって、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段と、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成手段と、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化手段と、
を具備することを特徴とする情報符号化装置。
【請求項2】
第1のデータはビット・ストリームで構成され、
前記マッピング手段は、該ビット・ストリームのビット値を画像フレームの画素に所定の密度を以ってマッピングする、
ことを特徴とする請求項1に記載の情報符号化装置。
【請求項3】
第1のデータはビット・ストリームで構成され、
前記マッピング手段は、画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルに該ビット・ストリームのビット値をマッピングする、
ことを特徴とする請求項1に記載の情報符号化装置。
【請求項4】
画像以外の第1のデータを符号化する情報符号化方法であって、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング・ステップと、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成ステップと、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化ステップと、
を具備することを特徴とする情報符号化方法。
【請求項5】
請求項1に記載の情報符号化装置によって符号化された擬似的な符号化画像から第1のデータを復号化する情報復号化装置であって、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生手段と、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分け手段と、
前記マッピング手段によってマッピングしたのとは逆の手順に従って、前記再生手段によって復号化された各画像から第1のデータの復元を試みる復元手段と、
前記の画像フレームの各組から前記復元手段によってそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力する手段と、
を具備することを特徴とする情報復号化装置。
【請求項6】
第1のデータはビット・ストリームで構成され、該ビット・ストリームのビット値が画像フレームの画素に所定の密度を以ってマッピングされており、
前記再マッピング手段は、画像フレームを第2の密度の逆数を以って第1のデータに逆変換する、
ことを特徴とする請求項5に記載の情報復号化装置。
【請求項7】
第1のデータはビット・ストリームで構成され、画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルに該ビット・ストリームのビット値がマッピングされており、
前記再マッピング手段は、基底ベクトルにマッピングされたビット値をビット・ストリームに再マッピングする、
ことを特徴とする請求項5に記載の情報復号化装置。
【請求項8】
請求項3に記載の情報符号化方法によって符号化された擬似的な符号化画像から第1のデータを復号化する情報復号化方法であって、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生ステップと、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分けステップと、
前記マッピング・ステップにおいてマッピングしたのとは逆の手順に従って、前記再生ステップにおいて復号化された各画像から第1のデータの復元を試みる復元ステップと、
前記の画像フレームの各組から前記復元ステップにおいてそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力するステップと、
を具備することを特徴とする情報復号化方法。
【請求項9】
情報を符号化及び復号化するための処理をコンピュータ上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、前記コンピュータを、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段と、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成手段と、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化手段と、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生手段と、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分け手段と、
前記マッピング手段によってマッピングしたのとは逆の手順に従って、前記再生手段によって復号化された各画像から第1のデータの復元を試みる復元手段と、
前記の画像フレームの各組から前記復元手段によってそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力する手段と、
として機能させるための記憶媒体。
【請求項10】
情報を符号化及び復号化するための処理をコンピュータ上で実行するように記述されたコンピュータ・プログラムであって、前記コンピュータを、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段と、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成手段と、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化手段と、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生手段と、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分け手段と、
前記マッピング手段によってマッピングしたのとは逆の手順に従って、前記再生手段によって復号化された各画像から第1のデータの復元を試みる復元手段と、
前記の画像フレームの各組から前記復元手段によってそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力する手段と、
として機能させるためのコンピュータ・プログラム。
【請求項1】
画像以外の第1のデータを符号化する情報符号化装置であって、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段と、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成手段と、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化手段と、
を具備することを特徴とする情報符号化装置。
【請求項2】
第1のデータはビット・ストリームで構成され、
前記マッピング手段は、該ビット・ストリームのビット値を画像フレームの画素に所定の密度を以ってマッピングする、
ことを特徴とする請求項1に記載の情報符号化装置。
【請求項3】
第1のデータはビット・ストリームで構成され、
前記マッピング手段は、画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルに該ビット・ストリームのビット値をマッピングする、
ことを特徴とする請求項1に記載の情報符号化装置。
【請求項4】
画像以外の第1のデータを符号化する情報符号化方法であって、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング・ステップと、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成ステップと、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化ステップと、
を具備することを特徴とする情報符号化方法。
【請求項5】
請求項1に記載の情報符号化装置によって符号化された擬似的な符号化画像から第1のデータを復号化する情報復号化装置であって、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生手段と、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分け手段と、
前記マッピング手段によってマッピングしたのとは逆の手順に従って、前記再生手段によって復号化された各画像から第1のデータの復元を試みる復元手段と、
前記の画像フレームの各組から前記復元手段によってそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力する手段と、
を具備することを特徴とする情報復号化装置。
【請求項6】
第1のデータはビット・ストリームで構成され、該ビット・ストリームのビット値が画像フレームの画素に所定の密度を以ってマッピングされており、
前記再マッピング手段は、画像フレームを第2の密度の逆数を以って第1のデータに逆変換する、
ことを特徴とする請求項5に記載の情報復号化装置。
【請求項7】
第1のデータはビット・ストリームで構成され、画像フレームを離散コサイン変換(DCT)した符号化空間を構成する基底ベクトルに該ビット・ストリームのビット値がマッピングされており、
前記再マッピング手段は、基底ベクトルにマッピングされたビット値をビット・ストリームに再マッピングする、
ことを特徴とする請求項5に記載の情報復号化装置。
【請求項8】
請求項3に記載の情報符号化方法によって符号化された擬似的な符号化画像から第1のデータを復号化する情報復号化方法であって、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生ステップと、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分けステップと、
前記マッピング・ステップにおいてマッピングしたのとは逆の手順に従って、前記再生ステップにおいて復号化された各画像から第1のデータの復元を試みる復元ステップと、
前記の画像フレームの各組から前記復元ステップにおいてそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力するステップと、
を具備することを特徴とする情報復号化方法。
【請求項9】
情報を符号化及び復号化するための処理をコンピュータ上で実行するように記述されたコンピュータ・ソフトウェアをコンピュータ可読形式で物理的に格納した記憶媒体であって、前記コンピュータ・ソフトウェアは、前記コンピュータを、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段と、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成手段と、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化手段と、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生手段と、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分け手段と、
前記マッピング手段によってマッピングしたのとは逆の手順に従って、前記再生手段によって復号化された各画像から第1のデータの復元を試みる復元手段と、
前記の画像フレームの各組から前記復元手段によってそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力する手段と、
として機能させるための記憶媒体。
【請求項10】
情報を符号化及び復号化するための処理をコンピュータ上で実行するように記述されたコンピュータ・プログラムであって、前記コンピュータを、
第1のデータを画像フレームにマッピングして擬似的な画像フレームを作成するマッピング手段と、
時間的に連続する複数の画像を動き補償による圧縮を行なう過程において、イントラ・ピクチャが出現する周期に相当する枚数だけ前記擬似的な画像フレームを連続させて、前記擬似的な画像フレームを必ずイントラ・ピクチャに割り当てるようにした連続画像を生成する生成手段と、
前記の生成された連続画像について、イントラ・ピクチャに対して離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なう符号化手段と、
イントラ・ピクチャに対して逆離散コサイン変換を行なうとともに、ノンイントラ・ピクチャに対して動き補償処理を行なって、復号化された連続画像を再生する再生手段と、
前記の復号化された連続画像を、イントラ・ピクチャが出現する周期に相当する枚数に応じた画像フレームの組に分ける組み分け手段と、
前記マッピング手段によってマッピングしたのとは逆の手順に従って、前記再生手段によって復号化された各画像から第1のデータの復元を試みる復元手段と、
前記の画像フレームの各組から前記復元手段によってそれぞれ復元された復元結果のうちエラーが最も小さくなるものを再現された第1のデータとして出力する手段と、
として機能させるためのコンピュータ・プログラム。
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図1】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図1】
【図2】
【公開番号】特開2008−136222(P2008−136222A)
【公開日】平成20年6月12日(2008.6.12)
【国際特許分類】
【出願番号】特願2007−323148(P2007−323148)
【出願日】平成19年12月14日(2007.12.14)
【分割の表示】特願2002−9236(P2002−9236)の分割
【原出願日】平成14年1月17日(2002.1.17)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成20年6月12日(2008.6.12)
【国際特許分類】
【出願日】平成19年12月14日(2007.12.14)
【分割の表示】特願2002−9236(P2002−9236)の分割
【原出願日】平成14年1月17日(2002.1.17)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]