直交変換係数の符号または値を用いて情報伝送を行う符号化装置、復号装置、方法およびプログラム
【課題】符号化側から復号側へ映像などの信号を伝送する際に、符号量が増加することなく、その映像などの信号に制御信号を重畳して伝送する。
【解決手段】符号化装置1の直交変換係数操作部12は、制御信号s=1の場合、(0,0)成分の直交変換係数の符号を反転し、制御信号s=0の場合、(0,0)成分の直交変換係数の符号をそのままとする。これにより、制御信号sの重畳した直交変換係数が生成される。一般に、映像信号を符号化する場合、直交変換係数における低域の情報は多く、高域の情報は少ないという性質がある。この低域の直交変換係数の符号が反転すると、符号化ブロック境界において信号変動が極めて大きくなる。このような映像信号の性質を利用して、復号装置2−1は、制御信号sの重畳した直交変換係数に対し、ブロック境界の画素信号の差分量に基づいて、制御信号sを抽出する。
【解決手段】符号化装置1の直交変換係数操作部12は、制御信号s=1の場合、(0,0)成分の直交変換係数の符号を反転し、制御信号s=0の場合、(0,0)成分の直交変換係数の符号をそのままとする。これにより、制御信号sの重畳した直交変換係数が生成される。一般に、映像信号を符号化する場合、直交変換係数における低域の情報は多く、高域の情報は少ないという性質がある。この低域の直交変換係数の符号が反転すると、符号化ブロック境界において信号変動が極めて大きくなる。このような映像信号の性質を利用して、復号装置2−1は、制御信号sの重畳した直交変換係数に対し、ブロック境界の画素信号の差分量に基づいて、制御信号sを抽出する。
【発明の詳細な説明】
【技術分野】
【0001】
映像または音声などの符号化技術に関し、特に、放送または映像配信サービスなどに用いる符号化装置、復号装置、方法およびプログラムに関する。
【背景技術】
【0002】
映像または音声などの符号化技術では、複数の信号処理技術を組み合わせることにより、信号をより少ない信号表現に変換し信号圧縮を実現する。それぞれの処理を決められた手順で行うことは容易であるが、復号する際に信号がどの処理によって符号化されたかを判別するためには、制御信号を付加する必要がある。このような制御信号は、入力信号を信号処理によって変換した信号ではなく新たに追加した信号であり、符号化処理において符号量が増加する要因となる。一般的に、符号化方式の信号処理として、制御信号によって符号量が増加しないように、十分に圧縮効果の得られる処理が採用されており、符号量増加の問題は生じていない。例えば、MPEG−2、H.264/AVCなどに規定する処理が採用されている。
【0003】
また、デジタル符号化技術の発展によって映像配信が容易になったため、映像および音声信号の高品質な複製が行われ、コンテンツホルダーの権利が侵害されるようになった。このような問題を解決するために、著作権保護の観点から、符号化された信号に著作権保護のための管理情報を、符号量を極力増加させることなく埋め込むデータハイディング技術の研究が行われ、実用化されている(例えば、非特許文献1を参照)。このデータハイディング技術は、情報量および符号化品質にできる限り影響を与えないように、符号化前の信号における冗長性を有する部分、または人間の視覚および聴覚によって検知されない(または検知され難い)部分に管理情報を埋め込むことにより、管理情報を伝送する。しかし、映像または音声の符号化のように、非可逆な符号化による信号の劣化を考慮すると、ある程度強く信号を操作しなければならず、操作した信号によって符号量および符号化品質に影響を与えてしまう。また、符号化処理によっては埋め込まれた管理情報が変化する可能性があることから、管理情報などの制御信号を確実に伝送する必要のあるシステムにデータハイディング技術を適用することは妥当でない。
【0004】
一方、符号化後の信号を特定の手順で操作し、情報を伝送する技術が検討されている(非特許文献2を参照)。この技術は、直交変換係数の値を1プラスマイナスすることによって、情報を伝送するものである。しかし、符号化後の信号は、信号の冗長性が十分に除去された信号であり、わずかな信号の操作によっても符号化品質に大きな影響を与えることになる。このような問題から、データハイディング技術を利用して制御信号を伝送するシステムは実用化されていない。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】吉野知伸、吉田俊之、「画像のDCT係数に対する整数計画問題に基づくデータハイディング」、2002年画像符号化シンポジウム(PCSJ)、2002年11月11日〜13日、P−5.06
【非特許文献2】JCTVC−E428、“Low Complexity Embedding of Information in Transform Coefficients”
【発明の概要】
【発明が解決しようとする課題】
【0006】
前述のとおり、圧縮符号化を目的とする符号化処理では、制御信号は符号量の増加要因になるから、極力付与されるべきでない。一方、データハイディング技術は、一般的には符号化前の信号に所定の情報を埋め込むものであり、また、符号化後の信号を操作する場合、超高圧縮下において符号化品質に与える影響が大きい。
【0007】
しかし、一般的に圧縮を目的とする符号化処理は、ハフマン符号などのように、入力信号の持つ統計的偏りを利用して平均的な信号表現を少なくする。つまり、入力信号には既知の信号性質があり、符号化後の信号を操作することで符号化品質が著しく劣化した場合、その信号性質は容易に破たんする。
【0008】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、符号化側から復号側へ映像などの信号を伝送する際に、符号量が増加することなく、その映像などの信号に制御信号を重畳して伝送可能な符号化装置、復号装置、方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0009】
前記目的を達成するために、本発明による請求項1の符号化装置は、伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置において、前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成する直交変換部と、前記直交変換部により生成された直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳する直交変換係数操作部と、を備えることを特徴とする。
【0010】
また、本発明による請求項2の符号化装置は、請求項1に記載の符号化装置において、前記直交変換係数操作部の代わりに二値化直交変換係数操作部を備え、前記二値化直交変換係数操作部が、前記直交変換係数が二値化された二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳する、ことを特徴とする。
【0011】
また、本発明による請求項3の復号装置は、請求項1の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、前記直交変換係数に逆直交変換を行って第1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成する逆直交変換部と、前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、を備えたことを特徴とする。
【0012】
また、本発明による請求項4の復号装置は、前記伝送対象の信号が複数のコンポーネント信号により構成され、請求項1の符号化装置により所定のコンポーネント信号における直交変換係数の符号が操作され前記制御信号が重畳した場合に、前記符号化装置により伝送された、前記制御信号が重畳したコンポーネント信号における直交変換係数の符号化信号を受信すると共に、前記制御信号が重畳していない他のコンポーネント信号における直交変換係数の符号化信号を受信し、前記それぞれの符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、前記制御信号が重畳したコンポーネント信号の直交変換係数に逆直交変換を行って第1−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第1−2の要素信号を生成する第1の逆直交変換部と、前記制御信号が重畳していない他のコンポーネント信号の直交変換係数に逆直交変換を行って第2−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2−2の要素信号を生成する第2の逆直交変換部と、前記第1の逆直交変換部により生成された第1−1および第1−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の算出結果をそれぞれ求め、前記算出結果を比較して第1の判定結果を求め、前記第2の逆直交変換部により生成された第2−1および第2−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の算出結果をそれぞれ求め、前記算出結果を比較して第2の判定結果を求め、前記第1および第2の判定結果に基づいて、前記第2−1の要素信号と同じ判定結果となった第1−1または第1−2の要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、を備えたことを特徴とする。
【0013】
また、本発明による請求項5の復号装置は、請求項2の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置であって、前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成すると共に、前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成する逆直交変換部と、前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、を備えたことを特徴とする。
【0014】
また、本発明による請求項6の符号化方法は、伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、前記直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳するステップと、を有することを特徴とする。
【0015】
また、本発明による請求項7の符号化方法は、伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、前記直交変換係数を二値化し、二値化直交変換係数を生成するステップと、前記二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳するステップと、を有することを特徴とする。
【0016】
また、本発明による請求項8の復号方法は、請求項6の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、逆直交変換を行って元の伝送対象の信号に復号する復号装置による復号方法であって、前記受信した符号化信号の直交変換係数に逆直交変換を行って第1の要素信号を生成するステップと、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成するステップと、前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、を有することを特徴とする。
【0017】
また、本発明による請求項9の復号方法は、請求項7の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置による復号方法であって、前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成するステップと、前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成するステップと、前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、を有することを特徴とする。
【0018】
また、本発明による請求項10の符号化プログラムは、コンピュータを、請求項1または2に記載の符号化装置として機能させることを特徴とする。
【0019】
また、本発明による請求項11の復号プログラムは、コンピュータを、請求項3から5までのいずれか一項に記載の復号装置として機能させることを特徴とする。
【発明の効果】
【0020】
以上のように、本発明によれば、符号化側から復号側へ映像などの信号を伝送する際に、符号量が増加することなく、その映像などの信号に制御信号を重畳して伝送することが可能となる。また、復号時に信号補正を行うことにより、映像などの信号の品質劣化を伴うことなく制御信号を伝送することができ、より高圧縮な符号化を実現することができる。
【図面の簡単な説明】
【0021】
【図1】本発明の第1の実施形態(実施例1)による符号化装置の概略構成を示すブロック図である。
【図2】直交変換係数操作部の処理を示すプログラムの例である。
【図3】直交変換係数操作部の処理を示すフローチャートである。
【図4】実施例1による復号装置の概略構成を示すブロック図である。
【図5】逆直交変換部の処理を示すフローチャートである。
【図6】4×4画素のブロックにおける画素信号の位置関係を示す図である。
【図7】実施例1による比較/判定部の処理を示すプログラムの例である。
【図8】実施例1による比較/判定部の処理を示すフローチャートである。
【図9】本発明の第2の実施形態(実施例2)による復号装置の概略構成を示すブロック図である。
【図10】実施例2による比較/判定部の処理を示すフローチャートである。
【図11】本発明の第3の実施形態(実施例3)による復号装置の概略構成を示すブロック図である。
【図12】本発明の第4の実施形態(実施例4)による符号化装置の概略構成を示すブロック図である。
【図13】二値化直交変換係数操作部の処理を示すフローチャートである。
【図14】実施例4による復号装置の概略構成を示すブロック図である。
【図15】逆直交変換部の処理を示すフローチャートである。
【発明を実施するための形態】
【0022】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。実施例1〜3は、伝送対象の映像信号を例として、符号化した映像信号を操作する際に、入力信号の統計的偏りが顕著に破たんするように、故意に映像信号を操作し、復号時に統計的偏りの不自然さを検出し、映像信号を決められた手順で復元する例である。具体的には、映像信号の直交変換係数情報(符号情報または/および値情報)を操作する。映像信号の符号化では、映像信号の隣接画素間の相関が高いことが知られている。そのため、MPEG−2またはH.264/AVCの規格に従った画像を小領域に分割して符号化するブロック符号化では、ブロックの境界において隣接画素間の相関が高い。この領域の画素信号間の相関が極端に低くなると、ブロックの境界において顕著な信号の変化が生じ、復号時に筋状の劣化が検知される。また、このような劣化をブロック歪とよび、通常ブロック歪が生じないように符号化処理が行われる。そこで、本発明の実施形態による符号化装置および復号装置では、直交変換係数情報を操作し、復号時には境界部の隣接画素間の相関を極端に低下させる/させない処理を行うことによって、制御信号が重畳した情報を伝送する。
【0023】
直交変換係数をその値の大きさ(絶対値)と符号とに分け、符号の正負を操作した場合であっても、ビット量にほとんど影響を与えないから、直交変換係数の符号化情報量はさほど変化しない。また、直交変換係数の値を操作した場合、すなわち、エントロピー符号化のために二値化された可変ビット長の信号における直交変換係数の最上位ビットの信号を反転操作した場合も、ビット量にほとんど影響を与えないから、直交変換係数の符号化情報量はさほど変化しない。さらに、ブロック単位に直交変換係数の符号または/および値を操作することによって、全体のビット変動は平均して0になるから、符号量の増加を伴うことなく、制御信号が重畳した情報を伝送することができる。
【0024】
〔実施例1/符号化装置〕
まず、実施例1の符号化装置について説明する。図1は、実施例1による符号化装置の概略構成を示すブロック図である。この符号化装置1は、画像の直交変換係数の符号を操作することで制御信号sを重畳し、符号化信号を伝送する装置であり、直交変換部11、直交変換係数操作部12およびエントロピー符号化部13を備えている。尚、図1には、符号化装置1の構成部のうち、本発明に関連する構成部のみが示されている。
【0025】
直交変換部11は、画素信号により構成される画像(映像信号)を入力し、入力した画素信号に対して直交変換処理を施し、2次元の直交変換係数を生成して直交変換係数操作部12に出力する。すなわち、直交変換部11は、映像信号を構成する複数の画素信号からなるブロック毎に、直交変換により複数成分(基底)の直交変換係数を生成する。直交変換処理として、例えば離散コサイン変換(DCT)、離散サイン変換(DST)などが行われる。尚、本発明は、直交変換処理の種類を限定するものではない。
【0026】
直交変換係数操作部12は、直交変換部11とエントロピー符号化部13との間に設けられ、制御信号s(=0,1)に基づいて、直交変換係数の符号を操作することで符号を反転する。直交変換係数操作部12は、直交変換部11から2次元の直交変換係数を入力すると共に、直交変換係数に重畳する制御信号sを入力し、入力した2次元の直交変換係数をジグザグスキャンなどの処理によって直列化し、1次元の直交変換係数を生成する。そして、直交変換係数操作部12は、入力した制御信号sに基づいて、例えば(0,0)成分の直交変換係数の符号を反転し、または符号をそのままにして、符号が反転した直交変換係数または符号をそのままにした直交変換係数をエントロピー符号化部13に出力する。これにより、直交変換係数に制御信号sが重畳され、制御信号sが重畳した直交変換係数は、エントロピー符号化部13に出力される。
【0027】
図2は、直交変換係数操作部12の処理を示すプログラム(C言語によるプログラム)の例であり、図3は、直交変換係数操作部12の処理を示すフローチャートであり、図2のプログラムをフローチャートで表したものである。直交変換係数操作部12において直列化された入力係数列をa[i](i=0,1,・・・,N−1)とし、制御信号sに基づいて(0,0)成分の直交変換係数の符号を反転した出力係数列、または符号をそのままにした出力係数列をb[i](i=0,1,・・・,N−1)し、a[0],b[0]を(0,0)成分の直交変換係数とする。
【0028】
まず、直交変換係数操作部12は、直交変換部11から直交変換係数を入力すると共に、制御信号s(=0,1)を入力し(ステップS301)、直交変換係数を直列化して入力系列a[i](i=0,1,・・・,N−1)を生成する(ステップS302)。そして、直交変換係数操作部12は、制御信号sが1であるか否かを判定し(ステップS303)、制御信号sが1であると判定した場合(ステップS303:Y)、(0,0)成分の直交変換係数a[0]の符号を反転し、(0,0)成分の新たな直交変換係数(符号が反転した直交変換係数)b[0]を生成する(ステップS304)。すなわち、b[0]=−a[0]の処理を行う。
【0029】
一方、直交変換係数操作部12は、ステップS303において、制御信号sが1でない(制御信号sが0である)と判定した場合(ステップS303:N)、(0,0)成分の直交変換係数a[0]の符号をそのままとした直交変換係数b[0]を生成する(ステップS305)。すなわち、直交変換係数a[0]に対して符号反転の処理を行わず、b[0]=a[0]の処理を行う。そして、直交変換係数操作部12は、ステップS304およびステップS305から移行して、(0,0)成分以外の直交変換係数a[i](i=1,2,・・・,N−1)について符号反転の処理を行わず、直交変換係数b[i]=a[i]を生成する(ステップS306)。そして、直交変換係数操作部12は、直交変換係数b[i](i=0,1,・・・,N−1)、すなわち制御信号sが重畳した直交変換係数をエントロピー符号化部13に出力する(ステップS307)。
【0030】
図1に戻って、エントロピー符号化部13は、直交変換係数操作部12から、制御信号sが重畳した直交変換係数を入力し、エントロピー符号化を行う。エントロピー符号化部13によりエントロピー符号化された直交変換係数は、符号化信号として後述する復号装置2−1へ伝送される。
【0031】
以上のように、実施例1の符号化装置1によれば、直交変換係数操作部12が、制御信号s=1の場合、(0,0)成分の直交変換係数の符号を反転し、制御信号s=0の場合、(0,0)成分の直交変換係数の符号をそのままにすることで、制御信号sの重畳した直交変換係数を生成するようにした。ここで、一般的に、映像信号を符号化する場合、直交変換係数における低域の情報は多く、高域の情報は少ないという性質がある。直交変換処理により生成される最初の直交変換係数である(0,0)成分は、特に情報量が多く、直交変換係数を一切送らない非符号化制御を行わない限り、直交変換係数が0となることは極めて少ない。また、(0,0)成分の直交変換係数は最も低域の情報であり、本実施例で用いているDCTの場合、その符号が反転することにより、符号化ブロック境界において信号変動が極めて大きくなる。このような映像信号の性質を利用して、符号化装置1において、直交変換係数の符号を操作することで、制御信号sの重畳した直交変換係数が生成され、後述する復号装置2−1へ伝送される。そして、後述する復号装置2−1に、制御信号sの重畳した直交変換係数の符号化信号を受信させ、ブロック境界の画素信号の差分量に基づいて、制御信号sを抽出させる。復号装置2−1の詳細については後述する。これにより、符号化装置1から後述する復号装置2−1へ映像信号を伝送する際に、符号化量が増加することなく、その映像信号に重畳した制御信号sを伝送することができる。
【0032】
〔実施例1/復号装置〕
次に、実施例1の復号装置について説明する。図4は、実施例1による復号装置の概略構成を示すブロック図である。この復号装置2−1は、符号化装置1から符号化信号を受信して復号画像を生成すると共に、直交変換係数に重畳した制御信号sを抽出する装置であり、エントロピー復号部21、逆直交変換部22および比較/判定部23を備えている。尚、図4には、復号装置2−1の構成部のうち、本発明に関連する構成部のみが示されている。
【0033】
復号装置2−1が符号化装置1から送信された符号化信号を受信すると、エントロピー復号部21は、符号化信号を入力してエントロピー復号を行い、制御信号sが重畳した直交変換係数b[i]を逆直交変換部22に出力する。
【0034】
逆直交変換部22は、制御信号sが重畳した直交変換係数b[i]を入力し、(0,0)成分の直交変換係数b[0]に対して符号をそのままにし、逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数b[0]に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成する。そして、逆直交変換部22は、そのままの画素信号および反転した画素信号を比較/判定部23に出力する。逆直交変換処理として、例えば逆離散コサイン変換(IDCT)、逆離散サイン変換(IDST)などが行われる。尚、本発明は、逆直交変換処理の種類を限定するものではない。
【0035】
図5は、逆直交変換部22の処理を示すフローチャートである。まず、逆直交変換部22は、エントロピー復号部21から直交変換係数b[i]を入力する(ステップS501)。そして、逆直交変換部22は、(0,0)成分の直交変換係数b[0]に対して符号をそのままにし(ステップS502)、直交変換係数b[0],b[1],・・・,b[N−1]に対し逆直交変換処理を行い、画素信号(そのままの画素信号)を生成する(ステップS503)。また、逆直交変換部22は、(0,0)成分の直交変換係数b[0]に対して符号を反転して−b[0]を生成し(ステップS504)、直交変換係数−b[0],b[1],・・・,b[N−1]に対し逆直交変換処理を行い、画素信号(反転した画素信号)を生成する(ステップS505)。そして、逆直交変換部22は、ステップS503にて生成した画素信号(そのままの画素信号)、およびステップS505にて生成した画素信号(反転した画素信号)を比較/判定部23に出力する(ステップS506)。
【0036】
図4に戻って、比較/判定部23は、逆直交変換部22から、そのままの画素信号((0,0)成分の直交変換係数の符号をそのままにして、逆直交変換処理により生成された画素信号)および反転した画素信号((0,0)成分の直交変換係数の符号を反転し、逆直交変換処理により生成された画素信号)を入力すると共に、ブロック境界の隣接画素信号(当該比較/判定部23により既に処理が行われ出力された復号画像の画素信号のうち、処理対象の隣のブロックにおいて最も近い画素信号)を入力する。そして、比較/判定部23は、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(差分量の絶対値)を算出し、この差分量を比較することで差分量の小さい画素信号(そのままの画素信号または反転した画素信号)を選択し、復号画像の画素信号として出力する。また、比較/判定部23は、差分量の小さい画素信号としてそのままの画素信号を選択した場合、制御信号s=0を判定し出力する。これにより、制御信号s=0が抽出される。一方、比較/判定部23は、差分量の小さい画素信号として反転した画素信号を選択した場合、制御信号s=1を判定し出力する。これにより、制御信号s=1が抽出される。
【0037】
尚、比較/判定部23は、最初のブロックの映像信号について、制御信号sを抽出するための前述の処理を行わない。最初のブロックの映像信号については、隣接画素信号が存在しないからである。この場合、符号化装置1の直交変換係数操作部12は、最初のブロックの映像信号については直交変換係数の符号に対する操作を行わない。また、比較/判定部23は、差分量を比較することで差分量の小さい画素信号を選択し、復号画像の画素信号として出力するようにしたが、システムによっては差分量の大きい画素信号を選択する場合もあり得る。比較/判定部23が小さい画素信号を選択するか、または大きい画素信号を選択するかは、システムで決定される相対関係に応じて予め設定される。後述する実施例2の比較/判定部25,26、実施例3の比較/判定部28−1,28−2,29及び実施例4の比較/判定部23においても同様である。
【0038】
図6は、4×4画素のブロックにおける画素信号の位置関係を示す図であり、図7は、比較/判定部23の処理を示すプログラム(C言語によるプログラム)の例であり、図8は、比較/判定部23の処理を示すフローチャートであり、図7のプログラムをフローチャートで表したものである。比較/判定部23が逆直交変換部22から入力するそのままの画素信号をB[i][j]とし、反転した画素信号をC[i][j]とし、隣接画素信号をd[j],e[i]とする。また、画素信号B[i][j]と隣接画素信号d[j],e[i]との間の差分量の絶対値和をS[0]とし、画素信号C[i][j]と隣接画素信号d[j],e[i]との間の差分量の絶対値和をS[1]とする。i=0〜3,j=0〜3である。
【0039】
図6において、4×4画素のブロックにおける番号1には画素信号B[0][0],C[0][0]が存在し、番号2〜4には画素信号B[0][1],C[0][1]〜B[0][3],C[0][3]が存在する。同様にして、番号5には画素信号B[1][0],C[1][0]が存在し、番号13〜16には画素信号B[3][0],C[3][0]〜B[3][3],C[3][3]が存在する。また、隣接画素信号d[j]=d[0]〜d[3]は、番号1〜4の画素信号に対する隣接画素信号であり、隣接画素信号e[i]=e[0]〜e[3]は、番号1,5,9,13の画素信号に対する隣接画素信号である。
【0040】
図7および図8において、S[0],S[1]は、算出した差分量の絶対値和を示す。まず、比較/判定部23は、逆直交変換部22からそのままの画素信号B[i][j]および反転した画素信号C[i][j]を入力すると共に、ブロック境界の隣接画素信号d[j],e[i]を入力する(ステップS801)。そして、比較/判定部23は、画素信号B[i][j],C[i][j]と隣接画素信号d[j]との間の差分量の絶対値和S[0],S[1]をそれぞれ算出し、算出したそれぞれの差分量の絶対値和S[0],S[1]を加算し、さらに、画素信号B[i][j],C[i][j]と隣接画素信号e[i]との間の差分量の絶対値和S[0],S[1]をそれぞれ算出し、算出したそれぞれの差分量の絶対値和S[0],S[1]を加算し、両者の加算結果を合計した差分量の絶対値和S[0],S[1]を求める(ステップS802)。
【0041】
比較/判定部23は、ステップS802にて求めた差分量の絶対値和S[0],S[1]を比較し、差分量の絶対値和S[0]が差分量の絶対値和S[1]以上であるか否かを判定し(ステップS803)、差分量の絶対値和S[0]が差分量の絶対値和S[1]以上であると判定した場合(ステップS803:Y)、差分量の絶対値和S[0]よりも小さいまたは等しい差分量の絶対値和S[1]に対応する画素信号C[i][j]、すなわち反転した画素信号を選択して出力すると共に、制御信号s=1を判定して出力する(ステップS804)。一方、比較/判定部23は、ステップS803において、差分量の絶対値和S[0]が差分量の絶対値和S[1]以上でないと判定した場合(ステップS803:N)、小さい方の差分量の絶対値和S[0]に対応する画素信号B[i][j]、すなわちそのままの画素信号を選択して出力すると共に、制御信号s=0を判定して出力する(ステップS805)。
【0042】
以上のように、実施例1の復号装置2−1によれば、逆直交変換部22が、制御信号sの重畳した直交変換係数を入力し、(0,0)成分の直交変換係数に対して符号をそのままにして逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成するようにした。そして、比較/判定部23が、そのままの画素信号および反転した画素信号とブロック境界の隣接画素信号との間の差分量を算出し、差分量の小さい画素信号(そのままの画素信号または反転した画素信号)を選択し、復号画像の画素信号として出力すると共に、そのままの画素信号を選択した場合、制御信号s=0を判定して出力し、反転した画素信号を選択した場合、制御信号s=1を判定して出力するようにした。これにより、符号化装置1から復号装置2−1へ映像信号を伝送する際に、その映像信号に重畳した制御信号sを抽出することができる。また、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、制御信号sの伝送が可能となる。また、復号装置2−1において、信号補正を行うことにより、すなわち、直交変換係数の符号を反転して逆直交変換を行うと共に、符号をそのままにして逆直交変換処理を行うことにより、映像信号の品質劣化を伴うことなく制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。
【0043】
つまり、復号装置2−1において、符号量が増加することなく伝送された制御信号sを復元することができる。また、視覚感度の高い輝度信号に制御信号sを重畳させるのではなく、より画素の相関の高い色差信号に重畳させることができる。すなわち、符号化装置1が、符号化した信号を操作する際に、入力信号の統計的偏りが顕著に破たんするように、故意に信号を操作し、復号装置2−1が、統計的偏りの不自然さを検出し、制御信号sを決められた手順で復元することにより、符号化装置1から復号装置2−1へ伝送される映像信号の品質劣化を防止し、映像信号に重畳して伝送される制御信号sを正確に抽出することができる。
【0044】
〔実施例2〕
次に、実施例2について説明する。前述のとおり、実施例1は、隣接する画素信号間の差分量を基準にして、当該コンポーネント(信号輝度または2色差信号のいずれか)で比較および判定することにより、制御信号sを抽出する。これに対し、実施例2では、1つの画素が2つのコンポーネント信号により構成される映像信号を例にして、直交変換係数の符号を操作したコンポーネント信号のブロックにおける画素信号と隣接画素信号との間の差分量を、他のコンポーネント信号のブロックにおける同位置の画素信号と隣接画素信号との間の差分量と比較し判定することにより、制御信号sを抽出する。実施例2によれば、2つのコンポーネント信号における画素信号間の相関は極めて高いから、実施例1に比べ、制御信号sの抽出を一層精度高く行うことができる。特に、予測差分信号のように、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量の比較結果である大小が一定でない場合に有効である。尚、符号化側の構成および処理は、図1に示した実施例1の符号化装置1と同一である。また、差分量とは、実施例1と同様に、差分量の絶対値を示す。
【0045】
実施例2の復号装置について説明する。図9は、実施例2による復号装置の概略構成を示すブロック図である。この復号装置2−2は、符号化装置1から符号化信号を受信して復号画像を生成すると共に、コンポーネント信号1の直交変換係数に重畳した制御信号sを抽出する装置であり、逆直交変換部24−1,24−2および比較/判定部25,26を備えている。尚、図9では、エントロピー復号部が省略されており、復号装置2−2の構成部のうち、本発明に関連する構成部のみが示されている。
【0046】
逆直交変換部24−1は、制御信号sが重畳した直交変換係数であるコンポーネント信号1を入力し、例えば(0,0)成分の直交変換係数に対して符号をそのままにし、逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成する。そして、逆直交変換部24−1は、そのままの画素信号および反転した画素信号を比較/判定部26に出力する。
【0047】
逆直交変換部24−2も、逆直交変換部24−1と同様の処理を行う。具体的には、逆直交変換部24−2は、制御信号sが重畳していない直交変換係数であるコンポーネント信号2を入力し、(0,0)成分の直交変換係数に対して符号をそのままにし、逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成する。そして、逆直交変換部24−2は、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を比較/判定部25に出力する。
【0048】
尚、符号化装置1は、制御信号sが重畳したコンポーネント信号1の直交変換係数における符号化信号を伝送することに加え、制御信号sが重畳していないコンポーネント信号2の直交変換係数における符号化信号を伝送する。つまり、コンポーネント信号2の直交変換係数に対しては符号の操作が行われない。復号装置2−2は、制御信号sが重畳したコンポーネント信号1の直交変換係数における符号化信号、および制御信号sが重畳していないコンポーネント信号2の直交変換係数における符号化信号を受信し、エントロピー復号部(図示せず)が、これらの符号化信号に対しエントロピー復号を行い、制御信号sが重畳した直交変換係数であるコンポーネント信号1を逆直交変換部24−1に出力し、制御信号sが重畳していない直交変換係数であるコンポーネント信号2を逆直交変換部24−2に出力する。したがって、逆直交変換部24−2により出力されるそのままの画素信号が、正しい復号信号となり、逆直交変換部24−2により出力される反転した画素信号が、正しくない復号信号となる。前述のとおり、コンポーネント信号2は、符号化装置1において直交変換係数の符号が操作されていないからである。
【0049】
比較/判定部25は、逆直交変換部24−2から、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を入力すると共に、ブロック境界の隣接画素信号を入力し、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(正しい復号信号の差分量、正しくない復号信号の差分量)をそれぞれ算出する。そして、比較/判定部25は、正しい復号信号の差分量が、正しくない復号信号の差分量以下である場合、判定結果として差分量小(差分量が小さい方が正しい復号信号であることを示す判定結果)を比較/判定部26に出力し、正しい復号信号の差分量が、正しくない復号信号の差分量よりも大きい場合、判定結果として差分量大(差分量が大きい方が正しい復号信号であることを示す判定結果)を比較/判定部26に出力する。また、比較/判定部25は、入力したそのままの画素信号を復号画像の画素信号として出力する。
【0050】
図10は、比較/判定部26の処理を示すフローチャートである。図10において、差分量とは、差分量の絶対値和を示す。図9および図10を参照して、比較/判定部26は、逆直交変換部24−1からそのままの画素信号および反転した画素信号を入力すると共に、比較/判定部25から判定結果(差分量大,小)を入力し、さらに、ブロック境界の隣接画素信号を入力する(ステップS901)。そして、比較/判定部26は、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(そのままの画素信号の差分量、反転した画素信号の差分量)を算出し(ステップS902)、判定結果が差分量大であるか差分量小であるかを判定する(ステップS903)。
【0051】
比較/判定部26は、ステップS903において、判定結果が差分量大であると判定した場合(ステップS903:差分量大)、ステップS902にて算出したそのままの画素信号の差分量と反転した画素信号の差分量とを比較して、差分量が大きい画素信号(そのままの画素信号または反転した画素信号)を選択する(ステップS904)。一方、比較/判定部26は、ステップS903において、判定結果が差分量小であると判定した場合(ステップS903:差分量小)、差分量が小さい画素信号(そのままの画素信号または反転した画素信号)を選択する(ステップS905)。そして、比較/判定部26は、選択した画素信号を復号画像の画素信号として出力する(ステップS906)。
【0052】
比較/判定部26は、選択した画素信号がそのままの画素信号であるか否かを判定し(ステップS907)、そのままの画素信号でないと判定した場合(ステップS907:N)、制御信号s=1を判定して出力する(ステップS908)。一方、比較/判定部26は、ステップS907において、選択した画素信号がそのままの画素信号であると判定した場合(ステップS907:Y)、制御信号s=0を判定して出力する(ステップS909)。これにより、制御信号s=1,0が抽出される。
【0053】
以上のように、実施例2の復号装置2−2によれば、逆直交変換部24−1が、制御信号sの重畳したコンポーネント信号1の直交変換係数に対して符号をそのままにして逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成し、逆直交変換部24−2が、制御信号sの重畳していないコンポーネント信号2の直交変換係数に対し、逆直交変換部24−1と同様の処理を行うようにした。また、比較/判定部25が、逆直交変換部24−2からのそのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)とブロック境界の隣接画素信号との間の差分量(正しい復号信号の差分量、正しくない復号信号の差分量)を算出し、正しい復号信号の差分量が、正しくない復号信号の差分量以下である場合、判定結果として差分量小を生成し、正しい復号信号の差分量が、正しくない復号信号の差分量よりも大きい場合、判定結果として差分量大を生成するようにした。また、比較/判定部26が、逆直交変換部24−1からのそのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(そのままの画素信号の差分量、反転した画素信号の差分量)を算出し、判定結果が差分量大の場合、そのままの画素信号の差分量および反転した画素信号の差分量のうちの差分量が大きい画素信号を選択し、判定結果が差分量小の場合、差分量が小さい画素信号を選択し、選択した画素信号がそのままの画素信号でない場合、制御信号s=1を判定して出力し、選択した画素信号がそのままの画素信号である場合、制御信号s=0を判定して出力するようにした。これにより、直交変換係数に重畳した制御信号s=0,1を抽出することができる。したがって、実施例1と同様に、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、また、映像信号の品質劣化を伴うことなく、制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。
【0054】
一般に、符号化装置1において符号操作を行う直交変換係数の数が増えると、復号装置2−2において制御信号sを誤検出する可能性が増加する。実施例2の復号装置2−2によれば、制御信号sが重畳されていないコンポーネント信号2を用いた差分量の比較処理により、制御信号sを抽出するようにしたから、符号操作が行われる直交変換係数の数が増えた場合であっても、制御信号sの誤検出を改善することができる。
【0055】
尚、比較/判定部25は、そのままの画素信号(正しい復号信号)と隣接画素信号との間の差分量(正しい復号信号の差分量)を算出し、比較/判定部26は、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(そのままの画素信号の差分量、反転した画素信号の差分量)を算出し、正しい復号信号の差分量と、そのままの画素信号の差分量および反転した画素信号の差分量とを比較し、差分量がより近い画素信号(そのままの画素信号または反転した画素信号)を元の伝送対象の信号として選択するようにしてもよい。すなわち、正しい復号信号の差分量がそのままの画素信号の差分量に近い場合は、そのままの画素信号を選択し、反転した画素信号の差分量に近い場合は、反転した画素信号を選択する。後述する実施例3についても同様である。また、後述するように、差分量の代わりに差分量の二乗和または相関を示す値(相関係数)を用いる場合も同様である。
【0056】
〔実施例3〕
次に、実施例3について説明する。前述のとおり、実施例2は、2つのコンポーネント信号を用いた比較および判定処理により、制御信号sを抽出する。実施例3は、実施例2を拡張して、3つのコンポーネント信号を用いた比較および判定処理により、制御信号sを抽出する。例えば、カラー映像信号に適用がある。尚、符号化側の構成および処理は、図1に示した実施例1の符号化装置1と同一である。また、差分量とは、実施例1,2と同様に、差分量の絶対値を示す。
【0057】
実施例3の復号装置について説明する。図11は、実施例3による復号装置の概略構成を示すブロック図である。この復号装置2−3は、符号化装置1から符号化信号を受信して復号画像を生成すると共に、コンポーネント信号1の直交変換係数に重畳した制御信号sを抽出する装置であり、逆直交変換部27−1〜27−3および比較/判定部28−1,28−2,29を備えている。尚、図11では、エントロピー復号部が省略されており、復号装置2−3の構成部のうち、本発明に関連する構成部のみが示されている。
【0058】
逆直交変換部27−1は、制御信号sが重畳した直交変換係数であるコンポーネント信号1を入力し、図9に示した逆直交変換部24−1と同様の処理を行い、そのままの画素信号および反転した画素信号を比較/判定部29に出力する。
【0059】
逆直交変換部27−2,27−3は、制御信号sが重畳していない直交変換係数であるコンポーネント信号2,3を入力し、図9に示した逆直交変換部24−2と同様の処理を行い、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を比較/判定部28−1,28−2に出力する。
【0060】
比較/判定部28−1,28−2は、逆直交変換部27−2,27−3から、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を入力すると共に、ブロック境界の隣接画素信号を入力し、図9に示した比較/判定部25と同様の処理を行い、判定結果(差分量大,小)を比較/判定部29に出力する。
【0061】
比較/判定部29は、逆直交変換部27−1からそのままの画素信号および反転した画素信号を入力すると共に、比較/判定部28−1,28−2から判定結果(差分量大,小)を入力し、さらに、ブロック境界の隣接画素信号を入力する。そして、比較/判定部29は、図9に示した比較/判定部26と同様の処理を行い、制御信号sを判定して出力する。ここで、比較/判定部28−1,28−2から入力する判定結果は、通常は同じ結果であるから、比較/判定部29は、予め設定されたいずれかの判定結果を用いて制御信号sを抽出する。
【0062】
尚、比較/判定部28−1,28−2は、判定結果を生成する際に、正しい復号信号の差分量と正しくない復号信号の差分量との間の差異が所定の閾値以下である場合、判定結果として判定不能を生成し、比較/判定部29に出力するようにしてもよい。この場合、比較/判定部29は、比較/判定部28−1,28−2のいずれかから判定結果(差分量大,小)を入力し、他の比較/判定部28−1,28−2から判定不能の判定結果を入力した場合には、判定不能の判定結果を無視し、判定結果(差分量大,小)に基づいて制御信号sを抽出する。一方、比較/判定部29は、比較/判定部28−1,28−2の両方から判定不能の判定結果を入力した場合には、所定のエラー処理を行い、制御信号sを抽出しない。
【0063】
また、比較/判定部28−1,28−2は、そのままの画素信号の差分量および反転した画素信号の差分量を比較/判定部29に出力するようにしてもよい。この場合、比較/判定部29は、比較/判定部28−1,28−2からそのままの画素信号の差分量および反転した画素信号の差分量を入力し、入力したそのままの画素信号の差分量を加算してそのままの画素信号の合計差分量を求めると共に、入力した反転した画素信号の差分量を加算して反転した画素信号の合計差分量を求め、そのままの画素信号の合計差分量(正しい復号信号の合計差分量)が、反転した画素信号の合計差分量(正しくない復号信号の合計差分量)以下である場合、判定結果として差分量小を生成し、そのままの画素信号の合計差分量(正しい復号信号の合計差分量)が、反転した画素信号の合計差分量(正しくない復号信号の合計差分量)よりも大きい場合、判定結果として差分量大を生成し、この判定結果に基づいて、前述と同様の処理により制御信号sを抽出するようにしてもよい。
【0064】
また、実施例3は、3つのコンポーネント信号を用いた比較および判定処理により、制御信号sを抽出するようにしたが、3つを超えるコンポーネント信号を用いて制御信号sを抽出するようにしてもよい。
【0065】
以上のように、実施例3の復号装置2−3によれば、実施例1,2と同様に、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、また、映像信号の品質劣化を伴うことなく、制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。また、実施例2と同様に、符号操作が行われる直交変換係数の数が増えた場合であっても、制御信号sの誤検出を改善することができる。
【0066】
〔実施例4/符号化装置〕
次に、実施例4の符号化装置について説明する。前述のとおり、実施例1〜3では、画像の直交変換係数の符号を操作することで制御信号sを重畳する。これに対し、実施例4では、画像の直交変換係数の値を操作することで制御信号sを重畳する。図12は、実施例4による符号化装置の概略構成を示すブロック図である。この符号化装置3は、画像の直交変換係数の値(エントロピー符号化のために二値化した直交変換係数の信号列)を操作することで制御信号sを重畳し、符号化信号を伝送する装置であり、直交変換部11、二値化部14、二値化直交変換係数操作部15およびエントロピー符号化部13を備えている。尚、図12には、符号化装置3の構成部のうち、本発明に関連する構成部のみが示されている。
【0067】
直交変換部11およびエントロピー符号化部13は、図1に示した実施例1と同様であるから、ここでは説明を省略する。二値化部14、二値化直交変換係数操作部15およびエントロピー符号化部13において、エントロピー符号化の過程において得られる二値化直交変換係数を操作し、操作された二値化直交変換係数を、例えばCABAC、CAVLCなどの算術符号化によって符号化する。
【0068】
二値化部14は、直交変換部11から直交変換係数を入力し、二値化手法により直交変換係数を二値化し、可変ビット長の二値化直交変換係数を生成して二値化直交変換係数操作部15に出力する。例えば、二値化の手法としては、ユーナリーバイナライゼーション、トランケーテッドユーナリーバイナライゼーションなどが用いられる。二値化部14は、二値化手法としてユーナリーバイナライゼーションの手法を用いる場合、例えば0,1,2,3の直交変換係数を、0,10,110,1110の二値化信号列である二値化直交変換係数にそれぞれ変換する。尚、ユーナリーバイナライゼーションおよびトランケーテッドユーナリーバイナライゼーションの手法は既知であるからここでは説明を省略する。詳細については「H.264/AVC教科書、インプレス刊」を参照されたい。本発明は、二値化の手法を限定するものではない。
【0069】
二値化直交変換係数操作部15は、二値化部14から二値化直交変換係数を入力すると共に、二値化直交変換係数に重畳する制御信号s(=0,1)を入力し、制御信号sに基づいて、二値化直交変換係数の最上位ビット(可変ビット長の二値化直交変換係数の最上位ビット)を反転し、または最上位ビットをそのままにして、最上位ビットが反転した二値化直交変換係数または最上位ビットをそのままにした二値化直交変換係数をエントロピー符号化部13に出力する。そして、エントロピー符号化部13によりエントロピー符号化された符号化信号は、後述する復号装置4へ伝送される。
【0070】
図13は、二値化直交変換係数操作部15の処理を示すフローチャートである。二値化直交変換係数操作部15が入力する二値化直交変換係数をEとし、二値化直交変換係数操作部15が出力する二値化直交変換係数をFとする。
【0071】
まず、二値化直交変換係数操作部15は、二値化部14から二値化直交変換係数Eを入力すると共に、制御信号s(=0,1)を入力する(ステップS1301)。そして、二値化直交変換係数操作部15は、制御信号sが1であるか否かを判定し(ステップS1302)、制御信号sが1であると判定した場合(ステップS1302:Y)、二値化直交変換係数Eの最上位ビットを反転し、新たな二値化直交変換係数Fを生成する(ステップS1303)。一方、二値化直交変換係数操作部15は、制御信号sが1でない(制御信号sが0である)と判定した場合(ステップS1302:N)、二値化直交変換係数Eの最上位ビットをそのままとし、二値化直交変換係数Eを新たな二値化直交変換係数Fとして生成する(ステップS1304)。
【0072】
例えば、二値化部14が、ユーナリーバイナライゼーションによる二値化の手法を用いて、直交変換係数「3」を二値化直交変換係数「1110」に二値化したとする。二値化直交変換係数操作部15は、この二値化直交変換係数E「1110」に対し、入力した制御信号sが1の場合、最上位ビット「1」を反転して新たな二値化直交変換係数F「110」(最上位ビット「1」が「0」となり、直交変換係数「2」に対応した二値化直交変換係数)を生成する。また、二値化直交変換係数操作部15は、入力した制御信号sが0の場合、最上位ビット「1」をそのままとし、新たな二値化直交変換係数F「1110」(二値化直交変換係数Eと同じ値)を生成する。
【0073】
二値化直交変換係数操作部15は、ステップS1303およびステップS1304から移行して、新たな二値化直交変換係数F、すなわち制御信号sが重畳した二値化直交変換係数Fを出力する。このようにして、画像の直交変換係数の値である二値化直交変換係数を操作することで、直交変換係数に制御信号sが重畳される。
【0074】
以上のように、実施例4の符号化装置3によれば、二値化直交変換係数操作部15が、制御信号s=1の場合、二値化部14により直交変換係数が二値化された二値化直交変換係数の最上位ビットを反転し、制御信号s=0の場合、その二値化直交変換係数の最上位ビットをそのままにすることで、制御信号sの重畳した直交変換係数を生成するようにした。ここで、二値化直交変換係数の最上位ビットが反転することにより、符号化ブロック境界の信号変動が極めて大きくなる。これにより、符号化装置3において、直交変換係数の値を操作することで、制御信号sの重畳した直交変換係数が生成され、符号化信号として後述する復号装置4へ伝送される。そして、後述する復号装置4に、制御信号sの重畳した直交変換係数の符号化信号を受信させ、ブロック境界の画素信号の差分量に基づいて、制御信号sを抽出させる。復号装置4の詳細については後述する。これにより、符号化装置3から後述する復号装置4へ映像信号を伝送する際に、符号化量が増加することなく、その映像信号に重畳した制御信号sを伝送することができる。
【0075】
〔実施例4/復号装置〕
次に、実施例4の復号装置について説明する。図14は、実施例4による復号装置の概略構成を示すブロック図である。この復号装置4は、図12に示した符号化装置3から符号化信号を受信して復号画像を生成すると共に、直交変換係数に重畳した制御信号sを抽出する装置であり、エントロピー復号部21、逆直交変換部30および比較/判定部23を備えている。尚、図14には、復号装置4の構成部のうち、本発明に関連する構成部のみが示されている。
【0076】
逆直交変換部30は、エントロピー復号部21から制御信号sが重畳した二値化直交変換係数を入力し、入力した二値化直交変換係数を直交変換係数に復号し、その直交変換係数に対して逆直交変換処理を行い(直交変換係数を二値化した二値化直交変換係数をそのままにして直交変換処理を行い)、画素信号(そのままの画素信号)を生成すると共に、二値化直交変換係数の最上位ビットに「1」を追加し、「1」を追加した二値化直交変換係数を直交変換係数に復号し、その直交変換係数に対して逆直交変換処理を行い、画素信号(「1」を追加した画素信号)を生成し、そのままの画素信号および「1」を追加した画素信号を比較/判定部23に出力する。
【0077】
図15は、逆直交変換部30の処理を示すフローチャートである。まず、逆直交変換部30は二値化直交変換係数を入力する(ステップS1501)。そして、逆直交変換部30は、入力した二値化直交変換係数を直交変換係数に復号し、逆直交変換処理を行い、そのままの画素信号を生成する(ステップS1502)。
【0078】
そして、逆直交変換部30は、二値化直交変換係数の最上位ビットに「1」を追加し、新たな二値化直交変換係数を生成し(ステップS1503)、新たな二値化直交変換係数(「1」を追加した直交変換係数)に対し逆直交変換処理を行い、「1」を追加した画素信号を生成する(ステップS1504)。そして、逆直交変換部30は、そのままの画素信号および「1」を追加した画素信号を比較/判定部23に出力する(ステップS1505)。
【0079】
図14に戻って、比較/判定部23は、図4に示した実施例1と同様の処理を行う。すなわち、比較/判定部23は、逆直交変換部30から、そのままの画素信号および「1」を追加した画素信号を入力すると共に、ブロック境界の隣接画素信号(当該比較/判定部23により既に処理が行われ出力された復号画像の画素信号のうち、処理対象の隣のブロックにおいて最も近い画素信号)を入力し、そのままの画素信号および「1」を追加した画素信号と隣接画素信号との間の差分量(差分量の絶対値)を算出し、この差分量を比較することで差分量の小さい画素信号を選択し、復号画像の画素信号として出力する。また、比較/判定部23は、差分量の小さい画素信号としてそのままの画素信号を選択した場合、制御信号s=0を判定し出力する。一方、比較/判定部23は、差分量の小さい画素信号として「1」を追加した画素信号を選択した場合、制御信号s=1を判定し出力する。
【0080】
以上のように、実施例4の復号装置4によれば、逆直交変換部30が、二値化直交変換係数を直交変換係数に復号して逆直交変換処理を行い、そのままの画素信号を生成すると共に、二値化直交変換係数の最上位ビットに「1」を追加し、直交変換係数に復号して逆直交変換処理を行い、「1」を追加した画素信号を生成するようにした。そして、比較/判定部23が、そのままの画素信号および「1」を追加した画素信号とブロック境界の隣接画素信号との間の差分量を算出し、差分量の小さい画素信号(そのままの画素信号または「1」を追加した画素信号)を選択し、復号画像の画素信号として出力すると共に、そのままの画素信号を選択した場合、制御信号s=0を判定して出力し、「1」を追加した画素信号を選択した場合、制御信号s=1を判定して出力するようにした。これにより、符号化装置3から復号装置4へ映像信号を伝送する際に、その映像信号に重畳した制御信号sを抽出することができる。また、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、制御信号sの伝送が可能となる。また、復号装置4において、信号補正を行うことにより、すなわち、二値化直交変換係数の最上位ビットをそのままして逆直交変換を行うと共に、二値化直交変換係数の最上位ビットに「1」を追加して逆直交変換を行うことにより、映像信号の品質劣化を伴うことなく制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。
【0081】
つまり、復号装置4において、符号量が増加することなく伝送された制御信号sを復元することができる。また、視覚感度の高い輝度信号に制御信号sを重畳させるのではなく、より画素の相関の高い色差信号に重畳させることができる。すなわち、符号化装置3が、符号化した信号を操作する際に、入力信号の統計的偏りが顕著に破たんするように、故意に信号を操作し、復号装置4が、統計的偏りの不自然さを検出し、制御信号sを決められた手順で復元することにより、符号化装置3から復号装置4へ伝送される映像信号の品質劣化を防止し、映像信号に重畳して伝送される制御信号sを正確に抽出することができる。
【0082】
以上、実施例1〜4を挙げて本発明を説明したが、本発明は前記実施例1〜4に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、図4に示した実施例1による復号装置2−1および図14に示した実施例4による復号装置4の比較/判定部23、図9に示した実施例2による復号装置2−2の比較/判定部25,26並びに図11に示した実施例3による比較/判定部28−1,28−2,29は、そのままの画素信号および反転した画素信号(または「1」を追加した画素信号)と隣接画素信号との間の差分量を算出するようにしたが、差分量の代わりに、差分量の二乗和を算出するようにしてもよい。また、そのままの画素信号および反転した画素信号と隣接画素信号との間の相関を示す値(相関係数)を算出するようにしてもよい。この場合、相関係数の大きい画素信号(そのままの画素信号または反転した画素信号)が選択され、復号画像の画素信号として出力される。
【0083】
また、図1に示した符号化装置1の直交変換係数操作部12は、最も低域の情報である(0,0)成分の直交変換係数の符号を操作し、この直交変換係数に制御信号sを重畳するようにしたが、本発明は、操作対象を(0,0)成分の直交変換係数に限定するものではなく、例えば(0,1)成分または(1,0)成分の直交変換係数の符号を操作し、制御信号sを重畳するようにしてもよい。また、符号化装置1および復号装置2−1〜2−3からなる伝送システムの性質(例えば伝送品質)に応じて、制御信号sを重畳する操作対象の成分を変更するようにしてもよい。
【0084】
また、符号化装置1の直交変換係数操作部12は、1つの直交変換係数((0,0)成分の直交変換係数)の符号を操作するようにしたが、2つ以上の成分の直交変換係数を操作するようにしてもよい。
【0085】
また、実施例1〜4において、直交変換とは、整数化されることによって厳密な意味で直交性が失われる場合も含まれる。本発明は、直交変換が整数変換であっても適用することができる。
【0086】
また、実施例2,3では、制御信号sが重畳したコンポーネント信号1および制御信号sが重畳していないコンポーネント信号2(および3)における画素信号と隣接画素信号との間の差分値を算出することで、制御信号sを抽出するようにした。これに対し、実施例2,3の変形例として、コンポーネント信号1以外に他のコンポーネント信号2(または3)を参照することが可能な場合は、コンポーネント信号間に強い相関があることを利用することで、制御信号sを抽出するようにしてもよい。具体的には、復号装置2−2,2−3の比較/判定部は、制御信号sが重畳したコンポーネント信号1におけるそのままの画素信号および反転した画素信号と、制御信号sが重畳していない他のコンポーネント信号2またはコンポーネント信号3におけるそのままの画素信号(正しい復号信号)との間で相関値を算出し、コンポーネント信号1におけるそのままの画素信号または反転した画素信号のうちの、システムで規定された例えば相関値の大きい(相関の高い)画素信号を選択し、復号信号の画素信号として出力する。また、選択した画素信号がそのままの画素信号でない場合、制御信号s=1を判定して出力し、選択した画素信号がそのままの画素信号である場合、制御信号s=0を判定して出力する。
【0087】
また、実施例1から3までのいずれか1つの実施例と実施例4とを複合するようにしてもよい。つまり、直交変換係数の符号および値をそれぞれ操作することにより、制御信号sを直交変換係数の符号および値に重畳する。これにより、制御信号sの判定精度を高めることができる。
【0088】
また、実施例4では、実施例1と同様に、コンポーネント信号が1つの場合を例にして説明したが、実施例2,3と同様に、コンポーネント信号が複数の場合にも適用がある。この場合、符号化装置3は、複数のコンポーネント信号のうちの1つのコンポーネント信号に対し、その二値化直交変換係数に制御信号sを重畳する。復号装置4は、複数のコンポーネント信号の全てに対して、図14に示した逆直交変換部30と同様の処理を行い、図9に示した比較/判定部25,26または図11に示した比較/判定部28−1,28−2,29と同様の処理を行って制御信号sを抽出する。
【0089】
本発明の実施例による符号化装置1,3および復号装置2−1〜2−3,4のハードウェア構成としては、通常のコンピュータを使用することができる。符号化装置1,3および復号装置2−1〜2−3,4は、CPU、RAMなどの揮発性の記憶媒体、ROMなどの不揮発性の記憶媒体、およびインターフェースなどを備えたコンピュータによって構成される。符号化装置1に備えた直交変換部11、直交変換係数操作部12およびエントロピー符号化部13の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。また、符号化装置3に備えた直交変換部11、二値化部14、二値化直交変換係数操作部15およびエントロピー符号化部13の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。さらに、復号装置2−1に備えたエントロピー復号部21、逆直交変換部22および比較/判定部23の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。復号装置2−2に備えた逆直交変換部24−1,24−2および比較/判定部25,26、並びに復号装置2−3に備えた逆直交変換部27−1〜27−3および比較/判定部28−1,28−2,29についても同様である。復号装置4に備えたエントロピー復号部21、逆直交変換部30および比較/判定部23についても同様である。これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスクなど)、光ディスク(CD−ROM、DVDなど)、半導体メモリなどの記憶媒体に格納して頒布することもできる。
【符号の説明】
【0090】
1,3 符号化装置
2,4 復号装置
11 直交変換部
12 直交変換係数操作部
13 エントロピー符号化部
14 二値化部
15 二値化直交変換係数操作部
21 エントロピー復号部
22,24,27,30 逆直交変換部
23,25,26,28,29 比較/判定部
【技術分野】
【0001】
映像または音声などの符号化技術に関し、特に、放送または映像配信サービスなどに用いる符号化装置、復号装置、方法およびプログラムに関する。
【背景技術】
【0002】
映像または音声などの符号化技術では、複数の信号処理技術を組み合わせることにより、信号をより少ない信号表現に変換し信号圧縮を実現する。それぞれの処理を決められた手順で行うことは容易であるが、復号する際に信号がどの処理によって符号化されたかを判別するためには、制御信号を付加する必要がある。このような制御信号は、入力信号を信号処理によって変換した信号ではなく新たに追加した信号であり、符号化処理において符号量が増加する要因となる。一般的に、符号化方式の信号処理として、制御信号によって符号量が増加しないように、十分に圧縮効果の得られる処理が採用されており、符号量増加の問題は生じていない。例えば、MPEG−2、H.264/AVCなどに規定する処理が採用されている。
【0003】
また、デジタル符号化技術の発展によって映像配信が容易になったため、映像および音声信号の高品質な複製が行われ、コンテンツホルダーの権利が侵害されるようになった。このような問題を解決するために、著作権保護の観点から、符号化された信号に著作権保護のための管理情報を、符号量を極力増加させることなく埋め込むデータハイディング技術の研究が行われ、実用化されている(例えば、非特許文献1を参照)。このデータハイディング技術は、情報量および符号化品質にできる限り影響を与えないように、符号化前の信号における冗長性を有する部分、または人間の視覚および聴覚によって検知されない(または検知され難い)部分に管理情報を埋め込むことにより、管理情報を伝送する。しかし、映像または音声の符号化のように、非可逆な符号化による信号の劣化を考慮すると、ある程度強く信号を操作しなければならず、操作した信号によって符号量および符号化品質に影響を与えてしまう。また、符号化処理によっては埋め込まれた管理情報が変化する可能性があることから、管理情報などの制御信号を確実に伝送する必要のあるシステムにデータハイディング技術を適用することは妥当でない。
【0004】
一方、符号化後の信号を特定の手順で操作し、情報を伝送する技術が検討されている(非特許文献2を参照)。この技術は、直交変換係数の値を1プラスマイナスすることによって、情報を伝送するものである。しかし、符号化後の信号は、信号の冗長性が十分に除去された信号であり、わずかな信号の操作によっても符号化品質に大きな影響を与えることになる。このような問題から、データハイディング技術を利用して制御信号を伝送するシステムは実用化されていない。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】吉野知伸、吉田俊之、「画像のDCT係数に対する整数計画問題に基づくデータハイディング」、2002年画像符号化シンポジウム(PCSJ)、2002年11月11日〜13日、P−5.06
【非特許文献2】JCTVC−E428、“Low Complexity Embedding of Information in Transform Coefficients”
【発明の概要】
【発明が解決しようとする課題】
【0006】
前述のとおり、圧縮符号化を目的とする符号化処理では、制御信号は符号量の増加要因になるから、極力付与されるべきでない。一方、データハイディング技術は、一般的には符号化前の信号に所定の情報を埋め込むものであり、また、符号化後の信号を操作する場合、超高圧縮下において符号化品質に与える影響が大きい。
【0007】
しかし、一般的に圧縮を目的とする符号化処理は、ハフマン符号などのように、入力信号の持つ統計的偏りを利用して平均的な信号表現を少なくする。つまり、入力信号には既知の信号性質があり、符号化後の信号を操作することで符号化品質が著しく劣化した場合、その信号性質は容易に破たんする。
【0008】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、符号化側から復号側へ映像などの信号を伝送する際に、符号量が増加することなく、その映像などの信号に制御信号を重畳して伝送可能な符号化装置、復号装置、方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0009】
前記目的を達成するために、本発明による請求項1の符号化装置は、伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置において、前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成する直交変換部と、前記直交変換部により生成された直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳する直交変換係数操作部と、を備えることを特徴とする。
【0010】
また、本発明による請求項2の符号化装置は、請求項1に記載の符号化装置において、前記直交変換係数操作部の代わりに二値化直交変換係数操作部を備え、前記二値化直交変換係数操作部が、前記直交変換係数が二値化された二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳する、ことを特徴とする。
【0011】
また、本発明による請求項3の復号装置は、請求項1の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、前記直交変換係数に逆直交変換を行って第1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成する逆直交変換部と、前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、を備えたことを特徴とする。
【0012】
また、本発明による請求項4の復号装置は、前記伝送対象の信号が複数のコンポーネント信号により構成され、請求項1の符号化装置により所定のコンポーネント信号における直交変換係数の符号が操作され前記制御信号が重畳した場合に、前記符号化装置により伝送された、前記制御信号が重畳したコンポーネント信号における直交変換係数の符号化信号を受信すると共に、前記制御信号が重畳していない他のコンポーネント信号における直交変換係数の符号化信号を受信し、前記それぞれの符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、前記制御信号が重畳したコンポーネント信号の直交変換係数に逆直交変換を行って第1−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第1−2の要素信号を生成する第1の逆直交変換部と、前記制御信号が重畳していない他のコンポーネント信号の直交変換係数に逆直交変換を行って第2−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2−2の要素信号を生成する第2の逆直交変換部と、前記第1の逆直交変換部により生成された第1−1および第1−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の算出結果をそれぞれ求め、前記算出結果を比較して第1の判定結果を求め、前記第2の逆直交変換部により生成された第2−1および第2−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の算出結果をそれぞれ求め、前記算出結果を比較して第2の判定結果を求め、前記第1および第2の判定結果に基づいて、前記第2−1の要素信号と同じ判定結果となった第1−1または第1−2の要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、を備えたことを特徴とする。
【0013】
また、本発明による請求項5の復号装置は、請求項2の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置であって、前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成すると共に、前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成する逆直交変換部と、前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、を備えたことを特徴とする。
【0014】
また、本発明による請求項6の符号化方法は、伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、前記直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳するステップと、を有することを特徴とする。
【0015】
また、本発明による請求項7の符号化方法は、伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、前記直交変換係数を二値化し、二値化直交変換係数を生成するステップと、前記二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳するステップと、を有することを特徴とする。
【0016】
また、本発明による請求項8の復号方法は、請求項6の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、逆直交変換を行って元の伝送対象の信号に復号する復号装置による復号方法であって、前記受信した符号化信号の直交変換係数に逆直交変換を行って第1の要素信号を生成するステップと、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成するステップと、前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、を有することを特徴とする。
【0017】
また、本発明による請求項9の復号方法は、請求項7の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置による復号方法であって、前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成するステップと、前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成するステップと、前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、を有することを特徴とする。
【0018】
また、本発明による請求項10の符号化プログラムは、コンピュータを、請求項1または2に記載の符号化装置として機能させることを特徴とする。
【0019】
また、本発明による請求項11の復号プログラムは、コンピュータを、請求項3から5までのいずれか一項に記載の復号装置として機能させることを特徴とする。
【発明の効果】
【0020】
以上のように、本発明によれば、符号化側から復号側へ映像などの信号を伝送する際に、符号量が増加することなく、その映像などの信号に制御信号を重畳して伝送することが可能となる。また、復号時に信号補正を行うことにより、映像などの信号の品質劣化を伴うことなく制御信号を伝送することができ、より高圧縮な符号化を実現することができる。
【図面の簡単な説明】
【0021】
【図1】本発明の第1の実施形態(実施例1)による符号化装置の概略構成を示すブロック図である。
【図2】直交変換係数操作部の処理を示すプログラムの例である。
【図3】直交変換係数操作部の処理を示すフローチャートである。
【図4】実施例1による復号装置の概略構成を示すブロック図である。
【図5】逆直交変換部の処理を示すフローチャートである。
【図6】4×4画素のブロックにおける画素信号の位置関係を示す図である。
【図7】実施例1による比較/判定部の処理を示すプログラムの例である。
【図8】実施例1による比較/判定部の処理を示すフローチャートである。
【図9】本発明の第2の実施形態(実施例2)による復号装置の概略構成を示すブロック図である。
【図10】実施例2による比較/判定部の処理を示すフローチャートである。
【図11】本発明の第3の実施形態(実施例3)による復号装置の概略構成を示すブロック図である。
【図12】本発明の第4の実施形態(実施例4)による符号化装置の概略構成を示すブロック図である。
【図13】二値化直交変換係数操作部の処理を示すフローチャートである。
【図14】実施例4による復号装置の概略構成を示すブロック図である。
【図15】逆直交変換部の処理を示すフローチャートである。
【発明を実施するための形態】
【0022】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。実施例1〜3は、伝送対象の映像信号を例として、符号化した映像信号を操作する際に、入力信号の統計的偏りが顕著に破たんするように、故意に映像信号を操作し、復号時に統計的偏りの不自然さを検出し、映像信号を決められた手順で復元する例である。具体的には、映像信号の直交変換係数情報(符号情報または/および値情報)を操作する。映像信号の符号化では、映像信号の隣接画素間の相関が高いことが知られている。そのため、MPEG−2またはH.264/AVCの規格に従った画像を小領域に分割して符号化するブロック符号化では、ブロックの境界において隣接画素間の相関が高い。この領域の画素信号間の相関が極端に低くなると、ブロックの境界において顕著な信号の変化が生じ、復号時に筋状の劣化が検知される。また、このような劣化をブロック歪とよび、通常ブロック歪が生じないように符号化処理が行われる。そこで、本発明の実施形態による符号化装置および復号装置では、直交変換係数情報を操作し、復号時には境界部の隣接画素間の相関を極端に低下させる/させない処理を行うことによって、制御信号が重畳した情報を伝送する。
【0023】
直交変換係数をその値の大きさ(絶対値)と符号とに分け、符号の正負を操作した場合であっても、ビット量にほとんど影響を与えないから、直交変換係数の符号化情報量はさほど変化しない。また、直交変換係数の値を操作した場合、すなわち、エントロピー符号化のために二値化された可変ビット長の信号における直交変換係数の最上位ビットの信号を反転操作した場合も、ビット量にほとんど影響を与えないから、直交変換係数の符号化情報量はさほど変化しない。さらに、ブロック単位に直交変換係数の符号または/および値を操作することによって、全体のビット変動は平均して0になるから、符号量の増加を伴うことなく、制御信号が重畳した情報を伝送することができる。
【0024】
〔実施例1/符号化装置〕
まず、実施例1の符号化装置について説明する。図1は、実施例1による符号化装置の概略構成を示すブロック図である。この符号化装置1は、画像の直交変換係数の符号を操作することで制御信号sを重畳し、符号化信号を伝送する装置であり、直交変換部11、直交変換係数操作部12およびエントロピー符号化部13を備えている。尚、図1には、符号化装置1の構成部のうち、本発明に関連する構成部のみが示されている。
【0025】
直交変換部11は、画素信号により構成される画像(映像信号)を入力し、入力した画素信号に対して直交変換処理を施し、2次元の直交変換係数を生成して直交変換係数操作部12に出力する。すなわち、直交変換部11は、映像信号を構成する複数の画素信号からなるブロック毎に、直交変換により複数成分(基底)の直交変換係数を生成する。直交変換処理として、例えば離散コサイン変換(DCT)、離散サイン変換(DST)などが行われる。尚、本発明は、直交変換処理の種類を限定するものではない。
【0026】
直交変換係数操作部12は、直交変換部11とエントロピー符号化部13との間に設けられ、制御信号s(=0,1)に基づいて、直交変換係数の符号を操作することで符号を反転する。直交変換係数操作部12は、直交変換部11から2次元の直交変換係数を入力すると共に、直交変換係数に重畳する制御信号sを入力し、入力した2次元の直交変換係数をジグザグスキャンなどの処理によって直列化し、1次元の直交変換係数を生成する。そして、直交変換係数操作部12は、入力した制御信号sに基づいて、例えば(0,0)成分の直交変換係数の符号を反転し、または符号をそのままにして、符号が反転した直交変換係数または符号をそのままにした直交変換係数をエントロピー符号化部13に出力する。これにより、直交変換係数に制御信号sが重畳され、制御信号sが重畳した直交変換係数は、エントロピー符号化部13に出力される。
【0027】
図2は、直交変換係数操作部12の処理を示すプログラム(C言語によるプログラム)の例であり、図3は、直交変換係数操作部12の処理を示すフローチャートであり、図2のプログラムをフローチャートで表したものである。直交変換係数操作部12において直列化された入力係数列をa[i](i=0,1,・・・,N−1)とし、制御信号sに基づいて(0,0)成分の直交変換係数の符号を反転した出力係数列、または符号をそのままにした出力係数列をb[i](i=0,1,・・・,N−1)し、a[0],b[0]を(0,0)成分の直交変換係数とする。
【0028】
まず、直交変換係数操作部12は、直交変換部11から直交変換係数を入力すると共に、制御信号s(=0,1)を入力し(ステップS301)、直交変換係数を直列化して入力系列a[i](i=0,1,・・・,N−1)を生成する(ステップS302)。そして、直交変換係数操作部12は、制御信号sが1であるか否かを判定し(ステップS303)、制御信号sが1であると判定した場合(ステップS303:Y)、(0,0)成分の直交変換係数a[0]の符号を反転し、(0,0)成分の新たな直交変換係数(符号が反転した直交変換係数)b[0]を生成する(ステップS304)。すなわち、b[0]=−a[0]の処理を行う。
【0029】
一方、直交変換係数操作部12は、ステップS303において、制御信号sが1でない(制御信号sが0である)と判定した場合(ステップS303:N)、(0,0)成分の直交変換係数a[0]の符号をそのままとした直交変換係数b[0]を生成する(ステップS305)。すなわち、直交変換係数a[0]に対して符号反転の処理を行わず、b[0]=a[0]の処理を行う。そして、直交変換係数操作部12は、ステップS304およびステップS305から移行して、(0,0)成分以外の直交変換係数a[i](i=1,2,・・・,N−1)について符号反転の処理を行わず、直交変換係数b[i]=a[i]を生成する(ステップS306)。そして、直交変換係数操作部12は、直交変換係数b[i](i=0,1,・・・,N−1)、すなわち制御信号sが重畳した直交変換係数をエントロピー符号化部13に出力する(ステップS307)。
【0030】
図1に戻って、エントロピー符号化部13は、直交変換係数操作部12から、制御信号sが重畳した直交変換係数を入力し、エントロピー符号化を行う。エントロピー符号化部13によりエントロピー符号化された直交変換係数は、符号化信号として後述する復号装置2−1へ伝送される。
【0031】
以上のように、実施例1の符号化装置1によれば、直交変換係数操作部12が、制御信号s=1の場合、(0,0)成分の直交変換係数の符号を反転し、制御信号s=0の場合、(0,0)成分の直交変換係数の符号をそのままにすることで、制御信号sの重畳した直交変換係数を生成するようにした。ここで、一般的に、映像信号を符号化する場合、直交変換係数における低域の情報は多く、高域の情報は少ないという性質がある。直交変換処理により生成される最初の直交変換係数である(0,0)成分は、特に情報量が多く、直交変換係数を一切送らない非符号化制御を行わない限り、直交変換係数が0となることは極めて少ない。また、(0,0)成分の直交変換係数は最も低域の情報であり、本実施例で用いているDCTの場合、その符号が反転することにより、符号化ブロック境界において信号変動が極めて大きくなる。このような映像信号の性質を利用して、符号化装置1において、直交変換係数の符号を操作することで、制御信号sの重畳した直交変換係数が生成され、後述する復号装置2−1へ伝送される。そして、後述する復号装置2−1に、制御信号sの重畳した直交変換係数の符号化信号を受信させ、ブロック境界の画素信号の差分量に基づいて、制御信号sを抽出させる。復号装置2−1の詳細については後述する。これにより、符号化装置1から後述する復号装置2−1へ映像信号を伝送する際に、符号化量が増加することなく、その映像信号に重畳した制御信号sを伝送することができる。
【0032】
〔実施例1/復号装置〕
次に、実施例1の復号装置について説明する。図4は、実施例1による復号装置の概略構成を示すブロック図である。この復号装置2−1は、符号化装置1から符号化信号を受信して復号画像を生成すると共に、直交変換係数に重畳した制御信号sを抽出する装置であり、エントロピー復号部21、逆直交変換部22および比較/判定部23を備えている。尚、図4には、復号装置2−1の構成部のうち、本発明に関連する構成部のみが示されている。
【0033】
復号装置2−1が符号化装置1から送信された符号化信号を受信すると、エントロピー復号部21は、符号化信号を入力してエントロピー復号を行い、制御信号sが重畳した直交変換係数b[i]を逆直交変換部22に出力する。
【0034】
逆直交変換部22は、制御信号sが重畳した直交変換係数b[i]を入力し、(0,0)成分の直交変換係数b[0]に対して符号をそのままにし、逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数b[0]に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成する。そして、逆直交変換部22は、そのままの画素信号および反転した画素信号を比較/判定部23に出力する。逆直交変換処理として、例えば逆離散コサイン変換(IDCT)、逆離散サイン変換(IDST)などが行われる。尚、本発明は、逆直交変換処理の種類を限定するものではない。
【0035】
図5は、逆直交変換部22の処理を示すフローチャートである。まず、逆直交変換部22は、エントロピー復号部21から直交変換係数b[i]を入力する(ステップS501)。そして、逆直交変換部22は、(0,0)成分の直交変換係数b[0]に対して符号をそのままにし(ステップS502)、直交変換係数b[0],b[1],・・・,b[N−1]に対し逆直交変換処理を行い、画素信号(そのままの画素信号)を生成する(ステップS503)。また、逆直交変換部22は、(0,0)成分の直交変換係数b[0]に対して符号を反転して−b[0]を生成し(ステップS504)、直交変換係数−b[0],b[1],・・・,b[N−1]に対し逆直交変換処理を行い、画素信号(反転した画素信号)を生成する(ステップS505)。そして、逆直交変換部22は、ステップS503にて生成した画素信号(そのままの画素信号)、およびステップS505にて生成した画素信号(反転した画素信号)を比較/判定部23に出力する(ステップS506)。
【0036】
図4に戻って、比較/判定部23は、逆直交変換部22から、そのままの画素信号((0,0)成分の直交変換係数の符号をそのままにして、逆直交変換処理により生成された画素信号)および反転した画素信号((0,0)成分の直交変換係数の符号を反転し、逆直交変換処理により生成された画素信号)を入力すると共に、ブロック境界の隣接画素信号(当該比較/判定部23により既に処理が行われ出力された復号画像の画素信号のうち、処理対象の隣のブロックにおいて最も近い画素信号)を入力する。そして、比較/判定部23は、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(差分量の絶対値)を算出し、この差分量を比較することで差分量の小さい画素信号(そのままの画素信号または反転した画素信号)を選択し、復号画像の画素信号として出力する。また、比較/判定部23は、差分量の小さい画素信号としてそのままの画素信号を選択した場合、制御信号s=0を判定し出力する。これにより、制御信号s=0が抽出される。一方、比較/判定部23は、差分量の小さい画素信号として反転した画素信号を選択した場合、制御信号s=1を判定し出力する。これにより、制御信号s=1が抽出される。
【0037】
尚、比較/判定部23は、最初のブロックの映像信号について、制御信号sを抽出するための前述の処理を行わない。最初のブロックの映像信号については、隣接画素信号が存在しないからである。この場合、符号化装置1の直交変換係数操作部12は、最初のブロックの映像信号については直交変換係数の符号に対する操作を行わない。また、比較/判定部23は、差分量を比較することで差分量の小さい画素信号を選択し、復号画像の画素信号として出力するようにしたが、システムによっては差分量の大きい画素信号を選択する場合もあり得る。比較/判定部23が小さい画素信号を選択するか、または大きい画素信号を選択するかは、システムで決定される相対関係に応じて予め設定される。後述する実施例2の比較/判定部25,26、実施例3の比較/判定部28−1,28−2,29及び実施例4の比較/判定部23においても同様である。
【0038】
図6は、4×4画素のブロックにおける画素信号の位置関係を示す図であり、図7は、比較/判定部23の処理を示すプログラム(C言語によるプログラム)の例であり、図8は、比較/判定部23の処理を示すフローチャートであり、図7のプログラムをフローチャートで表したものである。比較/判定部23が逆直交変換部22から入力するそのままの画素信号をB[i][j]とし、反転した画素信号をC[i][j]とし、隣接画素信号をd[j],e[i]とする。また、画素信号B[i][j]と隣接画素信号d[j],e[i]との間の差分量の絶対値和をS[0]とし、画素信号C[i][j]と隣接画素信号d[j],e[i]との間の差分量の絶対値和をS[1]とする。i=0〜3,j=0〜3である。
【0039】
図6において、4×4画素のブロックにおける番号1には画素信号B[0][0],C[0][0]が存在し、番号2〜4には画素信号B[0][1],C[0][1]〜B[0][3],C[0][3]が存在する。同様にして、番号5には画素信号B[1][0],C[1][0]が存在し、番号13〜16には画素信号B[3][0],C[3][0]〜B[3][3],C[3][3]が存在する。また、隣接画素信号d[j]=d[0]〜d[3]は、番号1〜4の画素信号に対する隣接画素信号であり、隣接画素信号e[i]=e[0]〜e[3]は、番号1,5,9,13の画素信号に対する隣接画素信号である。
【0040】
図7および図8において、S[0],S[1]は、算出した差分量の絶対値和を示す。まず、比較/判定部23は、逆直交変換部22からそのままの画素信号B[i][j]および反転した画素信号C[i][j]を入力すると共に、ブロック境界の隣接画素信号d[j],e[i]を入力する(ステップS801)。そして、比較/判定部23は、画素信号B[i][j],C[i][j]と隣接画素信号d[j]との間の差分量の絶対値和S[0],S[1]をそれぞれ算出し、算出したそれぞれの差分量の絶対値和S[0],S[1]を加算し、さらに、画素信号B[i][j],C[i][j]と隣接画素信号e[i]との間の差分量の絶対値和S[0],S[1]をそれぞれ算出し、算出したそれぞれの差分量の絶対値和S[0],S[1]を加算し、両者の加算結果を合計した差分量の絶対値和S[0],S[1]を求める(ステップS802)。
【0041】
比較/判定部23は、ステップS802にて求めた差分量の絶対値和S[0],S[1]を比較し、差分量の絶対値和S[0]が差分量の絶対値和S[1]以上であるか否かを判定し(ステップS803)、差分量の絶対値和S[0]が差分量の絶対値和S[1]以上であると判定した場合(ステップS803:Y)、差分量の絶対値和S[0]よりも小さいまたは等しい差分量の絶対値和S[1]に対応する画素信号C[i][j]、すなわち反転した画素信号を選択して出力すると共に、制御信号s=1を判定して出力する(ステップS804)。一方、比較/判定部23は、ステップS803において、差分量の絶対値和S[0]が差分量の絶対値和S[1]以上でないと判定した場合(ステップS803:N)、小さい方の差分量の絶対値和S[0]に対応する画素信号B[i][j]、すなわちそのままの画素信号を選択して出力すると共に、制御信号s=0を判定して出力する(ステップS805)。
【0042】
以上のように、実施例1の復号装置2−1によれば、逆直交変換部22が、制御信号sの重畳した直交変換係数を入力し、(0,0)成分の直交変換係数に対して符号をそのままにして逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成するようにした。そして、比較/判定部23が、そのままの画素信号および反転した画素信号とブロック境界の隣接画素信号との間の差分量を算出し、差分量の小さい画素信号(そのままの画素信号または反転した画素信号)を選択し、復号画像の画素信号として出力すると共に、そのままの画素信号を選択した場合、制御信号s=0を判定して出力し、反転した画素信号を選択した場合、制御信号s=1を判定して出力するようにした。これにより、符号化装置1から復号装置2−1へ映像信号を伝送する際に、その映像信号に重畳した制御信号sを抽出することができる。また、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、制御信号sの伝送が可能となる。また、復号装置2−1において、信号補正を行うことにより、すなわち、直交変換係数の符号を反転して逆直交変換を行うと共に、符号をそのままにして逆直交変換処理を行うことにより、映像信号の品質劣化を伴うことなく制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。
【0043】
つまり、復号装置2−1において、符号量が増加することなく伝送された制御信号sを復元することができる。また、視覚感度の高い輝度信号に制御信号sを重畳させるのではなく、より画素の相関の高い色差信号に重畳させることができる。すなわち、符号化装置1が、符号化した信号を操作する際に、入力信号の統計的偏りが顕著に破たんするように、故意に信号を操作し、復号装置2−1が、統計的偏りの不自然さを検出し、制御信号sを決められた手順で復元することにより、符号化装置1から復号装置2−1へ伝送される映像信号の品質劣化を防止し、映像信号に重畳して伝送される制御信号sを正確に抽出することができる。
【0044】
〔実施例2〕
次に、実施例2について説明する。前述のとおり、実施例1は、隣接する画素信号間の差分量を基準にして、当該コンポーネント(信号輝度または2色差信号のいずれか)で比較および判定することにより、制御信号sを抽出する。これに対し、実施例2では、1つの画素が2つのコンポーネント信号により構成される映像信号を例にして、直交変換係数の符号を操作したコンポーネント信号のブロックにおける画素信号と隣接画素信号との間の差分量を、他のコンポーネント信号のブロックにおける同位置の画素信号と隣接画素信号との間の差分量と比較し判定することにより、制御信号sを抽出する。実施例2によれば、2つのコンポーネント信号における画素信号間の相関は極めて高いから、実施例1に比べ、制御信号sの抽出を一層精度高く行うことができる。特に、予測差分信号のように、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量の比較結果である大小が一定でない場合に有効である。尚、符号化側の構成および処理は、図1に示した実施例1の符号化装置1と同一である。また、差分量とは、実施例1と同様に、差分量の絶対値を示す。
【0045】
実施例2の復号装置について説明する。図9は、実施例2による復号装置の概略構成を示すブロック図である。この復号装置2−2は、符号化装置1から符号化信号を受信して復号画像を生成すると共に、コンポーネント信号1の直交変換係数に重畳した制御信号sを抽出する装置であり、逆直交変換部24−1,24−2および比較/判定部25,26を備えている。尚、図9では、エントロピー復号部が省略されており、復号装置2−2の構成部のうち、本発明に関連する構成部のみが示されている。
【0046】
逆直交変換部24−1は、制御信号sが重畳した直交変換係数であるコンポーネント信号1を入力し、例えば(0,0)成分の直交変換係数に対して符号をそのままにし、逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成する。そして、逆直交変換部24−1は、そのままの画素信号および反転した画素信号を比較/判定部26に出力する。
【0047】
逆直交変換部24−2も、逆直交変換部24−1と同様の処理を行う。具体的には、逆直交変換部24−2は、制御信号sが重畳していない直交変換係数であるコンポーネント信号2を入力し、(0,0)成分の直交変換係数に対して符号をそのままにし、逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成する。そして、逆直交変換部24−2は、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を比較/判定部25に出力する。
【0048】
尚、符号化装置1は、制御信号sが重畳したコンポーネント信号1の直交変換係数における符号化信号を伝送することに加え、制御信号sが重畳していないコンポーネント信号2の直交変換係数における符号化信号を伝送する。つまり、コンポーネント信号2の直交変換係数に対しては符号の操作が行われない。復号装置2−2は、制御信号sが重畳したコンポーネント信号1の直交変換係数における符号化信号、および制御信号sが重畳していないコンポーネント信号2の直交変換係数における符号化信号を受信し、エントロピー復号部(図示せず)が、これらの符号化信号に対しエントロピー復号を行い、制御信号sが重畳した直交変換係数であるコンポーネント信号1を逆直交変換部24−1に出力し、制御信号sが重畳していない直交変換係数であるコンポーネント信号2を逆直交変換部24−2に出力する。したがって、逆直交変換部24−2により出力されるそのままの画素信号が、正しい復号信号となり、逆直交変換部24−2により出力される反転した画素信号が、正しくない復号信号となる。前述のとおり、コンポーネント信号2は、符号化装置1において直交変換係数の符号が操作されていないからである。
【0049】
比較/判定部25は、逆直交変換部24−2から、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を入力すると共に、ブロック境界の隣接画素信号を入力し、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(正しい復号信号の差分量、正しくない復号信号の差分量)をそれぞれ算出する。そして、比較/判定部25は、正しい復号信号の差分量が、正しくない復号信号の差分量以下である場合、判定結果として差分量小(差分量が小さい方が正しい復号信号であることを示す判定結果)を比較/判定部26に出力し、正しい復号信号の差分量が、正しくない復号信号の差分量よりも大きい場合、判定結果として差分量大(差分量が大きい方が正しい復号信号であることを示す判定結果)を比較/判定部26に出力する。また、比較/判定部25は、入力したそのままの画素信号を復号画像の画素信号として出力する。
【0050】
図10は、比較/判定部26の処理を示すフローチャートである。図10において、差分量とは、差分量の絶対値和を示す。図9および図10を参照して、比較/判定部26は、逆直交変換部24−1からそのままの画素信号および反転した画素信号を入力すると共に、比較/判定部25から判定結果(差分量大,小)を入力し、さらに、ブロック境界の隣接画素信号を入力する(ステップS901)。そして、比較/判定部26は、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(そのままの画素信号の差分量、反転した画素信号の差分量)を算出し(ステップS902)、判定結果が差分量大であるか差分量小であるかを判定する(ステップS903)。
【0051】
比較/判定部26は、ステップS903において、判定結果が差分量大であると判定した場合(ステップS903:差分量大)、ステップS902にて算出したそのままの画素信号の差分量と反転した画素信号の差分量とを比較して、差分量が大きい画素信号(そのままの画素信号または反転した画素信号)を選択する(ステップS904)。一方、比較/判定部26は、ステップS903において、判定結果が差分量小であると判定した場合(ステップS903:差分量小)、差分量が小さい画素信号(そのままの画素信号または反転した画素信号)を選択する(ステップS905)。そして、比較/判定部26は、選択した画素信号を復号画像の画素信号として出力する(ステップS906)。
【0052】
比較/判定部26は、選択した画素信号がそのままの画素信号であるか否かを判定し(ステップS907)、そのままの画素信号でないと判定した場合(ステップS907:N)、制御信号s=1を判定して出力する(ステップS908)。一方、比較/判定部26は、ステップS907において、選択した画素信号がそのままの画素信号であると判定した場合(ステップS907:Y)、制御信号s=0を判定して出力する(ステップS909)。これにより、制御信号s=1,0が抽出される。
【0053】
以上のように、実施例2の復号装置2−2によれば、逆直交変換部24−1が、制御信号sの重畳したコンポーネント信号1の直交変換係数に対して符号をそのままにして逆直交変換処理を行い、画素信号(そのままの画素信号)を生成すると共に、(0,0)成分の直交変換係数に対して符号を反転し、逆直交変換処理を行い、画素信号(反転した画素信号)を生成し、逆直交変換部24−2が、制御信号sの重畳していないコンポーネント信号2の直交変換係数に対し、逆直交変換部24−1と同様の処理を行うようにした。また、比較/判定部25が、逆直交変換部24−2からのそのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)とブロック境界の隣接画素信号との間の差分量(正しい復号信号の差分量、正しくない復号信号の差分量)を算出し、正しい復号信号の差分量が、正しくない復号信号の差分量以下である場合、判定結果として差分量小を生成し、正しい復号信号の差分量が、正しくない復号信号の差分量よりも大きい場合、判定結果として差分量大を生成するようにした。また、比較/判定部26が、逆直交変換部24−1からのそのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(そのままの画素信号の差分量、反転した画素信号の差分量)を算出し、判定結果が差分量大の場合、そのままの画素信号の差分量および反転した画素信号の差分量のうちの差分量が大きい画素信号を選択し、判定結果が差分量小の場合、差分量が小さい画素信号を選択し、選択した画素信号がそのままの画素信号でない場合、制御信号s=1を判定して出力し、選択した画素信号がそのままの画素信号である場合、制御信号s=0を判定して出力するようにした。これにより、直交変換係数に重畳した制御信号s=0,1を抽出することができる。したがって、実施例1と同様に、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、また、映像信号の品質劣化を伴うことなく、制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。
【0054】
一般に、符号化装置1において符号操作を行う直交変換係数の数が増えると、復号装置2−2において制御信号sを誤検出する可能性が増加する。実施例2の復号装置2−2によれば、制御信号sが重畳されていないコンポーネント信号2を用いた差分量の比較処理により、制御信号sを抽出するようにしたから、符号操作が行われる直交変換係数の数が増えた場合であっても、制御信号sの誤検出を改善することができる。
【0055】
尚、比較/判定部25は、そのままの画素信号(正しい復号信号)と隣接画素信号との間の差分量(正しい復号信号の差分量)を算出し、比較/判定部26は、そのままの画素信号および反転した画素信号と隣接画素信号との間の差分量(そのままの画素信号の差分量、反転した画素信号の差分量)を算出し、正しい復号信号の差分量と、そのままの画素信号の差分量および反転した画素信号の差分量とを比較し、差分量がより近い画素信号(そのままの画素信号または反転した画素信号)を元の伝送対象の信号として選択するようにしてもよい。すなわち、正しい復号信号の差分量がそのままの画素信号の差分量に近い場合は、そのままの画素信号を選択し、反転した画素信号の差分量に近い場合は、反転した画素信号を選択する。後述する実施例3についても同様である。また、後述するように、差分量の代わりに差分量の二乗和または相関を示す値(相関係数)を用いる場合も同様である。
【0056】
〔実施例3〕
次に、実施例3について説明する。前述のとおり、実施例2は、2つのコンポーネント信号を用いた比較および判定処理により、制御信号sを抽出する。実施例3は、実施例2を拡張して、3つのコンポーネント信号を用いた比較および判定処理により、制御信号sを抽出する。例えば、カラー映像信号に適用がある。尚、符号化側の構成および処理は、図1に示した実施例1の符号化装置1と同一である。また、差分量とは、実施例1,2と同様に、差分量の絶対値を示す。
【0057】
実施例3の復号装置について説明する。図11は、実施例3による復号装置の概略構成を示すブロック図である。この復号装置2−3は、符号化装置1から符号化信号を受信して復号画像を生成すると共に、コンポーネント信号1の直交変換係数に重畳した制御信号sを抽出する装置であり、逆直交変換部27−1〜27−3および比較/判定部28−1,28−2,29を備えている。尚、図11では、エントロピー復号部が省略されており、復号装置2−3の構成部のうち、本発明に関連する構成部のみが示されている。
【0058】
逆直交変換部27−1は、制御信号sが重畳した直交変換係数であるコンポーネント信号1を入力し、図9に示した逆直交変換部24−1と同様の処理を行い、そのままの画素信号および反転した画素信号を比較/判定部29に出力する。
【0059】
逆直交変換部27−2,27−3は、制御信号sが重畳していない直交変換係数であるコンポーネント信号2,3を入力し、図9に示した逆直交変換部24−2と同様の処理を行い、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を比較/判定部28−1,28−2に出力する。
【0060】
比較/判定部28−1,28−2は、逆直交変換部27−2,27−3から、そのままの画素信号(正しい復号信号)および反転した画素信号(正しくない復号信号)を入力すると共に、ブロック境界の隣接画素信号を入力し、図9に示した比較/判定部25と同様の処理を行い、判定結果(差分量大,小)を比較/判定部29に出力する。
【0061】
比較/判定部29は、逆直交変換部27−1からそのままの画素信号および反転した画素信号を入力すると共に、比較/判定部28−1,28−2から判定結果(差分量大,小)を入力し、さらに、ブロック境界の隣接画素信号を入力する。そして、比較/判定部29は、図9に示した比較/判定部26と同様の処理を行い、制御信号sを判定して出力する。ここで、比較/判定部28−1,28−2から入力する判定結果は、通常は同じ結果であるから、比較/判定部29は、予め設定されたいずれかの判定結果を用いて制御信号sを抽出する。
【0062】
尚、比較/判定部28−1,28−2は、判定結果を生成する際に、正しい復号信号の差分量と正しくない復号信号の差分量との間の差異が所定の閾値以下である場合、判定結果として判定不能を生成し、比較/判定部29に出力するようにしてもよい。この場合、比較/判定部29は、比較/判定部28−1,28−2のいずれかから判定結果(差分量大,小)を入力し、他の比較/判定部28−1,28−2から判定不能の判定結果を入力した場合には、判定不能の判定結果を無視し、判定結果(差分量大,小)に基づいて制御信号sを抽出する。一方、比較/判定部29は、比較/判定部28−1,28−2の両方から判定不能の判定結果を入力した場合には、所定のエラー処理を行い、制御信号sを抽出しない。
【0063】
また、比較/判定部28−1,28−2は、そのままの画素信号の差分量および反転した画素信号の差分量を比較/判定部29に出力するようにしてもよい。この場合、比較/判定部29は、比較/判定部28−1,28−2からそのままの画素信号の差分量および反転した画素信号の差分量を入力し、入力したそのままの画素信号の差分量を加算してそのままの画素信号の合計差分量を求めると共に、入力した反転した画素信号の差分量を加算して反転した画素信号の合計差分量を求め、そのままの画素信号の合計差分量(正しい復号信号の合計差分量)が、反転した画素信号の合計差分量(正しくない復号信号の合計差分量)以下である場合、判定結果として差分量小を生成し、そのままの画素信号の合計差分量(正しい復号信号の合計差分量)が、反転した画素信号の合計差分量(正しくない復号信号の合計差分量)よりも大きい場合、判定結果として差分量大を生成し、この判定結果に基づいて、前述と同様の処理により制御信号sを抽出するようにしてもよい。
【0064】
また、実施例3は、3つのコンポーネント信号を用いた比較および判定処理により、制御信号sを抽出するようにしたが、3つを超えるコンポーネント信号を用いて制御信号sを抽出するようにしてもよい。
【0065】
以上のように、実施例3の復号装置2−3によれば、実施例1,2と同様に、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、また、映像信号の品質劣化を伴うことなく、制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。また、実施例2と同様に、符号操作が行われる直交変換係数の数が増えた場合であっても、制御信号sの誤検出を改善することができる。
【0066】
〔実施例4/符号化装置〕
次に、実施例4の符号化装置について説明する。前述のとおり、実施例1〜3では、画像の直交変換係数の符号を操作することで制御信号sを重畳する。これに対し、実施例4では、画像の直交変換係数の値を操作することで制御信号sを重畳する。図12は、実施例4による符号化装置の概略構成を示すブロック図である。この符号化装置3は、画像の直交変換係数の値(エントロピー符号化のために二値化した直交変換係数の信号列)を操作することで制御信号sを重畳し、符号化信号を伝送する装置であり、直交変換部11、二値化部14、二値化直交変換係数操作部15およびエントロピー符号化部13を備えている。尚、図12には、符号化装置3の構成部のうち、本発明に関連する構成部のみが示されている。
【0067】
直交変換部11およびエントロピー符号化部13は、図1に示した実施例1と同様であるから、ここでは説明を省略する。二値化部14、二値化直交変換係数操作部15およびエントロピー符号化部13において、エントロピー符号化の過程において得られる二値化直交変換係数を操作し、操作された二値化直交変換係数を、例えばCABAC、CAVLCなどの算術符号化によって符号化する。
【0068】
二値化部14は、直交変換部11から直交変換係数を入力し、二値化手法により直交変換係数を二値化し、可変ビット長の二値化直交変換係数を生成して二値化直交変換係数操作部15に出力する。例えば、二値化の手法としては、ユーナリーバイナライゼーション、トランケーテッドユーナリーバイナライゼーションなどが用いられる。二値化部14は、二値化手法としてユーナリーバイナライゼーションの手法を用いる場合、例えば0,1,2,3の直交変換係数を、0,10,110,1110の二値化信号列である二値化直交変換係数にそれぞれ変換する。尚、ユーナリーバイナライゼーションおよびトランケーテッドユーナリーバイナライゼーションの手法は既知であるからここでは説明を省略する。詳細については「H.264/AVC教科書、インプレス刊」を参照されたい。本発明は、二値化の手法を限定するものではない。
【0069】
二値化直交変換係数操作部15は、二値化部14から二値化直交変換係数を入力すると共に、二値化直交変換係数に重畳する制御信号s(=0,1)を入力し、制御信号sに基づいて、二値化直交変換係数の最上位ビット(可変ビット長の二値化直交変換係数の最上位ビット)を反転し、または最上位ビットをそのままにして、最上位ビットが反転した二値化直交変換係数または最上位ビットをそのままにした二値化直交変換係数をエントロピー符号化部13に出力する。そして、エントロピー符号化部13によりエントロピー符号化された符号化信号は、後述する復号装置4へ伝送される。
【0070】
図13は、二値化直交変換係数操作部15の処理を示すフローチャートである。二値化直交変換係数操作部15が入力する二値化直交変換係数をEとし、二値化直交変換係数操作部15が出力する二値化直交変換係数をFとする。
【0071】
まず、二値化直交変換係数操作部15は、二値化部14から二値化直交変換係数Eを入力すると共に、制御信号s(=0,1)を入力する(ステップS1301)。そして、二値化直交変換係数操作部15は、制御信号sが1であるか否かを判定し(ステップS1302)、制御信号sが1であると判定した場合(ステップS1302:Y)、二値化直交変換係数Eの最上位ビットを反転し、新たな二値化直交変換係数Fを生成する(ステップS1303)。一方、二値化直交変換係数操作部15は、制御信号sが1でない(制御信号sが0である)と判定した場合(ステップS1302:N)、二値化直交変換係数Eの最上位ビットをそのままとし、二値化直交変換係数Eを新たな二値化直交変換係数Fとして生成する(ステップS1304)。
【0072】
例えば、二値化部14が、ユーナリーバイナライゼーションによる二値化の手法を用いて、直交変換係数「3」を二値化直交変換係数「1110」に二値化したとする。二値化直交変換係数操作部15は、この二値化直交変換係数E「1110」に対し、入力した制御信号sが1の場合、最上位ビット「1」を反転して新たな二値化直交変換係数F「110」(最上位ビット「1」が「0」となり、直交変換係数「2」に対応した二値化直交変換係数)を生成する。また、二値化直交変換係数操作部15は、入力した制御信号sが0の場合、最上位ビット「1」をそのままとし、新たな二値化直交変換係数F「1110」(二値化直交変換係数Eと同じ値)を生成する。
【0073】
二値化直交変換係数操作部15は、ステップS1303およびステップS1304から移行して、新たな二値化直交変換係数F、すなわち制御信号sが重畳した二値化直交変換係数Fを出力する。このようにして、画像の直交変換係数の値である二値化直交変換係数を操作することで、直交変換係数に制御信号sが重畳される。
【0074】
以上のように、実施例4の符号化装置3によれば、二値化直交変換係数操作部15が、制御信号s=1の場合、二値化部14により直交変換係数が二値化された二値化直交変換係数の最上位ビットを反転し、制御信号s=0の場合、その二値化直交変換係数の最上位ビットをそのままにすることで、制御信号sの重畳した直交変換係数を生成するようにした。ここで、二値化直交変換係数の最上位ビットが反転することにより、符号化ブロック境界の信号変動が極めて大きくなる。これにより、符号化装置3において、直交変換係数の値を操作することで、制御信号sの重畳した直交変換係数が生成され、符号化信号として後述する復号装置4へ伝送される。そして、後述する復号装置4に、制御信号sの重畳した直交変換係数の符号化信号を受信させ、ブロック境界の画素信号の差分量に基づいて、制御信号sを抽出させる。復号装置4の詳細については後述する。これにより、符号化装置3から後述する復号装置4へ映像信号を伝送する際に、符号化量が増加することなく、その映像信号に重畳した制御信号sを伝送することができる。
【0075】
〔実施例4/復号装置〕
次に、実施例4の復号装置について説明する。図14は、実施例4による復号装置の概略構成を示すブロック図である。この復号装置4は、図12に示した符号化装置3から符号化信号を受信して復号画像を生成すると共に、直交変換係数に重畳した制御信号sを抽出する装置であり、エントロピー復号部21、逆直交変換部30および比較/判定部23を備えている。尚、図14には、復号装置4の構成部のうち、本発明に関連する構成部のみが示されている。
【0076】
逆直交変換部30は、エントロピー復号部21から制御信号sが重畳した二値化直交変換係数を入力し、入力した二値化直交変換係数を直交変換係数に復号し、その直交変換係数に対して逆直交変換処理を行い(直交変換係数を二値化した二値化直交変換係数をそのままにして直交変換処理を行い)、画素信号(そのままの画素信号)を生成すると共に、二値化直交変換係数の最上位ビットに「1」を追加し、「1」を追加した二値化直交変換係数を直交変換係数に復号し、その直交変換係数に対して逆直交変換処理を行い、画素信号(「1」を追加した画素信号)を生成し、そのままの画素信号および「1」を追加した画素信号を比較/判定部23に出力する。
【0077】
図15は、逆直交変換部30の処理を示すフローチャートである。まず、逆直交変換部30は二値化直交変換係数を入力する(ステップS1501)。そして、逆直交変換部30は、入力した二値化直交変換係数を直交変換係数に復号し、逆直交変換処理を行い、そのままの画素信号を生成する(ステップS1502)。
【0078】
そして、逆直交変換部30は、二値化直交変換係数の最上位ビットに「1」を追加し、新たな二値化直交変換係数を生成し(ステップS1503)、新たな二値化直交変換係数(「1」を追加した直交変換係数)に対し逆直交変換処理を行い、「1」を追加した画素信号を生成する(ステップS1504)。そして、逆直交変換部30は、そのままの画素信号および「1」を追加した画素信号を比較/判定部23に出力する(ステップS1505)。
【0079】
図14に戻って、比較/判定部23は、図4に示した実施例1と同様の処理を行う。すなわち、比較/判定部23は、逆直交変換部30から、そのままの画素信号および「1」を追加した画素信号を入力すると共に、ブロック境界の隣接画素信号(当該比較/判定部23により既に処理が行われ出力された復号画像の画素信号のうち、処理対象の隣のブロックにおいて最も近い画素信号)を入力し、そのままの画素信号および「1」を追加した画素信号と隣接画素信号との間の差分量(差分量の絶対値)を算出し、この差分量を比較することで差分量の小さい画素信号を選択し、復号画像の画素信号として出力する。また、比較/判定部23は、差分量の小さい画素信号としてそのままの画素信号を選択した場合、制御信号s=0を判定し出力する。一方、比較/判定部23は、差分量の小さい画素信号として「1」を追加した画素信号を選択した場合、制御信号s=1を判定し出力する。
【0080】
以上のように、実施例4の復号装置4によれば、逆直交変換部30が、二値化直交変換係数を直交変換係数に復号して逆直交変換処理を行い、そのままの画素信号を生成すると共に、二値化直交変換係数の最上位ビットに「1」を追加し、直交変換係数に復号して逆直交変換処理を行い、「1」を追加した画素信号を生成するようにした。そして、比較/判定部23が、そのままの画素信号および「1」を追加した画素信号とブロック境界の隣接画素信号との間の差分量を算出し、差分量の小さい画素信号(そのままの画素信号または「1」を追加した画素信号)を選択し、復号画像の画素信号として出力すると共に、そのままの画素信号を選択した場合、制御信号s=0を判定して出力し、「1」を追加した画素信号を選択した場合、制御信号s=1を判定して出力するようにした。これにより、符号化装置3から復号装置4へ映像信号を伝送する際に、その映像信号に重畳した制御信号sを抽出することができる。また、符号化方式において、符号量が増加する要因となる制御信号sの符号量を増加させることなく、制御信号sの伝送が可能となる。また、復号装置4において、信号補正を行うことにより、すなわち、二値化直交変換係数の最上位ビットをそのままして逆直交変換を行うと共に、二値化直交変換係数の最上位ビットに「1」を追加して逆直交変換を行うことにより、映像信号の品質劣化を伴うことなく制御信号sを伝送することができ、より高圧縮な符号化を実現することができる。
【0081】
つまり、復号装置4において、符号量が増加することなく伝送された制御信号sを復元することができる。また、視覚感度の高い輝度信号に制御信号sを重畳させるのではなく、より画素の相関の高い色差信号に重畳させることができる。すなわち、符号化装置3が、符号化した信号を操作する際に、入力信号の統計的偏りが顕著に破たんするように、故意に信号を操作し、復号装置4が、統計的偏りの不自然さを検出し、制御信号sを決められた手順で復元することにより、符号化装置3から復号装置4へ伝送される映像信号の品質劣化を防止し、映像信号に重畳して伝送される制御信号sを正確に抽出することができる。
【0082】
以上、実施例1〜4を挙げて本発明を説明したが、本発明は前記実施例1〜4に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、図4に示した実施例1による復号装置2−1および図14に示した実施例4による復号装置4の比較/判定部23、図9に示した実施例2による復号装置2−2の比較/判定部25,26並びに図11に示した実施例3による比較/判定部28−1,28−2,29は、そのままの画素信号および反転した画素信号(または「1」を追加した画素信号)と隣接画素信号との間の差分量を算出するようにしたが、差分量の代わりに、差分量の二乗和を算出するようにしてもよい。また、そのままの画素信号および反転した画素信号と隣接画素信号との間の相関を示す値(相関係数)を算出するようにしてもよい。この場合、相関係数の大きい画素信号(そのままの画素信号または反転した画素信号)が選択され、復号画像の画素信号として出力される。
【0083】
また、図1に示した符号化装置1の直交変換係数操作部12は、最も低域の情報である(0,0)成分の直交変換係数の符号を操作し、この直交変換係数に制御信号sを重畳するようにしたが、本発明は、操作対象を(0,0)成分の直交変換係数に限定するものではなく、例えば(0,1)成分または(1,0)成分の直交変換係数の符号を操作し、制御信号sを重畳するようにしてもよい。また、符号化装置1および復号装置2−1〜2−3からなる伝送システムの性質(例えば伝送品質)に応じて、制御信号sを重畳する操作対象の成分を変更するようにしてもよい。
【0084】
また、符号化装置1の直交変換係数操作部12は、1つの直交変換係数((0,0)成分の直交変換係数)の符号を操作するようにしたが、2つ以上の成分の直交変換係数を操作するようにしてもよい。
【0085】
また、実施例1〜4において、直交変換とは、整数化されることによって厳密な意味で直交性が失われる場合も含まれる。本発明は、直交変換が整数変換であっても適用することができる。
【0086】
また、実施例2,3では、制御信号sが重畳したコンポーネント信号1および制御信号sが重畳していないコンポーネント信号2(および3)における画素信号と隣接画素信号との間の差分値を算出することで、制御信号sを抽出するようにした。これに対し、実施例2,3の変形例として、コンポーネント信号1以外に他のコンポーネント信号2(または3)を参照することが可能な場合は、コンポーネント信号間に強い相関があることを利用することで、制御信号sを抽出するようにしてもよい。具体的には、復号装置2−2,2−3の比較/判定部は、制御信号sが重畳したコンポーネント信号1におけるそのままの画素信号および反転した画素信号と、制御信号sが重畳していない他のコンポーネント信号2またはコンポーネント信号3におけるそのままの画素信号(正しい復号信号)との間で相関値を算出し、コンポーネント信号1におけるそのままの画素信号または反転した画素信号のうちの、システムで規定された例えば相関値の大きい(相関の高い)画素信号を選択し、復号信号の画素信号として出力する。また、選択した画素信号がそのままの画素信号でない場合、制御信号s=1を判定して出力し、選択した画素信号がそのままの画素信号である場合、制御信号s=0を判定して出力する。
【0087】
また、実施例1から3までのいずれか1つの実施例と実施例4とを複合するようにしてもよい。つまり、直交変換係数の符号および値をそれぞれ操作することにより、制御信号sを直交変換係数の符号および値に重畳する。これにより、制御信号sの判定精度を高めることができる。
【0088】
また、実施例4では、実施例1と同様に、コンポーネント信号が1つの場合を例にして説明したが、実施例2,3と同様に、コンポーネント信号が複数の場合にも適用がある。この場合、符号化装置3は、複数のコンポーネント信号のうちの1つのコンポーネント信号に対し、その二値化直交変換係数に制御信号sを重畳する。復号装置4は、複数のコンポーネント信号の全てに対して、図14に示した逆直交変換部30と同様の処理を行い、図9に示した比較/判定部25,26または図11に示した比較/判定部28−1,28−2,29と同様の処理を行って制御信号sを抽出する。
【0089】
本発明の実施例による符号化装置1,3および復号装置2−1〜2−3,4のハードウェア構成としては、通常のコンピュータを使用することができる。符号化装置1,3および復号装置2−1〜2−3,4は、CPU、RAMなどの揮発性の記憶媒体、ROMなどの不揮発性の記憶媒体、およびインターフェースなどを備えたコンピュータによって構成される。符号化装置1に備えた直交変換部11、直交変換係数操作部12およびエントロピー符号化部13の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。また、符号化装置3に備えた直交変換部11、二値化部14、二値化直交変換係数操作部15およびエントロピー符号化部13の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。さらに、復号装置2−1に備えたエントロピー復号部21、逆直交変換部22および比較/判定部23の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。復号装置2−2に備えた逆直交変換部24−1,24−2および比較/判定部25,26、並びに復号装置2−3に備えた逆直交変換部27−1〜27−3および比較/判定部28−1,28−2,29についても同様である。復号装置4に備えたエントロピー復号部21、逆直交変換部30および比較/判定部23についても同様である。これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスクなど)、光ディスク(CD−ROM、DVDなど)、半導体メモリなどの記憶媒体に格納して頒布することもできる。
【符号の説明】
【0090】
1,3 符号化装置
2,4 復号装置
11 直交変換部
12 直交変換係数操作部
13 エントロピー符号化部
14 二値化部
15 二値化直交変換係数操作部
21 エントロピー復号部
22,24,27,30 逆直交変換部
23,25,26,28,29 比較/判定部
【特許請求の範囲】
【請求項1】
伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置において、
前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成する直交変換部と、
前記直交変換部により生成された直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳する直交変換係数操作部と、
を備えることを特徴とする符号化装置。
【請求項2】
請求項1に記載の符号化装置において、
前記直交変換係数操作部の代わりに二値化直交変換係数操作部を備え、
前記二値化直交変換係数操作部は、前記直交変換係数が二値化された二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳する、ことを特徴とする符号化装置。
【請求項3】
請求項1の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、
前記直交変換係数に逆直交変換を行って第1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成する逆直交変換部と、
前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、
を備えたことを特徴とする復号装置。
【請求項4】
前記伝送対象の信号が複数のコンポーネント信号により構成され、請求項1の符号化装置により所定のコンポーネント信号における直交変換係数の符号が操作され前記制御信号が重畳した場合に、前記符号化装置により伝送された、前記制御信号が重畳したコンポーネント信号における直交変換係数の符号化信号を受信すると共に、前記制御信号が重畳していない他のコンポーネント信号における直交変換係数の符号化信号を受信し、前記それぞれの符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、
前記制御信号が重畳したコンポーネント信号の直交変換係数に逆直交変換を行って第1−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第1−2の要素信号を生成する第1の逆直交変換部と、
前記制御信号が重畳していない他のコンポーネント信号の直交変換係数に逆直交変換を行って第2−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2−2の要素信号を生成する第2の逆直交変換部と、
前記第1の逆直交変換部により生成された第1−1および第1−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の算出結果をそれぞれ求め、前記算出結果を比較して第1の判定結果を求め、前記第2の逆直交変換部により生成された第2−1および第2−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の算出結果をそれぞれ求め、前記算出結果を比較して第2の判定結果を求め、前記第1および第2の判定結果に基づいて、前記第2−1の要素信号と同じ判定結果となった第1−1または第1−2の要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、
を備えたことを特徴とする復号装置。
【請求項5】
請求項2の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置であって、
前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成すると共に、前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成する逆直交変換部と、
前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、
を備えたことを特徴とする復号装置。
【請求項6】
伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、
前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、
前記直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳するステップと、
を有することを特徴とする符号化方法。
【請求項7】
伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、
前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、
前記直交変換係数を二値化し、二値化直交変換係数を生成するステップと、
前記二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳するステップと、
を有することを特徴とする符号化方法。
【請求項8】
請求項6の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、逆直交変換を行って元の伝送対象の信号に復号する復号装置による復号方法であって、
前記受信した符号化信号の直交変換係数に逆直交変換を行って第1の要素信号を生成するステップと、
前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成するステップと、
前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、
前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、
前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、
を有することを特徴とする復号方法。
【請求項9】
請求項7の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置による復号方法であって、
前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成するステップと、
前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成するステップと、
前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、
前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、
前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、
を有することを特徴とする復号方法。
【請求項10】
コンピュータを、請求項1または2に記載の符号化装置として機能させるための符号化プログラム。
【請求項11】
コンピュータを、請求項3から5までのうちのいずれか一項に記載の復号装置として機能させるための復号プログラム。
【請求項1】
伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置において、
前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成する直交変換部と、
前記直交変換部により生成された直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳する直交変換係数操作部と、
を備えることを特徴とする符号化装置。
【請求項2】
請求項1に記載の符号化装置において、
前記直交変換係数操作部の代わりに二値化直交変換係数操作部を備え、
前記二値化直交変換係数操作部は、前記直交変換係数が二値化された二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳する、ことを特徴とする符号化装置。
【請求項3】
請求項1の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、
前記直交変換係数に逆直交変換を行って第1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成する逆直交変換部と、
前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、
を備えたことを特徴とする復号装置。
【請求項4】
前記伝送対象の信号が複数のコンポーネント信号により構成され、請求項1の符号化装置により所定のコンポーネント信号における直交変換係数の符号が操作され前記制御信号が重畳した場合に、前記符号化装置により伝送された、前記制御信号が重畳したコンポーネント信号における直交変換係数の符号化信号を受信すると共に、前記制御信号が重畳していない他のコンポーネント信号における直交変換係数の符号化信号を受信し、前記それぞれの符号化信号の直交変換係数に逆直交変換を行い、元の伝送対象の信号に復号する復号装置であって、
前記制御信号が重畳したコンポーネント信号の直交変換係数に逆直交変換を行って第1−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第1−2の要素信号を生成する第1の逆直交変換部と、
前記制御信号が重畳していない他のコンポーネント信号の直交変換係数に逆直交変換を行って第2−1の要素信号を生成すると共に、前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2−2の要素信号を生成する第2の逆直交変換部と、
前記第1の逆直交変換部により生成された第1−1および第1−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の算出結果をそれぞれ求め、前記算出結果を比較して第1の判定結果を求め、前記第2の逆直交変換部により生成された第2−1および第2−2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の算出結果をそれぞれ求め、前記算出結果を比較して第2の判定結果を求め、前記第1および第2の判定結果に基づいて、前記第2−1の要素信号と同じ判定結果となった第1−1または第1−2の要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、
を備えたことを特徴とする復号装置。
【請求項5】
請求項2の符号化装置により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置であって、
前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成すると共に、前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成する逆直交変換部と、
前記逆直交変換部により生成された第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めると共に、前記逆直交変換部により生成された第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求め、前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定する比較/判定部と、
を備えたことを特徴とする復号装置。
【請求項6】
伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、
前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、
前記直交変換係数のうち、予め設定された成分の直交変換係数に対し、前記制御信号に基づき前記直交変換係数の符号を操作して反転し、前記制御信号を直交変換係数に重畳するステップと、
を有することを特徴とする符号化方法。
【請求項7】
伝送対象の信号に直交変換を行い、直交変換係数の符号化信号を伝送する符号化装置による符号化方法において、
前記伝送対象の信号を構成する複数の要素信号からなるブロック毎に直交変換を行い、直交変換係数を生成するステップと、
前記直交変換係数を二値化し、二値化直交変換係数を生成するステップと、
前記二値化直交変換係数の最上位ビットを操作して反転し、前記制御信号を直交変換係数に重畳するステップと、
を有することを特徴とする符号化方法。
【請求項8】
請求項6の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、逆直交変換を行って元の伝送対象の信号に復号する復号装置による復号方法であって、
前記受信した符号化信号の直交変換係数に逆直交変換を行って第1の要素信号を生成するステップと、
前記直交変換係数の符号を操作して反転し、前記反転した直交変換係数に逆直交変換を行って第2の要素信号を生成するステップと、
前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、
前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、
前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、
を有することを特徴とする復号方法。
【請求項9】
請求項7の符号化方法により伝送された、前記制御信号が重畳した直交変換係数の符号化信号を受信し、前記符号化信号の直交変換係数を逆直交変換し、元の伝送対象の信号に復号する復号装置による復号方法であって、
前記符号化信号から復号された二値化直交変換係数を直交変換係数に復号し、前記直交変換係数を逆直交変換し、第1の要素信号を生成するステップと、
前記二値化直交変換係数の最上位ビットに1を追加し、前記1を追加した二値化直交変換係数から直交変換係数を復号し、逆直交変換を行い、第2の要素信号を生成するステップと、
前記第1の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの所定の第1の算出結果を求めるステップと、
前記第2の要素信号と、既に復号された伝送対象の信号との間の差分量、もしくは前記差分量の二乗和、または相関値のうちの前記所定の第2の算出結果を求めるステップと、
前記第1の算出結果と第2の算出結果とを比較することで、前記第1の要素信号または第2の要素信号のうちのいずれかの要素信号を元の伝送対象の信号として選択し、前記直交変換係数に重畳した制御信号を判定するステップと、
を有することを特徴とする復号方法。
【請求項10】
コンピュータを、請求項1または2に記載の符号化装置として機能させるための符号化プログラム。
【請求項11】
コンピュータを、請求項3から5までのうちのいずれか一項に記載の復号装置として機能させるための復号プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2013−85049(P2013−85049A)
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願番号】特願2011−222450(P2011−222450)
【出願日】平成23年10月7日(2011.10.7)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願日】平成23年10月7日(2011.10.7)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】
[ Back to top ]