説明

符号化装置及び復号化装置

【課題】符号側からの効率的なデータ伝送により、復号側での信号品質を向上させる。
【解決手段】入力信号を符号化して復号側に出力する符号化装置において、前記復号側で復号化された信号に対して行われる後処理用のパラメータを電子透かしとして前記入力信号に埋め込む電子透かし埋め込み手段と、前記パラメータが埋め込まれた信号を符号化する符号化手段と、符号化信号を復号化する復号化手段と、復号化信号に含まれる電子透かし情報から前記パラメータを検出する電子透かし検出手段と、検出パラメータを用いて、前記復号化信号に対して後処理を行う後処理手段と、前記後処理手段により得られる後処理後の信号と、前記入力信号とを比較する比較手段と、前記比較手段により得られる比較結果に基づいて、前記電子透かし埋め込み手段において埋め込むべきパラメータを変更する最適化手段とを有することにより、上記課題を解決する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、符号化装置及び復号化装置に係り、特に符号側からの効率的なデータ伝送により、復号側での信号品質を向上させるための符号化装置及び復号化装置に関する。
【背景技術】
【0002】
従来、映像や画像等の符号化及び復号化においては、復号化された信号に後処理(例えば、デブロッキングフィルタ、ポストフィルタ、又はループフィルタ等)を行うことで画質の向上を図る方式が存在する。この場合、例えば映像信号において、符号化装置側で符号化を行うフレームやブロックに対し、復号化装置側で行われる後処理のパラメータを、復号時に取得可能な情報(例えば、符号化装置側で事前に復号したフレームやブロック等の情報)に基づいて決定する手法が存在する(例えば、特許文献1参照)。
【0003】
また従来では、予め符号化前に前処理を行い、その前処理のパラメータを符号化データの付随情報として、その符号化データとは別に伝送し、復号化装置側において、その付随情報に基づいて後処理を行う音声符号化装置が存在する(例えば、特許文献2参照)。
【0004】
更に、符号化において局所復号を行い、その局所復号結果に対して後処理を試行し、得られた後処理結果の画質が良好なものとなるように後処理のパラメータを自動的に最適化し、その最適化結果をサイド情報として復号化装置側に伝送する手法が存在する(例えば、非特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−172813号公報
【特許文献2】特開2002−41097号公報
【非特許文献】
【0006】
【非特許文献1】Gary J.Sullivan,et al.,"New Standard Extensions of MPEG4−AVC/H.264 for Professional−Quality Video Applications"、Proceedings of ICIP 2007,I−13(2007).
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、上述した特許文献1に示されている手法では、これから符号化しようとする対象フレームや対象ブロックとは異なる(多くの場合には隣接する)参照フレームや参照ブロックの情報に基づいて、その対象フレームや対象ブロックの後処理パラメータを決定するため、必ずしも最適なパラメータが得られるとは限らない。
【0008】
また、上述した非特許文献1に示されている手法では、上述した特許文献1の最適性の問題は解決できるものの、映像を符号化したビット列とは別に、後処理のパラメータを伝送する必要があった。すなわち、符号化の規格外の信号を別途伝送する必要があった。更に、特許文献2に示されている手法においても、パラメータを付随情報として別途伝送する必要があった。
【0009】
本発明は、上述した問題点に鑑みなされたものであり、符号側からの効率的なデータ伝送により、復号側での信号品質を向上させるための符号化装置及び復号化装置を提供することを目的とする。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本件発明は、以下の特徴を有する課題を解決するための手段を採用している。
【0011】
本発明は、入力信号を符号化して復号側に出力する符号化装置において、前記復号側で復号化された信号に対して行われる後処理用のパラメータを電子透かしとして前記入力信号に埋め込む電子透かし埋め込み手段と、前記電子透かし埋め込み手段により前記パラメータが埋め込まれた信号を符号化する符号化手段と、前記符号化手段により得られる符号化信号を復号化する復号化手段と、前記復号化手段により得られる復号化信号に含まれる電子透かし情報から前記パラメータを検出する電子透かし検出手段と、前記電子透かし検出手段により得られる検出パラメータを用いて、前記復号化信号に対して後処理を行う後処理手段と、前記後処理手段により得られる後処理後の信号と、前記入力信号とを比較する比較手段と、前記比較手段により得られる比較結果に基づいて、前記電子透かし埋め込み手段において埋め込むべきパラメータを変更する最適化手段とを有することを特徴とする。
【0012】
また本発明は、請求項1乃至4の何れか1項に記載の符号化装置から得られる符号化信号を復号化する復号化装置である。
【発明の効果】
【0013】
本発明によれば、符号側からの効率的なデータ伝送により、復号側での信号品質を向上させることができる。
【図面の簡単な説明】
【0014】
【図1】本実施形態における符号化・復号化システムの概略構成の一例を示す図である。
【図2】第1の実施形態における符号化装置の機能構成の一例を示す図である。
【図3】第1の実施形態における符号化処理の一例を示すフローチャートである。
【図4】本実施形態における復号化装置の機能構成の一例を示す図である。
【図5】第2の実施形態における符号化装置の機能構成の一例を示す図である。
【発明を実施するための形態】
【0015】
<本発明について>
本発明は、復号側での後処理による信号品質改善のためのパラメータを、例えば電子透かし等により伝送対象データ(例えば、画像、映像、音声等)に埋め込む。
【0016】
以下に、上述したような特徴を有する本発明における符号化装置及び復号化装置を好適に実施した形態について、図面を用いて詳細に説明する。
【0017】
<符号化・復号化システム:概略構成例>
まず、本実施形態における符号化装置、復号化装置を用いた符号化・復号化システムの概略構成例について、図を用いて説明する。図1は、本実施形態における符号化・復号化システムの概略構成の一例を示す図である。図1に示す符号化・復号化システム10は、符号化装置11と、復号化装置12とを有する。また、符号化・復号化システムは、符号化装置11により符号化されたデータを、伝送手段13−1や蓄積手段13−2等からなる出力手段13により復号化装置12に出力される。
【0018】
符号化装置11は、入力信号を符号化してビット列に変換するよう動作する。なお、入力信号の種類は、任意であり、例えば、画像(静止画像)信号、映像(動画像)信号、音声信号等が挙げられる。
【0019】
また、符号化装置11は、復号化装置12の後処理により信号品質を向上させる処理を行うためのパラメータを電子透かしにより埋め込む。また、符号化装置11は、復号化装置12で行われる復号化処理及び後処理と同様の処理を行い、その結果から得られるデータと、入力データとを比較して差の少ない最適なパラメータの埋め込みを設定する。
【0020】
なお、本実施形態における後処理とは、復号化装置12において復号化処理(デコーディング)が行われた後のデータに対して行われる信号処理であり、例えば、時間領域、空間領域、又は時空間領域における線形或いは非線形の演算処理を意味し、その他にも非特許文献1に示されるようにフィルタを用いてよい結果を得られるものを探索するような手法や、元のデータに合うように意図的にノイズを付加したり、画像や映像データであれば超解像処理を行うといった処理も含む。また、本発明における後処理はこれに限定されるものではなく、復号化後のデータを符号化前のデータに近づけ、信号品質を向上させるための処理であれば広く適用することができる。
【0021】
また、本実施形態におけるパラメータとしては、例えば、復号化装置での復号化処理で得られた信号に適用するフィルタのパラメータ(例えば、畳込みフィルタのタップ係数や高域通過型フィルタ、低域通過型フィルタ、帯域通過型フィルタ、帯域阻止型フィルタの遮断周波数、中央値フィルタ、順序統計フィルタ、モルフォロジ演算のカーネルの半径等)や、フィルタを適用する信号範囲(例えば、画像の局所領域等)を指定するパラメータ(例えば、中心や半径、バウンディングボックス、多角形の頂点座標列等)を用いることができるが、本発明においてはこれに限定されるものではなく、復号化後の後処理にて信号品質を向上させるための処理であれば広く適用することができる。
【0022】
また、本実施形態における電子透かし手法についても、既存の電子透かし手法を広く適用することができる。例えば、画像データの場合には、二値画像における濃度パターン法やディザ法、誤差拡散法による埋め込み手法や、多値画像における画素置換法や画素空間利用法、周波数領域利用法による埋め込み手法、二値カラー画像におけるカラー濃度パターンや多値カラー画像におけるフレネル変換による埋め込み手法等を用いることができる。
【0023】
また、映像データ(MPEG1,MPEG2)の場合には、時間軸差分埋め込み法や空間軸差分埋め込み法、レイヤ構造埋め込み法等を用いることができる。更に、MPEG4の場合には、上記の手法の他にも、ウェーブレット変換やスペクトル拡散方式による埋め込み手法等を用いることができる。
【0024】
また、音声データの場合には、例えば、位相を変調する手法、聴覚特性としてのマスキングを利用した手法、量子化前の信号に対し感覚モデルを利用して音響データを制御する埋め込み手法や、量子化後の信号に対し標本音声波形の量子化符号のビットを制御する埋め込み手法、音楽データへのPN系列を用いてエコー拡散する埋め込み方法等を用いることができる。
【0025】
なお、本実施形態における埋め込み手法では、例えば上述した埋め込み手法のうち、特に透かし検出の際に原画を参照しないで検出できるタイプ(ブラインド型)を用いるのが好ましい。
【0026】
更に、上述した各埋め込み手法においては、その埋め込み強度も任意に設定することができる。なお、埋め込み強度とは、強度が高い方が画像上に埋め込み内容が表示されやすいが、多くの情報を埋め込むことができるものである。
【0027】
また、符号化装置11は、上述したような後処理で用いられるパラメータ(例えば、所定の処理を実行するための数値データや文字データ等)を埋め込んだ符号化データを、出力手段13を介して復号化装置12に出力する。
【0028】
復号化装置12は、出力手段13から得られる符号化装置11で符号化されたデータを取得し、取得した符号化データに含まれる埋め込みパラメータを検出し、検出したパラメータに基づいて、対象のデータを復号する。これにより、信号の品質を向上させることができる。
【0029】
なお、伝送手段13−1は、例えば、放送電波や通信ネットワーク等を介して復号化装置12に伝送するため、符号化装置11より得られた符号化データを伝送可能なフォーマットにして出力を行う。また、蓄積手段13−2は、例えば、CD−ROMや、DVD、スマートメディア等の記録媒体を示し、その記録媒体に符号化されたデータを蓄積し、蓄積した記録媒体を復号化手段12に送ることで、復号化側でその符号化されたデータを取得することができる。
【0030】
なお、符号化・復号化システム10における符号化データの伝送方式においては、上述した内容に限定されるものではなく、例えば、復号化装置12側から通信ネットワーク等を用いて符号化装置11にアクセスし、符号化装置11に蓄積された符号化データダウンロードすることで取得することもできる。
【0031】
<符号化装置11:第1の実施形態>
次に、上述した符号化・復号化システム10における符号化装置11の具体的な機能構成例について、図を用いて説明する。
【0032】
図2は、第1の実施形態における符号化装置の機能構成の一例を示す図である。図2に示す符号化装置11は、電子透かし埋め込み手段21と、符号化手段22と、復号化手段23と、電子透かし検出手段24と、後処理手段25と、比較手段26と、最適化手段27と、切替手段28とを有するよう構成されている。
【0033】
なお、本実施形態における復号化手段23、電子透かし検出手段24、及び後処理手段25は、後述する復号化装置12における復号化手段、電子透かし検出手段、及び後処理手段と同様の処理を行うものである。
【0034】
電子透かし埋め込み手段21は、入力信号に対して、復号化装置12側で予め設定された後処理を行うための各種パラメータ(例えば、数値データ等)を埋め込む(重畳する)。なお、電子透かし埋め込み手段21において入力信号に埋め込まれる各種パラメータは、後述する最適化手段27により埋め込みパラメータとして設定される。
【0035】
ここで、電子透かし埋め込み手段21におけるパラメータの埋め込み手法は、例えば、上述した埋め込み手法のうち、少なくとも1つを用いることができ、復号化装置12における電子透かし検出手段において、検出可能な手法を予め取得し、取得した検出手法に対応させて埋め込み手法が選択される。また、パラメータの埋め込み手法は、パラメータが埋め込まれていることが主観的に知覚されにくくなるように、入力信号の品質(特に主観的な品質)の劣化を抑えた手法を用いるのが好ましい。
【0036】
なお、電子透かし埋め込み手段21は、パラメータ埋め込み後の信号がある程度(例えば、ある信号対雑音比等)の信号劣化を受けても、埋め込まれたパラメータが電子透かし検出手段24(又は復号化装置12側の電子透かし検出手段)によって、部分的又は完全に、分離及び再現できることが好ましい。
【0037】
ここで、入力信号が画像(静止画像)や映像(動画像)の場合には、電子透かし埋め込み手段21として、埋め込むパラメータに応じて、例えば上述したように、入力信号の画素値のレベル(或いは色)を所定の空間パターン(例えば、動画像にあっては時間パターン、時空間パターンを含む)で微小に変化させる手法等を用いることができる。なお、微少に変化させるとは、例えば、視覚的に検知が難しいレベルで変化させること等を意味する。
【0038】
なお、本実施形態において、例えば入力信号が映像の場合には、電子透かし埋め込み手段21として、例えばMPmark(登録商標)等の市販の電子透かし埋め込み用のツールを用いることができる。ここで、MPmarkとは、MPEG圧縮(MPEG4/MPEG2)非圧縮の動画に電子透かしを挿入し、検出可能にできる電子透かしのソフトウェア開発キットであり、既に圧縮してある動画に対しても電子透かしを挿入することができ、また電子透かしを検出することもできる。
【0039】
更に、本実施形態において、例えば入力信号が音声の場合には、電子透かし埋め込み手段21として、埋め込むべきパラメータに応じて、例えば上述したように、入力信号の位相を変調する手法、聴覚特性としてのマスキングを利用した手法、エコー(残響)を制御する手法等を用いることができる。
【0040】
また、電子透かし埋め込み手段21は、最適化手段27から埋め込み強度が入力された場合には、パラメータを埋め込み強度に対応させて、入力信号に埋め込む。
【0041】
符号化手段22は、信号を符号化してビット列に変換する。なお、本実施形態では、映像信号を対象とする場合には、例えば、MPEG−1、MPEG−2、MPEG−4、MPEG−4 AVC/H.264、H.261、H.263、Motion JPEG、Motion JPEG2004等の符号化器を利用することができる。また、画像信号を対象とする場合には、例えば、JPEG、TIFF、GIF、PNG等の符号化器を利用することができ、音声信号を対象とする場合には、MP1、MP2、MP3、MP4、AAC、AC−3等の符号化器を利用することができる。なお、符号化手段22は、可逆であっても非可逆であってもよいが、本実施形態では非可逆の場合の方がより一層の効果を奏する。
【0042】
復号化手段23は、符号化手段22と対をなし、入力されたビット列を符号化前の信号に戻し、その復号化信号を出力する。つまり、復号化手段23は、符号化手段22の符号化方式に対応する復号化方式を用いるものとする。
【0043】
電子透かし検出手段24は、電子透かし埋め込み手段21において埋め込まれたデータ(パラメータ)を検出し、その検出パラメータを出力する。なお、電子透かし検出手段24は、復号化装置12側の電子透かし検出手段と同様の処理を行うものである。
【0044】
ここで、一般的に、埋め込み手法と検出手法とは対になって提供されており、電子透かし埋め込み手段21の埋め込み方式は、電子透かし検出手段24の検出方式(復号化装置12の電子透かし検出手段の検出方式)に対応して選択されている。これにより、電子透かし検出手段24は、復号化信号に埋め込まれたパラメータを分離して再現することができる。
【0045】
なお、電子透かし検出手段24として、例えば上述したMPmark(登録商標)等の市販の電子透かし検出用のツールを用いることができる。また、電子透かし検出手段24における検出手法としては、例えば、埋め込み手法とは逆の手順で処理を行い、得られた画像の輝度値に基づいて埋め込まれたパラメータ等を検出したり、その他にも画像に含まれるオブジェクトの輪郭情報等に基づいて、その輝度変化やフーリエ変換等の処理を用いたり、予め設定された鍵情報等を用いて、復号化信号に埋め込まれたパラメータを検出することができる。なお、本実施形態における検出手法は、これに限定されるものではなく、既存の手法を広く適用することができる。
【0046】
後処理手段25は、例えば復号化手段23により得られる復号化信号に対して、電子透かし検出手段24により得られる検出パラメータを用いて所定の信号処理を行うフィルタ等であって、入力される検出パラメータの内容に基づいて、処理内容を調整することができる。ここで、後処理手段25は、例えば、時間領域、空間領域、又は時空間領域における線形或いは非線形の演算処理等を用いることができる。なお、線形の演算処理としては、例えば畳み込み演算等がある。後処理手段25における線形の演算処理例については、後述する。
【0047】
比較手段26は、入力信号s(t)と、後処理手段25の出力信号y(t)とを比較し、その比較結果c(t)を出力する。なお、比較結果c(t)は、スカラー量であっても、ベクトル量、テンソル量であってもよい。
【0048】
例えば、比較手段26は、一定領域(区間)(例えば、フレーム)内の各標本点t上において入力信号の信号値s(t)と、後処理手段25の出力信号の信号値y(t)とを比較する。また、比較手段26は、一定領域内における各標本点t上における各比較結果を、纏めて出力する。なお、比較手段26における比較には、差分演算等を用いることができる。
【0049】
例えば、符号化装置11が1次元信号を対象とする場合、フレーム内において、入力信号の信号値s(t)と、後処理手段25の出力信号の信号値y(t)との差分を求め、その差分値を比較結果c(t)として、以下の式(1)のように標本点位置t毎に出力する。
c(t)=s(t)−y(t) ・・・(1)
最適化手段27は、電子透かし埋め込み手段21、符号化手段22、復号化手段23、及び電子透かし検出手段24を通じて後処理手段25に実行させるパラメータ(以下、必要に応じて「埋め込みパラメータ」という)を、比較手段26による比較結果に基づき生成する。
【0050】
ここで、本実施形態において、埋め込みパラメータと、電子透かし検出手段24で検出された検出パラメータとは、電子透かしの埋め込み及び検出、符号化及び復号化による信号劣化等に起因して、必ずしも一致するとは限らない。しかしながら、検出パラメータにより後処理手段25で信号処理を行った結果(y(t))が入力信号(s(t))を近似するように、最適化手段27が埋め込みパラメータや埋め込み強度を最適化する構成となっている。そのため、本実施形態では、信号劣化を含んだ上で最適化がなされることになる。
【0051】
例えば、最適化手段27は、様々な埋め込みパラメータを試行的に出力して、比較手段26からの比較結果を検証し、その比較結果が所定の条件を満たすまで試行を繰り返す。また、最適化手段27は、埋め込みパラメータの他にも埋め込み強度を出力してもよい。つまり、最適化手段27は、様々な比較結果を取得するために、埋め込みパラメータ及び/又は埋め込み強度を予め設定された条件で適宜変更して電子透かし埋め込み手段21に出力する。
【0052】
また、最適化手段27は、比較結果が所定の条件を満たした場合に、切替手段28としての出力スイッチを閉じて、符号化手段22による処理結果のビット列を外部(例えば、出力手段13等)に出力する。
【0053】
ここで、上述した所定の条件とは、例えば、比較結果により得られる比較結果c(t)が、予め設定された閾値以下である場合や、繰り返し回数が所定回数以上である場合、若しくはその両方を満たす場合等があるが、本発明においてはこれに限定されるものではない。
【0054】
<第1の実施形態における符号化処理について>
ここで、上述した第1の実施形態における符号化処理について、フローチャートを用いて説明する。図3は、第1の実施形態における符号化処理の一例を示すフローチャートである。図3に示す例では、まず、信号を入力すると(S01)、後段にて後処理を行うためのパラメータ(埋め込みパラメータ)を所定の電子透かし手法で埋め込み(S02)、電子透かしが埋め込まれた信号(データ)に対して所定の符号化処理を行う(S03)。
【0055】
次に、S03の処理により得られた符号化信号の符号化方式に対応させて復号化処理を行い(S04)、S04の処理により得られた復号化信号に対して、S02の処理にて用いた電子透かしの埋め込み方式に対応した電子透かし検出を行い、検出パラメータを取得する(S05)。
【0056】
次に、S04の処理により得られた復号化信号に対し、S05の処理により得られた検出パラメータを用いて後処理を行い(S06)。S01の処理により得られた入力信号とS06の処理により得られた後処理後の信号を比較する(S07)。ここで、入力信号と、後処理後の信号との差が閾値以下か、又は繰り返し回数が所定回数以上行われたか否かを判断し(S08)、上記の条件を満たさない場合(S08において、NO)、埋め込みパラメータを変更し(S09)、S02に戻り後続の処理を行う。また、S08の処理において、上記の条件を満たす場合(S08において、YES)、切替手段28のスイッチを切り替え、符号化信号を出力する(S11)。
【0057】
なお、上述した符号化処理においては、埋め込みパラメータの他にも、例えば上述した埋め込み強度をオプションとして含めることもできる。
【0058】
<入力信号の区切り単位について>
ここで、本実施形態における入力信号の区切り単位について説明する。本実施形態において、上述した埋め込みパラメータや埋め込み強度を埋め込む入力信号の区切り単位は、任意に設定することができる。例えば、入力信号が音声信号や映像信号の場合にあっては、音声フレームや映像フレームの自然数倍を単位とすることができ、入力信号が画像信号や映像信号の場合にあっては、所定のブロック単位とすることができる。
【0059】
更に、本実施形態では、入力信号がMPEGフォーマット等の圧縮映像信号の場合にあっては、GOP(Group Of Pictures)の自然数倍を単位とすることができる。
【0060】
具体的に説明すると、例えば入力信号が映像信号の場合であって、符号化手段22がGOP構造を有する符号化方式による場合には、区切り単位をGOPの自然数倍とすることで、最適化手段27による最適化の結果が前後の区切り単位へ波及する影響を抑えることができ、系の安定性や最適化の収束性、精度向上等の観点で有利となる。
【0061】
つまり、最適化手段27は、符号化手段22におけるGOPの自然数倍として、例えば、Iピクチャ、Pピクチャ、及びBピクチャのうち、Iピクチャを区切りの単位として最適化を実行することで、ある特定のGOP内におけるパラメータ変更が別のGOPに影響を及ぼし難いという従来の符号化装置の特質を活かし、系の安定性を向上することができ、また、最適化の収束性を高めたり、最適化の精度を高めることができる。なお、この場合、電子透かしは、Bピクチャ等に埋め込むのが好ましいが、これに限定されるものではない。
【0062】
<最適化手段27における埋め込みパラメータ及び/又は埋め込み強度の変更方法>
次に、本実施形態の最適化手段27における埋め込みパラメータ及び/又は埋め込み強度の変更方法について説明する。変更方法としては、例えば、予め複数のパラメータや強度をテーブル等に保存しておき、そのテーブル内の全てのパラメータや強度を順次変更して電子透かしの埋め込みを行う。この場合には、その後、比較手段26から得られる全ての比較結果のうち最も差(c(t))が少なかった条件を探索し、その探索された条件で電子透かしを埋め込んだ符号化データを出力する。
【0063】
また、その他の方法としては、例えば、モンテカルロ法を用いた乱数によりパラメータや強度を変更して電子透かしの埋め込みを行う。この場合には、所定回数の埋め込みを実行して得られる比較結果から最も差(c(t))が少なかった条件が選択される。更に、その他の方法としては、例えば、パラメータや強度を予め設定された関数等を用いて一定の方向に少しずつ変化させて電子透かしの埋め込みを行う。この場合には、時系列の比較結果等から最急降下法を用いて、その関数の傾きから最小値を探索することで、最適なパラメータや強度が選択される。なお、本発明における埋め込みパラメータや埋め込み強度の変化方法については、これに限定されるものではない。
【0064】
また、本実施形態では、埋め込みパラメータを調整する場合、例えば、最適化手段27は、比較手段26の比較結果のノルム||c||がより小さくなるように、埋め込みパラメータを調整する。なお、ノルムには、信号同士の比較結果の時系列c(t)を、関数或いはベクトルとみなしたときのノルム(例えば、ユークリッドノルム、無限大ノルム、p次平均ノルム(pは、0以上の整数)等)を用いることができる。
【0065】
例えば、上述した「入力信号の区切り」が時刻a〜時刻bであり、時刻が1単位で離散化されている場合において、前記ノルムがp次平均ノルム(特に、p=2のときは、ユークリッドノルム)による場合には、以下に示す式(2)のようになる。
【0066】
【数1】

また、例えば、上述したノルムが無限大ノルムによる場合には、以下に示す式(3)となる。
【0067】
【数2】

次に、上述した条件による具体的な最適化手順について説明する。
【0068】
最適化手段27は、前回出力した埋め込みパラメータ(前埋め込みパラメータ)と前回の比較結果(前比較結果)とを保持する機能を有する。また、最適化手段27は、前埋め込みパラメータに摂動(以下、現埋め込みパラメータと前埋め込みパラメータとの差分を「摂動ベクトル」という)を加えた埋め込みパラメータ(現埋め込みパラメータ)を出力する。
【0069】
最適化手段27は、現埋め込みパラメータを出力したときの比較結果(現比較結果)と前比較結果とを比較する。ここで、最適化手段27は、現比較結果が前比較結果よりもそのノルムが減少した場合には、次回出力する出力パラメータとして、現埋め込みパラメータに前記摂動ベクトルと同様の方向の摂動を加えたものを用いる。一方、現比較結果が前比較結果よりもそのノルムが減少しなかった場合には、次回出力する出力パラメータとして、前埋め込みパラメータに前記摂動ベクトルとは逆の方向の摂動を加えたものを用いる。
【0070】
以上の手順を、上述したように比較結果のノルムが所定の閥値以下であるか、又は繰り返し回数が所定の回数以上である場合に、最適化手段27は、最適化の繰り返しを終了し、最終的な埋め込みパラメータを電子透かし埋め込み手段21へ出力しつつ、切替手段28の出力スイッチに対しスイッチを閉じる指令等を与え符号化信号を出力する。
【0071】
また、上述の摂動ベクトルの初期値は、既定のベクトル値としてもよく、また乱数により生成されたベクトル値であってもよく、更には入力信号や比較結果に基づいて規定の規則により決定したベクトル値であってもよい。
【0072】
これにより、本実施形態における符号化装置11では、最適化手段27により切替手段28のスイッチを切り替えることにより最適な埋め込みパラメータが埋め込まれた入力信号のビット列を出力することができる。
【0073】
<復号化装置12:機能構成例>
次に、本実施形態における復号化装置12の機能構成例について、図を用いて説明する。図4は、本実施形態における復号化装置の機能構成の一例を示す図である。図4における復号化装置12は、復号化手段31と、電子透かし検出手段32と、後処理手段33とを有するよう構成されている。なお、本実施形態における復号化処理は、上述した図3に示す符号化処理のS04〜S06の処理に対応している。
【0074】
復号化手段31は、上述した符号化装置11における復号化手段23と同様の機能を有し、入力されたビット列に対して復号処理を行い、その結果である復号化信号を出力する。
【0075】
電子透かし検出手段32は、上述の電子透かし検出手段24と同様の機能を有し、符号化装置11の電子透かし埋め込み手段21において埋め込まれたパラメータ(検出パラメータ)を検出する。なお、電子透かし埋め込み手段21の埋め込み方式は、電子透かし検出手段32の検出方式に対応して選択されている。これにより、電子透かし検出手段32は、復号化信号に埋め込まれたパラメータを分離して再現することができる。
【0076】
後処理手段33は、上述した符号化装置11における後処理手段25と同様の機能を有し、復号化手段31により得られる復号化信号に対し、電子透かし検出手段32により得られるパラメータを用いて後処理を行う。
【0077】
ここで、後処理手段33は、上述した符号化装置11における後処理手段25と同様に、例えば、時間領域、空間領域、又は時空間領域における線形或いは非線形の演算処理等を行うことができる。なお、線形の演算処理としては、例えば畳み込み演算等がある。後処理手段33における線形の演算処理例については、後述する。
【0078】
これにより、本実施形態では、符号化されたデータに埋め込まれたパラメータを用いて復号を行うことで、符号化による品質劣化のない出力信号を出力することができる。
【0079】
<後処理手段25及び後処理手段33における線形の演算処理例>
次に、上述した符号化装置11における後処理手段25及び復号化装置12における後処理手段33による線形の演算処理例について、具体的に説明する。
【0080】
例えば、後処理手段25及び後処理手段33が畳み込み演算による処理を行う場合には、まず畳み込みカーネルの係数を入力パラメータによって可変とする。例えば、後処理手段25及び後処理手段33の入力をx(t)とし、出力をy(t)とする。ここで、tは信号系列の標本位置を指定する変数である。
【0081】
例えば、音声信号を対象とする場合には、時刻(又はフレーム)を指定するスカラーとする。このとき、tは画像信号を対象とする場合には画素位置を指定するベクトルである。更に、映像信号を対象とする場合には、tは時刻及び画素位置を指定するベクトルである。
【0082】
例えば、畳み込みカーネルがh(t)(pは、パラメータ)としたとき、後処理手段25及び後処理手段33は、以下に示す式(4)の処理を行う。
【0083】
【数3】

或いは上記式(4)の代わりに離散畳み込みを用いて、以下に示す式(5)のように実装してもよい。
【0084】
【数4】

例えば、符号化装置1が1次元信号(例えば、音声信号)を対象とする場合には、以下の式(6)に示すb次元ベクトル(bは自然数)のパラメータに基づき、畳み込みカーネルh(t)を、以下の式(7)のように、パラメータpの成分によってタップ係数を個別に指定する構成としてもよい。
p=[P,P,P,・・・,Pb−2,Pb−1 ・・・(6)
【0085】
【数5】

なお、aは整数である。
【0086】
更に、例えば、符号化装置11がd次元信号(dは自然数)(なお、標本位置tをd次元ベクトルt=[t,t,・・・,td−1]により表現することとする)を対象とする場合には、d階のテンソルpにより、以下に示す式(8)のように、パラメータpの成分によってタップ係数を個別に指定する構成としてもよい。
【0087】
【数6】

なお、Tはカーネルの適用範囲(タップ係数を非零とするd次元の領域)である。
【0088】
上述した第1の実施形態によれば符号化装置11は、パラメータを別途伝送することなく、符号化信号の中にパラメータを埋め込んで伝送することができるため、従来型の符号化・復号の規格を逸脱せずに必要な情報を伝送することができる。また、上述した構成によれば、符号化側で復号化及び電子透かし検出を行い、検出されたパラメータによって後処理の効果を検証する仕組みを有するため、電子透かしが従来型の符号化手段によって劣化を受ける場合であっても、その劣化を含めた最適化がなされる。また、同様の理由により、例えば、電子透かしによるパラメータの伝送が非可逆であっても、符号化側で最適化されたパラメータは、符号化及び復号化側において同一性が保証され、その結果、最適性も保証される。
【0089】
また、第1の実施形態における符号化装置11は、最適化手段27がパラメータと共に電子透かしの埋め込み強度を出力し、電子透かし埋め込み手段21がそのパラメータを埋め込み強度に基づいて対象データに埋め込みを行う。これにより、符号化装置11は、電子透かしの強度を、従来型の符号化における信号劣化量を考慮して制御することができるため、従来型の符号化及び電子透かしの両者による総合的な信号劣化を軽減することができる。
【0090】
<符号化装置:第2の実施形態>
次に、本実施形態における符号化装置の第2の実施形態について、図を用いて説明する。図5は、第2の実施形態における符号化装置の機能構成の一例を示す図である。なお、図5に示す符号化装置41において、上述した第1の実施形態における符号化装置11と同様の処理を行う構成については、同一の符号を付するものとし、ここでの具体的な説明は省略する。また、図4に示す符号化装置41は、図1に示す符号化・復号化システム10における符号化装置11に置き換わるものである。
【0091】
図5に示す符号化装置41は、前処理手段42と、電子透かし埋め込み手段21と、符号化手段22と、復号化手段23と、電子透かし検出手段24と、後処理手段25と、比較手段26と、最適化手段43と、切替手段28とを有するよう構成されている。つまり、図5に示す符号化装置の第2の実施形態では、上述した第1の実施形態と比較すると、前処理手段42を有すると共に図2の最適化手段27の代わりに最適化手段43を有するよう構成されている。
【0092】
なお、本実施形態における前処理とは、符号化処理(エンコーディング)が行われる前のデータに対して行われる処理(具体的には、上述した図3のフローチャートにおけるS02とS03の処理の間で行われる処理)であり、例えば、ガウシアンフィルタを用いたスムージング(平滑化)処理や、メディアンフィルタを用いたノイズリダクション、ラプラシアンフィルタを用いたエッジ強調、またそれらを複数組み合わせた処理等を含む。なお、第2の実施形態では、電子透かし埋め込み手段21の前に前処理が行われるよう構成されているが、本発明においてはこれに限定されるものではなく、例えば電子透かし埋め込み手段21の後に前処理が行われてもよい。
【0093】
ここで、前処理手段42は、最適化手段43により制御される。この場合、前処理手段42の動作は、後処理手段25で説明した例の何れかと同様に、最適化手段により与えられたパラメータに応じて処理を行う。なお、前処理手段42と後処理手段25とは、別々の種類の処理を行ってもよいし、同様であっても構わない。
【0094】
最適化手段43は、最適化手段27における機能に加えて、前処理手段に与えるパラメータも含めて同時に最適化を行う。具体的には、最適化手段43は、埋め込みパラメータと、前処理手段42に与えるパラメータとを様々に変化させ、比較手段26による比較結果cのノルムが小さくなるよう最適な両パラメータを探索する。
【0095】
なお、最適化手段43が電子透かし埋め込み手段21に対して出力する埋め込みパラメータは、後処理手段25の動作を制御するためのパラメータのみで構わない。すなわち、最適化手段43は、前処理手段42を制御するためのパラメータを電子透かし埋め込み手段21に出力する必要はない。これは、復号化装置12側には、前処理に対応する処理は存在しておらず、符号化装置41側で前処理手段42による前処理が行われた信号に対して復号化処理が行われ、その結果から最適化がなされるからである。
【0096】
また、最適化手段43は、上述の動作に加え、上述した最適化手段27と同様に、電子透かし埋め込み手段21において埋め込む電子透かしの強度を制御してもよい。この場合、最適化手段27の場合には、例えば、埋め込みパラメータと電子透かしの強度とを様々に変化させ、比較手段26による比較結果cのノルムが小さくなるよう最適な両パラメータを探索する。
【0097】
つまり、第2の実施形態では、最適化手段43において、埋め込みパラメータと、前処理手段42に与えるパラメータと、電子透かしの強度とを様々に変化させ、比較手段26による比較結果cのノルムが小さくなるように最適な両パラメータを探索する。
【0098】
上述したように、符号化装置の第2の実施形態によれば、最適化手段43が前処理パラメータも調整することで、前処理と後処理との組み合わせによる最適化が可能となり、最適化の自由度が増えるため、信号劣化の改善が可能となる。
【0099】
なお、上述した第1の実施形態及び第2の実施形態において、符号化装置11,41に入力される入力信号が映像信号である場合には、復号化装置12側において画質の向上した映像が得られる。また、入力信号が音声信号である場合には、復号側において音質の向上した音声が得られる。
【0100】
更に、上述した符号化装置41において、最適化手段43が、符号化手段におけるGOPの自然数倍を区切りの単位として最適化を実行することで、ある特定のGOP内におけるパラメータ変更が別のGOPに影響を及ぼし難いという符号化装置の特質を活かし、系の安定性を向上することができる。また、最適化の収束性を高めたり、最適化の精度を高めることができる。
【0101】
上述したように本発明によれば、符号側からの効率的なデータ伝送により、復号側での信号品質を向上させることができる。具体的には、符号化側の電子透かし埋め込み手段における電子透かしとしての信号内データ埋め込み処理と、復号側において検出した電子透かし情報に基づく後処理とによって、信号品質向上が可能となる。また、符号化装置は、パラメータを別途伝送することなく信号の中に埋め込んで伝送することができるため、従来型の符号化・復号の規格を逸脱せずに必要な情報を伝送することができる。
【0102】
また、本発明によれば、符号化側で復号及び電子透かし検出を行い、検出されたパラメータによって後処理の効果を検証する仕組みを有するため、電子透かしが従来型符号化によって劣化を受ける場合であっても、その劣化を織り込んだ最適化がなされる。また、同様の理由により、例え電子透かしによるパラメータの伝送が非可逆であっても、符号化側で最適化されたパラメータは、符号化及び復号側において同一性が保証され、その結果、最適性も保証される。
【0103】
つまり、本発明によれば、符号化側の最適化ループ内で電子透かし情報の検出を模擬(電子透かし検出手段)する構成であるため、信号内に埋め込まれた電子透かし情報が正常に検出されない場合をも考慮した系全体としての最適化が実行され、電子透かし埋め込み及び電子透かし検出が完璧でない場合であっても信号品質向上を図ることが可能となる。
【0104】
以上本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形、変更が可能である。
【符号の説明】
【0105】
10 符号化・復号化システム
11,41 符号化装置
12 復号化装置
13 出力手段
13−1 伝送手段
13−2 蓄積手段
21 電子透かし埋め込み手段
22 符号化手段
23,31 復号化手段
24,32 電子透かし検出手段
25,33 後処理手段
26 比較手段
27,43 最適化手段
28 切替手段
31 復号化手段
42 前処理手段

【特許請求の範囲】
【請求項1】
入力信号を符号化して復号側に出力する符号化装置において、
前記復号側で復号化された信号に対して行われる後処理用のパラメータを電子透かしとして前記入力信号に埋め込む電子透かし埋め込み手段と、
前記電子透かし埋め込み手段により前記パラメータが埋め込まれた信号を符号化する符号化手段と、
前記符号化手段により得られる符号化信号を復号化する復号化手段と、
前記復号化手段により得られる復号化信号に含まれる電子透かし情報から前記パラメータを検出する電子透かし検出手段と、
前記電子透かし検出手段により得られる検出パラメータを用いて、前記復号化信号に対して後処理を行う後処理手段と、
前記後処理手段により得られる後処理後の信号と、前記入力信号とを比較する比較手段と、
前記比較手段により得られる比較結果に基づいて、前記電子透かし埋め込み手段において埋め込むべきパラメータを変更する最適化手段とを有することを特徴とする符号化装置。
【請求項2】
前記最適化手段は、前記電子透かしの埋め込み強度を出力し、
前記電子透かし埋め込み手段は、前記パラメータを前記埋め込み強度に対応させて、前記入力信号に埋め込むことを特徴とする請求項1に記載の符号化装置。
【請求項3】
前記入力信号を前記符号化手段に入力させる前に、前記入力信号の前処理を行う前処理手段を有し、
前記最適化手段は、前処理用のパラメータを前記前処理手段に出力し、
前記前処理手段は、前記最適化手段から得られる前処理用のパラメータに対応させて、前記入力信号に対する前処理を行うことを特徴とする請求項1又は2に記載の符号化装置。
【請求項4】
前記最適化手段は、
前記入力信号がMPEGフォーマットの映像信号である場合に、前記符号化手段におけるGOPの自然数倍を区切りの単位として最適化を行うことを特徴とする請求項1乃至3の何れか1項に記載の符号化装置。
【請求項5】
請求項1乃至4の何れか1項に記載の符号化装置から得られる符号化信号を復号化する復号化装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2012−142769(P2012−142769A)
【公開日】平成24年7月26日(2012.7.26)
【国際特許分類】
【出願番号】特願2010−293818(P2010−293818)
【出願日】平成22年12月28日(2010.12.28)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】