オーディオ信号の処理方法及び装置
少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信し、前記オブジェクト情報及び前記エンハンストオブジェクト情報を用いて、前記ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを含むオーディオ信号処理方法が開示される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、オーディオ信号の処理方法及び装置に関し、より詳細には、デジタル媒体、放送信号などで受信されたオーディオ信号を処理することができるオーディオ信号の処理方法及び装置に関する。
【背景技術】
【0002】
一般的に、多数個のオブジェクトをモノ又はステレオ信号にダウンミックスする過程において、それぞれのオブジェクト信号から各パラメータが抽出される。このような各パラメータはデコーダで使用されるが、それぞれのオブジェクトのパニングや利得は、ユーザの選択によってコントロールされる。
【発明の概要】
【発明が解決しようとする課題】
【0003】
それぞれのオブジェクト信号を制御するためには、ダウンミックスに含まれている各ソースが適切にポジショニング又はパニングされなければならない。
【0004】
また、チャネルベースのデコーディング方式で下位互換性を有するためには、オブジェクトパラメータは、アップミキシングのためのマルチチャネルパラメータに柔軟に変換されなければならない。
【0005】
本発明は、上述のような問題点を解決するためになされたもので、オブジェクトの利得及びパニングを制限なしにコントロールすることができるオーディオ信号処理方法及び装置を提供することを目的とする。
【0006】
本発明の他の目的は、ユーザの選択を基盤にしてオブジェクトの利得及びパニングをコントロールすることができるオーディオ信号処理方法及び装置を提供することにある。
【0007】
本発明の更に他の目的は、ボーカルや背景音楽の利得を大幅に調節する場合にも、音質の歪みを発生させないオーディオ信号処理方法及び装置を提供することにある。
【課題を解決するための手段】
【0008】
上述のような目的を達成するために、本発明に係るオーディオ信号処理方法は、少なくとも2つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、第1のエンハンストオブジェクト情報を用いてダウンミックスを第1の独立オブジェクトと臨時バックグラウンドオブジェクトに分離し、第2のエンハンストオブジェクト情報を用いて臨時バックグラウンドオブジェクトから第2の独立オブジェクトを抽出することを含む。
【0009】
本発明によれば、独立オブジェクトは、オブジェクトベース信号であり、バックグラウンドオブジェクトは、少なくとも1つのチャネルベース信号を含むか、少なくとも1つのチャネルベース信号がダウンミックスされた信号である。
【0010】
本発明によれば、バックグラウンドオブジェクトは、左側のチャネル信号及び右側のチャネル信号を含むことができる。
【0011】
本発明によれば、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報はレジデュアル信号である。
【0012】
本発明によれば、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報は、付加情報ビットストリームに含まれており、付加情報ビットストリームに含まれているエンハンストオブジェクト情報の数と、ダウンミックス情報に含まれている独立オブジェクトの数とは同一である。
【0013】
本発明によれば、分離することは、N個の入力を用いて(N+1)個の出力を生成するモジュールによって行われる。
【0014】
本発明によれば、オブジェクト情報及びミックス情報を受信し、オブジェクト情報及びミックス情報を用いて、第1の独立オブジェクト及び第2の独立オブジェクトの利得を調整するためのマルチチャネル情報を生成することをさらに含むことができる。
【0015】
本発明によれば、ミックス情報は、オブジェクト位置情報、オブジェクト利得情報及び再生環境情報のうち少なくとも1つに基づいて生成されたものである。
【0016】
本発明によれば、上記抽出することは、第2の臨時バックグラウンドオブジェクト及び第2の独立オブジェクトを抽出することに相当し、第2のエンハンストオブジェクト情報を用いて第2の臨時バックグラウンドオブジェクトから第3の独立オブジェクトを抽出することをさらに含むことができる。
【0017】
本発明の他の側面によれば、少なくとも2つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、第1のエンハンストオブジェクト情報を用いて前記ダウンミックスを第1の独立オブジェクトと臨時バックグラウンドオブジェクトに分離し、第2のエンハンストオブジェクト情報を用いて臨時バックグラウンドオブジェクトから第2の独立オブジェクトを抽出することを実行するためのプログラムが保存されたコンピュータ読取可能記録媒体が提供される。
【0018】
本発明の更に他の側面によれば、少なくとも2つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信する情報受信部と、第1のエンハンストオブジェクト情報を用いてダウンミックスを臨時バックグラウンドオブジェクトと第1の独立オブジェクトに分離する第1のエンハンストオブジェクト情報デコーディング部と、第2のエンハンストオブジェクト情報を用いて臨時バックグラウンドオブジェクトから第2の独立オブジェクトを抽出する第2のエンハンストオブジェクト情報デコーディング部とを含むオーディオ信号処理装置が提供される。
【0019】
本発明の更に他の側面によれば、第1の独立オブジェクト及びバックグラウンドオブジェクトを用いて臨時バックグラウンドオブジェクト及び第1のエンハンストオブジェクト情報を生成し、第2の独立オブジェクト及び臨時バックグラウンドオブジェクトを用いて第2のエンハンストオブジェクト情報を生成し、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報を伝送することを含むオーディオ信号処理方法が提供される。
【0020】
本発明の更に他の側面によれば、第1の独立オブジェクト及びバックグラウンドオブジェクトを用いて臨時バックグラウンドオブジェクト及び第1のエンハンストオブジェクト情報を生成する第1エンハンストオブジェクト情報生成部と、第2の独立オブジェクト及び臨時バックグラウンドオブジェクトを用いて第2のエンハンストオブジェクト情報を生成する第2エンハンストオブジェクト情報生成部と、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報を伝送するためのマルチプレクサとを含むオーディオ信号処理装置が提供される。
【0021】
本発明の更に他の側面によれば、独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、独立オブジェクトをコントロールするための第1のマルチチャネル情報を生成し、ダウンミックス情報及び第1のマルチチャネル情報を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報を生成することを含む方法が提供される。
【0022】
本発明によれば、上記第2のマルチチャネル情報を生成することは、第1のマルチチャネル情報が適用された信号をダウンミックス情報から差し引くことを含むことができる。
【0023】
本発明によれば、上記差し引くことは、時間ドメイン又は周波数ドメイン上で行われる。
【0024】
本発明によれば、上記差し引くことは、ダウンミックス情報のチャネル数と、第1のマルチチャネル情報が適用された信号のチャネル数とが同一である場合、チャネル別に行われる。
【0025】
本発明によれば、該方法は、第1のマルチチャネル情報及び第2のマルチチャネル情報を用いて、ダウンミックス情報から出力チャネルを生成することをさらに含むことができる。
【0026】
本発明によれば、該方法は、エンハンストオブジェクト情報を受信し、エンハンストオブジェクト情報を用いて、ダウンミックス情報から独立オブジェクトとバックグラウンドオブジェクトを分離することをさらに含むことができる。
【0027】
本発明によれば、該方法は、ミックス情報を受信することをさらに含み、第1のマルチチャネル情報を生成し、第2のマルチチャネル情報を生成することは、ミックス情報に基づいて行われる。
【0028】
本発明によれば、ミックス情報は、オブジェクト位置情報、オブジェクト利得情報及び再生環境情報のうち少なくとも1つに基づいて生成されたものである。
【0029】
本発明によれば、ダウンミックス情報は、放送信号を介して受信されてもよい。
【0030】
本発明によれば、ダウンミックス情報は、デジタル媒体を介して受信されてもよい。
【0031】
本発明の更に他の側面によれば、独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、独立オブジェクトをコントロールするための第1のマルチチャネル情報を生成し、ダウンミックス情報及び前記第1のマルチチャネル情報を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報を生成することを実行するためのプログラムが保存されたコンピュータ読取可能記録媒体が提供される。
【0032】
本発明の更に他の側面によれば、独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信する情報受信部と、独立オブジェクトをコントロールするための第1のマルチチャネル情報を生成し、ダウンミックス情報及び第1のマルチチャネル情報を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報を生成するマルチチャネル生成部とを含むことを特徴とするオーディオ信号装置が提供される。
【0033】
本発明の更に他の側面によれば、少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を用いて、ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを含むオーディオ信号処理方法が提供される。
【0034】
本発明によれば、オブジェクト情報は、独立オブジェクト及びバックグラウンドオブジェクトに関連する情報に相当してもよい。
【0035】
本発明によれば、オブジェクト情報は、独立オブジェクトとバックグラウンドオブジェクトとの間のレベル情報及び相関情報のうち少なくとも1つを含むものである。
【0036】
本発明によれば、エンハンストオブジェクト情報は、レジデュアル信号を含むことができる。
【0037】
本発明によれば、レジデュアル信号は、少なくとも1つのオブジェクトベース信号をエンハンストオブジェクトにグルーピングする過程で抽出されたものである。
【0038】
本発明によれば、独立オブジェクトは、オブジェクトベース信号であり、バックグラウンドオブジェクトは、少なくとも1つのチャネルベース信号を含むか、少なくとも1つのチャネルベース信号がダウンミックスされた信号である。
【0039】
本発明によれば、バックグラウンドオブジェクトは、左側のチャネル信号及び右側のチャネル信号を含むことができる。
【0040】
本発明によれば、ダウンミックス情報は、放送信号を介して受信されてもよい。
【0041】
本発明によれば、ダウンミックス情報は、デジタル媒体を介して受信されてもよい。
【0042】
本発明の更に他の側面によれば、少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を用いて、ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを実行するためのプログラムが保存されたコンピュータ読取可能記録媒体が提供される。
【0043】
本発明の更に他の側面によれば、少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信する情報受信部と、オブジェクト情報及びエンハンストオブジェクト情報を用いて、ダウンミックスから少なくとも1つの独立オブジェクトを抽出する情報生成ユニットとを含むオーディオ信号処理装置が提供される。
【発明の効果】
【0044】
本発明は、次のような効果及び利点を提供する。
【0045】
第1に、オブジェクトの利得及びパニングを制限なしにコントロールすることができる。
【0046】
第2に、ユーザの選択に基いてオブジェクトの利得及びパニングをコントロールすることができる。
【0047】
第3に、ボーカルや背景音楽のうち1つを完全に抑圧する場合にも、利得調整による音質の歪みを防止することができる。
【0048】
第4に、ボーカルなどのような独立オブジェクトが少なくとも2つである場合(ステレオチャネル又は多数個のボーカル信号)、利得調整による音質の歪みを防止することができる。
【図面の簡単な説明】
【0049】
【図1】本発明の実施例に係るオーディオ信号処理装置の構成図である。
【図2】本発明の実施例に係るオーディオ信号処理装置のうちエンハンストオブジェクトエンコーダの細部構成図である。
【図3】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第1の例を示した図である。
【図4】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第2の例を示した図である。
【図5】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第3の例を示した図である。
【図6】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第4の例を示した図である。
【図7】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第5の例を示した図である。
【図8】付加情報ビットストリームの多様な例を示した図である。
【図9】本発明の実施例に係るオーディオ信号処理装置のうち情報生成ユニットの細部構成図である。
【図10】エンハンストオブジェクト情報デコーディング部の細部構成の一例を示した図である。
【図11】オブジェクト情報デコーディング部の細部構成の一例を示した図である。
【発明を実施するための形態】
【0050】
以下、添付された図面を参照して本発明の好適な実施例を詳細に説明する。本発明の実施例を説明する前に、本明細書及び特許請求の範囲で使用された用語や単語は、通常的又は辞典的な意味に限定して解釈してはならなく、発明者が自身の発明を最も最善の方法で説明するために用語の概念を適切に定義することができるとの原則に立脚して、本発明の技術的思想に符合する意味及び概念で解釈しなければならない。したがって、本明細書に記載された実施例及び図面に示した構成は、本発明の最も好適な一実施例に過ぎないもので、本発明の技術的思想を全て代弁するものではないので、本出願時点において、これらに取って代わる多様な均等物及び変形例が存在しうることを理解しなければならない。
【0051】
特に、本明細書で、情報は、値、パラメータ、係数、成分などを総称する用語で、場合によって異なる意味に解釈されることもあるが、本発明がこれに限定されることはない。
【0052】
特に、オブジェクトは、オブジェクトベース信号及びチャネルベース信号を含む概念であるが、場合によってオブジェクトベース信号のみを称することができる。
【0053】
図1は、本発明の実施例に係るオーディオ信号処理装置の構成を示す図である。図1を参照すれば、まず、本発明の実施例に係るオーディオ信号処理装置は、エンコーダ100及びデコーダ200を含むが、エンコーダ100は、オブジェクトエンコーダ110、エンハンストオブジェクトエンコーダ120及びマルチプレクサ130を含み、デコーダ200は、デマルチプレクサ210、情報生成ユニット220、ダウンミックス処理ユニット230及びマルチチャネルデコーダ240を含む。ここで、各構成要素に対して概略に説明した後、エンコーダ100のエンハンストオブジェクトエンコーダ120及びデコーダ200の情報生成ユニット220については、図2〜図11を参照して具体的に説明することにする。
【0054】
まず、オブジェクトエンコーダ110は、少なくとも1つのオブジェクト(objN)を用いてオブジェクト情報(OP:object parameter)を生成するが、ここで、オブジェクト情報(OP)は、オブジェクトベース信号に関する情報で、オブジェクトレベル情報、オブジェクト相関情報などを含むことができる。一方、オブジェクトエンコーダ110は、少なくとも1つのオブジェクトをグルーピングしてダウンミックスを生成することができる。これは、図2を参照して説明されるエンハンストオブジェクト生成部122で少なくとも1つのオブジェクトをグルーピングしてエンハンストオブジェクトを生成する過程と同一であるが、本発明がこれに限定されることはない。
【0055】
エンハンストオブジェクトエンコーダ120は、少なくとも1つのオブジェクト(objN)を用いてエンハンストオブジェクト情報(OP)及びダウンミックス(DMX)(LL、RL)を生成する。具体的に、少なくとも1つのオブジェクトベース信号をグルーピングしてエンハンストオブジェクト(EO)を生成し、チャネルベース信号及びエンハンストオブジェクト(EO)を用いてエンハンストオブジェクト情報(EOP:enhanced object parameter)を生成する。まず、エンハンストオブジェクト情報(EOP)は、エンハンストオブジェクトのエネルギー情報(レベル情報を含む)、レジデュアル信号などであるが、これに対しては図2を参照して説明することにする。一方、ここで、チャネルベース信号は、オブジェクト別に制御不可能な背景信号であるので、バックグラウンドオブジェクトと称し、エンハンストオブジェクトは、デコーダ200で独立的にオブジェクト別に制御可能であるので、独立オブジェクトと称することができる。
【0056】
マルチプレクサ130は、オブジェクトエンコーダ110で生成されたオブジェクト情報(OP)、及びエンハンストオブジェクトエンコーダ120で生成されたエンハンストオブジェクト情報(EOP)をマルチプレキシングし、付加情報ビットストリームを生成する。一方、付加情報ビットストリームは、前記チャネルベース信号に対する空間情報(SP:spatial information)(図示せず)を含むことができる。空間情報は、チャネルベース信号をデコーディングするために必要な情報で、チャネルレベル情報及びチャネル相関情報などを含むが、本発明がこれに限定されることはない。
【0057】
デコーダ200のデマルチプレクサ210は、付加情報ビットストリームからオブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)を抽出する。付加情報ビットストリームに空間情報(SP)が含まれる場合、空間情報(SP)をさらに抽出する。
【0058】
情報生成ユニット220は、オブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)を用いてマルチチャネル情報(MI:Multi―channel information)及びダウンミックス処理情報(DPI:downmix processing information)を生成する。マルチチャネル情報(MI)及びダウンミックス処理情報(DPI)を生成するにおいて、ダウンミックス情報(DMX)を用いることができるが、これに対しては図8を参照して説明することにする。
【0059】
ダウンミックス処理ユニット230は、ダウンミックス処理情報(DPI)を用いてダウンミックス(DMX)を処理する。例えば、オブジェクトの利得又はパニングを調節するためにダウンミックス(DMX)を処理することができる。
【0060】
マルチチャネルデコーダ240は、処理されたダウンミックスを受信し、マルチチャネル情報(MI)を用いて処理されたダウンミックス信号をアップミキシングし、マルチチャネル信号を生成する。
【0061】
以下では、図2〜図6を参照しながら、エンコーダ100のエンハンストオブジェクトエンコーダ120の細部構成の多様な実施例について説明し、図8を参照しながら、付加情報ビットストリームに対する多様な実施例について説明し、図9〜図11を参照しながら、デコーダ200の情報生成ユニット220の細部構成について説明する。
【0062】
図2は、本発明の実施例に係るオーディオ信号処理装置のうちエンハンストオブジェクトエンコーダの細部構成を示す図である。図2を参照すれば、エンハンストオブジェクトエンコーダ120は、エンハンストオブジェクト生成部122、エンハンストオブジェクト情報生成部124及びマルチプレクサ126を含む。
【0063】
エンハンストオブジェクト生成部122は、少なくとも1つのオブジェクト(objN)をグルーピングし、少なくとも1つのエンハンストオブジェクト(EOL)を生成する。ここで、エンハンストオブジェクト(EOL)は、高品質の制御のためにグルーピングされるものである。例えば、前記バックグラウンドオブジェクトに対してエンハンストオブジェクト(EOL)が独立的に完全に抑圧(または、反対の場合、すなわち、エンハンストオブジェクト(EOL)のみが再生され、バックグラウンドオブジェクトが完全に抑圧)されるようにするものである。ここで、グルーピング対象になるオブジェクト(objN)は、チャネルベース信号でないオブジェクトベース信号である。エンハンストオブジェクト(EO)は多様な方法で生成することができる。すなわち、1)少なくとも1つのオブジェクトを一つのエンハンストオブジェクトとして活用することができ(EO1=obj1)、2)二つ以上のオブジェクトを加えてエンハンストオブジェクトを構成することができ(EO2=obj1+obj2)、3)ダウンミックスから特定のオブジェクトのみを除外した信号をエンハンストオブジェクトとして活用したり(EO3=D−obj2)、少なくとも2つのオブジェクトを除外した信号をエンハンストオブジェクトとして活用することができる(EO4=D−obj1−obj2)。上記3)及び4)で言及されたダウンミックス(D)は、上述したダウンミックス(DMX)(LL、RL)とは異なる概念で、オブジェクトベース信号のみがダウンミックスされた信号を称することができる。このように説明された四つの方法のうち少なくとも1つを適用し、エンハンストオブジェクト(EO)を生成することができる。
【0064】
エンハンストオブジェクト情報生成部124は、エンハンストオブジェクト(EO)を用いてエンハンストオブジェクト情報(EOP)を生成する。ここで、エンハンストオブジェクト情報(EOP)は、エンハンストオブジェクト(EO)に関連する情報で、a)まず、エンハンストオブジェクト(EO)のエネルギー情報(レベル情報を含む)、b)エンハンストオブジェクト(EO)とダウンミックス(D)との間の関係(例えば、ミキシング利得)、c)高い時間解像度又は高い周波数解像度によるエンハンストオブジェクトレベル情報又はエンハンストオブジェクト相関情報、d)エンハンストオブジェクト(EO)に対する時間領域での予測情報又は包絡線情報、e)レジデュアル信号のようにエンハンストオブジェクトに対する時間領域又はスペクトル領域の情報を符号化したビットストリームなどである。
【0065】
一方、エンハンストオブジェクト情報(EOP)は、上述した例でエンハンストオブジェクト(EO)が第1の例及び第3の例で生成された場合(EO1=obj1、EO3=D−obj2)、エンハンストオブジェクト情報(EOP)は、第1の例及び第3の例のエンハンストオブジェクト(EO1及びEO3)に対するエンハンストオブジェクト情報(EOP1、EOP3)を生成することができる。このとき、第1の例によるエンハンストオブジェクト情報(EOP1)は、第1の例によるエンハンストオブジェクト(EO1)を制御するために必要な情報に該当し、第3の例によるエンハンストオブジェクト情報(EOP3)は、特定のオブジェクト(obj2)のみを抑圧する場合を表現するために活用される。
【0066】
エンハンストオブジェクト情報生成部124は、少なくとも1つのエンハンストオブジェクト情報生成部124―1,・・・,124―Lを含むことができる。具体的に、一つのエンハンストオブジェクト(EO1)に対するエンハンストオブジェクト情報(EOP1)を生成する第1エンハンストオブジェクト情報生成部124―1を含むことができ、少なくとも2つのエンハンストオブジェクト(EO1、EO2)に対するエンハンストオブジェクト情報(EOP2)を生成する第2エンハンストオブジェクト情報生成部124―2を含むことができる。一方、エンハンストオブジェクト(EOL)のみならず、第2エンハンストオブジェクト情報生成部124―2の出力を用いて、第Lエンハンストオブジェクト情報生成部124―Lが含まれることもある。前記エンハンストオブジェクト情報生成部124―1,・・・,124―Lは、それぞれN+1個の入力を用いてN個の出力を生成するモジュールによって動作するもので、例えば、3個の入力を用いて2個の出力を生成するモジュールによって動作することができる。以下、エンハンストオブジェクト情報生成部124―1,・・・,124―Lに対する多様な実施例は、図3〜図7を参照して説明する。一方、エンハンストオブジェクト情報生成部124は、ダブルエンハンストオブジェクト(EEOP)をさらに生成することができるが、これは、図7を参照して詳細に説明することにする。
【0067】
マルチプレクサ126は、エンハンストオブジェクト情報生成部124で生成された少なくとも1つのエンハンストオブジェクト情報(EOP1,・・・,EOPL)(及びダブルエンハンストオブジェクト(EEOP))をマルチプレキシングする。
【0068】
図3〜図7は、エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第1の例〜第5の例を示した図である。図3は、エンハンストオブジェクト情報生成部が一つの第1のエンハンストオブジェクト情報生成部を含む例を示し、図4〜図6は、少なくとも2つのエンハンスト情報生成部(第1エンハンストオブジェクト情報生成部〜第Lエンハンストオブジェクト情報生成部)が直列的に含まれている例を示す。一方、図7は、ダブルエンハンストオブジェクト情報(EEOP:enhanced enhanced object parameter)を生成する第1のダブルエンハンストオブジェクト情報生成部をさらに含む例を示す。
【0069】
まず、図3を参照すれば、エンハンストオブジェクト生成部122Aは、チャネルベース信号として、左側のチャネル信号(L)及び右側チャネル信号(R)をそれぞれ受信し、オブジェクトベース信号として、各ステレオボーカル信号(Vocal1L、Vocal1R、Vocal2L、Vocal2R)をそれぞれ受信し、一つのエンハンストオブジェクト(Vocal)を生成する。まず、チャネルベース信号(L、R)は、多チャネル信号(例えば、L、R、LS、RS、C、LFE)がダウンミックスされた信号であるが、この過程で抽出された空間情報は、上述したように付加情報ビットストリームに含まれる。
【0070】
一方、オブジェクトベース信号としての各ステレオボーカル信号(Vocal1L、Vocal1R、Vocal2L、Vocal2R)は、歌手1の音声(Vocal1)に該当する左側のチャネル信号(Vocal1L)及び右側のチャネル信号(Vocal1R)と、歌手2の音声(Vocal2)に該当する左側のチャネル信号(Vocal2L)及び右側のチャネル信号(Vocal2R)を含むことができる。一方、ここでは、ステレオオブジェクト信号について示したが、マルチチャネルオブジェクト信号(Vocal1L、Vocal1R、Vocal1Ls、Vocal1Rs、Vocal1C、Vocal1LFE)を受信し、一つのエンハンストオブジェクト(Vocal)にグルーピングされることも可能である。
【0071】
このように1つのエンハンストオブジェクト(Vocal)が生成されたので、エンハンストオブジェクト情報生成部124Aは、これに対応する一つの第1エンハンストオブジェクト情報生成部124―1のみを含む。第1エンハンストオブジェクト情報生成部124A―1は、エンハンストオブジェクト(Vocal)及びチャネルベース信号(L、R)を用いてエンハンストオブジェクト情報(EOP1)として第1のレジデュアル信号(res1)及び臨時バックグラウンドオブジェクト(L1、R1)を生成する。臨時バックグラウンドオブジェクト(L1、R1)は、チャネルベース信号、すなわち、バックグラウンドオブジェクト(L、R)にエンハンストオブジェクト(Vocal)が加えられた信号で、1つのエンハンストオブジェクト情報生成部のみが存在する第3の例では、この臨時バックグラウンドオブジェクト(L1、R1)が最終的なダウンミックス信号(LL、RL)になる。
【0072】
図4を参照すれば、図3に示した第1の例と同様に、各ステレオボーカル信号(Vocal1L、Vocal1R、Vocal2L、Vocal2R)が受信される。ただし、図4に示した第2の例では、一つのエンハンストオブジェクトにグルーピングされずに、二つのエンハンストオブジェクト(Vocal1、Vocal2)にグルーピングされるという点で差がある。このように二つのエンハンストオブジェクトが存在するので、エンハンストオブジェクト生成部124Bは、第1のエンハンストオブジェクト生成部124B―1及び第2のエンハンストオブジェクト生成部124B―2を含む。
【0073】
第1のエンハンストオブジェクト生成部124B―1は、バックグラウンド信号(チャネルベース信号(L、R))及び第1のエンハンストオブジェクト信号(Vocal1)を用いて第1のエンハンストオブジェクト情報(res1)及び臨時バックグラウンドオブジェクト(L1、R1)を生成する。
【0074】
第2のエンハンストオブジェクト生成部124B―2は、第2のエンハンストオブジェクト信号(Vocal2)のみならず、第1の臨時バックグラウンドオブジェクト(L1、R1)も用いて、第2のエンハンストオブジェクト情報(res2)及び最終ダウンミックス(LL、RL)としてバックグラウンドオブジェクト(L2、R2)を生成する。図4に示した第2の例の場合にも、エンハンストオブジェクト(EO)とエンハンストオブジェクト情報(EOP:res)の数が全て2個であることが分かる。
【0075】
図5を参照すれば、図4に示した第2の例と同様に、エンハンストオブジェクト情報生成部124Cは、第1エンハンストオブジェクト情報生成部124C―1及び第2エンハンストオブジェクト情報生成部124C―2を含む。ただし、エンハンストオブジェクト(Vocal1L、Vocal1R)は、2つのオブジェクトベース信号がグルーピングされたものでなく、一つのオブジェクトベース信号(Vocal1L、Vocal1R)で構成される点で差異点が存在する。第3の例の場合にも、エンハンストオブジェクト(EO)の個数(L)とエンハンストオブジェクト情報(EOP)の個数(L)とが同一であることが分かる。
【0076】
図6を参照すれば、図4に示した第2の例と類似しているが、エンハンストオブジェクト生成部122で総L個のエンハンストオブジェクト(Vocal1,・・・,VocalL)が生成されるという点で差がある。また、エンハンストオブジェクト情報生成部124Dは、第1エンハンストオブジェクト情報生成部124D―1及び第2エンハンストオブジェクト情報生成部124D―2のみならず、第Lエンハンストオブジェクト情報生成部124D―Lまで備えるという点で差異点が存在する。第Lエンハンストオブジェクト情報生成部124―Lは、第2エンハンストオブジェクト情報生成部124―2で生成された第2の臨時バックグラウンドオブジェクト(L2、R2)及び第Lのエンハンストオブジェクト(VocalL)を用いて第Lのエンハンストオブジェクト情報(EOPL、resL)及びダウンミックス情報(LL、RL)(DMX)を生成する。
【0077】
図7を参照すれば、図6に示した第4の例で、第1のダブルエンハンストオブジェクト情報生成部124EE―1をさらに備える。ダウンミックス(DMX:LL、RL)からエンハンストオブジェクト(EOL)を差し引いた信号(DDMX)は、次のように定義することができる。
【0078】
【数1】
【0079】
ダブルエンハンスト情報(EEOP)は、ダウンミックス(DMX:LL、RL)とエンハンストオブジェクト(EOL)との間の情報でなく、式1によって定義された信号(DDMX)及びエンハンストオブジェクト(EOL)に関する情報である。ダウンミックス(DMX)からエンハンストオブジェクト(EOL)を差し引く場合、エンハンストオブジェクトと関連して量子化雑音が発生しうる。このような量子化雑音をオブジェクト情報(OP)を用いて相殺させることによって、音質を改善させることができる(これについては、図9〜図11を参照して説明することにする。)。この場合、エンハンストオブジェクト(EO)が含まれたダウンミックス(DMX)に対して量子化雑音をコントロールするが、実際的には、エンハンストオブジェクト(EO)が除去されたダウンミックスに存在する量子化雑音をコントロールすることである。したがって、より精密に量子化雑音を除去するためには、エンハンストオブジェクト(EO)が除去されたダウンミックスに対して量子化雑音を除去するための情報が必要である。上記のように定義されたダブルエンハンスト情報(EEOP)を用いることができる。このとき、ダブルエンハンスト情報(EEOP)は、オブジェクト情報(OP)の生成方式と同一の方式によって生成される。
【0080】
本発明の実施例に係るオーディオ信号処理装置のうちエンコーダ100は、上述したような構成要素を備えることによって、ダウンミックス(DMX)及び付加情報ビットストリームを生成する。
【0081】
図8は、付加情報ビットストリームの多様な例を示した図である。まず、図8の(a)〜(b)を参照すれば、付加情報ビットストリームは、図8の(a)のように、オブジェクトエンコーダ110などによって生成されたオブジェクト情報(OP)のみを含むことができ、図8の(b)のように、オブジェクト情報(OP)のみならず、エンハンストオブジェクトエンコーダ120によって生成されたエンハンストオブジェクト情報(EOP)まで含むことができる。一方、付加情報ビットストリームは、図8の(c)を参照すれば、オブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)のみならず、ダブルエンハンストオブジェクト情報(EEOP)をさらに含んでいる。一般的なオブジェクトデコーダでは、オブジェクト情報(OP)のみを用いてオーディオ信号をデコーディングすることができるので、このようなデコーダで図8の(b)又は(c)に示したビットストリームを受信する場合、エンハンストオブジェクト情報(EOP)及び/又はダブルエンハンストオブジェクト情報(EEOP)を除去し、オブジェクト情報(OP)のみを抽出してデコーディングに用いることができる。
【0082】
図8の(d)を参照すれば、エンハンストオブジェクト情報(EOP1,・・・,EOPL)がビットストリームに含まれている。上述したように、エンハンストオブジェクト情報(EOP)は多様な方式で生成される。第1のエンハンストオブジェクト情報(EOP1)〜第2のエンハンストオブジェクト(EOP2)が第1の方式で生成され、第3のエンハンストオブジェクト情報(EOP3)〜第5のエンハンストオブジェクト情報(EOP5)が第2の方式で生成された場合、各生成方法を表す識別子(F1、F2)をビットストリームに含ませることができる。図8の(d)に示すように、生成方法を表す識別子(F1、F2)を、同一の方式で生成されたエンハンストオブジェクト情報の前のみに1回挿入することもできるが、各エンハンストオブジェクト情報の前に全て挿入することもできる。
【0083】
本発明の実施例に係るオーディオ信号処理装置のうちデコーダ200は、上記のように生成された付加情報ビットストリーム及びダウンミックスを受信してデコーディングすることができる。
【0084】
図9は、本発明の実施例に係るオーディオ信号処理装置のうち情報生成ユニットの細部構成を示す図である。情報生成ユニット220は、オブジェクト情報デコーディング部222、エンハンストオブジェクト情報デコーディング部224及びマルチチャネル情報生成部226を含む。一方、デマルチプレクサ210からバックグラウンドオブジェクトをコントロールするための空間情報(SP)が受信された場合、この空間情報(SP)は、エンハンストオブジェクト情報デコーディング部224及びオブジェクト情報デコーディング部222で使用されずに、直ちにマルチチャネル情報生成部226に伝達される。
【0085】
まず、エンハンストオブジェクト情報デコーディング部224は、デマルチプレクサ210から受信したオブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)を用いてエンハンストオブジェクト(EO)を抽出し、バックグラウンドオブジェクト(L、R)を出力する。エンハンストオブジェクト情報デコーディング部224の細部構成の一例は、図10に示されている。
【0086】
図10を参照すれば、エンハンストオブジェクト情報デコーディング部224は、第1のエンハンストオブジェクト情報デコーディング部224―1〜第Lのエンハンストオブジェクト情報デコーディング部224―Lを含む。第1のエンハンストオブジェクトデコーディング部224―1は、第1のエンハンストオブジェクト情報(EOPL)を用いて、ダウンミックス(MXI)を第1のエンハンストオブジェクト(EOL)(第1の独立オブジェクト)と第1の臨時バックグラウンドオブジェクト(LL―1、RL―1)に分離するためのバックグラウンドパラメータ(BP:Backgound Parameter)を生成する。ここで、第1のエンハンストオブジェクトは、センターチャネルに該当し、第1の臨時バックグラウンドオブジェクトは、左側のチャネル及び右側のチャネルに該当する。
【0087】
これと同様に、第Lのエンハンストオブジェクト情報デコーディング部224―Lは、第Lのエンハンストオブジェクト情報(EOP1)を用いて、第L―1の臨時バックグラウンドオブジェクト(L1、R1)を第Lのエンハンストオブジェクト(EO1)とバックグラウンドオブジェクト(L、R)に分離するためのバックグラウンドパラメータ(BP)を生成する。
【0088】
一方、第1のエンハンストオブジェクト情報デコーディング部224―1〜第Lのエンハンストオブジェクト情報デコーディング部224―Lは、N入力を用いてN+1出力を生成(例えば、2入力を用いて3出力を生成)するモジュールによって具現される。
【0089】
一方、エンハンストオブジェクト情報デコーディング部224が前記のようなバックグラウンドパラメータ(BP)を生成するためには、エンハンストオブジェクト情報(EOP)のみならず、オブジェクト情報(OP)まで用いることができる。以下では、オブジェクト情報(OP)を用いる目的及び利点について説明する。
【0090】
本発明では、エンハンストオブジェクト(EO)をダウンミックス(DMX)から除去することが目的であるが、ダウンミックス(DMX)の符号化方法及びエンハンストオブジェクト情報(EOP)の符号化方法によって量子化雑音が出力に含まれる。この場合、量子化雑音は元の信号と関連しているので、エンハンストオブジェクトにグルーピングされる前のオブジェクトに関する情報であるオブジェクト情報(OP)を用いて追加的に音質を改善することが可能である。例えば、1番目のオブジェクトがボーカルオブジェクトである場合、第1のオブジェクト情報(OP1)はボーカルの時間、周波数、空間に関する情報を含む。ダウンミックス(DMX)からボーカルを差し引いた出力は、次の式に示す通りであるが、ボーカルを差し引いた出力に対して第1のオブジェクト情報(OP1)を用いてボーカルを抑圧する場合、ボーカルが存在していた区間に残余する量子化雑音を追加的に抑圧する機能を行うようになる。
【0091】
【数2】
【0092】
(ここで、DMXは、入力ダウンミックス信号を表し、EO1’は、コーデックでエンコーディング/デコーディングされた第1のエンハンストオブジェクトを表す。)
【0093】
したがって、特定のオブジェクトに対してエンハンストオブジェクト情報(EOP)及びオブジェクト情報(OP)を適用することによって、追加的に性能を改善することができ、このようなエンハンストオブジェクト情報(EOP)及びオブジェクト情報(OP)の適用は順次的又は同時的なものである。一方、オブジェクト情報(OP)は、エンハンストオブジェクト(独立オブジェクト)及び前記バックグラウンドオブジェクトに関連する情報に相当するものである。
【0094】
再び図9を参照すれば、オブジェクト情報デコーディング部222は、デマルチプレクサ210から受信したオブジェクト情報(OP)及びエンハンストオブジェクト情報デコーディング部224から受信したエンハンストオブジェクト(EO)に関するオブジェクト情報(OP)をデコーディングする。オブジェクト情報デコーディング部222の細部構成の一例は、図11に示されている。
【0095】
図11を参照すれば、オブジェクト情報デコーディング部222は、第1オブジェクト情報デコーディング部222―1〜第Lオブジェクト情報デコーディング部222―Lを含む。第1オブジェクト情報デコーディング部222―1は、少なくとも1つのオブジェクト情報(OPN)を用いて第1のエンハンストオブジェクト(EO1)を少なくとも1つのオブジェクト(例えば、Vocal1、Vocal2)に分離するための独立パラメータ(IP:Independent Parameter)を生成する。これと同様に、第Lオブジェクト情報デコーディング部222―Lは、少なくとも1つのオブジェクト情報(OPN)を用いて第Lのエンハンストオブジェクト(EOL)を少なくとも1つのオブジェクト(例えば、Vocal4)に分離するための独立パラメータ(IP)を生成する。このように、オブジェクト情報(OP)を用いてエンハンストオブジェクト(EO)にグルーピングされていたそれぞれのオブジェクトを個別に制御することができる。
【0096】
再び図9を参照すれば、マルチチャネル情報生成部226は、使用者インターフェースなどを介してミックス情報(MXI:mix information)を受信し、デジタル媒体、放送媒体などを介してダウンミックス(DMX)を受信する。そして、受信されたミックス情報(MXI)及びダウンミックス(DMX)を用いてバックグラウンドオブジェクト(L、R)及び/又はエンハンストオブジェクト(EO)をレンダリングするためのマルチチャネル情報(MI)を生成する。
【0097】
ここで、ミックス情報(MXI)は、オブジェクト位置情報、オブジェクト利得情報及び再生環境情報などに基づいて生成された情報であり、オブジェクト位置情報は、使用者が各オブジェクトの位置又はパニングを制御するために入力した情報で、オブジェクト利得情報は、使用者が各オブジェクトの利得を制御するために入力した情報である。再生環境情報は、スピーカーの個数、スピーカーの位置、アンビエント情報(スピーカーの仮想位置)などを含む情報で、使用者から入力を受けることもでき、予め保存されることも可能であり、他の装置から受信することもできる。
【0098】
マルチチャネル情報生成部226は、マルチチャネル情報(MI)を生成するために、オブジェクト情報デコーディング部222から受信した独立パラメータ(IP)及び/又はエンハンストオブジェクト情報デコーディング部224から受信したバックグラウンドパラメータ(BP)を用いることができる。まず、ミックス情報(MXI)によってエンハンストオブジェクト(独立オブジェクト)をコントロールするための第1のマルチチャネル情報(MI1)を生成する。例えば、使用者がボーカル信号のようなエンハンストオブジェクトを完全に抑圧するための制御情報を入力した場合、この制御情報が適用されたミックス情報(MXI)によって、ダウンミックス(DMX)からエンハンストオブジェクトを除去するための第1のマルチチャネル情報を生成する。
【0099】
上記のように独立オブジェクトをコントロールするための第1のマルチチャネル情報(MI1)を生成した後、この第1のマルチチャネル情報(MI1)及びデマルチプレクサ210から伝達された空間情報(SP)を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報(MI2)を生成する。具体的に、次の式に表現されたように、第1のマルチチャネル情報が適用された信号(すなわち、エンハンストオブジェクト(EO))をダウンミックス(DMX)から差し引く方式で第2のマルチチャネル情報(MI2)を生成することができる。
【0100】
【数3】
【0101】
(BOは、バックグラウンドオブジェクト信号を表し、DMXは、ダウンミックス信号を表し、EOLは、第Lのエンハンストオブジェクトを表す。)
【0102】
ここで、ダウンミックスからエンハンストオブジェクトを差し引く過程は、時間ドメイン又は周波数ドメイン上で行われる。また、ダウンミックス(DMX)のチャネル数と、第1のマルチチャネル情報が適用された信号のチャネル数(すなわち、エンハンストオブジェクトのチャネル数)とが同一である場合には、チャネル別に差し引かれる。
【0103】
第1のマルチチャネル情報(MI1)及び第2のマルチチャネル情報(MI2)を含むマルチチャネル情報(MI)を生成し、これをマルチチャネルデコーダ240に伝達する。
【0104】
マルチチャネルデコーダ240は、処理されたダウンミックスを受信し、マルチチャネル情報(MI)を用いて処理されたダウンミックス信号をアップミキシングし、マルチチャネル信号を生成する。
【0105】
以上のように、本発明は、限定された実施例及び図面に基づいて説明されたが、これによって限定されるものでなく、本発明の属する技術分野で通常の知識を有する者によって本発明の技術思想及び下記の特許請求の範囲の均等範囲内で多様な修正及び変形が可能であることは当然である。
【産業上の利用可能性】
【0106】
本発明は、オーディオ信号をエンコーディング及びデコーディングするのに適用される。
【技術分野】
【0001】
本発明は、オーディオ信号の処理方法及び装置に関し、より詳細には、デジタル媒体、放送信号などで受信されたオーディオ信号を処理することができるオーディオ信号の処理方法及び装置に関する。
【背景技術】
【0002】
一般的に、多数個のオブジェクトをモノ又はステレオ信号にダウンミックスする過程において、それぞれのオブジェクト信号から各パラメータが抽出される。このような各パラメータはデコーダで使用されるが、それぞれのオブジェクトのパニングや利得は、ユーザの選択によってコントロールされる。
【発明の概要】
【発明が解決しようとする課題】
【0003】
それぞれのオブジェクト信号を制御するためには、ダウンミックスに含まれている各ソースが適切にポジショニング又はパニングされなければならない。
【0004】
また、チャネルベースのデコーディング方式で下位互換性を有するためには、オブジェクトパラメータは、アップミキシングのためのマルチチャネルパラメータに柔軟に変換されなければならない。
【0005】
本発明は、上述のような問題点を解決するためになされたもので、オブジェクトの利得及びパニングを制限なしにコントロールすることができるオーディオ信号処理方法及び装置を提供することを目的とする。
【0006】
本発明の他の目的は、ユーザの選択を基盤にしてオブジェクトの利得及びパニングをコントロールすることができるオーディオ信号処理方法及び装置を提供することにある。
【0007】
本発明の更に他の目的は、ボーカルや背景音楽の利得を大幅に調節する場合にも、音質の歪みを発生させないオーディオ信号処理方法及び装置を提供することにある。
【課題を解決するための手段】
【0008】
上述のような目的を達成するために、本発明に係るオーディオ信号処理方法は、少なくとも2つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、第1のエンハンストオブジェクト情報を用いてダウンミックスを第1の独立オブジェクトと臨時バックグラウンドオブジェクトに分離し、第2のエンハンストオブジェクト情報を用いて臨時バックグラウンドオブジェクトから第2の独立オブジェクトを抽出することを含む。
【0009】
本発明によれば、独立オブジェクトは、オブジェクトベース信号であり、バックグラウンドオブジェクトは、少なくとも1つのチャネルベース信号を含むか、少なくとも1つのチャネルベース信号がダウンミックスされた信号である。
【0010】
本発明によれば、バックグラウンドオブジェクトは、左側のチャネル信号及び右側のチャネル信号を含むことができる。
【0011】
本発明によれば、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報はレジデュアル信号である。
【0012】
本発明によれば、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報は、付加情報ビットストリームに含まれており、付加情報ビットストリームに含まれているエンハンストオブジェクト情報の数と、ダウンミックス情報に含まれている独立オブジェクトの数とは同一である。
【0013】
本発明によれば、分離することは、N個の入力を用いて(N+1)個の出力を生成するモジュールによって行われる。
【0014】
本発明によれば、オブジェクト情報及びミックス情報を受信し、オブジェクト情報及びミックス情報を用いて、第1の独立オブジェクト及び第2の独立オブジェクトの利得を調整するためのマルチチャネル情報を生成することをさらに含むことができる。
【0015】
本発明によれば、ミックス情報は、オブジェクト位置情報、オブジェクト利得情報及び再生環境情報のうち少なくとも1つに基づいて生成されたものである。
【0016】
本発明によれば、上記抽出することは、第2の臨時バックグラウンドオブジェクト及び第2の独立オブジェクトを抽出することに相当し、第2のエンハンストオブジェクト情報を用いて第2の臨時バックグラウンドオブジェクトから第3の独立オブジェクトを抽出することをさらに含むことができる。
【0017】
本発明の他の側面によれば、少なくとも2つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、第1のエンハンストオブジェクト情報を用いて前記ダウンミックスを第1の独立オブジェクトと臨時バックグラウンドオブジェクトに分離し、第2のエンハンストオブジェクト情報を用いて臨時バックグラウンドオブジェクトから第2の独立オブジェクトを抽出することを実行するためのプログラムが保存されたコンピュータ読取可能記録媒体が提供される。
【0018】
本発明の更に他の側面によれば、少なくとも2つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信する情報受信部と、第1のエンハンストオブジェクト情報を用いてダウンミックスを臨時バックグラウンドオブジェクトと第1の独立オブジェクトに分離する第1のエンハンストオブジェクト情報デコーディング部と、第2のエンハンストオブジェクト情報を用いて臨時バックグラウンドオブジェクトから第2の独立オブジェクトを抽出する第2のエンハンストオブジェクト情報デコーディング部とを含むオーディオ信号処理装置が提供される。
【0019】
本発明の更に他の側面によれば、第1の独立オブジェクト及びバックグラウンドオブジェクトを用いて臨時バックグラウンドオブジェクト及び第1のエンハンストオブジェクト情報を生成し、第2の独立オブジェクト及び臨時バックグラウンドオブジェクトを用いて第2のエンハンストオブジェクト情報を生成し、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報を伝送することを含むオーディオ信号処理方法が提供される。
【0020】
本発明の更に他の側面によれば、第1の独立オブジェクト及びバックグラウンドオブジェクトを用いて臨時バックグラウンドオブジェクト及び第1のエンハンストオブジェクト情報を生成する第1エンハンストオブジェクト情報生成部と、第2の独立オブジェクト及び臨時バックグラウンドオブジェクトを用いて第2のエンハンストオブジェクト情報を生成する第2エンハンストオブジェクト情報生成部と、第1のエンハンストオブジェクト情報及び第2のエンハンストオブジェクト情報を伝送するためのマルチプレクサとを含むオーディオ信号処理装置が提供される。
【0021】
本発明の更に他の側面によれば、独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、独立オブジェクトをコントロールするための第1のマルチチャネル情報を生成し、ダウンミックス情報及び第1のマルチチャネル情報を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報を生成することを含む方法が提供される。
【0022】
本発明によれば、上記第2のマルチチャネル情報を生成することは、第1のマルチチャネル情報が適用された信号をダウンミックス情報から差し引くことを含むことができる。
【0023】
本発明によれば、上記差し引くことは、時間ドメイン又は周波数ドメイン上で行われる。
【0024】
本発明によれば、上記差し引くことは、ダウンミックス情報のチャネル数と、第1のマルチチャネル情報が適用された信号のチャネル数とが同一である場合、チャネル別に行われる。
【0025】
本発明によれば、該方法は、第1のマルチチャネル情報及び第2のマルチチャネル情報を用いて、ダウンミックス情報から出力チャネルを生成することをさらに含むことができる。
【0026】
本発明によれば、該方法は、エンハンストオブジェクト情報を受信し、エンハンストオブジェクト情報を用いて、ダウンミックス情報から独立オブジェクトとバックグラウンドオブジェクトを分離することをさらに含むことができる。
【0027】
本発明によれば、該方法は、ミックス情報を受信することをさらに含み、第1のマルチチャネル情報を生成し、第2のマルチチャネル情報を生成することは、ミックス情報に基づいて行われる。
【0028】
本発明によれば、ミックス情報は、オブジェクト位置情報、オブジェクト利得情報及び再生環境情報のうち少なくとも1つに基づいて生成されたものである。
【0029】
本発明によれば、ダウンミックス情報は、放送信号を介して受信されてもよい。
【0030】
本発明によれば、ダウンミックス情報は、デジタル媒体を介して受信されてもよい。
【0031】
本発明の更に他の側面によれば、独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、独立オブジェクトをコントロールするための第1のマルチチャネル情報を生成し、ダウンミックス情報及び前記第1のマルチチャネル情報を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報を生成することを実行するためのプログラムが保存されたコンピュータ読取可能記録媒体が提供される。
【0032】
本発明の更に他の側面によれば、独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信する情報受信部と、独立オブジェクトをコントロールするための第1のマルチチャネル情報を生成し、ダウンミックス情報及び第1のマルチチャネル情報を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報を生成するマルチチャネル生成部とを含むことを特徴とするオーディオ信号装置が提供される。
【0033】
本発明の更に他の側面によれば、少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を用いて、ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを含むオーディオ信号処理方法が提供される。
【0034】
本発明によれば、オブジェクト情報は、独立オブジェクト及びバックグラウンドオブジェクトに関連する情報に相当してもよい。
【0035】
本発明によれば、オブジェクト情報は、独立オブジェクトとバックグラウンドオブジェクトとの間のレベル情報及び相関情報のうち少なくとも1つを含むものである。
【0036】
本発明によれば、エンハンストオブジェクト情報は、レジデュアル信号を含むことができる。
【0037】
本発明によれば、レジデュアル信号は、少なくとも1つのオブジェクトベース信号をエンハンストオブジェクトにグルーピングする過程で抽出されたものである。
【0038】
本発明によれば、独立オブジェクトは、オブジェクトベース信号であり、バックグラウンドオブジェクトは、少なくとも1つのチャネルベース信号を含むか、少なくとも1つのチャネルベース信号がダウンミックスされた信号である。
【0039】
本発明によれば、バックグラウンドオブジェクトは、左側のチャネル信号及び右側のチャネル信号を含むことができる。
【0040】
本発明によれば、ダウンミックス情報は、放送信号を介して受信されてもよい。
【0041】
本発明によれば、ダウンミックス情報は、デジタル媒体を介して受信されてもよい。
【0042】
本発明の更に他の側面によれば、少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を用いて、ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを実行するためのプログラムが保存されたコンピュータ読取可能記録媒体が提供される。
【0043】
本発明の更に他の側面によれば、少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信する情報受信部と、オブジェクト情報及びエンハンストオブジェクト情報を用いて、ダウンミックスから少なくとも1つの独立オブジェクトを抽出する情報生成ユニットとを含むオーディオ信号処理装置が提供される。
【発明の効果】
【0044】
本発明は、次のような効果及び利点を提供する。
【0045】
第1に、オブジェクトの利得及びパニングを制限なしにコントロールすることができる。
【0046】
第2に、ユーザの選択に基いてオブジェクトの利得及びパニングをコントロールすることができる。
【0047】
第3に、ボーカルや背景音楽のうち1つを完全に抑圧する場合にも、利得調整による音質の歪みを防止することができる。
【0048】
第4に、ボーカルなどのような独立オブジェクトが少なくとも2つである場合(ステレオチャネル又は多数個のボーカル信号)、利得調整による音質の歪みを防止することができる。
【図面の簡単な説明】
【0049】
【図1】本発明の実施例に係るオーディオ信号処理装置の構成図である。
【図2】本発明の実施例に係るオーディオ信号処理装置のうちエンハンストオブジェクトエンコーダの細部構成図である。
【図3】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第1の例を示した図である。
【図4】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第2の例を示した図である。
【図5】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第3の例を示した図である。
【図6】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第4の例を示した図である。
【図7】エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第5の例を示した図である。
【図8】付加情報ビットストリームの多様な例を示した図である。
【図9】本発明の実施例に係るオーディオ信号処理装置のうち情報生成ユニットの細部構成図である。
【図10】エンハンストオブジェクト情報デコーディング部の細部構成の一例を示した図である。
【図11】オブジェクト情報デコーディング部の細部構成の一例を示した図である。
【発明を実施するための形態】
【0050】
以下、添付された図面を参照して本発明の好適な実施例を詳細に説明する。本発明の実施例を説明する前に、本明細書及び特許請求の範囲で使用された用語や単語は、通常的又は辞典的な意味に限定して解釈してはならなく、発明者が自身の発明を最も最善の方法で説明するために用語の概念を適切に定義することができるとの原則に立脚して、本発明の技術的思想に符合する意味及び概念で解釈しなければならない。したがって、本明細書に記載された実施例及び図面に示した構成は、本発明の最も好適な一実施例に過ぎないもので、本発明の技術的思想を全て代弁するものではないので、本出願時点において、これらに取って代わる多様な均等物及び変形例が存在しうることを理解しなければならない。
【0051】
特に、本明細書で、情報は、値、パラメータ、係数、成分などを総称する用語で、場合によって異なる意味に解釈されることもあるが、本発明がこれに限定されることはない。
【0052】
特に、オブジェクトは、オブジェクトベース信号及びチャネルベース信号を含む概念であるが、場合によってオブジェクトベース信号のみを称することができる。
【0053】
図1は、本発明の実施例に係るオーディオ信号処理装置の構成を示す図である。図1を参照すれば、まず、本発明の実施例に係るオーディオ信号処理装置は、エンコーダ100及びデコーダ200を含むが、エンコーダ100は、オブジェクトエンコーダ110、エンハンストオブジェクトエンコーダ120及びマルチプレクサ130を含み、デコーダ200は、デマルチプレクサ210、情報生成ユニット220、ダウンミックス処理ユニット230及びマルチチャネルデコーダ240を含む。ここで、各構成要素に対して概略に説明した後、エンコーダ100のエンハンストオブジェクトエンコーダ120及びデコーダ200の情報生成ユニット220については、図2〜図11を参照して具体的に説明することにする。
【0054】
まず、オブジェクトエンコーダ110は、少なくとも1つのオブジェクト(objN)を用いてオブジェクト情報(OP:object parameter)を生成するが、ここで、オブジェクト情報(OP)は、オブジェクトベース信号に関する情報で、オブジェクトレベル情報、オブジェクト相関情報などを含むことができる。一方、オブジェクトエンコーダ110は、少なくとも1つのオブジェクトをグルーピングしてダウンミックスを生成することができる。これは、図2を参照して説明されるエンハンストオブジェクト生成部122で少なくとも1つのオブジェクトをグルーピングしてエンハンストオブジェクトを生成する過程と同一であるが、本発明がこれに限定されることはない。
【0055】
エンハンストオブジェクトエンコーダ120は、少なくとも1つのオブジェクト(objN)を用いてエンハンストオブジェクト情報(OP)及びダウンミックス(DMX)(LL、RL)を生成する。具体的に、少なくとも1つのオブジェクトベース信号をグルーピングしてエンハンストオブジェクト(EO)を生成し、チャネルベース信号及びエンハンストオブジェクト(EO)を用いてエンハンストオブジェクト情報(EOP:enhanced object parameter)を生成する。まず、エンハンストオブジェクト情報(EOP)は、エンハンストオブジェクトのエネルギー情報(レベル情報を含む)、レジデュアル信号などであるが、これに対しては図2を参照して説明することにする。一方、ここで、チャネルベース信号は、オブジェクト別に制御不可能な背景信号であるので、バックグラウンドオブジェクトと称し、エンハンストオブジェクトは、デコーダ200で独立的にオブジェクト別に制御可能であるので、独立オブジェクトと称することができる。
【0056】
マルチプレクサ130は、オブジェクトエンコーダ110で生成されたオブジェクト情報(OP)、及びエンハンストオブジェクトエンコーダ120で生成されたエンハンストオブジェクト情報(EOP)をマルチプレキシングし、付加情報ビットストリームを生成する。一方、付加情報ビットストリームは、前記チャネルベース信号に対する空間情報(SP:spatial information)(図示せず)を含むことができる。空間情報は、チャネルベース信号をデコーディングするために必要な情報で、チャネルレベル情報及びチャネル相関情報などを含むが、本発明がこれに限定されることはない。
【0057】
デコーダ200のデマルチプレクサ210は、付加情報ビットストリームからオブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)を抽出する。付加情報ビットストリームに空間情報(SP)が含まれる場合、空間情報(SP)をさらに抽出する。
【0058】
情報生成ユニット220は、オブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)を用いてマルチチャネル情報(MI:Multi―channel information)及びダウンミックス処理情報(DPI:downmix processing information)を生成する。マルチチャネル情報(MI)及びダウンミックス処理情報(DPI)を生成するにおいて、ダウンミックス情報(DMX)を用いることができるが、これに対しては図8を参照して説明することにする。
【0059】
ダウンミックス処理ユニット230は、ダウンミックス処理情報(DPI)を用いてダウンミックス(DMX)を処理する。例えば、オブジェクトの利得又はパニングを調節するためにダウンミックス(DMX)を処理することができる。
【0060】
マルチチャネルデコーダ240は、処理されたダウンミックスを受信し、マルチチャネル情報(MI)を用いて処理されたダウンミックス信号をアップミキシングし、マルチチャネル信号を生成する。
【0061】
以下では、図2〜図6を参照しながら、エンコーダ100のエンハンストオブジェクトエンコーダ120の細部構成の多様な実施例について説明し、図8を参照しながら、付加情報ビットストリームに対する多様な実施例について説明し、図9〜図11を参照しながら、デコーダ200の情報生成ユニット220の細部構成について説明する。
【0062】
図2は、本発明の実施例に係るオーディオ信号処理装置のうちエンハンストオブジェクトエンコーダの細部構成を示す図である。図2を参照すれば、エンハンストオブジェクトエンコーダ120は、エンハンストオブジェクト生成部122、エンハンストオブジェクト情報生成部124及びマルチプレクサ126を含む。
【0063】
エンハンストオブジェクト生成部122は、少なくとも1つのオブジェクト(objN)をグルーピングし、少なくとも1つのエンハンストオブジェクト(EOL)を生成する。ここで、エンハンストオブジェクト(EOL)は、高品質の制御のためにグルーピングされるものである。例えば、前記バックグラウンドオブジェクトに対してエンハンストオブジェクト(EOL)が独立的に完全に抑圧(または、反対の場合、すなわち、エンハンストオブジェクト(EOL)のみが再生され、バックグラウンドオブジェクトが完全に抑圧)されるようにするものである。ここで、グルーピング対象になるオブジェクト(objN)は、チャネルベース信号でないオブジェクトベース信号である。エンハンストオブジェクト(EO)は多様な方法で生成することができる。すなわち、1)少なくとも1つのオブジェクトを一つのエンハンストオブジェクトとして活用することができ(EO1=obj1)、2)二つ以上のオブジェクトを加えてエンハンストオブジェクトを構成することができ(EO2=obj1+obj2)、3)ダウンミックスから特定のオブジェクトのみを除外した信号をエンハンストオブジェクトとして活用したり(EO3=D−obj2)、少なくとも2つのオブジェクトを除外した信号をエンハンストオブジェクトとして活用することができる(EO4=D−obj1−obj2)。上記3)及び4)で言及されたダウンミックス(D)は、上述したダウンミックス(DMX)(LL、RL)とは異なる概念で、オブジェクトベース信号のみがダウンミックスされた信号を称することができる。このように説明された四つの方法のうち少なくとも1つを適用し、エンハンストオブジェクト(EO)を生成することができる。
【0064】
エンハンストオブジェクト情報生成部124は、エンハンストオブジェクト(EO)を用いてエンハンストオブジェクト情報(EOP)を生成する。ここで、エンハンストオブジェクト情報(EOP)は、エンハンストオブジェクト(EO)に関連する情報で、a)まず、エンハンストオブジェクト(EO)のエネルギー情報(レベル情報を含む)、b)エンハンストオブジェクト(EO)とダウンミックス(D)との間の関係(例えば、ミキシング利得)、c)高い時間解像度又は高い周波数解像度によるエンハンストオブジェクトレベル情報又はエンハンストオブジェクト相関情報、d)エンハンストオブジェクト(EO)に対する時間領域での予測情報又は包絡線情報、e)レジデュアル信号のようにエンハンストオブジェクトに対する時間領域又はスペクトル領域の情報を符号化したビットストリームなどである。
【0065】
一方、エンハンストオブジェクト情報(EOP)は、上述した例でエンハンストオブジェクト(EO)が第1の例及び第3の例で生成された場合(EO1=obj1、EO3=D−obj2)、エンハンストオブジェクト情報(EOP)は、第1の例及び第3の例のエンハンストオブジェクト(EO1及びEO3)に対するエンハンストオブジェクト情報(EOP1、EOP3)を生成することができる。このとき、第1の例によるエンハンストオブジェクト情報(EOP1)は、第1の例によるエンハンストオブジェクト(EO1)を制御するために必要な情報に該当し、第3の例によるエンハンストオブジェクト情報(EOP3)は、特定のオブジェクト(obj2)のみを抑圧する場合を表現するために活用される。
【0066】
エンハンストオブジェクト情報生成部124は、少なくとも1つのエンハンストオブジェクト情報生成部124―1,・・・,124―Lを含むことができる。具体的に、一つのエンハンストオブジェクト(EO1)に対するエンハンストオブジェクト情報(EOP1)を生成する第1エンハンストオブジェクト情報生成部124―1を含むことができ、少なくとも2つのエンハンストオブジェクト(EO1、EO2)に対するエンハンストオブジェクト情報(EOP2)を生成する第2エンハンストオブジェクト情報生成部124―2を含むことができる。一方、エンハンストオブジェクト(EOL)のみならず、第2エンハンストオブジェクト情報生成部124―2の出力を用いて、第Lエンハンストオブジェクト情報生成部124―Lが含まれることもある。前記エンハンストオブジェクト情報生成部124―1,・・・,124―Lは、それぞれN+1個の入力を用いてN個の出力を生成するモジュールによって動作するもので、例えば、3個の入力を用いて2個の出力を生成するモジュールによって動作することができる。以下、エンハンストオブジェクト情報生成部124―1,・・・,124―Lに対する多様な実施例は、図3〜図7を参照して説明する。一方、エンハンストオブジェクト情報生成部124は、ダブルエンハンストオブジェクト(EEOP)をさらに生成することができるが、これは、図7を参照して詳細に説明することにする。
【0067】
マルチプレクサ126は、エンハンストオブジェクト情報生成部124で生成された少なくとも1つのエンハンストオブジェクト情報(EOP1,・・・,EOPL)(及びダブルエンハンストオブジェクト(EEOP))をマルチプレキシングする。
【0068】
図3〜図7は、エンハンストオブジェクト生成部及びエンハンストオブジェクト情報生成部の第1の例〜第5の例を示した図である。図3は、エンハンストオブジェクト情報生成部が一つの第1のエンハンストオブジェクト情報生成部を含む例を示し、図4〜図6は、少なくとも2つのエンハンスト情報生成部(第1エンハンストオブジェクト情報生成部〜第Lエンハンストオブジェクト情報生成部)が直列的に含まれている例を示す。一方、図7は、ダブルエンハンストオブジェクト情報(EEOP:enhanced enhanced object parameter)を生成する第1のダブルエンハンストオブジェクト情報生成部をさらに含む例を示す。
【0069】
まず、図3を参照すれば、エンハンストオブジェクト生成部122Aは、チャネルベース信号として、左側のチャネル信号(L)及び右側チャネル信号(R)をそれぞれ受信し、オブジェクトベース信号として、各ステレオボーカル信号(Vocal1L、Vocal1R、Vocal2L、Vocal2R)をそれぞれ受信し、一つのエンハンストオブジェクト(Vocal)を生成する。まず、チャネルベース信号(L、R)は、多チャネル信号(例えば、L、R、LS、RS、C、LFE)がダウンミックスされた信号であるが、この過程で抽出された空間情報は、上述したように付加情報ビットストリームに含まれる。
【0070】
一方、オブジェクトベース信号としての各ステレオボーカル信号(Vocal1L、Vocal1R、Vocal2L、Vocal2R)は、歌手1の音声(Vocal1)に該当する左側のチャネル信号(Vocal1L)及び右側のチャネル信号(Vocal1R)と、歌手2の音声(Vocal2)に該当する左側のチャネル信号(Vocal2L)及び右側のチャネル信号(Vocal2R)を含むことができる。一方、ここでは、ステレオオブジェクト信号について示したが、マルチチャネルオブジェクト信号(Vocal1L、Vocal1R、Vocal1Ls、Vocal1Rs、Vocal1C、Vocal1LFE)を受信し、一つのエンハンストオブジェクト(Vocal)にグルーピングされることも可能である。
【0071】
このように1つのエンハンストオブジェクト(Vocal)が生成されたので、エンハンストオブジェクト情報生成部124Aは、これに対応する一つの第1エンハンストオブジェクト情報生成部124―1のみを含む。第1エンハンストオブジェクト情報生成部124A―1は、エンハンストオブジェクト(Vocal)及びチャネルベース信号(L、R)を用いてエンハンストオブジェクト情報(EOP1)として第1のレジデュアル信号(res1)及び臨時バックグラウンドオブジェクト(L1、R1)を生成する。臨時バックグラウンドオブジェクト(L1、R1)は、チャネルベース信号、すなわち、バックグラウンドオブジェクト(L、R)にエンハンストオブジェクト(Vocal)が加えられた信号で、1つのエンハンストオブジェクト情報生成部のみが存在する第3の例では、この臨時バックグラウンドオブジェクト(L1、R1)が最終的なダウンミックス信号(LL、RL)になる。
【0072】
図4を参照すれば、図3に示した第1の例と同様に、各ステレオボーカル信号(Vocal1L、Vocal1R、Vocal2L、Vocal2R)が受信される。ただし、図4に示した第2の例では、一つのエンハンストオブジェクトにグルーピングされずに、二つのエンハンストオブジェクト(Vocal1、Vocal2)にグルーピングされるという点で差がある。このように二つのエンハンストオブジェクトが存在するので、エンハンストオブジェクト生成部124Bは、第1のエンハンストオブジェクト生成部124B―1及び第2のエンハンストオブジェクト生成部124B―2を含む。
【0073】
第1のエンハンストオブジェクト生成部124B―1は、バックグラウンド信号(チャネルベース信号(L、R))及び第1のエンハンストオブジェクト信号(Vocal1)を用いて第1のエンハンストオブジェクト情報(res1)及び臨時バックグラウンドオブジェクト(L1、R1)を生成する。
【0074】
第2のエンハンストオブジェクト生成部124B―2は、第2のエンハンストオブジェクト信号(Vocal2)のみならず、第1の臨時バックグラウンドオブジェクト(L1、R1)も用いて、第2のエンハンストオブジェクト情報(res2)及び最終ダウンミックス(LL、RL)としてバックグラウンドオブジェクト(L2、R2)を生成する。図4に示した第2の例の場合にも、エンハンストオブジェクト(EO)とエンハンストオブジェクト情報(EOP:res)の数が全て2個であることが分かる。
【0075】
図5を参照すれば、図4に示した第2の例と同様に、エンハンストオブジェクト情報生成部124Cは、第1エンハンストオブジェクト情報生成部124C―1及び第2エンハンストオブジェクト情報生成部124C―2を含む。ただし、エンハンストオブジェクト(Vocal1L、Vocal1R)は、2つのオブジェクトベース信号がグルーピングされたものでなく、一つのオブジェクトベース信号(Vocal1L、Vocal1R)で構成される点で差異点が存在する。第3の例の場合にも、エンハンストオブジェクト(EO)の個数(L)とエンハンストオブジェクト情報(EOP)の個数(L)とが同一であることが分かる。
【0076】
図6を参照すれば、図4に示した第2の例と類似しているが、エンハンストオブジェクト生成部122で総L個のエンハンストオブジェクト(Vocal1,・・・,VocalL)が生成されるという点で差がある。また、エンハンストオブジェクト情報生成部124Dは、第1エンハンストオブジェクト情報生成部124D―1及び第2エンハンストオブジェクト情報生成部124D―2のみならず、第Lエンハンストオブジェクト情報生成部124D―Lまで備えるという点で差異点が存在する。第Lエンハンストオブジェクト情報生成部124―Lは、第2エンハンストオブジェクト情報生成部124―2で生成された第2の臨時バックグラウンドオブジェクト(L2、R2)及び第Lのエンハンストオブジェクト(VocalL)を用いて第Lのエンハンストオブジェクト情報(EOPL、resL)及びダウンミックス情報(LL、RL)(DMX)を生成する。
【0077】
図7を参照すれば、図6に示した第4の例で、第1のダブルエンハンストオブジェクト情報生成部124EE―1をさらに備える。ダウンミックス(DMX:LL、RL)からエンハンストオブジェクト(EOL)を差し引いた信号(DDMX)は、次のように定義することができる。
【0078】
【数1】
【0079】
ダブルエンハンスト情報(EEOP)は、ダウンミックス(DMX:LL、RL)とエンハンストオブジェクト(EOL)との間の情報でなく、式1によって定義された信号(DDMX)及びエンハンストオブジェクト(EOL)に関する情報である。ダウンミックス(DMX)からエンハンストオブジェクト(EOL)を差し引く場合、エンハンストオブジェクトと関連して量子化雑音が発生しうる。このような量子化雑音をオブジェクト情報(OP)を用いて相殺させることによって、音質を改善させることができる(これについては、図9〜図11を参照して説明することにする。)。この場合、エンハンストオブジェクト(EO)が含まれたダウンミックス(DMX)に対して量子化雑音をコントロールするが、実際的には、エンハンストオブジェクト(EO)が除去されたダウンミックスに存在する量子化雑音をコントロールすることである。したがって、より精密に量子化雑音を除去するためには、エンハンストオブジェクト(EO)が除去されたダウンミックスに対して量子化雑音を除去するための情報が必要である。上記のように定義されたダブルエンハンスト情報(EEOP)を用いることができる。このとき、ダブルエンハンスト情報(EEOP)は、オブジェクト情報(OP)の生成方式と同一の方式によって生成される。
【0080】
本発明の実施例に係るオーディオ信号処理装置のうちエンコーダ100は、上述したような構成要素を備えることによって、ダウンミックス(DMX)及び付加情報ビットストリームを生成する。
【0081】
図8は、付加情報ビットストリームの多様な例を示した図である。まず、図8の(a)〜(b)を参照すれば、付加情報ビットストリームは、図8の(a)のように、オブジェクトエンコーダ110などによって生成されたオブジェクト情報(OP)のみを含むことができ、図8の(b)のように、オブジェクト情報(OP)のみならず、エンハンストオブジェクトエンコーダ120によって生成されたエンハンストオブジェクト情報(EOP)まで含むことができる。一方、付加情報ビットストリームは、図8の(c)を参照すれば、オブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)のみならず、ダブルエンハンストオブジェクト情報(EEOP)をさらに含んでいる。一般的なオブジェクトデコーダでは、オブジェクト情報(OP)のみを用いてオーディオ信号をデコーディングすることができるので、このようなデコーダで図8の(b)又は(c)に示したビットストリームを受信する場合、エンハンストオブジェクト情報(EOP)及び/又はダブルエンハンストオブジェクト情報(EEOP)を除去し、オブジェクト情報(OP)のみを抽出してデコーディングに用いることができる。
【0082】
図8の(d)を参照すれば、エンハンストオブジェクト情報(EOP1,・・・,EOPL)がビットストリームに含まれている。上述したように、エンハンストオブジェクト情報(EOP)は多様な方式で生成される。第1のエンハンストオブジェクト情報(EOP1)〜第2のエンハンストオブジェクト(EOP2)が第1の方式で生成され、第3のエンハンストオブジェクト情報(EOP3)〜第5のエンハンストオブジェクト情報(EOP5)が第2の方式で生成された場合、各生成方法を表す識別子(F1、F2)をビットストリームに含ませることができる。図8の(d)に示すように、生成方法を表す識別子(F1、F2)を、同一の方式で生成されたエンハンストオブジェクト情報の前のみに1回挿入することもできるが、各エンハンストオブジェクト情報の前に全て挿入することもできる。
【0083】
本発明の実施例に係るオーディオ信号処理装置のうちデコーダ200は、上記のように生成された付加情報ビットストリーム及びダウンミックスを受信してデコーディングすることができる。
【0084】
図9は、本発明の実施例に係るオーディオ信号処理装置のうち情報生成ユニットの細部構成を示す図である。情報生成ユニット220は、オブジェクト情報デコーディング部222、エンハンストオブジェクト情報デコーディング部224及びマルチチャネル情報生成部226を含む。一方、デマルチプレクサ210からバックグラウンドオブジェクトをコントロールするための空間情報(SP)が受信された場合、この空間情報(SP)は、エンハンストオブジェクト情報デコーディング部224及びオブジェクト情報デコーディング部222で使用されずに、直ちにマルチチャネル情報生成部226に伝達される。
【0085】
まず、エンハンストオブジェクト情報デコーディング部224は、デマルチプレクサ210から受信したオブジェクト情報(OP)及びエンハンストオブジェクト情報(EOP)を用いてエンハンストオブジェクト(EO)を抽出し、バックグラウンドオブジェクト(L、R)を出力する。エンハンストオブジェクト情報デコーディング部224の細部構成の一例は、図10に示されている。
【0086】
図10を参照すれば、エンハンストオブジェクト情報デコーディング部224は、第1のエンハンストオブジェクト情報デコーディング部224―1〜第Lのエンハンストオブジェクト情報デコーディング部224―Lを含む。第1のエンハンストオブジェクトデコーディング部224―1は、第1のエンハンストオブジェクト情報(EOPL)を用いて、ダウンミックス(MXI)を第1のエンハンストオブジェクト(EOL)(第1の独立オブジェクト)と第1の臨時バックグラウンドオブジェクト(LL―1、RL―1)に分離するためのバックグラウンドパラメータ(BP:Backgound Parameter)を生成する。ここで、第1のエンハンストオブジェクトは、センターチャネルに該当し、第1の臨時バックグラウンドオブジェクトは、左側のチャネル及び右側のチャネルに該当する。
【0087】
これと同様に、第Lのエンハンストオブジェクト情報デコーディング部224―Lは、第Lのエンハンストオブジェクト情報(EOP1)を用いて、第L―1の臨時バックグラウンドオブジェクト(L1、R1)を第Lのエンハンストオブジェクト(EO1)とバックグラウンドオブジェクト(L、R)に分離するためのバックグラウンドパラメータ(BP)を生成する。
【0088】
一方、第1のエンハンストオブジェクト情報デコーディング部224―1〜第Lのエンハンストオブジェクト情報デコーディング部224―Lは、N入力を用いてN+1出力を生成(例えば、2入力を用いて3出力を生成)するモジュールによって具現される。
【0089】
一方、エンハンストオブジェクト情報デコーディング部224が前記のようなバックグラウンドパラメータ(BP)を生成するためには、エンハンストオブジェクト情報(EOP)のみならず、オブジェクト情報(OP)まで用いることができる。以下では、オブジェクト情報(OP)を用いる目的及び利点について説明する。
【0090】
本発明では、エンハンストオブジェクト(EO)をダウンミックス(DMX)から除去することが目的であるが、ダウンミックス(DMX)の符号化方法及びエンハンストオブジェクト情報(EOP)の符号化方法によって量子化雑音が出力に含まれる。この場合、量子化雑音は元の信号と関連しているので、エンハンストオブジェクトにグルーピングされる前のオブジェクトに関する情報であるオブジェクト情報(OP)を用いて追加的に音質を改善することが可能である。例えば、1番目のオブジェクトがボーカルオブジェクトである場合、第1のオブジェクト情報(OP1)はボーカルの時間、周波数、空間に関する情報を含む。ダウンミックス(DMX)からボーカルを差し引いた出力は、次の式に示す通りであるが、ボーカルを差し引いた出力に対して第1のオブジェクト情報(OP1)を用いてボーカルを抑圧する場合、ボーカルが存在していた区間に残余する量子化雑音を追加的に抑圧する機能を行うようになる。
【0091】
【数2】
【0092】
(ここで、DMXは、入力ダウンミックス信号を表し、EO1’は、コーデックでエンコーディング/デコーディングされた第1のエンハンストオブジェクトを表す。)
【0093】
したがって、特定のオブジェクトに対してエンハンストオブジェクト情報(EOP)及びオブジェクト情報(OP)を適用することによって、追加的に性能を改善することができ、このようなエンハンストオブジェクト情報(EOP)及びオブジェクト情報(OP)の適用は順次的又は同時的なものである。一方、オブジェクト情報(OP)は、エンハンストオブジェクト(独立オブジェクト)及び前記バックグラウンドオブジェクトに関連する情報に相当するものである。
【0094】
再び図9を参照すれば、オブジェクト情報デコーディング部222は、デマルチプレクサ210から受信したオブジェクト情報(OP)及びエンハンストオブジェクト情報デコーディング部224から受信したエンハンストオブジェクト(EO)に関するオブジェクト情報(OP)をデコーディングする。オブジェクト情報デコーディング部222の細部構成の一例は、図11に示されている。
【0095】
図11を参照すれば、オブジェクト情報デコーディング部222は、第1オブジェクト情報デコーディング部222―1〜第Lオブジェクト情報デコーディング部222―Lを含む。第1オブジェクト情報デコーディング部222―1は、少なくとも1つのオブジェクト情報(OPN)を用いて第1のエンハンストオブジェクト(EO1)を少なくとも1つのオブジェクト(例えば、Vocal1、Vocal2)に分離するための独立パラメータ(IP:Independent Parameter)を生成する。これと同様に、第Lオブジェクト情報デコーディング部222―Lは、少なくとも1つのオブジェクト情報(OPN)を用いて第Lのエンハンストオブジェクト(EOL)を少なくとも1つのオブジェクト(例えば、Vocal4)に分離するための独立パラメータ(IP)を生成する。このように、オブジェクト情報(OP)を用いてエンハンストオブジェクト(EO)にグルーピングされていたそれぞれのオブジェクトを個別に制御することができる。
【0096】
再び図9を参照すれば、マルチチャネル情報生成部226は、使用者インターフェースなどを介してミックス情報(MXI:mix information)を受信し、デジタル媒体、放送媒体などを介してダウンミックス(DMX)を受信する。そして、受信されたミックス情報(MXI)及びダウンミックス(DMX)を用いてバックグラウンドオブジェクト(L、R)及び/又はエンハンストオブジェクト(EO)をレンダリングするためのマルチチャネル情報(MI)を生成する。
【0097】
ここで、ミックス情報(MXI)は、オブジェクト位置情報、オブジェクト利得情報及び再生環境情報などに基づいて生成された情報であり、オブジェクト位置情報は、使用者が各オブジェクトの位置又はパニングを制御するために入力した情報で、オブジェクト利得情報は、使用者が各オブジェクトの利得を制御するために入力した情報である。再生環境情報は、スピーカーの個数、スピーカーの位置、アンビエント情報(スピーカーの仮想位置)などを含む情報で、使用者から入力を受けることもでき、予め保存されることも可能であり、他の装置から受信することもできる。
【0098】
マルチチャネル情報生成部226は、マルチチャネル情報(MI)を生成するために、オブジェクト情報デコーディング部222から受信した独立パラメータ(IP)及び/又はエンハンストオブジェクト情報デコーディング部224から受信したバックグラウンドパラメータ(BP)を用いることができる。まず、ミックス情報(MXI)によってエンハンストオブジェクト(独立オブジェクト)をコントロールするための第1のマルチチャネル情報(MI1)を生成する。例えば、使用者がボーカル信号のようなエンハンストオブジェクトを完全に抑圧するための制御情報を入力した場合、この制御情報が適用されたミックス情報(MXI)によって、ダウンミックス(DMX)からエンハンストオブジェクトを除去するための第1のマルチチャネル情報を生成する。
【0099】
上記のように独立オブジェクトをコントロールするための第1のマルチチャネル情報(MI1)を生成した後、この第1のマルチチャネル情報(MI1)及びデマルチプレクサ210から伝達された空間情報(SP)を用いて、バックグラウンドオブジェクトをコントロールするための第2のマルチチャネル情報(MI2)を生成する。具体的に、次の式に表現されたように、第1のマルチチャネル情報が適用された信号(すなわち、エンハンストオブジェクト(EO))をダウンミックス(DMX)から差し引く方式で第2のマルチチャネル情報(MI2)を生成することができる。
【0100】
【数3】
【0101】
(BOは、バックグラウンドオブジェクト信号を表し、DMXは、ダウンミックス信号を表し、EOLは、第Lのエンハンストオブジェクトを表す。)
【0102】
ここで、ダウンミックスからエンハンストオブジェクトを差し引く過程は、時間ドメイン又は周波数ドメイン上で行われる。また、ダウンミックス(DMX)のチャネル数と、第1のマルチチャネル情報が適用された信号のチャネル数(すなわち、エンハンストオブジェクトのチャネル数)とが同一である場合には、チャネル別に差し引かれる。
【0103】
第1のマルチチャネル情報(MI1)及び第2のマルチチャネル情報(MI2)を含むマルチチャネル情報(MI)を生成し、これをマルチチャネルデコーダ240に伝達する。
【0104】
マルチチャネルデコーダ240は、処理されたダウンミックスを受信し、マルチチャネル情報(MI)を用いて処理されたダウンミックス信号をアップミキシングし、マルチチャネル信号を生成する。
【0105】
以上のように、本発明は、限定された実施例及び図面に基づいて説明されたが、これによって限定されるものでなく、本発明の属する技術分野で通常の知識を有する者によって本発明の技術思想及び下記の特許請求の範囲の均等範囲内で多様な修正及び変形が可能であることは当然である。
【産業上の利用可能性】
【0106】
本発明は、オーディオ信号をエンコーディング及びデコーディングするのに適用される。
【特許請求の範囲】
【請求項1】
少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、
オブジェクト情報及びエンハンストオブジェクト情報を受信し、
前記オブジェクト情報及び前記エンハンストオブジェクト情報を用いて、前記ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを特徴とするオーディオ信号処理方法。
【請求項2】
前記オブジェクト情報は、前記独立オブジェクト及び前記バックグラウンドオブジェクトに関連する情報に相当することを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項3】
前記オブジェクト情報は、前記独立オブジェクトと前記バックグラウンドオブジェクトとの間のレベル情報及び相関情報のうち少なくとも1つを含むことを特徴とする、請求項2に記載のオーディオ信号処理方法。
【請求項4】
前記エンハンストオブジェクト情報はレジデュアル信号を含むことを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項5】
前記レジデュアル信号は、少なくとも1つのオブジェクトベース信号をエンハンストオブジェクトにグルーピングする過程で抽出されたものであることを特徴とする、請求項4に記載のオーディオ信号処理方法。
【請求項6】
前記独立オブジェクトは、オブジェクトベース信号であり、
前記バックグラウンドオブジェクトは、少なくとも1つのチャネルベース信号を含むか、少なくとも1つのチャネルベース信号がダウンミックスされた信号であることを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項7】
前記バックグラウンドオブジェクトは、左側のチャネル信号及び右側のチャネル信号を含むことを特徴とする、請求項6に記載のオーディオ信号処理方法。
【請求項8】
前記ダウンミックス情報は、放送信号を介して受信されることを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項9】
前記ダウンミックス情報は、デジタル媒体を介して受信されることを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項10】
請求項1に記載の方法を実行するためのプログラムが保存されたコンピュータ読取可能記録媒体。
【請求項11】
少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信する情報受信部と、
前記オブジェクト情報及び前記エンハンストオブジェクト情報を用いて、前記ダウンミックスから少なくとも1つの独立オブジェクトを抽出する情報生成ユニットと、を含むことを特徴とするオーディオ信号処理装置。
【請求項1】
少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、
オブジェクト情報及びエンハンストオブジェクト情報を受信し、
前記オブジェクト情報及び前記エンハンストオブジェクト情報を用いて、前記ダウンミックス情報から少なくとも1つの独立オブジェクトを抽出することを特徴とするオーディオ信号処理方法。
【請求項2】
前記オブジェクト情報は、前記独立オブジェクト及び前記バックグラウンドオブジェクトに関連する情報に相当することを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項3】
前記オブジェクト情報は、前記独立オブジェクトと前記バックグラウンドオブジェクトとの間のレベル情報及び相関情報のうち少なくとも1つを含むことを特徴とする、請求項2に記載のオーディオ信号処理方法。
【請求項4】
前記エンハンストオブジェクト情報はレジデュアル信号を含むことを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項5】
前記レジデュアル信号は、少なくとも1つのオブジェクトベース信号をエンハンストオブジェクトにグルーピングする過程で抽出されたものであることを特徴とする、請求項4に記載のオーディオ信号処理方法。
【請求項6】
前記独立オブジェクトは、オブジェクトベース信号であり、
前記バックグラウンドオブジェクトは、少なくとも1つのチャネルベース信号を含むか、少なくとも1つのチャネルベース信号がダウンミックスされた信号であることを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項7】
前記バックグラウンドオブジェクトは、左側のチャネル信号及び右側のチャネル信号を含むことを特徴とする、請求項6に記載のオーディオ信号処理方法。
【請求項8】
前記ダウンミックス情報は、放送信号を介して受信されることを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項9】
前記ダウンミックス情報は、デジタル媒体を介して受信されることを特徴とする、請求項1に記載のオーディオ信号処理方法。
【請求項10】
請求項1に記載の方法を実行するためのプログラムが保存されたコンピュータ読取可能記録媒体。
【請求項11】
少なくとも1つの独立オブジェクト及びバックグラウンドオブジェクトがダウンミックスされたダウンミックス情報を受信し、オブジェクト情報及びエンハンストオブジェクト情報を受信する情報受信部と、
前記オブジェクト情報及び前記エンハンストオブジェクト情報を用いて、前記ダウンミックスから少なくとも1つの独立オブジェクトを抽出する情報生成ユニットと、を含むことを特徴とするオーディオ信号処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8(a)】
【図8(b)】
【図8(c)】
【図8(d)】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8(a)】
【図8(b)】
【図8(c)】
【図8(d)】
【図9】
【図10】
【図11】
【公表番号】特表2010−521703(P2010−521703A)
【公表日】平成22年6月24日(2010.6.24)
【国際特許分類】
【出願番号】特願2009−553527(P2009−553527)
【出願日】平成20年3月17日(2008.3.17)
【国際出願番号】PCT/KR2008/001497
【国際公開番号】WO2008/114985
【国際公開日】平成20年9月25日(2008.9.25)
【出願人】(502032105)エルジー エレクトロニクス インコーポレイティド (2,269)
【Fターム(参考)】
【公表日】平成22年6月24日(2010.6.24)
【国際特許分類】
【出願日】平成20年3月17日(2008.3.17)
【国際出願番号】PCT/KR2008/001497
【国際公開番号】WO2008/114985
【国際公開日】平成20年9月25日(2008.9.25)
【出願人】(502032105)エルジー エレクトロニクス インコーポレイティド (2,269)
【Fターム(参考)】
[ Back to top ]