説明

多チャンネルオーディオ信号処理装置、多チャンネルオーディオ信号処理方法、圧縮効率向上方法及び多チャンネルオーディオ信号処理システム

【課題】 本発明は、少なくとも2つの基地局を有する無線通信ネットワークに関する。基地局は移動局とタイムスロットにより通信する。
【解決手段】 タイムスロット(20)は複数の送信スロット(21,23,25,27,29)及び受信スロット(22,24,26,28,30)に副分割され、送信スロット中に基地局はメッセージを送信し、受信スロット中に基地局はメッセージを受信する。基地局は、送信スロット(21,23,25,27,29)及び受信スロット(22,24,26,28,30)としてタイムスロット(20)のの割り当てを協働して決定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、MPEG(Moving Picture Experts Group)の信号処理に係り、特に、空間情報(space information)を利用して多チャンネルオーディオ信号を処理する多チャンネルオーディオ信号処理装置、多チャンネルオーディオ信号処理方法、圧縮効率向上方法及び多チャンネルオーディオ信号処理システムに関する。
【背景技術】
【0002】
従来のオーディオ信号の処理方法及び装置は、多チャンネルオーディオ信号を復元するとき、BCC(Binaural Cue Coding)のみを利用して、サラウンド成分を復元する空間オーディオコーディング(SAC:Spatial Audio Coding)を用いる。ここで、SACについては、非特許文献1に開示されており、BCCについては、非特許文献2に開示されている。
【0003】
SACを用いる従来のオーディオ信号の処理方法は、ダウンミキシングする時にサラウンド成分が消える。すなわち、ダウンミキシングしたステレオ信号は、サラウンド成分を含んでいない。したがって、多チャンネルオーディオ信号を復元するとき、サラウンド成分を生かすために多くのデータ量を有する付加情報を伝送しなければならないので、従来のオーディオ信号の処理方法は、低いチャンネル伝送効率を有するという問題点がある。しかも、消えるサラウンド成分を復元するために、復元された多チャンネルオーディオ信号の音質が低下するという問題点がある。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】‘High−quality Parametric Spatial Audio Coding at LowBitrates’,116th AES convention,Preprint,p6072.
【非特許文献2】‘Binaural Cue Coding Applied to Stereo and Multi−Channel Audio Compression’,112th AES convention,Preprint,p5574.
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明が解決しようとする第1の技術的課題は、空間情報を利用して多チャンネルオーディオ信号のサラウンド成分を生かしつつ符号化し、このような多チャンネルオーディオ信号を復号化する空間情報を利用した多チャンネルオーディオ信号処理装置を提供することである。
【0006】
本発明が解決しようとする第2の技術的課題は、空間情報を利用して多チャンネルオーディオ信号のサラウンド成分を生かしつつ符号化し、このような多チャンネルオーディオ信号を復号化する多チャンネルオーディオ信号処理方法を提供することである。
【0007】
本発明が解決しようとする第3の技術的課題は、空間情報を利用して多チャンネルオーディオ信号のサラウンド成分を生かしつつ符号化し、このような多チャンネルオーディオ信号を復号化する圧縮効率向上方法を提供することである。
【0008】
本発明が解決しようとする第4の技術的課題は、空間情報を利用して多チャンネルオーディオ信号のサラウンド成分を生かしつつ符号化し、このような多チャンネルオーディオ信号を復号化する多チャンネルオーディオ信号処理システムを提供することである。
【課題を解決するための手段】
【0009】
前記課題を達成するための本発明に係る多チャンネルオーディオ信号処理装置は、多チャンネルオーディオ信号に含まれるサラウンド成分に空間情報を適用して、前記多チャンネルオーディオ信号をダウンミキシングしてステレオ信号とし、このステレオ信号または前記多チャンネルオーディオ信号を利用して、付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として伝送する主符号化部と、前記符号化信号を受信して前記ステレオ信号と前記付加情報とを復号化し、前記復号化した付加情報を利用して、前記復号化したステレオ信号をアップミキシングして前記多チャンネルオーディオ信号を復元する主復号化部と、を備えることを特徴とする。
【0010】
前記主符号化部は、前記多チャンネルオーディオ信号の前記サラウンド成分に前記空間情報を適用して、前記多チャンネルオーディオ信号をダウンミキシングしてステレオ信号とし、このステレオ信号を出力するダウンミキシング部と、前記ステレオ信号を符号化する副符号化部と、前記ステレオ信号または前記多チャンネルオーディオ信号を利用して、前記符号化信号から前記付加情報を生成する付加情報生成部と、前記付加情報を符号化する付加情報符号化部と、前記符号化した付加情報と前記符号化したステレオ信号とをビットパッキングして前記符号化信号とし、この符号化信号を前記主復号化部に伝送するビットパッキング部と、を備えていても良い。
【0011】
前記ダウンミキシング部は、前記多チャンネルオーディオ信号の前記サラウンド成分以外の非サラウンド成分と加重値とを乗算する第1乗算部と、前記サラウンド成分と前記空間情報とを乗算する第2乗算部と、前記第1乗算部で乗算した結果と前記第2乗算部で乗算した結果とを合成して前記ステレオ信号とし、このステレオ信号を出力する合成部と、を備えていても良い。
【0012】
前記主復号化部は、前記符号化信号を受信してビットアンパッキングし、ビットアンパッキングした付加情報とビットアンパッキングしたステレオ信号とを出力するビットアンパッキング部と、前記ビットアンパッキングしたステレオ信号を復号化する副復号化部と、前記ビットアンパッキングした付加情報を復号化する付加情報復号化部と、前記復号化した付加情報を利用して、前記復号化したステレオ信号をアップミキシングし、このアップミキシングした結果を前記復元した多チャンネルオーディオ信号として出力するアップミキシング部と、を備えていても良い。
【0013】
前記アップミキシング部は、前記復号化したステレオ信号と逆空間情報とを乗算する第3乗算部と、前記復号化したステレオ信号の前記サラウンド成分以外の非サラウンド成分、前記逆空間情報及び前記加重値を乗算する第4乗算部と、前記第3乗算部で乗算した結果と前記第4乗算部で乗算した結果と前記復号化した付加情報とを利用して、前記多チャンネルオーディオ信号を復元する演算部と、を備えていても良い。
【0014】
前記付加情報生成部は、前記符号化信号から前記サラウンド成分を復元するサラウンド成分復元部と、前記復元したサラウンド成分と前記多チャンネルオーディオ信号との比率を計算し、この計算した比率を前記付加情報として出力する比率計算部と、を備えていても良い。
【0015】
前記演算部は、前記第3乗算部で乗算した結果から前記第4乗算部で乗算した結果を減算する第1減算部と、前記第1減算部から入力した前記減算した結果と前記復号化した付加情報とを乗算して前記復元した多チャンネルオーディオ信号とし、この復元した多チャンネルオーディオ信号を出力する第5乗算部と、を備えていても良い。
【0016】
前記付加情報生成部は、前記符号化信号から前記サラウンド成分を復元するサラウンド成分復元部と、前記復元したサラウンド成分と前記ステレオ信号との比率を計算して、この計算した比率を前記付加情報として出力する比率計算部と、を備えていても良い。
【0017】
前記演算部は、前記第3乗算部で乗算した結果と前記復号化した付加情報とを乗算する第6乗算部と、前記第6乗算部で乗算した結果から前記第4乗算部で乗算した結果を減算して前記復元した多チャンネルオーディオ信号とし、この復元した多チャンネルオーディオ信号を出力する第2減算部と、を備えていても良い。
【0018】
前記比率計算部で計算された比率は、電力比(power ratio)を含んでいても良い。
【0019】
前記比率計算部で計算された比率は、位相比をさらに含んでいても良い。
【0020】
前記アップミキシング部は、前記復号化したステレオ信号から前記非サラウンド成分を生成する非サラウンド成分復元部をさらに備えていても良い。
【0021】
前記逆空間情報は、前記復元した多チャンネルオーディオ信号を再生する環境に相応して変更されても良い。
【0022】
前記課題を達成するための本発明に係る多チャンネルオーディオ信号処理方法は、多チャンネルオーディオ信号を符号化する主符号化部及び前記符号化した多チャンネルオーディオ信号から前記多チャンネルオーディオ信号を復号化する主復号化部を備えるオーディオ信号処理装置で行われるオーディオ信号の処理方法において、(a)前記主符号化部が、多チャンネルオーディオ信号に含まれるサラウンド成分に空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、前記ダウンミキシングしてステレオ信号とし、このステレオ信号または前記多チャンネルオーディオ信号を利用して付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として、この符号化信号を前記主復号化部に伝送するステップと、(b)前記主復号化部が、前記主符号化部から伝送された前記符号化信号を受信して、前記ステレオ信号と前記付加情報とを復号化し、この復号化した付加情報を利用して、前記復号化したステレオ信号をアップミキシングして前記多チャンネルオーディオ信号を復元するステップと、を含むことを特徴とする。
【0023】
前記(a)ステップは、前記多チャンネルオーディオ信号の前記サラウンド成分に前記空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、このダウンミキシングした結果を前記ステレオ信号として決定するステップと、前記ステレオ信号を符号化するステップと、前記ステレオ信号または前記多チャンネルオーディオ信号を利用して、前記符号化信号から前記付加情報を生成するステップと、前記付加情報を符号化するステップと、前記符号化した付加情報と前記符号化したステレオ信号とをビットパッキングし、このビットパッキングした結果を前記符号化信号として伝送するステップと、を含んでいても良い。
【0024】
前記(b)ステップは、前記符号化信号を受信してビットアンパッキングし、ビットアンパッキングした付加情報とビットアンパッキングしたステレオ信号とを求めるステップと、前記ビットアンパッキングしたステレオ信号を復号化し、前記ビットアンパッキングした付加情報を復号化するステップと、前記復号化した付加情報を利用して前記復号化したステレオ信号をアップミキシングし、このアップミキシングした結果を前記復元した多チャンネルオーディオ信号として決定するステップと、を含んでいても良い。
【0025】
前記課題を達成するための本発明に係る圧縮効率向上方法は、多チャンネルオーディオ信号に含まれたサラウンド成分に空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、このダウンミキシングした結果であるステレオ信号または前記多チャンネルオーディオ信号を利用して付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として伝送するステップと、前記符号化信号を受信して前記ステレオ信号と前記付加情報とを復号化し、前記復号化した付加情報を利用して前記復号化したステレオ信号をアップミキシングして、前記多チャンネルオーディオ信号を復元するステップと、を含むことを特徴とする。
【0026】
前記課題を達成するための本発明に係る多チャンネルオーディオ信号処理システムは、多チャンネルオーディオ信号に含まれたサラウンド成分に空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、前記ダウンミキシングした結果であるステレオ信号または前記多チャンネルオーディオ信号を利用して付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として伝送する符号化部と、前記符号化信号を受信し、前記受信した符号化信号を復号化して前記ステレオ信号と前記付加情報とを獲得し、前記復号化した付加情報を利用して前記復号化したステレオ信号をアップミキシングして、前記サラウンド成分に提供する復号化部と、を備えることを特徴とする。
【発明の効果】
【0027】
本発明に係る多チャンネルオーディオ信号処理装置、多チャンネルオーディオ信号処理方法、圧縮効率向上方法及び多チャンネルオーディオ信号処理システムは、ダウンミキシングされたステレオ信号に空間情報を含め、しかも、ユーザの知覚的特性に基づいて付加情報を生成するので、例えば、電力比と位相比とを利用して付加情報を生成するので、少量の付加情報のみでもアップミキシングでき、主符号化部から主復号化部に伝送する付加情報のデータ量を減らして、チャンネルの圧縮効率、すなわち、伝送効率を極大化させ、従来のSACとは違って、サラウンド成分を除去せずにステレオ信号に含めるので、復元した多チャンネルオーディオ信号を通じてステレオスピーカのみで多チャンネルの効果を感じられるようにするなど実感のある音質を提供でき、従来のBCCを代替でき、多チャンネルオーディオシステムでスピーカの位置を考慮して効率的に表現された逆空間情報を利用して、オーディオ信号を復号化するので、最適の音質を提供でき、クロストークを除去できる。
【図面の簡単な説明】
【0028】
【図1】本実施形態に係る多チャンネルオーディオ信号処理装置のブロック図である。
【図2】本実施形態に係る多チャンネルオーディオ信号処理方法を説明するためのフローチャートである。
【図3】図1に示した主符号化部の一実施形態を示すブロック図である。
【図4】図2に示したステップ20の一実施形態を説明するためのフローチャートである。
【図5】多チャンネルオーディオ信号を説明するための図面である。
【図6】図3に示したダウンミキシング部の一実施形態を示すブロック図である。
【図7】図1に示した主復号化部の一実施形態を示すブロック図である。
【図8】図2に示したステップ22の一実施形態を説明するためのフローチャートである。
【図9】図7に示したアップミキシング部の一実施形態を示すブロック図である。
【図10】図3に示した付加情報生成部の一実施形態のブロック図である。
【図11】図9に示された演算部の一実施形態を示すブロック図である。
【図12】図9に示す演算部の他の実施形態を示すブロック図である。
【発明を実施するための形態】
【0029】
以下、本発明による空間情報を利用した多チャンネルオーディオ信号処理装置の構成と動作、及び多チャンネルオーディオ信号処理装置で行われる多チャンネルオーディオ信号処理方法を添付した図面を参照して説明する。
【0030】
図1は、本実施形態に係る多チャンネルオーディオ信号処理装置のブロック図である。本実施形態に係る多チャンネルオーディオ信号処理装置は、主符号化部10及び主復号化部12で構成される。
【0031】
図2は、本実施形態に係る多チャンネルオーディオ信号処理方法を説明するためのフローチャートである。本実施形態に係る多チャンネルオーディオ信号処理方法は、多チャンネルオーディオ信号を符号化するステップ(ステップ20)及び符号化された多チャンネルオーディオ信号を復号化するステップ(ステップ22)からなる。
【0032】
図1に示すように、主符号化部10は、入力端子IN1を通じて入力した多チャンネルオーディオ信号に含まれるサラウンド成分に空間情報を適用して多チャンネルオーディオ信号をダウンミキシングしてステレオ信号とし、ステレオ信号または多チャンネルオーディオ信号を利用して付加情報を生成し、ステレオ信号と付加情報とを符号化し、符号化した結果を符号化信号として主復号化部12に伝送する(ステップ20)。
【0033】
ここで、空間情報については‘Introduction to Head−Related Transfer Functions(HRTFs)’という題目でRepresentations of HRTFs in Time、Frequency、and Space、107th AES convention、Preprintに記載された論文のp50に開示されている。
【0034】
ステップ20の後に、主復号化部12は、主符号化部10から伝送された符号化されたステレオ信号と付加情報を受信し、受信した符号化されたステレオ信号と付加情報を利用してステレオ信号と付加情報とを復号化し、復号化した付加情報を利用して復号化したステレオ信号をアップミキシングして多チャンネルオーディオ信号を復元し、復元した多チャンネルオーディオ信号を、出力端子OUT1を通じて出力する(ステップ22)。
【0035】
以下、本実施形態に係るオーディオ信号処理装置の実施形態それぞれの構成及び動作と、各実施形態で行われるオーディオ信号の処理方法とを、添付した図面を参照して、詳細に説明する。
【0036】
図3は、図1に示した主符号化部の一実施形態を示すブロック図である。主符号化部10Aは、ダウンミキシング部30、副符号化部32、付加情報生成部34、付加情報符号化部36及びビットパッキング部38で構成される。
【0037】
図4は、図2に示したステップ20の一実施形態を説明するためのフローチャートである。ステップ20Aは、空間情報を利用して、多チャンネルオーディオ信号をダウンミキシングするステップ(ステップ50)、ステレオ信号と生成した付加情報とを符号化するステップ(ステップ52〜ステップ56)及び符号化した結果をビットパッキングするステップ(ステップ58)からなる。
【0038】
ダウンミキシング部30は、入力端子IN2を通じて入力した多チャンネルオーディオ信号に含まれるサラウンド成分に空間情報を適用して、多チャンネルオーディオ信号を次の式(1)のようにダウンミキシングし、ダウンミキシングした結果をステレオ信号として副符号化部32に出力する(ステップ50)。
【0039】
【数1】

ここで、L及びRは、ダウンミキシングされた結果であるステレオ信号の左側成分と右側成分とをそれぞれ表し、Wは、加重値であり、事前に決定されても可変であってもよく、Fi0及びFi1は、入力端子IN2を通じて入力される多チャンネルオーディオ信号に含まれる成分のうち非サラウンド成分を表し、Sj0及びSj1は、多チャンネルオーディオ信号に含まれる成分のうちサラウンド成分を表し、Nは、非サラウンド成分に含まれるチャンネルの数を表し、Nは、サラウンド成分に含まれるチャンネルの数を表し、Fi0及びSj0において、‘0’は、左側(L:Left)(あるいは右側(R:Right))成分を表し、Fi1及びSj1において、‘1’は、右側(R)(あるいは左側(L))成分を表し、Hは、空間情報を表す空間フィルタの伝達関数を表す。
【0040】
図5は、多チャンネルオーディオ信号を説明するための図面である。多チャンネルオーディオ信号は、非サラウンド成分60、62及び64とサラウンド成分66及び68で構成される。ここで、符号69は、聴取者を表す。
【0041】
図5に示すように、多チャンネルオーディオ信号で非サラウンド成分は、左側チャンネル60(L:Left)と右側チャンネル64(R:Right)及び中央チャンネル62(C:Center)からなるフロント成分からなり、多チャンネルオーディオ信号でサラウンド成分は、右側サラウンドチャンネル(RS:Right Surround)66と左側サラウンドチャンネル(LS:Left Surround)68とからなるとする。このとき、式(1)は、次の式(2)のように簡略化される。
【0042】
【数2】

ここで、
【0043】
【数3】

は、多チャンネルオーディオ信号で非サラウンド成分60、62及び64を表し、
【0044】
【数4】

は、多チャンネルオーディオ信号でサラウンド成分66及び68を表し、
【0045】
【数5】

は、空間情報Hを表す。
【0046】
図6は、図3に示したダウンミキシング部の一実施形態を示すブロック図である。ダウンミキシング部30Aは、第1乗算部70、第2乗算部72及び合成部74で構成される。図6に示すように、ダウンミキシング部30Aの第1乗算部70は、入力端子IN3を通じて入力した加重値と入力端子IN4を通じて入力した多チャンネルオーディオ信号に含まれる非サラウンド成分とを乗算し、乗算した結果を合成部74に出力する。このとき、第2乗算部72は、入力端子IN4を通じて入力した多チャンネルオーディオ信号に含まれるサラウンド成分と空間情報とを乗算し、乗算した結果を合成部74に出力する。合成部74は、第1乗算部70で乗算した結果及び第2乗算部72で乗算した結果を合成し、合成した結果をステレオ信号として出力端子OUT3を通じて出力する。
【0047】
一方、図3及び図4に示すように、ステップ50の後に、副符号化部32は、ダウンミキシング部30から入力したステレオ信号を符号化し、符号化したステレオ信号をビットパッキング部38に出力する(ステップ52)。例えば、副符号化部32は、MP3(または、MPEG−1 layer 3あるいはMPEG−2 layer 3ともいう。)、MPEG4−AAC(Advanced Audio Coding)、MPEG4−BSAC(BSAC:Bit Sliced Arithmetic Coding)形式で、ステレオ信号を符号化できる。
【0048】
ステップ52の後に、付加情報生成部34は、ダウンミキシング部30から入力したステレオ信号または入力端子IN2を通じて入力した多チャンネルオーディオ信号を利用しつつ、ビットパッキング部38から入力した符号化信号(符号化信号については後記する。)から付加情報を生成し、生成した付加情報を付加情報符号化部36に出力する(ステップ54)。ここで、付加情報生成部34の実施形態及びその付加情報の生成についての詳細な説明は後述する。
【0049】
ステップ54の後に、付加情報符号化部36は、付加情報生成部34で生成した付加情報を符号化し、符号化した付加情報をビットパッキング部38に出力する(ステップ56)。このために、付加情報符号化部36は、付加情報生成部34で生成した付加情報を量子化し、量子化した結果を圧縮し、圧縮した結果を符号化した付加情報としてビットパッキング部38に出力できる。
【0050】
本実施形態に係るオーディオ信号の処理方法におけるステップ52は、ステップ54またはステップ56と同時に行ってもよく、ステップ54とステップ56の間に行ってもよく、さらにステップ56とステップ58の間に行ってもよい。
【0051】
ビットパッキング部38は、付加情報符号化部36で符号化した付加情報と副符号化部32で符号化したステレオ信号とをビットパッキングし、ビットパッキングした結果を符号化信号(ビットストリーム状の符号化信号)として主復号化部12(図1参照)に出力端子OUT2を通じて伝送する一方、付加情報生成部34に出力する(ステップ58)。例えば、ビットパッキング部38は、符号化した付加情報と符号化したステレオ信号とを保存した後、保存してある符号化した付加情報を出力した後、符号化したステレオ信号を出力する順次的な動作を反復的に行う。すなわち、ビットパッキング部38は、符号化した付加情報と符号化したステレオ信号とをマルチプレクシングし、マルチプレクシングした結果を符号化信号として出力する。
【0052】
図7は、図1に示した主復号化部の一実施形態を示すブロック図である。主復号化部12Aは、ビットアンパッキング部90、副復号化部92、付加情報復号化部94及びアップミキシング部96で構成される。
【0053】
図8は、図2に示したステップ22の一実施形態を説明するためのフローチャートである。ステップ22Aは、符号化信号をビットアンパッキング(bit unpacking)するステップ(ステップ110)及び付加情報を利用してステレオ信号をアップミキシングするステップ(ステップ112及びステップ114)からなる。
【0054】
図7に示すように、ビットアンパッキング部90は、主符号化部10から伝送されたビットストリーム状の符号化信号を、入力端子IN5を通じて入力して、入力した符号化信号をビットアンパッキングし、ビットアンパッキングした付加情報を付加情報復号化部94に出力し、ビットアンパッキングしたステレオ信号を副復号化部92に出力する(ステップ110)。すなわち、ビットアンパッキング部90は、ビットパッキング部38(図3参照)でビットパッキングした結果をビットアンパッキングする役割を担う。
【0055】
ステップ110の後に、副復号化部92は、ビットアンパッキングしたステレオ信号を復号化し、復号化した結果をアップミキシング部96に出力し、付加情報復号化部94は、ビットアンパッキングした付加情報を復号化し、復号化した結果をアップミキシング部96に出力する(ステップ112)。前述したように、付加情報符号化部36(図3参照)が付加情報を量子化し、量子化した結果を圧縮するとき、付加情報復号化部94は、付加情報を復元し、復元した結果を逆量子化し、逆量子化した結果を復号化した付加情報としてアップミキシング部96に出力する。
【0056】
ステップ112の後に、アップミキシング部96は、付加情報復号化部94で復号化した付加情報を利用して、副復号化部92で復号化したステレオ信号をアップミキシングし、アップミキシングした結果を復元した多チャンネルオーディオ信号として出力端子OUT4を通じて出力する(ステップ114)。
【0057】
図9は、図7に示したアップミキシング部の一実施形態を示すブロック図である。図9に示すように、アップミキシング部96Aは、第3乗算部130、第4乗算部134、非サラウンド成分復元部132及び演算部136で構成される。
【0058】
図9に示すように、第3乗算部130は、入力端子IN6を通じて副復号化部92(図7参照)から入力した復号化したステレオ信号と逆空間情報Gとを乗算し、この乗算した結果を演算部136に出力する。ここで、逆空間情報Gとは、次の式(3)のように、空間情報Hの逆に該当する。なお、逆空間情報Gは、主復号化部12(図1参照)で復元される多チャンネルオーディオ信号を再生する環境に相応して変更されてもよく、事前にあらかじめ決定してもよい。
逆空間情報Gを主復号化部12で復元される多チャンネルオーディオ信号を再生する環境に相応して変更するとは、空間情報Hを設定したときと、スピーカセッティング(speaker setting)が異なる場合に、変更したスピーカセッティングに基づき、空間情報Hを変更し、式(3)から逆空間情報Gを求めることを意味している。また、変更したスピーカセッティングに適合した逆空間情報Gを求めることであってもよい。
【0059】
【数6】

非サラウンド成分復元部132は、入力端子IN6を通じて副復号化部92(図7参照)から入力した復号化したステレオ信号から非サラウンド成分を生成し、生成した非サラウンド成分を第4乗算部134に出力する。例えば、図3に示したダウンミキシング部30が、前述した式(2)のように、多チャンネルオーディオ信号をダウンミキシングする場合、非サラウンド成分復元部132は、次の式(4)のように、非サラウンド成分を生成できる。
【0060】
【数7】

ここで、L´は、非サラウンド成分復元部132で生成した非サラウンド成分のうち、左側(チャンネル)成分を表し、R´は、非サラウンド成分復元部132で生成した非サラウンド成分のうち、右側(チャンネル)成分を表し、C´は、非サラウンド成分復元部132で生成した非サラウンド成分のうち、中央(チャンネル)成分を表し、L´は、副復号化部92で復号化したステレオ信号の左側(チャンネル)成分を表し、R´は、副復号化部92で復号化したステレオ信号の右側(チャンネル)成分をそれぞれ表す。
【0061】
第4乗算部134は、非サラウンド成分復元部132から入力した非サラウンド成分、逆空間情報G及び加重値Wを乗算し、乗算した結果を演算部136に出力する。ここで、アップミキシング部96Aは、非サラウンド成分復元部132を設けなくても良い。その場合、復号化したステレオ信号のサラウンド成分以外の非サラウンド成分は、外部からアップミキシング部96Aの第4乗算部134に入力端子IN7を通じて直接入力される。
【0062】
演算部136は、第3乗算部130で乗算した結果、第4乗算部134で乗算した結果及び入力端子IN8を通じて付加情報復号化部94(図7参照)から入力した復号化した付加情報を利用して、多チャンネルオーディオ信号を復元し、復元した多チャンネルオーディオ信号を、出力端子OUT4を通じて出力する。
【0063】
図10は、図3に示した付加情報生成部の一実施形態のブロック図である。図10に示すように、付加情報生成部34Aは、サラウンド成分復元部150及び比率計算部152で構成される。
【0064】
サラウンド成分復元部150は、入力端子IN9を通じてビットパッキング部38(図3参照)から入力した符号化信号からサラウンド成分を復元し、復元したサラウンド成分を比率計算部152に出力する。
【0065】
このために、サラウンド成分復元部150は、図10に示すように、例えば、ビットアンパッキング部160、副復号化部162、付加情報復号化部164及びアップミキシング部166として具現することが可能である。ここで、ビットアンパッキング部160、副復号化部162、付加情報復号化部164及びアップミキシング部166は、図7に示すビットアンパッキング部90、副復号化部92、付加情報復号化部94及びアップミキシング部96それぞれと同じ機能なので、ここで、それらについての詳細な説明は省略する。
【0066】
図10に示す比率計算部152は、サラウンド成分復元部150から出力される復元したサラウンド成分と入力端子IN10を通じて入力した多チャンネルオーディオ信号との比率を計算し、この計算した比率を付加情報として出力端子OUT5を通じて付加情報符号化部36(図3参照)に出力する。例えば、図3に示すダウンミキシング部30が、前述した式(2)のようにダウンミキシングする場合、比率計算部152は、次の式(5)のように付加情報を生成できる。
【0067】
【数8】

ここで、SIは、比率計算部152で生成される付加情報を表し、LS´は、サラウンド成分復元部150で復元した、例えば、アップミキシング部166から出力される復元した多チャンネルオーディオ信号に含まれるサラウンド成分のうち、左側成分を意味し、RS´は、アップミキシング部166から出力される復元した多チャンネルオーディオ信号に含まれるサラウンド成分のうち、右側成分をそれぞれ意味する。
【0068】
本実施形態において、比率計算部152により前述した式(5)のように生成された付加情報の比率は、電力比となってもよく、電力比及び位相比となってもよい。例えば、比率計算部152は、付加情報を、次の式(6)のように生成してもよく、次の式(7)のように生成してもよい。
【0069】
【数9】

ここで、|LS´|は、LS´の電力を表し、|LS|は、LSの電力を表し、|RS´|は、RS´の電力を表し、|RS|は、RSの電力をそれぞれ表す。
【0070】
【数10】

ここで、∠LS´は、LS´の位相を表し、∠LSは、LSの位相を表し、∠RS´は、RS´の位相を表し、∠RSは、RSの位相をそれぞれ表す。
【0071】
本発明の他の実施形態によれば、比率計算部152は、サラウンド成分復元部150から出力される復元したサラウンド成分と入力端子IN10を通じてダウンミキシング部30(図3参照)から入力したステレオ信号との比率を計算し、この計算結果を付加情報として出力端子OUT5を通じて付加情報符号化部36(図3参照)に出力する。例えば、ダウンミキシング部30が、前述した式(2)のようにダウンミキシングする場合、比率計算部152は、次の式(8)のように付加情報を生成できる。
【0072】
【数11】

本実施形態によれば、比率計算部152で前述した式(8)により生成した付加情報の比率は、電力比となってもよく、電力比及び位相比となってもよい。例えば、比率計算部152は、付加情報を次の式(9)のように生成してもよく、次の式(10)のように生成してもよい。
【0073】
【数12】

ここで、|L|は、Lの電力を表し、|R|は、Rの電力をそれぞれ表す。
【0074】
【数13】

ここで、∠Lは、Lの位相を表し、∠Rは、Rの位相をそれぞれ表す。
前述したように、比率計算部152が復元したサラウンド成分と多チャンネルオーディオ信号との比率を計算することによって付加情報を生成する場合の、演算部136(図9参照)の構成及び動作は次のようになる。
【0075】
図11は、図9に示された演算部の一実施形態を示すブロック図である。演算部136Aは、第1減算部170及び第5乗算部172で構成される。
【0076】
第1減算部170は、入力端子IN11を通じて入力した第3乗算部130(図9参照)で乗算した結果から入力端子IN12を通じて入力した第4乗算部134で乗算した結果を減算し、減算した結果を第5乗算部172に出力する。このとき、第5乗算部172は、第1減算部170から入力した減算した結果と入力端子IN13を通じて入力した付加情報復号化部94(図7参照)で復号化した付加情報とを乗算し、乗算した結果を復元した多チャンネルオーディオ信号として出力端子OUT6を通じて出力する。
【0077】
例えば、ダウンミキシング部30(図3参照)が、前述した式(2)のように、多チャンネルオーディオ信号をダウンミキシングする場合、第5乗算部172から出力される復元した多チャンネルオーディオ信号のサラウンド成分は、次の式(11)の通りである。
【0078】
【数14】

ここで、
【0079】
【数15】

は、第5乗算部172から出力される復元した多チャンネルオーディオ信号のサラウンド成分を表し、SI’は、復号化した付加情報を表し、
【0080】
【数16】

は、第1減算部170から出力される減算された結果であって、次の式(12)の通りである。
【0081】
【数17】

ここで、
【0082】
【数18】

は、副復号化部92(図7参照)から入力端子IN6を通じて第3乗算部130に入力される復号化したステレオ信号を表し、
【0083】
【数19】

は、非サラウンド成分復元部132で生成した非サラウンド成分を表す。
【0084】
一方、比率計算部152(図10参照)が復元したサラウンド成分とダウンミキシング部30(図3参照)から入力したステレオ信号との比率によって付加情報を生成する場合の、演算部136(図9参照)の構成及び動作は次のようになる。
【0085】
図12は、図9に示す演算部の他の実施形態を示すブロック図である。演算部136Bは、第6乗算部190及び第2減算部192で構成される。
【0086】
第6乗算部190は、入力端子IN14を通じて入力した第3乗算部130(図9参照)で乗算した結果と入力端子IN15を通じて入力した付加情報復号化部94(図9参照)で復号化した付加情報とを乗算し、乗算した結果を第2減算部192に出力する。第2減算部192は、第6乗算部190で乗算した結果から入力端子IN16を通じて入力した第4乗算部134(図9参照)で乗算した結果を減算し、減算した結果を復元した多チャンネルオーディオ信号として出力端子OUT7を通じて出力する。
【0087】
例えば、ダウンミキシング部30(図3参照)が、前述した式(2)により、多チャンネルオーディオ信号をダウンミキシングする場合、第2減算部192から出力される減算した結果である復元した多チャンネルオーディオ信号のサラウンド成分は、次の式(13)の通りである。
【0088】
【数20】

ここで、
【0089】
【数21】

は、第2減算部192から出力される復元した多チャンネルオーディオ信号のサラウンド成分を表し、
【0090】
【数22】

は、第6乗算部190で乗算された結果を表し、
【0091】
【数23】

は、第4乗算部134で乗算された結果を表し、
【0092】
【数24】

は、前述した式(12)の通りである。
【0093】
前述した本実施形態に係る空間情報を利用した多チャンネルオーディオ信号の処理装置及び方法は、復元されたステレオ信号を利用して非サラウンド成分を先に復元した後に、復元された非サラウンド成分を利用してサラウンド成分を復元する。したがって、多チャンネルオーディオ信号を復元するとき、サラウンド成分と非サラウンド成分とを共に復元する時に引き起こされる混線(クロストーク)を除去することが可能となる。
【0094】
本発明は、図面を参照しながら実施形態に基づいて説明されたが、これは、例示的なものに過ぎず、当業者ならば、これから多様な変形及び均等な他の実施形態が可能であるということが分かる。したがって、本発明の真の技術的範囲は、特許請求の範囲に記載の技術的思想によって決定されなければならない。
【0095】
なお、多チャンネルオーディオ信号処理装置、多チャンネルオーディオ信号処理方法は、1つのコンピュータで実現しても良く、また複数のコンピュータで実現しても良い。
【産業上の利用可能性】
【0096】
本発明は、信号処理に関する技術分野に適用可能である。
【符号の説明】
【0097】
10,10A 主符号化部
12,12A 主復号化部
30,30A ダウンミキシング部
32 副符号化部
34,34A 付加情報生成部
36 付加情報符号化部
38 ビットパッキング部
70 第1乗算部
72 第2乗算部
74 合成部
90 ビットアンパッキング部
92 副復号化部
94 付加情報復号化部
96,96A アップミキシング部
130 第3乗算部
132 非サラウンド成分復元部
134 第4乗算部
136,136A,136B 演算部
150 サラウンド成分復元部
152 比率計算部
160 ビットアンパッキング部
162 副復号化部
164 付加情報復号化部
166 アップミキシング部
170 第1減算部
172 第5乗算部
190 第6乗算部
192 第2減算部

【特許請求の範囲】
【請求項1】
多チャンネルオーディオ信号に含まれるサラウンド成分に空間情報を適用して、前記多チャンネルオーディオ信号をダウンミキシングしてステレオ信号とし、このステレオ信号または前記多チャンネルオーディオ信号を利用して、付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として伝送する主符号化部と、
前記符号化信号を受信して前記ステレオ信号と前記付加情報とを復号化し、前記復号化した付加情報を利用して、前記復号化したステレオ信号をアップミキシングして前記多チャンネルオーディオ信号を復元する主復号化部と、
を備えることを特徴とする多チャンネルオーディオ信号処理装置。
【請求項2】
前記主符号化部は、
前記多チャンネルオーディオ信号の前記サラウンド成分に前記空間情報を適用して、前記多チャンネルオーディオ信号をダウンミキシングして前記ステレオ信号としてこのステレオ信号を出力するダウンミキシング部と、
前記ステレオ信号を符号化する副符号化部と、
前記ステレオ信号または前記多チャンネルオーディオ信号を利用して、前記符号化信号から前記付加情報を生成する付加情報生成部と、
前記付加情報を符号化する付加情報符号化部と、
前記符号化した付加情報と前記符号化したステレオ信号とをビットパッキングして前記符号化信号とし、この符号化信号を前記主復号化部に伝送するビットパッキング部と、
を備えることを特徴とする請求項1に記載の多チャンネルオーディオ信号処理装置。
【請求項3】
前記ダウンミキシング部は、
前記多チャンネルオーディオ信号の前記サラウンド成分以外の非サラウンド成分と加重値とを乗算する第1乗算部と、
前記サラウンド成分と前記空間情報とを乗算する第2乗算部と、
前記第1乗算部で乗算した結果と前記第2乗算部で乗算した結果とを合成して前記ステレオ信号とし、このステレオ信号を出力する合成部と、
を備えることを特徴とする請求項2に記載の多チャンネルオーディオ信号処理装置。
【請求項4】
前記主復号化部は、
前記符号化信号を受信してビットアンパッキングし、ビットアンパッキングした付加情報とビットアンパッキングしたステレオ信号とを出力するビットアンパッキング部と、
前記ビットアンパッキングしたステレオ信号を復号化する副復号化部と、
前記ビットアンパッキングした付加情報を復号化する付加情報復号化部と、
前記復号化した付加情報を利用して、前記復号化したステレオ信号をアップミキシングし、このアップミキシングした結果を前記復元した多チャンネルオーディオ信号として出力するアップミキシング部と、
を備えることを特徴とする請求項2に記載の多チャンネルオーディオ信号処理装置。
【請求項5】
前記アップミキシング部は、
前記復号化したステレオ信号と逆空間情報とを乗算する第3乗算部と、
前記復号化したステレオ信号の前記サラウンド成分以外の非サラウンド成分、前記逆空間情報及び前記加重値を乗算する第4乗算部と、
前記第3乗算部で乗算した結果と前記第4乗算部で乗算した結果と前記復号化した付加情報とを利用して、前記多チャンネルオーディオ信号を復元する演算部と、
を備えることを特徴とする請求項4に記載の多チャンネルオーディオ信号処理装置。
【請求項6】
前記付加情報生成部は、
前記符号化信号から前記サラウンド成分を復元するサラウンド成分復元部と、
前記復元したサラウンド成分と前記多チャンネルオーディオ信号との比率を計算し、この計算した比率を前記付加情報として出力する比率計算部と、
を備えることを特徴とする請求項5に記載の多チャンネルオーディオ信号処理装置。
【請求項7】
前記演算部は、
前記第3乗算部で乗算した結果から前記第4乗算部で乗算した結果を減算する第1減算部と、
前記第1減算部から入力した前記減算した結果と前記復号化した付加情報とを乗算して前記復元した多チャンネルオーディオ信号とし、この復元した多チャンネルオーディオ信号を出力する第5乗算部と、
を備えることを特徴とする請求項6に記載の多チャンネルオーディオ信号処理装置。
【請求項8】
前記付加情報生成部は、
前記符号化信号から前記サラウンド成分を復元するサラウンド成分復元部と、
前記復元したサラウンド成分と前記ステレオ信号との比率を計算して、この計算した比率を前記付加情報として出力する比率計算部と、
を備えることを特徴とする請求項5に記載の多チャンネルオーディオ信号処理装置。
【請求項9】
前記演算部は、
前記第3乗算部で乗算した結果と前記復号化した付加情報とを乗算する第6乗算部と、
前記第6乗算部で乗算した結果から前記第4乗算部で乗算した結果を減算して前記復元した多チャンネルオーディオ信号とし、この復元した多チャンネルオーディオ信号を出力する第2減算部と、
を備えることを特徴とする請求項8に記載の多チャンネルオーディオ信号処理装置。
【請求項10】
前記比率計算部で計算された比率は、電力比を含むことを特徴とする請求項6または請求項8に記載の多チャンネルオーディオ信号処理装置。
【請求項11】
前記比率計算部で計算された比率は、位相比をさらに含むことを特徴とする請求項10に記載の多チャンネルオーディオ信号処理装置。
【請求項12】
前記アップミキシング部は、
前記復号化したステレオ信号から前記非サラウンド成分を生成する非サラウンド成分復元部をさらに備えることを特徴とする請求項5に記載の多チャンネルオーディオ信号処理装置。
【請求項13】
前記逆空間情報は、前記復元した多チャンネルオーディオ信号を再生する環境に相応して変更されることを特徴とする請求項5に記載の多チャンネルオーディオ信号処理装置。
【請求項14】
多チャンネルオーディオ信号を符号化する主符号化部及び前記符号化した多チャンネルオーディオ信号から前記多チャンネルオーディオ信号を復号化する主復号化部を備えるオーディオ信号処理装置で行われるオーディオ信号の処理方法において、
(a)前記主符号化部が、多チャンネルオーディオ信号に含まれるサラウンド成分に空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、前記ダウンミキシングしてステレオ信号とし、このステレオ信号または前記多チャンネルオーディオ信号を利用して付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として、この符号化信号を前記主復号化部に伝送するステップと、
(b)前記主復号化部が、前記主符号化部から伝送された前記符号化信号を受信して、前記ステレオ信号と前記付加情報とを復号化し、この復号化した付加情報を利用して、前記復号化したステレオ信号をアップミキシングして前記多チャンネルオーディオ信号を復元するステップと、
を含むことを特徴とする多チャンネルオーディオ信号処理方法。
【請求項15】
前記(a)ステップは、
前記多チャンネルオーディオ信号の前記サラウンド成分に前記空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、このダウンミキシングした結果を前記ステレオ信号として決定するステップと、
前記ステレオ信号を符号化するステップと、
前記ステレオ信号または前記多チャンネルオーディオ信号を利用して、前記符号化信号から前記付加情報を生成するステップと、
前記付加情報を符号化するステップと、
前記符号化した付加情報と前記符号化したステレオ信号とをビットパッキングし、このビットパッキングした結果を前記符号化信号として伝送するステップと、
を含むことを特徴とする請求項14に記載の多チャンネルオーディオ信号処理方法。
【請求項16】
前記(b)ステップは、
前記符号化信号を受信してビットアンパッキングし、ビットアンパッキングした付加情報とビットアンパッキングしたステレオ信号とを求めるステップと、
前記ビットアンパッキングしたステレオ信号を復号化し、前記ビットアンパッキングした付加情報を復号化するステップと、
前記復号化した付加情報を利用して前記復号化したステレオ信号をアップミキシングし、このアップミキシングした結果を前記復元した多チャンネルオーディオ信号として決定するステップと、
を含むことを特徴とする請求項15に記載の多チャンネルオーディオ信号処理方法。
【請求項17】
多チャンネルオーディオ信号に含まれたサラウンド成分に空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、このダウンミキシングした結果であるステレオ信号または前記多チャンネルオーディオ信号を利用して付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として伝送するステップと、
前記符号化信号を受信して前記ステレオ信号と前記付加情報とを復号化し、前記復号化した付加情報を利用して前記復号化したステレオ信号をアップミキシングして、前記多チャンネルオーディオ信号を復元するステップと、
を含むことを特徴とする圧縮効率向上方法。
【請求項18】
多チャンネルオーディオ信号に含まれたサラウンド成分に空間情報を適用して前記多チャンネルオーディオ信号をダウンミキシングし、前記ダウンミキシングした結果であるステレオ信号または前記多チャンネルオーディオ信号を利用して付加情報を生成し、前記ステレオ信号と前記付加情報とを符号化して符号化信号として伝送する符号化部と、
前記符号化信号を受信し、前記受信した符号化信号を復号化して前記ステレオ信号と前記付加情報とを獲得し、前記復号化した付加情報を利用して前記復号化したステレオ信号をアップミキシングして、前記サラウンド成分に提供する復号化部と、
を備えることを特徴とする多チャンネルオーディオ信号処理システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2012−70428(P2012−70428A)
【公開日】平成24年4月5日(2012.4.5)
【国際特許分類】
【出願番号】特願2011−262993(P2011−262993)
【出願日】平成23年11月30日(2011.11.30)
【分割の表示】特願2005−348003(P2005−348003)の分割
【原出願日】平成17年12月1日(2005.12.1)
【出願人】(390019839)三星電子株式会社 (8,520)
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】416,Maetan−dong,Yeongtong−gu,Suwon−si,Gyeonggi−do,Republic of Korea
【Fターム(参考)】