オーディオ信号処理システム及び方法
複数のオーディオ入力信号(15〜19)を処理する方法、装置、及びソフトウェア製品である。この装置は複数の入力信号(15〜19)を受け取り、リスナーがリスニング環境でおそらく聞くであろう反響をシミュレートする遅延反響成分を含む1組の複数の入力・複数出力反響装置(14)出力信号(35〜39)を生成する。この装置には、前記反響装置の出力を受け取る複数入力・2出力フィルター(20〜24)と複数の入力端子が含まれ、左右の耳に対する出力を提供し、リスニング環境に対応する1組の頭部伝達関数とこのリスニング環境でリスナーに方向性を与えることを実行するよう構成される。この装置は、ヘッドフォンを通した出力(47〜48)を聞いているリスナーに、対応する複数の方向に前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持たせる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ヘッドフォン又はそれに類するものを通じてリスナーの周囲に3次元空間オーディオをシミュレートする技術に関し、特に、オーディオシミュレーションのためのコンパクトなシステムを開示する。
【0002】
本発明は、暫定米国特許No.60/519,786、分野番号12,2003、表題オーディオ信号処理システム及び方法 、発明者レイリー他、代理人/整理番号LAKE041‐Pによる優先権を主張する。暫定米国特許No.60/519,786は、参照として本願に組み込まれる。
【背景技術】
【0003】
ヘッドフォンリスナーに対して「アウトオブヘッド(out of head)」オーディオ効果をシミュレートする様々なシステムが提案されてきた。従来のほとんどのヘッドフォン構成ではこの処理が含まれていないため、ステレオラウドスピーカ又は複数構成のラウドスピーカで演奏するようデザインされたオーディオトラックをリスナーがヘッドフォンで聞くとき、そのサウンドは、リスナーの頭の中から聞こえてくるように感じる。
【0004】
ヘッドフォンを用いたリスナーに音源がリスナーの周囲にあるように感じさせることも含めて、空間的広がりのあるオーディオ信号を提供するための多くのシステムが提案され知られている。そのようなシステムの例として、2003年6月3日発明者マクグラースに与えられた米国特許6,574,649及び1996年1月6日出願され発明者マクグラース等に与えられた米国特許出願09/647,260がある。
【0005】
実際のリスニングルームでは、反響が生じることが知られている。ヘッドフォンによる空間的広がりのあるシステムでは、リスニング環境で生じる反響音のシミュレーションを行なうことが好ましい。さらに、ヘッドフォンによる空間的広がり及び反響のシミュレーションを適正な価格、例えば、コンピュータにかかる負荷が比較的少なくなるようにして提供することが好ましい。
【0006】
例えば、このような空間的広がりのあるシステムで生成されて適切に処理され、そして標準的なヘッドフォンにより発せられたオーディオ信号を聞くとき、リスナーの頭部に対して適切な位置にラウドスピーカ、ここでは「仮想的な」ラウドスピーカと呼ぶ、があるような印象をリスナーに与えたほうがよい。さらに、リスナーには、好ましいリスニング環境で聞いているような印象を与えることが好ましい。したがって、空間的広がりのあるシステムに組み込まれた空間的広がりを持たせるための処理は、自然な音の聞こえる好ましいリスニング環境における音響エコーのシミュレーションを行うべきである。例えば、この処理により生成された音響エコーのパターンは、実際的で自然な部屋の音響感覚を提供するために、仮想的な信号を複数の互いに相関性のない異なった到着時間となるようにすべきである。さらには、このような空間的広がりのあるシステムは、複数の仮想的なラウドスピーカの位置を定め、それぞれ異なった位置に「仮想され」る複数のオーディオ入力信号を受け入れ直ちにそのシステムでシミュレートすることが好ましい。
【発明の開示】
【0007】
本発明の1つの特徴によれば、ヘッドフォン又はそれに類するものを用いたとき、リスナーの周囲にオーディオの空間的広がりを与えるものであり、この空間的広がりには、リスニング環境に生じるエコーのシミュレーションが含まれる。
【0008】
ここで開示するのは複数の入力オーディオ信号を処理するための装置である。この装置には、複数の入力信号を受け取る入力端子が含まれる。さらにこの装置には、複数の入力信号を受け入れリスニング環境でリスナーが聞くような反響をシミュレートするよう生成された遅延反響成分を含む1組の出力信号を生成する複数入力、複数出力反響装置が含まれる。この装置にはさらに、入力が反響装置の出力に接続された複数入力、2出力フィルターが含まれる。このフィルターの入力はまた複数の入力端子につながれている。このフィルターは、1つは左の耳、もう1つは右の耳への2つの出力をもち、リスニング環境に対応する1組の頭部伝達関数が組み込まれ、このリスニング環境でリスナーに方向性を与えるように構成されている。この2出力はヘッドフォンを通して再生可能である。ヘッドフォンを介したリスニング環境で左右の出力信号を聞いているリスナーは、それぞれ対応する複数の方向を形成してリスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つ。
【0009】
この反響装置の1実施の形態において、反響装置は、反響成分を形成し、受領した複数の入力信号に結合させることを含む、少なくとも1つの反響成分の形成を行うよう構成される。このような実施の形態において、反響装置は、各入力信号をそれぞれ違うように処理するよう構成される。ここでは、また、複数の入力オーディオ信号を処理する方法を開示する。本方法には、複数の入力信号を受け取り、この複数の入力信号から反響装置からの1組の出力信号を生成するステップが含まれる。この出力信号を生成するステップには、リスニング環境でリスナーがおそらく聞くような反響をシミュレートする時間遅れのある反響成分を形成するステップが含まれる。本方法にはさらに、入力信号と反響信号の組み合わせをフィルタリングし、左右の耳への2つの信号を生じさせるステップが含まれる。フィルターはリスニング環境に対応する頭部伝達関数を実行し、また、リスニング環境におけるリスナーへ方向性を与える。ヘッドフォンを介したリスニング環境で左右の出力信号を聞いているリスナーは、それぞれ対応する複数の方向を形成してリスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数の入力オーディオ信号を聞いているようかのような感覚を持つ。
【0010】
加えて、ここに開示されるのは、複数の入力オーディオ信号を処理する方法を実行する処理システムのプロセッサに命令を与えるコンピュータ読み取り可能な少なくとも1つのコードセグメントを搬送する搬送媒体である。この方法には、上記したステップが含まれる。
【発明を実施するための最良の形態】
【0011】
本発明の好ましい実施の形態を添付図面を参照して説明する。
【0012】
ここに記載するのは、例えばヘッドフォンを介して聞いているリスナーに部屋に置かれた1組のラウドスピーカを聞いているような感覚を提供する、その部屋での反響のシミュレーションも含んだ、ヘッドホン又はラウドスピーカで再生することのできる信号を作る方法又は装置である。本発明の実施の形態がヘッドフォンで再生するよう設計されているが、マルチチャンネル環境でリアルな雰囲気を作るようなラウドスピーカによる再生システムに用いるような実施の形態も可能である。
【0013】
図1は、当業者によく知られたオーディオ投射概念を示す。リスナー7が音源3からのサウンドにさらされると、放射された信号がそれぞれ2つの経路2Lと2Rと通って直接リスナーの左右の耳に伝達される。ここで、参照数字又は記号において「R」と「L」はそれぞれリスナーの左耳と右耳とを示すことに留意すべきである。直接サウンド成分が到着した後、他の反射サウンドがリスナーの耳に到着する。図1は、壁4から反射した5Lと5Rの到着を示す。壁4の音響特性は、一般にエコー5Lと5Rの周波数応答のような音響特性に影響を及ぼす。図1は、ヘッドフォンを介して両耳で聞いているリスナーが体験するであろうリスニング環境を示している。ヘッドフォンで聞いているリスナーがリスナーの周囲の空間的に異なった位置に置かれたラウドスピーカから部屋の中で聞いているような体験を味わう状態を作ることが好ましい。
【0014】
図2は、図1のリスニング環境において音源からリスナーの左右の耳へのインパルス応答の一例を示す。すなわち、図1は、インパルス音源3から耳へ到着したものを示す。左耳に到着したサウンドは2L、5L、及び8Lで示し、右耳に到着したサウンドは2R、5R、及び8Rで示す。このインパルス応答2Lと5Lは、図1で示した直接伝達経路と反射伝達経路に対応する。波形8Lはエコーとしての他の到着分、おそらく部屋の他の面から反射したものを示す。これらの3つの到着エコーは、図2に示すように、3つの分離した到着サウンドを示す。一般に、時間をかけて一連のサウンドが連続的に到着し、時間の経過とともに到着エコーの時間密度は急激に増加し、到着エコーの密度は時間とともに減少する。
【0015】
図2で示した波形は例として描いたものであるが、実際の聴取において一般に生じる形を表現したものである。例えば、左耳に到着した直接サウンド2Lは、右耳に到着した直接サウンド2Rより到着時間が早く高いピーク値を持つ。これは、図1に示した、音源3はリスナーの左耳に近いという状態を踏まえたものである。同様に、図2は左右の耳の応答を示し、図1でエコー5として示した、ユーザーの右耳に到着するエコー成分を含み、インパルス応答5Rとして示したように、左耳(インパルス応答5L)に到着したものより振幅が大きく早く到着している。
【0016】
例えば図2の2Lのように、1つのサウンド到着分に対応するインパルス応答の形状は、しばしば、サウンドの位置に対するリスナーの耳の頭部インパルス応答(HRIR)と言われる。HRIRは、しばしば周波数領域で定義され、この場合、頭部伝達関数(HRTF)と呼ばれる。これらの用語は互いに互換性がある。2Lのようなリスナーの左耳のHRTFは、対応するリスナーの右耳のHRTFとともに用いなければほとんど意味を成さないので、一般に、HRTFは、一対で特定される。これには通常1つの例外があり、それは、左右の耳が同じサウンドを聞くような中間平面からリスナーに到着するサウンドに対して起こる。特定のリスナーの解剖学的な非対称性をシミュレートすることを目的としない限り、これらの中間平面からのサウンド到着分は、左右のHRTFは一般的に同じである。
【0017】
本発明の1実施の形態には、反響、すなわちエコーの発生を含む音響環境をシミュレートする方法が含まれている。他の実施の形態は、この環境をシミュレートすることを含む装置である。本発明の他の実施の形態は、例えばヘッドフォンにより再生する信号を生成する方法である。この方法は、生成された信号をヘッドフォンを介してリスナーが再生した時、リスナーにリスニング環境にあるような感覚を与えるような音響環境をシミュレートするステップが組み込まれている。これには、リスナーの頭部との関連で仮想的なラウドスピーカが空間に適切な位置に配置されたような印象をリスナーが持つことが含まれている。他の実施の形態は、再生用の信号を生成する装置である。
【0018】
本発明の実施の形態では、それぞれ空間中の異なった位置に対応する入力オーディオ信号を受け取り、それぞれ空間中の異なった位置にある複数の仮想的なラウドスピーカから複数のオーディオ信号を聞いているような印象をリスナーに与えるような再生をヘッドフォンで行うように信号を処理する。このようにして、複数の仮想的なラウドスピーカの位置が定められる。
【0019】
本発明のさらなる実施の形態では、部屋で自然に生じるような音響エコーのシミュレーションを含むオーディオ信号の再生装置を提供する。本実施の形態の1つの方法では、複数の仮想的なラウドスピーカの位置が定められ、各仮想的なラウドスピーカについてのエコーの到着パターンを作る。このパターンは、各仮想的なラウドスピーカの位置により違ったものとすることができる。他の形態においては、このパターンは、リスナーに対する相対的な各仮想的なラウドスピーカの方向に対して無相関に作ることができる。本願の発明者は、異なった仮想的なラウドスピーカの方向に対して実質的に無相関にパターンを作ることがリアルで自然な部屋で音響感覚を与えることを見出した。
【0020】
仮想的なラウドスピーカの域は、各位置におけるHRTFペアの知識又は想定から作られる。方向処理ではHRTFフィルターペアを用いる。
【0021】
本発明の1つの特徴によれば、再生信号を生成するために入力を処理する装置が必要とする計算能力及び記憶容量が少なくてすむ。これを実行するために多くの設計上の選択肢がある。1つの形態はサウンドが到着する方向の数を限定することである。方向の数を限定することにより、すべての方向に対して必要とする方向処理を、フィルターペアのバンクを組み込む少ないフィルターを用いる複数入出力フィルターHRTFを用いて実行することが可能となる。1実施の形態において、直接的な各サウンド及び別々に到着するすべてのエコーは、HRTFフィルターバンクのHRTFフィルターペアの1つを介して送られる。必要とする計算能力及び記憶容量を少なくするような他の形態は、エコーの到着を生じさせるために複数入出力の反響装置で用いられる。この反響装置は、再帰形フィルター構造を用いる。例えば、エコーの到着を生じさせるための複数入出力の反響装置を提供するためのフィードバックが含まれる構成を用いる。
【0022】
本発明の1実施形態の装置は図12に示され、デジタル信号プロセッサ(DSP)、特にDSP装置153とプログラム命令を具備するメモリ155を含むDSPシステムを用いて実施される。この装置には、オーディオ信号を受け取るための入力端子と、1つは左耳1つは右耳用の2つの出力とが含まれる。本願発明者は、DSPシステムとしてモトローラ社(ショウンバーグ、イリノイ州)のモトローラ56000DSPが特に適切であることを見つけた。当業者であればこのようなボードの操作とプログラミングには簡単に精通することができるものと想定する。従って、本発明の1実施の形態では、例えばメモリや記憶装置などの、ここに記載した方法のステップを含む方法を実行する処理システムのプロセッサに命令を与えるコンピュータ読み取り可能な命令セグメントを持つ可搬媒体の形態を持つ。さらに、1実施の形態では、5チャンネル入力でヘッドフォンディジタル再生するように設計される。この実施の形態において、入出力がアナログである場合、入力をディジタル化し、アナログ出力を生成するためのアナログ・デジタル変換器及びデジタル・アナログ変換器が含まれる。アナログ・デジタル変換器157の例とアナログ・デジタル変換器158の例が図12に示されている。1実施の形態において、入力は5.1チャンネルドルビーディジタル(登録商標)信号の形式ですでにディジタルとなっており、入力に対してアナログ・デジタル変換器を必要としない。
【0023】
1つの装置の実施の形態が概略的に図3に示されている。この装置には、入力オーディオ信号を受け取るための入力端子が含まれている。入力信号には、それぞれ左、右、中央、左サラウンド(左後とも呼ばれる)右サラウンド(右後とも呼ばれる)チャンネルの、5チャンネル入力信号が含まれる。この信号は、それぞれ対応する加算器35〜39を介して複数入力・複数出力の頭部伝達関数フィルターのそれぞれの入力端子につながれる。複数入力・複数出力フィルターは、1つは右耳1つは左耳への2組の出力を有する。一形態において、信号15〜19のそれぞれは、それぞれ対応する加算器35〜39を介して、対応するHRTFフィルター20,21,22,23及び24に接続される。各HRTFフィルターは、例えばフィルター20の出力30と31のような、左右のフィルター出力を出力する。この場合、この装置は固定された数のサウンド到着方向15〜19を持つことを前提とする。HRTFフィルター20〜24は、すべての方向処理を行うために用いられる。各HRTFフィルターペアは、例えば無エコー室における仮想的なラウドスピーカを想定した位置方向のような、それぞれの方向位置からのリスナーのHRTFを定める。
【0024】
入力信号に加えて、複数チャンネル反響装置14は、これもHRTFフィルターにより処理されるエコーを生成する。複数入力・複数出力反響装置14は、入力信号を受け取りそれぞれが方向の1つである出力信号を生成し、各出力信号には、リスニング環境においてリスナーが聞くであろう反響をシミュレートする遅延反響成分が含まれる。
【0025】
従って、各直接サウンドとすべての個別のエコーの到着はフィルターバンク中のHRTFフィルターを通して供給される。1実施の形態において、各HRTFフィルターは、それぞれ右耳用出力と左耳用出力を出力するため個別の左サブフィルターと右サブフィルターとで構成される。左右のHRTFフィルターは、FIRフィルターとして実施される。
【0026】
複数チャンネル反響装置の1実施の形態は、複数入力を受け取りエコーの到着をシミューレートする複数出力を生成する再帰的(フィードバック)フィルターである。
【0027】
フィルター構成20〜24の左右の出力は、左右の出力47及び48を作るためにそれぞれ左右の加算器12L及び12Rにより別々に加算される。別々の出力47及び48は、ヘッドフォンを用いて再生させるための左右のヘッドフォン出力である。
【0028】
図3とは異なる様々な実施の形態が本発明の技術範囲に含まれる。例えば、1実施の形態において、処理を行う前に中央チャンネル17を左右のチャンネル15及び16に「混入」することにより、中央チャンネル17を省略することができる。これは、中央チャンネルの半分をそれぞれ左右のチャンネルに加えることで実施することができる。このような代替的な実施の形態が図4に示され、ここでは、それぞれ割算器(0.5減衰器)59を通った中央チャンネル52が、左右のチャンネル50及び51に、加算回路(加算器)56及び57を介してそれぞれ加えられる。このような単純化は全体的なコンピュータの負荷を減少させる。この装置の残りの部分は4チャンネル(L’,R’,左サラウンド53,及び右サラウンド54)から2チャンネルへのバイノーラル変換器である。
【0029】
複数チャンネル反響装置14の1実施の形態が図15に示されている。この反響装置は、各複数入力の方向、HRTFフィルターの2出力に対するフィードバック信号経路を有する。各フィードバック信号経路には、ある実施の形態では遅延とフィルターとを結合したものとして、他の実施の形態ではフィルターに続いて個別の遅延線としての、遅延とフィルターが含まれる。
【0030】
図5を参照して、5入力チャンネルの各々は、例えば加算器61,86,87,88,及び89により、それぞれフィードバックされてきた信号と加算され5チャンネルフィードバック経路を形成する。加算された信号は、5×5混合器に入力され、反響装置のフィードバック信号経路の各々につき1つの、5つの混合された信号が形成される。5つの混合された信号は、それぞれ5つの遅延線63〜67とそれぞれ5つのフィルター70〜74とで実行される図5で示した5つの遅延・フィルターユニットに入力される。以下に説明するように、フィルターが遅延線の一部を使うように1実施の形態では各遅延とフィルターを結合させる。
【0031】
5つの遅延線の各々により、それぞれの入力は異なった時間の遅れ(「遅れ長さ」)を有するようになる。5つの遅延線63〜67のそれぞれの出力は、それぞれの加算器の1つ、例えば加算器61にフィードバックされるとき、各信号をフィルターし減衰させる5つのフィルター70〜74のそれぞれに入る。1実施の形態において、フィルターの出力はゲインユニットにより増幅され、複数チャンネルの反響装置の出力80を形成する。ゲインエレメント、例えばゲインエレメント81は、反響レベルが確実に目標とするリスニング環境を正確にシミュレートするよう設定可能なゲインを持つ。それぞれのフィルターは、それぞれのフィードバック信号経路により生成されるエコーに対して周波数とともに変化する好ましい遅延の割合を生じさせ、各遅延は、シミュレートされた目標とするリスニング環境に適した反響パターンを生じさせる。
【0032】
図5に示した実施の形態の代替的な実施の形態も可能である。とりわけこの代替的な実施の形態には、以下の違いがある。
【0033】
*入力点数が変わってもよい。例えば、4入力システムで、4入力のみ入力させる。
【0034】
*入力60には、加算演算を行う前にゲインを掛けてもよい。これは固定点DSP装置において重要であり、ここでは、オーバーフローの防止のため及び/又は反響装置のノイズパフォーマンスを最適化するため、フィードバック信号経路85内部での信号レベルをコントロールする必要がある。
【0035】
*出力ゲインエレメント、例えば81、は省略してもよい。これは、例えば、入力ゲインエレメントが適切なゲインを与えている場合に適している。
【0036】
図5に示したような反響装置は、1以上の加算器61,86〜89を単に省略することにより少ない入力に用いるよう改造してもよい。
【0037】
図3のHRTFフィルター20〜24のバンクの実施の形態は図6に詳細が示されている。例えば、フィルター20は、2つのフィルター30,31として図6に示されている。HRTFに用いられる記号はHRTF(ソース,アウト)であり、ソースは入力チャンネル、つまり、それぞれ左、中央、右、左サラウンド、右サラウンドを表すLF,C,RF,LS,又はRS、の内の1つであり、アウトは、それぞれ左及び右を表すL又はRである。
【0038】
1実施の形態では左右対称であることを前提とする。このような条件の下では、以下の公式が当てはまる。
【0039】
HRTF(LF,L)=HRTF(F,R)
HRTF(LF,R)=HRTF(RF,L)
HRTF(C,L)=HRTF(C,R)
HRTF(LS,L)=HRTF(RS,R)
HRTF(LS,R)=HRTF(RS,L)
【0040】
対称性が保持される場合、フィルターバンクに単純化された実施の形態を用いることができる。そのような実施の形態の1つを図7に示す。この場合、フィルターバンクに入力するLとRの前と後の信号は、それぞれ「シャッフラー(shuffler)」ユニット、例えば前信号は90、サラウンド(後)信号は100、により処理される。各シャッフラーは、和と差の信号を計算する。例えば、シャッフラー90は和と差の信号92及び93をそれぞれ計算し、ここで、和信号は左右の信号の和の半分であり、差信号は左信号から右信号を引いたものの半分である。
【0041】
このようなシャッフラーを使用することで、図6の実施の形態で10個のフィルターバンクが、図7に示すようなフィルター94〜98の5個のフルターに置き換えられる。このようなフィルターの削減とそれによる計算負荷の削減により、入力L,R,LS,及びRSのそれぞれに接続された加算/減算ブロック90及び100が加わった、比較的控えめの計算負荷になる。さらに、加算接合器102及び103が用いられる。例えば、加算接合器103は、右出力信号の計算に用いられ、フィルター95の出力とフィルター98の出力との減算演算が含まれる。
【0042】
再び図5に示した反響装置を参照して、混合器62は5入力と5出力とを持ち従って15のゲイン値を持つ。これらのゲインは5×5マトリックスGで表してもよく、マトリックス式によれば、
【数1】
【0043】
ここでGは、少なくとも1つの出力は複数の入力の結合であるような、非対角5×5マトリックスである。模範的な実施の形態において、Gの要素はGがユニタリーマトリックスになるように選定される。この目的で、この混合器のマトリックスをあらかじめ対角マトリックスで積算することは、あらかじめこのマトリックスにゲインファクタを適用するのと同じであり、この混合器のマトリックスをその後対角マトリックスで積算することは、その後このマトリックスにゲインファクタを適用するのと同じなので、ユニタリーマトリックスは、このマトリックスの入力及び/又は出力におけるスケールファクタ内でユニタリーとなる。
【0044】
本発明の1つの形態では、反響特性の選定が行われ、それには遅延線63〜67における遅れの選定と図5のフィルター70〜74の特性の選定が含まれる。
【0045】
ユニタリーマトリックスを作る多くの方法が知られている。その1つの方法は以下のMatlabコードを用いる。
【0046】
>>X=randn(5);
>>[U,S,V]=svd(X);
>>M=U*VT;
【0047】
ここで、*はマトリックスの乗算でありTは転置演算子(実数値マトリックスであると仮定する)である。このコードは、各要素が例えばランダムなガウス分布を持つランダムな5×5マトリックスのマトリックスXを作ることから始まる。次いで、この方法によればマトリックスXの特異値分解を行い、UとVの両方のマトリックスがユニタリーで、X=USVTである、3つのマトリックス(U,S,及びV)を作る。マトリックスG=UVTは、したがってランダムなマトリックスXから算出されたユニタリーマトリックスとなる。5×5マトリックスGは、反響装置における混合器の係数として用いられる。
【0048】
先に説明したように、厳密なユニタリーマトリックスを対角マトリックスであらかじめ積算することにより及び/又はその後対角マトリックスで積算することにより算出されたどのようなマトリックスも、「ユニタリー」とみなされる。このようなマトリックスは入力及び/又は出力においてゲインをユニタリーにできるからである。
【0049】
他の実施の形態において、候補となるマトリックスは、例えば、上記Matlabコードに記載したような乱数発生器を用いて、リスニングテストに基づき最適なものを選定する。
【0050】
図8は、単一の遅延110とフィルターブロック111の結合を示す。図9は、遅延とフィルターの結合の1実施の形態を示す。この実施の形態のフィルターは、遅延線に入り込むことにより遅延線を用いる1次元(2タップ)のFIRフィルターである。したがって、1実施の形態において、フィルターと遅延は1つの装置で実行される。遅延バッファ121によりオーディオ入力データは、あらかじめ定めた数のサンプル期間分だけ遅延する。遅延線の最後の2つのタップ122及び123は、それぞれ、2つのタップにa1及びa2を乗算する係数乗算器124及び125により、それぞれ乗算される。重み付けがなされたタップから取り出されたの信号は、加算器126により加算されて、遅延されフィルターされた出力を形成する。
【0051】
5個のこのような構成が図5の遅延及びフィルターの実施形態として用いることができる。
【0052】
係数a1及びa2は、フィードバック信号経路における好ましい減衰を与えるよう選択される。
【0053】
図10は、図9で実施された2タップフィルターの典型的な好ましい周波数応答を示す。ゲインマトリックスGをユニタリーにするため、各フィルターのトータルゲインはすべての周波数域で一定値以下でなければならない。
【0054】
フィルター70〜74の各々はそれぞれの係数a1及びa2に対して異なった値の組み合わせを用いる。他の実施の形態では各フィルターに対して同じ係数a1及びa2の値を用いる。
【0055】
ここで、a1及びa2の1つの計算方法について説明する。本発明はこの方法に限定されるものではないが、本発明はこの方法にて満足できる結果が得られることを見出した。
【0056】
この方法によれば、各フィルターは低い周波数での好ましい反響時間と高い周波数での好ましい反響時間とが得られるよう選定される。一般的な環境での反響時間の一般的な値は当業者に知られているか又は当業者は入手可能である。本発明を実施するために、シミュレートした環境のタイプに適した反響時間をユーザーは選択する。
【0057】
低い周波数での好ましい反響時間、RT_lowが選ばれる。高い周波数での好ましい反響時間、DecayRate_highが選ばれる。1実施の形態において、フィルターは低い周波数での好ましい反響時間は、反響装置において低い周波数のオーディオ信号が60dB減衰するような時間となり、高い周波数での好ましい反響時間は、反響装置において高い周波数のオーディオ信号が60dB減衰するような時間となる。RT_lowの一般的な値は200msから5sの間となり、それより長い値も可能である。また、RT_highの一般的な値は50msから100msの間となる。
【0058】
この2つのRT値は、それぞれDecayRate_low及びDecayRate_highで表される対応する遅延率に変換され、以下のようにdB/secondで表される。
【0059】
DecayRate_low=60/RT_low、及び
DecayRate_high=60/RT_high
反響装置における各遅延とフィルターペアについて、a1及びa2の値は以下のように計算される。
【0060】
a1=(LowFreqGain+HighFreqGain)/2、及び
a2=(LowFreqGain−HighFreqGain)/2
ここで、
LowFreqGain=10(Decayrate_low×DelayTime)/20、及び
HighFreqGain=10(Decayrate_high×DelayTime)/20
【0061】
ここで、DelayTimeは秒単位で表した対応する遅延の長さである。以下にどのようにして各遅延線の長さを選択するかを記載する。
【0062】
従って、フィルター係数a1及びa2は、DelayTime(秒単位で表した遅延の長さ)の関数である。このことにより確実に反響オーディオ信号のすべての成分が1秒当たりの同一の減衰係数で減衰することとなる。かくして、フィルターの減衰は対応する時間遅れに基づくこととなる。
【0063】
この遅延線は最適な長さの範囲に設定される。5チャンネル反響装置にこれらのL0,L1,...,L5を適用する。1実施の形態では、L0,L1,...,L5の設定において共通の係数がないように設定する。さもなければ、反響装置は高密度の反響インパルス応答を得ることができないかもしれない。1実施の形態において、一般に、シミュレートされた部屋内で、最初に到着するエコーの遅れ時間にほぼ等しくなるよう各遅延線を設定する。好ましい1実施の形態では、この遅れは2.5ミリセカンドから4.5ミリセカンドの間の長さとなる。この遅れ長さは、エコーパターンが各HRTF方向に対して相関がなくなるように選定される。
【0064】
上記実施の形態の1つの特徴は、比較的少ない数のHRTF方向のみを、反響音の空間的広がりを提供するために使うことができることである。本願発明者は、反響音の「フルサラウンド」効果は、比較的少ない数空間方向によってのみ生じることを見出した。
【0065】
ここで示した1実施の形態において、このようなHRTF方向の数は複数の入力信号の仮想的な方向に対応する。このことは必須ではない。例えば、入力方向の数より少ない方向の数又は多い方向の数を用いてもよい。入力方向は5であるが、上記例では中央チャンネルを省略したので4方向のHRTFを用いた。入力信号より多くの方向を用いることも可能である。
【0066】
このように、上述の実施の形態は4又は5の入力を持つサラウンドサウンド信号をバイノーラル化するものであるが、他の構成にもこの方法を適用することができる。
【0067】
一例として図11に、ステレオ出力47及び48を生成するために、2つの入力方向に対応する2つの(ステレオ)入力131及び132を処理するのに適した装置の実施の形態が示されている。2入力5出力複数チャンネル反響装置134は、2入力方向を含む5方向へのサウンド信号を生成する。1対の加算器135,136は反響装置の左右のチャンネル出力をその入力信号に加算する。反響装置の左右の信号、中央出力、左サラウンド出力、及び右サラウンド出力はHRTFフィルターペアのバンクへ入力され、各々左右の出力を生成する。左右のHRTFフィルター出力はそれぞれ加算されそれぞれ左右の出力47及び48を形成する。HRTFフィルターのバンク137及び138は、例えば図7の構成を用いて実施してもよい。この反響装置は、左右の(フロント)チャンネルとして2入力のみ受け入れる点を除き、複数入力のそれぞれの方向に1つの5つのフィードバック信号経路と、2つのHRTFフィルター出力を持ち、先に図5を参照して説明したものと同様である。このHRTFフィルターのHRTFペアは、望みの環境に従って選択される。
【0068】
このようにして、一定の場所に置かれた一そろいの仮想的なラウドスピーカから聞くような感覚をリスナーに与える、ヘッドフォンで聞くことのできる信号を生成するための方法と装置が開示された。この装置は、HRTFフィルターペアのバンクに関連して複数チャンネルの反響装置を用いる。この複数チャンネルの反響装置には、仮想的なスピーカの各場所に対する内部的なフィードバック信号経路が含まれる。各フィードバック信号経路は対応するHRTFフィルターペアに接続される。この反響装置には、混合マトリックスで記述可能な混合器が含まれる。本願発明者は、低く正しい周波数で望ましい減衰率を与えるためにフィードバック信号経路に置いたフィルターとともにユニタリー混合マトリックスを反響装置に用いることにより、比較的少ない数のHRTF方向を用いるだけで、一般的なリスニングルームの反響音を有する心地良いサラウンドサウンド体験を生み出すことを見出した。
【0069】
上記説明において、当業者にとって明らかなことなので、多くの詳細を省略したことに留意すべきである。例えば、共通のスケールファクタを示していない。従って、例えば、混合マトリックスGとしてユニタリーマトリックスが好ましいと説明したとき、これは対角マトリックスで先に乗算すること及び/又は後で乗算することの範囲においてユニタリーであることを意味することを、当業者は理解するであろう。さらに、実施に当たって、さらなるスケーリングが要求されるかもしれない。例えば、固定小数点演算が構成要素として用いられた場合である。
【0070】
フィルター係数、遅延線の長さ、混合マトリックスエレメントのような、環境に依存する、異なった設定のパラメータが、特定のリスニング環境、例えば実際に特定のリスニング環境に分類されるリスニングルーム、に対して必要となることに留意すべきである。あらゆる特有の様式の部屋に対して同じパラメータを用いることもできる。従って、本発明の方法に用いられる信号プロセッサは、DSPシステムのメモリの中に異なった環境のそれぞれに対応して異なったパラメータのセット、例えば、大きなコンサートホールに対するパラメータのセット、室内装飾用カーテンのある小さなリビングルームに対するパラメータのセット、その他のパラメータのセットが組み込まれる。ユーザーはこの様式に従って適切なリスニング環境を選択する。
【0071】
ここに記載した方法の各々の実施の形態では、例えば、DSPシステムの一部である1以上のDSP装置のような、処理システムを実行するコンピュータプログラムの形を取る。上述の各構成にどのようにDSPシステムを組み込むかは当業者には明らかであろう。あるいは、各エレメントは、Verilogのような言語でコード化してもよく、図示した構成を実施する用設計した集積回路としてもよい。従って、当業者の好みにより、本発明の実施形態は、方法、特定目的の装置のような装置、データ処理システムのような装置、又は例えばコンピュータプログラム製品としての可搬媒体として実施してもよい。この可搬媒体は、方法を実施するための処理システムを制御するためのコンピュータ読み取り可能な1以上のコードセグメントを持っている。従って、本発明の形態は方法の形式、完全にハードウェアの実施の形態、完全にソフトウェアの実施の形態、又はソフトウェアとハードウェアを組み合わせた形態をとることができる。さらに、本発明は、媒体に組み込まれたコンピュータ読み取り可能なコードセグメントを持つ可搬媒体(例えばコンピュータ読み取り可能な記憶媒体中に記述されたコンピュータプログラム)の形を取ることもできる。ディスケットやハードディスクのような磁気記憶装置や、CD‐ROMのような光学記憶装置を含むどのようなコンピュータ読み取り可能な媒体を用いてもよい。
【0072】
このソフトウェアは、さらにネットワークインターフェース装置を経由してネットワークを介して伝送してもよい。模範的な実施の形態にて可搬媒体を単一の媒体で示したが、用語「可搬媒体」には、単一媒体又は複数媒体(例えば、集中型又は分散型データベース及び/又は付随するキャシュ及びサーバー)が含まれる。また、用語「可搬媒体」には、記憶すること、エンコーディングすること、又は1以上の本発明の方法を機械に実施させるための機械により実行させるための命令を有することのできるすべての媒体が含まれる。可搬媒体は、揮発性媒体、不揮発性媒体、及び伝達媒体を含むがそれに限られない多くの形態を取ることができる。不揮発性媒体には、例えば、光学、磁気ディスク、及び光磁気ディスクが含まれる。揮発性媒体には、主メモリのようなダイナミックメモリが含まれる。伝達媒体には、同軸ケーブル、バスシステムを構成する電線を含む銅線及び光ファイバが含まれる。伝達媒体は、ラジオは及び赤外線データ通信で作られる音波又は光波の形を取ることもできる。例えば、用語「可搬媒体」には、半導体メモリ、光学媒体及び磁気媒体、及び搬送波信号が含まれるがそれに限られない。
【0073】
説明した方法におけるステップは、1実施の形態において、記憶装置に記憶された命令(コードセグメント)を実行する処理(即ち、コンピュータ)システムの適切なプロセッサ(又は2個以上のプロセッサ)により実行されることは了解されよう。また、本発明は、特定の実施形態又はプログラム技法に限定されず、また、本発明は、ここに記載された機能を実施するためのあらゆる適切な技法を用いて実施することが可能なことが了解されよう。本発明は、特定のプログラミング言語又はオペレーティングシステムに限定されない。
【0074】
本明細書全体を通して「1実施の形態」又は「ある実施の形態」は、実施の形態との関連で記載された特定の形態、構成又は特徴が、本発明の少なくとも1つの実施の形態に含まれることを意味する。従って、本明細書全体を通して様々な場所で使われる「1実施の形態において」又は「ある実施の形態において」は、必ずしも全てが同じ実施の形態を言及しているわけではない。さらに、特定の形態、構成又は特徴は、本明細書で開示された1以上の実施の形態から当業者に明らかな、適切な方法で結合することができる。
【0075】
同様に、上記本発明の模範的な実施の形態の記載において、本発明の様々な形態は、開示を合理的にするために、及び、1以上の様々な発明の特徴の理解の手助けのために、しばしば単一の実施の形態、図、又はその説明がグループ化されていることが分かる。この開示手法は、しかしながら、請求された発明が各請求項に明確に列挙された形態以上のものを必要とするという意図を反映したものとは解釈されない。むしろ、以下の請求項に反映されているように、創作性のある特徴は、開示された前述の単一の実施の形態のすべての特徴より少ない部分に存在する。従って、ここで詳細な説明に続く特許請求の範囲は、明確に詳細な説明に組み込まれ、各請求項は本発明の個別の実施の形態に基づくものである。
【0076】
さらに、ここに記載されたある実施の形態には他の実施の形態に含まれる特徴が含まれる場合もあり、異なった実施の形態の特徴を組み合わせたもの及び当業者が思いつく、異なった実施の形態は本発明の技術範囲に含まれる。例えば、以下の請求項において、請求範囲の実施の形態はあらゆる組み合わせで用いることができる。
【0077】
さらに、いくつかの実施の形態は、他の方法又は、コンピュータシステムのプロセッサにより、又は、その機能を実行する他の手段により実行できる方法の要素の組み合せとして記載されている。従って、このような方法又は方法の要素を実行するために必要な命令が記述されたプロセッサは、本方法又は方法のエレメントを実行するための方法を形成する。さらに、装置の実施の形態としてここに記載された要素は、本発明を実行するための要素により実行される機能を実行する手段の一例である。
【0078】
ここに引用されたすべての刊行物、特許、及び特許出願は参照として組み込まれる。
【0079】
以下の請求項とここの記載において、用語「具備する」又は「からなる」又は「具備することを特徴とする」は記載の要素/特徴を少なくとも含むがそれ以外を除外するものではない「オープン」な用語である。用語「含む」又は「含む(含まれる)ことを特徴とする」又は「含まれる」もまた、記載の要素/特徴を少なくとも含むがそれ以外を除外するものではない「オープン」な用語である。従って、「含む」は、具備すると同義語である。
【0080】
従って、本発明の最適な実施の形態と考えられるものを記載したが、当業者は、他の又はさらなる修正を、本発明の思想から離れることなく認識することができ、このようなすべての変更又は修正は本発明の範囲であることを意味する。例えば、上述の数式は単に用いることのできる手順を代表するものである。ブロック図に機能を追加したり削除したりしてもよく、機能ブロック同士で操作を取り替えてもよい。本発明の発明の範囲内で記載した方法にステップを追加したり削除したりしてもよい。さらに、「具備する」及び「具備している」の用語は、少なくとも要素又はステップを含むというように記載して付加的な要素又はステップを提供する、「含む(含まれる)」及び「含んでいる(含まれている)」の意味である。
【図面の簡単な説明】
【0081】
【図1】リスニング環境とある位置からリスナーがサウンドを聴取するための頭部伝達関数を説明するための概略図である。
【図2】音源がインパルスサウンドであるとき、図1の構成に対してリスナーの耳における一連のサウンドのインパルス応答の概略図である。
【図3】本発明の1実施の形態の概略ブロック図である。
【図4】本発明の第2の実施の形態の概略ブロック図である。
【図5】図3の実施の形態における反響装置の概略ブロック図である。
【図6】図3の実施の形態における頭部伝達関数(HRTF)におけるフィルタリング処理をもっと詳細に示したものである。
【図7】頭部伝達関数(HRTF)におけるフィルタリングの実施の形態を示す。
【図8】図5の実施の形態における遅延とフィルター構成を示す。
【図9】図8の遅延とフィルター構成を実施する1実施の形態のブロック図を示す。
【図10】例えば図9の遅延とフィルター構成により実施されるフィルタリングの例を示す。
【図11】ステレオ信号を処理する1実施の形態の概略ブロック図である。
【図12】アナログ入出力オーディオ持つ本発明のDSPプロセッサの実施の形態を示す。
【技術分野】
【0001】
本発明は、ヘッドフォン又はそれに類するものを通じてリスナーの周囲に3次元空間オーディオをシミュレートする技術に関し、特に、オーディオシミュレーションのためのコンパクトなシステムを開示する。
【0002】
本発明は、暫定米国特許No.60/519,786、分野番号12,2003、表題オーディオ信号処理システム及び方法 、発明者レイリー他、代理人/整理番号LAKE041‐Pによる優先権を主張する。暫定米国特許No.60/519,786は、参照として本願に組み込まれる。
【背景技術】
【0003】
ヘッドフォンリスナーに対して「アウトオブヘッド(out of head)」オーディオ効果をシミュレートする様々なシステムが提案されてきた。従来のほとんどのヘッドフォン構成ではこの処理が含まれていないため、ステレオラウドスピーカ又は複数構成のラウドスピーカで演奏するようデザインされたオーディオトラックをリスナーがヘッドフォンで聞くとき、そのサウンドは、リスナーの頭の中から聞こえてくるように感じる。
【0004】
ヘッドフォンを用いたリスナーに音源がリスナーの周囲にあるように感じさせることも含めて、空間的広がりのあるオーディオ信号を提供するための多くのシステムが提案され知られている。そのようなシステムの例として、2003年6月3日発明者マクグラースに与えられた米国特許6,574,649及び1996年1月6日出願され発明者マクグラース等に与えられた米国特許出願09/647,260がある。
【0005】
実際のリスニングルームでは、反響が生じることが知られている。ヘッドフォンによる空間的広がりのあるシステムでは、リスニング環境で生じる反響音のシミュレーションを行なうことが好ましい。さらに、ヘッドフォンによる空間的広がり及び反響のシミュレーションを適正な価格、例えば、コンピュータにかかる負荷が比較的少なくなるようにして提供することが好ましい。
【0006】
例えば、このような空間的広がりのあるシステムで生成されて適切に処理され、そして標準的なヘッドフォンにより発せられたオーディオ信号を聞くとき、リスナーの頭部に対して適切な位置にラウドスピーカ、ここでは「仮想的な」ラウドスピーカと呼ぶ、があるような印象をリスナーに与えたほうがよい。さらに、リスナーには、好ましいリスニング環境で聞いているような印象を与えることが好ましい。したがって、空間的広がりのあるシステムに組み込まれた空間的広がりを持たせるための処理は、自然な音の聞こえる好ましいリスニング環境における音響エコーのシミュレーションを行うべきである。例えば、この処理により生成された音響エコーのパターンは、実際的で自然な部屋の音響感覚を提供するために、仮想的な信号を複数の互いに相関性のない異なった到着時間となるようにすべきである。さらには、このような空間的広がりのあるシステムは、複数の仮想的なラウドスピーカの位置を定め、それぞれ異なった位置に「仮想され」る複数のオーディオ入力信号を受け入れ直ちにそのシステムでシミュレートすることが好ましい。
【発明の開示】
【0007】
本発明の1つの特徴によれば、ヘッドフォン又はそれに類するものを用いたとき、リスナーの周囲にオーディオの空間的広がりを与えるものであり、この空間的広がりには、リスニング環境に生じるエコーのシミュレーションが含まれる。
【0008】
ここで開示するのは複数の入力オーディオ信号を処理するための装置である。この装置には、複数の入力信号を受け取る入力端子が含まれる。さらにこの装置には、複数の入力信号を受け入れリスニング環境でリスナーが聞くような反響をシミュレートするよう生成された遅延反響成分を含む1組の出力信号を生成する複数入力、複数出力反響装置が含まれる。この装置にはさらに、入力が反響装置の出力に接続された複数入力、2出力フィルターが含まれる。このフィルターの入力はまた複数の入力端子につながれている。このフィルターは、1つは左の耳、もう1つは右の耳への2つの出力をもち、リスニング環境に対応する1組の頭部伝達関数が組み込まれ、このリスニング環境でリスナーに方向性を与えるように構成されている。この2出力はヘッドフォンを通して再生可能である。ヘッドフォンを介したリスニング環境で左右の出力信号を聞いているリスナーは、それぞれ対応する複数の方向を形成してリスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つ。
【0009】
この反響装置の1実施の形態において、反響装置は、反響成分を形成し、受領した複数の入力信号に結合させることを含む、少なくとも1つの反響成分の形成を行うよう構成される。このような実施の形態において、反響装置は、各入力信号をそれぞれ違うように処理するよう構成される。ここでは、また、複数の入力オーディオ信号を処理する方法を開示する。本方法には、複数の入力信号を受け取り、この複数の入力信号から反響装置からの1組の出力信号を生成するステップが含まれる。この出力信号を生成するステップには、リスニング環境でリスナーがおそらく聞くような反響をシミュレートする時間遅れのある反響成分を形成するステップが含まれる。本方法にはさらに、入力信号と反響信号の組み合わせをフィルタリングし、左右の耳への2つの信号を生じさせるステップが含まれる。フィルターはリスニング環境に対応する頭部伝達関数を実行し、また、リスニング環境におけるリスナーへ方向性を与える。ヘッドフォンを介したリスニング環境で左右の出力信号を聞いているリスナーは、それぞれ対応する複数の方向を形成してリスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数の入力オーディオ信号を聞いているようかのような感覚を持つ。
【0010】
加えて、ここに開示されるのは、複数の入力オーディオ信号を処理する方法を実行する処理システムのプロセッサに命令を与えるコンピュータ読み取り可能な少なくとも1つのコードセグメントを搬送する搬送媒体である。この方法には、上記したステップが含まれる。
【発明を実施するための最良の形態】
【0011】
本発明の好ましい実施の形態を添付図面を参照して説明する。
【0012】
ここに記載するのは、例えばヘッドフォンを介して聞いているリスナーに部屋に置かれた1組のラウドスピーカを聞いているような感覚を提供する、その部屋での反響のシミュレーションも含んだ、ヘッドホン又はラウドスピーカで再生することのできる信号を作る方法又は装置である。本発明の実施の形態がヘッドフォンで再生するよう設計されているが、マルチチャンネル環境でリアルな雰囲気を作るようなラウドスピーカによる再生システムに用いるような実施の形態も可能である。
【0013】
図1は、当業者によく知られたオーディオ投射概念を示す。リスナー7が音源3からのサウンドにさらされると、放射された信号がそれぞれ2つの経路2Lと2Rと通って直接リスナーの左右の耳に伝達される。ここで、参照数字又は記号において「R」と「L」はそれぞれリスナーの左耳と右耳とを示すことに留意すべきである。直接サウンド成分が到着した後、他の反射サウンドがリスナーの耳に到着する。図1は、壁4から反射した5Lと5Rの到着を示す。壁4の音響特性は、一般にエコー5Lと5Rの周波数応答のような音響特性に影響を及ぼす。図1は、ヘッドフォンを介して両耳で聞いているリスナーが体験するであろうリスニング環境を示している。ヘッドフォンで聞いているリスナーがリスナーの周囲の空間的に異なった位置に置かれたラウドスピーカから部屋の中で聞いているような体験を味わう状態を作ることが好ましい。
【0014】
図2は、図1のリスニング環境において音源からリスナーの左右の耳へのインパルス応答の一例を示す。すなわち、図1は、インパルス音源3から耳へ到着したものを示す。左耳に到着したサウンドは2L、5L、及び8Lで示し、右耳に到着したサウンドは2R、5R、及び8Rで示す。このインパルス応答2Lと5Lは、図1で示した直接伝達経路と反射伝達経路に対応する。波形8Lはエコーとしての他の到着分、おそらく部屋の他の面から反射したものを示す。これらの3つの到着エコーは、図2に示すように、3つの分離した到着サウンドを示す。一般に、時間をかけて一連のサウンドが連続的に到着し、時間の経過とともに到着エコーの時間密度は急激に増加し、到着エコーの密度は時間とともに減少する。
【0015】
図2で示した波形は例として描いたものであるが、実際の聴取において一般に生じる形を表現したものである。例えば、左耳に到着した直接サウンド2Lは、右耳に到着した直接サウンド2Rより到着時間が早く高いピーク値を持つ。これは、図1に示した、音源3はリスナーの左耳に近いという状態を踏まえたものである。同様に、図2は左右の耳の応答を示し、図1でエコー5として示した、ユーザーの右耳に到着するエコー成分を含み、インパルス応答5Rとして示したように、左耳(インパルス応答5L)に到着したものより振幅が大きく早く到着している。
【0016】
例えば図2の2Lのように、1つのサウンド到着分に対応するインパルス応答の形状は、しばしば、サウンドの位置に対するリスナーの耳の頭部インパルス応答(HRIR)と言われる。HRIRは、しばしば周波数領域で定義され、この場合、頭部伝達関数(HRTF)と呼ばれる。これらの用語は互いに互換性がある。2Lのようなリスナーの左耳のHRTFは、対応するリスナーの右耳のHRTFとともに用いなければほとんど意味を成さないので、一般に、HRTFは、一対で特定される。これには通常1つの例外があり、それは、左右の耳が同じサウンドを聞くような中間平面からリスナーに到着するサウンドに対して起こる。特定のリスナーの解剖学的な非対称性をシミュレートすることを目的としない限り、これらの中間平面からのサウンド到着分は、左右のHRTFは一般的に同じである。
【0017】
本発明の1実施の形態には、反響、すなわちエコーの発生を含む音響環境をシミュレートする方法が含まれている。他の実施の形態は、この環境をシミュレートすることを含む装置である。本発明の他の実施の形態は、例えばヘッドフォンにより再生する信号を生成する方法である。この方法は、生成された信号をヘッドフォンを介してリスナーが再生した時、リスナーにリスニング環境にあるような感覚を与えるような音響環境をシミュレートするステップが組み込まれている。これには、リスナーの頭部との関連で仮想的なラウドスピーカが空間に適切な位置に配置されたような印象をリスナーが持つことが含まれている。他の実施の形態は、再生用の信号を生成する装置である。
【0018】
本発明の実施の形態では、それぞれ空間中の異なった位置に対応する入力オーディオ信号を受け取り、それぞれ空間中の異なった位置にある複数の仮想的なラウドスピーカから複数のオーディオ信号を聞いているような印象をリスナーに与えるような再生をヘッドフォンで行うように信号を処理する。このようにして、複数の仮想的なラウドスピーカの位置が定められる。
【0019】
本発明のさらなる実施の形態では、部屋で自然に生じるような音響エコーのシミュレーションを含むオーディオ信号の再生装置を提供する。本実施の形態の1つの方法では、複数の仮想的なラウドスピーカの位置が定められ、各仮想的なラウドスピーカについてのエコーの到着パターンを作る。このパターンは、各仮想的なラウドスピーカの位置により違ったものとすることができる。他の形態においては、このパターンは、リスナーに対する相対的な各仮想的なラウドスピーカの方向に対して無相関に作ることができる。本願の発明者は、異なった仮想的なラウドスピーカの方向に対して実質的に無相関にパターンを作ることがリアルで自然な部屋で音響感覚を与えることを見出した。
【0020】
仮想的なラウドスピーカの域は、各位置におけるHRTFペアの知識又は想定から作られる。方向処理ではHRTFフィルターペアを用いる。
【0021】
本発明の1つの特徴によれば、再生信号を生成するために入力を処理する装置が必要とする計算能力及び記憶容量が少なくてすむ。これを実行するために多くの設計上の選択肢がある。1つの形態はサウンドが到着する方向の数を限定することである。方向の数を限定することにより、すべての方向に対して必要とする方向処理を、フィルターペアのバンクを組み込む少ないフィルターを用いる複数入出力フィルターHRTFを用いて実行することが可能となる。1実施の形態において、直接的な各サウンド及び別々に到着するすべてのエコーは、HRTFフィルターバンクのHRTFフィルターペアの1つを介して送られる。必要とする計算能力及び記憶容量を少なくするような他の形態は、エコーの到着を生じさせるために複数入出力の反響装置で用いられる。この反響装置は、再帰形フィルター構造を用いる。例えば、エコーの到着を生じさせるための複数入出力の反響装置を提供するためのフィードバックが含まれる構成を用いる。
【0022】
本発明の1実施形態の装置は図12に示され、デジタル信号プロセッサ(DSP)、特にDSP装置153とプログラム命令を具備するメモリ155を含むDSPシステムを用いて実施される。この装置には、オーディオ信号を受け取るための入力端子と、1つは左耳1つは右耳用の2つの出力とが含まれる。本願発明者は、DSPシステムとしてモトローラ社(ショウンバーグ、イリノイ州)のモトローラ56000DSPが特に適切であることを見つけた。当業者であればこのようなボードの操作とプログラミングには簡単に精通することができるものと想定する。従って、本発明の1実施の形態では、例えばメモリや記憶装置などの、ここに記載した方法のステップを含む方法を実行する処理システムのプロセッサに命令を与えるコンピュータ読み取り可能な命令セグメントを持つ可搬媒体の形態を持つ。さらに、1実施の形態では、5チャンネル入力でヘッドフォンディジタル再生するように設計される。この実施の形態において、入出力がアナログである場合、入力をディジタル化し、アナログ出力を生成するためのアナログ・デジタル変換器及びデジタル・アナログ変換器が含まれる。アナログ・デジタル変換器157の例とアナログ・デジタル変換器158の例が図12に示されている。1実施の形態において、入力は5.1チャンネルドルビーディジタル(登録商標)信号の形式ですでにディジタルとなっており、入力に対してアナログ・デジタル変換器を必要としない。
【0023】
1つの装置の実施の形態が概略的に図3に示されている。この装置には、入力オーディオ信号を受け取るための入力端子が含まれている。入力信号には、それぞれ左、右、中央、左サラウンド(左後とも呼ばれる)右サラウンド(右後とも呼ばれる)チャンネルの、5チャンネル入力信号が含まれる。この信号は、それぞれ対応する加算器35〜39を介して複数入力・複数出力の頭部伝達関数フィルターのそれぞれの入力端子につながれる。複数入力・複数出力フィルターは、1つは右耳1つは左耳への2組の出力を有する。一形態において、信号15〜19のそれぞれは、それぞれ対応する加算器35〜39を介して、対応するHRTFフィルター20,21,22,23及び24に接続される。各HRTFフィルターは、例えばフィルター20の出力30と31のような、左右のフィルター出力を出力する。この場合、この装置は固定された数のサウンド到着方向15〜19を持つことを前提とする。HRTFフィルター20〜24は、すべての方向処理を行うために用いられる。各HRTFフィルターペアは、例えば無エコー室における仮想的なラウドスピーカを想定した位置方向のような、それぞれの方向位置からのリスナーのHRTFを定める。
【0024】
入力信号に加えて、複数チャンネル反響装置14は、これもHRTFフィルターにより処理されるエコーを生成する。複数入力・複数出力反響装置14は、入力信号を受け取りそれぞれが方向の1つである出力信号を生成し、各出力信号には、リスニング環境においてリスナーが聞くであろう反響をシミュレートする遅延反響成分が含まれる。
【0025】
従って、各直接サウンドとすべての個別のエコーの到着はフィルターバンク中のHRTFフィルターを通して供給される。1実施の形態において、各HRTFフィルターは、それぞれ右耳用出力と左耳用出力を出力するため個別の左サブフィルターと右サブフィルターとで構成される。左右のHRTFフィルターは、FIRフィルターとして実施される。
【0026】
複数チャンネル反響装置の1実施の形態は、複数入力を受け取りエコーの到着をシミューレートする複数出力を生成する再帰的(フィードバック)フィルターである。
【0027】
フィルター構成20〜24の左右の出力は、左右の出力47及び48を作るためにそれぞれ左右の加算器12L及び12Rにより別々に加算される。別々の出力47及び48は、ヘッドフォンを用いて再生させるための左右のヘッドフォン出力である。
【0028】
図3とは異なる様々な実施の形態が本発明の技術範囲に含まれる。例えば、1実施の形態において、処理を行う前に中央チャンネル17を左右のチャンネル15及び16に「混入」することにより、中央チャンネル17を省略することができる。これは、中央チャンネルの半分をそれぞれ左右のチャンネルに加えることで実施することができる。このような代替的な実施の形態が図4に示され、ここでは、それぞれ割算器(0.5減衰器)59を通った中央チャンネル52が、左右のチャンネル50及び51に、加算回路(加算器)56及び57を介してそれぞれ加えられる。このような単純化は全体的なコンピュータの負荷を減少させる。この装置の残りの部分は4チャンネル(L’,R’,左サラウンド53,及び右サラウンド54)から2チャンネルへのバイノーラル変換器である。
【0029】
複数チャンネル反響装置14の1実施の形態が図15に示されている。この反響装置は、各複数入力の方向、HRTFフィルターの2出力に対するフィードバック信号経路を有する。各フィードバック信号経路には、ある実施の形態では遅延とフィルターとを結合したものとして、他の実施の形態ではフィルターに続いて個別の遅延線としての、遅延とフィルターが含まれる。
【0030】
図5を参照して、5入力チャンネルの各々は、例えば加算器61,86,87,88,及び89により、それぞれフィードバックされてきた信号と加算され5チャンネルフィードバック経路を形成する。加算された信号は、5×5混合器に入力され、反響装置のフィードバック信号経路の各々につき1つの、5つの混合された信号が形成される。5つの混合された信号は、それぞれ5つの遅延線63〜67とそれぞれ5つのフィルター70〜74とで実行される図5で示した5つの遅延・フィルターユニットに入力される。以下に説明するように、フィルターが遅延線の一部を使うように1実施の形態では各遅延とフィルターを結合させる。
【0031】
5つの遅延線の各々により、それぞれの入力は異なった時間の遅れ(「遅れ長さ」)を有するようになる。5つの遅延線63〜67のそれぞれの出力は、それぞれの加算器の1つ、例えば加算器61にフィードバックされるとき、各信号をフィルターし減衰させる5つのフィルター70〜74のそれぞれに入る。1実施の形態において、フィルターの出力はゲインユニットにより増幅され、複数チャンネルの反響装置の出力80を形成する。ゲインエレメント、例えばゲインエレメント81は、反響レベルが確実に目標とするリスニング環境を正確にシミュレートするよう設定可能なゲインを持つ。それぞれのフィルターは、それぞれのフィードバック信号経路により生成されるエコーに対して周波数とともに変化する好ましい遅延の割合を生じさせ、各遅延は、シミュレートされた目標とするリスニング環境に適した反響パターンを生じさせる。
【0032】
図5に示した実施の形態の代替的な実施の形態も可能である。とりわけこの代替的な実施の形態には、以下の違いがある。
【0033】
*入力点数が変わってもよい。例えば、4入力システムで、4入力のみ入力させる。
【0034】
*入力60には、加算演算を行う前にゲインを掛けてもよい。これは固定点DSP装置において重要であり、ここでは、オーバーフローの防止のため及び/又は反響装置のノイズパフォーマンスを最適化するため、フィードバック信号経路85内部での信号レベルをコントロールする必要がある。
【0035】
*出力ゲインエレメント、例えば81、は省略してもよい。これは、例えば、入力ゲインエレメントが適切なゲインを与えている場合に適している。
【0036】
図5に示したような反響装置は、1以上の加算器61,86〜89を単に省略することにより少ない入力に用いるよう改造してもよい。
【0037】
図3のHRTFフィルター20〜24のバンクの実施の形態は図6に詳細が示されている。例えば、フィルター20は、2つのフィルター30,31として図6に示されている。HRTFに用いられる記号はHRTF(ソース,アウト)であり、ソースは入力チャンネル、つまり、それぞれ左、中央、右、左サラウンド、右サラウンドを表すLF,C,RF,LS,又はRS、の内の1つであり、アウトは、それぞれ左及び右を表すL又はRである。
【0038】
1実施の形態では左右対称であることを前提とする。このような条件の下では、以下の公式が当てはまる。
【0039】
HRTF(LF,L)=HRTF(F,R)
HRTF(LF,R)=HRTF(RF,L)
HRTF(C,L)=HRTF(C,R)
HRTF(LS,L)=HRTF(RS,R)
HRTF(LS,R)=HRTF(RS,L)
【0040】
対称性が保持される場合、フィルターバンクに単純化された実施の形態を用いることができる。そのような実施の形態の1つを図7に示す。この場合、フィルターバンクに入力するLとRの前と後の信号は、それぞれ「シャッフラー(shuffler)」ユニット、例えば前信号は90、サラウンド(後)信号は100、により処理される。各シャッフラーは、和と差の信号を計算する。例えば、シャッフラー90は和と差の信号92及び93をそれぞれ計算し、ここで、和信号は左右の信号の和の半分であり、差信号は左信号から右信号を引いたものの半分である。
【0041】
このようなシャッフラーを使用することで、図6の実施の形態で10個のフィルターバンクが、図7に示すようなフィルター94〜98の5個のフルターに置き換えられる。このようなフィルターの削減とそれによる計算負荷の削減により、入力L,R,LS,及びRSのそれぞれに接続された加算/減算ブロック90及び100が加わった、比較的控えめの計算負荷になる。さらに、加算接合器102及び103が用いられる。例えば、加算接合器103は、右出力信号の計算に用いられ、フィルター95の出力とフィルター98の出力との減算演算が含まれる。
【0042】
再び図5に示した反響装置を参照して、混合器62は5入力と5出力とを持ち従って15のゲイン値を持つ。これらのゲインは5×5マトリックスGで表してもよく、マトリックス式によれば、
【数1】
【0043】
ここでGは、少なくとも1つの出力は複数の入力の結合であるような、非対角5×5マトリックスである。模範的な実施の形態において、Gの要素はGがユニタリーマトリックスになるように選定される。この目的で、この混合器のマトリックスをあらかじめ対角マトリックスで積算することは、あらかじめこのマトリックスにゲインファクタを適用するのと同じであり、この混合器のマトリックスをその後対角マトリックスで積算することは、その後このマトリックスにゲインファクタを適用するのと同じなので、ユニタリーマトリックスは、このマトリックスの入力及び/又は出力におけるスケールファクタ内でユニタリーとなる。
【0044】
本発明の1つの形態では、反響特性の選定が行われ、それには遅延線63〜67における遅れの選定と図5のフィルター70〜74の特性の選定が含まれる。
【0045】
ユニタリーマトリックスを作る多くの方法が知られている。その1つの方法は以下のMatlabコードを用いる。
【0046】
>>X=randn(5);
>>[U,S,V]=svd(X);
>>M=U*VT;
【0047】
ここで、*はマトリックスの乗算でありTは転置演算子(実数値マトリックスであると仮定する)である。このコードは、各要素が例えばランダムなガウス分布を持つランダムな5×5マトリックスのマトリックスXを作ることから始まる。次いで、この方法によればマトリックスXの特異値分解を行い、UとVの両方のマトリックスがユニタリーで、X=USVTである、3つのマトリックス(U,S,及びV)を作る。マトリックスG=UVTは、したがってランダムなマトリックスXから算出されたユニタリーマトリックスとなる。5×5マトリックスGは、反響装置における混合器の係数として用いられる。
【0048】
先に説明したように、厳密なユニタリーマトリックスを対角マトリックスであらかじめ積算することにより及び/又はその後対角マトリックスで積算することにより算出されたどのようなマトリックスも、「ユニタリー」とみなされる。このようなマトリックスは入力及び/又は出力においてゲインをユニタリーにできるからである。
【0049】
他の実施の形態において、候補となるマトリックスは、例えば、上記Matlabコードに記載したような乱数発生器を用いて、リスニングテストに基づき最適なものを選定する。
【0050】
図8は、単一の遅延110とフィルターブロック111の結合を示す。図9は、遅延とフィルターの結合の1実施の形態を示す。この実施の形態のフィルターは、遅延線に入り込むことにより遅延線を用いる1次元(2タップ)のFIRフィルターである。したがって、1実施の形態において、フィルターと遅延は1つの装置で実行される。遅延バッファ121によりオーディオ入力データは、あらかじめ定めた数のサンプル期間分だけ遅延する。遅延線の最後の2つのタップ122及び123は、それぞれ、2つのタップにa1及びa2を乗算する係数乗算器124及び125により、それぞれ乗算される。重み付けがなされたタップから取り出されたの信号は、加算器126により加算されて、遅延されフィルターされた出力を形成する。
【0051】
5個のこのような構成が図5の遅延及びフィルターの実施形態として用いることができる。
【0052】
係数a1及びa2は、フィードバック信号経路における好ましい減衰を与えるよう選択される。
【0053】
図10は、図9で実施された2タップフィルターの典型的な好ましい周波数応答を示す。ゲインマトリックスGをユニタリーにするため、各フィルターのトータルゲインはすべての周波数域で一定値以下でなければならない。
【0054】
フィルター70〜74の各々はそれぞれの係数a1及びa2に対して異なった値の組み合わせを用いる。他の実施の形態では各フィルターに対して同じ係数a1及びa2の値を用いる。
【0055】
ここで、a1及びa2の1つの計算方法について説明する。本発明はこの方法に限定されるものではないが、本発明はこの方法にて満足できる結果が得られることを見出した。
【0056】
この方法によれば、各フィルターは低い周波数での好ましい反響時間と高い周波数での好ましい反響時間とが得られるよう選定される。一般的な環境での反響時間の一般的な値は当業者に知られているか又は当業者は入手可能である。本発明を実施するために、シミュレートした環境のタイプに適した反響時間をユーザーは選択する。
【0057】
低い周波数での好ましい反響時間、RT_lowが選ばれる。高い周波数での好ましい反響時間、DecayRate_highが選ばれる。1実施の形態において、フィルターは低い周波数での好ましい反響時間は、反響装置において低い周波数のオーディオ信号が60dB減衰するような時間となり、高い周波数での好ましい反響時間は、反響装置において高い周波数のオーディオ信号が60dB減衰するような時間となる。RT_lowの一般的な値は200msから5sの間となり、それより長い値も可能である。また、RT_highの一般的な値は50msから100msの間となる。
【0058】
この2つのRT値は、それぞれDecayRate_low及びDecayRate_highで表される対応する遅延率に変換され、以下のようにdB/secondで表される。
【0059】
DecayRate_low=60/RT_low、及び
DecayRate_high=60/RT_high
反響装置における各遅延とフィルターペアについて、a1及びa2の値は以下のように計算される。
【0060】
a1=(LowFreqGain+HighFreqGain)/2、及び
a2=(LowFreqGain−HighFreqGain)/2
ここで、
LowFreqGain=10(Decayrate_low×DelayTime)/20、及び
HighFreqGain=10(Decayrate_high×DelayTime)/20
【0061】
ここで、DelayTimeは秒単位で表した対応する遅延の長さである。以下にどのようにして各遅延線の長さを選択するかを記載する。
【0062】
従って、フィルター係数a1及びa2は、DelayTime(秒単位で表した遅延の長さ)の関数である。このことにより確実に反響オーディオ信号のすべての成分が1秒当たりの同一の減衰係数で減衰することとなる。かくして、フィルターの減衰は対応する時間遅れに基づくこととなる。
【0063】
この遅延線は最適な長さの範囲に設定される。5チャンネル反響装置にこれらのL0,L1,...,L5を適用する。1実施の形態では、L0,L1,...,L5の設定において共通の係数がないように設定する。さもなければ、反響装置は高密度の反響インパルス応答を得ることができないかもしれない。1実施の形態において、一般に、シミュレートされた部屋内で、最初に到着するエコーの遅れ時間にほぼ等しくなるよう各遅延線を設定する。好ましい1実施の形態では、この遅れは2.5ミリセカンドから4.5ミリセカンドの間の長さとなる。この遅れ長さは、エコーパターンが各HRTF方向に対して相関がなくなるように選定される。
【0064】
上記実施の形態の1つの特徴は、比較的少ない数のHRTF方向のみを、反響音の空間的広がりを提供するために使うことができることである。本願発明者は、反響音の「フルサラウンド」効果は、比較的少ない数空間方向によってのみ生じることを見出した。
【0065】
ここで示した1実施の形態において、このようなHRTF方向の数は複数の入力信号の仮想的な方向に対応する。このことは必須ではない。例えば、入力方向の数より少ない方向の数又は多い方向の数を用いてもよい。入力方向は5であるが、上記例では中央チャンネルを省略したので4方向のHRTFを用いた。入力信号より多くの方向を用いることも可能である。
【0066】
このように、上述の実施の形態は4又は5の入力を持つサラウンドサウンド信号をバイノーラル化するものであるが、他の構成にもこの方法を適用することができる。
【0067】
一例として図11に、ステレオ出力47及び48を生成するために、2つの入力方向に対応する2つの(ステレオ)入力131及び132を処理するのに適した装置の実施の形態が示されている。2入力5出力複数チャンネル反響装置134は、2入力方向を含む5方向へのサウンド信号を生成する。1対の加算器135,136は反響装置の左右のチャンネル出力をその入力信号に加算する。反響装置の左右の信号、中央出力、左サラウンド出力、及び右サラウンド出力はHRTFフィルターペアのバンクへ入力され、各々左右の出力を生成する。左右のHRTFフィルター出力はそれぞれ加算されそれぞれ左右の出力47及び48を形成する。HRTFフィルターのバンク137及び138は、例えば図7の構成を用いて実施してもよい。この反響装置は、左右の(フロント)チャンネルとして2入力のみ受け入れる点を除き、複数入力のそれぞれの方向に1つの5つのフィードバック信号経路と、2つのHRTFフィルター出力を持ち、先に図5を参照して説明したものと同様である。このHRTFフィルターのHRTFペアは、望みの環境に従って選択される。
【0068】
このようにして、一定の場所に置かれた一そろいの仮想的なラウドスピーカから聞くような感覚をリスナーに与える、ヘッドフォンで聞くことのできる信号を生成するための方法と装置が開示された。この装置は、HRTFフィルターペアのバンクに関連して複数チャンネルの反響装置を用いる。この複数チャンネルの反響装置には、仮想的なスピーカの各場所に対する内部的なフィードバック信号経路が含まれる。各フィードバック信号経路は対応するHRTFフィルターペアに接続される。この反響装置には、混合マトリックスで記述可能な混合器が含まれる。本願発明者は、低く正しい周波数で望ましい減衰率を与えるためにフィードバック信号経路に置いたフィルターとともにユニタリー混合マトリックスを反響装置に用いることにより、比較的少ない数のHRTF方向を用いるだけで、一般的なリスニングルームの反響音を有する心地良いサラウンドサウンド体験を生み出すことを見出した。
【0069】
上記説明において、当業者にとって明らかなことなので、多くの詳細を省略したことに留意すべきである。例えば、共通のスケールファクタを示していない。従って、例えば、混合マトリックスGとしてユニタリーマトリックスが好ましいと説明したとき、これは対角マトリックスで先に乗算すること及び/又は後で乗算することの範囲においてユニタリーであることを意味することを、当業者は理解するであろう。さらに、実施に当たって、さらなるスケーリングが要求されるかもしれない。例えば、固定小数点演算が構成要素として用いられた場合である。
【0070】
フィルター係数、遅延線の長さ、混合マトリックスエレメントのような、環境に依存する、異なった設定のパラメータが、特定のリスニング環境、例えば実際に特定のリスニング環境に分類されるリスニングルーム、に対して必要となることに留意すべきである。あらゆる特有の様式の部屋に対して同じパラメータを用いることもできる。従って、本発明の方法に用いられる信号プロセッサは、DSPシステムのメモリの中に異なった環境のそれぞれに対応して異なったパラメータのセット、例えば、大きなコンサートホールに対するパラメータのセット、室内装飾用カーテンのある小さなリビングルームに対するパラメータのセット、その他のパラメータのセットが組み込まれる。ユーザーはこの様式に従って適切なリスニング環境を選択する。
【0071】
ここに記載した方法の各々の実施の形態では、例えば、DSPシステムの一部である1以上のDSP装置のような、処理システムを実行するコンピュータプログラムの形を取る。上述の各構成にどのようにDSPシステムを組み込むかは当業者には明らかであろう。あるいは、各エレメントは、Verilogのような言語でコード化してもよく、図示した構成を実施する用設計した集積回路としてもよい。従って、当業者の好みにより、本発明の実施形態は、方法、特定目的の装置のような装置、データ処理システムのような装置、又は例えばコンピュータプログラム製品としての可搬媒体として実施してもよい。この可搬媒体は、方法を実施するための処理システムを制御するためのコンピュータ読み取り可能な1以上のコードセグメントを持っている。従って、本発明の形態は方法の形式、完全にハードウェアの実施の形態、完全にソフトウェアの実施の形態、又はソフトウェアとハードウェアを組み合わせた形態をとることができる。さらに、本発明は、媒体に組み込まれたコンピュータ読み取り可能なコードセグメントを持つ可搬媒体(例えばコンピュータ読み取り可能な記憶媒体中に記述されたコンピュータプログラム)の形を取ることもできる。ディスケットやハードディスクのような磁気記憶装置や、CD‐ROMのような光学記憶装置を含むどのようなコンピュータ読み取り可能な媒体を用いてもよい。
【0072】
このソフトウェアは、さらにネットワークインターフェース装置を経由してネットワークを介して伝送してもよい。模範的な実施の形態にて可搬媒体を単一の媒体で示したが、用語「可搬媒体」には、単一媒体又は複数媒体(例えば、集中型又は分散型データベース及び/又は付随するキャシュ及びサーバー)が含まれる。また、用語「可搬媒体」には、記憶すること、エンコーディングすること、又は1以上の本発明の方法を機械に実施させるための機械により実行させるための命令を有することのできるすべての媒体が含まれる。可搬媒体は、揮発性媒体、不揮発性媒体、及び伝達媒体を含むがそれに限られない多くの形態を取ることができる。不揮発性媒体には、例えば、光学、磁気ディスク、及び光磁気ディスクが含まれる。揮発性媒体には、主メモリのようなダイナミックメモリが含まれる。伝達媒体には、同軸ケーブル、バスシステムを構成する電線を含む銅線及び光ファイバが含まれる。伝達媒体は、ラジオは及び赤外線データ通信で作られる音波又は光波の形を取ることもできる。例えば、用語「可搬媒体」には、半導体メモリ、光学媒体及び磁気媒体、及び搬送波信号が含まれるがそれに限られない。
【0073】
説明した方法におけるステップは、1実施の形態において、記憶装置に記憶された命令(コードセグメント)を実行する処理(即ち、コンピュータ)システムの適切なプロセッサ(又は2個以上のプロセッサ)により実行されることは了解されよう。また、本発明は、特定の実施形態又はプログラム技法に限定されず、また、本発明は、ここに記載された機能を実施するためのあらゆる適切な技法を用いて実施することが可能なことが了解されよう。本発明は、特定のプログラミング言語又はオペレーティングシステムに限定されない。
【0074】
本明細書全体を通して「1実施の形態」又は「ある実施の形態」は、実施の形態との関連で記載された特定の形態、構成又は特徴が、本発明の少なくとも1つの実施の形態に含まれることを意味する。従って、本明細書全体を通して様々な場所で使われる「1実施の形態において」又は「ある実施の形態において」は、必ずしも全てが同じ実施の形態を言及しているわけではない。さらに、特定の形態、構成又は特徴は、本明細書で開示された1以上の実施の形態から当業者に明らかな、適切な方法で結合することができる。
【0075】
同様に、上記本発明の模範的な実施の形態の記載において、本発明の様々な形態は、開示を合理的にするために、及び、1以上の様々な発明の特徴の理解の手助けのために、しばしば単一の実施の形態、図、又はその説明がグループ化されていることが分かる。この開示手法は、しかしながら、請求された発明が各請求項に明確に列挙された形態以上のものを必要とするという意図を反映したものとは解釈されない。むしろ、以下の請求項に反映されているように、創作性のある特徴は、開示された前述の単一の実施の形態のすべての特徴より少ない部分に存在する。従って、ここで詳細な説明に続く特許請求の範囲は、明確に詳細な説明に組み込まれ、各請求項は本発明の個別の実施の形態に基づくものである。
【0076】
さらに、ここに記載されたある実施の形態には他の実施の形態に含まれる特徴が含まれる場合もあり、異なった実施の形態の特徴を組み合わせたもの及び当業者が思いつく、異なった実施の形態は本発明の技術範囲に含まれる。例えば、以下の請求項において、請求範囲の実施の形態はあらゆる組み合わせで用いることができる。
【0077】
さらに、いくつかの実施の形態は、他の方法又は、コンピュータシステムのプロセッサにより、又は、その機能を実行する他の手段により実行できる方法の要素の組み合せとして記載されている。従って、このような方法又は方法の要素を実行するために必要な命令が記述されたプロセッサは、本方法又は方法のエレメントを実行するための方法を形成する。さらに、装置の実施の形態としてここに記載された要素は、本発明を実行するための要素により実行される機能を実行する手段の一例である。
【0078】
ここに引用されたすべての刊行物、特許、及び特許出願は参照として組み込まれる。
【0079】
以下の請求項とここの記載において、用語「具備する」又は「からなる」又は「具備することを特徴とする」は記載の要素/特徴を少なくとも含むがそれ以外を除外するものではない「オープン」な用語である。用語「含む」又は「含む(含まれる)ことを特徴とする」又は「含まれる」もまた、記載の要素/特徴を少なくとも含むがそれ以外を除外するものではない「オープン」な用語である。従って、「含む」は、具備すると同義語である。
【0080】
従って、本発明の最適な実施の形態と考えられるものを記載したが、当業者は、他の又はさらなる修正を、本発明の思想から離れることなく認識することができ、このようなすべての変更又は修正は本発明の範囲であることを意味する。例えば、上述の数式は単に用いることのできる手順を代表するものである。ブロック図に機能を追加したり削除したりしてもよく、機能ブロック同士で操作を取り替えてもよい。本発明の発明の範囲内で記載した方法にステップを追加したり削除したりしてもよい。さらに、「具備する」及び「具備している」の用語は、少なくとも要素又はステップを含むというように記載して付加的な要素又はステップを提供する、「含む(含まれる)」及び「含んでいる(含まれている)」の意味である。
【図面の簡単な説明】
【0081】
【図1】リスニング環境とある位置からリスナーがサウンドを聴取するための頭部伝達関数を説明するための概略図である。
【図2】音源がインパルスサウンドであるとき、図1の構成に対してリスナーの耳における一連のサウンドのインパルス応答の概略図である。
【図3】本発明の1実施の形態の概略ブロック図である。
【図4】本発明の第2の実施の形態の概略ブロック図である。
【図5】図3の実施の形態における反響装置の概略ブロック図である。
【図6】図3の実施の形態における頭部伝達関数(HRTF)におけるフィルタリング処理をもっと詳細に示したものである。
【図7】頭部伝達関数(HRTF)におけるフィルタリングの実施の形態を示す。
【図8】図5の実施の形態における遅延とフィルター構成を示す。
【図9】図8の遅延とフィルター構成を実施する1実施の形態のブロック図を示す。
【図10】例えば図9の遅延とフィルター構成により実施されるフィルタリングの例を示す。
【図11】ステレオ信号を処理する1実施の形態の概略ブロック図である。
【図12】アナログ入出力オーディオ持つ本発明のDSPプロセッサの実施の形態を示す。
【特許請求の範囲】
【請求項1】
複数のオーディオ入力信号を処理する装置であって、
複数の入力信号を受け取る複数の入力端子と、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分を含み、前記複数の入力信号を受け取り、1組の出力信号を生成する複数入力・複数出力反響装置と、
入力が前記反響装置の出力に接続された複数入力・2出力フィルターであって、該フィルターの入力はまた複数の入力端子に接続され、該フィルターは、1つは左の耳、もう1つは右の耳への2つの出力をもち、該フィルターは、リスニング環境に対応する1組の頭部伝達関数とこのリスニング環境でリスナーに1組の方向性を与えることを実行するよう構成され、前記2出力はヘッドフォンを通して再生可能である、複数入力・2出力フィルターと、
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする複数のオーディオ入力信号を処理する装置。
【請求項2】
前記反響装置は、受領した複数の前記入力信号に結合させるために少なくとも1つの反響成分の形成を行うよう構成され、前記反響装置は、さらに前記各入力信号をそれぞれ違うように処理するよう構成されることを特徴とする請求項1に記載の複数のオーディオ入力信号を処理する装置。
【請求項3】
複数の前記反響装置の入力と前記入力端子に接続され、前記複数入力・複数出力フィルターへの入力を生成するために該複数の入力と前記反響装置の1組の出力とを結合するよう構成された第1の組のコンバイナを具備することを特徴とする、請求項1又は請求項2に記載の複数のオーディオ入力信号を処理する装置。
【請求項4】
前記フィルターは、1つは左の耳もう1つは右の耳への2つの出力を生じるよう構成され、前記フィルターには、それぞれ左耳出力信号と右耳出力信号を形成するため、左耳用の出力の組と右耳用の出力の組とを結合するよう構成された第2の組のコンバイナが含まれることを特徴とする請求項1乃至請求項3のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項5】
前記反響装置は、前記反響成分には受領した前記入力信号を混合し、遅延させ、そしてフィルターした一連の成分が含まれるよう構成されたことを特徴とする請求項1乃至請求項4のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項6】
前記反響装置には、前記入力端子に接続された入力を持つ複数入力・複数出力混合器が含まれ、該混合器は前記複数の入力信号を混合するよう構成され、該混合は、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合器であることを特徴とする請求項1乃至請求項5のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項7】
前記マトリックスは、対角マトリックスであらかじめ積算し及び/又は対角マトリックスでその後積算する、ユニタリーマトリックスであることを特徴とする請求項6に記載の複数のオーディオ入力信号を処理する装置。
【請求項8】
前記混合器入力と前記入力端子との接続は、前記入力と遅延されフィルターされた前記混合器出力とを結合するよう構成された第3の組のコンバイナを介して行われ、前記反響装置には、遅延とフィルターとを含む少なくとも1つのフィードバック信号経路を有する複数のフィードバック信号経路が含まれることを特徴とする請求項4乃至請求項6のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項9】
前記複数入力・複数出力フィルターは、対応する複数のHRTF方向に対して、リスナーに対して形成された各方向に対してそれぞれ1つのペアが対応する、複数のHRTFフィルターペアを実施するよう構成され、前記反響装置には、リスナーに対して形成された各方向に対してそれぞれ1つが対応する複数のフィードバック信号経路が含まれ、前記反響装置出力と前記複数の出力との接続は、2出力フルターがフィードバック信号の各経路と対応するHRTFフィルターペアの信号経路とを接続することを特徴とする請求項1乃至請求項8のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項10】
前記反響装置には、入力が前記入力端子と前記フィードバック信号経路の出力と接続された複数入力・複数出力フィルターがさらに含まれ、前記混合器は前記複数の入力を混合するよう構成され、前記混合器の出力は前記フィードバック信号経路に接続され、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合器であることを特徴とする請求項9に記載の複数のオーディオ入力信号を処理する装置。
【請求項11】
前記フィードバック信号経路の各々には、遅延とフィルターが含まれ、それぞれのフィルターは前記フィードバック信号経路のそれぞれにより生じたエコーの周波数により変化する好ましい減衰率を生成し、各遅延は前記リスニング環境に対して好ましい反響パターンを提供するように選択されることを特徴とする請求項9又は請求項10に記載の複数のオーディオ入力信号を処理する装置。
【請求項12】
各フィルターは、低い周波数で好ましい反響時間を達成し、高い周波数で好ましい反響時間を達成するよう選定されることを特徴とする、請求項11に記載の複数のオーディオ入力信号を処理する装置。
【請求項13】
異なった前記フィードバック信号経路の前記遅延は、共通要素がなく異なっていることを特徴とする請求項11又は請求項12に記載の複数のオーディオ入力信号を処理する装置。
【請求項14】
前記異なった前記フィードバック信号経路の前記遅延は、前記リスニング環境における最初のエコーの到着の遅延時間とほぼ等しくなるよう選定されることを特徴とする請求項11乃至請求項13のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項15】
前記異なった前記フィードバック信号経路の前記遅延は、エコーのパターンが各フィードバック信号経路に対して相関を持たないよう選定されることを特徴とする請求項11乃至請求項14のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項16】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より小さいことを特徴とする請求項9乃至請求項15のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項17】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より大きいことを特徴とする請求項9乃至請求項15のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項18】
前記複数のオーディオ入力信号を処理する装置には、少なくとも1つのリスニング環境に対して少なくとも1組のパラメータを記憶するよう構成されたメモリが含まれ、各パラメータの組はリスニング環境をシミュレートするのに十分であることを特徴とする請求項1乃至請求項17のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項19】
前記メモリは、複数のリスニング環境に対応する複数の組のパラメータがロードされていることを特徴とする請求項18に記載の複数のオーディオ入力信号を処理する装置。
【請求項20】
前記フィルターと反響装置は、メモリを有するDSPシステムで実行される請求項1乃至請求項19のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項21】
複数のオーディオ入力信号を処理する方法であって、
複数の入力信号を受け取るステップと、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分を形成するステップを含む、反響装置からの1組の出力を前記複数の入力信号から生成するステップと、
2つの出力を生成するために前記入力信号と反響装置の出力信号の組み合わせをフィルターするステップであって、前記2つの出力は1つは左の耳、もう1つは右の耳への2つの出力であり、前記フィルターは、リスニング環境に対応する1組の頭部伝達関数と該リスニング環境でリスナーに1組の方向性を与えることを実行し、前記2出力はヘッドフォンを通して再生可能である、ステップと、
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする複数のオーディオ入力信号を処理する方法。
【請求項22】
少なくとも1つの反響成分を生成するステップには、受け取った複数の前記入力信号を結合するステップが含まれ、1組の反響装置出力信号を生成するステップでは異なった入力信号を異なったように処理することを特徴とする請求項21に記載の複数のオーディオ入力信号を処理する方法。
【請求項23】
反響させるための1組の入力を発生させるために反響装置の出力の組と複数の入力とを結合させるステップをさらに具備することを特徴とする請求項21又は請求項22に記載の複数のオーディオ入力信号を処理する方法。
【請求項24】
前記反響成分には、受領した前記入力信号を混合し、遅延させ、そしてフィルターした一連の成分が含まれることを特徴とする請求項21乃至請求項23のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項25】
1組の反響装置出力信号を生成するステップには、複数の入力信号を混合するステップが含まれ、該混合は、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合であることを特徴とする請求項21乃至請求項24のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項26】
前記マトリックスは、対角マトリックスであらかじめ積算し及び/又は対角マトリックスでその後積算する、ユニタリーマトリックスであることを特徴とする請求項25に記載の複数のオーディオ入力信号を処理する方法。
【請求項27】
前記1組の反響装置出力信号を生成するステップには、受け取った前記入力と遅延されフィルターされた前記混合器出力とを結合するステップが含まれ、前記1組の反響装置出力信号を生成するステップには、遅延させるステップとフィルターするステップとを含む少なくとも1つのフィードバック信号経路を有する複数のフィードバック信号経路を提供するステップが含まれることを特徴とする請求項21乃至請求項26のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項28】
前記フィルターするステップでは、対応する複数のHRTF方向に対して、リスナーに対して形成された各方向に対してそれぞれ1つのペアが対応する、複数のHRTFフィルターペアを実施し、
前記反響装置出力を生成する前記ステップには、リスナーに対して形成された各方向に対してそれぞれ1つが対応する複数のフィードバック信号経路を提供するステップが含まれ、
前記オーディオ入力信号を処理する方法には、前記フィードバック信号の各経路とHRTFフィルターペアの対応する信号経路とを接続するステップが含まれることを特徴とする請求項21乃至請求項26のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項29】
1組の反響装置出力を生成する前記ステップには、前記フィードバック信号経路への入力を生成するために、受け取った前記入力と前記フィードバック信号経路の出力とを混合するステップをさらに具備し、前記混合するステップは、複数の混合器入力を結合することにより少なくとも1つの混合出力を生成するような、非対角マトリックスで記述することのできるものであることを特徴とする請求項27又は請求項28に記載の複数のオーディオ入力信号を処理する方法。
【請求項30】
前記フィードバック信号経路の各々には、遅延させるステップとフィルターするステップとが含まれ、各フィルターするステップでは前記フィードバック信号経路のそれぞれにより生じたエコーの周波数により変化する好ましい減衰率を生成し、それぞれの遅延させるステップには前記リスニング環境に対して好ましい反響パターンを適用するステップが含まれることを特徴とする請求項27乃至請求項29のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項31】
各フィードバック信号経路におけるフィルターするステップは、低い周波数で好ましい反響時間を達成し、高い周波数で好ましい反響時間を達成するよう選定されることを特徴とする請求項30に記載の複数のオーディオ入力信号を処理する方法。
【請求項32】
異なった前記フィードバック信号経路の前記遅延は、共通要素がなく異なっていることを特徴とする請求項30又は請求項31に記載の複数のオーディオ入力信号を処理する方法。
【請求項33】
前記異なった前記フィードバック信号経路の前記遅延の各々は、前記リスニング環境における最初のエコーの到着の遅延時間とほぼ等しくなるよう選定されることを特徴とする請求項30乃至請求項32のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項34】
前記異なった前記フィードバック信号経路の前記遅延の各々は、エコーのパターンが各フィードバック信号経路に対して相関を持たないよう選定されることを特徴とする請求項30乃至請求項33のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項35】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より小さいことを特徴とする請求項28乃至請求項34のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項36】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より大きいことを特徴とする請求項28乃至請求項34のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項37】
方法を実行する処理システムのプロセッサの少なくとも1つに命令を与える少なくとも1つのコードセグメントを有する可搬媒体であって、該命令は複数のオーディオ入力信号を処理する方法であって、該命令は、
複数の入力信号を受け取るステップと、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分形成するステップを含む、反響装置からの1組の出力を前記複数の入力信号から生成するステップと、
2つの出力を生成するために前記入力信号と反響装置の出力信号の組み合わせをフィルターするステップであって、前記2つの出力は1つは左の耳、もう1つは右の耳への2つの出力であり、前記フィルターは、リスニング環境に対応する1組の頭部伝達関数と該リスニング環境でリスナーに1組の方向性を与えることを実行し、前記2出力はヘッドフォンを通して再生可能である、ステップと、
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする可搬媒体。
【請求項38】
少なくとも1つの反響成分を生成するステップには、受け取った複数の前記入力信号を結合するステップが含まれ、1組の反響装置出力信号を生成するステップでは異なった入力信号を異なったように処理することを特徴とする請求項37に記載の可搬媒体。
【請求項39】
前記反響成分には、受領した前記入力信号を混合し、遅延させ、そしてフィルターした一連の成分が含まれることを特徴とする請求項37又は請求項38に記載の可搬媒体。
【請求項40】
1組の反響装置出力信号を生成するステップには、複数の入力信号を混合するステップが含まれ、該混合は、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合であることを特徴とする請求項37乃至請求項39のいずれか1項に記載の可搬媒体。
【請求項41】
前記1組の反響装置出力信号を生成するステップには、受け取った前記入力と遅延されフィルターされた前記混合器出力とを結合するステップが含まれ、前記1組の反響装置出力信号を生成するステップには、遅延させるステップとフィルターするステップとを含む少なくとも1つのフィードバック信号経路を有する複数のフィードバック信号経路を提供するステップが含まれることを特徴とする請求項37乃至請求項40のいずれか1項に記載の可搬媒体。
【請求項42】
前記フィルターするステップでは、対応する複数のHRTF方向に対して、リスナーに対して形成された各方向に対してそれぞれ1つのペアが対応する、複数のHRTFフィルターペアを実施し、
前記反響装置出力を生成する前記ステップには、リスナーに対して形成された各方向に対してそれぞれ1つが対応する複数のフィードバック信号経路を提供するステップが含まれ、
前記オーディオ入力信号を処理する方法には、前記フィードバック信号の各経路とHRTFフィルターペアの対応する信号経路とを接続するステップが含まれることを特徴とする請求項37乃至請求項39のいずれか1項に記載の可搬媒体。
【請求項43】
1組の反響装置出力を生成する前記ステップには、前記フィードバック信号経路への入力を生成するために、受け取った前記入力と前記フィードバック信号経路の出力とを混合するステップをさらに具備し、前記混合するステップは、複数の混合器入力を結合することにより少なくとも1つの混合出力を生成するような、非対角マトリックスで記述することのできるものであることを特徴とする請求項41又は請求項42に記載の可搬媒体。
【請求項44】
前記フィードバック信号経路の各々には、遅延させるステップとフィルターするステップとが含まれ、各フィルターするステップでは前記フィードバック信号経路のそれぞれにより生じたエコーの周波数により変化する好ましい減衰率を生成し、それぞれの遅延させるステップには前記リスニング環境に対して好ましい反響パターンを適用するステップが含まれることを特徴とする請求項41乃至請求項43のいずれか1項に記載の可搬媒体。
【請求項45】
各フィードバック信号経路におけるフィルターするステップは、低い周波数で好ましい反響時間を達成し、高い周波数で好ましい反響時間を達成するよう選定されることを特徴とする請求項44に記載の可搬媒体。
【請求項46】
異なった前記フィードバック信号経路の前記遅延は、共通要素がなく異なっていることを特徴とする請求項44又は請求項45に記載の可搬媒体。
【請求項47】
前記異なった前記フィードバック信号経路の前記遅延の各々は、前記リスニング環境における最初のエコーの到着の遅延時間とほぼ等しくなるよう選定されることを特徴とする請求項44乃至請求項46のいずれか1項に記載の可搬媒体。
【請求項48】
前記異なった前記フィードバック信号経路の前記遅延の各々は、エコーのパターンが各フィードバック信号経路に対して相関を持たないよう選定されることを特徴とする請求項44乃至請求項47のいずれか1項に記載の可搬媒体。
【請求項49】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より小さいことを特徴とする請求項42に記載の可搬媒体。
【請求項50】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より大きいことを特徴とする請求項42に記載の可搬媒体。
【請求項51】
複数のオーディオ入力信号を処理する装置であって、
複数の入力信号を受け取る受け取り手段と、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分を形成することを含む、反響装置からの1組の出力を前記複数の入力信号から生成する生成手段と、
2つの出力を生成するために前記入力信号と反響装置の出力信号の組み合わせをフィルターする手段であって、前記2つの出力は1つは左の耳、もう1つは右の耳への2つの出力であり、前記フィルターは、リスニング環境に対応する1組の頭部伝達関数と該リスニング環境でリスナーに1組の方向性を与えることを実行し、前記2出力はヘッドフォンを通して再生可能である、フィルター手段と
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする複数のオーディオ入力信号を処理する装置。
【請求項52】
前記反響成分の少なくとも1つを形成することには、前記受け取った複数の入力を結合することが含まれ、1組の反響装置出力信号を生成するときには、異なった入力信号を異なったように処理することを特徴とする請求項51に記載の装置。
【請求項1】
複数のオーディオ入力信号を処理する装置であって、
複数の入力信号を受け取る複数の入力端子と、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分を含み、前記複数の入力信号を受け取り、1組の出力信号を生成する複数入力・複数出力反響装置と、
入力が前記反響装置の出力に接続された複数入力・2出力フィルターであって、該フィルターの入力はまた複数の入力端子に接続され、該フィルターは、1つは左の耳、もう1つは右の耳への2つの出力をもち、該フィルターは、リスニング環境に対応する1組の頭部伝達関数とこのリスニング環境でリスナーに1組の方向性を与えることを実行するよう構成され、前記2出力はヘッドフォンを通して再生可能である、複数入力・2出力フィルターと、
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする複数のオーディオ入力信号を処理する装置。
【請求項2】
前記反響装置は、受領した複数の前記入力信号に結合させるために少なくとも1つの反響成分の形成を行うよう構成され、前記反響装置は、さらに前記各入力信号をそれぞれ違うように処理するよう構成されることを特徴とする請求項1に記載の複数のオーディオ入力信号を処理する装置。
【請求項3】
複数の前記反響装置の入力と前記入力端子に接続され、前記複数入力・複数出力フィルターへの入力を生成するために該複数の入力と前記反響装置の1組の出力とを結合するよう構成された第1の組のコンバイナを具備することを特徴とする、請求項1又は請求項2に記載の複数のオーディオ入力信号を処理する装置。
【請求項4】
前記フィルターは、1つは左の耳もう1つは右の耳への2つの出力を生じるよう構成され、前記フィルターには、それぞれ左耳出力信号と右耳出力信号を形成するため、左耳用の出力の組と右耳用の出力の組とを結合するよう構成された第2の組のコンバイナが含まれることを特徴とする請求項1乃至請求項3のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項5】
前記反響装置は、前記反響成分には受領した前記入力信号を混合し、遅延させ、そしてフィルターした一連の成分が含まれるよう構成されたことを特徴とする請求項1乃至請求項4のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項6】
前記反響装置には、前記入力端子に接続された入力を持つ複数入力・複数出力混合器が含まれ、該混合器は前記複数の入力信号を混合するよう構成され、該混合は、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合器であることを特徴とする請求項1乃至請求項5のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項7】
前記マトリックスは、対角マトリックスであらかじめ積算し及び/又は対角マトリックスでその後積算する、ユニタリーマトリックスであることを特徴とする請求項6に記載の複数のオーディオ入力信号を処理する装置。
【請求項8】
前記混合器入力と前記入力端子との接続は、前記入力と遅延されフィルターされた前記混合器出力とを結合するよう構成された第3の組のコンバイナを介して行われ、前記反響装置には、遅延とフィルターとを含む少なくとも1つのフィードバック信号経路を有する複数のフィードバック信号経路が含まれることを特徴とする請求項4乃至請求項6のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項9】
前記複数入力・複数出力フィルターは、対応する複数のHRTF方向に対して、リスナーに対して形成された各方向に対してそれぞれ1つのペアが対応する、複数のHRTFフィルターペアを実施するよう構成され、前記反響装置には、リスナーに対して形成された各方向に対してそれぞれ1つが対応する複数のフィードバック信号経路が含まれ、前記反響装置出力と前記複数の出力との接続は、2出力フルターがフィードバック信号の各経路と対応するHRTFフィルターペアの信号経路とを接続することを特徴とする請求項1乃至請求項8のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項10】
前記反響装置には、入力が前記入力端子と前記フィードバック信号経路の出力と接続された複数入力・複数出力フィルターがさらに含まれ、前記混合器は前記複数の入力を混合するよう構成され、前記混合器の出力は前記フィードバック信号経路に接続され、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合器であることを特徴とする請求項9に記載の複数のオーディオ入力信号を処理する装置。
【請求項11】
前記フィードバック信号経路の各々には、遅延とフィルターが含まれ、それぞれのフィルターは前記フィードバック信号経路のそれぞれにより生じたエコーの周波数により変化する好ましい減衰率を生成し、各遅延は前記リスニング環境に対して好ましい反響パターンを提供するように選択されることを特徴とする請求項9又は請求項10に記載の複数のオーディオ入力信号を処理する装置。
【請求項12】
各フィルターは、低い周波数で好ましい反響時間を達成し、高い周波数で好ましい反響時間を達成するよう選定されることを特徴とする、請求項11に記載の複数のオーディオ入力信号を処理する装置。
【請求項13】
異なった前記フィードバック信号経路の前記遅延は、共通要素がなく異なっていることを特徴とする請求項11又は請求項12に記載の複数のオーディオ入力信号を処理する装置。
【請求項14】
前記異なった前記フィードバック信号経路の前記遅延は、前記リスニング環境における最初のエコーの到着の遅延時間とほぼ等しくなるよう選定されることを特徴とする請求項11乃至請求項13のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項15】
前記異なった前記フィードバック信号経路の前記遅延は、エコーのパターンが各フィードバック信号経路に対して相関を持たないよう選定されることを特徴とする請求項11乃至請求項14のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項16】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より小さいことを特徴とする請求項9乃至請求項15のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項17】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より大きいことを特徴とする請求項9乃至請求項15のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項18】
前記複数のオーディオ入力信号を処理する装置には、少なくとも1つのリスニング環境に対して少なくとも1組のパラメータを記憶するよう構成されたメモリが含まれ、各パラメータの組はリスニング環境をシミュレートするのに十分であることを特徴とする請求項1乃至請求項17のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項19】
前記メモリは、複数のリスニング環境に対応する複数の組のパラメータがロードされていることを特徴とする請求項18に記載の複数のオーディオ入力信号を処理する装置。
【請求項20】
前記フィルターと反響装置は、メモリを有するDSPシステムで実行される請求項1乃至請求項19のいずれか1項に記載の複数のオーディオ入力信号を処理する装置。
【請求項21】
複数のオーディオ入力信号を処理する方法であって、
複数の入力信号を受け取るステップと、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分を形成するステップを含む、反響装置からの1組の出力を前記複数の入力信号から生成するステップと、
2つの出力を生成するために前記入力信号と反響装置の出力信号の組み合わせをフィルターするステップであって、前記2つの出力は1つは左の耳、もう1つは右の耳への2つの出力であり、前記フィルターは、リスニング環境に対応する1組の頭部伝達関数と該リスニング環境でリスナーに1組の方向性を与えることを実行し、前記2出力はヘッドフォンを通して再生可能である、ステップと、
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする複数のオーディオ入力信号を処理する方法。
【請求項22】
少なくとも1つの反響成分を生成するステップには、受け取った複数の前記入力信号を結合するステップが含まれ、1組の反響装置出力信号を生成するステップでは異なった入力信号を異なったように処理することを特徴とする請求項21に記載の複数のオーディオ入力信号を処理する方法。
【請求項23】
反響させるための1組の入力を発生させるために反響装置の出力の組と複数の入力とを結合させるステップをさらに具備することを特徴とする請求項21又は請求項22に記載の複数のオーディオ入力信号を処理する方法。
【請求項24】
前記反響成分には、受領した前記入力信号を混合し、遅延させ、そしてフィルターした一連の成分が含まれることを特徴とする請求項21乃至請求項23のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項25】
1組の反響装置出力信号を生成するステップには、複数の入力信号を混合するステップが含まれ、該混合は、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合であることを特徴とする請求項21乃至請求項24のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項26】
前記マトリックスは、対角マトリックスであらかじめ積算し及び/又は対角マトリックスでその後積算する、ユニタリーマトリックスであることを特徴とする請求項25に記載の複数のオーディオ入力信号を処理する方法。
【請求項27】
前記1組の反響装置出力信号を生成するステップには、受け取った前記入力と遅延されフィルターされた前記混合器出力とを結合するステップが含まれ、前記1組の反響装置出力信号を生成するステップには、遅延させるステップとフィルターするステップとを含む少なくとも1つのフィードバック信号経路を有する複数のフィードバック信号経路を提供するステップが含まれることを特徴とする請求項21乃至請求項26のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項28】
前記フィルターするステップでは、対応する複数のHRTF方向に対して、リスナーに対して形成された各方向に対してそれぞれ1つのペアが対応する、複数のHRTFフィルターペアを実施し、
前記反響装置出力を生成する前記ステップには、リスナーに対して形成された各方向に対してそれぞれ1つが対応する複数のフィードバック信号経路を提供するステップが含まれ、
前記オーディオ入力信号を処理する方法には、前記フィードバック信号の各経路とHRTFフィルターペアの対応する信号経路とを接続するステップが含まれることを特徴とする請求項21乃至請求項26のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項29】
1組の反響装置出力を生成する前記ステップには、前記フィードバック信号経路への入力を生成するために、受け取った前記入力と前記フィードバック信号経路の出力とを混合するステップをさらに具備し、前記混合するステップは、複数の混合器入力を結合することにより少なくとも1つの混合出力を生成するような、非対角マトリックスで記述することのできるものであることを特徴とする請求項27又は請求項28に記載の複数のオーディオ入力信号を処理する方法。
【請求項30】
前記フィードバック信号経路の各々には、遅延させるステップとフィルターするステップとが含まれ、各フィルターするステップでは前記フィードバック信号経路のそれぞれにより生じたエコーの周波数により変化する好ましい減衰率を生成し、それぞれの遅延させるステップには前記リスニング環境に対して好ましい反響パターンを適用するステップが含まれることを特徴とする請求項27乃至請求項29のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項31】
各フィードバック信号経路におけるフィルターするステップは、低い周波数で好ましい反響時間を達成し、高い周波数で好ましい反響時間を達成するよう選定されることを特徴とする請求項30に記載の複数のオーディオ入力信号を処理する方法。
【請求項32】
異なった前記フィードバック信号経路の前記遅延は、共通要素がなく異なっていることを特徴とする請求項30又は請求項31に記載の複数のオーディオ入力信号を処理する方法。
【請求項33】
前記異なった前記フィードバック信号経路の前記遅延の各々は、前記リスニング環境における最初のエコーの到着の遅延時間とほぼ等しくなるよう選定されることを特徴とする請求項30乃至請求項32のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項34】
前記異なった前記フィードバック信号経路の前記遅延の各々は、エコーのパターンが各フィードバック信号経路に対して相関を持たないよう選定されることを特徴とする請求項30乃至請求項33のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項35】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より小さいことを特徴とする請求項28乃至請求項34のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項36】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より大きいことを特徴とする請求項28乃至請求項34のいずれか1項に記載の複数のオーディオ入力信号を処理する方法。
【請求項37】
方法を実行する処理システムのプロセッサの少なくとも1つに命令を与える少なくとも1つのコードセグメントを有する可搬媒体であって、該命令は複数のオーディオ入力信号を処理する方法であって、該命令は、
複数の入力信号を受け取るステップと、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分形成するステップを含む、反響装置からの1組の出力を前記複数の入力信号から生成するステップと、
2つの出力を生成するために前記入力信号と反響装置の出力信号の組み合わせをフィルターするステップであって、前記2つの出力は1つは左の耳、もう1つは右の耳への2つの出力であり、前記フィルターは、リスニング環境に対応する1組の頭部伝達関数と該リスニング環境でリスナーに1組の方向性を与えることを実行し、前記2出力はヘッドフォンを通して再生可能である、ステップと、
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする可搬媒体。
【請求項38】
少なくとも1つの反響成分を生成するステップには、受け取った複数の前記入力信号を結合するステップが含まれ、1組の反響装置出力信号を生成するステップでは異なった入力信号を異なったように処理することを特徴とする請求項37に記載の可搬媒体。
【請求項39】
前記反響成分には、受領した前記入力信号を混合し、遅延させ、そしてフィルターした一連の成分が含まれることを特徴とする請求項37又は請求項38に記載の可搬媒体。
【請求項40】
1組の反響装置出力信号を生成するステップには、複数の入力信号を混合するステップが含まれ、該混合は、複数の混合器入力を結合することにより少なくとも1つの混合器出力を生成するような、非対角マトリックスで記述することのできる混合であることを特徴とする請求項37乃至請求項39のいずれか1項に記載の可搬媒体。
【請求項41】
前記1組の反響装置出力信号を生成するステップには、受け取った前記入力と遅延されフィルターされた前記混合器出力とを結合するステップが含まれ、前記1組の反響装置出力信号を生成するステップには、遅延させるステップとフィルターするステップとを含む少なくとも1つのフィードバック信号経路を有する複数のフィードバック信号経路を提供するステップが含まれることを特徴とする請求項37乃至請求項40のいずれか1項に記載の可搬媒体。
【請求項42】
前記フィルターするステップでは、対応する複数のHRTF方向に対して、リスナーに対して形成された各方向に対してそれぞれ1つのペアが対応する、複数のHRTFフィルターペアを実施し、
前記反響装置出力を生成する前記ステップには、リスナーに対して形成された各方向に対してそれぞれ1つが対応する複数のフィードバック信号経路を提供するステップが含まれ、
前記オーディオ入力信号を処理する方法には、前記フィードバック信号の各経路とHRTFフィルターペアの対応する信号経路とを接続するステップが含まれることを特徴とする請求項37乃至請求項39のいずれか1項に記載の可搬媒体。
【請求項43】
1組の反響装置出力を生成する前記ステップには、前記フィードバック信号経路への入力を生成するために、受け取った前記入力と前記フィードバック信号経路の出力とを混合するステップをさらに具備し、前記混合するステップは、複数の混合器入力を結合することにより少なくとも1つの混合出力を生成するような、非対角マトリックスで記述することのできるものであることを特徴とする請求項41又は請求項42に記載の可搬媒体。
【請求項44】
前記フィードバック信号経路の各々には、遅延させるステップとフィルターするステップとが含まれ、各フィルターするステップでは前記フィードバック信号経路のそれぞれにより生じたエコーの周波数により変化する好ましい減衰率を生成し、それぞれの遅延させるステップには前記リスニング環境に対して好ましい反響パターンを適用するステップが含まれることを特徴とする請求項41乃至請求項43のいずれか1項に記載の可搬媒体。
【請求項45】
各フィードバック信号経路におけるフィルターするステップは、低い周波数で好ましい反響時間を達成し、高い周波数で好ましい反響時間を達成するよう選定されることを特徴とする請求項44に記載の可搬媒体。
【請求項46】
異なった前記フィードバック信号経路の前記遅延は、共通要素がなく異なっていることを特徴とする請求項44又は請求項45に記載の可搬媒体。
【請求項47】
前記異なった前記フィードバック信号経路の前記遅延の各々は、前記リスニング環境における最初のエコーの到着の遅延時間とほぼ等しくなるよう選定されることを特徴とする請求項44乃至請求項46のいずれか1項に記載の可搬媒体。
【請求項48】
前記異なった前記フィードバック信号経路の前記遅延の各々は、エコーのパターンが各フィードバック信号経路に対して相関を持たないよう選定されることを特徴とする請求項44乃至請求項47のいずれか1項に記載の可搬媒体。
【請求項49】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より小さいことを特徴とする請求項42に記載の可搬媒体。
【請求項50】
HRTF方向の数は、複数のオーディオ入力信号の入力信号の数より大きいことを特徴とする請求項42に記載の可搬媒体。
【請求項51】
複数のオーディオ入力信号を処理する装置であって、
複数の入力信号を受け取る受け取り手段と、
リスナーがリスニング環境でおそらく聞くであろう反響音をシミュレートする遅延反響成分を形成することを含む、反響装置からの1組の出力を前記複数の入力信号から生成する生成手段と、
2つの出力を生成するために前記入力信号と反響装置の出力信号の組み合わせをフィルターする手段であって、前記2つの出力は1つは左の耳、もう1つは右の耳への2つの出力であり、前記フィルターは、リスニング環境に対応する1組の頭部伝達関数と該リスニング環境でリスナーに1組の方向性を与えることを実行し、前記2出力はヘッドフォンを通して再生可能である、フィルター手段と
を具備し、
ヘッドフォンを介した前記リスニング環境で左右の出力信号を聞いているリスナーは、該リスナーに対し対応する複数の方向を形成するために前記リスニング環境に空間的広がりを持って置かれた複数のラウドスピーカからでてきている複数のオーディオ入力信号を聞いているようかのような感覚を持つことを特徴とする複数のオーディオ入力信号を処理する装置。
【請求項52】
前記反響成分の少なくとも1つを形成することには、前記受け取った複数の入力を結合することが含まれ、1組の反響装置出力信号を生成するときには、異なった入力信号を異なったように処理することを特徴とする請求項51に記載の装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公表番号】特表2007−511140(P2007−511140A)
【公表日】平成19年4月26日(2007.4.26)
【国際特許分類】
【出願番号】特願2006−538593(P2006−538593)
【出願日】平成16年10月27日(2004.10.27)
【国際出願番号】PCT/AU2004/001479
【国際公開番号】WO2005/048653
【国際公開日】平成17年5月26日(2005.5.26)
【出願人】(591102637)ドルビー・ラボラトリーズ・ライセンシング・コーポレーション (111)
【氏名又は名称原語表記】DOLBY LABORATORIES LICENSING CORPORATION
【Fターム(参考)】
【公表日】平成19年4月26日(2007.4.26)
【国際特許分類】
【出願日】平成16年10月27日(2004.10.27)
【国際出願番号】PCT/AU2004/001479
【国際公開番号】WO2005/048653
【国際公開日】平成17年5月26日(2005.5.26)
【出願人】(591102637)ドルビー・ラボラトリーズ・ライセンシング・コーポレーション (111)
【氏名又は名称原語表記】DOLBY LABORATORIES LICENSING CORPORATION
【Fターム(参考)】
[ Back to top ]