疑似ステレオ化装置
【課題】
本発明は、格段に違和感の少ない疑似ステレオ音声をリスナに聴取させるようにする。
【解決手段】
外部からのアナログのモノラル入力信号S0をディジタル化し、所定時間でなる1フレーム毎に区分した入力信号x0(t)を音源分離部2へ入力し、当該音源分離部2によって一般調和解析に基づく音源分離処理を行うことにより、当該入力信号x0(t)を音源信号DSと残差信号DTとに分離した後、出力処理部3によって、当該音源信号DS及び当該残差信号DTをそれぞれアナログ化して増幅した出力信号S1L及びS1Rの音声を、ヘッドホン6を介して疑似ステレオ音声としてリスナに聴取させる。
本発明は、格段に違和感の少ない疑似ステレオ音声をリスナに聴取させるようにする。
【解決手段】
外部からのアナログのモノラル入力信号S0をディジタル化し、所定時間でなる1フレーム毎に区分した入力信号x0(t)を音源分離部2へ入力し、当該音源分離部2によって一般調和解析に基づく音源分離処理を行うことにより、当該入力信号x0(t)を音源信号DSと残差信号DTとに分離した後、出力処理部3によって、当該音源信号DS及び当該残差信号DTをそれぞれアナログ化して増幅した出力信号S1L及びS1Rの音声を、ヘッドホン6を介して疑似ステレオ音声としてリスナに聴取させる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は疑似ステレオ化装置に関し、例えばヘッドホンを介してリスナに擬似的なステレオ音声信号を聴取させる疑似ステレオ化装置に適用して好適なものである。
【背景技術】
【0002】
従来、疑似ステレオ化装置においては、入力されたモノラル音声信号を基に、互いに無相関な複数チャンネルの音声信号を生成し、左右への音の広がり感を得られるような疑似ステレオ音声をリスナに聴取させるようになされたものが提案されている。
【0003】
このような疑似ステレオ化装置のなかには、例えば図11に示すように、無相関化フィルタを出力チャンネル毎に用いることにより、図12に示すように、当該無相関化フィルタ毎にそれぞれ異なる周波数帯域の音声信号の位相を変化させることによって、モノラルの音声信号から、互いに無相関な複数の音声信号を生成するようになされたものがある。
【0004】
また疑似ステレオ化装置のなかには、図11における無相関化フィルタに代えてバンドパスフィルタを用いることにより、図13に示すように、モノラル音声信号を複数の周波数帯域に分割し、出力チャンネル毎に異なる周波数帯域の音声信号を削除することにより、各周波数帯域の信号成分を異なる出力チャンネルに振り分けるようになされたものがある(例えば、文献1参照)。
【特許文献1】特開平8−205295号公報(第3頁、第1図)
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところで、一般的に、音声を発生する音源は当該音声の基音と高調波音とを発生しており、リスナは、日常生活においてこのような音声の基本波成分と高調波成分とを同じ方向から聴取することに慣れている。このためリスナは、ある音声の基本波成分と高調波成分とを同じ方向から聞き取った場合に、無意識のうちにその音声を自然な音声であると感じる。
【0006】
しかし、上述した疑似ステレオ化装置では、予め定められた周波数帯域毎に音声信号を分割し、それぞれ異なる出力チャンネルに振り分けるため、ある音声の基本波成分と高調波成分とを異なる出力チャンネルに振り分けてしまう可能性がある。
【0007】
このような場合、疑似ステレオ化装置は、ある音声の基本波成分と高調波成分とを異なる方向からリスナに聴取させることになるため、当該リスナに音声の左右への広がり感を与えることはできるものの、音像定位が不自然になってしまい、当該ユーザに違和感を感じさせてしまうという問題があった。
【0008】
本発明は以上の点を考慮してなされたもので、格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を提案しようとするものである。
【課題を解決するための手段】
【0009】
かかる課題を解決するため本発明の疑似ステレオ化装置においては、モノラル音声を擬似的にステレオ化する疑似ステレオ化装置において、所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号から抽出可能な周期波のうち、入力信号から周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、入力信号から基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、入力信号から音源信号の成分を差し引いた残差信号を生成する音源分離手段と、音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成手段とを設けるようにした。
【0010】
これにより、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離することができ、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成し、疑似ステレオ音声として出力することができる。
【0011】
また本発明の疑似ステレオ化方法においては、モノラル音声を擬似的にステレオ化する疑似ステレオ化方法において、所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、入力信号から周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、入力信号から基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、入力信号から音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップとを設けるようにした。
【0012】
これにより、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離することができ、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成し、疑似ステレオ音声として出力することができる。
【0013】
また本発明の疑似ステレオ化プログラムにおいては、情報処理装置に対して、モノラル音声を擬似的にステレオ化する処理を実行させるための疑似ステレオ化プログラムにおいて、所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、入力信号から周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、入力信号から基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、入力信号から音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップとを設けるようにした。
【0014】
これにより、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離することができ、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成し、疑似ステレオ音声として出力することができる。
【発明の効果】
【0015】
本発明によれば、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離して、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成して疑似ステレオ音声として出力することができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【発明を実施するための最良の形態】
【0016】
以下、図面について、本発明の一実施の形態を詳述する。
【0017】
(1)第1の実施の形態
(1−1)疑似ステレオ化装置の構成
図1において、1は全体として本発明の第1の実施の形態による疑似ステレオ化装置の全体構成を示しており、外部から入力されるモノラル音声を擬似的にステレオ化し、この疑似ステレオ音声をヘッドホン6を介してリスナに聴取させるようになされている。
【0018】
疑似ステレオ化装置1は、入力端子11を介して外部から入力されたアナログのモノラル音声信号S0を、アナログ/ディジタル変換器12によってディジタル化してディジタル入力信号D0に変換し、これを信号区分処理回路13へ供給する。
【0019】
信号区分処理回路13は、ディジタル入力信号D0を所定時間L毎に区分し、これを1フレームの入力信号x0(t)(ただし0≦t≦L)として音源分離部2へ供給する。
【0020】
音源分離部2は、一般調和解析と呼ばれる手法を用いて入力信号x0(t)を音源信号と残差信号とに分離するようになされており、まず信号区分処理回路13から供給された当該入力信号x0(t)を周波数スペクトル解析処理回路14及び基本周期波抽出処理回路15へ供給する。
【0021】
周波数スペクトル解析処理回路14は、詳しくは後述するが、任意の周波数fを様々に変化させながら、入力信号x0(t)のフーリエ係数S(f)及びC(f)を順次算出すると共に、当該フーリエ係数S(f)及びC(f)を用いて周波数fに基づいた周期波p(t,f)を算出し、さらに入力信号x0(t)から当該周期波p(t,f)を差し引いた残差e(t,f)のエネルギーE(f)を算出する。
【0022】
さらに周波数スペクトル解析処理回路14は、様々に変化させた周波数fのなかから、残差のエネルギーE(f)が最も小さくなる周波数f(以下、これを基本周波数f1と呼ぶ)及び当該残差のエネルギーE(f)が2番目乃至8番目に小さくなる周波数f(以下、これらを副周波数f2乃至f8と呼ぶ)を選択して、当該基本周波数f1及び当該副周波数f2乃至f8と、各周波数に応じたフーリエ係数S(f2)乃至S(f8)と、フーリエ係数C(f2)乃至C(f8)とを、基本周期波抽出処理回路15及び高調波抽出処理回路16へ供給する。
【0023】
基本周期波抽出処理回路15は、基本周波数f1に基づく基本周期波p(t,f1)を算出してその成分を波形合成処理回路17へ供給すると共に、入力信号x0(t)から当該基本周期波p(t,f1)の成分を差し引いた残差e(t,f1)(以下、これを中間残差と呼ぶ)の成分を高調波抽出処理回路16へ供給する。
【0024】
高調波抽出処理回路16は、副周波数f2乃至f8のうち、基本周波数f1の高調波に相当する、すなわち基本周波数f1のほぼ整数倍となる副周波数fm(2≦m≦8、mは整数)を選択し、その周期波p(t,fm)の成分を全て高調波として波形合成処理回路17へ供給すると共に、中間残差e(t,f1)の成分から、当該高調波の全ての周期波p(t,fm)の成分を差し引いた残差成分を残差信号DTとして出力処理部3のディジタル/アナログ変換器18Rへ供給する。
【0025】
波形合成処理回路17は、基本周期波p(t,f1)の成分とその高調波の全ての周期波p(t,fm)の成分とを合成して音源信号DSを生成し、これを出力処理部3のディジタル/アナログ変換器18Lへ供給する。
【0026】
このように音源分離部2は、1フレーム分の入力信号x0(t)を基に音源信号DSと残差信号DTとに分離して、それぞれ出力処理部3へ供給するようになされている。
【0027】
疑似ステレオ化装置1は、出力処理部3のディジタル/アナログ変換器18L及び18Rによって音源信号DS及び残差信号DTをそれぞれアナログ信号に変換し、これを増幅器19L及び19Rによってそれぞれ増幅することにより第1出力信号としての出力信号S1L及び第2出力信号としての出力信号S1Rを生成して、出力端子20L及び20Rを介して当該出力信号S1L及びS1Rをそれぞれヘッドホン6の左右の音響ユニット6L及び6Rへ送出する。
【0028】
かくして疑似ステレオ化装置1は、モノラル入力信号S0を基に、入力信号x0(t)を音源分離部2によって音源信号DSと残差信号DTとに分離し、当該音源信号DS及び残差信号DTを基に生成した出力信号S1L及びS1Rの音声をリスナに聴取させるようになされている。
【0029】
(1−2)疑似ステレオ化処理手順
ところで疑似ステレオ化装置1は、上述したように、一般調和解析による音源分離処理を行うことにより、モノラルの音声を疑似ステレオ化した疑似ステレオ音声を生成するようになされており、このときの疑似ステレオ化処理手順について、図2のフローチャートを用いて説明する。
【0030】
疑似ステレオ化装置1は、外部から入力端子11を介してアナログのモノラル入力信号S0が入力されると、ルーチンRT1の開始ステップから入ってステップSP1へ移る。ステップSP1において疑似ステレオ化装置1は、アナログ/ディジタル変換器12によってアナログのモノラル入力信号S0をディジタル化し、さらに信号区分処理回路13によって所定時間(0≦t≦L)でなる1フレーム分に区切った入力信号x0(t)を音源分離部2へ供給し、次のステップSP2へ移る。
【0031】
ステップSP2において疑似ステレオ化装置1は、図3に示す音源分離サブルーチンSRT1へ移り、開始ステップから入ってステップSP11へ移る。ステップSP11において疑似ステレオ化装置1の音源分離部2は、周波数スペクトル解析処理回路14によって、フーリエ係数を算出する際に用いる周波数fを20[Hz]に初期化して次のステップSP12へ移る。ちなみに周波数スペクトル解析処理回路14は、周波数fを20[Hz]から20[kHz]までの範囲内で10[Hz]ずつ変化させるようになされている。
【0032】
ステップSP12において音源分離部2は、周波数スペクトル解析処理回路14により、入力信号x0(t)及び周波数fに基づいて次式
【0033】
【数1】
【0034】
【数2】
【0035】
に従ってフーリエ係数S(f)及びC(f)を算出し、次のステップSP13へ移る。ここで、周期Tは周波数fの逆数であり、nはnT≦Lを満たす整数である。
【0036】
ステップSP13において音源分離部2は、周波数スペクトル解析処理回路14により、フーリエ係数S(f)及びC(f)を用いて次式
【0037】
【数3】
【0038】
に従って周期波p(t,f)を算出し、続いて次式
【0039】
【数4】
【0040】
に従って入力信号x0(t)からこの周期波p(t,f)の成分を差し引いた残差e(t,f)を算出し、さらに次式
【0041】
【数5】
【0042】
に従い残差エネルギーE(f)を算出して、次のステップSP14へ移る。
【0043】
ステップSP14において音源分離部2は、周波数スペクトル解析処理回路14により20[Hz]から20[kHz]までの全ての周波数fについて残差エネルギーE(f)を算出したか否かを判定する。ここで否定結果が得られると、このことは他の周波数fについてまだ残差エネルギーE(f)を算出する必要があることを表しており、このとき音源分離部2は、次のステップSP15へ移る。
【0044】
ステップSP15において音源分離部2は、周波数スペクトル解析処理回路14により周波数fを10[Hz]増加させてから、ステップSP12に戻って再度ステップSP13−SP14の処理を繰り返す。
【0045】
これに対してステップSP14において肯定結果が得られると、このことは20[Hz]から20[kHz]までの範囲内の全ての周波数fについて残差エネルギーE(f)を算出し終えたことを表しており、このとき音源分離部2は次のステップSP16へ移る。
【0046】
ステップSP16において音源分離部2は、周波数スペクトル解析処理回路14により、各周波数fについて算出した残差エネルギーE(f)のなかから、当該残差エネルギーE(f)を最も小さくするときの周波数fを基本周波数f1として選択し、さらにこのときのフーリエ係数S(f1)及びC(f1)を算出した後、次のステップSP17へ移る。
【0047】
ここで基本周波数f1は、残差エネルギーE(f)を最も小さくする周波数fであるため、同時に周期波p(t、f)のエネルギーを最も大きくすることになる。
【0048】
ステップSP17において音源分離部2は、周波数スペクトル解析処理回路14により、残差エネルギーE(f)が2番目乃至8番目に小さくなる周波数fを副周波数f2乃至f8として選択し、さらにそれぞれのフーリエ係数S(f2)乃至S(f8)及びC(f2)乃至C(f8)を算出して、基本周波数f1と、副周波数f2乃至f8と、フーリエ係数S(f1)乃至S(f8)と、フーリエ係数C(f1)乃至C(f8)とを基本周期波抽出処理回路15及び高調波抽出処理回路16へ供給した後、次のステップSP18へ移る。
【0049】
ステップSP18において音源分離部2は、基本周期波抽出処理回路15によって、上述した(3)式に基本周波数f1、フーリエ係数S(f1)及びC(f1)を適用することにより、基本周波数f1に基づく基本周期波p(t,f1)の成分を算出し、これを波形合成処理回路17へ供給する。
【0050】
さらに音源分離部2は、基本周期波抽出処理回路15によって、入力信号x0(t)から基本周期波p(t,f1)の成分を差し引くことにより中間残差e(t,f1)の成分を算出し、これを高調波抽出処理回路16へ供給して、次のステップSP19へ移る。
【0051】
ステップSP19において音源分離部2は、高調波抽出処理回路16によって、副周波数f2乃至f8のうち、基本周波数f1のほぼ整数倍となる副周波数fmを全て選択し、その周期波p(t,fm)の成分を全て高調波として波形合成処理回路17へ供給して、次のステップSP20へ移る。
【0052】
ステップSP20において音源分離部2は、高調波抽出処理回路16によって、中間残差e(t,f1)の成分から高調波の全ての周期波p(t,fm)の成分を差し引くことにより残差信号DTを生成し、これを出力処理部3のディジタル/アナログ処理回路18Rへ供給して、次のステップSP21へ移る。
【0053】
ステップSP21において音源分離部2は、波形合成処理回路17によって、基本周期波p(t,f1)の成分と高調波の全ての周期波p(t,fm)の成分とを合成して音源信号DSを生成し、これを出力処理部3のディジタル/アナログ処理回路18Lへ供給した後、次のステップSP22へ移ってこのサブルーチンSRT1を終了し、元のルーチンRT1のステップSP3へ移る。
【0054】
このように疑似ステレオ化装置1は、音源分離部2によって一般調和解析を用いた音源分離処理を行うことにより、モノラルの入力信号x0(t)を基に、残差エネルギーE(f)を最も小さくして周期波p(t,f)のエネルギーを最も大きくする基本周波数f1を選択し、当該基本周波数f1及びその高調波の周期波成分によって音源信号DSを生成すると共に、その残差成分でなる残差信号DTを生成するようになされている。
【0055】
例えば疑似ステレオ化装置1は、オーケストラの演奏を収録したモノラルの音声信号のうちチェロの音声成分の信号強度が最も強い場合に、このチェロの音声成分を高調波と共に抽出して音源信号DSとすることにより、他の楽器の音声成分でなる残差信号DTと分離することができる。
【0056】
ステップSP3において疑似ステレオ化装置1は、出力処理部3によって音源信号DS及び残差信号DTをそれぞれアナログ化して増幅し、これらを出力信号S1L及びS1Rとして出力端子20L及び20Rからそれぞれ出力して、次のステップSP13に移ってこのルーチンRT1を終了する。
【0057】
ここで出力信号S1L及びS1Rは、それぞれ互いに無相関な音源信号DS及び残差信号DTを基に生成されるため、当該出力信号S1L及びS1Rは、ある音源の音声とその残差の音声とを異なる出力チャンネルに振り分けた疑似ステレオ音声となっている。
【0058】
そして疑似ステレオ化装置1は、出力信号S1L及びS1Rをヘッドホン6の音響ユニット6L及び6Rへ出力することにより、当該出力信号S1L及びS1Rの音声を疑似ステレオ音声としてリスナに聴取させることができる。
【0059】
例えば疑似ステレオ化装置1は、上述したチェロの音声を左チャンネルから、他の楽器の音声を右チャンネルから、それぞれリスナに聴取させることができる。
【0060】
(1−3)動作及び効果
以上の構成において、疑似ステレオ化装置1は、アナログのモノラル入力信号S0をディジタル化して所定時間でなる1フレームに区分した入力信号x0(t)を音源分離部2へ供給すると、当該音源分離部2により一般調和解析を用いて、入力信号x0(t)から周期波p(t,f)を差し引いた残差e(t,f)の残差エネルギーE(f)が最も小さくなるものから8種類の周波数fを基本周波数f1及び副周波数f2乃至f8として選択してから、入力信号x0(t)から基本周波数f1に基づく基本周期波p(t,f1)の成分と、基本周波数f1のほぼ整数倍となる副周波数f2乃至f8に基づく高調波の周期波p(t,fm)の成分とを抽出し、当該基本周期波p(t,f1)の成分と高調波の周期波p(t,fm)の成分とを合成して音源信号DSを生成すると共に、入力信号x0(t)から音源信号DSの成分を除いた残差信号DTを生成した後、出力処理部3によって、当該音源信号DS及び当該残差信号DTをそれぞれアナログ化して増幅した出力信号S1L及びS1Rの音声を、ヘッドホン6を介してリスナに聴取させる。
【0061】
従って疑似ステレオ化装置1は、音源分離部2において一般調和解析による音源分離処理を行うことにより、入力信号x0(t)を音源信号DSと残差信号DTとに分離することができ、さらに出力処理部3によって当該音源信号DSと残差信号DTとをそれぞれアナログ化して左右のチャンネルに振り分けてリスナに聴取させることにより、疑似ステレオ化された音声としてリスナに聴取させることができる。
【0062】
このとき疑似ステレオ化装置1は、例えばオーケストラの演奏を収録した音声信号のうち、チェロの音声成分の信号強度が最も強い場合に、このチェロの音声成分を高調波と共に抽出して音源信号DSとし、他の楽器の音声でなる残差信号DTと分離することができるので、チェロの音声成分と他の楽器による音声成分とをそれぞれヘッドホン6の左右の音響ユニット6L及び6Rに振り分けて出力することができ、ユーザに明確な音像定位を与えることができる。
【0063】
以上の構成によれば、疑似ステレオ化装置1は、音源分離部2によって、一般調和解析を用いて入力信号x0(t)を基に基本周波数f1を選択し、当該基本周波数f1に基づく基本周期波p(t,f1)と当該基本周波数f1の高調波の周期波p(t,fm)とを合成して音源信号DSを生成すると共に、入力信号x0(t)から音源信号DSの成分を除いた残差信号DTを生成した後、出力処理部3によって、当該音源信号DS及び当該残差信号DTをそれぞれアナログ化して増幅した出力信号S1L及びS1Rを、ヘッドホン6を介してリスナに聴取させることにより、入力信号x0(t)を音源信号DSと残差信号DTとに分離して、それぞれを異なる出力チャンネルに振り分けた音像定位の明確な疑似ステレオ音声をリスナに聴取させることができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【0064】
(2)第2の実施の形態
(2−1)疑似ステレオ化装置の構成
図1との対応部分に同一符号を付した図4において、30は第2の実施の形態における疑似ステレオ化装置を示しており、音源分離部2(図1)と同様の構成でなる音源分離部2A及び2Bを有し、また出力処理部3(図1)に代えて出力処理部32を有している以外は、第1の実施の形態と同様の構成を有している。
【0065】
疑似ステレオ化装置30は、疑似ステレオ化装置1と同様に、アナログ/ディジタル変換器12によってアナログのモノラル入力信号S0をディジタル化してディジタル入力信号D0を生成し、これを信号区分処理回路13によって1フレーム毎に区分した入力信号x0(t)を音源分離部2Aへ供給する。
【0066】
音源分離部2Aは、信号区分処理回路13から取得した1フレームの入力信号x0(t)に対して、音源分離部2と同様の処理を施すことにより第1音源信号DS1と第1残差信号DT1とに分離し、それぞれ出力処理部32及び音源分離部2Bへ供給する。
【0067】
音源分離部2Bは、第1残差信号DT1に対して音源分離部2と同様の処理を行うことにより、第2音源信号DS2と第2残差信号DT2とに分離して、共に出力処理部32へ供給する。
【0068】
出力処理部32は、加算器35Lによって第1音源信号DS1と第2残差信号DT2とを加算してディジタル出力信号D2Lを生成し、また加算器35Rによって第2音源信号DS2と第2残差信号DT2とを加算してディジタル出力信号D2Rを生成する。
【0069】
そして出力処理部32は、ディジタル出力信号D2L及びディジタル出力信号D2Rを、ディジタル/アナログ処理回路18L及び18Rによりそれぞれアナログ信号に変換し、これを増幅器19L及び19Rによって増幅することにより第1出力信号としての出力信号S2L及び第2出力信号としての出力信号S2Rを生成して、出力端子20L及び20Rを介して当該出力信号S2L及びS2Rをそれぞれヘッドホン6の左右の音響ユニット6L及び6Rへ送出する。
【0070】
このように疑似ステレオ化装置30は、モノラル入力信号S0を基に、入力信号x0(t)を音源分離部2A及び2Bによって第1音源信号DS1、第2音源信号DS2、及び第2残差信号DT2に分離し、当該第1音源信号DS1及び当該第2音源信号DS2にそれぞれ当該第2残差信号DT2を加算した出力信号S2L及びS2Rの音声をリスナに聴取させるようになされている。
【0071】
(2−2)疑似ステレオ化処理手順
そして疑似ステレオ化装置30は、上述した第1の実施の形態における疑似ステレオ化装置1とは異なる手順によって、モノラルの音声信号を疑似ステレオ化した疑似ステレオ音声を出力するようになされており、このときの疑似ステレオ化処理手順について、図5のフローチャートを用いて説明する。
【0072】
疑似ステレオ化装置30は、外部から入力端子11を介してアナログのモノラル入力信号S0が入力されると、ルーチンRT2の開始ステップから入ってステップSP31へ移る。ステップSP31において疑似ステレオ化装置30は、ステップSP11(図3)と同様に、モノラル入力信号S0をディジタル化して1フレーム毎に区分した入力信号x0(t)を信号区分処理回路13から音源分離部2Aへ供給した後、ステップSP32へ移る。
【0073】
ステップSP32において疑似ステレオ化装置30は、音源分離部2Aによって音源分離サブルーチンSRT1(図3)の一連の処理を行うことにより、入力信号x0(t)を基に一般調和解析を用いて第1音源信号DS1と第1残差信号DT1とに分離した後、再びルーチンRT2に戻り、次のステップSP33へ移る。
【0074】
ステップSP33において疑似ステレオ化装置30は、音源分離部2Aによって生成した第1残差信号DT1を音源分離部2Bに入力して、次のステップSP34へ移る。
【0075】
ステップSP34において疑似ステレオ化装置30は、音源分離部2Bによって音源分離サブルーチンSRT1(図3)の一連の処理を行い、入力信号x0(t)の代わりに第1残差信号DT1を基に一般調和解析を用いて第2音源信号DS2と第2残差信号DT2とに分離した後、再びルーチンRT2に戻り、次のステップSP35へ移る。
【0076】
ステップSP35において疑似ステレオ化装置30は、出力処理部32の加算器35A及び35Bによって、第1音源信号DS1及び第2音源信号DS2にそれぞれ第2残差信号DT2を加算することにより、それぞれディジタル出力信号D2L及びディジタル出力信号D2Rを生成して、次のステップSP36へ移る。
【0077】
ステップSP36において疑似ステレオ化装置30は、出力処理部32のディジタル/アナログ処理回路18L及び18R、並びに増幅器19L及び19Rによって、ディジタル出力信号D2L及びディジタル出力信号D2Rをそれぞれアナログ化して増幅することにより出力信号S2L及び出力信号S2Rを生成し、これらを出力端子20L及び20Rからそれぞれ出力した後、次のステップSP37へ移ってこのルーチンRT2を終了する。
【0078】
この結果、疑似ステレオ化装置30は、一般調和解析を用いて入力信号x0(t)を第1音源信号DS1と第1残差信号DT1とに分離し、再度一般調和解析を用いて当該第1残差信号DT1を第2音源信号DS2と第2残差信号DT2とに分離することができる。
【0079】
これにより疑似ステレオ化装置30は、例えばオーケストラの演奏を収録した音声信号のうち、チェロの音声成分のエネルギーが最も強くバイオリンの音声成分のエネルギーが2番目に強い場合に、このチェロの音声成分を第1音源信号DS1とし、またバイオリンの音声成分を第2音源信号DS2として、その他の楽器の音声でなる第2残差信号DT2からそれぞれ分離することができる。
【0080】
さらに疑似ステレオ化装置30は、出力処理部32において、第1音源信号DS1に第2残差信号DT2を加算することにより、例えばチェロと、バイオリンを除いた他の楽器の音声とが含まれる出力信号S2Lを生成することができ、また第2音源信号DS2に第2残差信号DT2を加算することにより、例えばバイオリンと、チェロを除いた他の楽器の音声とが含まれる出力信号S2Rを生成することができる。
【0081】
そして疑似ステレオ化装置30は、出力信号S2L及びS2Rをそれぞれヘッドホン6の音響ユニット6L及び6Rへ送出することにより、例えばチェロの音声を左チャンネルのみから、バイオリンの音声を右チャンネルのみから、他の楽器を左右両方のチャンネルからそれぞれ聴取させるといった具合に、第1の実施の形態とは異なる疑似ステレオ音声をリスナに聴取させることができる。
【0082】
(2−3)動作及び効果
以上の構成において、疑似ステレオ化装置30は、アナログのモノラル入力信号S0をディジタル化して所定時間でなる1フレームに区分した入力信号x0(t)を音源分離部2Aへ供給すると、第1の実施の形態における音源分離部2と同様に当該音源分離部2Aによって一般調和解析を用いて第1音源信号DS1と第1残差信号DT1とに分離し、さらに当該第1残差信号DT1を音源分離部2Bへ供給して、当該音源分離部2Bによって一般調和解析を用いて第2音源信号DS2と第2残差信号DT2とに分離した後、出力処理部32によって、第1音源信号DS1に第2残差信号DT2を加算して出力信号S2Lを生成すると共に第2音源信号DS2に第2残差信号DT2を加算して出力信号S2Rを生成して、当該出力信号S2L及びS2Rをヘッドホン6の音響ユニット6L及び6Rへ送出する。
【0083】
従って疑似ステレオ化装置30は、音源分離部2A及び2Bにおいて、第1の実施の形態と同様の一般調和解析による音源分離処理を2段階で行うことにより、入力信号x0(t)を第1音源信号DS1、第2音源信号DS2、及び第2残差信号DT2に分離することができる。
【0084】
このとき疑似ステレオ化装置30は、入力信号x0(t)に含まれる音声成分のうち、最もエネルギーの大きい周期波及び2番目にエネルギーの大きい周期波に基づいて第1音源信号DS1及び第2音源信号DS2をそれぞれ生成することができると共に、その残差に相当する第2残差信号DT2も生成することができる。
【0085】
そして疑似ステレオ化装置30は、出力処理部32によって、第1音源信号DS1に第2残差信号DT2を加算し、また第2音源信号DS2に第2残差信号DT2を加算することにより、互いに無相関な出力信号S2L及びS2Rを生成することができ、当該第1出力信号S2L及び第2出力信号S2Rをヘッドホン6の左右の音響ユニット6L及び6Rにそれぞれ送出することにより、リスナに疑似ステレオ音声を聴取させることができる。
【0086】
このとき疑似ステレオ化装置30は、例えばモノラルのオーケストラの演奏を収録した音声を基に、第1音源信号DS1のチェロの音声を左チャンネルのみから、第2音源信号DS2のバイオリンの音声を右チャンネルのみから、さらに第2残差信号DT2の他の楽器を左右両方のチャンネルから、それぞれリスナに聴取させることができるので、チェロとバイオリンの音像をそれぞれ左右に定位させ、さらに他の楽器の音像を中央に定位させることができ、音像の偏りが無く、音源が良く分離した疑似ステレオ音声を当該リスナに聴取させることができる。
【0087】
以上の構成によれば、疑似ステレオ化装置30は、音源分離部2Aによって入力信号x0(t)を基に一般調和解析を用いて第1音源信号DS1と第1残差信号DT1とに分離し、さらに音源分離部2Bによって当該第1残差信号DT1を基に一般調和解析を用いて第2音源信号DS2と第2残差信号DT2とに分離してから、出力処理部32によって第1音源信号DS1に第2残差信号DT2を加算して出力信号S2Lを生成すると共に第2音源信号DS2に第2残差信号DT2を加算して出力信号S2Rを生成して、ヘッドホン6を介して当該出力信号S2L及び出力信号S2Rの音声をリスナに聴取させることにより、モノラル入力信号S0を基にした、第1音源信号DS1及び第2音源信号DS2の音声をそれぞれ左右に振り分けると共に第2残差信号DT2の音声を左右の中央に定位させた疑似ステレオ音声をリスナに聴取させることができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【0088】
(3)第3の実施の形態
(3−1)疑似ステレオ化装置の構成
図1との対応部分に同一符号を付した図6において、50は第3の実施の形態における疑似ステレオ化装置を示しており、疑似ステレオ化装置1(図1)の音源分離部2と同様の構成でなる音源分離部2を有し、出力処理部3に代えて出力処理部52を有している以外は、第1の実施の形態と同様の構成を有している。
【0089】
音源分離部2は、第1の実施の形態と同様に、信号区分処理回路13から取得した1フレームの入力信号x0(t)を基に、音源信号DSと残差信号DTとを分離して出力処理部52へ供給する。
【0090】
出力処理部52は、音源分離部2から供給された音源信号DSと残差信号DTとを、それぞれ音像定位処理回路53L及び53Rと、音像定位処理回路54L及び54Rとへ供給する。
【0091】
ここで、音像定位処理回路53L、53R、54L及び54Rについて説明する。例えば図7に示すように、リスナの前方の位置Pに音源Gがあると仮定すると、当該音源Gからリスナの左右の耳までの距離や角度が互いに異なるため、当該リスナは、左右の耳によって互いに微妙に異なる音声を聴取することにより、この左右の耳で聴取した音声の違いを基に、音源Gが位置Pにあることを認識することができる。このとき、当該音源Gから出力された音声は、伝達関数HL及びHRを有する経路を介してリスナの右耳及び左耳に到達すると見なすことができ、このような伝達関数HL及びHRを時間軸に変換した左チャンネル及び右チャンネルのインパルス応答を予め測定あるいは計算しておく。
【0092】
次に、リスナがヘッドホンを介して音声を聴取する場合を仮定する。リスナは、ヘッドホンを介して左右の耳から全く同じ音声(すなわちモノラル音声)を聴取した場合、その音像がリスナの左右方向における中央に定位しているように感じる。ここで、信号処理装置100によって、モノラル音声信号Smonoを左右の音声信号に分配し、上述した左チャンネル及び右チャンネルのインパルス応答を左右の音声信号に対してそれぞれ畳み込んだ場合(以下、このような処理を音像定位処理と呼ぶ)、リスナは、ヘッドホンを介してこの左右の音声信号に基づく音声を聴取した際に、その音像が位置Pに定位しているように認識することができる。
【0093】
そこで疑似ステレオ化装置50(図6)の出力処理部52は、音像定位処理回路53L、53R、54L及び54Rによって音像定位処理を行うことにより、音源信号DS及び残差信号DTの音像をそれぞれ異なる位置に定位させるようになされている。
【0094】
すなわち出力処理部52の音像定位処理回路53L及び53Rは、図8に示すような、リスナの前方左側の位置PLに音像が定位するような伝達関数HSL及びHSRに基づき、音像定位処理として、音源信号DSに対して当該伝達関数HSL及びHSRを時間軸に変換した右チャンネル及び左チャンネルのインパルス応答をそれぞれ畳み込むことにより定位音源信号DSL及びDSRを生成し、それぞれ加算器55L及び55Rへ供給する。
【0095】
また出力処理部52の音像定位処理回路54L及び54Rは、図8におけるリスナの前方中央よりやや右寄りの位置PRに音像が定位するような伝達関数HTL及びHTRに基づき、音像定位処理として、残差信号DTに対して当該伝達関数HTL及びHTRを時間軸に変換した右チャンネル及び左チャンネルのインパルス応答をそれぞれ畳み込むことにより定位残差信号DTL及びDTRを生成し、それぞれ加算器55L及び55Rへ供給する。
【0096】
そして出力処理部52(図6)は、加算器55Lによって定位音源信号DSLと定位残差信号DTLとを加算してディジタル出力信号D3Lを生成し、また加算器55Rによって定位音源信号DSRと定位残差信号DTRとを加算してディジタル出力信号D3Rを生成する。
【0097】
さらに出力処理部52は、ディジタル出力信号D3L及びディジタル出力信号D3Rをディジタル/アナログ処理回路18L及び18Rによりそれぞれアナログ信号に変換し、これを増幅器19L及び19Rによって増幅することにより第1出力信号としての出力信号S3L及び第2出力信号としての出力信号S3Rを生成して、出力端子20L及び20Rを介してそれぞれヘッドホン6の左右の音響ユニット6L及び6Rへ送出する。
【0098】
このように疑似ステレオ化装置50は、モノラル入力信号S0をディジタル化した入力信号x0(t)を、音源分離部2によって音源信号DS及び残差信号DTに分離し、さらに出力処理部52によって、当該音源信号DSを前方左側の位置に定位させると共に当該残差信号DTを前方中央よりやや右寄りの位置に定位させるような出力信号S3L及びS3Rを生成して、当該出力信号S3L及びS3Rの音声をリスナに聴取させるようになされている。
【0099】
(3−2)疑似ステレオ化処理手順
次に、疑似ステレオ化装置50がモノラルの音声信号を疑似ステレオ化した疑似ステレオ音声を出力する際の疑似ステレオ化処理手順について、図9のフローチャートを用いて説明する。
【0100】
疑似ステレオ化装置50は、外部から入力端子11を介してアナログのモノラル入力信号S0が入力されると、ルーチンRT3の開始ステップから入ってステップSP41へ移る。ステップSP41において疑似ステレオ化装置50は、ステップSP1(図2)と同様に、モノラル入力信号S0をディジタル化して1フレーム分(0≦t≦L)に区切った入力信号x0(t)を信号区分処理回路13から音源分離部2へ供給した後、ステップSP42へ移る。
【0101】
ステップSP42において疑似ステレオ化装置50は、音源分離部2によって音源分離サブルーチンSRT1(図3)の一連の処理を行い、入力信号x0(t)を基に音源信号DSと残差信号DTとに分離した後、音源信号DSを出力処理部52の音像定位処理53L及び53Rへ供給すると共に音源信号DTを出力処理部52の音像定位処理54L及び54Rへ供給して、再びルーチンRT3に戻り、次のステップSP43へ移る。
【0102】
ステップSP43において疑似ステレオ化装置50は、音像定位処理回路53L及び53Rにより音源信号DSに音像定位処理を施して定位音源信号DSL及びDSRを生成し、それぞれ加算器55L及び55Rへ供給すると共に、音像定位処理回路54L及び54Rにより音源信号DTに音像定位処理を施して定位残差信号DTL及びDTRを生成し、それぞれ加算器55L及び55Rへ供給して、次のステップSP44へ移る。
【0103】
ステップSP44において疑似ステレオ化装置50は、加算器55Lにより定位音源信号DSLと定位残差信号DTLとを加算してディジタル出力信号D3Lを生成すると共に、加算器55Rにより定位音源信号DSRと定位残差信号DTRとを加算してディジタル出力信号D3Rを生成し、次のステップSP45へ移る。
【0104】
ステップSP45において疑似ステレオ化装置50は、出力処理部52のディジタル/アナログ処理回路18L及び18R、並びに増幅器19L及び19Rによって、ディジタル出力信号D3L及びディジタル出力信号D3Rをアナログ化して増幅することにより出力信号S3L及び出力信号S3Rを生成し、これらをそれぞれ出力端子20L及び20Rから出力した後、次のステップSP46へ移ってこのルーチンRT3を終了する。
【0105】
この結果、疑似ステレオ化装置50は、第1の実施の形態と同様に、音源分離部2により一般調和解析を用いて入力信号x0(t)を音源信号DSと残差信号DTとに分離することができ、例えばオーケストラの演奏を収録した音声信号のうちチェロの音声成分の信号強度が最も強い場合に、このチェロの音声成分を音源信号DSとし、他の楽器の音声成分でなる残差信号DTから分離することができる。
【0106】
さらに疑似ステレオ化装置50は、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rにより音像定位処理を施して加算した出力信号S3L及びS3Rをそれぞれヘッドホン6の音響ユニット6L及び6Rへ出力することにより、例えばチェロの音声成分でなる音源信号DSの音像を前方左側に定位させ、他の楽器の音声成分でなる残差信号DTを前方中央よりやや右寄りに定位させた疑似ステレオ音声をリスナに聴取させることができる(図8)。
【0107】
(3−3)動作及び効果
以上の構成において、疑似ステレオ化装置50は、アナログのモノラル入力信号S0をディジタル化して所定時間でなる1フレームに区分した入力信号x0(t)を音源分離部2へ供給すると、第1の実施の形態と同様に当該音源分離部2によって音源信号DSと残差信号DTとに分離した後、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rにより当該音源信号DS及び当該残差信号DTにそれぞれ音像定位処理を施して定位音源信号DSL及びDSRと定位残差信号DTL及びDTRとを生成し、定位音源信号DSLと定位残差信号DTLとを加算して出力信号S3Lを生成すると共に、定位音源信号DSRと定位残差信号DTRとを加算して出力信号S3Rを生成して、ヘッドホン6を介して当該出力信号S3L及びS3Rをリスナに聴取させる。
【0108】
従って疑似ステレオ化装置50は、音源分離部2において、第1の実施の形態と同様に一般調和解析を用いた音源分離処理を行うことにより、入力信号x0(t)を基に音源信号DSと残差信号DTとを分離することができ、例えばオーケストラの演奏を収録した音声信号からチェロの音声成分と他の楽器の音声成分とを分離することができる。
【0109】
そして疑似ステレオ化装置50は、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rにより音源信号DS及び残差信号DTに音像定位処理を施し、それぞれ加算した出力信号D3L及びD3Rをヘッドホン6の音響ユニット6L及び6Rへ出力することにより、リスナに疑似ステレオ音声を聴取させることができる。
【0110】
このとき疑似ステレオ化装置50は、出力処理部52の音像定位処理によって、例えばチェロの音声成分でなる音源信号DSの音像を前方左側に定位させ、他の楽器の音声成分でなる残差信号DTを前方中央よりやや右寄りに定位させた疑似ステレオ音声をリスナに聴取させることができ(図8)、当該リスナに広がり感のある音場を与えることができる。
【0111】
以上の構成によれば、疑似ステレオ化装置50は、音源分離部2によって入力信号x0(t)を基に一般調和解析を用いて音源信号DSと残差信号DTとに分離した後、出力処理部52により当該音源信号DS及び残差信号DTに音像定位処理を施して加算した出力信号S3L及びS3Rを生成し、ヘッドホン6を介して当該出力信号S3L及びS3Rの音声をリスナに聴取させることにより、当該音源信号DS及び残差信号DTによる音像を、左右の間の所望の位置に定位させた広がり感のある音場をリスナに与えることができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【0112】
(4)他の実施の形態
なお上述した第1乃至第3の実施の形態においては、出力信号S1乃至S3をヘッドホン6へ送出するようにした場合について述べたが、本発明はこれに限らず、例えば図1との対応部分に同一符号を付した図10に示すように、疑似ステレオ化装置70がヘッドホン6に代えてスピーカ76に出力信号を送出してリスナに疑似ステレオ音声を聴取させるようにしても良い。
【0113】
この場合、疑似ステレオ化装置70は、出力処理部72から2つのスピーカ76L及び76Rへ出力信号を出力する以外にも、当該出力処理部72において3種類以上の出力信号を生成して3つ以上のスピーカ76へ送出することによって、音声を再生するようにしてもよい。
【0114】
ちなみに出力処理部72は、出力処理部3(図1)とほぼ同様の回路構成を有しているが、ヘッドホン6ではなく、スピーカ76L及び76Rを駆動可能な信号レベルに増幅した出力信号を送出するようになされている。
【0115】
また上述した第2の実施の形態においては、音源分離部2(音源分離部2A及び2B)を2段階に用いて2つの音源信号DS(音源信号DS1及びDS2)を分離するようにした場合について述べたが、本発明はこれに限らず、当該音源分離部2を3段階以上用いて3つ以上の音源信号DSを分離するようにしても良い。
【0116】
この場合、各音源信号DS及び残差信号DTを左右いずれかに適宜振り分ける以外にも、第3の実施の形態のように音像定位処理を施すことによって、各音源信号DS及び残差信号DTの音像をそれぞれ所望の位置に定位させるようにしても良い。
【0117】
さらに上述した第2の実施の形態においては、第1音源信号DS1と第2残差信号DT2とを加算した出力信号S2Lを左側に、第2音源信号DS2と第2残差信号DT2とを加算して出力信号S2Rを右側にそれぞれ振り分けてリスナに聴取させるようにした場合について述べたが、本発明はこれに限らず、例えば第1音源信号DS1と第2音源信号DS2とを加算した出力信号を左側に、第2残差信号DT2を右側に振り分ける等、他の振り分け方としても良い。
【0118】
さらに上述した第3の実施の形態においては、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rによって、音源信号DSを前方左側の位置に定位させると共に残差信号DTを前方中央よりやや右寄りの位置に定位させるような出力信号S3L及びS3Rをそれぞれ生成するようにした場合について述べたが、本発明はこれに限らず、当該音源信号DS及び当該残差信号DTをそれぞれ他の位置に定位させるような出力信号S3L及びS3Rをそれぞれ生成するようにしてもよい。
【0119】
さらに上述した第1乃至第3の実施の形態においては、モノラル入力信号S0を基に2チャンネルの出力信号S1L及びS1R等を生成するようにした場合について述べたが、本発明はこれに限らず、例えばステレオの入力信号に対して入力チャンネル毎に音源分離処理を行うことによって4チャンネルの出力信号を生成する等、任意の複数チャンネルの入力信号に対してそれぞれ音源分離処理を行うことにより任意の複数チャンネルの出力信号を生成するようにしても良い。
【0120】
さらに上述した第1乃至第3の実施の形態においては、音源分離部2、2A及び2Bの周波数スペクトル解析処理回路14、14A及び14Bにおいて、20[Hz]から20[kHz]の範囲を10[Hz]ずつ周波数fを変化させるようにした場合について述べたが(ステップSP11乃至SP15)、本発明はこれに限らず、任意の開始周波数から任意の終了周波数まで、当該周波数fを適宜変化させるようにしても良い。
【0121】
さらに上述した第1乃至第3実施の形態においては、音源分離部2、2A及び2Bの周波数スペクトル解析処理回路14、14A及び14Bにおいて、残差エネルギーE(f)が最も小さくなるものから8種類の周波数、すなわち基本周波数f1及び副周波数f2乃至f8を選択するようにした場合について述べたが、本発明はこれに限らず、任意数の副周波数を選択するようにしても良い。
【0122】
さらに上述した第1乃至第3の実施の形態においては、音源分離部2、2A及び2Bの高調波抽出処理回路16、16A及び16Bにより基本周波数f1のほぼ整数倍となる副周波数f2乃至f8を高調波として選択するようにした場合について述べたが、本発明はこれに限らず、基本周波数f1の時間的変化と、副周波数f2乃至f8の時間的変化との相関性を用いて高調波を選択するようにしても良い。
【0123】
さらに上述した第1乃至第3の実施の形態においては、疑似ステレオ化装置1、30及び50の音源分離部2、あるいは音源分離部2A及び音源分離部2Bによって音源分離した後の音源信号DS及び残差信号DT、あるいは第1音源信号DS1、第2音源信号DS2及び第2残差信号DT2を、出力処理部3、32及び52によってアナログ音声信号に変換してリスナに聴取させるようにした場合について述べたが、本発明はこれに限らず、例えば疑似ステレオ化装置1、30及び50によって音源分離した後の音源信号DSや残差信号DT等を、ディジタルデータとしてネットワークを介してリスナのネットワーク端末装置に送信するようにし、当該ネットワーク端末装置において出力処理部3、32及び52と同様の処理を行うことにより、当該リスナに疑似ステレオ音声を聴取させるようにしても良い。
【0124】
さらに上述した第1乃至第3の実施の形態においては、モノラル入力信号S0をリアルタイムで疑似ステレオ化してリスナに聴取させるようにした場合について述べたが、本発明はこれに限らず、モノラル入力信号S0を基に、音源分離部2(あるいは音源分離部2A及び音源分離部2B)によって音源分離した後の音源信号DS及び残差信号DT、またはディジタル出力信号D2L及びD2R、D3L及びD3Rをディジタル音声データとして所定の記憶媒体に保存しておき、後から当該ディジタル音声データをアナログ音声信号に変換してリスナに聴取させるようにしても良い。
【0125】
例えば疑似ステレオ化装置1は、生成したディジタル音声データを予めCD−R(Compact Disc-Recordable)等に保存しておくことにより、当該CD−RをCDプレーヤ等で再生したリスナに疑似ステレオ音声を聴取させることができる。また疑似ステレオ化装置1は、例えばネットワークを介して外部から入力信号x0(t)を受信し、上述した音源分離処理によって分離した音源信号DS及び残差信号DTを、ディジタル音声データとしてハードディスクドライブ等の記憶手段に記憶しておき、後から再度ネットワークを介して当該ディジタル音声データをリスナのネットワーク端末装置に送信することにより、当該ネットワーク端末装置から当該リスナに疑似ステレオ音声を聴取させるようにしても良い。
【0126】
さらに上述した第1乃至第3の実施の形態においては、ハードウェア構成によってディジタル入力信号D0から音源信号DS及び残差信号DTに分離する疑似ステレオ化装置1、30及び50に本発明を適用するようにした場合について述べたが、本発明はこれに限らず、上述した信号区分処理、周波数スペクトル解析処理、基本周期波抽出処理、高調波抽出処理及び波形合成処理を行う疑似ステレオ化プログラムを、例えばパーソナルコンピュータ等の情報処理装置にインストールし、当該情報処理装置によって音源分離処理を行うようにしても良い。
【0127】
この場合、疑似ステレオ化プログラムを情報処理装置にインストールして実行可能な状態にするためのプログラム格納媒体としては、例えばフレキシブルディスク、CD−ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)等のパッケージメディアのみならず、これらのプログラムが一時的もしくは永続的に格納される半導体メモリや磁気ディスクなどで実現しても良い。
【0128】
また、プログラム格納媒体にこれらのプログラムを格納する手段として、ローカルエリアネットワークやインターネット、ディジタル衛星放送等の有線及び無線通信媒体を利用してもよく、ルータやモデムなどの各種通信インターフェースを介して格納するようにしても良い。
【0129】
さらに上述した第3の実施の形態においては、ハードウェア構成でなる出力処理部52の音源定位処理回路53L及び53R、54L及び54Rによって、音像を定位させる音像定位処理を行うようにした場合について述べたが、本発明はこれに限らず、例えば音像定位処理を行う音像定位プログラムを予め出力処理部52の記憶手段(図示せず)に格納しておき、当該出力処理部52内の制御部(図示せず)が当該音像定位プログラムを実行することにより音像を定位させるようにしても良い。
【0130】
さらに上述した第1の実施の形態においては、音源分離手段としての音源分離部2と、出力信号生成手段としての出力処理部3とによって疑似ステレオ化装置としての疑似ステレオ化装置1を構成する場合について述べたが、本発明はこれに限らず、その他種々の回路構成でなる音源分離手段と、出力信号生成手段とによって疑似ステレオ化装置を構成するようにしても良い。
【産業上の利用可能性】
【0131】
本発明は、ヘッドホンを介してリスナに疑似ステレオ音声を聴取させる疑似ステレオ化装置以外に、スピーカを介してリスナに疑似ステレオ音声を聴取させる疑似ステレオ化装置等でも利用できる。
【図面の簡単な説明】
【0132】
【図1】第1の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図2】第1の実施の形態による疑似ステレオ化処理手順を示すフローチャートである。
【図3】音源分離サブルーチンを示すフローチャートである。
【図4】第2の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図5】第2の実施の形態による疑似ステレオ化処理手順を示すフローチャートである。
【図6】第3の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図7】音像定位の例を示す略線図である。
【図8】第3の実施の形態による音像定位の説明に供する略線図である。
【図9】第3の実施の形態による疑似ステレオ化処理手順を示すフローチャートである。
【図10】他の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図11】従来の疑似ステレオ化装置の構成例を示すブロック図である。
【図12】無相関化処理の例(1)を示す略線図である。
【図13】無相関化処理の例(2)を示す略線図である。
【符号の説明】
【0133】
1、30、50、70……疑似ステレオ化装置、2、2A、2B……音源分離部、3、32、52、72……出力処理部、6……ヘッドホン、6L、6R……音響ユニット、13……信号区分処理回路、14……周波数スペクトル解析処理回路、15……基本周期波抽出処理回路、16……高調波抽出処理回路、17……波形合成処理回路、35L、35R、55L、55R……加算器、53L、53R、54L、54R……音像定位処理回路、76L、76R……スピーカ。
【技術分野】
【0001】
本発明は疑似ステレオ化装置に関し、例えばヘッドホンを介してリスナに擬似的なステレオ音声信号を聴取させる疑似ステレオ化装置に適用して好適なものである。
【背景技術】
【0002】
従来、疑似ステレオ化装置においては、入力されたモノラル音声信号を基に、互いに無相関な複数チャンネルの音声信号を生成し、左右への音の広がり感を得られるような疑似ステレオ音声をリスナに聴取させるようになされたものが提案されている。
【0003】
このような疑似ステレオ化装置のなかには、例えば図11に示すように、無相関化フィルタを出力チャンネル毎に用いることにより、図12に示すように、当該無相関化フィルタ毎にそれぞれ異なる周波数帯域の音声信号の位相を変化させることによって、モノラルの音声信号から、互いに無相関な複数の音声信号を生成するようになされたものがある。
【0004】
また疑似ステレオ化装置のなかには、図11における無相関化フィルタに代えてバンドパスフィルタを用いることにより、図13に示すように、モノラル音声信号を複数の周波数帯域に分割し、出力チャンネル毎に異なる周波数帯域の音声信号を削除することにより、各周波数帯域の信号成分を異なる出力チャンネルに振り分けるようになされたものがある(例えば、文献1参照)。
【特許文献1】特開平8−205295号公報(第3頁、第1図)
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところで、一般的に、音声を発生する音源は当該音声の基音と高調波音とを発生しており、リスナは、日常生活においてこのような音声の基本波成分と高調波成分とを同じ方向から聴取することに慣れている。このためリスナは、ある音声の基本波成分と高調波成分とを同じ方向から聞き取った場合に、無意識のうちにその音声を自然な音声であると感じる。
【0006】
しかし、上述した疑似ステレオ化装置では、予め定められた周波数帯域毎に音声信号を分割し、それぞれ異なる出力チャンネルに振り分けるため、ある音声の基本波成分と高調波成分とを異なる出力チャンネルに振り分けてしまう可能性がある。
【0007】
このような場合、疑似ステレオ化装置は、ある音声の基本波成分と高調波成分とを異なる方向からリスナに聴取させることになるため、当該リスナに音声の左右への広がり感を与えることはできるものの、音像定位が不自然になってしまい、当該ユーザに違和感を感じさせてしまうという問題があった。
【0008】
本発明は以上の点を考慮してなされたもので、格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を提案しようとするものである。
【課題を解決するための手段】
【0009】
かかる課題を解決するため本発明の疑似ステレオ化装置においては、モノラル音声を擬似的にステレオ化する疑似ステレオ化装置において、所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号から抽出可能な周期波のうち、入力信号から周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、入力信号から基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、入力信号から音源信号の成分を差し引いた残差信号を生成する音源分離手段と、音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成手段とを設けるようにした。
【0010】
これにより、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離することができ、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成し、疑似ステレオ音声として出力することができる。
【0011】
また本発明の疑似ステレオ化方法においては、モノラル音声を擬似的にステレオ化する疑似ステレオ化方法において、所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、入力信号から周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、入力信号から基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、入力信号から音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップとを設けるようにした。
【0012】
これにより、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離することができ、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成し、疑似ステレオ音声として出力することができる。
【0013】
また本発明の疑似ステレオ化プログラムにおいては、情報処理装置に対して、モノラル音声を擬似的にステレオ化する処理を実行させるための疑似ステレオ化プログラムにおいて、所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、入力信号から周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、入力信号から基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、入力信号から音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップとを設けるようにした。
【0014】
これにより、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離することができ、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成し、疑似ステレオ音声として出力することができる。
【発明の効果】
【0015】
本発明によれば、入力音声信号を基に、周期波成分及びその高調波成分でなる音源信号と、その残差成分でなる残差信号とに分離して、当該音源信号と当該残差信号とを互いに異なる出力チャンネルに振り分けた出力音声信号を生成して疑似ステレオ音声として出力することができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【発明を実施するための最良の形態】
【0016】
以下、図面について、本発明の一実施の形態を詳述する。
【0017】
(1)第1の実施の形態
(1−1)疑似ステレオ化装置の構成
図1において、1は全体として本発明の第1の実施の形態による疑似ステレオ化装置の全体構成を示しており、外部から入力されるモノラル音声を擬似的にステレオ化し、この疑似ステレオ音声をヘッドホン6を介してリスナに聴取させるようになされている。
【0018】
疑似ステレオ化装置1は、入力端子11を介して外部から入力されたアナログのモノラル音声信号S0を、アナログ/ディジタル変換器12によってディジタル化してディジタル入力信号D0に変換し、これを信号区分処理回路13へ供給する。
【0019】
信号区分処理回路13は、ディジタル入力信号D0を所定時間L毎に区分し、これを1フレームの入力信号x0(t)(ただし0≦t≦L)として音源分離部2へ供給する。
【0020】
音源分離部2は、一般調和解析と呼ばれる手法を用いて入力信号x0(t)を音源信号と残差信号とに分離するようになされており、まず信号区分処理回路13から供給された当該入力信号x0(t)を周波数スペクトル解析処理回路14及び基本周期波抽出処理回路15へ供給する。
【0021】
周波数スペクトル解析処理回路14は、詳しくは後述するが、任意の周波数fを様々に変化させながら、入力信号x0(t)のフーリエ係数S(f)及びC(f)を順次算出すると共に、当該フーリエ係数S(f)及びC(f)を用いて周波数fに基づいた周期波p(t,f)を算出し、さらに入力信号x0(t)から当該周期波p(t,f)を差し引いた残差e(t,f)のエネルギーE(f)を算出する。
【0022】
さらに周波数スペクトル解析処理回路14は、様々に変化させた周波数fのなかから、残差のエネルギーE(f)が最も小さくなる周波数f(以下、これを基本周波数f1と呼ぶ)及び当該残差のエネルギーE(f)が2番目乃至8番目に小さくなる周波数f(以下、これらを副周波数f2乃至f8と呼ぶ)を選択して、当該基本周波数f1及び当該副周波数f2乃至f8と、各周波数に応じたフーリエ係数S(f2)乃至S(f8)と、フーリエ係数C(f2)乃至C(f8)とを、基本周期波抽出処理回路15及び高調波抽出処理回路16へ供給する。
【0023】
基本周期波抽出処理回路15は、基本周波数f1に基づく基本周期波p(t,f1)を算出してその成分を波形合成処理回路17へ供給すると共に、入力信号x0(t)から当該基本周期波p(t,f1)の成分を差し引いた残差e(t,f1)(以下、これを中間残差と呼ぶ)の成分を高調波抽出処理回路16へ供給する。
【0024】
高調波抽出処理回路16は、副周波数f2乃至f8のうち、基本周波数f1の高調波に相当する、すなわち基本周波数f1のほぼ整数倍となる副周波数fm(2≦m≦8、mは整数)を選択し、その周期波p(t,fm)の成分を全て高調波として波形合成処理回路17へ供給すると共に、中間残差e(t,f1)の成分から、当該高調波の全ての周期波p(t,fm)の成分を差し引いた残差成分を残差信号DTとして出力処理部3のディジタル/アナログ変換器18Rへ供給する。
【0025】
波形合成処理回路17は、基本周期波p(t,f1)の成分とその高調波の全ての周期波p(t,fm)の成分とを合成して音源信号DSを生成し、これを出力処理部3のディジタル/アナログ変換器18Lへ供給する。
【0026】
このように音源分離部2は、1フレーム分の入力信号x0(t)を基に音源信号DSと残差信号DTとに分離して、それぞれ出力処理部3へ供給するようになされている。
【0027】
疑似ステレオ化装置1は、出力処理部3のディジタル/アナログ変換器18L及び18Rによって音源信号DS及び残差信号DTをそれぞれアナログ信号に変換し、これを増幅器19L及び19Rによってそれぞれ増幅することにより第1出力信号としての出力信号S1L及び第2出力信号としての出力信号S1Rを生成して、出力端子20L及び20Rを介して当該出力信号S1L及びS1Rをそれぞれヘッドホン6の左右の音響ユニット6L及び6Rへ送出する。
【0028】
かくして疑似ステレオ化装置1は、モノラル入力信号S0を基に、入力信号x0(t)を音源分離部2によって音源信号DSと残差信号DTとに分離し、当該音源信号DS及び残差信号DTを基に生成した出力信号S1L及びS1Rの音声をリスナに聴取させるようになされている。
【0029】
(1−2)疑似ステレオ化処理手順
ところで疑似ステレオ化装置1は、上述したように、一般調和解析による音源分離処理を行うことにより、モノラルの音声を疑似ステレオ化した疑似ステレオ音声を生成するようになされており、このときの疑似ステレオ化処理手順について、図2のフローチャートを用いて説明する。
【0030】
疑似ステレオ化装置1は、外部から入力端子11を介してアナログのモノラル入力信号S0が入力されると、ルーチンRT1の開始ステップから入ってステップSP1へ移る。ステップSP1において疑似ステレオ化装置1は、アナログ/ディジタル変換器12によってアナログのモノラル入力信号S0をディジタル化し、さらに信号区分処理回路13によって所定時間(0≦t≦L)でなる1フレーム分に区切った入力信号x0(t)を音源分離部2へ供給し、次のステップSP2へ移る。
【0031】
ステップSP2において疑似ステレオ化装置1は、図3に示す音源分離サブルーチンSRT1へ移り、開始ステップから入ってステップSP11へ移る。ステップSP11において疑似ステレオ化装置1の音源分離部2は、周波数スペクトル解析処理回路14によって、フーリエ係数を算出する際に用いる周波数fを20[Hz]に初期化して次のステップSP12へ移る。ちなみに周波数スペクトル解析処理回路14は、周波数fを20[Hz]から20[kHz]までの範囲内で10[Hz]ずつ変化させるようになされている。
【0032】
ステップSP12において音源分離部2は、周波数スペクトル解析処理回路14により、入力信号x0(t)及び周波数fに基づいて次式
【0033】
【数1】
【0034】
【数2】
【0035】
に従ってフーリエ係数S(f)及びC(f)を算出し、次のステップSP13へ移る。ここで、周期Tは周波数fの逆数であり、nはnT≦Lを満たす整数である。
【0036】
ステップSP13において音源分離部2は、周波数スペクトル解析処理回路14により、フーリエ係数S(f)及びC(f)を用いて次式
【0037】
【数3】
【0038】
に従って周期波p(t,f)を算出し、続いて次式
【0039】
【数4】
【0040】
に従って入力信号x0(t)からこの周期波p(t,f)の成分を差し引いた残差e(t,f)を算出し、さらに次式
【0041】
【数5】
【0042】
に従い残差エネルギーE(f)を算出して、次のステップSP14へ移る。
【0043】
ステップSP14において音源分離部2は、周波数スペクトル解析処理回路14により20[Hz]から20[kHz]までの全ての周波数fについて残差エネルギーE(f)を算出したか否かを判定する。ここで否定結果が得られると、このことは他の周波数fについてまだ残差エネルギーE(f)を算出する必要があることを表しており、このとき音源分離部2は、次のステップSP15へ移る。
【0044】
ステップSP15において音源分離部2は、周波数スペクトル解析処理回路14により周波数fを10[Hz]増加させてから、ステップSP12に戻って再度ステップSP13−SP14の処理を繰り返す。
【0045】
これに対してステップSP14において肯定結果が得られると、このことは20[Hz]から20[kHz]までの範囲内の全ての周波数fについて残差エネルギーE(f)を算出し終えたことを表しており、このとき音源分離部2は次のステップSP16へ移る。
【0046】
ステップSP16において音源分離部2は、周波数スペクトル解析処理回路14により、各周波数fについて算出した残差エネルギーE(f)のなかから、当該残差エネルギーE(f)を最も小さくするときの周波数fを基本周波数f1として選択し、さらにこのときのフーリエ係数S(f1)及びC(f1)を算出した後、次のステップSP17へ移る。
【0047】
ここで基本周波数f1は、残差エネルギーE(f)を最も小さくする周波数fであるため、同時に周期波p(t、f)のエネルギーを最も大きくすることになる。
【0048】
ステップSP17において音源分離部2は、周波数スペクトル解析処理回路14により、残差エネルギーE(f)が2番目乃至8番目に小さくなる周波数fを副周波数f2乃至f8として選択し、さらにそれぞれのフーリエ係数S(f2)乃至S(f8)及びC(f2)乃至C(f8)を算出して、基本周波数f1と、副周波数f2乃至f8と、フーリエ係数S(f1)乃至S(f8)と、フーリエ係数C(f1)乃至C(f8)とを基本周期波抽出処理回路15及び高調波抽出処理回路16へ供給した後、次のステップSP18へ移る。
【0049】
ステップSP18において音源分離部2は、基本周期波抽出処理回路15によって、上述した(3)式に基本周波数f1、フーリエ係数S(f1)及びC(f1)を適用することにより、基本周波数f1に基づく基本周期波p(t,f1)の成分を算出し、これを波形合成処理回路17へ供給する。
【0050】
さらに音源分離部2は、基本周期波抽出処理回路15によって、入力信号x0(t)から基本周期波p(t,f1)の成分を差し引くことにより中間残差e(t,f1)の成分を算出し、これを高調波抽出処理回路16へ供給して、次のステップSP19へ移る。
【0051】
ステップSP19において音源分離部2は、高調波抽出処理回路16によって、副周波数f2乃至f8のうち、基本周波数f1のほぼ整数倍となる副周波数fmを全て選択し、その周期波p(t,fm)の成分を全て高調波として波形合成処理回路17へ供給して、次のステップSP20へ移る。
【0052】
ステップSP20において音源分離部2は、高調波抽出処理回路16によって、中間残差e(t,f1)の成分から高調波の全ての周期波p(t,fm)の成分を差し引くことにより残差信号DTを生成し、これを出力処理部3のディジタル/アナログ処理回路18Rへ供給して、次のステップSP21へ移る。
【0053】
ステップSP21において音源分離部2は、波形合成処理回路17によって、基本周期波p(t,f1)の成分と高調波の全ての周期波p(t,fm)の成分とを合成して音源信号DSを生成し、これを出力処理部3のディジタル/アナログ処理回路18Lへ供給した後、次のステップSP22へ移ってこのサブルーチンSRT1を終了し、元のルーチンRT1のステップSP3へ移る。
【0054】
このように疑似ステレオ化装置1は、音源分離部2によって一般調和解析を用いた音源分離処理を行うことにより、モノラルの入力信号x0(t)を基に、残差エネルギーE(f)を最も小さくして周期波p(t,f)のエネルギーを最も大きくする基本周波数f1を選択し、当該基本周波数f1及びその高調波の周期波成分によって音源信号DSを生成すると共に、その残差成分でなる残差信号DTを生成するようになされている。
【0055】
例えば疑似ステレオ化装置1は、オーケストラの演奏を収録したモノラルの音声信号のうちチェロの音声成分の信号強度が最も強い場合に、このチェロの音声成分を高調波と共に抽出して音源信号DSとすることにより、他の楽器の音声成分でなる残差信号DTと分離することができる。
【0056】
ステップSP3において疑似ステレオ化装置1は、出力処理部3によって音源信号DS及び残差信号DTをそれぞれアナログ化して増幅し、これらを出力信号S1L及びS1Rとして出力端子20L及び20Rからそれぞれ出力して、次のステップSP13に移ってこのルーチンRT1を終了する。
【0057】
ここで出力信号S1L及びS1Rは、それぞれ互いに無相関な音源信号DS及び残差信号DTを基に生成されるため、当該出力信号S1L及びS1Rは、ある音源の音声とその残差の音声とを異なる出力チャンネルに振り分けた疑似ステレオ音声となっている。
【0058】
そして疑似ステレオ化装置1は、出力信号S1L及びS1Rをヘッドホン6の音響ユニット6L及び6Rへ出力することにより、当該出力信号S1L及びS1Rの音声を疑似ステレオ音声としてリスナに聴取させることができる。
【0059】
例えば疑似ステレオ化装置1は、上述したチェロの音声を左チャンネルから、他の楽器の音声を右チャンネルから、それぞれリスナに聴取させることができる。
【0060】
(1−3)動作及び効果
以上の構成において、疑似ステレオ化装置1は、アナログのモノラル入力信号S0をディジタル化して所定時間でなる1フレームに区分した入力信号x0(t)を音源分離部2へ供給すると、当該音源分離部2により一般調和解析を用いて、入力信号x0(t)から周期波p(t,f)を差し引いた残差e(t,f)の残差エネルギーE(f)が最も小さくなるものから8種類の周波数fを基本周波数f1及び副周波数f2乃至f8として選択してから、入力信号x0(t)から基本周波数f1に基づく基本周期波p(t,f1)の成分と、基本周波数f1のほぼ整数倍となる副周波数f2乃至f8に基づく高調波の周期波p(t,fm)の成分とを抽出し、当該基本周期波p(t,f1)の成分と高調波の周期波p(t,fm)の成分とを合成して音源信号DSを生成すると共に、入力信号x0(t)から音源信号DSの成分を除いた残差信号DTを生成した後、出力処理部3によって、当該音源信号DS及び当該残差信号DTをそれぞれアナログ化して増幅した出力信号S1L及びS1Rの音声を、ヘッドホン6を介してリスナに聴取させる。
【0061】
従って疑似ステレオ化装置1は、音源分離部2において一般調和解析による音源分離処理を行うことにより、入力信号x0(t)を音源信号DSと残差信号DTとに分離することができ、さらに出力処理部3によって当該音源信号DSと残差信号DTとをそれぞれアナログ化して左右のチャンネルに振り分けてリスナに聴取させることにより、疑似ステレオ化された音声としてリスナに聴取させることができる。
【0062】
このとき疑似ステレオ化装置1は、例えばオーケストラの演奏を収録した音声信号のうち、チェロの音声成分の信号強度が最も強い場合に、このチェロの音声成分を高調波と共に抽出して音源信号DSとし、他の楽器の音声でなる残差信号DTと分離することができるので、チェロの音声成分と他の楽器による音声成分とをそれぞれヘッドホン6の左右の音響ユニット6L及び6Rに振り分けて出力することができ、ユーザに明確な音像定位を与えることができる。
【0063】
以上の構成によれば、疑似ステレオ化装置1は、音源分離部2によって、一般調和解析を用いて入力信号x0(t)を基に基本周波数f1を選択し、当該基本周波数f1に基づく基本周期波p(t,f1)と当該基本周波数f1の高調波の周期波p(t,fm)とを合成して音源信号DSを生成すると共に、入力信号x0(t)から音源信号DSの成分を除いた残差信号DTを生成した後、出力処理部3によって、当該音源信号DS及び当該残差信号DTをそれぞれアナログ化して増幅した出力信号S1L及びS1Rを、ヘッドホン6を介してリスナに聴取させることにより、入力信号x0(t)を音源信号DSと残差信号DTとに分離して、それぞれを異なる出力チャンネルに振り分けた音像定位の明確な疑似ステレオ音声をリスナに聴取させることができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【0064】
(2)第2の実施の形態
(2−1)疑似ステレオ化装置の構成
図1との対応部分に同一符号を付した図4において、30は第2の実施の形態における疑似ステレオ化装置を示しており、音源分離部2(図1)と同様の構成でなる音源分離部2A及び2Bを有し、また出力処理部3(図1)に代えて出力処理部32を有している以外は、第1の実施の形態と同様の構成を有している。
【0065】
疑似ステレオ化装置30は、疑似ステレオ化装置1と同様に、アナログ/ディジタル変換器12によってアナログのモノラル入力信号S0をディジタル化してディジタル入力信号D0を生成し、これを信号区分処理回路13によって1フレーム毎に区分した入力信号x0(t)を音源分離部2Aへ供給する。
【0066】
音源分離部2Aは、信号区分処理回路13から取得した1フレームの入力信号x0(t)に対して、音源分離部2と同様の処理を施すことにより第1音源信号DS1と第1残差信号DT1とに分離し、それぞれ出力処理部32及び音源分離部2Bへ供給する。
【0067】
音源分離部2Bは、第1残差信号DT1に対して音源分離部2と同様の処理を行うことにより、第2音源信号DS2と第2残差信号DT2とに分離して、共に出力処理部32へ供給する。
【0068】
出力処理部32は、加算器35Lによって第1音源信号DS1と第2残差信号DT2とを加算してディジタル出力信号D2Lを生成し、また加算器35Rによって第2音源信号DS2と第2残差信号DT2とを加算してディジタル出力信号D2Rを生成する。
【0069】
そして出力処理部32は、ディジタル出力信号D2L及びディジタル出力信号D2Rを、ディジタル/アナログ処理回路18L及び18Rによりそれぞれアナログ信号に変換し、これを増幅器19L及び19Rによって増幅することにより第1出力信号としての出力信号S2L及び第2出力信号としての出力信号S2Rを生成して、出力端子20L及び20Rを介して当該出力信号S2L及びS2Rをそれぞれヘッドホン6の左右の音響ユニット6L及び6Rへ送出する。
【0070】
このように疑似ステレオ化装置30は、モノラル入力信号S0を基に、入力信号x0(t)を音源分離部2A及び2Bによって第1音源信号DS1、第2音源信号DS2、及び第2残差信号DT2に分離し、当該第1音源信号DS1及び当該第2音源信号DS2にそれぞれ当該第2残差信号DT2を加算した出力信号S2L及びS2Rの音声をリスナに聴取させるようになされている。
【0071】
(2−2)疑似ステレオ化処理手順
そして疑似ステレオ化装置30は、上述した第1の実施の形態における疑似ステレオ化装置1とは異なる手順によって、モノラルの音声信号を疑似ステレオ化した疑似ステレオ音声を出力するようになされており、このときの疑似ステレオ化処理手順について、図5のフローチャートを用いて説明する。
【0072】
疑似ステレオ化装置30は、外部から入力端子11を介してアナログのモノラル入力信号S0が入力されると、ルーチンRT2の開始ステップから入ってステップSP31へ移る。ステップSP31において疑似ステレオ化装置30は、ステップSP11(図3)と同様に、モノラル入力信号S0をディジタル化して1フレーム毎に区分した入力信号x0(t)を信号区分処理回路13から音源分離部2Aへ供給した後、ステップSP32へ移る。
【0073】
ステップSP32において疑似ステレオ化装置30は、音源分離部2Aによって音源分離サブルーチンSRT1(図3)の一連の処理を行うことにより、入力信号x0(t)を基に一般調和解析を用いて第1音源信号DS1と第1残差信号DT1とに分離した後、再びルーチンRT2に戻り、次のステップSP33へ移る。
【0074】
ステップSP33において疑似ステレオ化装置30は、音源分離部2Aによって生成した第1残差信号DT1を音源分離部2Bに入力して、次のステップSP34へ移る。
【0075】
ステップSP34において疑似ステレオ化装置30は、音源分離部2Bによって音源分離サブルーチンSRT1(図3)の一連の処理を行い、入力信号x0(t)の代わりに第1残差信号DT1を基に一般調和解析を用いて第2音源信号DS2と第2残差信号DT2とに分離した後、再びルーチンRT2に戻り、次のステップSP35へ移る。
【0076】
ステップSP35において疑似ステレオ化装置30は、出力処理部32の加算器35A及び35Bによって、第1音源信号DS1及び第2音源信号DS2にそれぞれ第2残差信号DT2を加算することにより、それぞれディジタル出力信号D2L及びディジタル出力信号D2Rを生成して、次のステップSP36へ移る。
【0077】
ステップSP36において疑似ステレオ化装置30は、出力処理部32のディジタル/アナログ処理回路18L及び18R、並びに増幅器19L及び19Rによって、ディジタル出力信号D2L及びディジタル出力信号D2Rをそれぞれアナログ化して増幅することにより出力信号S2L及び出力信号S2Rを生成し、これらを出力端子20L及び20Rからそれぞれ出力した後、次のステップSP37へ移ってこのルーチンRT2を終了する。
【0078】
この結果、疑似ステレオ化装置30は、一般調和解析を用いて入力信号x0(t)を第1音源信号DS1と第1残差信号DT1とに分離し、再度一般調和解析を用いて当該第1残差信号DT1を第2音源信号DS2と第2残差信号DT2とに分離することができる。
【0079】
これにより疑似ステレオ化装置30は、例えばオーケストラの演奏を収録した音声信号のうち、チェロの音声成分のエネルギーが最も強くバイオリンの音声成分のエネルギーが2番目に強い場合に、このチェロの音声成分を第1音源信号DS1とし、またバイオリンの音声成分を第2音源信号DS2として、その他の楽器の音声でなる第2残差信号DT2からそれぞれ分離することができる。
【0080】
さらに疑似ステレオ化装置30は、出力処理部32において、第1音源信号DS1に第2残差信号DT2を加算することにより、例えばチェロと、バイオリンを除いた他の楽器の音声とが含まれる出力信号S2Lを生成することができ、また第2音源信号DS2に第2残差信号DT2を加算することにより、例えばバイオリンと、チェロを除いた他の楽器の音声とが含まれる出力信号S2Rを生成することができる。
【0081】
そして疑似ステレオ化装置30は、出力信号S2L及びS2Rをそれぞれヘッドホン6の音響ユニット6L及び6Rへ送出することにより、例えばチェロの音声を左チャンネルのみから、バイオリンの音声を右チャンネルのみから、他の楽器を左右両方のチャンネルからそれぞれ聴取させるといった具合に、第1の実施の形態とは異なる疑似ステレオ音声をリスナに聴取させることができる。
【0082】
(2−3)動作及び効果
以上の構成において、疑似ステレオ化装置30は、アナログのモノラル入力信号S0をディジタル化して所定時間でなる1フレームに区分した入力信号x0(t)を音源分離部2Aへ供給すると、第1の実施の形態における音源分離部2と同様に当該音源分離部2Aによって一般調和解析を用いて第1音源信号DS1と第1残差信号DT1とに分離し、さらに当該第1残差信号DT1を音源分離部2Bへ供給して、当該音源分離部2Bによって一般調和解析を用いて第2音源信号DS2と第2残差信号DT2とに分離した後、出力処理部32によって、第1音源信号DS1に第2残差信号DT2を加算して出力信号S2Lを生成すると共に第2音源信号DS2に第2残差信号DT2を加算して出力信号S2Rを生成して、当該出力信号S2L及びS2Rをヘッドホン6の音響ユニット6L及び6Rへ送出する。
【0083】
従って疑似ステレオ化装置30は、音源分離部2A及び2Bにおいて、第1の実施の形態と同様の一般調和解析による音源分離処理を2段階で行うことにより、入力信号x0(t)を第1音源信号DS1、第2音源信号DS2、及び第2残差信号DT2に分離することができる。
【0084】
このとき疑似ステレオ化装置30は、入力信号x0(t)に含まれる音声成分のうち、最もエネルギーの大きい周期波及び2番目にエネルギーの大きい周期波に基づいて第1音源信号DS1及び第2音源信号DS2をそれぞれ生成することができると共に、その残差に相当する第2残差信号DT2も生成することができる。
【0085】
そして疑似ステレオ化装置30は、出力処理部32によって、第1音源信号DS1に第2残差信号DT2を加算し、また第2音源信号DS2に第2残差信号DT2を加算することにより、互いに無相関な出力信号S2L及びS2Rを生成することができ、当該第1出力信号S2L及び第2出力信号S2Rをヘッドホン6の左右の音響ユニット6L及び6Rにそれぞれ送出することにより、リスナに疑似ステレオ音声を聴取させることができる。
【0086】
このとき疑似ステレオ化装置30は、例えばモノラルのオーケストラの演奏を収録した音声を基に、第1音源信号DS1のチェロの音声を左チャンネルのみから、第2音源信号DS2のバイオリンの音声を右チャンネルのみから、さらに第2残差信号DT2の他の楽器を左右両方のチャンネルから、それぞれリスナに聴取させることができるので、チェロとバイオリンの音像をそれぞれ左右に定位させ、さらに他の楽器の音像を中央に定位させることができ、音像の偏りが無く、音源が良く分離した疑似ステレオ音声を当該リスナに聴取させることができる。
【0087】
以上の構成によれば、疑似ステレオ化装置30は、音源分離部2Aによって入力信号x0(t)を基に一般調和解析を用いて第1音源信号DS1と第1残差信号DT1とに分離し、さらに音源分離部2Bによって当該第1残差信号DT1を基に一般調和解析を用いて第2音源信号DS2と第2残差信号DT2とに分離してから、出力処理部32によって第1音源信号DS1に第2残差信号DT2を加算して出力信号S2Lを生成すると共に第2音源信号DS2に第2残差信号DT2を加算して出力信号S2Rを生成して、ヘッドホン6を介して当該出力信号S2L及び出力信号S2Rの音声をリスナに聴取させることにより、モノラル入力信号S0を基にした、第1音源信号DS1及び第2音源信号DS2の音声をそれぞれ左右に振り分けると共に第2残差信号DT2の音声を左右の中央に定位させた疑似ステレオ音声をリスナに聴取させることができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【0088】
(3)第3の実施の形態
(3−1)疑似ステレオ化装置の構成
図1との対応部分に同一符号を付した図6において、50は第3の実施の形態における疑似ステレオ化装置を示しており、疑似ステレオ化装置1(図1)の音源分離部2と同様の構成でなる音源分離部2を有し、出力処理部3に代えて出力処理部52を有している以外は、第1の実施の形態と同様の構成を有している。
【0089】
音源分離部2は、第1の実施の形態と同様に、信号区分処理回路13から取得した1フレームの入力信号x0(t)を基に、音源信号DSと残差信号DTとを分離して出力処理部52へ供給する。
【0090】
出力処理部52は、音源分離部2から供給された音源信号DSと残差信号DTとを、それぞれ音像定位処理回路53L及び53Rと、音像定位処理回路54L及び54Rとへ供給する。
【0091】
ここで、音像定位処理回路53L、53R、54L及び54Rについて説明する。例えば図7に示すように、リスナの前方の位置Pに音源Gがあると仮定すると、当該音源Gからリスナの左右の耳までの距離や角度が互いに異なるため、当該リスナは、左右の耳によって互いに微妙に異なる音声を聴取することにより、この左右の耳で聴取した音声の違いを基に、音源Gが位置Pにあることを認識することができる。このとき、当該音源Gから出力された音声は、伝達関数HL及びHRを有する経路を介してリスナの右耳及び左耳に到達すると見なすことができ、このような伝達関数HL及びHRを時間軸に変換した左チャンネル及び右チャンネルのインパルス応答を予め測定あるいは計算しておく。
【0092】
次に、リスナがヘッドホンを介して音声を聴取する場合を仮定する。リスナは、ヘッドホンを介して左右の耳から全く同じ音声(すなわちモノラル音声)を聴取した場合、その音像がリスナの左右方向における中央に定位しているように感じる。ここで、信号処理装置100によって、モノラル音声信号Smonoを左右の音声信号に分配し、上述した左チャンネル及び右チャンネルのインパルス応答を左右の音声信号に対してそれぞれ畳み込んだ場合(以下、このような処理を音像定位処理と呼ぶ)、リスナは、ヘッドホンを介してこの左右の音声信号に基づく音声を聴取した際に、その音像が位置Pに定位しているように認識することができる。
【0093】
そこで疑似ステレオ化装置50(図6)の出力処理部52は、音像定位処理回路53L、53R、54L及び54Rによって音像定位処理を行うことにより、音源信号DS及び残差信号DTの音像をそれぞれ異なる位置に定位させるようになされている。
【0094】
すなわち出力処理部52の音像定位処理回路53L及び53Rは、図8に示すような、リスナの前方左側の位置PLに音像が定位するような伝達関数HSL及びHSRに基づき、音像定位処理として、音源信号DSに対して当該伝達関数HSL及びHSRを時間軸に変換した右チャンネル及び左チャンネルのインパルス応答をそれぞれ畳み込むことにより定位音源信号DSL及びDSRを生成し、それぞれ加算器55L及び55Rへ供給する。
【0095】
また出力処理部52の音像定位処理回路54L及び54Rは、図8におけるリスナの前方中央よりやや右寄りの位置PRに音像が定位するような伝達関数HTL及びHTRに基づき、音像定位処理として、残差信号DTに対して当該伝達関数HTL及びHTRを時間軸に変換した右チャンネル及び左チャンネルのインパルス応答をそれぞれ畳み込むことにより定位残差信号DTL及びDTRを生成し、それぞれ加算器55L及び55Rへ供給する。
【0096】
そして出力処理部52(図6)は、加算器55Lによって定位音源信号DSLと定位残差信号DTLとを加算してディジタル出力信号D3Lを生成し、また加算器55Rによって定位音源信号DSRと定位残差信号DTRとを加算してディジタル出力信号D3Rを生成する。
【0097】
さらに出力処理部52は、ディジタル出力信号D3L及びディジタル出力信号D3Rをディジタル/アナログ処理回路18L及び18Rによりそれぞれアナログ信号に変換し、これを増幅器19L及び19Rによって増幅することにより第1出力信号としての出力信号S3L及び第2出力信号としての出力信号S3Rを生成して、出力端子20L及び20Rを介してそれぞれヘッドホン6の左右の音響ユニット6L及び6Rへ送出する。
【0098】
このように疑似ステレオ化装置50は、モノラル入力信号S0をディジタル化した入力信号x0(t)を、音源分離部2によって音源信号DS及び残差信号DTに分離し、さらに出力処理部52によって、当該音源信号DSを前方左側の位置に定位させると共に当該残差信号DTを前方中央よりやや右寄りの位置に定位させるような出力信号S3L及びS3Rを生成して、当該出力信号S3L及びS3Rの音声をリスナに聴取させるようになされている。
【0099】
(3−2)疑似ステレオ化処理手順
次に、疑似ステレオ化装置50がモノラルの音声信号を疑似ステレオ化した疑似ステレオ音声を出力する際の疑似ステレオ化処理手順について、図9のフローチャートを用いて説明する。
【0100】
疑似ステレオ化装置50は、外部から入力端子11を介してアナログのモノラル入力信号S0が入力されると、ルーチンRT3の開始ステップから入ってステップSP41へ移る。ステップSP41において疑似ステレオ化装置50は、ステップSP1(図2)と同様に、モノラル入力信号S0をディジタル化して1フレーム分(0≦t≦L)に区切った入力信号x0(t)を信号区分処理回路13から音源分離部2へ供給した後、ステップSP42へ移る。
【0101】
ステップSP42において疑似ステレオ化装置50は、音源分離部2によって音源分離サブルーチンSRT1(図3)の一連の処理を行い、入力信号x0(t)を基に音源信号DSと残差信号DTとに分離した後、音源信号DSを出力処理部52の音像定位処理53L及び53Rへ供給すると共に音源信号DTを出力処理部52の音像定位処理54L及び54Rへ供給して、再びルーチンRT3に戻り、次のステップSP43へ移る。
【0102】
ステップSP43において疑似ステレオ化装置50は、音像定位処理回路53L及び53Rにより音源信号DSに音像定位処理を施して定位音源信号DSL及びDSRを生成し、それぞれ加算器55L及び55Rへ供給すると共に、音像定位処理回路54L及び54Rにより音源信号DTに音像定位処理を施して定位残差信号DTL及びDTRを生成し、それぞれ加算器55L及び55Rへ供給して、次のステップSP44へ移る。
【0103】
ステップSP44において疑似ステレオ化装置50は、加算器55Lにより定位音源信号DSLと定位残差信号DTLとを加算してディジタル出力信号D3Lを生成すると共に、加算器55Rにより定位音源信号DSRと定位残差信号DTRとを加算してディジタル出力信号D3Rを生成し、次のステップSP45へ移る。
【0104】
ステップSP45において疑似ステレオ化装置50は、出力処理部52のディジタル/アナログ処理回路18L及び18R、並びに増幅器19L及び19Rによって、ディジタル出力信号D3L及びディジタル出力信号D3Rをアナログ化して増幅することにより出力信号S3L及び出力信号S3Rを生成し、これらをそれぞれ出力端子20L及び20Rから出力した後、次のステップSP46へ移ってこのルーチンRT3を終了する。
【0105】
この結果、疑似ステレオ化装置50は、第1の実施の形態と同様に、音源分離部2により一般調和解析を用いて入力信号x0(t)を音源信号DSと残差信号DTとに分離することができ、例えばオーケストラの演奏を収録した音声信号のうちチェロの音声成分の信号強度が最も強い場合に、このチェロの音声成分を音源信号DSとし、他の楽器の音声成分でなる残差信号DTから分離することができる。
【0106】
さらに疑似ステレオ化装置50は、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rにより音像定位処理を施して加算した出力信号S3L及びS3Rをそれぞれヘッドホン6の音響ユニット6L及び6Rへ出力することにより、例えばチェロの音声成分でなる音源信号DSの音像を前方左側に定位させ、他の楽器の音声成分でなる残差信号DTを前方中央よりやや右寄りに定位させた疑似ステレオ音声をリスナに聴取させることができる(図8)。
【0107】
(3−3)動作及び効果
以上の構成において、疑似ステレオ化装置50は、アナログのモノラル入力信号S0をディジタル化して所定時間でなる1フレームに区分した入力信号x0(t)を音源分離部2へ供給すると、第1の実施の形態と同様に当該音源分離部2によって音源信号DSと残差信号DTとに分離した後、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rにより当該音源信号DS及び当該残差信号DTにそれぞれ音像定位処理を施して定位音源信号DSL及びDSRと定位残差信号DTL及びDTRとを生成し、定位音源信号DSLと定位残差信号DTLとを加算して出力信号S3Lを生成すると共に、定位音源信号DSRと定位残差信号DTRとを加算して出力信号S3Rを生成して、ヘッドホン6を介して当該出力信号S3L及びS3Rをリスナに聴取させる。
【0108】
従って疑似ステレオ化装置50は、音源分離部2において、第1の実施の形態と同様に一般調和解析を用いた音源分離処理を行うことにより、入力信号x0(t)を基に音源信号DSと残差信号DTとを分離することができ、例えばオーケストラの演奏を収録した音声信号からチェロの音声成分と他の楽器の音声成分とを分離することができる。
【0109】
そして疑似ステレオ化装置50は、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rにより音源信号DS及び残差信号DTに音像定位処理を施し、それぞれ加算した出力信号D3L及びD3Rをヘッドホン6の音響ユニット6L及び6Rへ出力することにより、リスナに疑似ステレオ音声を聴取させることができる。
【0110】
このとき疑似ステレオ化装置50は、出力処理部52の音像定位処理によって、例えばチェロの音声成分でなる音源信号DSの音像を前方左側に定位させ、他の楽器の音声成分でなる残差信号DTを前方中央よりやや右寄りに定位させた疑似ステレオ音声をリスナに聴取させることができ(図8)、当該リスナに広がり感のある音場を与えることができる。
【0111】
以上の構成によれば、疑似ステレオ化装置50は、音源分離部2によって入力信号x0(t)を基に一般調和解析を用いて音源信号DSと残差信号DTとに分離した後、出力処理部52により当該音源信号DS及び残差信号DTに音像定位処理を施して加算した出力信号S3L及びS3Rを生成し、ヘッドホン6を介して当該出力信号S3L及びS3Rの音声をリスナに聴取させることにより、当該音源信号DS及び残差信号DTによる音像を、左右の間の所望の位置に定位させた広がり感のある音場をリスナに与えることができ、かくして格段に違和感の少ない疑似ステレオ音声をリスナに聴取させ得る疑似ステレオ化装置を実現することができる。
【0112】
(4)他の実施の形態
なお上述した第1乃至第3の実施の形態においては、出力信号S1乃至S3をヘッドホン6へ送出するようにした場合について述べたが、本発明はこれに限らず、例えば図1との対応部分に同一符号を付した図10に示すように、疑似ステレオ化装置70がヘッドホン6に代えてスピーカ76に出力信号を送出してリスナに疑似ステレオ音声を聴取させるようにしても良い。
【0113】
この場合、疑似ステレオ化装置70は、出力処理部72から2つのスピーカ76L及び76Rへ出力信号を出力する以外にも、当該出力処理部72において3種類以上の出力信号を生成して3つ以上のスピーカ76へ送出することによって、音声を再生するようにしてもよい。
【0114】
ちなみに出力処理部72は、出力処理部3(図1)とほぼ同様の回路構成を有しているが、ヘッドホン6ではなく、スピーカ76L及び76Rを駆動可能な信号レベルに増幅した出力信号を送出するようになされている。
【0115】
また上述した第2の実施の形態においては、音源分離部2(音源分離部2A及び2B)を2段階に用いて2つの音源信号DS(音源信号DS1及びDS2)を分離するようにした場合について述べたが、本発明はこれに限らず、当該音源分離部2を3段階以上用いて3つ以上の音源信号DSを分離するようにしても良い。
【0116】
この場合、各音源信号DS及び残差信号DTを左右いずれかに適宜振り分ける以外にも、第3の実施の形態のように音像定位処理を施すことによって、各音源信号DS及び残差信号DTの音像をそれぞれ所望の位置に定位させるようにしても良い。
【0117】
さらに上述した第2の実施の形態においては、第1音源信号DS1と第2残差信号DT2とを加算した出力信号S2Lを左側に、第2音源信号DS2と第2残差信号DT2とを加算して出力信号S2Rを右側にそれぞれ振り分けてリスナに聴取させるようにした場合について述べたが、本発明はこれに限らず、例えば第1音源信号DS1と第2音源信号DS2とを加算した出力信号を左側に、第2残差信号DT2を右側に振り分ける等、他の振り分け方としても良い。
【0118】
さらに上述した第3の実施の形態においては、出力処理部52の音像定位処理回路53L、53R、54L、及び54Rによって、音源信号DSを前方左側の位置に定位させると共に残差信号DTを前方中央よりやや右寄りの位置に定位させるような出力信号S3L及びS3Rをそれぞれ生成するようにした場合について述べたが、本発明はこれに限らず、当該音源信号DS及び当該残差信号DTをそれぞれ他の位置に定位させるような出力信号S3L及びS3Rをそれぞれ生成するようにしてもよい。
【0119】
さらに上述した第1乃至第3の実施の形態においては、モノラル入力信号S0を基に2チャンネルの出力信号S1L及びS1R等を生成するようにした場合について述べたが、本発明はこれに限らず、例えばステレオの入力信号に対して入力チャンネル毎に音源分離処理を行うことによって4チャンネルの出力信号を生成する等、任意の複数チャンネルの入力信号に対してそれぞれ音源分離処理を行うことにより任意の複数チャンネルの出力信号を生成するようにしても良い。
【0120】
さらに上述した第1乃至第3の実施の形態においては、音源分離部2、2A及び2Bの周波数スペクトル解析処理回路14、14A及び14Bにおいて、20[Hz]から20[kHz]の範囲を10[Hz]ずつ周波数fを変化させるようにした場合について述べたが(ステップSP11乃至SP15)、本発明はこれに限らず、任意の開始周波数から任意の終了周波数まで、当該周波数fを適宜変化させるようにしても良い。
【0121】
さらに上述した第1乃至第3実施の形態においては、音源分離部2、2A及び2Bの周波数スペクトル解析処理回路14、14A及び14Bにおいて、残差エネルギーE(f)が最も小さくなるものから8種類の周波数、すなわち基本周波数f1及び副周波数f2乃至f8を選択するようにした場合について述べたが、本発明はこれに限らず、任意数の副周波数を選択するようにしても良い。
【0122】
さらに上述した第1乃至第3の実施の形態においては、音源分離部2、2A及び2Bの高調波抽出処理回路16、16A及び16Bにより基本周波数f1のほぼ整数倍となる副周波数f2乃至f8を高調波として選択するようにした場合について述べたが、本発明はこれに限らず、基本周波数f1の時間的変化と、副周波数f2乃至f8の時間的変化との相関性を用いて高調波を選択するようにしても良い。
【0123】
さらに上述した第1乃至第3の実施の形態においては、疑似ステレオ化装置1、30及び50の音源分離部2、あるいは音源分離部2A及び音源分離部2Bによって音源分離した後の音源信号DS及び残差信号DT、あるいは第1音源信号DS1、第2音源信号DS2及び第2残差信号DT2を、出力処理部3、32及び52によってアナログ音声信号に変換してリスナに聴取させるようにした場合について述べたが、本発明はこれに限らず、例えば疑似ステレオ化装置1、30及び50によって音源分離した後の音源信号DSや残差信号DT等を、ディジタルデータとしてネットワークを介してリスナのネットワーク端末装置に送信するようにし、当該ネットワーク端末装置において出力処理部3、32及び52と同様の処理を行うことにより、当該リスナに疑似ステレオ音声を聴取させるようにしても良い。
【0124】
さらに上述した第1乃至第3の実施の形態においては、モノラル入力信号S0をリアルタイムで疑似ステレオ化してリスナに聴取させるようにした場合について述べたが、本発明はこれに限らず、モノラル入力信号S0を基に、音源分離部2(あるいは音源分離部2A及び音源分離部2B)によって音源分離した後の音源信号DS及び残差信号DT、またはディジタル出力信号D2L及びD2R、D3L及びD3Rをディジタル音声データとして所定の記憶媒体に保存しておき、後から当該ディジタル音声データをアナログ音声信号に変換してリスナに聴取させるようにしても良い。
【0125】
例えば疑似ステレオ化装置1は、生成したディジタル音声データを予めCD−R(Compact Disc-Recordable)等に保存しておくことにより、当該CD−RをCDプレーヤ等で再生したリスナに疑似ステレオ音声を聴取させることができる。また疑似ステレオ化装置1は、例えばネットワークを介して外部から入力信号x0(t)を受信し、上述した音源分離処理によって分離した音源信号DS及び残差信号DTを、ディジタル音声データとしてハードディスクドライブ等の記憶手段に記憶しておき、後から再度ネットワークを介して当該ディジタル音声データをリスナのネットワーク端末装置に送信することにより、当該ネットワーク端末装置から当該リスナに疑似ステレオ音声を聴取させるようにしても良い。
【0126】
さらに上述した第1乃至第3の実施の形態においては、ハードウェア構成によってディジタル入力信号D0から音源信号DS及び残差信号DTに分離する疑似ステレオ化装置1、30及び50に本発明を適用するようにした場合について述べたが、本発明はこれに限らず、上述した信号区分処理、周波数スペクトル解析処理、基本周期波抽出処理、高調波抽出処理及び波形合成処理を行う疑似ステレオ化プログラムを、例えばパーソナルコンピュータ等の情報処理装置にインストールし、当該情報処理装置によって音源分離処理を行うようにしても良い。
【0127】
この場合、疑似ステレオ化プログラムを情報処理装置にインストールして実行可能な状態にするためのプログラム格納媒体としては、例えばフレキシブルディスク、CD−ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)等のパッケージメディアのみならず、これらのプログラムが一時的もしくは永続的に格納される半導体メモリや磁気ディスクなどで実現しても良い。
【0128】
また、プログラム格納媒体にこれらのプログラムを格納する手段として、ローカルエリアネットワークやインターネット、ディジタル衛星放送等の有線及び無線通信媒体を利用してもよく、ルータやモデムなどの各種通信インターフェースを介して格納するようにしても良い。
【0129】
さらに上述した第3の実施の形態においては、ハードウェア構成でなる出力処理部52の音源定位処理回路53L及び53R、54L及び54Rによって、音像を定位させる音像定位処理を行うようにした場合について述べたが、本発明はこれに限らず、例えば音像定位処理を行う音像定位プログラムを予め出力処理部52の記憶手段(図示せず)に格納しておき、当該出力処理部52内の制御部(図示せず)が当該音像定位プログラムを実行することにより音像を定位させるようにしても良い。
【0130】
さらに上述した第1の実施の形態においては、音源分離手段としての音源分離部2と、出力信号生成手段としての出力処理部3とによって疑似ステレオ化装置としての疑似ステレオ化装置1を構成する場合について述べたが、本発明はこれに限らず、その他種々の回路構成でなる音源分離手段と、出力信号生成手段とによって疑似ステレオ化装置を構成するようにしても良い。
【産業上の利用可能性】
【0131】
本発明は、ヘッドホンを介してリスナに疑似ステレオ音声を聴取させる疑似ステレオ化装置以外に、スピーカを介してリスナに疑似ステレオ音声を聴取させる疑似ステレオ化装置等でも利用できる。
【図面の簡単な説明】
【0132】
【図1】第1の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図2】第1の実施の形態による疑似ステレオ化処理手順を示すフローチャートである。
【図3】音源分離サブルーチンを示すフローチャートである。
【図4】第2の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図5】第2の実施の形態による疑似ステレオ化処理手順を示すフローチャートである。
【図6】第3の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図7】音像定位の例を示す略線図である。
【図8】第3の実施の形態による音像定位の説明に供する略線図である。
【図9】第3の実施の形態による疑似ステレオ化処理手順を示すフローチャートである。
【図10】他の実施の形態による疑似ステレオ化装置の構成を示すブロック図である。
【図11】従来の疑似ステレオ化装置の構成例を示すブロック図である。
【図12】無相関化処理の例(1)を示す略線図である。
【図13】無相関化処理の例(2)を示す略線図である。
【符号の説明】
【0133】
1、30、50、70……疑似ステレオ化装置、2、2A、2B……音源分離部、3、32、52、72……出力処理部、6……ヘッドホン、6L、6R……音響ユニット、13……信号区分処理回路、14……周波数スペクトル解析処理回路、15……基本周期波抽出処理回路、16……高調波抽出処理回路、17……波形合成処理回路、35L、35R、55L、55R……加算器、53L、53R、54L、54R……音像定位処理回路、76L、76R……スピーカ。
【特許請求の範囲】
【請求項1】
モノラル音声を擬似的にステレオ化する疑似ステレオ化装置において、
所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号から抽出可能な周期波のうち、上記入力信号から上記周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、上記入力信号から上記基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、上記入力信号から上記音源信号の成分を差し引いた残差信号を生成する音源分離手段と、
上記音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、上記残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成手段と
を具えることを特徴とする疑似ステレオ化装置。
【請求項2】
上記出力信号生成手段は、
上記音源信号と上記残差信号とを合成することにより上記第1出力信号を生成すると共に、上記残差信号に基づき上記第2出力信号を生成する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項3】
上記出力信号生成手段は、
上記音源信号に基づく音声の音像及び上記残差信号に基づく音声の音像がそれぞれ所定位置に定位するよう、上記音源信号及び上記残差信号に対してそれぞれ音像定位処理を施して上記第1出力信号及び上記第2出力信号を生成する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項4】
上記音源分離手段により生成された上記残差信号を新たな入力信号として、上記残差信号から抽出可能な周期波のうち、上記残差信号から上記周期波を差し引いた残差成分のエネルギーが最小となる第2基本周期波を選択し、上記残差信号から上記第2基本周期波成分及びその高調波成分を抽出し合成して第2音源信号を生成すると共に、上記残差信号から上記第2音源信号の成分を差し引いた第2残差信号を生成する第2音源分離手段
を具え、
上記出力信号生成手段は、
上記音源信号と上記第2残差信号とを合成することにより上記第1出力信号を生成すると共に、上記第2音源信号と上記第2残差信号とを合成することにより上記第2出力信号を生成する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項5】
上記出力信号生成手段は、
上記音源信号に基づく音声の音像、上記第2音源信号に基づく音声の音像及び上記第2残差信号による音像がそれぞれ所定位置に定位するよう、上記音源信号、上記第2音源信号及び上記第2残差信号に対してそれぞれ音像定位処理を施して上記第1出力信号及び上記第2出力信号を生成する
ことを特徴とする請求項4に記載の疑似ステレオ化装置。
【請求項6】
上記音源分離手段は、
上記分析区間が、以前に取得した上記入力信号の上記分析区間とオーバーラップした上記入力信号を取得する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項7】
モノラル音声を擬似的にステレオ化する疑似ステレオ化方法において、
所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、上記入力信号から上記周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、上記入力信号から上記基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、上記入力信号から上記音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、
上記音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、上記残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップと
を具えることを特徴とする疑似ステレオ化方法。
【請求項8】
情報処理装置に対して、モノラル音声を擬似的にステレオ化する処理を実行させるための疑似ステレオ化プログラムにおいて、
所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、上記入力信号から上記周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、上記入力信号から上記基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、上記入力信号から上記音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、
上記音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、上記残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップと
を実行させることを特徴とする疑似ステレオ化プログラム。
【請求項1】
モノラル音声を擬似的にステレオ化する疑似ステレオ化装置において、
所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号から抽出可能な周期波のうち、上記入力信号から上記周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、上記入力信号から上記基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、上記入力信号から上記音源信号の成分を差し引いた残差信号を生成する音源分離手段と、
上記音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、上記残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成手段と
を具えることを特徴とする疑似ステレオ化装置。
【請求項2】
上記出力信号生成手段は、
上記音源信号と上記残差信号とを合成することにより上記第1出力信号を生成すると共に、上記残差信号に基づき上記第2出力信号を生成する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項3】
上記出力信号生成手段は、
上記音源信号に基づく音声の音像及び上記残差信号に基づく音声の音像がそれぞれ所定位置に定位するよう、上記音源信号及び上記残差信号に対してそれぞれ音像定位処理を施して上記第1出力信号及び上記第2出力信号を生成する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項4】
上記音源分離手段により生成された上記残差信号を新たな入力信号として、上記残差信号から抽出可能な周期波のうち、上記残差信号から上記周期波を差し引いた残差成分のエネルギーが最小となる第2基本周期波を選択し、上記残差信号から上記第2基本周期波成分及びその高調波成分を抽出し合成して第2音源信号を生成すると共に、上記残差信号から上記第2音源信号の成分を差し引いた第2残差信号を生成する第2音源分離手段
を具え、
上記出力信号生成手段は、
上記音源信号と上記第2残差信号とを合成することにより上記第1出力信号を生成すると共に、上記第2音源信号と上記第2残差信号とを合成することにより上記第2出力信号を生成する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項5】
上記出力信号生成手段は、
上記音源信号に基づく音声の音像、上記第2音源信号に基づく音声の音像及び上記第2残差信号による音像がそれぞれ所定位置に定位するよう、上記音源信号、上記第2音源信号及び上記第2残差信号に対してそれぞれ音像定位処理を施して上記第1出力信号及び上記第2出力信号を生成する
ことを特徴とする請求項4に記載の疑似ステレオ化装置。
【請求項6】
上記音源分離手段は、
上記分析区間が、以前に取得した上記入力信号の上記分析区間とオーバーラップした上記入力信号を取得する
ことを特徴とする請求項1に記載の疑似ステレオ化装置。
【請求項7】
モノラル音声を擬似的にステレオ化する疑似ステレオ化方法において、
所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、上記入力信号から上記周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、上記入力信号から上記基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、上記入力信号から上記音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、
上記音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、上記残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップと
を具えることを特徴とする疑似ステレオ化方法。
【請求項8】
情報処理装置に対して、モノラル音声を擬似的にステレオ化する処理を実行させるための疑似ステレオ化プログラムにおいて、
所定分析区間に区分けされたモノラル音声でなる入力信号を取得し、当該入力信号のから抽出可能な周期波のうち、上記入力信号から上記周期波を差し引いた残差成分のエネルギーが最小となる基本周期波を選択し、上記入力信号から上記基本周期波成分及びその高調波成分を抽出し合成して音源信号を生成すると共に、上記入力信号から上記音源信号の成分を差し引いた残差信号を生成する音源分離ステップと、
上記音源信号に基づき一方のチャンネルに相当する第1出力信号を生成すると共に、上記残差信号に基づき他方のチャンネルに相当する第2出力信号を生成する出力信号生成ステップと
を実行させることを特徴とする疑似ステレオ化プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2006−14220(P2006−14220A)
【公開日】平成18年1月12日(2006.1.12)
【国際特許分類】
【出願番号】特願2004−191954(P2004−191954)
【出願日】平成16年6月29日(2004.6.29)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成18年1月12日(2006.1.12)
【国際特許分類】
【出願日】平成16年6月29日(2004.6.29)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]