説明

話速変換倍率決定装置、話速変換装置、プログラム、及び記録媒体

【課題】背景音と音声が混合している場合でも、安定して適応的な話速変換倍率を決定する。
【解決手段】話速変換倍率決定装置1aは、入力信号の有音区間と無音区間とを判別する有音無音判定部102と、有音区間にて入力信号の基本周波数を算出するとともに安定区間と不安定区間とを決定する基本周波数算出部104と、安定区間にて基本周波数の時間変化を平滑化する周波数平滑化部106と、不安定区間及び無音区間にて基本周波数を内挿した擬似基本周波数を算出する擬似基本周波数算出部108と、平滑化された基本周波数及び擬似基本周波数を接続して基本周波数の概形の標本値を得る基本周波数概形連結部110とを有し、基本周波数の概形の標本値を物理指標として出力する物理指標算出部2と、この物理指標に基づいて話速変換倍率を算出する話速変換倍率指定部120とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力信号の話速(話す速さ)の適応的な変換倍率を決定する話速変換倍率決定装置、話速変換装置、プログラム、及び記録媒体に関するものである。
【背景技術】
【0002】
従来の適応的に話速変換を行う技術では、1倍速(実時間で再生)や2倍速(実時間の半分の時間で再生)といった任意の再生速度が与えられた場合に、入力信号全体に渡って一様な倍率αで速度を変えるのではなく、各部分によって倍率αより大きい倍率や小さい倍率で速度を変えることで、全体としては一様な倍率αで話速変換したのと同じ時間で再生するように帳尻を合わせながら、聞く人にとっては、一様な倍率αで話速変換した場合よりも「ゆっくりと聞き取りやすい」話速変換音声の生成を行うことを目的としている。
【0003】
そのために、(1)基本周波数の高いところは話速を緩め、基本周波数の低いところでは話速を速めること、(2)一息で発声する区間を単位として、その開始部分では話速を緩め、終了点に向かって基本周波数の変化に応じて徐々に話速を速めること、(3)一息で発声する区間同士の間にある無音区間を聴感上違和感のない範囲で短縮すること、などを行う技術が知られている(例えば、特許文献1参照)。
【0004】
また、一定以上長い無音区間をポーズ区間とし、ポーズ区間に挟まれた音声区間において、その開始点で話速を緩めるとともに一定時間Tにわたり所定の減少関数に基づき話速を速くしていき、一定時間Tの経過後は、各有声区間における最大基本周波数の大小関係を考慮して話速を緩める率を変える技術が知られている(例えば、特許文献2参照)。
【0005】
また、特許文献1や特許文献2に開示された話速制御において、ポーズ区間に挟まれた音声区間内の短い無音区間に対しても聴感上違和感のない範囲で短縮することを許すとともに、話速変換音声の各部分が、一様な倍率αで話速変換した場合に想定される時刻に対して合っているかほとんど遅れていない場合はその後の話速をできるだけ緩めるように設定し、一様な倍率αで話速変換した場合に想定される時刻に対して遅れている程度が大きい程、その後の話速を緩める度合いをより控えるように設定することで、話速変換音声の各部分が、一様な倍率αで話速変換した場合に想定される時刻に対してできるだけずれを少なくする技術が知られている(例えば、特許文献3参照)。
【0006】
さらに、入力信号を音声区間と無音区間に分けるとともに、音声区間の話速は緩め、無音区間は短縮することを基本とするが、音声区間の話速を緩めたことにより単位時間当たりの入力信号長に対して出力音声長が延びるため、一時的にメモリに話速変換後の音声を蓄積する必要が生じるが、メモリ量に上限があるため、メモリ量の残量に応じて、音声区間の話速を徐々に速めたり無音区間の削除量を増やしたりする技術が知られている(例えば、特許文献4及び5参照)。
【0007】
その他、入力信号の大きさ(パワー)や高さ(基本周波数)の増減と話速が反比例する係数か、又は、入力信号の大きさや高さの数値のn乗に話速が反比例する係数によって各部分の話速を決定する技術も知られている(例えば、特許文献6参照)。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特許第3249567号公報
【特許文献2】特許第3219892号公報
【特許文献3】特許第3220043号公報
【特許文献4】特許第3357742号公報
【特許文献5】特許第3373933号公報
【特許文献6】特許第3619946号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
特許文献1〜5に記載の技術に共通していることは、入力信号を音声のある音声区間と音声のない無音区間とに分け、音声区間では、何らかの情報に基づいてその継続時間を部分ごとに伸縮し、無音区間は短縮して、総合的に全体の音声時間長を調整することである。しかし、入力信号が人の声だけの場合は、これらの方式に問題はないが、放送番組など、背景音と音声が混合している場合に、音声のない背景音だけの区間が、“無音区間”と判定されるか“音声区間”と判定されるかは保証の限りではなく、誤判定が生じた場合には正しい動作は期待できず、話速変換音声は聞きづらいものとなるおそれがある。
【0010】
特許文献6に関しては、入力音声の大きさ(パワー)は入力音声の全ての区間で求めることができるが、入力音声の高さ(基本周波数)は、声のあるところであってしかも声帯が振動している“有声音区間”でしか正しく求めることができない。したがって特許文献6に関しても、背景音と音声が混合している場合には、音声のない背景音だけの区間においてはパワーが大きく基本周波数は正しく求められないため、本来音声ではない区間なので話速を速めなければならないにも関わらず、パワーが大きいことからむしろ話速を緩めてしまうことが考えられる。
【0011】
このように、従来の話速変換方法においては、背景音と音声が混合している場合には、音声のある音声区間と、音声のない無音区間の判定が正しく行われない状態になると、適応的な話速変換が期待通りに動作しないという問題があった。
【0012】
本発明の目的は、上記問題を解決するため、背景音と音声が混合している場合でも、安定して適応的な話速変換倍率を決定可能な話速変換倍率決定装置、話速変換装置、プログラム、及び記録媒体を提供することにある。
【課題を解決するための手段】
【0013】
上記課題を解決するために、本発明に係る話速変換倍率決定装置は、入力信号の話速の適応的な変換倍率を決定する話速変換倍率決定装置であって、入力信号の有音区間と無音区間とを判別する有音無音判定部と、前記有音区間において一定の時間間隔で入力信号の基本周波数を算出するとともに、該基本周波数の値が所定の変化幅内で変化する安定区間、及び該基本周波数の値が所定の変化幅を超えて変化する不安定区間を決定する基本周波数算出部と、前記安定区間において、前記基本周波数の時間変化を平滑化する周波数平滑化部と、前記不安定区間及び前記無音区間において、前記平滑化された安定区間における基本周波数の値を参照して、基本周波数を内挿した擬似基本周波数を算出する擬似基本周波数算出部と、前記平滑化された基本周波数及び前記擬似基本周波数を接続して、一続きの基本周波数の概形の標本値を得る基本周波数概形連結部と、を有し、前記基本周波数の概形の標本値を物理指標として出力する物理指標算出部と、前記物理指標に基づいて、入力信号に指定すべき話速変換倍率を算出する話速変換倍率指定部と、を備えることを特徴とする。
【0014】
さらに、本発明に係る話速変換倍率決定装置において、前記物理指標算出部は、一定の時間間隔で入力信号のパワーを算出するパワー算出部と、前記パワーの時間変化を平滑化してパワーの概形の標本値を得るパワー平滑化部と、を備え、前記基本周波数の概形の標本値及び前記パワーの概形の標本値を前記物理指標として出力することを特徴とする。
【0015】
さらに、本発明に係る話速変換倍率決定装置において、前記物理指標算出部は、入力信号波形から有声度を求める有声度算出部と、前記有声度の時間変化を平滑化して有声度の概形の標本値を得る有声度平滑化部と、を備え、前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記有声度の概形の標本値を前記物理指標として出力することを特徴とする。
【0016】
さらに、本発明に係る話速変換倍率決定装置において、前記物理指標算出部は、前記基本周波数の概形の変化傾向を表す、基本周波数の概形の凹凸度を算出する基本周波数凹凸度算出部を備え、前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記基本周波数の概形の凹凸度を前記物理指標として出力することを特徴とする。
【0017】
さらに、本発明に係る話速変換倍率決定装置において、前記物理指標算出部は、前記パワーの概形の変化傾向を表す、パワーの概形の凹凸度を算出するパワー凹凸度算出部を備え、前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記パワーの概形の凹凸度を前記物理指標として出力することを特徴とする。
【0018】
さらに、本発明に係る話速変換倍率決定装置において、前記物理指標算出部は、入力信号のパワースペクトルを算出し、第1の周波数帯域における正規化パワー、及び第1の周波数帯域よりも高い第2の周波数帯域における正規化パワーを算出する周波数帯域分割・パワー演算部と、前記第1の周波数帯域及び前記第2の周波数帯域における正規化パワーの比を算出する分割帯域パワー比算出部を備え、前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記第1の周波数帯域及び第2の周波数帯域における正規化パワーの比を前記物理指標として出力することを特徴とする。
【0019】
さらに、本発明に係る話速変換倍率決定装置において、前記話速変換倍率指定部は、前記物理指標、及び前記物理指標それぞれの話速に対する寄与率に基づいて、前記話速変換倍率を算出することを特徴とする。
【0020】
さらに、本発明に係る話速変換倍率決定装置において、入力信号の全体、又は分割された入力信号における各部分に対する再生すべき時間長が与えられると、入力信号の全体又は各部分の時間長が前記再生すべき時間長に適合するように前記話速変換倍率を微調整して最終話速変換倍率を決定する話速変換倍率微調整部を更に備えることを特徴とする。
【0021】
また、上記課題を解決するために、本発明に係る話速変換装置は、入力信号の適応的な話速変換を行う話速変換倍率決定装置であって、上述の話速変換倍率決定装置と、前記話速変換倍率に従って入力信号を話速変換する話速変換部と、を備え、前記話速変換部は、入力信号の全体、又は分割された入力信号における各部分に対する再生すべき時間長が与えられると、一定の時間間隔ごとに、一様な倍率で伸縮させた時に出力されるべき目標信号と、入力信号を前記話速変換倍率により変換した変換信号とを、信号の時系列上で比較して時間的なずれ量を算出し、前記話速変換倍率微調整部は、前記時間的なずれ量に応じて、その後の話速変換倍率を再調整することを特徴とする。
【0022】
また、上記課題を解決するために、本発明は、入力信号の話速の適応的な変換倍率を決定する話速変換倍率決定装置として構成するコンピュータに、入力信号の有音区間と無音区間とを判別するステップと、前記有音区間において一定の時間間隔で入力信号の基本周波数を算出するとともに、該基本周波数の値が所定の変化幅内で変化する安定区間と、該基本周波数の値が所定の変化幅を超えて変化する不安定区間とを決定するステップと、前記安定区間において、前記基本周波数の時間変化を平滑化するステップと、前記不安定区間及び前記無音区間において、前記平滑化された安定区間における基本周波数の値を参照して、周波数を内挿した擬似基本周波数を算出するステップと、前記平滑化された基本周波数及び前記擬似基本周波数を接続して、一続きの基本周波数の概形の標本値を得るステップと、前記基本周波数の概形の標本値に応じて、入力信号に指定すべき話速変換倍率を算出するステップと、を実行させるためのプログラム、及びこのプログラムを記録した記録媒体としても特徴付けられる。
【発明の効果】
【0023】
本発明の提案する入力信号の基本周波数やパワーなどの物理的な特徴量に基づき行う適応的な話速変換よれば、従来、背景音と音声が混合している場合、“音声区間”と“無音区間”の判定が正しく行われない状態になると、適応的な話速変換が期待通りに動作しないという欠点を回避でき、背景音と音声が混合している場合でも、安定して、ゆっくり感を与える効果が高く自然な聞こえとなる、適応的な話速変換が可能となる。
【図面の簡単な説明】
【0024】
【図1】本発明による実施例1の話速変換倍率決定装置の構成を示すブロック図である。
【図2】基本周波数の概形の算出と仮の伸縮率の決定の例を示す図である。
【図3】本発明による実施例1の話速変換倍率決定装置の動作を示すフローチャートである。
【図4】本発明による実施例1の話速変換装置の構成を示すブロック図である。
【図5】本発明による実施例2の話速変換倍率決定装置の構成を示すブロック図である。
【図6】パワーの概形の算出と仮の伸縮率の決定の例を示す図である。
【図7】本発明による実施例2の話速変換倍率決定装置の動作を示すフローチャートである。
【図8】本発明による実施例3の構成を示すブロック図である。
【図9】自己相関関数の算出を説明する図である。
【図10】本発明による実施例3の話速変換倍率決定装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0025】
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
【実施例1】
【0026】
図1は、本発明による実施例1の話速変換倍率決定装置の構成を示すブロック図である。本実施例の話速変換倍率決定装置1aは、物理指標算出部2と、話速変換倍率決定部3とを備え、これにより、入力信号の適応的話速変換を行う。物理指標算出部2は、入力信号の物理指標を算出する。話速変換倍率決定部3は、物理指標算出部2から入力される物理指標に基づいて、入力信号の各セグメント(区間)に指定すべき話速変換倍率αを決定する。ここで、添え字nは、入力信号を冒頭から単位時間(一定の時間間隔、例えば5ms)ごとに区切った場合の何番目の位置かを示す整数値である。以後、単位時間あたりのセグメントの一例として、この区切り間隔を5msとして説明する。
【0027】
物理指標算出部2は、基本周波数概形算出部100を備え、基本周波数概形算出部100は、有音/無音判定部102と、基本周波数算出部104と、平滑化部106と、擬似基本周波数算出部108と、基本周波数概形連結部110とを有する。話速変換倍率決定部3は、第1の話速変換倍率指定部(話速変換倍率指定部a)120と、話速変換倍率微調整部140とを備える。
【0028】
本実施例の話速変換倍率決定装置1aは、包括的には、入力信号における単位時間(5ms)ごとの基本周波数及び擬似基本周波数の変化の概形を表すFを「物理指標」として用いて、入力信号の各セグメントに指定すべき話速変換倍率αを決定する。
【0029】
以下、物理指標Fに基づく入力信号に対する各区間の話速変換倍率の決定について順に説明する。ここで、話速変換倍率とは、入力信号の再生速度の変換倍率のことであり、単位時間当たりの信号区間に対する時間的な伸縮率の逆数に相当する。
【0030】
(物理指標Fの算出)
まず、物理指標Fの算出について図1及び図2を参照して説明する。図2は、基本周波数の概形の算出と仮の伸縮率の決定の例を示す図である。
【0031】
有音/無音判定部102は、入力信号からその振幅やパワーを算出し、その大きさに基づいて、“声”又は“背景音”(音楽や雑音)、あるいはその両方が同時に存在する部分である「有音区間」と、音が無い「無音区間」とを判別する。例えば、入力信号の振幅又はパワーが所定の閾値を超える場合には有音区間と判別し、所定の閾値未満である場合には無音区間と判別する。
【0032】
ここで、パワーの閾値を用いる簡単な具体例を説明する。n番目のセグメントの中心と窓幅20msに相当するハミング窓h(k)の中心を合わせて入力信号x(k)を切り出し、その標本点数がK個であり、入力信号の量子化精度が16bitであったとすると、そのセグメントのパワーを、次式(1)で定義する。
【0033】
【数1】

【0034】
そして、有音/無音判定部102は、有音区間の信号を基本周波数算出部104に出力し、無音区間の信号を擬似基本周波数算出部108に出力する。図2(a)は有音/無音判定部102により有音区間と判別された、入力信号波形の例を示す図である。
【0035】
基本周波数算出部104は、有音/無音判定部102から入力される、有音区間と判別された入力信号に対して、単位時間(一定の時間間隔、例えば5ms)ごとに基本周波数を算出し、算出した基本周波数の値が所定の変化幅内で安定してほぼ連続的な変化をする区間を「安定区間」として決定し、算出される基本周波数の値が安定せず不連続で変化が激しい区間を「不安定区間」として決定する。そして、基本周波数算出部104は、各安定区間内の基本周波数を特定し、特定した各安定区間内の基本周波数を平滑化部106に出力し、不安定区間の信号を擬似基本周波数算出部108に出力する。基本周波数算出部104は、「不安定区間」の各基本周波数の値は全て棄却する。なお、単位時間ごとの基本周波数は、任意の既知の技術を用いて算出することができる(例えば、特許第3219868号公報参照)。図2(b)は、図2(a)に示される入力信号の単位時間ごとの基本周波数をプロットで示している。また、図2(b)は、「安定区間」を四角の枠で囲って示しており、それ以外の区間は「不安定区間」であることを示している。
【0036】
平滑化部106は、基本周波数算出部104から入力される各安定区間の基本周波数がより滑らかな軌跡となるように、各安定区間の基本周波数からなる軌跡の平滑化を行う。この平滑化のために、カットオフ周波数3〜6Hz程度のローパスフィルタを用いるのが好適である。また、平滑化部106は、安定区間の平滑化した軌跡の基本周波数の値を擬似基本周波数算出部108及び基本周波数概形連結部110に出力する。図2(b)は、平滑化した基本周波数の軌跡を太い線で示している。
【0037】
擬似基本周波数算出部108は、平滑化部106から供給される安定区間の平滑化した軌跡の基本周波数の各値を用いて、補間関数(例えばスプライン関数)により補間することにより、無音区間及び不安定区間における擬似的な基本周波数(擬似基本周波数)を算出し、算出した擬似基本周波数を基本周波数概形連結部110に出力する。図2(b)は、擬似的な基本周波数の基本周波数を細い線で示している。
【0038】
基本周波数概形連結部110は、平滑化部106から供給される安定区間の平滑化した軌跡の基本周波数の値と、擬似基本周波数算出部108から供給される無音区間及び不安定区間の擬似基本周波数の値とを連結して、処理対象の入力信号の全ての区間(単位時間ごと)にわたる、基本周波数及び擬似基本周波数からなる連続な軌跡(以下、「基本周波数の概形」と称する)を求め、基本周波数の概形を単位時間ごとに標本化した値(以下、「基本周波数の概形の標本値」と称する)Fを話速変換倍率決定部3の第1の話速変換倍率指定部(話速変換倍率指定部a)120に出力する。
【0039】
(話速変換倍率の決定)
次に、話速変換倍率の決定について、図1及び図2を参照して説明する。第1の話速変換倍率指定部(話速変換倍率指定部a)120は、基本周波数の概形の標本値Fの値が大きい部分では、単位時間ごとの話速変換倍率(以下、単に「話速変換倍率」と称する)αaを相対的に小さく(ゆっくりな話速に)し、基本周波数の概形の標本値Fの値が小さい部分では、話速変換倍率αaを相対的に大きく(速い話速に)することを基本とする。すなわち、声(基本周波数)の高い部分では話速変換倍率αaを相対的に小さくし、声の低い部分では話速変換倍率αaを相対的に大きくする。これは、声の高い部分は意味が強調され、文の中で重要な内容である可能性があるためであり、相対的に話速をゆっくりにすることで、話速変換された言葉の内容の理解に有利に働くと考えられる。
【0040】
また、前述のように、無音区間及び不安定区間は音声ではない可能性が高いため、相対的に話速を速めても内容の理解に対する悪影響が少ないと考えられる。擬似基本周波数算出部108においては、その前後の安定区間の基本周波数を使って、その区間の擬似基本周波数をスプライン補間等で算出しているが、一般的な人の発声の物理的特徴として、図2(b)の時刻150msからの話し始めの部分では、基本周波数の変化が右上がりになり、ポーズの直前、すなわち図2の時刻1500ms付近では、基本周波数の変化が右下がりになる。したがって、図2には示されていないが、ある一つのポーズ区間(背景音だけの区間を含む)の擬似基本周波数としては、下に凸の谷状に補間されることが多い。すなわち、その部分の基本周波数の概形の標本値Fの値は相対的に小さくなり、結果的に話速変換倍率αaが高くなり話速が速まるように動作する。
【0041】
次に、基本周波数の概形の標本値Fを用いた具体的な話速倍率の決定方法について、いくつかの例を説明する。第1の話速変換倍率指定部(話速変換倍率指定部a)120は、基本周波数の概形の標本値Fの数が有限の場合は、その中央値を用いて全体を正規化する。例えば、中央値の値を1.0とみなし、最大値と最小値のうち、最大値のほうが中央値との差が大きい場合は、最大値を2.0とみなして、全ての基本周波数の概形の標本値Fについて比例配分で0〜2の間の値を新たに割り当て、その値を単位時間(5ms)ごとの仮の伸縮率F'と定める。最大値と最小値のうち、最小値のほうが中央値との差が大きい場合は、最小値を0.0とみなして同様の操作を行う。基本周波数の概形の標本値Fの対数logFを求めた後に同様の操作を行ってもよい。さらに、中央値の代わりに、全ての基本周波数の概形の標本値Fの平均値や、最大値と最小値の平均値を用いてもよい。図2(c)は、図2(b)に示される基本周波数の概形の標本値Fに対応する仮の伸縮率F'を示している。この例では、周波数(縦軸)を対数スケールとしているため、logFによる基本周波数の概形を基にF'を算出している。
【0042】
話速変換倍率決定装置1aがリアルタイムで動作して、逐次的に入力信号を話速変換していく必要がある場合には、基本周波数の概形の標本値Fの数が決まらない。そこで、例えば過去3秒以内の基本周波数の概形の標本値Fの値を保持しておき、その最大値、最小値、又は中央値等を用いて、現在の時刻の基本周波数の概形の標本値Fの値を正規化し、これを仮の伸縮率F'としてもよい。但し、この場合、物理指標算出部2において、平滑部106では、過去と現在の基本周波数の算出結果だけを用いて、平滑化の計算を行う。擬似基本周波数算出部108においても、過去の平滑部106の出力を用いてスプライン関数等による補間値の算出を行う。但し、上述したように、話し終わりでは基本周波数の変化が右下がりになるため、その後ろの擬似基本周波数を過去の平滑部106の出力のみを用いて補間していると、どんどん値が下がっていくので、擬似基本周波数に下限値(例えば過去3秒以内の基本周波数の概形の標本値Fの値の平均値の1/2の値など)を設けるなどして対処する。
【0043】
次に、仮の伸縮率F'の値に応じた話速変換倍率αaの算出について説明する。上述したように、仮の伸縮率F'の値は0〜2の間で正規化されているので、第1の話速変換倍率指定部(話速変換倍率指定部a)120は、例えば次式(2),(3)により、話速変換倍率αaを算出する。
【0044】
【数2】

【0045】
最後に、話速変換倍率微調整部140おける動作を説明する。入力信号の先頭から単位時間(5ms)おきに数えてn番目に与える話速αは、式(2)、(3)により求まる。
【0046】
入力信号全体に対する話速変換倍率α(倍速α)(以下、「再生速度変換倍率」と称する)が与えられた場合には、以下の手順でこれを微調整する。再生速度変換倍率αとしては、0.5〜5.0などの任意の値を設定できる。再生速度変換倍率αが与えられた場合、入力信号全体の長さをL(単位は秒)とすると、変換後の信号全体の長さはL/αにならなければいけない。そこで、まず話速変換倍率微調整部140は、全ての入力信号区間を話速変換し、全体として接続後の変換音声の長さLを先に算出する。
【0047】
次に、次式(4)によって、話速変換倍率αaを微調整して最終的な話速変換倍率αを決定することにより、変換後の信号全体の長さを再生すべき時間長に合わせることができる。
α=αa×L/(L/α) (4)
【0048】
できるだけ頻繁に、再生速度変換倍率αで一様に変換した音声と同じタイミングに合わせ込む場合には、入力信号全体の長さLではなく、これをより短い単位に分割した音声の長さに対して、微調整を行うように話速変換倍率αを修正する。例えば、L=L+L+・・・+LのようにM個に分割できる場合には、L、L、・・・、Lの区間ごとに入力波形を分割し、それぞれの分割区間において、m番目の区間では、まずその区間の話速変換倍率αaを用いてこのm番目の区間を話速変換して、接続済みの変換音声の部分長Lmを先に算出し、式(4)のLの代わりにLmを、Lの代わりにLmを設定して各話速変換倍率αを求め、再度話速変換することで微調整を行う。
【0049】
なお、話速変換倍率αを実現するための話速変換(波形の伸縮)方法は、様々な方法がすでに提案されているが、声の高さを保つ方法として、PICOLA(Pointer Interval Controlled OverLap and Add)法、TDHS(Time Domain Harmonic Scaling)法、PSOLA(Pitch Synchronous OverLap Add)法などがあり、これ以外にも特許第2612868号公報、特許第3083830号公報、特許第2955247号公報等に開示される波形伸縮法があり、いずれの波形伸縮法を用いてもよい。
【0050】
図3は、実施例1の話速変換倍率決定装置1aの動作を示すフローチャートである。話速変換倍率決定装置1aは、話速変換する信号を入力する(ステップS101)。話速変換する信号が入力されると、話速変換倍率決定装置1aは、有音/無音判定部102により、入力信号の有音区間と無音区間とを判別する(ステップS102)。ステップS102により有音区間と判別された場合には、話速変換倍率決定装置1aは、基本周波数算出部104により、単位時間ごとに基本周波数を算出し(ステップS103)、基本周波数の変化度合いに基づいて安定区間であるか不安定区間であるかを判別する(ステップS104)。ステップS104により安定区間であると判別された場合には、話速変換倍率決定装置1aは、平滑化部106により、各安定区間の基本周波数からなる軌跡の平滑化を行う(ステップS105)。
【0051】
一方、ステップS102により無音区間と判別された場合、又はステップS104により不安定区間であると判別された場合には、話速変換倍率決定装置1aは、擬似基本周波数算出部108により、安定区間の平滑化した軌跡の基本周波数の各値を用いて、補間関数により補間することにより、無音区間及び不安定区間における擬似基本周波数を算出する(ステップS106)。一般に、雑音や音楽などの背景音だけの部分では、基本周波数を安定的に算出することができないので、この擬似基本周波数の算出を行うことになる。また、入力信号に雑音や背景音が存在しない部分があった場合には、その部分において検出された「無音区間」では基本周波数を算出せず、基本周波数が安定的に求まった区間の値を参照して内挿し、擬似基本周波数を求める。
【0052】
そして、話速変換倍率決定装置1aは、基本周波数概形連結部110により、ステップS105にて平滑化された安定区間の軌跡の基本周波数の値と、ステップS106にて算出された無音区間及び不安定区間の擬似基本周波数の値とを連結して、基本周波数の概形の標本値Fを導出する(ステップS107)。次に、話速変換倍率決定装置1aは、第1の話速変換倍率指定部(話速変換倍率指定部a)120により、基本周波数の概形の標本値Fの値に基づいて話速変換倍率αaを算出する(ステップS108)。基本周波数の概形の標本値F値が大きい部分ではその程度に応じて話速を緩め、値が小さい部分ではその程度に応じて話速を速める。これにより、入力信号に雑音や背景音が混在する場合でも、安定的に、全体として目的の時間長に合わせながら、適応的な話速変換が可能となる。最後に、話速変換倍率決定装置1aは、話速変換倍率微調整部140により、再生速度変換倍率αが与えられると、最終話速変換倍率αを決定する(ステップS109)。
【0053】
このように、本実施例の話速変換倍率決定装置1aによれば、背景音と音声が混合している場合でも、適応的な話速変換が可能となる。また、話速変換倍率微調整部140を備えることにより、1倍速(元の時間長で再生)や2倍速(実時間の半分の時間長で再生)といった任意の再生速度変換倍率αが与えられた場合に、各部分によって再生速度変換倍率αより大きい倍率や小さい倍率で速度を変える際、全体としては一様な再生速度変換倍率αで話速変換したのと同じ時間で再生するように帳尻を合わせるよう、逐次話速を微調整して、結果的に、一様な再生速度変換倍率αで話速変換した場合と同じ時間長で、話速変換音声の生成を行うことが可能となる。所定の規則によりN個に分割した各部分に対して、それぞれ所定の時間長が設定された場合においては、分割した各部分、W,W,W,・・・,Wに与えられた各時間長に適合させるための一様な再生速度変換倍率α,α,α,・・・,αで話速変換したのと同じ時間で再生するように帳尻を合わせるよう、逐次話速を微調整する。
【0054】
(話速変換装置)
次に、話速変換装置について、図4を参照して説明する。図4は、本発明による実施例1の話速変換装置の構成を示すブロック図である。話速変換装置10aは、上述の話速変換倍率決定装置1aと、話速変換部4とを備える。話速変換部4は、話速変換倍率決定装置1aにより決定された話速変換倍率に従って入力信号を話速変換する。
【0055】
話速変換部4は、リアルタイムで動作して、逐次的に入力信号を話速変換して出力していく必要がある場合においては、入力信号の全体、又は分割された入力信号における各部分に対する再生すべき時間長が与えられると、一定の時間間隔ごとに、一様な倍率で伸縮させた時に出力されるべき目標信号と、入力信号を話速変換倍率により変換した変換信号とを、信号の時系列上で比較し、その時間的なずれの情報を話速変換倍率決定装置1aに戻し、話速変換倍率決定装置1aの話速変換倍率微調整部140において、ずれ量に応じて、その後の話速変換倍率を再調整する。
【0056】
つまり、話速変換部4では、再生速度変換倍率αによって、過去の入力信号のどの部分も一様な倍率で伸縮させたとした場合に出力されるべき信号と、実際に話速変換倍率決定装置1aから出力されたαに応じて適応的な話速変換倍率で話速変換されて出力される信号とを、信号の時系列上でLmの時間間隔で比較する。そして、その時点における、適応的な話速変換の出力信号が、仮想的な一様伸縮の話速変換の出力信号よりも時間的に前の音声内容であるとき(再生速度変換倍率αが1より小さい場合に生じる)は、その時間的なずれ量の情報を話速変換倍率決定装置1aの話速変換倍率微調整部140に戻し、話速変換倍率微調整部140ではそのずれ量に応じて、その後の各音声区間に与える話速変換倍率αを高速度側に僅かにシフトする微調整を付加する。
【0057】
また、話速変換部4で、実際に話速変換倍率決定装置1aから出力されたαに応じて適応的な話速変換倍率で話速変換されて出力される信号が、仮想的な一様伸縮の話速変換の出力信号よりも時間的に後の音声内容であるとき(再生速度変換倍率αは1より小さくても大きくてもあり得る)は、その時間的なずれ量の情報を話速変換倍率決定装置1aの話速変換倍率微調整部140に戻し、話速変換倍率微調整部140ではそのずれ量に応じて、その後の各音声区間に与える話速変換倍率αを低速度側に僅かにシフトする微調整を付加する。
【0058】
このようにして、適応的な話速変換倍率で話速変換されて出力される信号と、仮想的に再生速度変換倍率αで一様に変換した音声との間の時間的なずれ量を、できるだけ小さく留めるようにする。その結果として、話速変換倍率決定装置1aと話速変換部4のリアルタイム動作における逐次的な信号の入出力関係を保つことができる。したがって、話速変換装置10aに逐次入力される信号に対して即座に話速変換した信号を出力する必要がある場合、リアルタイムのシステムとして当該話速変換装置を構成することが可能となる。
【0059】
ここで、話速変換倍率決定装置1a又は話速変換装置10aとして機能させるために、コンピュータを好適に用いることができ、そのようなコンピュータは、話速変換倍率決定装置1aの各機能を実現する処理内容を記述したプログラムを、当該コンピュータの記憶部に格納しておき、当該コンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。
【0060】
これにより、話速変換倍率決定装置1a又は話速変換装置10aを、パーソナルコンピュータのプログラムとしてや、携帯音楽プレイヤーやスマートフォンなどのモバイル機器で動作するアプリケーションとして動作させることができる。
【0061】
また、処理内容を記述したプログラムを、DVD又はCD−ROMなどのコンピュータ読み取り可能な記録媒体に記録し、この記録媒体を販売、譲渡、貸与等により流通させることができるほか、そのようなプログラムを、例えばIPなどのネットワーク上にあるサーバの記憶部に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することにより、流通させることができる。
【0062】
また、そのようなプログラムを実行するコンピュータは、例えば、記録媒体に記録されたプログラム又はサーバから転送されたプログラムを、一旦、自己の記憶部に記憶することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。
【実施例2】
【0063】
次に、本発明による実施例2の話速変換倍率決定装置について説明する。なお、実施例1と同じ構成要素には同一の参照番号を付して説明を省略する。
【0064】
図5は、本発明による実施例2の話速変換倍率決定装置の構成を示すブロック図である。本実施例の話速変換倍率決定装置1bは、実施例1の話速変換倍率決定装置1aと同様に、入力信号を単位時間ごとに分割した各セグメントについて当該入力信号の物理指標を算出する物理指標算出部2と、物理指標算出部2から入力される物理指標に基づいて入力信号の各セグメントに指定すべき話速変換倍率αを決定する話速変換倍率決定部3とを備える。
【0065】
実施例2の話速変換倍率決定装置1bは、実施例1の話速変換倍率決定装置1a(図1参照)と比較して、物理指標算出部2が更に、パワー概形算出部200を備え、話速変換倍率決定部3が更に、第2の話速変換倍率指定部(話速変換倍率指定部b)220を備える点が相違する。パワー概形算出部200は、パワー算出部202と、平滑化部204とを有する。
【0066】
本実施例の話速変換倍率決定装置1bは、包括的には、入力信号における単位時間ごとの基本周波数の概形を表すFと、入力信号における単位時間ごとのパワーの値の変化の概形を表すPの2つの「物理指標」を用いて、入力信号の各セグメントに指定すべき話速変換倍率αを決定して話速変換を行い、話速変換した出力信号を生成して出力する。
【0067】
実施例2の話速変換倍率決定装置1bでは、2つの物理指標を用いるため、実施例2の第1の話速変換倍率指定部(話速変換倍率指定部a)120では、基本周波数の概形の標本値Fの話速に対する寄与率を考慮し、例えば次式(5)〜(7)により、話速変換倍率αaを算出する。
【0068】
【数3】

ここで、Raは基本周波数の概形の標本値Fによって指定される、話速に対する寄与率であり、0≦Ra≦1とする。また、Kは、仮の伸縮率F'の正規化値とともに、話速を緩めたり速めたりする幅を調整する定数であり、例えばK=1.4〜2.0とする。
【0069】
(物理指標Pの算出)
次に、物理指標Pの算出について図5及び図6を参照して説明する。図5は、パワーの概形の算出と仮の伸縮率の決定の例を示す図である。
【0070】
パワー算出部202は、単位時間(5ms)ごとに、入力信号のパワーを算出し、平滑化部204に出力する。パワーは、一般的な方法のひとつとして、入力信号波形に20ms程度の時間幅のハミング窓などの窓関数による重み付けを施した後の各標本値の二乗和で求めることができる。具体的な算出方法の例としては、式(1)を用いて説明した方法が挙げられる。図6(a)は、入力信号波形の例を示す図である。図6(b)は、図6(a)に示される入力信号の単位時間ごとのパワーをプロットで示している。
【0071】
平滑化部204は、パワー算出部202から入力されるパワーがより滑らかな軌跡となるように、単位時間ごとに算出されたパワーの軌跡の平滑化を行って、パワーの概形を単位時間ごとに標本化した値P(以下、「パワーの概形の標本値」と称する)を算出し、第2の話速変換倍率指定部(話速変換倍率指定部b)220に出力する。この平滑化のために、カットオフ周波数3〜6Hz程度のローパスフィルタを用いるのが好適である。
【0072】
(話速変換倍率の決定)
次に、話速変換倍率の決定について、図5及び図6を参照して説明する。第2の話速変換倍率指定部(話速変換倍率指定部b)220は、パワーの概形の標本値Pの値が大きい部分では、相対的に話速変換倍率を小さく(ゆっくりな話速に)し、パワーの概形の標本値Pの値が小さい部分では、相対的に話速変換倍率を大きく(速い話速に)することを基本とする。すなわち、声(パワー)の大きい部分では相対的な話速変換倍率が小さくなり、声の小さい部分では相対的な話速変換倍率が大きくなる。これは、声の大きい部分は意味が強調され、文の中で重要な内容である可能性があるためであり、相対的に話速をゆっくりにすることで、話速変換された言葉の内容の理解に有利に働くと予想できる。また、無音区間は、相対的に話速を速めても内容の理解に対する悪影響が少ないと考えられる。
【0073】
次に、パワーの概形の標本値Pを用いた具体的な話速倍率の決定方法について、いくつかの例を説明する。パワーの概形の標本値Pの数が有限の場合は、その中央値を用いて全体を正規化する。例えば、中央値の値を1.0とみなし、最大値と最小値のうち、最大値のほうが中央値との差が大きい場合は、最大値を2.0とみなして、全てのパワーの概形の標本値Pについて比例配分で0〜2の間の値を新たに割り当て、その値を単位時間(5ms)ごとの仮の伸縮率P'と定める。最大値と最小値のうち、最小値のほうが中央値との差が大きい場合は、最小値を0.0とみなして同様の操作を行う。全てのパワーの概形の標本値Pに対してその対数logPを求めた後に同様の操作を行ってもよい。さらに、中央値の代わりに、全てのパワーの概形の標本値Pの平均値や、最大値と最小値の平均値を用いてもよい。図6(c)は、図6(b)に示されるパワーの概形の標本値Pに対応する仮の伸縮率P'を示している。この例では、パワー(縦軸)をデシベル化しているため、logPによるパワーの概形を基にP'を算出している。
【0074】
話速変換倍率決定装置1bがリアルタイムで動作して、逐次的に入力信号を話速変換して出力していく必要がある場合においては、パワーの概形の標本値Pの数が決まらない。そこで、例えば過去3秒以内のパワーの概形の標本値Pの値を保持しておき、その最大値、最小値、又は中央値等を用いて、現在の時刻のパワーの概形の標本値Pの値を正規化し、これを仮の伸縮率P'としてもよい。但し、この場合、物理指標算出部2において、平滑部204では、過去と現在のパワーの算出結果だけを用いて、平滑化の計算を行う。
【0075】
次に、仮の伸縮率P'の値に応じた話速変換倍率αbの算出について説明する。上述したように仮の伸縮率P'の値は0〜2の間で正規化されているので、第2の話速変換倍率指定部(話速変換倍率指定部b)220は、例えば次式(8)〜(10)により、話速変換倍率αbを算出する。
【0076】
【数4】

ここで、Rbはパワーの概形の標本値Pによって指定される、話速に対する寄与率であり、0≦Rb≦1とする。また、Kは、仮の伸縮率P'の正規化値とともに、話速を緩めたり速めたりする幅を調整する定数であり、例えばK=1.4〜2.0とする。
【0077】
式(5)〜(7)の寄与率Ra、式(8)〜(10)の寄与率Rbの各値は、例えば入力信号が放送の場合、番組のジャンル(ニュース、ドキュメンタリー、ドラマ、バラエティ、落語・漫才など)が分かる場合には、それに応じて、値の分配率を最適化することにより、より聞きやすさや自然性の高い適応的話速変換が可能となる。例えば、ニュースならば、Ra=0.7、Rb=0.3、ドキュメンタリー、ドラマならば、Ra=0.5、Rb=0.5、落語・漫才ならば、Ra=0.3、Rb=0.7などである。また、話速変換の対象とする言語の違いによって、寄与率Ra,Rbの値を調整することにより、それぞれの言語においてより自然な聞こえ方の変換音声とすることができる。
【0078】
最後に、話速変換倍率微調整部140おける動作の一例を説明する。入力信号の先頭から単位時間(5ms)おきに数えてn番目に与える話速変換倍率αは、基本的には、式(5),(6),(8),(9)を用いる場合にはα=αa×αbとし、式(7),(10)を用いる場合にはα=αa+αbとする。しかし、再生速度変換倍率αが与えられた場合には、以下の手順でこれを微調整する。再生速度変換倍率αとしては、0.5〜5.0などの任意の値を設定できる。
【0079】
再生速度変換倍率αが与えられた場合、入力信号全体の長さをL(単位は秒)とすると、変換後の信号全体の長さはL/αにならなければいけない。まず、話速変換倍率微調整部140は、話速変換倍率αa及びαbに基づく、話速変換倍率αabを算出する。式(5),(6),(8),(9)を用いる場合には、αab=αa×αbとし、式(7),(10)を用いる場合にはαab=αa+αbとして、全ての入力信号区間を話速変換し、全体として接続後の変換音声の長さLを先に算出する。
【0080】
次に、次式(11)によって、話速変換倍率αabを微調整して最終的な話速変換倍率αを決定することにより、変換後の信号全体の長さを再生すべき時間長に合わせることができる。
α=αab×L/(L/α) (11)
【0081】
できるだけ頻繁に、再生速度変換倍率αで一様に変換した音声と同じタイミングに合わせ込みたい場合は、実施例1と同様に、入力信号全体の長さLではなく、これをより短い単位に分割した音声の長さに対して、微調整を行うようにαを修正すればよい。例えば、L=L+L+・・・+LのようにM個に分割できる場合には、L、L、・・・、Lの区間ごとに入力信号波形を分割し、それぞれの分割区間において、m番目の区間では、まずその区間の単位時間(5ms)ごとの各部分の話速変換倍率αab(αa×αb又はαa+αb)を用いてこのm番目の区間を話速変換して、接続済みの変換音声の部分長Lmを先に算出し、式(11)のLの代わりにLmを、Lの代わりにLmを設定して話速変換倍率αを求め、再度話速変換することで微調整を行う。なお、話速変換倍率αを実現するための話速変換(波形の伸縮)方法は、実施例1と同様のものを利用できる。
【0082】
図7は、実施例2の話速変換倍率決定装置1bの動作を示すフローチャートである。ステップS201〜208は、図3に示す実施例1の話速変換倍率決定装置1aの動作のステップS101〜108と同様であるため、説明を省略する。話速変換する信号が入力されると、話速変換倍率決定装置1bは、パワー算出部202により、入力信号のパワーを算出する(ステップS209)。そして、話速変換倍率決定装置1bは、平滑化部204により、算出したパワーの軌跡の平滑化を行い、パワーの概形の標本値Pを導出する(ステップS210)。次に、話速変換倍率決定装置1bは、第2の話速変換倍率指定部(話速変換倍率指定部b)220により、パワーの概形の標本値Pの値に基づいて話速変換倍率αbを算出する(ステップS211)。最後に、話速変換倍率決定装置1bは、話速変換倍率微調整部140により、話速変換倍率αa及びαbから話速変換倍率αを求める。再生速度変換倍率αが与えられた場合には、最終的な話速変換倍率としてαを微調整する(ステップS212)。
【0083】
このように、本実施例の話速変換倍率決定装置1bによれば、基本周波数とパワーに基づいて話速変換倍率αを求めることにより、例えば、背景音(BGMなど)だけの部分で、パワーが大きい場合でも擬似基本周波数が小さな値を示す部分においては、話速を速めるといった判断が可能となる。
【0084】
さらに、話速の制御にパワーの値も加味することで以下の利点がある。通常、声の高さと大きさには正の相関があり、基本周波数が高い部分ではパワーも大きい。このような部分は母音部であることが多く、母音部では基本周波数は安定して算出される。したがって、基本周波数とパワーの値が大きいところで話速を緩めると、母音部を中心に話速を緩める確率が高い。実際の人の発声において、話速が遅い場合と速い場合とを比較した場合、主に母音部が伸縮することが分かっている(例えば、148th Meeting of Acoustical Society of America, 4pSC3. そのアブストラクトは "Journal of the Acoustical Society of America, Vol.116, No.4, Pt.2 of 2. p2628に掲載されているので参照されたい)。したがって、この方式により自然な聞こえの適応的話速変換が可能となる。
【0085】
もうひとつのメリットとして、以下のことがある。日本語や中国語は「ピッチ・アクセント」であり、同音異義語の違いや意味の強調を声の高さの変化で制御する傾向が強い。一方、欧米の言語は「ストレス・アクセント」であり、声の大きさの変化で、各単語のリズム感や意味の強調を制御していると言われている。したがって、適応的な話速の制御において、声の高さと大きさの両方の値を加味することで、様々な言語への最適化が可能となる。
【0086】
また、話速変換する対象音声が放送の音声である場合、近年開発が盛んなメタ情報として番組のジャンル(ニュース、ドキュメンタリー、ドラマ、バラエティ、落語・漫才)が付与されていれば、それに応じて、話速変換倍率に対して掛け算値や冪指数値(寄与率)の分配率を最適化することにより、より聞きやすさや自然性の高い適応的話速変換が可能となる。
【0087】
ここで、実施例1の話速変換装置10aと同様に、実施例2の話速変換装置10bは、上述の話速変換倍率決定装置1bと、話速変換倍率決定装置1bにより決定された話速変換倍率に従って入力信号を話速変換する話速変換部4とを備える。話速変換装置4がリアルタイムの動作をする必要がある場合の動作も、実施例1と同様である。
【0088】
また、実施例1と同様に、話速変換倍率決定装置1b又は話速変換装置10bとして機能させるために、コンピュータを好適に用いることができ、そのようなコンピュータは、話速変換倍率決定装置1bの各機能を実現する処理内容を記述したプログラムを、当該コンピュータの記憶部に格納しておき、当該コンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。
【0089】
また、処理内容を記述したプログラムを、DVD又はCD−ROMなどのコンピュータ読み取り可能な記録媒体に記録し、この記録媒体を販売、譲渡、貸与等により流通させることができるほか、そのようなプログラムを、例えばIPなどのネットワーク上にあるサーバの記憶部に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することにより、流通させることができる。
【0090】
また、そのようなプログラムを実行するコンピュータは、例えば、記録媒体に記録されたプログラム又はサーバから転送されたプログラムを、一旦、自己の記憶部に記憶することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。
【実施例3】
【0091】
次に、本発明における適応的な話速変換の効果をさらに安定させるための補助的な手段を加えた実施例3の話速変換倍率決定装置について説明する。なお、実施例2と同じ構成要素には同一の参照番号を付して説明を省略する。
【0092】
図8は、本発明による実施例3の話速変換倍率決定装置の構成を示すブロック図である。本実施例の話速変換倍率決定装置1cは、実施例1の話速変換倍率決定装置1a及び実施例2の話速変換倍率決定装置1bと同様に、入力信号を単位時間ごとに分割した各セグメントについて当該入力信号の物理指標を算出する物理指標算出部2と、物理指標算出部2から入力される物理指標に基づいて入力信号の各セグメントに指定すべき話速変換倍率αを決定する話速変換倍率決定部3とを備える。
【0093】
実施例3の話速変換倍率決定装置1cは、実施例2の話速変換倍率決定装置1b(図5参照)と比較して、物理指標算出部2が更に、補助的な物理指標の算出部である、有声度概形算出部300と、基本周波数概形算出部400と、凹凸度算出部410と、パワー概形算出部500と、凹凸度算出部510と、周波数帯域分割・パワー演算部600と、分割帯域パワー比算出部610とを備え、話速変換倍率決定部3が更に、補助的な物理指標に基づく話速変換倍率指定部である、第3の話速変換倍率指定部(話速変換倍率指定部c)320と、第4の話速変換倍率指定部(話速変換倍率指定部d)420と、第5の話速変換倍率指定部(話速変換倍率指定部e)520と、第6の話速変換倍率指定部(話速変換倍率指定部f)620とを備える点が相違する。パワー概形算出部200は、パワー算出部202と、平滑化部204とを有する。有声度概形算出部300は、有声度算出部302と、平滑化部304とを有する。周波数帯域分割・パワー演算部600は、スペクトル算出部602と、帯域分割部604と、パワー演算部606とを有する。基本周波数概形算出部400の内部構成は、基本周波数概形算出部100と同一であり、パワー概形算出部500の内部構成は、パワー概形算出部200と同一である。
【0094】
(有声度を用いた補助的な話速変換倍率制御)
有声度算出部302は、放送の音声など背景音などの混入も含めた、入力信号波形から自己相関関数R(τ)を求め、自己相関関数R(τ)を用いて有声度を求める。自己相関関数R(τ)は次式(12)により導出され、有声度uは次式(13)により導出される。
【0095】
【数5】

【0096】
u=W(τ)・R(τ)max/R(0) (13)
ここで、R(τ)maxは、図9(b)に示すように、τ>0における最大値である。τは時間遅れ量であり、W(τ)はR(τ)maxを与えるτの値に応じた重みである。あるいは、別の算出方法として、単位時間(5ms)における入力信号波形のゼロ交差の回数をカウントし、このカウント値の逆数とすることもできる。
【0097】
有声度uは入力信号のどの部分でも確実に単位時間(5ms)ごとに算出されるが、その値は必ずしも滑らかな時間変化をするとは限らない。そこで、平滑化部304は、有声度算出部302から入力される単位時間ごとの有声度の軌跡を平滑化したU(以下、「有声度の概形の標本値」と称する)を算出し、第3の話速変換倍率指定部(話速変換倍率指定部c)320に出力する。この平滑化のために、カットオフ周波数3〜6Hz程度のローパスフィルタを用いるのが好適である。
【0098】
第3の話速変換倍率指定部(話速変換倍率指定部c)320は、有声度の概形の標本値Uの値に応じて、話速変換倍率αcを算出する。自己相関関数を用いる場合を説明する。一般的に、有声度の概形の標本値Uは、−0.2〜1.2程度の範囲の値をとる。そこで、有声度の概形の標本値Uが0.5より大きい場合は話速を緩め(αc<1.0)、Uが0.5以下であれば話速を速める(αc>1.0)こととし、例えば次式(14)〜(16)により話速変換倍率αcを算出する。
【0099】
【数6】

但し、式(14)では、U<−0.2の場合には、U=−0.2として計算する。ここで、Rcは有声度の概形によって指定される話速変換倍率に対する寄与率であり、0≦Rc≦1とする。また、Kは、有声度の概形の標本値Uの値とともに、話速を緩めたり速めたりする幅を調整する定数であり、例えばK=1.4〜2.0とする。
【0100】
(基本周波数の概形の凹凸度を用いた補助的な話速変換倍率制御)
次に、基本周波数の概形の凹凸度を利用する動作の一例について説明する。基本周波数の概形算出部400の動作は、実施例1で説明した基本周波数の概形算出部100と同じであり、単位時間ごとに基本周波数の概形の標本値Fを出力する。
【0101】
凹凸度算出部(基本周波数凹凸度算出部)410は、基本周波数の概形の標本値Fの変化傾向を表す凹凸度(以下、「基本周波数の概形の凹凸度」と称する)Sを算出する。例えば、基本周波数の概形の標本値Fに対して、それぞれ前側30msの値Fbと、後ろ側30msの値Faとを使って、(F−Fb)と(F−Fa)の平均値を基本周波数の概形の凹凸度Sとし、極大又は極小の程度を算出する。この場合、軌跡が平坦、又は単調増加や単調減少の区間では、極大又は極小の程度は0に近い値となる。なお、基本周波数の概形の凹凸度Sのうち、その絶対値が最も大きな値を使って、全ての基本周波数の概形の凹凸度Sを除して正規化する。従って、極大又は極小の程度である基本周波数の概形の凹凸度Sの値は−1〜1となる。
【0102】
この方法は、基本周波数の概形の標本値Fの前後5ms(1サンプル)の値を使うようにすれば、基本周波数の概形の標本値Fの2階差分を算出することと等価である。すなわち、まず基本周波数の概形の標本値Fの全体に対して2階差分F”=(F−Fn−1)−(Fn−1−Fn−2)を算出し、次に、その絶対値が最も大きな値を使って、全てのF”を正規化し、同時に符号を反転して基本周波数の概形の凹凸度Sとする。その結果、基本周波数の概形の凹凸度Sの値はやはり−1〜1となる。よく知られているように、関数の2階微分は、関数が極小の部分では正の値をとり、極大の部分では負の値をとる。またその絶対値が大きいほど、極大・極小の度合いが強い(凹凸がより先鋭になっている)。任意の連続な曲線に対する2階差分は2階微分と等価と考えられるので、このSを基本周波数の概形の凹凸度として扱うことができる。
【0103】
第4の話速変換倍率指定部(話速変換倍率指定部d)420は、単位時間(5ms)ごとの基本周波数の概形の凹凸度Sの値に応じて、Sの値が正の時は話速を緩め、負の時は話速を速めることとし、例えば次式(17)〜(19)により、話速変換倍率αdを算出する。
【0104】
【数7】

ここで、Rdは基本周波数の概形の凹凸度によって指定される話速変換倍率に対する寄与率であり、0≦Rd≦1とする。また、Kは、基本周波数の概形の凹凸度Sの値とともに、話速を緩めたり速めたりする幅を調整する定数であり、例えばK=1.4〜2.0とする。
【0105】
(パワーの概形の凹凸度を用いた補助的な話速変換倍率制御)
次に、パワーの概形の凹凸度を利用する動作の一例について説明する。基本的な方法は、基本周波数の概形の凹凸度を利用する場合と同様である。入力信号に対して、パワーの概形算出部500の出力について、凹凸度算出部510において、その山谷の凹凸度を算出する。基本周波数の概形算出部500の動作は、既に説明したパワーの概形算出部200と同じであり、単位時間(5ms)ごとにパワーの概形の標本値Pが出力される。
【0106】
凹凸度算出部(パワー凹凸度算出部)510は、パワーの概形の標本値Pの変化傾向を表す凹凸度(以下、「パワーの概形の凹凸度」と称する)Qを算出する。例えば、パワーの概形の標本値Pに対して、それぞれ前側30msの値Pbと、後ろ側30msの値Paとを使って、(P−Pb)と(P−Pa)の平均値をパワーの概形の凹凸度Qとし、極大又は極小の程度を算出する。この場合、軌跡が平坦、又は単調増加や単調減少の区間では、極大又は極小の程度は0に近い値となる。なお、パワーの概形の凹凸度Qのうち、その絶対値が最も大きな値を使って、全てのパワーの概形の凹凸度Qを除して正規化する。したがって、極大又は極小の程度であるパワーの概形の凹凸度Sの値は−1〜1となる。
【0107】
この方法は、パワーの概形の標本値Pの前後5ms(1サンプル)の値を使うようにすれば、パワーの概形の標本値Pの2階差分を算出することと等価であることは、基本周波数の概形の標本値と同様である。すなわち、パワーの概形の標本値Pの全体に対して2階差分P”=(P−Pn−1)−(Pn−1−Pn−2)を算出し、次に、その絶対値が最も大きな値を使って、全てのP”を正規化し、同時に符号を反転してパワーの概形の凹凸度Qとする。その結果、パワーの概形の凹凸度Qの値はやはり−1〜1となる。
【0108】
第5の話速変換倍率指定部(話速変換倍率指定部e)520は、単位時間(5ms)ごとのパワーの概形の凹凸度Qの値に応じて、Qの値が正の時は話速を緩め、負の時は話速を速めることとし、例えば次式(20)〜(22)により、話速変換倍率αeを算出する。
【0109】
【数8】

ここで、Reはパワーの概形の凹凸度によって指定される話速変換倍率に対する寄与率であり、0≦Re≦1とする。また、Kは、パワーの概形の凹凸度Qの値とともに、話速を緩めたり速めたりする幅を調整する定数であり、例えばK=1.4〜2.0とする。
【0110】
(分割した周波数帯域のパワー比を用いた補助的な話速変換倍率制御)
次に、分割した周波数帯域のパワー比を利用する動作の一例について説明する。周波数帯域分割・パワー演算部600は、入力信号のパワースペクトルを算出し、第1の周波数帯域における正規化パワー、及び第1の周波数帯域よりも高い周波数帯域における正規化パワーを算出する。
【0111】
スペクトル算出部602は、入力信号に対して単位時間(5ms)ごとに、高速フーリエ変換(Fast Fourier Transform, FFT)などによって時間領域の波形を周波数領域に変換し、各周波数の対数化パワースペクトル(単位はdB)を算出する。
【0112】
帯域分割部604は、スペクトル算出部602から入力されるパワースペクトルを複数の周波数帯域に分割する。例えば、周波数帯域B1:0〜300Hz、周波数帯域B2:300〜1500Hz、周波数帯域B3:1500〜3000Hz、周波数帯域B4:3000〜8000Hz、周波数帯域B5:8000Hz以上といった具合に分割する。
【0113】
パワー演算部606は、低い側の周波数帯域と高い側の周波数帯域について、それぞれ正規化パワーを算出する。例えば、ここでは、低い側の周波数帯域として周波数帯域B2、高い側の周波数帯域として周波数帯域B4を選択する。正規化パワーは、各周波数帯域に含まれるパワースペクトルの本数分だけ各値を合計し、その後その本数で除することで算出する。パワー演算部606は、算出した周波数帯域B2及び周波数帯域B4の正規化パワーを、分割帯域パワー比算出部610に出力する。
【0114】
分割帯域パワー比算出部610は、パワー演算部606から入力される低域側の正規化パワーと高域側の正規化パワーがすでに対数化されていることから、その差として、低域側の正規化パワーから高域側の正規化パワーを減ずる(すなわち、正規化パワーの比を求める)。通常その差は、10dB〜40dB程度である。そして、単位時間(5ms)ごとに算出されたこの値の軌跡を平滑化して、分割した周波数帯域の正規化パワーの比(以下、分割帯域パワー比と称する)Eを算出し、第6の話速変換倍率指定部(話速変換倍率指定部f)620に出力する。この平滑化のために、カットオフ周波数3〜6Hz程度のローパスフィルタを用いるのが好適である。
【0115】
第6の話速変換倍率指定部(話速変換倍率指定部f)620は、分割帯域パワー比Eが25dBより大きい場合は話速を緩め、分割帯域パワー比Eが25dB以下であれば話速を速めることとし、例えば次式(23)〜(25)により、話速変換倍率αfを算出する。
【0116】
【数9】

但し、式(23)では、E<10(単位はdB)の場合には、E=10として計算する。ここで、Rfは分割した分割帯域パワー比によって指定される話速変換倍率に対する寄与率であり、0≦Rf≦1とする。また、Kは、分割帯域パワー比Eの値とともに、話速を緩めたり速めたりする幅を調整する定数であり、例えばK=1.4〜2.0とする。
【0117】
式(14)〜(16)のRc、式(17)〜(19)のRd、式(20)〜(22)のRe、式(23)〜(25)のRfの各値は、式(5)〜(7)のRa、式(8)〜(10)のRbと同列に値を調整して用いる。例えば入力信号が放送の場合、番組のジャンル(ニュース、ドキュメンタリー、ドラマ、バラエティ、落語・漫才)が分かる場合には、それに応じて、値の分配率を最適化することにより、より聞きやすさや自然性の高い適応的話速変換が可能となる。例えば、ニュースならば、Ra=0.3、Rb=0.1、Rc=0.1、Rd=0.3、Re=0.1、Rf=0.1、ドキュメンタリー、ドラマならば、Ra=0.2、Rb=0.2、Rc=0.1、Rd=0.2、Re=0.2、Rf=0.1、落語・漫才ならば、Ra=0.1、Rb=0.1、Rc=0.3、Rd=0.2、Re=0.2、Rf=0.1などである。
【0118】
また、話速変換の対象とする言語の違いによって、Ra,Rb,Rc,Rd,Re,Rfの値を調整することにより、それぞれの言語においてより自然な聞こえ方の変換音声とすることができる。
【0119】
(話速変換倍率の微調整)
最後に、話速変換倍率微調整部140おける動作の一例を説明する。入力信号の先頭から単位時間(5ms)おきに数えてn番目に与える話速変換倍率αは、基本的には、式(5),(6),(8),(9),(14),(15),(17),(18),(20),(21),(23),(24)を用いる場合にはα=αa×αb×αc×αd×αe×αfとし、式(7),(10),(16),(19),(22),(25)を用いる場合にはα=αa+αb+αc+αd+αe+αfとする。しかし、再生速度変換倍率αが与えられた場合には、以下の手順でこれを微調整する。再生速度変換倍率αとしては、0.5〜5.0などの任意の値を設定できる。
【0120】
再生速度変換倍率αが与えられた場合、入力信号全体の長さをL(単位は秒)とすると、変換後の信号全体の長さはL/αにならなければいけない。まず、話速変換倍率微調整部140は、式(5),(6),(8),(9),(14),(15),(17),(18),(20),(21),(23),(24)を用いる場合にはαaf=αa×αb×αc×αd×αe×αfとして全ての入力信号区間を話速変換し、式(7),(10),(16),(19),(22),(25)を用いる場合にはαaf=αa+αb+αc+αd+αe+αfとして全ての入力信号区間を話速変換した結果、全体として接続後の変換音声の長さLを先に算出する。
【0121】
次に、次式(26)によって、各部分の話速変換倍率αafを微調整して最終話速変換倍率αを決定することにより、変換後の信号全体の長さを再生すべき時間長に合わせることができる。
α=αaf×L/(L/α) (26)
【0122】
できるだけ頻繁に、再生速度変換倍率αで一様に変換した音声と同じタイミングに合わせ込む場合には、入力信号全体の長さLではなく、これをより短い単位に分割した音声の長さに対して、微調整を行うようにαを修正すればよい。例えば、L=L+L+・・・+LのようにM個に分割できる場合には、L,L,・・・,Lの区間ごとに入力波形を分割し、それぞれの分割区間において、m番目の区間では、まずその区間の単位時間(5ms)ごとの各部分の話速変換倍率αaf(αa×αb×αc×αd×αe×αf又はαa+αb+αc+αd+αe+αf)を用いてこのm番目の区間を話速変換して、接続済みの変換音声の部分長Lmを先に算出し、式(26)のLの代わりにLmを、LのLの代わりにLmを設定して各話速変換倍率αを求め、再度話速変換することで微調整を行う。なお、話速変換倍率αを実現するための話速変換(波形の伸縮)方法は、実施例1と同様のものを利用できる。
【0123】
図10は、実施例3の話速変換倍率決定装置1cの動作を示すフローチャートである。話速変換倍率決定装置1cは、話速変換する信号を入力する(ステップS301)。話速変換する信号が入力されると、話速変換倍率決定装置1cは、基本周波数概形算出部100により、基本周波数の概形の標本値Fを導出し(ステップS302)、パワー概形算出部200により、パワーの概形の標本値Pを導出し(ステップS303)、有声度概形算出部300により、有声度概形の標本値Uを導出し(ステップS304)、基本周波数概形算出部400及び凹凸度算出部410により、基本周波数の概形の凹凸度Sを導出し(ステップS305)、パワー概形算出部500及び凹凸度算出部510により、パワーの概形の凹凸度Qを導出し(ステップS306)、周波数帯域分割・パワー演算部600及び分割帯域パワー比算出部610により、分割帯域パワー比Eを導出する(ステップS307)。
【0124】
ステップS302にて基本周波数の概形の標本値Fが導出されると、話速変換倍率決定装置1cは、第1の話速変換倍率指定部(話速変換倍率指定部a)120により、話速変換倍率αaを算出する(ステップS308)。ステップS303にてパワーの概形の標本値Pが導出されると、話速変換倍率決定装置1cは、第2の話速変換倍率指定部(話速変換倍率指定部b)220により、話速変換倍率αbを算出する(ステップS309)。ステップS304にて有声度概形の標本値Uが導出されると、話速変換倍率決定装置1cは、第3の話速変換倍率指定部(話速変換倍率指定部c)320により、話速変換倍率αcを算出する(ステップS310)。ステップS305にて基本周波数の概形の凹凸度Sが導出されると、話速変換倍率決定装置1cは、第4の話速変換倍率指定部(話速変換倍率指定部d)420により、話速変換倍率αdを算出する(ステップS311)。ステップS306にてパワーの概形の凹凸度Qが導出されると、話速変換倍率決定装置1cは、第5の話速変換倍率指定部(話速変換倍率指定部e)520により、話速変換倍率αeを算出する(ステップS312)。ステップS307にて分割帯域パワー比Eが導出されると、話速変換倍率決定装置1cは、第6の話速変換倍率指定部(話速変換倍率指定部f)620により、話速変換倍率αfを算出する(ステップS313)。そして、最後に、話速変換倍率決定装置1cは、話速変換倍率微調整部140により、話速変換倍率αa〜αfから話速変換倍率αを求める。再生速度変換倍率αが与えられた場合には、最終的な話速変換倍率としてαを微調整する(ステップS314)。
【0125】
なお、ここでは話速変換倍率αa〜αf全てを用いる例を示したが、話速変換倍率αc〜αfについては少なくとも1つを使用する構成とすることができる。
【0126】
有声度の概形の標本値U(話速変換倍率αc)を併用した場合には、以下の利点がある。この物理指標は先に説明したように、入力信号の全ての位置で求めることが可能である。また背景音(音楽や雑音)が混入している場合にも必ず算出可能である。通常、母音部は有声度が高い。また、完全な無音部や、一般的に色々な音の周波数成分が混じっている音楽や雑音などの背景音は有声度が低い。したがって、有声度の高いところで話速を緩め、有声度の低いところで話速を速めることで、背景音が混入している場合においても、音声の重要な部分である母音部では話速が緩められ、完全な無音部や背景音だけの部分は話速が速められるので、基本周波数の概形の標本値Fに加え、有声度も加味することで、入力信号全体として、より安定した効果的な適応的話速変換が可能となる。
【0127】
また、基本周波数の概形の凹凸度S(話速変換倍率αd)を併用した場合には、以下の利点がある。これは、特許文献1で、「基本周波数の高いところは話速を緩め、低いところでは話速を速める」としていることとは異なる。例えば、男女のコンビによる漫才などを考えると、男女の声がほとんどポーズのない状態で激しく入れ替わる。このような入力信号に対して、特許文献1に記載の技術により、「基本周波数の高いところは話速を緩め、低いところでは話速を速める」と、女性の声は高いためいつも緩めるが、男性の声は低いためいつも速くなるという傾向が生じる。声のある区間とない区間とを正しく判別しなければいけない特許文献1の技術に比べて、実施例1,2の話速変換倍率決定装置1a,1bにおいては、雑音や背景音が混在する部分も含めた連続な基本周波数の概形を用いる点で安定的に動作するという利点はあるものの、男女の声が混合している場合には、基本周波数の概形の値に比例して話速変換倍率を設定する点で動作が不安定になることがある。
【0128】
そこで、基本周波数の概形の凹凸度Sを併用することにより、基本周波数の概形において、言葉のアクセントなどに付随して、女性の声の部分でも、男性の声の部分でも、必ず凹凸が生じるため、男女それぞれ、凸の部分は話速を緩め、凹の部分は話速を速めることができ、男女両者に公平な配分で、話速の適応的な制御が可能である。
【0129】
また、パワーの概形の凹凸度Q(話速変換倍率αe)を併用した場合には以下の利点がある。例えば、ドラマや講談などを考えると、演出よって、ある1センテンスは大きな声で発声し、次の1センテンスは急に小さい声で発声するといったことがよく行われる。このような入力信号に対して、実施例2の話速変換倍率決定装置1bにおいては、声の大きいセンテンスは相対的に話速を緩め、声の小さいセンテンスでは相対的に速めるという傾向が否めない。
【0130】
そこで、パワーの概形の凹凸度Qを併用することにより、大きな声のセンテンスでも、声の小さいセンテンスでも、単語単位のアクセントなどに付随して、必ず凹凸が生じるため、それぞれ、凸の部分は話速を緩め、凹の部分は話速を速めることができ、声の大きさの大小に関係なく公平な配分で、話速の適応的な制御が可能となる。
【0131】
また、分割帯域パワー比E(話速変換倍率αf)を併用した場合には以下の利点がある。特許文献4及び5には、定常状態における周波数スペクトルの複数の帯域と入力信号の周波数スペクトルの対応する各帯域のパワーを比較することにより、入力信号が“音声区間”か“無音区間”かを判別することが述べられているが、本発明の“周波数スペクトルを複数の帯域に分割した場合のある2つの帯域の低い側と高い側のパワー比”は、定常状態におけるスペクトルのパワーと比較するのではなく、入力信号のある瞬間の周波数スペクトルだけを対象として、それを帯域分割し、そのうちのある2つの帯域の低い側と高い側のパワー比を求めるものであり、特許文献4及び5の技術とは本質的に全く異なる物理量である。特許文献4又は5に記載の技術で、“音声区間”か“無音区間”かの判別を行った場合、先に述べたように、ある程度大きな音量の音楽などが背景音として混入している場合、正しく“音声区間”と“無音区間”を判別することは困難であり、したがって正しく適応的な話速変換を行うことができない。
【0132】
そこで、分割帯域パワー比Eを併用することにより、入力信号のある瞬間の周波数スペクトルだけを対象として、そのうちのある2つの帯域の低い側と高い側のパワー比に基づき話速を決定するため、本質的に判定誤りというものは存在せず、安定して話速の制御が可能である。例えば、低い側のパワーに対して高い側のパワーが小さいときは話速を緩め、低い側のパワーに対して高い側のパワーが大きいときは話速を速めるといった制御が可能となる。この“2つの帯域の低い側と高い側のパワー比”は入力信号が、音声区間、音楽、雑音、無音など種類によって値が変わるものであるので、このパワー比の値により話速制御することにより、音声区間では話速を緩め、音楽、雑音、無音などの区間では話速を速めることが可能となる。
【0133】
ここで、実施例1の話速変換装置10aと同様に、実施例3の話速変換装置10cは、上述の話速変換倍率決定装置1cと、話速変換倍率決定装置1cにより決定された話速変換倍率に従って入力信号を話速変換する話速変換部4とを備える。話速変換装置4がリアルタイムの動作をする必要がある場合の動作も、実施例1と同様である。
【0134】
また、実施例1と同様に、話速変換倍率決定装置1c又は話速変換装置10cとして機能させるために、コンピュータを好適に用いることができ、そのようなコンピュータは、話速変換倍率決定装置1cの各機能を実現する処理内容を記述したプログラムを、当該コンピュータの記憶部に格納しておき、当該コンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。
【0135】
また、処理内容を記述したプログラムを、DVD又はCD−ROMなどのコンピュータ読み取り可能な記録媒体に記録し、この記録媒体を販売、譲渡、貸与等により流通させることができるほか、そのようなプログラムを、例えばIPなどのネットワーク上にあるサーバの記憶部に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することにより、流通させることができる。
【0136】
また、そのようなプログラムを実行するコンピュータは、例えば、記録媒体に記録されたプログラム又はサーバから転送されたプログラムを、一旦、自己の記憶部に記憶することができる。また、このプログラムの別の実施態様として、コンピュータが記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。
【0137】
上述の各実施例は、個々に代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
【産業上の利用可能性】
【0138】
本発明は、話速変換を要する任意の用途に有用である。例えば、テレビやラジオの音声をリアルタイムでゆっくり聞いたり、ハードディスクレコーダーなどに一度記録して、ゆっくり又は速く視聴したりすることができる。また、視覚障害者からは音声情報を効率的に聴取したいという要望があり、本発明を用いれば、視覚障害者用の録音図書などを高速に再生して聞くこともできる。さらには、語学学習や発声訓練システムにおいて、その教材の作成時に利用したり、学習時に学習者の上達度に合わせて音声の話速を変換して学習者に聞かせたりすることもできる。
【符号の説明】
【0139】
1a,1b,1c 話速変換倍率決定装置
2 物理指標算出部
3 話速変換倍率決定部
4 話速変換部
10a,10b,10c 話速変換装置
100 基本周波数概形算出部
102 有音/無音判定部
104 基本周波数算出部
106 平滑化部
108 擬似基本周波数算出部
110 基本周波数概形連結部
120 第1の話速変換倍率指定部(話速変換倍率指定部a)
140 話速変換倍率微調整部
200 パワー概形算出部
202 パワー算出部
204 平滑化部
220 第2の話速変換倍率指定部(話速変換倍率指定部b)
300 有声度概形算出部
302 有声度算出部
304 平滑化部
320 第3の話速変換倍率指定部(話速変換倍率指定部c)
400 基本周波数概形算出部
410 凹凸度算出部
420 第4の話速変換倍率指定部(話速変換倍率指定部d)
500 パワー概形算出部
510 凹凸度算出部
520 第5の話速変換倍率指定部(話速変換倍率指定部e)
600 周波数帯域分割・パワー演算部
602 スペクトル算出部
604 帯域分割部
606 パワー演算部
610 分割帯域パワー比算出部
620 第6の話速変換倍率指定部(話速変換倍率指定部f)

【特許請求の範囲】
【請求項1】
入力信号の話速の適応的な変換倍率を決定する話速変換倍率決定装置であって、
入力信号の有音区間と無音区間とを判別する有音無音判定部と、
前記有音区間において一定の時間間隔で入力信号の基本周波数を算出するとともに、該基本周波数の値が所定の変化幅内で変化する安定区間、及び該基本周波数の値が所定の変化幅を超えて変化する不安定区間を決定する基本周波数算出部と、
前記安定区間において、前記基本周波数の時間変化を平滑化する周波数平滑化部と、
前記不安定区間及び前記無音区間において、前記平滑化された安定区間における基本周波数の値を参照して、基本周波数を内挿した擬似基本周波数を算出する擬似基本周波数算出部と、
前記平滑化された基本周波数及び前記擬似基本周波数を接続して、一続きの基本周波数の概形の標本値を得る基本周波数概形連結部と、を有し、
前記基本周波数の概形の標本値を物理指標として出力する物理指標算出部と、
前記物理指標に基づいて、入力信号に指定すべき話速変換倍率を算出する話速変換倍率指定部と、
を備えることを特徴とする話速変換倍率決定装置。
【請求項2】
前記物理指標算出部は、一定の時間間隔で入力信号のパワーを算出するパワー算出部と、前記パワーの時間変化を平滑化してパワーの概形の標本値を得るパワー平滑化部と、を備え、
前記基本周波数の概形の標本値及び前記パワーの概形の標本値を前記物理指標として出力することを特徴とする、請求項1に記載の話速変換倍率決定装置。
【請求項3】
前記物理指標算出部は、入力信号波形から有声度を求める有声度算出部と、前記有声度の時間変化を平滑化して有声度の概形の標本値を得る有声度平滑化部と、を備え、
前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記有声度の概形の標本値を前記物理指標として出力することを特徴とする、請求項2に記載の話速変換倍率決定装置。
【請求項4】
前記物理指標算出部は、前記基本周波数の概形の変化傾向を表す、基本周波数の概形の凹凸度を算出する基本周波数凹凸度算出部を備え、
前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記基本周波数の概形の凹凸度を前記物理指標として出力することを特徴とする、請求項2に記載の話速変換倍率決定装置。
【請求項5】
前記物理指標算出部は、前記パワーの概形の変化傾向を表す、パワーの概形の凹凸度を算出するパワー凹凸度算出部を備え、
前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記パワーの概形の凹凸度を前記物理指標として出力することを特徴とする、請求項2に記載の話速変換倍率決定装置。
【請求項6】
前記物理指標算出部は、入力信号のパワースペクトルを算出し、第1の周波数帯域における正規化パワー、及び第1の周波数帯域よりも高い第2の周波数帯域における正規化パワーを算出する周波数帯域分割・パワー演算部と、前記第1の周波数帯域及び前記第2の周波数帯域における正規化パワーの比を算出する分割帯域パワー比算出部を備え、
前記基本周波数の概形の標本値、前記パワーの概形の標本値、及び前記第1の周波数帯域及び第2の周波数帯域における正規化パワーの比を前記物理指標として出力することを特徴とする、請求項2に記載の話速変換倍率決定装置。
【請求項7】
前記話速変換倍率指定部は、前記物理指標、及び前記物理指標それぞれの話速に対する寄与率に基づいて、前記話速変換倍率を算出することを特徴とする、請求項2〜6のいずれか一項に記載の話速変換倍率決定装置。
【請求項8】
入力信号の全体、又は分割された入力信号における各部分に対する再生すべき時間長が与えられると、入力信号の全体又は各部分の時間長が前記再生すべき時間長に適合するように前記話速変換倍率を微調整して最終話速変換倍率を決定する話速変換倍率微調整部を更に備えることを特徴とする、請求項7に記載の話速変換倍率決定装置。
【請求項9】
入力信号の適応的な話速変換を行う話速変換装置であって、
請求項8に記載の話速変換倍率決定装置と、前記話速変換倍率に従って入力信号を話速変換する話速変換部と、を備え、
前記話速変換部は、入力信号の全体、又は分割された入力信号における各部分に対する再生すべき時間長が与えられると、一定の時間間隔ごとに、一様な倍率で伸縮させた時に出力されるべき目標信号と、入力信号を前記話速変換倍率により変換した変換信号とを、信号の時系列上で比較して時間的なずれ量を算出し、
前記話速変換倍率微調整部は、前記時間的なずれ量に応じてその後の話速変換倍率を再調整することを特徴とする話速変換装置。
【請求項10】
入力信号の話速の適応的な変換倍率を決定する話速変換倍率決定装置として構成するコンピュータに、
入力信号の有音区間と無音区間とを判別するステップと、
前記有音区間において一定の時間間隔で入力信号の基本周波数を算出するとともに、該基本周波数の値が所定の変化幅内で変化する安定区間と、該基本周波数の値が所定の変化幅を超えて変化する不安定区間とを決定するステップと、
前記安定区間において、前記基本周波数の時間変化を平滑化するステップと、
前記不安定区間及び前記無音区間において、前記平滑化された安定区間における基本周波数の値を参照して、基本周波数を内挿した擬似基本周波数を算出するステップと、
前記平滑化された基本周波数及び前記擬似基本周波数を接続して、一続きの基本周波数の概形の標本値を得るステップと、
前記基本周波数の概形の標本値に応じて、入力信号に指定すべき話速変換倍率を算出するステップと、
を実行させるためのプログラム。
【請求項11】
請求項10に記載のプログラムを記録した記録媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−159540(P2012−159540A)
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願番号】特願2011−17232(P2011−17232)
【出願日】平成23年1月28日(2011.1.28)
【出願人】(000004352)日本放送協会 (2,206)
【出願人】(591053926)財団法人エヌエイチケイエンジニアリングサービス (169)