楽曲再生において立体音響効果を付加する装置およびプログラム
【課題】 楽曲データが立体音響再生を想定して作成されたものでない場合であっても、この楽曲データを用いて立体音響再生を行うことを可能にする。
【解決手段】 立体音響効果付加処理13では、楽曲記憶エリア61内の楽曲データのうち操作部41の操作によって指定された楽曲データを読み出し、この楽曲データに含まれる情報を用いて、立体音響再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを楽曲記憶エリア61に格納する。
【解決手段】 立体音響効果付加処理13では、楽曲記憶エリア61内の楽曲データのうち操作部41の操作によって指定された楽曲データを読み出し、この楽曲データに含まれる情報を用いて、立体音響再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを楽曲記憶エリア61に格納する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、携帯電話端末の着信メロディなどの楽曲再生において立体音響効果を付加する装置およびプログラムに関する。
【背景技術】
【0002】
携帯電話端末の普及に伴い、携帯電話端末のユーザ向けに着信メロディを配信するサービスが盛んに行われている。そして、最近の携帯電話端末のユーザは、着信メロディの再生に関しても臨場感を求めるようになってきている。このため、最近では立体音響再生機能を備えた携帯電話端末も提供されている。なお、この種の携帯電話端末は例えば特許文献1に開示されている。
【特許文献1】特開2005−101988号公報
【特許文献2】特開平6−165299号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
さて、立体音響再生機能を備えた携帯電話端末のユーザとしては、携帯電話端末に折角立体音響再生機能が備わっているのであるから、これを活用し、所望の着信メロディについて臨場感のある再生を楽しみたいところである。しかしながら、所望の着信メロディの楽曲データとして、立体音響再生用の楽曲データがなく、モノラル再生用の楽曲データしか携帯電話端末にダウンロードすることができない場合もあり得る。そのような場合、ユーザは、立体音響再生機能を利用した臨場感のある着信メロディの再生を楽しむことができないという問題があった。また、たとえ立体音響再生用の楽曲データであっても、付加されている立体音響効果が少なく、ユーザにとって物足りない場合もあった。
【0004】
この発明は、以上説明した事情に鑑みてなされたものであり、楽曲データが立体音響再生を想定して作成されたものでない場合や立体音響効果の少ない立体音響再生用楽曲データである場合であっても、この楽曲データを用いて立体音響再生を行うことを可能にする技術的手段を提供することを目的とする。
【課題を解決するための手段】
【0005】
この発明は、楽曲データを記憶する記憶手段と、前記記憶手段に記憶された楽曲データを構成する情報のうち所定の条件を満たす情報に基づいて、立体音響の再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを出力する立体音響効果付加手段とを具備することを特徴とする立体音響効果付加装置を提供する。
かかる発明によれば、立体音響効果情報を含まない楽曲データであっても、その楽曲データに立体音響効果情報を付加し、立体音響再生を行うことができる。
この発明の実施の態様には、コンピュータを立体音響効果付加装置として機能させるプログラムをユーザに配布する、という態様も含まれる。また、この発明の実施の態様には、音源装置が、楽曲データに含まれる情報を用いて立体音響効果情報を生成し、立体音響の再生の制御を行うという態様も含まれる。
【発明を実施するための最良の形態】
【0006】
以下、図面を参照し、この発明の実施の形態を説明する。
以下の各実施形態では、この発明に係る立体音響効果付加装置を携帯電話端末として具現した例を説明する。しかし、本発明に係る立体音響効果付加装置は、携帯電話端末の他、立体音響の再生が可能な音源を備えたパーソナルコンピュータなど、音楽を再生する各種の電子機器として具現可能である。
【0007】
<第1実施形態>
図1は本実施形態に係る携帯電話端末1を含む通信システム全体の構成を示す図である。図1に示すように、各携帯電話端末1は、一般的な携帯電話端末と同様、在圏する基地局2を介して、電話網、インターネットなどを含む大規模ネットワーク3に接続可能である。大規模ネットワーク3には、着信メロディのデータベースを保有する配信サーバ4が接続されている。ユーザは、携帯電話端末1により配信サーバ4にアクセスし、所望の着信メロディの楽曲データを携帯電話端末1にダウンロードすることが可能である。
【0008】
図2は本実施形態に係る携帯電話端末1の構成を示すブロック図である。CPU10は、携帯電話端末1全体を制御するプロセッサである。通信部20は、携帯電話端末1からの発信または携帯電話端末1への着信の際に、CPU10による制御の下、アンテナ21を介して基地局2との間に無線リンクを確立し、この無線リンクと大規模ネットワーク3とを介して通信相手装置(図示略)との間に通信リンクを確立し、通信相手装置との間で通信を行う装置である。音声処理部30は、通話の際、通話相手の音声情報をCPU10を介して受け取り、スピーカ31に音として出力させ、マイク32により得られるユーザの音声情報をCPU10に引き渡す装置である。
【0009】
操作部41は、ユーザから各種のコマンドや情報を受け取るための装置であり、携帯電話端末1の操作面に設けられた各種の押しボタンおよびそれらの操作状態を検知するセンサにより構成されている。表示部42は、ユーザに対して各種のメッセージなどの画像情報を提供する装置であり、LCDパネルなどにより構成されている。
【0010】
音源部50は、CPU10による制御の下、着信メロディ音などの楽音を表わすL、R2チャネルの楽音信号を形成し、スピーカ51Lおよび51Rに楽音として出力させる装置である。本実施形態における音源部50は、CPU10により指定された仮想音源位置に音像が定位した楽音をスピーカ51Lおよび51Rから再生させる立体音響再生機能を有している。
【0011】
図3は、音源部50の構成例を示すブロック図である。この音源部50は、ノート振り分け処理部52と、m個の楽音形成処理部53と、仮想音源割り当て処理部54と、n個の仮想音源処理部55と、加算器56Lおよび56Rとを有している。
【0012】
ノート振り分け処理部52は、楽音形成を指示する制御情報であるNote Message(後述)をCPU10から受け取った場合にそのNote
Messageをm個の楽音形成処理部53のいずれかに振り分ける処理を行う装置である。ここで、m個の楽音形成処理部53は、Ch=0からCh=m−1までの楽音形成チャネル番号を各々有している。一方、Note
Messageは、その処理を行うべき楽音形成処理部53を指定する楽音形成チャネル番号を含んでいる。ノート振り分け処理部52は、CPU10から受け取ったNote
Messageが含む楽音形成チャネル番号に基づき、振り分け先である楽音形成処理部53を決定する。m個の楽音形成処理部53は、各々、ノート振り分け処理部52を介して与えられるNote
Messageに従って楽音信号を形成する装置である。
【0013】
仮想音源割り当て処理部54は、楽音形成処理部53により形成された楽音信号をn個の仮想音源処理部55のいずれかに振り分ける装置である。ここで、n個の仮想音源処理部55は、ID=0からID=n−1までのIDを各々有している。CPU10は、ある楽音形成チャネルを持った楽音形成処理部53により形成される楽音信号をいずれかの仮想音源処理部55に処理させる際、その楽音形成チャネルと処理を行う仮想音源処理部55のIDとを対応付ける3D
ch Assign Message(後述)を音源部50に供給する。仮想音源割り当て処理部54は、この3D ch Assign Messageが示す適切な仮想音源処理部55に楽音信号を振り分ける。
【0014】
各仮想音源処理部55には、スピーカ再生音の音像の定位を指示する制御情報である3D position(後述)がCPU10から与えられる。各仮想音源処理部55は、仮想音源割り当て処理部54を介して与えられる1または複数チャネルの楽音信号に対し、3D
positionが示す仮想音源位置に対応したパラメータを使用した演算処理(具体的には遅延処理および減衰処理を組み合わせたフィルタ処理)を施し、3D positionが示す仮想音源位置にスピーカ再生音の音像を定位させるL、R2チャネルの楽音信号を生成する。
【0015】
各仮想音源処理部55により得られたL、R2チャネルの楽音信号は、加算器56Lおよび56Rにより、同一チャネルに対応したもの同士加算される。そして、加算器56Lおよび56Rから出力される各楽音信号は、スピーカ51Lおよび51Rに各々供給される。なお、任意の仮想音源位置に音像が定位した再生音を得るための信号処理は、周知のものであり、例えば特許文献2に開示されている。
【0016】
図2において、記憶部60は、CPU10により実行される各種のプログラムや各種のデータを記憶する装置であり、ROMやRAMなどにより構成されている。記憶部60は、各種の楽曲データを記憶する楽曲記憶エリア61を有している。上述した配信サーバ4からダウンロードされる着信メロディの楽曲データはこの楽曲記憶エリア61に記憶される。
【0017】
本実施形態において楽曲記憶エリア61に記憶される楽曲データは、SMF(Standard MIDI
File)、SMAF(Synthetic music Mobile Application Format)などの演奏制御データ(シーケンスデータ)である。この種の演奏制御データにおいて、1つの演奏制御を指示する情報は、制御内容であるイベントを指示するイベント情報とイベントの実行タイミング、より詳しくは楽曲の先頭または先行するイベントの実行タイミングからの経過時間を指示するデュレーション情報の組により構成されている。
【0018】
図4は、SMAF形式の楽曲データの内容を例示している。図4では、楽曲データに従って実行される各イベントが実行順に示されている。図4において、1つの行は、1つのイベント情報により指示されたイベントの内容と、そのイベント情報に先行するデュレーション情報により指示されたイベントの実行タイミングを表わしている。
【0019】
図4に示す各行(イベント)において、“Event”の欄の要素はイベント情報が指示するイベントの種類を、“Description”の欄の要素はイベントの実行に当たって使用する各種のパラメータを示している。また、“Ch”の欄の要素は、イベントの適用が特定の楽音形成チャネルに限定される場合にそのチャネルを示している。また、“Tick”および“Time”の各欄の要素は、イベントの実行タイミングを示している。ここで、“Time”は、楽曲の開始からイベントの実行タイミングまでの実際の経過時間を表わすのに対し、“Tick”はその経過時間を所定周期のクロックのカウント値に換算した値である。“Duration”の欄の要素は、そのイベントの実行タイミングを指示するデュレーション情報の値である。“Gatetime”の欄の要素は、楽音形成を指示する制御情報であるNote
Messageに特有の情報であり、発音の持続時間を指示する。
【0020】
図4に示す楽曲データは、立体音響再生を想定して作成された楽曲データであり、立体音響再生を制御するためのイベント情報として、1個の3D positionと、4個の3D
ch Assignを含む。ここで、3D positionは、上述した通り、仮想音源位置を指示するイベント情報である。この例における3D positionは、ID=0である仮想音源処理部55が宛先となっており、この仮想音源処理部55に対し、仮想音源位置を、ユーザを基準として方位角−30度、仰角0度の方角にあり、距離2mだけ離れた位置に初期位置から移動時間2000Tickを要して移動させることを指示している。この3D
positionがCPU10により音源部50に与えられると、音源部50におけるID=0である仮想音源処理部55では、3D positionの指示通りに仮想音源位置を移動させる処理が開始される。なお、この例における3D
positionは、仮想音源位置を移動させることを指示しているが、移動時間を0にすると、距離、方位角、仰角により定まる空間内の1点に仮想音源位置を固定させる旨を指示するイベント情報となる。
【0021】
4個の3D ch Assignは、楽音形成チャネルchが0〜3である楽音形成処理部53が出力する各楽音信号をID=0である仮想音源処理部55に振り分けることを指示している。これらの3D
Assignの後には、0〜3の範囲の楽音形成チャネルの指定を伴う一連のNote Messageがある。CPU10は、4個の3D ch Assignを音源部50に送った後、これら一連のNote
Messageを音源部50に与える。この場合、音源部50の仮想音源割り当て処理部54は、楽音形成チャネルch=0〜3の各楽音形成処理部53においてNote Messageに応じて形成された楽音信号を、3D
ch Assignに従い、ID=0の仮想音源処理部55に供給する。この仮想音源処理部55は、上述した3D positionを受け取っており、仮想音源位置を移動させる処理を既に開始している。従って、一連のNote
Messageに応じて形成される各楽音信号は、この仮想音源処理部55による処理を経ることにより、L、R2チャネルの楽音信号となってスピーカ51Lおよび51Rに与えられる。この結果、上述した3D
positionに従って音像の定位が移動するスピーカ再生音が得られる。
【0022】
以上のように、3D positionおよび3D ch Assignは、立体音響再生の制御を行う役割を果たす。そこで、本実施形態では、これらのイベント情報を立体音響効果情報と呼ぶ。本実施形態において記憶部60の楽曲記憶エリア61には、このような立体音響効果情報を含む楽曲データも記憶され得るが、立体音響効果情報を含まない楽曲データも記憶され得る。本実施形態の特徴は、主に後者の楽曲データのために適切な立体音響効果情報を発生し、元の楽曲データに付加する仕組みを携帯電話端末1に持たせた点にある。
【0023】
図2では、CPU10を表わすボックスの中に、CPU10により実行される各種の処理が示されている。これらは、CPU10が記憶部60に記憶されたプログラムに従って実行する処理である。
【0024】
通信制御処理11は、発信、着信の際に、上述した通信リンクを確立するための処理を通信部20に行わせるための制御や、通信部20により受信される通話相手からの音声情報を音声処理部30に引き渡し、また、音声処理部30から供給される携帯電話端末1のユーザの音声情報を通信部20により通話相手に送るための制御を行う処理である。また、この通信制御処理11では、着信があった場合に、シーケンサ12に対し、着信メロディの再生処理を指示する。
【0025】
シーケンサ12は、通信制御処理11から着信メロディの再生指示が与えられた場合に、楽曲記憶エリア61内の楽曲データのうちユーザによって予め指定された再生用の楽曲データを読み出し、楽曲データに従って、音源部50に着信メロディ音の楽音信号を形成させる制御を行う処理である。さらに詳述すると、この処理では、楽曲データを読み出す際、あるイベント情報を読み出して音源部50に送った後、デュレーション情報を読み出した場合には、そのデュレーション情報により指定された時間の経過を待って次のイベント情報を読み出す、という動作を繰り返し、音源部50による楽音信号の形成の制御を行う。
【0026】
立体音響効果付加処理13では、楽曲記憶エリア61内の楽曲データのうち操作部41の操作によって指定された楽曲データを読み出し、適切な立体音響効果情報の付加された楽曲データに変換し、変換後の楽曲データを楽曲記憶エリア61に格納する。立体音響効果付加処理13のためのプログラムは、ある好ましい態様では、携帯電話端末1の製造時に、記憶部60のROMに予め書き込まれる。他の態様において、立体音響効果付加処理13のためのプログラムは、携帯電話端末1を購入したユーザがインターネット上の所定のサイトから記憶部60にダウンロードする。
【0027】
立体音響効果付加処理13は、本実施形態に特有の処理である。この立体音響効果付加処理13において実行可能な立体音響効果情報の付加のための処理には次の3種類がある。ユーザは、CPU10が立体音響効果付加処理13を実行する際に、操作部41の操作により、これらの処理のいずれか1つまたは複数の実行を指定することができる。
【0028】
a.遠近効果付加処理
この遠近効果付加処理では、元の楽曲データに含まれる音の強弱情報(例えばベロシティ、ボリューム)を仮想音源位置までの距離に変換し、その距離だけユーザから離れたところに仮想音源位置を設定する立体音響効果情報を生成し、元の楽曲データに付加する。
【0029】
b.移動効果付加処理
この移動効果付加処理では、元の楽曲データに含まれるノート情報などの周期的な変化を抽出し、その変化の周期に同期させて仮想音源位置を周期的に移動させる立体音響効果情報を生成し、元の楽曲データに付加する。仮想音源位置を周期的に移動させる軌道は、ユーザの手前において左右方向に延びた直線軌道、ユーザを囲む円軌道、ユーザを囲む楕円軌道などが用意されており、これらの軌道に関する軌道定義情報(軌道上の各点の座標を演算するための関数など)が記憶部60に記憶されている。ユーザは、操作部41の操作により、それらの中から所望の軌道を予め選択することができる。この移動効果付加処理では、ユーザにより指定された軌道の軌道定義情報に基づき、周期的に変化する各ノートに割り当てる仮想音源位置が演算され、その仮想音源位置にスピーカ再生音の音像を定位させる立体音響効果情報が生成される。
【0030】
c.ドップラー効果付加処理
このドップラー効果付加処理では、元の楽曲データに含まれるピッチベンドイベントなどの音程制御情報を、仮想音源位置を遠くからユーザに近づけ、あるいは仮想音源位置をユーザから遠ざける立体音響効果情報に変換し、楽曲データに付加する。
以上が本実施形態における携帯電話端末1の構成の詳細である。
【0031】
図5は本実施形態における立体音響効果付加処理13の処理内容の概略を示すフローチャートである。以下、この図を参照し、本実施形態の動作を説明する。立体音響効果付加処理13は、ユーザが操作部41の操作により曲を指定し、立体音響効果付加のための変換を指示することにより開始される。まず、ステップS1では、変換条件の設定を行う。具体的には、上述した遠近効果付加処理、移動効果付加処理、ドップラー効果付加処理のうち実行を望む処理を問い合わせる画面を表示部42に表示させ、操作部41を介してユーザの指示を取得する。この際、ユーザは、遠近効果付加処理、移動効果付加処理、ドップラー効果付加処理のうちの1つを指示してもよいし、2つまたは全部を指示してもよい。また、ステップS1では、移動効果付加処理の実行がユーザによって指示された場合に、仮想音源位置を移動させる軌道を問い合わせる画面を表示部42に表示させ、操作部41を介してユーザの指示を取得する。
【0032】
次にステップS2では、ユーザによって指定された曲の楽曲データを楽曲記憶エリア61から読み出し、その解析を行う。具体的には、遠近効果付加処理の実行が指示されている場合には、ベロシティやボリュームなどを立体音響効果情報への変換対象として求め、ドップラー効果付加処理の実行が指示されている場合には、ピッチベンドイベント情報などを立体音響効果情報への変換対象として求める。また、移動効果付加処理の実行が指示されている場合には、楽曲データ中において周期的に音高が変化している一連のNote
Messageなど、周期性を持った情報の所在を求める。
【0033】
次にステップS3では、ステップS2において求めた変換対象のイベント情報または周期的な情報に基づき、遠近効果付加処理、移動効果付加処理またはドップラー効果付加処理を実行し、元の楽曲データに立体音響効果情報の付加された楽曲データを生成し、楽曲記憶エリア61に格納する。生成した楽曲データは、楽曲記憶エリア61内の元の楽曲データに上書きしてもよいし、元の楽曲データとは別のファイル名を付けて楽曲記憶エリア61に格納してもよい。いずれの格納方法を採るかは、ユーザが操作部41の操作により指示する。
以上が立体音響効果付加処理13の処理内容である。
【0034】
図6は遠近効果付加処理の実行例を示している。この例において、変換前の元の楽曲データはベロシティ値Velが100であるNote Messageとベロシティ値Velが50であるNote
Messageを含んでいる。遠近効果付加処理が実行されることにより、両Note Messageのベロシティ値は50に揃えられる。そして、元のベロシティ値Velが100であったNote
Messageの前には、ID=0である仮想音源処理部55にユーザから1m離れたところに仮想音像位置を設定することを指示する3D Positionと、そのNote
Messageに応じて形成される楽音信号をID=0の仮想音源処理部55に振り分けることを指示する3D ch Assignが付加される。また、元のベロシティ値Velが50であったNote
Messageの前には、ID=0である仮想音源処理部55にユーザから2m離れたところに仮想音像位置を設定することを指示する3D Positionと、そのNote
Messageに応じて形成される楽音信号をID=0の仮想音源処理部55に振り分けることを指示する3D ch Assignが付加される。このように遠近効果付加処理が実行される結果、元の楽曲データが表現していた音の強弱(ベロシティ値)は、ユーザと仮想音源位置との距離の長短に変換される。
【0035】
図7は移動効果付加処理の実行例を示している。この例において、変換前の楽曲データは、音高をA→B→C→Dという具合に周期的に変化させる4個のNote
Messageの繰り返しを含んでいたため、これらの周期的なNote Messageが移動効果付加処理の対象として抽出されている。移動効果付加処理が実行されることにより、これらのNote
Messageの前には、3D positionと3D ch Assignの組が付加されている。この例では、ユーザによって直線軌道が選択されたため、各Note Messageの前に付加された各立体音響効果情報は、各々の後にあるNote
Messageに従って発生させる楽音の音像の定位を、ユーザの手前を左右方向に走る直線軌道に沿って、右→中→左→中という具合に周期的に変化させる内容となっている。なお、この例では、元の楽曲データが示す音高はA→B→C→Dという変化を繰り返すが、仮に音高がA→B→C→Dと変化した後、例えばA→B→C→Eという具合に変化したとしても、A→B→Cという音高の変化が周期的に繰り返されているとみなすことができる。従って、移動効果付加処理は、楽曲データが後者のような音高の変化を示す場合にも実行され、音像の定位を周期的に変化させる立体音響効果情報が周期的なNote
Messageの前に付加される。
【0036】
図8はドップラー効果付加処理の実行例を示している。変換前の元の楽曲データにおいて2つのNote Messageの各々の前には、時間経過に伴って音高を高くすることを指示するPitch
Bend:+と、音高を低くすることを指示するPitch Bend:−が配置されている。ドップラー効果付加処理が実行されることにより、前者のPitch Bend:+は、音像の位置をユーザの遠方に設定した後、500Tickを要してユーザの近傍に移動させる立体音響効果情報に置き換えられ、後者のPitch
Bend:−は、音像の位置をユーザの近傍に設定した後、500Tickを要してユーザの遠方に移動させる立体音響効果情報に置き換えられる。このようにドップラー効果付加処理の実行により、元の楽曲データが持っていた音を高くする、あるいは低くするという情報が音源を近づける、あるいは遠ざけるという表現に変換される。
【0037】
以上説明したように、本実施形態によれば、取得した楽曲データが立体音響再生を想定して作成されていない楽曲データであったとしても、その楽曲データに適切な立体音響効果情報を付加し、立体音響の再生を行うことができるという効果がある。
【0038】
<第2実施形態>
図9はこの発明の第2実施形態である携帯電話端末1Aの構成を示すブロック図である。また、図10は同携帯電話端末1Aにおける音源部50Aの構成を示すブロック図である。なお、これらの図において、前掲図2および図3に示されたものに対応する部分には同一の符号を付け、その説明を省略する。
【0039】
上記第1実施形態において、記憶部60の楽曲記憶エリア61に記憶された楽曲データはSMAFなどのシーケンスデータであった。これに対し、本実施形態において、記憶部60Aの楽曲記憶エリア61Aには、楽音波形のPCMサンプルデータをMP3(MPEG
Audio Layer−3)やAAC(Advanced Audio Coding)などの特定の圧縮フォーマットにより圧縮した楽曲データが記憶される。CPU10Aは、この楽曲記憶エリア61A内の楽曲データを対象として立体音響効果を付加する処理を行うものである。
【0040】
CPU10Aは、通信制御処理14、デコーダ15、解析処理16、立体音響効果情報生成処理17およびシーケンサ18の各処理を実行する機能を有している。操作部41の操作により、楽曲記憶エリア61A内のある楽曲データが処理対象として指定され、立体音響効果付加の指示が与えられたとき、CPU10Aは、デコーダ15、解析処理16および立体音響効果情報生成処理17の各処理を実行する。
【0041】
デコーダ15では、処理対象である楽曲データを楽曲記憶エリア61から読み出して伸張し、楽音波形データとして解析処理16に引き渡す。解析処理16では、周知の解析手法により、伸張済みの楽音波形データの解析を行い、楽曲の進行に伴う楽音波形の振幅の時間的変化を示す強弱情報と、楽曲中において音高の周期的変化が生じている区間およびその周期的変化の様子(例えば1周期を構成する楽音の個数)を示す周期情報と、楽曲中においてピッチベンドにより音高が連続的に変化している区間を示す区間情報を生成する。そして、解析処理16は、このようにして得られた強弱情報、周期情報および区間情報を立体音響効果情報生成処理17に引き渡す。
【0042】
立体音響効果情報生成処理17では、解析処理16から引き渡される情報に基づいて、立体音響効果情報を生成する。この立体音響効果情報は、その元となった楽曲データとともに同期再生されるデータであり、楽曲データに基づいて楽曲の再生が行われる際に、楽曲再生音に関して各種の立体音響効果の付与を指示するシーケンスデータである。立体音響効果情報生成処理17では、この立体音響効果情報として例えば次のような内容のものを生成する。まず、立体音響効果情報生成処理17では、楽曲の再生中、強弱情報が示す音の強弱に合わせて仮想音源位置を近傍または遠方に移動させる立体音響効果情報を生成する。また、立体音響効果情報生成処理17では、楽曲の再生中、周期情報が示す区間において、周期情報が示す周期的変化を仮想音源位置に与える立体音響効果情報を生成する。また、立体音響効果情報生成処理17では、楽曲の再生中、区間情報が示す区間において仮想音源位置に遠ざけ、あるいは近づける立体音響効果情報を生成する。そして、立体音響効果情報生成処理17では、生成した立体音響効果情報を処理対象である楽曲データに対応付けて楽曲記憶エリア61に格納する。なお、生成した立体音響効果情報は、元の楽曲データとともに1つの楽曲ファイルとして楽曲記憶エリア61に格納してもよい。
【0043】
一方、CPU10Aは、携帯電話端末1Aに着信があったとき、通信制御処理14、デコーダ15およびシーケンサ18を実行する。この場合、通信制御処理14では、着信メロディ用の楽曲データの読み出しおよび伸張をデコーダ15に指示し、かつ、この楽曲データに対応付けられた立体音響効果情報の再生をシーケンサ18に指示する。これによりデコーダ15およびシーケンサ18は、着信メロディ用の楽曲データとこの楽曲データに対応付けられた立体音響効果情報の同期再生を行う。さらに詳述すると、デコーダ15は、楽曲データを楽曲記憶エリア61から読み出して伸張し、この結果得られる楽音波形データを音源部50Aに送る。この間、シーケンサ18は、楽曲データに対応付けられた立体音響効果情報を楽曲記憶エリア61から読み出し、立体音響データに含まれるイベント情報を同立体音響データに含まれるデュレーション情報により指定されるタイミングにおいて音源部50Aに送る。
【0044】
音源部50Aは、図10に示すように、上記第1実施形態におけるノート振り分け処理部52および楽音形成処理部53に相当するものを有していない。この音源部50Aにおいて、仮想音源割り当て処理部54Aは、デコーダ15から与えられる楽音波形データをn個の仮想音源処理部55のいずれかに振り分ける。図10に示す例では、L、R2チャネルの楽音波形データが仮想音源割り当て処理部54Aに与えられるが、仮想音源割り当て処理部54Aに与える楽音波形データは1チャネルの楽音波形データであってもよい。仮想音源割り当て処理部54Aには、シーケンサ18から立体音響効果情報のイベント情報が供給される。このイベント情報には、上記第1実施形態において説明した3D
ch Assign Messageが含まれる。この3D ch Assign Messageは、上述した通り、処理対象となる楽音波形データのチャネル(この例の場合、LチャネルまたはRチャネル)と、その楽音波形データの処理を行う仮想音源処理部55のIDとを対応付けるイベント情報である。仮想音源割り当て処理部54Aは、この3D
ch Assign Messageに従い、デコーダ15から与えられる楽音波形データの仮想音源処理部55への振り分けを行う。仮想音源処理部55以降の部分の構成および機能は上記第1実施形態と同様である。
【0045】
図11は、シーケンサ18によって再生される立体音響効果情報の例を示している。Event、Description、Ch、Tick、Durationの意義は上記第1実施形態において説明した通りである。本実施形態では、デコーダ15により着信メロディの楽音波形データの再生が開始されるタイミングにおいて、Tick=0、Time=0とされ、立体音響効果情報のシーケンサ18による再生が開始される。この例において、3D
position Messageは、ID=0の仮想音源処理部55に対し、2000Tickを要して仮想音源位置を移動させる仮想音源処理の実行を指示している。その後の3D
ch Assign Messageは、55TickにおいてLチャネルの楽音波形データの仮想音源処理をID=0の仮想音源処理部55に割り当てることを指示している。さらにその後の3D
ch Assign Messageは、60TickにおいてRチャネルの楽音波形データの仮想音源処理をID=0の仮想音源処理部55に割り当てることを指示している。このため、仮想音源処理部55では、55Tickから2000Tickの間、Lチャネルの楽音の仮想音源位置を移動させ、60Tickから2000Tickの間、Rチャネルの楽音の仮想音源位置を移動させる仮想音源処理が行われる。
【0046】
本実施形態によれば、デコーダ15、解析処理16および立体音響効果情報生成処理17の実行により、以上のような立体音響効果情報が楽曲データから生成され、元の楽曲データとともに楽曲記憶エリア61に保存される。そして、着信時には、楽曲データと立体音響効果情報の同期再生が行われる。従って、上記第1実施形態と同様、元の楽曲データが立体音響再生に対応したものでない場合であっても、仮想音源位置がダイナミックに移動する立体音響効果を持った楽曲を再生することができる。
【0047】
以上、この発明の第1実施形態および第2実施形態について説明したが、この発明にはこれ以外にも他の実施形態が考えられる。例えば次の通りである。
【0048】
(1)上記第1実施形態では、遠近効果付加処理においてベロシティ値Velを仮想音源位置までの距離に変換したが、曲全体のボリュームを指定するマスタボリューム値は曲間で区々であり、同じ曲であっても、楽音形成チャネル単位でのボリュームの指示値であるチャネルボリューム間が楽音形成チャネル間で異なる場合もある。そこで、遠近効果付加処理では、Note
Message毎に、マスタボリューム値と、そのNote Messageが属する楽音形成チャネルのチャネルボリューム値と、そのNote Messageのベロシティ値とにより、そのNote
Messageに対応した音の強さを求め、この音の強さを仮想音源位置までの距離に置き換えた立体音響効果情報を生成するようにしてもよい。この場合において、楽曲データ中に含まれるベロシティ値の種類、チャネルボリューム値の種類が多いと、遠近効果付加処理により大量な立体音響効果情報が付加され、楽曲データのデータ量が大幅に増加する可能性がある。そこで、このような不都合を回避するため、遠近効果付加処理では、空間内の代表的な仮想音源位置を指示する限定された数の3D
positionを生成し、Note Messageには、その音の強さを最もよく近似する3D ポジションを割り当て、その3D positionによって表現することができない音の強弱については、そのNote
Messageのベロシティ値やチャネルボリューム値の調整により対処するようにしてもよい。ドップラー効果処理についても同様である。
【0049】
(2)移動効果付加処理は、楽曲データ全体を解析して周期性を持った情報を抽出する必要があるが、遠近効果付加処理およびドップラー効果付加処理は、楽曲データ全体の解析を必要としない。そこで、移動効果付加処理を実行する必要がないのであれば、次のような実施の態様もあり得る。すなわち、CPU10は立体効果付加処理を実行することなく楽曲データのイベント情報をそのまま音源部50に供給し、音源部50は、CPU10から供給される楽曲データをリアルタイムに解析し、遠近効果付加処理やドップラー効果付加処理の対象となるイベント情報が発見された場合には、そのイベント情報を用いて遠近効果付加処理やドップラー効果付加処理に相当する処理を実行し、この結果得られるイベント情報を用いて楽音信号を形成するのである。
【0050】
(3)上記各実施形態では、携帯電話端末1が大規模ネットワーク3を介して取得した楽曲データに立体音響効果付加処理13を施したが、立体音響効果付加処理13を実行する主体は、楽曲データを取得して利用する装置である必要はない。例えば、ユーザからの指示に従って携帯電話端末1が大規模ネットワーク3を介して所定のサーバに楽曲データを送り、このサーバが楽曲データに立体音響効果付加処理を施し、立体音響効果情報の付加された楽曲データを携帯電話端末1に送り返す、という実施の形態もあり得る。
【図面の簡単な説明】
【0051】
【図1】この発明の第1実施形態である音響効果付加装置としての機能を備えた携帯電話端末を含む通信システム全体の構成を示す図である。
【図2】同実施形態における携帯電話端末の構成を示すブロック図である。
【図3】同携帯電話端末における音源部の構成を示すブロック図である。
【図4】同実施形態において用いられる楽曲データの例を示す図である。
【図5】同実施形態における立体音響効果付加処理の内容を示すフローチャートである。
【図6】同実施形態における遠近効果付加処理の実行例を示す図である。
【図7】同実施形態における移動効果付加処理の実行例を示す図である。
【図8】同実施形態におけるドップラー効果付加処理の実行例を示す図である。
【図9】この発明の第2実施形態である携帯電話端末の構成を示すブロック図である。
【図10】同携帯電話端末の音源部の構成を示すブロック図である。
【図11】同実施形態における立体音響効果情報の例を示す図である。
【符号の説明】
【0052】
1,1A……携帯電話端末、10,10A……CPU、20……通信部、21……アンテナ、30……音声処理部、31……スピーカ、32……マイク、41……操作部、42……表示部、50……音源部、51L,51R……スピーカ、60,60A……記憶部、61,61A……楽曲記憶エリア、11,14……通信制御処理、12,18……シーケンサ、13,17……立体音響効果付加処理、15……デコーダ、16……解析処理。
【技術分野】
【0001】
この発明は、携帯電話端末の着信メロディなどの楽曲再生において立体音響効果を付加する装置およびプログラムに関する。
【背景技術】
【0002】
携帯電話端末の普及に伴い、携帯電話端末のユーザ向けに着信メロディを配信するサービスが盛んに行われている。そして、最近の携帯電話端末のユーザは、着信メロディの再生に関しても臨場感を求めるようになってきている。このため、最近では立体音響再生機能を備えた携帯電話端末も提供されている。なお、この種の携帯電話端末は例えば特許文献1に開示されている。
【特許文献1】特開2005−101988号公報
【特許文献2】特開平6−165299号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
さて、立体音響再生機能を備えた携帯電話端末のユーザとしては、携帯電話端末に折角立体音響再生機能が備わっているのであるから、これを活用し、所望の着信メロディについて臨場感のある再生を楽しみたいところである。しかしながら、所望の着信メロディの楽曲データとして、立体音響再生用の楽曲データがなく、モノラル再生用の楽曲データしか携帯電話端末にダウンロードすることができない場合もあり得る。そのような場合、ユーザは、立体音響再生機能を利用した臨場感のある着信メロディの再生を楽しむことができないという問題があった。また、たとえ立体音響再生用の楽曲データであっても、付加されている立体音響効果が少なく、ユーザにとって物足りない場合もあった。
【0004】
この発明は、以上説明した事情に鑑みてなされたものであり、楽曲データが立体音響再生を想定して作成されたものでない場合や立体音響効果の少ない立体音響再生用楽曲データである場合であっても、この楽曲データを用いて立体音響再生を行うことを可能にする技術的手段を提供することを目的とする。
【課題を解決するための手段】
【0005】
この発明は、楽曲データを記憶する記憶手段と、前記記憶手段に記憶された楽曲データを構成する情報のうち所定の条件を満たす情報に基づいて、立体音響の再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを出力する立体音響効果付加手段とを具備することを特徴とする立体音響効果付加装置を提供する。
かかる発明によれば、立体音響効果情報を含まない楽曲データであっても、その楽曲データに立体音響効果情報を付加し、立体音響再生を行うことができる。
この発明の実施の態様には、コンピュータを立体音響効果付加装置として機能させるプログラムをユーザに配布する、という態様も含まれる。また、この発明の実施の態様には、音源装置が、楽曲データに含まれる情報を用いて立体音響効果情報を生成し、立体音響の再生の制御を行うという態様も含まれる。
【発明を実施するための最良の形態】
【0006】
以下、図面を参照し、この発明の実施の形態を説明する。
以下の各実施形態では、この発明に係る立体音響効果付加装置を携帯電話端末として具現した例を説明する。しかし、本発明に係る立体音響効果付加装置は、携帯電話端末の他、立体音響の再生が可能な音源を備えたパーソナルコンピュータなど、音楽を再生する各種の電子機器として具現可能である。
【0007】
<第1実施形態>
図1は本実施形態に係る携帯電話端末1を含む通信システム全体の構成を示す図である。図1に示すように、各携帯電話端末1は、一般的な携帯電話端末と同様、在圏する基地局2を介して、電話網、インターネットなどを含む大規模ネットワーク3に接続可能である。大規模ネットワーク3には、着信メロディのデータベースを保有する配信サーバ4が接続されている。ユーザは、携帯電話端末1により配信サーバ4にアクセスし、所望の着信メロディの楽曲データを携帯電話端末1にダウンロードすることが可能である。
【0008】
図2は本実施形態に係る携帯電話端末1の構成を示すブロック図である。CPU10は、携帯電話端末1全体を制御するプロセッサである。通信部20は、携帯電話端末1からの発信または携帯電話端末1への着信の際に、CPU10による制御の下、アンテナ21を介して基地局2との間に無線リンクを確立し、この無線リンクと大規模ネットワーク3とを介して通信相手装置(図示略)との間に通信リンクを確立し、通信相手装置との間で通信を行う装置である。音声処理部30は、通話の際、通話相手の音声情報をCPU10を介して受け取り、スピーカ31に音として出力させ、マイク32により得られるユーザの音声情報をCPU10に引き渡す装置である。
【0009】
操作部41は、ユーザから各種のコマンドや情報を受け取るための装置であり、携帯電話端末1の操作面に設けられた各種の押しボタンおよびそれらの操作状態を検知するセンサにより構成されている。表示部42は、ユーザに対して各種のメッセージなどの画像情報を提供する装置であり、LCDパネルなどにより構成されている。
【0010】
音源部50は、CPU10による制御の下、着信メロディ音などの楽音を表わすL、R2チャネルの楽音信号を形成し、スピーカ51Lおよび51Rに楽音として出力させる装置である。本実施形態における音源部50は、CPU10により指定された仮想音源位置に音像が定位した楽音をスピーカ51Lおよび51Rから再生させる立体音響再生機能を有している。
【0011】
図3は、音源部50の構成例を示すブロック図である。この音源部50は、ノート振り分け処理部52と、m個の楽音形成処理部53と、仮想音源割り当て処理部54と、n個の仮想音源処理部55と、加算器56Lおよび56Rとを有している。
【0012】
ノート振り分け処理部52は、楽音形成を指示する制御情報であるNote Message(後述)をCPU10から受け取った場合にそのNote
Messageをm個の楽音形成処理部53のいずれかに振り分ける処理を行う装置である。ここで、m個の楽音形成処理部53は、Ch=0からCh=m−1までの楽音形成チャネル番号を各々有している。一方、Note
Messageは、その処理を行うべき楽音形成処理部53を指定する楽音形成チャネル番号を含んでいる。ノート振り分け処理部52は、CPU10から受け取ったNote
Messageが含む楽音形成チャネル番号に基づき、振り分け先である楽音形成処理部53を決定する。m個の楽音形成処理部53は、各々、ノート振り分け処理部52を介して与えられるNote
Messageに従って楽音信号を形成する装置である。
【0013】
仮想音源割り当て処理部54は、楽音形成処理部53により形成された楽音信号をn個の仮想音源処理部55のいずれかに振り分ける装置である。ここで、n個の仮想音源処理部55は、ID=0からID=n−1までのIDを各々有している。CPU10は、ある楽音形成チャネルを持った楽音形成処理部53により形成される楽音信号をいずれかの仮想音源処理部55に処理させる際、その楽音形成チャネルと処理を行う仮想音源処理部55のIDとを対応付ける3D
ch Assign Message(後述)を音源部50に供給する。仮想音源割り当て処理部54は、この3D ch Assign Messageが示す適切な仮想音源処理部55に楽音信号を振り分ける。
【0014】
各仮想音源処理部55には、スピーカ再生音の音像の定位を指示する制御情報である3D position(後述)がCPU10から与えられる。各仮想音源処理部55は、仮想音源割り当て処理部54を介して与えられる1または複数チャネルの楽音信号に対し、3D
positionが示す仮想音源位置に対応したパラメータを使用した演算処理(具体的には遅延処理および減衰処理を組み合わせたフィルタ処理)を施し、3D positionが示す仮想音源位置にスピーカ再生音の音像を定位させるL、R2チャネルの楽音信号を生成する。
【0015】
各仮想音源処理部55により得られたL、R2チャネルの楽音信号は、加算器56Lおよび56Rにより、同一チャネルに対応したもの同士加算される。そして、加算器56Lおよび56Rから出力される各楽音信号は、スピーカ51Lおよび51Rに各々供給される。なお、任意の仮想音源位置に音像が定位した再生音を得るための信号処理は、周知のものであり、例えば特許文献2に開示されている。
【0016】
図2において、記憶部60は、CPU10により実行される各種のプログラムや各種のデータを記憶する装置であり、ROMやRAMなどにより構成されている。記憶部60は、各種の楽曲データを記憶する楽曲記憶エリア61を有している。上述した配信サーバ4からダウンロードされる着信メロディの楽曲データはこの楽曲記憶エリア61に記憶される。
【0017】
本実施形態において楽曲記憶エリア61に記憶される楽曲データは、SMF(Standard MIDI
File)、SMAF(Synthetic music Mobile Application Format)などの演奏制御データ(シーケンスデータ)である。この種の演奏制御データにおいて、1つの演奏制御を指示する情報は、制御内容であるイベントを指示するイベント情報とイベントの実行タイミング、より詳しくは楽曲の先頭または先行するイベントの実行タイミングからの経過時間を指示するデュレーション情報の組により構成されている。
【0018】
図4は、SMAF形式の楽曲データの内容を例示している。図4では、楽曲データに従って実行される各イベントが実行順に示されている。図4において、1つの行は、1つのイベント情報により指示されたイベントの内容と、そのイベント情報に先行するデュレーション情報により指示されたイベントの実行タイミングを表わしている。
【0019】
図4に示す各行(イベント)において、“Event”の欄の要素はイベント情報が指示するイベントの種類を、“Description”の欄の要素はイベントの実行に当たって使用する各種のパラメータを示している。また、“Ch”の欄の要素は、イベントの適用が特定の楽音形成チャネルに限定される場合にそのチャネルを示している。また、“Tick”および“Time”の各欄の要素は、イベントの実行タイミングを示している。ここで、“Time”は、楽曲の開始からイベントの実行タイミングまでの実際の経過時間を表わすのに対し、“Tick”はその経過時間を所定周期のクロックのカウント値に換算した値である。“Duration”の欄の要素は、そのイベントの実行タイミングを指示するデュレーション情報の値である。“Gatetime”の欄の要素は、楽音形成を指示する制御情報であるNote
Messageに特有の情報であり、発音の持続時間を指示する。
【0020】
図4に示す楽曲データは、立体音響再生を想定して作成された楽曲データであり、立体音響再生を制御するためのイベント情報として、1個の3D positionと、4個の3D
ch Assignを含む。ここで、3D positionは、上述した通り、仮想音源位置を指示するイベント情報である。この例における3D positionは、ID=0である仮想音源処理部55が宛先となっており、この仮想音源処理部55に対し、仮想音源位置を、ユーザを基準として方位角−30度、仰角0度の方角にあり、距離2mだけ離れた位置に初期位置から移動時間2000Tickを要して移動させることを指示している。この3D
positionがCPU10により音源部50に与えられると、音源部50におけるID=0である仮想音源処理部55では、3D positionの指示通りに仮想音源位置を移動させる処理が開始される。なお、この例における3D
positionは、仮想音源位置を移動させることを指示しているが、移動時間を0にすると、距離、方位角、仰角により定まる空間内の1点に仮想音源位置を固定させる旨を指示するイベント情報となる。
【0021】
4個の3D ch Assignは、楽音形成チャネルchが0〜3である楽音形成処理部53が出力する各楽音信号をID=0である仮想音源処理部55に振り分けることを指示している。これらの3D
Assignの後には、0〜3の範囲の楽音形成チャネルの指定を伴う一連のNote Messageがある。CPU10は、4個の3D ch Assignを音源部50に送った後、これら一連のNote
Messageを音源部50に与える。この場合、音源部50の仮想音源割り当て処理部54は、楽音形成チャネルch=0〜3の各楽音形成処理部53においてNote Messageに応じて形成された楽音信号を、3D
ch Assignに従い、ID=0の仮想音源処理部55に供給する。この仮想音源処理部55は、上述した3D positionを受け取っており、仮想音源位置を移動させる処理を既に開始している。従って、一連のNote
Messageに応じて形成される各楽音信号は、この仮想音源処理部55による処理を経ることにより、L、R2チャネルの楽音信号となってスピーカ51Lおよび51Rに与えられる。この結果、上述した3D
positionに従って音像の定位が移動するスピーカ再生音が得られる。
【0022】
以上のように、3D positionおよび3D ch Assignは、立体音響再生の制御を行う役割を果たす。そこで、本実施形態では、これらのイベント情報を立体音響効果情報と呼ぶ。本実施形態において記憶部60の楽曲記憶エリア61には、このような立体音響効果情報を含む楽曲データも記憶され得るが、立体音響効果情報を含まない楽曲データも記憶され得る。本実施形態の特徴は、主に後者の楽曲データのために適切な立体音響効果情報を発生し、元の楽曲データに付加する仕組みを携帯電話端末1に持たせた点にある。
【0023】
図2では、CPU10を表わすボックスの中に、CPU10により実行される各種の処理が示されている。これらは、CPU10が記憶部60に記憶されたプログラムに従って実行する処理である。
【0024】
通信制御処理11は、発信、着信の際に、上述した通信リンクを確立するための処理を通信部20に行わせるための制御や、通信部20により受信される通話相手からの音声情報を音声処理部30に引き渡し、また、音声処理部30から供給される携帯電話端末1のユーザの音声情報を通信部20により通話相手に送るための制御を行う処理である。また、この通信制御処理11では、着信があった場合に、シーケンサ12に対し、着信メロディの再生処理を指示する。
【0025】
シーケンサ12は、通信制御処理11から着信メロディの再生指示が与えられた場合に、楽曲記憶エリア61内の楽曲データのうちユーザによって予め指定された再生用の楽曲データを読み出し、楽曲データに従って、音源部50に着信メロディ音の楽音信号を形成させる制御を行う処理である。さらに詳述すると、この処理では、楽曲データを読み出す際、あるイベント情報を読み出して音源部50に送った後、デュレーション情報を読み出した場合には、そのデュレーション情報により指定された時間の経過を待って次のイベント情報を読み出す、という動作を繰り返し、音源部50による楽音信号の形成の制御を行う。
【0026】
立体音響効果付加処理13では、楽曲記憶エリア61内の楽曲データのうち操作部41の操作によって指定された楽曲データを読み出し、適切な立体音響効果情報の付加された楽曲データに変換し、変換後の楽曲データを楽曲記憶エリア61に格納する。立体音響効果付加処理13のためのプログラムは、ある好ましい態様では、携帯電話端末1の製造時に、記憶部60のROMに予め書き込まれる。他の態様において、立体音響効果付加処理13のためのプログラムは、携帯電話端末1を購入したユーザがインターネット上の所定のサイトから記憶部60にダウンロードする。
【0027】
立体音響効果付加処理13は、本実施形態に特有の処理である。この立体音響効果付加処理13において実行可能な立体音響効果情報の付加のための処理には次の3種類がある。ユーザは、CPU10が立体音響効果付加処理13を実行する際に、操作部41の操作により、これらの処理のいずれか1つまたは複数の実行を指定することができる。
【0028】
a.遠近効果付加処理
この遠近効果付加処理では、元の楽曲データに含まれる音の強弱情報(例えばベロシティ、ボリューム)を仮想音源位置までの距離に変換し、その距離だけユーザから離れたところに仮想音源位置を設定する立体音響効果情報を生成し、元の楽曲データに付加する。
【0029】
b.移動効果付加処理
この移動効果付加処理では、元の楽曲データに含まれるノート情報などの周期的な変化を抽出し、その変化の周期に同期させて仮想音源位置を周期的に移動させる立体音響効果情報を生成し、元の楽曲データに付加する。仮想音源位置を周期的に移動させる軌道は、ユーザの手前において左右方向に延びた直線軌道、ユーザを囲む円軌道、ユーザを囲む楕円軌道などが用意されており、これらの軌道に関する軌道定義情報(軌道上の各点の座標を演算するための関数など)が記憶部60に記憶されている。ユーザは、操作部41の操作により、それらの中から所望の軌道を予め選択することができる。この移動効果付加処理では、ユーザにより指定された軌道の軌道定義情報に基づき、周期的に変化する各ノートに割り当てる仮想音源位置が演算され、その仮想音源位置にスピーカ再生音の音像を定位させる立体音響効果情報が生成される。
【0030】
c.ドップラー効果付加処理
このドップラー効果付加処理では、元の楽曲データに含まれるピッチベンドイベントなどの音程制御情報を、仮想音源位置を遠くからユーザに近づけ、あるいは仮想音源位置をユーザから遠ざける立体音響効果情報に変換し、楽曲データに付加する。
以上が本実施形態における携帯電話端末1の構成の詳細である。
【0031】
図5は本実施形態における立体音響効果付加処理13の処理内容の概略を示すフローチャートである。以下、この図を参照し、本実施形態の動作を説明する。立体音響効果付加処理13は、ユーザが操作部41の操作により曲を指定し、立体音響効果付加のための変換を指示することにより開始される。まず、ステップS1では、変換条件の設定を行う。具体的には、上述した遠近効果付加処理、移動効果付加処理、ドップラー効果付加処理のうち実行を望む処理を問い合わせる画面を表示部42に表示させ、操作部41を介してユーザの指示を取得する。この際、ユーザは、遠近効果付加処理、移動効果付加処理、ドップラー効果付加処理のうちの1つを指示してもよいし、2つまたは全部を指示してもよい。また、ステップS1では、移動効果付加処理の実行がユーザによって指示された場合に、仮想音源位置を移動させる軌道を問い合わせる画面を表示部42に表示させ、操作部41を介してユーザの指示を取得する。
【0032】
次にステップS2では、ユーザによって指定された曲の楽曲データを楽曲記憶エリア61から読み出し、その解析を行う。具体的には、遠近効果付加処理の実行が指示されている場合には、ベロシティやボリュームなどを立体音響効果情報への変換対象として求め、ドップラー効果付加処理の実行が指示されている場合には、ピッチベンドイベント情報などを立体音響効果情報への変換対象として求める。また、移動効果付加処理の実行が指示されている場合には、楽曲データ中において周期的に音高が変化している一連のNote
Messageなど、周期性を持った情報の所在を求める。
【0033】
次にステップS3では、ステップS2において求めた変換対象のイベント情報または周期的な情報に基づき、遠近効果付加処理、移動効果付加処理またはドップラー効果付加処理を実行し、元の楽曲データに立体音響効果情報の付加された楽曲データを生成し、楽曲記憶エリア61に格納する。生成した楽曲データは、楽曲記憶エリア61内の元の楽曲データに上書きしてもよいし、元の楽曲データとは別のファイル名を付けて楽曲記憶エリア61に格納してもよい。いずれの格納方法を採るかは、ユーザが操作部41の操作により指示する。
以上が立体音響効果付加処理13の処理内容である。
【0034】
図6は遠近効果付加処理の実行例を示している。この例において、変換前の元の楽曲データはベロシティ値Velが100であるNote Messageとベロシティ値Velが50であるNote
Messageを含んでいる。遠近効果付加処理が実行されることにより、両Note Messageのベロシティ値は50に揃えられる。そして、元のベロシティ値Velが100であったNote
Messageの前には、ID=0である仮想音源処理部55にユーザから1m離れたところに仮想音像位置を設定することを指示する3D Positionと、そのNote
Messageに応じて形成される楽音信号をID=0の仮想音源処理部55に振り分けることを指示する3D ch Assignが付加される。また、元のベロシティ値Velが50であったNote
Messageの前には、ID=0である仮想音源処理部55にユーザから2m離れたところに仮想音像位置を設定することを指示する3D Positionと、そのNote
Messageに応じて形成される楽音信号をID=0の仮想音源処理部55に振り分けることを指示する3D ch Assignが付加される。このように遠近効果付加処理が実行される結果、元の楽曲データが表現していた音の強弱(ベロシティ値)は、ユーザと仮想音源位置との距離の長短に変換される。
【0035】
図7は移動効果付加処理の実行例を示している。この例において、変換前の楽曲データは、音高をA→B→C→Dという具合に周期的に変化させる4個のNote
Messageの繰り返しを含んでいたため、これらの周期的なNote Messageが移動効果付加処理の対象として抽出されている。移動効果付加処理が実行されることにより、これらのNote
Messageの前には、3D positionと3D ch Assignの組が付加されている。この例では、ユーザによって直線軌道が選択されたため、各Note Messageの前に付加された各立体音響効果情報は、各々の後にあるNote
Messageに従って発生させる楽音の音像の定位を、ユーザの手前を左右方向に走る直線軌道に沿って、右→中→左→中という具合に周期的に変化させる内容となっている。なお、この例では、元の楽曲データが示す音高はA→B→C→Dという変化を繰り返すが、仮に音高がA→B→C→Dと変化した後、例えばA→B→C→Eという具合に変化したとしても、A→B→Cという音高の変化が周期的に繰り返されているとみなすことができる。従って、移動効果付加処理は、楽曲データが後者のような音高の変化を示す場合にも実行され、音像の定位を周期的に変化させる立体音響効果情報が周期的なNote
Messageの前に付加される。
【0036】
図8はドップラー効果付加処理の実行例を示している。変換前の元の楽曲データにおいて2つのNote Messageの各々の前には、時間経過に伴って音高を高くすることを指示するPitch
Bend:+と、音高を低くすることを指示するPitch Bend:−が配置されている。ドップラー効果付加処理が実行されることにより、前者のPitch Bend:+は、音像の位置をユーザの遠方に設定した後、500Tickを要してユーザの近傍に移動させる立体音響効果情報に置き換えられ、後者のPitch
Bend:−は、音像の位置をユーザの近傍に設定した後、500Tickを要してユーザの遠方に移動させる立体音響効果情報に置き換えられる。このようにドップラー効果付加処理の実行により、元の楽曲データが持っていた音を高くする、あるいは低くするという情報が音源を近づける、あるいは遠ざけるという表現に変換される。
【0037】
以上説明したように、本実施形態によれば、取得した楽曲データが立体音響再生を想定して作成されていない楽曲データであったとしても、その楽曲データに適切な立体音響効果情報を付加し、立体音響の再生を行うことができるという効果がある。
【0038】
<第2実施形態>
図9はこの発明の第2実施形態である携帯電話端末1Aの構成を示すブロック図である。また、図10は同携帯電話端末1Aにおける音源部50Aの構成を示すブロック図である。なお、これらの図において、前掲図2および図3に示されたものに対応する部分には同一の符号を付け、その説明を省略する。
【0039】
上記第1実施形態において、記憶部60の楽曲記憶エリア61に記憶された楽曲データはSMAFなどのシーケンスデータであった。これに対し、本実施形態において、記憶部60Aの楽曲記憶エリア61Aには、楽音波形のPCMサンプルデータをMP3(MPEG
Audio Layer−3)やAAC(Advanced Audio Coding)などの特定の圧縮フォーマットにより圧縮した楽曲データが記憶される。CPU10Aは、この楽曲記憶エリア61A内の楽曲データを対象として立体音響効果を付加する処理を行うものである。
【0040】
CPU10Aは、通信制御処理14、デコーダ15、解析処理16、立体音響効果情報生成処理17およびシーケンサ18の各処理を実行する機能を有している。操作部41の操作により、楽曲記憶エリア61A内のある楽曲データが処理対象として指定され、立体音響効果付加の指示が与えられたとき、CPU10Aは、デコーダ15、解析処理16および立体音響効果情報生成処理17の各処理を実行する。
【0041】
デコーダ15では、処理対象である楽曲データを楽曲記憶エリア61から読み出して伸張し、楽音波形データとして解析処理16に引き渡す。解析処理16では、周知の解析手法により、伸張済みの楽音波形データの解析を行い、楽曲の進行に伴う楽音波形の振幅の時間的変化を示す強弱情報と、楽曲中において音高の周期的変化が生じている区間およびその周期的変化の様子(例えば1周期を構成する楽音の個数)を示す周期情報と、楽曲中においてピッチベンドにより音高が連続的に変化している区間を示す区間情報を生成する。そして、解析処理16は、このようにして得られた強弱情報、周期情報および区間情報を立体音響効果情報生成処理17に引き渡す。
【0042】
立体音響効果情報生成処理17では、解析処理16から引き渡される情報に基づいて、立体音響効果情報を生成する。この立体音響効果情報は、その元となった楽曲データとともに同期再生されるデータであり、楽曲データに基づいて楽曲の再生が行われる際に、楽曲再生音に関して各種の立体音響効果の付与を指示するシーケンスデータである。立体音響効果情報生成処理17では、この立体音響効果情報として例えば次のような内容のものを生成する。まず、立体音響効果情報生成処理17では、楽曲の再生中、強弱情報が示す音の強弱に合わせて仮想音源位置を近傍または遠方に移動させる立体音響効果情報を生成する。また、立体音響効果情報生成処理17では、楽曲の再生中、周期情報が示す区間において、周期情報が示す周期的変化を仮想音源位置に与える立体音響効果情報を生成する。また、立体音響効果情報生成処理17では、楽曲の再生中、区間情報が示す区間において仮想音源位置に遠ざけ、あるいは近づける立体音響効果情報を生成する。そして、立体音響効果情報生成処理17では、生成した立体音響効果情報を処理対象である楽曲データに対応付けて楽曲記憶エリア61に格納する。なお、生成した立体音響効果情報は、元の楽曲データとともに1つの楽曲ファイルとして楽曲記憶エリア61に格納してもよい。
【0043】
一方、CPU10Aは、携帯電話端末1Aに着信があったとき、通信制御処理14、デコーダ15およびシーケンサ18を実行する。この場合、通信制御処理14では、着信メロディ用の楽曲データの読み出しおよび伸張をデコーダ15に指示し、かつ、この楽曲データに対応付けられた立体音響効果情報の再生をシーケンサ18に指示する。これによりデコーダ15およびシーケンサ18は、着信メロディ用の楽曲データとこの楽曲データに対応付けられた立体音響効果情報の同期再生を行う。さらに詳述すると、デコーダ15は、楽曲データを楽曲記憶エリア61から読み出して伸張し、この結果得られる楽音波形データを音源部50Aに送る。この間、シーケンサ18は、楽曲データに対応付けられた立体音響効果情報を楽曲記憶エリア61から読み出し、立体音響データに含まれるイベント情報を同立体音響データに含まれるデュレーション情報により指定されるタイミングにおいて音源部50Aに送る。
【0044】
音源部50Aは、図10に示すように、上記第1実施形態におけるノート振り分け処理部52および楽音形成処理部53に相当するものを有していない。この音源部50Aにおいて、仮想音源割り当て処理部54Aは、デコーダ15から与えられる楽音波形データをn個の仮想音源処理部55のいずれかに振り分ける。図10に示す例では、L、R2チャネルの楽音波形データが仮想音源割り当て処理部54Aに与えられるが、仮想音源割り当て処理部54Aに与える楽音波形データは1チャネルの楽音波形データであってもよい。仮想音源割り当て処理部54Aには、シーケンサ18から立体音響効果情報のイベント情報が供給される。このイベント情報には、上記第1実施形態において説明した3D
ch Assign Messageが含まれる。この3D ch Assign Messageは、上述した通り、処理対象となる楽音波形データのチャネル(この例の場合、LチャネルまたはRチャネル)と、その楽音波形データの処理を行う仮想音源処理部55のIDとを対応付けるイベント情報である。仮想音源割り当て処理部54Aは、この3D
ch Assign Messageに従い、デコーダ15から与えられる楽音波形データの仮想音源処理部55への振り分けを行う。仮想音源処理部55以降の部分の構成および機能は上記第1実施形態と同様である。
【0045】
図11は、シーケンサ18によって再生される立体音響効果情報の例を示している。Event、Description、Ch、Tick、Durationの意義は上記第1実施形態において説明した通りである。本実施形態では、デコーダ15により着信メロディの楽音波形データの再生が開始されるタイミングにおいて、Tick=0、Time=0とされ、立体音響効果情報のシーケンサ18による再生が開始される。この例において、3D
position Messageは、ID=0の仮想音源処理部55に対し、2000Tickを要して仮想音源位置を移動させる仮想音源処理の実行を指示している。その後の3D
ch Assign Messageは、55TickにおいてLチャネルの楽音波形データの仮想音源処理をID=0の仮想音源処理部55に割り当てることを指示している。さらにその後の3D
ch Assign Messageは、60TickにおいてRチャネルの楽音波形データの仮想音源処理をID=0の仮想音源処理部55に割り当てることを指示している。このため、仮想音源処理部55では、55Tickから2000Tickの間、Lチャネルの楽音の仮想音源位置を移動させ、60Tickから2000Tickの間、Rチャネルの楽音の仮想音源位置を移動させる仮想音源処理が行われる。
【0046】
本実施形態によれば、デコーダ15、解析処理16および立体音響効果情報生成処理17の実行により、以上のような立体音響効果情報が楽曲データから生成され、元の楽曲データとともに楽曲記憶エリア61に保存される。そして、着信時には、楽曲データと立体音響効果情報の同期再生が行われる。従って、上記第1実施形態と同様、元の楽曲データが立体音響再生に対応したものでない場合であっても、仮想音源位置がダイナミックに移動する立体音響効果を持った楽曲を再生することができる。
【0047】
以上、この発明の第1実施形態および第2実施形態について説明したが、この発明にはこれ以外にも他の実施形態が考えられる。例えば次の通りである。
【0048】
(1)上記第1実施形態では、遠近効果付加処理においてベロシティ値Velを仮想音源位置までの距離に変換したが、曲全体のボリュームを指定するマスタボリューム値は曲間で区々であり、同じ曲であっても、楽音形成チャネル単位でのボリュームの指示値であるチャネルボリューム間が楽音形成チャネル間で異なる場合もある。そこで、遠近効果付加処理では、Note
Message毎に、マスタボリューム値と、そのNote Messageが属する楽音形成チャネルのチャネルボリューム値と、そのNote Messageのベロシティ値とにより、そのNote
Messageに対応した音の強さを求め、この音の強さを仮想音源位置までの距離に置き換えた立体音響効果情報を生成するようにしてもよい。この場合において、楽曲データ中に含まれるベロシティ値の種類、チャネルボリューム値の種類が多いと、遠近効果付加処理により大量な立体音響効果情報が付加され、楽曲データのデータ量が大幅に増加する可能性がある。そこで、このような不都合を回避するため、遠近効果付加処理では、空間内の代表的な仮想音源位置を指示する限定された数の3D
positionを生成し、Note Messageには、その音の強さを最もよく近似する3D ポジションを割り当て、その3D positionによって表現することができない音の強弱については、そのNote
Messageのベロシティ値やチャネルボリューム値の調整により対処するようにしてもよい。ドップラー効果処理についても同様である。
【0049】
(2)移動効果付加処理は、楽曲データ全体を解析して周期性を持った情報を抽出する必要があるが、遠近効果付加処理およびドップラー効果付加処理は、楽曲データ全体の解析を必要としない。そこで、移動効果付加処理を実行する必要がないのであれば、次のような実施の態様もあり得る。すなわち、CPU10は立体効果付加処理を実行することなく楽曲データのイベント情報をそのまま音源部50に供給し、音源部50は、CPU10から供給される楽曲データをリアルタイムに解析し、遠近効果付加処理やドップラー効果付加処理の対象となるイベント情報が発見された場合には、そのイベント情報を用いて遠近効果付加処理やドップラー効果付加処理に相当する処理を実行し、この結果得られるイベント情報を用いて楽音信号を形成するのである。
【0050】
(3)上記各実施形態では、携帯電話端末1が大規模ネットワーク3を介して取得した楽曲データに立体音響効果付加処理13を施したが、立体音響効果付加処理13を実行する主体は、楽曲データを取得して利用する装置である必要はない。例えば、ユーザからの指示に従って携帯電話端末1が大規模ネットワーク3を介して所定のサーバに楽曲データを送り、このサーバが楽曲データに立体音響効果付加処理を施し、立体音響効果情報の付加された楽曲データを携帯電話端末1に送り返す、という実施の形態もあり得る。
【図面の簡単な説明】
【0051】
【図1】この発明の第1実施形態である音響効果付加装置としての機能を備えた携帯電話端末を含む通信システム全体の構成を示す図である。
【図2】同実施形態における携帯電話端末の構成を示すブロック図である。
【図3】同携帯電話端末における音源部の構成を示すブロック図である。
【図4】同実施形態において用いられる楽曲データの例を示す図である。
【図5】同実施形態における立体音響効果付加処理の内容を示すフローチャートである。
【図6】同実施形態における遠近効果付加処理の実行例を示す図である。
【図7】同実施形態における移動効果付加処理の実行例を示す図である。
【図8】同実施形態におけるドップラー効果付加処理の実行例を示す図である。
【図9】この発明の第2実施形態である携帯電話端末の構成を示すブロック図である。
【図10】同携帯電話端末の音源部の構成を示すブロック図である。
【図11】同実施形態における立体音響効果情報の例を示す図である。
【符号の説明】
【0052】
1,1A……携帯電話端末、10,10A……CPU、20……通信部、21……アンテナ、30……音声処理部、31……スピーカ、32……マイク、41……操作部、42……表示部、50……音源部、51L,51R……スピーカ、60,60A……記憶部、61,61A……楽曲記憶エリア、11,14……通信制御処理、12,18……シーケンサ、13,17……立体音響効果付加処理、15……デコーダ、16……解析処理。
【特許請求の範囲】
【請求項1】
楽曲データを記憶する記憶手段と、
前記記憶手段に記憶された楽曲データを構成する情報のうち所定の条件を満たす情報に基づいて、立体音響の再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを出力する立体音響効果付加手段と
を具備することを特徴とする立体音響効果付加装置。
【請求項2】
前記立体音響効果付加手段は、前記楽曲データに含まれる音の強弱に関する情報を立体音響の定位を指示する立体音響効果情報に変換する手段を具備することを特徴とする請求項1に記載の立体音響効果付加装置。
【請求項3】
前記立体音響効果付加手段は、前記楽曲データから楽曲の進行に応じて周期的に変化する情報を抽出し、該情報の変化の周期に同期して立体音響の定位を変化させる立体音響効果情報を生成する手段を具備することを特徴とする請求項1に記載の立体音響効果付加装置。
【請求項4】
前記立体音響効果付加手段は、前記楽曲データに含まれる音程制御情報を立体音響の定位を聴取者に近づけ、あるいは聴取者から遠ざける立体音響効果情報に変換する手段を具備することを特徴とする請求項1に記載の立体音響効果付加装置。
【請求項5】
楽曲データを解析し、所定の条件を満たす情報を抽出する解析過程と、
前記解析過程において抽出された情報を用いて、立体音響の再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを出力する立体音響効果付加過程と
をコンピュータに実行させることを特徴とするプログラム。
【請求項6】
楽曲データに従って立体音響の再生を行う音源装置において、
楽曲データを解析し、所定の条件を満たす情報を抽出する解析手段と、
前記抽出した情報を用いて立体音響再生の制御に用いる立体音響効果情報を生成し、該立体音響効果情報に基づいて、立体音響の再生の制御を行う制御手段と
を具備することを特徴とする音源装置。
【請求項1】
楽曲データを記憶する記憶手段と、
前記記憶手段に記憶された楽曲データを構成する情報のうち所定の条件を満たす情報に基づいて、立体音響の再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを出力する立体音響効果付加手段と
を具備することを特徴とする立体音響効果付加装置。
【請求項2】
前記立体音響効果付加手段は、前記楽曲データに含まれる音の強弱に関する情報を立体音響の定位を指示する立体音響効果情報に変換する手段を具備することを特徴とする請求項1に記載の立体音響効果付加装置。
【請求項3】
前記立体音響効果付加手段は、前記楽曲データから楽曲の進行に応じて周期的に変化する情報を抽出し、該情報の変化の周期に同期して立体音響の定位を変化させる立体音響効果情報を生成する手段を具備することを特徴とする請求項1に記載の立体音響効果付加装置。
【請求項4】
前記立体音響効果付加手段は、前記楽曲データに含まれる音程制御情報を立体音響の定位を聴取者に近づけ、あるいは聴取者から遠ざける立体音響効果情報に変換する手段を具備することを特徴とする請求項1に記載の立体音響効果付加装置。
【請求項5】
楽曲データを解析し、所定の条件を満たす情報を抽出する解析過程と、
前記解析過程において抽出された情報を用いて、立体音響の再生の制御に用いる立体音響効果情報を生成し、立体音響効果情報の付加された楽曲データを出力する立体音響効果付加過程と
をコンピュータに実行させることを特徴とするプログラム。
【請求項6】
楽曲データに従って立体音響の再生を行う音源装置において、
楽曲データを解析し、所定の条件を満たす情報を抽出する解析手段と、
前記抽出した情報を用いて立体音響再生の制御に用いる立体音響効果情報を生成し、該立体音響効果情報に基づいて、立体音響の再生の制御を行う制御手段と
を具備することを特徴とする音源装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2007−158985(P2007−158985A)
【公開日】平成19年6月21日(2007.6.21)
【国際特許分類】
【出願番号】特願2005−354335(P2005−354335)
【出願日】平成17年12月8日(2005.12.8)
【出願人】(000004075)ヤマハ株式会社 (5,930)
【Fターム(参考)】
【公開日】平成19年6月21日(2007.6.21)
【国際特許分類】
【出願日】平成17年12月8日(2005.12.8)
【出願人】(000004075)ヤマハ株式会社 (5,930)
【Fターム(参考)】
[ Back to top ]