セッション端末
【課題】演奏者の演奏動作を予測し、予測結果に基づいて楽音発生を制御する。
【解決手段】セッション端末1の操作盤22はタッチパネルであり、スタイラス21の入力を受け付ける。操作盤22の操作面は、左側信号発生領域ALと右側信号発生領域ARと、両者の間に挟まれた検知領域ACを有し、液晶表示によりユーザに視認できる。スタイラス21が左右いずれかの信号発生領域から検知領域ACへ移動すると検知が開始され、検知領域ACから反対側の信号発生領域へ脱出するまでの予測到達時刻tfが推算され、当該予測到達時刻tfに対して、ネットの遅延時間分だけ早く楽音信号がセッション端末2へ送信されるとともに、実際にスタイラス21が検知領域ACを脱出するとセッション端末1において楽音が発生する。
【解決手段】セッション端末1の操作盤22はタッチパネルであり、スタイラス21の入力を受け付ける。操作盤22の操作面は、左側信号発生領域ALと右側信号発生領域ARと、両者の間に挟まれた検知領域ACを有し、液晶表示によりユーザに視認できる。スタイラス21が左右いずれかの信号発生領域から検知領域ACへ移動すると検知が開始され、検知領域ACから反対側の信号発生領域へ脱出するまでの予測到達時刻tfが推算され、当該予測到達時刻tfに対して、ネットの遅延時間分だけ早く楽音信号がセッション端末2へ送信されるとともに、実際にスタイラス21が検知領域ACを脱出するとセッション端末1において楽音が発生する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、演奏者の演奏動作を予測し、予測結果に基づいて楽音発生を制御する技術に関する。
【背景技術】
【0002】
近年の通信ネットワークの発達により、地理的に離れ通信ネットワークを介して接続された複数の楽器端末によりセッション(合奏)を行うことができるセッションシステムが開発されている。このようなセッションシステムにおいては、セッションに参加している各参加者の楽器端末において生成される楽音信号(音高、音量、音色等を示す信号)が逐次他の全ての参加者の楽器端末に送信されなければならない。
【0003】
ところが、通信ネットワークを介した上記のようなセッションシステムの場合、必ずネットワーク上の遅延が生じる。ネットワークの遅延があると、演奏者は、タイミングのずれた発音に演奏をあわせなければならないので、自然なセッションを行うことができない。
【発明の開示】
【発明が解決しようとする課題】
【0004】
そこで、演奏者の演奏動作を予測し、発音時刻の予測結果に基づいて楽音発生を制御する技術が提案されている(特許文献1を参照)。特許文献1の技術によれば、受信側の端末において、楽音信号を受信する前に、予測結果に基づいてホワイトノイズ等を事前に発音し、その後に受信した楽音信号を重ね合わせている。これにより、ホワイトノイズと楽音とが聴感上ほぼ同じ音色として感知され、この結果、遅れのない楽音として聞くことができる。
しかしながら、特許文献1に記載の装置においては、本来の楽音に対してホワイトノイズ等を重畳させているので、ホワイトノイズが耳障りになるなどという問題があった。
本発明はこのような事情に鑑みてなされたものであり、ホワイトノイズ等の楽音ではない音を重畳させることなく、受信側の端末において遅れのない楽音を発音させることができるセッション端末を提供する。
【0005】
【特許文献1】特開2006−195386号公報
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明は、通信ネットワークを介して他の通信端末と通信を行うセッション端末において、表面に物体が位置することが可能な面部材であって、前記物体が前記表面に沿って移動可能である面部材と、前記面部材の表面上における前記物体の位置を検出する検出手段と、前記検出手段が検出した位置の変化に基づいて前記物体の運動を検出する運動検出手段と、前記面部材の面において所定のエリアを設定するエリア設定手段と、前記エリア設定手段が設定したエリアにおいて前記運動検出手段が検出した運動に基づき前記物体が前記エリア外に出る時刻を推定し、推定時刻情報を生成する時刻推定手段と、前記推定時刻情報が生成されると当該推定時刻情報と対になる送信データを生成する送信データ生成手段と、前記送信データ生成手段により生成された送信データを、当該送信データと対になっている推定時刻情報が示す時刻より早い時刻に前記ネットワークを介して他の通信端末に送信する送信手段と、を具備することを特徴とするセッション端末を提供する。
【0007】
本発明の好ましい態様においては、前記面部材の前記表面を構成する表示手段を具備し、前記表示手段は、前記エリア設定手段により前記表面に設定される前記エリアに対応した面画像を表示する。
また、本発明の別の好ましい態様においては、前記表示手段は液晶表示装置であり、前記検出手段は前記液晶表示装置の表示面に重ねて設けられ、前記物体が接触した位置を検出し得る透明性を有する接触検出パネルである。
【0008】
また、本発明の別の好ましい態様においては、前記通信ネットワークの遅延量を検出する遅延検出手段を設け、前記送信手段は前記遅延検出手段が検出した遅延量に応じて前記送信データの送信タイミングを決定する。
また、本発明の別の好ましい態様においては、前記エリア設定手段は、前記遅延検出手段によって検出された遅延量に応じて前記エリアを設定する
また、本発明の別の好ましい態様においては、前記送信手段は、前記送信データとともに、当該送信データと対になっている前記推定時刻情報を送信する。
【0009】
また、本発明の別の好ましい態様においては、前記送信データ生成手段が生成する前記送信データは、楽音を示す楽音情報である。
また、本発明の別の好ましい態様においては、前記送信データ生成手段は、前記運動検出手段が検出した運動に基づいて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成する。
また、本発明の別の好ましい態様においては、前記送信データ生成手段は、前記検出手段の検出結果に基づいて前記物体が前記エリアに進入または前記エリアから脱出した位置を認識し、認識した位置に応じて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成する。
また、本発明の別の好ましい態様においては、楽音信号を生成し、前記時刻推定手段が推定した時刻に対応するタイミングにおいて前記楽音信号を放音する楽音放音手段を具備する。
【発明の効果】
【0010】
本発明によれば、演奏者はホワイトノイズ等の楽音ではない音を重畳させることなく、受信側の端末において遅れのない楽音を発音させることができる。
【発明を実施するための最良の形態】
【0011】
次に、この発明を実施するための最良の形態を説明する。
(A)構成
図1は、本実施形態に係るセッションシステムの全体構成を示すブロック図である。図1に示すように、このシステムは、セッション端末1,2が通信ネットワークにより接続されて構成される。なお、実際にはより多くのセッション端末が通信ネットワークにより接続されてシステムを構成することも可能であるが、説明の便宜上、省略する。また、この実施形態においては、セッション端末1とセッション端末2の各構成は同じであるとする。
【0012】
図2は、セッション端末1の構成を示す図である。12は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、その他の各種演算プロセッサからなり、ハードウェア回路の各部を制御する制御部である。13は、MIDI(Musical Instrument Digital Interface;登録商標)音源を有する音源部である。14は楽音信号処理回路14aと増幅器14b、スピーカ14cからなる放音部である。楽音信号処理回路14aはDSP(Digital Signal Processor)等であり、音源部13より受信したデジタル楽音信号をアナログのオーディオ信号に変換する。増幅器14bは楽音信号処理回路14aから受信したオーディオ信号を増幅する。スピーカ14cは増幅器14bから受信した増幅されたオーディオ信号を外部へ放音する。
【0013】
ここで、図3を用いて、セッション端末1の外観構成を説明する。セッション端末1の外観は図3(a)に示すように、扁平な箱状の筐体を有し、筐体の上面左側には、十字型の入力装置である十字キー11aが配置されている。筐体の上面右側には、4つの円形のボタン11bが配置されている。筐体上面の図面手前側左右には上述したスピーカ14cが配置されている。十字キー11aや4つのボタン11bは、図2に示すスイッチ群11を構成する。ここで、十字キー11aは音高を指定し、4つのボタン11bはそれぞれ効果音の付与を指定する。この実施形態においては、十字キー11aは右側が押されると音高が半音あがり、左側が押されると音高が半音さがり、上側が押されると音高が1オクターブあがり、下側が押されると音高が1オクターブ下がるように設定されている。4つのボタン11bはそれぞれが、楽音に対して残響効果の付与を指定したり、エコーやコーラス効果を指定したりするようになっている。この場合、制御部12は、十字キー11aのいずれの部分が押されたかを検出して、発音すべき音高を決定し、ボタン11bのいずれが押されたかによって楽音に付与すべき効果を決定するようになっている。なお、以下においては、4つのボタン11bのうち残響効果を指定するものが操作される場合を例にとって説明する。
【0014】
次に、図3(a)に示すように筐体上面の中央部には、方形状の操作盤22が配置されている。操作盤22は、ユーザがスタイラス21(操作子)により操作盤22の表面上の任意の箇所を指示すると、その位置を示す情報がセッション端末1に入力される。
図3(b)は、操作盤22を更に詳述する分解斜視図である。22aは方形状の透明感圧パネルであり、2層の透明電極パネル22a−1、22a−2がわずかな隙間をあけて重ねられて構成されている。透明電極パネル22a−1はパネル平面の水平方向に帯状電極が並べられたものであり、透明電極パネル22a−2はパネル平面の垂直方向に帯状電極が並べられたものである。透明感圧パネル22aの表面にスタイラス21を押し付けると、2層の透明電極パネルがスタイラス21によって押し付けられた部分で接するため、その部分を通過する水平・垂直両方向の帯状電極に流れる電流よって、押圧位置を検知することが可能になっている。22bは透明感圧パネル22aと同形の方形状の液晶ディスプレイであり、透明感圧パネル22aの下部に重ねて配置されている。液晶ディスプレイ22bの下部には図示しない光源があり、当該光源より照射された光のうち液晶ディスプレイ22bを透過した光は、透明感圧パネル22aを通過して、外部に達する。これにより、液晶ディスプレイ22bに表示されている画像を外部から視認することができる。
【0015】
本実施形態においては、液晶ディスプレイ22bが帯状の表示を行うにより、領域を表示するようになっており、その領域が、図3(a)に示すように、操作盤22の表面において視認される。以下においては、この領域を検知領域ACという。ここで、制御部12は操作盤22内の液晶ディスプレイ22bの表示制御に対応させて、透明感圧パネル22aの領域を区分して認識するようになっている。すなわち、液晶ディスプレイ22bに表示された検知領域ACと同じ領域が透明感圧パネル22aについても認識される。
本実施形態の場合、検知領域ACは液晶ディスプレイ22bによって黒色で表示され、操作盤22の幅方向の左右の余白は白色で表示されるようになっている。以下においては、操作盤22の幅方向の左右の白色部分を、左側信号発生領域ALと右側信号発生領域ARという。このようにして操作盤22の表面は、左側信号発生領域ALと右側信号発生領域ARと、両者の間に挟まれた検知領域ACの3つの領域に区分され、検知領域ACと左側信号発生領域ALとの境界、および検知領域ACと右側信号発生領域ARとの境界がユーザにとって明確に視認できる。また、検知領域ACの幅wは、後述する処理によって可変されるようになっている。
【0016】
次に、図2に示す16は、タイマであり、時刻を示す時刻情報を常時発生している。17は、通信インターフェース等を有する通信部である。本実施形態においては、制御部12の制御の下、スイッチ群11の操作や操作盤22の操作に対応した楽音信号が生成されるが、通信部17は、この楽音信号を通信ネットワークを介してセッション端末2に送信する一方、セッション端末2から送信された楽音信号を受信する。
18は、セッション端末を制御する基本OS(Operating System)や、セッション端末で用いるアプリケーションソフトウェアなどが記憶される記憶部である。また、この記憶部18には、制御部12の演算処理におけるワーク領域が設定されている。
19は外部インターフェース(IF)であり、外部機器との入出力を行う。なお、図において、BUSは、以下に説明するセッション端末1が有する各構成要素間のデータ授受を仲介するバスである。
【0017】
(B)動作
次に、本実施形態の動作について説明する。図4(a)、図4(b)、図4(c)はセッション端末1の制御動作を示すフローチャートである。図4(a)に示すフローチャートは割込処理によって所定の間隔で起動される処理である。まず、ステップS101では、制御部12によってネットワークの遅延量Tdが測定される。ネットワークの遅延量Tdとは、セッション端末1から送信された信号がセッション端末2に到達するまでの時間である。この実施形態においては、制御部12は、セッション端末2に定期的にパケットを送信することによって遅延量Tdを計算している。より詳しく言えば、送信したパケットがセッション端末2によって返信され、その往復に要した時間から遅延量Tdを算出するようにしている。
次に、ステップS102に移ると、制御部12は、ステップS101で求めた遅延量Tdに基づいて検知領域ACの幅wを決定する。ここでは、遅延量Tdが大きいほど幅wは大きく、遅延量Tdが小さいほど幅wは小さくなるように演算される。そして、制御部12は、決定した幅wに応じて液晶ディスプレイ22bに表示する検知領域ACの幅を制御するとともに、透明感圧パネル22aについての検知領域の幅も新たな幅wとして認識する。
以上により図4(a)に示す割込処理が終了し、以後は割込周期毎に同様の処理が繰り返される。これにより、遅延量Tdの測定と検知領域ACの幅wの算出が実質的に常時行われることになる。
【0018】
一方、制御部12は、操作盤22のどの部分が押圧されているかを常時監視しており、押圧位置が検知領域ACに至ったか否かを、図4(b)に示すフローチャートのステップS103を循環することより監視している。そして、セッション端末1の演奏者が、演奏を開始するために、左側信号発生領域ALに置いたスタイラス21を移動させると、これに伴って、操作盤22が検知している押圧位置が移動する。制御部12は、この押圧位置が検知領域ACに進入した時点で、演奏操作が開始されたと判断する(S103;YES)。押圧位置が検知領域ACに進入してない場合は、演奏操作が開始されていないとして待機状態を維持する(S103;NO)。
そして、制御部12は、演奏操作が開始されたと判定した場合には、その時刻を測定開始時刻t0として検出する。また、制御部12は、十字キー11aの操作を検出して音高を決定し、ボタン11bの入力に応じて残響効果を決定する。これらの音高および残響効果は楽音信号sd1の属性として制御部12内のRAMに記憶される(S104)。なお、楽音の音色も楽音信号の属性となるが、この実施形態における楽音信号の音色はピアノやギターなどの減衰音を現す音色が設定されている。なお、どのような音色を指示するかは、予め決められているが、これを任意に変更できるように構成してもよい。
次に、スタイラス21が検知領域ACに入ってから、予め定められている距離(以下、測定距離sという)を移動すると、ステップS105の判定がYESとなってステップS106に進んで到達予測時刻tfを演算する。到達予測時刻tfとは、スタイラス21が検知領域ACを脱出して右側信号発生領域ARに到達すると予想される時刻である。この演算は以下のようにして行われる。
制御部12は、スタイラス21が検知領域ACに入ってから測定距離sを移動した時刻(以下、測定終了時刻tsという)(S105;YES)で、スタイラス21の速度を演算し、スタイラス21が右側信号発生領域ARへ到達する到達時間予測処理をする(S106)。ここで、図5を用いて、到達時間予測処理法について説明する。なお、本実施形態では、スタイラス21の運動は等速直線運動であるとする。
【0019】
図5に示すように、検知領域AC(矩形)の幅はw、測定距離はsである。検知領域ACにおける座標を、幅方向であるx成分と、高さ方向であるy成分によって(x,y)と表すこととし、スタイラス21が検知領域ACに進入した時点(測定開始時刻t0)の座標を(x0,y0)とし、測定終了時刻tsにおけるスタイラス21の座標を(xs,ys)と表す。制御部12はこれらの座標を透明電極パネルの帯状電極を介して認識している。ここで、測定開始時刻t0から測定終了時刻tsまでの間にスタイラス21が移動した距離のx成分Δxとy成分Δyはそれぞれ、
Δx=|xs−x0|
Δy=|ys−y0|
で表すことができる。また、スタイラス21が検知領域ACに進入してから(測定開始時刻t0)測定距離sを移動するまで(測定終了時刻ts)の時間T0(以下、測定時間T0という)は、
T0=ts−t0
で、求めることができる。この場合、測定距離sを移動する移動速度vは
v=s/T0
である。スタイラス21が検知領域ACに進入してから、検知領域ACを脱出するまでに移動する距離Lは
L=w・s/Δx
であり、スタイラス21は距離Lを前述の移動速度vのまま通過するので、通過にかかる時間、すなわち測定時間T0と予測到達時間T1の和は、
T0+T1=L/v=T0・w/Δx
となる。したがって、予測到達時間T1は
T1=T0・(w/Δx − 1)
の式で演算が可能となる。
【0020】
次に、図4(b)で示すように、制御部12は遅延量Tdと予測到達時間T1を比較し(S107)、遅延量Tdが予測到達時間T1より大であれば(S107;NO)、楽音信号sd1はただちに通信部17を介してセッション端末2へ送信される(S108)。遅延量Tdが予測到達時間T1より小であれば(S107;YES)、制御部12は、次に示す演算処理により特定される送信予定時刻tpにセッション端末2へ楽音信号sd1を送信するように通信部17を設定する(S109)。
【0021】
次に、図6を用いて、送信予定時刻tpの演算処理を説明する。図6は、予測動作を、時間軸に沿って示した図である。横軸は時間の流れを示し、測定開始時刻t0と測定終了時刻tsとの間の時間は測定時間T0であり、測定終了時刻tsに、前述の演算により得られた予測到達時間T1を加算した時刻が予測到達時刻tfである。そこで制御部12は、予測到達時刻tfより遅延量Tdだけ早い時刻を送信予定時刻tpとして演算し、この送信予定時刻tpにセッション端末1から楽音信号sd1を送信するように、通信部17を設定する。送信先であるセッション端末2では、セッション端末1から送信された楽音信号sd1を受信した時点で、ただちにこれを放音するので、セッション端末2において、楽音信号sd1を予測到達時刻tfに発生させることができる。この送信は、制御部12が、送信予定時刻tpと楽音信号sd1の組み合わせを通信部17に設定し、通信部17が設定された送信予定時刻tpとタイマ16によって得られる現在の時刻tを比較し、一致したタイミングでおこなう。時刻の比較には任意に許容誤差を設けてもよい。また、通信部17において送信される楽音信号は本実施形態の場合は、発音の開始を指示するキーオン、楽音の属性を示す音高、音色、効果(残響など)がMIDI形式の信号として出力される。
【0022】
次に、制御部12はスタイラス21の位置を監視し、スタイラス21が検知領域ACを脱出していない間は、待機状態を維持する(S110;NO)。スタイラス21が検知領域ACを脱出して右側信号発生領域ARへ到達したことを操作盤22が検知すると(S110;YES)、制御部12は、RAMに記憶された楽音信号sd1を音源部13に送り、音源部13は送られた楽音信号sd1を、放音部14を用いて、発生させる(S111)。このタイミングは、通信部17が楽音信号sd1を送信した時刻tpに遅延量Tdを加えた時刻に対応するから、放音部14の放音とセッション端末2における放音のタイミングは一致する。このように、セッション端末1とセッション端末2で同時に楽音を発音させることができ、セッションを行うことが可能となる。
また、セッション端末1の演奏者は、操作盤22に表示されている検知領域ACを見ながらスタイラス21を操作するから、スタイラス21が右側信号発生領域ARへ到達した瞬間を楽音の発音と結び付けて認識するため、検知領域の幅wの増減によってネットワークの遅延を意識しながら演奏のタイミングを調整することができる。なお、演奏操作は、スタイラス21を左側から右側へ操作するように設定してもよいが、左右対称に演奏操作できるようにしてもよい。すなわち、左右いずれかの信号発生領域から検知領域ACへの移動によって測定を開始し、検知領域ACから左右いずれかの信号発生領域への移動を予測して楽音発生タイミングを認識するように構成してもよい。また、発音タイミングには任意に許容誤差を設けてもよい。
【0023】
次に、図4(c)に示すフローチャートは割込処理によって所定の間隔で起動される処理である。制御部12は通信部17の受信状態を監視し、通信部17がセッション端末2から送信された楽音信号sd2を受信していれば(S113;YES)、セッション端末2から送信された楽音信号sd2を、随時、音源部13に送り、音源部13は送られた楽音信号sd2を、放音部14を用いて発生させる(S114)。以上の図4(a)〜図4(c)の動作は図示しないスイッチによる演奏終了を示す入力がされるまで続けられる(S112)。
なお、上述した実施形態においては、楽音信号の属性として音色や残響(音響効果)が設定される例を示したが、スタイラス21の移動速度vに基づいて音の強さを示すベロシティデータを生成し、これを属性として含めて送信してもよい。
【0024】
<変形例>
以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限定されることなく、他の様々な形態で実施可能である。以下にその一例を示す。
(変形例1)
上記実施形態では、検知領域ACを単一の領域としたが、検知領域ACを縦方向に分割して、縦方向の位置を楽音信号sd1の属性(音高、音色、音の強さ、ベロシティなど)に関連付けてもよい。この形態の一例を図7を用いて説明する。図7に示すように、検知領域ACは上下に複数に分割されており、制御部12の制御の下に、液晶ディスプレイ22bにより当該分割の境界線が表示されていると同時に、それぞれの分割の領域を示す情報が制御部12のRAM上に記憶されており、操作盤22内の透明感圧パネル22aで検知される位置情報を当該分割の領域を示す情報と照らし合わせることにより、スタイラス21が分割した領域のいずれに位置しているかが認識される。AC−onは発音領域であり、縦方向にAC−1、AC−2、・・・AC−nのn個に分割され、それぞれの位置が制御部12によって音高に関係付けられてRAMに記憶されている。これらの関係は、液晶表示によってユーザに認識可能となっている。また、AC−offは消音領域であり、AC−onと同様にその位置は制御部12によって消音に関係付けられてRAMに記憶されており、ユーザには文字や色彩などの液晶表示によって、音を消すための領域であることが認識可能となっている。操作盤22内の透明感圧パネル22aはスタイラス21が進入した検知領域ACにおける縦方向の位置情報を制御部12へ送信し、制御部12は当該位置に基づいて、この入力が発音か消音のいずれの指示であるかを判定する。さらに、縦方向位置が発音領域であれば音高も決定する。なお、音高は、進入位置で定めるだけでなく、脱出位置を推測して定めても良い。例えば、スタイラス21の軌跡は常に直線であることを前提として、図5を用いて説明すると、スタイラス21の進行方向が検知領域ACを幅方向に対して水平でない場合は、スタイラス21の検知領域ACにおける進入位置と脱出位置のそれぞれの縦方向成分は
m=L・Δy/s
だけ異なる。したがって、この差異mに基づいてスタイラス21が検知領域ACに進入した時点で検知した進入位置の情報を補正することで、脱出位置が推測され、これに応じた音高を決定することができる。
また、検知した進入位置と推測した脱出位置のいずれか一方のみの位置によって一定の音高を発音するだけではなく、発音から消音までの音高が、検知した進入位置と推測した脱出位置のそれぞれに応じるように変化してもよい。この場合、音高の変化は時間に対して線形的な変化でもよいし、スタイラス21の軌跡に関係付けてもよい。
また、前述した実施形態においても操作盤22に消音領域を表示して、消音指示を行うように構成してもよい。設定した音色がバイオリンやオルガンのように継続音の音色の場合は、消音指示があると好適である。
【0025】
(変形例2)
また、操作盤22の操作面は方形状に限られず、一次元的な形状でもよい。例えば、図8の(a)に示すように操作面は棒状の矩形であってもよい。さらに、一次元的な操作を行う場合は、操作盤22は、図8の(b)に示すように半固定抵抗器を用いたスライダースイッチやスライドボリュームによって実現してもよい。
また、実施形態においては、スタイラス21と操作盤22の接触により位置情報を入力するようにしたが、非接触の検知方法、例えば、光学的な検知方法を用いてもよい。光学的検知方法の例としては、操作盤がブラウン管であり、操作子としてスタイラス21に替えてライトペンを用いる方法がある。これはブラウン管の画面上の走査線をライトペンで受光して、ライトペンが受光したタイミングから位置情報を獲得するというものである。
また、上記実施形態では透明電極パネルを通る電流を検知したが、電圧や静電容量の分布を検知してもよい。
また、操作盤22の操作面は平面に限られず、曲面であってもよい。位置の入力装置は、図9に示すような、回転軸を有するハンドルや円盤状テーブルによって実現してもよい。なお、ハンドルのように操作子の軌道が円である場合には、必ずしも信号発生領域は複数必要ではなく、回転軸を基点として所定の角度で示される扇形領域を信号発生領域としてもよい(図9参照)。
【0026】
(変形例3)
上記実施形態では、スタイラス21が移動する検知領域ACは矩形であることを前提としたが、台形や円であってもよいし、任意の境界を持つものでもよい。すなわち、制御部12が認識可能な領域であれば、領域の形状はどのような形状であってもよい。
【0027】
(変形例4)
また、上記実施形態では、制御部12は予め設定された測定距離sを用いて測定時間T0を演算したが、測定距離sは遅延量Tdに応じて設定してもよいし、手動で設定してもよい。また、測定距離sに基づいて測定時間T0を演算することに替えて、逆に測定時間T0を基準にし、この基準時間内にどれだけ移動したかを測定してスタイラス21の移動速度を検出してもよい。この場合、前述と同様に、測定時間T0は予め固定値を設定してもよいし、手動で設定しても、遅延量Tdに応じて設定してもよい。また、上記実施形態ではスタイラス21の運動は等速直線運動と仮定したが、曲線運動でもよいし、加速運動であってもよい。測定開始時刻t0から測定終了時刻tsまでを複数に分割し、それぞれの時刻と位置情報から速度、加速度を算出し、これらの値から、所定の関数のパラメータを求めて、得られたパラメータで特定される関数によって、予測到達時間T1を算出してもよい。なお、この算出には、周知のアルゴリズム(例えば、最小二乗法)などを用いることができる。
【0028】
(変形例5)
また、上記実施形態では、楽音信号sd1はMIDIデータとしたが、波形データでもよい。また、送信するデータは楽音信号に限らなくてもよい。例えば、セッション端末2において、予測到達時刻tfに楽音を発生させる替わりに、セッション端末2の外部IFに接続された発光ダイオードを発光させてもよい。すなわち、ユーザの表現に応じたタイミングで送信先のセッション端末における出力が制御可能としてもよい。
【0029】
(変形例6)
また、上記実施形態では、検知領域の幅wが遅延量Tdに応じて変化し、その変化する検知領域の幅wが液晶ディスプレイ22bによって表示されていたが、検知領域の幅wがユーザにとって大きく変化しないような場合には、表示される幅は固定してもよい。この場合、この幅は、必ずしも液晶ディスプレイ22bによって表示されなくてもよく、操作盤22に直接着色することによって表示されていてもよい。また、表示される幅は演奏のしやすさに応じて任意に変えてもよく、さらにユーザが検知領域の幅を認識しているような場合や、検知領域の幅を認識することが演奏にとって重要でない場合には、これらの「幅の表示」をおこなわなくてもよい。ただし、制御部12が認識する透明感圧パネル22a上の検知領域の幅wについては上記実施形態と同様である。
【0030】
(変形例7)
また、上記実施形態では、楽音信号はピアノやギターなどの減衰音を現すMIDIデータとしたが、楽音信号に継続音を用いる場合には、4つのボタン11bのうち、いずれかを消音の指示に割り当ててもよい。また、次の音が発音されるタイミングで前の音を消音してもよい。
【0031】
(変形例8)
また、上記変形例1に係る実施形態では、予測到達時刻tfにおけるスタイラス21の位置は予測通りになっていることを前提としたが、予測到達時刻tfにおけるスタイラス21の位置を検知するようにしてもよい。この場合、スタイラス21が予測到達時刻tfに右側信号発生領域AR(あるいは左側信号発生領域AL)へ到達しなかったことを検知したら、制御部12は、測定開始時刻t0からの入力を誤入力として処理し、楽音信号sd1の送信前であれば、RAMの記憶を消去し、送信後であれば、送信された信号を訂正する信号を送信するのが好適である。
【0032】
(変形例9)
また、上記実施形態では、検知領域ACをスタイラス21が横断する一動作(ストローク)につき単一の音が発音されたが、複数の音が発音されてもよい。例えば、液晶ディスプレイ22bによって、操作盤22内に縦方向に複数の弦が表示され、弦の部分をスタイラス21が通過するごとに音が発音されるようにしてもよい。この場合、弦と弦の間の矩形は検知領域とし、弦を表示している部分は信号発生領域としてもよい。
【0033】
(変形例10)
また、上記実施形態における制御に加えて、スタイラス21が検知領域AC内を移動する速度や加速度、あるいはスタイラス21が検知領域ACと接触する位置に応じて、ベロシティをはじめとして、音色、残響効果など楽音情報の属性を決定してもよい。
さらに透明感圧パネル22aにスタイラス21の筆圧強度を感知する機能を設け、その筆圧強度に応じて、前述の楽音情報の属性(例えば、ベロシティ)を決定してもよい。
【0034】
(変形例11)
また、上記実施形態では、セッション端末1からは楽音信号sd1のみを送信したが、楽音信号sd1と予測到達時刻tfの一組を送信してもよい。この場合に、セッション端末1で入力された楽音信号sd1は、対応する予測到達時刻tfとともにセッション端末2へ送信され、セッション端末2上の制御部12がこの一組の情報をRAMに記憶して、セッション端末2上の制御部12の制御の下、記憶された予測到達時刻tfに発音処理がなされるようにしてもよい。
さらに、楽音信号を送らずに、予測到達時刻tfのみを送信してもよい。例えば、セッション端末1とセッション端末2の間で予め楽音信号(音色や効果音などの属性)が取り決められているような場合には、予測到達時刻tfのみを送信すれば、セッション端末2において予測到達時刻tfにおいて予め取り決められた楽音信号を発音することができる。この場合、予測到達時刻tfは、キーオン信号またはキーオフ信号の機能を兼ねる。
【0035】
(変形例12)
また、上記実施形態では、検知領域ACは液晶ディスプレイ22bにより表示したが、操作盤平面の凹凸の差異や、スライダースイッチの摩擦抵抗など、力学的機構を用いて表現してもよい。例えば、図10に示すように、操作盤22の表面に沿って、幅方向に移動可能な2枚の薄板31を設置してもよい。この薄板31はスタイラス21で触れるユーザにクリック感を与えるもので、これによりユーザは検知領域の幅wを認識できると同時に、制御部12において、検知領域が特定される。すなわち、演奏者が視覚を用いなくても、測定開始と楽音発生のそれぞれを示す操作盤上の位置または境界を認識できさえすればよい。
【0036】
(変形例13)
また、上記実施形態では、割り込み処理があるごとに、遅延量Tdから検知領域の幅wを決定して表示したが、所定時間分の遅延量Tdを、RAM等に記憶させ、遅延量Tdの単位時間当たりの平均値に基づいて検知領域の幅wを決定してもよい。
【0037】
(変形例14)
また、上記実施形態では、表示機能を有する部分は液晶ディスプレイ22bのみであったが、図11に示すように、端末筐体に蓋を設け、その蓋側に操作盤22の液晶ディスプレイ22bとは別のフロント液晶ディスプレイ32を配置してもよい。このような構成の場合には、例えば、フロント液晶ディスプレイ32によってゲーム画面を表示することもでき、好適である。
【0038】
(変形例15)
また、上記実施形態では、セッション端末1の放音部14は、スタイラス21が検知領域ACを脱出して右側信号発生領域ARへ到達したことを検知して楽音を発生させたが、タイマ16が示す現在の時刻tを参照し、当該現在の時刻tが、RAMに記憶された予測到達時刻tfに至ったことを契機として楽音を発生させてもよい。
【0039】
(変形例16)
また、上記実施形態では、楽音信号sd1は送信予定時刻tpに送信されたが、送信予定時刻tpより前の任意の時刻に送信してもよい。
【図面の簡単な説明】
【0040】
【図1】本実施形態に係るセッションシステムの全体構成を示すブロック図である。
【図2】同実施形態のセッション端末1の構成の一例を示す図である。
【図3】同実施形態のセッション端末1の外観構成図及び操作盤22の分解斜視図である。
【図4(a)】同実施形態のセッション端末1の制御について、詳細な動作を示すフローチャートである。
【図4(b)】同実施形態のセッション端末1の制御について、詳細な動作を示すフローチャートである。
【図4(c)】同実施形態のセッション端末1の制御について、詳細な動作を示すフローチャートである。
【図5】同実施形態の楽音信号と到達時刻予測処理の演算方法を示す図である。
【図6】同実施形態の予測動作を、時間軸に沿って示した図である。
【図7】変形例1に係る実施形態の操作盤22の構成を示す図である。
【図8】変形例2に係る実施形態の棒状の操作面と、半固定抵抗器を用いたスライダースイッチを示す図である。
【図9】変形例2に係る実施形態の回転軸を有するハンドル型の操作子を示す図である。
【図10】変形例12に係る実施形態のセッション端末1の外観構成図である。
【図11】変形例14に係る実施形態のセッション端末1の外観構成図である。
【符号の説明】
【0041】
1,2…セッション端末、11…スイッチ群、12…制御部、13…音源部、14…放音部、16…タイマ、17…通信部、18…記憶部、19…外部IF、21…スタイラス、22…操作盤、
【技術分野】
【0001】
本発明は、演奏者の演奏動作を予測し、予測結果に基づいて楽音発生を制御する技術に関する。
【背景技術】
【0002】
近年の通信ネットワークの発達により、地理的に離れ通信ネットワークを介して接続された複数の楽器端末によりセッション(合奏)を行うことができるセッションシステムが開発されている。このようなセッションシステムにおいては、セッションに参加している各参加者の楽器端末において生成される楽音信号(音高、音量、音色等を示す信号)が逐次他の全ての参加者の楽器端末に送信されなければならない。
【0003】
ところが、通信ネットワークを介した上記のようなセッションシステムの場合、必ずネットワーク上の遅延が生じる。ネットワークの遅延があると、演奏者は、タイミングのずれた発音に演奏をあわせなければならないので、自然なセッションを行うことができない。
【発明の開示】
【発明が解決しようとする課題】
【0004】
そこで、演奏者の演奏動作を予測し、発音時刻の予測結果に基づいて楽音発生を制御する技術が提案されている(特許文献1を参照)。特許文献1の技術によれば、受信側の端末において、楽音信号を受信する前に、予測結果に基づいてホワイトノイズ等を事前に発音し、その後に受信した楽音信号を重ね合わせている。これにより、ホワイトノイズと楽音とが聴感上ほぼ同じ音色として感知され、この結果、遅れのない楽音として聞くことができる。
しかしながら、特許文献1に記載の装置においては、本来の楽音に対してホワイトノイズ等を重畳させているので、ホワイトノイズが耳障りになるなどという問題があった。
本発明はこのような事情に鑑みてなされたものであり、ホワイトノイズ等の楽音ではない音を重畳させることなく、受信側の端末において遅れのない楽音を発音させることができるセッション端末を提供する。
【0005】
【特許文献1】特開2006−195386号公報
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明は、通信ネットワークを介して他の通信端末と通信を行うセッション端末において、表面に物体が位置することが可能な面部材であって、前記物体が前記表面に沿って移動可能である面部材と、前記面部材の表面上における前記物体の位置を検出する検出手段と、前記検出手段が検出した位置の変化に基づいて前記物体の運動を検出する運動検出手段と、前記面部材の面において所定のエリアを設定するエリア設定手段と、前記エリア設定手段が設定したエリアにおいて前記運動検出手段が検出した運動に基づき前記物体が前記エリア外に出る時刻を推定し、推定時刻情報を生成する時刻推定手段と、前記推定時刻情報が生成されると当該推定時刻情報と対になる送信データを生成する送信データ生成手段と、前記送信データ生成手段により生成された送信データを、当該送信データと対になっている推定時刻情報が示す時刻より早い時刻に前記ネットワークを介して他の通信端末に送信する送信手段と、を具備することを特徴とするセッション端末を提供する。
【0007】
本発明の好ましい態様においては、前記面部材の前記表面を構成する表示手段を具備し、前記表示手段は、前記エリア設定手段により前記表面に設定される前記エリアに対応した面画像を表示する。
また、本発明の別の好ましい態様においては、前記表示手段は液晶表示装置であり、前記検出手段は前記液晶表示装置の表示面に重ねて設けられ、前記物体が接触した位置を検出し得る透明性を有する接触検出パネルである。
【0008】
また、本発明の別の好ましい態様においては、前記通信ネットワークの遅延量を検出する遅延検出手段を設け、前記送信手段は前記遅延検出手段が検出した遅延量に応じて前記送信データの送信タイミングを決定する。
また、本発明の別の好ましい態様においては、前記エリア設定手段は、前記遅延検出手段によって検出された遅延量に応じて前記エリアを設定する
また、本発明の別の好ましい態様においては、前記送信手段は、前記送信データとともに、当該送信データと対になっている前記推定時刻情報を送信する。
【0009】
また、本発明の別の好ましい態様においては、前記送信データ生成手段が生成する前記送信データは、楽音を示す楽音情報である。
また、本発明の別の好ましい態様においては、前記送信データ生成手段は、前記運動検出手段が検出した運動に基づいて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成する。
また、本発明の別の好ましい態様においては、前記送信データ生成手段は、前記検出手段の検出結果に基づいて前記物体が前記エリアに進入または前記エリアから脱出した位置を認識し、認識した位置に応じて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成する。
また、本発明の別の好ましい態様においては、楽音信号を生成し、前記時刻推定手段が推定した時刻に対応するタイミングにおいて前記楽音信号を放音する楽音放音手段を具備する。
【発明の効果】
【0010】
本発明によれば、演奏者はホワイトノイズ等の楽音ではない音を重畳させることなく、受信側の端末において遅れのない楽音を発音させることができる。
【発明を実施するための最良の形態】
【0011】
次に、この発明を実施するための最良の形態を説明する。
(A)構成
図1は、本実施形態に係るセッションシステムの全体構成を示すブロック図である。図1に示すように、このシステムは、セッション端末1,2が通信ネットワークにより接続されて構成される。なお、実際にはより多くのセッション端末が通信ネットワークにより接続されてシステムを構成することも可能であるが、説明の便宜上、省略する。また、この実施形態においては、セッション端末1とセッション端末2の各構成は同じであるとする。
【0012】
図2は、セッション端末1の構成を示す図である。12は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、その他の各種演算プロセッサからなり、ハードウェア回路の各部を制御する制御部である。13は、MIDI(Musical Instrument Digital Interface;登録商標)音源を有する音源部である。14は楽音信号処理回路14aと増幅器14b、スピーカ14cからなる放音部である。楽音信号処理回路14aはDSP(Digital Signal Processor)等であり、音源部13より受信したデジタル楽音信号をアナログのオーディオ信号に変換する。増幅器14bは楽音信号処理回路14aから受信したオーディオ信号を増幅する。スピーカ14cは増幅器14bから受信した増幅されたオーディオ信号を外部へ放音する。
【0013】
ここで、図3を用いて、セッション端末1の外観構成を説明する。セッション端末1の外観は図3(a)に示すように、扁平な箱状の筐体を有し、筐体の上面左側には、十字型の入力装置である十字キー11aが配置されている。筐体の上面右側には、4つの円形のボタン11bが配置されている。筐体上面の図面手前側左右には上述したスピーカ14cが配置されている。十字キー11aや4つのボタン11bは、図2に示すスイッチ群11を構成する。ここで、十字キー11aは音高を指定し、4つのボタン11bはそれぞれ効果音の付与を指定する。この実施形態においては、十字キー11aは右側が押されると音高が半音あがり、左側が押されると音高が半音さがり、上側が押されると音高が1オクターブあがり、下側が押されると音高が1オクターブ下がるように設定されている。4つのボタン11bはそれぞれが、楽音に対して残響効果の付与を指定したり、エコーやコーラス効果を指定したりするようになっている。この場合、制御部12は、十字キー11aのいずれの部分が押されたかを検出して、発音すべき音高を決定し、ボタン11bのいずれが押されたかによって楽音に付与すべき効果を決定するようになっている。なお、以下においては、4つのボタン11bのうち残響効果を指定するものが操作される場合を例にとって説明する。
【0014】
次に、図3(a)に示すように筐体上面の中央部には、方形状の操作盤22が配置されている。操作盤22は、ユーザがスタイラス21(操作子)により操作盤22の表面上の任意の箇所を指示すると、その位置を示す情報がセッション端末1に入力される。
図3(b)は、操作盤22を更に詳述する分解斜視図である。22aは方形状の透明感圧パネルであり、2層の透明電極パネル22a−1、22a−2がわずかな隙間をあけて重ねられて構成されている。透明電極パネル22a−1はパネル平面の水平方向に帯状電極が並べられたものであり、透明電極パネル22a−2はパネル平面の垂直方向に帯状電極が並べられたものである。透明感圧パネル22aの表面にスタイラス21を押し付けると、2層の透明電極パネルがスタイラス21によって押し付けられた部分で接するため、その部分を通過する水平・垂直両方向の帯状電極に流れる電流よって、押圧位置を検知することが可能になっている。22bは透明感圧パネル22aと同形の方形状の液晶ディスプレイであり、透明感圧パネル22aの下部に重ねて配置されている。液晶ディスプレイ22bの下部には図示しない光源があり、当該光源より照射された光のうち液晶ディスプレイ22bを透過した光は、透明感圧パネル22aを通過して、外部に達する。これにより、液晶ディスプレイ22bに表示されている画像を外部から視認することができる。
【0015】
本実施形態においては、液晶ディスプレイ22bが帯状の表示を行うにより、領域を表示するようになっており、その領域が、図3(a)に示すように、操作盤22の表面において視認される。以下においては、この領域を検知領域ACという。ここで、制御部12は操作盤22内の液晶ディスプレイ22bの表示制御に対応させて、透明感圧パネル22aの領域を区分して認識するようになっている。すなわち、液晶ディスプレイ22bに表示された検知領域ACと同じ領域が透明感圧パネル22aについても認識される。
本実施形態の場合、検知領域ACは液晶ディスプレイ22bによって黒色で表示され、操作盤22の幅方向の左右の余白は白色で表示されるようになっている。以下においては、操作盤22の幅方向の左右の白色部分を、左側信号発生領域ALと右側信号発生領域ARという。このようにして操作盤22の表面は、左側信号発生領域ALと右側信号発生領域ARと、両者の間に挟まれた検知領域ACの3つの領域に区分され、検知領域ACと左側信号発生領域ALとの境界、および検知領域ACと右側信号発生領域ARとの境界がユーザにとって明確に視認できる。また、検知領域ACの幅wは、後述する処理によって可変されるようになっている。
【0016】
次に、図2に示す16は、タイマであり、時刻を示す時刻情報を常時発生している。17は、通信インターフェース等を有する通信部である。本実施形態においては、制御部12の制御の下、スイッチ群11の操作や操作盤22の操作に対応した楽音信号が生成されるが、通信部17は、この楽音信号を通信ネットワークを介してセッション端末2に送信する一方、セッション端末2から送信された楽音信号を受信する。
18は、セッション端末を制御する基本OS(Operating System)や、セッション端末で用いるアプリケーションソフトウェアなどが記憶される記憶部である。また、この記憶部18には、制御部12の演算処理におけるワーク領域が設定されている。
19は外部インターフェース(IF)であり、外部機器との入出力を行う。なお、図において、BUSは、以下に説明するセッション端末1が有する各構成要素間のデータ授受を仲介するバスである。
【0017】
(B)動作
次に、本実施形態の動作について説明する。図4(a)、図4(b)、図4(c)はセッション端末1の制御動作を示すフローチャートである。図4(a)に示すフローチャートは割込処理によって所定の間隔で起動される処理である。まず、ステップS101では、制御部12によってネットワークの遅延量Tdが測定される。ネットワークの遅延量Tdとは、セッション端末1から送信された信号がセッション端末2に到達するまでの時間である。この実施形態においては、制御部12は、セッション端末2に定期的にパケットを送信することによって遅延量Tdを計算している。より詳しく言えば、送信したパケットがセッション端末2によって返信され、その往復に要した時間から遅延量Tdを算出するようにしている。
次に、ステップS102に移ると、制御部12は、ステップS101で求めた遅延量Tdに基づいて検知領域ACの幅wを決定する。ここでは、遅延量Tdが大きいほど幅wは大きく、遅延量Tdが小さいほど幅wは小さくなるように演算される。そして、制御部12は、決定した幅wに応じて液晶ディスプレイ22bに表示する検知領域ACの幅を制御するとともに、透明感圧パネル22aについての検知領域の幅も新たな幅wとして認識する。
以上により図4(a)に示す割込処理が終了し、以後は割込周期毎に同様の処理が繰り返される。これにより、遅延量Tdの測定と検知領域ACの幅wの算出が実質的に常時行われることになる。
【0018】
一方、制御部12は、操作盤22のどの部分が押圧されているかを常時監視しており、押圧位置が検知領域ACに至ったか否かを、図4(b)に示すフローチャートのステップS103を循環することより監視している。そして、セッション端末1の演奏者が、演奏を開始するために、左側信号発生領域ALに置いたスタイラス21を移動させると、これに伴って、操作盤22が検知している押圧位置が移動する。制御部12は、この押圧位置が検知領域ACに進入した時点で、演奏操作が開始されたと判断する(S103;YES)。押圧位置が検知領域ACに進入してない場合は、演奏操作が開始されていないとして待機状態を維持する(S103;NO)。
そして、制御部12は、演奏操作が開始されたと判定した場合には、その時刻を測定開始時刻t0として検出する。また、制御部12は、十字キー11aの操作を検出して音高を決定し、ボタン11bの入力に応じて残響効果を決定する。これらの音高および残響効果は楽音信号sd1の属性として制御部12内のRAMに記憶される(S104)。なお、楽音の音色も楽音信号の属性となるが、この実施形態における楽音信号の音色はピアノやギターなどの減衰音を現す音色が設定されている。なお、どのような音色を指示するかは、予め決められているが、これを任意に変更できるように構成してもよい。
次に、スタイラス21が検知領域ACに入ってから、予め定められている距離(以下、測定距離sという)を移動すると、ステップS105の判定がYESとなってステップS106に進んで到達予測時刻tfを演算する。到達予測時刻tfとは、スタイラス21が検知領域ACを脱出して右側信号発生領域ARに到達すると予想される時刻である。この演算は以下のようにして行われる。
制御部12は、スタイラス21が検知領域ACに入ってから測定距離sを移動した時刻(以下、測定終了時刻tsという)(S105;YES)で、スタイラス21の速度を演算し、スタイラス21が右側信号発生領域ARへ到達する到達時間予測処理をする(S106)。ここで、図5を用いて、到達時間予測処理法について説明する。なお、本実施形態では、スタイラス21の運動は等速直線運動であるとする。
【0019】
図5に示すように、検知領域AC(矩形)の幅はw、測定距離はsである。検知領域ACにおける座標を、幅方向であるx成分と、高さ方向であるy成分によって(x,y)と表すこととし、スタイラス21が検知領域ACに進入した時点(測定開始時刻t0)の座標を(x0,y0)とし、測定終了時刻tsにおけるスタイラス21の座標を(xs,ys)と表す。制御部12はこれらの座標を透明電極パネルの帯状電極を介して認識している。ここで、測定開始時刻t0から測定終了時刻tsまでの間にスタイラス21が移動した距離のx成分Δxとy成分Δyはそれぞれ、
Δx=|xs−x0|
Δy=|ys−y0|
で表すことができる。また、スタイラス21が検知領域ACに進入してから(測定開始時刻t0)測定距離sを移動するまで(測定終了時刻ts)の時間T0(以下、測定時間T0という)は、
T0=ts−t0
で、求めることができる。この場合、測定距離sを移動する移動速度vは
v=s/T0
である。スタイラス21が検知領域ACに進入してから、検知領域ACを脱出するまでに移動する距離Lは
L=w・s/Δx
であり、スタイラス21は距離Lを前述の移動速度vのまま通過するので、通過にかかる時間、すなわち測定時間T0と予測到達時間T1の和は、
T0+T1=L/v=T0・w/Δx
となる。したがって、予測到達時間T1は
T1=T0・(w/Δx − 1)
の式で演算が可能となる。
【0020】
次に、図4(b)で示すように、制御部12は遅延量Tdと予測到達時間T1を比較し(S107)、遅延量Tdが予測到達時間T1より大であれば(S107;NO)、楽音信号sd1はただちに通信部17を介してセッション端末2へ送信される(S108)。遅延量Tdが予測到達時間T1より小であれば(S107;YES)、制御部12は、次に示す演算処理により特定される送信予定時刻tpにセッション端末2へ楽音信号sd1を送信するように通信部17を設定する(S109)。
【0021】
次に、図6を用いて、送信予定時刻tpの演算処理を説明する。図6は、予測動作を、時間軸に沿って示した図である。横軸は時間の流れを示し、測定開始時刻t0と測定終了時刻tsとの間の時間は測定時間T0であり、測定終了時刻tsに、前述の演算により得られた予測到達時間T1を加算した時刻が予測到達時刻tfである。そこで制御部12は、予測到達時刻tfより遅延量Tdだけ早い時刻を送信予定時刻tpとして演算し、この送信予定時刻tpにセッション端末1から楽音信号sd1を送信するように、通信部17を設定する。送信先であるセッション端末2では、セッション端末1から送信された楽音信号sd1を受信した時点で、ただちにこれを放音するので、セッション端末2において、楽音信号sd1を予測到達時刻tfに発生させることができる。この送信は、制御部12が、送信予定時刻tpと楽音信号sd1の組み合わせを通信部17に設定し、通信部17が設定された送信予定時刻tpとタイマ16によって得られる現在の時刻tを比較し、一致したタイミングでおこなう。時刻の比較には任意に許容誤差を設けてもよい。また、通信部17において送信される楽音信号は本実施形態の場合は、発音の開始を指示するキーオン、楽音の属性を示す音高、音色、効果(残響など)がMIDI形式の信号として出力される。
【0022】
次に、制御部12はスタイラス21の位置を監視し、スタイラス21が検知領域ACを脱出していない間は、待機状態を維持する(S110;NO)。スタイラス21が検知領域ACを脱出して右側信号発生領域ARへ到達したことを操作盤22が検知すると(S110;YES)、制御部12は、RAMに記憶された楽音信号sd1を音源部13に送り、音源部13は送られた楽音信号sd1を、放音部14を用いて、発生させる(S111)。このタイミングは、通信部17が楽音信号sd1を送信した時刻tpに遅延量Tdを加えた時刻に対応するから、放音部14の放音とセッション端末2における放音のタイミングは一致する。このように、セッション端末1とセッション端末2で同時に楽音を発音させることができ、セッションを行うことが可能となる。
また、セッション端末1の演奏者は、操作盤22に表示されている検知領域ACを見ながらスタイラス21を操作するから、スタイラス21が右側信号発生領域ARへ到達した瞬間を楽音の発音と結び付けて認識するため、検知領域の幅wの増減によってネットワークの遅延を意識しながら演奏のタイミングを調整することができる。なお、演奏操作は、スタイラス21を左側から右側へ操作するように設定してもよいが、左右対称に演奏操作できるようにしてもよい。すなわち、左右いずれかの信号発生領域から検知領域ACへの移動によって測定を開始し、検知領域ACから左右いずれかの信号発生領域への移動を予測して楽音発生タイミングを認識するように構成してもよい。また、発音タイミングには任意に許容誤差を設けてもよい。
【0023】
次に、図4(c)に示すフローチャートは割込処理によって所定の間隔で起動される処理である。制御部12は通信部17の受信状態を監視し、通信部17がセッション端末2から送信された楽音信号sd2を受信していれば(S113;YES)、セッション端末2から送信された楽音信号sd2を、随時、音源部13に送り、音源部13は送られた楽音信号sd2を、放音部14を用いて発生させる(S114)。以上の図4(a)〜図4(c)の動作は図示しないスイッチによる演奏終了を示す入力がされるまで続けられる(S112)。
なお、上述した実施形態においては、楽音信号の属性として音色や残響(音響効果)が設定される例を示したが、スタイラス21の移動速度vに基づいて音の強さを示すベロシティデータを生成し、これを属性として含めて送信してもよい。
【0024】
<変形例>
以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限定されることなく、他の様々な形態で実施可能である。以下にその一例を示す。
(変形例1)
上記実施形態では、検知領域ACを単一の領域としたが、検知領域ACを縦方向に分割して、縦方向の位置を楽音信号sd1の属性(音高、音色、音の強さ、ベロシティなど)に関連付けてもよい。この形態の一例を図7を用いて説明する。図7に示すように、検知領域ACは上下に複数に分割されており、制御部12の制御の下に、液晶ディスプレイ22bにより当該分割の境界線が表示されていると同時に、それぞれの分割の領域を示す情報が制御部12のRAM上に記憶されており、操作盤22内の透明感圧パネル22aで検知される位置情報を当該分割の領域を示す情報と照らし合わせることにより、スタイラス21が分割した領域のいずれに位置しているかが認識される。AC−onは発音領域であり、縦方向にAC−1、AC−2、・・・AC−nのn個に分割され、それぞれの位置が制御部12によって音高に関係付けられてRAMに記憶されている。これらの関係は、液晶表示によってユーザに認識可能となっている。また、AC−offは消音領域であり、AC−onと同様にその位置は制御部12によって消音に関係付けられてRAMに記憶されており、ユーザには文字や色彩などの液晶表示によって、音を消すための領域であることが認識可能となっている。操作盤22内の透明感圧パネル22aはスタイラス21が進入した検知領域ACにおける縦方向の位置情報を制御部12へ送信し、制御部12は当該位置に基づいて、この入力が発音か消音のいずれの指示であるかを判定する。さらに、縦方向位置が発音領域であれば音高も決定する。なお、音高は、進入位置で定めるだけでなく、脱出位置を推測して定めても良い。例えば、スタイラス21の軌跡は常に直線であることを前提として、図5を用いて説明すると、スタイラス21の進行方向が検知領域ACを幅方向に対して水平でない場合は、スタイラス21の検知領域ACにおける進入位置と脱出位置のそれぞれの縦方向成分は
m=L・Δy/s
だけ異なる。したがって、この差異mに基づいてスタイラス21が検知領域ACに進入した時点で検知した進入位置の情報を補正することで、脱出位置が推測され、これに応じた音高を決定することができる。
また、検知した進入位置と推測した脱出位置のいずれか一方のみの位置によって一定の音高を発音するだけではなく、発音から消音までの音高が、検知した進入位置と推測した脱出位置のそれぞれに応じるように変化してもよい。この場合、音高の変化は時間に対して線形的な変化でもよいし、スタイラス21の軌跡に関係付けてもよい。
また、前述した実施形態においても操作盤22に消音領域を表示して、消音指示を行うように構成してもよい。設定した音色がバイオリンやオルガンのように継続音の音色の場合は、消音指示があると好適である。
【0025】
(変形例2)
また、操作盤22の操作面は方形状に限られず、一次元的な形状でもよい。例えば、図8の(a)に示すように操作面は棒状の矩形であってもよい。さらに、一次元的な操作を行う場合は、操作盤22は、図8の(b)に示すように半固定抵抗器を用いたスライダースイッチやスライドボリュームによって実現してもよい。
また、実施形態においては、スタイラス21と操作盤22の接触により位置情報を入力するようにしたが、非接触の検知方法、例えば、光学的な検知方法を用いてもよい。光学的検知方法の例としては、操作盤がブラウン管であり、操作子としてスタイラス21に替えてライトペンを用いる方法がある。これはブラウン管の画面上の走査線をライトペンで受光して、ライトペンが受光したタイミングから位置情報を獲得するというものである。
また、上記実施形態では透明電極パネルを通る電流を検知したが、電圧や静電容量の分布を検知してもよい。
また、操作盤22の操作面は平面に限られず、曲面であってもよい。位置の入力装置は、図9に示すような、回転軸を有するハンドルや円盤状テーブルによって実現してもよい。なお、ハンドルのように操作子の軌道が円である場合には、必ずしも信号発生領域は複数必要ではなく、回転軸を基点として所定の角度で示される扇形領域を信号発生領域としてもよい(図9参照)。
【0026】
(変形例3)
上記実施形態では、スタイラス21が移動する検知領域ACは矩形であることを前提としたが、台形や円であってもよいし、任意の境界を持つものでもよい。すなわち、制御部12が認識可能な領域であれば、領域の形状はどのような形状であってもよい。
【0027】
(変形例4)
また、上記実施形態では、制御部12は予め設定された測定距離sを用いて測定時間T0を演算したが、測定距離sは遅延量Tdに応じて設定してもよいし、手動で設定してもよい。また、測定距離sに基づいて測定時間T0を演算することに替えて、逆に測定時間T0を基準にし、この基準時間内にどれだけ移動したかを測定してスタイラス21の移動速度を検出してもよい。この場合、前述と同様に、測定時間T0は予め固定値を設定してもよいし、手動で設定しても、遅延量Tdに応じて設定してもよい。また、上記実施形態ではスタイラス21の運動は等速直線運動と仮定したが、曲線運動でもよいし、加速運動であってもよい。測定開始時刻t0から測定終了時刻tsまでを複数に分割し、それぞれの時刻と位置情報から速度、加速度を算出し、これらの値から、所定の関数のパラメータを求めて、得られたパラメータで特定される関数によって、予測到達時間T1を算出してもよい。なお、この算出には、周知のアルゴリズム(例えば、最小二乗法)などを用いることができる。
【0028】
(変形例5)
また、上記実施形態では、楽音信号sd1はMIDIデータとしたが、波形データでもよい。また、送信するデータは楽音信号に限らなくてもよい。例えば、セッション端末2において、予測到達時刻tfに楽音を発生させる替わりに、セッション端末2の外部IFに接続された発光ダイオードを発光させてもよい。すなわち、ユーザの表現に応じたタイミングで送信先のセッション端末における出力が制御可能としてもよい。
【0029】
(変形例6)
また、上記実施形態では、検知領域の幅wが遅延量Tdに応じて変化し、その変化する検知領域の幅wが液晶ディスプレイ22bによって表示されていたが、検知領域の幅wがユーザにとって大きく変化しないような場合には、表示される幅は固定してもよい。この場合、この幅は、必ずしも液晶ディスプレイ22bによって表示されなくてもよく、操作盤22に直接着色することによって表示されていてもよい。また、表示される幅は演奏のしやすさに応じて任意に変えてもよく、さらにユーザが検知領域の幅を認識しているような場合や、検知領域の幅を認識することが演奏にとって重要でない場合には、これらの「幅の表示」をおこなわなくてもよい。ただし、制御部12が認識する透明感圧パネル22a上の検知領域の幅wについては上記実施形態と同様である。
【0030】
(変形例7)
また、上記実施形態では、楽音信号はピアノやギターなどの減衰音を現すMIDIデータとしたが、楽音信号に継続音を用いる場合には、4つのボタン11bのうち、いずれかを消音の指示に割り当ててもよい。また、次の音が発音されるタイミングで前の音を消音してもよい。
【0031】
(変形例8)
また、上記変形例1に係る実施形態では、予測到達時刻tfにおけるスタイラス21の位置は予測通りになっていることを前提としたが、予測到達時刻tfにおけるスタイラス21の位置を検知するようにしてもよい。この場合、スタイラス21が予測到達時刻tfに右側信号発生領域AR(あるいは左側信号発生領域AL)へ到達しなかったことを検知したら、制御部12は、測定開始時刻t0からの入力を誤入力として処理し、楽音信号sd1の送信前であれば、RAMの記憶を消去し、送信後であれば、送信された信号を訂正する信号を送信するのが好適である。
【0032】
(変形例9)
また、上記実施形態では、検知領域ACをスタイラス21が横断する一動作(ストローク)につき単一の音が発音されたが、複数の音が発音されてもよい。例えば、液晶ディスプレイ22bによって、操作盤22内に縦方向に複数の弦が表示され、弦の部分をスタイラス21が通過するごとに音が発音されるようにしてもよい。この場合、弦と弦の間の矩形は検知領域とし、弦を表示している部分は信号発生領域としてもよい。
【0033】
(変形例10)
また、上記実施形態における制御に加えて、スタイラス21が検知領域AC内を移動する速度や加速度、あるいはスタイラス21が検知領域ACと接触する位置に応じて、ベロシティをはじめとして、音色、残響効果など楽音情報の属性を決定してもよい。
さらに透明感圧パネル22aにスタイラス21の筆圧強度を感知する機能を設け、その筆圧強度に応じて、前述の楽音情報の属性(例えば、ベロシティ)を決定してもよい。
【0034】
(変形例11)
また、上記実施形態では、セッション端末1からは楽音信号sd1のみを送信したが、楽音信号sd1と予測到達時刻tfの一組を送信してもよい。この場合に、セッション端末1で入力された楽音信号sd1は、対応する予測到達時刻tfとともにセッション端末2へ送信され、セッション端末2上の制御部12がこの一組の情報をRAMに記憶して、セッション端末2上の制御部12の制御の下、記憶された予測到達時刻tfに発音処理がなされるようにしてもよい。
さらに、楽音信号を送らずに、予測到達時刻tfのみを送信してもよい。例えば、セッション端末1とセッション端末2の間で予め楽音信号(音色や効果音などの属性)が取り決められているような場合には、予測到達時刻tfのみを送信すれば、セッション端末2において予測到達時刻tfにおいて予め取り決められた楽音信号を発音することができる。この場合、予測到達時刻tfは、キーオン信号またはキーオフ信号の機能を兼ねる。
【0035】
(変形例12)
また、上記実施形態では、検知領域ACは液晶ディスプレイ22bにより表示したが、操作盤平面の凹凸の差異や、スライダースイッチの摩擦抵抗など、力学的機構を用いて表現してもよい。例えば、図10に示すように、操作盤22の表面に沿って、幅方向に移動可能な2枚の薄板31を設置してもよい。この薄板31はスタイラス21で触れるユーザにクリック感を与えるもので、これによりユーザは検知領域の幅wを認識できると同時に、制御部12において、検知領域が特定される。すなわち、演奏者が視覚を用いなくても、測定開始と楽音発生のそれぞれを示す操作盤上の位置または境界を認識できさえすればよい。
【0036】
(変形例13)
また、上記実施形態では、割り込み処理があるごとに、遅延量Tdから検知領域の幅wを決定して表示したが、所定時間分の遅延量Tdを、RAM等に記憶させ、遅延量Tdの単位時間当たりの平均値に基づいて検知領域の幅wを決定してもよい。
【0037】
(変形例14)
また、上記実施形態では、表示機能を有する部分は液晶ディスプレイ22bのみであったが、図11に示すように、端末筐体に蓋を設け、その蓋側に操作盤22の液晶ディスプレイ22bとは別のフロント液晶ディスプレイ32を配置してもよい。このような構成の場合には、例えば、フロント液晶ディスプレイ32によってゲーム画面を表示することもでき、好適である。
【0038】
(変形例15)
また、上記実施形態では、セッション端末1の放音部14は、スタイラス21が検知領域ACを脱出して右側信号発生領域ARへ到達したことを検知して楽音を発生させたが、タイマ16が示す現在の時刻tを参照し、当該現在の時刻tが、RAMに記憶された予測到達時刻tfに至ったことを契機として楽音を発生させてもよい。
【0039】
(変形例16)
また、上記実施形態では、楽音信号sd1は送信予定時刻tpに送信されたが、送信予定時刻tpより前の任意の時刻に送信してもよい。
【図面の簡単な説明】
【0040】
【図1】本実施形態に係るセッションシステムの全体構成を示すブロック図である。
【図2】同実施形態のセッション端末1の構成の一例を示す図である。
【図3】同実施形態のセッション端末1の外観構成図及び操作盤22の分解斜視図である。
【図4(a)】同実施形態のセッション端末1の制御について、詳細な動作を示すフローチャートである。
【図4(b)】同実施形態のセッション端末1の制御について、詳細な動作を示すフローチャートである。
【図4(c)】同実施形態のセッション端末1の制御について、詳細な動作を示すフローチャートである。
【図5】同実施形態の楽音信号と到達時刻予測処理の演算方法を示す図である。
【図6】同実施形態の予測動作を、時間軸に沿って示した図である。
【図7】変形例1に係る実施形態の操作盤22の構成を示す図である。
【図8】変形例2に係る実施形態の棒状の操作面と、半固定抵抗器を用いたスライダースイッチを示す図である。
【図9】変形例2に係る実施形態の回転軸を有するハンドル型の操作子を示す図である。
【図10】変形例12に係る実施形態のセッション端末1の外観構成図である。
【図11】変形例14に係る実施形態のセッション端末1の外観構成図である。
【符号の説明】
【0041】
1,2…セッション端末、11…スイッチ群、12…制御部、13…音源部、14…放音部、16…タイマ、17…通信部、18…記憶部、19…外部IF、21…スタイラス、22…操作盤、
【特許請求の範囲】
【請求項1】
通信ネットワークを介して他の通信端末と通信を行うセッション端末において、
表面に物体が位置することが可能な面部材であって、前記物体が前記表面に沿って移動可能である面部材と、
前記面部材の表面上における前記物体の位置を検出する検出手段と、
前記検出手段が検出した位置の変化に基づいて前記物体の運動を検出する運動検出手段と、
前記面部材の面において所定のエリアを設定するエリア設定手段と、前記エリア設定手段が設定したエリアにおいて前記運動検出手段が検出した運動に基づき前記物体が前記エリア外に出る時刻を推定し、推定時刻情報を生成する時刻推定手段と、
前記推定時刻情報が生成されると当該推定時刻情報と対になる送信データを生成する送信データ生成手段と、
前記送信データ生成手段により生成された送信データを、当該送信データと対になっている推定時刻情報が示す時刻より早い時刻に前記通信ネットワークを介して他の通信端末に送信する送信手段と
を具備することを特徴とするセッション端末。
【請求項2】
前記面部材の前記表面を構成する表示手段を具備し、
前記表示手段は、前記エリア設定手段により前記表面に設定される前記エリアに対応した面画像を表示することを特徴とする請求項1記載のセッション端末。
【請求項3】
前記表示手段は液晶表示装置であり、前記検出手段は前記液晶表示装置の表示面に重ねて設けられ、前記物体が接触した位置を検出し得る透明性を有する接触検出パネルであることを特徴とする請求項2記載のセッション端末。
【請求項4】
前記通信ネットワークの遅延量を検出する遅延検出手段を設け、前記送信手段は前記遅延検出手段が検出した遅延量に応じて前記送信データの送信タイミングを決定することを特徴とする請求項1乃至3いずれかに記載のセッション端末。
【請求項5】
前記エリア設定手段は、前記遅延検出手段によって検出された遅延量に応じて前記エリアを設定することを特徴とする請求項4記載のセッション端末。
【請求項6】
前記送信手段は、前記送信データとともに、当該送信データと対になっている前記推定時刻情報を送信することを特徴とする請求項1乃至5いずれかに記載のセッション端末。
【請求項7】
前記送信データ生成手段が生成する前記送信データは、楽音を示す楽音情報であることを特徴とする請求項1乃至6いずれかに記載のセッション端末。
【請求項8】
前記送信データ生成手段は、前記運動検出手段が検出した運動に基づいて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成することを特徴とする請求項7記載のセッション端末。
【請求項9】
前記送信データ生成手段は、前記検出手段の検出結果に基づいて前記物体が前記エリアに進入または前記エリアから脱出した位置を認識し、認識した位置に応じて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成することを特徴とする請求項7又は8に記載のセッション端末。
【請求項10】
楽音信号を生成し、前記時刻推定手段が推定した時刻に対応するタイミングにおいて前記楽音信号を放音する楽音放音手段を具備することを特徴とする請求項1乃至9いずれかに記載のセッション端末。
【請求項1】
通信ネットワークを介して他の通信端末と通信を行うセッション端末において、
表面に物体が位置することが可能な面部材であって、前記物体が前記表面に沿って移動可能である面部材と、
前記面部材の表面上における前記物体の位置を検出する検出手段と、
前記検出手段が検出した位置の変化に基づいて前記物体の運動を検出する運動検出手段と、
前記面部材の面において所定のエリアを設定するエリア設定手段と、前記エリア設定手段が設定したエリアにおいて前記運動検出手段が検出した運動に基づき前記物体が前記エリア外に出る時刻を推定し、推定時刻情報を生成する時刻推定手段と、
前記推定時刻情報が生成されると当該推定時刻情報と対になる送信データを生成する送信データ生成手段と、
前記送信データ生成手段により生成された送信データを、当該送信データと対になっている推定時刻情報が示す時刻より早い時刻に前記通信ネットワークを介して他の通信端末に送信する送信手段と
を具備することを特徴とするセッション端末。
【請求項2】
前記面部材の前記表面を構成する表示手段を具備し、
前記表示手段は、前記エリア設定手段により前記表面に設定される前記エリアに対応した面画像を表示することを特徴とする請求項1記載のセッション端末。
【請求項3】
前記表示手段は液晶表示装置であり、前記検出手段は前記液晶表示装置の表示面に重ねて設けられ、前記物体が接触した位置を検出し得る透明性を有する接触検出パネルであることを特徴とする請求項2記載のセッション端末。
【請求項4】
前記通信ネットワークの遅延量を検出する遅延検出手段を設け、前記送信手段は前記遅延検出手段が検出した遅延量に応じて前記送信データの送信タイミングを決定することを特徴とする請求項1乃至3いずれかに記載のセッション端末。
【請求項5】
前記エリア設定手段は、前記遅延検出手段によって検出された遅延量に応じて前記エリアを設定することを特徴とする請求項4記載のセッション端末。
【請求項6】
前記送信手段は、前記送信データとともに、当該送信データと対になっている前記推定時刻情報を送信することを特徴とする請求項1乃至5いずれかに記載のセッション端末。
【請求項7】
前記送信データ生成手段が生成する前記送信データは、楽音を示す楽音情報であることを特徴とする請求項1乃至6いずれかに記載のセッション端末。
【請求項8】
前記送信データ生成手段は、前記運動検出手段が検出した運動に基づいて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成することを特徴とする請求項7記載のセッション端末。
【請求項9】
前記送信データ生成手段は、前記検出手段の検出結果に基づいて前記物体が前記エリアに進入または前記エリアから脱出した位置を認識し、認識した位置に応じて前記楽音の属性を決定し、当該属性を有する楽音の楽音情報を生成することを特徴とする請求項7又は8に記載のセッション端末。
【請求項10】
楽音信号を生成し、前記時刻推定手段が推定した時刻に対応するタイミングにおいて前記楽音信号を放音する楽音放音手段を具備することを特徴とする請求項1乃至9いずれかに記載のセッション端末。
【図1】
【図2】
【図3】
【図4(a)】
【図4(b)】
【図4(c)】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4(a)】
【図4(b)】
【図4(c)】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2008−216678(P2008−216678A)
【公開日】平成20年9月18日(2008.9.18)
【国際特許分類】
【出願番号】特願2007−54575(P2007−54575)
【出願日】平成19年3月5日(2007.3.5)
【出願人】(000004075)ヤマハ株式会社 (5,930)
【Fターム(参考)】
【公開日】平成20年9月18日(2008.9.18)
【国際特許分類】
【出願日】平成19年3月5日(2007.3.5)
【出願人】(000004075)ヤマハ株式会社 (5,930)
【Fターム(参考)】
[ Back to top ]