説明

セッション端末及びネットワークセッションシステム

【課題】端末ユーザに適した調で演奏し容易に楽器演奏乃至歌唱のセッションを行う。
【解決手段】このネットワークセッションシステムでは、ユーザ端末Aは、ユーザAが所望する所定調でバック演奏情報を再生してバック演奏を行い、ユーザAがバック演奏に合わせて所定調で楽器演奏乃至歌唱をすると、バック演奏情報及びユーザAの楽器演奏乃至歌唱の内容を表わすユーザ演奏情報をユーザ端末Bへと送信する。ユーザ端末Bは、バック演奏情報やユーザ演奏情報を、ユーザBが所望する任意の設定調に移調した上で再生し、ユーザBが、この再生によるバック演奏やユーザAの楽器演奏乃至歌唱を聴きながら楽器演奏乃至歌唱をすると、ユーザBの楽器演奏乃至歌唱の内容を表わすユーザ演奏情報を所定調に逆移調した上でユーザ端末Aに戻す。ユーザ端末A側では、ユーザBの演奏がユーザA所望の所定調の音楽として聴こえるので、違和感のないセッションが可能となる。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、インターネットなどの通信ネットワークを介して接続された複数の電子音楽端末の間で演奏などのセッションを行うネットワークセッションシステムに関する。
【背景技術】
【0002】
従来より、インターネットなどの通信ネットワークを介した楽器の演奏(合奏)やデュエット等の合唱などの音楽的なセッションを可能とした技術が知られている。例えば、特許文献1の合奏システムでは、自端末(A)での演奏動作を表わす演奏情報が入力タイミングと処理タイミングとの間の遅延時間を制御することで、通信ネットワークを介した合奏を可能にしている。また、一般に、楽器演奏のセッションやカラオケのデュエット等は、或る楽曲を共通の調で演奏乃至歌唱している。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4259329号公報
【0004】
しかしながら、通信ネットワークを介した音楽的なセッションにおいて、デュエットを行う場合は、ユーザごとに歌える音域(調)が異なることが多く、同じ調で歌唱することができない可能性があり、楽器演奏の合奏を行う場合には、ユーザのスキルによっては所定の調(ハ長調やイ短調)でしか楽器演奏ができないこともあり、スキルの高いユーザがスキルの低いユーザに合わせた調で楽器演奏をする必要があった。
【発明の概要】
【発明が解決しようとする課題】
【0005】
この発明は、このような事情に鑑み、通信ネットワークを介して音楽的なセッションを行う際に端末ユーザに適した調で演奏を行い容易に楽器演奏乃至歌唱などのセッションを行うことができるネットワークセッションシステムを提供することを目的とする。
【課題を解決するための手段】
【0006】
〔解決策の概要〕
この発明によるネットワークセッションシステムでは、端的にいうと、図1に示すように、ユーザ端末A側で所定調で行われるバック演奏やユーザ演奏(楽器演奏乃至歌唱)の情報が他のユーザ端末Bへと送信され、任意に設定された調(設定調という)に移調され、ユーザ端末Bのユーザがバック演奏やユーザAの演奏を設定調で聴きながら演奏を行うと、当該演奏の情報は、所定調に逆移調されてユーザ端末A側に戻される。つまり、ユーザ端末Aは、ユーザAが所望する所定調でバック演奏情報を再生してバック演奏を行い、ユーザAがバック演奏に合わせて所定調で楽器演奏乃至歌唱をすると、バック演奏情報及びユーザAの楽器演奏乃至歌唱の内容を表わすユーザ演奏情報をユーザ端末Bへと送信する。ユーザ端末Bは、バック演奏情報やユーザ演奏情報を、ユーザBが所望する任意の設定調に移調した上で再生し、ユーザBが、この再生によるバック演奏やユーザAの楽器演奏乃至歌唱を聴きながら楽器演奏乃至歌唱をすると、ユーザBの楽器演奏乃至歌唱の内容を表わすユーザ演奏情報を所定調に逆移調した上でユーザ端末Aに戻す。ユーザ端末A側では、ユーザBの演奏がユーザA所望の所定調の音楽として聴こえるので、ユーザAは所定調で演奏を持続し、違和感のない合奏やデュエット等のセッションが可能となる。
【0007】
〔解決手段の構成〕
従って、この発明の具体的な解決手段の構成について説明すれば、端末構成上の特徴に従うと、通信ネットワーク(CN)を介して通信可能に接続された他のセッション端末(TMa)と共にネットワークセッションシステムを構成するセッション端末(TMb,…,TMd)であって、他のセッション端末(TMa)と通信するための通信手段(10)と、他のセッション端末(TMa)から通信手段(10)を通じて受信されるバック演奏情報(Bp)及び他のセッション端末のユーザ演奏(13−6,14−7)に基づく他端末ユーザ演奏情報(Upa)を移調する移調手段(B1sn,B1sp;B3sn,B3sp)と、移調手段(B1sn,B1sp;B3sn,B3sp)により移調されたバック演奏情報(Bp)及び他端末ユーザ演奏情報(Upa)を再生すると共に、このセッション端末のユーザ演奏(13−6,14−7)に基づく自端末ユーザ演奏情報(Upb)を再生する演奏再生手段(B1〜B3;9)と、自端末ユーザ演奏情報(Upb)を逆移調すると共に、逆移調された自端末ユーザ演奏情報(Upb)を通信手段(10)を通じて他のセッション端末(TMa)に送信する逆移調手段(B3rn,B3rp)とを具備するセッション端末(TMb,…,TMd)〔請求項1〕が提供される。なお、括弧書きは、実施例の参照記号や箇所等を表わし、以下においても同様である。
【0008】
また、システム構成上の特徴に従うと、通信ネットワーク(CN)を介して通信可能に接続された第1セッション端末(TMa)及び第2セッション端末(TMb,…,TMd)により構成されるネットワークセッションシステムであって、第1セッション端末(TMa)は、第2セッション端末(TMb,…,TMd)と通信するための第1端末通信手段(10)と、バック演奏情報(Bp)及び第1セッション端末のユーザ演奏(13−6,14−7)に基づく第1ユーザ演奏情報(Upa)を第1端末通信手段(10)を通じて第2セッション端末(TMb,…,TMd)に送信する演奏情報送信手段(A1,A2a;A4,A5c)と、第2セッション端末(TMb,…,TMd)から第1端末通信手段(10)を通じて第2ユーザ演奏情報(Upb)を受信する演奏情報受信手段(A5)と、バック演奏情報(Bp)、第1ユーザ演奏情報(Upa)及び第2ユーザ演奏情報(Upb)を再生する第1端末演奏再生手段(A3〜A6;9)とを具備し、第2セッション端末(TMb,…,TMd)は、第1セッション端末(TMa)と通信するための第2端末通信手段(10)と、第1セッション端末(TMa)から第2端末通信手段(10)を通じて受信されるバック演奏情報(Bp)及び第1ユーザ演奏情報(Upa)を移調する移調手段(B1sn,B1sp;B3sn,B3sp)と、移調手段(B1sn,B1sp;B3sn,B3sp)により移調されたバック演奏情報(Bp)及び第1ユーザ演奏情報(Upa)を再生すると共に、第2セッション端末のユーザ演奏(13−6,14−7)に基づく第2ユーザ演奏情報(Upb)を再生する第2端末演奏再生手段(B1〜B3;9)と、第2ユーザ演奏情報(Upb)を逆移調すると共に、逆移調された第2ユーザ演奏情報(Upb)を第2端末通信手段(10)を通じて第1セッション端末(TMa)に送信する逆移調手段(B3rn,B3rp)とを具備するネットワークセッションシステム〔請求項2〕が提供される。
【発明の効果】
【0009】
この発明によるネットワークセッションシステムでは、通信ネットワーク(CN)で接続されシステムを構成する複数のセッション端末(TM:TMa,TMb,…,TMd)のうち、第1セッション端末と呼ばれる他のセッション端末(TMa)には、そのユーザが所望する所定の調(所定調という)で作成されたバック演奏情報(Bp)が用意され、このバック演奏情報(Bp)は、ネットワークセッションの際、システムのバック演奏に用いられ、第1セッション端末(TMa)で再生されるだけでなく、第2セッション端末と呼ばれるセッション端末(TMb,…,TMd)に送信される(A1,A2a)。第2セッション端末(TMb,…,TMd)では、そのユーザが所望する任意の調(設定調)が設定されており、受信した所定調のバック演奏情報(Bp)は設定調に移調された後(B1sn,B1sp)再生される(B1)。従って、第1セッション端末(TMa)のユーザは、所定調のバック演奏情報(Bp)に基づくバック演奏音を聴きながら(A3)、楽器演奏や歌唱などのユーザ演奏(13−6,14−7)を所望の所定調で行うことができ(A4〜A6)、第2セッション端末(TMb,…,TMd)のユーザは、所望の設定調に移調されたバック演奏情報(Bp)に基づくバック演奏音を聴きながら(B1)、楽器演奏や歌唱などのユーザ演奏(13−6,14−7)を所望の設定調で行うことができる(B2〜B3)。
【0010】
また、第1セッション端末(TMa)でユーザ演奏に基づき生成されるユーザ演奏情報(Upa)は、第2セッション端末(TMb,…,TMd)に送られ、設定調に移調された後(B3sn,B3sp)再生され(B3)、第1セッション端末(TMb,…,TMd)でユーザ演奏に基づき生成されるユーザ演奏情報(Upb)は、所定調に逆移調された後(B2rn,B2rp)、第1セッション端末(TMa)に戻されて再生される(A5〜A6)。従って、第1セッション端末(TMa)のユーザは、第2セッション端末(TMb,…,TMd)のユーザによる楽器演奏や歌唱などのユーザ演奏音についても所望の所定調で聴くことができ(A6)、第2セッション端末(TMb,…,TMd)のユーザは、第1セッション端末(TMa)のユーザによる楽器演奏や歌唱などのユーザ演奏音についても所望の設定調で聴くことができる(B3)。
【0011】
このように、この発明では、バック演奏情報を第1セッション端末から通信ネットワークを介して第2セッション端末へと送信し、第2セッション端末では、これを聴きながら楽器演奏乃至歌唱(ユーザ演奏)をすると共に、第2セッション端末における楽器演奏乃至歌唱の情報(ユーザ演奏情報)を第1セッション端末へ戻すようにして音楽的なネットワークセッションを行う際に、第2セッション端末では、受信したバック演奏情報を所望シフト量だけ移調し、移調後のバック演奏を聴きながら歌唱乃至演奏をし、この情報を所望逆シフト量だけ逆移調してから第1セッション端末へと戻すようにしている。従って、この発明によれば、通信ネットワークを介して音楽的なセッションを行う際に端末ユーザに適した調で演奏を行い容易に楽器演奏乃至歌唱などのセッションを行うことができる。
【図面の簡単な説明】
【0012】
【図1】この発明の概要を説明するための図である。
【図2】この発明の一実施例によるネットワークセッションシステムの構成を示す。
【図3】ネットワークセッションの通信遅延対策を説明するための図である。
【図4】ネットワークセッションの通信遅延対策に関する種々の実施形態を示す。
【図5】この発明の一実施例によるトランスポーズを含むネットワークセッションの一動作例を示す。
【図6】この発明の一実施例によるトランスポーズを含むネットワークセッションの他の動作例を示す。
【発明を実施するための形態】
【0013】
〔システム構成の概要〕
図2は、この発明の一実施例によるネットワークセッションシステムのシステム構成を示す。このネットワークセッションシステムは、図2(1)に示すように、セッション管理サーバSVと複数のセッション端末TM(記号“TM”はセッション端末を代表的に表わす):TMa〜TMdで構成され、セッション管理サーバSVは、メンバーとなるセッション端末TM間の接続支援、例えば、セッションの開始に先立って行われる各セッション端末TM同士の接続手続きなどを行う。各セッション端末TM間、例えば、セッション端末TMa〜TMd間で接続が成立した後は、セッション管理サーバSVを介することなく、これらセッション端末TMa〜TMd間において、MIDIデータやオーディオデータなどの演奏情報が送受信される。セッション管理サーバSVの動作は、よく知られているので、ここでは、より詳細な動作については説明を省略する。
【0014】
ネットワークセッションのメンバーとなる複数のセッション端末TMa〜TMdは、それぞれ、楽器演奏及び/又はカラオケが可能な電子音楽装置であり、これらセッション端末TMa〜TMdには、さらに、楽器演奏及び/又はカラオケのためのバック演奏機能を有するセッション端末がある。バック演奏機能を有するセッション端末のうち、メンバーの構成時に任意に設定された何れか1つのセッション端末は、「第1セッション端末」と呼ばれ、第1セッション端末のバック演奏機能をその時のネットワークセッションのバック演奏に利用することができる。この場合、第1セッション端末のバック演奏情報は、第1セッション端末で再生されると共に、「第2セッション端末」と呼ばれる残りの他のセッション端末に送信されて再生される。以下の説明では、セッション端末TMaが第1セッション端末として振る舞い、他のセッション端末TMb〜TMdが第2セッション端末として振る舞うものとする。また、個々のセッション端末TMa〜TMdについてはそれぞれ「セッション端末A〜D」で表わすものとする。
【0015】
図2(2)は、このネットワークセッションシステムを構成するセッション端末のハードウエア構成例を示すブロック図である。この発明の一実施例によるネットワークセッションシステムを構成するセッション端末TMは、電子的な音楽情報処理機能を有する一種のコンピュータであり、電子楽器や音楽情報処理アプリケーションがインストールされたパーソナルコンピュータ(PC)のような電子音楽装置を用いることができる。このセッション端末TMは、図1(1)に示すように、中央処理装置(CPU)1、ランダムアクセスメモリ(RAM)2、読出専用メモリ(ROM)3、記憶装置4、設定操作検出回路5、演奏操作検出回路6、アナログ−ディジタル(A/D)変換回路7、表示回路8、音源・効果回路9、通信インターフェース(I/F)10などを備え、これらの要素1〜10はバス11を介して互いに接続される。
【0016】
CPU1は、RAM2及ROM3と共にデータ処理部を構成し、ネットワークセッションプログラムを含む所定の制御プログラムに従い、ネットワークセッション処理を含む種々の情報処理を実行する。RAM2は、これらの処理に際して必要なデータを利用可能に保持するための記憶管理領域や各種データを一時記憶するためのワーク領域として用いられ、また、ROM3には、これらの処理を実行するために、ネットワークセッションプログラムを含む各種制御プログラムやプリセットされたデータ等が予め記憶される。
【0017】
記憶装置4は、HD(ハードディスク)、FD(フレキシブルディスク)、CD(コンパクトディスク)、DVD(デジタル多目的ディスク)、フラッシュメモリなどの半導体メモリなどの記憶媒体と、その駆動装置を含み、任意の制御プログラムや、バック演奏データを含むMIDI演奏データなどを任意の記憶媒体に記憶することができる。また、記憶媒体は、着脱可能であってもよいし、セッション端末TMに内蔵されていてもよい。
【0018】
設定操作検出回路5は、スイッチやマウス等の設定操作子(パネル操作子)12と共に設定操作部(パネル操作部)を構成し、設定操作子12の操作を検出して設定操作に対応する設定操作情報をデータ処理部(1〜3)に導入し、データ処理部は、この設定操作情報に基づき種々の設定を行う。演奏操作検出回路6は、鍵盤などの演奏操作子13と共に楽器演奏入力部を構成し、端末ユーザによる演奏操作子13の操作を検出して演奏操作に対応する演奏操作情報をデータ処理部に導入し、データ処理部は、演奏操作情報に基いて楽器演奏の内容をイベント列で表わしたイベント記述形式即ちMIDI形式の演奏データ(MIDI演奏データという)を作成し、音源・効果回路9に送る。A/D変換回路7は、マイクロフォン14と共に歌唱入力部を構成し、端末ユーザによる歌唱の演奏によりマイクロフォン14から入力された歌唱音声信号をディジタル信号に変換してデータ処理部に導入し、データ処理部は、歌唱音声の内容を波形で表わしたオーディオ形式の演奏データ(オーディオ演奏音データという)を音源・効果回路9に送る。表示回路8は、種々の設定、楽器演奏や歌唱などの演奏入力に必要な各種画面を表示するLCD等のディスプレイ15や、インジケータ/ランプ(図示せず)を備え、これらの表示・点灯内容をデータ処理部からの指令に従って制御し、設定や演奏入力などに関する表示援助を行う。
【0019】
音源・効果回路9は、MIDI形式のデータからオーディオデータを生成する音源部と、DSPを含み種々のオーディオデータ処理を行う効果部とを有し、サウンドシステム16と共に演奏再生部として機能する。例えば、音源部は、演奏操作検出回路6からの演奏操作情報から得られるMIDI演奏データ、或いは、ROM3、記憶装置4又は通信I/F10から得られるMIDI演奏データに基づいて、オーディオ演奏音データを生成し、効果部は、マイクロフォン14から入力されたオーディオ演奏音データや、音源部で生成されたオーディオ演奏音データ、或いは、通信I/F10などから得られるオーディオ演奏音データについて、所定の効果を付与したりミキシングを行い、オーディオ出力データを生成する。サウンドシステム16は、D/A変換部やアンプ、スピーカ(ヘッドフォンを含む)等を備え、音源・効果回路9からのオーディオ出力データに基づく楽音(楽器演奏音や歌唱音声)を発生する。
【0020】
通信I/F10は、MIDI等の音楽専用有線I/F、IEEE1394等の汎用近距離有線I/F、Ethernet(登録商標)等の汎用ネットワークI/F、無線LanやBluetooth(登録商標)等の汎用近距離無線I/Fなどの1又は複数を含み、インターネットなどの通信ネットワークCNを介して他のセッション端末との間でMIDI演奏データやオーディオ演奏音データを授受したり、サーバコンピュータ等の外部機器から制御プログラムやデータ等を受信して記憶装置4に保存することができる。
【0021】
なお、セッション端末TMとして電子楽器を使用しカラオケを行わない場合は歌唱入力部14−7は不要であり、セッション端末TMとして音楽情報処理アプリケーション付きPCを使用しカラオケのみを行う場合には楽器演奏入力部13−6は不要である。また、セッション管理サーバSVのハードウエア構成については、図2(2)とほぼ同様に構成されるが、楽器演奏入力部13−6や演奏再生部9−16は不要である。
【0022】
〔ネットワークセッションの通信遅延対策〕
図3は、この発明の一実施例によるネットワークセッションシステムに適用される通信遅延対策を説明するための図である。まず、このネットワークセッションシステムにおける情報授受の概要について説明すると、このシステムでは、第1セッション端末として機能するセッション端末Aで再生されるバック演奏情報データは、セッション端末Aにおいて再生されると共に(A1〜A3)、セッションメンバーである他のセッション端末B〜Dへも、MIDI演奏データの形式のまま或いはオーディオ演奏音データの形式に変換されて、バック演奏情報Bpとして送信される。バック演奏情報Bpがセッション端末Aから各セッション端末B〜Dに送られると、各セッション端末B〜Dでは、夫々の端末ユーザにより、受信したバック演奏情報Bpを再生すると共に(B1〜D1)、バック演奏情報(オーディオ)Bpの再生に合わせて楽器演奏及び/又は歌唱が行われる(B2〜D2)。この楽器演奏及び/又は歌唱の内容を表わし各セッション端末B〜Dで生成されるユーザ演奏データは、楽器演奏の場合はMIDI演奏データ又はオーディオ演奏音データであり、歌唱の場合はオーディオ演奏音データであり、当該セッション端末B〜Dのユーザ演奏情報Upb〜Updとしてセッション端末Aに送信される。
【0023】
セッション端末Aでは、セッション端末Aの端末ユーザにより、自機で再生されたバック演奏に合わせて楽器演奏及び/又は歌唱が行われると共に(A4)、他のセッション端末B〜Dの楽器演奏及び/又は歌唱とミックスされる(A5〜A6)。つまり、バック演奏とユーザによる楽器演奏及び/又は歌唱の内容を表わす演奏情報Bp,Upaは、音源・効果回路9内の効果部で、他のセッション端末B〜Dから受信したユーザ演奏情報Upb〜Updとミキシングされて再生される。これにより、バック演奏に合わせて各セッション端末A〜Dで楽器演奏及び/又は歌唱されたセッション音楽が完成する。
【0024】
完成したセッション音楽を表わす合奏データは、セッション端末Aで再生されるだけでもよいし、録音されてもよいし、通信ネットワークCNを介して他の装置(図示せず)へ送信してもよく、送信例としては、録音したファイルをファイル共有サーバにアップロードしたり、ネット生放送アプリケーションを使って生放送の聴取者端末へリアルタイムに送信する方法がある(A6)。さらに、合奏データを録音、送信するだけでなく、動画をも合わせて録画したり送信してもよい。
【0025】
さて、このネットワークセッションシステムは、各セッション端末A〜D間に或る程度の通信遅延が存在する環境にある。ここで、セッション端末間の通信遅延時間Tcとは、図3(1)に示すように、送信側及び受信側セッション端末TMs,Tmr間の純粋なネットワークCN上の通信遅延時間Tnに加え、両端末TMs,Tmrにおける演奏データ送信及び受信駆動部(オーディオ演奏音データの場合はオーディオドライバ、MIDI演奏データの場合はMIDIドライバ)DRs,DRrの送信及び受信動作遅延時間Tds,Tdrをも含んだ時間である。特に、送信動作遅延時間Tdsについては、送信側セッション処理部SPsの送信指示を受ける演奏データ送信駆動部DRs内の送信バッファBUsの動作遅延が占める割合が高く、受信動作遅延時間Tdrについても、演奏データの受信から受信側セッション処理部SPrでの再生開始に至るまでの動作を行う演奏データ受信駆動部DRr内の受信バッファBUrの動作遅延が占める割合が高い。
【0026】
このシステムでは、第1セッション端末として機能しバック演奏データを用意するセッション端末Aは、第2セッション端末として機能しセッション端末Aからのバック演奏データを利用する他のセッション端末B〜Dと通信することにより、セッション端末Aと他のセッション端末B〜Dとの間の純粋な通信遅延時間Tnを計測することができる。具体的には、セッション端末Aからパケット送信時刻ta1が付された遅延測定用パケットを各セッション端末B〜Dへと送信し、各セッション端末B〜Dにおいては、遅延測定用パケットを受信した時刻tk1及び応答時の時刻tk2を付した応答パケット(但し、添字「k」は、「b」〜「d」であり、各端末B〜Dに関わることを表わす)をセッション端末Aへと返信する。そして、セッション端末Aにおいて、応答パケットを受信した時刻ta2と上述した各時刻ta1、tk1、tk2に基づき、セッション端末B〜Dとの間の往復の遅延時間dkを次の式<1>で計算する。
dk = (ta2−ta1)−(tk2−tk1) …<1>
【0027】
ここで、時刻ta1,ta2は、セッション端末Aにおいて管理されている時刻であり、時刻tk1、tk2は各セッション端末B〜Dにおいて管理されている時刻である。従って、各端末A〜Dにおける絶対時刻は厳密に一致している必要はない。何故なら、式<1>から明らかなように、セッション端末Aにおけるパケット送信からパケット受信までの時間差、或いは、セッション端末B〜Dにおけるパケット受信からパケット送信までの時間差を求めており、絶対時刻の考慮は不要となるからである。
【0028】
このようにして求められた往復の遅延時間dkを2分の1した値は片道の純粋な通信遅延時間Tnとみなすことができる。厳密には、パケットの往路と復路とで通信遅延時間が同−とは限らないが、実装上は問題がない程度の差異であるので、この実施例では、往復の遅延時間の2分の1を片道の純粋な通信遅延時間Tnとして採用している。
【0029】
そして、得られた純粋な通信遅延時間Tnに送信動作遅延時間Tds及び受信動作遅延時間Tdrを加えて、片道の通信遅延時間Tcを求め、この片道の通信遅延時間Tcをモニター遅延時間Tmとして設定する。
【0030】
なお、計測した各セッション端末B〜Dとの通信遅延時間の値が異なることがあるが、その場合は、次の何れかの値を適宜採用すればよい。
(1)平均値。
(2)最大値。
(3)基本的には最大値を採用するが、所定の閾値(現実的にセッションを行い得る範囲の遅延時間)Ttを越える場合は該閾値Ttを採用する。
(4)各セッション端末B〜Dごとに異なる遅延時間を設定する(具体例は後述)。
【0031】
セッション開始の際は、図3(2)の機能ブロック図に示すように、セッション端末Aにおいて、バック演奏再生の指示があると(A1)、再生する所望のバック演奏データが記憶装置4から読み出され、これに対応するバック演奏情報Bpがセッション端末B〜Dに送信されると共に、設定されたモニター遅延時間Tm分だけ自機におけるバック演奏音の再生が遅延される(A2〜A3)。つまり、セッション端末Aは、バック演奏再生が指示された後(A1)モニター遅延時間Tmだけ経過したときに(A2)、演奏再生部9に当該バック演奏データの再生に基づくバック演奏音の放音を開始させる(A3)。
【0032】
セッション端末B〜Dは、セッション端末Aで再生されるバック演奏データに対応するバック演奏情報Bpを再生指示から通信遅延Tc分だけ遅れて受信し、受信したバック演奏情報Bpを再生して対応するバック演奏音を放音する(B1〜D1)。そこで、セッション端末B〜Dのユーザが、このバック演奏を聴きながら楽器演奏乃至(=及び/又は)歌唱をすると(B2〜D2)と、これに対応するユーザ演奏音が放音されると共に(B3〜D3)、当該楽器演奏乃至歌唱の内容を表わすユーザ演奏情報Upb〜Updがセッション端末Aに送信される。
【0033】
セッション端末Aでも、この端末のユーザが、自機で再生したバック演奏音を聴きながら楽器演奏乃至歌唱をすることができ(A4)、併せて、その内容を表わすユーザ演奏情報Upaがセッション端末B〜Dに送信される。なお、端末Aでのバック演奏音は、バック演奏の再生指示からモニター遅延時間Tm分だけ遅れて放音されているが、この遅れ(Tm)は、セッション端末Aが第2セッション端末として機能していた場合の遅れ(Tc)とほぼ等しく、セッション端末Aのユーザにとってはその影響は感じられない。また、端末Aのユーザによる楽器演奏乃至歌唱の内容に対応するユーザ演奏音データ(Upa)は、音源・効果回路9内の効果部で、バック演奏音データ(Bp)や、他のセッション端末B〜Dから受信したユーザ演奏情報Upb〜Updに対応するユーザ演奏音データと共にミキシングされ(A5)、これらの演奏音データを合わせたセッション演奏音が放音、録音乃至送信される(A6)。
【0034】
このようにして、他のセッション端末B〜Dでは、バック演奏音の放音(B1〜D1)から遅れることほぼモニター遅延時間Tm後に、セッション端末Aで楽器演奏乃至歌唱された音が放音され(B3〜D3)、セッション端末B〜Dのユーザは、これを聴きながら更に楽器演奏乃至歌唱をする。セッション端末B〜Dのユーザにとっては、セッション端末Aのユーザの楽器演奏乃至歌唱は、バック演奏から、ほぼ通信遅延時間Tcと等しいモニター遅延時間Tm分だけ遅れているが、このモニター遅延時間Tmが所定時間以内(例えば30ms以内)であればそれほど違和感なく楽器演奏乃至歌唱が可能である。また、セッション端末Aでも、バック演奏の放音(A3)から遅れること通信遅延時間Tc後に、セッション端末B〜Dで楽器演奏乃至歌唱されたユーザ演奏音が放音されるが(A6)、この通信遅延Tcが所定時間以内(例えば30ms以内)であれば、セッション端末B〜Dと同様に、それほど違和感なく楽器演奏乃至歌唱が可能である。
【0035】
仮に、セッション端末Aにおいて、モニター遅延を入れないと、図1(2)で既に説明したように、セッション端末Aのユーザの楽器演奏乃至歌唱による自機ユーザ演奏音の放音と、セッション端末B〜Dのユーザの楽器演奏乃至歌唱による他機ユーザ演奏音の放音とは、セッション端末B〜Dにおいてはこれら演奏音がほぼ同時に放音されるのに比べて、通信遅延Tcの往復分だけ(例えば60ms程度)ずれてしまい、他機ユーザ演奏音の遅延が大きくなり過ぎて違和感が大きい。このシステムでは、モニター遅延Tmを入れることで、セッション端末Aにおける自機ユーザ演奏音の遅延が半減し、しかも、セッション端末Aとセッション端末B〜Dとで両ユーザ演奏音の遅延が均一化される(各セッション端末A〜Dが第1セッション端末として機能する場合も第2セッション端末として機能する場合もほぼ同じ遅延となる)ので、違和感を軽減することができる。
【0036】
なお、各セッション端末B〜Dにそれぞれ異なる遅延時間を設定する場合〔前記(4)の場合〕について、その具体的な設定例を説明する。セッション端末Aにおけるモニター遅延時間Tmには、測定した各セッション端末との通信遅延時間のうちの最大値、或いは、前述した所定の閾値Tt〔前記(3)参照〕を設定する。また、各セッション端末B〜Dへは、「モニター遅延時間Tm−夫々の通信遅延時間Tc」(但し、所定の閾値Ttを設定した場合には、通信遅延時間Tcが該閾値Ttを越えるときは通信時間Tcに代えて該閾値Ttとする)だけ待ってからパック演奏情報Bpを送信する。
【0037】
例えば、セッション端末B,C,Dとの通信遅延時間Tcが、それぞれ、20ms、40ms、60msであった場合、セッション端末Aにおけるモニター遅延時間Tmには、最大値の60ms(閾値Tt=50msを設定した場合は50ms)を設定し、セッション端末Bへは、60−20=40ms(閾値Tt=50msを設定した場合は50−20=30ms)だけ遅らせてから送信し、セッション端末Cへは、60−40=20ms(閾値Tt=50msを設定した場合は50−40=10ms)遅らせてから送信し、セッション端末Dへは、60−60=0ms(閾値Tt=50msを設定した場合は50−50=0ms)、つまり、遅延なしで送信する。このようにすると、各セッション端末においてほぼ同時にバック演奏を鳴らすことができる。
【0038】
〔通信遅延対策に関する種々の実施形態〕
以上、このネットワークセッションの通信遅延対策について説明したが、種々の実施形態を採用することができる。図4は、この発明によるネットワークセッションシステムの種々の実施形態を説明するための機能ブロック図である。例えば、セッション端末Aでバック演奏を用意したり、各セッション端末A〜Dで楽器演奏をする場合、図4(1)に示すように、自端末Aに用意されたバック演奏データをMIDI形式とし、このMIDI形式のままバック演奏情報Bpとして他端末B〜Dへ送信したり、自端末A;B〜Dで生成されたMIDI形式のユーザ演奏情報Upa;Upb〜Updを他端末B〜D;Aへ送信してもよいし、図4(2)に示すように、自端末A;B〜Dにおける音源・効果回路9内の音源部にてオーディオ形式に変換された演奏音データ(A2a,A5c;B3c)をバック演奏情報Bp或いはユーザ演奏情報Upa;Upb〜Updとして他端末B〜D;Aへ送信してもよい。
【0039】
図4(1)のようにMIDIで送信する場合には、受信側の各セッション端末は、MIDIで受信した演奏情報Bp;Upを音源部(9)でオーディオ形式に変換してから(A3a,B1a;A5b,B3b)放音する(A3,B1;A6,B3)。また、セッション端末Aにおいてモニター遅延Tmを入れる場合は、バック演奏データがMIDI形式なら、図4(1)のように、MIDIのままで遅延してもよいし(A1→A2)、図4(2)のように、音源部(9)でオーディオ形式に変換されたバック演奏音データを遅延するようにしてもよい(A2a→A2)。
【0040】
また、各セッション端末A〜Dにおいて歌唱する場合、放音されたバック演奏音がマイクロフォン14で集音されてしまうということがないように、バック演奏音の放音にはヘッドフォンを利用するのが望ましい。例えば、セッション端末Bにおいて、放音されるバック演奏音をマイクで集音し、これをセッション端末Aに送信してしまうと、セッション端末Aでは、再生された本来のバック演奏音に対して、通信遅延Tcだけ遅延されたセッション端末Bからのユーザ演奏情報Upbが混ざってしまい、好ましくないからである。
【0041】
さらに、モニター遅延Tmの挿入態様をユーザにより選択することができるようにしてもよい。例えば、モニター遅延時間Tmを、計測した通信遅延時間Tcに応じて自動的に設定してもよいし、計測した通信遅延時間Tcを参考にしながらユーザが設定できるようにしてもよい。自動設定する場合は、既に説明したように通信路の往復遅延時間(2×Tc)の半分をモニター遅延時間Tmに設定しても良いし、片道の遅延時間をそのままモニター遅延時間Tmに設定してもよい。また、通信遅延時間Tcが、違和感の発生が生じてしまう時間以上ある場合、ディスプレイ15等を通じて、セッションの成立が困難である旨をユーザに通知するようにしてもよい。
【0042】
また、各セッション端末A〜Dが電子楽器の場合、図4(1);(2)に※印が付けれた破線枠のブロックA5a,B3a;A5d,B3dで示すように、ユーザによる演奏操作子13の演奏操作(A4,B2)から、音源・効果回路9内の音源部によりユーザ演奏音データの生成(A5b,B3c)が開始されるまで、或いは、ユーザ演奏音データの生成(A5c,B3b)の後ユーザ演奏音が放音されるまで(A6,B3)の間に、上限がモニター遅延時間Tmや通信遅延時間Tc程度の多少の演奏遅延Tpを入れても良い。このようにすると、他のセッション端末から受信した他端末ユーザの楽器演奏に対応するユーザ演奏音の生成と、自端末ユーザの楽器演奏に対応するユーザ演奏音(モニター音)の生成との時間差を短くすることができる。ただし、演奏操作から発音までの遅延があるため、ユーザによっては違和感を感じる可能性があるので、この演奏遅延Tpの値は、上述のように、大きくしない方が望ましい。
【0043】
〔各セッション端末におけるトランスポーズ(移調)〕
ネットワークセッションシステムの各セッション端末でユーザ演奏を行う場合、楽器演奏においては、演奏技量の関係で、或るユーザは、例えば、ハ長調やイ短調のような所定の調でしか、演奏できない場合があり、また、歌唱においては、ユーザごとに歌唱可能な音域が異なり、調によっては歌えない場合がある。そこで、この発明の一実施例によるネットワークセッションシステムでは、各セッション端末において、調に関する各ユーザの音楽的な能力や好みに応じてバック演奏やユーザ演奏を移調(トランスポーズ)し、各ユーザに適した調で演奏を行うことにより、容易に違和感のないセッションを実現することができる。図5及び図6は、この発明の一実施例によるトランスポーズを含むネットワークセッションシステムの動作例を示し、各図における「通信遅延」は、図4と同様の通信遅延があることを表わしている。また、「モニター遅延Tm」(A2)及び「演奏遅延Tp」(A5a,B3a;A5d,B3d)は、図4と同様の通信遅延対策が講じられ得ることを表わしているが、必ずしも必須ではない。
【0044】
このシステムでは、各セッション端末B〜Dは、それぞれ、ユーザが所望する調に応じて任意のトランスポーズ値(トランスポーズ量ともいう)〔=ノート番号シフト値(ノート番号シフト量ともいう)或いはピッチシフト値(ピッチシフト量ともいう)〕Ts及び逆トランスポーズ値(逆トランスポーズ量ともいう)〔=逆ノート番号シフト値(逆ノート番号シフト量ともいう)或いは逆ピッチシフト値(逆ピッチシフト量ともいう)〕Trの設定が可能であり(Tr=−Ts)、セッション端末Aから自セッション端末B〜Dに送られてくる所定調のバック演奏情報Bpやユーザ演奏情報Upaについては、設定されたトランスポーズ値(量)Tsだけトランスポーズした調(設定調)に変換することができ、これとは逆に、自セッション端末B〜Dで生成される設定調のユーザ演奏情報Upb〜Upd(尚、記号Upc,Updは図示せず、記号Upbで代用している)については、設定された逆トランスポーズ値(量)Trだけ逆トランスポーズして所定調に逆変換することができる。なお、トランスポーズ値(量)Tsの設定に連動して逆トランスポーズ値(量)Trを自動設定するのが好ましい。
【0045】
つまり、各セッション端末B〜Dにおいて、セッション端末Aから所定調のバック演奏情報Bpやユーザ演奏情報Upaを受信すると、受信したバック演奏情報をトランスポーズし(B1sn,B1sp;B3sn,B3sp)、ユーザがトランスポーズ後の設定調でバック演奏(B1)や端末Aのユーザ演奏(B3)を聴きながらユーザ演奏(楽器演奏及び/又は歌唱)を行うと(B2)、自端末B〜Dのユーザ演奏内容を表わす設定調のユーザ演奏情報Upbを逆トランスポーズし所定調に逆変換してから(B2r:B2rn,B2rp)セッション端末Aへと送信する。これにより、各セッション端末B〜Dでは、演奏し易い或いは歌い易い調で、楽器演奏或いは歌唱をするが、セッション端末Aに集められた状態では、調が揃った状態となる。
【0046】
なお、演奏情報のトランスポーズ態様については、受信したバック演奏情報Bpやユーザ演奏情報UpaがMIDI形式(イベント記述データ形式)の場合、設定されたノート番号シフト値(量)だけノート番号をシフトし(B1sn;B3sn)、オーディオ形式(波形データ形式)の場合は、設定されたピッチシフト値(量)だけピッチをシフトする(B1sp;B3sp)。また、各端末B〜Dで生成されるユーザ演奏情報UpbがMIDI形式の場合、設定された逆ノート番号シフト値(量)だけノート番号をシフトし(B2rn)、オーディオ形式の場合は、設定された逆ピッチシフト値(量)だけピッチをシフトする(B2rp)。
【0047】
図5は、図4(1)と同様に演奏情報をMIDI形式で通信する場合の機能ブロック図を示し、セッション端末A〜Dではユーザ演奏として楽器演奏が行われる。まず、セッション端末Aでは、バック演奏の再生が指示されると(A1)、所定調のMIDIバック演奏データが記憶装置4から読み出され、MIDI形式のままバック演奏情報Bpとしてセッション端末B〜Dに送信されると共に、モニター遅延Tmの後、音源・効果回路9及びサウンドシステム16を通じてバック演奏音が所定調で放音される(A2〜A3)。端末Aのユーザがこのバック演奏音を聴きながら所定調で楽器演奏を行うと(A4)、楽器演奏の内容を表わす所定調のMIDIユーザ演奏情報Upaもセッション端末B〜Dに送信される。また、バック演奏情報Bp及びユーザ演奏情報Upaは、通信遅延Tcの後、各セッション端末B〜Dで受信される(A1→B1sn,A4→B3sn)。
【0048】
各セッション端末B〜Dでは、受信したバック演奏情報Bpがノート番号シフトされて設定調に変換された後(B1sn)、音源・効果回路9を通じてバック演奏音が設定調で放音される(B1a〜B1)。端末B〜Dのユーザがこのバック演奏音を聴きながら設定調で楽器演奏を行うと(B2)、音源・効果回路9及びサウンドシステム16を通じて、対応するユーザ演奏音が設定調で放音される(B3a〜B3)。また、楽器演奏の内容を表わす設定調のMIDIユーザ演奏情報Upbは、逆ノート番号シフトにより所定調に逆変換された後(B2rn)、セッション端末Aへと送信され、通信遅延Tcの後、同端末Aで受信される(B2rn→A5b)。
【0049】
セッション端末Aでは、音源・効果回路9内の音源部により、バック演奏データに基づくバック演奏音データが生成されると共に(A3a)、端末Aのユーザによる楽器演奏に対応するユーザ演奏音データ及びセッション端末B〜Dからのユーザ演奏情報Upbに基づくユーザ演奏音データが生成され(A5b)、これらの演奏音データは音源・効果回路9内の効果部でミキシングされ(A5)、ミキシングされたセッション演奏音データは、調が揃った状態になっており、サウンドシステム16を通じて放音され、記憶装置4に録音(記憶)され、或いは、セッション端末B〜Dに送信される(A6)。
【0050】
図6は、図4(2)と同様に演奏情報をオーディオ形式で通信する場合の機能ブロック図を示し、ユーザ演奏としてセッション端末Aでは楽器演奏が行われセッション端末B〜Dでは歌唱が行われる。セッション端末Aでは、バック演奏の再生が指示されると(A1)、音源部(9)により、記憶装置4から読み出された所定調のMIDIバック演奏データに基づいてオーディオ形式のバック演奏音データが生成され(A2a)、このバック演奏音データがバック演奏情報Bpとしてセッション端末B〜Dに送信されると共に、モニター遅延Tmの後、効果部(9)及びサウンドシステム16を通じてバック演奏音が所定調で放音される(A2〜A3)。端末Aのユーザがこのバック演奏音を聴きながら所定調で楽器演奏を行うと(A4)、楽器演奏に応じて音源部(9)で生成されるオーディオ形式のユーザ演奏音データが(A5c)、ユーザ演奏情報Upaとしてセッション端末B〜Dに送信される。また、バック演奏情報Bp及びユーザ演奏情報Upaは、通信遅延Tcの後、各セッション端末B〜Dで受信される(A2a→B1sp,A5c→B3sp)。
【0051】
各セッション端末B〜Dでは、受信したバック演奏情報Bpがピッチシフトされて設定調に変換された後(B1sp)、効果部(9)及びサウンドシステム16を通じてバック演奏音が設定調で放音される(B1)。端末B〜Dのユーザがこのバック演奏音を聴きながら設定調で歌唱を行うと(B2)、効果部(9)及びサウンドシステム16を通じて、対応するユーザ演奏音が設定調で放音される(B3d〜B3)。また、歌唱の内容(波形)を表わす設定調のオーディオユーザ演奏情報Upbは、逆ピッチシフトにより所定調に逆変換された後(B2rp)、セッション端末Aへと送信され、通信遅延Tcの後、同端末Aで受信される(B2rp→A5)。
【0052】
セッション端末Aでは、効果部(9)のミキシング機能により、バック演奏データ(A2a)、端末Aのユーザによる楽器演奏に対応するユーザ演奏音データ(A5c)及びセッション端末B〜Dからのユーザ演奏情報Upbに基づくユーザ演奏音データがミキシングされ(A5)、ミキシングされたセッション演奏音データは、調が揃った状態になっており、サウンドシステム16を通じて放音され、記憶装置4に録音(記憶)され、或いは、セッション端末B〜Dに送信される(A6)。
【0053】
なお、図5及び図6では、セッション端末A及びセッション端末B〜Dのユーザ演奏態様及び端末A・セッション端末B〜D間の演奏情報通信態様について、「楽器演奏+楽器演奏、双方向MIDI通信」(図5)及び「楽器演奏+歌唱、双方向オーディオ通信」(図6)の例を説明したが、「歌唱+歌唱、双方向オーディオ通信」、「楽器演奏+楽器演奏、双方向オーディオ通信」、「楽器演奏+歌唱、楽器演奏はMIDI、歌唱はオーディオで通信」など、種々の組合わせで実現することができる。
【0054】
トランスポーズについては、セッション端末Aにおいてもトランスポーズ可能としてもよい。その場合、セッション端末B〜Dに対してセッション端末Aがトランスポーズをした旨を通知し、セッション端末B〜Dにおいては、端末Aのトランスポーズ値を加味して自身のトランスポーズ値設定をする。また、全ての端末のトランスポーズ値をセッション端末Aで指定し、送り出し時にトランスポーズした状態で各端末に送り出しても良い。
【0055】
各セッション端末B〜Dにおけるユーザ演奏情報Upbは、セッション端末Aのみへと送信される例を示したが、各セッション端末B〜D間で互いにユーザ演奏情報を送受信するようにしてもよい。このようにすると、各セッション端末B〜Dにおいても全セッション端末におけるユーザ演奏情報(Upa及びUpb)をミキシングした音を聴くことができる。
【0056】
トランスポーズや逆トランスポーズに所定の処理時間が必要な場合、通信遅延時間Tnにトランスポーズや逆トランスポ〜ズに要する時間を加味するのがよい。
【符号の説明】
【0057】
TM:TMa〜TMd;TMs,TMr セッション端末、
Bp,Up(Upa〜Upd) バック演奏情報及びユーザ演奏情報、
B1sn,B3sn;B1sp,B3sp ノート番号及びピッチシフト部(移調部)、
B3rn,B3rp 逆ノート番号シフト部及び逆ピッチシフト部(逆移調部)。

【特許請求の範囲】
【請求項1】
通信ネットワークを介して通信可能に接続された他のセッション端末と共にネットワークセッションシステムを構成するセッション端末であって、
他のセッション端末と通信するための通信手段と、
他のセッション端末から通信手段を通じて受信されるバック演奏情報及び他のセッション端末のユーザ演奏に基づく他端末ユーザ演奏情報を移調する移調手段と、
移調手段により移調されたバック演奏情報及び他端末ユーザ演奏情報を再生すると共に、このセッション端末のユーザ演奏に基づく自端末ユーザ演奏情報を再生する演奏再生手段と、
自端末ユーザ演奏情報を逆移調すると共に、逆移調された自端末ユーザ演奏情報を通信手段を通じて他のセッション端末に送信する逆移調手段と
を具備することを特徴とするセッション端末。
【請求項2】
通信ネットワークを介して通信可能に接続された第1セッション端末及び第2セッション端末により構成されるネットワークセッションシステムであって、
第1セッション端末は、
第2セッション端末と通信するための第1端末通信手段と、
バック演奏情報及び第1セッション端末のユーザ演奏に基づく第1ユーザ演奏情報を第1端末通信手段を通じて第2セッション端末に送信する演奏情報送信手段と、
第2セッション端末から第1端末通信手段を通じて第2ユーザ演奏情報を受信する演奏情報受信手段と、
バック演奏情報、第1ユーザ演奏情報及び第2ユーザ演奏情報を再生する第1端末演奏再生手段と
を具備し、
第2セッション端末は、
第1セッション端末と通信するための第2端末通信手段と、
第1セッション端末から第2端末通信手段を通じて受信されるバック演奏情報及び第1ユーザ演奏情報を移調する移調手段と、
移調手段により移調されたバック演奏情報及び第1ユーザ演奏情報を再生すると共に、第2セッション端末のユーザ演奏に基づく第2ユーザ演奏情報を再生する第2端末演奏再生手段と、
第2ユーザ演奏情報を逆移調すると共に、逆移調された第2ユーザ演奏情報を第2端末通信手段を通じて第1セッション端末に送信する逆移調手段と
を具備する
ことを特徴とするネットワークセッションシステム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2012−18329(P2012−18329A)
【公開日】平成24年1月26日(2012.1.26)
【国際特許分類】
【出願番号】特願2010−156246(P2010−156246)
【出願日】平成22年7月8日(2010.7.8)
【出願人】(000004075)ヤマハ株式会社 (5,930)
【Fターム(参考)】