音楽教育システム
方法は、楽曲のユーザ選択を受信するステップと、音楽イベントを楽器で演奏するために楽曲のエキスパート演奏データに同期される演奏キューをユーザに提供するステップと、ユーザにより楽器で演奏された音楽イベントに対応するオーディオデータを受信するステップと、ユーザが演奏した音楽イベントと関連付けられた基本周波数を検出するステップと、ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定するステップと、ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を示すリアルタイム又はほぼリアルタイムの聴覚的フィードバック及び/又は視覚的フィードバックを提供するステップと、セッション中にユーザに出力されたエキスパート演奏データの出力レベルを制御することによりエキスパート演奏データをリアルタイム又はほぼリアルタイムのオーディオ及び/又はビデオフィードバックとして使用するステップとを含む。
【発明の詳細な説明】
【背景技術】
【0001】
音楽をテーマとした対話型ゲームが登場しており、ユーザはゲームコントローラを利用して曲の演奏をシミュレートする。例えばこれら対話型ゲームは、ゲームコントローラのボタンを押下すべきタイミングや、ゲームコントーラに対して歌うべきタイミングや、ゲームコントローラ(例えば、ドラム)を叩くべきかを示す、スクロールするタイムラインを表示してもよい。これら対話型ゲームは面白いかもしれないが、本物の楽器を演奏することはユーザに教えてくれない。
【図面の簡単な説明】
【0002】
【図1】例示的な音楽教育システムの一実施形態が実現される例示的な環境を示す図である。
【図2】例示的な音楽教育システムの例示的な構成要素を示す図である。
【図3】例示的な音楽教育システムと関連する例示的な機能構成要素を示す図である。
【図4】楽曲と関連付けられてもよい例示的な音楽データを示す図である。
【図5】音楽教育を提供する例示的な視覚的要素を含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図6】楽器がギターに該当する場合の例示的な演奏キューを示す図である。
【図7A】楽器がギターに該当する場合の例示的な演奏キューを示す図である。
【図7B】楽器がギターに該当する場合の例示的な演奏キューを示す図である。
【図8】楽器が声に該当する場合の例示的な演奏キューを示す図である。
【図9】楽器がキーボードに該当する場合の例示的な演奏キューを示す図である。
【図10】楽器がドラムセットに該当する場合の例示的な演奏キューを示す図である。
【図11】音楽データに同期した演奏キューを含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図12A】音楽イベントと関連付けられた基本周波数を検出する例示的な処理を示すフローチャートである。
【図12B】音楽イベントと関連付けられた基本周波数を検出する例示的な処理を示すフローチャートである。
【図12C】音楽イベントと関連付けられた基本周波数を検出する例示的な処理を示すフローチャートである。
【図13】音楽教育システムが音楽イベントを評価し、かつ採点できる例示的な処理を示す図である。
【図14】音楽教育システムが、連続した音楽ジェスチャに関する基本周波数に基づいてその連続した音楽ジェスチャを評価できる例示的な処理を示す図である。
【図15】音楽教育システムがスコアを算出できる例示的な処理を示す図である。
【図16】音楽教育システムがユーザの演奏に基づいてユーザにフィードバックを提供できる例示的な処理を示す図である。
【図17】ユーザに提供される例示的な肯定的フィードバック及び否定的フィードバックを示す図である。
【図18】採点情報を含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図19】ユーザがユーザの総合スコアに基づいて楽曲を選択できるようにする音楽教育システムの例示的なユーザインタフェースを示す図である。
【図20】音楽教育システムがセッションに対する総合スコアを算出できる例示的な処理を示す図である。
【図21】ユーザの音楽教育の進行状況を経時的にまとめることのできる音楽教育システムの例示的なユーザインタフェースを示す図である。
【図22】音楽教育システムが音楽のジャンルに従ってユーザの技術を追跡できる例示的な処理を示す図である。
【図23】音楽教育システムにより使用される例示的な換算表を示す図である。
【図24】複数のユーザに対する例示的な視覚的要素を含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図25A】音楽教育システムがユーザにセッションを提供できる例示的な処理を示すフローチャートである。
【図25B】音楽教育システムがユーザにセッションを提供できる例示的な処理を示すフローチャートである。
【発明を実施するための形態】
【0003】
以下の詳細な説明は添付図面を参照する。異なる図面に共通する参照数字は、同一又は同様の要素を示すであろう。また、以下の詳細な説明は本発明を限定しない。
【0004】
本明細書における「音楽教育システム」という用語は、楽器を演奏するための音楽教育を提供できるデバイス又はシステムを含むように広範に解釈されることが意図されている。例えば、音楽教育システムは、コンピュータ、ゲームシステム又はゲームコンソール、通信デバイス、ネットワークを介するクライアント/サーバ構成、ピア・トゥ・ピア構成、アプリケーションサービスプロバイダ(ASP)構成、インターネットに存在するネットワークデバイス等に該当してもよいが、これらに限定されない。音楽教育システムは、1つ以上のデバイス又はシステムを利用して分散型で実現されてもよく、あるいは1つ以上のデバイス又はシステムを利用して集中型で実現されてもよい。
【0005】
本明細書において「楽器」という用語は、音を発生できる道具を含むように広範に解釈されることが意図されている。例えば、楽器は、管楽器、シングルリード楽器、ダブルリード楽器、金管楽器、弦楽器、電子楽器、鍵盤楽器、ドラム、打楽器又は人声に相当してもよいが、これらに限定されない。また、「楽器」という用語は、仮想楽器を含むような解釈は意図されてしない。例えば仮想楽器は、テレビゲーム”Guitar Hero”(登録商標)や”Rock Band”(登録商標)で利用されるギターコントローラ等のゲームコントローラに相当してもよいが、これらに限定されない。
【0006】
本明細書において「楽曲」という用語は、音楽イベントの集合を含むような広範な解釈が意図されている。例えば楽曲は、曲(歌詞のある、又はない器楽)、音楽作品(例えば、ソナタ、協奏曲等)、声楽曲、運指練習、音階、ビート又はリズム、コードの運指又は和声進行等に相当してもよいが、これらに限定されない。
本明細書において「音楽イベント」という用語は、発音イベントを含むような広範な解釈が意図されている。例えば音楽イベントは、音、発声(例えば、発話等)又は打楽器音に対応してもよいが、これらに限定されない。
【0007】
本明細書において「音楽データ」という用語は、音楽教育システムにより使用されるデータを含むような広範な解釈が意図されている。例えば音楽データは、オーディオデータ(例えば、伴奏オーディオトラック、エキスパート演奏オーディオトラック、オーディオ演奏キューデータ、聴覚的フィードバックデータ、オーディオ波形データ等)、視覚的データ(例えば、模範演奏者ビデオトラック、ユーザビデオトラック、視覚的演奏キューデータ、視覚的フィードバックデータ等)、楽曲データ(例えば、アーティスト、和音、メロディ、音楽理論等)並びに本明細書で説明される他の種類のデータを含んでもよいが、これらに限定されない。
本明細書で説明される例示的な実施形態によると、音楽教育システムは、ユーザに楽器を演奏するための音楽教育を提供することができる。上述したように、例示的な一実施形態によると、音楽教育システムはコンピュータを含んでもよい。例として、コンピュータは、デスクトップコンピュータ、ラップトップコンピュータ又はハンドヘルドコンピュータ等であってもよいが、これらに限定されない。別の例示的な実施形態によると、音楽教育システムはゲームシステムを含んでもよい。例として、ゲームシステムは、Microsoft(登録商標)Xbox、Sony(登録商標)PlayStation(II、III等)又はNintendo(登録商標)Wii等であってもよいが、これらに限定されない。更に別の例示的な実施形態によると、音楽教育システムは通信デバイスを含んでもよい。例として、通信デバイスは、Apple(登録商標)iPhone、Apple(登録商標)iPod又はMotorola(登録商標)Droid等であってもよいが、これらに限定されない。更に他の実施形態において、音楽教育システムはクライアント/サーバアーキテクチャを含んでもよい。例として、クライアント/サーバアーキテクチャは、インターネット上のサーバ又は他の種類のネットワークデバイスと通信可能に接続されたコンピュータ、ゲームシステム、あるいは通信デバイスであってよいが、これらに限定されない。音楽教育システムは、上記のデバイスの種類の組み合わせ並びに本明細書に説明するような他の構成を更に含んでもよい。
【0008】
本明細書で説明される例示的な一実施形態によると、音楽教育システムは、種々の視覚的及び聴覚的な教育ガイドをユーザに提供してもよい。例えば音楽教育システムは、楽曲に関連づけられた音を可視化するため、スクロールする波形を含んでもよい。例示的な一実現例によると、スクロールする波形は、エキスパートによる楽曲の演奏と、ユーザによる楽曲の演奏又は演奏キューとであってもよい。音楽教育システムは、音楽データ(例えば、事前に録音されたトラック等)に同期される演奏キューを提供してもよい。演奏キューは、ユーザの楽器専用のものであってもよい。更に音楽教育システムは、ユーザが演奏している間に自身を見ることができるようにユーザの映像を表示してもよい。音楽教育システムは、ユーザの演奏に対応するスコアをユーザに更に提供してもよい。
【0009】
また、例示的な一実施形態によると、音楽教育システムは、ユーザにより演奏された音楽イベント(例えば、音)に関する周波数を検出するために1つ又は複数の基本周波数検出アルゴリズムを使用してもよい。例えば音楽教育システムは、楽器、楽曲、楽曲の特定の一節等に応じて1つ又は複数の基本周波数検出アルゴリズムを選択してもよい。音楽教育システムは、種々のフィードバック(例えば、視覚的フィードバック、聴覚的フィードバック等)をユーザに提供してもよい。音楽教育システムは、数ある中でも特に、音楽イベントが正確に演奏されるか否か並びに/あるいは音楽イベントがどの程度正確に又は不正確に演奏されるか(すなわち、音楽イベントがピッチ、振幅、開始時間等に関して正確に/不正確に演奏される程度)に基づいて特定の種類のフィードバック(例えば、肯定的フィードバック、否定的フィードバック等)をユーザに提供してもよい。
【0010】
図1は、例示的な音楽教育システムの一実施形態が実現される例示的な環境100を示す図である。図1に示すように、環境100は、ユーザ105、楽器110及び音楽教育システム115を含んでもよい。
【0011】
環境100におけるデバイスの数及び構成は例示的であり、簡潔さのために提供されている。実際には環境100は、図1に示したデバイスと比較して、より多くのデバイス、より少ないデバイス、異なるデバイス及び/又は異なるように構成されたデバイスを含んでもよい。また、特定のデバイスにより実行されているように説明されるいくつかの機能は、異なるデバイス又はデバイスの組み合わせにより実行されてもよい。更に又はあるいは、他の実現例において、1つのデバイスはデバイスの組み合わせを含んでもよい。
【0012】
ユーザ105は、楽器110で演奏する人物であってもよい。この例において、楽器110はギター等の弦楽器であってよい。更にこの例において、音楽教育システム115はコンピュータシステムであってよい。例えば図1に示すように、コンピュータシステムは、ディスプレイ120、コンピュータ125、キーボード130、マウス135、スピーカ140−1及び140−2(一般にスピーカ140と呼ばれる)、並びにカメラ145を含んでもよい。
【0013】
楽器110は、とりわけ、自身のオーディオ出力を音楽教育システム115に提供するため、音楽教育システム115に接続されてよい。例として、楽器110はその種類に応じてケーブル、マイク又はピックアップを介して音楽教育システム115に接続されてもよいが、これに限定されない。この例において、楽器110(すなわち、ギター)は、ケーブル(不図示)を介して音楽教育システム115の入力に接続されてもよい。
【0014】
ディスプレイ120は、視覚的出力を提供できるデバイスを含んでもよい。例えばディスプレイ120は、コンピュータモニタ又はテレビであってよい。例示的な一実現例によると、ディスプレイ120はタッチスクリーンを含んでもよい。他の例示的な実現例によると、ディスプレイ120はタッチスクリーンを含まなくてもよく、かつ/又は入力デバイスとして利用されてなくてもよい。コンピュータ125は計算デバイスを含んでもよい。例示的な一実現例によると、コンピュータ125はオペレーティングシステム(例えば、Windows(登録商標)、Macintosh、Linux(登録商標)等)に従って動作してもよい。この例において、コンピュータ125はデスクトップコンピュータであってよい。キーボード130及びマウス135は、ユーザ105がコンピュータ125に情報を入力し、かつコンピュータ125でナビゲートできるようにするデバイスを含んでもよい。スピーカ140は、聴覚的な出力を提供するデバイスを含んでもよい。他の実現例によると、例えばスピーカ140は、オーディオシステム(例えば、ステレオシステム等)に付随するものでも、あるいはディスプレイ120に内蔵されたものでもよい。カメラ145は、写真及び/又はビデオ等の視覚画像を撮影できるデバイスを含んでもよい。この例において、カメラ145はウェブカムであってよい。しかし、他の実現例によると、例えばカメラ145は、カムコーダ又は他の何らかの種類のビデオカメラであってもよい。視覚画像はディスプレイ120に表示されてもよい。音楽教育システム115は、ネットワーク(例えば、インターネット等)を介して他の人(例えば、他のユーザ、遠隔地の指導者等)との間で視覚画像を送信及び/又は受信してもよい。
【0015】
例示的な1つの動作によると、音楽教育システム115は楽器110を演奏するための音楽教育をユーザ105に提供してもよい。本明細書で説明するように、音楽教育システム115は、楽曲の演奏時にユーザを支援するために種々のユーザインタフェースをユーザ105に提供してもよい。音楽教育システム115は、以下に更に説明する1つ以上の周波数検出アルゴリズムに基づいてユーザ105により演奏された音楽イベントを検出してもよい。
【0016】
図2は、音楽教育システム115の例示的な構成要素を示す図である。図示するように、音楽教育システム115の例示的な一実現例によると、音楽教育システム115は処理システム205、アプリケーション215を含むメモリ/記憶装置210、通信インタフェース220、入力225及び出力230を含んでもよい。他の実現例によると、音楽教育システム115は、図2に示し、かつ本明細書で説明する構成要素と比較して、より少ない構成要素、追加の構成要素、異なる構成要素及び/又は異なる構成要素の構成を含んでもよい。
【0017】
処理システム205は、プロセッサ、マイクロプロセッサ、コプロセッサ、特定用途向け集積回路(ASIC)、コントローラ、プログラマブル論理装置、チップセット、フィールドプログラマブルゲートアレイ(FPGA)、あるいは命令及び/又はデータを解釈及び/又は実行してもよい他の何らかの構成要素を含んでもよい。処理システム205は、例えばオペレーティングシステム及び1つ以上のアプリケーション(例えば、アプリケーション215)に基づいて音楽教育システム115の全体の動作又はその一部を制御してもよい。
【0018】
メモリ/記憶装置210は、メモリ及び/又は二次記憶装置を含んでもよい。例えばメモリ/記憶装置210は、ランダムアクセスメモリ(RAM)、ダイナミックランダムアクセスメモリ(DRAM)、読み出し専用メモリ(ROM)、プログラマブル読み出し専用メモリ(PROM)、フラッシュメモリ(登録商標)及び/又は他の種類のメモリを含んでもよい。メモリ/記憶装置210は、ハードディスク(例えば、磁気ディスク、光ディスク、光磁気ディスク、ソリッドステートディスク等)又は他の種類のコンピュータ可読媒体を対応するドライブと共に含んでもよい。メモリ/記憶装置210は、例えばUSB(Universal Serial Bus)メモリスティック、ハードディスク、大容量記憶装置、オフライン記憶装置、クラウドコンピューティング等、音楽教育システム115の外部にあり、かつ/又は音楽教育システム115から取り外しが可能であるメモリ、記憶装置又は記憶構成要素を含んでもよい。
【0019】
本明細書において「コンピュータ可読媒体」という用語は、例えばメモリ、記憶装置(例えば、ハードディスク及び対応するドライブ)、コンパクトディスク(CD)又はデジタル汎用ディスク(DVD)等を含むような広範な解釈が意図されている。コンピュータ可読媒体は、単一のデバイスで実現されてもよく、複数のデバイスで実現されてもよく、集中型で実現されてもよく、あるいは分散型で実現されてもよい。メモリ/記憶装置210は、音楽教育システム115の動作に関連するデータ、アプリケーション215及び/又は命令を格納してもよい。
【0020】
アプリケーション215は、種々のサービス、機能又はユーザインタフェース等を提供するソフトウェアを含んでもよい。例示的な一実現例によると、アプリケーション215は、楽器を演奏するようにユーザを教育することに関連する1つ以上の処理を提供する音楽教育アプリケーションを含んでもよい。例えばこれらの処理は、本明細書で説明されるように、ユーザインタフェースを提供すること、基本周波数を検出すること、採点すること、ユーザにフィードバックを提供すること及び/又は音楽教育システム115と関連付けられた他の機能を含んでもよい。アプリケーション215はメモリ/記憶装置210に格納されてもよい。
【0021】
通信インタフェース220は、音楽教育システム115が他のデバイス、ネットワーク及び/又はシステム等と通信することを可能にしてもよい。通信インタフェース220は、無線インタフェース及び/又は有線インタフェースを含んでもよい。通信インタフェース220は、1つ以上のプロトコル及び/又は規格等に従って動作してもよい。通信インタフェース220は、受信機、送信機及び/又は送受信機を含んでもよい。
【0022】
入力225は、音楽教育システム115への入力を可能にしてもよい。例えば入力225は、ボタン、キーパッド、つまみ、タッチパッド、キーボード130、入力ポート、ディスプレイ120、マイク、マウス135、音声認識ロジック、指紋認識ロジック、ウェブカム(例えば、カメラ145)及び/又は他の種類の入力構成要素を含んでもよい。
【0023】
出力230は、音楽教育システム115が出力を提供することを可能にしてもよい。例えば出力230は、ディスプレイ120、発光ダイオード(LED)、出力ポート、スピーカ140、振動機構及び/又は他の種の出力構成要素を含んでもよい。
【0024】
本明細書で説明するように、例示的な一実施形態によると、音楽教育システム115は、処理システム205がメモリ/記憶装置210等のコンピュータ可読媒体に含まれたソフトウェア命令を実行することに応答して1つ以上の処理を実行してもよい。ソフトウェア命令は、メモリ/記憶装置210から読み出されてもよく又は通信インタフェース220を介して別のデバイスから受信されてもよい。ソフトウェア命令は、本明細書で説明される処理を処理システム205に実行させてもよい。あるいは、音楽教育システム115は、処理システム205又は処理システム205との他の組み合わせ(例えば、ハードウェア及びファームウェア、ハードウェア、ソフトウェア及びファームウェア)に応答して処理を実行してもよい。
【0025】
図3は、音楽教育システム115に付随する例示的な機能構成要素を示す図である。図示するように、音楽教育システム115は、波形マネージャ305、演奏キューマネージャ310、楽曲データマネージャ315、演奏評価マネージャ320、フィードバックマネージャ325及び設定マネージャ330を含んでもよい。波形マネージャ305、演奏キューマネージャ310、楽曲データマネージャ315、演奏評価マネージャ320、フィードバックマネージャ325及び/又は設定マネージャ330は、図2に関して説明し、かつ図示した構成要素に基づいてハードウェア(例えば、処理システム205、メモリ/記憶装置210)及びソフトウェア(例えば、アプリケーション215)の組み合わせとして実現されてもよい。あるいは、波形マネージャ305、演奏キューマネージャ310、楽曲データマネージャ315、演奏評価マネージャ320、フィードバックマネージャ325及び/又は設定マネージャ330は、ハードウェア及びファームウェア、あるいはハードウェア、ソフトウェア及びファームウェアとして実現されてもよい。
【0026】
波形マネージャ305はオーディオ波形データを管理してもよい。例示的な一実現例によると、波形マネージャ305は、エキスパートによる楽曲の演奏に対応する波形を表示してもよい。以下に更に説明するように、音楽教育システム115は、セッション中、事前に録音されたオーディオトラックを含む音楽データを使用してもよい。事前に録音されたオーディオトラックは、特にエキスパートによる楽曲の演奏に対応するオーディオトラックを含んでもよい。波形マネージャ305は、セッション中に演奏される楽器及び/又は楽曲に従って音楽データからエキスパート演奏オーディオトラックを選択してもよい。波形マネージャ305は、エキスパート演奏オーディオトラックを表す波形を表示してもよい。例示的な一実現例によると、以下に更に説明するように、波形はスクロールしてもよく、他の表示(例えば、エキスパートの演奏の現時点の位置を示すキューライン)、類似性スコア等を含んでもよい。
【0027】
更なる、あるいは代替的な、例示的な一実現例によると、波形マネージャ305は、ユーザによる楽曲の演奏を表す波形を表示してもよい。例えば波形マネージャ305は、ユーザの楽器からの入力を処理し、ユーザによる楽曲の演奏を表すスクロールする波形を生成及び表示してもよい。
【0028】
ユーザが楽曲を演奏する時、エキスパート演奏オーディオトラックの波形がリアルタイムに表示されてもよく、ユーザの演奏の波形がリアルタイム又はほぼリアルタイムに表示されてもよい。波形マネージャ305が双方の波形を表示する場合、ユーザは視覚的な比較を行うことができ、これはユーザの演奏中ユーザにとって有用だろう。視覚的な比較は、ユーザに、例えばタイミング(例えば、音楽イベントの開始、音楽イベントの終了)、振幅、音色及び/又は音楽イベントに関連した他の音楽特性等の楽曲中の音楽イベントと関連した種々の音楽特性に関するさらなる見識を提供する。例えば視覚的な比較により、ユーザは、音楽イベントにおける音の立ち上がりの発生タイミング、音楽イベントのサスティーン部分の発生タイミング、音楽イベントの振幅等の差異を識別でき、、かつスクロールする波形がほぼ同一に見えるように自身の演奏を調整できる。
【0029】
更に、上述したように、波形マネージャ305は類似性スコアを表示してもよい。類似性スコアは、双方の波形の間の類似性を示してもよい。例示的な一実施形態によると、波形マネージャ305は、エキスパート演奏オーディオトラックの波形とユーザの演奏の波形とを比較してもよい。波形マネージャ305は、波形の比較を行う従来の方法を使用してもよい。波形マネージャ305は、楽曲の部分(例えば、小節毎、楽節毎(例えば、ヴァース、コーラス、ブリッジ等))に対する類似性スコア及び/又は全体の類似性スコア(例えば、楽曲全体)を生成してもよい。ユーザは、エキスパートの演奏に対してユーザがどの程度上手に楽曲を演奏しているかを類似性スコアから識別できる。
【0030】
演奏キューマネージャ310は、演奏キューデータを管理してもよい。演奏キューデータは、楽曲と関連付けられた視覚的な演奏キュー及び聴覚的な演奏キューを含んでもよい。例えば、演奏キューマネージャ310は、セッション中に種々の視覚的な演奏キュー(例えば、タブ譜、標準的な楽譜(すなわち、五線と音符)、運指記号等)を表示してもよい。演奏キューマネージャ310は、ユーザの楽器に依存して異なる視覚的な演奏キューを表示してもよい。例えば、ギターに対する演奏キューは移動するギタータブ譜を含んでもよく、ピアノに対する演奏キューは移動するピアノキータブ譜を含んでもよく、ドラムに対する演奏キューは移動するドラムタブ譜を含んでもよい。
【0031】
更に又はあるいは、演奏キューはユーザの特定の楽器に対応する標準的な楽譜を含んでもよい。例示的な一実施形態によると、標準的な楽譜はエキスパートによる楽曲の演奏を採譜したもの(transcription)であってよい。例えば例示的な一実現例によると、楽曲が例えば古典的なロック曲(例えば、天国への階段)に対応する場合、標準的な楽譜は、アーティスト(例えば、レッド・ツェッペリン、ジミー・ペイジ)がその曲を演奏するように音ごとに採譜したものであってよい。別の例示的な実現例によると、採譜はエキスパートによる楽曲の演奏に対応してもよいが、音単位でなくてもよく、アーティストの演奏の代表部分であってもよい。非限定的な例として、ギターの主旋律が複数のギターパート(例えば、重なっている部分、デュオ、トリオなど)を含んでいるとする。そのような場合、採譜は音単位でなくてもよく、アーティストにより演奏された音のうち、演奏全体を最もよく表すと思われるものを主観的に選択したり、あるいはアーティストにより演奏された音の他の方法による削減、簡素化、派生物、補完及び/又は解釈を含んでもよい。他の例示的な実現例によると、標準的な楽譜はエキスパートの演奏の採譜から導出されなくてもよい。例えばクラシック楽曲(例えば、バッハの協奏曲等)のエキスパートの演奏は、元々書かれた楽曲に厳密に対応しているであろう。演奏キューマネージャ310は、セッションの難易度に対応して、種々のバージョンの標準的な楽譜並びに他の形式の視覚的な演奏キューを更に使用してもよい。
【0032】
更に又はあるいは、演奏キューはユーザの楽器に応じて、音楽イベント(例えば、和音、メロディ音等)に対する運指位置を含んでもよい。以下に更に説明するように、例えば演奏キューマネージャ310は、音楽イベントの演奏方法を明示するために、運指位置と共にギターネックの画像を提示してもよい。
【0033】
演奏キューマネージャ310は、種々の聴覚的な演奏キューを提供してもよい。例えば演奏キューマネージャ310は、セッション中、メトロノーム、音声指導トラック(例えば、仮想助言者/指導者/コーチと関連付けられる)等を実行する。演奏キューマネージャ310は、ユーザの楽器に依存して種々の聴覚的な演奏キューを提供してもよい。例えば、音声指導トラックは、楽曲のパッセージに関連し、かつユーザの楽器に特有な指導上のコメントを提供してもよい。演奏キューデータの例については、本明細書において以下に更に説明する。
【0034】
楽曲データマネージャ315は楽曲データを管理してもよい。例えば楽曲データは、視覚的な楽曲データ及び聴覚的な楽曲データを含んでもよい。例えば楽曲データマネージャ315は、例えば楽曲と関連付けられたタイトル、アーティスト名、作曲者名、最初の発表日及び/又はジャンル(例えば、カントリー、ロック、ブルース等)等の種々の視覚的な楽曲データを表示してもよい。更に又はあるいは、例えば楽曲データマネージャ315は、楽曲と関連付けられたテンポ情報、拍子記号、調、楽曲の楽節(例えば、ヴァース、コーラス、ソロ、ブリッジ等)、現在の小節、現在の拍子、現在の和音、次の和音、現在のメロディ音、次のメロディ音及び/又は他のデータ(例えば、音楽理論情報等)を表示してもよい。例示的な一実現例によると、楽曲データマネージャ315は、音楽データと関連付けられたタイムコードと同期した楽曲データを表示してもよい。楽曲データマネージャ315は、ユーザが自身の音楽の解釈、スタイル、音楽の知識等を向上させるのを支援できる。
【0035】
楽曲データマネージャ315は、楽曲と関連付けられた種々の聴覚的な楽曲データ(例えば、伴奏オーディオトラック、エキスパート演奏オーディオトラック)を再生してもよい。例えば伴奏オーディオトラックは、楽曲の伴奏の演奏の録音を含んでもよく、エキスパート演奏オーディオトラックは、ユーザの楽器と同一の種類の楽器で演奏されたエキスパートによる楽曲の演奏の録音を含んでもよい。例示的な一実施形態によると、以下に更に説明するように、フィードバックマネージャ325は、セッション中に楽曲データマネージャ315によりエキスパート演奏オーディオトラックの再生を管理してもよい。例えば音楽教育システム115は、ユーザが楽曲を正確に演奏した時にユーザに対するフィードバック機構としてエキスパート演奏オーディオトラックの再生を使用してもよい。楽曲データの例については本明細書で以下に更に説明する。
【0036】
演奏評価マネージャ320は、楽曲と関連付けられた音楽イベントのユーザの演奏を評価してもよい。例えば演奏評価マネージャ320は、ユーザによる楽曲の演奏と関連付けられた演奏データを音楽教育システム115の音楽データと比較してもよい。例示的な一実現例によると、演奏評価マネージャ320は、ユーザにより演奏された音楽イベントを評価するために1つ以上の基本周波数検出アルゴリズムを使用してもよい。例示的な一実現例によると、演奏評価マネージャ320は、例えば振幅、リズム等のユーザにより演奏された音楽イベントの他の音楽特性を評価してもよい。
【0037】
例示的な一実施形態によると、演奏評価マネージャ320は、音楽イベントが正確に演奏される程度を評価してもよい。例えば周波数を参照すると、閾値は、イベントユーザが音楽イベントを演奏すべき周波数の範囲である差周波数を示してもよい。例えば、差周波数が2Hzであり、正確に演奏された音楽イベントが440Hz(A4)である場合、演奏評価マネージャ320は、ユーザにより演奏された音楽イベントが438Hz〜442Hzの範囲内にあるかを判定してもよい。その範囲内にある場合、演奏評価マネージャ320は、音楽イベントのユーザの演奏が正確であると評価してもよい。逆に、ユーザにより演奏された音楽イベントが438Hz〜442Hzの範囲内にない場合、演奏評価マネージャ320は、音楽イベントのユーザの演奏が不正確であると評価してもよい。更に演奏評価マネージャ320は、音楽イベントと関連付けられた周波数が正確に440Hzで演奏されるか、1Hzずれて(例えば、439Hz又は441Hzで)演奏されるか又は2Hzずれて(例えば、438Hz又は442Hzで)演奏されるかに基づいて音楽イベントのユーザの演奏の正確度を評価してもよい。また、演奏評価マネージャ320は、440Hzからのオフセット(例えば、Hz単位)に基づいて音楽イベントのユーザの演奏の不正確度を評価してもよい。これは従来の音楽教育システム又は音楽ゲームシステムとは異なり、音楽イベントが正確に演奏されるか否か(例えば、正確に440Hzか否か、あるいはより一般的には特定の音が演奏されるか否か)を2値的に評価してもよい。ユーザの演奏の評価と関連付けられた例示的な処理については、本明細書において以下に更に説明する。
【0038】
フィードバックマネージャ325は、ユーザの演奏に関してユーザにフィードバックを提供してもよい。フィードバックは、視覚的フィードバック、聴覚的フィードバック又は触覚的フィードバックの形式をとってもよい。フィードバックマネージャ325は、セッション中に(例えば、対話的な方法で)、又はセッションの終了時(例えば、最終的なスコアの結果等)にユーザにフィードバックを提供してもよい。
【0039】
フィードバックマネージャ325は、種々の視覚的フィードバックを表示してもよい。例えばフィードバックマネージャ325は、種々のスコア(例えば、総合スコア、正確度スコア、ボーナススコア等)、誤り傾向、間違わずに演奏された音楽イベントの数、間違わずに演奏された連続した音楽イベントの数、間違いの数等、並びに/あるいはユーザに対する他の種類の視覚的フィードバック(例えば、仮想助言者/指導者/コーチが提供する顔の表情のフィードバック、観客のビデオ、視覚的効果等)を表示してもよい。フィードバックマネージャ325は、セッションの難易度及び/又はユーザのレベル(例えば、初心者、易しい、未熟者、熟練者、難しい、上級者又は天才等)を更に表示してもよい。
【0040】
フィードバックマネージャ325は、種々の聴覚的フィードバックを再生してもよい。例えばフィードバックマネージャ325は、事前に録音された賛同トラック(例えば、観客の歓声、仮想助言者/指導者/コーチの音声によるコメント等)又は事前に録音された不満トラック(例えば、観客のブーイング、仮想助言者/指導者/コーチの音声によるコメント等)を再生してもよい。フィードバックマネージャ325は、ユーザの演奏を上手にしたり下手にしたりするために信号処理効果を導入してもよい。
【0041】
例示的な一実施形態によると、フィードバックマネージャ325は、音楽イベントのユーザの演奏の評価に対応してフィードバックを提供してもよい。例えばフィードバックマネージャ325は、以下に更に説明するように、ユーザの演奏と関連する正確度又は不正確度の変動するレベルに対応して変動するレベルの肯定的フィードバック又は否定的フィードバックを提供してもよい。
【0042】
更に、例示的な一実施形態によると、フィードバックマネージャ325はフィードバックの機構としてエキスパート演奏オーディオトラックを使用してもよい。例えば一実現例によると、ユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325はユーザの演奏により生成されたオーディオをミュートし、聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)を再生してもよい。このように、ユーザは専門演奏者として演奏し、かつ聴くことができる。別の例示的な実現例によると、ユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325はユーザ自身の演奏と関連付けられたオーディオと共に聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)を再生してもよい。このように、ユーザは専門演奏者及びユーザの双方のミックスを聴くことができる。エキスパートの演奏とユーザの演奏との間のミックスレベルは、ユーザにより設定されてもよく、あるいはユーザの演奏の正確さの程度又はレベルに従ってフィードバックマネージャ325により調整されてもよい。例えばフィードバックマネージャ325は、エキスパートの演奏のオーディオレベルを高めてもよい。更に別の例示的な実現例によると、ユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325は、聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)をミュートし、ユーザの演奏を再生してもよい。更にユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325は、信号処理効果(例えば、リヴァーブ、コーラス、フランジ、ハーモニー等)を導入することによりユーザの演奏結果の音質を高める効果を加えてもよい。
【0043】
反対に、例示的な一実現例によると、ユーザが音楽イベントを不正確に演奏する場合、フィードバックマネージャ325は、聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)をミュートしてもよく、低い出力レベルで聴覚的な楽曲データを再生してもよく、あるいは聴覚的な楽曲データ及びユーザの演奏の双方のミックスを提供してもよい。ミックスレベルは、ユーザにより設定されてもよく、あるいはユーザの演奏の不正確さの程度又はレベルに従ってフィードバックマネージャ325により調整されてもよい。例えばフィードバックマネージャ325は、ユーザの演奏のオーディオレベルを高めてもよい。更にユーザが音楽イベントを不正確に演奏する場合、フィードバックマネージャ325は、信号処理効果(例えば、離調、歪み、過大等化等)を導入することによりユーザの演奏結果の音質を低下させてもよい。
【0044】
更にフィードバックマネージャ325は、触覚的フィードバックを提供してもよい。例えばフィードバックマネージャ325は、変動するレベルの肯定的又は否定的フィードバックを示すために種々の拍動リズム及び/又は強度レベルの振動を使用してもよい。フィードバックの例については、本明細書において以下に更に説明する。
【0045】
設定マネージャ330は、状態情報を表示し、ユーザが種々の演奏関連パラメータを調整できるようにし、かつユーザが音楽教育システム115との適切な対話性及び接続性を保証できるようにしてもよい。例えば設定マネージャ330は、チューナ、入力レベル、現在検出されている周波数、ピッチ及び/又は和音、オーディオミキシング制御、楽器レベル、デジタルオーディオ効果レベル、事前に録音されたエキスパートの演奏レベル、事前に録音された伴奏レベル及び/又はマスターレベル等を表示してもよい。更に設定マネージャ330は、種々のデジタル処理制御を提供してもよい。例えば設定マネージャ330は、リヴァーブ、自動チューニング、ディストーション、コンプレッション、フランジ、エコー及び/又は他の信号処理効果等の種々のデジタルオーディオ効果を提供してもよい。更に設定マネージャ330は、ユーザが楽曲及び/又はセッションと関連する視覚的要素/オーディオの停止、巻き戻し、早送り、ループ等をできるようにするインタフェースを表示してもよい。
【0046】
図3は音楽教育システム115の例示的な機能構成要素を示すが、他の実現例において、音楽教育システム115は、図3に示し、かつ本明細書で説明する機能構成要素と比較して、より少ない機能構成要素、追加の機能構成要素及び/又は異なる機能構成要素を含んでもよい。更に又はあるいは、他の実現例において、特定の機能構成要素により実行されるものとして説明される機能又は処理は、別の機能構成要素又は機能構成要素の組み合わせにより実行されてもよい。
【0047】
上述したように、音楽教育システム115はセッション中に音楽データを使用してもよい。音楽データの例については以下に説明する。
【0048】
図4は、楽曲と関連付けられてもよい例示的な音楽データ400を示す図である。図示するように、音楽データ400は、特にエキスパート演奏オーディオトラック405、伴奏オーディオトラック410、演奏キューデータ415及び演奏キューデータ420を含んでもよい。
【0049】
上述したように、音楽データは楽曲データを含んでもよい。楽曲データは、エキスパート演奏オーディオトラック等の聴覚的な楽曲データを含んでもよい。図示するように、例示的な一実現例によると、エキスパート演奏オーディオトラック405は、楽器で演奏されたエキスパートによる楽曲の演奏の録音を含んでもよい。例えばエキスパート演奏オーディオトラック405は、ピアニストが協奏曲をピアノで演奏すること、ドラマーがロック曲を演奏すること又はサクソフォーン奏者がジャズを演奏することを含んでもよい。別の例によると、エキスパート演奏オーディオトラック405は、一般に同一種類の複数の楽器が1つのオーディオトラックにミックスされたものを含んでもよい。例えばエキスパート演奏オーディオトラック405は、1人の(例えば、多重録音)又は複数のエキスパートが複数のギターを演奏することを含んでもよい。エキスパート演奏オーディオトラック405は、信号処理(例えば、リヴァーブ等)又は他のオーディオ効果を含んでもよい。
【0050】
エキスパート演奏オーディオトラック405は、ユーザに対する指導ツールとしての役割を果たしてもよい。例えばユーザは、エキスパート演奏オーディオトラック405と関連付けられた演奏をまねしようとしてもよい。更に上述したように、例示的な実施形態によると、フィードバックマネージャ325はフィードバック機構としてエキスパート演奏オーディオトラック405を使用してもよい。例えばフィードバックマネージャ325は、楽曲データマネージャ315によりエキスパート演奏オーディオトラック405の再生と関連付けられた音量又は出力レベル、信号処理効果等を管理してもよい。更に又はあるいは、フィードバックマネージャ325は、フィードバック機構としてエキスパートの演奏(例えば、音楽ビデオ)のオーディオ/ビデオ表現を管理してもよい。更に、波形マネージャ305はエキスパート演奏オーディオトラック405に対応するスクロールする波形を表示してもよい。
【0051】
聴覚的な楽曲データは伴奏トラックを含んでもよい。図示するように、伴奏オーディオトラック410は、楽曲の伴奏演奏の録音を含んでもよい。例えばユーザがエレクトリックギターで楽曲を演奏している場合、伴奏オーディオトラック410は、楽曲と関連付けられたエレクトリックベース、ドラム及びボーカルの録音を含んでもよい。楽曲に依存して、楽曲が伴奏オーディオトラック410を含んでいない場合がある。例えば、楽曲はソロ等であってもよい。楽曲データマネージャ315は伴奏オーディオトラック410を再生してもよい。
【0052】
上述したように、演奏キューデータは楽器による楽曲の適切な演奏を示すデータを含んでもよい。演奏キューデータは、例えば標準的な楽譜、タブ譜等の多くの形式をとることができる。演奏キューデータは、楽器の種類、セッションの難易度等に依存して異なる。例示的な一実現例によると、演奏キューデータは聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック405等)に同期されてもよい。
【0053】
図4を参照すると、演奏キューデータ415及び演奏キューデータ420は、演奏キューデータの例である。演奏キューデータの更なる例については本明細書で説明する。
【0054】
図4に示すように、楽器がギターである場合、演奏キューデータ415は、ユーザが音楽イベント(例えば、音、和音等)を演奏する時間、弦及び位置を示してもよい。更に演奏キューデータ415は、例えば音量、ストラミングスタイル、ピッキングスタイル及び終了時間等の楽曲の演奏と関連付けられた他の側面を示してもよい。
【0055】
更に図示するように、演奏キューデータ420は標準的な楽譜に対応してもよい。上述したように、例示的な一実施形態によると、標準的な楽譜はアーティスト又は他のプロ/専門演奏者により演奏された楽曲の採譜に基づく奏法に対応してもよい。この例において、演奏キューデータ420は音が演奏されるピッチ及び時間を示してもよい。演奏キューデータ420は、強弱の変化を示し、雰囲気又は感情を示し、テンポを示し、アーティキュレーションを示す言葉/フレーズ等の他の種類のデータ、並びに弓の位置、ペダル記号等の楽器に依存するデータを含んでもよい。演奏キューデータ420は、音楽イベント及び/又は楽曲の演奏と関連付けられた他の特性を含んでもよい。
【0056】
他の実現例によると、演奏キューデータの表現は他の形式をとってもよい。例として、音楽イベントのピッチは、周波数(例えば、Hz単位)、MIDI(Musical Instrument Digital Interface)キーナンバー又は文字等として数字で表されてもよい。更に演奏キューデータは、テンポの変化又は移調等を反映するように変更されてもよい。この点に関して、演奏キューデータは、音楽教育システム115が難易度を変更するために楽曲を速く又は遅く再生するか、あるいは種々の楽器の範囲に適応するために楽曲を異なる調で再生する状況に適応可能であってもよい。例示的な一実現例によると、音楽教育システム115は従来のタイムストレッチング技術及び/又は従来のピッチシフティング技術を使用してもよい。
【0057】
図4は例示的な音楽データ400を示すが、他の実現例において、音楽データ400は、図4に示し、かつ説明するデータと比較して、更なるデータ、より少ないデータ及び/又は異なるデータを含んでもよい。
【0058】
図5は、音楽教育を提供する例示的な視覚的要素を含む音楽教育システム115の例示的なユーザインタフェースを示す図である。ユーザインタフェースは、ディスプレイ120においてユーザに対して表示されてもよい。他の実現例によると、音楽教育システム115は、図5に示し、かつ説明する視覚的要素と比較して、更なる視覚的要素、より少ない視覚的要素、異なる視覚的要素及び/又は異なる視覚的要素の構成を含んでもよい。例えば例示的な一実現例によると、ユーザは特定の視覚的要素を省略することを選択してもよい。例えばグラフィックボタン505−1〜505−8(一般にグラフィックボタン505と示す)はユーザインタフェース内に表示され、ユーザが表示するか又は隠す視覚的要素を選択することを可能にする。このように、ユーザは見たい情報を制御してもよい。他の実現例によると、ユーザインタフェースにより、ユーザは他のインタフェース(例えば、ドロップダウンメニュー等)に基づいて表示されるものを制御できる。例示的な一実現例によると、音楽教育システム115は、ユーザインタフェースの未使用の部分を占有するように視覚的要素を自動的にサイズ変更してもよい。実際には、各視覚的要素の相対的なサイズは図5に示した各視覚的要素のサイズに比例しなくてもよい。
この例において、楽器はギター(例えば、6弦ギター)であるとする。図5を参照すると、ユーザインタフェースの最上部において、ユーザインタフェースは波形マネージャ305と関連付けられた視覚的要素を含んでもよい。例えば、オーディオ波形510はエキスパート演奏オーディオトラック405に対応してもよく、オーディオ波形515はユーザの演奏に対応してもよい。このように、ユーザはエキスパートの演奏をユーザの演奏と視覚的に比較できる。更に類似度がユーザに対して示されてもよい。例えば類似性スコア520は、楽曲の楽節毎(例えば、小節毎等)にユーザの演奏とエキスパートの演奏との類似度を示してもよく、これは例えば数値又はグラフィックで表されてもよい。キューライン525は演奏の現時点を示してもよい。この例において、キューライン525の右側に位置する部分がこれから演奏される部分に対応する演奏波形530を示し、かつキューライン525の左側に位置する部分がエキスパートの演奏と比較してユーザの演奏直後の履歴を示すように、オーディオ波形510及び515は右から左に移動してもよい。
【0059】
ユーザインタフェースの左側部分は、楽曲データと関連付けられた視覚的要素を含んでもよい。この例において、音楽コンテンツ領域535は、アーティスト名、楽曲名、現在の小節、現在の拍子、現在の楽節、現在の和音及び次の和音を含んでもよい。
【0060】
音楽コンテンツ領域535の右側は、演奏する時にユーザを支援するための運指記号540を含んでもよい。例示的な一実現例によると、運指記号540は、現在演奏されることが要求される音楽イベント(例えば、和音、メロディ等)に対する指の位置及び将来の指の位置を表示してもよい。運指記号540は、スクロールするように一連の指の位置を表示してもよい。
【0061】
更に運指記号540の右側は、演奏キュー545を含んでもよい。この例において、演奏キュー545はスクロールするギタータブ譜に対応する。スクロールするギタータブ譜は、音楽イベント表示(図5において円で示される)を含んでもよい。他の実現例によると、音楽イベント表示表示は円とは異なる形状(例えば、正方形等)を有してもよい。音楽イベント表示は、音楽データ(例えば、エキスパート演奏オーディオトラック405等)と同期されてもよく、音楽イベント(例えば、効果、ジェスチャ、期間等)の特性を示してもよい。演奏キュー545は、肯定的フィードバック550を示す「点灯する」音楽イベント表示又は否定的フィードバックを示す「淡色表示される」音楽イベント表示等のリアルタイム又はほぼリアルタイムのフィードバックキューを含んでもよい。他の実現例によると、演奏キュー545は音楽イベントを示すスクロールする譜表の形式をとってもよい。更に他の実現例によると、演奏キュー545はスクロールするタブ譜を使用しなくてもよい。タブ譜は(例えば、長い道路のように)レイアウトされてよく、ユーザの視点がタブ譜に沿って移動する(例えば、道路を下る)。視覚的な演奏キューの他の例については本明細書において説明する。
【0062】
演奏キュー545の右側の領域は、演奏結果555を含んでもよい。この例において、演奏結果555は、スコア、難易度、精度スコア、ストリークスコア及び乗数を含んでもよく、これらはリアルタイム又はほぼリアルタイムで(例えば、ユーザの演奏中、セッションの終了時等)反映されてもよい。例えばスコアは、全体の演奏の値又は現在のセッションに関連した進行中の演奏の値を表してもよい。ストリークスコアは、例えば正しく演奏されている音楽イベントの数に対応してもよい。精度スコアは、楽曲に対するユーザの演奏の精度を反映してもよい。例えば精度スコアは、予想された音楽イベントの合計で除算される現在演奏されている音楽イベントの割合として表されてもよい。乗数はスコア変更子に対応してもよい。例えばスコアは、ユーザが困難なパッセージを正確に演奏する場合に乗数と乗算されてもよく、精度スコアは特定の閾値を上回り、難易度は特定のレベルである。乗数はスコアを増加する可能性がある。反対に、乗数はユーザのスコアを低下する可能性もある。例えばスコアは、ユーザが困難なパッセージを正確に演奏しない場合に乗数と乗算されてもよく、精度スコアは特定の閾値レベルを下回る。
【0063】
更に図示するように、ユーザインタフェースの右側部分はビデオ画像560を含んでもよい。例えば上述したように、音楽教育システム115は、ユーザの演奏中、ユーザのビデオ画像560を撮像できるカメラ145を含んでもよい。そのような例示的な一実現例によると、ユーザはユーザインタフェースを観察し続け、かつ同時に自身の演奏を見ることができる。例えば楽器がギターに対応する場合、ユーザはギターのネックを見下ろして、自身の運指及び動作を注視するだろう。しかし、ビデオ画像560により、ユーザは注意を他にそらすことなく自身の演奏を注視できる。ビデオ画像560により、ユーザは、ビデオ画像がないと識別できない可能性がある自身の演奏(例えば、技術、芸術的な課題等)に関連した課題を識別できる。他の例示的な実現例によると、ビデオ画像560は、専門演奏者、あるいはユーザの演奏に応じて教えたり、反応したり、かつ/又はフィードバックを提供したりする仮想助言者/指導者/コーチのビデオ画像に対応してもよい。他の例示的な実現例によると、ビデオ画像560はその楽曲の他のユーザの演奏(例えば、有名なアーティストの音楽ビデオ又は楽曲の別のユーザの演奏のビデオ等)に対応してもよい。音楽教育システム115により、ユーザは、ビデオ画像560が表示されるウィンドウのサイズを調整できてもよい。更に他の例示的な実現例によると、ビデオ画像560は、例えば左手のフレット及び弦の位置、右手のストラミングのタイミング及び指示、鳴らすキーボードのキー、叩くドラム等の指導情報を示すコンピュータグラフィックスを補足されるユーザのビデオ画像を示してもよい。コンピュータグラフィックは、ビデオ画像560とのオーバレイとして提示されてもよい(例えば、プロフットボールの放送において、フットボール競技場のビデオ画像とともに提供され、スクリメージライン、10ヤードライン及び他の情報をフットボール競技場に描かれているかのように示すコンピュータグラフィックスのオーバレイと同様である)。例えば画像操作により、フレット付き指板のビデオ画像560は、音又は和音に対する正しい指の位置に点灯するLEDが組み込まれているように見えるようにされてもよい。
【0064】
更に図示されるように、ユーザインタフェースの下部は運指記号及びタイムガイド565を含んでもよい。この例において、運指記号及びタイムガイド565は楽器(すなわち、ギターネック)のグラフィック表現及び演奏キュー(例えば、演奏が要求される音楽イベント)を含んでもよい。運指記号540とは異なり、運指記号及びタイムガイド565は現在の音楽イベント及び将来の音楽イベントを含んでもよい。運指記号及びタイムガイド565は、種々の形状、色、サイズ及び不透明度等を含み、ユーザが時間の経過と共に演奏キューに従っていけるようにしてもよい。
【0065】
設定570は、ユーザインタフェースの最下部に表示されてもよい。上述したように、設定マネージャ330は種々のユーザ設定、効果及びレベル等を表示してもよい。この例において、設定570は、入力レベル、チューナ、効果レベル、ミックスレベル、バンドセレクタ及び出力レベルを含んでもよい。例示的な一実現例によると、ユーザが利用可能な設定は、ユーザが演奏している楽器及び/又は楽曲に依存してもよい。更に設定570により、ユーザは、セッションが開始する前だけでなくセッション中にも特定の設定を調整できる。
【0066】
図6〜図10は、種々の楽器に対する演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。他の実現例によると、演奏キューマネージャ310と関連付けられた演奏キューは、図6〜図10に示し、かつ説明する演奏キューと比較して、更なる視覚的要素、異なる視覚的要素、より少ない視覚的要素、異なる視覚的要素の構成及び/又は異なる向きを含んでもよい。
【0067】
図6は、楽器がギターである場合の演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。図示するように、ギターの弦は6つのタイムライン605で表現されてもよく、これらは弦番号610(例えば、1〜6)及び対応する音楽イベント値615(E、A、D、G、B、E)でラベル付けされてもよい。音楽イベントの円620は、ユーザに対する演奏キューを表してもよい。例示的な一実現例によると、音楽イベントの円620内の番号は、押さえる弦の適切なフレットに対応してもよい。音楽イベントの円620は、適切な音楽イベントが演奏される適切な弦に配置されてもよい。更に例示的な一実現例によると、音楽イベントの円620垂直位置は、音楽イベントが演奏されるまでの残り時間を示してもよい。音楽イベントの円620は、音楽データ(例えば、伴奏オーディオトラック、エキスパート演奏オーディオトラック等)と関連付けられたタイムコードと同期されてもよい。
【0068】
時間の経過に伴って、ユーザインタフェースはタイムライン605及び音楽イベントの円620をスクロールしてもよい。例えばスクロールは、ユーザインタフェースの最上部からユーザインタフェースの最下部に向かって行われてもよい。他の実現例によると、時間は奥行きとともに表示又は表現されなくてもよい。例えばスクロールは、2次元で表示又は表現されてもよい。ユーザはキューライン625で音楽イベントの円620を演奏しようとする。線630は楽曲と関連付けられた音楽の拍子、小節、テンポ及び/又はタイミングを示してもよい。例示的な一実現例によると、太く、かつ/又は色が付けられた線635は、フレットに対して弦を押さえる期間(すなわち、音楽イベントの期間)を示してもよい。重複する音楽イベントはドット640又はストラミングを示す太い水平線645で表されてもよい。他の実現例によると、期間、ストラミング及び/又は重複する音楽イベントは別の方法でグラフィック表現されてもよい(例えば、ねじれ線、種々の線のパターン(例えば、点線等)、アニメーションライン等)。
【0069】
図7Aは、楽器がギターである場合の演奏キューマネージャ310と関連付けられた他の例示的な演奏キューを示す図である。この例において、ギターネック705は、水平線710により表された弦及び垂直線715により表されたフレットを含んで表示されてもよい。例示的な一実現例によると、指の位置はアニメーション化された同心円及び記号720により示されてもよい。例として、最も外側の円725は演奏タイミングの4拍前に表示されてもよい。更に他の円は、現在の演奏キューのタイミングが近づくにつれ、かつ楽曲のテンポに従ってある時間にわたり、より小さく、濃く、太く、かつ/又は低い透明度の円に変形して表示される。例えば3拍先の演奏キューは、より小さく、かつより透明度の低い円730で表されてもよい。2拍先の演奏キューは更に小さく、かつ透明度の低い円735により表されてもよく、1拍先の演奏キューは更に小さく、かつ透明度の低い円740により表されてもよい。演奏キューは、音楽イベントが演奏される適切な弦及びフレットに対応する位置に表示されてもよい。
【0070】
例示的な一実現例によると、ユーザが特定の位置の弦を鳴らすことになっている場合、全ての円が存在し、かつアイコン(例えば、星)745が表示されてもよい。音楽イベントの期間を通信するために、アイコン(例えば、星等)及び複数の円は音楽イベント750の期間の間可視のままであってもよい。
【0071】
例示的な一実現例によると、同一位置(例えば、1弦、1フレット等)に表示された複数の演奏キュー(例えば、4つの連続した16分音等)は、外側に静的な円を有し、中心が点滅する形式、又は他の何らかの適切な形式で示されてもよい。演奏キューは、音楽イベントを伝えるために、例えば振動、波状効果又は他の適切な形式等の種々の効果を更に含んでもよい。演奏キューは、音楽イベントを通信するために種々の形状、英数字、記号及び種々の色を更に含んでもよい。例示的な一実施形態によると、音楽イベント(例えば、音)の配置、タイミング、テンポ及び/又は期間は、形状、記号又は英数字等、並びに例えばサイズ、色、効果又は不透明度等の他の特性を使用することによりユーザに対して可視化して描かれてもよい。演奏キューは、楽器に従って適応されてもよい。
【0072】
図7Bは、楽器がギターdえある場合の演奏キューマネージャ310と関連付けられた他の例示的な演奏キューを示す図である。例えば手760のグラフィック表現は、演奏キューを実行するための運指記号を示してもよい。この例において、手760は、想像上の演奏者に対面するユーザの視点から表される。しかし、音楽教育システム115は、ユーザが種々の視点(例えば、想像上の演奏者の背後、想像上の演奏者の背後の上方等)で手760により形成される運指記号を閲覧できるようにしてもよい。
【0073】
図8は、楽器が声である場合の演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。図示するように、キーボード810のグラフィック表現はピッチ及びタイムラインを規定してもよく、タイムライン間の間隔はピッチ815を示してもよい。例示的な一実現例によると、太線820は音楽イベント(例えば、C音)と位置合わせされてもよい。更に又はあるいは、中太線825及び中太線830は、Cから特定の間隔(例えば、完全四度、完全五度)を有する他の音楽イベント(例えば、F音及びG音)をそれぞれ示してもよい。更に図示するように、例として、太く、かつ/又は色が付けられた線835は歌詞840でラベル付けされてもよいがこれに限定されない。更に、音楽イベントは右から左にスクロールしてもよく、垂直線845は楽曲と関連付けられた拍子、小節、テンポ及び/又はタイミングを表してもよい。
【0074】
図9は、楽器がキーボードである場合の演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。図示するように、キーボード905のグラフィック表現がユーザに対して表示されてもよい。例示的な一実現例によると、スクロールは上から下に行われてもよい。太線910は、特定の音楽イベント(例えば、C音)に位置合わせされてもよい。更に又はあるいは、中太線915及び中太線920は、Cから特定の間隔(例えば、完全四度、完全五度)を有する他の音楽イベント(例えば、F音及びG音)にそれぞれ位置合わせされてもよい。演奏キュー925は、他の特性(例えば、期間等)と共にユーザが演奏する音楽イベントを示してもよい。水平線930は、楽曲と関連付けられた拍子、小節、テンポ及び/又はタイミングを表してもよい。
【0075】
図10は、楽器がドラムセットである場合の演奏キューマネージャ310と関連付けられた例示的な情報を示す図である。この例において、4つのタイムライン1005はユーザにより演奏される音楽イベントを含んでもよい。例えば、各タイムライン1005は、音楽イベントがユーザの手又はユーザの足により演奏されるかをユーザに示すために四肢の表示1010を含んでもよい。音楽イベントは円1015により示されてもよい。例示的な一実現例によると、円1015は演奏するドラムセットのパーツを更に示してもよい。例えば「HP」はハイハットペダルに対応してもよく、「S」はスネアドラムに対応してもよく、「HH」はハイハットに対応してもよく、「K」はキックドラムに対応してもよい。円1015は、タイムライン1005に沿ってスクロールしてもよい。水平線1020は、楽曲と関連付けられた拍子、小節、テンポ及び/又はタイミングを表してもよい。キューライン1025は、いつドラムセットの適切なパーツを叩くかをユーザに示してもよい。
【0076】
上述したように、音楽教育システム115は、音楽データ(例えば、聴覚的な楽曲データ、視覚的な楽曲データ等)に同期される演奏キューを提供してもよい。
【0077】
図11は、音楽データ(例えば、エキスパート演奏オーディオトラック405、伴奏オーディオトラック410等)に同期した演奏キューを含む音楽教育システム115の例示的なユーザインタフェースを示す図である。例えば図11の例示的なユーザインタフェースは、楽曲と関連付けられた音楽イベントとの演奏キューの同期をプログラムするために使用されてもよい。
【0078】
この例において、音楽データは、タイムコードマーカ1110(例えば、秒単位)及び6つの弦のレーンに対応するギター弦セクション1115−1〜1115−6(一般にギター弦セクション1115と呼ぶ)を有するギタートラック1105を含んでもよい。例示的な一実現例によると、各ギター弦セクション1115は、演奏キューをユーザに提供する時間の領域1120を含んでもよい。例えばギター弦セクション1115−2内において、時間の領域1120はルーラマーカ1110に位置合わせされてもよい値「5−432」を含む。値「5−432」は、難易度2、3及び4(例えば、ミディアム、ハード、ハーデストをそれぞれ表す)に従って5番目のフレットで弦2を演奏することをユーザに示してもよい。音楽教育システム115は、この同期された演奏キューデータを使用してユーザインタフェースを生成し、ユーザにより演奏される音楽イベント及び演奏方法を示す。
【0079】
演奏キューデータは、楽器の種類だけでなくセッションの難易度にも依存して異なってもよい。例えば演奏キューは、種々のユーザのレベル(例えば、初心者、易しい、未熟者、熟練者、難しい、上級者又は天才等)に合わされてもよい。また、更に以下に示すように、例示的な一実現例によると、セッションの難易度はセッション中静的であってもよい。しかし、別の実現例によると、セッションの難易度はセッション中動的であってもよい。例えばセッションの難易度は、ユーザの演奏の評価に基づいてセッション中に変化してもよい。そのような一実現例によると、セッションの難易度は上下してもよく、それに応じて演奏キューの難易度がそれらの変化を反映してもよい。
【0080】
音楽教育システム115の例示的な実施形態によると、ユーザはゲームコントローラ等の「仮想楽器」とは異なり「本物」の楽器を演奏してもよい。音楽教育システム115は、楽器で演奏された音楽イベント(例えば、音等)を検出してもよい。例えば上述したように、音楽教育システム115は、基本周波数検出アルゴリズムに基づいてユーザにより演奏された音楽イベントを検出してもよい。これは例えば音楽イベント(例えば、音等)を生成しないゲームコントローラを使用する及び/または音楽イベントがピッチ等に基づいて評価されないゲームシステムとは対照的である。
【0081】
音楽教育システム115は、楽器に応じて種々な方法でユーザ演奏データを受信してもよい。例えばMIDI機能を有する楽器の場合、音楽教育システム115は直接入力(例えば、ケーブルを介して又は無線で)を受け入れてもよい。MIDI対応の楽器はピッチ等を含んでよいイベントメッセージを送受信してもよいため、音楽教育システム115は基本周波数検出を実行しなくてもよい。あるいは、ユーザがスネアドラムを演奏することを学んでいる場合、基本周波数の検出は関係ない。しかし、他の種類の楽器の場合、音楽教育システム115は、1つ以上の基本周波数検出アルゴリズムに従って特定の音楽イベントと関連付けられた基本周波数を検出してもよい。例えば、楽器が生楽器、(例えば、ピックアップを有する)電気楽器である場合、あるいはユーザがマイクを使用して又はマイクを介して演奏する場合、音楽教育システム115は基本周波数検出を使用してもよい。基本周波数検出アルゴリズムは、ピッチ解析、基本周波数推定及び和音認識を含んでもよい。他の例示的な実現例によると、他の方法が入力解析(例えば、テンプレートマッチング、機械学習、非負行列因数分解等)に対して使用されてもよい。音楽教育システム115は、楽器から受信した音声及び/又は楽器の種類に基づいて基本周波数検出を使用するかを判定してもよい。
【0082】
図12A〜図12Cは、音楽イベントと関連付けられた基本周波数を検出する例示的な処理1200を示す。基本周波数は、楽音を構成する音響振動の周波数に対応してもよい。フルート等の単音楽器は、一度に最大1つの楽音を生成できる。ギター又はピアノ等の多音楽器は、一度に2つ以上の楽音を生成できる。例えばギター又はピアノは、和音又は他の多音音楽構造を生成できる。基本周波数検出アルゴリズムは、単音音楽構造(例えば、単一の楽音)又は多音音楽構造(すなわち、2つ以上の楽音、和音等)と関連付けられた基本周波数を検出してもよい。
【0083】
処理1200は、オーディオ入力信号を受信すること(ブロック1205)を含んでもよい。例えば音楽教育システム115は、オーディオ入力信号を受信してもよい。例えば楽器は、音楽教育システム115に対するオーディオ入力信号として使用される電気信号を生成してもよい。あるいは、マイク又はピックアップは、楽器と関連付けられた生音の信号をオーディオ入力信号として使用されてもよい電気信号に変換するために使用されてもよい。
【0084】
アナログ−デジタル変換が実行されてもよい(ブロック1210)。例えば音楽教育システム115は、従来技術を使用してオーディオ入力信号をデジタルオーディオ入力信号に変換してもよい。
【0085】
出だしブロックが形成されてもよい(ブロック1215)。例示的な一実現例によると、基本周波数検出アルゴリズムは、デジタルオーディオ入力信号から連続する一群のサンプを含む(例えば固定長の)ブロックを形成することに基づいて基本周波数を検出してもよい。例えば出だしブロックは、音楽イベントと関連付けられた出だし時間がより短い時間ウィンドウ内で検出できるよう、512個のサンプルを含むことができる。
【0086】
上述したように、出だしブロックのサイズは一般に周波数解析に使用されるブロックより小さくてもよい。例えば、周波数解析ブロックが2048個のサンプルを含むことは一般的である。しかし、50%の重複を有し、1024サンプル等の等間隔を有する複数のサンプルのブロックを使用してデジタルオーディオを処理するために、そのサイズのブロック内で出だしが始まる場合には、基本周波数検出結果の品質は低い可能性がある。そのような品質の低い結果を回避するために、基本周波数検出アルゴリズムは、形成された出だしブロック内で出だし(例えば、音楽イベントの開始)を検出してもよく、出だしが検出される場合、周波数検出アルゴリズムは周波数検出のために次の出だしブロックに進んでもよい。この点に関して、周波数検出解析は、出だしを含まない出だしブロックに位置付けられてもよい。例えば、出だしを含む出だしブロックの後に位置付けられてもよい、出だしを含まない出だしブロックである。
【0087】
出だしブロックは、平滑化ウィンドウと乗算されてもよい(ブロック1220)。出だしブロックは、特にデジタルオーディオ入力信号のスペクトル特性を向上するために平滑化ウィンドウと乗算されてもよい。例示的な一実現例によると、平滑化ウィンドウの種類は楽器に基づいて選択されてもよい。音楽教育システム115は、1つ以上の種類の平滑化ウィンドウ(例えば、ハンウィンドウ、ハミングウィンドウ、ガウスウィンドウ等)を含んでもよい。
【0088】
FFTは、出だしブロックに対して実行されてもよい(ブロック1225)。高速フーリエ変換(FFT)は出だしブロックに適用されてもよく、その結果、離散短期スペクトルの推定値を与えてもよい。離散短期スペクトルは、大きさ及び位相情報を表す複素数を含んでもよい。
【0089】
複素数は、大きさ値に変換されてもよい(ブロック1230)。例えば各複素数の大きさは、虚数部の2乗及び実数部の2乗の合計の平方根である。例えば複素数がa+biである場合、大きさはsqrt(a2+b2)である。式中、sqrtは平方根を表す。大きさ値は、ある正弦成分の振幅に対応してもよく、複数の正弦成分は等間隔に離間した周波数であってもよい。大きさ値は、インデックスを有するデータ構造(例えば、配列等)に格納されてもよい。
【0090】
加重和が算出されてもよい(ブロック1235)。例えば大きさの加重平均は、インデックス付きデータ構造のそれぞれの位置に基づいて算出されてもよい。一例として、大きさ配列でインデックスが付与された4つの大きさ値(2,2,3,4)があるとする。例えば大きさ値=2は大きさ配列の位置0にインデックスされてよく、大きさ値=2は大きさ配列の位置1にインデックスされてよく、大きさ値=3は大きさ配列の位置2にインデックスされてよく、大きさ値=4は大きさ配列の位置3にインデックスされてよい。周波数検出アルゴリズムは、各大きさ値を対応するインデックスと乗算してもよい。例えば、新しい大きさ値(0,2,6,12)(例えば,2*0,2*1,3*2,4*3)が算出されてもよい。次に、新しい大きさ値の合計が算出されてもよく、加重平均が算出されてもよい。例示的な一実現例によると、加重平均は、大きさ値の合計を乗数の合計で除算した値に対応してもよい。例えば新しい大きさ値が加算され(0+2+6+12)合計した大きさ値=20を形成し、合計した大きさ値は6(0+1+2+3)で除算され加重和=3.33を与えてもよい。別の例示的な実現例によると、新しい大きさ値の合計は加重和に対応してもよい。例えば加重和=20である。この例において周波数が大きさ配列において低い周波数から高い周波数へインデックスが付与されるため、説明した方法で加重和を算出することにより、周波数スペクトル内のより高い周波数は周波数スペクトル内のより低い周波数より大きい重みを与えられる。すなわち、周波数が低いほど重み(例えば、配列インデックス乗数)を小さく、周波数が高いほど重みを大きく割り当ててもよい。
図12Bを参照すると、出だし検出が実行されてもよい(ブロック1240)。例えば、前の出だしブロックと関連付けられた加重和に対する加重和の変化が閾値と比較されてもよい。その変化が閾値以上である場合、出だしブロックは出だしを含むと判定される。加重和の変化が閾値未満である場合、出だしブロックは出だしを含まないと判定される。例示的な一実現例によると、閾値は、出だしが検出された後に減少されてもよく、出だしが検出されない場合に前の閾値に戻されてもよい。
【0091】
例示的な一実現例によると、出だしが出だしブロック内で発生しない場合、出だしブロックは例えばバッファに格納されてもよい。更に以下に説明するように、出だしを含まない出だしブロックは基本周波数ブロックを形成するために使用されてもよい。逆に、出だしが出だしブロック内で発生する場合、周波数検出アルゴリズムは、その出だしブロックを無視し、次の出だしブロックに進んでもよい。
【0092】
基本周波数ブロックが形成されてもよい(ブロック1245)。検出された各出だしの結果は、基本周波数検出に対する適切なサンプルのブロックを判定するために使用されてもよい。例えば出だしを含まないと判定される出だしブロックは、基本周波数ブロックを形成するために使用されてもよい。一例として、基本周波数ブロックが2048個のサンプルを含み、かつ出だしブロックが512個のサンプルを含む場合、4つの連続した出だしブロックが出だしを含まないと判定された時に基本周波数ブロックは形成されてもよい。ブロック1215で形成された出だしブロックのサイズ及び基本周波数ブロックのサイズに依存して、出だしを含まないと判定された特定の数の連続した出だしブロックが基本周波数ブロックを形成するのに使用されてもよい。
基本周波数ブロックは、平滑化ウィンドウと乗算されてもよい(ブロック1250)。基本周波数ブロックは、特にデジタルオーディオ入力信号のスペクトル特性を向上するために平滑化ウィンドウと乗算されてもよい。例示的な一実現例によると、平滑化ウィンドウの種類は楽器に基づいて選択されてもよい。音楽教育システム115は、1つ以上の種類の平滑化ウィンドウを含んでもよい。
【0093】
FFTは、基本周波数ブロックに対して実行されてもよい(ブロック1255)。高速フーリエ変換(FFT)は基本周波数ブロックに適用されてもよく、それにより離散短期スペクトルの推定値が得られるであろう。離散短期スペクトルは、大きさ及び位相情報を表す複素数を含んでもよい。
【0094】
複素数は、対数的な大きさ値(magnitude value)に変換されてもよい(ブロック1260)。各複素数の大きさは、虚部の2乗及び実部の2乗の合計の平方根である。例えば複素数がa+biである場合、大きさはsqrt(a2+b2)である。大きさの対数は一般的な対数関数を使用して計算されてもよい。各対数値は、各正弦成分と関連付けられた振幅の対数に対応してもよい。ここで、正弦成分は等間隔で離間された周波数であってもよい。
【0095】
ピーク推定値が算出されてもよい(ブロック1265)。例えば低い周波数で、対数振幅スペクトルにより表された正弦成分の間隔は正確な音楽ピッチ推定には広すぎる可能性がある。例示的な一実現例によると、対数振幅スペクトルは補間されてもよい。例えば対数振幅スペクトルは2次補間を使用して補間されてもよい。対数振幅値がその2つの隣接する値より大きいスペクトルの各位置において、二次多項式がそれら3つの点に適合されてもよい。各ピーク点に対して、2次スプラインのピーク点の対数振幅及び周波数が計算され、ピークデータとして格納されてもよい。そのような方法は、特にピーク点と関連する周波数がFFTと関連する周波数ビン(FFTビン)と位置合わせされない場合にピーク推定の精度を向上する。例えばFFTと関連する各周波数ビンが40Hzであり、ピーク点が100Hzに位置する場合、2次補間はピーク点の正確な周波数及び対数振幅を識別する精度を向上する。
図12Cを参照すると、ピークグラムが形成されてもよい(ブロック1270)。ピークグラムはピークデータに従って形成されてもよい。例えば、ピークグラムは配列に対応してもよい。ピークグラムの各場所は半音(例えば、等分平均律音階に基づく公称周波数)に対応してもよい。例示的な一実現例によると、MIDIキーナンバーは、ピークグラム指標として使用されてもよく、指標iの公称周波数は以下の例示的な式に対応してもよい。
440*2i−69/12 (1)
式中、440Hzは音楽イベントA4の標準的な周波数であり、69は音楽イベントA4に対するMIDIノートナンバーを表し、12は1オクターブ中の半音の数を表す。
【0096】
対数振幅スペクトルの2次スプラインにより推定された各ピークに対して、最も一致する公称周波数を有するピークグラムの場所に対応するピーク値がピーク振幅の2乗分だけ増分されてもよい。殆どの場合、最大1つのピーク振幅が所定のピークグラムの場所に影響を与える。そのような場合、例えば別の配列が形成されてピーク点の正確な周波数を格納してもよい。周波数は、音楽イベント(例えば、音)が正しい旋律であるか、半音低いか、又は半音高いかを推定するために使用されてもよい。
【0097】
ピークグラムは、音階の各半音における又は各半音の近くの基本周波数ブロックのエネルギーの推定値を含んでもよい。基本周波数ブロックに存在する音楽イベントがMIDIキーナンバーiに対応する場合、ピークグラムは、基本周波数を表す場所iにおける大きな正の値(すなわち、エネルギーを表す)、並びに例えば最も近い半音(例えば、MIDIキーナンバー)に丸められた倍音を表す場所i+12、i+19、i+24、i+28、i+31、i+34及びi+36における追加の正の値を含んでもよい。他の実現例によると、使用される倍音(又は部分音)の数はより多くても少なくてもよい。更に、デジタルオーディオ信号において表される最大周波数より上にある周波数は存在しなくてもよい。
【0098】
加重和が算出されてもよい(1275)。例えば対応するMIDIキーナンバーiを有する音楽イベント(例えば、音)に対して、加重和(例えば、振幅の2乗)が基本周波数及びその倍音におけるピークグラム値から形成されてもよい。例えば加重和は、場所i、i+12、i+19、i+24、i+28、i+31、i+34及びi+36において形成されてもよい。いくつかの倍音が存在できない高い周波数に対して、加重和はより少ない倍音を補償するように変倍されてもよい。
【0099】
音楽イベントが検出されるかが判定されてもよい(ブロック1280)。例えば加重和は、音楽イベント検出閾値と比較されてもよい。加重和が音楽イベント検出閾値以上である場合(ブロック1280−YES)、音楽イベントが存在するかが判定され、音楽イベントが出力されてもよい(ブロック1285)。例えば、音楽イベントがMIDIキーナンバーiに対応すると判定されてもよい。例示的な一実現例によると、維持された音楽イベントの振幅が時間の経過と共に減衰したと予想されるため、同一のピッチを有する音楽イベントが前の基本周波数ブロックで検出された場合に音楽イベント検出閾値は小さくされてもよい。逆に、加重和が音楽イベント検出閾値未満である場合(ブロック1280−NO)、音楽イベントが存在しないと判定されてもよい。図12Cに示すように、処理1200は以下に説明するようにブロック1295に継続してもよい。
【0100】
一致した部分音は除去されてもよい(ブロック1290)。例えば音楽イベントが検出される場合、ピークグラムの場所はゼロに設定されてもよい。例えばピークグラムの場所i、i+12、i+19、i+24、i+28、i+31、i+34及びi+36は、MIDIキーナンバーiの音によるエネルギーに基づいて追加の音楽イベントの間違った検出を防止するために除去されてもよい。
【0101】
iが増分されるかが判定されてもよい(ブロック1295)。例えばピークグラムの場所をゼロに設定した後、他のMIDIキーナンバーに対応する他の音楽イベントを検出するようにiが1だけ増分されてもよい(i+1)かが判定されてもよい。iが増分されてもよい(例えば、最後のMIDIキーナンバーがまだ考慮されていない)(ブロック1295−YES)と判定された場合、処理1200はブロック1275に継続してもよい。iが増分されてはいけない(例えば、最後のMIDIキーナンバーが考慮された)と判定された場合(ブロック1295−NO)、処理1200は終了してもよい。
【0102】
図12A〜図12Cは音楽イベントと関連付けられた基本周波数を検出する例示的な処理1200を示すが、他の実現例において、処理1200は、図12A〜図12Cに示し、かつ説明した動作と比較して、追加の動作、より少ない動作及び/又は異なる動作を含んでもよい。例えば別の実現例によると、基本周波数検出は、以下に従って音楽イベント(例えば、音)の証拠を見つけるためにピークグラムを探索することにより行われてもよい。例えば音楽イベントが対応するMIDIキーナンバーiを有しイベント、p[k]がMIDIキーナンバーkに対するピークグラム配列値の値を表す場合、合計は以下の例示的な式に従って算出されてもよい。
p[i]+min(p[i],p[i+12])+min(p[i],p[i+19])+min(p[i],p[i+24])+min(p[i],p[i+28])+min(p[i],p[i+31])+min(p[i],p[i+34])+min(p[i],p[i+36]) (2)
いくつかの倍音が存在できない高い周波数に対して、合計はより少ない倍音を補償するように変倍されてもよい。この結果として得られる合計は、上述したように音楽イベント検出閾値と比較されてもよい。
【0103】
更に上述したように、音楽教育システム115は、他の形式の入力解析(例えば、テンプレートマッチング、機械学習、非負行列因数分解等)を使用してもよい。例えば音楽教育システム115は、楽器及び/又は楽曲に依存してピッチ解析の複数の方法を利用してもよい。例えばより低い音域の音楽イベントに対して最適化される方法がより低い音域の音を特色としている楽曲に対して使用されてもよい。逆に、より高い音域の音楽イベントに対して最適化される方法がより高い音域の音を特色としている楽曲に対して使用されてもよい。更に又はあるいは、単音ピッチ検出に対して最適化された方法は単音音楽パッセージに対して使用されてもよく、かつ/又は短い音検出に対して最適化された方法は短い音パッセージに対して使用されてもよい。この点に関して、音楽教育システム115は、1つ以上の基本周波数検出方法を適応的に選択するために楽曲のプロファイルを含んでもよい。
【0104】
周波数検出に加えて、音楽教育システム115は、ユーザにより演奏された音楽イベントの他の音楽特性を評価してもよい。例えば音楽教育システム115は、音楽イベントの開始時間、音楽イベントの終了時間、音楽イベントの期間、音楽イベントの振幅又は音楽イベントの振幅曲線を評価してもよい。例示的な一実現例によると、音楽教育システム115は、音圧レベル、デシベルレベル、又は他の何らかの音量の計測値に基づいて音楽イベントの振幅を評価してもよく、その音量の計測値を楽曲で指定された音量レベルにマッピングしてもよい。例えば楽曲は、ピアノ(p)の音量レベルを指定してもよく、音楽教育システム115は音量レベルを音量の範囲にマッピングしてもよい。更に楽曲は、クレッシェンドをピアノ(p)からフォルテ(f)に指定してもよく、音楽教育システム115は、音量曲線を音量等感曲線にマッピングしてもよい。
【0105】
基本周波数検出は、予期される基本周波数の集合を参考にしても良い。予期される周波数又は正確な周波数を参照して、基本周波数検出処理1200は、ユーザが実際に演奏する音楽イベントを見逃すことを回避し、かつユーザが演奏しない間違った音楽イベントを検出することを回避するようにバイアスされてもよい。このように、正確な演奏に対してユーザに間違えてペナルティを課す確率が低減される。これは、いくつかの誤った音楽イベントの演奏を正確な演奏と間違えて評価するという代償を必要とするが、一般にユーザは正確な演奏に対して間違えてペナルティを課されるよりも、高すぎる評価を受ける方ことに満足するだろう。基本周波数検出処理1200をバイアスするために、上述した音楽イベント検出閾値は、基本周波数を検出する確率を低下させるために大きい値に調整されるか、基本周波数を検出する確率を増加するために低い値に調整される。例えば、音が演奏キューデータ415にある場合、検出は音楽イベント検出閾値を低下させることによりその音に対する基本周波数を検出しやすくバイアスされてもよい。音が演奏キューデータ415にない場合、検出は音楽イベント検出閾値を増加することによりその音に対する基本周波数を検出しにくくバイアスされてもよい。これは、演奏キューデータ415に存在する予期される周波数に依存して周波数検出手法にバイアスをかける方法の一例であり、検出方法にバイアスをかける他の方法が個別に又は組み合わせて使用されてもよい。
【0106】
例示的な一実現例によると、音楽教育システムは周波数検出又は振幅に基づいて音楽イベントの開始時間を評価してもよい。例えば異なるピッチを有する連続した音楽イベントに関して、音楽教育システム115は周波数検出に基づいて各開始時間を評価してもよい。更に又はあるいは、音楽教育システム115は振幅に基づいて開始時間を評価してもよい。例えば、図12において上述したように、前の出だしブロックと関連した振幅に対する振幅の突然の増加は音楽イベントの開始を示してもよい。逆に、音楽教育システム115は出だしブロック間の相対的な振幅に基づいて音楽イベントの終了時間を評価してもよい。音楽教育システム115は、開始時間及び終了時間に基づいて音楽イベントの期間を評価してもよい。
【0107】
音楽教育システム115は、ユーザにより演奏された評価した音楽イベントを、エキスパートにより演奏された予期される音楽イベントと比較してもよい。その比較に基づいて、音楽教育システム115は種々のスコア、統計、フィードバック等を算出してもよい。
【0108】
図13は、音楽教育システム115が音楽イベントを評価し、かつ音楽イベントを採点できる例示的な処理を示す図である。図示するように、グラフ1及びグラフ2が提供される。グラフ1は、x軸に沿うタイムライン1300とy軸に沿うスコアライン1305とを含む。グラフ2は、x軸に沿うタイムライン1300とy軸に沿う周波数ライン1315とを含む。
【0109】
グラフ1を参照すると、例示的な一例によると、グラフ1は34.0秒(すなわち、予期される音楽イベントの開始時刻)にキュー開始を有し、かつ35.0秒(すなわち、予期される音楽イベントの終了時刻)にキュー終了を有する、予期される音楽イベントを表す。更に、ユーザにより演奏された音楽イベントの早い開始時間又は遅い開始時間に対する許容差を与える33.875〜34.125の範囲の開始許容差がキュー開始を囲んで示される。同様に、ユーザにより演奏された音楽イベントの早い終了時間又は遅い終了時間に対する許容差を与える34.875〜35.125の範囲の終了許容差がキュー終了を囲んで示される。例示的な一実現例によると、開始許容差及び終了許容差はスコアライン1305に対する関係を有する。例えば図示するように、ユーザにより演奏された音楽イベントに割り当てられたスコアは、予期される音楽イベントに対する音楽イベントの開始時間及び終了時間の近さに依存して変動してもよい。例えばユーザにより演奏された音楽イベントの開始時間がエキスパートにより演奏された音楽イベントの開始時間と同一である場合、音楽教育システム115は1.0のスコアを与えてもよい。しかし、ユーザにより演奏された音楽イベントの開始時間が同一ではないが開始許容差の範囲内である場合、音楽教育システム115は1.0より低いスコアを与えてもよい。ユーザにより演奏された音楽イベントの開始時間が開始許容差の範囲内にない場合、音楽教育システム115は0.0〜1.0のスコアを与えてもよい(不図示)。音楽教育システム115は、同様の方法で終了時間に関してスコアを与えてもよい。更に音楽教育システム115は、開始時間及び終了時間に基づいてユーザにより演奏された音楽イベントの期間を評価し、適切なスコアを算出してもよい。
【0110】
グラフ2を参照すると、音楽教育システム115は、ユーザにより演奏された音楽イベントの基本周波数を評価してもよい。例えば、予期される音楽イベントの基本周波数は440Hzであると仮定する。この例において、音楽教育システム115は、438Hz〜442Hzの周波数許容差で基本周波数を評価してもよい。ユーザ演奏周波数1320により示されるように、ユーザにより演奏された音楽イベントと関連付けられた基本周波数は少し高い(例えば、440Hzより高い)。図示しないが、音楽教育システム115は、上述した方法と同様の方法で周波数に関してユーザにより演奏された音楽イベントにスコアを与えてもよい。
【0111】
音楽命令システム115は、ある期間にわたり1つ以上の音楽特性(例えば、周波数、振幅等)の変動を含む音楽イベントを評価してもよい。例えば音楽教育システム115は、スライド、ベンド、ポルタメント又はビブラート等の連続した音楽ジェスチャを評価してもよい。
【0112】
図14は、音楽教育システム115が連続した音楽ジェスチャと関連付けられた基本周波数に基づいてその連続した音楽ジェスチャを評価できる例示的な処理を示す。例えば基本周波数は、ある期間(すなわち、特定の音楽ジェスチャに対する演奏キューの期間)にわたり関数として考えられてもよい。例示的な一実現例によると、音楽教育システム115は、連続した音楽ジェスチャのエキスパートの演奏と関連付けられてもよい基本周波数エンベロープ1405、連続した音楽ジェスチャのユーザの演奏と関連付けられた基本周波数エンベロープ1410及び誤差基本周波数エンベロープ1415と関連した情報に基づいて連続した音楽ジェスチャを評価してもよい。
【0113】
例示的な一実現例によると、音楽教育システム115は、基本周波数エンベロープ1405と基本周波数エンベロープ1410との差分を算出し、誤差基本周波数エンベロープ1415を生成してもよい。そのような一実現例によると、領域部分1420で示される誤差(すなわち、基本周波数エンベロープ1405と1410との差分)の絶対値の積分は、連続した音楽ジェスチャの演奏誤り又は精度の測定値を表してもよい。そのような一実現例において、領域部分1420と関連する全体の面積が小さい程、連続した音楽ジェスチャの演奏と関連する精度は高い。逆に、領域部分1420と関連する全体の面積が大きい程、連続した音楽ジェスチャの演奏と関連する精度は低い。
【0114】
例示的な一実現例によると、音楽教育システム115は、領域部分1420と関連する全体の面積に基づいて得点を算出してもよい。例えば音楽教育システム115は、全体の面積をある数字で除算するか又は全体の面積とある数字とを乗算して得点に基づくスコアを算出してもよい。更に例示的な一実現例によると、音楽教育システム115は、例えば連続した音楽ジェスチャの難易度、楽曲の難易度、並びに他の音楽特性(例えば、終了時間、振幅等)及びその採点等のスコアを算出する時に他のファクタを考慮してもよい。
【0115】
上述したように、音楽教育システム115は、セッション中にユーザにフィードバックを提供してもよい。例えば音楽教育システム115は、ユーザが演奏している時に集計しているスコアをユーザに提供してもよい。更に又はあるいは、音楽教育システム115は、最終的なスコア、並びに他の種類のスコア(例えば、比較スコア、ベストスコア等)、統計等をユーザに提供してもよい。例示的な一実現例によると、音楽教育システム115は、音楽イベントの演奏の正確度に基づいてスコアを算出してもよい。例えばスコアは、以下に説明する処理に従って算出されてもよい。
【0116】
図15は、音楽教育システム115がスコアを算出できる例示的な処理1500を示す図である。例示的な一実現例によると、スコアは音楽イベントと関連付けられた1つ以上の音楽特性に関する精度の測定値を含んでもよい。例えば上述したように、音楽特性は周波数、振幅、開始時間、終了時間、期間、振幅曲線及び/又は周波数曲線に対応してもよい。説明の目的で、処理1500に関して、音楽イベント特性は開始時間、終了時間及び基本周波数を含んでもよい。他の実現例によると、以下に更に説明するように、音楽イベントと関連した更なる音楽特性、より少ない音楽特性及び/又は異なる音楽特性がスコアを算出するのに考慮されてもよい。更に例示的な実現例によると、音楽教育システム115は、ユーザにより演奏された単音(monophonic)又は多声(polyphonic)音楽イベントを検出してもよい。
【0117】
図15に示すように、処理1500は音楽イベントを検出すること(ブロック1505)を含んでもよい。音楽教育システム115は、ユーザにより演奏された音楽イベントを検出してもよい。上述したように、音楽教育システム115は、楽器から受信したオーディオデータに基づいて音楽イベントを検出してもよい。
【0118】
音楽イベント特性が評価されてもよい(ブロック1510)。音楽教育システム115は、ユーザが演奏した音楽イベントと関連付けられた音楽イベント特性を評価してもよい。例えば音楽教育システム115は、1つ以上の基本周波数検出アルゴリズムを使用し、かつ/又は振幅評価、開始時間評価、終了時間評価、期間評価、振幅曲線評価、周波数曲線評価等を実行してもよい。しかし、説明の目的で、本例では音楽教育システム115は図12A〜図12Cに関して上述した基本周波数アルゴリズム並びに開始時間及び終了時間評価を含む1つ以上の基本周波数アルゴリズムを使用してもよい。
【0119】
周波数誤差が算出されてもよい(ブロック1515)。音楽教育システム115は、検出した音楽イベントと関連付けられた基本周波数を予期される音楽イベントと関連付けられた基本周波数と比較してもよい。例えば検出した音楽イベント及び予期される音楽イベントと関連付けられた基本周波数f1及びf2は、以下の例示的な式に基づいて対数目盛s1及びs2に変換されてもよい。
s=log2(f/r)*12+69 (3)
式中、rは音楽イベントA4に対する一般的な周波数である440Hzであり、12は1オクターブに対する倍数を表し、69は音楽イベントA4に対するMIDIノートナンバーを表す。
【0120】
rに対する種々の値は、音楽データ(すなわち、予期される音楽イベント)及び/又はユーザ(すなわち、検出した音楽イベント)のチューニングに合わせて調整するために使用されてもよい。例示的な一実現例によると、基本周波数を対数目盛に変換することにより、周波数誤差が基本周波数の比で表される。換言すると、基本周波数間の半音で表される間隔は音程に対応し、これは単なる周波数の差分より有意義である。本実現例によると、基本周波数f1及びf2がs1及びs2に変換される場合、半音単位の周波数誤差は例示的な式s1−s2に従って算出されてもよい。
【0121】
タイミング誤差が算出されてもよい(ブロック1520)。音楽教育システム115は、検出した音楽イベントと関連付けられた開始時間を予期される音楽イベントと関連付けられた開始時間と比較してもよい。例えば開始時間が検出した音楽イベントに対してt1であり、かつ開始時間が予期される音楽イベントに対してt2である場合、タイミング誤差は例示的な式t1−t2に従って算出されてもよい。更に音楽教育システム115は、検出した音楽イベントと関連付けられた終了時間を予期される音楽イベントと関連付けられた終了時間と比較してもよい。同様に、音楽教育システム115は、例示的な式t1−t2に従ってタイミング誤差を算出してもよい。
【0122】
スコアが算出されてもよい(ブロック1525)。音楽教育システム115は、周波数誤差及び開始誤差に基づいてスコアを算出してもよい。例えば、スコアは以下の例示的な式に基づいて算出されてもよい。
スコア=(exp(−t1−t2)2)/vt)*(exp(−(s1−s2)2/vs)
(4)
式中、vtは時間ファクタ変数であり、v2は周波数ファクタ変数である。
【0123】
vtの値は、タイミング誤差に対するスコアの許容を増加又は減少するように調整されてもよく、vsの値は、周波数誤差に対するスコアの許容を増加又は減少するように調整されてもよい。例示的な一実現例によると、vt及びvsの値は、スコアに影響を及ぼすように初心者又はエキスパート等の難易度に従って調整されてもよい。更にvtの値は、楽曲のテンポに対応して変更されてもよい。例えばvtの値は、テンポが速い程小さくてもよい。その結果、ユーザは、テンポがより遅い時と同一のスコアを得るためにより高いタイミング精度(例えば、より小さい時間ウィンドウ内)で演奏する必要がある。
【0124】
別の例示的な実現例によると、スコアは以下の例示的な式に基づいて算出されてもよい。
スコア=(exp(−|t1−t2|)/vt)*(exp(−(s1−s2)2/vs)
(5)
式中、式(5)に従って、タイミング誤差のペナルティは式(4)と同様の速さで増加しなくてもよい。
【0125】
例示的な一実現例によると、スコアは0〜1の値を有してもよい。そのような例において、音楽教育システム115は、スコアとスカラーとを乗算し、ユーザに対して表示されるスコアが整数となるようにスコアを最も近い整数値に丸めることによりスコアを修正してもよい。例示的な一実現例によると、スカラーの値は楽曲と関連付けられた難易度に基づいてもよい。
【0126】
いくつかの例において、複数の検出した音楽イベントが単一の予期される音楽イベントと一致する可能性があり、その結果、必要以上の音楽イベントが演奏された場合に得点が繰り返しカウントされてしまう。予期される音楽イベントが検出した音楽イベントと1度だけ一致することを保証するために、音楽教育システム115は、単一のスコアを予期される各音楽イベントと関連付けてもよい。複数の検出した音楽イベントが1つの予期される音楽イベントと一致した場合、例示的な一実現例によると、音楽教育システム115は最高スコアを与える検出した音楽イベントを選択してもよい。例示的な一実現例によると、音楽教育システム115は、予期される音楽イベントを囲む時間許容差に基づいて予期される音楽イベントと比較する音楽イベントを選択してもよい。しかし、いくつかの例において、1つの予期される音楽イベントが楽曲に従って予想されるが、ユーザは複数の音楽イベントを演奏してもよい。
【0127】
別の実現例によると、音楽教育システム115は、演奏された余分な検出した音楽イベントがユーザにペナルティを課し、かつユーザのスコアを低下させるように余分な検出した各音楽イベントと関連付けられたペナルティスコアを減算してもよい。このように、ユーザが余分な音楽イベントを演奏する場合、スコアは、ユーザが正確な数の音楽イベントを演奏する場合より高くならない。
【0128】
スコアを算出するために、演奏された音楽イベント(例えば、検出した音)と関連付けられた例えば開始時間及び基本周波数等の音楽特性が予期される音楽イベント(例えば、予期される音)の対応する音楽特性と比較されてもよいと説明したが、音楽イベントと関連する他の種類の音楽特性が評価され、かつ採点されてもよい。例えば音楽教育システム115は、例えば音色が澄んだフレーズ、単調なフレーズ、心温まるフレーズ等のフレーズを含む楽曲に対して振幅曲線評価、周波数曲線評価、リズム評価(例えば、開始時間、終了時間、期間に基づく)、音色評価(例えば、周波数スペクトル評価)を実行してもよい。更にいくつかの音楽特性は、他の楽器と比較していくつかの楽器に対して高い適用可能性を有してもよい。例えば、ドラムセットのドラムと関連する音質又は周波数がスコアを判定することに関連しなくてもよい。しかし、音楽教育システム115は、ドラムの音色特徴に基づいて正確なドラムが演奏されたかを判定してもよい。例えばバスドラム又はフロアタムは、ラックタム又はスネアドラムと比較して低い音質を有する。音楽教育システム115は、音楽イベントのリズム特性が正確に演奏されたかに加えて正確なドラムが演奏されたかに基づいてスコアを算出してもよい。MIDIの楽器の場合、タイミング、速度、ピッチベンドホイールは評価される音楽特性の例である。
【0129】
例示的な一実施形態によると、ユーザが音楽イベントを演奏する場合、それらの音楽イベントは検出され、かつ対応する予期される音楽イベントとマッチングされてもよい。例えば上述したように、例示的な一実現例によると、演奏評価マネージャ320は、音楽イベントが正確に演奏された程度又は正確に演奏されなかった程度を評価してもよい。例えば音楽教育システム115は、音楽イベントの種々の音楽特性と関連付けられた周波数許容差、振幅許容差、開始時間許容差、終了時間許容差等を提供してもよく、ユーザが演奏した音楽イベントが正確に演奏された程度又は正確に演奏されなかった程度を確認できてもよい。
【0130】
この検出、評価及び比較方法に基づいて、音楽教育システム115は適切なフィードバック(例えば、否定的フィードバック又は肯定的フィードバック)をユーザに提供してもよい。例えば例示的な一実施形態によると、音楽教育システム115は、ユーザが演奏した音楽イベントの正確度又は不正確度に対応して変動するレベルの肯定的フィードバック又は変動するレベルの否定的フィードバックを提供してもよい。例えば音楽教育システム115は、正確度又は不正確度に対応して変動するレベルの肯定的/否定的視覚的フィードバック及び変動するレベルの肯定的/否定的聴覚的フィードバックを提供してもよい。変動するレベルの肯定的フィードバック及び否定的フィードバックの例については以下に更に説明する。
【0131】
更に上述したように、例示的な一実施形態によると、セッションの難易度はセッション中静的であってもよい。別の実現例によると、セッションの難易度は動的であってもよい。例えば音楽教育システム115は、セッション中にセッションの難易度を自動的に増加してもよく又はセッションの難易度を自動的に低下してもよい。例示的な一実現例によると、音楽教育システム115は、ユーザの演奏及び/又はフィードバック(例えば、スコア等)に基づいてセッションの難易度を調整してもよい。例えばユーザの演奏が肯定的に評価され、かつ/あるいはユーザのスコア又は他の演奏関連統計等が閾値を超える場合、音楽教育システム115は、セッションの難易度を自動的に増加してもよい。逆に、ユーザの演奏が否定的に評価され、かつ/あるいはユーザのスコア又は他の演奏関連統計等が閾値を下回る場合、音楽教育システム115は、セッションの難易度を自動的に低下してもよい。一実現例によると、ユーザの演奏が非常に否定的に評価されるか又は停止閾値を下回る場合、音楽教育システム115はセッションを自動的に終了してもよい。そのような場合、音楽教育システム115は、ユーザがより多くの練習を必要とするか又は新しいセッションを開始すべきであることをユーザに通信してもよい。
【0132】
図16は、音楽教育システム115がユーザの演奏に基づいてユーザにフィードバックを提供できる例示的な処理を示す図である。図示するように、ユーザ105は楽器110(例えば、ギター)で楽曲を演奏している。音楽教育システム115(例えば、演奏評価マネージャ320)は、ユーザが演奏した音楽イベントを評価し、かつ予期される音楽イベントと比較してもよい(1605)。音楽教育システム115は、ユーザが演奏した音楽イベントの正確度又は不正確度を判定してもよい(1610)。この例において、ユーザ105の演奏がスコア閾値を上回ると仮定されてもよく、音楽教育システム115は例えば「熟練者」から「難しい」にセッションの難易度を自動的に増加する(1615)。更に音楽教育システム115は、熟練者レベルから難しいレベルに視覚的演奏キューを変更する。また、例示的な一実現例によると、音楽教育システム115(例えば、フィードバックマネージャ325)はユーザ105の演奏のオーディオをミュートし、他の聴覚的楽曲データ(例えば、伴奏オーディオトラック410)と共にエキスパート演奏オーディオトラックを再生してもよい(1620)。このように、ユーザ105が楽曲を正確に演奏すると、ユーザ105はまさにエキスパートのように聞こえる。上述したように、他の実現例によると、フィードバックマネージャ325は、ユーザ105の演奏に基づいて他のオーディオデータ(例えば、エキスパート演奏オーディオトラック405及びユーザ105の演奏の双方、ユーザ105の演奏のみ等)を再生し、かつ信号処理効果を導入してもよい。他の実現例によると、音楽データは、オーディオ(例えば、エキスパート演奏オーディオトラック405)のみと比較されるオーディオ及びビデオ(例えば、音楽ビデオ等)の形式のエキスパート演奏データを含んでもよい。そのような例において、音楽教育システム115は、エキスパート演奏オーディオトラック405に関して説明した方法でオーディオ/ビデオと関連付けられたオーディオを管理してもよい。すなわち、オーディオはフィードバック機構として使用されてもよい。更に音楽教育システム115は、フィードバック機構としてオーディオ/ビデオと関連付けられたビデオを管理してもよい。例えば音楽教育システム115は、ビデオの鮮明度を制御してもよく(例えば、ぼかしを導入したり、静止を導入したり、ビデオの鮮明度を向上したりする)、ビデオのコンテンツを制御してもよく(例えば、専門演奏者の演奏とユーザの演奏との間のフェードイン又はフェードアウト)、かつ/又はビデオの他の側面を制御してもよい(例えば、視覚的効果等を導入する)。例示的な一実施形態によると、オーディオ操作と同様に、音楽教育システム115は、ユーザが音楽イベントを正確に又は不正確に演奏する程度に従って視覚的要素を操作してもよい。
【0133】
音楽教育システム115は、種々のユーザインタフェースを使用して肯定的フィードバック及び否定的フィードバックをユーザに対して表示してもよい。例として、演奏キューマネージャ310は、肯定的フィードバック及び否定的フィードバックを示すためにユーザに対する視覚的キューを含んでもよいがそれらに限定されない。ユーザインタフェースは、ユーザに対して肯定的フィードバック及び否定的フィードバックを示すために他の種類のキュー(例えば、聴覚的キュー)を更に含んでもよい。ユーザに対して肯定的フィードバック及び否定的フィードバックを示すために音楽教育システム115により実現されてもよいキューの例について以下に説明する。
【0134】
図17は、ユーザに提供される例示的な肯定的フィードバック及び否定的フィードバックを示す図である。上述したように、音楽教育システム115(例えば、フィードバックマネージャ325)は、変動するレベルの肯定的フィードバック又は変動するレベルの否定的フィードバックをユーザに提供してもよい。例示的な一実現例によると、肯定的フィードバック及び否定的フィードバックは音楽イベント/楽曲を正確に演奏するユーザの能力の成否に関連してもよい。音楽教育システム115は、ユーザにフィードバックを視覚的、聴覚的及び/又は触覚的に提供してもよい。音楽教育システム115は、音楽教育システム115の1つ以上のユーザインタフェースを介して視覚的フィードバックをユーザに提供してもよい。更に音楽教育システム115は、聴覚的出力を介して(例えば、スピーカ140を介して)聴覚的フィードバックを提供してもよい。更に音楽教育システム115は、触覚的フィードバックを提供してもよい(例えば、音楽教育システム115がポータブルデバイス又はハンドヘルドデバイスで実現される場合などに振動機構を使用して)。
【0135】
肯定的フィードバックを参照すると、音楽教育システム115は種々の種類及びレベルの視覚的及び/又は聴覚的な肯定的フィードバックをユーザに提供してもよい。例えば音楽教育システム115は、ユーザが予期される音楽イベントを正確に演奏する場合に演奏キューを点灯させてもよい(1705)。更に又はあるいは、音楽教育システム115は、例えば肯定的フィードバックを示すために表示された音楽イベントの色を変更したり(1710)、音楽イベント画像を修正したり(1715)又は肯定的な単語をテキストで表示したり(1720)して、他の種類の肯定的な視覚的キューをユーザに提供してもよい。音楽教育システム115は、肯定的フィードバックの段階を示すために変動するレベルの光度を表示したり、種々の色を使用したり、種々の形状を使用したりしてそれらの視覚的キューに関して変動するレベルの肯定的フィードバックを提供してもよい。更に音楽教育システム115は、肯定的フィードバックのレベルに対応して肯定的な単語を表示してもよい。例として、「OK」、「Good」、「Great」及び「Excellent」等の肯定的な単語が変動するレベルの肯定的フィードバックを表してもよいが、これらに限定されない。更に又はあるいは、音楽教育システム115はユーザのスコアを増分してもよく(1725)、その程度は、ユーザが演奏した音楽イベントの正確度に依存してもよい。
【0136】
更に又はあるいは、上述したように、一実現例によると、音楽教育システム115はエキスパート演奏オーディオトラックを再生し(1730)、ユーザの演奏により生成されたオーディオをミュートしてもよい。別の実現例によると、音楽教育システム115はエキスパート演奏オーディオトラック及びユーザの演奏の双方のミックスを出力してもよい。例示的な一実現例によると、音楽教育システム115はユーザの演奏の正確度に対応してエキスパート演奏オーディオトラックにミックスを偏向させてもよい。別の例示的な実現例によると、音楽教育システム115は、エキスパート演奏オーディオトラックをミュートし、ユーザの演奏のみを提供してもよい。
【0137】
音楽教育システム115は、他の種類の肯定的フィードバックキューを提供してもよい。例えば音楽教育システム115は、事前に録音された承認トラックを再生してもよい。例えば事前に録音された承認トラックは、「You got it!」、「Good job!」又は「Impressive」等の観客の歓声又は仮想指導者の音声による激励するコメントを含んでもよい。事前に録音された承認トラックは変動するレベルの肯定的フィードバックを割り当てられてもよく、これらはユーザの演奏の正確度に対応して再生されてもよい。
【0138】
更に又はあるいは、音楽教育システム115はユーザの名前を利用して、例えば「Getting better Harold」又は「Nice Performance Roger」等のより個人的なコメントを生成してもよい。例えば、ユーザは音楽教育システム115に自身の名前を提供してもよい(例えば、初期セットアップ中に)。更に又はあるいは、音楽教育システム115は、ユーザに対して肯定的フィードバックを示すために事前に録画されたビデオを再生してもよい。例えば事前に録画されたビデオは、歓声を上げる音楽ファン又は承認の表現を示す仮想指導者を含んでもよい。同様に、事前に録画されたビデオは変動するレベルの肯定的フィードバックを割り当てられてもよく、これらはユーザの演奏の正確度に対応して表示されてもよい。更に又はあるいは、音楽教育システム115は、例えば画面の明るい表示、画面振動又は他の適切なビデオ及び/又は視覚的効果等の視覚的効果を表示して肯定的フィードバックを提供してもよい。更に又はあるいは、音楽教育システム115は肯定的フィードバックを提供するために聴覚的効果を出力してもよい。例えば音楽教育システム115は、ユーザの演奏を高度化するために信号処理(例えば、リヴァーブ、エコー、コーラス、フランジ、ハーモニー等)を導入してもよい。信号処理の程度は、ユーザの演奏の正確度に対応して変動してもよい。
【0139】
否定的フィードバックを参照すると、音楽教育システム115は種々の種類及びレベルの視覚的及び/又は聴覚的な否定的フィードバックをユーザに提供してもよい。例えば音楽教育システム115は、ユーザが予期される音楽イベントを不正確に演奏する場合に演奏キューを淡色表示してもよい(1750)。更に又はあるいは、音楽教育システム115は、例えば否定的フィードバックを示すために表示された音の色を変更したり(1755)、音楽イベント画像を修正したり(1760)又は否定的な単語をテキストで表示したり(1765)して、他の種類の否定的な視覚的キューをユーザに提供してもよい。音楽教育システム115は、否定的フィードバックの段階を示すために変動するレベルの光度を表示したり、種々の色を使用したり、種々の形状を使用したりしてそれらの視覚的キューに関して変動するレベルの否定的フィードバックを提供してもよい。更に音楽教育システム115は、否定的フィードバックのレベルに対応して否定的な単語を表示してもよい。例として、「Poor」、「Bad」、「Terrible」及び「Horrible」等の否定的な単語が変動するレベルの否定的フィードバックを表してもよいが、これらに限定されない。更に又はあるいは、音楽教育システム115はユーザのスコアを減分してもよく(1770)、その程度は、ユーザが演奏した音楽イベントの不正確度に依存してもよい。
【0140】
更に又はあるいは、上述したように、一実現例によると、音楽教育システム115はエキスパート演奏トラックをミュートしてもよく(1775)、あるいは非常に低い出力レベルでエキスパート演奏オーディオトラックを再生してもよい。別の実現例によると、音楽教育システム115はエキスパート演奏オーディオトラック及びユーザの演奏の双方を合成して出力してもよい。例示的な一実現例によると、音楽教育システム115はユーザの演奏の不正確度に対応してユーザの演奏をより多く合成させてもよい。
【0141】
音楽教育システム115は、他の種類の否定的フィードバックキューを提供してもよい。例えば音楽教育システム115は、間違った演奏がなされた楽器に適した、事前に録音された不快なトラックを再生してもよい。例えば楽器がギターである場合、事前に録音された不快なトラックはフィードバック音、ピチャピチャという音又はカタカタという音等を含んでもよい。例示的な一実現例によると、音楽教育システム115は、不正確に演奏された音楽イベントの数が停止閾値を超える場合にセッションを自動的に終了してもよい。
【0142】
更に又はあるいは、音楽教育システム115は事前に録音された不満トラックを再生してもよい。例えば事前に録音された不満トラックは、観客のブーイング、あるいは「間違った!」、「もっと上手に!」又は「どうしたんだ」等の仮想指導者の音声による落胆させるコメントを含んでもよい。更に又はあるいは、音楽教育システム115はユーザの名前を利用して、例えば「ハロルド、練習が足りないぞ」又は「もっと練習しろ、ロジャー」等のより個人的なコメントを生成してもよい。更に又はあるいは、音楽教育システム115はユーザに対して否定的フィードバックを示すために事前に録画されたビデオを再生してもよい。例えば事前に録画されたビデオは、ブーイングする音楽ファン、公演から退出する音楽ファン又は不満の表現を示す仮想指導者を含んでもよい。更に又はあるいは、音楽教育システム115は、例えば画面の淡色表示、画面振動又は他の適切なビデオ及び効果等の視覚的効果を表示してもよい。更に又はあるいは、音楽教育システム115は否定的フィードバックを提供するために聴覚的効果を出力してもよい。例えば音楽教育システム115は、ユーザの演奏の音質を低下させたり、けなしたりするために信号処理(例えば、歪み、ピッチシフト等)を導入してもよい。
【0143】
音楽教育システム115は、ユーザが音楽イベントを全く演奏しない場合でも、初心者については、ずっと上級のユーザと同様、ユーザの演奏と同期して演奏されているエキスパートによる楽曲の演奏を聴くことを可能とする。例えば楽曲の難易度が低レベルに設定されている場合、ユーザはN個(N>1)の音楽イベント毎に1つのみ演奏することを要求される。その1つの音楽イベントが正確に演奏されれば、ユーザはエキスパートの演奏を聴くことにより完璧に演奏されている残りのN−1個の音を体験できる。別の例において、難易度が高レベル(例えば、エキスパートレベル)に設定される場合、ユーザはN個の音楽イベントの各々を正確に演奏することを要求される。そのような一実現例において、音楽教育システム115は、ユーザの代わりに事前に録音された音楽イベントを用いることはない。
【0144】
そのような指導方法によると、音楽教育システム115により、ユーザは段階的、かつ進歩的に楽器を経験でき、これは、ユーザが楽曲のいくつかの音楽イベントを演奏することから開始し、最終的に楽曲の全ての音楽イベントを演奏するように指導する。このように、エキスパート技能レベルがすぐに要求されず、ユーザは楽器、楽曲に徐々に慣れていき、音楽的な能力を向上できる。そのような方法において、音楽教育システム115は非常に楽しい学習体験をユーザに提供できる。ユーザが上達し、セッションを重ねることにより技術を習得および上達していくにつれ、Nの値は徐々に1に減少していく。
【0145】
音楽教育システム115は、ユーザを支援するために他の機能を提供してもよい。例えば音楽教育システム115により、ユーザは楽曲のテンポを調整できる。例えば、初心者のユーザは本来のテンポより遅い楽曲のテンポを選択することができ、より上級のユーザは楽曲のテンポの速度を上げることを選択できる。更に音楽教育システム115により、ユーザは楽曲の特定の楽節をループできる。例えば楽曲が(最も困難な楽節であろう)ソロの楽節を含む場合、ユーザは楽曲全体ではなくそのソロの楽節のみを練習してもよい。更にユーザは、低減されたテンポでソロの楽節のみを練習してもよい。
【0146】
更に、より高い難易度において、音楽教育システム115は、事前に録音したエキスパートの演奏(例えば、エキスパート演奏オーディオトラック405)に対応しない演奏キューをユーザに提供してもよい。例えば音楽教育システム115は、メロディの強調(例えば、メロディの装飾等)、ハーモニーのサブスティテューション(例えば、リハーモナイゼーション等)、テンポの変化、時間の変化等を含む演奏キューを提供してもよい。更に音楽教育システム115により、ユーザは事前に録音された伴奏(例えば、伴奏オーディオトラック410)及びユーザの演奏をミキシングしたもの、ユーザの演奏のみ又はユーザの演奏を向上したバージョン(例えば、信号処理したバージョン等)を聴くことを許される。
【0147】
上述したように、音楽教育システム115はユーザの上達を見守り、かつそれをユーザに報告してもよい。例えばセッションの終了時、それがうまくいったかどうかに関わらず、ユーザは自身の演奏に関する統計を提示してもよい。例えば図18は、採点情報を含む音楽教育システム115の例示的なユーザインタフェースを示す図である。他の実現例において、音楽教育システム115は、追加の採点情報、異なる採点情報及び/又はより少ない採点情報を含んでもよい。
【0148】
図示するように、ユーザインタフェースは、総合スコア1805、最長の連続した正確な演奏1810、最長の連続した誤った演奏1815、精度スコア1820(例えば、正確な音の割合)、誤りの傾向1825及びユーザレベル1830を含んでもよい。
【0149】
総合スコア1805は、ユーザの演奏及びセッションの間に生じた得点の累積を示してもよい。例えば総合スコア1805は、精度点及びボーナス点の累積を含んでもよい。例示的な一実現例によると、総合スコア1805は、ユーザが選択できるユーザのレパートリーに楽曲を追加するためにバーチャルストアにより使用されてもよい。図19は、ユーザがユーザの総合スコア1805に基づいて楽曲を選択できるようにする例示的なユーザインタフェースを示す。図19に示すように、音楽教育システム115と関連付けられたバーチャルストアにより、ユーザは、ユーザの総合スコア1805が特定の閾値を上回る時にアンロックされた楽曲から選択できる。この例において、ユーザの総合スコアが100,000点を上回るため、ユーザは新しい楽曲(例えば、歌)を選択できる。
【0150】
音楽教育システム115は、総合スコア1805に基づいて他の機能を有効にしてもよい。例えば音楽教育システム115により、ユーザは伴奏と共に演奏できるが、演奏キューをユーザに提供し、かつエキスパート演奏オーディオトラック405を聴く代わりに、音楽教育システム115は、ユーザの演奏を録音し、ユーザの演奏を新しい演奏キューのセットに変換してもよい。例示的な一実現例によると、ユーザの演奏キューは他のユーザと共有されてもよい。音楽教育システム115は、総合スコア1805に基づいて他の機能(例えば、種々の信号処理効果等)を有効にしてもよい。
【0151】
図18に戻ると、最長の連続した正確な演奏1810は、正確に演奏された連続した音の数及びそれらの音が演奏された期間を示してもよい。最長の連続した誤った演奏1815は、不正確に演奏された連続した音の数及びそれらの音が演奏された期間を示してもよい。精度スコア1820は、ユーザの演奏の精度に対応する割合を示してもよい。精度スコア1820は、上述した処理1400に基づいて算出されてもよい。
【0152】
誤りの傾向1825は、ユーザの演奏に関連した種々の誤りを示してもよい。例えば誤りの傾向1825は、ピッチ(例えば、シャープ気味、フラット気味)及びタイミング(例えば、遅い又は速い)に関連した誤りの傾向を含んでもよい。音楽教育システム115は、ユーザが自分の演奏をレビューできるようにし、かつユーザが間違えた楽曲の部分を示す(視覚的及び/又は聴覚的に)ユーザインタフェースを更に提供してもよい。この点に関して、音楽教育システム115は、ユーザにとって困難な楽曲の部分を対象とすることによりユーザが自身の演奏を向上することを支援してもよい。音楽教育システム115は、ピッチの外れた各音楽イベントに対する特定の周波数オフセット(例えば、Hz単位)をユーザに提供してもよい。更に音楽教育システムは、時間のずれた各音楽イベントに対する特定のタイミングオフセット(例えば、ミリ秒単位、等)をユーザに提供してもよい。音楽教育システム115により、ユーザは自身の演奏を向上するために楽曲の特定の部分をループできる。
【0153】
ユーザレベル1830は、ユーザの演奏と関連付けられたスコア及び統計に基づいてユーザのレベルを示してもよい。例えばユーザレベル1830は、未熟者、熟練者、上級者又は天才等のレベルの範囲を含んでもよい。ユーザレベル1830は、ユーザが次のセッションに対する難易度を選択するのを支援できる。上述したように、ユーザはいかなる所定のセッションに対しても特定の難易度を選択してもよい。例示的な一実現例によると、音楽教育システム115は、難易度に基づいて種々の報酬(例えば、得点、ボーナス等)、フィードバック等を提供してもよい。他の実現例によると、音楽教育システム115は、難易度に基づいて種々の報酬、フィードバック等を提供しなくてもよい。音楽教育システム115は、特定の精度スコア、正確に連続して演奏した音の数等を上回って楽曲を演奏することに対してボーナス点(例えば、図5の演奏結果555に関して上述した乗数)を与えてもよい。
【0154】
図20は、音楽教育システム115がセッションに対する総合スコアを算出できる例示的な処理を示す。例示的な一実現例によると、総合スコアは楽曲と関連付けられた難易度に基づいてもよい。例えば楽曲がバッハの協奏曲に対してハ長調音階に対応する場合、音楽教育システム115は、総合スコアを算出する時にこのファクタを考慮してもよい。例えば音楽教育システム115は、例えば調和性(harmonic content)及び/又は演奏技巧等のファクタを使用してもよい。例えば1つの楽曲は、複雑な和音進行を含む別の楽曲と比較して単純な和音進行を含んでもよい。更に又はあるいは、楽曲は異なる範囲の和音構造(例えば、三和音、セブンスコード、テンションコード等)を含んでもよい。演奏技巧の一例として、1つの楽曲(例えば、ギターの楽曲)は、4フレットの範囲で演奏でき、押弦位置も余り変わらない一方、別の楽曲は演奏に7フレットの範囲が必要で、かつ押弦位置が頻繁に変わってもよい。音楽教育システム115は、例えば楽曲と関連するメロディの内容、切分音、時間の変化、観察された音楽イベントの数/予期される音楽イベントの数等の他のファクタを使用して楽曲と関連付けられた難易度を割り当ててもよい。
【0155】
更に又はあるいは、総合スコアは、楽曲と関連付けられたユーザ難易度(例えば、未熟者、上級者等)に基づいてもよい。例えば最も簡単なユーザ難易度では、ユーザがより多くの音を演奏することを要求される、より高いユーザ難易度と比較して、楽曲と関連付けられた最小数の音をユーザが演奏すればよいようにしてもよい。このように、ユーザは、難しい楽曲を選択するかもしれないが、楽曲の簡素化され、かつ/又は単純化されたバージョンを演奏する機会を与えられる。例示的な一実現例によると、ユーザ難易度が易しい場合、ユーザ難易度がより高い場合と比較して、見込まれる得点は低くなるであろう。更に又はあるいは、総合スコアは予期される音楽イベントを演奏する際のユーザの精度に基づいてもよい。例えば精度スコアは、音楽イベントのユーザの演奏を予期される音楽イベントの数で除算した結果に基づいてもよい。
【0156】
図21は、経時的なユーザの上達を要約できる、音楽教育システム115の例示的なユーザインタフェースを示す図である。例えばユーザインタフェースは、経過時間セクション2105、開始セッションセクション2110、完了セッションセクション2115、高スコアセクション2120、セッション難易度セクション2125、平均スコアセクション2130及び精度セクション2135を含んでもよい。また、図示するように、ユーザインタフェースは、セクション2105〜2135に対応する期間2140を更に含んでもよい。他の実現例によると、ユーザインタフェースは、図21に示し、かつ本明細書で説明するセクションと比較して追加のセクション、異なるセクション及び/又はより少ないセクションを含んでもよい。更に又はあるいは、他の実現例によると、ユーザの上達と関連付けられた演奏データは、例えばグラフ(例えば、棒グラフ、線グラフ等)、チャート(例えば、円グラフ等)又は他の何らかの種類の可視(すなわち、グラフィック又は非グラフィック)表現等のテーブル以外の形式で提示されてもよい。
【0157】
経過時間セクション2105は、ユーザが音楽教育システム115を使用して費やした期間(例えば、時間、日数等)を示してもよい。開始セッションセクション2110は、ユーザが開始したセッション数を示してもよい。完了セッションセクション2115は、ユーザが完了したセッション数を示してもよい。高スコアセクション2120は、ユーザの最高スコアを示してもよい。セッション難易度セクション2125は、セッションと関連付けられた難易度を示してもよい。平均スコアセクション2130は平均スコアを示してもよく、精度セクション2135はユーザの演奏と関連付けられた精度の測定値を示してもよい。
【0158】
例示的な一実現例によると、音楽教育システム115は、ユーザの演奏データをデータベースに格納してもよい。例えばデータベースは、ネットワーク接続(例えば、インターネット)を介して音楽教育システム115によりアクセスできるリモートデバイス(例えば、サーバ等)に存在してもよい。他の例において、ネットワーク接続が利用可能でない場合、音楽教育システム115は演奏データをメモリ/記憶装置210に格納する。音楽教育システム115により収集された演奏データはユーザに提示されてもよい。このように、ユーザは自身の上達がよく分かる。更に音楽教育システム115は、他のユーザ、親、音楽の指導者、友人等と自身の演奏データを共有することを可能にしてもよい。例えば、他のユーザ等がリモートデバイスにアクセスしてもよい。リモートデバイスは、他のユーザが演奏データを利用できるようにしたいと考える音楽教育システム115のユーザ間で種々の情報(例えば、統計、スコア、演奏ビデオ等)を格納してもよい。例示的な一実現例によると、リモートデバイスはプライバシー等を維持するためにセキュリティ対策を提供してもよい(例えば、ログインを要求する等)。更にリモートデバイスは、更新データ(例えば、ソフトウェア更新データ)を音楽教育システム115に提供してもよい。
【0159】
図22は、音楽教育システム115が音楽のジャンルに従ってユーザの技術を追跡できる例示的な処理を示す図である。例えば音楽ジャンルは、ロック、カントリー、クラシック、ジャズ、ブルース、ポップ等を含んでもよい。例示的な一実現例によると、音楽教育システム115は、演奏データを収集し、演奏データを1つ又は複数の適切な音楽ジャンルに格納してもよい。例えば図22に示すように、演奏データはロックジャンル2205、カントリージャンル2210又はクラシックジャンル2215に格納されてもよい。楽曲は、1つ又は複数の音楽ジャンルにマッピングされてもよい。
【0160】
ユーザの目的に依存して、音楽教育システム115は、ユーザが複数の音楽ジャンルに関して自身の上達を認識できるようにしてもよい。これは、ユーザの音楽に対する全体的な上達にとって有益であるだろう。例えばユーザは、ユーザが自身の音楽の能力及び音楽の知識を向上させるのを全般的に支援するレパートリー(例えば、曲、作曲、ハーモニー、音階等の集合)を広げてもよい。
【0161】
図23は、音楽教育システム115により使用される例示的な換算表2300を示す図である。図示するように、換算表2300はギター(例えば、6弦ギター)等の楽器に関連してもよく、周波数、MIDI音及び音オクターブ情報と共に垂直軸上に音E、B、G、D、A及びEが含まれ、水平線上にフレット位置情報が提示される。楽器及び/又は楽器のチューニングに依存して、音楽教育システム115は適切な換算表を使用してもよい。
【0162】
例示的な一実現例によると、音楽教育システム115は、換算表2300に基づいて演奏キューデータから予期される音楽イベントを自動的に導出してもよい。例えば音楽教育システム115は、換算表2300を使用して演奏キュー415から演奏データ420を導出してもよい。別の実現例によると、音楽教育システム115は、換算表2300を使用して演奏データ420から演奏キュー415を導出してもよい。
【0163】
例示的な一実施形態によると、音楽教育システム115は、単一のユーザではなく複数のユーザにユーザインタフェースを同時に提供してもよい。例えば音楽教育システム115は、同一の又は異なる楽器で演奏している複数のユーザに対してユーザインタフェースを提供してもよい。例えば図24は、複数のユーザに対する例示的な視覚的要素を含む例示的なユーザインタフェース2400を示す図である。図示するように、ユーザインタフェース2400は、ギターセクション2405、キーボードセクション2410、ボーカルセクション2415及びドラムセクション2420を含んでもよい。このように、ユーザは音楽教育システム115と共に楽曲を演奏してもよい。そのような状況下において、各ユーザは音楽教育システム115に対する入力を有してもよい。例示的な一実現例によると、音楽教育システム115は全てのユーザに対して伴奏オーディオトラック410を1つのみ提供してもよい。しかし、伴奏オーディオトラック410は、各チャネルが異なる楽器の音を含むマルチチャネルレコーディングを含んでもよい。音楽教育システム115は、ユーザが再生する楽器を選択することを可能にしてもよい。例として、伴奏オーディオトラック410の再生は、ユーザのグループにより演奏されていない楽器のみを含んでもよいがこれに限定されない。
【0164】
上述したように、音楽教育システム115は、マウス135及びキーボード130等の入力225を含んでもよく、ユーザがナビゲートし、情報を入力し、かつ/又は音楽教育システム115と対話することを可能にする。しかし、ユーザは楽器と入力225との間で手を切り換え続ける必要があるため、音楽教育システム115と対話することは負担となる。例示的な一実現例によると、音楽教育システム115は、ユーザが音楽教育システム115と対話したり、ナビゲートしたりするために音又はパーカッション入力を入力することを可能にしてもよい。換言すると、音楽教育システム115は、音又はパーカッション入力を例えばキーストローク、マウスクリック及び/又は他の種類の入力コマンドにマッピングしてもよい。例えば音楽教育システム115は、ユーザが特定の音又は一連の音を演奏することに基づいてセッションを開始又は停止することを可能にしてもよい。更に音楽教育システム115は、ユーザが特定の音又は一連の音を演奏することに対応して、ユーザが音楽教育システム115により提供された種々のユーザインタフェースにアクセスできるようにしてもよい。更に又はあるいは、音楽教育システム115は音声コマンド(例えば、単語、句等)に応答してもよい。
【0165】
例示的な一実施形態によると、ユーザはセッション中に楽曲を演奏してもよい。音楽教育システム115は、ユーザが特に楽曲、セッション難易度(例えば、初心者、未熟者、熟練者、上級者又は天才等)、演奏キューの種類(例えば、タブ譜、一般的な楽譜等)及び楽器を選択できるようにするユーザインタフェースを提供してもよい。ユーザの演奏準備が整った時、音楽教育システム115は演奏キュー及び伴奏を提供してもよい。音楽教育システム115は、リアルタイム又はほぼリアルタイムでユーザの演奏を評価し、かつ演奏結果(例えば、スコア等)だけでなくフィードバック(例えば、肯定的又は否定的)をユーザに提供してもよい。音楽教育セッション115は、セッションが完了した時に演奏結果をユーザに提供してもよい。セッションをユーザに提供する例示的な処理については以下に説明する。
【0166】
図25A及び図25Bは、音楽教育システム115がユーザにセッションを提供できる例示的な処理2500を示すフローチャートである。
【0167】
処理2500は、ユーザ設定を受信すること(ブロック2505)を含んでもよい。例えば、ユーザは演奏の前に楽器の準備をしてもよい。音楽教育システム115は、例えばチューニング、入力レベル(例えば、楽器レベル、マスターレベル、伴奏レベル等)、効果レベル(例えば、ミックスレベル、デジタルオーディオ効果レベル等)、楽曲の選択、テンポ設定、難易度の選択等の種々のユーザ設定を受信してもよい。音楽教育システム115は、他の種類のユーザ設定を提供してもよい。例えば、ユーザは手順を通して指導され、音楽データ(例えば、エキスパート演奏オーディオトラック、伴奏オーディオトラック)に対応するピッチに楽器を設定してもよい。
【0168】
セッションが準備されてもよい(ブロック2510)。例えば音楽教育システム115は、音楽データ(例えば、エキスパート演奏トラック、伴奏トラック等)をロード及び/又は位置合わせしたり、タイムコードを初期化したり、セッションインタフェースを初期化したりしてもよい。
【0169】
演奏キュー及び伴奏が提供されてもよい(ブロック2515)。例えば一実現例によると、音楽教育システム115は、聴覚的な楽曲データの再生を開始してもよい。例えば音楽教育システム115は、伴奏オーディオトラックを再生してもよい。他の字例示的な実現例によると、音楽教育システム115は、伴奏オーディオトラック及びエキスパートオーディオトラックの双方の再生を開始してもよい。音楽教育システム115は、適切な演奏キューをユーザに提供してもよい。演奏キューは、聴覚的な楽曲データに同期されてもよい。
【0170】
ユーザの演奏が検出されてもよい(ブロック2520)。例えば音楽教育システム115は、ユーザの楽器の演奏を検出してもよい。楽器に依存して、音楽教育システム115は、ラインアウト、MIDI又は他の方法を介してマイク、ピックアップを介するか又は直接演奏データを楽器から受信してもよい。音楽教育システム115は、演奏データを利用して波形、MIDIファイル等を生成してもよい。
【0171】
演奏評価が判定されてもよい(ブロック2525)。例えば上述したように、音楽教育システム115は受信した演奏データを予期される演奏データと比較してもよい。音楽教育システム115は、正確に演奏された音楽イベント及び不正確に演奏された音楽イベントを判定してもよい。例示的な実現例によると、上述したように、音楽教育システム115は、正確に又は不正確に演奏された音楽イベント及びそれらの音楽イベントがどの程度正確に又は不正確に演奏されたかを判定するために種々の許容差を使用してもよい。
【0172】
例示的な一実現例によると、許容差はセッション難易度の設定に依存して変動してもよい。例えば周波数に基づく許容差を参照すると、セッション難易度「ハード」は、所定の音楽イベントに対して2Hzの差分周波数又は0Hzの差分周波数しか許可しない可能性があり、その一方で、セッション難易度「イージー」は、同一の音楽イベントに対して10Hz又はそれ以上の差分周波数を許可する。更に、セッション難易度に対する周波数に基づく許容差は、等分平均律音階及び/又は他のチューニングシステムに従って変動してもよい。すなわち、例えばセッション難易度「ハード」は、中央CとA(440Hz)との間の音楽イベントに対して2Hzの差分周波数しか許可しないが、A(440Hz)より上の音楽イベントは等分平均律音階の自然対数を与えられた2Hzより大きい周波数に基づく許容差が許可されてもよい。この点に関して、音楽教育システム115は、セッション難易度、特定の音楽イベント等に依存してユーザにより演奏された音楽イベントが例えば半音高いか又は半音低いかに関して融通性があってもよい。例示的な一実現例によると、許容差はユーザ設定可能なパラメータであってもよい。別の例示的な一実現例によると、音楽教育システム115は、セッション難易度に基づいてデフォルトの許容差を設定してもよい。
【0173】
例示的な一実施形態によると、特定の音楽特性に関する許容差はセッション中静的であってもよい。上述したように、許容差は、例えば振幅、期間、周波数、振幅曲線、開始時間等の音楽イベントと関連付けられた種々の音楽特性に関連してもよい。許容差がセッション中静的である場合、特定の許容差は、楽曲内のパッセージの難易度に関係なく楽曲にわたり継続的に適用されてもよい。例えば楽曲内の単純なリズムのパッセージは、楽曲内の非常に複雑なリズムのパッセージと同一の開始時間許容差を有してもよい。
【0174】
別の例示的な実施形態によると、音楽教育システム115は、例えばテンポ、音域、パッセージの難易度、楽曲と関連付けられた切分音、テンポの変化、転調等の楽曲と関連付けられた特性に基づいて動的な許容差を使用してもよい。
【0175】
演奏評価が肯定的であると判定される場合(ブロック2525−肯定的)、肯定的フィードバックがユーザに提供されてもよい(ブロック2530)。例えば音楽イベントがユーザにより正確に演奏されたと判定される場合、音楽教育システム115は肯定的なフィードバックをユーザに提供してもよい。上述したように、音楽教育システム115は変動するレベルの肯定的フィードバックをユーザに対して示すために種々の視覚的キュー及び/又は聴覚的キューを提供してもよい。
【0176】
セッションが完了したかが判定されてもよい(ブロック2535)。音楽教育システム115は、セッションが完了したか(例えば、楽曲が終了したか)を判定してもよい。セッションが完了したと判定される場合(ブロック2535−YES)、処理2500は以下に説明する図25Bのブロック2550に進んでもよい。セッションが完了していないと判定される場合(ブロック2535−NO)、処理2500はブロック2515に進んでもよい。例示的な一実現例によると、演奏が演奏に基づく閾値を満足し、かつユーザが肯定的フィードバックを与えられた場合、音楽教育システム115は、ユーザの演奏中に楽曲の難易度を自動的に増加させてもよい。例えば演奏に基づく閾値は、時間(例えば、楽曲をある期間正確に演奏すること)、正確に演奏された音楽イベントの数又は正確に演奏された連続した音楽イベントの数等と関連してもよい。他の例示的な実現例によると、音楽教育システム115は難易度を増加させなくてもよい。
【0177】
演奏評価が否定的であると判定される場合(ブロック2525−否定的)、否定的フィードバックがユーザに提供されてもよい(ブロック2540)。例えば音が不正確に演奏されたと判定される場合、音楽教育システム115は否定的フィードバックをユーザに提供してもよい。上述したように、音楽教育システム115は、変動するレベルの否定的フィードバックをユーザに対して示すために種々の視覚的キュー及び/又は聴覚的キューを提供してもよい。
【0178】
セッションが完了したかが判定されてもよい(ブロック2545)。音楽教育システム115は、セッションが完了したか(例えば、楽曲が終了したか)を判定してもよい。セッションが完了したと判定される場合(ブロック2545−YES)、処理2500は以下に説明する図25Bのブロック2550に進んでもよい。セッションが完了していないと判定される場合(ブロック2545−NO)、処理2500はブロック2515に進んでもよい。例示的な一実現例によると、演奏が演奏に基づく閾値を満足せず、かつユーザが否定的フィードバックを与えられた場合、音楽教育システム115は、ユーザの演奏中に楽曲の難易度を自動的に低下させてもよい。例えば演奏に基づく閾値は、時間(例えば、楽曲をある期間不正確に演奏すること)、不正確に演奏された音楽イベントの数又は不正確に演奏された連続した音楽イベントの数等と関連してもよい。更に又はあるいは、例示的な一実現例によると、ユーザの演奏が演奏に基づく閾値を下回る場合、音楽教育システム115はセッションを自動的に終了してもよい。他の例示的な実現例によると、音楽教育システム115はユーザの演奏に基づいて難易度を低下させなくてもよく、かつ/又はセッションを終了しなくてもよい。
【0179】
図25Bを参照すると、スコアが生成されてもよい(ブロック2550)。例えば音楽教育システム115は、上述したように、演奏関連統計(例えば、演奏されなかった音楽イベント、正確に演奏された音楽イベント等)等の他の種類のフィードバック情報だけでなくユーザに対するスコアを生成してもよい。
【0180】
セッションは完了する(ブロック2555)。例えば音楽教育システム115は、ユーザに対してスコア結果を表示してもよい。音楽教育システム115は、例えば改善する領域(例えば、和音の演奏、テンポの維持等)及び/又はユーザの技術レベルの上達等の他の種類の情報を更に表示してもよい。
【0181】
図25A及び図25Bはユーザに対してセッションを提供する例示的な処理2500を示すが、他の実現例において、処理2500は図25A及び図25Bに示し、かつ説明する動作と比較して追加の動作、より少ない動作及び/又は異なる動作を含んでもよい。
【0182】
単数の項目は、1つ以上の項目を含むものとして解釈されることを意図する。更に、「〜に基づく」という表現は、特に指定のない限り「少なくとも部分的に〜に基づく」と解釈されることを意図する。「及び/又は」という用語は、1つ以上の関連する項目のあらゆる全ての組み合わせを含むものとして解釈されることを意図する。
【0183】
更に一連のブロックが図12A〜図12C、図15、図25A及び図25Bに示した処理に関して説明されたが、他の実現例において、ブロックの順序は変更されてもよい。また、依存しないブロックは並列に実行されてもよい。
【0184】
本明細書で説明された実施形態は、図示される実現例においてハードウェアと組み合わせて多くの種々の形態のソフトウェア又はファームウェアで実現されてもよい。デバイス、方法及び/又はシステムを実現するのに使用される実際のソフトウェアコード(ハードウェアにより実行可能である)又は専用制御ハードウェアは、本発明の開示を限定しない。従って、デバイス及び/又はシステムの動作及び挙動、あるいは方法の実行は、特定のソフトウェアコードを参照せずに説明した。すなわち、ソフトウェア及び制御ハードウェアは本明細書の説明に基づいてデバイス、方法及び/又はシステムを実現するように設計可能であると理解される。
【0185】
上述した更なる特定の特徴は、1つ以上の機能を実行する「論理」又は「構成要素」として実現されてもよい。この論理又は構成要素は、ハードウェア(例えば、処理システム205)、ハードウェア及びソフトウェアの組み合わせ、ファームウェアを含むハードウェアの組み合わせ、あるいはハードウェア、ソフトウェア及びファームウェアの組み合わせを含んでもよい。
【0186】
上記説明において、種々の実施形態は添付の図面を参照して説明された。しかし、以下の特許請求の範囲に示すような本発明のより広い範囲から逸脱せずに、種々の変形及び変更がそれらに対して行われてもよいこと並びに追加の実施形態が実現れてもよいことは明らかだろう。従って、説明及び図面は、限定するものではなく例示として考えられる。
【0187】
特に指示のない限り、本出願において使用された要素、動作又は命令が本明細書で説明した実現例に不可欠又は必須であると解釈されるべきではない。
【背景技術】
【0001】
音楽をテーマとした対話型ゲームが登場しており、ユーザはゲームコントローラを利用して曲の演奏をシミュレートする。例えばこれら対話型ゲームは、ゲームコントローラのボタンを押下すべきタイミングや、ゲームコントーラに対して歌うべきタイミングや、ゲームコントローラ(例えば、ドラム)を叩くべきかを示す、スクロールするタイムラインを表示してもよい。これら対話型ゲームは面白いかもしれないが、本物の楽器を演奏することはユーザに教えてくれない。
【図面の簡単な説明】
【0002】
【図1】例示的な音楽教育システムの一実施形態が実現される例示的な環境を示す図である。
【図2】例示的な音楽教育システムの例示的な構成要素を示す図である。
【図3】例示的な音楽教育システムと関連する例示的な機能構成要素を示す図である。
【図4】楽曲と関連付けられてもよい例示的な音楽データを示す図である。
【図5】音楽教育を提供する例示的な視覚的要素を含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図6】楽器がギターに該当する場合の例示的な演奏キューを示す図である。
【図7A】楽器がギターに該当する場合の例示的な演奏キューを示す図である。
【図7B】楽器がギターに該当する場合の例示的な演奏キューを示す図である。
【図8】楽器が声に該当する場合の例示的な演奏キューを示す図である。
【図9】楽器がキーボードに該当する場合の例示的な演奏キューを示す図である。
【図10】楽器がドラムセットに該当する場合の例示的な演奏キューを示す図である。
【図11】音楽データに同期した演奏キューを含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図12A】音楽イベントと関連付けられた基本周波数を検出する例示的な処理を示すフローチャートである。
【図12B】音楽イベントと関連付けられた基本周波数を検出する例示的な処理を示すフローチャートである。
【図12C】音楽イベントと関連付けられた基本周波数を検出する例示的な処理を示すフローチャートである。
【図13】音楽教育システムが音楽イベントを評価し、かつ採点できる例示的な処理を示す図である。
【図14】音楽教育システムが、連続した音楽ジェスチャに関する基本周波数に基づいてその連続した音楽ジェスチャを評価できる例示的な処理を示す図である。
【図15】音楽教育システムがスコアを算出できる例示的な処理を示す図である。
【図16】音楽教育システムがユーザの演奏に基づいてユーザにフィードバックを提供できる例示的な処理を示す図である。
【図17】ユーザに提供される例示的な肯定的フィードバック及び否定的フィードバックを示す図である。
【図18】採点情報を含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図19】ユーザがユーザの総合スコアに基づいて楽曲を選択できるようにする音楽教育システムの例示的なユーザインタフェースを示す図である。
【図20】音楽教育システムがセッションに対する総合スコアを算出できる例示的な処理を示す図である。
【図21】ユーザの音楽教育の進行状況を経時的にまとめることのできる音楽教育システムの例示的なユーザインタフェースを示す図である。
【図22】音楽教育システムが音楽のジャンルに従ってユーザの技術を追跡できる例示的な処理を示す図である。
【図23】音楽教育システムにより使用される例示的な換算表を示す図である。
【図24】複数のユーザに対する例示的な視覚的要素を含む音楽教育システムの例示的なユーザインタフェースを示す図である。
【図25A】音楽教育システムがユーザにセッションを提供できる例示的な処理を示すフローチャートである。
【図25B】音楽教育システムがユーザにセッションを提供できる例示的な処理を示すフローチャートである。
【発明を実施するための形態】
【0003】
以下の詳細な説明は添付図面を参照する。異なる図面に共通する参照数字は、同一又は同様の要素を示すであろう。また、以下の詳細な説明は本発明を限定しない。
【0004】
本明細書における「音楽教育システム」という用語は、楽器を演奏するための音楽教育を提供できるデバイス又はシステムを含むように広範に解釈されることが意図されている。例えば、音楽教育システムは、コンピュータ、ゲームシステム又はゲームコンソール、通信デバイス、ネットワークを介するクライアント/サーバ構成、ピア・トゥ・ピア構成、アプリケーションサービスプロバイダ(ASP)構成、インターネットに存在するネットワークデバイス等に該当してもよいが、これらに限定されない。音楽教育システムは、1つ以上のデバイス又はシステムを利用して分散型で実現されてもよく、あるいは1つ以上のデバイス又はシステムを利用して集中型で実現されてもよい。
【0005】
本明細書において「楽器」という用語は、音を発生できる道具を含むように広範に解釈されることが意図されている。例えば、楽器は、管楽器、シングルリード楽器、ダブルリード楽器、金管楽器、弦楽器、電子楽器、鍵盤楽器、ドラム、打楽器又は人声に相当してもよいが、これらに限定されない。また、「楽器」という用語は、仮想楽器を含むような解釈は意図されてしない。例えば仮想楽器は、テレビゲーム”Guitar Hero”(登録商標)や”Rock Band”(登録商標)で利用されるギターコントローラ等のゲームコントローラに相当してもよいが、これらに限定されない。
【0006】
本明細書において「楽曲」という用語は、音楽イベントの集合を含むような広範な解釈が意図されている。例えば楽曲は、曲(歌詞のある、又はない器楽)、音楽作品(例えば、ソナタ、協奏曲等)、声楽曲、運指練習、音階、ビート又はリズム、コードの運指又は和声進行等に相当してもよいが、これらに限定されない。
本明細書において「音楽イベント」という用語は、発音イベントを含むような広範な解釈が意図されている。例えば音楽イベントは、音、発声(例えば、発話等)又は打楽器音に対応してもよいが、これらに限定されない。
【0007】
本明細書において「音楽データ」という用語は、音楽教育システムにより使用されるデータを含むような広範な解釈が意図されている。例えば音楽データは、オーディオデータ(例えば、伴奏オーディオトラック、エキスパート演奏オーディオトラック、オーディオ演奏キューデータ、聴覚的フィードバックデータ、オーディオ波形データ等)、視覚的データ(例えば、模範演奏者ビデオトラック、ユーザビデオトラック、視覚的演奏キューデータ、視覚的フィードバックデータ等)、楽曲データ(例えば、アーティスト、和音、メロディ、音楽理論等)並びに本明細書で説明される他の種類のデータを含んでもよいが、これらに限定されない。
本明細書で説明される例示的な実施形態によると、音楽教育システムは、ユーザに楽器を演奏するための音楽教育を提供することができる。上述したように、例示的な一実施形態によると、音楽教育システムはコンピュータを含んでもよい。例として、コンピュータは、デスクトップコンピュータ、ラップトップコンピュータ又はハンドヘルドコンピュータ等であってもよいが、これらに限定されない。別の例示的な実施形態によると、音楽教育システムはゲームシステムを含んでもよい。例として、ゲームシステムは、Microsoft(登録商標)Xbox、Sony(登録商標)PlayStation(II、III等)又はNintendo(登録商標)Wii等であってもよいが、これらに限定されない。更に別の例示的な実施形態によると、音楽教育システムは通信デバイスを含んでもよい。例として、通信デバイスは、Apple(登録商標)iPhone、Apple(登録商標)iPod又はMotorola(登録商標)Droid等であってもよいが、これらに限定されない。更に他の実施形態において、音楽教育システムはクライアント/サーバアーキテクチャを含んでもよい。例として、クライアント/サーバアーキテクチャは、インターネット上のサーバ又は他の種類のネットワークデバイスと通信可能に接続されたコンピュータ、ゲームシステム、あるいは通信デバイスであってよいが、これらに限定されない。音楽教育システムは、上記のデバイスの種類の組み合わせ並びに本明細書に説明するような他の構成を更に含んでもよい。
【0008】
本明細書で説明される例示的な一実施形態によると、音楽教育システムは、種々の視覚的及び聴覚的な教育ガイドをユーザに提供してもよい。例えば音楽教育システムは、楽曲に関連づけられた音を可視化するため、スクロールする波形を含んでもよい。例示的な一実現例によると、スクロールする波形は、エキスパートによる楽曲の演奏と、ユーザによる楽曲の演奏又は演奏キューとであってもよい。音楽教育システムは、音楽データ(例えば、事前に録音されたトラック等)に同期される演奏キューを提供してもよい。演奏キューは、ユーザの楽器専用のものであってもよい。更に音楽教育システムは、ユーザが演奏している間に自身を見ることができるようにユーザの映像を表示してもよい。音楽教育システムは、ユーザの演奏に対応するスコアをユーザに更に提供してもよい。
【0009】
また、例示的な一実施形態によると、音楽教育システムは、ユーザにより演奏された音楽イベント(例えば、音)に関する周波数を検出するために1つ又は複数の基本周波数検出アルゴリズムを使用してもよい。例えば音楽教育システムは、楽器、楽曲、楽曲の特定の一節等に応じて1つ又は複数の基本周波数検出アルゴリズムを選択してもよい。音楽教育システムは、種々のフィードバック(例えば、視覚的フィードバック、聴覚的フィードバック等)をユーザに提供してもよい。音楽教育システムは、数ある中でも特に、音楽イベントが正確に演奏されるか否か並びに/あるいは音楽イベントがどの程度正確に又は不正確に演奏されるか(すなわち、音楽イベントがピッチ、振幅、開始時間等に関して正確に/不正確に演奏される程度)に基づいて特定の種類のフィードバック(例えば、肯定的フィードバック、否定的フィードバック等)をユーザに提供してもよい。
【0010】
図1は、例示的な音楽教育システムの一実施形態が実現される例示的な環境100を示す図である。図1に示すように、環境100は、ユーザ105、楽器110及び音楽教育システム115を含んでもよい。
【0011】
環境100におけるデバイスの数及び構成は例示的であり、簡潔さのために提供されている。実際には環境100は、図1に示したデバイスと比較して、より多くのデバイス、より少ないデバイス、異なるデバイス及び/又は異なるように構成されたデバイスを含んでもよい。また、特定のデバイスにより実行されているように説明されるいくつかの機能は、異なるデバイス又はデバイスの組み合わせにより実行されてもよい。更に又はあるいは、他の実現例において、1つのデバイスはデバイスの組み合わせを含んでもよい。
【0012】
ユーザ105は、楽器110で演奏する人物であってもよい。この例において、楽器110はギター等の弦楽器であってよい。更にこの例において、音楽教育システム115はコンピュータシステムであってよい。例えば図1に示すように、コンピュータシステムは、ディスプレイ120、コンピュータ125、キーボード130、マウス135、スピーカ140−1及び140−2(一般にスピーカ140と呼ばれる)、並びにカメラ145を含んでもよい。
【0013】
楽器110は、とりわけ、自身のオーディオ出力を音楽教育システム115に提供するため、音楽教育システム115に接続されてよい。例として、楽器110はその種類に応じてケーブル、マイク又はピックアップを介して音楽教育システム115に接続されてもよいが、これに限定されない。この例において、楽器110(すなわち、ギター)は、ケーブル(不図示)を介して音楽教育システム115の入力に接続されてもよい。
【0014】
ディスプレイ120は、視覚的出力を提供できるデバイスを含んでもよい。例えばディスプレイ120は、コンピュータモニタ又はテレビであってよい。例示的な一実現例によると、ディスプレイ120はタッチスクリーンを含んでもよい。他の例示的な実現例によると、ディスプレイ120はタッチスクリーンを含まなくてもよく、かつ/又は入力デバイスとして利用されてなくてもよい。コンピュータ125は計算デバイスを含んでもよい。例示的な一実現例によると、コンピュータ125はオペレーティングシステム(例えば、Windows(登録商標)、Macintosh、Linux(登録商標)等)に従って動作してもよい。この例において、コンピュータ125はデスクトップコンピュータであってよい。キーボード130及びマウス135は、ユーザ105がコンピュータ125に情報を入力し、かつコンピュータ125でナビゲートできるようにするデバイスを含んでもよい。スピーカ140は、聴覚的な出力を提供するデバイスを含んでもよい。他の実現例によると、例えばスピーカ140は、オーディオシステム(例えば、ステレオシステム等)に付随するものでも、あるいはディスプレイ120に内蔵されたものでもよい。カメラ145は、写真及び/又はビデオ等の視覚画像を撮影できるデバイスを含んでもよい。この例において、カメラ145はウェブカムであってよい。しかし、他の実現例によると、例えばカメラ145は、カムコーダ又は他の何らかの種類のビデオカメラであってもよい。視覚画像はディスプレイ120に表示されてもよい。音楽教育システム115は、ネットワーク(例えば、インターネット等)を介して他の人(例えば、他のユーザ、遠隔地の指導者等)との間で視覚画像を送信及び/又は受信してもよい。
【0015】
例示的な1つの動作によると、音楽教育システム115は楽器110を演奏するための音楽教育をユーザ105に提供してもよい。本明細書で説明するように、音楽教育システム115は、楽曲の演奏時にユーザを支援するために種々のユーザインタフェースをユーザ105に提供してもよい。音楽教育システム115は、以下に更に説明する1つ以上の周波数検出アルゴリズムに基づいてユーザ105により演奏された音楽イベントを検出してもよい。
【0016】
図2は、音楽教育システム115の例示的な構成要素を示す図である。図示するように、音楽教育システム115の例示的な一実現例によると、音楽教育システム115は処理システム205、アプリケーション215を含むメモリ/記憶装置210、通信インタフェース220、入力225及び出力230を含んでもよい。他の実現例によると、音楽教育システム115は、図2に示し、かつ本明細書で説明する構成要素と比較して、より少ない構成要素、追加の構成要素、異なる構成要素及び/又は異なる構成要素の構成を含んでもよい。
【0017】
処理システム205は、プロセッサ、マイクロプロセッサ、コプロセッサ、特定用途向け集積回路(ASIC)、コントローラ、プログラマブル論理装置、チップセット、フィールドプログラマブルゲートアレイ(FPGA)、あるいは命令及び/又はデータを解釈及び/又は実行してもよい他の何らかの構成要素を含んでもよい。処理システム205は、例えばオペレーティングシステム及び1つ以上のアプリケーション(例えば、アプリケーション215)に基づいて音楽教育システム115の全体の動作又はその一部を制御してもよい。
【0018】
メモリ/記憶装置210は、メモリ及び/又は二次記憶装置を含んでもよい。例えばメモリ/記憶装置210は、ランダムアクセスメモリ(RAM)、ダイナミックランダムアクセスメモリ(DRAM)、読み出し専用メモリ(ROM)、プログラマブル読み出し専用メモリ(PROM)、フラッシュメモリ(登録商標)及び/又は他の種類のメモリを含んでもよい。メモリ/記憶装置210は、ハードディスク(例えば、磁気ディスク、光ディスク、光磁気ディスク、ソリッドステートディスク等)又は他の種類のコンピュータ可読媒体を対応するドライブと共に含んでもよい。メモリ/記憶装置210は、例えばUSB(Universal Serial Bus)メモリスティック、ハードディスク、大容量記憶装置、オフライン記憶装置、クラウドコンピューティング等、音楽教育システム115の外部にあり、かつ/又は音楽教育システム115から取り外しが可能であるメモリ、記憶装置又は記憶構成要素を含んでもよい。
【0019】
本明細書において「コンピュータ可読媒体」という用語は、例えばメモリ、記憶装置(例えば、ハードディスク及び対応するドライブ)、コンパクトディスク(CD)又はデジタル汎用ディスク(DVD)等を含むような広範な解釈が意図されている。コンピュータ可読媒体は、単一のデバイスで実現されてもよく、複数のデバイスで実現されてもよく、集中型で実現されてもよく、あるいは分散型で実現されてもよい。メモリ/記憶装置210は、音楽教育システム115の動作に関連するデータ、アプリケーション215及び/又は命令を格納してもよい。
【0020】
アプリケーション215は、種々のサービス、機能又はユーザインタフェース等を提供するソフトウェアを含んでもよい。例示的な一実現例によると、アプリケーション215は、楽器を演奏するようにユーザを教育することに関連する1つ以上の処理を提供する音楽教育アプリケーションを含んでもよい。例えばこれらの処理は、本明細書で説明されるように、ユーザインタフェースを提供すること、基本周波数を検出すること、採点すること、ユーザにフィードバックを提供すること及び/又は音楽教育システム115と関連付けられた他の機能を含んでもよい。アプリケーション215はメモリ/記憶装置210に格納されてもよい。
【0021】
通信インタフェース220は、音楽教育システム115が他のデバイス、ネットワーク及び/又はシステム等と通信することを可能にしてもよい。通信インタフェース220は、無線インタフェース及び/又は有線インタフェースを含んでもよい。通信インタフェース220は、1つ以上のプロトコル及び/又は規格等に従って動作してもよい。通信インタフェース220は、受信機、送信機及び/又は送受信機を含んでもよい。
【0022】
入力225は、音楽教育システム115への入力を可能にしてもよい。例えば入力225は、ボタン、キーパッド、つまみ、タッチパッド、キーボード130、入力ポート、ディスプレイ120、マイク、マウス135、音声認識ロジック、指紋認識ロジック、ウェブカム(例えば、カメラ145)及び/又は他の種類の入力構成要素を含んでもよい。
【0023】
出力230は、音楽教育システム115が出力を提供することを可能にしてもよい。例えば出力230は、ディスプレイ120、発光ダイオード(LED)、出力ポート、スピーカ140、振動機構及び/又は他の種の出力構成要素を含んでもよい。
【0024】
本明細書で説明するように、例示的な一実施形態によると、音楽教育システム115は、処理システム205がメモリ/記憶装置210等のコンピュータ可読媒体に含まれたソフトウェア命令を実行することに応答して1つ以上の処理を実行してもよい。ソフトウェア命令は、メモリ/記憶装置210から読み出されてもよく又は通信インタフェース220を介して別のデバイスから受信されてもよい。ソフトウェア命令は、本明細書で説明される処理を処理システム205に実行させてもよい。あるいは、音楽教育システム115は、処理システム205又は処理システム205との他の組み合わせ(例えば、ハードウェア及びファームウェア、ハードウェア、ソフトウェア及びファームウェア)に応答して処理を実行してもよい。
【0025】
図3は、音楽教育システム115に付随する例示的な機能構成要素を示す図である。図示するように、音楽教育システム115は、波形マネージャ305、演奏キューマネージャ310、楽曲データマネージャ315、演奏評価マネージャ320、フィードバックマネージャ325及び設定マネージャ330を含んでもよい。波形マネージャ305、演奏キューマネージャ310、楽曲データマネージャ315、演奏評価マネージャ320、フィードバックマネージャ325及び/又は設定マネージャ330は、図2に関して説明し、かつ図示した構成要素に基づいてハードウェア(例えば、処理システム205、メモリ/記憶装置210)及びソフトウェア(例えば、アプリケーション215)の組み合わせとして実現されてもよい。あるいは、波形マネージャ305、演奏キューマネージャ310、楽曲データマネージャ315、演奏評価マネージャ320、フィードバックマネージャ325及び/又は設定マネージャ330は、ハードウェア及びファームウェア、あるいはハードウェア、ソフトウェア及びファームウェアとして実現されてもよい。
【0026】
波形マネージャ305はオーディオ波形データを管理してもよい。例示的な一実現例によると、波形マネージャ305は、エキスパートによる楽曲の演奏に対応する波形を表示してもよい。以下に更に説明するように、音楽教育システム115は、セッション中、事前に録音されたオーディオトラックを含む音楽データを使用してもよい。事前に録音されたオーディオトラックは、特にエキスパートによる楽曲の演奏に対応するオーディオトラックを含んでもよい。波形マネージャ305は、セッション中に演奏される楽器及び/又は楽曲に従って音楽データからエキスパート演奏オーディオトラックを選択してもよい。波形マネージャ305は、エキスパート演奏オーディオトラックを表す波形を表示してもよい。例示的な一実現例によると、以下に更に説明するように、波形はスクロールしてもよく、他の表示(例えば、エキスパートの演奏の現時点の位置を示すキューライン)、類似性スコア等を含んでもよい。
【0027】
更なる、あるいは代替的な、例示的な一実現例によると、波形マネージャ305は、ユーザによる楽曲の演奏を表す波形を表示してもよい。例えば波形マネージャ305は、ユーザの楽器からの入力を処理し、ユーザによる楽曲の演奏を表すスクロールする波形を生成及び表示してもよい。
【0028】
ユーザが楽曲を演奏する時、エキスパート演奏オーディオトラックの波形がリアルタイムに表示されてもよく、ユーザの演奏の波形がリアルタイム又はほぼリアルタイムに表示されてもよい。波形マネージャ305が双方の波形を表示する場合、ユーザは視覚的な比較を行うことができ、これはユーザの演奏中ユーザにとって有用だろう。視覚的な比較は、ユーザに、例えばタイミング(例えば、音楽イベントの開始、音楽イベントの終了)、振幅、音色及び/又は音楽イベントに関連した他の音楽特性等の楽曲中の音楽イベントと関連した種々の音楽特性に関するさらなる見識を提供する。例えば視覚的な比較により、ユーザは、音楽イベントにおける音の立ち上がりの発生タイミング、音楽イベントのサスティーン部分の発生タイミング、音楽イベントの振幅等の差異を識別でき、、かつスクロールする波形がほぼ同一に見えるように自身の演奏を調整できる。
【0029】
更に、上述したように、波形マネージャ305は類似性スコアを表示してもよい。類似性スコアは、双方の波形の間の類似性を示してもよい。例示的な一実施形態によると、波形マネージャ305は、エキスパート演奏オーディオトラックの波形とユーザの演奏の波形とを比較してもよい。波形マネージャ305は、波形の比較を行う従来の方法を使用してもよい。波形マネージャ305は、楽曲の部分(例えば、小節毎、楽節毎(例えば、ヴァース、コーラス、ブリッジ等))に対する類似性スコア及び/又は全体の類似性スコア(例えば、楽曲全体)を生成してもよい。ユーザは、エキスパートの演奏に対してユーザがどの程度上手に楽曲を演奏しているかを類似性スコアから識別できる。
【0030】
演奏キューマネージャ310は、演奏キューデータを管理してもよい。演奏キューデータは、楽曲と関連付けられた視覚的な演奏キュー及び聴覚的な演奏キューを含んでもよい。例えば、演奏キューマネージャ310は、セッション中に種々の視覚的な演奏キュー(例えば、タブ譜、標準的な楽譜(すなわち、五線と音符)、運指記号等)を表示してもよい。演奏キューマネージャ310は、ユーザの楽器に依存して異なる視覚的な演奏キューを表示してもよい。例えば、ギターに対する演奏キューは移動するギタータブ譜を含んでもよく、ピアノに対する演奏キューは移動するピアノキータブ譜を含んでもよく、ドラムに対する演奏キューは移動するドラムタブ譜を含んでもよい。
【0031】
更に又はあるいは、演奏キューはユーザの特定の楽器に対応する標準的な楽譜を含んでもよい。例示的な一実施形態によると、標準的な楽譜はエキスパートによる楽曲の演奏を採譜したもの(transcription)であってよい。例えば例示的な一実現例によると、楽曲が例えば古典的なロック曲(例えば、天国への階段)に対応する場合、標準的な楽譜は、アーティスト(例えば、レッド・ツェッペリン、ジミー・ペイジ)がその曲を演奏するように音ごとに採譜したものであってよい。別の例示的な実現例によると、採譜はエキスパートによる楽曲の演奏に対応してもよいが、音単位でなくてもよく、アーティストの演奏の代表部分であってもよい。非限定的な例として、ギターの主旋律が複数のギターパート(例えば、重なっている部分、デュオ、トリオなど)を含んでいるとする。そのような場合、採譜は音単位でなくてもよく、アーティストにより演奏された音のうち、演奏全体を最もよく表すと思われるものを主観的に選択したり、あるいはアーティストにより演奏された音の他の方法による削減、簡素化、派生物、補完及び/又は解釈を含んでもよい。他の例示的な実現例によると、標準的な楽譜はエキスパートの演奏の採譜から導出されなくてもよい。例えばクラシック楽曲(例えば、バッハの協奏曲等)のエキスパートの演奏は、元々書かれた楽曲に厳密に対応しているであろう。演奏キューマネージャ310は、セッションの難易度に対応して、種々のバージョンの標準的な楽譜並びに他の形式の視覚的な演奏キューを更に使用してもよい。
【0032】
更に又はあるいは、演奏キューはユーザの楽器に応じて、音楽イベント(例えば、和音、メロディ音等)に対する運指位置を含んでもよい。以下に更に説明するように、例えば演奏キューマネージャ310は、音楽イベントの演奏方法を明示するために、運指位置と共にギターネックの画像を提示してもよい。
【0033】
演奏キューマネージャ310は、種々の聴覚的な演奏キューを提供してもよい。例えば演奏キューマネージャ310は、セッション中、メトロノーム、音声指導トラック(例えば、仮想助言者/指導者/コーチと関連付けられる)等を実行する。演奏キューマネージャ310は、ユーザの楽器に依存して種々の聴覚的な演奏キューを提供してもよい。例えば、音声指導トラックは、楽曲のパッセージに関連し、かつユーザの楽器に特有な指導上のコメントを提供してもよい。演奏キューデータの例については、本明細書において以下に更に説明する。
【0034】
楽曲データマネージャ315は楽曲データを管理してもよい。例えば楽曲データは、視覚的な楽曲データ及び聴覚的な楽曲データを含んでもよい。例えば楽曲データマネージャ315は、例えば楽曲と関連付けられたタイトル、アーティスト名、作曲者名、最初の発表日及び/又はジャンル(例えば、カントリー、ロック、ブルース等)等の種々の視覚的な楽曲データを表示してもよい。更に又はあるいは、例えば楽曲データマネージャ315は、楽曲と関連付けられたテンポ情報、拍子記号、調、楽曲の楽節(例えば、ヴァース、コーラス、ソロ、ブリッジ等)、現在の小節、現在の拍子、現在の和音、次の和音、現在のメロディ音、次のメロディ音及び/又は他のデータ(例えば、音楽理論情報等)を表示してもよい。例示的な一実現例によると、楽曲データマネージャ315は、音楽データと関連付けられたタイムコードと同期した楽曲データを表示してもよい。楽曲データマネージャ315は、ユーザが自身の音楽の解釈、スタイル、音楽の知識等を向上させるのを支援できる。
【0035】
楽曲データマネージャ315は、楽曲と関連付けられた種々の聴覚的な楽曲データ(例えば、伴奏オーディオトラック、エキスパート演奏オーディオトラック)を再生してもよい。例えば伴奏オーディオトラックは、楽曲の伴奏の演奏の録音を含んでもよく、エキスパート演奏オーディオトラックは、ユーザの楽器と同一の種類の楽器で演奏されたエキスパートによる楽曲の演奏の録音を含んでもよい。例示的な一実施形態によると、以下に更に説明するように、フィードバックマネージャ325は、セッション中に楽曲データマネージャ315によりエキスパート演奏オーディオトラックの再生を管理してもよい。例えば音楽教育システム115は、ユーザが楽曲を正確に演奏した時にユーザに対するフィードバック機構としてエキスパート演奏オーディオトラックの再生を使用してもよい。楽曲データの例については本明細書で以下に更に説明する。
【0036】
演奏評価マネージャ320は、楽曲と関連付けられた音楽イベントのユーザの演奏を評価してもよい。例えば演奏評価マネージャ320は、ユーザによる楽曲の演奏と関連付けられた演奏データを音楽教育システム115の音楽データと比較してもよい。例示的な一実現例によると、演奏評価マネージャ320は、ユーザにより演奏された音楽イベントを評価するために1つ以上の基本周波数検出アルゴリズムを使用してもよい。例示的な一実現例によると、演奏評価マネージャ320は、例えば振幅、リズム等のユーザにより演奏された音楽イベントの他の音楽特性を評価してもよい。
【0037】
例示的な一実施形態によると、演奏評価マネージャ320は、音楽イベントが正確に演奏される程度を評価してもよい。例えば周波数を参照すると、閾値は、イベントユーザが音楽イベントを演奏すべき周波数の範囲である差周波数を示してもよい。例えば、差周波数が2Hzであり、正確に演奏された音楽イベントが440Hz(A4)である場合、演奏評価マネージャ320は、ユーザにより演奏された音楽イベントが438Hz〜442Hzの範囲内にあるかを判定してもよい。その範囲内にある場合、演奏評価マネージャ320は、音楽イベントのユーザの演奏が正確であると評価してもよい。逆に、ユーザにより演奏された音楽イベントが438Hz〜442Hzの範囲内にない場合、演奏評価マネージャ320は、音楽イベントのユーザの演奏が不正確であると評価してもよい。更に演奏評価マネージャ320は、音楽イベントと関連付けられた周波数が正確に440Hzで演奏されるか、1Hzずれて(例えば、439Hz又は441Hzで)演奏されるか又は2Hzずれて(例えば、438Hz又は442Hzで)演奏されるかに基づいて音楽イベントのユーザの演奏の正確度を評価してもよい。また、演奏評価マネージャ320は、440Hzからのオフセット(例えば、Hz単位)に基づいて音楽イベントのユーザの演奏の不正確度を評価してもよい。これは従来の音楽教育システム又は音楽ゲームシステムとは異なり、音楽イベントが正確に演奏されるか否か(例えば、正確に440Hzか否か、あるいはより一般的には特定の音が演奏されるか否か)を2値的に評価してもよい。ユーザの演奏の評価と関連付けられた例示的な処理については、本明細書において以下に更に説明する。
【0038】
フィードバックマネージャ325は、ユーザの演奏に関してユーザにフィードバックを提供してもよい。フィードバックは、視覚的フィードバック、聴覚的フィードバック又は触覚的フィードバックの形式をとってもよい。フィードバックマネージャ325は、セッション中に(例えば、対話的な方法で)、又はセッションの終了時(例えば、最終的なスコアの結果等)にユーザにフィードバックを提供してもよい。
【0039】
フィードバックマネージャ325は、種々の視覚的フィードバックを表示してもよい。例えばフィードバックマネージャ325は、種々のスコア(例えば、総合スコア、正確度スコア、ボーナススコア等)、誤り傾向、間違わずに演奏された音楽イベントの数、間違わずに演奏された連続した音楽イベントの数、間違いの数等、並びに/あるいはユーザに対する他の種類の視覚的フィードバック(例えば、仮想助言者/指導者/コーチが提供する顔の表情のフィードバック、観客のビデオ、視覚的効果等)を表示してもよい。フィードバックマネージャ325は、セッションの難易度及び/又はユーザのレベル(例えば、初心者、易しい、未熟者、熟練者、難しい、上級者又は天才等)を更に表示してもよい。
【0040】
フィードバックマネージャ325は、種々の聴覚的フィードバックを再生してもよい。例えばフィードバックマネージャ325は、事前に録音された賛同トラック(例えば、観客の歓声、仮想助言者/指導者/コーチの音声によるコメント等)又は事前に録音された不満トラック(例えば、観客のブーイング、仮想助言者/指導者/コーチの音声によるコメント等)を再生してもよい。フィードバックマネージャ325は、ユーザの演奏を上手にしたり下手にしたりするために信号処理効果を導入してもよい。
【0041】
例示的な一実施形態によると、フィードバックマネージャ325は、音楽イベントのユーザの演奏の評価に対応してフィードバックを提供してもよい。例えばフィードバックマネージャ325は、以下に更に説明するように、ユーザの演奏と関連する正確度又は不正確度の変動するレベルに対応して変動するレベルの肯定的フィードバック又は否定的フィードバックを提供してもよい。
【0042】
更に、例示的な一実施形態によると、フィードバックマネージャ325はフィードバックの機構としてエキスパート演奏オーディオトラックを使用してもよい。例えば一実現例によると、ユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325はユーザの演奏により生成されたオーディオをミュートし、聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)を再生してもよい。このように、ユーザは専門演奏者として演奏し、かつ聴くことができる。別の例示的な実現例によると、ユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325はユーザ自身の演奏と関連付けられたオーディオと共に聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)を再生してもよい。このように、ユーザは専門演奏者及びユーザの双方のミックスを聴くことができる。エキスパートの演奏とユーザの演奏との間のミックスレベルは、ユーザにより設定されてもよく、あるいはユーザの演奏の正確さの程度又はレベルに従ってフィードバックマネージャ325により調整されてもよい。例えばフィードバックマネージャ325は、エキスパートの演奏のオーディオレベルを高めてもよい。更に別の例示的な実現例によると、ユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325は、聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)をミュートし、ユーザの演奏を再生してもよい。更にユーザが音楽イベントを正確に演奏する場合、フィードバックマネージャ325は、信号処理効果(例えば、リヴァーブ、コーラス、フランジ、ハーモニー等)を導入することによりユーザの演奏結果の音質を高める効果を加えてもよい。
【0043】
反対に、例示的な一実現例によると、ユーザが音楽イベントを不正確に演奏する場合、フィードバックマネージャ325は、聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック)をミュートしてもよく、低い出力レベルで聴覚的な楽曲データを再生してもよく、あるいは聴覚的な楽曲データ及びユーザの演奏の双方のミックスを提供してもよい。ミックスレベルは、ユーザにより設定されてもよく、あるいはユーザの演奏の不正確さの程度又はレベルに従ってフィードバックマネージャ325により調整されてもよい。例えばフィードバックマネージャ325は、ユーザの演奏のオーディオレベルを高めてもよい。更にユーザが音楽イベントを不正確に演奏する場合、フィードバックマネージャ325は、信号処理効果(例えば、離調、歪み、過大等化等)を導入することによりユーザの演奏結果の音質を低下させてもよい。
【0044】
更にフィードバックマネージャ325は、触覚的フィードバックを提供してもよい。例えばフィードバックマネージャ325は、変動するレベルの肯定的又は否定的フィードバックを示すために種々の拍動リズム及び/又は強度レベルの振動を使用してもよい。フィードバックの例については、本明細書において以下に更に説明する。
【0045】
設定マネージャ330は、状態情報を表示し、ユーザが種々の演奏関連パラメータを調整できるようにし、かつユーザが音楽教育システム115との適切な対話性及び接続性を保証できるようにしてもよい。例えば設定マネージャ330は、チューナ、入力レベル、現在検出されている周波数、ピッチ及び/又は和音、オーディオミキシング制御、楽器レベル、デジタルオーディオ効果レベル、事前に録音されたエキスパートの演奏レベル、事前に録音された伴奏レベル及び/又はマスターレベル等を表示してもよい。更に設定マネージャ330は、種々のデジタル処理制御を提供してもよい。例えば設定マネージャ330は、リヴァーブ、自動チューニング、ディストーション、コンプレッション、フランジ、エコー及び/又は他の信号処理効果等の種々のデジタルオーディオ効果を提供してもよい。更に設定マネージャ330は、ユーザが楽曲及び/又はセッションと関連する視覚的要素/オーディオの停止、巻き戻し、早送り、ループ等をできるようにするインタフェースを表示してもよい。
【0046】
図3は音楽教育システム115の例示的な機能構成要素を示すが、他の実現例において、音楽教育システム115は、図3に示し、かつ本明細書で説明する機能構成要素と比較して、より少ない機能構成要素、追加の機能構成要素及び/又は異なる機能構成要素を含んでもよい。更に又はあるいは、他の実現例において、特定の機能構成要素により実行されるものとして説明される機能又は処理は、別の機能構成要素又は機能構成要素の組み合わせにより実行されてもよい。
【0047】
上述したように、音楽教育システム115はセッション中に音楽データを使用してもよい。音楽データの例については以下に説明する。
【0048】
図4は、楽曲と関連付けられてもよい例示的な音楽データ400を示す図である。図示するように、音楽データ400は、特にエキスパート演奏オーディオトラック405、伴奏オーディオトラック410、演奏キューデータ415及び演奏キューデータ420を含んでもよい。
【0049】
上述したように、音楽データは楽曲データを含んでもよい。楽曲データは、エキスパート演奏オーディオトラック等の聴覚的な楽曲データを含んでもよい。図示するように、例示的な一実現例によると、エキスパート演奏オーディオトラック405は、楽器で演奏されたエキスパートによる楽曲の演奏の録音を含んでもよい。例えばエキスパート演奏オーディオトラック405は、ピアニストが協奏曲をピアノで演奏すること、ドラマーがロック曲を演奏すること又はサクソフォーン奏者がジャズを演奏することを含んでもよい。別の例によると、エキスパート演奏オーディオトラック405は、一般に同一種類の複数の楽器が1つのオーディオトラックにミックスされたものを含んでもよい。例えばエキスパート演奏オーディオトラック405は、1人の(例えば、多重録音)又は複数のエキスパートが複数のギターを演奏することを含んでもよい。エキスパート演奏オーディオトラック405は、信号処理(例えば、リヴァーブ等)又は他のオーディオ効果を含んでもよい。
【0050】
エキスパート演奏オーディオトラック405は、ユーザに対する指導ツールとしての役割を果たしてもよい。例えばユーザは、エキスパート演奏オーディオトラック405と関連付けられた演奏をまねしようとしてもよい。更に上述したように、例示的な実施形態によると、フィードバックマネージャ325はフィードバック機構としてエキスパート演奏オーディオトラック405を使用してもよい。例えばフィードバックマネージャ325は、楽曲データマネージャ315によりエキスパート演奏オーディオトラック405の再生と関連付けられた音量又は出力レベル、信号処理効果等を管理してもよい。更に又はあるいは、フィードバックマネージャ325は、フィードバック機構としてエキスパートの演奏(例えば、音楽ビデオ)のオーディオ/ビデオ表現を管理してもよい。更に、波形マネージャ305はエキスパート演奏オーディオトラック405に対応するスクロールする波形を表示してもよい。
【0051】
聴覚的な楽曲データは伴奏トラックを含んでもよい。図示するように、伴奏オーディオトラック410は、楽曲の伴奏演奏の録音を含んでもよい。例えばユーザがエレクトリックギターで楽曲を演奏している場合、伴奏オーディオトラック410は、楽曲と関連付けられたエレクトリックベース、ドラム及びボーカルの録音を含んでもよい。楽曲に依存して、楽曲が伴奏オーディオトラック410を含んでいない場合がある。例えば、楽曲はソロ等であってもよい。楽曲データマネージャ315は伴奏オーディオトラック410を再生してもよい。
【0052】
上述したように、演奏キューデータは楽器による楽曲の適切な演奏を示すデータを含んでもよい。演奏キューデータは、例えば標準的な楽譜、タブ譜等の多くの形式をとることができる。演奏キューデータは、楽器の種類、セッションの難易度等に依存して異なる。例示的な一実現例によると、演奏キューデータは聴覚的な楽曲データ(例えば、エキスパート演奏オーディオトラック405等)に同期されてもよい。
【0053】
図4を参照すると、演奏キューデータ415及び演奏キューデータ420は、演奏キューデータの例である。演奏キューデータの更なる例については本明細書で説明する。
【0054】
図4に示すように、楽器がギターである場合、演奏キューデータ415は、ユーザが音楽イベント(例えば、音、和音等)を演奏する時間、弦及び位置を示してもよい。更に演奏キューデータ415は、例えば音量、ストラミングスタイル、ピッキングスタイル及び終了時間等の楽曲の演奏と関連付けられた他の側面を示してもよい。
【0055】
更に図示するように、演奏キューデータ420は標準的な楽譜に対応してもよい。上述したように、例示的な一実施形態によると、標準的な楽譜はアーティスト又は他のプロ/専門演奏者により演奏された楽曲の採譜に基づく奏法に対応してもよい。この例において、演奏キューデータ420は音が演奏されるピッチ及び時間を示してもよい。演奏キューデータ420は、強弱の変化を示し、雰囲気又は感情を示し、テンポを示し、アーティキュレーションを示す言葉/フレーズ等の他の種類のデータ、並びに弓の位置、ペダル記号等の楽器に依存するデータを含んでもよい。演奏キューデータ420は、音楽イベント及び/又は楽曲の演奏と関連付けられた他の特性を含んでもよい。
【0056】
他の実現例によると、演奏キューデータの表現は他の形式をとってもよい。例として、音楽イベントのピッチは、周波数(例えば、Hz単位)、MIDI(Musical Instrument Digital Interface)キーナンバー又は文字等として数字で表されてもよい。更に演奏キューデータは、テンポの変化又は移調等を反映するように変更されてもよい。この点に関して、演奏キューデータは、音楽教育システム115が難易度を変更するために楽曲を速く又は遅く再生するか、あるいは種々の楽器の範囲に適応するために楽曲を異なる調で再生する状況に適応可能であってもよい。例示的な一実現例によると、音楽教育システム115は従来のタイムストレッチング技術及び/又は従来のピッチシフティング技術を使用してもよい。
【0057】
図4は例示的な音楽データ400を示すが、他の実現例において、音楽データ400は、図4に示し、かつ説明するデータと比較して、更なるデータ、より少ないデータ及び/又は異なるデータを含んでもよい。
【0058】
図5は、音楽教育を提供する例示的な視覚的要素を含む音楽教育システム115の例示的なユーザインタフェースを示す図である。ユーザインタフェースは、ディスプレイ120においてユーザに対して表示されてもよい。他の実現例によると、音楽教育システム115は、図5に示し、かつ説明する視覚的要素と比較して、更なる視覚的要素、より少ない視覚的要素、異なる視覚的要素及び/又は異なる視覚的要素の構成を含んでもよい。例えば例示的な一実現例によると、ユーザは特定の視覚的要素を省略することを選択してもよい。例えばグラフィックボタン505−1〜505−8(一般にグラフィックボタン505と示す)はユーザインタフェース内に表示され、ユーザが表示するか又は隠す視覚的要素を選択することを可能にする。このように、ユーザは見たい情報を制御してもよい。他の実現例によると、ユーザインタフェースにより、ユーザは他のインタフェース(例えば、ドロップダウンメニュー等)に基づいて表示されるものを制御できる。例示的な一実現例によると、音楽教育システム115は、ユーザインタフェースの未使用の部分を占有するように視覚的要素を自動的にサイズ変更してもよい。実際には、各視覚的要素の相対的なサイズは図5に示した各視覚的要素のサイズに比例しなくてもよい。
この例において、楽器はギター(例えば、6弦ギター)であるとする。図5を参照すると、ユーザインタフェースの最上部において、ユーザインタフェースは波形マネージャ305と関連付けられた視覚的要素を含んでもよい。例えば、オーディオ波形510はエキスパート演奏オーディオトラック405に対応してもよく、オーディオ波形515はユーザの演奏に対応してもよい。このように、ユーザはエキスパートの演奏をユーザの演奏と視覚的に比較できる。更に類似度がユーザに対して示されてもよい。例えば類似性スコア520は、楽曲の楽節毎(例えば、小節毎等)にユーザの演奏とエキスパートの演奏との類似度を示してもよく、これは例えば数値又はグラフィックで表されてもよい。キューライン525は演奏の現時点を示してもよい。この例において、キューライン525の右側に位置する部分がこれから演奏される部分に対応する演奏波形530を示し、かつキューライン525の左側に位置する部分がエキスパートの演奏と比較してユーザの演奏直後の履歴を示すように、オーディオ波形510及び515は右から左に移動してもよい。
【0059】
ユーザインタフェースの左側部分は、楽曲データと関連付けられた視覚的要素を含んでもよい。この例において、音楽コンテンツ領域535は、アーティスト名、楽曲名、現在の小節、現在の拍子、現在の楽節、現在の和音及び次の和音を含んでもよい。
【0060】
音楽コンテンツ領域535の右側は、演奏する時にユーザを支援するための運指記号540を含んでもよい。例示的な一実現例によると、運指記号540は、現在演奏されることが要求される音楽イベント(例えば、和音、メロディ等)に対する指の位置及び将来の指の位置を表示してもよい。運指記号540は、スクロールするように一連の指の位置を表示してもよい。
【0061】
更に運指記号540の右側は、演奏キュー545を含んでもよい。この例において、演奏キュー545はスクロールするギタータブ譜に対応する。スクロールするギタータブ譜は、音楽イベント表示(図5において円で示される)を含んでもよい。他の実現例によると、音楽イベント表示表示は円とは異なる形状(例えば、正方形等)を有してもよい。音楽イベント表示は、音楽データ(例えば、エキスパート演奏オーディオトラック405等)と同期されてもよく、音楽イベント(例えば、効果、ジェスチャ、期間等)の特性を示してもよい。演奏キュー545は、肯定的フィードバック550を示す「点灯する」音楽イベント表示又は否定的フィードバックを示す「淡色表示される」音楽イベント表示等のリアルタイム又はほぼリアルタイムのフィードバックキューを含んでもよい。他の実現例によると、演奏キュー545は音楽イベントを示すスクロールする譜表の形式をとってもよい。更に他の実現例によると、演奏キュー545はスクロールするタブ譜を使用しなくてもよい。タブ譜は(例えば、長い道路のように)レイアウトされてよく、ユーザの視点がタブ譜に沿って移動する(例えば、道路を下る)。視覚的な演奏キューの他の例については本明細書において説明する。
【0062】
演奏キュー545の右側の領域は、演奏結果555を含んでもよい。この例において、演奏結果555は、スコア、難易度、精度スコア、ストリークスコア及び乗数を含んでもよく、これらはリアルタイム又はほぼリアルタイムで(例えば、ユーザの演奏中、セッションの終了時等)反映されてもよい。例えばスコアは、全体の演奏の値又は現在のセッションに関連した進行中の演奏の値を表してもよい。ストリークスコアは、例えば正しく演奏されている音楽イベントの数に対応してもよい。精度スコアは、楽曲に対するユーザの演奏の精度を反映してもよい。例えば精度スコアは、予想された音楽イベントの合計で除算される現在演奏されている音楽イベントの割合として表されてもよい。乗数はスコア変更子に対応してもよい。例えばスコアは、ユーザが困難なパッセージを正確に演奏する場合に乗数と乗算されてもよく、精度スコアは特定の閾値を上回り、難易度は特定のレベルである。乗数はスコアを増加する可能性がある。反対に、乗数はユーザのスコアを低下する可能性もある。例えばスコアは、ユーザが困難なパッセージを正確に演奏しない場合に乗数と乗算されてもよく、精度スコアは特定の閾値レベルを下回る。
【0063】
更に図示するように、ユーザインタフェースの右側部分はビデオ画像560を含んでもよい。例えば上述したように、音楽教育システム115は、ユーザの演奏中、ユーザのビデオ画像560を撮像できるカメラ145を含んでもよい。そのような例示的な一実現例によると、ユーザはユーザインタフェースを観察し続け、かつ同時に自身の演奏を見ることができる。例えば楽器がギターに対応する場合、ユーザはギターのネックを見下ろして、自身の運指及び動作を注視するだろう。しかし、ビデオ画像560により、ユーザは注意を他にそらすことなく自身の演奏を注視できる。ビデオ画像560により、ユーザは、ビデオ画像がないと識別できない可能性がある自身の演奏(例えば、技術、芸術的な課題等)に関連した課題を識別できる。他の例示的な実現例によると、ビデオ画像560は、専門演奏者、あるいはユーザの演奏に応じて教えたり、反応したり、かつ/又はフィードバックを提供したりする仮想助言者/指導者/コーチのビデオ画像に対応してもよい。他の例示的な実現例によると、ビデオ画像560はその楽曲の他のユーザの演奏(例えば、有名なアーティストの音楽ビデオ又は楽曲の別のユーザの演奏のビデオ等)に対応してもよい。音楽教育システム115により、ユーザは、ビデオ画像560が表示されるウィンドウのサイズを調整できてもよい。更に他の例示的な実現例によると、ビデオ画像560は、例えば左手のフレット及び弦の位置、右手のストラミングのタイミング及び指示、鳴らすキーボードのキー、叩くドラム等の指導情報を示すコンピュータグラフィックスを補足されるユーザのビデオ画像を示してもよい。コンピュータグラフィックは、ビデオ画像560とのオーバレイとして提示されてもよい(例えば、プロフットボールの放送において、フットボール競技場のビデオ画像とともに提供され、スクリメージライン、10ヤードライン及び他の情報をフットボール競技場に描かれているかのように示すコンピュータグラフィックスのオーバレイと同様である)。例えば画像操作により、フレット付き指板のビデオ画像560は、音又は和音に対する正しい指の位置に点灯するLEDが組み込まれているように見えるようにされてもよい。
【0064】
更に図示されるように、ユーザインタフェースの下部は運指記号及びタイムガイド565を含んでもよい。この例において、運指記号及びタイムガイド565は楽器(すなわち、ギターネック)のグラフィック表現及び演奏キュー(例えば、演奏が要求される音楽イベント)を含んでもよい。運指記号540とは異なり、運指記号及びタイムガイド565は現在の音楽イベント及び将来の音楽イベントを含んでもよい。運指記号及びタイムガイド565は、種々の形状、色、サイズ及び不透明度等を含み、ユーザが時間の経過と共に演奏キューに従っていけるようにしてもよい。
【0065】
設定570は、ユーザインタフェースの最下部に表示されてもよい。上述したように、設定マネージャ330は種々のユーザ設定、効果及びレベル等を表示してもよい。この例において、設定570は、入力レベル、チューナ、効果レベル、ミックスレベル、バンドセレクタ及び出力レベルを含んでもよい。例示的な一実現例によると、ユーザが利用可能な設定は、ユーザが演奏している楽器及び/又は楽曲に依存してもよい。更に設定570により、ユーザは、セッションが開始する前だけでなくセッション中にも特定の設定を調整できる。
【0066】
図6〜図10は、種々の楽器に対する演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。他の実現例によると、演奏キューマネージャ310と関連付けられた演奏キューは、図6〜図10に示し、かつ説明する演奏キューと比較して、更なる視覚的要素、異なる視覚的要素、より少ない視覚的要素、異なる視覚的要素の構成及び/又は異なる向きを含んでもよい。
【0067】
図6は、楽器がギターである場合の演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。図示するように、ギターの弦は6つのタイムライン605で表現されてもよく、これらは弦番号610(例えば、1〜6)及び対応する音楽イベント値615(E、A、D、G、B、E)でラベル付けされてもよい。音楽イベントの円620は、ユーザに対する演奏キューを表してもよい。例示的な一実現例によると、音楽イベントの円620内の番号は、押さえる弦の適切なフレットに対応してもよい。音楽イベントの円620は、適切な音楽イベントが演奏される適切な弦に配置されてもよい。更に例示的な一実現例によると、音楽イベントの円620垂直位置は、音楽イベントが演奏されるまでの残り時間を示してもよい。音楽イベントの円620は、音楽データ(例えば、伴奏オーディオトラック、エキスパート演奏オーディオトラック等)と関連付けられたタイムコードと同期されてもよい。
【0068】
時間の経過に伴って、ユーザインタフェースはタイムライン605及び音楽イベントの円620をスクロールしてもよい。例えばスクロールは、ユーザインタフェースの最上部からユーザインタフェースの最下部に向かって行われてもよい。他の実現例によると、時間は奥行きとともに表示又は表現されなくてもよい。例えばスクロールは、2次元で表示又は表現されてもよい。ユーザはキューライン625で音楽イベントの円620を演奏しようとする。線630は楽曲と関連付けられた音楽の拍子、小節、テンポ及び/又はタイミングを示してもよい。例示的な一実現例によると、太く、かつ/又は色が付けられた線635は、フレットに対して弦を押さえる期間(すなわち、音楽イベントの期間)を示してもよい。重複する音楽イベントはドット640又はストラミングを示す太い水平線645で表されてもよい。他の実現例によると、期間、ストラミング及び/又は重複する音楽イベントは別の方法でグラフィック表現されてもよい(例えば、ねじれ線、種々の線のパターン(例えば、点線等)、アニメーションライン等)。
【0069】
図7Aは、楽器がギターである場合の演奏キューマネージャ310と関連付けられた他の例示的な演奏キューを示す図である。この例において、ギターネック705は、水平線710により表された弦及び垂直線715により表されたフレットを含んで表示されてもよい。例示的な一実現例によると、指の位置はアニメーション化された同心円及び記号720により示されてもよい。例として、最も外側の円725は演奏タイミングの4拍前に表示されてもよい。更に他の円は、現在の演奏キューのタイミングが近づくにつれ、かつ楽曲のテンポに従ってある時間にわたり、より小さく、濃く、太く、かつ/又は低い透明度の円に変形して表示される。例えば3拍先の演奏キューは、より小さく、かつより透明度の低い円730で表されてもよい。2拍先の演奏キューは更に小さく、かつ透明度の低い円735により表されてもよく、1拍先の演奏キューは更に小さく、かつ透明度の低い円740により表されてもよい。演奏キューは、音楽イベントが演奏される適切な弦及びフレットに対応する位置に表示されてもよい。
【0070】
例示的な一実現例によると、ユーザが特定の位置の弦を鳴らすことになっている場合、全ての円が存在し、かつアイコン(例えば、星)745が表示されてもよい。音楽イベントの期間を通信するために、アイコン(例えば、星等)及び複数の円は音楽イベント750の期間の間可視のままであってもよい。
【0071】
例示的な一実現例によると、同一位置(例えば、1弦、1フレット等)に表示された複数の演奏キュー(例えば、4つの連続した16分音等)は、外側に静的な円を有し、中心が点滅する形式、又は他の何らかの適切な形式で示されてもよい。演奏キューは、音楽イベントを伝えるために、例えば振動、波状効果又は他の適切な形式等の種々の効果を更に含んでもよい。演奏キューは、音楽イベントを通信するために種々の形状、英数字、記号及び種々の色を更に含んでもよい。例示的な一実施形態によると、音楽イベント(例えば、音)の配置、タイミング、テンポ及び/又は期間は、形状、記号又は英数字等、並びに例えばサイズ、色、効果又は不透明度等の他の特性を使用することによりユーザに対して可視化して描かれてもよい。演奏キューは、楽器に従って適応されてもよい。
【0072】
図7Bは、楽器がギターdえある場合の演奏キューマネージャ310と関連付けられた他の例示的な演奏キューを示す図である。例えば手760のグラフィック表現は、演奏キューを実行するための運指記号を示してもよい。この例において、手760は、想像上の演奏者に対面するユーザの視点から表される。しかし、音楽教育システム115は、ユーザが種々の視点(例えば、想像上の演奏者の背後、想像上の演奏者の背後の上方等)で手760により形成される運指記号を閲覧できるようにしてもよい。
【0073】
図8は、楽器が声である場合の演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。図示するように、キーボード810のグラフィック表現はピッチ及びタイムラインを規定してもよく、タイムライン間の間隔はピッチ815を示してもよい。例示的な一実現例によると、太線820は音楽イベント(例えば、C音)と位置合わせされてもよい。更に又はあるいは、中太線825及び中太線830は、Cから特定の間隔(例えば、完全四度、完全五度)を有する他の音楽イベント(例えば、F音及びG音)をそれぞれ示してもよい。更に図示するように、例として、太く、かつ/又は色が付けられた線835は歌詞840でラベル付けされてもよいがこれに限定されない。更に、音楽イベントは右から左にスクロールしてもよく、垂直線845は楽曲と関連付けられた拍子、小節、テンポ及び/又はタイミングを表してもよい。
【0074】
図9は、楽器がキーボードである場合の演奏キューマネージャ310と関連付けられた例示的な演奏キューを示す図である。図示するように、キーボード905のグラフィック表現がユーザに対して表示されてもよい。例示的な一実現例によると、スクロールは上から下に行われてもよい。太線910は、特定の音楽イベント(例えば、C音)に位置合わせされてもよい。更に又はあるいは、中太線915及び中太線920は、Cから特定の間隔(例えば、完全四度、完全五度)を有する他の音楽イベント(例えば、F音及びG音)にそれぞれ位置合わせされてもよい。演奏キュー925は、他の特性(例えば、期間等)と共にユーザが演奏する音楽イベントを示してもよい。水平線930は、楽曲と関連付けられた拍子、小節、テンポ及び/又はタイミングを表してもよい。
【0075】
図10は、楽器がドラムセットである場合の演奏キューマネージャ310と関連付けられた例示的な情報を示す図である。この例において、4つのタイムライン1005はユーザにより演奏される音楽イベントを含んでもよい。例えば、各タイムライン1005は、音楽イベントがユーザの手又はユーザの足により演奏されるかをユーザに示すために四肢の表示1010を含んでもよい。音楽イベントは円1015により示されてもよい。例示的な一実現例によると、円1015は演奏するドラムセットのパーツを更に示してもよい。例えば「HP」はハイハットペダルに対応してもよく、「S」はスネアドラムに対応してもよく、「HH」はハイハットに対応してもよく、「K」はキックドラムに対応してもよい。円1015は、タイムライン1005に沿ってスクロールしてもよい。水平線1020は、楽曲と関連付けられた拍子、小節、テンポ及び/又はタイミングを表してもよい。キューライン1025は、いつドラムセットの適切なパーツを叩くかをユーザに示してもよい。
【0076】
上述したように、音楽教育システム115は、音楽データ(例えば、聴覚的な楽曲データ、視覚的な楽曲データ等)に同期される演奏キューを提供してもよい。
【0077】
図11は、音楽データ(例えば、エキスパート演奏オーディオトラック405、伴奏オーディオトラック410等)に同期した演奏キューを含む音楽教育システム115の例示的なユーザインタフェースを示す図である。例えば図11の例示的なユーザインタフェースは、楽曲と関連付けられた音楽イベントとの演奏キューの同期をプログラムするために使用されてもよい。
【0078】
この例において、音楽データは、タイムコードマーカ1110(例えば、秒単位)及び6つの弦のレーンに対応するギター弦セクション1115−1〜1115−6(一般にギター弦セクション1115と呼ぶ)を有するギタートラック1105を含んでもよい。例示的な一実現例によると、各ギター弦セクション1115は、演奏キューをユーザに提供する時間の領域1120を含んでもよい。例えばギター弦セクション1115−2内において、時間の領域1120はルーラマーカ1110に位置合わせされてもよい値「5−432」を含む。値「5−432」は、難易度2、3及び4(例えば、ミディアム、ハード、ハーデストをそれぞれ表す)に従って5番目のフレットで弦2を演奏することをユーザに示してもよい。音楽教育システム115は、この同期された演奏キューデータを使用してユーザインタフェースを生成し、ユーザにより演奏される音楽イベント及び演奏方法を示す。
【0079】
演奏キューデータは、楽器の種類だけでなくセッションの難易度にも依存して異なってもよい。例えば演奏キューは、種々のユーザのレベル(例えば、初心者、易しい、未熟者、熟練者、難しい、上級者又は天才等)に合わされてもよい。また、更に以下に示すように、例示的な一実現例によると、セッションの難易度はセッション中静的であってもよい。しかし、別の実現例によると、セッションの難易度はセッション中動的であってもよい。例えばセッションの難易度は、ユーザの演奏の評価に基づいてセッション中に変化してもよい。そのような一実現例によると、セッションの難易度は上下してもよく、それに応じて演奏キューの難易度がそれらの変化を反映してもよい。
【0080】
音楽教育システム115の例示的な実施形態によると、ユーザはゲームコントローラ等の「仮想楽器」とは異なり「本物」の楽器を演奏してもよい。音楽教育システム115は、楽器で演奏された音楽イベント(例えば、音等)を検出してもよい。例えば上述したように、音楽教育システム115は、基本周波数検出アルゴリズムに基づいてユーザにより演奏された音楽イベントを検出してもよい。これは例えば音楽イベント(例えば、音等)を生成しないゲームコントローラを使用する及び/または音楽イベントがピッチ等に基づいて評価されないゲームシステムとは対照的である。
【0081】
音楽教育システム115は、楽器に応じて種々な方法でユーザ演奏データを受信してもよい。例えばMIDI機能を有する楽器の場合、音楽教育システム115は直接入力(例えば、ケーブルを介して又は無線で)を受け入れてもよい。MIDI対応の楽器はピッチ等を含んでよいイベントメッセージを送受信してもよいため、音楽教育システム115は基本周波数検出を実行しなくてもよい。あるいは、ユーザがスネアドラムを演奏することを学んでいる場合、基本周波数の検出は関係ない。しかし、他の種類の楽器の場合、音楽教育システム115は、1つ以上の基本周波数検出アルゴリズムに従って特定の音楽イベントと関連付けられた基本周波数を検出してもよい。例えば、楽器が生楽器、(例えば、ピックアップを有する)電気楽器である場合、あるいはユーザがマイクを使用して又はマイクを介して演奏する場合、音楽教育システム115は基本周波数検出を使用してもよい。基本周波数検出アルゴリズムは、ピッチ解析、基本周波数推定及び和音認識を含んでもよい。他の例示的な実現例によると、他の方法が入力解析(例えば、テンプレートマッチング、機械学習、非負行列因数分解等)に対して使用されてもよい。音楽教育システム115は、楽器から受信した音声及び/又は楽器の種類に基づいて基本周波数検出を使用するかを判定してもよい。
【0082】
図12A〜図12Cは、音楽イベントと関連付けられた基本周波数を検出する例示的な処理1200を示す。基本周波数は、楽音を構成する音響振動の周波数に対応してもよい。フルート等の単音楽器は、一度に最大1つの楽音を生成できる。ギター又はピアノ等の多音楽器は、一度に2つ以上の楽音を生成できる。例えばギター又はピアノは、和音又は他の多音音楽構造を生成できる。基本周波数検出アルゴリズムは、単音音楽構造(例えば、単一の楽音)又は多音音楽構造(すなわち、2つ以上の楽音、和音等)と関連付けられた基本周波数を検出してもよい。
【0083】
処理1200は、オーディオ入力信号を受信すること(ブロック1205)を含んでもよい。例えば音楽教育システム115は、オーディオ入力信号を受信してもよい。例えば楽器は、音楽教育システム115に対するオーディオ入力信号として使用される電気信号を生成してもよい。あるいは、マイク又はピックアップは、楽器と関連付けられた生音の信号をオーディオ入力信号として使用されてもよい電気信号に変換するために使用されてもよい。
【0084】
アナログ−デジタル変換が実行されてもよい(ブロック1210)。例えば音楽教育システム115は、従来技術を使用してオーディオ入力信号をデジタルオーディオ入力信号に変換してもよい。
【0085】
出だしブロックが形成されてもよい(ブロック1215)。例示的な一実現例によると、基本周波数検出アルゴリズムは、デジタルオーディオ入力信号から連続する一群のサンプを含む(例えば固定長の)ブロックを形成することに基づいて基本周波数を検出してもよい。例えば出だしブロックは、音楽イベントと関連付けられた出だし時間がより短い時間ウィンドウ内で検出できるよう、512個のサンプルを含むことができる。
【0086】
上述したように、出だしブロックのサイズは一般に周波数解析に使用されるブロックより小さくてもよい。例えば、周波数解析ブロックが2048個のサンプルを含むことは一般的である。しかし、50%の重複を有し、1024サンプル等の等間隔を有する複数のサンプルのブロックを使用してデジタルオーディオを処理するために、そのサイズのブロック内で出だしが始まる場合には、基本周波数検出結果の品質は低い可能性がある。そのような品質の低い結果を回避するために、基本周波数検出アルゴリズムは、形成された出だしブロック内で出だし(例えば、音楽イベントの開始)を検出してもよく、出だしが検出される場合、周波数検出アルゴリズムは周波数検出のために次の出だしブロックに進んでもよい。この点に関して、周波数検出解析は、出だしを含まない出だしブロックに位置付けられてもよい。例えば、出だしを含む出だしブロックの後に位置付けられてもよい、出だしを含まない出だしブロックである。
【0087】
出だしブロックは、平滑化ウィンドウと乗算されてもよい(ブロック1220)。出だしブロックは、特にデジタルオーディオ入力信号のスペクトル特性を向上するために平滑化ウィンドウと乗算されてもよい。例示的な一実現例によると、平滑化ウィンドウの種類は楽器に基づいて選択されてもよい。音楽教育システム115は、1つ以上の種類の平滑化ウィンドウ(例えば、ハンウィンドウ、ハミングウィンドウ、ガウスウィンドウ等)を含んでもよい。
【0088】
FFTは、出だしブロックに対して実行されてもよい(ブロック1225)。高速フーリエ変換(FFT)は出だしブロックに適用されてもよく、その結果、離散短期スペクトルの推定値を与えてもよい。離散短期スペクトルは、大きさ及び位相情報を表す複素数を含んでもよい。
【0089】
複素数は、大きさ値に変換されてもよい(ブロック1230)。例えば各複素数の大きさは、虚数部の2乗及び実数部の2乗の合計の平方根である。例えば複素数がa+biである場合、大きさはsqrt(a2+b2)である。式中、sqrtは平方根を表す。大きさ値は、ある正弦成分の振幅に対応してもよく、複数の正弦成分は等間隔に離間した周波数であってもよい。大きさ値は、インデックスを有するデータ構造(例えば、配列等)に格納されてもよい。
【0090】
加重和が算出されてもよい(ブロック1235)。例えば大きさの加重平均は、インデックス付きデータ構造のそれぞれの位置に基づいて算出されてもよい。一例として、大きさ配列でインデックスが付与された4つの大きさ値(2,2,3,4)があるとする。例えば大きさ値=2は大きさ配列の位置0にインデックスされてよく、大きさ値=2は大きさ配列の位置1にインデックスされてよく、大きさ値=3は大きさ配列の位置2にインデックスされてよく、大きさ値=4は大きさ配列の位置3にインデックスされてよい。周波数検出アルゴリズムは、各大きさ値を対応するインデックスと乗算してもよい。例えば、新しい大きさ値(0,2,6,12)(例えば,2*0,2*1,3*2,4*3)が算出されてもよい。次に、新しい大きさ値の合計が算出されてもよく、加重平均が算出されてもよい。例示的な一実現例によると、加重平均は、大きさ値の合計を乗数の合計で除算した値に対応してもよい。例えば新しい大きさ値が加算され(0+2+6+12)合計した大きさ値=20を形成し、合計した大きさ値は6(0+1+2+3)で除算され加重和=3.33を与えてもよい。別の例示的な実現例によると、新しい大きさ値の合計は加重和に対応してもよい。例えば加重和=20である。この例において周波数が大きさ配列において低い周波数から高い周波数へインデックスが付与されるため、説明した方法で加重和を算出することにより、周波数スペクトル内のより高い周波数は周波数スペクトル内のより低い周波数より大きい重みを与えられる。すなわち、周波数が低いほど重み(例えば、配列インデックス乗数)を小さく、周波数が高いほど重みを大きく割り当ててもよい。
図12Bを参照すると、出だし検出が実行されてもよい(ブロック1240)。例えば、前の出だしブロックと関連付けられた加重和に対する加重和の変化が閾値と比較されてもよい。その変化が閾値以上である場合、出だしブロックは出だしを含むと判定される。加重和の変化が閾値未満である場合、出だしブロックは出だしを含まないと判定される。例示的な一実現例によると、閾値は、出だしが検出された後に減少されてもよく、出だしが検出されない場合に前の閾値に戻されてもよい。
【0091】
例示的な一実現例によると、出だしが出だしブロック内で発生しない場合、出だしブロックは例えばバッファに格納されてもよい。更に以下に説明するように、出だしを含まない出だしブロックは基本周波数ブロックを形成するために使用されてもよい。逆に、出だしが出だしブロック内で発生する場合、周波数検出アルゴリズムは、その出だしブロックを無視し、次の出だしブロックに進んでもよい。
【0092】
基本周波数ブロックが形成されてもよい(ブロック1245)。検出された各出だしの結果は、基本周波数検出に対する適切なサンプルのブロックを判定するために使用されてもよい。例えば出だしを含まないと判定される出だしブロックは、基本周波数ブロックを形成するために使用されてもよい。一例として、基本周波数ブロックが2048個のサンプルを含み、かつ出だしブロックが512個のサンプルを含む場合、4つの連続した出だしブロックが出だしを含まないと判定された時に基本周波数ブロックは形成されてもよい。ブロック1215で形成された出だしブロックのサイズ及び基本周波数ブロックのサイズに依存して、出だしを含まないと判定された特定の数の連続した出だしブロックが基本周波数ブロックを形成するのに使用されてもよい。
基本周波数ブロックは、平滑化ウィンドウと乗算されてもよい(ブロック1250)。基本周波数ブロックは、特にデジタルオーディオ入力信号のスペクトル特性を向上するために平滑化ウィンドウと乗算されてもよい。例示的な一実現例によると、平滑化ウィンドウの種類は楽器に基づいて選択されてもよい。音楽教育システム115は、1つ以上の種類の平滑化ウィンドウを含んでもよい。
【0093】
FFTは、基本周波数ブロックに対して実行されてもよい(ブロック1255)。高速フーリエ変換(FFT)は基本周波数ブロックに適用されてもよく、それにより離散短期スペクトルの推定値が得られるであろう。離散短期スペクトルは、大きさ及び位相情報を表す複素数を含んでもよい。
【0094】
複素数は、対数的な大きさ値(magnitude value)に変換されてもよい(ブロック1260)。各複素数の大きさは、虚部の2乗及び実部の2乗の合計の平方根である。例えば複素数がa+biである場合、大きさはsqrt(a2+b2)である。大きさの対数は一般的な対数関数を使用して計算されてもよい。各対数値は、各正弦成分と関連付けられた振幅の対数に対応してもよい。ここで、正弦成分は等間隔で離間された周波数であってもよい。
【0095】
ピーク推定値が算出されてもよい(ブロック1265)。例えば低い周波数で、対数振幅スペクトルにより表された正弦成分の間隔は正確な音楽ピッチ推定には広すぎる可能性がある。例示的な一実現例によると、対数振幅スペクトルは補間されてもよい。例えば対数振幅スペクトルは2次補間を使用して補間されてもよい。対数振幅値がその2つの隣接する値より大きいスペクトルの各位置において、二次多項式がそれら3つの点に適合されてもよい。各ピーク点に対して、2次スプラインのピーク点の対数振幅及び周波数が計算され、ピークデータとして格納されてもよい。そのような方法は、特にピーク点と関連する周波数がFFTと関連する周波数ビン(FFTビン)と位置合わせされない場合にピーク推定の精度を向上する。例えばFFTと関連する各周波数ビンが40Hzであり、ピーク点が100Hzに位置する場合、2次補間はピーク点の正確な周波数及び対数振幅を識別する精度を向上する。
図12Cを参照すると、ピークグラムが形成されてもよい(ブロック1270)。ピークグラムはピークデータに従って形成されてもよい。例えば、ピークグラムは配列に対応してもよい。ピークグラムの各場所は半音(例えば、等分平均律音階に基づく公称周波数)に対応してもよい。例示的な一実現例によると、MIDIキーナンバーは、ピークグラム指標として使用されてもよく、指標iの公称周波数は以下の例示的な式に対応してもよい。
440*2i−69/12 (1)
式中、440Hzは音楽イベントA4の標準的な周波数であり、69は音楽イベントA4に対するMIDIノートナンバーを表し、12は1オクターブ中の半音の数を表す。
【0096】
対数振幅スペクトルの2次スプラインにより推定された各ピークに対して、最も一致する公称周波数を有するピークグラムの場所に対応するピーク値がピーク振幅の2乗分だけ増分されてもよい。殆どの場合、最大1つのピーク振幅が所定のピークグラムの場所に影響を与える。そのような場合、例えば別の配列が形成されてピーク点の正確な周波数を格納してもよい。周波数は、音楽イベント(例えば、音)が正しい旋律であるか、半音低いか、又は半音高いかを推定するために使用されてもよい。
【0097】
ピークグラムは、音階の各半音における又は各半音の近くの基本周波数ブロックのエネルギーの推定値を含んでもよい。基本周波数ブロックに存在する音楽イベントがMIDIキーナンバーiに対応する場合、ピークグラムは、基本周波数を表す場所iにおける大きな正の値(すなわち、エネルギーを表す)、並びに例えば最も近い半音(例えば、MIDIキーナンバー)に丸められた倍音を表す場所i+12、i+19、i+24、i+28、i+31、i+34及びi+36における追加の正の値を含んでもよい。他の実現例によると、使用される倍音(又は部分音)の数はより多くても少なくてもよい。更に、デジタルオーディオ信号において表される最大周波数より上にある周波数は存在しなくてもよい。
【0098】
加重和が算出されてもよい(1275)。例えば対応するMIDIキーナンバーiを有する音楽イベント(例えば、音)に対して、加重和(例えば、振幅の2乗)が基本周波数及びその倍音におけるピークグラム値から形成されてもよい。例えば加重和は、場所i、i+12、i+19、i+24、i+28、i+31、i+34及びi+36において形成されてもよい。いくつかの倍音が存在できない高い周波数に対して、加重和はより少ない倍音を補償するように変倍されてもよい。
【0099】
音楽イベントが検出されるかが判定されてもよい(ブロック1280)。例えば加重和は、音楽イベント検出閾値と比較されてもよい。加重和が音楽イベント検出閾値以上である場合(ブロック1280−YES)、音楽イベントが存在するかが判定され、音楽イベントが出力されてもよい(ブロック1285)。例えば、音楽イベントがMIDIキーナンバーiに対応すると判定されてもよい。例示的な一実現例によると、維持された音楽イベントの振幅が時間の経過と共に減衰したと予想されるため、同一のピッチを有する音楽イベントが前の基本周波数ブロックで検出された場合に音楽イベント検出閾値は小さくされてもよい。逆に、加重和が音楽イベント検出閾値未満である場合(ブロック1280−NO)、音楽イベントが存在しないと判定されてもよい。図12Cに示すように、処理1200は以下に説明するようにブロック1295に継続してもよい。
【0100】
一致した部分音は除去されてもよい(ブロック1290)。例えば音楽イベントが検出される場合、ピークグラムの場所はゼロに設定されてもよい。例えばピークグラムの場所i、i+12、i+19、i+24、i+28、i+31、i+34及びi+36は、MIDIキーナンバーiの音によるエネルギーに基づいて追加の音楽イベントの間違った検出を防止するために除去されてもよい。
【0101】
iが増分されるかが判定されてもよい(ブロック1295)。例えばピークグラムの場所をゼロに設定した後、他のMIDIキーナンバーに対応する他の音楽イベントを検出するようにiが1だけ増分されてもよい(i+1)かが判定されてもよい。iが増分されてもよい(例えば、最後のMIDIキーナンバーがまだ考慮されていない)(ブロック1295−YES)と判定された場合、処理1200はブロック1275に継続してもよい。iが増分されてはいけない(例えば、最後のMIDIキーナンバーが考慮された)と判定された場合(ブロック1295−NO)、処理1200は終了してもよい。
【0102】
図12A〜図12Cは音楽イベントと関連付けられた基本周波数を検出する例示的な処理1200を示すが、他の実現例において、処理1200は、図12A〜図12Cに示し、かつ説明した動作と比較して、追加の動作、より少ない動作及び/又は異なる動作を含んでもよい。例えば別の実現例によると、基本周波数検出は、以下に従って音楽イベント(例えば、音)の証拠を見つけるためにピークグラムを探索することにより行われてもよい。例えば音楽イベントが対応するMIDIキーナンバーiを有しイベント、p[k]がMIDIキーナンバーkに対するピークグラム配列値の値を表す場合、合計は以下の例示的な式に従って算出されてもよい。
p[i]+min(p[i],p[i+12])+min(p[i],p[i+19])+min(p[i],p[i+24])+min(p[i],p[i+28])+min(p[i],p[i+31])+min(p[i],p[i+34])+min(p[i],p[i+36]) (2)
いくつかの倍音が存在できない高い周波数に対して、合計はより少ない倍音を補償するように変倍されてもよい。この結果として得られる合計は、上述したように音楽イベント検出閾値と比較されてもよい。
【0103】
更に上述したように、音楽教育システム115は、他の形式の入力解析(例えば、テンプレートマッチング、機械学習、非負行列因数分解等)を使用してもよい。例えば音楽教育システム115は、楽器及び/又は楽曲に依存してピッチ解析の複数の方法を利用してもよい。例えばより低い音域の音楽イベントに対して最適化される方法がより低い音域の音を特色としている楽曲に対して使用されてもよい。逆に、より高い音域の音楽イベントに対して最適化される方法がより高い音域の音を特色としている楽曲に対して使用されてもよい。更に又はあるいは、単音ピッチ検出に対して最適化された方法は単音音楽パッセージに対して使用されてもよく、かつ/又は短い音検出に対して最適化された方法は短い音パッセージに対して使用されてもよい。この点に関して、音楽教育システム115は、1つ以上の基本周波数検出方法を適応的に選択するために楽曲のプロファイルを含んでもよい。
【0104】
周波数検出に加えて、音楽教育システム115は、ユーザにより演奏された音楽イベントの他の音楽特性を評価してもよい。例えば音楽教育システム115は、音楽イベントの開始時間、音楽イベントの終了時間、音楽イベントの期間、音楽イベントの振幅又は音楽イベントの振幅曲線を評価してもよい。例示的な一実現例によると、音楽教育システム115は、音圧レベル、デシベルレベル、又は他の何らかの音量の計測値に基づいて音楽イベントの振幅を評価してもよく、その音量の計測値を楽曲で指定された音量レベルにマッピングしてもよい。例えば楽曲は、ピアノ(p)の音量レベルを指定してもよく、音楽教育システム115は音量レベルを音量の範囲にマッピングしてもよい。更に楽曲は、クレッシェンドをピアノ(p)からフォルテ(f)に指定してもよく、音楽教育システム115は、音量曲線を音量等感曲線にマッピングしてもよい。
【0105】
基本周波数検出は、予期される基本周波数の集合を参考にしても良い。予期される周波数又は正確な周波数を参照して、基本周波数検出処理1200は、ユーザが実際に演奏する音楽イベントを見逃すことを回避し、かつユーザが演奏しない間違った音楽イベントを検出することを回避するようにバイアスされてもよい。このように、正確な演奏に対してユーザに間違えてペナルティを課す確率が低減される。これは、いくつかの誤った音楽イベントの演奏を正確な演奏と間違えて評価するという代償を必要とするが、一般にユーザは正確な演奏に対して間違えてペナルティを課されるよりも、高すぎる評価を受ける方ことに満足するだろう。基本周波数検出処理1200をバイアスするために、上述した音楽イベント検出閾値は、基本周波数を検出する確率を低下させるために大きい値に調整されるか、基本周波数を検出する確率を増加するために低い値に調整される。例えば、音が演奏キューデータ415にある場合、検出は音楽イベント検出閾値を低下させることによりその音に対する基本周波数を検出しやすくバイアスされてもよい。音が演奏キューデータ415にない場合、検出は音楽イベント検出閾値を増加することによりその音に対する基本周波数を検出しにくくバイアスされてもよい。これは、演奏キューデータ415に存在する予期される周波数に依存して周波数検出手法にバイアスをかける方法の一例であり、検出方法にバイアスをかける他の方法が個別に又は組み合わせて使用されてもよい。
【0106】
例示的な一実現例によると、音楽教育システムは周波数検出又は振幅に基づいて音楽イベントの開始時間を評価してもよい。例えば異なるピッチを有する連続した音楽イベントに関して、音楽教育システム115は周波数検出に基づいて各開始時間を評価してもよい。更に又はあるいは、音楽教育システム115は振幅に基づいて開始時間を評価してもよい。例えば、図12において上述したように、前の出だしブロックと関連した振幅に対する振幅の突然の増加は音楽イベントの開始を示してもよい。逆に、音楽教育システム115は出だしブロック間の相対的な振幅に基づいて音楽イベントの終了時間を評価してもよい。音楽教育システム115は、開始時間及び終了時間に基づいて音楽イベントの期間を評価してもよい。
【0107】
音楽教育システム115は、ユーザにより演奏された評価した音楽イベントを、エキスパートにより演奏された予期される音楽イベントと比較してもよい。その比較に基づいて、音楽教育システム115は種々のスコア、統計、フィードバック等を算出してもよい。
【0108】
図13は、音楽教育システム115が音楽イベントを評価し、かつ音楽イベントを採点できる例示的な処理を示す図である。図示するように、グラフ1及びグラフ2が提供される。グラフ1は、x軸に沿うタイムライン1300とy軸に沿うスコアライン1305とを含む。グラフ2は、x軸に沿うタイムライン1300とy軸に沿う周波数ライン1315とを含む。
【0109】
グラフ1を参照すると、例示的な一例によると、グラフ1は34.0秒(すなわち、予期される音楽イベントの開始時刻)にキュー開始を有し、かつ35.0秒(すなわち、予期される音楽イベントの終了時刻)にキュー終了を有する、予期される音楽イベントを表す。更に、ユーザにより演奏された音楽イベントの早い開始時間又は遅い開始時間に対する許容差を与える33.875〜34.125の範囲の開始許容差がキュー開始を囲んで示される。同様に、ユーザにより演奏された音楽イベントの早い終了時間又は遅い終了時間に対する許容差を与える34.875〜35.125の範囲の終了許容差がキュー終了を囲んで示される。例示的な一実現例によると、開始許容差及び終了許容差はスコアライン1305に対する関係を有する。例えば図示するように、ユーザにより演奏された音楽イベントに割り当てられたスコアは、予期される音楽イベントに対する音楽イベントの開始時間及び終了時間の近さに依存して変動してもよい。例えばユーザにより演奏された音楽イベントの開始時間がエキスパートにより演奏された音楽イベントの開始時間と同一である場合、音楽教育システム115は1.0のスコアを与えてもよい。しかし、ユーザにより演奏された音楽イベントの開始時間が同一ではないが開始許容差の範囲内である場合、音楽教育システム115は1.0より低いスコアを与えてもよい。ユーザにより演奏された音楽イベントの開始時間が開始許容差の範囲内にない場合、音楽教育システム115は0.0〜1.0のスコアを与えてもよい(不図示)。音楽教育システム115は、同様の方法で終了時間に関してスコアを与えてもよい。更に音楽教育システム115は、開始時間及び終了時間に基づいてユーザにより演奏された音楽イベントの期間を評価し、適切なスコアを算出してもよい。
【0110】
グラフ2を参照すると、音楽教育システム115は、ユーザにより演奏された音楽イベントの基本周波数を評価してもよい。例えば、予期される音楽イベントの基本周波数は440Hzであると仮定する。この例において、音楽教育システム115は、438Hz〜442Hzの周波数許容差で基本周波数を評価してもよい。ユーザ演奏周波数1320により示されるように、ユーザにより演奏された音楽イベントと関連付けられた基本周波数は少し高い(例えば、440Hzより高い)。図示しないが、音楽教育システム115は、上述した方法と同様の方法で周波数に関してユーザにより演奏された音楽イベントにスコアを与えてもよい。
【0111】
音楽命令システム115は、ある期間にわたり1つ以上の音楽特性(例えば、周波数、振幅等)の変動を含む音楽イベントを評価してもよい。例えば音楽教育システム115は、スライド、ベンド、ポルタメント又はビブラート等の連続した音楽ジェスチャを評価してもよい。
【0112】
図14は、音楽教育システム115が連続した音楽ジェスチャと関連付けられた基本周波数に基づいてその連続した音楽ジェスチャを評価できる例示的な処理を示す。例えば基本周波数は、ある期間(すなわち、特定の音楽ジェスチャに対する演奏キューの期間)にわたり関数として考えられてもよい。例示的な一実現例によると、音楽教育システム115は、連続した音楽ジェスチャのエキスパートの演奏と関連付けられてもよい基本周波数エンベロープ1405、連続した音楽ジェスチャのユーザの演奏と関連付けられた基本周波数エンベロープ1410及び誤差基本周波数エンベロープ1415と関連した情報に基づいて連続した音楽ジェスチャを評価してもよい。
【0113】
例示的な一実現例によると、音楽教育システム115は、基本周波数エンベロープ1405と基本周波数エンベロープ1410との差分を算出し、誤差基本周波数エンベロープ1415を生成してもよい。そのような一実現例によると、領域部分1420で示される誤差(すなわち、基本周波数エンベロープ1405と1410との差分)の絶対値の積分は、連続した音楽ジェスチャの演奏誤り又は精度の測定値を表してもよい。そのような一実現例において、領域部分1420と関連する全体の面積が小さい程、連続した音楽ジェスチャの演奏と関連する精度は高い。逆に、領域部分1420と関連する全体の面積が大きい程、連続した音楽ジェスチャの演奏と関連する精度は低い。
【0114】
例示的な一実現例によると、音楽教育システム115は、領域部分1420と関連する全体の面積に基づいて得点を算出してもよい。例えば音楽教育システム115は、全体の面積をある数字で除算するか又は全体の面積とある数字とを乗算して得点に基づくスコアを算出してもよい。更に例示的な一実現例によると、音楽教育システム115は、例えば連続した音楽ジェスチャの難易度、楽曲の難易度、並びに他の音楽特性(例えば、終了時間、振幅等)及びその採点等のスコアを算出する時に他のファクタを考慮してもよい。
【0115】
上述したように、音楽教育システム115は、セッション中にユーザにフィードバックを提供してもよい。例えば音楽教育システム115は、ユーザが演奏している時に集計しているスコアをユーザに提供してもよい。更に又はあるいは、音楽教育システム115は、最終的なスコア、並びに他の種類のスコア(例えば、比較スコア、ベストスコア等)、統計等をユーザに提供してもよい。例示的な一実現例によると、音楽教育システム115は、音楽イベントの演奏の正確度に基づいてスコアを算出してもよい。例えばスコアは、以下に説明する処理に従って算出されてもよい。
【0116】
図15は、音楽教育システム115がスコアを算出できる例示的な処理1500を示す図である。例示的な一実現例によると、スコアは音楽イベントと関連付けられた1つ以上の音楽特性に関する精度の測定値を含んでもよい。例えば上述したように、音楽特性は周波数、振幅、開始時間、終了時間、期間、振幅曲線及び/又は周波数曲線に対応してもよい。説明の目的で、処理1500に関して、音楽イベント特性は開始時間、終了時間及び基本周波数を含んでもよい。他の実現例によると、以下に更に説明するように、音楽イベントと関連した更なる音楽特性、より少ない音楽特性及び/又は異なる音楽特性がスコアを算出するのに考慮されてもよい。更に例示的な実現例によると、音楽教育システム115は、ユーザにより演奏された単音(monophonic)又は多声(polyphonic)音楽イベントを検出してもよい。
【0117】
図15に示すように、処理1500は音楽イベントを検出すること(ブロック1505)を含んでもよい。音楽教育システム115は、ユーザにより演奏された音楽イベントを検出してもよい。上述したように、音楽教育システム115は、楽器から受信したオーディオデータに基づいて音楽イベントを検出してもよい。
【0118】
音楽イベント特性が評価されてもよい(ブロック1510)。音楽教育システム115は、ユーザが演奏した音楽イベントと関連付けられた音楽イベント特性を評価してもよい。例えば音楽教育システム115は、1つ以上の基本周波数検出アルゴリズムを使用し、かつ/又は振幅評価、開始時間評価、終了時間評価、期間評価、振幅曲線評価、周波数曲線評価等を実行してもよい。しかし、説明の目的で、本例では音楽教育システム115は図12A〜図12Cに関して上述した基本周波数アルゴリズム並びに開始時間及び終了時間評価を含む1つ以上の基本周波数アルゴリズムを使用してもよい。
【0119】
周波数誤差が算出されてもよい(ブロック1515)。音楽教育システム115は、検出した音楽イベントと関連付けられた基本周波数を予期される音楽イベントと関連付けられた基本周波数と比較してもよい。例えば検出した音楽イベント及び予期される音楽イベントと関連付けられた基本周波数f1及びf2は、以下の例示的な式に基づいて対数目盛s1及びs2に変換されてもよい。
s=log2(f/r)*12+69 (3)
式中、rは音楽イベントA4に対する一般的な周波数である440Hzであり、12は1オクターブに対する倍数を表し、69は音楽イベントA4に対するMIDIノートナンバーを表す。
【0120】
rに対する種々の値は、音楽データ(すなわち、予期される音楽イベント)及び/又はユーザ(すなわち、検出した音楽イベント)のチューニングに合わせて調整するために使用されてもよい。例示的な一実現例によると、基本周波数を対数目盛に変換することにより、周波数誤差が基本周波数の比で表される。換言すると、基本周波数間の半音で表される間隔は音程に対応し、これは単なる周波数の差分より有意義である。本実現例によると、基本周波数f1及びf2がs1及びs2に変換される場合、半音単位の周波数誤差は例示的な式s1−s2に従って算出されてもよい。
【0121】
タイミング誤差が算出されてもよい(ブロック1520)。音楽教育システム115は、検出した音楽イベントと関連付けられた開始時間を予期される音楽イベントと関連付けられた開始時間と比較してもよい。例えば開始時間が検出した音楽イベントに対してt1であり、かつ開始時間が予期される音楽イベントに対してt2である場合、タイミング誤差は例示的な式t1−t2に従って算出されてもよい。更に音楽教育システム115は、検出した音楽イベントと関連付けられた終了時間を予期される音楽イベントと関連付けられた終了時間と比較してもよい。同様に、音楽教育システム115は、例示的な式t1−t2に従ってタイミング誤差を算出してもよい。
【0122】
スコアが算出されてもよい(ブロック1525)。音楽教育システム115は、周波数誤差及び開始誤差に基づいてスコアを算出してもよい。例えば、スコアは以下の例示的な式に基づいて算出されてもよい。
スコア=(exp(−t1−t2)2)/vt)*(exp(−(s1−s2)2/vs)
(4)
式中、vtは時間ファクタ変数であり、v2は周波数ファクタ変数である。
【0123】
vtの値は、タイミング誤差に対するスコアの許容を増加又は減少するように調整されてもよく、vsの値は、周波数誤差に対するスコアの許容を増加又は減少するように調整されてもよい。例示的な一実現例によると、vt及びvsの値は、スコアに影響を及ぼすように初心者又はエキスパート等の難易度に従って調整されてもよい。更にvtの値は、楽曲のテンポに対応して変更されてもよい。例えばvtの値は、テンポが速い程小さくてもよい。その結果、ユーザは、テンポがより遅い時と同一のスコアを得るためにより高いタイミング精度(例えば、より小さい時間ウィンドウ内)で演奏する必要がある。
【0124】
別の例示的な実現例によると、スコアは以下の例示的な式に基づいて算出されてもよい。
スコア=(exp(−|t1−t2|)/vt)*(exp(−(s1−s2)2/vs)
(5)
式中、式(5)に従って、タイミング誤差のペナルティは式(4)と同様の速さで増加しなくてもよい。
【0125】
例示的な一実現例によると、スコアは0〜1の値を有してもよい。そのような例において、音楽教育システム115は、スコアとスカラーとを乗算し、ユーザに対して表示されるスコアが整数となるようにスコアを最も近い整数値に丸めることによりスコアを修正してもよい。例示的な一実現例によると、スカラーの値は楽曲と関連付けられた難易度に基づいてもよい。
【0126】
いくつかの例において、複数の検出した音楽イベントが単一の予期される音楽イベントと一致する可能性があり、その結果、必要以上の音楽イベントが演奏された場合に得点が繰り返しカウントされてしまう。予期される音楽イベントが検出した音楽イベントと1度だけ一致することを保証するために、音楽教育システム115は、単一のスコアを予期される各音楽イベントと関連付けてもよい。複数の検出した音楽イベントが1つの予期される音楽イベントと一致した場合、例示的な一実現例によると、音楽教育システム115は最高スコアを与える検出した音楽イベントを選択してもよい。例示的な一実現例によると、音楽教育システム115は、予期される音楽イベントを囲む時間許容差に基づいて予期される音楽イベントと比較する音楽イベントを選択してもよい。しかし、いくつかの例において、1つの予期される音楽イベントが楽曲に従って予想されるが、ユーザは複数の音楽イベントを演奏してもよい。
【0127】
別の実現例によると、音楽教育システム115は、演奏された余分な検出した音楽イベントがユーザにペナルティを課し、かつユーザのスコアを低下させるように余分な検出した各音楽イベントと関連付けられたペナルティスコアを減算してもよい。このように、ユーザが余分な音楽イベントを演奏する場合、スコアは、ユーザが正確な数の音楽イベントを演奏する場合より高くならない。
【0128】
スコアを算出するために、演奏された音楽イベント(例えば、検出した音)と関連付けられた例えば開始時間及び基本周波数等の音楽特性が予期される音楽イベント(例えば、予期される音)の対応する音楽特性と比較されてもよいと説明したが、音楽イベントと関連する他の種類の音楽特性が評価され、かつ採点されてもよい。例えば音楽教育システム115は、例えば音色が澄んだフレーズ、単調なフレーズ、心温まるフレーズ等のフレーズを含む楽曲に対して振幅曲線評価、周波数曲線評価、リズム評価(例えば、開始時間、終了時間、期間に基づく)、音色評価(例えば、周波数スペクトル評価)を実行してもよい。更にいくつかの音楽特性は、他の楽器と比較していくつかの楽器に対して高い適用可能性を有してもよい。例えば、ドラムセットのドラムと関連する音質又は周波数がスコアを判定することに関連しなくてもよい。しかし、音楽教育システム115は、ドラムの音色特徴に基づいて正確なドラムが演奏されたかを判定してもよい。例えばバスドラム又はフロアタムは、ラックタム又はスネアドラムと比較して低い音質を有する。音楽教育システム115は、音楽イベントのリズム特性が正確に演奏されたかに加えて正確なドラムが演奏されたかに基づいてスコアを算出してもよい。MIDIの楽器の場合、タイミング、速度、ピッチベンドホイールは評価される音楽特性の例である。
【0129】
例示的な一実施形態によると、ユーザが音楽イベントを演奏する場合、それらの音楽イベントは検出され、かつ対応する予期される音楽イベントとマッチングされてもよい。例えば上述したように、例示的な一実現例によると、演奏評価マネージャ320は、音楽イベントが正確に演奏された程度又は正確に演奏されなかった程度を評価してもよい。例えば音楽教育システム115は、音楽イベントの種々の音楽特性と関連付けられた周波数許容差、振幅許容差、開始時間許容差、終了時間許容差等を提供してもよく、ユーザが演奏した音楽イベントが正確に演奏された程度又は正確に演奏されなかった程度を確認できてもよい。
【0130】
この検出、評価及び比較方法に基づいて、音楽教育システム115は適切なフィードバック(例えば、否定的フィードバック又は肯定的フィードバック)をユーザに提供してもよい。例えば例示的な一実施形態によると、音楽教育システム115は、ユーザが演奏した音楽イベントの正確度又は不正確度に対応して変動するレベルの肯定的フィードバック又は変動するレベルの否定的フィードバックを提供してもよい。例えば音楽教育システム115は、正確度又は不正確度に対応して変動するレベルの肯定的/否定的視覚的フィードバック及び変動するレベルの肯定的/否定的聴覚的フィードバックを提供してもよい。変動するレベルの肯定的フィードバック及び否定的フィードバックの例については以下に更に説明する。
【0131】
更に上述したように、例示的な一実施形態によると、セッションの難易度はセッション中静的であってもよい。別の実現例によると、セッションの難易度は動的であってもよい。例えば音楽教育システム115は、セッション中にセッションの難易度を自動的に増加してもよく又はセッションの難易度を自動的に低下してもよい。例示的な一実現例によると、音楽教育システム115は、ユーザの演奏及び/又はフィードバック(例えば、スコア等)に基づいてセッションの難易度を調整してもよい。例えばユーザの演奏が肯定的に評価され、かつ/あるいはユーザのスコア又は他の演奏関連統計等が閾値を超える場合、音楽教育システム115は、セッションの難易度を自動的に増加してもよい。逆に、ユーザの演奏が否定的に評価され、かつ/あるいはユーザのスコア又は他の演奏関連統計等が閾値を下回る場合、音楽教育システム115は、セッションの難易度を自動的に低下してもよい。一実現例によると、ユーザの演奏が非常に否定的に評価されるか又は停止閾値を下回る場合、音楽教育システム115はセッションを自動的に終了してもよい。そのような場合、音楽教育システム115は、ユーザがより多くの練習を必要とするか又は新しいセッションを開始すべきであることをユーザに通信してもよい。
【0132】
図16は、音楽教育システム115がユーザの演奏に基づいてユーザにフィードバックを提供できる例示的な処理を示す図である。図示するように、ユーザ105は楽器110(例えば、ギター)で楽曲を演奏している。音楽教育システム115(例えば、演奏評価マネージャ320)は、ユーザが演奏した音楽イベントを評価し、かつ予期される音楽イベントと比較してもよい(1605)。音楽教育システム115は、ユーザが演奏した音楽イベントの正確度又は不正確度を判定してもよい(1610)。この例において、ユーザ105の演奏がスコア閾値を上回ると仮定されてもよく、音楽教育システム115は例えば「熟練者」から「難しい」にセッションの難易度を自動的に増加する(1615)。更に音楽教育システム115は、熟練者レベルから難しいレベルに視覚的演奏キューを変更する。また、例示的な一実現例によると、音楽教育システム115(例えば、フィードバックマネージャ325)はユーザ105の演奏のオーディオをミュートし、他の聴覚的楽曲データ(例えば、伴奏オーディオトラック410)と共にエキスパート演奏オーディオトラックを再生してもよい(1620)。このように、ユーザ105が楽曲を正確に演奏すると、ユーザ105はまさにエキスパートのように聞こえる。上述したように、他の実現例によると、フィードバックマネージャ325は、ユーザ105の演奏に基づいて他のオーディオデータ(例えば、エキスパート演奏オーディオトラック405及びユーザ105の演奏の双方、ユーザ105の演奏のみ等)を再生し、かつ信号処理効果を導入してもよい。他の実現例によると、音楽データは、オーディオ(例えば、エキスパート演奏オーディオトラック405)のみと比較されるオーディオ及びビデオ(例えば、音楽ビデオ等)の形式のエキスパート演奏データを含んでもよい。そのような例において、音楽教育システム115は、エキスパート演奏オーディオトラック405に関して説明した方法でオーディオ/ビデオと関連付けられたオーディオを管理してもよい。すなわち、オーディオはフィードバック機構として使用されてもよい。更に音楽教育システム115は、フィードバック機構としてオーディオ/ビデオと関連付けられたビデオを管理してもよい。例えば音楽教育システム115は、ビデオの鮮明度を制御してもよく(例えば、ぼかしを導入したり、静止を導入したり、ビデオの鮮明度を向上したりする)、ビデオのコンテンツを制御してもよく(例えば、専門演奏者の演奏とユーザの演奏との間のフェードイン又はフェードアウト)、かつ/又はビデオの他の側面を制御してもよい(例えば、視覚的効果等を導入する)。例示的な一実施形態によると、オーディオ操作と同様に、音楽教育システム115は、ユーザが音楽イベントを正確に又は不正確に演奏する程度に従って視覚的要素を操作してもよい。
【0133】
音楽教育システム115は、種々のユーザインタフェースを使用して肯定的フィードバック及び否定的フィードバックをユーザに対して表示してもよい。例として、演奏キューマネージャ310は、肯定的フィードバック及び否定的フィードバックを示すためにユーザに対する視覚的キューを含んでもよいがそれらに限定されない。ユーザインタフェースは、ユーザに対して肯定的フィードバック及び否定的フィードバックを示すために他の種類のキュー(例えば、聴覚的キュー)を更に含んでもよい。ユーザに対して肯定的フィードバック及び否定的フィードバックを示すために音楽教育システム115により実現されてもよいキューの例について以下に説明する。
【0134】
図17は、ユーザに提供される例示的な肯定的フィードバック及び否定的フィードバックを示す図である。上述したように、音楽教育システム115(例えば、フィードバックマネージャ325)は、変動するレベルの肯定的フィードバック又は変動するレベルの否定的フィードバックをユーザに提供してもよい。例示的な一実現例によると、肯定的フィードバック及び否定的フィードバックは音楽イベント/楽曲を正確に演奏するユーザの能力の成否に関連してもよい。音楽教育システム115は、ユーザにフィードバックを視覚的、聴覚的及び/又は触覚的に提供してもよい。音楽教育システム115は、音楽教育システム115の1つ以上のユーザインタフェースを介して視覚的フィードバックをユーザに提供してもよい。更に音楽教育システム115は、聴覚的出力を介して(例えば、スピーカ140を介して)聴覚的フィードバックを提供してもよい。更に音楽教育システム115は、触覚的フィードバックを提供してもよい(例えば、音楽教育システム115がポータブルデバイス又はハンドヘルドデバイスで実現される場合などに振動機構を使用して)。
【0135】
肯定的フィードバックを参照すると、音楽教育システム115は種々の種類及びレベルの視覚的及び/又は聴覚的な肯定的フィードバックをユーザに提供してもよい。例えば音楽教育システム115は、ユーザが予期される音楽イベントを正確に演奏する場合に演奏キューを点灯させてもよい(1705)。更に又はあるいは、音楽教育システム115は、例えば肯定的フィードバックを示すために表示された音楽イベントの色を変更したり(1710)、音楽イベント画像を修正したり(1715)又は肯定的な単語をテキストで表示したり(1720)して、他の種類の肯定的な視覚的キューをユーザに提供してもよい。音楽教育システム115は、肯定的フィードバックの段階を示すために変動するレベルの光度を表示したり、種々の色を使用したり、種々の形状を使用したりしてそれらの視覚的キューに関して変動するレベルの肯定的フィードバックを提供してもよい。更に音楽教育システム115は、肯定的フィードバックのレベルに対応して肯定的な単語を表示してもよい。例として、「OK」、「Good」、「Great」及び「Excellent」等の肯定的な単語が変動するレベルの肯定的フィードバックを表してもよいが、これらに限定されない。更に又はあるいは、音楽教育システム115はユーザのスコアを増分してもよく(1725)、その程度は、ユーザが演奏した音楽イベントの正確度に依存してもよい。
【0136】
更に又はあるいは、上述したように、一実現例によると、音楽教育システム115はエキスパート演奏オーディオトラックを再生し(1730)、ユーザの演奏により生成されたオーディオをミュートしてもよい。別の実現例によると、音楽教育システム115はエキスパート演奏オーディオトラック及びユーザの演奏の双方のミックスを出力してもよい。例示的な一実現例によると、音楽教育システム115はユーザの演奏の正確度に対応してエキスパート演奏オーディオトラックにミックスを偏向させてもよい。別の例示的な実現例によると、音楽教育システム115は、エキスパート演奏オーディオトラックをミュートし、ユーザの演奏のみを提供してもよい。
【0137】
音楽教育システム115は、他の種類の肯定的フィードバックキューを提供してもよい。例えば音楽教育システム115は、事前に録音された承認トラックを再生してもよい。例えば事前に録音された承認トラックは、「You got it!」、「Good job!」又は「Impressive」等の観客の歓声又は仮想指導者の音声による激励するコメントを含んでもよい。事前に録音された承認トラックは変動するレベルの肯定的フィードバックを割り当てられてもよく、これらはユーザの演奏の正確度に対応して再生されてもよい。
【0138】
更に又はあるいは、音楽教育システム115はユーザの名前を利用して、例えば「Getting better Harold」又は「Nice Performance Roger」等のより個人的なコメントを生成してもよい。例えば、ユーザは音楽教育システム115に自身の名前を提供してもよい(例えば、初期セットアップ中に)。更に又はあるいは、音楽教育システム115は、ユーザに対して肯定的フィードバックを示すために事前に録画されたビデオを再生してもよい。例えば事前に録画されたビデオは、歓声を上げる音楽ファン又は承認の表現を示す仮想指導者を含んでもよい。同様に、事前に録画されたビデオは変動するレベルの肯定的フィードバックを割り当てられてもよく、これらはユーザの演奏の正確度に対応して表示されてもよい。更に又はあるいは、音楽教育システム115は、例えば画面の明るい表示、画面振動又は他の適切なビデオ及び/又は視覚的効果等の視覚的効果を表示して肯定的フィードバックを提供してもよい。更に又はあるいは、音楽教育システム115は肯定的フィードバックを提供するために聴覚的効果を出力してもよい。例えば音楽教育システム115は、ユーザの演奏を高度化するために信号処理(例えば、リヴァーブ、エコー、コーラス、フランジ、ハーモニー等)を導入してもよい。信号処理の程度は、ユーザの演奏の正確度に対応して変動してもよい。
【0139】
否定的フィードバックを参照すると、音楽教育システム115は種々の種類及びレベルの視覚的及び/又は聴覚的な否定的フィードバックをユーザに提供してもよい。例えば音楽教育システム115は、ユーザが予期される音楽イベントを不正確に演奏する場合に演奏キューを淡色表示してもよい(1750)。更に又はあるいは、音楽教育システム115は、例えば否定的フィードバックを示すために表示された音の色を変更したり(1755)、音楽イベント画像を修正したり(1760)又は否定的な単語をテキストで表示したり(1765)して、他の種類の否定的な視覚的キューをユーザに提供してもよい。音楽教育システム115は、否定的フィードバックの段階を示すために変動するレベルの光度を表示したり、種々の色を使用したり、種々の形状を使用したりしてそれらの視覚的キューに関して変動するレベルの否定的フィードバックを提供してもよい。更に音楽教育システム115は、否定的フィードバックのレベルに対応して否定的な単語を表示してもよい。例として、「Poor」、「Bad」、「Terrible」及び「Horrible」等の否定的な単語が変動するレベルの否定的フィードバックを表してもよいが、これらに限定されない。更に又はあるいは、音楽教育システム115はユーザのスコアを減分してもよく(1770)、その程度は、ユーザが演奏した音楽イベントの不正確度に依存してもよい。
【0140】
更に又はあるいは、上述したように、一実現例によると、音楽教育システム115はエキスパート演奏トラックをミュートしてもよく(1775)、あるいは非常に低い出力レベルでエキスパート演奏オーディオトラックを再生してもよい。別の実現例によると、音楽教育システム115はエキスパート演奏オーディオトラック及びユーザの演奏の双方を合成して出力してもよい。例示的な一実現例によると、音楽教育システム115はユーザの演奏の不正確度に対応してユーザの演奏をより多く合成させてもよい。
【0141】
音楽教育システム115は、他の種類の否定的フィードバックキューを提供してもよい。例えば音楽教育システム115は、間違った演奏がなされた楽器に適した、事前に録音された不快なトラックを再生してもよい。例えば楽器がギターである場合、事前に録音された不快なトラックはフィードバック音、ピチャピチャという音又はカタカタという音等を含んでもよい。例示的な一実現例によると、音楽教育システム115は、不正確に演奏された音楽イベントの数が停止閾値を超える場合にセッションを自動的に終了してもよい。
【0142】
更に又はあるいは、音楽教育システム115は事前に録音された不満トラックを再生してもよい。例えば事前に録音された不満トラックは、観客のブーイング、あるいは「間違った!」、「もっと上手に!」又は「どうしたんだ」等の仮想指導者の音声による落胆させるコメントを含んでもよい。更に又はあるいは、音楽教育システム115はユーザの名前を利用して、例えば「ハロルド、練習が足りないぞ」又は「もっと練習しろ、ロジャー」等のより個人的なコメントを生成してもよい。更に又はあるいは、音楽教育システム115はユーザに対して否定的フィードバックを示すために事前に録画されたビデオを再生してもよい。例えば事前に録画されたビデオは、ブーイングする音楽ファン、公演から退出する音楽ファン又は不満の表現を示す仮想指導者を含んでもよい。更に又はあるいは、音楽教育システム115は、例えば画面の淡色表示、画面振動又は他の適切なビデオ及び効果等の視覚的効果を表示してもよい。更に又はあるいは、音楽教育システム115は否定的フィードバックを提供するために聴覚的効果を出力してもよい。例えば音楽教育システム115は、ユーザの演奏の音質を低下させたり、けなしたりするために信号処理(例えば、歪み、ピッチシフト等)を導入してもよい。
【0143】
音楽教育システム115は、ユーザが音楽イベントを全く演奏しない場合でも、初心者については、ずっと上級のユーザと同様、ユーザの演奏と同期して演奏されているエキスパートによる楽曲の演奏を聴くことを可能とする。例えば楽曲の難易度が低レベルに設定されている場合、ユーザはN個(N>1)の音楽イベント毎に1つのみ演奏することを要求される。その1つの音楽イベントが正確に演奏されれば、ユーザはエキスパートの演奏を聴くことにより完璧に演奏されている残りのN−1個の音を体験できる。別の例において、難易度が高レベル(例えば、エキスパートレベル)に設定される場合、ユーザはN個の音楽イベントの各々を正確に演奏することを要求される。そのような一実現例において、音楽教育システム115は、ユーザの代わりに事前に録音された音楽イベントを用いることはない。
【0144】
そのような指導方法によると、音楽教育システム115により、ユーザは段階的、かつ進歩的に楽器を経験でき、これは、ユーザが楽曲のいくつかの音楽イベントを演奏することから開始し、最終的に楽曲の全ての音楽イベントを演奏するように指導する。このように、エキスパート技能レベルがすぐに要求されず、ユーザは楽器、楽曲に徐々に慣れていき、音楽的な能力を向上できる。そのような方法において、音楽教育システム115は非常に楽しい学習体験をユーザに提供できる。ユーザが上達し、セッションを重ねることにより技術を習得および上達していくにつれ、Nの値は徐々に1に減少していく。
【0145】
音楽教育システム115は、ユーザを支援するために他の機能を提供してもよい。例えば音楽教育システム115により、ユーザは楽曲のテンポを調整できる。例えば、初心者のユーザは本来のテンポより遅い楽曲のテンポを選択することができ、より上級のユーザは楽曲のテンポの速度を上げることを選択できる。更に音楽教育システム115により、ユーザは楽曲の特定の楽節をループできる。例えば楽曲が(最も困難な楽節であろう)ソロの楽節を含む場合、ユーザは楽曲全体ではなくそのソロの楽節のみを練習してもよい。更にユーザは、低減されたテンポでソロの楽節のみを練習してもよい。
【0146】
更に、より高い難易度において、音楽教育システム115は、事前に録音したエキスパートの演奏(例えば、エキスパート演奏オーディオトラック405)に対応しない演奏キューをユーザに提供してもよい。例えば音楽教育システム115は、メロディの強調(例えば、メロディの装飾等)、ハーモニーのサブスティテューション(例えば、リハーモナイゼーション等)、テンポの変化、時間の変化等を含む演奏キューを提供してもよい。更に音楽教育システム115により、ユーザは事前に録音された伴奏(例えば、伴奏オーディオトラック410)及びユーザの演奏をミキシングしたもの、ユーザの演奏のみ又はユーザの演奏を向上したバージョン(例えば、信号処理したバージョン等)を聴くことを許される。
【0147】
上述したように、音楽教育システム115はユーザの上達を見守り、かつそれをユーザに報告してもよい。例えばセッションの終了時、それがうまくいったかどうかに関わらず、ユーザは自身の演奏に関する統計を提示してもよい。例えば図18は、採点情報を含む音楽教育システム115の例示的なユーザインタフェースを示す図である。他の実現例において、音楽教育システム115は、追加の採点情報、異なる採点情報及び/又はより少ない採点情報を含んでもよい。
【0148】
図示するように、ユーザインタフェースは、総合スコア1805、最長の連続した正確な演奏1810、最長の連続した誤った演奏1815、精度スコア1820(例えば、正確な音の割合)、誤りの傾向1825及びユーザレベル1830を含んでもよい。
【0149】
総合スコア1805は、ユーザの演奏及びセッションの間に生じた得点の累積を示してもよい。例えば総合スコア1805は、精度点及びボーナス点の累積を含んでもよい。例示的な一実現例によると、総合スコア1805は、ユーザが選択できるユーザのレパートリーに楽曲を追加するためにバーチャルストアにより使用されてもよい。図19は、ユーザがユーザの総合スコア1805に基づいて楽曲を選択できるようにする例示的なユーザインタフェースを示す。図19に示すように、音楽教育システム115と関連付けられたバーチャルストアにより、ユーザは、ユーザの総合スコア1805が特定の閾値を上回る時にアンロックされた楽曲から選択できる。この例において、ユーザの総合スコアが100,000点を上回るため、ユーザは新しい楽曲(例えば、歌)を選択できる。
【0150】
音楽教育システム115は、総合スコア1805に基づいて他の機能を有効にしてもよい。例えば音楽教育システム115により、ユーザは伴奏と共に演奏できるが、演奏キューをユーザに提供し、かつエキスパート演奏オーディオトラック405を聴く代わりに、音楽教育システム115は、ユーザの演奏を録音し、ユーザの演奏を新しい演奏キューのセットに変換してもよい。例示的な一実現例によると、ユーザの演奏キューは他のユーザと共有されてもよい。音楽教育システム115は、総合スコア1805に基づいて他の機能(例えば、種々の信号処理効果等)を有効にしてもよい。
【0151】
図18に戻ると、最長の連続した正確な演奏1810は、正確に演奏された連続した音の数及びそれらの音が演奏された期間を示してもよい。最長の連続した誤った演奏1815は、不正確に演奏された連続した音の数及びそれらの音が演奏された期間を示してもよい。精度スコア1820は、ユーザの演奏の精度に対応する割合を示してもよい。精度スコア1820は、上述した処理1400に基づいて算出されてもよい。
【0152】
誤りの傾向1825は、ユーザの演奏に関連した種々の誤りを示してもよい。例えば誤りの傾向1825は、ピッチ(例えば、シャープ気味、フラット気味)及びタイミング(例えば、遅い又は速い)に関連した誤りの傾向を含んでもよい。音楽教育システム115は、ユーザが自分の演奏をレビューできるようにし、かつユーザが間違えた楽曲の部分を示す(視覚的及び/又は聴覚的に)ユーザインタフェースを更に提供してもよい。この点に関して、音楽教育システム115は、ユーザにとって困難な楽曲の部分を対象とすることによりユーザが自身の演奏を向上することを支援してもよい。音楽教育システム115は、ピッチの外れた各音楽イベントに対する特定の周波数オフセット(例えば、Hz単位)をユーザに提供してもよい。更に音楽教育システムは、時間のずれた各音楽イベントに対する特定のタイミングオフセット(例えば、ミリ秒単位、等)をユーザに提供してもよい。音楽教育システム115により、ユーザは自身の演奏を向上するために楽曲の特定の部分をループできる。
【0153】
ユーザレベル1830は、ユーザの演奏と関連付けられたスコア及び統計に基づいてユーザのレベルを示してもよい。例えばユーザレベル1830は、未熟者、熟練者、上級者又は天才等のレベルの範囲を含んでもよい。ユーザレベル1830は、ユーザが次のセッションに対する難易度を選択するのを支援できる。上述したように、ユーザはいかなる所定のセッションに対しても特定の難易度を選択してもよい。例示的な一実現例によると、音楽教育システム115は、難易度に基づいて種々の報酬(例えば、得点、ボーナス等)、フィードバック等を提供してもよい。他の実現例によると、音楽教育システム115は、難易度に基づいて種々の報酬、フィードバック等を提供しなくてもよい。音楽教育システム115は、特定の精度スコア、正確に連続して演奏した音の数等を上回って楽曲を演奏することに対してボーナス点(例えば、図5の演奏結果555に関して上述した乗数)を与えてもよい。
【0154】
図20は、音楽教育システム115がセッションに対する総合スコアを算出できる例示的な処理を示す。例示的な一実現例によると、総合スコアは楽曲と関連付けられた難易度に基づいてもよい。例えば楽曲がバッハの協奏曲に対してハ長調音階に対応する場合、音楽教育システム115は、総合スコアを算出する時にこのファクタを考慮してもよい。例えば音楽教育システム115は、例えば調和性(harmonic content)及び/又は演奏技巧等のファクタを使用してもよい。例えば1つの楽曲は、複雑な和音進行を含む別の楽曲と比較して単純な和音進行を含んでもよい。更に又はあるいは、楽曲は異なる範囲の和音構造(例えば、三和音、セブンスコード、テンションコード等)を含んでもよい。演奏技巧の一例として、1つの楽曲(例えば、ギターの楽曲)は、4フレットの範囲で演奏でき、押弦位置も余り変わらない一方、別の楽曲は演奏に7フレットの範囲が必要で、かつ押弦位置が頻繁に変わってもよい。音楽教育システム115は、例えば楽曲と関連するメロディの内容、切分音、時間の変化、観察された音楽イベントの数/予期される音楽イベントの数等の他のファクタを使用して楽曲と関連付けられた難易度を割り当ててもよい。
【0155】
更に又はあるいは、総合スコアは、楽曲と関連付けられたユーザ難易度(例えば、未熟者、上級者等)に基づいてもよい。例えば最も簡単なユーザ難易度では、ユーザがより多くの音を演奏することを要求される、より高いユーザ難易度と比較して、楽曲と関連付けられた最小数の音をユーザが演奏すればよいようにしてもよい。このように、ユーザは、難しい楽曲を選択するかもしれないが、楽曲の簡素化され、かつ/又は単純化されたバージョンを演奏する機会を与えられる。例示的な一実現例によると、ユーザ難易度が易しい場合、ユーザ難易度がより高い場合と比較して、見込まれる得点は低くなるであろう。更に又はあるいは、総合スコアは予期される音楽イベントを演奏する際のユーザの精度に基づいてもよい。例えば精度スコアは、音楽イベントのユーザの演奏を予期される音楽イベントの数で除算した結果に基づいてもよい。
【0156】
図21は、経時的なユーザの上達を要約できる、音楽教育システム115の例示的なユーザインタフェースを示す図である。例えばユーザインタフェースは、経過時間セクション2105、開始セッションセクション2110、完了セッションセクション2115、高スコアセクション2120、セッション難易度セクション2125、平均スコアセクション2130及び精度セクション2135を含んでもよい。また、図示するように、ユーザインタフェースは、セクション2105〜2135に対応する期間2140を更に含んでもよい。他の実現例によると、ユーザインタフェースは、図21に示し、かつ本明細書で説明するセクションと比較して追加のセクション、異なるセクション及び/又はより少ないセクションを含んでもよい。更に又はあるいは、他の実現例によると、ユーザの上達と関連付けられた演奏データは、例えばグラフ(例えば、棒グラフ、線グラフ等)、チャート(例えば、円グラフ等)又は他の何らかの種類の可視(すなわち、グラフィック又は非グラフィック)表現等のテーブル以外の形式で提示されてもよい。
【0157】
経過時間セクション2105は、ユーザが音楽教育システム115を使用して費やした期間(例えば、時間、日数等)を示してもよい。開始セッションセクション2110は、ユーザが開始したセッション数を示してもよい。完了セッションセクション2115は、ユーザが完了したセッション数を示してもよい。高スコアセクション2120は、ユーザの最高スコアを示してもよい。セッション難易度セクション2125は、セッションと関連付けられた難易度を示してもよい。平均スコアセクション2130は平均スコアを示してもよく、精度セクション2135はユーザの演奏と関連付けられた精度の測定値を示してもよい。
【0158】
例示的な一実現例によると、音楽教育システム115は、ユーザの演奏データをデータベースに格納してもよい。例えばデータベースは、ネットワーク接続(例えば、インターネット)を介して音楽教育システム115によりアクセスできるリモートデバイス(例えば、サーバ等)に存在してもよい。他の例において、ネットワーク接続が利用可能でない場合、音楽教育システム115は演奏データをメモリ/記憶装置210に格納する。音楽教育システム115により収集された演奏データはユーザに提示されてもよい。このように、ユーザは自身の上達がよく分かる。更に音楽教育システム115は、他のユーザ、親、音楽の指導者、友人等と自身の演奏データを共有することを可能にしてもよい。例えば、他のユーザ等がリモートデバイスにアクセスしてもよい。リモートデバイスは、他のユーザが演奏データを利用できるようにしたいと考える音楽教育システム115のユーザ間で種々の情報(例えば、統計、スコア、演奏ビデオ等)を格納してもよい。例示的な一実現例によると、リモートデバイスはプライバシー等を維持するためにセキュリティ対策を提供してもよい(例えば、ログインを要求する等)。更にリモートデバイスは、更新データ(例えば、ソフトウェア更新データ)を音楽教育システム115に提供してもよい。
【0159】
図22は、音楽教育システム115が音楽のジャンルに従ってユーザの技術を追跡できる例示的な処理を示す図である。例えば音楽ジャンルは、ロック、カントリー、クラシック、ジャズ、ブルース、ポップ等を含んでもよい。例示的な一実現例によると、音楽教育システム115は、演奏データを収集し、演奏データを1つ又は複数の適切な音楽ジャンルに格納してもよい。例えば図22に示すように、演奏データはロックジャンル2205、カントリージャンル2210又はクラシックジャンル2215に格納されてもよい。楽曲は、1つ又は複数の音楽ジャンルにマッピングされてもよい。
【0160】
ユーザの目的に依存して、音楽教育システム115は、ユーザが複数の音楽ジャンルに関して自身の上達を認識できるようにしてもよい。これは、ユーザの音楽に対する全体的な上達にとって有益であるだろう。例えばユーザは、ユーザが自身の音楽の能力及び音楽の知識を向上させるのを全般的に支援するレパートリー(例えば、曲、作曲、ハーモニー、音階等の集合)を広げてもよい。
【0161】
図23は、音楽教育システム115により使用される例示的な換算表2300を示す図である。図示するように、換算表2300はギター(例えば、6弦ギター)等の楽器に関連してもよく、周波数、MIDI音及び音オクターブ情報と共に垂直軸上に音E、B、G、D、A及びEが含まれ、水平線上にフレット位置情報が提示される。楽器及び/又は楽器のチューニングに依存して、音楽教育システム115は適切な換算表を使用してもよい。
【0162】
例示的な一実現例によると、音楽教育システム115は、換算表2300に基づいて演奏キューデータから予期される音楽イベントを自動的に導出してもよい。例えば音楽教育システム115は、換算表2300を使用して演奏キュー415から演奏データ420を導出してもよい。別の実現例によると、音楽教育システム115は、換算表2300を使用して演奏データ420から演奏キュー415を導出してもよい。
【0163】
例示的な一実施形態によると、音楽教育システム115は、単一のユーザではなく複数のユーザにユーザインタフェースを同時に提供してもよい。例えば音楽教育システム115は、同一の又は異なる楽器で演奏している複数のユーザに対してユーザインタフェースを提供してもよい。例えば図24は、複数のユーザに対する例示的な視覚的要素を含む例示的なユーザインタフェース2400を示す図である。図示するように、ユーザインタフェース2400は、ギターセクション2405、キーボードセクション2410、ボーカルセクション2415及びドラムセクション2420を含んでもよい。このように、ユーザは音楽教育システム115と共に楽曲を演奏してもよい。そのような状況下において、各ユーザは音楽教育システム115に対する入力を有してもよい。例示的な一実現例によると、音楽教育システム115は全てのユーザに対して伴奏オーディオトラック410を1つのみ提供してもよい。しかし、伴奏オーディオトラック410は、各チャネルが異なる楽器の音を含むマルチチャネルレコーディングを含んでもよい。音楽教育システム115は、ユーザが再生する楽器を選択することを可能にしてもよい。例として、伴奏オーディオトラック410の再生は、ユーザのグループにより演奏されていない楽器のみを含んでもよいがこれに限定されない。
【0164】
上述したように、音楽教育システム115は、マウス135及びキーボード130等の入力225を含んでもよく、ユーザがナビゲートし、情報を入力し、かつ/又は音楽教育システム115と対話することを可能にする。しかし、ユーザは楽器と入力225との間で手を切り換え続ける必要があるため、音楽教育システム115と対話することは負担となる。例示的な一実現例によると、音楽教育システム115は、ユーザが音楽教育システム115と対話したり、ナビゲートしたりするために音又はパーカッション入力を入力することを可能にしてもよい。換言すると、音楽教育システム115は、音又はパーカッション入力を例えばキーストローク、マウスクリック及び/又は他の種類の入力コマンドにマッピングしてもよい。例えば音楽教育システム115は、ユーザが特定の音又は一連の音を演奏することに基づいてセッションを開始又は停止することを可能にしてもよい。更に音楽教育システム115は、ユーザが特定の音又は一連の音を演奏することに対応して、ユーザが音楽教育システム115により提供された種々のユーザインタフェースにアクセスできるようにしてもよい。更に又はあるいは、音楽教育システム115は音声コマンド(例えば、単語、句等)に応答してもよい。
【0165】
例示的な一実施形態によると、ユーザはセッション中に楽曲を演奏してもよい。音楽教育システム115は、ユーザが特に楽曲、セッション難易度(例えば、初心者、未熟者、熟練者、上級者又は天才等)、演奏キューの種類(例えば、タブ譜、一般的な楽譜等)及び楽器を選択できるようにするユーザインタフェースを提供してもよい。ユーザの演奏準備が整った時、音楽教育システム115は演奏キュー及び伴奏を提供してもよい。音楽教育システム115は、リアルタイム又はほぼリアルタイムでユーザの演奏を評価し、かつ演奏結果(例えば、スコア等)だけでなくフィードバック(例えば、肯定的又は否定的)をユーザに提供してもよい。音楽教育セッション115は、セッションが完了した時に演奏結果をユーザに提供してもよい。セッションをユーザに提供する例示的な処理については以下に説明する。
【0166】
図25A及び図25Bは、音楽教育システム115がユーザにセッションを提供できる例示的な処理2500を示すフローチャートである。
【0167】
処理2500は、ユーザ設定を受信すること(ブロック2505)を含んでもよい。例えば、ユーザは演奏の前に楽器の準備をしてもよい。音楽教育システム115は、例えばチューニング、入力レベル(例えば、楽器レベル、マスターレベル、伴奏レベル等)、効果レベル(例えば、ミックスレベル、デジタルオーディオ効果レベル等)、楽曲の選択、テンポ設定、難易度の選択等の種々のユーザ設定を受信してもよい。音楽教育システム115は、他の種類のユーザ設定を提供してもよい。例えば、ユーザは手順を通して指導され、音楽データ(例えば、エキスパート演奏オーディオトラック、伴奏オーディオトラック)に対応するピッチに楽器を設定してもよい。
【0168】
セッションが準備されてもよい(ブロック2510)。例えば音楽教育システム115は、音楽データ(例えば、エキスパート演奏トラック、伴奏トラック等)をロード及び/又は位置合わせしたり、タイムコードを初期化したり、セッションインタフェースを初期化したりしてもよい。
【0169】
演奏キュー及び伴奏が提供されてもよい(ブロック2515)。例えば一実現例によると、音楽教育システム115は、聴覚的な楽曲データの再生を開始してもよい。例えば音楽教育システム115は、伴奏オーディオトラックを再生してもよい。他の字例示的な実現例によると、音楽教育システム115は、伴奏オーディオトラック及びエキスパートオーディオトラックの双方の再生を開始してもよい。音楽教育システム115は、適切な演奏キューをユーザに提供してもよい。演奏キューは、聴覚的な楽曲データに同期されてもよい。
【0170】
ユーザの演奏が検出されてもよい(ブロック2520)。例えば音楽教育システム115は、ユーザの楽器の演奏を検出してもよい。楽器に依存して、音楽教育システム115は、ラインアウト、MIDI又は他の方法を介してマイク、ピックアップを介するか又は直接演奏データを楽器から受信してもよい。音楽教育システム115は、演奏データを利用して波形、MIDIファイル等を生成してもよい。
【0171】
演奏評価が判定されてもよい(ブロック2525)。例えば上述したように、音楽教育システム115は受信した演奏データを予期される演奏データと比較してもよい。音楽教育システム115は、正確に演奏された音楽イベント及び不正確に演奏された音楽イベントを判定してもよい。例示的な実現例によると、上述したように、音楽教育システム115は、正確に又は不正確に演奏された音楽イベント及びそれらの音楽イベントがどの程度正確に又は不正確に演奏されたかを判定するために種々の許容差を使用してもよい。
【0172】
例示的な一実現例によると、許容差はセッション難易度の設定に依存して変動してもよい。例えば周波数に基づく許容差を参照すると、セッション難易度「ハード」は、所定の音楽イベントに対して2Hzの差分周波数又は0Hzの差分周波数しか許可しない可能性があり、その一方で、セッション難易度「イージー」は、同一の音楽イベントに対して10Hz又はそれ以上の差分周波数を許可する。更に、セッション難易度に対する周波数に基づく許容差は、等分平均律音階及び/又は他のチューニングシステムに従って変動してもよい。すなわち、例えばセッション難易度「ハード」は、中央CとA(440Hz)との間の音楽イベントに対して2Hzの差分周波数しか許可しないが、A(440Hz)より上の音楽イベントは等分平均律音階の自然対数を与えられた2Hzより大きい周波数に基づく許容差が許可されてもよい。この点に関して、音楽教育システム115は、セッション難易度、特定の音楽イベント等に依存してユーザにより演奏された音楽イベントが例えば半音高いか又は半音低いかに関して融通性があってもよい。例示的な一実現例によると、許容差はユーザ設定可能なパラメータであってもよい。別の例示的な一実現例によると、音楽教育システム115は、セッション難易度に基づいてデフォルトの許容差を設定してもよい。
【0173】
例示的な一実施形態によると、特定の音楽特性に関する許容差はセッション中静的であってもよい。上述したように、許容差は、例えば振幅、期間、周波数、振幅曲線、開始時間等の音楽イベントと関連付けられた種々の音楽特性に関連してもよい。許容差がセッション中静的である場合、特定の許容差は、楽曲内のパッセージの難易度に関係なく楽曲にわたり継続的に適用されてもよい。例えば楽曲内の単純なリズムのパッセージは、楽曲内の非常に複雑なリズムのパッセージと同一の開始時間許容差を有してもよい。
【0174】
別の例示的な実施形態によると、音楽教育システム115は、例えばテンポ、音域、パッセージの難易度、楽曲と関連付けられた切分音、テンポの変化、転調等の楽曲と関連付けられた特性に基づいて動的な許容差を使用してもよい。
【0175】
演奏評価が肯定的であると判定される場合(ブロック2525−肯定的)、肯定的フィードバックがユーザに提供されてもよい(ブロック2530)。例えば音楽イベントがユーザにより正確に演奏されたと判定される場合、音楽教育システム115は肯定的なフィードバックをユーザに提供してもよい。上述したように、音楽教育システム115は変動するレベルの肯定的フィードバックをユーザに対して示すために種々の視覚的キュー及び/又は聴覚的キューを提供してもよい。
【0176】
セッションが完了したかが判定されてもよい(ブロック2535)。音楽教育システム115は、セッションが完了したか(例えば、楽曲が終了したか)を判定してもよい。セッションが完了したと判定される場合(ブロック2535−YES)、処理2500は以下に説明する図25Bのブロック2550に進んでもよい。セッションが完了していないと判定される場合(ブロック2535−NO)、処理2500はブロック2515に進んでもよい。例示的な一実現例によると、演奏が演奏に基づく閾値を満足し、かつユーザが肯定的フィードバックを与えられた場合、音楽教育システム115は、ユーザの演奏中に楽曲の難易度を自動的に増加させてもよい。例えば演奏に基づく閾値は、時間(例えば、楽曲をある期間正確に演奏すること)、正確に演奏された音楽イベントの数又は正確に演奏された連続した音楽イベントの数等と関連してもよい。他の例示的な実現例によると、音楽教育システム115は難易度を増加させなくてもよい。
【0177】
演奏評価が否定的であると判定される場合(ブロック2525−否定的)、否定的フィードバックがユーザに提供されてもよい(ブロック2540)。例えば音が不正確に演奏されたと判定される場合、音楽教育システム115は否定的フィードバックをユーザに提供してもよい。上述したように、音楽教育システム115は、変動するレベルの否定的フィードバックをユーザに対して示すために種々の視覚的キュー及び/又は聴覚的キューを提供してもよい。
【0178】
セッションが完了したかが判定されてもよい(ブロック2545)。音楽教育システム115は、セッションが完了したか(例えば、楽曲が終了したか)を判定してもよい。セッションが完了したと判定される場合(ブロック2545−YES)、処理2500は以下に説明する図25Bのブロック2550に進んでもよい。セッションが完了していないと判定される場合(ブロック2545−NO)、処理2500はブロック2515に進んでもよい。例示的な一実現例によると、演奏が演奏に基づく閾値を満足せず、かつユーザが否定的フィードバックを与えられた場合、音楽教育システム115は、ユーザの演奏中に楽曲の難易度を自動的に低下させてもよい。例えば演奏に基づく閾値は、時間(例えば、楽曲をある期間不正確に演奏すること)、不正確に演奏された音楽イベントの数又は不正確に演奏された連続した音楽イベントの数等と関連してもよい。更に又はあるいは、例示的な一実現例によると、ユーザの演奏が演奏に基づく閾値を下回る場合、音楽教育システム115はセッションを自動的に終了してもよい。他の例示的な実現例によると、音楽教育システム115はユーザの演奏に基づいて難易度を低下させなくてもよく、かつ/又はセッションを終了しなくてもよい。
【0179】
図25Bを参照すると、スコアが生成されてもよい(ブロック2550)。例えば音楽教育システム115は、上述したように、演奏関連統計(例えば、演奏されなかった音楽イベント、正確に演奏された音楽イベント等)等の他の種類のフィードバック情報だけでなくユーザに対するスコアを生成してもよい。
【0180】
セッションは完了する(ブロック2555)。例えば音楽教育システム115は、ユーザに対してスコア結果を表示してもよい。音楽教育システム115は、例えば改善する領域(例えば、和音の演奏、テンポの維持等)及び/又はユーザの技術レベルの上達等の他の種類の情報を更に表示してもよい。
【0181】
図25A及び図25Bはユーザに対してセッションを提供する例示的な処理2500を示すが、他の実現例において、処理2500は図25A及び図25Bに示し、かつ説明する動作と比較して追加の動作、より少ない動作及び/又は異なる動作を含んでもよい。
【0182】
単数の項目は、1つ以上の項目を含むものとして解釈されることを意図する。更に、「〜に基づく」という表現は、特に指定のない限り「少なくとも部分的に〜に基づく」と解釈されることを意図する。「及び/又は」という用語は、1つ以上の関連する項目のあらゆる全ての組み合わせを含むものとして解釈されることを意図する。
【0183】
更に一連のブロックが図12A〜図12C、図15、図25A及び図25Bに示した処理に関して説明されたが、他の実現例において、ブロックの順序は変更されてもよい。また、依存しないブロックは並列に実行されてもよい。
【0184】
本明細書で説明された実施形態は、図示される実現例においてハードウェアと組み合わせて多くの種々の形態のソフトウェア又はファームウェアで実現されてもよい。デバイス、方法及び/又はシステムを実現するのに使用される実際のソフトウェアコード(ハードウェアにより実行可能である)又は専用制御ハードウェアは、本発明の開示を限定しない。従って、デバイス及び/又はシステムの動作及び挙動、あるいは方法の実行は、特定のソフトウェアコードを参照せずに説明した。すなわち、ソフトウェア及び制御ハードウェアは本明細書の説明に基づいてデバイス、方法及び/又はシステムを実現するように設計可能であると理解される。
【0185】
上述した更なる特定の特徴は、1つ以上の機能を実行する「論理」又は「構成要素」として実現されてもよい。この論理又は構成要素は、ハードウェア(例えば、処理システム205)、ハードウェア及びソフトウェアの組み合わせ、ファームウェアを含むハードウェアの組み合わせ、あるいはハードウェア、ソフトウェア及びファームウェアの組み合わせを含んでもよい。
【0186】
上記説明において、種々の実施形態は添付の図面を参照して説明された。しかし、以下の特許請求の範囲に示すような本発明のより広い範囲から逸脱せずに、種々の変形及び変更がそれらに対して行われてもよいこと並びに追加の実施形態が実現れてもよいことは明らかだろう。従って、説明及び図面は、限定するものではなく例示として考えられる。
【0187】
特に指示のない限り、本出願において使用された要素、動作又は命令が本明細書で説明した実現例に不可欠又は必須であると解釈されるべきではない。
【特許請求の範囲】
【請求項1】
楽曲のユーザ選択を受信するステップと、
音楽イベントを楽器で演奏するために前記楽曲のエキスパート演奏データと同期した演奏キューをユーザに提供するステップと、
前記ユーザにより前記楽器で演奏された音楽イベントに対応するオーディオデータを受信するステップと、
前記ユーザが演奏した音楽イベントに関する基本周波数を検出するステップと、
前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定するステップと、
前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された前記程度を示す聴覚的フィードバック、視覚的フィードバック及び/又は触覚的フィードバックをリアルタイム又はほぼリアルタイムで提供するステップと、
セッション中、前記ユーザに出力される前記エキスパート演奏データの出力レベルを制御することにより、前記エキスパート演奏データをリアルタイム又はほぼリアルタイムの聴覚的フィードバックあるいはリアルタイム又はほぼリアルタイムのオーディオ/ビデオフィードバックとして使用するステップと、
を有することを特徴とする方法。
【請求項2】
ユーザが演奏した音楽イベントが正確に又は不正確に演奏された前記程度に基づいて、前記セッション中に前記楽曲の難易度を自動的に調整するステップをさらに有することを特徴とする請求項1記載の方法。
【請求項3】
前記エキスパート演奏データを使用する場合、前記ユーザが演奏した音楽イベントはミュートされるとともに、前記エキスパート演奏データの前記出力レベルは、前記ユーザが演奏した音楽イベントが正確に演奏されている時に増加されることを特徴とする請求項1記載の方法。
【請求項4】
前記検出するステップは、
前記ユーザが演奏した音楽イベントの開始を検出するステップと、
前記開始を含まない前記オーディオデータの連続したブロックの集合に対して基本周波数検出を実行するステップと、
をさらに有することを特徴とする請求項1記載の方法。
【請求項5】
前記検出するステップは、
前記開始を検出するために第1のサイズを有するオーディオデータのブロックを形成するステップと、
前記基本周波数を検出するために前記第1のサイズより大きい第2のサイズを有するオーディオデータのブロックと形成するステップと、
を更に含むことを特徴とする請求項4記載の方法。
【請求項6】
前記検出するステップは、
前記オーディオデータに含まれた周波数と関連付けられた大きさと乗算される指標に対応する値を有する乗数に基づいて算出される前記大きさの加重和を算出するステップを更に含むことを特徴とする請求項4記載の方法。
【請求項7】
前記判定するステップは、
各々が前記楽曲と関連付けられた音楽イベントと関連する音楽特性に対応する値の範囲を含む前記音楽イベントに対する1つ以上の音楽特性許容差を割り当てるステップと、
前記音楽特性許容差に基づいて、前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏される前記程度を判定するステップと、
を含むことを特徴とする請求項1記載の方法。
【請求項8】
前記音楽特性は、周波数、振幅、開始時間、終了時間又は期間のうちの1つに関連し、割り当てられた前記値の範囲は前記セッションの難易度に基づくことを特徴とする請求項7記載の方法。
【請求項9】
前記楽曲の演奏中、前記ユーザのビデオ画像を提供するステップをさらに有することを特徴とする請求項1記載の方法。
【請求項10】
前記エキスパートによる楽曲の演奏に対応するスクロールする波形を表示するステップと、
前記楽曲の前記ユーザの演奏に対応するスクロールする波形を表示するステップと、
をさらに有することを特徴とする請求項1記載の方法。
【請求項11】
前記演奏キューを提供するステップは、
音楽イベントを演奏するための指の位置を表示するステップを有し、前記表示が人間の手の提示を含むことを特徴とする請求項1記載の方法。
【請求項12】
前記ユーザによる前記楽曲の演奏に関する誤り傾向を含むスコア情報を前記ユーザに提供するステップをさらに有することを特徴とする請求項1記載の方法。
【請求項13】
命令を格納する1つ以上のメモリと、
前記1つ以上のメモリの前記命令を実行する1つ以上のプロセッサとを有し、
前記1つ以上のプロセッサは、
楽曲のユーザ選択を受信し、
前記楽曲と関連付けられた音楽イベントを楽器で演奏するための演奏キューをユーザに提供し、
ユーザが演奏した音楽イベントを含むオーディオデータを前記楽器から受信し、
前記ユーザが演奏した音楽イベントと関連する基本周波数を検出し、
前記音楽イベントと関連付けられた1つ以上の音楽特性許容差に基づいて、前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定し、
前記判定に基づいて、前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された前記程度を示す視覚的フィードバック及び/又は聴覚的フィードバックをリアルタイム又はほぼリアルタイムでユーザに提供する、
ために、前記1つ以上のメモリ内の前記命令を実行することを特徴とする装置。
【請求項14】
前記演奏キューは、前記エキスパートによる楽曲の演奏に対応するエキスパート演奏データと同期していることを特徴とする請求項13記載のデバイス。
【請求項15】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントが正確に演奏された前記程度又は正確に演奏されなかった前記程度に基づく出力レベルで前記エキスパート演奏データを聴覚的フィードバックとして前記ユーザに対して再生し、
前記ユーザが演奏した音楽イベントが正確に演奏された前記程度又は正確に演奏されなかった前記程度に基づく表示の視覚的鮮明度で前記エキスパート演奏データを視覚的フィードバックとして前記ユーザに対して再生する、
ために命令を実行することを特徴とする請求項14記載の装置。
【請求項16】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントが正確に演奏されたと判定される場合に前記ユーザが演奏した音楽イベントのオーディオ出力に対して1つ以上の第1の信号処理オーディオ効果を導入し、
前記ユーザが演奏した音楽イベントが正確に演奏されなかったと判定される場合に前記ユーザが演奏した音楽イベントの前記出力に対して1つ以上の第2の信号処理オーディオ効果を導入する、ために命令を実行し、
前記1つ以上の第1の信号処理オーディオ効果は前記ユーザが演奏した音楽イベントの質を向上させ、前記1つ以上の第2の信号処理オーディオ効果は前記ユーザが演奏した音楽イベントの質を低下させることを特徴とする請求項13記載の装置。
【請求項17】
前記装置は、ゲームシステム、コンピュータ又はポータブル通信デバイスのうちの少なくとも1つを有することを特徴とする請求項13記載の装置。
【請求項18】
前記1つ以上のプロセッサは、
前記音楽イベントに対応する視覚的キューを含む前記演奏キューおよび前記楽器のグラフィック表現を含むスクロールするタブ譜を表示するために命令を実行することを特徴とする請求項13記載の装置。
【請求項19】
前記基本周波数を検出する際、前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントの開始を検出するために第1のサイズを有するオーディオデータの第1のブロックを形成し、
基本周波数を検出するために前記第1のサイズより大きい第2のサイズを有し、かつ前記開始を含まない連続した第1のブロックの集合を含むオーディオデータの第2のブロックを形成するために命令を実行することを特徴とする請求項13記載の装置。
【請求項20】
各音楽特性許容差は、周波数、振幅、開始時間、終了時間、リズム又は期間のうちの少なくとも1つを含む音楽イベントと関連付けられた音楽特性に対応し、かつ前記音楽イベントのエキスパートの演奏に対応する値を含む値の範囲を含み、
前記ユーザが演奏した音楽イベントが正確に演奏されたか又は不正確に演奏されたかを判定する際、前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントと関連付けられた前記音楽特性を評価し、
前記ユーザが演奏した音楽イベントと関連付けられた前記音楽特性に対応する値を前記値の範囲と比較し、
前記比較に基づいて前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定する、ために命令を実行することを特徴とする請求項13記載の装置。
【請求項21】
前記1つ以上のプロセッサは、
前記楽器で演奏された音を、前記装置と関連付けられたユーザインタフェースを前記ユーザがナビゲートし、かつ該ユーザインタフェースと対話することを可能にする入力コマンドとして音マッピングするために命令を実行することを特徴とする請求項13記載の装置。
【請求項22】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントが正確に演奏されたか又は不正確に演奏されたかに対応するスコアをし、前記楽曲に割り当てられた難易度に基づいて算出し、
前記ユーザに対して前記スコアを表示する、ために命令を実行することを特徴とする請求項13記載の装置。
【請求項23】
前記1つ以上のプロセッサは、
セッション中に聴覚的フィードバック及び視覚的フィードバックを前記ユーザに提供する仮想助言者、指導者又はコーチ、あるいは前記セッション中の前記ユーザのビデオ画像、のうちの1つ以上をディスプレイに出力するために命令を実行することを特徴とする請求項13記載の装置。
【請求項24】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントに含まれる周波数と関連付けられた大きさの加重和を、前記大きさが乗算される指標に対応する値を有する乗数に基づいて算出するために命令を実行することを特徴とする請求項13記載の装置。
【請求項25】
少なくとも1つのプロセッサにより実行可能な命令が格納されたコンピュータ可読媒体であって、
楽曲のユーザ選択を受信するための命令と、
前記楽曲と関連付けられた音楽イベントを楽器で演奏するための演奏キューをユーザに提供するための命令と、
前記ユーザが演奏した音楽イベントを含むオーディオデータを前記楽器から受信するための命令と、
前記オーディオデータ又は前記楽器のうちの少なくとも一方に基づいて、前記ユーザが演奏した音楽イベントと関連付けられた基本周波数を検出するかを判定するための命令と、
前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定するための命令と、
前記判定に基づいて、前記ユーザが演奏した音楽イベントが正確に演奏された前記程度を示すフィードバックを前記ユーザに提供するための命令と、を格納することを特徴とするコンピュータ可読媒体。
【請求項26】
前記ユーザが演奏した音楽イベントと関連付けられた基本周波数を検出するための命令と、
前記ユーザが演奏した音楽イベントと共に含まれる周波数と関連付けられた大きさの加重和を算出するための命令と、
前記ユーザが演奏した音楽イベントの開始を検出するための命令と、
前記開始を含まない前記オーディオデータの連続したブロックの集合に対して基本周波数検出を実行するための命令と
前記連続したブロックの集合に含まれた周波数と関連付けられたピーク推定値を算出するための命令と、のうち1つ以上をさらに格納することを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項27】
前記大きさと乗算される指標に対応する値を有する乗数に基づいて前記加重和を算出するための1つ以上の命令をさらに格納することを特徴とする請求項26記載のコンピュータ可読媒体。
【請求項28】
前記楽曲のジャンルに従って前記ユーザと関連付けられた演奏統計を格納するための1つ以上の命令をさらに格納することを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項29】
前記楽曲を演奏するために種々の難易度を提供するための命令と、
前記難易度のうちの1つのユーザ選択を受信するための命令と、
前記ユーザが演奏した音楽イベントが正確に演奏された前記程度が第1の閾値を超える場合、セッション中に前記楽曲の難易度を自動的に増加させるための命令と、
前記ユーザが演奏した音楽イベントが不正確に演奏された前記程度が第2の閾値を下回る場合、前記セッション中に前記楽曲の難易度を自動的に低下させるための命令と、
前記ユーザが演奏した音楽イベントが不正確に演奏された前記程度が停止閾値を下回る場合、前記セッションを自動的に終了するための命令と、のうち1つ以上をさらに格納することを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項30】
複数のセッションにわたる前記ユーザの上達に関連するデータを含むデータベースを格納するための1つ以上の命令を更に備えることを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項1】
楽曲のユーザ選択を受信するステップと、
音楽イベントを楽器で演奏するために前記楽曲のエキスパート演奏データと同期した演奏キューをユーザに提供するステップと、
前記ユーザにより前記楽器で演奏された音楽イベントに対応するオーディオデータを受信するステップと、
前記ユーザが演奏した音楽イベントに関する基本周波数を検出するステップと、
前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定するステップと、
前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された前記程度を示す聴覚的フィードバック、視覚的フィードバック及び/又は触覚的フィードバックをリアルタイム又はほぼリアルタイムで提供するステップと、
セッション中、前記ユーザに出力される前記エキスパート演奏データの出力レベルを制御することにより、前記エキスパート演奏データをリアルタイム又はほぼリアルタイムの聴覚的フィードバックあるいはリアルタイム又はほぼリアルタイムのオーディオ/ビデオフィードバックとして使用するステップと、
を有することを特徴とする方法。
【請求項2】
ユーザが演奏した音楽イベントが正確に又は不正確に演奏された前記程度に基づいて、前記セッション中に前記楽曲の難易度を自動的に調整するステップをさらに有することを特徴とする請求項1記載の方法。
【請求項3】
前記エキスパート演奏データを使用する場合、前記ユーザが演奏した音楽イベントはミュートされるとともに、前記エキスパート演奏データの前記出力レベルは、前記ユーザが演奏した音楽イベントが正確に演奏されている時に増加されることを特徴とする請求項1記載の方法。
【請求項4】
前記検出するステップは、
前記ユーザが演奏した音楽イベントの開始を検出するステップと、
前記開始を含まない前記オーディオデータの連続したブロックの集合に対して基本周波数検出を実行するステップと、
をさらに有することを特徴とする請求項1記載の方法。
【請求項5】
前記検出するステップは、
前記開始を検出するために第1のサイズを有するオーディオデータのブロックを形成するステップと、
前記基本周波数を検出するために前記第1のサイズより大きい第2のサイズを有するオーディオデータのブロックと形成するステップと、
を更に含むことを特徴とする請求項4記載の方法。
【請求項6】
前記検出するステップは、
前記オーディオデータに含まれた周波数と関連付けられた大きさと乗算される指標に対応する値を有する乗数に基づいて算出される前記大きさの加重和を算出するステップを更に含むことを特徴とする請求項4記載の方法。
【請求項7】
前記判定するステップは、
各々が前記楽曲と関連付けられた音楽イベントと関連する音楽特性に対応する値の範囲を含む前記音楽イベントに対する1つ以上の音楽特性許容差を割り当てるステップと、
前記音楽特性許容差に基づいて、前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏される前記程度を判定するステップと、
を含むことを特徴とする請求項1記載の方法。
【請求項8】
前記音楽特性は、周波数、振幅、開始時間、終了時間又は期間のうちの1つに関連し、割り当てられた前記値の範囲は前記セッションの難易度に基づくことを特徴とする請求項7記載の方法。
【請求項9】
前記楽曲の演奏中、前記ユーザのビデオ画像を提供するステップをさらに有することを特徴とする請求項1記載の方法。
【請求項10】
前記エキスパートによる楽曲の演奏に対応するスクロールする波形を表示するステップと、
前記楽曲の前記ユーザの演奏に対応するスクロールする波形を表示するステップと、
をさらに有することを特徴とする請求項1記載の方法。
【請求項11】
前記演奏キューを提供するステップは、
音楽イベントを演奏するための指の位置を表示するステップを有し、前記表示が人間の手の提示を含むことを特徴とする請求項1記載の方法。
【請求項12】
前記ユーザによる前記楽曲の演奏に関する誤り傾向を含むスコア情報を前記ユーザに提供するステップをさらに有することを特徴とする請求項1記載の方法。
【請求項13】
命令を格納する1つ以上のメモリと、
前記1つ以上のメモリの前記命令を実行する1つ以上のプロセッサとを有し、
前記1つ以上のプロセッサは、
楽曲のユーザ選択を受信し、
前記楽曲と関連付けられた音楽イベントを楽器で演奏するための演奏キューをユーザに提供し、
ユーザが演奏した音楽イベントを含むオーディオデータを前記楽器から受信し、
前記ユーザが演奏した音楽イベントと関連する基本周波数を検出し、
前記音楽イベントと関連付けられた1つ以上の音楽特性許容差に基づいて、前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定し、
前記判定に基づいて、前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された前記程度を示す視覚的フィードバック及び/又は聴覚的フィードバックをリアルタイム又はほぼリアルタイムでユーザに提供する、
ために、前記1つ以上のメモリ内の前記命令を実行することを特徴とする装置。
【請求項14】
前記演奏キューは、前記エキスパートによる楽曲の演奏に対応するエキスパート演奏データと同期していることを特徴とする請求項13記載のデバイス。
【請求項15】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントが正確に演奏された前記程度又は正確に演奏されなかった前記程度に基づく出力レベルで前記エキスパート演奏データを聴覚的フィードバックとして前記ユーザに対して再生し、
前記ユーザが演奏した音楽イベントが正確に演奏された前記程度又は正確に演奏されなかった前記程度に基づく表示の視覚的鮮明度で前記エキスパート演奏データを視覚的フィードバックとして前記ユーザに対して再生する、
ために命令を実行することを特徴とする請求項14記載の装置。
【請求項16】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントが正確に演奏されたと判定される場合に前記ユーザが演奏した音楽イベントのオーディオ出力に対して1つ以上の第1の信号処理オーディオ効果を導入し、
前記ユーザが演奏した音楽イベントが正確に演奏されなかったと判定される場合に前記ユーザが演奏した音楽イベントの前記出力に対して1つ以上の第2の信号処理オーディオ効果を導入する、ために命令を実行し、
前記1つ以上の第1の信号処理オーディオ効果は前記ユーザが演奏した音楽イベントの質を向上させ、前記1つ以上の第2の信号処理オーディオ効果は前記ユーザが演奏した音楽イベントの質を低下させることを特徴とする請求項13記載の装置。
【請求項17】
前記装置は、ゲームシステム、コンピュータ又はポータブル通信デバイスのうちの少なくとも1つを有することを特徴とする請求項13記載の装置。
【請求項18】
前記1つ以上のプロセッサは、
前記音楽イベントに対応する視覚的キューを含む前記演奏キューおよび前記楽器のグラフィック表現を含むスクロールするタブ譜を表示するために命令を実行することを特徴とする請求項13記載の装置。
【請求項19】
前記基本周波数を検出する際、前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントの開始を検出するために第1のサイズを有するオーディオデータの第1のブロックを形成し、
基本周波数を検出するために前記第1のサイズより大きい第2のサイズを有し、かつ前記開始を含まない連続した第1のブロックの集合を含むオーディオデータの第2のブロックを形成するために命令を実行することを特徴とする請求項13記載の装置。
【請求項20】
各音楽特性許容差は、周波数、振幅、開始時間、終了時間、リズム又は期間のうちの少なくとも1つを含む音楽イベントと関連付けられた音楽特性に対応し、かつ前記音楽イベントのエキスパートの演奏に対応する値を含む値の範囲を含み、
前記ユーザが演奏した音楽イベントが正確に演奏されたか又は不正確に演奏されたかを判定する際、前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントと関連付けられた前記音楽特性を評価し、
前記ユーザが演奏した音楽イベントと関連付けられた前記音楽特性に対応する値を前記値の範囲と比較し、
前記比較に基づいて前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定する、ために命令を実行することを特徴とする請求項13記載の装置。
【請求項21】
前記1つ以上のプロセッサは、
前記楽器で演奏された音を、前記装置と関連付けられたユーザインタフェースを前記ユーザがナビゲートし、かつ該ユーザインタフェースと対話することを可能にする入力コマンドとして音マッピングするために命令を実行することを特徴とする請求項13記載の装置。
【請求項22】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントが正確に演奏されたか又は不正確に演奏されたかに対応するスコアをし、前記楽曲に割り当てられた難易度に基づいて算出し、
前記ユーザに対して前記スコアを表示する、ために命令を実行することを特徴とする請求項13記載の装置。
【請求項23】
前記1つ以上のプロセッサは、
セッション中に聴覚的フィードバック及び視覚的フィードバックを前記ユーザに提供する仮想助言者、指導者又はコーチ、あるいは前記セッション中の前記ユーザのビデオ画像、のうちの1つ以上をディスプレイに出力するために命令を実行することを特徴とする請求項13記載の装置。
【請求項24】
前記1つ以上のプロセッサは、
前記ユーザが演奏した音楽イベントに含まれる周波数と関連付けられた大きさの加重和を、前記大きさが乗算される指標に対応する値を有する乗数に基づいて算出するために命令を実行することを特徴とする請求項13記載の装置。
【請求項25】
少なくとも1つのプロセッサにより実行可能な命令が格納されたコンピュータ可読媒体であって、
楽曲のユーザ選択を受信するための命令と、
前記楽曲と関連付けられた音楽イベントを楽器で演奏するための演奏キューをユーザに提供するための命令と、
前記ユーザが演奏した音楽イベントを含むオーディオデータを前記楽器から受信するための命令と、
前記オーディオデータ又は前記楽器のうちの少なくとも一方に基づいて、前記ユーザが演奏した音楽イベントと関連付けられた基本周波数を検出するかを判定するための命令と、
前記ユーザが演奏した音楽イベントが正確に又は不正確に演奏された程度を判定するための命令と、
前記判定に基づいて、前記ユーザが演奏した音楽イベントが正確に演奏された前記程度を示すフィードバックを前記ユーザに提供するための命令と、を格納することを特徴とするコンピュータ可読媒体。
【請求項26】
前記ユーザが演奏した音楽イベントと関連付けられた基本周波数を検出するための命令と、
前記ユーザが演奏した音楽イベントと共に含まれる周波数と関連付けられた大きさの加重和を算出するための命令と、
前記ユーザが演奏した音楽イベントの開始を検出するための命令と、
前記開始を含まない前記オーディオデータの連続したブロックの集合に対して基本周波数検出を実行するための命令と
前記連続したブロックの集合に含まれた周波数と関連付けられたピーク推定値を算出するための命令と、のうち1つ以上をさらに格納することを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項27】
前記大きさと乗算される指標に対応する値を有する乗数に基づいて前記加重和を算出するための1つ以上の命令をさらに格納することを特徴とする請求項26記載のコンピュータ可読媒体。
【請求項28】
前記楽曲のジャンルに従って前記ユーザと関連付けられた演奏統計を格納するための1つ以上の命令をさらに格納することを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項29】
前記楽曲を演奏するために種々の難易度を提供するための命令と、
前記難易度のうちの1つのユーザ選択を受信するための命令と、
前記ユーザが演奏した音楽イベントが正確に演奏された前記程度が第1の閾値を超える場合、セッション中に前記楽曲の難易度を自動的に増加させるための命令と、
前記ユーザが演奏した音楽イベントが不正確に演奏された前記程度が第2の閾値を下回る場合、前記セッション中に前記楽曲の難易度を自動的に低下させるための命令と、
前記ユーザが演奏した音楽イベントが不正確に演奏された前記程度が停止閾値を下回る場合、前記セッションを自動的に終了するための命令と、のうち1つ以上をさらに格納することを特徴とする請求項25記載のコンピュータ可読媒体。
【請求項30】
複数のセッションにわたる前記ユーザの上達に関連するデータを含むデータベースを格納するための1つ以上の命令を更に備えることを特徴とする請求項25記載のコンピュータ可読媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7A】
【図7B】
【図8】
【図9】
【図10】
【図11】
【図12A】
【図12B】
【図12C】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25A】
【図25B】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7A】
【図7B】
【図8】
【図9】
【図10】
【図11】
【図12A】
【図12B】
【図12C】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25A】
【図25B】
【公表番号】特表2012−532340(P2012−532340A)
【公表日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願番号】特願2012−517839(P2012−517839)
【出願日】平成22年6月29日(2010.6.29)
【国際出願番号】PCT/US2010/040285
【国際公開番号】WO2011/002731
【国際公開日】平成23年1月6日(2011.1.6)
【出願人】(511314865)ザ ウェイ オブ エイチ, インコーポレイテッド (1)
【氏名又は名称原語表記】THE WAY OF H, INC.
【住所又は居所原語表記】15155 Camarillo Street, Sherman Oaks, California 91403, U.S.A.
【Fターム(参考)】
【公表日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願日】平成22年6月29日(2010.6.29)
【国際出願番号】PCT/US2010/040285
【国際公開番号】WO2011/002731
【国際公開日】平成23年1月6日(2011.1.6)
【出願人】(511314865)ザ ウェイ オブ エイチ, インコーポレイテッド (1)
【氏名又は名称原語表記】THE WAY OF H, INC.
【住所又は居所原語表記】15155 Camarillo Street, Sherman Oaks, California 91403, U.S.A.
【Fターム(参考)】
[ Back to top ]