楽譜表示装置、楽譜表示方法、コンピュータプログラム及び記録媒体
【課題】同時に演奏する楽器及び人数によらず、特別な動作を行なわなくても所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供する。
【解決手段】楽譜表示装置は、楽譜の一連のページ画像を楽譜名とページ画像の順番とともに記憶する記憶機能と、被写体を撮像した一連の画像データをリアルタイムで出力する画像取込機能(S422)と、あるフレーズを演奏した時の演奏者の動きの特徴を楽譜名に対応するページ画像と関連付けフレーズデータとして記憶するフレーズデータ記憶機能と、表示装置に楽譜のページ画像が表示されている時に、画像取込機能の出力から抽出される演奏者の動きの特徴が表示されているページ画像と関連付けられたフレーズデータと一致するときは、表示されているページ画像の次の順番のページ画像を表示するページ変更機能(S426、S430)とを含む。
【解決手段】楽譜表示装置は、楽譜の一連のページ画像を楽譜名とページ画像の順番とともに記憶する記憶機能と、被写体を撮像した一連の画像データをリアルタイムで出力する画像取込機能(S422)と、あるフレーズを演奏した時の演奏者の動きの特徴を楽譜名に対応するページ画像と関連付けフレーズデータとして記憶するフレーズデータ記憶機能と、表示装置に楽譜のページ画像が表示されている時に、画像取込機能の出力から抽出される演奏者の動きの特徴が表示されているページ画像と関連付けられたフレーズデータと一致するときは、表示されているページ画像の次の順番のページ画像を表示するページ変更機能(S426、S430)とを含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、楽器演奏の際に用いられる譜面を表示する楽譜表示装置に関し、自動的に表示するページを切替える譜めくり機能を備えた楽譜表示装置に関する。
【背景技術】
【0002】
複数ページにわたる譜面を見ながら演奏を行なう場合は、演奏の進行に合わせて譜面をめくる必要がある。鍵盤楽器の演奏会などにおいては、演奏者とは別に譜めくり担当者を置くこともある。しかし、通常は演奏者自身の手で演奏に支障のないタイミングにページをめくっている。譜めくりのタイミングが休符である場合はよいが、そうでない場合は演奏中に素早く行なう必要があり、演奏者にとって非常に煩わしいものである。
【0003】
その問題を解決するために、ペダルスイッチを踏むことによって譜面を次のページに切替える装置、及び電子化された楽譜であれば、キー操作によって楽譜の表示を変更する楽譜表示装置がある。しかし、ページ切替えのために演奏に関係のない装置の操作を行なうことは、逆に演奏者にとって負担を大きくするものであった。こうした問題を解決するために以下のような技術が開示されている。
【0004】
特許文献1には、テレビカメラを備えた楽譜表示装置において、テレビカメラから演奏者の画像を取込み、取込んだ画像から所定のボディサインが検出された時には、表示する譜面のページを変更する技術が開示されている。
【0005】
特許文献2には、楽譜表示装置において、楽譜を撮影して生成された楽譜画像データを複数ページ分記憶しておき、演奏操作によって生成される音高データが、予め登録する特徴フレーズと一致した場合には、自動的に次のページを表示する技術が開示されている。特許文献2において、登録する特徴フレーズは楽曲中の一部分である。演奏から検出された音高群と登録された特徴フレーズの音高群との一致数をカウントし、両者が一致した時には曲の進行が登録した特徴フレーズに到達したとして、自動的に楽譜の次のページを表示する。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−37751号
【特許文献2】特開2005−208156号
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記した技術には、なおも以下のような課題がある。
【0008】
特許文献1の技術では、表示する譜面のページを変更する場合には、演奏とは関係のないボディサインを行なわなければならないという問題がある。演奏時の動作は演奏者によって様々である。そのため、簡単なボディサインであっても、そのボディサインを習得し、所望するページめくりのタイミングでそのサインを演奏中に出すことは、演奏者にとって負担が大きいという問題がある。さらに、次のページに進む場合と、前のページに戻る場合とで、ボディサインを変えなければならない。そのためこの技術は実用的でない。
【0009】
特許文献2の技術は、電子鍵盤楽器など演奏操作から直接音高データが得られる場合には有効である。しかし、その他の楽器の演奏などにおいては、音高データを正確に検出することが難しいという問題がある。例えば、複数の演奏者が同時に演奏を行なう場合などにおいては、装置を使用する演奏者以外の音が同時に検出されてしまう。そのため、装置使用者の音高のみを検出することは極めて困難である。
【0010】
このように楽譜表示装置に関して、多種多様な楽器において使用可能で、演奏者に負担にならない方法で譜めくり動作が可能な楽譜表示装置が求められている。
【0011】
そのため、本発明の目的は、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することである。
【課題を解決するための手段】
【0012】
本発明の第1の局面に係る楽譜表示装置は、表示装置と、楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を楽譜名と当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示するための楽譜表示手段と、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力するためのフレーズ判定手段と、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するためのページ変更手段とを含む。
【0013】
記憶手段は、楽譜の一連のページ画像を、楽譜名と当該楽譜の一連のページ画像の順番とともに記憶する。画像取込手段は、被写体を撮像した一連の画像データをリアルタイムで出力する。フレーズデータ記憶手段は、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を楽譜名と当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶する。楽譜表示手段は、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示する。フレーズ判定手段は、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力する。ページ変更手段は、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示する。
【0014】
この楽譜表示装置では、表示する楽譜のページを変更したい部分のフレーズ(特定フレーズ)を演奏者が演奏して、その時の画像データを取込む。楽譜表示装置は、取込んだ画像データから演奏者の動きの特徴を抽出し、特定フレーズを含む楽譜の楽譜名と楽譜名に対応するページ画像とに関連付けてフレーズデータとして記憶する。楽譜表示装置を用いて演奏を行なう場合は、表示装置に楽譜のページ画像を表示する。楽譜表示装置は、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示するページ画像に関連付けて記憶されたフレーズデータと一致するとき、すなわち演奏者が、ページを変更したい部分のフレーズを演奏した時の動きと同じ動きをしたと判定されたときに、ページ画像の次の順番のページ画像を表示装置に表示する。
【0015】
この楽譜表示装置において、楽譜のページ変更時に、演奏者は特定フレーズを登録した時と同じように演奏すればよく特別な動作を行なう必要はない。また、ページ変更の判定には、演奏者の動きの特徴データが用いられることから、同時に演奏する楽器による音声の影響を受けることはない。その結果、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することができる。
【0016】
好ましくは、楽譜表示装置は、第1及び第2の動作モードのいずれかを指定するための動作モード指定手段をさらに含む。フレーズデータ記憶手段は、動作モード指定手段により第1の動作モードが指定されているときに、画像取込手段の出力から抽出される演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けてフレーズデータとして記憶するための手段を含む。フレーズ判定手段は、動作モード指定手段により第2の動作モードが指定されており、かつ、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定して判定信号を出力するための判定手段を含む。
【0017】
動作モード指定手段は、第1及び第2の動作モードのいずれかを指定する。記憶するための手段は、動作モード指定手段により第1の動作モードが指定されているときに、画像取込手段の出力から抽出される演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けてフレーズデータとして記憶する。判定手段は、動作モード指定手段により第2の動作モードが指定されており、かつ、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定して判定信号を出力する。
【0018】
この楽譜表示装置は、画像取込手段の出力から抽出される演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けてフレーズデータとして記憶するときの動作モードと、画像取込手段の出力から抽出される演奏者の動きの特徴が表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定するときの動作モードとを含む。このように楽譜表示装置が2つの動作モードを有することで、画像取込手段の出力を用いるフレーズデータの記憶及びフレーズの判定の動作の切替えを確実に行なうことができる。
【0019】
好ましくは、楽譜表示装置は、音声を検出するための音声検出手段をさらに含む。画像取込手段は、音声検出手段が音声を検出していることに応答して、被写体の撮像を開始し、当該被写体の一連の画像データをリアルタイムで出力するための手段を含む。
【0020】
この楽譜表示装置では、演奏者がページ変更を希望する部分を実際に演奏し、音声検出手段が音声を検出することに応答して。被写体の撮像を開始し当該被写体の一連の画像データをリアルタイムで出力する。演奏音の音声の検出に応答して、画像データを出力することで、演奏するフレーズの開始及び終了を正確に検知でき、フレーズを演奏時の演奏者の動きの特徴をより正確に得ることができる。その結果、フレーズデータに演奏時以外の余計な動きの特徴が入ることが少なくなり、演奏者の動きの特徴とフレーズデータとが一致するかを判定するときの精度を高めることができる。
【0021】
好ましくは、楽譜表示装置は、計時開始時から所定の時間が経過すると時間満了信号を出力するための計時手段をさらに含む。ページ変更手段は、判定信号が第1の値となったことに応答して、計時手段に計時を開始させるための手段と、計時手段からの時間満了信号に応答して、次の順番のページ画像を表示装置に表示するための手段とを含む。
【0022】
この楽譜表示装置は、演奏者の動きの特徴がフレーズデータと一致すると判定されたときから計時を開始し、所定の時間が経過したときに出力される信号に応答して次の順番のページ画像を表示装置に表示する。これにより、例えば表示する楽譜においてページ変更のためのフレーズが適当な場所にない場合、変更したい場所より少し前の部分をフレーズデータとして記憶し、一致すると判定されてから所定の時間を経過した後に楽譜のページを変更することができる。その結果、演奏の流れに合った表示ページの変更を実現することができる。
【0023】
好ましくは、フレーズデータ記憶手段は、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と、もしあれば当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報と関連付けてフレーズデータとして記憶するための手段を含む。フレーズ判定手段は、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するか否かを判定して判定信号を出力するための判定手段と、判定手段により演奏者の動きの特徴と一致すると判定されたフレーズデータを特定する情報を出力するための手段とを含む。ページ変更手段は、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報により特定されるページ画像を表示装置に表示するための手段を含む。
【0024】
記憶するための手段は、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と、もしあれば当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報と関連付けてフレーズデータとして記憶する。判定手段は、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するか否かを判定して判定信号を出力する。出力するための手段は、判定手段により演奏者の動きの特徴と一致すると判定されたフレーズデータを特定する情報を出力する。表示するための手段は、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報により特定されるページ画像を表示装置に表示する。
【0025】
この楽譜表示装置は、当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報がある時は、フレーズデータに関連付けて記憶することができる。また、楽譜表示装置は、表示装置に表示される楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するかを判定することができ、一致すると判定されたフレーズデータを特定する情報を出力することができる。出力された特定する情報により特定されたフレーズデータに次ページを特定する情報関連付けて記憶されている場合はそのページを表示する。
【0026】
このように、ページ画像と関連付けて登録したフレーズデータのいずれかと一致するかを判定することによって、ページに対して記憶される異なるフレーズを演奏したときの演奏者の動きの特徴から、表示装置に表示するページを変更することができる。また、次に表示すべきページ画像の情報を関連付けてフレーズデータを記憶することで、フレーズデータを演奏後に表示するページを変更することができる。その結果、楽譜に記載される繰返し記号などにより、次に表示されるページ画像が変わる楽譜にも対応することができる。
【0027】
好ましくは、ページ変更手段はさらに、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報がないときに、表示装置に表示されているページ画像について、ページ画像の順番により特定されるページ画像を表示装置に表示するための手段を含む。
【0028】
フレーズデータに次ページ画像特定情報がないときには、楽譜の一連のページ画像の順番にしたがって、表示するページ画像を変更する。その結果、次のページ画像特定情報を登録しない場合でもページ変更を行なうことができる。
【0029】
好ましくは、楽譜表示装置は、楽譜の各ページ画像に関連付けられて記憶されるフレーズデータの各々について、当該フレーズデータに対応するページ画像の表示中に、出力するための手段により当該フレーズデータを特定する情報が出力された回数をカウントするためのカウント手段をさらに含む。記憶するための手段はさらに、表示装置に表示されているページ画像と関連付けられているフレーズデータの各々について、カウント手段によりカウントされた回数と、次に表示すべきページ画像を特定する情報との組をさらに記憶する。表示するための手段は、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータの、カウント手段によりカウントされた回数と組合されている情報により特定されるページ画像を表示装置に表示するための手段を含む。
【0030】
楽譜には、数種類の繰返し記号がある。譜面によっては、フレーズの演奏回数によって、そのフレーズに続いて演奏する場所及び表示する楽譜のページが異なる場合もある。カウント手段によって当該フレーズデータを特定する情報が出力された回数をカウントし、ページ画像に関連付けられているフレーズデータの各々について、カウントされた回数と次に表示すべきページ画像を特定する情報とを設定することで、繰返し記号を含んだ複雑な構成の楽譜にも対応することができる。
【0031】
本発明の第2の局面に係る楽譜表示方法は、表示装置と、楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の表示順とともに記憶するための記憶手段と、被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示するための楽譜表示手段と、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示している楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力するためのフレーズ判定手段と、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するためのページ変更手段とを含む、楽譜表示装置における楽譜表示方法であって、楽譜表示手段が、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読出されたページ画像のうち、所定のページ画像を表示装置に表示するステップと、フレーズ判定手段が、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力するステップと、ページ変更手段が、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するステップとを含む。
【0032】
本発明の第3の局面に係るコンピュータプログラムは、表示装置と、被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段とが接続されるコンピュータにより実行されると、当該コンピュータを、楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示するための楽譜表示手段と、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するためのページ変更手段として機能させる。
【0033】
本発明の第4の局面に係る記録媒体は、上に述べたコンピュータプログラムを記録した、コンピュータで読取可能な記録媒体である。
【発明の効果】
【0034】
この楽譜表示装置では、演奏者がページ変更を希望する部分のフレーズを実際に演奏したときの動きの特徴を対応するページ画像と関連付けて予め記憶しておき、演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられた動きの特徴と一致すると判定されたときにページ変更を行なう。演奏者は楽譜のページ変更時において、特定フレーズを登録した時と同じように演奏すればよく特別な動作を行なう必要はない。また、ページ変更の判定には、演奏者の動きの特徴データが用いられることから、同時に演奏する楽器による音声の影響を受けることはない。その結果、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することができる。
【図面の簡単な説明】
【0035】
【図1】本発明の第1の実施の形態に係る楽譜表示装置30の構成を表すブロック図である。
【図2】楽譜表示装置30の外観図である。
【図3】第1の実施の形態に係る楽譜表示装置30のCPU32が実行する、フレーズ登録モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図4】フレーズデータの構成例を表す図である。
【図5】楽譜表示装置30のCPU32が実行する、演奏モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図6】図5に示すプログラムにおいてフレーズデータ照合処理の動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図7】第2の実施の形態における楽譜表示装置に記憶される、楽譜データにおけるフレーズデータの設定例である。
【図8】フレーズデータの演奏回数と演奏後に表示するページとを設定する変更先テーブル250である。
【図9】フレーズデータの演奏回数と表示するページと状態遷移を表す図である。
【図10】第2の実施の形態に係る楽譜表示装置のCPU32が実行する、フレーズ登録モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図11】第2の実施の形態における楽譜表示装置のCPU32が実行する、演奏モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【発明を実施するための形態】
【0036】
以下、本発明の具体的な実施の形態について説明する。以下の説明及び図面においては、同一部品には同じ参照符号および名称を付してある。それらの機能も同様である。したがって、それらについての詳細な説明は繰返さない。
【0037】
[第1の実施の形態]
―構成―
図1を参照して、楽譜表示装置30は、所定のプログラムを実行し楽譜表示装置30の全体の動作を制御するためのCPU(Central Processing Unit)32と、CPU32に接続されたバス50と、いずれもバス50に接続された、CPU32で実行するプログラムを記憶するためのROM(Read−Only Memory)34、プログラムを実行するときの一時記憶部として動作するRAM(Random Access Memory)36、利用者からの操作を受付けるための操作部38、楽譜データ及び楽譜表示装置を制御するための操作画面を表示するための表示部40、演奏者が演奏する音を検出するためのマイクロフォン42、各種画像を撮影し画像データとして取込むためのカメラ44、各種情報を記憶するための記憶部48、及び外部記憶媒体から楽譜データなどを取込むための外部メモリインターフェイス46を含む。
【0038】
ROM34は、電気的に書換え可能な不揮発性のメモリで、EEPROM(Electrically Erasable and Programmable Read Only Memory)及びフラッシュメモリなどが用いられる。記憶部48は、磁気ディスク、EEPROM、及びフラッシュメモリなどの、電気的に書換え可能な不揮発性のメモリで構成される。
【0039】
本実施の形態では、表示部40は、LCD(Liquid Crystal Display)を含む。
【0040】
記憶部48は、楽譜データを記憶するための楽譜データ記憶部52と、楽譜データ記憶部52に記憶される楽譜データに関連して記憶される、演奏者が特定のフレーズを演奏している時の演奏者の一連の画像からなるフレーズデータを記憶するためのフレーズデータ記憶部54とを含む。
【0041】
楽譜データ記憶部52に記憶される楽譜データは、1又は複数のページで構成される楽譜のページ毎の画像データである。楽譜データは、外部メモリインターフェイス46で外部記憶媒体を介して取込む方法の他に、カメラ44を用いて画像を読取り、取込むことも可能である。また、楽譜データ記憶部52には複数の楽譜データを記憶することができ、表示する楽譜データは演奏者の操作によって選択される。
【0042】
フレーズデータ記憶部54に記憶されるフレーズデータは、各楽譜データのページに関連して記憶され、カメラ44を用いて撮影された、それぞれのページをめくる前の演奏者の一連の動きを記憶したデータである。フレーズデータの構成及び設定に関しては後述する。
【0043】
図2を参照して、操作部38は、画面に表示される項目を選択するための選択ボタン66と、決定ボタン64と、各種動作を開始するための開始ボタン62と、動作を停止するための終了ボタン60とを含む。
【0044】
図2を参照して、カメラ44及びマイクロフォン42はそれぞれ演奏者の撮影及び演奏音を検出するため、表示部40の下部の中央付近に設置される。また、画像表示装置30自体は、薄型のボディによって構成され、紙の楽譜の代わりに汎用の譜面台上において使用することが可能である。
【0045】
表示部40には、後述するプログラムが実行されることによって選択される楽譜データがページ単位で表示される。
【0046】
本実施の形態における楽譜表示装置30は、演奏モードとフレーズ登録モードとの2つの動作モードを持つ。演奏モードは、演奏者が選択した楽譜データを表示部40に表示して、表示されているページを演奏の進行に合わせて自動で切替えるモードである。フレーズデータを登録モードは、選択した楽譜データの表示されているページを切替えるためのフレーズを登録するためのモードである。演奏者が自動のページ切替えを利用するためには、フレーズ登録モードで事前にページ切替えのフレーズデータを登録する必要がある。
【0047】
本実施の形態における楽譜表示装置30において、ページを切替えるためのフレーズデータは、表示するページに対してそれぞれ1つ登録することができる。
【0048】
図3を参照して、楽譜表示装置30において、フレーズ登録モードが選択された時に実行されるプログラムの制御構造を説明する。このプログラムは、記憶部48に記憶されている楽譜データ名を表示部40にリスト表示するステップ(以下単に「S」と記載する。)202と、S202に続いて実行され、表示する楽譜データの選択操作を利用者から受けるS204と、S204に続いて実行され、選択された楽譜データの情報を楽譜データ記憶部52から読出すS206と、S206に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS208とを含む。
【0049】
S206では、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S208では、画像データを表示するとともに、表示する画像データのページ情報を同時に記憶する。S206に続いてS208が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0050】
このプログラムはさらに、S208に続いて実行され、利用者により表示ページの変更操作があったか否かを判定し、判定結果に応じて制御の流れを分岐させるS210と、S210で変更操作があった(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS208に進めるS212と、S210で変更操作がなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS214とを含む。S214で開始ボタン62が押されていない(NO)と判定された場合は、制御はS210に戻る。
【0051】
S210では、選択ボタン66が押されると表示ページの変更操作があったと判定される。S212では選択されたページのページ情報を記憶し、S208では選択されたページが表示部40に表示される。
【0052】
このプログラムはさらに、S214で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS216と、S216に続いて実行され、カメラ44が撮影する画像データを一時記憶する画像バッファの内容を消去するS218と、S218に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS220と、S220で演奏する音を検出した(YES)と判定された場合に実行され、カメラ44が撮影する画像データを画像バッファにバッファリングするS222と、S222に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS224と、S224で演奏する音を検出していない(NO)と判定された場合に実行され、カメラ44が撮影する画像データのバッファリングを終了するS226とを含む。S220において、演奏する音が検出されていない(NO)と判定された場合、制御はS220に戻り、演奏音が検出されるのを待つ。S224で演奏音が検出されている(YES)と判定された場合、制御はS222に戻る。
【0053】
このプログラムはさらに、S226に続いて実行され、演奏が終了したフレーズをフレーズデータとして登録するという操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS228と、操作を受けた(YES)と判定された場合に実行され、カメラ44を用いて取込んだ画像データから、現在表示しているページを切替えるフレーズデータを作成し登録するS230と、S230実行後、又はS228で操作を受けていない(NO)と判定された場合に実行され、表示部40にフレーズデータを終了するか否かの選択画面を表示し、フレーズデータの登録終了が選択されたか否かに応じて制御の流れを分岐させるS232と、S232で登録終了が選択された(YES)と判定された場合に実行され、カメラ44の動作を停止するS234と、S234に続いて実行され、表示部40に別ページのフレーズデータを登録するか否かの選択画面を表示し、別ページの登録が選択されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS236と、S236で別ページの登録が選択されていない(NO)と判定された場合に実行され、フレーズ登録モードを終了するか否かの選択画面を表示し、モード終了が選択されたか否かに応じて制御の流れを分岐させるS238とを含む。S232で登録終了が選択されていない(NO)と判定された場合、すなわちフレーズデータの登録を継続すると選択された場合は、制御はS218に戻る。S236で、別ページの登録が選択された(YES)と判定された場合には、制御はS208に戻る。S238で、フレーズ登録モードの終了が選択されていない(NO)と判定された場合は、制御はS202に戻る。S238でフレーズ登録モードの終了が選択された(YES)と判定された場合には、このプログラムを終了する。
【0054】
S230におけるフレーズデータの登録に関して、本実施の形態におけるフレーズデータは、バッファリングした演奏画像データの中から直前の画像に対して変化のあった画像を特徴画像として抽出し、抽出した特徴画像データと、特徴画像間の時間間隔とを記憶したものである。図3のプログラムにおいては、S214で登録開始が選択され、演奏音が検出されてから演奏音の検出がされなくなるまでの間に、カメラ44によって撮影されバッファリングされた演奏画像データの中から特徴画像が抽出される。そして、抽出された特徴画像と、それら特徴画像間の時間間隔情報とをまとめて、楽譜の表示ページに対するフレーズデータとして登録する。
【0055】
この楽譜表示装置において、フレーズ登録モードと演奏モードとは、異なる場所(例えば、練習室とステージなど)で利用されることが考えられる。そのため、特徴画像においては、撮影した画像から背景を除いた演奏者のみの画像を抽出する必要がある。演奏者の画像抽出の方法としては、例えば、以下のような方法がある。まず、撮影される演奏画像をマトリクス状に配列されるブロックに分割し、各ブロックをフレーム間の動きの大きいブロックと小さいブロックとに分類する。フレーム間で動きの小さいブロックは、背景部分と考えることができるので、動きの大きいブロック群を演奏者の画像として抽出する。抽出された画像を前後の画像と比較して特徴画像を決定する。演奏者の服装の違いなども考えられるため、後述するフレーズデータの照合は色情報を考慮せずに行なうこととする。
【0056】
S230ではフレーズ演奏後の待機時間を設定することが可能である。待機時間を設定する例として、例えば、表示するページ最後の部分に演奏者にとってページ変更に適切なフレーズがない場合、少し手前のフレーズをフレーズデータとして登録し、同時に待機時間を設定する。フレーズデータ演奏後、設定した待機時間が経過した後にページ表示を変更する。その結果、演奏の進行に合った譜めくり動作を行なうことができる。待機時間の設定は任意である。待機時間の設定がされない場合はデフォルト値(例えば0秒)が適用される。待機時間に関する情報は、上記のフレーズデータの中に含まれるものとする。
【0057】
図4を参照して、3ページで構成される楽譜データの、1ページ目及び2ページ目のフレーズデータについて説明する。
【0058】
表示部40に表示するページ番号を表す変数をnとする。nページ目のフレーズデータは、フレーズデータに含まれる特徴画像数Mnと、m枚目(m=1〜Mn)の特徴画像データPn[m]と、m枚目の特徴画像から次(m+1枚目)の特徴画像が現れるまでの時間間隔Tn[m]とを用いて図4のように表すことができる。
【0059】
図4(A)は、楽譜データの1ページ目(n=1)のフレーズデータの構成例を表す図である。この例では、1ページ目のフレーズデータは、3枚の特徴画像を含む(M1=3)。図4(B)は、楽譜データの2ページ目(n=2)のフレーズデータの構成例を表す図である。2ページ目のフレーズデータは4枚の特徴画像を含む(M2=4)。
【0060】
フレーズデータにおける特徴画像は、バッファリングされた一連の画像データにおいて、連続する画像データの関係から抽出されるものである。そのため、各ページにおける特徴画像数Mn、特徴画像Pn[m]、及び特徴画像間の時間間隔Tn[m](m=1〜Mn)は、ページによって異なる。
【0061】
図4(A)を参照すると、1枚目の特徴画像P1[1]を記録し、時間間隔T1[1]経過後に2枚目の特徴画像P1[2]を検出し記憶する。特徴画像P1[2]を記録後、時間間隔T1[2]経過後に最後の特徴画像となるP1[3]を検出し記憶する。また、T1[3]は、フレーズデータを演奏後、ページ変更動作を行なうまでの待機時間を表す。この待機時間は、図3に示すプログラムのS230で利用者によって設定される。利用者により待機時間が設定されなかった場合は、デフォルト値が設定される。
【0062】
図4(B)も図4(A)と同様である。ただし、図4(B)においては特徴画像数M2=4であるので、T2[4]が待機時間を表す。
【0063】
図4では、説明のために時系列に合わせて特徴画像と時間間隔との関係を表した。実際のフレーズデータは、ページを表す変数nに関して、特徴画像数Mn、時間間隔Tn[m](m=1〜Mn)の値、及び特徴画像Pn[m](m=1〜Mn)の画像データが記憶される。
【0064】
図5を参照して、楽譜表示装置30において、演奏モードが選択されたときに実行されるこのプログラムは、記憶部48に記憶されている楽譜データ名を表示部40にリスト表示するS402と、S402に続いて実行され、表示する楽譜データの選択操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS404と、S404で選択操作を受けた(YES)と判定された場合に実行され、選択された楽譜データの情報を楽譜データ記憶部52から、選択された楽譜データに関するフレーズデータをフレーズデータ記憶部54からそれぞれ読出すS406と、S406に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS408とを含む。
【0065】
S406では、楽譜データの情報として、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S408では、画像データを表示するとともに、表示する画像データのページ情報を記憶する。S406に続いてS408が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0066】
このプログラムはさらに、S408に続いて実行され、利用者により表示ページの変更操作があったか否かを判定し、判定結果に応じて制御の流れを分岐させるS410と、S410で変更操作があった(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS408に進めるS412と、S410で変更操作がなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かに応じて制御の流れを分岐させるS414とを含む。S414で開始ボタン62が押されていない(NO)場合は、制御はS410に戻る。
【0067】
S410では、選択ボタン66が押されると表示ページの変更操作があったと判定される。S412では、選択されたページのページ情報を記憶し、S408では選択されたページが表示部40に表示される。
【0068】
このプログラムはさらに、S414で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS416と、S416に続いて実行され、カメラ44が撮影する画像データを一時記憶する画像バッファの内容を消去するS418と、S418に続いて実行され、終了ボタン60が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS420と、S420で終了ボタン60が押されていない(NO)と判定されたときに実行され、カメラ44が撮影する演奏画像データのバッファリング処理を行なうS422と、S422に続いて実行され、S422でバッファリングされた演奏画像データと、登録されたフレーズデータとの照合処理を行なうS424と、S424に続いて実行され、S424におけるフレーズデータ照合処理において演奏画像データと登録されたフレーズデータとが一致したか否かを判定し、判定結果に応じて制御の流れを分岐させるS426と、S426で一致した(YES)と判定されたときに実行され、該当するフレーズデータに設定された時間だけ表示画面をそのままで待機するS428と、S428に続いて実行され、表示部40に表示される楽譜のページ画像データを次のページに変更し、制御をS418に進めるS430とを含む。S426で一致しない(NO)と判定されたとき、制御はS420に戻る。
【0069】
S424のフレーズデータ照合処理が実行されると、演奏画像データとフレーズデータとが一致した、又は一致しない、のいずれかの照合結果が出力される。フレーズデータ照合処理の詳細については後述する。
【0070】
このプログラムはさらに、S420で終了ボタン60が押された(YES)と判定された場合に実行され、カメラ44の動作を停止するS432と、S432に続いて実行され、演奏モードを終了するか否かの選択画面を表示して、演奏モードの終了が選択されたか否かに応じて制御の流れを分岐させるS434とを含む。S434で、終了が選択されていない(NO)と判定された場合、制御はS402に進む。S434で終了が選択された(YES)と判定された場合、このプログラムは終了する。
【0071】
フレーズデータの照合処理は、各ページのフレーズデータに登録されている特徴画像系列と、演奏モード実行時にバッファリングされる演奏画像データとを照合する。演奏画像データを照合し、特徴画像間の時間間隔に所定の誤差範囲ΔTを考慮した時間間隔で、同じ順番で類似する画像データが現れたときに、フレーズデータが一致すると判定する。具体的には、バッファリングされた最新の演奏画像データと、表示中のページに関するフレーズデータの最終の特徴画像とを比較して類似しているかを判定する。類似している特徴画像があると判定された場合、そのフレーズデータ内の一つ前の特徴画像と類似した画像がバッファリングされた演奏画像データの中にあるかを判定する。類似している演奏画像データがあったとき、その演奏画像データがバッファリングされた時間と、最新の演奏画像データがバッファリングされた時間との差を測定する。その測定した時間差が特徴画像間の時間間隔に所定の誤差範囲ΔTを考慮した時間間隔内に収まっている場合、そのフレーズデータの一部を演奏していると判定する。この照合判定処理をバッファリングされた画像を逆上って繰返していき、フレーズデータの最初の特徴画像まで一致したとき、演奏者が演奏したフレーズが予め登録されたフレーズデータと一致すると判定する。
【0072】
図6を参照して、図5のS424において実行されるプログラムは、表示部40に表示しているページ情報を取得するS502と、S502に続いて実行され、図5のS422でバッファリングしている最新の演奏画像データと、S502で取得したページ情報のページに関連付けられたフレーズデータの最終の特徴画像Pn[Mn]とを比較するS504と、S504に続いて実行され、最新の演奏画像データと最終の特徴画像Pn[Mn]とが類似しているか否かを判定し、判定結果に応じて制御の流れを分岐させるS506と、S506で類似している(YES)と判定された場合に実行され、フレーズデータ中の特徴画像の順番を表す変数mにMn−1の値を設定するS508とを含む。
【0073】
このプログラムはさらに、S508に続いて実行され、バッファリングされた演奏画像データにおいて、演奏画像が類似しているか否かの判定処理で参照された演奏画像データの、直前の演奏画像データを取得するS510と、S510に続いて実行され、S510で取得した演奏画像データと特徴画像Pn[m]とを比較するS512と、S512に続いて実行され、取得した演奏画像データと特徴画像Pn[m]とが類似しているか否かを判定し、判定結果に応じて制御の流れを分岐させるS514と、S514で類似していない(NO)と判定された場合に実行され、1つ前の類似判定処理において類似していると判定された時の演奏画像データがバッファリングされた時間と、S510で取得した演奏画像データがバッファリングされた時間との時間間隔がTn[m]+ΔTの値を超えたか否かを判定し、判定結果に応じて制御の流れを分岐させるS524と、S514で類似している(YES)と判定された場合に実行され、S514の類似判定処理において類似していると判定された演奏画像データがバッファリングされた時間と、その類似判定処理の1つ前に類似していると判定された時の演奏画像データがバッファリングされた時間との時間間隔がTn[m]―ΔTより小さい値であるか否かを判定し、判定結果に応じて制御の流れを分岐させるS516とを含む。
【0074】
S506及びS514における、演奏画像データと特徴画像Pn[m](m=1〜Mn)とが類似しているかの判定方法については、様々な方法がある。例えば、画像データから演奏者のシルエットを作成し、シルエットを値1、背景を値0とした2値画像を作成する。この2値画像から抽出するシルエットの輪郭などを特徴データと呼ぶことにする。カメラが撮影する演奏画像データの特徴データと、フレーズデータとして記憶した特徴画像データから作成する特徴データとを照合することで、2つの画像が類似しているかを判定することができる。
【0075】
画像データからシルエットを作成する方法としては以下のような例が挙げられる。例えば、白い壁の前を人物が歩行する場合などのように、背景の濃度が人物の各部の濃度に比べて明るい場合を想定する。まず、撮影する演奏画像データの濃度のヒストグラムを作成する。すると、人物の濃度分布と背景の濃度分布との2峰性の分布が得られる。その分布から人物と背景との境界となる濃度値aを設定し、演奏画像データの原画像の画素の濃度値がaよりも暗い点をシルエット(値1)、明るい点を背景(値0)とする。このようにして画像の画素の濃度値に対して値を割当て、シルエット画像を作成する。
【0076】
また、2値画像から特徴データを抽出し、照合する部分については、一般的な文字認識装置における技術を用いることができる。具体的には、入力画像から2値画像を作成して文字画像の特徴抽出を行ない、辞書に登録されている特徴データとの照合を行ない、類似度を計算するという手法が用いられる。画像の類似判定においても、シルエットの部分を文字として考えれば同様に行なうことができる。
【0077】
ここでは、類似しているかの判定方法としてシルエットを用いた判定方法を挙げたが、この方法を用いる場合には、フレーズデータとして、特徴画像そのものを記憶するのではなく、その特徴データを記憶しておけばよい。
【0078】
ただし、類似しているかの判定方法については様々な方法があるため、ここで例示した方法に限るわけではない。
【0079】
このプログラムはさらに、S524で時間間隔がTn[m]+ΔTの値を超えた(YES)と判定された場合に実行され、フレーズデータは現在演奏中のフレーズと一致しないと判定し、制御を図5のS426に進めるS526と、S516で時間間隔がTn[m]―ΔTより小さい値ではない(NO)と判定された場合に実行され、変数mにm−1の値を設定するS518と、S518に続いて実行され、変数mがm=0を満たすか否かを判定し、判定結果に応じて制御の流れを分岐させるS520と、S520でm=0を満たす(YES)と判定された場合に実行され、フレーズが一致したと判定し、制御を図5のS426に進めるS522とを含む。S506で類似していない(NO)と判定された場合、制御はS526に進む。S516で時間間隔がTn[m]―ΔTより小さい値である(YES)と判定された場合、制御はS526に進む。S524で時間間隔がTn[m]+ΔTの値を超えていない(NO)と判定された場合、又はS520でm=0を満たさない(NO)と判定された場合、制御はS510に進む。
【0080】
―動作―
第1の実施の形態に係る楽譜表示装置30は、以下のように動作する。
【0081】
<フレーズ登録モード>
フレーズデータを登録する前に、楽譜表示装置30に楽譜の画像データを登録する。楽譜の画像データは、外部記憶媒体に記憶された画像データを外部メモリインターフェイス46を介して記憶部48に記憶させるか、又は、カメラ44を用いて楽譜を読取り、読取った画像データを記憶部48に記憶させる。記憶した画像データ群には、楽譜のタイトルを付して登録する。
【0082】
楽譜表示装置30は、フレーズ登録モードが選択されると、記憶部48に記憶されている楽譜データのタイトルをリスト表示する(S202)。このリストからフレーズデータを登録する楽譜タイトルの選択を受けると(S204)、楽譜データを読出し、表示部40に選択された楽譜データの1ページ目を表示する(S206、S208)。フレーズ登録モードでは、表示部40に表示されるページをめくる際のフレーズデータを登録する。そのため、利用者から表示ページ変更の操作を受けた場合(S210でYES)は、楽譜表示装置30は、表示するページのページ情報を変更し(S212)、表示するページを変更する。
【0083】
表示部40にフレーズデータを登録するページが表示されている時に開始ボタン62が押される(S214でYES)と、楽譜表示装置30は、カメラ44を起動し(S216)、画像バッファをクリアする(S218)。その後、利用者がフレーズデータとして登録する部分の演奏を行ない、マイクロフォン42が演奏音を検出したことに応答して画像データのバッファリングを開始する(S220でYES、S222)。利用者が演奏を止めて演奏音が検出されなくなるとバッファリングを終了する(S224でNO、S226)。
【0084】
フレーズを演奏後、演奏したフレーズをフレーズデータとして登録するという操作を受けた場合(S228でYES)、現在表示しているページに関するフレーズデータを、カメラ44を用いて取込んだ画像データから作成して登録する(S230)。この時作成されるフレーズデータには、バッファリングされた演奏画像データの中から抽出された特徴画像群、特徴画像間の時間間隔情報、及び利用者が設定する待機時間が含まれる。
【0085】
表示するページに対してのフレーズデータの登録終了を選択すると(S232でYES)、カメラ44が停止し(S234)、楽譜データの別ページのフレーズデータを登録するかを選択する(S236)。別ページのフレーズデータを登録する場合は、フレーズデータを登録するページを表示させ、開始ボタン62を押してフレーズデータの登録を行なう。ページめくりに必要な分のフレーズデータの登録が終わったら、利用者はモードの終了を選択し(S238でYES)、フレーズ登録モードを終了する。
【0086】
<演奏モード>
楽譜表示装置30は、演奏モードが選択されると、記憶部48に記憶されている楽譜データのタイトルをリスト表示する(S402)。このリストから楽譜データの選択を受けると(S404でYES)、選択された楽譜データと、楽譜データに関連付けて登録されたフレーズデータとを記憶部48から読出し、選択された楽譜データの1ページ目を表示部40に表示する(S406、S408)。利用者からページ変更の操作を受けた場合(S410でYES)は、表示するページのページ情報を変更し(S412)、表示部40に表示するページを変更する。
【0087】
楽譜表示装置30は、開始ボタン62が押されると(S414でYES)、カメラ44を起動し(S416)、画像バッファをクリアする(S418)。その後、楽譜表示装置30は、終了ボタン60が押されるまで、カメラ44が撮影する演奏画像データのバッファリングを行ない(S422)、バッファリングされた演奏画像データと表示する楽譜のページに登録されたフレーズデータとの照合処理を行ない(S424)、フレーズが一致したかの判定を行なう(S426)ことを繰返す。
【0088】
フレーズデータの照合処理は、表示しているページ情報を取得し(S502)、バッファリングされる最新の演奏画像データと表示しているページのフレーズデータの最終の特徴画像Pn[Mn]とを比較し、両画像が類似しているかを判定する(S504、S506)。類似していると判定された場合(S506でYES)、フレーズデータ中の特徴画像の順番を表す変数mにMn−1を設定し(S508)、バッファから類似しているかの判定処理で参照された演奏画像データの、直前の演奏画像データを取得して(S510)、取得した演奏画像データと特徴画像Pn[m]とを比較する(S512)。画像を比較した結果、両画像が類似していないと判定された場合(S514でNO)、前回類似していると判定された演奏画像データがバッファリングされた時間と、取得した画像がバッファリングされた時間との時間間隔がTn[m]+ΔTを超えたか否かを判定する(S524)。時間間隔Tn[m]+ΔTを超えていない(S524でNO)と判定された場合は、参照された演奏画像データのさらに1つ前の演奏画像データをバッファから取得して、再度特徴画像Pn[m]との比較を行なう。時間間隔Tn[m]+ΔTを超えたと判定された場合は、フレーズは一致しないと判定し(S526)、制御をS424に進める。
【0089】
画像を比較した結果、両画像が類似していると判定された場合(S514でYES)、前回類似していると判定された演奏画像データがバッファリングされた時間と、取得した画像がバッファリングされた時間との時間間隔がTn[m]−ΔTより小さいか否かを判定する(S516)。時間間隔がTn[m]−ΔTより小さいと判定された場合(S516でYES)は、フレーズは一致しないと判定し、制御をS424に進める。時間間隔がTn[m]−ΔTより小さくないと判定された場合(S516でNO)は、変数mにm−1の値を設定し(S518)、変数mがm=0を満たすか否かを判定する(S520)。m=0を満たさないと判定された場合、特徴画像Pn[m]とバッファリングされた演奏画像データとを比較して、両画像が類似しているかを判定するために上記の処理を繰返す。また、m=0を満たすと判定された場合、すなわち、演奏画像データが、登録されたフレーズデータに含まれる特徴画像の順番と時間間隔とに合わせて現れた時、フレーズは一致したと判定し(S522)、制御をS424に進める。
【0090】
フレーズ照合処理においてフレーズが一致していないと判定された場合、終了ボタン60が押されるまで演奏画像データのバッファリングを行ないフレーズデータの照合処理を繰返す。フレーズ照合処理においてフレーズが一致したと判定された場合、フレーズデータに設定した時間分だけ表示ページをそのままにし(S428)、設定時間経過後、表示していたページの次のページを表示する(S430)。表示ページ変更後画像バッファを一旦クリアし、終了ボタン60が押されるまで表示されているページに関してのフレーズデータ照合処理を繰返す。
【0091】
以上のように、この楽譜表示装置30においては、フレーズ登録モードにおいては、演奏者の演奏音を検出する間の演奏画像をバッファリングし、その中から特徴となる画像を抽出して、特徴画像と特徴画像間の時間間隔とをページめくりのためのフレーズデータとして記憶する。一方、実際に演奏を行なう時の演奏モードにおいては、演奏時における演奏者の動き(演奏画像データ)をカメラによって撮り続け、その画像が登録されたフレーズデータと一致するかを判定する。一致すると判定された場合はページ変更動作を行なう。新しく表示されたページでも、そのページに登録されたフレーズデータに関して、演奏者の動きが一致するかを判定する。
【0092】
このように、フレーズ登録モードでは音を検出する間の演奏画像から特徴画像を抽出することから、演奏者がページめくりのフレーズを実際に演奏している時の画像を正確に得ることができる。一方、演奏モードにおいて登録されたフレーズデータと一致するかを判定する時は、バッファリングされた画像のみを参照し、登録されたフレーズデータの画像と同じ順番で現れるかによって判定する。ページめくり動作の判定が、演奏者の画像によって行なわれることから、同時に演奏する楽器の音による影響を受けることがない。その結果、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することができる。
【0093】
表示部40は、LCDに限定するものではない。有機EL(Electro−Luminescence)などの、薄型の表示デバイスであればよい。また、表示部40に重畳するようにタッチパネルを設け、操作部38として用いても良い。
【0094】
[第2の実施の形態]
第2の実施の形態に係る楽譜表示装置では、表示するページに対して複数個のフレーズデータを登録することができる。そして、それぞれのフレーズデータの演奏回数によってフレーズ演奏後に表示するページを任意に設定することができる。第2の実施の形態に係る楽譜表示装置について、ハードウェア構成は第1の実施の形態の楽譜表示装置30と同一であるが、CPU32で実行されるプログラムが異なる。
【0095】
―構成―
以下、特定の楽譜を例に本実施の形態に係る楽譜表示装置の構成を説明する。
【0096】
図7を参照して、楽譜データは3ページで構成され、1ページ目にはフレーズデータ11(「B」と記す)を、2ページ目にはフレーズデータ21(「D」と記す)及びフレーズデータ22(「E」と記す)を、3ページ目にはフレーズデータ31(「G」と記す)を含む。また楽譜の進行を説明するために、楽譜データの1ページ目最初からの部分をA、2ページ目最初からの部分をC、3ページ目最初からの部分をFとする。
【0097】
図7に示す楽譜データ例において、2ページ目のフレーズデータ21はリピート箇所である。フレーズデータ21は、1回目に現れた時には楽譜の最初(A)に戻り、2回目に現れた時には戻らずにそのまま先に進む。フレーズデータ11は演奏回数が3回目までは2ページ目を表示する。フレーズデータ22は1回目に現れた時は3ページ目を表示し、2回目以降はページ変更を行なわない。フレーズデータ31は、1回目に現れた時には楽譜の最初(A)に戻る。
【0098】
この楽譜データ例にしたがった時の進行順は、「A→B→C→D→A→B→C→D→E→F→G→A→B→C→D→E」となる。また、この時のページの表示順は、「1→2→1→2→3→1→2」となる。
【0099】
本実施の形態では、図8に示すような変更先テーブル250を用いる。図8を参照して、変更先テーブル250は、変更元ページと、フレーズデータと、それぞれのフレーズデータの演奏回数ごとの表示ページとを記録する。第2の実施の形態の楽譜表示装置では、変更先テーブル250にフレーズデータの演奏回数とそのときに表示するページとを予め設定する。変更先テーブル250に、演奏回数の設定がない場合は、そのフレーズが演奏されても表示するページを変更しない。図8の設定例では、2ページ目にあるフレーズデータ21は、演奏回数が1回目の時には次に1ページを表示する。フレーズデータ21が2回目に演奏されるときには、変更先テーブル250に設定がされていないため、ページ変更を行なわない。
【0100】
また、同一のページに同じフレーズデータは登録しないものとする。ページに同じフレーズデータを用いる場合、例えば、図8において、フレーズデータ21とフレーズデータ22とで同じものを用いる場合は、1つのフレーズデータとして考え、演奏回数によりページの変更先を設定することで対処することができるからである。登録するフレーズデータが別のページにあるならば、同じフレーズデータを用いても問題ない。
【0101】
図9を参照して、Pはページ、Fはフレーズデータ、「/」以下の数字はフレーズの演奏回数を表す。1ページ目に含まれるフレーズデータ11は、演奏回数1回から3回まではフレーズ演奏後に2ページ目を表示することを示す。2ページ目に含まれるフレーズデータ21は、1回目のフレーズ演奏後に1ページ目を表示することを示す。2ページ目に含まれるフレーズデータ22は、1回目のフレーズ演奏後に3ページ目を表示することを示す。3ページ目に含まれるフレーズデータ31は、1回目のフレーズ演奏後に1ページ目を表示することを示す。
【0102】
第2の実施の形態における楽譜表示装置は、第1の実施の形態の楽譜表示装置30と同様に演奏モードとフレーズ登録モードとの2つの動作モードを持つ。ただし、第2の実施の形態における楽譜表示装置のフレーズ登録モードでは、表示しているページに対して、異なるフレーズデータを登録することが可能である。第2の実施の形態の楽譜表示装置においてフレーズデータを登録する時は、フレーズの演奏回数によって次にどのページを表示するかの設定を行なう。
【0103】
図10を参照して、第2の実施の形態における楽譜表示装置において、フレーズ登録モードが選択され、利用者から登録する楽譜データの選択を受けたときに実行されるプログラムの制御構造を説明する。このプログラムは、楽譜データ記憶部52から選択された楽譜データの情報を読出すS602と、S602に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS604とを含む。
【0104】
S602では、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S604では、画像データを表示するとともに、表示する画像データのページ情報を記憶する。S602に続いてS604が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0105】
このプログラムはさらに、S604に続いて実行され、利用者により表示ページの変更操作があったか否かを判定し、判定結果に応じて制御の流れを分岐させるS606と、S606で変更操作があった(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS604に進めるS608と、S606で変更操作がなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS610とを含む。S610で開始ボタン62が押されていない(NO)と判定された場合は、制御はS606に戻る。
【0106】
S606では、選択ボタン66が押されると表示ページの変更操作があったと判定される。S608では、選択されたページのページ情報を記憶し、S604では選択されたページが表示部40に表示される。
【0107】
このプログラムはさらに、S610で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS612と、S612に続いて実行され、表示しているページに登録するフレーズデータの個数を表す変数aに0を設定するS614と、S614に続いて実行され、画像バッファの内容を消去するS616と、S616に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS622と、S622で演奏する音を検出した(YES)と判定された場合に実行され、カメラ44が撮影する画像データをバッファリングするS620と、S620に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS622と、S622で演奏する音を検出しない(NO)と判定された場合に実行され、カメラ44が撮影する画像データのバッファリングを終了するS624とを含む。S618において、演奏する音が検出されていない(NO)と判定された場合、制御はS618に戻り、演奏音が検出されるのを待つ。S622で演奏音が検出されている(YES)と判定された場合、制御はS620に戻る。
【0108】
このプログラムはさらに、S624に続いて実行され、演奏したフレーズをフレーズデータとして登録するという操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS626と、操作を受けた(YES)と判定された場合に実行され、変数aにa+1の値を設定するS628と、S628に続いて実行され、カメラ44を用いて取込んだ画像データからフレーズデータを作成し、現在表示しているページのa番目のフレーズデータとして登録するS630と、S630に続いて実行され、S630で登録したフレーズデータに対して演奏者からフレーズデータ情報の設定を受けるS632と、S632実行後、又はS626で操作を受けていない(NO)と判定された場合に実行され、演奏者から別フレーズ登録の操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS636と、S636で操作を受けていない(NO)と判定された場合に実行され、カメラ44の動作を停止するS638と、S638に続いて実行され、演奏者から別ページのフレーズデータの登録操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS640とを含む。S636で操作を受けた(YES)と判定された場合は、制御はS616に進む。S640で別ページのフレーズデータの登録操作を受けた(YES)と判定された場合は、制御はS604に進む。S640で別ページのフレーズデータの登録操作を受けていない(NO)と判定された場合は、このプログラムを終了する。
【0109】
S630におけるフレーズデータの登録に関して、第2の実施の形態で用いるフレーズデータは、第1の実施の形態のフレーズデータと同じ構成を持つ。図10のプログラムにおいては、S612で開始ボタン62が押され、演奏音が検出されてから演奏音の検出がされなくなるまでの間に、カメラ44によって撮影されバッファリングされた演奏画像データの中から特徴画像が抽出される。そして、抽出された特徴画像群、特徴画像間の時間間隔情報、及び特徴画像数を、楽譜の表示ページに対するa番目のフレーズデータとして登録する。
【0110】
S632で設定されるフレーズデータ情報は、演奏後の待機時間、及び登録するフレーズデータの演奏回数に対応して表示する楽譜のページ情報などを含む。待機時間の設定がされない場合はデフォルト値(例えば0秒)が適用される。
【0111】
図11を参照して、第2の実施の形態における楽譜表示装置において、演奏モードが選択されたときに実行されるプログラムの制御構造を説明する。このプログラムは、記憶部48に記憶されている楽譜データ名を表示部40にリスト表示するS702と、S702に続いて実行され、表示されたリストから楽譜データの選択操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS704と、S704で選択操作を受けた(YES)と判定された場合に実行され、選択された楽譜データの情報を楽譜データ記憶部52からと、選択された楽譜データに関するフレーズデータをフレーズデータ記憶部54からそれぞれ読出すS706と、S706に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS708とを含む。
【0112】
S706では、楽譜データの情報として、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S708では、画像データを表示するとともに、表示する画像データのページ情報を同時に記憶する。S706に続いてS708が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0113】
このプログラムはさらに、S708に続いて実行され、利用者による表示ページの変更操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS710と、S710で変更操作を受けた(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS708に進めるS712と、S710で変更操作を受けなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かに応じて制御の流れを分岐させるS714とを含む。S714で開始ボタン62が押されていない(NO)と判定された場合は、制御はS710に戻る。
【0114】
S710では、選択ボタン66が押されると表示ページの変更操作を受けたと判定される。S712では、選択されたページのページ情報を記憶し、S708では、選択されたページが表示部40に表示される。
【0115】
このプログラムはさらに、S714で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS716と、S716に続いて実行され、楽譜データに登録されたフレーズデータのカウント値にそれぞれ0を代入して初期化を行なうS718と、S718に続いて実行され、画像バッファの内容を消去するS720と、S720に続いて実行され、終了ボタン60が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS722と、S722で終了ボタン60が押されていない(NO)と判定されたときに実行され、カメラ44が撮影する演奏画像データのバッファリングを行なうS724と、S724に続いて実行され、S724でバッファリングされた演奏画像データを用いてフレーズデータ照合処理を行なうS726と、S726に続いて実行され、S726におけるフレーズデータ照合処理において演奏画像データと登録されたフレーズデータとで一致するフレーズがあるか否かを判定し、判定結果に応じて制御の流れを分岐させるS728と、S728で一致するフレーズデータがある(YES)と判定されたときに実行され、一致すると判定されたフレーズデータのカウント値に1を加えるS730と、S730に続いて実行され、変更先テーブル250を参照し、該当するフレーズデータに関してカウント数に対応するページ変更先が登録されているか否かに応じて制御の流れを分岐させるS732と、S732でページ変更先が登録されている(YES)と判定された場合に実行され、該当するフレーズデータに設定された時間だけ表示画面をそのままで待機するS734と、S734に続いて実行され、変更先テーブル250に登録されたページの画像データを表示し、制御をS720に進めるS736とを含む。S728で一致するフレーズがない(NO)と判定された場合、制御はS722に戻る。S732でカウント数に対応するページ変更先が登録されていない(NO)と判定された場合は、制御はS722に戻る。
【0116】
S726では、図6に示すフローチャートで示すプログラムを実行してフレーズデータ照合処理を行なう。図6を参照して、第2の実施の形態では、図6に示すプログラムのS522又はS526を実行後、制御は図11のS728に戻る。また、S726のフレーズデータ照合処理は、表示部40に表示されるページに登録されたすべてのフレーズデータに対して照合処理を行ない、一致するフレーズデータの有無及び一致するフレーズデータ名の検出を行なう。先述したように、1つのページには同じフレーズデータは存在しない。そのため、S726では図6に示すプログラムを用いての照合処理を該ページに登録されたフレーズデータ全てに対して同時に行なって、フレーズデータの照合及び一致するフレーズデータ名の検出を行なう。
【0117】
このプログラムはさらに、S722で終了ボタン60が押された(YES)と判定された場合に実行され、カメラ44の動作を停止するS738と、S738に続いて実行され、演奏モードを終了するか否かの選択画面を表示し、利用者から演奏モードの終了が選択されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS740とを含む。S740で、終了が選択されていない(NO)と判定された場合、制御はS702に進む。S740で終了が選択された(YES)と判定された場合、このプログラムは終了する。
【0118】
―動作―
第2の実施の形態に係る楽譜表示装置は、以下のように動作する。
【0119】
<フレーズ登録モード>
フレーズデータを登録する前に、楽譜の画像データを登録する。楽譜の画像データの登録に関しては、第1の実施の形態の楽譜表示装置30と同じであるため、説明を繰返さない。
【0120】
第2の実施の形態における楽譜表示装置は、フレーズ登録モードが選択され、フレーズデータを登録する楽譜タイトルの選択を受けると、楽譜データを読出し、表示部40に選択された楽譜データの1ページ目を表示する(S602、S604)。また、利用者から表示ページ変更の操作を受けた場合(S606でYES)は、表示するページのページ情報を変更し(S608)、表示部40に表示するページを変更する。
【0121】
フレーズデータの登録を行なうときは、表示部40に所望のページが表示されている時に開始ボタン62を押す(S610でYES)。すると、カメラ44を起動し(S612)、表示するページに登録するフレーズデータの個数を表す変数aに0の値を設定し(S614)、画像バッファをクリアする(S616)。
【0122】
その後、利用者はフレーズデータとして登録する部分の演奏を行なう。マイクロフォン42で演奏音が検出され続けている間は画像データのバッファリングを行なう(S618でYES、S620)。利用者が演奏を止めて演奏音が検出されなくなるとバッファリングを終了する(S622でNO、S624)。
【0123】
フレーズを演奏後、利用者から演奏したフレーズをフレーズデータとして登録するという操作を受けた場合(S626でYES)、変数aに1を加え(S628)、表示するページのa番目のフレーズデータとして、フレーズを演奏した画像データからフレーズデータを作成し、登録する(S630)。この時、作成されるフレーズデータには、バッファリングされた演奏画像データの中から抽出された特徴画像群、及び特徴画像間の時間間隔情報が含まれる。第2の実施の形態の楽譜表示装置はさらに、登録するフレーズデータに関する設定情報を利用者から受ける(S632)。フレーズデータに関する設定情報としては、演奏後の待機時間、及び登録するフレーズデータの演奏回数に対応して次に表示する楽譜のページ情報などがある。
【0124】
フレーズデータ登録後、又は演奏したフレーズデータをとり直すためにデータを登録しないと利用者が選択した場合(S626でNO)、別のフレーズデータを登録するか否かを選択する。別のフレーズデータを登録する(S636でYES)場合、画像バッファをクリアして、上記の動作を繰返す。
【0125】
別のフレーズデータを登録しない(S636でNO)と選択された場合、カメラ44を停止し(S638)、別のページのフレーズデータを登録するかを選択する(S640)。別ページのフレーズデータを登録する場合は、フレーズデータを登録するページを表示させ、開始ボタン62を押してフレーズデータの登録を行なう。フレーズデータの登録が終わり、他のページの登録を行なわない場合は(S640でNO)、フレーズ登録モードを終了する。
【0126】
<演奏モード>
第2の実施の形態における楽譜表示装置は、演奏モードが選択されると、記憶部48に記憶されている楽譜データのタイトルをリスト表示する(S702)。このリストから楽譜データの選択を受けると(S704でYES)、選択された楽譜データと、楽譜データに関連付けて登録されたフレーズデータとを記憶部48から読出し、選択された楽譜データの1ページ目を表示部40に表示する(S706、S708)。利用者からページ変更の操作を受けた場合(S710でYES)は、表示するページのページ情報を変更し(S712)、表示部40に表示するページを変更する。
【0127】
第2の実施の形態における楽譜表示装置は、開始ボタン62が押されると(S714でYES)、カメラ44を起動する(S716)。第2の実施の形態の楽譜表示装置は、楽譜データに登録されたフレーズデータのそれぞれの演奏回数カウント値に0を代入して初期化を行ない(S718)、画像バッファをクリアする(S720)。その後、第2の実施の形態の楽譜表示装置は、終了ボタン60が押されるまで、カメラ44が撮影する演奏画像データのバッファリングを行ない(S724)、バッファリングされた演奏画像データと表示するページに関連付けて登録された全てのフレーズデータとの照合処理を行ない(S726)、一致するフレーズがあるか否かの判定を行なう(S728)。
【0128】
フレーズ照合処理の結果、一致するフレーズがないと判定された場合は、終了ボタンが押されるまで演奏画像データのバッファリングを続け、フレーズ照合処理を繰返す。フレーズ照合処理により一致するフレーズがあると判定された場合、一致すると判定されたフレーズデータの演奏回数カウント値に1を加え(S730)、変更先テーブル250を参照し、一致すると判定されたフレーズデータの演奏回数に対してページの変更先が登録されているかを判定する(S732)。変更先テーブル250に、変更先が登録されていない場合は表示ページの変更を行なわず、演奏画像データのバッファリングを続けフレーズデータ照合処理を繰返す。
【0129】
変更先テーブル250に変更先が登録されている場合は、フレーズが一致すると判定されたときからそのフレーズデータに設定された時間分だけ待機し(S734)、登録されたページを表示する(S736)。登録されたページに表示変更後、画像バッファをクリアする。その後、表示されたページに登録されたフレーズデータと、あらたにバッファリングされる演奏画像データとでフレーズ照合処理を繰返す。
【0130】
演奏モードでは、終了ボタン60が押されるまで演奏画像データのバッファリングを行ないフレーズデータの照合処理を繰返す。終了ボタン60が押されるとカメラ44の動作を停止する(S738)。その後、演奏モードの終了が選択されると(S738)、演奏モードを終了する。
【0131】
以上のように、第2の実施の形態に係る楽譜表示装置は、フレーズ登録モードにおいて、1つのページに対しフレーズデータに1又は複数個のフレーズデータを登録する。そのフレーズデータそれぞれに対して、フレーズデータの演奏回数ごとに次に表示するページを設定する。演奏モードにおいては、フレーズデータの演奏回数をカウントし、フレーズデータに対して設定された演奏回数ごとの表示設定にしたがって表示するページを変更する。
【0132】
このように1つのページに対して1又は複数個のフレーズデータを登録し、演奏回数に応じて次に表示するページを変更させることで、リピート(繰返し)記号がついている楽譜に対しても、演奏順に沿ってページを表示することができる。その結果、利用者の所望するタイミングで自動的にページ切替えが可能で、かつ演奏順に沿った譜面の表示が可能な楽譜表示装置を実現することができる。
【0133】
また、図7〜図9に示した楽譜において、演奏順にしたがって楽譜を表示させると「1→2→1→2→3→1→2」とページ遷移する。このような楽譜例の場合、同じページが複数存在すると考えて7ページ構成の楽譜として考えることもできる。7ページ構成の楽譜として考えた場合、それぞれのページに対してフレーズデータを設定する必要がある。図7〜図9に示されるような順序で楽譜を表示する場合、6つのフレーズデータを登録する必要がある。第2の実施の形態のように、フレーズデータの演奏回数によって表示するページを変更させると、上記の例においては、4つのフレーズデータとそれぞれのフレーズデータ毎の変更先の登録とでページの表示を実現することができる。フレーズデータは、特徴画像群と時間間隔情報とで構成されるため、フレーズデータ1つあたりで使用される情報量は大きい。第2の実施の形態のように、演奏回数で表示画像を変更させることで、少ないフレーズデータの登録個数で複雑な表示順序に対応することができる。その結果、より少ない情報量で楽譜の表示順を設定可能な楽譜表示装置を実現することができる。
【0134】
今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味および範囲内でのすべての変更を含む。
【符号の説明】
【0135】
30 楽譜表示装置
32 CPU
40 表示部
42 マイクロフォン
44 カメラ
48 記憶部
52 楽譜データ記憶部
54 フレーズデータ記憶部
60 終了ボタン
62 開始ボタン
66 選択ボタン
250 変更先テーブル
【技術分野】
【0001】
本発明は、楽器演奏の際に用いられる譜面を表示する楽譜表示装置に関し、自動的に表示するページを切替える譜めくり機能を備えた楽譜表示装置に関する。
【背景技術】
【0002】
複数ページにわたる譜面を見ながら演奏を行なう場合は、演奏の進行に合わせて譜面をめくる必要がある。鍵盤楽器の演奏会などにおいては、演奏者とは別に譜めくり担当者を置くこともある。しかし、通常は演奏者自身の手で演奏に支障のないタイミングにページをめくっている。譜めくりのタイミングが休符である場合はよいが、そうでない場合は演奏中に素早く行なう必要があり、演奏者にとって非常に煩わしいものである。
【0003】
その問題を解決するために、ペダルスイッチを踏むことによって譜面を次のページに切替える装置、及び電子化された楽譜であれば、キー操作によって楽譜の表示を変更する楽譜表示装置がある。しかし、ページ切替えのために演奏に関係のない装置の操作を行なうことは、逆に演奏者にとって負担を大きくするものであった。こうした問題を解決するために以下のような技術が開示されている。
【0004】
特許文献1には、テレビカメラを備えた楽譜表示装置において、テレビカメラから演奏者の画像を取込み、取込んだ画像から所定のボディサインが検出された時には、表示する譜面のページを変更する技術が開示されている。
【0005】
特許文献2には、楽譜表示装置において、楽譜を撮影して生成された楽譜画像データを複数ページ分記憶しておき、演奏操作によって生成される音高データが、予め登録する特徴フレーズと一致した場合には、自動的に次のページを表示する技術が開示されている。特許文献2において、登録する特徴フレーズは楽曲中の一部分である。演奏から検出された音高群と登録された特徴フレーズの音高群との一致数をカウントし、両者が一致した時には曲の進行が登録した特徴フレーズに到達したとして、自動的に楽譜の次のページを表示する。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2005−37751号
【特許文献2】特開2005−208156号
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記した技術には、なおも以下のような課題がある。
【0008】
特許文献1の技術では、表示する譜面のページを変更する場合には、演奏とは関係のないボディサインを行なわなければならないという問題がある。演奏時の動作は演奏者によって様々である。そのため、簡単なボディサインであっても、そのボディサインを習得し、所望するページめくりのタイミングでそのサインを演奏中に出すことは、演奏者にとって負担が大きいという問題がある。さらに、次のページに進む場合と、前のページに戻る場合とで、ボディサインを変えなければならない。そのためこの技術は実用的でない。
【0009】
特許文献2の技術は、電子鍵盤楽器など演奏操作から直接音高データが得られる場合には有効である。しかし、その他の楽器の演奏などにおいては、音高データを正確に検出することが難しいという問題がある。例えば、複数の演奏者が同時に演奏を行なう場合などにおいては、装置を使用する演奏者以外の音が同時に検出されてしまう。そのため、装置使用者の音高のみを検出することは極めて困難である。
【0010】
このように楽譜表示装置に関して、多種多様な楽器において使用可能で、演奏者に負担にならない方法で譜めくり動作が可能な楽譜表示装置が求められている。
【0011】
そのため、本発明の目的は、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することである。
【課題を解決するための手段】
【0012】
本発明の第1の局面に係る楽譜表示装置は、表示装置と、楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を楽譜名と当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示するための楽譜表示手段と、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力するためのフレーズ判定手段と、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するためのページ変更手段とを含む。
【0013】
記憶手段は、楽譜の一連のページ画像を、楽譜名と当該楽譜の一連のページ画像の順番とともに記憶する。画像取込手段は、被写体を撮像した一連の画像データをリアルタイムで出力する。フレーズデータ記憶手段は、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を楽譜名と当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶する。楽譜表示手段は、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示する。フレーズ判定手段は、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力する。ページ変更手段は、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示する。
【0014】
この楽譜表示装置では、表示する楽譜のページを変更したい部分のフレーズ(特定フレーズ)を演奏者が演奏して、その時の画像データを取込む。楽譜表示装置は、取込んだ画像データから演奏者の動きの特徴を抽出し、特定フレーズを含む楽譜の楽譜名と楽譜名に対応するページ画像とに関連付けてフレーズデータとして記憶する。楽譜表示装置を用いて演奏を行なう場合は、表示装置に楽譜のページ画像を表示する。楽譜表示装置は、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示するページ画像に関連付けて記憶されたフレーズデータと一致するとき、すなわち演奏者が、ページを変更したい部分のフレーズを演奏した時の動きと同じ動きをしたと判定されたときに、ページ画像の次の順番のページ画像を表示装置に表示する。
【0015】
この楽譜表示装置において、楽譜のページ変更時に、演奏者は特定フレーズを登録した時と同じように演奏すればよく特別な動作を行なう必要はない。また、ページ変更の判定には、演奏者の動きの特徴データが用いられることから、同時に演奏する楽器による音声の影響を受けることはない。その結果、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することができる。
【0016】
好ましくは、楽譜表示装置は、第1及び第2の動作モードのいずれかを指定するための動作モード指定手段をさらに含む。フレーズデータ記憶手段は、動作モード指定手段により第1の動作モードが指定されているときに、画像取込手段の出力から抽出される演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けてフレーズデータとして記憶するための手段を含む。フレーズ判定手段は、動作モード指定手段により第2の動作モードが指定されており、かつ、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定して判定信号を出力するための判定手段を含む。
【0017】
動作モード指定手段は、第1及び第2の動作モードのいずれかを指定する。記憶するための手段は、動作モード指定手段により第1の動作モードが指定されているときに、画像取込手段の出力から抽出される演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けてフレーズデータとして記憶する。判定手段は、動作モード指定手段により第2の動作モードが指定されており、かつ、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定して判定信号を出力する。
【0018】
この楽譜表示装置は、画像取込手段の出力から抽出される演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けてフレーズデータとして記憶するときの動作モードと、画像取込手段の出力から抽出される演奏者の動きの特徴が表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定するときの動作モードとを含む。このように楽譜表示装置が2つの動作モードを有することで、画像取込手段の出力を用いるフレーズデータの記憶及びフレーズの判定の動作の切替えを確実に行なうことができる。
【0019】
好ましくは、楽譜表示装置は、音声を検出するための音声検出手段をさらに含む。画像取込手段は、音声検出手段が音声を検出していることに応答して、被写体の撮像を開始し、当該被写体の一連の画像データをリアルタイムで出力するための手段を含む。
【0020】
この楽譜表示装置では、演奏者がページ変更を希望する部分を実際に演奏し、音声検出手段が音声を検出することに応答して。被写体の撮像を開始し当該被写体の一連の画像データをリアルタイムで出力する。演奏音の音声の検出に応答して、画像データを出力することで、演奏するフレーズの開始及び終了を正確に検知でき、フレーズを演奏時の演奏者の動きの特徴をより正確に得ることができる。その結果、フレーズデータに演奏時以外の余計な動きの特徴が入ることが少なくなり、演奏者の動きの特徴とフレーズデータとが一致するかを判定するときの精度を高めることができる。
【0021】
好ましくは、楽譜表示装置は、計時開始時から所定の時間が経過すると時間満了信号を出力するための計時手段をさらに含む。ページ変更手段は、判定信号が第1の値となったことに応答して、計時手段に計時を開始させるための手段と、計時手段からの時間満了信号に応答して、次の順番のページ画像を表示装置に表示するための手段とを含む。
【0022】
この楽譜表示装置は、演奏者の動きの特徴がフレーズデータと一致すると判定されたときから計時を開始し、所定の時間が経過したときに出力される信号に応答して次の順番のページ画像を表示装置に表示する。これにより、例えば表示する楽譜においてページ変更のためのフレーズが適当な場所にない場合、変更したい場所より少し前の部分をフレーズデータとして記憶し、一致すると判定されてから所定の時間を経過した後に楽譜のページを変更することができる。その結果、演奏の流れに合った表示ページの変更を実現することができる。
【0023】
好ましくは、フレーズデータ記憶手段は、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と、もしあれば当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報と関連付けてフレーズデータとして記憶するための手段を含む。フレーズ判定手段は、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するか否かを判定して判定信号を出力するための判定手段と、判定手段により演奏者の動きの特徴と一致すると判定されたフレーズデータを特定する情報を出力するための手段とを含む。ページ変更手段は、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報により特定されるページ画像を表示装置に表示するための手段を含む。
【0024】
記憶するための手段は、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と、もしあれば当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報と関連付けてフレーズデータとして記憶する。判定手段は、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するか否かを判定して判定信号を出力する。出力するための手段は、判定手段により演奏者の動きの特徴と一致すると判定されたフレーズデータを特定する情報を出力する。表示するための手段は、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報により特定されるページ画像を表示装置に表示する。
【0025】
この楽譜表示装置は、当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報がある時は、フレーズデータに関連付けて記憶することができる。また、楽譜表示装置は、表示装置に表示される楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するかを判定することができ、一致すると判定されたフレーズデータを特定する情報を出力することができる。出力された特定する情報により特定されたフレーズデータに次ページを特定する情報関連付けて記憶されている場合はそのページを表示する。
【0026】
このように、ページ画像と関連付けて登録したフレーズデータのいずれかと一致するかを判定することによって、ページに対して記憶される異なるフレーズを演奏したときの演奏者の動きの特徴から、表示装置に表示するページを変更することができる。また、次に表示すべきページ画像の情報を関連付けてフレーズデータを記憶することで、フレーズデータを演奏後に表示するページを変更することができる。その結果、楽譜に記載される繰返し記号などにより、次に表示されるページ画像が変わる楽譜にも対応することができる。
【0027】
好ましくは、ページ変更手段はさらに、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報がないときに、表示装置に表示されているページ画像について、ページ画像の順番により特定されるページ画像を表示装置に表示するための手段を含む。
【0028】
フレーズデータに次ページ画像特定情報がないときには、楽譜の一連のページ画像の順番にしたがって、表示するページ画像を変更する。その結果、次のページ画像特定情報を登録しない場合でもページ変更を行なうことができる。
【0029】
好ましくは、楽譜表示装置は、楽譜の各ページ画像に関連付けられて記憶されるフレーズデータの各々について、当該フレーズデータに対応するページ画像の表示中に、出力するための手段により当該フレーズデータを特定する情報が出力された回数をカウントするためのカウント手段をさらに含む。記憶するための手段はさらに、表示装置に表示されているページ画像と関連付けられているフレーズデータの各々について、カウント手段によりカウントされた回数と、次に表示すべきページ画像を特定する情報との組をさらに記憶する。表示するための手段は、判定信号が第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータの、カウント手段によりカウントされた回数と組合されている情報により特定されるページ画像を表示装置に表示するための手段を含む。
【0030】
楽譜には、数種類の繰返し記号がある。譜面によっては、フレーズの演奏回数によって、そのフレーズに続いて演奏する場所及び表示する楽譜のページが異なる場合もある。カウント手段によって当該フレーズデータを特定する情報が出力された回数をカウントし、ページ画像に関連付けられているフレーズデータの各々について、カウントされた回数と次に表示すべきページ画像を特定する情報とを設定することで、繰返し記号を含んだ複雑な構成の楽譜にも対応することができる。
【0031】
本発明の第2の局面に係る楽譜表示方法は、表示装置と、楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の表示順とともに記憶するための記憶手段と、被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示するための楽譜表示手段と、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示している楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力するためのフレーズ判定手段と、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するためのページ変更手段とを含む、楽譜表示装置における楽譜表示方法であって、楽譜表示手段が、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読出されたページ画像のうち、所定のページ画像を表示装置に表示するステップと、フレーズ判定手段が、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値をそれぞれとる判定信号を出力するステップと、ページ変更手段が、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するステップとを含む。
【0032】
本発明の第3の局面に係るコンピュータプログラムは、表示装置と、被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段とが接続されるコンピュータにより実行されると、当該コンピュータを、楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、演奏者があるフレーズを演奏した時の演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、指定された楽譜名に対応する楽譜の一連のページ画像を記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を表示装置に表示するための楽譜表示手段と、表示装置に楽譜のページ画像が表示されている時に、画像取込手段の出力から抽出される演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、判定信号が第1の値となったことに応答して、表示装置に表示されているページ画像の次の順番のページ画像を表示装置に表示するためのページ変更手段として機能させる。
【0033】
本発明の第4の局面に係る記録媒体は、上に述べたコンピュータプログラムを記録した、コンピュータで読取可能な記録媒体である。
【発明の効果】
【0034】
この楽譜表示装置では、演奏者がページ変更を希望する部分のフレーズを実際に演奏したときの動きの特徴を対応するページ画像と関連付けて予め記憶しておき、演奏者の動きの特徴が、表示装置に表示されている楽譜のページ画像と関連付けられた動きの特徴と一致すると判定されたときにページ変更を行なう。演奏者は楽譜のページ変更時において、特定フレーズを登録した時と同じように演奏すればよく特別な動作を行なう必要はない。また、ページ変更の判定には、演奏者の動きの特徴データが用いられることから、同時に演奏する楽器による音声の影響を受けることはない。その結果、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することができる。
【図面の簡単な説明】
【0035】
【図1】本発明の第1の実施の形態に係る楽譜表示装置30の構成を表すブロック図である。
【図2】楽譜表示装置30の外観図である。
【図3】第1の実施の形態に係る楽譜表示装置30のCPU32が実行する、フレーズ登録モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図4】フレーズデータの構成例を表す図である。
【図5】楽譜表示装置30のCPU32が実行する、演奏モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図6】図5に示すプログラムにおいてフレーズデータ照合処理の動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図7】第2の実施の形態における楽譜表示装置に記憶される、楽譜データにおけるフレーズデータの設定例である。
【図8】フレーズデータの演奏回数と演奏後に表示するページとを設定する変更先テーブル250である。
【図9】フレーズデータの演奏回数と表示するページと状態遷移を表す図である。
【図10】第2の実施の形態に係る楽譜表示装置のCPU32が実行する、フレーズ登録モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【図11】第2の実施の形態における楽譜表示装置のCPU32が実行する、演奏モードの動作を実現するためのプログラムの制御構造を示すフローチャートである。
【発明を実施するための形態】
【0036】
以下、本発明の具体的な実施の形態について説明する。以下の説明及び図面においては、同一部品には同じ参照符号および名称を付してある。それらの機能も同様である。したがって、それらについての詳細な説明は繰返さない。
【0037】
[第1の実施の形態]
―構成―
図1を参照して、楽譜表示装置30は、所定のプログラムを実行し楽譜表示装置30の全体の動作を制御するためのCPU(Central Processing Unit)32と、CPU32に接続されたバス50と、いずれもバス50に接続された、CPU32で実行するプログラムを記憶するためのROM(Read−Only Memory)34、プログラムを実行するときの一時記憶部として動作するRAM(Random Access Memory)36、利用者からの操作を受付けるための操作部38、楽譜データ及び楽譜表示装置を制御するための操作画面を表示するための表示部40、演奏者が演奏する音を検出するためのマイクロフォン42、各種画像を撮影し画像データとして取込むためのカメラ44、各種情報を記憶するための記憶部48、及び外部記憶媒体から楽譜データなどを取込むための外部メモリインターフェイス46を含む。
【0038】
ROM34は、電気的に書換え可能な不揮発性のメモリで、EEPROM(Electrically Erasable and Programmable Read Only Memory)及びフラッシュメモリなどが用いられる。記憶部48は、磁気ディスク、EEPROM、及びフラッシュメモリなどの、電気的に書換え可能な不揮発性のメモリで構成される。
【0039】
本実施の形態では、表示部40は、LCD(Liquid Crystal Display)を含む。
【0040】
記憶部48は、楽譜データを記憶するための楽譜データ記憶部52と、楽譜データ記憶部52に記憶される楽譜データに関連して記憶される、演奏者が特定のフレーズを演奏している時の演奏者の一連の画像からなるフレーズデータを記憶するためのフレーズデータ記憶部54とを含む。
【0041】
楽譜データ記憶部52に記憶される楽譜データは、1又は複数のページで構成される楽譜のページ毎の画像データである。楽譜データは、外部メモリインターフェイス46で外部記憶媒体を介して取込む方法の他に、カメラ44を用いて画像を読取り、取込むことも可能である。また、楽譜データ記憶部52には複数の楽譜データを記憶することができ、表示する楽譜データは演奏者の操作によって選択される。
【0042】
フレーズデータ記憶部54に記憶されるフレーズデータは、各楽譜データのページに関連して記憶され、カメラ44を用いて撮影された、それぞれのページをめくる前の演奏者の一連の動きを記憶したデータである。フレーズデータの構成及び設定に関しては後述する。
【0043】
図2を参照して、操作部38は、画面に表示される項目を選択するための選択ボタン66と、決定ボタン64と、各種動作を開始するための開始ボタン62と、動作を停止するための終了ボタン60とを含む。
【0044】
図2を参照して、カメラ44及びマイクロフォン42はそれぞれ演奏者の撮影及び演奏音を検出するため、表示部40の下部の中央付近に設置される。また、画像表示装置30自体は、薄型のボディによって構成され、紙の楽譜の代わりに汎用の譜面台上において使用することが可能である。
【0045】
表示部40には、後述するプログラムが実行されることによって選択される楽譜データがページ単位で表示される。
【0046】
本実施の形態における楽譜表示装置30は、演奏モードとフレーズ登録モードとの2つの動作モードを持つ。演奏モードは、演奏者が選択した楽譜データを表示部40に表示して、表示されているページを演奏の進行に合わせて自動で切替えるモードである。フレーズデータを登録モードは、選択した楽譜データの表示されているページを切替えるためのフレーズを登録するためのモードである。演奏者が自動のページ切替えを利用するためには、フレーズ登録モードで事前にページ切替えのフレーズデータを登録する必要がある。
【0047】
本実施の形態における楽譜表示装置30において、ページを切替えるためのフレーズデータは、表示するページに対してそれぞれ1つ登録することができる。
【0048】
図3を参照して、楽譜表示装置30において、フレーズ登録モードが選択された時に実行されるプログラムの制御構造を説明する。このプログラムは、記憶部48に記憶されている楽譜データ名を表示部40にリスト表示するステップ(以下単に「S」と記載する。)202と、S202に続いて実行され、表示する楽譜データの選択操作を利用者から受けるS204と、S204に続いて実行され、選択された楽譜データの情報を楽譜データ記憶部52から読出すS206と、S206に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS208とを含む。
【0049】
S206では、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S208では、画像データを表示するとともに、表示する画像データのページ情報を同時に記憶する。S206に続いてS208が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0050】
このプログラムはさらに、S208に続いて実行され、利用者により表示ページの変更操作があったか否かを判定し、判定結果に応じて制御の流れを分岐させるS210と、S210で変更操作があった(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS208に進めるS212と、S210で変更操作がなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS214とを含む。S214で開始ボタン62が押されていない(NO)と判定された場合は、制御はS210に戻る。
【0051】
S210では、選択ボタン66が押されると表示ページの変更操作があったと判定される。S212では選択されたページのページ情報を記憶し、S208では選択されたページが表示部40に表示される。
【0052】
このプログラムはさらに、S214で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS216と、S216に続いて実行され、カメラ44が撮影する画像データを一時記憶する画像バッファの内容を消去するS218と、S218に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS220と、S220で演奏する音を検出した(YES)と判定された場合に実行され、カメラ44が撮影する画像データを画像バッファにバッファリングするS222と、S222に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS224と、S224で演奏する音を検出していない(NO)と判定された場合に実行され、カメラ44が撮影する画像データのバッファリングを終了するS226とを含む。S220において、演奏する音が検出されていない(NO)と判定された場合、制御はS220に戻り、演奏音が検出されるのを待つ。S224で演奏音が検出されている(YES)と判定された場合、制御はS222に戻る。
【0053】
このプログラムはさらに、S226に続いて実行され、演奏が終了したフレーズをフレーズデータとして登録するという操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS228と、操作を受けた(YES)と判定された場合に実行され、カメラ44を用いて取込んだ画像データから、現在表示しているページを切替えるフレーズデータを作成し登録するS230と、S230実行後、又はS228で操作を受けていない(NO)と判定された場合に実行され、表示部40にフレーズデータを終了するか否かの選択画面を表示し、フレーズデータの登録終了が選択されたか否かに応じて制御の流れを分岐させるS232と、S232で登録終了が選択された(YES)と判定された場合に実行され、カメラ44の動作を停止するS234と、S234に続いて実行され、表示部40に別ページのフレーズデータを登録するか否かの選択画面を表示し、別ページの登録が選択されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS236と、S236で別ページの登録が選択されていない(NO)と判定された場合に実行され、フレーズ登録モードを終了するか否かの選択画面を表示し、モード終了が選択されたか否かに応じて制御の流れを分岐させるS238とを含む。S232で登録終了が選択されていない(NO)と判定された場合、すなわちフレーズデータの登録を継続すると選択された場合は、制御はS218に戻る。S236で、別ページの登録が選択された(YES)と判定された場合には、制御はS208に戻る。S238で、フレーズ登録モードの終了が選択されていない(NO)と判定された場合は、制御はS202に戻る。S238でフレーズ登録モードの終了が選択された(YES)と判定された場合には、このプログラムを終了する。
【0054】
S230におけるフレーズデータの登録に関して、本実施の形態におけるフレーズデータは、バッファリングした演奏画像データの中から直前の画像に対して変化のあった画像を特徴画像として抽出し、抽出した特徴画像データと、特徴画像間の時間間隔とを記憶したものである。図3のプログラムにおいては、S214で登録開始が選択され、演奏音が検出されてから演奏音の検出がされなくなるまでの間に、カメラ44によって撮影されバッファリングされた演奏画像データの中から特徴画像が抽出される。そして、抽出された特徴画像と、それら特徴画像間の時間間隔情報とをまとめて、楽譜の表示ページに対するフレーズデータとして登録する。
【0055】
この楽譜表示装置において、フレーズ登録モードと演奏モードとは、異なる場所(例えば、練習室とステージなど)で利用されることが考えられる。そのため、特徴画像においては、撮影した画像から背景を除いた演奏者のみの画像を抽出する必要がある。演奏者の画像抽出の方法としては、例えば、以下のような方法がある。まず、撮影される演奏画像をマトリクス状に配列されるブロックに分割し、各ブロックをフレーム間の動きの大きいブロックと小さいブロックとに分類する。フレーム間で動きの小さいブロックは、背景部分と考えることができるので、動きの大きいブロック群を演奏者の画像として抽出する。抽出された画像を前後の画像と比較して特徴画像を決定する。演奏者の服装の違いなども考えられるため、後述するフレーズデータの照合は色情報を考慮せずに行なうこととする。
【0056】
S230ではフレーズ演奏後の待機時間を設定することが可能である。待機時間を設定する例として、例えば、表示するページ最後の部分に演奏者にとってページ変更に適切なフレーズがない場合、少し手前のフレーズをフレーズデータとして登録し、同時に待機時間を設定する。フレーズデータ演奏後、設定した待機時間が経過した後にページ表示を変更する。その結果、演奏の進行に合った譜めくり動作を行なうことができる。待機時間の設定は任意である。待機時間の設定がされない場合はデフォルト値(例えば0秒)が適用される。待機時間に関する情報は、上記のフレーズデータの中に含まれるものとする。
【0057】
図4を参照して、3ページで構成される楽譜データの、1ページ目及び2ページ目のフレーズデータについて説明する。
【0058】
表示部40に表示するページ番号を表す変数をnとする。nページ目のフレーズデータは、フレーズデータに含まれる特徴画像数Mnと、m枚目(m=1〜Mn)の特徴画像データPn[m]と、m枚目の特徴画像から次(m+1枚目)の特徴画像が現れるまでの時間間隔Tn[m]とを用いて図4のように表すことができる。
【0059】
図4(A)は、楽譜データの1ページ目(n=1)のフレーズデータの構成例を表す図である。この例では、1ページ目のフレーズデータは、3枚の特徴画像を含む(M1=3)。図4(B)は、楽譜データの2ページ目(n=2)のフレーズデータの構成例を表す図である。2ページ目のフレーズデータは4枚の特徴画像を含む(M2=4)。
【0060】
フレーズデータにおける特徴画像は、バッファリングされた一連の画像データにおいて、連続する画像データの関係から抽出されるものである。そのため、各ページにおける特徴画像数Mn、特徴画像Pn[m]、及び特徴画像間の時間間隔Tn[m](m=1〜Mn)は、ページによって異なる。
【0061】
図4(A)を参照すると、1枚目の特徴画像P1[1]を記録し、時間間隔T1[1]経過後に2枚目の特徴画像P1[2]を検出し記憶する。特徴画像P1[2]を記録後、時間間隔T1[2]経過後に最後の特徴画像となるP1[3]を検出し記憶する。また、T1[3]は、フレーズデータを演奏後、ページ変更動作を行なうまでの待機時間を表す。この待機時間は、図3に示すプログラムのS230で利用者によって設定される。利用者により待機時間が設定されなかった場合は、デフォルト値が設定される。
【0062】
図4(B)も図4(A)と同様である。ただし、図4(B)においては特徴画像数M2=4であるので、T2[4]が待機時間を表す。
【0063】
図4では、説明のために時系列に合わせて特徴画像と時間間隔との関係を表した。実際のフレーズデータは、ページを表す変数nに関して、特徴画像数Mn、時間間隔Tn[m](m=1〜Mn)の値、及び特徴画像Pn[m](m=1〜Mn)の画像データが記憶される。
【0064】
図5を参照して、楽譜表示装置30において、演奏モードが選択されたときに実行されるこのプログラムは、記憶部48に記憶されている楽譜データ名を表示部40にリスト表示するS402と、S402に続いて実行され、表示する楽譜データの選択操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS404と、S404で選択操作を受けた(YES)と判定された場合に実行され、選択された楽譜データの情報を楽譜データ記憶部52から、選択された楽譜データに関するフレーズデータをフレーズデータ記憶部54からそれぞれ読出すS406と、S406に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS408とを含む。
【0065】
S406では、楽譜データの情報として、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S408では、画像データを表示するとともに、表示する画像データのページ情報を記憶する。S406に続いてS408が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0066】
このプログラムはさらに、S408に続いて実行され、利用者により表示ページの変更操作があったか否かを判定し、判定結果に応じて制御の流れを分岐させるS410と、S410で変更操作があった(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS408に進めるS412と、S410で変更操作がなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かに応じて制御の流れを分岐させるS414とを含む。S414で開始ボタン62が押されていない(NO)場合は、制御はS410に戻る。
【0067】
S410では、選択ボタン66が押されると表示ページの変更操作があったと判定される。S412では、選択されたページのページ情報を記憶し、S408では選択されたページが表示部40に表示される。
【0068】
このプログラムはさらに、S414で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS416と、S416に続いて実行され、カメラ44が撮影する画像データを一時記憶する画像バッファの内容を消去するS418と、S418に続いて実行され、終了ボタン60が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS420と、S420で終了ボタン60が押されていない(NO)と判定されたときに実行され、カメラ44が撮影する演奏画像データのバッファリング処理を行なうS422と、S422に続いて実行され、S422でバッファリングされた演奏画像データと、登録されたフレーズデータとの照合処理を行なうS424と、S424に続いて実行され、S424におけるフレーズデータ照合処理において演奏画像データと登録されたフレーズデータとが一致したか否かを判定し、判定結果に応じて制御の流れを分岐させるS426と、S426で一致した(YES)と判定されたときに実行され、該当するフレーズデータに設定された時間だけ表示画面をそのままで待機するS428と、S428に続いて実行され、表示部40に表示される楽譜のページ画像データを次のページに変更し、制御をS418に進めるS430とを含む。S426で一致しない(NO)と判定されたとき、制御はS420に戻る。
【0069】
S424のフレーズデータ照合処理が実行されると、演奏画像データとフレーズデータとが一致した、又は一致しない、のいずれかの照合結果が出力される。フレーズデータ照合処理の詳細については後述する。
【0070】
このプログラムはさらに、S420で終了ボタン60が押された(YES)と判定された場合に実行され、カメラ44の動作を停止するS432と、S432に続いて実行され、演奏モードを終了するか否かの選択画面を表示して、演奏モードの終了が選択されたか否かに応じて制御の流れを分岐させるS434とを含む。S434で、終了が選択されていない(NO)と判定された場合、制御はS402に進む。S434で終了が選択された(YES)と判定された場合、このプログラムは終了する。
【0071】
フレーズデータの照合処理は、各ページのフレーズデータに登録されている特徴画像系列と、演奏モード実行時にバッファリングされる演奏画像データとを照合する。演奏画像データを照合し、特徴画像間の時間間隔に所定の誤差範囲ΔTを考慮した時間間隔で、同じ順番で類似する画像データが現れたときに、フレーズデータが一致すると判定する。具体的には、バッファリングされた最新の演奏画像データと、表示中のページに関するフレーズデータの最終の特徴画像とを比較して類似しているかを判定する。類似している特徴画像があると判定された場合、そのフレーズデータ内の一つ前の特徴画像と類似した画像がバッファリングされた演奏画像データの中にあるかを判定する。類似している演奏画像データがあったとき、その演奏画像データがバッファリングされた時間と、最新の演奏画像データがバッファリングされた時間との差を測定する。その測定した時間差が特徴画像間の時間間隔に所定の誤差範囲ΔTを考慮した時間間隔内に収まっている場合、そのフレーズデータの一部を演奏していると判定する。この照合判定処理をバッファリングされた画像を逆上って繰返していき、フレーズデータの最初の特徴画像まで一致したとき、演奏者が演奏したフレーズが予め登録されたフレーズデータと一致すると判定する。
【0072】
図6を参照して、図5のS424において実行されるプログラムは、表示部40に表示しているページ情報を取得するS502と、S502に続いて実行され、図5のS422でバッファリングしている最新の演奏画像データと、S502で取得したページ情報のページに関連付けられたフレーズデータの最終の特徴画像Pn[Mn]とを比較するS504と、S504に続いて実行され、最新の演奏画像データと最終の特徴画像Pn[Mn]とが類似しているか否かを判定し、判定結果に応じて制御の流れを分岐させるS506と、S506で類似している(YES)と判定された場合に実行され、フレーズデータ中の特徴画像の順番を表す変数mにMn−1の値を設定するS508とを含む。
【0073】
このプログラムはさらに、S508に続いて実行され、バッファリングされた演奏画像データにおいて、演奏画像が類似しているか否かの判定処理で参照された演奏画像データの、直前の演奏画像データを取得するS510と、S510に続いて実行され、S510で取得した演奏画像データと特徴画像Pn[m]とを比較するS512と、S512に続いて実行され、取得した演奏画像データと特徴画像Pn[m]とが類似しているか否かを判定し、判定結果に応じて制御の流れを分岐させるS514と、S514で類似していない(NO)と判定された場合に実行され、1つ前の類似判定処理において類似していると判定された時の演奏画像データがバッファリングされた時間と、S510で取得した演奏画像データがバッファリングされた時間との時間間隔がTn[m]+ΔTの値を超えたか否かを判定し、判定結果に応じて制御の流れを分岐させるS524と、S514で類似している(YES)と判定された場合に実行され、S514の類似判定処理において類似していると判定された演奏画像データがバッファリングされた時間と、その類似判定処理の1つ前に類似していると判定された時の演奏画像データがバッファリングされた時間との時間間隔がTn[m]―ΔTより小さい値であるか否かを判定し、判定結果に応じて制御の流れを分岐させるS516とを含む。
【0074】
S506及びS514における、演奏画像データと特徴画像Pn[m](m=1〜Mn)とが類似しているかの判定方法については、様々な方法がある。例えば、画像データから演奏者のシルエットを作成し、シルエットを値1、背景を値0とした2値画像を作成する。この2値画像から抽出するシルエットの輪郭などを特徴データと呼ぶことにする。カメラが撮影する演奏画像データの特徴データと、フレーズデータとして記憶した特徴画像データから作成する特徴データとを照合することで、2つの画像が類似しているかを判定することができる。
【0075】
画像データからシルエットを作成する方法としては以下のような例が挙げられる。例えば、白い壁の前を人物が歩行する場合などのように、背景の濃度が人物の各部の濃度に比べて明るい場合を想定する。まず、撮影する演奏画像データの濃度のヒストグラムを作成する。すると、人物の濃度分布と背景の濃度分布との2峰性の分布が得られる。その分布から人物と背景との境界となる濃度値aを設定し、演奏画像データの原画像の画素の濃度値がaよりも暗い点をシルエット(値1)、明るい点を背景(値0)とする。このようにして画像の画素の濃度値に対して値を割当て、シルエット画像を作成する。
【0076】
また、2値画像から特徴データを抽出し、照合する部分については、一般的な文字認識装置における技術を用いることができる。具体的には、入力画像から2値画像を作成して文字画像の特徴抽出を行ない、辞書に登録されている特徴データとの照合を行ない、類似度を計算するという手法が用いられる。画像の類似判定においても、シルエットの部分を文字として考えれば同様に行なうことができる。
【0077】
ここでは、類似しているかの判定方法としてシルエットを用いた判定方法を挙げたが、この方法を用いる場合には、フレーズデータとして、特徴画像そのものを記憶するのではなく、その特徴データを記憶しておけばよい。
【0078】
ただし、類似しているかの判定方法については様々な方法があるため、ここで例示した方法に限るわけではない。
【0079】
このプログラムはさらに、S524で時間間隔がTn[m]+ΔTの値を超えた(YES)と判定された場合に実行され、フレーズデータは現在演奏中のフレーズと一致しないと判定し、制御を図5のS426に進めるS526と、S516で時間間隔がTn[m]―ΔTより小さい値ではない(NO)と判定された場合に実行され、変数mにm−1の値を設定するS518と、S518に続いて実行され、変数mがm=0を満たすか否かを判定し、判定結果に応じて制御の流れを分岐させるS520と、S520でm=0を満たす(YES)と判定された場合に実行され、フレーズが一致したと判定し、制御を図5のS426に進めるS522とを含む。S506で類似していない(NO)と判定された場合、制御はS526に進む。S516で時間間隔がTn[m]―ΔTより小さい値である(YES)と判定された場合、制御はS526に進む。S524で時間間隔がTn[m]+ΔTの値を超えていない(NO)と判定された場合、又はS520でm=0を満たさない(NO)と判定された場合、制御はS510に進む。
【0080】
―動作―
第1の実施の形態に係る楽譜表示装置30は、以下のように動作する。
【0081】
<フレーズ登録モード>
フレーズデータを登録する前に、楽譜表示装置30に楽譜の画像データを登録する。楽譜の画像データは、外部記憶媒体に記憶された画像データを外部メモリインターフェイス46を介して記憶部48に記憶させるか、又は、カメラ44を用いて楽譜を読取り、読取った画像データを記憶部48に記憶させる。記憶した画像データ群には、楽譜のタイトルを付して登録する。
【0082】
楽譜表示装置30は、フレーズ登録モードが選択されると、記憶部48に記憶されている楽譜データのタイトルをリスト表示する(S202)。このリストからフレーズデータを登録する楽譜タイトルの選択を受けると(S204)、楽譜データを読出し、表示部40に選択された楽譜データの1ページ目を表示する(S206、S208)。フレーズ登録モードでは、表示部40に表示されるページをめくる際のフレーズデータを登録する。そのため、利用者から表示ページ変更の操作を受けた場合(S210でYES)は、楽譜表示装置30は、表示するページのページ情報を変更し(S212)、表示するページを変更する。
【0083】
表示部40にフレーズデータを登録するページが表示されている時に開始ボタン62が押される(S214でYES)と、楽譜表示装置30は、カメラ44を起動し(S216)、画像バッファをクリアする(S218)。その後、利用者がフレーズデータとして登録する部分の演奏を行ない、マイクロフォン42が演奏音を検出したことに応答して画像データのバッファリングを開始する(S220でYES、S222)。利用者が演奏を止めて演奏音が検出されなくなるとバッファリングを終了する(S224でNO、S226)。
【0084】
フレーズを演奏後、演奏したフレーズをフレーズデータとして登録するという操作を受けた場合(S228でYES)、現在表示しているページに関するフレーズデータを、カメラ44を用いて取込んだ画像データから作成して登録する(S230)。この時作成されるフレーズデータには、バッファリングされた演奏画像データの中から抽出された特徴画像群、特徴画像間の時間間隔情報、及び利用者が設定する待機時間が含まれる。
【0085】
表示するページに対してのフレーズデータの登録終了を選択すると(S232でYES)、カメラ44が停止し(S234)、楽譜データの別ページのフレーズデータを登録するかを選択する(S236)。別ページのフレーズデータを登録する場合は、フレーズデータを登録するページを表示させ、開始ボタン62を押してフレーズデータの登録を行なう。ページめくりに必要な分のフレーズデータの登録が終わったら、利用者はモードの終了を選択し(S238でYES)、フレーズ登録モードを終了する。
【0086】
<演奏モード>
楽譜表示装置30は、演奏モードが選択されると、記憶部48に記憶されている楽譜データのタイトルをリスト表示する(S402)。このリストから楽譜データの選択を受けると(S404でYES)、選択された楽譜データと、楽譜データに関連付けて登録されたフレーズデータとを記憶部48から読出し、選択された楽譜データの1ページ目を表示部40に表示する(S406、S408)。利用者からページ変更の操作を受けた場合(S410でYES)は、表示するページのページ情報を変更し(S412)、表示部40に表示するページを変更する。
【0087】
楽譜表示装置30は、開始ボタン62が押されると(S414でYES)、カメラ44を起動し(S416)、画像バッファをクリアする(S418)。その後、楽譜表示装置30は、終了ボタン60が押されるまで、カメラ44が撮影する演奏画像データのバッファリングを行ない(S422)、バッファリングされた演奏画像データと表示する楽譜のページに登録されたフレーズデータとの照合処理を行ない(S424)、フレーズが一致したかの判定を行なう(S426)ことを繰返す。
【0088】
フレーズデータの照合処理は、表示しているページ情報を取得し(S502)、バッファリングされる最新の演奏画像データと表示しているページのフレーズデータの最終の特徴画像Pn[Mn]とを比較し、両画像が類似しているかを判定する(S504、S506)。類似していると判定された場合(S506でYES)、フレーズデータ中の特徴画像の順番を表す変数mにMn−1を設定し(S508)、バッファから類似しているかの判定処理で参照された演奏画像データの、直前の演奏画像データを取得して(S510)、取得した演奏画像データと特徴画像Pn[m]とを比較する(S512)。画像を比較した結果、両画像が類似していないと判定された場合(S514でNO)、前回類似していると判定された演奏画像データがバッファリングされた時間と、取得した画像がバッファリングされた時間との時間間隔がTn[m]+ΔTを超えたか否かを判定する(S524)。時間間隔Tn[m]+ΔTを超えていない(S524でNO)と判定された場合は、参照された演奏画像データのさらに1つ前の演奏画像データをバッファから取得して、再度特徴画像Pn[m]との比較を行なう。時間間隔Tn[m]+ΔTを超えたと判定された場合は、フレーズは一致しないと判定し(S526)、制御をS424に進める。
【0089】
画像を比較した結果、両画像が類似していると判定された場合(S514でYES)、前回類似していると判定された演奏画像データがバッファリングされた時間と、取得した画像がバッファリングされた時間との時間間隔がTn[m]−ΔTより小さいか否かを判定する(S516)。時間間隔がTn[m]−ΔTより小さいと判定された場合(S516でYES)は、フレーズは一致しないと判定し、制御をS424に進める。時間間隔がTn[m]−ΔTより小さくないと判定された場合(S516でNO)は、変数mにm−1の値を設定し(S518)、変数mがm=0を満たすか否かを判定する(S520)。m=0を満たさないと判定された場合、特徴画像Pn[m]とバッファリングされた演奏画像データとを比較して、両画像が類似しているかを判定するために上記の処理を繰返す。また、m=0を満たすと判定された場合、すなわち、演奏画像データが、登録されたフレーズデータに含まれる特徴画像の順番と時間間隔とに合わせて現れた時、フレーズは一致したと判定し(S522)、制御をS424に進める。
【0090】
フレーズ照合処理においてフレーズが一致していないと判定された場合、終了ボタン60が押されるまで演奏画像データのバッファリングを行ないフレーズデータの照合処理を繰返す。フレーズ照合処理においてフレーズが一致したと判定された場合、フレーズデータに設定した時間分だけ表示ページをそのままにし(S428)、設定時間経過後、表示していたページの次のページを表示する(S430)。表示ページ変更後画像バッファを一旦クリアし、終了ボタン60が押されるまで表示されているページに関してのフレーズデータ照合処理を繰返す。
【0091】
以上のように、この楽譜表示装置30においては、フレーズ登録モードにおいては、演奏者の演奏音を検出する間の演奏画像をバッファリングし、その中から特徴となる画像を抽出して、特徴画像と特徴画像間の時間間隔とをページめくりのためのフレーズデータとして記憶する。一方、実際に演奏を行なう時の演奏モードにおいては、演奏時における演奏者の動き(演奏画像データ)をカメラによって撮り続け、その画像が登録されたフレーズデータと一致するかを判定する。一致すると判定された場合はページ変更動作を行なう。新しく表示されたページでも、そのページに登録されたフレーズデータに関して、演奏者の動きが一致するかを判定する。
【0092】
このように、フレーズ登録モードでは音を検出する間の演奏画像から特徴画像を抽出することから、演奏者がページめくりのフレーズを実際に演奏している時の画像を正確に得ることができる。一方、演奏モードにおいて登録されたフレーズデータと一致するかを判定する時は、バッファリングされた画像のみを参照し、登録されたフレーズデータの画像と同じ順番で現れるかによって判定する。ページめくり動作の判定が、演奏者の画像によって行なわれることから、同時に演奏する楽器の音による影響を受けることがない。その結果、同時に演奏する楽器及び人数によらず、演奏の際に特別な動作を行なわなくても、利用者の所望するタイミングに自動的にページ切替えが可能な楽譜表示装置を提供することができる。
【0093】
表示部40は、LCDに限定するものではない。有機EL(Electro−Luminescence)などの、薄型の表示デバイスであればよい。また、表示部40に重畳するようにタッチパネルを設け、操作部38として用いても良い。
【0094】
[第2の実施の形態]
第2の実施の形態に係る楽譜表示装置では、表示するページに対して複数個のフレーズデータを登録することができる。そして、それぞれのフレーズデータの演奏回数によってフレーズ演奏後に表示するページを任意に設定することができる。第2の実施の形態に係る楽譜表示装置について、ハードウェア構成は第1の実施の形態の楽譜表示装置30と同一であるが、CPU32で実行されるプログラムが異なる。
【0095】
―構成―
以下、特定の楽譜を例に本実施の形態に係る楽譜表示装置の構成を説明する。
【0096】
図7を参照して、楽譜データは3ページで構成され、1ページ目にはフレーズデータ11(「B」と記す)を、2ページ目にはフレーズデータ21(「D」と記す)及びフレーズデータ22(「E」と記す)を、3ページ目にはフレーズデータ31(「G」と記す)を含む。また楽譜の進行を説明するために、楽譜データの1ページ目最初からの部分をA、2ページ目最初からの部分をC、3ページ目最初からの部分をFとする。
【0097】
図7に示す楽譜データ例において、2ページ目のフレーズデータ21はリピート箇所である。フレーズデータ21は、1回目に現れた時には楽譜の最初(A)に戻り、2回目に現れた時には戻らずにそのまま先に進む。フレーズデータ11は演奏回数が3回目までは2ページ目を表示する。フレーズデータ22は1回目に現れた時は3ページ目を表示し、2回目以降はページ変更を行なわない。フレーズデータ31は、1回目に現れた時には楽譜の最初(A)に戻る。
【0098】
この楽譜データ例にしたがった時の進行順は、「A→B→C→D→A→B→C→D→E→F→G→A→B→C→D→E」となる。また、この時のページの表示順は、「1→2→1→2→3→1→2」となる。
【0099】
本実施の形態では、図8に示すような変更先テーブル250を用いる。図8を参照して、変更先テーブル250は、変更元ページと、フレーズデータと、それぞれのフレーズデータの演奏回数ごとの表示ページとを記録する。第2の実施の形態の楽譜表示装置では、変更先テーブル250にフレーズデータの演奏回数とそのときに表示するページとを予め設定する。変更先テーブル250に、演奏回数の設定がない場合は、そのフレーズが演奏されても表示するページを変更しない。図8の設定例では、2ページ目にあるフレーズデータ21は、演奏回数が1回目の時には次に1ページを表示する。フレーズデータ21が2回目に演奏されるときには、変更先テーブル250に設定がされていないため、ページ変更を行なわない。
【0100】
また、同一のページに同じフレーズデータは登録しないものとする。ページに同じフレーズデータを用いる場合、例えば、図8において、フレーズデータ21とフレーズデータ22とで同じものを用いる場合は、1つのフレーズデータとして考え、演奏回数によりページの変更先を設定することで対処することができるからである。登録するフレーズデータが別のページにあるならば、同じフレーズデータを用いても問題ない。
【0101】
図9を参照して、Pはページ、Fはフレーズデータ、「/」以下の数字はフレーズの演奏回数を表す。1ページ目に含まれるフレーズデータ11は、演奏回数1回から3回まではフレーズ演奏後に2ページ目を表示することを示す。2ページ目に含まれるフレーズデータ21は、1回目のフレーズ演奏後に1ページ目を表示することを示す。2ページ目に含まれるフレーズデータ22は、1回目のフレーズ演奏後に3ページ目を表示することを示す。3ページ目に含まれるフレーズデータ31は、1回目のフレーズ演奏後に1ページ目を表示することを示す。
【0102】
第2の実施の形態における楽譜表示装置は、第1の実施の形態の楽譜表示装置30と同様に演奏モードとフレーズ登録モードとの2つの動作モードを持つ。ただし、第2の実施の形態における楽譜表示装置のフレーズ登録モードでは、表示しているページに対して、異なるフレーズデータを登録することが可能である。第2の実施の形態の楽譜表示装置においてフレーズデータを登録する時は、フレーズの演奏回数によって次にどのページを表示するかの設定を行なう。
【0103】
図10を参照して、第2の実施の形態における楽譜表示装置において、フレーズ登録モードが選択され、利用者から登録する楽譜データの選択を受けたときに実行されるプログラムの制御構造を説明する。このプログラムは、楽譜データ記憶部52から選択された楽譜データの情報を読出すS602と、S602に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS604とを含む。
【0104】
S602では、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S604では、画像データを表示するとともに、表示する画像データのページ情報を記憶する。S602に続いてS604が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0105】
このプログラムはさらに、S604に続いて実行され、利用者により表示ページの変更操作があったか否かを判定し、判定結果に応じて制御の流れを分岐させるS606と、S606で変更操作があった(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS604に進めるS608と、S606で変更操作がなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS610とを含む。S610で開始ボタン62が押されていない(NO)と判定された場合は、制御はS606に戻る。
【0106】
S606では、選択ボタン66が押されると表示ページの変更操作があったと判定される。S608では、選択されたページのページ情報を記憶し、S604では選択されたページが表示部40に表示される。
【0107】
このプログラムはさらに、S610で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS612と、S612に続いて実行され、表示しているページに登録するフレーズデータの個数を表す変数aに0を設定するS614と、S614に続いて実行され、画像バッファの内容を消去するS616と、S616に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS622と、S622で演奏する音を検出した(YES)と判定された場合に実行され、カメラ44が撮影する画像データをバッファリングするS620と、S620に続いて実行され、マイクロフォン42が演奏者の演奏する音を検出したか否かを判定し、判定結果に応じて制御の流れを分岐させるS622と、S622で演奏する音を検出しない(NO)と判定された場合に実行され、カメラ44が撮影する画像データのバッファリングを終了するS624とを含む。S618において、演奏する音が検出されていない(NO)と判定された場合、制御はS618に戻り、演奏音が検出されるのを待つ。S622で演奏音が検出されている(YES)と判定された場合、制御はS620に戻る。
【0108】
このプログラムはさらに、S624に続いて実行され、演奏したフレーズをフレーズデータとして登録するという操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS626と、操作を受けた(YES)と判定された場合に実行され、変数aにa+1の値を設定するS628と、S628に続いて実行され、カメラ44を用いて取込んだ画像データからフレーズデータを作成し、現在表示しているページのa番目のフレーズデータとして登録するS630と、S630に続いて実行され、S630で登録したフレーズデータに対して演奏者からフレーズデータ情報の設定を受けるS632と、S632実行後、又はS626で操作を受けていない(NO)と判定された場合に実行され、演奏者から別フレーズ登録の操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS636と、S636で操作を受けていない(NO)と判定された場合に実行され、カメラ44の動作を停止するS638と、S638に続いて実行され、演奏者から別ページのフレーズデータの登録操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS640とを含む。S636で操作を受けた(YES)と判定された場合は、制御はS616に進む。S640で別ページのフレーズデータの登録操作を受けた(YES)と判定された場合は、制御はS604に進む。S640で別ページのフレーズデータの登録操作を受けていない(NO)と判定された場合は、このプログラムを終了する。
【0109】
S630におけるフレーズデータの登録に関して、第2の実施の形態で用いるフレーズデータは、第1の実施の形態のフレーズデータと同じ構成を持つ。図10のプログラムにおいては、S612で開始ボタン62が押され、演奏音が検出されてから演奏音の検出がされなくなるまでの間に、カメラ44によって撮影されバッファリングされた演奏画像データの中から特徴画像が抽出される。そして、抽出された特徴画像群、特徴画像間の時間間隔情報、及び特徴画像数を、楽譜の表示ページに対するa番目のフレーズデータとして登録する。
【0110】
S632で設定されるフレーズデータ情報は、演奏後の待機時間、及び登録するフレーズデータの演奏回数に対応して表示する楽譜のページ情報などを含む。待機時間の設定がされない場合はデフォルト値(例えば0秒)が適用される。
【0111】
図11を参照して、第2の実施の形態における楽譜表示装置において、演奏モードが選択されたときに実行されるプログラムの制御構造を説明する。このプログラムは、記憶部48に記憶されている楽譜データ名を表示部40にリスト表示するS702と、S702に続いて実行され、表示されたリストから楽譜データの選択操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS704と、S704で選択操作を受けた(YES)と判定された場合に実行され、選択された楽譜データの情報を楽譜データ記憶部52からと、選択された楽譜データに関するフレーズデータをフレーズデータ記憶部54からそれぞれ読出すS706と、S706に続いて実行され、選択された楽譜データのページ画像データを表示部40に表示するS708とを含む。
【0112】
S706では、楽譜データの情報として、選択された楽譜データの画像データと、楽譜データのページ情報とが読出される。S708では、画像データを表示するとともに、表示する画像データのページ情報を同時に記憶する。S706に続いてS708が実行される場合は、楽譜データの1ページ目を表示し、表示ページ情報として1を記憶する。
【0113】
このプログラムはさらに、S708に続いて実行され、利用者による表示ページの変更操作を受けたか否かを判定し、判定結果に応じて制御の流れを分岐させるS710と、S710で変更操作を受けた(YES)と判定された場合に実行され、表示するページ情報を設定し、制御をS708に進めるS712と、S710で変更操作を受けなかった(NO)と判定された場合に実行され、開始ボタン62が押されたか否かに応じて制御の流れを分岐させるS714とを含む。S714で開始ボタン62が押されていない(NO)と判定された場合は、制御はS710に戻る。
【0114】
S710では、選択ボタン66が押されると表示ページの変更操作を受けたと判定される。S712では、選択されたページのページ情報を記憶し、S708では、選択されたページが表示部40に表示される。
【0115】
このプログラムはさらに、S714で開始ボタン62が押された(YES)と判定された場合に実行され、カメラ44を起動するS716と、S716に続いて実行され、楽譜データに登録されたフレーズデータのカウント値にそれぞれ0を代入して初期化を行なうS718と、S718に続いて実行され、画像バッファの内容を消去するS720と、S720に続いて実行され、終了ボタン60が押されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS722と、S722で終了ボタン60が押されていない(NO)と判定されたときに実行され、カメラ44が撮影する演奏画像データのバッファリングを行なうS724と、S724に続いて実行され、S724でバッファリングされた演奏画像データを用いてフレーズデータ照合処理を行なうS726と、S726に続いて実行され、S726におけるフレーズデータ照合処理において演奏画像データと登録されたフレーズデータとで一致するフレーズがあるか否かを判定し、判定結果に応じて制御の流れを分岐させるS728と、S728で一致するフレーズデータがある(YES)と判定されたときに実行され、一致すると判定されたフレーズデータのカウント値に1を加えるS730と、S730に続いて実行され、変更先テーブル250を参照し、該当するフレーズデータに関してカウント数に対応するページ変更先が登録されているか否かに応じて制御の流れを分岐させるS732と、S732でページ変更先が登録されている(YES)と判定された場合に実行され、該当するフレーズデータに設定された時間だけ表示画面をそのままで待機するS734と、S734に続いて実行され、変更先テーブル250に登録されたページの画像データを表示し、制御をS720に進めるS736とを含む。S728で一致するフレーズがない(NO)と判定された場合、制御はS722に戻る。S732でカウント数に対応するページ変更先が登録されていない(NO)と判定された場合は、制御はS722に戻る。
【0116】
S726では、図6に示すフローチャートで示すプログラムを実行してフレーズデータ照合処理を行なう。図6を参照して、第2の実施の形態では、図6に示すプログラムのS522又はS526を実行後、制御は図11のS728に戻る。また、S726のフレーズデータ照合処理は、表示部40に表示されるページに登録されたすべてのフレーズデータに対して照合処理を行ない、一致するフレーズデータの有無及び一致するフレーズデータ名の検出を行なう。先述したように、1つのページには同じフレーズデータは存在しない。そのため、S726では図6に示すプログラムを用いての照合処理を該ページに登録されたフレーズデータ全てに対して同時に行なって、フレーズデータの照合及び一致するフレーズデータ名の検出を行なう。
【0117】
このプログラムはさらに、S722で終了ボタン60が押された(YES)と判定された場合に実行され、カメラ44の動作を停止するS738と、S738に続いて実行され、演奏モードを終了するか否かの選択画面を表示し、利用者から演奏モードの終了が選択されたか否かを判定し、判定結果に応じて制御の流れを分岐させるS740とを含む。S740で、終了が選択されていない(NO)と判定された場合、制御はS702に進む。S740で終了が選択された(YES)と判定された場合、このプログラムは終了する。
【0118】
―動作―
第2の実施の形態に係る楽譜表示装置は、以下のように動作する。
【0119】
<フレーズ登録モード>
フレーズデータを登録する前に、楽譜の画像データを登録する。楽譜の画像データの登録に関しては、第1の実施の形態の楽譜表示装置30と同じであるため、説明を繰返さない。
【0120】
第2の実施の形態における楽譜表示装置は、フレーズ登録モードが選択され、フレーズデータを登録する楽譜タイトルの選択を受けると、楽譜データを読出し、表示部40に選択された楽譜データの1ページ目を表示する(S602、S604)。また、利用者から表示ページ変更の操作を受けた場合(S606でYES)は、表示するページのページ情報を変更し(S608)、表示部40に表示するページを変更する。
【0121】
フレーズデータの登録を行なうときは、表示部40に所望のページが表示されている時に開始ボタン62を押す(S610でYES)。すると、カメラ44を起動し(S612)、表示するページに登録するフレーズデータの個数を表す変数aに0の値を設定し(S614)、画像バッファをクリアする(S616)。
【0122】
その後、利用者はフレーズデータとして登録する部分の演奏を行なう。マイクロフォン42で演奏音が検出され続けている間は画像データのバッファリングを行なう(S618でYES、S620)。利用者が演奏を止めて演奏音が検出されなくなるとバッファリングを終了する(S622でNO、S624)。
【0123】
フレーズを演奏後、利用者から演奏したフレーズをフレーズデータとして登録するという操作を受けた場合(S626でYES)、変数aに1を加え(S628)、表示するページのa番目のフレーズデータとして、フレーズを演奏した画像データからフレーズデータを作成し、登録する(S630)。この時、作成されるフレーズデータには、バッファリングされた演奏画像データの中から抽出された特徴画像群、及び特徴画像間の時間間隔情報が含まれる。第2の実施の形態の楽譜表示装置はさらに、登録するフレーズデータに関する設定情報を利用者から受ける(S632)。フレーズデータに関する設定情報としては、演奏後の待機時間、及び登録するフレーズデータの演奏回数に対応して次に表示する楽譜のページ情報などがある。
【0124】
フレーズデータ登録後、又は演奏したフレーズデータをとり直すためにデータを登録しないと利用者が選択した場合(S626でNO)、別のフレーズデータを登録するか否かを選択する。別のフレーズデータを登録する(S636でYES)場合、画像バッファをクリアして、上記の動作を繰返す。
【0125】
別のフレーズデータを登録しない(S636でNO)と選択された場合、カメラ44を停止し(S638)、別のページのフレーズデータを登録するかを選択する(S640)。別ページのフレーズデータを登録する場合は、フレーズデータを登録するページを表示させ、開始ボタン62を押してフレーズデータの登録を行なう。フレーズデータの登録が終わり、他のページの登録を行なわない場合は(S640でNO)、フレーズ登録モードを終了する。
【0126】
<演奏モード>
第2の実施の形態における楽譜表示装置は、演奏モードが選択されると、記憶部48に記憶されている楽譜データのタイトルをリスト表示する(S702)。このリストから楽譜データの選択を受けると(S704でYES)、選択された楽譜データと、楽譜データに関連付けて登録されたフレーズデータとを記憶部48から読出し、選択された楽譜データの1ページ目を表示部40に表示する(S706、S708)。利用者からページ変更の操作を受けた場合(S710でYES)は、表示するページのページ情報を変更し(S712)、表示部40に表示するページを変更する。
【0127】
第2の実施の形態における楽譜表示装置は、開始ボタン62が押されると(S714でYES)、カメラ44を起動する(S716)。第2の実施の形態の楽譜表示装置は、楽譜データに登録されたフレーズデータのそれぞれの演奏回数カウント値に0を代入して初期化を行ない(S718)、画像バッファをクリアする(S720)。その後、第2の実施の形態の楽譜表示装置は、終了ボタン60が押されるまで、カメラ44が撮影する演奏画像データのバッファリングを行ない(S724)、バッファリングされた演奏画像データと表示するページに関連付けて登録された全てのフレーズデータとの照合処理を行ない(S726)、一致するフレーズがあるか否かの判定を行なう(S728)。
【0128】
フレーズ照合処理の結果、一致するフレーズがないと判定された場合は、終了ボタンが押されるまで演奏画像データのバッファリングを続け、フレーズ照合処理を繰返す。フレーズ照合処理により一致するフレーズがあると判定された場合、一致すると判定されたフレーズデータの演奏回数カウント値に1を加え(S730)、変更先テーブル250を参照し、一致すると判定されたフレーズデータの演奏回数に対してページの変更先が登録されているかを判定する(S732)。変更先テーブル250に、変更先が登録されていない場合は表示ページの変更を行なわず、演奏画像データのバッファリングを続けフレーズデータ照合処理を繰返す。
【0129】
変更先テーブル250に変更先が登録されている場合は、フレーズが一致すると判定されたときからそのフレーズデータに設定された時間分だけ待機し(S734)、登録されたページを表示する(S736)。登録されたページに表示変更後、画像バッファをクリアする。その後、表示されたページに登録されたフレーズデータと、あらたにバッファリングされる演奏画像データとでフレーズ照合処理を繰返す。
【0130】
演奏モードでは、終了ボタン60が押されるまで演奏画像データのバッファリングを行ないフレーズデータの照合処理を繰返す。終了ボタン60が押されるとカメラ44の動作を停止する(S738)。その後、演奏モードの終了が選択されると(S738)、演奏モードを終了する。
【0131】
以上のように、第2の実施の形態に係る楽譜表示装置は、フレーズ登録モードにおいて、1つのページに対しフレーズデータに1又は複数個のフレーズデータを登録する。そのフレーズデータそれぞれに対して、フレーズデータの演奏回数ごとに次に表示するページを設定する。演奏モードにおいては、フレーズデータの演奏回数をカウントし、フレーズデータに対して設定された演奏回数ごとの表示設定にしたがって表示するページを変更する。
【0132】
このように1つのページに対して1又は複数個のフレーズデータを登録し、演奏回数に応じて次に表示するページを変更させることで、リピート(繰返し)記号がついている楽譜に対しても、演奏順に沿ってページを表示することができる。その結果、利用者の所望するタイミングで自動的にページ切替えが可能で、かつ演奏順に沿った譜面の表示が可能な楽譜表示装置を実現することができる。
【0133】
また、図7〜図9に示した楽譜において、演奏順にしたがって楽譜を表示させると「1→2→1→2→3→1→2」とページ遷移する。このような楽譜例の場合、同じページが複数存在すると考えて7ページ構成の楽譜として考えることもできる。7ページ構成の楽譜として考えた場合、それぞれのページに対してフレーズデータを設定する必要がある。図7〜図9に示されるような順序で楽譜を表示する場合、6つのフレーズデータを登録する必要がある。第2の実施の形態のように、フレーズデータの演奏回数によって表示するページを変更させると、上記の例においては、4つのフレーズデータとそれぞれのフレーズデータ毎の変更先の登録とでページの表示を実現することができる。フレーズデータは、特徴画像群と時間間隔情報とで構成されるため、フレーズデータ1つあたりで使用される情報量は大きい。第2の実施の形態のように、演奏回数で表示画像を変更させることで、少ないフレーズデータの登録個数で複雑な表示順序に対応することができる。その結果、より少ない情報量で楽譜の表示順を設定可能な楽譜表示装置を実現することができる。
【0134】
今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味および範囲内でのすべての変更を含む。
【符号の説明】
【0135】
30 楽譜表示装置
32 CPU
40 表示部
42 マイクロフォン
44 カメラ
48 記憶部
52 楽譜データ記憶部
54 フレーズデータ記憶部
60 終了ボタン
62 開始ボタン
66 選択ボタン
250 変更先テーブル
【特許請求の範囲】
【請求項1】
表示装置と、
楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、
被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、
演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、
指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を前記表示装置に表示するための楽譜表示手段と、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、
前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するためのページ変更手段とを含む、楽譜表示装置。
【請求項2】
第1及び第2の動作モードのいずれかを指定するための動作モード指定手段をさらに含み、
前記フレーズデータ記憶手段は、前記動作モード指定手段により前記第1の動作モードが指定されているときに、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けて前記フレーズデータとして記憶するための手段を含み、
前記フレーズ判定手段は、前記動作モード指定手段により前記第2の動作モードが指定されており、かつ、前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定して前記判定信号を出力するための判定手段を含む、請求項1に記載の楽譜表示装置。
【請求項3】
音声を検出するための音声検出手段をさらに含み、
前記画像取込手段は、前記音声検出手段が音声を検出していることに応答して、被写体の撮像を開始し、当該被写体の一連の画像データをリアルタイムで出力するための手段を含む、請求項1又は請求項2に記載の楽譜表示装置。
【請求項4】
計時開始時から所定の時間が経過すると時間満了信号を出力するための計時手段をさらに含み、
前記ページ変更手段は、
前記判定信号が前記第1の値となったことに応答して、前記計時手段に計時を開始させるための手段と、
前記計時手段からの前記時間満了信号に応答して、前記次の順番のページ画像を前記表示装置に表示するための手段とを含む、請求項1〜請求項3のいずれかに記載の楽譜表示装置。
【請求項5】
前記フレーズデータ記憶手段は、演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と、もしあれば当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報と関連付けてフレーズデータとして記憶するための手段を含み、
前記フレーズ判定手段は、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するか否かを判定して前記判定信号を出力するための判定手段と、
前記判定手段により前記演奏者の動きの特徴と一致すると判定されたフレーズデータを特定する情報を出力するための手段とを含み、
前記ページ変更手段は、前記判定信号が前記第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報により特定されるページ画像を前記表示装置に表示するための手段を含む、請求項1に記載の楽譜表示装置。
【請求項6】
前記ページ変更手段はさらに、前記判定信号が前記第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報がないときに、前記表示装置に表示されているページ画像について、前記ページ画像の順番により特定されるページ画像を前記表示装置に表示するための手段を含む、請求項5に記載の楽譜表示装置。
【請求項7】
前記楽譜の各ページ画像に関連付けられて記憶されるフレーズデータの各々について、当該フレーズデータに対応するページ画像の表示中に、前記出力するための手段により当該フレーズデータを特定する情報が出力された回数をカウントするためのカウント手段をさらに含み、
前記記憶するための手段はさらに、前記表示装置に表示されているページ画像と関連付けられているフレーズデータの各々について、前記カウント手段によりカウントされた回数と、次に表示すべきページ画像を特定する情報との組をさらに記憶し、
前記表示するための手段は、前記判定信号が前記第1の値となったことに応答して、前記出力するための手段により出力された情報により特定されるフレーズデータの、前記カウント手段によりカウントされた回数と組合されている情報により特定されるページ画像を前記表示装置に表示するための手段を含む、請求項5又は請求項6に記載の楽譜表示装置。
【請求項8】
表示装置と、
楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の表示順とともに記憶するための記憶手段と、
被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、
演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、
指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を前記表示装置に表示するための楽譜表示手段と、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示している楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、
前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するためのページ変更手段とを含む、楽譜表示装置における楽譜表示方法であって、
前記楽譜表示手段が、指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読出されたページ画像のうち、所定のページ画像を前記表示装置に表示するステップと、
前記フレーズ判定手段が、前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するステップと、
前記ページ変更手段が、前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するステップとを含む、楽譜表示方法。
【請求項9】
表示装置と、
被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、が接続されるコンピュータにより実行されると、当該コンピュータを、
楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、
演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、
指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を前記表示装置に表示するための楽譜表示手段と、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、
前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するためのページ変更手段として機能させる、コンピュータプログラム。
【請求項10】
請求項9に記載のコンピュータプログラムを記録した、コンピュータで読取可能な記録媒体。
【請求項1】
表示装置と、
楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、
被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、
演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、
指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を前記表示装置に表示するための楽譜表示手段と、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、
前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するためのページ変更手段とを含む、楽譜表示装置。
【請求項2】
第1及び第2の動作モードのいずれかを指定するための動作モード指定手段をさらに含み、
前記フレーズデータ記憶手段は、前記動作モード指定手段により前記第1の動作モードが指定されているときに、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴を、指定された楽譜名と、当該楽譜名に対応するページ画像のうちの指定されたページ画像と関連付けて前記フレーズデータとして記憶するための手段を含み、
前記フレーズ判定手段は、前記動作モード指定手段により前記第2の動作モードが指定されており、かつ、前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するか否かを判定して前記判定信号を出力するための判定手段を含む、請求項1に記載の楽譜表示装置。
【請求項3】
音声を検出するための音声検出手段をさらに含み、
前記画像取込手段は、前記音声検出手段が音声を検出していることに応答して、被写体の撮像を開始し、当該被写体の一連の画像データをリアルタイムで出力するための手段を含む、請求項1又は請求項2に記載の楽譜表示装置。
【請求項4】
計時開始時から所定の時間が経過すると時間満了信号を出力するための計時手段をさらに含み、
前記ページ変更手段は、
前記判定信号が前記第1の値となったことに応答して、前記計時手段に計時を開始させるための手段と、
前記計時手段からの前記時間満了信号に応答して、前記次の順番のページ画像を前記表示装置に表示するための手段とを含む、請求項1〜請求項3のいずれかに記載の楽譜表示装置。
【請求項5】
前記フレーズデータ記憶手段は、演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と、もしあれば当該ページ画像の次に表示すべきページ画像を特定する次ページ特定情報と関連付けてフレーズデータとして記憶するための手段を含み、
前記フレーズ判定手段は、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータのいずれかと一致するか否かを判定して前記判定信号を出力するための判定手段と、
前記判定手段により前記演奏者の動きの特徴と一致すると判定されたフレーズデータを特定する情報を出力するための手段とを含み、
前記ページ変更手段は、前記判定信号が前記第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報により特定されるページ画像を前記表示装置に表示するための手段を含む、請求項1に記載の楽譜表示装置。
【請求項6】
前記ページ変更手段はさらに、前記判定信号が前記第1の値となったことに応答して、出力するための手段により出力された情報により特定されるフレーズデータに対する次ページ画像特定情報がないときに、前記表示装置に表示されているページ画像について、前記ページ画像の順番により特定されるページ画像を前記表示装置に表示するための手段を含む、請求項5に記載の楽譜表示装置。
【請求項7】
前記楽譜の各ページ画像に関連付けられて記憶されるフレーズデータの各々について、当該フレーズデータに対応するページ画像の表示中に、前記出力するための手段により当該フレーズデータを特定する情報が出力された回数をカウントするためのカウント手段をさらに含み、
前記記憶するための手段はさらに、前記表示装置に表示されているページ画像と関連付けられているフレーズデータの各々について、前記カウント手段によりカウントされた回数と、次に表示すべきページ画像を特定する情報との組をさらに記憶し、
前記表示するための手段は、前記判定信号が前記第1の値となったことに応答して、前記出力するための手段により出力された情報により特定されるフレーズデータの、前記カウント手段によりカウントされた回数と組合されている情報により特定されるページ画像を前記表示装置に表示するための手段を含む、請求項5又は請求項6に記載の楽譜表示装置。
【請求項8】
表示装置と、
楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の表示順とともに記憶するための記憶手段と、
被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、
演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、
指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を前記表示装置に表示するための楽譜表示手段と、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示している楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、
前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するためのページ変更手段とを含む、楽譜表示装置における楽譜表示方法であって、
前記楽譜表示手段が、指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読出されたページ画像のうち、所定のページ画像を前記表示装置に表示するステップと、
前記フレーズ判定手段が、前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するステップと、
前記ページ変更手段が、前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するステップとを含む、楽譜表示方法。
【請求項9】
表示装置と、
被写体を撮像した一連の画像データをリアルタイムで出力するための画像取込手段と、が接続されるコンピュータにより実行されると、当該コンピュータを、
楽譜の一連のページ画像を、楽譜名と、当該楽譜の一連のページ画像の順番とともに記憶するための記憶手段と、
演奏者があるフレーズを演奏した時の前記演奏者の動きの特徴を、楽譜名と、当該楽譜名に対応するページ画像と関連付けてフレーズデータとして記憶するためのフレーズデータ記憶手段と、
指定された楽譜名に対応する楽譜の一連のページ画像を前記記憶手段から読出し、読みだされたページ画像のうち、所定のページ画像を前記表示装置に表示するための楽譜表示手段と、
前記表示装置に楽譜のページ画像が表示されている時に、前記画像取込手段の出力から抽出される前記演奏者の動きの特徴が、前記表示装置に表示されている楽譜のページ画像と関連付けられたフレーズデータと一致するときには第1の値を、それ以外のときには第2の値を、それぞれとる判定信号を出力するためのフレーズ判定手段と、
前記判定信号が前記第1の値となったことに応答して、前記表示装置に表示されているページ画像の次の順番のページ画像を前記表示装置に表示するためのページ変更手段として機能させる、コンピュータプログラム。
【請求項10】
請求項9に記載のコンピュータプログラムを記録した、コンピュータで読取可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−13446(P2011−13446A)
【公開日】平成23年1月20日(2011.1.20)
【国際特許分類】
【出願番号】特願2009−157379(P2009−157379)
【出願日】平成21年7月2日(2009.7.2)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成23年1月20日(2011.1.20)
【国際特許分類】
【出願日】平成21年7月2日(2009.7.2)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]