説明

信号生成装置、電子機器制御装置およびプログラム

【課題】本発明は、コマンド生成用のまばたきと通常の身体反応としてのまばたきを区別するための追加的構成を必要としない新規な電子機器制御装置を提供することを目的とする。
【解決手段】
眼瞼の閉動作に伴って生じる正電位の検出時刻と該眼瞼の開動作に伴って生じる負電位の検出時刻の差分時間が信号生成開始判断のための閾値範囲にあるか否かを判断し、当該差分時間が閾値範囲にある場合に、正電位の検出時刻または負電位の検出時刻の少なくとも一方を基準として信号生成時間を定義し、当該信号生成時間内におけるまばたきのみをコマンド生成用のまばたきとして検出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、信号生成装置に関し、より詳細には、眼瞼の開閉動作に伴って生じる筋電位を利用して信号を生成する信号生成装置に関する。
【背景技術】
【0002】
従来、ハンズフリーで電子機器を操作する方法が種々検討されている。この点につき、特開2009−282650号公報(特許文献1)は、人のまばたき動作をカメラや赤外線センサで検出し、その動作パターンとスイッチコマンドを括りつけることによって機器の操作を実現するインターフェース装置を開示する。しかしながら、特許文献1のインターフェース装置のユーザは、コマンド生成のための意識的なまばたきと通常の身体反応としてのまばたきを区別するために、提示されるリズムと同期したまばたきを要求される。したがって、特許文献1のインターフェース装置においては、ユーザがいつ機器を操作するか分からないので、ユーザに対して、常にリズムを提示する必要があり、そのための追加的構成(例えば、リズムを画像で提示するディスプレイ装置等)が必須となるという問題があった。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−282650号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、上記従来技術における課題に鑑みてなされたものであり、本発明は、コマンド生成用のまばたきと通常の身体反応としてのまばたきを区別するための追加的構成を必要としない新規な電子機器制御装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明者らは、コマンド生成用のまばたきと通常の身体反応としてのまばたきを区別するための追加的構成を必要としない新規な電子機器制御装置につき鋭意検討した結果、眼瞼の開閉動作に伴って生じる筋電位に着目した。検討を重ねる過程において、本発明者らは、眼瞼の閉動作に伴って正電位が生じ、眼瞼の開動作に伴って負電位が生じる現象に着想を得、本発明に至ったのである。
【0006】
すなわち、本発明によれば、眼瞼の開閉動作に伴って生じる筋電位信号を筋電位検出手段から受信する筋電位信号受信部と、前記筋電位信号に基づいて眼瞼の閉動作に伴って生じる正電位の検出時刻と該眼瞼の開動作に伴って生じる負電位の検出時刻の差分時間が信号生成開始判断のための閾値範囲にあるか否かを判断し、前記差分時間が前記閾値範囲にある場合に、前記正電位の検出時刻または前記負電位の検出時刻の少なくとも一方を基準として信号生成時間を定義する信号生成時間定義部と、前記信号生成時間において検出された前記正電位または前記負電位の少なくとも一方に基づいてまばたきを検出するまばたき検出部と、前記信号生成時間におけるまばたきの有無を2値化した2値データを生成する2値データ生成部とを含む信号生成装置が提供される。
【0007】
さらに、本発明によれば、前記信号生成装置を含む電子機器制御装置であって、電子機器の入力内容および該入力内容に対応する制御コマンドと前記2値データとを紐付けた対応テーブルと、前記2値データに紐付けられた前記制御コマンドを前記電子機器に出力する制御コマンド出力部とを含む、電子機器制御装置が提供される。
【0008】
加えて、本発明によれば、眼瞼の開閉動作に伴って生じる筋電位信号を筋電位検出手段から受信する筋電位信号受信部と、前記筋電位信号に基づいて眼瞼の閉動作に伴って生じる正電位の検出時刻と該眼瞼の開動作に伴って生じる負電位の検出時刻の差分時間が信号生成開始判断のための閾値範囲にあるか否かを判断し、前記差分時間が前記閾値範囲にある場合に、前記正電位の検出時刻または前記負電位の検出時刻の少なくとも一方を基準として信号生成時間を定義する信号生成時間定義部と、前記信号生成時間において検出された前記正電位または前記負電位の少なくとも一方に基づいてまばたきを検出するまばたき検出部と、前記信号生成時間に受信した前記筋電位信号に基づいてまばたきの組み合わせに伴って生じる筋電位の時系列データである筋電位データを取得する筋電位データ取得部と、前記筋電位データのテンプレートを含むテンプレートデータと、電子機器の入力内容および該入力内容に対応する制御コマンドと前記テンプレートとを紐付けた対応テーブルと、前記テンプレートデータの中から取得された前記筋電位データと最も類似するテンプレートを選出するテンプレートマッチング部と、選出された前記テンプレートに紐付けられた前記制御コマンドを前記電子機器に出力する制御コマンド出力部とを含む、電子機器制御装置が提供される。
【発明の効果】
【0009】
上述したように、本発明によれば、コマンド生成用のまばたきと通常の身体反応としてのまばたきを区別するための追加的構成を必要としない新規な電子機器制御装置が提供される。
【図面の簡単な説明】
【0010】
【図1】本発明の電子機器制御システムを示す図。
【図2】第1の実施形態の電子機器制御装置の機能ブロックを示す図。
【図3】まばたきに伴って生じる筋電位を測定した筋電図。
【図4】トリガ動作において生じる筋電位を測定した筋電図。
【図5】第1の実施形態の電子機器制御装置が実行する処理を示したフローチャート。
【図6】第1の実施形態の電子機器制御装置が実行する処理を示したフローチャート。
【図7】第1の実施形態の電子機器制御装置が実行する処理を示したフローチャート。
【図8】ユーザが信号生成を意図しない状態における筋電位を測定した筋電図。
【図9】ユーザがトリガ動作から機器制御までを行った場合の筋電位を測定した筋電図。
【図10】2値化データの生成方法を説明するための概念図。
【図11】第1の実施形態におけるテレビ用の対応テーブルを示す図。
【図12】確認時間における筋電位を測定した筋電図。
【図13】長い確認時間を設ける場合の処理を示したフローチャート。
【図14】長い確認時間を設けた場合に測定される筋電図。
【図15】第2の実施形態の電子機器制御装置の機能ブロックを示す図。
【図16】第2の実施形態の電子機器制御装置が実行する処理を示したフローチャート。
【図17】第2の実施形態の電子機器制御装置が実行する処理を示したフローチャート。
【図18】テンプレートデータの概念図。
【図19】第2の実施形態におけるテレビ用の対応テーブルを示す図。
【発明を実施するための形態】
【0011】
以下、本発明を図面に示した実施の形態をもって説明するが、本発明は、図面に示した実施の形態に限定されるものではない。なお、以下に参照する各図においては、共通する要素について同じ符号を用い、適宜、その説明を省略するものとする。
【0012】
図1は、本発明の電子機器制御システム100を示す。電子機器制御システム100は、ユーザのまばたきによって電子機器40を制御することを目的とするものであり、パーソナル・コンピュータとして参照される電子機器制御装置20と、筋電位検出手段30を含んで構成されている。
【0013】
筋電位検出手段30は、ユーザの眼瞼の開閉動作に伴って生じる筋電位を検出・出力する機能を備えるものであればよく、本発明は、筋電位検出手段30の構成に限定されるものではない。好ましい実施形態においては、図1に例示するように、市販の脳波センサ搭載ヘッドフォンを転用して筋電位検出手段30を構成することができる。
【0014】
筋電位検出手段30は、検出した筋電位信号を、例えば、Bluetooth通信によって、逐次、電子機器制御装置20に送信する。電子機器制御装置20は、筋電位検出手段30から受信した筋電位信号に基づいて電子機器40を制御するための制御コマンドを生成し、赤外線通信などを使用してこれを電子機器40に送信する。なお、図1においては、筋電位検出手段30と電子機器制御装置20を分離して設け、両者間で遠隔通信を行わせる態様を例示したが、電子機器制御装置20の機能を搭載したマイコンを筋電位検出手段30に組み込んで一体化し、ユーザが装着する装置から電子機器40に対して直接的に制御コマンドを送信するように構成してもよい。
【0015】
図2は、本発明の第1の実施形態である電子機器制御装置20の機能ブロックを示す。電子機器制御装置20は、その主要部として信号生成装置10を含み、その他に、入力内容提示部22と、入力内容確定部26と、制御コマンド出力部28とを含んで構成されている。さらに、信号生成装置10は、筋電位検出手段30から受信した筋電位信号を時系列データとして取得する筋電位信号受信部12と、信号生成部14とを含んで構成されている。以上、本実施形態の電子機器制御装置20の構成について概説してきたが、各構成の具体的な説明に入る前に、本発明の基本原理について、以下説明する。
【0016】
図3は、まばたきに伴って生じる筋電位を測定した筋電図を示す。図3に示されるように、まばたきに伴って、正電位→負電位の順番で筋電位のピークが連続する波形が検出される。このことは、筋電位を監視することによって、まばたき動作を検出することができることを意味する。本発明者らは、この点に着目し、まばたきを利用して電子機器を制御するための構成について検討した。
【0017】
ここで、まばたきを利用して電子機器を制御するためには、通常の身体反応として人が無意識に行うまばたきと、信号生成のために意識的に行うまばたきを区別する必要がある。この点につき、本発明者らは、多数の被験者についてデータを取ったところ、無意識のまばたきによる筋電位の波形と意識的なまばたきによる筋電位の波形の間に有意な差がないことを見出した。この結果を受けて、本発明者らは、信号生成のための時間帯を予め定義するという方法を着想した。すなわち、予め定義した信号生成時間において検出されたまばたきのみを信号生成に利用し、それ以外の時間帯に検出されたものは、無意識のまばたきとして利用しないという方法である。
【0018】
しかしながら、この場合、信号生成時間をどのようにして定義するのかが問題となる。ここで、信号生成時間を定義することは、実質的に、信号生成時間の開始時刻を定義することと同義である。この点につき、本発明者らは、決められた時間にわたって意識的に眼瞼を閉じる動作をユーザによる信号生成開始の意思表示とするルールを考案して、この問題を解決した。以下、この点につき、図4を参照して説明する。
【0019】
図4(a)は、眼瞼が開いた状態から所定の時間にわたって眼瞼を閉じた後、再び眼瞼を開ける動作(以下、トリガ動作として参照する)において生じる筋電位を測定した筋電図を示す。図4(a)に示されるように、トリガ動作においては、まばたきの場合と同様に、最初に、眼瞼の閉動作に同期して正電位のピークが現れる。しかしながら、トリガ動作においては、まばたきのときのように正電位のピークに連続して負電位のピークは現れず、再び、眼瞼を開けた際にはじめて負電位のピークが現れる。
【0020】
ここで、ユーザが眼瞼を閉じている時間Tは、図4(b)に示すように、正電位の検出時刻t(+)と負電位の検出時刻t(-)の差分として導出することができる。また、この時間Tは、ユーザが目標時間に応じて意識的に眼瞼を開閉することよって制御できるものである。本発明者らは、この点に着目し、正電位の検出時刻t(+)と負電位の検出時刻t(-)の差分時間Tを信号生成開始判断のための指標とする構成に想到し、本発明に至ったのである。以上、本発明の基本原理について説明してきたが、続いて、図2に示した電子機器制御装置20の各構成が実行する処理について、図5〜図7に示すフローチャートに基づき、以下具体的に説明する。
【0021】
図2に示した信号生成装置10の筋電位信号受信部12は、電子機器制御装置20が電源ONの間、筋電位検出手段30から筋電位信号を受信し続ける。一方、信号生成装置10の信号生成部14は、信号生成時間を定義するための信号生成時間定義部16と、筋電位に基づいてまばたきを検出するためのまばたき検出部17と、検出されたまばたきに基づいて2値データを生成するための2値データ生成部18を含んで構成されており、各機能部が協働して図5および図6を示す処理を実行する。
【0022】
具体的には、電子機器制御装置20の電源ONに応答して、所定の初期化処理を実行した後(S101)、筋電位信号受信部12が受信する筋電位信号を監視して閾値電位Vth(+)を超える正電位が検出されるか否かを判断し(S102)、閾値電位Vth(+)を超える正電位が検出されるまで処理をループする(S102 No)。その結果、閾値電位Vth(+)を超える正電位が検出されると(S102 Yes)、その検出時刻t(+)をセットして(S103)、ステップ104に進む。
【0023】
ステップ104においては、同じく筋電位データに基づいて、今度は、閾値電位Vth(-)を下回る負電位が検出されるか否かを判断し(S104)、閾値電位Vth(-)を下回る負電位が検出されるまで処理をループする(S104 No)。その結果、閾値電位Vth(-)を下回る負電位が検出されると(S104 Yes)、その検出時刻t(-)をセットして(S105)、ステップ106に進む。
【0024】
ステップ106においては、正電位の検出時刻t(+)と負電位の検出時刻t(-)の差分時間Tを導出する。この差分時間Tは、先に説明したようにユーザが眼瞼を閉じていた時間に相当する。続いて、ステップ107において、導出された差分時間Tが信号生成開始判断のために予め定められた閾値範囲(Tmin<T<Tmax)にあるか否かが判定される。ここで、信号生成開始判断のために定義される時間T(ユーザが意識的に眼瞼を閉じていなければならない時間)が短すぎると、無意識に眼瞼を閉じてしまったような場合に信号生成の意志ありと誤って判断されてしまうので、時間Tは、そのような誤判断を回避するための適切な長さを設定することが好ましく、例えば、時間Tを4秒に設定することができる。その場合、4秒を中心とした適切な閾値範囲(例えば、3.7秒<T<4.3秒)を予め決めておく。
【0025】
なお、本実施形態においては、信号生成開始判断のための時間Tにつき、電子機器ごとに異なる閾値範囲を定めることができる。この場合、先のステップ106で導出された差分時間Tが第1の閾値範囲内にあった場合には、テレビ用の制御コマンドを生成し、差分時間Tが第2の閾値範囲内にあった場合は、オーディオ機器用の制御コマンドを生成するといったことが可能になる。
【0026】
一般に、信号生成を行うつもりのないユーザは、無意識にランダムなまばたきを行うため、その際の筋電図は、図8に例示するような態様になる。まばたきの際には、先に説明したように、正電位および負電位の各ピークが連続するので、ステップ106で導出される差分時間Tは非常に小さい値(約100 ミリ秒)となる。したがって、ステップ107における判定は、常に「No」となり、ステップ102に戻って処理がループする。つまり、ユーザが信号生成開始判断のために定義される時間T(例えば、4秒)を目標にして意識的に眼瞼を閉じる動作をしない限り、信号生成のための処理は実行されない。一方、導出された差分時間Tが信号生成開始判断のために予め定められた閾値範囲(Tmin<T<Tmax)にあった場合(S107 Yes)、ループを脱出し、図6に示すステップ201に進む。
【0027】
なお、以降の説明は、図5〜図7のフローチャートに加え、図9を適宜参照して行うものとする。本実施形態においては、信号生成時間が複数のタイムスロットに分割されているため、最初に、スロット番号nの値を「1」にセットした後(S201)、ステップ202において、第1のスロットの開始時刻を定義する。本発明においては、先のステップ103でセットし正電位の検出時刻t(+)または先のステップ105でセットした負電位の検出時刻t(-)の少なくとも一方を基準として第1のスロットの開始時刻を定義することができ、その方法については種々想定されることが理解されよう。本実施形態においては、先のステップ105でセットした負電位の検出時刻t(-)に適切な遅延時間Xを加えたものをタイムスロットの開始時刻ts(=信号生成時間の開始時刻)としてセットする(S202)。
【0028】
ここで、ステップ202で加算する遅延時間Xは、ユーザがトリガ動作を行った後、まばたきによる信号入力の準備を整えるまでに要する適切な時間を定義することが好ましく、例えば、約1 秒とすることができる。また、好ましい実施形態においては、この遅延時間Xを利用して、ユーザに対して信号入力の開始タイミングを案内することができる。例えば、図1に示すようなシステム構成の場合、「信号を入力して下さい」といった案内の音声をヘッドフォンに流し、遅延時間Xの終了に同期して当該案内を終了するように構成することができる。この場合、ユーザは、案内の終了に合わせて信号入力動作(すなわち、まばたき)を開始することができる。なお、システムの構成によっては、信号入力の開始タイミングの案内を映像や光を用いて行ってもよい。
【0029】
図9は、信号生成時間が4つのタイムスロットに分割され、各タイムスロットには時間αが割り当てられている例を示す。なお、本実施形態においては、ユーザに、スロット総数と各スロットの割当時間αを事前に教えておくか、そうでない場合は、適切なタイミング提示手段(音声等)を利用してタイムスロットのタイミングをユーザに知らせることが好ましい。この場合、ユーザは、タイムスロットを意識しながら、その間にまばたきをしたりしなかったりすることによって電子機器を制御する。以下、この点につき説明を続ける。
【0030】
ステップ202において、タイムスロットの開始時刻tsがセットされると、ステップ203に進み、タイムスロットの開始時刻tsに到達したか否かが判断され(S203)、開始時刻tsに到達するまで処理をループする(S203 No)。開始時刻tsに到達すると(S203 Yes)、ステップ204に進み、ユーザのまばたき動作を検出するための判定処理が実行される。先に説明したように、まばたきの際には、正電位のピークに連続して負電位のピークが現れる。したがって、まばたきを検出するためには、少なくともいずれか一方のピークを検出すれば足りる。この点につき、本実施形態のステップ204においては、閾値電位Vth(+)に基づいて正電位のピークを監視することによってまばたきを検出している。その他、同様に、負電位のピークを利用してまばたきを検出することもできる。また、検出精度を向上させるため、正電位に続いて負電位のピークが連続して検出されることをまばたき検出の条件としてもよい。
【0031】
ステップ204の判定結果が「Yes」である場合(すなわち、まばたきが検出された場合)、ステップ205に進み、スロット番号[n]の判定結果が[1]にセットされる。先のステップ201において、n=1にセットされているので、スロット番号[1]の判定結果が[1]にセットされる。一方、ステップ204の判定結果が「No」である場合(すなわち、まばたきが検出されない場合)、第1のタイムスロットの終了時刻に到達したか否かが判断される(S206)。ここで、第1のタイムスロットの終了時刻=タイムスロットの開始時刻ts+αとなる。したがって、ステップ206においては、現在時刻とタイムスロットの開始時刻ts+αを比較してタイムスロットの終了時刻に到達したか否かを判断する。タイムスロットの終了時刻に到達していない場合(S206 No)、ステップ204に戻って処理をループする。その結果、閾値電位Vth(+)を超える正電位を検出しないまま、タイムスロットの終了時刻に到達した場合には(S206 Yes)、ステップ207に進み、スロット番号[1]の判定結果が[0]にセットされる。以上、説明したように、上述した一連の処理により、各スロットにおけるまばたきの有無が2値化される。なお、本実施形態においては、1つのスロットにつき、2回以上のまばたきあった場合も判定結果は[1]となることを理解されたい。
【0032】
ステップ205またはステップ207のいずれか一方が終了すると、処理はステップ208に進み、スロット番号[n]の値がタイムスロットの総数(=4)であるか否かが判断される。このとき、n=1なので(S208 No)、ステップ209に進み、スロット番号[n]の値がインクリメントされた後、次のタイムスロット(第2のタイムスロット)の開始時刻tsをセットする(S210)。第2のタイムスロットの開始時刻ts(=第1のタイムスロットの開始時刻ts+α)がセットされると、処理は、ステップ203に戻り、上述した一連の処理をループする。そして、第4のタイムスロットの判定結果がセットされると(S205またはS207)、ステップ208において、スロット番号[n]の値が「4」であるか否かが判断される。この場合、n=4なので(S208 Yes)、処理はループから脱出してステップ211に進む。ステップ211においては、第1〜第4の各スロットについてセットされた判定結果に基づいて、2値データを生成する。
【0033】
信号生成時間において、図10の筋電図が示すような筋電位が取得された場合、スロット番号[1]〜[4]の判定結果は、それぞれ、[1]、[1]、[0]、[1]となる。これらの全判定結果をスロット番号で昇順にソートすることによって、2値データ[1101]が生成される。
【0034】
なお、上述した実施形態においては、信号生成時間を4つのタイムスロットに分割する構成に基づいて説明したが、本発明は、当然にしてこれに限定されるものではなく、用途に合わせて適切なタイムスロット数を設定することができる。信号生成時間をn個のタイムスロットに分割した場合は、2種類の2値データを定義できることが理解されよう。以上、信号生成装置10の信号生成部14が実行する処理について説明してきたが、次に、入力内容提示部22、入力内容確定部26、および制御コマンド出力部28が実行する処理について、以下、具体的に説明する。
【0035】
信号生成部14によって2値データが生成されると(S211)、処理は、図7に示すステップ301に進む。ステップ301においては、まず、入力内容確定部26が後述するまばたきカウンタNの値を「0」にセットする。続いて、ステップ302において、入力した内容をユーザに確認させるための時間(以下、確認時間として参照する)を定義する。具体的には、先のステップ206で比較に用いた最終スロットの終了時刻ts+αに適切な遅延時間Yを加えたものを確認時間の開始時刻tCSとしてセットする。
【0036】
ここで、ステップ302で加算する遅延時間Yは、ユーザのまばたきに基づいて生成された2値データに対応する入力内容をユーザに認知させた後、その是非を判断するのに要する適切な時間を定義することが好ましく、例えば、約1 秒とすることができる。本実施形態においては、この遅延時間Yを利用して、入力内容提示部22が先のステップ211で生成された2値データに対応する入力内容をユーザに提示する(S303)。具体的には、生成された2値データをキーとして予め用意された対応テーブル24(図2参照)を照会することによって、対応する入力内容を取得する。図11は、テレビ用の対応テーブル24を例示する。対応テーブル24は、2値データを格納するためのフィールド501、入力内容を格納するためのフィールド502、制御コマンドを格納するためのフィールド503を備えており、各入力内容とこれに対応するテレビの制御コマンドが2値データに紐付けられて管理されている。
【0037】
例えば、先のステップ211で生成された2値データが[0100]であった場合、ステップ303において、「『6ch』でよろしいですか?」といった内容の音声や画像が提示される。この問いかけに対し、本実施形態においては、ユーザがまばたきによって応答する。すなわち、予め定義された確認時間β内で行われるまばたきの数によって「入力内容確定」、「再入力」および「入力内容キャンセル」を定義する。例えば、図12(a)の筋電図に示すように、確認時間β内に2回まばたきをする動作を「入力内容確定」と定義し、図12(b)の筋電図に示すように、確認時間β内に3回以上まばたきをする動作を「再入力」と定義することができる。この場合、確認時間βは、3回のまばたきを連続して行うのに要する過不足ない適切な時間を定義することが好ましく、例えば、約1秒とすることができる。また、本実施形態においては、図12(c)の筋電図に示すように、確認時間β内に1回しかまばたきがなかった場合、または、一度もまばたきがない場合には、誤入力と判断して入力内容をキャンセルする。以下、図12に示した例に基づいて、説明を続ける。
【0038】
入力内容提示部22が入力内容をユーザに提示した後(S303)、処理はステップ304に進む。ステップ304においては、入力内容確定部26が確認時間の開始時刻tCSに到達したか否かを判断し、開始時刻tCSに到達するまで処理をループする(S304 No)。開始時刻tCSに到達すると(S304 Yes)、ステップ305に進み、筋電位信号受信部12が受信した筋電位信号の閾値電位Vth(+)を超える正電位に基づいてまばたきを検出する。なお、まばたきの検出は、先に説明したステップ204と同様に、負電位のピークを利用することもできるし、正電位に続いて負電位のピークが連続して検出されることをまばたき検出の条件としてもよい。
【0039】
ステップ305において、閾値電位Vth(+)を超える正電位が検出されない場合(S305 No)、処理はステップ306に進み、確認時間の終了時刻に到達したか否かが判断される。ここで確認時間が「β」であることから、確認時間の終了時刻=確認時間の開始時刻tCS+βとなる。したがって、ステップ306においては、現在時刻と確認時間の開始時刻tCS+βを比較して確認時間の終了時刻に到達したか否かを判断される。
【0040】
一方、ステップ305において、閾値電位Vth(+)を超える正電位が検出された場合(S305 Yes)、処理はステップ307に進み、まばたきカウンタ[N]の値がインクリメントされた後、ステップ306において、入力内容確認時間の終了時刻に到達したか否かが判断される。上述した一連の処理は、確認時間の終了時刻に到達するまでループする。その結果、確認時間β内に行われたまばたきの数がまばたきカウンタにセットされる。
【0041】
確認時間の終了時刻に到達すると、処理はループを脱出してステップ308に進む。ステップ308においては、まばたきカウンタ[N]の値が[3]以上であるか否かが判断される。N≧3の場合は(S308 Yes)、「再入力」と判断し、図6のステップ212に進んで、スロット番号nの値を「1」にリセットし、ステップ213において、現在時刻に適切な遅延時間Xを加えたものをタイムスロットの開始時刻tsにリセットした後、ステップ203以降の一連の処理を繰り返す。
【0042】
一方、N≠3の場合は(S308 No)、ステップ309に進む。ステップ309においては、まばたきカウンタ[N]の値が[2]であるか否かが判断される。N≠2の場合は、(S309 No)、「入力内容キャンセル」と判断され、図5のステップ101に戻る。一方、N=2の場合は(S309 Yes)、「入力内容確定」と判断し、ステップ310に進む。ステップ310においては、制御コマンド出力部28が先のステップ303で提示した入力内容に紐付けられた制御コマンドを電子機器(テレビ)に対して出力する。その後、処理は、図5のステップ101に戻り、各パラメータが初期化される。各パラメータが初期化された後は、引き続き、上述した一連の処理が繰り返される。
【0043】
以上、入力内容の確認処理について説明してきたが、本発明においては、入力内容の是非について、ユーザに余裕をもって判断させるために、確認時間βを10秒程度の長さとすることもできる。この場合、確認時間βとは別に入力時間γを定義する。入力時間γは、最大3回のまばたきを連続して行うのに要する過不足ない時間(例えば、約1 秒)とすることが好ましい。以下、確認時間βを長く取る場合の実施形態について、図13に示したフローチャートに基づいて具体的に説明する。なお、図13においては、図7について説明したのと同様の処理については、同じステップ番号を付してその説明を、適宜、省略するものとする。
【0044】
ステップ304において、確認時間の開始時刻tCSに到達したと判断されると(S304 Yes)、ステップ305に進み、閾値電位Vth(+)を超える正電位が検出されたか否かが判断される。閾値電位Vth(+)を超える正電位が検出されない場合は(S305 No)、確認時間の終了時刻(=確認時間の開始時刻tCS+β)に到達するまで処理はループする(S306 No)。
【0045】
一方、ステップ305において、閾値電位Vth(+)を超える正電位が検出された場合(S305 Yes)、ステップ311において、当該正電位の検出時刻tγSがセットされ、まばたきカウンタ[N]の値が[1]にセットされた後(S312)、処理は、ステップ313に進む。ステップ313においては、再び、閾値電位Vth(+)を超える正電位が検出されたか否かが判断され、閾値電位Vth(+)を超える正電位が検出されない場合は(S313 No)、最初の正電位の検出時刻tγSから入力時間γが経過するまで処理はループする(S315 No)。
【0046】
一方、ステップ313において、閾値電位Vth(+)を超える正電位が検出された場合(S313 Yes)、ステップ314において、まばたきカウンタ[N]の値がインクリメントされた後、ステップ315において、最初の正電位の検出時刻tγSから入力時間γが経過したか否かが判断される。ステップ315において、最初の正電位の検出時刻tγSから入力時間γが経過したと判断された場合は(S315 Yes)、ステップ308以降の処理に進む。
【0047】
上述した処理を採用することによって、図14(a)(b)に示すように、ある程度余裕をもった確認時間β(例えば、10秒)を設けることができ、また、ユーザの連続したまばたき(2回または3回)が検出された時点で、直ちに、確認時間βを終了させて、次の処理に進むことができる。
【0048】
なお、ユーザが無意識のうちに長く眼瞼を閉じてしまったような場合、装置がこれをトリガ動作と認識し、その結果、ユーザの意図しない信号生成が実行されてしまうことが想定されるが、本実施形態によれば、そのような場合でも、確認時間βの満了を待つことなく、誤入力をキャンセルすることができる。なぜなら、人は、一般に、3〜4秒に1回の割合で身体反応としてのまばたきをすることが知られており、ユーザが信号生成を意図していない場合であっても、確認時間βの満了前に1回のまばたきが検出されることが予想されるからである。つまり、本実施形態によれば、図14(c)に示すように、確認時間βの満了前に、身体反応としてのまばたきを利用して誤入力をキャンセルすることができる。
【0049】
以上、説明したように、上述した第1の実施形態は、信号生成時間のスロット毎にまばたきの有無を判断し、その結果を符号化した2値データを制御用データとし、これを電子機器の制御コマンドに紐付ける構成を採用するものであったが、後述する第2の実施形態は、信号生成時間にわたって取得された時系列データとしての筋電位データを制御用データとし、これを電子機器の制御コマンドに紐付ける構成を採用する。以下、本発明の第2の実施形態について説明する。
【0050】
図15は、第2の実施形態である電子機器制御装置50の機能ブロックを示す。なお、図15においては、図2に示した要素と共通するものについて同じ符号を用い、適宜、その説明を省略するものとする。
【0051】
電子機器制御装置50における信号生成部14においては、図2に示した2値データ生成部18の代わりに、筋電位信号受信部12が受信する筋電位信号に基づいて筋電位の時系列データ(以下、筋電位データとして参照する)を生成するための筋電位データ取得部52を備える。さらに、電子機器制御装置50は、生成した筋電位データを制御コマンドに紐付けられたテンプレートデータ56と照合するためのテンプレートマッチング部54を備える。以下、電子機器制御装置50が実行する処理について、図5、図16、図17に示すフローチャートに基づき、具体的に説明する。
【0052】
電子機器制御装置50において、ユーザのトリガ動作を検出するための処理は、図5に示したステップ101〜ステップ107と同様であるので詳細な説明は省略する。なお、電子機器制御装置50においては、初期化処理(S101)で後述する筋電位データのテンプレートが読み込まれる。ステップ107において、差分時間Tが閾値範囲(Tmin<T<Tmax)にあった場合(S107 Yes)、ループを脱出し、図16に示すステップ401に進む。
【0053】
ステップ401においては、先に説明した図6のステップ202の同様の処理を実行して信号生成時間の開始時刻tsを定義する。すなわち、ステップ103でセットし正電位の検出時刻t(+)または先のステップ105でセットした負電位の検出時刻t(-)の少なくとも一方を基準とし、これに適切な遅延時間Xを加えたものを信号生成時間開始時刻tsとして定義する。
【0054】
ステップ401において、信号生成時間開始時刻tsがセットされると、信号生成時間開始時刻tsに到達したか否かが判断され(S402)、開始時刻tsに到達するまで処理をループする(S402 No)。開始時刻tsに到達すると(S402 Yes)、ステップ403に進み、筋電位信号受信部12が受信する筋電位信号に基づいて筋電位データの取得処理を開始する。
【0055】
ステップ403で筋電位データの保存処理が開始されると、ステップ404に進み、現在時刻が筋電位データ保存終了時刻に到達したか否かが判断される。仮に、1つのスロットの割当時間=α、タイムスロット総数=nとした場合、信号生成時間終了時刻=信号生成時間開始時刻ts+nαとなる。その結果、信号生成時間終了時刻に到達した場合には(S404 Yes)、ステップ405に進んで、筋電位データの取得処理を終了し、筋電位データを照合用データとして保存する(S406)。このようにして保存される照合用データの波形は、信号生成時間内にユーザが行ったまばたきの組み合わせに応じて変化する。
【0056】
続いて、ステップ407において、筋電位データ取得部52が取得した筋電位データとテンプレートとの間でテンプレートマッチング処理を実行し、最も類似するテンプレートを選出する(具体的には、最も類似するテンプレートのIDを取得する)。図18は、本実施形態におけるテンプレートの概念図を示す。図18は、タイムスロット総数=4とした場合のテンプレートデータ56を示す。テンプレートデータ56には、16個の制御コマンドに対応する16種類のテンプレートが登録されており、各テンプレートに対してIDが付与されている。テンプレートは、ユーザに事前に信号生成用のまばたき動作を実施させ、その際に取得した筋電位データを基に生成することが好ましい。なお、本実施形態におけるテンプレートマッチングは、DPマッチングに基づく波形認識手法を用いて行うことができる。但し、本実施形態は、これに限定されるものではなく、その他の適切なマッチング手法を用いて行ってもよい。
【0057】
ステップ407において、テンプレートIDが取得されると、図17に示す入力内容の確認処理が実行される。図17に示す処理のうち、ステップ502およびステップ503以外の処理は、図7について説明したステップ301〜ステップ310と共通するので詳細な説明は省略する。本実施形態においては、ステップ502において、入力内容をユーザに確認させるための確認時間の開始時刻tCSをセットする。具体的には、先のステップ404で比較に用いた信号生成時間終了時刻ts+nαに適切な遅延時間Yを加えたものを確認時間開始時刻tCSとしてセットする。
【0058】
本実施形態においては、この遅延時間Yを利用して、入力内容提示部22が入力された内容をユーザに提示する(S503)。図19は、テレビ用の対応テーブル25を例示する。対応テーブル25は、テンプレートIDを格納するためのフィールド504、入力内容を格納するためのフィールド502、制御コマンドを格納するためのフィールド503を備えており、各入力内容とこれに対応するテレビの制御コマンドがテンプレートIDに紐付けられて管理されている。ステップ503においては、入力内容提示部22が先のステップ407で取得したテンプレートIDをキーとして対応テーブル25を照会し、テンプレートIDに対応する入力内容を取得する。
【0059】
以上、本発明について実施形態をもって説明してきたが、本発明は上述した実施形態に限定されるものではなく、その他、当業者が推考しうる実施態様の範囲内において、本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【産業上の利用可能性】
【0060】
以上、説明したように、本発明によれば、コマンド生成用のまばたきと通常の身体反応としてのまばたきを区別するための追加的構成を必要としない新規な電子機器制御装置が提供される。本発明は、四肢障害者の生活支援の他、ハンズフリーの電子機器操作が要求されるあらゆるシチュエーションにおいて活用されることが期待される。
【符号の説明】
【0061】
10…信号生成装置
12…筋電位信号受信部
14…信号生成部
16…信号生成時間定義部
17…まばたき検出部
18…2値データ生成部
20…電子機器制御装置
22…入力内容提示部
24,25…対応テーブル
26…入力内容確定部
28…制御コマンド出力部
30…筋電位検出手段
40…電子機器
50…電子機器制御装置
52…筋電位データ取得部
54…テンプレートマッチング部
56…テンプレートデータ
100…電子機器制御システム
501〜504…フィールド

【特許請求の範囲】
【請求項1】
眼瞼の開閉動作に伴って生じる筋電位信号を筋電位検出手段から受信する筋電位信号受信部と、
前記筋電位信号に基づいて眼瞼の閉動作に伴って生じる正電位の検出時刻と該眼瞼の開動作に伴って生じる負電位の検出時刻の差分時間が信号生成開始判断のための閾値範囲にあるか否かを判断し、前記差分時間が前記閾値範囲にある場合に、前記正電位の検出時刻または前記負電位の検出時刻の少なくとも一方を基準として信号生成時間を定義する信号生成時間定義部と、
前記信号生成時間において検出された前記正電位または前記負電位の少なくとも一方に基づいてまばたきを検出するまばたき検出部と、
前記信号生成時間におけるまばたきの有無を2値化した2値データを生成する2値データ生成部と
を含む信号生成装置。
【請求項2】
前記信号生成時間がn個のタイムスロットからなり、
前記2値データ生成部は、前記タイムスロット毎のまばたきの有無を2値化することによって、最大で2種類の前記2値データを定義する、
請求項1に記載の信号生成装置。
【請求項3】
請求項1または2に記載の信号生成装置を含む電子機器制御装置であって、
電子機器の入力内容および該入力内容に対応する制御コマンドと前記2値データとを紐付けた対応テーブルと、
前記2値データに紐付けられた前記制御コマンドを前記電子機器に出力する制御コマンド出力部と
を含む、電子機器制御装置。
【請求項4】
前記信号生成装置が前記2値データを生成したことに応答して、該2値データに紐付けられた前記入力内容を提示する入力内容提示部と、
前記信号生成時間の後に定義された確認時間において前記まばたき検出部が検出したまばたきの回数に基づいて前記入力内容を確定する入力内容確定部と
をさらに含む、請求項3に記載の電子機器制御装置。
【請求項5】
前記電子機器毎に固有の前記閾値範囲が定められる、請求項3または4に記載の電子機器制御装置。
【請求項6】
コンピュータに対して、
眼瞼の開閉動作に伴って生じる筋電位信号を筋電位検出手段から受信する機能手段と、
前記筋電位信号に基づいて眼瞼の閉動作に伴って生じる正電位の検出時刻と該眼瞼の開動作に伴って生じる負電位の検出時刻の差分時間が信号生成開始判断のための閾値範囲にあるか否かを判断し、前記差分時間が前記閾値範囲にある場合に、前記正電位の検出時刻または前記負電位の検出時刻の少なくとも一方を基準として信号生成時間を定義する機能手段と、
前記信号生成時間において検出された前記正電位または前記負電位の少なくとも一方に基づいてまばたきを検出する機能手段と、
前記信号生成時間におけるまばたきの有無を2値化した2値データを生成する機能手段と
を実現するためのコンピュータ実行可能なプログラム。
【請求項7】
眼瞼の開閉動作に伴って生じる筋電位信号を筋電位検出手段から受信する筋電位信号受信部と、
前記筋電位信号に基づいて眼瞼の閉動作に伴って生じる正電位の検出時刻と該眼瞼の開動作に伴って生じる負電位の検出時刻の差分時間が信号生成開始判断のための閾値範囲にあるか否かを判断し、前記差分時間が前記閾値範囲にある場合に、前記正電位の検出時刻または前記負電位の検出時刻の少なくとも一方を基準として信号生成時間を定義する信号生成時間定義部と、
前記信号生成時間において検出された前記正電位または前記負電位の少なくとも一方に基づいてまばたきを検出するまばたき検出部と、
前記信号生成時間に受信した前記筋電位信号に基づいてまばたきの組み合わせに伴って生じる筋電位の時系列データである筋電位データを取得する筋電位データ取得部と、
前記筋電位データのテンプレートを含むテンプレートデータと、
電子機器の入力内容および該入力内容に対応する制御コマンドと前記テンプレートとを紐付けた対応テーブルと、
前記テンプレートデータの中から取得された前記筋電位データと最も類似するテンプレートを選出するテンプレートマッチング部と、
選出された前記テンプレートに紐付けられた前記制御コマンドを前記電子機器に出力する制御コマンド出力部と
を含む、電子機器制御装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate


【公開番号】特開2012−247975(P2012−247975A)
【公開日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願番号】特願2011−118885(P2011−118885)
【出願日】平成23年5月27日(2011.5.27)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2010年12月15日、社団法人電子情報通信学会ヒューマンコミュニケーショングループ発行の、HCGシンポジウム2010論文集にて発表 該当ページ 293−298ページ 2011年2月28日、社団法人電子情報通信学会発行の、EiC電子情報通信学会2011年総合大会講演論文集にて発表 該当ページ 227ページ
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【出願人】(391022614)学校法人幾徳学園 (19)
【Fターム(参考)】