聴覚事象関連電位計測システム、聴覚事象関連電位計測装置、聴覚事象関連電位計測方法およびそのコンピュータプログラム
【課題】ユーザの覚醒度低下を抑制するために、聴覚刺激と平行して映像を呈示した場合、視覚誘発電位がノイズとして混入し、高精度に聴覚事象関連電位を計測することは困難であった。
【解決手段】聴覚事象関連電位計測システムは、ユーザの脳波信号を計測する生体信号計測部と、前記ユーザに、複数の聴覚刺激を呈示する聴覚刺激出力部と、前記脳波信号において、前記聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、
前記ユーザに映像を呈示する映像出力部と、前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部とを備える。
【解決手段】聴覚事象関連電位計測システムは、ユーザの脳波信号を計測する生体信号計測部と、前記ユーザに、複数の聴覚刺激を呈示する聴覚刺激出力部と、前記脳波信号において、前記聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、
前記ユーザに映像を呈示する映像出力部と、前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、聴覚刺激に対する聴覚事象関連電位を高精度に測定するための技術に関する。より具体的には、本発明は、映像を呈示しながら聴覚刺激を呈示し、ユーザの覚醒度の変動や映像の影響を受けずに、聴覚事象関連電位を計測する方法に関する。
【背景技術】
【0002】
近年、補聴器の小型化・高性能化に伴い、補聴器を利用するユーザが増加している。補聴器は、ユーザごとの聴力低下の状態に合わせて、聴力が低下している周波数帯の音信号を、聴力低下の度合いに合わせて増幅する。これにより、ユーザが音を聞き取りやすくする。聴力低下の状態はユーザごとに異なるため、補聴器の利用を開始する前には、ユーザごとの聞こえを正しく評価する必要がある。そして、その評価結果に基づいて、周波数ごとの音の増幅量を決定する「フィッティング」を行う。
【0003】
一般的に、ユーザごとの聞こえは、ユーザの主観報告に基づいて評価される。しかし、主観報告による評価は、言語表現やパーソナリティによって結果がばらつくという問題と、主観報告のできない乳児では評価ができないという問題がある。そこで主観報告によらず、聞こえを客観的に評価する手法の開発が進んでいる。
【0004】
脳波は、知覚・認知等のユーザ状態を測定するための有効なツールである。頭皮上の2点間の電位変化を記録したもので、大脳皮質の神経活動を反映している。ユーザの頭皮上に電極を装着して脳波を記録しながら、ユーザに対して聴覚刺激を呈示すると、聴覚刺激を起点に特徴的な聴覚事象関連電位が惹起される。この聴覚事象関連電位は、ユーザの聞こえを客観的に評価可能な指標である。聴覚事象関連電位は、聴覚刺激によって誘発される外因性成分(聴覚誘発電位)と、聴覚刺激を受けたことによる内因性成分を含む。
【0005】
非特許文献1では、ユーザの主観的なうるささであるラウドネスと、純音聴覚刺激に対するN1成分の振幅および潜時の関係を特定し、N1成分の振幅および潜時から、聞こえ評価のうちラウドネスが推定できる可能性を示唆している。なお、N1成分とは、聴覚刺激呈示を起点に約100msにおいて惹起される陰性の感覚誘発電位である。N1成分は、大脳皮質の神経活動を反映しているので、脳幹反応(ABR)と比較して、主観との相関が高いと考えられている。これは、N1成分の振幅および潜時から、聞こえ評価のうちラウドネスが推定できる可能性を示している。
【0006】
また、非特許文献2では、N1成分の馴化を用いた不快閾値推定について開示している。不快閾値(uncomfortable level:UCL)とは、うるさすぎて長時間聞き続けることのできない最小の音圧である。音が大きすぎて無視できないときには、N1成分の馴化が生じないことを利用している。
【0007】
聴覚事象関連電位は背景脳波と比較してS/Nが低いことから、刺激を繰り返し呈示し、加算平均によって混入するノイズの影響を低減する必要がある。そのため、刺激間間隔の繰り返し回数倍の時間を要する。たとえば、非特許文献2では、刺激間間隔1秒で800回の繰り返しを実施しており、聴覚刺激の種類ごとに、十数分の時間がかかる。
【先行技術文献】
【非特許文献】
【0008】
【非特許文献1】Hoppe,U.他、「Loudness perception and late auditory evoked potentials in adult cochlear implant users」、2001年
【非特許文献2】Mariam,M.他、「Comparing the habituation of late auditory evoked potentials to loud and soft sound」、2009年
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、非特許文献1および非特許文献2のような従来手法では、単調な聴覚刺激が長時間にわたって呈示されることから、しばしばユーザが覚醒度を維持できない場合があった。佐藤他、監修、「誘発電位の基礎と臨床」、p129、創造出版、1990年(第1版)に記載のように、聴覚事象関連電位は覚醒度によって波形そのものが大幅に変化する。そのため、たとえば非特許文献1や非特許文献2のように、N1成分の振幅や潜時を用いて聞こえ評価をする場合に、正しく評価ができないという課題があった。
【0010】
本発明の目的は、聞こえ評価のための聴覚事象関連電位測定システムにおいて、覚醒度の変化に由来する聴覚事象関連電位の変動を抑制し、高精度な聴覚事象関連電位を計測することにある。そのために、聴覚刺激以外に映像を呈示してユーザの覚醒度の変化を低減する。また、呈示する映像の変化パターンに応じて聴覚事象関連電位を加算平均に加えるか否かを判定し、映像呈示によって惹起されるノイズの影響を低減する。
【課題を解決するための手段】
【0011】
本発明のユーザの聴覚事象関連電位計測システムは、脳波信号を計測する生体信号計測部と、前記ユーザに、複数の聴覚刺激を呈示する聴覚刺激出力部と、前記脳波信号において、前記聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、前記ユーザに映像を呈示する映像出力部と、前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部とを備える。
【発明の効果】
【0012】
本発明によれば、聴覚事象関連電位の計測時に、聴覚刺激以外に映像を呈示することで、ユーザの覚醒度の変化に由来する聴覚事象関連電位の変動を低減し、精度の高い聴覚事象関連電位の計測が実現できる。
【図面の簡単な説明】
【0013】
【図1】聴覚刺激のみの聴覚事象関連電位計測パラダイムと聴覚事象関連電位計測中の仮想的な覚醒度変化を示す図である。
【図2】映像を並列呈示する聴覚事象関連電位計測パラダイムと聴覚事象関連電位計測中の仮想的な覚醒度変化を示す図である。
【図3】輝度変化タイミングと、輝度変化に対する視覚誘発電位が聴覚事象関連電位に及ぼす影響の概念図である。
【図4】実施形態1による聴覚事象関連電位計測システム1の構成および利用環境を示す図である。
【図5】実施形態1による聴覚事象関連電位計測装置10のハードウェア構成を示す図である。
【図6】実施形態1による聴覚事象関連電位計測システム1の機能ブロックの構成を示す図である。
【図7】聴覚事象関連電位算出部100に保持するデータの例を示す図である。
【図8】聴覚事象関連電位計測システム1において行われる処理の手順を示すフローチャートである。
【図9】実施形態2による聴覚事象関連電位計測システム2の機能ブロックの構成を示す図である。
【図10】実施形態2による聴覚刺激群と除外試行群判定の概念図である。
【図11】実施形態2による除外試行群決定部に保持する聴覚刺激群および除外試行フラグのデータの例を示す図である。
【図12】聴覚事象関連電位計測システム2において行われる処理の手順を示すフローチャートである。
【発明を実施するための形態】
【0014】
ここで、本明細書における用語の定義を説明する。「事象関連電位(event−related potential:ERP)」とは、脳波(electroencephalogram:EEG)の一種であり、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいう。「聴覚事象関連電位」とは、聴覚刺激に対して惹起される事象関連電位である。たとえば、聴覚刺激を起点に約50msにおいて惹起される陽性の電位であるP1成分、聴覚刺激呈示を起点に約100msにおいて惹起される陰性の電位であるN1成分や、聴覚刺激呈示を起点に約200msにおいて惹起される陽性の電位であるP2成分が該当する。「音を呈示する」とは、純音の聴覚刺激を出力すること、たとえば純音をヘッドフォンの片耳側から出力することをいう。「純音」とは、周期振動を繰り返す楽音のうち、単一の周波数成分しか持たない正弦波で表される音である。ヘッドフォンの種類は任意であるが、不快音圧を正しく測定するために、指定した音圧の純音を正確に出力できる必要がある。
【0015】
本発明による聴覚事象関連電位計測システムは、聴覚刺激以外に映像の呈示によりユーザの覚醒度の変化を低減する。そして覚醒度変化の影響の少ない聴覚事象関連電位を計測する。また、呈示する映像の変化パターンに応じて聴覚事象関連電位を加算平均に加えるか否かを判定し、映像呈示によって惹起されるノイズの影響を低減する。
【0016】
以下では、まず本願発明に至った経緯に触れ、その後、実施形態として聴覚事象関連電位計測システムを概説し、聴覚事象関連電位計測装置の構成およびその動作について詳述する。
【0017】
(本願発明の経緯)
上述のように、単調な聴覚刺激を繰り返す聴覚事象関電位計測では、ユーザが覚醒度を維持できない場合がある。それによって、覚醒度変動に伴う聴覚事象関連電位の波形変化が生じてしまう。それに対して、本願発明者らは、ユーザの覚醒度変動を抑制するために、聴覚刺激とは異なるモダリティの映像を、聴覚事象関連電位計測中に同時呈示する方法に着目した。覚醒度を抑制可能な映像としては、たとえば映画やTV番組のドラマやスポーツ中継などが挙げられる。しかしながら、それらの映像を呈示すると、映像によって惹起される脳波がノイズとして混入する。そこで、その影響を低減するための工夫が必要になる。本願発明のポイントは、映像に起因するノイズ成分の影響を低減するために、映像中のシーン切替り等による大きな輝度変化があった場合に、その輝度変化後の聴覚刺激を加算平均から除外し、ノイズの影響を受けないより高精度な聴覚事象関連電位計測を実現することである。なお、映像によって惹起される脳波として、映像の内容認知に関連した高次な脳活動によるものも考えられるが、個人差が大きく、呈示した映像から惹起される成分が予測できないため、本発明では対象にしない。
【0018】
図1中(a)に、従来の聴覚事象関連電位計測の実験パラダイムを示す。横軸は時間で、縦線は聴覚刺激のタイミングを模式的に示している。加算平均によって背景脳波等のノイズを低減するために、聴覚刺激が繰り返し呈示される。たとえば、聴覚刺激の持続時間が100ms、刺激間間隔の平均値が1秒で、繰り返し回数を30回とすると、一つの周波数、一つの音圧、片耳の聴覚事象関連電位計測に約30秒程度の時間を要する。そのため、たとえばユーザの聞こえ評価を行うために、5つの周波数、5つの音圧、両耳において聴覚事象関連電位を計測する場合、単純計算で約25分(30×5×5×2秒)程度かかる。ユーザは合計約25分間、単調な聴覚刺激を聞き続ける必要があり、覚醒度を維持することが難しい。図1中(b)に、聴覚事象関連電位計測中のユーザの仮想的な覚醒度変動を示す。横軸は時間で、縦軸は覚醒度である。聴覚事象関連電位の計測開始から時間が経過するにつれて、覚醒度が低下している様子を表現している。
【0019】
図2(a)は、本願発明者らが着目した聴覚事象関連電位計測の方法である。聴覚事象関連電位計測中のユーザの覚醒度低下を抑制するために、映像を呈示しながら、聴覚刺激を呈示する。図2(b)に、図1中(b)と同様に聴覚事象関連電位計測中のユーザの仮想的な覚醒度変動を示す。映像の呈示によって、ユーザの覚醒度低下が抑制されると考えられる。図2(b)に示した覚醒度は仮想的なグラフであるが、実際に、本願発明者らが、5人の参加者に対して映像呈示あり/なしの条件で約10分程度の聴覚事象関連電位計測を実施し、計測後に覚醒度に関するアンケートを行ったところ、すべての参加者が映像呈示ありの場合で覚醒度が高かったと回答した。このことから少なくとも、映像呈示によって聴覚事象関連電位計測中のユーザの覚醒度低下が低減されるといえる。
【0020】
しかしながら、映像に関連して聴覚事象関連電位計測のノイズとなる特徴的な脳波が混入するため、単純に聴覚刺激と同時に映像を呈示するだけで、高精度な聴覚事象関連電位を計測することはできないと考えられる。そこで、本願発明者らは、映像によって惹起される脳波のうち、少なくとも映像の物理的な変化に対して惹起される視覚誘発電位(visual evoked potential:VEP)の影響を低減する方法を考案した。たとえば映画やTV番組のドラマ、スポーツ中継の映像中には、シーンの切替り等の画面全体の輝度や輝度の分布が大きく変化するタイミングが存在する。本明細書中では、全体的な輝度の変化および、輝度分布の変化(平均輝度が変化。ない場合を含む)の両方を輝度変化とし、輝度が変化したタイミングを輝度変化タイミングと呼ぶ。その輝度変化タイミングに対して、聴覚事象関連電位計測のノイズとなる視覚誘発電位が惹起される。
【0021】
視覚誘発電位とは、閃光(全体の輝度が変化)やパターン刺激(輝度の分布が変化)によって誘発される一過性の電位である。閃光あるいはパターン刺激のどちらであっても、刺激呈示後約70ms前後に陰性、約100ms前後で陽性、約130msで陰性の波が誘発される。視覚刺激の輝度や大きさによって潜時・振幅が変化するが、個人差の影響が比較的少ない。宮田、監修、「新整理心理学」、1巻、p115(第3版)によると、左右マストイド連結を基準とした場合、頭頂部から後頭部優位であるが、聴覚事象関連電位の優勢部位である中心部においても惹起される。
【0022】
図3に、映像の輝度変化タイミングと、輝度変化によって惹起される視覚誘発電位が、聴覚誘発電位計測におよぼす影響の度合いを模式的に示した。映像中には、所定の閾値以上の輝度変化が起こる輝度変化タイミングがいくつも存在する。その輝度変化タイミングを起点に、視覚誘発電位が惹起される。それが、輝度変化を起点に約100ms前後をピークにノイズとして混入する。視覚誘発電位の影響は、輝度変化タイミング後約200ms前後まで持続する。そこで、本願発明者らは、輝度変化タイミング後所定時間内に呈示された聴覚刺激を聴覚事象関連電位計測のための加算平均から除外する方法に想到した。所定時間とは、たとえば輝度変化後200msである。
【0023】
従来、事象関連電位計測においてノイズを含んだ試行は除外された。しかし従来は、測定した電位データに基づいて、たとえば振幅の最大値が±80μVを超えた試行のように、明らかにノイズが混入した試行が除外された。本願発明の映像呈示のように、測定対象以外の情報呈示はしない場合が多く、その測定対象以外の情報呈示の内容に基づいて、除外する試行が決定されることはなかった。なお、聴覚事象関連電位と視覚誘発電位は、周波数が近いため、周波数フィルタリングによって視覚誘発電位の影響を低減することは難しい。
【0024】
また、あらかじめ映像の輝度変化タイミングを検出し、輝度変化による視覚誘発電位が惹起されない時刻に聴覚刺激を呈示して、輝度変化による視覚誘発電位の影響を受けないようにすることもできる。その場合、輝度変化の発生頻度によっては聴覚刺激の刺激間間隔が数秒程度あいてしまう可能性がある。しかしながら、Naatanen,R、「Attention and brain function」、p126、1992年に記載のように、刺激間間隔が数秒以上あいた場合には、感覚刺激に依存しない振幅の大きな成分が、聴覚刺激呈示後約100ms前後に惹起されてしまいノイズとして混入する。そのため、単純にあらかじめ検出した輝度変化のタイミングに基づいて、聴覚刺激の呈示タイミングを決めたとしても、高精度な聴覚事象関連電位は計測できない。
【0025】
(実施形態1)
<聴覚事象関連電位計測システムの概説>
本実施形態による聴覚事象関連電位計測システムは、聴覚事象関連電位計測中に映像を呈示し、映像の輝度変化のタイミングを検出し、輝度変化のタイミング後所定時間内に呈示された聴覚刺激を加算平均から除外して、ユーザの覚醒度変動が少なくかつ映像によって誘発される視覚誘発電位の影響を受けない高精度な聴覚事象関連電位計測を実現する。
【0026】
本実施形態においては、探査電極を中心部(Cz)に設け、基準電極を右マストイドに設けて、探査電極と基準電極の電位差である脳波を計測するものとする。なお、事象関連電位の特徴成分のレベルや極性は、脳波計測用の電極を装着する部位や、基準電極および探査電極の設定位置に応じて変わる可能性がある。しかしながら、以下の説明に基づけば、当業者は、そのときの基準電極および探査電極に応じて適切な改変を行って事象関連電位の特徴を抽出し、聴覚事象関連電位の測定を行うことが可能である。そのような改変例は、本発明の範疇である。
【0027】
<利用環境>
図4は、聴覚事象関連電位計測システム1の構成および利用環境を示す。この聴覚事象関連電位計測システム1は、後述する実施形態1のシステム構成に対応させて例示している。
【0028】
聴覚事象関連電位計測システム1は、ユーザ5の聴覚事象関連電位を高精度に計測するためのシステムである。ユーザ5の脳波信号は、ユーザが頭部に装着した生体信号計測部50によって取得され、無線または有線で聴覚事象関連電位計測装置10に送付される。聴覚刺激出力部61と映像出力部71は、聴覚事象関連電位計測装置10から無線または有線で、それぞれ聴覚刺激と映像の情報を受け、ユーザ5にそれぞれ聴覚刺激と映像を呈示する。図4に示す聴覚事象関連電位計測システム1は、生体信号計測部50および聴覚刺激出力部61を同じ筐体内に備える。しかしこれは例である。聴覚事象関連電位計測システム1は、生体信号計測部50および聴覚刺激出力部61を別筐体に備えてもよい。
【0029】
生体信号計測部50は、少なくとも2つの電極Aおよび電極Bと接続されている。例えば、電極Aはユーザ5のマストイドに貼り付けられ、電極Bはユーザ5の頭皮上の中心部(いわゆるCz)に貼り付けられている。生体信号計測部50は、電極Aと電極Bとの電位差に対応するユーザ5の脳波を計測する。
【0030】
聴覚刺激出力部61は、ユーザ5に聴覚刺激を出力するヘッドフォンである。
【0031】
映像出力部71は、ユーザ5に映像を呈示するモニタである。
【0032】
聴覚事象関連電位計測装置10は、たとえば映画やTV番組の映像をユーザ5に呈示しながら、聴覚刺激を呈示し、聴覚事象関連電位を計測する。そして、映像の輝度変化タイミングを検出して、そのタイミングから所定の時間内に呈示された聴覚刺激を聴覚事象関連電位算出の加算平均から除外する。
【0033】
<ハードウェア構成>
図5は、本実施形態による聴覚事象関連電位計測装置10のハードウェア構成を示す。聴覚事象関連電位計測装置10は、CPU30と、メモリ31と、オーディオコントローラ32と、グラフィックコントローラ33を備えている。CPU30と、メモリ31と、オーディオコントローラ32、グラフィックコントローラ33とは、互いにバス34で接続されており、相互にデータの授受が可能である。
【0034】
CPU30は、メモリ31に格納されているコンピュータプログラム35を実行する。コンピュータプログラム35には、後述するフローチャートに示される処理手順が記述されている。聴覚事象関連電位計測装置10、このコンピュータプログラム35にしたがって、聴覚刺激の生成、映像の再生、映像の輝度変化検出、除外試行の判定等の、聴覚事象関連電位計測システム1の全体を制御する処理を行う。この処理は後に詳述する。
【0035】
オーディオコントローラ32は、CPU30の命令に従って、それぞれ、呈示すべき聴覚刺激を指定されたタイミングで、指定された音圧および持続時間で聴覚刺激出力部61を介して出力する。
【0036】
グラフィックコントローラ33は、CPU30の命令に従って、映像出力部71を介して映像を出力する。
【0037】
なお、聴覚事象関連電位計測装置10は、1つの半導体回路にコンピュータプログラムを組み込んだDSP等のハードウェアとして実現されてもよい。そのようなDSPは、1つの集積回路で上述のCPU30、メモリ31、オーディオコントローラ32、グラフィックコントローラ33の機能を全て実現することが可能である。
【0038】
上述のコンピュータプログラム35は、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送され得る。図5に示すハードウェアを備えた機器(たとえばPC)は、当該コンピュータプログラム35を読み込むことにより、本実施形態による聴覚事象関連電位計測装置10として機能し得る。
【0039】
<聴覚事象関連電位計測システム1の構成>
図6は、本実施形態による聴覚事象関連電位計測システム1の機能ブロックの構成を示す。聴覚事象関連電位計測システム1は、生体信号計測部50と、聴覚刺激出力部61と、映像出力部71と、聴覚事象関連電位計測装置10とを有している。
【0040】
また、聴覚事象関連電位計測装置10は、脳波処理部55と、聴覚刺激生成部60と、映像再生処理部70と、輝度変化検出部75と、除外試行決定部80と、聴覚事象関連電位算出部100とを備えている。ユーザ5のブロックは説明の便宜のために示されている。なお、聴覚事象関連電位計測装置10は、脳波処理部55と、輝度変化検出部75と、聴覚事象関連電位算出部100とを少なくとも備えればよい。
【0041】
聴覚事象関連電位計測装置10の各機能ブロックは、それぞれ、図5で説明したプログラムが実行されることによって、CPU30、メモリ31、オーディオコントローラ32、グラフィックコントローラ33によって全体としてその時々で実現される機能に対応している。
【0042】
<聴覚刺激生成部60>
聴覚刺激生成部60は、ユーザ5に呈示する聴覚刺激の情報を決定する。聴覚刺激の情報は、ユーザ5の右耳か左耳のどちらに呈示するのか、及び、呈示する聴覚刺激の周波数、音圧を含む。呈示する聴覚刺激の左右耳および周波数、音圧を決定する。
【0043】
たとえば次の制約に基づいてランダムに決定してもよい。直前の聴覚刺激と同じ周波数、同じ音圧の聴覚刺激は選択しないことが好ましい。左右耳はランダムな順序で選択する。ただし、左右どちらか一方の耳への聴覚刺激の呈示を4回以上連続させないことが好ましい。こうすることで、同一耳、周波数の聴覚刺激の連続呈示による脳波の慣れ(habituation)の影響が低減され、高精度な聴覚事象関連電位計測が実現できる。
【0044】
聴覚刺激生成部60は、決定した聴覚刺激を生成し、所定の刺激間間隔をあけて聴覚刺激出力部61に送付する。聴覚刺激は、たとえば、立ち上がり、立下り3msのトーンバースト音としてもよい。聴覚刺激の持続時間は、聴覚事象関連電位が安定して惹起されるよう、たとえば25ms以上に設定する。所定の時間間隔は、音刺激の持続時間以上で2秒以下の時間に設定する。たとえば、500msとしてもよいし、1秒としてもよい。また、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、脳波処理部55にトリガを出力する。このトリガは、脳波処理部55において聴覚刺激に対する事象関連電位を切り出す際に利用される。加えて、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、聴覚刺激を呈示したタイミング、左右耳、聴覚刺激の周波数および音圧を除外試行決定部80に送付する。
【0045】
<聴覚刺激出力部61>
聴覚刺激出力部61は、聴覚刺激生成部60と有線または無線で接続されている。聴覚刺激出力部61は、聴覚刺激生成部60で生成された聴覚刺激データを再生し、ユーザ5に呈示する。
【0046】
<生体信号計測部50>
生体信号計測部50は、ユーザ5の生体信号を計測する脳波計である。生体信号計測部50は、ユーザ5に装着されている基準電極と探査電極との電位差に対応する、ユーザ5の生体信号を計測する。本実施形態において、ユーザ5の生体信号は、脳波である。
【0047】
好ましくは、生体信号計測部50は、脳波データに対して適切な遮断周波数の周波数フィルタリングを行う。そして、その脳波データを脳波処理部55に送付する。周波数フィルタとしてバンドパスフィルタを用いる場合は、たとえば5Hzから15Hzまでを通過させるように遮断周波数を設定してもよい。ユーザ5はあらかじめ脳波計を装着しているものとする。脳波計測用の探査電極はたとえば中心部のCzに装着される。
【0048】
<脳波処理部55>
脳波処理部55は、生体信号計測部50から受けた脳波データから、聴覚刺激生成部60から受けたトリガを起点に、所定区間(たとえば聴覚刺激呈示前100msから聴覚刺激呈示後400msの区間)の事象関連電位を切り出す。なお、切り出した事象関連電位とは、計測した生体信号から脳波データの所定区間の電位のみを抽出したデータだけでなく、計測した生体信号において所定区間の電位を特定しているだけのデータも含む。脳波処理部55は、取得した事象関連電位を聴覚事象関連電位算出部100に送付する。脳波処理部55が記憶している所定の区間は、第1の時間範囲に対応する。
【0049】
<映像再生処理部70>
映像再生処理部70は、映像再生処理部70内にあらかじめ保持している映像コンテンツを再生する。映像コンテンツとは、少なくとも一部が異なる複数の画像が、時系列で連続している情報である。たとえば、映画やTV映像のドラマやスポーツ中継とする。ユーザ5の覚醒度の変動を抑制するために、ユーザ5の興味度合いに合わせてユーザ5がコンテンツを選択できるようにしてもよい。なお、映像コンテンツは、音を含まないようにあらかじめ加工しておくものとする。
【0050】
<映像出力部71>
映像出力部71は、映像再生処理部70と有線または無線でつながり、映像再生処理部70で再生処理された映像を再生する。映像は、聴覚事象関連電位計測中、常に再生するものとする。
【0051】
<輝度変化検出部75>
輝度変化検出部75は、映像再生処理部70で再生処理をした映像コンテンツの輝度変化のタイミングを検出する。輝度変化量は、たとえば画素ごとにフレームごとの輝度の差分を算出し、その差分を積分して求めてもよい。そして、求めた輝度変化量とあらかじめ設定した輝度変化量に関する所定の閾値との比較を行う。
【0052】
その結果、輝度変化量が所定の閾値よりも大きかった場合には、輝度変化ありとして、その輝度変化タイミングを記録し、輝度変化タイミングを除外試行決定部80に送付する。なお、輝度変化量が所定の閾値よりも小さかった場合、除外試行決定部80に輝度変化が小さかったことを送付してもよいし、何も送付しなくてもよい。また、輝度変化検出部75における映像の輝度変化検出は、リアルタイムに実施してもよいし、映像再生終了後にまとめて実施してもよい。
【0053】
<除外試行決定部80>
除外試行決定部80は、聴覚刺激の呈示タイミングおよび聴覚刺激の情報である左右耳、周波数、音圧の情報を聴覚刺激生成部60から受け取る。また、輝度変化検出部75から輝度変化タイミングを受け取る。そして、輝度変化タイミング後所定の時間帯に呈示された聴覚刺激を加算平均から除外するように決定する。図3に模式的に示したように、輝度変化から約200msまでは視覚誘発電位の影響を多く受けるため、所定の時間帯とは輝度変化のタイミング後0ms以上、200ms以下としてもよい。また、輝度変化のタイミング前100ms以上、後200ms以下としてもよい。そして、除外試行フラグを立てて、聴覚刺激の情報とともに、聴覚事象関連電位算出部100に送付する。
【0054】
<聴覚事象関連電位算出部100>
聴覚事象関連電位算出部100は、除外試行決定部80から受けた聴覚刺激の情報および除外試行の情報に基づいて、脳波処理部55から受けた事象関連電位のうち除外試行フラグの立っていない試行の事象関連電位を加算平均する。
【0055】
図7は、聴覚事象関連電位算出部100が、除外試行決定部80および脳波処理部55から受ける情報の例を示す。試行番号ごとに、聴覚刺激の情報と除外試行フラグおよび事象関連電位の対応付けを行う。そして、たとえば左右耳ごと、周波数ごと、音圧ごとに除外試行フラグが立っていない試行の事象関連電位を加算平均する。図7中の「試行番号」は、聴覚事象関連電位の計測を開始してから呈示された聴覚刺激の通し番号である。聴覚刺激の情報のうち「左右」は、聴覚刺激を呈示した左右耳の識別番号である。たとえば右耳を1、左耳を2としてもよい。「周波数」は、聴覚刺激の周波数で単位はHzである。「音圧」は、聴覚刺激の音圧で単位はdBHLである。「除外試行フラグ」は、除外試行決定部80で決定された除外試行のフラグである。たとえば、除外試行であると決定した場合に1を、除外試行でないと決定した試行を0としてもよい。「事象関連電位」は、脳波処理部55において切り出したユーザ5の事象関連電位である。図7中では、模式的に波形を示したが、事象関連電位のデータをたとえばサンプリングポイント数×計測チャンネル数の配列として受ける。
【0056】
なお、除外試行決定部80を省略することもできる。その場合には、聴覚事象関連電位算出部100は、輝度変化検出部75から輝度変化タイミングを取得する。脳波処理部55が取得した複数の聴覚刺激に対する事象関連電位のうち、取得した輝度変化タイミング(時刻)を基準とした所定の時間範囲の聴覚刺激以外の事象関連電位を加算平均する。また、聴覚事象関連電位算出部100が記憶している所定の時間範囲は、第2の時間範囲に対応する。
【0057】
<聴覚事象関連電位計測システム1の処理フロー>
次に、図8を参照しながら図6の聴覚事象関連電位計測システム1において行われる処理手順を説明する。図8は、聴覚事象関連電位計測システム1において行われる処理の手順を示すフローチャートである。
【0058】
ステップS101において、生体信号計測部50は、生体信号としてユーザ5の脳波を計測する。そして、脳波データに対して適切な遮断周波数の周波数フィルタリングを行い、連続脳波データを脳波処理部に送付する。
【0059】
ステップS102において、映像再生処理部70は、映像再生処理部70内にあらかじめ保持した映像コンテンツを再生し、映像出力部71を介してユーザ5に呈示する。映像コンテンツとは、たとえば映画やTV映像のドラマやスポーツ中継とする。ユーザ5の覚醒度の変動を抑制するために、ユーザ5の興味度合いに合わせてユーザ5がコンテンツを選択できるようにしてもよい。なお、映像コンテンツは、音を含まないようにあらかじめ加工しておくものとする。
【0060】
ステップS103において、輝度変化検出部75は、映像再生処理部70で再生処理をした映像コンテンツの輝度変化のタイミングを検出する。輝度変化量は、たとえば画素ごとにフレームごとの輝度の差分を算出し、その差分を積分して求めてもよい。
【0061】
ステップS104は、ステップS103で求めた輝度変化量とあらかじめ設定した輝度変化量よりも大きいかどうかの比較による分岐である。輝度変化量の比較は、輝度変化検出部75で実施する。比較の結果、輝度変化量が所定の閾値よりも大きかった場合には、輝度変化ありとして、ステップS109に進む。一方、所定の閾値よりも小さかった場合には、ステップS110に進む。
【0062】
ステップS105において、聴覚刺激生成部60は、ユーザ5に呈示する聴覚刺激の情報を決定する。聴覚刺激の情報は、ユーザ5の右耳か左耳のどちらに呈示するのか、及び、呈示する聴覚刺激の周波数、音圧を含む。呈示する聴覚刺激の左右耳および周波数、音圧を決定する。そして、聴覚刺激生成部60は、決定した聴覚刺激を生成し、所定の刺激間間隔をあけて聴覚刺激出力部61に送付する。また、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、脳波処理部55にトリガを出力する。加えて、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、聴覚刺激を呈示したタイミング、左右耳、聴覚刺激の周波数および音圧を除外試行決定部80に送付する。
【0063】
ステップS106において、聴覚刺激出力部61は、聴覚刺激生成部60で生成された聴覚刺激データを再生し、ユーザ5に呈示する。
【0064】
ステップS107において、脳波処理部55は、生体信号計測部50から受けた脳波データから、聴覚刺激生成部60から受けたトリガを起点に、所定区間(たとえば聴覚刺激呈示前100msから聴覚刺激呈示後400msの区間)の事象関連電位を切り出す。そして、その事象関連電位を聴覚事象関連電位算出部100に送付する。
【0065】
ステップS108は、ステップS105からステップS107の聴覚刺激呈示および事象関連電位抽出をあらかじめ設定した所定の回数だけ実施したかによる分岐である。たとえば、左右それぞれの耳について、5つの周波数のそれぞれ3つの音圧に対して、30回の繰り返し回数とした場合、所定回数とは900回(2×5×3×30)である。ステップS108でYesの場合にはステップS110へ進み、Noの場合にはステップS105へ戻って聴覚刺激呈示および事象関連電位抽出を繰り返す。
【0066】
ステップS109は、除外試行決定部80において、ステップS104で求めた輝度変化タイミングと、ステップS106で聴覚刺激の呈示タイミングを参照し、輝度変化タイミング後の所定の時間帯に呈示された聴覚刺激を加算平均から除外するように決定する。所定の時間帯とは輝度変化のタイミング後0ms以上、200ms以下としてもよい。また、輝度変化のタイミング前100ms以上、後200ms以下としてもよい。そして、該当する試行に除外試行フラグを立てる。
【0067】
ステップS110において、聴覚事象関連電位算出部100は、除外試行決定部80から受けた聴覚刺激の情報および除外試行の情報に基づいて、脳波処理部55から受けた事象関連電位のうち除外試行フラグの立っていない試行の事象関連電位を加算平均する。
【0068】
本実施形態の聴覚事象関連電位計測システム1によれば、聴覚事象関連電位計測中に映像を呈示し、映像の輝度変化のタイミングを検出し、輝度変化のタイミング後所定時間内に呈示された聴覚刺激を加算平均から除外して、ユーザの覚醒度変動が少なくかつ映像によって誘発される視覚誘発電位の影響を受けない高精度な聴覚事象関連電位計測が実現できる。これにより、ユーザの聞こえ評価の精度が向上し、たとえばユーザの不満の少ない補聴器の調整が実現できるようになる。
【0069】
なお、本実施形態においては、聴覚事象関連電位計測の結果の蓄積をしていないが、結果蓄積用のデータベースを新たに設け、結果を蓄積してもよい。
【0070】
なお、本実施形態においては、呈示する映像は映像再生処理部70にあらかじめ保持しているとした。しかし、聴覚事象関連電位計測時にリアルタイムで放送されているTV映像を呈示してもよい。その場合も同様に輝度変化検出部75において、TV映像の輝度変化を検出すればよい。
【0071】
(実施形態2)
実施形態1による聴覚事象関連電位計測システム1では、聴覚刺激と並列に呈示した映像の輝度変化タイミングを検出し、輝度変化タイミングを起点に所定の時間範囲の聴覚刺激を加算平均から除外した。輝度変化に関連した除外試行を設けることで、映像に対する視覚誘発電位に関するノイズ成分が混入しないため、ユーザの覚醒度低下を抑制しつつ高精度な聴覚事象関連電位の計測が可能になった。
【0072】
しかしながら、ある規則に基づいて聴覚刺激を呈示し、その規則に対応した聴覚事象関連電位を計測する場合には、輝度変化に関連して規則的な聴覚刺激の一部が除外試行となるため、聴覚刺激の規則性が失われる可能性があった。たとえば、同一周波数で同一の音圧を2回連発呈示し第1音と第2音に対する聴覚事象関連電位の変化量を用いてユーザの聞こえ状態を評価する場合、第1音あるいは第2音のみが除外試行になることで、変化量が正しく計測できない可能性があった。また、たとえば同一周波数で規則的に音圧を変化させて第1音から第n音まで聴覚刺激を連発し、第1音から第n音までの聴覚事象関連電位の変化パターンからユーザの聞こえ状態を評価する場合、部分的に除外試行になることで、パターンが正しく計測できない可能性があった。
【0073】
そこで、本実施形態では、規則的な聴覚刺激を聴覚刺激群とし、聴覚刺激群ごとに除外試行を決定し、規則的な聴覚刺激に対する聴覚事象関連電位の変化量をより高精度に計測する、聴覚事象関連電位計測システムについて説明する。
【0074】
図9は、実施形態による聴覚事象関連電位計測システム2の機能ブロックの構成を示す。聴覚事象関連電位計測システム2は、生体信号計測部50と、聴覚刺激出力部61と、映像出力部71と、聴覚事象関連電位計測装置20とを有している。図6と同じブロックについては同一の参照符号を付し、その説明は省略する。なお、聴覚事象関連電位計測装置20のハードウェア構成は、図5に示すとおりである。実施形態1で説明したプログラム35と異なる処理を規定するプログラムが実行されることにより、図9に示す本実施形態による聴覚事象関連電位計測装置20が実現される。
【0075】
本実施形態による聴覚事象関連電位計測装置20が、実施形態1による聴覚事象関連電位計測装置10と大きく相違する点は、聴覚刺激生成部60に代えて聴覚刺激群生成部62を設けた点、および、除外試行決定部80に代えて除外試行群決定部82を設けた点である。
【0076】
以下、聴覚刺激群生成部62と除外試行群決定部82について説明する。
【0077】
聴覚刺激群生成部62は、ユーザ5に呈示する規則的な聴覚刺激である聴覚刺激群の情報を決定する。聴覚刺激の規則性は、あらかじめ設定されるものとする。規則的な聴覚刺激としては、たとえば同一周波数かつ同一音圧の聴覚刺激を所定間隔で2回連発呈示する、あるいは、同一周波数の聴覚刺激を規則的に音圧変化させて呈示する、が考えられる。このような規則的な聴覚刺激に対する聴覚事象関連電位の変化量あるいは変化パターンを指標に、ユーザの聞こえ状態を推定できる可能性がる。また、聴覚刺激群生成部62は、決定した呈示耳、周波数、音圧に基づいて、聴覚刺激群を生成する。そして、聴覚刺激出力部61に生成した聴覚刺激群の情報を送付し、そのタイミングで脳波処理部55にトリガを出力する。トリガは、聴覚刺激群内の聴覚刺激ごとに出力する。さらに、聴覚刺激群生成部62は、聴覚刺激群の情報を除外試行群決定部82に送付する。聴覚刺激群の情報とは、聴覚刺激群を呈示する左右耳、聴覚刺激群の周波数と音圧である。
【0078】
除外試行群決定部82は、聴覚刺激群の呈示タイミングおよび聴覚刺激の情報である左右耳、周波数、音圧の情報を聴覚刺激群生成部62から受け取る。また、輝度変化検出部75から輝度変化タイミングを受け取る。図10は、除外試行群決定部82における除外試行群決定の概念を示す。聴覚刺激群ごとに、輝度変化タイミングを起点に所定の時間範囲に呈示された聴覚刺激が存在したか否かを判定し、一つでも存在した場合には、その聴覚刺激群のすべての聴覚刺激を除外試行と決定する。輝度変化から約200msまでは視覚誘発電位の影響を多く受けるため、実施形態1の除外試行決定部80と同様に、所定の時間帯とは輝度変化のタイミング後0ms以上、200ms以下としてもよい。また、輝度変化のタイミング前100ms以上、後200ms以下としてもよい。そして、該当する聴覚刺激群に対して除外試行フラグを立てて、聴覚刺激群の情報とともに、聴覚事象関連電位算出部100に送付する。図11は、除外試行群決定部82が、聴覚事象関連電位算出部100に送付する情報の例を示す。図11では、左右耳ごとに、500Hz、1000Hz、2000Hz、4000Hzの周波数の聴覚刺激を80dBHL、75dBHL、70dBHLの規則的な音圧変化で呈示する場合の例である。3段階の音圧変化をまとめて聴覚刺激群としている。図11中の聴覚刺激群番号は、聴覚刺激群の通し番号である。除外試行フラグは、聴覚刺激群番号ごとに立てる。除外試行フラグは、図7と同様に、たとえば除外する刺激群に対して「1」を、除外しない刺激群に対して「0」としてもよい。
【0079】
次に、図12のフローチャートを参照しながら、聴覚事象関連電位計測システム2において行われる全体的な処理の手順を説明する。
【0080】
図12は、本実施形態による聴覚事象関連電位計測システム2の処理手順を示す。図12では、聴覚事象関連電位計測システム1の処理(図8)と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
【0081】
本実施形態による聴覚事象関連電位計測システム2の処理が、実施形態1による聴覚事象関連電位計測システム1の処理と相違する点は、ステップS201およびS202である。それ以外のステップについては、図8に関連して既に説明しているため、説明を省略する。
【0082】
ステップS201において、聴覚刺激群生成部62は、ユーザ5に呈示する規則的な聴覚刺激である聴覚刺激群の情報を決定する。また、聴覚刺激群生成部62は、決定した呈示耳、周波数、音圧に基づいて、聴覚刺激群を生成し、聴覚刺激出力部61に生成した聴覚刺激群の情報を送付して、そのタイミングで脳波処理部55にトリガを出力する。さらに、聴覚刺激群生成部62は、聴覚刺激群の情報を除外試行群決定部82に送付する。聴覚刺激群の情報とは、聴覚刺激群を呈示する左右耳、聴覚刺激群の周波数と音圧である。
【0083】
ステップS202において、除外試行群決定部82は、聴覚刺激群生成部62から受けた聴覚刺激群の呈示タイミングおよび聴覚刺激の情報である左右耳、周波数、音圧の情報と、輝度変化検出部75から受けた輝度変化タイミングに基づいて、除外する聴覚刺激群を決定する。聴覚刺激群ごとに、輝度変化タイミングを起点に所定の時間範囲に呈示された聴覚刺激が存在したか否かを判定し、一つでも存在した場合には、その聴覚刺激群のすべての聴覚刺激を除外試行と決定する。そして、該当する聴覚刺激群に対して除外試行フラグを立てて、聴覚刺激群の情報とともに、聴覚事象関連電位算出部100に送付する。
【0084】
このような処理によって、規則的な聴覚刺激に対する聴覚事象関連電位の変化量または変化パターンをより高精度に計測する、聴覚事象関連電位計測システムが実現できる。
【産業上の利用可能性】
【0085】
本発明の聴覚事象関連電位計測装置および聴覚事象関連電位計測装置が組み込まれた聴覚事象関連電位計測システムによれば、聴覚刺激と並列に呈示した映像の輝度変化タイミングを検出し、輝度変化タイミングを起点に所定の時間範囲の聴覚刺激を加算平均から除外することで、ユーザの覚醒度低下を抑制しつつ高精度な聴覚事象関連電位の計測が実現される。高精度な聴覚事象関連電位の計測結果は、ユーザの客観的な聞こえ評価において利用可能である。
【符号の説明】
【0086】
1、2 聴覚事象関連電位計測システム
5 ユーザ
10、20 聴覚事象関連電位計測装置
50 生体信号計測部
55 脳波処理部
60 聴覚刺激生成部
61 聴覚刺激出力部
62 聴覚刺激群生成部
70 映像再生処理部
71 映像出力部
75 輝度変化検出部
80 除外試行決定部
82 除外試行群決定部
【技術分野】
【0001】
本発明は、聴覚刺激に対する聴覚事象関連電位を高精度に測定するための技術に関する。より具体的には、本発明は、映像を呈示しながら聴覚刺激を呈示し、ユーザの覚醒度の変動や映像の影響を受けずに、聴覚事象関連電位を計測する方法に関する。
【背景技術】
【0002】
近年、補聴器の小型化・高性能化に伴い、補聴器を利用するユーザが増加している。補聴器は、ユーザごとの聴力低下の状態に合わせて、聴力が低下している周波数帯の音信号を、聴力低下の度合いに合わせて増幅する。これにより、ユーザが音を聞き取りやすくする。聴力低下の状態はユーザごとに異なるため、補聴器の利用を開始する前には、ユーザごとの聞こえを正しく評価する必要がある。そして、その評価結果に基づいて、周波数ごとの音の増幅量を決定する「フィッティング」を行う。
【0003】
一般的に、ユーザごとの聞こえは、ユーザの主観報告に基づいて評価される。しかし、主観報告による評価は、言語表現やパーソナリティによって結果がばらつくという問題と、主観報告のできない乳児では評価ができないという問題がある。そこで主観報告によらず、聞こえを客観的に評価する手法の開発が進んでいる。
【0004】
脳波は、知覚・認知等のユーザ状態を測定するための有効なツールである。頭皮上の2点間の電位変化を記録したもので、大脳皮質の神経活動を反映している。ユーザの頭皮上に電極を装着して脳波を記録しながら、ユーザに対して聴覚刺激を呈示すると、聴覚刺激を起点に特徴的な聴覚事象関連電位が惹起される。この聴覚事象関連電位は、ユーザの聞こえを客観的に評価可能な指標である。聴覚事象関連電位は、聴覚刺激によって誘発される外因性成分(聴覚誘発電位)と、聴覚刺激を受けたことによる内因性成分を含む。
【0005】
非特許文献1では、ユーザの主観的なうるささであるラウドネスと、純音聴覚刺激に対するN1成分の振幅および潜時の関係を特定し、N1成分の振幅および潜時から、聞こえ評価のうちラウドネスが推定できる可能性を示唆している。なお、N1成分とは、聴覚刺激呈示を起点に約100msにおいて惹起される陰性の感覚誘発電位である。N1成分は、大脳皮質の神経活動を反映しているので、脳幹反応(ABR)と比較して、主観との相関が高いと考えられている。これは、N1成分の振幅および潜時から、聞こえ評価のうちラウドネスが推定できる可能性を示している。
【0006】
また、非特許文献2では、N1成分の馴化を用いた不快閾値推定について開示している。不快閾値(uncomfortable level:UCL)とは、うるさすぎて長時間聞き続けることのできない最小の音圧である。音が大きすぎて無視できないときには、N1成分の馴化が生じないことを利用している。
【0007】
聴覚事象関連電位は背景脳波と比較してS/Nが低いことから、刺激を繰り返し呈示し、加算平均によって混入するノイズの影響を低減する必要がある。そのため、刺激間間隔の繰り返し回数倍の時間を要する。たとえば、非特許文献2では、刺激間間隔1秒で800回の繰り返しを実施しており、聴覚刺激の種類ごとに、十数分の時間がかかる。
【先行技術文献】
【非特許文献】
【0008】
【非特許文献1】Hoppe,U.他、「Loudness perception and late auditory evoked potentials in adult cochlear implant users」、2001年
【非特許文献2】Mariam,M.他、「Comparing the habituation of late auditory evoked potentials to loud and soft sound」、2009年
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、非特許文献1および非特許文献2のような従来手法では、単調な聴覚刺激が長時間にわたって呈示されることから、しばしばユーザが覚醒度を維持できない場合があった。佐藤他、監修、「誘発電位の基礎と臨床」、p129、創造出版、1990年(第1版)に記載のように、聴覚事象関連電位は覚醒度によって波形そのものが大幅に変化する。そのため、たとえば非特許文献1や非特許文献2のように、N1成分の振幅や潜時を用いて聞こえ評価をする場合に、正しく評価ができないという課題があった。
【0010】
本発明の目的は、聞こえ評価のための聴覚事象関連電位測定システムにおいて、覚醒度の変化に由来する聴覚事象関連電位の変動を抑制し、高精度な聴覚事象関連電位を計測することにある。そのために、聴覚刺激以外に映像を呈示してユーザの覚醒度の変化を低減する。また、呈示する映像の変化パターンに応じて聴覚事象関連電位を加算平均に加えるか否かを判定し、映像呈示によって惹起されるノイズの影響を低減する。
【課題を解決するための手段】
【0011】
本発明のユーザの聴覚事象関連電位計測システムは、脳波信号を計測する生体信号計測部と、前記ユーザに、複数の聴覚刺激を呈示する聴覚刺激出力部と、前記脳波信号において、前記聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、前記ユーザに映像を呈示する映像出力部と、前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部とを備える。
【発明の効果】
【0012】
本発明によれば、聴覚事象関連電位の計測時に、聴覚刺激以外に映像を呈示することで、ユーザの覚醒度の変化に由来する聴覚事象関連電位の変動を低減し、精度の高い聴覚事象関連電位の計測が実現できる。
【図面の簡単な説明】
【0013】
【図1】聴覚刺激のみの聴覚事象関連電位計測パラダイムと聴覚事象関連電位計測中の仮想的な覚醒度変化を示す図である。
【図2】映像を並列呈示する聴覚事象関連電位計測パラダイムと聴覚事象関連電位計測中の仮想的な覚醒度変化を示す図である。
【図3】輝度変化タイミングと、輝度変化に対する視覚誘発電位が聴覚事象関連電位に及ぼす影響の概念図である。
【図4】実施形態1による聴覚事象関連電位計測システム1の構成および利用環境を示す図である。
【図5】実施形態1による聴覚事象関連電位計測装置10のハードウェア構成を示す図である。
【図6】実施形態1による聴覚事象関連電位計測システム1の機能ブロックの構成を示す図である。
【図7】聴覚事象関連電位算出部100に保持するデータの例を示す図である。
【図8】聴覚事象関連電位計測システム1において行われる処理の手順を示すフローチャートである。
【図9】実施形態2による聴覚事象関連電位計測システム2の機能ブロックの構成を示す図である。
【図10】実施形態2による聴覚刺激群と除外試行群判定の概念図である。
【図11】実施形態2による除外試行群決定部に保持する聴覚刺激群および除外試行フラグのデータの例を示す図である。
【図12】聴覚事象関連電位計測システム2において行われる処理の手順を示すフローチャートである。
【発明を実施するための形態】
【0014】
ここで、本明細書における用語の定義を説明する。「事象関連電位(event−related potential:ERP)」とは、脳波(electroencephalogram:EEG)の一種であり、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電位変動をいう。「聴覚事象関連電位」とは、聴覚刺激に対して惹起される事象関連電位である。たとえば、聴覚刺激を起点に約50msにおいて惹起される陽性の電位であるP1成分、聴覚刺激呈示を起点に約100msにおいて惹起される陰性の電位であるN1成分や、聴覚刺激呈示を起点に約200msにおいて惹起される陽性の電位であるP2成分が該当する。「音を呈示する」とは、純音の聴覚刺激を出力すること、たとえば純音をヘッドフォンの片耳側から出力することをいう。「純音」とは、周期振動を繰り返す楽音のうち、単一の周波数成分しか持たない正弦波で表される音である。ヘッドフォンの種類は任意であるが、不快音圧を正しく測定するために、指定した音圧の純音を正確に出力できる必要がある。
【0015】
本発明による聴覚事象関連電位計測システムは、聴覚刺激以外に映像の呈示によりユーザの覚醒度の変化を低減する。そして覚醒度変化の影響の少ない聴覚事象関連電位を計測する。また、呈示する映像の変化パターンに応じて聴覚事象関連電位を加算平均に加えるか否かを判定し、映像呈示によって惹起されるノイズの影響を低減する。
【0016】
以下では、まず本願発明に至った経緯に触れ、その後、実施形態として聴覚事象関連電位計測システムを概説し、聴覚事象関連電位計測装置の構成およびその動作について詳述する。
【0017】
(本願発明の経緯)
上述のように、単調な聴覚刺激を繰り返す聴覚事象関電位計測では、ユーザが覚醒度を維持できない場合がある。それによって、覚醒度変動に伴う聴覚事象関連電位の波形変化が生じてしまう。それに対して、本願発明者らは、ユーザの覚醒度変動を抑制するために、聴覚刺激とは異なるモダリティの映像を、聴覚事象関連電位計測中に同時呈示する方法に着目した。覚醒度を抑制可能な映像としては、たとえば映画やTV番組のドラマやスポーツ中継などが挙げられる。しかしながら、それらの映像を呈示すると、映像によって惹起される脳波がノイズとして混入する。そこで、その影響を低減するための工夫が必要になる。本願発明のポイントは、映像に起因するノイズ成分の影響を低減するために、映像中のシーン切替り等による大きな輝度変化があった場合に、その輝度変化後の聴覚刺激を加算平均から除外し、ノイズの影響を受けないより高精度な聴覚事象関連電位計測を実現することである。なお、映像によって惹起される脳波として、映像の内容認知に関連した高次な脳活動によるものも考えられるが、個人差が大きく、呈示した映像から惹起される成分が予測できないため、本発明では対象にしない。
【0018】
図1中(a)に、従来の聴覚事象関連電位計測の実験パラダイムを示す。横軸は時間で、縦線は聴覚刺激のタイミングを模式的に示している。加算平均によって背景脳波等のノイズを低減するために、聴覚刺激が繰り返し呈示される。たとえば、聴覚刺激の持続時間が100ms、刺激間間隔の平均値が1秒で、繰り返し回数を30回とすると、一つの周波数、一つの音圧、片耳の聴覚事象関連電位計測に約30秒程度の時間を要する。そのため、たとえばユーザの聞こえ評価を行うために、5つの周波数、5つの音圧、両耳において聴覚事象関連電位を計測する場合、単純計算で約25分(30×5×5×2秒)程度かかる。ユーザは合計約25分間、単調な聴覚刺激を聞き続ける必要があり、覚醒度を維持することが難しい。図1中(b)に、聴覚事象関連電位計測中のユーザの仮想的な覚醒度変動を示す。横軸は時間で、縦軸は覚醒度である。聴覚事象関連電位の計測開始から時間が経過するにつれて、覚醒度が低下している様子を表現している。
【0019】
図2(a)は、本願発明者らが着目した聴覚事象関連電位計測の方法である。聴覚事象関連電位計測中のユーザの覚醒度低下を抑制するために、映像を呈示しながら、聴覚刺激を呈示する。図2(b)に、図1中(b)と同様に聴覚事象関連電位計測中のユーザの仮想的な覚醒度変動を示す。映像の呈示によって、ユーザの覚醒度低下が抑制されると考えられる。図2(b)に示した覚醒度は仮想的なグラフであるが、実際に、本願発明者らが、5人の参加者に対して映像呈示あり/なしの条件で約10分程度の聴覚事象関連電位計測を実施し、計測後に覚醒度に関するアンケートを行ったところ、すべての参加者が映像呈示ありの場合で覚醒度が高かったと回答した。このことから少なくとも、映像呈示によって聴覚事象関連電位計測中のユーザの覚醒度低下が低減されるといえる。
【0020】
しかしながら、映像に関連して聴覚事象関連電位計測のノイズとなる特徴的な脳波が混入するため、単純に聴覚刺激と同時に映像を呈示するだけで、高精度な聴覚事象関連電位を計測することはできないと考えられる。そこで、本願発明者らは、映像によって惹起される脳波のうち、少なくとも映像の物理的な変化に対して惹起される視覚誘発電位(visual evoked potential:VEP)の影響を低減する方法を考案した。たとえば映画やTV番組のドラマ、スポーツ中継の映像中には、シーンの切替り等の画面全体の輝度や輝度の分布が大きく変化するタイミングが存在する。本明細書中では、全体的な輝度の変化および、輝度分布の変化(平均輝度が変化。ない場合を含む)の両方を輝度変化とし、輝度が変化したタイミングを輝度変化タイミングと呼ぶ。その輝度変化タイミングに対して、聴覚事象関連電位計測のノイズとなる視覚誘発電位が惹起される。
【0021】
視覚誘発電位とは、閃光(全体の輝度が変化)やパターン刺激(輝度の分布が変化)によって誘発される一過性の電位である。閃光あるいはパターン刺激のどちらであっても、刺激呈示後約70ms前後に陰性、約100ms前後で陽性、約130msで陰性の波が誘発される。視覚刺激の輝度や大きさによって潜時・振幅が変化するが、個人差の影響が比較的少ない。宮田、監修、「新整理心理学」、1巻、p115(第3版)によると、左右マストイド連結を基準とした場合、頭頂部から後頭部優位であるが、聴覚事象関連電位の優勢部位である中心部においても惹起される。
【0022】
図3に、映像の輝度変化タイミングと、輝度変化によって惹起される視覚誘発電位が、聴覚誘発電位計測におよぼす影響の度合いを模式的に示した。映像中には、所定の閾値以上の輝度変化が起こる輝度変化タイミングがいくつも存在する。その輝度変化タイミングを起点に、視覚誘発電位が惹起される。それが、輝度変化を起点に約100ms前後をピークにノイズとして混入する。視覚誘発電位の影響は、輝度変化タイミング後約200ms前後まで持続する。そこで、本願発明者らは、輝度変化タイミング後所定時間内に呈示された聴覚刺激を聴覚事象関連電位計測のための加算平均から除外する方法に想到した。所定時間とは、たとえば輝度変化後200msである。
【0023】
従来、事象関連電位計測においてノイズを含んだ試行は除外された。しかし従来は、測定した電位データに基づいて、たとえば振幅の最大値が±80μVを超えた試行のように、明らかにノイズが混入した試行が除外された。本願発明の映像呈示のように、測定対象以外の情報呈示はしない場合が多く、その測定対象以外の情報呈示の内容に基づいて、除外する試行が決定されることはなかった。なお、聴覚事象関連電位と視覚誘発電位は、周波数が近いため、周波数フィルタリングによって視覚誘発電位の影響を低減することは難しい。
【0024】
また、あらかじめ映像の輝度変化タイミングを検出し、輝度変化による視覚誘発電位が惹起されない時刻に聴覚刺激を呈示して、輝度変化による視覚誘発電位の影響を受けないようにすることもできる。その場合、輝度変化の発生頻度によっては聴覚刺激の刺激間間隔が数秒程度あいてしまう可能性がある。しかしながら、Naatanen,R、「Attention and brain function」、p126、1992年に記載のように、刺激間間隔が数秒以上あいた場合には、感覚刺激に依存しない振幅の大きな成分が、聴覚刺激呈示後約100ms前後に惹起されてしまいノイズとして混入する。そのため、単純にあらかじめ検出した輝度変化のタイミングに基づいて、聴覚刺激の呈示タイミングを決めたとしても、高精度な聴覚事象関連電位は計測できない。
【0025】
(実施形態1)
<聴覚事象関連電位計測システムの概説>
本実施形態による聴覚事象関連電位計測システムは、聴覚事象関連電位計測中に映像を呈示し、映像の輝度変化のタイミングを検出し、輝度変化のタイミング後所定時間内に呈示された聴覚刺激を加算平均から除外して、ユーザの覚醒度変動が少なくかつ映像によって誘発される視覚誘発電位の影響を受けない高精度な聴覚事象関連電位計測を実現する。
【0026】
本実施形態においては、探査電極を中心部(Cz)に設け、基準電極を右マストイドに設けて、探査電極と基準電極の電位差である脳波を計測するものとする。なお、事象関連電位の特徴成分のレベルや極性は、脳波計測用の電極を装着する部位や、基準電極および探査電極の設定位置に応じて変わる可能性がある。しかしながら、以下の説明に基づけば、当業者は、そのときの基準電極および探査電極に応じて適切な改変を行って事象関連電位の特徴を抽出し、聴覚事象関連電位の測定を行うことが可能である。そのような改変例は、本発明の範疇である。
【0027】
<利用環境>
図4は、聴覚事象関連電位計測システム1の構成および利用環境を示す。この聴覚事象関連電位計測システム1は、後述する実施形態1のシステム構成に対応させて例示している。
【0028】
聴覚事象関連電位計測システム1は、ユーザ5の聴覚事象関連電位を高精度に計測するためのシステムである。ユーザ5の脳波信号は、ユーザが頭部に装着した生体信号計測部50によって取得され、無線または有線で聴覚事象関連電位計測装置10に送付される。聴覚刺激出力部61と映像出力部71は、聴覚事象関連電位計測装置10から無線または有線で、それぞれ聴覚刺激と映像の情報を受け、ユーザ5にそれぞれ聴覚刺激と映像を呈示する。図4に示す聴覚事象関連電位計測システム1は、生体信号計測部50および聴覚刺激出力部61を同じ筐体内に備える。しかしこれは例である。聴覚事象関連電位計測システム1は、生体信号計測部50および聴覚刺激出力部61を別筐体に備えてもよい。
【0029】
生体信号計測部50は、少なくとも2つの電極Aおよび電極Bと接続されている。例えば、電極Aはユーザ5のマストイドに貼り付けられ、電極Bはユーザ5の頭皮上の中心部(いわゆるCz)に貼り付けられている。生体信号計測部50は、電極Aと電極Bとの電位差に対応するユーザ5の脳波を計測する。
【0030】
聴覚刺激出力部61は、ユーザ5に聴覚刺激を出力するヘッドフォンである。
【0031】
映像出力部71は、ユーザ5に映像を呈示するモニタである。
【0032】
聴覚事象関連電位計測装置10は、たとえば映画やTV番組の映像をユーザ5に呈示しながら、聴覚刺激を呈示し、聴覚事象関連電位を計測する。そして、映像の輝度変化タイミングを検出して、そのタイミングから所定の時間内に呈示された聴覚刺激を聴覚事象関連電位算出の加算平均から除外する。
【0033】
<ハードウェア構成>
図5は、本実施形態による聴覚事象関連電位計測装置10のハードウェア構成を示す。聴覚事象関連電位計測装置10は、CPU30と、メモリ31と、オーディオコントローラ32と、グラフィックコントローラ33を備えている。CPU30と、メモリ31と、オーディオコントローラ32、グラフィックコントローラ33とは、互いにバス34で接続されており、相互にデータの授受が可能である。
【0034】
CPU30は、メモリ31に格納されているコンピュータプログラム35を実行する。コンピュータプログラム35には、後述するフローチャートに示される処理手順が記述されている。聴覚事象関連電位計測装置10、このコンピュータプログラム35にしたがって、聴覚刺激の生成、映像の再生、映像の輝度変化検出、除外試行の判定等の、聴覚事象関連電位計測システム1の全体を制御する処理を行う。この処理は後に詳述する。
【0035】
オーディオコントローラ32は、CPU30の命令に従って、それぞれ、呈示すべき聴覚刺激を指定されたタイミングで、指定された音圧および持続時間で聴覚刺激出力部61を介して出力する。
【0036】
グラフィックコントローラ33は、CPU30の命令に従って、映像出力部71を介して映像を出力する。
【0037】
なお、聴覚事象関連電位計測装置10は、1つの半導体回路にコンピュータプログラムを組み込んだDSP等のハードウェアとして実現されてもよい。そのようなDSPは、1つの集積回路で上述のCPU30、メモリ31、オーディオコントローラ32、グラフィックコントローラ33の機能を全て実現することが可能である。
【0038】
上述のコンピュータプログラム35は、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送され得る。図5に示すハードウェアを備えた機器(たとえばPC)は、当該コンピュータプログラム35を読み込むことにより、本実施形態による聴覚事象関連電位計測装置10として機能し得る。
【0039】
<聴覚事象関連電位計測システム1の構成>
図6は、本実施形態による聴覚事象関連電位計測システム1の機能ブロックの構成を示す。聴覚事象関連電位計測システム1は、生体信号計測部50と、聴覚刺激出力部61と、映像出力部71と、聴覚事象関連電位計測装置10とを有している。
【0040】
また、聴覚事象関連電位計測装置10は、脳波処理部55と、聴覚刺激生成部60と、映像再生処理部70と、輝度変化検出部75と、除外試行決定部80と、聴覚事象関連電位算出部100とを備えている。ユーザ5のブロックは説明の便宜のために示されている。なお、聴覚事象関連電位計測装置10は、脳波処理部55と、輝度変化検出部75と、聴覚事象関連電位算出部100とを少なくとも備えればよい。
【0041】
聴覚事象関連電位計測装置10の各機能ブロックは、それぞれ、図5で説明したプログラムが実行されることによって、CPU30、メモリ31、オーディオコントローラ32、グラフィックコントローラ33によって全体としてその時々で実現される機能に対応している。
【0042】
<聴覚刺激生成部60>
聴覚刺激生成部60は、ユーザ5に呈示する聴覚刺激の情報を決定する。聴覚刺激の情報は、ユーザ5の右耳か左耳のどちらに呈示するのか、及び、呈示する聴覚刺激の周波数、音圧を含む。呈示する聴覚刺激の左右耳および周波数、音圧を決定する。
【0043】
たとえば次の制約に基づいてランダムに決定してもよい。直前の聴覚刺激と同じ周波数、同じ音圧の聴覚刺激は選択しないことが好ましい。左右耳はランダムな順序で選択する。ただし、左右どちらか一方の耳への聴覚刺激の呈示を4回以上連続させないことが好ましい。こうすることで、同一耳、周波数の聴覚刺激の連続呈示による脳波の慣れ(habituation)の影響が低減され、高精度な聴覚事象関連電位計測が実現できる。
【0044】
聴覚刺激生成部60は、決定した聴覚刺激を生成し、所定の刺激間間隔をあけて聴覚刺激出力部61に送付する。聴覚刺激は、たとえば、立ち上がり、立下り3msのトーンバースト音としてもよい。聴覚刺激の持続時間は、聴覚事象関連電位が安定して惹起されるよう、たとえば25ms以上に設定する。所定の時間間隔は、音刺激の持続時間以上で2秒以下の時間に設定する。たとえば、500msとしてもよいし、1秒としてもよい。また、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、脳波処理部55にトリガを出力する。このトリガは、脳波処理部55において聴覚刺激に対する事象関連電位を切り出す際に利用される。加えて、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、聴覚刺激を呈示したタイミング、左右耳、聴覚刺激の周波数および音圧を除外試行決定部80に送付する。
【0045】
<聴覚刺激出力部61>
聴覚刺激出力部61は、聴覚刺激生成部60と有線または無線で接続されている。聴覚刺激出力部61は、聴覚刺激生成部60で生成された聴覚刺激データを再生し、ユーザ5に呈示する。
【0046】
<生体信号計測部50>
生体信号計測部50は、ユーザ5の生体信号を計測する脳波計である。生体信号計測部50は、ユーザ5に装着されている基準電極と探査電極との電位差に対応する、ユーザ5の生体信号を計測する。本実施形態において、ユーザ5の生体信号は、脳波である。
【0047】
好ましくは、生体信号計測部50は、脳波データに対して適切な遮断周波数の周波数フィルタリングを行う。そして、その脳波データを脳波処理部55に送付する。周波数フィルタとしてバンドパスフィルタを用いる場合は、たとえば5Hzから15Hzまでを通過させるように遮断周波数を設定してもよい。ユーザ5はあらかじめ脳波計を装着しているものとする。脳波計測用の探査電極はたとえば中心部のCzに装着される。
【0048】
<脳波処理部55>
脳波処理部55は、生体信号計測部50から受けた脳波データから、聴覚刺激生成部60から受けたトリガを起点に、所定区間(たとえば聴覚刺激呈示前100msから聴覚刺激呈示後400msの区間)の事象関連電位を切り出す。なお、切り出した事象関連電位とは、計測した生体信号から脳波データの所定区間の電位のみを抽出したデータだけでなく、計測した生体信号において所定区間の電位を特定しているだけのデータも含む。脳波処理部55は、取得した事象関連電位を聴覚事象関連電位算出部100に送付する。脳波処理部55が記憶している所定の区間は、第1の時間範囲に対応する。
【0049】
<映像再生処理部70>
映像再生処理部70は、映像再生処理部70内にあらかじめ保持している映像コンテンツを再生する。映像コンテンツとは、少なくとも一部が異なる複数の画像が、時系列で連続している情報である。たとえば、映画やTV映像のドラマやスポーツ中継とする。ユーザ5の覚醒度の変動を抑制するために、ユーザ5の興味度合いに合わせてユーザ5がコンテンツを選択できるようにしてもよい。なお、映像コンテンツは、音を含まないようにあらかじめ加工しておくものとする。
【0050】
<映像出力部71>
映像出力部71は、映像再生処理部70と有線または無線でつながり、映像再生処理部70で再生処理された映像を再生する。映像は、聴覚事象関連電位計測中、常に再生するものとする。
【0051】
<輝度変化検出部75>
輝度変化検出部75は、映像再生処理部70で再生処理をした映像コンテンツの輝度変化のタイミングを検出する。輝度変化量は、たとえば画素ごとにフレームごとの輝度の差分を算出し、その差分を積分して求めてもよい。そして、求めた輝度変化量とあらかじめ設定した輝度変化量に関する所定の閾値との比較を行う。
【0052】
その結果、輝度変化量が所定の閾値よりも大きかった場合には、輝度変化ありとして、その輝度変化タイミングを記録し、輝度変化タイミングを除外試行決定部80に送付する。なお、輝度変化量が所定の閾値よりも小さかった場合、除外試行決定部80に輝度変化が小さかったことを送付してもよいし、何も送付しなくてもよい。また、輝度変化検出部75における映像の輝度変化検出は、リアルタイムに実施してもよいし、映像再生終了後にまとめて実施してもよい。
【0053】
<除外試行決定部80>
除外試行決定部80は、聴覚刺激の呈示タイミングおよび聴覚刺激の情報である左右耳、周波数、音圧の情報を聴覚刺激生成部60から受け取る。また、輝度変化検出部75から輝度変化タイミングを受け取る。そして、輝度変化タイミング後所定の時間帯に呈示された聴覚刺激を加算平均から除外するように決定する。図3に模式的に示したように、輝度変化から約200msまでは視覚誘発電位の影響を多く受けるため、所定の時間帯とは輝度変化のタイミング後0ms以上、200ms以下としてもよい。また、輝度変化のタイミング前100ms以上、後200ms以下としてもよい。そして、除外試行フラグを立てて、聴覚刺激の情報とともに、聴覚事象関連電位算出部100に送付する。
【0054】
<聴覚事象関連電位算出部100>
聴覚事象関連電位算出部100は、除外試行決定部80から受けた聴覚刺激の情報および除外試行の情報に基づいて、脳波処理部55から受けた事象関連電位のうち除外試行フラグの立っていない試行の事象関連電位を加算平均する。
【0055】
図7は、聴覚事象関連電位算出部100が、除外試行決定部80および脳波処理部55から受ける情報の例を示す。試行番号ごとに、聴覚刺激の情報と除外試行フラグおよび事象関連電位の対応付けを行う。そして、たとえば左右耳ごと、周波数ごと、音圧ごとに除外試行フラグが立っていない試行の事象関連電位を加算平均する。図7中の「試行番号」は、聴覚事象関連電位の計測を開始してから呈示された聴覚刺激の通し番号である。聴覚刺激の情報のうち「左右」は、聴覚刺激を呈示した左右耳の識別番号である。たとえば右耳を1、左耳を2としてもよい。「周波数」は、聴覚刺激の周波数で単位はHzである。「音圧」は、聴覚刺激の音圧で単位はdBHLである。「除外試行フラグ」は、除外試行決定部80で決定された除外試行のフラグである。たとえば、除外試行であると決定した場合に1を、除外試行でないと決定した試行を0としてもよい。「事象関連電位」は、脳波処理部55において切り出したユーザ5の事象関連電位である。図7中では、模式的に波形を示したが、事象関連電位のデータをたとえばサンプリングポイント数×計測チャンネル数の配列として受ける。
【0056】
なお、除外試行決定部80を省略することもできる。その場合には、聴覚事象関連電位算出部100は、輝度変化検出部75から輝度変化タイミングを取得する。脳波処理部55が取得した複数の聴覚刺激に対する事象関連電位のうち、取得した輝度変化タイミング(時刻)を基準とした所定の時間範囲の聴覚刺激以外の事象関連電位を加算平均する。また、聴覚事象関連電位算出部100が記憶している所定の時間範囲は、第2の時間範囲に対応する。
【0057】
<聴覚事象関連電位計測システム1の処理フロー>
次に、図8を参照しながら図6の聴覚事象関連電位計測システム1において行われる処理手順を説明する。図8は、聴覚事象関連電位計測システム1において行われる処理の手順を示すフローチャートである。
【0058】
ステップS101において、生体信号計測部50は、生体信号としてユーザ5の脳波を計測する。そして、脳波データに対して適切な遮断周波数の周波数フィルタリングを行い、連続脳波データを脳波処理部に送付する。
【0059】
ステップS102において、映像再生処理部70は、映像再生処理部70内にあらかじめ保持した映像コンテンツを再生し、映像出力部71を介してユーザ5に呈示する。映像コンテンツとは、たとえば映画やTV映像のドラマやスポーツ中継とする。ユーザ5の覚醒度の変動を抑制するために、ユーザ5の興味度合いに合わせてユーザ5がコンテンツを選択できるようにしてもよい。なお、映像コンテンツは、音を含まないようにあらかじめ加工しておくものとする。
【0060】
ステップS103において、輝度変化検出部75は、映像再生処理部70で再生処理をした映像コンテンツの輝度変化のタイミングを検出する。輝度変化量は、たとえば画素ごとにフレームごとの輝度の差分を算出し、その差分を積分して求めてもよい。
【0061】
ステップS104は、ステップS103で求めた輝度変化量とあらかじめ設定した輝度変化量よりも大きいかどうかの比較による分岐である。輝度変化量の比較は、輝度変化検出部75で実施する。比較の結果、輝度変化量が所定の閾値よりも大きかった場合には、輝度変化ありとして、ステップS109に進む。一方、所定の閾値よりも小さかった場合には、ステップS110に進む。
【0062】
ステップS105において、聴覚刺激生成部60は、ユーザ5に呈示する聴覚刺激の情報を決定する。聴覚刺激の情報は、ユーザ5の右耳か左耳のどちらに呈示するのか、及び、呈示する聴覚刺激の周波数、音圧を含む。呈示する聴覚刺激の左右耳および周波数、音圧を決定する。そして、聴覚刺激生成部60は、決定した聴覚刺激を生成し、所定の刺激間間隔をあけて聴覚刺激出力部61に送付する。また、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、脳波処理部55にトリガを出力する。加えて、聴覚刺激生成部60は、聴覚刺激出力部61に聴覚刺激の情報を送付したタイミングで、聴覚刺激を呈示したタイミング、左右耳、聴覚刺激の周波数および音圧を除外試行決定部80に送付する。
【0063】
ステップS106において、聴覚刺激出力部61は、聴覚刺激生成部60で生成された聴覚刺激データを再生し、ユーザ5に呈示する。
【0064】
ステップS107において、脳波処理部55は、生体信号計測部50から受けた脳波データから、聴覚刺激生成部60から受けたトリガを起点に、所定区間(たとえば聴覚刺激呈示前100msから聴覚刺激呈示後400msの区間)の事象関連電位を切り出す。そして、その事象関連電位を聴覚事象関連電位算出部100に送付する。
【0065】
ステップS108は、ステップS105からステップS107の聴覚刺激呈示および事象関連電位抽出をあらかじめ設定した所定の回数だけ実施したかによる分岐である。たとえば、左右それぞれの耳について、5つの周波数のそれぞれ3つの音圧に対して、30回の繰り返し回数とした場合、所定回数とは900回(2×5×3×30)である。ステップS108でYesの場合にはステップS110へ進み、Noの場合にはステップS105へ戻って聴覚刺激呈示および事象関連電位抽出を繰り返す。
【0066】
ステップS109は、除外試行決定部80において、ステップS104で求めた輝度変化タイミングと、ステップS106で聴覚刺激の呈示タイミングを参照し、輝度変化タイミング後の所定の時間帯に呈示された聴覚刺激を加算平均から除外するように決定する。所定の時間帯とは輝度変化のタイミング後0ms以上、200ms以下としてもよい。また、輝度変化のタイミング前100ms以上、後200ms以下としてもよい。そして、該当する試行に除外試行フラグを立てる。
【0067】
ステップS110において、聴覚事象関連電位算出部100は、除外試行決定部80から受けた聴覚刺激の情報および除外試行の情報に基づいて、脳波処理部55から受けた事象関連電位のうち除外試行フラグの立っていない試行の事象関連電位を加算平均する。
【0068】
本実施形態の聴覚事象関連電位計測システム1によれば、聴覚事象関連電位計測中に映像を呈示し、映像の輝度変化のタイミングを検出し、輝度変化のタイミング後所定時間内に呈示された聴覚刺激を加算平均から除外して、ユーザの覚醒度変動が少なくかつ映像によって誘発される視覚誘発電位の影響を受けない高精度な聴覚事象関連電位計測が実現できる。これにより、ユーザの聞こえ評価の精度が向上し、たとえばユーザの不満の少ない補聴器の調整が実現できるようになる。
【0069】
なお、本実施形態においては、聴覚事象関連電位計測の結果の蓄積をしていないが、結果蓄積用のデータベースを新たに設け、結果を蓄積してもよい。
【0070】
なお、本実施形態においては、呈示する映像は映像再生処理部70にあらかじめ保持しているとした。しかし、聴覚事象関連電位計測時にリアルタイムで放送されているTV映像を呈示してもよい。その場合も同様に輝度変化検出部75において、TV映像の輝度変化を検出すればよい。
【0071】
(実施形態2)
実施形態1による聴覚事象関連電位計測システム1では、聴覚刺激と並列に呈示した映像の輝度変化タイミングを検出し、輝度変化タイミングを起点に所定の時間範囲の聴覚刺激を加算平均から除外した。輝度変化に関連した除外試行を設けることで、映像に対する視覚誘発電位に関するノイズ成分が混入しないため、ユーザの覚醒度低下を抑制しつつ高精度な聴覚事象関連電位の計測が可能になった。
【0072】
しかしながら、ある規則に基づいて聴覚刺激を呈示し、その規則に対応した聴覚事象関連電位を計測する場合には、輝度変化に関連して規則的な聴覚刺激の一部が除外試行となるため、聴覚刺激の規則性が失われる可能性があった。たとえば、同一周波数で同一の音圧を2回連発呈示し第1音と第2音に対する聴覚事象関連電位の変化量を用いてユーザの聞こえ状態を評価する場合、第1音あるいは第2音のみが除外試行になることで、変化量が正しく計測できない可能性があった。また、たとえば同一周波数で規則的に音圧を変化させて第1音から第n音まで聴覚刺激を連発し、第1音から第n音までの聴覚事象関連電位の変化パターンからユーザの聞こえ状態を評価する場合、部分的に除外試行になることで、パターンが正しく計測できない可能性があった。
【0073】
そこで、本実施形態では、規則的な聴覚刺激を聴覚刺激群とし、聴覚刺激群ごとに除外試行を決定し、規則的な聴覚刺激に対する聴覚事象関連電位の変化量をより高精度に計測する、聴覚事象関連電位計測システムについて説明する。
【0074】
図9は、実施形態による聴覚事象関連電位計測システム2の機能ブロックの構成を示す。聴覚事象関連電位計測システム2は、生体信号計測部50と、聴覚刺激出力部61と、映像出力部71と、聴覚事象関連電位計測装置20とを有している。図6と同じブロックについては同一の参照符号を付し、その説明は省略する。なお、聴覚事象関連電位計測装置20のハードウェア構成は、図5に示すとおりである。実施形態1で説明したプログラム35と異なる処理を規定するプログラムが実行されることにより、図9に示す本実施形態による聴覚事象関連電位計測装置20が実現される。
【0075】
本実施形態による聴覚事象関連電位計測装置20が、実施形態1による聴覚事象関連電位計測装置10と大きく相違する点は、聴覚刺激生成部60に代えて聴覚刺激群生成部62を設けた点、および、除外試行決定部80に代えて除外試行群決定部82を設けた点である。
【0076】
以下、聴覚刺激群生成部62と除外試行群決定部82について説明する。
【0077】
聴覚刺激群生成部62は、ユーザ5に呈示する規則的な聴覚刺激である聴覚刺激群の情報を決定する。聴覚刺激の規則性は、あらかじめ設定されるものとする。規則的な聴覚刺激としては、たとえば同一周波数かつ同一音圧の聴覚刺激を所定間隔で2回連発呈示する、あるいは、同一周波数の聴覚刺激を規則的に音圧変化させて呈示する、が考えられる。このような規則的な聴覚刺激に対する聴覚事象関連電位の変化量あるいは変化パターンを指標に、ユーザの聞こえ状態を推定できる可能性がる。また、聴覚刺激群生成部62は、決定した呈示耳、周波数、音圧に基づいて、聴覚刺激群を生成する。そして、聴覚刺激出力部61に生成した聴覚刺激群の情報を送付し、そのタイミングで脳波処理部55にトリガを出力する。トリガは、聴覚刺激群内の聴覚刺激ごとに出力する。さらに、聴覚刺激群生成部62は、聴覚刺激群の情報を除外試行群決定部82に送付する。聴覚刺激群の情報とは、聴覚刺激群を呈示する左右耳、聴覚刺激群の周波数と音圧である。
【0078】
除外試行群決定部82は、聴覚刺激群の呈示タイミングおよび聴覚刺激の情報である左右耳、周波数、音圧の情報を聴覚刺激群生成部62から受け取る。また、輝度変化検出部75から輝度変化タイミングを受け取る。図10は、除外試行群決定部82における除外試行群決定の概念を示す。聴覚刺激群ごとに、輝度変化タイミングを起点に所定の時間範囲に呈示された聴覚刺激が存在したか否かを判定し、一つでも存在した場合には、その聴覚刺激群のすべての聴覚刺激を除外試行と決定する。輝度変化から約200msまでは視覚誘発電位の影響を多く受けるため、実施形態1の除外試行決定部80と同様に、所定の時間帯とは輝度変化のタイミング後0ms以上、200ms以下としてもよい。また、輝度変化のタイミング前100ms以上、後200ms以下としてもよい。そして、該当する聴覚刺激群に対して除外試行フラグを立てて、聴覚刺激群の情報とともに、聴覚事象関連電位算出部100に送付する。図11は、除外試行群決定部82が、聴覚事象関連電位算出部100に送付する情報の例を示す。図11では、左右耳ごとに、500Hz、1000Hz、2000Hz、4000Hzの周波数の聴覚刺激を80dBHL、75dBHL、70dBHLの規則的な音圧変化で呈示する場合の例である。3段階の音圧変化をまとめて聴覚刺激群としている。図11中の聴覚刺激群番号は、聴覚刺激群の通し番号である。除外試行フラグは、聴覚刺激群番号ごとに立てる。除外試行フラグは、図7と同様に、たとえば除外する刺激群に対して「1」を、除外しない刺激群に対して「0」としてもよい。
【0079】
次に、図12のフローチャートを参照しながら、聴覚事象関連電位計測システム2において行われる全体的な処理の手順を説明する。
【0080】
図12は、本実施形態による聴覚事象関連電位計測システム2の処理手順を示す。図12では、聴覚事象関連電位計測システム1の処理(図8)と同じ処理を行うステップについては同一の参照符号を付し、その説明は省略する。
【0081】
本実施形態による聴覚事象関連電位計測システム2の処理が、実施形態1による聴覚事象関連電位計測システム1の処理と相違する点は、ステップS201およびS202である。それ以外のステップについては、図8に関連して既に説明しているため、説明を省略する。
【0082】
ステップS201において、聴覚刺激群生成部62は、ユーザ5に呈示する規則的な聴覚刺激である聴覚刺激群の情報を決定する。また、聴覚刺激群生成部62は、決定した呈示耳、周波数、音圧に基づいて、聴覚刺激群を生成し、聴覚刺激出力部61に生成した聴覚刺激群の情報を送付して、そのタイミングで脳波処理部55にトリガを出力する。さらに、聴覚刺激群生成部62は、聴覚刺激群の情報を除外試行群決定部82に送付する。聴覚刺激群の情報とは、聴覚刺激群を呈示する左右耳、聴覚刺激群の周波数と音圧である。
【0083】
ステップS202において、除外試行群決定部82は、聴覚刺激群生成部62から受けた聴覚刺激群の呈示タイミングおよび聴覚刺激の情報である左右耳、周波数、音圧の情報と、輝度変化検出部75から受けた輝度変化タイミングに基づいて、除外する聴覚刺激群を決定する。聴覚刺激群ごとに、輝度変化タイミングを起点に所定の時間範囲に呈示された聴覚刺激が存在したか否かを判定し、一つでも存在した場合には、その聴覚刺激群のすべての聴覚刺激を除外試行と決定する。そして、該当する聴覚刺激群に対して除外試行フラグを立てて、聴覚刺激群の情報とともに、聴覚事象関連電位算出部100に送付する。
【0084】
このような処理によって、規則的な聴覚刺激に対する聴覚事象関連電位の変化量または変化パターンをより高精度に計測する、聴覚事象関連電位計測システムが実現できる。
【産業上の利用可能性】
【0085】
本発明の聴覚事象関連電位計測装置および聴覚事象関連電位計測装置が組み込まれた聴覚事象関連電位計測システムによれば、聴覚刺激と並列に呈示した映像の輝度変化タイミングを検出し、輝度変化タイミングを起点に所定の時間範囲の聴覚刺激を加算平均から除外することで、ユーザの覚醒度低下を抑制しつつ高精度な聴覚事象関連電位の計測が実現される。高精度な聴覚事象関連電位の計測結果は、ユーザの客観的な聞こえ評価において利用可能である。
【符号の説明】
【0086】
1、2 聴覚事象関連電位計測システム
5 ユーザ
10、20 聴覚事象関連電位計測装置
50 生体信号計測部
55 脳波処理部
60 聴覚刺激生成部
61 聴覚刺激出力部
62 聴覚刺激群生成部
70 映像再生処理部
71 映像出力部
75 輝度変化検出部
80 除外試行決定部
82 除外試行群決定部
【特許請求の範囲】
【請求項1】
ユーザの脳波信号を計測する生体信号計測部と、
前記ユーザに、複数の聴覚刺激を呈示する聴覚刺激出力部と、
前記脳波信号において、前記聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、
前記ユーザに映像を呈示する映像出力部と、
前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部と
を備えた、聴覚事象関連電位計測システム。
【請求項2】
さらに、前記輝度変化タイミングの後の第2の時間範囲に呈示された前記聴覚刺激を除外試行と決定する除外試行決定部とを備え、
前記聴覚事象関連電位算出部は、前記呈示された複数の聴覚刺激のうち、除外試行決定部が除外試行と決定した聴覚刺激を除いた、聴覚刺激に対する事象関連電位を加算平均する、聴覚事象関連電位計測システム。
【請求項3】
前記輝度変化検出部において、映像のフレーム間で、画素ごとに輝度または色の変化を積分し、輝度変化量とする、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項4】
前記第2の時間範囲は、前記輝度変化タイミングの後50ms以上200ms以下の範囲を含む、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項5】
さらに、前記ユーザに呈示する映像コンテンツを保持し、保持した映像コンテンツの再生処理を行う映像再生処理部を備えた、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項6】
前記映像再生処理部において保持する映像コンテンツは、音情報を含まない、
請求項5に記載の聴覚事象関連電位計測システム。
【請求項7】
前記映像再生処理部において保持する映像コンテンツは、ユーザ自信が選択できることを特徴とした、
請求項5に記載の聴覚事象関連電位計測システム。
【請求項8】
さらに、前記ユーザに呈示する聴覚刺激の左右耳、周波数、音圧を決定し、決定した特性を有する聴覚刺激を生成する聴覚刺激生成部を備える、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項9】
前記聴覚刺激生成部において、あらかじめ設定された規則的なパターンを有する2つ以上の聴覚刺激からなる聴覚刺激群を呈示し、前記除外試行決定部において、聴覚刺激群内の聴覚刺激がひとつでも除外試行と判定した場合に当該聴覚刺激群の全体を除外試行と決定する、
請求項2に記載の聴覚事象関連電位計測システム。
【請求項10】
ユーザの脳波信号を計測するステップと、
前記ユーザに映像を呈示するステップと、
前記ユーザに映像を呈示しているときに、複数の聴覚刺激を呈示するステップと、
前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出するステップと、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出するステップと
を備えた、聴覚事象関連電位計測方法。
【請求項11】
コンピュータによって実行されるコンピュータプログラムであって、
前記コンピュータプログラムは、前記コンピュータに対し、
ユーザの脳波信号を計測するステップと、
前記ユーザに映像を呈示するステップと、
前記ユーザに映像を呈示しているときに、複数の聴覚刺激を呈示するステップと、
前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出するステップと、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出するステップと
を実行させる、コンピュータプログラム。
【請求項12】
生体信号計測部が計測したユーザの脳波信号において、映像出力部によりユーザに映像が呈示されている状態で、前記ユーザに聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、
前記ユーザに出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部と
を備えた、聴覚事象関連電位計測装置。
【請求項1】
ユーザの脳波信号を計測する生体信号計測部と、
前記ユーザに、複数の聴覚刺激を呈示する聴覚刺激出力部と、
前記脳波信号において、前記聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、
前記ユーザに映像を呈示する映像出力部と、
前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部と
を備えた、聴覚事象関連電位計測システム。
【請求項2】
さらに、前記輝度変化タイミングの後の第2の時間範囲に呈示された前記聴覚刺激を除外試行と決定する除外試行決定部とを備え、
前記聴覚事象関連電位算出部は、前記呈示された複数の聴覚刺激のうち、除外試行決定部が除外試行と決定した聴覚刺激を除いた、聴覚刺激に対する事象関連電位を加算平均する、聴覚事象関連電位計測システム。
【請求項3】
前記輝度変化検出部において、映像のフレーム間で、画素ごとに輝度または色の変化を積分し、輝度変化量とする、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項4】
前記第2の時間範囲は、前記輝度変化タイミングの後50ms以上200ms以下の範囲を含む、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項5】
さらに、前記ユーザに呈示する映像コンテンツを保持し、保持した映像コンテンツの再生処理を行う映像再生処理部を備えた、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項6】
前記映像再生処理部において保持する映像コンテンツは、音情報を含まない、
請求項5に記載の聴覚事象関連電位計測システム。
【請求項7】
前記映像再生処理部において保持する映像コンテンツは、ユーザ自信が選択できることを特徴とした、
請求項5に記載の聴覚事象関連電位計測システム。
【請求項8】
さらに、前記ユーザに呈示する聴覚刺激の左右耳、周波数、音圧を決定し、決定した特性を有する聴覚刺激を生成する聴覚刺激生成部を備える、
請求項1に記載の聴覚事象関連電位計測システム。
【請求項9】
前記聴覚刺激生成部において、あらかじめ設定された規則的なパターンを有する2つ以上の聴覚刺激からなる聴覚刺激群を呈示し、前記除外試行決定部において、聴覚刺激群内の聴覚刺激がひとつでも除外試行と判定した場合に当該聴覚刺激群の全体を除外試行と決定する、
請求項2に記載の聴覚事象関連電位計測システム。
【請求項10】
ユーザの脳波信号を計測するステップと、
前記ユーザに映像を呈示するステップと、
前記ユーザに映像を呈示しているときに、複数の聴覚刺激を呈示するステップと、
前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出するステップと、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出するステップと
を備えた、聴覚事象関連電位計測方法。
【請求項11】
コンピュータによって実行されるコンピュータプログラムであって、
前記コンピュータプログラムは、前記コンピュータに対し、
ユーザの脳波信号を計測するステップと、
前記ユーザに映像を呈示するステップと、
前記ユーザに映像を呈示しているときに、複数の聴覚刺激を呈示するステップと、
前記出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出するステップと、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出するステップと
を実行させる、コンピュータプログラム。
【請求項12】
生体信号計測部が計測したユーザの脳波信号において、映像出力部によりユーザに映像が呈示されている状態で、前記ユーザに聴覚刺激が呈示された時刻を起点として第1の時間範囲の事象関連電位を取得する脳波処理部と、
前記ユーザに出力された映像の輝度変化量が所定の閾値を超えた時刻を、輝度変化タイミングとして検出する輝度変化検出部と、
前記呈示された複数の聴覚刺激のうち、前記輝度変化タイミングの後の第2の時間範囲に呈示された聴覚刺激を除いた、聴覚刺激に対する事象関連電位を算出する聴覚事象関連電位算出部と
を備えた、聴覚事象関連電位計測装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−85731(P2013−85731A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−229356(P2011−229356)
【出願日】平成23年10月19日(2011.10.19)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願日】平成23年10月19日(2011.10.19)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]