説明

音制御装置、プログラム及び制御方法

【課題】ユーザに対して、お店等の実オブジェクト(又は仮想オブジェクト)が存在する方向から、実オブジェクト(又は仮想オブジェクト)についての簡易な情報を提示し、これに対して、ユーザが何らかのアクションを行なうことにより、さらに詳細な情報を得ることができる技術を提供する。
【解決手段】音制御装置は、センサ部と、制御部とを具備する。前記制御部は、前記センサ部からの信号に基づいて、空間内に存在する実オブジェクト1又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定し、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御し、さらに前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する。

【発明の詳細な説明】
【技術分野】
【0001】
本技術は、ヘッドホン又はイヤホンから聞こえる音を制御する音制御装置等の技術に関する。
【背景技術】
【0002】
従来から、音が特定の方向から聞こえてくるように、ヘッドホンまたはイヤホンの音信号を制御する技術が知られている。
【0003】
下記特許文献1には、楽曲についての複数の仮想音源が仮想音源空間内に配置され、複数の仮想音源の方向から楽曲が聞こえるように、ヘッドホンの音信号を制御する技術が記載されている。例えば、ヘッドホンを装着したユーザが正面を向いている状態から右を向いたとする。この場合、正面を向いていたときに前方から聞こえてきた楽曲が左方向から聞こえてきて、正面を向いていたときに右方向から聞こえてきの楽曲が前方から聞こえてくる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−92193号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ユーザに対して、お店等の実オブジェクト(又は仮想オブジェクト)が存在する方向から、実オブジェクト(又は仮想オブジェクト)についての簡易な情報を提示し、これに対して、ユーザが何らかのアクションを行なうことにより、さらに詳細な情報を得ることができる技術が望まれている。
【課題を解決するための手段】
【0006】
本技術の一形態に係る音制御装置は、センサ部と、制御部とを具備する。
前記制御部は、前記センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定し、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御し、前記センサ部からの信号に基づいて前記1次情報に対するユーザのアクションを判定し、前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する。
【0007】
この音制御装置では、例えば、お店、建築物等の実オブジェクトについての1次情報(例えば、「お店があります」)が、その実オブジェクトが存在する方向から聞こえてくるように、音出力部(例えば、ヘッドホン又はイヤホン)の音信号が制御される。あるいは、例えば、メールプログラム等の仮想オブジェクトが空間内に仮想的に配置されている場合を想定する。この場合、その方向から仮想オブジェクトの1次情報(例えば、「メールが届きました」)が、その仮想オブジェクトが配置された方向から聞こえてくるように、音出力部の音信号が制御される。
【0008】
この1次情報に対して、ユーザがアクションを行なうと、このアクションがセンサ部により検出され、1次情報よりも詳しい内容の第2の情報(例えば、お店の詳細情報、メールの内容)が聞こえてくるように、音出力部の音信号が制御される。ユーザは、1次情報に対して、アクションを行なうことにより、1次情報よりも詳しい内容の2次情報を聞くことができる。
【0009】
上記音制御装置であって、前記制御部は、通信部をさらに具備していてもよい。この場合、前記制御部は、音制御装置の位置を測定し、前記通信部を介して、空間に存在する前記実オブジェクトの位置情報を取得し、各位置情報に基づいて、前記音制御装置及び前記実オブジェクトの距離を判定し、前記距離が所定の閾値以下となった場合に、前記実オブジェクトについての1次情報が前記音出力部から聞こえてくるように、音信号の出力を制御してもよい。
【0010】
これにより、ユーザが音制御装置を携帯しているときに、音制御装置と実オブジェクトとの距離が所定の閾値以下となった場合に、実オブジェクトについての1次情報が実オブジェクトが存在する方向から聞こえてくるように、音出力部の音信号が制御される。ユーザは、実オブジェクトについての2次情報(詳細情報)が知りたければ、1次情報に対してアクションを行なえばよい。
【0011】
上記音制御装置において、前記制御部は、前記1次情報に対するユーザのアクションとして、前記1次情報が聞こえた方向に顔を向ける動きを判定し、顔の向きが前記1次情報が聞こえた方向に近づくに従って、前記2次情報の音量が大きくなるように、前記音信号の出力を制御してもよい。
【0012】
この音制御装置では、ユーザが2次情報を知りたい場合に1次情報が聞こえた方向に顔を向けると、顔の向きが1次情報が聞こえた方向に近づくに従って、2次情報の音量が大きくなる。
【0013】
上記音制御装置において、前記制御部は、メインタスクを実行し、顔の向きが1次情報が聞こえた方向に近づくに従って、前記2次情報の音量が大きくなりつつ、前記メインタスクの音量が小さくなるように、前記音信号の出力を制御してもよい。
【0014】
この制御装置では、ユーザが2次情報を知りたい場合に1次情報が聞こえた方向に顔を向けると、2次情報の音量が大きくなり、例えば、メインタスクで実行されている楽曲などの音が小さくなる。
【0015】
上記音制御装置において、前記制御部は、前記1次情報に対するユーザのアクションとして、頭の上下方向への動きを判定し、上下方向へ頭が動かされた場合に、前記2次情報が前記音出力部から聞えてくるように前記音信号の出力を制御してもよい。
【0016】
これにより、ユーザは、頭を上下方向に動かす(うなずく)ことで、2次情報を聞くことができる。
【0017】
上記音制御装置において、前記制御部は、前記1次情報に対するユーザのアクションとして、ユーザが1次情報が聞こえた方向に顔を向けた状態での頭の動きを判定し、1次情報が聞こえた方向に顔を向けた状態での頭の動きに応じて、前記2次情報を音信号として出力するか否かを判定してもよい。
【0018】
これにより、ユーザは、1次情報が聞こえた方向に顔を向けた状態で、頭を動かすことで、2次情報を聞くかどうかを選択することができる。
【0019】
上記音制御装置において、前記制御部は、ユーザが1次情報が聞こえた方向に顔を向けた状態での頭の上下方向への動きを判定し、1次情報が聞こえた方向に顔を向けた状態での頭の上下方向への動きに応じて、2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御してもよい。
【0020】
これにより、ユーザは、1次情報が聞こえた方向に顔を向けた状態で、頭を上下方向に動かす(うなずく)ことで、2次情報を聞くことができる。
【0021】
上記音制御装置において、前記制御部は、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記2次情報が聞こえてくるように、前記音信号の出力を制御してもよい。
【0022】
上記音制御装置において、前記音出力部は、ヘッドホン又はイヤホンであってもよい。
【0023】
本技術の一形態に係るプログラムは、音制御装置に、センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定するステップを実行させる。
前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御するステップを実行させる。
前記センサ部からの信号に基づいて前記1次情報に対するユーザのアクションを判定するステップを実行させる。
前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御するステップを実行させる。
【0024】
本技術の一形態に係る制御方法は、センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定することを含む。
前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御することを含む。
前記センサ部からの信号に基づいて、前記1次情報に対するユーザのアクションを判定することを含む。
前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御することを含む。
【発明の効果】
【0025】
以上のように、本技術によれば、お店等の実オブジェクト(又は仮想オブジェクト)が存在する方向から、実オブジェクト(又は仮想オブジェクト)についての簡易な情報を提示し、これに対して、ユーザが何らかのアクションを行なうことにより、さらに詳細な情報を得ることができる技術を提供することができる。
【図面の簡単な説明】
【0026】
【図1】本技術の一形態に係る音制御装置を示す図である。
【図2】本技術の一形態に係る音制御装置の電気的な構成を示すブロック図である。
【図3】本技術の一形態に係る携帯電話機の制御部の処理を示すフローチャートである。
【図4】図3に示す処理を説明するための補足図であり、ユーザがヘッドホン装着しながら地上を移動している様子を示す図である。
【図5】どのようなカテゴリに属する実オブジェクトについての情報を提示するかをユーザが設定するための設定画面の一例を示す図である。
【図6】1次情報に対するユーザのアクションに応じて、2次情報がヘッドホンから聞こえてくるときの制御部の処理についての一例を示すフローチャートである。
【図7】1次情報に対するユーザのアクションに応じて、2次情報がヘッドホンから聞こえてくるときの制御部の処理についての他の例を示すフローチャートである。
【図8】1次情報に対するユーザのアクションに応じて、2次情報がヘッドホンから聞こえてくるときの制御部の処理についてのさらに別の例を示すフローチャートである。
【図9】本技術の他の形態に係る音制御装置を示す図である。
【図10】他の形態に係る音制御装置の電気的な構成を示すブロック図である。
【図11】他の形態に係る表示部一体型PCの制御部の処理を示すフローチャートである。
【図12】図11に示す処理を説明するための補足図であり、空間内に仮想的に配置された仮想オブジェクトを示す図である。
【図13】ユーザがメールプログラムについての1次情報を聞いた後に、1次情報が聞こえた方向を向いたときの様子を示す図である。
【図14】さらに別の形態に係る音制御装置の処理を示すフローチャートである。
【図15】図14に示す処理を説明するための補足図であり、ユーザが仮想オブジェクト(メールプログラム)が存在する方向を向いて、声を発したときの様子を示す図である。
【発明を実施するための形態】
【0027】
以下、本技術に係る実施形態を、図面を参照しながら説明する。
【0028】
[音制御装置100の全体構成及び各部の構成]
図1は、本技術の一形態に係る音制御装置100を示す図である。図2は、音制御装置100の電気的な構成を示すブロック図である。これらの図に示すように、音制御装置100は、音制御装置本体10(携帯電話機10)と、音制御装置本体10に接続されたヘッドホン20(音出力部)と、ヘッドホン20に取り付けられたセンサ部30とを含む。第1実施形態の説明では、音制御装置本体10の一例として、携帯電話機10を例に挙げて説明する。
【0029】
携帯電話機10は、制御部11と、表示部12と、入力部13と、アンテナ14と、通信部15と、記憶部16とを備えている。また、携帯電話機10は、図示しない通話用スピーカや、通話用マイクロフォン等を備えている。
【0030】
表示部12は、例えば、液晶ディスプレイや、EL(Electro-Luminescence)ディスプレイ等により構成される。入力部13は、指やスタイラスペン等による表示部12へのユーザ操作を検出するタッチセンサと、携帯電話機10に設けられた入力ボタンとを含む。
【0031】
記憶部16は、揮発性のメモリ(例えば、RAM(Random Access Memory))と、不揮発のメモリ(例えば、ROM(Read Only Memory))とを含む。揮発性のメモリは、制御部11の作業領域として用いられ、制御部11の処理に用いられるプログラムや、楽曲データ、映像データ等のデータを一時的に記憶する。不揮発性のメモリは、制御部11の処理に必要な各種のプログラムや、楽曲データ、ビデオデータ等のデータを固定的に記憶する。不揮発性のメモリに記憶されるプログラムは、光ディスク、半導体メモリ等の可搬性の記録媒体から読み取られてもよい。
【0032】
制御部11は、CPU(Central Processing Unit)等により構成される。制御部11は、記憶部16に記憶されたプログラムに基づいて、種々の演算を実行する。
【0033】
通信部15は、アンテナ14により送受信される電波の周波数変換や、変調及び復調等の処理を実行する。アンテナ14は、通話用の電波や、電子メール、Webデータ等のパケット通信用の電波を送受信する。
【0034】
通信部15は、図示しない情報管理サーバと通信可能とされている。情報管理サーバは、空間内に実在する実オブジェクト1(お店や、建築物等)(図4参照)の位置情報と、実オブジェクト1についての1次情報及び2次情報とを記憶している。そして、情報管理サーバは、携帯電話機10からの要求に応じて、実オブジェクト1の位置情報や、実オブジェクト1についての1次情報及び2次情報とを送信する。
【0035】
実オブジェクト1(お店や、建築物等)についての1次情報は、実オブジェクト1についての簡易な情報である。一方、実オブジェクト1についての2次情報は、実オブジェクト1のついての詳細な情報である。1次情報は、例えば、実オブジェクト1がお店である場合、そのお店の名前、そのお店の種類などであり、実オブジェクト1が建築物である場合、その建築物の名前、建築物の種類などである。2次情報は、例えば、実オブジェクト1がお店である場合、そのお店のお勧めの商品、営業時間等であり、実オブジェクト1が建築物である場合、その建築物についての詳細な歴史等である。
【0036】
センサ部30は、例えば、ヘッドホン20の頭頂部に配置される。センサ部30は、地上でのユーザの顔の向きを検出する方位センサ(例えば、地磁気センサ)と、ユーザの頭の動きを検出するモーションセンサとを含む。モーションセンサとしては、例えば、角速度センサ(例えば、振動型ジャイロセンサ、回転コマジャイロセンサ等)や、加速度センサ(例えば、ピエゾ抵抗型、圧電型、静電容量型等)等が用いられる。モーションセンサは、角速度センサと、加速度センサの組み合わせであっても構わない。
【0037】
センサ部30は、A/D変換部を含む。方位センサ、モーションセンサから出力された信号は、A/D変換されて、携帯電話機10の制御部11に入力される。
【0038】
図1及び図2では、携帯電話機10と、ヘッドホン20が有線で接続された場合が示されているが、携帯電話機10とヘッドホン20とは無線により通信可能であってもよい。
【0039】
[動作説明]
次に、本実施形態に係る携帯電話機10の制御部11の処理について説明する。図3は、本実施形態に係る携帯電話機10(制御部11)の処理を示すフローチャートである。図4は、図3に示す処理を説明するための補足図であり、ユーザがヘッドホン20装着しながら地上を移動している様子を示す図である。
【0040】
まず、ユーザは、ヘッドホン20を装着して、地上を歩く。この場合、ユーザは、携帯電話機10に保存されている楽曲データやビデオデータの音を聴きながら歩いていてもよい。
【0041】
図3に示すように、制御部11は、まず、GPS衛星からの電波をアンテナ14及び通信部15を介して受信し、GPS衛星からの電波に基づいて、ユーザの位置(携帯電話機10の位置)を測定する(ステップ101)。このユーザの位置(携帯電話機10の位置)の測定は、所定の周期で実行される。
【0042】
次に、制御部11は、情報管理サーバに対して、ユーザの位置から所定の距離d以内に存在する実オブジェクト1(お店、建築物等)の位置情報、1次情報及び2次情報の要求信号を送信する(ステップ102)。この距離dは、例えば、10m〜2km程度とされる(図4参照)。
【0043】
情報管理サーバは、要求信号に応じて、ユーザの位置から所定の距離d以内に存在する実オブジェクト1の位置情報、1次情報及び2次情報を送信する。
【0044】
制御部11は、実オブジェクト1の各情報を受信すると(ステップ103のYES)、携帯電話機10の位置(ユーザの位置)から所定の距離d(図5参照)以内に、情報を有する実オブジェクト1が存在したかを判定する(ステップ104)。
【0045】
実オブジェクト1が携帯電話機10の位置から所定の距離d以内に存在した場合(ステップ104のYES)、制御部11は、その実オブジェクト1がユーザの嗜好に合った実オブジェクト1であるかを判定する(ステップ105)。
【0046】
ここで、ユーザがどのような実オブジェクト1の情報を望んでいるかについては、あらかじめ設定されている。例えば、制御部11は、複数のカテゴリに分類された実オブジェクト1のうち、どのカテゴリに属する実オブジェクト1の情報を提示するかを設定するため設定画面を表示部12上に表示させる。
【0047】
図5には、どのようなカテゴリに属する実オブジェクト1についての情報を提示するかをユーザが設定するための設定画面の一例が示されている。図5では、実オブジェクト1が「お店」のカテゴリと、「建築物」のカテゴリに分類されている。そして、図5では、さらに、「お店」のカテゴリが、「飲食店」、「CDショップ」、「書店」に分類され、「建築物」のカテゴリが「近代建築物」、「歴史的建築物」に分類されている。
【0048】
図5では、ユーザの嗜好として、CDショップと、近代建築物とが選択された場合の一例が示されている。ユーザの嗜好により選択された実オブジェクト1は、記憶部に記憶される。ユーザが設定を変更したい場合、「○」、「×」と表示された部分をタッチ操作すれば、「○」と「×」とが反転する。
【0049】
再び図3を参照して、ユーザの位置(携帯電話機10の位置)から所定の距離d以内に存在する実オブジェクト1が、ユーザの嗜好に合った実オブジェクト1である場合(ステップ105のYES)、制御部11は、次のステップ106へ進む。ステップ106では、制御部11は、ユーザ(携帯電話機10)と実オブジェクト1との間の距離と、実オブジェクト1に対するユーザの顔の向きの角度を算出する。
【0050】
ユーザと実オブジェクト1との間の距離は、ユーザの位置情報と、実オブジェクト1の位置情報に基づいて計算される。一方、実オブジェクト1に対するユーザの顔の向きの角度は、携帯電話機10の位置情報と、実オブジェクト1の位置情報と、方位センサから取得された方位の情報とに基づいて算出される。
【0051】
なお、携帯電話機10から所定の距離d以内に、ユーザの嗜好に合った複数の実オブジェクト1が存在する場合には、複数の実オブジェクト1それぞれについて、距離と顔の向きが算出される。
【0052】
次に、制御部11は、実オブジェクト1の音源を配置する距離と、実オブジェクト1の音源を配置する方向とを算出する(ステップ107)。実オブジェクト1の音源を配置する距離は、ユーザと実オブジェクト1との間の距離に応じて決定される。すなわち、ユーザからの距離が近い実オブジェクト1の音源は、ユーザの近くに配置され、ユーザからの距離が遠い実オブジェクト1の音源は、ユーザから離れた位置に配置される。実オブジェクト1の音源を配置する角度は、実オブジェクト1に対するユーザの顔の向きの角度に応じて決定される。
【0053】
なお、携帯電話機10から所定の距離d以内に、ユーザの嗜好に合った複数の実オブジェクト1が存在する場合には、複数の実オブジェクト1それぞれについて、音源の距離と角度が算出される。
【0054】
音源を配置する距離及び方向を算出すると、制御部11は、1次情報が、実オブジェクト1に対する顔の向きに応じた方向から、実オブジェクト1に対するユーザの距離に応じた音量で聞こえるように、音信号の出力を制御する(ステップ108)。
【0055】
これにより、ユーザからの距離が距離d以内にある、ユーザの嗜好に合った実オブジェクト1の1次情報がヘッドホン20から聞こえてくる。このとき、1次情報は、実オブジェクト1に対する顔の向きに応じた方向から、実オブジェクト1に対するユーザの距離に応じた音量で聞こえてくる(図4参照)。
【0056】
例えば、「CDショップ店Aがあります」(Aは、店名)等の簡易な情報(1次情報)が、CDショップ店Aに対するユーザの顔の向きに応じた方向から、CDショップ店に対するユーザの距離に応じた音量で聞こえてくる。また、例えば、「東京タワーがあります」等の簡易な情報(1次情報)が、東京タワーに対するユーザの顔の向きに応じた方向から、東京タワーに対するユーザの距離に応じた音量で聞こえてくる。これにより、ユーザは、ユーザの嗜好に合ったお店や建築物などの実オブジェクト1がユーザのいる地域に存在することを認識できる。また、ユーザは、その実オブジェクト1が存在する方向及び距離を直感的に認識することができる。
【0057】
なお、実オブジェクト1の1次情報が再生されているときに、ユーザが首を回転させて顔の向きを変えた場合、実オブジェクト1が存在する方向から実オブジェクト1の1次情報が聞こえてくるように、実オブジェクト1の音源の位置が調整される。例えば、ユーザの左方向から実オブジェクト1の1次情報が聞こえたときに、ユーザが左方向を向くと、正面から実オブジェクト1の1次情報が聞こえてくる。
【0058】
携帯電話機10が楽曲再生、ビデオ再生などのメインタスク実行しているときに、1次情報が再生される場合、制御部11は、楽曲、ビデオの音声に、1次情報の音声を合成して出力してもよい。また、この場合、制御部11は、楽曲、ビデオの音量が小さくなるように、音信号を制御してもよい。
【0059】
ヘッドホン20への音信号の出力を制御すると、次に、制御部11は、1次情報に対するユーザのアクションに応じて、実オブジェクト1の2次情報(詳細情報)がヘッドホン20から聞こえてくるように、音信号の出力を制御する(ステップ109)。
【0060】
"1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理"
次に、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理について、3つの例を挙げて具体的に説明する。
【0061】
図6は、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理についての一例を示すフローチャートである。
【0062】
図6に示すように、制御部11は、実オブジェクト1の1次情報がヘッドホン20から聞こえるように、音信号を制御すると(ステップ201)(ステップ108参照)、次に、ユーザの顔が1次情報が聞こえた方向を向いているかを判定する(ステップ202)。ユーザの顔が1次情報が聞こえた方向を向いているかの否かは、方位センサからの方位の情報に基づいて判定することができる。
【0063】
ユーザの顔が1次情報が聞こえた方向を向いている場合(ステップ202のYES)、制御部11は、ユーザが首を横に振ったか否かを判定する(ステップ204)。この場合、制御部11は、ヘッドホン20に設けられたセンサ部30のモーションセンサからの信号に基づいて、ユーザが首を横に振ったか否かを判定する。
【0064】
ユーザが首を横に振らなかった場合(ステップ204のNO)、制御部11は、ユーザがうなずいたか否かを判定する(ステップ205)。この場合、制御部11は、ヘッドホン20に設けられたセンサ部30のモーションセンサからの信号に基づいて、ユーザがうなずいたか否かを判定する。
【0065】
ステップ202において、ユーザの顔が、1次情報が聞こえた方向を向いていない場合(ステップ202のNO)、ステップ203へ進む。同様に、ユーザの顔が1次情報が聞こえた方向を向いているが、ユーザが首を横に振ってもいないし、うなずいてもいない場合(ステップ205のNO)、制御部11は、ステップ203に進む。
【0066】
ステップ203では、制御部11は、1次情報の再生が終了してから所定時間が経過したかを判定する(ステップ203)。この時間は、例えば、5秒〜10秒程度の時間とされる。
【0067】
1次情報の再生が終了してから所定時間経過していない場合(ステップ203のNO)、制御部11は、再びステップ202へ戻り、再び、ユーザの顔が1次情報が聞こえた方向を向いているかを判定する。
【0068】
所定の時間が経過する前に、ユーザが1次情報が聞こえた方向に顔を向けて、横に首を振った場合(ステップ204のYES)、制御部11は、実オブジェクト1の2次情報を再生せずに、処理を終了する。これにより、ユーザは、実オブジェクト1の1次情報が聞こえた方向に顔を向けて首を横に振ることで、2次情報の再生をキャンセルすることができる。
【0069】
例えば、「CDショップ店Aがあります」との1次情報が聞こえたときに、1次情報が聞こえた方向(CDショップが存在する方向)に顔を向けて、首を横に振ると、CDショップの2次情報(詳細情報)の再生がキャンセルされる。同様に、「東京タワーがあります」との1次情報が聞こえたときに、1次情報が聞こえた方向(東京タワーが存在する方向)に顔を向けて、首を横に振ると、東京タワーの2次情報(詳細情報)の再生がキャンセルされる。
【0070】
所定の時間が経過する前に、ユーザが1次情報が聞こえた方向に顔を向けて、うなずいた場合(ステップ205のYES)、制御部11は、実オブジェクト1の2次情報がヘッドホン20から聞こえるように、音信号を制御する(ステップ206)。この場合、制御部11は、実オブジェクト1についての2次情報が、実オブジェクト1に対する顔の向きに応じた方向から、実オブジェクト1に対するユーザの距離に応じた音量で聞こえるように、音信号の出力を制御する。
【0071】
例えば、「CDショップ店Aがあります」との1次情報が聞こえたときに、ユーザが1次情報が聞こえた方向(CDショップが存在する方向)に顔を向けて、首を横に振ると、CDショップの2次情報(詳細情報)の再生が開始される。この場合、例えば、お勧めのCDの情報や、CDショップ店Aの営業時間などの詳細な情報が2次情報として再生される。
【0072】
同様に、「東京タワーがあります」との1次情報が聞こえたときに、1次情報が聞こえた方向(東京タワーが存在する方向)に顔を向けて、うなずくと、東京タワーの2次情報(詳細情報)が再生される。この場合、例えば、東京タワーの高さや、東京タワーの歴史、東京タワーがライトアップされる時間等の詳細な情報が2次情報として再生される。
【0073】
このように、ユーザは、実オブジェクト1の1次情報が聞こえた方向に顔を向けてうなずくことで、実オブジェクト1についての詳細な情報を知ることができる。
【0074】
なお、実オブジェクト1の2次情報が再生されているときに、ユーザが首を回転させて顔の向きを変えた場合、実オブジェクト1が存在する方向から実オブジェクト1の2次情報が聞こえてくるように、音源の位置が調整される。例えば、ユーザが実オブジェクト1の方向に顔を向けてうなずいた後、首を回転させて顔の向きを90°左に回転させた場合、右方向から実オブジェクト1の2次情報が聞こえてくる。
【0075】
携帯電話機10が楽曲再生、ビデオ再生などのメインタスク実行しているときに、2次情報が再生される場合、制御部11は、楽曲、ビデオの音声に、2次情報の音声を合成して出力してもよい。また、この場合、制御部11は、楽曲、ビデオの音量が小さくなるように、音信号を制御してもよい。
【0076】
また、2次情報が再生されているときに、ユーザが首を横に振った場合、2次情報の再生を停止してもよい。
【0077】
ユーザが1次情報が聞えた方向を向いて首を横に振らず、かつ、うなずかずに所定時間が経過した場合(ステップ203のYES)、制御部11は、2次情報を再生せずに処理を終了する。すなわち、ユーザが1次情報に対して、何らアクションを行なわなかった場合、制御部11は、2次情報を再生せずに、処理を終了する。これにより、ユーザは、1次情報に対して何らアクションを行なわないことで、2次情報の再生をキャンセルすることができる。
【0078】
次に、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理についての他の例について説明する。
【0079】
図7は、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理についての他の例を示すフローチャートである。
【0080】
上述の図6に示す例では、ユーザは、実オブジェクト1の1次情報が聞こえた方向に顔を向けた状態で、首を横に振ったり、うなずいたりすることで、実オブジェクト1の2次情報を再生するか否かを選択していた。一方、図7に示す例では、ユーザが首を横に振ったり、うなずいたりすることで、実オブジェクト1の2次情報を再生するか否かを選択するときに、どの方向を向いていても構わない点で、図6に示す例と異なっている。
【0081】
図7に示すように、制御部11は、実オブジェクト1の1次情報がヘッドホン20から聞こえるように、音信号を制御すると(ステップ301)(ステップ108参照)、次に、ユーザが首を横に振ったか否かを判定する(ステップ302)。
【0082】
ユーザが首を横に振らなかった場合(ステップ302のNO)、制御部11は、ユーザがうなずいたか否かを判定する(ステップ303)。ユーザがうなずかなかった場合(ステップ303のNO)、制御部11は、実オブジェクト1の1次情報の再生が終了してから所定時間が経過したかを判定する(ステップ304)。この所定時間は、図6に示す場合と同様に、例えば、5秒〜10秒程度の時間とされる。
【0083】
実オブジェクト1の1次情報の再生の終了から所定時間が経過していない場合(ステップ304のNO)、制御部11は、再びステップ302へ戻り、再び、ユーザが首を横に振ったか否かを判定する。
【0084】
1次情報の再生の終了から所定時間が経過する前に、ユーザが首を横に振った場合(ステップ302のYES)、制御部11は、実オブジェクト1の2次情報を再生せずに、処理を終了する。これにより、ユーザは、1次情報が再生された後に首を横にふることで、2次情報の再生をキャンセルすることができる。
【0085】
1次情報の再生の終了から所定時間が経過する前に、ユーザがうなずいた場合(ステップ303のYES)、制御部11は、実オブジェクト1の2次情報がヘッドホン20から聞こえるように、音信号を制御する。この場合、制御部11は、実オブジェクト1についての2次情報が、実オブジェクト1に対する顔の向きに応じた方向から、実オブジェクト1に対するユーザの距離に応じた音量で聞こえるように、音信号の出力を制御する。これにより、ユーザは、1次情報が再生された後に、うなずくことで、2次情報の再生を開始することができる。ユーザが2次情報の再生中に、首を横に振った場合、制御部11は、2次情報の再生を停止してもよい。
【0086】
ユーザが首を横に振らず、かつ、ユーザがうなずかずに所定時間が経過した場合(ステップ304のYES)、制御部11は、2次情報を再生せずに処理を終了する。これにより、ユーザは、1次情報に対して何らアクションを行なわないことで、2次情報の再生をキャンセルすることができる。
【0087】
次に、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理についてのさらに別の例について説明する。
【0088】
図8は、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部11の処理についてのさらに別の例を示すフローチャートである。
【0089】
図8に示すように、制御部11は、実オブジェクト1の1次情報がヘッドホン20から聞こえるように、音信号を制御すると(ステップ401)(ステップ108参照)、次に、実オブジェクト1の2次情報の再生を開始する(ステップ402)。この場合、制御部11は、実オブジェクト1についての2次情報が、実オブジェクト1に対する顔の向きに応じた方向から、実オブジェクト1に対するユーザの距離に応じた音量で聞こえるように、音信号の出力を制御する。
【0090】
次に、制御部11は、実オブジェクト1に対するユーザの顔の向きが変化したかを判定する(ステップ403)。この場合、制御部11は、方位センサからの方位の情報に基づいて、ユーザの顔の向きが変化したかを判定する。
【0091】
ユーザが首を回転させて顔の向きを変えた場合(ステップ403のYES)、制御部11は、実オブジェクト1に対するユーザの顔の向きに応じて、実オブジェクト1の音源の位置と、2次情報の音量を調整する。このとき、制御部11は、ユーザの顔の向きが1次情報が聞こえた方向(2次情報が聞こえてくる方向)に近づくに従って、2次情報の音量を大きくするように、音信号の出力を制御する。
【0092】
ユーザの顔の向きが変化していない場合(ステップ403のNO)、及び、顔の向きに応じて、実オブジェクト1の音源の位置と2次情報の音量とを調整した場合(ステップ404)、制御部11は、次のステップ405へ進む。ステップ405では、制御部11は、2次情報を全て再生したかを判定する。
【0093】
再生すべき2次情報が残っている場合(ステップ405のNO)、制御部11は、再びステップ403へ戻り、再び顔の向きが変化したかを判定する。一方、2次情報を全て再生した場合(ステップ405)、制御部11は、処理を終了する。
【0094】
図8に示す処理により、ユーザは、2次情報が聞こえてくる方向(実オブジェクト1が存在する方向)に、顔を向けることで、2次情報の音量を大きくすることができる。
【0095】
第1実施形態の説明では、音制御装置本体10の一例として、携帯電話機10を例に挙げて説明したが音制御装置本体10は、これに限られない。音制御装置本体10は、携帯音楽プレイヤー、PDA(Personal Digital Assistance)、タブレットPC(Personal Computer)、ノート型PC等であっても構わない。
【0096】
<第2実施形態>
次に、本技術の第2実施形態について説明する。上述の第1実施形態では、空間内に実在するお店、建築物等の実オブジェクト1についての1次情報及び2次情報が、実オブジェクト1に対するユーザの顔の向きに応じた方向から聞こえてくる場合について説明した。一方、第2実施形態では、アプリケーションプログラム等の仮想オブジェクト2が空間内に仮想的に配置され、仮想オブジェクト2についての1次情報及び2次情報が仮想オブジェクト2が配置された方向から聞こえてくる点で、上述の第1実施形態と異なっている。従ってその点を中心に説明する。
【0097】
[音制御装置200の全体構成及び各部の構成]
図9は、第2実施形態に係る音制御装置200を示す図である。図10は、第2実施形態に係る音制御装置200の電気的な構成を示すブロック図である。
【0098】
これらの図に示すように、第2実施形態に係る音制御装置200は、音制御装置本体50(表示部一体型PC50)と、音制御装置本体50に接続されたヘッドホン20と、センサ部60とを備える。センサ部60は、音制御装置本体50に設けられた第1のセンサ部61と、ヘッドホン20に設けられた第2のセンサ部62とを含む。第2実施形態では、音制御装置本体50の一例として、表示部一体型PC50を例に挙げて説明する。
【0099】
表示部一体型PC50は、制御部51と、表示部52と、入力部53と、通信部54と、記憶部55とを有する。
【0100】
表示部52は、例えば、液晶ディスプレイや、EL(Electro-Luminescence)ディスプレイ等により構成される。入力部53は、キーボード、マウス、タッチセンサ等により構成され、ユーザからの指示を入力して、制御部51へ出力する。
【0101】
記憶部55は、揮発性のメモリ(例えば、RAM(Random Access Memory))と、不揮発のメモリ(例えば、ROM(Read Only Memory))を含む。また、記憶部55は、HDD(Hard Disk Drive)、SDD(Solid State Drive)などの補助記憶装置を含む。ROM、HDD、SDDには、制御部51の処理に必要な各種のプログラムや、各種のデータが固定的に記憶される。プログラムは、光ディスク、半導体メモリ等の可搬性の記録媒体から読み取られてもよい。
【0102】
制御部51は、記憶部55に記憶されたプログラムに基づいて、種々の演算を実行する。通信部54は、制御部51の制御に応じて、電子メール、Webデータ等の各種のデータを送受信する。
【0103】
センサ部60の一部を構成する第1のセンサ部61は、CCDセンサ(CCD:Charge Coupled Device)、CMOSセンサ(CMOS:Complementary Metal Oxide Semiconductor)等の撮像素子により構成される。第1のセンサにより出力された信号は、アナログ/デジタル変換された後、制御部51に入力される。制御部51は、第1のセンサ部61により撮像された画像に基づいて、ユーザの顔の向きを判定する。
【0104】
センサ部60の一部を構成する第2のセンサ部62は、加速度センサや、角速度センサ等のモーションセンサにより構成される。第2のセンサ部62から出力された信号は、アナログ/デジタル変換された後、制御部51に入力される。制御部51は、第2のセンサ部62から出力された信号に基づいて、ユーザの頭の動きを判定する。
【0105】
図9及び図10に示す例では、表示部一体型PC50とヘッドホン20とが有線で接続された場合が示されているが、表示部一体型PC50とヘッドホン20とは無線によって通信可能であってもよい。
【0106】
[動作説明]
次に、本実施形態に係る表示部一体型PC50の制御部51の処理について説明する。図11は、本実施形態に係る表示部一体型PC50の制御部51の処理を示すフローチャートである。図12は、図11に示す処理を説明するための補足図であり、空間内に仮想的に配置された仮想オブジェクト2を示す図である。
【0107】
図11に示すように、まず、制御部51は、空間内に仮想的に仮想オブジェクト2を配置する(ステップ101)。図12では、仮想オブジェクト2としてのメールプログラム2aがユーザの右側(ヘッドホン20の右側)に配置され、仮想オブジェクト2してのミニブログ2bがユーザの左側(ヘッドホン20の左側)に配置された場合の一例が示されている。
【0108】
図12に示すように、空間内に仮想オブジェクト2が配置されるとき、制御部51は、楽曲再生、ビデオ再生などのメインタスクを実行している。このとき、制御部51は、楽曲、ビデオの音声が、ユーザの顔の向きに応じた方向から聞こえるように、ヘッドホン20の音信号を制御している。
【0109】
制御部51は、空間内に仮想オブジェクト2を配置すると、メールプログラム2aについてのメールや、ミニブログ2bについてのつぶやき、コメント等が通信部54を介して受信されたかを判定する(ステップ502)。
【0110】
これらの情報が通信部54を介して受信されると(ステップ502のYES)、次に、制御部51は、仮想オブジェクト2に対するユーザの顔の向きの角度を算出する(ステップ503)。この場合、制御部51は、第1のセンサ部61(撮像素子)により撮像された画像から、画面に対するユーザの顔の向きを判定する。そして、制御部51は、画面に対するユーザの顔の向きから、仮想オブジェクト2に対するユーザの顔の向きを判定する。
【0111】
次に、制御部51は、仮想オブジェクト2についての音源を配置する距離と、音源を配置する方向とを算出する(ステップ504)。仮想オブジェクト2の音源を配置する方向は、仮想オブジェクト2に対するユーザの顔の向きに基づいて決定される。
【0112】
次に、制御部51は、仮想オブジェクト2の音源の位置から仮想オブジェクト2についての1次情報がヘッドホン20から聞こえてくるように、音信号を制御する(ステップ505)。なお、この場合、制御部51は、楽曲やビデオ等の音声(メインタスクの音声)に、1次情報の音声を合成して出力する。制御部51は、1次情報の再生中は、メインタスクの音声が小さくなるような処理を実行してもよい。
【0113】
例えば、仮想オブジェクト2がメールプログラム2aの場合について説明する。この場合、仮想オブジェクト2についての1次情報として、「〜さんからメールが届きました」等の簡易な情報が、メールプログラム2aが配置された方向から聞こえてくるように音信号が制御される。あるいは、単に「ピピ」などのアラート音が1次情報として、メールプログラム2aが配置された方向から聞こえてくるように音信号が制御されてもよい。
【0114】
仮想オブジェクト2がミニブログ2bである場合について説明する。この場合、仮想オブジェクト2についての1次情報として、「〜さんがつぶやきました」「〜さんからコメントがありました」等の簡易な情報が、ミニブログ2bが配置された方向から聞こえてくるように音信号が制御される。あるいは、単に「ピピ」などのアラート音が1次情報として、ミニブログ2bが配置された方向から聞こえてくるように音信号が制御されてもよい。
【0115】
なお、仮想オブジェクト2についての1次情報が再生されているときに、ユーザが首を回転させて顔の向きを変えた場合、仮想オブジェクト2が存在する方向から1次情報が聞こえてくるように、仮想オブジェクト2の音源の位置が調整される。例えば、ユーザの左方向から仮想オブジェクト2の1次情報が聞こえたときに、ユーザが左方向を向くと、正面から仮想オブジェクト2の1次情報が聞こえてくる。
【0116】
次に、制御部51は、1次情報(簡易情報)に対するユーザのアクションに応じて、2次情報(詳細情報)がヘッドホン20から聞こえてくるように音信号を制御する(ステップ506)。
【0117】
"1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部51の処理"
次に、1次情報に対するユーザのアクションに応じて、2次情報がヘッドホン20から聞こえてくるときの制御部51の処理について説明する。この場合の処理は、空間内に配置されているオブジェクトが実オブジェクト1ではなく仮想オブジェクト2である点を除いて上述の第1実施形態で説明した、図6〜図8の3つの例と典型的に同じである。従って、この場合の処理は、図6〜図8を参照しつつ説明する。
【0118】
図6を参照して、1次情報の再生が終了してから所定時間が経過する前に(ステップ203のNO)、ユーザが1次情報が聞こえた方向に顔を向けて(ステップ202のYES)、横に首を振ったとする(ステップ204のYES)。この場合、制御部51は、2次情報を再生せずに処理を終了する。これにより、ユーザは、1次情報が聞こえた方向に顔を向けて首を横に振ることで、2次情報の再生をキャンセルすることができる。
【0119】
ユーザが1次情報が聞こえた方向を向いているかは、第1のセンサ部61(撮像素子)により撮像された画像に基づいて判定されたユーザ顔の向きに基づいて判定される。また、ユーザが首を横に振ったか否かは、第1のセンサ部61(モーションセンサ)によって検出された信号に基づいて判定される。
【0120】
例えば、「〜さんからメールが届きました」との1次情報が聞こえたときに、ユーザが、1次情報が聞こえた方向(メールプログラム2aが存在する方向)に顔を向けて、首を横に振ると、2次情報(詳細情報)の再生がキャンセルされる。同様に、「〜さんがつぶやきました」、「〜さんがコメントしました」との1次情報が聞こえたときに、1次情報が聞こえた方向(ミニブログ2bが存在する方向)に顔を向けて、首を横に振ると、2次情報(詳細情報)の再生がキャンセルされる。
【0121】
1次情報の再生が終了してから所定の時間が経過する前に(ステップ203のNO)、ユーザが1次情報が聞こえた方向に顔を向けて(ステップ202のYES)、うなずいたとする(ステップ205のYES)。この場合、制御部51は、2次情報が、仮想オブジェクト2に対する顔の向きに応じた方向から聞こえるように、音信号の出力を制御する(ステップ206)。ユーザがうなずいたか否かは、第1のセンサ部61(モーションセンサ)によって検出された信号に基づいて判定される。
【0122】
なお、この場合、制御部51は、楽曲やビデオ等の音声(メインタスクの音声)に、2次情報の音声を合成して出力する。制御部51は、2次情報の再生中は、メインタスクの音量が小さくなるような処理を実行してもよい。
【0123】
例えば、「〜さんからメールが届きました」との1次情報が聞こえたときに、ユーザが1次情報が聞こえた方向(メールプログラム2aが存在する方向)に顔を向けて、うなずくと、2次情報(詳細情報)の再生が開始される。この場合、制御部51は、メールの内容を2次情報として再生する。
【0124】
同様に、「〜さんがつぶやきました」「〜さんからコメントがありました」との1次情報が聞こえたときに、ユーザが1次情報が聞こえた方向(ミニブログ2bが存在する方向)に顔を向けて、うなずくと、2次情報の再生が開始される。この場合、制御部51は、つぶやきの内容、コメントの内容を2次情報として再生する。メール、つぶやき、コメントなどの文章の内容を音声に変換する方法としては、TTS技術(TTS:Text To Speech)が挙げられる。
【0125】
このように、ユーザは、1次情報が聞こえた方向(仮想オブジェクト2が存在する方向)に顔を向けてうなずくことで、1次情報より詳しい内容の2次情報を知ることができる。
【0126】
なお、2次情報が再生されているときに、ユーザが首を回転させて顔の向きを変えた場合、仮想オブジェクト2が存在する方向から2次情報が聞こえてくるように、音源の位置が制御される。例えば、ユーザが仮想オブジェクト2の方向に顔を向けてうなずいた後、首を回転させて顔の向きを90°左に回転させた場合、右方向から2次情報が聞こえてくる。
【0127】
2次情報が再生されているときに、ユーザが首を横に振った場合、2次情報の再生を停止してもよい。
【0128】
ユーザが1次情報が聞えた方向に顔を向けて首を横に振らず、かつ、うなずかずに所定時間が経過した場合(ステップ203のYES)、制御部51は、2次情報を再生せずに処理を終了する。すなわち、ユーザが1次情報に対して、何らアクションを行なわなかった場合、制御部51は、2次情報を再生せずに、処理を終了する。これにより、ユーザは、1次情報に対して何らアクションを行なわないことで、2次情報の再生をキャンセルすることができる。
【0129】
図7を参照して、1次情報の再生の終了から所定時間が経過する前に(ステップ304のNO)、ユーザが首を横に振った場合(ステップ302のYES)、制御部51は、メール、つぶやき、コメントの内容等の2次情報を再生せずに、処理を終了する。これにより、ユーザは、1次情報が再生された後に首を横にふることで(顔の向きは、関係がない)、2次情報の再生をキャンセルすることができる。
【0130】
所定時間が経過する前に(ステップ304のNO)、ユーザがうなずいた場合(ステップ303のYES)、制御部51は、メール、つぶやき、コメントの内容等2次情報がヘッドホン20から聞こえるように音信号を制御する(ステップ305)。この場合、制御部51は、2次情報が、仮想オブジェクト2に対する顔の向きに応じた方向から聞こえるように音信号の出力を制御する。
【0131】
このような処理により、ユーザは、1次情報が再生された後に、うなずくことで(顔の向きは、関係がない)、2次情報の再生を開始することができる。ユーザが2次情報の再生中に、首を横に振った場合、制御部51は、2次情報の再生を停止してもよい。
【0132】
ユーザが首を横に振らず、かつ、ユーザがうなずかずに所定時間が経過した場合(ステップ304のYES)、制御部51は、2次情報を再生せずに処理を終了する。これにより、ユーザは、1次情報に対して何らアクションを行なわないことで、2次情報の再生をキャンセルすることができる。
【0133】
図8を参照して、2次情報の再生の開始後に、ユーザが1次情報が聞こえた方向(2次情報が聞こえてくる方向)に、顔を向けたとする(ステップ403のYES)。この場合、仮想オブジェクト2に対するユーザの顔の向きに応じた方向から2次情報が聞えてきて、かつ、顔の向きが仮想オブジェクト2の方向に近づくに従って、2次情報の音量が大きくなる(ステップ404)。
【0134】
図13には、ユーザがメールプログラム2aについての1次情報を聞いた後に、1次情報が聞こえた方向を向いたときの様子が示されている。図13(A)に示すように、正面側からメインタスクの音声(楽曲の音声等)を聞いているときに、ユーザの右側に配置されたメールプログラム2aの音源の位置から「〜さんからメールが届きました」等の1次情報が聞こえたとする。そして、図13(B)に示すように、ユーザが首を回転させて、顔を1次情報が聞えた方向に向けたとする。
【0135】
この場合、メールプログラム2aに対するユーザの顔の向きに応じた方向からメールの内容等の2次情報が聞えてくるように音信号が制御される。同様に、メインタスクの音声(楽曲の音声)がユーザの顔の向きに応じた方向から聞えてくるように音信号が制御される。また、この場合、顔の向きが1次情報が聞えた方向(2次情報が聞えてくる方向)に近づくに従って、2次情報の音量が大きくなるように、かつ、メインタスクの音声が小さくなるように、音信号が制御される。
【0136】
図8に示す処理により、ユーザは、2次情報が聞こえてくる方向(仮想オブジェクト1が存在する方向)に、顔を向けることで、2次情報の音量を大きくすることができる。
【0137】
[第2実施形態変形例]
次に、第2実施形態の変形例について説明する。上述のように、第2実施形態では、空間内に、メールプログラム2a、ミニブログ2b等のアプリケーションプログラムが仮想オブジェクト2として配置される。そして、制御部51は、仮想オブジェクト2の方向から1次情報及び2次情報が聞えてくるように音信号を制御する。ユーザは、第1の情報及び第2の情報がある特定の方向から聞えてくるので、メールプログラム2a、ミニブログ2b等のアプリケーションプログラム(仮想オブジェクト2)が配置されている方向を既に知っている。第2実施形態の変形例では、この関係を利用する。
【0138】
図14は、第2実施形態の変形例についての処理を示すフローチャートである。図15は、図14に示す処理を説明するための補足図であり、ユーザが仮想オブジェクト2(メールプログラム2a)が存在する方向を向いて、声を発したときの様子を示す図である。
【0139】
図15に示すように、制御部51は、楽曲再生、ビデオ再生などのメインタスクを実行している。図14を参照して、制御部51は、第1のセンサ部61(撮像素子)により撮像された画像に基づいて、ユーザの顔の向きが変化したかを判定する(ステップ601)。
【0140】
ユーザの顔の向きが変化した場合(ステップ601のYES)、制御部51は、顔が向いた方向にメールプログラム2a、ミニブログ2b等のアプリケーションプログラム(仮想オブジェクト2)が配置されているかを判定する(ステップ602)。この場合、制御部51は、ユーザの顔の正面方向から、例えば、±45°の範囲に、アプリケーションプログラム(仮想オブジェクト2)がある場合に、顔が向いた方向にアプリケーションプログラム(仮想オブジェクト2)が存在すると判定する。
【0141】
なお、ユーザの顔の向きが変化した場合、制御部51は、楽曲、ビデオの音声(メインタスクの音声)が、ユーザの顔の向きに応じた方向から聞こえるように、音源の位置を制御している(図15(A)、(B)参照)。
【0142】
ステップ602の判定が肯定的である場合(ステップ602のYES)、制御部51は、音声認識の処理を実行する(ステップ603)。ユーザが発した音声は、例えば、ヘッドホン20に追加されたマイクロフォンによって集音される。
【0143】
図15(B)では、ユーザがメールプログラム2a(仮想オブジェクト2)が存在する方向に顔を向けて「Dear〜さん、・・・」と発声して、〜さんに送信するメールの内容をしゃべっている場合の一例が示されている。なお、ユーザは、ユーザの右側から1次情報(「〜さんからメールが届きました」)及び2次情報(メールの内容)が聞こえてくるので、メールプログラム2aがユーザの右側に配置されていることを既に知っている。
【0144】
制御部51は、音声認識の処理を実行すると、次に、アプリケーションプログラムに音声コマンドを発行する。これにより、ユーザが発声した「Dear〜さん、・・・」の内容がメールの本文に書き込まれる。
【0145】
また、例えば、ユーザがミニブログ2bが存在する方向に顔を向けて、ユーザがミニブログ2bに書き込む内容(つぶやき、コメント等)を発声すると、制御部51により音声認識される。そして、ミニブログ2bにユーザが発声した内容がミニブログ2bに書き込まれる。
【0146】
このような処理により、ユーザは、メインタスクを阻害することなく、メールや、ミニブログの内容を発声により書き込むことができる。
【0147】
第2実施形態及び第2実施形態の変形例の説明では、音制御装置本体50の一例として、表示部一体型PC50を例に挙げて説明した。しかし、音制御装置本体50は、これに限られない。音制御装置本体50は、デスクトップPC、ノート型PC、タブレットPC、携帯電話機10、携帯音楽プレイヤー、PDA(Personal Digital Assistance)などであってもかまわない。
【0148】
<各種変形例>
以上の説明では、ヘッドホン20を例に挙げて説明したが、ヘッドホン20の代わりにイヤホン(音出力部)が用いられてもよい。
【0149】
以上の説明では、1次情報に対するユーザのアクションを検出するセンサとして、ヘッドホン20に設けられた、方位センサや、モーションセンサ等を例に挙げて説明した。しかし、ユーザによる1次情報に対するアクションを検出するセンサは、これに限られない。
例えば、ユーザによる1次情報に対するアクションを検出するセンサとして、マイクロフォンが用いられてもよい。このマイクロフォンは、例えば、音制御装置本体10、50、あるいは、ヘッドホン20に設けられる。
【0150】
この場合、例えば、ユーザは、「お店があります」、「メールが届きました」等の1次情報が聞えたときに、1次情報に対するアクションとして「はい」「いいえ」等の音声をマイクに向かって発する。制御部11、51は、「はい」との声が発せられたと判定した場合に、お店の詳細情報や、メールの内容等の2次情報を音信号として出力してもよい。ユーザは、お店やメールプログラム2a等のオブジェクトの存在する方向に顔を向けた状態で、「はい」「いいえ」と発声してもよいし、お店やメールプログラム2a等のオブジェクトの方向とは無関係に、「はい」「いいえ」と発声してもよい。
【0151】
本技術は、以下の構成もとることができる。
(1) センサ部と、
前記センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定し、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御し、前記センサ部からの信号に基づいて前記1次情報に対するユーザのアクションを判定し、前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する制御部と
を具備する音制御装置。
(2)上記(1)に記載の音制御装置であって、
通信部をさらに具備し、
前記制御部は、前記音制御装置の位置を測定し、前記通信部を介して、空間に存在する前記実オブジェクトの位置情報を取得し、各位置情報に基づいて、前記音制御装置及び前記実オブジェクトの距離を判定し、前記距離が所定の閾値以下となった場合に、前記実オブジェクトについての1次情報が前記音出力部から聞こえてくるように、音信号の出力を制御する
音制御装置。
(3)上記(1)又は(2)に記載の音制御装置であって、
前記制御部は、前記1次情報に対するユーザのアクションとして、前記1次情報が聞こえた方向に顔を向ける動きを判定し、顔の向きが前記1次情報が聞こえた方向に近づくに従って、前記2次情報の音量が大きくなるように、前記音信号の出力を制御する
音制御装置。
(4)上記(3)に記載の音制御装置であって、
前記制御部は、メインタスクを実行し、顔の向きが1次情報が聞こえた方向に近づくに従って、前記2次情報の音量が大きくなりつつ、前記メインタスクの音量が小さくなるように、前記音信号の出力を制御する
音制御装置。
(5)上記(1)又は(2)に記載の音制御装置であって、
前記制御部は、前記1次情報に対するユーザのアクションとして、頭の上下方向への動きを判定し、上下方向へ頭が動かされた場合に、前記2次情報が前記音出力部から聞こえてくるように前記音信号の出力を制御する
音制御装置。
(6)上記(1)又は(2)に記載の音制御装置であって、
前記制御部は、前記1次情報に対するユーザのアクションとして、ユーザが1次情報が聞こえた方向に顔を向けた状態での頭の動きを判定し、1次情報が聞こえた方向に顔を向けた状態での頭の動きに応じて、前記2次情報を音信号として出力するか否かを判定する
音制御装置。
(7)上記(6)に記載の音制御装置であって、
前記制御部は、ユーザが1次情報が聞こえた方向に顔を向けた状態での頭の上下方向への動きを判定し、1次情報が聞こえた方向に顔を向けた状態での頭の上下方向への動きに応じて、前記2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する
音制御装置。
(8)上記(1)乃至(7)のうちいずれか1つに記載の音制御装置であって、
前記制御部は、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記2次情報が聞こえてくるように、前記音信号の出力を制御する
音制御装置。
(9)上記(1)乃至(8)のうちいずれか1つに記載の音制御装置であって、
前記音出力部は、ヘッドホン又はイヤホンである
音制御装置。
(10) 音制御装置に、
センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定するステップと、
前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御するステップと、
前記センサ部からの信号に基づいて前記1次情報に対するユーザのアクションを判定するステップと、
前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御するステップと
を実行させるプログラム。
(11) センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定し、
前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御し、
前記センサ部からの信号に基づいて、前記1次情報に対するユーザのアクションを判定し、
前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する
制御方法。
【符号の説明】
【0152】
1…実オブジェクト
2…仮想オブジェクト
2a…メールプログラム
2b…ミニブログ
10、50…音制御装置本体
11、51…制御部
12、52…表示部
15、54…通信部
16、55…記憶部
20…ヘッドホン
30、60…センサ部
100、200…音制御装置

【特許請求の範囲】
【請求項1】
センサ部と、
前記センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定し、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御し、前記センサ部からの信号に基づいて前記1次情報に対するユーザのアクションを判定し、前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する制御部と
を具備する音制御装置。
【請求項2】
請求項1に記載の音制御装置であって、
通信部をさらに具備し、
前記制御部は、前記音制御装置の位置を測定し、前記通信部を介して、空間に存在する前記実オブジェクトの位置情報を取得し、各位置情報に基づいて、前記音制御装置及び前記実オブジェクトの距離を判定し、前記距離が所定の閾値以下となった場合に、前記実オブジェクトについての1次情報が前記音出力部から聞こえてくるように、音信号の出力を制御する
音制御装置。
【請求項3】
請求項1に記載の音制御装置であって、
前記制御部は、前記1次情報に対するユーザのアクションとして、前記1次情報が聞こえた方向に顔を向ける動きを判定し、顔の向きが前記1次情報が聞こえた方向に近づくに従って、前記2次情報の音量が大きくなるように、前記音信号の出力を制御する
音制御装置。
【請求項4】
請求項3に記載の音制御装置であって、
前記制御部は、メインタスクを実行し、顔の向きが1次情報が聞こえた方向に近づくに従って、前記2次情報の音量が大きくなりつつ、前記メインタスクの音量が小さくなるように、前記音信号の出力を制御する
音制御装置。
【請求項5】
請求項1に記載の音制御装置であって、
前記制御部は、前記1次情報に対するユーザのアクションとして、頭の上下方向への動きを判定し、上下方向へ頭が動かされた場合に、前記2次情報が前記音出力部から聞こえてくるように前記音信号の出力を制御する
音制御装置。
【請求項6】
請求項1に記載の音制御装置であって、
前記制御部は、前記1次情報に対するユーザのアクションとして、ユーザが1次情報が聞こえた方向に顔を向けた状態での頭の動きを判定し、1次情報が聞こえた方向に顔を向けた状態での頭の動きに応じて、前記2次情報を音信号として出力するか否かを判定する
音制御装置。
【請求項7】
請求項6に記載の音制御装置であって、
前記制御部は、ユーザが1次情報が聞こえた方向に顔を向けた状態での頭の上下方向への動きを判定し、1次情報が聞こえた方向に顔を向けた状態での頭の上下方向への動きに応じて、前記2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する
音制御装置。
【請求項8】
請求項1に記載の音制御装置であって、
前記制御部は、前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記2次情報が聞こえてくるように、前記音信号の出力を制御する
音制御装置。
【請求項9】
請求項1に記載の音制御装置であって、
前記音出力部は、ヘッドホン又はイヤホンである
音制御装置。
【請求項10】
音制御装置に、
センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定するステップと、
前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御するステップと、
前記センサ部からの信号に基づいて前記1次情報に対するユーザのアクションを判定するステップと、
前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御するステップと
を実行させるプログラム。
【請求項11】
センサ部からの信号に基づいて、空間内に存在する実オブジェクト又は空間内に仮想的に配置された仮想オブジェクトに対するユーザの顔の向きを判定し、
前記実オブジェクト又は前記仮想オブジェクトに対する顔の向きに応じた方向から前記実オブジェクト又は前記仮想オブジェクトについての1次情報が音出力部から聞こえてくるように音信号の出力を制御し、
前記センサ部からの信号に基づいて、前記1次情報に対するユーザのアクションを判定し、
前記アクションに応じて、前記1次情報よりも詳しい内容の2次情報が前記音出力部から聞こえてくるように、前記音信号の出力を制御する
制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate