説明

遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラム

【課題】受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者との対話を可能にする、遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラムを提供する。
【解決手段】オフィスO2に設置されたサーバ装置S2と通信回線を通じて接続可能なサーバ装置S1であって、オフィスO2の所定地点からオフィスO2に位置する受話者に至る経路を示す経路情報をサーバ装置S2から受信する通信部14と、経路情報に基づき、所定地点から受話者まで発話者を仮想的に移動させる制御部15と、発話者が受話者まで移動する途中で、発話者の仮想的な視点により捉えられる受話者の周辺映像をサーバ装置S2から順次に受信し、発話者の従業員端末T11に送信する通信部14と、発話者が受話者まで移動すると、従業員端末T11と受話者の従業員端末(T21、T22、…のいずれか)の間で対話映像および対話音声を送受信する通信部14とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラムに関する。
【背景技術】
【0002】
近年、通信ネットワークの発達によりテレワークが実現されており、テレワーク環境でのコミュニケーションが重要視されている。テレワーク環境では、ネットワーク接続されたオフィス間で、カメラおよびディスプレイを通じて伝達される映像情報、マイクおよびスピーカを通じて伝達される音声情報を用いて、コミュニケーションが実現される。
【0003】
例えば、下記特許文献1には、遠隔地のオフィス内の俯瞰映像を表示し、俯瞰映像上で受話者を指定して受話者の対話映像を表示し、受話者と対話を行う遠隔対話システムが記載されている。このシステムでは、ユーザが遠隔地のオフィスを訪問し、受話者に近づいて対話を行うという感覚を得ることができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3401587号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、上記システムでは、俯瞰映像の直後に受話者の映像を表示するので、オフィスのレイアウトに従って受話者に近づくという感覚を得ることができない。つまり、俯瞰の基準となる基準地点を始点とし、受話者を終点とする経路上の状況を確認しながら、受話者に近づくという感覚を得ることができない。よって、通常、受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者と対話することができない。
【0006】
そこで、本発明は、受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者との対話を可能にする、遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラムを提供しようとするものである。
【課題を解決するための手段】
【0007】
本発明のある実施形態によれば、通信回線を通じて対話可能な遠隔対話装置であって、遠隔対話装置は、遠隔領域に設置された他の遠隔対話装置と通信回線を介して接続されており、遠隔領域の所定地点から遠隔領域に位置する受話者に至る経路を示す経路情報を他の遠隔対話装置から受信する経路情報受信部と、経路情報に基づき、所定地点から受話者まで発話者を仮想的に移動させる仮想移動部と、発話者が受話者まで仮想的に移動する途中で、発話者の仮想的な視点により捉えられる受話者の周辺映像を他の遠隔対話装置から順次に受信し、発話者の端末装置に送信する周辺映像送受信部と、発話者が受話者まで移動すると、発話者の端末装置と受話者の端末装置の間で対話映像および対話音声を送受信する対話情報送受信部とを備える遠隔対話装置が提供される。
【0008】
かかる構成によれば、遠隔領域内の経路を示す経路情報に基づき、所定地点から受話者の地点まで発話者が仮想的に移動される。つぎに、発話者の仮想的な移動に応じて、発話者の視点で捉えられる受話者の周辺映像が順次に受信されて表示される。そして、発話者と受話者の間で対話映像および対話音声が送受信される。これにより、発話者は、受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者と対話することができる。
【0009】
上記周辺映像送受信部は、発話者が受話者まで仮想的に移動する途中で、発話者の仮想的な視点により捉えられる受話者を含んだ複数のユーザの周辺映像を他の遠隔対話装置から順次に受信し、発話者の端末装置に送信してもよい。
【0010】
上記遠隔対話装置は、受話者を指定する指定情報を発話者の端末から受信する指定情報受信部をさらに備え、仮想移動部は、経路情報に基づく所定の経路に従って、所定地点から指定された受話者まで発話者を仮想的に移動させてもよい。
【0011】
上記遠隔対話装置は、遠隔領域の状況を俯瞰して捉えた俯瞰映像を他の遠隔対話装置から受信し、発話者の端末装置に送信する俯瞰映像送受信部をさらに備え、指定情報受信部は、俯瞰映像上で指定された受話者を示す指定情報を発話者の端末から受信してもよい。
【0012】
上記遠隔対話装置は、遠隔領域で発話者を仮想的に移動させるための移動操作情報を発話者の端末装置から受信する操作情報受信部をさらに備え、仮想移動部は、移動操作情報に従って、所定地点から任意の受話者まで発話者を仮想的に移動させてもよい。
【0013】
上記遠隔対話装置は、遠隔領域の状況を俯瞰して捉えた俯瞰映像を他の遠隔対話装置から受信する俯瞰映像受信部と、発話者が仮想的に移動可能な遠隔領域の移動通路を示す情報および発話者の仮想位置を示す情報とともに、俯瞰映像を発話者の端末装置に送信する俯瞰映像送信部とをさらに備え、仮想移動部は、移動操作情報に従って、所定地点から任意の受話者まで発話者を仮想的に移動させてもよい。
【0014】
操作情報受信部は、発話者の仮想的な視点の方向を変更させるための視点操作情報を発話者の端末装置からさらに受信し、周辺映像送受信部は、発話者が受話者まで移動する途中で、視点操作情報に従って、発話者の仮想的な視点により捉えられる受話者の周辺映像を他の遠隔対話装置から受信し、発話者の端末装置に送信してもよい。
【0015】
上記遠隔対話装置は、他の遠隔対話装置が設置された遠隔領域に発話者が位置し、遠隔対話装置が設置された自領域に受話者が位置する場合において、発話者が受話者まで移動する途中で、自領域における発話者の仮想位置を他の遠隔対話装置から受信する仮想位置受信部と、自領域における発話者の仮想位置に近接する受話者または前記受話者を含む複数のユーザに、視覚情報および聴覚情報の少なくとも一方を用いて、発話者の仮想的な移動を通知する仮想移動通知部をさらに備えてもよい。
【0016】
また、本発明の別の実施形態によれば、上記遠隔対話装置と他の遠隔対話装置を有する遠隔対話システムが提供される。
【0017】
また、本発明の別の実施形態によれば、遠隔領域に設置された他の遠隔対話装置と通信回線を通じて接続可能な遠隔対話装置を用いた遠隔対話方法であって、遠隔対話装置によって、遠隔領域の所定地点から遠隔領域に位置する受話者に至る経路を示す経路情報を他の遠隔対話装置から受信するステップと、経路情報に基づき、所定地点から受話者まで発話者を仮想的に移動させるステップと、発話者が受話者まで仮想的に移動する途中で、発話者の仮想的な視点により捉えられる受話者の周辺映像を他の遠隔対話装置から順次に受信し、発話者の端末装置に送信するステップと、発話者が受話者まで移動すると、発話者の端末装置と受話者の端末装置の間で対話映像および対話音声を送受信するステップとを含む遠隔対話方法が提供される。
【0018】
また、本発明の別の観点によれば、上記遠隔対話方法をコンピュータに実行させるためのプログラムが提供される。ここで、プログラムは、コンピュータ読取り可能な記録媒体を用いて提供されてもよく、通信手段を介して提供されてもよい。
【発明の効果】
【0019】
以上説明したように本発明によれば、受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者との対話を可能にする、遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラムが提供される。
【図面の簡単な説明】
【0020】
【図1】本発明の実施形態に係る遠隔対話システムの全体構成を示す図である。
【図2】遠隔対話システムの主要な機能構成を示すブロック図である。
【図3】第1の実施形態に係る遠隔対話システムの動作手順を示すシーケンス図である。
【図4】俯瞰映像の一例を示す図である。
【図5】経路情報テーブルの一例を示す図である。
【図6】周辺映像の一例を示す図である。
【図7】移動通知の一例を示す図である。
【図8】対話映像の一例を示す図である。
【図9】第2の実施形態に係る遠隔対話システムの動作手順を示すシーケンス図である。
【図10】レイアウトマップの一例を示す図である。
【図11】周辺映像の一例を示す図である。
【図12】従来の遠隔対話システムの全体構成を示す図である。
【発明を実施するための形態】
【0021】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0022】
以下では、従来の遠隔対話システムについて説明した上で、本発明の実施形態に係る遠隔対話システムについて説明する。
【0023】
[1.従来の遠隔対話システム]
まず、図12を参照して従来の遠隔対話システムについて説明する。図12には、従来の遠隔対話システムの全体構成が示されている。
【0024】
図12に示すように、従来の遠隔対話システムでは、オフィスO1、O2がネットワークNWにより接続されている。以下では、オフィスO1、O2が同様の構成を有しており、オフィスO1に6人の従業員E11〜E16が勤務し、オフィスO2に6人の従業員E21〜E26が勤務している場合を想定する。
【0025】
オフィスO1には、従業員E11〜E16の座席に対応して従業員端末T11〜T16が配置されている(なお、図12中には、従業員端末T11〜T13のみが示されている。)。従業員端末T11〜T16には、いずれも不図示ではあるが、映像情報を入出力するためのカメラCおよびディスプレイDが備えられ、音声情報を入出力するためのマイクMおよびスピーカSが備えられている。
【0026】
また、オフィスO1には、サーバ装置S1が配置されている。サーバ装置S1は、従業員端末T11〜T16に接続されるとともに、ネットワークNWによりオフィスO2のサーバ装置S2に接続されている。オフィスO1の所定位置には、オフィスO1内を俯瞰する俯瞰映像を捉える俯瞰カメラCp1が配置されている。俯瞰カメラCp1は、サーバ装置S1に接続されており、サーバ装置S1により制御される。
【0027】
一方、オフィスO2は、オフィスO1と同様の構成を有しており、従業員端末T21〜T26、サーバ装置S2、俯瞰カメラCp2が配置されている。なお、各装置は、オフィスO1の装置と同様の構成を有している。
【0028】
以下では、オフィスO1の従業員E11がオフィスO2の従業員E23と対話する場合を想定して、従来の遠隔対話システムの動作について説明する。
【0029】
従業員E11が対話の開始を従業員端末T11に指示すると、従業員端末T11は、オフィスO2の俯瞰カメラCp2により捉えられた俯瞰映像をサーバ装置S1、S2を通じて受信して表示する。俯瞰映像により、従業員E11は、従業員E21〜E26の様子を含むオフィスO2の全体状況を確認することができる。
【0030】
従業員E11が俯瞰映像上で従業員E23を指定すると、従業員端末T11は、従業員端末T23のカメラCにより捉えられた対話映像をサーバ装置S1、S2を通じて従業員端末T23から受信して表示する。同様に、従業員端末T23は、従業員端末T11のカメラCにより捉えられた対話映像をサーバ装置S1、S2を通じて従業員端末T11から受信して表示する。対話映像により、従業員E11、E23は、互いの様子を確認することができる。
【0031】
そして、従業員E11と従業員E23の間では、従業員端末T11、T23を通じて対話が開始される。従業員E11、E23間の対話は、従業員端末T11と従業員端末T23の間で従業員E11、E23の対話映像および対話音声を送受信して行われる。
【0032】
このため、従業員E11は、オフィスO2内の俯瞰映像上で従業員E23を指定し、従業員E23の対話映像を確認して、従業員E23と対話を行うことになる。よって、従業員E11は、オフィスO2を訪問し、従業員E23に近づいて対話を行うという感覚を得ることができる。
【0033】
しかし、従業員E11は、俯瞰映像の直後に従業員E23の対話映像を確認することになるので、俯瞰の基準となる基準地点を始点とし、従業員E23を終点とする経路上の状況を確認しながら、従業員E23に近づくという感覚を得ることができない。よって、通常、従業員E23の周辺環境や従業員E23以外の人物の様子を確認した後に従業員E23と対話することができない。
【0034】
[2.遠隔対話システムの構成]
つぎに、図1〜図8を参照して本発明の実施形態に係る遠隔対話システムについて説明する。本実施形態に係る遠隔対話システムは、受話者の周辺環境や受話者以外の人物の様子を確認することを可能にするものである。
【0035】
まず、図1および図2を参照して本発明の実施形態に係る遠隔対話システムの構成について説明する。図1には、遠隔対話システムの全体構成が示され、図2には、遠隔対話システムの主要な機能構成が示されている。
【0036】
図1に示すように、遠隔対話システムは、図12に示した従来の遠隔対話システムと概ね同様の構成を有している。なお、遠隔対話システムでは、2以上のオフィスがネットワークNWにより接続されてもよい。また、装置の構成は、オフィス毎に変更されてもよい。このため、以下では、従来の遠隔対話システムと重複する説明については省略する。
【0037】
遠隔対話システムでは、オフィスO1には、従業員端末T11〜T16、サーバ装置S1、俯瞰カメラCp1の他に、周辺カメラCn11〜Cn16と、周辺スピーカSn11〜Sn14が配置されている。
【0038】
周辺カメラCn11〜Cn16および周辺スピーカSn11〜Sn14は、例えば従業員E11〜E16に各々に近接して、オフィスO1内の通路上に配置されている。周辺カメラCn11〜Cn16および周辺スピーカSn11〜Sn14は、サーバ装置S1に接続されており、サーバ装置S1により制御される。なお、周辺カメラCnおよび周辺スピーカSnの数および配置は、上記例に限定されるものではない。また、各装置は、有線で接続されてもよく、無線で接続されてもよい。
【0039】
一方、オフィスO2は、オフィスO1と同様の構成を有しており、従業員端末T21〜T26、サーバ装置S2、俯瞰カメラCp2の他に、周辺カメラCn21〜Cn26と、周辺スピーカSn21〜Sn24が配置されている。なお、各装置は、オフィスO1の装置と同様の構成を有している。
【0040】
図2には、オフィスO1に配置されている装置、特にサーバ装置S1および従業員端末T11〜T16の主要な機能構成が示されている。なお、オフィスO2に配置されている装置についても、同様の機能構成を有している。
【0041】
サーバ装置S1は、映像入力処理部11、音声出力処理部12、データ格納部13、通信部14、および制御部15を含んで構成される。
【0042】
映像入力処理部11は、俯瞰カメラCp1および周辺カメラCn11〜Cn16から俯瞰映像および周辺映像を入力し、サーバ装置S2に送信するための処理を施す。映像入力処理部11は、オフィスO1内の基準地点から受話者に至る経路上を仮想的に移動する発話者の移動状況に応じて、発話者の仮想位置に対応する周辺カメラCnから周辺映像を入力する。
【0043】
音声出力処理部12は、発話者の移動状況に応じて、仮想的な移動音を生成して発話者の仮想位置に対応する周辺スピーカSnに供給する。データ格納部13は、後述するオフィスO1のレイアウト情報、移動経路情報テーブル等を格納している。
【0044】
通信部14は、対話映像、対話音声、俯瞰映像、周辺映像、発話者映像、レイアウト情報(経路情報)、移動経路情報(経路情報)、レイアウトマップ、制御指令(後述する指定情報、操作情報、仮想位置等を含む。)等を、サーバ装置S2との間および従業員端末との間で送受信する。
【0045】
制御部15は、サーバ装置S1の動作を制御するために必要な演算処理を行う。制御部15は、映像入力処理部11および音声出力処理部12を介して、俯瞰カメラCp1、周辺カメラCn11〜Cn16、周辺スピーカSn11〜Sn14を制御する。また、制御部15は、オフィスO2内で受話者を仮想的に移動させるための処理を行う。また、ある実施形態では、制御部15は、レイアウト情報および俯瞰映像からレイアウトマップを作成し、従業員端末に表示させる。
【0046】
従業員端末T11は、映像入出力処理部21、音声入出力処理部22、通信部23、操作部24、および制御部25を含んで構成される。なお、従業員端末T12〜T16についても、同様の機能構成を有している。
【0047】
映像入出力処理部21は、カメラCから対話映像を入力し、サーバ装置S1に送信するための処理を施すとともに、サーバ装置S1から受信した対話映像、俯瞰映像、周辺映像、発話者映像、レイアウトマップ等に、所定の処理を施してディスプレイDに出力する。
【0048】
音声入出力処理部22は、マイクMから対話音声を入力し、サーバ装置S1に送信するための処理を施すとともに、サーバ装置S1から受信した対話音声に、所定の処理を施してスピーカSに出力する。
【0049】
通信部23は、対話映像、対話音声、俯瞰映像、周辺映像、発話者映像、レイアウト情報、移動経路情報、レイアウトマップ、制御指令等をサーバ装置S1との間で送受信する。操作部24は、キーボード等の入力デバイスからなり、従業員E11から操作指令等の入力を受け付ける。
【0050】
制御部25は、従業員端末T11の動作を制御するために必要な演算処理を行う。制御部25は、映像入出力処理部21および音声入出力処理部22を介して、カメラC、ディスプレイD、マイクM、スピーカSを制御する。
【0051】
対話映像とは、発話者または受話者となる従業員の様子を捉えた映像である。対話音声とは、発話者または受話者となる従業員の発した音声を捉えた映像である。俯瞰映像とは、受話者となりうる全ての従業員の様子を含む、オフィスの全体的な状況を捉えた映像である。
【0052】
周辺映像とは、オフィス内の基準地点から受話者に至る経路上を仮想的に移動する発話者の移動状況に応じて、発話者の仮想位置に近接する従業員の様子等を捉えた映像である。発話者映像とは、発話者の仮想位置に近接する従業員に、発話者の移動を通知するための映像である。なお、近接には、近傍等の意味も含む。以下同じ。
【0053】
レイアウト情報とは、従業員の座席配置等、オフィス内のレイアウトを示す情報である。なお、従業員の座席配置では、従業員IDと座席IDが対応付けて管理されている。レイアウトマップとは、例えば俯瞰映像を用いて、発話者が仮想的に移動可能な移動通路を示した情報である。なお、レイアウトマップには、俯瞰映像に代えて、オフィスのレイアウトを示す平面的な情報が用いられてもよい。移動経路情報とは、オフィス内の基準地点から各従業員の座席に至る経路を規定する情報である。
【0054】
なお、サーバ装置S1または従業員端末T11の機能構成のうち少なくとも一部については、サーバ装置S1または従業員端末T11上で動作するソフトウェア(プログラム)により実現されてもよく、ハードウェアにより実現されてもよい。また、ソフトウェアにより実現される場合には、プログラムがサーバ装置S1または従業員端末T11上に予め格納されてもよく、外部から供給されてもよい。
【0055】
[3.第1の実施形態に係る遠隔対話システムの動作]
つぎに、図3〜図8を参照して、第1の実施形態に係る遠隔対話システムの動作について説明する。第1の実施形態に係る遠隔対話システムでは、発話者がオフィス内の基準地点から所定の受話者の座席まで仮想的に移動した後に、所定の受話者と対話する。
【0056】
図3には、遠隔対話システムの動作手順が示されている。図4には、俯瞰映像I1の一例が示され、図5には、移動経路情報テーブルPTの一例が示されている。図6、図7、図8には、周辺映像I2の一例、移動通知I31の一例、対話映像I41の一例が各々に示されている。
【0057】
以下では、オフィスO1の従業員E11がオフィスO2の従業員E23と対話する場合を想定して、遠隔対話システムの動作について説明する。
【0058】
図3に示すように、従業員E11は、対話の開始を従業員端末T11に指示する(ステップS11)。従業員端末T11は、指示をサーバ装置S1に伝達し、サーバ装置S1は、俯瞰映像の送信をサーバ装置S2に指示する(S12)。サーバ装置S2は、俯瞰カメラCp2を制御して俯瞰映像を捉え、サーバ装置S1に送信し、サーバ装置S1は、俯瞰映像を従業員端末T11に伝達する(S13)。
【0059】
従業員端末T11は、図4に示すように、俯瞰映像I1を表示する(S14)。ここでは、俯瞰映像I1には、従業員E21〜E26の様子を含むオフィスO2の全体状況が捉えられている。なお、俯瞰映像I1は、俯瞰カメラCp2により連続的に捉えられて従業員端末T11に表示される。また、従業員端末T11には、従業員E11からの指示の有無に係らずに、俯瞰映像I1が表示されてもよい。
【0060】
従業員E11は、俯瞰映像I1上で従業員E23を確認すると、従業員E23を受話者として指定する(S15)。なお、受話者は、例えば、タッチパネル式のディスプレイDに表示される俯瞰映像I1上の人物の座標をポイントして指定されてもよく、マイクMから入力される人物の名称等の音声認識結果として指定されてもよい。ポイント座標または音声認識結果は、受話者の指定情報となる。従業員端末T11は、受話者の指定情報をサーバ装置S1に伝達し、サーバ装置S1は、指定情報をサーバ装置S2に送信する(S16)。
【0061】
サーバ装置S2は、オフィスO2のレイアウト情報を用いて、指定情報に対応する従業員の座席IDを確認する(S17)。座席IDとは、従業員等のユーザが着席する座席を識別するための情報であり、例えば、オフィス内の座席(または、俯瞰映像等の映像上の座席)と座席IDは一対一に対応している。座席IDを確認できた場合、サーバ装置S2は、後述する移動経路情報テーブルPTから受話者に至る移動経路情報を取得し、サーバ装置S1に送信する(S18、S19)。なお、サーバ装置S2が移動経路情報テーブルPTをサーバ装置S1に送信し、サーバ装置S1が所定の移動経路情報を取得してもよい。
【0062】
一方、座席IDを確認できなかった場合、サーバ装置S2は、受話者の座席IDが存在しないので、受話者との対話を開始できない旨を示すメッセージを、サーバ装置S1に送信し、サーバ装置S1は、従業員端末T11に伝達する。座席IDは、例えば、遠隔地のオフィスに存在する従業員が従業員端末にログインしているか否かによって確認されるが、かかる例に限定されない。
【0063】
図5には、移動経路情報テーブルPTの一例が示されている。移動経路情報テーブルPTには、オフィスO2内の所定地点である基準地点から従業員E21〜E26の座席または当該座席の近接点に至る経路を示す情報が格納されている。なお、基準地点は、俯瞰映像I1の基準となる地点として設定されてもよく、例えばオフィスO2の入口地点として設定されてもよい。また、基準地点は、目標となる受話者の座席位置または当該座席位置近接を起点とし、その起点の最も近接に存在する従業員の座席位置または当該座席位置近接と当該起点とを仮想的に結んだ延長線上の任意の位置に存在している。また、基準地点は、当該延長線と平行な直線上の任意の位置に存在してもよい。なお、当該起点の最も近接に存在する従業員の座席位置は、受話者の座席ID等を用いて求められる。
【0064】
図5では、基準地点を「0」とする座席IDの並びにより移動経路情報が示されている。例えば、基準地点と従業員E23の座席の間には、従業員E21、E22の座席が存在する場合、従業員E23の座席への移動経路情報は、基準地点を「0」とする座席ID「21」、「22」、「23」の並びとして表される。なお、従業員Eの符号と座席IDの符号は対応している。
【0065】
サーバ装置S1が移動経路情報を取得すると、遠隔対話システムでは、基準地点から所定の受話者の座席に至る所定の経路上で、発話者の仮想的な移動が開始される。
【0066】
サーバ装置S1は、移動経路情報に含まれる座席IDから1つの座席IDを並び順に選択し、選択した座席IDにより発話者の仮想位置を更新する(S20)。つぎに、サーバ装置S1は、選択した座席IDが受話者の座席IDと一致しないかを確認する(S21)。
【0067】
受話者の座席IDと一致しない場合、サーバ装置S1は、選択した座席IDとともに、周辺映像I2の送信をサーバ装置S2に指示する(S22)。サーバ装置S2は、座席IDに対応する周辺カメラCnを制御して周辺映像を捉えさせ、サーバ装置S1に送信し、サーバ装置S1は、発話者の映像(発話者映像)の送信指示とともに、従業員端末T11に伝達する(S23)。
【0068】
従業員端末T11は、図6に示すように、周辺映像I2を表示する(S24)。ここでは、座席ID「21」に対応する周辺映像I2として、従業員E21の座席周辺の状況が表示されている。
【0069】
また、従業員端末T11は、発話者映像の送信指示に応じて、カメラCを制御して発話者映像I31を捉え、サーバ装置S1に送信する。サーバ装置S1は、選択した座席IDおよび発話者映像I31とともに、発話者の仮想移動をサーバ装置S2に通知する(S25)。サーバ装置S2は、座席IDに対応する従業員端末、例えば従業員端末T21に発話者映像I31とともに、仮想移動を通知する(S26)。
【0070】
座席IDに対応する従業員端末は、図7に示すように、発話者映像I31を表示する(S27)。ここでは、座席ID「21」に対応する従業員端末T21に発話者映像I31が表示されている。図7では、従業員端末T21上で従業員E21が作業している内容I32とともに、従業員E11の発話者映像I31が表示されている。なお、発話者映像I31は、カメラCにより連続的に捉えられ、座席IDに対応する従業員端末に表示される。
【0071】
また、サーバ装置S2は、座席IDに対応する周辺スピーカSnを制御して、発話者の移動音を出力させる(S28)。座席IDに対応する2つの周辺スピーカSnは、仮想的な移動音を出力する。ここでは、周辺スピーカSnの出力レベルを変化させて、発話者が基準地点から従業員E21の座席を経て従業員E22の座席へ移動する様子を示す音響効果、例えば足音等が発生される。
【0072】
ステップS20〜S28の処理が完了すると、サーバ装置S1は、所定時間に亘って待機する(S29)。ここで、所定時間は、発話者が座席間の移動に要する時間に相当する時間として設定される。所定時間は、オフィス毎に固定値として設定されてもよく、オフィスのレイアウト情報に基づき設定されてもよい。ステップS20〜S29の処理(ループ処理L11)は、ステップS21の処理で、選択した座席IDが受話者の座席IDと一致することが確認されるまで繰返される。
【0073】
これにより、オフィスO1では、発話者の仮想的な移動に応じて、座席ID「21」、「22」に対応する周辺映像I2が従業員端末T11に順次に表示される。一方、オフィスO2では、発話者の仮想的な移動に応じて、座席ID「21」、「22」に対応する従業員端末に発話者映像I31が順次に表示されるとともに、座席ID「21」、「22」に対応する周辺スピーカSnから発話者の移動音が出力される。
【0074】
一方、ステップS20の処理で、選択した座席IDが受話者の座席IDと一致することが確認されると、サーバ装置S1は、対話映像の送信を従業員端末T11に指示する。従業員端末T11は、カメラCを制御して従業員E11の対話映像I41を捉え、サーバ装置S1に送信する。サーバ装置S1は、対話映像の送信指示とともに、サーバ装置S2を通じて従業員端末T23に送信する。
【0075】
従業員端末T23は、図8に示すように、従業員E23が作業中の内容I42とともに、従業員E11の対話映像I41を表示する(S30、S31)。同様に、従業員端末T23は、送信指示に応じて、カメラCを制御して従業員E23の対話映像を捉え、サーバ装置S1、S2を通じて従業員端末T11に送信し、従業員端末T11は、従業員E23の対話映像を表示する(S30、S31)。
【0076】
そして、従業員E11と従業員E23の間では、従業員端末T11、T23を通じて対話が開始される(S32)。従業員E11、E23間の対話は、サーバ装置S1、S2を通じて、従業員端末T11と従業員端末T23の間で従業員E11、E23の映像および音声を送受信して行われる。
【0077】
従業員E11(または従業員E23)が所定の操作を通じて対話の終了を従業員端末T11に指示すると(S33)、サーバ装置S1は、対話の処理を終了する。なお、対話が開始される前に、対話の開始について、順次受信した一連の周辺映像I2を参考に対話の可否を従業員E11自身が判断し、従業員E11から問いかけをし、従業員E23から応答を得るようにしてもよい。なお、従業員E11は、対話の開始が困難であると判断した場合、従業員E23に問いかけをしなくてもよい。
【0078】
以上説明したように、第1の実施形態に係る遠隔対話システムによれば、発話者は、オフィス内の基準地点から所定の受話者の座席まで仮想的に移動した後に、所定の受話者と対話することになる。発話者は、仮想的な移動に応じて捉えられる受話者の周辺映像を順次に確認することで、受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者と対話することができる。また、受話者以外の人物は、発話者の仮想的な移動を通知されるので、後ほど発話者と対話したり、受話者とともに発話者と対話したりすることができ、発話者により一方的に監視されているといった感覚を得ずにすむ。
【0079】
ここで、発話者の仮想的な移動に応じて、従業員端末T11および/または従業員端末T21〜T23には、発話者の仮想位置を示す俯瞰映像I1が表示されてもよい。この場合、サーバ装置S2は、俯瞰カメラCp2により捉えられる俯瞰映像I1に、発話者映像I31を合成して、従業員端末T11および/または従業員端末T21〜T23に送信してもよい。
【0080】
また、周辺カメラCnは、従業員毎に配置される代わりに、複数の従業員毎に配置されてもよい。この場合、サーバ装置S2は、発話者の仮想的な移動に応じて、周辺カメラCnのパン/チルト/ズーム動作を制御して、適切な周辺映像I2を捉えさせることになる。
【0081】
[4.第2の実施形態に係る遠隔対話システムの動作]
つぎに、図9〜図11を参照して、第2の実施形態に係る遠隔対話システムの動作について説明する。第2の実施形態に係る遠隔対話システムでは、発話者がオフィス内の基準地点から任意の受話者の座席まで仮想的に移動した後に、任意の受話者と対話する。なお、以下では、第1の実施形態と重複する説明を省略する。
【0082】
図9には、遠隔対話システムの動作手順が示されている。図10および図11には、レイアウトマップI5の一例および周辺映像I6の一例が各々に示されている。
【0083】
以下では、オフィスO1の従業員E11がオフィスO2の任意の従業員と対話する場合を想定して、遠隔対話システムの動作について説明する。
【0084】
従業員E11が処理の開始を指示すると、従業員端末T11は、指示をサーバ装置S1に伝達し、サーバ装置S1は、俯瞰映像およびオフィスO2のレイアウト情報(経路情報)の送信をサーバ装置S2に指示する(ステップS51)。サーバ装置S1は、俯瞰映像およびレイアウト情報をサーバ装置S2から受信する(S52)。
【0085】
サーバ装置S1は、レイアウト情報および俯瞰映像から、レイアウトマップI5を作成する(S53)。サーバ装置S1は、レイアウトマップI5を従業員端末T11に伝達し、従業員端末T11は、図10に示すように、レイアウトマップI5を表示する(S54、S55)。なお、レイアウトマップI5は、図1に示した俯瞰カメラCp2により捉えられる俯瞰映像に応じて、更新して表示される。
【0086】
レイアウトマップI5には、従業員E21〜E26の座席配置と、発話者が仮想的に移動可能な移動通路Pが表示されている。また、レイアウトマップI5には、発話者の仮想位置および視点方向(矢印)を示すアイコンIが表示されている。
【0087】
従業員端末T11がレイアウトマップIを表示すると、遠隔対話システムでは、基準地点から任意の受話者の座席に至る任意の経路上で、発話者の仮想的な移動が開始される。例えば図10に示すように、発話者は、基準地点から移動通路Pのエリア内を任意方向に任意の位置まで仮想的に移動することができる。
【0088】
従業員E11は、レイアウトマップI5上で移動通路Pに沿ってアイコンIを移動させるとともに、視点方向を変化させることができる。また、従業員E11は、レイアウトマップI5上で任意の受話者の座席までアイコンIを移動させた上で、所定の操作を通じて、任意の受話者との対話の開始または終了を従業員端末T11に指示することができる。
【0089】
発話者が仮想移動を指示すると(S56)、従業員端末T11は、指示をサーバ装置S1に伝達する(S57)。サーバ装置S1は、指示に応じて、発話者の仮想位置を更新し、レイアウトマップI5上でアイコンIの位置を更新する(S58)。従業員端末T11は、更新後のレイアウトマップI5をサーバ装置S1から受信して表示する(S59、S60)。なお、視点方向が変更された場合も、サーバ装置S1は、レイアウトマップI5上でアイコンI(矢印)の表示を更新する。
【0090】
サーバ装置S1は、仮想位置および視点方向とともに、周辺映像I6の送信をサーバ装置S2に指示する(S61)。なお、発話者の仮想位置は、例えば、レイアウトマップI5上でアイコンIに近接する座席の座席IDにより特定される。
【0091】
サーバ装置S2は、仮想位置および視点方向に対応する周辺カメラCnを制御して周辺映像I6を捉えさせ、サーバ装置S1に送信する。サーバ装置S1は、発話者映像の送信指示とともに、従業員端末T11に送信する(S62)。ここで、サーバ装置S2は、仮想位置および視点方向に応じて、周辺カメラCnのパン/チルト/ズーム動作を制御して、適切な周辺映像I6を捉えることになる。
【0092】
従業員端末T11は、図11に示すように、周辺映像I6を表示する(S63)。ここでは、座席ID「21」に対応する周辺映像I6として、図6に示した周辺映像I2とは撮影方向を変えて、従業員E21の座席周辺の状況が捉えられている。なお、周辺映像I6は、仮想移動が行われなくとも、視線方向の変更に応じて更新して表示される。また、周辺映像I6は、レイアウトマップI5とともに表示されてもよい。
【0093】
また、従業員端末T11は、送信指示に応じて、カメラCを制御して発話者映像を捉えてサーバ装置S1に送信し、サーバ装置S1は、仮想位置に近接する座席の座席IDおよび発話者映像とともに、仮想移動をサーバ装置S2に通知する(S64)。サーバ装置S2は、座席IDに対応する従業員端末に発話者映像とともに、仮想移動を通知する(S65)。座席IDに対応する従業員端末は、発話者映像を表示し、座席IDに対応する周辺スピーカSnは、仮想的な移動音を出力する(S66、S67)。
【0094】
サーバ装置S1は、従業員E11から従業員端末T11を通じて対話の開始が指示されたかを確認する(S68)。ステップS56〜S68の処理(処理ループL21)は、ステップS68の処理で対話の開始指示が確認されるまで繰返される。
【0095】
ここで、従業員E11が従業員E23の座席までアイコンIを移動させた上で、所定の操作を通じて対話の開始を従業員端末T11に指示した場合を想定する(S68)。
【0096】
この場合、サーバ装置S1は、対話映像の送信をサーバ装置S2を通じて従業員端末T23に指示する。従業員端末T11は、従業員端末T23のカメラCにより捉えられた対話映像をサーバ装置S1、S2を通じて従業員端末T23から受信して表示する(S69、S70)。同様に、従業員端末T23は、従業員端末T11のカメラにより捉えられた対話映像をサーバ装置S1、S2を通じて従業員端末T11から受信して表示する(S69、S70)。そして、従業員E11と従業員E23の間では、従業員端末T11、T23を通じて対話が開始される(S71)。
【0097】
サーバ装置S1は、従業員E11から従業員端末T11を通じて対話の終了が指示されたかを確認する(S72)。ステップS69〜S72の処理(処理ループL22)は、ステップS72の処理で対話の終了指示が確認されるまで繰返される。
【0098】
ここで、従業員E11が従業員E24との対話を所望した場合を想定する。この場合、従業員E11は、所定の操作を通じて対話の終了を従業員端末T11に指示する。すると、従業員端末T11は、サーバ装置S1、S2を通じて、対話の終了を従業員端末T23に指示する。これにより、従業員端末T11と従業員端末T23の間では、対話の処理が終了する。
【0099】
従業員E11は、レイアウトマップI5上で移動通路Pに沿って従業員E24の座席までアイコンIを移動させた上で、所定の操作を通じて対話の開始を従業員端末T11に指示する。すると、従業員E23の場合と同様に、従業員E11と従業員E24の間では、従業員端末T11、T24を通じて対話が開始される。
【0100】
以下、同様に、従業員E11は、レイアウトマップI5上で移動通路Pに沿ってアイコンIを任意の従業員の座席に移動させて、任意の従業員と対話を開始することができる。なお、従業員E11は、所定の操作を通じて、オフィスO2での対話処理の終了を従業員端末T11を通じてサーバ装置S1に終了させることができる。処理ループL21、L22は、処理の終了が指示されるまで繰返される。
【0101】
以上説明したように、第2の実施形態に係る遠隔対話システムによれば、発話者は、オフィス内の基準地点から任意の受話者の座席まで仮想的に移動した後に、任意の受話者と対話することになる。発話者は、仮想的な移動に応じて捉えられる受話者の周辺映像を順次に確認することで、受話者の周辺環境や受話者以外の人物の様子を確認した後に受話者と対話することができる。また、発話者は、受話者の周辺環境や受話者以外の人物の様子に応じて、任意の受話者と対話することができる。
【0102】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0103】
例えば、上記説明では、1つの俯瞰カメラCp1、Cp2がオフィスO1、O2毎に配置される場合について説明したが、オフィスO1、O2の入口が2箇所以上ある場合等には、2つ以上の俯瞰カメラCpが配置されてもよい。また、俯瞰カメラCpと周辺カメラCnとカメラCの間、周辺スピーカSnとスピーカSの間では、上記説明とは異なる機能分担が行われてもよい。
【0104】
また、上記説明では、複数人が勤務するオフィスO1、O2間で対話を行う場合を想定した。しかし、本発明は、複数人が勤務するオフィスと1人が勤務するオフィス(または自宅)の間で対話を行う場合にも同様に適用することができる。また、本発明は、オフィスに限定されず、遠隔介護を支援するシステム、遠隔地に位置する家庭間で対話を行うシステムにも同様に適用することができる。
【0105】
また、上記説明では、オフィスO1に位置する発話者がオフィスO2に位置する受話者に対して対話を促す際に、サーバ装置S1が発話者側の処理を行い、サーバ装置S2が受話者側の処理を行う場合について説明した。しかし、オフィスO2に位置する発話者がオフィスO1に位置する受話者に対して対話を促す際には、サーバ装置S2が発話者側の処理を行い、サーバ装置S1が受話者側の処理を行うことになる。
【0106】
また、上記説明では、オフィスO1に位置する発話者とオフィスO2に位置する受話者の間でのみ対話が行われる場合について説明した。しかし、オフィスO1に発話者1と受話者1が位置し、オフィスO2に発話者2と受話者2が位置する場合において、発話者1と受話者2の対話と、発話者2と受話者1の対話を同時に行うように構成されてもよい。
【符号の説明】
【0107】
S1、S2 サーバ装置
T11〜T16、T21〜T26 従業員端末
NW ネットワーク
Cp1、Cp2 俯瞰カメラ
Cn11〜Cn16、Cn21〜Cn26 周辺カメラ
Sn11〜Sn14、Sn21〜Sn24 周辺スピーカ
11 映像入力処理部
12 音声出力処理部
13 データ格納部
14 通信部
15 制御部
21 映像入出力処理部
22 音声入出力処理部
23 通信部
24 操作部
25 制御部
I1 俯瞰映像
I2、I6 周辺映像
I31 発話者映像
I41 対話映像
I5 レイアウトマップ
I アイコン
P 移動通路
O1、O2 オフィス
E11〜E16、E21〜E26 従業員


【特許請求の範囲】
【請求項1】
通信回線を通じて対話可能な遠隔対話装置であって、前記遠隔対話装置は、遠隔領域に設置された他の遠隔対話装置と前記通信回線を介して接続されており、
前記遠隔領域の所定地点から前記遠隔領域に位置する受話者に至る経路を示す経路情報を前記他の遠隔対話装置から受信する経路情報受信部と、
前記経路情報に基づき、前記所定地点から前記受話者まで発話者を仮想的に移動させる仮想移動部と、
前記発話者が前記受話者まで仮想的に移動する途中で、前記発話者の仮想的な視点により捉えられる前記受話者の周辺映像を前記他の遠隔対話装置から順次に受信し、前記発話者の端末装置に送信する周辺映像送受信部と、
前記発話者が前記受話者まで移動すると、前記発話者の端末装置と前記受話者の端末装置の間で対話映像および対話音声を送受信する対話情報送受信部と
を備える遠隔対話装置。
【請求項2】
前記周辺映像送受信部は、前記発話者が前記受話者まで仮想的に移動する途中で、前記発話者の仮想的な視点により捉えられる前記受話者を含んだ複数のユーザの周辺映像を前記他の遠隔対話装置から順次に受信し、前記発話者の端末装置に送信することを特徴とする、請求項1に記載の遠隔対話装置。
【請求項3】
前記受話者を指定する指定情報を前記発話者の端末から受信する指定情報受信部をさらに備え、
前記仮想移動部は、前記経路情報に基づく所定の経路に従って、前記所定地点から前記指定された受話者まで前記発話者を仮想的に移動させることを特徴とする、請求項1または2に記載の遠隔対話装置。
【請求項4】
前記遠隔領域の状況を俯瞰して捉えた俯瞰映像を前記他の遠隔対話装置から受信し、前記発話者の端末装置に送信する俯瞰映像送受信部をさらに備え、
前記指定情報受信部は、前記俯瞰映像上で指定された前記受話者を示す指定情報を前記発話者の端末から受信する、請求項3に記載の遠隔対話装置。
【請求項5】
前記遠隔領域で前記発話者を仮想的に移動させるための移動操作情報を前記発話者の端末装置から受信する操作情報受信部をさらに備え、
前記仮想移動部は、前記移動操作情報に従って、前記所定地点から任意の受話者まで前記発話者を仮想的に移動させる、請求項1または2に記載の遠隔対話装置。
【請求項6】
前記遠隔領域の状況を俯瞰して捉えた俯瞰映像を前記他の遠隔対話装置から受信する俯瞰映像受信部と、
前記発話者が仮想的に移動可能な前記遠隔領域の移動通路を示す情報および前記発話者の仮想位置を示す情報とともに、前記俯瞰映像を前記発話者の端末装置に送信する俯瞰映像送信部とをさらに備え、
前記仮想移動部は、前記移動操作情報に従って、前記所定地点から任意の受話者まで前記発話者を仮想的に移動させる、請求項5に記載の遠隔対話装置。
【請求項7】
前記操作情報受信部は、前記発話者の仮想的な視点の方向を変更させるための視点操作情報を前記発話者の端末装置からさらに受信し、
前記周辺映像送受信部は、前記発話者が前記受話者まで移動する途中で、前記視点操作情報に従って、前記発話者の仮想的な視点により捉えられる前記受話者の周辺映像を前記他の遠隔対話装置から受信し、前記発話者の端末装置に送信する、請求項5または6に記載の遠隔対話装置。
【請求項8】
前記他の遠隔対話装置が設置された前記遠隔領域に発話者が位置し、前記遠隔対話装置が設置された自領域に受話者が位置する場合において、
前記発話者が前記受話者まで移動する途中で、前記自領域における前記発話者の仮想位置を前記他の遠隔対話装置から受信する仮想位置受信部と、
前記自領域における前記発話者の仮想位置に近接する受話者または前記受話者を含む複数のユーザに、視覚情報および聴覚情報の少なくとも一方を用いて、前記発話者の仮想的な移動を通知する仮想移動通知部をさらに備える、請求項1〜7のいずれか1項に記載の遠隔対話装置。
【請求項9】
第1領域に設置された第1の遠隔対話装置と、前記第1領域から遠隔の第2領域に設置され、前記第1の遠隔対話装置と通信回線を通じて接続可能な第2の遠隔対話装置を有する遠隔対話システムであって、
前記第1の遠隔対話装置は、
前記第2領域の所定地点から前記第2領域に位置する受話者に至る経路を示す経路情報を前記第2の遠隔対話装置から受信する経路情報受信部と、
前記経路情報に基づき、前記所定地点から前記受話者まで発話者を仮想的に移動させる仮想移動部と、
前記発話者が前記受話者まで仮想的に移動する途中で、前記発話者の仮想的な視点により捉えられる前記受話者の周辺映像を前記第2の遠隔対話装置から順次に受信し、前記発話者の端末装置に送信する周辺映像送受信部と、
前記発話者が前記受話者まで移動すると、前記発話者の端末装置と前記受話者の端末装置の間で対話映像および対話音声を送受信する対話情報送受信部と
を備える遠隔対話システム。
【請求項10】
通信回線を通じて対話可能な遠隔対話装置を用いた遠隔対話方法であって、前記遠隔対話装置は、遠隔領域に設置された他の遠隔対話装置と前記通信回線を介して接続されており、前記遠隔対話装置によって、
前記遠隔領域の所定地点から前記遠隔領域に位置する受話者に至る経路を示す経路情報を前記他の遠隔対話装置から受信するステップと、
前記経路情報に基づき、前記所定地点から前記受話者まで発話者を仮想的に移動させるステップと、
前記発話者が前記受話者まで仮想的に移動する途中で、前記発話者の仮想的な視点により捉えられる前記受話者の周辺映像を前記他の遠隔対話装置から順次に受信し、前記発話者の端末装置に送信するステップと、
前記発話者が前記受話者まで移動すると、前記発話者の端末装置と前記受話者の端末装置の間で対話映像および対話音声を送受信するステップと
を含む遠隔対話方法。
【請求項11】
通信回線を通じて対話可能な遠隔対話装置を用いた遠隔対話方法であって、前記遠隔対話装置は、遠隔領域に設置された他の遠隔対話装置と前記通信回線を介して接続されており、前記遠隔対話装置によって、
前記遠隔領域の所定地点から前記遠隔領域に位置する受話者に至る経路を示す経路情報を前記他の遠隔対話装置から受信するステップと、
前記経路情報に基づき、前記所定地点から前記受話者まで発話者を仮想的に移動させるステップと、
前記発話者が前記受話者まで移動する途中で、前記発話者の仮想的な視点により捉えられる前記受話者の周辺映像を前記他の遠隔対話装置から順次に受信し、前記発話者の端末装置に送信するステップと、
前記発話者が前記受話者まで移動すると、前記発話者の端末装置と前記受話者の端末装置の間で対話映像および対話音声を送受信するステップと
を含む遠隔対話方法をコンピュータに実行させるためのプログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2011−188112(P2011−188112A)
【公開日】平成23年9月22日(2011.9.22)
【国際特許分類】
【出願番号】特願2010−49475(P2010−49475)
【出願日】平成22年3月5日(2010.3.5)
【出願人】(000000295)沖電気工業株式会社 (6,645)
【Fターム(参考)】