説明

会議システムの端末装置、会議システム

【課題】会議における情報漏洩が生じる危険性が低減されるとともに、会議の相手方との間で円滑に会議を進めることができる会議システムの端末装置、会議システムを提供する。
【解決手段】自己の端末装置における会議の相手方の会議情報の出力を制限する指示情報の入力があった場合または音認識により出力を制限すべきと判定した場合に、相手方の会議情報の出力を制限するとともに、相手方にこの制限が行なわれたことを示すメッセージが送信され、相手方がこのことを知ることができるようにした。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離的に離れた場所の間で出席者の画像、音声等を含めた会議情報の送受信を行なって会議を行う会議システムにおいて、情報漏洩を防止することができる端末装置および会議システムに関する。
【背景技術】
【0002】
インターネット等の通信ネットワークを介して、距離的に離れた場所の間で会議を行う会議システムが普及している。
この会議システムにおいては、会議を行う出席者等の当事者の一方がいる会議室において、会議システムの端末装置を用いて会議の当事者などの会議室の画像および発言などの音声を撮影および収集し、それを電子データに変換して相手方の会議装置に送信し、相手方の会議室のテレビ画面等のディスプレイに表示およびスピーカにより音声出力して、実際の会議に近い状態で会議を行っている。
【0003】
会議システムの端末装置としては、最近は小型軽量の携帯可能なものが普及してきており、会議を行うときに会議室や通常の部屋に持ち込んでセットするようにしていることが多い。
【0004】
また、最近、企業において在宅勤務制度が導入されるようになってきているが、この場合には、社員の自宅と会社との間の打合せにも会議システムが用いられようになってきており、この状況から、会議システムを用いた会議の人数については、大人数から少人数の場合がありまたは相手方が一人の場合もある。
【0005】
会議の部屋についても、企業内の業務を行なう居室とは別の独立した会議室ではなく、居室内の一画を仕切った会議室を使用したり、在宅勤務の場合には家庭内の一部屋などが用いられることも多く、会議の当事者以外の他人が突然部屋を覗き込んで声をかけたり、入ってくることが簡単に行なわれやすい環境になってきている。
【0006】
その結果、会議の当事者以外の他人に、会議中の相手方の画像を見られたり、会話を聞かれたりすること等が生じることになり情報セキュリティ上の問題が生じる。
【0007】
これに対して、従来においては他人が入ってきた場合に、会議の当事者が端末装置の操作により画像をオフにしたり音声を消したりして対処している。
【0008】
しかしながら、このような対処は人の行為に依存するものであり、上記の状況が発生したときにいつも迅速に対応できるとは限らず、当事者が会議に集中していると対応できなかったり、対応が遅れたりして、結果として情報漏洩が生じる危険性がある。
【0009】
情報通信における情報漏洩への従来の一般的な対策としては、例えば、ネットワークにおいてVPN(Virtual Private Network)等を用いたリモートアクセスを活用し、企業内のネットワークに接続されたサーバのデータにアクセスする方法が用いられている。VPNでは、データが認証や暗号化により厳重に保護および管理されるため、情報漏洩の危険性は低くなる。
【0010】
またVPNでは、ネットワークを利用してデータの送受信を行うため、ネットワーク負荷の高い大容量のデータを取り扱う場合は、効率性の向上のため、データを端末装置に保存して作業を行うことがしばしば行われる。
このような場合には、作業が終わった後に、端末装置に保存したデータを消去する処置を行っていないと、何らかの原因でこのデータの情報漏洩が発生する可能性がある。
【0011】
この問題に対処するため、企業によっては情報管理の安全性を重視して、外出中の社員や在宅勤務の社員等、社外にいる社員に対してシンクライアントシステムを導入することも一部行なわれている。
【0012】
シンクライアントとは、社員が使用するコンピュータ(クライアント)には最低限の機能しか持たせず、アプリケーションやファイル等の資源をクライアント側でなくサーバ側で管理するシステムアーキテクチャである。
【0013】
このシンクライアントシステムを用いると、クライアント側には基本的にはデータを保存しないので、情報漏洩の危険性は低くなる。
【0014】
このように、情報漏洩への一般的な対策はとられているが、これらの対策は、上記のような、会議システムにおける会議の当事者以外の他人に、会議中の相手方の画像や会話の音声が漏れることについては、目的としておらず、防止できない。
【0015】
また、従来の一般的な技術として、話者識別を用いて装置の操作を行なう技術が提案されている(例えば、特許文献1参照)。
【0016】
特許文献1に記載の技術においては、装置に音声を入力し、その入力された音声からその音声が特定の使用者のものか否かの識別と、単語の識別を行なう。
【0017】
そして識別結果にもとづいて、その入力された音声が特定の使用者のものである場合には、識別された単語からその使用者が希望するアプリケーションプログラムを特定し、その使用者固有のアプリケーションプログラム動作環境下でアプリケーションプログラムを実行する。
【0018】
この技術を用いれば、他人が会議室や作業中の部屋に入ってきた場合に使用者が特定の単語の音声を発することにより、入力された音声から特定のアプリケーションプログラムを実行して、画面をオフにしたり、画面を切り替えたりすることができるので、他人に見せたくない画面を見られないようにすることができる。
【0019】
しかしながら、この技術は使用者のキー操作の代わりに音声で入力するもので、人の行為に依存するということでは上記したような会議の当事者がキー操作により入力するものと変わりはなく、情報漏洩が生じる危険性があるという問題は依然として残る。
【0020】
また、会議の当事者が端末装置の操作により、画像をオフにしたり音声を消したりして対処した場合には、会議が継続できず中断されることになるが、会議の相手方にはこの事情がわからず混乱を生じることがある。
【0021】
なお、このような状況は上記のような会議室や通常の部屋において会議を行う場合に限らず、同様の機能を有する携帯電話端末を用いて2者間または3者以上の間の会話を行なう場合においても同様な課題が存在する。
【発明の概要】
【発明が解決しようとする課題】
【0022】
このように、会議システムを利用した会議においては、会議の当事者以外の他人に、会議中の相手方の画像を見られたり音声を聞かれたりすること等が生じて、情報漏洩が生じる危険性があり、また会議の相手方に混乱を生じることが懸念されるが、本発明はこのような課題を解決するためのものである。
【課題を解決するための手段】
【0023】
上記課題を解決するための手段である本発明の特徴は次の通りである。
【0024】
本発明の会議システムの端末装置は、会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力し、自己の会議情報を相手方の端末装置に送信する会議システムの端末装置において、自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうべきか否かを判定する判定手段と、前記判定手段が制限を行なうべきと判定した場合に自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なう制限手段と、この制限手段による前記制限が行なわれた場合に、相手方の端末装置に前記制限が行なわれたことを示すメッセージを送信する状態管理手段を有することを特徴とする。
【0025】
本発明の会議システムの端末装置は、会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力し、自己の会議情報を相手方の端末装置に送信する会議システムの端末装置において、自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうべきか否かを判定する第1の判定手段と、前記制限の解除を行なう指示情報の入力を行なう入力手段と、前記指示情報にもとづき前記解除を行なうべきか否かを判定する第2の判定手段と、前記第1の判定手段が制限を行なうべきと判定した場合に自己の端末装置が行っている相手方の会議情報の出力に対して制限を行ない、前記第2の判定手段が前記解除を行なうべきと判定した場合に前記制限の解除を行なう制限手段と、前記制限手段による前記制限が行なわれた場合に相手方の端末装置に前記制限が行なわれたことを示すメッセージを送信し、前記解除が行なわれた場合に相手方の端末装置に前記解除が行なわれたことを示すメッセージを送信する状態管理手段を有することを特徴とする。
【0026】
本発明の会議システムの端末装置は更に、状態管理手段は、相手方の端末装置から相手方の端末装置において会議情報の出力に対する制限が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す情報を自己の端末装置において出力することを特徴とする。
【0027】
本発明の会議システムの端末装置は更に、状態管理手段は、相手方の端末装置から相手方の端末装置において前記制限の解除が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す前記出力を終了させることを特徴とする。
【0028】
本発明の会議システムの端末装置は、会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力し、自己の会議情報を相手方の端末装置に送信する会議システムの端末装置において、相手方の端末装置から、相手方の端末装置において会議情報の出力に対して制限が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す情報を自己の端末装置において出力し、相手方の端末装置から前記制限の解除が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す前記出力を終了させる状態管理手段を有することを特徴とする。
【0029】
本発明の会議システムの端末装置は更に、判定手段または第1の判定手段が、相手方の会議情報の出力に対して制限を行なう指示情報の操作入力にもとづき判定することを特徴とする。
【0030】
本発明の会議システムの端末装置は更に、自己の端末装置近傍において生じた音を入力して分析を行い、この入力された音が相手方の会議情報を出力すべき音としてあらかじめ指定された音であるか否かを識別する音識別手段を有し、
前記判定手段または第1の判定手段が、前記音識別手段において前記入力された音が相手方の会議情報を出力すべき音としてあらかじめ指定された音でないと識別された場合に、自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうべきと判定することを特徴とする。
【0031】
本発明の会議システムの端末装置は更に、会議情報として少なくとも音声情報を含み相手方の会議情報の出力がスピーカによる音声の出力であって、前記制限手段による制限がスピーカの音量レベルを小さくするものであり、制限の解除時にはスピーカの音量レベルを制限前の時点の音量レベルに復帰することを特徴とする。

【0032】


本発明の会議システムの端末装置は更に、会議情報として少なくとも画像情報を含み相手方の会議情報の出力がディスプレイによる表示であって、相手方の端末装置において制限が行なわれたことを示す情報が、会議情報の出力とともに前記ディスプレイにより表示されることを特徴とする。
【0033】
本発明の会議システムは、端末装置間において会議情報の送受信を行ない、各端末装置は会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力するとともに、自己の会議情報を相手方の端末装置に送信する会議システムにおいて、各端末装置は、自己の端末装置において、相手方の会議情報の出力の制限を行なうべきとの判定があった場合に、自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうとともに相手方の端末装置に前記制限が行なわれたことを示すメッセージを送信し、前記制限の解除を指示すべきとの判定があった場合に前記制限の解除を行なうとともに相手方の端末装置に前記解除が行なわれたことを示すメッセージを送信するとともに、各端末装置は、相手方の端末装置から相手方の端末装置において会議情報の出力に対して制限が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す情報を自己の端末装置において出力し、相手方の端末装置から前記制限の解除が行なわれたことを示すメッセージを受信したときに、前記相手方の端末装置において前記制限が行なわれたことを示す前記出力を終了させることを特徴とする。
【発明の効果】
【0034】
本発明によれば、相手方の会議情報の出力に対して制限または制限の解除を行なうとともに、相手方の端末装置に制限または制限解除が行なわれたことを示すメッセージを送信し、相手方の端末装置においてこのことを知ることができるので、会議における情報漏洩が生じる危険性が低減されるとともに、会議の相手方との間で円滑に会議を進めることができる。
【図面の簡単な説明】
【0035】
【図1】本発明の実施形態の遠隔会議システムの構成例を示す図
【図2】本発明の実施形態の端末装置100のハードウェア構成図
【図3】本発明の実施形態の端末装置100の外観図
【図4】本発明の実施形態の端末装置100の機能ブロック図
【図5】メッセージのデータ例を示す図
【図6】会議不可になったときのメッセージ受信側の表示画面の例を示す 図
【図7】会議可になったときのメッセージ受信側の表示画面例を示す図
【図8】話者の音響モデルのデータ構造の一例を示した図
【図9】騒音の音響モデルのデータ構造の一例を示した図
【図10】話者の音響モデルのデータ構造の他の例を示した図
【図11】騒音の音響モデルのデータ構造の他の例を示した図
【図12】会議情報の出力処理に対して制限を行なう場合のフローチャート
【図13】会議情報の出力処理に対する制限を解除する場合のフローチャート
【図14】会議情報の出力処理の変更状態のメッセージを受信した場合のフローチャート
【発明を実施するための形態】
【0036】
本発明の実施形態について説明する。
【0037】
図1は本発明の実施形態の会議システムとして遠隔地との間で会議を行なう遠隔会議システムの構成例を示す図である。
【0038】
図1において、100は遠隔会議システムの端末装置であり、この端末装置100がLAN200、専用線300、インターネット400からなる通信ネットワーク900を介して相互に接続されて、画像データ、音声データ等の送受信が行われる。
【0039】
また、端末装置100の一部は在宅勤務において用いるものであり、この場合には、インターネット400に接続されネットワーク900を介して他の端末装置100に接続される。
【0040】
LAN200は、企業の事業所や建物のようにローカルエリアにおいて構築されたネットワークであり、各LAN200はそのLAN200が位置する地域Aの専用線300を介してその地域A内の他のLAN200と通信可能に接続されている。各専用線300はインターネット400を介して他の地域Aの専用線400と通信可能に接続されている。
【0041】
例えば、地域Aは日本またはアメリカのような単位に設定されており、LAN200は東京事業所、ニューヨーク事務所のような企業の事業所単位に設定されている。
【0042】
また、在宅勤務の端末装置100は在宅勤務者の自宅に設置されている。
【0043】
各LAN200および各専用線300にはルータ500が設けられており、また、在宅勤務の端末装置100はルータ500を介してインターネット400に接続されている。
【0044】
このルータ500により、各LAN200に接続された遠隔会議を行う端末装置100間またはこれらと在宅勤務の端末装置100間の画像データ、音声データ等の通信の最適な経路の選択が行われ、企業内の端末装置100間またはこれらと在宅勤務の端末装置100間の接続が行われる。
【0045】
各専用線300とインターネット400との間にはゲートウェイ装置550が設けられている。
【0046】
ゲートウェイ装置550は、プロトコルの異なるネットワークと接続するための通信機器であり、この図に示しているもの以外でも必要に応じて各ネットワーク間に設けられる。
【0047】
図1において、600は中継装置、700は遠隔通信管理システム、800はプログラム提供システムである。
【0048】
中継装置600はLAN200ごとに設けられており、端末装置100と他の端末装置100とが接続されているときに画像データおよび音声データ等の会議情報を中継するものである.
また、中継装置は、端末装置100の相手先である他の端末装置100との間で画像データ等の会議情報の受信に遅延が生じた場合に、中継装置600によって送信する画像データの画像の解像度を変更して情報量を低減してから、相手先の端末装置100へ画像データを送信する。
【0049】
これにより遅延を解消し会議と会議情報通信の同時性を確保する。
【0050】
遠隔通信管理システム700はインターネット400に接続されており、遠隔通信管理用プログラムにもとづき、端末装置100および中継装置600を一元的に管理する。
【0051】
例えば、遠隔通信管理システム700は、端末装置100および中継装置600とやり取りを行ない、端末装置100の登録管理、端末装置100のID、IPアドレスの管理、使用についての課金管理、各端末装置100が通信可能な他の端末装置100の通知、各端末装置100の使用状態の把握、通信を行う場合に経由する中継装置600の決定等を行なう。
【0052】
そして必要に応じて各端末装置100の状況(未接続,ログイン中,会議中など)を他の各端末装置100に通知する.
プログラム提供システム800はインターネット400に接続されており、遠隔会議システムの各構成部において用いられる各種機能または各種手段を実現させるためのプログラムをハードデイスクに記憶し、遠隔会議システムの各構成部に送信するものである。
【0053】
プログラム提供システム800が記憶、送信するプログラムとしては、例えば、各端末装置100において用いる会議装置用プログラム、中継装置600において用いる中継装置用プログラム、遠隔通信管理システム700において用いる遠隔通信管理用プログラムがある。
【0054】
端末装置100は、装置本体110、カメラ130、およびディスプレイ140から構成される。
【0055】
在宅勤務者が在宅勤務の端末装置100から通信ネットワーク900を介して他の端末装置100等と通信を行う場合、通信するデータを保護および管理するためにVPNにより接続を行う。
【0056】
VPNは、通信データの暗号化や復号化を行うことにより、通信ネットワーク900上に構築することができ、図1に示す実施形態では、ルータ500の一機能あるいは在宅勤務の端末装置100上で実行されるプログラム処理として実現することが可能である。
【0057】
また、通信ネットワーク900としてはインターネットを利用しているので、IPsec(Security Architecture for Internet Protocol) やPPTP(Point to Point Tunneling Protocol)等のプロトコルを使用して暗号化、認証を行い、専用線と同等の高いセキュリティをもつ通信路を確保することができる。
【0058】
在宅勤務以外の端末装置100についても同様に、ゲートウェイ装置550において在宅勤務の遠隔装置100とのVPNを構築することができる。
【0059】
ゲートウェイ装置は、ユーザ認証機能や機器認証機能を備えていてもよく、これらの機能を備えることで、在宅勤務者のみに接続が許可され、機器が設置されている場所の正当性を保証することができることから、さらにセキュリティを高めることができる。
【0060】
なお、遠隔会議システムとして距離的に離れた場所間の会議の例を示しているが、会議には、距離的に離れている場合だけでなく、同じ建物内の会議室のように距離的に近い会議室の間、また、同じ部屋であっても肉声が聞こえないような場所間の会議を含む。すなわち会議とは直接対面して生のままで行なう会議ではなく、会議装置を介して行なう会議を意味する。また、会議とは複数の人の間のみでなく1人対1人で行なう打合せのような場合を含む。
【0061】
会議情報については会議中の画像、音声について示しているが、少なくともこれらのひとつであればよい。例えば画像だけの場合には出席者の音声を
画像中に字幕としてあらわしてもよい。また会議情報には会議の場において当事者に提示される物(例えば商品見本)、配布される書類、および配布はされないがプロジェクター等の表示装置によりスクリーンに表示される画像等が含まれる。このように会議情報とは、直接対面して生のまま行なうとした場合の会議の場において出席者が把握できる情報を意味する。
【0062】
図2は、本発明の実施形態の端末装置100のハードウェア構成図である。
図2に示されているように、端末装置100には、端末装置100の全体の動作を制御して処理するCPU(Central Processing Unit)111、端末装置100等の各種プログラムを記憶したROM(Read Only Memory)112、端末装置100の各種設定値の記憶を行なうとともにCPU111のワークエリアとして使用されるRAM(Random Access Memory)113、CPU111の制御にしたがってフラッシュメモリ115のデータの読み出し又は書き込みを行うSSD(Solid State Drive)114、フラッシュメモリ等の記録メディア116aのデータの読み出し又は書き込みを行うメディアドライブ116、会議の相手方の端末装置100の宛先を選択したり各種入力を行なう場合などに操作されるカーソル等の操作ボタン117、端末装置100の電源をON/OFFする電源スイッチ118、会議情報のデータ通信をするためのネットワークI/F119を有している。
【0063】
また端末装置100には、会議の当事者などの会議室の画像を撮影し画像データを出力するカメラ130、カメラ130との間の接続を行うカメラIF120、当事者などの人の音声および周囲の騒音等非音声音を含む音を収集して入力するマイク121、相手方の会議室の音を出力するスピーカ122、マイク121との間で音信号の入力および音データへの変換行なうとともに、スピーカ122との間で音データを音信号に変換して出力する音入出力I/F123、相手方の会議室の画像を映し出すディスプレイ140、およびディスプレイ140に画像データを出力するディスプレイI/F124を有している。
【0064】
これらのうち、ディスプレイ140は外付けであり、カメラ130、マイク121、スピーカ122は端末装置100の装置本体110に接続され一体的に収納される。
【0065】
125は、これらのカメラ、マイク、スピーカ等として外付けのものを用いる場合にこれらを接続する外部機器接続I/Fである。
【0066】
126は、上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスラインである。
【0067】
なお、フラッシュメモリ115は、不揮発性メモリであればフラッシュメモリに限らず例えばEEPROM(Electrically Erasable and Programmable ROM)でもよい。
【0068】
カメラ130は、被写体の画像を動画、または静止画として電子化する素子としてCMOS(Complementary Metal Oxide Semiconductor)を用いており、USB規格のデータを出力する。なおCMOSに限らずCCDを用いたものでもよい。
【0069】
図3は、本発明の実施形態の端末装置100の外観図である。
【0070】
図3に示されているように、端末装置100は、筐体1021、アーム1074、およびカメラハウジング1075を備えている。
【0071】
筐体1021の前側壁1021aの略全面には、メッシュ状の吸気孔1021eが形成されており、筐体1021の後側壁1021bの略全面には、吸気孔1021eと同様のメッシュ状の排気孔(図示せず〕が形成されている。これにより、筐体1021に内蔵された冷却ファンの駆動によって、前側壁1021aの吸気孔1021eを介して端末装置100の前方の外気を取り込み、後側壁1021bの排気孔を介して端末装置100の後方へ排気することができる。
【0072】
前側壁1021aの中央部には、収音用孔1021fが形成され、内蔵型のマイク121によって音声および周囲の騒音等の非音声音を含む音を収集可能となっている。
【0073】
また、筐体1021の上面左側には、操作パネル1022が形成されている。この操作パネル1022には操作ボタン117、および電源スイッチ118が設けられているとともに、内蔵型のスピーカ122からの出力音を通すためのメッシュ状の音声出力孔1022fが形成されている。
【0074】
また、筐体1021の上面右側には、アーム1074およびカメラハウジング1075を収容するための凹部が収容部1021pとして形成されている。
【0075】
アーム1074は、トルクヒンジ1073を介して筐体1021に取り付けられている。アーム1074は、アーム1074が筐体1021に対して、正面を0度として±180度のパン角θ1の範囲で、かつ90度のチルト角θ2の範囲(概ね45度の傾き時にクリック感が発生するようになっている)において、上下左右方向に回動可能に構成されている。
【0076】
カメラハウジング1075には、内蔵型のカメラ130が設けられており、会議の当事者などの会議室等を撮影することができる。また、カメラハウジング1075には、トルクヒンジ1075aが形成されている。
【0077】
カメラハウジング1075は、トルクヒンジ1075aを介して、アーム1074に取り付けられている。そして、カメラハウジング1075は、カメラハウジング1075がアーム1074に対して直線状となるようにした状態を0度とし、端末装置100の前方側に概ね100度、端末装置100の後方側に概ね90度のチルト角θ3の範囲において回動可能に構成されている。
【0078】
筐体1021の側面下部には、外部機器接続I/F125に対応した接続口1021gが形成されており、外付けのカメラ、マイク、スピーカ等のケーブル端子をこの接続口1021gに接続する。
【0079】
なお、140は、外付けのディスプレイ140である。
【0080】
図4は、本実施形態における端末装置100の機能ブロック図である。
端末装置100は、送受信部11、操作入力受付部12、ログイン要求部13、撮像部14a、画像表示制御部14b、音入力部15a、音出力部15b、最終絞込部16、遅延検出部17、記憶・読出処理部18、および漏洩防止処理部19を有している。
【0081】
これらの各部は、図2に示されている各構成要素のいずれかが、ROM112に記憶されているプログラムに従ったCPU111からの命令によって動作することで実現される機能である。
【0082】
また、端末装置100は、図2に示されているSSD114によって読み出し又は書き込みを制御される記憶部1000を有している。
【0083】
端末装置100の機能ブロック各部について説明する。
【0084】
端末装置100の送受信部11は、図2に示されているネットワークI/F119によって実現され通信ネットワーク900を介して他の端末装置100、その他の装置又はシステムと各種データの送受信を行う。
【0085】
操作入力受付部12は、図2に示されている操作ボタン117によって実現され、利用者による各種入力を受け付ける。例えば、利用者が会議の相手方の端末装置100を選択する場合に端末装置100の操作用表示画面(図示せず)の画面上でその端末装置100を選択し決定のボタンを押すと、その選択情報が入力される。
【0086】
また、操作入力受付部12は、自己の端末装置100が行っている相手方の会議情報の出力に対して制限を行なう制限指示情報の入力、およびこの制限の解除指示情報の入力を受け付ける。これはいずれも会議の当事者が操作ボタン117の操作することによって行なう。
【0087】
ログイン要求部13は、図2に示されているCPU111からの命令によって実現され、送受信部11から通信ネットワーク900を介して遠隔通信管理システム700に、ログインを要求する旨を示すログイン要求情報、及び端末装置100の現時点のIPアドレスを送信する。
【0088】
この送信は、図2に示されている電源スイッチ118をONにして端末装置100の電源が投入され端末装置100が立ちあがると、自動的に行なわれるように設定されている。
【0089】
撮像部14aは、図2に示されているカメラ130、及びカメラI/F120によって実現され、被写体である出席者などの会議室の画像を撮影して、この撮影して得た画像データを出力する。
【0090】
画像表示制御部14bは、図2に示されているディスプレイI/F124によって実現され、外付けのディスプレイ140に対して画像データを送信し表示するための制御を行う。
【0091】
音入力部15aは、図2に示されているマイク121および音入出力I/F123によって実現され、端末装置100近傍の音を収集して入力し、この音の音信号を音データに変換して出力する。収集する音には音声および非音声音が含まれる。
【0092】
音出力部15bは、図2に示されているスピーカ122、および音入出力I/F123によって実現され、音データに係る音信号を音に変換して出力する。
【0093】
最終絞込部16は、複数の中継装置600から最終的に使用する1つの中継装置600に絞り込む最終絞り込み処理を行うためのもので、計測部16a、算出部16b、及び最終選択部16cを有しており、図2に示されているCPU111からの命令によって、実現する。
【0094】
このうちの計測部16aは、送受信部11によって受信された後述の事前送信情報毎に、送受信部11によって事前送信情報が受信される際の受信日時(msec単位)を計測する。
【0095】
算出部16bは、計測部16aによって受信日時が計測された事前送信情報毎に、この計測された受信時間と、この事前送信情報に含まれている送信日時との差に基づいて、事前送信情報の送信から受信までの所要時間(msec単位)を算出する。
【0096】
最終選択部16cは、算出部16bによって算出された所要時間のうち最短の所要時間を要した事前送信情報が中継された中継装置600を使用する中継装置600として選択することで、最終的に1つの中継装置600を選択する。
【0097】
遅延検出部17は、図2に示されているCPU111からの命令によって実現され、他の端末装置100から中継装置600を介して送られて来る画像データ又は音声データの遅延時間(msec単位)を検出する。
【0098】
また、記憶・読出処理部18は、図2に示すSSD114によって実行され、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出す処理を行う。
【0099】
記憶部1000には、端末装置100を識別するための端末ID(Identification)およびパスワード、ならびに画像データおよび音データ等が記憶される。
【0100】
なお、本実施形態の端末装置IDおよび後述の中継装置IDは、それぞれ端末装置100および中継装置600を一意に識別するために使われる言語、文字、記号、もしくは各種のマークまたはこれらの組み合わせ等の識別情報を示す。
【0101】
情報漏洩防止部19は、自己の端末装置100近傍において生じた音の分析を行い、この音があらかじめ指定された音でない場合、または会議の当事者により制限の指示情報が入力された場合には、自己の端末装置100が行っている会議の相手方の画像表示および相手方の音出力等の会議情報の出力処理に対して制限を行なうとともに、相手方の端末装置100に、この制限が行なわれたことを示すメッセージを送信し、また相手方の端末装置100においてこの制限が行なわれたことを示すメッセージを受信したときに自己の端末装置100においてその旨を表示するものである。
【0102】
情報漏洩防止部19は、音識別部19a、判定部19b、制限部19cおよび状態管理部19dを有している。
【0103】
音識別部19aは、音入力部15aのマイク121から入力された音の音響分析を行い、その音の特徴量を、あらかじめ備えた音響特徴を表現する音響モデルと照合して、あらかじめ指定した音であるか否か例えば会議の当事者等の話者の音声であるかを識別する。
【0104】
判定部19bは入力された音が音識別部19aにより指定された音でないと識別された場合に、その入力された音が相手方の会議情報を出力すべき音でないと判定して、また会議の当事者により制限の指示情報が入力された場合にはその入力を受けて、自己の端末装置100が行なっている画像表示および音声出力等の会議情報の出力に対して制限を行なうべきと判定する。
【0105】
また判定部19bは、会議の当事者により制限解除の解除指示情報が入力された場合にはその入力を受けて、制限の解除を行なうべきと判定する。
【0106】
制限部19cは、判定部19bが会議情報の出力に対して制限を行なうべきと判定した場合には端末装置100が行なっている画像表示および音声出力等の会議情報の出力処理に対して制限を及ぼして出力内容の変更を行なう。
【0107】
そして、制限部19cは、判定部19bが制限の解除を行なうべきと判定した場合にはその制限を解除する。
【0108】
状態管理部19dは、自己の端末装置100の出力処理の変更状態を会議の相手方の端末装置100に通知するための管理、および会議の相手方の端末装置100からその端末装置100の出力処理の変更状態の通知があった場合に自己の端末装置100においてその旨を表示する管理を行なう。
【0109】
この情報漏洩防止部19において用いる音に対応する音響モデルのデータや各種データのデータ記憶は、記憶部1000において行なわれる。
状態管理部19dによる相手方の端末装置100の出力処理変更の表示は画像表示制御部14bの制御によってディスプレイ140において行なわれる。
【0110】
次に、まず判定部19b、制限部19cおよび状態管理部19cについて、具体的に説明する。音識別部19aについては後述する。
【0111】
判定部19bは、入力された音が相手方の会議情報を出力すべき音でない場合には、自己の端末装置100が行なっている相手方の会議情報の出力処理に対して制限を及ぼすべきと判定する。
【0112】
そして、これを受けて制限部19cは、自己の端末装置100が行なっている相手方の会議情報の出力処理に対して制限を及ぼすが、この制限として、制限部19cは画像表示制御部14bに対してディスプレイ140の画面オフへの移行等を指示し、音出力部15bに対して制限前時点(現時点)の出力音量データを取得して記憶部1000に記憶してから出力音量の最小化することを指示する。
【0113】
この画像表示制御部14bに対する指示の処理は、端末装置100がWindows(マイクロソフト社の登録商標)をOSとする場合、画面オフの入力処理は、キーボードやファンクションキーに割り当てられているので、これを利用して、対象となるキー信号(例えば、F3キー)の代替処理を行い、端末装置100の処理に割り込み処理させることで実施できる。
また、音出力部15bに対する指示の処理は、この処理はWindows(マイクロソフト社の登録商標)であれば,オーディオミキサAPIを使用して実行できる。なお、出力音量の最小化の最小値は0値としてもよい。
【0114】
また、音識別部19aの識別および判定部19bの判定によることなく、会議の当事者が相手方の会議情報に制限を行なうべきと判定した場合には、当事者は、操作ボタン117を操作することによって操作入力受付部12により、直接、制限の指示情報を入力する。
【0115】
この入力があった場合には、判定部19bは、会議情報の出力に対して制限を行なうべきと判定し、入力された音が相手方の会議情報を出力すべき音でないと判定した場合と同じ処理を実行する。
【0116】
判定部19bは、制限の必要がなくなった場合等に会議の当事者が行なう解除指示情報の操作入力があった場合には、その入力を受けて、制限の解除を行なうべきと判定する。解除指示情報の操作入力は操作ボタン117を操作することによって操作入力受付部12により行なわれる。
【0117】
解除の操作入力はパスワードの入力により行なわれるが、この入力があった場合に判定部19bは,この入力情報と予め設定されたパスワードとを比較し,一致した場合は、制限の解除を行なうべきと判定する。
【0118】
判定部19bによる制限解除の判定があった場合には、制限部19cは、画像表示制御部14bに対して画面オンへの移行を指示する.
また制限部19cは,記憶部1000に記憶してあったスピーカ122の制限前時点の出力音量データを参照し,スピーカ122に対してこの音量データによる制限前の出力音量への音量復帰を指示する。
【0119】
状態管理部19dは、自己の端末装置100において制限部19cによる画像オフおよび出力音量の最小化の指示が行なわれた場合には、会議の相手方の端末装置100に対するこの制限が行なわれたことを示すメッセージを作成し、送受信部11に相手方の端末装置100への通知の指示を行なう。
【0120】
具体的には、状態管理部19dは図5(A)に示すようなRFC3921のXMPP IM (Extensible Messaging and Presence Protocol: Instant Messaging and Presence)に従うXML(Extensible Markup Language)ベースのメッセージを作成する。
【0121】
この場合において状態管理部19dは,<presence>タグの属性”fromおよび”to”に自己の端末装置100等の識別子と送信先端末装置100の識別子をそれぞれ指定する。
【0122】
図5(A)の例では、自己の端末装置100等をID1とし送信先である相手方端末装置100等の識別子をID4として指定している。
【0123】
<show>タグの値は会議中であることを示す”CHAT”を指定する。
【0124】
<status>タグの値には画面の状態を指定する。図5(A)においては、”画面オフ“の状態を示す”DISPLAY_OFF”を指定する。
【0125】
状態管理部19dはこのメッセージを送受信部11に送ってメッセージの送信を指示する。これにより送受信部11はXMPPでメッセージを送信する。
【0126】
自己の端末装置100において制限部19cによる制限が解除されて、画面オフから画面オンへの移行の指示、および音量復帰を指示があった場合には、状態管理部19dは図5(B)に示すメッセージを作成し,画面オフ時と同様に送受信部11にメッセージの送信を指示する。
【0127】
図5(B)に示すメッセージにおいては、<presence>タグの属性”fromおよび”to”には、図5(A)の場合と同様に自己の端末装置100の識別子ID1と、送信先の相手方端末装置100等の識別子ID4を指定する。
【0128】
<show>タグの値についても図5(A)の場合と同様に会議中であることを示す”CHAT”を指定する。
【0129】
<status>タグの値には、”画面オン“の状態を示す”DISPLAY_ON”を指定する。
【0130】
なお、<status>タグの値には”画面オフ“の状態を示す”DISPLAY_OFF”が指定されているが、この”画面オフ“は会議情報の出力処理に対して制限が行なわれていることを代表的に示したもので、これにはスピーカ122の出力音量の最小化の状態を示す内容も含まれている。
【0131】
出力処理の変更状態の通知のメッセージは送信先である相手方端末装置100の送受信部11で受信されるが、相手方の端末装置100の状態管理部19cは,送受信部11から受け取ったメッセージを次のように解析する。
【0132】
まず<presence>タグの”from”属性”から送信元である会議の相手方の装置100の識別子(本実施形態ではID1)を取得する.次に,<status>タグの値から画面状態を取得する。
【0133】
状態管理部19dは取得した画面状態がDISPLAY_OFFであれば,相手の会議装置において会議情報の出力の制限が行なわれたと認識する。
【0134】
そして、相手側とは会議不可であることを示す表示を自己の画像表示制御部14bに対して指示する。
【0135】
図6に会議不可になったときのメッセージ受信側の表示画面の例を示す。この図においては、会議情報である会議の相手方の画像とともに、具体的には相手方の画像に重ねて会議が一時的にできない状態を示すマークが表示されている。なお,画面右側のようにテキストでマークの意味を追加表示するようにしてもよい。
【0136】
状態管理部19dは取得した画面状態がDISPLAY_ONであれば,相手の会議装置において会議情報の出力の制限の解除が行なわれたと認識し、図7に示すような会議可であることを示す画面の表示を自己の画像表示制御部14bに対して指示する。すなわち、図7に示すように図6における上記のマークを終了させて非表示にし,マークの意味を追加表示している場合にはマークの意味を追加しているテキスト部分の表示を終了させて非表示にする。
【0137】
なお、この実施形態においては、会議を行っている端末装置100間で直接、制限に関する情報のメッセージのやりとりをするようにしているが遠隔通信管理システム700を経由するようにしてもよい。また制限状況を、端末装置100間でのやりとりとは別に遠隔通信管理システム700に伝えるようにしてもよい。
【0138】
次に音識別部19aについて、具体的に説明する。
【0139】
音識別部19aは、次のような機能を有している。
(1)音のアナログ信号をデジタル信号への変換処理
(2)音響分析処理
(3)区間検出処理
(4)音識別処理
各機能について説明する。
(1)音のアナログ信号をデジタル信号への変換
マイク121により収集された音のアナログ信号の入力を受け付け、このアナログ信号をADコンバータにより、例えば8kHz、16ビットのデジタル信号に変換する。この変換処理は図2の音入出力I/F123において行なわれる。
なお、この音識別部19aによる変換処理は音識別のための処理であり内容としては音入力部15aの変換処理とは異なるが、音のアナログ信号をデジタル信号に変換するという点では音入力部15aの変換処理と同じではあるので、この変換処理を双方の目的に共通に使えるような処理内容にしている。
【0140】
したがって、これらの処理は別々に行なうようにしてもよい。
【0141】
(2)音響分析処理
(1)において変換された音のデジタル信号に対して音響分析処理を行う。
【0142】
この分析処理には、LPC(線形予測)分析等を用いることができる。LPC分析は、細かい周波数成分を信号から除去し、残った部分の強さと周波数の概要(包絡)を予測することで、このデジタル信号を分析する。
【0143】
デジタル信号は、時間と共に変化するため、この分析は一定時間の信号のかたまり、すなわちフレームに対して行われる。
【0144】
このLPC分析は、例えば、高域強調を一次差分、ハミング窓をかけて256点に切り出し、移動幅を16ms、LPC分析次数を20という条件で行われ、10次元メルケプストラム係数、対数パワーの一次差分、対数パワーという特徴量をフレーム単位で求める。
【0145】
具体的には、このLPC分析では、まず、音波形データに高域強調フィルタをかけた後、窓関数をかける。この窓関数をかけることで、フレーム単位で切り出されたときに生じる不連続点の影響を小さくできる。
【0146】
フレーム単位で切り出された信号の予測誤差の自乗の和が最小になるように線形予測係数を求める。得られた予測誤差と線形予測係数から1〜10までのケプストラム係数を再帰計算により求める。
【0147】
メルケプストラム係数は、Oppenheim の漸化法によりケプストラムをメルケプストラムに変換することにより求める.補助的な特徴量である対数パワーは以上に述べた処理の過程で求めることができるので、対数パワーが得られるたびに対数パワーの時間的な一次差分も合わせて計算しておくようにする。
【0148】
なお、この音の分析は、ここに記載された方法に限られるものではなく、周波数(FFT)分析等の方法も用いることが可能である。
【0149】
(3)区間検出処理
また、ADコンバータにより変換された音のデジタル信号に対して音識別処理を行なう区間を決定する区間検出処理を行う。
【0150】
区間検出処理は、例えば、音対数パワーや一次の自己相関を観測、分析することにより区間の検出を行う。自己相関は、信号が時間シフトした信号とどの程度整合するかを測る尺度で、時間シフトの大きさの関数として表されるものである。
【0151】
区間が検出された場合は、検出された区間に対応する区間のメルケプストラム係数や対数パワー等の特徴量が音識別処理に送られる。検出されなかった場合は、音響分析処理と区間検出処理を繰り返し行なう。
【0152】
この区間検出処理を行うことにより、後述する識別処理の精度を高くすることができる。識別処理で用いるモデルの精度が十分に高い場合には、この区間検出処理を省略することも可能である。
【0153】
(4)音識別処理
音識別処理では、検出された区間の特徴量と音響特徴を表現する音響モデルとの照合を行う。例えば、音響モデルとして代表的なHMM(隠れマルコフモデル)を用いることができる。また、その他に、GMM(ガウス混合分布モデル)を用いることもできる。
【0154】
音識別部19aで使用される音響モデルとしては、会議の当事者である話者の音響モデルと周囲の騒音の音響モデルをあらかじめ備えている。
【0155】
図8は、音識別部19aで使用される話者の音響モデルのデータ構造の一例を示した図である。このデータ構造では、合計でn個のHMMがあり、異なるn人の話者に対応するHMMが番号と対応して記憶部1000に記憶されている。これらのHMMは、この端末装置100を通常使用する人に対応してモデル化されている。
【0156】
図9は、音識別部19aで使用される騒音の音響モデルのデータ構造を示した図である。このデータ構造では、合計でm個のHMMがあり、異なるm種類の騒音に対するHMMが番号と対応して記憶部1000に記憶されている。これらの各HMMは、この端末装置100を使用している部屋に人が入ったことがわかる特徴的な騒音例えばドアの開閉音等と、それ以外の騒音例えば端末装置100の操作音等を、その種類を区別して記憶部1000に記憶されている。
【0157】
これらの音響モデルのうち、会議の当事者である話者の音響モデルと、人が入ったことがわかる特徴的な騒音例えばドアの開閉音等以外の騒音の音響モデルが、相手方の会議情報を出力すべき音の音響モデルとしてあらかじめ指定されている。
【0158】
なお、各HMMは、話者の音声あるいは騒音の特徴量を統計的な出現確率に基づいて表現したものである。
【0159】
これらのHMMは、Baum-Welchのアルゴリズムを用いて事前に訓練しておくことが好ましい。訓練用データには、予め収集しておいた各話者の音声および各種の騒音の特徴量を用いることができる 。
【0160】
なお、Baum-Welchのアルゴリズムは、訓練データの尤度を最大にするようにパラメータを学習するためのアルゴリズムで、HMM初期モデルの再推定に使用されるものである。
【0161】
音識別部19aでは、検出された区間の特徴量と図8または図9に示すHMMとの照合を、L.Rabiner他、音声認識の基礎(下)、NTTアドバンステクノロジ株式会社、1995年(参考文献1)に詳述されているようなViterbiアルゴリズムにより行い、音響モデルまたは騒音モデルの各HMMに対する得点Siを算出する。
【0162】
ここで、iは、HMMに対する番号であり、i=S1、…、Sn、N1、…、Nmである。Viterbiアルゴリズムの代わりに、forwardアルゴリズムを用いることも可能である。Viterbiアルゴリズムは、あるモデルにおいて、最適な状態系列と、この経路上での尤度を求めるアルゴリズムである。
【0163】
そして算出した各得点Siを比較し、音響モデルまたは騒音モデルのうち最も高い得点をもつHMMの番号Iを次式により求める。
【0164】
【数1】

番号IをもつHMMの得点SIが次式の判定式から、しきい値TIより大きくなる場合は、有効な得点とする。
【0165】
【数2】

この実施形態では、モデルごとにしきい値が異なるようにしているが、これに限られるものではなく、すべてのモデルに対して同一のしきい値を用いたり、図5に示す話者HMMと図6に示す騒音HMM用の2つのしきい値を用いるなど、他のしきい値設定を用いてもよい。
【0166】
このようにして有効な得点をもつHMMの番号を判定するが、これにもとづき、音識別を次のように行なう。
【0167】
有効な得点をもつHMMの番号がSから始まっている場合は、使用している端末装置100の当事者が発声したものとみなすことができる。
他方、有効な得点をもつHMMの番号がNから始まる場合で、部屋に人が入ったこと示す特徴的な騒音モデルである場合は、当事者以外の他人の入室があったものとみなすことができる。
【0168】
また、それ以外のNから始まるHMMが選択された場合は、単なる騒音であるとみなすことができる。
【0169】
図8および図9に示すどのHMMの得点も有効な得点でない場合は、この端末装置100の当事者以外の他人が、この端末装置100が設置されている部屋の中で発声したものとみなすことができる。
【0170】
図8および図9に示すHMMは、話者ごとあるいは騒音の種類ごとに記憶されるが、話者と騒音の2つの全結合(エルゴード的)HMMを用意し、各HMMの状態に話者の種類あるいは騒音の種類を割り当てて照合することも可能である。
【0171】
この場合にデータ記憶部42に格納された話者HMM、騒音HMMの構造の例をそれぞれ図10および図11に示す。
【0172】
図10では、合計でn個の状態をもつHMMであり、異なるn人の話者についての確率密度関数が状態と対応して格納されている。図11では、合計でm個の状態があり、異なるm種類の騒音についての確率密度関数が状態に対応して格納されている。
【0173】
この確率密度関数から抽出された特徴量が出現する確率を求めることができる.なお,図示していないが,話者HMM,騒音HMMの状態jにおける遷移確率aSji(i=1,‥,n), aNji(i=1,‥,m)もHMMを構成するパラメータとしてデータ記憶部に格納されている.
上記のようなHMMを用いた識別処理においては、検出された区間の特徴量に対して図8および図9に示すHMMとの照合を、上記参考文献1に詳述されているようなViterbiアルゴリズムにより行い、各話者HMMに対する得点Ssと騒音HMMに対する得点Sbとを求め、次式によりしきい値よりも大きい場合は有効な得点とする。
【0174】
【数3】

【0175】
【数4】

ここで、Ts、Tbは、話者HMMの得点に対するしきい値と騒音HMMの得点に対するしきい値である。この実施形態では、HMM毎にしきい値が異なっているが、これに限ったものではなく、全てのモデルに対して同一のしきい値を用いることもできる。
【0176】
このようにして有効な得点をもつHMMの番号を判定するが、これにもとづき、話者識別を次のように行なう。
【0177】
有効な得点をもつHMMが話者HMMであった場合は、この端末装置100を使用している者が発声したものとみなすことができる。
他方、有効な得点をもつHMMが騒音HMMであった場合は、上記参考文献1に詳述されているようなViterbiアルゴリズムによるトレースバック処理を行い、音声特徴量のフレームに対応する騒音HMMの状態系列を求める。
【0178】
そして、この系列から連続して最も長く滞留する状態番号を求め(例えば、状態系列が113333324であった場合、最も多い番号である状態番号3が求める番号となる)。この状態番号が入室を示す特徴的な状態番号に対応する場合は、入室があったものとみなすことができる。
【0179】
状態番号が入室を示す特徴的な状態番号に対応する番号以外の番号であった場合は、単なる騒音であるとみなすことができる。
HMMの得点がどちらも有効でない場合は、この端末装置100を使用しない者が、この端末装置100が設置されている部屋の中で発声したものとみなすことができる。
【0180】
本実施形態における話者識別部19aは、音響モデルとしてHMMを用いたが、他のモデルを用いることも可能である。
【0181】
例えば、数フレームからなる特徴量を相加平均した標準パターン、人工神経回路網や室井他、「継続時間制御状態遷移モデルを用いた単語音声認識」、電子情報通信学会論文誌J72-D-II、11、pp.1769-1777(1989−11)(参考文献2)に詳述されるようなDST(Duration-based State Transition:継続時間制御状態遷移)モデルを用いることも可能である。
【0182】
DSTモデルはHMMに比べると,話者が発声した音声パターンの時間構造を明示的に表現できるため,特定の話者の識別に特に効果的である。そのため、図1に示したようなシステム構成で、在宅勤務者一人だけ、または少数の話者を識別すればよいシステム環境では、DSTモデルをHMMの代わりに用いるとさらに精度良く話者の識別することができる。
【0183】
次に、端末装置100が行なう処理について、フローチャートを参照して説明する。
図12は、自己の端末装置100において会議情報の出力処理に対して制限を行なう場合の流れを示すフローチャートであり、これを参照してこの場合の自己の端末装置100における処理について説明する。
【0184】
情報漏洩防止部19は、遠隔会議システムにより会議が行なわれているときにこの処理をステップ30から開始する。
まず、ステップ31において指示の操作入力があるかを判断し、入力があった場合には、ステップ37において、判定部19bが、その指示の入力が制限を行なう指示か否かを確認し、制限の指示情報である場合には制限を行なうべきと判定する。
【0185】
制限を行なうべきと判定した場合には、ステップ38の制限処理に移って制限処理を行い、制限を行なうべきと判定しない場合には、ステップ31に戻る。
【0186】
ステップ31において、指示の入力がなかった場合にはステップ32に移って音響分析処理を行なう。
【0187】
ステップ32においては、音識別部19aがマイク121により収集された音のアナログ信号の入力を受け付ける。入力された音は、ADコンバータにより、例えば8kHz、16ビットのデジタル信号に変換される。
【0188】
このデジタル信号への変換は、マイク121が音を収集している間継続して行なわれ、変換されたデジタル信号がバスライン126に出力される。
【0189】
ステップ33において、上記の変換された音のデジタル信号に対して音識別部19aは音響分析処理を行う。この音響分析処理は、一定時間のデジタル信号のかたまりすなわちフレームに対して、音のデジタル信号が出力されている間継続して行なわれる。
【0190】
音響分析処理の分析結果としてメルケプストラム係数、対数パワー等の特徴量がバスライン126に出力される。
【0191】
ステップ34において、上記の変換された音声のデジタル信号に対して音識別部19aは区間検出処理を行う。
【0192】
区間検出処理は、識別の対象となる区間の検出を行なうもので、音のデジタル信号が出力されている間継続して行なわれる。
【0193】
次に、ステップ35において、音識別部19aはステップ34における区間検出の有無を確認し、区間が検出された場合には、ステップ36の音識別処理に移る。
【0194】
区間が検出されなかった場合はステップ31へ戻る。
【0195】
区間が検出された場合にはステップ36において、音識別部19aは音識別処理を行なう。この音識別処理においては、ステップ34において検出された区間の音響分析処理の区間の特徴量と、記憶部1000に記憶されている音響特徴を表現した音響モデルとの照合を行ない、指定された話者の音声か否かの識別を行なう。
【0196】
具体的には、会議の出席者等の当事者が発した音声か、また人の音声以外では人が部屋に入ったことによるドアの開閉音などの騒音かを識別する。
【0197】
ステップ37においてこの音識別処理の識別結果にもとづいて、判定部19bは会議情報の出力処理を制限すべきか否かの判定を行なう。
【0198】
音声については会議の出席者等の当事者が発した音声の場合以外には制限すべきと判定し、騒音の場合にはドアの開閉音の場合には他人が入室してきたものと考えられるので制限すべきと判定する。
【0199】
ステップ37において制限すべきと判定された場合には、ステップ38の制限処理に移る。
制限すべきと判定されなかった場合にはステップ31へ戻る。
【0200】
ステップ38において、制限部19bは画面表示制御部14bに対して画面オフの指示を行い、ディスプレイ140の画面をオフにする。
【0201】
ステップ39において、制限部19cは音声出力部15bに対して制限前時点(現時点)の出力音量データの記憶と音声出力音量の最小化を指示して実行させる。これによりスピーカ122の出力音量を最小化する。
【0202】
次にステップ40において、状態管理部19dは、自己の端末装置100において会議情報の出力処理の制限が行なわれたことを示す図5(A)に示すようなメッセージの作成処理を行なう。
【0203】
次にステップ41において、ステップ40において作成されたメッセージの送信処理を行なう。この送信処理は状態管理部19dが送受信部11にメッセージの送信を指示し、送受信部11が送信処理をすることにより行なわれ、ステップ42において終了する。
【0204】
なお、図12のフローチャートにおいては、すでに会議情報の出力処理に対する制限を行ない継続中の場合については特に示されていないが、出力処理に対する制限の継続中でないことを、図12のフローチャートの処理の開始の条件とするようにして、すでに制限を継続中の場合にはこの処理を開始しないようにすることができる。
【0205】
図13は、自己の端末装置100において行なった会議情報の出力処理に対する制限を解除する場合の流れを示すフローチャートであり、これを参照してこの場合の自己の端末装置100における処理について説明する。
【0206】
情報漏洩防止部19は、この処理をステップ50から開始する。
まず、ステップ51において指示の操作入力があるかを判断し、入力があった場合には、ステップ52において、判定部19bがその指示の入力が有効な解除の指示入力か否かを確認し、制限を解除すべきか否かの判定をする。
解除すべきと判定された場合には、ステップ53以降の処理に移る。
制限すべきと判定されなかった場合にはステップ51において解除の操作入力の有無の監視を継続する。
【0207】
ステップ52において解除すべきと判定された場合には、ステップ53において、制限部19cは画面表示制御部14bに対して画面オンの指示を行い、ディスプレイ140の画面をオンに復旧させる。
【0208】
次にステップ54において、制限部19cは音出力部15bに対してスピーカ122の音出力の音量を制限前時点の出力音量に戻すことを指示して、スピーカ122の出力音量を復旧させる。
【0209】
次にステップ55において、状態管理部19dは、自己の端末装置100において会議情報の出力処理の制限が解除されたことを示す図5(B)に示すようなメッセージの作成処理を行なう。
【0210】
次にステップ56において、ステップ55において作成されたメッセージの送信処理を行なう。この送信処理は状態管理部19dが送受信部11にメッセージの送信を指示し、送受信部11が送信処理することにより行なわれ、ステップ56において終了する。
【0211】
図14は、会議の相手方の端末装置100から会議情報の出力処理の変更状態のメッセージを受信した場合の流れを示すフローチャートであり、これを参照してこの場合の会議の相手方である受信側の端末装置100における処理について説明する。
【0212】
この処理はステップ60から開始され、受信側の端末装置100はステップ61において、メッセージの受信処理を行なう。
【0213】
このメッセージの受信処理は受信側の端末装置100の送受信部11で行なわれ、図12のステップ40において作成された図5(A)に示すメッセージと、図13のステップ55において作成された図5(B)に示すメッセージが受信される。
【0214】
次に、ステップ62において受信側の端末装置100の状態管理部19dは,送受信部11から受け取ったメッセージの解析処理を行なう。
【0215】
すなわち、メッセージが図5(A)に示すものである場合には画面状態が“DISPLAY_OFF”であるので、状態管理部19dは送信側であるID1の端末装置100においてディスプレイ140が画面オフに変更され、かつスピーカ122の音声出力音量が最小化されたことを認識する。
【0216】
また、メッセージが図5(B)に示すものである場合には画面状態が“DISPLAY_ON”であるので、状態管理部19cは送信側の端末装置100においてディスプレイ140が画面オンに復旧し、かつスピーカ122の音声出力音量が元の音量に復旧したことを認識する。
【0217】
次にステップ63において、ステップ62の解析処理の結果を確認し、結果が、送信側が画面オフかつ音声出力音量最小化の場合には、状態管理部19dは図6に示すように送信元である会議の相手方の画像に重ねて会議が一時的にできない状況を示すマークの表示を、受信側である自己の画像表示制御部14bに対して指示する。
【0218】
ステップ63において、ステップ62の解析処理の結果が送信側が画面オンに復帰かつ音声出力音量が復帰の場合には、状態管理部19dは図7に示すように、図6における上記のマークの表示終了させて非表示にすることを、受信側である自己の画像表示制御部14bに対して指示する。
【0219】
そして、ステップ64またはステップ65において、ステップ63により指示された表示をディスプレイ140において行ない、ステップ66において終了する。
【0220】
上記した実施形態においては、遠隔会議システムを使用して会議が行なわれているときに、遠隔会議システムの端末装置100により会議の場所において収集される音の識別が行なわれ、指定された話者の音声かあるいは人が部屋に入ったことによるドアの開閉音か否かを識別される。
【0221】
そして、この識別結果にもとづき、指定された話者の音声以外の音声や人が部屋に入ったことによるドアの開閉音が識別された場合には。端末装置100により自己の会議の場所において出力されている画面、音声等の会議情報の出力処理の制限処理が行なわれる。または会議の当事者により制限の指示情報が操作入力された場合にも同様な制限処理が行なわれる。
【0222】
この制限処理が行なわれるとともに、会議の相手方の端末装置100に自己の端末装置100において制限処理が行なわれたことを示すメッセージが送信され、相手方の会議装置100により制限処理が行なわれたことが表示される。
【0223】
制限処理の解除は、端末装置100に会議の当事者等の人が解除の操作入力をすることにより行なわれ、解除の入力があった場合には制限が解除されるとともに、会議の相手方の端末装置に自己の端末装置において制限処理が解除されたことを示すメッセージが送信され、相手方の会議装置100により解除が行なわれたことが表示される。
【0224】
したがって、会議の当事者以外の他人が会議室に入ってきた場合の情報漏洩を低減することができ、会議の相手方にも、この理由で会議が一時的に中断していることがわかるので混乱を生じることなく円滑に会議を進めることができる。
【0225】
なお、出力処理の変更状態の通知のメッセージを送信先である相手方端末装置100が受信した場合の出力処理は、ディスプレイ140において行なっているが、スピーカ122により行なってもよくまたこれらを併用してもよい。
また、別の出力装置例えばランプを別に設けてその点灯で行なってもよい。
【0226】
また、出力の制限は、状況に応じて音声と画面の別々でも良い。例えば画面が他人から見えにくいような位置にある場合には音声だけに制限を行なうようにしてもよい。
【0227】
なお、上記の実施形態は会議室や通常の部屋において会議を行う場合について行なったが、これに限らず、同様の機能を有する携帯電話端末を用いて2者間または3者以上間の会話を行なう場合も含むものであり、本発明の会議システムおよび端末装置にはこのような場合に用いられるシステムおよび携帯電話端末も含む。
【符号の説明】
【0228】
100 会議装置
110 装置本体
111 CPU
112 ROM
113 RAM
114 SSD
115 フラッシュメモリ
116 メディアドライブ
116a 記録メディア
117 操作ボタン
118 電源スイッチ
119 ネットワークI/F
120 カメラIF
121 マイク
122 スピーカ
123 音声入出力I/F
124 ディスプレイI/F
125 外部機器接続I/F
126 バスライン
130 カメラ
140 ディスプレイ
1021 筐体
1021e 吸気孔
1021f 収音用孔
1021g 接続口
1022 操作パネル
1074 アーム
1075 カメラハウジング
200 LAN
300 専用線
400 インターネット
A 地域
500 ルータ
600 中継装置
700 遠隔通信管理システム
800 プログラム提供システム
900 通信ネットワーク
11 送受信部
12 操作入力受付部
13 ログイン要求部
14a 撮像部
14b 画像表示制御部
15a 音声入力部
15b 音声出力部
16 最終絞込部
16a 計測部
16b 算出部
16c 最終選択部
17 遅延検出部
18 記憶・読出処理部
19 漏洩防止処理部
19a 話者識別部
19b 判定部
19c 制限部
19d 状態管理部
【先行技術文献】
【特許文献】
【0229】
【特許文献1】特開2000−99076号公報

【特許請求の範囲】
【請求項1】
会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力し、自己の会議情報を相手方の端末装置に送信する会議システムの端末装置において、
自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうべきか否かを判定する判定手段と、
前記判定手段が制限を行なうべきと判定した場合に自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なう制限手段と、
この制限手段による前記制限が行なわれた場合に、相手方の端末装置に前記制限が行なわれたことを示すメッセージを送信する状態管理手段を有することを特徴とする会議システムの端末装置。
【請求項2】
会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力し、自己の会議情報を相手方の端末装置に送信する会議システムの端末装置において、
自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうべきか否かを判定する第1の判定手段と、
前記制限の解除を行なう指示情報の入力を行なう入力手段と、
前記指示情報にもとづき前記解除を行なうべきか否かを判定する第2の判定手段と、
前記第1の判定手段が制限を行なうべきと判定した場合に自己の端末装置が行っている相手方の会議情報の出力に対して制限を行ない、前記第2の判定手段が前記解除を行なうべきと判定した場合に前記制限の解除を行なう制限手段と、
前記制限手段による前記制限が行なわれた場合に相手方の端末装置に前記制限が行なわれたことを示すメッセージを送信し、前記解除が行なわれた場合に相手方の端末装置に前記解除が行なわれたことを示すメッセージを送信する状態管理手段を有することを特徴とする会議システムの端末装置。
【請求項3】
請求項1または2に記載の会議システムの端末装置において、
前記状態管理手段は、相手方の端末装置から相手方の端末装置において会議情報の出力に対する制限が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す情報を自己の端末装置において出力することを特徴とする会議システムの端末装置。
【請求項4】
請求項3に記載の会議システムの端末装置において、
前記状態管理手段は、相手方の端末装置から相手方の端末装置において前記制限の解除が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す前記出力を終了させることを特徴とする会議システムの端末装置。
【請求項5】
会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力し、自己の会議情報を相手方の端末装置に送信する会議システムの端末装置において、
相手方の端末装置から、相手方の端末装置において会議情報の出力に対して制限が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す情報を自己の端末装置において出力し、相手方の端末装置から前記制限の解除が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す前記出力を終了させる状態管理手段を有することを特徴とする会議システムの端末装置。
【請求項6】
請求項1から請求項4のいずれかに記載の会議システムの端末装置において、
判定手段または第1の判定手段が、相手方の会議情報の出力に対して制限を行なう指示情報の操作入力にもとづき判定することを特徴とする会議システムの端末装置。
【請求項7】
請求項1から請求項4または請求項6のいずれかに記載の会議システムの端末装置において、
更に、自己の端末装置近傍において生じた音を入力して分析を行い、この入力された音が相手方の会議情報を出力すべき音としてあらかじめ指定された音であるか否かを識別する音識別手段を有し、
前記判定手段または第1の判定手段が、前記音識別手段において前記入力された音が相手方の会議情報を出力すべき音としてあらかじめ指定された音でないと識別された場合に、自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうべきと判定することを特徴とする会議システムの端末装置。
【請求項8】
請求項1から請求項7のいずれかに記載の会議システムの端末装置において、
会議情報として少なくとも音声情報を含み相手方の会議情報の出力がスピーカによる音声の出力であって、
前記制限手段による制限がスピーカの音量レベルを小さくするものであり、制限の解除時にはスピーカの音量レベルを制限前の時点の音量レベルに復帰することを特徴とする会議システムの端末装置。
【請求項9】
請求項1から請求項8のいずれかに記載の会議システムの端末装置において、
会議情報として少なくとも画像情報を含み相手方の会議情報の出力がディスプレイによる表示であって、
相手方の端末装置において制限が行なわれたことを示す情報が、会議情報の出力とともに前記ディスプレイにより表示されることを特徴とする会議システムの端末装置。
【請求項10】
端末装置間において会議情報の送受信を行ない、各端末装置は会議の相手方の端末装置から送信された相手方の会議情報を受信して自己の端末装置において出力するとともに、自己の会議情報を相手方の端末装置に送信する会議システムにおいて、
各端末装置は、自己の端末装置において、相手方の会議情報の出力の制限を行なうべきとの判定があった場合に、自己の端末装置が行っている相手方の会議情報の出力に対して制限を行なうとともに相手方の端末装置に前記制限が行なわれたことを示すメッセージを送信し、前記制限の解除を指示すべきとの判定があった場合に前記制限の解除を行なうとともに相手方の端末装置に前記解除が行なわれたことを示すメッセージを送信するとともに、
各端末装置は、相手方の端末装置から相手方の端末装置において会議情報の出力に対して制限が行なわれたことを示すメッセージを受信したときに、相手方の端末装置において前記制限が行なわれたことを示す情報を自己の端末装置において出力し、相手方の端末装置から前記制限の解除が行なわれたことを示すメッセージを受信したときに、前記相手方の端末装置において前記制限が行なわれたことを示す前記出力を終了させることを特徴とする会議システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2011−199847(P2011−199847A)
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願番号】特願2011−6119(P2011−6119)
【出願日】平成23年1月14日(2011.1.14)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】