遠隔会議支援システム及びプログラム
【課題】遠隔会議を円滑に行えるようにする。
【解決手段】位置特定部(20)は、会議室のステレオカメラが撮像した撮像画像、に写っているプレゼンターの画像が占める領域内の各位置に写っている物体の位置を特定し、射影位置算出部(22)は、位置特定部(20)により特定された各位置を、当該会議室のスクリーンに対応する領域たる射影面領域に射影したときの射影位置を算出し、手先位置算出部(24)は、当該会議室の複数のカメラにより撮像された撮像画像に基づいて、プレゼンターの前腕部の領域である手先領域、の位置を射影面領域に射影したときの射影位置たる手先位置を算出し、プレゼンター表示部(28)及びマーカ表示部(30)は、他の会議室のスクリーンに、プレゼンターを示す画像を射影位置算出部(22)が算出した射影位置に基づいて表示させ、手先位置に対応する位置にマーカ画像を表示させる。
【解決手段】位置特定部(20)は、会議室のステレオカメラが撮像した撮像画像、に写っているプレゼンターの画像が占める領域内の各位置に写っている物体の位置を特定し、射影位置算出部(22)は、位置特定部(20)により特定された各位置を、当該会議室のスクリーンに対応する領域たる射影面領域に射影したときの射影位置を算出し、手先位置算出部(24)は、当該会議室の複数のカメラにより撮像された撮像画像に基づいて、プレゼンターの前腕部の領域である手先領域、の位置を射影面領域に射影したときの射影位置たる手先位置を算出し、プレゼンター表示部(28)及びマーカ表示部(30)は、他の会議室のスクリーンに、プレゼンターを示す画像を射影位置算出部(22)が算出した射影位置に基づいて表示させ、手先位置に対応する位置にマーカ画像を表示させる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔会議支援システム及びプログラムに関する。
【背景技術】
【0002】
下記特許文献1には、スクリーンの手前の手の位置を取得し、遠隔地のスクリーンに手の映像を表示すること、が記載されている。なお、手の映像は、取得された位置と同位置に表示される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−041884号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明の目的は、第1の拠点の撮像手段が撮像した画像に基づいて当該画像に写っている人物の画像を第2拠点の表示面領域に表示させる場合において、表示面領域に当該人物の所期の部位の画像が表示されない場合であっても、遠隔会議を円滑に行えるようにすることである。
【課題を解決するための手段】
【0005】
上記課題を解決するための請求項1の発明は、第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段と、前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段と、前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段と、前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる表示手段と、を含む遠隔会議支援システムである。
【0006】
また、請求項2の発明は、請求項1の発明において、前記表示手段は、前記手先位置が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれない場合に、前記案内画像を表示させることを特徴とする。
【0007】
また、請求項3の発明は、請求項1又は2の発明において、前記表示手段は、前記手先領域を前記射影面領域に射影したときの射影領域が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれる度合いに応じた透明度で、前記案内画像を表示させることを特徴とする。
【0008】
上記課題を解決するための請求項4の発明は、第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段、前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段、前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段、及び前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる手段、としてコンピュータを機能させるためのプログラムである。
【発明の効果】
【0009】
請求項1及び4の発明によれば、第1の拠点の撮像手段が撮像した画像に基づいて当該画像に写っている人物の画像を第2拠点の表示面領域に表示させる場合において、表示面領域に当該人物の所期の部位の画像が表示されない場合であっても、遠隔会議を円滑に行えるようになる。
【0010】
また、請求項2の発明によれば、案内画像が常に表示されるようにしなくても、遠隔会議を円滑に行えるようになる。
【0011】
また、請求項3の発明によれば、会議資料画像に対して案内画像が目立ち過ぎないようにすることができる。
【図面の簡単な説明】
【0012】
【図1】会議室(拠点)を例示する図である。
【図2】情報処理装置の構成を例示する図である。
【図3A】会議資料画像を例示する図である。
【図3B】スクリーンに表示される画像を例示する図である。
【図4】遠隔会議システムで実現される機能群を示す機能ブロック図である。
【図5】差分画像を例示する図である。
【図6】第1撮像画像を例示する図である。
【図7】第2撮像画像を例示する図である。
【図8】手先領域を例示する図である。
【図9】シリンダー領域を例示する図である。
【図10】マーカ画像を例示する図である。
【図11】スクリーンにプレゼンターの前腕部が映らない場合を例示する図である。
【図12】マーカ画像を例示する図である。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態の例について図面に基づき詳細に説明する。
【0014】
[会議室]
図1は、遠隔会議が行われる会議室(拠点)を例示する図である。同図に示す会議室は複数設けられる。各会議室には、情報処理装置2が備えられている。また、各会議室には、スクリーン4が備えられている。スクリーン4は、会議室の壁3に設置されている。
【0015】
点Oはスクリーン4の中心を示している。会議室内の3次元空間における位置は、点Oを原点とするワールド座標(X,Y,Z)によって表される。なお、スクリーン4(壁3)の法線方向がZ軸プラス方向であり、水平方向がX軸方向であり、垂直方向がY軸方向である。
【0016】
また、各会議室には、プロジェクタ6がスクリーン4の正面に備えられている。プロジェクタ6はスクリーン4に画像を投影する。具体的には、プロジェクタ6は情報処理装置2に接続されており、情報処理装置2から入力される会議資料画像(図3A参照)をスクリーン4に投影する。なお、各会議室で共通の会議資料画像がスクリーン4に投影される。
【0017】
また、各会議室には、カメラ8a(第2撮像手段)が備えられている。カメラ8aは、壁3に配置され、情報処理装置2と接続されている。カメラ8aは、その視線方向がY軸マイナス方向となり、且つ、その光軸が点Oを通るように配置されている。カメラ8aの意義については後述する。
【0018】
また、各会議室には、カメラ8b(第2撮像手段)が備えられている。カメラ8bは、壁3に配置され、情報処理装置2と接続されている。カメラ8bは、その視線方向がX軸プラス方向となり、且つ、その光軸が点Oを通るように配置されている。カメラ8bの意義についても後述する。
【0019】
また、各会議室には、ステレオカメラ10(第1撮像手段)が備えられている。ステレオカメラ10は、情報処理装置2と接続され、その視界にスクリーン4が入るように設置されている。本実施形態の場合、ステレオカメラ10は、その光軸が点Oを通るように設置されている。なお、ステレオカメラ10の設置位置は、各会議室で同じであってもよいし、同じでなくてもよい。通常、ステレオカメラ10の設置位置は、各会議室で異なる。
【0020】
[情報処理装置]
図2は、情報処理装置2の構成を例示する図である。同図に示すように、情報処理装置2は、制御部12を備える。制御部12は、後述する記憶部14に格納されるプログラムに従って各種情報処理を実行する。また、情報処理装置2は、記憶部14を備える。記憶部14には上記プログラムが格納される。また、記憶部14には、情報処理の過程で必要となる各種データが格納される。また、記憶部14には、上記会議資料画像が予め格納される。なお、上記プログラムは、DVD(登録商標)−ROM等のコンピュータ読取可能な情報記憶媒体から読み出されて記憶部14に格納されてもよいし、ネットワーク等の通信網から供給されて記憶部14に格納されてもよい。
【0021】
また、情報処理装置2は、情報処理装置2と、ステレオカメラ10、カメラ8a、カメラ8b、及びプロジェクタ6の各々と、を接続するための出入力インタフェース16を備える。出入力インタフェース10を介して、ステレオカメラ10、カメラ8a、及びカメラ8bのそれぞれにより撮像された画像が情報処理装置2に入力される。また、出入力インタフェース10を介して、会議資料画像がプロジェクタ6に入力される。また、情報処理装置2は、情報処理装置2をネットワークに接続するためのネットワークインタフェース18を備える。
【0022】
以上のように情報処理装置2はネットワークに接続されている。各情報処理装置2は、他の会議室の情報処理装置2とデータ授受可能である。
【0023】
[会議資料画像]
上述のように、各会議室で共通の会議資料画像がスクリーン4に投影される。図3Aに会議資料画像を例示した。なお、会議資料画像内の位置は、会議資料画像の中心を原点とするスクリーン座標(Xα,Yα)によって表される。
【0024】
[遠隔会議]
各会議室にいる会議参加者は、共通の会議資料画像を見ながら、他の会議室にいる会議参加者と遠隔会議を行う。遠隔会議中、情報処理装置2は、ステレオカメラ10により撮像された撮像画像から、撮像画像に写っているプレゼンター11(図1参照)のスクリーン4に対する相対位置を割り出し、それを他の会議室の情報処理装置2に配信するようになっている。こうすることにより、ある会議室においてプレゼンテーションを行っているプレゼンター11を示す画像が、他の会議室のスクリーン4に表示されるようになっている(図3B参照)。図3Bに、他の会議室のスクリーン4に表示される画像を例示した。
【0025】
[機能ブロック]
図4は、ある会議室(以下、会議室A)の情報処理装置2(以下、情報処理装置2a)と、他の会議室(以下、会議室B)の情報処理装置2(以下、情報処理装置2b)と、において実現される機能群のうち発明に関係するものを示す機能ブロック図である。情報処理装置2aと情報処理装置2bとを含むシステムが遠隔会議支援システムに相当する。
【0026】
同図に示すように、情報処理装置2aでは、位置特定部20、射影位置算出部22、及び手先位置算出部24が実現される。これらの機能は、情報処理装置2aが、上記プログラムに従って動作することにより実現される。また、情報処理装置2bでは、会議資料表示部26、プレゼンター表示部28、及びマーカ表示部30が実現される。これらの機能は、情報処理装置2bが、上記プログラムに従って動作することにより実現される。
【0027】
以下、会議室Bのスクリーン4にプレゼンター11を示す画像が表示されるようにするための、位置特定部20、射影位置算出部22、及びプレゼンター表示部28の機能について説明する。
【0028】
[位置特定部]
位置特定部20は、空間位置特定手段に相当する。位置特定部20は、会議室Aに設置されているステレオカメラ10により撮像された撮像画像に含まれるプレゼンター領域、の各位置に写っている物体の会議室A内の位置を示すワールド座標(X,Y,Z)である第1ワールド座標値(X1,Y1,Z1)を特定する。なお、プレゼンター領域とは、撮像画像に写っているプレゼンター11の画像が占める領域である。
【0029】
そして、位置特定部20は、撮像画像からデプスマップ画像を生成し、このデプスマップ画像と、記憶部14に予め記憶される基準デプスマップ画像と、の差分デプスマップ画像に基づいて、プレゼンター領域を示す座標値を特定する。さらに、プレゼンター領域の各位置に写っている物体の会議室A内の位置を示す第1ワールド座標値(X1,Y1,Z1)を取得する。なお、基準デプスマップ画像は、事前にプレゼンタ―のいない状態における撮影画像より生成されたデプスマップ画像である。
【0030】
図5は、差分デブスマップ画像を例示する図である。ハッチングされた領域がプレゼンター領域を示している。差分デプスマップ画像内の位置は、差分デプスマップ画像の中心を原点とするスクリーン座標(XA,YA)のスクリーン座標値によって表される。なお、差分デプスマップ画像の中心にはスクリーン4の中心点Oが写っている。
【0031】
具体的には、位置特定部20は、まず、両デプスマップ画像に基づいて、プレゼンター領域内の各位置に写っている物体のステレオカメラ10からの距離dを特定する。そして、位置特定部20は、プレゼンター領域内の位置に写っている物体のステレオカメラ10からの位置dに基づいて、当該物体の会議室A内の位置を表す視点座標(Xs,Ys、Zs)を算出する。ここで、視点座標とは、ステレオカメラ10の位置を原点とし、その視線方向をZs軸プラス方向とする視点座標系の座標である。例えば、スクリーン座標(XA,YA)が(Xa,Ya)であるプレゼンター領域内の位置P(図5参照)に写っている物体のステレオカメラ10からの距離dがd1である場合、この物体の視点座標(Xs,Ys,Zs)は、(Xa,Ya,d1)となる。
【0032】
そして、位置特定部20は、両デプスマップ画像に基づいて、スクリーン4の中心Oのステレオカメラ10からの距離Dを算出し、視点座標に対して距離Dに基づく座標変換処理を行って、第1ワールド座標値(X1,Y1,Z1)を算出する。なお、位置特定部20は、この第1ワールド座標値に基づいて、この第1ワールド座標値に位置する物体の像に関する像情報(X1,Y1,Z1,C)を生成する。ここで、「C」は、(X1,Y1,Z1)に位置する物体の上記撮像画像における画素値である。
【0033】
こうして、プレゼンター領域内の各位置について、上記像情報が生成される。
【0034】
[射影位置算出部]
射影位置算出部22は、射影位置算出手段に相当する。射影位置算出部22は、位置特定部20により特定された各位置を、会議室Aのスクリーン4(第1表示面領域)に対応する会議室A内の領域である射影面領域に直交射影したときの射影位置を算出する。ここでは、射影面領域とは、スクリーン4が会議室Aにて占めている領域である。
【0035】
すなわち、射影位置算出部22は、位置特定部20により算出された各第1ワールド座標値(X1,Y1,Z1)の示す位置を射影面領域に直交射影したときの射影位置を示すスクリーン座標(Xα、Yα)である第1スクリーン座標値(Xβ、Yβ)を算出する。
【0036】
本実施形態の場合、射影位置算出部22は、一つ一つの像情報(X1、Y1、Z1、C)から投影像情報(Xβ、Yβ、C1)を生成する。具体的には、射影位置算出部22は、(X1,Y1,C)を算出する。X1が「Xβ」となり、Y1が「Yβ」となり、Cが「C1」となる。
【0037】
こうして、投影像情報を生成すると、射影位置算出部22は、生成した投影像情報に基づいて、投影像情報により表される投影像、すなわちプレゼンター11を示す画像を、会議室Bのスクリーン4(第2表示面領域)に表示させる。すなわち、射影位置算出部22は、生成した投影像情報を、情報処理装置2bに送信する。
【0038】
[会議資料表示部]
会議資料表示部26は、記憶部14に記憶される会議資料画像を読み出し、会議室Bのスクリーン4に表示させる。具体的には、会議資料表示部26は、会議資料画像をプロジェクタ6に投影させる。
【0039】
[プレゼンター表示部]
プレゼンター表示部28(表示手段)は、情報処理装置2aから送信された投影像情報を受信する。そして、プレゼンター表示部28は、会議室Bのスクリーン4に、投影像情報(Xβ、Yβ、C1)に基づいて、投影像情報(Xβ、Yβ、C1)により表される投影像、すなわちプレゼンター11を示す画像を表示させる。例えば、プレゼンター表示部28は、会議資料表示部26により読み出だされた会議資料画像の、スクリーン座標値(Xβ、Yβ)で表される位置の画素値を「C1」に更新する。
【0040】
[手先位置算出部、マーカ表示部]
ところで、ステレオカメラ10により撮像された撮像画像にプレゼンター11の前腕部(部位)が写っていれば、投影像情報により表される投影像にプレゼンター11の前腕部が含まれる。そのため、ステレオカメラ10により撮像された撮像画像にプレゼンター11の前腕部(特に手)が写っていれば、会議室Bのスクリーン4にプレゼンター11の前腕部が映し出されることになるため、会議室Bにいる会議参加者にとってプレゼンター11がどこを指し示しているのか把握するのは容易である。
【0041】
しかしながら、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合、投影像情報により表される投影像にプレゼンター11の前腕部が含まれなくなるため、会議室Bのスクリーン4にプレゼンター11の前腕部が映し出されなくなる。そのため、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合、会議室Bにいる会議参加者にとってプレゼンター11がどこを指し示しているのか把握するのは困難となり、遠隔会議を円滑に行えなくなる。
【0042】
この点、手先位置算出部24及びマーカ表示部30の機能により、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合でも、会議室Bにいる会議参加者にとってプレゼンター11がどこを指し示しているのか把握するのが容易になるよう図られている。以下、この点について説明する。
【0043】
[手先位置算出部]
手先位置算出部24は、手先位置算出手段に相当する。手先位置算出部24は、会議室Aに設置されたカメラ8a及びカメラ8bのそれぞれにより撮像された撮像画像に基づいて、プレゼンター11の前腕部に対応する会議室A内の3次元領域である手先領域を求める。そして、手先位置算出部24は、手先領域の位置を上記射影面領域に直交射影したときの射影位置である手先位置を算出する。なお、手先領域とは、プレゼンター11の前腕部が占める領域である。
【0044】
すなわち、手先位置算出部24は、まず、手先領域を特定する。具体的には、手先位置算出部24は、手先領域を特定するために、まず、カメラ8aにより撮像された第1撮像画像と、カメラ8bにより撮像された第2撮像画像と、に基づいて、プレゼンター11に対応する会議室A内の領域であるシルエット領域を特定する。なお、シルエット領域とは、プレゼンター11が占める領域である。シルエット領域は、ボクセルマップとも呼ばれる。
【0045】
具体的には、手先位置算出部24は、記憶部14に予め格納される第1比較対象画像と第2比較対象画像とを読み出す。ここで、第1比較対象画像とは、遠隔会議の開始前にカメラ8aが撮像した画像であり、第2比較対象画像とは、遠隔会議の開始前にカメラ8bが撮像した画像である。第1比較対象画像及び第2比較対象画像のいずれにもプレゼンター11は写っていない。
【0046】
そして、手先位置算出部24は、第1比較対象画像と第1撮像画像との差分画像を生成し、差分画像に基づいて、第1撮像画像のうちでプレゼンター11の画像が占めている領域である第1シルエット領域を特定する。図6に第1撮像画像を例示した。ハッチングされた領域が第1シルエット領域を示している。なお、第1撮像画像内の位置は、第1撮像画像の上辺の中点を原点とするスクリーン座標(X,Z)により表される。
【0047】
また、手先位置算出部24は、第2比較対象画像と第2撮像画像との差分画像を生成し、差分画像に基づいて、第2撮像画像のうちでプレゼンター11の画像が占めている領域である第2シルエット領域を特定する。図7に第2撮像画像を例示した。ハッチングされた領域が第2シルエット領域を示している。なお、第2撮像画像内の位置は、第2撮像画像の左辺の中点を原点とするスクリーン座標(Y,Z)により表される。
【0048】
そして、手先位置算出部24は、第1シルエット領域に含まれる各位置のスクリーン座標(X,Z)と、第2シルエット領域に含まれる各位置のスクリーン座標(Y,Z)と、に基づいてシルエット領域を特定する。すなわち、手先位置算出部24は、第1シルエット領域のスクリーン座標(X,Z)により示される会議室A内の領域と、第2シルエット領域のスクリーン座標(Y,Z)により示される会議室A内の領域と、のいずれにも属している位置の集合を、シルエット領域として特定する。
【0049】
こうしてシルエット領域を特定すると、手先位置算出部24は、このシルエット領域に基づいて手先領域を特定する。具体的には、手先位置算出部24は、シルエット領域のうちスクリーン4からの距離が距離L(図6参照)以下である部分を手先領域として特定する。図8に手先領域を例示した。ハッチングされた領域が手先領域を示している。
【0050】
こうして手先領域を特定すると、手先位置算出部24は、手先領域の位置Qを示すワールド座標(X,Y,Z)である第2ワールド座標値(X2,Y2,Z2)を算出する。具体的には、手先位置算出部24は、手先領域に外接する円柱状のシリンダー領域を特定し、シリンダー領域の先端の円の中点のワールド座標を、手先領域の位置Qの第2ワールド座標値(X2,Y2,Z2)として算出する。図9にシリンダー領域を例示した。なお、ハッチングされた領域は手先領域を示している。
【0051】
そして、手先位置算出部24は、位置Qの第2ワールド座標値(X2,Y2,Z2)に基づいて手先位置を示すスクリーン座標(Xα、Yα)である第2スクリーン座標値(Xγ、Yγ)を算出する。具体的には、手先位置算出部24は、スクリーン座標値(X2,Y2)を第2スクリーン座標値として算出する。X2が「Xγ」の値となり、Y2が「Yγ」となる。そして、手先位置算出部24は、第2スクリーン座標値(Xγ,Yγ)に対応する会議室Bのスクリーン4上の位置にマーカ画像32(図10参照)を表示させる。すなわち、手先位置算出部24は、第2スクリーン座標値(Xγ、Yγ)を情報処理装置2bに送信する。
【0052】
[マーカ表示部]
マーカ表示部30(表示手段)は、情報処理装置2aから送信された第2スクリーン座標値を受信する。そして、マーカ表示部30は、第2スクリーン座標値(Xγ,Yγ)に対応するスクリーン4上の位置にマーカ画像32を表示させる。例えば、マーカ表示部30は、会議資料表示部26により読み出された会議資料画像の、第2スクリーン座標値(Xγ,Yγ)で表される位置Rにマーカ画像32を重畳する。図10にマーカ画像32を例示した。マーカ画像32により、プレゼンター11がどこを指し示しているのか把握することが会議室Bにいる会議参加者にとって容易になる。
【0053】
なお、マーカ表示部30は、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合、すなわち、投影像情報により表される投影像にプレゼンター11の前腕部が含まれない場合に、マーカ画像32を表示させ、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っている場合に、マーカ画像32を表示させないようにしてもよい。例えば、マーカ表示部30は、各投影像情報が示す各射影位置(Xβ,Yβ)の集合である射影領域(以下、第1射影領域)に、第2スクリーン座標値(Xγ,Yγ)により表される手先位置が含まれるか否かを判定し、上記第1射影領域に手先位置が含まれていない場合に、マーカ画像32を表示させればよい。
【0054】
なお、本発明の実施形態は上記実施形態だけに限らない。
【0055】
例えば、マーカ表示部30は、上記手先領域を上記射影面領域に直交射影したときの射影領域(以下、第2射影領域)が上記第1射影領域に含まれる度合いに応じた透明度で、マーカ画像32を表示させてもよい。
【0056】
第2射影領域が第1射影領域に含まれる度合いに応じた透明度でマーカ画像32を表示する方法の例としては以下の方法がある。すなわち、情報処理装置2aの制御部12が、第2射影領域を特定し、第2射影領域の面積に対する、第2射影領域と第1射影領域とが重なっている領域の面積の割合を算出する。そして、情報処理装置2aの制御部12が、記憶部14に予め記憶される透明度制御データを読み出す。ここで、透明度制御データは、算出された割合に関する条件と、マーカ画像32の透明度の候補と、を関連づけてテーブルである。なお、透明度制御データは、算出された割合が大きくなるほど透明度が大きくなるように設定されている。そして、情報処理装置2aの制御部12が、算出した割合が満足する条件に関連づけられた透明度を、情報処理装置2aに送信する。
【0057】
そして、マーカ表示部30が、第1射影領域に手先位置が含まれない場合に、情報処理装置2aから受信した透明度でマーカ画像32を表示させることとなる。
【0058】
また、例えば、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていても、会議室Bのスクリーン4にプレゼンター11の前腕部が映らない場合がある。例えば、図11に示すように、プレゼンター11がスクリーン4に対向している場合、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう。
【0059】
そこで、マーカ表示部30は、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合だけでなく、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合にも、図12に示すようにマーカ画像32を表示させるようにしてよい。
【0060】
プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合にも、マーカ画像32を表示する方法の例としては以下の方法がある。すなわち、手先位置算出部24が、手先位置を算出するだけでなく、シルエット領域のうちスクリーン4からの距離が距離L(図6参照)より大きい部分を胴体領域として特定し、胴体領域を上記射影面領域に直交射影したときの射影領域(以下、第3射影領域)を特定する。そして、手先位置算出部24が、手先位置だけでなく第3射影領域の座標値も情報処理装置2aに送信する。
【0061】
そして、マーカ表示部30が、手先位置が上記第1射影領域に含まれているか否かだけでなく、手先位置が上記第3射影領域に含まれているか否か(すなわち、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否か)も判定し、手先位置が上記第1射影領域に含まれていない場合、又は手先位置が上記第3射影領域に含まれている場合、マーカ画像32を表示させることとなる。
【0062】
なお、マーカ表示部30は、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否か判定するために、シルエット領域内に位置(Xγ,Yγ、Zm(Zm>L))が含まれるか否かを判定してもよい。シルエット領域内に位置(Xγ,Yγ、Zm)が含まれる場合が、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合に相当する。
【0063】
また、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否か判定を、情報処理装置2aが行ってもよい。この場合、情報処理装置2aは、位置特定部20によって生成された像情報(X1,Y1,Z1,C)のうちに、「X1」の値と「Y1」の値とがそれぞれ「Xγ」の値、「Yγ」の値と一致し、且つ「Z1」の値が「L」より大きい像情報(以下、注目像情報)が存在するか否かを判定し、判定結果を情報処理装置2bに送信する。位置特定部20によって生成された像情報(X1,Y1,Z1,C)のうちに注目像情報が存在する場合が、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合に相当する。この判定結果に基づき、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否かを、マーカ表示部30が判定することとなる。
【符号の説明】
【0064】
2,2a,2b 情報処理装置、4 スクリーン、6 プロジェクタ、8a,8b カメラ、10 ステレオカメラ、11 プレゼンター、12 制御部、14 記憶部、16 出入力インタフェース、18 ネットワークインタフェース、20 位置特定部、22 射影位置算出部、24 手先位置算出部、26 会議資料表示部、28 プレゼンター表示部、30 マーカ表示部、32 マーカ画像。
【技術分野】
【0001】
本発明は、遠隔会議支援システム及びプログラムに関する。
【背景技術】
【0002】
下記特許文献1には、スクリーンの手前の手の位置を取得し、遠隔地のスクリーンに手の映像を表示すること、が記載されている。なお、手の映像は、取得された位置と同位置に表示される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−041884号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明の目的は、第1の拠点の撮像手段が撮像した画像に基づいて当該画像に写っている人物の画像を第2拠点の表示面領域に表示させる場合において、表示面領域に当該人物の所期の部位の画像が表示されない場合であっても、遠隔会議を円滑に行えるようにすることである。
【課題を解決するための手段】
【0005】
上記課題を解決するための請求項1の発明は、第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段と、前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段と、前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段と、前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる表示手段と、を含む遠隔会議支援システムである。
【0006】
また、請求項2の発明は、請求項1の発明において、前記表示手段は、前記手先位置が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれない場合に、前記案内画像を表示させることを特徴とする。
【0007】
また、請求項3の発明は、請求項1又は2の発明において、前記表示手段は、前記手先領域を前記射影面領域に射影したときの射影領域が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれる度合いに応じた透明度で、前記案内画像を表示させることを特徴とする。
【0008】
上記課題を解決するための請求項4の発明は、第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段、前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段、前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段、及び前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる手段、としてコンピュータを機能させるためのプログラムである。
【発明の効果】
【0009】
請求項1及び4の発明によれば、第1の拠点の撮像手段が撮像した画像に基づいて当該画像に写っている人物の画像を第2拠点の表示面領域に表示させる場合において、表示面領域に当該人物の所期の部位の画像が表示されない場合であっても、遠隔会議を円滑に行えるようになる。
【0010】
また、請求項2の発明によれば、案内画像が常に表示されるようにしなくても、遠隔会議を円滑に行えるようになる。
【0011】
また、請求項3の発明によれば、会議資料画像に対して案内画像が目立ち過ぎないようにすることができる。
【図面の簡単な説明】
【0012】
【図1】会議室(拠点)を例示する図である。
【図2】情報処理装置の構成を例示する図である。
【図3A】会議資料画像を例示する図である。
【図3B】スクリーンに表示される画像を例示する図である。
【図4】遠隔会議システムで実現される機能群を示す機能ブロック図である。
【図5】差分画像を例示する図である。
【図6】第1撮像画像を例示する図である。
【図7】第2撮像画像を例示する図である。
【図8】手先領域を例示する図である。
【図9】シリンダー領域を例示する図である。
【図10】マーカ画像を例示する図である。
【図11】スクリーンにプレゼンターの前腕部が映らない場合を例示する図である。
【図12】マーカ画像を例示する図である。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態の例について図面に基づき詳細に説明する。
【0014】
[会議室]
図1は、遠隔会議が行われる会議室(拠点)を例示する図である。同図に示す会議室は複数設けられる。各会議室には、情報処理装置2が備えられている。また、各会議室には、スクリーン4が備えられている。スクリーン4は、会議室の壁3に設置されている。
【0015】
点Oはスクリーン4の中心を示している。会議室内の3次元空間における位置は、点Oを原点とするワールド座標(X,Y,Z)によって表される。なお、スクリーン4(壁3)の法線方向がZ軸プラス方向であり、水平方向がX軸方向であり、垂直方向がY軸方向である。
【0016】
また、各会議室には、プロジェクタ6がスクリーン4の正面に備えられている。プロジェクタ6はスクリーン4に画像を投影する。具体的には、プロジェクタ6は情報処理装置2に接続されており、情報処理装置2から入力される会議資料画像(図3A参照)をスクリーン4に投影する。なお、各会議室で共通の会議資料画像がスクリーン4に投影される。
【0017】
また、各会議室には、カメラ8a(第2撮像手段)が備えられている。カメラ8aは、壁3に配置され、情報処理装置2と接続されている。カメラ8aは、その視線方向がY軸マイナス方向となり、且つ、その光軸が点Oを通るように配置されている。カメラ8aの意義については後述する。
【0018】
また、各会議室には、カメラ8b(第2撮像手段)が備えられている。カメラ8bは、壁3に配置され、情報処理装置2と接続されている。カメラ8bは、その視線方向がX軸プラス方向となり、且つ、その光軸が点Oを通るように配置されている。カメラ8bの意義についても後述する。
【0019】
また、各会議室には、ステレオカメラ10(第1撮像手段)が備えられている。ステレオカメラ10は、情報処理装置2と接続され、その視界にスクリーン4が入るように設置されている。本実施形態の場合、ステレオカメラ10は、その光軸が点Oを通るように設置されている。なお、ステレオカメラ10の設置位置は、各会議室で同じであってもよいし、同じでなくてもよい。通常、ステレオカメラ10の設置位置は、各会議室で異なる。
【0020】
[情報処理装置]
図2は、情報処理装置2の構成を例示する図である。同図に示すように、情報処理装置2は、制御部12を備える。制御部12は、後述する記憶部14に格納されるプログラムに従って各種情報処理を実行する。また、情報処理装置2は、記憶部14を備える。記憶部14には上記プログラムが格納される。また、記憶部14には、情報処理の過程で必要となる各種データが格納される。また、記憶部14には、上記会議資料画像が予め格納される。なお、上記プログラムは、DVD(登録商標)−ROM等のコンピュータ読取可能な情報記憶媒体から読み出されて記憶部14に格納されてもよいし、ネットワーク等の通信網から供給されて記憶部14に格納されてもよい。
【0021】
また、情報処理装置2は、情報処理装置2と、ステレオカメラ10、カメラ8a、カメラ8b、及びプロジェクタ6の各々と、を接続するための出入力インタフェース16を備える。出入力インタフェース10を介して、ステレオカメラ10、カメラ8a、及びカメラ8bのそれぞれにより撮像された画像が情報処理装置2に入力される。また、出入力インタフェース10を介して、会議資料画像がプロジェクタ6に入力される。また、情報処理装置2は、情報処理装置2をネットワークに接続するためのネットワークインタフェース18を備える。
【0022】
以上のように情報処理装置2はネットワークに接続されている。各情報処理装置2は、他の会議室の情報処理装置2とデータ授受可能である。
【0023】
[会議資料画像]
上述のように、各会議室で共通の会議資料画像がスクリーン4に投影される。図3Aに会議資料画像を例示した。なお、会議資料画像内の位置は、会議資料画像の中心を原点とするスクリーン座標(Xα,Yα)によって表される。
【0024】
[遠隔会議]
各会議室にいる会議参加者は、共通の会議資料画像を見ながら、他の会議室にいる会議参加者と遠隔会議を行う。遠隔会議中、情報処理装置2は、ステレオカメラ10により撮像された撮像画像から、撮像画像に写っているプレゼンター11(図1参照)のスクリーン4に対する相対位置を割り出し、それを他の会議室の情報処理装置2に配信するようになっている。こうすることにより、ある会議室においてプレゼンテーションを行っているプレゼンター11を示す画像が、他の会議室のスクリーン4に表示されるようになっている(図3B参照)。図3Bに、他の会議室のスクリーン4に表示される画像を例示した。
【0025】
[機能ブロック]
図4は、ある会議室(以下、会議室A)の情報処理装置2(以下、情報処理装置2a)と、他の会議室(以下、会議室B)の情報処理装置2(以下、情報処理装置2b)と、において実現される機能群のうち発明に関係するものを示す機能ブロック図である。情報処理装置2aと情報処理装置2bとを含むシステムが遠隔会議支援システムに相当する。
【0026】
同図に示すように、情報処理装置2aでは、位置特定部20、射影位置算出部22、及び手先位置算出部24が実現される。これらの機能は、情報処理装置2aが、上記プログラムに従って動作することにより実現される。また、情報処理装置2bでは、会議資料表示部26、プレゼンター表示部28、及びマーカ表示部30が実現される。これらの機能は、情報処理装置2bが、上記プログラムに従って動作することにより実現される。
【0027】
以下、会議室Bのスクリーン4にプレゼンター11を示す画像が表示されるようにするための、位置特定部20、射影位置算出部22、及びプレゼンター表示部28の機能について説明する。
【0028】
[位置特定部]
位置特定部20は、空間位置特定手段に相当する。位置特定部20は、会議室Aに設置されているステレオカメラ10により撮像された撮像画像に含まれるプレゼンター領域、の各位置に写っている物体の会議室A内の位置を示すワールド座標(X,Y,Z)である第1ワールド座標値(X1,Y1,Z1)を特定する。なお、プレゼンター領域とは、撮像画像に写っているプレゼンター11の画像が占める領域である。
【0029】
そして、位置特定部20は、撮像画像からデプスマップ画像を生成し、このデプスマップ画像と、記憶部14に予め記憶される基準デプスマップ画像と、の差分デプスマップ画像に基づいて、プレゼンター領域を示す座標値を特定する。さらに、プレゼンター領域の各位置に写っている物体の会議室A内の位置を示す第1ワールド座標値(X1,Y1,Z1)を取得する。なお、基準デプスマップ画像は、事前にプレゼンタ―のいない状態における撮影画像より生成されたデプスマップ画像である。
【0030】
図5は、差分デブスマップ画像を例示する図である。ハッチングされた領域がプレゼンター領域を示している。差分デプスマップ画像内の位置は、差分デプスマップ画像の中心を原点とするスクリーン座標(XA,YA)のスクリーン座標値によって表される。なお、差分デプスマップ画像の中心にはスクリーン4の中心点Oが写っている。
【0031】
具体的には、位置特定部20は、まず、両デプスマップ画像に基づいて、プレゼンター領域内の各位置に写っている物体のステレオカメラ10からの距離dを特定する。そして、位置特定部20は、プレゼンター領域内の位置に写っている物体のステレオカメラ10からの位置dに基づいて、当該物体の会議室A内の位置を表す視点座標(Xs,Ys、Zs)を算出する。ここで、視点座標とは、ステレオカメラ10の位置を原点とし、その視線方向をZs軸プラス方向とする視点座標系の座標である。例えば、スクリーン座標(XA,YA)が(Xa,Ya)であるプレゼンター領域内の位置P(図5参照)に写っている物体のステレオカメラ10からの距離dがd1である場合、この物体の視点座標(Xs,Ys,Zs)は、(Xa,Ya,d1)となる。
【0032】
そして、位置特定部20は、両デプスマップ画像に基づいて、スクリーン4の中心Oのステレオカメラ10からの距離Dを算出し、視点座標に対して距離Dに基づく座標変換処理を行って、第1ワールド座標値(X1,Y1,Z1)を算出する。なお、位置特定部20は、この第1ワールド座標値に基づいて、この第1ワールド座標値に位置する物体の像に関する像情報(X1,Y1,Z1,C)を生成する。ここで、「C」は、(X1,Y1,Z1)に位置する物体の上記撮像画像における画素値である。
【0033】
こうして、プレゼンター領域内の各位置について、上記像情報が生成される。
【0034】
[射影位置算出部]
射影位置算出部22は、射影位置算出手段に相当する。射影位置算出部22は、位置特定部20により特定された各位置を、会議室Aのスクリーン4(第1表示面領域)に対応する会議室A内の領域である射影面領域に直交射影したときの射影位置を算出する。ここでは、射影面領域とは、スクリーン4が会議室Aにて占めている領域である。
【0035】
すなわち、射影位置算出部22は、位置特定部20により算出された各第1ワールド座標値(X1,Y1,Z1)の示す位置を射影面領域に直交射影したときの射影位置を示すスクリーン座標(Xα、Yα)である第1スクリーン座標値(Xβ、Yβ)を算出する。
【0036】
本実施形態の場合、射影位置算出部22は、一つ一つの像情報(X1、Y1、Z1、C)から投影像情報(Xβ、Yβ、C1)を生成する。具体的には、射影位置算出部22は、(X1,Y1,C)を算出する。X1が「Xβ」となり、Y1が「Yβ」となり、Cが「C1」となる。
【0037】
こうして、投影像情報を生成すると、射影位置算出部22は、生成した投影像情報に基づいて、投影像情報により表される投影像、すなわちプレゼンター11を示す画像を、会議室Bのスクリーン4(第2表示面領域)に表示させる。すなわち、射影位置算出部22は、生成した投影像情報を、情報処理装置2bに送信する。
【0038】
[会議資料表示部]
会議資料表示部26は、記憶部14に記憶される会議資料画像を読み出し、会議室Bのスクリーン4に表示させる。具体的には、会議資料表示部26は、会議資料画像をプロジェクタ6に投影させる。
【0039】
[プレゼンター表示部]
プレゼンター表示部28(表示手段)は、情報処理装置2aから送信された投影像情報を受信する。そして、プレゼンター表示部28は、会議室Bのスクリーン4に、投影像情報(Xβ、Yβ、C1)に基づいて、投影像情報(Xβ、Yβ、C1)により表される投影像、すなわちプレゼンター11を示す画像を表示させる。例えば、プレゼンター表示部28は、会議資料表示部26により読み出だされた会議資料画像の、スクリーン座標値(Xβ、Yβ)で表される位置の画素値を「C1」に更新する。
【0040】
[手先位置算出部、マーカ表示部]
ところで、ステレオカメラ10により撮像された撮像画像にプレゼンター11の前腕部(部位)が写っていれば、投影像情報により表される投影像にプレゼンター11の前腕部が含まれる。そのため、ステレオカメラ10により撮像された撮像画像にプレゼンター11の前腕部(特に手)が写っていれば、会議室Bのスクリーン4にプレゼンター11の前腕部が映し出されることになるため、会議室Bにいる会議参加者にとってプレゼンター11がどこを指し示しているのか把握するのは容易である。
【0041】
しかしながら、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合、投影像情報により表される投影像にプレゼンター11の前腕部が含まれなくなるため、会議室Bのスクリーン4にプレゼンター11の前腕部が映し出されなくなる。そのため、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合、会議室Bにいる会議参加者にとってプレゼンター11がどこを指し示しているのか把握するのは困難となり、遠隔会議を円滑に行えなくなる。
【0042】
この点、手先位置算出部24及びマーカ表示部30の機能により、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合でも、会議室Bにいる会議参加者にとってプレゼンター11がどこを指し示しているのか把握するのが容易になるよう図られている。以下、この点について説明する。
【0043】
[手先位置算出部]
手先位置算出部24は、手先位置算出手段に相当する。手先位置算出部24は、会議室Aに設置されたカメラ8a及びカメラ8bのそれぞれにより撮像された撮像画像に基づいて、プレゼンター11の前腕部に対応する会議室A内の3次元領域である手先領域を求める。そして、手先位置算出部24は、手先領域の位置を上記射影面領域に直交射影したときの射影位置である手先位置を算出する。なお、手先領域とは、プレゼンター11の前腕部が占める領域である。
【0044】
すなわち、手先位置算出部24は、まず、手先領域を特定する。具体的には、手先位置算出部24は、手先領域を特定するために、まず、カメラ8aにより撮像された第1撮像画像と、カメラ8bにより撮像された第2撮像画像と、に基づいて、プレゼンター11に対応する会議室A内の領域であるシルエット領域を特定する。なお、シルエット領域とは、プレゼンター11が占める領域である。シルエット領域は、ボクセルマップとも呼ばれる。
【0045】
具体的には、手先位置算出部24は、記憶部14に予め格納される第1比較対象画像と第2比較対象画像とを読み出す。ここで、第1比較対象画像とは、遠隔会議の開始前にカメラ8aが撮像した画像であり、第2比較対象画像とは、遠隔会議の開始前にカメラ8bが撮像した画像である。第1比較対象画像及び第2比較対象画像のいずれにもプレゼンター11は写っていない。
【0046】
そして、手先位置算出部24は、第1比較対象画像と第1撮像画像との差分画像を生成し、差分画像に基づいて、第1撮像画像のうちでプレゼンター11の画像が占めている領域である第1シルエット領域を特定する。図6に第1撮像画像を例示した。ハッチングされた領域が第1シルエット領域を示している。なお、第1撮像画像内の位置は、第1撮像画像の上辺の中点を原点とするスクリーン座標(X,Z)により表される。
【0047】
また、手先位置算出部24は、第2比較対象画像と第2撮像画像との差分画像を生成し、差分画像に基づいて、第2撮像画像のうちでプレゼンター11の画像が占めている領域である第2シルエット領域を特定する。図7に第2撮像画像を例示した。ハッチングされた領域が第2シルエット領域を示している。なお、第2撮像画像内の位置は、第2撮像画像の左辺の中点を原点とするスクリーン座標(Y,Z)により表される。
【0048】
そして、手先位置算出部24は、第1シルエット領域に含まれる各位置のスクリーン座標(X,Z)と、第2シルエット領域に含まれる各位置のスクリーン座標(Y,Z)と、に基づいてシルエット領域を特定する。すなわち、手先位置算出部24は、第1シルエット領域のスクリーン座標(X,Z)により示される会議室A内の領域と、第2シルエット領域のスクリーン座標(Y,Z)により示される会議室A内の領域と、のいずれにも属している位置の集合を、シルエット領域として特定する。
【0049】
こうしてシルエット領域を特定すると、手先位置算出部24は、このシルエット領域に基づいて手先領域を特定する。具体的には、手先位置算出部24は、シルエット領域のうちスクリーン4からの距離が距離L(図6参照)以下である部分を手先領域として特定する。図8に手先領域を例示した。ハッチングされた領域が手先領域を示している。
【0050】
こうして手先領域を特定すると、手先位置算出部24は、手先領域の位置Qを示すワールド座標(X,Y,Z)である第2ワールド座標値(X2,Y2,Z2)を算出する。具体的には、手先位置算出部24は、手先領域に外接する円柱状のシリンダー領域を特定し、シリンダー領域の先端の円の中点のワールド座標を、手先領域の位置Qの第2ワールド座標値(X2,Y2,Z2)として算出する。図9にシリンダー領域を例示した。なお、ハッチングされた領域は手先領域を示している。
【0051】
そして、手先位置算出部24は、位置Qの第2ワールド座標値(X2,Y2,Z2)に基づいて手先位置を示すスクリーン座標(Xα、Yα)である第2スクリーン座標値(Xγ、Yγ)を算出する。具体的には、手先位置算出部24は、スクリーン座標値(X2,Y2)を第2スクリーン座標値として算出する。X2が「Xγ」の値となり、Y2が「Yγ」となる。そして、手先位置算出部24は、第2スクリーン座標値(Xγ,Yγ)に対応する会議室Bのスクリーン4上の位置にマーカ画像32(図10参照)を表示させる。すなわち、手先位置算出部24は、第2スクリーン座標値(Xγ、Yγ)を情報処理装置2bに送信する。
【0052】
[マーカ表示部]
マーカ表示部30(表示手段)は、情報処理装置2aから送信された第2スクリーン座標値を受信する。そして、マーカ表示部30は、第2スクリーン座標値(Xγ,Yγ)に対応するスクリーン4上の位置にマーカ画像32を表示させる。例えば、マーカ表示部30は、会議資料表示部26により読み出された会議資料画像の、第2スクリーン座標値(Xγ,Yγ)で表される位置Rにマーカ画像32を重畳する。図10にマーカ画像32を例示した。マーカ画像32により、プレゼンター11がどこを指し示しているのか把握することが会議室Bにいる会議参加者にとって容易になる。
【0053】
なお、マーカ表示部30は、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合、すなわち、投影像情報により表される投影像にプレゼンター11の前腕部が含まれない場合に、マーカ画像32を表示させ、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っている場合に、マーカ画像32を表示させないようにしてもよい。例えば、マーカ表示部30は、各投影像情報が示す各射影位置(Xβ,Yβ)の集合である射影領域(以下、第1射影領域)に、第2スクリーン座標値(Xγ,Yγ)により表される手先位置が含まれるか否かを判定し、上記第1射影領域に手先位置が含まれていない場合に、マーカ画像32を表示させればよい。
【0054】
なお、本発明の実施形態は上記実施形態だけに限らない。
【0055】
例えば、マーカ表示部30は、上記手先領域を上記射影面領域に直交射影したときの射影領域(以下、第2射影領域)が上記第1射影領域に含まれる度合いに応じた透明度で、マーカ画像32を表示させてもよい。
【0056】
第2射影領域が第1射影領域に含まれる度合いに応じた透明度でマーカ画像32を表示する方法の例としては以下の方法がある。すなわち、情報処理装置2aの制御部12が、第2射影領域を特定し、第2射影領域の面積に対する、第2射影領域と第1射影領域とが重なっている領域の面積の割合を算出する。そして、情報処理装置2aの制御部12が、記憶部14に予め記憶される透明度制御データを読み出す。ここで、透明度制御データは、算出された割合に関する条件と、マーカ画像32の透明度の候補と、を関連づけてテーブルである。なお、透明度制御データは、算出された割合が大きくなるほど透明度が大きくなるように設定されている。そして、情報処理装置2aの制御部12が、算出した割合が満足する条件に関連づけられた透明度を、情報処理装置2aに送信する。
【0057】
そして、マーカ表示部30が、第1射影領域に手先位置が含まれない場合に、情報処理装置2aから受信した透明度でマーカ画像32を表示させることとなる。
【0058】
また、例えば、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていても、会議室Bのスクリーン4にプレゼンター11の前腕部が映らない場合がある。例えば、図11に示すように、プレゼンター11がスクリーン4に対向している場合、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう。
【0059】
そこで、マーカ表示部30は、ステレオカメラ10に撮像された撮像画像にプレゼンター11の前腕部が写っていない場合だけでなく、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合にも、図12に示すようにマーカ画像32を表示させるようにしてよい。
【0060】
プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合にも、マーカ画像32を表示する方法の例としては以下の方法がある。すなわち、手先位置算出部24が、手先位置を算出するだけでなく、シルエット領域のうちスクリーン4からの距離が距離L(図6参照)より大きい部分を胴体領域として特定し、胴体領域を上記射影面領域に直交射影したときの射影領域(以下、第3射影領域)を特定する。そして、手先位置算出部24が、手先位置だけでなく第3射影領域の座標値も情報処理装置2aに送信する。
【0061】
そして、マーカ表示部30が、手先位置が上記第1射影領域に含まれているか否かだけでなく、手先位置が上記第3射影領域に含まれているか否か(すなわち、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否か)も判定し、手先位置が上記第1射影領域に含まれていない場合、又は手先位置が上記第3射影領域に含まれている場合、マーカ画像32を表示させることとなる。
【0062】
なお、マーカ表示部30は、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否か判定するために、シルエット領域内に位置(Xγ,Yγ、Zm(Zm>L))が含まれるか否かを判定してもよい。シルエット領域内に位置(Xγ,Yγ、Zm)が含まれる場合が、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合に相当する。
【0063】
また、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否か判定を、情報処理装置2aが行ってもよい。この場合、情報処理装置2aは、位置特定部20によって生成された像情報(X1,Y1,Z1,C)のうちに、「X1」の値と「Y1」の値とがそれぞれ「Xγ」の値、「Yγ」の値と一致し、且つ「Z1」の値が「L」より大きい像情報(以下、注目像情報)が存在するか否かを判定し、判定結果を情報処理装置2bに送信する。位置特定部20によって生成された像情報(X1,Y1,Z1,C)のうちに注目像情報が存在する場合が、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまう場合に相当する。この判定結果に基づき、プレゼンター11の前腕部の像がプレゼンター11の胴体の像によって隠れてしまうか否かを、マーカ表示部30が判定することとなる。
【符号の説明】
【0064】
2,2a,2b 情報処理装置、4 スクリーン、6 プロジェクタ、8a,8b カメラ、10 ステレオカメラ、11 プレゼンター、12 制御部、14 記憶部、16 出入力インタフェース、18 ネットワークインタフェース、20 位置特定部、22 射影位置算出部、24 手先位置算出部、26 会議資料表示部、28 プレゼンター表示部、30 マーカ表示部、32 マーカ画像。
【特許請求の範囲】
【請求項1】
第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段と、
前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段と、
前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段と、
前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる表示手段と、
を含む遠隔会議支援システム。
【請求項2】
前記表示手段は、
前記手先位置が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれない場合に、前記案内画像を表示させること、
を特徴とする請求項1に記載の遠隔会議支援システム。
【請求項3】
前記表示手段は、
前記手先領域を前記射影面領域に射影したときの射影領域が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれる度合いに応じた透明度で、前記案内画像を表示させること、
を特徴とする請求項1又は2に記載の遠隔会議支援システム。
【請求項4】
第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段、
前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段、
前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段、及び
前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる手段、
としてコンピュータを機能させるためのプログラム。
【請求項1】
第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段と、
前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段と、
前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段と、
前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる表示手段と、
を含む遠隔会議支援システム。
【請求項2】
前記表示手段は、
前記手先位置が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれない場合に、前記案内画像を表示させること、
を特徴とする請求項1に記載の遠隔会議支援システム。
【請求項3】
前記表示手段は、
前記手先領域を前記射影面領域に射影したときの射影領域が前記射影位置算出手段により算出された射影位置の集合である射影領域に含まれる度合いに応じた透明度で、前記案内画像を表示させること、
を特徴とする請求項1又は2に記載の遠隔会議支援システム。
【請求項4】
第1拠点に設置されている第1撮像手段により撮像された撮像画像、に写っている人物の画像が占める人物領域内の各位置に写っている物体の3次元空間内の位置を特定する空間位置特定手段、
前記空間位置特定手段により特定された各位置を、前記第1拠点内の領域であって会議資料の画像が表示される面領域である第1表示面領域、に対応する前記3次元空間内の領域である射影面領域に射影したときの射影位置を算出する射影位置算出手段、
前記第1拠点に設置されている複数の第2撮像手段により撮像された撮像画像に基づいて、前記人物の予め定められた部位に対応する前記3次元空間内の3次元領域である手先領域、の位置を前記射影面領域に射影したときの射影位置である手先位置を算出する算出手段、及び
前記第1拠点とは異なる第2拠点内の領域であって前記会議資料の画像が表示される面領域である第2表示面領域に、前記人物を示す画像を前記射影位置算出手段により算出された射影位置に基づいて表示させるとともに、前記手先位置に対応する位置に案内画像を表示させる手段、
としてコンピュータを機能させるためのプログラム。
【図1】
【図2】
【図3A】
【図3B】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3A】
【図3B】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−26706(P2013−26706A)
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願番号】特願2011−157715(P2011−157715)
【出願日】平成23年7月19日(2011.7.19)
【出願人】(000005496)富士ゼロックス株式会社 (21,908)
【Fターム(参考)】
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願日】平成23年7月19日(2011.7.19)
【出願人】(000005496)富士ゼロックス株式会社 (21,908)
【Fターム(参考)】
[ Back to top ]