説明

物体判断システム、物体判断方法およびプログラム

【課題】物体判断システム、物体判断方法およびプログラムを提供する。
【解決手段】所定方向に電磁波を発する第1の電磁波発生装置と、前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置と、前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像する撮像装置と、前記第1の電磁波発生装置および前記第2の電磁波発生装置による電磁波の発生を切替える制御装置と、前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像、および、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像に基づき、前記物体の物理的形状に関する判断を行なう判断部、を有する判断装置と、を備える、物体判断システム。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体判断システム、物体判断方法およびプログラムに関する。
【背景技術】
【0002】
近日、PC(Personal Computer)や携帯電話などの情報処理装置に対する情報入力を行なうための新たなインターフェースに関する研究が広く行なわれている。例えば、撮像装置により操作者を撮像し、撮像された画像から操作者の手や指などを抽出し、抽出した手や指の動き(ジェスチャー)を入力操作として検出するインターフェースが提案されている。
【0003】
かかるインターフェースにおいて操作者の入力操作を適切に検出するためには、操作者の手や指などを背景画像から効率的、かつ正確に抽出することが重要であった。このため、操作者の手や指の抽出に関する研究が広く行なわれている。例えば特許文献1には、操作者による非操作時に撮像された画像を基準画像として記憶しておき、操作者による操作時に撮像された画像と上記基準画像の差分を演算することにより操作者の手や指を検出する方法が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3997566号
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記のようなインターフェースにおいて操作者の入力操作を適切に検出するためには、操作者の指や、指し棒などの特定の立体的形状を有する物体を背景画像から効率的、かつ正確に抽出することが重要であった。しかし、撮像される画像はあくまで2次元であるため、撮像された画像から特定の立体的形状を有する物体を抽出することは困難であった。
【0006】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、特定の立体的形状を有する物体の先端を検出することが可能な、新規かつ改良された物体判断システム、物体判断方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明のある観点によれば、電磁波の投影面を撮像する撮像装置と、前記投影面へ電磁波を発する電磁波発生装置と、前記電磁波発生装置による電磁波の発生を制御する制御装置と、前記電磁波発生装置による電磁波の発生時に撮像された投影面の画像と非発生時に撮像された投影面の画像との差分に基づいて前記電磁波発生装置および前記投影面の間に存在する物体の投影像を検出する投影像検出部、および、前記物体の投影像の位置に基づいて前記物体の位置を検出する位置検出部、を有する位置検出装置とを備える、位置検出システムが提供される。
【0008】
かかる構成においては、電磁波発生装置による電磁波の発生時に、電磁波発生装置および投影面の間に存在する物体が電磁波を遮るため、物体の投影像が形成されている投影面が撮像装置により撮像される。ここで、投影面における物体の投影像以外の背景部分には、電磁波発生装置により発せられた電磁波が到達する。一方、電磁波発生装置による電磁波の非発生時には、投影面の全体に電磁波発生装置を発生源とする電磁波は到達しない。このため、投影像検出部は、電磁波の発生時に撮像された画像と非発生時に撮像された画像の差分に基づいて物体の投影像を検出することができる。また、物体の投影像の形成位置は、電磁波発生装置および物体の位置関係に依存する。したがって、位置検出部は、投影像検出部により検出された物体の投影像の形成位置から、物体の位置を合理的に検出することができる。
【0009】
前記撮像装置は、所定の同期信号に同期してフレーム画像を撮像し、前記制御装置は、前記同期信号に同期して前記電磁波発生装置による電磁波の発生を制御してもよい。
【0010】
前記電磁波発生装置は、第1の電磁波発生装置、および前記第1の電磁波発生装置と異なる位置に配される第2の電磁波発生装置を含み、前記制御装置は、前記第1の電磁波発生装置による電磁波の発生、前記第2の電磁波発生装置による電磁波の発生、および前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生を切替え、前記投影像検出部は、前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から前記物体の投影像を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から前記物体の投影像を検出し、前記位置検出部は、前記第1の画像および前記第2の画像から検出された前記物体の投影像の位置に基づいて前記物体の空間位置を検出してもよい。
【0011】
前記位置検出装置は、前記第1の画像から検出された前記物体の投影像の位置に基づき、前記第1の電磁波発生装置および前記物体の投影像を結ぶ直線を推定し、前記第2の画像から検出された前記物体の投影像の位置に基づき、前記第2の電磁波発生装置および前記物体の投影像を結ぶ直線を推定する推定部をさらに備え、前記位置検出部は、前記推定部により推定された双方の直線の交差箇所を前記物体の空間位置として検出してもよい。
【0012】
前記制御装置は、前記第1の電磁波発生装置による電磁波の発生、前記第2の電磁波発生装置による電磁波の発生、および前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生の切替えを周期的に行い、前記投影像検出部は、前記第1の画像と、前記第1の画像と同一周期であって前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生時に撮像された画像との差分に基づいて前記物体の投影像を検出し、前記第2の画像と、前記第2の画像と同一周期であって前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生時に撮像された画像との差分に基づいて前記物体の投影像を検出してもよい。
【0013】
前記位置検出システムは、前記電磁波発生装置から発せられる電磁波の波長成分を通過させるフィルタをさらに備え、前記撮像装置は、前記フィルタを介して前記投影面を撮像してもよい。
【0014】
前記電磁波発生装置は赤外線または可視光線を発してもよい。
【0015】
また、上記課題を解決するために、本発明の別の観点によれば、電磁波発生装置からの撮像可能な電磁波の発生および非発生を切替えるステップと、前記電磁波発生装置から発せられる電磁波の投影面を撮像するステップと、前記電磁波発生装置による電磁波の発生時に撮像された投影面の画像と非発生時に撮像された投影面の画像との差分に基づいて前記電磁波発生装置および前記投影面の間に存在する物体の投影像を検出するステップと、前記物体の投影像の位置に基づいて前記物体の位置を検出するステップと、を含む位置検出方法が提供される。
【0016】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、電磁波発生装置からの撮像可能な電磁波の発生および非発生を切替える制御部と、電磁波発生装置から発せられる電磁波の投影面を撮像する撮像装置により前記電磁波発生装置の発生時に撮像された投影面の画像と非発生時に撮像された投影面の画像との差分に基づいて前記電磁波発生装置および前記投影面の間に存在する物体の投影像を検出する投影像検出部と、前記物体の投影像の位置に基づいて前記物体の位置を検出する位置検出部と、として機能させるためのプログラムが提供される。
【0017】
また、上記課題を解決するために、本発明の別の観点によれば、所定方向に電磁波を発する第1の電磁波発生装置と、前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置と、前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像する、第1の電磁波発生装置および第2の電磁波発生装置により発せられる電磁波を撮像可能な前記撮像装置と、前記第1の電磁波発生装置および前記第2の電磁波発生装置による電磁波の発生を切替える制御装置と、前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から、前記第1の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から、前記第2の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出する受波部位検出部、および、前記第1の画像および前記第2の画像から検出された受波部位の近接度に応じ、前記物体の物理的形状に関する判断を行なう判断部、を有する判断装置と、を備える物体判断システムが提供される。
【0018】
前記撮像装置は、所定の同期信号に同期してフレーム画像の各々を撮像し、前記制御装置は、前記同期信号に同期して前記電磁波発生装置による電磁波の発生を制御してもよい。
【0019】
前記制御装置は、前記第1の電磁波発生装置による電磁波の発生、前記第2の電磁波発生装置による電磁波の発生、および前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生の切替えを周期的に行い、前記受波部位検出部は、前記第1の画像と、前記第1の画像と同一周期であって前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生時に撮像された画像との差分に基づいて前記物体における前記受波部位を検出し、前記第2の画像と、前記第2の画像と同一周期であって前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生時に撮像された画像との差分に基づいて前記物体における前記受波部位を検出してもよい。
【0020】
前記物体判断システムは、前記第1の電磁波発生装置および前記第2の電磁波発生装置から発せられる電磁波の波長成分を通過させるフィルタをさらに備え、前記撮像装置は、前記フィルタを介して前記物体を撮像してもよい。
【0021】
前記第1の電磁波発生装置および前記第2の電磁波発生装置は、赤外線または可視光線を発っしてもよい。
【0022】
また、上記課題を解決するために、本発明の別の観点によれば、所定方向に撮像可能な電磁波を発する第1の電磁波発生装置、および前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置による電磁波の発生を切替えるステップと、前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像するステップと、前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から、前記第1の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から、前記第2の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出するステップと、前記第1の画像および前記第2の画像から検出された受波部位の近接度に応じ、前記物体の物理的形状に関する判断を行なうステップと、を含む物体判断方法が提供される。
【0023】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、所定方向に撮像可能な電磁波を発する第1の電磁波発生装置、および前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置による電磁波の発生を切替える制御部と、前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像する撮像装置により前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から、前記第1の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から、前記第2の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出する受波部位検出部と、前記第1の画像および前記第2の画像から検出された受波部位の近接度に応じ、前記物体の物理的形状に関する判断を行なう判断部と、として機能させるためのプログラムが提供される。
【0024】
また、上記課題を解決するために、本発明の別の観点によれば、電磁波の投影面を撮像する撮像装置と、前記撮像装置により撮像可能な電磁波を前記投影面へハッスル第1の電磁波発生装置と、前記第1の電磁波発生装置と異なる位置に配される第2の電磁波発生装置と、前記第1の電磁波発生装置および前記第2の電磁波発生装置による電磁波の発生を切替える制御装置と、前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から前記第1の電磁波発生装置および前記投影面の間に存在する物体の投影像を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から前記物体の投影像を検出する投影像検出部、および、前記第1の画像および前記第2の画像から検出された前記物体の投影像の位置に基づいて前記物体の空間位置を検出する位置検出部、を有する位置検出装置と、を備える位置検出システムが提供される。
【0025】
前記位置検出装置は、前記第1の画像から検出された前記物体の投影像の位置に基づき、前記第1の電磁波発生装置および前記物体の投影像を結ぶ直線を推定し、前記第2の画像から検出された前記物体の投影像の位置に基づき、前記第2の電磁波発生装置および前記物体の投影像を結ぶ直線を推定する推定部をさらに備え、前記位置検出部は、前記推定部により推定された双方の直線の交差箇所を前記物体の空間位置として検出してもよい。
【発明の効果】
【0026】
以上説明したように本発明によれば、特定の立体的形状を有する物体の先端を検出することが可能である。
【図面の簡単な説明】
【0027】
【図1】本発明の第1の実施形態にかかる位置検出システムの構成例を示した外観図である。
【図2】撮像装置の構成および各装置間の関係を示した説明図である。
【図3】発光制御装置によるLEDの発光制御の具体例を示した説明図である。
【図4】LEDの発光状態ごとのフレーム画像の具体例を示した説明図である。
【図5】位置検出装置として機能するPCの構成を示した機能ブロック図である。
【図6】人差し指の先端の空間位置、投影像の位置、およびLEDの位置関係を示した説明図である。
【図7】第1の実施形態にかかる位置検出システムにおいて実行される位置検出方法の流れを示したフローチャートである。
【図8】第1の実施形態の変形例にかかる位置検出システムの構成を示した説明図である。
【図9】本発明の第2の実施形態にかかる先端検出システムの構成例を示した外観図である。
【図10】本発明の第2の実施形態にかかる先端検出システムの構成例を示した外観図である。
【図11】本発明の第2の実施形態にかかるPCの構成を示した機能ブロック図である。
【図12】各発光状態において撮像されたフレーム画像の具体例を示した説明図である。
【図13】フレーム画像の他の具体例を示した説明図である。
【図14】本発明の第2の実施形態にかかる先端検出システムにおいて実行される物体判断方法の流れを示したフローチャートである。
【発明を実施するための形態】
【0028】
以下に添付図面を参照しながら、本発明の実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0029】
また、以下に示す項目順序に従って当該「発明を実施するための最良の形態」を説明する。
〔1〕第1の実施形態
〔1−1〕第1の実施形態に至る経緯
〔1−2〕第1の実施形態にかかる位置検出システムの概要
〔1−3〕発光制御装置による発光制御
〔1−4〕フレーム画像からの投影像の検出
〔1−5〕空間位置検出
〔1−6〕位置検出システムによる一連の動作
〔1−7〕第1の実施形態のまとめ
〔1−8〕第1の実施形態の補足
(変形例1)
(変形例2)
〔2〕第2の実施形態
〔2−1〕第2の実施形態に至る経緯
〔2−2〕第2の実施形態にかかる先端検出システムの概要
〔2−3〕フレーム画像からの先端検出
〔2−4〕先端検出システムによる一連の動作
〔2−5〕第2の実施形態のまとめ
〔2−6〕第2の実施形態の補足
〔3〕全体補足
【0030】
〔1〕第1の実施形態
〔1−1〕第1の実施形態に至る経緯
従来より、撮像装置により操作者を撮像し、撮像された画像から操作者の手や指などを抽出し、抽出した手や指の動き(ジェスチャー)を入力操作として検出するインターフェースが多く提案されている。
【0031】
かかるインターフェースにおいて操作者の入力操作を適切に検出するためには、操作者の手や指などを背景画像から効率的、かつ正確に抽出することが重要であった。しかし、背景画像に操作者の身体画像が含まれる場合や、背景画像が静止していない場合があった。この場合、背景画像から操作者の手や指などを適切に検出することは困難であった。また、照明条件も変化する場合があり、この場合にも入力操作の認識率が著しく低下することが予想された。
【0032】
そこで、上記事情を一着眼点にして本発明の第1の実施形態にかかる位置検出システム1を創作するに至った。本実施形態にかかる位置検出システムは、操作者の手や指そのものでなく、手や指の投影像を認識することにより入力操作を検出する。ここで、投影像は手や指そのものよりもコントラストが高いため、本実施形態にかかる位置検出システム1によれば、容易に背景画像から操作者の手や指などを抽出することができる。また、本実施形態にかかる位置検出システム1によれば、操作者の手や指などの空間位置を検出することも可能である。以下、このような本発明の第1の実施形態にかかる位置検出システム1について説明する。
【0033】
〔1−2〕第1の実施形態にかかる位置検出システムの概要
まず、図1を参照し、本発明の第1の実施形態にかかる位置検出システム1の概要を説明する。
【0034】
図1は、本発明の第1の実施形態にかかる位置検出システム1の構成例を示した外観図である。図1に示したように、本実施形態にかかる位置検出システム1は、画像送信装置10と、PC(Personal Computer)20と、を備える。
【0035】
画像送信装置10は、湾曲部11A、湾曲部11B、レール部11C、撮像装置12、IR透過フィルタ14、発光制御装置16、LED18A、LED18B、上昇ボタン19A、下降ボタン19B、離隔ボタン19C、および近接ボタン19Dを備える。
【0036】
LED(Light Emitting Diode)18AおよびLED18Bは、発光制御装置16による制御に従い、赤外線を間欠的に発光する。かかるLED18AおよびLED18Bは、レール溝を有するレール部11Cに設けられており、手動、または自動によりレール溝に沿って移動される。なお、本明細書においては、説明の便宜上、LED18AおよびLED18BがX座標軸をZ方向に平行移動させた線上に配置されているものとする。
【0037】
また、本実施形態においては電磁波を発生する電磁波発生装置の一例として赤外線を発光するLED18AおよびLED18Bをあげて説明するが、電磁波発生装置は赤外線を発光するLED18AおよびLED18Bに限られない。例えば、電磁波発生装置は、X線、紫外線、波長が400nm〜700nm程度である可視光線、ミリ波およびマイクロ波を発生する装置などであってもよい。また、図1においては、LED18AおよびLED18Bを区別するために符号の後に大文字のアルファベットを付しているが、LED18AおよびLED18Bを特に区別する必要が無い場合、単にLED18と総称する。
【0038】
撮像装置12は、LED18により発光される赤外線の投影面8を複数のフレームにわたって連続的に撮像する。また、撮像装置12には、赤外線を透過させるIR(Infrared)透過フィルタ14が装着されており、撮像装置12は、IR透過フィルタ14を介して投影面8を撮像する。したがって、撮像装置12により得られるフレーム画像には、投影面8における赤外線の露光度が反映される。
【0039】
また、撮像装置12は、撮像したフレーム画像を任意の通信方式によりPC20へ送信する。フレーム画像を送信するための通信方式は、IEEE(Institute of Electrical and Electronic Engineers)802.11a、b、gなどに規定される無線通信方式であってもよい。また、通信方式は、IEEE802.11nに規定されるMIMO(Multiple Input Multiple Output)通信方式であっても、IEEE802.3に規定される通信方式であってもよい。なお、図1に示した撮像範囲Rは、撮像装置12が撮像可能な投影面8上の範囲に該当する。また、本実施形態においては、説明の便宜上、撮像範囲Rの中心点が座標系の原点Oであるものとする。
【0040】
発光制御装置16は、LED18AおよびLED18Bにおける発光を制御する制御装置として機能する。詳細については「〔1−3〕発光制御装置による発光制御」において説明するが、発光制御装置16は、撮像装置12により生成された同期信号が入力され、当該同期信号に基づいてLED18AおよびLED18Bにおける発光を制御する。図1においては、操作者の手がLED18および投影面8の間に存在し、発光制御装置16による制御に基づいてLED18が発光したときに、投影面8に操作者の手の投影像30Aが形成されている様子を示している。
【0041】
湾曲部11Aおよび湾曲部11Bは、レール部11Cを支持する。画像送信装置10は、かかる、湾曲部11Aおよび湾曲部11Bの曲率を、上昇ボタン19Aまたは下降ボタン19Bに対する操作に応じて変更させる。
【0042】
例えば、画像送信装置10は、上昇ボタン19Aが押圧されると、湾曲部11Aおよび湾曲部11Bの曲率を下げ、レール部11CをZ方向に上昇させる。レール部11Cが上昇されると、LED18A、およびLED18Bの投影面8に対する高さも上昇する。同様に、画像送信装置10は、下降ボタン19Bが押圧されると、湾曲部11Aおよび湾曲部11Bの曲率を上げ、レール部11CをZ方向に下降させる。レール部11Cが下降されると、LED18A、およびLED18Bの投影面8に対する高さも下降する。
【0043】
また、画像送信装置10は、離隔ボタン19Cが押圧されると、LED18AおよびLED18Bを離隔させる方向に移動させる。具体的には、画像送信装置10は、LED18Aをレール溝に沿って負のX方向に移動させ、LED18Bをレール溝に沿って正のX方向に移動させる。同様に、画像送信装置10は、近接ボタン19Dが押圧されると、LED18AおよびLED18Bを近接させる方向に移動させる。具体的には、画像送信装置10は、LED18Aをレール溝に沿って正のX方向に移動させ、LED18Bをレール溝に沿って負のX方向に移動させる。
【0044】
操作者は、このようにボタン19A〜19Dを操作することによりLED18AおよびLED18Bを移動させることができる。LED18AおよびLED18Bを移動させると、投影像の位置、位置検出システム1における位置検出の可能範囲、動きに対する敏感性などのシステム特性も変化する。したがって、操作者はボタン19A〜19Dを操作することにより、システム特性を調整することができる。
【0045】
なお、画像送信装置10は、LED18A、LED18B、および撮像装置12の位置を検出し、PC20に送信してもよい。その結果、PC20は、特段のキャリブレーション処理を行うことなくLED18A、LED18B、および撮像装置12の位置を取得することが可能となる。
【0046】
PC20は、撮像装置12から送信された画像を受信し、受信した画像に基づいてLED18および投影面8の間に存在する操作主体の空間位置を検出する。詳細については「〔1−4〕画像からの投影像の検出」および「〔1−5〕空間位置検出」において説明するが、PC20は、受信した画像上の操作主体の投影像の位置を検出し、投影像の位置とLED18の位置関係から操作主体の空間位置を検出することができる。
【0047】
なお、操作主体は、LED18が発する光に対して僅かでも遮光性を有する物体を想定する。例えば、LED18が赤外線を発光する本実施形態においては、手や指などの人体の他、指し棒、携帯電話、および筆記用具などの物体が操作主体に該当し得る。なお、より上位概念では、操作主体は、電磁波発生装置が発生する電磁波の波長成分に対して僅かでも非透過性を有する物体であると表現できる。
【0048】
また、図1においては、位置検出装置の一例としてPC20を示したに過ぎず、位置検出装置は、任意の情報処理装置であってもよい。情報処理装置としては、例えば、家庭用映像処理装置(DVDレコーダ、ビデオデッキなど)、携帯電話、PHS(Personal Handyphone System)、携帯用音楽再生装置、携帯用映像処理装置、PDA(Personal Digital Assistants)、家庭用ゲーム機器、携帯用ゲーム機器、家電機器などがあげられる。
【0049】
また、図1においては、LED18A、LED18B、および撮像装置12が画像送信装置10上に一体的に設けられる例を示しているが、本実施形態はかかる例に限定されない。例えば、LED18A、LED18B、および撮像装置12は各々分離構成されてもよい。この場合、位置検出システム1は、動作開始時に、LED18A、LED18B、撮像装置12、および投影面8の位置関係を自動的に検出しても、操作者による操作に基づいて取得してもよい。
【0050】
〔1−3〕発光制御装置による発光制御
以上、本実施形態にかかる位置検出システム1について概略的に説明した。続いて、図2〜図4を参照し、発光制御装置16による発光制御について説明する。
【0051】
図2は、撮像装置12の構成および各装置間の関係を示した説明図である。図2に示したように、撮像装置12は、撮像素子110と、同期信号生成部120と、AD変換部130と、フレーム番号付与部140と、無線通信部150と、を備える。
【0052】
撮像素子110は、入射された光を電気信号に変換して出力する光電変換部である。例えば、撮像素子110は、各画素に対応するように2次元に配置されたフォトダイオード、およびCCD(charge coupled device)を備えてもよい。かかる構成においてフォトダイオードを露光させると、フォトダイオードが電荷を蓄積し、フォトダイオードに蓄積された電荷がCCDにより順次に転送される。
【0053】
撮像素子110は、このようなフォトダイオードの露光から電荷の転送までの撮像処理を、同期信号生成部120により生成される同期信号の立ち上がり、または立ち下りに同期して行なう。例えば、撮像素子110は、同期信号の立ち上がりに同期してフォトダイオードを露光させてもよい。なお、一回の露光によりCCDから転送される電荷は、1フレーム分の画像に対応する。
【0054】
同期信号生成部120は、撮像素子110が撮像する際に利用する上記同期信号を生成する。例えば、同期信号生成部120は、立ち上がり回数が60回/秒、または180回/秒である同期信号を生成してもよい。なお、同期信号生成部120により立ち上がり回数が180回/秒である同期信号が生成された場合、撮像素子110は同期信号の立ち上がりに同期して180フレーム/秒で画像の撮像処理を行う。
【0055】
AD(Analog Digital)変換部130は、撮像素子110から画素ごとに転送される電荷の電荷量をデジタル形式に変換する。そして、AD変換部130は、デジタル形式に変換した画素ごとの電荷量をフレーム画像として出力する。
【0056】
フレーム番号付与部140は、AD変換部130から入力されるフレーム画像の各々にフレーム番号を付与する。例えば、フレーム番号付与部140は、フレーム番号を「0」から順に連番で付与してもよい。また、フレーム番号付与部140は、各フレーム画像のヘッダ部分にフレーム番号を記載してもよい。
【0057】
無線通信部150は、フレーム番号付与部140によりフレーム番号が付与されたフレーム画像をPC20へ無線で送信する。なお、図1および図2においては無線通信部150が無線でフレーム画像を送信する例を説明したが、撮像装置12は有線でフレーム画像を送信してもよい。
【0058】
このように、同期信号生成部120により生成される同期信号は、撮像素子110による撮像処理に利用されることが一般的である。しかし、本実施形態においては、同期信号生成部120により生成される同期信号を発光制御装置16も利用する点で通常と異なる。
【0059】
発光制御装置16は、同期信号生成部120により生成された同期信号が入力され、当該同期信号に同期してLED18AおよびLED18Bによる発光を制御する。例えば、発光制御装置16は、同期信号の立ち上がりにおいて、LED18Aの発光、LED18Bの発光、LED18AおよびLED18Bの非発光を切替えてもよい。このような発光制御装置16による発光制御の具体例について図3を参照して説明する。
【0060】
図3は、発光制御装置16によるLED18AおよびLED18Bの発光制御の具体例を示した説明図である。より詳細には、図3には、同期信号生成部120により生成される同期信号の波形例、LED18Aの発光状態、LED18Bの発光状態、およびフレーム画像の関係を示している。なお、図3において、「0」は非発光を示し、「1」は発光を示す。
【0061】
図3に示した例では、発光制御装置16は、同期信号の立ち上がりの度に、LED18AおよびLED18Bの非発光、LED18Aのみの発光、LED18Bのみの発光、を周期的に繰り返す。ここで、当該同期信号は撮像装置12によるフレーム画像の撮像にも利用されているため、LED18AおよびLED18Bの発光の切り替えタイミングが、フレーム画像の撮像タイミングと同期する。すなわち、撮像装置12がフレーム画像の各々を撮像する度に、LED18AおよびLED18Bの発光状態が切替えられる。
【0062】
その結果、LED18AおよびLED18Bの非発光時、LED18Aのみ発光時、LED18Bのみ発光時にフレーム画像が撮像装置12により順次に撮像される。例えば、図3に示したように、LED18AおよびLED18Bの非発光時にフレーム画像(15)が撮像され、LED18Aのみ発光時にフレーム画像(16)が撮像され、LED18Bのみ発光時にフレーム画像(17)が撮像される。
【0063】
図4は、LED18AおよびLED18Bの発光状態ごとのフレーム画像の具体例を示した説明図である。より詳細には、図4の上段はLED18AおよびLED18Bの非発光時のフレーム画像を示し、図4の中段はLED18Aのみ発光時のフレーム画像を示し、図4の下段はLED18Bのみ発光時のフレーム画像を示している。
【0064】
図4の上段に示したように、LED18AおよびLED18Bの非発光時には、投影面8に赤外線が到達せず、また、撮像装置12にはIR透過フィルタ14が装着されているため、撮像装置12による撮像範囲Rの全域の輝度が低くなる。
【0065】
一方、図4の中段に示したように、LED18Aの発光時には、投影面8に赤外線が到達し、撮像装置12による撮像範囲Rの輝度が全体的に高くなる。ただし、投影面8には操作者の手の投影像30Aが形成されており、投影像30Aの形成範囲の輝度は低くなっている。なお、図4の中段においては、後述の説明のために、投影像30Aにおける操作者の人差し指の先端座標をSAと示している。
【0066】
また、図4の下段に示したように、LED18Bの発光時にも、投影面8に赤外線が到達し、撮像装置12による撮像範囲Rの輝度が全体的に高くなる。ただし、投影面8には操作者の手の投影像30Bが形成されており、投影像30Bの形成範囲の輝度は低くなっている。なお、図4の下段においては、後述の説明のために、投影像30Bにおける操作者の人差し指の先端座標をSBと示している。
【0067】
このように、LED18AおよびLED18Bの発光状態ごとにフレーム画像の内容が異なる。本実施形態においては、詳細については「〔1−4〕画像からの投影像の検出」、および「〔1−5〕空間位置検出」において後述するが、発光状態ごとのフレーム画像の差分に基づき、操作者の人差し指の空間位置を検出することができる。
【0068】
なお、図3には、LED18AおよびLED18Bの非発光、LED18Aのみの発光、LED18Bのみの発光が順次に繰り返される例を示したが、本実施形態はかかる例に限定されない。例えば、発光制御装置16は、一回のLED18AおよびLED18Bの非発光に対し、複数回にわたってLED18Aのみの発光およびLED18Bのみの発光を繰り返してもよい。
【0069】
〔1−4〕フレーム画像からの投影像の検出
続いて、図5を参照し、撮像装置12により撮像されたフレーム画像からの投影像の検出について説明する。
【0070】
図5は、位置検出装置として機能するPC20の構成を示した機能ブロック図である。図5に示したように、本実施形態にかかるPC20は、差分演算部210と、投影像検出部214と、記憶部218と、空間位置検出部222と、特定動作検出部226と、表示画面生成部230と、表示部234と、無線通信部250と、を備える。
【0071】
無線通信部250は、撮像装置12とのインターフェースであって、撮像装置12から送信されたフレーム画像を受信する。また、無線通信部250は、LED18A、LED18B、および撮像装置12の位置などを画像送信装置10から受信してもよい。
【0072】
差分演算部210は、LED18AおよびLED18Bの非発光時に撮像されたフレーム画像と、LED18Aの発光時またはLED18Bの発光時に撮像されたフレーム画像との差分を演算する。そのために、差分演算部210は、まず、無線通信部250により受信されたフレーム画像の各々が、どのようなLED18AおよびLED18Bの発光状態において撮像されたかを判定する。
【0073】
例えば、差分演算部210は、各フレーム画像に付与されているフレーム番号に基づいて各フレーム画像に対応する発光状態を判定してもよい。より具体的には、差分演算部210は、フレーム番号を3で除算し、余りが1であればLED18Aの発光時、余りが2であればLED18Bの発光時、余りが0であればLED18AおよびLED18Bの非発光時に撮像されたフレーム画像であると判定してもよい。
【0074】
または、差分演算部210は、各フレーム画像の全体的な輝度に基づいて各フレーム画像に対応する発光状態を判定してもよい。例えば、差分演算部210は、少なくとも3つの連続するフレーム画像の輝度を比較し、最も輝度の低いフレーム画像がLED18AおよびLED18Bの非発光時に撮像されたフレーム画像であると判定してもよい。そして、差分演算部210は、非発光時に撮像されたフレーム画像であると判定したフレーム画像を基準に、次のフレーム画像はLED18Aの発光時、さらに次のフレーム画像はLED18Bの発光時に撮像されたフレーム画像であると判定してもよい。
【0075】
差分演算部210は、各フレーム画像の撮像時の発光状態を判定した後、LED18AおよびLED18Bの非発光時に撮像されたフレーム画像と、LED18Aの発光時またはLED18Bの発光時に撮像されたフレーム画像との差分を演算する。
【0076】
ここで、LED18AおよびLED18Bの非発光時に撮像されたフレーム画像は、周囲の自然光を受けている投影面8の画像である。一方、LED18Aの発光時に撮像されたフレーム画像は、周囲の自然光に加え、操作者の手の投影像30Aの形成範囲以外にLED18Aから発せられた赤外線を受けている投影面8の画像である。したがって、差分演算部210が、上記のようにLED18AおよびLED18Bの非発光時に撮像されたフレーム画像と、LED18Aの発光時に撮像されたフレーム画像の差分を演算することにより、操作者の手の投影像30Aの形成範囲が抽出される。
【0077】
同様に、LED18Bの発光時に撮像されたフレーム画像は、周囲の自然光に加え、操作者の手の投影像30Bの形成範囲以外にLED18Bから発せられた赤外線を受けている投影面8の画像である。したがって、差分演算部210は、上記のようにLED18AおよびLED18Bの非発光時に撮像されたフレーム画像と、LED18Bの発光時に撮像されたフレーム画像の差分を演算することにより、操作者の手の投影像30Bの形成範囲が抽出される。
【0078】
さらに、差分演算部210は、LED18Aの発光時に撮像されたフレーム画像と、該フレーム画像と最も撮影時刻が近い、または同一周期の非発光時に撮像されたフレーム画像の差分を演算してもよい。例えば、差分演算部210は、図3におけるフレーム画像(15)とフレーム画像(16)の差分を演算してもよい。かかる構成により、周囲の照明条件や背景画像が変化している場合であっても、より正確に投影像30Aを検出することができる。同様に、差分演算部210は、図3におけるフレーム画像(15)とフレーム画像(17)の差分を演算してもよい。
【0079】
投影像検出部214は、差分演算部210による演算結果に基づいて、各フレーム画面に形成されている投影像30から特定部分を検出する。例えば、投影像検出部214は、図4に示した投影像30Aにおける人差し指の先端SAの位置、および投影像30Bにおける人差し指の先端SBの位置を検出する。
【0080】
具体的には、投影像検出部214は、記憶部218に事前に記憶されている人差し指の形状パターンと各フレーム画面(差分演算後)のパターンマッチングを行い、投影像30における人差し指の先端Sの位置を検出してもよい。
【0081】
または、投影像検出部214は、投影像30の形成範囲内で、所定の座標値の値が最も高い位置を人差し指の先端Sの位置として検出してもよい。例えば、図4に示した例では、投影像検出部214が投影像30の形成範囲内でyの値が最大である位置を検出することにより、適確に投影像30Aにおける人差し指の先端SAの位置、および投影像30Bにおける人差し指の先端SBの位置を検出できる。
【0082】
〔1−5〕空間位置検出
次に、人差し指の先端の空間位置の検出について図6を参照して説明する。
【0083】
図6は、人差し指の先端の空間位置、投影像30の位置、およびLED18の位置関係を示した説明図である。図6においては、LED18Aの座標をA(Ax,Ay,Az)、LED18Bの座標をB(Bx,By,Bz)、人差し指の先端の空間位置をP(以下、人差し指の空間位置Pとする。)と示している。
【0084】
図6に示したように、光の直進性を考慮すると、人差し指の空間位置Pは、LED18Aの座標A、および座標SAを結ぶ直線L上に存在することが予測される。同様に、人差し指の先端は、LED18Bの座標B、および座標SBを結ぶ直線M上に存在することが予測される。
【0085】
空間位置検出部222は、上記のように人差し指の空間位置Pが直線Lおよび直線M上に存在するという仮定に基づき、直線Lおよび直線Mの交差箇所を人差し指の空間位置Pとして検出する。そのために、空間位置検出部222(推定部)は、直線Lおよび直線Mを推定し、いずれかの平面に直線Lおよび直線Mを投射し、該平面に投射された直線Lおよび直線Mの交点を算出してもよい。
【0086】
例えば、空間位置検出部222は、x−y平面に直線Lおよび直線Mを投射し、x−y平面に投射された直線Lおよび直線Mの交点を算出し、該交点のx,y座標、および該交点のx,y座標における直線Lまたは直線Mのz座標を空間位置Pとして検出してもよい。かかる構成により、厳密には直線Lおよび直線Mが交差していない場合であっても、x−y平面においては投射された直線Lおよび直線Mが交差すると考えられるため、直線Lおよび直線Mが近接している位置(交差箇所)を空間位置Pとして検出することができる。なお、空間位置検出部222は、同様に直線Lおよび直線Mをy−z平面、またはx−z平面に投射することにより人差し指の空間位置Pを検出してもよい。
【0087】
または、空間位置検出部222は、直線Lおよび直線Mをベクトルを用いて表現し、ベクトル演算により直線L上で直線Mと最も近接する位置(交差箇所)を算出し、算出した位置を人差し指の空間位置Pとして検出してもよい。さらに、空間位置検出部222は、直線Lおよび直線Mの線上で各々が最も近接する位置を算出し、算出した双方の位置の間、例えば中点を人差し指の空間位置Pとして検出してもよい。
【0088】
表示画面生成部230は、空間位置検出部222により人差し指の空間位置Pが検出されると、人差し指の空間位置Pに応じた表示画面を生成する。例えば、表示画面生成部230は、3次元的な立体画像を生成している場合、立体画像における人差し指の空間位置Pに応じた位置にカーソルを重畳してもよい。また、表示画面生成部230は、3次元的なゲーム空間の画像を生成している場合、ゲーム空間中で人差し指の空間位置Pの変化に応じてキャラクターを3次元的に移動させてもよい。
【0089】
表示部234は、表示画面生成部230により生成された表示画面を表示する。例えば、表示部234は、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Display)装置などの映像出力装置であってもよい。
【0090】
また、特定動作検出部226は、空間位置検出部222により検出される人差し指の空間位置Pの変化と、記憶部218に事前に記録されている特定動作の動きパターンとをマッチングすることにより、人差し指の特定動作を検出する。例えば、記憶部218には、特定動作の動きパターンとして、人差し指が円を描く動きパターン、人差し指が前方へ突き出される動きパターン、人差し指が曲げられる動きパターンなどを記憶していてもよい。なお、上記では人差し指の空間位置Pが検出される例を説明したが、人差し指に加え、親指の空間位置を検出することも同様に可能である。この場合、記憶部218には、特定動作の動きパターンとして、人差し指と親指が開く動作パターン、人差し指と親指が開きながら移動する動作パターン、人差し指と親指が回転する動作パターンなどが記録されていてもよい。
【0091】
なお、このような記憶部218は、EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable Read Only Memory)などの不揮発性メモリや、ハードディスクおよび円盤型磁性体ディスクなどの磁気ディスクや、CD−R(Compact Disc Recordable)/RW(ReWritable)、DVD−R(Digital Versatile Disc Recordable)/RW/+R/+RW/RAM(Ramdom Access Memory)およびBD(Blu−Ray Disc(登録商標))―R/BD−REなどの光ディスクや、MO(Magneto Optical)ディスクなどの記憶媒体であってもよい。
【0092】
表示画面生成部230は、特定動作検出部226により特定動作が検出されると、特定動作の内容に応じた処理、あるいは表示画面の生成を行なう。例えば、表示画面生成部230は、人差し指が前方へ突き出される動きパターンが検出された場合、生成する画面を拡大してもよい。また、表示画面生成部230は、人差し指が円を描く動きパターンが検出された場合、これをクリック動作と捉え、カーソルが当てられている項目の詳細を示す表示画面を生成してもよい。
【0093】
〔1−6〕位置検出システムによる一連の動作
以上、本実施形態にかかる位置検出システム1の機能について説明した。続いて、図7を参照し、本実施形態にかかる位置検出システム1における一連の動作を説明する。
【0094】
図7は、第1の実施形態にかかる位置検出システム1において実行される位置検出方法の流れを示したフローチャートである。図7に示したように、まず、撮像装置12が投影面8の撮像を開始する(S304)。ここで、撮像装置12は、同期信号生成部120により生成された同期信号に同期して投影面8の撮像を行なう。
【0095】
また、発光制御装置16は、LED18AおよびLED18Bによる発光を、同期信号生成部120により生成された同期信号に同期して制御する(S308)。例えば、発光制御装置16は、LED18AおよびLED18Bの非発光、LED18Aのみの発光、LED18Bのみの発光を同期信号生成部120により生成された同期信号に同期して順次に切替える。
【0096】
そして、PC20の差分演算部210および投影像検出部214が、LED18AおよびLED18Bの非発光時のフレーム画像とLED18Aのみ発光時のフレーム画像の差分に基づき、投影像30Aを検出する(S312)。同様に、差分演算部210および投影像検出部214が、LED18AおよびLED18Bの非発光時のフレーム画像とLED18Bのみ発光時のフレーム画像の差分に基づき、投影像30Bを検出する(S316)。
【0097】
その後、空間位置検出部222が、検出された双方の投影像30の形成位置から、「〔1−5〕空間位置検出」で説明した方法により例えば人差し指の空間位置Pを検出する(S320)。そして、空間位置検出システム1は、S304〜S320の処理を繰り返すことにより、人差し指の空間位置Pを連続的に検出し、人差し指の空間的な動きを検出することができる。
【0098】
〔1−7〕第1の実施形態のまとめ
以上説明したように、本発明の第1の実施形態にかかる位置検出システム1は、操作主体そのものでなく、操作主体の投影像を撮像する。ここで、投影像は、操作主体そのものと比較して背景画像とのコントラスト差が大きいため、位置検出システム1は、より高い精度でフレーム画像から操作主体の投影像を検出することができる。
【0099】
また、本発明の第1の実施形態にかかる位置検出システム1は、フレーム画像の撮像タイミングに同期してLED18AおよびLED18Bによる発光を制御する。そして、本発明の第1の実施形態にかかる位置検出システム1は、LED18Aの発光時に撮像されたフレーム画像と、該フレーム画像と最も撮影時刻が近い、または同一周期の非発光時に撮像されたフレーム画像の差分を演算する。同様に、本発明の第1の実施形態にかかる位置検出システム1は、LED18Bの発光時に撮像されたフレーム画像と、該フレーム画像と最も撮影時刻が近い、または同一周期の非発光時に撮像されたフレーム画像の差分を演算する。かかる構成により、周囲の照明条件や背景画像が変化している場合であっても、継続的に投影像30Aおよび30Bを高い精度で検出することができる。
【0100】
さらに、本発明の第1の実施形態にかかる位置検出システム1は、LED18AおよびLED18Bの配置位置と、投影像30Aおよび30Bの形成位置とに基づいて、操作主体の空間位置を検出することができる。例えば、同期信号生成部120により立ち上がり回数が180回/秒である同期信号が生成された場合、本発明の第1の実施形態にかかる位置検出システム1によれば、1秒当たり60回操作主体の空間位置を検出することが可能である。さらに、本発明の第1の実施形態にかかる位置検出システム1は、継続的に操作主体の空間位置を検出することにより、操作主体の動きを検出することも可能である。
【0101】
〔1−8〕第1の実施形態の補足
なお、上述した本発明の第1の実施形態は、適宜変更して実施することが可能である。以下、本発明の第1の実施形態の変形例1および変形例2について説明する。
【0102】
(変形例1)
上記第1の実施形態では、複数のLED18AおよびLED18Bを位置検出システム1に設けることにより操作主体の空間位置を検出する例を説明したが、位置検出システム1に設けるLED18の数は2個に限られない。例えば、位置検出システム1に3個以上の多数のLED18を設けてもよい。また、部屋の天井などにLED18が設置されている場合、位置検出システム1の一部として特別にLED18を設けなくてもよい。
【0103】
また、位置検出システム1に設けるLED18の数は1個であってもよい。この場合、発光制御装置16は、LED18の発光、および非発光を同期信号生成部120により生成された同期信号に同期して切替える。そして、PC20の差分演算部210がLED18の発光時のフレーム画像および非発光時のフレーム画像の差分を演算し、投影像検出部214が演算結果から操作主体の投影像を検出する。
【0104】
そして、空間位置検出部222が、投影像検出部214により検出された投影像から、操作主体の空間位置、または2次元位置を検出する。単一の投影像から操作主体の空間位置を検出することは困難であるとも考えられるが、空間位置検出部222は、投影像の形成位置に加え、投影像の大きさの変化に基づいて操作主体の空間位置を検出し得る。
【0105】
かかる構成によれば、LED18を複数個設ける場合と比較し、1秒当たりに操作主体の空間位置を検出できる回数が増加する。例えば、同期信号生成部120により立ち上がり回数が180回/秒である同期信号が生成された場合、1秒当たり90回操作主体の空間位置を検出することが可能である。
【0106】
(変形例2)
また、上記第1の実施形態では、LED18の配置位置側から撮像装置12が投影面8を撮像する例を説明したが、図8に示すように、撮像装置12は、LED18の配置位置側の他側から投影面8を撮像してもよい。
【0107】
図8は、第1の実施形態の変形例にかかる位置検出システム2の構成を示した説明図である。図8に示したように、変形例にかかる位置検出システム2は、スクリーン9、LED18A、LED18B、撮像装置12、IR透過フィルタ14、およびプロジェクタ24を備える。
【0108】
スクリーン9は、LED18AおよびLED18Bから発せられた赤外線の少なくとも一部を裏面へ透過する性質を有する。したがって、撮像装置12は、スクリーン9の裏面から操作者の手の投影像30Aおよび30Bを撮像することができる。そして、撮像装置12により撮像されたフレーム画像が供給される位置検出装置は、操作者の手のX座標値およびY座標値に加え、Z座標値も検出することができる。
【0109】
ここで、LED18AおよびLED18Bは、必ずしも撮像装置12によるフレームの撮像タイミングに同期して発光を制御されなくてもよい。例えば、LED18AおよびLED18Bは、発光状態を維持していてもよい。この場合、位置検出装置は、フレーム画像から2の投影像30を検出する。しかし、位置検出装置は、LED18AおよびLED18Bの配置位置の関係から、いずれの投影像がLED18Aによる投影像30Aであり、いずれの投影像がLED18Bによる投影像30Bであるかを検出することができる。
【0110】
具体的には、LED18BがLED18Aより正のX方向に配置されている場合、2の投影像のうちで、X方向の形成位置が相対的に負側である投影像がLED18Bによる投影像30Bであると検出できる。同様に、X方向の形成位置が相対的に正側である投影像がLED18Aによる投影像30Aであると検出することが可能である。
【0111】
また、上記実施形態では照明条件の変化などに対応するためにLED18の発光時および非発光時のフレーム画像の差分を演算する例を説明した。しかし、空間位置の単位時間当たりの検出速度を優先する場合、LED18を非発光にする期間を設けず、また、フレーム画像の差分演算を省略してもよい。
【0112】
〔2〕第2の実施形態
以上、本発明の第1の実施形態にかかる位置検出システム1について説明した。続いて、本発明の第2の実施形態に至った経緯を説明した後に、図9〜図14を参照して本発明の第2の実施形態について説明する。
【0113】
〔2−1〕第2の実施形態に至る経緯
従来より、撮像装置により操作者を撮像し、撮像された画像から操作主体を抽出し、抽出した操作主体の動き(ジェスチャー)を入力操作として検出するインターフェースが多く提案されている。ここで、操作主体としては、先細な立体的形状を有する操作者の指や、指し棒などが想定される。
【0114】
かかるインターフェースにおいて操作者の入力操作を適切に検出するためには、操作者の指や、指し棒などの特定の立体的形状を有する物体を背景画像から効率的、かつ正確に抽出することが重要であった。しかし、撮像される画像はあくまで2次元であるため、撮像された画像から特定の立体的形状を有する物体を抽出することは困難であった。
【0115】
そこで、上記事情を一着眼点にして本発明の第2の実施形態にかかる先端検出システム4を創作するに至った。本発明の第2の実施形態にかかる先端検出システム4によれば、特定の立体的形状を有する物体の先端を検出することが可能である。以下、このような本実施形態にかかる先端検出システム4について説明する。
【0116】
〔2−2〕第2の実施形態にかかる先端検出システムの概要
図9および図10は、本発明の第2の実施形態にかかる先端検出システム4の構成例を示した外観図である。図9に示したように、本実施形態にかかる先端検出システム4(物体判断システム)は、撮像装置12と、IR透過フィルタ14と、発光制御装置16と、LED18Aと、LED18Bと、PC21と、を備える。なお、図10は、図9に示した先端検出システム4をZ方向側を視点として場合の平面図である。
【0117】
図10に示したように、LED18AおよびLED18Bは、各々の赤外線の発光方向が交差するように配置されている。その結果、LED18Aにより発せられる赤外線とLED18Bにより発せられる赤外線との交差範囲が形成され、当該交差範囲を図10において実線で囲って示している。
【0118】
撮像装置12は、第1の実施形態と実質的に同一に構成される。ただし、本実施形態にかかる撮像装置12は、撮像対象が第1の実施形態と異なる。具体的には、本実施形態にかかる撮像装置12は、LED18AおよびLED18Bが発する赤外線の交差範囲を撮像対象とする。また、撮像装置12には、赤外線を透過させるIR透過フィルタ14が装着されており、撮像装置12は、IR透過フィルタ14を介して赤外線の交差範囲を撮像する。したがって、撮像装置12により得られるフレーム画像には、赤外線の交差範囲における赤外線の受光部位が示される。また、撮像装置12は、撮像したフレーム画像を任意の通信方式によりPC20へ送信する。
【0119】
発光制御装置16は、第1の実施形態と同様に、LED18AおよびLED18Bにおける発光を制御する制御装置として機能する。より詳細には、発光制御装置16は、撮像装置12により生成された同期信号が入力され、当該同期信号に基づいてLED18AおよびLED18Bにおける発光を制御する。例えば、発光制御装置16は、同期信号の立ち上がりにおいて、LED18Aの発光、LED18Bの発光、LED18AおよびLED18Bの非発光を切替えてもよい。
【0120】
〔2−3〕フレーム画像からの先端検出
次に、図11〜図13を参照し、本実施形態によるフレーム画像からの先端検出について説明する。
【0121】
図11は、本発明の第2の実施形態にかかるPC21の構成を示した機能ブロック図である。図11に示したように、本実施形態にかかるPC21(物体判断装置)は、表示部234、無線通信部250、受光部位検出部264、近接パターン判断部268、記憶部272、入力内容判断部276、および表示画面生成部280を備える。無線通信部250および表示部234の機能は、第1の実施形態で説明した内容と実質的に同一であるため、説明を省略する。
【0122】
受光部位検出部264は、LED18Aの発光時に撮像されたフレーム画像、およびLED18Bの発光時に撮像されたフレーム画像から、赤外線の受光部位を検出する。かかる受光部位検出部264による受光部位の検出について、図12を参照して説明する。
【0123】
図12は、各発光状態において撮像されたフレーム画像の具体例を示した説明図である。より詳細には、図12の上段はLED18Aのみ発光時のフレーム画像を示し、図12の中段はLED18Bのみ発光時のフレーム画像を示し、図12の下段は双方のLED18が発光していた場合に想定されるフレーム画像を示している。
【0124】
図10に示したように赤外線の交差範囲に人差し指が存在する場合、LED18Aのみ発光時には、人差し指のLED18A側の側面が赤外線を受光し、LED18B側の側面は赤外線を受光しない。したがって、LED18Aのみ発光時に撮像されたフレーム画像は、図12の上段に示した人差し指のLED18A側の側面に対応する受光部位32Aを含む。
【0125】
一方、LED18Bのみ発光時には、人差し指のLED18B側の側面が赤外線を受光し、LED18A側の側面は赤外線を受光しない。したがって、LED18Bのみ発光時に撮像されたフレーム画像は、図12の中段に示した人差し指のLED18B側の側面に対応する受光部位32Bを含む。
【0126】
受光部位検出部264は、このようなフレーム画像から、受光部位32Aおよび受光部位32Bを抽出する。具体的には、第1の実施形態において説明したように、受光部位検出部264は、双方のLED18の非発光時に撮像されたフレーム画像と、LED18Aのみ発光時に撮像されたフレーム画像との差分に基づいて受光部位32Aを検出する。同様に、受光部位検出部264は、双方のLED18の非発光時に撮像されたフレーム画像と、LED18Bのみ発光時に撮像されたフレーム画像との差分に基づいて受光部位32Bを検出する。
【0127】
近接パターン判断部268は、受光部位検出部264により検出された受光部位32Aおよび受光部位32Bの近接度に応じ、赤外線の交差範囲に存在する物体の物理的形状に関する判断を行なう判断部としての機能を有する。
【0128】
例えば、赤外線の交差範囲に人差し指などの先細の物体が存在する場合、物体の一側の側面がLED18Aから発光される赤外線を受光し、他側の側面がLED18Bから発光される赤外線を受光する。また、人差し指などの先細の物体は、一側の側面と他側の側面が近接している。したがって、近接パターン判断部268は、フレーム画像における受光部位32Aおよび受光部位32Bが近接する場合、赤外線の交差範囲に人体の指や指し棒などの先細の物体が存在すると判断する。近接パターン判断部268は、このように受光部位の近接度に基づき、赤外線の交差範囲に存在する指の本数を検出することも可能である。
【0129】
一方、赤外線の交差範囲に人体の拳が存在する場合、図13に示すようなフレーム画像が撮像される。
【0130】
図13は、フレーム画像の他の具体例を示した説明図である。より詳細には、図13の上段はLED18Aのみ発光時のフレーム画像を示し、図13の下段はLED18Bのみ発光時のフレーム画像を示している。
【0131】
人体の拳の形状は、拳の上方を視点とすると、台形の一部分に近似すると捉えることができる。ここで、台形の上辺が人差し指から小指の付け根に対応し、斜辺が小指外側の付け根から手首方向への部分、および人差し指外側の付け根から親指方向への部分に対応する。
【0132】
このため、赤外線の交差範囲に人体の拳が存在した場合、LED18Aのみ発光時には、拳のLED18A側の側面である人差し指の外側付近が赤外線を受光し、その他の部分はLED18A側の側面と比較して赤外線の受光量が少ない。したがって、LED18Aのみ発光時に撮像されたフレーム画像は、図13の上段に示した拳のLED18A側の側面に対応する受光部位34Aを含む。
【0133】
一方、LED18Bのみ発光時には、拳のLED18B側の側面である小指の外側付近が赤外線を受光し、その他の部分はLED18B側の側面と比較して赤外線の受光量が少ない。したがって、LED18Bのみ発光時に撮像されたフレーム画像は、図13の下段に示した拳のLED18B側の側面に対応する受光部位34Bを含む。
【0134】
そして、近接パターン判断部268は、図13に示したように受光部位34Aおよび34Bが間隔を有する場合、赤外線の交差範囲に存在する物体が先細の度合いが低い人体の拳などであると判断する。
【0135】
さらに、近接パターン判断部268は、LED18Aのみ発光時の受光部位とLED18Bのみ発光時の受光部位の一致部分が大きい場合、赤外線の交差範囲に存在する物体が手の平などの平面的な物体であると判断してもよい。
【0136】
入力内容判断部276は、近接パターン判断部268による判断結果と、フレーム画像における受光部位の位置または動きの組合せに基づき、操作主体からの入力内容を判断する。具体的には、記憶部272には、物体、フレーム画像における受光部位の位置または動き、および入力内容が対応付けて記憶されており、入力内容判断部276は、上記組合せに対応する入力内容を記憶部272から読み出してもよい。例えば、記憶部272においては、人差し指による円運動と、拳による円運動などで異なる入力内容が対応付けられていてもよい。
【0137】
表示画面生成部280は、入力内容判断部276により判断された操作主体による入力内容を反映させた表示画面を生成する。表示画面生成部280により生成された表示画面は、表示部234に表示され、操作者は入力操作が受け入れられたか否かを把握できる。
【0138】
〔2−4〕先端検出システムによる一連の動作
以上、本発明の第2の実施形態にかかる先端検出システム4について説明した。続いて、図14を参照し、本発明の第2の実施形態にかかる先端検出システム4における一連の動作を説明する。
【0139】
図14は、本発明の第2の実施形態にかかる先端検出システム4において実行される物体判断方法の流れを示したフローチャートである。図14に示したように、まず、撮像装置12が赤外線の交差範囲の撮像を開始する(S404)。ここで、撮像装置12は、同期信号生成部120により生成された同期信号に同期して赤外線の交差範囲の撮像を行なう。
【0140】
また、発光制御装置16は、LED18AおよびLED18Bによる発光を、同期信号生成部120により生成された同期信号に同期して制御する(S408)。例えば、発光制御装置16は、LED18AおよびLED18Bの非発光、LED18Aのみの発光、LED18Bのみの発光を同期信号生成部120により生成された同期信号に同期して順次に切替える。
【0141】
そして、PC21の受光部位検出部264が、LED18AおよびLED18Bの非発光時のフレーム画像とLED18Aのみ発光時のフレーム画像の差分に基づき、フレーム画像における受光部位を検出する(S412)。同様に、受光部位検出部264が、LED18AおよびLED18Bの非発光時のフレーム画像とLED18Bのみ発光時のフレーム画像の差分に基づき、フレーム画像における受光部位を検出する(S416)。
【0142】
続いて、近接パターン判断部268は、双方の受光部位が一致するか否かを判断し(S420)、一致する場合には交差範囲に存在する物体が平面的な形状を有すると判断する(S424)。一方、近接パターン判断部268は、双方の受光部位が一致しないものの(S420)、双方の受光部位が近接するか否かを判断する(S428)。
【0143】
そして、近接パターン判断部268は、双方の受光部位が近接しない場合、交差範囲に存在する物体が拳などの先細の度合いが低い形状であると判断する(S432)。一方、近接パターン判断部268は、双方の受光部位が近接する場合、交差範囲に存在する物体が指先などの先細の度合いが高い形状であると判断する(S436)。
【0144】
〔2−5〕第2の実施形態のまとめ
以上説明したように、本発明の第2の実施形態においては、物体におけるLED18Aによる受光部位、およびLED18Bによる受光部位の近接度に応じ、物体の物理的形状に関する判断を行なうことができる。
【0145】
また、本発明の第2の実施形態にかかる先端検出システム4は、フレーム画像の撮像タイミングに同期してLED18AおよびLED18Bによる発光を制御する。そして、本発明の第2の実施形態にかかる先端検出システム4は、LED18Aの発光時に撮像されたフレーム画像と、該フレーム画像と最も撮影時刻が近い、または同一周期の非発光時に撮像されたフレーム画像の差分を演算する。同様に、本発明の第2の実施形態にかかる先端検出システム4は、LED18Bの発光時に撮像されたフレーム画像と、該フレーム画像と最も撮影時刻が近い、または同一周期の非発光時に撮像されたフレーム画像の差分を演算する。かかる構成により、周囲の照明条件や背景画像が変化している場合であっても、継続的に受光部位を高い精度で検出することができる。
【0146】
〔2−6〕第2の実施形態の補足
なお、上述した本発明の第2の実施形態は、適宜変更して実施することが可能である。例えば、上記第2の実施形態では、2のLED18AおよびLED18Bを水平方向に離隔して配し、LED18AおよびLED18Bが発する赤外線を交差させる例を説明したが、本発明はかかる例に限定されない。例えば、2のLED18AおよびLED18Bを、垂直方向に離隔して配し、LED18AおよびLED18Bが発する赤外線を交差させてもよい。さらに、4つ以上のLED18を垂直方向、および水平方向に離隔して配してもよい。かかる構成においても、各LEDの発光時の受光部位の近接度に基づいて、赤外線の交差範囲に存在する物体の形状をより精密に判断することが可能となる。
【0147】
〔3〕全体補足
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0148】
例えば、上記説明では、操作者の一方の手の位置を検出する場合を説明したが、操作者の両手の位置を検出することも同様に可能である。この場合、位置検出装置は、1のフレーム画像における2の投影像の位置関係、または形状に基づいて各々の投影像がいずれの手の投影像であるかを判断してもよい。
【0149】
また、本明細書の位置検出システム1および先端検出システム4の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、位置検出システム1および先端検出システム4における各ステップは、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)を含んでもよい。
【0150】
また、発光制御装置16、PC20、およびPC21に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した発光制御装置16、PC20、およびPC21の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。また、図5および図11の機能ブロック図で示したそれぞれの機能ブロックをハードウェアで構成することで、一連の処理をハードウェアで実現することもできる。
【符号の説明】
【0151】
8 投影面
10 画像送信装置
12 撮像装置
14 IR透過フィルタ
16 発光制御装置
18、18A、18B LED
20、21 PC
110 撮像素子
120 同期信号生成部
210 差分演算部
214 投影像検出部
222 空間位置検出部
226 特定動作検出部
230 表示画面生成部
264 受光部位検出部
268 近接パターン判断部


【特許請求の範囲】
【請求項1】
所定方向に電磁波を発する第1の電磁波発生装置と;
前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置と;
前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像する、第1の電磁波発生装置および第2の電磁波発生装置により発せられる電磁波を撮像可能な撮像装置と;
前記第1の電磁波発生装置および前記第2の電磁波発生装置による電磁波の発生を切替える制御装置と;
前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から、前記第1の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から、前記第2の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出する受波部位検出部、および、前記第1の画像および前記第2の画像から検出された受波部位の近接度に応じ、前記物体の物理的形状に関する判断を行なう判断部、を有する判断装置と;
を備える、物体判断システム。
【請求項2】
前記撮像装置は、所定の同期信号に同期してフレーム画像の各々を撮像し、
前記制御装置は、前記同期信号に同期して前記電磁波発生装置による電磁波の発生を制御する、請求項1に記載の物体判断システム。
【請求項3】
前記制御装置は、前記第1の電磁波発生装置による電磁波の発生、前記第2の電磁波発生装置による電磁波の発生、および前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生の切替えを周期的に行い、
前記受波部位検出部は、
前記第1の画像と、前記第1の画像と同一周期であって前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生時に撮像された画像との差分に基づいて前記物体における前記受波部位を検出し、
前記第2の画像と、前記第2の画像と同一周期であって前記第1の電磁波発生装置および前記第2の電磁波発生装置における電磁波の非発生時に撮像された画像との差分に基づいて前記物体における前記受波部位を検出する、請求項2に記載の物体判断システム。
【請求項4】
前記物体判断システムは、前記第1の電磁波発生装置および前記第2の電磁波発生装置から発せられる電磁波の波長成分を通過させるフィルタをさらに備え、
前記撮像装置は、前記フィルタを介して前記物体を撮像する、請求項3に記載の物体判断システム。
【請求項5】
前記第1の電磁波発生装置および前記第2の電磁波発生装置は、赤外線または可視光線を発する、請求項4に記載の物体判断システム。
【請求項6】
所定方向に撮像可能な電磁波を発する第1の電磁波発生装置、および前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置による電磁波の発生を切替えるステップと;
前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像するステップと;
前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から、前記第1の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から、前記第2の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出するステップと;
前記第1の画像および前記第2の画像から検出された受波部位の近接度に応じ、前記物体の物理的形状に関する判断を行なうステップと;
を含む、物体判断方法。
【請求項7】
コンピュータを、
所定方向に撮像可能な電磁波を発する第1の電磁波発生装置、および前記第1の電磁波発生装置から発せられる電磁波と交差する方向に電磁波を発する第2の電磁波発生装置による電磁波の発生を切替える制御部と;
前記第1の電磁波発生装置から発せられる電磁波と前記第2の電磁波発生装置から発せられる電磁波の交差範囲に存在する物体を撮像する撮像装置により前記第1の電磁波発生装置による電磁波の発生時に撮像された第1の画像から、前記第1の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出し、前記第2の電磁波発生装置による電磁波の発生時に撮像された第2の画像から、前記第2の電磁波発生装置により発せられた電磁波の前記物体における受波部位を検出する受波部位検出部と;
前記第1の画像および前記第2の画像から検出された受波部位の近接度に応じ、前記物体の物理的形状に関する判断を行なう判断部と;
として機能させるための、プログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2010−210646(P2010−210646A)
【公開日】平成22年9月24日(2010.9.24)
【国際特許分類】
【出願番号】特願2010−149108(P2010−149108)
【出願日】平成22年6月30日(2010.6.30)
【分割の表示】特願2008−98615(P2008−98615)の分割
【原出願日】平成20年4月4日(2008.4.4)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】