説明

投影装置、投影方法、及びプログラム

【課題】投影装置を用いる環境下でも、投影装置に対して、使用者のポスチャ又はジェスチャ等を精度良く認識させる。
【解決手段】第1のLEDは、被写体に対して第1の波長の光を照射し、第2のLEDは、被写体に対して第1の波長よりも長波長である第2の波長の光を照射し、撮像素子は、被写体の撮像を行ない、画像処理部は、第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び被写体に対して第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、被写体の肌領域を検出し、投影部は、画像処理部の検出結果に応じて変更される投影画像を投影する。本開示は、例えば、プロジェクタ等に適用できる。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、投影装置、投影方法、及びプログラムに関し、特に、例えば、プロジェクタ等の投影装置が使用される環境下で、使用者のポスチャ又はジェスチャ等を認識できるようにした投影装置、投影方法、及びプログラムに関する。
【背景技術】
【0002】
被写体を撮像して得られる撮像画像上から、人間のポスチャ(姿勢)又はジェスチャ(動作)を認識する認識技術が存在する。
【0003】
この認識技術では、撮像画像上の人間の手等を、パターンマッチング等により検出し、その検出結果に基づいて、人間のポスチャ又はジェスチャを認識する(例えば、特許文献1参照)。
【0004】
なお、パターンマッチングとは、例えば、人間の手の形状を表すパターン画像を、撮像画像上の各領域と比較し、パターン画像と最も類似するとの比較結果を得た領域に、人間の手が存在することを検出する技術をいう。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2004−302992号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述の認識技術では、例えば、被写体を照らす照明が十分ではない(暗い)場合には、周囲の暗闇にまみれて、被写体が撮像画像上に写らないことが生じ得る。
【0007】
この場合、撮像画像上には人間の手等が写っていないことになるので、上述のパターンマッチング等により人間の手等を検出することができない。
【0008】
したがって、例えば、プロジェクタ等の投影装置を、使用者のポスチャやジェスチャ等で制御するような場合、その用いる環境下では、投影装置から投影される投影範囲以外の空間が真っ暗となる場合も多く、上述の認識技術を用いて、人間のポスチャ又はジェスチャを認識することは困難である。
【0009】
本開示は、このような状況に鑑みてなされたものであり、投影装置を用いる環境下でも、投影装置に対して、使用者のポスチャ又はジェスチャ等を精度良く認識させるようにするものである。
【課題を解決するための手段】
【0010】
本開示の一側面の投影装置は、被写体に対して第1の波長の光を照射する第1の照射部と、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射する第2の照射部と、前記被写体の撮像を行なう撮像部と、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出部と、前記検出部の検出結果に応じて変更される投影画像を投影する投影部とを含む投影装置である。
【0011】
前記撮像部では、前記投影画像が投影される投影範囲を含む撮像範囲で、前記被写体の撮像を行うことができる。
【0012】
前記撮像部の撮像により得られる撮像画像上の前記投影範囲を算出する算出部をさらに設けることができる。
【0013】
前記投影部では、前記投影範囲の輪郭を表す輪郭投影画像も投影し、前記算出部では、前記輪郭投影画像が投影されたときの撮像で得られる前記撮像画像上の前記投影範囲を算出することができる。
【0014】
前記第1の照射部では、前記第1の波長の不可視光を照射し、前記第2の照射部では、前記第2の波長の不可視光を照射し、前記投影部では、前記輪郭投影画像を、少なくとも可視光を含む投影光、又は不可視光の一方として投影することができる。
【0015】
前記投影部では、前記輪郭投影画像を、前記投影光として投影し、前記撮像部では、可視光を遮断する可視光遮断部が設けられた第1の受光素子と、前記可視光遮断部が設けられていない第2の受光素子とにより構成される撮像素子を有し、前記第1の受光素子により、前記第1及び第2の撮像画像を生成し、前記第2の受光素子により、前記パターン画像を生成することができる。
【0016】
前記投影部では、前記輪郭投影画像を不可視光として投影し、前記撮像部では、可視光を遮断する可視光遮断部が設けられた撮像素子を有し、前記撮像素子により、前記第1及び第2の撮像画像の他、前記パターン画像も生成することができる。
【0017】
可視光を遮断する可視光遮断部と、前記輪郭投影画像として、前記投影光が投影されるときに、前記撮像素子に可視光が入射されるように前記可視光遮断部を移動させ、前記第1の波長の光、又は前記第2の波長の光が照射されるときに、前記撮像素子に可視光が入射されないように前記可視光遮断部を移動させる移動制御部とをさらに設けることができる。
【0018】
前記投影部では、予め決められた方向から入射される光を、前記投影範囲に反射させる反射部を有し、前記第1の照射部では、前記第1の波長の光を、前記反射部に反射させて前記投影範囲に照射し、前記第2の照射部では、前記第2の波長の光を、前記反射部に反射させて前記投影範囲に照射することができる。
【0019】
前記第1の照射部では、前記第1の波長の光を、各画素値が均一な投影画像として反射させる前記反射部に反射させて前記投影範囲に照射し、前記第2の照射部では、前記第2の波長の光を、各画素値が均一な投影画像として反射させる前記反射部に反射させて前記投影範囲に照射することができる。
【0020】
前記第1の照射部から照射される前記第1の波長の光を、第1の偏光、又は前記第1の偏光とは異なる第2の偏光のうち、前記反射部で反射される前記第1の偏光に変換する第1の偏光変換部と、前記第2の照射部から照射される前記第2の波長の光を、前記第1の偏光又は前記第2の偏光のうち、前記反射部で反射される前記第1の偏光に変換する第2の偏光変換部とをさらに設けることができる。
【0021】
前記投影装置の動きを検知する動き検知部をさらに設けることができ、前記算出部では、前記動き検知部により、前記投影装置の動きが検知された場合にも、前記撮像画像上の前記投影範囲を算出することができる。
【0022】
前記投影部では、前記投影範囲のうち、前記肌領域の検出された部分を除く範囲に、前記投影画像を投影することができる。
【0023】
前記撮像部では、撮像方向を変更可能であるようにすることができる。
【0024】
前記肌領域が検出された前記撮像画像上の第1の位置を、前記撮像部の撮像方向に応じた第2の位置に変換する位置変換部をさらに設けることができ、前記投影部では、前記第2の位置に応じて変更された前記投影画像を投影することができる。
【0025】
前記第1の照射部では、前記第1の波長の光を前記投影範囲に照射し、前記第2の照射部では、前記第2の波長の光を前記投影範囲に照射し、前記検出部では、前記第1の撮像画像及び前記第2の撮像画像に基づいて、前記投射範囲内の前記肌領域を検出することができる。
【0026】
前記第1の波長λ1、及び前記第2の波長λ2は、
640nm ≦ λ1 ≦ 1000nm
900nm ≦ λ2 ≦ 1100nm
を満たすようにすることができる。
【0027】
前記第1の照射部では、前記第1の波長λ1の不可視光を照射し、前記第2の照射部では、前記第2の波長λ2の不可視光を照射することができる。
前記投影範囲における前記検出結果を、前記投影範囲内の位置に応じた信号として出力する出力部をさらに設けることができる。
【0028】
本開示の一側面の投影方法は、投影装置の投影方法であって、前記投影装置による、被写体に対して第1の波長の光を照射する第1の照射ステップと、前記第1の波長の光を照射させたときの前記被写体の撮像を行なう第1の撮像ステップと、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射する第2の照射ステップと、前記第2の波長の光を照射させたときの前記被写体の撮像を行なう第2の撮像ステップと、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出ステップと、前記検出ステップの検出結果に応じて変更される投影画像を投影する投影ステップとを含む投影方法である。
【0029】
本開示の一側面のプログラムは、コンピュータに、被写体に対して第1の波長の光を照射させる第1の照射ステップと、前記第1の波長の光を照射させたときの前記被写体の撮像を行なわせる第1の撮像ステップと、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射させる第2の照射ステップと、前記第2の波長の光を照射させたときの前記被写体の撮像を行なわせる第2の撮像ステップと、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出ステップと、前記検出ステップの検出結果に応じて変更される投影画像を投影させる投影ステップとを含む処理を実行させるためのプログラムである。
【0030】
本開示の一側面によれば、被写体に対して第1の波長の光が照射され、前記第1の波長の光を照射させたときの前記被写体の撮像が行なわれ、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光が照射され、前記第2の波長の光を照射させたときの前記被写体の撮像が行なわれ、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域が検出され、その検出結果に応じて変更される投影画像が投影される。
【発明の効果】
【0031】
本開示によれば、投影装置を用いる環境下でも、投影装置に対して、使用者のポスチャ又はジェスチャ等を精度良く認識させることが可能となる。
【図面の簡単な説明】
【0032】
【図1】本開示におけるプロジェクタの構成例を示すブロック図である。
【図2】キャリブレーション処理を説明するための図である。
【図3】プロジェクタに含まれる肌検出部及び投影部の詳細な第1の構成例を示す図である。
【図4】人間の肌に対する分光反射特性を示す図である。
【図5】図3の肌検出部が行うジェスチャ認識処理を説明するためのフローチャートである。
【図6】図3の投影部が行う投影処理を説明するためのフローチャートである。
【図7】プロジェクタに含まれる肌検出部及び投影部の詳細な第2の構成例を示す図である。
【図8】プロジェクタに含まれる肌検出部及び投影部の詳細な第3の構成例を示す図である。
【図9】図8の肌検出部及び投影部が行なうジェスチャ認識投影処理を説明するためのフローチャートである。
【図10】コンピュータの構成例を示すブロック図である。
【発明を実施するための形態】
【0033】
以下、本開示における実施の形態(以下、実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(人間のジェスチャ等を検知可能なジェスチャ検知可能範囲内に、プロジェクタにより投影される投影範囲が含まれるときの一例)
2.第2の実施の形態(ジェスチャ検知可能範囲と投影範囲とが一致するときの一例)
3.第3の実施の形態(ジェスチャ検知可能範囲と投影範囲とが一致するときの他の一例)
4.変形例
【0034】
<1.第1の実施の形態>
[プロジェクタ21の構成例]
図1は、第1の実施の形態であるプロジェクタ21の構成例を示している。
【0035】
なお、このプロジェクタ21は、例えば、パーソナルコンピュータ22と接続可能とされており、接続されたパーソナルコンピュータ22から供給される投影画像を投影する他、使用者のジャスチャやポスチャに応じた入力操作により操作可能なものである。
【0036】
プロジェクタ21は、肌検出部41、投影部42、制御部43、及び操作部44から構成される。なお、図1では、制御信号の流れを点線で表し、データ信号の流れを実線で表すようにしている。このことは、後述する図3、図7及び図8でも同様である。
【0037】
肌検出部41は、例えば、図1に示されるようなジェスチャ検知可能範囲で行われる使用者のジェスチャやポスチャ(以下、ジェスチャ等という)を検知し、その検知結果を、パーソナルコンピュータ22に供給する。なお、後述するが、肌検出部41は、ジェスチャ検知可能範囲を、撮像範囲として撮像を行い、その撮像により得られる撮像画像に基づいて、使用者のジェスチャ等を検知する。
【0038】
また、肌検出部41は、使用者のジェスチャ等を検知する前に、ジェスチャ検知可能範囲内のいずれの領域に、投影部42により投影画像が投影される範囲を表す投影範囲が含まれるかを検出するキャリブレーション処理を行う。このキャリブレーション処理は、後述する図2を参照して詳述する。
【0039】
肌検出部41は、検知されたジェスチャ等が、投影範囲内で検知されたかものであるか否かを判定し、その判定結果も、検知結果とともに、パーソナルコンピュータ22に供給する。
【0040】
このため、例えば、パーソナルコンピュータ22では、検知結果として、同一のジェスチャ等が供給された場合でも、投影範囲内で検知されたものであるか否かに応じて異なる処理を行うようにすることができる。
【0041】
すなわち、例えば、パーソナルコンピュータ22は、投影範囲内で、使用者の手が検知されたことを表す検知結果が供給された場合、投影部42を制御して、その検知結果に基づく投影画像を投影させる。
【0042】
具体的には、例えば、パーソナルコンピュータ22は、使用者の手が検知された位置に対応する投影画像上の位置に、カーソル等が表示された投影画像を投影させる。
また例えば、パーソナルコンピュータ22は、使用者の手が検出された位置に対応する、投影画像上のアイコンをハイライトさせることができる。
さらに、例えば、そのまま所定時間、使用者の手がアイコン上にとどまった場合、つまり、使用者の手が、検出された位置で所定時間とどまった場合、使用者の手が検出された位置に対応する、投影画像上のアイコンが選択されたものと判断して、対応する投影画像を投影させる。
この場合、検出され制御に用いられる手や指は1つであるとは限らない。例えば投影画面上に両手が検出され、両手の間の距離が拡大したときは、両手の間の距離に応じて拡大された投影画像を投影させるようにしてもよい。
【0043】
また、例えば、パーソナルコンピュータ22は、ジェスチャ検知可能範囲のうち、投影範囲とは異なる範囲内で、使用者の手が検知されたことを表す検知結果が供給された場合、投影部42を制御して、その検知結果に基づく投影画像を投影させる。
【0044】
具体的には、例えば、パーソナルコンピュータ22は、カーソル等を表示しない投影画像を投影させる。
なお、肌検出部41は、検知結果等を、パーソナルコンピュータ22に出力するようにしている。そして、パーソナルコンピュータ22は、肌検出部41からの検知結果等に応じて、投影される投影画像を変更しているが、これに限定されない。
すなわち、例えば、肌検出部41は、検知結果等に応じて、投影画像に表示させるカーソル等の座標(位置)を算出し、算出した座標をパーソナルコンピュータ22に出力してもよい。
この場合、パーソナルコンピュータ22は、肌検出部41からの座標にカーソル等が表示される投影画像を投影させることとなる。
なお、肌検出部41は、カーソル等の座標に代えて、前回のカーソル等の座標と、今回のカーソル等の座標との変化値を算出し、算出した変化値をパーソナルコンピュータ22に出力してもよい。
この場合、パーソナルコンピュータ22は、肌検出部41からの変化値に基づき、カーソル等の座標を算出し、算出した座標にカーソル等が表示される投影画像を投影させることとなる。
また、例えば、プロジェクタ21に内蔵のメモリ(図示せず)や、プロジェクタ21に外部から接続されたメモリースティック等に記憶されている画像を、投影画像として投影させる場合、パーソナルコンピュータ22を介さずに、投影させることができる。
すなわち、例えば、肌検出部41は、検知結果等基づいて、上述したパーソナルコンピュータ22と同様にして、投影画像を変更させるように投影部42を制御して、投影部42から変更後の投影画像を投影させる。
【0045】
投影部42は、例えば、接続されたパーソナルコンピュータ22からの投影画像を、図1に示されるような投影範囲に投影する。図1では、投影範囲は、ジェスチャ検知可能範囲内とされているが、投影範囲は、これに限定されない。
【0046】
すなわち、例えば、投影範囲は、ジェスチャ検知可能範囲内に全て含まれる範囲とされる他、ジェスチャ検知可能範囲内に一部だけ含まれる範囲、又はジャスチャ可能範囲内に全く含まれない範囲とされるようにしてもよい。なお、投影範囲とジェスチャ検知可能範囲とが同一とされる場合については、図7及び図8を参照して後述する。
【0047】
制御部43は、例えば、操作部44からの操作信号に基づいて、肌検出部41及び投影部42を制御する。
【0048】
操作部44は、例えば、操作ボタン等からなり、使用者に操作されたことに対応して、使用者の操作に対応する操作信号を、制御部43に供給する。
【0049】
[キャリブレーション処理の詳細]
次に、図2を参照して、肌検出部41が行なうキャリブレーション処理の一例を説明する。
【0050】
図2は、4隅の部分のみ高輝度値とされた輪郭投影画像が投影されている状態で、ジェスチャ検知可能範囲を撮像範囲として撮像した場合に得られる撮像画像I_patternの一例を示している。なお、輪郭投影画像とは、例えば、高輝度値とされた4隅の部分により、投影範囲の輪郭を表す画像をいうが、これには限定されない。すなわち例えば高輝度値とされた4辺により投影画像の輪郭を表してもよいし、単純に画面全面を高輝度値とした四角形により投影画像の輪郭を表してもよい。
【0051】
ここで、プロジェクタ21は、一般的に、室内の照明を暗くした状態で使用される。したがって、図2に示される撮像画像I_patternは、暗闇の中、投影部42により輪郭投影画像が投影された状態で、肌検出部41の内蔵するカメラ(図3の撮像素子63及びレンズ64等)の撮像により取得される。
【0052】
したがって、撮像画像I_patternでは、白丸で示す部分(輪郭投影画像の4隅の部分に対応)の輝度値は高いものとなっており、それ以外の部分の輝度値は低いものとなっている。
ここでレンズ64の前面には可視光カットフィルタ65が移動可能に配置されている。撮像素子63は一般的に、可視光と、肌検出用にLED62a、62bから照射される不可視光である近赤外光の両方に感度をもつため、可視光カットフィルタは可視光が撮像素子に入射するのを防止して、肌検出の精度を向上させるためのものである。しかし投影画像は可視光であり、輪郭投影画像もこの構成では可視光となるので、輪郭投影画像を取得する際には可視光カットフィルタ65を移動させて、撮像素子が可視光からなる輪郭投影画像を取得できるようにする。
【0053】
キャリブレーション処理では、撮像画像内の投影画像の位置や大きさを算出する。撮像画像内の投影画像は、プロジェクタ21と投影画像を投影するスクリーンの相対位置や角度により変化するので、これらが変化した場合にはキャリブレーション処理を行なうとよい。
キャリブレーション処理は、例えば、使用者が、操作部44を操作して、プロジェクタ21の電源をオンする電源オン操作をしたときに開始される。このとき、操作部44は、使用者の電源オン操作に対応する操作信号を、制御部43に供給する。
【0054】
制御部43は、操作部44からの操作信号に対応して、肌検出部41及び投影部42を制御して、キャリブレーション処理を行わせる。またプロジェクタ21に
プロジェクタ21の動きを検出するセンサを設けて、プロジェクタの移動や傾きの変化を検出したら自動的にキャリブレーション処理を行なうようにしてもよい。
【0055】
すなわち、例えば、投影部42は、制御部43からの制御にしたがって、輪郭投影画像を、投影範囲に投影する。
【0056】
また、肌検出部41は、輪郭投影画像が投影範囲に投影された状態で、ジェスチャ検知可能範囲を、撮像範囲として撮像する。なお、肌検出部41は、撮像を行なうカメラを有する。肌検出部41の詳細は、例えば図3を参照して詳述する。
【0057】
肌検出部41は、その撮像により、例えば、図2に示されるような撮像画像I_patternを取得する。
【0058】
肌検出部41は、図2に示されるような撮像画像I_patternに基づいて、ジェスチャ検知可能範囲のうち、投影範囲とされる部分を検出する。
【0059】
すなわち、例えば、肌検出部41は、図2に示されるような撮像画像I_patternを構成する各画素の輝度値が、予め決められた閾値以上であるか否かに応じて、高輝度値の画素(図2において白色で示される部分)を検出する。
【0060】
また、肌検出部41は、検出される高輝度値の画素を角とする矩形を、投影範囲として検出し、その検出結果に基づいて、撮像画像上の投影範囲の位置や大きさを算出する。
なお、ここで投影部42と投影画像が投影されるスクリーンが斜めに配置されている場合、すなわち、例えば、垂直に設置されたスクリーンの前面上部に投影部42が設置された場合、投影画像は長方形にならず台形になってしまう。
この台形に歪んだ投影画像を画像処理により長方形にする補正はキーストーン補正とも呼ばれる。キーストーン補正を行なった場合には、補正後にキャリブレーション処理を行なって、撮像画像I_patternに基づいて、ジェスチャ検知可能範囲のうち、投影範囲とされる部分を検出するようにしてもよい。
なお、キーストーン補正では、例えば、アフィン変換等を用いて、投影画像の形状を、台形から長方形に補正する。
【0061】
そして、肌検出部41は、算出した撮像画像上の投影範囲の位置や大きさを表す投影範囲情報を、肌検出部41の内蔵する図示せぬメモリ等に保持する。なお、この投影範囲情報は、使用者のジェスチャ等が、投影範囲内で検知されたか否かを判定するために用いられる。
【0062】
ところで、投影部42は、4隅の部分のみ高輝度値とされた輪郭投影画像を投影するようにしたが、その他、例えば、4隅のうち、投影範囲の対角線上の2隅のみ高輝度値とされた輪郭投影画像を投影するようにしてもよい。
【0063】
すなわち、輪郭投影画像は、投影範囲の輪郭を表す投影画像であれば、どのような投影画像であってもよい。
また、撮像画像上の投影範囲情報を取得するために、操作者のジェスチャ操作を利用することもできる。例えば4隅の部分のみ高輝度化された輪郭投影画像を投影した状態で、操作者が4隅の高輝度化された部分に手や指を順に所定時間置くような指示をプロジェクタから投影画面に出すようにしてもよい。例えば操作者の指先を肌検出により検出し、操作者が指差した4隅を頂点とする四角形を輪郭投影画像として認識するようにしてもよい。
この方法では撮像素子63の前面の可視光カットフィルタを移動する必要がないので、肌検出部の小型化や低コスト化が実現できる。
【0064】
[肌検出部41及び投影部42の詳細]
次に、図3は、プロジェクタ21に含まれる肌検出部41及び投影部42の詳細な第1の構成例を示している。
【0065】
肌検出部41は、DSP(digital signal processor)61、LED(light-emitting diode)62a、LED62b、撮像素子63、レンズ64、及び可視光カットフィルタ65から構成される。なお、LED62aの個数、及びLED62bの個数は、それぞれ、1個に限定されず、必要に応じて複数個とされる。
【0066】
DSP61は、例えば、図示せぬメモリ等に保持された制御用プログラムを実行することにより、LED制御部81及び画像処理部82として機能する。
【0067】
LED制御部81は、撮像素子63からのフレーム同期信号に基づいて、LED62a及びLED62bを制御し、LED62aやLED62bの消灯及び点灯を制御する。ここで、フレーム同期信号とは、撮像素子63の撮像が行われるタイミングを表す。
【0068】
すなわち、例えば、LED制御部81は、撮像素子63からのフレーム同期信号に基づいて、撮像素子63により1枚の画像の撮像が行われる毎に、LED62aのみを点灯、LED62bのみを点灯、LED62a及びLED62bのいずれも消灯を繰り返して行わせる。
【0069】
画像処理部82は、撮像素子63からの撮像画像I_patternを取得する。そして、画像処理部82は、撮像素子63からの撮像画像I_patternに基づいて、図2を参照して説明したように、撮像素子63からの撮像画像上の投影範囲の位置や大きさを検出するキャリブレーション処理を行う。
【0070】
そして、画像処理部82は、キャリブレーション処理により検出した撮像画像上の投影範囲の位置や大きさを表す投影範囲情報を、内蔵するメモリ(図示せず)に保持する。
【0071】
さらに、画像処理部82は、撮像素子63からの撮像画像I_λ1,I_λ2,I_offを取得する。ここで、撮像画像I_λ1とは、波長λ1の光を発光するLED62aのみが点灯した状態で、撮像素子63の撮像により得られた画像を表す。
【0072】
また、撮像画像I_λ2とは、波長λ2の光を発光するLED62bのみが点灯した状態で、撮像素子63の撮像により得られた画像を表す。さらに、撮像画像I_offとは、LED62a及びLED62bのいずれも消灯した状態で、撮像素子63の撮像により得られた画像を表す。
【0073】
画像処理部82は、取得した各撮像画像I_λ1,I_λ2,I_offに対して、LPF(low pass filter)を用いた平滑化を行う。また、画像処理部82は、各画素ごとに、撮像画像I_λ1の輝度値Y(λ1)から、撮像画像I_λ2の輝度値Y(λ2)を減算して得られる差分(Y(λ1) - Y(λ2))を算出する。
【0074】
さらに、画像処理部82は、撮像画像I_λ1又は撮像画像I_λ2の少なくとも一方に基づく値として、例えば輝度値(Y(λ1) Y(off))で、差分(Y(λ1) - Y(λ2))を正規化(除算)する。なお、輝度値Y(off)は、撮像画像I_offの輝度値を表す。
【0075】
そして、画像処理部82は、正規化後の差分{(Y(λ1) - Y(λ2))/(Y(λ1) Y(off))}に所定の値(例えば、100)を乗算して得られる差分画像I_diff(={(I_λ1 - I_λ2)/(I_λ1 I_off)}×100)を、予め決められた2値化用の閾値で2値化して、2値化肌画像I_skinを算出する。
【0076】
なお、差分画像I_diff(={(I_λ1 - I_λ2)/(I_λ1 I_off)}×100)は、撮像画像I_λ1の輝度値が、撮像画像I_λ2の輝度値に対して、何パーセント高いものであるかを表す。また、2値化用の閾値としては、例えば、10パーセントを用いることができる。
ここで撮像画像I_offの輝度値Y(off)は、LED62a、62bの照射光以外の外光の影響を除去するために用いており、これにより肌検出の精度を向上することができる。しかし、プロジェクタ21は、比較的暗い環境で使用されることが多いため、撮像画像I_offの取得は省略してもよい。
【0077】
画像処理部82は、算出した2値化肌画像I_skinに基づいて、使用者の肌部分を検出する。
【0078】
すなわち、例えば、画像処理部82は、算出した2値化肌画像I_skinを構成する全領域のうち、2値化用の閾値以上とされた領域を、使用者の肌部分を表す肌領域として検出する。
【0079】
なお、このようにして使用者の肌領域を検出できる原理は、図4を参照して後述する。
【0080】
第1の実施の形態では、例えば、使用者は、プロジェクタ21に対して所定の処理を実行させるため、撮像素子63及びレンズ64からなるカメラの前で自身の手を移動させたり、手の形状を変化させるようにしているものとする。
【0081】
したがって、例えば、画像処理部82は、算出した2値化肌画像I_skinに基づいて、肌領域として、例えば、使用者の手部分を検出するものとする。なお、肌領域として検出される肌部分は、手部分に限定されず、その他、例えば、顔部分等を検出するようにしてもよい。
【0082】
また、画像処理部82は、2値化肌画像I_skinに基づいて、複数の肌領域を検出した場合、複数の肌領域のうち、例えば最も輝度の高い肌領域を、手の領域として検出する。これは、LED62a、62aまでの距離が、使用者の各部分のうち、手部分が最も近いと想定されるためである。
しかし、操作者と肌検出部41の位置関係は操作方法によっても異なるため、手の領域の検出方法はこれには限定されず、適宜決定される。例えば、2値化肌画像I_skinなどを用いてパターンマッチングによって手の領域を検出するようにしてもよい。この方法によれば既に操作者の肌領域は特定されているので、肌領域部分のみのパターンマッチングを適用するため、通常のカメラで取得した可視光画像からパターンマッチングで手の領域を検出する場合に比べて、CPUの処理も軽くて済む。
すなわち、パターンマッチングを行う領域が肌領域に特定されるため、通常のカメラで取得した可視光画像からパターンマッチングで手の領域を検出する場合に比べて、投影画面内では投影画像と指や手が混在してパターンマッチングが難しいといった問題も発生し難い。
さらに、投影画面の外の暗い空間では、通常の可視光画像では手や指がはっきり写らないものとなるが、この場合は照射した不可視光が被写体で反射した反射光を撮像しているため、手や指がはっきり写らないといった問題も発生し難いものとなる。またパターンマッチングを行う領域が肌領域に特定できるため、通常のカメラで取得した可視光画像からパターンマッチングで手の領域を検出する場合に比べて、CPUの処理も軽くて済む。
【0083】
画像処理部82は、例えば、検出した手部分の重心を、使用者の手の位置として検出する。
【0084】
また、画像処理部82は、図示せぬ内蔵のメモリに保持済みの投影範囲情報に基づいて、検出した手の位置が、撮像素子63により得られる撮像画像に表示された投影範囲内に含まれるか否かを判定し、その判定結果とともに、検出した手の位置を、パーソナルコンピュータ22に供給する。
【0085】
パーソナルコンピュータ22に供給される判定結果が、検出した手の位置が、撮像画像上の投影範囲内に含まれる旨の判定結果である場合、パーソナルコンピュータ22は、撮像範囲上の手の位置に対応する、投影画像上の位置に、カーソル等を表示させた投影画像を生成する。
【0086】
そして、パーソナルコンピュータ22は、生成した投影画像を、投影部42に供給して投影させる。これにより、使用者の手の位置に対応した、投影画像上の位置に、カーソル等が表示される。
【0087】
また、例えば、検出した手の位置が、撮像画像上の投影範囲内に含まれない旨の判定結果がパーソナルコンピュータ22に供給された場合、パーソナルコンピュータ22は、カーソル等が表示されない投影画像を生成し、投影部42に供給して投影させる。
【0088】
さらに、例えば、検出した手の位置が、撮像画像上の投影範囲内に含まれない旨の判定結果がパーソナルコンピュータ22に供給された場合、パーソナルコンピュータ22は、カーソル等が表示されない投影画像を生成し、投影部42に供給して投影させる。
【0089】
その他、例えば、検出した手の位置が、撮像画像上の投影範囲内に含まれない旨の判定結果がパーソナルコンピュータ22に供給された場合、パーソナルコンピュータ22は、使用者の手の位置(又は手の位置の軌跡が表すジェスチャ)や手の形状に対応するアプリケーション等を実行するようにしてもよい。
【0090】
なお、画像処理部82は、検出結果等を、制御部43(図1)に出力するようにしてもよい。この場合、制御部43は、例えば、画像処理部82からの検出結果等に応じて、カメラ(撮像素子63及びレンズ64)の撮像方向や、投影部42の投影方向を変更させるためのアクチュエータ等を駆動させる。
【0091】
また、例えば、画像処理部82は、検出結果等を、投影部42の制御部111に出力してもよい。この場合、例えば、制御部111は、画像処理部82からの検出結果等に応じて、レーザ光源部101乃至103、及びLCOS部108等を制御して、投影画像の明るさを調整してもよい。
【0092】
LED62aは、LED制御部81からの制御にしたがって、点灯又は消灯する。すなわち、LED62aは、LED制御部81からの制御にしたがって、波長λ1の光(例えば、波長λ1の赤外線)を照射し、又は波長λ1の光の照射を停止する。
【0093】
LED62bは、LED制御部81からの制御にしたがって、点灯又は消灯する。すなわち、LED62bは、LED制御部81からの制御にしたがって、波長λ1よりも長波長である波長λ2の光(例えば、波長λ2の赤外線)を照射し、又は波長λ2の光の照射を停止する。
【0094】
なお、LED62a及びLED62bは、少なくともジェスチャ検知可能範囲(撮像素子63の撮像範囲)に対して、照射光を照射する。
【0095】
また、波長λ1と波長λ2との組み合わせ(λ1,λ2)は、例えば、人間の肌に対する分光反射特性に基づいて予め決定される。
【0096】
次に、図4は、人間の肌に対する分光反射特性を示している。
【0097】
なお、この分光反射特性は、人間の肌の色の違い(人種の違い)や状態(日焼け等)に拘らず、一般性があるものである。
【0098】
図4において、横軸は、人間の肌に照射される照射光の波長を示しており、縦軸は、人間の肌に照射された照射光の反射率を示している。
【0099】
人間の肌に照射された照射光の反射率は、800[nm]付近をピークとして、900[nm]付近から急激に減少し、1000[nm]付近を極小値として再び上昇することが知られている。
【0100】
具体的には、例えば、図4に示されるように、人間の肌に対して、赤外線としての870[nm]の光を照射して得られる反射光の反射率は約63パーセントである。また、赤外線としての950[nm]の光を照射して得られる反射光の反射率は約50パーセントである。
【0101】
これは、人間の肌について特有のものであり、人間の肌以外の物体(例えば、衣服等)では、800乃至1000[nm]付近において、反射率の変化は緩やかになっている。また周波数が高くなるほど、少しずつ大きくなることが多い。
【0102】
第1の実施の形態では、例えば、組み合わせ(λ1,λ2)=(870,950)とされる。この組み合わせは、人間の肌に対して、波長λ1の光を照射したときの反射率が、波長λ2の光を照射したときの反射率よりも大きくなる組み合わせである。
【0103】
したがって、撮像画像I_λ1上の肌領域を構成する輝度値は比較的大きな値となり、撮像画像I_λ2上の肌領域を構成する輝度値は比較的小さな値となる。
【0104】
このため、差分画像I_diff(={(I_λ1 - I_λ2)/(I_λ1 I_off)}×100)上の肌領域の輝度値は、比較的大きな正の値αとなる。
【0105】
また、組み合わせ(λ1,λ2)=(870,950)は、人間の肌以外のものに対して、波長λ1の光を照射したときの反射率が、波長λ2の光を照射したときの反射率よりも大きくならない組み合わせである。
【0106】
このため、差分画像I_diff(={(I_λ1 - I_λ2)/(I_λ1 I_off)}×100)上の肌領域の輝度値は、比較的小さな正または負の値βとなる。
【0107】
よって、差分画像I_diffを、予め決められた2値化用の閾値(例えば、αよりも小であり、βよりも大である閾値)で2値化するようにして、肌領域を検出するようにしている。
【0108】
ここで、組み合わせ(λ1,λ2)は、(λ1,λ2)=(870,950)に限定されず、反射率の差が十分に大きくなる組み合わせ(λ1,λ2)であれば、どのような組み合わせでもよい。
【0109】
なお、正確に肌検出を行うためには、概ね、波長λ1の値は640[nm]乃至1000[nm]の範囲内で、波長λ2の値は900[nm]から1100[nm]の範囲内で、それぞれ設定することが望ましいことが、本発明者が予め行なった実験によりわかっている。ただし波長λ1が可視光領域では、操作者に眩しさを感じさせることや、プロジェクタ21との組合せでは投影画像の色調に影響を与えることから、波長λ1の値は不可視光領域の800[nm]以上とすることが望ましい。
【0110】
すなわち、例えば、上述の範囲内で、波長λ1の値は800[nm]以上、900[nm]未満とし、波長λ2の値は900[nm]以上とすることができる。
【0111】
図3に戻り、前述のとおり撮像素子63には、その前面にレンズ64が設けられており、そのレンズ64の前面は、可視光を遮断する可視光カットフィルタ65により覆われている。
【0112】
撮像素子63は、例えばCMOS(complementary metal oxide semiconductor)センサ等により構成されており、フレーム同期信号に応じて、被写体の撮像を行う。また、撮像素子63は、フレーム同期信号を、LED制御部81に供給する。
【0113】
具体的には、例えば、撮像素子63は、レンズ64を介して、LED62aによって被写体に照射されている波長λ1の光の反射光を受光する。そして、撮像素子63は、受光した反射光を光電変換して得られる撮像画像I_λ1を、画像処理部82に供給する。
【0114】
また、例えば、撮像素子63は、レンズ64を介して、LED62bによって被写体に照射された波長λ2の光の反射光を受光する。そして、撮像素子63は、受光した反射光を光電変換して得られる撮像画像I_λ2を、画像処理部82に供給する。
【0115】
さらに、例えば、撮像素子63は、レンズ64を介して、LED62a及びLED62bのいずれも光を照射していない状態で、被写体からの反射光を受光する。そして、撮像素子63は、受光した反射光を光電変換して得られる撮像画像I_offを、画像処理部82に供給する。
【0116】
可視光カットフィルタ65は、そこに入射される光のうち、可視光を遮断し、不可視光を透過させる。また、可視光カットフィルタ65は、レンズ64の前面を覆うように設けられており、図中左右方向に駆動可能とされる。なお、可視光カットフィルタ65は、例えば、LED制御部81からの制御にしたがって、図中左右方向に駆動される。
【0117】
投影部42は、レーザ光源部101乃至103、プリズム104及び105、レンズ106、偏光ビームスプリッタ107、LCOS(liquid crystal on silicon)部108、レンズ109及び110、並びに制御部111から構成される。
【0118】
レーザ光源部101は、制御部111からの制御にしたがって、B成分のレーザ光をプリズム104に照射する。レーザ光源部102は、制御部111からの制御にしたがって、G成分のレーザ光をプリズム104に照射する。レーザ光源部103は、制御部111からの制御にしたがって、R成分のレーザ光をプリズム105に照射する。
【0119】
プリズム104は、レーザ光源部101から照射されるB成分のレーザ光を透過し、レーザ光源部102から照射されるG成分のレーザ光を、プリズム105の方向に反射するように構成される。
【0120】
したがって、レーザ光源部101からのB成分のレーザ光は、プリズム104を透過して、プリズム105に照射される。また、レーザ光源部102からのG成分のレーザ光は、プリズム104により反射され、プリズム105に照射される。
【0121】
プリズム105は、プリズム104から照射されるB成分及びG成分それぞれのレーザ光を透過し、レーザ光源部103から照射されるR成分のレーザ光を、レンズ106の方向に反射するように構成される。
【0122】
したがって、プリズム104から入射されるB成分及びG成分それぞれのレーザ光は、プリズム105を透過して、レンズ106を介して偏光ビームスプリッタ107に照射される。また、レーザ光源部103からのR成分のレーザ光は、プリズム105により反射され、レンズ106を介して偏光ビームスプリッタ107に照射される。
【0123】
レンズ106は、プリズム105と偏光ビームスプリッタ107との間に設けられており、プリズム105からの光を屈折等させる。
【0124】
偏光ビームスプリッタ107は、プリズム105からレンズ106を介して照射されるS偏光を、LCOS部108の方向に反射させる。
【0125】
なお、各レーザ光は、S偏光として、各レーザ光源部101乃至103から出力されているものとする。偏光ビームスプリッタ107は、プリズム105からレンズ106を介して照射される各レーザ光を反射させて、LCOS部108に照射させる。
【0126】
また、偏光ビームスプリッタ107は、LCOS部108から照射されるP偏光を透過させ、レンズ109及び110を介して、投影範囲に照射させる。これにより、投影範囲に、投影画像が投影される。
【0127】
LCOS部108は、反射型液晶パネルにより構成されており、偏光ビームスプリッタ107からの各レーザ光に基づいて、それぞれ、R成分の投影画像、G成分の投影画像、及びB成分の投影画像を生成する。
【0128】
また、LCOS部108は、R成分の投影画像、G成分の投影画像、及びB成分の投影画像に対応する光を、P偏光として、偏光ビームスプリッタ107に照射する。
【0129】
レンズ109は、偏光ビームスプリッタ107とレンズ110との間に設けられている。また、レンズ110は、レンズ109と、投影範囲とされる領域との間に設けられている。
【0130】
レンズ109及び110は、偏光ビームスプリッタ107からのP偏光を屈折等させて、投影範囲内に照射させる。これにより、投影範囲には、投影画像が投影される。
【0131】
制御部111は、例えば、パーソナルコンピュータ22からの制御にしたがって、レーザ光源部101乃至103、及びLCOS部108を制御して、パーソナルコンピュータ22の表示画面に表示された画像を、投影画像として、投影範囲に投影させる。
なお、ここでは投影部42の光源としてレーザ光源を用いる例を示したが、これには限定されず、LED光源でもよいし、ランプを用いてもよい。また、例えばレーザとLEDを組み合わせたりしてもよい。
【0132】
[図3の肌検出部41の動作説明]
次に、図5のフローチャートを参照して、図3の肌検出部41が行なうジェスチャ認識処理について説明する。
【0133】
このジェスチャ認識処理は、例えば、使用者により、操作部44を用いて、プロジェクタ21の電源をオンする電源オン操作が行われたときに開始される。このとき、操作部44は、使用者の電源オン操作に対応する操作信号を、制御部43に供給する。制御部43は、操作部44からの操作信号に応じて、肌検出部41及び投影部42を制御する。
【0134】
すなわち、ステップS21において、LED制御部81は、制御部43からの制御にしたがって、可視光カットフィルタ65を駆動させるためのアクチュエータ(図示せず)等を制御して、レンズ64の前面を覆うようにして配置された可視光カットフィルタ65を、所定の方向に移動させる。これにより、レンズ64の前面は、可視光カットフィルタ65により覆われなくなる。
【0135】
ステップS22において、制御部111は、制御部43からの制御にしたがって、レーザ光源部101乃至103及びLCOS部108を制御して、LCOS部108から、輪郭投影画像を、少なくとも可視光を含む投影光として、投影範囲に投影させる。なお、投影部42により、投影画像を投影する方法は、図6を参照して詳述する。
【0136】
ステップS23において、撮像素子63は、ジェスチャ検知可能範囲を撮像し、その結果得られる撮像画像I_pattern(図2)を、画像処理部82に供給する。
【0137】
ステップS24では、画像処理部82は、撮像素子63からの撮像画像I_patternの各輝度値に基づいて、投影された4隅の部分を示す位置を検出する。そして、画像処理部82は、撮像画像I_patternにおける4隅の位置で囲まれる矩形領域を、撮像画像上における投影範囲として検出する。画像処理部82は、その検出結果に基づいて、撮像画像上の投影範囲の位置や大きさを算出し、投影範囲情報として、内蔵する図示せぬメモリに保持する。
【0138】
ステップS25では、LED制御部81は、制御部43からの制御にしたがって、図示せぬアクチュエータ等を駆動させ、可視光カットフィルタ65によりレンズ64が覆われるように、可視光カットフィルタ65を移動させる。
【0139】
なお、ステップS21乃至ステップS25の処理は、キャリブレーション処理であり、例えば、ジェスチャ認識処理の開始時に1回だけ実行される。
【0140】
その後、使用者のジェスチャ等を認識する処理として、後述するステップS26乃至ステップS35の処理が繰り返して実行される。
【0141】
ステップS26では、LED制御部81は、撮像素子63からのフレーム同期信号に応じて、撮像素子63の撮像(ステップS27の処理)が行われるタイミングでLED62aを点灯させる。これにより、LED62aは、撮像素子63の撮像が行われる間、被写体に対して、波長λ1の光を照射する。なお、LED62bは消灯されている。
【0142】
ステップS27では、撮像素子63は、LED62aの光が照射されている被写体の撮像を開始し、その結果得られる撮像画像I_λ1を、画像処理部82に供給する。
【0143】
ステップS28では、LED制御部81は、撮像素子63からのフレーム同期信号に応じて、ステップS27における撮像素子63の撮像が終了するタイミングで、LED62aを消灯させる。
【0144】
また、LED制御部81は、撮像素子63からのフレーム同期信号に応じて、撮像素子63の次の撮像(ステップS29の処理)が開始するタイミングで、LED62bを点灯させる。これにより、LED62bは、撮像素子63の次の撮像が行われる間、被写体に対して、波長λ2の光を照射する。なお、LED62aは消灯されている。
【0145】
ステップS29では、撮像素子63は、LED62bの光が照射されている被写体の撮像を開始し、その結果得られる撮像画像I_λ2を、画像処理部82に供給する。
【0146】
ステップS30では、LED制御部81は、撮像素子63からのフレーム同期信号に応じて、ステップS29における撮像素子63の撮像が終了するタイミングで、LED62bを消灯させる。これにより、LED62a及びLED62bは、いずれも消灯された状態となる。
【0147】
ステップS31では、撮像素子63は、LED62a及びLED62bのいずれも消灯している状態で撮像を開始し、その結果得られる撮像画像I_offを、画像処理部82に供給する。
【0148】
ステップS32では、画像処理部82は、撮像素子63からの各撮像画像I_λ1,I_λ2,I_offに基づいて、差分画像I_diff(={(I_λ1 - I_λ2)/(I_λ1-I_off)}×100)を算出する。
【0149】
ステップS33では、画像処理部82は、算出した差分画像I_diffを、予め決められた2値化用の閾値を用いて、2値化して2値化肌画像I_skinを算出する。
【0150】
ステップS34では、画像処理部82は、算出した2値化肌画像I_skinに基づいて、撮像素子63から得られる撮像画像上の使用者の肌部分を表す肌領域、すなわち、例えば、使用者の手の位置を検出(算出)する。
【0151】
また、画像処理部82は、ステップS24の処理で保持済みの投影範囲情報に基づいて、算出した手の位置が、投影範囲内の位置であるか否かを判定する。
【0152】
ステップS35では、画像処理部82は、算出した手の位置が、撮像範囲内であると判定した場合、投影部42により投影される投影画像上の、使用者の手の位置に対応する位置に、カーソル等を表示させる。
【0153】
すなわち、例えば、画像処理部82は、算出した手の位置が、撮像範囲内であると判定した場合、その判定結果とともに、使用者の手の位置を表す位置情報を、パーソナルコンピュータ22に供給する。
なお、例えば、画像処理部82は、使用者の手が投影範囲内で検出された場合、投影範囲を含む撮像範囲内における手の位置を、位置情報として算出してもよいし、
投影範囲内における手の位置を、位置情報として算出するようにしてもよい。
すなわち、例えば、撮像範囲の左下の端部分を原点とし、水平方向をX軸とし、垂直方向をY軸として定義される位置を、位置情報として算出してもよいし、投影範囲の左下の端部分を原点とし、水平方向をX軸とし、垂直方向をY軸として定義される位置を、位置情報として算出してもよい。
その他、例えば、画像処理部82は、前回の位置情報と、今回の位置情報との変化を表す変化値を算出して、パーソンルコンピュータ22に供給してもよい。
【0154】
パーソナルコンピュータ22は、画像処理部82からの判定結果及び位置情報に基づいて、投影画像上の、使用者の手の位置に対応する位置に、カーソル等が表示された投影画像を生成するための制御用情報を生成し、投影部42の制御部111に供給する。
【0155】
制御部111は、パーソナルコンピュータ22からの制御用情報に基づいて、レーザ光源部101乃至103及びLCOS部108を制御して、使用者の手の位置に対応する位置に、カーソル等が表示された投影画像を投影させる。
【0156】
また、ステップS35において、画像処理部82は、肌領域の位置として、使用者の顔の位置を算出した場合、算出した顔の位置が、投射範囲内であると判定したときには、制御部111を制御して、投射範囲内に存在する顔には、投影部42からの投影光を投影させないようにさせる。これは、投影部42からの投影光による眩しさを軽減するためである。
【0157】
ステップS35の処理の終了後、処理は、ステップS26に戻り、それ以降、同様の処理が繰り返される。
【0158】
なお、このジェスチャ認識処理は、例えば、操作部44を用いて、使用者により、プロジェクタ22の電源をオフする電源オフ操作が行われたときに終了される。
【0159】
以上説明したように、ジェスチャ認識処理によれば、図4に示されるような人間の分光反射特性を利用して、画像上の人間の手等を検出するようにした。
【0160】
したがって、ジェスチャ認識処理によれば、被写体を照らす照明の明るさに拘らず、画像上の人間の手等を精度良く検出することが可能となる。
【0161】
このため、プロジェクタ21を用いる場合のように、被写体を照らす照明の明るさが不十分である(暗い)ときでも、撮像画像上の人間の手等を精度良く検出することが可能となる。
【0162】
したがって、プロジェクタ21としては、比較的大きなものの他、例えば、携帯電話機と同程度のサイズとされるピコプロジェクタのように、投影画像として投影する光が弱い場合でも、撮像画像上の人間の手等を精度良く検出できる。
【0163】
このため、プロジェクタ21を、人間の手等を検出する検出精度を維持したまま、小型化することが可能となる。
【0164】
また、ジェスチャ認識処理では、撮像により得られる撮像画像I_λ1,I_λ2,I_offに基づいて、肌領域と非肌領域とを表す2値化肌画像I_skinを算出するようにした。そして、算出した2値化肌画像I_skinから、人間の手の形状等を検出するという簡易な処理で、人間のポスチャ又はジェスチャを認識できるようにした。
【0165】
このため、例えば、人間の手等が写った画像上の各領域と、人間の手を表すパターン画像とをそれぞれ比較して人間の手等を検出するパターンマッチング等のような煩雑な処理を行う場合と比較して、ジェスチャ認識処理を実行するDSPやCPU等の負荷を少なくすることが可能となる。
【0166】
したがって、例えば、プロジェクタ21では、処理能力を向上させるために、高価なDSPを実装する必要がない。このため、安価なDSPを用いることができるので、プロジェクタ21の製造コストを低く抑えることができる。
【0167】
また、例えば、ジェスチャ認識処理を行うプロジェクタ21では、LED62a,LED62b、及び撮像素子63等の、比較的容易に調達可能な部品により構成されている。
【0168】
したがって、例えば、特殊で非常に高価なセンサ等を用いて、人間のジェスチャ等を認識する場合と比較して、安価にプロジェクタ21を製造することができる。
【0169】
なお、特殊で非常に高価なセンサとしては、例えば、各対象の距離を計測し、計測した距離に応じて、人間の手等である対象を検出する距離センサや、各対象の温度を計測し、計測した温度に応じて、人間の手等である対象を検出する熱センサ等が考えられる。
【0170】
ところで、本発明者は、背景技術に記載の認識技術を検討した際、プロジェクタ等の投影装置から投影される投影範囲内で、使用者にジェスチャ等を行わせるようにし、投影範囲を撮像範囲として撮像することも考えた。
【0171】
しかしながら、この場合、使用者の手等に、投影装置からの投影画像が投影されることとなる。このため、撮像画像上に写る使用者の手等には、その手等に投影された投影画像自体がノイズとなってしまい、パターンマッチング等で、使用者の手等の検出が難しくなってしまう。
また、プロジェクタ21等の投影装置の新たな使い方として、投影装置からの投影画像が投影されたスクリーン上における使用者の手や指の動きで、投影画像をあたかもタッチパネルとして操作するように制御することが考えられる。
投影画像の投影部分は投影範囲以外の空間に比べると明るい場合が多いが、投影画像そのものが暗い場合や部分的にでも暗い部分があれば、そこで手や指を動かしてもやはり照度不足で手や指ははっきりとは写らず、パターンマッチング等を使用することはできない。
一方、投影画像が明るい場合には前述のような照明が不十分という問題は発生しない。しかし、スクリーンを撮像した場合、投影画像と操作者の手や指が共に写り込んでしまう。極端な場合、投影画像上に操作者以外の手や指が存在することもあり、操作者の手や指との区別をパターンマッチング等で行うことはできない。そうでなくとも、手や指に投影画像が重なって写り込むため、パターンマッチングによる検出は困難である。
【0172】
そこで、本発明者は、パターンマッチング等ではなく、図4に示されるような分光反射特性を利用する本技術を、プロジェクタ21に適用することを考えた。
【0173】
本開示においても、投影範囲内で、使用者の肌領域を検出する場合には、使用者の肌部分に投影された投影画像の反射光が、撮像素子63に入射される事態が生じ得る。
【0174】
しかしながら、プロジェクタ21では、このような事態を考慮し、図3に示されるように、撮像素子63(及びレンズ64)の前面を覆うように、可視光カットフィルタ65を設けるようにしている。このため、本開示のプロジェクタ21では、使用者の肌部分に投影された投影画像の反射光により、肌領域の検出精度が低下する事態を抑止するようにしている。
【0175】
また、本発明者は、1波長の光(例えば、波長λ1の光)を、ジェスチャ検知可能範囲に照射した状態で、ジェスチャ検知可能範囲を撮像して得られる撮像画像の各輝度値を、予め決められた閾値で2値化するようにして、使用者の手等を検出する方法も考えた。
【0176】
しかしながら、この方法では、1波長の光に対する人間の肌の反射率と、人間の背景部分の反射率とが近い場合には、2値化により、人間の肌部分の他、背景部分も、肌領域として検出されてしまう。
【0177】
したがって、本開示では、異なる2波長の反射率の差を利用するようにして、人間の肌部分の他、背景部分も、肌領域として検出される事態を防止するようにしている。
【0178】
さらに、本発明者は、投影範囲を撮像して得られる撮像画像において、暗い部分(投影範囲において、使用者の存在により影となる部分)を、使用者が存在する部分として検出することも考えた。
【0179】
しかしながら、プロジェクタ21等を用いる環境下では、周囲の明るさが十分ではないため、撮像画像全体が、暗い画像となってしまい、使用者が存在する部分を精度良く検出することは難しい。このため、本発明者は、異なる2波長を用いる本技術を発明するに至った。
【0180】
ところで、ジェスチャ認識処理では、ステップS21において、LED制御部81は、図示せぬアクチュエータ等を制御して、可視光カットフィルタ65を移動させるようにして、レンズ64が、可視光カットフィルタ65に覆われなくなるようにした。
【0181】
これは、ステップS23において、撮像素子63が、少なくとも可視光を含む投影光として投影範囲に投影された輪郭投影画像の反射光等を受光して、図2に示されるような撮像画像I_patternを生成できるようにするために行われるものである。
【0182】
したがって、ステップS22において、LCOS部108から、輪郭投影画像を、不可視光として、投影範囲に投影させるようにすれば、投影範囲に投影された投影画像の反射光としての不可視光が、可視光カットフィルタ65を通過して、撮像素子63に入射される。この場合、ステップS21の処理、及びステップS25の処理を省くことができ、撮像素子63は、撮像画像I_patternを生成することとなる。
【0183】
なお、可視光カットフィルタ65を設けずに、撮像素子63を、可視光を遮断する可視光カットフィルタが設けられた第1の受光素子と、可視光カットフィルタが設けられていない第2の受光素子とにより構成することもできる。
【0184】
この場合、撮像素子63は、撮像画像I_patternと撮像画像I_λ1等を同時に生成することができるようになる。
【0185】
すなわち、例えば、LED62aにより、波長λ1の光が照射され、LCOS部108により投影光が投影されている場合、撮像素子63には、波長λ1の光の反射光と、投影範囲に投影された投影光の反射光等が入射される。
【0186】
そして、撮像素子63は、第1の受光素子により、波長λ1の照射光の反射光を受光して撮像画像I_λ1を生成し、第2の受光素子により、投影範囲に投影された投影光の反射光等を受光して撮像画像I_patternを生成することができる。
【0187】
[図3の投影部42の動作説明]
次に、図6のフローチャートを参照して、図3の投影部42が行う投影処理について説明する。
【0188】
なお、この投影処理は、制御部43からの制御に応じて、図5のステップS22で輪郭投影画像を投影する際に行われる。
【0189】
また、この投影処理は、図5のステップS26乃至ステップS35の処理の実行中に、例えば、パーソナルコンピュータ22からの制御に応じて行われる。
【0190】
ステップS51において、レーザ光源部103は、制御部111からの制御にしたがって、R成分のレーザ光をプリズム105に照射する。これにより、R成分のレーザ光は、プリズム105で反射され、レンズ106を介して偏光ビームスプリッタ107に照射される。
【0191】
そして、照射されたR成分のレーザ光は、偏光ビームスプリッタ107で反射され、LCOS部108に照射される。なお、プリズム105からレンズ106を介して偏光ビームスプリッタ107に照射されたR成分のレーザ光は、S偏光とされているものとする。
【0192】
ステップS52において、LCOS部108は、制御部111からの制御にしたがって、偏光ビームスプリッタ107から照射されるR成分のレーザ光に基づいて、R成分の投影画像を生成する。そして、LCOS部108は、生成したR成分の投影画像を、P偏光として、偏光ビームスプリッタ107に照射する。
【0193】
偏光ビームスプリッタ107は、LCOS部108からのP偏光を透過させ、レンズ109及び110を介して、投影範囲に照射させる。これにより、投影範囲には、R成分の投影画像が投影される。
【0194】
ステップS53において、レーザ光源部102は、制御部111からの制御にしたがって、G成分のレーザ光をプリズム104に照射する。これにより、G成分のレーザ光は、プリズム104で反射され、プリズム105を透過し、レンズ106を介して偏光ビームスプリッタ107に照射される。
【0195】
そして、照射されたG成分のレーザ光は、偏光ビームスプリッタ107で反射され、LCOS部108に照射される。なお、プリズム105からレンズ106を介して偏光ビームスプリッタ107に照射されたG成分のレーザ光は、S偏光とされているものとする。
【0196】
ステップS54において、LCOS部108は、制御部111からの制御にしたがって、偏光ビームスプリッタ107から照射されるG成分のレーザ光に基づいて、G成分の投影画像を生成する。そして、LCOS部108は、生成したG成分の投影画像を、P偏光として、偏光ビームスプリッタ107に照射する。
【0197】
偏光ビームスプリッタ107は、LCOS部108からのP偏光を透過させ、レンズ109及び110を介して、投影範囲に照射させる。これにより、投影範囲には、G成分の投影画像が投影される。
【0198】
ステップS55において、レーザ光源部101は、制御部111からの制御にしたがって、B成分のレーザ光をプリズム104に照射する。これにより、B成分のレーザ光は、プリズム104及びプリズム105を透過し、レンズ106を介して偏光ビームスプリッタ107に照射される。
【0199】
そして、照射されたB成分のレーザ光は、偏光ビームスプリッタ107で反射され、LCOS部108に照射される。なお、プリズム105からレンズ106を介して偏光ビームスプリッタ107に照射されたB成分のレーザ光は、S偏光とされているものとする。
【0200】
ステップS56において、LCOS部108は、制御部111からの制御にしたがって、偏光ビームスプリッタ107から照射されるB成分のレーザ光に基づいて、B成分の投影画像を生成する。そして、LCOS部108は、生成したB成分の投影画像を、P偏光として、偏光ビームスプリッタ107に照射する。
【0201】
偏光ビームスプリッタ107は、LCOS部108からのP偏光を透過させ、レンズ109及び110を介して、投影範囲に照射させる。これにより、投影範囲には、B成分の投影画像が投影される。
【0202】
ステップS56の終了後、処理はステップS51に戻り、それ以降同様の処理が繰り返される。
【0203】
<2.第2の実施の形態>
次に、図7は、プロジェクタ21に含まれる肌検出部41及び投影部42の第2の詳細な構成例を示している。
【0204】
なお、図7では、図3と同様に構成される部分については、同一の符号を付すようにしているため、それらの部分の説明は、以下、適宜、省略する。
【0205】
すなわち、図7の肌検出部41において、LED62aの前面に偏光変換素子131aが、LED62bの前面に偏光変換素子131bが、それぞれ設けられているとともに、偏光変換素子131aと偏光ビームスプリッタ107との間にプリズム132が新たに設けられている他は、図3の場合と同様に構成される。
【0206】
また、図7の肌検出部41は、投影部42の偏光ビームスプリッタ107並びにレンズ109及び110も含む点で、図3の場合と異なる。
【0207】
偏光変換素子131aは、LED62aからの照射光をS偏光に変換するための変換素子である。なお、LED62aからの照射光は、S偏光とP偏光とにより構成されており(例えば、S偏光とP偏光とがほぼ半分ずつ)、偏光変換素子131aを通過することにより、照射光の殆ど(例えば、7割から8割程度)がS偏光とされる。
【0208】
したがって、プリズム132には、LED62aから偏光変換素子131aを介して、殆どがS偏光とされた波長λ1の照射光が入射される。
【0209】
偏光変換素子131bは、LED62bからの照射光をS偏光に変換するための変換素子である。なお、LED62bからの照射光は、S偏光とP偏光とにより構成されており(例えば、S偏光とP偏光とがほぼ半分ずつ)、偏光変換素子131bを通過することにより、照射光の殆ど(例えば、7割から8割程度)がS偏光とされる。
【0210】
したがって、プリズム132には、LED62bから偏光変換素子131bを介して、殆どがS偏光とされた波長λ2の照射光が入射される。
【0211】
プリズム132は、LED62aから偏光変換素子131aを介して入射される波長λ1の照射光を透過させ、LED62bから偏光変換素子131bを介して入射される波長λ2の照射光を、偏光ビームスプリッタ107の方向に反射させる。
【0212】
これにより、波長λ1の照射光、及び波長λ2の照射光は、プリズム132を介して偏光ビームスプリッタ107に入射される。なお、波長λ1の照射光は、偏光変換素子131aにより、照射光の殆どがS偏光とされている。また、波長λ2の照射光は、偏光変換素子131bにより、照射光の殆どがS偏光とされている。
【0213】
したがって、偏光ビームスプリッタ107は、プリズム132を介して入射される波長λ1の照射光及び波長λ2の照射光を、レンズ109及びレンズ110の存在する方向に反射させる。
【0214】
なお、いまの場合、波長λ1の照射光及び波長λ2の照射光は、その殆どがS偏光とされているので、殆どの照射光が、偏光ビームスプリッタ107で反射されることとなる。よって、P偏光として偏光ビームスプリッタ107を通過する照射光は非常に少ないものとなっている。
【0215】
このため、波長λ1の照射光及び波長λ2の照射光それぞれの光量を、殆ど維持したまま、被写体に対して照射光を照射することができる。
【0216】
なお、図7に示されるように構成した場合、第1の実施の形態と同様に、肌検出部41によるジェスチャ認識処理と、投影部42による投影処理とは、それぞれ独立に行われる。また、図7に示される場合には、撮像範囲と投影範囲とが同一となっている。このため、LED62a及びLED62bは、少なくとも撮像範囲(投影範囲)を照射する。
【0217】
<3.第3の実施の形態>
次に、図8は、プロジェクタ21に含まれる肌検出部41及び投影部42の第3の詳細な構成例を示している。
【0218】
なお、図8では、図3と同様に構成される部分については、同一の符号を付すようにしているため、それらの部分の説明は、以下、適宜、省略する。
【0219】
すなわち、図8では、投影部42において、プリズム105とレンズ106との間に、新たにプリズム151a及びプリズム151bが設けられている他は、図3の投影部42と同様に構成される。
【0220】
また、図8の肌検出部41では、LED62aの前面に偏光変換素子131aが、LED62bの前面に偏光変換素子131bが、それぞれ設けられている。なお、偏光変換素子131a及び131bは、図7に示された偏光変換素子131a及び131bと同様であるため、同一の符号を付すようにしている。
【0221】
さらに、投影部42のレンズ106、偏光ビームスプリッタ107、LCOS部108、レンズ109及び110、並びにプリズム151a及び151bが、肌検出部41としても機能する他は、図3の肌検出部41と同様に構成される。
【0222】
プリズム151aには、LED62aから偏光変換素子131aを介して、波長λ1の照射光が入射される。また、プリズム151aには、プリズム151bを通して波長λ2の照射光、R成分,G成分,B成分それぞれのレーザ光が入射される。
【0223】
プリズム151aは、LED62aから偏光変換素子131aを介して入射される波長λ1の照射光を、レンズ106の方向に反射させ、プリズム151bを通して入射される光を透過させる。
【0224】
したがって、偏光ビームスプリッタ107には、プリズム151aからレンズ106を通して、波長λ1の照射光、波長λ2の照射光、R成分のレーザ光、G成分のレーザ光、及びB成分のレーザ光が入射される。
【0225】
プリズム151bには、LED62bから偏光変換素子131bを介して、波長λ2の照射光が入射される。また、プリズム151bには、プリズム105を通して、R成分,G成分,B成分それぞれのレーザ光が入射される。
【0226】
プリズム151bは、LED62bから偏光変換素子131bを介して入射される波長λ2の照射光を、プリズム151aの方向に反射させ、プリズム105を通して入射されるレーザ光を透過させる。
【0227】
したがって、プリズム151aには、プリズム151bを通して、波長λ2の照射光、R成分のレーザ光、G成分のレーザ光、及びB成分のレーザ光が入射される。
【0228】
[図8のように構成した場合の動作説明]
次に、図9のフローチャートを参照して、図8のように構成した場合に、プロジェクタ21が行うジェスチャ認識投影処理を説明する。
【0229】
このジェスチャ認識投影処理は、例えば、パーソナルコンピュータ22からの制御に応じて開始される。なお、いまの場合、ジェスチャ可能検知範囲と投影範囲とは同一の範囲とされている。このため、ジェスチャ認識投影処理では、図5のステップS21乃至ステップS25で説明したキャリブレーション処理を行う必要がない。
【0230】
ステップS71乃至ステップS76において、それぞれ、図6のステップS51乃至ステップS56と同様の処理が行われ、図8の投影部42により、投影画像が投影される。
【0231】
ステップS77において、制御部111は、LCOS部108を制御して、全画素を均一に反射させるように設定する。
【0232】
ステップS78において、LED制御部81は、図5のステップS26と同様にして、撮像素子63からのフレーム同期信号に応じて、撮像素子63の撮像(ステップS79の処理)が行われるタイミングでLED62aを点灯させる。
【0233】
これにより、波長λ1の照射光は、LED62aから偏光変換素子131aを通過して、プリズム151aにより、偏光ビームスプリッタ107の方向に反射される。なお、波長λ1の照射光は、偏光変換素子131aを通過する際に、偏光変換素子131aにより、殆どの照射光がS偏光とされる。
【0234】
このため、偏光ビームスプリッタ107は、波長λ1の照射光のS偏光を、LCOS部108の方向に反射させる。LCOS部108は、偏光ビームスプリッタ107からの波長λ1の照射光を、P偏光として、偏光ビームスプリッタ107に照射する。
【0235】
偏光ビームスプリッタ107は、LCOS部108からの波長λ1の照射光を透過させて、レンズ109及びレンズ110を介して、投影範囲に照射させる。
【0236】
これにより、LED62aは、撮像素子63の撮像が行われる間、投影範囲内の被写体に対して、波長λ1の光を照射する。なお、LED62bは消灯されている。
【0237】
ステップS79では、図5のステップS27と同様の処理が行われ、撮像素子63から画像処理部82に対して、撮像画像I_λ1が供給される。なお、いまの場合、投影範囲がジェスチャ検知可能範囲とされている。したがって、撮像素子63は、投影範囲を撮像範囲として撮像を行うこととなる。このことは、ステップS81及びステップS83でも同様である。
【0238】
ステップS80では、LED制御部81は、図5のステップS28と同様にして、撮像素子63からのフレーム同期信号に応じて、ステップS79における撮像素子63の撮像が終了するタイミングで、LED62aを消灯させる。
【0239】
また、LED制御部81は、撮像素子63からのフレーム同期信号に応じて、撮像素子63の次の撮像(ステップS81の処理)が開始するタイミングで、LED62bを点灯させる。
【0240】
これにより、波長λ2の照射光は、LED62bから偏光変換素子131bを通過して、プリズム151bにより、プリズム151a(偏光ビームスプリッタ107)の方向に反射される。そして、波長λ2の照射光は、プリズム151a及びレンズ106を通過して、偏光ビームスプリッタ107に入射される。
【0241】
なお、波長λ2の照射光は、偏光変換素子131bを通過する際に、偏光変換素子131bにより、殆どの照射光がS偏光とされる。
【0242】
このため、偏光ビームスプリッタ107は、波長λ2の照射光のS偏光を、LCOS部108の方向に反射させる。LCOS部108は、偏光ビームスプリッタ107からの波長λ2の照射光を、P偏光として、偏光ビームスプリッタ107に照射する。
【0243】
偏光ビームスプリッタ107は、LCOS部108からの波長λ2の照射光を透過させて、レンズ109及びレンズ110を介して、投影範囲に照射させる。
【0244】
これにより、LED62bは、撮像素子63の次の撮像が行われる間、投射範囲内の被写体に対して、波長λ2の光を照射する。なお、LED62aは消灯されている。
【0245】
ステップS81では、図5のステップS29と同様の処理が行われ、撮像素子63から画像処理部82に対して、撮像画像I_λ2が供給される。
【0246】
ステップS82乃至ステップS87において、それぞれ、図5のステップS30乃至ステップS35と同様の処理が行われる。
【0247】
なお、いまの場合、ジェスチャ検知可能範囲は、投影範囲であるため、投影範囲内で行われるジェスチャ等が、使用者の手の位置や形状等として検出され、その検出結果に応じて、投影画像上にカーソル等が表示させることとなる。
【0248】
ステップS87の処理の終了後、制御部111は、LCOS部108を制御して、全画素を均一に反射させるようにされた設定を、投影画像を投影する際の設定に戻す。処理は、ステップS71に戻り、それ以降、同様の処理が繰り返される。
【0249】
なお、このジェスチャ認識投影処理は、例えば、使用者が、操作部44を操作して電源をオフしたときに終了される。
【0250】
以上説明したように、ジェスチャ認識投影処理によれば、被写体を照らす照明の明るさに拘らず、画像上の人間の手等を精度良く検出することが可能となる。
【0251】
また、ジェスチャ認識処理では、パターンマッチング等のような複雑な処理を行う場合と比較して、ジェスチャ認識処理を実行するDSPやCPU等の負荷を少なくすることが可能となる。
【0252】
さらに、例えば、ジェスチャ認識処理を行うプロジェクタ21では、LED62a,LED62b、及び撮像素子63等の、容易に調達可能な部品により構成されている。このため、例えば、特殊で非常に高価なセンサ等を用いて、人間のジェスチャ等を認識する場合と比較して、安価にプロジェクタ21を製造することができる。
【0253】
また、波長λ1の光、及び波長λ2の光を照射する際に、ステップS77において、制御部111は、LCOS部108を制御して、全画素を均一に反射させるように設定している。
【0254】
このため、波長λ1の光、及び波長λ2の光が、均一な光として、ジェスチャ検知可能範囲である投影範囲に照射されることとなるので、波長λ1の光、及び波長λ2の光が不均一なために、肌検出の検出精度が低下する事態を防止できる。
【0255】
<4.変形例>
プロジェクタ21において、撮像素子63による撮像方向は固定の他、可変とすることができる。すなわち、例えば、撮像素子63を含む肌検出部41を駆動可能にして、撮像素子63による撮像方向を変化できるように構成することができる。
【0256】
さらに、例えば、画像処理部82は、検出した使用者の手等の第1の位置を、撮像素子63による撮像方向に応じた第2の位置に変換するようにしてもよい。
【0257】
すなわち、例えば、撮像方向が、図1に示されるように投影画像の投影方向とは同一である場合、撮像方向に存在する使用者は、投影方向に投影された投影画像を正面に見ながら、ジェスチャ等を行うと思われる。
【0258】
具体的には、例えば、投影画像上のカーソル等を、使用者から見て右方向に移動させたい場合、使用者は、投影画像を正面に見ながら、手等を右方向に移動させる。
【0259】
この場合、投影画像上のカーソル等を移動させたい方向と、使用者が、自身の手等を移動させる方向とは一致するため、画像処理部82は、検出した使用者の手等の第1の位置を、移動する手の軌跡をジェスチャとして認識するものとして、そのまま用いて問題ない。
【0260】
しかしながら、例えば、撮像方向が、投影画像の投影方向と真逆である場合、撮像方向に存在する使用者は、投影範囲を正面にして、パーソナルコンピュータ22に表示される投影画像(投影範囲に投影されたものと同一の投影画像)を見ながら、撮像範囲内でジェスチャ等を行うことが考えられる。
【0261】
すなわち、例えば、投影画像上のカーソル等を、図1の右方向に移動させたい場合、使用者は、プロジェクタ21を正面に見ながら、使用者から見て右方向(図1の右方向)に、手等を移動させる。
【0262】
この場合、撮像素子63から見ると使用者の手は、向かって左に動くことになる。従って撮像素子63により得られる撮像画像を用いて、画像処理部82が検出した使用者の手等の連続的な第1の位置に合わせて、投影画像上のカーソル等を移動させると、カーソルは左方向に移動してしまうことになる。
なお、画像処理部82は、例えば、使用者の手等の連続的な第1の位置により、使用者の手等の動きを検出するようにしている。
【0263】
したがって、画像処理部82は、検出した第1の位置を、例えば、撮像画像上の上下方向に延びる中心線に対して、左右対称な第2の位置に変換し、変換後の第2の位置を、その後の処理で用いるようにする。
この場合、画像処理部82は、例えば、使用者の手等の連続的な第2の位置により、使用者の手等の動きを検出するものとなる。
【0264】
これにより、画像処理部82は、使用者の手が、図1の左方向ではなく、図1の右方向に移動したものと認識できるようになり、投影画像上のカーソルを、移動させたい図1の右方向に移動させるようにすることができる。
【0265】
第2の実施の形態では、図7に示されるように、偏光ビームスプリッタ107を用いて、LED62aからプリズム132を介して入射される波長λ1の照射光、及びLED62bからプリズム132を介して入射される波長λ2の照射光を、投影範囲の方向に反射させるようにしている。
【0266】
しかしながら、例えば、ミラー等を用いるようにして、波長λ1の照射光、及び波長λ2の照射光を、投影範囲の方向に反射させるようにしてもよい。
【0267】
また、第1乃至第3の実施の形態において、プロジェクタ21には、例えば、加速度センサ等を設けるようにして、プロジェクタ21の動きを検知できるようにしてもよい。そして、プロジェクタ21の動きが検知された場合には、再度、撮像画像上の投影範囲を算出するキャリブレーション処理を行うようにしてもよい。
【0268】
この場合、プロジェクタ21の動きにより、投影範囲が変更された場合でも、変更後の投影範囲を、再度のキャリブレーション処理で算出できるようになる。
【0269】
なお、本技術は以下のような構成もとることができる。
(1)被写体に対して第1の波長の光を照射する第1の照射部と、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射する第2の照射部と、前記被写体の撮像を行なう撮像部と、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出部と、前記検出部の検出結果に応じて変更される投影画像を投影する投影部とを含む投影装置。
(2)前記撮像部は、前記投影画像が投影される投影範囲を含む撮像範囲で、前記被写体の撮像を行う前記(1)に記載の投影装置。
(3)前記撮像部の撮像により得られる撮像画像上の前記投影範囲を算出する算出部をさらに含む前記(2)に記載の投影装置。
(4)前記投影部は、前記投影範囲の輪郭を表す輪郭投影画像も投影し、前記算出部は、前記輪郭投影画像が投影されたときの撮像で得られる前記撮像画像上の前記投影範囲を算出する前記(3)に記載の投影装置。
(5)前記第1の照射部は、前記第1の波長の不可視光を照射し、前記第2の照射部は、前記第2の波長の不可視光を照射し、前記投影部は、前記輪郭投影画像を、少なくとも可視光を含む投影光、又は不可視光の一方として投影する前記(4)に記載の投影装置。
(6)前記投影部は、前記輪郭投影画像を、前記投影光として投影し、前記撮像部は、可視光を遮断する可視光遮断部が設けられた第1の受光素子と、前記可視光遮断部が設けられていない第2の受光素子とにより構成される撮像素子を有し、前記第1の受光素子により、前記第1及び第2の撮像画像を生成し、前記第2の受光素子により、前記パターン画像を生成する前記(5)に記載の投影装置。
(7)前記投影部は、前記輪郭投影画像を不可視光として投影し、前記撮像部は、可視光を遮断する可視光遮断部が設けられた撮像素子を有し、前記撮像素子により、前記第1及び第2の撮像画像の他、前記パターン画像も生成する
前記(5)に記載の投影装置。
(8)可視光を遮断する可視光遮断部と、前記輪郭投影画像として、前記投影光が投影されるときに、前記撮像素子に可視光が入射されるように前記可視光遮断部を移動させ、前記第1の波長の光、又は前記第2の波長の光が照射されるときに、前記撮像素子に可視光が入射されないように前記可視光遮断部を移動させる
移動制御部とをさらに含む前記(5)に記載の投影装置。
(9)前記投影部は、予め決められた方向から入射される光を、前記投影範囲に反射させる反射部を有し、前記第1の照射部は、前記第1の波長の光を、前記反射部に反射させて前記投影範囲に照射し、前記第2の照射部は、前記第2の波長の光を、前記反射部に反射させて前記投影範囲に照射する前記(2)乃至(8)に記載の投影装置。
(10)前記第1の照射部は、前記第1の波長の光を、各画素値が均一な投影画像として反射させる前記反射部に反射させて前記投影範囲に照射し、前記第2の照射部は、前記第2の波長の光を、各画素値が均一な投影画像として反射させる前記反射部に反射させて前記投影範囲に照射する前記(9)に記載の投影装置。
(11)前記第1の照射部から照射される前記第1の波長の光を、第1の偏光、又は前記第1の偏光とは異なる第2の偏光のうち、前記反射部で反射される前記第1の偏光に変換する第1の偏光変換部と、前記第2の照射部から照射される前記第2の波長の光を、前記第1の偏光又は前記第2の偏光のうち、前記反射部で反射される前記第1の偏光に変換する第2の偏光変換部とをさらに含む前記(9)に記載の投影装置。
(12)前記投影装置の動きを検知する動き検知部をさらに含み、前記算出部は、前記動き検知部により、前記投影装置の動きが検知された場合にも、前記撮像画像上の前記投影範囲を算出する前記(3)又は(4)に記載の投影装置。
(13)前記投影部は、前記投影範囲のうち、前記肌領域の検出された部分を除く範囲に、前記投影画像を投影する前記(1)に記載の投影装置。
(14)前記撮像部は、撮像方向を変更可能である前記(1)に記載の投影装置。
(15)前記肌領域が検出された前記撮像画像上の第1の位置を、前記撮像部の撮像方向に応じた第2の位置に変換する位置変換部をさらに含み、前記投影部は、前記第2の位置に応じて変更された前記投影画像を投影する前記(14)に記載の投影装置。
(16)
前記第1の照射部は、前記第1の波長の光を前記投影範囲に照射し、前記第2の照射部は、前記第2の波長の光を前記投影範囲に照射し、前記検出部は、前記第1の撮像画像及び前記第2の撮像画像に基づいて、前記投射範囲内の前記肌領域を検出する前記(2)に記載の投影装置。
(17)前記第1の波長λ1、及び前記第2の波長λ2は、
640nm ≦ λ1 ≦ 1000nm
900nm ≦ λ2 ≦ 1100nm
を満たす前記(1)に記載の投影装置。
(18)前記第1の照射部は、前記第1の波長λ1の不可視光を照射し、前記第2の照射部は、前記第2の波長λ2の不可視光を照射する前記(17)に記載の投影装置。
(19)前記投影範囲における前記検出結果を、前記投影範囲内の位置に応じた信号として出力する出力部をさらに含む前記(3)に記載の投影装置。
(20)投影装置の投影方法において、前記投影装置による、被写体に対して第1の波長の光を照射する第1の照射ステップと、前記第1の波長の光を照射させたときの前記被写体の撮像を行なう第1の撮像ステップと、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射する第2の照射ステップと、前記第2の波長の光を照射させたときの前記被写体の撮像を行なう第2の撮像ステップと、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出ステップと、前記検出ステップの検出結果に応じて変更される投影画像を投影する投影ステップとを含む投影方法。
(21)コンピュータに、被写体に対して第1の波長の光を照射させる第1の照射ステップと、前記第1の波長の光を照射させたときの前記被写体の撮像を行なわせる第1の撮像ステップと、前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射させる第2の照射ステップと、前記第2の波長の光を照射させたときの前記被写体の撮像を行なわせる第2の撮像ステップと、前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出ステップと、前記検出ステップの検出結果に応じて変更される投影画像を投影させる投影ステップとを含む処理を実行させるためのプログラム。
【0270】
[コンピュータの構成例]
図10は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0271】
CPU(Central Processing Unit)201は、ROM(Read Only Memory)202、又は記憶部208に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)203には、CPU201が実行するプログラムやデータ等が適宜記憶される。これらのCPU201、ROM202、及びRAM203は、バス204により相互に接続されている。
【0272】
CPU201にはまた、バス204を介して入出力インタフェース205が接続されている。入出力インタフェース205には、キーボード、マウス、マイクロホン等よりなる入力部206、ディスプレイ、スピーカ等よりなる出力部207が接続されている。CPU201は、入力部206から入力される指令に対応して各種の処理を実行する。そして、CPU201は、処理の結果を出力部207に出力する。
【0273】
入出力インタフェース205に接続されている記憶部208は、例えばハードディスクからなり、CPU201が実行するプログラムや各種のデータを記憶する。通信部209は、インターネットやローカルエリアネットワーク等のネットワークを介して外部の装置と通信する。
【0274】
また、通信部209を介してプログラムを取得し、記憶部208に記憶してもよい。
【0275】
入出力インタフェース205に接続されているドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等のリムーバブルメディア211が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータ等を取得する。取得されたプログラムやデータは、必要に応じて記憶部208に転送され、記憶される。
【0276】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録(記憶)する記録媒体は、図10に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)を含む)、もしくは半導体メモリ等よりなるパッケージメディアであるリムーバブルメディア211、又は、プログラムが一時的もしくは永続的に格納されるROM202や、記憶部208を構成するハードディスク等により構成される。記録媒体へのプログラムの記録は、必要に応じてルータ、モデム等のインタフェースである通信部209を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の通信媒体を利用して行われる。
【0277】
なお、本明細書において、上述した一連の処理を記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0278】
また、本開示における実施の形態は、上述した第1乃至第3の実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0279】
21 プロジェクタ, 22 パーソナルコンピュータ, 41 肌検出部, 42 投影部, 43 制御部, 44 操作部, 61 DSP, 62a,62b LED, 63 撮像素子, 64 レンズ, 65 可視光カットフィルタ, 81 LED制御部, 82 画像処理部, 101,102,103 レーザ光源部, 104,105 プリズム, 106 レンズ, 107 偏光ビームスプリッタ, 108 LCOS部, 109,110 レンズ, 111 制御部, 131a,131b 偏光変換素子, 132,151a,151b プリズム

【特許請求の範囲】
【請求項1】
被写体に対して第1の波長の光を照射する第1の照射部と、
前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射する第2の照射部と、
前記被写体の撮像を行なう撮像部と、
前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出部と、
前記検出部の検出結果に応じて変更される投影画像を投影する投影部と
を含む投影装置。
【請求項2】
前記撮像部は、前記投影画像が投影される投影範囲を含む撮像範囲で、前記被写体の撮像を行う
請求項1に記載の投影装置。
【請求項3】
前記撮像部の撮像により得られる撮像画像上の前記投影範囲を算出する算出部をさらに含む請求項2に記載の投影装置。
【請求項4】
前記投影部は、前記投影範囲の輪郭を表す輪郭投影画像も投影し、
前記算出部は、前記輪郭投影画像が投影されたときの撮像で得られる前記撮像画像上の前記投影範囲を算出する
請求項3に記載の投影装置。
【請求項5】
前記第1の照射部は、前記第1の波長の不可視光を照射し、
前記第2の照射部は、前記第2の波長の不可視光を照射し、
前記投影部は、前記輪郭投影画像を、少なくとも可視光を含む投影光、又は不可視光の一方として投影する
請求項4に記載の投影装置。
【請求項6】
前記投影部は、前記輪郭投影画像を、前記投影光として投影し、
前記撮像部は、可視光を遮断する可視光遮断部が設けられた第1の受光素子と、前記可視光遮断部が設けられていない第2の受光素子とにより構成される撮像素子を有し、前記第1の受光素子により、前記第1及び第2の撮像画像を生成し、前記第2の受光素子により、前記パターン画像を生成する
請求項5に記載の投影装置。
【請求項7】
前記投影部は、前記輪郭投影画像を不可視光として投影し、
前記撮像部は、可視光を遮断する可視光遮断部が設けられた撮像素子を有し、前記撮像素子により、前記第1及び第2の撮像画像の他、前記パターン画像も生成する
請求項5に記載の投影装置。
【請求項8】
可視光を遮断する可視光遮断部と、
前記輪郭投影画像として、前記投影光が投影されるときに、前記撮像素子に可視光が入射されるように前記可視光遮断部を移動させ、
前記第1の波長の光、又は前記第2の波長の光が照射されるときに、前記撮像素子に可視光が入射されないように前記可視光遮断部を移動させる
移動制御部と
をさらに含む請求項5に記載の投影装置。
【請求項9】
前記投影部は、予め決められた方向から入射される光を、前記投影範囲に反射させる反射部を有し、
前記第1の照射部は、前記第1の波長の光を、前記反射部に反射させて前記投影範囲に照射し、
前記第2の照射部は、前記第2の波長の光を、前記反射部に反射させて前記投影範囲に照射する
請求項2に記載の投影装置。
【請求項10】
前記第1の照射部は、前記第1の波長の光を、各画素値が均一な投影画像として反射させる前記反射部に反射させて前記投影範囲に照射し、
前記第2の照射部は、前記第2の波長の光を、各画素値が均一な投影画像として反射させる前記反射部に反射させて前記投影範囲に照射する
請求項9に記載の投影装置。
【請求項11】
前記第1の照射部から照射される前記第1の波長の光を、第1の偏光、又は前記第1の偏光とは異なる第2の偏光のうち、前記反射部で反射される前記第1の偏光に変換する第1の偏光変換部と、
前記第2の照射部から照射される前記第2の波長の光を、前記第1の偏光又は前記第2の偏光のうち、前記反射部で反射される前記第1の偏光に変換する第2の偏光変換部と
をさらに含む請求項9に記載の投影装置。
【請求項12】
前記投影装置の動きを検知する動き検知部をさらに含み、
前記算出部は、前記動き検知部により、前記投影装置の動きが検知された場合、前記撮像画像上の前記投影範囲を算出する
請求項3に記載の投影装置。
【請求項13】
前記投影部は、前記投影範囲のうち、前記肌領域の検出された部分を除く範囲に、前記投影画像を投影する
請求項1に記載の投影装置。
【請求項14】
前記撮像部は、撮像方向を変更可能である
請求項1に記載の投影装置。
【請求項15】
前記肌領域が検出された前記撮像画像上の第1の位置を、前記撮像部の撮像方向に応じた第2の位置に変換する変換部をさらに含み、
前記投影部は、前記第2の位置に応じて変更された前記投影画像を投影する
請求項14に記載の投影装置。
【請求項16】
前記第1の照射部は、前記第1の波長の光を前記投影範囲に照射し、
前記第2の照射部は、前記第2の波長の光を前記投影範囲に照射し、
前記検出部は、前記第1の撮像画像及び前記第2の撮像画像に基づいて、前記投射範囲内の前記肌領域を検出する
請求項2に記載の投影装置。
【請求項17】
前記第1の波長λ1、及び前記第2の波長λ2は、
640nm ≦ λ1 ≦ 1000nm
900nm ≦ λ2 ≦ 1100nm
を満たす請求項1に記載の投影装置。
【請求項18】
前記第1の照射部は、前記第1の波長λ1の不可視光を照射し、
前記第2の照射部は、前記第2の波長λ2の不可視光を照射する
請求項17に記載の投影装置。
【請求項19】
前記投影範囲における前記検出結果を、前記投影範囲内の位置に応じた信号として出力する出力部
をさらに含む請求項3に記載の投影装置。
【請求項20】
投影装置の投影方法において、
前記投影装置による、
被写体に対して第1の波長の光を照射する第1の照射ステップと、
前記第1の波長の光を照射させたときの前記被写体の撮像を行なう第1の撮像ステップと、
前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射する第2の照射ステップと、
前記第2の波長の光を照射させたときの前記被写体の撮像を行なう第2の撮像ステップと、
前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出ステップと、
前記検出ステップの検出結果に応じて変更される投影画像を投影する投影ステップと
を含む投影方法。
【請求項21】
コンピュータに、
被写体に対して第1の波長の光を照射させる第1の照射ステップと、
前記第1の波長の光を照射させたときの前記被写体の撮像を行なわせる第1の撮像ステップと、
前記被写体に対して前記第1の波長よりも長波長である第2の波長の光を照射させる第2の照射ステップと、
前記第2の波長の光を照射させたときの前記被写体の撮像を行なわせる第2の撮像ステップと、
前記第1の波長の光を照射させたときの撮像で得られる第1の撮像画像、及び前記被写体に対して前記第2の波長の光を照射させたときの撮像で得られる第2の撮像画像に基づいて、前記被写体の肌領域を検出する検出ステップと、
前記検出ステップの検出結果に応じて変更される投影画像を投影する投影ステップと
を含む処理を実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2013−3859(P2013−3859A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−134641(P2011−134641)
【出願日】平成23年6月16日(2011.6.16)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】