撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラム
【課題】 オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出する。
【解決手段】 オブジェクト抽出装置1は、発光部8から変調光10を発し、オブジェクト11による反射光12を変調光デコード部2で復調(デコード)し、ここで正常にデコードされるか否かに基づいてオブジェクトの距離を知る点に特徴がある。従来技術のように光の差分で距離を知る方法とは異なり、変調光を利用していることから、背景に明るさの変化が発生した場合でも誤認識することがない、ロバストなシステムを提供することができる。
【解決手段】 オブジェクト抽出装置1は、発光部8から変調光10を発し、オブジェクト11による反射光12を変調光デコード部2で復調(デコード)し、ここで正常にデコードされるか否かに基づいてオブジェクトの距離を知る点に特徴がある。従来技術のように光の差分で距離を知る方法とは異なり、変調光を利用していることから、背景に明るさの変化が発生した場合でも誤認識することがない、ロバストなシステムを提供することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタル・データの処理を行なう情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに係り、特に、撮像された画像データの処理を行なう撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに関する。
【0002】
さらに詳しくは、本発明は、撮影画像に含まれる特定のオブジェクトのイメージを抽出する撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに係り、特に、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを抽出する撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに関する。
【背景技術】
【0003】
昨今の情報技術(IT)分野における急速な進歩とともに、さまざまな形態のコンピュータ・システムが開発・製造され、大学やその他の研究機関、企業内のオフィス、さらには一般家庭内に広く普及している。コンピュータ上では、テキスト形式の文書ファイル以外に、音声、画像、自然言語などさまざまなメディアをデジタル化して、数学的に取り扱うことにより、情報の編集・加工、蓄積、管理、伝達、共有などより高度で多岐にわたる処理を行なうことが可能となっている。
【0004】
例えば、コンピュータを用いて画像に対し変形や色の変更、画質向上、再符号化などのデジタル・イメージ処理を行なう画像処理技術は広範に普及している。この画像処理技術には、風景写真の中で美観を損ねる電柱などの物体を除去する特殊効果や、人間の顔から動物の顔へ滑らかに変化させるモーフィングなども含まれる。また、人工衛星から送られてくる写真映像の処理や、CTスキャナで読み込まれた診断画像の処理など、画像処理技術は科学や医療などの各種専門分野にも適用されている。
【0005】
また、画像処理技術によれば、特殊な装置を装着することなく、簡易にジェスチャや動きの入力を行なうことができる(例えば、特許文献1を参照のこと)。この場合、反射光あるいは輻射光による入力から物体画像を抽出し、反射光画像の形状を解釈してその形状を指示(ユーザ・インタラクション)に変換する。また、キャラクタを背景画像から切り出すために、特定の画像を分解し、得られた分解画像に基づいて特定部分を抽出する。さらに抽出された画像及び背景を記憶し、反射光画像の配置位置を指定し、記憶された反射光画像の配置位置が指定されると、記憶された背景に対し指定された配置位置に反射光画像を配置して合成する。これによって、3次元空間でのポインティングや始点の変更を容易に行なうことができる。また、ユーザのジェスチャや動きをそのまま使って、アニメーションのキャラクタなどに自然な動きをつけるなどの直接的な操作を行なうことができる。さらに、特定のキャラクタだけを切り出したり、キャラクタの奥行き情報を用意に入力したりすることができる。
【0006】
図24には、特定のオブジェクトのみを抽出する手段を備えた情報入力装置の構成例を示している。オブジェクト抽出部100は、レンズ102、反射光抽出部101、タイミング制御部108、発光部107を備えている。さらに、反射光抽出部101は、第1の受光部103、第2の受光部104、差分演算部105、アンプ106、A/D変換部109で構成される。以下に、本オブジェクト抽出部100を用いた、オブジェクト110の抽出方法について説明する。
【0007】
発光部107はタイミング制御部108による制御によって点滅し、その点滅光111はオブジェクト110を照らしている。点滅光111は可視光でも赤外光でもよい。
【0008】
第1の受光部103は、発光部107が消灯している際に、オブジェクト110及びその背景の画像を取得する。次いで、第2の受光部104は、発光部107が点灯している際に、オブジェクト110及びその背景の画像を取得する。
【0009】
画像内に動きがない場合、第2の受光部104で取得した画像は、第1の受光部103で取得した画像に対して、発光部107から発せられた光が加算されたものとなる。この加算量は、発光部107からの距離が近いオブジェクトほど多くなる。
【0010】
次に、受光部103及び104でそれぞれ取得された画像データは差分演算部105へ転送される。ここで、それぞれの画像データから受光量の差分が演算される。差分値は発光部107からの光を強く受けた(すなわち強く反射した)オブジェクトほど大きくなる。つまり、オブジェクトの反射率が等しいと仮定すすれば、差分値は発光部107からオブジェクトまでの距離に比例することとなる。その後、差分値はアンプ106で増幅され、さらにA/D変換部109によりデジタル・データに変換されてから、次工程へと進む。
【0011】
第1の受光部103と第2の受光部104は、時間的に同時に画像を取得する訳ではないため、同一の受光装置でも良い。また、受光部103及び104には、一般的にフォトダイオードで構成される検出部(画素)が2次元的に配置された固体撮像素子が用いられる。そのため、上述した差分値は画素毎に得ることができる。つまり、発光部107からの距離が近いオブジェクトを撮像した画素の差分値は大きく、遠いオブジェクトを撮像した画素の差分値は小さくなる。 以上のようにして、画素毎に距離に比例した差分値を有しているため、ある適当な閾値を設定し、その値以上(以下)のみを表示するなどして、簡易にオブジェクトを抽出することができる。図24に示す装置構成によれば、オブジェクト110を背景から切り抜いて表示することが可能となり、このデータを用いたインタラクションも可能となる。
【0012】
ここで、上述したようなオブジェクトの抽出方法では、以下のような問題があると本発明者らは思料する。
【0013】
通常、オブジェクト抽出部100はカメラ装置に内蔵されることになる。この場合、ユーザがカメラ装置自体を動かして操作し、例えばオブジェクト110を撮像することも想定されるが、カメラ自体の動きに応じて光量が変化し、誤認識を招来する可能性がある。点滅光111が届かないような背景の像は、それ自体が固定されていれば、この部分を撮像する画素で明るさの差分は検出されない。これに対し、カメラ自体が動くことで背景全体が動くことになれば、それらを撮像する画素には、何らかの明るさの変化が発生する。この明るさの変化を、距離として誤認識してしまい、正しい距離データが取得できないことになる。これによりオブジェクト抽出も困難なものとなる。
【0014】
さらに、背景に点滅光があった場合、ここでも時間的な明るさの変化があるため、距離として誤認識してしまう。例えば、背景にCRTディスプレイが置いてあった場合には、所定のフレームレートで切り替わる表示画面のために、オブジェクトの形状を誤認識してしまう可能性がある。
【0015】
以上のように、従来の画像処理システムでは、背景にも明るさの変化があった場合、これらもすべて距離情報として誤認識してしまう問題があるため、オブジェクト抽出を困難なものとなっている。
【0016】
【特許文献1】特許第3321053号公報
【発明の開示】
【発明が解決しようとする課題】
【0017】
本発明の目的は、撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することにある。
【0018】
本発明のさらなる目的は、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することにある。
【0019】
本発明のさらなる目的は、背景に明るさの変化があった場合であっても、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージをより正確に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することにある。
【課題を解決するための手段】
【0020】
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、任意にコーディングされた変調光を照射する照射部と、前記変調光に対する特定のオブジェクトからの反射光を含んだ画像を撮像する撮像部と、前記変調光に対する反射光のデコーディングに基づいて撮像画像を処理する演算部とを具備することを撮像装置である。
【0021】
コンピュータによる画像処理技術を用いれば、入力した撮影画像に含まれるオブジェクトの画像を抽出することができる。この場合、反射光あるいは輻射光による入力から物体画像を抽出し、反射光画像の形状を認識することが一般に行なわれる。ところが、この場合、カメラ自体の動きによる光量の変化の影響を受けて誤認識する可能性がある、背景にある点滅光の影響によりオブジェクトの形状を誤認識する、といった問題がある。
【0022】
これに対し、本発明によれば、前記演算部は、前記変調光のデコーディングを行ない、撮像画像のうち正しくデコードできた部分を前記変調光が照射された部分であると判断することにより、撮像画像から前記特定のオブジェクトの画像部分のみをより正確に抽出することができる。
【0023】
すなわち、本発明によれば、任意のコーディングがなされた変調光を正しくデコードすることができたか否かに基づいてオブジェクトを認識しているので、従来技術のように光の差分で距離を知る方法とは異なり、背景に明るさの変化が発生した場合でも誤認識することがない、ロバストなシステムを提供することができる。
【0024】
ここで、前記撮像部には、ミクロな光電変換デバイスが2次元的に配列されて構成される、CCD(Charge Coupled Device:電荷結合型素子)やMOS(Metal Oxide Semiconductor)型の撮像素子が用いられる。そして、前記演算部は、撮像素子毎に前記変調光のデコーディングを試み、撮像素子の出力信号から変調光に掛けられた元のコード・パターンを正しくデコードすることができたかどうかに基づいて、前記変調光が照射された部分と照射されていない部分に分離することができる。
【0025】
前記撮像部における数フレーム分の撮像画像を記憶する記憶部をさらに備えていてもよい。前記演算部は、前後のフレーム間で対応する画素の出力信号の比較を行なうことによって、コード・パターンをデコードすることができる。また、半導体実装技術を好適に利用することにより、前記撮像部と、前記記憶部と、前記演算部を単一の半導体回路チップで構成することもできる。
【0026】
また、前記照射部は、不可視光の波長成分からなる変調光を照射する。前記照射部は、コード、コーディング方式、光強度、発光角度のうち少なくとも1つが相違する2種類以上の変調光を照射するようにしてもよい。
【0027】
前記照射部は、例えば、所定の発光周波数に従って、光源からの照射光を所定のコード・パターンでコーディングして変調光を照射する。この場合、前記撮像部は、コーディングされた変調光に対する反射光をデコードできるようにするために、前記発光周波数と同等以上のフレームレートで画像を撮像するようにする。そして、前記演算部は、前記撮像部からの出力信号を基に、前記特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする。例えば、前記照射部において変調光をコーディングし、前記演算部において前記変調光のデコーディングを行なうときに、前記撮像部は、より高いフレームレートに切り替えるようにする。
【0028】
また、本発明に係る撮像装置は、前記撮像部が通常の画像撮像を行なう通常画像撮像モードと、前記撮像部が前記演算部において前記変調光のデコーディングを行なうための画像撮像を行なうデコード・モードを備えていてもよい。例えば、前記通常画像撮像モードと前記デコード・モードを時分割で交互に動作するようにしてもよい。この場合、変調光成分の影響を受けないオブジェクトの画像を得るために、環境光成分のみがオブジェクトに照射されている通常画像の取得と、オブジェクト抽出のための画像取得とを時分割により行なう。
【0029】
前記通常画像撮像モードでは、前記照射部は変調光を照射せず、前記撮像部は環境光(若しくは自然光)に対するオブジェクトや風景からの反射光からなる画像を撮像する。また、前記デコード・モードでは、前記照射部は変調光を照射するので、前記撮像部は、環境光及び前記変調光に対する反射光からなる画像を撮像するようにする。
【0030】
例えば、前記演算部は、前記デコード・モード下での撮像画像から前記変調光のデコーディング結果に基づいて、撮像画像内で前記特定のオブジェクトの部分を特定することができる。そして、前記通常画像撮像モード下での撮像画像のうち該当部分を前記特定のオブジェクトの画像として抽出することができる。
【0031】
ここで、このように時分割でオブジェクトの撮影を行なう都合上、オブジェクトの画像フレーム内での位置に空間的なずれが発生しうる。そこで、前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違によるオブジェクトの移動の影響を考慮しながら、前記通常画像撮像モード下での撮像画像から前記特定のオブジェクトの画像を抽出するようにしてもよい。
【0032】
この場合、前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求める。そして、前記動きベクトルに基づいて前記デコード・モード下での撮影画像中における前記特定のオブジェクトの部分から、前記通常画像撮像モード下での撮像画像中における前記特定のオブジェクトの部分へアドレス変換を行なうことにより、通常撮像画像から前記特定のオブジェクトの画像部分をより正確に抽出することができる。
【0033】
また、前記照射部がコードの異なる2種類以上の変調光を照射し、前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光が照射された部分をそれぞれ抽出するようにしてもよい。すなわち、複数の種類の変調光を用いてオブジェクトを照射し、その撮像画像を画素毎にデコードを試み、正しくデコードされている場合は、さらに、どのコード・パターンによりデコードすることができるのかを検知することができる。そして、前記演算部は、コードが異なる変調光が照射された部分毎に、個別の画像処理を適用することができる。あるいは、特定のコードによる変調光が照射された部分のみを表示出力するなどして、さらに使い勝手の良いシステムを提供することができる。
【0034】
このとき、前記照射部は、コード毎に光強度を異ならせた2種類以上の変調光を照射するようにしてもよい。各変調光の光強度を相対的に変えると、到達しうる距離も相違するので、強い光強度の変調光ほどより遠くまで届き、遠くのオブジェクトからの反射光を正しくデコードすることができる。したがって、前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光が照射された部分をそれぞれオブジェクトとして抽出するとともに、該変調光の光強度に基づいて照射されたオブジェクトまでの距離を同定することができる。すなわち、複数の変調光を用いることで、距離情報を得ることが可能となり、これより任意の距離のオブジェクトを抽出することも可能になる。そして、オブジェクトの距離に応じた表示出力するなどして、さらに使い勝手の良いシステムを提供することができる。
【0035】
また、前記照射部は、コード毎に発光角度を異ならせた2種類以上の変調光を照射するようにしてもよい。各変調光は互いに異なる方向へ発光しており、それらの方向は左右でも、上下でも、同心円状でも、どの方向でも構わない。この場合、前記演算部は、発光角度毎に変調光のデコーディングを行ない、画角に応じたオブジェクトの表示処理を行なうことができる。
【0036】
また、本発明の第2の側面は、任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報の処理をコンピュータ・システム上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、撮像画像に対し変調光のデコーディングを行なうデコーディング・ステップと、正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出ステップとを具備することを特徴とするコンピュータ・プログラムである。
【0037】
本発明の第2の側面に係るコンピュータ・プログラムは、コンピュータ・システム上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータ・プログラムを定義したものである。換言すれば、本発明の第2の側面に係るコンピュータ・プログラムをコンピュータ・システムにインストールすることによって、コンピュータ・システム上では協働的作用が発揮され、本発明の第1の側面に係る撮像装置と同様の作用効果を得ることができる。
【発明の効果】
【0038】
本発明によれば、撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することができる。
【0039】
また、本発明によれば、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することができる。
【0040】
また、本発明によれば、背景に明るさの変化があった場合であっても、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージをより正確に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することができる。
【0041】
本発明によれば、変調光を用いて特定のオブジェクトの抽出を行なっているので、単に明るさの変化により抽出を行なっていた場合に比べ、環境光の変化などに対しロバストに抽出を行なうことができる。これにより、カメラ自体が動くような場合や、生活環境に存在する点滅光を撮影した場合でも、これらに影響されることなく良好なオブジェクト抽出が可能となる。 さらに、コード・パターンを複数用意することで、被写体までの距離や角度を知ることも可能となる。
【0042】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【発明を実施するための最良の形態】
【0043】
以下、図面を参照しながら本発明の実施形態について詳解する。
【0044】
第1の実施形態:
図1には、本発明の第1の実施形態に係るオブジェクト抽出装置の機能構成を模式的に示している。図示のオブジェクト抽出装置1は、変調光デコード部2と、タイミング制御部7と、発光部8と、レンズ9を備えている。さらに、変調光デコード部2は、撮像部3と、バッファ・メモリ5と、演算部6で構成される。
【0045】
本実施形態に係るオブジェクト抽出装置1は、発光部8から変調光10を発し、オブジェクト11による反射光12を変調光デコード部2で復調(デコード)する。ここで、正常にデコードされるか否かに基づいてオブジェクトの距離を知る点に特徴がある。従来技術のように光の差分で距離を知る方法とは異なり、変調光を利用していることから、背景に明るさの変化が発生した場合でも誤認識することがない、ロバストなシステムを提供することができる。
【0046】
図2には、発光部8の構成を示している。図示のように、発光部8は、発光制御部13と光源14で構成される。変調光10は、なんらかのコードを明るさ信号に変調(コーディング)した光となる。図示の例では、「01010010」という8ビットのバイナリ値を変調しており、“0”は消灯(暗)、“1”は点灯(明)として表現している(以下同様)。このような点滅パターン(変調光)を発光させるための制御は発光制御部13が担っている。光源14は明るさを変化できるものであれば何でも良いが、応答速度や明るさの面からLEDやレーザを用いるのが適当である。また、光の波長は可視光領域でも、赤外光領域でも良い。本実施例では、変調光の明暗を2値としているが、勿論、アナログ的に変化しても構わない。
【0047】
図3には、変調光デコード部2におけるデコード処理の手順をフローチャートの形式で示している。
【0048】
まず、撮像部3で光に応じた電気信号を発生させる(ステップS1)。
【0049】
図4には、撮像部3の撮像面の構成を模式的に示している。光を基に電気信号を発生させるには、光電変換デバイスが2次元的に配置されている。ここで言う光電変換デバイスとして、CCD(Charge Coupled Device:電荷結合型素子)やMOS(Metal Oxide Semiconductor)型の撮像素子が用いられる。
【0050】
画素15は光電変換可能な最小単位であり、一般には、この撮像部3のフレームレートは変調光10の周波数と同等か、若しくはより高周波で動作できることが望ましい。本実施形態では、説明の簡素化のため、変調光10と撮像部3が同じ周波数で同期して動作しているケースを想定して説明する。つまり、変調光が100Hzで動作していた場合、撮像部10は100fps(秒当りのフレーム数)で動作することを想定している。
【0051】
次いで、撮像部3から出力された電気信号は、バッファ・メモリ5に送られ、ここに数フレーム分保存される(ステップS2)。この際の電気信号は、アナログ値でもデジタル値(一般に、撮像装置からの出力デジタル値は10〜14ビット程度である)でも構わないが、データの扱い易さからデジタル値の方が望ましい。本実施形態では、8ビットのバイナリ・データを用いているため、8フレーム分の信号を保存する。
【0052】
次いで、バッファ・メモリ5で保存されたデータは演算部6へ転送される。ここで、8フレーム分のデジタル(若しくはアナログ)信号を基にデコード演算を行なう(ステップS3)。
【0053】
図5には、ここでの電気信号データの演算方法の一例を示している。図示の例では、ある閾値を設け、これより下であれば“0”、上であれば“1”となるように画素毎に判定処理を行なうようにしている。比較器16を用いて出力を2値化すると簡便である。同図において、同じ“0”や“1”であっても信号量に変化を持たせているのは、変調光以外の要因(環境光)により信号が上下することを加味しているからである。この図からも、本実施形態に係るオブジェクト抽出処理が環境光の変化に対してロバストであることを理解できよう。 図1の制御部7は、変調光デコード部2や、発光制御部13の上記のような動作を制御するものである。
【0054】
以上のように、本発明では、最小単位では画素15レベルで、変調された反射光12をデコードすることが可能となる。そして、デコードされたコードが正しいか否か(すなわち発光部8から出力される変調光10に与えられたコードと一致するか否か)に基づいて、その画素に反射光が入射したか否かを正確に知ることが可能となる。例えば、変調光10の届く範囲にオブジェクト11のみがあった場合、オブジェクト11からの反射光12を受けた画素15のみが正しいデコードを行なうことができる。したがって、正しくデコードされた画素にのみ着目することで、撮像した画像からオブジェクト11の形状を抽出することが可能となる。図6には、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出する様子を示している。
【0055】
以上、本発明の第1の実施形態について詳細に述べた。オブジェクト抽出装置1内の各部は機能説明のために便宜上分解して描かれているが、この中の幾つかのモジュール、若しくはすべての機能モジュールが1つのチップやモジュールに集積されたとしても、同様の効果が得られることは言うまでもない。例えば、本出願人に既に譲渡されている特開2002−292379号公報、特開2002−326857号公報、特開2003−33962号公報には、画素データを演算処理する演算機能を備えた撮像装置について開示されている。この種の撮像装置内の演算機能を用いて、数フレーム分の電気信号データの記憶、並びに電気信号データを基にデコード処理(電気信号データの閾値との比較)を行なうことができるので、上述したすべての機能モジュールを1チップで構成することができる。また、演算処理などは、ハードウェアで行なっても、あるいはソフトウェアで行なうようにしても良い。
【0056】
第2の実施形態:
図7には、本発明の第2の実施形態に係るオブジェクト抽出装置の機能構成を示している。図示のオブジェクト抽出装置1は、変調光デコード部2と、タイミング制御部7と、発光部8と、レンズ9で構成される。さらに、変調光デコード部2は、撮像部3と、フレーム間比較部4と、バッファ・メモリ5と、演算部17で構成される。本実施形態と上述の第1の実施形態との相違は、フレーム間比較部4が存在する点と、演算部17におけるデータの取り扱いの点にある。
【0057】
図8には、変調光デコード部2におけるデコード処理の手順をフローチャートの形式で示している。
【0058】
まず、撮像部3で光に応じた電気信号を発生させる(ステップS11)。電気信号はアナログ値でもデジタル値(一般に撮像装置からの出力デジタル値は10〜14ビット程度である)でも良い。
【0059】
その後、この信号はフレーム間比較部4に転送される。ここでは、前後のフレーム間で信号の大小を比較演算する(ステップS12)。図9には、ここでの比較演算方法の一例を示している。また、図10には、この演算方法を実現する処理手順をフローチャートの形式で示している。本方法では、図9に示すようなフレーム間の差異18の大きさ、及び符号を演算する。この際、同じ信号、例えば“0”であっても信号の差異は発生する。この差異(誤差)を閾値19とし、これより大きな差異18が見られた場合にデータの変化が生じたと定義する。図10に示すように、前後のフレーム間で画素単位で画素信号の大小を比較する。そして、前のフレームより後のフレームの方の信号が大きい場合には、当該画素において“0”→“1”の変化が発生し、その逆であれば“1”→“0”の変化が発生したことが分かる。但し、上述したように、比較量が閾値19以下の場合は不変と定義する。本実施形態では、フレーム間比較部4からの出力データは、前者の変化の際は“01”、後者の変化の際は“10”、不変であれば“00”と2ビットで定義付ける。入力信号は通常アナログ値、若しくは10ビット以上のデジタル値となるが、本比較部4での演算により、2ビットに圧縮される。不変データ“00”では、“0”→“0”なのか、“1”→“1”なのかの判断がつかないが、変調光10を用いていることから、必ず“01”、若しくは“10”が存在するため(ALL“0”、ALL“1”では、変調光としての判断が困難なので、これらは使用しない)、このデータからのフィードバックにより、“0”→“0”なのか、“1”→“1”なのかの判断を行なう。
【0060】
図8に示すように、フレーム間比較部4結果はバッファ・メモリ5に記憶される(ステップS13)。演算後のデータが数フレーム分記憶されることになるが、データが圧縮されている分だけ、第1の実施形態におけるバッファ・メモリよりも小容量のもので良い。また、第1の実施形態と同様に、コードは8ビットのバイナリ・データを想定しているため、このバッファ・メモリ5では8フレーム分のデータを保存する。
【0061】
次いで、バッファ・メモリ5で保存されたデータは演算部17へ転送される。演算部17では、フレーム間比較部4において圧縮されたデータをデコードする(ステップS14)。図11にはフレーム・データの流れを示している。撮像部3から出力されたデータがフレーム間比較部4でデータ圧縮され、その後デコードされることで、変調光10から8ビットのデータを得ることができる。
【0062】
以上のように、本発明では、最小単位では画素15レベルで、変調された反射光12をデコードすることが可能となる。そして、デコードされたコードが正しいか否か(すなわち発光部8から出力される変調光10に与えられたコードと一致するか否か)で、その画素に反射光が入射したか否かを正確に知ることが可能となる。例えば、変調光10の届く範囲にオブジェクト11のみがあった場合、オブジェクト11からの反射光12が入射された画素15のみが正しいデコードを行なうことができる。したがって、正しくデコードされた画素にのみ着目することで、撮像画像からオブジェクト11の形状を抽出することが可能となる。図13には、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出することができた様子を示している。
【0063】
以上、本発明の第2の実施形態について詳細に述べた。オブジェクト抽出装置1内の各部は機能説明のために便宜上分解して描かれているが、この中の幾つかの部、若しくはすべてが1つのチップやモジュールに集積されたとしても同様の効果が得られることは言うまでもない(同上)。また、演算処理などは、ハードウェアで行なうようにしても、あるいはソフトウェアで行なうようにしても良い。
【0064】
第3の実施形態:
ここでは、上述した手段を用いたオブジェクト切抜きのための情報と、通常画像の情報とにより切り抜かれたオブジェクトのみを表示装置により表示させるという実施形態について説明する。
【0065】
図12には、本実施形態に係る切り抜かれたオブジェクトを表示出力するための処理手順をフローチャートの形式で示している。
【0066】
撮像部3(図1、図7を参照のこと)からの出力データを、上述したオブジェクト抽出装置1(図1、図7を参照のこと)へ転送するとともに(ステップS21)、通常の映像信号を生成するための画像処理装置へ転送する(ステップS22)。その後、それぞれの装置から画素毎、若しくはそれに準じたレベルの、デコードの成否データ、及び、通常画像データが出力される。この際お互いのデータは1対1対応するのが望ましいがこの限りではない。
【0067】
次いで、画素毎にデコードが正しく行なわれたか否かを判別し(ステップS23)、その情報を基にそれぞれに個別に任意の処理1、並びに処理2を行なう(ステップS24、S25)。ここでは、処理1に相当することを表示装置に転送することとし、処理2に相当することを表示装置に転送しないこととした。これにより、正しくデコードされた画素に対応する通常画像データのみを表示装置にて表示させることができる。
【0068】
図13には、本実施形態を適用し、撮影画像に含まれる特定のオブジェクトを表示した場合の画面を示している。
【0069】
図13(a)には被写体を示している。ここでは、変調光が十分届く位置に人の手があり、その後で変調光が届かない位置に木がある場合を想定している。また、図13(b)には通常のカメラで撮影した際の通常の映像を示している。また、図13(c)には、本実施形態を適用し、特定のオブジェクト(人の手)のみを切り出して表示した例を示している。正しくデコードされた画素に相当する映像データのみ表示すれば、このような抜き取りが可能となる。
【0070】
ここでは、正しくデコードされていない画素のエリアをグレーで表示した。他にも、正しくデコードされていないエリアを画像処理でぼかし、これを表示させることで、例えば、近くの人物ははっきりと表示し、背景をぼかすようなことも可能となる。あるいは、全く違った画像データを用意し、このデータを表示させるなどしても良い。 以上のようにオブジェクト抽出装置1により処理されたデコード情報を利用することで、特定のオブジェクトのみを表示装置に表示することが可能となる。
【0071】
第4の実施形態:
ところで、上述した第3の実施形態では抽出されたオブジェクトを簡易に表示できる一方、撮像部からの出力データには環境光に加え変調光が載っている。このため、通常画像データを表示する場合は、変調光が照射された特定のオブジェクトについて、周囲に比べ明るくなったり、変調光によってフリッカが観察されたりするといった問題が見られる場合がある。本実施形態では、抽出されたオブジェクトが、オブジェクト抽出のために照射された変調光を浴びることにより生ずるこれらの問題を解決するためのものである。
【0072】
図14に本実施形態に係る画像取得の動作シーケンスを示している。同図に示すように、本実施形態では、環境光成分のみがオブジェクトに照射されている通常画像の取得と、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得とを時分割により行なう。
【0073】
通常画像取得動作時に得られた通常画像に対しては、通常の画像処理が施される。例えば、CRTディスプレイなどの表示装置へ画面出力するための映像信号に変換される。また、環境光成分にさらに変調光成分も載った光により照射されているオブジェクト抽出用の画像取得及びデコード処理動作時には、撮像画像は上述したオブジェクト抽出装置にて処理が施される。
【0074】
このような動作シーケンスにより、変調光の影響を受けない通常画像を表示することが可能となる。
【0075】
図15には、撮像部3(図1及び図7を参照のこと)によるデータ出力から画像表示までの処理手順をフローチャートの形式で示している。
【0076】
通常画像用のデータと、オブジェクト抽出用のデータは時分割に交互に出力される(ステップS31、S32)。時間的に前に通常画像処理が行なわれ、その後のデコード処理で正しくデコードすることができたかどうかに応じて(ステップS33)、どの画素の画像データが処理1(ステップS34)若しくは処理2(ステップS35)に送られるかが決められる(前後関係はこれの逆でも良い)。
【0077】
ここで、通常画像用データとオブジェクト抽出用のデータは時間的に一致していない。このため、抽出しようとするオブジェクトが動いている場合には、画像表示用の通常画像の取得時とオブジェクト抽出用の画像取得時とで、オブジェクトの画像フレーム内での位置に空間的なずれが発生する可能性がある。但し、これは撮像部3のフレームレートを上げ、オブジェクト表示用の通常画像撮影とオブジェクト抽出用の画像撮影との時間的な差を縮めることで軽減することが可能となる。
【0078】
また、本実施形態では、通常画像の動作時と、デコード処理を含む動作時とではフレームレートを変えている。例えば、図14に示す例では、前者:後者=1:8としている。これにより、それぞれの動作時間が等しくなる。 以上のように本実施形態では、通常画像用のデータと、オブジェクト抽出用のデータは時分割に交互に出力する際に、オブジェクトの空間的なずれを発生することがあるものの、変調光が載らない(すなわち環境光だけ)が照射される特定のオブジェクトの画像を表示装置に表示することができる。
【0079】
第5の実施形態:
第4の実施形態では、変調光成分の影響を受けないオブジェクトの画像を得るために、環境光成分のみがオブジェクトに照射されている通常画像の取得と、オブジェクト抽出のための画像取得とを時分割により行なう。後者のオブジェクト抽出を行なうための画像取得では、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得を行なう。このように時分割でオブジェクトの撮影を行なう都合上、オブジェクトの画像フレーム内での位置に空間的なずれが発生しうる(前述)。
【0080】
本実施形態では、通常画像用データとオブジェクト抽出用のデータは時間的に一致していないことに起因するオブジェクトの空間的なずれの問題を、動き予測の手法を適用することにより解決するためのものである。但し、第4の実施形態に係るシステム構成に、オブジェクトの動き補償の処理が付加する形となるため、その分だけ計算機の負荷は重くなる。
【0081】
図16には、動いているオブジェクトに対し通常画像の撮影とオブジェクト抽出(デコード)用の撮影を時分割で交互に行なっている様子を示している。図示の例では、被写体20は移動する円形の物体であり、この被写体20に対して本発明に係るオブジェクト抽出を適用する場合について、以下に説明を行なう。
【0082】
現在、被写体20(画像取得及びデコード処理中)は、図16に示す位置にあるとする。被写体20は矢印26で示す軌跡に沿って移動しており、前のフレーム(通常画像取得時)には被写体21に、さらにその前のフレーム(画像取得及びデコード処理時)では被写体22に、さらにその前のフレーム(通常画像取得時)では被写体23の場所に存在していたとする。
【0083】
被写体20に相当する画素がデコード処理により正しくデコードされ、この画素に対応する通常画像を表示しようとしたとする。ところが、デコード処理用の画像取得と通常画像取得は時分割で交互に行なわれていることから、現在の被写体20の位置と、その直近で取得された通常画像における被写体21の位置との間には、空間的なずれが発生している。その結果、被写体21のうち表示されるのは、これらの重なり(AND)の部分である表示部28のみとなり(図16(b)を参照のこと)、その他の部分は表示されないことになる。
【0084】
そこで、本実施形態では、このような事態を回避するために、被写体の動きベクトルを抽出し、動き予測の結果を利用して、所望の表示を達成しようと試みる。
【0085】
図16において、画素24〜27は被写体21〜23に対して、同じ位置に相当する画素である。ここで、デコード時の被写体20の画素24に相当する通常画像は被写体21の画素25であるという画像フレーム間における画素の対応関係を導出し、直近に撮影された通常画像中で被写体20に対応する画素部分を表示することにより、抜けのない、良好なオブジェクト抽出が可能になることが分かる。
【0086】
このようなオブジェクト抽出を実現するために、矢印26のベクトル、すなわちオブジェクトの動きベクトルを求める必要がある。動きベクトルの抽出は、デコードされたデータである被写体20と被写体22を利用する。例えば、被写体が図16に示すような単純な円形であれば、まず、それぞれの被写体の重心を求め、その後、これらの重心を結ぶベクトルを導出すればよい。
【0087】
あるいは、動きベクトルの他の抽出方法として、MPEG(Moving Picture Experts Group)4などの標準的な画像圧縮技術で用いられている一般的な方法を適用することができる。例えば、被写体23を1つのポリゴンとして扱い、これの次の(実際には次の次)フレーム(被写体21が撮影された通常画像フレーム)との間で、ポリゴン・マッチング処理を行なうことでベクトルを求める。この動きベクトルを基に画素24⇒画素25という画素のアドレス変換を行なえばよい。
【0088】
図17には、オブジェクトの動きベクトルの抽出と動きベクトルに基づくがそのアドレス変換を行なうための処理手順をフローチャートの形式で示している。
【0089】
まず、直近のデコード用撮影画像中において被写体22の重心を求める(ステップS41)。次いで、現在のデコード用撮影画像中における被写体20の重心を求める(ステップS42)。そして、求められたそれぞれの重心を基に、動きベクトルを抽出する(ステップS43)。
【0090】
次いで、直近の通常画像中で、動きベクトルの中心に被写体21が存在すると仮定して(ステップS44)、求めた動きベクトルを基に、被写体20を構成するがそのアドレスを変換する(ステップS45)。このアドレス変換を利用することで、デコード用画像中の被写体20に相当する画素データを取得することができる。
【0091】
以上説明したように、本実施形態では、デコードされた画素24に対応する映像画素25を動きベクトルから推定することで、良好に特定オブジェクトの抽出を行なうことができる。
【0092】
第6の実施形態:
これまでは、1種類の変調コードのパターンからなる変調光を用いてオブジェクトを照射し、その撮像画像を画素毎に正しくデコードされたか否かという2値によりオブジェクトの抽出を行なう各実施形態について説明してきた。これに対し、本発明の第6の実施形態では、変調コードの異なる複数の種類の変調光を用いてオブジェクトを照射するようにした。そして、その撮像画像を画素毎にデコードを試み、正しくデコードされている場合は、さらに、いずれのコード・パターンがデコードされているのかを検知することで、いずれの変調光に対する反射光であるかを特定する。この場合、各変調光により抽出されたオブジェクト毎に個別の画像処理を適用することができるので、さらに使い勝手の良いシステムを提供することができる。以下では、変調光を用いたオブジェクト抽出の応用として、2種類以上の変調コードのパターンからなる変調光を用いた実施形態について説明する。
【0093】
図18には、本実施形態に係る発光部の構成を示している。第1〜第5の実施形態では、図2に示したように、1種類の変調コード・パターンが変調光10として発光される。これに対し、本実施形態では、2種類以上の変調コード・パターンからなる変調光30及び31が発光される。図18では、光源33が「01010010」と「01011001」の2つの変調光を交互に発光する例が示されている。
【0094】
ここで、光源33は、1つの光源が複数の変調コード・パターンを出力するようにしてもよいし、変調コード・パターン毎に光源を配設するようにしてもよい。光源33の制御は、発光制御部32が行なっている。
【0095】
さらに、2つの変調光30及び31は光強度を相対的に変えてあり、前者が弱く、後者が強くなるように設定している。この場合、それぞれの変調光30及び31が到達しうる距離もその光強度に応じて異なり、後者の方が遠くまで届くことになる。
【0096】
図19には、本実施形態に係る画像取得の動作シーケンスを示している。図示の動作シーケンスは、第4の実施形態(図14を参照のこと)の場合と同様に、オブジェクト抽出のための画像取得とを時分割により行なう。後者のオブジェクト抽出を行なうための画像取得では、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得を行なう。
【0097】
図14に示した動作シーケンスとの相違は、デコード処理が2回続けて行なわれる、すなわち変調コード・パターン毎にデコード処理が行なわれる点である。この理由、それぞれの変調光30及び31が干渉する場合を想定しているためである。勿論、互いに干渉しない変調方法(コーディング方式)を用いれば、同時にデコードすることも可能である。
【0098】
また、図19に示す例では、通常画像取得動作と画像取得及びデコード処理動作では、後者の動作期間の方が長く描かれているが、上記したような空間的なずれを考慮すると、後者の動作は極力速く処理するのが望ましい。
【0099】
上記のような発光動作、及び動作シーケンスを用いた場合、光強度を異ならせたコードの数だけデコーディングを行なった段階で、各変調光により照射されたオブジェクトを抽出するとともに、オブジェクトまでの距離を同定することができる。図18には、コード毎に光強度を異ならせた2種類以上の変調光を照射した様子を示している。同図に示すように、光強度の弱い変調光30からの反射光をデコードできるのはより近い距離にあるオブジェクト34であり、強い変調光31からの反射光をデコードできるのは、これより遠くの距離にあるオブジェクト35である。さらにデコードが正しく行なえないのは、さらに遠くにあるオブジェクト36である。図示の例では変調光は2種類であるが、当然これ以上でも良い。
【0100】
以上のように、複数の変調光を用いることで、距離情報を得ることが可能となり、これより任意の距離のオブジェクトを抽出し表示することも可能になる。
【0101】
図20には、本実施形態において、データ出力から画像表示までの処理手順をフローチャートの形式で示している。
【0102】
通常画像用のデータと、オブジェクト抽出用の画像取得は時分割に交互に出力される(ステップS51、S52)。時間的に前に通常画像処理が行なわれ、その後のデコード処理では、オブジェクト抽出用の取得画像の画素毎に各コーディング方式により正しくデコードすることができたかどうかを判別する(ステップS53)。
【0103】
ここで、いずれのコーディング方式でも正しくデコードされなかった画素については、処理2を適用する(ステップS54)。処理2の一例は当該画素信号を表示出力しないことである。
【0104】
また、いずれかのコーディング方式により正しくデコードすることができた画素については(ステップS53)、さらに、いずれのコーディング方式により正しくデコードできたかに応じて、その処理方法について決定する(ステップS55)。
【0105】
例えば、弱い光強度に設定されている変調光30が持つコード・パターン「01010010」がデコードされた画素については、より近い場所にあるオブジェクトの画素信号として、処理1(例えば表示出力)が適用される(ステップS56)。
【0106】
また、強い光強度に設定されている変調光31が持つコード・パターン「01011001」がデコードされた画素については、より遠い場所にあるオブジェクトとの画素信号として、処理4(例えば表示出力)が適用される(ステップS57)。
【0107】
また、いずれのコード・パターン「01010010」及び「01011001」もデコードすることができた画素については、処理3(例えば表示出力)が適用される(ステップS58)。
【0108】
第7の実施形態:
上述した第6の実施形態では、光強度を異ならせた複数の変調光を用いた。これに対し、本実施形態では、発光角度が異なる複数の変調光を用いている。
【0109】
図21には、本実施形態に係る発光部、及び変調光の構成を示している。変調光37及び38は互いに異なる方向へ発光している。方向は左右でも、上下でも、同心円状でも、どの方向でも構わない。光源39は、1つの光源が時分割で発光角度の異なる変調光を照射するようにしてもよいし、発光角度毎に光源を配設するように構成してもよい。
【0110】
なお、変調コード・パターンが相違する変調光毎に時分割でデコード処理を行なうのは、それぞれの変調光37及び38が干渉することを想定しているためであり、干渉しない変調方法(コーディング方式)を用いることにより同時にデコードすることも可能である。
【0111】
また、光源39の動作制御は、発光制御部40が行なっている。動作シーケンスは図19と同様であり、オブジェクト抽出のための画像取得とを時分割により行なうことができる。後者のオブジェクト抽出を行なうための画像取得では、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得を行なう。デコード処理は、発光角度毎に行なわれる。
【0112】
本実施形態によれば、オブジェクト抽出を行ないたい方向を特定することが可能である。図22には、左右方向に異なる変調光を発光する際の、発光エリア50(変調光37)、及び発光エリア51(変調光38)と、撮像素子の撮像画角52の関係を示している。同図のように設定することで、例えば、図23のように変調光37に照射された右手53と変調光38に照射された左手54の双方を別々のコードで認識することができるようになる。これにより、両手による別々の情報入力などが可能になる。ゲームなどの用途では、遊び方の応用範囲を広げることができる。
【産業上の利用可能性】
【0113】
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
【0114】
撮像素子から得られた電気信号データを数フレーム分だけ記憶し、前後のフレームで電気信号データを比較してデコード処理を行なう機能モジュールの一部又は全部を1つのチップ又はチップ内モジュールに集積することによっても、本発明を好適に実現することができる。
【0115】
例えば、本出願人に既に譲渡されている特開2002−292379号公報、特開2002−326857号公報、特開2003−33962号公報には、画素データを演算処理する演算機能を備えた撮像装置について開示されている。この種の撮像装置に本発明に関する機能モジュールの一部又は全部を実装することができる。
【0116】
また、閾値との比較により画素毎の電気信号データをデコードする処理、あるいは前後のフレームで電気信号データを比較してデコード処理を行なう演算処理などを、ハードウェアで行はなくソフトウェアで行なうようにしても良い。
【0117】
要するに、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【図面の簡単な説明】
【0118】
【図1】図1は、本発明の第1の実施形態に係るオブジェクト抽出装置の機能構成を模式的に示した図である。
【図2】図2は、発光部8の構成を示した図である。
【図3】図3は、変調光デコード部2におけるデコード処理の手順を示したフローチャートである。
【図4】図4は、撮像部3の撮像面の構成を模式的に示した図である。
【図5】図5は、撮像部3から出力された電気信号の演算方法を説明するための図である。
【図6】図6は、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出する様子を示した図である。
【図7】図7は、本発明の第2の実施形態に係るオブジェクト抽出装置の機能構成を示した図である。
【図8】図8は、変調光デコード部2におけるデコード処理の手順を示したフローチャートである。
【図9】図9は、撮像部3から出力された電気信号データを前後のフレームで比較する演算方法を説明するための図である。
【図10】図10は、撮像部3から出力された電気信号データを前後のフレームで比較する処理手順を示したフローチャートである。
【図11】図11は、フレーム・データの流れを示した図である。
【図12】図12は、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出することができた様子を示した図である。
【図13】図13は、本発明を適用し、撮影画像に含まれる特定のオブジェクトを表示した場合の画面例を示した図である。
【図14】図14は、本発明の第4の実施形態に係る画像取得の動作シーケンスを示した図である。
【図15】図15は、本発明の第4の実施形態において、データ出力から画像表示までの処理手順を示したフローチャートである。
【図16】図16は、動いているオブジェクトに対し通常画像の撮影とオブジェクト抽出(デコード)用の撮影を時分割で交互に行なっている様子を示した図である。
【図17】図17は、オブジェクトの動きベクトルの抽出と動きベクトルに基づくがそのアドレス変換を行なうための処理手順を示したフローチャートである。
【図18】図18は、本発明の第6の実施形態に係る発光部の構成を示した図である。
【図19】図19は、本発明の第6の実施形態に係る画像取得の動作シーケンスを示した図である。
【図20】図20は、本発明の第6の実施形態において、データ出力から画像表示までの処理手順を示したフローチャートである。
【図21】図21は、本発明の第7の実施形態に係る発光部及び変調光の構成を示した図である。
【図22】図22は、左右方向に異なる変調光を発行する際の発光エリアと撮像画角の関係を示した図である。
【図23】図23は、図22に示したように発光エリアと撮像画角の関係を設定した場合におけるオブジェクトの認識結果の例を示した図である。
【図24】図24は、特定のオブジェクトのみを抽出する手段を備えた情報入力装置の構成例(従来技術)を示した図である。
【符号の説明】
【0119】
1…オブジェクト抽出装置
2…変調光デコード部
3…撮像部
4…フレーム間比較部
5…バッファ・メモリ
6…演算部
7…タイミング制御部
8…発光部
9…レンズ
17…演算部
【技術分野】
【0001】
本発明は、デジタル・データの処理を行なう情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに係り、特に、撮像された画像データの処理を行なう撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに関する。
【0002】
さらに詳しくは、本発明は、撮影画像に含まれる特定のオブジェクトのイメージを抽出する撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに係り、特に、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを抽出する撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムに関する。
【背景技術】
【0003】
昨今の情報技術(IT)分野における急速な進歩とともに、さまざまな形態のコンピュータ・システムが開発・製造され、大学やその他の研究機関、企業内のオフィス、さらには一般家庭内に広く普及している。コンピュータ上では、テキスト形式の文書ファイル以外に、音声、画像、自然言語などさまざまなメディアをデジタル化して、数学的に取り扱うことにより、情報の編集・加工、蓄積、管理、伝達、共有などより高度で多岐にわたる処理を行なうことが可能となっている。
【0004】
例えば、コンピュータを用いて画像に対し変形や色の変更、画質向上、再符号化などのデジタル・イメージ処理を行なう画像処理技術は広範に普及している。この画像処理技術には、風景写真の中で美観を損ねる電柱などの物体を除去する特殊効果や、人間の顔から動物の顔へ滑らかに変化させるモーフィングなども含まれる。また、人工衛星から送られてくる写真映像の処理や、CTスキャナで読み込まれた診断画像の処理など、画像処理技術は科学や医療などの各種専門分野にも適用されている。
【0005】
また、画像処理技術によれば、特殊な装置を装着することなく、簡易にジェスチャや動きの入力を行なうことができる(例えば、特許文献1を参照のこと)。この場合、反射光あるいは輻射光による入力から物体画像を抽出し、反射光画像の形状を解釈してその形状を指示(ユーザ・インタラクション)に変換する。また、キャラクタを背景画像から切り出すために、特定の画像を分解し、得られた分解画像に基づいて特定部分を抽出する。さらに抽出された画像及び背景を記憶し、反射光画像の配置位置を指定し、記憶された反射光画像の配置位置が指定されると、記憶された背景に対し指定された配置位置に反射光画像を配置して合成する。これによって、3次元空間でのポインティングや始点の変更を容易に行なうことができる。また、ユーザのジェスチャや動きをそのまま使って、アニメーションのキャラクタなどに自然な動きをつけるなどの直接的な操作を行なうことができる。さらに、特定のキャラクタだけを切り出したり、キャラクタの奥行き情報を用意に入力したりすることができる。
【0006】
図24には、特定のオブジェクトのみを抽出する手段を備えた情報入力装置の構成例を示している。オブジェクト抽出部100は、レンズ102、反射光抽出部101、タイミング制御部108、発光部107を備えている。さらに、反射光抽出部101は、第1の受光部103、第2の受光部104、差分演算部105、アンプ106、A/D変換部109で構成される。以下に、本オブジェクト抽出部100を用いた、オブジェクト110の抽出方法について説明する。
【0007】
発光部107はタイミング制御部108による制御によって点滅し、その点滅光111はオブジェクト110を照らしている。点滅光111は可視光でも赤外光でもよい。
【0008】
第1の受光部103は、発光部107が消灯している際に、オブジェクト110及びその背景の画像を取得する。次いで、第2の受光部104は、発光部107が点灯している際に、オブジェクト110及びその背景の画像を取得する。
【0009】
画像内に動きがない場合、第2の受光部104で取得した画像は、第1の受光部103で取得した画像に対して、発光部107から発せられた光が加算されたものとなる。この加算量は、発光部107からの距離が近いオブジェクトほど多くなる。
【0010】
次に、受光部103及び104でそれぞれ取得された画像データは差分演算部105へ転送される。ここで、それぞれの画像データから受光量の差分が演算される。差分値は発光部107からの光を強く受けた(すなわち強く反射した)オブジェクトほど大きくなる。つまり、オブジェクトの反射率が等しいと仮定すすれば、差分値は発光部107からオブジェクトまでの距離に比例することとなる。その後、差分値はアンプ106で増幅され、さらにA/D変換部109によりデジタル・データに変換されてから、次工程へと進む。
【0011】
第1の受光部103と第2の受光部104は、時間的に同時に画像を取得する訳ではないため、同一の受光装置でも良い。また、受光部103及び104には、一般的にフォトダイオードで構成される検出部(画素)が2次元的に配置された固体撮像素子が用いられる。そのため、上述した差分値は画素毎に得ることができる。つまり、発光部107からの距離が近いオブジェクトを撮像した画素の差分値は大きく、遠いオブジェクトを撮像した画素の差分値は小さくなる。 以上のようにして、画素毎に距離に比例した差分値を有しているため、ある適当な閾値を設定し、その値以上(以下)のみを表示するなどして、簡易にオブジェクトを抽出することができる。図24に示す装置構成によれば、オブジェクト110を背景から切り抜いて表示することが可能となり、このデータを用いたインタラクションも可能となる。
【0012】
ここで、上述したようなオブジェクトの抽出方法では、以下のような問題があると本発明者らは思料する。
【0013】
通常、オブジェクト抽出部100はカメラ装置に内蔵されることになる。この場合、ユーザがカメラ装置自体を動かして操作し、例えばオブジェクト110を撮像することも想定されるが、カメラ自体の動きに応じて光量が変化し、誤認識を招来する可能性がある。点滅光111が届かないような背景の像は、それ自体が固定されていれば、この部分を撮像する画素で明るさの差分は検出されない。これに対し、カメラ自体が動くことで背景全体が動くことになれば、それらを撮像する画素には、何らかの明るさの変化が発生する。この明るさの変化を、距離として誤認識してしまい、正しい距離データが取得できないことになる。これによりオブジェクト抽出も困難なものとなる。
【0014】
さらに、背景に点滅光があった場合、ここでも時間的な明るさの変化があるため、距離として誤認識してしまう。例えば、背景にCRTディスプレイが置いてあった場合には、所定のフレームレートで切り替わる表示画面のために、オブジェクトの形状を誤認識してしまう可能性がある。
【0015】
以上のように、従来の画像処理システムでは、背景にも明るさの変化があった場合、これらもすべて距離情報として誤認識してしまう問題があるため、オブジェクト抽出を困難なものとなっている。
【0016】
【特許文献1】特許第3321053号公報
【発明の開示】
【発明が解決しようとする課題】
【0017】
本発明の目的は、撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することにある。
【0018】
本発明のさらなる目的は、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することにある。
【0019】
本発明のさらなる目的は、背景に明るさの変化があった場合であっても、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージをより正確に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することにある。
【課題を解決するための手段】
【0020】
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、任意にコーディングされた変調光を照射する照射部と、前記変調光に対する特定のオブジェクトからの反射光を含んだ画像を撮像する撮像部と、前記変調光に対する反射光のデコーディングに基づいて撮像画像を処理する演算部とを具備することを撮像装置である。
【0021】
コンピュータによる画像処理技術を用いれば、入力した撮影画像に含まれるオブジェクトの画像を抽出することができる。この場合、反射光あるいは輻射光による入力から物体画像を抽出し、反射光画像の形状を認識することが一般に行なわれる。ところが、この場合、カメラ自体の動きによる光量の変化の影響を受けて誤認識する可能性がある、背景にある点滅光の影響によりオブジェクトの形状を誤認識する、といった問題がある。
【0022】
これに対し、本発明によれば、前記演算部は、前記変調光のデコーディングを行ない、撮像画像のうち正しくデコードできた部分を前記変調光が照射された部分であると判断することにより、撮像画像から前記特定のオブジェクトの画像部分のみをより正確に抽出することができる。
【0023】
すなわち、本発明によれば、任意のコーディングがなされた変調光を正しくデコードすることができたか否かに基づいてオブジェクトを認識しているので、従来技術のように光の差分で距離を知る方法とは異なり、背景に明るさの変化が発生した場合でも誤認識することがない、ロバストなシステムを提供することができる。
【0024】
ここで、前記撮像部には、ミクロな光電変換デバイスが2次元的に配列されて構成される、CCD(Charge Coupled Device:電荷結合型素子)やMOS(Metal Oxide Semiconductor)型の撮像素子が用いられる。そして、前記演算部は、撮像素子毎に前記変調光のデコーディングを試み、撮像素子の出力信号から変調光に掛けられた元のコード・パターンを正しくデコードすることができたかどうかに基づいて、前記変調光が照射された部分と照射されていない部分に分離することができる。
【0025】
前記撮像部における数フレーム分の撮像画像を記憶する記憶部をさらに備えていてもよい。前記演算部は、前後のフレーム間で対応する画素の出力信号の比較を行なうことによって、コード・パターンをデコードすることができる。また、半導体実装技術を好適に利用することにより、前記撮像部と、前記記憶部と、前記演算部を単一の半導体回路チップで構成することもできる。
【0026】
また、前記照射部は、不可視光の波長成分からなる変調光を照射する。前記照射部は、コード、コーディング方式、光強度、発光角度のうち少なくとも1つが相違する2種類以上の変調光を照射するようにしてもよい。
【0027】
前記照射部は、例えば、所定の発光周波数に従って、光源からの照射光を所定のコード・パターンでコーディングして変調光を照射する。この場合、前記撮像部は、コーディングされた変調光に対する反射光をデコードできるようにするために、前記発光周波数と同等以上のフレームレートで画像を撮像するようにする。そして、前記演算部は、前記撮像部からの出力信号を基に、前記特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする。例えば、前記照射部において変調光をコーディングし、前記演算部において前記変調光のデコーディングを行なうときに、前記撮像部は、より高いフレームレートに切り替えるようにする。
【0028】
また、本発明に係る撮像装置は、前記撮像部が通常の画像撮像を行なう通常画像撮像モードと、前記撮像部が前記演算部において前記変調光のデコーディングを行なうための画像撮像を行なうデコード・モードを備えていてもよい。例えば、前記通常画像撮像モードと前記デコード・モードを時分割で交互に動作するようにしてもよい。この場合、変調光成分の影響を受けないオブジェクトの画像を得るために、環境光成分のみがオブジェクトに照射されている通常画像の取得と、オブジェクト抽出のための画像取得とを時分割により行なう。
【0029】
前記通常画像撮像モードでは、前記照射部は変調光を照射せず、前記撮像部は環境光(若しくは自然光)に対するオブジェクトや風景からの反射光からなる画像を撮像する。また、前記デコード・モードでは、前記照射部は変調光を照射するので、前記撮像部は、環境光及び前記変調光に対する反射光からなる画像を撮像するようにする。
【0030】
例えば、前記演算部は、前記デコード・モード下での撮像画像から前記変調光のデコーディング結果に基づいて、撮像画像内で前記特定のオブジェクトの部分を特定することができる。そして、前記通常画像撮像モード下での撮像画像のうち該当部分を前記特定のオブジェクトの画像として抽出することができる。
【0031】
ここで、このように時分割でオブジェクトの撮影を行なう都合上、オブジェクトの画像フレーム内での位置に空間的なずれが発生しうる。そこで、前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違によるオブジェクトの移動の影響を考慮しながら、前記通常画像撮像モード下での撮像画像から前記特定のオブジェクトの画像を抽出するようにしてもよい。
【0032】
この場合、前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求める。そして、前記動きベクトルに基づいて前記デコード・モード下での撮影画像中における前記特定のオブジェクトの部分から、前記通常画像撮像モード下での撮像画像中における前記特定のオブジェクトの部分へアドレス変換を行なうことにより、通常撮像画像から前記特定のオブジェクトの画像部分をより正確に抽出することができる。
【0033】
また、前記照射部がコードの異なる2種類以上の変調光を照射し、前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光が照射された部分をそれぞれ抽出するようにしてもよい。すなわち、複数の種類の変調光を用いてオブジェクトを照射し、その撮像画像を画素毎にデコードを試み、正しくデコードされている場合は、さらに、どのコード・パターンによりデコードすることができるのかを検知することができる。そして、前記演算部は、コードが異なる変調光が照射された部分毎に、個別の画像処理を適用することができる。あるいは、特定のコードによる変調光が照射された部分のみを表示出力するなどして、さらに使い勝手の良いシステムを提供することができる。
【0034】
このとき、前記照射部は、コード毎に光強度を異ならせた2種類以上の変調光を照射するようにしてもよい。各変調光の光強度を相対的に変えると、到達しうる距離も相違するので、強い光強度の変調光ほどより遠くまで届き、遠くのオブジェクトからの反射光を正しくデコードすることができる。したがって、前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光が照射された部分をそれぞれオブジェクトとして抽出するとともに、該変調光の光強度に基づいて照射されたオブジェクトまでの距離を同定することができる。すなわち、複数の変調光を用いることで、距離情報を得ることが可能となり、これより任意の距離のオブジェクトを抽出することも可能になる。そして、オブジェクトの距離に応じた表示出力するなどして、さらに使い勝手の良いシステムを提供することができる。
【0035】
また、前記照射部は、コード毎に発光角度を異ならせた2種類以上の変調光を照射するようにしてもよい。各変調光は互いに異なる方向へ発光しており、それらの方向は左右でも、上下でも、同心円状でも、どの方向でも構わない。この場合、前記演算部は、発光角度毎に変調光のデコーディングを行ない、画角に応じたオブジェクトの表示処理を行なうことができる。
【0036】
また、本発明の第2の側面は、任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報の処理をコンピュータ・システム上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、撮像画像に対し変調光のデコーディングを行なうデコーディング・ステップと、正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出ステップとを具備することを特徴とするコンピュータ・プログラムである。
【0037】
本発明の第2の側面に係るコンピュータ・プログラムは、コンピュータ・システム上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータ・プログラムを定義したものである。換言すれば、本発明の第2の側面に係るコンピュータ・プログラムをコンピュータ・システムにインストールすることによって、コンピュータ・システム上では協働的作用が発揮され、本発明の第1の側面に係る撮像装置と同様の作用効果を得ることができる。
【発明の効果】
【0038】
本発明によれば、撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することができる。
【0039】
また、本発明によれば、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージを好適に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することができる。
【0040】
また、本発明によれば、背景に明るさの変化があった場合であっても、オブジェクトからの反射光を利用して撮影画像に含まれる特定のオブジェクトのイメージをより正確に抽出することができる、優れた撮像装置、情報処理装置及び情報処理方法、並びにコンピュータ・プログラムを提供することができる。
【0041】
本発明によれば、変調光を用いて特定のオブジェクトの抽出を行なっているので、単に明るさの変化により抽出を行なっていた場合に比べ、環境光の変化などに対しロバストに抽出を行なうことができる。これにより、カメラ自体が動くような場合や、生活環境に存在する点滅光を撮影した場合でも、これらに影響されることなく良好なオブジェクト抽出が可能となる。 さらに、コード・パターンを複数用意することで、被写体までの距離や角度を知ることも可能となる。
【0042】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【発明を実施するための最良の形態】
【0043】
以下、図面を参照しながら本発明の実施形態について詳解する。
【0044】
第1の実施形態:
図1には、本発明の第1の実施形態に係るオブジェクト抽出装置の機能構成を模式的に示している。図示のオブジェクト抽出装置1は、変調光デコード部2と、タイミング制御部7と、発光部8と、レンズ9を備えている。さらに、変調光デコード部2は、撮像部3と、バッファ・メモリ5と、演算部6で構成される。
【0045】
本実施形態に係るオブジェクト抽出装置1は、発光部8から変調光10を発し、オブジェクト11による反射光12を変調光デコード部2で復調(デコード)する。ここで、正常にデコードされるか否かに基づいてオブジェクトの距離を知る点に特徴がある。従来技術のように光の差分で距離を知る方法とは異なり、変調光を利用していることから、背景に明るさの変化が発生した場合でも誤認識することがない、ロバストなシステムを提供することができる。
【0046】
図2には、発光部8の構成を示している。図示のように、発光部8は、発光制御部13と光源14で構成される。変調光10は、なんらかのコードを明るさ信号に変調(コーディング)した光となる。図示の例では、「01010010」という8ビットのバイナリ値を変調しており、“0”は消灯(暗)、“1”は点灯(明)として表現している(以下同様)。このような点滅パターン(変調光)を発光させるための制御は発光制御部13が担っている。光源14は明るさを変化できるものであれば何でも良いが、応答速度や明るさの面からLEDやレーザを用いるのが適当である。また、光の波長は可視光領域でも、赤外光領域でも良い。本実施例では、変調光の明暗を2値としているが、勿論、アナログ的に変化しても構わない。
【0047】
図3には、変調光デコード部2におけるデコード処理の手順をフローチャートの形式で示している。
【0048】
まず、撮像部3で光に応じた電気信号を発生させる(ステップS1)。
【0049】
図4には、撮像部3の撮像面の構成を模式的に示している。光を基に電気信号を発生させるには、光電変換デバイスが2次元的に配置されている。ここで言う光電変換デバイスとして、CCD(Charge Coupled Device:電荷結合型素子)やMOS(Metal Oxide Semiconductor)型の撮像素子が用いられる。
【0050】
画素15は光電変換可能な最小単位であり、一般には、この撮像部3のフレームレートは変調光10の周波数と同等か、若しくはより高周波で動作できることが望ましい。本実施形態では、説明の簡素化のため、変調光10と撮像部3が同じ周波数で同期して動作しているケースを想定して説明する。つまり、変調光が100Hzで動作していた場合、撮像部10は100fps(秒当りのフレーム数)で動作することを想定している。
【0051】
次いで、撮像部3から出力された電気信号は、バッファ・メモリ5に送られ、ここに数フレーム分保存される(ステップS2)。この際の電気信号は、アナログ値でもデジタル値(一般に、撮像装置からの出力デジタル値は10〜14ビット程度である)でも構わないが、データの扱い易さからデジタル値の方が望ましい。本実施形態では、8ビットのバイナリ・データを用いているため、8フレーム分の信号を保存する。
【0052】
次いで、バッファ・メモリ5で保存されたデータは演算部6へ転送される。ここで、8フレーム分のデジタル(若しくはアナログ)信号を基にデコード演算を行なう(ステップS3)。
【0053】
図5には、ここでの電気信号データの演算方法の一例を示している。図示の例では、ある閾値を設け、これより下であれば“0”、上であれば“1”となるように画素毎に判定処理を行なうようにしている。比較器16を用いて出力を2値化すると簡便である。同図において、同じ“0”や“1”であっても信号量に変化を持たせているのは、変調光以外の要因(環境光)により信号が上下することを加味しているからである。この図からも、本実施形態に係るオブジェクト抽出処理が環境光の変化に対してロバストであることを理解できよう。 図1の制御部7は、変調光デコード部2や、発光制御部13の上記のような動作を制御するものである。
【0054】
以上のように、本発明では、最小単位では画素15レベルで、変調された反射光12をデコードすることが可能となる。そして、デコードされたコードが正しいか否か(すなわち発光部8から出力される変調光10に与えられたコードと一致するか否か)に基づいて、その画素に反射光が入射したか否かを正確に知ることが可能となる。例えば、変調光10の届く範囲にオブジェクト11のみがあった場合、オブジェクト11からの反射光12を受けた画素15のみが正しいデコードを行なうことができる。したがって、正しくデコードされた画素にのみ着目することで、撮像した画像からオブジェクト11の形状を抽出することが可能となる。図6には、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出する様子を示している。
【0055】
以上、本発明の第1の実施形態について詳細に述べた。オブジェクト抽出装置1内の各部は機能説明のために便宜上分解して描かれているが、この中の幾つかのモジュール、若しくはすべての機能モジュールが1つのチップやモジュールに集積されたとしても、同様の効果が得られることは言うまでもない。例えば、本出願人に既に譲渡されている特開2002−292379号公報、特開2002−326857号公報、特開2003−33962号公報には、画素データを演算処理する演算機能を備えた撮像装置について開示されている。この種の撮像装置内の演算機能を用いて、数フレーム分の電気信号データの記憶、並びに電気信号データを基にデコード処理(電気信号データの閾値との比較)を行なうことができるので、上述したすべての機能モジュールを1チップで構成することができる。また、演算処理などは、ハードウェアで行なっても、あるいはソフトウェアで行なうようにしても良い。
【0056】
第2の実施形態:
図7には、本発明の第2の実施形態に係るオブジェクト抽出装置の機能構成を示している。図示のオブジェクト抽出装置1は、変調光デコード部2と、タイミング制御部7と、発光部8と、レンズ9で構成される。さらに、変調光デコード部2は、撮像部3と、フレーム間比較部4と、バッファ・メモリ5と、演算部17で構成される。本実施形態と上述の第1の実施形態との相違は、フレーム間比較部4が存在する点と、演算部17におけるデータの取り扱いの点にある。
【0057】
図8には、変調光デコード部2におけるデコード処理の手順をフローチャートの形式で示している。
【0058】
まず、撮像部3で光に応じた電気信号を発生させる(ステップS11)。電気信号はアナログ値でもデジタル値(一般に撮像装置からの出力デジタル値は10〜14ビット程度である)でも良い。
【0059】
その後、この信号はフレーム間比較部4に転送される。ここでは、前後のフレーム間で信号の大小を比較演算する(ステップS12)。図9には、ここでの比較演算方法の一例を示している。また、図10には、この演算方法を実現する処理手順をフローチャートの形式で示している。本方法では、図9に示すようなフレーム間の差異18の大きさ、及び符号を演算する。この際、同じ信号、例えば“0”であっても信号の差異は発生する。この差異(誤差)を閾値19とし、これより大きな差異18が見られた場合にデータの変化が生じたと定義する。図10に示すように、前後のフレーム間で画素単位で画素信号の大小を比較する。そして、前のフレームより後のフレームの方の信号が大きい場合には、当該画素において“0”→“1”の変化が発生し、その逆であれば“1”→“0”の変化が発生したことが分かる。但し、上述したように、比較量が閾値19以下の場合は不変と定義する。本実施形態では、フレーム間比較部4からの出力データは、前者の変化の際は“01”、後者の変化の際は“10”、不変であれば“00”と2ビットで定義付ける。入力信号は通常アナログ値、若しくは10ビット以上のデジタル値となるが、本比較部4での演算により、2ビットに圧縮される。不変データ“00”では、“0”→“0”なのか、“1”→“1”なのかの判断がつかないが、変調光10を用いていることから、必ず“01”、若しくは“10”が存在するため(ALL“0”、ALL“1”では、変調光としての判断が困難なので、これらは使用しない)、このデータからのフィードバックにより、“0”→“0”なのか、“1”→“1”なのかの判断を行なう。
【0060】
図8に示すように、フレーム間比較部4結果はバッファ・メモリ5に記憶される(ステップS13)。演算後のデータが数フレーム分記憶されることになるが、データが圧縮されている分だけ、第1の実施形態におけるバッファ・メモリよりも小容量のもので良い。また、第1の実施形態と同様に、コードは8ビットのバイナリ・データを想定しているため、このバッファ・メモリ5では8フレーム分のデータを保存する。
【0061】
次いで、バッファ・メモリ5で保存されたデータは演算部17へ転送される。演算部17では、フレーム間比較部4において圧縮されたデータをデコードする(ステップS14)。図11にはフレーム・データの流れを示している。撮像部3から出力されたデータがフレーム間比較部4でデータ圧縮され、その後デコードされることで、変調光10から8ビットのデータを得ることができる。
【0062】
以上のように、本発明では、最小単位では画素15レベルで、変調された反射光12をデコードすることが可能となる。そして、デコードされたコードが正しいか否か(すなわち発光部8から出力される変調光10に与えられたコードと一致するか否か)で、その画素に反射光が入射したか否かを正確に知ることが可能となる。例えば、変調光10の届く範囲にオブジェクト11のみがあった場合、オブジェクト11からの反射光12が入射された画素15のみが正しいデコードを行なうことができる。したがって、正しくデコードされた画素にのみ着目することで、撮像画像からオブジェクト11の形状を抽出することが可能となる。図13には、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出することができた様子を示している。
【0063】
以上、本発明の第2の実施形態について詳細に述べた。オブジェクト抽出装置1内の各部は機能説明のために便宜上分解して描かれているが、この中の幾つかの部、若しくはすべてが1つのチップやモジュールに集積されたとしても同様の効果が得られることは言うまでもない(同上)。また、演算処理などは、ハードウェアで行なうようにしても、あるいはソフトウェアで行なうようにしても良い。
【0064】
第3の実施形態:
ここでは、上述した手段を用いたオブジェクト切抜きのための情報と、通常画像の情報とにより切り抜かれたオブジェクトのみを表示装置により表示させるという実施形態について説明する。
【0065】
図12には、本実施形態に係る切り抜かれたオブジェクトを表示出力するための処理手順をフローチャートの形式で示している。
【0066】
撮像部3(図1、図7を参照のこと)からの出力データを、上述したオブジェクト抽出装置1(図1、図7を参照のこと)へ転送するとともに(ステップS21)、通常の映像信号を生成するための画像処理装置へ転送する(ステップS22)。その後、それぞれの装置から画素毎、若しくはそれに準じたレベルの、デコードの成否データ、及び、通常画像データが出力される。この際お互いのデータは1対1対応するのが望ましいがこの限りではない。
【0067】
次いで、画素毎にデコードが正しく行なわれたか否かを判別し(ステップS23)、その情報を基にそれぞれに個別に任意の処理1、並びに処理2を行なう(ステップS24、S25)。ここでは、処理1に相当することを表示装置に転送することとし、処理2に相当することを表示装置に転送しないこととした。これにより、正しくデコードされた画素に対応する通常画像データのみを表示装置にて表示させることができる。
【0068】
図13には、本実施形態を適用し、撮影画像に含まれる特定のオブジェクトを表示した場合の画面を示している。
【0069】
図13(a)には被写体を示している。ここでは、変調光が十分届く位置に人の手があり、その後で変調光が届かない位置に木がある場合を想定している。また、図13(b)には通常のカメラで撮影した際の通常の映像を示している。また、図13(c)には、本実施形態を適用し、特定のオブジェクト(人の手)のみを切り出して表示した例を示している。正しくデコードされた画素に相当する映像データのみ表示すれば、このような抜き取りが可能となる。
【0070】
ここでは、正しくデコードされていない画素のエリアをグレーで表示した。他にも、正しくデコードされていないエリアを画像処理でぼかし、これを表示させることで、例えば、近くの人物ははっきりと表示し、背景をぼかすようなことも可能となる。あるいは、全く違った画像データを用意し、このデータを表示させるなどしても良い。 以上のようにオブジェクト抽出装置1により処理されたデコード情報を利用することで、特定のオブジェクトのみを表示装置に表示することが可能となる。
【0071】
第4の実施形態:
ところで、上述した第3の実施形態では抽出されたオブジェクトを簡易に表示できる一方、撮像部からの出力データには環境光に加え変調光が載っている。このため、通常画像データを表示する場合は、変調光が照射された特定のオブジェクトについて、周囲に比べ明るくなったり、変調光によってフリッカが観察されたりするといった問題が見られる場合がある。本実施形態では、抽出されたオブジェクトが、オブジェクト抽出のために照射された変調光を浴びることにより生ずるこれらの問題を解決するためのものである。
【0072】
図14に本実施形態に係る画像取得の動作シーケンスを示している。同図に示すように、本実施形態では、環境光成分のみがオブジェクトに照射されている通常画像の取得と、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得とを時分割により行なう。
【0073】
通常画像取得動作時に得られた通常画像に対しては、通常の画像処理が施される。例えば、CRTディスプレイなどの表示装置へ画面出力するための映像信号に変換される。また、環境光成分にさらに変調光成分も載った光により照射されているオブジェクト抽出用の画像取得及びデコード処理動作時には、撮像画像は上述したオブジェクト抽出装置にて処理が施される。
【0074】
このような動作シーケンスにより、変調光の影響を受けない通常画像を表示することが可能となる。
【0075】
図15には、撮像部3(図1及び図7を参照のこと)によるデータ出力から画像表示までの処理手順をフローチャートの形式で示している。
【0076】
通常画像用のデータと、オブジェクト抽出用のデータは時分割に交互に出力される(ステップS31、S32)。時間的に前に通常画像処理が行なわれ、その後のデコード処理で正しくデコードすることができたかどうかに応じて(ステップS33)、どの画素の画像データが処理1(ステップS34)若しくは処理2(ステップS35)に送られるかが決められる(前後関係はこれの逆でも良い)。
【0077】
ここで、通常画像用データとオブジェクト抽出用のデータは時間的に一致していない。このため、抽出しようとするオブジェクトが動いている場合には、画像表示用の通常画像の取得時とオブジェクト抽出用の画像取得時とで、オブジェクトの画像フレーム内での位置に空間的なずれが発生する可能性がある。但し、これは撮像部3のフレームレートを上げ、オブジェクト表示用の通常画像撮影とオブジェクト抽出用の画像撮影との時間的な差を縮めることで軽減することが可能となる。
【0078】
また、本実施形態では、通常画像の動作時と、デコード処理を含む動作時とではフレームレートを変えている。例えば、図14に示す例では、前者:後者=1:8としている。これにより、それぞれの動作時間が等しくなる。 以上のように本実施形態では、通常画像用のデータと、オブジェクト抽出用のデータは時分割に交互に出力する際に、オブジェクトの空間的なずれを発生することがあるものの、変調光が載らない(すなわち環境光だけ)が照射される特定のオブジェクトの画像を表示装置に表示することができる。
【0079】
第5の実施形態:
第4の実施形態では、変調光成分の影響を受けないオブジェクトの画像を得るために、環境光成分のみがオブジェクトに照射されている通常画像の取得と、オブジェクト抽出のための画像取得とを時分割により行なう。後者のオブジェクト抽出を行なうための画像取得では、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得を行なう。このように時分割でオブジェクトの撮影を行なう都合上、オブジェクトの画像フレーム内での位置に空間的なずれが発生しうる(前述)。
【0080】
本実施形態では、通常画像用データとオブジェクト抽出用のデータは時間的に一致していないことに起因するオブジェクトの空間的なずれの問題を、動き予測の手法を適用することにより解決するためのものである。但し、第4の実施形態に係るシステム構成に、オブジェクトの動き補償の処理が付加する形となるため、その分だけ計算機の負荷は重くなる。
【0081】
図16には、動いているオブジェクトに対し通常画像の撮影とオブジェクト抽出(デコード)用の撮影を時分割で交互に行なっている様子を示している。図示の例では、被写体20は移動する円形の物体であり、この被写体20に対して本発明に係るオブジェクト抽出を適用する場合について、以下に説明を行なう。
【0082】
現在、被写体20(画像取得及びデコード処理中)は、図16に示す位置にあるとする。被写体20は矢印26で示す軌跡に沿って移動しており、前のフレーム(通常画像取得時)には被写体21に、さらにその前のフレーム(画像取得及びデコード処理時)では被写体22に、さらにその前のフレーム(通常画像取得時)では被写体23の場所に存在していたとする。
【0083】
被写体20に相当する画素がデコード処理により正しくデコードされ、この画素に対応する通常画像を表示しようとしたとする。ところが、デコード処理用の画像取得と通常画像取得は時分割で交互に行なわれていることから、現在の被写体20の位置と、その直近で取得された通常画像における被写体21の位置との間には、空間的なずれが発生している。その結果、被写体21のうち表示されるのは、これらの重なり(AND)の部分である表示部28のみとなり(図16(b)を参照のこと)、その他の部分は表示されないことになる。
【0084】
そこで、本実施形態では、このような事態を回避するために、被写体の動きベクトルを抽出し、動き予測の結果を利用して、所望の表示を達成しようと試みる。
【0085】
図16において、画素24〜27は被写体21〜23に対して、同じ位置に相当する画素である。ここで、デコード時の被写体20の画素24に相当する通常画像は被写体21の画素25であるという画像フレーム間における画素の対応関係を導出し、直近に撮影された通常画像中で被写体20に対応する画素部分を表示することにより、抜けのない、良好なオブジェクト抽出が可能になることが分かる。
【0086】
このようなオブジェクト抽出を実現するために、矢印26のベクトル、すなわちオブジェクトの動きベクトルを求める必要がある。動きベクトルの抽出は、デコードされたデータである被写体20と被写体22を利用する。例えば、被写体が図16に示すような単純な円形であれば、まず、それぞれの被写体の重心を求め、その後、これらの重心を結ぶベクトルを導出すればよい。
【0087】
あるいは、動きベクトルの他の抽出方法として、MPEG(Moving Picture Experts Group)4などの標準的な画像圧縮技術で用いられている一般的な方法を適用することができる。例えば、被写体23を1つのポリゴンとして扱い、これの次の(実際には次の次)フレーム(被写体21が撮影された通常画像フレーム)との間で、ポリゴン・マッチング処理を行なうことでベクトルを求める。この動きベクトルを基に画素24⇒画素25という画素のアドレス変換を行なえばよい。
【0088】
図17には、オブジェクトの動きベクトルの抽出と動きベクトルに基づくがそのアドレス変換を行なうための処理手順をフローチャートの形式で示している。
【0089】
まず、直近のデコード用撮影画像中において被写体22の重心を求める(ステップS41)。次いで、現在のデコード用撮影画像中における被写体20の重心を求める(ステップS42)。そして、求められたそれぞれの重心を基に、動きベクトルを抽出する(ステップS43)。
【0090】
次いで、直近の通常画像中で、動きベクトルの中心に被写体21が存在すると仮定して(ステップS44)、求めた動きベクトルを基に、被写体20を構成するがそのアドレスを変換する(ステップS45)。このアドレス変換を利用することで、デコード用画像中の被写体20に相当する画素データを取得することができる。
【0091】
以上説明したように、本実施形態では、デコードされた画素24に対応する映像画素25を動きベクトルから推定することで、良好に特定オブジェクトの抽出を行なうことができる。
【0092】
第6の実施形態:
これまでは、1種類の変調コードのパターンからなる変調光を用いてオブジェクトを照射し、その撮像画像を画素毎に正しくデコードされたか否かという2値によりオブジェクトの抽出を行なう各実施形態について説明してきた。これに対し、本発明の第6の実施形態では、変調コードの異なる複数の種類の変調光を用いてオブジェクトを照射するようにした。そして、その撮像画像を画素毎にデコードを試み、正しくデコードされている場合は、さらに、いずれのコード・パターンがデコードされているのかを検知することで、いずれの変調光に対する反射光であるかを特定する。この場合、各変調光により抽出されたオブジェクト毎に個別の画像処理を適用することができるので、さらに使い勝手の良いシステムを提供することができる。以下では、変調光を用いたオブジェクト抽出の応用として、2種類以上の変調コードのパターンからなる変調光を用いた実施形態について説明する。
【0093】
図18には、本実施形態に係る発光部の構成を示している。第1〜第5の実施形態では、図2に示したように、1種類の変調コード・パターンが変調光10として発光される。これに対し、本実施形態では、2種類以上の変調コード・パターンからなる変調光30及び31が発光される。図18では、光源33が「01010010」と「01011001」の2つの変調光を交互に発光する例が示されている。
【0094】
ここで、光源33は、1つの光源が複数の変調コード・パターンを出力するようにしてもよいし、変調コード・パターン毎に光源を配設するようにしてもよい。光源33の制御は、発光制御部32が行なっている。
【0095】
さらに、2つの変調光30及び31は光強度を相対的に変えてあり、前者が弱く、後者が強くなるように設定している。この場合、それぞれの変調光30及び31が到達しうる距離もその光強度に応じて異なり、後者の方が遠くまで届くことになる。
【0096】
図19には、本実施形態に係る画像取得の動作シーケンスを示している。図示の動作シーケンスは、第4の実施形態(図14を参照のこと)の場合と同様に、オブジェクト抽出のための画像取得とを時分割により行なう。後者のオブジェクト抽出を行なうための画像取得では、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得を行なう。
【0097】
図14に示した動作シーケンスとの相違は、デコード処理が2回続けて行なわれる、すなわち変調コード・パターン毎にデコード処理が行なわれる点である。この理由、それぞれの変調光30及び31が干渉する場合を想定しているためである。勿論、互いに干渉しない変調方法(コーディング方式)を用いれば、同時にデコードすることも可能である。
【0098】
また、図19に示す例では、通常画像取得動作と画像取得及びデコード処理動作では、後者の動作期間の方が長く描かれているが、上記したような空間的なずれを考慮すると、後者の動作は極力速く処理するのが望ましい。
【0099】
上記のような発光動作、及び動作シーケンスを用いた場合、光強度を異ならせたコードの数だけデコーディングを行なった段階で、各変調光により照射されたオブジェクトを抽出するとともに、オブジェクトまでの距離を同定することができる。図18には、コード毎に光強度を異ならせた2種類以上の変調光を照射した様子を示している。同図に示すように、光強度の弱い変調光30からの反射光をデコードできるのはより近い距離にあるオブジェクト34であり、強い変調光31からの反射光をデコードできるのは、これより遠くの距離にあるオブジェクト35である。さらにデコードが正しく行なえないのは、さらに遠くにあるオブジェクト36である。図示の例では変調光は2種類であるが、当然これ以上でも良い。
【0100】
以上のように、複数の変調光を用いることで、距離情報を得ることが可能となり、これより任意の距離のオブジェクトを抽出し表示することも可能になる。
【0101】
図20には、本実施形態において、データ出力から画像表示までの処理手順をフローチャートの形式で示している。
【0102】
通常画像用のデータと、オブジェクト抽出用の画像取得は時分割に交互に出力される(ステップS51、S52)。時間的に前に通常画像処理が行なわれ、その後のデコード処理では、オブジェクト抽出用の取得画像の画素毎に各コーディング方式により正しくデコードすることができたかどうかを判別する(ステップS53)。
【0103】
ここで、いずれのコーディング方式でも正しくデコードされなかった画素については、処理2を適用する(ステップS54)。処理2の一例は当該画素信号を表示出力しないことである。
【0104】
また、いずれかのコーディング方式により正しくデコードすることができた画素については(ステップS53)、さらに、いずれのコーディング方式により正しくデコードできたかに応じて、その処理方法について決定する(ステップS55)。
【0105】
例えば、弱い光強度に設定されている変調光30が持つコード・パターン「01010010」がデコードされた画素については、より近い場所にあるオブジェクトの画素信号として、処理1(例えば表示出力)が適用される(ステップS56)。
【0106】
また、強い光強度に設定されている変調光31が持つコード・パターン「01011001」がデコードされた画素については、より遠い場所にあるオブジェクトとの画素信号として、処理4(例えば表示出力)が適用される(ステップS57)。
【0107】
また、いずれのコード・パターン「01010010」及び「01011001」もデコードすることができた画素については、処理3(例えば表示出力)が適用される(ステップS58)。
【0108】
第7の実施形態:
上述した第6の実施形態では、光強度を異ならせた複数の変調光を用いた。これに対し、本実施形態では、発光角度が異なる複数の変調光を用いている。
【0109】
図21には、本実施形態に係る発光部、及び変調光の構成を示している。変調光37及び38は互いに異なる方向へ発光している。方向は左右でも、上下でも、同心円状でも、どの方向でも構わない。光源39は、1つの光源が時分割で発光角度の異なる変調光を照射するようにしてもよいし、発光角度毎に光源を配設するように構成してもよい。
【0110】
なお、変調コード・パターンが相違する変調光毎に時分割でデコード処理を行なうのは、それぞれの変調光37及び38が干渉することを想定しているためであり、干渉しない変調方法(コーディング方式)を用いることにより同時にデコードすることも可能である。
【0111】
また、光源39の動作制御は、発光制御部40が行なっている。動作シーケンスは図19と同様であり、オブジェクト抽出のための画像取得とを時分割により行なうことができる。後者のオブジェクト抽出を行なうための画像取得では、環境光成分にさらに変調光成分も載った光によりオブジェクトが照射されている画像の取得を行なう。デコード処理は、発光角度毎に行なわれる。
【0112】
本実施形態によれば、オブジェクト抽出を行ないたい方向を特定することが可能である。図22には、左右方向に異なる変調光を発光する際の、発光エリア50(変調光37)、及び発光エリア51(変調光38)と、撮像素子の撮像画角52の関係を示している。同図のように設定することで、例えば、図23のように変調光37に照射された右手53と変調光38に照射された左手54の双方を別々のコードで認識することができるようになる。これにより、両手による別々の情報入力などが可能になる。ゲームなどの用途では、遊び方の応用範囲を広げることができる。
【産業上の利用可能性】
【0113】
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
【0114】
撮像素子から得られた電気信号データを数フレーム分だけ記憶し、前後のフレームで電気信号データを比較してデコード処理を行なう機能モジュールの一部又は全部を1つのチップ又はチップ内モジュールに集積することによっても、本発明を好適に実現することができる。
【0115】
例えば、本出願人に既に譲渡されている特開2002−292379号公報、特開2002−326857号公報、特開2003−33962号公報には、画素データを演算処理する演算機能を備えた撮像装置について開示されている。この種の撮像装置に本発明に関する機能モジュールの一部又は全部を実装することができる。
【0116】
また、閾値との比較により画素毎の電気信号データをデコードする処理、あるいは前後のフレームで電気信号データを比較してデコード処理を行なう演算処理などを、ハードウェアで行はなくソフトウェアで行なうようにしても良い。
【0117】
要するに、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【図面の簡単な説明】
【0118】
【図1】図1は、本発明の第1の実施形態に係るオブジェクト抽出装置の機能構成を模式的に示した図である。
【図2】図2は、発光部8の構成を示した図である。
【図3】図3は、変調光デコード部2におけるデコード処理の手順を示したフローチャートである。
【図4】図4は、撮像部3の撮像面の構成を模式的に示した図である。
【図5】図5は、撮像部3から出力された電気信号の演算方法を説明するための図である。
【図6】図6は、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出する様子を示した図である。
【図7】図7は、本発明の第2の実施形態に係るオブジェクト抽出装置の機能構成を示した図である。
【図8】図8は、変調光デコード部2におけるデコード処理の手順を示したフローチャートである。
【図9】図9は、撮像部3から出力された電気信号データを前後のフレームで比較する演算方法を説明するための図である。
【図10】図10は、撮像部3から出力された電気信号データを前後のフレームで比較する処理手順を示したフローチャートである。
【図11】図11は、フレーム・データの流れを示した図である。
【図12】図12は、正しくデコードされた画素にのみ着目することでオブジェクト11の形状を抽出することができた様子を示した図である。
【図13】図13は、本発明を適用し、撮影画像に含まれる特定のオブジェクトを表示した場合の画面例を示した図である。
【図14】図14は、本発明の第4の実施形態に係る画像取得の動作シーケンスを示した図である。
【図15】図15は、本発明の第4の実施形態において、データ出力から画像表示までの処理手順を示したフローチャートである。
【図16】図16は、動いているオブジェクトに対し通常画像の撮影とオブジェクト抽出(デコード)用の撮影を時分割で交互に行なっている様子を示した図である。
【図17】図17は、オブジェクトの動きベクトルの抽出と動きベクトルに基づくがそのアドレス変換を行なうための処理手順を示したフローチャートである。
【図18】図18は、本発明の第6の実施形態に係る発光部の構成を示した図である。
【図19】図19は、本発明の第6の実施形態に係る画像取得の動作シーケンスを示した図である。
【図20】図20は、本発明の第6の実施形態において、データ出力から画像表示までの処理手順を示したフローチャートである。
【図21】図21は、本発明の第7の実施形態に係る発光部及び変調光の構成を示した図である。
【図22】図22は、左右方向に異なる変調光を発行する際の発光エリアと撮像画角の関係を示した図である。
【図23】図23は、図22に示したように発光エリアと撮像画角の関係を設定した場合におけるオブジェクトの認識結果の例を示した図である。
【図24】図24は、特定のオブジェクトのみを抽出する手段を備えた情報入力装置の構成例(従来技術)を示した図である。
【符号の説明】
【0119】
1…オブジェクト抽出装置
2…変調光デコード部
3…撮像部
4…フレーム間比較部
5…バッファ・メモリ
6…演算部
7…タイミング制御部
8…発光部
9…レンズ
17…演算部
【特許請求の範囲】
【請求項1】
任意にコーディングされた変調光を照射する照射部と、
前記変調光に対する特定のオブジェクトからの反射光を含んだ画像を撮像する撮像部と、
前記変調光のデコーディングに基づいて撮像画像を処理する演算部と、
を具備することを撮像装置。
【請求項2】
前記演算部は、撮像画像に対し変調光のデコーディングを行ない、正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記撮像部は、2次元的に配列された撮像素子で構成され、
前記演算部は、撮像素子毎に前記変調光のデコーディングを試み、正しくデコードされたか否かに基づいて前記変調光が照射された部分と照射されていない部分に分離する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記照射部は、所定の発光周波数に従って変調光をコーディングし、
前記撮像部は、前記発光周波数と同等以上のフレームレートで画像を撮像し、
前記演算部は、前記撮像部からの出力信号を基に、前記特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする、
ことを特徴とする請求項1に記載の撮像装置。
【請求項5】
前記照射部において変調光をコーディングし、前記演算部において撮像画像から前記変調光のデコーディングを行なうときに、前記撮像部はフレームレートを切り替える、
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記撮像部が通常の画像撮像を行なう通常画像撮像モードと、前記撮像部が前記演算部において前記変調光のデコーディングを行なうための画像撮像を行なうデコード・モードを備える、
ことを特徴とする請求項1に記載の撮像装置。
【請求項7】
前記通常画像撮像モードでは、前記照射部は変調光を照射せず、前記撮像部は環境光に対する反射光からなる画像を撮像し、
前記デコード・モードでは、前記照射部は変調光を照射し、前記撮像部は、環境光及び前記変調光に対する反射光からなる画像を撮像する、
ことを特徴とする請求項6に記載の撮像装置。
【請求項8】
前記通常画像撮像モードと前記デコード・モードを時分割で交互に動作する、
ことを特徴とする請求項6に記載の撮像装置。
【請求項9】
前記演算部は、前記デコード・モード下で撮像した画像に対し前記変調光のデコーディングを行なった結果に基づいて前記特定のオブジェクトの部分を特定し、前記通常画像撮像モード下で撮像した画像のうち該当部分を前記特定のオブジェクトの画像として抽出する、
ことを特徴とする請求項6に記載の撮像装置。
【請求項10】
前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違による前記特定のオブジェクトの移動を考慮して、前記通常画像撮像モード下での撮像画像から前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項9に記載の撮像装置。
【請求項11】
前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求め、前記動きベクトルに基づいて前記デコード・モード下での撮影画像中における前記特定のオブジェクトの部分から前記通常画像撮像モード下での撮像画像中における前記特定のオブジェクトの部分へアドレス変換して前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項10に記載の撮像装置。
【請求項12】
前記撮像部における数フレーム分の撮像画像を記憶する記憶部をさらに備える、
ことを特徴とする請求項1に記載の撮像装置。
【請求項13】
前記演算部は、前後のフレームの比較に基づいて撮像画像を処理する、
ことを特徴とする請求項12に記載の撮像装置。
【請求項14】
前記撮像部と、前記記憶部と、前記演算部が単一の半導体回路チップで構成される、
ことを特徴とする請求項12に記載の撮像装置。
【請求項15】
前記照射部は、不可視光の波長成分からなる変調光を照射する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項16】
前記照射部は、コード、コーディング方式、光強度、発光角度のうち少なくとも1つが相違する2種類以上の変調光を照射する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項17】
前記照射部は、コードの異なる2種類以上の変調光を照射し、
前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光に照射された部分をそれぞれ抽出する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項18】
前記演算部は、コードが異なる変調光が照射された部分毎に個別の画像処理を適用する、
ことを特徴とする請求項17に記載の撮像装置。
【請求項19】
前記演算部は、特定のコードによる変調光が照射された部分のみを表示出力する、
ことを特徴とする請求項17に記載の撮像装置。
【請求項20】
前記照射部は、コード毎に光強度を異ならせた2種類以上の変調光を照射し、
前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光に照射された部分をそれぞれオブジェクトとして抽出するとともに、変調光毎の光強度に基づいて各オブジェクトまでの距離を同定する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項21】
前記演算部は、距離が同定されたオブジェクト毎に抽出し、表示出力する、
ことを特徴とする請求項20に記載の撮像装置。
【請求項22】
前記照射部は、コード毎に発光角度を異ならせた2種類以上の変調光を照射し、
前記演算部は、発光角度毎に変調光のデコーディングを行ない、画角に応じたオブジェクトの表示処理を行なう、
ことを特徴とする請求項1に記載の撮像装置。
【請求項23】
任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報を処理する情報処理装置であって、
撮像画像に対し変調光のデコーディングを行なうデコード手段と、
正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出手段と、
を具備することを特徴とする情報処理装置。
【請求項24】
撮像画像は2次元的に配列された画素信号で構成され、
前記デコード手段は、画素信号毎に前記変調光のデコーディングを試み、
前記オブジェクト抽出手段は、正しくデコードされた画素の部分をオブジェクトとして抽出する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項25】
撮像画像は変調光をコーディングする発光周波数と同等以上のフレームレートで撮像されており、
前記デコード手段は、撮像画像を基に特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項26】
環境光に対する反射光からなる通常撮像画像と、環境光及びコーディングされた変調光に対する反射光からなるオブジェクト抽出用撮像画像をともに入力する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項27】
通常撮像画像とオブジェクト抽出用撮像画像を時分割で交互に入力し、それぞれの画像の処理を行なう、
ことを特徴とする請求項26に記載の情報処理装置。
【請求項28】
前記オブジェクト抽出手段は、オブジェクト抽出用撮像画像から前記変調光のデコーディングを行なった結果に基づいて前記特定のオブジェクトの部分を特定し、通常撮像画像のうち該当部分を前記特定のオブジェクトの画像として抽出する、
ことを特徴とする請求項26に記載の情報処理装置。
【請求項29】
前記オブジェクト抽出手段は、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違による前記特定のオブジェクトの移動を考慮して、前記通常撮像画像から前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項28に記載の情報処理装置。
【請求項30】
前記オブジェクト抽出手段は、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求め、前記動きベクトルに基づいて前記オブジェクト抽出用撮影画像中における前記特定のオブジェクトの部分から前記通常撮像画像中における前記特定のオブジェクトの部分へアドレス変換して前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項29に記載の情報処理装置。
【請求項31】
コードの異なる2以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコード手段は、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出手段は、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項32】
コードが異なる変調光が照射された部分毎に個別の画像処理を適用する画像処理手段をさらに備える、
ことを特徴とする請求項31に記載の情報処理装置。
【請求項33】
前記画像処理手段は、特定のコードによる変調光が照射された部分のみを表示出力する、
ことを特徴とする請求項32に記載の情報処理装置。
【請求項34】
コード毎に光強度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコード手段は、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出手段は、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出するとともに、変調光毎の光強度に基づいて各オブジェクトまでの距離を同定する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項35】
距離が同定されたオブジェクト毎に抽出し、表示出力する表示手段をさらに備える、
ことを特徴とする請求項34に記載の情報処理装置。
【請求項36】
コード毎に発光角度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコード手段は、撮像画像に対し発光角度毎に変調光のデコーディングを行ない、
前記オブジェクト抽出手段は、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトを画角毎に抽出する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項37】
任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報を処理する情報処理方法であって、
撮像画像に対し変調光のデコーディングを行なうデコーディング・ステップと、
正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出ステップと、
を具備することを特徴とする情報処理方法。
【請求項38】
撮像画像は2次元的に配列された画素信号で構成され、
前記デコーディング・ステップでは、画素信号毎に前記変調光のデコーディングを試み、
前記オブジェクト抽出ステップでは、正しくデコードされた画素の部分をオブジェクトとして抽出する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項39】
撮像画像は変調光をコーディングする発光周波数と同等以上のフレームレートで撮像されており、
前記デコーディング・ステップでは、撮像画像を基に特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項40】
環境光に対する反射光からなる通常撮像画像と、環境光及びコーディングされた変調光に対する反射光からなるオブジェクト抽出用撮像画像をともに入力する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項41】
通常撮像画像とオブジェクト抽出用撮像画像を時分割で交互に入力し、それぞれの画像の処理を行なう、
ことを特徴とする請求項40に記載の情報処理方法。
【請求項42】
前記オブジェクト抽出ステップでは、オブジェクト抽出用撮像画像から前記変調光のデコーディングを行なった結果に基づいて前記特定のオブジェクトの部分を特定し、通常撮像画像のうち該当部分を前記特定のオブジェクトの画像として抽出する、
ことを特徴とする請求項40に記載の情報処理方法。
【請求項43】
前記オブジェクト抽出ステップでは、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違による前記特定のオブジェクトの移動を考慮して、前記通常撮像画像から前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項42に記載の情報処理方法。
【請求項44】
前記オブジェクト抽出ステップでは、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求め、前記動きベクトルに基づいて前記オブジェクト抽出用撮影画像中における前記特定のオブジェクトの部分から前記通常撮像画像中における前記特定のオブジェクトの部分へアドレス変換して前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項43に記載の情報処理方法。
【請求項45】
コードの異なる2以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコーディング・ステップでは、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出ステップでは、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項46】
コードが異なる変調光が照射された部分毎に個別の画像処理を適用する画像処理ステップをさらに備える、
ことを特徴とする請求項45に記載の情報処理方法。
【請求項47】
前記画像処理ステップでは、特定のコードによる変調光が照射された部分のみを表示出力する、
ことを特徴とする請求項46に記載の情報処理方法。
【請求項48】
コード毎に光強度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコーディング・ステップでは、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出ステップでは、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出するとともに、変調光毎の光強度に基づいて各オブジェクトまでの距離を同定する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項49】
距離が同定されたオブジェクト毎に抽出し、表示出力する表示ステップをさらに備える、
ことを特徴とする請求項48に記載の情報処理方法。
【請求項50】
コード毎に発光角度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコーディング・ステップでは、撮像画像に対し発光角度毎に変調光のデコーディングを行ない、
前記オブジェクト抽出ステップでは、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトを画角毎に抽出する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項51】
任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報の処理をコンピュータ・システム上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、
撮像画像に対し変調光のデコーディングを行なうデコーディング・ステップと、
正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出ステップと、
を具備することを特徴とするコンピュータ・プログラム。
【請求項1】
任意にコーディングされた変調光を照射する照射部と、
前記変調光に対する特定のオブジェクトからの反射光を含んだ画像を撮像する撮像部と、
前記変調光のデコーディングに基づいて撮像画像を処理する演算部と、
を具備することを撮像装置。
【請求項2】
前記演算部は、撮像画像に対し変調光のデコーディングを行ない、正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記撮像部は、2次元的に配列された撮像素子で構成され、
前記演算部は、撮像素子毎に前記変調光のデコーディングを試み、正しくデコードされたか否かに基づいて前記変調光が照射された部分と照射されていない部分に分離する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記照射部は、所定の発光周波数に従って変調光をコーディングし、
前記撮像部は、前記発光周波数と同等以上のフレームレートで画像を撮像し、
前記演算部は、前記撮像部からの出力信号を基に、前記特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする、
ことを特徴とする請求項1に記載の撮像装置。
【請求項5】
前記照射部において変調光をコーディングし、前記演算部において撮像画像から前記変調光のデコーディングを行なうときに、前記撮像部はフレームレートを切り替える、
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記撮像部が通常の画像撮像を行なう通常画像撮像モードと、前記撮像部が前記演算部において前記変調光のデコーディングを行なうための画像撮像を行なうデコード・モードを備える、
ことを特徴とする請求項1に記載の撮像装置。
【請求項7】
前記通常画像撮像モードでは、前記照射部は変調光を照射せず、前記撮像部は環境光に対する反射光からなる画像を撮像し、
前記デコード・モードでは、前記照射部は変調光を照射し、前記撮像部は、環境光及び前記変調光に対する反射光からなる画像を撮像する、
ことを特徴とする請求項6に記載の撮像装置。
【請求項8】
前記通常画像撮像モードと前記デコード・モードを時分割で交互に動作する、
ことを特徴とする請求項6に記載の撮像装置。
【請求項9】
前記演算部は、前記デコード・モード下で撮像した画像に対し前記変調光のデコーディングを行なった結果に基づいて前記特定のオブジェクトの部分を特定し、前記通常画像撮像モード下で撮像した画像のうち該当部分を前記特定のオブジェクトの画像として抽出する、
ことを特徴とする請求項6に記載の撮像装置。
【請求項10】
前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違による前記特定のオブジェクトの移動を考慮して、前記通常画像撮像モード下での撮像画像から前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項9に記載の撮像装置。
【請求項11】
前記演算部は、前記デコード・モードと前記通常画像撮像モード間で撮像画像の時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求め、前記動きベクトルに基づいて前記デコード・モード下での撮影画像中における前記特定のオブジェクトの部分から前記通常画像撮像モード下での撮像画像中における前記特定のオブジェクトの部分へアドレス変換して前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項10に記載の撮像装置。
【請求項12】
前記撮像部における数フレーム分の撮像画像を記憶する記憶部をさらに備える、
ことを特徴とする請求項1に記載の撮像装置。
【請求項13】
前記演算部は、前後のフレームの比較に基づいて撮像画像を処理する、
ことを特徴とする請求項12に記載の撮像装置。
【請求項14】
前記撮像部と、前記記憶部と、前記演算部が単一の半導体回路チップで構成される、
ことを特徴とする請求項12に記載の撮像装置。
【請求項15】
前記照射部は、不可視光の波長成分からなる変調光を照射する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項16】
前記照射部は、コード、コーディング方式、光強度、発光角度のうち少なくとも1つが相違する2種類以上の変調光を照射する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項17】
前記照射部は、コードの異なる2種類以上の変調光を照射し、
前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光に照射された部分をそれぞれ抽出する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項18】
前記演算部は、コードが異なる変調光が照射された部分毎に個別の画像処理を適用する、
ことを特徴とする請求項17に記載の撮像装置。
【請求項19】
前記演算部は、特定のコードによる変調光が照射された部分のみを表示出力する、
ことを特徴とする請求項17に記載の撮像装置。
【請求項20】
前記照射部は、コード毎に光強度を異ならせた2種類以上の変調光を照射し、
前記演算部は、コード毎に変調光のデコーディングを行ない、各変調光に照射された部分をそれぞれオブジェクトとして抽出するとともに、変調光毎の光強度に基づいて各オブジェクトまでの距離を同定する、
ことを特徴とする請求項1に記載の撮像装置。
【請求項21】
前記演算部は、距離が同定されたオブジェクト毎に抽出し、表示出力する、
ことを特徴とする請求項20に記載の撮像装置。
【請求項22】
前記照射部は、コード毎に発光角度を異ならせた2種類以上の変調光を照射し、
前記演算部は、発光角度毎に変調光のデコーディングを行ない、画角に応じたオブジェクトの表示処理を行なう、
ことを特徴とする請求項1に記載の撮像装置。
【請求項23】
任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報を処理する情報処理装置であって、
撮像画像に対し変調光のデコーディングを行なうデコード手段と、
正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出手段と、
を具備することを特徴とする情報処理装置。
【請求項24】
撮像画像は2次元的に配列された画素信号で構成され、
前記デコード手段は、画素信号毎に前記変調光のデコーディングを試み、
前記オブジェクト抽出手段は、正しくデコードされた画素の部分をオブジェクトとして抽出する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項25】
撮像画像は変調光をコーディングする発光周波数と同等以上のフレームレートで撮像されており、
前記デコード手段は、撮像画像を基に特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項26】
環境光に対する反射光からなる通常撮像画像と、環境光及びコーディングされた変調光に対する反射光からなるオブジェクト抽出用撮像画像をともに入力する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項27】
通常撮像画像とオブジェクト抽出用撮像画像を時分割で交互に入力し、それぞれの画像の処理を行なう、
ことを特徴とする請求項26に記載の情報処理装置。
【請求項28】
前記オブジェクト抽出手段は、オブジェクト抽出用撮像画像から前記変調光のデコーディングを行なった結果に基づいて前記特定のオブジェクトの部分を特定し、通常撮像画像のうち該当部分を前記特定のオブジェクトの画像として抽出する、
ことを特徴とする請求項26に記載の情報処理装置。
【請求項29】
前記オブジェクト抽出手段は、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違による前記特定のオブジェクトの移動を考慮して、前記通常撮像画像から前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項28に記載の情報処理装置。
【請求項30】
前記オブジェクト抽出手段は、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求め、前記動きベクトルに基づいて前記オブジェクト抽出用撮影画像中における前記特定のオブジェクトの部分から前記通常撮像画像中における前記特定のオブジェクトの部分へアドレス変換して前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項29に記載の情報処理装置。
【請求項31】
コードの異なる2以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコード手段は、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出手段は、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項32】
コードが異なる変調光が照射された部分毎に個別の画像処理を適用する画像処理手段をさらに備える、
ことを特徴とする請求項31に記載の情報処理装置。
【請求項33】
前記画像処理手段は、特定のコードによる変調光が照射された部分のみを表示出力する、
ことを特徴とする請求項32に記載の情報処理装置。
【請求項34】
コード毎に光強度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコード手段は、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出手段は、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出するとともに、変調光毎の光強度に基づいて各オブジェクトまでの距離を同定する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項35】
距離が同定されたオブジェクト毎に抽出し、表示出力する表示手段をさらに備える、
ことを特徴とする請求項34に記載の情報処理装置。
【請求項36】
コード毎に発光角度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコード手段は、撮像画像に対し発光角度毎に変調光のデコーディングを行ない、
前記オブジェクト抽出手段は、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトを画角毎に抽出する、
ことを特徴とする請求項23に記載の情報処理装置。
【請求項37】
任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報を処理する情報処理方法であって、
撮像画像に対し変調光のデコーディングを行なうデコーディング・ステップと、
正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出ステップと、
を具備することを特徴とする情報処理方法。
【請求項38】
撮像画像は2次元的に配列された画素信号で構成され、
前記デコーディング・ステップでは、画素信号毎に前記変調光のデコーディングを試み、
前記オブジェクト抽出ステップでは、正しくデコードされた画素の部分をオブジェクトとして抽出する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項39】
撮像画像は変調光をコーディングする発光周波数と同等以上のフレームレートで撮像されており、
前記デコーディング・ステップでは、撮像画像を基に特定のオブジェクトからの変調光に対する反射光に含まれるコードをデコードする、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項40】
環境光に対する反射光からなる通常撮像画像と、環境光及びコーディングされた変調光に対する反射光からなるオブジェクト抽出用撮像画像をともに入力する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項41】
通常撮像画像とオブジェクト抽出用撮像画像を時分割で交互に入力し、それぞれの画像の処理を行なう、
ことを特徴とする請求項40に記載の情報処理方法。
【請求項42】
前記オブジェクト抽出ステップでは、オブジェクト抽出用撮像画像から前記変調光のデコーディングを行なった結果に基づいて前記特定のオブジェクトの部分を特定し、通常撮像画像のうち該当部分を前記特定のオブジェクトの画像として抽出する、
ことを特徴とする請求項40に記載の情報処理方法。
【請求項43】
前記オブジェクト抽出ステップでは、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違による前記特定のオブジェクトの移動を考慮して、前記通常撮像画像から前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項42に記載の情報処理方法。
【請求項44】
前記オブジェクト抽出ステップでは、通常撮像画像とオブジェクト抽出用撮像画像間での時間的な相違に起因する前記特定のオブジェクトの空間的な相違を表す動きベクトルを求め、前記動きベクトルに基づいて前記オブジェクト抽出用撮影画像中における前記特定のオブジェクトの部分から前記通常撮像画像中における前記特定のオブジェクトの部分へアドレス変換して前記特定のオブジェクトの画像を抽出する、
ことを特徴とする請求項43に記載の情報処理方法。
【請求項45】
コードの異なる2以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコーディング・ステップでは、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出ステップでは、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項46】
コードが異なる変調光が照射された部分毎に個別の画像処理を適用する画像処理ステップをさらに備える、
ことを特徴とする請求項45に記載の情報処理方法。
【請求項47】
前記画像処理ステップでは、特定のコードによる変調光が照射された部分のみを表示出力する、
ことを特徴とする請求項46に記載の情報処理方法。
【請求項48】
コード毎に光強度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコーディング・ステップでは、撮像画像に対しコード毎に変調光のデコーディングを行ない、
前記オブジェクト抽出ステップでは、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトをそれぞれ抽出するとともに、変調光毎の光強度に基づいて各オブジェクトまでの距離を同定する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項49】
距離が同定されたオブジェクト毎に抽出し、表示出力する表示ステップをさらに備える、
ことを特徴とする請求項48に記載の情報処理方法。
【請求項50】
コード毎に発光角度を異ならせた2種類以上の変調光が照射された特定のオブジェクトを撮像して得られる画像情報を入力し、
前記デコーディング・ステップでは、撮像画像に対し発光角度毎に変調光のデコーディングを行ない、
前記オブジェクト抽出ステップでは、コード毎にデコードした結果に基づいて、各変調光に照射されたオブジェクトを画角毎に抽出する、
ことを特徴とする請求項37に記載の情報処理方法。
【請求項51】
任意にコーディングされた変調光が照射された特定のオブジェクトを撮像して得られる画像情報の処理をコンピュータ・システム上で実行するようにコンピュータ可読形式で記述されたコンピュータ・プログラムであって、
撮像画像に対し変調光のデコーディングを行なうデコーディング・ステップと、
正しくデコードされたか否かに基づいて撮像画像のうち前記変調光が照射された部分とそれ以外の部分に分離し、前記変調光が照射された部分を前記特定のオブジェクトとして抽出するオブジェクト抽出ステップと、
を具備することを特徴とするコンピュータ・プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【公開番号】特開2006−53698(P2006−53698A)
【公開日】平成18年2月23日(2006.2.23)
【国際特許分類】
【出願番号】特願2004−233909(P2004−233909)
【出願日】平成16年8月10日(2004.8.10)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成18年2月23日(2006.2.23)
【国際特許分類】
【出願日】平成16年8月10日(2004.8.10)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]