説明

対象物識別システム及び検出装置

【課題】 ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる対象物識別システムを提供する。
【解決手段】 赤外線タグ6は、所定の対象物に取り付けられ、当該対象物に対して一意的に割り付けられたID番号に応じて点滅し、検出装置1は、ユーザの頭部に装着され、CMOSイメージセンサ22は、ユーザの視線方向に位置する対象物を含む近赤外線画像を撮影し、画像処理装置23は、CMOSイメージセンサ22により撮影された近赤外線画像を2値化した2値化画像を作成し、2値化画像の時間的な明暗の変化を基に赤外線タグ6を検出し、検出した赤外線タグ6の点滅状態からID番号を検出するとともに、近赤外線画像上の赤外線タグ6のXY座標を検出し、ID番号及びXY座標等のデータを携帯型コンピュータ10へ出力する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、対象物に取り付けられた発光装置を、ユーザに装着された検出装置により検出してユーザの視界内に位置する対象物を識別する対象物識別システム、当該対象物識別システムに用いられる検出装置に関するものである。
【背景技術】
【0002】
近年、部屋の中での人の動きを認識するために、無線やウェアラブルな航行システムを使って個人の位置を知る技術が開発されている。また、赤外線を高速点滅させるIDタグを用いて、人が見ている対象物のID(識別情報)を自動認識させる技術が開発されている(例えば、非特許文献1,2参照)。
【0003】
しかしながら、上記の赤外線を高速点滅させるIDタグを用いる方法では、通常のカメラを利用しているため、処理速度を充分に確保することができず、例えば、人の動き程度の低速なものでも捕らえることができなかった。また、特殊な高速カメラを用いて処理速度を向上するものもあるが、当該カメラが高価且つ大型なものとなり、人が身につけて使用する用途には適用できなかった。
【0004】
このため、本願発明者らは、ユーザの視線方向に位置する対象物を識別することができるとともに、処理速度が高速で且つ人が装着できるように小型化及び低コスト化が可能な対象物識別システムを開発している(特許文献1参照)。この対象物識別システムでは、ユーザの視線方向に略一致させた光軸を有し、対象物を含む所定の撮影領域の赤外線画像を撮影し、この赤外線画像の中から所定サイズの光点をIDタグとして検出することにより対象物の識別情報を取得している。
【非特許文献1】青木恒、カメラで読み取る赤外線タグとその応用、インタラクティブシステムとソフトウェアVIII(WISS 2000)、日本ソフトウェア科学会、近代科学社、2000年、pp.131−136
【非特許文献2】松下伸行、他4名、ID Cam:シーンとIDを同時に取得可能なイメージセンサ、インタラクション2002、情報処理学会、2002年、pp.9−16
【特許文献1】特開2004−208229号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記の対象物識別システムでは、赤外線画像の中から所定サイズの光点を中心とする領域を切り出して一つのIDタグを検出しているため、複数のIDタグを同時に且つ連続的に検出することができない。
【0006】
本発明の目的は、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる対象物識別システムを提供することである。
【課題を解決するための手段】
【0007】
本発明に係る対象物識別システムは、対象物に取り付けられた複数の発光装置と、ユーザに装着された検出装置とを備え、発光装置は、赤外線を発光する発光手段と、当該発光装置が取り付けられた対象物に対して一意的に割り付けられた識別情報に応じて発光手段を点滅させる発光制御手段とを備え、検出装置は、ユーザの視線方向に略一致させた光軸を有し、対象物を含む所定領域の画像を所定間隔で順次撮影する撮影手段と、撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成し、作成した多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出する光点検出手段と、光点検出手段により検出された光点の点滅状態を基に発光装置の識別情報を検出する識別情報検出手段とを備えるものである。
【0008】
本発明に係る対象物識別システムにおいては、発光装置が取り付けられた対象物に対して一意的に割り付けられた識別情報に応じて発光装置が点滅し、ユーザに装着された検出装置により、ユーザの視線方向に位置する対象物を含む所定の撮影領域の画像が撮影され、撮影された画像から各画素の明度を基に多値化した多値化画像が作成され、作成された多値化画像の各画素の時間的な明暗の変化を基に点滅する光点が検出され、検出された光点の点滅状態を基に発光装置の識別情報が検出されるので、ユーザの視線方向に位置する対象物を識別することができる。また、撮影された画像から各画素の明度を基に多値化した多値化画像が作成され、作成された多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出しているので、一枚の画像に含まれる複数の光点を同時に且つ高速に検出することができる。したがって、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【0009】
光点検出手段は、撮影手段により撮影された画像を、所定の基準明度値を基に多値化した多値化画像を作成することが好ましい。
【0010】
この場合、所定の基準明度値を基に多値化画像を作成しているので、多値化処理にフレームバッファ等の特別なメモリを用いることなく、多値化画像を高速に作成することができる。
【0011】
光点検出手段は、撮影手段により撮影された画像を、当該画像の直前に撮影された画像の輝度値を基に多値化した多値化画像を作成することが好ましい。
【0012】
この場合、直前に撮影された画像の輝度値を基に多値化画像を作成することができるので、撮影環境が変化した場合でも、明度の変化を正確に反映した多値化画像を作成することができる。
【0013】
光点検出手段は、撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成する多値化回路と、多値化回路により多値化された多値化画像を記憶する記憶回路と、記憶回路に記憶されている多値化画像を参照して各画素の時間的な明暗の変化を基に点滅する光点を検出する変化検出回路とを備え、識別情報検出手段は、変化検出回路により検出された光点に対応する多値化値を記憶回路から読み出してデコードすることにより発光装置の識別情報を検出することが好ましい。
【0014】
この場合、多値化回路及び変化検出回路を専用のハードウエアから作成することができるので、点滅する光点をより高速に検出することができ、ユーザの視線方向に位置する多数の対象物を同時に且つ連続的に識別することができる。
【0015】
識別情報検出手段は、変化検出回路により検出された光点に対応する画素が点滅していない場合、当該画素の周辺に位置する画素の多値化値を記憶回路から読み出してデコードすることにより発光装置の識別情報を検出することが好ましい。
【0016】
この場合、光点として検出された画素だけでなく、当該画素の周辺に位置する画素の多値化値をも用いて光点の点滅状態をデコードすることができるので、対象物が高速に移動する場合でも、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【0017】
撮影手段は、可視光及び赤外光を含む光を可視光と赤外光とに分離する分離手段と、分離手段により分離された赤外光を受光して対象物を含む所定の撮影領域の赤外線画像を撮影する赤外線撮影手段と、分離手段により分離された可視光を受光して対象物を含む所定の撮影領域の可視光画像を撮影する可視光撮影手段とを備え、光点検出手段は、赤外線撮影手段により撮影された赤外線画像を、各画素の明度を基に多値化した多値化画像を作成し、作成した多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出し、検出装置は、ユーザの頭部に装着されることが好ましい。
【0018】
この場合、ユーザの視線方向に位置する複数の対象物を、同一の光軸で赤外線画像及び可視光画像として撮影することができるので、対象物の可視光画像及び近赤外線画像上の位置が一致し、ユーザの視線方向に位置する対象物を識別するだけでなく、当該対象物の画像も同時に撮影することができるとともに、対象物の位置を高精度に検出することができる。また、撮影手段の構成を簡略化することができるので、可視光撮影手段をも一体に構成し、ユーザの頭部への装着に適した小型の検出装置を実現することができる。
【0019】
検出装置は、赤外線を発光する発光手段と、当該検出装置を装着するユーザに対して一意的に割り付けられた識別情報に応じて発光手段を点滅させる発光制御手段とを備える検出装置用発光装置をさらに備え、検出装置は、ユーザの頭部に装着されることが好ましい。
【0020】
この場合、ユーザに対して一意的に割り付けられた識別情報に応じて点滅する発光手段を一体に構成して小型化した検出装置をユーザの頭部に装着することができるので、ユーザが見る側として当該ユーザの視線方向に位置する対象物を識別するだけでなく、当該ユーザが見られる側として他のユーザの視線方向に位置する対象物として識別されることができ、対象物識別システムの用途を拡大することができる。
【0021】
上記対象物識別システムは、ユーザが位置する空間を構成する構造物に固定された固定検出装置をさらに備え、固定検出装置は、所定方向に設定された光軸を有し、ユーザを含む所定の撮影領域の画像を所定間隔で順次撮影する撮影手段と、撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成し、多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出する光点検出手段と、光点検出手段により検出された光点の点滅状態を検出して発光装置の識別情報を検出する識別情報検出手段とを備えることが好ましい。
【0022】
この場合、ユーザの頭部に装着された検出装置だけでなく、ユーザが位置する空間を構成する構造物に固定された固定検出装置により、遠方に位置するユーザ及びユーザの視線方向の対象物を識別することができるので、異なる視点からユーザの周囲の状況を広範囲に検出することができる。
【0023】
本発明に係る検出装置は、ユーザに装着され、対象物に取り付けられた発光装置を検出する検出装置であって、ユーザの視線方向に略一致させた光軸を有し、対象物を含む所定領域の画像を所定間隔で順次撮影する撮影手段と、撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成し、多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出する光点検出手段と、光点検出手段により検出された光点の点滅状態を検出して発光装置の識別情報を検出する識別情報検出手段とを備えるものである。
【0024】
本発明に係る検出装置においては、対象物に発光装置が取り付けられ、当該対象物に対して一意的に割り付けられた識別情報に応じて発光装置が点滅する場合、ユーザの視線方向に位置する対象物を含む所定の撮影領域の画像が撮影され、撮影された画像から各画素の明度を基に多値化した多値化画像が作成され、作成された多値化画像の各画素の時間的な明暗の変化を基に点滅する光点が検出され、検出された光点の点滅状態を基に発光装置の識別情報が検出されるので、ユーザの視線方向に位置する対象物を識別することができる。また、撮影された画像から各画素の明度を基に多値化した多値化画像が作成され、作成された多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出しているので、一枚の画像に含まれる複数の光点を同時に且つ高速に検出することができる。したがって、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【発明の効果】
【0025】
本発明によれば、ユーザの視線方向に位置する対象物を含む所定の撮影領域の画像が撮影され、撮影された画像から各画素の明度を基に多値化した多値化画像が作成され、作成された多値化画像の各画素の時間的な明暗の変化を基に点滅する光点が検出されるので、一枚の画像に含まれる複数の光点を同時に且つ高速に検出することができ、検出された光点の点滅状態を基に複数の発光装置の識別情報が検出されるので、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【発明を実施するための最良の形態】
【0026】
以下、本発明による対象物識別システムについて図面を参照しながら説明する。図1は、本発明の一実施の形態による対象物識別システムの構成を示すブロック図である。
【0027】
図1に示す対象物識別システムは、検出装置1、赤外線タグ6及び固定検出装置7を備える。赤外線タグ6は、対象物自体又はその近傍に取り付けられ、対象物に対して一意的に割り付けられたID番号(識別情報)を赤外線の点滅により送信する。検出装置1は、ユーザに装着され、ユーザの視界内に位置する赤外線タグ6から送信される対象物のID番号及び赤外線タグ6の赤外線画像内のXY座標を検出するとともに、赤外線タグ6を含む可視光画像を撮影し、検出したID番号及びXY座標等の情報及び撮影した可視光画像を携帯型コンピュータ10へ出力する。携帯型コンピュータ10は、入力される各情報に対して時間情報の付加等の所定の処理を行い、各情報を無線によりサーバ11へ送信する。
【0028】
また、検出装置1は、ユーザのID番号を赤外線の点滅により送信する。固定検出装置7は、ユーザが位置する空間を構成する構造物に固定され、撮影範囲内に位置する検出装置1及び赤外線タグ6から送信されるID番号及び検出装置1及び赤外線タグ6の赤外線画像内のXY座標を検出してサーバ11へ出力する。
【0029】
上記のようにして収集された各情報は、サーバ11において種々の用途に使用され、例えば、人と人とのインタラクション等に関するインタラクションデータを蓄積した知識ベースとなるインタラクション・コーパスを作成するために使用される。
【0030】
検出装置1は、赤外線検出部2、画像撮影部3、赤外線タグ4及びマイク部5を備える。図2は、図1に示す検出装置1の外観を示す模式的斜視図である。図2に示すように、検出装置1は、ユーザの頭部に装着される耳かけ式ネックバンド方式ヘッドセットとして構成され、ユーザの頭部に装着される。赤外線検出部2及び画像撮影部3は直方体形状の筺体に一体に内蔵され、赤外線タグ4は筺体の側面に一体に固定され、マイク部5はユーザの口元付近に配置される。また、携帯型コンピュータ10は、ユーザに背負われて使用され、検出装置1からの各出力が携帯型コンピュータ10へ供給される。
【0031】
再び、図1を参照して、赤外線タグ6は、LED(Light Emitting Diode)61及び駆動回路62を備える。LED61は、赤外線LED等から構成され、例えば、光通信用高出力発光ダイオード(スタンレイ社製DN311)等を用いることができ、指向性が弱く且つ可視光に近い800nm程度の赤外LEDを好適に用いることができる。
【0032】
駆動回路62は、マイクロコンピュータ等から構成され、例えば、Atmel社製4MHz駆動マイコンAT90S2323等を用いることができ、赤外線タグ6が取り付けられた対象物に対して一意的に割り付けられたID番号が識別可能なようにLED61を点滅制御する。なお、LED61及び駆動回路62は、内部電池(図示省略)から電源を供給されている。
【0033】
具体的には、駆動回路62は、マンチェスタ符号化方式を用い、データ間隔8ms/1bitで、スタートビット(2bit)、1番目(ID1番目)/続き(ID連続)符号(1bit)、ID番号(10bit)及びパリティビット(1bit)のデータフォーマットに従い、LED61を点滅させ、ID番号を繰り返し送信する。
【0034】
画像撮影部3は、レンズ31、光学素子32及びCCDカメラ33を備える。レンズ31は、ユーザの視線方向に位置し且つ赤外線タグ6が取り付けられた対象物を含む所定撮影範囲の可視光及び近赤外光を光学素子32へ導く。光学素子32は、近赤外光を反射して赤外線検出部2へ導き、可視光を通過させて可視光画像をCCDカメラ33上に結像させる。CCDカメラ33は、可視光画像を撮影して映像信号を携帯型コンピュータ10へ出力する。
【0035】
このように、画像撮影部3及び赤外線検出部2は、光学素子32により分離された可視光及び近赤外光を用い、同一光軸上の可視光画像及び近赤外線画像を撮影することができるので、対象物の可視光画像及び近赤外線画像上の位置が完全に一致し、ユーザの視線方向に位置する対象物を識別するだけでなく、当該対象物の画像も同時に撮影することができるとともに、対象物の位置を高精度に検出することができる。
【0036】
赤外線検出部2は、反射素子21、CMOSイメージセンサ22及び画像処理装置23を備える。反射素子21は、光学素子32からの近赤外光を反射してCMOSイメージセンサ22上に結像させる。CMOSイメージセンサ22は、結像された近赤外線から構成される近赤外線画像を撮影して画像処理装置23へ出力する。CMOSイメージセンサ22としては、例えば、ナショナルセミコンダクター社製高感度モノクロCMOSイメージセンサLM9630等を用いることができ、この場合、解像度は128×98pixel、フレームレートは500fpsである。
【0037】
画像処理装置23は、CMOSイメージセンサ22の制御及びデータ処理を行い、CMOSイメージセンサ22により撮影された近赤外線画像から赤外線タグ6を検出し、検出した赤外線タグ6の点滅状態からID番号を検出するとともに、近赤外線画像上の赤外線タグ6のXY座標を検出し、ID番号及びXY座標等のデータをRS232C等のデータ伝送規格に従って携帯型コンピュータ10へ出力する。このように、赤外線検出部2では、主に近赤外線のみから作成された近赤外線画像を用いて赤外線タグ6のID番号を検出することができるので、外乱となる可視光領域の波長を有する光による悪影響を充分に低減することができ、検出処理を高速化することができる。
【0038】
赤外線タグ4は、LED41及び駆動回路42を備える。赤外線タグ4は、検出装置1に一体に構成され、検出装置1を装着するユーザのID番号を送信する点を除き、赤外線タグ6と同様のハードウエアから構成され、同様に動作する。この場合、ユーザに対して一意的に割り付けられたID番号に応じて点滅する赤外線タグ4を一体に構成して小型化した検出装置1をユーザの頭部に装着することができるので、ユーザが見る側として当該ユーザの視線方向に位置する対象物を識別するだけでなく、当該ユーザが見られる側として他のユーザの視線方向に位置する対象物として識別され、上記のインタラクション・コーパスの収集等の種々の用途に好適に用いることができる。
【0039】
マイク部5は、音声処理回路51及びマイクロホン52を備える。マイクロホン52は、ユーザの発話又は周囲音を集音して音声処理回路51へ出力し、音声処理回路51は録音された音声信号を携帯型コンピュータ10へ出力する。なお、音声を録音しない場合は、マイク部5を省略してもよく、また、ユーザに音声等を伝達するためにスピーカ等をヘッドセットに一体に構成してもよい。
【0040】
固定検出装置7は、赤外線フィルタ71、レンズ72、CMOSイメージセンサ73及び画像処理装置74を備える。赤外線フィルタ71は、赤外線タグ4のLED41等から発光される赤外線のうち主に近赤外線のみ透過させてレンズ72に近赤外線を導く。赤外線フィルタ71としては、例えば、可視光をブロックし、近赤外光をパスするエドモンド社製プラスチックIRパスフィルタを用いることができる。レンズ72は、赤外線フィルタ71を透過した近赤外線をCMOSイメージセンサ73上に結像させる。CMOSイメージセンサ73及び画像処理装置74は、上記の赤外線検出部2のCMOSイメージセンサ22及び画像処理装置23と同様に構成され、同様に動作する。
【0041】
サーバ11は、固定検出装置7から出力される赤外線タグ4のID番号及び赤外線画像内のXY座標、並びに検出装置1から出力される赤外線タグ6のID番号及び赤外線画像内のXY座標等を受け、人と人とのインタラクション等に関するインタラクションデータを蓄積した知識ベースとなるインタラクション・コーパスを作成する処理を実行する。
【0042】
次に、図1に示す画像処理装置23について詳細に説明する。図3は、図1に示す画像処理装置23の構成を示すブロック図である。図3に示すように、画像処理装置23は、2値化回路81、SRAM(Static Random Access Memory)82、明度変化検出回路83及びデコード回路84を備える。例えば、2値化回路81及び明度変化検出回路83は、CPLD(Complex Programmable Logic Device)等から構成され、デコード回路84は、CPU等から構成され、CPUで所定のデコードプログラムを実行することによりデコード処理を行う。なお、画像処理装置23の構成は、上記の例に特に限定されず、すべてを専用のハードウエア回路から構成する等の種々の変更が可能である。
【0043】
2値化回路81は、撮影された近赤外線画像を構成する各画素の明度データをCMOSイメージセンサ22から受け、各画素の明度値を予め記憶している基準明度値と比較して2値化し、2値化画素データをSRAM82に順次記憶させる。例えば、CMOSイメージセンサ22から256階調で明度データが出力される場合、128階調以上の明度を「1」に変換し、128階調未満の明度を「0」に変換する。多値化処理は、上記の例に特に限定されず、128階調以上の明度を「2」、128階調未満64階調以上を「1」、64階調未満を「0」に変換し、「2」の場合を「明」、「0」の場合を「滅」として点滅状態を判断する等の種々の変更が可能である。
【0044】
SRAM82は、CMOSイメージセンサ22により撮影された近赤外線画像を複数枚、例えば、672枚記憶可能な記憶容量を有し、2値化回路81から出力される2値化画素データを画像毎に記憶する。
【0045】
明度変化検出回路83は、連続して撮影された複数枚、例えば、5枚の2値化画像の各画素データをSRAM82から読み出し、各2値化画像上で同一位置にある画素データが点滅すなわち時間的に「1」又は「0」を交互に繰り返している全ての点滅画素を光点(赤外線タグ6)として検出し、検出した複数の光点の2値化画像上の位置及び当該画像の撮影フレーム数を特定するための位置情報、例えば、当該点滅画素データのSRAM82の記憶アドレスをデコード回路84へ出力する。
【0046】
また、明度変化検出回路83は、隣接する複数の画素が点滅している場合、これらの画素を一つの光点として検出する。この場合、同時に点滅している隣接する複数の画素を一つの光点として検出することができるので、CMOSイメージセンサ22の1画素の大きさに拘らず、種々の大きさのLED61を一つの光点として正確に検出することができる。
【0047】
デコード回路84は、点滅画素の位置情報を基に2値化画像内の点滅画素の2値化画素データをSRAM82から順次読み出してデコードし、複数の光点すなわち複数の赤外線タグ6のID番号及びその撮影画像上のXY座標を携帯型コンピュータ10へ出力する。
【0048】
また、デコード回路84は、明度変化検出回路83により検出された光点に対応する画素が点滅していない場合、当該画素の周辺に位置する画素の2値化画素データをSRAM82から読み出し、周辺の画素の時間的に前後する2値化画素データをも用いて光点の点滅状態を再度デコードして赤外線タグ6のID番号を検出する。この場合、光点として検出された画素だけでなく、当該画素の周辺に位置する画素の2値化値をも用いて光点の点滅状態をデコードすることができるので、対象物が高速に移動する場合でも、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【0049】
本実施の形態では、赤外線タグ6が発光装置の一例に相当し、検出装置1が検出装置の一例に相当し、LED61が発光手段の一例に相当し、駆動回路62が発光制御手段の一例に相当し、反射素子21、CMOSイメージセンサ22、光学素子32及びCCDカメラ33が撮影手段の一例に相当し、2値化回路81、SRAM82及び明度変化検出回路83が光点検出手段の一例に相当し、デコード回路84が識別情報検出手段の一例に相当する。
【0050】
また、2値化回路81が多値化回路の一例に相当し、SRAM82が記憶回路の一例に相当し、明度変化検出回路83が変化検出回路の一例に相当し、反射素子21及び光学素子32が分離手段の一例に相当し、CMOSイメージセンサ22が赤外線撮影手段の一例に相当し、CCDカメラ33が可視光撮影手段の一例に相当する。
【0051】
また、赤外線タグ4が検出装置用発光装置の一例に相当し、LED41が発光手段の一例に相当し、駆動回路42が発光制御手段の一例に相当し、固定検出装置7が固定検出装置の一例に相当し、赤外線フィルタ71、レンズ72及びCMOSイメージセンサ73が撮影手段の一例に相当し、画像処理装置74が光点検出手段及び識別情報検出手段の一例に相当する。
【0052】
次に、上記のように構成された検出装置1による赤外線タグ検出処理について説明する。図4は、図1に示す検出装置1の赤外線タグ検出処理を説明するためのフローチャートである。
【0053】
まず、画像処理装置23は、CMOSイメージセンサ22等を初期化し(ステップS11)、全画面(128×98pixel)の近赤外線画像を順次撮影して取得する(ステップS12)。次に、2値化回路81は、撮影された近赤外線画像を構成する各画素の明度データをCMOSイメージセンサ22から受け、各画素の明度値を所定の基準明度値と比較して2値化(「0」又は「1」)し、2値化画素データを近赤外線画像毎にSRAM82に記憶させる(ステップS13)。
【0054】
次に、明度変化検出回路83は、連続して撮影された複数枚の2値化画像の各画素の2値化画素データをSRAM82から読み出し、各2値化画像上で同一位置にある2値化画素データが「1」又は「0」を所定順序で交互に繰り返している全ての点滅画素を光点として検出し、検出した複数の光点の画像上の各位置及び当該画像の撮影フレーム数を特定するための位置情報をデコード回路84へ出力する(ステップS14)。
【0055】
次に、デコード回路84は、点滅画素の位置情報を基にSRAM82から複数の2値化画像の各光点の2値化画素データを順次読み出してデコードし(ステップS15)、デコード結果に対してパリティチェックを行い、読み込みデータの判定処理を行う(ステップS16)。
【0056】
ここで、パリティチェックが正しければ(ステップS16でYES)、デコード回路84は、デコードした赤外線タグ6のID番号及びXY座標を携帯型コンピュータ10へ出力し(ステップS17)、その後、ステップS12に戻って上記の処理を継続する。
【0057】
一方、パリティチェックが正しくなければ(ステップS16でNO)、デコード回路84は、点滅画素の位置情報を基に当該画素の周辺に位置する画素、例えば、点滅画素の上下、左右及び斜めに位置する8画素の2値化画素データをSRAM82から読み出し、読み出した2値化画素データと点滅画素の2値化画素データとの論理和をデコードし(ステップS18)、デコード結果に対して再度パリティチェックを行い、読み込みデータの判定処理を行う(ステップS19)。
【0058】
ここで、パリティチェックが正しければ(ステップS19でYES)、デコード回路84は、デコードした赤外線タグ6のID番号及びXY座標を携帯型コンピュータ10へ出力し(ステップS17)、その後、ステップS12に戻って上記の処理を継続する。また、パリティチェックが正しくない場合もステップS12に戻って上記の処理を継続する。
【0059】
上記のように、本実施の形態では、赤外線タグ6が取り付けられた対象物に対して一意的に割り付けられたID番号をLED61の点滅により送信し、ユーザに装着された検出装置1により、ユーザの視線方向に位置する対象物を含む所定の撮影領域の近赤外線画像が撮影され、撮影された近赤外線画像から各画素の明度を所定の基準明度値と比較して2値化画像が作成され、作成された2値化画像の各画素の時間的な明暗の変化を基に点滅する光点が検出され、検出された光点の点滅状態を基に複数の赤外線タグ6のID番号及びその位置が検出されるので、ユーザの視線方向に位置する対象物を識別することができる。また、撮影された近赤外線画像を2値化した2値化画像が作成され、作成された2値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出しているので、一枚の画像に含まれる複数の光点を同時に且つ高速に検出することができる。したがって、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【0060】
また、所定の基準明度値と比較して2多値化画像を作成しているので、2値化処理にフレームバッファ等の特別なメモリを必要がなく、2値化画像を高速に作成することができるとともに、そのデータ容量を削減することができるので、SRAM82の記憶容量を低く抑えることができる。さらに、2値化回路81及び明度変化検出回路83をCPLDから構成しているので、複数の光点をより高速に検出することができる。
【0061】
次に、図1に示すCMOSイメージセンサ22及び画像処理装置23の他の例について詳細に説明する。図5は、図1に示すCMOSイメージセンサ及び画像処理装置の他の例の構成を示すブロック図である。
【0062】
図5に示すように、CMOSイメージセンサ22aは、反射素子21(図1参照)により反射された近赤外線から構成される近赤外線画像を撮影して画像処理装置23aへ出力する。CMOSイメージセンサ22aとしては、例えば、MICRON社製撮像エリアCMOS型撮像素子MT9M413等を用いることができ、この場合、解像度は1280×1024pixel、フレームレートは400fpsである。
【0063】
なお、上記のような高解像度のCMOSイメージセンサを用いる場合、近赤外光及び可視光に対して感度を有していれば、CCDカメラ33を省略してCMOSイメージセンサ22aを可視光画像の撮影にも用いることができ、検出装置1の構成をより簡略化することができる。
【0064】
画像処理装置23aは、CMOSイメージセンサ22aの制御及びデータ処理を行い、CMOSイメージセンサ22aにより撮影された近赤外線画像から赤外線タグ6を検出し、検出した赤外線タグ6の点滅状態からID番号を検出するとともに、近赤外線画像上の赤外線タグ6のXY座標を検出し、ID番号及びXY座標等のデータを携帯型コンピュータ10へ出力する。
【0065】
画像処理装置23aは、4値化回路91、フレームバッファ92、SRAM93、明度変化検出回路94及びデコード回路95を備える。例えば、4値化回路91及び明度変化検出回路94は、FPGA(Fileld Programmable Gate Array)等から構成され、デコード回路95は、CPU等から構成され、CPUで所定のデコードプログラムを実行することにより下記のデコード処理を行う。なお、画像処理装置23aの構成は、上記の例に特に限定されず、すべてを専用のハードウエア回路から構成する等の種々の変更が可能である。
【0066】
4値化回路91は、複数フレーム、例えば、20フレームを比較処理単位として近赤外線画像を処理し、1フレーム目の赤外線画像をフレームバッファ92に記憶させ、2フレーム目の赤外線画像を構成する各画素の明度データとフレームバッファ92に記憶している1フレーム目の赤外線画像を構成する各画素の明度データとを比較し、比較結果として4値化した4値化画素データをSRAM93に記憶させるとともに、2フレーム目の赤外線画像をフレームバッファ92に記憶させる。
【0067】
以降、上記と同様に、4値化回路91は、現フレームの赤外線画像を構成する各画素の明度データとフレームバッファ92に記憶している直前フレームの赤外線画像を構成する各画素の明度データとを比較し、比較結果から4値化した4値化画素データをSRAM93に記憶させるとともに、現フレーム(比較処理単位の最終フレームを除く)の赤外線画像をフレームバッファ92に記憶させる処理を繰り返す。SRAM93は、4値化回路91から出力される4値化画像の4値化画素データを比較処理単位、例えば、20フレーム単位で記憶する。
【0068】
例えば、現フレームの判定対象画素の明度値をp、直前フレームの該当画素の明度値をP、予め定めた閾値をTとすると、4値化回路91は、SRAM93に、P≦p<P+Tのときは「0」を記憶させ、P+T≦pのときは「1」を記憶させ、P−T<p<Pのときは「2」を記憶させ、p≦P−Tのときは「3」を記憶させ、画素毎に直前フレームと明度を比較して4段階に分類する。
【0069】
明度変化検出回路94は、比較処理単位の最終フレームがSRAM93に記憶されたときに、比較処理単位となる複数フレーム、例えば、20フレームの4値化画素データをSRAM93から読み出し、読み出した4値化画像の4値化画素データを基に各画素の明滅状態を判定し、判定結果から光点(赤外線タグ6)として判断した複数の光点の4値化画像上の位置及び当該画像の撮影フレーム数を特定するための位置情報、例えば、当該点滅画素データのSRAM93の記憶アドレスをデコード回路95へ出力する。また、明度変化検出回路94は、隣接する複数の画素が点滅していると判断した場合、これらの画素を一つの光点として検出する。
【0070】
例えば、比較処理単位が20フレーム単位のとき、明度変化検出回路94は、各画素の明滅状態として、全19フレーム中に「1」か「3」の4値化画素データが合計4回以上出る場合は当該画素を「0」と判定し、連続する10フレーム以内に「1」の4値化画素データと「3」の4値化画素データとが両方出る場合は当該画素を「1」と判定し、全19フレーム中に「1」か「3」の4値化画素データが合計2回以上3回以下出る場合は当該画素を「2」と判定し、全19フレーム中に「1」か「3」の4値化画素データが合計1回以下しか出ない場合は当該画素を「3」と判定し、判定結果が「0」又は「1」の画素を光点として検出する。
【0071】
デコード回路95は、点滅画素の位置情報を基に4値化画像内の点滅画素の4値化画素データをSRAM93から順次読み出し、4値化画素データが「1」の場合を「1」(明状態)、4値化画素データが「3」の場合を「0」(滅状態)としてデコードし、複数の光点すなわち赤外線タグ6のID番号及びその撮影画像上のXY座標を携帯型コンピュータ10へ出力する。
【0072】
また、比較処理単位の複数フレーム中に赤外線タグ6が画素を跨いで移動した場合に対処するため、明度変化検出回路94は、判定結果が「1」又は「2」の画素の位置情報をデコード回路95へ出力するようにしてもよい。この場合、デコード回路95は、当該画素の周辺に位置する画素の明度判定結果データをSRAM93から読み出し、周辺の画素の時間的に前後する4値化画素データをも用いて光点の点滅状態を再度デコードして赤外線タグ6のID番号を検出する。また、フレーム毎に近赤外線画像を濃淡でラベリングし、ラベリングされた各領域の重心座標、面積、円形度、フィレ径、平均明度等を記録し、その形状のLEDらしさを判定して光点を検出するようにしてもよい。
【0073】
本例では、CMOSイメージセンサ22aが撮影手段の一例に相当し、4値化回路91、フレームバッファ92、SRAM93及び明度変化検出回路94が光点検出手段の一例に相当し、デコード回路95が識別情報検出手段の一例に相当し、4値化回路91が多値化回路の一例に相当し、SRAM93が記憶回路の一例に相当し、明度変化検出回路94が変化検出回路の一例に相当する。
【0074】
次に、図5に示すCMOSイメージセンサ22a及び画像処理装置23aを用いた赤外線タグ検出処理について説明する。図6は、図5に示すCMOSイメージセンサ22a及び画像処理装置23aを用いた赤外線タグ検出処理を説明するためのフローチャートである。
【0075】
まず、画像処理装置23aは、CMOSイメージセンサ22a等を初期化し(ステップS21)、全画面(1280×1024pixel)の近赤外線画像を順次撮影して取得する(ステップS22)。次に、4値化回路91は、直前フレームの近赤外線画像を構成する各画素の明度データをフレームバッファ92に記憶させ、現フレームの近赤外線画像を構成する各画素の明度データとフレームバッファ92に記憶している直前フレームの近赤外線画像を構成する各画素の明度データとを比較し、比較結果を4値化して比較処理単位で4値化画素データをSRAM93に記憶させる(ステップS23)。
【0076】
次に、明度変化検出回路94は、比較処理単位の最終フレームがSRAM93に記憶されたときに、比較処理単位となる19フレームの4値化画素データをSRAM93から読み出し、読み出した4値化画素データを基に各画素の明滅状態を上記の「0」〜「3」に4値化して判定する(ステップS24)
ここで、明滅状態が「0」又は「1」の場合(ステップS25でYES)、明度変化検出回路94は、当該画素を光点(赤外線タグ6)として判定し、判定した複数の光点の画像上の各位置及び当該画像の撮影フレーム数を特定するための位置情報をデコード回路95へ出力する。
【0077】
次に、デコード回路95は、点滅画素の位置情報を基にSRAM93から複数の4値化画像の各光点の4値化画素データを順次読み出し、4値化画素データが「1」の場合を「1」、4値化画素データが「3」の場合を「0」としてデコードし(ステップS26)、デコード結果に対してパリティチェックを行い、読み込みデータの判定処理を行う(ステップS27)。
【0078】
ここで、パリティチェックが正しければ(ステップS27でYES)、デコード回路95は、デコードした赤外線タグ6のID番号及びXY座標を携帯型コンピュータ10へ出力し(ステップS28)、その後、ステップS22に戻って上記の処理を継続する。
【0079】
一方、明滅状態が「0」又は「1」でない場合(ステップS25でNO)、又は、パリティチェックが正しくなければ(ステップS26でNO)、デコード回路95は、点滅画素の位置情報を基に当該画素の周辺に位置する画素、例えば、点滅画素の上下、左右及び斜めに位置する8画素の明度変化判定結果データをSRAM93から読み出し、読み出した4値化画素データと点滅画素の4値化画素データとを用いてデコードし(ステップS29)、デコード結果に対して再度パリティチェックを行い、読み込みデータの判定処理を行う(ステップS30)。
【0080】
ここで、パリティチェックが正しければ(ステップS30でYES)、デコード回路95は、デコードした赤外線タグ6のID番号及びXY座標を携帯型コンピュータ10へ出力し(ステップS28)、その後、ステップS22に戻って上記の処理を継続する。また、パリティチェックが正しくない場合もステップS22に戻って上記の処理を継続する。
【0081】
上記のように、本例でも、ユーザの視線方向に位置する対象物を含む所定の撮影領域の近赤外線画像が撮影され、撮影された近赤外線画像の各画素の明度と直前に撮影された近赤外線画像の明度と比較して4値化画像が作成され、作成された4値化画像の各画素の時間的な明暗の変化を基に点滅する光点が検出され、検出された光点の点滅状態を基に複数の赤外線タグ6のID番号が検出されるので、ユーザの視線方向に位置する対象物を識別することができる。また、撮影された近赤外線画像を4値化した4値化画像が作成され、作成された4値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出しているので、一枚の画像に含まれる複数の光点を同時に且つ高速に検出することができる。したがって、ユーザの視線方向に位置する複数の対象物を同時に且つ連続的に識別することができる。
【0082】
また、直前に撮影された近赤外線画像の明度と比較して4多値化画像を作成しているので、撮影環境が変化した場合でも、明度の変化を正確に反映した4値化画像を作成することができる。さらに、4値化回路91及び明度変化検出回路94をFPGAから構成しているので、複数の光点をより高速に検出することができる。
【0083】
次に、上記のように構成された対象物識別システムの応用例について説明する。図7は、図1に示す対象物識別システムを用いた展示場におけるインタラクション・コーパスの収集例を説明するための模式図である。
【0084】
図7に示すように、説明員P1等が検出装置1を頭部に装着するとともに、携帯型コンピュータ10を背負っている。赤外線タグ6は、訪問者P2の胸部に装着されるとともに、環境側の対象物として展示説明用のコンピュータM1及びロボットM2、展示用のぬいぐるみM3、展示説明用ボードB1等に取り付けられ、それぞれ個別のID番号を送信する。また、展示場の天井又は壁には、固定検出装置7が取り付けられている。
【0085】
上記のように各装置が配置されることにより、例えば、検出装置1により説明員P1の視界に入った訪問者P2等が対象物として識別され、固定検出装置7により説明員P1が対象物として識別されるとともに、説明員P1の周囲の対象物として訪問者P2、ロボットM2等が識別される。このようにして、展示場における人と人とのインタラクション等に関するインタラクションデータを収集することができ、収集したデータから知識ベースとなるインタラクション・コーパスを作成することが可能となる。
【0086】
上記の説明では、インタラクション・コーパスの収集を例に説明したが、本発明が適用可能な用途は、上記の例に特に限定されず、種々の用途に適用することができる。また、一つの対象物に一つの赤外線タグを取り付けたが、一つの対象物に同一のID番号を送信する複数の赤外線タグを設けるようにしてもよい。また、本実施の形態では、撮影した画像を2値化又は4値化したが、多値化の例はこれらの例に特に限定されず、3値化等の他の数を用いてもよい。
【図面の簡単な説明】
【0087】
【図1】本発明の一実施の形態による対象物識別システムの構成を示すブロック図である。
【図2】図1に示す検出装置の外観を示す模式的斜視図である。
【図3】図1に示す画像処理装置の構成を示すブロック図である。
【図4】図1に示す検出装置の赤外線タグ検出処理を説明するためのフローチャートである。
【図5】図1に示すCMOSイメージセンサ及び画像処理装置の他の例の構成を示すブロック図である。
【図6】図5に示すCMOSイメージセンサ及び画像処理装置を用いた赤外線タグ検出処理を説明するためのフローチャートである。
【図7】図1に示す対象物識別システムを用いた展示場におけるインタラクション・コーパスの収集例を説明するための模式図である。
【符号の説明】
【0088】
1 検出装置
2 赤外線検出部
3 画像撮影部
4 赤外線タグ
5 マイク部
6 赤外線タグ
7 固定検出装置
21 反射素子
22 CMOSイメージセンサ
23 画像処理装置
31 レンズ
32 光学素子
33 CCDカメラ
41 LED
42 駆動回路
51 音声処理回路
52 マイクロホン
61 LED
62 駆動回路
71 赤外線フィルタ
72 レンズ
73 CMOSイメージセンサ
74 画像処理装置
81 2値化回路
82 SRAM
83 明度変化検出回路
84 デコード回路
91 4値化回路
92 フレームバッファ
93 SRAM
94 明度変化検出回路
95 デコード回路

【特許請求の範囲】
【請求項1】
対象物に取り付けられた複数の発光装置と、ユーザに装着された検出装置とを備え、
前記発光装置は、
赤外線を発光する発光手段と、
当該発光装置が取り付けられた対象物に対して一意的に割り付けられた識別情報に応じて前記発光手段を点滅させる発光制御手段とを備え、
前記検出装置は、
ユーザの視線方向に略一致させた光軸を有し、前記対象物を含む所定領域の画像を所定間隔で順次撮影する撮影手段と、
前記撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成し、作成した多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出する光点検出手段と、
前記光点検出手段により検出された光点の点滅状態を基に前記発光装置の識別情報を検出する識別情報検出手段とを備えることを特徴とする対象物識別システム。
【請求項2】
前記光点検出手段は、前記撮影手段により撮影された画像を、所定の基準明度値を基に多値化した多値化画像を作成することを特徴とする請求項1記載の対象物識別システム。
【請求項3】
前記光点検出手段は、前記撮影手段により撮影された画像を、当該画像の直前に撮影された画像の輝度値を基に多値化した多値化画像を作成することを特徴とする請求項1記載の対象物識別システム。
【請求項4】
前記光点検出手段は、
前記撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成する多値化回路と、
前記多値化回路により多値化された多値化画像を記憶する記憶回路と、
前記記憶回路に記憶されている多値化画像を参照して各画素の時間的な明暗の変化を基に点滅する光点を検出する変化検出回路とを備え、
前記識別情報検出手段は、前記変化検出回路により検出された光点に対応する多値化値を前記記憶回路から読み出してデコードすることにより前記発光装置の識別情報を検出することを特徴とする請求項1〜3のいずれかに記載の対象物識別システム。
【請求項5】
前記識別情報検出手段は、前記変化検出回路により検出された光点に対応する画素が点滅していない場合、当該画素の周辺に位置する画素の多値化値を前記記憶回路から読み出してデコードすることにより前記発光装置の識別情報を検出することを特徴とする請求項4記載の対象物識別システム。
【請求項6】
前記撮影手段は、
可視光及び赤外光を含む光を可視光と赤外光とに分離する分離手段と、
前記分離手段により分離された赤外光を受光して前記対象物を含む所定の撮影領域の赤外線画像を撮影する赤外線撮影手段と、
前記分離手段により分離された可視光を受光して前記対象物を含む所定の撮影領域の可視光画像を撮影する可視光撮影手段とを備え、
前記光点検出手段は、前記赤外線撮影手段により撮影された赤外線画像を、各画素の明度を基に多値化した多値化画像を作成し、作成した多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出し、
前記検出装置は、ユーザの頭部に装着されることを特徴とする請求項1〜5のいずれかに記載の対象物識別システム。
【請求項7】
前記検出装置は、
赤外線を発光する発光手段と、
当該検出装置を装着するユーザに対して一意的に割り付けられた識別情報に応じて前記発光手段を点滅させる発光制御手段とを備える検出装置用発光装置をさらに備え、
前記検出装置は、ユーザの頭部に装着されることを特徴とする請求項1〜6のいずれかに記載の対象物識別システム。
【請求項8】
ユーザが位置する空間を構成する構造物に固定された固定検出装置をさらに備え、
前記固定検出装置は、
所定方向に設定された光軸を有し、ユーザを含む所定の撮影領域の画像を所定間隔で順次撮影する撮影手段と、
前記撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成し、前記多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出する光点検出手段と、
前記光点検出手段により検出された光点の点滅状態を検出して前記発光装置の識別情報を検出する識別情報検出手段とを備えることを特徴とする請求項7記載の対象物識別システム。
【請求項9】
ユーザに装着され、対象物に取り付けられた発光装置を検出する検出装置であって、
ユーザの視線方向に略一致させた光軸を有し、前記対象物を含む所定領域の画像を所定間隔で順次撮影する撮影手段と、
前記撮影手段により撮影された画像を、各画素の明度を基に多値化した多値化画像を作成し、前記多値化画像の各画素の時間的な明暗の変化を基に点滅する光点を検出する光点検出手段と、
前記光点検出手段により検出された光点の点滅状態を検出して前記発光装置の識別情報を検出する識別情報検出手段とを備えることを特徴とする検出装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2007−43579(P2007−43579A)
【公開日】平成19年2月15日(2007.2.15)
【国際特許分類】
【出願番号】特願2005−227135(P2005−227135)
【出願日】平成17年8月4日(2005.8.4)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成17年度独立行政法人情報通信研究機構、研究テーマ「超高速知能ネットワーク社会に向けた新しいインタラクション・メディアの研究開発」に関する委託研究、産業活力再生特別措置法第30条の適用を受ける特許出願
【出願人】(393031586)株式会社国際電気通信基礎技術研究所 (905)
【Fターム(参考)】