説明

拡張現実感技術を利用した情報家電操作システム

【課題】ネットワークに接続された複数の情報家電の統合的な遠隔操作を簡単かつ的確に行う。
【解決手段】情報家電14にマーカ1が備えられる。情報家電と通信する通信部13と、カメラ2と、A/D変換器3と、フレームメモリ4と、フレームメモリの画像データを出力する画像データ出力部5と、D/A変換器6と、ディスプレイ7と、フレーム毎の画像データを解析し、マーカのID及び位置を検出するマーカ検出部8と、マーカ検出時に、対応する情報家電のステータス情報及び/又はコンテンツ情報を取得する情報取得部10と、マーカ検出時に、フレームメモリの画像データに、対応する情報家電のステータス情報及び又はコンテンツ情報を含む操作インターフェースの画像データを合成する画像合成部9と、操作インターフェースを通じて入力された動作パラメータ値及び/又はコンテンツ選択情報を対応する情報家電に送信する操作部12を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、拡張現実感技術を利用した情報家電操作システム、特に、ホームネットワークに接続された複数の情報家電を、拡張現実感技術を利用して遠隔操作するためのシステムに関するものである。
【背景技術】
【0002】
近年、テレビ、HDD/DVDレコーダ、デジタルビデオカメラ等、ネットワークに接続可能な情報家電が普及しつつある。そして、異なるメーカーの情報家電が互換性を有し、ホームネットワークに相互接続可能な環境を実現し、それによってユーザが快適にデジタル生活を享受できるようにすべく、業界団体であるDLNA(Digital Living Network Alliance)によってガイドラインが定められている(例えば、特許文献1、非特許文献1参照)。
【0003】
DLNAでは、ネットワーク接続される情報家電の種別として、主として次の4種類のデバイスクラスが規定されている。
・DMS(Digital Media Server):コンテンツを保存し、ネットワークに接続しているクライアント(DMRやDMP)にコンテンツを配信してそれらを再生できるようにするサーバーの機能(例:HDDレコーダ等)
・DMR(Digital Media Renderer):DMSから配信されたコンテンツを表示する機能(例:ビデオモニタやオーディオレシーバ等)
・DMC(Digital Media Controller):DMCに保存されているコンテンツを検索し、DMRに配信させる等の制御を行う機能(例:リモコン等)
・DMP(Digital Media Player):DMCとDMRの機能を合わせた機能(例:ホームシアターや家庭用ゲーム機等)
【0004】
こうして、ユーザによる複雑な設定なしに、DLNA対応情報家電を、DLNAガイドラインに準拠したプロトコルに従ってホームネットワークに相互接続し、例えば、図6に示すように、単一のDMCを用いて、ネットワークに接続されたすべてのDLNA対応情報家電(DMS、DMR1〜DMR3)を統合的に遠隔操作することが可能となる。すなわち、図示のシステムにおいては、ネットワーク接続されたDMR(DMR1〜DMR3)のリストがDMCのディスプレイ画面に表示され、また、DMSに保存されたコンテンツのリストがDMCのディスプレイ画面に表示される。そして、ユーザが、DMCによって所望のDMRとコンテンツを選択すると、選択されたコンテンツが選択されたDMRに表示される。
【0005】
しかし、このネットワークに接続されるDLNA対応情報家電はいずれもネットワーク上のアドレスによって識別されているだけであるから、DMCのディスプレイ画面に表示されるDMRのリストには、各DMRの設置場所を識別するためのいかなる情報を含まれていない。このため、ネットワークに接続されるDLNA対応情報家電が増加すると、ユーザは、各情報家電がどの場所に設置されているかを容易に判別できなくなり、その結果、DMCによる操作を意図した情報家電とは異なる情報家電を操作してしまう等の、誤操作が生じやすくなるという問題があった。
【0006】
例えば、図6において、DMR1はベッドルームに、DMR2はダイニングルームに、DMR3はリビングルームに設置されており、ユーザはリビングルームにいるものとすると、この場合、DMCのディスプレイ画面に表示されるDMRのリストには、各DMRの設置場所を識別するための情報が含まれていないので、ユーザは、DMR1〜DMR3のうちのどれを選べばコンテンツを視聴できるのかをDMCのディスプレイ画面上で容易に判断できず、実際はリビングルームにあるDMR3を操作するはずが、ベッドルームにあるDMR1を操作してしまうといった誤操作が生じやすかった。
同様に、複数の操作可能なアンプ・スピーカがある場合に、ユーザがいる部屋で音量を上げたいとき、どのアンプ・スピーカを操作すればよいのかをDMCのディスプレイ画面上で容易に判断できず、別の部屋にあるアンプ・スピーカを操作してしまうといった誤操作が生じやすかった。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008−310451号公報
【非特許文献】
【0008】
【非特許文献1】”DLNA Networked Device Interoperability Guidelines”,expanded: March 2006
【発明の概要】
【発明が解決しようとする課題】
【0009】
したがって、本発明の課題は、ネットワークに接続された複数の情報家電の統合的な遠隔操作を、より簡単かつ的確に行えるようにすることある。
【課題を解決するための手段】
【0010】
上記課題を解決するため、第1発明によれば、ネットワークに接続された複数の情報家電を、拡張現実感技術を利用して遠隔操作するシステムであって、前記情報家電に備えられ、少なくとも前記情報家電のMACアドレスまたはIPアドレスを表示するマーカと、前記ネットワークに接続され、前記情報家電と通信を行う通信部と、操作すべき前記情報家電の前記マーカを含むエリアのビデオ画像を取得するカメラと、前記カメラのビデオ信号をデジタル信号に変換するA/D変換器と、前記A/D変換器から出力される1フレーム毎の画像データを格納するフレームメモリと、前記フレームメモリに新たな1フレームの画像データが格納されるたびに、最先に格納された1フレームの画像データを出力する画像データ出力部と、前記画像データ出力部の出力端子に接続されたD/A変換器と、前記D/A変換器から出力されたビデオ信号に基づいて画像を表示するディスプレイと、前記A/D変換器から出力される1フレーム毎の画像データを解析し、当該画像データ中に含まれる前記マーカのMACアドレスまたはIPアドレスと、当該画像データ中の当該マーカの位置を検出するマーカ検出部と、前記マーカ検出部が前記マーカを検出したとき、当該マーカのMACアドレスまたはIPアドレスに基づき、対応する情報家電のステータス情報またはコンテンツ情報またはその両方を、前記通信部を通じて取得する情報取得部と、前記マーカ検出部が前記マーカを検出したとき、前記フレームメモリに格納された画像データ中の当該マーカの位置に、対応する前記情報家電のステータス情報またはコンテンツ情報またはその両方を含む操作インターフェースの画像データを合成する画像合成部と、前記操作インターフェースを通じて入力された動作パラメータ値またはコンテンツ選択情報またはその両方を、前記通信部を通じて、対応する情報家電に送信する操作部と、を備えたことを特徴とするシステムが提供される。
【0011】
第1発明の好ましい実施例によれば、前記マーカが、少なくとも1個の光源と、前記光源を点滅させる光源駆動部と、からなり、前記光源の点滅パターンによって、前記MACアドレスまたは前記IPアドレスが表示され、また、別の好ましい実施例によれば、前記光源は、LEDからなっている。
【0012】
第1発明のさらに別の好ましい実施例によれば、前記マーカは互いに異なる発光色の複数個の光源を有し、前記MACアドレスまたは前記IPアドレスは前記光源の個数に応じて複数の部分に分割され、前記光源の色毎に、その点滅パターンによって前記MACアドレスまたは前記IPアドレスの異なる部分が表示され、前記マーカ検出部は、前記光源がそれぞれ表示する前記MACアドレスまたは前記IPアドレスの部分を検出し、検出した前記MACアドレスまたは前記IPアドレスの部分をそれぞれ所定の順序で組み合わせたものを前記MACアドレスまたは前記IPアドレスとして検出する。
【0013】
第1発明のさらに別の好ましい実施例によれば、前記マーカは互いに異なる発光色の3個の光源を有し、前記3個の光源はそれぞれ三角形の頂点に位置する配置で前記情報家電に備えられ、前記マーカ検出部は、前記情報家電上の前記3個の光源の相対位置に関する参照情報を予め格納した参照位置情報格納部を有し、前記マーカ検出部は、前記画像データ中の前記3個の光源の相対位置を検出し、検出した相対位置の情報を前記参照位置情報格納部から読み出した前記参照情報と比較することにより、前記カメラから前記情報家電までの距離、および前記カメラに対する前記情報家電の向きを検出し、前記画像合成部は、前記操作インターフェースの画像データを、前記情報家電までの距離および前記情報家電の向きに応じてデータ変換した後、前記フレームメモリに格納された画像データに合成する。
【0014】
第1発明のさらに別の好ましい実施例によれば、前記通信部、前記カメラ、前記A/D変換器、前記フレームメモリ、前記画像データ出力部、前記D/A変換器、前記ディスプレイ、前記マーカ検出部、前記情報取得部、前記画像合成部、および前記操作部が、携帯可能な単体のケーシングに組み込まれている。
【0015】
上記課題を解決するため、第2発明によれば、ネットワークに接続された複数の情報家電を、拡張現実感技術を利用して遠隔操作するシステムであって、前記情報家電に備えられ、少なくとも前記情報家電のIDを表示するマーカと、前記ネットワークに接続され、前記情報家電と通信を行う通信部と、操作すべき前記情報家電の前記マーカを含むエリアのビデオ画像を取得するカメラと、前記カメラのビデオ信号をデジタル信号に変換するA/D変換器と、前記A/D変換器から出力される1フレーム毎の画像データを格納するフレームメモリと、前記フレームメモリに新たな1フレームの画像データが格納されるたびに、最先に格納された1フレームの画像データを出力する画像データ出力部と、前記画像データ出力部の出力端子に接続されたD/A変換器と、前記D/A変換器から出力されたビデオ信号に基づいて画像を表示するディスプレイと、前記A/D変換器から出力される1フレーム毎の画像データを解析し、当該画像データ中に含まれる前記マーカのID、および当該画像データ中の当該マーカの位置を検出するマーカ検出部と、前記IDと前記情報家電のネットワーク上のアドレスとの対応関係を記録したテーブルと、前記マーカ検出部が前記マーカを検出したとき、前記テーブルを参照して当該マーカのIDに対応する情報家電を特定し、当該情報家電のステータス情報またはコンテンツ情報またはその両方を、前記通信部を通じて取得する情報取得部と、前記マーカ検出部が前記マーカを検出したとき、前記フレームメモリに格納された画像データ中の当該マーカの位置に、対応する前記情報家電のステータス情報またはコンテンツ情報またはその両方を含む操作インターフェースの画像データを合成する画像合成部と、前記操作インターフェースを通じて入力された動作パラメータ値またはコンテンツ選択情報またはその両方を、前記通信部を通じて、対応する情報家電に送信する操作部と、を備えたことを特徴とするシステムが提供される。
【0016】
第2発明の好ましい実施例によれば、前記マーカが、少なくとも1個の光源と、前記光源を点滅させる光源駆動部と、からなり、前記IDが、前記光源の点滅パターンによって決定され、また、別の好ましい実施例によれば、前記光源は、LEDからなっている。
【0017】
第2発明のさらに別の好ましい実施例によれば、前記マーカは互いに異なる発光色の複数個の光源を有し、前記IDは前記光源の個数に応じて複数の部分に分割され、前記光源の色毎に、その点滅パターンによって前記IDの異なる部分が表示され、前記マーカ検出部は、前記光源がそれぞれ表示する前記IDの部分を検出し、検出した前記IDをそれぞれ所定の順序で組み合わせたものを前記IDとして検出する。
【0018】
第2発明のさらに別の好ましい実施例によれば、前記マーカは互いに異なる発光色の3個の光源を有し、前記3個の光源はそれぞれ三角形の頂点に位置する配置で前記情報家電に備えられ、前記マーカ検出部は、前記情報家電上の前記3個の光源の相対位置に関する参照情報を予め格納した参照位置情報格納部を有し、前記マーカ検出部は、前記画像データ中の前記3個の光源の相対位置を検出し、検出した相対位置の情報を前記参照位置情報格納部から読み出した前記参照情報と比較することにより、前記カメラから前記情報家電までの距離、および前記カメラに対する前記情報家電の向きを検出し、前記画像合成部は、前記操作インターフェースの画像データを、前記情報家電までの距離および前記情報家電の向きに応じてデータ変換した後、前記フレームメモリに格納された画像データに合成する。
【0019】
第2発明のさらに別の好ましい実施例によれば、前記通信部、前記カメラ、前記A/D変換器、前記フレームメモリ、前記画像データ出力部、前記D/A変換器、前記ディスプレイ、前記マーカ検出部、前記テーブル、前記情報取得部、前記画像合成部、および前記操作部が、携帯可能な単体のケーシングに組み込まれている。
【0020】
第1および第2発明のさらに別の好ましい実施例によれば、前記ネットワークが、DLNA(Digital Living Network Alliance)ガイドラインに準拠したネットワークからなっている。
【発明の効果】
【0021】
本発明によれば、拡張現実感技術を利用することにより、操作すべき情報家電をカメラで撮影し、撮影したビデオ画像をディスプレイ表示するとともに、当該情報家電が有するマーカを検出し、ビデオ画像中の情報家電の位置に、当該情報家電のステータス情報やコンテンツ情報を操作インターフェースと一緒に合成表示するようにした。したがって、ユーザは、操作すべき情報家電をカメラで撮影し、ディスプレイに表示することで、実際に操作すべき情報家電を目で確認しながら、非常に簡単に遠隔操作することができるので、誤って別の場所にある情報家電を操作してしまうことがない。
【図面の簡単な説明】
【0022】
【図1】本発明の1実施例による拡張現実感技術を利用した情報家電操作システムの構成を示すブロック図である。
【図2】LEDの点滅パターンの1例を示す図である。
【図3】携帯可能なリモコンの形態の実施例を示す図である。
【図4】本発明のシステムのディスプレイに表示されたビデオ画像の1例を示す写真である。
【図5】本発明のシステムのディスプレイに表示されたビデオ画像の1例を示す写真である。
【図6】DLNA対応情報家電を相互接続したホームネットワークの1例を示す図である。
【発明を実施するための形態】
【0023】
以下、添付図面を参照して本発明の好ましい実施例を説明する。図1は、本発明の1実施例による拡張現実感技術を利用した情報家電操作システムの構成を示すブロック図である。図1を参照して、本発明によれば、ネットワーク15に相互接続された複数の情報家電14のそれぞれに、少なくとも情報家電14のIDを表示するマーカ1が備えられる。
ネットワーク15は、この実施例では、DLNA(Digital Living Network Alliance)ガイドラインに準拠したネットワークからなっているが、それとは異なるネットワークであってもよい。
【0024】
情報家電14のIDは、各情報家電14を識別可能であれば、どのような構成であってもよく、例えば、互いに異なる数字や文字や記号、あるいは、情報家電14のMACアドレスまたは当該MACアドレスの一部、またはIPアドレスまたは当該IPアドレスの一部から構成することができる。
【0025】
マーカ1は、この実施例では、単一の光源1aと、光源1aを点滅させる光源駆動部1bとからなり、光源1aの点滅パターンによって情報家電14のIDが表示されるようになっている。この場合、光源1aは、LEDからなっていることが好ましい。
このように、マーカ1を、点滅するLED等の光源1aから構成することで、暗闇でもマーカ1の検出をすることができ、また、各情報家電14に大きなマーカを付着する必要がなく、美観も向上する。
【0026】
光源1aの点滅は、プリアンブル情報を示す点滅に続いて、IDを表示するパターンで点滅させることによってなされる。例えば、図2に示すように、光源1aの点灯を「1」、消灯を「0」として、1と0を所定回数繰り返した後に最後に「1」を2回送る点滅パターンP1でプリアンブル情報が発信され、プリアンブル情報が送信に続いて、IDを表示する点滅パターンP2でID情報が発信される。
【0027】
光源1aの点滅の時間間隔は、後述のカメラ2によって取得されるビデオ画像のビットレートとの関係で最適になるように決定される。すなわち、今、ビデオ画像のビットレートを30fpsとすると、光源1aの点滅の時間間隔は、少なくとも1/30s以上の長さになるように決定される。例えば、この実施例では、カメラ撮影時のフレームレート(ビデオ画像のビットレート)が1/30sとなり、光源1aが1/15s間隔で点滅するよう設定され、それによって、2フレームに1回の割合で光源1aの点滅状態が検出される。この場合、奇数フレームまたは偶数フレームのどちらを検出対象とするかが、プリアンブル情報を表示する点滅状態が明確に検出される方のフレームがどちらであるかによって決定される。
【0028】
本発明によれば、ネットワーク15に接続され、情報家電14と通信を行う通信部13が備えられる。通信部13は、ネットワーク15に無線接続されることが好ましい。本発明によれば、また、操作すべき情報家電14のマーカ1を含むエリアのビデオ画像を取得するカメラ2と、カメラ2のビデオ信号をデジタル信号に変換するA/D変換器3と、A/D変換器3から出力される1フレーム毎の画像データを格納するフレームメモリ4と、フレームメモリ4に新たな1フレームの画像データが格納されるたびに、最先に格納された1フレームの画像データを出力する画像出力部5と、画像出力部5の出力端子に接続されたD/A変換器6と、D/A変換器6から出力されたビデオ信号に基づいて画像を表示するディスプレイ7が備えられる。
【0029】
さらに、本発明によれば、A/D変換器3から出力される1フレーム毎の画像データを解析し、当該画像データ中にマーカ1を検出したとき、当該マーカ1のIDおよび当該画像データ中の当該マーカ1の位置を検出するマーカ検出部8が備えられる。
【0030】
マーカ検出部8による画像データの解析は、次のようにしてなされる。まず、1フレーム毎の画像データがモノクロ化された後に比較され、公知の画像認識技術における特徴点抽出アルゴリズムを用いて、それらの画像データ中の変化点が抽出される。この場合、ビデオ画像の撮影中にカメラが移動する場合があるので、画像データ中の予め決定された特徴的な部分が検出され、それらの特徴的な部分が重ね合わされることによって、光源1aの点滅の変化点が検出される。そして、マーカ1の候補となる画像データ中の複数の検出された変化点がプリアンブル情報に一致したとき、それらの変化点がマーカとして認識され、それに続くIDの点滅パターンが検出される。
【0031】
本発明によれば、また、IDと情報家電14のネットワーク上のアドレスとの対応関係を記録したテーブル11と、マーカ検出部8がマーカ1を検出したとき、テーブル11を参照して、当該マーカ1のIDに対応する情報家電14を特定し、当該情報家電14のステータス情報またはコンテンツ情報またはその両方を、通信部13を通じて取得する情報取得部10と、マーカ検出部8がマーカ1を検出したとき、フレームメモリ4に格納された画像データ中の当該マーカの位置に、対応する情報家電14のステータス情報またはコンテンツ情報またはその両方を含む操作インターフェース(図3の16参照)の画像データを合成する画像合成部9が備えられる。
この場合、情報家電14のIDが、MACアドレスまたはIPアドレスからなっている場合には、テーブル11は不要でり、情報取得部10は、マーカ検出部8によって検出された当該マーカのMACアドレスまたはIPアドレスに基づき、対応する情報家電のステータス情報またはコンテンツ情報またはその両方を、通信部13を通じて取得する。
【0032】
また、情報家電14のステータス情報は、情報家電14の動作状態を示す情報であり、例えば、情報家電14の現在の動作モードや、情報家電14の音量レベルおよび音質レベル等が含まれる。また、コンテンツ情報には、情報家電14に保存された動画や楽曲等のタイトルや再生時間等が含まれる。
【0033】
さらに、本発明によれば、操作インターフェースを通じて入力された動作パラメータ値またはコンテンツ選択情報またはその両方を、通信部13を通じて、対応する情報家電14に送信する操作部12が備えられる。操作部12は、押しボタンまたはジョイスティックまたはディスプレイ7に組み込まれたタッチパネルまたはそれらの2以上の組合せを含んでいる。
【0034】
この実施例では、情報家電14に備えられるマーカ1を除く全ての構成要素が、図3に示すように、携帯可能な単体のケーシング17に組み込まれ、1つのリモコンを形成する。それによって、家庭内で必要とする部屋まで手軽に持ち運び、使用することができる。
また、マーカ1を除く全ての構成要素を、市販の携帯電話機やPDAに組み込むこともできる。
【0035】
こうして、ユーザは、操作すべき情報家電14をカメラ2で撮影する。このとき、当該情報家電14に備えられたLEDが必ず撮影されるようにする。このとき、情報家電14のLEDは、繰り返し点滅し、プリアンブル情報とIDを継続的に発信している。
カメラのビデオ信号は、A/D変換器3によってデジタル信号に変換され、A/D変換器3から出力される1フレーム毎の画像データがフレームメモリ4に格納される。新たな1フレームの画像データがフレームメモリ4に格納される毎に、画像データ出力部5によって最先に格納された1フレームの画像データがD/A変換器6に出力され、D/A変換器6から出力されたビデオ信号に基づいて、撮影されたビデオ画像がディスプレイ7に表示される。
【0036】
また、A/D変換器3から出力される1フレーム毎の画像データがマーカ検出部8によって解析され、情報家電14のマーカ(光源1aの点滅パターン)が検出され、マーカのIDと画像データ中の位置が検出される。このとき、情報取得部10によって、当該IDに対応する情報家電(操作すべき情報家電)14のステータス情報および/またはコンテンツ情報が、通信部13を通じて取得される。そして、画像合成部9によって、フレームメモリ4に格納された画像データ中の当該LEDの位置に、操作すべき情報家電14のステータス情報および/またはコンテンツ情報を含む操作インターフェースの画像データが合成される。その結果、ディスプレイ7画面上のビデオ画像に操作インターフェースが合成表示される。
【0037】
そして、ユーザは、ディスプレイ7に表示された操作インターフェースを通じ、操作部12によって、操作すべき情報家電14の動作パラメータおよび/またはコンテンツ選択情報を入力する。入力された動作パラメータおよび/またはコンテンツ選択情報は、通信部13を通じて操作すべき情報家電14に送信され、操作が完了する。
本発明によれば、ユーザは、操作すべき情報家電14をカメラ2で撮影し、ディスプレイ7に表示することで、実際に操作すべき情報家電を目で確認しながら、非常に簡単に遠隔操作することができるので、誤って別の場所にある情報家電14を操作してしまうことがない。
【0038】
以上、本発明の1実施例について説明したが、本発明の構成は上述の実施例に限定されず、特許請求の範囲の記載範囲内で種々の変形例を創作することができる。
例えば、別の好ましい実施例によれば、マーカ1が互いに異なる発光色の複数個の光源1aから構成され、情報家電14のIDが光源1aの個数に応じて複数の部分に分割されるとともに、光源1aの色毎に、その点滅パターンによってIDの異なる部分が表示される。そして、マーカ検出部8は、光源1aがそれぞれ表示するIDの部分を検出し、検出したIDをそれぞれ所定の順序で組み合わせたものをIDとして検出する。この場合、マーカ検出部8は、画像データを、RGBのチャンネル毎に、上記実施例で単一光源の場合に適用したのと同様の手法で画像解析することによって、各光源1aの色、画像データ中の各光源1aの位置、および各光源1aのIDを検出する。
【0039】
この実施例によれば、1つのIDを複数個に分割し、それぞれを同時並行で発信することができ、それによって、IDの送信時間を短縮することができ(例えば、光源1aが3個であれば、送信時間は1/3に短縮される)、カメラ2による撮影の開始からディスプレイ7上への操作インターフェースの表示までの時間が短縮される。この実施例は、IDとしてMACアドレス(48ビット)またはIPアドレス(32ビット)を用いる場合に好適である。
【0040】
また、別の好ましい実施例によれば、マーカ1が互いに異なる発光色の3個の光源1aから構成され、それらの光源1aはそれぞれ三角形の頂点に位置する配置で情報家電14に備えられる。そして、マーカ検出部8は、情報家電14上の3個の光源1aの相対位置に関する参照情報を予め格納した参照位置情報格納部を有する。さらに、マーカ検出部8は、画像データ中の3個の光源1aの相対位置を検出し、検出した相対位置の情報を参照位置情報格納部から読み出した参照情報と比較することにより、カメラ2から情報家電14までの距離、およびカメラ2に対する情報家電14の向きを検出する。
【0041】
この場合、マーカ検出部8は、画像データを、RGBのチャンネル毎に、上記実施例で単一光源の場合に適用したのと同様の手法で画像解析することによって、各光源1aの色、画像データ中の各光源1aの位置、および各光源1aのIDを検出し、さらに、各光源1aの相対位置(光源間の距離)を検出する。そして、情報家電14上における各光源1aの光源間距離(参照情報)と、撮影画像中の各光源1aの光源間距離(検出した相対位置の情報)との比較に基づき、カメラ2から情報家電14までの距離、およびカメラ2に対する情報家電14の向きが検出される。
そして、画像合成部9は、操作インターフェースの画像データを、情報家電14までの距離および情報家電14の向きに応じてデータ変換した後、フレームメモリに格納された画像データに合成する。
【0042】
この実施例によれば、操作インターフェースを、カメラ撮影された情報家電の映像によりマッチした態様でディスプレイ表示することができ(情報家電が正面を向かず、斜め向きの場合には、それに対応する向きに操作インターフェースも表示され、近くの情報家電の操作インターフェースは遠くの操作インターフェースよりも大きく表示される等。)、それによって、ディスプレイ7を見ながらのより現実感を伴った操作が可能となり、操作性が向上する。
【0043】
また、マーカ1を光源1aから構成する代わりに、マーカ1として、例えば、拡張現実感技術において一般に使用されるARToolKit等のマーカを用いてもよい。
【0044】
[実施例]
次に、本発明の効果を確認すべく、実証実験を行った。実験では、DMSとしてDLNA対応HDDレコーダを、また、DMRとして2個のDLNA対応スピーカをそれぞれ使用し、これらをネットワークに相互接続し、2個のDMRをDMSの左右に設置した。そして、DMSおよび2個のDMRのそれぞれに、IDを表示する二次元のマーカを付けた。
また、マーカ以外の本発明の全ての構成要素を備えたPDAをDMCとして使用し、ネットワークに無線接続できるようにした。
【0045】
そして、DMCのカメラを作動させ、DMS並びにそれに付着したマーカM1を撮影し、DMCのディスプレイにビデオ画像I1を表示した(図4A参照)。すると、次の瞬間には、DMCのディスプレイ画面上のDMSのマーカM1の位置に、DMSに保存されたコンテンツのリストG1が合成表示された(図4B参照)。
【0046】
次に、DMCのカメラによって、右側のDMR並びにそれに付着したマーカM2を撮影すると、DMCのディスプレイに表示されたビデオ画像I2の当該DMRのマーカM2の位置に、現在の音量レベルの表示を含む、音量レベルの変更のための操作インターフェースを含む画像G2が合成表示された(図5参照)。そして、この操作インターフェースを通じて実際に右側のDMRの音量レベルを変更することができた。左側のDMRについても、同様にして、音量レベルを変更することができた。
【符号の説明】
【0047】
1 マーカ
1a 光源
1b 光源駆動部
2 カメラ
3 A/D変換器
4 フレームメモリ
5 画像データ出力部
6 D/A変換器
7 ディスプレイ
8 マーカ検出部
9 画像合成部
10 情報取得部
11 テーブル
12 操作部
13 通信部
14 情報家電
15 ネットワーク
16 操作インターフェース
17 ケーシング

【特許請求の範囲】
【請求項1】
ネットワークに接続された複数の情報家電を、拡張現実感技術を利用して遠隔操作するシステムであって、
前記情報家電に備えられ、少なくとも前記情報家電のMACアドレスまたはIPアドレスを表示するマーカと、
前記ネットワークに接続され、前記情報家電と通信を行う通信部と、
操作すべき前記情報家電の前記マーカを含むエリアのビデオ画像を取得するカメラと、
前記カメラのビデオ信号をデジタル信号に変換するA/D変換器と、
前記A/D変換器から出力される1フレーム毎の画像データを格納するフレームメモリと、
前記フレームメモリに新たな1フレームの画像データが格納されるたびに、最先に格納された1フレームの画像データを出力する画像データ出力部と、
前記画像データ出力部の出力端子に接続されたD/A変換器と、
前記D/A変換器から出力されたビデオ信号に基づいて画像を表示するディスプレイと、
前記A/D変換器から出力される1フレーム毎の画像データを解析し、当該画像データ中に含まれる前記マーカのMACアドレスまたはIPアドレスと、当該画像データ中の当該マーカの位置を検出するマーカ検出部と、
前記マーカ検出部が前記マーカを検出したとき、当該マーカのMACアドレスまたはIPアドレスに基づき、対応する情報家電のステータス情報またはコンテンツ情報またはその両方を、前記通信部を通じて取得する情報取得部と、
前記マーカ検出部が前記マーカを検出したとき、前記フレームメモリに格納された画像データ中の当該マーカの位置に、対応する前記情報家電のステータス情報またはコンテンツ情報またはその両方を含む操作インターフェースの画像データを合成する画像合成部と、
前記操作インターフェースを通じて入力された動作パラメータ値またはコンテンツ選択情報またはその両方を、前記通信部を通じて、対応する情報家電に送信する操作部と、を備えたことを特徴とするシステム。
【請求項2】
前記マーカが、
少なくとも1個の光源と、
前記光源を点滅させる光源駆動部と、からなり、
前記光源の点滅パターンによって、前記MACアドレスまたは前記IPアドレスが表示されることを特徴とする請求項1に記載のシステム。
【請求項3】
前記光源は、LEDからなっていることを特徴とする請求項2に記載のシステム。
【請求項4】
前記マーカは互いに異なる発光色の複数個の光源を有し、前記MACアドレスまたは前記IPアドレスは前記光源の個数に応じて複数の部分に分割され、前記光源の色毎に、その点滅パターンによって前記MACアドレスまたは前記IPアドレスの異なる部分が表示され、前記マーカ検出部は、前記光源がそれぞれ表示する前記MACアドレスまたは前記IPアドレスの部分を検出し、検出した前記MACアドレスまたは前記IPアドレスの部分をそれぞれ所定の順序で組み合わせたものを前記MACアドレスまたは前記IPアドレスとして検出することを特徴とする請求項1〜請求項3のいずれかに記載のシステム。
【請求項5】
前記マーカは互いに異なる発光色の3個の光源を有し、前記3個の光源はそれぞれ三角形の頂点に位置する配置で前記情報家電に備えられ、前記マーカ検出部は、前記情報家電上の前記3個の光源の相対位置に関する参照情報を予め格納した参照位置情報格納部を有し、前記マーカ検出部は、前記画像データ中の前記3個の光源の相対位置を検出し、検出した相対位置の情報を前記参照位置情報格納部から読み出した前記参照情報と比較することにより、前記カメラから前記情報家電までの距離、および前記カメラに対する前記情報家電の向きを検出し、前記画像合成部は、前記操作インターフェースの画像データを、前記情報家電までの距離および前記情報家電の向きに応じてデータ変換した後、前記フレームメモリに格納された画像データに合成することを特徴とする請求項1〜請求項4のいずれかに記載のシステム。
【請求項6】
前記通信部、前記カメラ、前記A/D変換器、前記フレームメモリ、前記画像データ出力部、前記D/A変換器、前記ディスプレイ、前記マーカ検出部、前記情報取得部、前記画像合成部、および前記操作部が、携帯可能な単体のケーシングに組み込まれていることを特徴とする請求項1〜請求項5のいずれかに記載のシステム。
【請求項7】
ネットワークに接続された複数の情報家電を、拡張現実感技術を利用して遠隔操作するシステムであって、
前記情報家電に備えられ、少なくとも前記情報家電のIDを表示するマーカと、
前記ネットワークに接続され、前記情報家電と通信を行う通信部と、
操作すべき前記情報家電の前記マーカを含むエリアのビデオ画像を取得するカメラと、
前記カメラのビデオ信号をデジタル信号に変換するA/D変換器と、
前記A/D変換器から出力される1フレーム毎の画像データを格納するフレームメモリと、
前記フレームメモリに新たな1フレームの画像データが格納されるたびに、最先に格納された1フレームの画像データを出力する画像データ出力部と、
前記画像データ出力部の出力端子に接続されたD/A変換器と、
前記D/A変換器から出力されたビデオ信号に基づいて画像を表示するディスプレイと、
前記A/D変換器から出力される1フレーム毎の画像データを解析し、当該画像データ中に含まれる前記マーカのID、および当該画像データ中の当該マーカの位置を検出するマーカ検出部と、
前記IDと前記情報家電のネットワーク上のアドレスとの対応関係を記録したテーブルと、
前記マーカ検出部が前記マーカを検出したとき、前記テーブルを参照して当該マーカのIDに対応する情報家電を特定し、当該情報家電のステータス情報またはコンテンツ情報またはその両方を、前記通信部を通じて取得する情報取得部と、
前記マーカ検出部が前記マーカを検出したとき、前記フレームメモリに格納された画像データ中の当該マーカの位置に、対応する前記情報家電のステータス情報またはコンテンツ情報またはその両方を含む操作インターフェースの画像データを合成する画像合成部と、
前記操作インターフェースを通じて入力された動作パラメータ値またはコンテンツ選択情報またはその両方を、前記通信部を通じて、対応する情報家電に送信する操作部と、を備えたことを特徴とするシステム。
【請求項8】
前記マーカが、
少なくとも1個の光源と、
前記光源を点滅させる光源駆動部と、からなり、
前記IDが、前記光源の点滅パターンによって決定されることを特徴とする請求項7に記載のシステム。
【請求項9】
前記光源は、LEDからなっていることを特徴とする請求項8に記載のシステム。
【請求項10】
前記マーカは互いに異なる発光色の複数個の光源を有し、前記IDは前記光源の個数に応じて複数の部分に分割され、前記光源の色毎に、その点滅パターンによって前記IDの異なる部分が表示され、前記マーカ検出部は、前記光源がそれぞれ表示する前記IDの部分を検出し、検出した前記IDをそれぞれ所定の順序で組み合わせたものを前記IDとして検出することを特徴とする請求項8または請求項9に記載のシステム。
【請求項11】
前記マーカは互いに異なる発光色の3個の光源を有し、前記3個の光源はそれぞれ三角形の頂点に位置する配置で前記情報家電に備えられ、前記マーカ検出部は、前記情報家電上の前記3個の光源の相対位置に関する参照情報を予め格納した参照位置情報格納部を有し、前記マーカ検出部は、前記画像データ中の前記3個の光源の相対位置を検出し、検出した相対位置の情報を前記参照位置情報格納部から読み出した前記参照情報と比較することにより、前記カメラから前記情報家電までの距離、および前記カメラに対する前記情報家電の向きを検出し、前記画像合成部は、前記操作インターフェースの画像データを、前記情報家電までの距離および前記情報家電の向きに応じてデータ変換した後、前記フレームメモリに格納された画像データに合成することを特徴とする請求項8〜請求項10のいずれかに記載のシステム。
【請求項12】
前記通信部、前記カメラ、前記A/D変換器、前記フレームメモリ、前記画像データ出力部、前記D/A変換器、前記ディスプレイ、前記マーカ検出部、前記テーブル、前記情報取得部、前記画像合成部、および前記操作部が、携帯可能な単体のケーシングに組み込まれていることを特徴とする請求項7〜請求項11のいずれかに記載のシステム。
【請求項13】
前記ネットワークが、DLNA(Digital Living Network Alliance)ガイドラインに準拠したネットワークからなっていることを特徴とする請求項1〜請求項12のいずれかに記載のシステム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図6】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2012−37919(P2012−37919A)
【公開日】平成24年2月23日(2012.2.23)
【国際特許分類】
【出願番号】特願2010−174383(P2010−174383)
【出願日】平成22年8月3日(2010.8.3)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り (発表1)2010年6月30日に下記アドレスを通じて発表 https://www.ipsj.or.jp/09sig/kaikoku/2010/DICOMO2010.html http://www.dicomo.org/2010/ http://www2.infonets.hiroshima−u.ac.jp/dicomo/program/index_abst.html http://www2.infonets.hiroshima−u.ac.jp/dicomo/program/2C_abst.html (発表2)2010年6月30日 社団法人情報処理学会発行の「マルチメディア,分散,協調とモバイル(DICOMO2010)シンポジウム アブストラクト集」に発表 (発表3)2010年6月30日 社団法人情報処理学会発行の「マルチメディア,分散,協調とモバイル(DICOMO2010)シンポジウム論文集」に発表
【出願人】(503027931)学校法人同志社 (346)
【Fターム(参考)】