情報端末装置
【課題】小型化されたパッド部を用いて情報端末装置の表示部に表示される情報を制御できる、信頼性の高い情報端末装置を提供する。
【解決手段】情報端末装置10は、表示部5に表示する情報を記憶するメモリ6と、撮影対象を保持するパッド部2と、パッド部2の撮影対象を撮影する撮像部1と、撮像部1によって撮影された画像に基づいて、前記撮影対象の空間的位置関係の変化を推定する推定部3と、メモリ6から読み出して表示部5に表示する情報を、推定部3により推定された前記空間位置関係の変化に応じて制御する制御部4とを具備している。パッド部2により保持される撮影対象は、その表面に模様が描かれた回動体、例えば球体、半球体、または円柱などで形成されている。
【解決手段】情報端末装置10は、表示部5に表示する情報を記憶するメモリ6と、撮影対象を保持するパッド部2と、パッド部2の撮影対象を撮影する撮像部1と、撮像部1によって撮影された画像に基づいて、前記撮影対象の空間的位置関係の変化を推定する推定部3と、メモリ6から読み出して表示部5に表示する情報を、推定部3により推定された前記空間位置関係の変化に応じて制御する制御部4とを具備している。パッド部2により保持される撮影対象は、その表面に模様が描かれた回動体、例えば球体、半球体、または円柱などで形成されている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は表示部に情報を提示する情報端末装置に関し、特に、カメラと指の空間的位置関係の変化によって表示部に表示される情報を制御できる情報端末装置に関するものである。
【背景技術】
【0002】
携帯電話機などの携帯型情報端末装置において、電子機器回路の集積化に伴って小型・軽量化が進んでいるため、キーパッドの面積を十分に確保できないまま細かな操作を強いられている。一方で処理性能の向上および記録容量の増大に伴い、情報端末装置が扱えるサービスやメニュー、アプリケーションの操作は複雑化の一途を辿っている。
【0003】
上記のような状況下においては、情報端末装置のキーパッドに代わるインタフェースが必要になっている。前記キーパッドに代わるインタフェースを用いて、上記の操作を簡単にする方法としては、以下のような方法が公開されている。
【0004】
特許文献1には、カメラで検出した指領域をタッチパネルに重畳して誤操作を軽減する手法が提案されている。
【0005】
特許文献2には、手形状データベースに格納される手形状と入力画像を比較し、少数のジェスチャを用いて多くの機能を実行する手法が提案されている。
【0006】
また、特許文献3には、ユーザの顔の部分領域画像をテンプレート画像として登録し、一致する領域を実時間で抽出することでマウスカーソルの座標を制御する手法が提案されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008−234594号公報
【特許文献2】特開2008−146243号公報
【特許文献3】特開2007−310914号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、前記した先行技術には、次のような問題がある。
【0009】
特許文献1では、指はそのサイズや形状がマウスポインタよりもかなり大きいため、タッチパネルに対して指そのものはマウスポイントほど正確にはなり得ない。また、タッチパネルの搭載は端末装置のコスト上昇を招く。さらに、既存の端末装置では利用できないという問題がある。
【0010】
特許文献2では、空中で手をひらひらさせるため、ジェスチャでの操作時に触覚的なフィードバックを得られないという問題がある。
【0011】
特許文献3では、首を回した場合にテンプレートと入力画像が一致しなくなるため、テンプレートの逐次更新が必要となり処理負荷が大きくなる可能性がある。
【0012】
さらに、特許文献1、2および3では、それぞれ指、手、顔の検出が必要であるため、光源の色調によっては肌色が正しく検出できないことがあり、認識が困難になる場合がある。
【0013】
以上のように、前記先行技術は、いずれも正確な操作が難しく、情報端末装置の信頼性が低いという問題があった。
【0014】
本発明は上記実情に鑑みて提案されたもので、その目的は、情報端末装置に対する撮影対象の空間的な動作によって、情報端末装置の表示部に表示される情報を制御できる、信頼性の高い情報端末装置を提供することにある。また、他の目的は、小型化されたパッド部を有する情報端末装置を提供することにある。
【課題を解決するための手段】
【0015】
上記した目的を達成するために、本発明は、情報を表示する表示部を有する情報端末装置であって、前記表示部に表示する情報を記憶するメモリと、撮影対象を保持するパッド部と、前記パッド部の撮影対象を撮影する撮像部と、前記撮像部によって撮影された画像に基づいて、前記撮影対象の空間的位置関係の変化を推定する推定部と、前記メモリから読み出して前記表示部に表示する情報を、前記推定部により推定された前記空間位置関係の変化に応じて制御する制御部とを具備し、前記パッド部により保持される撮影対象が、その表面に模様が描かれた回動体である点に第1の特徴がある。
【0016】
また、前記回動体は、球体、半球体または円柱状である点に第2の特徴がある。
また、前記模様は、異なる色の組合せ模様または異なる面積の組合せ模様である点に第3の特徴がある。
【0017】
さらに、前記パッド部は、弾性体の上に前記撮影対象を保持する点に第4の特徴がある。
【発明の効果】
【0018】
本発明によれば、撮影対象である回動体が回動することによる撮像部と撮影対象表面の模様との間の空間的位置関係の変化により、情報端末装置の入力画像から空間的な相対的位置関係を推定し、表示部で表示される情報又は情報画面におけるカーソルの位置を、推定部により推定された空間位置関係の変化に応じて制御するので、利用者は撮影対象を回動するという直観的な操作で、表示される情報を制御できる。
【0019】
したがって、情報端末装置の利用者は、撮影対象の動きに対応づけられた表示部でのカーソル位置の移動を直感的に行うことが可能となり、信頼性の高い情報端末装置を提供することができるようになる。
【0020】
また、前記撮影対象として、球体、半球体または円柱状の回動体を用いることにより、パッド部の高さを低くでき、小型化することができる。
【0021】
また、情報端末装置の表示部で表示される情報の制御は、撮像部に入力された画像を解析することにより推定される撮像部と撮影対象との間の空間的位置関係の変化を基に行うのでソフトウェアで可能であり、ジャイロや加速度センサなどの特別なハードウェアを情報端末に組み込む必要がない。
【図面の簡単な説明】
【0022】
【図1】本発明の一実施形態の概略の構成を示すブロック図である。
【図2】本発明を携帯電話機に応用した場合の概略の構成を示す概念図である。
【図3】パッド部の一実施例を示す斜視図と断面図である。
【図4】パッド部の他の実施例を示す斜視図である。
【図5】撮像部に装着されたパッド部の一例を示す図である。
【図6】撮像部に装着されたパッド部の他の例を示す図である。
【図7】指で操作されるパッド部を示す図である。
【図8】図1の推定部の具体的構成を示すブロック図である。
【図9】撮像部で撮影された撮影対象の初期画像と入力画像の説明図である。
【図10】推定部の機能を示すフローチャートである。
【図11】利用者がパッド部の撮影対象を任意方向に回動した場合の、表示部の画像の概念図である。
【発明を実施するための形態】
【0023】
以下に、本発明を図面を参照して詳細に説明する。図1は、本発明の情報端末装置の第1の実施形態を示す機能ブロック図である。また、図2は情報端末装置として携帯電話機を想定した場合の外観図であり、図2(a)は正面図、(b)は側面図である。また、図2(b)の左側は表面、右側は裏面である。
【0024】
情報端末装置10は、図1、図2に示すように、画像を取り込む撮像部1と、撮影対象を保持する着脱自在のパッド部2と、撮像部からの画像信号により撮影対象の動きを推定する推定部3と、文字情報や地図情報等の情報を表示するための表示部5と、表示部5に表示させるための情報を記録するメモリ6と、推定部3およびメモリ6からの信号を受けて表示部5に表示する情報の制御を行う制御部4を備えている。なお、図2の推定部3,制御部4およびメモリ6は、携帯電話機中の大体の位置を示す大雑把な概念図である。また、前記パッド部2は利用者が表示部5に表示されている情報を操作するために使用されるものであるので、情報操作部とも呼ぶことができる。
【0025】
撮像部1は、情報端末装置に内蔵されたカメラで構成され、一定の時間間隔で任意の画像を入力し、入力画像を推定部3に出力するようになっている。携帯電話機での構成では撮像部1は情報端末装置内に備えられているが、パソコンとカメラを組み合わせた構成のように情報端末装置外に備えることも可能である。
【0026】
パッド部2は撮像部1の撮影面に脱着できる構成をとることが可能であり、その一例を図3に示す。図3(a)は斜視図を示し、(b)図はそのA−A線断面図である。
【0027】
パッド部2は、硬めのシリコン等の樹脂や硬めのゴム等の透光性又は透過性および弾力性を有する素材で形成するのが好ましいが、これに限定されない。パッド部2の上部には、撮影対象としての回動体、例えば球体2aが任意の方向に回動可能であって、かつパッド部2から上又は下に抜け出さないように設けられている。このような構成により、パッド部の高さを低くでき、小型化することができる。
【0028】
球体2a(以下では、撮影対象2aと記すことがある)の表面の一部には、撮像部1が撮影できる任意の模様が配置されている。例えば、球体2aの表面全体は黒色をしており、その中に好ましくは2個の異なる大きさまたは形の任意の模様、例えば白い点2bが描かれている。この2個の白い点2bは、球体2aの中心対称の位置に描くのが好適である。なお、球体2aに代えて、撮影面が半球、円柱、楕円などの形状の撮影対象であってもよい。撮影面を半球にする場合には、球体2aの一部に例えば凸部を設けて、球の回動角度を制限すればよい。これらの半球や円柱の表面全体を黒色にした場合には、該表面に少なくとも1個の白い模様、例えば白色の点の模様を形成すればよい。また、前記球体2a、半球、円柱と、これらの中に描かれる模様の色は、前記の黒色や白色に限定されず、互いに識別できる色(コントラスト差の出る色)であればよい。また、前記回動体とその中に描かれる模様は、異なる色の組合せ模様であっても、異なる面積の組合せ模様であってもよい。
【0029】
また、パッド部2は図4に示すように、バネ等の弾性体で形成し、その弾性体の上部に撮影対象の球体2aを回動可能に設けてもよい。該撮影対象は、球体2aに代えて、撮影面が半球であったり、円柱などの形状であったりしてもよい。ここで弾性体はその弾性を妨げることのないカバーを、弾性体の内部もしくは外部に、あるいは弾性体と一体となって備えていてもよく、該カバーは透光性であっても遮光性であってもよい。図4には、底部2c側と撮影対象2a側とでバネのコイル径が同じであるが、コイル径は両側で異なっていてもよい。
【0030】
また、図3や図4のパッド部2の内部に、撮影対象、すなわち前記球体2a、半球体、円柱などに焦点を合わせるための光学レンズ2d、例えば光学軸が上下方向の凸レンズを配置してもよい。光学レンズ2dを配置する(図3(b)参照)と、撮影対象を撮像部1に近接させることができ、パッド部2の高さをさらに低くすることができ、パッド部2をさらに小型化することができる。
【0031】
撮像部1は前記撮影対象2a中の模様の動きと大きさの変化を画像として撮影することになる。パッド部2は、撮像部の撮影面に着脱可能にできる構成にすることが可能であり、図5のように撮像部1の全面を覆う実施例の場合は、撮像部1のレンズ周りに金属リング10を貼り付けておき、一方パッド部2の底面2cにはリング状の磁石を貼り付けて、パッド部2を磁力で撮像部1に装着できるようにする。該リング状の磁石およびレンズ周りの金属リングの組み合わせ仕様に代えて、パッド部2の底面2cに粘着材を塗布して、または粘着性もしくは吸着性を有する部材を貼着してパッド部2を着脱自在にしてもよい。
【0032】
また、図6のようにパッド部2の大きさを少し大きくして撮像部1に隣接する光源11(LED等)を含めてパッド部2が覆うように装着することができる。光源11を点灯することでパッド内部で散乱した光が撮影対象を照らすことになるので、暗闇の中でもはっきりと撮影対象を画像として撮影できる。また、パッド部2は、図5のパッド部2より小さくして、撮像部1の撮像面より小さくしてもよい。
【0033】
利用者は、図7に示すように、パッド部2に指7を添えて撮影対象2aを回転させることによって撮影対象2aの表面に描かれている前記模様の位置を変更させることができ、指7に加える力の方向や力加減により該撮影対象2aの移動方向や移動量を変えることができる。例えば、利用者が撮影対象を撮像部の撮影面に対して垂直方向や水平方向などに回転させると、撮像部と撮影対象の模様との間の空間的位置関係が該回転に応じて変化する。なお、撮影対象が球体または半球体の場合には、撮像部と撮影対象との間の空間的位置関係を、撮像部1の撮像面と平行な平面内で互いに直交するx軸、y軸方向に変化させることができ、撮影対象が円柱の場合には、1軸方向、例えばx軸方向にのみ変化させることができる。
【0034】
また、図4のように、撮影対象が弾性体、例えば螺旋状の弾性体のパッド部2上に配置されている場合には、前記x軸、y軸方向の変化に、弾性体の左右、上下の変化を重畳することができる。すなわち、利用者が撮影対象の球体等に指を押し当てながらパッド部2を撮像部1の撮影面に対して垂直方向や水平方向などに移動又は変形させると、撮像部1と撮影対象2aとの間の空間的位置関係が該移動又は変形に応じて同じように変化することになり、この変化が前記x軸、y軸方向の変化に重畳される。また、利用者がパッド部2を撮像部1の撮影面に対して強く押し込むと、撮影対象の見かけの大きさが押し込む力に応じて変化することになる。さらに、利用者がパッド部2を撮像部の撮影面の法線を軸に回転させると、撮像部1と撮影対象との間の空間的位置関係が回転に応じて同じように変化することになる。また、例えば、パッド部2が携帯電話機に取り付けられている場合には、利用者は、携帯電話機の表面と向かい合って表示部5を見ながら、その裏側に回した手の指により撮影対象やパッド部2を操作することができる。
【0035】
本発明の情報端末装置は、利用者が上記の操作をすると、つまり利用者が前記球体2aなどの撮影対象やパッド部2を撮像部の撮影面に対してx、y軸方向や垂直、水平方向などに移動させると、例えば、文字一覧や画像、地図、Webページなどが表示部5に表示されている場合に、表示されている文字や地図等の画像の表示位置が、撮像部と撮影対象との間の空間的位置関係に応じてスクロール移動、又は、画像内のカーソル位置が移動するように構成されている。この概念図を図11に示す。
【0036】
前記推定部3は、特徴量抽出部31と動き推定部32(図8参照)を有し、撮像部1により入力された画像を解析して撮像部1と撮影対象2aとの間の空間的位置関係の変化を推定する。この推定の手法については後述する。
【0037】
前記メモリ6上には表示部5で表示する表示情報が予め展開されている。
【0038】
前記制御部4は、推定部3で推定された撮像部1と撮影対象2aとの間の空間的位置関係の変化に応じてメモリ1上の該当する情報を読み出し、表示部5に送る。
【0039】
前記表示部5は、制御部4から送出されてきた表示情報を表示する。
【0040】
上記の構成により、利用者が撮影対象を、例えばその空間的位置を任意方向に変化させれば表示画面や画面内のカーソル位置がアナログ的に変化するので、表示部に表示されるカーソル位置の操作や画面スクロール等の操作を直感的に行うことができる。また、利用者が撮影対象の空間的位置を連続的に変化させれば、表示部の表示もそれに応じて連続的に変化するように切り替えられる。
【0041】
次に、推定部で撮像部と撮影対象との間の空間的位置関係の変化を推定し、表示部に表示する動作について、図8、図9および図10とを参照しながら説明する。
【0042】
撮像部1と撮影対象との間の空間的位置関係の変化は、利用者が情報端末装置を持って撮影対象を操作する動作に基づくので、以下ではそれを利用者の動作として説明する。
【0043】
利用者の操作は、撮像部1で入力された画像から撮影対象の変化に基づいて推定できる。入力された画像から検出される移動量及び回転量、拡大率の動き情報は、図10に示したフローチャートの手順で算出される。以下、前記動き情報を算出する場合について説明する。
【0044】
前記したように、例えば、黒い球体2aを撮影対象とし白い点2bを模様として描いておき、利用者が該撮影対象を回転操作した場合、一定の時間間隔で撮像部1に入力される画像と操作する前の初期画像とは、それぞれ図9(b),(a)に示すようになり、各画像から撮影対象についての動き情報を抽出する。つまり、初期画像t0と一定の時間間隔で撮像部に入力される回転操作時の画像tとは、それぞれ図9(a)、(b)に示すようになり、前記初期画像t0を基に各画像から撮影対象についての動き情報を抽出することができる。ここに、球体2aの重心座標が変化するのは、パッド部2が弾力性を有するからである。
【0045】
すなわち、撮像部1で取得された画像が特徴量抽出部31に入力され、入力画像から撮影対象について複数の特徴量を抽出する。動き推定部32は、初期画像の特徴量と入力画像の特徴量との時間的変化を評価することにより、動き情報を推定する。
【0046】
前記特徴量の算出は、撮影対象を色ごとに分離し、それぞれ予め設定した閾値で2値化した後、領域を形成し、領域の重心及び面積を特徴量として算出する。初期画像t0の特徴量は最初にまたは操作開始時に一度だけ算出して記録しておき、入力画像tの特徴量と比較する。または、利用者の回転操作が停止する都度、該停止位置の画像の特徴量を初期画像t0の特徴量として記録し、続いて入力してくる入力画像の特徴量と比較するようにしてもよい。
【0047】
前記動き推定部32は、撮影対象2aの移動量及び移動方向(すなわち、白い点2bの移動量及び移動方向)を初期画像t0における色毎の重心の平均座標と入力画像における色毎の重心の平均座標との差分ベクトルの長さと向きとして求める。撮影対象全体の動きの影響を排除するため、操作によって移動する量(u、v)、すなわち差分ベクトルを次式で算出する。
【0048】
【数1】
【0049】
ここで、初期画像t0における球体2aの重心座標を(xb0;yb0)、白色の点2bの中心の座標を(xw0;yw0)、入力画像tにおける球体2aの重心座標を(xb;yb)、白色の点2b’の中心の座標を(xw;yw)としている。
【0050】
推定部3において選択された方向及び移動量については、推定された動き(空間的な位置関係の変化)として制御部4へ出力される。制御部4では、推定部3で推定された撮像部1と撮影対象との間の空間的位置関係の変化に合わせてメモリ6上の該当する表示情報を読み出し、表示部5に送出する。
【0051】
上記では色の違いを用いた実施例について説明したが、単色で実施する場合は、撮影対象として面積の異なる複数の点を用いることで、相対的な大小関係から初期画像の特徴量との組み合わせを推定し、前記算出式に代入することで動き情報を算出できる。
【符号の説明】
【0052】
1・・・撮像部、2・・・パッド部、2a・・・球体(撮影対象)、2b、2b’・・・点模様、2c・・・底面、2d・・・光学レンズ、3・・・推定部、4・・・制御部、5・・・表示部、6・・・メモリ、7・・・指、10・・・情報端末装置、31・・・特徴量抽出部、32・・・動き推定部。
【技術分野】
【0001】
本発明は表示部に情報を提示する情報端末装置に関し、特に、カメラと指の空間的位置関係の変化によって表示部に表示される情報を制御できる情報端末装置に関するものである。
【背景技術】
【0002】
携帯電話機などの携帯型情報端末装置において、電子機器回路の集積化に伴って小型・軽量化が進んでいるため、キーパッドの面積を十分に確保できないまま細かな操作を強いられている。一方で処理性能の向上および記録容量の増大に伴い、情報端末装置が扱えるサービスやメニュー、アプリケーションの操作は複雑化の一途を辿っている。
【0003】
上記のような状況下においては、情報端末装置のキーパッドに代わるインタフェースが必要になっている。前記キーパッドに代わるインタフェースを用いて、上記の操作を簡単にする方法としては、以下のような方法が公開されている。
【0004】
特許文献1には、カメラで検出した指領域をタッチパネルに重畳して誤操作を軽減する手法が提案されている。
【0005】
特許文献2には、手形状データベースに格納される手形状と入力画像を比較し、少数のジェスチャを用いて多くの機能を実行する手法が提案されている。
【0006】
また、特許文献3には、ユーザの顔の部分領域画像をテンプレート画像として登録し、一致する領域を実時間で抽出することでマウスカーソルの座標を制御する手法が提案されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008−234594号公報
【特許文献2】特開2008−146243号公報
【特許文献3】特開2007−310914号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、前記した先行技術には、次のような問題がある。
【0009】
特許文献1では、指はそのサイズや形状がマウスポインタよりもかなり大きいため、タッチパネルに対して指そのものはマウスポイントほど正確にはなり得ない。また、タッチパネルの搭載は端末装置のコスト上昇を招く。さらに、既存の端末装置では利用できないという問題がある。
【0010】
特許文献2では、空中で手をひらひらさせるため、ジェスチャでの操作時に触覚的なフィードバックを得られないという問題がある。
【0011】
特許文献3では、首を回した場合にテンプレートと入力画像が一致しなくなるため、テンプレートの逐次更新が必要となり処理負荷が大きくなる可能性がある。
【0012】
さらに、特許文献1、2および3では、それぞれ指、手、顔の検出が必要であるため、光源の色調によっては肌色が正しく検出できないことがあり、認識が困難になる場合がある。
【0013】
以上のように、前記先行技術は、いずれも正確な操作が難しく、情報端末装置の信頼性が低いという問題があった。
【0014】
本発明は上記実情に鑑みて提案されたもので、その目的は、情報端末装置に対する撮影対象の空間的な動作によって、情報端末装置の表示部に表示される情報を制御できる、信頼性の高い情報端末装置を提供することにある。また、他の目的は、小型化されたパッド部を有する情報端末装置を提供することにある。
【課題を解決するための手段】
【0015】
上記した目的を達成するために、本発明は、情報を表示する表示部を有する情報端末装置であって、前記表示部に表示する情報を記憶するメモリと、撮影対象を保持するパッド部と、前記パッド部の撮影対象を撮影する撮像部と、前記撮像部によって撮影された画像に基づいて、前記撮影対象の空間的位置関係の変化を推定する推定部と、前記メモリから読み出して前記表示部に表示する情報を、前記推定部により推定された前記空間位置関係の変化に応じて制御する制御部とを具備し、前記パッド部により保持される撮影対象が、その表面に模様が描かれた回動体である点に第1の特徴がある。
【0016】
また、前記回動体は、球体、半球体または円柱状である点に第2の特徴がある。
また、前記模様は、異なる色の組合せ模様または異なる面積の組合せ模様である点に第3の特徴がある。
【0017】
さらに、前記パッド部は、弾性体の上に前記撮影対象を保持する点に第4の特徴がある。
【発明の効果】
【0018】
本発明によれば、撮影対象である回動体が回動することによる撮像部と撮影対象表面の模様との間の空間的位置関係の変化により、情報端末装置の入力画像から空間的な相対的位置関係を推定し、表示部で表示される情報又は情報画面におけるカーソルの位置を、推定部により推定された空間位置関係の変化に応じて制御するので、利用者は撮影対象を回動するという直観的な操作で、表示される情報を制御できる。
【0019】
したがって、情報端末装置の利用者は、撮影対象の動きに対応づけられた表示部でのカーソル位置の移動を直感的に行うことが可能となり、信頼性の高い情報端末装置を提供することができるようになる。
【0020】
また、前記撮影対象として、球体、半球体または円柱状の回動体を用いることにより、パッド部の高さを低くでき、小型化することができる。
【0021】
また、情報端末装置の表示部で表示される情報の制御は、撮像部に入力された画像を解析することにより推定される撮像部と撮影対象との間の空間的位置関係の変化を基に行うのでソフトウェアで可能であり、ジャイロや加速度センサなどの特別なハードウェアを情報端末に組み込む必要がない。
【図面の簡単な説明】
【0022】
【図1】本発明の一実施形態の概略の構成を示すブロック図である。
【図2】本発明を携帯電話機に応用した場合の概略の構成を示す概念図である。
【図3】パッド部の一実施例を示す斜視図と断面図である。
【図4】パッド部の他の実施例を示す斜視図である。
【図5】撮像部に装着されたパッド部の一例を示す図である。
【図6】撮像部に装着されたパッド部の他の例を示す図である。
【図7】指で操作されるパッド部を示す図である。
【図8】図1の推定部の具体的構成を示すブロック図である。
【図9】撮像部で撮影された撮影対象の初期画像と入力画像の説明図である。
【図10】推定部の機能を示すフローチャートである。
【図11】利用者がパッド部の撮影対象を任意方向に回動した場合の、表示部の画像の概念図である。
【発明を実施するための形態】
【0023】
以下に、本発明を図面を参照して詳細に説明する。図1は、本発明の情報端末装置の第1の実施形態を示す機能ブロック図である。また、図2は情報端末装置として携帯電話機を想定した場合の外観図であり、図2(a)は正面図、(b)は側面図である。また、図2(b)の左側は表面、右側は裏面である。
【0024】
情報端末装置10は、図1、図2に示すように、画像を取り込む撮像部1と、撮影対象を保持する着脱自在のパッド部2と、撮像部からの画像信号により撮影対象の動きを推定する推定部3と、文字情報や地図情報等の情報を表示するための表示部5と、表示部5に表示させるための情報を記録するメモリ6と、推定部3およびメモリ6からの信号を受けて表示部5に表示する情報の制御を行う制御部4を備えている。なお、図2の推定部3,制御部4およびメモリ6は、携帯電話機中の大体の位置を示す大雑把な概念図である。また、前記パッド部2は利用者が表示部5に表示されている情報を操作するために使用されるものであるので、情報操作部とも呼ぶことができる。
【0025】
撮像部1は、情報端末装置に内蔵されたカメラで構成され、一定の時間間隔で任意の画像を入力し、入力画像を推定部3に出力するようになっている。携帯電話機での構成では撮像部1は情報端末装置内に備えられているが、パソコンとカメラを組み合わせた構成のように情報端末装置外に備えることも可能である。
【0026】
パッド部2は撮像部1の撮影面に脱着できる構成をとることが可能であり、その一例を図3に示す。図3(a)は斜視図を示し、(b)図はそのA−A線断面図である。
【0027】
パッド部2は、硬めのシリコン等の樹脂や硬めのゴム等の透光性又は透過性および弾力性を有する素材で形成するのが好ましいが、これに限定されない。パッド部2の上部には、撮影対象としての回動体、例えば球体2aが任意の方向に回動可能であって、かつパッド部2から上又は下に抜け出さないように設けられている。このような構成により、パッド部の高さを低くでき、小型化することができる。
【0028】
球体2a(以下では、撮影対象2aと記すことがある)の表面の一部には、撮像部1が撮影できる任意の模様が配置されている。例えば、球体2aの表面全体は黒色をしており、その中に好ましくは2個の異なる大きさまたは形の任意の模様、例えば白い点2bが描かれている。この2個の白い点2bは、球体2aの中心対称の位置に描くのが好適である。なお、球体2aに代えて、撮影面が半球、円柱、楕円などの形状の撮影対象であってもよい。撮影面を半球にする場合には、球体2aの一部に例えば凸部を設けて、球の回動角度を制限すればよい。これらの半球や円柱の表面全体を黒色にした場合には、該表面に少なくとも1個の白い模様、例えば白色の点の模様を形成すればよい。また、前記球体2a、半球、円柱と、これらの中に描かれる模様の色は、前記の黒色や白色に限定されず、互いに識別できる色(コントラスト差の出る色)であればよい。また、前記回動体とその中に描かれる模様は、異なる色の組合せ模様であっても、異なる面積の組合せ模様であってもよい。
【0029】
また、パッド部2は図4に示すように、バネ等の弾性体で形成し、その弾性体の上部に撮影対象の球体2aを回動可能に設けてもよい。該撮影対象は、球体2aに代えて、撮影面が半球であったり、円柱などの形状であったりしてもよい。ここで弾性体はその弾性を妨げることのないカバーを、弾性体の内部もしくは外部に、あるいは弾性体と一体となって備えていてもよく、該カバーは透光性であっても遮光性であってもよい。図4には、底部2c側と撮影対象2a側とでバネのコイル径が同じであるが、コイル径は両側で異なっていてもよい。
【0030】
また、図3や図4のパッド部2の内部に、撮影対象、すなわち前記球体2a、半球体、円柱などに焦点を合わせるための光学レンズ2d、例えば光学軸が上下方向の凸レンズを配置してもよい。光学レンズ2dを配置する(図3(b)参照)と、撮影対象を撮像部1に近接させることができ、パッド部2の高さをさらに低くすることができ、パッド部2をさらに小型化することができる。
【0031】
撮像部1は前記撮影対象2a中の模様の動きと大きさの変化を画像として撮影することになる。パッド部2は、撮像部の撮影面に着脱可能にできる構成にすることが可能であり、図5のように撮像部1の全面を覆う実施例の場合は、撮像部1のレンズ周りに金属リング10を貼り付けておき、一方パッド部2の底面2cにはリング状の磁石を貼り付けて、パッド部2を磁力で撮像部1に装着できるようにする。該リング状の磁石およびレンズ周りの金属リングの組み合わせ仕様に代えて、パッド部2の底面2cに粘着材を塗布して、または粘着性もしくは吸着性を有する部材を貼着してパッド部2を着脱自在にしてもよい。
【0032】
また、図6のようにパッド部2の大きさを少し大きくして撮像部1に隣接する光源11(LED等)を含めてパッド部2が覆うように装着することができる。光源11を点灯することでパッド内部で散乱した光が撮影対象を照らすことになるので、暗闇の中でもはっきりと撮影対象を画像として撮影できる。また、パッド部2は、図5のパッド部2より小さくして、撮像部1の撮像面より小さくしてもよい。
【0033】
利用者は、図7に示すように、パッド部2に指7を添えて撮影対象2aを回転させることによって撮影対象2aの表面に描かれている前記模様の位置を変更させることができ、指7に加える力の方向や力加減により該撮影対象2aの移動方向や移動量を変えることができる。例えば、利用者が撮影対象を撮像部の撮影面に対して垂直方向や水平方向などに回転させると、撮像部と撮影対象の模様との間の空間的位置関係が該回転に応じて変化する。なお、撮影対象が球体または半球体の場合には、撮像部と撮影対象との間の空間的位置関係を、撮像部1の撮像面と平行な平面内で互いに直交するx軸、y軸方向に変化させることができ、撮影対象が円柱の場合には、1軸方向、例えばx軸方向にのみ変化させることができる。
【0034】
また、図4のように、撮影対象が弾性体、例えば螺旋状の弾性体のパッド部2上に配置されている場合には、前記x軸、y軸方向の変化に、弾性体の左右、上下の変化を重畳することができる。すなわち、利用者が撮影対象の球体等に指を押し当てながらパッド部2を撮像部1の撮影面に対して垂直方向や水平方向などに移動又は変形させると、撮像部1と撮影対象2aとの間の空間的位置関係が該移動又は変形に応じて同じように変化することになり、この変化が前記x軸、y軸方向の変化に重畳される。また、利用者がパッド部2を撮像部1の撮影面に対して強く押し込むと、撮影対象の見かけの大きさが押し込む力に応じて変化することになる。さらに、利用者がパッド部2を撮像部の撮影面の法線を軸に回転させると、撮像部1と撮影対象との間の空間的位置関係が回転に応じて同じように変化することになる。また、例えば、パッド部2が携帯電話機に取り付けられている場合には、利用者は、携帯電話機の表面と向かい合って表示部5を見ながら、その裏側に回した手の指により撮影対象やパッド部2を操作することができる。
【0035】
本発明の情報端末装置は、利用者が上記の操作をすると、つまり利用者が前記球体2aなどの撮影対象やパッド部2を撮像部の撮影面に対してx、y軸方向や垂直、水平方向などに移動させると、例えば、文字一覧や画像、地図、Webページなどが表示部5に表示されている場合に、表示されている文字や地図等の画像の表示位置が、撮像部と撮影対象との間の空間的位置関係に応じてスクロール移動、又は、画像内のカーソル位置が移動するように構成されている。この概念図を図11に示す。
【0036】
前記推定部3は、特徴量抽出部31と動き推定部32(図8参照)を有し、撮像部1により入力された画像を解析して撮像部1と撮影対象2aとの間の空間的位置関係の変化を推定する。この推定の手法については後述する。
【0037】
前記メモリ6上には表示部5で表示する表示情報が予め展開されている。
【0038】
前記制御部4は、推定部3で推定された撮像部1と撮影対象2aとの間の空間的位置関係の変化に応じてメモリ1上の該当する情報を読み出し、表示部5に送る。
【0039】
前記表示部5は、制御部4から送出されてきた表示情報を表示する。
【0040】
上記の構成により、利用者が撮影対象を、例えばその空間的位置を任意方向に変化させれば表示画面や画面内のカーソル位置がアナログ的に変化するので、表示部に表示されるカーソル位置の操作や画面スクロール等の操作を直感的に行うことができる。また、利用者が撮影対象の空間的位置を連続的に変化させれば、表示部の表示もそれに応じて連続的に変化するように切り替えられる。
【0041】
次に、推定部で撮像部と撮影対象との間の空間的位置関係の変化を推定し、表示部に表示する動作について、図8、図9および図10とを参照しながら説明する。
【0042】
撮像部1と撮影対象との間の空間的位置関係の変化は、利用者が情報端末装置を持って撮影対象を操作する動作に基づくので、以下ではそれを利用者の動作として説明する。
【0043】
利用者の操作は、撮像部1で入力された画像から撮影対象の変化に基づいて推定できる。入力された画像から検出される移動量及び回転量、拡大率の動き情報は、図10に示したフローチャートの手順で算出される。以下、前記動き情報を算出する場合について説明する。
【0044】
前記したように、例えば、黒い球体2aを撮影対象とし白い点2bを模様として描いておき、利用者が該撮影対象を回転操作した場合、一定の時間間隔で撮像部1に入力される画像と操作する前の初期画像とは、それぞれ図9(b),(a)に示すようになり、各画像から撮影対象についての動き情報を抽出する。つまり、初期画像t0と一定の時間間隔で撮像部に入力される回転操作時の画像tとは、それぞれ図9(a)、(b)に示すようになり、前記初期画像t0を基に各画像から撮影対象についての動き情報を抽出することができる。ここに、球体2aの重心座標が変化するのは、パッド部2が弾力性を有するからである。
【0045】
すなわち、撮像部1で取得された画像が特徴量抽出部31に入力され、入力画像から撮影対象について複数の特徴量を抽出する。動き推定部32は、初期画像の特徴量と入力画像の特徴量との時間的変化を評価することにより、動き情報を推定する。
【0046】
前記特徴量の算出は、撮影対象を色ごとに分離し、それぞれ予め設定した閾値で2値化した後、領域を形成し、領域の重心及び面積を特徴量として算出する。初期画像t0の特徴量は最初にまたは操作開始時に一度だけ算出して記録しておき、入力画像tの特徴量と比較する。または、利用者の回転操作が停止する都度、該停止位置の画像の特徴量を初期画像t0の特徴量として記録し、続いて入力してくる入力画像の特徴量と比較するようにしてもよい。
【0047】
前記動き推定部32は、撮影対象2aの移動量及び移動方向(すなわち、白い点2bの移動量及び移動方向)を初期画像t0における色毎の重心の平均座標と入力画像における色毎の重心の平均座標との差分ベクトルの長さと向きとして求める。撮影対象全体の動きの影響を排除するため、操作によって移動する量(u、v)、すなわち差分ベクトルを次式で算出する。
【0048】
【数1】
【0049】
ここで、初期画像t0における球体2aの重心座標を(xb0;yb0)、白色の点2bの中心の座標を(xw0;yw0)、入力画像tにおける球体2aの重心座標を(xb;yb)、白色の点2b’の中心の座標を(xw;yw)としている。
【0050】
推定部3において選択された方向及び移動量については、推定された動き(空間的な位置関係の変化)として制御部4へ出力される。制御部4では、推定部3で推定された撮像部1と撮影対象との間の空間的位置関係の変化に合わせてメモリ6上の該当する表示情報を読み出し、表示部5に送出する。
【0051】
上記では色の違いを用いた実施例について説明したが、単色で実施する場合は、撮影対象として面積の異なる複数の点を用いることで、相対的な大小関係から初期画像の特徴量との組み合わせを推定し、前記算出式に代入することで動き情報を算出できる。
【符号の説明】
【0052】
1・・・撮像部、2・・・パッド部、2a・・・球体(撮影対象)、2b、2b’・・・点模様、2c・・・底面、2d・・・光学レンズ、3・・・推定部、4・・・制御部、5・・・表示部、6・・・メモリ、7・・・指、10・・・情報端末装置、31・・・特徴量抽出部、32・・・動き推定部。
【特許請求の範囲】
【請求項1】
情報を表示する表示部を有する情報端末装置であって、
前記表示部に表示する情報を記憶するメモリと、
撮影対象を保持するパッド部と、
前記パッド部の撮影対象を撮影する撮像部と、
前記撮像部によって撮影された画像に基づいて、前記撮影対象の空間的位置関係の変化を推定する推定部と、
前記メモリから読み出して前記表示部に表示する情報を、前記推定部により推定された前記空間位置関係の変化に応じて制御する制御部とを具備し、
前記パッド部により保持される撮影対象が、その表面に模様が描かれた回動体であることを特徴とする情報端末装置。
【請求項2】
前記回動体は、球体、半球体または円柱状であることを特徴とする請求項1に記載の情報端末装置。
【請求項3】
前記模様は、異なる色の組合せ模様または異なる面積の組合せ模様であることを特徴とする請求項1または2に記載の情報端末装置。
【請求項4】
前記パッド部は、弾性体の上に前記撮影対象を保持することを特徴とする請求項1ないし3のいずれかに記載の情報端末装置。
【請求項5】
前記パッド部は、前記撮像部の撮影面に着脱可能であることを特徴とする請求項1ないし4のいずれかに記載の情報端末装置。
【請求項6】
前記パッド部は、前記撮像部が前記撮影対象を撮影できるように形成され、近接する撮影対象に焦点が合うようにその内部に光学レンズが配置されていることを特徴とする請求項1ないし5のいずれかに記載の情報端末装置。
【請求項7】
前記推定部は、前記撮像部により入力された画像から検出された特徴量を用いて、前記撮像部と前記撮影対象との間の空間的位置関係の変化を推定する機能を備えてなる請求項1ないし6のいずれかに記載の情報端末装置。
【請求項8】
前記推定部は、時間的に異なる複数画像から特徴量を算出し、それぞれの特徴量の時間的変化を評価することで、前記撮像部と前記撮影対象との間の空間的位置関係の変化を推定する機能を備えてなる請求項7に記載の情報端末装置。
【請求項9】
前記推定部は、入力画像を色毎に分離した上で領域を構成し、各領域の重心をもって前記特徴量とする機能を備えてなる請求項7に記載の情報端末装置。
【請求項10】
前記制御部は、前記推定部で検出された空間的な動作に応じて、前記表示部に表示される内容が異なるように制御する機能を備えてなる請求項1ないし9のいずれかに記載の情報端末装置。
【請求項11】
前記制御部は、前記表示部において画像を表示する場合に、前記推定部で得られた移動量及び移動方向に応じて画像の座標を移動させる機能を備えてなる請求項10に記載の情報端末装置。
【請求項1】
情報を表示する表示部を有する情報端末装置であって、
前記表示部に表示する情報を記憶するメモリと、
撮影対象を保持するパッド部と、
前記パッド部の撮影対象を撮影する撮像部と、
前記撮像部によって撮影された画像に基づいて、前記撮影対象の空間的位置関係の変化を推定する推定部と、
前記メモリから読み出して前記表示部に表示する情報を、前記推定部により推定された前記空間位置関係の変化に応じて制御する制御部とを具備し、
前記パッド部により保持される撮影対象が、その表面に模様が描かれた回動体であることを特徴とする情報端末装置。
【請求項2】
前記回動体は、球体、半球体または円柱状であることを特徴とする請求項1に記載の情報端末装置。
【請求項3】
前記模様は、異なる色の組合せ模様または異なる面積の組合せ模様であることを特徴とする請求項1または2に記載の情報端末装置。
【請求項4】
前記パッド部は、弾性体の上に前記撮影対象を保持することを特徴とする請求項1ないし3のいずれかに記載の情報端末装置。
【請求項5】
前記パッド部は、前記撮像部の撮影面に着脱可能であることを特徴とする請求項1ないし4のいずれかに記載の情報端末装置。
【請求項6】
前記パッド部は、前記撮像部が前記撮影対象を撮影できるように形成され、近接する撮影対象に焦点が合うようにその内部に光学レンズが配置されていることを特徴とする請求項1ないし5のいずれかに記載の情報端末装置。
【請求項7】
前記推定部は、前記撮像部により入力された画像から検出された特徴量を用いて、前記撮像部と前記撮影対象との間の空間的位置関係の変化を推定する機能を備えてなる請求項1ないし6のいずれかに記載の情報端末装置。
【請求項8】
前記推定部は、時間的に異なる複数画像から特徴量を算出し、それぞれの特徴量の時間的変化を評価することで、前記撮像部と前記撮影対象との間の空間的位置関係の変化を推定する機能を備えてなる請求項7に記載の情報端末装置。
【請求項9】
前記推定部は、入力画像を色毎に分離した上で領域を構成し、各領域の重心をもって前記特徴量とする機能を備えてなる請求項7に記載の情報端末装置。
【請求項10】
前記制御部は、前記推定部で検出された空間的な動作に応じて、前記表示部に表示される内容が異なるように制御する機能を備えてなる請求項1ないし9のいずれかに記載の情報端末装置。
【請求項11】
前記制御部は、前記表示部において画像を表示する場合に、前記推定部で得られた移動量及び移動方向に応じて画像の座標を移動させる機能を備えてなる請求項10に記載の情報端末装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−159227(P2011−159227A)
【公開日】平成23年8月18日(2011.8.18)
【国際特許分類】
【出願番号】特願2010−22368(P2010−22368)
【出願日】平成22年2月3日(2010.2.3)
【出願人】(000208891)KDDI株式会社 (2,700)
【Fターム(参考)】
【公開日】平成23年8月18日(2011.8.18)
【国際特許分類】
【出願日】平成22年2月3日(2010.2.3)
【出願人】(000208891)KDDI株式会社 (2,700)
【Fターム(参考)】
[ Back to top ]