説明

情報入力装置、その制御方法、および制御プログラム

【課題】ユーザーが、キーボードの無い端末を使って、片手で容易に情報の入力を行うことができるようにすることを目的とする。
【解決手段】撮像部22によって仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る。システム制御部50は指示体画像データに応じて指示体とカメラ100との距離を検出して検出距離を得る。システム制御部50は互いに異なる複数の仮想アイテムを選択的に表示部28に表示するとともに、指示体画像データに応じた指示体画像を表示部に表示し、指示体の操作に応じて得られる指示体画像の動きによって仮想アイテムで選択された情報を入力情報とする。この際、システム制御部は検出距離に応じて表示部に表示する仮想アイテムを切り替える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報入力装置、その制御方法、および制御プログラムに関し、特に、仮想キーボードを用いた文字入力方法に関する。
【背景技術】
【0002】
一般に、撮影の結果得られた多量の画像ファイルをカメラ又はビデオにおいて整理を行いたいというユーザーの要望がある。画像ファイルにおける写真又は動画などの画像を整理する際、フォルダを新規に作成してフォルダ名又はファイル名を変更することがある。さらに、画像にメモを付けて記録することもあり、この際には不可避的に文字入力を行う必要がある。
【0003】
ところが、デジタルカメラなどの撮像装置においては、その表示画面(例えば、液晶画面)が小さい。このため、液晶画面に入力した全ての文字を表示すると、一つ一つの文字が極めて小さくなってしまい、ユーザーは視認しづらいばかりでなく文字入力操作を行いことが困難となってしまう。
【0004】
さらに、デジタルカメラには操作部(操作部材ともいう)として、例えば、入力キーのボタン、十字キー、および決定ボタンなどが備えられている程度であり、この点においても文字入力操作も煩雑となる。
【0005】
一方、操作部材を用いることなく、ユーザーが入力操作を行うことができるようにしたものがある。例えば、立体視装置により映像空間内に検索インデックスを表示するカプセル映像を映し出して、カプセル映像を仮想腕の手で直接操作し、手の動作パターンにより入力情報(入力操作)を認識するようにしたものがある。(特許文献1参照)。
【0006】
また、パーソナルコンピュータ(以下PCという)などにおいて、ユーザーの手元に仮想キーボードを表示して、仮想キーボードのタッチ操作した位置を検出し、検出したデータに基づいてタッチ操作した入力位置を判別するようにしたものがある。(特許文献2参照)。ここでは、仮想キーボートの表示パターンを複数の種類に切り替えるようにしている。
【0007】
さらに、3次元ウィンドウ装置によって、複数のウィンドウを半透明表示し、互いに重なりあったウィンドウのうち相対的に下側にあるウィンドウを、遠近法を用いて縮小表示するようにしたものがある(特許文献3参照)。ここでは、カーソルおよび半透明ウィンドウの位置情報が奥行き情報をもち、入力装置からの入力操作に応じてカーソル又は半透明ウィンドウを、半透明ウィンドウ面に対して仮想的な垂直方向を含む方向に移動する位置情報を算出して表示する。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開平5−189484号公報
【特許文献2】特開2007−156548号公報
【特許文献3】特開2003−271279号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
ところが、特許文献1においては、仮想空間を立体的に表示するため、ゴーグルが必要となるばかりでなく、カプセル映像を選択するためのグローブが必要となって、ユーザーにとっては入力操作がかえって煩わしくなってしまう。
【0010】
また、特許文献2においては、PCなどで用いられるキーボードを想定したものである。つまり、キーボードは両手で入力操作を行って初めてその発揮される。このようなキーボードをデジタルカメラに用いることは困難であり、たとえ、デジタルカメラに用いるとしてもデジタルカメラを三脚などで固定する必要がある。
【0011】
特許文献3においては、半透明ウィンドウが選択されても当該半透明ウィンドウが手前に出てこない。よって、奥側に位置する半透明ウィンドウがアクティブになった際には、手前に位置する非アクティブの半透明ウィンドウで奥側に位置する半透明ウィンドウが見えにくくなってしまう。そして、奥側に位置する半透明ウィンドウを見るためには視点の位置を調整する必要がある。
【0012】
従って、本発明の目的は、ユーザーが片手で容易に情報の入力を行うことのできる情報入力装置、その制御方法、および制御プログラムを提供することにある。
【課題を解決するための手段】
【0013】
上記の目的を達成するため、本発明による情報入力装置は、表示部に表示された仮想アイテムを用いて情報の入力を行う情報入力装置であって、前記仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る撮像手段と、前記指示体と前記撮像手段との距離を検出して検出距離を得る測距手段と、複数の仮想アイテムおよび前記指示体画像データに対応する指示体画像を前記表示部に表示する表示制御手段と、前記検出距離に基づいて前記仮想アイテムを選択する選択手段と、前記選択された仮想アイテムと対応する情報を入力情報として設定する設定手段とを有することを特徴とする。
【0014】
本発明による制御方法は、表示部に表示された仮想アイテムを用いて情報の入力を行う情報入力装置での制御方法であって、撮像部によって前記仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る撮像ステップと、測距センサによって前記指示体と前記撮像部との距離を検出して検出距離を得る測距ステップと、複数の仮想アイテムおよび前記指示体画像データに対応する指示体画像を前記表示部に表示する表示制御ステップと、前記検出距離に基づいて前記仮想アイテムを選択する選択ステップと、前記選択された仮想アイテムと対応する情報を入力情報として設定する設定ステップとを有することを特徴とする。
【0015】
本発明による制御プログラムは、表示部に表示された仮想アイテムを用いて情報の入力を行う情報入力装置が備えるコンピュータに、撮像部によって前記仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る撮像ステップと、測距センサによって前記指示体と前記撮像部との距離を検出して検出距離を得る測距ステップと、複数の仮想アイテムおよび前記指示体画像データに対応する指示体画像を前記表示部に表示する表示制御ステップと、前記検出距離に基づいて前記仮想アイテムを選択する選択ステップと、前記選択された仮想アイテムと対応する情報を入力情報として設定する設定ステップとを実行させることを特徴とする。
【発明の効果】
【0016】
本発明によれば、仮想アイテムを用いて情報を入力する際、片手で容易に文字入力することができるという効果がある。
【図面の簡単な説明】
【0017】
【図1】本発明の実施の形態による情報入力装置が用いられたカメラの外観を背面側から示す斜視図である。
【図2】図1に示すカメラの構成の一例を示すブロック図である。
【図3】図2に示すカメラで用いられる仮想デスクトップの概要を説明するための斜視図である。
【図4】図3に示す仮想キーボードの種類の一例を示す図であり、(a)は平仮名入力仮想キーボードを示す図、(b)は英数字大文字入力仮想キーボードを示す図、(c)は英数字小文字入力仮想キーボードを示す図、(d)はPC配列仮想キーボードを示す図である。
【図5】図3に示す仮想キーボードの表示範囲を移動する手法の一例を説明するための図であり、(a)、(b)、および(c)は仮想キーボードを移動させる際の手の形を示す図である。
【図6】図3に示す仮想キーボードによる文字入力の処理を説明するためのフローチャートである。
【図7】図6に示す処理で表示部に表示された手およびゲージの一例を示す図である。
【図8】図3に示す表示部28に表示される仮想キーボードを説明するための図であり、(a)は平仮名入力仮想キーボードの表示を示す図、(b)は英数字大文字入力仮想キーボードの表示を示す図、(c)は英数字小文字入力仮想キーボードの表示を示す図、(d)は平仮名入力仮想キーボードおよび英数字大文字入力仮想キーボードの重ね表示を示す図、(e)は英数字大文字入力仮想キーボードおよび英数字小文字入力仮想キーボードの重ね表示を示す図である。
【図9】図3に示す仮想キーボードの表示切り替えを説明するための図である。
【図10】図3に示す仮想キーボードにおいて文字の選択および決定について説明するための図であり、(a)は文字を選択した状態を示す図、(b)は文字を決定した状態を示す図である。
【図11】図3に示す表示部に表示される編集エリアにおける文字の変換を説明するための斜視図である。
【発明を実施するための形態】
【0018】
以下、本発明の実施の形態による情報入力装置の一例について図面を参照して説明する。
【0019】
図1は、本発明の実施の形態による情報入力装置が用いられたカメラ100の外観を背面側から示す斜視図である。なお、以下の説明では、情報入力装置の1つである文字入力装置について説明する。
【0020】
デジタルカメラ(以下単にカメラと呼ぶ)100の背面には表示部28が配置されており、この表示部28には画像および各種の情報が表示される。カメラ100の上面にはシャッターボタン61および電源スイッチ72が配置されている。電源スイッチ72の操作によって電源のオン又はオフが行われる。また、シャッターボタン61の操作によって撮影の指示が行われる。
【0021】
表示部28の右側には、モード切替スイッチ60および操作部70が配置されている。なお、シャッターボタン61も操作部70の1つである。モード切替スイッチ60の操作によってカメラ100のモードが切り替えられる。操作部70にはユーザーからの各種入力操作を受け付けるための各種スイッチ、ボタン、およびタッチパネルなどが含まれるとともに、コントローラホイール73が含まれている。このコントローラホイール73は回転操作可能な操作部材である。
【0022】
カメラ100の一側面にはコネクタ112が配置され、このコネクタ112にはカメラ100と外部機器(例えば、PC:図示せず)とを接続するための接続ケーブル111が接続される。カメラ100の下面には記録媒体200を格納するための記録媒体スロット201が形成されている。記録媒体200として、例えば、メモリカードが用いられる。記録媒体200は記録媒体スロット201に格納されると、カメラ100との通信が可能となる。なお、記録媒体200を記録媒体スロット201に格納した後、蓋202が閉じられる。
【0023】
図2は、図1に示すカメラ100の構成の一例を示すブロック図である。
【0024】
図2において、カメラ100はフォーカスレンズを含む撮影レンズ103と絞り機能を備えるシャッター101とを有している。撮影レンズ103およびシャッター101を通過した光学像(被写体像)は撮像部22に結像される。撮像部22は、CCD又はVMOS撮像素子であり、光学像を電気信号(アナログ信号)に変換する。そして、このアナログ信号はA/D変換器23でデジタル信号(画像信号)に変換される。なお、撮影レンズ103、シャッター101、および撮像部22などを含む撮像系はバリア102で覆われ、これによって、撮像系の汚れおよび破損を防止するようにしている。
【0025】
画像処理部24はA/D変換器23の出力である画像信号又はメモリ制御部15から与えられる画像データに対して所定の画素補間および縮小などのリサイズ処理および色変換処理を行う。さらに、画像処理部24は画像データを用いて所定の演算処理を行って、この演算結果に基づいてシステム制御部50は露光制御および測距制御を行う。これによって、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、およびEF(フラッシュプリ発光)処理が実行される。また、画像処理部24は画像データを用いて所定の演算処理を行って、この演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理を行う。
【0026】
A/D変換器23の出力である画像信号は、画像処理部24およびメモリ制御部15を介して、又はメモリ制御部15を介してメモリ32に直接画像データとして書き込まれる。メモリ32は所定枚数の静止画像および所定時間の動画像、そして、音声データを格納するための十分な記憶容量を備えている。図示の例では、メモリ32は画像表示用メモリ(ビデオメモリ)を兼ねている。
【0027】
D/A変換器13は、メモリ32に格納された画像データをアナログ信号に変換して表示部28に与える。これによって、メモリ32に書き込まれた画像データは画像として表示部28に表示される。
【0028】
不揮発性メモリ56は電気的に消去・記録可能なメモリであり、例えば、EEPROMが用いられる。この不揮発性メモリ56には、システム制御部50の動作用の定数およびプログラムなどが記憶されている。なお、このプログラムとは、例えば、後述するフローチャートを実行するためのプログラムをいう。
【0029】
システム制御部50はカメラ100の全体を制御する。システム制御部50は不揮発性メモリ56に記録されたプログラムを実行して、後述する各処理を行う。システムメモリ52には、例えば、RAMが用いられる。システムメモリ52には、システム制御部50の動作用の定数、変数、および不揮発性メモリ56から読み出されたプログラムなどが展開される。また、システム制御部50はメモリ32、D/A変換器13、および表示部28などを制御して画面表示制御を実行する。
【0030】
シャッターボタン61は、第1および第2のシャッタースイッチを備えており、シャッターボタン61の操作によってシステム制御部50に動作指示が入力される。第1シャッタースイッチは、シャッターボタン61の操作途中、所謂半押し(撮影準備指示)でオンとなって第1のシャッタースイッチ信号SW1を出力する。第1のシャッタースイッチ信号SW1によって、AF処理、AE処理、AWB処理、およびEF処理等が開始される。
【0031】
第2シャッタースイッチは、シャッターボタン61の操作完了、所謂全押し(撮影指示)でオンとなって第2シャッタースイッチ信号SW2を出力する。システム制御部50は第2シャッタースイッチ信号SW2に応じて撮像部22の信号読み出しから記録媒体200に画像データを書き込むまでの一連の撮影処理を開始する。
【0032】
モード切替スイッチ60は、システム制御部50の動作モードを静止画記録モード、動画記録モード、および再生モード等のいずれかに切り替える。
【0033】
表示部28に表示される種々の機能アイコンを選択操作することによって、操作部70の各操作部材は場面毎に機能が割り当てられて、各種機能ボタンとして動作する。機能ボタンとして、例えば、終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞込みボタン、および属性変更ボタン等がある。例えば、メニューボタンが押されると、各種設定を行うためのメニュー画面が表示部28に表示される。そして、ユーザーは表示部28に表示されたメニュー画面と4方向ボタンおよび/又はSETボタンとを用いて直感的に各種設定を行うことができる。
【0034】
図1に示すコントローラホイール73は、操作部70に含まれる回転操作可能な操作部材であり、方向ボタンととともに選択項目を指示する際など用いられる。
【0035】
電源制御部80は、例えば、電池検出回路、DC−DCコンバータ、およびスイッチ回路などを有している。そして、電源制御部80は電池の装着の有無、電池の種類、および電池残量の検出を行う。また、電源制御部80は検出結果およびシステム制御部50の指示に基づいてDC−DCコンバータを制御して、必要な電圧を必要な期間、記録媒体200を含む各部に供給する。
【0036】
電源部30は、例えば、アルカリ電池又はリチウム電池等の一次電池、NiCd電池、NiMH電池、又はLi電池等の二次電池、そして、ACアダプターなどを有している。インターフェース18は記録媒体200とカメラ100とのインターフェースである。
【0037】
図3は、図2に示すカメラ100で用いられる仮想デスクトップの概要を説明するための斜視図である。
【0038】
図3において、仮想デスクトップとは、仮想空間上の仮想アイテム(以下単にアイテムとも呼ぶ)と手などの指示体の動きに基づいて、仮想アイテムの移動、選択、および決定などの処理を実行するユーザーインターフェースのことをいう。図示の例では、仮想空間上の仮想アイテムをキーボード(以下仮想キーボードという)のキーとして、文字入力を行う場合について説明する。
【0039】
いま、右手302でカメラ100を把持して、左手301を撮影レンズ103の前に位置させて連続的に撮影を行って、指示体である左手を撮像した画像データを得る。そして、システム制御部50は画像データにおいて左手301を示す指示体画像データを背景画像から切り出して表示部28に表示する。ここでは、表示部28において指示体画像データに応じた画像(つまり、左手301)の下側(つまり、奥側)に仮想キーボード303が表示される。以下の説明では、左手の画像を単に左手ともいうことにする。
【0040】
図4は、図3に示す仮想キーボード303の種類の一例を示す図である。そして、図4(a)は平仮名入力仮想キーボード401を示す図であり、図4(b)は英数字大文字入力仮想キーボード402を示す図である。また、図4(c)は英数字小文字入力仮想キーボード403を示す図であり、図4(d)はPC配列仮想キーボード404を示す図である。
【0041】
図4(a)〜図4(c)に示すように、ここでは、仮想キーボード303として、例えば、平仮名入力のための仮想キーボード401、英数字大文字入力のための仮想キーボード402、および英数字小文字入力のための仮想キーボード403が選択的に用いられる。なお、図4(d)に示すPCで用いられるキーボードのキー配列を有するPC配列仮想キーボード404を用いるようにしてもよく、記号および絵文字などを仮想キーボードに含めるようにしてもよい。また、以下の説明では、図4(a)〜図4(c)に示す3種類の仮想キーボードを切り替えて用いる例について説明するが、2種類以上の仮想アイテム、つまり、仮想キーボードを選択的に用いるようにすればよい。
【0042】
図3に示す例では、図4(a)に示す平仮名入力仮想キーボード401が仮想キーボードとして表示部28に表示され、仮想キーボードのうち一部の平仮名のみが表示部28に表示されている。他の平仮名を表示させる際には、固定された仮想キーボード303をカメラ100で写しているような感覚をユーザーに持たせるようにする。
【0043】
具体的には、カメラ100を把持している右手302を上下左右に移動させると、その移動距離に連動して仮想キーボード303の表示範囲が移動する。カメラ100と仮想キーボード303とを連動させる際には、例えば、ジャイロを用いて方向および距離を推定する手法が用いられる。又は背景の被写体においてフレーム間マッチングを行って動きベクトルを検出し方向および距離を推定する手法を用いるようにしてもよい。
【0044】
仮想キーボード303の表示範囲を移動する手法は、上記の手法に限らず、ユーザーがキーボードを動かすようにしてもよい。
【0045】
図5は、図3に示す仮想キーボードの表示範囲を移動する手法の一例を説明するための図である。そして、図5(a)〜図5(c)は仮想キーボードを移動させる際の手の形を示す図である。
【0046】
いま、図5(a)に示すように、左手301をパーの形に広げた後、図5(b)に示すように仮想キーボード303を掴むようにして移動させるとする。画像データから図5(a)に示す人間の肌色をしている5本の指を検出したと判定すると、システム制御部50は仮想キーボード303の移動モードに遷移する。そして、図5(b)に示すように、5本の指が短くなると、システム制御部50は仮想キーボード303を左手301の移動する方向と距離に連動させて移動させる。また、例えば、図5(c)に示すように、左手301において人差し指と親指とによって文字を摘む形状を検出したら、システム制御部50は文字選択モードとなる。この際には、システム制御部50は画像データから人間の肌色と2本の指を検出することになる。
【0047】
上述の説明では、仮想キーボード303の一部を表示部28に表示するようにしたが、仮想キーボード303の全体を表示部28に表示するようにしてもよい。加えて、図3に示す例では、右手302でカメラ100を把持して、左手301で文字入力を行う場合について説明したが、左右いずれの手でもカメラ100を把持できるデザインであれば、右手および左手のいずれを用いて文字入力を行うようにしてもよい。つまり、右利きおよび左利きのいずれであっても文字入力を行うことができる。
【0048】
図6は、図3に示す仮想キーボード303による文字入力の処理を説明するためのフローチャートである。なお、図示のフローチャートで示す処理はシステム制御部50で実行される。
【0049】
図2、図3、および図6を参照して、文字入力を行う際には、ユーザーは操作部70を操作して文字入力モードに切り替える(ステップS501)。ここでは、文字入力モードにおいて、ファイル名の変更、又はフォルダ新規作成によるフォルダ名の記入などを行うものとする。
【0050】
続いて、ユーザーは初期設定が済んでいるか否かを確認する(ステップS502)。ここで、初期設定とは仮想キーボード303の切り替えを行うための閾値が設定されていることをいう。この閾値の設定を行う際には、ユーザーの腕の長さを考慮して距離の設定を行う。
【0051】
初期設定が済んでいなければ(ステップS502において、NO)、ユーザーは右手302でカメラ100を把持して左手301を文字入力に支障のない範囲まで伸ばした状態とする。つまり、ユーザーは文字入力に支障のない最も遠い位置まで左手301を伸ばして測距を行う。そして、ユーザーが仮想キーボードの切り替えを行うのに好都合な位置で閾値を設定する。この閾値は少なくとも1つカメラ100に設定される(ステップS503)。
【0052】
このように、初期設定の際には、ユーザーが仮想キーボード303を切り替えやすい左手301の位置で閾値を決定する。なお、予めユーザーに対して2乃至3つ程度のテストを準備しておき、このテストに応じてユーザーが閾値を設定するようにしてもよい。
【0053】
初期設定が済んでいると(ステップS502において、YES)、ユーザーは、前述したようにして、左手301の撮影を行って画像データを得る。システム制御部50はこの画像データに応じて背景から左手301(左手画像)を切り出す(ステップS504)。なお、ステップS503に続いてステップS504の処理が行われる。
【0054】
左手301を背景から切り出す際には、システム制御部50は人間の肌色を検出して、その検出結果に応じて左手301を背景から切り出す。なお、手袋など装着して関係で手の肌色を識別できない場合には、例えば、ユーザーが左手301をパーの形にして撮影を数回行って、システム制御部50が手袋の色を学習するようにしてもよい。
【0055】
続いて、システム制御部50はカメラ100と左手301との距離を測定する。カメラ100と左手301との距離を測定して検出距離を得る際には、例えば、位相差AFが用いられる。位相差AFを用いてセパレータレンズで像を2つ形成し、2つの像のずれ量をラインセンサで計測して、カメラ100と左手301との距離を得る。さらには、カメラ100から赤外線又は超音波を左手301に照射して、その反射波が戻るまでの時間に応じて、カメラ100と左手301との距離を求めるようにしてもよい。そして、システム制御部50は表示部28において左手301の下側(つまり、奥側)に仮想キーボード303を表示するとともに、ゲージを表示する(ステップS505)。
【0056】
図7は、図6に示す処理で表示部28に表示された手およびゲージの一例を示す図である。
【0057】
上述のステップS505の処理によって、表示部28には左手301表示されるとともに、表示部28においてその右側にはゲージ620が表示される。なお、図7においては、仮想キーボード303は省略されている。ゲージ620は左手301が表示部28における左手301の位置を確認するために用いられる。
【0058】
図8は、図3に示す表示部28に表示される仮想キーボード303を説明するための図である。そして、図8(a)は平仮名入力仮想キーボードの表示を示す図であり、図8(b)は英数字大文字入力仮想キーボードの表示を示す図である。また、図8(c)は英数字小文字入力仮想キーボードの表示を示す図であり、図8(d)は平仮名入力仮想キーボードおよび英数字大文字入力仮想キーボードの重ね表示を示す図である。図8(e)は英数字大文字入力仮想キーボードおよび英数字小文字入力仮想キーボードの重ね表示を示す図である。
【0059】
また、図9は図3に示す仮想キーボード303の表示切り替えを説明するための図である。
【0060】
いま、図9において、カメラ100から左手301までの距離をkとし、カメラ100から左手301が離れる方向に沿って複数の領域範囲が規定されている。左手301は範囲(領域範囲)601〜範囲605の間で移動するものとする。また、符合606および609の各々はステップS503において決定された閾値を示す。そして、例えば、不揮発性メモリ56には、予め図9に示す範囲601〜範囲605が設定される。前述のようにして、閾値606および609が決定されると、システム制御部50は範囲601〜範囲605に関連付けて閾値606および609を不揮発性メモリ56に記録する。
【0061】
なお、図9において、範囲601〜範囲605の境界も閾値であり、ここではこの閾値を境界閾値とよび、初期設定によって決定された閾値を設定閾値と呼ぶことにする。
【0062】
システム制御部50は、連続的に撮影される画像データに応じて、カメラ100と左手301との距離が、左手301が現在位置する範囲(領域範囲)を超えたか否かを判定する(ステップS506)。例えば、左手301の現在位置が範囲601にあったとすると、システム制御部50は左手301が範囲602〜範囲605のいずれかに移動すると、システム制御部50は左手301が現在位置の範囲を外れて距離が増加する方向に移動したと判定する。
【0063】
左手301が現在の範囲を超えたと判定すると(ステップS506において、YES)、システム制御部50は左手301がいずれの範囲に移動したか否かを判定する(ステップS507)。ステップS507の処理においては、左手301が範囲601、602、又は603のいずれかに位置する場合を”A”とし、左手301が範囲604又は605に位置する場合を”B”とする。
【0064】
左手301が範囲601、602、又は603のいずれかに位置すると(ステップS507において、”A”)、システム制御部50は文字決定可能な状態であるとして、仮想キーボード303を透過率100%で表示部28に表示する(ステップS508)。
【0065】
ステップS508の処理においては、左手301が範囲601に位置する場合には、システム制御部50は、図8(a)に示すように、平仮名入力仮想キーボード401を表示部28に表示して、文字決定可能な状態とする。
【0066】
左手301が範囲602に位置する場合には、システム制御部50は、図8(b)に示すように、英数字大文字入力仮想キーボード402を表示部28に表示して、文字決定可能な状態とする。
【0067】
また、左手301が範囲603に位置する場合には、システム制御部50は、図8(c)に示すように、英数字小文字入力仮想キーボード403を表示部28に表示して、文字決定可能な状態とする。
【0068】
一方、左手301が範囲604又は605のいずれかに位置すると(ステップS507において、”B”)、システム制御部50は文字決定不可能な状態であるとして、後述するように、複数の仮想キーボードについて透過率に重み付けを行う。そして、複数の仮想キーボードを表示する(ステップS509)。
【0069】
ステップS509の処理においては、左手301が範囲604に位置する場合には、システム制御部50は、図8(d)に示すように、平仮名入力仮想キーボード401および英数字大文字入力仮想キーボード402の透過率に重み付けをして重ねて表示する。これによって、システム制御部50はユーザーに対して仮想キーボード303が切り替わり状態になることを直感的に認識させる。そして、システム制御部50は文字決定を不可能な状態とする。
【0070】
左手301が範囲605に位置する場合には、システム制御部50は、図8(e)に示すように、英数字大文字入力仮想キーボード402および英数字小文字入力仮想キーボード403の透過率に重み付けを行って重ねて表示部28に表示する。この際、システム制御部50は文字決定不可能な状態とする。
【0071】
図9に示すように、境界閾値607の手前(カメラ側)では、平仮名入力仮想キーボード401(仮想アイテムの一方)の透過率は100%であり、英数字大文字入力仮想キーボード402(仮想アイテムの他方)の透過率は0%(非表示)である。
【0072】
左手301の移動に応じて、徐々に透過率が変化して、閾値606において、平仮名入力仮想キーボード401および英数字大文字入力仮想キーボード402の透過率はともに50%となる。
【0073】
境界閾値608においては、平仮名入力仮想キーボード401の透過率が0%(非表示)となって、英数字大文字入力仮想キーボード402の透過率は100%となる。このように、範囲605においては、左手301がカメラ100から離れるにつれて、平仮名入力仮想キーボード401の透過率は徐々に低下し、英数字大文字入力仮想キーボード402の透過率は徐々に増加する。
【0074】
境界閾値610においては、英数字大文字入力仮想キーボード402の透過率が100%となって、英数字小文字入力仮想キーボード403の透過率は0%(非表示)となる。そして、徐々に透過率が推移して、設定閾値609において、英数字大文字入力仮想キーボード402の透過率が50%となって、英数字小文字入力仮想キーボード403の透過率が50%となる。
【0075】
境界閾値611において、英数字大文字入力仮想キーボード402の透過率が0%(非表示)となって英数字小文字入力仮想キーボード403の透過率が100%となる。
【0076】
なお、透過率の推移は、線形的および非線形的のいずれであってもよい。また、範囲604および範囲605各々の幅は、範囲601、602、および603が狭くなりすぎない程度に予め設定するようにしてもよく、ユーザーが設定するようにしてもよい。
【0077】
上述のようにして、仮想キーボード303を表示部28に表示した後、システム制御部50はステップS505の処理に戻る。つまり、ステップS508又はS509の処理を行った後、システム制御部50はステップS505の処理に戻る。
【0078】
ステップS506において、左手301が現在の範囲を超えないと判定すると(ステップS506において、NO)、システム制御部50は指で文字を決定したか否かについて判定する(ステップS510)。つまり、システム制御部50は仮想キーボード303で文字入力が行われたか(入力情報があったか)否かを判定する。
【0079】
文字入力が行われないと(ステップS510において、NO)、システム制御部50はステップ505の処理に戻る。一方、文字入力が行われると(ステップS510において、YES)、システム制御部50は入力した文字の確定を行って、当該文字を、後述する編集エリアに表示する(ステップS511)。
【0080】
図10は文字の選択および決定について説明するための図である。そして、図10(a)は文字を選択した状態を示す図であり、図10(b)は文字を決定した状態を示す図である。
【0081】
図5および図10を参照すると、いま、図5(c)に示すように、システム制御部50は左手301が人差し指と親指で文字をつまむ形状となったことを画像データから確認すると、文字選択モードとなる。ここでは、前述のように、画像データから人間の肌色および2本の指を検出することになる。
【0082】
図10(a)に示す例では、2本の指で1つの文字(“け”)が選択されている。文字選択モードとなって、図10(a)に示すように文字と対応する仮想アイテム(仮想キー)が選択されると、システム制御部50はユーザーが選択しようとする文字が分かりやすくなるように、選択中の文字を周囲の文字に比べて変化させる。これにより、ユーザーは選択中の文字と未選択の文字を区別することができる。図示の例では、選択中の文字を大きく強調する。なお、大きくする代わりに選択中の文字の色を変化させるようにしもよく、いずれにしても選択中の文字を他の文字から視覚的に特徴づけるようにすればよい。
【0083】
文字を決定する際には、図10(b)に示すように、ユーザーは、例えば、選択中の文字を2本の指で摘む動作を行う。システム制御部50はこの摘む動作を確認すると、選択中の文字の入力を決定することになる。摘む動作を確認する際には、システム制御部50は画像データに応じて人間の肌色、2本の指の接着状態又は肌色領域が輪の状態と成ったか否かを検出することになる。
【0084】
この際、システム制御部50は、ユーザーに文字を決定した感触を与えるため、指でつまんだ文字が潰れて弾けるようなグラフィック効果を表示部28に表示する。なお、文字の選択および決定の際の左手301の形態およびグラフィック効果は図示の例に限らない。
【0085】
図11は、図3に示す表示部28に表示される編集エリア901における文字の変換を説明するための斜視図である。
【0086】
いま、ユーザーが仮想キーボード303を用いて、「クリスマス」という文字列を入力しようとしているとする。図示のように、表示部28においてその下側には編集エリア901が表示され、編集エリア901には「クリスマス」という文字列が途中まで表示されている。ここでは、最後の「す」を決定する直前の状態が示されている。
【0087】
前述のステップS511において、ユーザーが仮想キーボード303の文字「す」を指で摘んで決定すると、システム制御部50は当該文字「す」を編集エリア901においてカーソルが位置づけられた位置に「す」を表示する。
【0088】
続いて、システム制御部50はカタカナ又は漢字に変換する変換キーが押されたか否かを判定する(ステップS512)。カタカナ変換又は漢字変換に用いる変換キーとして、操作部70を用いるようにしてもよく、仮想キーボード303に変換ボタンを配置して、この変換ボタンを用いるようにしてもよい。
【0089】
図11に示す例では、ユーザーが変換キーを操作すると(ステップS513において、YES)、システム制御部50は「くりすます」の文字列を「クリスマス」の文字列にカタカナ変換する。つまり、システム制御部50は変換キーの操作に応じてカタカナ/漢字の選択を行って文字列の決定を行う(ステップS513)。
【0090】
なお、1文字を削除するバックスペースキーとして、変換キーと同様に操作部70を用いるようにしてもよく、仮想キーボード303にバックスペースボタンを配置して、このバックスペースボタンを用いるようにしてもよい。
【0091】
一方、変換キーが操作されないと(ステップS512において、NO)、システム制御部50はステップS505の処理に戻る。
【0092】
ステップS513の処理が終了すると、システム制御部50は文字編集完了キーが操作されたか否かを判定する(ステップS514)。そして、文字編集完了キーが操作されないと(ステップS514において、NO)、システム制御部50はステップS505の処理に戻る。
【0093】
一方、文字編集完了キーが操作されると(ステップS514において、YES)、システム制御部50は文字編集を確定して(ステップS515)、文字入力処理を終了する。
【0094】
なお、完了編集完了キーとして操作部70を用いるようにしてもよく、仮想キーボード303に文字編集完了ボタンを配置して、この文字編集完了ボタンを用いるようにしてもよい。
【0095】
上述の実施の形態では、撮影した左手301を画像データから切り出して表示部28に表示するようにしたが、左手301を別のイメージ画像に置換するようにしてもよい。また、文字選択中に他人の手が不意に侵入した場合に対処するため、文字入力モードに切り替えた際に初めて認識した指のみを指示体として他の指については無視するようにする。
【0096】
このように、本発明の実施の形態では、指示体である手の奥行きを変えることによって、平仮名およびアルファベットなどの入力モード変換を容易にしかも片手で行うことができる。
【0097】
上述の説明から明らかなように、図2において、撮像部22、画像処理部24、およびシステム制御部50などが撮像手段として機能する。また、システム制御部50は測距手段(測距センサ)として機能するとともに、表示制御手段、および情報入力制御手段として機能する。さらに、操作部70およびシステム制御部50は閾値設定手段として機能し、例えば、不揮発性メモリ56が記憶手段である。
【0098】
以上、本発明について実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
【0099】
例えば、上記の実施の形態の機能を制御方法として、この制御方法を情報入力装置に実行させるようにすればよい。また、上述の実施の形態の機能を有するプログラムを制御プログラムとして、この制御プログラムを情報入力装置が備えるコンピュータに実行させるようにしてもよい。なお、制御プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録される。
【0100】
この際、制御方法および制御プログラムは、少なくとも撮像ステップ、測距ステップ、表示制御ステップ、および情報入力制御ステップを有することになる。
【0101】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記録媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0102】
100 デジタルカメラ
15 メモリ制御部
22 撮像部
24 画像処理部
28 表示部
50 システム制御部
61 シャッターボタン
70 操作部
72 電源スイッチ
200 記録媒体

【特許請求の範囲】
【請求項1】
表示部に表示された仮想アイテムを用いて情報の入力を行う情報入力装置であって、
前記仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る撮像手段と、
前記指示体と前記撮像手段との距離を検出して検出距離を得る測距手段と、
複数の仮想アイテムおよび前記指示体画像データに対応する指示体画像を前記表示部に表示する表示制御手段と、
前記検出距離に基づいて前記仮想アイテムを選択する選択手段と、
前記選択された仮想アイテムと対応する情報を入力情報として設定する設定手段とを有することを特徴とする情報入力装置。
【請求項2】
前記指示体と前記撮像手段との距離に応じた少なくとも1つの閾値を設定閾値として設定する閾値設定手段と、
前記指示体が前記撮像手段から離れる方向に沿って規定された複数の領域範囲を記憶する記憶手段とを有し、
前記表示制御手段は、前記検出距離に応じて前記設定閾値が属する領域範囲に前記指示体が位置する判定すると、2種類の仮想アイテムを前記表示部に表示するようにしたことを特徴とする請求項1に記載の情報入力装置。
【請求項3】
前記表示制御手段は前記2種類の仮想アイテムの透過率を異ならせて前記表示部に表示することを特徴とする請求項2に記載の情報入力装置。
【請求項4】
前記指示体が前記設定閾値に位置する際には、前記表示制御手段は前記2種類の仮想アイテムの透過率を等しくすることを特徴とする請求項3に記載の情報入力装置。
【請求項5】
前記設定閾値が属する領域範囲の境界においては、前記表示制御手段は前記2種類の仮想アイテムの一方の透過率を100%とし、前記2種類の仮想アイテムの他方を非表示とし、前記指示体が、前記設定閾値が属する領域範囲で前記撮像手段から離れる方向に移動するにつれて前記2種類の仮想アイテムの一方の透過率を低下させ、前記2種類の仮想アイテムの他方の透過率を増加させることを特徴とする請求項3又は4に記載の情報入力装置。
【請求項6】
前記仮想アイテムは前記情報の入力として文字入力を行うための仮想キーボードであることを特徴とする請求項1〜5のいずれか1項に記載の情報入力装置。
【請求項7】
前記表示制御手段は、前記選択された仮想アイテムを他の仮想アイテムと区別して表示するようにしたことを特徴とする請求項1〜6のいずれか1項に記載の情報入力装置。
【請求項8】
前記指示体は指であり、前記情報入力制御手段は前記指の形状に応じて前記仮想アイテムを選択するようにしたことを特徴とする請求項1〜7のいずれか1項に記載の情報入力装置。
【請求項9】
表示部に表示された仮想アイテムを用いて情報の入力を行う情報入力装置での制御方法であって、
撮像部によって前記仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る撮像ステップと、
測距センサによって前記指示体と前記撮像部との距離を検出して検出距離を得る測距ステップと、
複数の仮想アイテムおよび前記指示体画像データに対応する指示体画像を前記表示部に表示する表示制御ステップと、
前記検出距離に基づいて前記仮想アイテムを選択する選択ステップと、
前記選択された仮想アイテムと対応する情報を入力情報として設定する設定ステップとを有することを特徴とする制御方法。
【請求項10】
表示部に表示された仮想アイテムを用いて情報の入力を行う情報入力装置が備えるコンピュータに、
撮像部によって前記仮想アイテムを操作する指示体を連続的に撮像して指示体画像データを得る撮像ステップと、
測距センサによって前記指示体と前記撮像部との距離を検出して検出距離を得る測距ステップと、
複数の仮想アイテムおよび前記指示体画像データに対応する指示体画像を前記表示部に表示する表示制御ステップと、
前記検出距離に基づいて前記仮想アイテムを選択する選択ステップと、
前記選択された仮想アイテムと対応する情報を入力情報として設定する設定ステップとを実行させることを特徴とする制御プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2012−248067(P2012−248067A)
【公開日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願番号】特願2011−120342(P2011−120342)
【出願日】平成23年5月30日(2011.5.30)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】