説明

携帯端末装置、マウスアプリケーションプログラム、及び携帯端末装置をワイヤレスマウス装置として用いる方法

【課題】 携帯電話機にワイヤレスマウス機能を設ける。
【解決手段】 カメラ部により撮像される画像の前後のフレーム間における変位量に基づいて、携帯電話機40の筐体の移動方向及び移動距離に対応する移動ベクトル情報を算出する。そして、この移動ベクトル情報を近距離無線通信ユニットを介して、パーソナルコンピュータ装置41側の近距離無線通信ユニット42に近距離無線送信する。パーソナルコンピュータ装置の制御部は、この携帯電話機から受信された移動ベクトル情報に基づいて、モニタ装置44上に表示しているポインタPを移動表示制御する。これにより、携帯電話機をワイヤレスマウス装置として用いて、モニタ装置44上に表示されているポインタPを移動操作することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えばブルートゥース(Bluetooth:登録商標)や赤外線通信機能(IrDA:Infrared Data Association)等の近距離無線通信機能や、非接触無線通信機能(RFID:Radio Frequency IDentification)、及びカメラ機能を備えた携帯電話機、PHS電話機(PHS:Personal Handyphone System)、PDA装置(PDA:Personal Digital Assistant)等の携帯機器に適用して好適な携帯端末装置に関し、特に上記携帯機器に対してワイヤレスマウス機能を持たせることを可能とした携帯端末装置、マウスアプリケーションプログラム、及び携帯端末装置をワイヤレスマウス装置として用いる方法に関する。
【背景技術】
【0002】
特開2004−164559号の公開特許公報(特許文献1)に、筐体に設けられたカメラで撮像された画像の変位に基づいて、表示部に表示したポインタを移動操作可能とする携帯端末装置が開示されている。
【0003】
この携帯端末装置の場合、ポインティングモードが指定されると、カメラにより操作台面を連続的に撮像し、連続する2枚同士を比較して該各画像間の変位を検出する。そして、この各画像間の変位に基づいて当該携帯端末装置の移動方向及び移動量を検出し、この移動方向及び移動量に対応させて、表示部上のポインタを移動制御する。これにより、当該携帯端末装置に設けられた表示部上のポインタを移動操作することができる。
【0004】
ここで、ノート型のパーソナルコンピュータ装置を携帯する場合、専用のマウス装置も一緒に携帯し、移動先でこのマウス装置をノート型のパーソナルコンピュータ装置に装着して使用するのが一般的である。
【0005】
【特許文献1】特開2004−164559号公報(第9頁:図3)
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、ノート型のパーソナルコンピュータ装置を携帯する場合、マウス装置も一緒に持ち歩く必要があるため、携帯する荷物が増え、大変不便な問題があった。
【0007】
なお、上述の特許文献1に開示されている携帯端末装置の場合、当該携帯端末装置の筐体に対して一体的に設けられた表示部上のポインタを移動操作するものである(=当該携帯端末装置の表示部のポインタを移動操作するものである。)。このため、当該携帯端末装置から離れて載置されている据え置き型のパーソナルコンピュータ装置やノート型のパーソナルコンピュータ装置のモニタ装置に表示されたポインタを移動操作することは困難となる。
【0008】
本発明は上述の課題に鑑みてなされたものであり、物理的に別体とされた表示装置上に表示されたポインタを移動操作可能とすることで、例えばノート型のパーソナルコンピュータ装置を携帯する場合でも、専用のマウス装置も一緒に携帯することを不要とすることができるような携帯端末装置、マウスアプリケーションプログラム、及び携帯端末装置をワイヤレスマウス装置として用いる方法の提供を目的とする。
【課題を解決するための手段】
【0009】
本発明に係る携帯端末装置は、被写体の撮像を行うカメラ部を備えた携帯端末装置であって、上述の課題を解決するための手段として、
マウスモード時に上記カメラ部により順次撮像された各画像間の変位量に基づいて、当該携帯端末装置の筐体の移動方向及び移動距離を検出する移動検出手段と、
近距離無線通信手段と、
上記移動検出手段で検出された上記移動方向及び移動距離を示す情報を受信して、表示手段上に表示しているポインタを移動表示制御する被操作装置に対して、該移動検出手段で検出された上記移動方向及び移動距離を示す情報を近距離無線送信するように上記近距離無線通信手段を制御する制御手段と
を有する。
【0010】
また、本発明に係るマウスアプリケーションプログラムは、上述の課題を解決するために、
カメラ部により順次撮像された各画像間の変位量に基づいて、該カメラ部が設けられた筐体の移動方向及び移動距離を検出するように移動検出手段を制御する移動検出制御手段としてコンピュータを機能させ、
コンピュータを上記移動検出制御手段として機能させることで検出された上記移動方向及び移動距離を示す情報を、この移動方向及び移動距離を示す情報を受信して、表示手段上に表示しているポインタを移動表示制御する被操作装置に対して近距離無線送信するように近距離無線通信手段を制御する近距離無線通信制御手段としてコンピュータを機能させる。
【0011】
また、本発明に係る携帯端末装置をワイヤレスマウス装置として用いる方法は、上述の課題を解決するための手段として、
移動検出手段が、携帯端末装置に設けられたカメラ部により順次撮像された各画像間の変位量に基づいて、該携帯端末装置の筐体の移動方向及び移動距離を検出するステップと、
上記ステップで上記移動検出手段により検出された上記移動方向及び移動距離を示す情報を、近距離無線通信手段が、この移動方向及び移動距離を示す情報を受信して、表示手段上に表示しているポインタを移動表示制御する被操作装置に対して近距離無線送信するステップと
を有する。
【0012】
このような本発明は、カメラ部で順次撮像される画像の変位量に基づいて、筐体の移動方向及び移動距離を検出し、この検出した移動方向及び移動距離を示す情報を、該移動方向及び移動距離を示す情報を受信して表示手段上に表示しているポインタを移動表示制御する被操作装置に対して近距離無線送信する。これにより、携帯端末装置をワイヤレスマウス装置として用いることを可能とすることができる。
【発明の効果】
【0013】
本発明は、携帯端末装置をワイヤレスマウス装置として用いることを可能とすることができるため、例えばノート型のパーソナルコンピュータ装置を携帯する場合でも、専用のマウス装置も一緒に携帯することを不要とすることができる。
【発明を実施するための最良の形態】
【0014】
本発明は、カメラ機能、及び無線通信距離が数十cmの非接触通信機能(RFID:Radio Frequency IDentification)、或いは例えばブルートゥース(Bluetooth:登録商標)や赤外線通信機能(IrDA:Infrared Data Association)等の無線通信距離が数十mの近距離無線通信機能を備えた携帯電話機に適用することができる。
【0015】
[携帯電話機の構成]
〔電気構成〕
この本発明の実施の形態となる携帯電話機は、図1に示すように基地局との間で無線通信を行うアンテナ1及び通信回路2と、着信音や受話音声の音響出力を得るためのスピーカ部3と、送話音声等を集音するためのマイクロホン部4と、画像(動画像、静止画像等)や文字等を表示するための表示部5と、所定の入力操作を行うための操作部6とを有している。
【0016】
また、この携帯電話機は、発着信等を光で知らせるための発光部7(LED:Light Emitting Diode)と、所望の被写体の静止画像或いは動画像を撮像するためのカメラ部8と、当該携帯電話機の筐体を振動させて発着信等をユーザに知らせるためのバイブレーションユニット9と、当該携帯電話機をワイヤレスマウス装置として用いるマウスモード時に、当該携帯電話機の移動操作に応じた移動ベクトル情報を無線送信する、例えば無線通信距離が数十mの近距離無線通信アンテナ10及び近距離無線通信ユニット11とを有している。
【0017】
また、この携帯電話機は、上記マウスモード時に当該携帯電話機の移動操作に応じた移動ベクトルを算出して上記移動ベクトル情報を形成する移動ベクトル算出部12と、通信処理を行うための通信処理プログラム(コミュニケーションプログラム)や各種アプリケーションプログラムの他、当該携帯電話機を音楽プレーヤ装置として使用する際に再生される音楽データ、スケジュール帳、電話帳、発着信した電子メールのデータ、電話や電子メールの発着信履歴等が記憶されたメモリ13と、当該携帯電話機全体の動作を制御する制御部16とを有している。
【0018】
上記メモリ15に記憶されているアプリケーションプログラムとしては、当該携帯電話機を音楽プレーヤ装置として使用する際に起動される音楽プレーヤプログラムや、カメラ部8で所望の被写体の撮像を行う際に起動されるカメラ制御プログラムの他、当該携帯電話機をワイヤレスマウス装置として用いる際に起動される「マウスアプリケーションプログラム」や、このマウスアプリケーションプログラムを実行することで上記移動ベクトル算出部12で形成された移動ベクトル情報を近距離無線送信するための近距離無線通信プログラム等が記憶されている。
【0019】
〔外観構成〕
図2(a)に当該実施の形態の携帯電話機の正面図を、図2(b)に当該実施の形態の携帯電話機の背面図を、図2(c)に当該実施の形態の携帯電話機の側面図をそれぞれ示す。この図2(a)〜(c)に示すように、当該携帯電話機は、上筐体20及び下筐体21を当該各筐体20、21の長手方向に沿って相互にスライド操作するスライド型の携帯電話機となっている。
【0020】
上筐体20には、表示部5と、この表示部5の下端部に近接して設けられた回転操作部22と、回転操作部22を間に挟むかたちで設けられたオンフックキー23及びオフフックキー24と、オンフックキー23の下側(反表示部5側)に設けられた第1のソフトキー25と、オフフックキー24の下側(反表示部5側)に設けられた第2のソフトキー26等が設けられている。なお、下筐体21側には数字キー等の主操作部が設けられており、この主操作部は、各筐体20、21を相互にスライド操作した際に露出するようになっている。
【0021】
回転操作部22は、決定キー27と、この決定キー27と同軸となり、かつ、決定キー27の周囲を取り囲むように設けられたジョグダイヤル28と、さらに決定キー27と同軸となり、かつ、このジョグダイヤル28の周囲を取り囲むように設けられた回転操作キー29とを有している。
【0022】
決定キー27は、押圧操作式のキー、回転操作キー29は、360度の回転操作式のキーとなっている。また、ジョグダイヤル28は、押圧操作式のキーとなっており、上下左右の他、右斜め上、左斜め下等の斜めの方向の押圧操作も可能となっている。
【0023】
下筐体21には、図2(b)に示すようにカメラ部8が設けられており、このカメラ部8に隣接して照明用の発光部30が設けられている。このカメラ部8及び発光部30は、非撮像時にはカメラカバー31により被覆されているのであるが、撮像時にカメラカバー31を下筐体21の長手方向に沿ってスライド移動させると、該カメラ部8及び発光部30が露出するようになっている。
【0024】
このような携帯電話機をワイヤレスマウス装置として用いる場合には、図3に点線で示すように上筐体20の表示部5上にユーザの掌を位置させ、かつ、中指を第1のソフトキー25上に乗せ、人差し指を第2のソフトキー26上に乗せた状態で、当該携帯電話機を手で把持する。
【0025】
マウスアプリケーションプログラムが起動されると、第1のソフトキー25は右クリックキーとして機能し、第2のソフトキー26は左クリックキーとして機能するようになる。また、このマウスアプリケーションには、カメラ部8で撮像された画像に基づいて筐体の移動を検出してポインタを移動操作する「キー+カメラモード」と、ジョグダイヤル28を方向指示キーとして用いてポインタを移動操作する「キーモード」とが設けられている。
【0026】
「キー+カメラモード」の選択時には、ユーザは、前述のように当該携帯電話機を把持した状態で筐体を移動操作してポインタを移動操作し、中指で第1のソフトキー25を操作することで右クリック操作を行い、人差し指で第2のソフトキー26を操作することで左クリック操作を行う。
【0027】
また、「キーモード」の選択時には、ユーザは、前述のように当該携帯電話機を把持した状態で、人差し指或いは中指等でジョグダイヤル28を押圧操作してポインタを移動操作し、中指で第1のソフトキー25を操作することで右クリック操作を行い、人差し指で第2のソフトキー26を操作することで左クリック操作を行う。
【0028】
このような「キー+カメラモード」及び「キーモード」は、図2(a)及び図3に示すマウスモード切換キー33を押圧操作することで切り替え可能となっており、制御部14は、デフォルトとして「キー+カメラモード」を設定し、以後、マウスモード切換キー33が押圧操作される毎に「キー+カメラモード」←→「キーモード」を切り替えて設定するようになっている。
【0029】
ここで、上記「キー+カメラモード」時には、後述するようにカメラ部8で撮像された画像に基づいて当該携帯電話機の移動方向及び移動量を検出するようになっている。このため、普通のマウス装置のように平面に沿って当該携帯電話機を2次元的に移動操作してポインタを移動操作することも可能であり、また、所望の空間内で当該携帯電話機を3次元的に移動操作してポインタを移動操作することも可能となっている。
【0030】
このうち、普通のマウス装置のように平面に沿って当該携帯電話機を2次元的に移動させてポインタを移動操作する場合には、図2(c)に示すように操作面に対してカメラ部8のカメラカバー31が当接することで、カメラ部8と操作面との間に、カメラカバー31の厚み分の適度な間隙が形成され、カメラ部8に操作面が近接した状態でも、該操作面の画像を良好に撮像可能となっている。
【0031】
なお、この例では、カメラ部8を下筐体21側に設けることとしたが、カメラ部8は、上筐体20側や、いずれかの筐体20、21の側面部等に設けるようにしてもよい。
【0032】
[ワイヤレスマウス動作]
次に、このような携帯電話機をワイヤレスマウス装置として用いる場合、操作部6を介して機能選択メニューからマウス機能を選択操作する。制御部14は、このマウス機能の選択操作を検出すると、メモリ13に記憶されている「マウスアプリケーションプログラム」を読み出し、図4に示すフローチャートをスタートさせる。
【0033】
このフローチャートをスタートさせると、制御部14は、前回のマウスアプリケーションプログラムの実行時にカメラ部8で撮像された画像や各種演算値をクリアする初期化処理を行い、処理をステップS2に進める。
【0034】
上述のように、このマウスアプリケーションプログラムの起動時には、制御部14は、カメラ部8で撮像された画像に基づいて筐体の移動を検出してポインタを移動操作する「キー+カメラモード」をデフォルトとして設定するようになっている。また、この「キー+カメラモード」と、ジョグダイヤル28を方向指示キーとして用いてポインタを移動操作する「キーモード」とは、マウスモード切換キー33を押圧操作することで切り替え可能となっている。
【0035】
このため、制御部14は、処理をステップS2に進めると、マウスモード切換キー33を押圧操作の有無を判別することで、マウスモードの切り替えが指定されたか否かを判別する。そして、マウスモード切換キー33の押圧操作を検出しない場合には、ユーザからマウスモードの切り替えが指定されていないことを示すため、上記デフォルトとして設定した「キー+カメラモード」を実行すべく、処理をステップS3に進める。
【0036】
これに対して、マウスモード切換キー33の押圧操作を検出した場合には、ユーザからマウスモードの切り替えが指定されたことを示すため、制御部14は、上記デフォルトとして設定した「キー+カメラモード」から「キーモード」へマウスモードを変更し、処理をステップS9に進める。
【0037】
次に、「キー+カメラモード」を実行すべく、処理をステップS3に進めた場合、制御部14は、カメラ部8を起動制御して、処理をステップS4に進める。なお、カメラ部8を起動すると、発光部30の点灯操作も可能となり、ユーザは、周囲の明るさに応じてこの発光部30を点灯操作してカメラ部8による撮像を補助するようになっている。
【0038】
ステップS4では、制御部14が、カメラ部8で撮像された画像を連続するフレーム間で比較し、前フレームと現在フレームの各画像の変位量を算出するように移動ベクトル算出部12を制御する。そして、ステップS5において、この各画像間の変位量の有無を判別する。
【0039】
上述のように、この「キー+カメラモード」時には、ユーザは、当該携帯電話機の筐体を2次元的或いは3次元的に移動操作する。当該携帯電話機の筐体を2次元的に操作した場合には、カメラ部8により例えばマウスパッドや机の表面等の画像が撮像されることとなる。また、当該携帯電話機の筐体を3次元的に操作した場合には、カメラ部8により例えばオフィスの背景等の画像が撮像されることとなる。制御部14は、このようにカメラ部8で撮像される画像に基づいて、前フレームと現在フレームの各画像の変位量を検出することとなる。
【0040】
上記ステップS5において、前フレームと現在フレームの各画像の変位量が検出されないということは、当該携帯電話機の筐体が移動操作されていないことを示すため、制御部14は処理をステップS4に戻し、上記各フレーム間の変位量の検出を継続して実行する。
【0041】
これに対して、上記ステップS5において、前フレームと現在フレームの各画像の変位量が検出されたということは、当該携帯電話機の筐体が移動操作されたことを示す。このため、制御部14は処理をステップS6に進め、移動ベクトル算出部12で算出された上記各画像間の変位量に対応する移動ベクトル情報を送信するように近距離無線通信ユニット11を制御する。
【0042】
これにより、例えば図5に示すように当該携帯電話機40の近距離無線通信ユニット11及び近距離無線通信アンテナ10を介して、据え置き型のパーソナルコンピュータ装置41に外部接続(或いは内蔵)された近距離無線通信ユニット42及び近距離無線通信アンテナ43に対して上記移動ベクトル情報が近距離無線送信されることとなる。
【0043】
パーソナルコンピュータ装置41は、この近距離無線通信ユニット42及び近距離無線通信アンテナ43で受信された上記移動ベクトル情報で示される方向及び移動量となるように、モニタ装置44に表示しているポインタPを移動表示制御する。これにより、当該携帯電話機の2次元的或いは3次元的な移動操作に対応させて、モニタ装置44上のポインタPを移動操作することができる。
【0044】
このように移動ベクトル情報を送信すると、制御部14は、図4のフローチャートのステップS7に処理を進め、マウスモード切換キー33の押圧操作の有無を判別する。マウスモード切換キー33の押圧操作を検出した場合には、当該「キー+カメラモード」から「キーモード」への変更がユーザから指定されたことを示すため、処理をステップS9に進める。
【0045】
これに対して、マウスモード切換キー33の押圧操作を検出しない場合には、処理をステップS8に進め、当該マウスモードの終了が指定されたか否かを判別する。当該マウスモードの終了が指定されたものと判別した場合、制御部14は、そのままこの図4のフローチャートを終了し、当該マウスモードの終了が指定されていないものと判別した場合には、制御部14は、処理をステップS4に戻し、上述の各フレーム間の画像の変位量の検出を継続して実行する。これにより、ユーザからマウスモードの終了が指定されるまでの間(当該携帯電話機をワイヤレスマウス装置として用いている間)、連続する各フレームの画像が順次比較され、この各画像の変位量に基づいて、上記モニタ装置44上のポインタPが移動表示制御されることとなる。
【0046】
なお、この図4のフローチャートには図示していないが、制御部14は、このような当該携帯電話機の筐体の移動操作の検出と共に、図3に示した第1のソフトキー25及び第2のソフトキー26の押圧操作の有無を監視している。そして、第1のソフトキー25の押圧操作を検出した場合には、右クリック操作を示す操作コマンドを上記パーソナルコンピュータ装置41側の近距離無線通信ユニット42に近距離無線送信するように近距離無線通信ユニット11を制御し、また、第2のソフトキー26の押圧操作を検出した場合には、左クリック操作を示す操作コマンドを上記パーソナルコンピュータ装置41側の近距離無線通信ユニット42に近距離無線送信するように近距離無線通信ユニット11を制御する。
【0047】
一方、上記ステップS2或いは上記ステップS7において、マウスモード切換キー33の押圧操作を検出することで処理をステップS9に進めると、制御部14は、「キー+カメラモード」から「キーモード」へマウスモードを変更し、図3に示すジョグダイヤル28の操作の有無を判別する。
【0048】
すなわち、上述のように、この「キーモード」時においては、ユーザは、ジョグダイヤル28を方向指示キーとして用いて上記ポインタPを移動操作するようになっている。このため、制御部14は、「キーモード」へマウスモードを変更すると、当該ステップS9においてジョグダイヤル28の操作の有無を判別する。
【0049】
ジョグダイヤル28の操作を検出しないということは、ユーザからポインタPの移動操作が指示されていないことを意味する。このため、制御部14は、ジョグダイヤル28の操作が検出されない間は、処理をステップS12及びステップS13に進め、マウスモードの変更指示の有無や、当該マウスモードの終了指示の有無を判別することとなる。
【0050】
これに対して、ジョグダイヤル28の操作を検出したということは、ユーザからポインタPの移動操作が指示されたことを意味する。また、ジョグダイヤル28の上、下、左、右、右斜め上、左斜め下等の操作は、そのままポインタPの移動方向を示し、ジョグダイヤル28の連続操作時間は、ポインタPの移動量を示す。
【0051】
このため、制御部14は、ステップS10において、ジョグダイヤル28の操作で指定された、例えば上下左右、右斜め上、左斜め下等の移動方向を検出すると共に、該ジョグダイヤル28の連続操作時間からポインタPの移動量を算出し、この検出した移動方向及び算出した移動量に対応する移動ベクトル情報を形成するように移動ベクトル算出部12を制御する。そして、ステップS11において、この移動ベクトル算出部12で形成された移動ベクトル情報を近距離無線送信するように近距離無線通信ユニット11を制御する。
【0052】
これにより、ジョグダイヤル28の操作で指定された移動方向に、該ジョグダイヤル28の連続操作時間に対応する移動量だけ、上記モニタ装置44上のポインタPが移動制御されることとなる。
【0053】
このように移動ベクトル情報を送信すると、制御部14は、ステップS12に処理を進め、マウスモード切換キー33の押圧操作の有無を判別する。マウスモード切換キー33の押圧操作を検出した場合には、当該「キーモード」から「キー+カメラモード」への変更がユーザから指定されたことを示すため、処理を上記ステップS3に進める。
【0054】
これに対して、マウスモード切換キー33の押圧操作を検出しない場合には、処理をステップS13に進め、当該マウスモードの終了が指定されたか否かを判別する。当該マウスモードの終了が指定されたものと判別した場合、制御部14は、そのままこの図4のフローチャートを終了し、当該マウスモードの終了が指定されていないものと判別した場合には、制御部14は、処理をステップS9に戻し、上述のジョグダイヤル28の操作の有無の判別を継続して実行する。これにより、ユーザからマウスモードの終了が指定されるまでの間(当該携帯電話機をワイヤレスマウス装置として用いている間)、ジョグダイヤル28の操作に対応して、上記モニタ装置44上のポインタPが移動表示制御されることとなる。
【0055】
なお、この「キーモード」時においても、制御部14は、上記「キー+カメラモード」時と同様に、図3に示した第1のソフトキー25及び第2のソフトキー26の押圧操作の有無を監視している。そして、第1のソフトキー25の押圧操作を検出した場合には、右クリック操作を示す操作コマンドを上記パーソナルコンピュータ装置41側の近距離無線通信ユニット42に近距離無線送信するように近距離無線通信ユニット11を制御し、また、第2のソフトキー26の押圧操作を検出した場合には、左クリック操作を示す操作コマンドを上記パーソナルコンピュータ装置41側の近距離無線通信ユニット42に近距離無線送信するように近距離無線通信ユニット11を制御する。
【0056】
[変位量の検出動作]
次に、上述の図4のフローチャートのステップS4における、フレーム間の変位量の検出動作を詳細に説明する。このフレーム間の変位量の検出動作は、図6のフローチャートに示すようになっている。この図6のフローチャートは、当該マウスアプリケーションプログラムの起動時にデフォルトとして「キー+カメラモード」が設定され、或いはユーザによりマウスモード切換キー33が押圧操作されることで「キーモード」から「キー+カメラモード」へマウスモードが変更されたタイミングでスタートとなる。
【0057】
制御部14は、この「キー+カメラモード」をスタートさせると、まず、ステップS21において、移動ベクトル算出部12の演算結果をクリア処理する等の初期化処理を行い、ステップS22に処理を進める。
【0058】
ステップS22では、制御部14が、カメラ部8で撮像された画像の取り込みを開始し、前フレームの画像の例えば中央のブロックを、現在フレームの画像の所定のブロックと比較して、該各ブロックの例えば輝度値等の各画素値の差分を検出するように移動ベクトル算出部12を制御する。
【0059】
一例ではあるが、当該携帯電話機の表示部5の有効画像領域の縦×横のサイズは、図7(a)に示すように120画素×160画素の、いわゆるQQVGAサイズ(QQVGA:Quarter Quarter Video Graphics Array)となっている。この図7(a)(及び図7(b))は、一マスの縦×横のサイズが5画素×5画素(計25画素)として図示している。
【0060】
移動ベクトル算出部12は、前フレームの画像を5画素×5画素の各ブロックに分割し、この各ブロックのうち、当該前フレームの画像の中央に位置するブロックを「比較ブロック」として設定する。これは、カメラ部8で所望の被写体を撮像する場合、該被写体が画像全体の中央に位置するように該被写体の撮像を行うのが一般的であるため、この例においては、上記前フレームの画像の中央に位置するブロックを上記「比較ブロック」として設定するようにしたものである。制御部14は、この比較ブロックの各画素と、現在フレームの第1番目のブロックの各画素とをそれぞれ比較することで、該各画素値の差分を検出する。
【0061】
次にステップS23では、制御部14が移動ベクトル算出部12の演算状況を監視することで、上記前フレームの「比較ブロック」と、現在フレームの第1番目のブロックの各画素値の差分の検出が終了したか否かを判別する。そして、上記画素値の差分の検出処理が終了していない場合は、処理をステップS22に戻し、該各ブロック間の全ての画素に対する画素値の差分の検出処理が終了するまで該検出処理を継続するように移動ベクトル算出部12を制御する。
【0062】
これに対して、上記各ブロック間の全ての画素に対する上記画素値の差分の検出処理が終了したものと判別した場合、制御部14は処理をステップS24に進め、上記ステップS22で検出した計25個の各画素値の差分の合計値を算出するように移動ベクトル算出部12を制御する。
【0063】
次に、制御部14は、上記ステップS24で新たに算出した上記差分の合計値と、前回の演算時に算出された上記差分の合計値とを比較するように移動ベクトル算出部12を制御する。そして、ステップS26において、新たに算出した上記差分の合計値は、前回の演算時に算出された上記差分の合計値よりも小さい値であるか否かを判別する。
【0064】
なお、上記比較ブロックと現在フレームの画像の第1番目のブロックとの間の上記差分の合計値が算出された直後の場合、前回の演算時に算出された上記差分の合計値は存在しない。この場合、制御部14は、処理をステップS22に戻し、上記比較ブロックと現在フレームの画像の第2番目のブロックとの間の上記差分の合計値を算出するように移動ベクトル算出部12を制御する。
【0065】
そして、この第2番目のブロックに対応する差分の合計値が算出された際に、ステップS26において、この第2番目のブロックに対応する差分の合計値と、上記第1番目のブロックに対応する差分の合計値とを比較することとなる。
【0066】
制御部14は、上記ステップS26において、上記現在フレームの画像の第2番目のブロックに対応する上記差分の合計値(=新たな差分の合計値)が、該現在フレームの画像の第1番目のブロックに対応する上記差分の合計値(=前回の差分の合計値)よりも小さい値であると判別した場合、処理をステップS27に進め、上記新たに算出した上記差分の合計値が、前回の演算時に算出された上記差分の合計値よりも大きな値であると判別した場合、処理をステップS28に進める。
【0067】
新たに算出した上記差分の合計値が、前回の演算時に算出された上記差分の合計値よりも小さい値であると判別することで処理をステップS27に進めると、制御部14は、この第1番目のブロックよりも小さな合計値を有する上記第2番目のブロックの位置情報をメモリに一時的に保持し、処理をステップS28に進める。
【0068】
ステップS28では、制御部14が、上記比較ブロックと、QQVGAサイズにおける24個×32個の全部のブロックとの間における、上記差分の合計値の比較処理が終了したか否かを判別する。そして、上記全部のブロックに対する比較処理の終了を検出するまでの間は、処理をステップS22に戻し、上記全部のブロックに対する比較処理の終了を検出したタイミングで処理をステップS29に進める。
【0069】
簡言すると、制御部14は、前フレームの画像の中央に位置するブロックを「比較ブロック」として設定し、この「比較ブロック」の各画素と、現在フレームの画像の第1番目のブロックの各画素、第2番目のブロックの各画素、第3番目のブロックの各画素・・・・等のように、該「比較ブロック」と現在フレームの画像の各ブロックとを順次比較する。そして、比較ブロックと現在フレームの画像の全てのブロックとを比較した結果、この比較ブロックに対する上記最小の差分の合計値を有するブロック(最小差分ブロック)を、該比較ブロックの画像と同じ画像のブロックとして検出する。
【0070】
次に、ステップS29に処理を進めると、制御部14が、図7(b)に示すように前フレームの画像における「比較ブロック」の位置から現在フレームの画像における上記「最小差分ブロック」の位置までの移動方向及び移動距離を示す移動ベクトル情報を算出するように移動ベクトル算出部12を制御して当該ブロック図6のフローチャートを終了する。この算出された移動ベクトル情報は、図4のステップS6において上述のようにパーソナルコンピュータ装置41の近距離無線通信ユニット41に近距離無線送信され、モニタ装置44に表示されたポインタPが移動表示制御されることとなる。
【0071】
[マウスモード中における着信時の動作]
次に、当該実施の形態の携帯電話機は、このようにワイヤレスマウス装置として用いている間に、電話着信或いは電子メールの着信があった場合、マウスモードの状態で、この着信をユーザに知らせるためのメッセージ等をモニタ装置44に表示制御すると共に、所定の操作がなされた際に、ハンズフリー通話、或いは電子メールの表示動作を行うようになっている。
【0072】
具体的には、ワイヤレスマウス装置として用いている間に、電話着信或いは電子メールの着信があった場合、制御部14は、マウスモードを維持した状態で、例えば「電話が信しました」、「メールが着信しました」等の着信を示すメッセージを近距離無線送信するように近距離無線通信ユニット11を制御する。また、制御部14は、このメッセージと共に、電話着信の場合はハンズフリー通話を指定するためのアイコンを、また、電子メールの着信の場合は、着信した電子メールの表示を指定するためのアイコンを近距離無線送信するように近距離無線通信ユニット11を制御する。これにより、上記メッセージ及び上記アイコンがモニタ装置44に表示されることとなる。
【0073】
ユーザは、このモニタ装置44に表示されるメッセージにより、電話着信或いは電子メールの着信を認識することができる。ユーザは、この着信した電話に応答する場合、上述の「キー+カメラモード」或いは「キーモード」においてモニタ装置44上に表示されているポインタPを、電話着信の場合はハンズフリー通話を指定するためのアイコンの表示位置に移動操作し、電子メールの着信の場合は、着信した電子メールの表示を指定するためのアイコンをの表示位置に移動操作し、例えば図3に示した第2のソフトキー26をダブルクリック操作する(=左キーのダブルクリック操作に相当)。
【0074】
当該携帯電話機の制御部14は、パーソナルコンピュータ装置41側に近距離無線送信する移動ベクトル情報に基づいて、モニタ装置44上のポインタPの移動位置を監視すると共に、上記第2のソフトキー26の操作状態を監視することで、上記ポインタPがアイコン上に移動操作されたうえで、左キーがダブルクリック操作されたか否かを監視する。
【0075】
制御部14は、電話着信時に上記ポインタPのアイコン上への移動操作及び左キーのダブルクリック操作を検出すると、マウスモードを実行した状態のまま、スピーカ部3及びマイクロホン部4の各アンプ部の利得をハンズフリー通話用に設定制御し、オフフック制御する。これにより、当該携帯電話機をワイヤレスマウス装置として用いた状態のまま、ハンズフリー通話を可能とすることができる。
【0076】
また、制御部14は、電子メールの着信時に上記ポインタPのアイコン上への移動操作及び左キーのダブルクリック操作を検出すると、マウスモードを実行した状態のまま、この着信した電子メールの文章を当該携帯電話機の表示部5に表示制御する。これにより、当該携帯電話機をワイヤレスマウス装置として用いた状態のまま、着信した電子メールを読むことを可能とすることができる。
【0077】
なお、この例では、着信した電子メールを表示部5に表示することとしたが、これは、制御部14が、着信した電子メールの文章情報を近距離無線通信によりパーソナルコンピュータ装置41側に送信してモニタ装置44に表示するようにしてもよい。
【0078】
[実施の形態の効果]
以上の説明から明らかなように、本発明の実施の形態となる携帯電話機は、以下の効果を得ることができる。
【0079】
1.当該携帯電話機でパーソナルコンピュータ装置のポインタを移動操作することができる。
【0080】
2.ノート型のパーソナルコンピュータ装置を携帯する場合、専用のマウス装置も一緒に携帯する必要がある。しかし、当該携帯電話機をマウス装置として用いることができるため、上記専用のマウス装置を携帯する煩わしさを解消することができる。
【0081】
3.携帯電話機に対して、電話機能、電子メール機能、音楽プレーヤ機能、放送受信機能、カメラ機能等と共に、マウス機能を追加して設けることができ、携帯電話機のさらなる多機能化を図ることができる。
【0082】
4.カメラ部8で撮像された画像に基づいて、ポインタPを移動操作するための位置情報を形成するようになっているため、従来のマウス装置のように当該携帯電話機を2次元的に移動させて上記ポインタPを移動操作することができるうえ、当該携帯電話機を3次元的に移動させて上記ポインタPを移動操作することができる(いわゆるエアーマウス装置と同じ使い方をすることができる。)。このため、場所を選ぶことなく、当該携帯電話機をマウス装置として用いることができる。
【0083】
5.既存のカメラ機能を用いて実現することができるため、特別な部品等を新たに筐体に設ける必要がない。このため、今日における携帯電話機の適度な筐体の大きさを維持したうえでマウス機能を設けることができる。従って、この適度な筐体の大きさの当該携帯電話機を片手で把持して移動させるだけで、当該携帯電話機をマウス装置として用いることができるため、操作性良くポインタPを操作することができ、また、普段使用しているマウス装置と同じ感覚で操作可能とすることができる。
【0084】
6.発光部30によるフラッシュ機能により、暗所での画像の取り込みを補助するようになっているため、暗所でも当該携帯電話機をマウス装置として用いることができる。
【0085】
7.当該携帯電話機をマウス装置として用いている際に、電話着信や電子メール着信等のイベントが発生した場合、パーソナルコンピュータ装置41のモニタ装置44に当該イベント発生を示すメッセージを表示することができる。このため、当該携帯電話機をマウス装置として用いている場合でも、電話着信や電子メール着信等をユーザに対して認識させることができる。
【0086】
8.パーソナルコンピュータ装置の表示画面に上記イベント発生を示すメッセージと共に、当該イベントの処理を指定するためのアイコンを表示するようになっている。そして、このアイコンにポインタPが移動操作され、例えばダブルクリック等の所定の操作を検出すると、電話着信の場合はハンズフリー通話モードとなり、電子メール着信の場合は、着信した電子メールを当該携帯電話機の表示部5に表示するようになっている。このため、当該携帯電話機をマウス装置として用いた状態のまま、通話を行い、或いは電子メールを読むことを可能とすることができる。
【0087】
[変形例]
上述の実施の形態の説明では、本発明を携帯電話機に適用することとしたが、本発明は、この携帯電話機の他、PHS電話機(PHS:Personal Handyphone System)、PDA装置(PDA:Personal Digital Assistant)等の他の携帯端末装置に適用してもよい。この場合でも、上述と同様の効果を得ることができる。
【0088】
最後に、上述の実施の形態は、あくまでも本発明の一例として開示したに過ぎないため、本発明は、上述の実施の形態に限定されることはなく、上述の実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論であることを付け加えておく。
【図面の簡単な説明】
【0089】
【図1】本発明を適用した実施の形態となる携帯電話機のブロック図である。
【図2】実施の形態の携帯電話機の外観を示す図である。
【図3】実施の形態の携帯電話機をワイヤレスマウス装置として操作している状態を示す図である。
【図4】実施の形態の携帯電話機をワイヤレスマウス装置として用いるマウスモード時の動作の流れを示すフローチャートである。
【図5】実施の形態の携帯電話機をワイヤレスマウス装置として用いてパーソナルコンピュータ装置のモニタ装置に表示されたポインタを移動操作している様子を示す図である。
【図6】実施の形態の携帯電話機のマウスモード時における移動ベクトル情報の算出動作の流れを示すフローチャートである。
【図7】実施の形態の携帯電話機のマウスモード時における移動ベクトル情報の算出動作を説明するための図である。
【符号の説明】
【0090】
1 アンテナ、2 通信回路、3 スピーカ部、4 マイクロホン部、5 表示部、6 操作部、7 発光部(LED)、8 カメラ部、9 バイブレーションユニット、10 近距離無線通信アンテナ、11 近距離無線通信ユニット、12 移動ベクトル算出部、13 メモリ、14 制御部、20 上筐体、21 下筐体、22 回転操作部、23 オンフックキー、24 オフフックキー、25 第1のソフトキー、26 第2のソフトキー、27 決定キー、28 ジョグダイヤル、29 回転操作キー、30 照明用の発光部、31 カメラカバー、33 マウスモード切換キー、40 携帯電話機、41 パーソナルコンピュータ装置、42 パーソナルコンピュータ装置側の近距離無線通信ユニット、43 近距離無線通信アンテナ、44 モニタ装置、P ポインタ

【特許請求の範囲】
【請求項1】
被写体の撮像を行うカメラ部を備えた携帯端末装置であって、
マウスモード時に上記カメラ部により順次撮像された各画像間の変位量に基づいて、当該携帯端末装置の筐体の移動方向及び移動距離を検出する移動検出手段と、
近距離無線通信手段と、
上記移動検出手段で検出された上記移動方向及び移動距離を示す情報を受信して、表示手段上に表示しているポインタを移動表示制御する被操作装置に対して、該移動検出手段で検出された上記移動方向及び移動距離を示す情報を近距離無線送信するように上記近距離無線通信手段を制御する制御手段と
を有することを特徴とする携帯端末装置。
【請求項2】
請求項1に記載の携帯端末装置であって、
上記カメラ部は、当該カメラ部の非使用時には該カメラ部を被覆し、当該カメラ部の使用時には該カメラ部を露出させる所定の厚みのカメラカバーを有し、
上記カメラカバーは、上記マウスモード時に当該携帯端末装置を2次元的に移動操作する場合に、該カメラ部で移動操作面が良好に撮像されるように、当該カメラカバーの厚みにより、カメラ部と移動操作面との間に所定の間隙部を形成すること
を特徴とする携帯端末装置。
【請求項3】
請求項1又は請求項2に記載の携帯端末装置であって、
無線基地局との間で無線通信を行う無線通信手段を有し、
上記制御手段は、上記無線通信手段により電話着信或いは電子メールの着信が検出された際に、この電話着信或いは電子メールの着信を示す情報を、上記被操作装置に対して近距離無線送信するように上記近距離無線通信手段を制御すること
を特徴とする携帯端末装置。
【請求項4】
請求項3に記載の携帯端末装置であって、
上記制御手段は、電話着信時に所定の操作を検出した場合、上記マウスモードを実行した状態でハンズフリー通話制御を行い、電子メールの着信時に所定の操作を検出した場合、上記マウスモードを実行した状態で上記着信した電子メールを当該携帯電話機の表示手段に表示制御し、或いは上記着信した電子メールを上記被操作装置に対して近距離無線送信するように上記近距離無線通信手段を制御すること
を特徴とする携帯端末装置。
【請求項5】
カメラ部により順次撮像された各画像間の変位量に基づいて、該カメラ部が設けられた筐体の移動方向及び移動距離を検出するように移動検出手段を制御する移動検出制御手段としてコンピュータを機能させ、
コンピュータを上記移動検出制御手段として機能させることで検出された上記移動方向及び移動距離を示す情報を、この移動方向及び移動距離を示す情報を受信して、表示手段上に表示しているポインタを移動表示制御する被操作装置に対して近距離無線送信するように近距離無線通信手段を制御する近距離無線通信制御手段としてコンピュータを機能させること
を特徴とするマウスアプリケーションプログラム。
【請求項6】
移動検出手段が、携帯端末装置に設けられたカメラ部により順次撮像された各画像間の変位量に基づいて、該携帯端末装置の筐体の移動方向及び移動距離を検出するステップと、
上記ステップで上記移動検出手段により検出された上記移動方向及び移動距離を示す情報を、近距離無線通信手段が、この移動方向及び移動距離を示す情報を受信して、表示手段上に表示しているポインタを移動表示制御する被操作装置に対して近距離無線送信するステップと
を有することを特徴とする携帯端末装置をワイヤレスマウス装置として用いる方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2007−123962(P2007−123962A)
【公開日】平成19年5月17日(2007.5.17)
【国際特許分類】
【出願番号】特願2005−309146(P2005−309146)
【出願日】平成17年10月24日(2005.10.24)
【出願人】(501431073)ソニー・エリクソン・モバイルコミュニケーションズ株式会社 (810)
【Fターム(参考)】