移動情報端末、画面方向変更方法、プログラム
【課題】重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる移動情報端末を提供する。
【解決手段】把持特徴サンプルを取得して画面方向を変更する移動情報端末であって、把持特徴サンプルを取得する把持特徴サンプル取得部と、移動情報端末を学習状態、認識状態のどちらかの状態に切替える切替え部と、移動情報端末の状態が学習状態である場合に、把持特徴サンプルを用いてモデルデータを学習するモデルデータ学習部と、移動情報端末の状態が認識状態である場合に、学習されたモデルデータと把持特徴サンプルとを比較してユーザの保持方向を推定する保持方向推定部と、推定された保持方向に基づいて画面方向を変更する画面方向変更部とを備える。
【解決手段】把持特徴サンプルを取得して画面方向を変更する移動情報端末であって、把持特徴サンプルを取得する把持特徴サンプル取得部と、移動情報端末を学習状態、認識状態のどちらかの状態に切替える切替え部と、移動情報端末の状態が学習状態である場合に、把持特徴サンプルを用いてモデルデータを学習するモデルデータ学習部と、移動情報端末の状態が認識状態である場合に、学習されたモデルデータと把持特徴サンプルとを比較してユーザの保持方向を推定する保持方向推定部と、推定された保持方向に基づいて画面方向を変更する画面方向変更部とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明はユーザが移動情報端末を把持したときの把持特徴サンプルを取得して画面方向を変更する移動情報端末、画面方向変更方法、プログラムに関する。
【背景技術】
【0002】
近年、移動情報端末の高機能化に伴い、例えば特許文献1のように半導体ジャイロなどの重力方向センサの検知結果に基づいて、移動情報端末の表示画面に表示されたオブジェクトをユーザが閲覧しやすい向きに回転補正する機能を備える移動情報端末が実用化されている。特許文献1の画面表示装置は、重力方向検知部と、回転オブジェクト処理部とを備え、重力方向検出部は、重力方向を検出する。回転オブジェクト処理部は、表示画面内での各回転オブジェクトの上下方向が、重力方向の表示画面への投影方向に一致するように、各オブジェクトの姿勢を調整する。これにより、特許文献1の画面表示装置は、表示対象画像に含まれる、上下向きを正姿勢属性として持つ少なくとも1つの回転オブジェクトを、その姿勢が正しくなるように表示画面に表示することができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−310031号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
図1を参照して、従来技術が抱える課題について説明する。図1は従来技術の移動情報端末の画面方向補正の問題点について例示する図である。図1(a)はユーザが立位、もしくは座位の姿勢で移動情報端末を左手で把持しながら移動情報端末内の画面を閲覧している状態を例示している。また、図1(b)はユーザが横臥位の姿勢で移動情報端末を左手で把持しながら移動情報端末内の画面を閲覧している状態を例示している。図1(a)においては、重力方向の軸、もしくは移動情報端末表示画面が存在する面へ重力方向の軸を射影した軸と、ユーザ所望の画面方向軸(天地方向の軸)が一致している。このためユーザは見やすく適切な方向に表示された表示画面を閲覧することが可能である。一方、図1(b)においては、重力方向の軸、もしくは移動情報端末表示画面が存在する面へ重力方向の軸を射影した軸と、ユーザ所望の画面方向軸が一致しない。このためユーザは自身の見やすい表示方向でない画面をそのまま閲覧するか、もしくは移動情報端末の画面方向がユーザ所望の方向に調整されるように、移動情報端末を回転させて移動情報端末内部の重力方向センサを動作させなければならない。ユーザが見やすい表示方向でない画面のまま閲覧を続けなければならいのはユーザにとって不便であるし、また、移動情報端末を回転させて移動情報端末内部の重力方向センサを動作させる場合には、ユーザは図1(b)において自然な手指、手首の状態で移動情報端末を把持しているのであるから、手首を無理な方向にねじらなければならないからユーザにとって不便である。ユーザにとって維持が困難な手指、手首の状態であれば、ユーザは結局寝ころんだまま携帯端末の閲覧を続けることができず、起き上って、座位の姿勢、立位の姿勢で移動情報端末の閲覧を行わなければならない。上記の不具合は、従来技術の移動情報端末において、重力方向の軸またはこれを表示画面へ射影した軸と、ユーザ所望の天地の方向が常に一致すると仮定しているものの、現実にはこれらが一致しない使用場面が少なからず存在することを原因とする。従って、重力加速度や重力方向を測定することによって、ユーザ所望の画面方向を推定する方法では、上記不具合を解決できない。
【0005】
そこで本発明では重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる移動情報端末を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の移動情報端末は、把持特徴サンプルを取得して画面方向を変更することを特徴とし、把持特徴サンプル取得部と、切替え部と、モデルデータ学習部と、保持方向推定部と、画面方向変更部とを備える。把持特徴サンプル取得部は、把持特徴サンプルを取得する。切替え部は、移動情報端末を学習状態、認識状態のどちらかの状態に切替える。モデルデータ学習部は、移動情報端末の状態が学習状態である場合に、把持特徴サンプルを用いてモデルデータを学習する。保持方向推定部は、移動情報端末の状態が認識状態である場合に、学習されたモデルデータと把持特徴サンプルとを比較してユーザの保持方向を推定する。画面方向変更部は、推定された保持方向に基づいて画面方向を変更する。
【発明の効果】
【0007】
本発明の移動情報端末によれば、重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる。
【図面の簡単な説明】
【0008】
【図1】従来技術の移動情報端末の画面方向補正の問題点について例示する図。
【図2】本発明の全ての実施例の携帯端末が備える圧力センサアレイを例示する図。
【図3】携帯端末を把持するユーザの手指位置と画面方向の関係を例示する図。
【図4】把持特徴分布と画面方向の関係を例示する図。
【図5】平均モデルデータと画面方向の関係を例示する図。
【図6】本発明の実施例1〜3に係る携帯端末が備える制御アプリケーションの動作を説明する図。
【図7】実施例1に係る携帯端末の構成を示すブロック図。
【図8】実施例2に係る携帯端末の構成を示すブロック図。
【図9】実施例3に係る携帯端末の構成を示すブロック図。
【図10】実施例4に係る携帯端末の構成を示すブロック図。
【図11】実施例5に係る携帯端末の構成を示すブロック図。
【図12】実施例1〜3に係る携帯端末の学習動作を示すフローチャート。
【図13】実施例1に係る携帯端末の認識動作を示すフローチャート。
【図14】実施例2に係る携帯端末の認識動作を示すフローチャート。
【図15】実施例3に係る携帯端末の認識動作を示すフローチャート。
【図16】実施例4に係る携帯端末の学習動作を示すフローチャート。
【図17】実施例5に係る携帯端末の学習動作を示すフローチャート。
【図18】実施例4、5に係る携帯端末の認識動作を示すフローチャート。
【発明を実施するための形態】
【0009】
以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。
【0010】
<用語の説明>
[移動情報端末]
本発明の移動情報端末を具体化する機器の例として携帯端末、PDA、携帯ゲーム機、電子手帳、電子書籍専用端末などがある。ただし、これら列挙した機器に限らず(1)把持しながら使用する機器であり使用時に把持特徴を取得でき、(2)様々な画面方向で使用することができる機器であればどんなものでも本発明の移動情報端末とすることができる。実施例における説明では携帯端末(タッチパネル式)を具体例として詳細に説明する。
【0011】
[表示方向/画面方向]
移動情報端末の画面長手方向を上下方向として表示するか、左右方向として表示するかで区別される表示の方向を表示方向と呼ぶ。また、移動情報端末の画面の天地の方向を画面方向、または天地の方向と呼ぶ。
【0012】
[縦表示/横表示]
移動情報端末の表示方向が画面長手方向を上下方向とする向きである場合を縦表示と呼ぶ。また、移動情報端末の表示方向が画面長手方向を左右方向とする向きである場合を横表示と呼ぶ。
【0013】
[操作指]
移動情報端末のタッチパネルに接触して、移動情報端末を操作する指を操作指と呼ぶ。
<用語の説明終わり>
【0014】
<把持特徴サンプル>
本発明の全ての実施例に係る携帯端末100、200、300、400、500が取得する把持特徴サンプルについて説明する。携帯端末を把持するときの癖は人により異なっており、ユーザ固有の把持特徴のサンプル(把持特徴サンプル)の平均値などをユーザ所望の画面方向毎にモデルデータとして予め学習・記憶しておけば、学習・記憶済みのモデルデータと新たに取得されたユーザの把持特徴サンプルとの比較によって、ユーザ所望の画面方向(以下、保持方向ともいう)を推定することができ、保持方向に基づいて画面方向を回転補正することができる。
【0015】
従って本発明では、把持特徴サンプルを取得し、携帯端末100、200、300、400、500の画面方向の回転補正に用いる。把持特徴サンプルとして用いることができる物理量としては、例えば把持圧力分布、把持形状分布、把持温熱分布などが考えられる。これらの把持特徴サンプルの取得方法としては、例えば圧力センサを携帯端末100、200、300、400、500の筐体面に面状配置することにより把持圧力分布を取得することができる。同様にCCD(CMOS)センサの面状配置により把持形状分布を取得することができる。同様に赤外線センサの面状配置により、把持温熱分布の取得が可能である。また、端末背面に操作キー(タッチパネル)が配置されているような携帯端末であれば、操作キー(タッチパネル)の押圧状況(操作キー、タッチパネルが押されているか否か)を記録することによっても把持特徴を取得可能である。
【0016】
<把持特徴センサ>
把持特徴サンプルを取得するためのセンサは、上述のとおり、圧力センサ、CCD(CMOS)センサ、赤外線センサなどとすることができるが、本明細書ではこれらを総称する場合には把持特徴センサと呼ぶものとする。実施例における説明では、把持特徴センサとして圧力センサを採用するものとし、把持特徴サンプルとしては把持圧力分布を用いるものとする。
【0017】
<圧力センサアレイ105>
次に、図2を参照して本発明の全ての実施例の携帯端末100、200、300、400、500が備える圧力センサアレイ105について説明する。図2は全ての実施例の携帯端末100、200、300、400、500が備える圧力センサアレイ105について例示する図である。図2はあくまで例示であるため、本発明で用いられる圧力センサアレイ105の配置位置について何ら限定するものではない。図2の例では、携帯端末100、200、300、400、500が備える圧力センサアレイ105は携帯端末上端辺に配置された圧力センサアレイU、携帯端末左端辺に配置された圧力センサアレイL、携帯端末右端辺に配置された圧力センサアレイR、携帯端末下端辺に配置された圧力センサアレイBにより構成される。圧力センサアレイUは4つの圧力センサ105−U1、105−U2、105−U3、105−U4にて構成される。圧力センサアレイLは7つの圧力センサ105−L1、105−L2、105−L3、105−L4、105−L5、105−L6、105−L7にて構成される。圧力センサアレイRは7つの圧力センサ105−R1、105−R2、105−R3、105−R4、105−R5、105−R6、105−R7にて構成される。圧力センサアレイBは4つの圧力センサ105−B1、105−B2、105−B3、105−B4にて構成される。このように、携帯端末100、200、300、400、500が圧力センサアレイ105を備えることにより、ユーザ固有の把持特徴を携帯端末縁部における把持圧力分布として取得することができる。
【0018】
<携帯端末を把持するユーザの手指位置と画面方向の関係>
次に図3を参照して、携帯端末を把持するユーザの手指の位置と画面方向の関係について説明する。図3は、携帯端末を把持するユーザの手指位置と画面方向の関係を例示する図である。図3の(a)〜(d)は全てユーザが左手で携帯端末を把持した場合の図であって、図3(a)は携帯端末を図に示すイ方向を天の方向として把持した場合、図3(b)は携帯端末を図に示すロ方向を天の方向として把持した場合、図3(c)は携帯端末を図に示すハ方向を天の方向として把持した場合、図3(d)は携帯端末を図に示すニ方向を天の方向として把持した場合である。本明細書では、ユーザが左手で携帯端末を把持する場合についてのみ説明するが、ユーザの利き手が逆である場合にはユーザは右手で携帯端末を把持する。この場合も以降の原理については全く同じであるから重複説明を省略する。
【0019】
<把持特徴分布と画面方向の関係>
次に、図4を参照して上述のユーザの手指位置から計測される把持特徴分布(把持圧力分布)と画面方向の関係について説明する。図4は把持特徴分布と画面方向の関係を例示する図である。図4(a)は携帯端末をイ方向を天の方向として把持した場合の把持圧力が生じる位置、図4(b)は携帯端末をロ方向を天の方向として把持した場合の把持圧力が生じる位置、図4(c)は携帯端末をハ方向を天の方向として把持した場合の把持圧力が生じる位置、図4(d)は携帯端末をニ方向を天の方向として把持した場合の把持圧力が生じる位置をそれぞれ斜線領域で示している。図3(a)と図4(a)、図3(b)と図4(b)、図3(c)と図4(c)、図3(d)と図4(d)がそれぞれ対応している。図4に表すように、ユーザ所望の画面方向(イ、ロ、ハ、ニ方向)と把持圧力の生じる位置には強い相関がみられる。従って、図4(a)〜(d)に示すようにユーザ所望の画面方向毎に把持特徴サンプルとして把持圧力分布を取得して、所望の画面方向毎に後述するモデルデータを学習・記憶しておけば、当該モデルデータと新たに取得した把持特徴サンプルとの比較照合によって、ユーザ所望の画面方向(保持方向)を推定することができる。
【0020】
<平均モデルデータ>
次に、実施例4、5において用いられる平均モデルデータについて説明する。平均モデルデータとは、予めモデルユーザを複数人(例えば20〜30人)設定し、これらモデルユーザの把持特徴を携帯端末の機種ごとに解析し、当該機種ごとに出荷時の携帯端末内部の記憶領域(後述する平均モデルデータ記憶部485)に予め記憶しておくデータである。平均モデルデータは、把持特徴観測領域の分布で定義される。例えば、全てのモデルユーザの把持特徴サンプルを画面方向毎、利き手毎(左手/右手把持)に分類して取得したうえで、分類ごとに、少なくとも一人のモデルユーザにおいて把持特徴サンプルが観測された領域全てを把持特徴観測領域と設定することができる。また、分類ごとに半数以上のモデルユーザにおいて把持特徴サンプルが観測された領域全てを把持特徴観測領域と設定してもよい。平均モデルデータを用いたユーザの保持方向推定は、平均モデルデータが示す把持特徴観測領域と、新たに取得したユーザの把持特徴サンプルの一部とが重なりあうか否かによって行われる。把持特徴観測領域は広範囲に設定すれば、誤認識の確率が大きくなる。一方、把持特徴観測領域を狭い範囲に限定してしまうと、ユーザの把持特徴サンプルを取得しても、当該把持特徴サンプルが何れの把持特徴観測領域にも重複しないことにより、何れの画面方向であるか認識不能となるケースが増大する。従って、把持特徴観測領域の範囲は、誤認識確率、認識不能確率の何れもが最小となるように設定する必要がある。
【0021】
<平均モデルデータと画面方向の関係>
次に、図5を参照して実施例4、5において用いられる平均モデルデータと画面方向の関係について説明する。図5は平均モデルデータと画面方向の関係を例示する図である。図5(a)は携帯端末をイ方向を天の方向として把持した場合の把持特徴観測領域分布、図5(b)は携帯端末をロ方向を天の方向として把持した場合の把持特徴観測領域分布、図5(c)は携帯端末をハ方向を天の方向として把持した場合の把持特徴観測領域分布、図5(d)は携帯端末をニ方向を天の方向として把持した場合の把持特徴観測領域分布をそれぞれ黒四角で示している。なお、図5は、図3と同様、左手把持の場合の平均モデルデータについて例示したものであるから、右手把持について考える場合は、図5の把持特徴観測領域分布は、携帯端末の天地方向の軸に線対称な位置に移動する。
【0022】
例えば図5(a)の場合、携帯端末の左下端部、右下端部の両方に把持特徴観測領域が存在する。この場合、ユーザの把持特徴分布が、連続する2つの把持特徴観測領域(左下端部、右下端部)の何れの領域内の一部においても観測された場合に、ユーザ所望の画面方向はイ方向を天の方向とする方向であると推定される。例えば図5(c)の場合、携帯端末の下端部、右下端部の両方に把持特徴観測領域が存在する。この場合、ユーザの把持特徴分布が、連続する2つの把持特徴観測領域(下端部、右下端部)の何れの領域内の一部においても観測された場合に、ユーザ所望の画面方向はハ方向を天の方向とする方向であると推定される。図5(a)〜(d)に示すように画面方向毎、利き手毎に把持特徴観測領域を取得して、これらを画面方向毎、利き手毎に平均モデルデータとして予め記憶しておけば、当該平均モデルデータと取得した把持特徴サンプルとの比較照合によって、簡易にユーザ所望の画面方向(保持方向)を推定することができる。
【0023】
<制御アプリケーション190>
本発明では、モデルデータの学習動作時、保持方向推定動作時の双方において把持特徴サンプルを取得する必要がある。本発明の実施例1〜3の携帯端末100、200、300においては、学習動作を開始するために必要な制御アプリケーション190を備える。以下、図6を参照して本発明の実施例1〜3が備える制御アプリケーション190について説明する。図6は本発明の実施例1〜3が備える制御アプリケーション190の動作を説明する図である。本携帯端末100、200、300が、未だモデルデータの学習動作を完了していないときは、例えばこの制御アプリケーション190の学習開始機能が一定時間経過毎に表示画面にアラート、もしくは通知を表示するものとする。ユーザは、本発明の制御アプリケーション190を用いて学習を行う場合には、アラートもしくは通知に従って、制御アプリケーション190を起動する。ユーザは、本発明の制御アプリケーション190を用いて学習を行わない場合には、機能設定画面などから、従来通り重力方向により画面方向を取得する機能をONとして、本発明の制御アプリケーション190の機能をOFFにすることもできる。これにより、ユーザは従来通り携帯端末を使用することもできる。
【0024】
ユーザにより起動された制御アプリケーション190は、例えば図6(a)のような画面を初期画面として表示する。制御アプリケーション190は初期画面として例えば「モデルデータの学習を開始します。画面の天の向きを入力してください」と表示して、画面の上下左右の端部に押下可能なアイコン(図6では三角印)を配置しておく。ユーザは、初期画面のアナウンスに従って、例えば図6(a)の破線で囲ったアイコンを天の方向として指定すべく、このアイコンを操作指で押下するものとする。この場合、左手はなるべく固定された状態にしておくことにより、モデルデータの学習精度が高まるため、操作指は、把持した手と反対側の手の指とすることが望ましい。ユーザがアイコンを押下した場合、制御アプリケーション190は、例えば図6(b)のように押下されたアイコンを黒三角形で表示し、「モデルデータ学習中です。」と表記する。このアナウンスは押下により新たに指定された天の方向に従ってユーザが閲覧しやすい方向に表示することもできる。ユーザはこのアナウンスが表示されている間、一定の把持状態を保持するように努める。制御アプリケーション190は、ユーザのアイコン押下をトリガとして、把持特徴サンプル取得部120に学習開始信号を出力する。把持特徴サンプル取得部120は、制御アプリケーション190から学習開始信号を取得し、圧力センサアレイ105から把持圧力分布を連続的に取得する。把持圧力取得の頻度は、例えば2〜3回/秒などとすることができる。ユーザは、アナウンスの下に表示された「中断する」アイコンを押下することでいつでも制御アプリケーションを終了させることができる。取得された把持特徴サンプルの数Smが、モデルデータの学習に必要な学習開始サンプル数SFmに達した場合には、制御アプリケーション190は「学習が終了しました」というアナウンスを表示して、終了する。このとき、他の保持方向(イ、ロ、ハ、ニ方向)の何れかにおいて学習が終了していない場合には、制御アプリケーション190は、再度「モデルデータの学習を開始します。画面の天の向きを入力してください」と表示して、前述同様、画面の上下左右の端部に押下可能なアイコン(三角印)を配置し、学習が終了した保持方向については、例えばアイコンを表示しないようにして、ユーザに次の保持方向での学習を促すこともできる。
【0025】
制御アプリケーション190が出力する学習開始信号の取得をトリガとして、把持特徴サンプル取得部120が取得した把持圧力分布は、ユーザ所望の画面方向(保持方向)毎に、分類されてサンプル一時記憶部130に記憶される。このように、サンプル一時記憶部130が記憶する把持圧力分布のデータ数が、ある保持方向の分類において予め定めた学習開始サンプル数SFmに達した場合、取得された把持圧力分布のデータ数がSFmに達した保持方向の分類においてモデルデータの学習を行う。モデルデータの学習についての詳細は後述する。
【0026】
<モデルデータ、モデルデータ学習部135、保持方向推定部160>
本発明の全ての実施例に係る携帯端末100、200、300、400、500が備えるモデルデータ学習部135において学習される保持方向推定時に用いるモデルデータについて説明する。モデルデータとは、ユーザの把持特徴を代表して表す雛形のことである。モデルデータ学習部135は、モデルデータをユーザから取得した把持特徴サンプルの平均値などから学習する。学習されたモデルデータは、例えば実施例1では、保持方向推定部160において、学習後に新たに取得された把持特徴サンプルと照合される。実施例1の保持方向推定部160は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。
【0027】
<変動検知部215、保持方向推定部260>
次に、本発明の実施例2の携帯端末200が備える変動検知部215について説明する。変動検知部215は、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部260に出力することで、保持方向推定部260の保持方向の推定動作を新たに実行させるための構成部である。具体的には、変動検知部215は、把持特徴サンプル取得部120が取得した把持特徴サンプルの時系列データを取得して、当該取得した時系列データから、把持特徴サンプルの時系列変動が所定の値を超えた場合に、保持方向推定部260に、変動検知信号を出力する。保持方向推定部260は、変動検知信号を取得した場合に、モデルデータと、変動検知信号取得後に新たに取得された把持特徴サンプルとを照合する。保持方向推定部260は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。
【0028】
このように、変動検知部215が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部260に出力することで、保持方向推定部260の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【0029】
<環境センサ310>
次に、本発明の実施例3、5に係る携帯端末300、500に内蔵される環境センサ310について詳細に説明する。環境センサ310とは、携帯端末が属する環境を取得するためのセンサのことである。本発明において環境センサ310として用いられるセンサは携帯端末300、500の挙動を測定することができれば、他に何ら制限はなく、携帯端末300、500に実装可能なサイズおよびコストの範囲内であればどんなセンサをも組み合わせることができる。例えば、望ましい環境センサ310の例として加速度センサ、ジャイロスコープ(角速度センサ)などがある。加速度センサとしては、例えば3軸加速度センサが携帯端末への実装によく用いられる。3軸加速度センサとしてはピエゾ抵抗型3軸加速度センサ、静電容量型3軸加速度センサ、熱検知型3軸加速度センサなどがある。ジャイロスコープとしては、例えばMEMSジャイロスコープが携帯端末への実装によく用いられる。
【0030】
環境センサ310によって感知された携帯端末の周囲環境情報は時系列データとして環境センサ310から出力される。周囲環境情報の時系列データとして例えば、加速度センサが測定した3軸加速度の時系列データ、ジャイロスコープが測定した角度、角速度、角加速度の時系列データなどがある。本明細書では、「周囲環境情報の時系列データ」という語は、上述の環境センサ310が携帯端末の周囲環境を測定した結果として得られる周囲環境情報の時系列データを示す信号全般を総称するものとする。
【0031】
<変動検知部315>
本発明の実施例3に係る携帯端末300が備える変動検知部315の動作については、基本的には変動検知部215の動作と変わらないが、変動検知部315は、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データ(例えば、加速度センサが測定した3軸加速度の時系列データ、ジャイロスコープが測定した角度、角速度、角加速度の時系列データなど)の時系列変動をも監視しており、これら時系列変動の何れかが所定の値を超えた場合に変動検知信号を出力する。
【0032】
このように、変動検知部315が、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データの時系列変動をも検知し、これら時系列変動の何れかが所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部360に出力することで、保持方向推定部360の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【0033】
<変動検知部415>
次に、本発明の実施例4に係る携帯端末400が備える変動検知部415について説明する。変動検知部415は、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末400を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末400の学習動作を実行させるための構成部である。また、変動検知部415は、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末400を保持していないため、学習動作に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末400の認識動作を実行させるための構成部である。具体的には、変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値以下となる場合に、切替え部125を学習状態に切り換える。一方、変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値を超える場合には、切替え部125を認識状態に切り換える。
【0034】
このように、変動検知部415が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末400を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末400の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができるため、前述の制御アプリケーション190を用いた明示的な学習期間を設けることなく、自動的に学習動作を進めることが可能である。同様に、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末400を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末400の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。このとき、モデルデータが学習済みでない場合には、前述した平均モデルデータ記憶部485に予め記憶された平均モデルデータを保持方向の推定に用いる。
【0035】
<変動検知部515>
本発明の実施例5に係る携帯端末500が備える変動検知部515の動作については、基本的には変動検知部415の動作と変わらないが、変動検知部515は、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データ(例えば、加速度センサが測定した3軸加速度の時系列データ、ジャイロスコープが測定した角度、角速度、角加速度の時系列データなど)の時系列変動をも監視しており、これら時系列変動の何れもが所定の値以下となる場合にはユーザが安定して携帯端末500を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末500の学習動作を実行させる。一方、これら時系列変動の何れかが所定の値を超過する場合にはユーザが安定して携帯端末500を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末500の認識動作を実行させる。
【0036】
このように、変動検知部515が、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データの時系列変動をも検知し、これらの変動が所定の値以下となる場合には携帯端末500の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができ、前述の制御アプリケーション190を用いた明示的な学習期間を設けることなく、自動的に学習動作を進めることが可能である。同様に、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、上述の変動が所定の値を超える場合には、携帯端末500の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。このとき、モデルデータが学習済みでない場合には、前述した平均モデルデータ記憶部485に予め記憶された平均モデルデータを保持方向の推定に用いる。
【0037】
<保持方向推定部360>
本発明の実施例3が備える保持方向推定部360の動作については、基本的には保持方向推定部260の動作と変わらない。保持方向推定部360は、変動検知部315から変動検知信号を取得した場合に、モデルデータと、変動検知信号取得後に新たに取得された把持特徴サンプルとを照合する。保持方向推定部360は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。
【0038】
<保持方向推定部460>
次に、本発明の実施例4、5に係る携帯端末400、500が備える保持方向推定部460の学習状態における動作について説明する。後述するように実施例4、5においては制御アプリケーション190を用いず、明示的な学習期間を設けないことを特徴としている。一方、モデルデータの学習には、図4で例示したようにユーザ所望の画面方向と把持特徴サンプルが対のデータとして取得される必要がある。そこで、実施例4、5においては、学習状態における動作において、保持方向推定部460が、把持特徴サンプル取得部120から把持特徴サンプルを、平均モデルデータ記憶部485から平均モデルデータをそれぞれ取得し、両者を比較照合することで保持方向を推定し、推定された保持方向を把持特徴サンプル取得部120に出力する処理を行う。従って、把持特徴サンプル取得部120には、把持特徴サンプルと、当該把持特徴サンプルから平均モデルデータを用いて推定される保持方向とがペアとして集められ、サンプル一時記憶部130に出力される。これにより、実施例4、5に係る携帯端末400、500では、制御アプリケーション190などを用いてユーザに保持方向の指定(タッチパネル操作)をさせなくても、モデルデータの学習に必要なデータの収集をすることが可能となる。
【0039】
保持方向推定部460の認識状態における動作については、モデルデータ学習部135においてモデルデータが学習済みである場合には、保持方向推定部160の動作と変わらない。モデルデータ学習部135において学習されたモデルデータは、保持方向推定部460において、学習後に新たに取得された把持特徴サンプルと照合される。保持方向推定部460は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。ただし、保持方向推定部460は、モデルデータ学習部135で未だモデルデータの学習が完了していない場合には、平均モデルデータ記憶部485に予め記憶された平均モデルデータを、学習済みのモデルデータの代替として用いる。このように、保持方向推定部460が、モデルデータ未学習の場合に、予め平均モデルデータ記憶部485に記憶された平均モデルデータを用いて、認識動作を行うため、モデルデータ未学習の場合であっても保持方向の推定、画面方向の変更ができるため、ユーザの利便性が向上する。
【実施例1】
【0040】
上述の条件を前提として、把持特徴サンプル取得によりユーザの保持方向を推定し、携帯端末の画面方向をユーザ所望の画面方向に変更することができる実施例1に係る携帯端末100について詳細に説明する。まず図7、図12を参照して実施例1に係る携帯端末100の学習状態における動作について説明する。図7は本実施例に係る携帯端末100の構成を示すブロック図である。図12は本実施例に係る携帯端末100の学習動作を示すフローチャートである。
【0041】
本実施例の携帯端末100は圧力センサアレイ105と、制御アプリケーション190と、把持特徴サンプル取得部120と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、保持方向推定部160と、画面方向変更部180とを備える。本実施例の携帯端末100は切替え部125を備えており、この切替え部125によって、携帯端末100を学習状態、認識状態のどちらかの状態に切替えることができるものとする。ここでは、切替え部125が学習状態にセットされているものとする。圧力センサアレイ105については前述したように携帯端末100に内蔵されている。制御アプリケーション190は、<制御アプリケーション190>で述べたように、携帯端末100の表示画面にユーザ向けの所定のアナウンスを表示し、ユーザが前述のイ、ロ、ハ、ニの何れかの方向を指定するアイコンを押下した場合に、学習開始信号を生成・出力する(S190)。把持特徴サンプル取得部120は、制御アプリケーション190から学習開始信号を取得して、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。ここで、取得済みの把持特徴サンプルの個数をSmとし、学習開始サンプル数をSFmとする。学習開始サンプル数SFmとは、モデルデータの学習に必要なサンプル数として予め定めたものである。これは、把持特徴サンプルの取得数が少ない状態でモデルデータの学習を行っても、十分に精度の高いモデルデータを生成することが出来ないため、精度の高いモデルデータを得るために必要であると経験的に分かっているサンプルの数を学習開始サンプル数SFmとして設定したものである。従って、サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達した(Sm>SFm)場合にはステップS135に進み、モデルデータ学習部135が、把持特徴サンプルを用いてモデルデータを学習する(S130Y、S135)。モデルデータ記憶部155は、学習済みのモデルデータを記憶する(S155)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達していない(Sm<SFm)場合にはスタートに戻り、学習開始信号の取得と同時に把持特徴サンプルを取得する動作を繰り返す(S130N)。よって、モデルデータが得られるまで、S190、S120が繰り返される(S130N)。モデルデータは、把持特徴サンプル(把持圧力分布)の平均値などから求められる。
【0042】
次に、図7、図13を参照して実施例1に係る携帯端末100の認識状態における動作について説明する。図13は本実施例に係る携帯端末100の認識動作を示すフローチャートである。ここでは、携帯端末100の切替え部125が認識状態にセットされているものとする。なお、認識状態動作時には、上述した学習状態が既に動作しており、モデルデータがモデルデータ記憶部155に記憶済みであるものとする。把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。次に、保持方向推定部160は、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S160)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末100の画面方向を変更する(S180)。
【0043】
モデルデータと把持特徴サンプルとの比較の方法については、例えば以下のように実現可能である。保持方向推定部160は、モデルデータと認識状態において取得された把持特徴サンプルとの距離(例えばマハラノビス汎距離)を求める。保持方向推定部160は、この距離がある一定の値以下であれば取得された把持特徴サンプルを本人のものと結論する。一方、保持方向推定部160は、モデルデータと把持特徴サンプルとの距離(例えばマハラノビス汎距離)が一定の値以下でなければ取得された把持特徴サンプルは本人のものでないと結論する。
【0044】
このように、本実施例の携帯端末100は、重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる。
【実施例2】
【0045】
次に、実施例1の携帯端末100に新たに変動検知機能を付加することで、ユーザの保持方向の変動を迅速に予測できる実施例2に係る携帯端末200について詳細に説明する。図8、図14を参照して実施例2に係る携帯端末200の認識状態における動作について説明する。図8は本実施例に係る携帯端末200の構成を示すブロック図である。図14は本実施例に係る携帯端末200の認識動作を示すフローチャートである。
【0046】
本実施例の携帯端末200は圧力センサアレイ105と、制御アプリケーション190と、把持特徴サンプル取得部120と、変動検知部215と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、保持方向推定部260と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない変動検知部215を備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部260に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。従って、実施例2の携帯端末200の学習状態における動作は実施例1と全く同じであるため、説明を割愛する。
【0047】
以下、本実施例の携帯端末200の認識状態における動作について説明する。なお、認識状態動作時には、実施例1と同様に学習状態が既に動作しており、モデルデータがモデルデータ記憶部155に記憶済みであるものとする。把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。変動検知部215は、取得された把持特徴サンプルの時系列変動が所定の値を超えた場合に変動検知信号を出力する(S215Y)。一方、把持特徴サンプルの時系列変動が所定の値を超えない場合には、変動検知部215は、変動検知信号を出力せず、処理を終了する(S215N、エンド)。保持方向推定部260は、変動検知部215から変動検知信号を取得した場合には、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S260)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末200の画面方向を変更する(S180)。
【0048】
このように、本実施例の携帯端末200では、変動検知部215が、把持特徴サンプルの時系列変動を検知し、把持特徴サンプルの時系列変動が所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部260に出力することで、保持方向推定部260の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【実施例3】
【0049】
次に、実施例1の携帯端末100に新たなセンサを付加することで、ユーザの保持方向の変動を迅速に予測できる実施例3に係る携帯端末300について詳細に説明する。図9、図15を参照して実施例3に係る携帯端末300の認識状態における動作について説明する。図9は本実施例に係る携帯端末300の構成を示すブロック図である。図15は本実施例に係る携帯端末300の認識動作を示すフローチャートである。
【0050】
本実施例の携帯端末300は圧力センサアレイ105と、環境センサ310と、制御アプリケーション190と、把持特徴サンプル取得部120と、変動検知部315と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、保持方向推定部360と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない環境センサ310、変動検知部315を備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部360に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。従って、実施例3の携帯端末300の学習状態における動作は実施例1と全く同じであるため、説明を割愛する。環境センサ310とは、<環境センサ310>で述べたように、携帯端末300が属する環境を取得するためのセンサのことである。具体的には加速度センサ、ジャイロスコープ(角速度センサ)などで構成することができる。
【0051】
以下、本実施例の携帯端末300の認識状態における動作について説明する。なお、認識状態動作時には、実施例1と同様に学習状態が既に動作しており、モデルデータがモデルデータ記憶部155に記憶済みであるものとする。環境センサ310は、一定時間経過ごとに(例えば、1秒間に2〜3回程度)携帯端末の周囲環境情報を取得する。把持特徴サンプル取得部120も同様に、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。変動検知部315は、取得された把持特徴サンプルの時系列変動が所定の値を超えた場合、または環境センサが取得する周囲環境情報の時系列変動が所定の値を超えた場合に変動検知信号を出力する(S315Y)。一方、これらの時系列変動の何れもが所定の値を超えない場合には、変動検知部315は、変動検知信号を出力せず、処理を終了する(S315N、エンド)。保持方向推定部360は、変動検知部315から変動検知信号を取得した場合には、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S360)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末300の画面方向を変更する(S180)。
【0052】
このように、本実施例の携帯端末300では、変動検知部315が、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データの時系列変動をも検知し、これら時系列変動の何れかが所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部360に出力することで、保持方向推定部360の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【実施例4】
【0053】
次に、明示的な学習期間を設けることなく、自動的に学習動作を進めることができる実施例4に係る携帯端末400について詳細に説明する。まず図10、図16を参照して実施例4に係る携帯端末400の学習状態における動作について説明する。図10は本実施例に係る携帯端末400の構成を示すブロック図である。図16は本実施例に係る携帯端末400の学習動作を示すフローチャートである。
【0054】
本実施例の携帯端末400は圧力センサアレイ105と、把持特徴サンプル取得部120と、変動検知部415と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、平均モデルデータ記憶部485と、保持方向推定部460と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない変動検知部415、および平均モデルデータ記憶部485を備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部460に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。ここでは、切替え部125が学習状態にセットされているものとする。まず、把持特徴サンプル取得部120において、把持特徴サンプルの時系列データが取得される。変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値以下となる場合に、切替え部125を学習状態に切り換える(S415N)。一方、変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値を超える場合に切替え部125を認識状態に切り換える(S415Y、エンド)。切替え部125が学習状態にセットされている場合(S415N)、把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。保持方向推定部460は、把持特徴サンプル取得部120から把持特徴サンプルを、平均モデルデータ記憶部485から平均モデルデータをそれぞれ取得し、両者を比較照合することで保持方向を推定し、把持特徴サンプルと推定された保持方向とをペアにして、把持特徴サンプル取得部120に出力する(S460)。把持特徴サンプル取得部120が取得した把持特徴サンプルと推定保持方向のペアは、サンプル一時記憶部130に出力される(S460)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達した(Sm>SFm)場合にはステップS135に進み、モデルデータ学習部135が、把持特徴サンプルを用いてモデルデータを学習する(S130Y、S135)。モデルデータ記憶部155は、学習済みのモデルデータを記憶する(S155)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達していない(Sm<SFm)場合にはスタートに戻り、切替え部125が学習状態にある限りにおいて、把持特徴サンプル取得動作、保持方向推定動作を繰り返す(S130N)。よって、切替え部125が学習状態にある限りにおいて、モデルデータが得られるまで、S415、S120、S460が繰り返される(S130N)。
【0055】
次に、図10、図18を参照して実施例4に係る携帯端末400の認識状態における動作について説明する。図18は本実施例に係る携帯端末400の認識動作を示すフローチャートである。ここでは、携帯端末400の切替え部125が認識状態にセットされているものとする。なお、認識状態動作時には、上述した学習が既に完了している場合にはモデルデータ記憶部135に記憶されたモデルデータを用いて保持方向推定が行われ、上述した学習が完了していない場合には平均モデルデータ記憶部485に予め記憶された平均モデルデータを用いて保持方向推定が行われる。把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。モデルデータの学習が既に終了している場合には(S460aY)、保持方向推定部460は、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S460b)。モデルデータの学習が終了していない場合には(S460aN)、保持方向推定部460は、予め記憶された平均モデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S460c)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末400の画面方向を変更する(S180)。
【0056】
このように、本実施例の携帯端末400は、変動検知部415が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末400を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末400の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができるため、明示的な学習期間を設けることなく自動的に学習動作を進めることが可能である。同様に、本実施例の携帯端末400は、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、本実施例の携帯端末400は、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末400を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末400の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。また、本実施例の携帯端末400は、保持方向推定部460が、モデルデータ未学習の場合に、予め平均モデルデータ記憶部485に記憶された平均モデルデータを用いて、認識動作を行うため、モデルデータ未学習の場合であっても保持方向の推定、画面方向の変更ができるため、ユーザの利便性が向上する。
【実施例5】
【0057】
次に、実施例1の携帯端末100に新たなセンサを付加することで、ユーザの保持方向の変動を迅速に予測でき、当該センサの時系列変動が小さい場合に学習を行うことで、明示的な学習期間を設けることなく、自動的に学習動作を進めることができる実施例5に係る携帯端末500について詳細に説明する。まず図11、図17を参照して実施例5に係る携帯端末500の学習状態における動作について説明する。図11は本実施例に係る携帯端末500の構成を示すブロック図である。図17は本実施例に係る携帯端末500の学習動作を示すフローチャートである。
【0058】
本実施例の携帯端末500は圧力センサアレイ105と、把持特徴サンプル取得部120と、変動検知部515と、環境センサ310と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、平均モデルデータ記憶部485と、保持方向推定部460と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない変動検知部515と、環境センサ310と、平均モデルデータ記憶部485とを備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部460に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。ここでは、切替え部125が学習状態にセットされているものとする。まず、把持特徴サンプル取得部120において、把持特徴サンプルの時系列データが取得され、環境センサ310において、携帯端末500の周囲環境情報の時系列データが取得される。変動検知部515は、取得された把持特徴サンプルの時系列変動が所定の値以下となる場合であって環境センサ310が取得する周囲環境情報の時系列変動が所定の値以下となる場合に、切替え部125を学習状態に切り換える(S515N)。一方、変動検知部515は、取得された把持特徴サンプルの時系列変動が所定の値を超える場合、または環境センサ310が取得する周囲環境情報の時系列変動が所定の値を超える場合に切替え部125を認識状態に切り換える(S515Y、エンド)。切替え部125が学習状態にセットされている場合(S515N)、把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。保持方向推定部460は、把持特徴サンプル取得部120から把持特徴サンプルを、平均モデルデータ記憶部485から平均モデルデータをそれぞれ取得し、両者を比較照合することで保持方向を推定し、把持特徴サンプルと推定された保持方向とをペアにして、把持特徴サンプル取得部120に出力する(S460)。把持特徴サンプル取得部120が取得した把持特徴サンプルと推定保持方向のペアは、サンプル一時記憶部130に出力される(S460)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達した(Sm>SFm)場合にはステップS135に進み、モデルデータ学習部135が、把持特徴サンプルを用いてモデルデータを学習する(S130Y、S135)。モデルデータ記憶部155は、学習済みのモデルデータを記憶する(S155)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達していない(Sm<SFm)場合にはスタートに戻り、切替え部125が学習状態にある限りにおいて、把持特徴サンプル取得動作、保持方向推定動作を繰り返す(S130N)。よって、切替え部125が学習状態にある限りにおいて、モデルデータが得られるまで、S515、S120、S460が繰り返される(S130N)。
【0059】
実施例5に係る携帯端末500の認識状態における動作については前述した実施例4に係る携帯端末400の認識状態における動作と全く同じであるため説明を割愛する。
【0060】
このように、本実施例の携帯端末500は、変動検知部515が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末500を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末500の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができるため、明示的な学習期間を設けることなく自動的に学習動作を進めることが可能である。同様に、本実施例の携帯端末500は、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、本実施例の携帯端末500は、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末500を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末500の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。また、本実施例の携帯端末500は、保持方向推定部460が、モデルデータ未学習の場合に、予め平均モデルデータ記憶部485に記憶された平均モデルデータを用いて、認識動作を行うため、モデルデータ未学習の場合であっても保持方向の推定、画面方向の変更ができるため、ユーザの利便性が向上する。
【0061】
また、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
【0062】
また、上述の構成をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。
【0063】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
【0064】
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
【0065】
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。
【0066】
また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【技術分野】
【0001】
本発明はユーザが移動情報端末を把持したときの把持特徴サンプルを取得して画面方向を変更する移動情報端末、画面方向変更方法、プログラムに関する。
【背景技術】
【0002】
近年、移動情報端末の高機能化に伴い、例えば特許文献1のように半導体ジャイロなどの重力方向センサの検知結果に基づいて、移動情報端末の表示画面に表示されたオブジェクトをユーザが閲覧しやすい向きに回転補正する機能を備える移動情報端末が実用化されている。特許文献1の画面表示装置は、重力方向検知部と、回転オブジェクト処理部とを備え、重力方向検出部は、重力方向を検出する。回転オブジェクト処理部は、表示画面内での各回転オブジェクトの上下方向が、重力方向の表示画面への投影方向に一致するように、各オブジェクトの姿勢を調整する。これにより、特許文献1の画面表示装置は、表示対象画像に含まれる、上下向きを正姿勢属性として持つ少なくとも1つの回転オブジェクトを、その姿勢が正しくなるように表示画面に表示することができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−310031号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
図1を参照して、従来技術が抱える課題について説明する。図1は従来技術の移動情報端末の画面方向補正の問題点について例示する図である。図1(a)はユーザが立位、もしくは座位の姿勢で移動情報端末を左手で把持しながら移動情報端末内の画面を閲覧している状態を例示している。また、図1(b)はユーザが横臥位の姿勢で移動情報端末を左手で把持しながら移動情報端末内の画面を閲覧している状態を例示している。図1(a)においては、重力方向の軸、もしくは移動情報端末表示画面が存在する面へ重力方向の軸を射影した軸と、ユーザ所望の画面方向軸(天地方向の軸)が一致している。このためユーザは見やすく適切な方向に表示された表示画面を閲覧することが可能である。一方、図1(b)においては、重力方向の軸、もしくは移動情報端末表示画面が存在する面へ重力方向の軸を射影した軸と、ユーザ所望の画面方向軸が一致しない。このためユーザは自身の見やすい表示方向でない画面をそのまま閲覧するか、もしくは移動情報端末の画面方向がユーザ所望の方向に調整されるように、移動情報端末を回転させて移動情報端末内部の重力方向センサを動作させなければならない。ユーザが見やすい表示方向でない画面のまま閲覧を続けなければならいのはユーザにとって不便であるし、また、移動情報端末を回転させて移動情報端末内部の重力方向センサを動作させる場合には、ユーザは図1(b)において自然な手指、手首の状態で移動情報端末を把持しているのであるから、手首を無理な方向にねじらなければならないからユーザにとって不便である。ユーザにとって維持が困難な手指、手首の状態であれば、ユーザは結局寝ころんだまま携帯端末の閲覧を続けることができず、起き上って、座位の姿勢、立位の姿勢で移動情報端末の閲覧を行わなければならない。上記の不具合は、従来技術の移動情報端末において、重力方向の軸またはこれを表示画面へ射影した軸と、ユーザ所望の天地の方向が常に一致すると仮定しているものの、現実にはこれらが一致しない使用場面が少なからず存在することを原因とする。従って、重力加速度や重力方向を測定することによって、ユーザ所望の画面方向を推定する方法では、上記不具合を解決できない。
【0005】
そこで本発明では重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる移動情報端末を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の移動情報端末は、把持特徴サンプルを取得して画面方向を変更することを特徴とし、把持特徴サンプル取得部と、切替え部と、モデルデータ学習部と、保持方向推定部と、画面方向変更部とを備える。把持特徴サンプル取得部は、把持特徴サンプルを取得する。切替え部は、移動情報端末を学習状態、認識状態のどちらかの状態に切替える。モデルデータ学習部は、移動情報端末の状態が学習状態である場合に、把持特徴サンプルを用いてモデルデータを学習する。保持方向推定部は、移動情報端末の状態が認識状態である場合に、学習されたモデルデータと把持特徴サンプルとを比較してユーザの保持方向を推定する。画面方向変更部は、推定された保持方向に基づいて画面方向を変更する。
【発明の効果】
【0007】
本発明の移動情報端末によれば、重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる。
【図面の簡単な説明】
【0008】
【図1】従来技術の移動情報端末の画面方向補正の問題点について例示する図。
【図2】本発明の全ての実施例の携帯端末が備える圧力センサアレイを例示する図。
【図3】携帯端末を把持するユーザの手指位置と画面方向の関係を例示する図。
【図4】把持特徴分布と画面方向の関係を例示する図。
【図5】平均モデルデータと画面方向の関係を例示する図。
【図6】本発明の実施例1〜3に係る携帯端末が備える制御アプリケーションの動作を説明する図。
【図7】実施例1に係る携帯端末の構成を示すブロック図。
【図8】実施例2に係る携帯端末の構成を示すブロック図。
【図9】実施例3に係る携帯端末の構成を示すブロック図。
【図10】実施例4に係る携帯端末の構成を示すブロック図。
【図11】実施例5に係る携帯端末の構成を示すブロック図。
【図12】実施例1〜3に係る携帯端末の学習動作を示すフローチャート。
【図13】実施例1に係る携帯端末の認識動作を示すフローチャート。
【図14】実施例2に係る携帯端末の認識動作を示すフローチャート。
【図15】実施例3に係る携帯端末の認識動作を示すフローチャート。
【図16】実施例4に係る携帯端末の学習動作を示すフローチャート。
【図17】実施例5に係る携帯端末の学習動作を示すフローチャート。
【図18】実施例4、5に係る携帯端末の認識動作を示すフローチャート。
【発明を実施するための形態】
【0009】
以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。
【0010】
<用語の説明>
[移動情報端末]
本発明の移動情報端末を具体化する機器の例として携帯端末、PDA、携帯ゲーム機、電子手帳、電子書籍専用端末などがある。ただし、これら列挙した機器に限らず(1)把持しながら使用する機器であり使用時に把持特徴を取得でき、(2)様々な画面方向で使用することができる機器であればどんなものでも本発明の移動情報端末とすることができる。実施例における説明では携帯端末(タッチパネル式)を具体例として詳細に説明する。
【0011】
[表示方向/画面方向]
移動情報端末の画面長手方向を上下方向として表示するか、左右方向として表示するかで区別される表示の方向を表示方向と呼ぶ。また、移動情報端末の画面の天地の方向を画面方向、または天地の方向と呼ぶ。
【0012】
[縦表示/横表示]
移動情報端末の表示方向が画面長手方向を上下方向とする向きである場合を縦表示と呼ぶ。また、移動情報端末の表示方向が画面長手方向を左右方向とする向きである場合を横表示と呼ぶ。
【0013】
[操作指]
移動情報端末のタッチパネルに接触して、移動情報端末を操作する指を操作指と呼ぶ。
<用語の説明終わり>
【0014】
<把持特徴サンプル>
本発明の全ての実施例に係る携帯端末100、200、300、400、500が取得する把持特徴サンプルについて説明する。携帯端末を把持するときの癖は人により異なっており、ユーザ固有の把持特徴のサンプル(把持特徴サンプル)の平均値などをユーザ所望の画面方向毎にモデルデータとして予め学習・記憶しておけば、学習・記憶済みのモデルデータと新たに取得されたユーザの把持特徴サンプルとの比較によって、ユーザ所望の画面方向(以下、保持方向ともいう)を推定することができ、保持方向に基づいて画面方向を回転補正することができる。
【0015】
従って本発明では、把持特徴サンプルを取得し、携帯端末100、200、300、400、500の画面方向の回転補正に用いる。把持特徴サンプルとして用いることができる物理量としては、例えば把持圧力分布、把持形状分布、把持温熱分布などが考えられる。これらの把持特徴サンプルの取得方法としては、例えば圧力センサを携帯端末100、200、300、400、500の筐体面に面状配置することにより把持圧力分布を取得することができる。同様にCCD(CMOS)センサの面状配置により把持形状分布を取得することができる。同様に赤外線センサの面状配置により、把持温熱分布の取得が可能である。また、端末背面に操作キー(タッチパネル)が配置されているような携帯端末であれば、操作キー(タッチパネル)の押圧状況(操作キー、タッチパネルが押されているか否か)を記録することによっても把持特徴を取得可能である。
【0016】
<把持特徴センサ>
把持特徴サンプルを取得するためのセンサは、上述のとおり、圧力センサ、CCD(CMOS)センサ、赤外線センサなどとすることができるが、本明細書ではこれらを総称する場合には把持特徴センサと呼ぶものとする。実施例における説明では、把持特徴センサとして圧力センサを採用するものとし、把持特徴サンプルとしては把持圧力分布を用いるものとする。
【0017】
<圧力センサアレイ105>
次に、図2を参照して本発明の全ての実施例の携帯端末100、200、300、400、500が備える圧力センサアレイ105について説明する。図2は全ての実施例の携帯端末100、200、300、400、500が備える圧力センサアレイ105について例示する図である。図2はあくまで例示であるため、本発明で用いられる圧力センサアレイ105の配置位置について何ら限定するものではない。図2の例では、携帯端末100、200、300、400、500が備える圧力センサアレイ105は携帯端末上端辺に配置された圧力センサアレイU、携帯端末左端辺に配置された圧力センサアレイL、携帯端末右端辺に配置された圧力センサアレイR、携帯端末下端辺に配置された圧力センサアレイBにより構成される。圧力センサアレイUは4つの圧力センサ105−U1、105−U2、105−U3、105−U4にて構成される。圧力センサアレイLは7つの圧力センサ105−L1、105−L2、105−L3、105−L4、105−L5、105−L6、105−L7にて構成される。圧力センサアレイRは7つの圧力センサ105−R1、105−R2、105−R3、105−R4、105−R5、105−R6、105−R7にて構成される。圧力センサアレイBは4つの圧力センサ105−B1、105−B2、105−B3、105−B4にて構成される。このように、携帯端末100、200、300、400、500が圧力センサアレイ105を備えることにより、ユーザ固有の把持特徴を携帯端末縁部における把持圧力分布として取得することができる。
【0018】
<携帯端末を把持するユーザの手指位置と画面方向の関係>
次に図3を参照して、携帯端末を把持するユーザの手指の位置と画面方向の関係について説明する。図3は、携帯端末を把持するユーザの手指位置と画面方向の関係を例示する図である。図3の(a)〜(d)は全てユーザが左手で携帯端末を把持した場合の図であって、図3(a)は携帯端末を図に示すイ方向を天の方向として把持した場合、図3(b)は携帯端末を図に示すロ方向を天の方向として把持した場合、図3(c)は携帯端末を図に示すハ方向を天の方向として把持した場合、図3(d)は携帯端末を図に示すニ方向を天の方向として把持した場合である。本明細書では、ユーザが左手で携帯端末を把持する場合についてのみ説明するが、ユーザの利き手が逆である場合にはユーザは右手で携帯端末を把持する。この場合も以降の原理については全く同じであるから重複説明を省略する。
【0019】
<把持特徴分布と画面方向の関係>
次に、図4を参照して上述のユーザの手指位置から計測される把持特徴分布(把持圧力分布)と画面方向の関係について説明する。図4は把持特徴分布と画面方向の関係を例示する図である。図4(a)は携帯端末をイ方向を天の方向として把持した場合の把持圧力が生じる位置、図4(b)は携帯端末をロ方向を天の方向として把持した場合の把持圧力が生じる位置、図4(c)は携帯端末をハ方向を天の方向として把持した場合の把持圧力が生じる位置、図4(d)は携帯端末をニ方向を天の方向として把持した場合の把持圧力が生じる位置をそれぞれ斜線領域で示している。図3(a)と図4(a)、図3(b)と図4(b)、図3(c)と図4(c)、図3(d)と図4(d)がそれぞれ対応している。図4に表すように、ユーザ所望の画面方向(イ、ロ、ハ、ニ方向)と把持圧力の生じる位置には強い相関がみられる。従って、図4(a)〜(d)に示すようにユーザ所望の画面方向毎に把持特徴サンプルとして把持圧力分布を取得して、所望の画面方向毎に後述するモデルデータを学習・記憶しておけば、当該モデルデータと新たに取得した把持特徴サンプルとの比較照合によって、ユーザ所望の画面方向(保持方向)を推定することができる。
【0020】
<平均モデルデータ>
次に、実施例4、5において用いられる平均モデルデータについて説明する。平均モデルデータとは、予めモデルユーザを複数人(例えば20〜30人)設定し、これらモデルユーザの把持特徴を携帯端末の機種ごとに解析し、当該機種ごとに出荷時の携帯端末内部の記憶領域(後述する平均モデルデータ記憶部485)に予め記憶しておくデータである。平均モデルデータは、把持特徴観測領域の分布で定義される。例えば、全てのモデルユーザの把持特徴サンプルを画面方向毎、利き手毎(左手/右手把持)に分類して取得したうえで、分類ごとに、少なくとも一人のモデルユーザにおいて把持特徴サンプルが観測された領域全てを把持特徴観測領域と設定することができる。また、分類ごとに半数以上のモデルユーザにおいて把持特徴サンプルが観測された領域全てを把持特徴観測領域と設定してもよい。平均モデルデータを用いたユーザの保持方向推定は、平均モデルデータが示す把持特徴観測領域と、新たに取得したユーザの把持特徴サンプルの一部とが重なりあうか否かによって行われる。把持特徴観測領域は広範囲に設定すれば、誤認識の確率が大きくなる。一方、把持特徴観測領域を狭い範囲に限定してしまうと、ユーザの把持特徴サンプルを取得しても、当該把持特徴サンプルが何れの把持特徴観測領域にも重複しないことにより、何れの画面方向であるか認識不能となるケースが増大する。従って、把持特徴観測領域の範囲は、誤認識確率、認識不能確率の何れもが最小となるように設定する必要がある。
【0021】
<平均モデルデータと画面方向の関係>
次に、図5を参照して実施例4、5において用いられる平均モデルデータと画面方向の関係について説明する。図5は平均モデルデータと画面方向の関係を例示する図である。図5(a)は携帯端末をイ方向を天の方向として把持した場合の把持特徴観測領域分布、図5(b)は携帯端末をロ方向を天の方向として把持した場合の把持特徴観測領域分布、図5(c)は携帯端末をハ方向を天の方向として把持した場合の把持特徴観測領域分布、図5(d)は携帯端末をニ方向を天の方向として把持した場合の把持特徴観測領域分布をそれぞれ黒四角で示している。なお、図5は、図3と同様、左手把持の場合の平均モデルデータについて例示したものであるから、右手把持について考える場合は、図5の把持特徴観測領域分布は、携帯端末の天地方向の軸に線対称な位置に移動する。
【0022】
例えば図5(a)の場合、携帯端末の左下端部、右下端部の両方に把持特徴観測領域が存在する。この場合、ユーザの把持特徴分布が、連続する2つの把持特徴観測領域(左下端部、右下端部)の何れの領域内の一部においても観測された場合に、ユーザ所望の画面方向はイ方向を天の方向とする方向であると推定される。例えば図5(c)の場合、携帯端末の下端部、右下端部の両方に把持特徴観測領域が存在する。この場合、ユーザの把持特徴分布が、連続する2つの把持特徴観測領域(下端部、右下端部)の何れの領域内の一部においても観測された場合に、ユーザ所望の画面方向はハ方向を天の方向とする方向であると推定される。図5(a)〜(d)に示すように画面方向毎、利き手毎に把持特徴観測領域を取得して、これらを画面方向毎、利き手毎に平均モデルデータとして予め記憶しておけば、当該平均モデルデータと取得した把持特徴サンプルとの比較照合によって、簡易にユーザ所望の画面方向(保持方向)を推定することができる。
【0023】
<制御アプリケーション190>
本発明では、モデルデータの学習動作時、保持方向推定動作時の双方において把持特徴サンプルを取得する必要がある。本発明の実施例1〜3の携帯端末100、200、300においては、学習動作を開始するために必要な制御アプリケーション190を備える。以下、図6を参照して本発明の実施例1〜3が備える制御アプリケーション190について説明する。図6は本発明の実施例1〜3が備える制御アプリケーション190の動作を説明する図である。本携帯端末100、200、300が、未だモデルデータの学習動作を完了していないときは、例えばこの制御アプリケーション190の学習開始機能が一定時間経過毎に表示画面にアラート、もしくは通知を表示するものとする。ユーザは、本発明の制御アプリケーション190を用いて学習を行う場合には、アラートもしくは通知に従って、制御アプリケーション190を起動する。ユーザは、本発明の制御アプリケーション190を用いて学習を行わない場合には、機能設定画面などから、従来通り重力方向により画面方向を取得する機能をONとして、本発明の制御アプリケーション190の機能をOFFにすることもできる。これにより、ユーザは従来通り携帯端末を使用することもできる。
【0024】
ユーザにより起動された制御アプリケーション190は、例えば図6(a)のような画面を初期画面として表示する。制御アプリケーション190は初期画面として例えば「モデルデータの学習を開始します。画面の天の向きを入力してください」と表示して、画面の上下左右の端部に押下可能なアイコン(図6では三角印)を配置しておく。ユーザは、初期画面のアナウンスに従って、例えば図6(a)の破線で囲ったアイコンを天の方向として指定すべく、このアイコンを操作指で押下するものとする。この場合、左手はなるべく固定された状態にしておくことにより、モデルデータの学習精度が高まるため、操作指は、把持した手と反対側の手の指とすることが望ましい。ユーザがアイコンを押下した場合、制御アプリケーション190は、例えば図6(b)のように押下されたアイコンを黒三角形で表示し、「モデルデータ学習中です。」と表記する。このアナウンスは押下により新たに指定された天の方向に従ってユーザが閲覧しやすい方向に表示することもできる。ユーザはこのアナウンスが表示されている間、一定の把持状態を保持するように努める。制御アプリケーション190は、ユーザのアイコン押下をトリガとして、把持特徴サンプル取得部120に学習開始信号を出力する。把持特徴サンプル取得部120は、制御アプリケーション190から学習開始信号を取得し、圧力センサアレイ105から把持圧力分布を連続的に取得する。把持圧力取得の頻度は、例えば2〜3回/秒などとすることができる。ユーザは、アナウンスの下に表示された「中断する」アイコンを押下することでいつでも制御アプリケーションを終了させることができる。取得された把持特徴サンプルの数Smが、モデルデータの学習に必要な学習開始サンプル数SFmに達した場合には、制御アプリケーション190は「学習が終了しました」というアナウンスを表示して、終了する。このとき、他の保持方向(イ、ロ、ハ、ニ方向)の何れかにおいて学習が終了していない場合には、制御アプリケーション190は、再度「モデルデータの学習を開始します。画面の天の向きを入力してください」と表示して、前述同様、画面の上下左右の端部に押下可能なアイコン(三角印)を配置し、学習が終了した保持方向については、例えばアイコンを表示しないようにして、ユーザに次の保持方向での学習を促すこともできる。
【0025】
制御アプリケーション190が出力する学習開始信号の取得をトリガとして、把持特徴サンプル取得部120が取得した把持圧力分布は、ユーザ所望の画面方向(保持方向)毎に、分類されてサンプル一時記憶部130に記憶される。このように、サンプル一時記憶部130が記憶する把持圧力分布のデータ数が、ある保持方向の分類において予め定めた学習開始サンプル数SFmに達した場合、取得された把持圧力分布のデータ数がSFmに達した保持方向の分類においてモデルデータの学習を行う。モデルデータの学習についての詳細は後述する。
【0026】
<モデルデータ、モデルデータ学習部135、保持方向推定部160>
本発明の全ての実施例に係る携帯端末100、200、300、400、500が備えるモデルデータ学習部135において学習される保持方向推定時に用いるモデルデータについて説明する。モデルデータとは、ユーザの把持特徴を代表して表す雛形のことである。モデルデータ学習部135は、モデルデータをユーザから取得した把持特徴サンプルの平均値などから学習する。学習されたモデルデータは、例えば実施例1では、保持方向推定部160において、学習後に新たに取得された把持特徴サンプルと照合される。実施例1の保持方向推定部160は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。
【0027】
<変動検知部215、保持方向推定部260>
次に、本発明の実施例2の携帯端末200が備える変動検知部215について説明する。変動検知部215は、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部260に出力することで、保持方向推定部260の保持方向の推定動作を新たに実行させるための構成部である。具体的には、変動検知部215は、把持特徴サンプル取得部120が取得した把持特徴サンプルの時系列データを取得して、当該取得した時系列データから、把持特徴サンプルの時系列変動が所定の値を超えた場合に、保持方向推定部260に、変動検知信号を出力する。保持方向推定部260は、変動検知信号を取得した場合に、モデルデータと、変動検知信号取得後に新たに取得された把持特徴サンプルとを照合する。保持方向推定部260は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。
【0028】
このように、変動検知部215が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部260に出力することで、保持方向推定部260の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【0029】
<環境センサ310>
次に、本発明の実施例3、5に係る携帯端末300、500に内蔵される環境センサ310について詳細に説明する。環境センサ310とは、携帯端末が属する環境を取得するためのセンサのことである。本発明において環境センサ310として用いられるセンサは携帯端末300、500の挙動を測定することができれば、他に何ら制限はなく、携帯端末300、500に実装可能なサイズおよびコストの範囲内であればどんなセンサをも組み合わせることができる。例えば、望ましい環境センサ310の例として加速度センサ、ジャイロスコープ(角速度センサ)などがある。加速度センサとしては、例えば3軸加速度センサが携帯端末への実装によく用いられる。3軸加速度センサとしてはピエゾ抵抗型3軸加速度センサ、静電容量型3軸加速度センサ、熱検知型3軸加速度センサなどがある。ジャイロスコープとしては、例えばMEMSジャイロスコープが携帯端末への実装によく用いられる。
【0030】
環境センサ310によって感知された携帯端末の周囲環境情報は時系列データとして環境センサ310から出力される。周囲環境情報の時系列データとして例えば、加速度センサが測定した3軸加速度の時系列データ、ジャイロスコープが測定した角度、角速度、角加速度の時系列データなどがある。本明細書では、「周囲環境情報の時系列データ」という語は、上述の環境センサ310が携帯端末の周囲環境を測定した結果として得られる周囲環境情報の時系列データを示す信号全般を総称するものとする。
【0031】
<変動検知部315>
本発明の実施例3に係る携帯端末300が備える変動検知部315の動作については、基本的には変動検知部215の動作と変わらないが、変動検知部315は、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データ(例えば、加速度センサが測定した3軸加速度の時系列データ、ジャイロスコープが測定した角度、角速度、角加速度の時系列データなど)の時系列変動をも監視しており、これら時系列変動の何れかが所定の値を超えた場合に変動検知信号を出力する。
【0032】
このように、変動検知部315が、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データの時系列変動をも検知し、これら時系列変動の何れかが所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部360に出力することで、保持方向推定部360の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【0033】
<変動検知部415>
次に、本発明の実施例4に係る携帯端末400が備える変動検知部415について説明する。変動検知部415は、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末400を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末400の学習動作を実行させるための構成部である。また、変動検知部415は、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末400を保持していないため、学習動作に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末400の認識動作を実行させるための構成部である。具体的には、変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値以下となる場合に、切替え部125を学習状態に切り換える。一方、変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値を超える場合には、切替え部125を認識状態に切り換える。
【0034】
このように、変動検知部415が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末400を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末400の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができるため、前述の制御アプリケーション190を用いた明示的な学習期間を設けることなく、自動的に学習動作を進めることが可能である。同様に、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末400を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末400の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。このとき、モデルデータが学習済みでない場合には、前述した平均モデルデータ記憶部485に予め記憶された平均モデルデータを保持方向の推定に用いる。
【0035】
<変動検知部515>
本発明の実施例5に係る携帯端末500が備える変動検知部515の動作については、基本的には変動検知部415の動作と変わらないが、変動検知部515は、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データ(例えば、加速度センサが測定した3軸加速度の時系列データ、ジャイロスコープが測定した角度、角速度、角加速度の時系列データなど)の時系列変動をも監視しており、これら時系列変動の何れもが所定の値以下となる場合にはユーザが安定して携帯端末500を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末500の学習動作を実行させる。一方、これら時系列変動の何れかが所定の値を超過する場合にはユーザが安定して携帯端末500を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末500の認識動作を実行させる。
【0036】
このように、変動検知部515が、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データの時系列変動をも検知し、これらの変動が所定の値以下となる場合には携帯端末500の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができ、前述の制御アプリケーション190を用いた明示的な学習期間を設けることなく、自動的に学習動作を進めることが可能である。同様に、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、上述の変動が所定の値を超える場合には、携帯端末500の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。このとき、モデルデータが学習済みでない場合には、前述した平均モデルデータ記憶部485に予め記憶された平均モデルデータを保持方向の推定に用いる。
【0037】
<保持方向推定部360>
本発明の実施例3が備える保持方向推定部360の動作については、基本的には保持方向推定部260の動作と変わらない。保持方向推定部360は、変動検知部315から変動検知信号を取得した場合に、モデルデータと、変動検知信号取得後に新たに取得された把持特徴サンプルとを照合する。保持方向推定部360は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。
【0038】
<保持方向推定部460>
次に、本発明の実施例4、5に係る携帯端末400、500が備える保持方向推定部460の学習状態における動作について説明する。後述するように実施例4、5においては制御アプリケーション190を用いず、明示的な学習期間を設けないことを特徴としている。一方、モデルデータの学習には、図4で例示したようにユーザ所望の画面方向と把持特徴サンプルが対のデータとして取得される必要がある。そこで、実施例4、5においては、学習状態における動作において、保持方向推定部460が、把持特徴サンプル取得部120から把持特徴サンプルを、平均モデルデータ記憶部485から平均モデルデータをそれぞれ取得し、両者を比較照合することで保持方向を推定し、推定された保持方向を把持特徴サンプル取得部120に出力する処理を行う。従って、把持特徴サンプル取得部120には、把持特徴サンプルと、当該把持特徴サンプルから平均モデルデータを用いて推定される保持方向とがペアとして集められ、サンプル一時記憶部130に出力される。これにより、実施例4、5に係る携帯端末400、500では、制御アプリケーション190などを用いてユーザに保持方向の指定(タッチパネル操作)をさせなくても、モデルデータの学習に必要なデータの収集をすることが可能となる。
【0039】
保持方向推定部460の認識状態における動作については、モデルデータ学習部135においてモデルデータが学習済みである場合には、保持方向推定部160の動作と変わらない。モデルデータ学習部135において学習されたモデルデータは、保持方向推定部460において、学習後に新たに取得された把持特徴サンプルと照合される。保持方向推定部460は、照合により求めた値(ベクトル間距離、例えばマハラノビス汎距離)の大小により、ユーザの保持方向を推定する。ただし、保持方向推定部460は、モデルデータ学習部135で未だモデルデータの学習が完了していない場合には、平均モデルデータ記憶部485に予め記憶された平均モデルデータを、学習済みのモデルデータの代替として用いる。このように、保持方向推定部460が、モデルデータ未学習の場合に、予め平均モデルデータ記憶部485に記憶された平均モデルデータを用いて、認識動作を行うため、モデルデータ未学習の場合であっても保持方向の推定、画面方向の変更ができるため、ユーザの利便性が向上する。
【実施例1】
【0040】
上述の条件を前提として、把持特徴サンプル取得によりユーザの保持方向を推定し、携帯端末の画面方向をユーザ所望の画面方向に変更することができる実施例1に係る携帯端末100について詳細に説明する。まず図7、図12を参照して実施例1に係る携帯端末100の学習状態における動作について説明する。図7は本実施例に係る携帯端末100の構成を示すブロック図である。図12は本実施例に係る携帯端末100の学習動作を示すフローチャートである。
【0041】
本実施例の携帯端末100は圧力センサアレイ105と、制御アプリケーション190と、把持特徴サンプル取得部120と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、保持方向推定部160と、画面方向変更部180とを備える。本実施例の携帯端末100は切替え部125を備えており、この切替え部125によって、携帯端末100を学習状態、認識状態のどちらかの状態に切替えることができるものとする。ここでは、切替え部125が学習状態にセットされているものとする。圧力センサアレイ105については前述したように携帯端末100に内蔵されている。制御アプリケーション190は、<制御アプリケーション190>で述べたように、携帯端末100の表示画面にユーザ向けの所定のアナウンスを表示し、ユーザが前述のイ、ロ、ハ、ニの何れかの方向を指定するアイコンを押下した場合に、学習開始信号を生成・出力する(S190)。把持特徴サンプル取得部120は、制御アプリケーション190から学習開始信号を取得して、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。ここで、取得済みの把持特徴サンプルの個数をSmとし、学習開始サンプル数をSFmとする。学習開始サンプル数SFmとは、モデルデータの学習に必要なサンプル数として予め定めたものである。これは、把持特徴サンプルの取得数が少ない状態でモデルデータの学習を行っても、十分に精度の高いモデルデータを生成することが出来ないため、精度の高いモデルデータを得るために必要であると経験的に分かっているサンプルの数を学習開始サンプル数SFmとして設定したものである。従って、サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達した(Sm>SFm)場合にはステップS135に進み、モデルデータ学習部135が、把持特徴サンプルを用いてモデルデータを学習する(S130Y、S135)。モデルデータ記憶部155は、学習済みのモデルデータを記憶する(S155)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達していない(Sm<SFm)場合にはスタートに戻り、学習開始信号の取得と同時に把持特徴サンプルを取得する動作を繰り返す(S130N)。よって、モデルデータが得られるまで、S190、S120が繰り返される(S130N)。モデルデータは、把持特徴サンプル(把持圧力分布)の平均値などから求められる。
【0042】
次に、図7、図13を参照して実施例1に係る携帯端末100の認識状態における動作について説明する。図13は本実施例に係る携帯端末100の認識動作を示すフローチャートである。ここでは、携帯端末100の切替え部125が認識状態にセットされているものとする。なお、認識状態動作時には、上述した学習状態が既に動作しており、モデルデータがモデルデータ記憶部155に記憶済みであるものとする。把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。次に、保持方向推定部160は、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S160)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末100の画面方向を変更する(S180)。
【0043】
モデルデータと把持特徴サンプルとの比較の方法については、例えば以下のように実現可能である。保持方向推定部160は、モデルデータと認識状態において取得された把持特徴サンプルとの距離(例えばマハラノビス汎距離)を求める。保持方向推定部160は、この距離がある一定の値以下であれば取得された把持特徴サンプルを本人のものと結論する。一方、保持方向推定部160は、モデルデータと把持特徴サンプルとの距離(例えばマハラノビス汎距離)が一定の値以下でなければ取得された把持特徴サンプルは本人のものでないと結論する。
【0044】
このように、本実施例の携帯端末100は、重力方向に依らず、移動情報端末の画面方向をユーザ所望の画面方向に変更することができる。
【実施例2】
【0045】
次に、実施例1の携帯端末100に新たに変動検知機能を付加することで、ユーザの保持方向の変動を迅速に予測できる実施例2に係る携帯端末200について詳細に説明する。図8、図14を参照して実施例2に係る携帯端末200の認識状態における動作について説明する。図8は本実施例に係る携帯端末200の構成を示すブロック図である。図14は本実施例に係る携帯端末200の認識動作を示すフローチャートである。
【0046】
本実施例の携帯端末200は圧力センサアレイ105と、制御アプリケーション190と、把持特徴サンプル取得部120と、変動検知部215と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、保持方向推定部260と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない変動検知部215を備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部260に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。従って、実施例2の携帯端末200の学習状態における動作は実施例1と全く同じであるため、説明を割愛する。
【0047】
以下、本実施例の携帯端末200の認識状態における動作について説明する。なお、認識状態動作時には、実施例1と同様に学習状態が既に動作しており、モデルデータがモデルデータ記憶部155に記憶済みであるものとする。把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。変動検知部215は、取得された把持特徴サンプルの時系列変動が所定の値を超えた場合に変動検知信号を出力する(S215Y)。一方、把持特徴サンプルの時系列変動が所定の値を超えない場合には、変動検知部215は、変動検知信号を出力せず、処理を終了する(S215N、エンド)。保持方向推定部260は、変動検知部215から変動検知信号を取得した場合には、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S260)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末200の画面方向を変更する(S180)。
【0048】
このように、本実施例の携帯端末200では、変動検知部215が、把持特徴サンプルの時系列変動を検知し、把持特徴サンプルの時系列変動が所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部260に出力することで、保持方向推定部260の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【実施例3】
【0049】
次に、実施例1の携帯端末100に新たなセンサを付加することで、ユーザの保持方向の変動を迅速に予測できる実施例3に係る携帯端末300について詳細に説明する。図9、図15を参照して実施例3に係る携帯端末300の認識状態における動作について説明する。図9は本実施例に係る携帯端末300の構成を示すブロック図である。図15は本実施例に係る携帯端末300の認識動作を示すフローチャートである。
【0050】
本実施例の携帯端末300は圧力センサアレイ105と、環境センサ310と、制御アプリケーション190と、把持特徴サンプル取得部120と、変動検知部315と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、保持方向推定部360と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない環境センサ310、変動検知部315を備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部360に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。従って、実施例3の携帯端末300の学習状態における動作は実施例1と全く同じであるため、説明を割愛する。環境センサ310とは、<環境センサ310>で述べたように、携帯端末300が属する環境を取得するためのセンサのことである。具体的には加速度センサ、ジャイロスコープ(角速度センサ)などで構成することができる。
【0051】
以下、本実施例の携帯端末300の認識状態における動作について説明する。なお、認識状態動作時には、実施例1と同様に学習状態が既に動作しており、モデルデータがモデルデータ記憶部155に記憶済みであるものとする。環境センサ310は、一定時間経過ごとに(例えば、1秒間に2〜3回程度)携帯端末の周囲環境情報を取得する。把持特徴サンプル取得部120も同様に、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。変動検知部315は、取得された把持特徴サンプルの時系列変動が所定の値を超えた場合、または環境センサが取得する周囲環境情報の時系列変動が所定の値を超えた場合に変動検知信号を出力する(S315Y)。一方、これらの時系列変動の何れもが所定の値を超えない場合には、変動検知部315は、変動検知信号を出力せず、処理を終了する(S315N、エンド)。保持方向推定部360は、変動検知部315から変動検知信号を取得した場合には、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S360)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末300の画面方向を変更する(S180)。
【0052】
このように、本実施例の携帯端末300では、変動検知部315が、把持特徴サンプルの時系列変動に加えて、環境センサ310が取得した周囲環境情報の時系列データの時系列変動をも検知し、これら時系列変動の何れかが所定の値を超える場合にはユーザの保持方向が変更される可能性が高いと判定し、変動検知信号を保持方向推定部360に出力することで、保持方向推定部360の保持方向の推定動作を新たに実行させるため、ユーザの保持方向の変動を予測して、迅速に画面方向をユーザ所望の画面方向に追随変化させることが可能である。
【実施例4】
【0053】
次に、明示的な学習期間を設けることなく、自動的に学習動作を進めることができる実施例4に係る携帯端末400について詳細に説明する。まず図10、図16を参照して実施例4に係る携帯端末400の学習状態における動作について説明する。図10は本実施例に係る携帯端末400の構成を示すブロック図である。図16は本実施例に係る携帯端末400の学習動作を示すフローチャートである。
【0054】
本実施例の携帯端末400は圧力センサアレイ105と、把持特徴サンプル取得部120と、変動検知部415と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、平均モデルデータ記憶部485と、保持方向推定部460と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない変動検知部415、および平均モデルデータ記憶部485を備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部460に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。ここでは、切替え部125が学習状態にセットされているものとする。まず、把持特徴サンプル取得部120において、把持特徴サンプルの時系列データが取得される。変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値以下となる場合に、切替え部125を学習状態に切り換える(S415N)。一方、変動検知部415は、取得された把持特徴サンプルの時系列変動が所定の値を超える場合に切替え部125を認識状態に切り換える(S415Y、エンド)。切替え部125が学習状態にセットされている場合(S415N)、把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。保持方向推定部460は、把持特徴サンプル取得部120から把持特徴サンプルを、平均モデルデータ記憶部485から平均モデルデータをそれぞれ取得し、両者を比較照合することで保持方向を推定し、把持特徴サンプルと推定された保持方向とをペアにして、把持特徴サンプル取得部120に出力する(S460)。把持特徴サンプル取得部120が取得した把持特徴サンプルと推定保持方向のペアは、サンプル一時記憶部130に出力される(S460)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達した(Sm>SFm)場合にはステップS135に進み、モデルデータ学習部135が、把持特徴サンプルを用いてモデルデータを学習する(S130Y、S135)。モデルデータ記憶部155は、学習済みのモデルデータを記憶する(S155)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達していない(Sm<SFm)場合にはスタートに戻り、切替え部125が学習状態にある限りにおいて、把持特徴サンプル取得動作、保持方向推定動作を繰り返す(S130N)。よって、切替え部125が学習状態にある限りにおいて、モデルデータが得られるまで、S415、S120、S460が繰り返される(S130N)。
【0055】
次に、図10、図18を参照して実施例4に係る携帯端末400の認識状態における動作について説明する。図18は本実施例に係る携帯端末400の認識動作を示すフローチャートである。ここでは、携帯端末400の切替え部125が認識状態にセットされているものとする。なお、認識状態動作時には、上述した学習が既に完了している場合にはモデルデータ記憶部135に記憶されたモデルデータを用いて保持方向推定が行われ、上述した学習が完了していない場合には平均モデルデータ記憶部485に予め記憶された平均モデルデータを用いて保持方向推定が行われる。把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。モデルデータの学習が既に終了している場合には(S460aY)、保持方向推定部460は、学習されたモデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S460b)。モデルデータの学習が終了していない場合には(S460aN)、保持方向推定部460は、予め記憶された平均モデルデータと把持特徴サンプルとを比較して保持方向推定を行う(S460c)。この保持方向推定の結果、保持方向に変化がなかった場合には(S165Y)、画面方向は変更されず、処理は終了する(エンド)。このとき、保持方向推定の結果、保持方向に変化があった場合には(S165N)、画面方向変更部180が、推定された保持方向に基づいて携帯端末400の画面方向を変更する(S180)。
【0056】
このように、本実施例の携帯端末400は、変動検知部415が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末400を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末400の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができるため、明示的な学習期間を設けることなく自動的に学習動作を進めることが可能である。同様に、本実施例の携帯端末400は、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、本実施例の携帯端末400は、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末400を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末400の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。また、本実施例の携帯端末400は、保持方向推定部460が、モデルデータ未学習の場合に、予め平均モデルデータ記憶部485に記憶された平均モデルデータを用いて、認識動作を行うため、モデルデータ未学習の場合であっても保持方向の推定、画面方向の変更ができるため、ユーザの利便性が向上する。
【実施例5】
【0057】
次に、実施例1の携帯端末100に新たなセンサを付加することで、ユーザの保持方向の変動を迅速に予測でき、当該センサの時系列変動が小さい場合に学習を行うことで、明示的な学習期間を設けることなく、自動的に学習動作を進めることができる実施例5に係る携帯端末500について詳細に説明する。まず図11、図17を参照して実施例5に係る携帯端末500の学習状態における動作について説明する。図11は本実施例に係る携帯端末500の構成を示すブロック図である。図17は本実施例に係る携帯端末500の学習動作を示すフローチャートである。
【0058】
本実施例の携帯端末500は圧力センサアレイ105と、把持特徴サンプル取得部120と、変動検知部515と、環境センサ310と、切替え部125と、サンプル一時記憶部130と、モデルデータ学習部135と、モデルデータ記憶部155と、平均モデルデータ記憶部485と、保持方向推定部460と、画面方向変更部180とを備える。実施例1との相違点は、本実施例が実施例1が備えていない変動検知部515と、環境センサ310と、平均モデルデータ記憶部485とを備える点、実施例1における保持方向推定部160が本実施例において保持方向推定部460に変更されている点である。よって、本実施例と実施例1において同一番号を付した共通する各構成部については、実施例1における各構成部と全く同じ動作をするので説明を割愛する。ここでは、切替え部125が学習状態にセットされているものとする。まず、把持特徴サンプル取得部120において、把持特徴サンプルの時系列データが取得され、環境センサ310において、携帯端末500の周囲環境情報の時系列データが取得される。変動検知部515は、取得された把持特徴サンプルの時系列変動が所定の値以下となる場合であって環境センサ310が取得する周囲環境情報の時系列変動が所定の値以下となる場合に、切替え部125を学習状態に切り換える(S515N)。一方、変動検知部515は、取得された把持特徴サンプルの時系列変動が所定の値を超える場合、または環境センサ310が取得する周囲環境情報の時系列変動が所定の値を超える場合に切替え部125を認識状態に切り換える(S515Y、エンド)。切替え部125が学習状態にセットされている場合(S515N)、把持特徴サンプル取得部120は、圧力センサアレイ105より把持特徴サンプルを取得する(S120)。保持方向推定部460は、把持特徴サンプル取得部120から把持特徴サンプルを、平均モデルデータ記憶部485から平均モデルデータをそれぞれ取得し、両者を比較照合することで保持方向を推定し、把持特徴サンプルと推定された保持方向とをペアにして、把持特徴サンプル取得部120に出力する(S460)。把持特徴サンプル取得部120が取得した把持特徴サンプルと推定保持方向のペアは、サンプル一時記憶部130に出力される(S460)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達した(Sm>SFm)場合にはステップS135に進み、モデルデータ学習部135が、把持特徴サンプルを用いてモデルデータを学習する(S130Y、S135)。モデルデータ記憶部155は、学習済みのモデルデータを記憶する(S155)。サンプル一時記憶部130に記憶された把持特徴サンプルの個数Smが、学習開始サンプル数SFmに達していない(Sm<SFm)場合にはスタートに戻り、切替え部125が学習状態にある限りにおいて、把持特徴サンプル取得動作、保持方向推定動作を繰り返す(S130N)。よって、切替え部125が学習状態にある限りにおいて、モデルデータが得られるまで、S515、S120、S460が繰り返される(S130N)。
【0059】
実施例5に係る携帯端末500の認識状態における動作については前述した実施例4に係る携帯端末400の認識状態における動作と全く同じであるため説明を割愛する。
【0060】
このように、本実施例の携帯端末500は、変動検知部515が、ユーザの携帯端末を把持する把持の仕方の変動を検知し、この変動が所定の値以下となる場合にはユーザが安定して携帯端末500を保持している可能性が高いと判定し、切替え部125を学習状態に切り換えて、携帯端末500の学習動作を実行させるため、ユーザの把持状態に応じて学習動作を逐次実行することができるため、明示的な学習期間を設けることなく自動的に学習動作を進めることが可能である。同様に、本実施例の携帯端末500は、明示的なモデルデータ更新期間を設けることなく、自動的にモデルデータの更新動作を進めることも可能である。また、本実施例の携帯端末500は、ユーザの把持の仕方の変動が所定の値を超える場合には、ユーザが安定して携帯端末500を保持していないため、学習に適さないと判定して、切替え部125を認識状態に切り換えて、携帯端末500の認識動作を実行させるため、ユーザの把持状態が変更された可能性が高い場面において、適切に保持方向の推定を行うことができる。また、本実施例の携帯端末500は、保持方向推定部460が、モデルデータ未学習の場合に、予め平均モデルデータ記憶部485に記憶された平均モデルデータを用いて、認識動作を行うため、モデルデータ未学習の場合であっても保持方向の推定、画面方向の変更ができるため、ユーザの利便性が向上する。
【0061】
また、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
【0062】
また、上述の構成をコンピュータによって実現する場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。
【0063】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。
【0064】
また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
【0065】
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。
【0066】
また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【特許請求の範囲】
【請求項1】
把持特徴サンプルを取得して画面方向を変更する移動情報端末であって、
前記把持特徴サンプルを取得する把持特徴サンプル取得部と、
前記移動情報端末を学習状態、認識状態のどちらかの状態に切替える切替え部と、
前記移動情報端末の状態が学習状態である場合に、前記把持特徴サンプルを用いてモデルデータを学習するモデルデータ学習部と、
前記移動情報端末の状態が認識状態である場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定する保持方向推定部と、
前記推定された保持方向に基づいて画面方向を変更する画面方向変更部と、
を備えることを特徴とする移動情報端末。
【請求項2】
請求項1に記載の移動情報端末であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知部をさらに備え、
前記保持方向推定部が、前記移動情報端末の状態が認識状態である場合であって前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする移動情報端末。
【請求項3】
請求項1に記載の移動情報端末であって、
前記移動情報端末の周囲環境情報を取得する環境センサと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合または前記環境センサが取得する周囲環境情報の時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知部とをさらに備え、
前記保持方向推定部が、前記移動情報端末の状態が認識状態である場合であって前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする移動情報端末。
【請求項4】
請求項1に記載の移動情報端末であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に前記切替え部を学習状態に切り換える変動検知部をさらに備えること
を特徴とする移動情報端末。
【請求項5】
請求項1に記載の移動情報端末であって、
前記移動情報端末の周囲環境情報を取得する環境センサと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合であって前記環境センサが取得する周囲環境情報の時系列変動が規定された範囲となる場合に前記切替え部を学習状態に切り換える変動検知部と、をさらに備えること
を特徴とする移動情報端末。
【請求項6】
把持特徴サンプルを取得可能な移動情報端末の画面方向を変更する画面方向変更方法であって、
前記把持特徴サンプルを取得する把持特徴サンプル取得ステップと、
前記把持特徴サンプルを用いてモデルデータを学習するモデルデータ学習ステップと、
前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定する保持方向推定ステップと、
前記推定された保持方向に基づいて画面方向を変更する画面方向変更ステップと、
を有することを特徴とする画面方向変更方法。
【請求項7】
請求項6に記載の画面方向変更方法であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知ステップをさらに有し、
前記保持方向推定ステップが、前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする画面方向変更方法。
【請求項8】
請求項6に記載の画面方向変更方法であって、
前記移動情報端末の周囲環境情報を取得する環境センサステップと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合または前記環境センサステップが取得する周囲環境情報の時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知ステップとをさらに有し、
前記保持方向推定ステップが、前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする画面方向変更方法。
【請求項9】
請求項6に記載の画面方向変更方法であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に前記モデルデータ学習ステップを実行させる変動検知ステップをさらに有すること
を特徴とする画面方向変更方法。
【請求項10】
請求項6に記載の画面方向変更方法であって、
前記移動情報端末の周囲環境情報を取得する環境センサステップと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合であって前記環境センサステップが取得する周囲環境情報の時系列変動が規定された範囲となる場合に前記モデルデータ学習ステップを実行させる変動検知ステップと、をさらに有すること
を特徴とする画面方向変更方法。
【請求項11】
請求項6から10の何れかに記載の画面方向変更方法を実行すべき指令を移動情報端末に対してするプログラム。
【請求項1】
把持特徴サンプルを取得して画面方向を変更する移動情報端末であって、
前記把持特徴サンプルを取得する把持特徴サンプル取得部と、
前記移動情報端末を学習状態、認識状態のどちらかの状態に切替える切替え部と、
前記移動情報端末の状態が学習状態である場合に、前記把持特徴サンプルを用いてモデルデータを学習するモデルデータ学習部と、
前記移動情報端末の状態が認識状態である場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定する保持方向推定部と、
前記推定された保持方向に基づいて画面方向を変更する画面方向変更部と、
を備えることを特徴とする移動情報端末。
【請求項2】
請求項1に記載の移動情報端末であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知部をさらに備え、
前記保持方向推定部が、前記移動情報端末の状態が認識状態である場合であって前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする移動情報端末。
【請求項3】
請求項1に記載の移動情報端末であって、
前記移動情報端末の周囲環境情報を取得する環境センサと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合または前記環境センサが取得する周囲環境情報の時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知部とをさらに備え、
前記保持方向推定部が、前記移動情報端末の状態が認識状態である場合であって前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする移動情報端末。
【請求項4】
請求項1に記載の移動情報端末であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に前記切替え部を学習状態に切り換える変動検知部をさらに備えること
を特徴とする移動情報端末。
【請求項5】
請求項1に記載の移動情報端末であって、
前記移動情報端末の周囲環境情報を取得する環境センサと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合であって前記環境センサが取得する周囲環境情報の時系列変動が規定された範囲となる場合に前記切替え部を学習状態に切り換える変動検知部と、をさらに備えること
を特徴とする移動情報端末。
【請求項6】
把持特徴サンプルを取得可能な移動情報端末の画面方向を変更する画面方向変更方法であって、
前記把持特徴サンプルを取得する把持特徴サンプル取得ステップと、
前記把持特徴サンプルを用いてモデルデータを学習するモデルデータ学習ステップと、
前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定する保持方向推定ステップと、
前記推定された保持方向に基づいて画面方向を変更する画面方向変更ステップと、
を有することを特徴とする画面方向変更方法。
【請求項7】
請求項6に記載の画面方向変更方法であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知ステップをさらに有し、
前記保持方向推定ステップが、前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする画面方向変更方法。
【請求項8】
請求項6に記載の画面方向変更方法であって、
前記移動情報端末の周囲環境情報を取得する環境センサステップと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合または前記環境センサステップが取得する周囲環境情報の時系列変動が規定された範囲となる場合に変動検知信号を出力する変動検知ステップとをさらに有し、
前記保持方向推定ステップが、前記変動検知信号を取得した場合に、前記学習されたモデルデータと前記把持特徴サンプルとを比較してユーザの保持方向を推定すること
を特徴とする画面方向変更方法。
【請求項9】
請求項6に記載の画面方向変更方法であって、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合に前記モデルデータ学習ステップを実行させる変動検知ステップをさらに有すること
を特徴とする画面方向変更方法。
【請求項10】
請求項6に記載の画面方向変更方法であって、
前記移動情報端末の周囲環境情報を取得する環境センサステップと、
前記取得された把持特徴サンプルの時系列変動が規定された範囲となる場合であって前記環境センサステップが取得する周囲環境情報の時系列変動が規定された範囲となる場合に前記モデルデータ学習ステップを実行させる変動検知ステップと、をさらに有すること
を特徴とする画面方向変更方法。
【請求項11】
請求項6から10の何れかに記載の画面方向変更方法を実行すべき指令を移動情報端末に対してするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2013−29983(P2013−29983A)
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願番号】特願2011−165526(P2011−165526)
【出願日】平成23年7月28日(2011.7.28)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願日】平成23年7月28日(2011.7.28)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
[ Back to top ]