説明

端末装置、表示制御方法および表示制御プログラム

【課題】表示部を有する端末装置において直感的に分かりやすい操作で3次元物体の表示制御を行えるようにする。
【解決手段】移動体端末100の表示画面110上に3次元物体の投影画像を表示する。この状態で、撮像部104により表示画面を見ている状態の操作者を撮像する。撮影画像に対する操作者の顔像の位置に応じて表示画面上での3次元物体の回転を制御する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示画面に3次元物体の投影画像を表示する端末装置、表示制御方法および表示制御プログラムに関する。
【背景技術】
【0002】
従来、表示装置の表示画面上に3次元物体の投影画像を表示し、コントローラの操作によって、その視点を変える等の表示制御を可能にする技術が提案されている(特許文献1参照)。コントローラの操作としては単に押ボタンの操作に限らず、コントローラ自体の位置や姿勢の変化を測定し、利用することも提案されている。
【0003】
また、本人の顔を送信する代わりにCGキャラクタの映像を相手に送信することによって人物映像を互いに通信するテレビ電話の用途において、操作者の頭部の姿勢情報および顔の表情を計測し、その計測結果に基づいてCGキャラクタの動きを制御する技術が提案されている(特許文献2参照)。
【0004】
撮影画像の中から顔像を少ない演算量で迅速に判定する技術も提案されている(特許文献3参照)。
【特許文献1】特開2007−260232号公報
【特許文献2】特開2003−108980号公報
【特許文献3】特開2005−284487号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
上述のような3次元物体の表示および操作によって表示の臨場感が増すことなどが期待できる。
【0006】
しかし、表示された3次元物体を異なる角度から見ようとした場合、移動体端末に備えられた入力装置を用いて、3次元物体を回転させるための操作を行う必要があった。通常、移動体端末に備えられた入力装置では限られた操作(例えばキーを用いた操作)しか行えず、操作者が思うとおりの3次元物体の操作は困難であり、また、直感的に分かりやすい操作は行えなかった。
【0007】
本発明はこのような背景においてなされたものであり、表示部を有する端末装置において直感的に分かりやすい操作で3次元物体の表示制御を行えるようにするものである。
【課題を解決するための手段】
【0008】
本発明による端末装置は、表示画面に3次元物体の投影画像を表示する表示手段と、表示画面を見ている状態の操作者を撮像する撮像手段と、撮影画像に対する操作者の顔像の位置に応じて表示画面上での前記3次元物体の回転を制御する制御手段とを備えたものである。
【0009】
顔検出手段が表示画面を見ている状態の操作者の顔を検出する。この検出結果に基づいて、撮影画像に対する操作者の顔像の位置が求められる。そこで、制御手段は、前記撮影画像に対する顔像の位置に応じて表示画面上での前記3次元物体の回転を制御する。これにより、端末装置に対する操作者の顔の相対的な位置変化に応じて表示画面上で3次元物体の回転が制御される。
【0010】
前記制御手段は、前記顔像のサイズに応じて前記3次元物体の表示サイズを変化させることも可能である。
【0011】
本発明による表示制御方法および表示制御プログラムにおいて実行されるステップは、表示部を有する端末装置における表示制御方法であって、表示画面に3次元物体の投影画像を表示するステップと、表示画面を見ている状態の操作者の顔を検出するステップと、表示画面に対する前記顔像の位置に応じて表示画面上での前記3次元物体の回転を制御するステップである。
【0012】
本発明による他の構成および作用効果は以下に詳述するとおりである。
【発明の効果】
【0013】
本発明によれば、煩雑なキー操作によることなく、表示画面を見ている操作者の顔位置によって、3次元物体の表示制御を行うことが可能となる。これにより、直感的で分かりやすいユーザインタフェースを提供することができる。
【発明を実施するための最良の形態】
【0014】
以下、本発明の好適な実施の形態について図面を参照しながら詳細に説明する。
【0015】
図1は、本発明の端末装置の一実施の形態に係る移動体端末100の概略構成を示している。この移動体端末100は例えば携帯電話端末を想定している。
【0016】
移動体端末100は、3次元物体の投影画像347を表示画面110に表示することができるとともに、この表示画面110を見ている操作者(すなわちユーザ)10の顔の画像(顔像)を得ることができる撮像部104を備えたものである。撮像部104は本発明における、表示画面を見ている状態の操作者を撮像する「撮像手段」を構成している。撮像部104は、操作者前方の被写体を撮影するための撮像部を操作者側に回転可能としたものでもよいし、このような撮像部とは別にテレビ電話などのためにレンズが固定的に操作者に向けられた撮像部であってもよい。また、図1には示さないが、通常、携帯電話端末等に備えられた各種操作キーなどを有する操作部を備えている。折り畳み型、スライド型、ストレート型等の端末の形態は特に限定しない。
【0017】
図2は、図1に示した移動体端末100の概略ハードウェア構成を示している。
【0018】
移動体端末100は、CPU101、記憶部102、表示部103、撮像部104、および操作部105を備える。
【0019】
CPU101は、本発明の制御手段を構成する部位であり、各種プログラムを実行することにより移動体端末100全体の制御を司るとともに、各種の処理を行う。
【0020】
記憶部102は、CPU101の実行するプログラムおよび必要なデータを格納する手段であり、ROM、RAM、フラッシュメモリ、HDD等の内蔵記憶装置の他、着脱可能な記録媒体も含みうる。後述する3次元物体モデル情報、撮像により得られた撮影画像データも記憶部102に格納される。
【0021】
表示部103は、図1に示した表示画面110に3次元物体の投影画像347を表示する手段であり、LCD、有機EL等の表示デバイスを含む。
【0022】
撮像部104は、図1で説明したとおり、操作者10の顔を撮像することができるデジタルカメラ等の撮像手段である。
【0023】
操作部105は、図1で説明したとおり、操作者の入力操作を受ける手段である。
【0024】
図示しないが、通常の携帯電話端末が有するような無線通信部、音声出力部、GPS部、等をさらに備えてもよい。
【0025】
図3は、本実施の形態における移動体端末100の主要な機能を示した機能ブロック図である。
【0026】
制御部300により、顔矩形検出部310、3次元物体投影視点計算部311、3次元物体投影画像生成部312、3次元物体投影画像表示指示部313が構成される。
【0027】
記憶部102には、撮像部104で得られた撮影画像341(操作者顔像341Aを含む)を保存する撮影画像保存部340、撮影画像に基づいて得られた顔矩形情報351を保存する顔矩形情報保存部350、および、3次元物体モデルの3次元の構造を表す3次元物体モデル情報361を保存する3次元物体モデル情報保存部360が設けられる。
【0028】
制御部300により構成される顔矩形検出部310は、撮像部104により得られた撮影画像341中の操作者の顔の部分に対応する矩形(例えば両目または両目および鼻を含む矩形等)を検出し、顔矩形情報351を得る部位である。顔矩形情報351は顔矩形の所定の点(例えば左上点)の座標および顔矩形の幅および高さ等の情報である。幅および高さの代わりに顔矩形の対角点の座標を利用してもよい。顔矩形の検出手法としては、上述した特許文献3に開示されているような公知の技術を利用することができる。顔矩形情報には、後述するように撮像部104に対する操作者の顔の位置や距離およびそれらの変化が反映される。
【0029】
3次元物体投影視点計算部311は、検出された顔矩形情報に基づいて3次元物体投影視点を計算する部位である。具体的には、3次元物体をどの角度、どの程度の距離からみた画像として2次元平面に投影するのかを計算する。
【0030】
3次元物体投影画像生成部312は、3次元物体を表示画面に投影した投影画像を生成する部位である。
【0031】
3次元物体投影画像表示指示部313は、表示部103に対して、生成された投影画像を表示するように指示する部位である。
【0032】
まず、図4、図5、図6を用いて、本発明が前提とする撮影画像とそのなかの操作者顔像との基本的な関係について説明する。これらの各図(a)は移動体端末100(ひいては撮像部104)と操作者10との位置関係を示しており、各図(b)はその位置関係における撮影画像341と操作者顔像341Aの関係を示している。
【0033】
図4において、操作者10の顔は移動体端末100の撮像部104の正面に位置し、撮影画像341に含まれる操作者顔像341Aは撮影画像341の中央に位置している。一方、図5において操作者10は移動体端末100に向かって左側に移動しており撮影画像341に含まれる操作者顔像341Aは、撮影画像341内の左側に位置するようになる。ここに、撮影画像341は撮影部104側からではなく、操作者10側から見たものである。後続の他の図の撮影画像についても同様である。これらから分かるように、撮影画像341に含まれる操作者顔像341Aの位置によって操作者10が撮像部104に対してどの方向に位置するかを判断することができる。
【0034】
また、図6に示すように、操作者10が撮像部104に近づいた場合は撮影画像341に含まれる操作者顔像341Aは撮影画像341に対して相対的に大きなものとなる。すなわち、操作者顔像341Aのサイズが大きくなる。これからわかるように撮影画像341に含まれる操作者顔像341Aの撮影画像341に対する相対的な大きさから操作者10の撮像部104に対する距離を判断することができる。
【0035】
続いて図7、図8、図9を参照して、本実施の形態の動作を説明する。これらの各図(a)は3次元物体の投影画像を表示した表示画面110を示しており、各図(b)はそれに対応する撮影画像341と操作者顔像341Aとの関係を示している。
【0036】
図7において、操作者10は移動体端末の正面に位置しており、操作者顔像341Aは撮影画像341の中心に位置する。顔矩形検出部310は保存された撮影画像341に対して顔矩形情報351を生成し、顔矩形情報保存部350によって保存する。3次元物体投影視点計算部311は中心を示している顔矩形情報351から操作者が移動体端末の正面に位置すると判断でき、また撮影画像341に対する操作者顔像341Aの相対的な大きさおよび位置に基づいて、3次元物体投影視点情報として距離A、および、3次元物体の姿勢を表す角度(α、β、γ)を出力する。ここにおいて角度(α、β、γ)は図11に示された方向の回転角度であり、ここでは初期値(0,0,0)である。距離Aは正の値であるが実際の値は製品に依存した値であり発明上特に意味のあるものではない。また、回転方向の定義も上記のものに限るものではない。
【0037】
続いて3次元物体投影画像生成部312は3次元物体投影視点情報と3次元物体モデル情報361から3次元物体投影画像347Aを生成する。3次元物体投影画像表示指示部313は生成された3次元物体投影画像347Aを表示部103に表示するよう指示を出し、結果として図7(a)に示すような3次元物体投影画像347Aの表示がなされる。
【0038】
図8(b)に示すように、操作者10が移動体端末に向かって右側やや上方に位置している場合、操作者顔像341Aは撮影画像341の右端やや上方に位置する。このとき、撮影画像341に対する操作者顔像341Aの相対的な大きさおよび位置に基づいて、3次元物体投影視点情報として距離A、角度(−B,C,0)を出力する。ここにおいてA、B、Cは正の値であるが実際の値は製品に依存した値であり発明上特に意味のあるものではない。
【0039】
続いて3次元物体投影画像生成部312は3次元物体投影視点情報と3次元物体モデル情報361から3次元物体投影画像347Bを生成する。3次元物体投影画像表示指示部313は生成された3次元物体投影画像347Bを表示部103に表示するよう指示を出し、結果として図8(a)に示すように3次元物体をその前方斜め上方向から眺めたような3次元物体投影画像347Bの表示がなされる。
【0040】
図9(b)に示すように、操作者10は移動体端末の正面上方に位置している場合、操作者顔像341Aは撮影画像341の上端に位置する。このとき、3次元物体投影視点計算部311は上端を示している顔矩形情報351から操作者が移動体端末の上方に位置すると判断でき、また撮影画像341に対する操作者顔像341Aの相対的な大きさおよび位置に基づいて、3次元物体投影視点情報として距離A、角度(−B,0,0)を出力する。
【0041】
続いて3次元物体投影画像生成部312は3次元物体投影視点情報と3次元物体モデル情報361から3次元物体投影画像347Cを生成する。3次元物体投影画像表示指示部313は生成された3次元物体投影画像347Cを表示部103に表示するよう指示を出し、結果として図9(a)に示すように3次元物体をその前方上方から眺めたような3次元物体投影画像347Cの表示がなされる。
【0042】
このように、移動体端末に対して、3次元物体の現在画面に現れていない部分の方向に顔を相対的に移動させることにより、その側の3次元物体を見ることが可能となる。これは、現実世界における人の挙動と類似している動作であり、極めて直感的な操作形態といえる。
【0043】
図10(b)に示すように、操作者10が移動体端末の正面中心に位置するが図7の場合に比べて撮像部104に近づいたところに位置している場合、撮影画像341に対して操作者顔像341Aは中心に位置しているが相対的な大きさが大きなものになっている。このとき、3次元物体投影視点計算部311は顔矩形情報343から操作者が移動体端末の中央かつ撮像部104に近い位置にあると判断でき、3次元物体投影視点情報として距離D,(0,0,0)を出力する。ここにおいてDは正の値であるが実際の値は製品に依存した値であり発明上特に意味のあるものではない。
【0044】
続いて3次元物体投影画像生成部312は3次元物体投影視点情報と3次元物体モデル情報361から3次元物体投影画像347Dを生成する。3次元物体投影画像表示指示部313は生成された3次元物体投影画像347Bを表示部103に表示するよう指示を出し、結果として図10(a)に示すように3次元物体に接近して見たような3次元物体投影画像347Dの表示がなされる。
【0045】
このように、得られた顔像のサイズ(すなわち操作者から撮像部までの距離)に応じて3次元物体の表示サイズを変化させることができる。これにより、表示画面110に顔を近づければ、表示されている3次元物体投影画像の表示サイズも大きくなる。
【0046】
図12に、本実施の形態における移動体端末100の概略の表示処理を表したフローチャートを示す。この処理はCPU101が記憶部102内のプログラムを読み出して実行することにより実現される。本実施の形態における顔像に基づく3次元物体の表示制御が一表示モードとして与えられる場合には、操作者はそのようなモードを操作部105から選択する。
【0047】
まず、3次元物体モデル情報保存部360から3次元物体モデル情報361を読み出して、表示部103の表示画面110上に表示する(S11)。このときの視点の位置は予め定められた初期位置とする。
【0048】
撮像部104を起動し、その撮像動作を開始する(S12)。本実施の形態では周期的に撮像を行う。撮影画像は撮影画像保存部340に一時的に保存される。この撮影画像中の操作者の顔像(例えば上述した顔矩形)を検出し(S13)、上述したような顔矩形情報351を得る。この顔矩形情報351から、撮影像に対する顔像の位置およびサイズを確認する(S14)。
【0049】
この顔像の位置およびサイズに変化があれば(S15,Yes)、その位置およびサイズ(の変化)に応じて、3次元物体投影視点情報(上記距離および角度情報)を更新する(S16)。この更新された3次元物体投影視点情報に応じて、3次元物体の投影画像を更新し(S17)、ステップS11へ戻る。
【0050】
顔像のサイズの変化を距離に変換する一例としては、顔像の現在のサイズの変化率に応じた大きさの値を現在の距離値に加算する。加算する値の符号は、顔像のサイズが大きくなったとき負値、小さくなったとき正値とする。ただし、これは変換の一例であり、本発明はこの方法に限るものではない。
【0051】
顔像の位置の変化を角度情報に変換する方法の一例としては、現在位置から左右方向への移動は角度βに反映させる。具体的には表示画面上での右方向への移動ではその移動量に応じた大きさの正の角度を角度βに加算する。逆に左方向への移動ではその移動量に応じた大きさの負の角度を角度βに加算する。さらに、現在位置から上下方向への移動は角度αに反映させる。表示画面上での上方向への移動ではその移動量に応じた大きさの正の角度を角度αに加算する。逆に下方向への移動ではその移動量に応じた大きさの負の角度を角度αに加算する。ただし、これは変換の一例であり、本発明はこの方法に限るものではない。
【0052】
以上説明した実施の形態によれば、移動体端末に表示される3次元物体の視点操作が操作者の撮像部104に対する位置で定まるため、移動体端末100に対して相対的に操作者の顔を移動させるという非常に直観的な手段で操作を行うことが可能となる。その結果、移動体端末で3次元物体表示を行うシステムの操作性を向上させることができる。
【0053】
次に本発明の第2の実施の形態について説明する。この実施の形態では、移動体端末の傾きを検出する傾き検出手段を備え、操作者の顔の検出範囲を超える顔の位置範囲に関して、当該傾き検出手段の出力を用いて3次元物体の回転を継続して制御しようとするものである。
【0054】
図13は、第2の実施の形態に係る移動体端末100aの概略構成を示している。図1に示した移動体端末100と同じ要素には同じ参照番号を付して、重複した説明は省略する。この移動体端末100aには移動体端末100aの筐体の傾きを検出する傾き検出手段としての端末傾き検出部106を内蔵している。端末傾き検出部106の構成は既知のものでよく、例えば加速度センサを用いることができる。本実施の形態では図11の少なくとも角度β方向の傾きを検出するものとする。さらに、角度αおよび角度γ方向の傾きを検出するものとしてもよい。
【0055】
図14は、図13に示した移動体端末100aの概略ハードウェア構成を示している。図2に示した移動体端末100と同じ要素には同じ参照番号を付して、重複した説明は省略する。この構成では端末傾き検出部106を追加したものである。
【0056】
図15は、図13の移動体端末100aの主要な機能を示した機能ブロック図である。図3に示した移動体端末100と同じ要素には同じ参照番号を付して、重複した説明は省略する。ここでは、端末傾き検出部106により検出された端末傾き変位情報371を保存する端末傾き変位保存部370を記憶部102に追加している。
【0057】
撮像部104の撮像範囲には限度があり、例えば図16に示すように、操作者が表示画面に向かって顔を右方向に移動させた場合、顔が撮像可能範囲外に移動し、ある位置から操作者顔像341Aが撮影像341に入らなくなる。このとき、3次元物体投影視点計算部311は顔矩形情報343を用いて操作者の位置を判断しようとするが、不検出のため位置を判断することができない。
【0058】
本実施の形態では、このような場合に撮像可能範囲外に移動する直前において最後に検出できた操作者顔像の矩形情報である直近顔矩形情報352を顔矩形情報保存部350に保持しておく。この直近顔矩形情報352と、端末傾き検出部106によって検出され端末傾き変位保存部370に保存されている端末傾き変位情報371とに基づいて、操作者の顔の位置を推測することができる。例えば、図16の例では移動体端末のさらに右側のやや上方に位置すると推測できる。すなわち、図17(a)に示すように端末傾き変位情報371(図15)を考慮して、3次元物体投影視点情報として角度(−B,C,0)を出力する。このときの端末傾き変位情報371は最後に顔が検出されてからの傾きの変位情報である。操作者との距離は直近の値を保存して使うなどして補うことができる。
【0059】
続いて3次元物体投影画像生成部312は3次元物体投影視点情報と3次元物体モデル情報361とから3次元物体投影画像347Eを生成する。3次元物体投影画像表示指示部313は生成された3次元物体投影画像347Eを表示画面110に表示するよう指示を出し、結果として図17(b)に示すような3次元物体の右側に回り込んだ視点からの投影画像347Eの表示がなされる。
【0060】
この第2の実施の形態によれば、撮像部104の撮像範囲が比較的狭くても、その撮像範囲を補うことができ、顔による操作範囲を拡大することができる。
【0061】
図18は、第2の実施の形態における移動体端末100aの概略の表示処理を表したフローチャートである。図12に示したと同じ要素には同じ参照番号を付して、重複した説明は省略する。
【0062】
図12の処理と異なる点は、ステップS15で「変化あり」と判断されたとき、顔が撮像範囲の端に達したかどうかを判断する(S19)。達していなければ、ステップS16へ移行する。達していれば、端末傾き検出部106の出力に基づいて顔像の位置を補正する(S20)。その後、ステップS16へ移行する。他の処理は図12と同じである。
【0063】
次に図19により第2の実施の形態の変形例を説明する。この変形例では、表示画面に垂直な軸を中心とした端末装置の回転角度を検出する手段として端末傾き検出部106を用い、端末の当該回転角度に関わらず、3次元物体の投影画像の上下方向を操作者の顔の上下方向(すなわち操作者顔像の両目を結ぶ直線に垂直な方向)に合わせるように当該投影画像の表示を制御するものである。
【0064】
具体的には例えば図19(a)のように縦長の表示画面110において比較的横長の3次元物体投影画像347Fが表示されている場合を想定する。この場合、操作者の顔の向きおよび位置はそのままで移動体端末を90度傾けて表示画面110を横長(水平)にしたとする。このとき、図19に示したように、3次元物体投影画像347Fが操作者の顔の上下方向に一致するように、角度γ方向(表示画面に垂直な軸を中心とした回転方向)に回転する。これによって、横長の画像が横長の画面に収容され、画像全体が見やすくなる。
【0065】
図20は、本発明の第3の実施の形態の説明図である。この装置構成については第1の実施の形態と同じであり、図示は省略する。
【0066】
第3の実施の形態では、検出された顔像のサイズの単位時間あたりの変化率を算出する手段をさらに備え、可能な場合に、得られた変化率に応じて3次元物体の外から内部に視点を移動するようにするものである。「可能な場合」とは、例えば、図20に示す例のように、3次元物体が建物である場合のように少なくとも内部空間(例えば部屋)が存在する場合である。このような場合に、顔の撮像を利用した所定の操作によって、所定の建物の内部に視点を移動しうるようにするものである。
【0067】
具体的には、撮像部104に対して相対的に、操作者が急速に顔を近づけることにより、検出された顔像のサイズの単位時間あたりの変化率が大きくなる。この変化率が所定のしきい値以上となったとき、視点を3次元物体の内部に移動させる。
【0068】
図21は、第3の実施の形態に係る表示処理を表したフローチャートである。図12に示したと同じ要素には同じ参照番号を付して、重複した説明は省略する。
【0069】
図12の処理と異なる点は、ステップS15において「変化あり」と判断された場合に、サイズの変化率をしきい値と比較するステップS21と、変化率がしきい値以上であれば、視点が3次元物体の内部に入りうるかどうかをチェックするステップS22と、入りうると判断された場合に視点を内部に移動させるステップS23とを追加したものである。移動させた直後の視点位置は、例えば内部空間内の最も手前の位置等の所定の位置とすることができる。
【0070】
以上、本発明の好適な実施の形態について説明したが、上記で言及した以外にも種々の変形、変更を行うことが可能である。例えば、上記説明では移動体端末として携帯電話端末を想定したが、必ずしも電話機能を有するものでなくてもよい。例えば、PDA、ゲーム機、小型PCなどの、表示画面を有する任意の端末装置であってよい。また、本発明の端末装置は好適には携帯型の端末装置であるが、必ずしも携帯型に限るものでもない。
【0071】
上記実施の形態で説明した機能をコンピュータで実現するためのコンピュータプログラム、およびプログラムをコンピュータ読み取り可能に格納した記録媒体も本願発明に含まれる。プログラムを供給するための「記録媒体」としては、例えば、磁気記憶媒体(フレキシブルディスク、ハードディスク、磁気テープ等)、光ディスク(MOやPD等の光磁気ディスク、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD+R、DVD−R、DVD−RW、DVD+RW等)、半導体ストレージ、紙テープなどを挙げることができる。
【図面の簡単な説明】
【0072】
【図1】本発明の端末装置の一実施の形態に係る移動体端末100の概略構成を示す図である。
【図2】図1に示した移動体端末の概略ハードウェア構成を示す図である。
【図3】本発明の実施の形態における移動体端末の主要な機能を示した機能ブロック図である。
【図4】本発明が前提とする撮影画像とそのなかの操作者顔像との基本的な関係についての説明図である。
【図5】本発明が前提とする撮影画像とそのなかの操作者顔像との基本的な関係についての説明図である。
【図6】本発明が前提とする撮影画像とそのなかの操作者顔像との基本的な関係についての説明図である。
【図7】本発明の実施の形態の動作の説明図である。
【図8】本発明の実施の形態の動作の説明図である。
【図9】本発明の実施の形態の動作の説明図である。
【図10】本発明の実施の形態の他の動作の説明図である。
【図11】本発明の実施の形態における回転角度の説明図である。
【図12】本発明の実施の形態における移動体端末の概略の表示処理を表したフローチャートである。
【図13】本発明の第2の実施の形態に係る移動体端末の概略構成を示す図である。
【図14】図13に示した移動体端末の概略ハードウェア構成を示す図である。
【図15】図13の移動体端末の主要な機能を示した機能ブロック図である。
【図16】本発明の第2の実施の形態において操作者が撮像可能範囲外に移動した場合の説明図である。
【図17】本発明の第2の実施の形態における動作例の説明図である。
【図18】本発明の第2の実施の形態における移動体端末の概略の表示処理を表したフローチャートである。
【図19】本発明の第2の実施の形態の変形例の説明図である。
【図20】本発明の実施の形態の第3の実施の形態の説明図である。
【図21】本発明の第3の実施の形態に係る表示処理を表したフローチャートである。
【符号の説明】
【0073】
10…操作者、12…撮像部、100,100a…移動体端末、102…記憶部、103…表示部、104…撮像部、105…操作部、106…端末傾き検出部、110…表示画面、300…制御部、310…顔矩形検出部、311…3次元物体投影視点計算部、312…3次元物体投影画像生成部、313…3次元物体投影画像表示指示部、340…撮影画像保存部、341…撮影画像、341A…操作者顔像、343…顔矩形情報、347,347A〜347F…3次元物体投影画像、350…顔矩形情報保存部、351…顔矩形情報、352…直近顔矩形情報、360…3次元物体モデル情報保存部、361…3次元物体モデル情報、370…端末傾き変位保存部、371…端末傾き変位情報

【特許請求の範囲】
【請求項1】
表示画面に3次元物体の投影画像を表示する表示手段と、
表示画面を見ている状態の操作者を撮像する撮像手段と、
撮影画像に対する操作者の顔像の位置に応じて表示画面上での前記3次元物体の回転を制御する制御手段と
を備えた端末装置。
【請求項2】
前記制御手段は、前記顔像のサイズに応じて前記3次元物体の表示サイズを変化させる請求項1に記載の端末装置。
【請求項3】
端末装置の傾きを検出する傾き検出手段を備え、前記制御手段は、操作者の顔の検出範囲を超える顔の位置範囲に関して、当該傾き検出手段の出力を用いて前記3次元物体の回転を制御する請求項1に記載の端末装置。
【請求項4】
表示画面に垂直な軸を中心とした端末装置の回転角度を検出する手段を備え、前記制御手段は、端末装置の当該回転角度に関わらず、3次元物体の投影画像の上下方向を操作者の顔の上下方向に合わせるように当該投影画像の表示を制御する請求項1に記載の端末装置。
【請求項5】
前記顔像のサイズの単位時間あたりの変化率を算出する手段をさらに備え、前記制御手段は得られた変化率に応じて前記3次元物体の外から内部に視点を移動する請求項1または2に記載の端末装置。
【請求項6】
表示部を有する端末装置における表示制御方法であって、
表示画面に3次元物体の投影画像を表示するステップと、
表示画面を見ている状態の操作者の顔を検出するステップと、
撮影画像に対する操作者の顔像の位置に応じて表示画面上での前記3次元物体の回転を制御するステップと
を備えた表示制御方法。
【請求項7】
表示部を有する端末装置における表示制御プログラムであって、
表示画面に3次元物体の投影画像を表示するステップと、
表示画面を見ている状態の操作者の顔を検出するステップと、
撮影画像に対する操作者の顔像の位置に応じて表示画面上での前記3次元物体の回転を制御するステップと
をコンピュータに実行させる表示制御プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate


【公開番号】特開2010−26754(P2010−26754A)
【公開日】平成22年2月4日(2010.2.4)
【国際特許分類】
【出願番号】特願2008−186876(P2008−186876)
【出願日】平成20年7月18日(2008.7.18)
【出願人】(501431073)ソニー・エリクソン・モバイルコミュニケーションズ株式会社 (810)
【Fターム(参考)】