説明

撮像装置および撮像方法

【課題】撮像者に撮像地点および撮像構図をガイドする場合に、表示画像が切り替わることがなく、一貫性のあるユーザ・インタフェースによって分かりやすい直感的なガイドを提供する。
【解決手段】現在位置の位置データを取得する位置検出部と、現在の撮像角度の角度データを取得する角度検出部と、被写体に対する撮像地点を示す参照位置データ、および撮像地点における参照撮像角度データを記憶する記憶部と、現実の環境に付加され、位置データおよび角度データに応じて現実の環境のように変化する仮想物体を生成する表示物生成部と、仮想物体を取得される画像データに重畳して表示部に表示する表示制御部とを備える。仮想物体が現在位置のデータに応じて表示位置が変化する第1の表示物と、角度データに基づいて形状が変化する第2の表示物とを含む。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、デジタルカメラ、携帯電話等の携帯電子機器の撮像機能に適用される撮像装置および撮像方法に関する。
【背景技術】
【0002】
従来から上手に写真をとることができるように、ユーザに対して補助を提供することが考えられている。例えば特許文献1には、位置検出機能を有し、現在の位置の付近で撮像された投稿写真が存在する場合、その投稿写真とその構図情報をサーバから受信する。ユーザを投稿写真の撮像位置まで誘導するための誘導情報が生成され、表示部上に矢印および数字でもって表示が誘導情報として表示される。ユーザが誘導情報によって撮像位置まで表示される。
【0003】
誘導情報にしたがって撮像位置までユーザが到達すると、撮像教示がなされる。すなわち、ファインダに実際の撮像画像に、参照写真の透過画像が重畳された表示がなされる。ユーザは、実際の撮像画像が参照写真と一致するように微調整を行う。このようにして使用者が撮像に不慣れな場合や、初めて撮像する場所であっても、より好適な構図で写真撮像を行うことが可能となる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−239397号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
一般的に、撮像地点と撮像構図は切り離して考えることができない要素であり、カメラの位置とカメラの姿勢、およびカメラの画角の3者全てが決まることで初めて特定の構図が得られる。カメラ使用者の立場から撮像の流れを見ると、まず撮像地点に移動し、次にカメラを向ける方向を決め、最後にズーム調整等によって画角を決定して撮像する、という3段階を通過する。そのため、例えば推奨の撮像構図に使用者をガイドする場合、使用者の利便性を考慮すると、3段階のガイドを途切れなく行うことが重要となる。
【0006】
しかしながら、特許文献1に記載のものは、撮像地点までの誘導の流れと、撮像地点に到達した後の撮像教示との間で画面表示の切り替えが起こるため、使用者に対する情報の与え方に一貫性が不足しており、撮像ガイドとして十分直感的に扱えるものではないという問題があった。さらに、特許文献1では、参照写真の画像データを保持する必要があり、参照画像のデータ量が多くなる問題があった。
【0007】
したがって、本開示は、ユーザをガイドする場合に、表示画像が切り替わることがなく、一貫性のあるユーザ・インタフェースによって分かりやすい直感的なガイドを提供でき、さらに、扱うデータ量を少なくできる撮像装置および撮像方法の提供を目的とする。
【課題を解決するための手段】
【0008】
上述の課題を解決するために、本開示の撮像装置は、現在位置の位置データを取得する位置検出部と、
現在の撮像角度の角度データを取得する角度検出部と、
被写体に対する撮像地点を示す参照位置データ、および撮像地点における参照撮像角度データを記憶する記憶部と、
現実の環境に付加され、位置データおよび角度データに応じて現実の環境のように変化する仮想物体を生成する表示物生成部と、
仮想物体を取得される画像データに重畳して表示部に表示する表示制御部とを備え、
仮想物体が現在位置のデータに応じて表示位置が変化する第1の表示物と、角度データに基づいて形状が変化する第2の表示物とを含む撮像装置である。
【0009】
本開示は、位置検出部によって現在位置の位置データを取得し、
角度検出部によって現在の撮像角度の角度データを取得し、
表示物生成部によって現実の環境に付加され、位置データ、角度データに応じて現実の環境のように変化する仮想物体を生成し、
表示制御部によって仮想物体を取得される画像データに重畳して表示し、
仮想物体が現在位置のデータに応じて表示位置が変化する第1の表示物と、角度データに基づいて形状が変化する第2の表示物とを含む撮像方法である。
【発明の効果】
【0010】
撮像地点への移動、撮像方向の決定、画角の決定という段階を画像の切り替えなしに途切れなくユーザに対してガイドすることができる。したがって、ユーザにとって分かりやすいガイドを行うことができる。さらに、参照写真データを必要としないので、データ量の増加を抑えることができる。
【図面の簡単な説明】
【0011】
【図1】本開示による撮像装置の外観を示す斜視図である。
【図2】本開示による撮像装置の一実施の形態のブロック図である。
【図3】本開示による撮像装置の一実施の形態の一部の構成のブロック図である。
【図4】表示物の概略の説明のための略線図である。
【図5】本開示による撮像装置と被写体との位置関係を示す略線図、並びに本開示による撮像装置のLCD画面の表示を示す略線図である。
【図6】本開示による撮像装置と被写体との位置関係を示す略線図、並びに本開示による撮像装置のLCD画面の表示を示す略線図である。
【図7】本開示による撮像装置と被写体との位置関係を示す略線図、並びに本開示による撮像装置のLCD画面の表示を示す略線図である。
【図8】本開示による撮像装置と被写体との位置関係を示す略線図、並びに本開示による撮像装置のLCD画面の表示を示す略線図である。
【図9】本開示による撮像装置と被写体との位置関係を示す略線図、並びに本開示による撮像装置のLCD画面の表示を示す略線図である。
【図10】本開示による撮像装置と被写体との位置関係を示す略線図、並びに本開示による撮像装置のLCD画面の表示を示す略線図である。
【図11】本開示による撮像装置のLCD画面の表示の他の例を示す略線図である。
【図12】本開示による撮像装置のLCD画面の表示のさらに他の例を示す略線図である。
【図13】本開示による撮像装置の表示物を生成するためのビューイング・パイプライン処理の流れを説明するための略線図である。
【図14】本開示による撮像装置の一実施の形態の処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0012】
以下に説明する実施の形態は、この発明の好適な具体例であり、技術的に好ましい種々の限定が付されているが、この発明の範囲は、以下の説明において、特にこの発明を限定する旨の記載がない限り、これらの実施の形態に限定されないものとする。
【0013】
「撮像装置の一例」
本開示の一実施の形態について説明する。図1を参照して本開示を適用できる撮像装置の一例を説明する。図1Aは、撮像装置20の前面を示し、図1Bが撮像装置20の背面を示す。21がシャッターボタンであり、22がモードダイヤルであり、23がズームレバーであり、24がフラッシュである。25が電源ボタンであり、26が連写ボタンであり、27がマイクロホンであり、28がセルフタイマーボタンであり、29がレンズである。モードダイヤル22は、操作したい機能を選択するように回転される。例えば自動設定が撮像できるオート撮像モード、マニュアル露出撮像、プログラムオート撮像、動画撮像等の機能が切り替えられる。
【0014】
撮像装置の背面には、LCD(Liquid Crystal Display)30、ストラップ取り付け部31、動画ボタン32、再ボタン33、削除ボタン34、メニューボタン35、コントロールボタン36が設けられている。コントロールボタン36は、拡大して示すように、中央位置の決定ボタンと、上下左右の選択ボタンとを有する。例えば上の選択ボタンを押すと、画面表示設定の表示が液晶画面30に表示される。図面に向かって右側の選択ボタンを押すと、フラッシュ設定の表示が液晶画面30に表示される。なお、図1に示す撮像装置は、一例であって、他の構成例えばスマートフォンの撮像機能に対しても本開示を適用することができる。
【0015】
図2に示すように、撮像装置は、カメラ部1と、デジタル信号処理部2と、SDRAM(Synchronous Dynamic Random Access Memory)3と、媒体インターフェース(以下、媒体I/Fという。)4と、制御部5と、操作部6と、センサ部7を有する。さらに、LCDコントローラ8と、LCD30と、外部インターフェース(以下、外部I/Fという。)9とを有する。媒体I/F4に対して記録媒体10が着脱可能とされている。さらに、画像ファイルを蓄積するために大容量の記録媒体であるハードディスクドライブ17が備えられている。
【0016】
記録媒体10は、例えば半導体メモリーを用いたいわゆるメモリーカードである。メモリカード以外に、ハード・ディスク装置、記録可能なDVD(Digital Versatile Disc)や記録可能なCD(Compact Disc)等の光記録媒体、磁気ディスクなどを用いることができる。
【0017】
カメラ部1は、光学ブロック11、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor) 等の撮像素子12、前処理回路13、光学ブロック用ドライバ14、CCD用ドライバ15、タイミング生成回路16とを備えたものである。ここで、光学ブロック11は、レンズ、フォーカス機構、シャッター機構、絞り(アイリス)機構などを備えている。
【0018】
制御部5は、CPU(Central Processing Unit )51、RAM(Random Access Memory)52、フラッシュROM(Read Only Memory)53、時計回路54が、システムバス55を通じて接続されて構成されたマイクロコンピュータであり、この一実施の形態の撮像装置の各部を制御する。RAM52は、処理の途中結果を一時記憶するなど主に作業領域として用いられるものである。フラッシュROM53は、CPU51において実行する種々のプログラムや、処理に必要になるデータなどが記憶されたものである。時計回路54は、現在年月日、現在曜日、現在時刻、撮影日時などを提供すると共に、撮影日時等の日時情報を撮影画像ファイルに付与する機能を有する。
【0019】
撮影時においては、光学ブロック用ドライバ14は、制御部5からの制御に応じて、光学ブロック11を動作させるための駆動信号を形成し、駆動信号を光学ブロック11に供給して、光学ブロック11を動作させる。光学ブロック11では、ドライバ14からの駆動信号に応じて、フォーカス機構、シャッター機構、絞り機構が制御され、被写体像が取り込まれ、被写体像が撮像素子12に対して提供される。さらに、光学ブロック11のレンズ装置が交換可能とされている。例えばレンズ装置の内部には、マイクロコンピュータが構成されており、レンズ装置の種類、現在の焦点距離等の情報がCPU51に対して伝送される。
【0020】
撮像素子12は、光学ブロック11からの被写体像を光電変換して出力する。撮像素子ドライバ15からの駆動信号に応じて撮像素子12が動作し、被写体像が取り込まれ、制御部5によって制御されるタイミング生成回路16からのタイミング信号に基づいて、取り込まれた被写体の画像が電気信号として前処理回路13に供給される。
【0021】
なお、タイミング生成回路16は、制御部5からの制御に応じて、所定のタイミングを提供するタイミング信号を形成する。また、撮像素子ドライバ15は、タイミング生成回路16からのタイミング信号に基づいて、撮像素子12に供給する駆動信号を形成する。
【0022】
前処理回路13は、供給された撮像信号に対して、CDS(Correlated Double Sampling)処理を行って、S/N比を良好にし、AGC(Automatic Gain Control)処理を行って、利得を制御し、そして、A/D(Analog/Digital)変換によって、デジタル信号とされた撮像データを形成する。
【0023】
前処理回路13からのデジタル撮像データがデジタル信号処理部2に供給される。デジタル信号処理部2は、撮像データに対して、AF(Auto Focus)、AE(Auto Exposure
)、AWB(Auto White Balance)などのカメラ信号処理を施す。カメラ信号処理がなされた画像データが所定の圧縮方式でデータ圧縮され、システムバス55、媒体I/F4を通じて装填された記録媒体10および/またはハードディスクドライブ17に供給され、記録媒体10および/またはハードディスクドライブ17に例えばDCF(Design rule
for Camera File system)規格に準じた画像ファイルとして記録される。
【0024】
また、記録媒体10に記録された画像データは、操作部6を通じて受け付けたユーザーからの操作入力に応じて、目的とする画像データが媒体I/F4を通じて記録媒体10から読み出され、これがデジタル信号処理部2に供給される。操作部6には、シャッタレリーズボタン等の各種ボタンやレバー、ダイヤル等が含まれる。LCD30をタッチパネルと構成とし、ユーザが画面上を指や指示具で押圧することで入力操作を行うことが可能としても良い。
【0025】
デジタル信号処理部2は、記録媒体10から読み出され、媒体I/F4を通じて供給された圧縮されている画像データに関して、その圧縮の解凍処理(伸張処理)を行い、解凍後の画像データをシステムバス55を通じて、LCDコントローラ8に供給する。LCDコントローラ8は、画像データからLCD30に供給する表示画像信号を形成し、表示画像信号をLCD30に供給する。これにより、記録媒体10に記録されている画像データに応じた画像がLCD30の画面に表示される。さらに、制御部5およびLCDコントローラ8の制御によって、LCD30の画面上にメニュー等のテキスト、グラフィックスの表示が行うことが可能とされている。なお、画像の表示の形態は、ROMに記録された表示処理プログラムに従う。
【0026】
また、撮像装置には、外部I/F9が設けられている。この外部I/F9を通じて、例えば外部のパーソナルコンピュータが接続され、パーソナルコンピュータから画像データの供給を受けて、これを自身に装填された記録媒体に記録したり、また、自身に装填された記録媒体に記録されている画像データを外部のパーソナルコンピュータに供給することが可能とされている。
【0027】
また、外部I/F9に通信モジュールを接続することにより、例えば、インターネットなどのネットワークと接続して、ネットワークを通じて種々の画像データやその他の情報を取得し、自身に装填された記録媒体に記録したり、あるいは、自身に装填された記録媒体に記録されているデータを、ネットワークを通じて目的とする相手先に送信することが可能とされている。
【0028】
また、外部のパーソナルコンピュータやネットワークを通じて取得し、記録媒体に記録した画像データなどの情報についても、読み出して再生し、LCD30に表示することが可能とされている。
【0029】
なお、外部I/F9は、IEEE(Institute of Electrical and Electronics Engineers )1394、USB(Universal Serial Bus)などの有線用インターフェースとして設けることも可能であるし、光や電波による無線インターフェースとして設けることも可能である。すなわち、外部I/F9は、有線、無線のいずれのインターフェースであってもよい。外部インタフェース9を通じて、例えば図示しない外部のコンピュータ装置と接続して、コンピュータ装置から画像データの供給を受けて、画像データを記録媒体10および/またはハードディスクドライブ17に記録できる。記録媒体10および/またはハードディスクドライブ17に記録されている画像データを外部のコンピュータ装置等に供給することもできる。
【0030】
上述した撮像装置によって、被写体の画像(静止画および動画)を撮影して、装填された記録媒体10および/またはハードディスクドライブ17に記録することができる。さらに、記録媒体10および/またはハードディスクドライブ17に記録された画像データを読み出して、画像を表示し、任意に閲覧、編集することが可能である。画像データの管理のためにインデックスファイルが記録媒体10および/またはハードディスクドライブ17の特定領域に記録されている。
【0031】
センサ部7は、図3に示すように、位置検出部71、方位検出部72および姿勢検出部73を有する。位置検出部71は、例えばGPS(Global Positioning System)によって
撮像装置の現在位置を検出し、現在位置の位置データを取得する。方位検出部72は、例えば地磁気センサとしての電子コンパスによって、撮像装置の現在の撮像方向(水平面内)を示す方位データを取得する。姿勢検出部73は、例えば加速度センサによって、撮像装置の現在の撮像方向(垂直面内)を示す姿勢データを取得する。方位データおよび姿勢データによって撮像角度が示される。
【0032】
位置データ、方位データおよび姿勢データがセンサ部7からAR(Augmented Reality:拡張現実)表示制御部56に供給される。AR表示制御部56は、制御部5の機能の一部である。ARは、LCD30の画面上に、現実の環境の画像(撮像画像)に仮想物体を重畳表示するものである。AR表示制御部56を含む図3の構成については、後述する。
【0033】
ここで、上述した撮像装置の動作について概略的に説明する。撮像素子12によって受光され、光電変換された信号が前処理回路13に供給され、CDS処理、AGC処理が行われてデジタル信号に変換され、デジタル信号処理部2に供給される。デジタル信号処理部2では、画像データが画質補正処理され、カメラスルー画像の画像データとして制御部5に供給される。制御部5から入力された画像データがLCDコントローラ8に供給され、カメラスルー画像がLCD30に表示される。
【0034】
LCD30に表示されたカメラスルー画像を見ながら画角合わせを行うことが可能となる。後述するように、本開示では、撮像時に、被写体が表示されるLCD30の画面上に仮想物体をARによって表示する。仮想物体を表示することによって、ユーザに対して推奨される写真を撮像するためのガイドを行うようになされる。
【0035】
そして、操作部6のシャッターボタンが押下されると、CPU51がカメラ部1に制御信号を出力して、光学ブロック11のシャッタを動作させる。これとともに、デジタル信号処理部2によって、前処理回路13から供給された1フレーム分の画像データ(記録画像データ)が処理されて後、SDRAM3に記憶される。さらに、この記録画像データがデジタル信号処理部2によって圧縮符号化され、符号化データがハードディスク17に記憶されると共に、システムバス55および媒体インターフェース4を通じて記録媒体10に記憶される。
【0036】
なお、静止画像データに対して、CPU51が撮影時の日時や時刻を時計回路54から取得し、データに付加してハードディスク17および記録媒体10に記憶する。さらに、センサ部7から取得される位置データ、方位データおよび姿勢データも取得した画像データに対して付加される。さらに、静止画像についてはさらに、静止画像の縮小画像のデータが生成され、縮小画像のデータが元の静止画像と対応付けてハードディスク17および記録媒体10に記憶される。
【0037】
一方、ハードディスク17および記録媒体10に記憶された記録画像データを再生する場合には、操作部6からの操作入力に応じて、CPU51が選択された記録画像データがSDRAM3に読み込まれる。そして、デジタル信号処理部2によって復号される。復号された画像データがLCDコントローラ8を通じてLCD30に供給され、LCD30に再生画像が表示される。
【0038】
「仮想物体」
本開示では、撮像を行うユーザに対して良好な撮像を行うためのガイドを行う機能を有する。ガイドを行うために、被写体が表示されるLCD30の画面上に仮想物体をARによって表示する。仮想物体は、撮像位置、撮像角度および画角に応じて現実の被写体のように変化する。仮想物体は、第1の表示物と第2の表示物とを含んでいる。なお、撮像装置から取得される現実の環境の映像に良く追従するように仮想物体を提示するためには、カメラの向く方向を高い応答性をもって検出するようになされる。
【0039】
第1および第2の表示物の情報は、AR表示制御部56において生成される。AR表示制御部56には、上述したように、センサ部7の出力信号が供給される。さらに、記憶装置57から構図データがAR表示制御部56に供給される。記憶装置57には、観光地の風景、建物等の推奨写真に関して、推奨の撮像地点を示す参照位置データ(例えば経度および緯度情報)と、推奨の構図データとが格納されている。構図データには、撮像角度に関する参照角度データと画角に関する参照画角データとが含まれる。
【0040】
記憶装置57に記憶する参照位置データ、参照角度データおよび参照画角データ(これらのデータを参照データと適宜総称する)は、予め記憶装置57に書き込まれている。例えばインターネットを介して参照データを取得して記憶装置57に記憶するようにしても良い。例えばユーザが撮像モードとしてガイドモードを設定すると、撮像装置(ユーザ)の現在位置の近傍の写真の参照データが検索され、検索された参照データが記憶装置57から読み出されて、AR表示制御部56に供給される。
【0041】
AR表示制御部56は、センサ部7からの現在のデータと、参照データとを使用して第1および第2の表示物に対応する表示物を生成する。表示物が画面表示制御部58に供給され、LCD30の画面表示のための表示信号が生成される。さらに、ユーザのカメラ操作信号がカメラ制御部59に供給され、撮像に必要な制御がなされる。さらに、画角に関する画角情報が画面表示制御部58に供給される。
【0042】
画角とは、レンズを通じて撮像可能な範囲のことで、レンズの焦点距離によって画角が変化する。通常、焦点距離が短いと画角が大きくなり、焦点距離が長いと画角が小さくなる。したがって、同じ被写体を撮像しても、画角が相違すると撮像範囲が相違し、撮像画角の構図も変化する。さらに、焦点距離だけでなく、レンズの特性からも画角は影響を受けるので、レンズの特性情報も画角情報として必要とされる。さらに、画角は、同じ焦点距離であっても撮像素子の面積が大きくなると画角が大きくなり、撮像素子の面積が小さくなると、画角が小さくなる。撮像素子の面積は、撮像装置の機種に応じた一定の値である。なお、画角には、水平画角、垂直画角および対角線画角の3種類の情報がある。これらの全ての情報を使用しても良いし、一部の情報を使用しても良い。画角情報の単位は、度である。
【0043】
これらの点を考慮して、焦点距離、レンズの特性、その他の情報から計算される画角情報がカメラ制御部59から画面表示制御部58に対して供給される。他の構成として、カメラ制御部59から供給される焦点距離と、レンズ特性等の必要なデータから画角情報が画面表示制御部58において計算される。撮像のガイドとなる画角と、現在の画角との関係から撮像のガイドとなる画角を示す表示物が生成される。
【0044】
AR表示制御部56にて生成される表示物について図4を参照して概略的に説明する。説明の簡単のため、撮像素子の面積および焦点距離を一定とする。例えば仮想物体として矩形の枠状の被写体Oを想定する。図4Aに示すように、被写体OをQ1の位置で撮像したとする。この撮像位置Q1および撮像角度が記憶装置57に記憶されている参照位置データおよび参照角度データに一致している場合には、図4Bに示すように、正方形の枠F1が表示物として生成される。同じ撮像角度を保って、より遠い撮像位置Q2で被写体Oを撮像すると、図4Cに示すように、より小さい正方形の枠F2が表示物として生成される。枠F2が表示されると、ユーザが推奨位置に比して被写体と離れすぎていることが分かる。
【0045】
図4Dに示すように、被写体Oを参照位置データと等しい距離で、異なる撮像角度で撮像した場合には、図4Eに示すように歪んだ枠F3が表示物として生成される。若し、撮像角度が逆に傾いている場合には、図4Fに示すように斜めに歪んだ枠F4が表示物として生成される。ユーザは、枠の形状の歪みがなくなるように、撮像角度を調整する。このように、枠は、3次元被写体を2次元表示面に変換したもので、枠の大きさと枠の形状によって、ユーザを推奨の撮像位置および撮像角度にガイドするものである。
【0046】
すなわち、実際の被写体に対して仮想的な表示物(枠)が重畳されてLCD30の画面に表示されるので、枠が例えば正方形のように歪みのない図形となり、その大きさが画面上で最大となるか、または画面からはみ出て消えるように、撮像位置と撮像角度とを設定して撮像を行うことによって、推奨の画像と同様の写真をとることができる。仮想的な表示物は、例えば3次元の物体を2次元表示に変換したものであるので、ユーザ自身が現在の撮像位置および撮像角度を認識することが容易となる。
【0047】
「表示物の具体例」
本開示についてさらに説明する。図5Aに示すように、実際の被写体例えばビルを撮像装置20によって撮像すると、図5Bに示すように、撮像装置20のLCD30には、被写体画像R1に加えて第1の表示物としてのピンP1と第2の表示物としての枠F1とが表示される。ピンと枠とで1組の撮像構図が表される。図5Aに示されるピンのマークは、現実の景色としては存在しないが、撮像装置20の現在位置を分かりやすくするために、描かれている。表示画像中のピンP1は、撮像する者が実際に立つべき位置(撮影スポット)を指定する。枠F1は、撮像装置を向けるべき方向と画角を指定する。撮像位置と撮像装置を向けるべき方向と画角とによって、構図が指定される。記憶装置57に記憶されている参照データ(撮像位置および構図)は、例えば観光地において、「良い構図」の写真が撮像できる撮像ポイントを表している。
【0048】
図6Aに示すように、図5Aに示す撮像位置よりも被写体に近づいた場合、図6Bに示すように、撮像装置20のLCD30には、被写体画像R2、ピンP2および枠F2が表示される。これらの画像は、近づいた分、画像が大きくなっている。被写体に対する撮像角度および画角は、変わっていないので、枠F2の形状は、枠F1を拡大したものである。表示物としての枠およびピンは、撮像装置の位置情報、方位情報、姿勢情報および画角情報を所定時間ごとに取得し、取得したこれらの情報を使用して再描画される。
【0049】
図7Aに示すように、図5Aと同様の撮像位置において、撮像装置20の被写体に対する向き(撮像方向)を左側に動かすと、図7Bに示すように、撮像装置20のLCD30には、被写体画像R3、ピンP3および枠F3が右側に移動して表示される。図8Aに示すように、図5Aと同様の撮像位置において、撮像装置20の被写体に対する向き(撮像方向)を右側に動かすと、図8Bに示すように、撮像装置20のLCD30には、被写体画像R4、ピンP4および枠F4が左側に移動して表示される。
【0050】
このように、LCD30の画面に表示されるピンおよび枠は、被写体と同様に、撮像装置20の動きに対して現実の環境のように変化する。さらに、図9Aに示すように、ユーザが推奨の撮像ポイントに近づくと、図9Bに示す画像がLCD30に表示される。撮像角度および画角が参照撮像角度および撮像画角とほぼ等しいので、表示画面の全体に正方形の枠F5が表示される。被写体画像R5は、推奨撮像画像にかなり近い画像となり、ピンP5が表示され、推奨撮像ポイントが現在位置よりも若干被写体に近づいたものであることがガイドされる。
【0051】
図9Bに示すLCD30の画面を見てユーザが少し被写体に近づく。そして、図10Aに示すように、撮像装置20が参照撮像位置と一致する位置に到達する。この場合のLCD30の画面は、図10Bに示すものとなる。すなわち、枠およびピンの表示が消え、LCD30の画面には、撮像された被写体画像R6のみが表示される。このように、LCD30の画面から枠およびピンの表示が消えることによって、ユーザが参照撮像位置に到達したことを知り、また、現在の撮像装置20の方位および姿勢が参照撮像角度と一致したことが分かり、さらに、現在の画角が参照画角に一致したことを知りることができる。こての状態でもって、シャッターボタン21が押され、推奨の構図の写真を撮ることができる。
【0052】
図11に示すように、被写体画像R7、枠F7およびピンP7に加えて参照撮像位置、参照アングルおよび参照画角で撮像された推奨の画像のサムネイル(縮小画像)RrをLCD30の画面上に表示しても良い。ユーザは、サムネイルを手本として撮像位置、撮像アングル、画角を設定することができる。なお、サムネイルに代えて手本となる半透過画像を表示するようにしても良い。サムネイルによって、撮影者は実際に撮影地点まで行かなくとも、その撮影地点から撮影が可能な写真の構図を把握でき、さらにサムネイルを参照しながら撮影することによって、より正確に好ましい構図を再現することが可能となる。
【0053】
さらに、本開示では、図10Bに示すように、参照撮像位置、参照アングルおよび参照画角と一致すると、LCD30の画面から枠FおよびピンPが消えてしまうので、参照撮像位置より近づき過ぎたことをユーザが分からないおそれがある。このような問題を避けるために、図12Aまたは図12Bに示すように、枠の表示が消えた後に、さらに、被写体に近づいた場合には、被写体画像R8およびR9のそれぞれと重畳して参照撮像位置に近づく方向を示すカーソルを表示してユーザに知らせるようにしても良い。
【0054】
上述したように、ユーザが撮像装置を向ける方向を変えると、方位検出部72および姿勢検出部73の出力信号が変化する。この出力信号の値に応じてピンと枠の表示位置を変化させる。図7Aの例のように、ユーザが撮像装置を向ける方位を10度左側に変化させると、図7Bに示すように、LCD30の表示物は画面内で10度に相当する分だけ右側に移動する。さらに、撮像装置を向ける方向を上向きにすれば、LCD30の表示物は画面内ですべて下向きに移動する。撮像装置の画角によっても表示は変化する。例えば、画角が広い場合には表示物は小さく表示され、画角が狭い場合は大きく表示される。
【0055】
「表示変換の処理の一例」
これらの表示変換は、一例として、3次元ゲーム等で広く用いられるビューイング・パイプライン処理によって実時間で矛盾無く処理される。図13にAR表示制御部56においてなされるビューイング・パイプライン処理の流れを示す。ビューイング・ パイプラ
イン処理とは、3次元データで表される3次元モデルを、2次元平面上に立体的に表示するための一連の座標変換のことである。この処理により、撮像装置を通して風景を見ることで、現実の空間にあたかも仮想的なピンと枠が存在しているような感覚を使用者に与えることができる。
【0056】
図13は、ビューイング・パイプライン処理の流れを示している。最初に仮想物体モデルがローカル座標で作成される。すなわち、撮像位置を示すピンと被写体を表す枠とが仮想物体モデルとして作成される。次に仮想的物体モデルに対する撮像角度に応じて座標変換がなされ、ローカル座標上で仮想的物体が定義される。仮想物体モデルからローカル座標への変換の際に、構図データに含まれる撮像角度および画角が使用される。次に、構図データに含まれる撮像位置データ(緯度、経度、高度)から世界座標への座標変換がなされる。
【0057】
世界座標は、GPSの緯度・経度情報で規定される座標である。次に、各人の視点から仮想的物体を見ているので、世界座標をビュー座標に座標変換する。撮像装置の姿勢、位置、および方位を定義することで、世界座標をビュー座標に変換する。ビュー座標変換によって、撮像装置20が座標の原点に位置することになる。
【0058】
撮像装置20では、ズーム等によって画角が変化するので、画角の情報に基づいてビュー座標をパースペクティブ座標に変換するようになされる。この座標変換の方法としては、平行投影および透視投影の何れか一方が使用される。ビュー座標をパースペクティブ座標に変換することは、3Dの物体を2Dにすることである。
【0059】
さらに、撮像装置20のLCD30の画面に合わせるために、表示画面サイズ例えば(480×640)に応じた表示座標へパースペクティブ座標が変換される。このようにして、撮像装置20のLCD30の表示画面上には、現在の撮像装置の位置、姿勢、方位および画角に応じて枠およびピンからなる仮想物体が表示される。
【0060】
なお、上述したビューイング・パイプライン処理に限らず、3Dの仮想物体を現在の撮像装置の位置、姿勢、方位および画角に応じて形状および位置を変化させて2Dの表示装置の画面上に表示することができる他の処理を使用しても良い。
【0061】
「処理の流れ」
本開示では、図14のフローチャートに示すように処理がなされる。この処理は、AR表示制御部56(図3参照)においてなされるものである。ステップS1において、位置検出部71によって撮像装置の現在の位置データが取得される。次に、ステップS2において、方位検出部72によって撮像装置の現在の方位データが取得される。次に、ステップS3において、姿勢検出部73によって撮像装置の現在の姿勢データが取得される。ステップS4において、記憶装置57から参照データ(参照位置データおよび参照構図データ)が取得される。
【0062】
ステップS5において、現在の撮像装置の位置データ、方位データ、姿勢データおよび参照データが取得できたか否かが判定される。これらの全てのデータが取得できたと判定されると、ステップS6において、上述したビューイング・パイプライン処理がなされる。ビューイング・パイプライン処理によって、表示物(枠およびピン)が生成され、ステップS7において、重畳表示処理がなされる。そして、処理がステップS1に戻り、所定時間後に上述したステップS1以降の処理が繰り返される。
【0063】
本開示により、撮影地点に移動し、撮像装置を向ける方向を決め、ズーム調整等によって画角を決定して撮影する、という3段階の手続きにおいて、一貫性のあるユーザ・インタフェースによって誰にでも分かりやすい直感的なガイドを提供できる。撮像装置の使用者は、撮像装置を起動し撮像装置を通して風景を見ることで、視界内の撮影地点を分かりやすく把握できると同時に、その地点まで行けば良いという意味を直感的に把握できる。さらに撮影構図を表す枠が3次元的に表示されており、それらの撮影地点からどちらの方向を向けば望ましい撮影構図が得られるかも容易に理解できるため、写真撮影が苦手な使用者であっても、好ましい構図で写真を撮ることができる。
【0064】
なお、本開示は、以下のような構成も取ることができる。
(1)
現在位置の位置データを取得する位置検出部と、
現在の撮像角度の角度データを取得する角度検出部と、
被写体に対する撮像地点を示す参照位置データ、および前記撮像地点における参照撮像角度データを記憶する記憶部と、
現実の環境に付加され、前記位置データおよび前記角度データに応じて現実の環境のように変化する仮想物体を生成する表示物生成部と、
前記仮想物体を取得される画像データに重畳して表示部に表示する表示制御部とを備え、
前記仮想物体が前記現在位置のデータに応じて表示位置が変化する第1の表示物と、前記角度データに基づいて形状が変化する第2の表示物とを含む撮像装置。
(2)
前記角度検出部は、現在の撮像方向の方位データを取得する方位検出部と、現在の撮像方向の姿勢データを取得する姿勢検出部とを有する(1)に記載の撮像装置。
(3)
現在の画角データを取得する画角検出部を有し、
前記第2の表示物が前記角度データおよび前記画角データに基づいて形状が変化する(1)および(2)の何れかに記載の撮像装置。
(4)
前記第2の表示物が3次元物体を前記表示部の2次元表示に変換した表示物である(1)、(2)および(3)の何れかに記載の撮像装置。
(5)
前記第2の表示物が枠である(1)、(2)、(3)および(4)の何れかに記載の撮像装置。
(6)
前記参照位置データが撮像の推奨ポイントを示し、前記参照撮像角度データが撮像の推奨アングルを示す(1)、(2)、(3)、(4)および(5)の何れかに記載の撮像装置。
(7)
前記撮像地点において過去に撮影された画像の縮小画像または半透過表示を取得される画像に重畳して表示する(1)、(2)、(3)、(4)、(5)および(6)の何れかに記載の撮像装置。
(8)
位置検出部によって現在位置の位置データを取得し、
角度検出部によって現在の撮像角度の角度データを取得し、
表示物生成部によって現実の環境に付加され、前記位置データ、前記角度データに応じて現実の環境のように変化する仮想物体を生成し、
表示制御部によって前記仮想物体を取得される画像データに重畳して表示し、
前記仮想物体が前記現在位置のデータに応じて表示位置が変化する第1の表示物と、前記角度データに基づいて形状が変化する第2の表示物とを含む撮像方法。
【0065】
「変形例」
以上、本開示の実施形態について具体的に説明したが、上述の各実施形態に限定されるものではなく、本開示の技術的思想に基づく各種の変形が可能である。例えば、上述した実施の形態では、表示物として位置を表すピンと、枠とを使用している。しかしながら、撮像の構図をガイドすることができるものであれば、他のマークを使用しても良い。例えば十字、×等のマークを使用しても良い。さらに、撮像対象が固定の風景に限らず、動く被写体であっても良い。
【0066】
また、上述の実施形態の構成、方法、工程、形状、材料および数値などは、本開示の主旨を逸脱しない限り、互いに組み合わせることが可能である。
【符号の説明】
【0067】
1・・・カメラ部
2・・・デジタル信号処理部
5・・・制御部
6・・・操作部
7・・・センサ部
20・・・撮像装置
30・・・LCD
51・・・CPU
56・・・AR表示制御部
57・・・記憶装置
58・・・画面表示制御部
71・・・位置検出部
72・・・方位検出部
73・・・姿勢検出部

【特許請求の範囲】
【請求項1】
現在位置の位置データを取得する位置検出部と、
現在の撮像角度の角度データを取得する角度検出部と、
被写体に対する撮像地点を示す参照位置データ、および前記撮像地点における参照撮像角度データを記憶する記憶部と、
現実の環境に付加され、前記位置データおよび前記角度データに応じて現実の環境のように変化する仮想物体を生成する表示物生成部と、
前記仮想物体を取得される画像データに重畳して表示部に表示する表示制御部とを備え、
前記仮想物体が前記現在位置のデータに応じて表示位置が変化する第1の表示物と、前記角度データに基づいて形状が変化する第2の表示物とを含む撮像装置。
【請求項2】
前記角度検出部は、現在の撮像方向の方位データを取得する方位検出部と、現在の撮像方向の姿勢データを取得する姿勢検出部とを有する請求項1に記載の撮像装置。
【請求項3】
現在の画角データを取得する画角検出部を有し、
前記第2の表示物が前記角度データおよび前記画角データに基づいて形状が変化する請求項1に記載の撮像装置。
【請求項4】
前記第2の表示物が3次元物体を前記表示部の2次元表示に変換した表示物である請求項1に記載の撮像装置。
【請求項5】
前記第2の表示物が枠である請求項1に記載の撮像装置。
【請求項6】
前記参照位置データが撮像の推奨ポイントを示し、前記参照撮像角度データが撮像の推奨アングルを示す請求項1に記載の撮像装置。
【請求項7】
前記撮像地点において過去に撮影された画像の縮小画像または半透過表示を取得される画像に重畳して表示する請求項1に記載の撮像装置。
【請求項8】
位置検出部によって現在位置の位置データを取得し、
角度検出部によって現在の撮像角度の角度データを取得し、
表示物生成部によって現実の環境に付加され、前記位置データ、前記角度データに応じて現実の環境のように変化する仮想物体を生成し、
表示制御部によって前記仮想物体を取得される画像データに重畳して表示し、
前記仮想物体が前記現在位置のデータに応じて表示位置が変化する第1の表示物と、前記角度データに基づいて形状が変化する第2の表示物とを含む撮像方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2013−42250(P2013−42250A)
【公開日】平成25年2月28日(2013.2.28)
【国際特許分類】
【出願番号】特願2011−176498(P2011−176498)
【出願日】平成23年8月12日(2011.8.12)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】