説明

撮像装置、画像処理装置、画像処理方法およびプログラム

【課題】全方位撮像光学系を用いて生成された全方位画像を把握し易くする。
【解決手段】撮像部110は、全方位の被写体(撮像部110の光軸方向の被写体と、表示部150における表示面に対向する被写体とを含む)を撮像するための全方位撮像光学系を備えるアダプタが装着された状態で、全方位画像(環状画像)を生成する。画像処理部171は、全周囲画像の円周方向を4分割して略扇形状の対象領域(4つの領域)を特定し、この対象領域の画像を略矩形状の画像(変換画像)に変換する。例えば、その光軸方向の被写体と、その表示面に対向する被写体とのそれぞれが、変換画像における中央位置となるように4分割される。表示制御部175は、全方位画像の撮像動作時に、変換画像および全周囲画像を同時に表示部150に表示させる。また、表示制御部175は、切替操作に応じて変換画像を切り替える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置に関し、特に、全方位画像について画像処理を行う撮像装置、画像処理装置および画像処理方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
【背景技術】
【0002】
近年、風景等の被写体を撮像して画像(画像データ)を生成し、生成された画像を画像ファイル(画像コンテンツ)として記録するデジタルスチルカメラやデジタルビデオカメラ(カメラ一体型レコーダ)等の撮像装置が普及している。また、比較的広い範囲の被写体を含む画像を生成する撮像装置が提案されている。例えば、全方位の被写体を撮像して全方位画像(全方位の被写体を含む画像)を生成する撮像装置が提案されている。
【0003】
例えば、回転対称な形状の反射面を有する全方位撮像光学系を用いて全方位(360°)の被写体を撮像可能な撮像装置が提案されている(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−131738号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の従来技術では、全方位の被写体を撮像することができるため、例えば、全方位画像(例えば、環状画像または円状画像)を生成することができる。
【0006】
また、全方位画像を生成するためのアダプタ(全方位撮像光学系を備えるアダプタ)を着脱可能とし、そのアダプタを撮像装置に装着して全方位画像を記録することも想定される。このようなアダプタを撮像装置に装着して全方位画像の撮像動作を行う場合を想定する。この撮像動作中において、撮像された画像(全方位画像)をユーザが確認する場合には、その全方位画像(例えば、環状画像または円状画像)を見て確認することが考えられる。
【0007】
しかしながら、通常の撮像動作時において表示される画像(例えば、光軸方向の被写体を含む画像)と、全方位画像の撮像動作時において表示される全方位画像とは、撮像範囲が異なる。このため、例えば、通常の撮像動作に慣れているユーザとっては、表示される全方位画像を見て撮像動作の状態や全方位画像を把握することが困難であることが想定される。また、全方位画像の撮像動作により記録された全方位画像を再生する場合についても同様に、通常の撮像動作により記録された画像に慣れているユーザとっては、全方位画像を見てもその全方位画像を把握することが困難であることが想定される。
【0008】
本発明はこのような状況に鑑みてなされたものであり、全方位撮像光学系を用いて生成された全方位画像を把握し易くすることを目的とする。
【課題を解決するための手段】
【0009】
本発明は、上記課題を解決するためになされたものであり、その第1の側面は、撮像時における撮像位置を基準とする全方位の被写体を撮像して上記全方位の被写体を含む円状画像を生成する撮像部と、上記全方位のうち上記撮像位置における撮像装置の姿勢に基づいて特定される特定方向を基準として上記生成された円状画像における略扇形状の対象領域を特定して当該対象領域の画像を略矩形状の画像に変換する画像処理部と、上記変換された画像である変換画像と上記生成された円状画像とを同時に表示部に表示させる表示制御部とを具備する撮像装置およびその処理方法ならびに当該方法をコンピュータに実行させるプログラムに関する。これにより、円状画像(全方位画像)を生成し、特定方向を基準として円状画像における略扇形状の対象領域を特定し、この対象領域の画像を略矩形状の画像に変換し、この変換された画像(変換画像)と、生成された円状画像とを同時に表示させるという作用をもたらす。
【0010】
また、この第1の側面において、上記画像処理部は、上記生成された円状画像における上記特定方向が切断されないように上記対象領域を特定するようにしてもよい。これにより、生成された円状画像における特定方向が切断されないように、対象領域を特定するという作用をもたらす。
【0011】
また、この第1の側面において、上記撮像部は、その光軸方向の被写体を含む上記全方位の被写体を撮像するための全方位撮像光学系を備えるアダプタが装着された状態で上記円状画像を生成し、上記画像処理部は、上記撮像位置を基準とする場合に上記光軸方向を上記特定方向とするようにしてもよい。これにより、全方位撮像光学系を備えるアダプタが装着された状態で円状画像を生成し、撮像位置を基準とする場合に撮像部の光軸方向を特定方向として対象領域を特定するという作用をもたらす。
【0012】
また、この第1の側面において、上記撮像装置は、上記表示部を備え、上記光軸方向は、上記表示部における表示面の垂直方向と略一致し、上記撮像部は、上記アダプタが装着された状態で上記光軸方向の被写体と上記表示面に対向する被写体とを含む上記円状画像を生成するようにしてもよい。これにより、アダプタが装着された状態で、撮像部の光軸方向の被写体と、表示部における表示面に対向する被写体とを含む円状画像を生成するという作用をもたらす。
【0013】
また、この第1の側面において、上記画像処理部は、上記光軸方向の被写体と上記表示面に対向する被写体とのそれぞれが上記変換画像における中央位置となるように、上記生成された円状画像の円周方向を4分割して当該分割された4つの領域を上記対象領域として特定するようにしてもよい。これにより、撮像部の光軸方向の被写体と、表示部における表示面に対向する被写体とのそれぞれが、変換画像における中央位置となるように、円状画像の円周方向を4分割し、この分割された4つの領域を対象領域として特定するという作用をもたらす。
【0014】
また、この第1の側面において、上記表示制御部は、上記変換画像と上記生成された円状画像とを当該円状画像の撮像動作時に上記表示部に表示させるようにしてもよい。これにより、変換画像および円状画像をその円状画像の撮像動作時に表示させるという作用をもたらす。
【0015】
また、この第1の側面において、上記表示部における表示状態を切り替える切替操作を受け付ける操作受付部をさらに具備し、上記画像処理部は、上記生成された円状画像の円周方向を複数に分割して当該分割された複数の領域を上記対象領域として特定して上記変換画像を複数生成し、上記表示制御部は、上記切替操作が受け付けられた場合には当該切替操作に応じて上記表示部に表示されている変換画像を他の変換画像に切り替えるようにしてもよい。これにより、円状画像の円周方向を複数に分割し、この分割された複数の領域を対象領域として特定して変換画像を複数生成し、表示部における表示状態を切り替える切替操作が受け付けられた場合には、その切替操作に応じて変換画像を他の変換画像に切り替えるという作用をもたらす。
【0016】
また、この第1の側面において、上記画像処理部は、上記生成された円状画像の円周方向における上記特定方向に対応する位置が上記略矩形状の画像における上記特定位置となるように上記略扇形状の対象領域を特定するようにしてもよい。これにより、円状画像の円周方向における特定方向に対応する位置が、略矩形状の画像における特定位置となるように対象領域を特定するという作用をもたらす。
【0017】
また、この第1の側面において、上記撮像部は、上記全方位の被写体を含む画像が環状に配置されている画像を上記円状画像として生成するようにしてもよい。これにより、全方位の被写体を含む画像が環状に配置されている画像を円状画像として生成するという作用をもたらす。
【0018】
また、本発明の第2の側面は、撮像装置の撮像時における撮像位置を基準とする全方位の被写体を撮像して生成された上記全方位の被写体を含む円状画像を取得する取得部と、上記全方位のうち上記撮像位置における上記撮像装置の姿勢に基づいて特定される特定方向を基準として上記取得された円状画像における略扇形状の対象領域を特定して当該対象領域の画像を略矩形状の画像に変換して表示対象画像とする画像処理部とを具備する画像処理装置および画像処理方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、円状画像(全方位画像)を取得し、特定方向を基準として円状画像における略扇形状の対象領域を特定し、この対象領域の画像を略矩形状の画像に変換して表示対象画像とするという作用をもたらす。
【発明の効果】
【0019】
本発明によれば、全方位撮像光学系を用いて生成された全方位画像を把握し易くすることができるという優れた効果を奏し得る。
【図面の簡単な説明】
【0020】
【図1】本発明の第1の実施の形態における撮像装置100の外観構成例を示す図である。
【図2】本発明の第1の実施の形態における撮像装置100の外観構成例を示す図である。
【図3】本発明の第1の実施の形態における撮像装置100およびアダプタ200の外観構成例を示す図である。
【図4】本発明の第1の実施の形態における撮像装置100およびアダプタ200の外観構成例を示す図である。
【図5】本発明の第1の実施の形態におけるアダプタ200に備えられる全方位撮像光学系210を示す断面図である。
【図6】本発明の第1の実施の形態における撮像装置100の内部構成例を示すブロック図である。
【図7】本発明の第1の実施の形態における撮像装置100の機能構成例を示すブロック図である。
【図8】本発明の第1の実施の形態における撮像装置100による撮像対象となる撮像範囲と、撮像装置100により生成される撮像画像との関係を簡略化して示す図である。
【図9】本発明の第1の実施の形態における撮像装置100を用いて行われる撮像動作と、この撮像動作により生成される撮像画像との関係を示す図である。
【図10】本発明の第1の実施の形態における撮像装置100を用いて行われる撮像動作と、この撮像動作により生成される撮像画像との関係を示す図である。
【図11】本発明の第1の実施の形態における画像処理部171による変換処理の対象となる全方位画像(環状画像)と、その変換後のパノラマ画像との関係を示す図である。
【図12】本発明の第1の実施の形態における画像処理部171による変換処理の対象となるパノラマ画像と、これに対応する変換画像との関係を示す図である。
【図13】本発明の第1の実施の形態における画像処理部171による変換処理の対象となる全方位画像と、その変換後の画像(変換画像)との関係を示す図である。
【図14】本発明の第1の実施の形態における入出力パネル151に表示される全方位画像および変換画像の表示例を示す図である。
【図15】本発明の第1の実施の形態における入出力パネル151に表示される変換画像を切り替える際における切替例を示す図である。
【図16】本発明の第1の実施の形態における入出力パネル151に表示される全方位画像および変換画像の表示例を示す図である。
【図17】本発明の第1の実施の形態における撮像装置100による全方位画像の撮像動作制御処理の処理手順の一例を示すフローチャートである。
【図18】本発明の第2の実施の形態における画像処理装置800の機能構成例を示すブロック図である。
【図19】本発明の第2の実施の形態における表示部870に表示される全方位画像および変換画像の表示例を示す図である。
【発明を実施するための形態】
【0021】
以下、本発明を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(表示制御:撮像動作時または再生時に全方位画像(環状画像)および変換画像(矩形画像)を同時に表示する例)
2.第2の実施の形態(表示制御:画像処理装置を用いて全方位画像および変換画像を同時に表示する例)
【0022】
<1.第1の実施の形態>
[撮像装置の外観構成例]
図1および図2は、本発明の第1の実施の形態における撮像装置100の外観構成例を示す図である。
【0023】
図1(a)は、撮像装置100の正面(すなわち、被写体に向けられるレンズが設けられている面)の外観を示す正面図である。また、図1(b)は、撮像装置100の背面(すなわち、撮影者に向けられる入出力パネル151の面)の外観を示す背面図である。図2(a)は、撮像装置100の側面の外観を示す側面図である。また、図2(b)は、撮像装置100の正面側の外観を示す斜視図である。なお、撮像装置100は、例えば、被写体を撮像して撮像画像(画像データ)を生成し、生成された撮像画像を記録することが可能な撮像装置により実現される。この撮像装置は、例えば、デジタルスチルカメラ、デジタルビデオカメラ(例えば、カメラ一体型レコーダ)等である。
【0024】
撮像装置100は、撮像部110と、電源スイッチ141と、シャッターボタン142と、操作ボタン群143と、上下左右ボタン144と、録画ボタン145と、入出力パネル151とを備える。また、撮像装置100の上端部101には、図3および図4に示すアダプタ200が装着される。また、上端部101に装着されるアダプタ200(上端部101と接する面に磁石が設けられている)を固定するため、アダプタ200と接する面(上端部101における上端面)は磁性体を有する。
【0025】
撮像部110は、被写体を撮像して撮像画像(画像データ)を生成するものである。また、アダプタ200の装着時には、撮像部110を用いた全方位画像の撮像動作(全方位撮像動作)が行われる。なお、撮像部110については、図6、図7を参照して詳細に説明する。
【0026】
電源スイッチ141は、撮像装置100の電源をオン/オフする際に用いられる操作部材である。
【0027】
シャッターボタン142は、撮像部110により生成された画像(画像データ)をコンテンツ(静止画コンテンツ)として記録する際にユーザにより押下される操作部材である。例えば、撮像モードが設定されている場合において、シャッターボタン142が半押しされた場合には、オートフォーカスを行うためのフォーカス制御が行われる。また、シャッターボタン142が全押しされた場合には、そのフォーカス制御が行われ、この全押しの際に撮像部110により生成された画像(画像データ)がコンテンツ(静止画コンテンツ)として記録される。例えば、図6に示すメモリカード180に記録される。
【0028】
操作ボタン群143は、各種操作を行う際に用いられる操作ボタンである。
【0029】
上下左右ボタン144は、上下左右に関する各種操作を行う際に用いられる操作ボタンである。
【0030】
録画ボタン145は、撮像部110により生成された画像(画像データ)をコンテンツ(動画コンテンツ)として記録する際にユーザにより押下される操作部材である。例えば、撮像モードが設定されている場合において、録画ボタン145が押下された場合には、撮像部110により生成された画像(画像データ)の記録処理が開始される。また、録画ボタン145が再度押下された場合には、画像(画像データ)の記録処理が終了する。この記録処理により、コンテンツ(動画コンテンツ)が、例えば、図6に示すメモリカード180に記録される。
【0031】
入出力パネル151は、各種画像を表示するとともに、表示面に近接または接触する物体の検出状態に基づいてユーザからの操作入力を受け付けるものである。なお、入出力パネル151は、タッチスクリーンまたはタッチパネルとも称される。入出力パネル151は、操作受付部および表示パネルを備える。例えば、操作受付部として、導電性を有する物体(例えば、人物の指)の接触または近接を、静電容量の変化に基づいて検出する静電式(静電容量方式)のタッチパネルを用いることができる。また、例えば、表示パネルとして、LCD(Liquid Crystal Display)、有機EL(Electro Luminescence)パネル等の表示パネルを用いることができる。そして、入出力パネル151は、例えば、表示パネルの表示面上に、透明なタッチパネルを重ね合わせることにより構成される。
【0032】
[撮像装置およびアダプタの外観構成例]
図3および図4は、本発明の第1の実施の形態における撮像装置100およびアダプタ200の外観構成例を示す図である。図3および図4では、図1および図2に示す撮像装置100にアダプタ200が装着されている場合における外観構成を示す。
【0033】
図3(a)は、撮像装置100およびアダプタ200の正面の外観を示す正面図である。また、図3(b)は、撮像装置100およびアダプタ200の背面の外観を示す背面図である。図4(a)は、撮像装置100およびアダプタ200の側面の外観を示す側面図である。また、図4(b)は、撮像装置100およびアダプタ200の正面側の外観を示す斜視図である。
【0034】
アダプタ200は、撮像装置100に対して着脱可能なアダプタであり、全方位(全周囲)撮像用のアタッチメントである。アダプタ200は、全方位撮像光学系210と、カバー220と、取付部230と、ミラー240とを備える。なお、ミラー240については、図5に示す。
【0035】
全方位撮像光学系210は、撮像装置100の全方位(全周囲)の被写体を撮像するための光学系である。なお、全方位撮像光学系210については、図5を参照して詳細に説明する。
【0036】
カバー220は、全方位撮像光学系210を覆う円筒形のカバーである。
【0037】
取付部230は、アダプタ200を撮像装置100に装着するための取付部であり、撮像装置100の上端部101(図1および図2に示す)に嵌合可能な形状を有する。また、取付部230の凹部における底部(撮像装置100の上端部101における上端面に接する部分)には磁石201(図6に示す)が設けられている。このため、撮像装置100の上端部101に取付部230を嵌合させて装着した場合には、磁石201によりアダプタ200が撮像装置100の上端部101に固定される。また、アダプタ200が撮像装置100に装着されている状態では、撮像部110が取付部230により覆われている。この場合には、アダプタ200の全方位撮像光学系210により集光された全方位の被写体像が、撮像部110の撮像光学系111(図6に示す)に入射されて撮像素子112(図6に示す)に結像される。
【0038】
このように、全方位撮像光学系210を備えるアダプタ200を撮像部110に装着することにより、全方位撮像光学系を内蔵していない撮像装置100を用いて、全方位撮像動作を行うことができる。この全方位撮像動作は、撮像装置100の全方位(0°〜360°)に存在する被写体を撮像する動作である。
【0039】
このように、アダプタ200の装着時には、アダプタ200の全方位撮像光学系210と撮像部110の撮像光学系111との双方を用いて、撮像装置100の全方位の被写体像が撮像される。また、図9、図10等に示すように、全方位撮像光学系210を用いた全方位撮像動作により、撮像装置100の全方位の被写体を撮像した全方位画像420が生成される。そして、生成された全方位画像420が入出力パネル151にスルー画像として表示される。
【0040】
また、図1および図2に示すように、アダプタ200が撮像部110に装着されていない場合を想定する。この場合において、撮像モードが設定されている場合には、撮像装置100は、内蔵されている撮像光学系111を用いて撮像動作を行う。この撮像動作は、撮像光学系111を用いて、撮像装置100の撮像時における位置(撮像位置)を基準として特定の一方向(撮像光学系111の光軸が向けられた撮像方向)に存在する被写体を撮像する動作である。この撮像動作では、一方向の被写体像が撮像光学系111を介して入射されて撮像素子112に結像される。
【0041】
図1乃至図4に示すように、アダプタ200は撮像装置100の撮像部110に対して着脱自在に構成されている。これにより、ユーザは、アダプタ200を撮像部110に装着することにより、撮像装置100を用いて全方位撮像動作を容易に行うことができる。
【0042】
[全方位撮像光学系の構成例]
図5は、本発明の第1の実施の形態におけるアダプタ200に備えられる全方位撮像光学系210を示す断面図である。図5では、二回反射タイプの全方位撮像光学系210を例にして示す。
【0043】
全方位撮像光学系210は、中心軸211に対して回転対称となる形状を有する凸面鏡および凹面鏡から構成される全方位撮像レンズである。また、中心軸211は、撮像部110の撮像光学系111の光軸108とのなす角が90度となる線上に配置される。すなわち、全方位撮像光学系210により集光された被写体像が、ミラー240により反射されて光路が90度変更され、撮像光学系111に供給される。
【0044】
全方位撮像光学系210は、第1反射面212と、第2反射面213と、入光部214と、出光部215とにより構成される。
【0045】
第1反射面212は、全方位撮像光学系210の下方に位置する環状の反射面であり、鏡面仕上げされた環状の凹面鏡からなる。第2反射面213は、第1反射面212に対向配置される円錐面状の反射面であり、鏡面仕上げされた凸面鏡からなる。
【0046】
入光部214は、第2反射面213の外周に配置される環状の入光部であり、透明なガラス板から構成されて光を透過する。出光部215は、第1反射面212の内周に配置される出光部であり、透明なガラス板から構成されて光を透過する。
【0047】
ここで、全方位撮像光学系210は二回反射タイプであるため、全方位撮像光学系210から任意の距離にある全ての被写体の焦点218が、第1反射面212と第2反射面213の間に位置するように、全方位撮像光学系210の光学特性が設計されている。なお、図5では、被写体の焦点218を複数の丸により模式的に示す。
【0048】
全方位撮像光学系210において、入射光216が入光部214から入射されると、第1反射面212により反射された後に第2反射面213により反射され、出光部215から出射される。そして、出光部215からの出射光が、ミラー240により反射されて光路が90度変更され、撮像部110の撮像光学系111に入射され、撮像素子112に供給される。なお、図5では、説明の容易のため、出光部215からの出射光として、撮像光学系111に対応する楕円109までの出射光のみを示す。
【0049】
このように、全方位撮像光学系210は、中心軸211を中心とする360°の範囲の被写体像を取得することができる。このため、全方位撮像光学系210は、その周囲にある全方位(360°)の被写体像を集光して、撮像光学系111に供給することができる。
【0050】
なお、図5では、二回反射タイプの全方位撮像光学系210を例にして説明したが、一回反射タイプの全方位撮像光学系を用いてもよい。一回反射タイプの全方位撮像光学系は、全方位の被写体からの光を反射する反射面を1つだけ備えるものである。また、一回反射タイプの全方位撮像光学系において、その1つの反射面は、中心軸に対して回転対称な形状を有する凸面鏡により構成され、その反射面からの反射光を撮像装置100の撮像光学系111に向けるように配置されている。
【0051】
[撮像装置の内部構成例]
図6は、本発明の第1の実施の形態における撮像装置100の内部構成例を示すブロック図である。また、図6には、撮像装置100の内部構成とともに、撮像装置100に装着されるアダプタ200を示す。
【0052】
撮像装置100は、撮像部110と、ホールセンサ130と、操作受付部140と、表示部150と、フラッシュROM(Read Only Memory)161とを備える。また、撮像装置100は、DRAM(Dynamic Random Access Memory)162と、DSP(Digital Signal Processor)170と、メモリカード180とを備える。
【0053】
撮像部110は、撮像画像を生成するための光学系、撮像素子等により構成されている。すなわち、撮像部110は、撮像光学系111と、撮像素子112と、TG(Timing Generator)113と、光学部品駆動部114、115とを備える。
【0054】
撮像光学系111は、一方向の被写体を撮像するために光学設計された光学系であり、フォーカスレンズ、ズームレンズ等の各種レンズ、不要な波長を除去する光学フィルタ、絞り等の光学部品を備える。被写体から入射された光学像(被写体像)は、撮像光学系111における各光学部品を介して撮像素子112の露光面に結像される。また、撮像光学系111には、撮像光学系111を構成する光学部品を駆動するための光学部品駆動部114、115が機械的に接続されている。
【0055】
撮像素子112は、撮像光学系111から供給される光学像を光電変換して電気信号(アナログの画像信号)を生成するものであり、この生成された電気信号をDSP170に出力する。撮像素子112として、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子(イメージセンサ)を用いることができる。
【0056】
TG113は、DSP170の制御に基づいて、撮像素子112に必要な動作パルスを生成するタイミングジェネレータである。TG113は、例えば、垂直転送のための4相パルス、フィールドシフトパルス、水平転送のための2相パルス、シャッタパルス等の各種パルスを生成し、撮像素子112に供給する。そして、TG113による撮像素子112の駆動により被写体像が撮像される。また、TG113が、撮像素子112のシャッタースピードを調整することにより、撮像画像の露光量や露光期間が制御される(電子シャッタ機能)。
【0057】
光学部品駆動部114、115は、DSP170の制御に基づいて、撮像光学系111を構成する光学部品を駆動させるものであり、例えば、ズームモータ、フォーカスモータ等により構成される。光学部品駆動部114、115は、例えば、撮像光学系111を構成するズームレンズ、フォーカスレンズ等を移動させ、絞りを調整する。
【0058】
ホールセンサ130は、上端部101の内側の部分(アダプタ200の装着時に磁石201に隣接する部分)に設けられているホールセンサであり、アダプタ200の装着時に磁石201により生じる磁場の磁束密度を検出する。上述したように、磁石201は、アダプタ200の取付部230の凹部における底部(撮像装置100の上端部101における上端面に接する部分)に設けられている。
【0059】
例えば、撮像装置100の上端部101にアダプタ200が装着された場合には、ホールセンサ130の近傍に磁石201が配置されるため、ホールセンサ130が磁石201から所定の磁束密度以上の磁場を検出する。一方、撮像装置100の上端部101にアダプタ200が装着されていない場合には、ホールセンサ130が磁石201から所定の磁束密度以上の磁場を検出しない。このように、ホールセンサ130により検出される磁場強度に応じて、撮像装置100の上端部101にアダプタ200が装着されているか否かを検出することができる。そして、ホールセンサ130は、検出された磁場強度に関する情報(磁場強度情報)をDSP170に出力し、DSP170は、その磁場強度情報に基づいて、撮像部110に対するアダプタ200の装着状態(アダプタ200の装着の有無)を判定する。そして、DSP170は、アダプタ200の装着の有無に応じて、撮像装置100の各種の動作設定を切り替える。
【0060】
操作受付部140は、ユーザからの操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作信号をDSP170に出力する。操作受付部140は、例えば、図1乃至図4に示す電源スイッチ141、シャッターボタン142、操作ボタン群143、上下左右ボタン144、録画ボタン145、入出力パネル151に対応する。例えば、操作ボタン群143により、表示部150における表示状態を切り替える切替操作が受け付けられる(例えば、図14、図15に示す)。
【0061】
表示部150は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ等により構成される。表示部150は、DSP170の制御に基づいて、入力された各種の画像データを表示する。例えば、表示部150は、撮像動作中にDSP170からリアルタイムで入力される撮像中の撮像画像(スルー画像)を表示する。これにより、ユーザは、撮像動作中の画像を表示部150で見ながら、撮像装置100を操作することができる。また、メモリカード180に記憶されているコンテンツの再生指示操作が行われた場合には、表示部150は、DSP170から入力されたコンテンツを表示する。これにより、ユーザは、メモリカード180に記憶されているコンテンツの内容を確認することができる。
【0062】
フラッシュROM161は、DSP170の各種の制御処理を実行させるためのプログラムを格納するメモリである。DSP170は、フラッシュROM161に格納されているプログラムに基づいて動作し、DRAM162を用いて各制御のための必要な演算・制御処理を実行する。なお、これらのプログラムは、ディスク状記録媒体、メモリカード等のリムーバブル記録媒体からDSP170に供給されるようにしてもよく、インターネット等のネットワークを介してDSP170にダウンロードされるようにしてもよい。
【0063】
DSP170は、撮像画像の画像処理や、撮像装置100の動作制御を行うための演算処理装置である。DSP170は、信号処理部(図示せず)、記録再生部(図示せず)および制御部(図示せず)を備える。例えば、信号処理部は、撮像素子112から出力された画像信号(アナログの画像信号)に対して所定の信号処理を実行し、信号処理後の画像信号(デジタルの画像信号)を表示部150や記録再生部に出力する。この信号処理部は、例えば、アナログ信号処理部、A/D(アナログ/デジタル)変換部、デジタル信号処理部により構成される。
【0064】
アナログ信号処理部は、画像信号を前処理する処理部(いわゆる、アナログフロントエンド)である。このアナログ信号処理部は、例えば、撮像素子112から出力された画像信号に対して、CDS(correlated double sampling:相関2重サンプリング)処理、プログラマブルゲインアンプ(PGA)によるゲイン処理等を行う。A/D変換部は、アナログ信号処理部から出力された画像信号(アナログの画像信号)をデジタル画像信号に変換してデジタル信号処理部に出力する。デジタル信号処理部は、A/D変換部から出力されたデジタル画像信号に対して、例えば、ノイズ除去、ホワイトバランス調整、色補正、エッジ強調、ガンマ補正等のデジタル信号処理を行い、表示部150および記録再生部等に出力する。
【0065】
DSP170の制御部は、DSP170に設けられているマイクロコントローラ等の演算処理装置で構成され、撮像装置100の全体の動作を制御する。この制御部は、例えば、DRAM162やフラッシュROM161を用いて制御機能を実行する。例えば、DSP170の制御部は、TG113や光学部品駆動部114、115を制御し、撮像部110による撮像動作を制御する。例えば、DSP170の制御部は、撮像光学系111の絞りの調整、撮像素子112の電子シャッタースピードの設定、信号処理部のAGCのゲイン設定等により、自動露光制御を行う(AE機能)。また、DSP170の制御部は、撮像光学系111のフォーカスレンズを移動させ、特定の被写体に対して撮像光学系111の焦点を自動的に合わせるオートフォーカス制御を行う(AF機能)。また、DSP170の制御部は、撮像光学系111のズームレンズを移動させ、撮像画像の画角を調整する。また、DSP170の制御部は、記録再生部による撮像画像データの記録・再生処理を制御する。さらに、DSP170の制御部は、表示部150に各種の表示データを表示させるための表示制御を行う。
【0066】
メモリカード180は、撮像装置100に着脱可能な記録媒体である。なお、記録媒体として、例えば、他の半導体メモリ、光ディスク、ハードディスク等のディスク状記録媒体等を用いるようにしてもよい。例えば、光ディスクとして、ブルーレイディスク(Blu-ray Disc)、DVD(Digital Versatile Disc)、CD(Compact Disc)等を用いることができる。また、記録媒体は、撮像装置100に内蔵するようにしてもよく、撮像装置100に着脱可能なリムーバブルメディアとするようにしてもよい。
【0067】
[撮像装置の機能構成例]
図7は、本発明の第1の実施の形態における撮像装置100の機能構成例を示すブロック図である。なお、図6に示す機能構成と同一の部分については、同一の符号を付してこれらの説明の一部を省略する。
【0068】
撮像装置100は、撮像部110と、アダプタ装着検出部131と、操作受付部140と、表示部150と、画像処理部171と、撮像モード設定部172と、制御部173と、記録制御部174と、表示制御部175と、記録媒体185とを備える。また、記録媒体185は、図6に示すメモリカード180に対応する。また、画像処理部171、撮像モード設定部172、制御部173、記録制御部174および表示制御部175は、図6に示すDSP170に対応する。また、アダプタ装着検出部131は、図6に示すホールセンサ130に対応する。
【0069】
撮像部110は、特定方向(例えば、光軸方向)の被写体を撮像して、その被写体を含む平面画像(画像データ)を生成する撮像部であり、撮像モード設定部172により設定された撮像モードに応じた撮像処理を行う。ここで、撮像モードとして、平面画像撮像モードと全方位画像撮像モードとの何れかの撮像モードが設定される。平面画像撮像モードは、特定方向(例えば、光軸方向)の被写体を含む平面画像を記録する撮像モードである。また、全方位画像撮像モードは、アダプタ200が撮像部110に装着されている状態で、全方位の被写体を含む平面画像(全方位画像)を記録するための撮像モードである。なお、これらの各撮像モードについては、静止画を記録するための静止画撮像モードと、動画を記録するための動画撮像モードとの何れについても設定することができるものとする。すなわち、平面画像撮像モードと全方位画像撮像モードとの何れかの撮像モードが設定されている場合には、ユーザ操作に基づいて、静止画の記録動作および動画の記録動作の何れについても行うことができる。
【0070】
例えば、平面画像撮像モードが設定されている場合には、撮像部110は、特定方向の被写体を撮像して平面画像を生成する。また、全方位画像撮像モードが設定されている場合(アダプタ200の装着時)には、撮像部110は、撮像時における撮像位置を基準とする全方位の被写体を撮像して環状の平面画像(全方位画像)を生成する。この全方位画像には、撮像部110の光軸方向の被写体と、表示部150の表示面に対向する被写体とが含まれる(例えば、図9、図10に示す)。なお、撮像部110の光軸方向は、表示部150における表示面の垂直方向と略一致する。そして、撮像部110は、このように生成された画像を画像処理部171に出力する。
【0071】
アダプタ装着検出部131は、撮像装置100の上端部101にアダプタ200が装着されているか否かを検出するものであり、その検出結果(アダプタ装着情報)を制御部173に出力する。
【0072】
画像処理部171は、制御部173の制御に基づいて撮像部110から出力された画像について各種画像処理を行うものであり、撮像部110から出力された画像と、画像処理が施された画像とを記録制御部174および表示制御部175に出力する。また、画像処理部171は、撮像モード設定部172により設定された撮像モードに応じた画像処理を行う。例えば、画像処理部171は、全方位のうち、特定方向を基準として、撮像部110により生成された全方位画像における略扇形状の対象領域を特定し、この対象領域の画像を略矩形状の画像(変換画像)に変換する。ここで、特定方向は、撮像時の撮像位置における撮像装置100の姿勢に基づいて特定される方向であり、例えば、撮像部110の光軸方向、表示部150における表示面の垂直方向である。また、画像処理部171は、撮像部110により生成された全方位画像における特定方向が切断されないように対象領域を特定する。例えば、画像処理部171は、撮像部110の光軸方向の被写体と、表示部150における表示面に対向する被写体とのそれぞれが、変換画像における中央位置となるように、全周囲画像の円周方向を4分割する。そして、画像処理部171は、その分割された4つの領域を対象領域として特定し、この4つの対象領域の画像をそれぞれ変換して変換画像とする(例えば、図13に示す)。なお、画像処理部171は、DSP170の信号処理部に対応する。
【0073】
撮像モード設定部172は、制御部173の制御に基づいて、撮像部110における撮像モードを設定するものである。具体的には、撮像モード設定部172は、平面画像撮像モードと、全方位画像撮像モードとの何れかを撮像モードとして設定する。また、アダプタ200が撮像部110に装着されていない場合には、操作受付部140により受け付けられるユーザ操作(設定操作)に基づいて撮像モードが設定される。一方、アダプタ200が撮像部110に装着された場合には、全方位画像撮像モードが設定される。すなわち、アダプタ200の装着が検出された際に、平面画像撮像モードが設定されている場合には、その設定されている撮像モードを解除して、全方位画像撮像モードが設定される。また、アダプタ200の装着が検出されている状態で、平面画像撮像モードに設定するための設定操作がユーザ操作として行われた場合には、その設定操作が無効とされる。
【0074】
ここで、撮像装置100においては、予め搭載されている撮像光学系111の特性に応じて、ズーム、フォーカス、露出等を制御するための撮像パラメータの設定が最適化されている。また、撮像装置100における表示処理の設定や操作制御の設定についても、撮像光学系111の特性に応じて設計されている。このため、アダプタ200が撮像装置100に装着された場合には、アダプタ200に搭載されている全方位撮像光学系210の特性に応じて、撮像パラメータの設定の変更、表示処理や操作制御の設定の切り替えを行う必要がある。そこで、本発明の第1の実施の形態では、撮像装置100にアダプタ2000が装着された場合には、全方位撮像光学系210の特性に応じて、撮像装置100の各種の設定を自動で制御する。すなわち、撮像モードの設定処理では、例えば、撮像部110による撮像処理の設定(例えば、撮像処理に関する撮像パラメータの設定)、表示部150による表示処理の設定、操作受付部140を用いたユーザ操作の制御の設定等が自動で行われるものとする。
【0075】
制御部173は、撮像装置100全体の制御を行うものである。例えば、制御部173は、操作受付部140により受け付けられたユーザからの操作入力に応じた制御を行う。なお、制御部173は、DSP170の制御部に対応する。
【0076】
記録制御部174は、制御部173の制御に基づいて、画像処理部171から出力された画像の圧縮記録処理を行うものである。例えば、記録制御部174は、撮像モードが設定されている場合において、録画ボタン145(図1等に示す)が押下された場合には、撮像画像(フレーム)を所定の圧縮符号化方式で圧縮する。そして、その圧縮された画像信号を、動画コンテンツとして記録媒体185に記録させる。また、記録制御部174は、撮像モードが設定されている場合においてシャッターボタン142(図2等に示す)が押下された場合には、撮像画像(静止画)を所定の圧縮符号化方式で圧縮し、静止画コンテンツとして記録媒体185に記録させる。
【0077】
表示制御部175は、制御部173の制御に基づいて、画像処理部171から出力された画像または記録媒体185に記憶されている画像を表示部150に表示させるものである。例えば、表示制御部175は、撮像モードが設定されている場合には、画像処理部171から出力された画像をスルー画像として表示部150に表示させる。また、例えば、表示制御部175は、全方位画像撮像モードが設定されている場合には、画像処理部171から出力された変換画像および全方位画像を同時にスルー画像(例えば、図14に示す)として表示部150に表示させる。この場合に、表示制御部175は、変換画像の切替操作が受け付けられた場合には、その切替操作に応じて表示部150に表示されている変換画像を他の変換画像に切り替える。また、表示制御部175は、再生モードが設定されている場合には、操作受付部140からの再生指示操作に係るコンテンツを記録媒体185から取得して圧縮画像データを伸張して表示部150に表示させる。なお、記録制御部174および表示制御部175は、DSP170の記録再生部に対応する。
【0078】
[撮像範囲および撮像画像の関係例]
図8は、本発明の第1の実施の形態における撮像装置100による撮像対象となる撮像範囲と、撮像装置100により生成される撮像画像との関係を簡略化して示す図である。
【0079】
図8(a)には、アダプタ200が装着されている撮像装置100を用いて全方位撮像動作を行っている場合における撮像範囲400を模式的に示す。また、図8(b)には、図8(b)に示す状態で全方位撮像動作を行っている場合に撮像装置100により生成される全方位画像402(環状画像)を模式的に示す。なお、撮像範囲400および全方位画像402には、これらの対応関係を示すため、☆、○、△等を配置する。
【0080】
図8に示すように、アダプタ200が装着されている撮像装置100を用いて全方位撮像動作を行っている場合には、撮像範囲400に対応する環状の全方位画像402が生成される。この場合には、入出力パネル151には、図8(b)に示す全方位画像402が表示される(例えば、図14に示す)。
【0081】
[撮像画像の撮像動作例]
図9および図10は、本発明の第1の実施の形態における撮像装置100を用いて行われる撮像動作と、この撮像動作により生成される撮像画像との関係を示す図である。
【0082】
図9(a)には、撮像装置100を用いて全方位画像(環状画像)を生成する場合において撮像対象となる場所410を上から見た場合における上面図を示す。図9(b)には、図9(a)に示す状態で行われる撮像動作を側面から見た場合を示す。場所410は、家、木等を含む場所(図9(b)では、家および木を省略する。)であり、図9では、説明の容易のため、これらを簡略化して示す。また、図9では、撮像装置100にアダプタ200が装着されている場合における撮像動作例を示す。また、図9では、アダプタ200が装着されている撮像装置100を手で持つ人物(撮影者)411の正面に人物415が位置するように、ユーザが撮像装置100を操作して全方位画像(環状画像)の撮像動作(全方位撮像動作)を行う例を示す。
【0083】
図10(a)には、図9に示す全方位撮像動作により生成された全方位画像420を示す。すなわち、全方位画像420は、人物415が上側に配置され、人物411が下側に配置された環状画像である。
【0084】
図10(b)には、図10(a)に示す全方位画像420が径方向の点線425により切断されて展開された横長画像421を示す。すなわち、横長画像421は、人物411および人物415が全方位画像420に対応する位置に配置されたパノラマ画像である。
【0085】
なお、図9に示す状態で、アダプタ200が撮像装置100から取り外された場合には、平面画像が生成される。この平面画像として、例えば、人物415が中央に配置された縦長画像が生成される。
【0086】
ここで、図9に示す状態で、人物411が撮像動作を行っている場合には、図10(a)に示す全方位画像420が入出力パネル151に表示される。この全方位画像420とともに、例えば、横長画像421を入出力パネル151に表示する場合を想定する。この場合には、横長画像421が水平方向に長いため、横長画像421を縮小させて表示することが考えられる。しかしながら、横長画像421を縮小させて表示する場合には、横長画像421に含まれる被写体が小さくなり、その詳細な部分を見ることが困難であることも想定される。そこで、横長画像421が分割された画像(すなわち、全方位画像420が分割されて変換された画像)を表示することが考えられる。例えば、全方位画像420を4分割(水平方向の線および垂直方向の線による4分割)するように切断(すなわち、人物411、415、家、木の位置で切断)して、これらの各画像を表示することが考えられる。しかしながら、このように切断すると、撮影者である人物411および主要被写体である人物415等が切断されて表示されるため、その表示画像を人物411が見難いことも想定される。そこで、本発明の第1の実施の形態では、全方位のうち撮像位置における撮像装置100の姿勢に基づいて特定される特定方向を基準として全方位画像420における略扇形状の対象領域を特定し、この対象領域の画像を略矩形状の画像に変換して表示する例を示す。この場合には、全方位画像420における特定方向が切断されないように、全方位画像420における略扇形状の対象領域が特定される。
【0087】
すなわち、ドーナッツ型に歪んだ全方位画像を変換する場合には、歪みを補正する必要がある。この場合に、全方位画像における90度分の領域(変換画像の対象領域)を特定して、対象領域の画像について変換を行うことができる。ここで、例えば、撮像装置100の背面側には入出力パネル151があるため、撮像装置100の背面側に撮影者が位置する確率が高い。また、撮像装置100において、撮像方向(光軸方向)に対して直線的に入出力パネル151が配置されている。このため、撮影者が入出力パネル151を直視することができる位置で撮像装置100を持って撮像動作を行っている場合には、撮影者と、その正面に位置する被写体(主要被写体)の位置が分断されないように変換画像を生成することが重要である。例えば、撮像装置100の正面(光軸方向)を中心として、全方位画像における90度の領域を特定して、90度毎の領域(4つの領域)を特定することができる。これにより、撮影者自身や、通常の撮像動作時における正面の被写体が、表示画像における中心位置に配置されるようにすることができる。
【0088】
また、撮像装置100を用いて撮像動作を行う場合には、複数種類の撮像画像を記録することができる。例えば、人物411が、人物415を主要被写体とする複数種類の撮像画像を記録する撮像動作を行う場合を想定する。例えば、平面画像を記録するための撮像動作を行った後に、図10(a)に示す全方位画像420を記録するための撮像動作を行うことも想定される。この場合には、人物411は、最初に、アダプタ200を装着せずに撮像装置100を縦長状態とし、平面画像撮像モードを設定して撮像動作(例えば、動画撮像動作)を行う。続いて、人物411は、アダプタ200を装着して撮像装置100の縦長状態を維持し、全方位画像撮像モードを設定して撮像動作(例えば、動画撮像動作)を行う。
【0089】
しかしながら、人物411が平面画像の撮像動作を終了した後に、アダプタ200の装着のみを行い、全方位画像撮像モードの設定操作を忘れた状態で撮像動作を開始することも想定される。また、アダプタ200を装着して全方位撮像動作を行った後に、アダプタ200の取り外しを忘れた状態で、他の撮像モード(例えば、平面画像撮像モード)を設定して撮像動作を開始することも想定される。このような場合には、適切な撮像画像を記録することができないおそれがある。そこで、本発明の第1の実施の形態では、アダプタ200の装着時には、適切な撮像モードを自動的に設定する。
【0090】
[全周囲画像からパノラマ画像への変換例]
図11は、本発明の第1の実施の形態における画像処理部171による変換処理の対象となる全方位画像(環状画像)と、その変換後のパノラマ画像との関係を示す図である。図11(a)には、撮像部110により生成された全方位画像450を示し、図11(b)には、全方位画像450が変換されて生成されるパノラマ画像460を示す。
【0091】
図11では、撮像部110により生成された全方位画像450を含む矩形451の左上隅を原点(0,0)とし、横軸をx軸とし、縦軸をy軸とするxy座標上において、全方位画像450を変換する場合を例にして説明する。図11では、パノラマ画像460のx軸方向は、全方位画像450の周方向に対応し、パノラマ画像460のy軸方向は、全方位画像450の径方向に対応するものとして変換処理を行う例について説明する。
【0092】
図11(a)に示す全方位画像450に対応する円の中心座標OP1を(x0,y0)とし、全方位画像450に対応する円の半径をrとする。また、全方位画像450に対応する円の内径(半径ro1)と、基線AB1との交点を座標OP2とし、全方位画像450に対応する円の外径(半径r)と、基線AB1との交点を座標OP3とする。なお、基線AB1は、全方位画像からパノラマ画像への変換処理を行う場合に基準となる線であり、全方位画像に対応する円の径方向の線とする。また、図11(b)に示すパノラマ画像460のx軸方向の長さ(画素数)をW1とし、y軸方向の長さ(画素数)をH1とする。
【0093】
ここで、図11(a)に示す全方位画像450における座標APm(xm,ym)は、次の式1により求めることができる。
【数1】

【0094】
ここで、rmは、中心座標OP1から座標APm(xm,ym)までの距離を示す値である。また、θは中心座標OP1および座標APm(xm,ym)を結ぶ線分と、基線AB1が成す角度を示す値である。
【0095】
ここで、全方位画像450における座標OP2をパノラマ画像460の基準位置(0,0)に対応させる場合、パノラマ画像460におけるx軸方向の変化(0〜W1)は、全方位画像450における周方向の変化(0〜2πr)に対応する。また、パノラマ画像460におけるy軸方向の変化(0〜H1)は、全方位画像450における径方向の変化(ro1〜r)に対応する。また、x軸上の位置が0からW1までリニアに変化させる場合に、周方向の位置が0から2πrまでリニアに変化する特性を有するものとする。また、y軸上の位置を0からH1までリニアに変化させる場合に、径方向の位置がr01からrまでリニアに変化する特性を有するものとする。
【0096】
この場合には、図11(b)に示すパノラマ画像460における座標BP(xj,yj)は、次の式2および式3により、全方位画像450における座標AP(rj,θj)となる。
rj=(r−r01)×(yj/H1) … 式2
θj=2πr×(xj/W1) … 式3
【0097】
このように、変換後のパノラマ画像460における座標BPm(xj,yj)に対応する全方位画像450における座標AP(rj,θj)を算出することができる。このため、パノラマ画像460における各座標に対応する全方位画像450における座標を求め、この座標の画素データを読み出すことにより、全方位画像450をパノラマ画像460に変換することができる。ここで、求められた座標が画素と画素との間となる場合には、求められた座標の周囲に位置する画素データを用いて補間処理等を行うことにより、求められた座標に対応する画素データを生成する。また、この生成された画像データについて適宜歪み補正等の補正処理が行われる。
【0098】
なお、図11では、環状画像をパノラマ画像に変換する変換例を示したが、全方位画像として円状画像をパノラマ画像に変換する場合についても略同様に行うことができる。このように、円状画像をパノラマ画像に変換する場合には、例えば、パノラマ画像460におけるy軸方向の変化(0〜H1)を、全方位画像450における径方向の変化(0〜r)に対応するものとして変換処理を行う。また、他の変換方法により全方位画像をパノラマ画像に変換するようにしてもよい。
【0099】
[全方位画像の変換例]
図12は、本発明の第1の実施の形態における画像処理部171による変換処理の対象となるパノラマ画像と、これに対応する変換画像との関係を示す図である。
【0100】
図13は、本発明の第1の実施の形態における画像処理部171による変換処理の対象となる全方位画像と、その変換後の画像(変換画像)との関係を示す図である。
【0101】
図12(a)には、画像処理部171による変換処理により生成されたパノラマ画像470を示し、図12(b)には、パノラマ画像470に対応する変換画像475乃至478を示す。
【0102】
図13(a)には、撮像部110により生成された全方位画像480を示す。この全方位画像450は、図10(a)と同様である。また、図13(b)には、全方位画像480が分割されて生成される変換画像475乃至478を示す。
【0103】
上述した変換処理により全方位画像480からパノラマ画像470が生成される。ここで、パノラマ画像470は、通常の画像よりも特定方向(例えば、水平方向)に長い画像であるため、パノラマ画像470の全体を表示する場合には、他の画像よりも縮小した画像を表示することになる。このため、パノラマ画像470における各部を詳細に見ることができない。
【0104】
そこで、図12(a)に示す分割線471乃至473を境界として、パノラマ画像470を分割して、この分割後の変換画像475乃至478を表示画像として用いることができる。この場合には、画像処理部171は、上述した変換処理により全方位画像480からパノラマ画像470を生成し、このパノラマ画像470を分割することにより変換画像475乃至478を生成することができる。また、図13に示すように、全方位画像480から変換画像475乃至478を直接生成するようにしてもよい。
【0105】
ここで、図13(a)に示す点線481および482は、図12(a)に示す分割線471乃至473に対応する線である。上述したように、撮影者である人物411および主要被写体である415等が切断されると、表示画像を人物411が見難いことが想定されるため、本発明の第1の実施の形態では、人物411および415等が切断されないようにする。すなわち、水平方向の線および垂直方向の線を45度回転させた線(点線481および482)を境界とする。なお、本発明の第1の実施の形態では、人物411および415等が切断されないように全方位画像を4分割する例を示すが、4分割以外に分割するようにしてもよい。例えば、水平方向の線により2分割を行うようにしてもよい。この場合には、全方位画像480における家や木が切断されるが、主要被写体である人物411および415は切断されないため、人物411が受ける影響は少ないと想定される。
【0106】
このように、画像処理部171は、全方位画像の円周方向を複数に分割し、この分割された複数の領域を対象領域として特定して変換画像を複数生成する。また、画像処理部171は、全方位画像の円周方向における特定方向に対応する位置が、変換画像(略矩形状の画像)における特定位置(例えば、水平方向における中心位置)となるように変換画像を生成する。
【0107】
[全方位画像および変換画像の表示例]
図14は、本発明の第1の実施の形態における入出力パネル151に表示される全方位画像および変換画像の表示例を示す図である。図14では、図12および図13に示す全方位画像480および変換画像475を表示する例を示す。
【0108】
例えば、撮像装置100を用いた全方位画像の撮像動作時において、表示制御部175が、全方位画像480および変換画像475をスルー画像として入出力パネル151に表示させる。この場合に、全方位画像480上には、変換画像475に対応する位置を表すV字アイコン485が重ねて表示される。V字アイコン485は、図15に示すように、切替操作により変換画像が切り替えられた場合には、この切替に応じて変更される。
【0109】
[変換画像の切替例]
図15は、本発明の第1の実施の形態における入出力パネル151に表示される変換画像を切り替える際における切替例を示す図である。図15では、図14に示すように、全方位画像480および変換画像475がスルー画像として表示されている場合に、ユーザ操作に基づいて変換画像475乃至478の何れかに表示を切り替える例を示す。
【0110】
例えば、3つの操作ボタンにより構成される操作ボタン群143のうち、1つの操作ボタン(右端の操作ボタン)を用いることにより、変換画像475乃至478の表示状態を順次変更(矢印491乃至494に示す)することができる。また、操作ボタン群143のうち、他の操作ボタン(左端の操作ボタン)を用いることにより、変換画像475乃至478の表示状態を順次変更(矢印495乃至498に示す)することができる。なお、図14に示す操作ボタン群143の上側に付されている操作アイコンと、図15に示す矢印491乃至498付近に付されている操作アイコンとは対応するものとする。また、全方位画像480上には、V字アイコン(図14に示すV字アイコン485)が表示され得る位置を点線481、482で示す。
【0111】
このように、撮像動作時において、全方位画像とともに、この全方位画像の変換処理により生成されるパノラマ画像の一部の画像(変換画像)をユーザが見ることができる。これにより、撮像動作中において、全方位画像におけるユーザが所望する領域の細部をユーザが容易に確認することができる。すなわち、本発明の第1の実施の形態によれば、全方位撮像光学系210を用いて生成された全方位画像を把握し易くすることができる。
【0112】
なお、図14および図15では、全方位画像および変換画像を同時に表示する例を示したが、例えば、ユーザ操作に基づいて変換画像のみを表示させるようにしてもよい。また、このように全方位画像の撮像動作が行われている場合において記録指示操作が行われた場合には、全方位画像のみが記録される。ただし、全方位画像とともに表示対象となった変換画像を関連付けて記録するようにしてもよい(例えば、同一ファイルまたは異なるファイルに記録)。この場合には、例えば、全方位画像および変換画像を同期して表示することができるように、各ファイルの付随情報として時間情報、同期情報(全方位画像および変換画像を同期して表示させるための情報)等を含めておくようにする。
【0113】
[全方位画像および変換画像の表示例]
以上では、撮像動作中において、全方位画像および変換画像を同時に表示する例を示した。この全方位画像の撮像動作により記録された全方位画像コンテンツについては、その再生時においても同様に、全方位画像および変換画像を同時または順次表示することができる。なお、全方位画像および変換画像を同時に順次表示する例については、図14および図15と略同様であるため、ここでの説明を省略する。図16では、変換画像を順次表示する表示例を示す。
【0114】
図16は、本発明の第1の実施の形態における入出力パネル151に表示される全方位画像および変換画像の表示例を示す図である。図16では、撮像装置100を横長状態(例えば、図1の矢印102および103方向に90度回転させた状態)とした場合における入出力パネル151の表示例を示す。また、図16では、図12および図13に示す変換画像477および変換画像478を表示する例を示す。例えば、最初に、図12等に示す変換画像475が横長状態で入出力パネル151に表示される。この表示後に、上述したように切替操作を行うことにより、変換画像476乃至変換画像478に順位切り替えることができる。この切替操作により、変換画像477および変換画像478を表示させることができる。この場合に、表示画面の左上には、V字アイコン500が表示される。V字アイコン500は、図14に示すV字アイコン485と同様に、表示されている変換画像に対応する位置を表すアイコンである。これにより、表示されている変換画像が、全方位画像におけるどの位置に対応するものであるかをユーザが容易に把握することができる。すなわち、全方位撮像光学系210を用いて生成された全方位画像を把握し易くすることができる。
【0115】
[撮像装置の動作例]
次に、本発明の第1の実施の形態における撮像装置100の動作について図面を参照して説明する。
【0116】
図17は、本発明の第1の実施の形態における撮像装置100による全方位画像の撮像動作制御処理の処理手順の一例を示すフローチャートである。この例では、撮像装置100にアダプタ200が装着され、撮像モード設定部172により全方位画像撮像モードが設定されている場合を例にして示す。また、この例では、動画撮像動作を行う例を示す。
【0117】
最初に、撮像動作の開始操作が行われたか否かが判断され(ステップS901)、撮像動作の開始操作が行われていない場合には、監視を継続して行う。撮像動作の開始操作が行われた場合には(ステップS901)、撮像部110が撮像処理を行い、全方位画像(環状画像)を生成する(ステップS902)。なお、ステップS902は、特許請求の範囲に記載の取得手順の一例である。
【0118】
続いて、画像処理部171が、生成された全方位画像における略扇形状の対象領域を特定し、この対象領域の画像を略矩形状の画像(変換画像)に変換する(ステップS903)。この場合には、全方位画像における全ての領域を対象領域(例えば、4つの領域)として、変換画像を生成するようにしてもよく、全方位画像における表示対象となる領域のみを対象領域(例えば、1つの領域)として変換画像を生成するようにしてもよい。なお、ステップS903は、特許請求の範囲に記載の画像処理手順の一例である。
【0119】
続いて、表示制御部175が、変換画像および全方位画像を同時に表示部150に表示させる(ステップS904)。なお、ステップS904は、特許請求の範囲に記載の表示制御手順の一例である。続いて、記録制御部174が、全方位画像を動画ファイルとして記録媒体185に記録させる(ステップS905)。
【0120】
続いて、表示部150に表示されている変換画像の表示切替操作が行われたか否かが判断され(ステップS906)、その表示切替操作が行われていない場合には、ステップS908に進む。一方、その表示切替操作が行われた場合には(ステップS906)、表示制御部175は、表示対象となる変換画像を変更して表示部150に表示させる(ステップS907)。この場合に、表示対象となる変換画像が生成されていない場合には、画像処理部171により順次生成される。
【0121】
続いて、撮像動作の終了操作が行われたか否かが判断され(ステップS908)、撮像動作の終了操作が行われていない場合には、ステップS902に戻る。一方、撮像動作の終了操作が行われた場合には(ステップS908)、全方位画像の撮像動作制御処理の動作を終了する。
【0122】
<2.第2の実施の形態>
本発明の第1の実施の形態では、全方位画像の撮像動作中に、全方位画像およびその変換画像をスルー画像として表示する例を示した。また、その撮像動作により記録された全方位画像およびその変換画像を撮像装置により再生する例を示した。ここで、その撮像動作により記録された全方位画像ファイル(全方位画像コンテンツ)については、他の装置(画像処理装置)を用いて再生が行われることも想定される。この場合についても、全方位画像およびその変換画像を表示させることが可能である。そこで、本発明の第2の実施の形態では、画像処理装置により全方位画像およびその変換画像を表示させる例を示す。
【0123】
[画像処理装置の構成例]
図18は、本発明の第2の実施の形態における画像処理装置800の機能構成例を示すブロック図である。画像処理装置800は、例えば、各放送局からの放送波を受信して各種画像を表示するテレビジョン受像機(例えば、録画機能を備えるテレビジョン受像機)により実現される。
【0124】
画像処理装置800は、制御部810と、操作受付部820と、コンテンツ記憶部830と、取得部840と、画像処理部850と、表示制御部860と、表示部870とを備える。本発明の第2の実施の形態では、本発明の第1の実施の形態における撮像装置100により記録された全方位画像コンテンツ(画像データ(映像データ)および音声データ)を用いて、全方位画像およびその変換画像を表示する例について説明する。なお、図18では、説明の容易のため、各種の音声情報を出力するスピーカ等については、その図示および説明を省略する。
【0125】
制御部810は、操作受付部820により受け付けられた操作入力に基づいて、画像処理装置800の各部を制御するものである。例えば、制御部810は、全方位画像を表示するための表示指示操作が受け付けられた場合には、その表示指示操作に係る全方位画像を表示部870に表示させるための制御を行う。また、制御部810は、全方位画像およびその変換画像を表示するための表示指示操作が受け付けられた場合には、その表示指示操作に係る全方位画像およびその変換画像を表示部870に表示させるための制御を行う。また、制御部810は、表示部870に表示されている変換画像を切り替える切替操作が受け付けられた場合には、その切替操作に応じて変換画像を切り替えるための制御を行う。
【0126】
操作受付部820は、ユーザによる操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作信号を制御部810に供給する。
【0127】
コンテンツ記憶部830は、各種コンテンツを記憶する記憶部であり、記憶されているコンテンツを取得部840に供給する。例えば、コンテンツ記憶部830は、全方位画像を表示するためのコンテンツ(全方位画像コンテンツ)を記憶する。この全方位画像コンテンツは、例えば、撮像装置100により記録され、記録媒体(メモリカード180等)またはネットワークを介してコンテンツ記憶部830に記録される。
【0128】
取得部840は、制御部810の制御に基づいて、コンテンツ記憶部830に記憶されている各種情報を取得するものであり、取得された情報を各部に供給する。例えば、取得部840は、コンテンツ記憶部830から全方位画像コンテンツを取得した場合には、その全方位画像コンテンツを画像処理部850に供給する。
【0129】
画像処理部850は、制御部810の制御に基づいて、取得部840から供給された全方位画像コンテンツを用いて変換画像(表示対象画像)を生成するものであり、生成された変換画像と全方位画像とを表示制御部860に出力する。すなわち、画像処理部850は、全方位のうち、撮像位置における撮像装置100の姿勢に基づいて特定される特定方向を基準として全方位画像における略扇形状の対象領域を特定し、この対象領域の画像を略矩形状の画像に変換して表示対象画像とする。なお、画像の変換方法については、本発明の第1の実施の形態と同様であるため、ここでの詳細な説明を省略する。
【0130】
表示制御部860は、操作受付部820により受け付けられた操作入力に応じて、コンテンツ記憶部830に記憶されているコンテンツを表示するための表示処理を行うものである。例えば、表示制御部860は、全方位画像を表示するための表示指示操作が受け付けられた場合には、その表示指示操作に係る全方位画像を表示部870に表示させる。また、表示制御部860は、全方位画像およびその変換画像を表示するための表示指示操作が受け付けられた場合には、その表示指示操作に係る全方位画像およびその変換画像を同時に表示部870に表示させる。また、表示制御部860は、表示部870に表示されている変換画像を切り替える切替操作が受け付けられた場合には、その切替操作に応じて変換画像を切り替える。
【0131】
表示部870は、表示制御部860の制御に基づいて、各種画像を表示する表示部である。表示部870は、例えば、LCD(Liquid Crystal Display)等の表示素子により実現することができる。また、例えば、表示部870として、表示画面が比較的広いものを用いることができる。
【0132】
[全方位画像および変換画像の表示例]
図19は、本発明の第2の実施の形態における表示部870に表示される全方位画像および変換画像の表示例を示す図である。
【0133】
図19(a)には、全方位画像881とともに2つの変換画像882、883を表示部870に表示する例を示す。また、表示されている変換画像882、883に対応する全方位画像881における位置を表すT字型アイコン884が全方位画像881上に配置して表示される。
【0134】
図19(b)には、全方位画像891とともに4つの変換画像892乃至895を表示部870に表示する例を示す。また、表示されている変換画像892乃至895に対応する全方位画像891における位置を表す×型アイコン896が全方位画像891上に配置して表示される。
【0135】
なお、図19に示す全方位画像881、891は、図13(a)等に示す全方位画像480と同一であり、図19に示す変換画像882、883、892乃至895は、図13(b)等に示す変換画像475乃至478と同一である。
【0136】
なお、図19に示す表示例は一例であり、他の表示態様により全方位画像および変換画像を表示させるようにしてもよい。また、ユーザ操作に基づいて、全方位画像および変換画像の配置を適宜変更するようにしてもよい。
【0137】
このように、表示画面が比較的広い表示部870を備える画像処理装置800を用いて全方位画像コンテンツを再生する場合には、全方位画像とともに、比較的多くの変換画像を表示させてもユーザに見易くさせることができる。このため、ユーザの好みに応じて、全方位画像とともに各種の表示態様により変換画像を表示させることができる。これにより、全方位撮像光学系を用いて生成された全方位画像を把握し易くすることができる。
【0138】
なお、各種画像を表示することが可能な携帯電話機、ナビゲーションシステム、携帯型メディアプレイヤー等の撮像装置(例えば、撮像機能付電子機器)に本発明の実施の形態を適用することができる。また、外部表示装置に画像データを出力してその表示装置に各種画像を表示させるDVD再生装置等の画像処理装置に本発明の実施の形態を適用することができる。
【0139】
また、本発明の実施の形態では、全方位画像として環状画像を生成して表示する例にして説明したが、全方位画像として円状画像を生成して表示する場合についても本発明の実施の形態を適用することができる。
【0140】
なお、本発明の実施の形態は本発明を具現化するための一例を示したものであり、本発明の実施の形態において明示したように、本発明の実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本発明の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本発明は実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
【0141】
また、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
【符号の説明】
【0142】
100 撮像装置
101 上端部
110 撮像部
111 撮像光学系
112 撮像素子
113 TG
114、115 光学部品駆動部
130 ホールセンサ
131 アダプタ装着検出部
140 操作受付部
141 電源スイッチ
142 シャッターボタン
143 操作ボタン群
144 上下左右ボタン
145 録画ボタン
150 表示部
151 入出力パネル
161 フラッシュROM
162 DRAM
171 画像処理部
172 撮像モード設定部
173 制御部
174 記録制御部
175 表示制御部
180 メモリカード
185 記録媒体
200 アダプタ
201 磁石
210 全方位撮像光学系
220 カバー
230 取付部
240 ミラー
800 画像処理装置
810 制御部
820 操作受付部
830 コンテンツ記憶部
840 取得部
850 画像処理部
860 表示制御部
870 表示部

【特許請求の範囲】
【請求項1】
撮像時における撮像位置を基準とする全方位の被写体を撮像して前記全方位の被写体を含む円状画像を生成する撮像部と、
前記全方位のうち前記撮像位置における撮像装置の姿勢に基づいて特定される特定方向を基準として前記生成された円状画像における略扇形状の対象領域を特定して当該対象領域の画像を略矩形状の画像に変換する画像処理部と、
前記変換された画像である変換画像と前記生成された円状画像とを同時に表示部に表示させる表示制御部と
を具備する撮像装置。
【請求項2】
前記画像処理部は、前記生成された円状画像における前記特定方向が切断されないように前記対象領域を特定する請求項1記載の撮像装置。
【請求項3】
前記撮像部は、その光軸方向の被写体を含む前記全方位の被写体を撮像するための全方位撮像光学系を備えるアダプタが装着された状態で前記円状画像を生成し、
前記画像処理部は、前記撮像位置を基準とする場合に前記光軸方向を前記特定方向とする
請求項2記載の撮像装置。
【請求項4】
前記撮像装置は、前記表示部を備え、
前記光軸方向は、前記表示部における表示面の垂直方向と略一致し、
前記撮像部は、前記アダプタが装着された状態で前記光軸方向の被写体と前記表示面に対向する被写体とを含む前記円状画像を生成する
請求項3記載の撮像装置。
【請求項5】
前記画像処理部は、前記光軸方向の被写体と前記表示面に対向する被写体とのそれぞれが前記変換画像における中央位置となるように、前記生成された円状画像の円周方向を4分割して当該分割された4つの領域を前記対象領域として特定する請求項4記載の撮像装置。
【請求項6】
前記表示制御部は、前記変換画像と前記生成された円状画像とを当該円状画像の撮像動作時に前記表示部に表示させる請求項1記載の撮像装置。
【請求項7】
前記表示部における表示状態を切り替える切替操作を受け付ける操作受付部をさらに具備し、
前記画像処理部は、前記生成された円状画像の円周方向を複数に分割して当該分割された複数の領域を前記対象領域として特定して前記変換画像を複数生成し、
前記表示制御部は、前記切替操作が受け付けられた場合には当該切替操作に応じて前記表示部に表示されている変換画像を他の変換画像に切り替える
請求項1記載の撮像装置。
【請求項8】
前記画像処理部は、前記生成された円状画像の円周方向における前記特定方向に対応する位置が前記略矩形状の画像における前記特定位置となるように前記略扇形状の対象領域を特定する請求項1記載の撮像装置。
【請求項9】
前記撮像部は、前記全方位の被写体を含む画像が環状に配置されている画像を前記円状画像として生成する請求項1記載の撮像装置。
【請求項10】
撮像装置の撮像時における撮像位置を基準とする全方位の被写体を撮像して生成された前記全方位の被写体を含む円状画像を取得する取得部と、
前記全方位のうち前記撮像位置における前記撮像装置の姿勢に基づいて特定される特定方向を基準として前記取得された円状画像における略扇形状の対象領域を特定して当該対象領域の画像を略矩形状の画像に変換して表示対象画像とする画像処理部と
を具備する画像処理装置。
【請求項11】
撮像装置の撮像時における撮像位置を基準とする全方位の被写体を撮像して生成された前記全方位の被写体を含む円状画像を取得する取得手順と、
前記全方位のうち前記撮像位置における前記撮像装置の姿勢に基づいて特定される特定方向を基準として前記取得された円状画像における略扇形状の対象領域を特定して当該対象領域の画像を略矩形状の画像に変換する画像処理手順と、
前記変換された画像と前記取得された円状画像とを同時に表示部に表示させる表示制御手順と
を具備する画像処理方法。
【請求項12】
撮像装置の撮像時における撮像位置を基準とする全方位の被写体を撮像して生成された前記全方位の被写体を含む円状画像を取得する取得手順と、
前記全方位のうち前記撮像位置における前記撮像装置の姿勢に基づいて特定される特定方向を基準として前記取得された円状画像における略扇形状の対象領域を特定して当該対象領域の画像を略矩形状の画像に変換する画像処理手順と、
前記変換された画像と前記取得された円状画像とを同時に表示部に表示させる表示制御手順と
をコンピュータに実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate


【公開番号】特開2012−134834(P2012−134834A)
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願番号】特願2010−286200(P2010−286200)
【出願日】平成22年12月22日(2010.12.22)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】