説明

画像撮影装置及び画像撮影方法

【課題】 パノラマ画像を生成する際に必要となる複数の画像を、大がかりなシステムを用いずに簡単且つ気軽に撮影可能にする。
【解決手段】
カメラ部1は撮影レンズと撮像素子を備えている。移動量算出部8は、ジャイロ部2やGPS部3の出力から当該装置の移動量を算出する。撮影決定部5は、移動量検出部8により検出された移動量に基づいて、例えばパノラマ画像を生成するのに必要な適度な重なりを持つ画像を撮影するためのタイミングを決定する。画像撮影制御部4は、撮影決定部5が決定した撮影タイミングにより、カメラ部1を制御して自動撮影を行う。画像保存部6は、カメラ部1が自動撮影した複数の画像を格納する。画像合成部7は、画像保存部6に保存されている画像の重なり部分を合成して各画像を繋げることによりパノラマ画像を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えばディジタルカメラや携帯電話端末などの携帯機器に搭載されたカメラを用い、いわゆるパノラマ画像を生成するための複数の画像を撮影したり、広範な撮影領域をカバーするための複数の画像を撮影するために好適な画像撮影装置及び画像撮影方法に関する。
【背景技術】
【0002】
従来より、いわゆるパノラマ画像は、或る一定間隔の各位置毎若しくは一定角度毎に画像を撮影し、それら撮影により得られた複数の画像の重なる部分をだぶらせながら合成することにより作成されている。このため、パノラマ画像に使用される複数の各画像を撮影する場合には、或る撮影範囲の画像を撮影した後、その隣の撮影範囲の画像を撮影する際に、既に撮影済みの画像とその次の撮影範囲との重なり具合を確認しながら撮影を行う必要がある。
【0003】
また、特開2000−156818号の公開特許公報(特許文献1)には、パノラマ画像に使用される複数の画像を撮影するための技術が開示されている。すなわちこの公報記載の技術によれば、ビデオカメラを自動車に搭載し、自動車を移動させながらビデオカメラにより動画像を撮影し、その動画像の各コマ(フレーム)の中から、パノラマ画像に使用する複数の画像のコマを抜き出し、それら抜き出した各コマ画像を繋げることでパノラマ画像を生成している。
【0004】
【特許文献1】特開2000−156818号公報(第3図)
【発明の開示】
【発明が解決しようとする課題】
【0005】
ここで、例えばディジタルカメラを使用し、視野角に換算して例えば180度以上の広い領域を網羅するようなパノラマ画像を効率良く生成するためには、当該ディジタルカメラに備えられている液晶画面やファインダーにより画像を確認しながら、それぞれ隣接する撮影範囲について横方向に各々適度な重なりを持つようにして画像の撮影を行う必要がある。
【0006】
しかしながら、上述のように各々適度な重なりを持つ複数の画像を撮影するのは実際には非常に難しい作業となる。例えば、上記複数の画像を撮影するためには、撮影範囲内で目標となる物体等を決め、その目標物を液晶画面内のどの位置にもってくれば上記横方向に適度な重なりを持つ画像を撮影できるかを判断した上で、その目標物を基準にして撮影を行うことになるが、例えば撮影範囲内に目標にできる物体等がないような場合には、上述のような重なりを持つ画像の撮影自体が困難となる。また、ディジタルカメラの液晶画面を見ながら野外で撮影を行う際に、当該液晶画面の明るさに対して野外の明るさが非常に明るく画面が見難いような場合には、その液晶画面上で画像の適度な重なりを確認しつつ撮影範囲を決めていくのは非常に困難である。さらに、パノラマ画像に使用する複数の画像を撮影する際には、上述したような画像の水平方向(左右方向)の重なりのみならず、垂直方向(上下方向)の画像のズレについても注意を払わなければならない。
【0007】
一方で、上述した特許文献1に記載のように、パノラマ画像に使用する複数の画像を自動的に撮影する技術を用いれば、上述したような問題を解決することができる。しかしながら、当該特許文献1に記載の技術の場合、自動車及びそれに搭載するビデオカメラ等のような大がかりなシステムが必要になる。また、当該技術の場合、ビデオカメラにより撮影した動画像の中から、最終的にパノラマ画像を生成するのに必要なコマの画像を抜き出すようにしているため、全く使用されない無駄なコマの画像を多数撮影しなければならない。さらに、この技術の場合、ビデオカメラから得られる各画像は、自動車が移動する一定方向の画像に限定されてしまい、また、動画像は一般に一定のフレームレートで撮影されるものであるため、例えばユーザが望む任意の時間に各画像を撮影するようなことは出来ない。
【0008】
なお、自動車等の移動手段を用いずに複数の画像を自動的に撮影する場合には、ビデオカメラを載せると同時に、そのビデオカメラを例えば水平方向にパンニングさせるためのいわゆるビデオ雲台付きの三脚等からなる特別な撮影システムを用いることになるが、このような撮影システムは、例えば旅先で気軽にパノラマ画像を撮影するような用途には不向きである。
【0009】
本発明は、このような実情に鑑みて提案されたものであり、パノラマ画像を生成する際に必要となる複数の画像を、大がかりなシステムを用いずに簡単且つ気軽に撮影可能な画像撮影装置及び画像撮影方法を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の画像撮影装置は、少なくとも撮影レンズと撮像素子を備えた撮影手段と、使用者の動きに伴って撮影手段の位置が移動した時にその移動量を検出する移動量検出手段と、移動量検出手段が検出した撮影手段の移動量に基づいて、撮像手段の撮影タイミングを決定する撮影決定手段と、撮影決定手段が決定した撮影タイミングに応じて、撮影手段に撮影を行わせる撮影制御手段と、撮影手段により撮影された画像情報を保持する画像保持手段とを有することにより、上述した課題を解決する。
【0011】
また、本発明の画像撮影方法は、少なくとも撮影レンズと撮像素子を備えた撮影手段の位置が使用者の動きに伴って移動した時にその移動量を移動量検出手段により検出するステップと、移動量の検出ステップにより検出された移動量に基づいて、撮影決定手段が撮像手段の撮影タイミングを決定するステップと、撮影タイミングの決定ステップにより決定された撮影タイミングに応じて、撮影制御手段が撮影手段に撮影を行わせるステップと、撮影ステップにより撮影手段が撮影した画像情報を画像保存手段に保存するステップとを有することにより、上述した課題を解決する。
【0012】
すなわち、本発明によれば、例えば撮影手段を水平方向に移動させた時、その撮影手段の移動量を検出し、当該検出した移動量に基づいて撮影手段の撮影タイミングを決定し、その撮影タイミングで撮影手段に撮影を行わせることにより、例えばパノラマ画像を生成する場合等に必要な一連の複数の画像を自動的に取得可能となっている。
【発明の効果】
【0013】
本発明においては、一連の複数の画像を自動的に取得可能となされているため、例えばパノラマ画像を生成する際に必要となる複数の画像を、大がかりなシステムを用いずに簡単且つ気軽に撮影できる。
【発明を実施するための最良の形態】
【0014】
以下、図面を参照しながら、本発明の一実施形態について説明する。
【0015】
〔画像撮影装置の主要部構成〕
図1には、本発明実施形態の画像撮影装置の主要部の概略構成を示す。
【0016】
図1において、カメラ部1は、レンズ系と撮像素子及び筐体の使用者側の壁面に設けられることになる液晶モニタ、その他、一般的なディジタルカメラに備えられている各構成要素を備えている。当該カメラ部1から出力された画像信号は、画像撮影制御部4へ送られる。なお、上記カメラ部1からの出力画像の特性は、カラー、白黒の何れでもかまわない。
【0017】
画像撮影制御部4は、撮影画素数(ピクセル数)やシャッタースピード、露出等のような画像撮影時の基本的なパラメータを決定し、そのパラメータに基づいてカメラ部1での画像撮影を制御する。なお、画像撮影制御部4は、本実施形態の画像撮影装置が後述するパノラマ撮影モードに設定されている時のように、当該画像撮影装置が撮影者により移動させられている状態で撮影が行われる場合であっても、その撮影画像にいわゆる「ブレ」が発生しない(目立たない)ようなシャッタースピードやF値となるように、カメラ部1のパラメータを制御することも行う。また、画像撮影制御部4は、カメラ部1のレンズ系の現在の画角情報や撮像素子の撮影画素数情報を撮影決定部5へ知らせることも行う。
【0018】
ジャイロ部2及びGPS(全地球測位システム)部3は、本実施形態の画像撮影装置自体の移動を検出するための手段として設けられている。ジャイロ部2は、本実施形態の画像撮影装置をユーザが手に持った状態で当該装置を水平方向や垂直方向に移動させた時の角速度或いは角加速度を検出する2軸ジャイロセンサーを備え、当該2軸ジャイロセンサーの検出出力を移動量算出部8へ出力する。GPS部3は、本実施形態の画像撮影装置の緯度経度の絶対位置を測定し、その位置情報を移動量算出部8へ出力する。
【0019】
移動量算出部8は、上記ジャイロ部2からの角速度或いは角加速度情報と、上記GPS部3からの絶対位置情報の変化とに基づいて、本実施形態の画像撮影装置の移動量を算出し、その移動量情報を撮影決定部5へ出力する。すなわち、移動量算出部8は、当該画像撮影装置を例えば手に持ったユーザがその位置を動かずに腕を動かしり身体を回転させたりした時の当該装置の移動量や、当該画像撮影装置を持ったユーザ自身がその位置を移動したときの移動量等を算出して、その移動量情報を撮影決定部5へ出力する。
【0020】
撮影決定部5は、上記移動量算出部8から供給された移動量情報と、上記カメラ部1のレンズ系の現在の画角情報や撮影画素数情報とに基づいて、上記画像撮影制御部4が上記カメラ部1に画像を撮影させるタイミング(つまり撮影のトリガー)を決定し、そのタイミング信号を画像撮影制御部4へ出力する。すなわち、例えば水平方向に長いパノラマ画像を生成するための画像撮影を行う際には、当該撮影決定部5は、上記移動量情報と画角情報若しくは撮影画素数情報とに基づいて、直前に撮影された画像に対して水平方向に適度な重なりを持つ次の画像を撮影するべきタイミングを決定して、その撮影タイミングを画像撮影制御部4へ知らせる。したがって、本実施形態の画像撮影装置において、上記画像撮影制御部4は、当該撮影タイミングに基づいてカメラ部1に画像を自動撮影させることになる。
【0021】
また、撮影決定部5は、上記移動量算出部8からの移動量情報と、上記カメラ部1のレンズ系の現在の画角情報や撮影画素数情報とに基づいて、直前に撮影された画像の撮影範囲と、その次に画像を撮影する撮影範囲との間の垂直方向(上下方向)のズレ量を求め、当該画像撮影装置のユーザ(撮影者)に対して垂直方向のズレに基づく所定の通知信号をも生成し、当該通知信号を通知部9へ出力する。すなわち本実施形態の画像撮影装置において、当該撮影決定部5は、直前に撮影された画像とその次に撮影される画像の垂直方向(上下方向)のズレ量を求めることにより、ユーザに対して、良好なパノラマ画像を得るための正確な撮影が出来ない恐れがある旨の警告を行うための通知信号や、当該画像撮影装置をどのように移動させれば良好なパノラマ画像の生成に必要な画像を正確に撮影できるかの量的な指示を行うための通知信号等を生成し、その通知信号を通知部9へ出力することも行う。
【0022】
通知部9は、上記撮影決定部5からの通知信号に基づいて、例えば音や光、液晶モニタ上への表示等により、垂直方向のズレについての情報をユーザに通知する。
【0023】
以上説明したように、本実施形態の画像撮影装置は、直前に撮影された画像の撮影範囲と、その次に画像を撮影する撮影範囲との間の水平方向(左右方向)及び垂直方向(上下方向)の位置的な差分を求め、それら差分が上記水平方向と垂直方向で各々最適な値となるようにして複数の画像を自動的に撮影することが可能となる。
【0024】
すなわち、水平方向(横方向)に長いパノラマ画像を生成するために必要な複数の画像を撮影する場合、本実施形態の画像撮影装置は、直前に撮影された画像の撮影範囲とその次に画像を撮影する撮影範囲の水平方向の差分がパノラマ画像を合成するための適度な重なり量に相当する値となるように各画像を自動的に撮影することができ、また、各撮影範囲の垂直方向の差分が、良好なパノラマ画像を得るための少ないズレ量に相当する値以下となるように撮影者に警告若しくは指示を行うことができるようになっている。
【0025】
また、本実施形態において、上記画像撮影制御部4が上記カメラ部1に撮影させることにより得られた複数枚の画像情報は、画像保存部6へ送られて保存される。なお、当該画像保存部6へのデータ保存形式としては、通常のディジタルカメラで一般的に使用されているフォーマットであるいわゆるJPEG(Joint Photographic Coding Experts Group)形式での保存や、撮像素子からの生データであるRAWデータのR(赤),G(緑),B(青)データ形式での保存など、一般の機器が認識可能な保存形式であれば何れの形式であっても良い。また、画像情報の保存先は、外部メモリや内部メモリ、ハードディスクドライブ等の何れであっても良い。
【0026】
画像合成部7は、パノラマ画像を生成するために、上記画像保存部6に保存されている複数の画像を読み出し、それら複数の画像の重なり部分を合成しつつ、各画像を水平方向に繋げる。これにより、パノラマ画像が生成されることになる。なお、画像合成部7は、本実施形態の画像撮影装置が必ずしも備えている必要はなく、当該画像合成部7の機能は、外部のパーソナルコンピュータ等などが担当しても良い。
【0027】
なお、上記画像撮影制御部4、撮影決定部5、移動量算出部8、画像合成部7の各機能は、例えばCPU等により実現されても良い。
【0028】
〔実際の撮影シーン〕
次に、図2〜図6を参照しながら、本実施形態の画像撮影装置10においてパノラマ画像の生成に必要な複数の画像を撮影する際の実際の撮影シーンについて説明する。
【0029】
図2には、ユーザ(以下、撮影者20とする)と本実施形態の画像撮影装置10を横から見た状態であり、撮影者20が本実施形態の画像撮影装置10を手に持ち、例えば腕21を突き出して所望の方向に向いて立ち、撮影を行っている状態を示している。一方、図3には、本実施形態の画像撮影装置10のみを上から見た状態を示している。
【0030】
また本実施形態において、画像撮影装置10のレンズ11の画角により撮影可能な範囲は、上下方向が図2の撮影範囲SAtbであり、水平方向が図3の撮影範囲SAlrであるとする。さらに本実施形態において、撮影者20が立っている地点から当該画像撮影装置10の保持位置Hまでの距離は、図2に示すように、正確には上記回転軸RCから画像撮影装置10のカメラ部1の撮像素子面までの距離Lとして表すことができる。当該距離Lは、撮影者20の腕の長さに大凡等しいことになる。なお、撮影者20は、撮影時には必ずしも腕を伸ばさなくても良く、撮影者20は腕を縮めて例えば自分の胸と略々同じ位置で画像撮影装置20を持って撮影しても良い。この場合、回転軸RCから撮像素子面までの距離Lは、非常に短くなる。
【0031】
上述したような画角のレンズ11を備えた本実施形態の画像撮影装置10を用い、例えば、上記レンズ11による撮影範囲SAlrよりも水平方向に広い領域をカバーしたパノラマ画像を撮影するためには、例えば上記撮影者20が現在立っている地点を回転軸RCとして身体を回転させることで上記画像撮影装置10の撮影方向を移動させながら、上記レンズ11の撮影範囲SAlrに適度な重なりを持たせるようにして、複数の画像を順次撮影していく必要がある。
【0032】
また、図4及び図5は、回転軸RCと撮像素子面SF、撮影範囲SAの位置関係を回転軸RCの斜め上後方側から見た状態を示しており、図6は、それらの位置関係を回転軸RCの上側から見た状態を示している。
【0033】
ここで、画像撮影装置10のレンズ11が単焦点レンズであるか或いはズーム位置が固定されているとした場合、当該画像撮影装置10のレンズによる撮影画角βは固定となる。
【0034】
また、図4〜図6に示すように、或る時点での撮影範囲が図中のSA(SA1)であったとすると、パノラマ画像の生成に必要とされる次の画像は、上記撮影範囲SA(SA1)に対して適度な重なりを有した撮影範囲SA2を撮影して得られる画像となる。言い換えると、撮影範囲SA1の時のカメラ部1の撮像素子面が図中SF(SF1)であったとすると、上記撮影範囲SA2を撮影する時のカメラ部1の撮像素子面は図中SF2の位置でなければならない。
【0035】
このようなことから、本実施形態の画像撮影装置10は、当該装置10を手に持って例えば腕を伸ばしている撮影者20が、回転軸RCを中心にして図4,図5中の矢印RD方向に身体を回転させたとき、その回転角度αを前述のジャイロ部2やGPS部3の検出出力を元に計算により求め、当該回転角度αが上記撮像素子面SF1からSF2までの移動量(この場合は回転弧の長さ)に相当する角度になった時に、既に撮影済みの撮影範囲SA1に対して適度な重なりを有した撮影範囲SA2の画像を撮影するタイミングであると判断し、当該タイミングになった時に画像を自動的に撮影することにより、パノラマ画像の生成に必要な画像を得るようにしている。なお、ジャイロやGPSの検出出力から回転角度を計算する方法については、既知の技術が多数存在し、本実施形態ではそれら既知の技術の何れを用いても良い。本実施形態では、ジャイロやGPSの検出出力によって画像撮影装置10が移動した時の上記回転角度αをより精度良く求めることのできる計算方法を用いることとする。
【0036】
なお、この説明では、画像撮影装置10のレンズによる撮影画角βが固定であるとして説明したが、本発明実施形態の画像撮影装置10は、上記撮影タイミングの決定の際に、レンズの画角情報をも用いているため、撮影画角が可変となされた場合であっても対応可能である。
【0037】
〔撮影決定部のアルゴリズム〕
次に、図7を参照しながら、本実施形態の画像撮影装置の撮影決定部5が、移動量算出部8からの移動量情報に基づいて画像撮影制御部4に撮影タイミングを知らせる際の処理の手順を説明する。
【0038】
なお、この図7の処理は、本実施形態の画像撮影装置がパノラマ画像撮影モードに設定された時に実行される処理である。また、図7のフローチャートでは図示を省略しているが、本実施形態の画像撮影装置がパノラマ画像撮影モードに設定された場合、ジャイロ部2及びGPS部3は当該装置自体の移動を検出し、移動量算出部8はそれらジャイロ部2やGPS部3からの出力に基づいて本実施形態の画像撮影装置の移動量を算出し、その移動量情報を撮影決定部5へ出力することも行う。
【0039】
この図7において、本実施形態の画像撮影装置がパノラマ画像撮影モードに入ると、撮影決定部5は、ステップS1の処理として、パノラマ画像を生成するために必要な最初の画像(パノラマの一番端になる画像)を撮影する必要があるか否かの判定を行う。
【0040】
当該ステップS1にて、パノラマ画像の生成に必要な最初の画像が未だ撮影されていないと判定(Yes)した時、撮影決定部5は、ステップS2の処理に進み、画像撮影制御部4に対して、当該最初の画像の撮影許可を出した後、ステップS1へ処理を戻す。当該撮影許可を受けた画像撮影制御部4は、カメラ部1を制御して画像の撮影を行わせ、これにより、上記パノラマ画像の生成に必要な最初の画像が得られ、その画像情報は画像保存部6に保存されることになる。
【0041】
一方、ステップS1にて、パノラマ画像の生成に必要な最初の画像が既に撮影されていると判定(No)した時、撮影決定部5は、ステップS3へ処理を進める。
【0042】
ステップS3の処理に進むと、撮影決定部5は、移動量算出部8から出力される前記移動量情報を取得、つまり図2〜図6で説明した回転角度αに対応した情報を取得し、次のステップS4へ処理を進める。
【0043】
ステップS4の処理に進むと、撮影決定部5は、移動量算出部8から供給された移動量情報と、前記画像撮影制御部4から知らされている上記カメラ部1の画角情報や撮影画素数情報とに基づいて、直前に撮影された画像とその次に撮影を行う撮影範囲との重なりを計算し、次のステップS5へ処理を進める。
【0044】
ステップS5の処理に進むと、撮影決定部5は、上記ステップS4で計算された画像の重なりが所定の閾値面積よりも小さくなったか否かを判断する。そして、撮影決定部5は、上記ステップS5において、上記ステップS4で計算された画像の重なりが所定の閾値面積よりも大きいと判定(No)しているときにはステップS3へ処理を戻し、一方、上記ステップS4で計算された画像の重なりが所定の閾値面積より小さくなったと判定(Yes)したときにはステップS6へ処理を進め、当該ステップS6の処理として、上記カメラ部1に画像を撮影させるためのタイミング信号(撮影許可のトリガー信号)を当該画像撮影制御部4へ出力する。
【0045】
すなわち、より正確で且つ繋ぎ部分が自然なパノラマ画像を作成するためには、隣接する撮影画像間の内容同士を対応付け出来る部分が必要であり、また、効率良くパノラマ画像を作成するためには、隣接する撮影画像間の重なり部分の面積が余り大きくなり過ぎないことが必要である。このため、本実施形態の撮影決定部5では、上記効率と画像内容の対応付けとを考慮して予め決められている所定の閾値面積よりも上記ステップS4で計算された画像の重なりの面積が小さくなった時に、画像撮影制御4へ撮影許可の信号を出すようになされている。
【0046】
なお、図8には、上述した画像の重なりの具体例を示す。この図8の例では、或る撮影対象領域ST内でパノラマ画像に使用される画像を撮影するための撮影範囲SA1とその次に撮影される撮影範囲SA2との重なり部分(画像の重なり部分)が、図中のOLにて示す領域となっている。上記撮影決定部5は、当該重なり部分OLの大きさが、前記所定の閾値面積より小さくなったかどうかを判断する。
【0047】
図7のフローチャートに説明を戻し、上記ステップS6の処理後、撮影決定部5は、ステップS7にて次の処理を行うため等の所定の後処理を行った後、ステップS8へ処理を進める。
【0048】
ステップS8の処理に進むと、撮影決定部5は、予め設定されている所定の撮影量に達したか否か、つまり、パノラマ画像の生成のための必要とされる全ての画像を撮影し終わったか否か判定し、未だ所定の撮影量に達していないと判定(No)した時にはステップS3へ処理を戻し、一方、所定の撮影量に達したと判定(Yes)した時には、このパノラマ画像の生成のための処理を終了する。
【0049】
なお、撮影決定部5は、上記移動量算出部8から供給される移動量情報に含まれる移動方向(水平方向か垂直方向か)に基づいて、画像撮影装置が水平方向か垂直方向の何れの方向に移動しているのかを判断し、その判断結果に基づいて、上記ステップS4で画像の重なり計算を自動的に切り替えるようにしても良い。すなわち例えば、画像撮影装置が水平方向に動かされている時には、画像の横方向についての重なり計算を行い、一方、画像再生装置が垂直方向に動かされている時には、画像の縦方向についての重なり計算を行うように自動的に切り替えるようにしても良い。
【0050】
〔パノラマ画像撮影時の警告,指示の通知〕
次に、パノラマ画像撮影時の警告や指示の通知について説明する。
【0051】
水平方向(横方向)に長いパノラマ画像を作成するために使用される各画像が例えば垂直方向(上下方向)にズレて撮影された場合、最終的に得られるパノラマ画像の垂直方向の高さは、上記各画像撮影時の垂直方向のズレ分が差し引かれた残りの高さとなり、上記各画像撮影時の垂直方向のズレ分が大きくなればなるほどパノラマ画像の垂直方向の高さは小さく(低く)なってしまう。
【0052】
したがって、水平方向に長いパノラマ画像の撮影を行う場合、当該パノラマ画像に使用される各画像は、できるだけ同じ高さの領域を撮影した画像であることが望ましい。
【0053】
このため、本実施形態の画像撮影装置は、パノラマ画像撮影モードにおいて撮影者20が回転軸RCを中心にして回転しながらパノラマ画像の撮影を行っている際に、各画像撮影時の上下方向のズレを検出し、当該垂直方向のズレが大きくならないように当該撮影者20に警告若しくは指示を通知するようになされている。
【0054】
なお、図9には、垂直方向のズレの具体例を示す。この図9の例では、直前に画像が撮影された撮影範囲SA1とその次に撮影される撮影範囲SA2とが、図中のOLtbにて示すように垂直方向にズレている状態を示している。本実施形態において、上記撮影決定部5は、パノラマ画像撮影モード時に、水平方向の重なり領域OLlrの判定と同時に、垂直方向のズレ量OLtbの判定も行っている。
【0055】
図10には、本実施形態の画像撮影装置の撮影決定部5が、移動量算出部8からの移動量情報に基づいて、垂直方向のズレ量を求め、そのズレ量に応じて撮影者20に警告若しくは指示を通知する際の処理の手順を示す。
【0056】
なお、この図10の処理も前述の図7の処理と同様に、本実施形態の画像撮影装置がパノラマ画像撮影モードに設定された時に実行される処理である。また、図10のフローチャートでは図示を省略しているが、本実施形態の画像撮影装置がパノラマ画像撮影モードに設定された場合、ジャイロ部2及びGPS部3は当該装置自体の移動を検出し、移動量算出部8はそれらジャイロ部2やGPS部3からの出力に基づいて本実施形態の画像撮影装置の移動量を算出し、その移動量情報を撮影決定部5へ出力することも行っている。
【0057】
この図10において、本実施形態の画像撮影装置がパノラマ画像撮影モードに入ると、撮影決定部5は、ステップS11の処理として、移動量算出部8からの移動量情報と、前記画像撮影制御部4から知らされている上記カメラ部1の画角情報や撮影画素数情報とに基づいて、直前に撮影された画像とその次に撮影を行う撮影範囲との間の垂直方向のズレ量を求める。
【0058】
次に、撮影決定部5は、ステップS12の処理として、ステップS11にて求めた垂直方向のズレ量が、予め設定されている所定の閾値ズレ量を超えたか否か判定し、越えていないと判定(No)している時にはステップS11へ処理を戻し、越えたと判定(Yes)した時にはステップS13へ処理を進める。
【0059】
ステップS13の処理に進むと、撮影決定部5は、撮影者20に対して正確な撮影が行われない恐れがある旨の警告或いは正確な撮影を行うための量的な指示を行うための通知信号や、当該画像撮影装置をどのように移動させればパノラマ画像の生成に必要な画像をより正確に撮影できるかの量的な指示を行うための通知信号を生成し、その通知信号を通知部9へ出力する。なお、上記警告と指示は、例えば、「もう少し上へ向けて下さい」や、「さらに2cm上に上げて下さい」など、分かり易く、かつ具体的なメッセージの指示であることが望ましい。また、音の高さや大きさにより上記量的な指示を行ったり、発光ダイオード等の点灯、光液晶モニタ上に最適な撮影範囲を示すマークや線等を表示することによって上記量的な指示を行うことも可能である。以上により、撮影者20は、正確な撮影を行うべきことを知ることができ、また、上記量的な指示にしたがった行動をとることが可能となる。
【0060】
上記ステップS13の処理後、撮影決定部5は、ステップS14の処理として、パノラマ画像の生成のための必要とされる全ての画像を撮影し終わったか否か判定し、未だ所定の撮影量に達していないと判定(No)した時にはステップS11へ処理を戻し、一方、所定の撮影量に達したと判定(Yes)した時には、このパノラマ画像の生成のための処理を終了する。
【0061】
〔パノラマ画像の合成例〕
図11〜図13には、上述のようにして撮影された複数の画像からパノラマ画像が合成される様子の具体例を示す。
【0062】
図11には、或る撮影対象領域ST内で、パノラマ画像に使用される複数の画像を撮影したときの各撮影範囲の一例を示している。なお、図11の例では、四つの撮影範囲SA1〜SA4について画像の撮影がなされた例を挙げている。この図11の例のように、各撮影範囲SA1〜SA4の撮影により得られた各撮影画像は、図12の(a)〜(d)に示すような撮影画像P1〜P4となる。
【0063】
本実施形態の画像撮影装置では、これら撮影画像P1〜P4の情報が画像保存部6に保存された後、必要に応じて読み出され、画像合成部7で水平方向の重なり部分の画像内容を対応付けながら画像合成が行われると共に、垂直方向のズレ分をカットすることにより、例えば図13に示すようなパノラマ画像PPが生成されることになる。
【0064】
〔本実施形態の効果〕
以上のように、本実施形態の画像撮影装置によれば、ジャイロ部2やGPS部3のセンサーによって当該装置の移動量を取得し、その移動量情報を元に、直前に画像が撮影された撮影範囲とその次に画像を撮影する撮影範囲との間の例えば水平方向の差分を自動的に判別し、この差分の判別結果を元に、上記次の画像を撮影するための最適なタイミングを決定し、そのタイミングで上記次の画像を自動的に撮影することにより、パノラマ画像を作成するために必要な適度な重なりをもった複数の画像を容易且つ確実に撮影でき、さらに、それら複数の画像から、必要に応じてパノラマ画像を自動的に生成することが可能となっている。
【0065】
また、本実施形態の画像撮影装置によれば、撮影者に対して、直前に画像が撮影された撮影範囲とその次に画像を撮影する撮影範囲との間の垂直方向の差分(ズレ)がなるべく少なくなるような通知を行うことができるため、垂直方向の高さが充分なパノラマ画像を生成することが可能となる。
【0066】
なお、以上説明した実施形態では、複数の撮影画像から横長の一つのパノラマ画像が作成される例を挙げているが、撮影者は必ずしも最終的に1枚のパノラマ画像を得たいとは限らない。すなわち本発明において、パノラマ画像の生成処理については必ずしも行わなくても良い。例えば、撮影者が見た風景や景色を複数の画像により包括的に全て捕らえておけば、その場の雰囲気や撮影者が見たものを欠落させることなく残すことができることになる。このため、本実施形態の画像撮影装置において、上述したように適度な重なりを持った複数の画像を自動的に撮影するようなことを行えば、撮影者が撮りたいと思ったその場全体を包括的に含む画像を自動的且つ正確に撮影することができることになる。
【0067】
〔携帯電話端末への適用例〕
本発明実施形態の画像撮影装置は、例えば携帯電話端末等の携帯端末に適用可能である。
【0068】
図14〜図16を用い、本実施形態の画像撮影装置を適用した携帯電話端末について以下に説明する。なお、以下に説明するタイプの携帯電話端末は一例であり、本発明はこの例に限定されないことはいうまでもない。
【0069】
図14、図15には、本発明実施形態の画像撮影装置が適用された携帯電話端末の概略的な外観を示している。なお、図14は、本発明実施形態の携帯電話端末を正面側から観た概略外観図であり、図15は、当該携帯電話端末を背面側から観た概略外観図である。
【0070】
本実施の形態の携帯電話端末は、例えば第1の筐体31と第2の筐体32を有し、ヒンジ部(連結手段)36を介して第1の筐体31と第2の筐体32が折り重なるように二つ折り可能になされた、いわゆる折り畳み式の携帯電話端末である。すなわち本実施形態の携帯電話端末は、第1の筐体31と第2の筐体32がヒンジ部36により連結され、そのヒンジ部36を介して各筐体間の位置関係を変更可能となされた端末である。なお、図14、図15の例は、当該携帯電話端末を開いた状態を示している。
【0071】
図14に示すように、第1の筐体31には、例えば液晶デバイスにより構成されたメインディスプレイ33や受話用のスピーカ35等が備えられている。また、図15に示すように、当該第1の筐体31の上記背面側には、撮像素子とレンズ系とを有するカメラ部50と、当該カメラ部50による撮影時の補助光用のライト51と、液晶デバイスにより構成されたサブディスプレイ52とが設けられている。
【0072】
第2の筐体32には、携帯電話端末の主要な回路構成が内蔵されている。この第2の筐体32の上面(折り畳んだ際に第1の筐体31のメインディスプレイ33面と対向する面)には、電話番号や文字等を入力するためのキーボタンであるテンキー(12キー)34や、発話キー、クリアキー、終話/電源キーなどの各キー、電子メールの送信指示等を行う際に押下される決定ボタン39と当該ボタン39の上下左右に設けられた指示キー41とを有する十字キーデバイス38と、送話用のマイクロホン37等が設けられている。
【0073】
本実施形態の携帯電話端末が通常備えているその他の構成の図示及びその説明については省略する。
【0074】
次に、図16には、本実施形態の携帯電話端末の概略的な内部ブロック構成を示す。
【0075】
この図16において、通信アンテナ61は、例えば内蔵アンテナであり通話や電子メール等のパケット通信のための信号電波の送受信を行う。通信回路60は、送受信信号の周波数変換、変調と復調等を行う。なお、通信アンテナ61と通信回路60は、無線によりネットワークに接続することも可能となされている。
【0076】
受信された通話音声のデータは、データバスを介してCPU(Central Processing Unit)等からなる制御部62へ送られる。制御部62は、通話音声データを復号化し、その復号化後の音声データをデータバスを介してスピーカ70へ送る。
【0077】
スピーカ70は、第1の筐体31に設けられている受話用のスピーカ35やリンガ(着信音)、音楽再生、テレビジョン放送やラジオ放送の音声再生、前述した警告等を音声出力する場合のアラーム音出力用のスピーカであり、ディジタル/アナログ変換器と増幅器を含み、通話音声やリンガ音、アラーム音等のデータをディジタル/アナログ変換及び増幅した後、出力する。これにより、通話音声やリンガ音、アラーム音等が得られることになる。
【0078】
マイクロホン71は、第2の筐体32に設けられている送話用のマイクロホン37に相当し、アナログ/ディジタル変換器と増幅器を含む。このマイクロホン71を介して入力された通話音声信号は、増幅器により所定のレベルに増幅された後、アナログ/ディジタル変換器によりディジタル音声データに変換され、データバスを介して制御部62へ送られて符号化された後、通信回路60へ送られ、そこで変調、周波数変換等の各種処理を受けた後、通信アンテナ61から送信される。
【0079】
表示部63は、第1の筐体31のメインディスプレイ33やサブディスプレイ52の液晶パネルとそれらの駆動回路、ディスプレイコントローラ、フレームバッファを含み、ディスプレイ上には、文字や映像、当該携帯電話端末を操作するためのUI(ユーザインターフェース)画面、撮影された画像や作成されたパノラマ画像などが表示される。なお、ディスプレイコントローラは、制御部62が発行する描画命令を実際に処理するための専用コントローラであり、ディスプレイコントローラにて処理された描画データは、例えばフレームバッファに一旦書き込まれた後、メインディスプレイ33やサブディスプレイ52に表示される。例えば、携帯機器を操作するためのUI(ユーザインターフェース)などが画面に出力される。
【0080】
操作部64は、本実施形態の携帯電話端末の第1の筐体31上に設けられているテンキー34や、発話キー、クリアキー、終話/電源キーなどの各キー、決定ボタン39と指示キー41とを有する十字キーデバイス38等と、それら各キーの操作に応じた操作信号を発生する操作信号発生部とを有している。その他、操作部64として、小型のキーボードやゲーム用パッドが設けられていても良い。
【0081】
ジャイロ制御部72は、2軸ジャイロセンサー73の動作制御と、当該2軸ジャイロセンサー73からの検出出力の取り込みとそのディジタル情報化等の処理を行う。ディジタル情報化されたジャイロ検出出力は、制御部62に送られることになる。
【0082】
GPS制御部76は、GPSアンテナ77の動作制御と、当該GPSアンテナ77からの検出出力の取り込みとそのディジタル情報化等の処理を行う。ディジタル情報化されたGPS信号(測位情報)は、制御部62に送られることになる。
【0083】
撮像制御部74は、前述の図1に示した画像撮影制御部4に相当し、カメラ75の動作制御と、当該カメラ75から出力された撮影画像信号の処理とを行う。
【0084】
メモリ65は、ROM(Read Only Memory)とRAM(Random Access Memory)からなる。ROMは、OS(Operating System)、制御部62が各部を制御するための制御プログラムや各種の初期設定値、フォントデータ、辞書データ、着信音やキー操作音,アラーム音用の各種音データ、電子メールの作成や編集等を行うためのアプリケーションプログラムコード、画像や音声に対して様々な処理を行うためのアプリケーションプログラムコード、本実施形態にかかるパノラマ画像撮影モード用のアプリケーションプログラムコード、その他、携帯電話端末に搭載される各種のアプリケーションプログラムコード、当該携帯電話端末の識別情報(ID)などを記憶している。このROMは、EEPROM(Electrically Erasable Programmable Read-Only Memory)のような書き換え可能なROMを含み、電子メールデータ、ユーザにより設定される電話帳や電子メールアドレス帳、写真画像データ、ダウンロードされた写真データや音楽データ、ダウンロードされた着信音,キー操作音,アラーム音用等の音データ、文字データや予測変換の候補単語の登録データや予測変換の学習データ、カメラ75により撮影された画像データ、その他、各種のユーザ設定値等を保存することも可能となされている。RAM(Random Access Memory)は、制御部62が各種のデータ処理を行う際の作業領域として、随時データを格納する。
【0085】
制御部62は、メモリ65に記憶されているアプリケーションプログラムコードに基づき、上述した通話音声データの符号化や復号化、発着信の制御、電子メールの送受信制御、パノラマ画像撮影モード時の各部の制御、その他、制御バスを介して当該携帯電話端末の各構成要素の制御、各種の演算処理を行う。なお、本実施形態の携帯電話端末において、制御部62は、上記パノラマ画像撮影モード用のアプリケーションプログラムコードを実行することにより、図1の移動量算出部8の機能と、撮影決定部5の機能と、画像撮影制御部4の一部機能と、パノラマ画像生成まで行う場合の画像合成部7の機能等を実現している。
【0086】
外部機器インターフェース(I/F)78は、例えば外部メモリやハードディスクドライブ79などの外部記憶装置を接続するためのインターフェース部である。なお、ハードディスクドライブ79などの記憶装置は、携帯電話端末内に組み込み装置として装着されていても良い。また、ハードディスクドライブ79は、記憶担体としての磁気ディスクを固定的に搭載した外部記憶装置であり、記憶容量やデータ転送速度などの点で他の外部記憶装置よりも優れている。当該ハードディスクドライブ79には、制御部62が実行すべきオペレーティングシステムのプログラムコードや、アプリケーションプログラムコード、デバイスドライバ、プログラムの実行に必要なデータなどを格納していても良い。また、本発明実施形態のパノラマ画像用の複数の撮影画像データや、それらにより作成されたパノラマ画像データを、このハードディスクドライブ79に保存することもできる。
【0087】
その他、図2には図示を省略しているが、本実施形態の携帯電話端末は、音楽を再生したり動画像を再生したりするためのマルチメディア機能や、いわゆる電子財布機能、赤外線や電磁誘導方式等を利用した近距離無線機能などを備えている。
【0088】
以上のように、本実施形態の携帯電話端末によれば、前述した本発明実施形態の画像撮影装置の機能を備えているため、パノラマ画像を作成するために必要な適度な重なりを持った複数の画像を容易且つ確実に撮影でき、さらには、必要に応じて、それら複数の画像からパノラマ画像を生成することができる。
【0089】
なお、上述した実施形態の説明は、本発明の一例である。このため、本発明は上述した各実施形態に限定されることなく、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることはもちろんである。
【0090】
例えば、上述の実施形態では、水平方向(横方向)に長いパノラマ画像を生成するのに必要な複数の画像を自動撮影する例を挙げたが、例えば垂直方向(縦方向)や斜め方向に長い画像を生成するのに必要な複数の画像を自動撮影する場合にも本発明は適用可能である。
【0091】
また、上述の実施形態では、撮影者20が回転軸RCを中心に回転する例を挙げたが、本発明はそれに限定されず、撮影者20が徒歩や乗り物により移動しながら複数の画像を撮影するような場合にも適用可能である。
【0092】
また、上述の実施形態では、パノラマ画像に使用する複数の画像を撮影する際に、それぞれ隣接する画像が適度な重なりを持つように撮影する例を挙げたが、各画像の繋がり部分を正確に繋げることができるのであれば、上記重なり部分は必ずしも設けなくても良い(重なりの量をゼロにしても良い)。
【0093】
また、本実施形態において、各画像を撮影する際に、その撮影時間や撮影パラメータの情報とGPS部3による測位情報とから、各画像が何時何処でどのようにして撮影されたのかを、パノラマ画像と共に保存するようにしても良い。
【0094】
その他、本発明はディジタルカメラやカメラ機能付き携帯電話端末に限定されず、カメラ機能を備えた種々の電子機器に適用可能である。
【図面の簡単な説明】
【0095】
【図1】本発明実施形態の画像撮影装置の主要部の概略的な構成を示すブロック図である。
【図2】撮影者と本発明実施形態の画像撮影装置を横から見た状態と垂直方向の撮影範囲の説明に用いる概略図である。
【図3】本発明実施形態の画像撮影装置を上側から見た状態と水平方向の撮影範囲の説明に用いる概略図である。
【図4】回転軸と撮像素子面と撮影範囲の位置関係を、回転軸の斜め上後方側から見た状態で説明するための図である。
【図5】回転軸と撮像素子面と、或る撮影範囲とその次の撮影範囲の位置関係を、回転軸の斜め上後方側から見た状態で説明するための図である。
【図6】回転軸と撮像素子面と撮影範囲の位置関係を、回転軸の上側から見た状態で説明するための図である。
【図7】本実施形態の画像撮影装置の撮影決定部が、移動量算出部からの移動量情報に基づいて画像撮影制御部に撮影タイミングを知らせる際の処理の手順を示すフローチャートである。
【図8】パノラマ画像に使用される各画像を撮影する際の撮影範囲の重なりの具体例を示す図である。
【図9】パノラマ画像に使用される画像を撮影する際の撮影範囲の垂直方向のズレの具体例を示す図である。
【図10】本実施形態の画像撮影装置の撮影決定部が、移動量算出部からの移動量情報に基づいて、垂直方向のズレ量を求め、そのズレ量に応じて撮影者に警告若しくは指示を通知する際の処理の手順を示すフローチャートである。
【図11】或る撮影対象領域内でパノラマ画像に使用される複数の画像を撮影したときの各撮影範囲の一例を示す図である。
【図12】図11の各撮影範囲で撮影された各撮影画像を示す図である。
【図13】図11の各撮影範囲で撮影された各撮影画像の水平方向の重なり部分を合成して生成されたパノラマ画像を示す図である。
【図14】本発明実施形態の画像撮影装置が適用された携帯電話端末を開いた状態で正面側から観た概略的な外観図である。
【図15】本発明実施形態の画像撮影装置が適用された携帯電話端末を開いた状態で背面側から観た概略的な外観図である。
【図16】本実施形態の携帯電話端末の概略的な内部構成を示すブロック図である。
【符号の説明】
【0096】
1 カメラ部、2 ジャイロ部、3 GPS部、4 画像撮影制御部、5 撮影決定部、6 画像保存部、7 画像合成部、8 移動量算出部、9 通知部、10 画像撮影装置、11 レンズ、20 撮影者、21 腕、31 第1の筐体、32 第2の筐体、33 メインディスプレイ、34 テンキー、35,70 スピーカ、36 ヒンジ部、37,71 マイクロホン、38 十字キーデバイス、39 決定ボタン、50,75 カメラ、41 指示キー、51 ライト、52 サブディスプレイ、60 通信回路、61 通信アンテナ、62 制御部、63 表示部、64 操作部、65 メモリ、72 ジャイロ制御部、73 2軸ジャイロセンサー、74 撮像制御部、75 カメラ、76 GPS制御部、77 GPSアンテナ、78 外部機器インターフェース、 79 ハードディスクドライブ

【特許請求の範囲】
【請求項1】
少なくとも撮影レンズと撮像素子を備えた撮影手段と、
使用者の動きに伴って上記撮影手段の位置が移動した時に、その移動量を検出する移動量検出手段と、
上記移動量検出手段が検出した上記撮影手段の移動量に基づいて、上記撮像手段の撮影タイミングを決定する撮影決定手段と、
上記撮影決定手段が決定した撮影タイミングに応じて上記撮影手段に撮影を行わせる撮影制御手段と、
上記撮影手段により撮影された画像情報を保持する画像保持手段とを有する
ことを特徴とする画像撮影装置。
【請求項2】
請求項1記載の画像撮影装置であって、
上記移動量検出手段は、上記撮影手段の移動時の角速度若しくは角加速度を検出する速度検出手段を有し、当該速度検出手段が検出した角速度若しくは角加速度に基づいて上記撮影手段の移動量を演算することを特徴とする画像撮影装置。
【請求項3】
請求項1記載の画像撮影装置であって、
上記移動量検出手段は、上記撮影手段の移動時の緯度,経度を計測する緯度,経度計測手段を有し、上記緯度,軽度計測手段が計測した緯度,軽度情報に基づいて上記撮影手段の移動量を演算することを特徴とする画像撮影装置。
【請求項4】
請求項1記載の画像撮影装置であって、
上記撮影決定手段は、上記移動量検出手段が検出した移動量と、上記撮影手段の上記撮影レンズの画角とに基づいて、上記撮影手段の撮影タイミングを決定することを特徴とする画像撮影装置。
【請求項5】
請求項1記載の画像撮影装置であって、
上記撮影決定手段は、上記移動量検出手段が検出した移動量と、上記撮影手段の上記撮像素子の撮像画素数とに基づいて、上記撮影手段の撮影タイミングを決定することを特徴とする画像撮影装置。
【請求項6】
請求項1記載の画像撮影装置であって、
上記撮影決定手段は、上記移動量検出手段が検出した移動量に基づいて、上記撮影手段にて直前に撮影された画像の撮影範囲と、その次に上記撮影手段が画像を撮影する撮影範囲との間の水平方向と垂直方向の少なくとも何れかの位置的差分に基づいて、上記撮影手段での撮影タイミングを決定することを特徴とする画像撮影装置。
【請求項7】
請求項1記載の画像撮影装置であって、
当該装置の使用者に所定の通知を行うための通知手段を備え、
上記撮影決定手段は、上記移動量検出手段が検出した移動量に基づいて、上記撮影手段にて直前に撮影された画像の撮影範囲と、その次に上記撮影手段が画像を撮影する撮影範囲との間の左右方向と上下方向の少なくとも何れか一方の位置的差分に基づいて、上記通知手段に上記所定の通知を行わせることを特徴とする画像撮影装置。
【請求項8】
請求項7記載の画像撮影装置であって、
上記通知手段は、上記所定の通知として、所定の警告通知と上記位置的差分に応じて上記撮影手段を移動させることを使用者に指示する移動指示通知の少なくとも何れかを行うことを特徴とする画像撮影装置。
【請求項9】
少なくとも撮影レンズと撮像素子を備えた撮影手段の位置が使用者の動きに伴って移動した時に、その移動量を移動量検出手段により検出するステップと、
上記移動量の検出ステップにより検出された上記撮影手段の移動量に基づいて、撮影決定手段が上記撮像手段の撮影タイミングを決定するステップと、
上記撮影タイミングの決定ステップにより決定された撮影タイミングに応じて、撮影制御手段が上記撮影手段に撮影を行わせるステップと、
上記撮影ステップにより撮影手段が撮影した画像情報を、画像保存手段に保存するステップとを有する
ことを特徴とする画像撮影方法。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2006−217478(P2006−217478A)
【公開日】平成18年8月17日(2006.8.17)
【国際特許分類】
【出願番号】特願2005−30313(P2005−30313)
【出願日】平成17年2月7日(2005.2.7)
【出願人】(501431073)ソニー・エリクソン・モバイルコミュニケーションズ株式会社 (810)
【Fターム(参考)】