説明

画像処理装置及び画像処理方法、並びにプログラム

【課題】合成された広範囲画像の概要の把握が容易になる画像の表示が実現可能になる。
【解決手段】画像を撮像する撮像部17と、撮像部17によって複数の画像が順次撮像される際に、撮像装置1の所定単位あたりの移動量を検出し、検出された所定単位あたりの移動量が所定量以下であるか否かを判定する移動量検出部42と、を更に備え、撮像部17により撮像された複数の画像のデータを取得し、選択部62は、パノラマ画像合成部61によって生成される広範囲画像のうち、判定手段によって所定単位あたりの移動量が所定量以下だと判定されたときに撮像部17によって撮像された画像に対応する画像領域を、当該広範囲画像の代表画像とすべき画像領域として選択する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、合成された広範囲画像の概要の把握が容易になる画像を表示可能な、画像処理装置及び画像処理方法、並びにプログラムに関する。
【背景技術】
【0002】
従来より、標準的な画角の範囲で撮像した画像(以下、「ノーマル画像」と呼ぶ)のみならず、それよりも広い範囲を撮像した横長又は縦長の画像、即ちいわゆるパノラマ画像を撮像する技術が知られている。パノラマ画像は、通常のレンズよりも画角が広範囲となる特殊な広角レンズにより撮像するのが一般的であるが、近年、通常のレンズでも、パノラマ画像を撮像することが可能な技術も登場してきている(特許文献1参照)。
この特許文献1によれば、撮像装置は、ユーザにより移動されている最中に、連続して繰り返し撮像する動作(以下、「連写動作」と呼ぶ)を行う。その後、撮像装置は、連写動作により得られた複数のノーマル画像の各データを合成することで、パノラマ画像のデータを生成する。このように生成されたパノラマ画像のデータは、ノーマル画像が複数枚繋ぎ合わされた横長又は縦長の画像のデータとなる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平11−88811号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、パノラマ画像は、例えば、ノーマル画像と同様の表示サイズでディスプレイ等の画面に表示されると、ノーマル画像よりも縮小して表示されてしまうため、ユーザは、パノラマ画像の内容を把握することが困難になる。
【0005】
本発明は、このような状況に鑑みてなされたものであり、パノラマ画像などの合成された広範囲画像の概要の把握が容易になる画像の表示を実現することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明の一態様の画像処理装置は、所定の画角で撮像された複数の画像のデータを取得する画像取得手段と、前記画像取得手段によって取得された前記複数の画像のデータを合成することで、前記所定の画角よりも広い範囲を撮像したような広範囲画像のデータを生成する合成手段と、前記合成手段により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択手段と、前記選択手段により選択された前記画像領域を利用して所定の制御を実行する制御手段と、を備えたことを特徴とする。
【発明の効果】
【0007】
本発明によれば、合成された広範囲画像の概要の把握が容易になる画像の表示が実現可能になる。
【図面の簡単な説明】
【0008】
【図1】本発明の一実施形態に係る撮像装置のハードウェアの構成を示すブロック図である。
【図2】パノラマ画像のデータの生成手法の一例を示す模式図である。
【図3】図2のパノラマ画像のデータが生成された後、パノラマ画像概要表示処理によりディスプレイに表示される画像の一例を示す模式図である。
【図4】図1の撮像装置の機能的構成のうち、パノラマ画像生成処理及びパノラマ画像概要表示処理を実行するための機能的構成を示す機能ブロック図である。
【図5】図2の機能的構成を有する図1の撮像装置が実行するパノラマ画像撮像処理の流れを説明するフローチャートである。
【図6】図2の機能的構成を有する図1の撮像装置が実行するパノラマ画像概要表示処理の流れを説明するフローチャートである。
【図7】代表画像の表示手法の例を説明する模式図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態について、画像処理装置の一例として撮像装置1について、図面を用いて説明する。
【0010】
図1は、本発明の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、例えばデジタルカメラして構成される。
【0011】
撮像装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、画像処理部14と、バス15と、入出力インターフェース16と、撮像部17と、加速度センサ18、入力部19と、出力部20と、記憶部21と、通信部22と、ドライブ23と、を備えている。
【0012】
CPU11は、ROM12に記録されているプログラム、又は、記憶部21からRAM13にロードされたプログラムに従って各種の処理を実行する。
【0013】
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0014】
画像処理部14は、DSP(Digital Signal Processor)や、VRAM(Video Random Access Memory)等から構成されており、CPU11と協働して、画像のデータに対して各種画像処理を施す。
【0015】
CPU11、ROM12、RAM13及び画像処理部14は、バス15を介して相互に接続されている。このバス15にはまた、入出力インターフェース16も接続されている。入出力インターフェース16には、撮像部17、加速度センサ18、入力部19、出力部20、記憶部21、通信部22及びドライブ23が接続されている。
【0016】
撮像部17は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【0017】
光学レンズ部は、被写体を撮像するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【0018】
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部17の出力信号として出力される。
【0019】
ここで、1回の撮像動作により、撮像部17から出力される出力信号を、以下、「フレーム画像のデータ」と呼ぶ。即ち、連写動作とは複数回の撮像動作の繰り返しであることから、連写動作により、複数の撮像画像のデータが撮像部17から出力される。
本実施形態では、フレーム画像として、アスペクト比(横縦比)が4:3のノーマル画像が採用されている。
【0020】
加速度センサ18は、撮像装置1の速度や加速度を検出可能に構成される。
入力部19は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部20は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。本実施形態の出力部20には、ノーマル画像を画面全体に表示できるように、アスペクト比(横縦比)が4:3のディスプレイが設けられている。
【0021】
記憶部21は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部22は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
【0022】
ドライブ23には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ23によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部21にインストールされる。また、リムーバブルメディア31は、記憶部21に記憶されている画像のデータ等の各種データも、記憶部21と同様に記憶することができる。
【0023】
このような構成を有する撮像装置1は、パノラマ画像生成処理及びパノラマ画像概要表示処理を実行することができる。
パノラマ画像生成処理とは、撮像部17に連写動作をさせ、その結果得られる複数枚のフレーム画像のデータを合成することによって、パノラマ画像のデータを生成するまでの一連の処理である。なお、パノラマ画像生成処理では、後述する代表画像の抽出に用いられるマーキング情報も合わせて取得される。
パノラマ画像概要表示処理とは、パノラマ画像生成処理によりデータとして生成されたパノラマ画像の中から、マーキング情報を用いて、その概要が把握できる領域を代表画像として選択して、当該代表画像をディスプレイに表示するまでの一連の処理である。
【0024】
ここで、パノラマ画像生成処理及びパノラマ画像概要表示処理の理解を容易なものとすべく、先ず、図2を参照して、パノラマ画像生成処理におけるパノラマ画像のデータの生成手法の概略について説明する。次に、図3を参照して、パノラマ画像概要表示処理によりディスプレイに表示される画像の一例を説明する。
【0025】
図2は、パノラマ画像のデータの生成手法の一例を示す模式図である。
図2においては、ユーザが山をパノラマ画像として撮像する場合の例が図示されており、同図中、左側から右側の方向に撮像装置1が移動していくものとする。なお、パノラマ画像を撮像するためにユーザが撮像装置1を移動させる方向、本例では、左側から右側の方向を、「パノラマ方向」と呼ぶ。
【0026】
本実施形態では、撮像装置1の動作モードとして、ノーマル画像を撮像するモード(以下、「ノーマルモード」と呼ぶ)と、パノラマ画像を撮像するモード(以下、「パノラマモード」と呼ぶ)とが存在する。
そこで、ユーザは、入力部19に対して所定の操作をすることで、撮像装置1の動作モードをパノラマモードに切り替える。
【0027】
次に、ユーザは、撮像装置1を保持した状態で、入力部19の図示せぬシャッタ釦を下限まで押下する操作(以下、「全押し操作」と呼ぶ)をする。これにより、パノラマ画像生成処理が開始される。撮像装置1は、撮像部17の連写動作を開始させる。
【0028】
次に、ユーザは、シャッタ釦の全押し操作を維持した状態で、パノラマ方向に撮像装置1を移動させる。なお、このようの移動は、一般的に、「パンニングをさせる」、或いは「パンさせる」と表現されている。
具体的には本例では、ユーザは、山の中腹から山頂、そして反対側の山の中腹までの範囲がパノラマ画像に映り込むように、撮像装置1をパノラマ方向に移動させる。
【0029】
撮像装置1は、移動中、加速度センサ18の検出結果に基づいて移動量を検出し、その移動量が所定量に達する毎に、撮像部17に被写体を撮像させ、その結果得られるフレーム画像のデータを記憶していくことを繰り返す。
具体的には本例では、撮像装置1は、撮像の開始位置(全押し操作を開始した位置)からの移動量が所定量に達すると、1回目の撮像を行い、第1のフレーム画像のデータを記憶する。
更に、撮像装置1は、1回目の撮像位置からの移動量が所定量に達すると、2回目の撮像を行い、第2のフレーム画像のデータを記憶する。
更に、撮像装置1は、2回目の撮像位置からの移動量が所定量に達すると、3回目の撮像を行い、第3のフレーム画像のデータを記憶する。
その後、撮像装置1は、その移動量の総量(全押し操作を開始した位置からの累計移動量)が規定量に達すると、撮像部17の連写動作を終了させる。
【0030】
すると、撮像装置1は、これまでに記憶した第1乃至第3のフレーム画像のデータを撮像順に合成することによって、パノラマ画像PGのデータを生成する。
具体的には本例では、パノラマ方向に沿って、第1のフレーム画像の右端(フレーム方向側の端部)と、第2のフレーム画像の左端(フレーム方向と逆側の端部)とが連結するように各データが合成され、更に、第2のフレーム画像の右端(フレーム方向側の端部)と、第3のフレーム画像の左端(フレーム方向の逆側の端部)とが連結するように各データが合成されて、パノラマ画像PGのデータが生成される。
即ち、図2の下方に示すように、山の中腹から山頂、そして反対側の中腹へと到る範囲が写り込んだパノラマ画像PGのデータが生成される。
【0031】
以上説明したように、ユーザは、このようなパノラマ画像PGを得るために、撮像装置1をパノラマ方向に移動させるが、図2に示すように、その移動速度は一定ではなく、2回目の撮像のときが遅くなっている。
撮像装置1の移動速度が遅い理由は、特にユーザにとって重要と思える箇所が撮像されているためと想定できる。ユーザが重要と思える箇所は、パノラマ画像PGの概要の把握が容易になる箇所であるといえる。
そこで、本実施形態では、撮像装置1は、撮像部17の連写動作が行われている最中、その移動速度が遅いときに撮像されたフレーム画像のデータに対して、マーキング情報を付す。このようなマーキング情報が付されたフレーム画像のデータを、以下、「マーキングフレーム画像のデータ」と呼ぶ。
図2の例では、2回目の撮像のときの移動速度が遅いため、第2のフレーム画像が、マーキングフレーム画像になる。なお、同図中、第2のフレーム画像が、マーキングフレーム画像であることを容易に視認してもらうべく、当該第2のフレーム画像中に星印でマーキングを表わしているが、実際のマーキング情報はメタデータ等として付加されることが多いと想定される。
【0032】
図3は、このような図2のパノラマ画像のデータが生成された後、パノラマ画像概要表示処理によりディスプレイに表示される画像の一例を示している。
【0033】
図3に示すパノラマ画像PGは、図2を参照して上述したように、3枚のフレーム画像を横方向に繋ぎ合せたものであるため、アスペクト比は3:1(=4×3:3)となる。一方で、本実施形態の出力部20のディスプレイのアスペクト比は、上述の如く4:3である。従って、撮像装置1は、当該ディスプレイの画面全体にパノラマ画像PGを表示させようとすると、中央付近に縮小して横長に表示せざるを得ない。ユーザが、このような縮小画像をみても、パノラマ画像PGの把握をすることは困難である。
【0034】
そこで、撮像装置1は、パノラマ画像PGのうち、マーキングが付されている領域MAを選択する。選択された領域MAは、図2における第2のフレーム画像(マーキングフレーム画像)に相当する領域であり、パノラマ画像PGの概要の把握が容易になる領域だからである。
そして、撮像装置1は、領域MAの画像を代表画像として、出力部20のディスプレイの画面全体に表示させる。ユーザは、全画面表示された代表画像をみることで、パノラマ画像PGには山が写っていることを容易に把握することができる。
【0035】
次に、図4を参照して、このようなパノラマ画像生成処理及びパノラマ画像概要表示処理を実行するための撮像装置1の機能的構成について説明する。
図4は、図1の撮像装置1の機能的構成のうち、パノラマ画像生成処理及びパノラマ画像概要表示処理を実行するための機能的構成を示す機能ブロック図である。
【0036】
まず、パノラマ画像生成処理及びパノラマ画像概要表示処理のうち、パノラマ画像生成処理を実行するための撮像装置1の機能的構成について具体的に説明する。
【0037】
撮像装置1がパノラマ画像生成処理を実行する場合には、CPU11において、撮像制御部41と、移動量検出部42と、マーキング部43と、が機能し、画像処理部14においては、パノラマ画像合成部61が機能する。
また、記憶部21においては、所定の領域が、フレーム画像のデータを記憶するフレームバッファ51として機能すると共に、別の領域が、パノラマ画像のデータを記憶する画像バッファ52として機能する。
【0038】
撮像制御部41は、撮像部17の撮像のタイミングを制御する。
具体的には、パノラマモードの状態で、ユーザが、撮像装置1を保持したまま全押し操作をすると、パノラマ画像生成処理が開始する。即ち、撮像制御部41は、撮像部17の連写動作を開始させる。
その後、ユーザは、シャッタスイッチの全押し操作を維持した状態で、パノラマ方向に撮像装置1を移動させる。
撮像制御部41は、全押し操作が維持されている間、撮像装置1の移動量(移動量については後述する)が一定量に達する毎に、撮像部17に撮像させ、その結果得られるフレーム画像のデータをフレームバッファ51に一時的に記憶していくことを繰り返す。
その後、撮像装置1の総移動量が規定量に達すると、撮像制御部41は、撮像部17の連写動作を終了させる。
【0039】
移動量検出部42は、加速度センサ18の検出結果に基づいて、撮像装置1の移動量や加速度を検出する。
撮像装置1の移動量は、上述したように、撮像制御部41による撮像部17の撮像動作のタイミングの制御に用いられる。撮像装置1の加速度は、次のマーキング部43により用いられる。
【0040】
マーキング部43は、撮像部17の連写動作が行われている最中、移動量検出部42により検出された加速度と、所定の閾値とを比較し、加速度が閾値よりも低い(撮像装置1の移動が遅い)ときにフレームバッファ51に記憶されるフレーム画像のデータに対して、マーキング情報を付す。即ち、当該フレーム画像が、マーキングフレーム画像になる。
また、マーキング部43は、後述するパノラマ画像合成部61によりパノラマ画像のデータが生成された場合には、当該パノラマ画像における、マーキングフレーム画像に対応する領域の位置座標を示す情報(以下、「座標位置情報」と呼ぶ)を、当該パノラマ画像のデータに添付する。
【0041】
パノラマ画像合成部61は、記憶部21のフレームバッファ51に順次記憶される複数のフレーム画像のデータを合成することによって、パノラマ画像のデータを生成して画像バッファ52に記憶させる。
ここで、パノラマ画像合成部61による合成のタイミングは、特に限定されない。
例えば、1枚のフレーム画像のデータがフレームバッファ51に記憶されるタイミング毎に、パノラマ画像のデータが生成されてもよい。この場合、前者のタイミングが採用されている場合には、前回のタイミングで生成されたパノラマ画像のデータに対して、新たなフレーム画像のデータが追加されるように合成されることによって、パノラマ画像のデータが生成される。
また例えば、撮像部17の連写動作が終了した後のタイミングで、パノラマ画像のデータが生成されてもよい。この場合、全てのフレーム画像のデータが、フレームバッファ51に記憶された順番で合成されることによって、パノラマ画像のデータが生成される。
【0042】
以上、パノラマ画像生成処理を実行するための撮像装置1の機能的構成について具体的に説明した。
次に、パノラマ画像概要表示処理を実行するための撮像装置1の機能的構成について具体的に説明する。
【0043】
撮像装置1は、パノラマ画像概要表示処理を実行する場合には、画像処理部14おいて、選択部62と、表示制御部63と、が機能する。
【0044】
選択部62は、画像バッファ52に記憶されているパノラマ画像のデータに添付される位置座標に基づいて、当該位置座標に合致する領域を示す画像を代表画像としてパノラマ画像から選択する。
表示制御部63は、選択部62により選択された代表画像を表示するように出力部20を制御する。
【0045】
次に、このような図4の機能的構成を有する図1の撮像装置1が実行する処理のうち、パノラマ画像生成処理の流れについて図5を用いて説明する。
図5は、撮像装置1が実行するパノラマ画像生成処理の流れを説明するフローチャートである。
【0046】
パノラマ画像生成処理は、本実施形態においては、撮像装置1の動作モードがパノラマモードに切り替えられた後、ユーザが入力部19の図示せぬシャッタ釦を全押し操作して、撮像の指示をしたことを契機として開始される。
【0047】
ステップS1において、撮像制御部41は、撮像部17による撮像動作を開始させる。この際、撮像装置1は、ユーザにより所定の方向(パノラマ方向)に移動させられる。
【0048】
ステップS2において、撮像制御部41は、撮像部17に1枚のフレーム画像を撮像させる。この際、撮像部17により撮像されて出力された当該フレーム画像のデータは、フレームバッファ51に記憶される。以降、ステップS2の処理が実行される毎に撮像されたフレーム画像のデータは、順次、フレームバッファ51に記憶される。
【0049】
ステップS3において、移動量検出部42は、加速度センサ18の検出結果に基づいて、に加速度及び移動量を検出する。
【0050】
ステップS4において、移動量検出部42は、ステップS3の処理で検出された移動量に基づいて、撮像装置1が規定量移動したか否か、即ち、これまでの総移動量が規定量に到達したか否かを判断する。
総移動量が規定量に到達した場合には、ステップS4において、YESであると判断されて、処理はステップS9に進む。ただし、ステップS9以降の処理については後述する。
これに対して、総移動量が規定量に到達していない場合には、ステップS4において、NOであると判断されて、処理はステップS5に進む。
【0051】
ステップS5において、移動量検出部42は、ステップS3の処理で検出された加速度に基づいて、撮像装置1の速度が一定以下であるか否かを判断する。
撮像装置1の速度が一定の閾値を超えている場合(速い場合)、直前のステップS2の処理で撮像されたフレーム画像に対してマーキングをする必要がないので、ステップS5において、NOであると判定されて、後述するステップS6及びS7の処理は実行されずに、処理はステップS8に進む。ただし、ステップS8以降の処理については後述する。
これに対して、撮像装置1の速度が一定の閾値以下の場合(遅い場合)静、ステップS5において、YESであると判断されて、処理はステップS6に進む。
【0052】
ステップS6において、マーキング部43は、前フレーム画像に対してマーキングしたか否かを判断する。前フレーム画像とは、後述するようにステップS2乃至S8のループ処理が繰り返し実行されるが、前回のループ処理におけるステップS2の処理で撮像されたフレーム画像をいう。
前フレーム画像にマーキングがされている場合には、ステップS6において、YESと判断されて、後述のステップS7は実行されずに、即ち今回のループ処理のステップS2の処理で撮像されたフレーム画像(以下、「今回のフレーム画像」と呼ぶ)に対してはマーキングがされずに、処理はステップS8に進む。このように、本実施形態では、連続する2以上のフレーム画像に対してマーキングがされないようになされている。
これに対して、前フレーム画像にマーキングがされていない場合には、ステップS6において、NOであると判断されて、処理はステップS7に進む。
【0053】
ステップS7において、マーキング部43は、今回のフレーム画像に対してマーキングを行う。詳細には、マーキング部43は、今回のフレーム画像のデータに対してフラグを立てる。
【0054】
ステップS8において、移動量検出部42は、前フレームからの移動量が所定量に到達したか否か、即ち、前回の撮像時(前回のループ処理のステップS2の時点)の位置からの移動量が所定量に到達したか否かを判断する。
移動量が所定量に到達していない場合には、ステップS8において、NOであると判断されて、処理はステップS8に再び戻される。即ち、移動量が所定量に到達するまでの間、ステップS8の判定処理が繰り返し実行されて、パノラマ画像生成処理は待機状態になる。
その後、移動量が所定量に到達した場合には、ステップS8において、YESであると判断されて、処理はステップS2に戻され、それ以降の処理が繰り返される。即ち、移動量が所定量に到達する毎に、ステップS2乃至S8のループ処理が繰り返し実行され、1枚のフレーム画像がその都度撮像され、その際に撮像装置1が低速であったときにはマーキングが施される。
このようなステップS2乃至S8のループ処理が繰り返し実行されて、撮像装置1の総移動量が規定量に到達すると、上述したように、ステップS4の処理でYESであると判定されて、処理はステップS9に進む。
【0055】
ステップS9において、撮像制御部41は、撮像部17による撮像動作を終了させる。
【0056】
ステップS10において、パノラマ画像合成部61は、フレームバッファ51に蓄積された各フレーム画像のデータを、撮像順に合成(連結)することによって、パノラマ画像のデータを生成して、記憶部21の画像バッファ52に記憶させる。
この際、パノラマ画像のデータには、マーキングフレーム画像(フラグが立てられたフレーム画像)のフラグに基づいて、パノラマ画像における対応する領域の位置座標を示す座標位置情報が添付される。当該座標位置情報は、次に説明するパノラマ画像概要表示処理に供される。
これにより、パノラマ画像生成処理は、終了となる。
【0057】
以上、撮像装置1が実行する処理のうち、パノラマ画像生成処理の流れについて説明した。
次に、撮像装置1が実行する処理のうち、パノラマ画像概要表示処理の流れについて図6を用いて説明する。図6は、撮像装置1が実行するパノラマ画像概要表示処理の流れを説明するフローチャートである。
【0058】
パノラマ画像概要表示処理は、本実施形態においては、ユーザが入力部19を操作して、概要表示の指示をしたことを契機として開始される。
【0059】
ステップS20において、選択部62は、概要表示の指示がなされた対象がパノラマ画像であるか否かを判断する。
【0060】
概要表示の指示がなされた対象がパノラマ画像ではない場合、即ちノーマル画像である場合、ステップS20においてNOであると判定されて、処理はステップS23に進む。
ステップS23において、表示制御部63は、出力部20のディスプレイにおいて通常表示を行うように制御する。
ここで、通常表示とは、オリジナルのデータを加工せずに、対応する画像をそのままディスプレイに全画面表示することをいう。従って、いまの場合、ノーマル画像がそのままディスプレイに全画面表示される。
これにより、パノラマ画像概要表示処理は終了となる。
【0061】
これに対して、概要表示の指示がなされた対象がパノラマ画像である場合には、ステップS20において、YESと判断されて、処理はステップS22に進む。
ステップS22において、選択部62は、マーカーがあるか否かを判断する。詳細には、選択部62は、概要表示の指示がなされたパノラマ画像のデータに位置座標情報が付加されているか否かを判断する。
【0062】
例えば別の撮像装置において、本実施形態のパノラマ画像生成処理とは別の処理(従来の処理)によって生成されたパノラマ画像のデータが、即ち位置座標情報が付加されていないパノラマ画像のデータが、画像バッファ52に記憶されている場合がある。
また例えば、本実施形態のパノラマ画像生成処理が実行された場合であっても、撮像装置1の移動速度が低速にならなかったときにも、位置座標情報が付加されていないパノラマ画像のデータが、画像バッファ52に記憶されている場合がある。
これらの場合には、ステップS21においてNOであると判定されて、処理はステップS23に進む。
ステップS23において、表示制御部63は、出力部20のディスプレイにおいて通常表示を行うように制御する。
ここで、通常表示とは、上述したように、オリジナルのデータを加工せずに、対応する画像をそのままディスプレイに全画面表示することをいう。従って、いまの場合、横長のパノラマ画像が縮小されて、ディスプレイに全画面表示される。
これにより、パノラマ画像概要表示処理は終了となる。
【0063】
これに対して、マーカーがある場合、即ち位置座標情報が付加されている場合、ステップS21においてYESであると判定されて、処理はステップS22に進む。
ステップS22において、表示制御部63は、出力部20のディスプレイにおいてマーカー位置表示を行うように制御する。
ここで、マーカー位置表示とは、パノラマ画像のうち、アスペクト比がディスプレイと同一の4:3の代表画像を当該ディスプレイに全画面表示することをいう。代表画像とは、マーカーが付された領域、即ち位置座標情報により示される座標近辺の領域の画像、換言すると、マーキングフレーム画像に相当する画像である。マーキングフレーム画像とは、パノラマ画像における特徴的な部分が写っていると想定される画像である。
従って、ユーザは、ディスプレイに全画面表示された代表画像をみることで、パノラマ画像の概要を容易に把握することができる。
これにより、パノラマ画像概要表示処理が終了となる。
【0064】
以上、撮像装置1が実行するパノラマ画像概要表示処理の流れについて説明した。
【0065】
以上説明したように、撮像装置1は、撮像部17と、パノラマ画像合成部61と、選択部62と、表示制御部63と、を備える。
撮像部17は、被写体を撮像する毎に、フレーム画像のデータを出力する。
パノラマ画像合成部61は、撮像部17によって順次出力された複数のフレーム画像のデータを合成することで、1度の撮像で得られる画像よりも広い範囲を撮像したようなパノラマ画像(以下、「広範囲画像」とも呼ぶ)を生成する。
選択部62は、パノラマ画像のうち、代表画像とすべき画像領域を選択する。
表示制御部63は、選択された画像領域を代表画像として出力部20に表示させる。
【0066】
従って、撮像装置1は、例えば、パノラマ画像の代表的な一部を代表画像としてノーマル画像と同様に表示することができる。この場合当該画像の閲覧者(ユーザ)は、パノラマ画像の内容を把握することができる。
【0067】
また、撮像装置1は、撮像制御部41と、マーキング部43と、を備える。
撮像制御部41は、撮像部17によって所定の画角で複数の画像を順次撮像する。
マーキング部43は、撮像制御部41によって順次撮像される複数の画像のデータのうち、少なくとも1つに所定のマーキングを付す(識別情報を付加する)。
画像処理部14は、撮像制御部41により撮像された複数の画像のデータを取得する。
選択部62は、パノラマ画像合成部61により生成された広範囲画像のデータの中から、所定のマーキングが付された画像の画像領域を代表画像とすべき画像領域として選択する。
【0068】
また、撮像装置1は、移動量検出部42を備える。
移動量検出部42が、撮像部17によって複数のフレーム画像を順次撮像する際に、当該撮像装置1の所定単位あたりの移動量(例えば、移動速度や加速度等)を検出する。
マーキング部43は、移動量検出部42によって検出された所定単位量あたりの移動量が所定量以下であるときに撮像されたフレーム画像にマーキングを付すことによって、結果として、移動量検出部42によって検出された所定単位量あたりの移動量が所定量以下であるか否かを判定したことと等価になる。
選択部62は、マーキング部43によって所定単位量あたりの移動量が所定量だと判定されたとき撮像部17によって撮像されたフレーム画像に対応する、パノラマ画像(広範囲画像)内の対応する画像領域を、代表画像とすべき画像領域として選択する。
【0069】
従って、撮像装置1の所定単位あたりの移動量に基づいて、パノラマ画像(広範囲画像)の代表的な一部が代表画像として選択されるために、ユーザが代表画像の決定操作を明示的に行うことなく自動的に代表画像を決定することが可能になる。なお、ユーザビリティを考慮して、ユーザの明示的な操作により、ユーザが所望する任意のフレーム画像(に対応する画像領域)を代表画像として選択させるように、撮像装置1を構成することもできる。
【0070】
選択部62は、撮像部17によって取得された複数の画像のデータのうち、少なくとも1つの画像を選択することで、広範囲画像のうち、選択した1以上の画像に対応する画像領域を、代表画像とすべき画像領域として選択する。
【0071】
従って、複数の画像を代表画像として表示させることができるために、よりパノラマ画像(広範囲画像)の内容を把握しやすい代表画像を提供することができる。
【0072】
また、撮像装置1は、出力部20を更に備える。
表示制御部63は、代表画像を出力部20に表示する制御を実行する。
従って、代表画像を出力部20に表示させることができる。
【0073】
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0074】
例えば、上述の実施形態においては、1つのマーキングフレーム画像に対応する領域が代表画像としてディスプレイに全画面表示されたが、特にこれに限られない。つまり、パノラマ画像を構成する複数のフレームにマーキングをそれぞれ付すことも可能である。
【0075】
図7は、代表画像の表示手法の例であって、上述の実施形態(図3の例)とは異なる例を説明する模式図である。
図7(a)は、7枚のフレーム画像のデータが合成された結果得られるパノラマ画像を模式的に示した図である。
図7(b)は、図7(a)のパノラマ画像の概要表示をしているディスプレイの画面を模式的に示している。
【0076】
具体的には、図7(a)において、(1)乃至(7)のフレーム画像にマーキングが付されて、(8)及び(9)のフレーム画像がマーキングフレーム画像でない場合には、(1)乃至(7)のフレーム画像を組画像として表示することが可能である。また、各(1)乃至(7)のマーキングフレーム画像に重み付けをして、表示形態を変えることも可能である。例えば、(1)乃至(7)のマーキングフレーム画像のうち(1)のマーキングフレーム画像に重み付けがされた場合には、図7(b)に示すように、(1)のフレーム画像がディスプレイの画面中央に大きく表示される。他のフレーム画像((2)乃至(7)のフレーム画像)は、(1)のフレーム画像の周囲に配置されるように、(1)のフレーム画像よりも小さく表示されるように構成することもできる。
【0077】
この場合、図示はしないが、画像処理部14の機能的構成としては、図4の機能的構成に加えて、選択部62によって選択された複数の画像領域を組み合わせた組画像のデータを生成する生成部(機能ブロック)が設けられる。
その結果、表示制御部63は、生成部によってデータとして生成された組画像を代表画像としてディスプレイに表示することができる。
この場合の組画像の表示形態は、特に限定されず、縮小表示する形態であってもよいし、アスペクト比をディスプレイと同一の4:3にして(ノーマル画像と同様の表示サイズにして)全画面表示する形態であってもよい。
【0078】
従って、ユーザは、複数のマーキングフレーム画像が1つの代表画像となった組画像により、よりパノラマ画像の内容を把握することができる。
【0079】
また、パノラマ画像を構成する複数のフレーム画像にマーキングが付された場合は、選択部62は、パノラマ画像内のマーキングが付された複数の画像領域を、代表画像とすべき画像領域として選択してもよい。
【0080】
また、上述の実施形態では、撮像部17により撮像されたフレーム画像及び撮像時に加速度センサ18の検出結果(加速度及び移動量)に基づいて、パノラマ画像の概要表示が行われるが、を特にこれに限られない。例えば、撮像装置1は、外部機器から取得したパノラマ画像及び加速度等の情報に基づいて、パノラマ画像の表示を行うようにしてもよい。
【0081】
上述の実施形態では、代表画像は、マーキングされた位置座標に基づいてパノラマ画像の画像領域として選択されたが、特にこれに限られない。例えば、撮像装置1は、パノラマ画像とは別に代表画像を予め生成しておき、当該代表画像を表示するようにしてもよい。
【0082】
また、上述の実施形態では、マーキング対象は、撮像装置1の移動速度が遅いときに撮像されたフレーム画像とされたが、特にこれに限られない。逆に移動速度が速いときに撮像されたレーム画像や、ユーザの明示的な手動操作がなされたときのフレーム画像を、マーキング対象としてもよい。
【0083】
また、上述の実施形態では、アスペクト比がノーマル画像と同一の4:3、かつ、同一のサイズで代表画像が表示される例を示したが、これに限られず。これは、異なる解像度で表示してもよく、例えば、ノーマル画像と同一尺で表示されるサムネイル画像の生成にも適用することができる。つまり、パノラマ画像内のマーキングが付された画像領域からサムネイル画像を生成し、画像を一覧表示する場合などでは、この生成したサムネイル画像を表示するようにしてもよい。
【0084】
また、上述の実施形態では、パノラマ画像は、撮像部17により撮像された画像を用いたがこれに限られない。例えば、外部の撮像装置1により撮像された画像を、通信部22等を介して取得した画像を用いてパノラマ画像を生成してもよい。また、上述の実施形態では、パノラマ画像は、画像の横方向を広範囲に撮像したような画像としたがこれに限られない。例えば、画像の縦方向を広範囲に撮像したような画像でもよいし、縦横の両方向を広範囲に撮像したような画像でもよい。
【0085】
また、上述の実施形態では、本発明が適用される撮像装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、表示制御機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
【0086】
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図4の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図4の例に限定されない。例えば、CPU11において機能する機能ブロックを、画像処理部14において機能するようにしてもよいし、逆に、画像処理部14において機能する機能ブロックを、CPU11において機能するようにしてもよい。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
【0087】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0088】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部21に含まれるハードディスク等で構成される。
【0089】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【0090】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、更に、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0091】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
所定の画角で撮像された複数の画像のデータを取得する画像取得手段と、
前記画像取得手段によって取得された前記複数の画像のデータを合成することで、前記所定の画角よりも広い範囲を撮像したような広範囲画像のデータを生成する合成手段と、
前記合成手段により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択手段と、
前記選択手段により選択された前記画像領域を利用して所定の制御を実行する制御手段と、
を備えたことを特徴とする画像処理装置。
[付記2]
撮像手段と、
前記撮像手段によって前記所定の画角で複数の画像を順次撮像する撮像制御手段と、
前記撮像制御手段によって順次撮像される複数の画像のデータのうち、少なくとも1つに所定の識別情報を付加する付加手段と、
を備え、
前記画像取得手段は、前記撮像制御手段により撮像された前記複数の画像のデータを取得し、
前記選択手段は、前記合成手段により生成された前記広範囲画像のデータの中から、前記所定の識別情報が付加された画像の画像領域を代表画像とすべき画像領域として選択することを特徴とする付記1記載の画像処理装置。
[付記3]
前記撮像手段によって複数の画像が順次撮像される際に、当該画像処理装置の所定単位あたりの移動量を検出する検出手段と、
前記検出手段によって検出された前記所定単位あたりの移動量が所定量以下であるか否かを判定する判定手段と、
を更に備え、
前記付加手段は、前記判定手段によって前記所定単位あたりの移動量が所定量以下だと判定されたときに前記撮像制御手段によって撮像された画像のデータに前記所定の識別情報を付加することを特徴とする付記2に記載の画像処理装置。
[付記4]
前記選択手段は、
前記画像取得手段によって取得された前記複数の画像のデータのうち、少なくとも1つの画像を選択することで、前記広範囲画像のうち、選択した前記1以上の画像に対応する画像領域を、前記代表画像とすべき画像領域として選択する、
ことを特徴とする付記1に記載の画像処理装置。
[付記5]
表示手段を更に備え、
前記制御手段は、前記代表画像を前記表示手段に表示する制御を実行することを特徴とする付記1乃至4のいずれか1項に記載の画像処理装置。
[付記6]
前記選択手段によって複数の画像領域が選択された場合は、選択された前記複数の画像領域を組み合わせた組画像のデータを生成する組画像生成手段を更に備え、
前記制御手段は、前記組画像生成手段によって生成された前記組画像を前記広範囲画像の代表画像として前記表示手段に表示することを特徴とする付記5に記載の画像処理装置。
[付記7]
前記選択手段によって選択された前記代表画像とすべき画像領域から前記広範囲画像のサムネイル画像を生成するサムネイル画像生成手段を更に備え、
前記制御手段は、前記サムネイル画像生成手段によって生成された前記サムネイル画像を前記広範囲画像の代表画像として前記表示手段に表示することを特徴とする付記5に記載の画像処理装置。
[付記8]
画像処理方法であって、
所定の画角で撮像された複数の画像のデータを取得する画像取得ステップと、
前記画像取得ステップの処理によって取得された前記複数の画像のデータを合成することで、前記所定の画角で撮像された画像よりも広い範囲を撮像したような広範囲画像のデータを生成する合成ステップと、
前記合成ステップの処理により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択ステップと、
前記選択ステップの処理により選択手段により選択された前記画像領域を代表画像として所定の制御を実行する制御ステップと、
を含むことを特徴とする画像処理方法。
[付記9]
画像処理装置に実行させるプログラムであって、
所定の画角で撮像された複数の画像のデータを取得する画像取得機能と、
前記画像取得機能によって取得された前記複数の画像のデータを合成することで、前記所定の画角で撮影された画像よりも広い範囲を撮像したような広範囲画像のデータを生成する合成機能と、
前記合成機能により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択機能と、
前記選択機能により選択手段により選択された前記画像領域を代表画像として所定の制御を実行する制御機能と、
を実行させることを特徴とするプログラム。
【符号の説明】
【0092】
1・・・撮像装置、11・・・CPU、12・・・ROM、13・・・RAM、14・・・画像処理部、15・・・パス、16・・・入出力インターフェース、17・・・撮像部、18・・・加速度センサ、19・・・入力部、20・・・出力部20、21・・・記憶部、22・・・通信部、23・・・ドライブ、31・・・リムーバブルメディア、41・・・撮像制御部、42・・・移動量検出部、43・・・マーキング部、51・・・フレームバッファ、52・・・画像バッファ、61・・・パノラマ画像合成部、62・・・選択部、63・・・表示制御部

【特許請求の範囲】
【請求項1】
所定の画角で撮像された複数の画像のデータを取得する画像取得手段と、
前記画像取得手段によって取得された前記複数の画像のデータを合成することで、前記所定の画角よりも広い範囲を撮像したような広範囲画像のデータを生成する合成手段と、
前記合成手段により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択手段と、
前記選択手段により選択された前記画像領域を利用して所定の制御を実行する制御手段と、
を備えたことを特徴とする画像処理装置。
【請求項2】
撮像手段と、
前記撮像手段によって前記所定の画角で複数の画像を順次撮像する撮像制御手段と、
前記撮像制御手段によって順次撮像される複数の画像のデータのうち、少なくとも1つに所定の識別情報を付加する付加手段と、
を備え、
前記画像取得手段は、前記撮像制御手段により撮像された前記複数の画像のデータを取得し、
前記選択手段は、前記合成手段により生成された前記広範囲画像のデータの中から、前記所定の識別情報が付加された画像の画像領域を代表画像とすべき画像領域として選択することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記撮像手段によって複数の画像が順次撮像される際に、当該画像処理装置の所定単位あたりの移動量を検出する検出手段と、
前記検出手段によって検出された前記所定単位あたりの移動量が所定量以下であるか否かを判定する判定手段と、
を更に備え、
前記付加手段は、前記判定手段によって前記所定単位あたりの移動量が所定量以下だと判定されたときに前記撮像制御手段によって撮像された画像のデータに前記所定の識別情報を付加することを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記選択手段は、
前記画像取得手段によって取得された前記複数の画像のデータのうち、少なくとも1つの画像を選択することで、前記広範囲画像のうち、選択した前記1以上の画像に対応する画像領域を、前記代表画像とすべき画像領域として選択する、
ことを特徴とする請求項1に記載の画像処理装置。
【請求項5】
表示手段を更に備え、
前記制御手段は、前記代表画像を前記表示手段に表示する制御を実行することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
【請求項6】
前記選択手段によって複数の画像領域が選択された場合は、選択された前記複数の画像領域を組み合わせた組画像のデータを生成する組画像生成手段を更に備え、
前記制御手段は、前記組画像生成手段によって生成された前記組画像を前記広範囲画像の代表画像として前記表示手段に表示することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記選択手段によって選択された前記代表画像とすべき画像領域から前記広範囲画像のサムネイル画像を生成するサムネイル画像生成手段を更に備え、
前記制御手段は、前記サムネイル画像生成手段によって生成された前記サムネイル画像を前記広範囲画像の代表画像として前記表示手段に表示することを特徴とする請求項5に記載の画像処理装置。
【請求項8】
画像処理方法であって、
所定の画角で撮像された複数の画像のデータを取得する画像取得ステップと、
前記画像取得ステップの処理によって取得された前記複数の画像のデータを合成することで、前記所定の画角で撮像された画像よりも広い範囲を撮像したような広範囲画像のデータを生成する合成ステップと、
前記合成ステップの処理により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択ステップと、
前記選択ステップの処理により選択手段により選択された前記画像領域を代表画像として所定の制御を実行する制御ステップと、
を含むことを特徴とする画像処理方法。
【請求項9】
画像処理装置に実行させるプログラムであって、
所定の画角で撮像された複数の画像のデータを取得する画像取得機能と、
前記画像取得機能によって取得された前記複数の画像のデータを合成することで、前記所定の画角で撮影された画像よりも広い範囲を撮像したような広範囲画像のデータを生成する合成機能と、
前記合成機能により生成された前記広範囲画像のデータの中から、代表画像とすべき画像領域を選択する選択機能と、
前記選択機能により選択手段により選択された前記画像領域を代表画像として所定の制御を実行する制御機能と、
を実行させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2012−182588(P2012−182588A)
【公開日】平成24年9月20日(2012.9.20)
【国際特許分類】
【出願番号】特願2011−43064(P2011−43064)
【出願日】平成23年2月28日(2011.2.28)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】