説明

撮像装置

【課題】高品質なパノラマ撮影機能を備えた一般的なコンスーマ用のデジタルカメラを低コストで実現する。
【解決手段】撮影方向を順次変化させて画像を撮像する撮像手段11を有し、連結された回転軸38を回転中心として撮影方向が順次変化するように回転可能な第1の筐体31と、撮像された画像を順次貼り合わせることにより全体画像を生成する全体画像生成手段42と、生成された全体画像を表示する表示手段43と、上記回転軸38を回転させるための駆動手段51と、撮像開始並びに撮像終了の各タイミングを指定するための指定手段22と、バッテリー44と、上記回転軸38を介して上記第1の筐体31に連結され、ユーザの片手で把持可能な第2の筐体32とを備え、上記第2の筐体32は、上記全体画像生成手段42と、上記表示手段43と、上記駆動手段51と、上記指定手段22と、上記バッテリー44とのうち何れか1つ以上が設けられる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影方向を順次変化させて撮像することにより複数の画像領域が貼りわされたパノラマ状の全体画像を生成する撮像装置に関する。
【背景技術】
【0002】
従来より広く用いられている電子スチルカメラは、被写体を撮像することでレンズを通過した光を、CCD等の固体撮像素子により画像信号に変換し、これを記録媒体に記録し、また記録した画像信号を再生することができる。また電子スチルカメラの多くは、撮像した静止画像を表示することができるモニタを備え、これまでに記録した静止画像のうち特定のものを選択して表示することができる。この電子スチルカメラにおいて、1回の撮影での撮影範囲はレンズの画角によって制限された狭い範囲のものとなり、レンズの画角を越えた広範囲の撮影ができなかった。
【0003】
このため、パノラマ状の画像を撮影するカメラシステムが近年において提案されている。このカメラシステムは、広い視野を複数のレンズで一度に撮影する多眼式と、単眼レンズを用いて撮影方向を順にシフトさせつつ個々の単位画像に分けて連続撮影する単眼式に分類される。
【0004】
多眼式のカメラシステムは、通常のカメラとほぼ同様の操作でパノラマ状の全体画像を生成することができるという利点があるが、システム全体が高価になるという欠点がある。
【0005】
これに対し、単眼式のカメラシステム(例えば、特許文献1参照)は、比較的安価であるが、連続撮影した個々の単位画像を継ぎ目が目立たないように接合して一枚の全体画像を生成する画像処理技術が必須となる。即ち、撮影方向を順次シフトさせて撮影を行う関係上、撮影された個々の視野は互いに異なることから、パターンマッチング等の技術を用いて隣接する単位画像間の位置ずれ量を推定してこれを補正する必要があるからである。また重なり合う単位画像からパノラマ状の全体画像を取得すべく、各単位画像の中心からの距離に関するボロノイ分割法を用いることにより、得られた境界線に基づいて最適な単位画像を選択する方法が提案されている。更には、相互に重複する画像領域における画素値の平均を用いることにより隣接する単位画像を滑らかにつなぐ方法、或いはメディアンフィルターを用いることにより、最適な単位画像を選択する方法も提案されている。
【0006】
ところで、この単眼式のカメラシステムは、連続撮影の結果取得される単位画像の境界付近に動被写体が写し出されている場合に、ズレ等の不連続部分が生じる結果、最終的に生成される全体画像において破綻をきたすという問題点もある。
【0007】
この問題を軽減するには、できるだけ多くの枚数を出来るだけ短時間で撮影すればよい。なお、このパノラマ状の撮影対象全域を短時間で撮影するには、必然的に、単眼レンズと撮像素子を有するカメラモジュールにおける水平方向又は垂直方向の旋回速度を上げなければならない。しかしながら、当該旋回速度を上げるにつれて撮影中にブレが生じてしまうという問題点が生じる。このブレを抑制するためには、撮影動作に同期させて、高い精度でカメラモジュールを静止させるか、手ブレ補正機構を用いた制御を実行する必要があるが、システム全体のコストが割高になるという問題点も生じる。
【0008】
例えば、特許文献2において提案されているパノラマ電子スチルカメラでは、撮像素子から、画像信号を読み出す動作に連動してカメラを回動させる手段を備えるが、撮影間隔を短くするためには、カメラの旋回と停止を高速かつ正確に繰り返すハードウェアが必要になり、システム全体のコストを抑え込むことができない。
【0009】
また、このパノラマ状の撮影対象全域を短時間で撮影するには、必然的に、シャッタ速度を速くする必要があるが、従来におけるパノラマ電子スチルカメラにおいて、シャッタ速度を速くすると、得られる画像全体が暗くなり、またノイズも増加するため、良質の画像を生成することができない。
【0010】
またパノラマ画像を撮影する目的の下、単眼レンズを用いて広い撮影範囲を複数の単位画像に分けて撮像する撮影装置は、従来から提案されている。しかしながら、この従来の撮影装置では、コンスーマ用のデジタルカメラの商品性を維持しつつ、高品質なパノラマ撮影機能を低コストで実現することができなかった。
【0011】
例えば特許文献2の図2には、パノラマ画像を撮影する機能を備えたカメラと、そのカメラの撮像部を取り付けるための回転アダプタが開示されている。この回転アダプタは、撮像部を回転させるための駆動源としての役割を担うものであるが、実際にこれらを使用する際にいくつかの問題点がある。
【0012】
第1の問題点は、その従来のカメラにおける質量のバランスがあまり考慮されていない点である。従来のカメラは、撮像部を回転動作させる機能をアダプタに担わせ、これを実装するため、カメラ本体そのものを回転動作させることになる。理想的には、レンズや撮像センサ等の一部の部品のみを回転動作させればよいが、従来のカメラでは、バッテリー等の重い部品が搭載されたカメラ本体そのものを回転動作させなければならず、モータや回転動作を支える各種部品のコストが高くなってしまう。また、カメラ本体を手で支えて撮影する場合、把持する部分が軽く、回転部分が重いので、質量のバランスが悪く持ち辛い。
【0013】
第2の問題点は、その従来のカメラに対するボタン操作や表示画面の視認が困難になるという点である。即ち、回転動作するカメラ本体側にシャッタボタンを含む各種ボタンや表示部が備わっている。このようなカメラにおける撮像部の回動中にボタン操作をすることは、得られる画像のブレの原因になり撮影そのものが失敗してしまう虞がある。通常、レリーズを用いてブレを回避することも可能であるが、コンスーマのデジタルカメラでレリーズを用いることは一般的ではない。
【0014】
また、表示部も撮像部の回転動作に伴って回転することになるため、ユーザはかかる表示部を常に追いながら状況の視確認をしなければならず、扱いづらい。
【0015】
その他にも、パノラマ撮影時しか用いない使用頻度の少ない回転アダプタを持ち運ぶのは面倒であるし、カメラ本体に回転アダプタを常時装着したままでは、カメラシステム全体のコンパクト化を実現することができず、可搬性が悪いものになってしまう。
【0016】
このため、パノラマ撮像時に使用する回転アダプタは、結果的に殆ど用いられることはなかった。
【0017】
他の従来例としては、例えば特許文献3に示すように、固定した台にターンテーブルを備えて360°回転させながら撮影を実行し、パノラマ画像を作成する装置が開示されている。この装置は、パノラマ撮影に特化している。この装置は、360°の視野を連続的に撮影するためにカメラと後段の処理部とを接続するためのフォトカプラが使用されており、また回転角度を測定するための回転角度センサが使用されており、大がかりな構成になっている。
【0018】
しかしながら、一般的なコンスーマのカメラにパノラマ撮影機能を付加するためにこれだけの構成を備えるとコストが増大してしまう。また、これら従来の装置は、三脚に設置し、外部のコンピュータに接続して使用する形態になっているため、コンスーマのカメラに対して一般的に要求される可搬性に乏しい。特に、通常の写真を撮影することが主目的のカメラに対して、この従来例の装置の如く大がかりな構成を持たせることは現実的ではない。
【0019】
さらに、回転あるいは移動しながら連続撮影を行い複数の撮影画像を得て、上記撮影画像をつなぎ合わせることでパノラマ画像を得る場合、結果画像であるパノラマ画像には、カメラの回転あるいは移動方向と同じ方向のブレが生じてしまうという問題があった。
【先行技術文献】
【特許文献】
【0020】
【特許文献1】特開平11−46317号公報
【特許文献2】特開平6−225202号公報
【特許文献3】特許第3348285号公報
【発明の概要】
【発明が解決しようとする課題】
【0021】
そこで、本発明は、上述した問題点を解決するために案出されたものであり、その目的とするところは、高品質なパノラマ撮影機能を備えた一般的なコンスーマ用のデジタルカメラを低コストで実現し得る撮像装置を提供することにある。
【0022】
本発明の更に他の目的、本発明によって得られる具体的な利点は、以下に説明される実施の形態の説明から一層明らかにされる。
【課題を解決するための手段】
【0023】
本発明は、撮像手段の撮影方向が順次変化するように回転可能な第1の筐体に加え、単位画像を順次貼り合わせることにより撮影範囲全体を表す全体画像を生成する全体画像生成手段、生成した全体画像を表示する表示手段、第1の筐体を回転させる駆動手段、撮像手段における撮像開始並びに撮像終了の各タイミングを指定するための指定手段、各構成要素を動作させるためのバッテリーのうち何れか1つ以上が設けられるユーザの片手で把持可能な第2の筐体により構成される。
【0024】
即ち、本発明を適用した撮像装置は、撮影方向を順次変化させて撮影範囲全体の一部を構成する画像を撮像する撮像手段を少なくとも有し、連結された回転軸を回転中心として上記撮像手段の撮影方向が順次変化するように回転可能な第1の筐体と、上記撮像手段により撮像された画像を順次貼り合わせることにより、上記撮影範囲全体を表す全体画像を生成する全体画像生成手段と、上記全体画像生成手段により生成された全体画像を表示する表示手段と、上記回転軸を回転させるための駆動手段と、上記撮像手段における撮像開始並びに撮像終了の各タイミングを指定するための指定手段と、上記各構成要素を動作させるためのバッテリーと、上記回転軸を介して上記第1の筐体に連結され、ユーザの片手で把持可能な第2の筐体とを備え、上記第2の筐体は、上記全体画像生成手段と、上記表示手段と、上記駆動手段と、上記指定手段と、上記バッテリーとのうち何れか1つ以上が設けられることを特徴とする。
【発明の効果】
【0025】
本発明では、撮像手段の撮影方向が順次変化するように回転可能な第1の筐体に加え、画像を順次貼り合わせることにより撮影範囲全体を表す全体画像を生成する全体画像生成手段、生成した全体画像を表示する表示手段、第1の筐体を回転させる駆動手段、撮像手段における撮像開始並びに撮像終了の各タイミングを指定するための指定手段、各構成要素を動作させるためのバッテリーのうち何れか1つ以上が設けられるユーザの片手で把持可能な第2の筐体により構成される。
【0026】
これにより、撮影に最低限必要な部品を第1の筐体内部に実装することができ、回転部分の質量が軽くなるため、第1の筐体を支える部品やこれを回転駆動させるモータのコストを下げることができる。したがって、高品質なパノラマ撮影機能を備えた一般的なコンスーマ用のデジタルカメラを低コストで実現することができる。
【図面の簡単な説明】
【0027】
【図1】本発明を適用したパノラマ画像の撮像装置の構成につき説明するための図である。
【図2】撮像したスリット状の画像を互いに重ね合わせつつ接合することにより、パノラマ状の全体画像を合成する例につき説明するための図である。
【図3】スリット状の画像領域を切り出す方法につき説明するための図である。
【図4】方式A,Bの撮影時間に対する画素値の読み出し時間の関係を示す図である。
【図5】方式Bにおいてスリット状の画像領域を互いに重複領域が生じるように切り出す場合につき説明するための図である。
【図6】本発明を適用した撮像装置において方式Bに基づき撮影する手順を示すフローチャートである。
【図7】各種撮影パラメータの計算手順を示すフローチャートである。
【図8】パノラマ撮影処理手順を更に詳細に示すフローチャートである。
【図9】マッチング処理手順を更に詳細に示すフローチャートである。
【図10】変位方向に対して直交する方向を平均化する方法につき説明するための図である。
【図11】キャンバス画像の正規化につき説明するための図である。
【図12】正規化された画像のフィルタリング処理につき説明するための図である。
【図13】モニタ部における表示方法につき説明するための図である。
【図14】方式Aと方式Bを組み合わせて撮像を実行する例につき説明するための図である。
【図15】第1の筐体と第2の筐体を有するパノラマ画像の撮像装置の外観につき説明するための図である。
【図16】本発明を適用した撮像装置の他の構成につき説明するための図である。
【図17】フォトインターラプタにより第1の筐体の回転を制御する方法につき説明するための図である。
【図18】シャッタボタンを押圧することにより第1の筐体を徐々に回転させる例につき説明するための図である。
【図19】撮像装置による撮影工程を示すフローチャートである。
【図20】連続撮影した画像をつなぎ合わせて1枚のパノラマ状の全体画像を合成する様子につき示す図である。
【図21】撮像装置により水平方向にパニングしながら撮影して切り出された画像領域の各単位画像を示す図である
【図22】図21に示した各単位画像をつなぎ合わせて合成したパノラマ画像を示す図である
【図23】フィルタ処理前の画像を示す図である。
【図24】フィルタの構成例を模式的に示す図である
【図25】フィルタ処理済みの画像を示す図である。
【図26】撮像装置による撮影工程を示すフローチャートである。
【発明を実施するための形態】
【0028】
以下、本発明を実施するための最良の形態について図面を参照しながら詳細に説明する。
【0029】
本発明は、例えば図1に示すような撮像装置1に適用される。この撮像装置1は、被写体を撮像する撮像部10を備え、この撮像部10は、被写体からの像光を結像させるためのレンズ10aと、レンズ10aを介して入射される像光を遮光する図示しないシャッタ羽根等により絞り量を調整する絞り駆動部10bと、入力される被写体像に基づき電気的な撮像信号C1を生成するCMOS(Complementary Metal-Oxide Semiconductor) イメージセンサ11とを有している。
【0030】
また、この撮像装置1は、CMOSイメージセンサ11により生成された撮像信号C1のばらつきを補償するためのCDS(Correlated Double Sampling)回路12と、CDS回路12から供給される撮像信号C2をアナログ/デジタル変換処理するA/D変換部13と、このA/D変換部13から供給されるデジタル化した撮像信号C2としての画像データを一時的に格納し、これに所定の処理を施すディジタルシグナルプロセッサ(DSP)15と、接続されたDSP15からの画像データを符号化するコーデック処理部16と、このコーデック処理部16から供給される画像データを格納するメモリ17とを備えている。
【0031】
この撮像装置1は、DSP15から供給される画像データをデジタル/アナログ変換処理して出力するD/A変換部18と、このD/A変換部18からの画像データをビデオ信号に変換するビデオエンコーダ部19と、ビデオエンコーダ部19に接続されてなり、上述のビデオ信号に基づく画像をユーザに表示するためのモニタ部20とを備え、またこの撮像装置1は、接続された内部バス14を介して撮像装置1全体を制御するためのCPU(Central Processing Unit)21と、内部バス14に接続されてなりユーザが各種操作を実行するための操作部22と、CPU21から内部バス14を介して送られる制御信号に基づき、CMOSイメージセンサ11からDSP15に至るまでの信号処理系を制御するタイミングジェネレータ23と、内部バス14にそれぞれ接続されてなるモータ24並びに露出計26とを備えている。
【0032】
撮像部10は、CPU21から供給された動作信号に基づき、自動絞り制御動作や自動焦点制御動作等を実行する。また、この撮像部10は、かかる動作信号に基づいて、撮影方向を水平、垂直方向へ調整し、また操作部22を介して入力される絞り値に応じて、図示しないシャッタ羽根を開閉させることにより絞り量を調整する。
【0033】
CMOSイメージセンサ11は、レンズ部10a並びに絞り駆動部10bを介して入射される被写体像を電気信号に変換した撮像信号C1を生成し、これをCDS回路12へ出力する。なお、このCMOSイメージセンサ11は、撮像面上に結像された被写体像のうち一部の領域を選択し、当該領域の画素値のみを効率よく読み出すことができる。
【0034】
CDS回路12は、CMOSイメージセンサ11から供給される撮像信号C1の雑音を相関二重サンプリング回路を用いて除去し、或いはゲインを増幅させるための処理を施し、これを撮像信号C2としてA/D変換部13へ出力する。A/D変換部13は、このCDS回路12から供給される撮像信号C2をアナログ/デジタル変換処理し、これをDSP15へと出力する。ちなみに、このCDS回路12及びA/D変換部13における各動作タイミングは、一定のフレームレートで画像取り込みを継続すべく、タイミングジェネレータ23により制御される。
【0035】
DSP15は、ともに図示しない信号処理用プロセッサと、画像用RAMとを有するブロックである。A/D変換部13からの撮像信号C2で表される画像は、タイミングジェネレータ23による制御の下、一定のフレームレートで構成されるストリームデータとして供給され、この画像用RAMに一時的に格納される。図示しない信号処理用プロセッサは、この画像用RAMに格納される画像に対して、予めプログラムされた画像処理を施すための設定がなされている。この図示しない画像用RAMにおいて画像処理された画像は、コーデック処理部16とD/A変換部18の何れか、或いは双方へ送信される。
【0036】
コーデック処理部16は、DSP15から送信された画像につき、所定の方式でデータ量を圧縮する。ここでは、JPEG(Joint Photographic Experts Group)等の規格に基づいて圧縮符号化してもよい。
【0037】
メモリ17は、例えば半導体メモリ,磁気記録媒体,光磁気記録媒体等で構成され、コーデック処理部16において圧縮処理された画像データを所定のアドレスに記録するための媒体である。このメモリ17を着脱自在な記録媒体として構成することにより、撮像した画像を他のPC等に移し換えてこれを鑑賞し、又は各種検索や処理を実行することができる。
【0038】
モニタ部20は、D/A変換部18においてアナログ信号に変換され、さらにビデオエンコーダ部19においてビデオ信号に変換された画像を表示する。このモニタ部20は、ユーザ自身が撮像処理を実行しつつリアルタイムに撮影内容の確認ができるように、撮像装置1の筐体側面等に設けられる液晶表示素子等で構成してもよい。
【0039】
CPU21は、内部バス14を介して、実行すべき制御プログラムを格納するROMやデータの蓄積や展開等に使用する作業領域としてのDRAM等が接続され、撮像装置1全体を制御する中央演算ユニットとしての役割を担う。CPU21は、操作部22から供給される操作信号D1や露出計26から送信される明るさに関する情報に基づいて、動作信号を生成し、これを内部バス14を介して撮像部10へ送信する。
【0040】
操作部22は、撮影画角や撮影方向をユーザが自由に調整するため、或いは撮像部10における絞り値や露出時間を自由に調整するためのキー等で構成される。この操作部22は、ユーザにより入力された情報に応じた操作信号D1を生成し、これを内部バス14を介してCPU21へ送信する。さらに、この操作部22は、シャッタボタン221を有し、ユーザによるシャッタボタン221の押圧入力操作に基づいて、撮像を開始又は停止する旨の操作信号D1を生成し、これを内部バス14を介してCPU21へ送信する。
【0041】
モータ24は、例えばステッピングモータ等のように、撮像部10を旋回させるための駆動源として構成される。このモータ24は、CPU21からの動作信号に応じて回転する。これにより、撮像部10の撮影方向を水平方向、或いは垂直方向に変更することができる。
【0042】
露出計26は、撮像部10により撮像される対象の明るさを識別するためのセンサであり、この識別した明るさに関する情報をCPU21へ送信する。
【0043】
上述の如き構成からなる撮像装置1により撮像された被写体像は、CMOSイメージセンサ11において電気信号に変換されて撮像信号C1となり、CDS回路12により雑音を除去されて撮像信号C2となり、更にはA/D変換部13においてアナログ/デジタル変換処理される。また、この撮像信号C2で示される画像は、DSP15における図示しない画像用RAMに格納され、所定の画像処理が施された後、D/A変換部18によりデジタル/アナログ変換処理されてモニタ部20において表示され、或いはコーデック処理部16により符号化されてメモリ17に記録されることになる。
【0044】
次に、本発明を適用した撮像装置1における具体的な撮影方法につき説明をする。
【0045】
この撮像装置1では、撮影方向を水平方向へ連続的にシフトさせることにより、図2(a)に示すようにスリット状の画像を短い撮影間隔で多数撮影する。そして撮像したスリット状の画像を互いに重ね合わせつつ接合することにより、図2(b)に示すような撮影範囲全体を表したパノラマ状の全体画像を合成する。即ち、幅の狭いスリット状の画像を接合することにより、視差やレンズ歪等が原因となる画像の不連続が生じるのを軽減できる。また、短時間でこれらの幅の狭いスリット状画像を撮影することにより、動被写体による画像の不連続が生じるのを軽減できる。
【0046】
図3は、このスリット状の画像領域を切り出す方法につき示している。レンズ部10a並びに絞り駆動部10bを介して入射される被写体像をCMOSイメージセンサ11における撮像面上に結像させる。ちなみに撮像装置1では、結像された被写体像のうち図3(a)に示すように全ての領域の画素値を読み出し、これをDSP15まで転送する方式Aと、図3(b)に示すように一部のスリット状の領域を選択し、当該領域の画素値のみを効率よく読み出してこれをDSP15まで転送する方式Bの2通りの方法で画像領域を切り出す。方式Bは、方式Aと比較して読み出す画像領域の面積が少なく、転送量そのものを小さくすることができる。
【0047】
図4は、これら方式A,Bにおける撮影時間に対する画素値の読み出し時間の関係を示している。即ち、転送量が少ないほど読み出し時間を短くすることができるため、単位時間あたりの撮影回数を増加させることが示されている。即ち、動被写体を撮影する際における不連続部分を抑える場合には、撮影間隔の短い方式Bを採用することにより、これを実現することができる。ちなみに、方式A、Bどちらを採用して撮影範囲は同じであり総撮影面積は同じとなる。つまり、画像データのサイズは同じなので総転送量は同じである。
【0048】
特にこの方式Bでは、方式Aと比較して転送量を小さく抑えることができる。このため、画像領域が切り出された時点で次の単位画像の撮像を行うことにより、撮影時間間隔をいきおい短くすることができる。その結果、連続するスリットの継ぎ目部分にまたがる動被写体の撮影時間の差による位置のずれを極力最小に抑えることができる。しかも、方式A、方式Bともに総撮影面積は同じなので、画像の転送量自体は等しく、撮像装置1を含めたハードウェア全体のコストは両者間において変わらない。
【0049】
なお本発明では、さらにこの方式Bにおいて、スリット状の画像領域を図5に示すように、互いに重複領域が生じるように切り出す。仮に画像領域のスリット幅を4倍にすることにより、重複領域において重なり合う画像領域は、図5に示すように4枚となる。かかる場合において重ね合わせ枚数Lは4となる。次に、このような重複領域が生じた画像領域を互いに重ね合わせることにより、パノラマ状の全体画像を構成してゆく。即ち、シャッタ速度を高速化することにより、低い感度による撮影が余儀なく実行されることになるが、これら重複画像領域を重ね合わせることにより、各画像領域のノイズ成分を平均化することができる。例えば、1/4の感度で撮影された画像領域を4枚重ね合わせることにより1倍の感度相当で撮影した画像が得られ、ノイズ成分の目立たない良質な全体画像を作り出すことが可能となる。
【0050】
このように、本発明を適用した、撮像装置1では、所定サイズの画像領域を互いに重複領域が生じるように切り出し、切り出された画像領域を順次重ね合わせる。この画像領域を重ね合わせることによって生じる重複領域を、画質を向上させるために用いることができる。即ち、シャッタ速度を高速化することにより、得られる画像全体が暗くなり、またノイズも増加する場合であっても、重複領域を作り出すことで良質の画像を生成することができる。
【0051】
ちなみに、本発明では、この重ね合わせ枚数Lは、生成すべき全体画像の各画像位置につき平均して2以上の画像領域を重複させることを構成要件(好適には重なり枚数が2以上である)としてもよい。これにより、各画像位置につき少なくとも2枚以上の画像領域が重なって形成されることになり、最終的に生成される全体画像につき全ての画像位置でノイズの軽減が図られ、画質の改善がなされていることになる。
【0052】
次に、本発明を適用した撮像装置1において方式Bに基づき撮影する手順につき説明をする。
【0053】
この方式Bでは、図6に示すように、先ずステップS1において各種撮影パラメータを計算する。このステップS1では、露出計26により識別された明るさに関する情報を取得し、絞り値やシャッタ速度等の撮影パラメータを計算する。
【0054】
図7は、このステップS1における動作手順を更に詳細に示したフローチャートである。ステップS1に移行して撮影パラメータを計算する場合には、先ずこの図7に示すステップS11において、撮影される対象の明るさIを露出計26を介して計測する。この明るさIに関する情報は、CPU21へ送信されることになる。
【0055】
次にステップS12に移行し、CPU21は、操作部22から送られる操作信号D1を受け取る。この操作信号D1には、操作部22を介してユーザより入力された絞り値A、露出時間S、重ね合わせ枚数L、モータ24の回転角速度M等の各種パラメータが含められる。ちなみにこの撮像装置1において、ユーザは、各撮影パラメータの値を撮影の意図に合わせて具体的な数値で指定してもよいし、またいくつかの撮影パラメータの値を変数として、CPU21自身にその決定を委ねることもできる。
【0056】
次にステップS13に移行し、ステップS12においてユーザにより具体的に指定されなかった撮影パラメータが存在する場合には、これを計算により求める。各撮影パラメータは、互いに数式で関連付けることができ、ステップS12においてユーザにより指定されなかった撮影パラメータを計算することができる。
【0057】
モータの回転角速度Mと、露出時間Sとの関係は、以下のように表すことができる。
【0058】
M∝1/S(∝は、比例関係を表す) ・・・・・・・・・・・(1)
この(1)式に基づくことにより、露出時間Sに対して単調減少する角速度で、ひいては露出時間Sに反比例する角速度で撮影方向を変更させることができる。
【0059】
また、上述した露出計26により計測された明るさIに対する、露出時間S、絞り値A、重ね合わせ枚数Lの関係は、以下のように表すことができる。
【0060】
I∝1/S・1/A2・1/L・・・・・・・・・・・(2)
また、スリット状の画像領域Wと重ね合わせ枚数Lとの関係は、以下のように表すことができる。
【0061】
W∝L・・・・・・・・・・・(3)
これら比例関係(1),(2),(3)における各比例定数は、ハードウェアの特性に基づいて決定される。
【0062】
なお、ユーザにより指定されなかった撮影パラメータを計算する際に、上記比例関係(1),(2),(3)において変数が2以上存在する場合には、これを求めることができない場合もある。かかる場合には、ユーザによって予め設定された撮影の意図をより反映させるような形でこれら変数を最適化すればよい。
【0063】
このステップS13において、上記撮影パラメータを計算により求める例につき説明をする。なお下式において用いられているk1,k2,k3は、ハードウェアの特性に合わせた比例定数である。
【0064】
例えば、ユーザによって撮影パラメータの回転角速度Mと絞り値Aが与えられていた場合には、先ず露出時間Sを以下の(4)式により求める。
【0065】
S=k1/M ・・・・・・・・(4)
次に重ね合わせ枚数Lを以下の(5)式に基づいて求める。
【0066】
L=k2/S/A2/I・・・・・・・・・(5)
そしてスリット状の画像の幅Wを以下の(6)式に基づいて求める。
【0067】
W=k3L・・・・・・・・・(6)
次にステップS14へ移行し、求めた各撮影パラメータにつき、撮影素子の能力や撮像装置1全体を含めたハードウェアの制約を満たすかどうか確認する。その結果、求めた各撮影パラメータが、ハードウェアの制約を満たす場合には、ステップS15へ移行する。これに対して、求めた各撮影パラメータが、ハードウェアの制約を満たさない場合には、ステップS16へ移行する。
【0068】
ステップS15に移行した場合には、ユーザが設定した撮影パラメータの値が良好であることを通知する。これに対して、ステップS16に移行した場合には、撮影パラメータの値が不適当であることを通知し、絞り値A並びに回転角速度Mの値を再設定するようにユーザに要求する。かかる要求を受けたユーザにより撮影パラメータが再び設定されることにより、ハードウェアの制約に適合した最適な設定がなされることになる。
【0069】
このような図7に示されるステップS1の詳細を実行した後、図6に示されるステップS2へ移行し、操作部22におけるシャッタボタン221が押圧入力操作に基づく操作信号D1が生成されたか否か識別する。その結果、かかる操作信号D1の生成を識別することができた場合には、ステップS3へ移行する。これに対して、かかる操作信号D1の生成を識別することができなかった場合には、再びステップS1へ戻り、上述した処理を繰り返し実行する。
【0070】
ステップS3に移行した場合には、モータ24を駆動させることにより撮像部10を旋回させる。モータの回転角速度Mは、ステップS1において決定した値を採用する。以下の手順においては、撮像部10の撮影方向を水平方向へ変更させる例につき説明する。
【0071】
次にステップS4へ移行し、パノラマ撮影処理を実行する。
【0072】
図8は、このステップS4におけるパノラマ撮影処理手順を更に詳細に示したフローチャートである。撮像部10は、この図8に示すステップS21において、画像の撮像を実行する。この撮像においては、ステップS1において決定した撮影パラメータを使用する。なお、この撮影パラメータは、ステップS21を実行する都度、ステップS1と同様の処理を実行することにより、これを順次更新するようにしてもよい。このステップS21において撮像された被写体像がCMOSイメージセンサ11において電気信号に変換され、また一部のスリット状の画像領域が選択され、当該画像領域の画素値が読み出されて撮像信号C1となる。またこの撮像信号C1は上述の如く順次撮像信号C2に変換され、DSP15における図示しない画像用RAMに格納された後、ステップS22へ移行する。
【0073】
ステップS22では、新たに取得した画像領域と、先に撮像した画像領域との相対変位を計算するマッチング処理を行う。
【0074】
図9は、このステップS22におけるマッチング処理手順を更に詳細に示したフローチャートである。
【0075】
先ずDSP15は、CPU21による制御の下、図9に示すステップS31では、新たに取得した画像領域の黒レベル補償処理やガンマ補正処理等の前処理を実行する。
【0076】
ステップS32では、取得した画像領域につきローパスフィルタを適用してその結果をリサンプリングする。モータの角速度が速い場合、それに応じた高速なシャッタが必要だが、その場合、通常の撮影時間よりも短い露出時間で撮影するため、得られた画像全体が暗くなり、ノイズが多くなってしまう。このため、このステップS32において実際にマッチング処理を行う前にこのノイズを軽減する。本実施の形態では、水平方向の変位の精度が重要となるため、変位方向に対して直交する方向を平均化するようにフィルタをかける。本発明では、水平方向に対する直交する方向として、垂直方向を平均化する。このフィルタリング処理は、図10に示すように、F1に示すような画像領域を新たに取得した場合に、先ず画像領域F1を複数の行に分割し、列毎にそれぞれ平均化する。図10に示す例では、行方向に配列される5画素分を1グループとして平均化した場合、F2に示すような一次元の画像列Pa1,Pa2,Pa3が得られる。この画像列を以後のマッチング処理において使用する。
【0077】
ステップS33へ移行した場合には、上記画像領域F1より以前に撮像して得られた画像領域における正規化を行う。この撮影済みの画像領域は、多数の画素を記憶する比較的大きな記憶領域に順次重ねて記憶されている。この記憶領域に重ね合わせて生成された画像領域を以後キャンバス画像という。キャンバス画像を構成する各画素は、通常の画像のようにR,G,Bの3原色成分に加え、重ね合わせ枚数Lを合わせた4つの要素で定義することができる。新たに画像が撮像されるにつれて、重ね合わせ枚数Lを1ずつ増加させてゆく。このステップS33における正規化処理では、図11に示すように(R/L、G/L、B/L)を計算すればよく、これによって通常のR,G,Bの3要素で構成される画像を得ることができる。このように生成する全体画像の各画素を分母データと分子データとにより構成し、また互いに重なり合う画像領域における同一画素位置を構成する画素値の合計を分子データとし、また当該同一画素位置における画像領域の重ね合わせ枚数を分母データとすることにより、各画像領域の画素値を平均化してノイズの少ない全体画像を作成することが可能となる。
【0078】
次にステップS34へ移行し、ステップS32におけるフィルタリング処理並びにリサンプリング処理を、ステップS33において正規化された画像につき適用する。図12は、この正規化された画像を、ステップS32におけるフィルタリング処理に応じた画素数からなるグループに分割する。そして変位方向に対して直交する方向としての垂直方向を平均化するフィルタリング処理を施す。そして、上述したキャンバスの画像に対応する一次元の画像列Pb1,Pb2,Pb3を生成する。ちなみに、これら画像列Pb1,Pb2,Pb3は、それぞれ画像列Pa1,Pa2,Pa3に対応することになる。
【0079】
次にステップS35へ移行し、ステップS32により得られた画像列Pa1,Pa2,Pa3と、ステップS34により得られた画像列Pb1,Pb2,Pb3を互いにパターンマッチングさせる。そして、互いの画像列の相対位置変位を求める。マッチングさせる画像列は、ステップS32とステップS34においてそれぞれフィルタリング処理が施されているため、ノイズの影響のない高精度なマッチングを実現することができる。このパターンマッチングは、例えば画像列Pa1に対応する画像列Pb1を互いにずらしながら相関値を求め、その値が最大となる位置が、両画像列が最も相関する位置(以下、最大相関位置という。)として特定する。これを全ての画像列につき実行する。
【0080】
これらステップS35におけるマッチング処理を終了させた後、図9におけるステップS23の重ね合わせ処理を実行する。この重ね合わせ処理では、ステップS22において求められた最大相関位置に、上記新たに撮像して得られた画像領域F1を合わせるための補正を実行する。そして、当該画像領域F1は、キャンバス画像上に画素毎に足し合わせる処理を実行する。また、キャンバス画像上の各画素における重ね合わせ枚数Lには、足し合わせ処理を実行する毎に1を加算する。これにより、パノラマ状の全体画像を構成する各画素値を複数の画像領域の画素値の合計から計算することができるため、ランダムノイズが軽減されたS/N比のよい全体画像を得ることが可能となり、ひいては、見た目の自然な良質の全体画像を作り出すことができる。
【0081】
次にステップS24へ移行し、生成したキャンバス画像を上記全体画像としてモニタ部20へ表示する。即ち、このステップS24では、キャンバス画像の表示に必要な画像領域につき、ステップS33と同様に正規化し、これをモニタ部20へ表示することになる。図13は、モニタ部20の表示画面上に、上述したキャンバス画像を表示する例を示している。撮影開始時において、表示画面上には全く画像が表示されていないのに対し、k秒後には、生成されたキャンバス画像が表示画面の左端から表示される。また2k秒後には新たに画像領域が付け足されたキャンバス画像が順次右側へ接合され、さらに3k秒後には、更なる画像領域が重ね合わされたキャンバス画像が表示される。ちなみに、この3k秒後の表示処理では、生成されたキャンバス画像としての全体画像が画面のサイズを超えてしまうため、新たに重ね合わされた画像領域が優先的に表示される形でこれをスクロールさせる。4k秒の表示処理も同様に、生成された全体画像が画面のサイズを超えてしまうため、新たに重ね合わされた画像領域が優先的に表示される形でこれをスクロールさせる。
【0082】
このように新たに撮像されて生成された画像領域を優先的に表示させることにより、ユーザは、撮影中であっても、モニタ部20を介して生成された画像領域をリアルタイムに確認することができる。
【0083】
ステップS24における表示処理を終了させた後、ステップS25へ移行し、操作部22におけるシャッタボタン221の押圧入力が継続しているか否か、操作信号D1を介して識別する。その結果、未だ当該押圧入力操作が継続している場合には、ステップS21へ戻り、被写体の撮像を繰り返す。これに対して、シャッタボタン221の押圧入力が終了しているものと識別した場合には、図8に示すステップS4の処理を終了させ、図6に示すステップS5へ移行する。
【0084】
ステップS5では、モータ24の駆動を停止させることにより、撮像部10の旋回を停止させる。
【0085】
また次にステップS6に移行した場合において、方式Aに基づき、CMOSイメージセンサ11における撮像面上に結像された全ての被写体の領域を読み出した場合には、当該領域の画像を上述の如く生成したキャンバス画像に接合させる処理を実行する。このステップS6が設けられることは、必ずしも必須とはならないが、特に図14に示すような被写体を撮影する場合において好適である。図14は、大きな木の下にいる人物を撮影する例を示しているが、このステップS6を含む本実施の形態を適用することにより、風で揺れる木の葉の部分を動被写体撮影に好適な方式Bに基づき撮影を実行し、人物の部分を通常の撮影方法としての方式Aに基づき撮影を実行する。
【0086】
最後にステップS7へ移行し、取得した画像データをコーデック処理部16において符号化し、これをメモリ17へ書き込むことで処理を終了させる。
【0087】
このように、本発明を適用した撮像装置1では、上述の如く切り出した画像領域間を重複させることによる画質を向上を実現することができることに加え、さらにカメラの旋回と停止を高速かつ正確に繰り返すハードウェアも必要なくなり、システム全体のコストを抑え込むことができる。
【0088】
なお、上述した実施の形態では、撮影方向を水平方向へ移動させる場合を例に挙げて説明をしたが、かかる場合に限定されるものではなく、撮影方向を垂直方向へ移動させる場合においても本発明を同様に適用することができる。
【0089】
また、撮像部10における撮像が実行される度に、上記画像領域の重ね合わせを行い、さらに重ね合わせ終了後の当該画像領域を廃棄するようにしてもよい。これにより、処理に必要なメモリの容量を小さくすることができるため、ハードウェアの実現コストを低くすることができ、リアルタイム処理により適したシステムを構築することも可能となる。
【0090】
なお本発明は、さらに以下に説明する撮像装置3に適用してもよい。この撮像装置3において上述した撮像装置1と同一の構成、要素については、図1の説明を引用することにより、ここでの説明を省略する。
【0091】
この撮像装置3は、例えば図15に示すように、レンズ部10aを含む撮像部10を介して被写体を撮像し、連結された回転軸を回転中心として図15中の矢印A方向へ回転可能な第1の筐体31と、第1の筐体の下側に配設され、ユーザの片手で把持可能な第2の筐体32とを備えている。ちなみに、この第2の筐体32には、シャッタボタン221と、撮像した画像をユーザ自身が視認するための表示部43とが配設されている。
【0092】
図16(a)、(b)は、この撮像装置3の内部構成を示している。この第1の筐体31は、レンズ部10aと、CMOSイメージセンサ11と、少なくともCDS回路12並びにA/D変換部13を有する第1の電子回路41とを備えている。
【0093】
また、第2の筐体32は、回転軸38を介して第1の筐体31に連結されてなり、この回転軸38を回転させるためのモータ51と、この回転軸38の回転角を制御するためのフォトインターラプタ52並びに遮蔽板53と、この回転軸38の回転動作に対して物理的な制限を加えるためのストッパー54と、第2の筐体32の上面に設けられた連結穴に挿設されてなり、上記回転軸38を支持することにより円滑な回転動作を実現するためのベアリング55と、撮像装置3の各構成要素を制御するための第2の電子回路42と、各構成要素を動作させるためのバッテリー44とを備えている。
【0094】
第2の電子回路42は、図16(b)に示すように、DSP15と、メモリ17と、CPU21と、操作部22と、シャッタボタン221と、表示部43と、モータやフォトインターラプタ、または外部機器との間で画像データを送受信するためのインターフェース47とを備え、また第1の電子回路41との間で電気的な信号を送受信するための配線56が接続されている。
【0095】
ちなみに、この第2の筐体32は、上述した各構成要素に加えて、一般撮影モードと、パノラマ撮影モードとを切り換えるためのボタンや、一般的なデジタルカメラが有する各種ボタンが配設されている。
【0096】
モータ51は、供給された駆動パルスに応じた角速度で回転軸38を回転させるステッピングモータ等で構成される。このモータ51により回転させられる回転軸38の一端側には第1の筐体31が連結され、その中間にはストッパー54が固着される。またこの回転軸38の他端側には遮蔽板53が固着されている。即ち、このモータ51に基づく回転軸38の回転動作に応じて第1の筐体31が回転するとともに、遮蔽板53並びにストッパー54も同様に回転することになる。ちなみに、このモータ51による回転軸38の回転角度における相対的な変位は、モータ51に与えるパルス数で検出することができる。
【0097】
表示部43は、D/A変換部18,ビデオエンコーダ部19,モニタ部20に準ずる構成を全て含み、第2の筐体32側面に設けた液晶表示素子を介して生成した画像を表示する。この表示部43は、回転軸38により回転させられる第1の筐体31と離間して設けられているため、回転軸38の回転に支配されることなく、視認性を向上させることができる。
【0098】
フォトインターラプタ52は、発光体52aと受光体52bとが上下に亘って設けられてなる。この受光体52bは、発光体52aからの光信号を受光し続けることになるが、回転軸38の回転に応じて遮蔽板53がフォトインターラプタ52付近まで回転されてきた場合には、かかる光信号が遮蔽板53により遮蔽されることになる。即ち、この受光体52bが受光する光信号の遮蔽状況から、回転軸38の回転状況を識別することが可能となる。
【0099】
なお、回転軸38が可動範囲を超えて回転した場合には、この遮蔽板53が光信号を遮蔽し、当該遮蔽に応じてモータ51が停止するように構成としてもよい。この図17は、フォトインターラプタ52並びに遮蔽板53を図16中のB方向から捉えたものである。この図17に示すように、可動範囲内においては、遮蔽板53が受光体52bにより受光される光信号を遮ることがないため、モータ51が停止することなく、回転軸38を自在に回転させることができる。これに対して、可動範囲を超えた場合には、遮蔽板53が受光体52により受光される光信号を遮ることになり、モータ51が停止することになる。なお、この可動範囲を超えた場合には、さらにストッパー54を介して第1の筐体31の回転動作を物理的に抑え込むようにしてもよい。
【0100】
このように、第2の筐体32に対する第1の筐体31の回転範囲を制限する仕組みを導入することにより、第1の筐体31から第2の筐体32へのデータの伝送を、フォトカプラを用いた特殊なジョイント部品を使用することなく、通常の可動部分で用いられるようなフレキシブルな配線素材を用いて実現することができる。
【0101】
上述の構成からなる撮像装置3を用いるユーザは、第2の筐体32を把持しつつ、撮影を行う。かかる場合において第2の筐体32外部に設けられたシャッタボタン221を押圧することにより、上述した撮影開始のタイミング、撮影終了のタイミングを指定することができる。第2の筐体32を片手で把持するユーザの指先に当たる箇所に、このシャッタボタン221を設けることにより、指先の小さな動きで撮影の開始及び終了を支持することができる。
【0102】
従って、このような第2の筐体32を片手で把持し、シャッタボタン221を押圧することにより、図18(a)に示す状態から、第1の筐体31が徐々に回転し、図18(b)に示すように撮像部10の撮影方向が変化する。また、このシャッタボタン221を更に押圧し続けることにより、図18(c)に示すように、第1の筐体31が更に回転する結果、撮像部10の撮影方向がさらに変化することになる。即ち、この第1の筐体31は、連結された回転軸38を回転中心として撮像部10の撮影方向が順次変化するように回転可能となるように構成されてなる。
【0103】
ちなみに、この図18(c)に示す状態においてこのシャッタボタン221を押し続けた場合に、上述したフォトインターラプタ52により、モータ51の回転を抑制させた上で、この第1の筐体31を更に反対方向へ向かって回転させるようにしてもよい。
【0104】
ちなみに、この第2の筐体32には、バッテリー44やモータ51等の質量の大きい部品や、多くの回路より構成される第2の電子回路42が搭載されるのに対し、第1の筐体31には、撮影に必要なレンズ部10aや、CMOSイメージセンサ11、第1の電子回路41等のように比較的質量の小さい部品が搭載されている。即ち、この第1の筐体31は、第2の筐体32と比較して質量が軽くなるような構成とされている。これにより、第1の筐体31を回転させる回転軸38やベアリング55等の部品、更にはモータ51等への機械的負荷を軽減させ、製品全体のコストを低く抑え込むことが可能となり、高品質なパノラマ撮影機能を備えた一般的なコンスーマ用のデジタルカメラを低コストで実現することも可能となる。
【0105】
図19は、撮像装置3による撮影工程を示すフローチャートである。
【0106】
撮像装置3は、ハードウェアの診断や初期化を行った後、ステップS61へ移行する。
【0107】
ステップS61では、通常のカメラと同様に、自動露出機能等の補助を利用しつつ、絞り量や露出等をユーザ自身が調整する。その結果、各種撮影パラメータが決定される。
次にステップS62へ移行し、シャッタボタン221の押圧を調べ、撮影開始タイミングを識別する。シャッタボタン221が押圧されていればそのままステップS63へ移行し、押圧されていなければステップS61へ戻る。
【0108】
ステップS63へ移行した場合には、撮像部10により撮像を行う。撮像により取得されたデータは、CDS回路12、A/D変換部13を経て、DSP15へ転送される。
【0109】
ステップS64では、DSP15が画像処理を実行することによりパノラマ状の全体画像を合成する。図20は、連続撮影した画像をつなぎ合わせて1枚のパノラマ状の全体画像を合成する様子を示している。ここで、連続して撮影された各単位画像は、互いに重複領域が生じるように撮影されているものとする。この重複領域については、従来より知られている合成方法に基づいてつなぎ合わせることにより、図20に示すような全体画像を合成することができる。ちなみに、この合成方法として、例えば、アルファブレンディング等の合成技法を用いるようにしてもよい。
【0110】
次にステップS65へ移行し、第1の筐体31を第2の筐体32に対して回転させることにより、撮像部10による撮影方向を僅かに変化させる。この第1の筐体31の回転量は、少なくとも連続して撮影された各単位画像間において互いに重複領域が生じるように調整される。この回転量は、撮像装置3の設計時において幾何学的な計算により予め求めておくこともできる。また、撮影時における撮像装置3全体の揺れ量を検出するための機能を実装しておくことにより、第1の筐体31の回転量を動的に微調整するようしてもよい。
【0111】
なお、このステップS65において、モータ51の回転量をできるだけ小さく設定しておき、かつ単位時間当たりの撮影枚数を増加させて連続撮影を実行することにより、視差による歪みや動被写体を撮影することによる画像の不連続さを解消することができ、高画質な全体画像を合成することが可能となる。このような撮影を行うためには、モータ51の断続的かつ高精度の制御が必要となるが、上述の如く、この第1の筐体31は、第2の筐体32と比較して質量が軽くなるような構成とされているため、これらを低コストで実現することが可能となる。
【0112】
ステップS66では、再びシャッタボタン221の押圧を調べ、撮影終了のタイミングを識別する。このステップS66においてシャッタボタン221の押圧が確認できた場合には、撮影を継続させるべくステップS63へ戻る。これに対し、このステップS66においてシャッタボタン221の押圧が確認できなかった場合には、撮影の終了動作へ移行すべくステップS67へ移行する。
【0113】
ステップS67では、撮影終了時の処理として、合成したパノラマ状の全体画像をメモリ17へ格納する。
【0114】
このように、第1の筐体31と離間した第2の筐体32にシャッタボタン221を搭載することにより、指先の小さな操作だけで撮影の開始、終了を指示することができる。また、第2の筐体32に表示部43を備えることにより、得られた画像の視認性を向上させることができる。
【0115】
また、実際に回転する第1の筐体31内部にレンズ部10aやCMOSイメージセンサ11等のように撮影に最低限必要な部品を少なくとも実装することにより、回転部分の質量が軽くなるため、この第1の筐体31における回転部分を支える部品やこれを回転駆動させるモータ51のコストを下げることができる。またモータ51等の駆動源となる部品をユーザにより把持される第2の筐体32内に実装することにより、モータ51の回転に伴う振動による影響を極力抑えることもできる。
【0116】
またフォトインターラプタ52を用いて、第1の筐体31の回転範囲を制限することにより、回転部分とホールド部分間のデータ転送を通常の安価なフレキシブルな配線素材を用いて実現することができる。
【0117】
なお、この撮像装置3において、上述した撮像装置1の動作を全て行わせるようにしてもよい。これにより、上述した撮像装置3自体の効果に加えて、切り出したスリット状の画像領域間を重複させることによる画質の向上、システム全体のコスト低減等の撮像装置1の効果を相乗的に奏するような撮影システムを構築することも可能となる。
【0118】
また、本発明を適用した撮像装置3は、上述した実施の形態に限定されるものではなく、DSP15、CPU21、表示部43、モータ51、操作部22(シャッタボタン221)、バッテリー44のうち、何れか1つ以上が第2の筐体32内に設けられていればよい。
【0119】
ところで、実際の撮影では、例えば、次の第1のステップ〜第3のステップの一連の処理を、自動で機械が繰り返し行うことになる。
【0120】
第1のステップ:カメラがブレない(動かない)ように、モータを停止させ、カメラを固定させる。
【0121】
第2のステップ:撮影を行う。
【0122】
第3のステップ:モータにより、カメラの向きを変える。
【0123】
この場合、これら3つのステップを着実に行うことは、厳密に言えば、難しい。すなわち、カメラはある質量を持っており、このカメラをモータにより回転させた場合、慣性の法則より、すぐにカメラの回転を停止することは不可能である。つまり、上記第3のステップの直後、第1のステップの状態にすることはできない。そのため、カメラが微小なブレを生じている状態で、第2のステップを行うことになる。従って、第2のステップで得られた画像は微小なブレを有する画像となってしまう。このブレは、慣性の法則に由来するものであり、第3のステップでモータが動かそうとしている向きと同じ向きのブレである。このカメラが移動する方向と同じ方向のブレが、撮影画像中に生じてしまうという問題は以下のように解決することができる。
【0124】
すなわち、この撮像装置3では、上述のように連続して撮影された各単位画像をつなぎ合わせて1枚のパノラマ状の全体画像を合成する場合に生じる画像のブレを目立たなくするために、切り出された画像領域の画像すなわち各単位画像あるいは生成した全体画像に対して異方性のフィルタ処理を施す。
【0125】
例えば、この実施の形態における撮像装置3により水平方向にパニングしながら撮影して、図21に示すように、切り出された画像領域の画像すなわち各単位画像A1,A2,・・・A15を得て、各単位画像A1〜A15に対応する画像a1〜a15からなる図22に示すようなパノラマ画像を生成する場合、水平方向に対して、微小なボケを生じるので、水平方向に対してのみ高域成分を強調するフィルタ処理を施す。
【0126】
具体的な例を、図23に示す。図23は、撮影画像デ−タ(スリット状の画像)の例である。図23中の矢印Aは、撮像装置3の回転方向を示している。ここでは、ボケについて分かりやすく説明するために、正方形の物体を撮影したと仮定している。すなわち、46は、正方形の物体の投影像である。投影像46は、矢印Aの方向のボケを生じている。つまり、投影像46の4つの辺(エッジ)461〜464のうち、上辺461と下辺463は、鮮明(シャープ)な辺(エッジ)として写っているが、右辺462と左辺464はボケた辺(エッジ)となっている。
【0127】
そこで、矢印Aの方向(この場合では、横方向)に高域を強調するフィルタ処理を行う。高域を強調するフィルタの例としては、例えば、図24に示すように、(−1/3)×(注目画素の左隣の画素値)+(5/3)×(注目画素の値)+(−1/3)×(注目画素の右隣の画素値)を計算すれば良い。
【0128】
これにより、例えば、図23に示す画像デ−タは、図25に示す画像データとなり、上辺461と下辺463にそれぞれ対応する上辺471と下辺473は図23と同様に鮮明であり、かつ、右辺462と左辺464にそれぞれ対応する右辺472と左辺474も鮮明となる。
【0129】
このことを踏まえて、この実施の形態における撮像装置3では、図26のフローチャートに示す処理を行ってパノラマ画像を生成する。
【0130】
すなわち、先ずステップS71において、ユーザが通常撮影モードか、あるいは、パノラマ撮影モードかの設定(即ちモード設定)をする。そして、ステップS2に進む。
【0131】
ステップS72では、ユーザがレリーズボタン(シャッターボタン)を押すまで待機する。そして、レリーズボタンが押されたら、ステップS73に進む。
【0132】
ステップS73では、ステップS71において設定されたモードの判定を行う。即ち、通常撮影モードと判定された場合は、ステップS74に進む。パノラマ撮影モードと判定された場合は、ステップS75に進む。
【0133】
ステップS74では、次の処理が行われる。すなわち、CMOSイメージセンサ11は図示しないドライバにより駆動され、1フレ−ム分の画像信号がシリアルなデ−タとして出力される。この出力信号はA/D変換器13によりデジタル信号に変換された後、DSP15に順次送られる。DSP15では、信号中の各色成分の分離、ゲインコントロ−ル、ガンマ補正、色バランスの調整、信号成分のマトリクス演算等が行なわれ、処理された映像信号はメモリ17に記録される。
【0134】
また、ステップS75では、次の処理が行われる。すなわち、CMOSイメージセンサ11はドライバにより駆動され、1フレ−ム分の画像信号がシリアルなデ−タとして出力される。この出力信号はA/D変換器13によりデジタル信号に変換された後、DSP15に順次送られる。DSP15はA/D変換器13からの信号の一部分のみ(スリット状の矩形領域)を取り出し、その部分に対して、信号中の各色成分の分離、ゲインコントロ−ル、ガンマ補正、色バランスの調整、信号成分のマトリクス演算等が行なわれ、処理されたスリット状の映像信号はメモリ17に記録される。なお、この時、CPU21はこの書き込み動作に連動してモータ24に制御信号として回転信号を送る。モータ24はこの回転信号に同期して一定の割合だけ撮像装置3の第1の筐体31をパンニングさせる。ステップS75の後、ステップS76に進む。
【0135】
ステップS76では、メモリ17内にスリット状の画像データが格納されているので、CPU21は、フメモリ17内に格納されたこれらスリット状の画像を、再度、DSP15に転送する。そして、ステップS77に進む。
【0136】
ステップS77において、DSP15は、これら各画像に対して、回転方向と同じ方向の高域強調フィルタをかける。ステップS7の後、ステップS8に進む。
【0137】
ステップS78において、DSP15は、これら画像をつなぎ合わせて、1枚のパノラマ画像を生成する。そして、CPU21は、生成されたパノラマ画像を所定の形式でメモリ17に書き込む。ステップS78の後、この一連の処理は終了する。終了時には、メモリ17にパノラマ画像データが書き込まれている。
【0138】
なお、撮影画像デ−タ(スリット状の画像)に対して高域強調フィルタ処理を行う代わりに、つなぎ合わせた後のパノラマ画像をメモリ17から読み出してDSP15により高域強調フィルタ処理を施すようにしてもよい。
【0139】
このようにして、パノラマ撮影モードにて撮影した場合には、ボケのないパノラマ画像を作成して、そのデータをメモリ17に格納することができる。
【0140】
このように、複数枚の画像を向き(あるいは位置)を変えながら撮影する際に、その向き(第1の方向と呼ぶことにする。即ち、第1の方向とは、連続撮影中における回転方向、あるいは、移動方向のことである。)に対して生じるブレを補償するために、第1の向きに対して高域を強調するフィルタをかける。これにより、ブレのない(目立たない)画像を復元することができる。また、高域を強調する方向は、第1の方向に対してのみであり、第1の方向に直交する方向(第2の方向と呼ぶことにする。)には高域強調フィルタをかけない。撮影画像は、第2の方向に対してはブレのない画像であり、第2の方向に高域強調を行うと、不自然な画像(例えば、エッジ部分でのオーバーシュート、アンダーシュートのある画像。あるいは、ノイズの増加した画像)となってしまうが、本発明においては、第1の方向のみに高域強調フィルタをかけているので、そのような不具合も起きない。
【符号の説明】
【0141】
1,3 撮像装置、10 撮像部、11 CMOSイメージセンサ、12 CDS回路、13 A/D変換部、14 内部バス、15 DSP、16 コーデック処理部、17 メモリ、18 D/A変換部、19 ビデオエンコーダ部、20 モニタ部、21 CPU、22 操作部、23 タイミングジェネレータ、24 モータ、26 露出計、31 第1の筐体、32 第2の筐体、38 回転軸、41 第1の電子回路、42 第2の電子回路、43 表示部、44 バッテリー、51 モータ、221 シャッタボタン

【特許請求の範囲】
【請求項1】
撮影方向を順次変化させて撮影範囲全体の一部を撮像する撮像手段を少なくとも有し、連結された回転軸を回転中心として上記撮像手段の撮影方向が順次変化するように回転可能な第1の筐体と、
上記撮像手段により撮像された画像を順次貼り合わせることにより、上記撮影範囲全体を表す全体画像を生成する全体画像生成手段と、
上記全体画像生成手段により生成された全体画像を表示する表示手段と、
上記回転軸を回転させるための駆動手段と、
上記撮像手段における撮像開始並びに撮像終了の各タイミングを指定するための指定手段と、
上記各構成要素を動作させるためのバッテリーと、
上記回転軸を介して上記第1の筐体に連結され、ユーザの片手で把持可能な第2の筐体とを備え、
上記第2の筐体は、上記全体画像生成手段と、上記表示手段と、上記駆動手段と、上記指定手段と、上記バッテリーとのうち何れか1つ以上が設けられること
を特徴とする撮像装置。
【請求項2】
上記駆動手段は、上記回転軸の回転角を所定内に制限するための制御機構がさらに設けられていること
を特徴とする請求項1記載の撮像装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate


【公開番号】特開2009−232471(P2009−232471A)
【公開日】平成21年10月8日(2009.10.8)
【国際特許分類】
【出願番号】特願2009−131764(P2009−131764)
【出願日】平成21年6月1日(2009.6.1)
【分割の表示】特願2005−21893(P2005−21893)の分割
【原出願日】平成17年1月28日(2005.1.28)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】