説明

画像処理装置、デジタルカメラおよび画像処理プログラム

【課題】少ない枚数の画像から正確な背景画像を生成する。
【解決手段】複数の画像を取得し(S1)、取得した画像の枚数に応じて画像の階調数を設定し、この階調数により複数の画像の各画素の階調値の度数分布を作成する(S3〜S7)。そして、作成された度数分布から画素ごとの最頻度の階調値を検索し(S8)、検索された画素ごとの最頻度の階調値を用いて画像の内の背景部分の画像を生成する(S9)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理装置、デジタルカメラおよび画像処理プログラムに関する。
【背景技術】
【0002】
連写画像の各画素に対して画素値のヒストグラムを作成し、頻度が最大となる画素値を選択してその画素値を当該画素における背景値とし、背景画像を生成するようにした画像処理装置が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−230045号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した従来の画像処理装置では、背景画像を生成するために大量の画像が必要となるが、一般的なデジタルカメラによる撮影では大量の静止した状態の画像を取得することは難しいという問題がある。例えば、8ビットで3チャンネル(RGB)の画像の場合には、1チャンネル当たりの階調分解能は256となり、少なくとも256枚以上の連写画像が必要になる。したがって、連写間隔を30FPSとすると撮影に8.5秒もかかることになり、一般的な撮影ではこのような大量の連写画像を撮影するのは困難である。
【課題を解決するための手段】
【0005】
(1) 本発明の画像処理装置は、複数の画像を取得する画像取得手段と、前記画像取得手段で取得した画像の枚数に応じて前記画像の階調数を設定し、該階調数により前記複数の画像の各画素の階調値の度数分布を作成する度数分布作成手段と、前記度数分布作成手段により作成された前記度数分布から画素ごとの最頻度の階調値を検索する検索手段と、前記検索手段により検索された画素ごとの最頻度の階調値を用いて、前記画像の内の背景部分の画像を生成する生成手段とを備える。
(2) 本発明のデジタルカメラは、画像を撮像する撮像手段と、前記撮像手段により撮像された複数の画像を処理する上記画像処理装置とを備える。
(3) 本発明の画像処理プログラムは、複数の画像を取得する画像取得ステップと、前記画像取得ステップで取得した画像の枚数に応じて前記画像の階調数を設定し、該階調数により前記複数の画像の各画素の階調値の度数分布を作成する度数分布作成ステップと、前記度数分布作成ステップにより作成された前記度数分布から画素ごとの最頻度の階調値を検索する検索ステップと、前記検索ステップにより検索された画素ごとの最頻度の階調値を用いて、前記画像の内の背景部分の画像を生成する生成ステップとをコンピューターに実行させる。
【発明の効果】
【0006】
本発明によれば、少ない枚数の画像から画素ごとの階調値の近似度数分布を作成でき、画素ごとの最頻度の階調値により正確な背景画像を生成することができる。
【図面の簡単な説明】
【0007】
【図1】一実施の形態のデジタルカメラの構成を示す図
【図2】一実施の形態の画像処理プログラムを示すフローチャート
【図3】背景画像を生成する際に取得したn枚の画像を示す図
【図4】あるカラーのある座標の画素の階調値のヒストグラムを示す図
【図5】取得した画像の枚数が少ない場合のヒストグラムの一例を示す図
【図6】取得した画像の枚数に応じた階調数を設定した場合のヒストグラムの一例を示す図
【図7】背景画像の生成例を示す図
【発明を実施するための形態】
【0008】
図1は、一実施の形態のデジタルカメラ(以下、単にカメラという)1の構成を示すブロック図である。なお、図1では本発明の画像処理機能と直接的に関係のないカメラの機器および回路の図示と説明を省略する。図1において、カメラ1は撮影レンズ2、撮像素子3、AFE(Analog Front End)回路4、フレームメモリ5、画像処理回路6、AF回路7、レンズ駆動回路8、操作部材9、メモリ10、ドライバー11、モニター12、インターフェース13、メモリカード14、コントローラー15などを備えている。
【0009】
撮影レンズ2は単レンズとして図示しているが、ズーミングレンズやフォーカシングレンズを含む複数のレンズ群で構成され、被写体像を撮像素子3の受光面上に結像させる。撮像素子3は、受光面に複数の赤R画素、緑G画素、青B画素が二次元状にベイヤー配列されたCMOSイメージセンサなどから構成され、撮影レンズ2により結像された被写体像を光電変換してアナログ画像信号を出力する。
【0010】
AFE回路4は、アナログ画像信号に対して相関二重サンプリングやゲイン調整などのアナログ処理を行うとともに、アナログ処理後の画像信号をデジタル画像データに変換する。フレームメモリ5は、撮像素子3により撮像されAFE回路4によりアナログ処理された画像信号をフレーム単位で一時記憶する記憶回路である。画像処理回路6は、デジタル画像データに対して各種の画像処理(色補間処理、階調変換処理、輪郭強調処理、ホワイトバランス調整処理、画像圧縮処理、画像伸張処理など)を施す。
【0011】
AF回路7は、撮像画素R、G、Bから出力される画像信号のコントラストがピークとなるフォーカシングレンズ位置を検出する回路である。レンズ駆動回路8は、AF回路7によるAF検出結果に基づいて撮影レンズ2のフォーカシングレンズを駆動し焦点調節を行うとともに、ズーミングレンズを駆動して焦点距離を変える。操作部材9には、レリーズ半押しおよび全押しスイッチ、ズームスイッチ、モードスイッチ、メニュースイッチ、十字スイッチ、OKスイッチなどの各種スイッチ類が含まれる。
【0012】
メモリ10は画像および情報を記憶するRAMなどの記憶素子である。モニター12は、撮像素子3により撮像したスルー画像や撮影した画像と各種情報を表示するLCDである。ドライバー11はモニター12の表示制御を行う。インターフェース13は、メモリカード14に対する画像データや各種情報データの書き込みや、メモリカード14からの画像データや各種情報データの読み込みを行う。
【0013】
コントローラー15はCPU15aとメモリ15bなどの周辺部品から構成され、撮像、露出、焦点調節(AF)、画像表示などのカメラ1の各種動作を制御するとともに、後述する画像処理プログラムを実行して撮像画像から背景画像を抽出する処理を行う。メモリ15bにはカメラ1の各種演算および制御を行うためのプログラムや後述する画像処理プログラム、種々の情報などが記憶されている。
【0014】
図2は一実施の形態の画像処理プログラムを示すフローチャートである。カメラ1のコントローラー15は、カメラ1の操作部材9の電源スイッチが投入されモードセレクターにより背景画像の生成モードが設定されると、図2に示す画像処理プログラムの実行を開始する。
【0015】
ステップ1において背景画像を生成するための連写画像を取得する。ここでは、撮像素子3により撮像されAFE回路4によりアナログ処理を施されてフレームメモリ5に記憶されている連写画像n枚を取得し、これらの画像から移動体を分離して背景画像のみを生成する。なお、この一実施の形態ではカメラ1で撮像された複数枚の画像から背景画像を生成する例を示すが、対象となる画像はカメラ1の撮影画像に限定されず、例えばメモリカード14から読み込んだ複数枚の連写画像であってもよい。
【0016】
ステップ2では、背景画像を生成するために取得した画像の枚数を計数する。この一実施の形態ではn枚の画像を取得したものとする。ステップ3で、背景画像を抽出するために取得した画像の枚数nに応じた階調分割幅zを決定する。
【0017】
ここで、図3〜図7を参照してn枚の画像から各画素の階調値のヒストグラムを作成し、画素ごとの最頻度の階調値を求めて背景画像を生成する一実施の形態の画像処理方法を説明する。取得した画像の階調値dは次式で表される。
d=Ic(x,y,n) ・・・(1)
(1)式において、Iは光強度、cはカラーで赤Rまたは緑Gまたは青B、x,yは画像上の画素位置を表す横方向と縦方向の座標である。
【0018】
図3は背景画像を生成する際に取得したn枚の画像を示し、図4はあるカラーのある座標の画素の階調値のヒストグラム例を示す。図3に示すn枚の画像から、カラー(RGB)と座標(画素)を指定し、(1)式により図4に示すようなカラーと座標ごとの取得枚数n枚分の階調値dのヒストグラムを作成する。
【0019】
例えば8ビット、3チャンネル(R、G、B)の画像を例に挙げて説明すると、1チャンネル当たりの階調分解能は256であるから、少なくとも256枚以上の連写画像がないと正確な階調値のヒストグラムを作成することができない。ところが、連写間隔を30FPSとすると256枚の画像を得るためには8.5秒の撮影時間が必要となり、通常の手持ち撮影ではこのような長時間にわたってほぼ同一の画角での連写を行うのは難しい。
【0020】
図4に示す階調数256に対して連写による画像の取得枚数が少ないと、ヒストグラムが分散して図5に示すようなヒストグラムになる。このようなヒストグラムによれば、最頻度の階調値が正確に求められないため、正確な背景画像を生成することができない。
【0021】
そこで、この一実施の形態では、ヒストグラムの分解能すなわち階調数を背景画像を生成するための画像の枚数nとする。つまり、画像枚数nに応じて減色を実施する。したがって、階調分割幅zは、
z=255/n ・・・(2)
となり、減色した画像の階調値d’は、
d’=int(d/z)=int{Ic(x,y,t)/z} ・・・(3)
となる。
【0022】
この減色した画像の階調値d’を用いてカラーと座標を指定し、取得画像n枚分の階調値のヒストグラムを作成することによって、誤判定の少ない近似的なヒストグラムを作成することができる。
【0023】
図6は、階調数を255からnに減色した場合のあるカラーのある座標の階調値d’のヒストグラム例を示す。このようにして作成したすべてのカラーのすべての座標のヒストグラムから、カラーと座標ごとの最頻度の階調値d’を検索し、検索した階調値d’を画像の階調値に設定することによって、近似背景画像を生成することができる。つまり、少ない枚数の画像から、本来の256枚の画像から得られる最頻度の階調値に近い階調値を得ることができる。
【0024】
取得画像の枚数nを例えば30枚とした場合、30FPSの連写間隔では1秒で撮影できるから、通常の連写撮影においても十分に可能な条件となり、短時間の静止状態の撮影画像から正確な背景画像を生成することができる。
【0025】
図7は、一実施の形態の画像処理により図3に示す30枚の連写画像から生成した背景画像を示す。図3に示す元画像には移動体すなわちフェンシングをする人物像が写っているが、図7に示す背景画像では移動体すなわちフェンシングをする人物像が削除され、背景のみの画像となっている。
【0026】
図2のステップ3で上記(2)式により画像枚数nに応じた階調分割幅zを決定した後、ステップ4でn枚の取得画像の内の1枚目の画像を入力する。そして、ステップ5において上記(3)式によりカラーと座標ごとの減色した画像の階調値d’を演算する。続くステップ6では、取得したn枚の画像に対してステップ5の階調値d’の演算を終了したか否かを確認し、終了していない場合はステップ4へ戻って次の画像を入力し、階調値d’の演算を行う。
【0027】
すべての取得画像に対して階調値d’の演算を終了した場合はステップ7へ進み、カラーと座標ごとに階調値d’のヒストグラムを作成する。次に、ステップ8で、作成したすべてのカラーとすべての座標のヒストグラムから、カラーと座標ごとの最頻度の階調値d’を検索する。ステップ9では、検索したカラーと座標ごとの最頻度の階調値d’を用いて背景画像を生成する。
【0028】
なお、取得した元画像データから背景画像データを減ずることによって、元画像に写り込んでいた移動体、例えば図3に示すようなフェンシングをする人物像のみを得ることができる。このような移動体の画像データにより、シーン解析や移動体追尾制御などを行うことができる。
【0029】
上述した実施の形態とその変形例では、本発明を画像処理装置として実現する一例を示したが、一般的なパーソナルコンピューターに本発明の画像処理プログラムをインストールして実行し、パソコン上で上述した画像処理を行ってもよい。なお、本発明の画像処理プログラムはCD−ROMなどの記録媒体に記録して提供してもよいし、インターネットを介してダウンロード可能にしてもよい。あるいは、本発明の画像処理装置または画像処理プログラムをビデオカメラに搭載し、撮像した動画像に対して上述した画像処理を実行するものであってもよい。
【0030】
なお、上述した実施の形態とそれらの変形例において、実施の形態と変形例とのあらゆる組み合わせが可能である。
【0031】
上述した実施の形態とその変形例によれば、複数の画像を取得し、取得した画像の枚数に応じて画像の階調数を設定し、この階調数により複数の画像の各画素の階調値の度数分布を作成する。そして、作成された度数分布から画素ごとの最頻度の階調値を検索し、検索された画素ごとの最頻度の階調値を用いて画像の内の背景部分の画像を生成するようにしたので、少ない枚数の画像から画素ごとの階調値の近似度数分布を作成でき、画素ごとの最頻度の階調値により正確な背景画像を生成することができる。
【符号の説明】
【0032】
2;撮影レンズ、3;撮像素子、5;フレームメモリ、6;画像処理回路、15;コントローラー

【特許請求の範囲】
【請求項1】
複数の画像を取得する画像取得手段と、
前記画像取得手段で取得した画像の枚数に応じて前記画像の階調数を設定し、該階調数により前記複数の画像の各画素の階調値の度数分布を作成する度数分布作成手段と、
前記度数分布作成手段により作成された前記度数分布から画素ごとの最頻度の階調値を検索する検索手段と、
前記検索手段により検索された画素ごとの最頻度の階調値を用いて、前記画像の内の背景部分の画像を生成する生成手段とを備えることを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記度数分布作成手段は、前記画像の元の階調数を前記取得した画像の枚数と同一の階調数まで減色して階調値を求めることを特徴とする画像処理装置。
【請求項3】
画像を撮像する撮像手段と、
前記撮像手段により撮像された複数の画像を処理する請求項1または請求項2に記載の画像処理装置とを備えることを特徴とするデジタルカメラ。
【請求項4】
複数の画像を取得する画像取得ステップと、
前記画像取得ステップで取得した画像の枚数に応じて前記画像の階調数を設定し、該階調数により前記複数の画像の各画素の階調値の度数分布を作成する度数分布作成ステップと、
前記度数分布作成ステップにより作成された前記度数分布から画素ごとの最頻度の階調値を検索する検索ステップと、
前記検索ステップにより検索された画素ごとの最頻度の階調値を用いて、前記画像の内の背景部分の画像を生成する生成ステップとをコンピューターに実行させることを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2012−19284(P2012−19284A)
【公開日】平成24年1月26日(2012.1.26)
【国際特許分類】
【出願番号】特願2010−154086(P2010−154086)
【出願日】平成22年7月6日(2010.7.6)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】