説明

撮像装置、信号処理方法及びコンピュータプログラム

【課題】デジタルカメラで撮影した動画の被写体のリアルタイムな逆行補正を行うことを目的とする。
【解決手段】被写体を撮像する際に、動画像のフレームよりも大きい画像を撮影するようにする。また、現動画像のフレーム402の1つ前のフレームにおいて撮像された大きい画像(点線の四角)の輝度信号を保存しておき、その輝度信号を基に現動画像フレーム402の補正を行う。補正の基となる輝度信号は、カメラのパン、チルトの移動方向の情報を基に相当する輝度信号を摘出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタル画像処理、特にデジタル画像の明るさの分布を改善する方法、及びこれに関連した据え置き式の撮像装置、信号処理方法及びコンピュータプログラムに関する。
【背景技術】
【0002】
従来、デジタルカメラやデジタルビデオカメラで適正な明るさの静止画や動画を撮影する方法として、撮影するシーンの平均的な輝度を測定し、カメラのシャッター速度、絞り値などを制御する方式が知られている。
【0003】
また、シーンを所定の領域に分割して領域ごとに測定した輝度に重み付けして、平均的な輝度を求めて適正露出を得ようとする、いわゆる評価測光方式による露出制御方式が知られている。
【0004】
その他の方法として、撮影する主被写体の明るさが背景の明るさに比べて著しく暗いような、いわゆる逆光シーン時、撮影した画像の暗い部分を適切な明るさの画像にするために、アナログ写真技術で用いる、暗室内で行ういわゆる覆い焼き処理を、デジタル画像処理を用いて行う方法がある。
【発明の開示】
【発明が解決しようとする課題】
【0005】
上記デジタル画像処理は、撮影した現在の画像に対して、その画像データにある処理を施したデジタルデータを用いて補正を行うため、リアルタイム処理を行うことはできず、その画像データをデジタル処理する時間分の遅滞時間が発生する。
【0006】
以下、上記デジタル画像処理の逆光シーン時における動画補正において、現フレーム画像をデジタル処理することにより適正な明るさの画像を作り出すために生じる遅延時間の詳細を説明する。
【0007】
図5は従来の逆光補正を行う処理をブロック図に表したものであり、501はYCbCrから成る画像フォーマットの現フレームの画像データである。
【0008】
502は501の現フレームの画像データから輝度信号(Y信号)のみを抽出する現Y信号抽出部である。
【0009】
503は502の現Y信号抽出部にて抽出されたY信号からフィルタを用いてぼけ画像を作成する。
【0010】
504は502から送信されたY信号と、503から送信されたY信号に画像処理を施した信号とから補正処理係数を計算する。
【0011】
505は501から送信される画像信号に504で計算された補正処理係数を掛ける。
【0012】
506は501の画像信号が505で補正処理された結果の補正画像信号であり、501の画像信号を適正な明るさの画像に変換したものとなる。
【0013】
本ブロック図から判るように、506の補正画像を得るためには、現在の画像信号からY信号を抽出し、さらにそのY信号の画像変換を行わなければならないため、補正処理に時間がかかっていた。
【0014】
本発明の目的は、デジタルビデオカメラ等の撮像装置、特にパン(pan)、チルト(tilt)動作を行う据え置き式の撮像装置で撮影した動画像を、できるだけ遅滞なく、かつ適正な明るさの画像として再生することである。
【課題を解決するための手段】
【0015】
本発明の撮像装置は、パン、チルトとに動作する据え置き式の撮像装置であって、被写体を撮像する撮像手段と、前記撮像手段で撮像した画像データから輝度信号を抽出する抽出手段と、前記抽出手段で抽出した輝度信号を記憶する記憶手段と、前記パン、チルトの動作情報を保存する保存手段と、前記保存手段に保存された情報により前記記憶手段で記憶された輝度信号を補償する補償手段と、前記補償手段によって補償された輝度信号を補正する補正手段と、前記補正手段によって補正された輝度信号と前記補償手段によって補償された輝度信号とから補正処理係数を算出する算出手段と、前記算出手段によって算出された補正処理係数と前記撮像手段で撮像した画像データで算術する算術手段と、前記算術手段によって得られた画像データを送信する送信手段とを備えることを特徴とする。
また、本発明の撮像装置は、パン、チルトとに動作する据え置き式の撮像装置であって、被写体を撮像する撮像手段と、前記撮像手段で撮像した画像データから輝度信号を抽出する抽出手段と、前記抽出手段で抽出した輝度信号を記憶する記憶手段と、前記抽出手段に抽出された輝度信号と前記記憶手段で記憶された輝度信号を比較する比較手段と、前記比較手段によって比較されて得られた差分画像データによって前記記憶手段によって記憶された輝度信号を補償する補償手段と、前記補償手段によって補償された輝度信号を補正する補正手段と、前記補正手段によって補正された輝度信号と前記補償手段によって補償された輝度信号とから補正処理係数を算出する算出手段と、前記算出手段によって算出された補正処理係数と前記撮像手段で撮像した画像データで算術する算術手段と、前記算術手段によって得られた画像データを送信する送信手段とを備えることを特徴とする。
また、本発明の撮像装置は、パン、チルトとに動作する据え置き式の撮像装置であって、被写体を撮像する撮像手段と、前記撮像手段で撮像した画像データから輝度信号を抽出する抽出手段と、前記抽出手段で抽出した輝度信号を記憶する記憶手段と、操作情報によって前記輝度信号を補償する補償手段と、前記補償手段によって補償された輝度信号を補正する補正手段と、前記補正手段によって補正された輝度信号と前記補償手段によって補償された輝度信号とから補正処理係数を算出する算出手段と、前記算出手段によって算出された補正処理係数と前記撮像手段で撮像した画像データで算術する算術手段とを備えることを特徴とする。
また、本発明の信号処理方法は、画像データから輝度信号を抽出する抽出工程と、前記抽出工程で抽出した輝度信号を記憶する記憶工程と、操作情報によって前記輝度信号を補償する補償工程と、前記補償工程によって補償された輝度信号を補正する補正工程と、前記補正工程によって補正された輝度信号と前記補償工程によって補償された輝度信号とから補正処理係数を算出する算出工程と、前記算出工程によって算出された補正処理係数と前記画像データで演算処理する処理工程とを備えることを特徴とする。
また、本発明のコンピュータプログラムは、上記記載の信号処理方法の各工程をコンピュータにて実行させることを特徴とする。
【発明の効果】
【0016】
本発明によれば、逆光により暗くなった画像データを補正するために、その画像データよりも時間的に1つ前の画像データを補正のために用いることにより、実際に補正する画像データから補正情報を加工するよりも時間を省くことができるため、画像データの補正にかかる時間が短縮される。これにより、補正処理時間を短縮し、動画データを送信するデジタルビデオカメラ等の撮像装置のリアルタイム処理が可能となる。
【発明を実施するための最良の形態】
【0017】
(第1の実施形態)
図1は、本発明の第1の実施の形態を表す画素補正処理を適用した、PT(PAN(パン)/TILT(チルト))動作可能な据え置き式のネットワークカメラのブロック図である。
【0018】
図1において、101はレンズで、被写体から反射する光を集める。102は絞り機構で、レンズ101を介して入射する光量を制御する。103は撮像部で、カラーフィルタとCCD(Charge Coupled Devices)やCMOSセンサ等から成り、レンズ101から送られてくる光を電荷として蓄える。
【0019】
104は相関2重サンプリング回路(以下、CDS;Correlated Dobule Sampling)で、撮像部103から送られてくる電気信号からクロック及びリセットノイズを除去する。
【0020】
105は自動ゲイン制御用アンプ(以下、AGC;Automatic Gain Control)で、CDS104の出力をコントロール信号に応じて増幅する。
【0021】
106はクランプ回路で、入力電圧の黒レベルを所定の電圧に固定する。107はA/D(Analog to Digital)変換回路で、クランプ回路106から送られてきたアナログ電気信号をデジタル電気信号に変換する。
【0022】
108は画像信号処理部で、A/D変換回路107から送られてきた電気信号にホワイトバランスの調整やシャッタースピード、絞り制御等の画像処理を施し、YCbCrから成る画像フォーマットに変換して出力を行う。
【0023】
109は画像補正部で、前述の据え置き式のネットワークカメラで撮影した画像を適正な明るさに補正する部分であり、後で詳述する。
【0024】
110はCPU、111はCPU110に直接接続する内部バス、112はCPU110のバスに接続されたROMで、CPU110が実行するための制御プログラムが格納されている。113はRAMで、CPU110のワークエリアで、画像処理時に画像の展開に使用したりする。
【0025】
114は通信部で、CPU110で処理された画像データをネットワーク回線に対して送出し、また、ネットワーク回線から送られてくるネットワークカメラ用制御信号を受信する。
【0026】
115はモータドライバで、CPU110からの制御信号により、モータの回転方向、回転速度を変える。
【0027】
116はPAN/TILTユニット(雲台)で、レンズ101の方向をモータドライバ115が動作することにより変えさせる。
【0028】
実際、レンズ101は、通信部114を通して本据え置き式のネットワークカメラを操作している操作者の指示(制御コマンド)が送信され、その制御コマンドが内部バス111経由でCPU110に伝わり、CPU110がモータドライバ115の制御をして、PAN/TILTユニット116を動作させることにより向きが変わる。
【0029】
尚、本実施の形態では、被写体が動作しないものとして以下に説明する。図2は、図1で示した画像補正部109を詳細に示したブロック図である。
【0030】
図2において、201は図1の画像信号処理部108から送られてきたYCbCrの画像フォーマットから成る電気信号(現フレームの画像データ)であって、本発明で説明するネットワークカメラで撮影する動画像の1フレーム分の情報を有する。
【0031】
202は201で受信したYCbCrから成る画像フォーマットのフレームよりY信号(輝度信号)のみを抜き出す現Y信号抽出部である。
【0032】
203は202から抽出したY信号よりも時間的に1フレーム前の信号を記憶する前Y信号記憶部である。
【0033】
204はPT動作補償部であり、図1のPAN/TILTユニット116の動作方向、動作距離の情報を図1のCPU110より受ける。
【0034】
205は203のY信号から204のPT動作補償部により動作補償を行った後の1フレームのY信号である。詳しくは、図3、4の説明の際に後述する。
【0035】
206は画像変換処理部であり、205から送られてきたY信号の画像に対してガウシアンフィルタなどのぼかし処理を施す。
【0036】
207は補正処理係数算出部であり、206で画像処理された画像信号と205の画像信号からの情報を基に係数を算出する部分である。
【0037】
208は補正処理部であり、207の補正処理係数算出部で算出された係数をYCbCrのそれぞれの信号に対して掛け合わせることにより画像の補正を行う。
【0038】
209は、208の補正処理部で処理された後の補正画像であり、YCbCr信号で表される。
【0039】
図3は、図1の撮像部103で記録される被写体の画像サイズを表す図である。301は撮像部103で記録できる被写体の最大の画像サイズを示し、302は本ネットワークカメラで撮影可能な画像サイズを示す。
【0040】
本図に示すように、画像の横方向をx方向、縦方向をy方向とすると、301のフレームサイズは302のフレームサイズより±x方向、±y方向のそれぞれにおいて、最低Δ
x、Δy分サイズが大きいものとする。
【0041】
ここで、図2の202でY信号を抽出後、次のY信号を抽出するまでの時間をΔtとす
ると、このΔtの時間にパン(±x方向の移動)、チルト(±y方向の移動)で移動する
最大移動量がそれぞれΔx、Δyである。
【0042】
図4は、図3同様、図1の撮像部103で記録される被写体の画像サイズを表し、図3より1フレーム分を撮像する時間が経過した後に撮影した画像を表しており、その1フレーム分の時間に図の+x方向にパンしたものとする。
【0043】
401は301同様、撮像部103で記録できる被写体の最大の画像サイズであり、現在の被写体の画像サイズを表している。402は302同様、本ネットワークカメラで撮影可能な画像サイズを表しており、現在の1フレーム分の画像サイズを示す。
【0044】
点線の四角は、図3の301で示した画像サイズであり、本図で示した401の1フレーム前の画像を表しており、この301の画像サイズ内に402の画像が収まっている。
【0045】
図6は、図2のブロック図で示した画像補正部の動作の流れを示したフローチャート図であり、図1、図2、図3及び図4を基に本実施の形態の動作例を詳細に説明する。
【0046】
ステップS601では、図1の画像信号処理部108からYCbCrのフォーマットの画像データを受け取る。
【0047】
ステップS602では、図2の202に示す現Y信号抽出部で、201で受け取ったYCbCrの画像信号からY信号だけを抽出する。
【0048】
ステップS603では、図2の203において202から受け取ったY信号を保存する。
【0049】
ステップS604では、図2の203で保存したY信号に204におけるPT動作補償を加味し、前フレーム(1フレーム前)のY信号と同等になるようにY信号を作成する。
【0050】
このPT動作補償は、図4で説明したように、現フレームが、時間的に1つ前の最大フレームサイズと重複していることから、この1つ前の全フレームと、カメラの移動方向の情報からその移動方向に相当する輝度信号を摘出することによって作成される。
【0051】
ステップS605では、図2の206において、ガウシアンフィルタなどのフィルタを用いてぼけ画像を作成する。
【0052】
この206においては、205から受け取ったY信号をそのままフィルタにかける。また、別の方法として、205から受け取ったY信号から成る画像を何段階か縮小し、その縮小画像のそれぞれにガウシアンフィルタなどのぼけ画像を作成するためのフィルタを掛け、その後、それぞれのぼけ画像を、縮小する前の画像の大きさに拡大する処理を施し、拡大した画像のそれぞれから平均を取った画像を作成する。
【0053】
この、もとのY信号から何段階かの縮小画像を用いてぼけ画像を作成し、平均を取ることによって、1回の画像変換時よりも変換後の画像データが、不自然さがなくなりよりスムーズな画像となる。
【0054】
ステップS606では、図2の205で作成したY信号と206で作成したぼけ画像との比から補正処理係数を算出する。
【0055】
ステップS607では、図2の207で算出した補正処理係数を201の画像データに掛け合わせることにより、209の補正画像(逆光補正を施した画像)を作成し、本発明で用いるネットワークカメラでの画像補正ができる。
【0056】
以上説明したように、ステップS603にて現フレームより時間的に1つ前フレームの輝度信号を保存し、その輝度信号を基に現フレームの補正を行うことで、現フレームから抽出した輝度信号を用いるよりも画像補正にかかる時間を短縮することが可能となる。
【0057】
(第2の実施の形態)
図1は、本発明の第2の実施の形態を表す画素補正処理を適用した、PT可能な据え置き式のネットワークカメラのブロック図である。各ブロックの説明は、第1の実施の形態で説明したのでここでは割愛する。尚、本実施の形態では、パン及びチルトの動作は行わないものとして以下に説明する。
【0058】
図7は、図1で示した109の画像補正部を詳細に示したブロック図である。図7において、701は図1の画像信号処理部108から送られてきたYCbCrの画像フォーマットから成る電気信号(現フレームの画像データ)であって、本発明で説明するネットワークカメラで撮影する動画像の1フレーム分の情報を有する。
【0059】
702は701で受信したYCbCrから成る画像フォーマットのフレームよりY信号(輝度信号)のみを抜き出す現Y信号抽出部である。
【0060】
703は702から抽出したY信号よりも時間的に1フレーム前の信号を記憶する前Y信号記憶部である。
【0061】
704は動き検出部であり、702の現Y信号抽出部から抽出したY信号と703の前Y信号記憶部に記憶したY信号とを比較し動きベクトルを検出する。
【0062】
705は動き補償部であり、704の動き検出部で検出された動きベクトルにより703のY信号が動き補償される。
【0063】
706は擬似Y信号であり、705の動き補償部で作成されたものである。
【0064】
707は画像変換処理部であり、706から送られてきたY信号の画像に対してガウシアンフィルタなどのぼかし処理を施す。
【0065】
708は補正処理係数算出部であり、707で画像処理された画像信号と706の画像信号の情報を基に係数を算出する部分である。
【0066】
709は補正処理部であり、708の補正処理係数算出部で算出された係数を701のYCbCrのそれぞれの信号に対して掛け合わせることにより画像の補正を行う。
【0067】
710は709の補正処理部で処理された後の補正画像であり、YCbCr信号で表される。
【0068】
図8は、図7のブロック図で示した画像補正部の動作の流れを示したフローチャート図であり、図1、図7及び本図を基に本実施の形態の動作例の詳細を説明する。
【0069】
ステップS801では、図1の画像信号処理部108からYCbCrのフォーマットの画像データを受け取る。
【0070】
ステップS802では、図7の702に示す現Y信号抽出部で、701で受け取ったYCbCrの画像信号からY信号だけを抽出する。
【0071】
ステップS803では、図7の703において702から受け取ったY信号を保存する。
【0072】
ステップS804では、図7の702で抽出したY信号と703で保存したY信号とを比較して得た動きベクトルを検出する。
【0073】
ステップS805では、図7の703で保存したY信号に704で検出した動きベクトルを考慮して動き補償を行う。
【0074】
ステップS806では、図7の705で動き補償を考慮して得たY信号を作成し、706で保存する。
【0075】
ステップS807では、図7の706で保存したY信号を用いて第1の実施の形態で記した画像処理と同様に画像変換を行う。
【0076】
ステップS808では、図7の706で作成したY信号と707で作成したぼけ画像との比から補正処理係数を算出する。
【0077】
ステップS809では、図7の708で算出した補正処理係数を701の画像データに掛け合わせることにより、710の補正画像(逆光補正を施した画像)を作成し、本発明で用いるネットワークカメラでの画像補正ができる。
【0078】
以上説明したように、ステップS803にて現フレームより時間的に1つ前のフレームの輝度信号を保存し、その輝度信号を基に現フレームの補正を行うことで、現フレームから抽出した輝度信号を用いるよりも画像補正にかかる時間を短縮することが可能となる。
【0079】
また、第1の実施の形態では、カメラで撮影する被写体が動作しないという仮定の下で説明した。また、第2の実施の形態では、カメラで撮影する被写体は動作するが、カメラ自体が固定であると仮定した。実際の据え置き式のデジタルカメラの使用例では、カメラで撮影する被写体もカメラ自体も動作する。この場合の具体的な実施の形態はここでは割愛するが、第1の実施の形態と第2の実施の形態とを合わせて容易に推測可能である。
【0080】
なお、本発明の目的は、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
【0081】
この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0082】
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0083】
また、コンピュータが読み出したプログラムコードを実行することにより、上述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(基本システム或いはオペレーティングシステム)等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0084】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【図面の簡単な説明】
【0085】
【図1】本実施の形態に係る撮像装置のブロック図である。
【図2】本発明の第1の実施の形態に係る撮像装置の要部を説明するためのブロック図である。
【図3】本発明の第1の実施の形態に係る撮像装置で撮影する撮像フレームの大きさを示した図である。
【図4】本発明の第1の実施の形態に係る撮像装置で撮影する撮像フレームの大きさを示した図である。
【図5】従来の撮像装置の画像変換について説明するための図である。
【図6】本発明の第1の実施の形態に係る動作例を説明するためのフローチャートである。
【図7】本発明の第2の実施の形態に係る撮像装置の要部を説明するためのブロック図である。
【図8】本発明の第2の実施の形態に係る動作例を説明するためのフローチャートである。
【符号の説明】
【0086】
101 レンズ
102 絞り機構
103 撮像部
104 CDS
105 AGC
106 クランプ回路
107 A/D変換回路
108 画像信号処理部
109 画像補正部
110 CPU
111 内部バス
112 ROM
113 RAM
114 通信部
115 モータドライバ
116 PAN/TILTユニット

【特許請求の範囲】
【請求項1】
パン、チルトとに動作する据え置き式の撮像装置であって、
被写体を撮像する撮像手段と、
前記撮像手段で撮像した画像データから輝度信号を抽出する抽出手段と、
前記抽出手段で抽出した輝度信号を記憶する記憶手段と、
前記パン、チルトの動作情報を保存する保存手段と、
前記保存手段に保存された情報により前記記憶手段で記憶された輝度信号を補償する補償手段と、
前記補償手段によって補償された輝度信号を補正する補正手段と、
前記補正手段によって補正された輝度信号と前記補償手段によって補償された輝度信号とから補正処理係数を算出する算出手段と、
前記算出手段によって算出された補正処理係数と前記撮像手段で撮像した画像データで算術する算術手段と、
前記算術手段によって得られた画像データを送信する送信手段とを備えることを特徴とする撮像装置。
【請求項2】
パン、チルトとに動作する据え置き式の撮像装置であって、
被写体を撮像する撮像手段と、
前記撮像手段で撮像した画像データから輝度信号を抽出する抽出手段と、
前記抽出手段で抽出した輝度信号を記憶する記憶手段と、
前記抽出手段に抽出された輝度信号と前記記憶手段で記憶された輝度信号を比較する比較手段と、
前記比較手段によって比較されて得られた差分画像データによって前記記憶手段によって記憶された輝度信号を補償する補償手段と、
前記補償手段によって補償された輝度信号を補正する補正手段と、
前記補正手段によって補正された輝度信号と前記補償手段によって補償された輝度信号とから補正処理係数を算出する算出手段と、
前記算出手段によって算出された補正処理係数と前記撮像手段で撮像した画像データで算術する算術手段と、
前記算術手段によって得られた画像データを送信する送信手段とを備えることを特徴とする撮像装置。
【請求項3】
パン、チルトとに動作する据え置き式の撮像装置であって、
被写体を撮像する撮像手段と、
前記撮像手段で撮像した画像データから輝度信号を抽出する抽出手段と、
前記抽出手段で抽出した輝度信号を記憶する記憶手段と、
操作情報によって前記輝度信号を補償する補償手段と、
前記補償手段によって補償された輝度信号を補正する補正手段と、
前記補正手段によって補正された輝度信号と前記補償手段によって補償された輝度信号とから補正処理係数を算出する算出手段と、
前記算出手段によって算出された補正処理係数と前記撮像手段で撮像した画像データで算術する算術手段とを備えることを特徴とする撮像装置。
【請求項4】
画像データから輝度信号を抽出する抽出工程と、
前記抽出工程で抽出した輝度信号を記憶する記憶工程と、
操作情報によって前記輝度信号を補償する補償工程と、
前記補償工程によって補償された輝度信号を補正する補正工程と、
前記補正工程によって補正された輝度信号と前記補償工程によって補償された輝度信号とから補正処理係数を算出する算出工程と、
前記算出工程によって算出された補正処理係数と前記画像データで演算処理する処理工程とを備えることを特徴とする信号処理方法。
【請求項5】
請求項4に記載の方法の各工程をコンピュータにて実行させることを特徴とするコンピュータプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2007−215000(P2007−215000A)
【公開日】平成19年8月23日(2007.8.23)
【国際特許分類】
【出願番号】特願2006−33981(P2006−33981)
【出願日】平成18年2月10日(2006.2.10)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】