画像処理装置
【課題】動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成可能な画像処理装置を提供する。
【解決手段】動画を形成する第1の画像データと第2の画像データに重畳するノイズパターンを生成するノイズパターン制御部117と、生成されたノイズを第1及び第2の画像データに重畳するノイズ重畳処理部119と、ノイズ重畳処理部119で処理された第1及び第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮展開部115を具備し、ノイズパターン制御部117は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、第1のノイズパターンとは異なる第2のノイズパターンを生成し、ノイズ重畳処理部119は、第1の画像データに第1のノイズパターンを合成し、第2の画像データに第2のノイズパターンを合成する。
【解決手段】動画を形成する第1の画像データと第2の画像データに重畳するノイズパターンを生成するノイズパターン制御部117と、生成されたノイズを第1及び第2の画像データに重畳するノイズ重畳処理部119と、ノイズ重畳処理部119で処理された第1及び第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮展開部115を具備し、ノイズパターン制御部117は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、第1のノイズパターンとは異なる第2のノイズパターンを生成し、ノイズ重畳処理部119は、第1の画像データに第1のノイズパターンを合成し、第2の画像データに第2のノイズパターンを合成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ノイズパターンを重畳した複数の画像データを圧縮可能な画像処理装置に関する。
【背景技術】
【0002】
デジタルカメラ等の撮像装置で撮影した画像に対し、フィルムのような粒状感(ノイズ感)を再現するためにノイズパターンを重畳する技術が提案されている。特許文献1には、画素単位で乱数を発生させ、周波数フィルタ処理やスケール変更を行って期待する粒状度の粒状を画像に重畳させるようにした画像処理装置が開示されている。
【0003】
また、特許文献2には、粒状パターンの算出について、均一露光されたカラーフィルタから得られた露光画像から平滑化した画像を減算することで、銀塩写真に近い粒状感を可能にした画像処理装置が開示されている。さらに、特許文献3には、ベイヤ―配列などの単板画像を同時化した画像データに対してノイズパターンを重畳することで、フィルムの粒状感のあるノイズ重畳画像を生成することの可能な画像処理装置が開示されている。
【0004】
また、デジタルカメラ等の撮像装置では、動画も撮影可能となってきている。動画の圧縮形式としては、MPEGやH.264等があり、圧縮する動画のフレームのみを用いて圧縮するフレーム内圧縮と、複数のフレームの相関を利用して圧縮するフレーム間圧縮がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】米国特許第5641596号明細書
【特許文献2】特許第3910267号公報
【特許文献3】特開2010−62836号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
フィルムのような粒状感のある動画ファイルを生成する場合、フレームが変わっても常に同じノイズやノイズパターン等を重畳すると、被写体はフレーム単位で動いているにも関わらず、ノイズは止まって見えるという違和感のある動画になってしまう。このため、フレーム単位や一定時間ごとにノイズパターンを変更する必要がある。
【0007】
一方で、一般的な動画ではフレーム間の相関がある程度期待できるため、MPEGやH.264等の圧縮形式においてフレーム間圧縮を行っても視覚的に違和感の少ない動画圧縮を行うことが可能である。しかし、フレームごとや時間的に異なるノイズを重畳した画像データを圧縮する場合、フレーム間圧縮しようとしても、ノイズのパターンが異なるため相関が低下し、圧縮率を維持するとノイズパターンがつぶれてしまったり、ノイズの粒状感を維持しようとすると圧縮率が低下してしまう。
【0008】
本発明は、このような事情を鑑みてなされたものであり、動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成できるようにした画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため第1の発明に係わる画像処理装置は、動画を形成する第1の画像データと第2の画像データを生成する画像データ生成部と、上記各画像データに重畳するノイズパターンを生成するノイズパターン生成部と、上記生成されたノイズを上記第1及び第2の画像データに重畳する合成処理部と、上記合成処理部で処理された第1の画像データと第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮部と、上記圧縮された画像データを記録する記録部と、を具備し、上記ノイズパターン生成部は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、上記第1のノイズパターンとは異なる第2のノイズパターンを生成し、上記合成処理部は、上記第1の画像データに上記第1のノイズパターンを合成し、上記第2の画像データに上記第2のノイズパターンを合成する。
【0010】
第2の発明に係わる画像処理装置は、上記第1の発明において、上記画像圧縮部における画像圧縮は基準となるブロックサイズの単位で行うものであり、上記ノイズパターンは、上記第1の画像の画像フレーム上の所定位置のブロックに合成されたノイズパターンと同一のノイズを、上記第2の画像の画像フレーム上の対応する位置近傍で、且つ上記第1の画像と第2の画像の相関を調べる領域内の位置に合成する。
【0011】
第3の発明に係わる画像処理装置は、上記第1の発明において、上記ノイズ生成部は、上記画像フレームよりも大きい領域を有するノイズパターンを生成し、上記第1のノイズの切り出し領域と、第2のノイズの切り出し領域とが異なる領域から切り出して生成する。
【0012】
第4の発明に係わる画像処理装置は、上記第2または第3の発明において、上記ノイズパターン生成部で生成される第2のノイズパターンは、上記第1の画像データに重畳した上記第1のノイズパターンの一部をコピーしたノイズパターンである。
第5の発明に係わる画像処理装置は、上記第4の発明において、上記ノイズパターン生成部で生成されるノイズパターンは、参照フレーム重畳したノイズパターンにおいて一部のノイズパターンを入替または回転したノイズパターンである。
【0013】
第6の発明に係わる画像処理装置は、上記第3または第4の発明において、上記ノイズパターン生成部で生成されるノイズパターンの少なくとも一部分は、参照フレームに重畳したノイズパターンの少なくとも一部分を移動させたノイズパターンである。
【0014】
第7の発明に係わる画像処理装置は、上記第1ないし第6の発明において、上記画像圧縮部は、MPEGに準拠したフレーム内圧縮と複数のフレーム間の相関を用いてフレーム間相関を行うものであり、上記ノイズパターンを重畳した画像データを圧縮する場合は、上記合成処理部でノイズパターンを合成しない画像を圧縮する場合に対して、フレーム間圧縮処理したデータを多く、または上記フレーム内圧縮を行うフレーム間隔を短くする。
【発明の効果】
【0015】
本発明によれば、動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成できるようにした画像処理装置を提供することができる。
【図面の簡単な説明】
【0016】
【図1】本発明の第1実施形態に係わるデジタルカメラの電気系を主とする全体構成を示すブロック図である。
【図2】本発明の第1実施形態に係わるデジタルカメラのメインフローを示すフローチャートである。
【図3】本発明の第1実施形態に係わるデジタルカメラの静止画撮影・画像処理の動作を示すフローチャートである。
【図4】本発明の第1実施形態に係わるデジタルカメラの動画撮影・画像処理の動作を示すフローチャートである。
【図5】本発明の第1実施形態におけるデジタルカメラの画像処理の動作を示すフローチャートである。
【図6】本発明の第1実施形態におけるデジタルカメラのノイズ生成の動作を示すフローチャートである。
【図7】本発明の第1実施形態におけるデジタルカメラにおいて、ノイズパターンの変更方法を説明する図である。
【図8】本発明の第1実施形態におけるデジタルカメラにおいて、ノイズとフレーム間圧縮の関係を示す図である。
【図9】本発明の第2実施形態におけるデジタルカメラのノイズ生成の動作を示すフローチャートである。
【図10】本発明の第2実施形態におけるデジタルカメラにおいて、ノイズの重畳の仕方を説明する図である。
【図11】本発明の第1および第2実施形態におけるデジタルカメラにおいて、フレーム内圧縮とフレーム間圧縮の関係を示す図である。
【発明を実施するための形態】
【0017】
以下、図面に従って本発明を適用したデジタルカメラを用いて好ましい実施形態について説明する。本発明の好ましい実施形態に係わるデジタルカメラは、撮像部を有し、この撮像部によって被写体像を画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタチャンスを決定する。レリーズ釦の操作時には静止画の画像データが、また動画釦の操作により動画の画像データが記録媒体に記録される。また、ノイズ付加モードを設定すると、ノイズパターンが被写体画像に重畳され、この重畳処理された画像がライブビュー表示され、また記録媒体に記録される。画像データ記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
【0018】
図1は、本発明の第1実施形態に係わるデジタルカメラの主として電気的構成を示すブロック図である。このデジタルカメラは、カメラ本体100と、これに脱着可能な交換式レンズ200とから構成される。なお、本実施形態においては、撮影レンズは交換レンズ式としたが、これに限らず、カメラ本体に撮影レンズが固定されるタイプのデジタルカメラであっても勿論かまわない。
【0019】
交換式レンズ200は、撮影レンズ201、絞り203、ドライバ205、マイクロコンピュータ207、フラッシュメモリ209から構成され、後述するカメラ本体100との間にインターフェース(以後、I/Fと称す)300を有する。
【0020】
撮影レンズ201は、被写体像を形成するための複数の光学レンズから構成され、単焦点レンズまたはズームレンズである。この撮影レンズ201の光軸の後方には、絞り203が配置されており、絞り203は口径が可変であり、撮影レンズ201を通過した被写体光束の光量を制限する。また、撮影レンズ201はドライバ205によって光軸方向に移動可能であり、マイクロコンピュータ207からの制御信号に基づいて、撮影レンズ201のピント位置が制御され、ズームレンズの場合には、焦点距離も制御される。また、ドライバ205は、絞り203の口径の制御も行う。
【0021】
ドライバ205に接続されたマイクロコンピュータ207は、I/F300およびフラッシュメモリ209に接続されている。マイクロコンピュータ207は、フラッシュメモリ209に記憶されているプログラムに従って動作し、後述するカメラ本体100内のマイクロコンピュータ121と通信を行い、マイクロコンピュータ121からの制御信号に基づいて交換式レンズ200の制御を行う。
【0022】
フラッシュメモリ209には、前述したプログラムの他、交換式レンズ200の光学的特性や調整値等の種々の情報が記憶されている。I/F300は、交換式レンズ200内のマイクロコンピュータ207とカメラ本体100内のマイクロコンピュータ121の相互間の通信を行うためのインターフェースである。
【0023】
カメラ本体100内であって、撮影レンズ201の光軸上には、メカシャッタ101が配置されている。このメカシャッタ101は、被写体光束の通過時間を制御し、公知のフォーカルプレーンシャッタ等が採用される。このメカシャッタ101の後方であって、撮影レンズ201によって被写体像が形成される位置には、撮像素子103が配置されている。
【0024】
撮像素子103は、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されており、各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。各画素の前面には、ベイヤ―配列のRGBフィルタが配置されている。
【0025】
撮像素子103はアナログ処理部105に接続されており、このアナログ処理部105は、撮像素子103から読み出した光電変換信号(アナログ画像信号)に対し、リセットノイズ等を低減した上で波形整形を行い、さらに適切な輝度になるようにゲインアップを行う。アナログ処理部105はA/D変換部107に接続されており、このA/D変換部107は、アナログ画像信号をアナログ―デジタル変換し、デジタル画像信号(以後、画像データという)をバス110に出力する。上述の撮像素子103、アナログ処理部105、およびA/D変換部107は、動画を形成する第1の画像データと第2の画像データを生成する画像データ生成部としての機能を果たす。
【0026】
バス110は、カメラ本体100の内部で読み出され若しくは生成された各種データをカメラ本体100の内部に転送するための転送路である。バス110には、前述のA/D変換部107の他、画像処理部109、AE(Auto Exposure)処理部111、AF(Auto Focus)処理部113、画像圧縮展開部115、ノイズパターン制御部117、ノイズ重畳処理部119、マイクロコンピュータ121、SDRAM(Synchronous DRAM)127、メモリインターフェース(以後、メモリI/Fという)129、液晶ディスプレイ(以後、LCDという)ドライバ133が接続されている。
【0027】
画像処理部109は、ホワイトバランス(WB)補正、同時化処理、ガンマ・色再現処理、カラーマトリックス演算、ノイズリダクション(NR)処理、オプティカルブラック(OB)減算処理、エッジ強調処理等を行う。これらの種々の画像処理は、SDRAM127に一時記憶された画像データを読出し、この画像データに対して施し、画像処理を施した画像データはバス110に出力する。
【0028】
AE処理部111は、バス110を介して入力した画像データに基づいて被写体輝度を測定し、この被写体輝度情報を、バス110を介してマイクロコンピュータ121に出力する。被写体輝度の測定のために専用の測光センサを設けても良いが、本実施形態においては、画像データに基づいて被写体輝度を算出する。
【0029】
AF処理部113は、画像データから高周波成分の信号を抽出し、積算処理により合焦評価値を取得し、バス110を介してマイクロコンピュータ121に出力する。本実施形態においては、いわゆるコントラスト法によって撮影レンズ201のピント合わせを行う。
【0030】
ノイズパターン制御部117は、画像データに重畳するノイズパターン生成するノイズパターン生成部としての機能を有し、このノイズパターン生成部は、第1の画像と第2の画像のそれぞれに第1のノイズパターンと、第1のノイズパターンとは異なる第2のパターンを生成する。具体的には、ノイズパターン制御部117は、第1及び第2のノイズパターンとして、フィルムのような粒状感を表現するためのノイズパターンを生成し、バス110に出力する。ノイズパターンは、乱数を発生して、僅かなローパスフィルター処理を行うことにより、粒状感のあるノイズパターンを生成する。また、予め生成したノイズパターンをフラッシュメモリ125に記憶しておき、このデータを読み込むようにしてもよい。また、ノイズパターン制御部117は、フラッシュメモリ125から読み出し、または乱数から生成したノイズパターンをコピーして再利用する。
【0031】
ノイズ重畳処理部119は、ノイズパターン生成部によって生成されたノイズを第1および第2の画像データに重畳する合成処理部としての機能を有し、合成処理部は、第1の画像データに第1のノイズパターンを合成し、第2の画像データに第2のノイズパターンを合成する。具体的には、ノイズパターン制御部117によって生成されたノイズパターンを、撮像素子103からの被写体像の画像データに重畳する。重畳方法は、様々の方法があるが、例えば、ノイズパターンが0〜255の輝度値で表わせる場合、ノイズパターンの平均値を求め、画像データにノイズパターンを加算し、平均値を減算するようにしてもよい。重畳後、コントラスト変換の処理を行ってもよい。
【0032】
画像圧縮展開部115は、上述の合成処理部で処理された第1の画像データと第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮部としての機能を有する。具体的には、画像圧縮展開部115は、JPEGデータ圧縮と展開が可能な機能とMPEG形式のフレーム間およびフレーム内圧縮と展開を行うことができる。MPEG記録時には、マイクロコンピュータ121の指示に従い、フレーム間圧縮をベースに一定間隔や任意間隔でフレーム内圧縮を行うことができる。画像データの記録媒体131への記録時に、画像データをJPEGやMPEG圧縮方式等の各種圧縮方式に従って圧縮し、この圧縮した画像データをメモリI/F129を介して記録媒体131に記録する。なお、本実施形態においては、画像圧縮方式としては、JPEGおよびMPEG圧縮方式を採用するが、圧縮方式はこれに限らず他の圧縮方式でも勿論かまわない。
【0033】
マイクロコンピュータ121は、このカメラ全体の制御部としての機能を果たし、カメラの各種シーケンスを総括的に制御する。マイクロコンピュータ121には、前述のI/F300以外に、操作部123およびフラッシュメモリ125が接続されている。
【0034】
操作部123は、電源釦、レリーズ釦、動画釦、再生釦、メニュー釦、十字釦、OK釦等、各種入力釦や各種入力キー等の操作部材を含み、これらの操作部材の操作状態を検知し、検知結果をマイクロコンピュータ121に出力する。マイクロコンピュータ121は、操作部123からの操作部材の検知結果に基づいて、ユーザの操作に応じた各種シーケンスを実行する。電源釦は、当該デジタルカメラの電源のオン/オフを指示するための操作部材である。電源釦が押されると当該デジタルカメラの電源はオンとなり、再度、電源釦が押されると当該デジタルカメラの電源はオフとなる。
【0035】
レリーズ釦は、半押しでオンになるファーストレリーズスイッチと、半押しから更に押し込み全押しとなるとオンになるセカンドレリーズスイッチからなる。マイクロコンピュータ121は、ファーストレリーズスイッチがオンとなると、AE処理やAF処理等の撮影準備シーケンスを実行する。また、セカンドレリーズスイッチがオンとなると、メカシャッタ101等を制御し、撮像素子103等から被写体画像に基づく画像データを取得し、この画像データを記録媒体131に記録する一連の撮影シーケンスを実行して撮影を行う。
【0036】
動画釦は、動画の撮影を開始させ、また終了させるための釦である。初期状態では動画未撮影状態であるので、この状態で動画釦を押すと動画の撮影を開始し、動画撮影中に動画釦を押すと、動画の撮影を終了する。従って、動画釦を押すたびに、動画の撮影開始と終了を交互に繰り返す。再生釦は、再生モードの設定と解除するための操作釦であり、再生モードが設定されると、記録媒体131から撮影画像の画像データを読み出し、LCD135に撮影画像を再生表示する。
【0037】
メニュー釦は、メニュー画面をLCD135に表示させるための操作釦である。メニュー画面上では、各種のカメラ設定を行うことができる。カメラ設定としては、例えば、特殊効果モードや、記録モードの設定がある。特殊効果モードとしては、ノイズ付加モード、モノクロノイズ付加モード、ノイズ効果を付加しない等がある。また、記録モードとしては、JPEG記録、JPEG+RAW記録、RAW記録があり、また動画ファイルの記録形式として、AVI:Motion−JPEGのファイル形式(フレーム内圧縮のみ)、AVCHD:H.264のファイル形式(フレーム内圧縮およびフレーム間圧縮を行う)、MP4:H.264のファイル形式(フレーム内圧縮およびフレーム間圧縮を行う)等の設定を行うことができる。
【0038】
フラッシュメモリ125は、マイクロコンピュータ121の各種シーケンスを実行するためのプログラムを記憶している。マイクロコンピュータ121はこのプログラムに基づいて当該デジタルカメラの制御を行う。また、フラッシュメモリ125は、ノイズパターンデータ、カラーマトリックス係数、ホワイトバランスモードに応じたRゲインとBゲイン、ガンマテーブル、露出条件決定テーブル等の種々の調整値を記憶している。
【0039】
SDRAM127は、画像データ等の一時記憶用の電気的書き換え可能な揮発性メモリである。このSDRAM127は、A/D変換部107から出力された画像データや、画像処理部109や画像圧縮展開部115等において処理された画像データを一時記憶する。また、ノイズパターン制御部117によって生成されたノイズパターンも一時記憶される。
【0040】
メモリI/F129は、記録媒体131に接続されており、画像データや画像データに添付されたヘッダ等のデータを、記録媒体131に書き込みおよび読出しの制御を行う。記録媒体131は、カメラ本体に脱着可能なメモリであるが、ハードディスク等、カメラ本体に内蔵のメモリであってもよい。
【0041】
LCDドライバ133は、LCD135に接続されており、SDRAM127や記録媒体131から読み出され、画像圧縮展開部115によって伸張された画像データに基づいて画像をLCD135において表示させる。LCD135は、カメラ本体100の背面等に配置された液晶パネルを含み、画像表示を行う。画像表示としては、撮影直後、記録される画像データを短時間だけ表示するレックビュー表示、記録媒体131に記録された静止画や動画の画像ファイルの再生表示、およびライブビュー表示等の動画表示が含まれる。なお、表示部としては、LCDに限らず、有機EL等、他の表示パネルを採用しても勿論かまわない。
【0042】
次に、図2に示すメインのフローチャートを用いて、本実施形態におけるカメラのメイン処理について説明する。なお、図2ないし図6に示すフローチャートはフラッシュメモリ125に記憶されているプログラムに従ってマイクロコンピュータ121が実行する。
【0043】
操作部123の内の電源釦が操作され、電源オンとなると、図2に示すメインフローが動作を開始する。動作を開始すると、まず、初期化を実行する(S1)。初期化としては、機械的初期化や各種フラグ等の初期化等の電気的初期化を行う。ここで、各種フラグ等の初期化として、記録中フラグの初期化を行う。この記録中フラグは、動画の記録中であるか否かを示すフラグであり、オンの場合には動画を記録中であることを示し、オフの場合には動画の記録を行っていないことを示す。
【0044】
初期化を行うと、次に、再生釦が押されたか否かを判定する(S3)。ここでは、操作部123内の再生釦の操作状態を検知し、判定する。この判定の結果、再生釦が押された場合には、再生モードを実行する(S19)。ここでは、記録媒体131から画像データを読み出し、LCD135に静止画と動画の一覧を表示する。ユーザは十字釦を操作することにより、一覧の中から画像を選択し、OK釦により画像を確定する。確定された画像が動画の場合には、時系列的に先頭フレームから順次動画再生を行う。確定された画像が静止画の場合には、確定した静止画を表示する。
【0045】
ステップS19において再生を行うと、またはステップS3における判定の結果、再生釦が押されていなかった場合には、動画釦が押されたか否かの判定を行う(S5)。このステップでは、操作部123において、動画釦の操作状態を検知し、この検知結果に基づいて判定する。
【0046】
ステップS25における判定の結果、動画釦が押された場合には、次に、記録中フラグの反転を行う(S21)。前述したように、動画釦は押されるたびに、動画撮影開始と終了を交互に繰り返すので、このステップでは、記録中フラグがオフであった場合にはオンに、またオンであった場合にはオフに、記録中フラグを反転させる。
【0047】
ステップS21において記録中フラグの反転を行うと、またはステップS5における判定の結果、動画釦が押されていなかった場合には、次に、動画の記録中か否かの判定を行う(S7)。記録中フラグが動画の記録状態を示しているので、このステップでは、記録中フラグがオンであるか否かの判定を行う。
【0048】
ステップS7における判定の結果、動画記録中でなかった場合には、次に、メニュー釦が操作されたか否かを判定する(S9)。ここでは、操作部123内のメニュー釦の操作状態を検知し、判定する。この判定の結果、メニュー釦が押された場合には、カメラ設定を行う(S23)。カメラ設定は、前述したように、メニュー画面で行うことができ、ノイズ付加等の特殊効果モードの設定や、動画ファイルの記録形式等、種々のカメラ設定を行うことができる。
【0049】
ステップS23においてカメラ設定を行うと、またはステップS9における判定の結果、メニュー釦が押されていなかった場合には、次に、ファーストレリーズが押されたか否か、言い換えると、ファーストレリーズスイッチがオフからオンとなったか否かの判定を行う(S11)。この判定は、レリーズ釦に連動するファーストレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて行う。検知の結果、ファーストレリーズスイッチがオフからオンに変化した場合には判定結果はYesとなり、一方、オン状態またはオフ状態が維持されている場合には、判定結果はNoとなる。
【0050】
ステップS33における判定の結果、ファーストレリーズが押され、オフからファーストレリーズに遷移した場合には、AE動作を実行する(S13)。ここでは、AE処理部113によって、撮像素子103によって取得された画像データに基づいて被写体輝度を測光し、この被写体輝度に基づいて、適正露出となるシャッタ速度、絞り値等を算出する。
【0051】
AE動作を行うと、次に、AF(オートフォーカス)動作を実行する(S15)。ここでは、AF処理部113によって取得された合焦評価値がピーク値となるように、交換式レンズ200内のマイクロコンピュータ207を介してドライバ205が撮影レンズ201のピント位置を制御する。したがって、動画記録中ではない場合に、レリーズ釦が半押しされると、その時点で、撮影レンズ201のピント合わせを行う。
【0052】
ステップS11における判定の結果、ファーストレリーズがオフからオンに遷移しなかった場合には、セカンドレリーズが押されたか否か、言い換えると、レリーズ釦が全押しされセカンドレリーズスイッチがオンであるか否かの判定を行う(S25)。このステップでは、レリーズ釦に連動するセカンドレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて判定を行う。
【0053】
ステップS25における判定の結果、セカンドレリーズが押された場合には、静止画撮影およびその画像処理を行う(S27)。ここでは、撮像素子103からの画像信号に基づく静止画の画像データについて画像処理および画像圧縮処理を行った後、記録媒体131に記録する。この静止画撮影・画像処理の詳しい動作については、図3を用いて後述する。
【0054】
ステップS7における判定の結果、動画記録中であった場合、またはステップS25における判定の結果、セカンドレリーズが押されていない場合には、動画撮影および画像処理を行う(S29)。このステップでは、動画記録中であった場合には、撮像素子103からの画像信号に基づく動画の画像データについて画像処理および画像圧縮を行った後、記録媒体に131に記録する。また、動画記録中ではない場合には、静止画撮影における被写体構図やシャッタタイミングの決定を行うためにライブビュー表示を行う。この動画撮影・画像処理の詳しい動作については、図4を用いて後述する。
【0055】
ステップS15におけるAF動作を実行すると、またはステップS27における静止画撮影・画像処理を実行すると、またはステップS29における動画撮影・画像処理を実行すると、次に、電源オフか否かの判定を行う(S17)。このステップでは、操作部123の電源釦が再度、押されたか否かを判定する。この判定の結果、電源オフではなかった場合には、ステップS3に戻る。一方、判定の結果、電源オフであった場合には、メインのフローの終了動作を行ったのち、メインフローを終了する。
【0056】
次に、ステップS27における静止画撮影・画像処理について、図3を用いて説明する。静止画撮影・画像処理のフローに入ると、撮影動作を行う(S41)。ここでは、ステップS13において算出された露出制御値に基づいて、メカシャッタ101や絞り203等の制御を行い、また、撮像素子103の光電電流の電荷蓄積制御を行う。撮像素子103における露光動作が終了すると、画像信号の読み出しを行う。
【0057】
ステップS41における撮影動作が終了すると、次に、画像処理を行う(S43)。このステップでは撮像素子103から読み出された画像信号に対して、画像処理部109において、オプティカルブラック補正、ホワイトバランス補正、同時化処理、カラーマトリックス演算等、種々の画像処理を行う。また、ベイヤ配列の下で得られたベイヤーデータをYCbCrデータに変換する。なお、YCbCrデータへの変換に代えて、RGBデータや別の色空間のデータへの変換でも構わない。この画像処理の詳しい動作については、図5を用いて後述する。
【0058】
ステップS43における画像処理が終わると、次に、LCD表示を行う(S45)。ここでは、ステップS41において取得し、ステップS43において画像処理を施した画像データに基づいて、レックビュー画像としてLCD135に表示する。
【0059】
LCD表示を行うと、次に、JPEGファイル生成を行う(S47)。このステップでは、YCbCrデータ形式の静止画の画像データを、静止画の画像データを、画像圧縮展開部115によってJPEG圧縮を行う。そして、画像サイズや撮影条件等の情報をヘッダ情報として作成し、このヘッダ情報をJPEG圧縮された画像データに付加し、JPEGファイルを生成する。
【0060】
続いて、JPEGファイルの記録を行う(S49)。このステップでは、ステップS47において生成されたJPEGファイルをメモリI/F129を介して記録媒体131に記録する。なお、記録方式としてRAW記録が設定されている場合には、直前で生成したJPEGをサムネールとして付加し、RAWデータをファイルとして記録する。RAWデータは、撮影により撮像素子から得られたデータであり、例えば、ベイヤ―形式のデータ等である。JPEGファイルの記録を行うと、元のフローに戻る。
【0061】
次に、ステップS29における動画撮影・画像処理について、図4を用いて説明する。この動画撮影・画像処理は、動画記録中の場合には、動画画像データの記録を行い、また動画記録中でない場合には、ライブビュー表示を行うための処理である。
【0062】
動画撮影・画像処理のフローに入ると、まず、AE処理を行う(S51)。このステップでは、AE処理部113によって被写体輝度を測定し、この被写体輝度に基づいて適正露光となる露出制御値を決定する。露出制御値の決定にあたっては、動画撮影におけるAE処理であることから、メカシャッタ101は開放のままで、露光時間の制御は電子シャッタのシャッタ速度を用い、適正露光となるシャッタ速度、絞り値やISO感度値を決定する。これらのシャッタ速度、絞り値、ISO感度は、被写体輝度に基づいて、フラッシュメモリ125に予め記録されている露出条件決定テーブルを参照して決定する。
【0063】
次に、撮影動作を行う(S53)。このステップでは、ステップS51で算出された露出制御値に従って絞り値、電子シャッタ、およびISO感度等の制御を行い、また、撮像素子103の光電電流の電荷蓄積制御を行う。1フレーム分の露光が終わると、画像信号の読み出しを行う。
【0064】
撮影を行うと、画像処理を行う(S55)。この画像処理は、ステップS43と同様であり、ベイヤーデータを画像処理し、YCbCrデータに変換するが、静止画の場合と同様、RGBデータや別の色空間のデータへの変換でも構わない。また、特殊効果としてノイズ付加モードが設定されている場合には、ノイズを生成し、生成したノイズを被写体像の画像データに重畳する。詳しくは、図5を用いて説明するが、動画用の画像処理であることから、パラメータ等は適宜動画に相応しい値とする。
【0065】
画像処理を行うと、次に、LCD表示を行う(S57)。ここでは、ステップS53で取得され、ステップS55において画像処理された動画の1フレームをLCD135にライブビューとして表示する。
【0066】
LCDに表示すると、次に、ステップS7と同様に、動画記録中であるか否かの判定を行う(S59)。このステップでは、記録中フラグがオンとなっているか否かの判定を行う。この判定の結果、動画記録中であった場合には、次に、動画ファイルの保存を行う(S61)。ステップS53で取得され、ステップS55において画像処理された動画の画像データを、予め設定されている動画ファイルの形式に合わせた圧縮を画像圧縮展開部115によって行い、圧縮された動画ファイルを記録媒体131に記録する。なお、動画記録中となった最初のフレームの場合には、新しいファイルを生成して記録し、2フレーム以後の場合には生成したファイルに追記していく。
【0067】
ステップS61において動画ファイルへの保存を行うと、またはステップS59における判定の結果、動画記録中でなかった場合には、動画撮影・画像処理のフローを終了し、元のフローに戻る。
【0068】
次に、ステップS43およびS55における画像処理について、図5を用いて説明する。画像処理のフローに入ると、まず、オプティカルブラック(OB)演算を行う(S71)。このステップでは、画像処理部109内のOB演算部によって、画像データを構成する各画素の画素値から、撮像素子103の暗電流等に起因するオプティカルブラック値をそれぞれ減算する。
【0069】
OB演算を行うと、次に、ホワイトバランス(WB)補正を行う(S73)。このステップでは、画像処理部109内のWB補正部によって、設定されているホワイトバランスモードに応じて、画像データに対してWB補正を行う。具体的には、ベイヤ配列の画像データに対して、ユーザが設定したホワイトバランスモードに応じたRゲインとBゲインをカメラ本体のフラッシュメモリ125から読み出し、その値を乗じることで補正を行う。またはオートホワイトバランスの場合には、RAWデータからRゲインおよびBゲインを算出し、これらを用いて補正する。
【0070】
続いて、同時化処理を行う(S75)。このステップでは、ホワイトバランス補正を行った画像データに対して、画像処理部109内の同時化処理部によって、各画素がRGBデータで構成されるデータに変換する。具体的には、その画素にないデータを周辺から補間によって求め、RGBデータに変換する。
【0071】
同時化処理を行うと、次に、カラーマトリックス演算を行う(S77)。このステップでは、画像処理部109内のカラーマトリックス演算部によって、画像データに対して設定されているホワイトバランスモードに応じたカラーマトリックス係数を乗じる線形変換を行って画像データの色を補正する。カラーマトリックス係数はフラッシュメモリ125に記憶されているので、読み出して使用する。
【0072】
カラーマトリックス演算を行うと、次に、ガンマ変換を行う(S79)。このステップでは、画像処理部109内のガンマ処理部によって、フラッシュメモリ125に記憶されているガンマテーブルを読み出し、画像データに対してガンマ補正処理を行う。続いて、色補正を行う(S81)。このステップでは、画像処理部109内の色再現処理部によって、画像データに対して、彩度や色相の補正処理を行う。
【0073】
色補正を行うと、次に、エッジ強調を行う(S83)。このステップでは、ガンマ補正および色再現処理の行われた画像データに対して、画像処理部109内のエッジ強調処理部が、バンドパスフィルタによりエッジ成分を抽出し、エッジ強調度に応じて係数を乗じて画像データに加算することにより、画像データのエッジを強調する。
【0074】
次にNR(ノイズ除去)を行う(S87)。このステップでは、画像を周波数分解し、周波数に応じてノイズを低減する処理を行う。
【0075】
NRを行うと、次に、ノイズ付加モードか否かの判定を行う(S89)。前述したメニュー画面におけるカメラ設定において、ノイズ付加モードもしくはモノクロノイズ付加モードを設定したか否かを判定する。
【0076】
ステップS89における判定の結果、ノイズ付加モードもしくはモノクロノイズ付加モードが設定されていた場合には、次に、ノイズ生成を行う(S91)。ここでは、ノイズパターン制御部117が、フレームごとにノイズパターンを生成し、生成したノイズパターンをSDRAM127に一時記憶する。静止画は常に同じノイズパターンでも問題ないが、動画やライブビューではノイズパターンが同じ場合、常に同じ位置に同じ振幅のノイズが見えるため違和感が生ずる。そこで、本実施形態においては、フレームごとにノイズパターンを変えている。このノイズ生成については、図6および図7を用いて後述する。
【0077】
ノイズ生成を行うと、次に、ノイズ重畳を行う(S93)。ここでは、ノイズ重畳処理部119が、SDRAM127に一時記憶されているノイズパターンを読み出し、被写体像の画像データに重畳する。このとき、ノイズ付加モードの場合には、RGB空間でRGB別々のノイズパターンを重畳する。また、モノクロノイズ付加モードの場合には、YCbCr空間でCbCrを無彩色に固定しながら、Yにノイズパターンを重畳する。
【0078】
ノイズ重畳を行うと、またはステップS89における判定の結果、ノイズ付加モードもしくはモノクロノイズ付加モードでなかった場合には、画像処理のフローを終了し、元のフローに戻る。
【0079】
次に、ステップS91におけるノイズ生成の動作について、図6を用いて説明する。ノイズ生成のフローに入ると、まず、フレーム内圧縮、または最初のフレームか否かの判定を行う(S101)。ここでは、ノイズを重畳した画像をフレーム内圧縮により圧縮するのか否かと最初のフレームか否かを判定し、フレーム内圧縮であった場合、または最初のフレームであった場合にYesと判定する。静止画の場合や、Motion−JPEGの場合、またはライブビュー表示の場合には、フレーム内圧縮と判断する。MPEGの場合には、マイクロコンピュータ121の指示によりフレーム内圧縮、またはフレーム間圧縮を行うために、この指示情報に従う。また、最初のフレームか否かは、動画釦が押され、動画が開始された最初のフレームか否かに基づいて判定する。
【0080】
ステップS101における判定の結果、フレーム内圧縮または最初のフレームであった場合には、ノイズパターン生成を行う(S107)。ここでは、ノイズパターン制御部117によってノイズパターンを生成する。ノイズパターンは、前述したように、乱数を発生させて生成するか、またはフラッシュメモリ125に記憶したノイズパターンを読み出す。
【0081】
一方、ステップS101における判定の結果、フレーム内圧縮でなかった場合(すなわち、フレーム間圧縮であった場合)、且つ最初のフレームでなかった場合には、次に、前回のノイズパターンを読み込む(S103)。後述するように、ステップS109において、前回のフレームで合成したノイズパターンは、SDRAM127に記憶するので、このステップにおいては、SDRAM127から記憶された前回のノイズパターンを読み出す。
【0082】
前回のノイズパターンの読み込みを行うと、次に、ノイズパターンの変更を行う(S105)。ここでは、1フレームの画面を小さく分割したブロック(以下、マクロブロックと称す)単位で、前回、使用したノイズパターンの変更を行う。ノイズパターンの変更方法としては、ランダムに入替(変更方法1)、またはランダム入替+回転(変更方法2)、またはランダム入替+動き検出併用(変更方法3)、またはランダム入替+平均輝度情報の利用(変更方法4)等のいずれかを利用する。
【0083】
ステップ105におけるノイズパターンの変更について、図7を用いて説明する。図7の升目は、マクロブロックを表わす。H.264のフレーム間圧縮では、マクロブロック単位で相関を確認する。本実施形態においては、次の変更方法1〜変更方法4のいずれかの方法によってノイズパターンを変更する。
【0084】
ランダム入替(変更方法1)
画像内をマクロブロックに分割し、マクロブロック単位で相関をとりながらフレーム間圧縮を行うとする。この場合、例えば、図7に示す例において、(3,3)のマクロブロックが、フレーム間圧縮を行う際の相関をとる範囲が、前後左右2マクロブロックの範囲とする(図7において、(1,1)〜(1,5)、(2,1)〜(2,5)、(3,1)、(3,2)(3,4)、(3,5)、(4,1)〜(4,5)、(5,1)〜(5,5)の範囲(図7の白半透過部分))。このとき、(3,3)のマクロブロックが既に入れ替えられていればそのまま、入れ替えられていなければ(3,3)のブロック以外のマクロブロックを、前後左右の2マクロブロック(図7の白半透過部分)内からランダムに選択し、そのマクロブロックと入れ替える。この入替操作をすべてのマクロブロックについて行う。
【0085】
ランダム入替+回転(変更方法2)
フレーム間圧縮のアルゴリズムにおいて、相関のある場所をスキャンする際に、例えば、90度、180度、270度回転等の回転した画像についても相関があるパターンとして認識できる場合には、変更方法1のランダム入替に加えて、さらに回転したノイズパターンと置き換えるようにしてもよい。変更方法1と比較すると、さらにノイズパターンの変化を大きくすることができる。
【0086】
ランダム入替+動き検出併用(変更方法3)
動画で電子手振れ補正を行うために、前フレームから被写体が移動した方向や動き量を検出可能なカメラがある。このようなカメラにおいては、動き検出により被写体がどのマクロブロックから移動してきたかを判定し、そのマクロブロックとの入れ替えの確率を高くする。例えば、現在(3,3)のマクロブロックにある被写体が、前のフレームでは、(3,2)のマクロブロックにあった場合には、ランダム選択時に(3,2)のマクロブロックが選択される確率を高くする。被写体の動きと、ノイズパターンの動きの方向が一致することから、圧縮時の相関が高いノイズパターンを生成することができる。
【0087】
ランダム入替+平均輝度情報併用(変更方法4)
ノイズパターンを重畳するとき、暗部や明部ではノイズを少なくし、中間調部では生成したノイズを重畳するような方法がある。その場合、被写体の輝度が変わると、同じノイズパターンであっても、ノイズが重畳された画像では異なるノイズと判断されることがある。そこで、ランダム入替を行う時の入替先を選択するときに、注目しているマクロブロック(例えば、(3,3)の1フレーム前のノイズ重畳前の画像の平均輝度と、現フレームのノイズ重畳前の平均輝度が近いマクロブロック)が選択される確率を高くする。これにより、現フレームのノイズ重畳後の画像が、前フレームのノイズ重畳後の画像と、圧縮時に相関が高いと判断されやすくなる。
【0088】
ステップS105においてノイズパターンの変更を行うと、またはステップS107において、ノイズパターンを生成すると、次に、ノイズパターンの書き込みを行う(S109)。ここでは、生成したノイズパターンまたは変更したノイズパターンを、SDRAM127に記憶する。ノイズパターンの書き込みを行うと、元の画像処理のフローに戻る。
【0089】
ノイズ生成のフローから画像処理のフローに戻ると、被写体の画像データにステップS91において生成もしくは変更されたノイズパターンの重畳を行う(図5のS93)。このあと、画像処理(図5参照)のフローから動画撮影・画像処理(図4参照)のフローに戻り、ステップS61において動画ファイルへの保存を行う。このとき、予め設定されている動画ファイルの形式に合わせた圧縮を画像圧縮展開部115によって行う。上述のノイズパターンが重畳されている場合には、画像の相関が高くなり、圧縮率も高くすることができる。
【0090】
本実施形態におけるノイズとフレーム間圧縮の関係について、図8を用いて説明する。時刻T0において、前フレームの画像501を取得し(図4のS53)、重畳用のノイズパターン(前フレーム重畳ノイズ511)を生成し(図6のS107またはS105)、画像501と前フレーム重畳ノイズ511を合成し(図5のS93)、記録用の圧縮処理を行い、前フレーム記録画像521を生成し、記録媒体131に記録する(図4のS61)。
【0091】
また、時刻T0に続く時刻T1において、現フレームの画像502を取得する(図4のS53)。続いて、重畳用のノイズパターン(現フレーム重畳ノイズ512)を生成するが、この現フレーム重畳ノイズ512は、ステップS105におけるノイズパターン変更において、前フレーム重畳ノイズ511を変更することにより生成する。続いて、画像502と現フレーム重畳ノイズ512を合成し(図5のS93)、記録用の圧縮処理を行い、現フレーム記録画像522を生成し、記録媒体131に記録する(図4のS61)。
【0092】
以上説明したように、本発明の第1実施形態においては、画像圧縮部として機能する画像圧縮展開部115における画像圧縮は基準となるブロックサイズの単位で行うものであり(図7参照)、ノイズパターンは、第1の画像の画像フレーム上の所定位置のブロックに合成されたノイズパターンと同一のノイズを、第2の画像の画像フレーム上の対応する位置近傍で、且つ第1の画像と第2の画像の相関を調べる領域内の位置に合成するようにしている。このため、ブロック単位でパターン変更を行うことができ、ノイズパターンの変更を容易に行うことができ、フレーム間圧縮の際の相関性を高くすることができ、圧縮しやすくできる。
【0093】
すなわち、本発明の第1実施形態においては、前回のノイズパターンを変更することにより、前フレームと見た目は異なったノイズとなるが、マクロブロックの相関を確認する範囲内で移動させるだけであることから、フレーム間圧縮時の相関が高くなることが期待できる。その結果、フレームごとに異なるノイズを重畳した動画像を圧縮する場合において、圧縮がしやすい範囲での変更のため、同等の圧縮率であった場合には高画質(すなわち、ノイズがつぶれにくい画質)の動画データを、同じ画質であれば高圧縮率でサイズの小さい動画データを生成することができる。
【0094】
また、本発明の第1実施形態においては、ノイズパターン生成部として機能するノイズパターン制御部117が生成するノイズパターンは、参照フレーム重畳したノイズパターンにおいて一部のノイズパターンを入替または回転したノイズパターンを利用している。すなわち、参照重畳したノイズパターンをマクロブロックに分割し、入替、回転を行っている。このため、簡単に変化に富んだノイズパターンを生成すると共に相関度を高くすることができる。
【0095】
また、本発明の第1実施形態においては、ノイズパターン生成部として機能するノイズパターン制御部117で生成されるノイズパターンの少なくとも一部分は、参照フレームに重畳したノイズパターンの少なくとも一部分を移動させたノイズパターンである。すなわち、参照フレームに重畳したノイズパターンを、マクロブロックに分割し、マクロブロック単位で移動するようにしている。
【0096】
なお、実施形態においては、升目に均等にマクロブロックを分割していたが、分割の仕方はこれに限らず、矩形以外の形状でもよい。
【0097】
次に、本発明の第2実施形態について図9ないし図11を用いて説明する。第1実施形態においては、フレーム内圧縮を行う際に、ノイズパターンをマクロブロックに分割し、相関を確認する範囲内で入れ替えるようにしていた。これに対して、第2実施形態においては、画像サイズよりも大きなノイズパターンを用意し、重畳させる部分を切り出す位置を変更するようにしている。
【0098】
本実施形態における構成は、第1実施形態における図1に示したブロック図と同様であり、また図2ないし図5に示したフローも同様である。ただし、本実施形態においては、図6に示したノイズ生成のフローを図9に置き換える。そこで、このノイズ生成のフローについて、説明する。なお、このフローも、フラッシュメモリ125に記憶されているプログラムに従ってマイクロコンピュータ121が実行する。
【0099】
本実施形態におけるノイズ生成のフローに入ると、まず、ノイズパターンが生成済みか否かの判定を行う(S111)。ここでは、既にノイズパターンが生成されたか否かを判定する。少なくとも最初のフレームでは、ノイズパターンがないために、Noと判定される。
【0100】
ステップS111における判定の結果、ノイズパターンが生成済みでなかった場合には、次に、ノイズパターンの生成を行う(S115)。ここでは、第1実施形態の場合と同様、ノイズパターン制御部117が乱数を利用してノイズパターンを生成するか、またはフラッシュメモリ125に記憶してあるノイズパターンを読み出して使用する。
【0101】
ただし、本実施形態においては、ノイズ重畳を行う画像サイズよりも大きなサイズのノイズパターンを生成する。すなわち、図10(a)に示すように、ノイズ重畳を行う画像410よりもノイズパターン401のサイズが大きくなるようにする。生成するノイズパターンのサイズがフラッシュメモリ125に記憶してあるサイズよりも大きい場合には、所定サイズのノイズパターンを繰り返し敷き詰めるようにしてもよい。
【0102】
ノイズパターンの生成を行うと、次に、ノイズパターンの書き込みを行う(S117)。ここでは、ステップS115において生成したノイズパターンをSDRAM127に記憶する。
【0103】
ノイズパターンの書込みを行うと、次に、重畳位置を所定位置(例えば(0,0))とする(S109)。ここでは、ノイズ重畳を行うために使用するノイズ画像の左上の重畳位置420を所定の位置(例えば、(0,0))とする。
【0104】
ステップS111における判定の結果、ノイズパターンが生成済みであった場合には、次に、重畳位置の変更を行う(S113)。ここでは、今回の重畳位置422が前回の重畳位置421以外の位置になるようにランダムに変更する。このとき、少なくともフレーム間相関で圧縮する画像を生成する場合には、圧縮時にマクロブロック単位で相関のある場所を検索する範囲内になるように、ランダムで変更する範囲を制限する。すなわち、図10(b)において、前回の重畳範囲411から今回の重畳範囲412となるように、ノイズパターン401からノイズパターンを切り出す左上の位置を、重畳位置421から重畳位置422に変更する。このとき、あるマクロブロックに重畳するノイズパターン(今回フレームノイズパターン432)が、そのマクロブロックの相関を検索する範囲内において前回のノイズパターン(前回フレームノイズパターン431)が含まれるような範囲に移動を制限する。
【0105】
ステップS113において、重畳位置を変更すると、またはステップS119において重畳位置を所定位置とすると、元の画像処理のフローに戻る。元のフローに戻ると、第1実施形態の場合と同様、動画ファイルへの保存を行う際に、予め設定されている動画ファイルの形式に合わせた圧縮を画像圧縮展開部115によって行う。ノイズパターンとフレーム間圧縮の関係は、図8を用いた説明と同様である。但し、前フレーム重畳ノイズ511から現フレーム重畳ノイズ512の生成にあたっては、図9を用いて説明したノイズパターンの重畳位置の変更(S113参照)によって行う。
【0106】
このように、本発明の第2実施形態においては、図10に示すように、ノイズ生成部として機能するノイズパターン制御部117は、画像フレームよりも大きい領域を有するノイズパターンを生成し(S115参照)、第1のノイズの切り出し領域と、第2のノイズの切り出し領域とが異なる領域から切り出して生成するようにしている(S113参照)。このため、第2のノイズパターンの生成が簡単となる。
【0107】
また、本発明の第2実施形態においては、マクロブロックの相関検索範囲内の移動になるように、ノイズパターンを移動させるため、フレーム間圧縮時の圧縮がしやすくなり、同じ圧縮率であれば高画質に、また同じ画質であればより高圧縮することができる。
【0108】
なお、本実施形態においては、ノイズパターン401から重畳範囲410を切り出し、重畳範囲410の全体を移動させたが、あるブロック単位に区切り、そのブロック単位で移動させるようにしても、勿論かまわない。
【0109】
本発明の第1および第2実施形態においては、フレーム間圧縮を行っているが、フレーム間圧縮を行うと、圧縮の結果生じる残差が蓄積していくため、時間の経過に応じて画質が徐々に劣化してしまう。そこで、この劣化を防止するためには、一定間隔でフレーム内圧縮を行い誤差の蓄積をキャンセルするようにしてもよい。ただし、フレーム内圧縮はフレーム間圧縮に比較すると圧縮率が低く、フレーム内圧縮を多数挿入すると動画全体の圧縮率が低下してしまう。
【0110】
一般に通常の動画撮影において高圧縮かつ高画質を達成できるように調整するが、ノイズを意図的に追加したり、意図的にぼかしたりするような特殊効果モードの画像処理においては、通常動画で最適化された設定では、十分な画質や圧縮率を達成できるとは限らない。そこで、図11に示すように、フレーム内圧縮を挿入するようにすればよい。
【0111】
図11(a)は、特殊効果モードとしてラフモノクロームが設定された場合であり、図中、Iはフレーム内圧縮を行うフレームを示し、Pはフレーム間圧縮を行うフレームを示す。ラフモノクロームは、写真の粒子を粗くし、ハイコントラストでモノクロの画像に変換する画像処理であり、ノイズを追加するため、フレーム間の相関が小さく圧縮による誤差が画質に影響しやすい。従って、通常撮影に対してフレーム内圧縮(I)の挿入間隔を小さくすることで、予測誤差の蓄積を軽減できるため、画質向上を図ることができる。
【0112】
図11(b)は、特殊効果モードとして、ファンタジックフォーカス、またはジオラマが設定された場合を示す。ファンタジックフォーカスは、ピントを甘くし柔らかいトーンの中で空気感を表現するような画像処理であり、また、ジオラマは画面中央のピントを合わせ、画面の周囲のピントをぼかす画像処理である。これらのモードは、画像をぼかすためフレーム間の相関が高く、そのためフレーム間の予測残差が小さくなる。従って、通常撮影に対してフレーム内圧縮(I)の挿入間隔を大きくする。フレーム内圧縮の挿入間隔を大きくすることで圧縮効率が高くなるため、画質の向上を実現できる。
【0113】
このように、画像圧縮部として機能する画像圧縮展開部115は、MPEGに準拠したフレーム内圧縮を行う圧縮処理と、複数のフレーム間の相関を用いてフレーム相関を行うものであり、ノイズパターンを重畳した画像データを圧縮する場合は、合成処理部として機能するノイズ重畳処理部119でノイズパターンを合成しない画像を圧縮する場合に対して、フレーム間圧縮処理したデータを多く、またはフレーム内圧縮を行うフレーム間隔を短くするようにしている。このため、十分な画質と圧縮率を維持することが可能となる。
【0114】
以上説明したように、本発明の各実施形態においては、ノイズパターン生成部として機能するノイズパターン制御部117は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、第1のノイズパターンとは異なる第2のノイズパターンを生成し(図6のS105、図9のS113参照)、また、合成処理部として機能するノイズ重畳処理部119は、第1の画像データに第1のノイズパターンを合成し、第2の画像データに第2のノイズパターンを合成するようにしている(図5のS93参照)。このため、動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成できる。
【0115】
また、本発明の各実施形態においては、第2のノイズパターンは、第1のノイズパターンを元に生成している。また、画像データをフレーム間圧縮するときに相関性を探索する範囲内に前回重畳したノイズパターンが存在するようにしている。このため、前回重畳したノイズパターンが存在する可能性が高く、フレーム間圧縮の際の相関性を高くすることができ、圧縮しやすくなる。
【0116】
また、本発明の各実施形態においては、ノイズ生成部として機能するノイズパターン制御部117は、第1の画像データに重畳した第1のノイズパターンの一部をコピーすることにより第2のノイズパターンを生成するようにしている。すなわち、第1実施形態においては、マクロブロック単位で第1のノイズパターンの一部をコピーして第2のノイズパターンを生成することによりノイズパターンの変更を行っている。また、第2実施形態においては、被写体の画像より大きな第1のノイズパターンから一部を切り出し、コピーした第2のノイズパターンを生成している。このように、ノイズパターンの一部をコピーすることによりノイズパターンを生成するために、簡単にノイズパターンを生成できると共に、相関性を高くすることができる。
【0117】
なお、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話や携帯情報端末(PDA:Personal Digital Assist)、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、ノイズパターンを画像データに重畳させることが可能な機器であれば、本発明を適用することができる。また、後方参照する場合には、参照するフレームに重畳したノイズに対し、同様にノイズを生成すればよい。また、RAWデータがベイヤ配列以外の撮像素子、例えば、同じ開口部に対して深さ方向に色感度を有する他の方式の撮像素子でもよいし、デジタル出力が可能な撮像素子でもよい。
【0118】
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【符号の説明】
【0119】
100・・・カメラ本体、101・・・メカシャッタ、103・・・撮像素子、105・・・アナログ処理部、107・・・A/D変換部、109・・・画像処理部、110・・・バス、111・・・AE処理部、113・・・AF処理部、115・・・画像圧縮展開部、117・・・ノイズパターン制御部、119・・・ノイズ重畳処理部、121・・・マイクロコンピュータ、123・・・操作部、125・・・フラッシュメモリ、127・・・SDRAM、129・・・メモリI/F、131・・・記録媒体、133・・・LCDドライバ、135・・・LCD、200・・・交換式レンズ、201・・・撮影レンズ、203・・・絞り、205・・・ドライバ、207・・・マイクロコンピュータ、209・・・フラッシュメモリ、300・・・I/F、401・・・ノイズパターン、410・・・重畳範囲、411・・・前回重畳範囲、412・・・今回重畳範囲、420・・・重畳位置、421・・・前回重畳位置、422・・・今回重畳位置、430・・・マクロブロック検索範囲、431・・・前回フレームノイズパターン、432・・・今回フレームノイズパターン
【技術分野】
【0001】
本発明は、ノイズパターンを重畳した複数の画像データを圧縮可能な画像処理装置に関する。
【背景技術】
【0002】
デジタルカメラ等の撮像装置で撮影した画像に対し、フィルムのような粒状感(ノイズ感)を再現するためにノイズパターンを重畳する技術が提案されている。特許文献1には、画素単位で乱数を発生させ、周波数フィルタ処理やスケール変更を行って期待する粒状度の粒状を画像に重畳させるようにした画像処理装置が開示されている。
【0003】
また、特許文献2には、粒状パターンの算出について、均一露光されたカラーフィルタから得られた露光画像から平滑化した画像を減算することで、銀塩写真に近い粒状感を可能にした画像処理装置が開示されている。さらに、特許文献3には、ベイヤ―配列などの単板画像を同時化した画像データに対してノイズパターンを重畳することで、フィルムの粒状感のあるノイズ重畳画像を生成することの可能な画像処理装置が開示されている。
【0004】
また、デジタルカメラ等の撮像装置では、動画も撮影可能となってきている。動画の圧縮形式としては、MPEGやH.264等があり、圧縮する動画のフレームのみを用いて圧縮するフレーム内圧縮と、複数のフレームの相関を利用して圧縮するフレーム間圧縮がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】米国特許第5641596号明細書
【特許文献2】特許第3910267号公報
【特許文献3】特開2010−62836号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
フィルムのような粒状感のある動画ファイルを生成する場合、フレームが変わっても常に同じノイズやノイズパターン等を重畳すると、被写体はフレーム単位で動いているにも関わらず、ノイズは止まって見えるという違和感のある動画になってしまう。このため、フレーム単位や一定時間ごとにノイズパターンを変更する必要がある。
【0007】
一方で、一般的な動画ではフレーム間の相関がある程度期待できるため、MPEGやH.264等の圧縮形式においてフレーム間圧縮を行っても視覚的に違和感の少ない動画圧縮を行うことが可能である。しかし、フレームごとや時間的に異なるノイズを重畳した画像データを圧縮する場合、フレーム間圧縮しようとしても、ノイズのパターンが異なるため相関が低下し、圧縮率を維持するとノイズパターンがつぶれてしまったり、ノイズの粒状感を維持しようとすると圧縮率が低下してしまう。
【0008】
本発明は、このような事情を鑑みてなされたものであり、動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成できるようにした画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため第1の発明に係わる画像処理装置は、動画を形成する第1の画像データと第2の画像データを生成する画像データ生成部と、上記各画像データに重畳するノイズパターンを生成するノイズパターン生成部と、上記生成されたノイズを上記第1及び第2の画像データに重畳する合成処理部と、上記合成処理部で処理された第1の画像データと第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮部と、上記圧縮された画像データを記録する記録部と、を具備し、上記ノイズパターン生成部は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、上記第1のノイズパターンとは異なる第2のノイズパターンを生成し、上記合成処理部は、上記第1の画像データに上記第1のノイズパターンを合成し、上記第2の画像データに上記第2のノイズパターンを合成する。
【0010】
第2の発明に係わる画像処理装置は、上記第1の発明において、上記画像圧縮部における画像圧縮は基準となるブロックサイズの単位で行うものであり、上記ノイズパターンは、上記第1の画像の画像フレーム上の所定位置のブロックに合成されたノイズパターンと同一のノイズを、上記第2の画像の画像フレーム上の対応する位置近傍で、且つ上記第1の画像と第2の画像の相関を調べる領域内の位置に合成する。
【0011】
第3の発明に係わる画像処理装置は、上記第1の発明において、上記ノイズ生成部は、上記画像フレームよりも大きい領域を有するノイズパターンを生成し、上記第1のノイズの切り出し領域と、第2のノイズの切り出し領域とが異なる領域から切り出して生成する。
【0012】
第4の発明に係わる画像処理装置は、上記第2または第3の発明において、上記ノイズパターン生成部で生成される第2のノイズパターンは、上記第1の画像データに重畳した上記第1のノイズパターンの一部をコピーしたノイズパターンである。
第5の発明に係わる画像処理装置は、上記第4の発明において、上記ノイズパターン生成部で生成されるノイズパターンは、参照フレーム重畳したノイズパターンにおいて一部のノイズパターンを入替または回転したノイズパターンである。
【0013】
第6の発明に係わる画像処理装置は、上記第3または第4の発明において、上記ノイズパターン生成部で生成されるノイズパターンの少なくとも一部分は、参照フレームに重畳したノイズパターンの少なくとも一部分を移動させたノイズパターンである。
【0014】
第7の発明に係わる画像処理装置は、上記第1ないし第6の発明において、上記画像圧縮部は、MPEGに準拠したフレーム内圧縮と複数のフレーム間の相関を用いてフレーム間相関を行うものであり、上記ノイズパターンを重畳した画像データを圧縮する場合は、上記合成処理部でノイズパターンを合成しない画像を圧縮する場合に対して、フレーム間圧縮処理したデータを多く、または上記フレーム内圧縮を行うフレーム間隔を短くする。
【発明の効果】
【0015】
本発明によれば、動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成できるようにした画像処理装置を提供することができる。
【図面の簡単な説明】
【0016】
【図1】本発明の第1実施形態に係わるデジタルカメラの電気系を主とする全体構成を示すブロック図である。
【図2】本発明の第1実施形態に係わるデジタルカメラのメインフローを示すフローチャートである。
【図3】本発明の第1実施形態に係わるデジタルカメラの静止画撮影・画像処理の動作を示すフローチャートである。
【図4】本発明の第1実施形態に係わるデジタルカメラの動画撮影・画像処理の動作を示すフローチャートである。
【図5】本発明の第1実施形態におけるデジタルカメラの画像処理の動作を示すフローチャートである。
【図6】本発明の第1実施形態におけるデジタルカメラのノイズ生成の動作を示すフローチャートである。
【図7】本発明の第1実施形態におけるデジタルカメラにおいて、ノイズパターンの変更方法を説明する図である。
【図8】本発明の第1実施形態におけるデジタルカメラにおいて、ノイズとフレーム間圧縮の関係を示す図である。
【図9】本発明の第2実施形態におけるデジタルカメラのノイズ生成の動作を示すフローチャートである。
【図10】本発明の第2実施形態におけるデジタルカメラにおいて、ノイズの重畳の仕方を説明する図である。
【図11】本発明の第1および第2実施形態におけるデジタルカメラにおいて、フレーム内圧縮とフレーム間圧縮の関係を示す図である。
【発明を実施するための形態】
【0017】
以下、図面に従って本発明を適用したデジタルカメラを用いて好ましい実施形態について説明する。本発明の好ましい実施形態に係わるデジタルカメラは、撮像部を有し、この撮像部によって被写体像を画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタチャンスを決定する。レリーズ釦の操作時には静止画の画像データが、また動画釦の操作により動画の画像データが記録媒体に記録される。また、ノイズ付加モードを設定すると、ノイズパターンが被写体画像に重畳され、この重畳処理された画像がライブビュー表示され、また記録媒体に記録される。画像データ記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
【0018】
図1は、本発明の第1実施形態に係わるデジタルカメラの主として電気的構成を示すブロック図である。このデジタルカメラは、カメラ本体100と、これに脱着可能な交換式レンズ200とから構成される。なお、本実施形態においては、撮影レンズは交換レンズ式としたが、これに限らず、カメラ本体に撮影レンズが固定されるタイプのデジタルカメラであっても勿論かまわない。
【0019】
交換式レンズ200は、撮影レンズ201、絞り203、ドライバ205、マイクロコンピュータ207、フラッシュメモリ209から構成され、後述するカメラ本体100との間にインターフェース(以後、I/Fと称す)300を有する。
【0020】
撮影レンズ201は、被写体像を形成するための複数の光学レンズから構成され、単焦点レンズまたはズームレンズである。この撮影レンズ201の光軸の後方には、絞り203が配置されており、絞り203は口径が可変であり、撮影レンズ201を通過した被写体光束の光量を制限する。また、撮影レンズ201はドライバ205によって光軸方向に移動可能であり、マイクロコンピュータ207からの制御信号に基づいて、撮影レンズ201のピント位置が制御され、ズームレンズの場合には、焦点距離も制御される。また、ドライバ205は、絞り203の口径の制御も行う。
【0021】
ドライバ205に接続されたマイクロコンピュータ207は、I/F300およびフラッシュメモリ209に接続されている。マイクロコンピュータ207は、フラッシュメモリ209に記憶されているプログラムに従って動作し、後述するカメラ本体100内のマイクロコンピュータ121と通信を行い、マイクロコンピュータ121からの制御信号に基づいて交換式レンズ200の制御を行う。
【0022】
フラッシュメモリ209には、前述したプログラムの他、交換式レンズ200の光学的特性や調整値等の種々の情報が記憶されている。I/F300は、交換式レンズ200内のマイクロコンピュータ207とカメラ本体100内のマイクロコンピュータ121の相互間の通信を行うためのインターフェースである。
【0023】
カメラ本体100内であって、撮影レンズ201の光軸上には、メカシャッタ101が配置されている。このメカシャッタ101は、被写体光束の通過時間を制御し、公知のフォーカルプレーンシャッタ等が採用される。このメカシャッタ101の後方であって、撮影レンズ201によって被写体像が形成される位置には、撮像素子103が配置されている。
【0024】
撮像素子103は、各画素を構成するフォトダイオードが二次元的にマトリックス状に配置されており、各フォトダイオードは受光量に応じた光電変換電流を発生し、この光電変換電流は各フォトダイオードに接続するキャパシタによって電荷蓄積される。各画素の前面には、ベイヤ―配列のRGBフィルタが配置されている。
【0025】
撮像素子103はアナログ処理部105に接続されており、このアナログ処理部105は、撮像素子103から読み出した光電変換信号(アナログ画像信号)に対し、リセットノイズ等を低減した上で波形整形を行い、さらに適切な輝度になるようにゲインアップを行う。アナログ処理部105はA/D変換部107に接続されており、このA/D変換部107は、アナログ画像信号をアナログ―デジタル変換し、デジタル画像信号(以後、画像データという)をバス110に出力する。上述の撮像素子103、アナログ処理部105、およびA/D変換部107は、動画を形成する第1の画像データと第2の画像データを生成する画像データ生成部としての機能を果たす。
【0026】
バス110は、カメラ本体100の内部で読み出され若しくは生成された各種データをカメラ本体100の内部に転送するための転送路である。バス110には、前述のA/D変換部107の他、画像処理部109、AE(Auto Exposure)処理部111、AF(Auto Focus)処理部113、画像圧縮展開部115、ノイズパターン制御部117、ノイズ重畳処理部119、マイクロコンピュータ121、SDRAM(Synchronous DRAM)127、メモリインターフェース(以後、メモリI/Fという)129、液晶ディスプレイ(以後、LCDという)ドライバ133が接続されている。
【0027】
画像処理部109は、ホワイトバランス(WB)補正、同時化処理、ガンマ・色再現処理、カラーマトリックス演算、ノイズリダクション(NR)処理、オプティカルブラック(OB)減算処理、エッジ強調処理等を行う。これらの種々の画像処理は、SDRAM127に一時記憶された画像データを読出し、この画像データに対して施し、画像処理を施した画像データはバス110に出力する。
【0028】
AE処理部111は、バス110を介して入力した画像データに基づいて被写体輝度を測定し、この被写体輝度情報を、バス110を介してマイクロコンピュータ121に出力する。被写体輝度の測定のために専用の測光センサを設けても良いが、本実施形態においては、画像データに基づいて被写体輝度を算出する。
【0029】
AF処理部113は、画像データから高周波成分の信号を抽出し、積算処理により合焦評価値を取得し、バス110を介してマイクロコンピュータ121に出力する。本実施形態においては、いわゆるコントラスト法によって撮影レンズ201のピント合わせを行う。
【0030】
ノイズパターン制御部117は、画像データに重畳するノイズパターン生成するノイズパターン生成部としての機能を有し、このノイズパターン生成部は、第1の画像と第2の画像のそれぞれに第1のノイズパターンと、第1のノイズパターンとは異なる第2のパターンを生成する。具体的には、ノイズパターン制御部117は、第1及び第2のノイズパターンとして、フィルムのような粒状感を表現するためのノイズパターンを生成し、バス110に出力する。ノイズパターンは、乱数を発生して、僅かなローパスフィルター処理を行うことにより、粒状感のあるノイズパターンを生成する。また、予め生成したノイズパターンをフラッシュメモリ125に記憶しておき、このデータを読み込むようにしてもよい。また、ノイズパターン制御部117は、フラッシュメモリ125から読み出し、または乱数から生成したノイズパターンをコピーして再利用する。
【0031】
ノイズ重畳処理部119は、ノイズパターン生成部によって生成されたノイズを第1および第2の画像データに重畳する合成処理部としての機能を有し、合成処理部は、第1の画像データに第1のノイズパターンを合成し、第2の画像データに第2のノイズパターンを合成する。具体的には、ノイズパターン制御部117によって生成されたノイズパターンを、撮像素子103からの被写体像の画像データに重畳する。重畳方法は、様々の方法があるが、例えば、ノイズパターンが0〜255の輝度値で表わせる場合、ノイズパターンの平均値を求め、画像データにノイズパターンを加算し、平均値を減算するようにしてもよい。重畳後、コントラスト変換の処理を行ってもよい。
【0032】
画像圧縮展開部115は、上述の合成処理部で処理された第1の画像データと第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮部としての機能を有する。具体的には、画像圧縮展開部115は、JPEGデータ圧縮と展開が可能な機能とMPEG形式のフレーム間およびフレーム内圧縮と展開を行うことができる。MPEG記録時には、マイクロコンピュータ121の指示に従い、フレーム間圧縮をベースに一定間隔や任意間隔でフレーム内圧縮を行うことができる。画像データの記録媒体131への記録時に、画像データをJPEGやMPEG圧縮方式等の各種圧縮方式に従って圧縮し、この圧縮した画像データをメモリI/F129を介して記録媒体131に記録する。なお、本実施形態においては、画像圧縮方式としては、JPEGおよびMPEG圧縮方式を採用するが、圧縮方式はこれに限らず他の圧縮方式でも勿論かまわない。
【0033】
マイクロコンピュータ121は、このカメラ全体の制御部としての機能を果たし、カメラの各種シーケンスを総括的に制御する。マイクロコンピュータ121には、前述のI/F300以外に、操作部123およびフラッシュメモリ125が接続されている。
【0034】
操作部123は、電源釦、レリーズ釦、動画釦、再生釦、メニュー釦、十字釦、OK釦等、各種入力釦や各種入力キー等の操作部材を含み、これらの操作部材の操作状態を検知し、検知結果をマイクロコンピュータ121に出力する。マイクロコンピュータ121は、操作部123からの操作部材の検知結果に基づいて、ユーザの操作に応じた各種シーケンスを実行する。電源釦は、当該デジタルカメラの電源のオン/オフを指示するための操作部材である。電源釦が押されると当該デジタルカメラの電源はオンとなり、再度、電源釦が押されると当該デジタルカメラの電源はオフとなる。
【0035】
レリーズ釦は、半押しでオンになるファーストレリーズスイッチと、半押しから更に押し込み全押しとなるとオンになるセカンドレリーズスイッチからなる。マイクロコンピュータ121は、ファーストレリーズスイッチがオンとなると、AE処理やAF処理等の撮影準備シーケンスを実行する。また、セカンドレリーズスイッチがオンとなると、メカシャッタ101等を制御し、撮像素子103等から被写体画像に基づく画像データを取得し、この画像データを記録媒体131に記録する一連の撮影シーケンスを実行して撮影を行う。
【0036】
動画釦は、動画の撮影を開始させ、また終了させるための釦である。初期状態では動画未撮影状態であるので、この状態で動画釦を押すと動画の撮影を開始し、動画撮影中に動画釦を押すと、動画の撮影を終了する。従って、動画釦を押すたびに、動画の撮影開始と終了を交互に繰り返す。再生釦は、再生モードの設定と解除するための操作釦であり、再生モードが設定されると、記録媒体131から撮影画像の画像データを読み出し、LCD135に撮影画像を再生表示する。
【0037】
メニュー釦は、メニュー画面をLCD135に表示させるための操作釦である。メニュー画面上では、各種のカメラ設定を行うことができる。カメラ設定としては、例えば、特殊効果モードや、記録モードの設定がある。特殊効果モードとしては、ノイズ付加モード、モノクロノイズ付加モード、ノイズ効果を付加しない等がある。また、記録モードとしては、JPEG記録、JPEG+RAW記録、RAW記録があり、また動画ファイルの記録形式として、AVI:Motion−JPEGのファイル形式(フレーム内圧縮のみ)、AVCHD:H.264のファイル形式(フレーム内圧縮およびフレーム間圧縮を行う)、MP4:H.264のファイル形式(フレーム内圧縮およびフレーム間圧縮を行う)等の設定を行うことができる。
【0038】
フラッシュメモリ125は、マイクロコンピュータ121の各種シーケンスを実行するためのプログラムを記憶している。マイクロコンピュータ121はこのプログラムに基づいて当該デジタルカメラの制御を行う。また、フラッシュメモリ125は、ノイズパターンデータ、カラーマトリックス係数、ホワイトバランスモードに応じたRゲインとBゲイン、ガンマテーブル、露出条件決定テーブル等の種々の調整値を記憶している。
【0039】
SDRAM127は、画像データ等の一時記憶用の電気的書き換え可能な揮発性メモリである。このSDRAM127は、A/D変換部107から出力された画像データや、画像処理部109や画像圧縮展開部115等において処理された画像データを一時記憶する。また、ノイズパターン制御部117によって生成されたノイズパターンも一時記憶される。
【0040】
メモリI/F129は、記録媒体131に接続されており、画像データや画像データに添付されたヘッダ等のデータを、記録媒体131に書き込みおよび読出しの制御を行う。記録媒体131は、カメラ本体に脱着可能なメモリであるが、ハードディスク等、カメラ本体に内蔵のメモリであってもよい。
【0041】
LCDドライバ133は、LCD135に接続されており、SDRAM127や記録媒体131から読み出され、画像圧縮展開部115によって伸張された画像データに基づいて画像をLCD135において表示させる。LCD135は、カメラ本体100の背面等に配置された液晶パネルを含み、画像表示を行う。画像表示としては、撮影直後、記録される画像データを短時間だけ表示するレックビュー表示、記録媒体131に記録された静止画や動画の画像ファイルの再生表示、およびライブビュー表示等の動画表示が含まれる。なお、表示部としては、LCDに限らず、有機EL等、他の表示パネルを採用しても勿論かまわない。
【0042】
次に、図2に示すメインのフローチャートを用いて、本実施形態におけるカメラのメイン処理について説明する。なお、図2ないし図6に示すフローチャートはフラッシュメモリ125に記憶されているプログラムに従ってマイクロコンピュータ121が実行する。
【0043】
操作部123の内の電源釦が操作され、電源オンとなると、図2に示すメインフローが動作を開始する。動作を開始すると、まず、初期化を実行する(S1)。初期化としては、機械的初期化や各種フラグ等の初期化等の電気的初期化を行う。ここで、各種フラグ等の初期化として、記録中フラグの初期化を行う。この記録中フラグは、動画の記録中であるか否かを示すフラグであり、オンの場合には動画を記録中であることを示し、オフの場合には動画の記録を行っていないことを示す。
【0044】
初期化を行うと、次に、再生釦が押されたか否かを判定する(S3)。ここでは、操作部123内の再生釦の操作状態を検知し、判定する。この判定の結果、再生釦が押された場合には、再生モードを実行する(S19)。ここでは、記録媒体131から画像データを読み出し、LCD135に静止画と動画の一覧を表示する。ユーザは十字釦を操作することにより、一覧の中から画像を選択し、OK釦により画像を確定する。確定された画像が動画の場合には、時系列的に先頭フレームから順次動画再生を行う。確定された画像が静止画の場合には、確定した静止画を表示する。
【0045】
ステップS19において再生を行うと、またはステップS3における判定の結果、再生釦が押されていなかった場合には、動画釦が押されたか否かの判定を行う(S5)。このステップでは、操作部123において、動画釦の操作状態を検知し、この検知結果に基づいて判定する。
【0046】
ステップS25における判定の結果、動画釦が押された場合には、次に、記録中フラグの反転を行う(S21)。前述したように、動画釦は押されるたびに、動画撮影開始と終了を交互に繰り返すので、このステップでは、記録中フラグがオフであった場合にはオンに、またオンであった場合にはオフに、記録中フラグを反転させる。
【0047】
ステップS21において記録中フラグの反転を行うと、またはステップS5における判定の結果、動画釦が押されていなかった場合には、次に、動画の記録中か否かの判定を行う(S7)。記録中フラグが動画の記録状態を示しているので、このステップでは、記録中フラグがオンであるか否かの判定を行う。
【0048】
ステップS7における判定の結果、動画記録中でなかった場合には、次に、メニュー釦が操作されたか否かを判定する(S9)。ここでは、操作部123内のメニュー釦の操作状態を検知し、判定する。この判定の結果、メニュー釦が押された場合には、カメラ設定を行う(S23)。カメラ設定は、前述したように、メニュー画面で行うことができ、ノイズ付加等の特殊効果モードの設定や、動画ファイルの記録形式等、種々のカメラ設定を行うことができる。
【0049】
ステップS23においてカメラ設定を行うと、またはステップS9における判定の結果、メニュー釦が押されていなかった場合には、次に、ファーストレリーズが押されたか否か、言い換えると、ファーストレリーズスイッチがオフからオンとなったか否かの判定を行う(S11)。この判定は、レリーズ釦に連動するファーストレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて行う。検知の結果、ファーストレリーズスイッチがオフからオンに変化した場合には判定結果はYesとなり、一方、オン状態またはオフ状態が維持されている場合には、判定結果はNoとなる。
【0050】
ステップS33における判定の結果、ファーストレリーズが押され、オフからファーストレリーズに遷移した場合には、AE動作を実行する(S13)。ここでは、AE処理部113によって、撮像素子103によって取得された画像データに基づいて被写体輝度を測光し、この被写体輝度に基づいて、適正露出となるシャッタ速度、絞り値等を算出する。
【0051】
AE動作を行うと、次に、AF(オートフォーカス)動作を実行する(S15)。ここでは、AF処理部113によって取得された合焦評価値がピーク値となるように、交換式レンズ200内のマイクロコンピュータ207を介してドライバ205が撮影レンズ201のピント位置を制御する。したがって、動画記録中ではない場合に、レリーズ釦が半押しされると、その時点で、撮影レンズ201のピント合わせを行う。
【0052】
ステップS11における判定の結果、ファーストレリーズがオフからオンに遷移しなかった場合には、セカンドレリーズが押されたか否か、言い換えると、レリーズ釦が全押しされセカンドレリーズスイッチがオンであるか否かの判定を行う(S25)。このステップでは、レリーズ釦に連動するセカンドレリーズスイッチの状態を操作部123によって検知し、この検知結果に基づいて判定を行う。
【0053】
ステップS25における判定の結果、セカンドレリーズが押された場合には、静止画撮影およびその画像処理を行う(S27)。ここでは、撮像素子103からの画像信号に基づく静止画の画像データについて画像処理および画像圧縮処理を行った後、記録媒体131に記録する。この静止画撮影・画像処理の詳しい動作については、図3を用いて後述する。
【0054】
ステップS7における判定の結果、動画記録中であった場合、またはステップS25における判定の結果、セカンドレリーズが押されていない場合には、動画撮影および画像処理を行う(S29)。このステップでは、動画記録中であった場合には、撮像素子103からの画像信号に基づく動画の画像データについて画像処理および画像圧縮を行った後、記録媒体に131に記録する。また、動画記録中ではない場合には、静止画撮影における被写体構図やシャッタタイミングの決定を行うためにライブビュー表示を行う。この動画撮影・画像処理の詳しい動作については、図4を用いて後述する。
【0055】
ステップS15におけるAF動作を実行すると、またはステップS27における静止画撮影・画像処理を実行すると、またはステップS29における動画撮影・画像処理を実行すると、次に、電源オフか否かの判定を行う(S17)。このステップでは、操作部123の電源釦が再度、押されたか否かを判定する。この判定の結果、電源オフではなかった場合には、ステップS3に戻る。一方、判定の結果、電源オフであった場合には、メインのフローの終了動作を行ったのち、メインフローを終了する。
【0056】
次に、ステップS27における静止画撮影・画像処理について、図3を用いて説明する。静止画撮影・画像処理のフローに入ると、撮影動作を行う(S41)。ここでは、ステップS13において算出された露出制御値に基づいて、メカシャッタ101や絞り203等の制御を行い、また、撮像素子103の光電電流の電荷蓄積制御を行う。撮像素子103における露光動作が終了すると、画像信号の読み出しを行う。
【0057】
ステップS41における撮影動作が終了すると、次に、画像処理を行う(S43)。このステップでは撮像素子103から読み出された画像信号に対して、画像処理部109において、オプティカルブラック補正、ホワイトバランス補正、同時化処理、カラーマトリックス演算等、種々の画像処理を行う。また、ベイヤ配列の下で得られたベイヤーデータをYCbCrデータに変換する。なお、YCbCrデータへの変換に代えて、RGBデータや別の色空間のデータへの変換でも構わない。この画像処理の詳しい動作については、図5を用いて後述する。
【0058】
ステップS43における画像処理が終わると、次に、LCD表示を行う(S45)。ここでは、ステップS41において取得し、ステップS43において画像処理を施した画像データに基づいて、レックビュー画像としてLCD135に表示する。
【0059】
LCD表示を行うと、次に、JPEGファイル生成を行う(S47)。このステップでは、YCbCrデータ形式の静止画の画像データを、静止画の画像データを、画像圧縮展開部115によってJPEG圧縮を行う。そして、画像サイズや撮影条件等の情報をヘッダ情報として作成し、このヘッダ情報をJPEG圧縮された画像データに付加し、JPEGファイルを生成する。
【0060】
続いて、JPEGファイルの記録を行う(S49)。このステップでは、ステップS47において生成されたJPEGファイルをメモリI/F129を介して記録媒体131に記録する。なお、記録方式としてRAW記録が設定されている場合には、直前で生成したJPEGをサムネールとして付加し、RAWデータをファイルとして記録する。RAWデータは、撮影により撮像素子から得られたデータであり、例えば、ベイヤ―形式のデータ等である。JPEGファイルの記録を行うと、元のフローに戻る。
【0061】
次に、ステップS29における動画撮影・画像処理について、図4を用いて説明する。この動画撮影・画像処理は、動画記録中の場合には、動画画像データの記録を行い、また動画記録中でない場合には、ライブビュー表示を行うための処理である。
【0062】
動画撮影・画像処理のフローに入ると、まず、AE処理を行う(S51)。このステップでは、AE処理部113によって被写体輝度を測定し、この被写体輝度に基づいて適正露光となる露出制御値を決定する。露出制御値の決定にあたっては、動画撮影におけるAE処理であることから、メカシャッタ101は開放のままで、露光時間の制御は電子シャッタのシャッタ速度を用い、適正露光となるシャッタ速度、絞り値やISO感度値を決定する。これらのシャッタ速度、絞り値、ISO感度は、被写体輝度に基づいて、フラッシュメモリ125に予め記録されている露出条件決定テーブルを参照して決定する。
【0063】
次に、撮影動作を行う(S53)。このステップでは、ステップS51で算出された露出制御値に従って絞り値、電子シャッタ、およびISO感度等の制御を行い、また、撮像素子103の光電電流の電荷蓄積制御を行う。1フレーム分の露光が終わると、画像信号の読み出しを行う。
【0064】
撮影を行うと、画像処理を行う(S55)。この画像処理は、ステップS43と同様であり、ベイヤーデータを画像処理し、YCbCrデータに変換するが、静止画の場合と同様、RGBデータや別の色空間のデータへの変換でも構わない。また、特殊効果としてノイズ付加モードが設定されている場合には、ノイズを生成し、生成したノイズを被写体像の画像データに重畳する。詳しくは、図5を用いて説明するが、動画用の画像処理であることから、パラメータ等は適宜動画に相応しい値とする。
【0065】
画像処理を行うと、次に、LCD表示を行う(S57)。ここでは、ステップS53で取得され、ステップS55において画像処理された動画の1フレームをLCD135にライブビューとして表示する。
【0066】
LCDに表示すると、次に、ステップS7と同様に、動画記録中であるか否かの判定を行う(S59)。このステップでは、記録中フラグがオンとなっているか否かの判定を行う。この判定の結果、動画記録中であった場合には、次に、動画ファイルの保存を行う(S61)。ステップS53で取得され、ステップS55において画像処理された動画の画像データを、予め設定されている動画ファイルの形式に合わせた圧縮を画像圧縮展開部115によって行い、圧縮された動画ファイルを記録媒体131に記録する。なお、動画記録中となった最初のフレームの場合には、新しいファイルを生成して記録し、2フレーム以後の場合には生成したファイルに追記していく。
【0067】
ステップS61において動画ファイルへの保存を行うと、またはステップS59における判定の結果、動画記録中でなかった場合には、動画撮影・画像処理のフローを終了し、元のフローに戻る。
【0068】
次に、ステップS43およびS55における画像処理について、図5を用いて説明する。画像処理のフローに入ると、まず、オプティカルブラック(OB)演算を行う(S71)。このステップでは、画像処理部109内のOB演算部によって、画像データを構成する各画素の画素値から、撮像素子103の暗電流等に起因するオプティカルブラック値をそれぞれ減算する。
【0069】
OB演算を行うと、次に、ホワイトバランス(WB)補正を行う(S73)。このステップでは、画像処理部109内のWB補正部によって、設定されているホワイトバランスモードに応じて、画像データに対してWB補正を行う。具体的には、ベイヤ配列の画像データに対して、ユーザが設定したホワイトバランスモードに応じたRゲインとBゲインをカメラ本体のフラッシュメモリ125から読み出し、その値を乗じることで補正を行う。またはオートホワイトバランスの場合には、RAWデータからRゲインおよびBゲインを算出し、これらを用いて補正する。
【0070】
続いて、同時化処理を行う(S75)。このステップでは、ホワイトバランス補正を行った画像データに対して、画像処理部109内の同時化処理部によって、各画素がRGBデータで構成されるデータに変換する。具体的には、その画素にないデータを周辺から補間によって求め、RGBデータに変換する。
【0071】
同時化処理を行うと、次に、カラーマトリックス演算を行う(S77)。このステップでは、画像処理部109内のカラーマトリックス演算部によって、画像データに対して設定されているホワイトバランスモードに応じたカラーマトリックス係数を乗じる線形変換を行って画像データの色を補正する。カラーマトリックス係数はフラッシュメモリ125に記憶されているので、読み出して使用する。
【0072】
カラーマトリックス演算を行うと、次に、ガンマ変換を行う(S79)。このステップでは、画像処理部109内のガンマ処理部によって、フラッシュメモリ125に記憶されているガンマテーブルを読み出し、画像データに対してガンマ補正処理を行う。続いて、色補正を行う(S81)。このステップでは、画像処理部109内の色再現処理部によって、画像データに対して、彩度や色相の補正処理を行う。
【0073】
色補正を行うと、次に、エッジ強調を行う(S83)。このステップでは、ガンマ補正および色再現処理の行われた画像データに対して、画像処理部109内のエッジ強調処理部が、バンドパスフィルタによりエッジ成分を抽出し、エッジ強調度に応じて係数を乗じて画像データに加算することにより、画像データのエッジを強調する。
【0074】
次にNR(ノイズ除去)を行う(S87)。このステップでは、画像を周波数分解し、周波数に応じてノイズを低減する処理を行う。
【0075】
NRを行うと、次に、ノイズ付加モードか否かの判定を行う(S89)。前述したメニュー画面におけるカメラ設定において、ノイズ付加モードもしくはモノクロノイズ付加モードを設定したか否かを判定する。
【0076】
ステップS89における判定の結果、ノイズ付加モードもしくはモノクロノイズ付加モードが設定されていた場合には、次に、ノイズ生成を行う(S91)。ここでは、ノイズパターン制御部117が、フレームごとにノイズパターンを生成し、生成したノイズパターンをSDRAM127に一時記憶する。静止画は常に同じノイズパターンでも問題ないが、動画やライブビューではノイズパターンが同じ場合、常に同じ位置に同じ振幅のノイズが見えるため違和感が生ずる。そこで、本実施形態においては、フレームごとにノイズパターンを変えている。このノイズ生成については、図6および図7を用いて後述する。
【0077】
ノイズ生成を行うと、次に、ノイズ重畳を行う(S93)。ここでは、ノイズ重畳処理部119が、SDRAM127に一時記憶されているノイズパターンを読み出し、被写体像の画像データに重畳する。このとき、ノイズ付加モードの場合には、RGB空間でRGB別々のノイズパターンを重畳する。また、モノクロノイズ付加モードの場合には、YCbCr空間でCbCrを無彩色に固定しながら、Yにノイズパターンを重畳する。
【0078】
ノイズ重畳を行うと、またはステップS89における判定の結果、ノイズ付加モードもしくはモノクロノイズ付加モードでなかった場合には、画像処理のフローを終了し、元のフローに戻る。
【0079】
次に、ステップS91におけるノイズ生成の動作について、図6を用いて説明する。ノイズ生成のフローに入ると、まず、フレーム内圧縮、または最初のフレームか否かの判定を行う(S101)。ここでは、ノイズを重畳した画像をフレーム内圧縮により圧縮するのか否かと最初のフレームか否かを判定し、フレーム内圧縮であった場合、または最初のフレームであった場合にYesと判定する。静止画の場合や、Motion−JPEGの場合、またはライブビュー表示の場合には、フレーム内圧縮と判断する。MPEGの場合には、マイクロコンピュータ121の指示によりフレーム内圧縮、またはフレーム間圧縮を行うために、この指示情報に従う。また、最初のフレームか否かは、動画釦が押され、動画が開始された最初のフレームか否かに基づいて判定する。
【0080】
ステップS101における判定の結果、フレーム内圧縮または最初のフレームであった場合には、ノイズパターン生成を行う(S107)。ここでは、ノイズパターン制御部117によってノイズパターンを生成する。ノイズパターンは、前述したように、乱数を発生させて生成するか、またはフラッシュメモリ125に記憶したノイズパターンを読み出す。
【0081】
一方、ステップS101における判定の結果、フレーム内圧縮でなかった場合(すなわち、フレーム間圧縮であった場合)、且つ最初のフレームでなかった場合には、次に、前回のノイズパターンを読み込む(S103)。後述するように、ステップS109において、前回のフレームで合成したノイズパターンは、SDRAM127に記憶するので、このステップにおいては、SDRAM127から記憶された前回のノイズパターンを読み出す。
【0082】
前回のノイズパターンの読み込みを行うと、次に、ノイズパターンの変更を行う(S105)。ここでは、1フレームの画面を小さく分割したブロック(以下、マクロブロックと称す)単位で、前回、使用したノイズパターンの変更を行う。ノイズパターンの変更方法としては、ランダムに入替(変更方法1)、またはランダム入替+回転(変更方法2)、またはランダム入替+動き検出併用(変更方法3)、またはランダム入替+平均輝度情報の利用(変更方法4)等のいずれかを利用する。
【0083】
ステップ105におけるノイズパターンの変更について、図7を用いて説明する。図7の升目は、マクロブロックを表わす。H.264のフレーム間圧縮では、マクロブロック単位で相関を確認する。本実施形態においては、次の変更方法1〜変更方法4のいずれかの方法によってノイズパターンを変更する。
【0084】
ランダム入替(変更方法1)
画像内をマクロブロックに分割し、マクロブロック単位で相関をとりながらフレーム間圧縮を行うとする。この場合、例えば、図7に示す例において、(3,3)のマクロブロックが、フレーム間圧縮を行う際の相関をとる範囲が、前後左右2マクロブロックの範囲とする(図7において、(1,1)〜(1,5)、(2,1)〜(2,5)、(3,1)、(3,2)(3,4)、(3,5)、(4,1)〜(4,5)、(5,1)〜(5,5)の範囲(図7の白半透過部分))。このとき、(3,3)のマクロブロックが既に入れ替えられていればそのまま、入れ替えられていなければ(3,3)のブロック以外のマクロブロックを、前後左右の2マクロブロック(図7の白半透過部分)内からランダムに選択し、そのマクロブロックと入れ替える。この入替操作をすべてのマクロブロックについて行う。
【0085】
ランダム入替+回転(変更方法2)
フレーム間圧縮のアルゴリズムにおいて、相関のある場所をスキャンする際に、例えば、90度、180度、270度回転等の回転した画像についても相関があるパターンとして認識できる場合には、変更方法1のランダム入替に加えて、さらに回転したノイズパターンと置き換えるようにしてもよい。変更方法1と比較すると、さらにノイズパターンの変化を大きくすることができる。
【0086】
ランダム入替+動き検出併用(変更方法3)
動画で電子手振れ補正を行うために、前フレームから被写体が移動した方向や動き量を検出可能なカメラがある。このようなカメラにおいては、動き検出により被写体がどのマクロブロックから移動してきたかを判定し、そのマクロブロックとの入れ替えの確率を高くする。例えば、現在(3,3)のマクロブロックにある被写体が、前のフレームでは、(3,2)のマクロブロックにあった場合には、ランダム選択時に(3,2)のマクロブロックが選択される確率を高くする。被写体の動きと、ノイズパターンの動きの方向が一致することから、圧縮時の相関が高いノイズパターンを生成することができる。
【0087】
ランダム入替+平均輝度情報併用(変更方法4)
ノイズパターンを重畳するとき、暗部や明部ではノイズを少なくし、中間調部では生成したノイズを重畳するような方法がある。その場合、被写体の輝度が変わると、同じノイズパターンであっても、ノイズが重畳された画像では異なるノイズと判断されることがある。そこで、ランダム入替を行う時の入替先を選択するときに、注目しているマクロブロック(例えば、(3,3)の1フレーム前のノイズ重畳前の画像の平均輝度と、現フレームのノイズ重畳前の平均輝度が近いマクロブロック)が選択される確率を高くする。これにより、現フレームのノイズ重畳後の画像が、前フレームのノイズ重畳後の画像と、圧縮時に相関が高いと判断されやすくなる。
【0088】
ステップS105においてノイズパターンの変更を行うと、またはステップS107において、ノイズパターンを生成すると、次に、ノイズパターンの書き込みを行う(S109)。ここでは、生成したノイズパターンまたは変更したノイズパターンを、SDRAM127に記憶する。ノイズパターンの書き込みを行うと、元の画像処理のフローに戻る。
【0089】
ノイズ生成のフローから画像処理のフローに戻ると、被写体の画像データにステップS91において生成もしくは変更されたノイズパターンの重畳を行う(図5のS93)。このあと、画像処理(図5参照)のフローから動画撮影・画像処理(図4参照)のフローに戻り、ステップS61において動画ファイルへの保存を行う。このとき、予め設定されている動画ファイルの形式に合わせた圧縮を画像圧縮展開部115によって行う。上述のノイズパターンが重畳されている場合には、画像の相関が高くなり、圧縮率も高くすることができる。
【0090】
本実施形態におけるノイズとフレーム間圧縮の関係について、図8を用いて説明する。時刻T0において、前フレームの画像501を取得し(図4のS53)、重畳用のノイズパターン(前フレーム重畳ノイズ511)を生成し(図6のS107またはS105)、画像501と前フレーム重畳ノイズ511を合成し(図5のS93)、記録用の圧縮処理を行い、前フレーム記録画像521を生成し、記録媒体131に記録する(図4のS61)。
【0091】
また、時刻T0に続く時刻T1において、現フレームの画像502を取得する(図4のS53)。続いて、重畳用のノイズパターン(現フレーム重畳ノイズ512)を生成するが、この現フレーム重畳ノイズ512は、ステップS105におけるノイズパターン変更において、前フレーム重畳ノイズ511を変更することにより生成する。続いて、画像502と現フレーム重畳ノイズ512を合成し(図5のS93)、記録用の圧縮処理を行い、現フレーム記録画像522を生成し、記録媒体131に記録する(図4のS61)。
【0092】
以上説明したように、本発明の第1実施形態においては、画像圧縮部として機能する画像圧縮展開部115における画像圧縮は基準となるブロックサイズの単位で行うものであり(図7参照)、ノイズパターンは、第1の画像の画像フレーム上の所定位置のブロックに合成されたノイズパターンと同一のノイズを、第2の画像の画像フレーム上の対応する位置近傍で、且つ第1の画像と第2の画像の相関を調べる領域内の位置に合成するようにしている。このため、ブロック単位でパターン変更を行うことができ、ノイズパターンの変更を容易に行うことができ、フレーム間圧縮の際の相関性を高くすることができ、圧縮しやすくできる。
【0093】
すなわち、本発明の第1実施形態においては、前回のノイズパターンを変更することにより、前フレームと見た目は異なったノイズとなるが、マクロブロックの相関を確認する範囲内で移動させるだけであることから、フレーム間圧縮時の相関が高くなることが期待できる。その結果、フレームごとに異なるノイズを重畳した動画像を圧縮する場合において、圧縮がしやすい範囲での変更のため、同等の圧縮率であった場合には高画質(すなわち、ノイズがつぶれにくい画質)の動画データを、同じ画質であれば高圧縮率でサイズの小さい動画データを生成することができる。
【0094】
また、本発明の第1実施形態においては、ノイズパターン生成部として機能するノイズパターン制御部117が生成するノイズパターンは、参照フレーム重畳したノイズパターンにおいて一部のノイズパターンを入替または回転したノイズパターンを利用している。すなわち、参照重畳したノイズパターンをマクロブロックに分割し、入替、回転を行っている。このため、簡単に変化に富んだノイズパターンを生成すると共に相関度を高くすることができる。
【0095】
また、本発明の第1実施形態においては、ノイズパターン生成部として機能するノイズパターン制御部117で生成されるノイズパターンの少なくとも一部分は、参照フレームに重畳したノイズパターンの少なくとも一部分を移動させたノイズパターンである。すなわち、参照フレームに重畳したノイズパターンを、マクロブロックに分割し、マクロブロック単位で移動するようにしている。
【0096】
なお、実施形態においては、升目に均等にマクロブロックを分割していたが、分割の仕方はこれに限らず、矩形以外の形状でもよい。
【0097】
次に、本発明の第2実施形態について図9ないし図11を用いて説明する。第1実施形態においては、フレーム内圧縮を行う際に、ノイズパターンをマクロブロックに分割し、相関を確認する範囲内で入れ替えるようにしていた。これに対して、第2実施形態においては、画像サイズよりも大きなノイズパターンを用意し、重畳させる部分を切り出す位置を変更するようにしている。
【0098】
本実施形態における構成は、第1実施形態における図1に示したブロック図と同様であり、また図2ないし図5に示したフローも同様である。ただし、本実施形態においては、図6に示したノイズ生成のフローを図9に置き換える。そこで、このノイズ生成のフローについて、説明する。なお、このフローも、フラッシュメモリ125に記憶されているプログラムに従ってマイクロコンピュータ121が実行する。
【0099】
本実施形態におけるノイズ生成のフローに入ると、まず、ノイズパターンが生成済みか否かの判定を行う(S111)。ここでは、既にノイズパターンが生成されたか否かを判定する。少なくとも最初のフレームでは、ノイズパターンがないために、Noと判定される。
【0100】
ステップS111における判定の結果、ノイズパターンが生成済みでなかった場合には、次に、ノイズパターンの生成を行う(S115)。ここでは、第1実施形態の場合と同様、ノイズパターン制御部117が乱数を利用してノイズパターンを生成するか、またはフラッシュメモリ125に記憶してあるノイズパターンを読み出して使用する。
【0101】
ただし、本実施形態においては、ノイズ重畳を行う画像サイズよりも大きなサイズのノイズパターンを生成する。すなわち、図10(a)に示すように、ノイズ重畳を行う画像410よりもノイズパターン401のサイズが大きくなるようにする。生成するノイズパターンのサイズがフラッシュメモリ125に記憶してあるサイズよりも大きい場合には、所定サイズのノイズパターンを繰り返し敷き詰めるようにしてもよい。
【0102】
ノイズパターンの生成を行うと、次に、ノイズパターンの書き込みを行う(S117)。ここでは、ステップS115において生成したノイズパターンをSDRAM127に記憶する。
【0103】
ノイズパターンの書込みを行うと、次に、重畳位置を所定位置(例えば(0,0))とする(S109)。ここでは、ノイズ重畳を行うために使用するノイズ画像の左上の重畳位置420を所定の位置(例えば、(0,0))とする。
【0104】
ステップS111における判定の結果、ノイズパターンが生成済みであった場合には、次に、重畳位置の変更を行う(S113)。ここでは、今回の重畳位置422が前回の重畳位置421以外の位置になるようにランダムに変更する。このとき、少なくともフレーム間相関で圧縮する画像を生成する場合には、圧縮時にマクロブロック単位で相関のある場所を検索する範囲内になるように、ランダムで変更する範囲を制限する。すなわち、図10(b)において、前回の重畳範囲411から今回の重畳範囲412となるように、ノイズパターン401からノイズパターンを切り出す左上の位置を、重畳位置421から重畳位置422に変更する。このとき、あるマクロブロックに重畳するノイズパターン(今回フレームノイズパターン432)が、そのマクロブロックの相関を検索する範囲内において前回のノイズパターン(前回フレームノイズパターン431)が含まれるような範囲に移動を制限する。
【0105】
ステップS113において、重畳位置を変更すると、またはステップS119において重畳位置を所定位置とすると、元の画像処理のフローに戻る。元のフローに戻ると、第1実施形態の場合と同様、動画ファイルへの保存を行う際に、予め設定されている動画ファイルの形式に合わせた圧縮を画像圧縮展開部115によって行う。ノイズパターンとフレーム間圧縮の関係は、図8を用いた説明と同様である。但し、前フレーム重畳ノイズ511から現フレーム重畳ノイズ512の生成にあたっては、図9を用いて説明したノイズパターンの重畳位置の変更(S113参照)によって行う。
【0106】
このように、本発明の第2実施形態においては、図10に示すように、ノイズ生成部として機能するノイズパターン制御部117は、画像フレームよりも大きい領域を有するノイズパターンを生成し(S115参照)、第1のノイズの切り出し領域と、第2のノイズの切り出し領域とが異なる領域から切り出して生成するようにしている(S113参照)。このため、第2のノイズパターンの生成が簡単となる。
【0107】
また、本発明の第2実施形態においては、マクロブロックの相関検索範囲内の移動になるように、ノイズパターンを移動させるため、フレーム間圧縮時の圧縮がしやすくなり、同じ圧縮率であれば高画質に、また同じ画質であればより高圧縮することができる。
【0108】
なお、本実施形態においては、ノイズパターン401から重畳範囲410を切り出し、重畳範囲410の全体を移動させたが、あるブロック単位に区切り、そのブロック単位で移動させるようにしても、勿論かまわない。
【0109】
本発明の第1および第2実施形態においては、フレーム間圧縮を行っているが、フレーム間圧縮を行うと、圧縮の結果生じる残差が蓄積していくため、時間の経過に応じて画質が徐々に劣化してしまう。そこで、この劣化を防止するためには、一定間隔でフレーム内圧縮を行い誤差の蓄積をキャンセルするようにしてもよい。ただし、フレーム内圧縮はフレーム間圧縮に比較すると圧縮率が低く、フレーム内圧縮を多数挿入すると動画全体の圧縮率が低下してしまう。
【0110】
一般に通常の動画撮影において高圧縮かつ高画質を達成できるように調整するが、ノイズを意図的に追加したり、意図的にぼかしたりするような特殊効果モードの画像処理においては、通常動画で最適化された設定では、十分な画質や圧縮率を達成できるとは限らない。そこで、図11に示すように、フレーム内圧縮を挿入するようにすればよい。
【0111】
図11(a)は、特殊効果モードとしてラフモノクロームが設定された場合であり、図中、Iはフレーム内圧縮を行うフレームを示し、Pはフレーム間圧縮を行うフレームを示す。ラフモノクロームは、写真の粒子を粗くし、ハイコントラストでモノクロの画像に変換する画像処理であり、ノイズを追加するため、フレーム間の相関が小さく圧縮による誤差が画質に影響しやすい。従って、通常撮影に対してフレーム内圧縮(I)の挿入間隔を小さくすることで、予測誤差の蓄積を軽減できるため、画質向上を図ることができる。
【0112】
図11(b)は、特殊効果モードとして、ファンタジックフォーカス、またはジオラマが設定された場合を示す。ファンタジックフォーカスは、ピントを甘くし柔らかいトーンの中で空気感を表現するような画像処理であり、また、ジオラマは画面中央のピントを合わせ、画面の周囲のピントをぼかす画像処理である。これらのモードは、画像をぼかすためフレーム間の相関が高く、そのためフレーム間の予測残差が小さくなる。従って、通常撮影に対してフレーム内圧縮(I)の挿入間隔を大きくする。フレーム内圧縮の挿入間隔を大きくすることで圧縮効率が高くなるため、画質の向上を実現できる。
【0113】
このように、画像圧縮部として機能する画像圧縮展開部115は、MPEGに準拠したフレーム内圧縮を行う圧縮処理と、複数のフレーム間の相関を用いてフレーム相関を行うものであり、ノイズパターンを重畳した画像データを圧縮する場合は、合成処理部として機能するノイズ重畳処理部119でノイズパターンを合成しない画像を圧縮する場合に対して、フレーム間圧縮処理したデータを多く、またはフレーム内圧縮を行うフレーム間隔を短くするようにしている。このため、十分な画質と圧縮率を維持することが可能となる。
【0114】
以上説明したように、本発明の各実施形態においては、ノイズパターン生成部として機能するノイズパターン制御部117は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、第1のノイズパターンとは異なる第2のノイズパターンを生成し(図6のS105、図9のS113参照)、また、合成処理部として機能するノイズ重畳処理部119は、第1の画像データに第1のノイズパターンを合成し、第2の画像データに第2のノイズパターンを合成するようにしている(図5のS93参照)。このため、動画として違和感のないノイズを重畳した場合であっても、同等画質であれば高圧縮に、同等圧縮率であれば高画質の動画データを生成できる。
【0115】
また、本発明の各実施形態においては、第2のノイズパターンは、第1のノイズパターンを元に生成している。また、画像データをフレーム間圧縮するときに相関性を探索する範囲内に前回重畳したノイズパターンが存在するようにしている。このため、前回重畳したノイズパターンが存在する可能性が高く、フレーム間圧縮の際の相関性を高くすることができ、圧縮しやすくなる。
【0116】
また、本発明の各実施形態においては、ノイズ生成部として機能するノイズパターン制御部117は、第1の画像データに重畳した第1のノイズパターンの一部をコピーすることにより第2のノイズパターンを生成するようにしている。すなわち、第1実施形態においては、マクロブロック単位で第1のノイズパターンの一部をコピーして第2のノイズパターンを生成することによりノイズパターンの変更を行っている。また、第2実施形態においては、被写体の画像より大きな第1のノイズパターンから一部を切り出し、コピーした第2のノイズパターンを生成している。このように、ノイズパターンの一部をコピーすることによりノイズパターンを生成するために、簡単にノイズパターンを生成できると共に、相関性を高くすることができる。
【0117】
なお、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話や携帯情報端末(PDA:Personal Digital Assist)、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、ノイズパターンを画像データに重畳させることが可能な機器であれば、本発明を適用することができる。また、後方参照する場合には、参照するフレームに重畳したノイズに対し、同様にノイズを生成すればよい。また、RAWデータがベイヤ配列以外の撮像素子、例えば、同じ開口部に対して深さ方向に色感度を有する他の方式の撮像素子でもよいし、デジタル出力が可能な撮像素子でもよい。
【0118】
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【符号の説明】
【0119】
100・・・カメラ本体、101・・・メカシャッタ、103・・・撮像素子、105・・・アナログ処理部、107・・・A/D変換部、109・・・画像処理部、110・・・バス、111・・・AE処理部、113・・・AF処理部、115・・・画像圧縮展開部、117・・・ノイズパターン制御部、119・・・ノイズ重畳処理部、121・・・マイクロコンピュータ、123・・・操作部、125・・・フラッシュメモリ、127・・・SDRAM、129・・・メモリI/F、131・・・記録媒体、133・・・LCDドライバ、135・・・LCD、200・・・交換式レンズ、201・・・撮影レンズ、203・・・絞り、205・・・ドライバ、207・・・マイクロコンピュータ、209・・・フラッシュメモリ、300・・・I/F、401・・・ノイズパターン、410・・・重畳範囲、411・・・前回重畳範囲、412・・・今回重畳範囲、420・・・重畳位置、421・・・前回重畳位置、422・・・今回重畳位置、430・・・マクロブロック検索範囲、431・・・前回フレームノイズパターン、432・・・今回フレームノイズパターン
【特許請求の範囲】
【請求項1】
動画を形成する第1の画像データと第2の画像データを生成する画像データ生成部と、
上記各画像データに重畳するノイズパターンを生成するノイズパターン生成部と、
上記生成されたノイズを上記第1及び第2の画像データに重畳する合成処理部と、
上記合成処理部で処理された第1の画像データと第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮部と、
上記圧縮された画像データを記録する記録部と、
を具備し、
上記ノイズパターン生成部は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、上記第1のノイズパターンとは異なる第2のノイズパターンを生成し、
上記合成処理部は、上記第1の画像データに上記第1のノイズパターンを合成し、上記第2の画像データに上記第2のノイズパターンを合成する、
ことを特徴とする画像処理装置。
【請求項2】
上記画像圧縮部における画像圧縮は基準となるブロックサイズの単位で行うものであり、
上記ノイズパターンは、上記第1の画像の画像フレーム上の所定位置のブロックに合成されたノイズパターンと同一のノイズを、上記第2の画像の画像フレーム上の対応する位置近傍で、且つ上記第1の画像と第2の画像の相関を調べる領域内の位置に合成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
上記ノイズ生成部は、上記画像フレームよりも大きい領域を有するノイズパターンを生成し、上記第1のノイズの切り出し領域と、第2のノイズの切り出し領域とが異なる領域から切り出して生成することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
上記ノイズパターン生成部で生成される第2のノイズパターンは、上記第1の画像データに重畳した上記第1のノイズパターンの一部をコピーしたノイズパターンであることを特徴とする請求項2または3に記載の画像処理装置。
【請求項5】
上記ノイズパターン生成部で生成されるノイズパターンは、参照フレーム重畳したノイズパターンにおいて一部のノイズパターンを入替または回転したノイズパターンであることを特徴とする請求項4に記載の画像処理装置。
【請求項6】
上記ノイズパターン生成部で生成されるノイズパターンの少なくとも一部分は、参照フレームに重畳したノイズパターンの少なくとも一部分を移動させたノイズパターンであることを特徴とする請求項3または4に記載の画像処理装置。
【請求項7】
上記画像圧縮部は、MPEGに準拠したフレーム内圧縮と複数のフレーム間の相関を用いてフレーム相関を行うものであり、上記ノイズパターンを重畳した画像データを圧縮する場合は、上記合成処理部でノイズパターンを合成しない画像を圧縮する場合に対して、フレーム間圧縮処理したデータを多く、または上記フレーム内圧縮を行うフレーム間隔を短くすることを特徴とする請求項1ないし6に記載の画像処理装置。
【請求項1】
動画を形成する第1の画像データと第2の画像データを生成する画像データ生成部と、
上記各画像データに重畳するノイズパターンを生成するノイズパターン生成部と、
上記生成されたノイズを上記第1及び第2の画像データに重畳する合成処理部と、
上記合成処理部で処理された第1の画像データと第2の画像データの各画像フレーム間の画像データを圧縮したデータを生成する画像圧縮部と、
上記圧縮された画像データを記録する記録部と、
を具備し、
上記ノイズパターン生成部は、第1の画像データと第2の画像データのそれぞれに第1のノイズパターンと、上記第1のノイズパターンとは異なる第2のノイズパターンを生成し、
上記合成処理部は、上記第1の画像データに上記第1のノイズパターンを合成し、上記第2の画像データに上記第2のノイズパターンを合成する、
ことを特徴とする画像処理装置。
【請求項2】
上記画像圧縮部における画像圧縮は基準となるブロックサイズの単位で行うものであり、
上記ノイズパターンは、上記第1の画像の画像フレーム上の所定位置のブロックに合成されたノイズパターンと同一のノイズを、上記第2の画像の画像フレーム上の対応する位置近傍で、且つ上記第1の画像と第2の画像の相関を調べる領域内の位置に合成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
上記ノイズ生成部は、上記画像フレームよりも大きい領域を有するノイズパターンを生成し、上記第1のノイズの切り出し領域と、第2のノイズの切り出し領域とが異なる領域から切り出して生成することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
上記ノイズパターン生成部で生成される第2のノイズパターンは、上記第1の画像データに重畳した上記第1のノイズパターンの一部をコピーしたノイズパターンであることを特徴とする請求項2または3に記載の画像処理装置。
【請求項5】
上記ノイズパターン生成部で生成されるノイズパターンは、参照フレーム重畳したノイズパターンにおいて一部のノイズパターンを入替または回転したノイズパターンであることを特徴とする請求項4に記載の画像処理装置。
【請求項6】
上記ノイズパターン生成部で生成されるノイズパターンの少なくとも一部分は、参照フレームに重畳したノイズパターンの少なくとも一部分を移動させたノイズパターンであることを特徴とする請求項3または4に記載の画像処理装置。
【請求項7】
上記画像圧縮部は、MPEGに準拠したフレーム内圧縮と複数のフレーム間の相関を用いてフレーム相関を行うものであり、上記ノイズパターンを重畳した画像データを圧縮する場合は、上記合成処理部でノイズパターンを合成しない画像を圧縮する場合に対して、フレーム間圧縮処理したデータを多く、または上記フレーム内圧縮を行うフレーム間隔を短くすることを特徴とする請求項1ないし6に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−204901(P2012−204901A)
【公開日】平成24年10月22日(2012.10.22)
【国際特許分類】
【出願番号】特願2011−65345(P2011−65345)
【出願日】平成23年3月24日(2011.3.24)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【Fターム(参考)】
【公開日】平成24年10月22日(2012.10.22)
【国際特許分類】
【出願日】平成23年3月24日(2011.3.24)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【Fターム(参考)】
[ Back to top ]