画像処理装置、画像処理方法
【課題】 より少ないデータ量で、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成する為の技術を提供すること。
【解決手段】 回復処理部121は、画像の中心位置から該画像の一端までの間のライン上の各像高についての、該像高の位置におけるボケを軽減させる為に用いるフィルタを用いて、画像におけるボケを軽減させる処理である画質回復処理を行う。
【解決手段】 回復処理部121は、画像の中心位置から該画像の一端までの間のライン上の各像高についての、該像高の位置におけるボケを軽減させる為に用いるフィルタを用いて、画像におけるボケを軽減させる処理である画質回復処理を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成する為の技術に関するものである。
【背景技術】
【0002】
デジタルカメラなどの画像入力装置を用いて被写体を撮影した場合、レンズなどの収差の影響により、実際の被写体よりもボケて画質劣化が生じることが知られている。この画質劣化を画像処理によって回復する技術として、光学系のPSF(Point Spread Function)を用いる技術が知られている(特許文献1、特許文献2)。このPSFを用いる技術では、PSFを元に回復するための関数(回復関数)を求め、この回復関数を用いて回復処理を行う。この回復処理において、PSFは、レンズの種類、絞り、焦点距離、被写体までの距離、及び像高(光軸中心からの位置)の各条件に応じて変動する。特許文献1では、予め、各条件のPSFを保持しておき、撮影時にPSFを取得し、回復処理を行う。また、特許文献2では、光軸中心から同心円上にPSFを保持しておき、撮影画像の像高に応じてPSFを切り替えることで回復処理を行っている。
【0003】
ここで、回復処理について説明する。被写体をo、レンズなどのPSFをp、ノイズをnとすると、画像入力装置による撮影画像sは、以下の式のように書くことができる。
【0004】
s=o*p+n
ここで、「*」は畳み込み積分を表している。この際、以下の式のように回復フィルタrが求められれば、被写体o‘を導き出すことができる。
【0005】
o‘=r*s
この時、rは、pとnによって関連付けられるフィルタとなる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2001−197354号公報
【特許文献2】特許第03532368号
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、従来技術では、PSFのデータ量の膨大さと計算量の大きさが課題となる。上述の通り、PSFは画像内の位置に応じて変動する。そのため、全画面で画像回復を行う場合には、全画面内の各位置のPSFを保持しなけばならない。その場合、PSFのデータ量は膨大になり、レンズとカメラでPSFデータをやり取りすることが困難となる。また、特許文献2のように同心円上の領域ごとにPSFを持つ場合、領域の境界が問題となる。加えて、PSFの特性は、光軸中心からの距離だけではなく、光軸中心からの位置によっても変動するため、同心円状の領域だけでは不十分である。
【0008】
一方、特許文献1、2のようにPSFを保持しておき、撮影時にPSFから回復フィルタを算出する場合、フーリエ変換などの計算コストの大きな処理を行う必要があるため、計算量が大きくなってしまう。
【0009】
本発明は以上の問題に鑑みてなされたものであり、より少ないデータ量で、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成する為の技術を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の目的を達成するために、例えば、本発明の画像処理装置は以下の構成を備える。即ち、画像処理装置であって、画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する保持手段と、前記保持手段から前記フィルタを読み出す読み出し手段と、前記読み出し手段が読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理手段とを備え、前記処理手段は、前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置手段と、前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置手段が配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う手段とを備えることを特徴とする。
【発明の効果】
【0011】
本発明の構成によれば、より少ないデータ量で、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成することができる。
【図面の簡単な説明】
【0012】
【図1】撮像装置の構成例を示す図。
【図2】撮像装置が行う処理のフローチャート。
【図3】暈け回復用フィルタについて説明する図。
【図4】暈け回復用フィルタの一例を示す図。
【図5】暈け回復用フィルタについて説明する図。
【図6】暈け回復用フィルタを管理するテーブルの構成例を示す図。
【図7】暈け回復用フィルタの作成方法を説明する図。
【図8】撮像装置の構成例を示す図。
【図9】画像処理装置の構成例を示す図。
【図10】画像処理装置が行う処理のフローチャート。
【図11】画像処理装置が行う処理のフローチャート。
【図12】撮像画像の分割例を示す図。
【図13】切り替え領域について説明する図。
【発明を実施するための形態】
【0013】
以下、添付図面を参照し、本発明の好適な実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載の構成の具体的な実施例の1つである。
【0014】
[第1の実施形態]
本実施形態に係る撮像装置は、レンズの収差によるボケを軽減させるための暈け回復用フィルタの対称性を利用して、一像高方向のみの暈け回復用フィルタを、カメラ本体部に着脱可能なレンズ部内のメモリ(レンズメモリ)に保持しておく。そしてカメラ本体部側で、レンズの収差によるボケを軽減させるための処理(暈け回復処理)を行う場合には、このレンズ部から暈け回復用フィルタを取得し、展開し、画像に適用する。これにより、1枚の画像全体に対して、レンズの収差によるボケを軽減させるための処理を行うことができる。
【0015】
本実施形態に係る撮像装置について、図1のブロック図を用いて説明する。図1に示す如く、本実施形態に係る撮像装置は、カメラ本体部107と、カメラ本体部107に着脱可能且つカメラ本体部107と通信可能なレンズ部101と、で構成されている。
【0016】
先ず、レンズ部101について説明する。レンズ部101が有するレンズ102、絞り103を介して入光した光は、カメラ本体部107側に入光する。レンズ102、絞り103は、レンズ制御部104により制御される。
【0017】
レンズROM(レンズメモリ)105には、レンズ制御部104が動作するために用いるデータ、例えばカメラ本体部107側から通知される様々な情報に応じたレンズ102、絞り103の制御量のデータなどが格納されている。
【0018】
更に、レンズROM105には、本実施形態に係る撮像装置が撮像可能な画像の中心位置からこの画像の一端までの間のライン上の各像高について、この像高の位置におけるボケを軽減させる為に用いる暈け回復用フィルタが格納されている。なお、本実施形態では説明を簡単にするために、撮像画像の中心位置を光軸中心位置としている。しかし、光軸中心位置が撮像画像の中心位置からずれている場合、以下の説明において、撮像画像の中心位置を、撮像画像中の光軸中心位置と読み替えればよい。
【0019】
更に、この各像高に対応する暈け回復用フィルタは、焦点距離や絞りなどの撮像パラメータに応じて異なるので、この各像高に対応する暈け回復用フィルタは、撮像パラメータの組み合わせ毎にレンズROM105に格納されている。通信部106は、カメラ本体部107との間の通信を行うためのものである。
【0020】
次に、カメラ本体部107について説明する。レンズ102、絞り103を介してカメラ本体部107側に入光する光は、メカニカルシャッター110を介してCCDやCMOS等の撮像素子111に入光する。また、レンズ102、絞り103を介してカメラ本体部107側に入光する光は、ハーフミラー109で反射して、光学ファインダ108にも入光する。
【0021】
撮像素子111は、入光した光に応じた電気信号を撮像画像信号として出力するので、A/D変換器112は、このアナログ信号としての撮像画像信号をディジタル信号に変換し、このディジタル信号としての撮像画像のデータをカメラメモリ117に格納する。このカメラメモリ117には、カメラ本体部107を構成する各部の動作制御を行うCPU119が各種の処理を実行するために用いるコンピュータプログラムや、様々なデータが格納されている。
【0022】
撮像制御部114は、ハーフミラー109、メカニカルシャッター110、撮像素子111、レンズ部101を制御して撮像動作を制御する。操作部116は、ボタンなどの操作指示部を構成しており、ユーザはこの操作部116を操作することで、撮像指示や撮像パラメータの入力等をカメラ本体部107に入力することができる。なお、操作部116を用いて撮像パラメータが入力された場合、この撮像パラメータは撮像制御部114に送出すると共に通信部118を介してレンズ部101にも送出する。この場合、撮像制御部114は、この撮像パラメータに基づいてハーフミラー109、メカニカルシャッター110、撮像素子111を制御する。また、レンズ部101側のレンズ制御部104は、この撮像パラメータを通信部106を介して取得し、取得した撮像パラメータに基づいてレンズ102、絞り103を制御する。
【0023】
焦点検知センサ113は、オートフォーカスモードが設定された時のみ動作するもので、被写体までの焦点距離を検知する。この検知した焦点距離の情報は、AF部115に入力される。AF部115は、この入力された焦点距離の情報に基づいて、フォーカス量を算出し、算出したフォーカス量を撮像制御部114に送出すると共に、通信部118を介してレンズ部101にも送出する。この場合、撮像制御部114は、このフォーカス量に基づいてハーフミラー109、メカニカルシャッター110、撮像素子111を制御する。また、レンズ部101側のレンズ制御部104は、このフォーカス量に基づいてレンズ102、絞り103を制御する。
【0024】
信号処理部120は、回復処理部121と現像処理部122とで構成されている。回復処理部121は、カメラメモリ117に格納された撮像画像のデータを読み出し、この読み出した撮像画像に対して暈け回復処理を行う。現像処理部122は、この暈け回復処理が為された撮像画像に対して、デモザイキング、WB(ホワイトバランス)、ガンマ補正、色変換、ノイズリダクションなどの現像処理を行う。そして現像処理部122は、この現像処理を行った撮像画像のデータを、カメラメモリ117や外部メモリ123に格納する。外部メモリ123は、コンパクトフラッシュ(登録商標)やSDメモリーカード等、カメラ本体部107に着脱可能なメモリである。
【0025】
なお、図1に示した構成は単なる一例であり、以下に説明する各処理を実現可能な構成であれば、本実施形態に係る撮像装置の構成はこれに限定するものではない。また、図1には、本実施形態に係る撮像装置の主要な構成を示しているため、本実施形態に係る撮像装置は、図1に示した各部のみで構成されているわけではない。
【0026】
次に、本実施形態に係る撮像装置が1枚の画像を撮像し、撮像した画像に対して暈け回復処理を行う、一連の処理について、図2のフローチャートを用いて説明する。先ず、ユーザは、操作部116を操作して、被写体を撮像するための撮像パラメータ(絞り、シャッタースピード、焦点距離、ISO感度など)を設定するので、ステップS201ではCPU119は、この撮像パラメータを取得する。
【0027】
次に、ステップS202では、撮像制御部114、レンズ制御部104は、ステップS201で設定された撮像パラメータに基づいてレンズ102、絞り103、メカニカルシャッター110等を制御し、撮像素子111に対する露光を行う。この露光により、撮像素子111、A/D変換器112を介して撮像画像のデータが得られ、この撮像画像のデータは、カメラメモリ117に格納される。なお、ユーザが操作部116を用いてオートフォーカスモードを設定した場合、焦点検知センサ113は被写体までの焦点距離を検知し、AF部115はこの検知された焦点距離に基づいてフォーカス量を算出するので、このフォーカス量が撮像に用いられる。
【0028】
次に、ステップS203では、CPU119は、通信部118及び通信部106を制御し、ステップS201で取得した撮像パラメータに対応する暈け回復用フィルタをレンズROM105から読み出し、カメラメモリ117に格納する。本ステップにおける処理の詳細については後述する。
【0029】
次に、ステップS204では、回復処理部121は、カメラメモリ117から、暈け回復処理の対象となる撮像画像(処理対象画像)のデータを読み出す。そして回復処理部121は、処理対象画像において、暈け回復処理対象位置(x、y)を設定する。
【0030】
次に、ステップS205では、回復処理部121は、ステップS203で読み出した暈け回復用フィルタを用いて、位置(x、y)に対して適用する暈け回復用フィルタを作成する。本ステップにおける処理の詳細については後述する。
【0031】
ステップS206で回復処理部121は、ステップS205で作成した暈け回復用フィルタを用いて、位置(x、y)に対する畳み込み積分演算を行うことで、この位置に対する暈け回復処理を行う。
【0032】
ステップS207では、回復処理部121は、撮像画像上の全ての画素位置について暈け回復処理を行ったか否かを判断する。この判断の結果、行ったと判断した場合には処理はステップS209に進み、行っていないと判断した場合には、処理はステップS208に進む。
【0033】
ステップS209では、現像処理部122は、以上の処理によって暈け回復処理が為された撮像画像に対して、上記の現像処理を行い、現像処理後の撮像画像のデータをカメラメモリ117や外部メモリ123に格納する。
【0034】
一方、ステップS208では、回復処理部121は、画素位置(x、y)をずらして(例えば、xを1だけ増加させる)未だ暈け回復処理を行っていない位置を設定する。そしてステップS205以降でこの設定した位置に対して暈け回復処理を行う。
【0035】
次に、暈け回復用フィルタについてより詳細に説明する。一般的に、光学系の収差は光軸中心に対して点対称となる。然るに、画像上の各位置に対して適用する暈け回復用フィルタの構成もまた、この画像の中心(光軸中心)に対して点対称であるといえる。そこで本実施形態では、撮像装置が撮像可能な画像における全ての像高について暈け回復用フィルタを保持することは避け、図3に示す如く、画像の中心位置から画像の一端までの間の各像高について、この像高の位置に適用する暈け回復用フィルタを保持する。以下では、撮像画像の中心位置から、撮像画像の右端までの間の水平1ライン上の各像高における暈け回復用フィルタを保持するものとして説明する。しかし、この1ラインが撮像画像の中心位置から撮像画像のどの端部までの1ラインであっても、以下の説明は同様に適用することができる。
【0036】
レンズROM105内に格納されている暈け回復用フィルタの一例を図4に示す。図4(a)は、暈け回復用フィルタ内の各係数値を3次元形状で示したもので、図4(b)は、その1断面図を示す。上述したように、収差の点対称性を利用して、保持する暈け回復用フィルタとしては、光軸中心に向かって半分のみを持つことにより、データ量の削減が可能となる。例えば、水平(もしくは、垂直)の像高に対しては、上下(もしくは左右)の半分を保持しておき、残りについては演算によって求めることが可能である。また、光軸中心に対して、±45度または±135度の位置にある回復用フィルタに対しては、光軸中心に向かって線対称となるため、そのうち半分のみを保持しておけば良い。
【0037】
また、一般的に光学系の収差は1像高方向に対して、滑らかに変動する。そこで、図5に示す如く、離散的な像高に対して暈け回復用フィルタを保持しておき、その間の暈け回復用フィルタに関しては、補間によって求めることが可能である。しかしながら、変動の度合いとしては、像高が高くなるにしたがって、大きくなる。そこで、像高が高くなるにしたがって、より狭い像高間隔で対応する暈け回復処理を保持する。
【0038】
また、上記の通り、各像高に対応する暈け回復用フィルタは、焦点距離や絞りなどの撮像パラメータに応じて異なるので、この各像高に対応する暈け回復用フィルタは、撮像パラメータの組み合わせ毎にレンズROM105に格納される。焦点距離及び絞りの組み合わせ毎に暈け回復用フィルタを管理するテーブルの構成例を図6に示す。
【0039】
例えば、操作部116を用いて焦点距離=16mm、絞り値F=2.8が設定された場合、ステップS203では、像高01〜05のそれぞれに対応する暈け回復用フィルタR111〜R115がレンズROM105から読み出されることになる。
【0040】
次に、ステップS205における処理、即ち、ステップS203で読み出した暈け回復用フィルタを用いて、画素位置(x、y)に対して適用する暈け回復用フィルタを作成する処理について説明する。以下では説明を簡単にするために、ステップS203で読み出した暈け回復用フィルタが、上記水平1ライン上の像高1〜N(N>1)のそれぞれの像高に対応する暈け回復用フィルタ1〜Nで構成されているとする。
【0041】
先ず、それぞれの像高間の位置に対応する暈け回復用フィルタを作成する。これは、隣接する暈け回復用フィルタ間で補間計算を行うことで作成可能である。例えば、像高2と像高3の間の位置に対応する暈け回復用フィルタは、暈け回復用フィルタ2(第1のフィルタ)と暈け回復用フィルタ3(第2のフィルタ)とを用いた補間計算で求めることができる。この補間計算には、バイリニア補間や、バイキュービック補間、非線形な補間等を適用することができる。
【0042】
これにより、水平1ライン上の各画素位置に対する暈け回復用フィルタを作成することができる。次に、図7に示す如く、撮像画像の中心位置と位置(x,y)とを通る直線rと上記水平1ラインとが為す角度(水平1ラインから時計回りの角度)をθとする。この場合、水平1ライン上の各画素位置における暈け回復用フィルタ(図7ではR111〜115)を、撮像画像の中心位置を軸にθだけ回転させる。これにより、この直線r上の各像高の位置に対応する暈け回復用フィルタを作成することができるので、当然ながら、この直線上にある位置(x、y)に対して適用する暈け回復用フィルタが求まることになる。従って、この位置(x、y)に対して求めた暈け回復用フィルタを、この位置(x、y)に対して適用することができる。
【0043】
即ち、ステップS205における処理を要約すると、次のようになる。先ず、撮像装置が撮像可能な画像の中心位置からこの画像の一端までの間のライン上の着目像高の位置に配置してこの位置おけるボケを軽減させる為に用いる着目フィルタを、この画像の中心位置を軸に規定角度だけ回転させて配置する。
【0044】
そして、このラインを画像の中心位置を軸に上記規定角度だけ回転させた回転後ライン上の上記着目像高の位置に対して、上記配置された着目フィルタを適用することで、この位置に対する画質回復処理を行うことができる。
【0045】
以上の説明により、本実施形態によれば、暈け回復用フィルタのデータ量を従来よりも軽減させつつ、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成することができる。
【0046】
[第2の実施形態]
第1の実施形態では、レンズ部101がカメラ本体部107とは別個の装置としていた。しかし、レンズ部101とカメラ本体部107とが一体化している撮像装置も考え得る。レンズ部101とカメラ本体部107とが一体化した撮像装置の構成例を図8に示す。この場合、レンズROM105に格納されているものとして説明した、撮像パラメータ毎の「像高毎の暈け回復用フィルタ」は、カメラメモリ117に格納しておく。なお、係る点以外については、第1の実施形態と同様である。
【0047】
[第3の実施形態]
第1,2の実施形態では、撮像装置において画質回復処理を実現する場合について説明した。しかし、このような画質回復処理は、画像を取得して処理することのできる装置であれば、撮像装置以外の装置であっても実現可能である。本実施形態では、このような画質回復処理を実現するためのアプリケーションソフトウェアをPC(パーソナルコンピュータ)等の画像処理装置にインストールし、実行させることで、この画像処理装置で上記の画質回復処理を実現する例について説明する。
【0048】
先ず、本実施形態に係る画像処理装置の機能構成例について、図9のブロック図を用いて説明する。画像処理装置901には、ネットワーク903を介して回復フィルタDB(データベース)902が接続されており、画像処理装置901は通信部904を用いてこの回復フィルタDB902との通信を行う。ネットワーク903は、インターネット、イントラネットの何れであっても良いし、無線、有線の何れのネットワークであっても良い。
【0049】
この回復フィルタDB902には、画像の中心位置からこの画像の一端までの間のライン上の各像高について、この像高の位置におけるボケを軽減させる為に用いる暈け回復用フィルタが格納されている。なお、第1の実施形態と同様、この各像高に対応する暈け回復用フィルタは、焦点距離や絞りなどの撮像パラメータに応じて異なるので、この各像高に対応する暈け回復用フィルタは、撮像パラメータの組み合わせ毎に回復フィルタDB902に格納されている。
【0050】
また、画像処理装置901には、複数の画像のデータ(RAW画像データ)が登録されているRAW画像DB913、現像処理部910により現像処理がなされた画像のデータを格納するための出力画像記憶部914が接続されている。RAW画像DB913、出力画像記憶部914は何れも、ハードディスクなど、外部記憶装置として機能する記憶装置で構成されている。
【0051】
RAW画像データ記憶部905は、RAMやハードディスクなどにより構成されており、RAW画像データ取得部911がRAW画像DB913から読み出したRAW画像データを一時的に記憶するためのものである。
【0052】
回復フィルタ記憶部906は、RAMやハードディスクなどにより構成されており、通信部904が回復フィルタDB902から読み出した暈け回復用フィルタのデータを一時的に記憶するためのものである。
【0053】
回復処理部907は、暈け回復用フィルタを用いて画像に対する画質回復処理を行う。回復フィルタ算出部908は、通信部904が回復フィルタDB902から取得した暈け回復用フィルタを用いて、適用対象の位置に対する暈け回復用フィルタを生成する。
【0054】
画像タグデータ抽出部909は、RAW画像データ取得部911がRAW画像DB913から読み出したRAW画像データに添付されているタグデータから、この画像の撮像パラメータ(焦点距離、絞り、被写体距離等)を抽出する。然るに通信部904は、このタグデータから抽出された撮像パラメータに対応する暈け回復用フィルタを回復フィルタDB902から読み出すことになる。
【0055】
現像処理部910は、回復処理部907により画質回復処理が為された画像に対して、デモザイキング、WB(ホワイトバランス)、ガンマ補正、色変換、ノイズリダクション等の現像処理を行う。画像データ書き込み部912は、現像処理部910により現像処理が施された画像のデータを、出力画像記憶部914に書き込む。
【0056】
なお、回復処理部907、回復フィルタ算出部908、画像タグデータ抽出部909、現像処理部910、RAW画像データ取得部911、画像データ書き込み部912は、CPU119の機能部として機能することになる。通信部904については、ネットワークインターフェース回路として機能することになる。
【0057】
次に、画像処理装置901が行う処理について、図10のフローチャートを用いて説明する。先ずステップS1001では、RAW画像データ取得部911は、RAW画像DB913から処理対象のRAW画像データを読み出し、RAW画像データ記憶部905に格納する。
【0058】
次にステップS1002では、画像タグデータ抽出部909は、ステップS1001で読み出されたRAW画像データに添付されているタグデータから撮像パラメータを抽出する。そしてこの抽出された撮像パラメータ中のレンズ名情報が、暈け回復処理が可能なレンズを示す情報である場合には処理はステップS1003を介してステップS1004に進み、暈け回復処理が可能なレンズを示す情報ではない場合には、本処理を終了する。
【0059】
ステップS1004では通信部904は、ステップS1002で抽出した撮像パラメータに対応する暈け回復用フィルタを、回復フィルタDB902から読み出し、回復フィルタ記憶部906に格納する。
【0060】
ステップS1005で回復処理部907は、ステップS1004で読み出した暈け回復用フィルタを用いて、ステップS1001で読み出したRAW画像データに対して、回復処理部121と同様の動作を行う。これにより、第1の実施形態で説明した画質回復処理を実現する。
【0061】
次にステップS1006では、現像処理部910は、ステップS1005で画質回復処理がなされたRAW画像データに対して、現像処理を行う。ステップS1007では、画像データ書き込み部912は、ステップS1006で現像処理がなされたRAW画像データを、出力画像記憶部914に格納する。なお、画像データ書き込み部912は、現像処理がなされたRAW画像データを、TIFFやJPEG等の圧縮技術を用いて圧縮してから出力画像記憶部914に格納しても良い。
【0062】
[第4の実施形態]
第3の実施形態に係る画像処理装置の別の実施形態を説明する。以下に説明する点以外については、第3の実施形態と同様である。本実施形態に係る画像処理装置が行う処理について、図11のフローチャートを用いて説明する。先ずステップS1101では、RAW画像データ取得部911は、RAW画像DB913から、処理対象のRAW画像データを読み出し、RAW画像データ記憶部905に格納する。
【0063】
次にステップS1102では、画像タグデータ抽出部909は、ステップS1101で読み出されたRAW画像データに添付されているタグデータから撮像パラメータを抽出する。
【0064】
ステップS1103では通信部904は、ステップS1102で抽出した撮像パラメータに対応する暈け回復用フィルタを、回復フィルタDB902から読み出し、回復フィルタ記憶部906に格納する。
【0065】
ステップS1104では、回復処理部907は、ステップS1103で読み出した暈け回復用フィルタを用いて、ステップS1101で読み出されたRAW画像データの全画面分の暈け回復用フィルタを作成する。本ステップにおける処理の詳細については後述する。
【0066】
ステップS1105では、回復処理部907は、RAW画像データにおいて、暈け回復処理対象位置の初期位置(x、y)を設定する。ステップS1106では、回復処理部907は、ステップS1104で作成した暈け回復用フィルタのうち、処理対象位置(x、y)に適用する暈け回復用フィルタを選択する。本ステップにおける処理の詳細については後述する。
【0067】
ステップS1107で回復処理部907は、ステップS1106で選択した暈け回復用フィルタを用いて、位置(x、y)に対する畳み込み積分演算を行うことで、この位置に対する暈け回復処理を行う。
【0068】
ステップS1108では、回復処理部907は、撮像画像上の全ての画素位置について暈け回復処理を行ったか否かを判断する。この判断の結果、行ったと判断した場合には処理はステップS1110に進み、行っていないと判断した場合には、処理はステップS1109に進む。
【0069】
次にステップS1110では、現像処理部910は、ステップS1107で画質回復処理がなされたRAW画像データに対して、現像処理を行う。ステップS1121では、画像データ書き込み部912は、ステップS1110で現像処理がなされたRAW画像データを、出力画像記憶部914に格納する。なお、画像データ書き込み部912は、現像処理がなされたRAW画像データを、TIFFやJPEG等の圧縮技術を用いて圧縮してから出力画像記憶部914に格納しても良い。
【0070】
一方、ステップS1109では、回復処理部907は、画素位置(x、y)をずらして(例えば、xを1だけ増加させる)未だ暈け回復処理を行っていない位置を設定する。そしてステップS1106以降でこの設定した位置に対して暈け回復処理を行う。
【0071】
次に、ステップS1104における処理の詳細について説明する。第1乃至3の実施形態では暈け回復用フィルタは画素毎に作成していたので、比較的計算コストは大きなものとなる。そこで本実施形態では、画像劣化の性質および暈け回復用フィルタによる画質回復効果の関係から、撮像画像を領域分割し、同じ分割領域内では同じ暈け回復用フィルタを適用する。これにより、求めるべき暈け回復用フィルタの数は第1乃至3の実施形態よりも少なくなるので、第1乃至3の実施形態よりも計算コストを削減することができる。なお、ある領域内の位置に対するフィルタの作成方法については、第1の実施形態と同様である。
【0072】
撮像画像の分割例を図12に示す。図12では撮像画像1201を、中心像高領域1202と、中像高領域1203と、高像高領域1204と、に分割している。一般に、レンズなどによる光学系による劣化は、撮像画像の中心ほど小さく、像高が高くなるにつれて、大きくなることが知られている。一方、暈け回復用フィルタによる画質回復処理では、ノイズの増加を伴う。従って、撮像画像の全領域中で画質回復処理を行う場合、撮像画像の中央ほどノイズ増加が少なく、像高が高くなるにつれてノイズ量が増加してしまう。
【0073】
そこで、撮像画像の全領域中のノイズ増加量を一定に抑える必要がある。このような処理を行った場合、撮像画像の中央部では、もともと劣化が少ないためそれほど画質回復を行わない処理となる。さらに、中像高部では十分な回復を行う処理となる。一方、高像高部では、それほど回復を行わない処理となる。これらの性質を考慮すると、撮像画像の中央部では、画素位置に関係なく同じ暈け回復用フィルタを用いれば十分である。一方、中像高部では、画素位置に応じて様々に変化する暈け回復用フィルタが必要となる。高像高部では、画素位置によってそれほど変化しない暈け回復用フィルタとなる。
【0074】
これらの性質を考慮し、図12に示す如く、撮像画像の中央部では粗い領域分割を行い、中像高部内では像高が高くなるに従ってより細かい領域分割を行い、高像高部では粗い領域分割を行う。
【0075】
次に、ステップS1106における処理の詳細について説明する。上記の通り、本実施形態では、同じ分割領域内では同じ暈け回復用フィルタを用いる。しかしながら、暈け回復用フィルタが切り替わる領域では、暈け回復用フィルタの特性が異なるために、切れ目が生じてしまう。そこで、本実施形態では、図13に示すように、切り替え領域について過渡領域を設ける。図13では、領域Aと領域Bとの間の位置で用いる暈け回復用フィルタを、領域Aで用いるフィルタと領域Bで用いるフィルタとを、領域Aからこの位置への距離、領域Bからこの位置への距離、に応じた配分で合成して作成する。これにより、領域の切り替え領域での切れ目を低減させることができる。
【0076】
さらに、上記実施例においては、暈け回復用フィルタを保持するとしたが、暈け回復用フィルタに対してフーリエ変換を行い、周波数応答として保持する形式であってもかまわない。その場合、周波数面で上記の回転・展開を行い、最後に逆フーリエ変換を行うことで、暈け回復用フィルタを算出する。
【0077】
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【技術分野】
【0001】
本発明は、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成する為の技術に関するものである。
【背景技術】
【0002】
デジタルカメラなどの画像入力装置を用いて被写体を撮影した場合、レンズなどの収差の影響により、実際の被写体よりもボケて画質劣化が生じることが知られている。この画質劣化を画像処理によって回復する技術として、光学系のPSF(Point Spread Function)を用いる技術が知られている(特許文献1、特許文献2)。このPSFを用いる技術では、PSFを元に回復するための関数(回復関数)を求め、この回復関数を用いて回復処理を行う。この回復処理において、PSFは、レンズの種類、絞り、焦点距離、被写体までの距離、及び像高(光軸中心からの位置)の各条件に応じて変動する。特許文献1では、予め、各条件のPSFを保持しておき、撮影時にPSFを取得し、回復処理を行う。また、特許文献2では、光軸中心から同心円上にPSFを保持しておき、撮影画像の像高に応じてPSFを切り替えることで回復処理を行っている。
【0003】
ここで、回復処理について説明する。被写体をo、レンズなどのPSFをp、ノイズをnとすると、画像入力装置による撮影画像sは、以下の式のように書くことができる。
【0004】
s=o*p+n
ここで、「*」は畳み込み積分を表している。この際、以下の式のように回復フィルタrが求められれば、被写体o‘を導き出すことができる。
【0005】
o‘=r*s
この時、rは、pとnによって関連付けられるフィルタとなる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2001−197354号公報
【特許文献2】特許第03532368号
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、従来技術では、PSFのデータ量の膨大さと計算量の大きさが課題となる。上述の通り、PSFは画像内の位置に応じて変動する。そのため、全画面で画像回復を行う場合には、全画面内の各位置のPSFを保持しなけばならない。その場合、PSFのデータ量は膨大になり、レンズとカメラでPSFデータをやり取りすることが困難となる。また、特許文献2のように同心円上の領域ごとにPSFを持つ場合、領域の境界が問題となる。加えて、PSFの特性は、光軸中心からの距離だけではなく、光軸中心からの位置によっても変動するため、同心円状の領域だけでは不十分である。
【0008】
一方、特許文献1、2のようにPSFを保持しておき、撮影時にPSFから回復フィルタを算出する場合、フーリエ変換などの計算コストの大きな処理を行う必要があるため、計算量が大きくなってしまう。
【0009】
本発明は以上の問題に鑑みてなされたものであり、より少ないデータ量で、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成する為の技術を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の目的を達成するために、例えば、本発明の画像処理装置は以下の構成を備える。即ち、画像処理装置であって、画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する保持手段と、前記保持手段から前記フィルタを読み出す読み出し手段と、前記読み出し手段が読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理手段とを備え、前記処理手段は、前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置手段と、前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置手段が配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う手段とを備えることを特徴とする。
【発明の効果】
【0011】
本発明の構成によれば、より少ないデータ量で、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成することができる。
【図面の簡単な説明】
【0012】
【図1】撮像装置の構成例を示す図。
【図2】撮像装置が行う処理のフローチャート。
【図3】暈け回復用フィルタについて説明する図。
【図4】暈け回復用フィルタの一例を示す図。
【図5】暈け回復用フィルタについて説明する図。
【図6】暈け回復用フィルタを管理するテーブルの構成例を示す図。
【図7】暈け回復用フィルタの作成方法を説明する図。
【図8】撮像装置の構成例を示す図。
【図9】画像処理装置の構成例を示す図。
【図10】画像処理装置が行う処理のフローチャート。
【図11】画像処理装置が行う処理のフローチャート。
【図12】撮像画像の分割例を示す図。
【図13】切り替え領域について説明する図。
【発明を実施するための形態】
【0013】
以下、添付図面を参照し、本発明の好適な実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載の構成の具体的な実施例の1つである。
【0014】
[第1の実施形態]
本実施形態に係る撮像装置は、レンズの収差によるボケを軽減させるための暈け回復用フィルタの対称性を利用して、一像高方向のみの暈け回復用フィルタを、カメラ本体部に着脱可能なレンズ部内のメモリ(レンズメモリ)に保持しておく。そしてカメラ本体部側で、レンズの収差によるボケを軽減させるための処理(暈け回復処理)を行う場合には、このレンズ部から暈け回復用フィルタを取得し、展開し、画像に適用する。これにより、1枚の画像全体に対して、レンズの収差によるボケを軽減させるための処理を行うことができる。
【0015】
本実施形態に係る撮像装置について、図1のブロック図を用いて説明する。図1に示す如く、本実施形態に係る撮像装置は、カメラ本体部107と、カメラ本体部107に着脱可能且つカメラ本体部107と通信可能なレンズ部101と、で構成されている。
【0016】
先ず、レンズ部101について説明する。レンズ部101が有するレンズ102、絞り103を介して入光した光は、カメラ本体部107側に入光する。レンズ102、絞り103は、レンズ制御部104により制御される。
【0017】
レンズROM(レンズメモリ)105には、レンズ制御部104が動作するために用いるデータ、例えばカメラ本体部107側から通知される様々な情報に応じたレンズ102、絞り103の制御量のデータなどが格納されている。
【0018】
更に、レンズROM105には、本実施形態に係る撮像装置が撮像可能な画像の中心位置からこの画像の一端までの間のライン上の各像高について、この像高の位置におけるボケを軽減させる為に用いる暈け回復用フィルタが格納されている。なお、本実施形態では説明を簡単にするために、撮像画像の中心位置を光軸中心位置としている。しかし、光軸中心位置が撮像画像の中心位置からずれている場合、以下の説明において、撮像画像の中心位置を、撮像画像中の光軸中心位置と読み替えればよい。
【0019】
更に、この各像高に対応する暈け回復用フィルタは、焦点距離や絞りなどの撮像パラメータに応じて異なるので、この各像高に対応する暈け回復用フィルタは、撮像パラメータの組み合わせ毎にレンズROM105に格納されている。通信部106は、カメラ本体部107との間の通信を行うためのものである。
【0020】
次に、カメラ本体部107について説明する。レンズ102、絞り103を介してカメラ本体部107側に入光する光は、メカニカルシャッター110を介してCCDやCMOS等の撮像素子111に入光する。また、レンズ102、絞り103を介してカメラ本体部107側に入光する光は、ハーフミラー109で反射して、光学ファインダ108にも入光する。
【0021】
撮像素子111は、入光した光に応じた電気信号を撮像画像信号として出力するので、A/D変換器112は、このアナログ信号としての撮像画像信号をディジタル信号に変換し、このディジタル信号としての撮像画像のデータをカメラメモリ117に格納する。このカメラメモリ117には、カメラ本体部107を構成する各部の動作制御を行うCPU119が各種の処理を実行するために用いるコンピュータプログラムや、様々なデータが格納されている。
【0022】
撮像制御部114は、ハーフミラー109、メカニカルシャッター110、撮像素子111、レンズ部101を制御して撮像動作を制御する。操作部116は、ボタンなどの操作指示部を構成しており、ユーザはこの操作部116を操作することで、撮像指示や撮像パラメータの入力等をカメラ本体部107に入力することができる。なお、操作部116を用いて撮像パラメータが入力された場合、この撮像パラメータは撮像制御部114に送出すると共に通信部118を介してレンズ部101にも送出する。この場合、撮像制御部114は、この撮像パラメータに基づいてハーフミラー109、メカニカルシャッター110、撮像素子111を制御する。また、レンズ部101側のレンズ制御部104は、この撮像パラメータを通信部106を介して取得し、取得した撮像パラメータに基づいてレンズ102、絞り103を制御する。
【0023】
焦点検知センサ113は、オートフォーカスモードが設定された時のみ動作するもので、被写体までの焦点距離を検知する。この検知した焦点距離の情報は、AF部115に入力される。AF部115は、この入力された焦点距離の情報に基づいて、フォーカス量を算出し、算出したフォーカス量を撮像制御部114に送出すると共に、通信部118を介してレンズ部101にも送出する。この場合、撮像制御部114は、このフォーカス量に基づいてハーフミラー109、メカニカルシャッター110、撮像素子111を制御する。また、レンズ部101側のレンズ制御部104は、このフォーカス量に基づいてレンズ102、絞り103を制御する。
【0024】
信号処理部120は、回復処理部121と現像処理部122とで構成されている。回復処理部121は、カメラメモリ117に格納された撮像画像のデータを読み出し、この読み出した撮像画像に対して暈け回復処理を行う。現像処理部122は、この暈け回復処理が為された撮像画像に対して、デモザイキング、WB(ホワイトバランス)、ガンマ補正、色変換、ノイズリダクションなどの現像処理を行う。そして現像処理部122は、この現像処理を行った撮像画像のデータを、カメラメモリ117や外部メモリ123に格納する。外部メモリ123は、コンパクトフラッシュ(登録商標)やSDメモリーカード等、カメラ本体部107に着脱可能なメモリである。
【0025】
なお、図1に示した構成は単なる一例であり、以下に説明する各処理を実現可能な構成であれば、本実施形態に係る撮像装置の構成はこれに限定するものではない。また、図1には、本実施形態に係る撮像装置の主要な構成を示しているため、本実施形態に係る撮像装置は、図1に示した各部のみで構成されているわけではない。
【0026】
次に、本実施形態に係る撮像装置が1枚の画像を撮像し、撮像した画像に対して暈け回復処理を行う、一連の処理について、図2のフローチャートを用いて説明する。先ず、ユーザは、操作部116を操作して、被写体を撮像するための撮像パラメータ(絞り、シャッタースピード、焦点距離、ISO感度など)を設定するので、ステップS201ではCPU119は、この撮像パラメータを取得する。
【0027】
次に、ステップS202では、撮像制御部114、レンズ制御部104は、ステップS201で設定された撮像パラメータに基づいてレンズ102、絞り103、メカニカルシャッター110等を制御し、撮像素子111に対する露光を行う。この露光により、撮像素子111、A/D変換器112を介して撮像画像のデータが得られ、この撮像画像のデータは、カメラメモリ117に格納される。なお、ユーザが操作部116を用いてオートフォーカスモードを設定した場合、焦点検知センサ113は被写体までの焦点距離を検知し、AF部115はこの検知された焦点距離に基づいてフォーカス量を算出するので、このフォーカス量が撮像に用いられる。
【0028】
次に、ステップS203では、CPU119は、通信部118及び通信部106を制御し、ステップS201で取得した撮像パラメータに対応する暈け回復用フィルタをレンズROM105から読み出し、カメラメモリ117に格納する。本ステップにおける処理の詳細については後述する。
【0029】
次に、ステップS204では、回復処理部121は、カメラメモリ117から、暈け回復処理の対象となる撮像画像(処理対象画像)のデータを読み出す。そして回復処理部121は、処理対象画像において、暈け回復処理対象位置(x、y)を設定する。
【0030】
次に、ステップS205では、回復処理部121は、ステップS203で読み出した暈け回復用フィルタを用いて、位置(x、y)に対して適用する暈け回復用フィルタを作成する。本ステップにおける処理の詳細については後述する。
【0031】
ステップS206で回復処理部121は、ステップS205で作成した暈け回復用フィルタを用いて、位置(x、y)に対する畳み込み積分演算を行うことで、この位置に対する暈け回復処理を行う。
【0032】
ステップS207では、回復処理部121は、撮像画像上の全ての画素位置について暈け回復処理を行ったか否かを判断する。この判断の結果、行ったと判断した場合には処理はステップS209に進み、行っていないと判断した場合には、処理はステップS208に進む。
【0033】
ステップS209では、現像処理部122は、以上の処理によって暈け回復処理が為された撮像画像に対して、上記の現像処理を行い、現像処理後の撮像画像のデータをカメラメモリ117や外部メモリ123に格納する。
【0034】
一方、ステップS208では、回復処理部121は、画素位置(x、y)をずらして(例えば、xを1だけ増加させる)未だ暈け回復処理を行っていない位置を設定する。そしてステップS205以降でこの設定した位置に対して暈け回復処理を行う。
【0035】
次に、暈け回復用フィルタについてより詳細に説明する。一般的に、光学系の収差は光軸中心に対して点対称となる。然るに、画像上の各位置に対して適用する暈け回復用フィルタの構成もまた、この画像の中心(光軸中心)に対して点対称であるといえる。そこで本実施形態では、撮像装置が撮像可能な画像における全ての像高について暈け回復用フィルタを保持することは避け、図3に示す如く、画像の中心位置から画像の一端までの間の各像高について、この像高の位置に適用する暈け回復用フィルタを保持する。以下では、撮像画像の中心位置から、撮像画像の右端までの間の水平1ライン上の各像高における暈け回復用フィルタを保持するものとして説明する。しかし、この1ラインが撮像画像の中心位置から撮像画像のどの端部までの1ラインであっても、以下の説明は同様に適用することができる。
【0036】
レンズROM105内に格納されている暈け回復用フィルタの一例を図4に示す。図4(a)は、暈け回復用フィルタ内の各係数値を3次元形状で示したもので、図4(b)は、その1断面図を示す。上述したように、収差の点対称性を利用して、保持する暈け回復用フィルタとしては、光軸中心に向かって半分のみを持つことにより、データ量の削減が可能となる。例えば、水平(もしくは、垂直)の像高に対しては、上下(もしくは左右)の半分を保持しておき、残りについては演算によって求めることが可能である。また、光軸中心に対して、±45度または±135度の位置にある回復用フィルタに対しては、光軸中心に向かって線対称となるため、そのうち半分のみを保持しておけば良い。
【0037】
また、一般的に光学系の収差は1像高方向に対して、滑らかに変動する。そこで、図5に示す如く、離散的な像高に対して暈け回復用フィルタを保持しておき、その間の暈け回復用フィルタに関しては、補間によって求めることが可能である。しかしながら、変動の度合いとしては、像高が高くなるにしたがって、大きくなる。そこで、像高が高くなるにしたがって、より狭い像高間隔で対応する暈け回復処理を保持する。
【0038】
また、上記の通り、各像高に対応する暈け回復用フィルタは、焦点距離や絞りなどの撮像パラメータに応じて異なるので、この各像高に対応する暈け回復用フィルタは、撮像パラメータの組み合わせ毎にレンズROM105に格納される。焦点距離及び絞りの組み合わせ毎に暈け回復用フィルタを管理するテーブルの構成例を図6に示す。
【0039】
例えば、操作部116を用いて焦点距離=16mm、絞り値F=2.8が設定された場合、ステップS203では、像高01〜05のそれぞれに対応する暈け回復用フィルタR111〜R115がレンズROM105から読み出されることになる。
【0040】
次に、ステップS205における処理、即ち、ステップS203で読み出した暈け回復用フィルタを用いて、画素位置(x、y)に対して適用する暈け回復用フィルタを作成する処理について説明する。以下では説明を簡単にするために、ステップS203で読み出した暈け回復用フィルタが、上記水平1ライン上の像高1〜N(N>1)のそれぞれの像高に対応する暈け回復用フィルタ1〜Nで構成されているとする。
【0041】
先ず、それぞれの像高間の位置に対応する暈け回復用フィルタを作成する。これは、隣接する暈け回復用フィルタ間で補間計算を行うことで作成可能である。例えば、像高2と像高3の間の位置に対応する暈け回復用フィルタは、暈け回復用フィルタ2(第1のフィルタ)と暈け回復用フィルタ3(第2のフィルタ)とを用いた補間計算で求めることができる。この補間計算には、バイリニア補間や、バイキュービック補間、非線形な補間等を適用することができる。
【0042】
これにより、水平1ライン上の各画素位置に対する暈け回復用フィルタを作成することができる。次に、図7に示す如く、撮像画像の中心位置と位置(x,y)とを通る直線rと上記水平1ラインとが為す角度(水平1ラインから時計回りの角度)をθとする。この場合、水平1ライン上の各画素位置における暈け回復用フィルタ(図7ではR111〜115)を、撮像画像の中心位置を軸にθだけ回転させる。これにより、この直線r上の各像高の位置に対応する暈け回復用フィルタを作成することができるので、当然ながら、この直線上にある位置(x、y)に対して適用する暈け回復用フィルタが求まることになる。従って、この位置(x、y)に対して求めた暈け回復用フィルタを、この位置(x、y)に対して適用することができる。
【0043】
即ち、ステップS205における処理を要約すると、次のようになる。先ず、撮像装置が撮像可能な画像の中心位置からこの画像の一端までの間のライン上の着目像高の位置に配置してこの位置おけるボケを軽減させる為に用いる着目フィルタを、この画像の中心位置を軸に規定角度だけ回転させて配置する。
【0044】
そして、このラインを画像の中心位置を軸に上記規定角度だけ回転させた回転後ライン上の上記着目像高の位置に対して、上記配置された着目フィルタを適用することで、この位置に対する画質回復処理を行うことができる。
【0045】
以上の説明により、本実施形態によれば、暈け回復用フィルタのデータ量を従来よりも軽減させつつ、レンズの収差によるボケを画像処理によって軽減させてより高い画質の画像を生成することができる。
【0046】
[第2の実施形態]
第1の実施形態では、レンズ部101がカメラ本体部107とは別個の装置としていた。しかし、レンズ部101とカメラ本体部107とが一体化している撮像装置も考え得る。レンズ部101とカメラ本体部107とが一体化した撮像装置の構成例を図8に示す。この場合、レンズROM105に格納されているものとして説明した、撮像パラメータ毎の「像高毎の暈け回復用フィルタ」は、カメラメモリ117に格納しておく。なお、係る点以外については、第1の実施形態と同様である。
【0047】
[第3の実施形態]
第1,2の実施形態では、撮像装置において画質回復処理を実現する場合について説明した。しかし、このような画質回復処理は、画像を取得して処理することのできる装置であれば、撮像装置以外の装置であっても実現可能である。本実施形態では、このような画質回復処理を実現するためのアプリケーションソフトウェアをPC(パーソナルコンピュータ)等の画像処理装置にインストールし、実行させることで、この画像処理装置で上記の画質回復処理を実現する例について説明する。
【0048】
先ず、本実施形態に係る画像処理装置の機能構成例について、図9のブロック図を用いて説明する。画像処理装置901には、ネットワーク903を介して回復フィルタDB(データベース)902が接続されており、画像処理装置901は通信部904を用いてこの回復フィルタDB902との通信を行う。ネットワーク903は、インターネット、イントラネットの何れであっても良いし、無線、有線の何れのネットワークであっても良い。
【0049】
この回復フィルタDB902には、画像の中心位置からこの画像の一端までの間のライン上の各像高について、この像高の位置におけるボケを軽減させる為に用いる暈け回復用フィルタが格納されている。なお、第1の実施形態と同様、この各像高に対応する暈け回復用フィルタは、焦点距離や絞りなどの撮像パラメータに応じて異なるので、この各像高に対応する暈け回復用フィルタは、撮像パラメータの組み合わせ毎に回復フィルタDB902に格納されている。
【0050】
また、画像処理装置901には、複数の画像のデータ(RAW画像データ)が登録されているRAW画像DB913、現像処理部910により現像処理がなされた画像のデータを格納するための出力画像記憶部914が接続されている。RAW画像DB913、出力画像記憶部914は何れも、ハードディスクなど、外部記憶装置として機能する記憶装置で構成されている。
【0051】
RAW画像データ記憶部905は、RAMやハードディスクなどにより構成されており、RAW画像データ取得部911がRAW画像DB913から読み出したRAW画像データを一時的に記憶するためのものである。
【0052】
回復フィルタ記憶部906は、RAMやハードディスクなどにより構成されており、通信部904が回復フィルタDB902から読み出した暈け回復用フィルタのデータを一時的に記憶するためのものである。
【0053】
回復処理部907は、暈け回復用フィルタを用いて画像に対する画質回復処理を行う。回復フィルタ算出部908は、通信部904が回復フィルタDB902から取得した暈け回復用フィルタを用いて、適用対象の位置に対する暈け回復用フィルタを生成する。
【0054】
画像タグデータ抽出部909は、RAW画像データ取得部911がRAW画像DB913から読み出したRAW画像データに添付されているタグデータから、この画像の撮像パラメータ(焦点距離、絞り、被写体距離等)を抽出する。然るに通信部904は、このタグデータから抽出された撮像パラメータに対応する暈け回復用フィルタを回復フィルタDB902から読み出すことになる。
【0055】
現像処理部910は、回復処理部907により画質回復処理が為された画像に対して、デモザイキング、WB(ホワイトバランス)、ガンマ補正、色変換、ノイズリダクション等の現像処理を行う。画像データ書き込み部912は、現像処理部910により現像処理が施された画像のデータを、出力画像記憶部914に書き込む。
【0056】
なお、回復処理部907、回復フィルタ算出部908、画像タグデータ抽出部909、現像処理部910、RAW画像データ取得部911、画像データ書き込み部912は、CPU119の機能部として機能することになる。通信部904については、ネットワークインターフェース回路として機能することになる。
【0057】
次に、画像処理装置901が行う処理について、図10のフローチャートを用いて説明する。先ずステップS1001では、RAW画像データ取得部911は、RAW画像DB913から処理対象のRAW画像データを読み出し、RAW画像データ記憶部905に格納する。
【0058】
次にステップS1002では、画像タグデータ抽出部909は、ステップS1001で読み出されたRAW画像データに添付されているタグデータから撮像パラメータを抽出する。そしてこの抽出された撮像パラメータ中のレンズ名情報が、暈け回復処理が可能なレンズを示す情報である場合には処理はステップS1003を介してステップS1004に進み、暈け回復処理が可能なレンズを示す情報ではない場合には、本処理を終了する。
【0059】
ステップS1004では通信部904は、ステップS1002で抽出した撮像パラメータに対応する暈け回復用フィルタを、回復フィルタDB902から読み出し、回復フィルタ記憶部906に格納する。
【0060】
ステップS1005で回復処理部907は、ステップS1004で読み出した暈け回復用フィルタを用いて、ステップS1001で読み出したRAW画像データに対して、回復処理部121と同様の動作を行う。これにより、第1の実施形態で説明した画質回復処理を実現する。
【0061】
次にステップS1006では、現像処理部910は、ステップS1005で画質回復処理がなされたRAW画像データに対して、現像処理を行う。ステップS1007では、画像データ書き込み部912は、ステップS1006で現像処理がなされたRAW画像データを、出力画像記憶部914に格納する。なお、画像データ書き込み部912は、現像処理がなされたRAW画像データを、TIFFやJPEG等の圧縮技術を用いて圧縮してから出力画像記憶部914に格納しても良い。
【0062】
[第4の実施形態]
第3の実施形態に係る画像処理装置の別の実施形態を説明する。以下に説明する点以外については、第3の実施形態と同様である。本実施形態に係る画像処理装置が行う処理について、図11のフローチャートを用いて説明する。先ずステップS1101では、RAW画像データ取得部911は、RAW画像DB913から、処理対象のRAW画像データを読み出し、RAW画像データ記憶部905に格納する。
【0063】
次にステップS1102では、画像タグデータ抽出部909は、ステップS1101で読み出されたRAW画像データに添付されているタグデータから撮像パラメータを抽出する。
【0064】
ステップS1103では通信部904は、ステップS1102で抽出した撮像パラメータに対応する暈け回復用フィルタを、回復フィルタDB902から読み出し、回復フィルタ記憶部906に格納する。
【0065】
ステップS1104では、回復処理部907は、ステップS1103で読み出した暈け回復用フィルタを用いて、ステップS1101で読み出されたRAW画像データの全画面分の暈け回復用フィルタを作成する。本ステップにおける処理の詳細については後述する。
【0066】
ステップS1105では、回復処理部907は、RAW画像データにおいて、暈け回復処理対象位置の初期位置(x、y)を設定する。ステップS1106では、回復処理部907は、ステップS1104で作成した暈け回復用フィルタのうち、処理対象位置(x、y)に適用する暈け回復用フィルタを選択する。本ステップにおける処理の詳細については後述する。
【0067】
ステップS1107で回復処理部907は、ステップS1106で選択した暈け回復用フィルタを用いて、位置(x、y)に対する畳み込み積分演算を行うことで、この位置に対する暈け回復処理を行う。
【0068】
ステップS1108では、回復処理部907は、撮像画像上の全ての画素位置について暈け回復処理を行ったか否かを判断する。この判断の結果、行ったと判断した場合には処理はステップS1110に進み、行っていないと判断した場合には、処理はステップS1109に進む。
【0069】
次にステップS1110では、現像処理部910は、ステップS1107で画質回復処理がなされたRAW画像データに対して、現像処理を行う。ステップS1121では、画像データ書き込み部912は、ステップS1110で現像処理がなされたRAW画像データを、出力画像記憶部914に格納する。なお、画像データ書き込み部912は、現像処理がなされたRAW画像データを、TIFFやJPEG等の圧縮技術を用いて圧縮してから出力画像記憶部914に格納しても良い。
【0070】
一方、ステップS1109では、回復処理部907は、画素位置(x、y)をずらして(例えば、xを1だけ増加させる)未だ暈け回復処理を行っていない位置を設定する。そしてステップS1106以降でこの設定した位置に対して暈け回復処理を行う。
【0071】
次に、ステップS1104における処理の詳細について説明する。第1乃至3の実施形態では暈け回復用フィルタは画素毎に作成していたので、比較的計算コストは大きなものとなる。そこで本実施形態では、画像劣化の性質および暈け回復用フィルタによる画質回復効果の関係から、撮像画像を領域分割し、同じ分割領域内では同じ暈け回復用フィルタを適用する。これにより、求めるべき暈け回復用フィルタの数は第1乃至3の実施形態よりも少なくなるので、第1乃至3の実施形態よりも計算コストを削減することができる。なお、ある領域内の位置に対するフィルタの作成方法については、第1の実施形態と同様である。
【0072】
撮像画像の分割例を図12に示す。図12では撮像画像1201を、中心像高領域1202と、中像高領域1203と、高像高領域1204と、に分割している。一般に、レンズなどによる光学系による劣化は、撮像画像の中心ほど小さく、像高が高くなるにつれて、大きくなることが知られている。一方、暈け回復用フィルタによる画質回復処理では、ノイズの増加を伴う。従って、撮像画像の全領域中で画質回復処理を行う場合、撮像画像の中央ほどノイズ増加が少なく、像高が高くなるにつれてノイズ量が増加してしまう。
【0073】
そこで、撮像画像の全領域中のノイズ増加量を一定に抑える必要がある。このような処理を行った場合、撮像画像の中央部では、もともと劣化が少ないためそれほど画質回復を行わない処理となる。さらに、中像高部では十分な回復を行う処理となる。一方、高像高部では、それほど回復を行わない処理となる。これらの性質を考慮すると、撮像画像の中央部では、画素位置に関係なく同じ暈け回復用フィルタを用いれば十分である。一方、中像高部では、画素位置に応じて様々に変化する暈け回復用フィルタが必要となる。高像高部では、画素位置によってそれほど変化しない暈け回復用フィルタとなる。
【0074】
これらの性質を考慮し、図12に示す如く、撮像画像の中央部では粗い領域分割を行い、中像高部内では像高が高くなるに従ってより細かい領域分割を行い、高像高部では粗い領域分割を行う。
【0075】
次に、ステップS1106における処理の詳細について説明する。上記の通り、本実施形態では、同じ分割領域内では同じ暈け回復用フィルタを用いる。しかしながら、暈け回復用フィルタが切り替わる領域では、暈け回復用フィルタの特性が異なるために、切れ目が生じてしまう。そこで、本実施形態では、図13に示すように、切り替え領域について過渡領域を設ける。図13では、領域Aと領域Bとの間の位置で用いる暈け回復用フィルタを、領域Aで用いるフィルタと領域Bで用いるフィルタとを、領域Aからこの位置への距離、領域Bからこの位置への距離、に応じた配分で合成して作成する。これにより、領域の切り替え領域での切れ目を低減させることができる。
【0076】
さらに、上記実施例においては、暈け回復用フィルタを保持するとしたが、暈け回復用フィルタに対してフーリエ変換を行い、周波数応答として保持する形式であってもかまわない。その場合、周波数面で上記の回転・展開を行い、最後に逆フーリエ変換を行うことで、暈け回復用フィルタを算出する。
【0077】
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【特許請求の範囲】
【請求項1】
画像処理装置であって、
画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する保持手段と、
前記保持手段から前記フィルタを読み出す読み出し手段と、
前記読み出し手段が読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理手段と
を備え、
前記処理手段は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置手段と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置手段が配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う手段と
を備えることを特徴とする画像処理装置。
【請求項2】
画像処理装置であって、
画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する外部の装置から、前記フィルタを読み出す読み出し手段と、
前記読み出し手段が読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理手段と
を備え、
前記処理手段は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置手段と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置手段が配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う手段と
を備えることを特徴とする画像処理装置。
【請求項3】
前記保持手段は、
前記画像の中心位置からの像高が大きいほど、より短い像高間隔で前記フィルタを保持することを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記処理手段は更に、
前記保持手段が保持するフィルタのうち、隣接する像高の位置それぞれに適用するフィルタを第1のフィルタ、第2のフィルタとしたとき、
前記第1のフィルタを適用する像高の位置と、前記第2のフィルタを適用する像高の位置との間の各位置に対応するフィルタを、前記第1のフィルタと前記第2のフィルタとを用いた補間計算で求めることを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
【請求項5】
更に、
撮像により前記画像を取得する手段を備えることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
【請求項6】
画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する保持手段を有する画像処理装置が行う画像処理方法であって、
前記画像処理装置が有する読み出し手段が、前記保持手段から前記フィルタを読み出す読み出し工程と、
前記画像処理装置が有する処理手段が、前記読み出し工程で読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理工程と
を備え、
前記処理工程は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置工程と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置工程で配置された着目フィルタを適用して該位置に対する前記画質回復処理を行う工程と
を備えることを特徴とする画像処理方法。
【請求項7】
画像処理装置が行う画像処理方法であって、
前記画像処理装置が有する読み出し手段が、画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する外部の装置から、前記フィルタを読み出す読み出し工程と、
前記画像処理装置が有する処理手段が、前記読み出し工程で読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理工程と
を備え、
前記処理工程は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置工程と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置工程で配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う工程と
を備えることを特徴とする画像処理方法。
【請求項8】
コンピュータを、請求項1乃至5の何れか1項に記載の画像処理装置が有する各手段として機能させるためのコンピュータプログラム。
【請求項9】
請求項8に記載のコンピュータプログラムを格納した、コンピュータが読み取り可能な記憶媒体。
【請求項1】
画像処理装置であって、
画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する保持手段と、
前記保持手段から前記フィルタを読み出す読み出し手段と、
前記読み出し手段が読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理手段と
を備え、
前記処理手段は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置手段と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置手段が配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う手段と
を備えることを特徴とする画像処理装置。
【請求項2】
画像処理装置であって、
画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する外部の装置から、前記フィルタを読み出す読み出し手段と、
前記読み出し手段が読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理手段と
を備え、
前記処理手段は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置手段と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置手段が配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う手段と
を備えることを特徴とする画像処理装置。
【請求項3】
前記保持手段は、
前記画像の中心位置からの像高が大きいほど、より短い像高間隔で前記フィルタを保持することを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記処理手段は更に、
前記保持手段が保持するフィルタのうち、隣接する像高の位置それぞれに適用するフィルタを第1のフィルタ、第2のフィルタとしたとき、
前記第1のフィルタを適用する像高の位置と、前記第2のフィルタを適用する像高の位置との間の各位置に対応するフィルタを、前記第1のフィルタと前記第2のフィルタとを用いた補間計算で求めることを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
【請求項5】
更に、
撮像により前記画像を取得する手段を備えることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
【請求項6】
画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する保持手段を有する画像処理装置が行う画像処理方法であって、
前記画像処理装置が有する読み出し手段が、前記保持手段から前記フィルタを読み出す読み出し工程と、
前記画像処理装置が有する処理手段が、前記読み出し工程で読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理工程と
を備え、
前記処理工程は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置工程と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置工程で配置された着目フィルタを適用して該位置に対する前記画質回復処理を行う工程と
を備えることを特徴とする画像処理方法。
【請求項7】
画像処理装置が行う画像処理方法であって、
前記画像処理装置が有する読み出し手段が、画像の中心位置から該画像の一端までの間のライン上の各像高について、該像高の位置におけるボケを軽減させる為に用いるフィルタを保持する外部の装置から、前記フィルタを読み出す読み出し工程と、
前記画像処理装置が有する処理手段が、前記読み出し工程で読み出した前記フィルタを用いて、前記画像における前記ボケを軽減させる処理である画質回復処理を行う処理工程と
を備え、
前記処理工程は、
前記ライン上の着目像高の位置に配置して該位置おけるボケを軽減させる為に用いる着目フィルタを、前記画像の中心位置を軸に規定角度だけ回転させて配置する配置工程と、
前記ラインを前記画像の中心位置を軸に前記規定角度だけ回転させた回転後ライン上の前記着目像高の位置に対して、前記配置工程で配置した着目フィルタを適用して該位置に対する前記画質回復処理を行う工程と
を備えることを特徴とする画像処理方法。
【請求項8】
コンピュータを、請求項1乃至5の何れか1項に記載の画像処理装置が有する各手段として機能させるためのコンピュータプログラム。
【請求項9】
請求項8に記載のコンピュータプログラムを格納した、コンピュータが読み取り可能な記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−15865(P2012−15865A)
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【出願番号】特願2010−151435(P2010−151435)
【出願日】平成22年7月1日(2010.7.1)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【出願日】平成22年7月1日(2010.7.1)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]