説明

画像処理装置および方法、記録媒体、並びにプログラム

【課題】シェーディングを補正するようにする。
【解決手段】 撮像素子2から読み出される各画素毎に、その画素に対応する水平カウンタ値および垂直カウンタ値が、信号発生器11から、光軸中心座標設定部21、および上下左右の距離重み付け部22を介して距離算出部23に供給され、そこで光軸中心位置との距離が算出され、その距離に応じた、ズームWIDE端とズームTELE端の補正係数がLUT24,25により取得される。取得された2個の補正係数は、ゲインブレンド処理部27により、ブレンド比設定部26で決められた混合比でブレンドされる。ブレンドされたシェーディング補正係数は、ゲイン調整部28によりゲイン調整された後、補正部29に供給される。これにより、撮像部3から供給される各画素の信号に対し、光軸中心位置との距離に応じた補正が行われる。本発明は、デジタルスチルカメラに適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、特に、例えば、デジタルスチルカメラ機能を有するビデオカメラ、PDA(Personal Digital Assistant)、携帯電話機、あるいはPHS(Personal Handyphone System)などが被写体を撮像する場合において、撮像された画像のシェーディング(感度不均一性)を補正することができるようにした画像処理装置および方法、記録媒体、並びにプログラムに関する。
【背景技術】
【0002】
一般的に、レンズ系と撮像部とを有する撮像装置においては、例えば、レンズ系による周辺光量落ちによって、撮像される画像にシェーディング(感度不均一性)が生じることが知られている。
【0003】
昨今においては、撮像素子のセルサイズが極小化するにつれて、相対的に、撮像素子の配線等の高さ方向の構造が極小化されるため、また、レンズ小型化に伴う瞳距離を短縮化するために、撮像画像にシェーディングが生じやすくなってきている。
【0004】
このシェーディングの原理に関し、例えば、特許文献1において、次のように述べられている。撮像素子には、画素毎の光感度を向上させるために、マイクロレンズが撮像素子の感光画素部分毎に設けられている。撮影レンズを通した光線がほぼ垂直に撮像素子の感光部に入射する場合、入射光線は、ほぼ問題無く撮像素子の感光部に集光される。一方、撮影レンズを通した光線が斜めに撮像素子に入射する場合、撮影レンズとマイクロレンズとの光学的な関係で、撮影レンズの光軸から離れた領域(すなわち、撮像素子の周辺部分)の各感光部には、本来の入射光線の一部しか入射しなくなってしまい、シェーディングが発生する。
【0005】
この現象は、撮像素子上の画素位置が撮影レンズの光軸から離れるに従って激しくなる。また、大きなサイズの撮像素子の場合、撮像レンズによっては、撮像素子周辺部への光線の入射角が大きくなってしまうものがある。この場合、マイクロレンズの位置、オンチップ色フィルタの製作ズレ、あるいは、撮像素子のデバイス構造等に起因して、入射角が大きくなる撮像素子周辺部において、感度が低下するシェーディングが発生する。
【0006】
このようなシェーディングの発生を防止する方法として、例えば、多枚数でレンズ系を設計することも考えられるが、このような多枚数で設計されるレンズ系は、高価格であり、いわゆる民生機器には、採用が困難とされる場合が多い。
【0007】
一方、例えば、半導体撮像素子を用いる機器のように、信号の取り出しがXY座標に従って行われている場合には、取り出された信号に対するデジタル処理によって画像を補正することができる。そこで、従来からスキャナ等の分野においては、例えば、安価なレンズ系で撮像したために生じる歪みや、周辺光量落ち、あるいは、色にじみ等のレンズシェーディングをデジタル補正する技術が各種提案されている(例えば、特許文献2および特許文献3参照)。
【0008】
しかしながら、これらの先行技術は、いずれもスキャナ等の分野に限定して実施されたものであり(例えば、補正処理のために相当の時間を掛けることができるものであり)、デジタルスチルカメラなどのように、リアルタイムでの補正処理が要求されるようなものではない。
【0009】
これに対して、撮像素子平面上の感度不均一性を解消するようにした撮像装置およびシェーディング補正方法、撮像素子の特定の色チャンネルで発生する色シェーディングを補正する撮像装置およびシェーディング補正方法に関する技術が各種提案されている(例えば、特許文献4および特許文献5参照)。
【0010】
これらの先行技術において、特許文献1によれば、撮像素子の平面上に2次元配列された各画素にそれぞれ対応するシェーディング補正係数を記憶手段に持ち、撮像レンズのズーム位置、フォーカス位置、像高、絞り量、射出瞳位置、またはストロボ発光量の少なくとも1つに応じて補正係数を修正するようになされている。
【0011】
また、特許文献5によれば、CPU(Central Processing Unit)によりシェーディング補正データを計算し、書き換え可能な記録手段(例えば、RAM(Random Access Memory)に書き込み、CCD(Charge Coupled Devices)から読み出される撮像信号に応じてシェーディング補正データを読み出し、撮像信号をA/D(Analog to Digital)変換した後のデジタル信号に乗算してシェーディング補正を行うことで、高速かつ正確なシェーディング補正を行うことができるようになされている。さらにCPUで演算するプログラムを外部から変更できるような構成にすることで、被写体のシーンに応じた(例えば、逆光補正や照度に応じた)撮影などのシェーディング補正を可能にした画像入力装置を提供することができるようになされている。
【0012】
【特許文献1】特開2002−218298号公報
【特許文献2】特開平11−355511号公報
【特許文献3】特開2000−41183号公報等参照
【特許文献4】特開2002−218298号公報
【特許文献5】特開2000−41179等参照
【発明の開示】
【発明が解決しようとする課題】
【0013】
特許文献5の技術によると、撮像素子の平面上に2次元配列された各画素にそれぞれ対応するシェーディング補正係数を記憶するステップは1種類であり、例えば、レンズのズーム位置をWIDE端からTELE端へ移動させる場合には、連続するズーム位置毎に応じて補正係数を修正する必要がある。
【0014】
図1Aは、光量(縦軸)とズームWIDE端の位置(横軸)の関係におけるシェーディング特性を示し、図1Bは、光量(横軸)とズームTELE端の位置(横軸)の関係におけるシェーディング特性を示している。図1Aに示されるように、ズームWIDE端のシェーディング特性L1は、なだらかな光量落ちであるのに対し、図1Bに示されるように、ズームTELE端のシェーディング特性L2は、画面周辺部で急峻に光量が落ちる特性を持つことが多く、ズーム位置を移動させながら補正係数を修正したり、その補正精度を保つことが困難であるとともに、回路規模や補正プログラムも大きくなってしまう課題があった。
【0015】
さらに、撮像レンズのフォーカス位置、像高、絞り量、射出瞳位置、またはストロボ発光量についても、同様のことが言える。
【0016】
本発明はこのような状況に鑑みてなされたものであり、撮像レンズのズーム位置、フォーカス位置、像高、絞り量、射出瞳位置、またはストロボ発光量のいずれかが、両端の間の各位置にあっても、回路規模やプログラム規模を大きくすることなく、シェーディングを補正することができるようにするものである。
【課題を解決するための手段】
【0017】
本発明の画像処理装置は、撮影した画像のシェーディングを補正する画像処理装置であって、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出手段と、距離算出手段により算出された距離に基づいて、画像のシェーディングを補正するための補正値を取得する取得手段と、取得手段により取得された補正値に基づいて、各画素の信号を補正する補正手段とを備えることを特徴とする。
【0018】
前記取得手段は、複数の補正値を取得するようにすることができる。
【0019】
前記取得手段により取得された複数の補正値の混合比を設定する混合比設定手段と、混合比設定手段により設定された混合比に基づいて、複数の補正値を混合する混合手段とをさらに設け、補正手段は、混合手段により混合された補正値に基づいて、各画素の信号を補正するようにすることができる。
【0020】
前記混合比設定手段は、レンズズーム位置、絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量に基づいて、混合比を設定するようにすることができる。
【0021】
前記取得手段により取得された補正値をゲイン調整するゲイン調整手段をさらに設けるようにすることができる。
【0022】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、画面中心から各画素までの距離を、G画素に合わせて、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出手段と、G画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正手段と、G画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正手段とをさらに設けるようにすることができる。
【0023】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、画面中心から各画素までの距離を、Gb画素またはG画素に合わせ、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出手段と、Gb画素またはG画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正手段と、Gb画素またはG画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正手段と、Gb画素またはG画素を基準にした距離ゲインに対して、Gr画素またはE画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正手段とをさらに設けるようにすることができる。
【0024】
本発明の画像処理方法は、撮影した画像のシェーディングを補正する画像処理装置の画像処理方法であって、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップと、距離算出ステップの処理により算出された距離に基づいて、画像のシェーディングを補正するための補正値を取得する取得ステップと、取得ステップの処理により取得された補正値に基づいて、各画素の信号を補正する補正ステップとを含むことを特徴とする。
【0025】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、画面中心から各画素までの距離を、G画素に合わせて、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、G画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、G画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップとをさらに含むようにすることができる。
【0026】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、画面中心から各画素までの距離を、Gb画素またはG画素に合わせ、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、Gr画素またはE画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップとをさらに含むようにすることができる。
【0027】
本発明の記録媒体に記録されているプログラムは、撮影した画像のシェーディングを補正する画像処理を、コンピュータに行わせるプログラムであって、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップと、距離算出ステップの処理により算出された距離に基づいて、画像のシェーディングを補正するための補正値を取得する取得ステップと、取得ステップの処理により取得された補正値に基づいて、各画素の信号を補正する補正ステップとを含む処理をコンピュータに行わせることを特徴とする。
【0028】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、画面中心から各画素までの距離を、G画素に合わせて、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、G画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、G画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップとを含む処理をさらにコンピュータに行わせるようにすることができる。
【0029】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、画面中心から各画素までの距離を、Gb画素またはG画素に合わせ、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、Gr画素またはE画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップとを含む処理をさらにコンピュータに行わせるようにすることができる。
【0030】
本発明のプログラムは、撮影した画像のシェーディングを補正する画像処理装置の画像処理方法であって、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップと、距離算出ステップの処理により算出された距離に基づいて、画像のシェーディングを補正するための補正値を取得する取得ステップと、取得ステップの処理により取得された補正値に基づいて、各画素の信号を補正する補正ステップとを含む処理をコンピュータに行わせることを特徴とする。
【0031】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、画面中心から各画素までの距離を、G画素に合わせて、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、G画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、G画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップとを含む処理をさらにコンピュータに行わせるようにすることができる。
【0032】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、画面中心から各画素までの距離を、Gb画素またはG画素に合わせ、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと、Gb画素またはG画素を基準にした距離ゲインに対して、Gr画素またはE画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップとを含む処理をさらにコンピュータに行わせるようにすることができる。
【0033】
本発明においては、画面中心から各画素までの距離が、画面の上下左右に分けて距離ゲインがかけられて算出され、さらに色毎に距離バランスゲインがかけられて算出され、算出された距離に基づいて画像のシェーディングを補正するための補正値が取得され、取得された補正値に基づいて各画素の信号が補正される。
【発明の効果】
【0034】
本発明によれば、シェーディングを補正することができる。特に、回路規模やプログラム規模を大きくすることなく、また、補正精度を落とすことなく、シェーディングを補正することが可能となる。
【発明を実施するための最良の形態】
【0035】
以下に本発明を実施するための最良の形態を説明するが、明細書中に記載の発明と、実施の形態との対応関係を例示すると、次のようになる。明細書には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
【0036】
さらに、この記載は、明細書に記載されている実施の形態に対応するすべての発明が、記載されていることを意味するものではない。換言すれば、この記載は、明細書に記載されている他の発明の存在、すなわち、将来、分割出願されたり、補正により出現、追加される発明の存在を否定するものではない。
【0037】
請求項1に記載の画像処理装置(例えば、図3のデジタルスチルカメラ)は、撮影した画像のシェーディングを補正する画像処理装置であって、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出手段(例えば、図9のステップS3の処理を実行する図3の上下左右の重み付け部22、S7の処理を実行する図3の距離算出部23の類似距離算出部42)と、距離算出手段により算出された距離に基づいて、画像のシェーディングを補正するための補正値を取得する取得手段(例えば、図9のステップS8の処理を実行する図3のルックアップテーブル24,25)と、取得手段により取得された補正値に基づいて、各画素の信号を補正する補正手段(例えば、図9のステップS12の処理を実行する図3の補正部29)とを備えることを特徴とする。
【0038】
請求項2に記載の画像処理装置取得手段は、複数の補正値(例えば、ズームWIDE端の補正係数とズームTELE端の補正係数)を取得することを特徴とする。
【0039】
請求項3に記載の画像処理装置は、取得手段により取得された複数の補正値の混合比を設定する混合比設定手段(例えば、図9のステップS9の処理を実行する図3のブレンド比設定部27)と、混合比設定手段により設定された混合比に基づいて、複数の補正値を混合する混合手段(例えば、図9のステップS10の処理を実行する図3のゲインブレンド処理部27)とをさらに備え、補正手段は、混合手段により混合された補正値に基づいて、各画素の信号を補正することを特徴とする。
【0040】
請求項4に記載の画像処理装置混合比設定手段は、レンズズーム位置、絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量に基づいて(例えば、最小側と最大側の間の所定位置に応じて)、混合比を設定することを特徴とする。
【0041】
請求項5に記載の画像処理装置は、取得手段により取得された補正値をゲイン調整するゲイン調整手段(例えば、図9のステップS11の処理を実行する図3のゲイン調整部28)をさらに備えることを特徴とする。
【0042】
請求項6に記載の画像処理装置は、前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、画面中心から各画素までの距離を、G画素に合わせて、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出手段(図9のステップS5の処理を実行する図3の上下左右重み付け部22)と、G画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正手段(図9のステップS6の処理を実行する図3の距離長バランス処理部41)と、G画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正手段(図9のステップS6の処理を実行する図3の距離長バランス処理部41)とをさらに備えることを特徴とする。
【0043】
請求項7に記載の画像処理装置は、前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、画面中心から各画素までの距離を、Gb画素またはG画素に合わせ、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出手段(図9のステップS5の処理を実行する図3の上下左右重み付け部22)と、Gb画素またはG画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正手段(図9のステップS6の処理を実行する図3の距離長バランス処理部41)と、Gb画素またはG画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正手段(図9のステップS6の処理を実行する図3の距離長バランス処理部41)と、Gb画素またはG画素を基準にした距離ゲインに対して、Gr画素またはE画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正手段(図9のステップS6の処理を実行する図3の距離長バランス処理部41)とをさらに備えることを特徴とする。
【0044】
請求項8に記載の画像処理方法は、撮影した画像のシェーディングを補正する画像処理装置(例えば、図3のデジタルスチルカメラ)の画像処理方法であって、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップ(例えば、図9のステップS3,S7)と、距離算出ステップの処理により算出された距離に基づいて、画像のシェーディングを補正するための補正値を取得する取得ステップ(例えば、図9のステップS8)と、取得ステップの処理により取得された補正値に基づいて、各画素の信号を補正する補正ステップ(例えば、図9のステップS12)とを含むことを特徴とする。
【0045】
請求項9に記載の画像処理方法は、前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、画面中心から各画素までの距離を、G画素に合わせて、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップ(図9のステップS5)と、G画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップ(図9のステップS6)と、G画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップ(図9のステップS6)とをさらに含むことを特徴とする。
【0046】
請求項10に記載の画像処理方法は、前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、画面中心から各画素までの距離を、Gb画素またはG画素に合わせ、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップ(図9のステップS5)と、Gb画素またはG画素を基準にした距離ゲインに対して、R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップ(図9のステップS6)と、Gb画素またはG画素を基準にした距離ゲインに対して、B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップ(図9のステップS6)と、Gb画素またはG画素を基準にした距離ゲインに対して、Gr画素またはE画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップ(図9のステップS6)とをさらに含むことを特徴とする。
【0047】
なお、請求項11乃至13に記載の記録媒体に記録されているプログラム、および請求項14乃至16に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項8乃至10に記載の画像処理方法と同様である。
【0048】
以下に、本発明の実施の形態について図面を参照して説明する。
【0049】
図2は、本発明を適用したカメラシステムの基本的な構成例を示すブロック図である。この構成例においては、レンズ1、撮像素子2、CDS(Correlated Double Sampling)回路、AGC(Automatic Gain Control)回路、およびA/D(Analog to Digital)変換器を含む撮像部3、シェーディング補正部4、並びにカメラ信号処理部5からなる撮像系、表示部6からなる表示系、記録部7からなる記録系の3つのブロックに大別される。
【0050】
レンズ1は、光(すなわち、被写体の映像)を、撮像素子2に入射させる。撮像素子2は、例えば、CCD(Charge Coupled Devices)イメージャやC-MOS(Complementary Metal Oxide Semiconductor)イメージャを含む光電変換を行う光電変換素子が2次元に配置されたものであって、その前面には、R,GおよびBがモザイク状に配列された原色フィルタ(図示せず)が装着されている。すなわち、撮像素子2は、レンズ1および原色フィルタを介して入射された被写体の光像を光電変換して撮像信号(電荷)を生成し、生成した撮像信号をラスタスキャン方式で撮像部3に出力する。なお、原色フィルタは、Ye,Cy,MgおよびGがモザイク状に配列された補色系フィルタを用いるようにしてもよい。
【0051】
撮像部3は、撮像素子2より入力された撮像信号に対し、CDS回路におけるノイズ除去、AGC回路におけるゲイン調整を施し、A/D変換器でアナログ信号からデジタル信号に変換した後、シェーディング補正部4に供給する。
【0052】
シェーディング補正部4は、撮像部3から供給された撮像データに対し、レンズ・シェーディングによる、撮像面の周辺光量落ちを補正した後、カメラ信号処理部5に供給する。
【0053】
カメラ信号処理部5は、シェーディング補正部4から供給された撮像データに対し、ガンマ処理、色分離処理、および4:2:2の比率によるYUV変換などの信号処理を施し、輝度信号データおよびクロマ信号データからなる画像データを作成する。カメラ信号処理部5は、作成した画像データを表示部6に供給し、対応する画像を表示させたり、または作成した画像データを記録部7に供給し、そこに記録させる。
【0054】
表示部6は、例えば、LCD(Liquid Crystal Display)などからなり、カメラ信号処理部5から供給された被写体の画像を表示する。記録部7は、例えば、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどのリムーバブルメディアを制御するものであって、カメラ信号処理部5から供給された画像データをリムーバブルメディアに記録する。
【0055】
次に、以上のように構成されるカメラシステムのシェーディング補正の動作について説明する。
【0056】
被写体の光像は、レンズ1を介して撮像素子2に入射され、そこで光電変換されることにより撮像信号が生成される。その撮像信号は、撮像部3においてノイズ除去、ゲイン調整、およびA/D変換が施され、撮像データ(デジタル映像信号)としてシェーディング補正部4に出力される。ここで、シェーディングは、光軸中心からの距離に比例して生じると考えられているため、シェーディング補正部4により、光軸中心からの距離が算出され、その距離に応じたシェーディング補正係数が補正係数テーブルから読み出され、撮像データに補正係数をかけることによってシェーディングが補正される。そして、シェーディングが補正された撮像データは、カメラ信号処理部5により、ガンマ処理、色分離処理、およびYUV変換などの信号処理が施され、輝度信号データおよびクロマ信号データからなる画像データが作成され、表示部6または記録部7に出力される。
【0057】
次に、図2に示したカメラシステムの具体例について、以下に説明する。
【0058】
図3は、光軸中心位置との距離に基づく補正テーブルを読み出すことにより、リアルタイムで周辺光量落ちなどを補正する機能が設けられたデジタルスチルカメラの撮像系の構成例を示す図である。なお、図2と対応する部分には同一の符号を付してあり、その説明は、適宜省略する。
【0059】
信号発生器(SG)11は、水平リセット信号および垂直リセット信号を発生し、タイミング発生器(TG)12に供給するとともに、水平カウンタ値および垂直カウンタ値を生成し、シェーディング補正部4の光軸中心座標設定部21に供給する。
【0060】
タイミング発生器12は、信号発生器11から供給された水平リセット信号および垂直リセット信号に基づいて、水平駆動信号および垂直駆動信号を発生し、撮像素子2に供給する。これにより、撮像された各画素の信号が、タイミング発生器12で発生された水平駆動信号および垂直駆動信号に従って、撮像素子2から読み出される。
【0061】
光軸中心座標設定部21は、信号発生器11から供給された水平カウンタ値および垂直カウンタ値に基づいて、光軸中心位置情報データを算出する。例えば、500万画素の水平方向のピクセル長が2560ピクセルである場合、光軸中心の値がゼロになるようにするには、ピクセル長の1/2の値、すなわち1280の値を水平カウンタ値から減算するようにすればよい。また、500万画素の垂直方向のライン長が1920ラインである場合、光軸中心の値がゼロになるようにするには、ライン長の1/2の値、すなわち、960の値を垂直カウンタ値から減算するようにすればよい。
【0062】
上下左右の重み付け部22は、光軸中心座標設定部21で算出された光軸中心位置情報データに基づく光軸中心位置から見て、右側の水平距離ゲイン、または左側の水平距離ゲインを重み付けとして、水平カウンタ値に対してかける。例えば、500万画素の水平方向のピクセル長が2560ピクセルである場合、そのピクセル長の1/2の値、すなわち1280の値を水平カウンタ値から減算するようにすれば、光軸中心ではゼロの値、光軸中心より左側では負の値、光軸中心より右側では正の値が算出される。このようにして、上下左右の重み付け部22では、光軸中心位置から見て左側と右側を判別するとともに、右側の水平距離ゲインまたは左側の水平距離ゲインを重み付けとして、水平カウンタ値に対してかけるようにしている。
【0063】
また上下左右の重み付け部22は、光軸中心座標設定部21で算出された光軸中心位置情報データに基づく光軸中心位置から見て、上側の垂直距離ゲインまたは下側の垂直距離ゲインを重み付けとして、垂直カウンタ値に対してかける。例えば、500万画素の垂直方向のライン長が1920ラインある場合、そのライン長の1/2の値、すなわち960の値を垂直カウンタ値から減算するようにすれば、光軸中心ではゼロの値、光軸中心より上側では負の値、光軸中心より下側では正の値が算出される。このようにして、上下左右の重み付け部22では、光軸中心位置から見て上側と下側を判別するとともに、上側の垂直距離ゲインまたは下側の垂直距離ゲインを重み付けとして、垂直カウンタ値に対してかけるようにしている。
【0064】
さらに上下左右の重み付け部22は、水平カウンタ値および垂直カウンタ値に対して重み付けを行うため、そのままの状態の場合、G画素、R画素、およびB画素にそれぞれ共通で、上下左右の重み付けを行う。またG画素、R画素、およびB画素の上下左右アンバランスの度合いがそれぞれ同じ場合は、上下左右の重み付け部22により、重み付けされて上下左右のバランスがとれるようになる。
【0065】
しかしながら、G画素、R画素、およびB画素の上下左右アンバランスの度合いがそれぞれ異なる場合には、共通の上下左右重み付け処理が行われたとしても、色毎のアンバランスを解決することができない。
【0066】
ここで、G画素、R画素、およびB画素の上下左右アンバランスの度合いがそれぞれ異なる場合の例について、図4を参照して説明する。
【0067】
図4A乃至図4Cは、色シェーディングにより左右のバランスが色で崩れる画像を、シェーディング補正した場合の様子を示している。同図において、縦軸は、シェーディング特性を表わし、横軸は、ズームWIDE端の位置を表わしている。
【0068】
図4Aは、RGB毎に、異なる片シェーディングが発生している波形を示しており、左右のバランスが色で崩れている。この状態において、例えば、G画素に着眼し、上下左右の重み付け部22が、G画素に合わせた左右重み付けを行い、ゲイン調整部28の補正ゲインをかけた様子を図4Bに示す。ここでは、まだR画素とB画素に対して、重み付けと補正ゲインがかけられていない。
【0069】
図4Cは、R画素とB画素が、それぞれ片シェーディングになっているため、上下左右の重み付け部22が、G画素に合わせた左右重み付けを行ったり、あるいは、ゲイン調整部28が、色別ゲインで補正したとしても、片シェーディングが取り切れないことを示している。
【0070】
これは、上下左右の重み付け部22によりG画素に合わせた左右重み付けが行われた後、ゲイン調整部28により画面の上下左右で一様に色別ゲインがかけられるためである。すなわち、片シェーディングのままゲインをかけると、右肩上がりの片シェーディングでは左側のシェーディングを補正し切れないまま、片シェーディングが残り、左肩上がりの片シェーディングでは右側のシェーディングを補正し切れないまま、片シェーディングが残る。
【0071】
なお、上下のバランスが色で崩れる画像の場合も、上述したように、左右のバランスが色で崩れる画像の場合と同様に補正し切れなくなる。
【0072】
そこで、色シェーディングで左右または上下のバランスが色で崩れることを補正するために、図3の距離算出部23内には、距離長バランス処理部41が設けられている。
【0073】
ここで、色シェーディングで左右または上下のバランスが色で崩れることを補正する場合の例について、図5を参照して説明する。
【0074】
図5A乃至図5Cは、色シェーディングにより左右または上下のバランスが色で崩れる画像を、色シェーディングバランスを行って補正した場合の様子を示している。同図において、縦軸は、シェーディング特性を表わし、横軸は、ズームWIDE端の位置を表わしている。
【0075】
図5Aは、RGB毎に、異なる片シェーディングが発生している波形を示しており、左右のバランスが色で崩れている。この状態において、例えば、G画素に着眼し、上下左右の重み付け部22が、G画素における片シェーディングを、距離長の上下左右の各距離ゲインで片シェーディングを取った後、距離長バランス処理部41が、R画素とB画素のバランスをとるために、R画素とB画素の各距離長のバランスをそれぞれ取った様子を図5Bに示す。これにより、補正ゲインの強弱が収束され、補正結果がG画素と同じ平坦なレベルが得られるようになる。
【0076】
すなわち、距離長バランス処理部41は、R画素およびB画素を別々に、左側の光軸中心からの距離長、および、右側の光軸中心からの距離長の長短のバランスをとるようにする(上側、下側も同様である)。
【0077】
図6は、光軸中心からの距離算出におけるデフォルトの、左右バランスのH距離長(左右の距離ゲインが1倍)を示す図である。同図において、縦軸は、左右バランスのH距離長を表わし、横軸は、Hカウンタ値を表わしている。なお、Hカウンタ値は、信号発生器(SG)11から供給される水平カウンタ値を取得し、光軸中心がゼロの値をとるようにし、左側が負の値、および右側が正の値をとるように計算される。デフォルトでは、Hカウンタ値の絶対値が、そのままH距離長(デフォルト距離長L11)になる(左右の距離ゲインが1倍の場合)。このようにして、距離長バランス処理部41は、H距離長に応じて、周辺光量落ちを補正するようにしている。
【0078】
ここで、左右の距離長バランス調整の基本的な方法について説明する。ここでは、Default_distをデフォルトの距離長に設定するとともに、BAL_distをバランスの距離長に設定した場合のバランス距離長の一例を、次式(1)および次式(2)に示す。但し、式(1)は、H距離が負の場合であり、式(2)は、H距離が正の場合であるものとし、係数は0.0乃至1.998046875 (u,1,9)であるものとする。
BAL_dist = Default_dist × 係数 ・・・(1)
BAL_dist = 2.0 × Default_dist − (Default_dist × 係数) ・・・(2)
【0079】
なお、バランス距離長の計算式は、距離長バランスをとるものを満たすものであれば、上記式以外の他の計算式を用いることも勿論可能である。
【0080】
また、図7に示されるように、左肩上がりのアンバランスなH距離長(図7の例の場合、バランス距離長L12)の場合は、左側の距離長が短く、その分だけ右側の距離長が長くなるように距離長バランスをとるようにする。さらに、図8に示されるように、右肩上がりのアンバランスなH距離長(図8の例の場合、バランス距離長L21)の場合は、左側の距離長が長く、その分だけ右側の距離長が短くなるように距離長バランスをとるようにする。
【0081】
このように、シェーディング補正動作を行う前に、色別のアンバランスを調整しておくことにより、ゲインが一様である色別ゲインを調整すれば、平坦な波形に近づけることができる。図5Cは、図5Bに示したように、色別にアンバランスが調整された後、上下左右の重み付け部22が、G画素に合わせた左右重み付けを行い、ゲイン調整部28の補正ゲインをかけた様子を示している。図5Dは、上下左右の重み付け部22が、R画素とB画素に対して、G画素に合わせた左右重み付けを行った後、ゲイン調整部28が、色別ゲインでG画素に合わせ込んだ様子を示している。
【0082】
以上の処理により、左右のバランスが色で崩れる色シェーディングを解決することができる。
【0083】
以上においては、Green、Red、Blueの3色データについて説明したが、Gr/R/B/GbやE/R/B/G等の4色データについても同様に適用することができる。この場合には、Gb画素またはG画素に着眼し、上下左右の重み付け部22が、Gb画素またはG画素における片シェーディングを、距離長の上下左右の各距離ゲインで片シェーディングを取った後、距離長バランス処理部41が、Gr画素、R画素、およびB画素、または、E画素、R画素、およびB画素のバランスをとるために、各画素別々に、左側の光軸中心からの距離長、および、右側の光軸中心からの距離長の長短のバランスをとるようにする(上側、下側も同様である)。
【0084】
以上のようにして、Gr/R/B/GbやE/R/B/G等の4色データについても、左右のバランスが色で崩れる色シェーディングを解決することができる。
【0085】
距離算出部23の類似距離算出部42は、回路規模削減のため、距離dの算出を多角形で近似して算出する16角擬似距離計算回路で構成されており、上下左右の重み付け部22において上下左右の距離の重み付けがかけられ、距離長バランス処理部41において距離長バランスがとられたデータに基づいて、次式(3)に従って、光軸中心位置との距離dを算出する。ここで、光軸中心からの座標を(x,y)とし、それらの絶対値をX,Yとする。
d=(X+Y)+3/16|X−Y|+2/16{|X−2Y|+|2X+Y|}・・(3)
【0086】
なお、16角擬似距離計算に関する詳細については、特開2002−216136号公報および特開2002−237998号公報に開示されている。
【0087】
ところで、単純に、16角擬似距離を計算すれば、ほぼ正16角形になるが、ここでは、上下左右の距離の重み付けがかけられているため、正16角形に近くなるとは限らない。
【0088】
ルックアップテーブル(LUT)24,25には、例えば、ズームWIDE端の周辺光量落ちなどを補正する補正係数テーブル、およびズームTELE端の周辺光量落ちなどを補正する補正係数テーブルが予め生成され、それぞれ記憶されている。ルックアップテーブル24および25は、距離算出部23により算出された光軸中心位置との距離データに応じた、ズームWIDE端の補正係数とズームTELE端の補正係数をそれぞれ取得し、ゲインブレンド処理部27に供給する。
【0089】
なお、ルックアップテーブル24,25には、ズームWIDE端とズームTELE端の2個の補正係数が記憶される他、例えば、絞り量がOPEN側とCLOSE側の2個の補正係数が記憶されるようにしてもよく、さらにはフォーカス位置、像高、射出瞳位置、またはストロボ発光量の最小側と最大側の2個の補正係数が記憶されるようにしてもよい。
【0090】
ブレンド比設定部26は、ズームWIDE端とズームTELE端の間の各ズーム位置に応じて、2個の補正係数(ズームWIDE端の補正係数とズームTELE端の補正係数)の混合(ブレンド)比を設定する。具体的には、混合比が0に設定された場合、ルックアップテーブル24,25のいずれか一方(例えば、ルックアップテーブル24)から取得された補正係数のみとされる。そして、混合比の値が大きく設定されるに従って、他方(例えば、ルックアップテーブル25)から取得された補正係数の比率が大きくなる。
【0091】
またブレンド比設定部26は、絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量の最小側と最大側の間の所定位置に応じて、2個の補正係数の混合比を設定する。
【0092】
ゲインブレンド処理部27は、ルックアップテーブル24,25からそれぞれ読み出された2個の補正係数を、例えば、ズーム位置でシェーディング補正する場合、ズーム位置に応じてブレンド比設定部26で決められた混合比でブレンド(混合)し、シェーディング補正係数を算出する。またゲインブレンド処理部27は、ルックアップテーブル24,25からそれぞれ読み出された2個の補正係数を、例えば、撮像レンズの絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量のいずれかでシェーディングを補正する場合、最小側と最大側の間の所定位置に応じて決められた混合比でブレンドし、シェーディング補正係数を算出する。
【0093】
例えば、ルックアップテーブル24から読み出された補正係数A、ルックアップテーブル25から読み出された補正係数B、およびブレンド比設定部26により設定された混合比Rとすると、ブレンドされたシェーディング補正係数Cは、次式(4)に従って算出される。
C=(1−R)・A+R・B
=A−R・A+R・B
=A−R・(A−B) ・・・(4)
【0094】
ゲイン調整部28は、Gr/R/B/GbやG/R/B/E等の色情報信号を識別して、ゲインブレンド処理部27においてブレンドされたシェーディング補正係数に対し、4色毎に色別ゲインをかける。この色別ゲインは、シェーディング補正の影響度を兼ねており、補正の影響度とは、撮影シーン毎に補正の強弱を設定することを意味する。
【0095】
補正部29は、ゲイン調整部28においてゲイン調整されたシェーディング補正係数に基づいて、撮像部3から供給される各画素の信号に対し、光軸中心位置との距離に応じた周辺光量落ちなどの補正を行う。なお、この補正部29は、一般的には、補正係数を乗算する乗算器で構成されるが、オフセットを加えて補正を行うような場合には加算器であってもよい。
【0096】
カメラ信号処理部5は、補正部29においてシェーディング補正された画像信号の補間処理や同時化処理などを施し、端子31,32に出力するための出力画像信号(Y/C信号)を形成する。
【0097】
次に、図9のフローチャートを参照して、図3に示す撮像系を有するデジタルスチルカメラが実行する、シェーディング補正処理について説明する。この処理では、Green、Red、Blueの3色データについて説明しているが、Gr/R/B/GbやE/R/B/G等の4色データについても同様に適用することができる。
【0098】
ステップS1において、撮像素子2は、タイミング発生器12で発生された水平駆動信号および垂直駆動信号に従って、撮像された各画素の信号を読み出す。ステップS2において、光軸中心座標設定部21は、信号発生器11で発生された水平カウンタ値および垂直カウンタ値に基づいて、撮像素子2のピクセル長の1/2の値を水平カウンタ値から減算するとともに、ライン長の1/2の値を垂直カウンタ値から減算することにより、光軸中心位置情報データを算出する。
【0099】
ステップS3において、上下左右の重み付け部22は、ステップS2の処理で算出された光軸中心位置情報データに基づく光軸中心位置から見て、右側の水平距離ゲイン、または左側の水平距離ゲインを重み付けとして、水平カウンタ値に対してかけるとともに、上側の垂直距離ゲインまたは下側の垂直距離ゲインを重み付けとして、垂直カウンタ値に対してかける。
【0100】
ステップS4において、上下左右の重み付け部22は、色シェーディングが生じ、画面左右または上下のバランスが色で崩れる画像であるか否かを判定し、色シェーディングが生じていると判定した場合、ステップS5に進む。ステップS5において、上下左右の重み付け部22は、画面中心から各画素までの距離を、画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する距離算出処理を、Green画素に合わせて行う。ステップS6において、距離算出部23の距離長バランス処理部41は、Green画素を基準にした距離ゲインに対して、Red画素の上下左右距離バランスゲインをかけるRed距離バランス算出、および、Green画素を基準にした距離ゲインに対して、Blue画素の上下左右距離バランスゲインをかけるBlue距離バランス算出をそれぞれ行う。
【0101】
ステップS6の処理の後、または、ステップS4において、色シェーディングが生じていないと判定された場合、ステップS7に進み、距離算出部23の類似距離算出部42は、ステップS3の処理で上下左右の距離の重み付けがかけられたデータ、および、ステップS5,S6の処理を経た場合には、距離長バランスがとられたデータに基づいて、上記式(3)に従って、光軸中心位置との距離dを算出する。
【0102】
ここまでの処理により、撮像素子2から読み出される各画素毎に、その画素に対応する水平カウンタ値および垂直カウンタ値が、信号発生器11から、光軸中心座標設定部21、および上下左右の距離重み付け部22を介して距離算出部23に供給され、そこで光軸中心位置との距離が算出される。
【0103】
ステップS8において、ルックアップテーブル24,25は、ステップS7の処理で算出された各画素毎の光軸中心位置との距離に応じた、ズームWIDE端の補正係数とズームTELE端の補正係数をそれぞれ取得する。ステップS9において、ブレンド比設定部27は、ズームWIDE端とズームTELE端の間の各ズーム位置に応じて、ステップS8の処理で取得された2個の補正係数の混合比を設定する。ステップS10において、ゲインブレンド処理部27は、上記式(4)に従って、ステップS8の処理で取得された2個のズームWIDE端の補正係数とズームTELE端の補正係数を、ステップS9の処理で設定された所定の混合比でブレンドし、シェーディング補正係数Cを算出する。
【0104】
ここまでの処理により、撮像レンズのズーム位置のWIDE端とTELE端の両端で、シェーディング特性が大きく異なっていたとしても、その両端の2種類の補正係数を、WIDE端とTELE端の間の所定のズーム位置に応じて決められた混合比でブレンドすることにより、補正精度を落とすことなく、容易にシェーディング補正係数を算出することができる。
【0105】
同様に、絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量のいずれかが、最小側と最大側の両端で、シェーディング特性が大きく異なっていたとしても、その両端の補正係数を、最小側と最大側の間の所定位置に応じて決められた混合比でブレンドすることにより、やはり、補正精度を落とすことなく、容易にシェーディング補正係数を算出することができる。
【0106】
ステップS11において、ゲイン調整部28は、ステップS10の処理で算出されたシェーディング補正係数に対し、4色毎に色別ゲインをかける。ステップS12において、補正部29は、ステップS11の処理でゲイン調整されたシェーディング補正係数に基づいて、ステップS1の処理で撮像素子2から読み出された各画素の信号に対して、光軸中心位置との距離に応じた周辺光量落ちなどの補正を行う。
【0107】
以上のように、シェーディング特性が画面の上下左右のいずれかに傾いていたとしても、光軸中心位置からの距離の上下左右の重み付けをかけることにより、画像信号の上下左右のバランスがとられ、多角形で近似した式(3)を用いて、その距離が算出され、算出された距離の値に応じた補正係数が、2基のルックアップテーブル24,25からそれぞれ取得される。そして、取得された2個の補正係数が、撮像レンズのズーム位置のWIDE端とTELE端の両端の間の所定位置に応じて決められた混合比でブレンドされ、目的のシェーディング補正係数が算出される。これにより、撮像レンズのズーム位置がWIDE端とTELE端の両端の間のどの位置にあっても、補正精度を落とすことなく、容易にシェーディング補正係数を算出することができる。従って、簡単なハードウェア構成で、良好なレンズシェーディング補正を行うことができる。
【0108】
なお、ルックアップテーブル24,25は、いずれも1つのブロックで構成されているが、これに限らず、例えば、3原色の信号(R,G,B)、輝度信号(Y信号)、または色差信号(Cb,Cr信号)のそれぞれに対応する値を記憶するようにしてもよい。
【0109】
以上においては、光軸中心位置との距離に基づく2個の補正係数を読み出すことにより、リアルタイムでシェーディング補正を行うようにしたが、さらに画像が、垂直方向または水平方向のいずれか一方または両方に間引きが行われている場合にも、同様に、リアルタイムでシェーディング補正を行うことができる。
【0110】
図10は、垂直方向または水平方向のいずれか一方または両方に画像の間引きが行われている場合において、光軸中心位置との距離に基づく補正テーブルを読み出すことにより、リアルタイムで周辺光量落ちなどを補正する機能が設けられたデジタルスチルカメラの撮像系の構成例を示す図である。なお、図3と対応する部分には同一の符号を付してあり、その説明は、適宜省略する。図10に示す構成例の場合、距離算出部23内に変換部52が新たに設けられている以外は、図3と同様である。
【0111】
距離算出部23は、上下左右の重み付け部22において上下左右の距離の重み付けがかけられ、距離長バランス処理部41において距離長バランスがとられたデータから、上記式(3)に従って、光軸中心位置との距離dを算出した後、端子51から供給される間引き情報(間引き率の逆数)に基づいて、変換部52において、距離dの値を変換させる。
【0112】
次に、図11のフローチャートを参照して、図10に示す撮像系を有するデジタルスチルカメラが実行する、シェーディング補正処理について説明する。
【0113】
ステップS21乃至S26の処理は、上述した図9のステップS1乃至S6の処理と同様の処理であるため、その説明は省略する。すなわち、撮像された各画素の信号が読み出され、各画素に対応する水平カウンタ値および垂直カウンタ値に基づいて、光軸中心位置情報データが算出され、光軸中心位置から見て、上下左右の距離の重み付けがかけら、色シェーディングが生じている場合には、距離長バランスがとられる。
【0114】
ステップS27において、距離算出部23は、ステップS23の処理で上下左右の距離の重み付けがかけられたデータ、および、ステップS25,S26の処理を経た場合には、距離長バランスがとられたデータから、上記式(3)に従って、光軸中心位置との距離dを算出する。変換部52は、端子51から供給される間引き情報に基づいて、算出された距離dの値を変換する。
【0115】
ステップS28乃至S32の処理は、上述した図9のステップS8乃至S12の処理と同様の処理であるため、その説明は省略する。すなわち、ステップS27の処理で変換された各画素毎の光軸中心位置との距離に応じて、ズームWIDE端の補正係数とズームTELE端の補正係数が取得され、それらが所定の混合比でブレンドされることにより、シェーディング補正係数が算出される。そして、シェーディング補正係数がゲイン調整され、そのシェーディング補正係数に基づいて、読み出された各画素の信号に対して、光軸中心位置との距離に応じた周辺光量落ちなどの補正が行われる。
【0116】
以上のように、画像の間引きが行われていたとしても、変換部52によって、カウント値が間引きの行われない状態でのカウント値に変換され、光軸中心位置からの距離が正しく求められる。これにより、良好なレンズシェーディング等の補正を行うことができる。
【0117】
また図3および図10に示したルックアップテーブル24,25には、ズームWIDE端の周辺光量落ちなどを補正する補正係数テーブル、およびズームTELE端の周辺光量落ちなどを補正する補正係数テーブルが予め記憶されるようにしたが、これに限らず、例えば、光軸中心位置との距離の値に応じて、周辺光量落ちなどを補正する補正係数を算出するようにすることもできる。
【0118】
図12は、光軸中心位置との距離の値に応じて、補正係数を算出することにより、リアルタイムで周辺光量落ちなどを補正する機能が設けられたデジタルスチルカメラの撮像系の構成例を示す図である。なお、図3と対応する部分には同一の符号を付してあり、その説明は、適宜省略する。図12に示す構成例の場合、ルックアップテーブル24,25の代わりに補正関数演算部61,62が設けられている以外は、図3と同様である。
【0119】
補正関数演算部61,62は、距離算出部23により算出された光軸中心位置との距離データに応じて、ズームWIDE端の周辺光量落ちなどを補正する補正係数とズームTELE端の周辺光量落ちなどを補正する補正係数をそれぞれ算出する。
【0120】
次に、図13のフローチャートを参照して、図12に示す撮像系を有するデジタルスチルカメラが実行する、シェーディング補正処理について説明する。
【0121】
ステップS41乃至S47の処理は、上述した図9のステップS1乃至S7の処理と同様の処理であるため、その説明は省略する。すなわち、撮像された各画素の信号が読み出され、各画素に対応する水平カウンタ値および垂直カウンタ値に基づいて、光軸中心位置情報データが算出され、光軸中心位置から見て、上下左右の距離の重み付けがかけられ、色シェーディングが生じている場合には、距離長バランスがとられ、各画素毎の光軸中心位置との距離が算出される。
【0122】
ステップS48において、補正関数演算部61,62は、ステップS47の処理で算出された各画素毎の光軸中心位置との距離に応じた、ズームWIDE端の補正係数とズームTELE端の補正係数をそれぞれ算出する。
【0123】
ステップS49乃至S52の処理は、上述した図9のステップS9乃至S12の処理と同様の処理であるため、その説明は省略する。すなわち、ステップS48の処理で算出されたズームWIDE端の補正係数とズームTELE端の補正係数が所定の混合比でブレンドされることにより、シェーディング補正係数が算出される。そして、シェーディング補正係数がゲイン調整され、そのシェーディング補正係数に基づいて、読み出された各画素の信号に対して、光軸中心位置との距離に応じた周辺光量落ちなどの補正が行われる。
【0124】
以上のように、補正係数テーブルが記憶されていなくても、補正関数演算部61,62によって、ズームWIDE端の補正係数とズームTELE端の補正係数がそれぞれ算出される。これにより、算出された補正係数を用いて良好なレンズシェーディング等の補正を行うことができる。
【0125】
また以上においては、シェーディング補正部4は、カメラ信号処理部5の前段に設けられるようにしたが、これに限らず、例えば、図14に示されるように、カメラ信号処理部5の後段にシェーディング補正部4を設けるようにすることもできる。この場合、カメラ信号処理部5において、画像信号が輝度信号(Y信号)と色差信号(Cb,Cr信号)に分離された後にシェーディング補正が行われる。従って、輝度信号に対しては周辺光量落ちの補正を行い、色差信号に対しては色にじみ補正を行うなど、輝度信号と色差信号に対して独立の補正を行うことができる。
【0126】
またシェーディング補正部4は、例えば、図15に示されるように、カメラ信号処理部5の内部の色補間処理部71の後段に設けるようにすることもできる。この場合、3原色の信号(R,G,B)が色補間処理部71の補間処理により全画素揃った時点で、シェーディング補正処理が施される。そして、シェーディング補正処理された3原色の信号(R’,G’,B’)が同時化処理部72により同時化処理され、出力画像信号(Y/C信号)が形成される。
【0127】
さらに、図16に示されるように、複数の撮像素子2−1乃至2−3が設けられた装置においては、撮像素子2−1乃至2−3からそれぞれ読み出された各画素の信号毎にシェーディング補正処理が施されるようにしてもよい。
【0128】
以上においては、シェーディング特性が画面の上下左右のいずれかに傾いていたとしても、簡単なハードウェア構成で、シェーディング特性の上下左右のアンバランスを補正することができる。
【0129】
また、撮像レンズのズーム位置、絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量のいずれかが、最小側と最大側の両端で、シェーディング特性カーブが大きく異なっていたとしても、最小側の補正係数と最大側の補正係数の2種類の補正係数をテーブルから取得するか、あるいは算出し、それらの補正係数を、最小側と最大側の間の所定位置に応じて決められた混合比でブレンドして目的のシェーディング補正係数を算出することにより、簡単なハードウェア構成で、補正精度を落とすことなく、補正係数を容易に算出できる。
【0130】
また以上においては、静止画像を撮影するデジタルスチルカメラを例に挙げて説明したが、リアルタイムでの距離の算出が可能となる特長を活かして、動画像を撮影するデジタルビデオカメラにも適用することも勿論可能である。
【0131】
上述したように、これらの一連の処理は、ハードウエアにより実行させることもできるが、ソフトウエアにより実行させることもできる。この場合、例えば、図3、図10、図12、図14乃至図16の撮像系を有するデジタルスチルカメラは、図17に示されるようなパーソナルコンピュータ100により実現される。
【0132】
図17において、CPU(Central Processing Unit)101は、ROM(Read Only Memory)102に記憶されているプログラム、または記憶部108からRAM(Random Access Memory)103にロードされたプログラムに従って、各種の処理を実行する。RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0133】
CPU101、ROM102、およびRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インタフェース105も接続されている。
【0134】
入出力インタフェース105には、キーボード、マウスなどよりなる入力部106、ディスプレイなどよりなる出力部107、記憶部108、通信部109が接続されている。通信部109は、ネットワークを介しての通信処理を行う。
【0135】
入出力インタフェース105にはまた、必要に応じてドライブ110が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア111が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部108にインストールされる。
【0136】
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図17に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア111により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM103または記憶部108に含まれるハードディスクなどで構成される。
【0137】
なお、本明細書において、記録媒体に記憶されるプログラムを記述するステップは、含む順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0138】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表わすものである。
【図面の簡単な説明】
【0139】
【図1】シェーディング特性を示す図である。
【図2】本発明を適用したカメラシステムの基本的な構成例を示すブロック図である。
【図3】デジタルスチルカメラの撮像系の構成例を示す図である。
【図4】色シェーディングにより左右のバランスが色で崩れる画像を、シェーディング補正した場合の様子を示す図である。
【図5】色シェーディングにより左右のバランスが色で崩れる画像を、色シェーディングバランスを行って補正した場合の様子を示す図である。
【図6】光軸中心からの距離算出におけるデフォルトの、左右バランスのH距離長を示す図である。
【図7】左肩上がりのアンバランスなH距離長を示す図である。
【図8】右肩上がりのアンバランスなH距離長を示す図である。
【図9】図3に示すデジタルスチルカメラが実行するシェーディング補正処理を説明するフローチャートである。
【図10】デジタルスチルカメラの撮像系の他の構成例を示す図である。
【図11】図10に示すデジタルスチルカメラが実行するシェーディング補正処理を説明するフローチャートである。
【図12】デジタルスチルカメラの撮像系の他の構成例を示す図である。
【図13】図12に示すデジタルスチルカメラが実行するシェーディング補正処理を説明するフローチャートである。
【図14】デジタルスチルカメラの撮像系の他の構成例を示す図である。
【図15】デジタルスチルカメラの撮像系の他の構成例を示す図である。
【図16】デジタルスチルカメラの撮像系の他の構成例を示す図である。
【図17】パーソナルコンピュータの構成例を示すブロック図である。
【符号の説明】
【0140】
1 レンズ, 2 撮像素子, 3 撮像部, 4 シェーディング補正部, 5 カメラ信号処理部, 21 光軸中心座標設定部, 22 上下左右の重み付け部, 23 距離算出部, 24,25 ルックアップテーブル, 26 ブレンド比設定部, 27 ゲインブレンド処理部, 28 ゲイン調整部, 29 補正部, 41 距離長バランス処理部, 42 類似距離算出部, 52 変換部, 61,62 補正係数演算部

【特許請求の範囲】
【請求項1】
撮影した画像のシェーディングを補正する画像処理装置において、
画面中心から各画素までの距離を、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出手段と、
前記距離算出手段により算出された前記距離に基づいて、前記画像のシェーディングを補正するための補正値を取得する取得手段と、
前記取得手段により取得された前記補正値に基づいて、前記各画素の信号を補正する補正手段と
を備えることを特徴とする画像処理装置。
【請求項2】
前記取得手段は、複数の前記補正値を取得する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記取得手段により取得された複数の前記補正値の混合比を設定する混合比設定手段と、
前記混合比設定手段により設定された前記混合比に基づいて、複数の前記補正値を混合する混合手段と
をさらに備え、
前記補正手段は、前記混合手段により混合された前記補正値に基づいて、前記各画素の信号を補正する
ことを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記混合比設定手段は、レンズズーム位置、絞り量、フォーカス位置、像高、射出瞳位置、またはストロボ発光量に基づいて、前記混合比を設定する
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記取得手段により取得された前記補正値をゲイン調整するゲイン調整手段をさらに備える
ことを特徴とする請求項1に記載の画像処理装置。
【請求項6】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、
画面中心から各画素までの距離を、前記G画素に合わせて、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出手段と、
前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正手段と、
前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正手段と
をさらに備えることを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、
画面中心から各画素までの距離を、前記Gb画素または前記G画素に合わせ、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出手段と、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正手段と、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正手段と、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記Gr画素または前記E画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正手段と
をさらに備えることを特徴とする請求項1に記載の画像処理装置。
【請求項8】
撮影した画像のシェーディングを補正する画像処理装置の画像処理方法において、
画面中心から各画素までの距離を、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップと、
前記距離算出ステップの処理により算出された前記距離に基づいて、前記画像のシェーディングを補正するための補正値を取得する取得ステップと、
前記取得ステップの処理により取得された前記補正値に基づいて、前記各画素の信号を補正する補正ステップと
を含むことを特徴とする画像処理方法。
【請求項9】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、
画面中心から各画素までの距離を、前記G画素に合わせて、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、
前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、
前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと
をさらに含むことを特徴とする請求項8に記載の画像処理方法。
【請求項10】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、
画面中心から各画素までの距離を、前記Gb画素または前記G画素に合わせ、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記Gr画素または前記E画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップと
をさらに含むことを特徴とする請求項8に記載の画像処理方法。
【請求項11】
撮影した画像のシェーディングを補正する画像処理装置の画像処理を、コンピュータに行わせるプログラムにおいて、
画面中心から各画素までの距離を、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップと、
前記距離算出ステップの処理により算出された前記距離に基づいて、前記画像のシェーディングを補正するための補正値を取得する取得ステップと、
前記取得ステップの処理により取得された前記補正値に基づいて、前記各画素の信号を補正する補正ステップと
を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。
【請求項12】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、
画面中心から各画素までの距離を、前記G画素に合わせて、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、
前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、
前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと
をさらに含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている請求項11に記載の記録媒体。
【請求項13】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、
画面中心から各画素までの距離を、前記Gb画素または前記G画素に合わせ、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記Gr画素または前記E画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップと
をさらに含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている請求項11に記載の記録媒体。
【請求項14】
撮影した画像のシェーディングを補正する画像処理装置の画像処理を、コンピュータに行わせるプログラムにおいて、
画面中心から各画素までの距離を、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第1の距離算出ステップと、
前記距離算出ステップの処理により算出された前記距離に基づいて、前記画像のシェーディングを補正するための補正値を取得する取得ステップと、
前記取得ステップの処理により取得された前記補正値に基づいて、前記各画素の信号を補正する補正ステップと
をコンピュータに実行させることを特徴とするプログラム。
【請求項15】
前記画像が、G画素、R画素、およびB画素の3色で構成されている場合、
画面中心から各画素までの距離を、前記G画素に合わせて、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、
前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、
前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと
をさらにコンピュータに実行させることを特徴とする請求項14に記載の記録媒体。
【請求項16】
前記画像が、Gr画素、R画素、B画素、およびGb画素の4色、または、E画素、R画素、B画素、およびG画素の4色で構成されている場合、
画面中心から各画素までの距離を、前記Gb画素または前記G画素に合わせ、前記画面の上側、下側、左側、および右側に分けて距離ゲインをかけて算出する第2の距離算出ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記R画素の上下左右距離バランスゲインをかける第1の上下左右距離バランスゲイン補正ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記B画素の上下左右距離バランスゲインをかける第2の上下左右距離バランスゲイン補正ステップと、
前記Gb画素または前記G画素を基準にした距離ゲインに対して、前記Gr画素または前記E画素の上下左右距離バランスゲインをかける第3の上下左右距離バランスゲイン補正ステップと
をさらにコンピュータに実行させることを特徴とする請求項14に記載の記録媒体。

【図1】
image rotate



【図2】
image rotate



【図3】
image rotate



【図4】
image rotate



【図5】
image rotate



【図6】
image rotate



【図7】
image rotate



【図8】
image rotate



【図9】
image rotate



【図10】
image rotate



【図11】
image rotate



【図12】
image rotate



【図13】
image rotate



【図14】
image rotate



【図15】
image rotate



【図16】
image rotate



【図17】
image rotate


【公開番号】特開2005−102134(P2005−102134A)
【公開日】平成17年4月14日(2005.4.14)
【国際特許分類】
【出願番号】特願2004−128251(P2004−128251)
【出願日】平成16年4月23日(2004.4.23)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】