画像フィールドデータを修正するための技術
2次元光センサからのデータに出現する画像シェーディング変化を補正するためにデジタルカメラ、ビデオ画像取り込み装置、および他の光学系において実行され得る画像データの修正技術を提供する。これらの変化は、例えば、不完全なレンズ、光センサにおける不均一な感度、および光学系のハウジング内での内部反射に起因して生じ得る変化である。これらの変化を補正するために、カメラまたは他の光学系内の小さなメモリに少量の修正データが、好ましくは各原色について別々の補正データが、記憶される。修正データは、画像データが捕捉されているのと同じ速度で即座に生成されるので、修正は、画像センサからのデータ転送を遅らせることなく行われる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一般に、ビデオ信号データを処理する技術に関し、特に、例えば、カメラなどにおいてレンズ、センサ感度変化およびハウジング内の内部反射に起因するシェーディング効果について補償をするなどの結像された光学場における変化を補正するためにビデオ・バイナリー・データを処理することに関する。
【背景技術】
【0002】
画像シェーディングは画像フィールドにおける不均一な光応答である。その原因は、光学系におけるレンズの特性、光が向けられる光センサにおける感度変化、使用されている光センサの画像平面に関してのレンズの不適切なアライメント、カメラ内部反射および場合によっては特定のシステムに存在することのある他の要因に帰することができる。レンズ単独の場合、光強度がその全体において均一なシーンを見るために使われた単純なレンズは通常、著しく不均一な光強度を有するそのシーンの画像を生じさせる。その光強度は普通、画像の中央で最高であり、その縁において60%以上も低下する。このようなレンズは、この効果が補正されなければ、明らかに殆どの光学的応用のために不適切である。補正は、シーン全体に強度変化を与えずにシーンを結像する複数のレンズの複雑な組立を用いることによって提供され得る。
【0003】
電子カメラは、電荷結合素子(CCD)、相補形メタル・オン・シリコン (complementary metal-on-silicon) (CMOS)デバイス、または他のタイプの光センサなどの2次元センサ上にシーンを結像する。これらのデバイスは、エレメントに当たった光または他の光学的輻射(可視光波長に隣接するスペクトルの赤外線領域および紫外線領域を含む)の強度に比例する信号を各々生成する小さな2次元表面上に配置された多数の受光素子(通常は2百万、3百万、4百万或いはそれ以上)を含む。1つの画像のピクセルを形成するこれらのエレメントは、走査されるときに1センサ・エレメントから他のセンサ・エレメントへと当たってゆく輻射の強度のデータのシリアル・ストリームを生成するように通常はラスタパターンで走査される。カラーデータは、殆どの場合に、別々の色成分(赤、緑および青など)の各々に対して敏感な、センサ上にかわるがわるに分布させられた受光素子を用いて得られる。対象シーンを光センサ上に結像するレンズのシェーディング効果、それに当たる光の種々の色に対する光センサの不均一な感度、および場合によってはその他の要因が、光センサ上に不均一な光分布を生じさせる原因となり、従ってセンサからのビデオ信号は、それに重なった望ましくない強度変化のデータを含むことになる。
【0004】
複雑で高価なレンズを高価で慎重に選択された画像光センサと共に用いることによってレンズ・シェーディング効果をなくすよりもむしろ、これらの効果を補償するように光センサからの信号を処理し得ることが示唆されている。各受光素子のエレメントからの信号に対して加えられる補償の量は、画像光センサの表面におけるエレメントの位置に依存する。
【発明の開示】
【0005】
本発明の電子信号処理技術は、レンズ・シェーディングおよび/またはセンサ感度変化およびカメラ内部反射などの、マルチエレメント光センサ上の画像に予測可能な光学的変化を重ねる他の同様の現象についての補償を可能にする。これらの技術は、特にデジタルカメラおよび他のタイプのビデオ装置に応用され得るが、これらの光学写真システムへの応用のみに限定されるものではない。これらの技術は、低コストで実施され得るものであり、最小限の量のメモリを必要とし、修正されるビデオデータが光センサから得られる速度と同じ速度で動作し、これによりビデオシステムの性能に悪影響を及ぼさない。これは、光センサ上の複雑な望ましくない強度パターンと、円形、楕円形、または双曲線形状などの規則的形状のパターンとを補償するために光センサの出力信号に対してリアルタイムで補正係数を使用することによって達成される。
【0006】
このような補償の一例では、各ピクセルのデータは、画像または他の光パターンの光学的中心(本願明細書では光パターンのアンカーポイントまたは重心とも称される)からのピクセルの半径の関数である量だけ補正される。各ピクセルの位置が始めにラスタまたは他の線形走査パターンのx−y座標位置から半径方向距離に変換され、次にその半径方向距離が、小さなメモリに記憶されている少量の補正情報からピクセルについての補正を生成するために使用される。これにより、各ピクセルについての補正データを維持しなくてもよく、従ってこのようなデータを記憶させる大きなメモリを含まなくても良い。これらの操作を実行するために専用される回路が使用されるので、それらを、極めて高速で高価なデジタル信号処理装置を使用せずに、光センサからビデオデータが出力されるのと同じ速度で実行することができる。特定の応用において、ピクセルの半径方向位置は掛け算または割り算を実行するよりさらに複雑な回路を要することなく、加算回路によって走査位置から計算される。
【0007】
各々のカメラまたは他の何らかの装置の光学系は、一例では、均一強度の1つのシーンを光センサ上に結像させ、光センサにおいて得られた強度変化のデータを捕捉し、強度変化を既知の幾何学的パターンに従って特徴づけ、補正データを記憶するのに必要なメモリの量を最少にするために幾何学的パターンを画定する割合に少数のデータ点を記憶することによって、較正される。記憶された値の間での補正値の判定は、画像修正処理中に1つの形の補間によって得られる。画像強度における顕著な不連続部を回避するために、これらの少数のデータ点は、好ましくは、補正されるべき画像上で強度変化に一致するように選択された1つの滑らかな曲線に適合するように調整される。レンズ・シェーディングを補正する他に、これらの技術は、光センサおよび/またはこれと入射画像光との相互作用に起因する任意の強度変化も補正する。
【0008】
本発明の付加的な目的、利点および特徴は、添付図面と関連させて考慮されるべきであるその代表的な実施形態についての以下の説明に含まれる。本願明細書において引用される各々の特許、特許出願、論文、または刊行物は、その全体がこのような参照により、あらゆる目的のために、本願明細書において援用されている。
【発明を実施するための最良の形態】
【0009】
前に説明した現象に起因する、画像または他の所望の光パターンへの変化の重なりは、その画像の各ピクセルにおけるエネルギーの変化をもたらす。これらのエネルギー変化は、捕捉された画像データ自体とは無関係である。光センサにおけるこのエネルギー変化を補償するために、各ピクセル値を掛け算などでシェーディング補正密度係数と結合させることができる。この係数は、画像センサ・マトリックスにおけるピクセルの幾何学的位置に従って画像センサ内の各ピクセルに独特である。理想的な場合、較正手続き中に、画像の各ピクセルについての所要の補償係数を記憶する係数のテーブルをメモリにおいて作ることができる。これは、画像捕捉装置の処理ユニットで以下の方程式を実行することによって必要なシェーディング補償を行うことを可能にする。
PixelOut=PixelIn* F(X,Y) (1)
ここで、
PixelOut=画像シェーディング補償モジュールの出力、
換言すれば補正されたピクセル。
PixelIn=画像シェーディング補償モジュールへの入力。補正前のピクセル。
F(X,Y)=XおよびY直交座標で表されたピクセルの位置に依存する補正係数。
【0010】
主として大きなメモリが必要であり、従って実施のためにシリコンの大きな面積が必要であるために、光センサの各ピクセルのための補正係数の記憶装置を有する集積回路でこの方程式により定義される処理を実行することは非常に高価である。従って、本願明細書に記載されている技術は、必要なメモリおよび処理能力が非常に小さいのに画像から望ましくない光パターンをなくすこの処理の独特の近似法を使用する。
【0011】
最小限の数のシェーディング補正係数が1つ以上のスパース2次元ルックアップテーブルに記憶される。各色のために別々のルックアップテーブルを使用することができる。これらのテーブルは、ラジアル座標系 (radial coordinate system) 、双曲線座標系 (hyperbolic coordinate system) 、または直交座標系に基づくことができる。画像シェーディング補正時に、例えばデジタルカメラにおいて、カメラ内の不揮発性メモリに記憶されている少数のシェーディング補正係数から、各画素位置において、各色について1つのシェーディング補正係数または全ての色について単一の補正係数を計算するために1つ以上の2次元補外アルゴリズムが使用される。これらのシェーディング補正係数は、均一強度画像が使用される較正手続き時に得られ、画像フィールド全体に一様に割り当てられなくても良い。1つの特定の実施例では、補正係数は、不完全なレンズまたは光センサの使用からもたらされるシェーディングのある画像表示の光学的中心から確定される円関数、楕円関数または双曲線関数に基づく。これらの補正係数は、カメラの較正手続き時に得られる。画像フィールドの“光学的中心”(或いは“重心”または“アンカーポイント”)は伝統的に、
(XC ,YC )=(I1 D1 +I2 D2 +・・・)/(I1 +I2 +・・・) (2)
と定義され、ここでI1 ,I2 ・・・は定義された単一の画像原点基準点(X0 ,Y0 )に関しての画像ピクセル1,2・・・の強度であり、D1 ,D2 ・・・は各々の画像ピクセルの(X0 ,Y0 )からの距離である。
【0012】
不完全なレンズに起因する円形のシェーディング・パターンについては、重心は、画像光センサ上に投射された変化する強度シェーディング・パターンの最大強度点に存在する。一実施形態では、この重心は、前述したルックアップテーブルのための単一の基準データ点として使用される。これは、円形、楕円形または双曲線形のシェーディング・パターンをより効果的に補正するように画像フィールドの周辺部においてより微粒状のシェーディング補正を提供する。
【0013】
1つの拡張は、例えばレンズ口径食と結合した不均一な画像センサ感度などの、同時に生じる複数の要因に起因する複雑なシェーディング・パターンを補正する。この拡張の一つの形では、前述したスパース・ルックアップテーブルに組み込まれる補正係数を計算するアルゴリズムは、画素と“実効重心”との間の距離の関数となるように選択される。この実効重心は、始めに各々のシェーディング現象(すなわち、各々の別個の不均一な光パターン)を分離し、次に前述した重心の方程式(2)を用いて各現象の重心を計算することによって得られる。これらの2つ以上の重心は、本発明により使用される実効重心を形成するようにアルゴリズム的に結合される。直交座標系が使用されるならば、実効重心を得るために使用される結合アルゴリズムは以下の方程式で示されているように、2つ以上の計算された重心の各々の座標の単純な線形平均値算出であり得る。
(XCE,YCE)=[(XC1+XC2+XC3・・・+XCN)/N],
[(YC1+YC2+YC3・・・+YCN)/N] (3)
ここで、(XCE,YCE)は実効重心の座標であり、(XCN,YCN)は各シェーディング現象に関連する個々の重心の各々の座標であり、Nは個々の現象の総数であり、従って重心の総数である。或いは、この決定は、もっと複雑な線形および非線形の重み関数を用いて実行されても良い。
【0014】
この拡張の第2の形では、画像シェーディング補正係数は個々のピクセルと複数の重心との間の距離の関数となるように選択され、各重心は同じ、或いは別々の画定された原点から計算される。補正係数の計算を含む較正は、このアプローチでは、各シェーディング現象を分離することによって同様に行われる。しかし、この場合、これらの2つ以上の重心を用いることによって得られた個々の補正係数は、シーン取り込み時に複数のシェーディング現象を補償するために使用されるシェーディング補正係数の単一のセットを作るためにアルゴリズム的に結合される。これらの結合されたシェーディング補正係数を得るために使用されるアルゴリズムは、線形、区分的線形または非線形の重み付けを用いることができ、従って特定の画像エレメントの位置に関して画像シェーディング補正係数を選ぶときに大幅な柔軟性を提供する。
【0015】
デジタルカメラの場合、シェーディング・パターン現象を分離する1つの方法は、始めに、カメラのレンズを取り除いておいてデジタルカメラの光センサを一様な光で照明することである。これにより、センサだけに関連するシェーディング・パターンを測定し、センサのシェーディング・パターン重心を計算することが可能になる。次に、カメラのレンズを通してカメラの光センサを一様な光で照明し、得られたシェーディング・パターンを再び測定する。次に、ピクセル毎に第1の測定の結果を第2の測定の結果から差し引くことによって、レンズだけにより作られたシェーディング・パターンが得られる。その後、レンズ・シェーディング・パターンの重心を別々に計算することができる。
【0016】
本願明細書において、デジタルカメラ、ビデオ取り込み装置または他のタイプのデジタル撮像装置の光学写真システム(すなわち、レンズ、画像センサ、および/またはハウジング)についてのシェーディング補正係数は、較正手続き時に得られる。この較正は、較正される装置のレンズおよびハウジングを用いて、較正される装置に使われている画像センサ上に一様な強度のシーンを結像させることによって実行される。画像センサ上に生じた円形、双曲線形、または他の変化についてのデータが画像センサ受光素子信号の測定により得られ、1つまたは複数の補償数学関数が計算される。補正データを記憶させるのに必要なメモリの量を最小限にするために割合に少数のデータ点だけが好ましく記憶され、較正時に計算されたシェーディング補正係数に対して敏感な形の補間によって、画像修正処理時に、記憶された値の間の値の決定が得られる。画像強度に顕著な不連続部が生じるのを避けるために、これらの少数のデータ点は、好ましくは、補正されるべき画像上で強度変化に一致するように選択された滑らかな1つ、または複数の曲線に適合させられる。デジタル撮像装置の完全な光学写真システムが較正手続き時に使用されるので、これらの技術は、レンズ・シェーディングだけに起因する不均一性を補正する他に、画像センサおよび/または画像センサと入射画像光との相互作用に起因する如何なる強度変化も補正する。
【0017】
光学装置例
カメラまたは他のビデオ捕捉装置における本発明の技術の実施例について説明するが、この場合、画像のデジタルデータはカメラの光学系、光センサおよびカメラ内面からの反射によって画像に重ねられた強度変化を即座に補償するために修正される。図1において、ケース11と、結像光学系13と、制御信号17を生成するユーザ制御装置15と、内部電気結線21を有するビデオ入出力レセプタクル19と、内部電気結線25を有する、不揮発性メモリカード27が取り外し可能に挿入されるカードスロット23とを含む。カメラにより取り込まれた画像のデータは、メモリカード27または内部不揮発性メモリ(図示せず)に記憶され得る。画像データは、レセプタクル19を通して他のビデオ装置に出力されても良い。メモリカード27は、市販の半導体フラッシュ形の電気的に消去可能でプログラム可能な読み出し専用メモリ(EEPROM)、小形の取り外し可能な回転磁気ディスク、或いはその他のビデオデータをカメラによりプログラムすることのできる不揮発性メモリであって良い。或いは、特にカメラが毎秒30画像フレームなどの映画を撮るときには、磁気テープまたは書き換え可能形光ディスクなどの、より大きな容量の記憶媒体を代わりに使用することができる。
【0018】
光学系13は、図に示されているように単一のレンズであっても良いが、普通は複数のレンズのセットである。シーン31の像29が可視光輻射でシャッタ33を通して画像センサ35の二次元表面上に形成される。センサの電気的出力37は、画像29が投射されたセンサ35の表面の個々の受光素子を走査することから生じたアナログ信号を担持する。センサ35は通常、画像29の個々のピクセルを検出するように行および列の2次元アレイに配置された多数の個々の受光素子を含む。個々の受光素子に当たる光の強度に比例する信号が、通常はそれらをラスタパターンで走査することによって出力37において時系列で得られ、この走査では一番上の行から始まって受光素子の行が一度に1行ずつ左から右へ走査されて、画像29をそれから再構成することのできるビデオデータのフレームを生成する。アナログ信号37は、画像29の回路41にデジタルデータを生成するアナログ・デジタル変換回路チップ39に加えられる。通常、回路41に存する信号は、センサ35の個々の受光素子に当たった光の強度を表すデジタルデータの個々のブロックのシーケンスである。
【0019】
回路41に存するビデオデータの処理とカメラ動作の制御とは、この実施形態では、単一の集積回路チップ43により提供される。回路17,21,25および41に接続されている他に、回路チップ43は制御および状態線45に接続されている。線45は、シャッタ33、センサ29、アナログ・デジタル変換器39、およびカメラの他の構成要素に接続されて、これらの同期動作を提供する。一時的なデータ記憶のために、別の揮発性ランダムアクセスメモリ回路チップ47も処理チップ43に接続されている。また、プロセッサ・プログラム、較正データなどを記憶するための別の不揮発性の再プログラム可能なメモリチッップ49がプロセッサチップ43に接続されている。回路チップおよび他の構成要素にクロック信号を提供するためにカメラ内に普通のクロック回路51が設けられている。別個の構成要素の代りに、システムのためのクロック回路をプロセッサチップ43に含めても良い。
【0020】
プロセッサチップ43の機能ブロック図を図2に示す。デジタル信号プロセッサ(DSP)55は重要な構成要素であり、カメラのチップ43および他の構成要素の双方の動作を制御する。しかし、後述するように、DSP55は広範囲にわたるビデオデータ処理を行うわけではないので、割合に簡単で安価なプロセッサであって良い。メモリ管理ユニット57は、DSP55を外部メモリチッップ47および49に、さらに出力インターフェイス回路59に接続し、この出力インターフェイス回路59は各々の回路21および25を通して入出力コネクタ19およびカードスロット23(図1)に接続される。
【0021】
アナログ・デジタル変換器39(図1)から図2のブロック図を通るビデオデータの流れを一般的に説明する。線41の入力データはブロック61で前処理されてから、一入力として掛け算回路63に供給される。掛け算回路63への他の入力65は、入ってくるビデオデータを修正するデータを担持し、修正されたビデオデータは掛け算回路63の出力67に現れる。この例において、線65の修正データは、レンズ・シェーディングと、カメラエレメントにより画像に与えられた強度変化との効果を補正する。さらなる適切な画像処理69の後に、ビデオデータは、メモリ管理ユニット57を通して出力インターフェイス回路59に向けられ、次に線21を通してカメラの入出力レセプタクル19または線25を通してカメラのメモリカード・スロット23(図1)、或いはその両方に、表示および/または記憶のために向けられる。
【0022】
線65の補正データは専用の処理回路71によって生成される。ブロック71は、そのためにビデオデータが捕捉された画像の実効中心からの各画像ピクセルの半径方向位置に関連する量を、その捕捉の順に、計算する回路73を含む。この特定の例では、この量は半径の数学的平方(ri2)である。この半径は、そのピクセルについてビデオ信号を生成する1つまたは複数の受光素子のx−y座標での線形位置から、ビデオデータがセンサから受信されるのと同じ速度で、各ピクセルについて計算される。画像データの修正が画像における半径の関数として変化するので、この線形位置から半径位置への変換が行われる。その計算された半径関数は、掛け算回路63に適用される修正係数を生成するために計算回路75により使用される。回路75はビデオデータに対して行われるべき半径依存の修正を表す方程式をその都度解くこともできるけれども、その代わりとしてメモリ77がこの実施形態で使用されるルックアップテーブルを記憶する。しかし、メモリ77のサイズを縮小するために、少数の点の補正データだけが記憶され、記憶された点同士の間の点の値を回路75が計算する。1セットのレジスタ79は、計算回路73および75の両方により使用されるパラメータを記憶する。
【0023】
計算回路73および75は、DSP55とは無関係に動作する。その代わりとして場合によってはこれらの計算を行うためにDSPを使用し得るが、それは、極めて高速のプロセッサを必要とし、たとえ十分な速度が利用可能であっても、高価で、しかもチップ43上の相当のスペースを占める。回路73および75は、DSP55による関与なしで所要の繰り返し計算を実行するために専用されるものであり、構造が非常に簡単であり、チップ43上の小さなスペースを占め、かつ他の機能を実行するようにDSP55を自由にする。
【0024】
画像修正データおよびパラメータを記憶するメモリ77および79は、それら全てが単一のコスト効率の良いチップに含まれ得るように、アクセス速度および他のプロセッサ回路との両立性を目的として揮発性ランダムアクセス形であるのが好ましい。画像修正データおよびパラメータは、その製造の最終段階で各カメラについて一度生成され、不揮発性メモリ49に永久的に記憶される。これらのデータは、制御および状態線83を通して動作するDSP55の制御下で、システムが初期化される度に線81を通してメモリ77および79にロードされる。
【0025】
図3Aを参照して、図2のシステムの動作の一つの態様が説明され、ここでセンサ35(図1)は、各画像ピクセルについて単一の受光素子を含む。センサのデジタル化された出力41は、1つの行の中のセンサ35の隣り合う受光素子からのデータの連続するブロック87,89,91などを含む。単一の受光素子により検知される画像29の1つのピクセルの強度を数量化する10,12またはそれより多数のビットを含むデータの各ブロックは、制御カウンタ85(図2)を通してシステムクロック51により制御される速度で回路41に現れる。例えば、データブロック87,89,91などのうちの1つがクロック信号の各サイクル中に現れることができる。
【0026】
データブロック93,95,97などは、画像データ87,89,91などと同じ速度で画像データと同期して修正処理回路71(図2)により生成される。すなわち、修正データ93は画像データ87と同時に生成されて掛け算回路63に現れ、他についても同様である。受光素子の走査パターンは既知であるから、計算回路73は、センサ35の表面の受光素子の位置の半径を、画像データがこれらの受光素子から読み出されるのと同じ順序および同じ速度で、生成する。その後、特定の画像ピクセルについて生成された修正係数データが、そのピクセルの強度データと結合される。掛け算回路63における画像データ87と、同じピクセルについて生成された修正データ93との結合は、修正済みデータ98をもたらす。修正済みデータブロック99および100が、データ89および95、並びに91および97の結合によってそれぞれ同様に得られる。
【0027】
普通のビデオシステムは、画像の複数の別々の色成分の各々についてデータを処理する。1つの代表的な商用センサは、行に沿って赤色フィルタ、緑色フィルタおよび青色フィルタで覆われた受光素子を交互に位置させる。商業的に使用されている感色性受光素子の配置方法が幾つかある。このような1つの配置方法では、1つの行は交互に位置する赤色感応受光素子および緑色感応受光素子を含み、次の行は交互に位置する青色感応受光素子および緑色感応受光素子を含み、また受光素子は列において交互に位置する色感度を提供するように行に沿って配置される。他の標準的な配置方法は、交互に位置する2色の他の組み合わせを使用する。図3Bに示されているように、このようなセンサの線41に存する出力は、連続する赤色データ、緑色データおよび青色データを含む。ブロック101,103,105などは、交互に位置する赤色感応受光素子および緑色感応受光素子の別々のデータを表し、連続するクロックサイクルの各々の間に1つのブロックが出力される。
【0028】
検出される別々の色の全てについて補正データが1セットしかなければ、各画像ピクセルについて、色に関わらずに、そのデータのセットから1つの画像修正係数が生成される。これは、信号修正によって除去される画像における変化が全ての色に同程度、或いはほぼ同程度に影響を及ぼす場合には、全く充分である。しかし、変化が色に著しく依存する場合には、各色成分について別々の補正係数が使用される。色に依存する修正の使用が図3Bに示され、この場合には連続する修正係数113,115,117などが画像データの各々の連続するブロック101,103,105などと結合される。その結果は、修正済みデータブロック120,122,124などである。修正係数113,117,121などは赤色補正データから取られ、修正係数115,119,123などは緑色補正データから得られる。
【0029】
市販されている1つの特定のタイプの光センサは、各光サイトまたはピクセルに複数の受光素子を積み重ねる。一番上の受光素子は、赤色および緑色を通過させる一方、受光素子それ自身が感応する、例えば青色を濾波する。この一番上の受光素子の直ぐ下にある受光素子は緑色を通過させ、受光素子それ自身が感応する色、この例では赤色、を濾波する。底のセンサは緑色に感応する。図3Cは、このタイプのセンサを有する図2のシステムの動作を示す。データのブロック125,127,129,131などが、1つのピクセルの全ての色について3つ、次の隣接するピクセルについて別の3つ、等々と出力される。全ての色について1セットの補正データだけが維持されるのであれば、例えば色データブロック125,127および129を生成するサイトについての修正係数133など、同じ修正係数が各写真サイトからの3つのデータブロックと結合される。各色について別々の補正データが維持されるのであれば、それらの修正係数は別々であっても良いけれども、3つ全てが画像センサにおける単一の半径方向位置について計算される。掛け算回路63で結合されるとき、連続する修正済みデータブロック137,138,139などが得られる。
【0030】
他のタイプのカラーシステムも、本願明細書に記載されている技術によって補正され得る。例えば、2つの色成分だけを使用した市販のカラーシステムがあった。また、「白黒」情報を捕捉するために広いスペクトル範囲を有する別の検出器が使用されるようになっている4カラーシステムもある。
【0031】
円形パターン修正
多くのシェーディング・パターンは、特にレンズのシェーディング・パターンは、円形として特徴付けられ得る。従って、各ピクセルについての補正係数は、画像幾何学平面上の基準までの幾何学的距離に沿って1次元関数として以下の方程式を用いて計算され得る。
PixelOut=PixelIn* F[(X−Xc)2 +(Y−Yc)2 ] (4)
ここで、PixelOutは、PixelInの補正の前に入力されていた(X,Y)に位置するピクセルの補正済みの値の出力である。補正係数F[(X−Xc)2 +(Y−Yc)2 ]は、ピクセル(X,Y)の、画像重心(Xc,Yc)までの距離に依存する。
【0032】
レンズ・シェーディング補正関数の例141を図4Aに示す。本発明を説明するために単独のレンズ・シェーディング補正関数が示されているが、本発明は、多数の原因からの多様なシェーディング不均一の補正に一般的に適用され得るものであるということに留意しなければならない。また、シェーディング不均一は、2つだけ挙げるとすれば、不均一なセンサ感度およびカメラ内反射のせいでもあり得る。これらの発生源に起因する変化をレンズ特性に起因する変化と組み合わせて補正するべきであれば、以下で論じるように実際の補正関数は異なるが、一般的なアプローチは同じである。
【0033】
図4Aから分かるように、センサ35(図1)の受光素子アレイ上の画像29の光学的中心において、補正は相対的ゼロである。中心は、好ましくは、その全体にわたって均一な強度を有する対象シーンの像の、検出される画像強度が最大となる点である。しかし、一般に、光学的中心(Xc,Yc)は前述した方程式(2)によって決定される。検出される画像の強度は、その中心からの半径方向距離ri の関数として減少する。その結果として、強度補正量、すなわち検出された画像信号に対して使用されるレンズ・シェーディング・ゲインは、曲線141により示されているように半径ri2 の関数として増大する。画像強度の増大量は画像の縁で急速に増大する。このレンズ・シェーディング効果は円対称であるということが見出されている。すなわち、曲線141により示されている所望の補正は、検出された画像においてその光学的中心から伸びる任意の半径線に沿って実質的に同じである。
【0034】
多くのレンズが、図4Aに描かれているのと同様のシェーディング・パターンを生じさせる。これらの場合、曲線141は半径の平方の指数関数に近いことが見出されている。すなわち、任意の画素についての強度補正が光学的中心からの画素の半径方向距離の平方の関数f(ri2 )である。従って、このシェーディング特性を有するレンズを使用する各々のカメラまたは他の光学系について、各画素についてこの画素の補正量を判定するためにDSP55または専用回路により解かれる方程式を書くことができる。しかし、画像処理時に参照される曲線141の値のテーブルを維持する方がより効率的であるということが見出されている。図4Bは曲線141の一部分の拡大図を示し、曲線を表すように連続する点143〜147の値が取り出されている。カメラ補正の1つの特別の場合には、曲線141に沿って等半径増分で取られた僅か64個の値が曲線を表すように記憶される。これらの点同士の間のいろいろな半径についての補正量を計算するために、計算回路75(図2)は何らかの補間アルゴリズムを使用することができるけれども、各々の連続する点143〜147の対の間の直線の勾配の値も記憶するのが好ましいということが見出され、それをも計算回路75は使用する。
【0035】
シェーディング・テーブル77(図2)の例を図5に示す。この場合、原色、すなわち赤色、緑色および青色の各々について1つずつ、合計3つの別々の補正曲線のデータが維持される。例えば、第2のこのような曲線142が図4Aに示されている。64個の間隔の各々について、ri2 のベース値と、そのベース値から次のベース値までの直線の勾配とが記憶されている。計算回路75に入力されたri2 の各々の値について、これらの回路は、検出された画像の赤色、緑色および青色の成分についての補正係数の値を時間順に提供し、それらは、図3Bに関して前に説明したように、入ってくるビデオデータを補正するために使用される。もちろん、図3Aに示されているように、各色成分が同じ補正係数を受けるべきである場合には、図5のテーブルはベースおよび勾配の数の唯一のセットを維持するだけでよい。いずれにしても、テーブル77に記憶されるデータの量は少ないので、それを記憶するためにチップ43に含まれる必要のあるメモリのサイズは小さく保たれ得る。
【0036】
計算回路75に入力するri2 の値を計算するために回路73(図2)により実行される技術の例を図6に示す。この計算は、個々のセンサ受光素子のx−y座標系における位置を知り、次にこれらの位置の測定結果を円座標系における光学的中心からの位置の半径の値に変換することから、行われる。ビデオデータの1つの完全なフレームを得るべく全受光素子の出力が受信されるまで、受光素子はセンサ35において一度に1行ずつ一端から他端までラスタパターンで直線的に走査されるという事実を用いることにより、計算は簡略化される。
【0037】
図6において、個々の写真サイト、すなわちピクセルが黒いドットによって示されている。使用されるセンサのタイプによって(その例が前に記載されている)、各ピクセルに1個、2個、3個またはもっと多くの受光素子が配置される。代表的な長方形アレイは各辺に数百個或いは数千個のピクセルを含むが、図6のアレイは、計算処理を説明する目的で、20×20ピクセルのサイズであると仮定されている。ピクセル151は、アレイの上左端のピクセルであり、ピクセルのアレイの第1行第1列にあるので、その位置はX0 Y0 と称されている。ピクセル151は、1フレームのビデオデータが捕捉されるときに最初に走査されるピクセルである。一番上の行内の他のピクセルはその後にそれらの信号出力をその順序で得るために走査され、次に上から2番目の行のピクセルが、左端のピクセルから右へ走査され、以降同様に標準的なビデオラスタ走査パターンで走査される。ピクセル153は、シーンを受光素子アレイ上に結像させるレンズのシェーディング・パターンの中心に存在するように選択されている。ピクセル153はシェーディング関数の光学的中心であり、その位置は(XC ,YC )と記されている。シェーディング・パターン中央ピクセル153のアドレスは(0,0)として示されている。本願明細書において簡略化を目的として仮定されているように、このピクセルがアレイの中央ピクセルでもあるならば、考察されている小さなアレイの例において、ピクセル151は(10,10)のアドレスを付される。右隣のピクセルは(9,10)のアドレスを有し、第2行の第1ピクセルは(10,9)のアドレスを有し、以降同様である。第1ピクセル151の中心(XC ,YC )からの半径はR0 と称され、一般化されたピクセルxi yi の半径はri と称されている。
【0038】
量ri2 は、各ピクセルについてその直交座標(xi ,yi )から回路73(図2)により計算される。この計算を実行する回路を大幅に簡略化するために、回路73により実行されるアルゴリズムは、好ましくは、掛け算、割り算、平方根、或いはその他のより複雑な算術演算を必要とすることなく、足し算に依拠する。各ピクセルの半径の平方は、加算回路を用いることにより計算される。このアルゴリズムを次に説明することができる。
【0039】
指定されたピクセル線の走査開始時に、中心から所与の線の第1のピクセル(左端のピクセル)までの最初の半径RINITは次のように計算される。
RINIT2 =|R02−2Y0 HY +(1+2nY )HY2 | (5)
ここで、Y0 は一番上の線のy座標を指し、R0 は中心(XC ,YC )から上左端ピクセル(X0 ,Y0 )までの半径である。アルゴリズムは、ピクセルまたはピクセルの線の一部を省略する走査パターンも考慮に入れる。量HY は各ステップにおける線の数を表す。各線が走査されるのであればHY =1であり、一つおきの線が走査されるのであればHY =2であり、以降同様である。量nY は、実際に走査される線の、一番上から数えられた数であり(線がとばされるとしても、nY は0,1,2などと数えられる)、ここで2番目の線についてはnY =0であり、3番目の線についてはnY =1であり、以降同様である。
【0040】
半径計算を簡略化するために、頻繁に参照される量のうちの或るものは工場較正時に一度計算されてから不揮発性メモリ49(図2)に永久的に記憶され、図7に示されているようにシステム初期化時にレジスタ79(図2)に転送される。例えば、前述した方程式に使用される量Y0 およびR0 もそのように記憶される。量HY2 もレジスタ79に記憶されるけれども、これは、制御装置15(図1)を通してカメラまたは他のシステムのユーザによって選択される関数に起因して走査の特性が変化するときにDSP55によって書き換えられ得る。最初に走査されるべきピクセル151の半径関数R02はすでに既知であるので、回路73はその値をレジスタ79から読み出してそれを計算回路75に加えるだけでよい。しかし、次のピクセル(9,10)と、1フレームの残りのピクセルとについての半径関数は、回路73によって計算されなければならない。
【0041】
ピクセルのこの指定された線に沿う各ピクセルについて、中心(0,0)から各々の所与のピクセルまでの半径ri2 は順に次のように計算される。
ri2 =|RINIT2−2X0 HX +(1+2nX )HX2 | (6)
ここで、RINIT2は前述した方程式(1)により計算される線の第1のピクセルの半径であり、X0 は線の最初のピクセルのx座標を指し、HX は各ステップにおけるピクセルの数であり、nX は左から数えられた実際に使用されるピクセルの数であり(ピクセルがとばされるとしても、nX は0,1,2などと数えられる)、ここで第2のピクセルについてはnX =0であり、第3のピクセルについてはnX =1であり、以降同様である。X0 の値は工場較正時に不揮発性メモリ49に記憶されてシステム初期化時にレジスタ79(図7)に転送され、HX2 は行われる走査のタイプのためにDSP55により記憶される。レジスタ79は、シェーディング補正が省略されるべきときを示すためにDSP55によってセットされる少なくとも1ビットも記憶する。
【0042】
走査パターンは1つの線の全体にわたってピクセルからピクセルへと移動し、次に他の線において同じ事を行うということが知られているので、方程式(1)および(2)の計算を各線について行う必要はないため、処理を相当簡略化することができる。第1のピクセル151の半径関数R02は既知であるので、それを基にして他の各ピクセルについての半径関数が計算される。1つの行を走査するとき、第1のピクセル以外のピクセルのri2 は、直ぐ前のピクセルの半径値に以下を加算することによって計算される。
(1+2mX )HX2 (7)
ここで、mX はピクセルの行において最初のピクセルから通過したHX ステップの数である。同様に、最初の行の後の各行のRINIT2は、直ぐ前の線のRINIT2に以下を加算することによって計算される。
(1+2mY )HY2 (8)
ここで、my は一番上の行から通過したHY ステップの数である。方程式(7)および(8)は方程式(5)および(6)の計算より遥かに簡単に実行できるので、回路73(図2)を簡略化することができ、各々の新しいピクセルについて半径関数を計算することができる。簡略化された方程式(3)は、1つの行内の連続するピクセルについて方程式(2)の半径関数の差を取ることによって得られる。同様に、簡略化された方程式(4)は、ピクセルの連続する線について方程式(1)の半径関数の差を取ることによって得られる。
【0043】
各カメラの光学系、センサまたは物理的構成はいろいろな結像特性およびその他の特性を持ち得るので、各ユニットは好ましくは製造処理の一部として較正され、その較正から得られたパラメータは不揮発性メモリ49(図2)に記憶されてシステム初期化時にレジスタ79(図2および7)に転送される。一様に白い2次元シーン31(図1)がセンサ35上に結像される。センサ35が走査され、画像データが、レンズ・シェーディング補正、或いは他の何らかのそのような修正なしで、メモリ管理ユニット57を通してメモリ47に直接記憶される。しかし、レンズ・シェーディング効果に起因して、記憶されるビデオデータはフレーム全体にわたって一様な強度を持たない。その後、この記憶された画像フレームデータは、前述した方程式(2)を用いることにより、重心、すなわち座標(XC ,YC )を判定するためにDSP55によって処理される。(XC ,YC )に存するピクセルは多くの場合光学系の中心ピクセル153(図6)であり、それは普通、全体にわたって一様な強度を有するシーン31の像29(図1)の最高強度の点であるが、必ずしも光学系の中心ではない。上左隅のピクセルの座標(X0 ,Y0 )は、センサ35の受光素子アレイにおける画像フレームの縁を画定することによって決定される。中心および隅の座標が決定された後、最大半径値R02が計算される。記憶されているパターンの重心(XC ,YC )と、画像内の各ピクセルの座標(X,Y)とから、円形強度分布近似についての方程式(4)により各ピクセルについて1つずつ補正係数の完全なセットが計算される。この補正係数の完全なセットをカメラ自体の中に記憶されるスパース・セットに縮小するために、完全な画像データセットにかぶせられたコース・グリッド (course grid)の交点の下に存するピクセルからの補正係数だけが選択されてカメラに記憶されてカメラにより使用される。
【0044】
この処理は、光学系13、センサ29(図1)、或いはその他のカメラ内面からの反射などのカメラ内変化により招来されたあらゆる強度シェーディングを補正する。しかし、センサ29が補正を必要としなければ、行われる補正はレンズ系13だけについての補正である。同様に、レンズ系13が画像全体にわたって強度変化を与えることなく画像29を形成させられるならば、行われる補正はセンサ29だけについての補正である。
【0045】
楕円および双曲線強度パターンモデル
強度分布の円形近似モデルを用いる代わりに、特定の光分布については、それが分布をより良く特徴付けるのであれば、他の幾何学的近似を用いても良い。楕円シェーディング・パターン近似および双曲線シェーディング・パターン近似は、このような使用され得る他の近似の例である。このような場合、個々のピクセル補正係数は以下の方程式に従って使用される。
PixelOut=PixelIn* F[a(X−XC )2 +b(Y−YC )2
+c(X−XC )(Y−YC )] (9)
ここで、PixelOutは補正済みピクセルであり、PixelInは補正前のピクセルであり、F[a(・・・)]は補正係数であり、これはピクセル位置(X,Y)からアンカーポイント(XC ,YC )までの距離に依存する。定数a、bおよびcは楕円または双曲線の形状およびサイズを明示する。
【0046】
図8は、前述した方程式(9)のパラメータが示されている楕円161を示す。量“a”は長軸の二分の一であり、“b”は楕円の短軸の二分の一である。量“c”は焦点163および165の間の距離の二分の一である。これらの標準的な数学的量に加えて、焦点163および165を通る長軸に沿って中央に点167があり、これは楕円形光分布の光学的中心(XC,YC)である。楕円161は、このような分布の等強度の領域を表す。定数a,bおよびcの相対値が方程式(9)のカッコ内の量に双曲線を画定させるような相対値であれば、等強度を有する分布の場所を示すのは双曲線である。
【0047】
2次元表面上の楕円形または双曲線形の強度分布は、ページの外に広がる強度値を有するか、或いは補正分布の逆数が示される場合にはページの中に広がる強度補正値を有する分布の等高線を表す複数の曲線の族により画定され得る。図9に示されている例は、一様な白色光画像の楕円形強度分布(中央に対して相対的に縁で強度低下)、或いは捕捉された画像データに適用される補正係数の分布(中央より縁の方が高い値を有する逆関数)を示す。このような族の各楕円171,172,173および174は、分布の同じ相対値“v”、すなわち分布の最高強度(v=1.0)と最低強度(v=0)との間の等高線の相対的高さを表す分数を有する点を含む。
【0048】
少量のメモリに記憶され得る画像データを補正するのに充分な少量のデータによって分布の特徴を表すために、図9に示されている分布を横断して伸びる数本の線177,178,179,180,181,182,183および184に沿って較正時にデータが捕捉される。これらの線の各々は、光学的中心(XC ,YC )と、画像フィールドの縁(この例では、これらの縁の長さに沿った中央点を横切る)および四隅の全てとの間に伸びる。分布の形状は、楕円の、これらの線が横切った箇所における強度値から得られる。線177に沿って点185,186,187および189における値が、例えば図10の値185’,186’,187’および189’として示され得る。円形分布について前に説明した場合と同じく、一つの曲線がこれらの値に適合する。もう一つの曲線178’が図10に含まれ、これは、図9の線178に沿う楕円交点191,192および193のそれぞれの強度値である点191’,192’および193’を通る。点のこれらのセットの値は同じであるが、それらの間隔は異なり、その結果として曲線177’および178’は互いにずれている。他の線179〜184に属する点は通常、別個の曲線を生じさせる。線177〜184の一部または全部からのこれらの補正係数データは、この例では、光センサからの画像データを補正するために使用される。線177〜184のうちの別々の線に沿う点からの補正データの複数のセットが補正データになり得るが、後述される特定の例は、さらなる簡略化近似として、このようなデータ点の平均に適合する単一の補正係数曲線を利用する。
【0049】
円形パターン近似方法の場合と同じく、この補正係数曲線は、その個別 (piece-wise) 線形近似としてハードウェアに記憶される。一つの色あたりに64個の項目(合計で192項目)を有するルックアップテーブル(LUT)が記憶される。各項目は、アンカーポイントから1つの距離を置いた1つの点での補正係数を表す。1点での補正係数の値と、その点から次の点への勾配とが各項目に記憶される。従って、アンカーポイント(XC ,YC )に関連して特定の点(X,Y)での補正係数の値を計算するとき、LUTにおいて(X,Y)の下の位置について最も近い項目が見出され、その項目の値および勾配から点(X,Y)における補正係数の線形近似が計算される。
【0050】
メモリおよび処理パワーに関して、ハードウェアを用いてこの計算をリアルタイムで実行することは高価になる可能性がある。従って、円形パターン補正について前に説明した簡略化された計算技術が、パターンが楕円形または双曲線形であるときにも適用される。補正されるべきピクセルはラスタ順に時間“t”の関数として既知の順序で到着するので、前のピクセルに対して計算された距離の平方を用いてアンカーポイントまでの距離の平方を計算するために差分方程式の方法が使用される。これは掛け算回路の代りに加算回路を用いることによって行われる。前述した円形分布の場合と同じく、走査順序において次のピクセルまでの増分半径方向距離が、前のピクセルについて計算された半径方向距離に増分ステップを加えることによって計算される。
【0051】
楕円および双曲線強度パターン較正
楕円形または双曲線形補正係数分布が想定されるときの較正データの捕捉は始めは円形パターンの場合と同様である。一様に白色の2次元シーン31(図1)が、図1に描かれているデジタルカメラのセンサ35上に結像される。そのとき、センサ35が走査され、画像データはレンズ・シェーディング補正、或いは他の任意のこのような修正なしで、メモリ管理ユニット57を通してメモリ47に直接記憶される。しかし、レンズ・シェーディング効果の故に、その記憶されるビデオデータはフレーム全体にわたって一様な強度を持たない。センサ35の受光素子アレイにおいて画像フレームの縁を画定することによって上左隅ピクセルの座標(X0 ,Y0 )が決定される。(X0 ,Y0 )と関連するこの記憶された画像フレームデータは、その重心、座標(XC ,YC )を決定するためにDSP55によって処理される。中心座標および隅の座標が決定された後、最大半径値が計算される。記憶された画像の重心(XC ,YC )と画像中の各ピクセルの座標とから、各ピクセルについて1つずつ、補正係数の完全なセットが計算される。
【0052】
楕円形または双曲線形補正係数分布モデルが利用されるときの1つの特定の例においてカメラまたは他の光学系を較正するステップを以下に概説する。
1) カメラのシェーディング補正ステージが較正される前に一様な白色画像からの画像データが取り込まれる。換言すれば、シェーディング補正ステージが迂回される。
2) 最大画像サイズおよび画像原点(X0 ,Y0 )が画定される。原点に関して画像ウィンドウの出発点(X0 ,Y0 )が画定される。
3) 白色較正画像が8×8ピクセルのブロックに分割される。画像サイズが8の倍数でなければ、その差は両方の向かい合う画像縁から補償される。各ブロックについて、赤色ピクセルの平均値が計算され、緑色ピクセルの平均値が計算され、青色ピクセルの平均値が計算される。各ブロックについて、平均ピクセル強度レベルがそのブロックの赤色、緑色および青色の平均値の重み付き平均関数として計算される。本願明細書において以下の計算は個々のピクセル値に関してではなく、ブロック値に関して実行される。
4) 同じ高さの強度等高線を選び取り、その重心を見出すことによってシェーディング・パターンの重心(光学的中心)(XC ,YC )が見出される。
a) シェーディング・パターンの重心が画像の強度値に従って計算される。
b) 等高線高さがMin_Height+0.8* (Max_Height−Min_Height)と見なされ、ここでMin_Heightは画像中の最低強度値であり、Max_Heightは画像中の最大強度値である。相対的に高い等高線が、画像の中に殆ど完全に含まれるように、選ばれる。その等高線が縁と交差するならば、僅かな不正確さが生じるかもしれない。
c) 各水平座標x(画像内の各コラム)について、f(x)、すなわち定義済み等高線高さを上回る強度値の数が計算される。次に、XC が、
に従って計算される。同様に、各垂直座標y(画像内の各線)について、f(y)、すなわち定義済み等高線高さを上回る強度値の数が計算される。次に、YC が、
に従って計算される。
5) 光学的中心を決定した後、画像シェーディング・パターンの形状を最良に近似する楕円/双曲線形状が決定される。実際上、これは、2次元関数p(xi ,yi )=a* (xi −XC )2 +b* (yi −YC )2 +c* (xi −XC )* (yi −YC )が画像シェーディング・パターンの形状になるべく近くなるようにa、bおよびcを見出すことを意味する。
a) 楕円/双曲線形状値a,bおよびcが画像の強度値に従って計算される。
b) 以下の式
の解析的最小化によって値a,bおよびcが見出され、ここで{(xi ,yi )}は定義済みの同じ高さの等高線上の点であり、vは等高線の高さである。その結果は、以下の3つの方程式のセットとなる。
c) a,bおよびcの値は、この3つの方程式のセットを公知手法で解くことによって見出される。
d) 定義済み等高線の高さはMin_Height+0.65* (Max_Height−Min_Height)であると見なされ、ここでMin_Heightは画像内の最低強度値であり、Max_Heightは画像内の最高強度値である。このとき、等高線はより低いので、画像の、隅に近い遠い部分で計算はより正確となる。等高線が画像の縁と交差しても、それは前述した計算結果に顕著な影響を及ぼさない。
e) c2 −4* a* b>=0であれば、見出された形状は双曲線であり、その結果として、可能な双曲線は2つあり、その一方はa,bおよびcをパラメータとして有し、他方は−a,−bおよびcをパラメータとして有する。双曲線の場合、P(xi ,yi )が画像の何らかの部分で負の値をとり得ることに注意しなければならない。画像シェーディング補正ハードウェアはこれらの部分を無視するので、補正される必要のある画像部分が画像のP(xi ,yi )が正である部分に対応することを確かめることが重要である。前述した2つの可能な双曲線のうちの一方はこの条件を満たし、相対的に小さなエラーを生じさせ得る。他方の双曲線はこの条件を満たさなくて、相対的に大きなエラーを生じさせ得る。このエラーを計算することによって、その2つの可能な双曲線のどちらが正しい双曲線であるのか見分ける。
f) 最後に、パラメータa,bおよびcは、画像サイズとは無関係に同じ範囲の値を持つこととなるように、正規化される。これは、Pmax(P(xi ,yi )の最大値)を画像サイズに依存する値に正規化することにより、行われる。Pmaxは6MSBにおいて111111を有する値に正規化されるが、それは、ルックアップテーブル(LUT)が完全に使用されることを意味する。
6) 次に、スケーリングのために、各ブロックの値が重心での値で割られる。画像の各画素における画像シェーディング補正係数(Ki )を見出すために、スケーリング済みの各値の逆数が取られる。
7) 単一の画像シェーディング補正係数f_IS_color(P)を計算するために、6本の直線が取られ、図9に示されているように、その各々は画像シェーディング・パターンの重心を6個の縁点、すなわち4つの隅と画像の水平縁の中央に存する2つの点とのうちの1つに結合させる。これらの線に沿うK値が3次多項式によって近似される。最も遅く上昇する多項式 (the slowest rising polynomial)と最も速く上昇する多項式 (the fastest rising polynomial)とを平均することによって補正関数f_IS_color(P)が作られる。以下はこの分析の詳細である。
a) 6個の縁の点(図9を参照)の各々でのP値がチェックされる。負のP値を有する縁点は無視される(これは双曲線の場合に起こり得る)。前述したように、P(xi ,yi )=a* (xi −XC )2 +b* (yi −YC )2 +c* (xi −XC )* (yi −YC )である。
b) 6個の縁点の全てが無視されているならば、垂直縁の中央の2つの縁点をとる(図9)。
c) 残りの縁点を結ぶ線の1つ1つについて、線に沿ってのK値になるべく近いP値に依存する多項式1+a1* P+a2* P2 +a3* P3 を見出す。パラメータa1,a2およびa3は以下の式、
の解析的最小化により見出される。ここで{Pi }は線に沿う点のP値であり、{Ki }は線に沿う点のK値である。その結果は以下の3つの方程式のセットである。
量a1,a2およびa3は、この3つの方程式のセットを公知方法で解くことにより見出される。
d) 各多項式について、Pの最大値について導関数の値が計算される。その結果が負であれば、その多項式は関連するP値について単調に増大する多項式ではない。これは、近似のために選択された線が相対的に短い場合に起こり得ることである。このような場合、その多項式と、それを作り出した線とは無視される。
e) a1,a2およびa3の最終値を得るために、最も遅く上昇する多項式と最も速く上昇する多項式とが平均化される。
f) 次に、補正関数f_IS_color(P)が、f_IS_color(P)=min(2047,256* (1+a1* P+a2* P* P+a3* P* P* P)+0.5)によって計算される。この方程式は、この関数により生成される補正係数が8ビット小数部 (8-bit fraction) (256)を伴う合計11ビット(2047)に限定されることを示している。
【0053】
較正された関数を用いることの結果が、例としての曲線のセットと共に図11に示されている。曲線195は、光センサが出力195によって表される1つの色または複数の色で一様に照明されているときの、光学的中心(XC ,YC )を含むエレメントの1つの行における光センサの出力を示す。出力は、光センサの相対する縁に隣接する線の両端で、低下する。較正済み補正関数197は理想的には曲線195の逆関数を提供するので、この2つが結合されたときには一様な強度関数199がもたらされる。光センサに入射した光パターンのデータを表すためにカメラまたは他の光学装置により使用されるのはこの一様な関数である。
【0054】
複数のシェーディング・パターンの補正
前述したように、シェーディング不均一性は同時に存在する多くの要因に帰せられ得る。複合シェーディング現象をさらに補償するために、前述した技術の拡張は、重ね合わせの原理を用いることによって柔軟性を高める。各シェーディング・パターンの重心(XC ,YC )は、前述した“重心”の方程式(2)によって定義される。補正されるべき複合シェーディング・パターンは、重なり合った幾つかのシェーディング現象から構成される。これらの現象は好ましくは較正時に分離され、複数のシェーディング・パターンが各々それ自身の重心と共に視覚化される。これらの重心は、結合されて“実効重心”とされ、図2のルックアップテーブル77を形成するために使用され、或いは後に結合されてルックアップテーブル77を形成する複数の別々のルックアップテーブルを得るために各々個別に使用され得る。この後者の場合、テーブル77に使用されるこれらのシェーディング補正係数を結合させるために使用されるアルゴリズムは、線形、個別線形 (piece-wise linear)、または非線形であり得る。従って、特定の画像エレメントの位置に関してシェーディング密度補正係数を選択する際の大きな柔軟性がもたらされる。
【0055】
この拡張を実施するために実効重心が用いられるのであれば、計算された1つ以上の重心の各々の座標の単純な線形平均算出法を前述した方程式(3)に従って用いることによって実効重心を生成するために2つ以上の重心がアルゴリズム的に結合され得る。このことの1つの例が図12に示され、この場合、重心(XC1,YC1)を有する図9の楕円形シェーディング・パターンの他に、重心(XC2,YC2)を有する円形シェーディング・パターンが存在する。方程式(3)を用いて実効重心(XCE,YCE)を計算することができる。重心が(XCE,YCE)であり、その中心から生じる線177〜184に沿って確認されるシェーディング・パターンの値がこの2つのシェーディング・パターンの各々の値の算術結合 (an arithmetic combination)であることを除いて、各ピクセルについての補正値は図9に関して前に説明した方法で得られる。しかし、この拡張の原理は、この結合を行うためにより複雑な線形および非線形の重み関数を使用することを妨げない。
【0056】
前に「詳細な説明」の始めの近くで説明したこの拡張の第2の形が利用されるとすれば、ルックアップテーブル77中のエレメントは画素と複数の重心との間の距離の関数として計算される。このアプローチにおける補正係数の較正時計算も、同様に各シェーディング現象を分離することによって達成される。しかし、この場合、2つ以上のシェーディング・パターンからの重心から得られた個々の補正係数テーブルは、テーブル77に使用される補正係数を生成するためにアルゴリズム的に結合される。その後、これらの複数のシェーディング現象の重なり合いを補償するためにテーブル77を使用することができる。これらの結合されたシェーディング補正係数を得るために用いられるアルゴリズムは線形、個別線形または非線形重み付けを使用することができるので、特定の画像エレメントの位置に関してシェーディング密度補正係数を選ぶ際に大きな柔軟性をもたらす。線形アプローチが使用されるとすれば、ルックアップテーブル77において表されるピクセル位置における実効補正係数は、個々のシェーディング・パターン補正係数テーブルにおいて対応する画像エレメントの位置に位置する補正係数の単純な線形平均値算出方法を用いて以下の方程式に示されているように計算され得る。
FEN=[(F1+F2+F3・・・+FN)/N] (10)
ここで、FENは特定の画像エレメントについての実効シェーディング・パターン補正係数であり、F1,F2,F3・・・FNは各々の前結合ルックアップテーブルにおける対応する個々の画像エレメントの補正係数であり、Nは結合されるシェーディング・パターン補正ルックアップテーブルの総数である。
【0057】
或いは、個々のシェーディング現象補正テーブルから得られた複数の隣り合う画像エレメントの位置からのシェーディング補正係数の平均値算出、または複雑なアルゴリズム的処理は、テーブル77に含まれるべきシェーディング補正係数の所望の結合を行うために、実行され得る。
【0058】
互いに重なり合っている複数のシェーディング現象を補償するもう一つの方法は前述した同じ較正方法を使用し、この場合には各シェーディング現象が別々に視覚化される。しかし、測定されたシェーディング現象のデータを結合させて1つの“実効重心”、または1つの“実効シェーディング・パターン補正係数テーブル”とする代わりに、図2のシェーディング・プロセッサ71は複数の“シェーディング処理”エレメントを用い、その場合これらの“シェーディング処理”エレメントの各々は、較正時に測定された1つの特定のシェーディング現象に応答する。画像シェーディング補正時に、各“シェーディング処理”エレメントは各々の個別のシェーディング現象に応答してシェーディング補正係数を計算する。補正されるピクセルに対して使用される実際のシェーディング補正係数は、これらの複数の“シェーディング処理”エレメントによってこのピクセルについて計算された個々の補正係数から計算される。この計算は、複数の補正係数の線形、個別線形、または非線形の結合に基づくことができる。
【0059】
拡張方法の較正
図1に示されているデジタルカメラにおいて使用されるシェーディング補正係数を他のパラメータと共に得るためにこの拡張により使用される較正処理について説明する。これらのシェーディング補正係数は、システム初期化時にレジスタ79(図2および7)へ転送されるように、不揮発性メモリ49(図2)に記憶される。使用される較正処理は、複数のシェーディング・パターンについてシェーディング・パターンの数に等しい回数繰り返されることを除いて、前述した処理と本質的に同じである。前述したように、これらのシェーディング・パターンは、例えば不均一な画像センサ感度、レンズ口径食、レンズの中央軸に関しての画像センサの非直交、レンズ取り付けアジマス誤差、およびカメラ内反射などの同時に生じる複数の現象の結果であり得る。
【0060】
これらのシェーディング・パターンの各々は、前述した方法により計算されるパターン独自の重心を有する。この拡張方法の較正手続きの際に、これらの2つ以上の重心は“実効重心”を形成するようにアルゴリズム的に結合され、それは前に詳しく説明したようにシェーディング補正係数を計算する処理において単一の重心の代わりに使用される。単純な場合には、実効重心(XCE,YCE)を得るために使用される結合アルゴリズムは、方程式(3)で前に示されているように、2つ以上の計算された重心の各々の座標の単純な線形平均値算出である。結果として得られるシェーディング補正を改善し、また柔軟性を加えるために、以下の方程式(11)で示されているように、付加的な線形または非線形の重み係数がこの方程式に組み込まれる。
(XCE,YCE)=[(W1XC1+W2XC2+W2XC3・・・+WNXCN)/N],
[(W1YC1+W2YC2+W3YC3・・・+WNYCN)/N](11)
ここで、
(XCE,YCE)=実効重心の座標
(XCN,YCN)=各シェーディング現象に関連付けられた個々の重心の各々の座標
N=個々の重心の総数
(W1,W2,W3・・・WN)=重心重み係数
である。
【0061】
或いは、画素と複数の重心との間の距離の関数として複数のシェーディング補正係数エレメントのセットが計算される。この場合、不揮発性メモリ49にルックアップテーブルの形で記憶される補正係数を生成するために、得られた個々の補正係数テーブルがアルゴリズム的に結合される。これらの結合されるシェーディング補正係数を得るために使用されるアルゴリズムは線形、個別線形、または非線形の重み付けを使用することができるので、特定の画像エレメントの位置に関してシェーディング密度補正係数を選択する際に大幅な柔軟性がもたらされる。線形アプローチが使用される場合、特定の画像エレメントの位置における実効補正係数は、前に方程式(10)で示されているように、個々のシェーディング・パターン補正係数テーブル内の対応する画像エレメントの位置に位置する補正係数の単純な線形平均値算出によって計算される。結果としてのシェーディング補正を改善し、また柔軟性を加えるために、以下で方程式(12)で示されているように、付加的な線形または非線形の重み付けがこの方程式に組み込まれる。
FEN=[(W1F1+W2F2+W3F3・・・+WNFN)/N] (12)
ここで、
FEN=特定の画像エレメントについての実効シェーディング・パターン補正係数
F1,F2,F3;FN=各々の前結合されたルックアップテーブル中の対応する
個々の画像画像エレメントの補正係数
N=結合されるシェーディング・パターン補正ルックアップテーブルの総数
(W1,W2,W3・・・WN)=各々の前結合されたルックアップテーブル中の各々
の画像エレメントのシェーディング補正係数のため
の線形導出または非線形導出からの重み付け定数
である。
【0062】
複数の“シェーディング処理”エレメント、すなわち図1の“ビデオ信号プロセッサ”43の一部である図2のシェーディング処理71の場合、較正処理は種々のシェーディング現象に応答して種々の補正パラメータを記憶する。画像シェーディング補正時に、これらの補正パラメータは、処理される画像データに対して適用される補正係数を決定するために、これらの複数の“シェーディング処理”エレメントによって使用される。
【0063】
結論
本発明は特定の実施形態に関連して説明してきたが、本発明が添付の特許請求の範囲の全範囲内においてその権利が保護されるべきことが理解できよう。
【図面の簡単な説明】
【0064】
【図1】本発明の技術を利用することのできる電子ビデオ装置を概略的に示す。
【図2】図1の装置の電子処理システムの一部分のブロック図である。
【図3A】図2のシステムによる異なるタイプのビデオデータの修正を示す。
【図3B】図2のシステムによる異なるタイプのビデオデータの修正を示す。
【図3C】図2のシステムによる異なるタイプのビデオデータの修正を示す。
【図4A】画像の1つの半径における強度補正関数サンプルの曲線である。
【図4B】図2のメモリに記憶されている少量のデータで図4Aの曲線を表す1つの方法を示す。
【図5】図2のメモリに記憶されている図4Aの曲線を表す1つの形のデータの例を提供する。
【図6】図2の処理システムにより画像ピクセルの半径方向位置をその線形走査位置から計算する1つの方法を示す。
【図7】図2のレジスタに記憶されているデータを示す。
【図8】本願明細書において定義され使用される量を有する楕円を示す。
【図9】補償されるレンズ・シェーディング・パターンの一例を示す。
【図10】図9の2つの半径方向線に沿っての強度変化曲線のサンプルを示す。
【図11】本願明細書に記載されている技術により提供される画像補償の効果を示す曲線を含む。
【図12】補償が提供される複数の画像シェーディング・パターンを示す。
【技術分野】
【0001】
本発明は、一般に、ビデオ信号データを処理する技術に関し、特に、例えば、カメラなどにおいてレンズ、センサ感度変化およびハウジング内の内部反射に起因するシェーディング効果について補償をするなどの結像された光学場における変化を補正するためにビデオ・バイナリー・データを処理することに関する。
【背景技術】
【0002】
画像シェーディングは画像フィールドにおける不均一な光応答である。その原因は、光学系におけるレンズの特性、光が向けられる光センサにおける感度変化、使用されている光センサの画像平面に関してのレンズの不適切なアライメント、カメラ内部反射および場合によっては特定のシステムに存在することのある他の要因に帰することができる。レンズ単独の場合、光強度がその全体において均一なシーンを見るために使われた単純なレンズは通常、著しく不均一な光強度を有するそのシーンの画像を生じさせる。その光強度は普通、画像の中央で最高であり、その縁において60%以上も低下する。このようなレンズは、この効果が補正されなければ、明らかに殆どの光学的応用のために不適切である。補正は、シーン全体に強度変化を与えずにシーンを結像する複数のレンズの複雑な組立を用いることによって提供され得る。
【0003】
電子カメラは、電荷結合素子(CCD)、相補形メタル・オン・シリコン (complementary metal-on-silicon) (CMOS)デバイス、または他のタイプの光センサなどの2次元センサ上にシーンを結像する。これらのデバイスは、エレメントに当たった光または他の光学的輻射(可視光波長に隣接するスペクトルの赤外線領域および紫外線領域を含む)の強度に比例する信号を各々生成する小さな2次元表面上に配置された多数の受光素子(通常は2百万、3百万、4百万或いはそれ以上)を含む。1つの画像のピクセルを形成するこれらのエレメントは、走査されるときに1センサ・エレメントから他のセンサ・エレメントへと当たってゆく輻射の強度のデータのシリアル・ストリームを生成するように通常はラスタパターンで走査される。カラーデータは、殆どの場合に、別々の色成分(赤、緑および青など)の各々に対して敏感な、センサ上にかわるがわるに分布させられた受光素子を用いて得られる。対象シーンを光センサ上に結像するレンズのシェーディング効果、それに当たる光の種々の色に対する光センサの不均一な感度、および場合によってはその他の要因が、光センサ上に不均一な光分布を生じさせる原因となり、従ってセンサからのビデオ信号は、それに重なった望ましくない強度変化のデータを含むことになる。
【0004】
複雑で高価なレンズを高価で慎重に選択された画像光センサと共に用いることによってレンズ・シェーディング効果をなくすよりもむしろ、これらの効果を補償するように光センサからの信号を処理し得ることが示唆されている。各受光素子のエレメントからの信号に対して加えられる補償の量は、画像光センサの表面におけるエレメントの位置に依存する。
【発明の開示】
【0005】
本発明の電子信号処理技術は、レンズ・シェーディングおよび/またはセンサ感度変化およびカメラ内部反射などの、マルチエレメント光センサ上の画像に予測可能な光学的変化を重ねる他の同様の現象についての補償を可能にする。これらの技術は、特にデジタルカメラおよび他のタイプのビデオ装置に応用され得るが、これらの光学写真システムへの応用のみに限定されるものではない。これらの技術は、低コストで実施され得るものであり、最小限の量のメモリを必要とし、修正されるビデオデータが光センサから得られる速度と同じ速度で動作し、これによりビデオシステムの性能に悪影響を及ぼさない。これは、光センサ上の複雑な望ましくない強度パターンと、円形、楕円形、または双曲線形状などの規則的形状のパターンとを補償するために光センサの出力信号に対してリアルタイムで補正係数を使用することによって達成される。
【0006】
このような補償の一例では、各ピクセルのデータは、画像または他の光パターンの光学的中心(本願明細書では光パターンのアンカーポイントまたは重心とも称される)からのピクセルの半径の関数である量だけ補正される。各ピクセルの位置が始めにラスタまたは他の線形走査パターンのx−y座標位置から半径方向距離に変換され、次にその半径方向距離が、小さなメモリに記憶されている少量の補正情報からピクセルについての補正を生成するために使用される。これにより、各ピクセルについての補正データを維持しなくてもよく、従ってこのようなデータを記憶させる大きなメモリを含まなくても良い。これらの操作を実行するために専用される回路が使用されるので、それらを、極めて高速で高価なデジタル信号処理装置を使用せずに、光センサからビデオデータが出力されるのと同じ速度で実行することができる。特定の応用において、ピクセルの半径方向位置は掛け算または割り算を実行するよりさらに複雑な回路を要することなく、加算回路によって走査位置から計算される。
【0007】
各々のカメラまたは他の何らかの装置の光学系は、一例では、均一強度の1つのシーンを光センサ上に結像させ、光センサにおいて得られた強度変化のデータを捕捉し、強度変化を既知の幾何学的パターンに従って特徴づけ、補正データを記憶するのに必要なメモリの量を最少にするために幾何学的パターンを画定する割合に少数のデータ点を記憶することによって、較正される。記憶された値の間での補正値の判定は、画像修正処理中に1つの形の補間によって得られる。画像強度における顕著な不連続部を回避するために、これらの少数のデータ点は、好ましくは、補正されるべき画像上で強度変化に一致するように選択された1つの滑らかな曲線に適合するように調整される。レンズ・シェーディングを補正する他に、これらの技術は、光センサおよび/またはこれと入射画像光との相互作用に起因する任意の強度変化も補正する。
【0008】
本発明の付加的な目的、利点および特徴は、添付図面と関連させて考慮されるべきであるその代表的な実施形態についての以下の説明に含まれる。本願明細書において引用される各々の特許、特許出願、論文、または刊行物は、その全体がこのような参照により、あらゆる目的のために、本願明細書において援用されている。
【発明を実施するための最良の形態】
【0009】
前に説明した現象に起因する、画像または他の所望の光パターンへの変化の重なりは、その画像の各ピクセルにおけるエネルギーの変化をもたらす。これらのエネルギー変化は、捕捉された画像データ自体とは無関係である。光センサにおけるこのエネルギー変化を補償するために、各ピクセル値を掛け算などでシェーディング補正密度係数と結合させることができる。この係数は、画像センサ・マトリックスにおけるピクセルの幾何学的位置に従って画像センサ内の各ピクセルに独特である。理想的な場合、較正手続き中に、画像の各ピクセルについての所要の補償係数を記憶する係数のテーブルをメモリにおいて作ることができる。これは、画像捕捉装置の処理ユニットで以下の方程式を実行することによって必要なシェーディング補償を行うことを可能にする。
PixelOut=PixelIn* F(X,Y) (1)
ここで、
PixelOut=画像シェーディング補償モジュールの出力、
換言すれば補正されたピクセル。
PixelIn=画像シェーディング補償モジュールへの入力。補正前のピクセル。
F(X,Y)=XおよびY直交座標で表されたピクセルの位置に依存する補正係数。
【0010】
主として大きなメモリが必要であり、従って実施のためにシリコンの大きな面積が必要であるために、光センサの各ピクセルのための補正係数の記憶装置を有する集積回路でこの方程式により定義される処理を実行することは非常に高価である。従って、本願明細書に記載されている技術は、必要なメモリおよび処理能力が非常に小さいのに画像から望ましくない光パターンをなくすこの処理の独特の近似法を使用する。
【0011】
最小限の数のシェーディング補正係数が1つ以上のスパース2次元ルックアップテーブルに記憶される。各色のために別々のルックアップテーブルを使用することができる。これらのテーブルは、ラジアル座標系 (radial coordinate system) 、双曲線座標系 (hyperbolic coordinate system) 、または直交座標系に基づくことができる。画像シェーディング補正時に、例えばデジタルカメラにおいて、カメラ内の不揮発性メモリに記憶されている少数のシェーディング補正係数から、各画素位置において、各色について1つのシェーディング補正係数または全ての色について単一の補正係数を計算するために1つ以上の2次元補外アルゴリズムが使用される。これらのシェーディング補正係数は、均一強度画像が使用される較正手続き時に得られ、画像フィールド全体に一様に割り当てられなくても良い。1つの特定の実施例では、補正係数は、不完全なレンズまたは光センサの使用からもたらされるシェーディングのある画像表示の光学的中心から確定される円関数、楕円関数または双曲線関数に基づく。これらの補正係数は、カメラの較正手続き時に得られる。画像フィールドの“光学的中心”(或いは“重心”または“アンカーポイント”)は伝統的に、
(XC ,YC )=(I1 D1 +I2 D2 +・・・)/(I1 +I2 +・・・) (2)
と定義され、ここでI1 ,I2 ・・・は定義された単一の画像原点基準点(X0 ,Y0 )に関しての画像ピクセル1,2・・・の強度であり、D1 ,D2 ・・・は各々の画像ピクセルの(X0 ,Y0 )からの距離である。
【0012】
不完全なレンズに起因する円形のシェーディング・パターンについては、重心は、画像光センサ上に投射された変化する強度シェーディング・パターンの最大強度点に存在する。一実施形態では、この重心は、前述したルックアップテーブルのための単一の基準データ点として使用される。これは、円形、楕円形または双曲線形のシェーディング・パターンをより効果的に補正するように画像フィールドの周辺部においてより微粒状のシェーディング補正を提供する。
【0013】
1つの拡張は、例えばレンズ口径食と結合した不均一な画像センサ感度などの、同時に生じる複数の要因に起因する複雑なシェーディング・パターンを補正する。この拡張の一つの形では、前述したスパース・ルックアップテーブルに組み込まれる補正係数を計算するアルゴリズムは、画素と“実効重心”との間の距離の関数となるように選択される。この実効重心は、始めに各々のシェーディング現象(すなわち、各々の別個の不均一な光パターン)を分離し、次に前述した重心の方程式(2)を用いて各現象の重心を計算することによって得られる。これらの2つ以上の重心は、本発明により使用される実効重心を形成するようにアルゴリズム的に結合される。直交座標系が使用されるならば、実効重心を得るために使用される結合アルゴリズムは以下の方程式で示されているように、2つ以上の計算された重心の各々の座標の単純な線形平均値算出であり得る。
(XCE,YCE)=[(XC1+XC2+XC3・・・+XCN)/N],
[(YC1+YC2+YC3・・・+YCN)/N] (3)
ここで、(XCE,YCE)は実効重心の座標であり、(XCN,YCN)は各シェーディング現象に関連する個々の重心の各々の座標であり、Nは個々の現象の総数であり、従って重心の総数である。或いは、この決定は、もっと複雑な線形および非線形の重み関数を用いて実行されても良い。
【0014】
この拡張の第2の形では、画像シェーディング補正係数は個々のピクセルと複数の重心との間の距離の関数となるように選択され、各重心は同じ、或いは別々の画定された原点から計算される。補正係数の計算を含む較正は、このアプローチでは、各シェーディング現象を分離することによって同様に行われる。しかし、この場合、これらの2つ以上の重心を用いることによって得られた個々の補正係数は、シーン取り込み時に複数のシェーディング現象を補償するために使用されるシェーディング補正係数の単一のセットを作るためにアルゴリズム的に結合される。これらの結合されたシェーディング補正係数を得るために使用されるアルゴリズムは、線形、区分的線形または非線形の重み付けを用いることができ、従って特定の画像エレメントの位置に関して画像シェーディング補正係数を選ぶときに大幅な柔軟性を提供する。
【0015】
デジタルカメラの場合、シェーディング・パターン現象を分離する1つの方法は、始めに、カメラのレンズを取り除いておいてデジタルカメラの光センサを一様な光で照明することである。これにより、センサだけに関連するシェーディング・パターンを測定し、センサのシェーディング・パターン重心を計算することが可能になる。次に、カメラのレンズを通してカメラの光センサを一様な光で照明し、得られたシェーディング・パターンを再び測定する。次に、ピクセル毎に第1の測定の結果を第2の測定の結果から差し引くことによって、レンズだけにより作られたシェーディング・パターンが得られる。その後、レンズ・シェーディング・パターンの重心を別々に計算することができる。
【0016】
本願明細書において、デジタルカメラ、ビデオ取り込み装置または他のタイプのデジタル撮像装置の光学写真システム(すなわち、レンズ、画像センサ、および/またはハウジング)についてのシェーディング補正係数は、較正手続き時に得られる。この較正は、較正される装置のレンズおよびハウジングを用いて、較正される装置に使われている画像センサ上に一様な強度のシーンを結像させることによって実行される。画像センサ上に生じた円形、双曲線形、または他の変化についてのデータが画像センサ受光素子信号の測定により得られ、1つまたは複数の補償数学関数が計算される。補正データを記憶させるのに必要なメモリの量を最小限にするために割合に少数のデータ点だけが好ましく記憶され、較正時に計算されたシェーディング補正係数に対して敏感な形の補間によって、画像修正処理時に、記憶された値の間の値の決定が得られる。画像強度に顕著な不連続部が生じるのを避けるために、これらの少数のデータ点は、好ましくは、補正されるべき画像上で強度変化に一致するように選択された滑らかな1つ、または複数の曲線に適合させられる。デジタル撮像装置の完全な光学写真システムが較正手続き時に使用されるので、これらの技術は、レンズ・シェーディングだけに起因する不均一性を補正する他に、画像センサおよび/または画像センサと入射画像光との相互作用に起因する如何なる強度変化も補正する。
【0017】
光学装置例
カメラまたは他のビデオ捕捉装置における本発明の技術の実施例について説明するが、この場合、画像のデジタルデータはカメラの光学系、光センサおよびカメラ内面からの反射によって画像に重ねられた強度変化を即座に補償するために修正される。図1において、ケース11と、結像光学系13と、制御信号17を生成するユーザ制御装置15と、内部電気結線21を有するビデオ入出力レセプタクル19と、内部電気結線25を有する、不揮発性メモリカード27が取り外し可能に挿入されるカードスロット23とを含む。カメラにより取り込まれた画像のデータは、メモリカード27または内部不揮発性メモリ(図示せず)に記憶され得る。画像データは、レセプタクル19を通して他のビデオ装置に出力されても良い。メモリカード27は、市販の半導体フラッシュ形の電気的に消去可能でプログラム可能な読み出し専用メモリ(EEPROM)、小形の取り外し可能な回転磁気ディスク、或いはその他のビデオデータをカメラによりプログラムすることのできる不揮発性メモリであって良い。或いは、特にカメラが毎秒30画像フレームなどの映画を撮るときには、磁気テープまたは書き換え可能形光ディスクなどの、より大きな容量の記憶媒体を代わりに使用することができる。
【0018】
光学系13は、図に示されているように単一のレンズであっても良いが、普通は複数のレンズのセットである。シーン31の像29が可視光輻射でシャッタ33を通して画像センサ35の二次元表面上に形成される。センサの電気的出力37は、画像29が投射されたセンサ35の表面の個々の受光素子を走査することから生じたアナログ信号を担持する。センサ35は通常、画像29の個々のピクセルを検出するように行および列の2次元アレイに配置された多数の個々の受光素子を含む。個々の受光素子に当たる光の強度に比例する信号が、通常はそれらをラスタパターンで走査することによって出力37において時系列で得られ、この走査では一番上の行から始まって受光素子の行が一度に1行ずつ左から右へ走査されて、画像29をそれから再構成することのできるビデオデータのフレームを生成する。アナログ信号37は、画像29の回路41にデジタルデータを生成するアナログ・デジタル変換回路チップ39に加えられる。通常、回路41に存する信号は、センサ35の個々の受光素子に当たった光の強度を表すデジタルデータの個々のブロックのシーケンスである。
【0019】
回路41に存するビデオデータの処理とカメラ動作の制御とは、この実施形態では、単一の集積回路チップ43により提供される。回路17,21,25および41に接続されている他に、回路チップ43は制御および状態線45に接続されている。線45は、シャッタ33、センサ29、アナログ・デジタル変換器39、およびカメラの他の構成要素に接続されて、これらの同期動作を提供する。一時的なデータ記憶のために、別の揮発性ランダムアクセスメモリ回路チップ47も処理チップ43に接続されている。また、プロセッサ・プログラム、較正データなどを記憶するための別の不揮発性の再プログラム可能なメモリチッップ49がプロセッサチップ43に接続されている。回路チップおよび他の構成要素にクロック信号を提供するためにカメラ内に普通のクロック回路51が設けられている。別個の構成要素の代りに、システムのためのクロック回路をプロセッサチップ43に含めても良い。
【0020】
プロセッサチップ43の機能ブロック図を図2に示す。デジタル信号プロセッサ(DSP)55は重要な構成要素であり、カメラのチップ43および他の構成要素の双方の動作を制御する。しかし、後述するように、DSP55は広範囲にわたるビデオデータ処理を行うわけではないので、割合に簡単で安価なプロセッサであって良い。メモリ管理ユニット57は、DSP55を外部メモリチッップ47および49に、さらに出力インターフェイス回路59に接続し、この出力インターフェイス回路59は各々の回路21および25を通して入出力コネクタ19およびカードスロット23(図1)に接続される。
【0021】
アナログ・デジタル変換器39(図1)から図2のブロック図を通るビデオデータの流れを一般的に説明する。線41の入力データはブロック61で前処理されてから、一入力として掛け算回路63に供給される。掛け算回路63への他の入力65は、入ってくるビデオデータを修正するデータを担持し、修正されたビデオデータは掛け算回路63の出力67に現れる。この例において、線65の修正データは、レンズ・シェーディングと、カメラエレメントにより画像に与えられた強度変化との効果を補正する。さらなる適切な画像処理69の後に、ビデオデータは、メモリ管理ユニット57を通して出力インターフェイス回路59に向けられ、次に線21を通してカメラの入出力レセプタクル19または線25を通してカメラのメモリカード・スロット23(図1)、或いはその両方に、表示および/または記憶のために向けられる。
【0022】
線65の補正データは専用の処理回路71によって生成される。ブロック71は、そのためにビデオデータが捕捉された画像の実効中心からの各画像ピクセルの半径方向位置に関連する量を、その捕捉の順に、計算する回路73を含む。この特定の例では、この量は半径の数学的平方(ri2)である。この半径は、そのピクセルについてビデオ信号を生成する1つまたは複数の受光素子のx−y座標での線形位置から、ビデオデータがセンサから受信されるのと同じ速度で、各ピクセルについて計算される。画像データの修正が画像における半径の関数として変化するので、この線形位置から半径位置への変換が行われる。その計算された半径関数は、掛け算回路63に適用される修正係数を生成するために計算回路75により使用される。回路75はビデオデータに対して行われるべき半径依存の修正を表す方程式をその都度解くこともできるけれども、その代わりとしてメモリ77がこの実施形態で使用されるルックアップテーブルを記憶する。しかし、メモリ77のサイズを縮小するために、少数の点の補正データだけが記憶され、記憶された点同士の間の点の値を回路75が計算する。1セットのレジスタ79は、計算回路73および75の両方により使用されるパラメータを記憶する。
【0023】
計算回路73および75は、DSP55とは無関係に動作する。その代わりとして場合によってはこれらの計算を行うためにDSPを使用し得るが、それは、極めて高速のプロセッサを必要とし、たとえ十分な速度が利用可能であっても、高価で、しかもチップ43上の相当のスペースを占める。回路73および75は、DSP55による関与なしで所要の繰り返し計算を実行するために専用されるものであり、構造が非常に簡単であり、チップ43上の小さなスペースを占め、かつ他の機能を実行するようにDSP55を自由にする。
【0024】
画像修正データおよびパラメータを記憶するメモリ77および79は、それら全てが単一のコスト効率の良いチップに含まれ得るように、アクセス速度および他のプロセッサ回路との両立性を目的として揮発性ランダムアクセス形であるのが好ましい。画像修正データおよびパラメータは、その製造の最終段階で各カメラについて一度生成され、不揮発性メモリ49に永久的に記憶される。これらのデータは、制御および状態線83を通して動作するDSP55の制御下で、システムが初期化される度に線81を通してメモリ77および79にロードされる。
【0025】
図3Aを参照して、図2のシステムの動作の一つの態様が説明され、ここでセンサ35(図1)は、各画像ピクセルについて単一の受光素子を含む。センサのデジタル化された出力41は、1つの行の中のセンサ35の隣り合う受光素子からのデータの連続するブロック87,89,91などを含む。単一の受光素子により検知される画像29の1つのピクセルの強度を数量化する10,12またはそれより多数のビットを含むデータの各ブロックは、制御カウンタ85(図2)を通してシステムクロック51により制御される速度で回路41に現れる。例えば、データブロック87,89,91などのうちの1つがクロック信号の各サイクル中に現れることができる。
【0026】
データブロック93,95,97などは、画像データ87,89,91などと同じ速度で画像データと同期して修正処理回路71(図2)により生成される。すなわち、修正データ93は画像データ87と同時に生成されて掛け算回路63に現れ、他についても同様である。受光素子の走査パターンは既知であるから、計算回路73は、センサ35の表面の受光素子の位置の半径を、画像データがこれらの受光素子から読み出されるのと同じ順序および同じ速度で、生成する。その後、特定の画像ピクセルについて生成された修正係数データが、そのピクセルの強度データと結合される。掛け算回路63における画像データ87と、同じピクセルについて生成された修正データ93との結合は、修正済みデータ98をもたらす。修正済みデータブロック99および100が、データ89および95、並びに91および97の結合によってそれぞれ同様に得られる。
【0027】
普通のビデオシステムは、画像の複数の別々の色成分の各々についてデータを処理する。1つの代表的な商用センサは、行に沿って赤色フィルタ、緑色フィルタおよび青色フィルタで覆われた受光素子を交互に位置させる。商業的に使用されている感色性受光素子の配置方法が幾つかある。このような1つの配置方法では、1つの行は交互に位置する赤色感応受光素子および緑色感応受光素子を含み、次の行は交互に位置する青色感応受光素子および緑色感応受光素子を含み、また受光素子は列において交互に位置する色感度を提供するように行に沿って配置される。他の標準的な配置方法は、交互に位置する2色の他の組み合わせを使用する。図3Bに示されているように、このようなセンサの線41に存する出力は、連続する赤色データ、緑色データおよび青色データを含む。ブロック101,103,105などは、交互に位置する赤色感応受光素子および緑色感応受光素子の別々のデータを表し、連続するクロックサイクルの各々の間に1つのブロックが出力される。
【0028】
検出される別々の色の全てについて補正データが1セットしかなければ、各画像ピクセルについて、色に関わらずに、そのデータのセットから1つの画像修正係数が生成される。これは、信号修正によって除去される画像における変化が全ての色に同程度、或いはほぼ同程度に影響を及ぼす場合には、全く充分である。しかし、変化が色に著しく依存する場合には、各色成分について別々の補正係数が使用される。色に依存する修正の使用が図3Bに示され、この場合には連続する修正係数113,115,117などが画像データの各々の連続するブロック101,103,105などと結合される。その結果は、修正済みデータブロック120,122,124などである。修正係数113,117,121などは赤色補正データから取られ、修正係数115,119,123などは緑色補正データから得られる。
【0029】
市販されている1つの特定のタイプの光センサは、各光サイトまたはピクセルに複数の受光素子を積み重ねる。一番上の受光素子は、赤色および緑色を通過させる一方、受光素子それ自身が感応する、例えば青色を濾波する。この一番上の受光素子の直ぐ下にある受光素子は緑色を通過させ、受光素子それ自身が感応する色、この例では赤色、を濾波する。底のセンサは緑色に感応する。図3Cは、このタイプのセンサを有する図2のシステムの動作を示す。データのブロック125,127,129,131などが、1つのピクセルの全ての色について3つ、次の隣接するピクセルについて別の3つ、等々と出力される。全ての色について1セットの補正データだけが維持されるのであれば、例えば色データブロック125,127および129を生成するサイトについての修正係数133など、同じ修正係数が各写真サイトからの3つのデータブロックと結合される。各色について別々の補正データが維持されるのであれば、それらの修正係数は別々であっても良いけれども、3つ全てが画像センサにおける単一の半径方向位置について計算される。掛け算回路63で結合されるとき、連続する修正済みデータブロック137,138,139などが得られる。
【0030】
他のタイプのカラーシステムも、本願明細書に記載されている技術によって補正され得る。例えば、2つの色成分だけを使用した市販のカラーシステムがあった。また、「白黒」情報を捕捉するために広いスペクトル範囲を有する別の検出器が使用されるようになっている4カラーシステムもある。
【0031】
円形パターン修正
多くのシェーディング・パターンは、特にレンズのシェーディング・パターンは、円形として特徴付けられ得る。従って、各ピクセルについての補正係数は、画像幾何学平面上の基準までの幾何学的距離に沿って1次元関数として以下の方程式を用いて計算され得る。
PixelOut=PixelIn* F[(X−Xc)2 +(Y−Yc)2 ] (4)
ここで、PixelOutは、PixelInの補正の前に入力されていた(X,Y)に位置するピクセルの補正済みの値の出力である。補正係数F[(X−Xc)2 +(Y−Yc)2 ]は、ピクセル(X,Y)の、画像重心(Xc,Yc)までの距離に依存する。
【0032】
レンズ・シェーディング補正関数の例141を図4Aに示す。本発明を説明するために単独のレンズ・シェーディング補正関数が示されているが、本発明は、多数の原因からの多様なシェーディング不均一の補正に一般的に適用され得るものであるということに留意しなければならない。また、シェーディング不均一は、2つだけ挙げるとすれば、不均一なセンサ感度およびカメラ内反射のせいでもあり得る。これらの発生源に起因する変化をレンズ特性に起因する変化と組み合わせて補正するべきであれば、以下で論じるように実際の補正関数は異なるが、一般的なアプローチは同じである。
【0033】
図4Aから分かるように、センサ35(図1)の受光素子アレイ上の画像29の光学的中心において、補正は相対的ゼロである。中心は、好ましくは、その全体にわたって均一な強度を有する対象シーンの像の、検出される画像強度が最大となる点である。しかし、一般に、光学的中心(Xc,Yc)は前述した方程式(2)によって決定される。検出される画像の強度は、その中心からの半径方向距離ri の関数として減少する。その結果として、強度補正量、すなわち検出された画像信号に対して使用されるレンズ・シェーディング・ゲインは、曲線141により示されているように半径ri2 の関数として増大する。画像強度の増大量は画像の縁で急速に増大する。このレンズ・シェーディング効果は円対称であるということが見出されている。すなわち、曲線141により示されている所望の補正は、検出された画像においてその光学的中心から伸びる任意の半径線に沿って実質的に同じである。
【0034】
多くのレンズが、図4Aに描かれているのと同様のシェーディング・パターンを生じさせる。これらの場合、曲線141は半径の平方の指数関数に近いことが見出されている。すなわち、任意の画素についての強度補正が光学的中心からの画素の半径方向距離の平方の関数f(ri2 )である。従って、このシェーディング特性を有するレンズを使用する各々のカメラまたは他の光学系について、各画素についてこの画素の補正量を判定するためにDSP55または専用回路により解かれる方程式を書くことができる。しかし、画像処理時に参照される曲線141の値のテーブルを維持する方がより効率的であるということが見出されている。図4Bは曲線141の一部分の拡大図を示し、曲線を表すように連続する点143〜147の値が取り出されている。カメラ補正の1つの特別の場合には、曲線141に沿って等半径増分で取られた僅か64個の値が曲線を表すように記憶される。これらの点同士の間のいろいろな半径についての補正量を計算するために、計算回路75(図2)は何らかの補間アルゴリズムを使用することができるけれども、各々の連続する点143〜147の対の間の直線の勾配の値も記憶するのが好ましいということが見出され、それをも計算回路75は使用する。
【0035】
シェーディング・テーブル77(図2)の例を図5に示す。この場合、原色、すなわち赤色、緑色および青色の各々について1つずつ、合計3つの別々の補正曲線のデータが維持される。例えば、第2のこのような曲線142が図4Aに示されている。64個の間隔の各々について、ri2 のベース値と、そのベース値から次のベース値までの直線の勾配とが記憶されている。計算回路75に入力されたri2 の各々の値について、これらの回路は、検出された画像の赤色、緑色および青色の成分についての補正係数の値を時間順に提供し、それらは、図3Bに関して前に説明したように、入ってくるビデオデータを補正するために使用される。もちろん、図3Aに示されているように、各色成分が同じ補正係数を受けるべきである場合には、図5のテーブルはベースおよび勾配の数の唯一のセットを維持するだけでよい。いずれにしても、テーブル77に記憶されるデータの量は少ないので、それを記憶するためにチップ43に含まれる必要のあるメモリのサイズは小さく保たれ得る。
【0036】
計算回路75に入力するri2 の値を計算するために回路73(図2)により実行される技術の例を図6に示す。この計算は、個々のセンサ受光素子のx−y座標系における位置を知り、次にこれらの位置の測定結果を円座標系における光学的中心からの位置の半径の値に変換することから、行われる。ビデオデータの1つの完全なフレームを得るべく全受光素子の出力が受信されるまで、受光素子はセンサ35において一度に1行ずつ一端から他端までラスタパターンで直線的に走査されるという事実を用いることにより、計算は簡略化される。
【0037】
図6において、個々の写真サイト、すなわちピクセルが黒いドットによって示されている。使用されるセンサのタイプによって(その例が前に記載されている)、各ピクセルに1個、2個、3個またはもっと多くの受光素子が配置される。代表的な長方形アレイは各辺に数百個或いは数千個のピクセルを含むが、図6のアレイは、計算処理を説明する目的で、20×20ピクセルのサイズであると仮定されている。ピクセル151は、アレイの上左端のピクセルであり、ピクセルのアレイの第1行第1列にあるので、その位置はX0 Y0 と称されている。ピクセル151は、1フレームのビデオデータが捕捉されるときに最初に走査されるピクセルである。一番上の行内の他のピクセルはその後にそれらの信号出力をその順序で得るために走査され、次に上から2番目の行のピクセルが、左端のピクセルから右へ走査され、以降同様に標準的なビデオラスタ走査パターンで走査される。ピクセル153は、シーンを受光素子アレイ上に結像させるレンズのシェーディング・パターンの中心に存在するように選択されている。ピクセル153はシェーディング関数の光学的中心であり、その位置は(XC ,YC )と記されている。シェーディング・パターン中央ピクセル153のアドレスは(0,0)として示されている。本願明細書において簡略化を目的として仮定されているように、このピクセルがアレイの中央ピクセルでもあるならば、考察されている小さなアレイの例において、ピクセル151は(10,10)のアドレスを付される。右隣のピクセルは(9,10)のアドレスを有し、第2行の第1ピクセルは(10,9)のアドレスを有し、以降同様である。第1ピクセル151の中心(XC ,YC )からの半径はR0 と称され、一般化されたピクセルxi yi の半径はri と称されている。
【0038】
量ri2 は、各ピクセルについてその直交座標(xi ,yi )から回路73(図2)により計算される。この計算を実行する回路を大幅に簡略化するために、回路73により実行されるアルゴリズムは、好ましくは、掛け算、割り算、平方根、或いはその他のより複雑な算術演算を必要とすることなく、足し算に依拠する。各ピクセルの半径の平方は、加算回路を用いることにより計算される。このアルゴリズムを次に説明することができる。
【0039】
指定されたピクセル線の走査開始時に、中心から所与の線の第1のピクセル(左端のピクセル)までの最初の半径RINITは次のように計算される。
RINIT2 =|R02−2Y0 HY +(1+2nY )HY2 | (5)
ここで、Y0 は一番上の線のy座標を指し、R0 は中心(XC ,YC )から上左端ピクセル(X0 ,Y0 )までの半径である。アルゴリズムは、ピクセルまたはピクセルの線の一部を省略する走査パターンも考慮に入れる。量HY は各ステップにおける線の数を表す。各線が走査されるのであればHY =1であり、一つおきの線が走査されるのであればHY =2であり、以降同様である。量nY は、実際に走査される線の、一番上から数えられた数であり(線がとばされるとしても、nY は0,1,2などと数えられる)、ここで2番目の線についてはnY =0であり、3番目の線についてはnY =1であり、以降同様である。
【0040】
半径計算を簡略化するために、頻繁に参照される量のうちの或るものは工場較正時に一度計算されてから不揮発性メモリ49(図2)に永久的に記憶され、図7に示されているようにシステム初期化時にレジスタ79(図2)に転送される。例えば、前述した方程式に使用される量Y0 およびR0 もそのように記憶される。量HY2 もレジスタ79に記憶されるけれども、これは、制御装置15(図1)を通してカメラまたは他のシステムのユーザによって選択される関数に起因して走査の特性が変化するときにDSP55によって書き換えられ得る。最初に走査されるべきピクセル151の半径関数R02はすでに既知であるので、回路73はその値をレジスタ79から読み出してそれを計算回路75に加えるだけでよい。しかし、次のピクセル(9,10)と、1フレームの残りのピクセルとについての半径関数は、回路73によって計算されなければならない。
【0041】
ピクセルのこの指定された線に沿う各ピクセルについて、中心(0,0)から各々の所与のピクセルまでの半径ri2 は順に次のように計算される。
ri2 =|RINIT2−2X0 HX +(1+2nX )HX2 | (6)
ここで、RINIT2は前述した方程式(1)により計算される線の第1のピクセルの半径であり、X0 は線の最初のピクセルのx座標を指し、HX は各ステップにおけるピクセルの数であり、nX は左から数えられた実際に使用されるピクセルの数であり(ピクセルがとばされるとしても、nX は0,1,2などと数えられる)、ここで第2のピクセルについてはnX =0であり、第3のピクセルについてはnX =1であり、以降同様である。X0 の値は工場較正時に不揮発性メモリ49に記憶されてシステム初期化時にレジスタ79(図7)に転送され、HX2 は行われる走査のタイプのためにDSP55により記憶される。レジスタ79は、シェーディング補正が省略されるべきときを示すためにDSP55によってセットされる少なくとも1ビットも記憶する。
【0042】
走査パターンは1つの線の全体にわたってピクセルからピクセルへと移動し、次に他の線において同じ事を行うということが知られているので、方程式(1)および(2)の計算を各線について行う必要はないため、処理を相当簡略化することができる。第1のピクセル151の半径関数R02は既知であるので、それを基にして他の各ピクセルについての半径関数が計算される。1つの行を走査するとき、第1のピクセル以外のピクセルのri2 は、直ぐ前のピクセルの半径値に以下を加算することによって計算される。
(1+2mX )HX2 (7)
ここで、mX はピクセルの行において最初のピクセルから通過したHX ステップの数である。同様に、最初の行の後の各行のRINIT2は、直ぐ前の線のRINIT2に以下を加算することによって計算される。
(1+2mY )HY2 (8)
ここで、my は一番上の行から通過したHY ステップの数である。方程式(7)および(8)は方程式(5)および(6)の計算より遥かに簡単に実行できるので、回路73(図2)を簡略化することができ、各々の新しいピクセルについて半径関数を計算することができる。簡略化された方程式(3)は、1つの行内の連続するピクセルについて方程式(2)の半径関数の差を取ることによって得られる。同様に、簡略化された方程式(4)は、ピクセルの連続する線について方程式(1)の半径関数の差を取ることによって得られる。
【0043】
各カメラの光学系、センサまたは物理的構成はいろいろな結像特性およびその他の特性を持ち得るので、各ユニットは好ましくは製造処理の一部として較正され、その較正から得られたパラメータは不揮発性メモリ49(図2)に記憶されてシステム初期化時にレジスタ79(図2および7)に転送される。一様に白い2次元シーン31(図1)がセンサ35上に結像される。センサ35が走査され、画像データが、レンズ・シェーディング補正、或いは他の何らかのそのような修正なしで、メモリ管理ユニット57を通してメモリ47に直接記憶される。しかし、レンズ・シェーディング効果に起因して、記憶されるビデオデータはフレーム全体にわたって一様な強度を持たない。その後、この記憶された画像フレームデータは、前述した方程式(2)を用いることにより、重心、すなわち座標(XC ,YC )を判定するためにDSP55によって処理される。(XC ,YC )に存するピクセルは多くの場合光学系の中心ピクセル153(図6)であり、それは普通、全体にわたって一様な強度を有するシーン31の像29(図1)の最高強度の点であるが、必ずしも光学系の中心ではない。上左隅のピクセルの座標(X0 ,Y0 )は、センサ35の受光素子アレイにおける画像フレームの縁を画定することによって決定される。中心および隅の座標が決定された後、最大半径値R02が計算される。記憶されているパターンの重心(XC ,YC )と、画像内の各ピクセルの座標(X,Y)とから、円形強度分布近似についての方程式(4)により各ピクセルについて1つずつ補正係数の完全なセットが計算される。この補正係数の完全なセットをカメラ自体の中に記憶されるスパース・セットに縮小するために、完全な画像データセットにかぶせられたコース・グリッド (course grid)の交点の下に存するピクセルからの補正係数だけが選択されてカメラに記憶されてカメラにより使用される。
【0044】
この処理は、光学系13、センサ29(図1)、或いはその他のカメラ内面からの反射などのカメラ内変化により招来されたあらゆる強度シェーディングを補正する。しかし、センサ29が補正を必要としなければ、行われる補正はレンズ系13だけについての補正である。同様に、レンズ系13が画像全体にわたって強度変化を与えることなく画像29を形成させられるならば、行われる補正はセンサ29だけについての補正である。
【0045】
楕円および双曲線強度パターンモデル
強度分布の円形近似モデルを用いる代わりに、特定の光分布については、それが分布をより良く特徴付けるのであれば、他の幾何学的近似を用いても良い。楕円シェーディング・パターン近似および双曲線シェーディング・パターン近似は、このような使用され得る他の近似の例である。このような場合、個々のピクセル補正係数は以下の方程式に従って使用される。
PixelOut=PixelIn* F[a(X−XC )2 +b(Y−YC )2
+c(X−XC )(Y−YC )] (9)
ここで、PixelOutは補正済みピクセルであり、PixelInは補正前のピクセルであり、F[a(・・・)]は補正係数であり、これはピクセル位置(X,Y)からアンカーポイント(XC ,YC )までの距離に依存する。定数a、bおよびcは楕円または双曲線の形状およびサイズを明示する。
【0046】
図8は、前述した方程式(9)のパラメータが示されている楕円161を示す。量“a”は長軸の二分の一であり、“b”は楕円の短軸の二分の一である。量“c”は焦点163および165の間の距離の二分の一である。これらの標準的な数学的量に加えて、焦点163および165を通る長軸に沿って中央に点167があり、これは楕円形光分布の光学的中心(XC,YC)である。楕円161は、このような分布の等強度の領域を表す。定数a,bおよびcの相対値が方程式(9)のカッコ内の量に双曲線を画定させるような相対値であれば、等強度を有する分布の場所を示すのは双曲線である。
【0047】
2次元表面上の楕円形または双曲線形の強度分布は、ページの外に広がる強度値を有するか、或いは補正分布の逆数が示される場合にはページの中に広がる強度補正値を有する分布の等高線を表す複数の曲線の族により画定され得る。図9に示されている例は、一様な白色光画像の楕円形強度分布(中央に対して相対的に縁で強度低下)、或いは捕捉された画像データに適用される補正係数の分布(中央より縁の方が高い値を有する逆関数)を示す。このような族の各楕円171,172,173および174は、分布の同じ相対値“v”、すなわち分布の最高強度(v=1.0)と最低強度(v=0)との間の等高線の相対的高さを表す分数を有する点を含む。
【0048】
少量のメモリに記憶され得る画像データを補正するのに充分な少量のデータによって分布の特徴を表すために、図9に示されている分布を横断して伸びる数本の線177,178,179,180,181,182,183および184に沿って較正時にデータが捕捉される。これらの線の各々は、光学的中心(XC ,YC )と、画像フィールドの縁(この例では、これらの縁の長さに沿った中央点を横切る)および四隅の全てとの間に伸びる。分布の形状は、楕円の、これらの線が横切った箇所における強度値から得られる。線177に沿って点185,186,187および189における値が、例えば図10の値185’,186’,187’および189’として示され得る。円形分布について前に説明した場合と同じく、一つの曲線がこれらの値に適合する。もう一つの曲線178’が図10に含まれ、これは、図9の線178に沿う楕円交点191,192および193のそれぞれの強度値である点191’,192’および193’を通る。点のこれらのセットの値は同じであるが、それらの間隔は異なり、その結果として曲線177’および178’は互いにずれている。他の線179〜184に属する点は通常、別個の曲線を生じさせる。線177〜184の一部または全部からのこれらの補正係数データは、この例では、光センサからの画像データを補正するために使用される。線177〜184のうちの別々の線に沿う点からの補正データの複数のセットが補正データになり得るが、後述される特定の例は、さらなる簡略化近似として、このようなデータ点の平均に適合する単一の補正係数曲線を利用する。
【0049】
円形パターン近似方法の場合と同じく、この補正係数曲線は、その個別 (piece-wise) 線形近似としてハードウェアに記憶される。一つの色あたりに64個の項目(合計で192項目)を有するルックアップテーブル(LUT)が記憶される。各項目は、アンカーポイントから1つの距離を置いた1つの点での補正係数を表す。1点での補正係数の値と、その点から次の点への勾配とが各項目に記憶される。従って、アンカーポイント(XC ,YC )に関連して特定の点(X,Y)での補正係数の値を計算するとき、LUTにおいて(X,Y)の下の位置について最も近い項目が見出され、その項目の値および勾配から点(X,Y)における補正係数の線形近似が計算される。
【0050】
メモリおよび処理パワーに関して、ハードウェアを用いてこの計算をリアルタイムで実行することは高価になる可能性がある。従って、円形パターン補正について前に説明した簡略化された計算技術が、パターンが楕円形または双曲線形であるときにも適用される。補正されるべきピクセルはラスタ順に時間“t”の関数として既知の順序で到着するので、前のピクセルに対して計算された距離の平方を用いてアンカーポイントまでの距離の平方を計算するために差分方程式の方法が使用される。これは掛け算回路の代りに加算回路を用いることによって行われる。前述した円形分布の場合と同じく、走査順序において次のピクセルまでの増分半径方向距離が、前のピクセルについて計算された半径方向距離に増分ステップを加えることによって計算される。
【0051】
楕円および双曲線強度パターン較正
楕円形または双曲線形補正係数分布が想定されるときの較正データの捕捉は始めは円形パターンの場合と同様である。一様に白色の2次元シーン31(図1)が、図1に描かれているデジタルカメラのセンサ35上に結像される。そのとき、センサ35が走査され、画像データはレンズ・シェーディング補正、或いは他の任意のこのような修正なしで、メモリ管理ユニット57を通してメモリ47に直接記憶される。しかし、レンズ・シェーディング効果の故に、その記憶されるビデオデータはフレーム全体にわたって一様な強度を持たない。センサ35の受光素子アレイにおいて画像フレームの縁を画定することによって上左隅ピクセルの座標(X0 ,Y0 )が決定される。(X0 ,Y0 )と関連するこの記憶された画像フレームデータは、その重心、座標(XC ,YC )を決定するためにDSP55によって処理される。中心座標および隅の座標が決定された後、最大半径値が計算される。記憶された画像の重心(XC ,YC )と画像中の各ピクセルの座標とから、各ピクセルについて1つずつ、補正係数の完全なセットが計算される。
【0052】
楕円形または双曲線形補正係数分布モデルが利用されるときの1つの特定の例においてカメラまたは他の光学系を較正するステップを以下に概説する。
1) カメラのシェーディング補正ステージが較正される前に一様な白色画像からの画像データが取り込まれる。換言すれば、シェーディング補正ステージが迂回される。
2) 最大画像サイズおよび画像原点(X0 ,Y0 )が画定される。原点に関して画像ウィンドウの出発点(X0 ,Y0 )が画定される。
3) 白色較正画像が8×8ピクセルのブロックに分割される。画像サイズが8の倍数でなければ、その差は両方の向かい合う画像縁から補償される。各ブロックについて、赤色ピクセルの平均値が計算され、緑色ピクセルの平均値が計算され、青色ピクセルの平均値が計算される。各ブロックについて、平均ピクセル強度レベルがそのブロックの赤色、緑色および青色の平均値の重み付き平均関数として計算される。本願明細書において以下の計算は個々のピクセル値に関してではなく、ブロック値に関して実行される。
4) 同じ高さの強度等高線を選び取り、その重心を見出すことによってシェーディング・パターンの重心(光学的中心)(XC ,YC )が見出される。
a) シェーディング・パターンの重心が画像の強度値に従って計算される。
b) 等高線高さがMin_Height+0.8* (Max_Height−Min_Height)と見なされ、ここでMin_Heightは画像中の最低強度値であり、Max_Heightは画像中の最大強度値である。相対的に高い等高線が、画像の中に殆ど完全に含まれるように、選ばれる。その等高線が縁と交差するならば、僅かな不正確さが生じるかもしれない。
c) 各水平座標x(画像内の各コラム)について、f(x)、すなわち定義済み等高線高さを上回る強度値の数が計算される。次に、XC が、
に従って計算される。同様に、各垂直座標y(画像内の各線)について、f(y)、すなわち定義済み等高線高さを上回る強度値の数が計算される。次に、YC が、
に従って計算される。
5) 光学的中心を決定した後、画像シェーディング・パターンの形状を最良に近似する楕円/双曲線形状が決定される。実際上、これは、2次元関数p(xi ,yi )=a* (xi −XC )2 +b* (yi −YC )2 +c* (xi −XC )* (yi −YC )が画像シェーディング・パターンの形状になるべく近くなるようにa、bおよびcを見出すことを意味する。
a) 楕円/双曲線形状値a,bおよびcが画像の強度値に従って計算される。
b) 以下の式
の解析的最小化によって値a,bおよびcが見出され、ここで{(xi ,yi )}は定義済みの同じ高さの等高線上の点であり、vは等高線の高さである。その結果は、以下の3つの方程式のセットとなる。
c) a,bおよびcの値は、この3つの方程式のセットを公知手法で解くことによって見出される。
d) 定義済み等高線の高さはMin_Height+0.65* (Max_Height−Min_Height)であると見なされ、ここでMin_Heightは画像内の最低強度値であり、Max_Heightは画像内の最高強度値である。このとき、等高線はより低いので、画像の、隅に近い遠い部分で計算はより正確となる。等高線が画像の縁と交差しても、それは前述した計算結果に顕著な影響を及ぼさない。
e) c2 −4* a* b>=0であれば、見出された形状は双曲線であり、その結果として、可能な双曲線は2つあり、その一方はa,bおよびcをパラメータとして有し、他方は−a,−bおよびcをパラメータとして有する。双曲線の場合、P(xi ,yi )が画像の何らかの部分で負の値をとり得ることに注意しなければならない。画像シェーディング補正ハードウェアはこれらの部分を無視するので、補正される必要のある画像部分が画像のP(xi ,yi )が正である部分に対応することを確かめることが重要である。前述した2つの可能な双曲線のうちの一方はこの条件を満たし、相対的に小さなエラーを生じさせ得る。他方の双曲線はこの条件を満たさなくて、相対的に大きなエラーを生じさせ得る。このエラーを計算することによって、その2つの可能な双曲線のどちらが正しい双曲線であるのか見分ける。
f) 最後に、パラメータa,bおよびcは、画像サイズとは無関係に同じ範囲の値を持つこととなるように、正規化される。これは、Pmax(P(xi ,yi )の最大値)を画像サイズに依存する値に正規化することにより、行われる。Pmaxは6MSBにおいて111111を有する値に正規化されるが、それは、ルックアップテーブル(LUT)が完全に使用されることを意味する。
6) 次に、スケーリングのために、各ブロックの値が重心での値で割られる。画像の各画素における画像シェーディング補正係数(Ki )を見出すために、スケーリング済みの各値の逆数が取られる。
7) 単一の画像シェーディング補正係数f_IS_color(P)を計算するために、6本の直線が取られ、図9に示されているように、その各々は画像シェーディング・パターンの重心を6個の縁点、すなわち4つの隅と画像の水平縁の中央に存する2つの点とのうちの1つに結合させる。これらの線に沿うK値が3次多項式によって近似される。最も遅く上昇する多項式 (the slowest rising polynomial)と最も速く上昇する多項式 (the fastest rising polynomial)とを平均することによって補正関数f_IS_color(P)が作られる。以下はこの分析の詳細である。
a) 6個の縁の点(図9を参照)の各々でのP値がチェックされる。負のP値を有する縁点は無視される(これは双曲線の場合に起こり得る)。前述したように、P(xi ,yi )=a* (xi −XC )2 +b* (yi −YC )2 +c* (xi −XC )* (yi −YC )である。
b) 6個の縁点の全てが無視されているならば、垂直縁の中央の2つの縁点をとる(図9)。
c) 残りの縁点を結ぶ線の1つ1つについて、線に沿ってのK値になるべく近いP値に依存する多項式1+a1* P+a2* P2 +a3* P3 を見出す。パラメータa1,a2およびa3は以下の式、
の解析的最小化により見出される。ここで{Pi }は線に沿う点のP値であり、{Ki }は線に沿う点のK値である。その結果は以下の3つの方程式のセットである。
量a1,a2およびa3は、この3つの方程式のセットを公知方法で解くことにより見出される。
d) 各多項式について、Pの最大値について導関数の値が計算される。その結果が負であれば、その多項式は関連するP値について単調に増大する多項式ではない。これは、近似のために選択された線が相対的に短い場合に起こり得ることである。このような場合、その多項式と、それを作り出した線とは無視される。
e) a1,a2およびa3の最終値を得るために、最も遅く上昇する多項式と最も速く上昇する多項式とが平均化される。
f) 次に、補正関数f_IS_color(P)が、f_IS_color(P)=min(2047,256* (1+a1* P+a2* P* P+a3* P* P* P)+0.5)によって計算される。この方程式は、この関数により生成される補正係数が8ビット小数部 (8-bit fraction) (256)を伴う合計11ビット(2047)に限定されることを示している。
【0053】
較正された関数を用いることの結果が、例としての曲線のセットと共に図11に示されている。曲線195は、光センサが出力195によって表される1つの色または複数の色で一様に照明されているときの、光学的中心(XC ,YC )を含むエレメントの1つの行における光センサの出力を示す。出力は、光センサの相対する縁に隣接する線の両端で、低下する。較正済み補正関数197は理想的には曲線195の逆関数を提供するので、この2つが結合されたときには一様な強度関数199がもたらされる。光センサに入射した光パターンのデータを表すためにカメラまたは他の光学装置により使用されるのはこの一様な関数である。
【0054】
複数のシェーディング・パターンの補正
前述したように、シェーディング不均一性は同時に存在する多くの要因に帰せられ得る。複合シェーディング現象をさらに補償するために、前述した技術の拡張は、重ね合わせの原理を用いることによって柔軟性を高める。各シェーディング・パターンの重心(XC ,YC )は、前述した“重心”の方程式(2)によって定義される。補正されるべき複合シェーディング・パターンは、重なり合った幾つかのシェーディング現象から構成される。これらの現象は好ましくは較正時に分離され、複数のシェーディング・パターンが各々それ自身の重心と共に視覚化される。これらの重心は、結合されて“実効重心”とされ、図2のルックアップテーブル77を形成するために使用され、或いは後に結合されてルックアップテーブル77を形成する複数の別々のルックアップテーブルを得るために各々個別に使用され得る。この後者の場合、テーブル77に使用されるこれらのシェーディング補正係数を結合させるために使用されるアルゴリズムは、線形、個別線形 (piece-wise linear)、または非線形であり得る。従って、特定の画像エレメントの位置に関してシェーディング密度補正係数を選択する際の大きな柔軟性がもたらされる。
【0055】
この拡張を実施するために実効重心が用いられるのであれば、計算された1つ以上の重心の各々の座標の単純な線形平均算出法を前述した方程式(3)に従って用いることによって実効重心を生成するために2つ以上の重心がアルゴリズム的に結合され得る。このことの1つの例が図12に示され、この場合、重心(XC1,YC1)を有する図9の楕円形シェーディング・パターンの他に、重心(XC2,YC2)を有する円形シェーディング・パターンが存在する。方程式(3)を用いて実効重心(XCE,YCE)を計算することができる。重心が(XCE,YCE)であり、その中心から生じる線177〜184に沿って確認されるシェーディング・パターンの値がこの2つのシェーディング・パターンの各々の値の算術結合 (an arithmetic combination)であることを除いて、各ピクセルについての補正値は図9に関して前に説明した方法で得られる。しかし、この拡張の原理は、この結合を行うためにより複雑な線形および非線形の重み関数を使用することを妨げない。
【0056】
前に「詳細な説明」の始めの近くで説明したこの拡張の第2の形が利用されるとすれば、ルックアップテーブル77中のエレメントは画素と複数の重心との間の距離の関数として計算される。このアプローチにおける補正係数の較正時計算も、同様に各シェーディング現象を分離することによって達成される。しかし、この場合、2つ以上のシェーディング・パターンからの重心から得られた個々の補正係数テーブルは、テーブル77に使用される補正係数を生成するためにアルゴリズム的に結合される。その後、これらの複数のシェーディング現象の重なり合いを補償するためにテーブル77を使用することができる。これらの結合されたシェーディング補正係数を得るために用いられるアルゴリズムは線形、個別線形または非線形重み付けを使用することができるので、特定の画像エレメントの位置に関してシェーディング密度補正係数を選ぶ際に大きな柔軟性をもたらす。線形アプローチが使用されるとすれば、ルックアップテーブル77において表されるピクセル位置における実効補正係数は、個々のシェーディング・パターン補正係数テーブルにおいて対応する画像エレメントの位置に位置する補正係数の単純な線形平均値算出方法を用いて以下の方程式に示されているように計算され得る。
FEN=[(F1+F2+F3・・・+FN)/N] (10)
ここで、FENは特定の画像エレメントについての実効シェーディング・パターン補正係数であり、F1,F2,F3・・・FNは各々の前結合ルックアップテーブルにおける対応する個々の画像エレメントの補正係数であり、Nは結合されるシェーディング・パターン補正ルックアップテーブルの総数である。
【0057】
或いは、個々のシェーディング現象補正テーブルから得られた複数の隣り合う画像エレメントの位置からのシェーディング補正係数の平均値算出、または複雑なアルゴリズム的処理は、テーブル77に含まれるべきシェーディング補正係数の所望の結合を行うために、実行され得る。
【0058】
互いに重なり合っている複数のシェーディング現象を補償するもう一つの方法は前述した同じ較正方法を使用し、この場合には各シェーディング現象が別々に視覚化される。しかし、測定されたシェーディング現象のデータを結合させて1つの“実効重心”、または1つの“実効シェーディング・パターン補正係数テーブル”とする代わりに、図2のシェーディング・プロセッサ71は複数の“シェーディング処理”エレメントを用い、その場合これらの“シェーディング処理”エレメントの各々は、較正時に測定された1つの特定のシェーディング現象に応答する。画像シェーディング補正時に、各“シェーディング処理”エレメントは各々の個別のシェーディング現象に応答してシェーディング補正係数を計算する。補正されるピクセルに対して使用される実際のシェーディング補正係数は、これらの複数の“シェーディング処理”エレメントによってこのピクセルについて計算された個々の補正係数から計算される。この計算は、複数の補正係数の線形、個別線形、または非線形の結合に基づくことができる。
【0059】
拡張方法の較正
図1に示されているデジタルカメラにおいて使用されるシェーディング補正係数を他のパラメータと共に得るためにこの拡張により使用される較正処理について説明する。これらのシェーディング補正係数は、システム初期化時にレジスタ79(図2および7)へ転送されるように、不揮発性メモリ49(図2)に記憶される。使用される較正処理は、複数のシェーディング・パターンについてシェーディング・パターンの数に等しい回数繰り返されることを除いて、前述した処理と本質的に同じである。前述したように、これらのシェーディング・パターンは、例えば不均一な画像センサ感度、レンズ口径食、レンズの中央軸に関しての画像センサの非直交、レンズ取り付けアジマス誤差、およびカメラ内反射などの同時に生じる複数の現象の結果であり得る。
【0060】
これらのシェーディング・パターンの各々は、前述した方法により計算されるパターン独自の重心を有する。この拡張方法の較正手続きの際に、これらの2つ以上の重心は“実効重心”を形成するようにアルゴリズム的に結合され、それは前に詳しく説明したようにシェーディング補正係数を計算する処理において単一の重心の代わりに使用される。単純な場合には、実効重心(XCE,YCE)を得るために使用される結合アルゴリズムは、方程式(3)で前に示されているように、2つ以上の計算された重心の各々の座標の単純な線形平均値算出である。結果として得られるシェーディング補正を改善し、また柔軟性を加えるために、以下の方程式(11)で示されているように、付加的な線形または非線形の重み係数がこの方程式に組み込まれる。
(XCE,YCE)=[(W1XC1+W2XC2+W2XC3・・・+WNXCN)/N],
[(W1YC1+W2YC2+W3YC3・・・+WNYCN)/N](11)
ここで、
(XCE,YCE)=実効重心の座標
(XCN,YCN)=各シェーディング現象に関連付けられた個々の重心の各々の座標
N=個々の重心の総数
(W1,W2,W3・・・WN)=重心重み係数
である。
【0061】
或いは、画素と複数の重心との間の距離の関数として複数のシェーディング補正係数エレメントのセットが計算される。この場合、不揮発性メモリ49にルックアップテーブルの形で記憶される補正係数を生成するために、得られた個々の補正係数テーブルがアルゴリズム的に結合される。これらの結合されるシェーディング補正係数を得るために使用されるアルゴリズムは線形、個別線形、または非線形の重み付けを使用することができるので、特定の画像エレメントの位置に関してシェーディング密度補正係数を選択する際に大幅な柔軟性がもたらされる。線形アプローチが使用される場合、特定の画像エレメントの位置における実効補正係数は、前に方程式(10)で示されているように、個々のシェーディング・パターン補正係数テーブル内の対応する画像エレメントの位置に位置する補正係数の単純な線形平均値算出によって計算される。結果としてのシェーディング補正を改善し、また柔軟性を加えるために、以下で方程式(12)で示されているように、付加的な線形または非線形の重み付けがこの方程式に組み込まれる。
FEN=[(W1F1+W2F2+W3F3・・・+WNFN)/N] (12)
ここで、
FEN=特定の画像エレメントについての実効シェーディング・パターン補正係数
F1,F2,F3;FN=各々の前結合されたルックアップテーブル中の対応する
個々の画像画像エレメントの補正係数
N=結合されるシェーディング・パターン補正ルックアップテーブルの総数
(W1,W2,W3・・・WN)=各々の前結合されたルックアップテーブル中の各々
の画像エレメントのシェーディング補正係数のため
の線形導出または非線形導出からの重み付け定数
である。
【0062】
複数の“シェーディング処理”エレメント、すなわち図1の“ビデオ信号プロセッサ”43の一部である図2のシェーディング処理71の場合、較正処理は種々のシェーディング現象に応答して種々の補正パラメータを記憶する。画像シェーディング補正時に、これらの補正パラメータは、処理される画像データに対して適用される補正係数を決定するために、これらの複数の“シェーディング処理”エレメントによって使用される。
【0063】
結論
本発明は特定の実施形態に関連して説明してきたが、本発明が添付の特許請求の範囲の全範囲内においてその権利が保護されるべきことが理解できよう。
【図面の簡単な説明】
【0064】
【図1】本発明の技術を利用することのできる電子ビデオ装置を概略的に示す。
【図2】図1の装置の電子処理システムの一部分のブロック図である。
【図3A】図2のシステムによる異なるタイプのビデオデータの修正を示す。
【図3B】図2のシステムによる異なるタイプのビデオデータの修正を示す。
【図3C】図2のシステムによる異なるタイプのビデオデータの修正を示す。
【図4A】画像の1つの半径における強度補正関数サンプルの曲線である。
【図4B】図2のメモリに記憶されている少量のデータで図4Aの曲線を表す1つの方法を示す。
【図5】図2のメモリに記憶されている図4Aの曲線を表す1つの形のデータの例を提供する。
【図6】図2の処理システムにより画像ピクセルの半径方向位置をその線形走査位置から計算する1つの方法を示す。
【図7】図2のレジスタに記憶されているデータを示す。
【図8】本願明細書において定義され使用される量を有する楕円を示す。
【図9】補償されるレンズ・シェーディング・パターンの一例を示す。
【図10】図9の2つの半径方向線に沿っての強度変化曲線のサンプルを示す。
【図11】本願明細書に記載されている技術により提供される画像補償の効果を示す曲線を含む。
【図12】補償が提供される複数の画像シェーディング・パターンを示す。
【特許請求の範囲】
【請求項1】
光学場が入射する個々のピクセルの2次元アレイを有する光センサから得られるデジタルビデオ信号について、前記光学場のビデオ信号は前記アレイにおける付加的強度分布パターンに従って変更され、前記光学場において線形に走査される前記ピクセルから生じる個々のピクセルの出力のシーケンスが前記光センサのデジタルビデオ信号を形成する、前記強度分布パターンを補正するように前記ビデオ信号を修正する方法において、
前記センサにおいて少なくとも1つの楕円形または双曲線形の強度パターンを含むように画定された前記強度分布パターンの光学的中心からの前記ピクセルの半径方向距離の関数として前記強度分布パターンの修正データを維持するステップと、
走査される個々のピクセルの前記半径方向距離を、前記2次元アレイ内でのそれらの線形位置から計算するステップと、
走査される個々のピクセルについて、前記ピクセルの計算された半径方向距離によりアクセスされる前記画像修正データから修正を生成するステップと、
生成された画像修正データを、走査された対応する個々のピクセルの出力と結合させ、これにより個々のピクセルの出力のシーケンスを前記画像修正データに従って修正するステップと、
を含むことを特徴とする方法。
【請求項2】
前記計算するステップ、生成するステップおよび結合させるステップは、走査される個々のピクセルについて、走査されたピクセルの出力のシーケンスが前記画像センサから出力されたビデオ信号中に出現するのと少なくとも同じ速さで実行されることを特徴とする請求項1記載の方法。
【請求項3】
維持される前記画像修正データは、前記光学場を前記センサ上に結像させる光学系のうちのいずれか1つまたはそれ以上により、前記センサ自体における感度変化により、または前記光学系およびセンサを収容するエンクロージャーの内面からの光反射によりもたらされた前記光学場における強度変化について前記個々のピクセルの出力における補正を含むことを特徴とする請求項1記載の方法。
【請求項4】
前記画像修正データを維持するステップは、走査される個々のピクセルについて、前記光学場の複数の色成分の各々につきデータのセットを1つずつ、画像修正データの複数のセットを維持するステップを含むことを特徴とする請求項1記載の方法。
【請求項5】
前記維持機能、計算機能および生成機能の全ては、単一の集積回路チップで遂行されることを特徴とする請求項1記載の方法。
【請求項6】
前記維持機能、計算機能および生成機能の全ては、これらの機能を遂行することに専用される電子回路によって実行されることを特徴とする請求項5記載の方法。
【請求項7】
前記画像修正データを維持するステップは、前記強度分布パターンにおけるその光学的中心からの単一の半径に沿う点と、前記点間の勾配の値とを記憶するステップを含むことを特徴とする請求項1記載の方法。
【請求項8】
前記記憶された点の値は、その全体において均一な強度を有する画像フィールドを見る装置の光学系による前記光センサを通しての測定値と、楕円または双曲線の1つ以上のセットを画定することにより前記センサのビデオ信号出力の強度変化の特徴を明らかにするステップと、前記強度変化パターンの単一の光学的中心を見出すステップと、前記単一の半径に沿って点のセットの値を前記修正データとして計算するステップとから計算されることを特徴とする請求項7記載の方法。
【請求項9】
前記センサのビデオ信号出力の強度変化の特徴を明らかにするステップは、2セット以上の楕円または双曲線を画定するステップを含むことを特徴とする請求項8記載の方法。
【請求項10】
前記パターンの光学的中心からのピクセルの半径方向距離の関数として前記強度分布パターンの修正データを維持するステップは、前記センサにおいて2つ以上の楕円形または双曲線形強度分布を含むように前記パターンを画定するステップを含むことを特徴とする請求項1記載の方法。
【請求項11】
前記パターンを2つ以上の楕円形または双曲線形の強度分布として画定するステップは、前記強度変化パターンの単一の光学的中心を見出すステップと、次に単一の半径に沿う点のセットの値を前記修正データとして計算するステップとを含むことを特徴とする請求項10記載の方法。
【請求項12】
前記個々のピクセルの半径方向距離を前記2次元アレイ内のそれらの線形位置から計算するステップは、直前に走査されたピクセルについて計算された半径方向距離に1つの値を加えるステップを含むことを特徴とする請求項1記載の方法。
【請求項13】
前記個々のピクセルの半径方向距離を計算するステップは、前記単一の半径の角度位置と無関係にそのようにするステップをさらに含むことを特徴とする請求項12記載の方法。
【請求項14】
前記個々のピクセルの半径方向距離を計算するステップは、掛け算または割り算なしにそのようにするステップをさらに含むことを特徴とする請求項12記載の方法。
【請求項15】
個々のピクセルの2次元アレイを有する光センサからのデジタルビデオ信号を、その上に入射する光学場に重なった強度変化パターンを補正するために修正する方法において、
単一の光学的中心および単一の画定された形状により前記パターンを画定するように結合される2つ以上の幾何学的形状の結合として前記強度変化パターンの特徴を明らかにすることから導出される画像修正データを維持するステップと、
前記画像修正データから走査されている個々のピクセルについての修正を生成するステップと、
その生成された画像修正データを、走査された対応する個々のピクセルの出力と結合させ、これにより個々のピクセルの出力を前記画像修正データに従って修正するステップと、
を含むことを特徴とする方法。
【請求項16】
前記2つ以上の幾何学的形状は、円形、楕円形または双曲線形を含むことを特徴とする請求項15記載の方法。
【請求項17】
前記画像修正データを維持するステップは、前記2つ以上の幾何学的形状を、1つの光学的中心を有する単一の幾何学的パターンとして表すステップを含むことを特徴とする請求項16記載の方法。
【請求項18】
前記個々のピクセルについて修正を生成するステップは、前記光学的中心から伸びる半径に沿って前記半径の角度方位とは無関係のデータの単一のセットを参照するステップを含むことを特徴とする請求項17記載の方法。
【請求項19】
前記個々のピクセルについて修正を生成するステップは、前記光学的中心からの個々のピクセルの半径方向位置の関数としての修正値のテーブルを参照するステップと、直前に走査されたピクセルについて計算された半径方向距離に1つの値を加えることによって前記2次元アレイ内の個々のピクセルの半径方向距離を計算するステップとをさらに含むことを特徴とする請求項17記載の方法。
【請求項20】
入射した2次元光学場を所定のパターンに従って線形に走査することから得られた個々の受光素子のデータのストリームを受信して処理することのできる回路を含む集積回路チップにおいて、
前の個々の受光素子の半径に増分を加えることによって、走査される個々の受光素子の半径方向距離を走査される光学像と同期して決定し、かつ前記半径方向距離に従って走査された光学像に対する楕円形または双曲線形の修正の記憶されているデータにアクセスする前記回路の第1の部分と、
入ってくるデータとアクセスされた記憶されている画像修正データとを受け取って、個々の受光素子のデータの修正されたストリームを出力する前記回路の第2の部分と、
を備えることを特徴とする集積回路チップ。
【請求項21】
前記楕円形または双曲線形の修正の記憶されているデータは、楕円形または双曲線形の強度曲線のセットにより特徴付けられるデータを含み、これにより前記光学場に導入された望まれない強度変化について補償が提供され得ることを特徴とする請求項20記載の集積回路チップ。
【請求項22】
ビデオ撮像装置において、
受光素子の2次元アレイを有する光センサであって、それらはラスタパターンで走査されて、その上の光学輻射の強度を表すデータのシリアル・ストリームを出力する光センサと、
前記センサに関して固定されていて光学輻射場を前記センサ上に結像させる光学系と、
前記光センサおよび光学系についての強度補正データを記憶するメモリであって、前記補正データは、結像された光学場においてその中心から半径に沿って伸びる連続的な曲線上の点、および前記点の間の勾配の値として記憶され、前記記憶される点の値は、前記装置の光学系がそこにおいて一様な強度を有する画像フィールドを見るときに2つ以上の別々の幾何学的形状の結合として前記光センサの強度出力パターンの特性を表すことによって決定されるメモリと、
前記ラスタ走査パターンの位置を前記光学場における半径方向距離に変換する専用計算回路と、
計算された半径方向距離について前記メモリから値を読み出し、それから前記データのシリアル・ストリームに対して行われるべき強度補正の量を計算する専用補正決定回路と、
前記光センサから出力されたデータのシリアル・ストリームを決定された前記強度補正量で修正し、これにより前記データのシリアル・ストリームを結像された光学場における強度変化について補正する結合回路と、
を備えることを特徴とするビデオ撮像装置。
【請求項23】
前記2つ以上の別々の幾何学的形状は、少なくとも1つの楕円または双曲線を含むことを特徴とする請求項22記載のビデオ撮像装置。
【請求項24】
ビデオ撮像装置において、
受光素子の2次元アレイを有する光センサであって、それらはラスタパターンで走査されて、その上の光学輻射場の複数の色成分の強度を表すデータのシリアル・ストリームを出力する光センサと、
前記センサに関して固定されていて前記光学輻射場を前記センサ上に結像させる光学系と、
前記光センサおよび光学系についての補正データを記憶するメモリであって、前記補正データは、結像された光学場においてその中心から半径に沿って各々伸びる複数の連続的な曲線上の点、および前記点の間の勾配の値として記憶され、前記記憶される点の値は、そこにおいて一様な強度を有する画像フィールドを見る前記装置の光学系によって前記光センサを通して測定され、前記複数の曲線は、前記複数の色成分の各々について1つずつの曲線を含み、少なくとも1つの楕円または双曲線により特徴付けられている強度パターンを前記光センサにおいて画定するメモリと、
前記ラスタ走査パターンの位置を前記光学場における半径方向距離に変換する専用計算回路と、
計算された半径方向距離について前記メモリから値を読み出し、それから前記データのシリアル・ストリームの前記複数の色成分の各々に対して行われるべき強度補正の量を計算する専用補正決定回路と、
前記光センサから出力されたデータのシリアル・ストリームを決定された前記強度補正量で修正し、これにより前記データのシリアル・ストリームを結像された光学場における強度変化について補正する結合回路と、
を備えることを特徴とするビデオ撮像装置。
【請求項1】
光学場が入射する個々のピクセルの2次元アレイを有する光センサから得られるデジタルビデオ信号について、前記光学場のビデオ信号は前記アレイにおける付加的強度分布パターンに従って変更され、前記光学場において線形に走査される前記ピクセルから生じる個々のピクセルの出力のシーケンスが前記光センサのデジタルビデオ信号を形成する、前記強度分布パターンを補正するように前記ビデオ信号を修正する方法において、
前記センサにおいて少なくとも1つの楕円形または双曲線形の強度パターンを含むように画定された前記強度分布パターンの光学的中心からの前記ピクセルの半径方向距離の関数として前記強度分布パターンの修正データを維持するステップと、
走査される個々のピクセルの前記半径方向距離を、前記2次元アレイ内でのそれらの線形位置から計算するステップと、
走査される個々のピクセルについて、前記ピクセルの計算された半径方向距離によりアクセスされる前記画像修正データから修正を生成するステップと、
生成された画像修正データを、走査された対応する個々のピクセルの出力と結合させ、これにより個々のピクセルの出力のシーケンスを前記画像修正データに従って修正するステップと、
を含むことを特徴とする方法。
【請求項2】
前記計算するステップ、生成するステップおよび結合させるステップは、走査される個々のピクセルについて、走査されたピクセルの出力のシーケンスが前記画像センサから出力されたビデオ信号中に出現するのと少なくとも同じ速さで実行されることを特徴とする請求項1記載の方法。
【請求項3】
維持される前記画像修正データは、前記光学場を前記センサ上に結像させる光学系のうちのいずれか1つまたはそれ以上により、前記センサ自体における感度変化により、または前記光学系およびセンサを収容するエンクロージャーの内面からの光反射によりもたらされた前記光学場における強度変化について前記個々のピクセルの出力における補正を含むことを特徴とする請求項1記載の方法。
【請求項4】
前記画像修正データを維持するステップは、走査される個々のピクセルについて、前記光学場の複数の色成分の各々につきデータのセットを1つずつ、画像修正データの複数のセットを維持するステップを含むことを特徴とする請求項1記載の方法。
【請求項5】
前記維持機能、計算機能および生成機能の全ては、単一の集積回路チップで遂行されることを特徴とする請求項1記載の方法。
【請求項6】
前記維持機能、計算機能および生成機能の全ては、これらの機能を遂行することに専用される電子回路によって実行されることを特徴とする請求項5記載の方法。
【請求項7】
前記画像修正データを維持するステップは、前記強度分布パターンにおけるその光学的中心からの単一の半径に沿う点と、前記点間の勾配の値とを記憶するステップを含むことを特徴とする請求項1記載の方法。
【請求項8】
前記記憶された点の値は、その全体において均一な強度を有する画像フィールドを見る装置の光学系による前記光センサを通しての測定値と、楕円または双曲線の1つ以上のセットを画定することにより前記センサのビデオ信号出力の強度変化の特徴を明らかにするステップと、前記強度変化パターンの単一の光学的中心を見出すステップと、前記単一の半径に沿って点のセットの値を前記修正データとして計算するステップとから計算されることを特徴とする請求項7記載の方法。
【請求項9】
前記センサのビデオ信号出力の強度変化の特徴を明らかにするステップは、2セット以上の楕円または双曲線を画定するステップを含むことを特徴とする請求項8記載の方法。
【請求項10】
前記パターンの光学的中心からのピクセルの半径方向距離の関数として前記強度分布パターンの修正データを維持するステップは、前記センサにおいて2つ以上の楕円形または双曲線形強度分布を含むように前記パターンを画定するステップを含むことを特徴とする請求項1記載の方法。
【請求項11】
前記パターンを2つ以上の楕円形または双曲線形の強度分布として画定するステップは、前記強度変化パターンの単一の光学的中心を見出すステップと、次に単一の半径に沿う点のセットの値を前記修正データとして計算するステップとを含むことを特徴とする請求項10記載の方法。
【請求項12】
前記個々のピクセルの半径方向距離を前記2次元アレイ内のそれらの線形位置から計算するステップは、直前に走査されたピクセルについて計算された半径方向距離に1つの値を加えるステップを含むことを特徴とする請求項1記載の方法。
【請求項13】
前記個々のピクセルの半径方向距離を計算するステップは、前記単一の半径の角度位置と無関係にそのようにするステップをさらに含むことを特徴とする請求項12記載の方法。
【請求項14】
前記個々のピクセルの半径方向距離を計算するステップは、掛け算または割り算なしにそのようにするステップをさらに含むことを特徴とする請求項12記載の方法。
【請求項15】
個々のピクセルの2次元アレイを有する光センサからのデジタルビデオ信号を、その上に入射する光学場に重なった強度変化パターンを補正するために修正する方法において、
単一の光学的中心および単一の画定された形状により前記パターンを画定するように結合される2つ以上の幾何学的形状の結合として前記強度変化パターンの特徴を明らかにすることから導出される画像修正データを維持するステップと、
前記画像修正データから走査されている個々のピクセルについての修正を生成するステップと、
その生成された画像修正データを、走査された対応する個々のピクセルの出力と結合させ、これにより個々のピクセルの出力を前記画像修正データに従って修正するステップと、
を含むことを特徴とする方法。
【請求項16】
前記2つ以上の幾何学的形状は、円形、楕円形または双曲線形を含むことを特徴とする請求項15記載の方法。
【請求項17】
前記画像修正データを維持するステップは、前記2つ以上の幾何学的形状を、1つの光学的中心を有する単一の幾何学的パターンとして表すステップを含むことを特徴とする請求項16記載の方法。
【請求項18】
前記個々のピクセルについて修正を生成するステップは、前記光学的中心から伸びる半径に沿って前記半径の角度方位とは無関係のデータの単一のセットを参照するステップを含むことを特徴とする請求項17記載の方法。
【請求項19】
前記個々のピクセルについて修正を生成するステップは、前記光学的中心からの個々のピクセルの半径方向位置の関数としての修正値のテーブルを参照するステップと、直前に走査されたピクセルについて計算された半径方向距離に1つの値を加えることによって前記2次元アレイ内の個々のピクセルの半径方向距離を計算するステップとをさらに含むことを特徴とする請求項17記載の方法。
【請求項20】
入射した2次元光学場を所定のパターンに従って線形に走査することから得られた個々の受光素子のデータのストリームを受信して処理することのできる回路を含む集積回路チップにおいて、
前の個々の受光素子の半径に増分を加えることによって、走査される個々の受光素子の半径方向距離を走査される光学像と同期して決定し、かつ前記半径方向距離に従って走査された光学像に対する楕円形または双曲線形の修正の記憶されているデータにアクセスする前記回路の第1の部分と、
入ってくるデータとアクセスされた記憶されている画像修正データとを受け取って、個々の受光素子のデータの修正されたストリームを出力する前記回路の第2の部分と、
を備えることを特徴とする集積回路チップ。
【請求項21】
前記楕円形または双曲線形の修正の記憶されているデータは、楕円形または双曲線形の強度曲線のセットにより特徴付けられるデータを含み、これにより前記光学場に導入された望まれない強度変化について補償が提供され得ることを特徴とする請求項20記載の集積回路チップ。
【請求項22】
ビデオ撮像装置において、
受光素子の2次元アレイを有する光センサであって、それらはラスタパターンで走査されて、その上の光学輻射の強度を表すデータのシリアル・ストリームを出力する光センサと、
前記センサに関して固定されていて光学輻射場を前記センサ上に結像させる光学系と、
前記光センサおよび光学系についての強度補正データを記憶するメモリであって、前記補正データは、結像された光学場においてその中心から半径に沿って伸びる連続的な曲線上の点、および前記点の間の勾配の値として記憶され、前記記憶される点の値は、前記装置の光学系がそこにおいて一様な強度を有する画像フィールドを見るときに2つ以上の別々の幾何学的形状の結合として前記光センサの強度出力パターンの特性を表すことによって決定されるメモリと、
前記ラスタ走査パターンの位置を前記光学場における半径方向距離に変換する専用計算回路と、
計算された半径方向距離について前記メモリから値を読み出し、それから前記データのシリアル・ストリームに対して行われるべき強度補正の量を計算する専用補正決定回路と、
前記光センサから出力されたデータのシリアル・ストリームを決定された前記強度補正量で修正し、これにより前記データのシリアル・ストリームを結像された光学場における強度変化について補正する結合回路と、
を備えることを特徴とするビデオ撮像装置。
【請求項23】
前記2つ以上の別々の幾何学的形状は、少なくとも1つの楕円または双曲線を含むことを特徴とする請求項22記載のビデオ撮像装置。
【請求項24】
ビデオ撮像装置において、
受光素子の2次元アレイを有する光センサであって、それらはラスタパターンで走査されて、その上の光学輻射場の複数の色成分の強度を表すデータのシリアル・ストリームを出力する光センサと、
前記センサに関して固定されていて前記光学輻射場を前記センサ上に結像させる光学系と、
前記光センサおよび光学系についての補正データを記憶するメモリであって、前記補正データは、結像された光学場においてその中心から半径に沿って各々伸びる複数の連続的な曲線上の点、および前記点の間の勾配の値として記憶され、前記記憶される点の値は、そこにおいて一様な強度を有する画像フィールドを見る前記装置の光学系によって前記光センサを通して測定され、前記複数の曲線は、前記複数の色成分の各々について1つずつの曲線を含み、少なくとも1つの楕円または双曲線により特徴付けられている強度パターンを前記光センサにおいて画定するメモリと、
前記ラスタ走査パターンの位置を前記光学場における半径方向距離に変換する専用計算回路と、
計算された半径方向距離について前記メモリから値を読み出し、それから前記データのシリアル・ストリームの前記複数の色成分の各々に対して行われるべき強度補正の量を計算する専用補正決定回路と、
前記光センサから出力されたデータのシリアル・ストリームを決定された前記強度補正量で修正し、これにより前記データのシリアル・ストリームを結像された光学場における強度変化について補正する結合回路と、
を備えることを特徴とするビデオ撮像装置。
【図1】
【図2】
【図3A】
【図3B】
【図3C】
【図4A】
【図4B】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3A】
【図3B】
【図3C】
【図4A】
【図4B】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公表番号】特表2007−524289(P2007−524289A)
【公表日】平成19年8月23日(2007.8.23)
【国際特許分類】
【出願番号】特願2006−547125(P2006−547125)
【出願日】平成16年12月14日(2004.12.14)
【国際出願番号】PCT/US2004/041987
【国際公開番号】WO2005/066893
【国際公開日】平成17年7月21日(2005.7.21)
【出願人】(503468042)ゾラン コーポレイション (18)
【Fターム(参考)】
【公表日】平成19年8月23日(2007.8.23)
【国際特許分類】
【出願日】平成16年12月14日(2004.12.14)
【国際出願番号】PCT/US2004/041987
【国際公開番号】WO2005/066893
【国際公開日】平成17年7月21日(2005.7.21)
【出願人】(503468042)ゾラン コーポレイション (18)
【Fターム(参考)】
[ Back to top ]