説明

デジタル画像センサ、画像獲得方法及び画像再構成方法並びにその実行システム

本発明は、デジタル画像捕捉装置及び捕捉画像の再構成の複雑さと、画像の画質との間のトレードオフを取り除く問題を解決することを目的とする。この目的のために、本発明は、カラーフィルタのアレイ(16)を有するデジタル画像センサ(18)を提供する。画像センサのアレイは、オーバラップせずに反復する複数の同一の基本パターン(70)を有する。基本パターンはそれぞれ、水平方向及び/又は垂直方向の連続する同一種類の2つのカラーフィルタの間の可変のピッチを含むように、擬似ランダムに配置されるカラーフィルタ(72、82、94)によって形成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像獲得専用のカラーセンサに関し、画像獲得方法及び画像再構成方法並びにその方法を実行するシステムに関する。
【背景技術】
【0002】
本発明は、画像及び一連の画像のデジタル処理の分野に位置付けられ、デジタル処理の際に、カメラによって画像及び一連の画像の獲得し、画像及び一連の画像を再構成しローフォーマット(raw format)、又は圧縮されたフォーマットを保存する。
【0003】
デジタルビデオ装置、及び写真装置などによりカラー画像を獲得することには、カラー画像表示システム及び画像圧縮システムにダウンストリームを接続して、捕捉したデジタル画像の画質を改良するための、獲得後の後処理が含まれる。
【0004】
しかしながら、視覚的に高い画質を再び作り出すために、現在のカメラ又はデジタル写真装置の多くは、正面にカラーフィルタのアレイが配置されるセンサを使用する。
【0005】
それぞれのカラーフィルタは、一部の光を透過し、残りの光を吸収する透過性素子であり、透過性のスペクトル分布がフィルタの色を規定する。
【0006】
捕捉画像は、「画素」で構成される。画素は、画像のデジタル成分を示し、画像における画素の位置(行/列)と、灰色(gris)レベル又はカラーレベルに対応する画素のデジタル値とによって特徴付けられる。
【0007】
画像の「大きさ」は、行の数に列の数を乗じたもの、すなわち画素数をいう。
【0008】
「水平/垂直」という用語は、一般的に高さ(行の数)と幅(列の数)とにおいて画像の大きさを決定するためにそれぞれ使用される。
【0009】
カラーフィルタのアレイは、カラー表示を可能にするために、センサのそれぞれの画素に異なるスペクトル感受性を与える。同様に、この方法によると、それぞれの画素に単一の色がサンプリングされる。その結果として、デモザイク(demosaicing)する(すなわち、「RGB色、赤色、緑色、青色」の3つの成分の補間)ことか、又は輝度を評価し、かつクロミナンスを補間することが、画素ごとに3つのスペクトル感受性を有するカラー画像を再構成するために必要となる。本明細書では、「輝度」は、画像の無色彩(achromatic)の成分をいい、「クロミナンス」、又は「複数のクロミナンス」、若しくは「クロミナンスの3つの成分」は、輝度の情報がない画像のクロミナンス成分をいう。
【0010】
処理の複雑さを低減するために、先行技術から、いくつかの解決法が分かる。
【0011】
例えば、現在のところ最も一般的にセンサに配置されるカラーフィルタのアレイは、いわゆるベイヤーCFA(「カラーフィルタのアレイ」)である。このアレイは、周期的であり、2つの行の一方の行の赤色画素と緑色画素の規則的な交互性と、他方の行の緑色画素と青色画素の規則的な交互性とからなる。
【0012】
このアレイの主な問題は、観視され得るアーチファクト(artefacts)が補間によって生成されるために、再構成された画像の画質が低下することである。アーチファクトの生成を抑制する技術の1つには、4つのフォトサイト(photosites)を使用して、単一の画素を再構成する技術がある。フォトサイトはそれぞれ、光電子セルを示し、スペクトル感受性に関連する小電流を作り出すことによって変換される(traduit)波長範囲(赤色、緑色、又は青色)において光の強度に感受性を有する。4つのフォトサイトの電流を組み合わせることによって、画素の3つの色を構成することが可能になる。その一方で、この技術によって、デジタル画像に有用な画素の数がフォトサイトの数と比較して4倍減少するため、センサがより複雑になる。
【0013】
光子の吸収差、又は六角構造を有するスーパCCD(「電荷結合素子」)などによるベイヤー法の置き換えを目的とする他の公知の方法は、ベイヤーフィルタリングのための画像獲得の後処理を完全に修正する。このため、取得し、処理するシステム及び方法がより複雑になる。
【0014】
さらに、周知の再構成法(Laplacien補正階調法(Laplacien corrected gradient method)、所定係数法(predefined coefficients methods)、交互射影法、周波数選択法、及びウィンナー法など)の研究の多くは、PSNR(「ピーク信号対雑音比」)の客観的計測によって実行され、再構成画像の画質と、再構成方法の複雑さの間の妥協点があることを明示する。再構成画像の画質を高くするためには、獲得装置及び/又は再構成方法を非常に複雑にする必要がある。複雑さは、処理速度、方法を実行するのに使用可能なメモリの大きさ、結果を保存するメモリの大きさ、処理における消費電力、及び処理時間の消費などのような装置及びコンピュータ資源における消費をいう。また、カメラ獲得システムの複雑さは、性能、ロバスト性、大きさ、及びコストの観点からセンサなどのハードウェア素子につながる。
【0015】
また、再構成画像の主観的知覚の観点から、客観的計測に関して効果的なアルゴリズムは、特定のアーチファクトを確実に抑制するが、他の観視上の欠点が多くなる傾向がある。
【0016】
アーチファクト生成の問題を克服するために、センサ表面のカラーフィルタのランダムな配置、又は擬似ランダムな(pseudo-random)配置を使用することが公知である。実際には、ランダムなサンプリングは、エイリアシング現象を抑制しないことが公知である。したがって、カラーフィルタのランダムな分布、すなわちカラーフィルタの非周期的分布では、画像表示における空間情報と色情報との混在は、限定され、その結果として、アーチファクトの発生は抑制される。
【0017】
ランダムな配置を有するセンサは、Chaix de Laverne他の刊行物「ランダムに配置された色モザイクの再構成のための非線形均一処理(uniform non-linear processing for reconstruction of a randomly distributed chromatic mosiac)」、又は米国特許出願第2003/0210332号などにおいて公知である。
【0018】
しかしながら、ベイヤーパターンなどのような規則的なパターンと対照的に、所与の画素に近接する画素が不明であり、かつ画像の一方の領域から他方の領域に変化するため、アレイ上のカラーフィルタの非周期的分布、すなわちランダムな分布では、欠落した色の補間が難しくなる。
【発明の概要】
【発明が解決しようとする課題】
【0019】
本発明は、先行技術のこのような不利な点を軽減することを目的とする。
【0020】
このため、本発明の基本的な考え方は、欠落した色の補間が複雑になり過ぎないように、センサを形成するアレイにおける特定の規則性を維持する一方で、アーチファクトを抑制させることが可能なランダムな分布の有利な点を組み合わせることである。
【0021】
したがって、本発明は、人間の目の主観的知覚に対応する高画質の画像の傾向がある中で、捕捉画像を再構成する複雑さに関連する獲得装置の複雑さと、画像の画質との妥協点を超える(depasser)ことを目的とする。
【0022】
本発明は、人間の目におけるカラーのランダムな分布のモデルから開始して、アーチファクトの抑制によって知覚される画質の向上を可能にする。
【0023】
したがって、本発明は、センサ表面のカラーフィルタの擬似ランダム(以降、「非周期的」とも称する)配置を提案し、その結果として、発生する干渉性エラーを減少する。擬似ランダム配置と、その配置に適した捕捉画像を再構成する方法との組み合わせは、捕捉画像の画質/再構成方法及び獲得装置の複雑さの割合を最適化する。
【0024】
「擬似ランダムパターン」は、先に予測不可能な不規則な配置に配置されるカラーフィルタを有するセンサのパターンをいい、「擬似的」という限定詞は、決定性装置であるデジタルコンピュータが実行するコンピュータ処理では、純粋にランダムな特性を取得できないという事実のため使用される。
【課題を解決するための手段】
【0025】
より明確には、本発明の対象は、カラーフィルタのアレイを有するデジタル画像獲得センサである。アレイは、オーバラップせずに反復する複数の同一の基本パターンからなり、基本パターンはそれぞれ、水平方向及び/又は垂直方向に連続する同一種類の2つのカラーフィルタの間の可変のピッチを含むように、擬似ランダムに配置されるカラーフィルタによって形成される。
【0026】
このように、擬似ランダムな基本パターンを使用することによって、アーチファクトを抑制することが可能であり、この基本パターをオーバラップせずに反復することによって、カラー補間を容易にする特定の規則性を取り入る。
【0027】
米国特許出願第2003/0210332号の文献は、複数の基本パターンからなるカラーフィルタのアレイを説明する。しかしながら、この文献は、擬似ランダムに配置されるカラーフィルタによって形成さる基本パターンがそれぞれオーバラップせずに反復するという事実に基づく情報を提供しない。
【0028】
本発明に従うと、画像表示における空間情報と色情報との混在による干渉を制限することによって、画像の画質に影響を与えるアーチファクトの発生を抑制する。
【0029】
したがって、画像獲得の実行において、ベイヤーケースなどで示される公知の後処理方法を部分的に使用して、性能を向上させることが可能である。
【0030】
好適な実施形態を示す。
センサは、カラーフィルタのアレイを有し、カラーフィルタのアレイのカラーフィルタの基本パターンは、画像の4×4画素以上であり、かつ画像の大きさより小さい。
センサは、カラーフィルタのアレイを有し、カラーフィルタのアレイのカラーフィルタの基本パターンは、画像の大きさと同一の大きさである。
【0031】
また、本発明は、一連のデジタル画像を獲得し、再構成する方法に関連する。ここで画像は、センサによって獲得される間に、カラーフィルタのアレイを用いてフィルタリングすることによって、それぞれの画像から獲得された成分から少なくとも1つの画像を再構成するために、赤色、緑色、及び青色の成分の獲得を実行する。
【0032】
この方法は、以下の実施する特定のモードに従う。
再構成フィルタを適用するために、獲得画像の輝度とクロミナンスとの分解を実行する。分解は、再構成フィルタの複雑さを減少する。
獲得画像の輝度とクロミナンスとの分解を、擬似ランダムパターンを用いたクロミナンス用のセンサと、カラーフィルタのアレイを有しない輝度用のセンサとによって取得する。
輝度を推定し、擬似ランダムパターンセンサが獲得したデータから、クロミナンスの3つの成分を補間する。
輝度を推定し、擬似ランダムパターンセンサが獲得したデータから、3つのクロミナンス成分を補間する。
捕捉画像の推定輝度と、捕捉画像のクリミナンスの3つの補間成分とから、画像の再構成を実行する。
画像の再構成は、線形であり、基本パターンと近接部とからの画素の近接の重みのみを含む。
画像の再構成は、適応性があり、非線形であり、そして、標準化された低域フィルタで推定された輝度の低周波数の階調度に基づく計算によって、ベースバンドに戻されたスペクトルのクロミナンスの補間を実行する。
デモザイクは、ゼロ空間周波数クリミナンスの搬送波の変換によるハイリスク(high-risk)周波数を除去することによって実行する。
【0033】
この画像獲得方法と、画像再構成方法と、これらの様々な実施を活用して、画像の画質が改良され、再構成の複雑さを緩和する。
【0034】
カラーフィルタのアレイを有しない無色彩画像捕捉用のセンサによって作り出される線形輝度フィルタ(linear luminance filter)の係数の推定は、シミュレーションされたモザイクの中間画像と、推測された輝度との間の二次エラーの最小二乗による係数の計算に代わるものである。
【0035】
画像データベースは、画像のそれぞれの画素に赤色、緑色、及び青色の3つの色を有するカラー画像の収集をいう。このデータベースは、それぞれの空間位置において3色サンプリング用の3つのセンサを有するシステムから生じる。
【0036】
画像データベースのモザイクは、画像データベース上の色のモザイクの効果のシミュレーションを示す。画像データベースのモザイクを取得するために、考慮された位置にモザイクが存在しない画像の色は、人為的に(artifically)削除される。
【0037】
不規則な分布を有するモザイクでは、階調度の計算は、それぞれ近接の画像に従って適応される。本発明は、全てのモザイクに共通の特性を使用する。すなわち、ベースバンドに輝度が位置するために、画像全体を通じて均一である輝度の低周波数成分における階調度の計算が提案される。この計算は、クロミナンスの良好な補間のために、輝度の低周波数成分における階調度により計算される輪郭(contours)を有効的に使用する。
【0038】
また、本発明は、本発明に係る方法を実行するための一連のデジタル画像を獲得し、再構成するシステムに関連する。このシステムは、相互に接続する獲得モジュールと、デジタル処理モジュールとからなり、処理モジュールは、少なくとも1つの擬似ランダムカラーセンサと、再構成モジュールに接続される圧縮モジュールと、記憶モジュールと、表示モジュールと、出力インタフェースとを有する。
【0039】
好適な実施形態を示す。
画像は、画素の近接の重みのみを含む線形方法によって、再構成モジュールにおいて再構成される。
画像は、標準的な低域フィルタにより推定される輝度の階調度に基づく計算によって、ベースバンドに戻されるクロミナンスの補間を実行する適応な方法で、再構成モジュールにおいて再構成される。
再構成モジュールで再構成された画像は、圧縮モジュール内の少なくとも1つのエンコーダで圧縮される。
再構成モジュールで再構成された画像は、圧縮モジュールに含まれる少なくとも1つのエンコーダで圧縮される。
【0040】
複雑さ/画質の割合の最適化とは別に、本発明は、携帯電話、監視カメラ、又はウェブカメラのような小型獲得カメラなどの内蔵アプリケーションを含む、処理能力と大きさの制約とを有するサポートにおける実行に非常に適した解決法を提示する。
【0041】
一般的に、本発明は、いずれのカラー画像獲得システム及びカラー画像処理システム(高解像度カメラ、フォトフォン(photophones)、及び衛星など)を対象とし、デジタル画像シーケンスのいずれの画像圧縮システム及び画像圧縮フォーマットの前処理にも適する。
【0042】
本発明は、従来最も一般的に使用される方法、すなわちいわゆるベイヤー法に代わるものである。本発明に従うと、クロミナンスの良好な補間のために画像の輪郭を良好に使用する。輪郭は、輝度の低周波数成分の階調度によって計算される。
【0043】
本発明は、添付した図面を参照し、限定されない以下の実施例からより理解されるであろう。
【図面の簡単な説明】
【0044】
【図1】本発明に従った実施方法のための、擬似ランダムパターンカラーセンサを使用するデジタルカメラにおけるシステムの一例を示す図である。
【図2a】画像の縮小パターンと、線形再構成とによって、擬似ランダムセンサのアレイから画像を獲得する第1の実施例を示す図である。
【図2b】画像の縮小パターンと、線形再構成とによって、擬似ランダムセンサのアレイから画像を獲得する第1の実施例を示す図である。
【図3a】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3b】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3c】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3d】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3e】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3f】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3g】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3h】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図3i】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4a】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4b】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4c】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4d】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4e】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4f】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4g】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4h】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【図4i】画像の大きさと等しいパターンと、適応な再構成とによって、擬似ランダムセンサのアレイから獲得する第2の実施例を示す図である。
【発明を実施するための形態】
【0045】
図1を参照すると、本発明に係る擬似ランダムパターンにより獲得する方法と、デジタル画像を処理する方法とを実行するシステムであって、互いに相互接続される処理モジュールで構成されるシステムの一例がある。
【0046】
デジタルカメラ10は、本発明に従う擬似ランダムパターンのカラーセンサ18と、処理部24とから構成される。処理部24は、再構成モジュール26と、圧縮モジュール32と、記憶モジュール40と、表示モジュール44と、出力インタフェース52とを有する。
【0047】
画像14は、リンク12を介してセンサ18に獲得され、擬似ランダムカラーフィルタ16のアレイによってフィルタリングされる。擬似ランダムカラーフィルタ16は、センサに先に含まれる。フィルタリングされた画像22は、リンク20を介して処理部24に送信される。より具体的には再構成モジュール26に送信される。再構成モジュール26は、線形再構成フィルタのアプリケーションを実行し、補間を実行して、捕捉画像の再構成をモジュール内で作り出す。また、処理部24は、リンク20を介してセンサ18と通信することもできる。
【0048】
ローフォーマットで再構成された画像30は、リンク36を介して記憶モジュール40に送信されて、保存される。また、ローフォーマットで再構成された画像30は、表示モジュール44に直接送信されて、観視される。また、記憶モジュール40に保存された再構成画像は、リンク42を介して表示モジュール44に送信され、後日観視される。
【0049】
また、再構成画像30は、ローフォーマットに画像を圧縮するモジュール32にリンク28を介して送信される。圧縮モジュールは、少なくとも1つのデジタルエンコーダを含む。代替的には、圧縮モジュール32は、再構成モジュール26に含まれる。エンコードの後、圧縮画像38は、リンク34を介して記憶部40に送信される。
【0050】
また、圧縮画像は、表示部44に送信されて、観視される。表示モジュール44は、圧縮画像38を読み取るのに適した少なくとも1つのデジタルエンコーダを有する。また、圧縮モジュールは、圧縮器のために再構成されたロー画像を記憶モジュール40から取り戻す。
【0051】
記憶モジュール40又は表示モジュール44から、ローフォーマット又は圧縮フォーマットのいずれかで、再構成画像50は、出力インタフェース52にリンク46を介して送信される。上述の処理がされた画像は、出力インタフェース52から少なくとも1つの外部デジタルサポートにリンク54を介して送信される。
【0052】
ここで、本発明に従うデジタル画像獲得センサ18を説明する。図2a及び2bを参照すると、ランダムパターンセンサ18による獲得方法を実施し、モジュール26において捕捉画像の再構成方法を実施する一例がある。
【0053】
画像14を獲得し、画像30に再構成するこの第1の実施例において、アレイ16と、n×nの縮小した大きさのパターン70とによって実行される。ここで、「n」は、好適には4以上である自然数である。
【0054】
センサ18を形成するカラーフィルタのアレイは、オーバラップせずに反復する複数の同一の基本パターン70からなる。それぞれの基本パターン70は、擬似ランダムに配置されるカラーフィルタ72、82、及び84によって形成される結果、それぞれの基本パターン70は、垂直方向及び/又は水平方向において、連続する同一種類の2つのカラーフィルタの間の可変のピッチを含む。
【0055】
実施される再構成は、線形であり、m×mの大きさの画素76の近接部の重みを含む。mは、nよりも大きい自然数であり、再構成フィルタの複雑さを緩和する。また、基本パターンと近接部とは、直角である。
【0056】
また、輝度と、クロミナンスとの分解が適用される。
【0057】
また、線形フィルタの係数の較正のために、本方法は、カラーフィルタを有しないモジュールを使用することによっても作り出される。この方法によって、定値として使用する無彩色画像を獲得することが可能になる。定値からのランダムパターンの係数の決定は、最小二乗法によって実行される。
【0058】
次いで、画像の再構成は、推定輝度と、3色の補間成分とから実行される。
【0059】
この実施例では、方法は、以下のIからIIIのステップに従って示される。
【0060】
●図2に応じて、カラーフィルタ16のアレイを規定するステップIは、12×12の大きさの近接部76とともに、基本パターンを強調する6×6の大きさのパターン70の配置の一例を説明する。
【0061】
縮小した大きさの基本パターン70は、図2に規定され、(緑色に対応する)黒色で示される画素72と、(青色に対応する)ストライプで示される画素82と、(赤色に対応する)白色で示される画素84とからなる。カラーフィルタの擬似ランダム配置は、6×6の大きさのパターンなどからなる。すなわち、連続する2つの同一種類のフィルタの間のピッチは、アレイの水平方向、及び垂直方向に可変である。この基本パターンは、画像全体に同一の大きさのブロックに適用される。この不規則なパターンは、任意の数のフィルタの中心にある6角のグリッド又は正方形のグリッドにおいて適用される。フィルタは、何れかの透過性を有する。
【0062】
このパターンの規定は、同一色のフィルタが凝集することを避けるために、近接するフィルタが交互することを考慮して実行される。これによって、「誤った色(false colours)」が生じることを避ける。保持される解決法(solution retenue)は、(緑色と赤色とにある)波長に非常に近い感受性の2つのフィルタ72と84とを有し、擬似ランダム的に基本ブロックの多くを覆い、第3のフィルタ82は、最大の感受性である青色を擬似ランダム的に配置する。この構成は、人間の観視システムと類似する。
【0063】
オーバラップせずに反復するこの基本パターン70は、センサ18の全体のアレイに亘って適用される。したがって、提案するセンサは、連続するフィルタの同一の2つのパターンの間のピッチが一定である周期的なセンサと、画素の6×6の大きさの全体的に擬似ランダムなセンサとの間の組み合わせである。
【0064】
●以下の計算の線形構成フィルタの構成は、ステップIIを構成する。
【0065】
再構成フィルタの係数の計算が実行される。これは、再構成を実行する較正ステップであり、獲得画像の空間(光学)特性、又はスペクトル特性(カラーフィルタの付加)の変化に従って1回又は数回実行される。このステップは、画像データベースでのシミュレーション、又はカラーフィルタのアレイを有しないモジュールの構成及びアプリケーションのいずれかによって作り出される。
【0066】
カラーモザイクの輝度の減法が実行される。色に対してコード化されたクロミナンスからなる色情報の計算が適用される。近接部の新たな重み係数を使用して、クロミナンスの補間、すなわち3つの色を作り出す。
【0067】
第1に、再構成フィルタの係数の計算が実行される。このフィルタは、近接部76における画素の影響を重み付けるために使用される。
【0068】
次に、再構成フィルタの選択が、重要な画像データベースを使用してモザイク74において欠落した色から直接規定される。
【0069】
この場合、カラーモザイク74の作用は、カラー画像の色が欠落したモザイクを取り除くことによってシミュレーションされ、中間の画像を取得することになる。
【0070】
次に、R成分、G成分、及びB成分の係数pR、pG、及びpBをそれぞれ有する、データベースの画像の赤色値、緑色値、及び青色値のそれぞれの画素のために重み付けた和として、輝度画像が推定される。この係数pR、pG、及びpBは、擬似ランダムなモザイクを作り上げるそれぞれのフィルタに比例する。輝度、すなわち無色彩の空間情報は、画素ごとに推定される。例えば、重み係数の最適な値の1つは、pR=pG=pB=1/3である。
【0071】
大きさが可変の一連の36個のフィルタの係数は、シミュレーションされたモザイクの中間画像と、推定輝度との間の二次エラーの最小二乗の解決法として計算される。
【0072】
また、輝度フィルタの推定は、カラーフィルタのアレイを有しない第2のセンサモジュールの使用に基づく。実際には、カラーフィルタのアレイをセンサが有しない場合には、輝度は、センサによって測定されることになる信号に対応する。したがって、手順は、カラーフィルタを有しない輝度測定用のセンサと、カラーフィルタを有する、画像データベースのモザイク測定用のセンサとからなる。同一場面のいくつかの写真は、写真のデータベースから輝度フィルタを推定するために、この2つのモジュールで撮影される。このアプローチによって、獲得システムの光学特性とスペクトル特性とを最良に示すフィルタの構成を作り出すことが可能である。
【0073】
また、クロミナンスフィルタの推定は、最小二乗法で実行される。この方法によって、縮小した大きさのクロミナンスの中間フィルタ、すなわち近接部76の表面の活動の縮小を推定することが可能になる。
【0074】
●最後に、図2bに参照される画像30の線形再構成ステップIIIが実行される。
【0075】
ステップIIにおいてフィルタの係数が計算され、情報の再構成は、ブロック70、80ごとに作り出される。画素値の計算は、近接部76の画素の全てを重み付けした和を使用して実行される。ブロックの画素72、82、及び84の全てについて、36個の異なるフィルタによる同一の計算が実行される。また、この計算は、(同一の図2内の破線における)次のブロック80と、(同一の図2内の破線における)次の近接部78とについて実行され、画像全てについて実行される。また、この計算は、任意の近接部に適用され、任意のブロックの大きさに適用される。
【0076】
画像30の再構成は、推定輝度と補間されたクロミナンスとの和によって実行される。
【0077】
本方法は、2つの段階で規定され、第1に、輝度と、クロミナンスとに分解され、第2に、推定輝度と、補間されたクロミナンスとから画像を再合成する。これによって、輝度推定用と、クリミナンス補間用との2つの異なるフィルタアレイを使用することが可能になる。これによって、「エイリアシング」が生じる中間の空間周波数の領域を推定する。
【0078】
有利には、再構成の他の実施形態は、輝度と色のモザイク74との間の差異としてクリミナンスを計算することからなる。これは、輝度の使用と対照的なクリミナンスのフィルタの使用に対応する。また、アーチファクトを抑制するために、輝度の低域フィルタとクロミナンスの高域フィルタとによって、十分に分離されたスペクトル帯が規定され、スペクトルのオーバラップを実質的に減らす。これは、エイリアシングの危険性が高い中間の空間周波数を除去する別の方法である。
【0079】
画像14を獲得してその画像30を再構成する方法の第2の実施形態は、図3a〜3iに簡易化され、画像の大きさと同じ大きさのカラーフィルタのアレイ16によって、画像を獲得する。アレイ16は、上述のようなものである。すなわち、オーバラップせずに反復する複数の同一の基本パターンからなる。それぞれの基本パターンは、水平方向及び/又は垂直方向に連続する同一種類の2つのカラーフィルタとの間の可変のピッチを含むように、擬似ランダムに配置されるカラーフィルタによって形成される。
【0080】
また、輝度とクロミナンスとの分解が適用される。
【0081】
ベースバンドに戻されるクロミナンスからの画像の適応な再構成が実行される。この再構成は、標準化されたR、G、及びB低域フィルタで推定される輝度の階調度に基づく計算によって作り出される。この階調度は、画像の垂直方向及び水平方向においてクロミナンスの補間を実行しなければならない場合に示す。用語「垂直階調度」は、画像の行に関連する変化をいい、用語「水平階調度」は、画像の列に関連する変化をいう。
【0082】
また、この実施例において、同一の有利な点とともに、捕捉画像14の再構成のために、再構成モジュールとセンサ18とを使用することが可能である。実施形態の第2の実施例を定めることにより、そのステップは示され、処理の結果は、図3a〜3iに単純化される。
【0083】
図3a〜3iは、図4a(元の画像14)、4b(捕捉画像22)、4c(捕捉画像のスペクトル84)、4d(輝度を含む推定低周波数84)、4e(3つのクロミナンス及び輝度の高周波数88)、4f(初期の赤色クロミナンス及び輝度の高周波数90)、4g(中間の赤色クロミナンス92)、4h(補間されたクロミナンスから再推定された輝度94)、4i(再構成画像22)をそれぞれ単純化する。
【0084】
元の画像14(図3a)は、カラーフィルタのアレイ16によってサンプリングされる。サンプリングされた画像22(図3b)は、スペクトル84(図3c)と、輝度86を含む推定低周波数(図3d)と、3つのクロミナンス及び輝度の高周波数88(図3e)とを示す。3つのクロミナンス及び輝度の高周波数88(図3e)の3つのクロミナンスの逆多重化が実行され、ここでは、初期の赤色クロミナンス及び輝度の高周波数90などが示される。次いで、3つのクロミナンスは、適応な方法によって、補間される。例えば、赤色クロミナンス92(図3g)は、90の初期の赤色クロミナンス(図3f)から補間される。輝度94(図3h)は、補間されたクロミナンス、すなわち、赤色クロミナンス92と、緑色及び青色クロミナンスとから再推定される。最後に、画像30は、推定輝度とクロミナンスの3つの補間成分とから再構成される。
【0085】
画像の獲得は、カラーフィルタのアレイ16が配置されるカラーセンサ18によって実行される。それぞれ3つのクロミナンスの変調関数のフーリエ変換によって規定されたクロミナンスの搬送波がスペクトル変調を形成し、輝度の低空間周波数にクロミナンスの搬送波が全く存在しない場合などには、有利には輝度のクロミナンスの干渉効果を減少するために可能な限り白色であるように色の分布をしなければならない。
【0086】
獲得方法及び再構成方法は、以下の3つのステップI〜IIIなどに基づく。
【0087】
●画像22の輝度86(図3d)の推定及び除去のためのステップI
【0088】
捕捉画像22(図3b)において元の画像14を獲得することによって、処理を開始する。スペクトル84(図3c)などを取得するために、画像22のスペクトル変換が適用される。次いで最も低い周波数、輝度の低い周波数がフィルタリングによって推定される。
【0089】
使用するフィルタは、R、G、及びBで標準化される。すなわち、フィルタの関数は、それぞれの空間位置に関係することになり、それぞれのR、G、及びBの色におけるpR、pG、及びpBの寄与が最も高い。言い換えると、R、G、及びBのカラーフィルタに対応する係数の和がそれぞれ推定された輝度のpR、pG、及びpBになるように、それぞれの画素においてフィルタの標準化を行う。
【0090】
輝度86(図3d)は、センサの画像22から推定された最も低い周波数に対応し、その画像22から輝度86を除去することによって、画像22のスペクトル84(図3c)に低いスペクトル周波数を含まないスペクトル88を創出する。
【0091】
●輝度の階調度からのクロミナンスの補間(ステップII)
【0092】
次いで同一のスペクトル感受性を有するサブアレイに対応する画像を分離することによって、90の赤色クロミナンス(図3f)などに画像の逆多重化が適用される。この操作は、クリミナンスの搬送波をゼロ空間周波数に戻す効果、すなわちスペクトルの中心に戻す効果を有する。
【0093】
補間は、ベースバンドに戻したクロミナンスにおいて作り出される。この方法の有利な点は、推定輝度86(図3d)の低周波数の階調度の計算に基づいて、適応な補間を使用できることである。
【0094】
実際には、色の補間が近接する点の垂直、水平、又は全体の平均として実行する場合に、この階調度を示す。垂直の階調度が水平の階調度よりも強い場合には、輪郭は、水平として考えられ、色の補間は、この輪郭の幅方向に実行されずに、むしろ輪郭の長さ方向に、すなわちこの場合水平に実行される。それぞれの階調度のそれぞれの値に従って、水平方向に色の補間を実行するか、又は垂直方向に色の補間を実行するかを決定するために、水平及び垂直のそれぞれの輝度86(図3d)の階調度を使用する。このように、赤色クロミナンス92(図3g)は、補間される。
【0095】
●輝度の計算及び画像の適応な再構成の計算(ステップIII)
【0096】
輝度及びクロミナンスの構成の線形特性が与えられると、適応な方法で補間されたクロミナンスは、輝度94(図3h)の周波数帯の全てを回復するために、センサが獲得した画像22から除去される。したがって、この輝度は、輝度における適応に関しては色ではない部分として計算される。
【0097】
次いで、画像30の再構成は、再推定した輝度94(図3i)と、補間したR、G、及びBの3つのクロミナンスとから実行される。
【0098】
本発明は、説明された実施形態の実施例に限定されない。実際には、獲得のための様々な大きさ及び形状を有する擬似ランダムなカラーフィルタのセンサアレイを規定することが可能である。例えば、擬似ランダムなパターンは、周期的に、又は非周期的にできる。再構成に関しては、様々な数のステップと、様々な種類の計算とを含む多くの方法が適用できる。再構成モジュールは、外部ホストマシーンに置くことができ、又は、デジタル処理部に統合できる。
【0099】
また、衛星写真、医療画像などの様々な種類の応用に適合した、種々のカラーフィルタのアレイを規定することができる。
【0100】
一般的に、画像のリアルタイムでの再構成は、リアルタイムに画像を表示することが可能であり、連続写真を実行できるカメラの一部である。
【0101】
例えば、衛星画像、又は直に結果を視覚化する必要がなく、遅延時間で操作する全ての装置に関しては、捕捉したデータの記憶は、ローフォーマットで実行され、次いで色の完全な再構成をオフラインで作り出す。
【0102】
また、本方法は、輝度を適応でき、帰納的なフィルタリングを実行することが可能である。
【0103】
さらに、本発明は、CCD(電荷結合素子)技術、又はCMOS(相補型金属酸化膜半導体回路)技術、及びセンサの大きさに関わらず、いずれの種類のセンサにも適用できる。

【特許請求の範囲】
【請求項1】
カラーフィルタのアレイ(16)を有し、
前記アレイは、オーバラップせずに反復する複数の同一の基本パターン(70)からなり、基本パターン(70)はそれぞれ、水平方向及び/又は垂直方向に連続する同一種類の2つのカラーフィルタの間の可変のピッチを含むように、擬似ランダムに配置されるカラーフィルタ(72、82、84)によって形成される、
ことを特徴とするデジタル画像獲得センサ(18)。
【請求項2】
カラーフィルタの前記アレイの前記カラーフィルタの前記基本パターン(70)は、画像の4×4画素以上であり、前記画像の大きさよりも小さい請求項1に記載のセンサ。
【請求項3】
カラーフィルタの前記アレイの前記カラーフィルタの前記基本パターン(70)は、前記画像と同一の大きさである請求項1に記載のセンサ。
【請求項4】
請求項1〜請求項3のいずれかの1つに従ったセンサからデジタル画像を獲得し、かつ再構成する方法であって、
前記センサ(18)によって獲得される間に、カラーフィルタの前記アレイ(16)を用いて、前記画像(14)をフィルタリングすることによって、それぞれの画像(22)から獲得された成分から少なくとも1つの画像(30)を再構成するために、赤色、緑色、及び青色の前記成分の獲得を実行するステップを有することを特徴とする方法。
【請求項5】
前記獲得画像(22)の輝度とクロミナンスとの分解を実行する請求項1〜請求項4のいずれかの1つに記載の方法。
【請求項6】
前記獲得画像(22)の輝度とクロミナンスとの分解は、前記クロミナンス獲得用の請求項1〜請求項3のいずれかの1つに従ったセンサと、前記輝度獲得用のカラーフィルタのアレイを有しないセンサとを用いて実行する請求項4に記載の方法。
【請求項7】
前記輝度を推定し、請求項1〜請求項3のいずれかの1つに従った前記擬似ランダムパターンセンサ(18)が獲得したデータから、前記クロミナンスの3つの前記成分を補間する請求項5、又は請求項6に記載の方法。
【請求項8】
前記推定輝度と、前記捕捉画像(22)から補間された前記クリミナンスの3つの前記成分とから、前記画像(30)の前記再構成を実行する請求項5〜請求項7のいずれかの1つに記載の方法。
【請求項9】
前記画像(30)の前記再構成は、線形であり、前記基本パターン(70)と近接部(76)とからの画素(72)、(82)、及び(84)の近接の重みのみを含む請求項5〜請求項8のいずれかの1つに記載の方法。
【請求項10】
前記画像(30)の前記再構成は、適応性があり、非線形であり、そして、標準化された低域フィルタで推定された前記輝度(86)の階調度に基づく計算によって、ベースバンドに戻されたスペクトル(88)の前記クロミナンスの補間を実行する方法であって、前記輝度(86)の低周波数の前記階調度は、前記3つのクリミナンスの補間の垂直方向、又は水平方向を示す請求項5〜請求項8のいずれかの1つに記載の方法。
【請求項11】
デモザイクは、前記ゼロ空間周波数クリミナンスの搬送波の変換によって、ハイリスク周波数を除去することによって実行する請求項10に記載の方法。
【請求項12】
相互に接続するデジタル獲得モジュールと、処理モジュールとを有し、前記処理モジュールは、請求項1〜請求項3の1つに従った少なくとも1つのセンサ(18)と、再構成モジュール(26)に接続される圧縮モジュール(32)と、記憶モジュール(40)と、表示モジュール(44)と、出力インタフェース(52)とを有する請求項4〜請求項11のいずれか1つに記載の方法を実行する画像獲得システム。
【請求項13】
前記画像(30)は、前記再構成モジュール(26)で再構成される請求項9、又は請求項10及び11に従った方法を実行する請求項12に記載のデジタル画像獲得及び再構成システム。
【請求項14】
前記再構成モジュール(26)で再構成された前記画像(30)は、前記圧縮モジュール(32)内の少なくとも1つのエンコーダで圧縮される請求項9〜請求項11のいずれか1つの方法を実行する請求項13に記載のデジタル画像獲得及び再構成システム。
【請求項15】
前記再構成モジュール(26)で再構成された前記画像(30)は、前記再構成モジュール(26)内の少なくとも1つのエンコーダで圧縮される請求項9〜請求項11のいずれか1つの方法を実行する請求項13に記載のデジタル画像獲得及び再構成システム。

【図1】
image rotate

【図2a】
image rotate

【図2b】
image rotate

【図3a】
image rotate

【図3b】
image rotate

【図3c】
image rotate

【図3d】
image rotate

【図3e】
image rotate

【図3f】
image rotate

【図3g】
image rotate

【図3h】
image rotate

【図3i】
image rotate

【図4a】
image rotate

【図4b】
image rotate

【図4c】
image rotate

【図4d】
image rotate

【図4e】
image rotate

【図4f】
image rotate

【図4g】
image rotate

【図4h】
image rotate

【図4i】
image rotate


【公表番号】特表2010−531560(P2010−531560A)
【公表日】平成22年9月24日(2010.9.24)
【国際特許分類】
【出願番号】特願2010−511684(P2010−511684)
【出願日】平成20年6月12日(2008.6.12)
【国際出願番号】PCT/FR2008/000806
【国際公開番号】WO2009/007543
【国際公開日】平成21年1月15日(2009.1.15)
【出願人】(501089863)サントル ナシオナル ドゥ ラ ルシェルシェサイアンティフィク(セエヌエールエス) (173)
【出願人】(509342832)ユニベルシテ ジョセフ フーリエ (1)
【Fターム(参考)】