軌跡に基づいて画像センサーを読み出すための方法とシステム
光学システムは、視野内の物体の歪んだ画像を、画像捕捉装置の感応ピクセル上に提供することができる。光学システムは、視野の中心で画像を拡張し周縁で画像を圧縮するかまたはその他の歪みを導入することができる。光学システムによって意図的に導入された歪みは、歪みのいくつかまたは全てを除去するために感応ピクセルが読み出された時に訂正され、それにより「修正された」画像を作成する。ピクセルは、全てかまたは実質的に全ての感応ピクセルが読み出されるまで待つのではなく、ピクセル読み出し中に歪みを修正するために歪んだ画像の曲率マップに対応する軌跡に沿って読み出されることができる。センサーロジックおよび/またはアルゴリズムが、歪みを除去するのに使われることができる。
【発明の詳細な説明】
【技術分野】
【0001】
[関連出願データ]本出願は、2009年4月13日に出願された米国仮特許出願番号61/168,705の優先権を主張し、その全体がここに引用によって組み込まれる。
【背景技術】
【0002】
近年、カメラ、移動電話、ウェブカムおよびノートブックのような携帯型および非携帯型デバイスにおいて画像捕捉装置が広く使われるようになっている。それらの画像捕捉装置は従来は、CCDまたはCMOSセンサーのような電子画像検出器、視野(FOV)中の物体を検出器上に投影するためのレンズシステム、および検出器によって提供された電子データを受け取り、処理し、格納するための電子回路を含む。感応ピクセルは典型的にはラスターオーダーで、即ち上から下までの行中で左から右へ、読み出される。解像度と光学的ズームが、そのような画像捕捉装置の2つの重要な性能パラメータである。
【0003】
画像捕捉装置の解像度は、画像捕捉装置がそれらポイントソースを区別することが可能であるように物体平面中の2つのポイントソースが有することができる最小距離である。解像度は、回折と収差のために、各光学システムがポイントソースを、ポイントとしてではなく或る光強度分布を有した予め決められた幅のディスクとして投影するという事実に依存している。ポイント光源に対する光学システムの応答は、ポイントスプレッド関数(PSF)として知られる。画像捕捉装置の全体的解像度は主に、光学投影システムの光学的解像度と検出器の解像度のより小さい方に依存する。
【0004】
ここでは、光学投影システムの光学的解像度は、そのPSFの半値全幅(FWHM)として定義される。言い換えると、2つのポイント光源の投影の光強度分布のピーク値は、画像捕捉装置が2つのポイント光源を区別することが可能であるためには、少なくともPSFのFWHMによって間隔を空けられていなければならない。但し、解像度はまた、PSFに依存した異なる値、例えば半値幅の70%、として定義されることもできる。光学的解像度のこの定義は、検出器の感度と検出器から受け取った信号の評価に依存するかもしれない。
【0005】
検出器の解像度は、ここでは、ピッチ、即ち検出器の2つの隣接するセンサーピクセルの中心から中心までの距離、として定義される。
【0006】
光学的ズームは、元の画像のFOVの一部を非ズーム画像と比較してより良い解像度で捕捉する画像捕捉装置の能力を意味する。ここでは、従来の画像捕捉装置では全体的解像度は通常検出器の解像度によって制限されること、即ち、PSFのFWHMは2つの隣接するセンサーピクセル間の距離よりも小さくなることができること、が仮定される。
【0007】
従って、画像捕捉装置の解像度は、部分的視野を選択し、この部分的視野についての光学投影システムの倍率を増加させることによって、増加され得る。例えば、2倍の光学的ズームは、画像検出器の全てのセンサーピクセルが、1倍ズームのものと比較して、各次元において、画像の半分を捕捉する状況を指す。
【0008】
ここで使われるように、「デジタルズーム」は、追加の情報が実際には提供されていないところの信号補間を指し、一方「光学的ズーム」は、より多くの情報とより良い解像度を提供する投影された部分画像の拡大を指す。例えば、組み込まれたカメラを有するマルチユースのデバイス(例えば、移動電話、ウェブカメラ、携帯型コンピューター)は、固定されたズームを使う。デジタルズームは、画像をより小さなサイズに切り取り、より長い焦点距離の効果をエミュレートするために切り取られた画像を補間することによって提供される。代替的に、調整可能な光学系が光学的ズームを達成するのに使われても良いが、これはカメラにコストと複雑度を追加することができる。
【発明の概要】
【0009】
本主題の1つ以上の側面に従って構成された実施形態は、視野内の物体の歪んだ画像を画像捕捉装置の感応ピクセル上に提供する光学システムの使用を通して上記の問題の1つ以上を克服することができる。光学システムは、視野の中心において画像を拡張し、周縁において画像を圧縮することができる。
【0010】
光学システムによって意図的に導入された歪みは、歪みのいくつかまたは全てを除去するように感応ピクセルが読み出されて、それにより「修正された」画像が作成される時に訂正される。ピクセルは、全てかまたは実質的に全ての感応ピクセルが読み出されるまで待つのではなく、ピクセル読み出し中に歪みを修正するために歪んだ画像の曲率マップに対応する軌跡に沿って読み出されることができる。
【0011】
描像の方法は、視野の歪んだ画像をセンサーピクセルのアレイ上に描像することと、画像の歪みに従ってセンサーピクセルを読み出すことと、読み出されたピクセルに基づいて出力画像を生成することからなることができる。出力画像は、実質的にまたは完全に歪みが無いようになることができ、「実質的に無い」とは、画像の特定の使用においてあらゆる残留歪みが画像品質についての受け入れ可能な許容値内であることを意味する。
【0012】
画像の歪みに従ってセンサーピクセルを読み出すことは、歪みに対応した複数の軌跡ラインに沿ってピクセル値をサンプリングするようにセンサーのロジックを使用することと、仮想的/論理的読み出し画像中に複数の論理的出力行を提供することからなることができる。各論理的出力行は、センサーアレイの各列に対応する単一のピクセル値からなることができる。
【0013】
少なくとも2つの軌跡ラインが同じピクセルと交差することができ、センサーのロジックは、2度交差されたピクセルについての値の代わりに、論理的出力行の1つについての読み出し中にダミーピクセル値を提供するように構成されることができ、センサーのロジックは更に、ダミーピクセル値を同じ列アドレスにおいて別の論理的行中に在る非ダミーピクセルの値で置き換えるように構成されている。これは、仮想的/論理的読み出し画像が、物理的センサーアレイと同じ数の列を特徴として持つことを確かにすることができる。但し、仮想的/論理的読み出し画像中の行の数は異なっていても良い。例えば、いくつかの実施形態では、リードロジックは、物理的センサーアレイのどのピクセルもサンプリングされないで残ることがないように、各々が対応する論理的読み出し行をもった追加の軌跡曲線が使われるように構成されている。
【0014】
追加の実施形態では、歪み関数に従ってピクセルを読み出すことは、行と列に従ってサンプリングされたピクセル値にアクセスするためにプロセッサを使用することからなることができ、プロセッサは、出力画像ピクセル座標のセンサーピクセル座標へのマッピングを使うことによってピクセル値にアクセスするように構成されている。但し、このアプローチは、いくつかの場合には、ここに説明されるその他の実施形態よりも多くのバッファーメモリーを要求し得る。
【0015】
実施形態は、画像センサーのピクセルを読み出す方法を含み、ピクセルを捕捉したデータは、画像センサーのピクセルによって感知された歪んだ画像を望ましい修正された画像に相関させる既知の歪み関数に基づいたピクセル順序で、歪んだ画像を表す。例えば、ピクセルマッピング関数が、修正された画像ピクセルアドレスの関数としてセンサーピクセルアドレスを提供する、ピクセル読み出し中にアクセス可能なテーブルとして提供されても良い。別の例として、関数が、修正された画像ピクセルアドレスからなる入力に応答してセンサーピクセルアドレスを提供するように評価されても良い。更なる例として、センサーハードウェアが、従来の行と列のアドレッシングを使うのではなく、歪み関数に対応した軌跡に沿ってピクセルを読み出すように構成されていても良い。
【0016】
ピクセルを読み出す方法の実施形態は、修正された画像の最初のピクセルアドレスを指定するリードコマンドを受け取ることからなることができる。方法は更に、アクセスするセンサーのピクセルの1つ以上の軌跡を決定することからなることができる。一つの軌跡または複数の軌跡は、歪んだ画像の修正された画像へのマッピングから決定されても良い。軌跡(または複数の軌跡)上のアクセスされたピクセルからのデータは、メモリー中に格納されることができ、修正された画像の指定された最初のピクセルアドレスに対応する行中のピクセルは、アクセスされたピクセルから決定されることができる。
【0017】
いくつかの実施形態では、修正された画像中の与えられた行中のピクセルの値は、複数の行からのピクセル(例えば、隣接するピクセル)に依存しても良いので、いくつかの実施形態では、第一の複数のおよび第二の複数のピクセルがマッピングに基づいて決定されて、それに応じてアクセスされる。修正された画像の行中の第一および第二の複数のピクセルは、感知されたピクセルの同じ行の全てではないがいくつかからのピクセル(即ち、少なくとも1つのグループは、その他のグループに含まれていない行を有する)にアクセスすることによって決定されても良く、または完全に異なっていても(即ち、共通する行が無くても)良い。
【0018】
実施形態は、少なくとも1つのピクセルアドレスを指定するリードコマンドを受け取り、歪み関数に基づいてピクセルのアレイから読み出す1つ以上の行を同定する対応するピクセルアドレスを決定するように構成された感応デバイスを含む。ピクセルアドレスは、ズームファクターと関連付けられていても良く、各々がズームファクターに対応している複数の歪み関数の1つが、どのピクセルアドレスを読み出すかを決定するのに使用するために選択されても良い。様々な実施形態では、感応デバイスは、単独で提供されても良く、および/または携帯型コンピューター、携帯電話、デジタルカメラまたは別のデバイス中に組み込まれていても良い。
【0019】
感応デバイスは、ピクセルの軌跡ベースのアクセスをサポートするように構成されていても良い。例えば、読み出し承認を与えるクロックラインと実際のピクセルからの情報の読み出しを制御するクロックラインが、行と列によってではなく、歪み光学系によって導入された曲率に対応するいくつかの弧に沿ってセンサーが読み出され、各弧が読み出しにおいてバッファー中にローディングされるように、構成されることができる。上記の方法は、レンズ中のわずかな収差についてのような、訂正をするために読み出し軌跡中においてわずかな調整をするのに使われることができる。
【0020】
上記およびその他の特徴および利点は、添付の図面を参照して例示的実施形態を詳細に記載することによって当業者には容易に明らかとなるであろう。
【図面の簡単な説明】
【0021】
【図1】図1Aと1Bは、長方形パターンと、XおよびY座標で分離可能な歪みを有する歪んだ長方形パターンを、それぞれ描く。
【図2】図2Aと2Bは、円状に対称的なパターンの例と、歪んだ円状に対称的なパターンを、それぞれ描く。
【図3】図3A−3Dは、実施形態に従った物体と異なるズームレベルについての対応する表示された画像を描く。
【図4A】図4Aは、実施形態に従った光学デザインの例を描く。
【図4B−1】図4B−1は、図4Aの光学デザインを使って作成されたグリッド歪みを描く。
【図4B−2】図4B−2は、図4Aの光学デザインを使って作成された再正規化されたグリッド歪みを描く。
【図4C】図4Cは、図4Aの光学デザインのフィールド曲率を描く。
【図4D】図4Dは、図4Aの光学デザインの歪みを描く。
【図4E】図4Eは、センサーデータを取得するための処理アーキテクチャの例を描く。
【図4F】図4Fは、センサーデータを取得するための処理アーキテクチャの別の例を描く。
【図5】図5は、実施形態に従った図4Aの画像プロセッサの動作のフローチャートを描く。
【図6】図6は、実施形態に従ったデジタルカメラの分解図を描く。
【図7A】図7Aは、実施形態に従ったその中に一体化されたデジタルカメラを持った携帯型コンピューターの斜視図を描く。
【図7B】図7Bは、実施形態に従ったその中に一体化されたデジタルカメラを持った移動電話の前面および側面図を描く。
【図8】図8は、軌跡に沿ってピクセルを読み出すためのプロセスの例を描く。
【図9】図9は、ピクセルのアレイといくつかの軌跡の例を描く。
【図10】図10は、軌跡ベースのアクセスのために構成されたセンサー中のピクセルのアレイの例を描く。
【図11】図11は、修正された歪んだ画像のピクセルをマッピングする関数の例を描く。
【図12】図12は、どのように出力ピクセルが最近傍整数マッピングを使ってセンサーピクセルにマッピングされることができるかの例を示す。
【図13】図13は、最大歪みの指し示しを含んだ、光学システムのレンズによって歪められた水平ラインの例を示す。
【図14】図14は、垂直な歪みのため出力画像座標をセンサー座標に関係させる関数に従って単一の出力行を直接的に読み出すのに要求されたラインバッファーの数を示すチャートである。
【図15】図15は、ピクセル値をサンプリングするためのロジックを使い、出力画像座標を仮想的/論理的読み出し画像中の座標と関係させるアルゴリズムと共に歪んだ仮想的/論理的読み出し画像を作成する、マルチステップ読み出しプロセスの例を描いた図である。
【図16】図16は、出力ピクセル値、仮想的/論理的センサーピクセル値、および物理的センサーピクセル値の間の関係を示した図である。
【図17】図17は、各仮想的/論理的行が各物理的センサー列からの1ピクセルからなる、センサー構成の例を示す。
【図18】図18は、どのように物理的センサーピクセルが軌跡に基づいて仮想的/論理的センサーピクセルと関連付けられることができるかの例を描く。
【図19】図19は、いくつかの実施形態において、どのように軌跡密度が歪んだ画像に跨って変動することができるかを描く。
【図20】図20A−20Bは、いくつかの実施形態において、どのように軌跡密度によるスキップされたピクセルの問題を避けるために追加の軌跡が使われることができるかを描く。
【図21】図21A−21Dは、どのように複数の曲線との交差のため物理的センサーピクセルが2度読み出されることを避けるためにダミーピクセルが使われることができるかを描く。
【図22】図22は、出力画像ピクセルアドレスを論理的/仮想的読み出し画像中のピクセルアドレスにマッピングするのに使われるアルゴリズムによる使用のための出力ピクセル、仮想的/論理的センサーピクセル、および物理的センサーピクセルの間の関係を描く。
【発明を実施するための形態】
【0022】
ここで、添付の図面を参照して実施形態がこれ以降により十分に記載されるが、それらは異なる形で実施されてもよく、ここに説明される実施形態に限定するものと理解されるべきではない。寧ろ、それらの実施形態は、この開示が十分行き届いていて完全であり、実施形態を当業者に十分に伝えるように提供される。図において、層および領域の寸法は描写の明確さのために誇張されている。全体を通して同様の参照番号は同様の要素を指す。
【0023】
実施形態に従って、光学的ズームは、歪み訂正のための後処理と組み合わされた固定されたズームレンズを使って実現されても良い。検出器中に使われるピクセルの数は、ズーム能力をサポートするのに望ましい名目上の解像度を超えて増加されても良い。最初に、ズームを実現するために歪みを使うことの概念への初期導入が簡単に説明される。
【0024】
ここに引用によって組み込まれる、共通に譲渡され同時継続中のPCT出願シリアル番号EP2006-002864は、検出表面を有する電子的画像検出器と、視野(FOV)内の物体を検出表面上に投影するための光学投影システムと、画像検出器から取得された電子情報を扱うためのコンピューティングユニットを含んだ画像捕捉装置を開示している。投影システムは、標準的レンズシステムと比較した時、投影された画像がFOVの中心領域で拡張され、FOVの境界領域で圧縮されるように物体を投影して歪める。
【0025】
追加の説明については、2008年9月25日に出願された米国特許出願シリアル番号12/225,591(2006年3月29日に出願されたPCTケースPCT/EP2006/002861の米国国内段階)と2008年6月19日に出願された米国特許出願シリアル番号12/213,472(2007年9月14日に出願されたPCT/IB2007/004278の国内段階)、その各々はその全体がここに引用によって組み込まれる、を参照。
【0026】
そこに開示されるように、投影システムは、FOVの境界領域中のそのポイントスプレッド関数(PSF)が、画像検出器の対応するピクセルのサイズに本質的に対応しているFWHMを有するように適応されていても良い。言い換えると、この投影システムは、FOVの中心における解像度が、広い入射角、即ちFOVの周縁、におけるよりも良いという事実を有効に利用しても良い。これは、レンズのポイントスプレッド関数(PSF)がFOV中心と比較してFOV境界においてより広いという事実のためである。
【0027】
軸上と周縁FOVの間の解像度の差は、およそ30%と50%の間であっても良い。これは、画像中心と比較して、画像境界における観測可能な解像度を実効的に制限する。
【0028】
よって、投影システムは、FOVの境界と比較してFOVの中心においてより大きな倍率ファクターを有する固定されたズーム光学系を含んでいても良い。言い換えると、レンズの実効焦点距離(EFL)は、EFLが画像中心においてより長く、画像境界においてより短くなるように、入射角の関数である。そのような投影システムは、中心部分が拡張され境界が圧縮される、歪んだ画像を投影する。画像境界における倍率ファクターはより小さいので、画像境界におけるPSFもより小さくなり、例えば4つのピクセルの正方形の代りに1つのピクセルのように、センサー上のより少ないピクセル上に広がる。よって、それらの領域のオーバーサンプリングは無く、PSFがピクセルのサイズよりも小さい時に情報の損失が無くても良い。しかしFOVの中心では、倍率ファクターは大きく、それはより良い解像度に結果としてなり得る。ピクセルサイズよりも大きなPSFを有するためにセンサー上では見分け不能となるであろう2つの見分け可能なポイントは、各ポイントが異なるピクセルによって捕捉されても良いので、センサー上で見分け可能となるように拡大されても良い。
【0029】
コンピューティングユニットは、検出器によって取得された投影された画像はその境界領域においてよりもその中心においてより高い解像度を有するという事実を有利に活用して、投影された画像の中心領域からのズームされて歪められた部分的画像(ここでは「修正された画像」または「出力画像」と呼ばれる)を切り取って計算するように適応されていても良い。
【0030】
視野全体の正常な絵については、中心領域は計算的に圧縮されることができる。但し、もし中心付近のズームされた画像が撮られるべきであれば、これは中心付近の望ましいエリアを単に切り取って、望ましいズームとズームされるべき画像の一部の歪みの度合いに依存して、それをより少なく圧縮するか全く圧縮しないことによってなされることができる。言い換えると、ズームされていない画像に対して、ズームされた画像を記述するのにより多くの数のピクセルが使われ得るように、画像が拡張されて切り取られる。これは、望ましいズームレベルに従って変動する軌跡に沿って検出器のピクセルを読み出すことによって達成されても良い。
【0031】
よって、このズームは、上記の光学的ズームの定義と合致する。但し、この光学的ズームは、実用的にはおよそ2倍または3倍に制限され得る。
【0032】
より大きなズーム倍率を実現するために、実施形態は、使われるピクセルの数とズーム倍率の間のトレードオフを有効に利用することに向けられている。言い換えると、より大きなズーム倍率は、境界における情報損失を避けるためにセンサー中のピクセルの数を増加することを要求し得る。連続したズームをサポートするために要求されるピクセルの数は、離散的な倍率から決定されても良く、ここでZ1がより大きな倍率ファクターであり、Zpがより小さな倍率ファクターである。それらの離散的なズームモードをサポートするために要求されるピクセルの数は、FOV全体をカバーするのがNピクセルであることを考慮すると、式1によって与えられ得る:
【数1】
【0033】
式1を並べ直すと、以下の通り式2が求められ得る:
【数2】
【0034】
Zの連続関数を求めるためにZi−ΔZをZi+1に代入すると、式3に結果としてなる:
【数3】
【0035】
例えば第一項より上の、高次の項を捨てて、加算和を積分で置き換えると、式4が求められ得る:
【数4】
【0036】
ここで
【数5】
【0037】
は望ましい最大ズーム倍率である。
【0038】
言い換えると、標準的なデジタルカメラ、即ち歪み無しについては、L[MP](L<K)の画像を作成するKメガピクセル([MP])の長方形のセンサーでは、画像全体のための最大の適用可能な光学的ズーム(L[MP]画像についての)は、
【数6】
【0039】
に制限され得る。言い換えると、望ましい光学的ズームZについて、KはZ2掛けるLに等しい。
【0040】
よって、要求されたズームが2倍である時、標準的なカメラは、4倍より多くのピクセルを要求する。但し、実施形態に従って、光学系が導入する歪みメカニズムのためにより高いズームが画像の中心において実現されても良い。よって、上の式4から見ることができるように、約2.38倍だけ多くのピクセルが2倍ズームのために必要であり得る。例えば、標準的2MP画像センサーを使うと、2倍ズームを施すことは完全に損失無しのズームのために4.77MPを要求する。画像境界での品質への要求を緩和すること、即ち情報の損失を許容することは、例えば2倍ズームのためにおよそ1.75倍多くのピクセルにまでこの数を減少させる。
【0041】
図1Aと1Bは、元の長方形のパターンと、実施形態に従って歪められた投影された長方形パターンを、それぞれ描く。この特定の例では、歪みを表す変換は、水平および垂直軸において分離可能である。図2Aと2Bは、元の円状に対称的なパターンと、実施形態に従って歪められた投影された円状に対称的なパターンを、それぞれ描く。そこに見ることができるように、パターンは中心領域で拡張され、境界領域で圧縮される。その他のタイプの歪み、例えば奇形の歪み、が使われても良い。
【0042】
図3A−3Dは、実施形態に従った、図3Aに示された物体を描像する全般的プロセスを描く。物体はまず、実施形態に従ったレンズシステムによって投影されて歪められ、図3Bにおいて、高解像度、即ちK[MP]の検出器、によって捕捉される。訂正されたより低い解像度、即ち1倍ズームをもったL[MP]の画像、が図3Cに描かれている。1倍画像と同じL[MP]の解像度を有する、訂正された2倍ズーム画像が図3Dに示されている。
【0043】
図4Aは、その上に投影された光に応答して電気信号を出力する検出器475、即ち画像平面、上に物体(図示せず)を描像するための光学システム410を含んだ例示的画像捕捉装置400を描く。それらの電気信号はプロセッサ485に供給されても良く、それは画像を処理し、格納し、および/または表示しても良い。下記するように、電気信号は、検出器のピクセルが画像の歪みと望ましい倍率レベルに対応する軌跡に沿って読み出されるようなやり方でアクセスされる。
【0044】
光学システム410は、第二および第三の表面を有する第一のレンズ420と、第四および第五の表面を有する第二のレンズ430と、第六の表面における開口ストップ440と、第七および第八の表面を有する第三のレンズ450と、第九および第十の表面を有する第四のレンズ460と、第十一および第十二の表面を有する赤外線(IR)フィルター470を含んでいても良く、それら全ては物体を画像平面475上に描像する。
【0045】
この特定の例では、光学システム410は、6mmの焦点距離と、3.4のFナンバーを有していても良い。実施形態に従った光学システム410は、±30°の標準的なFOVについて中心における画像拡張と境界における画像圧縮を有する放射状歪みを提供しても良い。
【0046】
全ての光学的表面の光学デザイン係数と開口と、それからレンズが作られ得る材料は、
以下のように提供される:
【表1】
【0047】
ここで、表面0は物体に対応し、L1は第一のレンズ420に対応し、L2は第二のレンズ430に対応し、APSは開口ストップ440に対応し、L3は第三のレンズ450に対応し、L4は第四のレンズ460に対応し、IRFはIRフィルター460に対応し、IMGは検出器475に対応する。勿論、十分な歪みを実現するその他の構成が使われても良い。
【0048】
レンズを作り出すのに使われるプラスチックは、例えばZeon Chemical Companyによって製造されたE48Rのようなポリカーボネ−ト、アクリリック、PMMA等のあらゆる適切なプラスチックであっても良い。表1中の全てのレンズ材料はプラスチックとして示されているが、その他の好適な材料、例えばガラス、が使われても良い。加えて、各レンズは、その望ましい性能に従って異なる材料で作られても良い。レンズは、選択された材料のためのあらゆる適切な方法、例えば射出成形、ガラス成形、複製、ウェハーレベル製造等、に従って作られても良い。更に、IRフィルター470は、N−BK7以外の好適なIRフィルター材料で作られても良い。
【0049】
図4B−1は、どのように直線のグリッド(破線で示されている)が光学システム410によって歪められるか(曲がった実線によって示されている)を描く。歪んだラインの大きさは、光学軸からの距離に依存する。画像の中心付近では、グリッドは拡張される一方で、周縁のグリッドは収縮している。
【0050】
図4B−2は、どのように直線のグリッドが光学システム410によって歪められるかを示す、再正規化された(中心に対して)レンズ歪みを描く。歪んだラインは、図上の×印によって表され、それは光学軸からの距離と共に増加する歪みを表示している。
【0051】
図4Cは、光学システム410のフィールド曲率を描く。図4Dは、光学システム410の歪みを描く。
【0052】
図4Eは、軌跡に沿ってピクセルにアクセスすることを容易にするのに使われ得るアーキテクチャの例を描く。この例では、プロセッサ485は、歪み関数または修正された画像ピクセルの感応ピクセルへのマッピングを表しているコードおよび/またはデータ491を実装し得る揮発性または不揮発性のメモリー490へのアクセスを有する。プロセッサ485は、ピクセルが軌跡に沿ってアクセスされるように、どのアドレスとその他のコマンドをセンサー475に提供するかを決定するためにコードおよび/またはデータ491を使うことができる。
【0053】
図4Fは、軌跡に沿ってピクセルにアクセスすることを容易にするのに使われ得る別のアーキテクチャの例を描く。この例では、センサー475は、歪み関数またはマッピングを実装するリードロジック492を含むかまたはそれと共に使われる。よって、プロセッサ485は、修正された画像アドレスをセンサー475によって扱われる感応ピクセルアドレスに変換するタスクを伴って、修正された画像中の1つ以上のピクセルについての値を直接要求することができる。ロジック492は、勿論、別のプロセッサ(例えば、マイクロコントローラ)を使って実装されても良い。
【0054】
センサーロジックの追加の実施形態は、図12−22との関係で以下に後で説明する。例えば、いくつかの実施形態では、リードロジックは、歪みに従って軌跡に沿ってセンサーのピクセルを読み出し、プロセッサによるアクセスのために仮想的/論理的読み出し画像を提供するように構成される。例えば、仮想的/論理的読み出し画像が完全にまたは実質的に垂直歪みが無いように、ピクセルが読み出されても良い。プロセッサはそれから、出力画像を生成するために出力画像アドレスを仮想的/論理的読み出し画像中のアドレスにマッピングする関数を使うことができる。
【0055】
図5は、ピクセルをアクセスしている間にプロセッサ485および/またはセンサー475によって行われ得る動作500のフローチャートを描く。例えば、プロセッサ485は、センサー475から画像またはその部分を受け取る画像信号処理(ISP)チェインを含んでいても良い。ブロック502では、修正された画像の最初の行で使われるべきピクセルが読み出される。いくつかの実施形態では、与えられた行からのピクセルは、複数の行からのピクセルに依存する(例えば、その値が1つ以上の垂直的な隣りに依存するピクセル)。よって、「貢献する」ピクセルを読み出すこととそれらのピクセルを補間することを表すためにブロック504と506が含まれている。例えば、下記のように、センサーは一連の弧に沿って読み出されても良い。各弧は複数のピクセルを含んでいても良く、また多数の弧からのピクセルが、与えられた行のピクセルを同定するために補間されても良い。
【0056】
ブロック506では、修正された画像中の出力のために行が組み立てられる。もしより多くの行が修正された画像中に組み立てられるべきであれば、ブロック510において、貢献する行と共に、修正された画像の次の行で使われるべきピクセルが読み出され、出力のための次の行を組み立てるために補間が行われる。
【0057】
一旦修正された画像の全ての望ましい行が取得されれば、512において、画像は、そのコントラストを調整することのように、出力のために改善されて、それからJPEG圧縮またはGIF圧縮のようなその他の目的のために出力されることができる。この例はコントラスト調整を含むが、補間後の生の画像が、別のプロセスまたはコンポーネントによるコントラストおよびその他の調整のために単に提供されることができる。
【0058】
歪みに基づいて軌跡に沿ってピクセルが読み出された時でさえ、歪んだ画像と修正された画像の間にピクセル−ピクセルのマッチングが無いかも知れないので、ピクセル補間が行われても良い。よって、画像の中心が単純により圧縮されたものになる1倍の倍率と、望ましいセクションが画像の中心から切り取られて圧縮無しで(または望ましい倍率に従って、より少ない圧縮と共に)訂正されるより高い倍率ファクターの両方が、両方共実現されても良い。例えば、バイリニア、スプライン、エッジセンス、バイキュービックスプライン等の、あらゆる好適な補間方法が使われることができ、そこでは更なる処理、例えばノイズ除去または圧縮、が画像上で行われても良い。
【0059】
この例では、補間は出力に先立って行われる。いくつかの実施形態では、補間は、読み出し動作が完了した後に、画像全体に基づいて行われることができる。
【0060】
図6は、実施形態に従った光学的ズームシステムが採用され得るデジタルカメラ600の分解図を描く。そこに見られるように、デジタルカメラ600は、レンズホルダー620にしっかり取り付けられるべきレンズシステム610を含んでいても良く、それは一方でセンサー630にしっかり取り付けられても良い。最後に、アッセンブリ全体がエレクトロニクス640にしっかり取り付けられても良い。
【0061】
図7Aは、その中に一体化されたデジタルカメラ600を有するコンピューター680の斜視図を描く。図7Bは、その中に一体化されたデジタルカメラ600を有する移動電話690の前面および側面図を描く。勿論、デジタルカメラ600は、示されたものとは別の位置において一体化されていても良い。
【0062】
より一般的に、本主題に従って構成された感応デバイスは、移動デバイス/電話、パーソナルデジタルアシスタント、デスクトップ、ラップトップ、タブレット、またはその他のコンピューター、キオスク等を含むがそれらに限定はされない、あらゆる好適なコンピューティングデバイス中に組み込まれることができる。別の例として、感応デバイスは、機械(例えば、自動車等)セキュリティシステム等を含むがそれに限定はされない、カメラが使われるあらゆるその他の装置またはシナリオに含まれることができる。
【0063】
よって、実施形態に従って、歪み訂正のための後処理と組み合わされた固定されたズームレンズを使って、光学的ズームが実現され得る。検出器中に使われるピクセルの数は、ズーム能力をサポートするために望まれる名目上の解像度を超えて増加されても良い。
【0064】
図8は、感知された通りの画像中の歪みに対応する軌跡に沿って画像センサーを読み出す例示的方法800を描く。例えば、画像センサーは、上の教示内容に従って構成された光学系または既知の歪みを作成するその他の光学系によって作成された歪んだ画像を取得するために使われても良い。方法800は、1つ以上のアドレスをセンサーに提供するプロセッサによって実行されても良く、またはセンサー自体と関連つけられたロジックまたはプロセッサによって実行されても良い。
【0065】
ブロック802は、修正された画像中の望ましいピクセルアドレスを同定することを表す。例えば、修正された画像のピクセルの与えられた行についての要求のように、アドレスまたはアドレスのレンジが同定されても良い。別の例として、「リード」コマンドが提供されても良く、それは修正された画像の全てのピクセルが順番に出力されるべきであることを指し示す。ブロック804では、修正された画像ピクセルを1つ以上の感応ピクセルにマッピングする関数F(x,y)がアクセスされるか評価される。F(x,y)は更に、適切な軌跡が追従されることができるように、望ましい倍率のための入力変数を含んでいても良い。
【0066】
例えば、テーブルが、行、列および倍率ファクターに基づいて修正された画像ピクセルアドレスを感応ピクセルアドレスに相関させても良い。別の例として、ロジックまたはプロセッサが、修正された画像中の各望ましいピクセルについて感応ピクセルのアドレスまたは複数アドレスを計算するためにF(x,y)の表現をアクセスして評価しても良い。更なる例として、センサーロジックが、望ましい軌跡に沿ってピクセルを選択的に読み出すために適切に構成されたコンポーネンツ(例えば、ロジックゲート等)を特徴として持っていても良い。
【0067】
ブロック806では、適切にタイミングが合わせられた信号がセンサーに送られる。この例では、ピクセルが水平軸に沿って読み出される(列選択)間に、垂直アクセス(行選択)が感応ピクセルの適切な行を選択するようにタイミングを合わされる。
【0068】
よって、センサーは、望ましいピクセルの最初のものに対応するセンサー上の位置から始まって歪みに対応する曲線に沿った「軌跡ローリングシャッター」と共に動作させられても良い。例えば、シャッターは、円形の歪みが考慮される時には、頂上に向かって上にアレイの左側の垂直中点の近くを動き、それからアレイの右側の垂直中点に向かって戻っても良い。
【0069】
ピクセル曲線のリセットと曲線の後続の読み出しの間の期間は、積分時間Tとして定義される。この時間は、デジタルカメラの制御された露出時間である。
【0070】
露出は、予め決められた積分時間Tについて画像センサーの全てのピクセルについて同時に始まる。フレーム時間は、単一のフレームを読み出すのに要求される時間であり、それはデータ読み出しレートに依存する。単一ローリングシャッターポインターと単一読み出しポインターについては、積分時間Tはフレーム時間よりも短いかもしれない。いくつかの実施形態では、各特定の曲線kが、フレーム時間中にシャッターポインターと読み出しポインターによって一度アクセスされる。従って、軌跡ローリングシャッターを使用することは、各ピクセルについて同一の望ましい積分時間Tの使用を可能とする。複数の弧が、センサーと修正された画像の行についてのピクセル値を決定するのに使われた感知されたピクセル値から取り出されることができる。上記の通り、異なる弧が異なる倍率レベルについて追従されても良く、修正された画像中のピクセルの各行が感知されたピクセルの1つ以上の弧から決定されても良い。
【0071】
図9は、行1−5と列1−11に配列された複数のピクセル900の例を描く。図9の例では、アドレスライン(行選択ラインRS1のような)を使って与えられた行が選択され、それから列選択ライン(列選択ラインCS1、CS2のような)を使って個別のピクセルが読み出されるが、列が選択されてそれから行によって個別のピクセルが読み出されることもできる。図9は、それぞれ実線、点線および破線によって3つの例示的な軌跡を描く。
【0072】
修正された画像中の与えられた行を作成するのに使われたピクセル値は、センサーを使って検出された通りの画像中の多数の行のピクセルに跨って拡がっていても良い。加えて、修正された画像中の同じ行にあるピクセル値は、感知された通りの歪んだ画像中の重複しない行に跨って広がったピクセルに依存していても良い。
【0073】
例えば、実線は全体的に、修正された画像中のピクセルの上方の行を決定するのに使われるピクセル902、904、906、908、910、912、914、916、918、920、922、924、926、および928を含むことができる軌跡の例を描く。この例における軌跡を描いている実線矢印およびその他の矢印は、描写の容易さのために簡略化されており、例えば図9に描かれた通りの軌跡は、上と下のリスト中に含まれたいくつかのピクセルを跨ぐ一方、上のリストに含まれたその他のピクセルは矢印によって跨れていない。上記の通り、修正された画像の実際のピクセルは、感知された画像中のピクセルの近傍を補間することによって決定されても良く、そのため軌跡の特定の「幅」は変動することができる。
【0074】
いずれにせよ、この例示的スパンのピクセルは、アレイの左側の行3−4に入り、アレイの(水平的)中心に向かって動いてそれから行2−3に、そしてそれから1−2に入り、軌跡がアレイの右側に動くにつれてそれから行2−3で、そしてそれから行4で再度見つけられる。
【0075】
もし図9に描かれたピクセルが順番に(即ち、頂上から底へ)読み出されるべきであったならば、描像装置は、修正された画像の最初の行を取得するために行1−4の全てを捕捉するために十分なフレームバッファーメモリーを要求するであろう。実際には、修正された画像中の与えられた行のピクセルがもっと多くの行をスパンすることを歪みが引き起こし得る。例えば、修正された画像の最初の行を生成するのに使われたピクセルを取得するために、従来のアッセンブリは、センサーの総ラインのおよそ35%に等しいフレームバッファーメモリーを要求し得る。
【0076】
しかしながら、軌跡に沿って読み出すことによって、要求されるメモリーは削減されることができ、例えば、装置は、修正された画像中の関心のある行についてのピクセル値を決定するために使われるピクセルを保持するのに十分なフレームバッファーメモリーだけを含む必要がある。例えば、もし修正された画像中の各単一のピクセルについて3つのピクセルの正方形が補間されるならば、3つのバッファーラインが使われることができる。
【0077】
点線は、中心により近い修正された画像のピクセルの第二の行を取得するのに使われた感応ピクセルの軌跡を表す。この例では、ピクセル932、938、906、940、942、944、946、948、および950が使われる。なおピクセル906は、第一の行と共に修正された画像の第二の行を決定するのに使うために含まれている。
【0078】
いくつかの歪みについては、修正された画像の中央に向かって位置する行からのピクセルが、修正された画像のエッジの1つの近くに位置する行からのピクセルよりも歪んだ画像のより少ない行に跨って広がっていても良い。例えば、破線は、第二の行よりも画像の中心により近い修正された画像中のピクセルの第三の行を取得するのに使われた感応ピクセルの軌跡を表す。この例では、ピクセル930、934、952、954、956、958、960、および962が全て使われる。再度、第二の行について使われたのと同じ感知されたピクセルのいくつかが、修正された画像の第三の行についてのピクセル値を決定するのに計算に入れられる。第三の軌跡は、それが画像の中心により近い(かつ、この例では歪みが中心にある)ので、「より平坦」であり、この例では2つの行だけをスパンする。
【0079】
その最近傍と共に各ピクセル(u,v)についてのそれぞれの曲線に、後続の行と後続の列からの最近傍から、相関プロセスが施されることができる。F(x,y)マップ、例えば2次元システム上でシフトされるべき多数のピクセルを使って、それはフレームのそれぞれの曲線上に施される。このプロセスは、フレームの各曲線について、曲線毎に、全てのピクセル上で繰り返される。
【0080】
図10は、曲率から直線に情報を変換するための別のやり方を描く。この実施形態では、変換のいくつかまたは全ては、センサーデザインレベル上で実現されることができるので、読み出し承認を与えるクロックライン(垂直軸)へと、ピクセル自体からの情報の読み出し(水平軸)へのピクセルの関係付けは、計画された曲率に従ってセンサー自体中で行われる。レンズの訂正と僅かな変更に適応するために、この方法は、いくつかの連続した曲率に沿った情報をバッファー中に変換することによってより柔軟にされることができる。そのような場合、読み出し軌跡中の僅かな変更は、第一の方法に従って決定されても良い。
【0081】
言い換えると、アドレスは行と列に従って順序付けされていない。代りに、図10に「行」Nと「行」N+1において示されているように、技術的には異なる行からの複数のピクセルが、軌跡に沿ってお互いと(行は実際には軌跡なので「」中の行と)関連付けられている。代りに、1つ以上の弧が選択され、それから弧に沿った個別のピクセルが順番に読み出されることができる。この例では実線と点線を使って2つの軌跡が示されている。この例では、センサーロジックは、読み出しのためのクロックが列の順番にリンクされないように構成されている。代りに、ピクセルは、対応する軌跡中でのそれらの順番にリンクされる。この例はまた、或る軌跡については、歪みの効果のために同じピクセルが2度読み出されても良いことを描き、例えば、ピクセル906は「行」Nに沿って読み出された3番目のピクセルであるが、「行」N+1に沿って読み出された5番目のピクセルでもある。
【0082】
柔軟性はまた、この方法については、いくつかの曲線のアドレスを読み出し、よってバッファーの使用を避けることによって増加されても良い。上記した通り、軌跡はピクセルの単一のラインまたはピクセルの複数のラインからなっていても良く、および/またはピクセルの単一の行を出力するのに多数の弧が使われても良い。ピクセル軌跡を読み出すための基礎をなすロジックは、センサー自体中に直接、または読み出し要求を従来のセンサーへの適切なアドレッシング信号に翻訳するモジュールとして、含まれていても良い。ロジックは、異なる倍率レベルについての異なる読み出し軌跡の使用に適応するように構成されていても良い。
【0083】
曲率から直線への情報の変換と共に生じる別の問題は、曲線が中心垂直軸に近い程、それらはより稠密であるという事実から由来する。この密度は、或るピクセル上でのいくつかのラインの重複に繋がる(例えば、図10の両方の軌跡に沿って含まれているピクセル906を参照)。よって、連続する曲率を読み出す時には、それの情報が既に取り出されており、それは読み出しプロセスの一部としてリセットされており、それにより読み出された情報がリセットされているところのピクセルが読み出されることがしばしば起こる。リセット後に関係の無い情報を読み出すことを防ぐために、重複する曲線を含む/有するピクセルの前の読み出しからの情報をコピーするコマンドが、読み出しデザイン中に導入されることができる。
【0084】
曲率から直線に情報を変換することは、異なる長さの行を生み出す。センサーの中心の水平ラインを表す行が最も短く、曲線が中心から遠くなる程、修正後にそれはより長くなる。同一の長さの行を要求するデータ処理における一様性を作り出すために、短い行中の欠けている情報は、それらが後に無視されても良いようにゼロを使って補われることができる。代替的に、各行中の本当の情報を含んだピクセルの期待された数が予め決められることができる。
【0085】
図11は、修正された画像と歪んだ画像のピクセルをマッピングする関数の例を描く。描写では、Mはセンサーの高さの2分の1を表し、Wはセンサーの幅の2分の1を表す。R_sensorは修正された画像中のピクセルの標準的位置である一方、R_disは歪みによるそれらのピクセルの新たな位置を表す。図11は、R_sensorをR_disに関係させる。この例では、歪みは円形であり、対称的であり、センサー上に中心があるが、ここに説明される技術は、非対称的であるかそうでなければ感知されたエリアに跨って変動する歪みにも適用することができる。
【0086】
図12は、最近傍整数マッピングを使ってどのようにセンサーピクセルのアレイ1210が出力画像ピクセルのアレイ1212にマッピングされることができるかの例を示す。一般に、上に説明したようにレンズ歪みと望ましいズームファクターを考慮に入れるために、いくつかの実施形態ではアドレッシング方法が使われることができる。例えば、出力画像中のピクセルは、その座標が(u,v)である物理的センサーピクセルに対応する(x,y)座標を有することができ、
【数7】
【0087】
で表現される関係をもち、ここで
【数8】
【0088】
は光学軸からの半径であり、fはレンズによって導入された放射状歪みを表す関数である。レンズの中心からのはずれ(Δx,Δy)を考慮に入れると、この関係は、
【数9】
【0089】
となる。
【0090】
整数出力座標(x,y)は多くの場合に分数センサー座標(u,v)に変換されても良い。よって、何らかの類の補間方法が使われることができ、十分な画像品質を達成するために、補間は十分に高度なものであるべきである。例えば、もし画像データがBayer形式であれば、補間手順は、局所的非モザイク化(local demosaicing)によってのように、Bayer適応されたものであるべきでる。但し、説明の簡単のために、実施形態は、最近傍(NN)補間の簡略化された場合を使って以下では説明される。特定には、図12の各出力ピクセル(x,y)の値は、([u],[v])におけるセンサー値であると設定され、括弧[]は最も近い整数値を生み出す補間を表記する。
【0091】
最近傍の場合をまとめると、出力画像Ioutは、入力画像Iinの関数として表現されることができ、入力画像Iinは光をピクセルのアレイ(u,v)上に描像することから結果として得られる。
【0092】
Iout(x,y)=Iin([u],[v]) (9)
図13は、レンズによって歪められた通りの水平ライン1310の例を示し、歪められたラインは1312において示されている。図13の描写はまた、1313において示されるように、どのように一つの水平ライン1311が最大垂直歪みを受けるかを示す。図9−10に対して上記した通り、光をセンサー上に描像するのに使われた光学系に依存して、いくつかの実施形態ではかなりの垂直歪みが起こることができる。
【0093】
図14は、出力画像の様々な単一の行を直接(x軸上の行数で)、センサーピクセルの複数の行に跨ったその行に対応するピクセル値を広げる垂直歪みを考慮に入れて、読み出すのに要求される8メガピクセルラインバッファーの数の(チャート1400のy軸上の)例示的値を示しているチャート1400である。この場合、通常の8Mp(3264×2448)センサーが、1.3倍の歪みを導入するレンズと共に使われ、意図された出力画像は5Mp(2560×1920)のサイズである。見ることができるように、軌跡、即ちF(x,y)マップ、を単に追従することは、最大に歪んだ行に適応するために十分なラインバッファーが含まれていることが必要とされるので、いくつかの実施形態では非常に大きな数(〜166)のラインバッファーに結果としてなることができる。
【0094】
いくつかの実施形態は事実、歪み関数と好適に構成されたバッファーメモリーに基づいたマッピングを使ってセンサーのピクセルを読み出しても良い。但し、追加の実施形態は、歪み関数に基づいて軌跡に沿ったセンサーのピクセルをワイヤリングすることによってメモリー要求を克服しても良い。
【0095】
図10に対して簡単に上記した通り、そのようなセンサー配置は、行と列の通常の形で画像情報をもはや提供しないセンサーに結果としてなる、即ちBayer画像がばらばらにされる。加えて、或るピクセルは「2度」読み出される必要があり得る一方、その他のピクセルは軌跡に沿って横たわっていないかもしれず、画像中の「穴」の潜在性に結果としてなる。以下に説明するように、実施形態は全てのセンサーピクセルをカバーするのに十分なロジックを使用し、同時に、歪みと整合したやり方でセンサーピクセルを読み出すことができる。
【0096】
図15は、歪んだ読み出し(「仮想的センサー」または「論理的センサー」)を使用するマルチステップの読み出しプロセスと出力ピクセルを生成するための訂正アルゴリズムと共に、感応デバイス1500の例を描いた図である。1502において示されるように、感応デバイスは、リードロジック1504とバッファー1506にインターフェースされたセンサーピクセルのアレイからなる。プロセッサ1508は、センサーロジックにリードコマンドを提供し、バッファー1506からピクセル値を読み出すようにプロセッサを構成するプログラムコンポーネンツをメモリー(図示せず)中に含む。
【0097】
リードロジック1504は、画像がセンサーピクセルの値に基づいてバッファー中に格納できるように、アレイ中のセンサーピクセルとバッファー1506中の対応する位置の間に接続を提供する。リードロジックは、プロセッサ1508によって生成された読み出し要求に応答して対応するセンサーアレイアドレスにおけるピクセル値を単にサンプリングするように構成されることができる。そのような場合には、出力画像中の対応するアドレスは、歪み関数に従ってプロセッサによって決定されることができる。
【0098】
但し、いくつかの実施形態では、リードロジック1504は、リードコマンドに応答してセンサーピクセルのアレイからの1つ以上のピクセル値をサンプリングし、歪み関数に基づいてピクセルをバッファーに提供するように構成されている。歪み関数のために、センサーアレイ中の対応するピクセルアドレスは一般に、バッファー中に格納された通りの画像中の対応するピクセルアドレスとは異なる列アドレス、異なる行アドレス、または異なる列アドレスと異なる行アドレスの両方を有する。特に、リードロジック1504は、歪み関数に対応する複数の軌跡に沿ってピクセルを読み出すように構成されることができる。いくつかの実施形態では、軌跡の異なるセットは異なるズームファクターに対応し、即ち、前述したように異なるズームレベルが望まれる時には異なる軌跡が使われても良い。
【0099】
1510において示されるように、センサーピクセルアレイは、水平および垂直歪みの両方を特徴として有する。リードロジック1504は、アレイ中のピクセル値を読み出し/サンプリングし、1512において示される論理的/仮想的読み出しアレイを提供するように構成されることができる。論理的読み出し1512は、それ自体がいくらかの歪み、つまり水平ゆがみを保持する、「仮想的センサー」または「論理的センサー」に対応することができる。例えば、図15に示されるような出力画像1514を生み出すために、プロセッサ1508が論理的行値を読み出し、残留水平歪みを訂正するための訂正アルゴリズム(および必要に応じてその他の処理)を実行するように構成されていることを伴って、読み出し中に、論理的行がバッファー1506中に格納されることができる。
【0100】
リードロジック1504によって使われた軌跡のために、垂直歪みは、論理的/仮想的読み出しアレイ中でさえ、除去されるか実質的に除去される。加えて、リードロジックは、各軌跡について、論理的読み出し中の対応する論理的読み出し行が提供され、論理的行はお互いと同じ数の列を有し、各列はセンサーアレイの列の1つに対応しているように、構成されることができる。
【0101】
軌跡に沿って読み出すためのリードロジック1504の使用は、有利なことにメモリー要求を削減し、センサー列配置を保存することができる。例えば、説明の目的で仮想的/論理的読み出し画像1512全体が図15に示されているが、実際には仮想的/論理的読み出し画像のいくつかの行だけが出力画像の行を組み立てるためにメモリー中に格納される必要があっても良い。
【0102】
リードロジック1504は、あらゆる好適なやり方で実装されることができ、リードロジック1504の特定の実装は、この開示の検討後の当業者の能力内であるはずである。例えば、センサーアレイの様々なピクセルは、どの軌跡が与えられた時間間隔中にサンプリングされるべきであるかに依存して選択可能に可能とされた経路を提供するために、例えばCMOSトランジスターを使って構築された、好適に配置されたロジックゲートを使ってバッファーラインに条件付きでリンクされることができる。例えば、ロジックゲートは、異なるズームレベルと関連付けられた軌跡経路の異なるセットが選択されるようにデザインされることができる。特定のズームレベルが入力された時、一連の対応する軌跡が、軌跡に沿って全てのピクセルを通して循環し、それから次の軌跡へと、サンプリングが完了するまで、物理的アレイをサンプリングするのに使われることができる。
【0103】
図16は、物理的センサーアレイ1610、仮想的/論理的読み出しアレイ1612、および出力画像1614中の値の間の関係を示した図である。上記の通り、センサーピクセルアレイと出力画像アレイの間の基本的関係は、
Iout(x,y)=Iin(u,v) (10)
として表現されることができる。基本的関係は、アレイ1610中のピクセルとアレイ1614中のピクセルの間の非破線として図16に示されている。但し、仮想的/論理的アレイ
【数10】
【0104】
中の読み出し順序座標は、
【数11】
【0105】
によって定義されることができる。よって、順序が替えられたセンサー出力(即ち、仮想的または論理的センサーアレイ1612)中の画像は、
【数12】
【0106】
および
Iout(x,y)=Iin(u,v)=IR/O(u,y) (13)
によって定義されることができる。
【0107】
(u,v)におけるピクセル値を出力画像位置(x,y)にマッピングする標準的アルゴリズムを使うのではなく、アルゴリズムは、出力画像アレイ1614と読み出し画像アレイ1612のピクセルの間の破線によって示されるように、
【数13】
【0108】
における仮想的/論理的センサーピクセル値を、出力位置(x,y)における値に対応するものとして決定することができる。
【0109】
上に概略を説明した解決策を実装するために、連続的な読み出しの場合から示唆される考察に基づいて離散的座標が使われる。つまり、水平出力ラインは、センサー上の歪んだ曲線として現れる。例えば、以下の表現によって記されるように、出力画像中のラインy0は、センサーアレイ上のその座標が
【数14】
【0110】
である曲線として現れる。
【0111】
このジオメトリーに照らして、リードロジックは、各仮想的/論理的センサー行が各物理的センサー列からの一つのピクセルからなるように構成されることができる。特に、図17に陰影付きピクセルによって示されるように、物理的センサーアレイ1700のピクセル値をサンプリングするのに使われる各軌跡1712と1714は、物理的センサーアレイ1700の各列について一つのピクセルを特徴として有する。これは、(1)ラインバッファーのためのメモリーの量を最小化する、(2)各センサーピクセルが読み出しのために接続された配置、(3)1度より多く接続されたピクセルが無い、(4)接続方法は関数と単純なロジックによって記述されることができ、それは実装を容易にする、というような利点を提供することができる。
【0112】
図18は、接続ロジックを構成するのに使用するための軌跡に基づいてどのように物理的センサーピクセルが仮想的/論路的センサーピクセルと関連付けられることができるかの例を描く。この例では、アレイ1800は、曲線1802として描かれた歪み軌跡によって横切られる。左の第一の列からから始めて、アレイの各ピクセルは、各列の中心を通して想像ライン(1804、1806、1808)に沿って頂上から底までスキャンされることができる。曲線1802が交差された時はいつでも、その中で交差が起こるピクセルが次の列中で同じ曲線との交差の場所であるどれかのピクセルと関連付けられる等々のように、その中で交差が起こるピクセルが好適なロジックを使って接続される。結果は、各曲線が物理的センサーの列の数と等しいピクセルの行と関連付けられることになる。もし2つの曲線がピクセルを通過すれば、交差分析は頂上から底に進むので、ピクセルは最も上の曲線と関連付けられる。
【0113】
図19は、いくつかの実施形態において、どのように軌跡密度が歪んだ画像に跨って変動することができるかを描く。1900において示されるように、歪み曲線は一様に分布はしていない。特に、曲線は1904よりも1902と1906においてより稠密である。上記の例示的読み出し順序構築は変動する密度をそれ自体では考慮に入れていない。
【0114】
以下の問題点のいずれかまたは両方が結果としてなり得る:(1)連続した曲線は、例えば倍率が最大である低ライン密度のエリア中で、ピクセルをスキップし得て、或るピクセルは曲線と関連付けられていないかもしれない;および/または(2)2つの連続した曲線は、例えば、低いかまたは負の倍率による高ライン密度のエリア中で、同じピクセルと交差し得る。従来のピクセルは、読み出されたときに放出される、即ちピクセルは1度だけ読み出されることができる。もし仮にピクセルが複数回読み出されることが可能であったとしても、二重読み出しは描像プロセスを不必要に遅延させ得る。
【0115】
図20A−20Bは、いくつかの実施形態において、軌跡密度によるスキップされたピクセルの問題を避けるためにどのように追加の軌跡が使われることができるかを描く。図20Aは、2つの軌跡2002と2004と共に物理的センサーピクセルのアレイ2000を示す。陰影によって指し示されるように、各軌跡は各列からの単一のピクセルと関連付けられている。但し、低密度のために、いくつかのエリア2006、2008および2010は、読み出されない1つ以上のピクセルを特徴として有する。
【0116】
図20Bは、スキップされたピクセルの問題点を緩和するための追加の曲線2012の使用を描く。歪みマップに基づいて、歪みがより一様であるように、追加の曲線が含まれることができる、別の言い方をすると、一様な読み出しが起こるように仮想的/論理的読み出しアレイ中の行の数を増加させることができる。仮想的行の最小数は、最適化、即ちレンズによる最大実効倍率、を使って計算することができる、例として、1.3倍の最大倍率をもったレンズについて、歪み曲線密度は元の密度の130%に増加されることができ、結果として得られる仮想的/論理的読み出しアレイは物理的センサーよりも1.3倍大きな高さをもつ。
【0117】
図20Bに示されるように、仮想的/論理的アレイの2つの行を使ってサンプリングされた同じエリアは、3つの行で置き換えられることができる。但し、スキップされたピクセルに対処する際に、二重読み出しの問題が増加され得る。この問題点は、しかしながら、「ダミー」ピクセルを使うことによって解決されることができる。
【0118】
図21A−21Dは、複数の曲線との交差により物理的センサーピクセルを2度読み出すことを避けるために、どのようにダミーピクセルが使われることができるかを描く。図21Aは、アレイ2100を横切っている曲線2102、2104、および2106を示す。二重読み出し状況は2108、2110、2112、2114、2116、2118、および2120において示されている。一般的に言って、いくつかの連続した曲線によって交差されたピクセルの値は、仮想的/論理的読み出しアレイ中のいくつかの連続した行に割り当てられるべきである。但し、上記の通り、現行のセンサーデザインでは、ピクセル値は1度だけ物理的に決定され得る。
【0119】
いくつかの実施形態では、この問題点に対処するために、各物理的ピクセルは、時系列的順序でピクセルと交差する最初の曲線との関係で1度だけサンプリングされる。後続の曲線については、ダミーピクセルがプレースホルダーとしての役目を果たすうように仮想的/論理的アレイ中に出力されることができる。これは、例えば、サンプリングされるべきセンサーピクセルをピクセルと交差する最初の曲線の一部として接続するためのロジックを使うことによって、達成されることができ、ピクセル値は、曲線のその他のピクセルと共に論理的/仮想的読み出しアレイの対応する行にルーティングされる。但し、同じピクセルと交差するその他の曲線については、対応する行についての出力ロジックは、メモリー中に格納された通りのその他の行中のピクセルのためのプレースホルダーを提供するために、グラウンドまたは電圧源(即ち、論理的0または1)にワイヤリングされることができる。
【0120】
最終結果はアレイ2122に示されており、それは曲線2102、2104、および2106に対応する論理的/仮想的ピクセルアレイの3つの行を表す。見ることができるように、黒い陰影によって指し示されるようにダミーピクセル2124、2126、2128、2130、2132、2134、および2136が提供されている。例えば、ダミーピクセル2124の場合には、実際のピクセル値は上の行についてサンプリングされた、等々である。ダミーピクセルは、図21C中の矢印によって指し示されるように同じ列中のダミーピクセルの上の非ダミーピクセルの値に基づいて、それらの望ましい読み出し値に解決されることができる。これが21Dにおいて示されており、そこでは2124’、2126’、2128’、2130’、2132’、2134’、および2136’は今は関連付けられた値を有する。
【0121】
結果として得られる仮想的/論理的読み出しアレイは、物理的センサー中のピクセルのアレイ中の列の数と等しい列の数を特徴として有し、行はセンサーに跨る各軌跡に対応している。読み出し順序が与えられると、センサーにアクセスしているプロセッサは、必ずしもセンサーインターフェースからの情報に頼ること無しに、センサーから来るピクセルストリームを理解すべきである。プロセッサは、センサー内のプロセッサブロックであるかまたは、リードロジックとバッファーを介してセンサーにアクセスしている別のプロセッサであっても良い。
【0122】
プロセッサの視点からは、センサーは、論理的インターフェース(即ち、仮想的/論理的アレイ中に結果として得られる読み出し)を介してより効率的にアクセスされるように再編成された物理的メモリーのセットとして見られることができる。出力画像を生成するために使われるアドレッシングアルゴリズムは、全体的アプローチを離散化することによって開発されることができる。
【0123】
図22は、出力ピクセル、仮想的/論理的センサーピクセル、および物理的センサーピクセルの間の関係を描く。特定には、図22は、物理的センサーピクセル値のアレイ2202、センサーのリードロジックによって提供された仮想的/論理的読み出しアレイ2204、および出力画像のピクセル2206の望ましいアレイを描く。
【0124】
前記の通り、出力およびセンサー画像は、
Iout(x,y)=Iin(u,v) (15)
によって関係している。
【0125】
出力画像ピクセル座標(x,y)とセンサー座標(u,v)の間の関係は、
(u,v)=F(x,y) (16)
として便利に表現される。
【0126】
加えて、仮想的/論理的読み出しアレイは、
Iout(x,y)=Iin(u,v)=IR/O(u,y) (17)
の表現で表されることができ、ここで対応する読み出し座標は水平センサー座標(u)と出力垂直座標(y)を取ることによって与えられる。
【0127】
離散的な場合については、出力画像と物理的センサー画像の間の逆マッピングを使って中間出力座標をまず定義する:
【数15】
【0128】
出力座標
【数16】
【0129】
は、式16で求められたセンサー座標(u,v)の最近傍ピクセル([u],[v])に逆マッピングF−1を施すことによって求められる。
【0130】
よって、出力画像2206と仮想的/論理的読み出し画像2204の間の関係は、
【数17】
【0131】
と述べることができ、ここで
【数18】
【0132】
である。
【0133】
関係は図22にも示されている。従って、読み出したピクセルに基づいて出力画像を生成することは、出力画像ピクセル座標を論理的画像ピクセル座標に関係させる関数に従って論理的出力行中のピクセルにアクセスすることからなることができる。
【0134】
いくつかの実施形態では、上の技術に従って構成された歪んだ読み出しをもったセンサーは、3つという少なさのラインバッファーを使った歪んだ画像の訂正を許容することができる。歪んだ読み出しは、離散化によるプラスマイナス1垂直ピクセルの誤差まで垂直歪み全体を補償することができる。実際には、作業ウィンドウを利用するためにより多くのラインバッファーが使われても良い。例えば、N×N作業ウィンドウについては、3+N個のラインバッファーが最小数であろう。
【0135】
ここで使われたように、「および/または」という用語は、関連する列挙された項目の1つ以上のあらゆる全ての組み合わせを含む。更に、「第一」、「第二」、「第三」等のような用語が、様々な要素、コンポーネンツ、領域、層および/またはセクションを記載するのにここで使われても良いが、それらの要素、コンポーネンツ、領域、層および/またはセクションはそれらの用語によって限定されるべきではない。それらの用語は、1つの要素、コンポーネント、領域、層および/またはセクションを他から区別するためにだけ使われている。よって、第一の要素、コンポーネント、領域、層および/またはセクションは、ここに記載された実施形態の教示内容から逸脱することなく、第二の要素、コンポーネント、領域、層および/またはセクションと呼ばれることもできる。
【0136】
「下方の」、「下」、「下方」、「上」、「上方」等の空間的に相対的な用語が、図中に描かれたように、1つの要素または特徴の別の要素または特徴との関係を記述する記載の容易さのためにここで使われても良い。空間的に相対的な用語は、図中に描かれた向きに加えて、使用または動作中の装置の異なる向きを包含することが意図されていることが理解されるであろう。例えば、もし図中の装置がひっくり返されれば、他の要素または特徴の「下」または「下方の」として記載された要素は、他の要素または特徴の「上」に向くことになるであろう。よって、例示的用語「下」は、上と下の向きの両方を包含することができる。装置はそうでないように向けられても良く(90度回転されてかまたはその他の向きで)、ここで使われる空間的に相対的な記載はそれに応じて解釈される。
【0137】
ここで使われたように、単数形「a」、「an」および「the」は、文脈がそうでないことを明確に指し示さない限りは、複数形も含むことが意図されている。用語「からなる」、「からなっている」、「含む」および「含んでいる」は、述べられた特徴、整数、ステップ、動作、要素、コンポーネンツ等の存在を指定するが、1つ以上のその他の特徴、整数、ステップ、動作、要素、コンポーネンツ、グループ等の存在またはそれらへの追加を除外しないことが更に理解されるであろう。
【0138】
本発明の実施形態がここに開示され、特定の用語が採用されたが、それらは一般的で記述的なセンスでのみ使われ解釈されるべきものであり、限定のためのものではない。本発明の実施形態はハードウェア実装に対して記載されたが、本発明の処理は、例えば、マシーンによってアクセスされた時に、センサーピクセルにアクセスするかそうでなければデータの歪みを無くすることをマシーンに引き起こすデータを含んだマシーンアクセス可能な媒体を有する製造品によって、ソフトウェアで実装されても良い。例えば、コンピュータープログラム製品は、センサーにアクセスし、出力画像ピクセルアドレスをセンサーアドレスにマッピングする関数に従って、および/または出力画像ピクセルアドレスを論理的/仮想的読み出し画像中のピクセルアドレスにマッピングする関数に従って、ピクセルを読み出すようにプロセッサを構成するプログラム命令を実装したコンピューター読み出し可能な媒体(例えば、メモリー、ディスク等)を特徴として有していても良い。
【0139】
更に、上の説明はピクセルが検出器に跨って等しいピッチを有すると仮定しているが、圧縮のいくつかまたは全ては、検出器に跨るピッチを変えることによって実現されても良い。従って、本発明の精神と範囲を逸脱することなく、形および詳細における様々な変更がなされても良いことが当業者によって理解されるであろう。
【図1A】
【図1B】
【図2A】
【図2B】
【図3A】
【図3B−3C】
【図3D】
【技術分野】
【0001】
[関連出願データ]本出願は、2009年4月13日に出願された米国仮特許出願番号61/168,705の優先権を主張し、その全体がここに引用によって組み込まれる。
【背景技術】
【0002】
近年、カメラ、移動電話、ウェブカムおよびノートブックのような携帯型および非携帯型デバイスにおいて画像捕捉装置が広く使われるようになっている。それらの画像捕捉装置は従来は、CCDまたはCMOSセンサーのような電子画像検出器、視野(FOV)中の物体を検出器上に投影するためのレンズシステム、および検出器によって提供された電子データを受け取り、処理し、格納するための電子回路を含む。感応ピクセルは典型的にはラスターオーダーで、即ち上から下までの行中で左から右へ、読み出される。解像度と光学的ズームが、そのような画像捕捉装置の2つの重要な性能パラメータである。
【0003】
画像捕捉装置の解像度は、画像捕捉装置がそれらポイントソースを区別することが可能であるように物体平面中の2つのポイントソースが有することができる最小距離である。解像度は、回折と収差のために、各光学システムがポイントソースを、ポイントとしてではなく或る光強度分布を有した予め決められた幅のディスクとして投影するという事実に依存している。ポイント光源に対する光学システムの応答は、ポイントスプレッド関数(PSF)として知られる。画像捕捉装置の全体的解像度は主に、光学投影システムの光学的解像度と検出器の解像度のより小さい方に依存する。
【0004】
ここでは、光学投影システムの光学的解像度は、そのPSFの半値全幅(FWHM)として定義される。言い換えると、2つのポイント光源の投影の光強度分布のピーク値は、画像捕捉装置が2つのポイント光源を区別することが可能であるためには、少なくともPSFのFWHMによって間隔を空けられていなければならない。但し、解像度はまた、PSFに依存した異なる値、例えば半値幅の70%、として定義されることもできる。光学的解像度のこの定義は、検出器の感度と検出器から受け取った信号の評価に依存するかもしれない。
【0005】
検出器の解像度は、ここでは、ピッチ、即ち検出器の2つの隣接するセンサーピクセルの中心から中心までの距離、として定義される。
【0006】
光学的ズームは、元の画像のFOVの一部を非ズーム画像と比較してより良い解像度で捕捉する画像捕捉装置の能力を意味する。ここでは、従来の画像捕捉装置では全体的解像度は通常検出器の解像度によって制限されること、即ち、PSFのFWHMは2つの隣接するセンサーピクセル間の距離よりも小さくなることができること、が仮定される。
【0007】
従って、画像捕捉装置の解像度は、部分的視野を選択し、この部分的視野についての光学投影システムの倍率を増加させることによって、増加され得る。例えば、2倍の光学的ズームは、画像検出器の全てのセンサーピクセルが、1倍ズームのものと比較して、各次元において、画像の半分を捕捉する状況を指す。
【0008】
ここで使われるように、「デジタルズーム」は、追加の情報が実際には提供されていないところの信号補間を指し、一方「光学的ズーム」は、より多くの情報とより良い解像度を提供する投影された部分画像の拡大を指す。例えば、組み込まれたカメラを有するマルチユースのデバイス(例えば、移動電話、ウェブカメラ、携帯型コンピューター)は、固定されたズームを使う。デジタルズームは、画像をより小さなサイズに切り取り、より長い焦点距離の効果をエミュレートするために切り取られた画像を補間することによって提供される。代替的に、調整可能な光学系が光学的ズームを達成するのに使われても良いが、これはカメラにコストと複雑度を追加することができる。
【発明の概要】
【0009】
本主題の1つ以上の側面に従って構成された実施形態は、視野内の物体の歪んだ画像を画像捕捉装置の感応ピクセル上に提供する光学システムの使用を通して上記の問題の1つ以上を克服することができる。光学システムは、視野の中心において画像を拡張し、周縁において画像を圧縮することができる。
【0010】
光学システムによって意図的に導入された歪みは、歪みのいくつかまたは全てを除去するように感応ピクセルが読み出されて、それにより「修正された」画像が作成される時に訂正される。ピクセルは、全てかまたは実質的に全ての感応ピクセルが読み出されるまで待つのではなく、ピクセル読み出し中に歪みを修正するために歪んだ画像の曲率マップに対応する軌跡に沿って読み出されることができる。
【0011】
描像の方法は、視野の歪んだ画像をセンサーピクセルのアレイ上に描像することと、画像の歪みに従ってセンサーピクセルを読み出すことと、読み出されたピクセルに基づいて出力画像を生成することからなることができる。出力画像は、実質的にまたは完全に歪みが無いようになることができ、「実質的に無い」とは、画像の特定の使用においてあらゆる残留歪みが画像品質についての受け入れ可能な許容値内であることを意味する。
【0012】
画像の歪みに従ってセンサーピクセルを読み出すことは、歪みに対応した複数の軌跡ラインに沿ってピクセル値をサンプリングするようにセンサーのロジックを使用することと、仮想的/論理的読み出し画像中に複数の論理的出力行を提供することからなることができる。各論理的出力行は、センサーアレイの各列に対応する単一のピクセル値からなることができる。
【0013】
少なくとも2つの軌跡ラインが同じピクセルと交差することができ、センサーのロジックは、2度交差されたピクセルについての値の代わりに、論理的出力行の1つについての読み出し中にダミーピクセル値を提供するように構成されることができ、センサーのロジックは更に、ダミーピクセル値を同じ列アドレスにおいて別の論理的行中に在る非ダミーピクセルの値で置き換えるように構成されている。これは、仮想的/論理的読み出し画像が、物理的センサーアレイと同じ数の列を特徴として持つことを確かにすることができる。但し、仮想的/論理的読み出し画像中の行の数は異なっていても良い。例えば、いくつかの実施形態では、リードロジックは、物理的センサーアレイのどのピクセルもサンプリングされないで残ることがないように、各々が対応する論理的読み出し行をもった追加の軌跡曲線が使われるように構成されている。
【0014】
追加の実施形態では、歪み関数に従ってピクセルを読み出すことは、行と列に従ってサンプリングされたピクセル値にアクセスするためにプロセッサを使用することからなることができ、プロセッサは、出力画像ピクセル座標のセンサーピクセル座標へのマッピングを使うことによってピクセル値にアクセスするように構成されている。但し、このアプローチは、いくつかの場合には、ここに説明されるその他の実施形態よりも多くのバッファーメモリーを要求し得る。
【0015】
実施形態は、画像センサーのピクセルを読み出す方法を含み、ピクセルを捕捉したデータは、画像センサーのピクセルによって感知された歪んだ画像を望ましい修正された画像に相関させる既知の歪み関数に基づいたピクセル順序で、歪んだ画像を表す。例えば、ピクセルマッピング関数が、修正された画像ピクセルアドレスの関数としてセンサーピクセルアドレスを提供する、ピクセル読み出し中にアクセス可能なテーブルとして提供されても良い。別の例として、関数が、修正された画像ピクセルアドレスからなる入力に応答してセンサーピクセルアドレスを提供するように評価されても良い。更なる例として、センサーハードウェアが、従来の行と列のアドレッシングを使うのではなく、歪み関数に対応した軌跡に沿ってピクセルを読み出すように構成されていても良い。
【0016】
ピクセルを読み出す方法の実施形態は、修正された画像の最初のピクセルアドレスを指定するリードコマンドを受け取ることからなることができる。方法は更に、アクセスするセンサーのピクセルの1つ以上の軌跡を決定することからなることができる。一つの軌跡または複数の軌跡は、歪んだ画像の修正された画像へのマッピングから決定されても良い。軌跡(または複数の軌跡)上のアクセスされたピクセルからのデータは、メモリー中に格納されることができ、修正された画像の指定された最初のピクセルアドレスに対応する行中のピクセルは、アクセスされたピクセルから決定されることができる。
【0017】
いくつかの実施形態では、修正された画像中の与えられた行中のピクセルの値は、複数の行からのピクセル(例えば、隣接するピクセル)に依存しても良いので、いくつかの実施形態では、第一の複数のおよび第二の複数のピクセルがマッピングに基づいて決定されて、それに応じてアクセスされる。修正された画像の行中の第一および第二の複数のピクセルは、感知されたピクセルの同じ行の全てではないがいくつかからのピクセル(即ち、少なくとも1つのグループは、その他のグループに含まれていない行を有する)にアクセスすることによって決定されても良く、または完全に異なっていても(即ち、共通する行が無くても)良い。
【0018】
実施形態は、少なくとも1つのピクセルアドレスを指定するリードコマンドを受け取り、歪み関数に基づいてピクセルのアレイから読み出す1つ以上の行を同定する対応するピクセルアドレスを決定するように構成された感応デバイスを含む。ピクセルアドレスは、ズームファクターと関連付けられていても良く、各々がズームファクターに対応している複数の歪み関数の1つが、どのピクセルアドレスを読み出すかを決定するのに使用するために選択されても良い。様々な実施形態では、感応デバイスは、単独で提供されても良く、および/または携帯型コンピューター、携帯電話、デジタルカメラまたは別のデバイス中に組み込まれていても良い。
【0019】
感応デバイスは、ピクセルの軌跡ベースのアクセスをサポートするように構成されていても良い。例えば、読み出し承認を与えるクロックラインと実際のピクセルからの情報の読み出しを制御するクロックラインが、行と列によってではなく、歪み光学系によって導入された曲率に対応するいくつかの弧に沿ってセンサーが読み出され、各弧が読み出しにおいてバッファー中にローディングされるように、構成されることができる。上記の方法は、レンズ中のわずかな収差についてのような、訂正をするために読み出し軌跡中においてわずかな調整をするのに使われることができる。
【0020】
上記およびその他の特徴および利点は、添付の図面を参照して例示的実施形態を詳細に記載することによって当業者には容易に明らかとなるであろう。
【図面の簡単な説明】
【0021】
【図1】図1Aと1Bは、長方形パターンと、XおよびY座標で分離可能な歪みを有する歪んだ長方形パターンを、それぞれ描く。
【図2】図2Aと2Bは、円状に対称的なパターンの例と、歪んだ円状に対称的なパターンを、それぞれ描く。
【図3】図3A−3Dは、実施形態に従った物体と異なるズームレベルについての対応する表示された画像を描く。
【図4A】図4Aは、実施形態に従った光学デザインの例を描く。
【図4B−1】図4B−1は、図4Aの光学デザインを使って作成されたグリッド歪みを描く。
【図4B−2】図4B−2は、図4Aの光学デザインを使って作成された再正規化されたグリッド歪みを描く。
【図4C】図4Cは、図4Aの光学デザインのフィールド曲率を描く。
【図4D】図4Dは、図4Aの光学デザインの歪みを描く。
【図4E】図4Eは、センサーデータを取得するための処理アーキテクチャの例を描く。
【図4F】図4Fは、センサーデータを取得するための処理アーキテクチャの別の例を描く。
【図5】図5は、実施形態に従った図4Aの画像プロセッサの動作のフローチャートを描く。
【図6】図6は、実施形態に従ったデジタルカメラの分解図を描く。
【図7A】図7Aは、実施形態に従ったその中に一体化されたデジタルカメラを持った携帯型コンピューターの斜視図を描く。
【図7B】図7Bは、実施形態に従ったその中に一体化されたデジタルカメラを持った移動電話の前面および側面図を描く。
【図8】図8は、軌跡に沿ってピクセルを読み出すためのプロセスの例を描く。
【図9】図9は、ピクセルのアレイといくつかの軌跡の例を描く。
【図10】図10は、軌跡ベースのアクセスのために構成されたセンサー中のピクセルのアレイの例を描く。
【図11】図11は、修正された歪んだ画像のピクセルをマッピングする関数の例を描く。
【図12】図12は、どのように出力ピクセルが最近傍整数マッピングを使ってセンサーピクセルにマッピングされることができるかの例を示す。
【図13】図13は、最大歪みの指し示しを含んだ、光学システムのレンズによって歪められた水平ラインの例を示す。
【図14】図14は、垂直な歪みのため出力画像座標をセンサー座標に関係させる関数に従って単一の出力行を直接的に読み出すのに要求されたラインバッファーの数を示すチャートである。
【図15】図15は、ピクセル値をサンプリングするためのロジックを使い、出力画像座標を仮想的/論理的読み出し画像中の座標と関係させるアルゴリズムと共に歪んだ仮想的/論理的読み出し画像を作成する、マルチステップ読み出しプロセスの例を描いた図である。
【図16】図16は、出力ピクセル値、仮想的/論理的センサーピクセル値、および物理的センサーピクセル値の間の関係を示した図である。
【図17】図17は、各仮想的/論理的行が各物理的センサー列からの1ピクセルからなる、センサー構成の例を示す。
【図18】図18は、どのように物理的センサーピクセルが軌跡に基づいて仮想的/論理的センサーピクセルと関連付けられることができるかの例を描く。
【図19】図19は、いくつかの実施形態において、どのように軌跡密度が歪んだ画像に跨って変動することができるかを描く。
【図20】図20A−20Bは、いくつかの実施形態において、どのように軌跡密度によるスキップされたピクセルの問題を避けるために追加の軌跡が使われることができるかを描く。
【図21】図21A−21Dは、どのように複数の曲線との交差のため物理的センサーピクセルが2度読み出されることを避けるためにダミーピクセルが使われることができるかを描く。
【図22】図22は、出力画像ピクセルアドレスを論理的/仮想的読み出し画像中のピクセルアドレスにマッピングするのに使われるアルゴリズムによる使用のための出力ピクセル、仮想的/論理的センサーピクセル、および物理的センサーピクセルの間の関係を描く。
【発明を実施するための形態】
【0022】
ここで、添付の図面を参照して実施形態がこれ以降により十分に記載されるが、それらは異なる形で実施されてもよく、ここに説明される実施形態に限定するものと理解されるべきではない。寧ろ、それらの実施形態は、この開示が十分行き届いていて完全であり、実施形態を当業者に十分に伝えるように提供される。図において、層および領域の寸法は描写の明確さのために誇張されている。全体を通して同様の参照番号は同様の要素を指す。
【0023】
実施形態に従って、光学的ズームは、歪み訂正のための後処理と組み合わされた固定されたズームレンズを使って実現されても良い。検出器中に使われるピクセルの数は、ズーム能力をサポートするのに望ましい名目上の解像度を超えて増加されても良い。最初に、ズームを実現するために歪みを使うことの概念への初期導入が簡単に説明される。
【0024】
ここに引用によって組み込まれる、共通に譲渡され同時継続中のPCT出願シリアル番号EP2006-002864は、検出表面を有する電子的画像検出器と、視野(FOV)内の物体を検出表面上に投影するための光学投影システムと、画像検出器から取得された電子情報を扱うためのコンピューティングユニットを含んだ画像捕捉装置を開示している。投影システムは、標準的レンズシステムと比較した時、投影された画像がFOVの中心領域で拡張され、FOVの境界領域で圧縮されるように物体を投影して歪める。
【0025】
追加の説明については、2008年9月25日に出願された米国特許出願シリアル番号12/225,591(2006年3月29日に出願されたPCTケースPCT/EP2006/002861の米国国内段階)と2008年6月19日に出願された米国特許出願シリアル番号12/213,472(2007年9月14日に出願されたPCT/IB2007/004278の国内段階)、その各々はその全体がここに引用によって組み込まれる、を参照。
【0026】
そこに開示されるように、投影システムは、FOVの境界領域中のそのポイントスプレッド関数(PSF)が、画像検出器の対応するピクセルのサイズに本質的に対応しているFWHMを有するように適応されていても良い。言い換えると、この投影システムは、FOVの中心における解像度が、広い入射角、即ちFOVの周縁、におけるよりも良いという事実を有効に利用しても良い。これは、レンズのポイントスプレッド関数(PSF)がFOV中心と比較してFOV境界においてより広いという事実のためである。
【0027】
軸上と周縁FOVの間の解像度の差は、およそ30%と50%の間であっても良い。これは、画像中心と比較して、画像境界における観測可能な解像度を実効的に制限する。
【0028】
よって、投影システムは、FOVの境界と比較してFOVの中心においてより大きな倍率ファクターを有する固定されたズーム光学系を含んでいても良い。言い換えると、レンズの実効焦点距離(EFL)は、EFLが画像中心においてより長く、画像境界においてより短くなるように、入射角の関数である。そのような投影システムは、中心部分が拡張され境界が圧縮される、歪んだ画像を投影する。画像境界における倍率ファクターはより小さいので、画像境界におけるPSFもより小さくなり、例えば4つのピクセルの正方形の代りに1つのピクセルのように、センサー上のより少ないピクセル上に広がる。よって、それらの領域のオーバーサンプリングは無く、PSFがピクセルのサイズよりも小さい時に情報の損失が無くても良い。しかしFOVの中心では、倍率ファクターは大きく、それはより良い解像度に結果としてなり得る。ピクセルサイズよりも大きなPSFを有するためにセンサー上では見分け不能となるであろう2つの見分け可能なポイントは、各ポイントが異なるピクセルによって捕捉されても良いので、センサー上で見分け可能となるように拡大されても良い。
【0029】
コンピューティングユニットは、検出器によって取得された投影された画像はその境界領域においてよりもその中心においてより高い解像度を有するという事実を有利に活用して、投影された画像の中心領域からのズームされて歪められた部分的画像(ここでは「修正された画像」または「出力画像」と呼ばれる)を切り取って計算するように適応されていても良い。
【0030】
視野全体の正常な絵については、中心領域は計算的に圧縮されることができる。但し、もし中心付近のズームされた画像が撮られるべきであれば、これは中心付近の望ましいエリアを単に切り取って、望ましいズームとズームされるべき画像の一部の歪みの度合いに依存して、それをより少なく圧縮するか全く圧縮しないことによってなされることができる。言い換えると、ズームされていない画像に対して、ズームされた画像を記述するのにより多くの数のピクセルが使われ得るように、画像が拡張されて切り取られる。これは、望ましいズームレベルに従って変動する軌跡に沿って検出器のピクセルを読み出すことによって達成されても良い。
【0031】
よって、このズームは、上記の光学的ズームの定義と合致する。但し、この光学的ズームは、実用的にはおよそ2倍または3倍に制限され得る。
【0032】
より大きなズーム倍率を実現するために、実施形態は、使われるピクセルの数とズーム倍率の間のトレードオフを有効に利用することに向けられている。言い換えると、より大きなズーム倍率は、境界における情報損失を避けるためにセンサー中のピクセルの数を増加することを要求し得る。連続したズームをサポートするために要求されるピクセルの数は、離散的な倍率から決定されても良く、ここでZ1がより大きな倍率ファクターであり、Zpがより小さな倍率ファクターである。それらの離散的なズームモードをサポートするために要求されるピクセルの数は、FOV全体をカバーするのがNピクセルであることを考慮すると、式1によって与えられ得る:
【数1】
【0033】
式1を並べ直すと、以下の通り式2が求められ得る:
【数2】
【0034】
Zの連続関数を求めるためにZi−ΔZをZi+1に代入すると、式3に結果としてなる:
【数3】
【0035】
例えば第一項より上の、高次の項を捨てて、加算和を積分で置き換えると、式4が求められ得る:
【数4】
【0036】
ここで
【数5】
【0037】
は望ましい最大ズーム倍率である。
【0038】
言い換えると、標準的なデジタルカメラ、即ち歪み無しについては、L[MP](L<K)の画像を作成するKメガピクセル([MP])の長方形のセンサーでは、画像全体のための最大の適用可能な光学的ズーム(L[MP]画像についての)は、
【数6】
【0039】
に制限され得る。言い換えると、望ましい光学的ズームZについて、KはZ2掛けるLに等しい。
【0040】
よって、要求されたズームが2倍である時、標準的なカメラは、4倍より多くのピクセルを要求する。但し、実施形態に従って、光学系が導入する歪みメカニズムのためにより高いズームが画像の中心において実現されても良い。よって、上の式4から見ることができるように、約2.38倍だけ多くのピクセルが2倍ズームのために必要であり得る。例えば、標準的2MP画像センサーを使うと、2倍ズームを施すことは完全に損失無しのズームのために4.77MPを要求する。画像境界での品質への要求を緩和すること、即ち情報の損失を許容することは、例えば2倍ズームのためにおよそ1.75倍多くのピクセルにまでこの数を減少させる。
【0041】
図1Aと1Bは、元の長方形のパターンと、実施形態に従って歪められた投影された長方形パターンを、それぞれ描く。この特定の例では、歪みを表す変換は、水平および垂直軸において分離可能である。図2Aと2Bは、元の円状に対称的なパターンと、実施形態に従って歪められた投影された円状に対称的なパターンを、それぞれ描く。そこに見ることができるように、パターンは中心領域で拡張され、境界領域で圧縮される。その他のタイプの歪み、例えば奇形の歪み、が使われても良い。
【0042】
図3A−3Dは、実施形態に従った、図3Aに示された物体を描像する全般的プロセスを描く。物体はまず、実施形態に従ったレンズシステムによって投影されて歪められ、図3Bにおいて、高解像度、即ちK[MP]の検出器、によって捕捉される。訂正されたより低い解像度、即ち1倍ズームをもったL[MP]の画像、が図3Cに描かれている。1倍画像と同じL[MP]の解像度を有する、訂正された2倍ズーム画像が図3Dに示されている。
【0043】
図4Aは、その上に投影された光に応答して電気信号を出力する検出器475、即ち画像平面、上に物体(図示せず)を描像するための光学システム410を含んだ例示的画像捕捉装置400を描く。それらの電気信号はプロセッサ485に供給されても良く、それは画像を処理し、格納し、および/または表示しても良い。下記するように、電気信号は、検出器のピクセルが画像の歪みと望ましい倍率レベルに対応する軌跡に沿って読み出されるようなやり方でアクセスされる。
【0044】
光学システム410は、第二および第三の表面を有する第一のレンズ420と、第四および第五の表面を有する第二のレンズ430と、第六の表面における開口ストップ440と、第七および第八の表面を有する第三のレンズ450と、第九および第十の表面を有する第四のレンズ460と、第十一および第十二の表面を有する赤外線(IR)フィルター470を含んでいても良く、それら全ては物体を画像平面475上に描像する。
【0045】
この特定の例では、光学システム410は、6mmの焦点距離と、3.4のFナンバーを有していても良い。実施形態に従った光学システム410は、±30°の標準的なFOVについて中心における画像拡張と境界における画像圧縮を有する放射状歪みを提供しても良い。
【0046】
全ての光学的表面の光学デザイン係数と開口と、それからレンズが作られ得る材料は、
以下のように提供される:
【表1】
【0047】
ここで、表面0は物体に対応し、L1は第一のレンズ420に対応し、L2は第二のレンズ430に対応し、APSは開口ストップ440に対応し、L3は第三のレンズ450に対応し、L4は第四のレンズ460に対応し、IRFはIRフィルター460に対応し、IMGは検出器475に対応する。勿論、十分な歪みを実現するその他の構成が使われても良い。
【0048】
レンズを作り出すのに使われるプラスチックは、例えばZeon Chemical Companyによって製造されたE48Rのようなポリカーボネ−ト、アクリリック、PMMA等のあらゆる適切なプラスチックであっても良い。表1中の全てのレンズ材料はプラスチックとして示されているが、その他の好適な材料、例えばガラス、が使われても良い。加えて、各レンズは、その望ましい性能に従って異なる材料で作られても良い。レンズは、選択された材料のためのあらゆる適切な方法、例えば射出成形、ガラス成形、複製、ウェハーレベル製造等、に従って作られても良い。更に、IRフィルター470は、N−BK7以外の好適なIRフィルター材料で作られても良い。
【0049】
図4B−1は、どのように直線のグリッド(破線で示されている)が光学システム410によって歪められるか(曲がった実線によって示されている)を描く。歪んだラインの大きさは、光学軸からの距離に依存する。画像の中心付近では、グリッドは拡張される一方で、周縁のグリッドは収縮している。
【0050】
図4B−2は、どのように直線のグリッドが光学システム410によって歪められるかを示す、再正規化された(中心に対して)レンズ歪みを描く。歪んだラインは、図上の×印によって表され、それは光学軸からの距離と共に増加する歪みを表示している。
【0051】
図4Cは、光学システム410のフィールド曲率を描く。図4Dは、光学システム410の歪みを描く。
【0052】
図4Eは、軌跡に沿ってピクセルにアクセスすることを容易にするのに使われ得るアーキテクチャの例を描く。この例では、プロセッサ485は、歪み関数または修正された画像ピクセルの感応ピクセルへのマッピングを表しているコードおよび/またはデータ491を実装し得る揮発性または不揮発性のメモリー490へのアクセスを有する。プロセッサ485は、ピクセルが軌跡に沿ってアクセスされるように、どのアドレスとその他のコマンドをセンサー475に提供するかを決定するためにコードおよび/またはデータ491を使うことができる。
【0053】
図4Fは、軌跡に沿ってピクセルにアクセスすることを容易にするのに使われ得る別のアーキテクチャの例を描く。この例では、センサー475は、歪み関数またはマッピングを実装するリードロジック492を含むかまたはそれと共に使われる。よって、プロセッサ485は、修正された画像アドレスをセンサー475によって扱われる感応ピクセルアドレスに変換するタスクを伴って、修正された画像中の1つ以上のピクセルについての値を直接要求することができる。ロジック492は、勿論、別のプロセッサ(例えば、マイクロコントローラ)を使って実装されても良い。
【0054】
センサーロジックの追加の実施形態は、図12−22との関係で以下に後で説明する。例えば、いくつかの実施形態では、リードロジックは、歪みに従って軌跡に沿ってセンサーのピクセルを読み出し、プロセッサによるアクセスのために仮想的/論理的読み出し画像を提供するように構成される。例えば、仮想的/論理的読み出し画像が完全にまたは実質的に垂直歪みが無いように、ピクセルが読み出されても良い。プロセッサはそれから、出力画像を生成するために出力画像アドレスを仮想的/論理的読み出し画像中のアドレスにマッピングする関数を使うことができる。
【0055】
図5は、ピクセルをアクセスしている間にプロセッサ485および/またはセンサー475によって行われ得る動作500のフローチャートを描く。例えば、プロセッサ485は、センサー475から画像またはその部分を受け取る画像信号処理(ISP)チェインを含んでいても良い。ブロック502では、修正された画像の最初の行で使われるべきピクセルが読み出される。いくつかの実施形態では、与えられた行からのピクセルは、複数の行からのピクセルに依存する(例えば、その値が1つ以上の垂直的な隣りに依存するピクセル)。よって、「貢献する」ピクセルを読み出すこととそれらのピクセルを補間することを表すためにブロック504と506が含まれている。例えば、下記のように、センサーは一連の弧に沿って読み出されても良い。各弧は複数のピクセルを含んでいても良く、また多数の弧からのピクセルが、与えられた行のピクセルを同定するために補間されても良い。
【0056】
ブロック506では、修正された画像中の出力のために行が組み立てられる。もしより多くの行が修正された画像中に組み立てられるべきであれば、ブロック510において、貢献する行と共に、修正された画像の次の行で使われるべきピクセルが読み出され、出力のための次の行を組み立てるために補間が行われる。
【0057】
一旦修正された画像の全ての望ましい行が取得されれば、512において、画像は、そのコントラストを調整することのように、出力のために改善されて、それからJPEG圧縮またはGIF圧縮のようなその他の目的のために出力されることができる。この例はコントラスト調整を含むが、補間後の生の画像が、別のプロセスまたはコンポーネントによるコントラストおよびその他の調整のために単に提供されることができる。
【0058】
歪みに基づいて軌跡に沿ってピクセルが読み出された時でさえ、歪んだ画像と修正された画像の間にピクセル−ピクセルのマッチングが無いかも知れないので、ピクセル補間が行われても良い。よって、画像の中心が単純により圧縮されたものになる1倍の倍率と、望ましいセクションが画像の中心から切り取られて圧縮無しで(または望ましい倍率に従って、より少ない圧縮と共に)訂正されるより高い倍率ファクターの両方が、両方共実現されても良い。例えば、バイリニア、スプライン、エッジセンス、バイキュービックスプライン等の、あらゆる好適な補間方法が使われることができ、そこでは更なる処理、例えばノイズ除去または圧縮、が画像上で行われても良い。
【0059】
この例では、補間は出力に先立って行われる。いくつかの実施形態では、補間は、読み出し動作が完了した後に、画像全体に基づいて行われることができる。
【0060】
図6は、実施形態に従った光学的ズームシステムが採用され得るデジタルカメラ600の分解図を描く。そこに見られるように、デジタルカメラ600は、レンズホルダー620にしっかり取り付けられるべきレンズシステム610を含んでいても良く、それは一方でセンサー630にしっかり取り付けられても良い。最後に、アッセンブリ全体がエレクトロニクス640にしっかり取り付けられても良い。
【0061】
図7Aは、その中に一体化されたデジタルカメラ600を有するコンピューター680の斜視図を描く。図7Bは、その中に一体化されたデジタルカメラ600を有する移動電話690の前面および側面図を描く。勿論、デジタルカメラ600は、示されたものとは別の位置において一体化されていても良い。
【0062】
より一般的に、本主題に従って構成された感応デバイスは、移動デバイス/電話、パーソナルデジタルアシスタント、デスクトップ、ラップトップ、タブレット、またはその他のコンピューター、キオスク等を含むがそれらに限定はされない、あらゆる好適なコンピューティングデバイス中に組み込まれることができる。別の例として、感応デバイスは、機械(例えば、自動車等)セキュリティシステム等を含むがそれに限定はされない、カメラが使われるあらゆるその他の装置またはシナリオに含まれることができる。
【0063】
よって、実施形態に従って、歪み訂正のための後処理と組み合わされた固定されたズームレンズを使って、光学的ズームが実現され得る。検出器中に使われるピクセルの数は、ズーム能力をサポートするために望まれる名目上の解像度を超えて増加されても良い。
【0064】
図8は、感知された通りの画像中の歪みに対応する軌跡に沿って画像センサーを読み出す例示的方法800を描く。例えば、画像センサーは、上の教示内容に従って構成された光学系または既知の歪みを作成するその他の光学系によって作成された歪んだ画像を取得するために使われても良い。方法800は、1つ以上のアドレスをセンサーに提供するプロセッサによって実行されても良く、またはセンサー自体と関連つけられたロジックまたはプロセッサによって実行されても良い。
【0065】
ブロック802は、修正された画像中の望ましいピクセルアドレスを同定することを表す。例えば、修正された画像のピクセルの与えられた行についての要求のように、アドレスまたはアドレスのレンジが同定されても良い。別の例として、「リード」コマンドが提供されても良く、それは修正された画像の全てのピクセルが順番に出力されるべきであることを指し示す。ブロック804では、修正された画像ピクセルを1つ以上の感応ピクセルにマッピングする関数F(x,y)がアクセスされるか評価される。F(x,y)は更に、適切な軌跡が追従されることができるように、望ましい倍率のための入力変数を含んでいても良い。
【0066】
例えば、テーブルが、行、列および倍率ファクターに基づいて修正された画像ピクセルアドレスを感応ピクセルアドレスに相関させても良い。別の例として、ロジックまたはプロセッサが、修正された画像中の各望ましいピクセルについて感応ピクセルのアドレスまたは複数アドレスを計算するためにF(x,y)の表現をアクセスして評価しても良い。更なる例として、センサーロジックが、望ましい軌跡に沿ってピクセルを選択的に読み出すために適切に構成されたコンポーネンツ(例えば、ロジックゲート等)を特徴として持っていても良い。
【0067】
ブロック806では、適切にタイミングが合わせられた信号がセンサーに送られる。この例では、ピクセルが水平軸に沿って読み出される(列選択)間に、垂直アクセス(行選択)が感応ピクセルの適切な行を選択するようにタイミングを合わされる。
【0068】
よって、センサーは、望ましいピクセルの最初のものに対応するセンサー上の位置から始まって歪みに対応する曲線に沿った「軌跡ローリングシャッター」と共に動作させられても良い。例えば、シャッターは、円形の歪みが考慮される時には、頂上に向かって上にアレイの左側の垂直中点の近くを動き、それからアレイの右側の垂直中点に向かって戻っても良い。
【0069】
ピクセル曲線のリセットと曲線の後続の読み出しの間の期間は、積分時間Tとして定義される。この時間は、デジタルカメラの制御された露出時間である。
【0070】
露出は、予め決められた積分時間Tについて画像センサーの全てのピクセルについて同時に始まる。フレーム時間は、単一のフレームを読み出すのに要求される時間であり、それはデータ読み出しレートに依存する。単一ローリングシャッターポインターと単一読み出しポインターについては、積分時間Tはフレーム時間よりも短いかもしれない。いくつかの実施形態では、各特定の曲線kが、フレーム時間中にシャッターポインターと読み出しポインターによって一度アクセスされる。従って、軌跡ローリングシャッターを使用することは、各ピクセルについて同一の望ましい積分時間Tの使用を可能とする。複数の弧が、センサーと修正された画像の行についてのピクセル値を決定するのに使われた感知されたピクセル値から取り出されることができる。上記の通り、異なる弧が異なる倍率レベルについて追従されても良く、修正された画像中のピクセルの各行が感知されたピクセルの1つ以上の弧から決定されても良い。
【0071】
図9は、行1−5と列1−11に配列された複数のピクセル900の例を描く。図9の例では、アドレスライン(行選択ラインRS1のような)を使って与えられた行が選択され、それから列選択ライン(列選択ラインCS1、CS2のような)を使って個別のピクセルが読み出されるが、列が選択されてそれから行によって個別のピクセルが読み出されることもできる。図9は、それぞれ実線、点線および破線によって3つの例示的な軌跡を描く。
【0072】
修正された画像中の与えられた行を作成するのに使われたピクセル値は、センサーを使って検出された通りの画像中の多数の行のピクセルに跨って拡がっていても良い。加えて、修正された画像中の同じ行にあるピクセル値は、感知された通りの歪んだ画像中の重複しない行に跨って広がったピクセルに依存していても良い。
【0073】
例えば、実線は全体的に、修正された画像中のピクセルの上方の行を決定するのに使われるピクセル902、904、906、908、910、912、914、916、918、920、922、924、926、および928を含むことができる軌跡の例を描く。この例における軌跡を描いている実線矢印およびその他の矢印は、描写の容易さのために簡略化されており、例えば図9に描かれた通りの軌跡は、上と下のリスト中に含まれたいくつかのピクセルを跨ぐ一方、上のリストに含まれたその他のピクセルは矢印によって跨れていない。上記の通り、修正された画像の実際のピクセルは、感知された画像中のピクセルの近傍を補間することによって決定されても良く、そのため軌跡の特定の「幅」は変動することができる。
【0074】
いずれにせよ、この例示的スパンのピクセルは、アレイの左側の行3−4に入り、アレイの(水平的)中心に向かって動いてそれから行2−3に、そしてそれから1−2に入り、軌跡がアレイの右側に動くにつれてそれから行2−3で、そしてそれから行4で再度見つけられる。
【0075】
もし図9に描かれたピクセルが順番に(即ち、頂上から底へ)読み出されるべきであったならば、描像装置は、修正された画像の最初の行を取得するために行1−4の全てを捕捉するために十分なフレームバッファーメモリーを要求するであろう。実際には、修正された画像中の与えられた行のピクセルがもっと多くの行をスパンすることを歪みが引き起こし得る。例えば、修正された画像の最初の行を生成するのに使われたピクセルを取得するために、従来のアッセンブリは、センサーの総ラインのおよそ35%に等しいフレームバッファーメモリーを要求し得る。
【0076】
しかしながら、軌跡に沿って読み出すことによって、要求されるメモリーは削減されることができ、例えば、装置は、修正された画像中の関心のある行についてのピクセル値を決定するために使われるピクセルを保持するのに十分なフレームバッファーメモリーだけを含む必要がある。例えば、もし修正された画像中の各単一のピクセルについて3つのピクセルの正方形が補間されるならば、3つのバッファーラインが使われることができる。
【0077】
点線は、中心により近い修正された画像のピクセルの第二の行を取得するのに使われた感応ピクセルの軌跡を表す。この例では、ピクセル932、938、906、940、942、944、946、948、および950が使われる。なおピクセル906は、第一の行と共に修正された画像の第二の行を決定するのに使うために含まれている。
【0078】
いくつかの歪みについては、修正された画像の中央に向かって位置する行からのピクセルが、修正された画像のエッジの1つの近くに位置する行からのピクセルよりも歪んだ画像のより少ない行に跨って広がっていても良い。例えば、破線は、第二の行よりも画像の中心により近い修正された画像中のピクセルの第三の行を取得するのに使われた感応ピクセルの軌跡を表す。この例では、ピクセル930、934、952、954、956、958、960、および962が全て使われる。再度、第二の行について使われたのと同じ感知されたピクセルのいくつかが、修正された画像の第三の行についてのピクセル値を決定するのに計算に入れられる。第三の軌跡は、それが画像の中心により近い(かつ、この例では歪みが中心にある)ので、「より平坦」であり、この例では2つの行だけをスパンする。
【0079】
その最近傍と共に各ピクセル(u,v)についてのそれぞれの曲線に、後続の行と後続の列からの最近傍から、相関プロセスが施されることができる。F(x,y)マップ、例えば2次元システム上でシフトされるべき多数のピクセルを使って、それはフレームのそれぞれの曲線上に施される。このプロセスは、フレームの各曲線について、曲線毎に、全てのピクセル上で繰り返される。
【0080】
図10は、曲率から直線に情報を変換するための別のやり方を描く。この実施形態では、変換のいくつかまたは全ては、センサーデザインレベル上で実現されることができるので、読み出し承認を与えるクロックライン(垂直軸)へと、ピクセル自体からの情報の読み出し(水平軸)へのピクセルの関係付けは、計画された曲率に従ってセンサー自体中で行われる。レンズの訂正と僅かな変更に適応するために、この方法は、いくつかの連続した曲率に沿った情報をバッファー中に変換することによってより柔軟にされることができる。そのような場合、読み出し軌跡中の僅かな変更は、第一の方法に従って決定されても良い。
【0081】
言い換えると、アドレスは行と列に従って順序付けされていない。代りに、図10に「行」Nと「行」N+1において示されているように、技術的には異なる行からの複数のピクセルが、軌跡に沿ってお互いと(行は実際には軌跡なので「」中の行と)関連付けられている。代りに、1つ以上の弧が選択され、それから弧に沿った個別のピクセルが順番に読み出されることができる。この例では実線と点線を使って2つの軌跡が示されている。この例では、センサーロジックは、読み出しのためのクロックが列の順番にリンクされないように構成されている。代りに、ピクセルは、対応する軌跡中でのそれらの順番にリンクされる。この例はまた、或る軌跡については、歪みの効果のために同じピクセルが2度読み出されても良いことを描き、例えば、ピクセル906は「行」Nに沿って読み出された3番目のピクセルであるが、「行」N+1に沿って読み出された5番目のピクセルでもある。
【0082】
柔軟性はまた、この方法については、いくつかの曲線のアドレスを読み出し、よってバッファーの使用を避けることによって増加されても良い。上記した通り、軌跡はピクセルの単一のラインまたはピクセルの複数のラインからなっていても良く、および/またはピクセルの単一の行を出力するのに多数の弧が使われても良い。ピクセル軌跡を読み出すための基礎をなすロジックは、センサー自体中に直接、または読み出し要求を従来のセンサーへの適切なアドレッシング信号に翻訳するモジュールとして、含まれていても良い。ロジックは、異なる倍率レベルについての異なる読み出し軌跡の使用に適応するように構成されていても良い。
【0083】
曲率から直線への情報の変換と共に生じる別の問題は、曲線が中心垂直軸に近い程、それらはより稠密であるという事実から由来する。この密度は、或るピクセル上でのいくつかのラインの重複に繋がる(例えば、図10の両方の軌跡に沿って含まれているピクセル906を参照)。よって、連続する曲率を読み出す時には、それの情報が既に取り出されており、それは読み出しプロセスの一部としてリセットされており、それにより読み出された情報がリセットされているところのピクセルが読み出されることがしばしば起こる。リセット後に関係の無い情報を読み出すことを防ぐために、重複する曲線を含む/有するピクセルの前の読み出しからの情報をコピーするコマンドが、読み出しデザイン中に導入されることができる。
【0084】
曲率から直線に情報を変換することは、異なる長さの行を生み出す。センサーの中心の水平ラインを表す行が最も短く、曲線が中心から遠くなる程、修正後にそれはより長くなる。同一の長さの行を要求するデータ処理における一様性を作り出すために、短い行中の欠けている情報は、それらが後に無視されても良いようにゼロを使って補われることができる。代替的に、各行中の本当の情報を含んだピクセルの期待された数が予め決められることができる。
【0085】
図11は、修正された画像と歪んだ画像のピクセルをマッピングする関数の例を描く。描写では、Mはセンサーの高さの2分の1を表し、Wはセンサーの幅の2分の1を表す。R_sensorは修正された画像中のピクセルの標準的位置である一方、R_disは歪みによるそれらのピクセルの新たな位置を表す。図11は、R_sensorをR_disに関係させる。この例では、歪みは円形であり、対称的であり、センサー上に中心があるが、ここに説明される技術は、非対称的であるかそうでなければ感知されたエリアに跨って変動する歪みにも適用することができる。
【0086】
図12は、最近傍整数マッピングを使ってどのようにセンサーピクセルのアレイ1210が出力画像ピクセルのアレイ1212にマッピングされることができるかの例を示す。一般に、上に説明したようにレンズ歪みと望ましいズームファクターを考慮に入れるために、いくつかの実施形態ではアドレッシング方法が使われることができる。例えば、出力画像中のピクセルは、その座標が(u,v)である物理的センサーピクセルに対応する(x,y)座標を有することができ、
【数7】
【0087】
で表現される関係をもち、ここで
【数8】
【0088】
は光学軸からの半径であり、fはレンズによって導入された放射状歪みを表す関数である。レンズの中心からのはずれ(Δx,Δy)を考慮に入れると、この関係は、
【数9】
【0089】
となる。
【0090】
整数出力座標(x,y)は多くの場合に分数センサー座標(u,v)に変換されても良い。よって、何らかの類の補間方法が使われることができ、十分な画像品質を達成するために、補間は十分に高度なものであるべきである。例えば、もし画像データがBayer形式であれば、補間手順は、局所的非モザイク化(local demosaicing)によってのように、Bayer適応されたものであるべきでる。但し、説明の簡単のために、実施形態は、最近傍(NN)補間の簡略化された場合を使って以下では説明される。特定には、図12の各出力ピクセル(x,y)の値は、([u],[v])におけるセンサー値であると設定され、括弧[]は最も近い整数値を生み出す補間を表記する。
【0091】
最近傍の場合をまとめると、出力画像Ioutは、入力画像Iinの関数として表現されることができ、入力画像Iinは光をピクセルのアレイ(u,v)上に描像することから結果として得られる。
【0092】
Iout(x,y)=Iin([u],[v]) (9)
図13は、レンズによって歪められた通りの水平ライン1310の例を示し、歪められたラインは1312において示されている。図13の描写はまた、1313において示されるように、どのように一つの水平ライン1311が最大垂直歪みを受けるかを示す。図9−10に対して上記した通り、光をセンサー上に描像するのに使われた光学系に依存して、いくつかの実施形態ではかなりの垂直歪みが起こることができる。
【0093】
図14は、出力画像の様々な単一の行を直接(x軸上の行数で)、センサーピクセルの複数の行に跨ったその行に対応するピクセル値を広げる垂直歪みを考慮に入れて、読み出すのに要求される8メガピクセルラインバッファーの数の(チャート1400のy軸上の)例示的値を示しているチャート1400である。この場合、通常の8Mp(3264×2448)センサーが、1.3倍の歪みを導入するレンズと共に使われ、意図された出力画像は5Mp(2560×1920)のサイズである。見ることができるように、軌跡、即ちF(x,y)マップ、を単に追従することは、最大に歪んだ行に適応するために十分なラインバッファーが含まれていることが必要とされるので、いくつかの実施形態では非常に大きな数(〜166)のラインバッファーに結果としてなることができる。
【0094】
いくつかの実施形態は事実、歪み関数と好適に構成されたバッファーメモリーに基づいたマッピングを使ってセンサーのピクセルを読み出しても良い。但し、追加の実施形態は、歪み関数に基づいて軌跡に沿ったセンサーのピクセルをワイヤリングすることによってメモリー要求を克服しても良い。
【0095】
図10に対して簡単に上記した通り、そのようなセンサー配置は、行と列の通常の形で画像情報をもはや提供しないセンサーに結果としてなる、即ちBayer画像がばらばらにされる。加えて、或るピクセルは「2度」読み出される必要があり得る一方、その他のピクセルは軌跡に沿って横たわっていないかもしれず、画像中の「穴」の潜在性に結果としてなる。以下に説明するように、実施形態は全てのセンサーピクセルをカバーするのに十分なロジックを使用し、同時に、歪みと整合したやり方でセンサーピクセルを読み出すことができる。
【0096】
図15は、歪んだ読み出し(「仮想的センサー」または「論理的センサー」)を使用するマルチステップの読み出しプロセスと出力ピクセルを生成するための訂正アルゴリズムと共に、感応デバイス1500の例を描いた図である。1502において示されるように、感応デバイスは、リードロジック1504とバッファー1506にインターフェースされたセンサーピクセルのアレイからなる。プロセッサ1508は、センサーロジックにリードコマンドを提供し、バッファー1506からピクセル値を読み出すようにプロセッサを構成するプログラムコンポーネンツをメモリー(図示せず)中に含む。
【0097】
リードロジック1504は、画像がセンサーピクセルの値に基づいてバッファー中に格納できるように、アレイ中のセンサーピクセルとバッファー1506中の対応する位置の間に接続を提供する。リードロジックは、プロセッサ1508によって生成された読み出し要求に応答して対応するセンサーアレイアドレスにおけるピクセル値を単にサンプリングするように構成されることができる。そのような場合には、出力画像中の対応するアドレスは、歪み関数に従ってプロセッサによって決定されることができる。
【0098】
但し、いくつかの実施形態では、リードロジック1504は、リードコマンドに応答してセンサーピクセルのアレイからの1つ以上のピクセル値をサンプリングし、歪み関数に基づいてピクセルをバッファーに提供するように構成されている。歪み関数のために、センサーアレイ中の対応するピクセルアドレスは一般に、バッファー中に格納された通りの画像中の対応するピクセルアドレスとは異なる列アドレス、異なる行アドレス、または異なる列アドレスと異なる行アドレスの両方を有する。特に、リードロジック1504は、歪み関数に対応する複数の軌跡に沿ってピクセルを読み出すように構成されることができる。いくつかの実施形態では、軌跡の異なるセットは異なるズームファクターに対応し、即ち、前述したように異なるズームレベルが望まれる時には異なる軌跡が使われても良い。
【0099】
1510において示されるように、センサーピクセルアレイは、水平および垂直歪みの両方を特徴として有する。リードロジック1504は、アレイ中のピクセル値を読み出し/サンプリングし、1512において示される論理的/仮想的読み出しアレイを提供するように構成されることができる。論理的読み出し1512は、それ自体がいくらかの歪み、つまり水平ゆがみを保持する、「仮想的センサー」または「論理的センサー」に対応することができる。例えば、図15に示されるような出力画像1514を生み出すために、プロセッサ1508が論理的行値を読み出し、残留水平歪みを訂正するための訂正アルゴリズム(および必要に応じてその他の処理)を実行するように構成されていることを伴って、読み出し中に、論理的行がバッファー1506中に格納されることができる。
【0100】
リードロジック1504によって使われた軌跡のために、垂直歪みは、論理的/仮想的読み出しアレイ中でさえ、除去されるか実質的に除去される。加えて、リードロジックは、各軌跡について、論理的読み出し中の対応する論理的読み出し行が提供され、論理的行はお互いと同じ数の列を有し、各列はセンサーアレイの列の1つに対応しているように、構成されることができる。
【0101】
軌跡に沿って読み出すためのリードロジック1504の使用は、有利なことにメモリー要求を削減し、センサー列配置を保存することができる。例えば、説明の目的で仮想的/論理的読み出し画像1512全体が図15に示されているが、実際には仮想的/論理的読み出し画像のいくつかの行だけが出力画像の行を組み立てるためにメモリー中に格納される必要があっても良い。
【0102】
リードロジック1504は、あらゆる好適なやり方で実装されることができ、リードロジック1504の特定の実装は、この開示の検討後の当業者の能力内であるはずである。例えば、センサーアレイの様々なピクセルは、どの軌跡が与えられた時間間隔中にサンプリングされるべきであるかに依存して選択可能に可能とされた経路を提供するために、例えばCMOSトランジスターを使って構築された、好適に配置されたロジックゲートを使ってバッファーラインに条件付きでリンクされることができる。例えば、ロジックゲートは、異なるズームレベルと関連付けられた軌跡経路の異なるセットが選択されるようにデザインされることができる。特定のズームレベルが入力された時、一連の対応する軌跡が、軌跡に沿って全てのピクセルを通して循環し、それから次の軌跡へと、サンプリングが完了するまで、物理的アレイをサンプリングするのに使われることができる。
【0103】
図16は、物理的センサーアレイ1610、仮想的/論理的読み出しアレイ1612、および出力画像1614中の値の間の関係を示した図である。上記の通り、センサーピクセルアレイと出力画像アレイの間の基本的関係は、
Iout(x,y)=Iin(u,v) (10)
として表現されることができる。基本的関係は、アレイ1610中のピクセルとアレイ1614中のピクセルの間の非破線として図16に示されている。但し、仮想的/論理的アレイ
【数10】
【0104】
中の読み出し順序座標は、
【数11】
【0105】
によって定義されることができる。よって、順序が替えられたセンサー出力(即ち、仮想的または論理的センサーアレイ1612)中の画像は、
【数12】
【0106】
および
Iout(x,y)=Iin(u,v)=IR/O(u,y) (13)
によって定義されることができる。
【0107】
(u,v)におけるピクセル値を出力画像位置(x,y)にマッピングする標準的アルゴリズムを使うのではなく、アルゴリズムは、出力画像アレイ1614と読み出し画像アレイ1612のピクセルの間の破線によって示されるように、
【数13】
【0108】
における仮想的/論理的センサーピクセル値を、出力位置(x,y)における値に対応するものとして決定することができる。
【0109】
上に概略を説明した解決策を実装するために、連続的な読み出しの場合から示唆される考察に基づいて離散的座標が使われる。つまり、水平出力ラインは、センサー上の歪んだ曲線として現れる。例えば、以下の表現によって記されるように、出力画像中のラインy0は、センサーアレイ上のその座標が
【数14】
【0110】
である曲線として現れる。
【0111】
このジオメトリーに照らして、リードロジックは、各仮想的/論理的センサー行が各物理的センサー列からの一つのピクセルからなるように構成されることができる。特に、図17に陰影付きピクセルによって示されるように、物理的センサーアレイ1700のピクセル値をサンプリングするのに使われる各軌跡1712と1714は、物理的センサーアレイ1700の各列について一つのピクセルを特徴として有する。これは、(1)ラインバッファーのためのメモリーの量を最小化する、(2)各センサーピクセルが読み出しのために接続された配置、(3)1度より多く接続されたピクセルが無い、(4)接続方法は関数と単純なロジックによって記述されることができ、それは実装を容易にする、というような利点を提供することができる。
【0112】
図18は、接続ロジックを構成するのに使用するための軌跡に基づいてどのように物理的センサーピクセルが仮想的/論路的センサーピクセルと関連付けられることができるかの例を描く。この例では、アレイ1800は、曲線1802として描かれた歪み軌跡によって横切られる。左の第一の列からから始めて、アレイの各ピクセルは、各列の中心を通して想像ライン(1804、1806、1808)に沿って頂上から底までスキャンされることができる。曲線1802が交差された時はいつでも、その中で交差が起こるピクセルが次の列中で同じ曲線との交差の場所であるどれかのピクセルと関連付けられる等々のように、その中で交差が起こるピクセルが好適なロジックを使って接続される。結果は、各曲線が物理的センサーの列の数と等しいピクセルの行と関連付けられることになる。もし2つの曲線がピクセルを通過すれば、交差分析は頂上から底に進むので、ピクセルは最も上の曲線と関連付けられる。
【0113】
図19は、いくつかの実施形態において、どのように軌跡密度が歪んだ画像に跨って変動することができるかを描く。1900において示されるように、歪み曲線は一様に分布はしていない。特に、曲線は1904よりも1902と1906においてより稠密である。上記の例示的読み出し順序構築は変動する密度をそれ自体では考慮に入れていない。
【0114】
以下の問題点のいずれかまたは両方が結果としてなり得る:(1)連続した曲線は、例えば倍率が最大である低ライン密度のエリア中で、ピクセルをスキップし得て、或るピクセルは曲線と関連付けられていないかもしれない;および/または(2)2つの連続した曲線は、例えば、低いかまたは負の倍率による高ライン密度のエリア中で、同じピクセルと交差し得る。従来のピクセルは、読み出されたときに放出される、即ちピクセルは1度だけ読み出されることができる。もし仮にピクセルが複数回読み出されることが可能であったとしても、二重読み出しは描像プロセスを不必要に遅延させ得る。
【0115】
図20A−20Bは、いくつかの実施形態において、軌跡密度によるスキップされたピクセルの問題を避けるためにどのように追加の軌跡が使われることができるかを描く。図20Aは、2つの軌跡2002と2004と共に物理的センサーピクセルのアレイ2000を示す。陰影によって指し示されるように、各軌跡は各列からの単一のピクセルと関連付けられている。但し、低密度のために、いくつかのエリア2006、2008および2010は、読み出されない1つ以上のピクセルを特徴として有する。
【0116】
図20Bは、スキップされたピクセルの問題点を緩和するための追加の曲線2012の使用を描く。歪みマップに基づいて、歪みがより一様であるように、追加の曲線が含まれることができる、別の言い方をすると、一様な読み出しが起こるように仮想的/論理的読み出しアレイ中の行の数を増加させることができる。仮想的行の最小数は、最適化、即ちレンズによる最大実効倍率、を使って計算することができる、例として、1.3倍の最大倍率をもったレンズについて、歪み曲線密度は元の密度の130%に増加されることができ、結果として得られる仮想的/論理的読み出しアレイは物理的センサーよりも1.3倍大きな高さをもつ。
【0117】
図20Bに示されるように、仮想的/論理的アレイの2つの行を使ってサンプリングされた同じエリアは、3つの行で置き換えられることができる。但し、スキップされたピクセルに対処する際に、二重読み出しの問題が増加され得る。この問題点は、しかしながら、「ダミー」ピクセルを使うことによって解決されることができる。
【0118】
図21A−21Dは、複数の曲線との交差により物理的センサーピクセルを2度読み出すことを避けるために、どのようにダミーピクセルが使われることができるかを描く。図21Aは、アレイ2100を横切っている曲線2102、2104、および2106を示す。二重読み出し状況は2108、2110、2112、2114、2116、2118、および2120において示されている。一般的に言って、いくつかの連続した曲線によって交差されたピクセルの値は、仮想的/論理的読み出しアレイ中のいくつかの連続した行に割り当てられるべきである。但し、上記の通り、現行のセンサーデザインでは、ピクセル値は1度だけ物理的に決定され得る。
【0119】
いくつかの実施形態では、この問題点に対処するために、各物理的ピクセルは、時系列的順序でピクセルと交差する最初の曲線との関係で1度だけサンプリングされる。後続の曲線については、ダミーピクセルがプレースホルダーとしての役目を果たすうように仮想的/論理的アレイ中に出力されることができる。これは、例えば、サンプリングされるべきセンサーピクセルをピクセルと交差する最初の曲線の一部として接続するためのロジックを使うことによって、達成されることができ、ピクセル値は、曲線のその他のピクセルと共に論理的/仮想的読み出しアレイの対応する行にルーティングされる。但し、同じピクセルと交差するその他の曲線については、対応する行についての出力ロジックは、メモリー中に格納された通りのその他の行中のピクセルのためのプレースホルダーを提供するために、グラウンドまたは電圧源(即ち、論理的0または1)にワイヤリングされることができる。
【0120】
最終結果はアレイ2122に示されており、それは曲線2102、2104、および2106に対応する論理的/仮想的ピクセルアレイの3つの行を表す。見ることができるように、黒い陰影によって指し示されるようにダミーピクセル2124、2126、2128、2130、2132、2134、および2136が提供されている。例えば、ダミーピクセル2124の場合には、実際のピクセル値は上の行についてサンプリングされた、等々である。ダミーピクセルは、図21C中の矢印によって指し示されるように同じ列中のダミーピクセルの上の非ダミーピクセルの値に基づいて、それらの望ましい読み出し値に解決されることができる。これが21Dにおいて示されており、そこでは2124’、2126’、2128’、2130’、2132’、2134’、および2136’は今は関連付けられた値を有する。
【0121】
結果として得られる仮想的/論理的読み出しアレイは、物理的センサー中のピクセルのアレイ中の列の数と等しい列の数を特徴として有し、行はセンサーに跨る各軌跡に対応している。読み出し順序が与えられると、センサーにアクセスしているプロセッサは、必ずしもセンサーインターフェースからの情報に頼ること無しに、センサーから来るピクセルストリームを理解すべきである。プロセッサは、センサー内のプロセッサブロックであるかまたは、リードロジックとバッファーを介してセンサーにアクセスしている別のプロセッサであっても良い。
【0122】
プロセッサの視点からは、センサーは、論理的インターフェース(即ち、仮想的/論理的アレイ中に結果として得られる読み出し)を介してより効率的にアクセスされるように再編成された物理的メモリーのセットとして見られることができる。出力画像を生成するために使われるアドレッシングアルゴリズムは、全体的アプローチを離散化することによって開発されることができる。
【0123】
図22は、出力ピクセル、仮想的/論理的センサーピクセル、および物理的センサーピクセルの間の関係を描く。特定には、図22は、物理的センサーピクセル値のアレイ2202、センサーのリードロジックによって提供された仮想的/論理的読み出しアレイ2204、および出力画像のピクセル2206の望ましいアレイを描く。
【0124】
前記の通り、出力およびセンサー画像は、
Iout(x,y)=Iin(u,v) (15)
によって関係している。
【0125】
出力画像ピクセル座標(x,y)とセンサー座標(u,v)の間の関係は、
(u,v)=F(x,y) (16)
として便利に表現される。
【0126】
加えて、仮想的/論理的読み出しアレイは、
Iout(x,y)=Iin(u,v)=IR/O(u,y) (17)
の表現で表されることができ、ここで対応する読み出し座標は水平センサー座標(u)と出力垂直座標(y)を取ることによって与えられる。
【0127】
離散的な場合については、出力画像と物理的センサー画像の間の逆マッピングを使って中間出力座標をまず定義する:
【数15】
【0128】
出力座標
【数16】
【0129】
は、式16で求められたセンサー座標(u,v)の最近傍ピクセル([u],[v])に逆マッピングF−1を施すことによって求められる。
【0130】
よって、出力画像2206と仮想的/論理的読み出し画像2204の間の関係は、
【数17】
【0131】
と述べることができ、ここで
【数18】
【0132】
である。
【0133】
関係は図22にも示されている。従って、読み出したピクセルに基づいて出力画像を生成することは、出力画像ピクセル座標を論理的画像ピクセル座標に関係させる関数に従って論理的出力行中のピクセルにアクセスすることからなることができる。
【0134】
いくつかの実施形態では、上の技術に従って構成された歪んだ読み出しをもったセンサーは、3つという少なさのラインバッファーを使った歪んだ画像の訂正を許容することができる。歪んだ読み出しは、離散化によるプラスマイナス1垂直ピクセルの誤差まで垂直歪み全体を補償することができる。実際には、作業ウィンドウを利用するためにより多くのラインバッファーが使われても良い。例えば、N×N作業ウィンドウについては、3+N個のラインバッファーが最小数であろう。
【0135】
ここで使われたように、「および/または」という用語は、関連する列挙された項目の1つ以上のあらゆる全ての組み合わせを含む。更に、「第一」、「第二」、「第三」等のような用語が、様々な要素、コンポーネンツ、領域、層および/またはセクションを記載するのにここで使われても良いが、それらの要素、コンポーネンツ、領域、層および/またはセクションはそれらの用語によって限定されるべきではない。それらの用語は、1つの要素、コンポーネント、領域、層および/またはセクションを他から区別するためにだけ使われている。よって、第一の要素、コンポーネント、領域、層および/またはセクションは、ここに記載された実施形態の教示内容から逸脱することなく、第二の要素、コンポーネント、領域、層および/またはセクションと呼ばれることもできる。
【0136】
「下方の」、「下」、「下方」、「上」、「上方」等の空間的に相対的な用語が、図中に描かれたように、1つの要素または特徴の別の要素または特徴との関係を記述する記載の容易さのためにここで使われても良い。空間的に相対的な用語は、図中に描かれた向きに加えて、使用または動作中の装置の異なる向きを包含することが意図されていることが理解されるであろう。例えば、もし図中の装置がひっくり返されれば、他の要素または特徴の「下」または「下方の」として記載された要素は、他の要素または特徴の「上」に向くことになるであろう。よって、例示的用語「下」は、上と下の向きの両方を包含することができる。装置はそうでないように向けられても良く(90度回転されてかまたはその他の向きで)、ここで使われる空間的に相対的な記載はそれに応じて解釈される。
【0137】
ここで使われたように、単数形「a」、「an」および「the」は、文脈がそうでないことを明確に指し示さない限りは、複数形も含むことが意図されている。用語「からなる」、「からなっている」、「含む」および「含んでいる」は、述べられた特徴、整数、ステップ、動作、要素、コンポーネンツ等の存在を指定するが、1つ以上のその他の特徴、整数、ステップ、動作、要素、コンポーネンツ、グループ等の存在またはそれらへの追加を除外しないことが更に理解されるであろう。
【0138】
本発明の実施形態がここに開示され、特定の用語が採用されたが、それらは一般的で記述的なセンスでのみ使われ解釈されるべきものであり、限定のためのものではない。本発明の実施形態はハードウェア実装に対して記載されたが、本発明の処理は、例えば、マシーンによってアクセスされた時に、センサーピクセルにアクセスするかそうでなければデータの歪みを無くすることをマシーンに引き起こすデータを含んだマシーンアクセス可能な媒体を有する製造品によって、ソフトウェアで実装されても良い。例えば、コンピュータープログラム製品は、センサーにアクセスし、出力画像ピクセルアドレスをセンサーアドレスにマッピングする関数に従って、および/または出力画像ピクセルアドレスを論理的/仮想的読み出し画像中のピクセルアドレスにマッピングする関数に従って、ピクセルを読み出すようにプロセッサを構成するプログラム命令を実装したコンピューター読み出し可能な媒体(例えば、メモリー、ディスク等)を特徴として有していても良い。
【0139】
更に、上の説明はピクセルが検出器に跨って等しいピッチを有すると仮定しているが、圧縮のいくつかまたは全ては、検出器に跨るピッチを変えることによって実現されても良い。従って、本発明の精神と範囲を逸脱することなく、形および詳細における様々な変更がなされても良いことが当業者によって理解されるであろう。
【図1A】
【図1B】
【図2A】
【図2B】
【図3A】
【図3B−3C】
【図3D】
【特許請求の範囲】
【請求項1】
物体を検出器上に描像するように構成された光学システムであって、光学システムは画像中に歪みを導入するものと、
物体の出力画像を生成するように構成されたプロセッサであって、出力画像は、画像の歪みに対応する軌跡に基づいて検出器から読み出されたピクセル値を使って生成されるものと、
を含む画像捕捉装置。
【請求項2】
プロセッサは、検出器の行と列に沿ってサンプリングされたピクセル値を読み出し、画像の歪みに対応する複数の軌跡と出力画像を生成するための望ましい倍率レベルを使うように構成されている、請求項1記載の画像捕捉装置。
【請求項3】
軌跡は、光学システムと関連付けられた歪み関数から決定される、請求項1または2記載の画像捕捉装置。
【請求項4】
軌跡は、センサーピクセルアドレスを画像ピクセルアドレスにマッピングするテーブルから決定される、請求項1または2記載の画像捕捉装置。
【請求項5】
検出器は、リードコマンドに応答して軌跡に沿ってピクセルを読み出すように構成されている、請求項1記載の画像捕捉装置。
【請求項6】
検出器は、複数の軌跡に沿ってピクセルを読み出し、複数の論理的読み出し行を提供するように構成されたロジックを含み、各論理的読み出し行は一つの軌跡に対応し、検出器の各列のための単一のピクセルを有しており、
プロセッサは、出力画像ピクセルアドレスを論理的読み出し画像ピクセルアドレスと関係させる関数に従って出力画像を生成するために、複数の論理的読み出し行中のピクセル値を使うように構成されている、
請求項5記載の画像捕捉装置。
【請求項7】
移動電話またはコンピューティングデバイス中に組み込まれた、請求項1から6の一つに記載の画像捕捉装置。
【請求項8】
センサーピクセルのアレイと、
リードコマンドに応答してセンサーピクセルのアレイからの1つ以上のピクセル値をバッファーメモリーに提供するように構成されたリードロジックと、を含み、
リードロジックは、複数の接続を含み、各接続はセンサーピクセルのアレイ中の1つのアドレスにおける1つのピクセルをバッファーメモリー中の1つの位置に接続し、位置はバッファーメモリー中の画像中の一つの対応するピクセルアドレスを表しており、
センサーピクセルのアレイ中のピクセルのアドレスは、バッファーメモリー中の画像中の対応するピクセルアドレスとは、異なる列アドレス、異なる行アドレス、または異なる列アドレスと異なる行アドレスの両方を含む、
感応デバイス。
【請求項9】
リードロジックは、軌跡に沿ってセンサーピクセルのアレイから複数のピクセルを読み出すように感応デバイスを構成し、光学システムの歪み関数に対応する軌跡は、センサーピクセルのアレイ上に視野を描像するように構成されている、請求項8記載の感応デバイス。
【請求項10】
軌跡は更にズームファクターに対応する、請求項9記載の感応デバイス。
【請求項11】
リードロジックは、複数の軌跡に沿ってセンサーピクセルのアレイ中の複数のピクセル値を読み出し、各軌跡についての論理的読み出し行を提供するように感応デバイスを構成し、各論理的読み出し行は、センサーピクセルのアレイの各列に対応する単一の列を有する、請求項8記載の感応デバイス。
【請求項12】
リードロジックは、軌跡の一様な分布に従って、センサーピクセルのアレイ中の複数のピクセル値を読み出すように感応デバイスを構成し、
リードロジックは、もしセンサーピクセルのアレイ中の対応するピクセルの値が隣接する論理的読み出し行の同じ列中のピクセルに提供されれば、ダミーピクセル値を論理的読み出し行中のピクセルに提供するように感応デバイスを構成する、
請求項11記載の感応デバイス。
【請求項13】
移動デバイスまたはコンピューティングシステム中に組み込まれた、請求項8から12の一つに記載の感応デバイス。
【請求項14】
論理的読み出し行にアクセスし、出力画像ピクセルアドレスを論理的読み出し画像ピクセルアドレスに関係させる関数に従って出力画像を生成するように構成されたプロセッサを更に含む、請求項8から12の一つに記載の感応デバイス。
【請求項15】
プロセッサは更に、論理的読み出し行を補間するためにN×Nウィンドウを使用するように構成され、論理的読み出し行の数は3+Nよりも大きくない、請求項14記載の感応デバイス。
【請求項16】
歪んだ画像をセンサーピクセルのアレイ上に描像することと、
画像の歪みに従ってセンサーピクセルを読み出すことと、
読み出されたピクセルに基づいて出力画像を生成することであって、出力画像は実質的にまたは完全に歪みが無いことと、
を含む描像方法。
【請求項17】
画像の歪みに従ってピクセルを読み出すことは、歪みに対応した複数の軌跡ラインに沿ってピクセル値をサンプリングするようにセンサーのロジックを使用することと、複数の論理的出力行を提供することを含む、請求項16記載の描像方法。
【請求項18】
少なくとも2つの軌跡ラインが同じピクセルと2度交差し、
センサーのロジックは、2度交差されたピクセルについての値の代わりに、論理的出力行の1つについての読み出し中にダミーピクセル値を提供するように構成されており、
センサーのロジックは更に、ダミーピクセル値を同じ列アドレスにおいて別の論理的行中に在る非ダミーピクセルの値で置き換えるように構成されている、
請求項17記載の描像方法。
【請求項19】
読み出されたピクセルに基づいて出力画像を生成することは、出力画像ピクセル座標を論理的画像ピクセル座標に関係させる関数に従って、論理的出力行中のピクセルにアクセスすることを含む、請求項18記載の描像方法。
【請求項20】
歪み関数に従ってピクセルを読み出すことは、行と列に従ってサンプリングされたピクセル値にアクセスするためにプロセッサを使用することを含み、プロセッサは、出力画像ピクセル座標のセンサーピクセル座標へのマッピングを使うことによってピクセル値にアクセスするように構成されている、請求項16記載の描像方法。
【請求項1】
物体を検出器上に描像するように構成された光学システムであって、光学システムは画像中に歪みを導入するものと、
物体の出力画像を生成するように構成されたプロセッサであって、出力画像は、画像の歪みに対応する軌跡に基づいて検出器から読み出されたピクセル値を使って生成されるものと、
を含む画像捕捉装置。
【請求項2】
プロセッサは、検出器の行と列に沿ってサンプリングされたピクセル値を読み出し、画像の歪みに対応する複数の軌跡と出力画像を生成するための望ましい倍率レベルを使うように構成されている、請求項1記載の画像捕捉装置。
【請求項3】
軌跡は、光学システムと関連付けられた歪み関数から決定される、請求項1または2記載の画像捕捉装置。
【請求項4】
軌跡は、センサーピクセルアドレスを画像ピクセルアドレスにマッピングするテーブルから決定される、請求項1または2記載の画像捕捉装置。
【請求項5】
検出器は、リードコマンドに応答して軌跡に沿ってピクセルを読み出すように構成されている、請求項1記載の画像捕捉装置。
【請求項6】
検出器は、複数の軌跡に沿ってピクセルを読み出し、複数の論理的読み出し行を提供するように構成されたロジックを含み、各論理的読み出し行は一つの軌跡に対応し、検出器の各列のための単一のピクセルを有しており、
プロセッサは、出力画像ピクセルアドレスを論理的読み出し画像ピクセルアドレスと関係させる関数に従って出力画像を生成するために、複数の論理的読み出し行中のピクセル値を使うように構成されている、
請求項5記載の画像捕捉装置。
【請求項7】
移動電話またはコンピューティングデバイス中に組み込まれた、請求項1から6の一つに記載の画像捕捉装置。
【請求項8】
センサーピクセルのアレイと、
リードコマンドに応答してセンサーピクセルのアレイからの1つ以上のピクセル値をバッファーメモリーに提供するように構成されたリードロジックと、を含み、
リードロジックは、複数の接続を含み、各接続はセンサーピクセルのアレイ中の1つのアドレスにおける1つのピクセルをバッファーメモリー中の1つの位置に接続し、位置はバッファーメモリー中の画像中の一つの対応するピクセルアドレスを表しており、
センサーピクセルのアレイ中のピクセルのアドレスは、バッファーメモリー中の画像中の対応するピクセルアドレスとは、異なる列アドレス、異なる行アドレス、または異なる列アドレスと異なる行アドレスの両方を含む、
感応デバイス。
【請求項9】
リードロジックは、軌跡に沿ってセンサーピクセルのアレイから複数のピクセルを読み出すように感応デバイスを構成し、光学システムの歪み関数に対応する軌跡は、センサーピクセルのアレイ上に視野を描像するように構成されている、請求項8記載の感応デバイス。
【請求項10】
軌跡は更にズームファクターに対応する、請求項9記載の感応デバイス。
【請求項11】
リードロジックは、複数の軌跡に沿ってセンサーピクセルのアレイ中の複数のピクセル値を読み出し、各軌跡についての論理的読み出し行を提供するように感応デバイスを構成し、各論理的読み出し行は、センサーピクセルのアレイの各列に対応する単一の列を有する、請求項8記載の感応デバイス。
【請求項12】
リードロジックは、軌跡の一様な分布に従って、センサーピクセルのアレイ中の複数のピクセル値を読み出すように感応デバイスを構成し、
リードロジックは、もしセンサーピクセルのアレイ中の対応するピクセルの値が隣接する論理的読み出し行の同じ列中のピクセルに提供されれば、ダミーピクセル値を論理的読み出し行中のピクセルに提供するように感応デバイスを構成する、
請求項11記載の感応デバイス。
【請求項13】
移動デバイスまたはコンピューティングシステム中に組み込まれた、請求項8から12の一つに記載の感応デバイス。
【請求項14】
論理的読み出し行にアクセスし、出力画像ピクセルアドレスを論理的読み出し画像ピクセルアドレスに関係させる関数に従って出力画像を生成するように構成されたプロセッサを更に含む、請求項8から12の一つに記載の感応デバイス。
【請求項15】
プロセッサは更に、論理的読み出し行を補間するためにN×Nウィンドウを使用するように構成され、論理的読み出し行の数は3+Nよりも大きくない、請求項14記載の感応デバイス。
【請求項16】
歪んだ画像をセンサーピクセルのアレイ上に描像することと、
画像の歪みに従ってセンサーピクセルを読み出すことと、
読み出されたピクセルに基づいて出力画像を生成することであって、出力画像は実質的にまたは完全に歪みが無いことと、
を含む描像方法。
【請求項17】
画像の歪みに従ってピクセルを読み出すことは、歪みに対応した複数の軌跡ラインに沿ってピクセル値をサンプリングするようにセンサーのロジックを使用することと、複数の論理的出力行を提供することを含む、請求項16記載の描像方法。
【請求項18】
少なくとも2つの軌跡ラインが同じピクセルと2度交差し、
センサーのロジックは、2度交差されたピクセルについての値の代わりに、論理的出力行の1つについての読み出し中にダミーピクセル値を提供するように構成されており、
センサーのロジックは更に、ダミーピクセル値を同じ列アドレスにおいて別の論理的行中に在る非ダミーピクセルの値で置き換えるように構成されている、
請求項17記載の描像方法。
【請求項19】
読み出されたピクセルに基づいて出力画像を生成することは、出力画像ピクセル座標を論理的画像ピクセル座標に関係させる関数に従って、論理的出力行中のピクセルにアクセスすることを含む、請求項18記載の描像方法。
【請求項20】
歪み関数に従ってピクセルを読み出すことは、行と列に従ってサンプリングされたピクセル値にアクセスするためにプロセッサを使用することを含み、プロセッサは、出力画像ピクセル座標のセンサーピクセル座標へのマッピングを使うことによってピクセル値にアクセスするように構成されている、請求項16記載の描像方法。
【図4A】
【図4B−1】
【図4B−2】
【図4C】
【図4D】
【図4E】
【図4F】
【図5】
【図6】
【図7A】
【図7B】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20A−20B】
【図21】
【図22】
【図4B−1】
【図4B−2】
【図4C】
【図4D】
【図4E】
【図4F】
【図5】
【図6】
【図7A】
【図7B】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20A−20B】
【図21】
【図22】
【公表番号】特表2012−523783(P2012−523783A)
【公表日】平成24年10月4日(2012.10.4)
【国際特許分類】
【出願番号】特願2012−505135(P2012−505135)
【出願日】平成22年4月9日(2010.4.9)
【国際出願番号】PCT/EP2010/054734
【国際公開番号】WO2010/118998
【国際公開日】平成22年10月21日(2010.10.21)
【出願人】(307014278)テセラ・テクノロジーズ・ハンガリー・ケイエフティー (5)
【Fターム(参考)】
【公表日】平成24年10月4日(2012.10.4)
【国際特許分類】
【出願日】平成22年4月9日(2010.4.9)
【国際出願番号】PCT/EP2010/054734
【国際公開番号】WO2010/118998
【国際公開日】平成22年10月21日(2010.10.21)
【出願人】(307014278)テセラ・テクノロジーズ・ハンガリー・ケイエフティー (5)
【Fターム(参考)】
[ Back to top ]