説明

光学ディフューザを用いて画像を記録するためのシステム、方法、及びメディア

本発明は、シーンの画像を記録するためのシステム、方法、及びメディアを提供する。いくつかの実施形態に従って、シーンの画像を記録するためのシステムであって、前記シーンを表す光を拡散し、アパーチャの座標に依存しない散乱関数を有するディフューザと、拡散された前記シーンを表す光を受信し、画像を表すデータを生成するセンサと、点像分布関数を用いて前記画像のぼけを除去するハードウェアプロセッサとを備えるシステムを提供する。

【発明の詳細な説明】
【技術分野】
【0001】
[関連出願の相互参照]本出願は、2010年1月22日に出願された米国仮特許出願第61/297,667号に基づく優先権を主張するものであり、この仮特許出願の全体は、参照により本明細書に組み入れられる。
【0002】
本発明で開示する主題は、光学ディフューザを用いて画像を記録するためのシステム、方法、及びメディアに関するものである。
【背景技術】
【0003】
従来のカメラでは、被写界深度(DOF)とノイズとの間に根本的なトレードオフが存在する。一般的に、カメラは1つの焦点面を有し、この面から外れたオブジェクトは、デフォーカスによりぼやける。デフォーカスによるぼけの大きさは、アパーチャのサイズと焦点面からの距離とに依存する。デフォーカスによるぼけを低減してDOFを深くするには、アパーチャのサイズを縮小しなければならず、これにより記録画像の信号強度も低減する。多くの場合、シーンのあらゆる詳細が保持されるように、できる限り深いDOFを有することが望ましい。これは、例えば、全ての関心オブジェクトに合焦することが望まれる、オブジェクトの検出及び認識などの機械視覚アプリケーションにおいて当てはまる。しかし、レンズアパーチャの縮小は、ノイズを増加させ、ひいては記録画像に深刻な影響を与えることもあり、特に暗い場所においては必ずしも可能ではない。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、シーン画像を記録するためのシステム、方法、及びメディアを提供する。
【課題を解決するための手段】
【0005】
いくつかの例によれば、シーンの画像を記録するためのシステムであって、前記シーンを表す光を拡散し、アパーチャの座標に依存しない散乱関数を有するディフューザと、拡散された前記シーンを表す光を受信し、画像を表すデータを生成するセンサと、点像分布関数を用いて前記画像のぼけを除去するハードウェアプロセッサとを備えるシステムを提供する。
【0006】
いくつかの例によれば、シーンの画像を記録するための方法であって、アパーチャの座標に依存しない散乱関数を有するディフューザを用いて、前記シーンを表す光を拡散するステップと、拡散された前記シーンを表す光を受信し、画像を表すデータを生成するステップと、点像分布関数を用いて前記画像のぼけを除去するステップとを備える方法を提供する。
【図面の簡単な説明】
【0007】
【図1】いくつかの実施形態に係る、画像を記録するためのメカニズムを示す図である。
【図2】いくつかの実施形態に係る、(a)ディフューザを用いない画像と、(b)ディフューザを用いた画像との2つの画像の組み合わせを示す図である。
【図3】いくつかの実施形態に係る、レンズとセンサを示す図である。
【図4】いくつかの実施形態に係る、レンズ、ディフューザ、及びセンサを示す図である。
【図5】いくつかの実施形態に係る、センサの光照射野を示す図である。
【図6】いくつかの実施形態に係る、光線及びその散乱を示す図である。
【図7】いくつかの実施形態に係る、点像分布関数と変調伝達関数のグラフのペアの組を示す図である。
【図8】いくつかの実施形態に係る、(a)くさび状の光学システム、及び(b)ランダムに変化のある面を有する光学システムを示す図である。
【図9】いくつかの実施形態に係る、(a)ディフューザのプロファイル、(b)ディフューザの高さマップ、(c)ディフューザの散乱PDF、及び(d)ディフューザを示す図である。
【発明を実施するための形態】
【0008】
本発明は、光学ディフューザを用いて画像を記録するためのシステム、方法、及びメディアを提供する。
【0009】
図1を参照すると、3つのオブジェクトA104、B106、及びC108を含む画像を撮影するために用いられる画像記録機構102(例えば、カメラ、ビデオカメラ、カメラ内蔵の携帯電話、及び/又はその他の適切な画像記録機構)が図示されている。図に示されているように、これらのオブジェクトは、機構102に対して異なる奥行きにある。機構102の被写界深度限界より、機構102がオブジェクトB106に合焦している場合、オブジェクトA104及びオブジェクトC108は焦点外にある。これらのオブジェクトは、例えば、図2に示される玩具であり得る。図2(a)に示されているように、カメラが中央のオブジェクト(図1のオブジェクトB106に相当し得る)に合焦している場合は、他のオブジェクトは焦点外にある。ところが、本明細書で説明する機構を用いることにより、そうしたオブジェクトも、図2(b)に示すように、焦点内にあるかのような画像が記録される。これを、拡張被写界深度を有する機構102と称する。
【0010】
いくつかの実施形態によれば、拡張被写界深度は、ディフューザ110、112を画像記録機構102に組み入れることにより実現できる。ディフューザを画像記録機構の瞳面で用いて画像を記録することを、拡散符号化と称し得る。そうしたディフューザは、画像記録機構内の任意の適切な位置に配置され得る。例えば、ディフューザ110は、光源(例えば、オブジェクト104、106、108)とレンズ114との間に(例えば、レンズアタッチメントとして)、ディフューザ112は、レンズ114とセンサ116との間に(例えば、レンズ又はカメラ本体の一部として)配置され得る。
【0011】
拡散符号化画像は、センサ116により検出され、その後、ハードウェアプロセッサ118(機構102に組み込まれている)、及び/又は、ハードウェアプロセッサ120(機構102の外部)に送られ、更なる処理が施され得る。この処理は、ディフューザのPSF(点像分布関数)に整合されたPSFを用いて感知画像のぼけを除去することを含むことができる。いかなる他の適切な処理も、追加的、又は代替的に用いられ得る。そうした処理の後に、拡張被写界深度を有する画像が、ディスプレイ124(機構102の内部)、及び/又は、ディスプレイ122(機構102の外部)に表示され得る。
【0012】
上述したような画像をディフューザを用いてどのように記録するかを例示するために、ここで、いくつかの実施形態について光学的に説明する。
【0013】

【0014】

【0015】

【0016】

【0017】
この点光源おける画像は、深度d0におけるカメラのPSFであり、このカメラのPSFは、以下のように、デフォーカスによるぼけの幅s0Aを有する矩形型のPSFである。

【0018】

【0019】

【0020】

【0021】

【0022】
一般的に、アパーチャに配置されるいかなるディフューザのカーネルであっても、以下のように表され得る。

【0023】

【0024】

【0025】

【0026】
径方向に対称なディフューザは、式7により与えられるディフューザとは大きく異なる効果を生じさせる。径方向に対称なディフューザが採用される場合は、ディフューザもレンズも、接線方向に光線を偏向させないため、ディフューザカーネル及び修正された光照射野は、変換座標(r,r)を用いて表され得る。したがって、式5及び式6は、以下のようになる。


【0027】
また、ディフューザカーネルの一般形は、以下のようになる。

【0028】
式7においてディフューザカーネルに用いたものと同じ矩形散乱関数を、以下のように、式13にも用いることができる。

【0029】
ただし、このディフューザの物理的解釈は、先述したディフューザとは異なる。先述したディフューザの場合、光照射野の各光線は、センサ上を四角形状に広がるように分散される。しかし、式14の散乱関数の効果は、図6に示されているとおりである。図示されているように、ディフューザがない場合は、光は、アパーチャ面における幅dr、半径rの環から、センサ上の幅dr、半径rの環に投射される。式14の散乱関数の効果は、センサ上に入射する光を、当該光が幅wの環を代わりに生成するよう広げることである。
【0030】
図6の領域602で示されているように、極座標において、光線は、アパーチャ面からセンサ面まで伝播する微小な環状部分であり得る。幅wの放射状の線に沿って光線を分散させるディフューザの効果は、領域604により示され得る。
【0031】
ここでは、矩形散乱関数が表記の便宜上用いられ得るが、拡張DOFによる画像化には、ガウス散乱関数(例えば、図9Cに示される)が相応しい場合もある。そうしたディフューザカーネルによりフィルタリングされた点光源の光照射野及びPSFは、以下のように表され得る。


【0032】
このPSFの解析解は、2つの矩形関数(1つは|r|により重み付けされる)の畳み込みである括弧内の項を因数とする区間関数となる。分散幅wがゼロに減少していくと、(1/wと結合されている)第一の矩形関数はデルタ関数に近似し、結果としてピルボックス型のデフォーカスPSFが得られる。別の散乱関数を有する別のディフューザを用いた場合も、第一の矩形関数が新たな散乱関数に置き換えられるだけである。しかし、畳み込み項は、効果が優位な1/|r|の項と比べると極めて重要性が低いため、結果として、高いピーク及び高い周波数を維持しつつも、深度に大きく依存し得るPSFとなる。
【0033】
図6に示されているように、幅dr、半径rの微小な環状部分に入射した光は、アパーチャの環から発せられ、そのエネルギーは、rに比例するか、又はr/s0に同等となり得る。これにより、式16の括弧内の項の乗数|r|の存在が説明される。この括弧内の項は、ピルボックス型のデフォーカスPSFによる環のエネルギーが、図6の右側に示されているように、ディフューザにより幅wの放射状の線に沿って均一に広がることを示す。式16の1/|r|の項は、エネルギー密度は、PSFの中心近くで散乱される光ほど大きくなる、という事実に起因する。
【0034】
1 図7は、式16によって与えられるディフューザ付きのカメラ(714、716、718、720、722、724、726、728)とディフューザ無しのカメラ(715、717、719、721、723、725、727、729)について、PSF702と変調伝達関数(MTF)704のグラフのペアを示す。デフォーカスによるぼけの直径s0Aは、0ピクセル706、25ピクセル708、50ピクセル710、そして100ピクセル712の間で変化する。式14の散乱関数は、矩形関数ではなくガウス関数であり、ディフューザのパラメータw(ガウス関数の分散値)は、w = 100ピクセルとなるように設定される。ディフューザが存在する場合は、PSF及びMTFのいずれにおいても、深度に伴う変化は殆どない。ディフューザの採用はさらに、MTFにおけるゼロ交差をなくす。デフォーカス値が小さいほど、ディフューザはMTFにおける高周波を抑制する。しかし、ディフューザのMTFは、深度によって大きく変化しないため、高周波はデコンボリューションにより復元され得る。
【0035】

【0036】

【0037】

【0038】
式14において規定されるディフューザを実現するために、ディフューザ面は、直径及び窪みがランダム分布から導き出される二次要素の連続として実現され得る。(Sales, T. R. M., "Structured microlens arrays for beam shaping," Optical Engineering 42, 11, pp. 3084-3085, 2003に記載。当該文献は、参照により全体が本明細書に組み入れられる。) ディフューザの散乱関数は、図9(c)に示されるように、0.5mmの分散値(式16のw = 1mmに対応する)を有する略ガウス関数になるよう設計され得る。径方向に対称なディフューザを作成するために、一次元のランダムプロファイルを作成し、その後、極変換を適用して二次元の面を作成することが可能である(図9(a)及び図9(b)を参照)。
【0039】
いくつかの実施形態において、ディフューザは、レーザエッチングにより作成される。
【0040】
いくつかの実施形態において、ディフューザ面の最大高さは、3μmであり得る。また、ディフューザは、約10μmの最小スポット径を有するレーザ加工技術を用いて作ることができる。ディフューザの各二次要素が確実に高精度に作られるようにするには、単一要素の最小径を、200μmに設定することができ、これにより、42の別個の環部分を有するディフューザが得られる。
【0041】
いくつかの実施形態に従って、機構102を実現するためにいかなる適切なハードウェアも用いられ得る。例えば、キヤノン(商標登録)USA社製のキヤノンEOS(商標登録)450Dのセンサを、センサ116として用いることができ、ニューヨーク州ロチェスター、RPCフォトニクス社(RPC Photonics Inc.)製の適切な光学ガラス片にレーザエッチングされた22mm直径のディフューザ(例えば、図9(d)に例示)を、ディフューザ110、112として用いることができ、キヤノンUSA社製の50mmのf/1.8レンズをレンズ114として用いることができる。他の一例として、レンズ114は、いかなる焦点距離をも有し、屈折光学素子及び反射光学素子の一方又は両方を有し得る。例えば、焦点距離が3048mmのミード社製望遠鏡LX200(市販されている)が、いくつかの実施形態において用いられ得る。
【0042】
いくつかの実施形態では、レンズ及びディフューザ(順不同)を通過後にカメラのセンサに入射される画像のぼけを除去するために、いかなる適切な処理が実行され得る。例えば、中心深度におけるPSFを用いたウィナーデコンボリューション(Wiener deconvolution)を用いて、感知画像のぼけが除去され得る。画像に対する他の適切ないかなる処理も、追加的又は代替的に用いられ得る。例えば、BM3Dぼけ除去アルゴリズムを用いて、拡散符号化された画像に対する追加的なぼけ除去が行われ得る。(Dabov, K., Foi, A., Katkovnik, V., and Egiazarian, K., "Image restoration by sparse 3D transform-domain collaborative filtering", SPIE Conference Series, vol. 6812, 681207, 2008に記載。当該文献は、参照により全体が本明細書に組み入れられる。)いくつかの実施形態において、BM3Dぼけ除去アルゴリズムは、ぼけ除去プロセスにより増幅されるノイズを低減する区分的な平滑化事前分布(smoothness prior)を用いる。
【0043】
センサにとらえられる画像のぼけ除去には、マイクロプロセッサ、デジタル信号プロセッサ、専用コンピュータ(マイクロプロセッサやデジタル信号プロセッサ、コントローラ等と、メモリと、通信インターフェースと、ディスプレイコントローラと、入力デバイス等を含み得る)、適切にプログラムされた汎用コンピュータ(マイクロプロセッサやデジタル信号プロセッサ、コントローラ等と、メモリと、通信インターフェースと、ディスプレイコントローラと、入力装置等を含み得る)、サーバ、プログラム可能なゲートアレイ等のいかなる適切なハードウェアプロセッサが用いられ得る。画像をセンサからプロセッサに伝送するために、いかなる適切なハードウェアが用いられ得る。ぼけが除去された画像を表示、記憶、又は印刷するために、いかなる適切なディスプレイ、記憶装置、又はプリンタが用いられ得る。
【0044】
いくつかの実施形態において、本明細書に記載のプロセスを実行するための命令を記憶するために、いかなる適切なコンピュータ読み取り可能な媒体が用いられ得る。例えば、いくつかの実施形態において、コンピュータ読み取り可能な媒体は、一時的、又は非一時的であり得る。一例として、非一時的なコンピュータ読み取り可能な媒体は、磁気媒体(ハードディスク、フロッピディスク等)、光学媒体(コンパクトディスク、デジタルビデオディスク、ブルーレイディスク等)、半導体媒体(フラッシュメモリ、電気的にプログラム可能な読み取り専用メモリ〔EPROM〕、電気的に消去可能及びプログラム可能な読み取り専用メモリ〔EEPROM〕等)、伝送時の非一過性又は性能持続性を有するいかなる適切な媒体、及び/又はいかなる適切な有形媒体を含み得る。別の例として、一時的なコンピュータ読み取り可能な媒体は、ネットワーク上、電線上、半導体上、光ファイバー上、回路上、伝送時の一過性又は非持続性を有するいかなる適切な媒体上、及び/又はいかなる適切な無形媒体上の信号を含み得る。
【0045】
本発明について、上述した実施形態に基づいて説明及び図示してきたが、本開示は一例にすぎず、本発明の趣旨および範囲を逸脱することなく、本発明の実施形態の細部に様々な変更を行うのが可能であることを理解されたい。本発明は、以下の特許請求の範囲によってのみ限定される。また、開示された実施形態の特徴を様々に組み合わせ、再構成することも可能である。

【特許請求の範囲】
【請求項1】
シーンの画像を記録するためのシステムであって、
前記シーンを表す光を拡散し、アパーチャの座標に依存しない散乱関数を有するディフューザと、
拡散された前記シーンを表す光を受信し、画像を表すデータを生成するセンサと、
点像分布関数を用いて前記画像のぼけを除去するハードウェアプロセッサと
を備えるシステム。
【請求項2】
前記ディフューザは、ランダムな一次元の径方向プロファイルを有する、請求項1記載のシステム。
【請求項3】
前記ディフューザは、レーザエッチングにより作られる、請求項1記載のシステム。
【請求項4】
前記ディフューザは、径方向に対称である、請求項1記載のシステム。
【請求項5】
前記ディフューザは、キノフォームタイプである、請求項1記載のシステム。
【請求項6】
前記ディフューザの前記散乱関数は、略ガウス関数である、請求項1記載のシステム。
【請求項7】
前記システムは、レンズをさらに備え、当該レンズは、前記シーンを表す光を、当該光が前記ディフューザに入射する前に通過させる、請求項1記載のシステム。
【請求項8】
前記システムは、前記ディフューザと前記センサとの間に配置されたレンズをさらに備える、請求項1記載のシステム。
【請求項9】
前記システムは、ぼけが除去された前記画像を表示するディスプレイをさらに備える、請求項1記載のシステム。
【請求項10】
シーンの画像を記録するための方法であって、
アパーチャの座標に依存しない散乱関数を有するディフューザを用いて、前記シーンを表す光を拡散するステップと、
拡散された前記シーンを表す光を受信し、画像を表すデータを生成するステップと、
点像分布関数を用いて前記画像のぼけを除去するステップと
を含む方法。
【請求項11】
前記ディフューザは、ランダムな一次元の径方向プロファイルを有する、請求項10記載の方法。
【請求項12】
前記ディフューザは、レーザエッチングにより作られる、請求項10記載の方法。
【請求項13】
前記ディフューザは、径方向に対称である、請求項10記載の方法。
【請求項14】
前記ディフューザは、キノフォームタイプである、請求項10記載の方法。
【請求項15】
前記ディフューザの前記散乱関数は、略ガウス関数である、請求項10記載の方法。
【請求項16】
前記シーンを表す光が、前記ディフューザに入射する前に通過するようにレンズを配置するステップをさらに含む、請求項10記載の方法。
【請求項17】
前記ディフューザと前記センサとの間にレンズを配置するステップをさらに含む、請求項10記載の方法。
【請求項18】
ぼけが除去された前記画像を表示するステップをさらに含む、請求項10記載の方法。

【図1】
image rotate

【図2(a)】
image rotate

【図2(b)】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公表番号】特表2013−518474(P2013−518474A)
【公表日】平成25年5月20日(2013.5.20)
【国際特許分類】
【出願番号】特願2012−550190(P2012−550190)
【出願日】平成23年1月24日(2011.1.24)
【国際出願番号】PCT/US2011/022248
【国際公開番号】WO2011/091358
【国際公開日】平成23年7月28日(2011.7.28)
【出願人】(500382473)ザ トラスティーズ オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク (17)
【Fターム(参考)】