画像処理装置及び撮像装置
【課題】入力画像から、ハローがなく、暗部から明部までコントラストの高い高画質な画像を得ることが可能な画像処理装置を提供する。
【解決手段】画像処理装置10は、入力画像に対し、注目画素の明るさと周辺画素の明るさから照明光成分を算出する照明光成分算出部12を備え、照明光成分に基づき階調変換処理を施す。照明光成分算出部12は、照明光成分の算出に際し、入力画像における被写体までの距離を示す距離情報を取得し、注目画素に対応した距離情報と周辺画素に対応した距離情報の差異に基づいて、明るさに対する重み付けを変え、かつ、注目画素に対応した距離情報に応じて、周辺画素として参照する範囲を異ならせる。
【解決手段】画像処理装置10は、入力画像に対し、注目画素の明るさと周辺画素の明るさから照明光成分を算出する照明光成分算出部12を備え、照明光成分に基づき階調変換処理を施す。照明光成分算出部12は、照明光成分の算出に際し、入力画像における被写体までの距離を示す距離情報を取得し、注目画素に対応した距離情報と周辺画素に対応した距離情報の差異に基づいて、明るさに対する重み付けを変え、かつ、注目画素に対応した距離情報に応じて、周辺画素として参照する範囲を異ならせる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、高画質な映像を得るための画像処理装置、及びその画像処理装置を備えた撮像装置に関する。
【背景技術】
【0002】
近年、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置の高機能化や高画質化が進んでいる。撮像画像の画質を決める要因の1つとして、コントラストがある。コントラストとは、画像中の暗部と明部の差を意味し、コントラストの高い方が明瞭な画像になる。また、ダイナミックレンジ(以下、DR)も画質を決める要因の1つである。DRとは、識別可能な信号の最小値と最大値の比を意味するが、以下では、DRを撮影シーン中の最大輝度と最小輝度の比とする。
【0003】
液晶ディスプレイなどの表示装置に画像を表示する際、表示装置の表現可能な明るさの幅には限りがあるため、入力される画像と表示装置の性能に依っては、暗部の階調が失われる、いわゆる黒潰れが生じることがある。そこで、元画像の画素値を大きくする階調変換処理を施すことで、黒潰れが解消され暗部の明瞭な画像を得ることができる。しかし、画素値を大きくすることで、明部が飽和する、いわゆる白飛びが生じたりコントラストが低下したりし、明部領域では画質が劣化する。特に、DRの高いシーンを撮影した画像は、暗部と明部が共存する可能性が高く、上述の課題が生じることが多い。
【0004】
この課題に対し、Retinex理論に基づく階調変換技術が提案されている。Retinex理論とは、人間の視覚特性をモデル化した理論であり、物体の明るさは物体の反射率と照明光の積で決まり、物体の明るさに対する目の知覚は物体の反射率に強い相関を示すというものである。したがって、階調変換する際に、入力画像の照明光成分のみを圧縮し、物体の反射率成分を維持すれば、黒潰れ・白飛びがなくコントラストの高い画像を得ることができる。撮影画像から照明光と反射率を正確に分離することは容易ではないが、実空間において照明光は連続的に変化している可能性が高いと仮定すると、入力画像にローパスフィルタをかけて算出した低周波数成分を照明光成分とみなすことができる。そして、照明光成分を圧縮し、圧縮した照明光成分に入力画像の反射率成分を掛け合わせることにより、コントラストの高い画像を得ることができる。
【0005】
しかし、実際には照明光が不連続に変化している場合もあり、前述の仮定に基づいた階調変換処理を施すと、照明光が急激に変化するエッジ周辺で、ハローと呼ばれるアンダーシュート・オーバーシュートが生じ、画質が劣化する。
【0006】
ハローの発生原理について、図13A〜図13Dを参照しながら説明する。図13Aは、屋内と屋外を同時に撮影したシーン、つまり屋内と屋外とが混在したシーンの画像の一例を示している。図13Bは、図13Aの画像130中の矢印131がある位置での明るさの変化を示している。図13Bのグラフ132で示すように、後景と前景のエッジで明るさが大きく変化しているのが分かる。矢印131の部分について、ローパスフィルタをかけて低周波数成分を算出すると、図13Cのグラフ133で示すように、明るさが平滑化され急峻なエッジが緩やかになる。そして、算出した低周波数成分を基に、入力画像に対し低周波数成分を圧縮する処理を施すと、図13Dのグラフ134で示すように、エッジ周辺でアンダーシュート・オーバーシュートが生じてしまい画質が劣化する。
【0007】
ハローを抑制するために、特許文献1では、低周波数成分を算出するローパスフィルタにおいて、注目画素と周辺画素の画素値を比較し、その差が所定の閾値以上である場合には参照対象から除外することで、照明光が急激に変化するエッジ部分の低周波数成分が平滑化されエッジが緩やかになるのを回避し、ハローの発生を抑制している。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2007−281767号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、特許文献1では、注目画素と周辺画素との画素値を比較しているため、その差が照明光の違いに起因するものであるか、または物体の反射率の違いに起因するものであるのかが考慮されていない。したがって、特許文献1の方法で照明光成分を算出すると、照明光成分の差異が小さく物体の反射率成分の差異が大きい領域は、照明光成分に物体の反射率成分が反映されてしまい、照明光成分を圧縮した際に物体の反射光成分も圧縮されてしまう。その結果、コントラストが低下して画質が劣化する。
【0010】
図14A〜図14Dを参照しながら、従来技術の課題であるコントラストの低下を説明する。図14Aに示す入力画像140は、反射率が大きく異なる被写体が一様な照明光下に置かれている場合の入力画像である。入力画像140について、特許文献1の方法で低周波数成分を算出すると、矢印141で示す部分については、図14Bのグラフ142で示すようになる。実際の照明光は一様であるが、算出する際に画素値の大きく異なる周辺画素を参照しないため、反射率の差異が照明光成分に反映されてしまう。そして、算出した低周波数成分を圧縮すると、変換後の低周波数成分は図14Cのグラフ143で示すようになり、本来ならば反射率成分である成分が圧縮されてしまう。したがって、図14Dに示すように、出力される画像144はコントラストが低下し画質が劣化する。
【0011】
本発明は、上述のような実状に鑑みてなされたものであり、その目的は、入力画像から、ハローがなく、暗部から明部までコントラストの高い高画質な画像を得ることが可能な画像処理装置、及びその画像処理装置を備え撮影した画像を入力画像としてその画像処理装置で処理する撮像装置を提供することにある。
【課題を解決するための手段】
【0012】
上記課題を解決するために、本発明の第1の技術手段は、入力画像に対し、注目画素の明るさと周辺画素の明るさから照明光成分を算出し、該照明光成分に基づき階調変換処理を施す画像処理装置であって、 前記照明光成分を、前記入力画像における被写体までの距離を示す距離情報から算出した前記注目画素に対応した前記距離情報と前記周辺画素に対応した前記距離情報の差異に応じて、明るさに対する重み付けを変え、かつ、前記注目画素に対応した前記距離情報に応じて、前記周辺画素として参照する範囲を異ならせて算出することを特徴としたものである。
【0013】
本発明の第2の技術手段は、第1の技術手段において、前記照明光成分を、前記注目画素に対応した前記距離情報が示す被写体までの距離が大きい程、前記周辺画素として参照する範囲を小さくして算出することを特徴としたものである。
【0014】
本発明の第3の技術手段は、第1または第2の技術手段において、前記階調変換処理が施された結果の画像に対して、更に前記入力画像から抽出した高周波数成分を加算することを特徴としたものである。
【0015】
本発明の第4の技術手段は、第1〜第3のいずれかの技術手段における画像処理装置を備える撮像装置であって、撮影した画像を前記入力画像として前記画像処理装置に入力することを特徴としたものである。
【発明の効果】
【0016】
本発明によれば、ハローがなく、暗部から明部までコントラストの高い高画質な画像を得ることが可能になる。
【図面の簡単な説明】
【0017】
【図1】本発明に係る撮像装置の基本的な構成を示すブロック図である。
【図2】本発明に係る撮像装置の一例を示す外観図である。
【図3】本発明に係る撮像装置の一構成例を示すブロック図である。
【図4】被写体までの距離と視差の関係を表す図である。
【図5A】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5B】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5C】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5D】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5E】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5F】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図6A】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図6B】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図6C】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図6D】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7A】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7B】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7C】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7D】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図8】被写体までの距離と視差の関係を、具体的な数値を例に挙げて示す図である。
【図9】本発明における、照明光成分を圧縮する方法の一例を示す図である。
【図10A】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図10B】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図10C】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図10D】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図11A】フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。
【図11B】フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。
【図11C】フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。
【図12】本発明において、被写体までの距離に基づき照明光成分を算出するフィルタのサイズを変更する一例を示す図である。
【図13A】ハローの発生原理を説明するための図である。
【図13B】ハローの発生原理を説明するための図である。
【図13C】ハローの発生原理を説明するための図である。
【図13D】ハローの発生原理を説明するための図である。
【図14A】従来技術の課題であるコントラストの低下を説明するための図である。
【図14B】従来技術の課題であるコントラストの低下を説明するための図である。
【図14C】従来技術の課題であるコントラストの低下を説明するための図である。
【図14D】従来技術の課題であるコントラストの低下を説明するための図である。
【発明を実施するための形態】
【0018】
<第1の実施形態>
以下、添付図面を参照しながら、本発明に係る撮像装置についてその好適な実施の形態について説明する。
【0019】
図1は、本発明に係る撮像装置の基本的な構成を示すブロック図である。図1で示す撮像装置1は、入力画像及び距離情報について画像処理を行う画像処理装置10を備える。なお、その他、通常の撮像装置と同様に、撮像装置1には画像処理装置10で処理された画像を記録する記憶装置(図示せず)を備えてもよい。
【0020】
画像処理装置10は、明るさ(Y)算出部11、照明光成分(L)算出部12、及び照明光成分(L)圧縮部13を備える。Y算出部11は、入力画像に対し、注目画素の明るさと周辺画素の明るさを算出する。L算出部12は、入力画像に対し、Y算出部11で算出された注目画素の明るさと周辺画素の明るさに基づいて照明光成分を算出する。なお、元々明るさYが情報として存在する場合もあるため、画像処理装置10において、Y算出部11は必須ではない。
【0021】
そして、画像処理装置10は、L算出部12で算出した照明光成分に基づき階調変換処理を施す装置である。この例では、この階調変換処理を、L圧縮部13が照明光成分を圧縮することで行うものとする。
【0022】
そして、本発明の主たる特徴として、L算出部12は、照明光成分の算出に際し、入力画像における被写体までの距離を示す距離情報を取得し、注目画素に対応した距離情報と周辺画素に対応した距離情報の差異に基づいて、明るさに対する重み付けを変える。更にL算出部12は、照明光成分の算出に際し、注目画素に対応した距離情報に応じて、周辺画素として参照する範囲、つまりフィルタリングの範囲を異ならせるようにする。各部11〜13の詳細については図3等を参照しながら説明する。
【0023】
図2は、本発明に係る撮像装置の一例を示す外観図で、図1の撮像装置1としても適用可能な撮像装置の外観図である。以下では、図2に示すように撮像装置1aには、左カメラCL、右カメラCRがそれぞれ左眼用、右眼用として配置されている場合について述べる。撮像装置1aは、例えばシャッタSの押下により、2つのカメラCL,CRから視点の異なる2つの画像が撮影できるものである。ただし、視点の異なる画像は1つのカメラでも手動や撮像装置内の自動の移動機構により移動させ、撮影タイミングをずらして撮影することなどでも得られる。
【0024】
図3は、本発明に係る撮像装置の一構成例を示すブロック図で、図2の撮像装置1aの内部の構成例を示すブロック図である。図3に示す撮像装置1aは、図1の撮像装置1のより好ましい構成例を示しており、画像処理装置10の代わりに画像処理装置30を備える。図3の撮像装置1aは、図1の画像処理装置10におけるY算出部11、L算出部12、及びL圧縮部13を備えており、それぞれ明るさ(Y)算出部32、照明光成分(L)算出部34、及び照明光成分(L)圧縮部35として図示している。その他、撮像装置1aの画像処理装置30は、高周波数成分(H)算出部31、視差算出部33、及び高周波数成分(H)加算部36を備える。
【0025】
まず、撮像装置1aでは、左右カメラCL,CRでの撮影により左画像、右画像を入力画像として取得する。左画像は、H算出部31、Y算出部32、及び視差算出部33に入力され、右画像は、視差算出部33に入力される。無論、左右の画像は逆に入力しても以下の説明を同様に適用することができる。
【0026】
次に、視差算出部33は、被写体までの距離情報として、これら左画像、右画像から視差を算出する。視差を算出する方法として、例えば、公知の技術として、ブロックマッチング法がある。ブロックマッチング法とは、画像間の類似度を評価する方法であり、一方の画像からある領域を選択し、その領域と最も類似度の高い領域を比較する画像から選択し、比較対象の領域と選択された最も類似度の高い領域との位置のずれが視差となる。類似度の評価には様々な評価関数が用いられる。例えば、SAD(Sum of Absolute Difference)と言われる、両画像の画素値や輝度値の差異の絶対値の総和が最小となる領域を最も類似度の高い領域として選択する方法がある。
【0027】
図4を参照しながら、被写体までの距離と視差の関係について説明する。左右カメラCL,CRの画像間の視差dは、被写体までの距離Z、基線長B、焦点距離fを用いてd=Bf/Zと表され、被写体までの距離Zと反比例の関係にあり、図4のグラフ40に示すように、被写体までの距離が近いほど視差は大きくなり、被写体までの距離が遠いほど視差は小さくなる。したがって、視差を被写体までの距離を表す指標として扱うことができる。また、被写体までの距離情報を、撮像装置に赤外線センサを備えて測定してもよい。
【0028】
ただし、後述する画像処理過程において距離情報を用いる際に、入力画像と距離情報とを対応させる必要があることを考慮すると、赤外線センサから得られる情報と入力画像を対応させるよりは、左右カメラCL,CRの画像から対応点を算出している視差を用いる方が好適である。
【0029】
次に、Y算出部32が、入力画像から各画素の明るさYを算出する。明るさYは入力画像の画素値から算出することができ、例えば、入力画像がRGB値を持つカラー画像であれば、国際電気通信連合で定義されているRGBからYCbCrへの変換式より、
Y=0.29891×R+ 0.58661×G+0.11448×B ・・・(1)
と定義してもよい。
【0030】
また、明るさYをRGB値の最大値、Y=Max(R,G,B)としてもよい。RGB値の最大値を用いることで、後述する階調変換処理において画質改善効果が得られる。なお、Y算出部32における明るさYの算出は、視差算出部33における視差量の算出と並行して或いはその前後に行うことができる。また、照度センサ等により予め明るさの情報がある場合には、入力画像から明るさを算出する必要はなく、入力された明るさの情報を用いてもよい。
【0031】
次に、H算出部31が、入力画像(この例では左画像)から高周波数成分Hの抽出、つまり高周波数成分Hを算出する。高周波数成分Hを算出するにはハイパスフィルタを用いればよく、例えば、ソーベルフィルタのような空間微分フィルタが用いられる。なお、H算出部31における算出は、Y算出部32や視差算出部33における算出と並行して或いはその前後に行うことができる。
【0032】
次に、L算出部34が、入力画像の照明光成分Lを算出する。この算出方法について説明する。照明光成分Lは、例えば、上述の明るさYを平滑化することで算出できる。所定の領域内(フィルタ内)で平滑化処理を行う際、フィルタ中央の照明光成分Lを算出する画素(以下、注目画素)とフィルタ内の注目画素周辺の画素(以下、周辺画素)にそれぞれ撮像されている被写体までの距離の差異を距離情報から算出し、その差異に応じて明るさを加重平均する。距離情報として視差を用いる場合、加重平均の重み付けは、視差の差が小さい場合は実空間内で近い位置にあり照明光成分Lの差異も小さいと考えられることから重みを大きくし、視差の差が大きい場合は実空間内で離れた位置にあり照明光成分Lの差異が大きい可能性があることから重みを小さくする。
【0033】
図5A〜図5Fを参照しながら、フィルタの一例として5×5のフィルタを用いて注目画素の照明光成分Lを算出する場合について、その算出を中心とした処理及び本発明の効果を説明する。なお、図5A〜図5Fでは、具体的な画像の画素値を挙げて説明するが、他の画素値でも同様の効果が得られる。
【0034】
図5Aで示す画像の画素値51は、注目画素Tを中心としたフィルタ範囲内の入力画像の明るさYを示しており、図5Bで示す視差値52は、同じく入力画像の視差値である。また、図5Cで示す照明光成分Lと図5Dで示す反射率成分Rはそれぞれ、照明光成分Lの正解値、反射率成分Rの正解値とする。したがって、図5Cの照明光成分Lと図5Dの反射率成分Rのそれぞれの値の積が、図5Aの画像の画素値51となる。
【0035】
図5Aの画素値51を用いて、注目画素Tについて単純な平滑化をすると、
L = ( 50×1 + 100×16 + 150×3 + 200×5 ) / 25 = 124
となる。
【0036】
ここで、特許文献1に記載されている方法に基づき、明るさ(注目画素Tとの明るさの差)に応じて平滑化対象とするか否かを判定し、平滑化対象とする画素の重みを1、対象としない画素の重みを0として平滑化する。例えば、平滑化するか否かの画素値の差異を75とすると、重み付けは図5Eに示す重み付け係数55となり、平滑化すると、
L = ( 50×1.0×1 + 100×1.00×16 + 150×0.00×3 + 200×0.00×5 ) / ( 1.0×1 + 1.00×16 + 0.00×3 + 0.00×5 )
= 97
となり、図5Cに示す注目画素Tの正解値「200」と比べてはるかに小さな値となる。
【0037】
一方、本実施形態では、図5Bに示す視差値52に基づいて図5Fに示すように重み付け係数56を算出し、その重み付け係数56で重み付けをして平滑化する。その結果は、
L = ( 50×1.0×1 + 100×0.25×13 + 100×0.50×3 + 150×0.5×3 + 200×1.00×5 ) / ( 1.0×6 + 0.50×6 + 0.25×13 )
= 143
となり、従来の方法と比較して、より正解値に近い照明光成分Lを算出することができることが分かる。すなわち、反射率成分Rを分離した良好な照明光成分Lを算出することができる。なお。ここでは、視差値52に比例するように重み付け係数56を決めた例を挙げているが、これに限らず、重み付け係数56が視差値52の傾向を反映したものであればよい。
【0038】
その効果を分かりやすくするために、図6A〜図6Dを参照しながら、本発明の処理及び効果を実際の入力画像に適用して説明する。図6Aに示す入力画像61に対して、本実施形態の方法で照明光成分Lを算出すると、図6Cに示す照明光成分Lの画像63のようになる。図6Bで示す視差画像62は、図6Aの入力画像61に対する視差を示す画像であり、明るい程視差が大きく距離が近く、暗い程視差が小さく距離が遠いことを意味している。照明光成分Lの画像63と視差画像62とを対応させて比較すると、距離が近い屋内と距離が遠い屋外とのエッジ周辺で照明光成分Lが急峻に変化しているのが分かる。
【0039】
本発明の効果を確認するための比較例として、単純な平滑化フィルタを用いて照明光成分Lを算出すると、図6Dに示す照明光成分Lの画像64のようになる。図6Cで示したように本実施形態で算出した照明光成分Lの画像63が、屋内と屋外とのエッジ周辺で照明光成分Lが急峻に変化しているのに対し、単純な平滑化フィルタを用いた場合、図6Dの画像64で示すようにエッジ周辺で照明光成分Lが緩やかに変化しており、これがハローの原因となる。
【0040】
同様に、図7A〜図7Dを参照しながら、本発明の処理及び効果を実際の入力画像(図6A〜図6Fの例とは異なる入力画像)に適用して説明する。図7Aに示す入力画像71に対して、本実施形態の方法で照明光成分Lを算出すると、図7Cに示す照明光成分Lの画像73のようになる。図7Bで示す視差画像72は、図7Aの入力画像71に対する視差を示す画像であり、明るい程視差が大きく距離が近く、暗い程視差が小さく距離が遠いことを意味している。照明光成分Lの画像73は、視差画像72と比べると、距離が近い手前の被写体(シマウマ)と距離が遠い背景とのエッジ周辺で照明光成分Lが急峻に変化しており、かつシマウマの部分の照明光成分Lがほぼ均一になっていることが分かる。
【0041】
本発明の効果を確認するための比較例として、特許文献1に記載されている方法で照明光成分Lを算出すると、図7Dに示す照明光成分Lの画像74のようになる。図7Cで示したように本実施形態で算出した照明光成分Lの画像73が、手前の被写体の照明光成分Lがほぼ均一になっているのに対し、特許文献1に記載の方法で処理した場合、図7Dの画像74で示すように、手前の被写体の照明光成分Lが平滑化されず、照明光成分Lに反射光成分Rが含まれてしまっているのが分かる。これにより、特許文献1に記載の方法では、照明光成分Lを圧縮すると反射光成分Rも圧縮されてしまいコントラストが低下することになる。
【0042】
ここで、図8を参照しながら、距離情報として視差を用いる場合の重み付けについて更に詳しく述べる。図8は、被写体までの距離と視差の関係を、具体的な数値を例に挙げて示す図である。図4のグラフ40に示すように、左右カメラCL,CRの画像間の視差は、被写体までの距離が遠くなるにつれて小さくなるとともに、被写体までの距離の変化に対する視差の変化量も小さくなる。すなわち、近い距離で視差が「1」異なるのと、遠い距離で視差が「1」異なるのとでは、実空間内での距離の差は異なる。例えば、被写体までの距離と視差とが図8に示すグラフ80のような関係であるとすると、視差「10」と「9」とでは実空間内の距離の差は小さいが、視差「2」と「1」とでは実空間内の距離の差が大きく、視差の差異が同じ「1」であっても、実空間内では距離の差が異なることがわかる。そこで、重み付けをする際、注目画素の視差値と、注目画素と周辺画素との視差の差異の大きさを共に考慮することで、距離情報として視差を用いる場合でも、実空間内の距離の差を反映する重み付けをすることができる。
【0043】
例えば、照明光成分Lを算出する際の重みWを以下に示す数式(2)のように定義すればよい。ここで、Dijは注目画素の視差、|Dij - Di+k,j+l|は注目画素と参照画素の視差の差異、k、lはそれぞれ、フィルタ内における参照画素の注目画素からの横、縦方向のずれ量を表す変数である。なお、数式(2)では、重み付け関数Wの一例を視差Dijを用いた場合で示しているが、距離情報として視差を用いずに距離を示す情報を用いる場合にも、同様の重み付けの式が一例として適用できる。
【0044】
【数1】
【0045】
注目画素の視差を「10」、周辺画素の視差を「9」とすると、視差「10」に対して差異は「1」であるから、重みは1−1/10=0.9となる。注目画素の視差を「2」、周辺画素の視差を「1」とすると、視差「2」に対して差異は「1」であるから、重みは1−1/2=0.5となり、視差の差異が同じ値であっても、実空間内の距離の差を反映した重み付けとなる。
【0046】
注目画素と参照画素の距離の差異を考慮した照明光成分Lの算出方法を数式で表すと、以下に示す数式(3)のようになる。
【0047】
【数2】
【0048】
ここで、Dijは注目画素の距離情報、|Dij - Di+k,j+l|は注目画素と参照画素の距離情報の差異、k、lはそれぞれフィルタの横、縦方向のサイズである。また、W(Dij,|Dij - Di+k,j+l|)は、Dij、|Dij - Di+k,j+l|を変数とする重み付け関数である。
【0049】
上述のように、本実施形態では、照明光成分Lを算出する際に、注目画素と周辺画素との距離の差異を考慮することで、図6Aの入力画像61や図7Aの入力画像71ような、従来の算出方法では照明光成分に反射光成分が反映されてしまうシーンにおいても、良好な照明光成分を算出することができる。
【0050】
次に、階調変換処理について述べる。物体の明るさは物体の反射率と照明光の積で決まることから、入力画像の明るさYを、照明光成分Lと反射光成分Rを用いて、
Y=R×L ・・・(4)
と表す。また、階調変換後の画像の明るさをY′、照明光成分をL′、反射光成分をR′とすると、
Y′=R′×L′ ・・・(5)
と表せる。
【0051】
本実施形態では、入力画像の照明光成分Lのみを圧縮し、反射率成分Rを維持するよう階調変換を施す。すなわち、階調変換の前後で反射率成分が変化しない処理を施せばよく、次の数式(6)の関係が成り立てばよい。
R=R′ ・・・(6)
【0052】
数式(4)〜(6)より反射率成分を消去すると、
Y′=Y×L′/L ・・・(7)
となり、階調変換後の画像の明るさY′が、入力画像の明るさY、照明光成分L、階調変換後の画像の照明光成分L′のみで表される。したがって、階調変換後の照明光成分L′を定義すれば、反射光成分を算出することなく、反射率成分を維持する階調変換処理を施すことができる。
【0053】
次に、照明光成分L′の定義について説明する。本実施形態では、図3のL圧縮部35が、照明光成分を圧縮する階調変換処理を施す。すなわち、照明光成分Lを圧縮するよう照明光成分L′を定義する。
【0054】
図9を参照しながら、この圧縮方法の一例を説明する。図9で示す、グラフ90のように、照明光成分Lに対し照明光成分L′が上に凸になるよう定義すると、暗部領域はより明るくなり、明部領域は明るさが抑えられ、照明光成分が圧縮される。なお、グラフ90は各階調値について個別に定めた変換値の一例であるが、表示装置の性能に依って画像の見え方は変わるため、このグラフ90で示すような階調変換テーブルを数パターン保持しておき、表示装置に合わせて最適なテーブルを選択するようにしておいてもよい。
【0055】
上述の圧縮の処理を、RGB値を有するカラー画像に適用する場合、階調変換後の画素値をR′G′B′とすると、以下の数式(8)〜(10)に示すように、入力画像の画素値RGBに対しL′/Lを掛ければよい。
【0056】
R′= R×L′/L ・・・(8)
G′= G×L′/L ・・・(9)
B′= B×L′/L ・・・(10)
【0057】
R′G′B′と数式(1)からY′を算出すると、
Y′=0.29891×R′+ 0.58661×G′+0.11448×B′
=(0.29891×R+ 0.58661×G+0.11448×B)×L′/L
=Y×L′/L
となり、数式(7)の関係を満たしていることがわかる。
【0058】
また、明るさYをRGB値の最大値と定義する場合も同様に、数式(7)の関係が満たされる。明るさYをRGB値の最大値を用いる場合、彩度が高い領域において以下のような効果がある。彩度が高い画素、例えば、RGB値が(R,G,B)=(10,10,255)という画素について、数式(1)を用いて明るさYを算出すると、Y=38となり、RGB値の最大値を用いるとY=255となる。上述の階調変換処理では、暗い領域をより明るくするため、数式(1)から算出した明るさYを用いると、暗い領域としてみなし明るくする処理を施し、B値はすでに飽和しているため、R、G値のみが増加し、彩度が低下する可能性がある。一方、明るさYとしてRGB値の最大値を用いると、上述の画素は飽和した明るい画素とみなし明るさを抑えるため、彩度が低下しない。したがって、数式(8)〜(10)に示す階調変換処理を施す場合は、RGB値の最大値を明るさYとする方が好適である。
【0059】
上述の階調変換処理により、照明光成分を圧縮することで暗部から明部まで明瞭な画像を得ることができる。また、Lが連続的な領域では近接する画素間の照明光成分Lの値の差異が小さく、すなわち、近接画素間のL′/Lの差異も小さいため、上述の階調変換処理によって近接画素間のコントラストは維持され、暗部から明部までコントラストの高い高画質な画像が得られる。
【0060】
また、図3のL算出部34の処理に関し、照明光成分算出に用いるフィルタサイズを被写体までの距離に応じて変えることで、更なる画質改善効果が得られる。この処理について具体的に説明する。
【0061】
照明光成分を算出する際、フィルタサイズが極端に小さいと照明光成分が十分に平滑化されない可能性があるため、フィルタはある程度の大きさがある方が好適である。しかし、フィルタのサイズが大きい場合、遠方にある被写体については、実空間内では照明光が急峻に変化していても、距離情報上では距離の差異を判別できず、その結果、照明光成分が平滑化されエッジが緩やかになりハローの原因となる可能性がある。実際、赤外線センサや視差情報を得る左右カメラCL,CR(つまりステレオカメラ)といった、距離情報の算出手段は、遠方の算出分解能が低く、例えば、図4のグラフ40で示したように、被写体までの距離が遠いほど距離の変化に対する視差の変化が小さくなり、視差の距離に対する分解能が低下し、ある閾値以上の距離で視差が収束する。したがって、遠方の異なる距離に2つの被写体が存在する場合、実空間内において異なる距離に存在していても、距離情報上では距離の差異を判別できないことがある。
【0062】
遠方に複数の被写体がある場合の照明光成分算出方法について、図10A〜図10Dを参照しながら説明する。図10Aで示す入力画像100には、前景に被写体101、後景に2つの被写体102,103が写っている。なお、この例では遠方に2つの被写体がある例を挙げているが、3つ以上の被写体があっても以下の処理は同様に適用できる。また、入力画像100に対する距離情報を示す画像は、図10Bで示す距離画像104のようになる。距離画像104では、明るい色ほど被写体までの距離が小さいことを意味している。
【0063】
被写体102と被写体103は実空間内においては異なる距離に存在するが、図10Bの距離画像104のように、入力される距離情報は共に同じ距離になってしまう。図10Aの入力画像100及び図10Bの距離画像104を用いて照明光成分を算出すると、被写体101と被写体102、被写体101と被写体103とはそれぞれ距離情報が異なるため、距離の差異を考慮できる。一方で、被写体102と被写体103は距離情報に差異がなく、図10Cの画像105(図10Aの入力画像100にフィルタを図示したもの)で示すように、フィルタ106内で被写体102と被写体103を同じ距離にある被写体として扱うことになり、実空間内では照明光の異なる領域の照明光成分を平滑化して算出する可能性がある。
【0064】
そこで、本実施形態では、被写体までの距離が大きい場合は、図10Dの画像107((図10Aの入力画像100に小さくしたフィルタを図示したもの)においてフィルタ108で示すように、フィルタサイズを小さくし、照明光成分算出の際に、実空間内で距離の異なる複数の被写体を、同じ距離にある被写体として扱うことを回避する。その結果、距離情報からは距離の判別ができない遠方に、照明光の異なる複数の被写体がある場合でも、実空間内の照明光の急峻な変化を反映する良好な照明光成分を算出することができる。つまり、距離情報に応じてフィルタサイズを異ならせる距離適応フィルタを採用することで、照明光成分算出の際に、実空間内で距離の異なる複数の被写体を、同じ距離にある被写体として扱うことを回避することができる。
【0065】
また、フィルタサイズを小さくすると、照明光成分が十分に平滑化されない可能性があると述べたが、単位フィルタサイズ当たりの実空間内のフィルタリング領域は、被写体までの距離に増加に伴い増加するため、被写体までの距離が大きい場合はフィルタのサイズを小さくしても実空間内で十分な領域をフィルタリングすることができる。
【0066】
この点について、図11A〜図11Cを参照しながら説明する。図11A〜図11Cは、フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。図11Aには、被写体111を近距離から撮影する場合の撮影画像を示し、図11Bには、被写体111を遠距離から撮影する場合の撮影画像を示している。なお、図11A〜図11Cにおいて、四角のマス1つ1つは画素を示しており、便宜上、11×11画素で構成される画像を示している。図11Aでは被写体111は大きく写っており、図11Bでは被写体111は小さく写っている。また、図11A、図11Bにおいて、照明光成分算出に用いるフィルタ112のサイズを4×4として図中に点線の枠で示している。
【0067】
被写体111とフィルタ112の相対的な大きさを比較すると、図11Aでは被写体111の一部をフィルタリングすることになり、図11Bでは被写体111の全体をフィルタリングすることになる。つまり、フィルタサイズが同じ場合、被写体までの距離の増加に伴い、フィルタリングする実空間内の領域も増加する。したがって、照明光成分算出に用いるフィルタサイズを被写体までの距離に応じて小さくしても、実空間内で同じ領域をフィルタリングすることができる。例えば、図11Bにおいては、図11Cに示すフィルタ113のように、フィルタサイズ2×2で、図11Aに示す4×4のフィルタと同等の実空間内での領域をフィルタリングすることができる。上述のように、被写体までの距離に応じて照明光成分算出に用いるフィルタサイズを小さくしても、照明光成分を平滑化するのに十分な実空間内の領域をフィルタリングすることができる。
【0068】
ここで、図12を参照しながら、被写体までの距離に基づき照明光成分を算出するフィルタのサイズを変更する一例を説明する。フィルタサイズは、例えば、図12のグラフ120で示すように、被写体までの距離の増加に伴い減少させればよい。つまり、注目画素に対応した距離情報が示す被写体までの距離が大きい程、周辺画素として参照する範囲を小さくするようにすればよい。このように、被写体までの距離に応じてフィルタのサイズを小さくすることで、照明光成分を算出する際の計算量を低減する効果も得られる。
【0069】
また、入力画像の高周波数成分Hも利用することで、更なる画質改善効果が得られる。よって、図3の撮像装置1aでは、H算出部31及びH加算部36を設けている。L圧縮部35において照明光成分Lを圧縮する階調変換処理を施すと、照明光成分Lのエッジ周辺は、照明光成分Lの値が小さい側は明るくなり、照明光成分Lの値が大きい側は明るさを抑えるため、照明光成分Lのエッジ周辺のコントラストは少なからず低下する。
【0070】
そこで、照明光成分Lを圧縮する階調変換処理を施した画像に、H加算部36が、H算出部31で算出された入力画像の高周波数成分Hを加算することで、照明光成分Lのエッジ周辺のコントラストも高くなり、画質が向上する。
【0071】
なお、高周波数成分を加算せずとも十分な画質改善効果が得られる。その場合、H加算部36を設けずに、L圧縮部35からの出力値、上述の例で言うと、数式(1)から数式(8)〜(10)の処理により照明光成分を圧縮したRGB値を、出力画像として出力すればよい。
【0072】
また、高周波成分を加算する場合であっても、例えば特許文献1に記載のように拡大してから加算してもよい。ただし、高周波数成分を加算しない場合には、コントラストが低下する領域は照明光成分Lのエッジ周辺であってその他の領域のコントラストは維持されることから、拡大した高周波数成分を足し合わせる場合には、過度にエッジが強調されないように調整を行えば、本発明の効果は十分に得られる。
【0073】
以上、説明したように、本実施形態によれば、入力画像の照明光成分を、被写体までの距離を考慮して算出し、算出した照明光成分を圧縮し反射光成分を維持する階調変換処理を施すことで、暗部から明部までコントラストが高く、ハローの抑制された画像に変換し、入力画像の高周波成分を加算することで、更にコントラストの高い高画質な画像を得ることができる。
【0074】
<第2の実施形態>
第1の実施形態では、画像処理を施す画像処理装置を備える撮像装置について述べたが、本発明に係る画像処理装置(図1の画像処理装置10や図3の画像処理装置30)は、図1や図3のように撮像装置内に備えていなくてもよく、例えば、液晶ディスプレイなどの表示装置に備えても、同様の効果は得られる。画像処理装置を表示装置に備える場合、表示装置に入力画像と距離情報が入力され、その画像処理装置で、入力画像に対し第1の実施形態と同様にコントラストが高くハローの抑制された画像に変換する画像処理を施し、表示装置に出力画像を表示する。
【0075】
また、左右カメラCL,CRの画像のみが入力され、距離情報が入力されない場合は、表示装置内で左右カメラCL,CRの視差を算出して距離情報とすればよい。また、表示装置に限らず、パーソナルコンピュータ(PC)やブルーレイレコーダなどの映像機器に、本発明に係る画像処理装置を備え、入力画像をコントラストが高くハローの抑制された出力画像に変換してもよい。
【0076】
<第1、第2の実施形態の構成例>
例えば図1で例示した画像処理装置10における各部11〜13、或いは図3で例示した画像処理装置30における各部31〜36など、本発明に係る画像処理装置の各構成要素は、例えばマイクロプロセッサ(またはDSP:Digital Signal Processor)、メモリ、バス、インターフェイス、周辺装置などのハードウェアと、これらのハードウェア上にて実行可能なソフトウェアとにより実現できる。上記ハードウェアの一部または全部は集積回路/IC(Integrated Circuit)チップセットとして搭載することができ、その場合、上記ソフトウェアは上記メモリに記憶しておければよい。また、本発明の各構成要素の全てをハードウェアで構成してもよく、その場合についても同様に、そのハードウェアの一部または全部を集積回路/ICチップセットとして搭載することも可能である。
【0077】
また、上述した様々な構成例における機能を実現するためのソフトウェアのプログラムコードを記録した記録媒体を、画像処理装置となる表示装置、PC、レコーダ等の装置に供給し、その装置内のマイクロプロセッサまたはDSPによりプログラムコードが実行されることによっても、本発明の目的が達成される。この場合、ソフトウェアのプログラムコード自体が上述した様々な構成例の機能を実現することになり、このプログラムコード自体や、プログラムコードを記録した記録媒体(外部記録媒体や内部記憶装置)であっても、そのコードを制御側が読み出して実行することで、本発明を構成することができる。外部記録媒体としては、例えばCD、DVD、BDなどの光ディスクやメモリカード等の不揮発性の半導体メモリなど、様々なものが挙げられる。内部記憶装置としては、ハードディスクや半導体メモリなど様々なものが挙げられる。また、プログラムコードはインターネットからダウンロードして実行することや、放送波から受信して実行することもできる。
【符号の説明】
【0078】
1,1a…撮像装置、10,30…画像処理装置、11,32…明るさ(Y)算出部、12,34…照明光成分(L)算出部、13,35…照明光成分(L)圧縮部、31…高周波数成分(H)算出部、33…視差算出部、36…高周波数成分(H)加算部、CR…右カメラ、CL…左カメラ、S…シャッタ。
【技術分野】
【0001】
本発明は、高画質な映像を得るための画像処理装置、及びその画像処理装置を備えた撮像装置に関する。
【背景技術】
【0002】
近年、デジタルスチルカメラやデジタルビデオカメラなどの撮像装置の高機能化や高画質化が進んでいる。撮像画像の画質を決める要因の1つとして、コントラストがある。コントラストとは、画像中の暗部と明部の差を意味し、コントラストの高い方が明瞭な画像になる。また、ダイナミックレンジ(以下、DR)も画質を決める要因の1つである。DRとは、識別可能な信号の最小値と最大値の比を意味するが、以下では、DRを撮影シーン中の最大輝度と最小輝度の比とする。
【0003】
液晶ディスプレイなどの表示装置に画像を表示する際、表示装置の表現可能な明るさの幅には限りがあるため、入力される画像と表示装置の性能に依っては、暗部の階調が失われる、いわゆる黒潰れが生じることがある。そこで、元画像の画素値を大きくする階調変換処理を施すことで、黒潰れが解消され暗部の明瞭な画像を得ることができる。しかし、画素値を大きくすることで、明部が飽和する、いわゆる白飛びが生じたりコントラストが低下したりし、明部領域では画質が劣化する。特に、DRの高いシーンを撮影した画像は、暗部と明部が共存する可能性が高く、上述の課題が生じることが多い。
【0004】
この課題に対し、Retinex理論に基づく階調変換技術が提案されている。Retinex理論とは、人間の視覚特性をモデル化した理論であり、物体の明るさは物体の反射率と照明光の積で決まり、物体の明るさに対する目の知覚は物体の反射率に強い相関を示すというものである。したがって、階調変換する際に、入力画像の照明光成分のみを圧縮し、物体の反射率成分を維持すれば、黒潰れ・白飛びがなくコントラストの高い画像を得ることができる。撮影画像から照明光と反射率を正確に分離することは容易ではないが、実空間において照明光は連続的に変化している可能性が高いと仮定すると、入力画像にローパスフィルタをかけて算出した低周波数成分を照明光成分とみなすことができる。そして、照明光成分を圧縮し、圧縮した照明光成分に入力画像の反射率成分を掛け合わせることにより、コントラストの高い画像を得ることができる。
【0005】
しかし、実際には照明光が不連続に変化している場合もあり、前述の仮定に基づいた階調変換処理を施すと、照明光が急激に変化するエッジ周辺で、ハローと呼ばれるアンダーシュート・オーバーシュートが生じ、画質が劣化する。
【0006】
ハローの発生原理について、図13A〜図13Dを参照しながら説明する。図13Aは、屋内と屋外を同時に撮影したシーン、つまり屋内と屋外とが混在したシーンの画像の一例を示している。図13Bは、図13Aの画像130中の矢印131がある位置での明るさの変化を示している。図13Bのグラフ132で示すように、後景と前景のエッジで明るさが大きく変化しているのが分かる。矢印131の部分について、ローパスフィルタをかけて低周波数成分を算出すると、図13Cのグラフ133で示すように、明るさが平滑化され急峻なエッジが緩やかになる。そして、算出した低周波数成分を基に、入力画像に対し低周波数成分を圧縮する処理を施すと、図13Dのグラフ134で示すように、エッジ周辺でアンダーシュート・オーバーシュートが生じてしまい画質が劣化する。
【0007】
ハローを抑制するために、特許文献1では、低周波数成分を算出するローパスフィルタにおいて、注目画素と周辺画素の画素値を比較し、その差が所定の閾値以上である場合には参照対象から除外することで、照明光が急激に変化するエッジ部分の低周波数成分が平滑化されエッジが緩やかになるのを回避し、ハローの発生を抑制している。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2007−281767号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、特許文献1では、注目画素と周辺画素との画素値を比較しているため、その差が照明光の違いに起因するものであるか、または物体の反射率の違いに起因するものであるのかが考慮されていない。したがって、特許文献1の方法で照明光成分を算出すると、照明光成分の差異が小さく物体の反射率成分の差異が大きい領域は、照明光成分に物体の反射率成分が反映されてしまい、照明光成分を圧縮した際に物体の反射光成分も圧縮されてしまう。その結果、コントラストが低下して画質が劣化する。
【0010】
図14A〜図14Dを参照しながら、従来技術の課題であるコントラストの低下を説明する。図14Aに示す入力画像140は、反射率が大きく異なる被写体が一様な照明光下に置かれている場合の入力画像である。入力画像140について、特許文献1の方法で低周波数成分を算出すると、矢印141で示す部分については、図14Bのグラフ142で示すようになる。実際の照明光は一様であるが、算出する際に画素値の大きく異なる周辺画素を参照しないため、反射率の差異が照明光成分に反映されてしまう。そして、算出した低周波数成分を圧縮すると、変換後の低周波数成分は図14Cのグラフ143で示すようになり、本来ならば反射率成分である成分が圧縮されてしまう。したがって、図14Dに示すように、出力される画像144はコントラストが低下し画質が劣化する。
【0011】
本発明は、上述のような実状に鑑みてなされたものであり、その目的は、入力画像から、ハローがなく、暗部から明部までコントラストの高い高画質な画像を得ることが可能な画像処理装置、及びその画像処理装置を備え撮影した画像を入力画像としてその画像処理装置で処理する撮像装置を提供することにある。
【課題を解決するための手段】
【0012】
上記課題を解決するために、本発明の第1の技術手段は、入力画像に対し、注目画素の明るさと周辺画素の明るさから照明光成分を算出し、該照明光成分に基づき階調変換処理を施す画像処理装置であって、 前記照明光成分を、前記入力画像における被写体までの距離を示す距離情報から算出した前記注目画素に対応した前記距離情報と前記周辺画素に対応した前記距離情報の差異に応じて、明るさに対する重み付けを変え、かつ、前記注目画素に対応した前記距離情報に応じて、前記周辺画素として参照する範囲を異ならせて算出することを特徴としたものである。
【0013】
本発明の第2の技術手段は、第1の技術手段において、前記照明光成分を、前記注目画素に対応した前記距離情報が示す被写体までの距離が大きい程、前記周辺画素として参照する範囲を小さくして算出することを特徴としたものである。
【0014】
本発明の第3の技術手段は、第1または第2の技術手段において、前記階調変換処理が施された結果の画像に対して、更に前記入力画像から抽出した高周波数成分を加算することを特徴としたものである。
【0015】
本発明の第4の技術手段は、第1〜第3のいずれかの技術手段における画像処理装置を備える撮像装置であって、撮影した画像を前記入力画像として前記画像処理装置に入力することを特徴としたものである。
【発明の効果】
【0016】
本発明によれば、ハローがなく、暗部から明部までコントラストの高い高画質な画像を得ることが可能になる。
【図面の簡単な説明】
【0017】
【図1】本発明に係る撮像装置の基本的な構成を示すブロック図である。
【図2】本発明に係る撮像装置の一例を示す外観図である。
【図3】本発明に係る撮像装置の一構成例を示すブロック図である。
【図4】被写体までの距離と視差の関係を表す図である。
【図5A】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5B】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5C】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5D】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5E】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図5F】本発明の処理、効果を、画像の画素値を用いて説明するための図である。
【図6A】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図6B】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図6C】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図6D】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7A】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7B】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7C】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図7D】本発明の処理、効果を、実際の入力画像に適用して説明するための図である。
【図8】被写体までの距離と視差の関係を、具体的な数値を例に挙げて示す図である。
【図9】本発明における、照明光成分を圧縮する方法の一例を示す図である。
【図10A】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図10B】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図10C】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図10D】遠方に複数の被写体がある場合における照明光成分算出方法を説明するための図である。
【図11A】フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。
【図11B】フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。
【図11C】フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。
【図12】本発明において、被写体までの距離に基づき照明光成分を算出するフィルタのサイズを変更する一例を示す図である。
【図13A】ハローの発生原理を説明するための図である。
【図13B】ハローの発生原理を説明するための図である。
【図13C】ハローの発生原理を説明するための図である。
【図13D】ハローの発生原理を説明するための図である。
【図14A】従来技術の課題であるコントラストの低下を説明するための図である。
【図14B】従来技術の課題であるコントラストの低下を説明するための図である。
【図14C】従来技術の課題であるコントラストの低下を説明するための図である。
【図14D】従来技術の課題であるコントラストの低下を説明するための図である。
【発明を実施するための形態】
【0018】
<第1の実施形態>
以下、添付図面を参照しながら、本発明に係る撮像装置についてその好適な実施の形態について説明する。
【0019】
図1は、本発明に係る撮像装置の基本的な構成を示すブロック図である。図1で示す撮像装置1は、入力画像及び距離情報について画像処理を行う画像処理装置10を備える。なお、その他、通常の撮像装置と同様に、撮像装置1には画像処理装置10で処理された画像を記録する記憶装置(図示せず)を備えてもよい。
【0020】
画像処理装置10は、明るさ(Y)算出部11、照明光成分(L)算出部12、及び照明光成分(L)圧縮部13を備える。Y算出部11は、入力画像に対し、注目画素の明るさと周辺画素の明るさを算出する。L算出部12は、入力画像に対し、Y算出部11で算出された注目画素の明るさと周辺画素の明るさに基づいて照明光成分を算出する。なお、元々明るさYが情報として存在する場合もあるため、画像処理装置10において、Y算出部11は必須ではない。
【0021】
そして、画像処理装置10は、L算出部12で算出した照明光成分に基づき階調変換処理を施す装置である。この例では、この階調変換処理を、L圧縮部13が照明光成分を圧縮することで行うものとする。
【0022】
そして、本発明の主たる特徴として、L算出部12は、照明光成分の算出に際し、入力画像における被写体までの距離を示す距離情報を取得し、注目画素に対応した距離情報と周辺画素に対応した距離情報の差異に基づいて、明るさに対する重み付けを変える。更にL算出部12は、照明光成分の算出に際し、注目画素に対応した距離情報に応じて、周辺画素として参照する範囲、つまりフィルタリングの範囲を異ならせるようにする。各部11〜13の詳細については図3等を参照しながら説明する。
【0023】
図2は、本発明に係る撮像装置の一例を示す外観図で、図1の撮像装置1としても適用可能な撮像装置の外観図である。以下では、図2に示すように撮像装置1aには、左カメラCL、右カメラCRがそれぞれ左眼用、右眼用として配置されている場合について述べる。撮像装置1aは、例えばシャッタSの押下により、2つのカメラCL,CRから視点の異なる2つの画像が撮影できるものである。ただし、視点の異なる画像は1つのカメラでも手動や撮像装置内の自動の移動機構により移動させ、撮影タイミングをずらして撮影することなどでも得られる。
【0024】
図3は、本発明に係る撮像装置の一構成例を示すブロック図で、図2の撮像装置1aの内部の構成例を示すブロック図である。図3に示す撮像装置1aは、図1の撮像装置1のより好ましい構成例を示しており、画像処理装置10の代わりに画像処理装置30を備える。図3の撮像装置1aは、図1の画像処理装置10におけるY算出部11、L算出部12、及びL圧縮部13を備えており、それぞれ明るさ(Y)算出部32、照明光成分(L)算出部34、及び照明光成分(L)圧縮部35として図示している。その他、撮像装置1aの画像処理装置30は、高周波数成分(H)算出部31、視差算出部33、及び高周波数成分(H)加算部36を備える。
【0025】
まず、撮像装置1aでは、左右カメラCL,CRでの撮影により左画像、右画像を入力画像として取得する。左画像は、H算出部31、Y算出部32、及び視差算出部33に入力され、右画像は、視差算出部33に入力される。無論、左右の画像は逆に入力しても以下の説明を同様に適用することができる。
【0026】
次に、視差算出部33は、被写体までの距離情報として、これら左画像、右画像から視差を算出する。視差を算出する方法として、例えば、公知の技術として、ブロックマッチング法がある。ブロックマッチング法とは、画像間の類似度を評価する方法であり、一方の画像からある領域を選択し、その領域と最も類似度の高い領域を比較する画像から選択し、比較対象の領域と選択された最も類似度の高い領域との位置のずれが視差となる。類似度の評価には様々な評価関数が用いられる。例えば、SAD(Sum of Absolute Difference)と言われる、両画像の画素値や輝度値の差異の絶対値の総和が最小となる領域を最も類似度の高い領域として選択する方法がある。
【0027】
図4を参照しながら、被写体までの距離と視差の関係について説明する。左右カメラCL,CRの画像間の視差dは、被写体までの距離Z、基線長B、焦点距離fを用いてd=Bf/Zと表され、被写体までの距離Zと反比例の関係にあり、図4のグラフ40に示すように、被写体までの距離が近いほど視差は大きくなり、被写体までの距離が遠いほど視差は小さくなる。したがって、視差を被写体までの距離を表す指標として扱うことができる。また、被写体までの距離情報を、撮像装置に赤外線センサを備えて測定してもよい。
【0028】
ただし、後述する画像処理過程において距離情報を用いる際に、入力画像と距離情報とを対応させる必要があることを考慮すると、赤外線センサから得られる情報と入力画像を対応させるよりは、左右カメラCL,CRの画像から対応点を算出している視差を用いる方が好適である。
【0029】
次に、Y算出部32が、入力画像から各画素の明るさYを算出する。明るさYは入力画像の画素値から算出することができ、例えば、入力画像がRGB値を持つカラー画像であれば、国際電気通信連合で定義されているRGBからYCbCrへの変換式より、
Y=0.29891×R+ 0.58661×G+0.11448×B ・・・(1)
と定義してもよい。
【0030】
また、明るさYをRGB値の最大値、Y=Max(R,G,B)としてもよい。RGB値の最大値を用いることで、後述する階調変換処理において画質改善効果が得られる。なお、Y算出部32における明るさYの算出は、視差算出部33における視差量の算出と並行して或いはその前後に行うことができる。また、照度センサ等により予め明るさの情報がある場合には、入力画像から明るさを算出する必要はなく、入力された明るさの情報を用いてもよい。
【0031】
次に、H算出部31が、入力画像(この例では左画像)から高周波数成分Hの抽出、つまり高周波数成分Hを算出する。高周波数成分Hを算出するにはハイパスフィルタを用いればよく、例えば、ソーベルフィルタのような空間微分フィルタが用いられる。なお、H算出部31における算出は、Y算出部32や視差算出部33における算出と並行して或いはその前後に行うことができる。
【0032】
次に、L算出部34が、入力画像の照明光成分Lを算出する。この算出方法について説明する。照明光成分Lは、例えば、上述の明るさYを平滑化することで算出できる。所定の領域内(フィルタ内)で平滑化処理を行う際、フィルタ中央の照明光成分Lを算出する画素(以下、注目画素)とフィルタ内の注目画素周辺の画素(以下、周辺画素)にそれぞれ撮像されている被写体までの距離の差異を距離情報から算出し、その差異に応じて明るさを加重平均する。距離情報として視差を用いる場合、加重平均の重み付けは、視差の差が小さい場合は実空間内で近い位置にあり照明光成分Lの差異も小さいと考えられることから重みを大きくし、視差の差が大きい場合は実空間内で離れた位置にあり照明光成分Lの差異が大きい可能性があることから重みを小さくする。
【0033】
図5A〜図5Fを参照しながら、フィルタの一例として5×5のフィルタを用いて注目画素の照明光成分Lを算出する場合について、その算出を中心とした処理及び本発明の効果を説明する。なお、図5A〜図5Fでは、具体的な画像の画素値を挙げて説明するが、他の画素値でも同様の効果が得られる。
【0034】
図5Aで示す画像の画素値51は、注目画素Tを中心としたフィルタ範囲内の入力画像の明るさYを示しており、図5Bで示す視差値52は、同じく入力画像の視差値である。また、図5Cで示す照明光成分Lと図5Dで示す反射率成分Rはそれぞれ、照明光成分Lの正解値、反射率成分Rの正解値とする。したがって、図5Cの照明光成分Lと図5Dの反射率成分Rのそれぞれの値の積が、図5Aの画像の画素値51となる。
【0035】
図5Aの画素値51を用いて、注目画素Tについて単純な平滑化をすると、
L = ( 50×1 + 100×16 + 150×3 + 200×5 ) / 25 = 124
となる。
【0036】
ここで、特許文献1に記載されている方法に基づき、明るさ(注目画素Tとの明るさの差)に応じて平滑化対象とするか否かを判定し、平滑化対象とする画素の重みを1、対象としない画素の重みを0として平滑化する。例えば、平滑化するか否かの画素値の差異を75とすると、重み付けは図5Eに示す重み付け係数55となり、平滑化すると、
L = ( 50×1.0×1 + 100×1.00×16 + 150×0.00×3 + 200×0.00×5 ) / ( 1.0×1 + 1.00×16 + 0.00×3 + 0.00×5 )
= 97
となり、図5Cに示す注目画素Tの正解値「200」と比べてはるかに小さな値となる。
【0037】
一方、本実施形態では、図5Bに示す視差値52に基づいて図5Fに示すように重み付け係数56を算出し、その重み付け係数56で重み付けをして平滑化する。その結果は、
L = ( 50×1.0×1 + 100×0.25×13 + 100×0.50×3 + 150×0.5×3 + 200×1.00×5 ) / ( 1.0×6 + 0.50×6 + 0.25×13 )
= 143
となり、従来の方法と比較して、より正解値に近い照明光成分Lを算出することができることが分かる。すなわち、反射率成分Rを分離した良好な照明光成分Lを算出することができる。なお。ここでは、視差値52に比例するように重み付け係数56を決めた例を挙げているが、これに限らず、重み付け係数56が視差値52の傾向を反映したものであればよい。
【0038】
その効果を分かりやすくするために、図6A〜図6Dを参照しながら、本発明の処理及び効果を実際の入力画像に適用して説明する。図6Aに示す入力画像61に対して、本実施形態の方法で照明光成分Lを算出すると、図6Cに示す照明光成分Lの画像63のようになる。図6Bで示す視差画像62は、図6Aの入力画像61に対する視差を示す画像であり、明るい程視差が大きく距離が近く、暗い程視差が小さく距離が遠いことを意味している。照明光成分Lの画像63と視差画像62とを対応させて比較すると、距離が近い屋内と距離が遠い屋外とのエッジ周辺で照明光成分Lが急峻に変化しているのが分かる。
【0039】
本発明の効果を確認するための比較例として、単純な平滑化フィルタを用いて照明光成分Lを算出すると、図6Dに示す照明光成分Lの画像64のようになる。図6Cで示したように本実施形態で算出した照明光成分Lの画像63が、屋内と屋外とのエッジ周辺で照明光成分Lが急峻に変化しているのに対し、単純な平滑化フィルタを用いた場合、図6Dの画像64で示すようにエッジ周辺で照明光成分Lが緩やかに変化しており、これがハローの原因となる。
【0040】
同様に、図7A〜図7Dを参照しながら、本発明の処理及び効果を実際の入力画像(図6A〜図6Fの例とは異なる入力画像)に適用して説明する。図7Aに示す入力画像71に対して、本実施形態の方法で照明光成分Lを算出すると、図7Cに示す照明光成分Lの画像73のようになる。図7Bで示す視差画像72は、図7Aの入力画像71に対する視差を示す画像であり、明るい程視差が大きく距離が近く、暗い程視差が小さく距離が遠いことを意味している。照明光成分Lの画像73は、視差画像72と比べると、距離が近い手前の被写体(シマウマ)と距離が遠い背景とのエッジ周辺で照明光成分Lが急峻に変化しており、かつシマウマの部分の照明光成分Lがほぼ均一になっていることが分かる。
【0041】
本発明の効果を確認するための比較例として、特許文献1に記載されている方法で照明光成分Lを算出すると、図7Dに示す照明光成分Lの画像74のようになる。図7Cで示したように本実施形態で算出した照明光成分Lの画像73が、手前の被写体の照明光成分Lがほぼ均一になっているのに対し、特許文献1に記載の方法で処理した場合、図7Dの画像74で示すように、手前の被写体の照明光成分Lが平滑化されず、照明光成分Lに反射光成分Rが含まれてしまっているのが分かる。これにより、特許文献1に記載の方法では、照明光成分Lを圧縮すると反射光成分Rも圧縮されてしまいコントラストが低下することになる。
【0042】
ここで、図8を参照しながら、距離情報として視差を用いる場合の重み付けについて更に詳しく述べる。図8は、被写体までの距離と視差の関係を、具体的な数値を例に挙げて示す図である。図4のグラフ40に示すように、左右カメラCL,CRの画像間の視差は、被写体までの距離が遠くなるにつれて小さくなるとともに、被写体までの距離の変化に対する視差の変化量も小さくなる。すなわち、近い距離で視差が「1」異なるのと、遠い距離で視差が「1」異なるのとでは、実空間内での距離の差は異なる。例えば、被写体までの距離と視差とが図8に示すグラフ80のような関係であるとすると、視差「10」と「9」とでは実空間内の距離の差は小さいが、視差「2」と「1」とでは実空間内の距離の差が大きく、視差の差異が同じ「1」であっても、実空間内では距離の差が異なることがわかる。そこで、重み付けをする際、注目画素の視差値と、注目画素と周辺画素との視差の差異の大きさを共に考慮することで、距離情報として視差を用いる場合でも、実空間内の距離の差を反映する重み付けをすることができる。
【0043】
例えば、照明光成分Lを算出する際の重みWを以下に示す数式(2)のように定義すればよい。ここで、Dijは注目画素の視差、|Dij - Di+k,j+l|は注目画素と参照画素の視差の差異、k、lはそれぞれ、フィルタ内における参照画素の注目画素からの横、縦方向のずれ量を表す変数である。なお、数式(2)では、重み付け関数Wの一例を視差Dijを用いた場合で示しているが、距離情報として視差を用いずに距離を示す情報を用いる場合にも、同様の重み付けの式が一例として適用できる。
【0044】
【数1】
【0045】
注目画素の視差を「10」、周辺画素の視差を「9」とすると、視差「10」に対して差異は「1」であるから、重みは1−1/10=0.9となる。注目画素の視差を「2」、周辺画素の視差を「1」とすると、視差「2」に対して差異は「1」であるから、重みは1−1/2=0.5となり、視差の差異が同じ値であっても、実空間内の距離の差を反映した重み付けとなる。
【0046】
注目画素と参照画素の距離の差異を考慮した照明光成分Lの算出方法を数式で表すと、以下に示す数式(3)のようになる。
【0047】
【数2】
【0048】
ここで、Dijは注目画素の距離情報、|Dij - Di+k,j+l|は注目画素と参照画素の距離情報の差異、k、lはそれぞれフィルタの横、縦方向のサイズである。また、W(Dij,|Dij - Di+k,j+l|)は、Dij、|Dij - Di+k,j+l|を変数とする重み付け関数である。
【0049】
上述のように、本実施形態では、照明光成分Lを算出する際に、注目画素と周辺画素との距離の差異を考慮することで、図6Aの入力画像61や図7Aの入力画像71ような、従来の算出方法では照明光成分に反射光成分が反映されてしまうシーンにおいても、良好な照明光成分を算出することができる。
【0050】
次に、階調変換処理について述べる。物体の明るさは物体の反射率と照明光の積で決まることから、入力画像の明るさYを、照明光成分Lと反射光成分Rを用いて、
Y=R×L ・・・(4)
と表す。また、階調変換後の画像の明るさをY′、照明光成分をL′、反射光成分をR′とすると、
Y′=R′×L′ ・・・(5)
と表せる。
【0051】
本実施形態では、入力画像の照明光成分Lのみを圧縮し、反射率成分Rを維持するよう階調変換を施す。すなわち、階調変換の前後で反射率成分が変化しない処理を施せばよく、次の数式(6)の関係が成り立てばよい。
R=R′ ・・・(6)
【0052】
数式(4)〜(6)より反射率成分を消去すると、
Y′=Y×L′/L ・・・(7)
となり、階調変換後の画像の明るさY′が、入力画像の明るさY、照明光成分L、階調変換後の画像の照明光成分L′のみで表される。したがって、階調変換後の照明光成分L′を定義すれば、反射光成分を算出することなく、反射率成分を維持する階調変換処理を施すことができる。
【0053】
次に、照明光成分L′の定義について説明する。本実施形態では、図3のL圧縮部35が、照明光成分を圧縮する階調変換処理を施す。すなわち、照明光成分Lを圧縮するよう照明光成分L′を定義する。
【0054】
図9を参照しながら、この圧縮方法の一例を説明する。図9で示す、グラフ90のように、照明光成分Lに対し照明光成分L′が上に凸になるよう定義すると、暗部領域はより明るくなり、明部領域は明るさが抑えられ、照明光成分が圧縮される。なお、グラフ90は各階調値について個別に定めた変換値の一例であるが、表示装置の性能に依って画像の見え方は変わるため、このグラフ90で示すような階調変換テーブルを数パターン保持しておき、表示装置に合わせて最適なテーブルを選択するようにしておいてもよい。
【0055】
上述の圧縮の処理を、RGB値を有するカラー画像に適用する場合、階調変換後の画素値をR′G′B′とすると、以下の数式(8)〜(10)に示すように、入力画像の画素値RGBに対しL′/Lを掛ければよい。
【0056】
R′= R×L′/L ・・・(8)
G′= G×L′/L ・・・(9)
B′= B×L′/L ・・・(10)
【0057】
R′G′B′と数式(1)からY′を算出すると、
Y′=0.29891×R′+ 0.58661×G′+0.11448×B′
=(0.29891×R+ 0.58661×G+0.11448×B)×L′/L
=Y×L′/L
となり、数式(7)の関係を満たしていることがわかる。
【0058】
また、明るさYをRGB値の最大値と定義する場合も同様に、数式(7)の関係が満たされる。明るさYをRGB値の最大値を用いる場合、彩度が高い領域において以下のような効果がある。彩度が高い画素、例えば、RGB値が(R,G,B)=(10,10,255)という画素について、数式(1)を用いて明るさYを算出すると、Y=38となり、RGB値の最大値を用いるとY=255となる。上述の階調変換処理では、暗い領域をより明るくするため、数式(1)から算出した明るさYを用いると、暗い領域としてみなし明るくする処理を施し、B値はすでに飽和しているため、R、G値のみが増加し、彩度が低下する可能性がある。一方、明るさYとしてRGB値の最大値を用いると、上述の画素は飽和した明るい画素とみなし明るさを抑えるため、彩度が低下しない。したがって、数式(8)〜(10)に示す階調変換処理を施す場合は、RGB値の最大値を明るさYとする方が好適である。
【0059】
上述の階調変換処理により、照明光成分を圧縮することで暗部から明部まで明瞭な画像を得ることができる。また、Lが連続的な領域では近接する画素間の照明光成分Lの値の差異が小さく、すなわち、近接画素間のL′/Lの差異も小さいため、上述の階調変換処理によって近接画素間のコントラストは維持され、暗部から明部までコントラストの高い高画質な画像が得られる。
【0060】
また、図3のL算出部34の処理に関し、照明光成分算出に用いるフィルタサイズを被写体までの距離に応じて変えることで、更なる画質改善効果が得られる。この処理について具体的に説明する。
【0061】
照明光成分を算出する際、フィルタサイズが極端に小さいと照明光成分が十分に平滑化されない可能性があるため、フィルタはある程度の大きさがある方が好適である。しかし、フィルタのサイズが大きい場合、遠方にある被写体については、実空間内では照明光が急峻に変化していても、距離情報上では距離の差異を判別できず、その結果、照明光成分が平滑化されエッジが緩やかになりハローの原因となる可能性がある。実際、赤外線センサや視差情報を得る左右カメラCL,CR(つまりステレオカメラ)といった、距離情報の算出手段は、遠方の算出分解能が低く、例えば、図4のグラフ40で示したように、被写体までの距離が遠いほど距離の変化に対する視差の変化が小さくなり、視差の距離に対する分解能が低下し、ある閾値以上の距離で視差が収束する。したがって、遠方の異なる距離に2つの被写体が存在する場合、実空間内において異なる距離に存在していても、距離情報上では距離の差異を判別できないことがある。
【0062】
遠方に複数の被写体がある場合の照明光成分算出方法について、図10A〜図10Dを参照しながら説明する。図10Aで示す入力画像100には、前景に被写体101、後景に2つの被写体102,103が写っている。なお、この例では遠方に2つの被写体がある例を挙げているが、3つ以上の被写体があっても以下の処理は同様に適用できる。また、入力画像100に対する距離情報を示す画像は、図10Bで示す距離画像104のようになる。距離画像104では、明るい色ほど被写体までの距離が小さいことを意味している。
【0063】
被写体102と被写体103は実空間内においては異なる距離に存在するが、図10Bの距離画像104のように、入力される距離情報は共に同じ距離になってしまう。図10Aの入力画像100及び図10Bの距離画像104を用いて照明光成分を算出すると、被写体101と被写体102、被写体101と被写体103とはそれぞれ距離情報が異なるため、距離の差異を考慮できる。一方で、被写体102と被写体103は距離情報に差異がなく、図10Cの画像105(図10Aの入力画像100にフィルタを図示したもの)で示すように、フィルタ106内で被写体102と被写体103を同じ距離にある被写体として扱うことになり、実空間内では照明光の異なる領域の照明光成分を平滑化して算出する可能性がある。
【0064】
そこで、本実施形態では、被写体までの距離が大きい場合は、図10Dの画像107((図10Aの入力画像100に小さくしたフィルタを図示したもの)においてフィルタ108で示すように、フィルタサイズを小さくし、照明光成分算出の際に、実空間内で距離の異なる複数の被写体を、同じ距離にある被写体として扱うことを回避する。その結果、距離情報からは距離の判別ができない遠方に、照明光の異なる複数の被写体がある場合でも、実空間内の照明光の急峻な変化を反映する良好な照明光成分を算出することができる。つまり、距離情報に応じてフィルタサイズを異ならせる距離適応フィルタを採用することで、照明光成分算出の際に、実空間内で距離の異なる複数の被写体を、同じ距離にある被写体として扱うことを回避することができる。
【0065】
また、フィルタサイズを小さくすると、照明光成分が十分に平滑化されない可能性があると述べたが、単位フィルタサイズ当たりの実空間内のフィルタリング領域は、被写体までの距離に増加に伴い増加するため、被写体までの距離が大きい場合はフィルタのサイズを小さくしても実空間内で十分な領域をフィルタリングすることができる。
【0066】
この点について、図11A〜図11Cを参照しながら説明する。図11A〜図11Cは、フィルタリングする領域と被写体の大きさとの相対的な大きさを比較するための図である。図11Aには、被写体111を近距離から撮影する場合の撮影画像を示し、図11Bには、被写体111を遠距離から撮影する場合の撮影画像を示している。なお、図11A〜図11Cにおいて、四角のマス1つ1つは画素を示しており、便宜上、11×11画素で構成される画像を示している。図11Aでは被写体111は大きく写っており、図11Bでは被写体111は小さく写っている。また、図11A、図11Bにおいて、照明光成分算出に用いるフィルタ112のサイズを4×4として図中に点線の枠で示している。
【0067】
被写体111とフィルタ112の相対的な大きさを比較すると、図11Aでは被写体111の一部をフィルタリングすることになり、図11Bでは被写体111の全体をフィルタリングすることになる。つまり、フィルタサイズが同じ場合、被写体までの距離の増加に伴い、フィルタリングする実空間内の領域も増加する。したがって、照明光成分算出に用いるフィルタサイズを被写体までの距離に応じて小さくしても、実空間内で同じ領域をフィルタリングすることができる。例えば、図11Bにおいては、図11Cに示すフィルタ113のように、フィルタサイズ2×2で、図11Aに示す4×4のフィルタと同等の実空間内での領域をフィルタリングすることができる。上述のように、被写体までの距離に応じて照明光成分算出に用いるフィルタサイズを小さくしても、照明光成分を平滑化するのに十分な実空間内の領域をフィルタリングすることができる。
【0068】
ここで、図12を参照しながら、被写体までの距離に基づき照明光成分を算出するフィルタのサイズを変更する一例を説明する。フィルタサイズは、例えば、図12のグラフ120で示すように、被写体までの距離の増加に伴い減少させればよい。つまり、注目画素に対応した距離情報が示す被写体までの距離が大きい程、周辺画素として参照する範囲を小さくするようにすればよい。このように、被写体までの距離に応じてフィルタのサイズを小さくすることで、照明光成分を算出する際の計算量を低減する効果も得られる。
【0069】
また、入力画像の高周波数成分Hも利用することで、更なる画質改善効果が得られる。よって、図3の撮像装置1aでは、H算出部31及びH加算部36を設けている。L圧縮部35において照明光成分Lを圧縮する階調変換処理を施すと、照明光成分Lのエッジ周辺は、照明光成分Lの値が小さい側は明るくなり、照明光成分Lの値が大きい側は明るさを抑えるため、照明光成分Lのエッジ周辺のコントラストは少なからず低下する。
【0070】
そこで、照明光成分Lを圧縮する階調変換処理を施した画像に、H加算部36が、H算出部31で算出された入力画像の高周波数成分Hを加算することで、照明光成分Lのエッジ周辺のコントラストも高くなり、画質が向上する。
【0071】
なお、高周波数成分を加算せずとも十分な画質改善効果が得られる。その場合、H加算部36を設けずに、L圧縮部35からの出力値、上述の例で言うと、数式(1)から数式(8)〜(10)の処理により照明光成分を圧縮したRGB値を、出力画像として出力すればよい。
【0072】
また、高周波成分を加算する場合であっても、例えば特許文献1に記載のように拡大してから加算してもよい。ただし、高周波数成分を加算しない場合には、コントラストが低下する領域は照明光成分Lのエッジ周辺であってその他の領域のコントラストは維持されることから、拡大した高周波数成分を足し合わせる場合には、過度にエッジが強調されないように調整を行えば、本発明の効果は十分に得られる。
【0073】
以上、説明したように、本実施形態によれば、入力画像の照明光成分を、被写体までの距離を考慮して算出し、算出した照明光成分を圧縮し反射光成分を維持する階調変換処理を施すことで、暗部から明部までコントラストが高く、ハローの抑制された画像に変換し、入力画像の高周波成分を加算することで、更にコントラストの高い高画質な画像を得ることができる。
【0074】
<第2の実施形態>
第1の実施形態では、画像処理を施す画像処理装置を備える撮像装置について述べたが、本発明に係る画像処理装置(図1の画像処理装置10や図3の画像処理装置30)は、図1や図3のように撮像装置内に備えていなくてもよく、例えば、液晶ディスプレイなどの表示装置に備えても、同様の効果は得られる。画像処理装置を表示装置に備える場合、表示装置に入力画像と距離情報が入力され、その画像処理装置で、入力画像に対し第1の実施形態と同様にコントラストが高くハローの抑制された画像に変換する画像処理を施し、表示装置に出力画像を表示する。
【0075】
また、左右カメラCL,CRの画像のみが入力され、距離情報が入力されない場合は、表示装置内で左右カメラCL,CRの視差を算出して距離情報とすればよい。また、表示装置に限らず、パーソナルコンピュータ(PC)やブルーレイレコーダなどの映像機器に、本発明に係る画像処理装置を備え、入力画像をコントラストが高くハローの抑制された出力画像に変換してもよい。
【0076】
<第1、第2の実施形態の構成例>
例えば図1で例示した画像処理装置10における各部11〜13、或いは図3で例示した画像処理装置30における各部31〜36など、本発明に係る画像処理装置の各構成要素は、例えばマイクロプロセッサ(またはDSP:Digital Signal Processor)、メモリ、バス、インターフェイス、周辺装置などのハードウェアと、これらのハードウェア上にて実行可能なソフトウェアとにより実現できる。上記ハードウェアの一部または全部は集積回路/IC(Integrated Circuit)チップセットとして搭載することができ、その場合、上記ソフトウェアは上記メモリに記憶しておければよい。また、本発明の各構成要素の全てをハードウェアで構成してもよく、その場合についても同様に、そのハードウェアの一部または全部を集積回路/ICチップセットとして搭載することも可能である。
【0077】
また、上述した様々な構成例における機能を実現するためのソフトウェアのプログラムコードを記録した記録媒体を、画像処理装置となる表示装置、PC、レコーダ等の装置に供給し、その装置内のマイクロプロセッサまたはDSPによりプログラムコードが実行されることによっても、本発明の目的が達成される。この場合、ソフトウェアのプログラムコード自体が上述した様々な構成例の機能を実現することになり、このプログラムコード自体や、プログラムコードを記録した記録媒体(外部記録媒体や内部記憶装置)であっても、そのコードを制御側が読み出して実行することで、本発明を構成することができる。外部記録媒体としては、例えばCD、DVD、BDなどの光ディスクやメモリカード等の不揮発性の半導体メモリなど、様々なものが挙げられる。内部記憶装置としては、ハードディスクや半導体メモリなど様々なものが挙げられる。また、プログラムコードはインターネットからダウンロードして実行することや、放送波から受信して実行することもできる。
【符号の説明】
【0078】
1,1a…撮像装置、10,30…画像処理装置、11,32…明るさ(Y)算出部、12,34…照明光成分(L)算出部、13,35…照明光成分(L)圧縮部、31…高周波数成分(H)算出部、33…視差算出部、36…高周波数成分(H)加算部、CR…右カメラ、CL…左カメラ、S…シャッタ。
【特許請求の範囲】
【請求項1】
入力画像に対し、注目画素の明るさと周辺画素の明るさから照明光成分を算出し、該照明光成分に基づき階調変換処理を施す画像処理装置であって、
前記照明光成分を、
前記入力画像における被写体までの距離を示す距離情報から算出した前記注目画素に対応した前記距離情報と前記周辺画素に対応した前記距離情報の差異に応じて、明るさに対する重み付けを変え、
かつ、
前記注目画素に対応した前記距離情報に応じて、前記周辺画素として参照する範囲を異ならせて算出する
ことを特徴とする画像処理装置。
【請求項2】
前記照明光成分を、
前記注目画素に対応した前記距離情報が示す被写体までの距離が大きい程、前記周辺画素として参照する範囲を小さくして算出することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記階調変換処理が施された結果の画像に対して、更に前記入力画像から抽出した高周波数成分を加算することを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
請求項1〜3のいずれか1項に記載の画像処理装置を備える撮像装置であって、撮影した画像を前記入力画像として前記画像処理装置に入力することを特徴とする撮像装置。
【請求項1】
入力画像に対し、注目画素の明るさと周辺画素の明るさから照明光成分を算出し、該照明光成分に基づき階調変換処理を施す画像処理装置であって、
前記照明光成分を、
前記入力画像における被写体までの距離を示す距離情報から算出した前記注目画素に対応した前記距離情報と前記周辺画素に対応した前記距離情報の差異に応じて、明るさに対する重み付けを変え、
かつ、
前記注目画素に対応した前記距離情報に応じて、前記周辺画素として参照する範囲を異ならせて算出する
ことを特徴とする画像処理装置。
【請求項2】
前記照明光成分を、
前記注目画素に対応した前記距離情報が示す被写体までの距離が大きい程、前記周辺画素として参照する範囲を小さくして算出することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記階調変換処理が施された結果の画像に対して、更に前記入力画像から抽出した高周波数成分を加算することを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
請求項1〜3のいずれか1項に記載の画像処理装置を備える撮像装置であって、撮影した画像を前記入力画像として前記画像処理装置に入力することを特徴とする撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5A】
【図5B】
【図5C】
【図5D】
【図5E】
【図5F】
【図6A】
【図6B】
【図6C】
【図6D】
【図7A】
【図7B】
【図7C】
【図7D】
【図8】
【図9】
【図10A】
【図10B】
【図10C】
【図10D】
【図11A】
【図11B】
【図11C】
【図12】
【図13A】
【図13B】
【図13C】
【図13D】
【図14A】
【図14B】
【図14C】
【図14D】
【図2】
【図3】
【図4】
【図5A】
【図5B】
【図5C】
【図5D】
【図5E】
【図5F】
【図6A】
【図6B】
【図6C】
【図6D】
【図7A】
【図7B】
【図7C】
【図7D】
【図8】
【図9】
【図10A】
【図10B】
【図10C】
【図10D】
【図11A】
【図11B】
【図11C】
【図12】
【図13A】
【図13B】
【図13C】
【図13D】
【図14A】
【図14B】
【図14C】
【図14D】
【公開番号】特開2012−256168(P2012−256168A)
【公開日】平成24年12月27日(2012.12.27)
【国際特許分類】
【出願番号】特願2011−128322(P2011−128322)
【出願日】平成23年6月8日(2011.6.8)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成24年12月27日(2012.12.27)
【国際特許分類】
【出願日】平成23年6月8日(2011.6.8)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]