画像処理装置、および画像処理方法、並びにプログラム
【課題】異なる画素配列の画像に変換するリモザイク処理を実行する装置、方法を提供する。
【解決手段】入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行する。このリモザイク処理において、入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、8方向の画素値勾配に基づいて、変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。例えば、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像をベイヤ配列に変換する。
【解決手段】入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行する。このリモザイク処理において、入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、8方向の画素値勾配に基づいて、変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。例えば、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像をベイヤ配列に変換する。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、および画像処理方法、並びにプログラムに関する。特に、画像のリモザイク処理を実行する画像処理装置、および画像処理方法、並びにプログラムに関する。
【背景技術】
【0002】
デジタルカメラ等の撮像装置に利用される撮像素子には、例えばRGB配列からなるカラーフィルタが装着され、各画素に特定の波長光を入射する構成となっている。
具体的には、例えばベイヤ(Bayer)配列を持つカラーフィルタが多く利用されている。
【0003】
ベイヤ配列の撮像画像は、撮像素子の各画素にRGBいずれかの色に対応する画素値のみが設定されたいわゆるモザイク画像となる。カメラの信号処理部は、このモザイク画像に対して画素値補間などの様々な信号処理を施して各画素にRGBの全画素値を設定するデモザイク処理等を行い、カラー画像を生成して出力する。
【0004】
このベイヤ配列に従ったカラーフィルタを備えた撮像画像に対する信号処理については、すでに多くの検討がなされ、ある程度、技術的に確立されていると言える。しかし、ベイヤ配列と異なる配列を持つ画像に対する信号処理については、まだ十分な検討がなされていないというのが現状である。
【0005】
一般的なカメラにおける信号処理は、ベイヤ配列画像に対して実行する設定としたものが多く、撮像素子の画素配列がベイヤ配列と異なる配列である場合、撮像素子からの入力する画像の画素配列をベイヤ配列に変換してカメラ信号処理部に入力することで、既存の信号処理を適用することが可能となる。
【0006】
このため、ベイヤ配列以外の画素配列の撮像画像については、カメラ信号処理部へ入力する前の前処理として撮像素子からの入力画像をベイヤ配列に変換する処理を実行することが好ましい。このような画素配列の変換処理は「リモザイク処理」と呼ばれる。しかし、撮像素子の画素配列には様々な配列があり、これら様々な画素配列に対する最適なリモザイク処理について十分に開示している従来技術はない。
【0007】
なお、ベイヤ配列と異なる配列を持つ構成については、例えば、特許文献2(特開平11−29880号公報)、特許文献3(特開2000−69491号公報)などに記載がある。
【0008】
これらの特許文献2,3は、撮像素子(イメージセンサ)に2×2画素のR画素、2×2画素のG画素、2×2画素のB画素等、同色の複数画素を配置する設定とし、同一色の2×2画素の構成画素を異なる露光時間に設定して撮影を実行するものである。特許文献2,3では、このようなイメージセンサで撮影された異なる露光時間の同色の画素値の合成を実行して、広ダイナミックレンジ画像を得る構成について説明している。
【0009】
しかし、これらの文献は、複数の異なる露光時間の画素値の合成に基づく広ダイナミックレンジ画像の生成について説明しているものであり、リモザイク処理についての明確な説明は記載していない。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2011−055038号公報
【特許文献2】特開平11−29880号公報
【特許文献3】特開2000−69491号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
本開示は、例えば上記問題点に鑑みてなされたものであり、ベイヤ(Bayer)配列と異なる配列を持つカラーフィルタを備えた撮像素子によって撮影された画像に対する画像処理、特に最適なリモザイク処理を実行する画像処理装置、および画像処理方法、並びにプログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
本開示の第1の側面は、
入力画像の画素信号の補正処理を実行する画像信号補正部を有し、
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する画像処理装置にある。
【0013】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行し、前記画像信号補正部は、前記リモザイク処理において、前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。
【0014】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記入力画像として、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像を入力し、該入力画像をベイヤ配列に変換するリモザイク処理を実行する。
【0015】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配に基づいて、勾配の小さい方向の画素を参照画素として選択し、選択した参照画素の画素値のブレンド処理によって、前記変換対象画素の補間画素値を算出する処理を実行する。
【0016】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の最大値が既定閾値以下である場合、前記変換対象画素の周囲画素の画素値に基づく平滑化信号を前記変換対象画素の補間画素値として算出する処理を実行する。
【0017】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0018】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0019】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0020】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、垂直方向と水平方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上45度方向と右下45度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上22.5度方向と、右下22.5度方向と、右上67.5度方向と、右下67.5度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0021】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記複数の同一色画素によって構成される画素ブロックの構成画素位置に応じて、参照画素位置を変更した補間画素値算出処理を実行する。
【0022】
さらに、本開示の第2の側面は、
画像処理装置において実行する画像処理方法であり、
画像信号補正部が、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行する画像処理方法のにある。
【0023】
さらに、本開示の第3の側面は、
画像処理装置において画像処理を実行させるプログラムであり、
画像信号補正部に、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記リモザイク処理において、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行させるプログラムにある。
【0024】
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
【0025】
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【発明の効果】
【0026】
本開示の一実施例の構成によれば、異なる画素配列の画像に変換するリモザイク処理を実行する装置、方法が実現される。
具体的には、入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行する。このリモザイク処理において、入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、8方向の画素値勾配に基づいて、変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。例えば、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像をベイヤ配列に変換する。
【図面の簡単な説明】
【0027】
【図1】撮像素子の構成例について説明する図である。
【図2】画像処理装置の構成例について説明する図である。
【図3】本開示の画像処理装置の実行する処理について説明するフローチャートを示す図である。
【図4】本開示の画像処理装置の実行する処理について説明するフローチャートを示す図である。
【図5】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図6】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図7】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図8】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図9】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図10】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図11】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図12】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図13】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図14】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図15】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図16】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図17】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図18】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図19】本開示の画像処理装置の実行するRB推定処理について説明する図である。
【発明を実施するための形態】
【0028】
以下、図面を参照しながら本開示の画像処理装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
1.撮像素子の構成例について
2.画像処理装置の構成例について
3.画像処理の具体例について
4.リモザイク処理の詳細について
5.本開示の構成のまとめ
【0029】
[1.撮像素子の構成例について]
図1を参照して撮像素子の構成例について説明する。図1には、以下の3つの撮像素子構成例を示している。
(1)ベイヤ(Bayer)配列
(2)4分割ベイヤ型RGB配列
(3)RGBW型配列
【0030】
(1)ベイヤ(Bayer)配列は多くのカメラにおいて採用されている配列であり、このベイヤ配列を持つカラーフィルタを持つ撮像画像に対する信号処理はほぼ確立している。
しかし、(2)4分割ベイヤ型RGB配列や、(3)RGBW型配列については、まだ、これらのフィルタを備えた撮像素子によって撮影された画像に対する信号処理について十分な検討がなされているとは言えないというのが現状である。
なお、(2)4分割ベイヤ型RGB配列は、(1)に示すベイヤ配列の1つのR,G,B各画素を4つの画素として設定した配列に相当する。
【0031】
以下、この(2)4分割ベイヤ型RGB配列を持つカラーフィルタを備えた撮像素子によって撮影される画像に対する信号処理を実行する画像処理装置について説明する。
【0032】
[2.画像処理装置の構成例について]
図2に、本開示の画像処理装置の一構成例である撮像装置100の構成例を示す。
撮像装置100は、図2に示すように、光学レンズ105、撮像素子(イメージセンサ)110、画像処理部120、メモリ130、制御部140を有する。
【0033】
なお、図2に示す撮像装置100は本開示の画像処理装置の一例であり、本開示の画像処理装置には、例えばPCなどの装置も含まれる。PC等の画像処理装置は、図2に示す撮像装置100の光学レンズ105、撮像素子110を持たず、その他の構成要素から構成され、撮像素子100の取得データの入力部、または記憶部を持つ構成となる。
【0034】
以下では、図2に示す撮像装置100を本開示の画像処理装置の代表例として説明する。なお、図2に示す撮像装置100は、例えばスチルカメラ、ビデオカメラなどである。
【0035】
図2に示す撮像装置100の撮像素子(イメージセンサ)110は、図1(2)を参照して説明した4分割ベイヤ型RGB配列からなるカラーフィルタを備えた構成である。
赤色近傍の波長を透過する赤(R)、
緑色近傍の波長を透過する緑(G)、
青色近傍の波長を透過する青(B)、
これら3種類の分光特性を持つフィルタを備えた撮像素子である。
先に説明したように、4分割ベイヤ型RGB配列は、図1(1)に示すベイヤ配列の1つの画素を4つの画素として設定した配列に相当する。
【0036】
この4分割ベイヤ型RGB配列181を持つ撮像素子110は、光学レンズ105を介してRGBいずれかの光を各画素単位で受光し、光電変換により受光信号強度に対応する電気信号を生成して出力する。この撮像素子110によってRGB3種類の分光から成るモザイク画像が得られる。
【0037】
撮像素子(イメージセンサ)110の出力信号は画像処理部120の画像信号補正部200に入力される。
画像信号補正部200は、4分割ベイヤ型RGB配列181を持つ画像を一般的なカメラに多く用いられるベイヤ配列182に変換する処理を実行する。
すなわち、図1(2)に示す4分割ベイヤ型RGB配列を持つ撮像画像を図1(1)に示すベイヤ配列に変換する処理を行う。
以下、このようなカラー配列の変換処理をリモザイク処理と呼ぶ。
【0038】
画像信号補正部200におけるリモザイク処理の結果として図2に示すベイヤ配列182を持つ画像が生成され、この画像がRGB信号処理部250に入力される。RGB信号処理部250は、既存のベイヤ配列のカラーフィルタを備えたカメラにおける信号処理部と同様の処理、例えばWB(ホワイトバランス)調整、各画素にRGB各画素値を設定するデモザイク処理等を実行してカラー画像183を生成して出力する。カラー画像183はメモリ130に格納される。
【0039】
なお、光学レンズ105、撮像素子110、画像処理部120には制御部140からの制御信号が入力され、撮影処理制御、信号処理制御が実行される。制御部140は、例えばメモリ130に格納されたプログラムに従い、例えば図示しない入力部からのユーザ入力に応じて画像撮影他、各種の処理を実行する。
【0040】
[3.画像処理の具体例について]
次に、図2の画像処理部120において実行する処理について、図3以下を参照して説明する。
図3(a)は、画像処理部120において実行する処理の全体を示す信号処理全体シーケンスである。
まずステップS101において撮像素子110から撮像画像を入力する。
この撮像画像は、4分割ベイヤ型RGB配列181を持つ画像である。
次に、ステップS102において、リモザイク処理を実行する。これは、図2に示す画像信号補正部200の実行する処理であり、4分割ベイヤ型RGB配列181を持つ撮像画像をベイヤ配列182に変換する処理である。
この処理の詳細を示すのが、図3(b)に示すフローである。この処理については後述する。
【0041】
ステップS102においてリモザイク処理が完了すると、リモザイク処理の結果として図2に示すベイヤ配列182を持つ画像が生成される。
ステップS103以下は、図2に示すRGB信号処理部250の処理であり、一般的なカメラにおいて実行され信号処理である。
ステップS103では、ホワイトバランス(WB)調整処理を実行する。
ステップS104では、各画素にRGB各画素値を設定するデモザイク処理を実行する。
ステップS105では、混色除去等のための線形マトリクス(LMTX)処理を実行する。
最後に、ステップS106において、出力画像として図2に示すカラー画像183を生成して出力する。
【0042】
ステップS102のリモザイク処理は、図3(b)に示すフローに従って実行する。これは、4分割ベイヤ型RGB配列画像をヘイヤ配列画像に変換する処理である。
なお、リモザイク処理の詳細については、さらに、図4以下を参照して詳細に説明する。
まず、図3(b)に示すフローを参照してリモザイク処理の概要を説明する。
【0043】
まず、ステップS151において、
入力画像である4分割ベイヤ型RGB配列画像の画素値勾配の方向判定を行う。これはいわゆるエッジ方向判定に相当する処理である。
次に、ステップS152において、4分割ベイヤ型RGB配列画像のRB位置のG画素値を推定し設定するG補間処理を行う。この補間処理に際しては、ステップSZ151において算出した画素値勾配情報を適用し、画素値勾配の小さい方向の画素値を参照画素値とした補間処理を行う。
【0044】
さらに、ステップS153において、G信号位置のRB画素値の推定を行う。この推定処理は、例えば、G画素値とRB画素値が所定の局所領域内で一定の相関を有するとの推定に基づいて行う。
【0045】
これらのステップS152、S153の処理によって、4分割ベイヤ型RGB配列181を持つ撮像画像をベイヤ配列182に変換する基本的な画素値設定が行われる。
さらに、この処理に並列して、ステップS154における偽色検出と、ステップS155における偽色補正を実行する。
撮像素子(イメージセンサ)110に入力される信号中に撮像素子(イメージセンサ)110のナイキスト周波数(サンプリング周波数の1/2の周波数)を超えた信号が含まれる場合、サンプリング定理に基づくエイリアシング(折り返し)が発生し、画質劣化、具体的には偽色の発生要因となる。
ステップS154〜S155ではこのような偽色検出と偽色補正を実行する。
【0046】
ステップS156では、ステップS154〜S155における偽色検出と偽色補正の結果を反映したベイヤ配列画像を生成して出力する。
【0047】
[4.リモザイク処理の詳細について]
次に、図4に示すフローチャートおよび図5以下の処理例を参照してリモザイク処理の詳細について説明する。
図4に示すフローチャートは、図3(a)の全体処理フローのステップS102の処理に対応し、図3(b)のフローをさらに詳細に示したフローチャートである。
【0048】
図4に示すフローについて説明する。図4に示すフローは、図2に示す画像信号補正部200において実行するリモザイク処理のシーケンスを説明するフローである。
図2に示す画像信号補正部200は、撮像素子110から、4分割ベイヤ型RGB配列画像の各画素値を順次、入力して図4に示すフローに従った処理を実行する。
【0049】
まず、ステップS201において、入力画素値がG画素であるか否かを判定する。
G画素でない場合、すなわちRB画素である場合はステップS202に進み、方向判定を行う。
この方向判定は、画素値の勾配(grad)を判定する処理である。エッジ方向判定と同様の処理として実行される。
【0050】
ステップS202の方向判定処理について、図5以下を参照して説明する。
画素値の勾配(grad)は、図5に示すように、
水平方向(H)、
垂直方向(V)、
右上45度方向(A)、
右下45度方向(D)、
これらの4方向に加え、さらに、
右上22.5度方向(A2)、
右上67.5度方向(A3)、
右下22.5度方向(D2)、
右下67.5度方向(D3)、
これら4方向の計8方向について算出する。
【0051】
先に図1(2)を参照して説明した4分割ベイヤ型RGB配列は、図1(1)に示すベイヤ配列に比較して、同色成分のサンプリング間隔が疎であるため、折り返しが、1/2ナイキスト周波数で発生してしまう。
このような周波数の折り返しパターンを精度よく検出するため、本開示の方向判定は、上述のように、多数の8方向で判定を実行する。
【0052】
なお、本実施例では、これらの多数の方向の勾配検出を行う場合、例えば、各勾配方向から同一色画素のみを選択して算出する勾配情報に加え、図6に示すように、異色間の画素値比較による水平・垂直の勾配を検出し、これらの異色間の画素値比較による水平・垂直の勾配情報についても考慮した処理を行う。なお、このような異色の画素値による勾配検出を実行する場合、勾配検出に適用する各画素のホワイトバランス(WB)を揃えた後に実行することが好ましい。図7以下を参照して各方向の勾配検出処理の詳細について説明する。
【0053】
(水平方向(H)勾配:gradH)
図7に示す例は、図7に示す6×6画素の座標位置(2,2)に対応する水平方向(H)勾配算出処理例を示している。
水平方向(H)勾配は、以下のデータに基づいて算出する。
低周波成分水平方向(H)勾配:gradH_low
高周波成分水平方向(H)勾配:gradH_high
異色間成分水平方向(H)勾配:gradH_color
【0054】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図7に示す6×6画素の座標位置(2,2)に対応する水平方向(H)勾配、すなわち、gradH(2,2)は、以下の式に従って算出する。
【0055】
【数1】
【0056】
なお、上記式において、aH、bH、cHは、予め規定した重み係数である。
一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記の重み係数の大小関係はaH>bHとすることが望ましい。
また、1/2Nq近傍で方向判定を間違えると強い偽色を発生することになる。
この領域での誤判定を充分に抑制するため、cH>aHと設定することが望ましい。
【0057】
(垂直方向(V)勾配:gradV)
図8に示す例は、図8に示す6×6画素の座標位置(2,2)に対応する垂直方向(V)勾配算出処理例を示している。
垂直方向(V)勾配は、以下のデータに基づいて算出する。
低周波成分垂直方向(V)勾配:gradV_low
高周波成分垂直方向(V)勾配:gradV_high
異色間成分垂直方向(V)勾配:gradV_color
【0058】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図8に示す6×6画素の座標位置(2,2)に対応する垂直方向(V)勾配、すなわち、gradV(2,2)は、以下の式に従って算出する。
【0059】
【数2】
【0060】
なお、上記式において、aV、bV、cVは、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、重み係数の大小関係はaV>bVとすることが望ましい。
また、1/2Nq近傍で方向判定を間違えると強い偽色を発生することになる。
この領域での誤判定を充分に抑制するため、cV>aVと設定することが望ましい。
【0061】
(右上45度方向(A)勾配:gradA)
図9に示す例は、図9に示す6×6画素の座標位置(2,2)に対応する右上45度方向(A)勾配算出処理例を示している。
右上45度方向(A)勾配は、以下のデータに基づいて算出する。
中周波成分右上45度方向(A)勾配:gradA_mid
低周波成分右上45度方向(A)勾配:gradA_low
高周波成分右上45度方向(A)勾配:gradA_high
【0062】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図9に示す6×6画素の座標位置(2,2)に対応する右上45度方向(A)勾配、すなわち、gradA(2,2)は、以下の式に従って算出する。
【0063】
【数3】
【0064】
なお、上記式において、aA、bA、cAは、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaA,bA>cAとすることが望ましい。
【0065】
(右下45度方向(D)勾配:gradD)
図10に示す例は、図10に示す6×6画素の座標位置(2,2)に対応する右下45度方向(D)勾配算出処理例を示している。
右下45度方向(D)勾配は、以下のデータに基づいて算出する。
中周波成分右下45度方向(D)勾配:gradD_mid
低周波成分右下45度方向(D)勾配:gradD_low
高周波成分右下45度方向(D)勾配:gradD_high
【0066】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図10に示す6×6画素の座標位置(2,2)に対応する右下45度方向(D)勾配、すなわち、gradD(2,2)は、以下の式に従って算出する。
【0067】
【数4】
【0068】
なお、上記式において、aD、bD、cDは、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaD,bD>cDとすることが望ましい。
【0069】
(右上22.5度方向(A2)勾配:gradA2)
図11に示す例は、図11に示す6×6画素の座標位置(2,2)に対応する右上22.5度方向(A2)勾配算出処理例を示している。
右上22.5度方向(A2)勾配は、以下のデータに基づいて算出する。
中央成分右上22.5度方向(A2)勾配:gradA2_center
高周波成分右上22.5度方向(A2)勾配:gradA2_high
【0070】
なお、高周波成分右上22.5度方向(A2)勾配:gradA2_highは、図11に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右上22.5度方向(A2)勾配:gradA2_highを算出する。
【0071】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図11に示す6×6画素の座標位置(2,2)に対応する右上22.5度方向(A2)勾配、すなわち、gradA2(2,2)は、以下の式に従って算出する。
【0072】
【数5】
【0073】
なお、上記式において、aA2、bA2は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaA2>bA2とすることが望ましい。
【0074】
(右下22.5度方向(D2)勾配:gradD2)
図12に示す例は、図12に示す6×6画素の座標位置(2,2)に対応する右下22.5度方向(D2)勾配算出処理例を示している。
右下22.5度方向(D2)勾配は、以下のデータに基づいて算出する。
中央成分右下22.5度方向(D2)勾配:gradD2_center
両サイド成分右下22.5度方向(D2)勾配:gradD2_wb
高周波成分右下22.5度方向(D2)勾配:gradD2_high
【0075】
なお、高周波成分右下22.5度方向(D2)勾配:gradD2_highは、図12に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右下22.5度方向(D2)勾配:gradD2_highを算出する。
【0076】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図12に示す6×6画素の座標位置(2,2)に対応する右下22.5度方向(D)勾配、すなわち、gradD(2,2)は、以下の式に従って算出する。
【0077】
【数6】
【0078】
なお、上記式において、aD2、bD2は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaD2>bD2とすることが望ましい。
【0079】
(右上67.5度方向(A3)勾配:gradA3)
図13に示す例は、図13に示す6×6画素の座標位置(2,2)に対応する右上67.5度方向(A3)勾配算出処理例を示している。
右上67.5度方向(A3)勾配は、以下のデータに基づいて算出する。
中央成分右上67.5度方向(A3)勾配:gradA3_center
高周波成分右上67.5度方向(A3)勾配:gradA3_high
【0080】
なお、高周波成分右上67.5度方向(A3)勾配:gradA3_highは、図13に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右上67.5度方向(A3)勾配:gradA3_highを算出する。
【0081】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図13に示す6×6画素の座標位置(2,2)に対応する右上67.5度方向(A3)勾配、すなわち、gradA3(2,2)は、以下の式に従って算出する。
【0082】
【数7】
【0083】
なお、上記式において、aA3、bA3は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaA3>bA3とすることが望ましい。
【0084】
(右下67.5度方向(D3)勾配:gradD3)
図14に示す例は、図14に示す6×6画素の座標位置(2,2)に対応する右下67.5度方向(D3)勾配算出処理例を示している。
右下67.5度方向(D3)勾配は、以下のデータに基づいて算出する。
高周波成分右下67.5度方向(D3)勾配:gradD3_high
【0085】
なお、高周波成分右下67.5度方向(D3)勾配:gradD3_highは、図14に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右下67.5度方向(D3)勾配:gradD3_highを算出する。
【0086】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図14に示す6×6画素の座標位置(2,2)に対応する右下67.5度方向(D)勾配、すなわち、gradD(2,2)は、以下の式に従って算出する。
【0087】
【数8】
【0088】
なお、上記式において、aD3、bD3は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaD3>bD3とすることが望ましい。
【0089】
以上、図4のフローチャートのステップ202の方向判定処理について説明した。
次にステップS203に進み、G補間処理を実行する。これは、4分割ベイヤ型RGB配列画像のRB位置のG画素値を推定し設定するG補間処理である。この補間処理に際しては、ステップS151において算出した画素値勾配情報を適用し、画素値勾配の小さい方向の画素値を参照画素値とした補間処理を行う。
【0090】
補間処理の具体例について、図15以下を参照して説明する。
【0091】
(2,2位相の場合の補間画素の算出処理例)
図15は、図15に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(2,2)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0092】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0093】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
上記8つの補間画素値の算出は以下の式に従って実行する。
【0094】
【数9】
【0095】
(3,2位相の場合の補間画素の算出処理例)
図16は、図16に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(3,2)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0096】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0097】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
上記8つの補間画素値の算出は以下の式に従って実行する。
【0098】
【数10】
【0099】
(2,3位相の場合の補間画素の算出処理例)
図17は、図17に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(2,3)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0100】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0101】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
【0102】
(3,3位相の場合の補間画素の算出処理例)
図18は、図18に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(3,3)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0103】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0104】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
【0105】
(算出した8方向の参照画素に基づく補間画素値からの最終補間画素値の選択)
図15〜図18を参照して説明したように、4分割ベイヤ型RGB配列画像のRまたはB画素の画素位置におけるG画素の補間画素値は、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値として算出する。
【0106】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
【0107】
直交する方向に判定を間違うとアーティファクトが大きくなるため、直交する方向同士で勾配(grad)の小さい方向を選択するというアルゴリズムを適用する。
例えば、上記アルゴリズムに従って選択した方向に対応する補間画素値を利用したブレンド処理を実行して最終的な補間画素値を算出する。
具体的には、例えば、gradHV,gradAD,gradA2A3D2D3の最大値が閾値以下であれば、周囲画素の平滑化信号を補間画素値として出力する。(平坦部のノイズ対策)
gradA2A3D2D3が最小値の時は、その方向から補間、それ以外の場合はgradHVとgradADの値に応じて補間値をブレンドする。
このような処理に従って最終的な補間画素値を算出する。
【0108】
図4のフローに戻り、4分割ベイヤ型RGB配列画像をベイヤ配列画像に変換するリモザイク処理シーケンスについての説明を続ける。
ステップS203におい、RB画素位置に対するG画素値の設定処理であるG補間処理が終了すると、ステップS204に進む。
【0109】
ステップS204では、G画素値の推定がなされたG推定画素位置であるか否かを判定する。すなわち元々RB画素であった画素位置を補間処理によって算出したG画素値を設定した画素であるか否かを判定する。G推定画素位置である場合は、ステップS213の出力選択処理に移行する。
【0110】
G推定画素位置でない場合は、ステップS205に進み、偽色の検出の有無を判定する。
ステップS205の偽色検出処理について説明する。
4分割ベイヤ型RGB配列画像はベイヤ配列画像と同様、Gと比べてRBのサンプリングレートが低い。したがって、RBについては、低周波域でエイリアシングが発生しやすい。
例えば、Gは、ナイキスト周波数の1/2、すなわち1/2Nqでは、エイリアシングがおこらず、高周波成分があるのに対し、RBはエイリアシングにより高周波成分が失われている。このことを利用して、G信号とRB信号の適切な帯域のラプラシアンを比較することで、エイリアシングを検出する。
具体的には、例えばナイキスト周波数の1/2、すなわち1/2Nqを検出できる勾配(or ラプラシアン(lpl))でG_lplとRB_lplを算出し、その差分を用いて検出する。
【0111】
ステップS205において偽色が検出された場合は、ステップS206において偽色補正を実行する。偽色補正処理事態は既存の処理を適用可能である。
偽色補正の具体例について説明する。偽色補正は、例えば、ISPでは検出領域のLMTXを弱めにかける。あるいはCIS内処理では逆WBで無彩色化などの処理が適用可能である。
【0112】
ステップS206における偽色補正の後、ステップS207に進み、RB推定処理を実行する。この処理は4分割ベイヤ型RGB配列画像をベイヤ配列画像に変換するために必要となる4分割ベイヤ型RGB配列中のRGB位置にRBを設定するための処理である。
【0113】
このRB推定処理の具体例について、図19を参照して説明する。
このRB推定処理は、図19に示すように、局所領域、例えば7×7画素の局所領域においてはG画素の画素値とRB画素の画素値に相関があるとの推定にも基づく補間処理、すなわち色相関補間処理を実行する。
【0114】
次に、図4のフローにおけるステップS201において、処理対象画素がG画素であると判定した場合の処理について説明する。
この場合は、ステップS211に進む。
ステップS211では、ステップS204と同様の処理、すなわち、G画素値の推定がなされたG推定画素位置であるか否かを判定する。すなわち元々RB画素であった画素位置を補間処理によって算出したG画素値を設定した画素であるか否かを判定する。G推定画素位置である場合は、ステップS213の出力選択処理に移行する。
Noの判定の場合はステップS212に進む。
【0115】
ステップS212では、ステップS207と同様のRB推定処理を実行する。
このRB推定処理は、例えば図19に示すように、局所領域においてG画素の画素値とRB画素の画素値に相関があるとの推定に基づく補間処理、すなわち色相関補間処理を実行する。
【0116】
ステップS213では、出力画素の選択処理を行う。すなわち、
ステップS204のYes、
ステップS207の処理結果、
ステップS211のYes、
ステップS212の処理結果、
これらの結果から、ベイヤ配列に応じた画素値を選択して出力画素とする。
【0117】
ステップS214において、すべての処理対象画素の処理が完了したか否かを判定する。処理の完了していない画素が残存する場合は、未処理画素についてステップS201以下の処理を実行する。
全画素処理完了との判定に基づいて処理を終了する。
【0118】
[5.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
【0119】
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) 入力画像の画素配列を変換するリモザイク処理を実行する画像信号補正部を有し、
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する画像処理装置。
【0120】
(2)前記画像信号補正部は、前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行し、前記画像信号補正部は、前記リモザイク処理において、前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する前記(1)に記載の画像処理装置。
【0121】
(3)前記画像信号補正部は、前記入力画像として、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像を入力し、該入力画像をベイヤ配列に変換するリモザイク処理を実行する前記(1)または(2)に記載の画像処理装置。
(4)前記画像信号補正部は、前記8方向の画素値勾配に基づいて、勾配の小さい方向の画素を参照画素として選択し、選択した参照画素の画素値のブレンド処理によって、前記変換対象画素の補間画素値を算出する処理を実行する前記(1)〜(3)いずれかに記載の画像処理装置。
【0122】
(5)前記画像信号補正部は、前記8方向の画素値勾配の最大値が既定閾値以下である場合、前記変換対象画素の周囲画素の画素値に基づく平滑化信号を前記変換対象画素の補間画素値として算出する処理を実行する前記(1)〜(4)いずれかに記載の画像処理装置。
(6)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(5)いずれかに記載の画像処理装置。
【0123】
(7)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(6)いずれかに記載の画像処理装置。
(8)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、前記入力画像に含まれる同一色の画素を適用した高周波成分勾配とを算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(7)いずれかに記載の画像処理装置。
【0124】
(9)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、
垂直方向と水平方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上45度方向と右下45度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上22.5度方向と、右下22.5度方向と、右上67.5度方向と、右下67.5度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(8)いずれかに記載の画像処理装置。
(10)画像信号補正部は、
前記複数の同一色画素によって構成される画素ブロックの構成画素位置に応じて、参照画素位置を変更した補間画素値算出処理を実行する前記(1)〜(9)いずれかに記載の画像処理装置。
【0125】
さらに、上記した装置およびシステムにおいて実行する処理の方法や、処理を実行させるプログラムおよびプログラムを記録した記録媒体も本開示の構成に含まれる。
【0126】
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【0127】
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【産業上の利用可能性】
【0128】
以上、説明したように、本開示の一実施例の構成によれば、異なる画素配列の画像に変換するリモザイク処理を実行する装置、方法が実現される。
具体的には、入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行する。このリモザイク処理において、入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、8方向の画素値勾配に基づいて、変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。例えば、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像をベイヤ配列に変換する。
【符号の説明】
【0129】
100 撮像装置
105 光学レンズ
110 撮像素子(イメージセンサ)
120 画像処理部
130 メモリ
140 制御部
181 RGB配列
183 カラー画像
200 画像信号補正部
【技術分野】
【0001】
本開示は、画像処理装置、および画像処理方法、並びにプログラムに関する。特に、画像のリモザイク処理を実行する画像処理装置、および画像処理方法、並びにプログラムに関する。
【背景技術】
【0002】
デジタルカメラ等の撮像装置に利用される撮像素子には、例えばRGB配列からなるカラーフィルタが装着され、各画素に特定の波長光を入射する構成となっている。
具体的には、例えばベイヤ(Bayer)配列を持つカラーフィルタが多く利用されている。
【0003】
ベイヤ配列の撮像画像は、撮像素子の各画素にRGBいずれかの色に対応する画素値のみが設定されたいわゆるモザイク画像となる。カメラの信号処理部は、このモザイク画像に対して画素値補間などの様々な信号処理を施して各画素にRGBの全画素値を設定するデモザイク処理等を行い、カラー画像を生成して出力する。
【0004】
このベイヤ配列に従ったカラーフィルタを備えた撮像画像に対する信号処理については、すでに多くの検討がなされ、ある程度、技術的に確立されていると言える。しかし、ベイヤ配列と異なる配列を持つ画像に対する信号処理については、まだ十分な検討がなされていないというのが現状である。
【0005】
一般的なカメラにおける信号処理は、ベイヤ配列画像に対して実行する設定としたものが多く、撮像素子の画素配列がベイヤ配列と異なる配列である場合、撮像素子からの入力する画像の画素配列をベイヤ配列に変換してカメラ信号処理部に入力することで、既存の信号処理を適用することが可能となる。
【0006】
このため、ベイヤ配列以外の画素配列の撮像画像については、カメラ信号処理部へ入力する前の前処理として撮像素子からの入力画像をベイヤ配列に変換する処理を実行することが好ましい。このような画素配列の変換処理は「リモザイク処理」と呼ばれる。しかし、撮像素子の画素配列には様々な配列があり、これら様々な画素配列に対する最適なリモザイク処理について十分に開示している従来技術はない。
【0007】
なお、ベイヤ配列と異なる配列を持つ構成については、例えば、特許文献2(特開平11−29880号公報)、特許文献3(特開2000−69491号公報)などに記載がある。
【0008】
これらの特許文献2,3は、撮像素子(イメージセンサ)に2×2画素のR画素、2×2画素のG画素、2×2画素のB画素等、同色の複数画素を配置する設定とし、同一色の2×2画素の構成画素を異なる露光時間に設定して撮影を実行するものである。特許文献2,3では、このようなイメージセンサで撮影された異なる露光時間の同色の画素値の合成を実行して、広ダイナミックレンジ画像を得る構成について説明している。
【0009】
しかし、これらの文献は、複数の異なる露光時間の画素値の合成に基づく広ダイナミックレンジ画像の生成について説明しているものであり、リモザイク処理についての明確な説明は記載していない。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開2011−055038号公報
【特許文献2】特開平11−29880号公報
【特許文献3】特開2000−69491号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
本開示は、例えば上記問題点に鑑みてなされたものであり、ベイヤ(Bayer)配列と異なる配列を持つカラーフィルタを備えた撮像素子によって撮影された画像に対する画像処理、特に最適なリモザイク処理を実行する画像処理装置、および画像処理方法、並びにプログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
本開示の第1の側面は、
入力画像の画素信号の補正処理を実行する画像信号補正部を有し、
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する画像処理装置にある。
【0013】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行し、前記画像信号補正部は、前記リモザイク処理において、前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。
【0014】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記入力画像として、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像を入力し、該入力画像をベイヤ配列に変換するリモザイク処理を実行する。
【0015】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配に基づいて、勾配の小さい方向の画素を参照画素として選択し、選択した参照画素の画素値のブレンド処理によって、前記変換対象画素の補間画素値を算出する処理を実行する。
【0016】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の最大値が既定閾値以下である場合、前記変換対象画素の周囲画素の画素値に基づく平滑化信号を前記変換対象画素の補間画素値として算出する処理を実行する。
【0017】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0018】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0019】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0020】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、垂直方向と水平方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上45度方向と右下45度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上22.5度方向と、右下22.5度方向と、右上67.5度方向と、右下67.5度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する。
【0021】
さらに、本開示の画像処理装置の一実施態様において、前記画像信号補正部は、前記複数の同一色画素によって構成される画素ブロックの構成画素位置に応じて、参照画素位置を変更した補間画素値算出処理を実行する。
【0022】
さらに、本開示の第2の側面は、
画像処理装置において実行する画像処理方法であり、
画像信号補正部が、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行する画像処理方法のにある。
【0023】
さらに、本開示の第3の側面は、
画像処理装置において画像処理を実行させるプログラムであり、
画像信号補正部に、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記リモザイク処理において、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行させるプログラムにある。
【0024】
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
【0025】
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【発明の効果】
【0026】
本開示の一実施例の構成によれば、異なる画素配列の画像に変換するリモザイク処理を実行する装置、方法が実現される。
具体的には、入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行する。このリモザイク処理において、入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、8方向の画素値勾配に基づいて、変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。例えば、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像をベイヤ配列に変換する。
【図面の簡単な説明】
【0027】
【図1】撮像素子の構成例について説明する図である。
【図2】画像処理装置の構成例について説明する図である。
【図3】本開示の画像処理装置の実行する処理について説明するフローチャートを示す図である。
【図4】本開示の画像処理装置の実行する処理について説明するフローチャートを示す図である。
【図5】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図6】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図7】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図8】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図9】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図10】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図11】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図12】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図13】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図14】本開示の画像処理装置の実行する方向判定処理について説明する図である。
【図15】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図16】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図17】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図18】本開示の画像処理装置の実行するG補間処理について説明する図である。
【図19】本開示の画像処理装置の実行するRB推定処理について説明する図である。
【発明を実施するための形態】
【0028】
以下、図面を参照しながら本開示の画像処理装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
1.撮像素子の構成例について
2.画像処理装置の構成例について
3.画像処理の具体例について
4.リモザイク処理の詳細について
5.本開示の構成のまとめ
【0029】
[1.撮像素子の構成例について]
図1を参照して撮像素子の構成例について説明する。図1には、以下の3つの撮像素子構成例を示している。
(1)ベイヤ(Bayer)配列
(2)4分割ベイヤ型RGB配列
(3)RGBW型配列
【0030】
(1)ベイヤ(Bayer)配列は多くのカメラにおいて採用されている配列であり、このベイヤ配列を持つカラーフィルタを持つ撮像画像に対する信号処理はほぼ確立している。
しかし、(2)4分割ベイヤ型RGB配列や、(3)RGBW型配列については、まだ、これらのフィルタを備えた撮像素子によって撮影された画像に対する信号処理について十分な検討がなされているとは言えないというのが現状である。
なお、(2)4分割ベイヤ型RGB配列は、(1)に示すベイヤ配列の1つのR,G,B各画素を4つの画素として設定した配列に相当する。
【0031】
以下、この(2)4分割ベイヤ型RGB配列を持つカラーフィルタを備えた撮像素子によって撮影される画像に対する信号処理を実行する画像処理装置について説明する。
【0032】
[2.画像処理装置の構成例について]
図2に、本開示の画像処理装置の一構成例である撮像装置100の構成例を示す。
撮像装置100は、図2に示すように、光学レンズ105、撮像素子(イメージセンサ)110、画像処理部120、メモリ130、制御部140を有する。
【0033】
なお、図2に示す撮像装置100は本開示の画像処理装置の一例であり、本開示の画像処理装置には、例えばPCなどの装置も含まれる。PC等の画像処理装置は、図2に示す撮像装置100の光学レンズ105、撮像素子110を持たず、その他の構成要素から構成され、撮像素子100の取得データの入力部、または記憶部を持つ構成となる。
【0034】
以下では、図2に示す撮像装置100を本開示の画像処理装置の代表例として説明する。なお、図2に示す撮像装置100は、例えばスチルカメラ、ビデオカメラなどである。
【0035】
図2に示す撮像装置100の撮像素子(イメージセンサ)110は、図1(2)を参照して説明した4分割ベイヤ型RGB配列からなるカラーフィルタを備えた構成である。
赤色近傍の波長を透過する赤(R)、
緑色近傍の波長を透過する緑(G)、
青色近傍の波長を透過する青(B)、
これら3種類の分光特性を持つフィルタを備えた撮像素子である。
先に説明したように、4分割ベイヤ型RGB配列は、図1(1)に示すベイヤ配列の1つの画素を4つの画素として設定した配列に相当する。
【0036】
この4分割ベイヤ型RGB配列181を持つ撮像素子110は、光学レンズ105を介してRGBいずれかの光を各画素単位で受光し、光電変換により受光信号強度に対応する電気信号を生成して出力する。この撮像素子110によってRGB3種類の分光から成るモザイク画像が得られる。
【0037】
撮像素子(イメージセンサ)110の出力信号は画像処理部120の画像信号補正部200に入力される。
画像信号補正部200は、4分割ベイヤ型RGB配列181を持つ画像を一般的なカメラに多く用いられるベイヤ配列182に変換する処理を実行する。
すなわち、図1(2)に示す4分割ベイヤ型RGB配列を持つ撮像画像を図1(1)に示すベイヤ配列に変換する処理を行う。
以下、このようなカラー配列の変換処理をリモザイク処理と呼ぶ。
【0038】
画像信号補正部200におけるリモザイク処理の結果として図2に示すベイヤ配列182を持つ画像が生成され、この画像がRGB信号処理部250に入力される。RGB信号処理部250は、既存のベイヤ配列のカラーフィルタを備えたカメラにおける信号処理部と同様の処理、例えばWB(ホワイトバランス)調整、各画素にRGB各画素値を設定するデモザイク処理等を実行してカラー画像183を生成して出力する。カラー画像183はメモリ130に格納される。
【0039】
なお、光学レンズ105、撮像素子110、画像処理部120には制御部140からの制御信号が入力され、撮影処理制御、信号処理制御が実行される。制御部140は、例えばメモリ130に格納されたプログラムに従い、例えば図示しない入力部からのユーザ入力に応じて画像撮影他、各種の処理を実行する。
【0040】
[3.画像処理の具体例について]
次に、図2の画像処理部120において実行する処理について、図3以下を参照して説明する。
図3(a)は、画像処理部120において実行する処理の全体を示す信号処理全体シーケンスである。
まずステップS101において撮像素子110から撮像画像を入力する。
この撮像画像は、4分割ベイヤ型RGB配列181を持つ画像である。
次に、ステップS102において、リモザイク処理を実行する。これは、図2に示す画像信号補正部200の実行する処理であり、4分割ベイヤ型RGB配列181を持つ撮像画像をベイヤ配列182に変換する処理である。
この処理の詳細を示すのが、図3(b)に示すフローである。この処理については後述する。
【0041】
ステップS102においてリモザイク処理が完了すると、リモザイク処理の結果として図2に示すベイヤ配列182を持つ画像が生成される。
ステップS103以下は、図2に示すRGB信号処理部250の処理であり、一般的なカメラにおいて実行され信号処理である。
ステップS103では、ホワイトバランス(WB)調整処理を実行する。
ステップS104では、各画素にRGB各画素値を設定するデモザイク処理を実行する。
ステップS105では、混色除去等のための線形マトリクス(LMTX)処理を実行する。
最後に、ステップS106において、出力画像として図2に示すカラー画像183を生成して出力する。
【0042】
ステップS102のリモザイク処理は、図3(b)に示すフローに従って実行する。これは、4分割ベイヤ型RGB配列画像をヘイヤ配列画像に変換する処理である。
なお、リモザイク処理の詳細については、さらに、図4以下を参照して詳細に説明する。
まず、図3(b)に示すフローを参照してリモザイク処理の概要を説明する。
【0043】
まず、ステップS151において、
入力画像である4分割ベイヤ型RGB配列画像の画素値勾配の方向判定を行う。これはいわゆるエッジ方向判定に相当する処理である。
次に、ステップS152において、4分割ベイヤ型RGB配列画像のRB位置のG画素値を推定し設定するG補間処理を行う。この補間処理に際しては、ステップSZ151において算出した画素値勾配情報を適用し、画素値勾配の小さい方向の画素値を参照画素値とした補間処理を行う。
【0044】
さらに、ステップS153において、G信号位置のRB画素値の推定を行う。この推定処理は、例えば、G画素値とRB画素値が所定の局所領域内で一定の相関を有するとの推定に基づいて行う。
【0045】
これらのステップS152、S153の処理によって、4分割ベイヤ型RGB配列181を持つ撮像画像をベイヤ配列182に変換する基本的な画素値設定が行われる。
さらに、この処理に並列して、ステップS154における偽色検出と、ステップS155における偽色補正を実行する。
撮像素子(イメージセンサ)110に入力される信号中に撮像素子(イメージセンサ)110のナイキスト周波数(サンプリング周波数の1/2の周波数)を超えた信号が含まれる場合、サンプリング定理に基づくエイリアシング(折り返し)が発生し、画質劣化、具体的には偽色の発生要因となる。
ステップS154〜S155ではこのような偽色検出と偽色補正を実行する。
【0046】
ステップS156では、ステップS154〜S155における偽色検出と偽色補正の結果を反映したベイヤ配列画像を生成して出力する。
【0047】
[4.リモザイク処理の詳細について]
次に、図4に示すフローチャートおよび図5以下の処理例を参照してリモザイク処理の詳細について説明する。
図4に示すフローチャートは、図3(a)の全体処理フローのステップS102の処理に対応し、図3(b)のフローをさらに詳細に示したフローチャートである。
【0048】
図4に示すフローについて説明する。図4に示すフローは、図2に示す画像信号補正部200において実行するリモザイク処理のシーケンスを説明するフローである。
図2に示す画像信号補正部200は、撮像素子110から、4分割ベイヤ型RGB配列画像の各画素値を順次、入力して図4に示すフローに従った処理を実行する。
【0049】
まず、ステップS201において、入力画素値がG画素であるか否かを判定する。
G画素でない場合、すなわちRB画素である場合はステップS202に進み、方向判定を行う。
この方向判定は、画素値の勾配(grad)を判定する処理である。エッジ方向判定と同様の処理として実行される。
【0050】
ステップS202の方向判定処理について、図5以下を参照して説明する。
画素値の勾配(grad)は、図5に示すように、
水平方向(H)、
垂直方向(V)、
右上45度方向(A)、
右下45度方向(D)、
これらの4方向に加え、さらに、
右上22.5度方向(A2)、
右上67.5度方向(A3)、
右下22.5度方向(D2)、
右下67.5度方向(D3)、
これら4方向の計8方向について算出する。
【0051】
先に図1(2)を参照して説明した4分割ベイヤ型RGB配列は、図1(1)に示すベイヤ配列に比較して、同色成分のサンプリング間隔が疎であるため、折り返しが、1/2ナイキスト周波数で発生してしまう。
このような周波数の折り返しパターンを精度よく検出するため、本開示の方向判定は、上述のように、多数の8方向で判定を実行する。
【0052】
なお、本実施例では、これらの多数の方向の勾配検出を行う場合、例えば、各勾配方向から同一色画素のみを選択して算出する勾配情報に加え、図6に示すように、異色間の画素値比較による水平・垂直の勾配を検出し、これらの異色間の画素値比較による水平・垂直の勾配情報についても考慮した処理を行う。なお、このような異色の画素値による勾配検出を実行する場合、勾配検出に適用する各画素のホワイトバランス(WB)を揃えた後に実行することが好ましい。図7以下を参照して各方向の勾配検出処理の詳細について説明する。
【0053】
(水平方向(H)勾配:gradH)
図7に示す例は、図7に示す6×6画素の座標位置(2,2)に対応する水平方向(H)勾配算出処理例を示している。
水平方向(H)勾配は、以下のデータに基づいて算出する。
低周波成分水平方向(H)勾配:gradH_low
高周波成分水平方向(H)勾配:gradH_high
異色間成分水平方向(H)勾配:gradH_color
【0054】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図7に示す6×6画素の座標位置(2,2)に対応する水平方向(H)勾配、すなわち、gradH(2,2)は、以下の式に従って算出する。
【0055】
【数1】
【0056】
なお、上記式において、aH、bH、cHは、予め規定した重み係数である。
一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記の重み係数の大小関係はaH>bHとすることが望ましい。
また、1/2Nq近傍で方向判定を間違えると強い偽色を発生することになる。
この領域での誤判定を充分に抑制するため、cH>aHと設定することが望ましい。
【0057】
(垂直方向(V)勾配:gradV)
図8に示す例は、図8に示す6×6画素の座標位置(2,2)に対応する垂直方向(V)勾配算出処理例を示している。
垂直方向(V)勾配は、以下のデータに基づいて算出する。
低周波成分垂直方向(V)勾配:gradV_low
高周波成分垂直方向(V)勾配:gradV_high
異色間成分垂直方向(V)勾配:gradV_color
【0058】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図8に示す6×6画素の座標位置(2,2)に対応する垂直方向(V)勾配、すなわち、gradV(2,2)は、以下の式に従って算出する。
【0059】
【数2】
【0060】
なお、上記式において、aV、bV、cVは、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、重み係数の大小関係はaV>bVとすることが望ましい。
また、1/2Nq近傍で方向判定を間違えると強い偽色を発生することになる。
この領域での誤判定を充分に抑制するため、cV>aVと設定することが望ましい。
【0061】
(右上45度方向(A)勾配:gradA)
図9に示す例は、図9に示す6×6画素の座標位置(2,2)に対応する右上45度方向(A)勾配算出処理例を示している。
右上45度方向(A)勾配は、以下のデータに基づいて算出する。
中周波成分右上45度方向(A)勾配:gradA_mid
低周波成分右上45度方向(A)勾配:gradA_low
高周波成分右上45度方向(A)勾配:gradA_high
【0062】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図9に示す6×6画素の座標位置(2,2)に対応する右上45度方向(A)勾配、すなわち、gradA(2,2)は、以下の式に従って算出する。
【0063】
【数3】
【0064】
なお、上記式において、aA、bA、cAは、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaA,bA>cAとすることが望ましい。
【0065】
(右下45度方向(D)勾配:gradD)
図10に示す例は、図10に示す6×6画素の座標位置(2,2)に対応する右下45度方向(D)勾配算出処理例を示している。
右下45度方向(D)勾配は、以下のデータに基づいて算出する。
中周波成分右下45度方向(D)勾配:gradD_mid
低周波成分右下45度方向(D)勾配:gradD_low
高周波成分右下45度方向(D)勾配:gradD_high
【0066】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図10に示す6×6画素の座標位置(2,2)に対応する右下45度方向(D)勾配、すなわち、gradD(2,2)は、以下の式に従って算出する。
【0067】
【数4】
【0068】
なお、上記式において、aD、bD、cDは、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaD,bD>cDとすることが望ましい。
【0069】
(右上22.5度方向(A2)勾配:gradA2)
図11に示す例は、図11に示す6×6画素の座標位置(2,2)に対応する右上22.5度方向(A2)勾配算出処理例を示している。
右上22.5度方向(A2)勾配は、以下のデータに基づいて算出する。
中央成分右上22.5度方向(A2)勾配:gradA2_center
高周波成分右上22.5度方向(A2)勾配:gradA2_high
【0070】
なお、高周波成分右上22.5度方向(A2)勾配:gradA2_highは、図11に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右上22.5度方向(A2)勾配:gradA2_highを算出する。
【0071】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図11に示す6×6画素の座標位置(2,2)に対応する右上22.5度方向(A2)勾配、すなわち、gradA2(2,2)は、以下の式に従って算出する。
【0072】
【数5】
【0073】
なお、上記式において、aA2、bA2は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaA2>bA2とすることが望ましい。
【0074】
(右下22.5度方向(D2)勾配:gradD2)
図12に示す例は、図12に示す6×6画素の座標位置(2,2)に対応する右下22.5度方向(D2)勾配算出処理例を示している。
右下22.5度方向(D2)勾配は、以下のデータに基づいて算出する。
中央成分右下22.5度方向(D2)勾配:gradD2_center
両サイド成分右下22.5度方向(D2)勾配:gradD2_wb
高周波成分右下22.5度方向(D2)勾配:gradD2_high
【0075】
なお、高周波成分右下22.5度方向(D2)勾配:gradD2_highは、図12に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右下22.5度方向(D2)勾配:gradD2_highを算出する。
【0076】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図12に示す6×6画素の座標位置(2,2)に対応する右下22.5度方向(D)勾配、すなわち、gradD(2,2)は、以下の式に従って算出する。
【0077】
【数6】
【0078】
なお、上記式において、aD2、bD2は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaD2>bD2とすることが望ましい。
【0079】
(右上67.5度方向(A3)勾配:gradA3)
図13に示す例は、図13に示す6×6画素の座標位置(2,2)に対応する右上67.5度方向(A3)勾配算出処理例を示している。
右上67.5度方向(A3)勾配は、以下のデータに基づいて算出する。
中央成分右上67.5度方向(A3)勾配:gradA3_center
高周波成分右上67.5度方向(A3)勾配:gradA3_high
【0080】
なお、高周波成分右上67.5度方向(A3)勾配:gradA3_highは、図13に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右上67.5度方向(A3)勾配:gradA3_highを算出する。
【0081】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図13に示す6×6画素の座標位置(2,2)に対応する右上67.5度方向(A3)勾配、すなわち、gradA3(2,2)は、以下の式に従って算出する。
【0082】
【数7】
【0083】
なお、上記式において、aA3、bA3は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaA3>bA3とすることが望ましい。
【0084】
(右下67.5度方向(D3)勾配:gradD3)
図14に示す例は、図14に示す6×6画素の座標位置(2,2)に対応する右下67.5度方向(D3)勾配算出処理例を示している。
右下67.5度方向(D3)勾配は、以下のデータに基づいて算出する。
高周波成分右下67.5度方向(D3)勾配:gradD3_high
【0085】
なお、高周波成分右下67.5度方向(D3)勾配:gradD3_highは、図14に示すように、撮像素子からの出力画像の画素値から直接算出することはできないので、算出予定の方向の仮想的な画素位置の画素値を、複数の出力画素値の補間画素値として算出し、この補間画素値を適用して、高周波成分右下67.5度方向(D3)勾配:gradD3_highを算出する。
【0086】
なお、I(x,y)は座標(x,y)の位置の画素値である。
abs()は絶対値を示す。
図14に示す6×6画素の座標位置(2,2)に対応する右下67.5度方向(D)勾配、すなわち、gradD(2,2)は、以下の式に従って算出する。
【0087】
【数8】
【0088】
なお、上記式において、aD3、bD3は、予め規定した重み係数である。
前述のように、一般に入射光はレンズを通過する際に、高周波成分で信号レベルが低下する。
そのため、上記式における重み係数の大小関係はaD3>bD3とすることが望ましい。
【0089】
以上、図4のフローチャートのステップ202の方向判定処理について説明した。
次にステップS203に進み、G補間処理を実行する。これは、4分割ベイヤ型RGB配列画像のRB位置のG画素値を推定し設定するG補間処理である。この補間処理に際しては、ステップS151において算出した画素値勾配情報を適用し、画素値勾配の小さい方向の画素値を参照画素値とした補間処理を行う。
【0090】
補間処理の具体例について、図15以下を参照して説明する。
【0091】
(2,2位相の場合の補間画素の算出処理例)
図15は、図15に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(2,2)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0092】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0093】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
上記8つの補間画素値の算出は以下の式に従って実行する。
【0094】
【数9】
【0095】
(3,2位相の場合の補間画素の算出処理例)
図16は、図16に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(3,2)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0096】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0097】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
上記8つの補間画素値の算出は以下の式に従って実行する。
【0098】
【数10】
【0099】
(2,3位相の場合の補間画素の算出処理例)
図17は、図17に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(2,3)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0100】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0101】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
【0102】
(3,3位相の場合の補間画素の算出処理例)
図18は、図18に示す6×6画素の4分割ベイヤ型RGB配列画像の画素位置(3,3)のB画素位置に対するG画素の補間画素値を算出する処理例を示している。
【0103】
まず、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値を算出する。すなわち、
水平方向(H)の画素を参照画素とした補間画素値:itp_GH、
垂直方向(V)の画素を参照画素とした補間画素値:itp_GV、
右上45度方向(A)の画素を参照画素とした補間画素値:itp_GA、
右下45度方向(D)の画素を参照画素とした補間画素値:itp_GD、
右上22.5度方向(A2)の画素を参照画素とした補間画素値:itp_GA2、
右上67.5度方向(A3)の画素を参照画素とした補間画素値:itp_GA3、
右下22.5度方向(D2)の画素を参照画素とした補間画素値:itp_GD2、
右下67.5度方向(D3)の画素を参照画素とした補間画素値:itp_GD3、
まず、これら複数の補間値を算出する。
【0104】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
【0105】
(算出した8方向の参照画素に基づく補間画素値からの最終補間画素値の選択)
図15〜図18を参照して説明したように、4分割ベイヤ型RGB配列画像のRまたはB画素の画素位置におけるG画素の補間画素値は、勾配検出を実行した8方向すべてについて、それぞれの方向の画素を参照画素値とした補間画素値として算出する。
【0106】
さらに、これらの補間画素値に基づいて、例えば勾配の小さい方向の選択処理を行い、選択方向に応じた上記算出補間値のブレンド処理等を行って最終的な補間値を決定する。
【0107】
直交する方向に判定を間違うとアーティファクトが大きくなるため、直交する方向同士で勾配(grad)の小さい方向を選択するというアルゴリズムを適用する。
例えば、上記アルゴリズムに従って選択した方向に対応する補間画素値を利用したブレンド処理を実行して最終的な補間画素値を算出する。
具体的には、例えば、gradHV,gradAD,gradA2A3D2D3の最大値が閾値以下であれば、周囲画素の平滑化信号を補間画素値として出力する。(平坦部のノイズ対策)
gradA2A3D2D3が最小値の時は、その方向から補間、それ以外の場合はgradHVとgradADの値に応じて補間値をブレンドする。
このような処理に従って最終的な補間画素値を算出する。
【0108】
図4のフローに戻り、4分割ベイヤ型RGB配列画像をベイヤ配列画像に変換するリモザイク処理シーケンスについての説明を続ける。
ステップS203におい、RB画素位置に対するG画素値の設定処理であるG補間処理が終了すると、ステップS204に進む。
【0109】
ステップS204では、G画素値の推定がなされたG推定画素位置であるか否かを判定する。すなわち元々RB画素であった画素位置を補間処理によって算出したG画素値を設定した画素であるか否かを判定する。G推定画素位置である場合は、ステップS213の出力選択処理に移行する。
【0110】
G推定画素位置でない場合は、ステップS205に進み、偽色の検出の有無を判定する。
ステップS205の偽色検出処理について説明する。
4分割ベイヤ型RGB配列画像はベイヤ配列画像と同様、Gと比べてRBのサンプリングレートが低い。したがって、RBについては、低周波域でエイリアシングが発生しやすい。
例えば、Gは、ナイキスト周波数の1/2、すなわち1/2Nqでは、エイリアシングがおこらず、高周波成分があるのに対し、RBはエイリアシングにより高周波成分が失われている。このことを利用して、G信号とRB信号の適切な帯域のラプラシアンを比較することで、エイリアシングを検出する。
具体的には、例えばナイキスト周波数の1/2、すなわち1/2Nqを検出できる勾配(or ラプラシアン(lpl))でG_lplとRB_lplを算出し、その差分を用いて検出する。
【0111】
ステップS205において偽色が検出された場合は、ステップS206において偽色補正を実行する。偽色補正処理事態は既存の処理を適用可能である。
偽色補正の具体例について説明する。偽色補正は、例えば、ISPでは検出領域のLMTXを弱めにかける。あるいはCIS内処理では逆WBで無彩色化などの処理が適用可能である。
【0112】
ステップS206における偽色補正の後、ステップS207に進み、RB推定処理を実行する。この処理は4分割ベイヤ型RGB配列画像をベイヤ配列画像に変換するために必要となる4分割ベイヤ型RGB配列中のRGB位置にRBを設定するための処理である。
【0113】
このRB推定処理の具体例について、図19を参照して説明する。
このRB推定処理は、図19に示すように、局所領域、例えば7×7画素の局所領域においてはG画素の画素値とRB画素の画素値に相関があるとの推定にも基づく補間処理、すなわち色相関補間処理を実行する。
【0114】
次に、図4のフローにおけるステップS201において、処理対象画素がG画素であると判定した場合の処理について説明する。
この場合は、ステップS211に進む。
ステップS211では、ステップS204と同様の処理、すなわち、G画素値の推定がなされたG推定画素位置であるか否かを判定する。すなわち元々RB画素であった画素位置を補間処理によって算出したG画素値を設定した画素であるか否かを判定する。G推定画素位置である場合は、ステップS213の出力選択処理に移行する。
Noの判定の場合はステップS212に進む。
【0115】
ステップS212では、ステップS207と同様のRB推定処理を実行する。
このRB推定処理は、例えば図19に示すように、局所領域においてG画素の画素値とRB画素の画素値に相関があるとの推定に基づく補間処理、すなわち色相関補間処理を実行する。
【0116】
ステップS213では、出力画素の選択処理を行う。すなわち、
ステップS204のYes、
ステップS207の処理結果、
ステップS211のYes、
ステップS212の処理結果、
これらの結果から、ベイヤ配列に応じた画素値を選択して出力画素とする。
【0117】
ステップS214において、すべての処理対象画素の処理が完了したか否かを判定する。処理の完了していない画素が残存する場合は、未処理画素についてステップS201以下の処理を実行する。
全画素処理完了との判定に基づいて処理を終了する。
【0118】
[5.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
【0119】
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) 入力画像の画素配列を変換するリモザイク処理を実行する画像信号補正部を有し、
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する画像処理装置。
【0120】
(2)前記画像信号補正部は、前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行し、前記画像信号補正部は、前記リモザイク処理において、前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する前記(1)に記載の画像処理装置。
【0121】
(3)前記画像信号補正部は、前記入力画像として、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像を入力し、該入力画像をベイヤ配列に変換するリモザイク処理を実行する前記(1)または(2)に記載の画像処理装置。
(4)前記画像信号補正部は、前記8方向の画素値勾配に基づいて、勾配の小さい方向の画素を参照画素として選択し、選択した参照画素の画素値のブレンド処理によって、前記変換対象画素の補間画素値を算出する処理を実行する前記(1)〜(3)いずれかに記載の画像処理装置。
【0122】
(5)前記画像信号補正部は、前記8方向の画素値勾配の最大値が既定閾値以下である場合、前記変換対象画素の周囲画素の画素値に基づく平滑化信号を前記変換対象画素の補間画素値として算出する処理を実行する前記(1)〜(4)いずれかに記載の画像処理装置。
(6)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(5)いずれかに記載の画像処理装置。
【0123】
(7)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(6)いずれかに記載の画像処理装置。
(8)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、前記入力画像に含まれる同一色の画素を適用した高周波成分勾配とを算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(7)いずれかに記載の画像処理装置。
【0124】
(9)前記画像信号補正部は、前記8方向の画素値勾配の算出処理において、
垂直方向と水平方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上45度方向と右下45度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上22.5度方向と、右下22.5度方向と、右上67.5度方向と、右下67.5度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する前記(1)〜(8)いずれかに記載の画像処理装置。
(10)画像信号補正部は、
前記複数の同一色画素によって構成される画素ブロックの構成画素位置に応じて、参照画素位置を変更した補間画素値算出処理を実行する前記(1)〜(9)いずれかに記載の画像処理装置。
【0125】
さらに、上記した装置およびシステムにおいて実行する処理の方法や、処理を実行させるプログラムおよびプログラムを記録した記録媒体も本開示の構成に含まれる。
【0126】
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【0127】
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【産業上の利用可能性】
【0128】
以上、説明したように、本開示の一実施例の構成によれば、異なる画素配列の画像に変換するリモザイク処理を実行する装置、方法が実現される。
具体的には、入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行する。このリモザイク処理において、入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、8方向の画素値勾配に基づいて、変換対象画素の補間画素値算出態様を決定し、決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する。例えば、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像をベイヤ配列に変換する。
【符号の説明】
【0129】
100 撮像装置
105 光学レンズ
110 撮像素子(イメージセンサ)
120 画像処理部
130 メモリ
140 制御部
181 RGB配列
183 カラー画像
200 画像信号補正部
【特許請求の範囲】
【請求項1】
入力画像の画素信号の補正処理を実行する画像信号補正部を有し、
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する画像処理装置。
【請求項2】
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行し、
前記画像信号補正部は、前記リモザイク処理において、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する請求項1に記載の画像処理装置。
【請求項3】
前記画像信号補正部は、
前記入力画像として、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像を入力し、該入力画像をベイヤ配列に変換するリモザイク処理を実行する請求項2に記載の画像処理装置。
【請求項4】
前記画像信号補正部は、
前記8方向の画素値勾配に基づいて、勾配の小さい方向の画素を参照画素として選択し、選択した参照画素の画素値のブレンド処理によって、前記変換対象画素の補間画素値を算出する処理を実行する請求項1に記載の画像処理装置。
【請求項5】
前記画像信号補正部は、
前記8方向の画素値勾配の最大値が既定閾値以下である場合、前記変換対象画素の周囲画素の画素値に基づく平滑化信号を前記変換対象画素の補間画素値として算出する処理を実行する請求項1に記載の画像処理装置。
【請求項6】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項7】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項8】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項9】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
垂直方向と水平方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上45度方向と右下45度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上22.5度方向と、右下22.5度方向と、右上67.5度方向と、右下67.5度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項10】
前記画像信号補正部は、
前記複数の同一色画素によって構成される画素ブロックの構成画素位置に応じて、参照画素位置を変更した補間画素値算出処理を実行する請求項1に記載の画像処理装置。
【請求項11】
画像処理装置において実行する画像処理方法であり、
画像信号補正部が、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行する画像処理方法。
【請求項12】
画像処理装置において画像処理を実行させるプログラムであり、
画像信号補正部に、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行させるプログラム。
【請求項1】
入力画像の画素信号の補正処理を実行する画像信号補正部を有し、
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する画像処理装置。
【請求項2】
前記画像信号補正部は、
前記入力画像として、複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力して、該入力画像の画素配列を異なる画素配列に変換するリモザイク処理を実行し、
前記画像信号補正部は、前記リモザイク処理において、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出し、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定し、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する請求項1に記載の画像処理装置。
【請求項3】
前記画像信号補正部は、
前記入力画像として、ベイヤ型RGB配列の各色について2×2画素単位の配列とした4分割ベイヤ型RGB配列を持つ画像を入力し、該入力画像をベイヤ配列に変換するリモザイク処理を実行する請求項2に記載の画像処理装置。
【請求項4】
前記画像信号補正部は、
前記8方向の画素値勾配に基づいて、勾配の小さい方向の画素を参照画素として選択し、選択した参照画素の画素値のブレンド処理によって、前記変換対象画素の補間画素値を算出する処理を実行する請求項1に記載の画像処理装置。
【請求項5】
前記画像信号補正部は、
前記8方向の画素値勾配の最大値が既定閾値以下である場合、前記変換対象画素の周囲画素の画素値に基づく平滑化信号を前記変換対象画素の補間画素値として算出する処理を実行する請求項1に記載の画像処理装置。
【請求項6】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項7】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項8】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
少なくとも1以上の方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項9】
前記画像信号補正部は、
前記8方向の画素値勾配の算出処理において、
垂直方向と水平方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる異なる色の画素を適用した異色間波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上45度方向と右下45度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した中周波成分勾配情報と、
を算出し、上記3つの勾配情報の重み付け加算によって画素値勾配を算出し、
右上22.5度方向と、右下22.5度方向と、右上67.5度方向と、右下67.5度方向の勾配算出に際して、
前記入力画像に含まれる同一色の画素を適用した低周波成分勾配情報と、
前記入力画像に含まれる同一色の画素を適用した高周波成分勾配情報と、
を算出し、上記2つの勾配情報の重み付け加算によって画素値勾配を算出する請求項1に記載の画像処理装置。
【請求項10】
前記画像信号補正部は、
前記複数の同一色画素によって構成される画素ブロックの構成画素位置に応じて、参照画素位置を変更した補間画素値算出処理を実行する請求項1に記載の画像処理装置。
【請求項11】
画像処理装置において実行する画像処理方法であり、
画像信号補正部が、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行する画像処理方法。
【請求項12】
画像処理装置において画像処理を実行させるプログラムであり、
画像信号補正部に、入力画像として複数の同一色画素によって構成される画素ブロックを配列したモザイク画像を入力し、
前記入力画像の構成画素中、色変換処理対象となる変換対象画素位置における8方向の画素値勾配を検出する処理と、
前記8方向の画素値勾配に基づいて、前記変換対象画素の補間画素値算出態様を決定する処理と、
決定した処理態様に従って前記変換対象画素位置の補間画素値を算出する処理を実行させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2013−66146(P2013−66146A)
【公開日】平成25年4月11日(2013.4.11)
【国際特許分類】
【出願番号】特願2011−290332(P2011−290332)
【出願日】平成23年12月29日(2011.12.29)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成25年4月11日(2013.4.11)
【国際特許分類】
【出願日】平成23年12月29日(2011.12.29)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]