画像処理方法、装置及びプログラム並びに撮像装置
【課題】通常露光と同様な明るさを有するとともに、ホワイトバランス補正された白とびのないダイナミックレンジの広い画像を取得できるようにする。
【解決手段】ホワイトバランス補正されたR、G、Bデータのうち、アンダー露出に補正(減感処理)しなければ、白とびする画素を検出し、その画素の画素値が大きくなるように補正した後(ステップS62)、情報復元可能な最大の露出補正値で減感処理を行う(ステップS64)。その後、γ2カーブにより通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する(ステップS66)。これにより、ダイナミックレンジが拡大され、通常露光では使用されない高輝度部分の情報を復元可能にするとともに、適正な明るさの画像が得られるようにしている。
【解決手段】ホワイトバランス補正されたR、G、Bデータのうち、アンダー露出に補正(減感処理)しなければ、白とびする画素を検出し、その画素の画素値が大きくなるように補正した後(ステップS62)、情報復元可能な最大の露出補正値で減感処理を行う(ステップS64)。その後、γ2カーブにより通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する(ステップS66)。これにより、ダイナミックレンジが拡大され、通常露光では使用されない高輝度部分の情報を復元可能にするとともに、適正な明るさの画像が得られるようにしている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理方法、装置及びプログラム並びに撮像装置に係り、特にデジタル画像を露出補正する際の色づきを防止する技術に関する。
【背景技術】
【0002】
RAWファイルは、デジタルカメラでの撮影時に撮像素子が捉えた光量をA/D変換したデジタルの画像データ(RAWデータ)をそのまま記録したものである。
【0003】
RAWデータを適正な画像として出力(表示、プリント)するためには、ホワイトバランス補正、露出補正、ガンマ補正、同時化処理等の種々の画像処理を施す必要があるが、その反面、ユーザが好みの画像に補正することができる自由度が大きいという利点がある。
【0004】
例えば、ホワイトバランス補正によってRAWデータにR、G、Bゲインを乗算すると、RAWデータでは白とびしていない部分(出力可能なデジタル値の最大値以下)であっても、白とびすることがあるが、露出をアンダーに設定して現像(=減感処理)することにより、白とび部分の情報を復元することができる。
【0005】
特許文献1には、画像を解析して得られた画像データのハイライト部の値とシャドウ部の値を用いて露出補正する画像補正装置が記載されている。
【0006】
特許文献2には、ホワイトバランス補正を行うと、それに伴って輝度が変化するが、R、G、Bゲインのうちの少なくとも2色のゲインとして、輝度変化量を補正する補正ゲインを算出し、この算出した少なくとも2色の補正ゲインでホワイトバランスを調整するホワイトバランス調整装置が記載されている。
【0007】
特許文献3には、撮像素子の電荷蓄積時間を、ホワイトバランス補正値に応じて各色独立に制御し、特定の色信号のゲイン(ノイズ)が大きくならないようにしたデジタルカメラが記載されている。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開平11−317873号公報
【特許文献2】特開2002−118857号公報
【特許文献3】特開2006−135708号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
ところで、前述したようにホワイトバランス補正によって白とびしたデジタル画像であっても、減感処理することにより、白とび部分の情報を復元することができるが、ホワイトバランス補正によって白とびした部分(白とび部)は、R、G、B毎に白とび量が一律でないため、これを減感処理すると、白とび部に色が付くという問題がある。
【0010】
一方、白とび部に色が付かないように減感処理する場合には、減感処理できる露出量(復元できる幅)が少なくなるという問題がある。
【0011】
これに対し、特許文献1に記載の画像補正装置は、通常露光時に白とびしていない画素値の範囲で適用され、露出補正時に白とび部の色づきを防止することができない。
【0012】
同様に、特許文献2に記載のホワイトバランス調整装置は、補正された補正ゲインを全画素に均等に適用するため、露出補正時に白とび部の色づきを防止することができず、また、特許文献3に記載のデジタルカメラは、該カメラで撮影されたデジタル画像のホワイトバランスを撮影後に変更すると、等しかった各色のゲイン最大値が不均一となり、その結果、露出補正時に白とび部の色づきを防止することができないという問題がある。
【0013】
本発明はこのような事情に鑑みてなされたもので、通常露光と同様な明るさを有するとともに、ホワイトバランス補正された白とびのないダイナミックレンジの広い画像を得ることができる画像処理方法、装置及びプログラム並びに撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0014】
前記目的を達成するために本発明の一の態様に係る画像処理方法は、カラーのデジタル画像を入力する入力工程と、入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正工程と、ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正工程と、アンダーになるように露出補正されたデジタル画像に対して、アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正工程と、を含んでいる。
【0015】
これにより、通常露光と同様な明るさを有し、ホワイトバランス補正がされた白とびのない画像(ダイナミックレンジの広い画像)を得ることができる。
【0016】
本発明の他の態様に係る画像処理方法において、露出補正工程は、ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値に基づいて前記ホワイトバランスが補正されたデジタル画像の情報復元可能な最大の露出補正値を算出する工程を含み、この最大の露出補正値に応じて前記ホワイトバランスが補正されたデジタル画像を露出補正するようにしている。
【0017】
本発明の更に他の態様に係る画像処理方法において、最大の露出補正値を算出する工程は、ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値を、MaxGainとすると、情報復元可能な最大の露出補正値MaxEVを、次式、MaxEV=LOG2(1/MaxGain)によって算出するようにしている。
【0018】
本発明の更に他の態様に係る画像処理方法において、ホワイトバランスが補正されたデジタル画像の各画素のうち露出補正によってアンダー露出になるように補正しなければ出力する画素値が飽和する画素を判別する判別工程と、判別された飽和する画素のみを補正対象画素とし、補正対象画素の画素値をその画素値以上の値となるように補正する画素値補正工程と、を有することが好ましい。
【0019】
ホワイトバランス補正時に飽和(白とび)する画素のみを補正対象画素としているため、原画像の色情報をできる限り保持することができるとともに、白とびする補正対象画素については、補正対象画素の画素値をその画素値以上に補正するようにしたため、減感処理時に白とび部の色付きを防止することができる。
【0020】
本発明の更に他の態様に係る画像処理方法において、画素値補正工程は、補正対象画素の画素値を、その画素値と補正対象画素の周囲の異なる色の画素の画素値のうちの最大の画素値に補正することが好ましい。これにより、補正対象画素の画素値を、各色の画素値と一致させることができ、減感処理時に白とび部の色付きを防止することができる。また、周辺の異なる色の画素を参照することで、著しく誤った色が再現されることなく自然な発色を得ることができる。
【0021】
本発明の更に他の態様に係る画像処理方法において、画素値補正工程は、補正対象画素の画素値に対して画素値以上の補間最大値を求める工程と、補正対象画素の画素値と補間最大値とを補間処理して補間値を計算する補間処理工程とを含み、補正対象画素の画素値を前記計算した補間値に補正することが好ましい。
【0022】
本発明の更に他の態様に係る画像処理装置は、カラーのデジタル画像を入力する入力手段と、入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正手段と、ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正手段と、アンダーになるように露出補正されたデジタル画像に対して、アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正手段と、を備えている。
【0023】
本発明の更に他の態様に係る撮像装置は、被写体を撮像してカラーのデジタル画像を示すRAWデータを取得する撮像手段と、少なくともRAWデータを記録媒体に記録する機能を有する記録手段と、前述した画像処理装置と、を備え、入力手段は、撮像手段が取得したRAWデータを示すデジタル画像、又は記録媒体から読み出したRAWデータを示すデジタル画像を入力する。
【0024】
本発明の更に他の態様に係る画像処理プログラムは、カラーのデジタル画像を入力する入力工機能と、入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正機能と、ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正機能と、アンダーになるように露出補正されたデジタル画像に対して、アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正機能と、をコンピュータに実現させるようにしている。
【発明の効果】
【0025】
本発明によれば、ホワイトバランス補正後のデジタル画像を該デジタル画像が飽和しないようにアンダーに露出補正(減感処理)するようにしたため、白とびのない画像を得ることができ、また、減感処理により暗くなる画像に対して、通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する、広ダイナミックレンジ用のガンマ補正を行うようにしたため、通常露光と同様な明るさを有し、かつホワイトバランス補正された白とびのないダイナミックレンジの広い画像を得ることができる。
【図面の簡単な説明】
【0026】
【図1】図1は本発明に係る撮像装置(カメラ)の実施の形態を示すブロック図である。
【図2】図2はCCD撮像素子の構成例を示す図である。
【図3】図3は本発明に係る画像処理装置としての機能を備えたパソコンのハードウェア構成例を示すブロック図である。
【図4】図4は本発明に係る画像処理プログラムでの処理内容を示す機能ブロック図である。
【図5】図5は図4に示した白とび画素検出部の処理内容を示すフローチャートである。
【図6】図6はRAWデータのホワイトバランス補正を行った結果、白とびした画素の一例を示す図である。
【図7】図7は本発明による補正対象画素の画素値の補正を説明するために用いた図である。
【図8】図8は本発明による補正対象画素の画素値の補正を説明するために用いた図である。
【図9】図9は補間最大値の決定方法を示すフローチャートである。
【図10】図10は補正対象画素に対する参照画素を説明するために用いた図である。
【図11】図11は図4に示した補間値調整部での処理方法を示すフローチャートである。
【図12】図12は補間値を算出する際の混合比率を説明するために用いた図である。
【図13】図13は補正対象画素の画素値を補間値に補正することによって再現される画像を説明するために用いた図である。
【図14】図14は本発明に係る画像処理方法の第3の実施の形態を示すフローチャートである。
【図15】図15は露出補正をマニュアル設定するときにモニタ装置に表示される操作画面の一例を示す図である。
【図16】図16は本発明に係る画像処理方法の第4の実施の形態を示すフローチャートである。
【図17】図17は広ダイナミックレンジのRAW現像を説明するために用いた図である。
【発明を実施するための形態】
【0027】
以下、添付図面に従って本発明に係る画像処理方法、装置及びプログラム並びに撮像装置の好ましい実施の形態について説明する。
【0028】
[撮像装置]
図1は本発明に係る撮像装置の実施の形態を示すブロック図である。
【0029】
図1に示す撮像装置(以下、「カメラ」と称す)1は、静止画や動画の記録及び再生機能を備えたデジタルカメラであり、カメラ全体の動作は中央処理装置(CPU)10によって統括制御される。CPU10は、所定のプログラムに従って本カメラシステムを制御する制御手段として機能するとともに、自動露出(AE)演算、自動焦点調節(AF)演算、ホワイトバランス(WB)調整演算等、各種演算を実施する演算手段として機能する。
【0030】
CPU10には、バス12及びメモリ・インターフェース14を介してRAM(Random Access Memory)16及びROM(Read Only Memory)18が接続されている。RAM16は、プログラムの展開領域及びCPU10の演算作業用領域として利用されるとともに、画像データの一時記憶領域として利用される。ROM18には、CPU10が実行するプログラム及び制御に必要な各種データや、カメラ動作に関する各種定数/情報等が格納されている。
【0031】
撮像部20(撮像手段)には、撮影レンズ及び絞り等を含む光学ユニット22や、CCD撮像素子24(以下、単に「CCD」という)等が含まれている。光学ユニット22は、CPU10からのAF指令やAE指令によりモータ駆動部32を介してフォーカスレンズや絞り等が駆動される。
【0032】
CCD24は、図2に示すように多数の受光素子(フォトダイオード)24Aが水平方向(行方向)及び垂直方向(列方向)に一定の配列周期で配置されたCCD型2次元撮像デバイス(イメージセンサ)である。図示した構成はハニカム配列と呼ばれる画素配列であり、受光素子24Aの幾何学的な形状の中心点を行方向及び列方向に1つ置きに画素ピッチの半分(1/2ピッチ)ずらして配列させたものとなっている。
【0033】
各受光素子24Aは、八角形の受光面を有し、各受光素子24Aに対応してRGBの原色カラーフィルタが配置されている。図2のように、水平方向についてRBRB…の行の次段にGGGG…の行が配置され、その次段にBRBR…の行、という具合に配列される。列方向についてみれば、RBRB…の列と、GGGG…の列と、BRBR…の列とが循環式に繰り返される配列パターンとなっている。
【0034】
各受光素子24Aの右側(又は左側)には垂直転送路(VCCD)24Vが形成されている。垂直転送路24Vは、受光素子24Aの各列に近接して受光素子24Aを避けながらジグザグ状に蛇行して垂直方向に伸びている。図示されていないが、垂直転送路24V上には4相駆動(φ1,φ2,φ3,φ4)に必要な転送電極が配置される。転送電極は、受光素子24Aの各行に近接して受光素子24Aの開口を避けながら蛇行して図2の水平方向に伸びるように設けられている。
【0035】
各受光素子24Aで光電変換により生成された信号電荷は、当該受光素子24Aの右側(又は左側)に隣接した垂直転送路24Vに読み出され、転送パルスに従って図2の下方(V方向)に転送される。
【0036】
図2において垂直転送路24Vの下端(垂直転送路24Vの最下流側)には、垂直転送路24Vから移された信号電荷を水平方向に転送する水平転送路(HCCD)24Hが設けられている。
【0037】
水平転送路24Hは、2相又は4相駆動の転送CCDで構成されており、水平転送路24Hの最終段(図2上で最左段)は出力部25に接続されている。出力部25は出力アンプを含み、入力された信号電荷の電荷検出を行い、信号電圧として出力端子25Aに出力する。こうして、各受光素子24Aで生成された信号が、点順次の信号列として出力される。尚、出力端子25Aから出力される信号はRGBGRGBG…という信号列となる。
【0038】
図1に戻って、CCD24は、各受光素子の電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。CPU10は、タイミング・ジェネレータ34を介してCCD24での電荷蓄積時間を制御する。
【0039】
このCCD24から順次読み出されたCCD信号は、アナログ信号処理部26に加えられる。アナログ信号処理部26は、CDS回路やアナログアンプ等を有し、CDS回路は入力するCCD信号を相関二重サンプリング処理し、アナログアンプは、CPU10から加えられる撮影感度設定用ゲインによってCDS回路から出力されるCCD信号を増幅する。
【0040】
アナログ信号処理部26にてアナログ処理されたCCD信号は、A/D変換器28に加えられ、ここで画素ごとにデジタルのカラー画像データ(点順次のR,G,BのRAWデータ)に変換される。
【0041】
R,G,BのRAWデータは、デジタル信号処理部30、バス12及びメモリ・インターフェース14を介してRAM16に一時的に記憶される。このR,G,BのRAWデータは、デジタル信号処理部30に入力され、ここで、ホワイトバランス補正、露出補正、ガンマ補正、同時化処理、RGB/YC変換処理等の画像処理が施される。
【0042】
また、RAWデータ記録が選択されている場合には、前記RAWデータはRAWファイルのフォーマットで、外部メモリ・インターフェース48(記録手段)を介してメモリカード50に記録される。
【0043】
カメラ1の操作部36には、シャッターボタン、撮影モードと再生モードを切り替えるモード切替レバー、撮影モード(オート撮影モード、マニュアル撮影モード、連写モード等)を選択するためのモードダイヤル、表示部(LCD)40にメニュー画面を表示させるメニューボタン、メニュー画面から所望の項目を選択するためのマルチファンクションの十字キー、選択項目の確定や処理の実行を指令するOKボタン、選択項目など所望の対象の消去や指示内容の取消し、或いは1つ前の操作状態に戻らせる指令を入力するBACKボタンなどが含まれる。操作部36からの出力信号は、バス12を介してCPU10に入力され、CPU10は操作部36からの入力信号に基づいて撮影や再生等の適宜の処理を実施させる。
【0044】
カメラ1には、被写体にフラッシュ光を照射するためのフラッシュ装置42が含まれ、フラッシュ装置42は、CPU10からの発光指令によって充電部4から電源の供給を受けてフラッシュ光を照射する。
【0045】
デジタル信号処理部30で処理された画像データ(輝度信号Y,色差信号Cr,Cb)は、圧縮伸張処理回路46に与えられ、ここで、所定の圧縮フォーマット(例えば、JPEG方式) に従って圧縮される。圧縮された画像データは、画像ファイル(例えば、JPEGファイル)のフォーマットで、外部メモリ・インターフェース48を介してメモリカード50に記録される。
【0046】
また、LCD40には、LCDインターフェース38を介して加えられる画像信号により撮像準備中に映像(スルームービー画)が表示され、また、再生モード時にメモリカード50に記録されたJPEGファイル、又はRAWファイルが読み出され、画像が表示される。尚、JPEGファイルに格納された圧縮された画像データは、圧縮伸張処理回路46によって伸張処理が行われてLCD40に出力され、RAWファイルに格納されたRAWデータは、前記デジタル信号処理部30によってRAW現像した後にLCD40に出力される。
【0047】
[画像処理装置]
図3は本発明に係る画像処理装置としての機能を備えたパソコンのハードウェア構成例を示すブロック図である。
【0048】
図3に示すようにパソコン100は、主として各構成要素の動作を制御する中央処理装置(CPU)110と、装置の制御プログラムが格納されたり、プログラム実行時の作業領域となる主メモリ112と、パソコン100のオペレーティングシステム(OS)、パソコン100に接続された周辺機器のデバイスドライバ、本発明に係る画像処理プログラムを含む各種のアプリケーションソフト、ユーザの画像等が格納されるハードディスク装置114と、CD−ROM装置116と、表示用データを一時記憶する表示メモリ118と、この表示メモリ118からの画像データ、文字データ等により画像や文字等を表示するCRTモニタや液晶モニタ等のモニタ装置120と、キーボード122と、位置入力装置としてのマウス124と、マウス124の状態を検出してモニタ装置120上のマウスポインタの位置やマウス124の状態等の信号をCPU110に出力するマウスコントローラ126と、カメラ1と接続してRAWファイル等の入力が可能なUSB(Universal Serial Bus)などのインターフェース128と、上記各構成要素を接続するバス130とから構成されている。
【0049】
尚、上記構成のパソコン100は、ハードディスク装置114に格納されている、本発明に係る画像処理プログラムを除いて周知のものであるため、各構成要素の詳細な説明については省略する。この画像処理プログラムは、該画像処理プログラムが記録されたCD−ROM(カメラ1に同梱されているCD−ROM)をパソコン100のCD−ROM装置116にセットすることにより、パソコン100にインストールすることができる。また、画像処理プログラムは、図示しないネットワークを通じてダウンロードすることができる。
【0050】
また、カメラ1のメモリカード50に記録されたRAWファイルは、図示しないカードリーダを介してハードディスク装置114に取り込むことができる。
【0051】
次に、ハードディスク装置114に取り込んだRAWファイルのRAWデータを、画像処理プログラムに基づいて可視化する画像処理(RAW現像)について説明する。
【0052】
[RAW現像]
図4は本発明に係る画像処理プログラムでの処理内容を示す機能ブロック図である。
【0053】
ハードディスク装置114に取り込んだRAWファイルのうちの所望のRAWファイルのRAW現像の処理を指示すると、RAWファイルのRAWデータ(R、G、B毎に14ビットのビット長を有するデータ)は、主メモリ112に一時記憶される(入力手段、入力工程、入力機能)。
【0054】
主メモリ112に一時記憶されたR,G,Bの14ビットのRAWデータは、画像処理部200のリニア前処理部210にR,G,Bの点順次で加えられる。R,G,BのRAWデータは、リニア前処理部210にてオフセット調整、16ビット化、シェーディング補正といったリニアデータに対する前処理が行われる。
【0055】
リニア前処理部210から出力されたR,G,Bデータは、ホワイトバランス(WB)補正部220に出力される。WB補正部(ホワイトバランス補正手段)220は、R,G,Bデータごとにそれぞれホワイトバランス補正用のゲイン値Rg、Gg、Bgをかけることによりホワイトバランス補正を行う(ホワイトバランス補正工程、ホワイトバランス補正機能)。
【0056】
ここで、ホワイトバランス補正用のゲイン値Rg、Gg、Bgは、RAWデータを解析して、例えば光源種(太陽光、蛍光灯、タングステン電球等)を特定し、その光源種に対応して予め記憶されているゲイン値Rg、Gg、Bgに設定され、あるいはホワイトバランス補正を行うメニュー画面上で手動で選択された光源種や色温度に対応するゲイン値Rg、Gg、Bgに設定される。尚、この実施の形態では、16ビットのR、G、Bデータにゲイン値Rg、Gg、Bgを乗算するため、R、G、Bデータが16ビットよりも大きくなる場合がある。従って、パソコン100では、16ビットよりも大きな32ビットで処理を行うようにしている。
【0057】
WB補正部220から出力されたR、G、Bデータは、画素値補正部230に加えられる。この画素値補正部230は、本発明によって追加された部分であり、白とびしている画素のみを補正対象画素とし、補正対象画素の画素値をその画素値以上の値となるように補正する。尚、この画素値補正部230での処理の詳細については、後述する。
【0058】
画素値補正部230から出力されたR、G、Bデータは、露出補正部240に加えられる。露出補正部240は、手動による露出補正値(例えば、−3EV〜+3EV)の指示入力に応じて通常露出(露出補正をしない場合の露出)に対して露出をアンダーに補正(減感処理)、あるいはオーバーに補正(増感処理)する(露出補正工程)。
【0059】
露出補正部240から出力されたR、G、Bデータは、ガンマ補正部250に出力され、ここで、リニアデータを、sRGB,AdobeRBG,scRGBといった色空間の階調データに変換する。ガンマ補正されたR、G、Bデータは、同時化処理部260に出力される。
【0060】
同時化処理部260は、図2に示したCCD24のCCDカラーフィルタ配列に伴うR、G、Bデータの空間的なズレを補間してR、G、Bデータを同時式に変換する処理を行い、同時化したR、G、BデータをRGB/YC変換部270に出力する。
【0061】
RGB/YC変換部270は、R、G、Bデータを輝度データY,色差データCr,Cbに変換し、輝度データYを輪郭補正部280に出力し、色差データCr,Cbを色調補正部290に出力する。輪郭補正部280は、輝度データYの輪郭部(輝度変化の大きい部分)を強調する処理を行う。
【0062】
色調補正部290は、入力する色差信号Cr,Cbと、2行×2列の色補正マトリクス係数とのマトリクス演算を行い、良好な色再現性を実現させるための色補正を行う。色補正マトリクス係数は、ユーザからの色補正の指示入力に応じて適宜変更される。
【0063】
このようにして輪郭補正された輝度データY、及色調補正された色差データCr,Cbは、画像の保存の指示入力があると、JPEGファイルやTIFFファイルとして保存される。
【0064】
[画素値補正部]
次に、図4に示した画素値補正部230について詳説する。
【0065】
画素値補正部230は、白とび画素検出部232、画素補間部234、及び補間値調整部236とから構成されている。
【0066】
図5は白とび画素検出部232の処理内容を示すフローチャートである。
【0067】
画素検出部232は、WB補正部220から入力するR、G、Bの各画素ごとに、その画素が白とびしているか否かを検出するもので、まず、入力する画素に対して、白とび画素フラグをOFFに設定する(ステップS10)。ここで、白とび画素フラグがOFFに設定された画素は、その画素値の補正は行われず、白とび画素フラグがONに設定された画素のみを補正対象画素とし、その画素値の補正が行われる。
【0068】
続いて、露出補正部240での露出補正値が0よりも小さいか否かを判別し(ステップS12)、露出補正値<0の場合には、ステップS14に進み、露出補正値≧0の場合には、白とび画素フラグをOFFにしたまま、その画素に対する処理を終了する。尚、露出補正値≧0の場合は、増感処理され、白とび部に色が付くことがないため、画素値の補正は行われない。
【0069】
ステップS14では、画素が65535(=216−1)よりも大きいか否かを判別する。ここで、65535は、16ビットのR、G、Bデータの最大値であり、この値を越える画素は、減感処理しなければ、画素値が飽和する画素(白とびする画素)である。
【0070】
そして、画素値>65535となる画素は、白とび画素フラグをONに設定し(ステップS16)、画素値≦65535となる画素は、白とび画素フラグをOFFにしたまま、その画素に対する判断を終了する。
【0071】
上記の処理により、R、G、Bの全ての画素について、白とび画素の有無を検出し、白とび画素として検出された画素には、白とび画素フラグとしてONが設定される(判別工程)。
【0072】
尚、本例では、16ビット長の出力最大値である65535を判断基準値としたが、8ビット長なら255、24ビット長なら1048575となり、そのときの色表現可能な最大値に応じて判断基準値を変更する。
【0073】
図6はホワイトバランス補正を行った結果、白とびした画素の一例を示す図であり、図6(A)はホワイトバランス補正前のある画素のR、G、Bデータを示し、図6(B)はホワイトバランス補正したために前記画素のR、G、Bデータが白とびする様子を示している。
【0074】
図6に示す例では、太陽光に対応するゲイン値Rg、Gg、Bg(Rg>Bg>Gg)によってホワイトバランス補正がされており、図6(A)に示すホワイトバランス補正前のR、G、Bデータは、いずれも画素値が出力最大値(=65535)以下(いずれも白とびをしていない画素)であるが、ホワイトバランス補正によりR、G、Bデータにそれぞれゲイン値Rg、Gg、Bgが乗算された結果、図6(B)に示すように画素値が出力最大値を越える白とび画素となっている。
【0075】
図6(B)に示したR、G、Bデータのうちの点線で囲んだ範囲内のデータが、白とび量であるが、この白とび量は、R、G、Bごとに一律になるとは限らず、図6(B)に示す例では、Rの白とび量が一番大きく、次にBの白とび量が大きく、Gの白とび量が一番小さくなっている。
【0076】
このホワイトバランス補正されたR、G、Bデータを入力する露出補正部240によって、露出をアンダーにする減感処理の段数を徐々に増加させると、R、G、Bの画素値がそれぞれ一定の割合で縮小され、まずGの画素値が出力最大値(=65535)以下になり、次にBの画素値が出力最大値以下になり、最後にRの画素値が出力最大値以下になる。これにより、Rの画素値が出力最大値になった状態では、G、Bの画素値は出力最大値よりも小さくなり、白とび部に色が付く(この場合は、Rの画素値が大きいため、ピンク色になる)という問題がある。
【0077】
[第1の実施の形態]
本発明はこの白とび部の減感処理時に色付きを防止するために、本発明の第1の実施の形態では、白とび画素と判断された画素(白とび画素フラグがONに設定された補正対象画素)の画素値を、補正対象画素の画素値とその周囲の他の色の画素の画素値のうちの最大の画素値になるように補正する(画素値補正工程)。
【0078】
図7(A)は図6(B)に示したホワイトバランス補正後のR、G、Bデータを示し、図7(B)はそのR、G、Bデータを画素値補正部230によって補正した場合に関して示している。
【0079】
図7に示すように補正対象画素がR画素の場合には、その画素値(R’)は補正されず(R’=R”)、補正対象画素がG画素又はB画素の場合には、その画素値(G’、B’)は、その画素の周囲のR画素の画素値(R”)と一致する画素値(G”、B”)に補正する。
【0080】
このように白とび部の画素の画素値を補正することにより、その後、露出補正部240によって減感処理の段数を徐々に増加しても、白とび部に色が付かないようにすることができるとともに、減感補正可能な幅(段数)を増加させることができる。
【0081】
図8(A)はタングステン電球の光源に対応するホワイトバランス補正がされたR、G、Bデータを示し、図8(B)はそのR、G、Bデータを画素値補正部230によって補正した場合に関して示している。
【0082】
タングステン電球の光源に対応するゲイン値Rg、Gg、Bgは、Bg>Gg>Rgの関係にあり、図8(A)に示す例では、ホワイトバランス補正後のR、G、Bの画素値(R’、G’、B’)は、B’>G’>R’となっている。
【0083】
従って、この場合には、図8(B)に示すように補正対象画素がB画素の場合には、その画素値(B’)は補正されず(B’=B”)、補正対象画素がR画素又はG画素の場合には、その画素値(R’、G’)は、その画素の周囲のB画素の画素値(B”)と一致する画素値(R”、G”)に補正する。
【0084】
[第2の実施の形態]
次に、白とび部の減感処理時に色付きを防止する本発明の第2の実施の形態について説明する。
【0085】
<補間最大値決定>
画素値補正部230の画素補間部234(図4)は、以下に示す補間最大値を決定する。
【0086】
図9は補間最大値の決定方法を示すフローチャートである。
【0087】
まず、白とび画素フラグがONの画素(補正対象画素)が、一番色、二番色及び三番色の画素のうちのいずれの画素に該当するかを判別する(ステップS20、ステップS22)。
【0088】
ここで、一番色、二番色及び三番色の画素とは、WB補正部220で使用されたゲイン値Rg、Gg、Bgのうちの一番大きなゲイン値が乗算された色の画素を一番色の画素といい、二番目に大きなゲイン値が乗算された色の画素を二番色の画素といい、三番に大きなゲイン値(最も小さいゲイン値)が乗算された色の画素を三番色の画素という。
【0089】
そして、補正対象画素が一番色の画素の場合には、その画素の画素値に対する補間最大値は、その入力した画素値(入力値)とする(ステップS24)。
【0090】
補正対象画素が二番色の画素の場合には、補正対象画素に隣接する一番色の画素の画素値から参照する画素値を取得する(ステップS26)。
【0091】
図10は図2に示したCCD24の要部を示している。いま、図10(A)に示すように補正対象画素がBの画素であり、これに隣接する他の色(R)の画素を参照画素としてその画素値を求める場合には、B画素の周囲の4つのR画素の画素値の平均値を求め、これを参照する画素値とする。
【0092】
同様に、図10(B)に示すように補正対象画素がGの画素であり、これに隣接する他の色(R,B)の画素を参照画素としてその画素値を求める場合には、G画素の周囲の2つのR画素の画素値の平均値、2つのB画素の画素値の平均値を求め、これらの平均値を参照する画素値とする。
【0093】
次に、ステップS26で求めた参照画素の画素値と、一番色と二番色の画素に対するゲイン値とに基づいて、二番色の画素の補間最大値を算出する(ステップS28)。
【0094】
例えば、一番色(R)の画素値Rを参照して求めた画素値をRave、ホワイトバランス補正時に適用された一番色(R)のゲイン値Rgと二番色(B)のゲイン値Bgとの比率を(Rg/Bg)とすると、二番色のB画素の補間最大値B”は、次式により算出する。
【0095】
[数1]
B”=Rave*(Rg/Bg)
また、補正対象画素が三番色の画素の場合には、補正対象画素に隣接する一番色の画素と二番色の画素の画素値から参照する画素値を取得する(ステップS30)。例えば、三番色がG画素で、一番色がR画素、二番色がB画素の場合には、上記と同様に補正対象画素の周囲の一番色の画素と二番色の画素の画素値からそれぞれ参照する画素値Rave、Baveを求める。
【0096】
次に、ステップS30で求めた一番色及び二番色の参照する画素値と、ホワイトバランス補正時に適用されたゲイン値Rg、Gg、Bgとに基づいて、三番色の画素の補間最大値を算出する(ステップS32)。
【0097】
例えば、一番色(R)の画素値Rを参照して求めた画素値をRave、二番色(B)の画素値Bを参照して求めた画素値をBave、ホワイトバランス補正時に適用された一番色(R)のゲイン値Rgと二番色(B)のゲイン値Bgとの比率を(Rg/Bg)、二番色(B)のゲイン値Bgと三番色(G)のゲイン値Ggとの比率を(Bg/Rg)とすると、三番色のG画素の補間最大値G”は、次式により算出する。
【0098】
[数2]
G”=α*Gtmp1+β*Gtmp2
但し、Gtmp1=Rave*(Rg/Bg)
Gtmp2=Bave*(Bg/Gg)
α+β=1.0
尚、本例では、参照する画素値を、補正対象画素の周囲の同一色の複数の画素の画素値を平均した値としたが、これに限らず、複数の画素の画素値のうちの最大値を参照画素値としてもよい。また、上記のようにして二番色、三番色の補正対象画素に対して求めた補間最大値が、その補正対象画素の画素値以下となる場合には、その補正対象画素は、補正対象画素から除外される。
【0099】
<補間値調整処理>
画素値補正部230の補間値調整部236(図4)は、補正対象画素の画素値、補間最大値等に基づいて以下に示す補間値を算出し、補正対象画素の画素値の代わりにその算出した補間値を露出補正部240に出力する。
【0100】
図11は補間値調整部236での処理方法を示すフローチャートである。
【0101】
まず、補正対象画素の画素値と、その補正対象画素に対して求めた補間最大値(図9)との混合比率を算出する(ステップS40)。
【0102】
図12に示すように補正対象画素の画素値(入力値)をI、出力最大値(境界値)をB、出力最大値に対してホワイトバランス補正を実行したときに得られる値(入力最大値)をWとすると、前記混合比率ExRatioは、次式、
[数3]
ExRatio(0.0〜1.0)={(I−B)/(W−B)}2
により算出する。
【0103】
次に、補正対象画素に対して求めた補間最大値(図9参照)をMとすると、補正対象画素の画素値(入力値I)と、前記[数3]式で求めた混合比率ExRatioとに基づいて、補間値OutValueは、次式により算出する(ステップS42)。
【0104】
[数4]
補間値OutValue=I*(1−ExRatio)+M*ExRatio
上記[数3]式、及び[数4]式からも明らかなように、混合比率ExRatioは、入力値Iが大きいほど(出力最大値Wに近づくほど)1に近づき、補間値OutValueは、補間最大値Mに近づく。
【0105】
このように、補正対象画素の画素値に応じて補間値を調整することにより、減感処理時時に不要な階調とびを避け、自然な発色を得ることができる。
【0106】
図13(A)及び(B)はそれぞれ上記のような補間値による調整しない場合の画像と補間値による調整した場合の画像を示している。
【0107】
図13(A)に示す画像は、白とびした空などの部分のグラデーションに階調とび(段差)が発生するが、図13(B)に示す画像は、グラデーションが微妙に変化する画像になる。
【0108】
尚、補間最大値は、[数1]式及び[数2]式によって求める場合に限らず、例えば、一番色の入力値に一致させるようにしてもよい。また、混合比率ExRatioは、補正対象画素の画素値に応じて補間値が調整可能なものであればよく、[数3]式に示したものに限定されない。
【0109】
[第3の実施の形態]
図14は本発明に係る画像処理方法の第3の実施の形態を示すフローチャートである。
【0110】
現在、WB補正部220(図4)に設定されているゲイン値Rg、Gg、Bgのうちの一番色となる画素のゲイン値MaxGainを取得する(ステップS50)。
【0111】
例えば、太陽光に対応するゲイン値太陽光に対応するゲイン値Rg、Gg、Bg(Rg>Bg>Gg)によってホワイトバランス補正がされている場合には、ゲイン値Ggを、MaxGainにセットする。
【0112】
次に、情報復元可能な最大の露出補正値をMaxEVとすると、露出補正値MaxEVを、前記MaxGainに基づいて次式により算出する(ステップS52、最大の露出補正値を算出する工程)。
【0113】
[数5]
MaxEV=LOG2(1/MaxGain)
そして、前記算出した情報復元可能な最大の露出補正値MaxEVと、現在設定されている露出補正値との関係を、パソコン100のモニタ装置120に視認可能に表示させる(ステップS54、表示手段に表示させる工程)。
【0114】
図15は露出補正をマニュアル設定するときにモニタ装置120に表示される操作画面の一例を示している。
【0115】
図15に示す例では、−3EVまでアンダーに補正(減感処理)できる構成の場合において、±0〜−3EVの長さの棒グラフ140上で、[数5]式で求めた露出補正値MaxEVに基づいて情報復元可能な露出範囲を白色で表示し、露出補正値MaxEVから−3EVまでの範囲をグレー色で表示している。
【0116】
グレー色の範囲内で露出補正値が設定されると、情報は復元されず、白とび部の輝度値がグレー色に変化することを示している。また、0EVよりもプラス方向の範囲での露出補正では、輝度値が増加し情報が復元されることはないので、何も表示していない。
【0117】
一方、現在設定されている露出補正値は、数値(−1.3)で表示されている。尚、棒グラフ140上に目盛りや現在の露出補正値を示す指標を付けると、より情報復元可能な露出範囲と現在の露出補正値との対応関係を分かりやすく表示することができる。
【0118】
操作者は、アップ/ダウンボタン142や、スライドつまみ144を操作することによって、露出補正値を適宜の値にセットすることができるが、このとき上記情報復元可能な露出範囲(棒グラフ140の白色の範囲)を確認しながら操作することができ、操作性が向上する。
【0119】
[第4の実施の形態]
図16は本発明に係る画像処理方法の第4の実施の形態を示すフローチャートである。
【0120】
RAWデータでRAW現像する場合に、ダイナミックレンジ(Dレンジ)をアップして現像するか、通常現像するかを選択できるようにする。
【0121】
ステップS60では、Dレンジをアップする現像が選択されているか否かを判別し、選択されている場合には、ステップS62に遷移し、選択されていない場合にはステップS68に遷移する。
【0122】
ステップS62では、前述した白とび画素の画素値を補間値に補正する処理が行われる。続いて、ステップS64では、情報復元可能な最大の露出補正値MaxEVを求め([数5]式参照)、この露出補正値MaxEVによって減感処理時を行う(露出補正工程)。
【0123】
図17(A)は、ホワイトバランス補正されたRAWデータの情報量と画素値との関係を示している。上記ステップS64での減感処理時により、図17(B)に示すように色再現可能な範囲(出力最大値以内)に、ホワイトバランス補正されたRAWデータの全情報量を入れることができるが、減感処理しているため、暗い画像になっている。
【0124】
ステップS66では、ガンマ補正部250(図4参照)に通常露光時のガンマカーブ(γ1カーブ)とは異なるγ2カーブをセットし、このγ2カーブによるガンマ補正を行わせる(ガンマ補正工程)。
【0125】
γ2カーブは、減感処理されて暗くなっている画像を明るくする階調補正特性を有し、γ2カーブがセットされたガンマ補正部250は、図17(C)に示すように通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する。これにより、Dレンジがアップされ、通常露光では使用されない高輝度部分の情報を復元することができるとともに、適正な明るさの画像を得ることができる。
【0126】
尚、γ2カーブは、最大の露出補正値MaxEVに応じて何種類か準備しておき、最大の露出補正値MaxEVに応じて最適なγ2カードを選択することが好ましい。
【0127】
一方、ステップS60において、Dレンジアップの現像が選択されていない(通常現像が選択されている)と判別されると、通常現像のγ1カーブをガンマ補正部250にセットし、このγ1カーブによるガンマ補正を行わせる(ステップS68)。
【0128】
この場合、図17(A)に示した色再現可能な範囲を越える画素の情報は、白とび部となり、その情報は失われる。
【0129】
尚、この実施の形態では、パソコン100にインストールされた画像処理プログラムにより、RAWファイルのデータをソフトウエアでRAW現像する際の画像処理方法について説明したが、この画像処理方法は、カメラ1のデジタル信号処理部30でRAWファイルのデータをハードウェアでRAW現像する場合にも同様に適用できる。
【符号の説明】
【0130】
1…撮像装置(カメラ)、20…撮像部、30…デジタル信号処理部、100…パソコン、110…中央処理装置(CPU)、112…主メモリ、114…ハードディスク装置、120…モニタ装置、200…画像処理部、220…ホワイトバランス(WB)補正部、230…画素値補正部、232…白とび画素検出部、234…画素補間部、236…補間値調整部、240…露出補正部、250…ガンマ補正部、140…棒グラフ
【技術分野】
【0001】
本発明は画像処理方法、装置及びプログラム並びに撮像装置に係り、特にデジタル画像を露出補正する際の色づきを防止する技術に関する。
【背景技術】
【0002】
RAWファイルは、デジタルカメラでの撮影時に撮像素子が捉えた光量をA/D変換したデジタルの画像データ(RAWデータ)をそのまま記録したものである。
【0003】
RAWデータを適正な画像として出力(表示、プリント)するためには、ホワイトバランス補正、露出補正、ガンマ補正、同時化処理等の種々の画像処理を施す必要があるが、その反面、ユーザが好みの画像に補正することができる自由度が大きいという利点がある。
【0004】
例えば、ホワイトバランス補正によってRAWデータにR、G、Bゲインを乗算すると、RAWデータでは白とびしていない部分(出力可能なデジタル値の最大値以下)であっても、白とびすることがあるが、露出をアンダーに設定して現像(=減感処理)することにより、白とび部分の情報を復元することができる。
【0005】
特許文献1には、画像を解析して得られた画像データのハイライト部の値とシャドウ部の値を用いて露出補正する画像補正装置が記載されている。
【0006】
特許文献2には、ホワイトバランス補正を行うと、それに伴って輝度が変化するが、R、G、Bゲインのうちの少なくとも2色のゲインとして、輝度変化量を補正する補正ゲインを算出し、この算出した少なくとも2色の補正ゲインでホワイトバランスを調整するホワイトバランス調整装置が記載されている。
【0007】
特許文献3には、撮像素子の電荷蓄積時間を、ホワイトバランス補正値に応じて各色独立に制御し、特定の色信号のゲイン(ノイズ)が大きくならないようにしたデジタルカメラが記載されている。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開平11−317873号公報
【特許文献2】特開2002−118857号公報
【特許文献3】特開2006−135708号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
ところで、前述したようにホワイトバランス補正によって白とびしたデジタル画像であっても、減感処理することにより、白とび部分の情報を復元することができるが、ホワイトバランス補正によって白とびした部分(白とび部)は、R、G、B毎に白とび量が一律でないため、これを減感処理すると、白とび部に色が付くという問題がある。
【0010】
一方、白とび部に色が付かないように減感処理する場合には、減感処理できる露出量(復元できる幅)が少なくなるという問題がある。
【0011】
これに対し、特許文献1に記載の画像補正装置は、通常露光時に白とびしていない画素値の範囲で適用され、露出補正時に白とび部の色づきを防止することができない。
【0012】
同様に、特許文献2に記載のホワイトバランス調整装置は、補正された補正ゲインを全画素に均等に適用するため、露出補正時に白とび部の色づきを防止することができず、また、特許文献3に記載のデジタルカメラは、該カメラで撮影されたデジタル画像のホワイトバランスを撮影後に変更すると、等しかった各色のゲイン最大値が不均一となり、その結果、露出補正時に白とび部の色づきを防止することができないという問題がある。
【0013】
本発明はこのような事情に鑑みてなされたもので、通常露光と同様な明るさを有するとともに、ホワイトバランス補正された白とびのないダイナミックレンジの広い画像を得ることができる画像処理方法、装置及びプログラム並びに撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0014】
前記目的を達成するために本発明の一の態様に係る画像処理方法は、カラーのデジタル画像を入力する入力工程と、入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正工程と、ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正工程と、アンダーになるように露出補正されたデジタル画像に対して、アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正工程と、を含んでいる。
【0015】
これにより、通常露光と同様な明るさを有し、ホワイトバランス補正がされた白とびのない画像(ダイナミックレンジの広い画像)を得ることができる。
【0016】
本発明の他の態様に係る画像処理方法において、露出補正工程は、ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値に基づいて前記ホワイトバランスが補正されたデジタル画像の情報復元可能な最大の露出補正値を算出する工程を含み、この最大の露出補正値に応じて前記ホワイトバランスが補正されたデジタル画像を露出補正するようにしている。
【0017】
本発明の更に他の態様に係る画像処理方法において、最大の露出補正値を算出する工程は、ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値を、MaxGainとすると、情報復元可能な最大の露出補正値MaxEVを、次式、MaxEV=LOG2(1/MaxGain)によって算出するようにしている。
【0018】
本発明の更に他の態様に係る画像処理方法において、ホワイトバランスが補正されたデジタル画像の各画素のうち露出補正によってアンダー露出になるように補正しなければ出力する画素値が飽和する画素を判別する判別工程と、判別された飽和する画素のみを補正対象画素とし、補正対象画素の画素値をその画素値以上の値となるように補正する画素値補正工程と、を有することが好ましい。
【0019】
ホワイトバランス補正時に飽和(白とび)する画素のみを補正対象画素としているため、原画像の色情報をできる限り保持することができるとともに、白とびする補正対象画素については、補正対象画素の画素値をその画素値以上に補正するようにしたため、減感処理時に白とび部の色付きを防止することができる。
【0020】
本発明の更に他の態様に係る画像処理方法において、画素値補正工程は、補正対象画素の画素値を、その画素値と補正対象画素の周囲の異なる色の画素の画素値のうちの最大の画素値に補正することが好ましい。これにより、補正対象画素の画素値を、各色の画素値と一致させることができ、減感処理時に白とび部の色付きを防止することができる。また、周辺の異なる色の画素を参照することで、著しく誤った色が再現されることなく自然な発色を得ることができる。
【0021】
本発明の更に他の態様に係る画像処理方法において、画素値補正工程は、補正対象画素の画素値に対して画素値以上の補間最大値を求める工程と、補正対象画素の画素値と補間最大値とを補間処理して補間値を計算する補間処理工程とを含み、補正対象画素の画素値を前記計算した補間値に補正することが好ましい。
【0022】
本発明の更に他の態様に係る画像処理装置は、カラーのデジタル画像を入力する入力手段と、入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正手段と、ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正手段と、アンダーになるように露出補正されたデジタル画像に対して、アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正手段と、を備えている。
【0023】
本発明の更に他の態様に係る撮像装置は、被写体を撮像してカラーのデジタル画像を示すRAWデータを取得する撮像手段と、少なくともRAWデータを記録媒体に記録する機能を有する記録手段と、前述した画像処理装置と、を備え、入力手段は、撮像手段が取得したRAWデータを示すデジタル画像、又は記録媒体から読み出したRAWデータを示すデジタル画像を入力する。
【0024】
本発明の更に他の態様に係る画像処理プログラムは、カラーのデジタル画像を入力する入力工機能と、入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正機能と、ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正機能と、アンダーになるように露出補正されたデジタル画像に対して、アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正機能と、をコンピュータに実現させるようにしている。
【発明の効果】
【0025】
本発明によれば、ホワイトバランス補正後のデジタル画像を該デジタル画像が飽和しないようにアンダーに露出補正(減感処理)するようにしたため、白とびのない画像を得ることができ、また、減感処理により暗くなる画像に対して、通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する、広ダイナミックレンジ用のガンマ補正を行うようにしたため、通常露光と同様な明るさを有し、かつホワイトバランス補正された白とびのないダイナミックレンジの広い画像を得ることができる。
【図面の簡単な説明】
【0026】
【図1】図1は本発明に係る撮像装置(カメラ)の実施の形態を示すブロック図である。
【図2】図2はCCD撮像素子の構成例を示す図である。
【図3】図3は本発明に係る画像処理装置としての機能を備えたパソコンのハードウェア構成例を示すブロック図である。
【図4】図4は本発明に係る画像処理プログラムでの処理内容を示す機能ブロック図である。
【図5】図5は図4に示した白とび画素検出部の処理内容を示すフローチャートである。
【図6】図6はRAWデータのホワイトバランス補正を行った結果、白とびした画素の一例を示す図である。
【図7】図7は本発明による補正対象画素の画素値の補正を説明するために用いた図である。
【図8】図8は本発明による補正対象画素の画素値の補正を説明するために用いた図である。
【図9】図9は補間最大値の決定方法を示すフローチャートである。
【図10】図10は補正対象画素に対する参照画素を説明するために用いた図である。
【図11】図11は図4に示した補間値調整部での処理方法を示すフローチャートである。
【図12】図12は補間値を算出する際の混合比率を説明するために用いた図である。
【図13】図13は補正対象画素の画素値を補間値に補正することによって再現される画像を説明するために用いた図である。
【図14】図14は本発明に係る画像処理方法の第3の実施の形態を示すフローチャートである。
【図15】図15は露出補正をマニュアル設定するときにモニタ装置に表示される操作画面の一例を示す図である。
【図16】図16は本発明に係る画像処理方法の第4の実施の形態を示すフローチャートである。
【図17】図17は広ダイナミックレンジのRAW現像を説明するために用いた図である。
【発明を実施するための形態】
【0027】
以下、添付図面に従って本発明に係る画像処理方法、装置及びプログラム並びに撮像装置の好ましい実施の形態について説明する。
【0028】
[撮像装置]
図1は本発明に係る撮像装置の実施の形態を示すブロック図である。
【0029】
図1に示す撮像装置(以下、「カメラ」と称す)1は、静止画や動画の記録及び再生機能を備えたデジタルカメラであり、カメラ全体の動作は中央処理装置(CPU)10によって統括制御される。CPU10は、所定のプログラムに従って本カメラシステムを制御する制御手段として機能するとともに、自動露出(AE)演算、自動焦点調節(AF)演算、ホワイトバランス(WB)調整演算等、各種演算を実施する演算手段として機能する。
【0030】
CPU10には、バス12及びメモリ・インターフェース14を介してRAM(Random Access Memory)16及びROM(Read Only Memory)18が接続されている。RAM16は、プログラムの展開領域及びCPU10の演算作業用領域として利用されるとともに、画像データの一時記憶領域として利用される。ROM18には、CPU10が実行するプログラム及び制御に必要な各種データや、カメラ動作に関する各種定数/情報等が格納されている。
【0031】
撮像部20(撮像手段)には、撮影レンズ及び絞り等を含む光学ユニット22や、CCD撮像素子24(以下、単に「CCD」という)等が含まれている。光学ユニット22は、CPU10からのAF指令やAE指令によりモータ駆動部32を介してフォーカスレンズや絞り等が駆動される。
【0032】
CCD24は、図2に示すように多数の受光素子(フォトダイオード)24Aが水平方向(行方向)及び垂直方向(列方向)に一定の配列周期で配置されたCCD型2次元撮像デバイス(イメージセンサ)である。図示した構成はハニカム配列と呼ばれる画素配列であり、受光素子24Aの幾何学的な形状の中心点を行方向及び列方向に1つ置きに画素ピッチの半分(1/2ピッチ)ずらして配列させたものとなっている。
【0033】
各受光素子24Aは、八角形の受光面を有し、各受光素子24Aに対応してRGBの原色カラーフィルタが配置されている。図2のように、水平方向についてRBRB…の行の次段にGGGG…の行が配置され、その次段にBRBR…の行、という具合に配列される。列方向についてみれば、RBRB…の列と、GGGG…の列と、BRBR…の列とが循環式に繰り返される配列パターンとなっている。
【0034】
各受光素子24Aの右側(又は左側)には垂直転送路(VCCD)24Vが形成されている。垂直転送路24Vは、受光素子24Aの各列に近接して受光素子24Aを避けながらジグザグ状に蛇行して垂直方向に伸びている。図示されていないが、垂直転送路24V上には4相駆動(φ1,φ2,φ3,φ4)に必要な転送電極が配置される。転送電極は、受光素子24Aの各行に近接して受光素子24Aの開口を避けながら蛇行して図2の水平方向に伸びるように設けられている。
【0035】
各受光素子24Aで光電変換により生成された信号電荷は、当該受光素子24Aの右側(又は左側)に隣接した垂直転送路24Vに読み出され、転送パルスに従って図2の下方(V方向)に転送される。
【0036】
図2において垂直転送路24Vの下端(垂直転送路24Vの最下流側)には、垂直転送路24Vから移された信号電荷を水平方向に転送する水平転送路(HCCD)24Hが設けられている。
【0037】
水平転送路24Hは、2相又は4相駆動の転送CCDで構成されており、水平転送路24Hの最終段(図2上で最左段)は出力部25に接続されている。出力部25は出力アンプを含み、入力された信号電荷の電荷検出を行い、信号電圧として出力端子25Aに出力する。こうして、各受光素子24Aで生成された信号が、点順次の信号列として出力される。尚、出力端子25Aから出力される信号はRGBGRGBG…という信号列となる。
【0038】
図1に戻って、CCD24は、各受光素子の電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。CPU10は、タイミング・ジェネレータ34を介してCCD24での電荷蓄積時間を制御する。
【0039】
このCCD24から順次読み出されたCCD信号は、アナログ信号処理部26に加えられる。アナログ信号処理部26は、CDS回路やアナログアンプ等を有し、CDS回路は入力するCCD信号を相関二重サンプリング処理し、アナログアンプは、CPU10から加えられる撮影感度設定用ゲインによってCDS回路から出力されるCCD信号を増幅する。
【0040】
アナログ信号処理部26にてアナログ処理されたCCD信号は、A/D変換器28に加えられ、ここで画素ごとにデジタルのカラー画像データ(点順次のR,G,BのRAWデータ)に変換される。
【0041】
R,G,BのRAWデータは、デジタル信号処理部30、バス12及びメモリ・インターフェース14を介してRAM16に一時的に記憶される。このR,G,BのRAWデータは、デジタル信号処理部30に入力され、ここで、ホワイトバランス補正、露出補正、ガンマ補正、同時化処理、RGB/YC変換処理等の画像処理が施される。
【0042】
また、RAWデータ記録が選択されている場合には、前記RAWデータはRAWファイルのフォーマットで、外部メモリ・インターフェース48(記録手段)を介してメモリカード50に記録される。
【0043】
カメラ1の操作部36には、シャッターボタン、撮影モードと再生モードを切り替えるモード切替レバー、撮影モード(オート撮影モード、マニュアル撮影モード、連写モード等)を選択するためのモードダイヤル、表示部(LCD)40にメニュー画面を表示させるメニューボタン、メニュー画面から所望の項目を選択するためのマルチファンクションの十字キー、選択項目の確定や処理の実行を指令するOKボタン、選択項目など所望の対象の消去や指示内容の取消し、或いは1つ前の操作状態に戻らせる指令を入力するBACKボタンなどが含まれる。操作部36からの出力信号は、バス12を介してCPU10に入力され、CPU10は操作部36からの入力信号に基づいて撮影や再生等の適宜の処理を実施させる。
【0044】
カメラ1には、被写体にフラッシュ光を照射するためのフラッシュ装置42が含まれ、フラッシュ装置42は、CPU10からの発光指令によって充電部4から電源の供給を受けてフラッシュ光を照射する。
【0045】
デジタル信号処理部30で処理された画像データ(輝度信号Y,色差信号Cr,Cb)は、圧縮伸張処理回路46に与えられ、ここで、所定の圧縮フォーマット(例えば、JPEG方式) に従って圧縮される。圧縮された画像データは、画像ファイル(例えば、JPEGファイル)のフォーマットで、外部メモリ・インターフェース48を介してメモリカード50に記録される。
【0046】
また、LCD40には、LCDインターフェース38を介して加えられる画像信号により撮像準備中に映像(スルームービー画)が表示され、また、再生モード時にメモリカード50に記録されたJPEGファイル、又はRAWファイルが読み出され、画像が表示される。尚、JPEGファイルに格納された圧縮された画像データは、圧縮伸張処理回路46によって伸張処理が行われてLCD40に出力され、RAWファイルに格納されたRAWデータは、前記デジタル信号処理部30によってRAW現像した後にLCD40に出力される。
【0047】
[画像処理装置]
図3は本発明に係る画像処理装置としての機能を備えたパソコンのハードウェア構成例を示すブロック図である。
【0048】
図3に示すようにパソコン100は、主として各構成要素の動作を制御する中央処理装置(CPU)110と、装置の制御プログラムが格納されたり、プログラム実行時の作業領域となる主メモリ112と、パソコン100のオペレーティングシステム(OS)、パソコン100に接続された周辺機器のデバイスドライバ、本発明に係る画像処理プログラムを含む各種のアプリケーションソフト、ユーザの画像等が格納されるハードディスク装置114と、CD−ROM装置116と、表示用データを一時記憶する表示メモリ118と、この表示メモリ118からの画像データ、文字データ等により画像や文字等を表示するCRTモニタや液晶モニタ等のモニタ装置120と、キーボード122と、位置入力装置としてのマウス124と、マウス124の状態を検出してモニタ装置120上のマウスポインタの位置やマウス124の状態等の信号をCPU110に出力するマウスコントローラ126と、カメラ1と接続してRAWファイル等の入力が可能なUSB(Universal Serial Bus)などのインターフェース128と、上記各構成要素を接続するバス130とから構成されている。
【0049】
尚、上記構成のパソコン100は、ハードディスク装置114に格納されている、本発明に係る画像処理プログラムを除いて周知のものであるため、各構成要素の詳細な説明については省略する。この画像処理プログラムは、該画像処理プログラムが記録されたCD−ROM(カメラ1に同梱されているCD−ROM)をパソコン100のCD−ROM装置116にセットすることにより、パソコン100にインストールすることができる。また、画像処理プログラムは、図示しないネットワークを通じてダウンロードすることができる。
【0050】
また、カメラ1のメモリカード50に記録されたRAWファイルは、図示しないカードリーダを介してハードディスク装置114に取り込むことができる。
【0051】
次に、ハードディスク装置114に取り込んだRAWファイルのRAWデータを、画像処理プログラムに基づいて可視化する画像処理(RAW現像)について説明する。
【0052】
[RAW現像]
図4は本発明に係る画像処理プログラムでの処理内容を示す機能ブロック図である。
【0053】
ハードディスク装置114に取り込んだRAWファイルのうちの所望のRAWファイルのRAW現像の処理を指示すると、RAWファイルのRAWデータ(R、G、B毎に14ビットのビット長を有するデータ)は、主メモリ112に一時記憶される(入力手段、入力工程、入力機能)。
【0054】
主メモリ112に一時記憶されたR,G,Bの14ビットのRAWデータは、画像処理部200のリニア前処理部210にR,G,Bの点順次で加えられる。R,G,BのRAWデータは、リニア前処理部210にてオフセット調整、16ビット化、シェーディング補正といったリニアデータに対する前処理が行われる。
【0055】
リニア前処理部210から出力されたR,G,Bデータは、ホワイトバランス(WB)補正部220に出力される。WB補正部(ホワイトバランス補正手段)220は、R,G,Bデータごとにそれぞれホワイトバランス補正用のゲイン値Rg、Gg、Bgをかけることによりホワイトバランス補正を行う(ホワイトバランス補正工程、ホワイトバランス補正機能)。
【0056】
ここで、ホワイトバランス補正用のゲイン値Rg、Gg、Bgは、RAWデータを解析して、例えば光源種(太陽光、蛍光灯、タングステン電球等)を特定し、その光源種に対応して予め記憶されているゲイン値Rg、Gg、Bgに設定され、あるいはホワイトバランス補正を行うメニュー画面上で手動で選択された光源種や色温度に対応するゲイン値Rg、Gg、Bgに設定される。尚、この実施の形態では、16ビットのR、G、Bデータにゲイン値Rg、Gg、Bgを乗算するため、R、G、Bデータが16ビットよりも大きくなる場合がある。従って、パソコン100では、16ビットよりも大きな32ビットで処理を行うようにしている。
【0057】
WB補正部220から出力されたR、G、Bデータは、画素値補正部230に加えられる。この画素値補正部230は、本発明によって追加された部分であり、白とびしている画素のみを補正対象画素とし、補正対象画素の画素値をその画素値以上の値となるように補正する。尚、この画素値補正部230での処理の詳細については、後述する。
【0058】
画素値補正部230から出力されたR、G、Bデータは、露出補正部240に加えられる。露出補正部240は、手動による露出補正値(例えば、−3EV〜+3EV)の指示入力に応じて通常露出(露出補正をしない場合の露出)に対して露出をアンダーに補正(減感処理)、あるいはオーバーに補正(増感処理)する(露出補正工程)。
【0059】
露出補正部240から出力されたR、G、Bデータは、ガンマ補正部250に出力され、ここで、リニアデータを、sRGB,AdobeRBG,scRGBといった色空間の階調データに変換する。ガンマ補正されたR、G、Bデータは、同時化処理部260に出力される。
【0060】
同時化処理部260は、図2に示したCCD24のCCDカラーフィルタ配列に伴うR、G、Bデータの空間的なズレを補間してR、G、Bデータを同時式に変換する処理を行い、同時化したR、G、BデータをRGB/YC変換部270に出力する。
【0061】
RGB/YC変換部270は、R、G、Bデータを輝度データY,色差データCr,Cbに変換し、輝度データYを輪郭補正部280に出力し、色差データCr,Cbを色調補正部290に出力する。輪郭補正部280は、輝度データYの輪郭部(輝度変化の大きい部分)を強調する処理を行う。
【0062】
色調補正部290は、入力する色差信号Cr,Cbと、2行×2列の色補正マトリクス係数とのマトリクス演算を行い、良好な色再現性を実現させるための色補正を行う。色補正マトリクス係数は、ユーザからの色補正の指示入力に応じて適宜変更される。
【0063】
このようにして輪郭補正された輝度データY、及色調補正された色差データCr,Cbは、画像の保存の指示入力があると、JPEGファイルやTIFFファイルとして保存される。
【0064】
[画素値補正部]
次に、図4に示した画素値補正部230について詳説する。
【0065】
画素値補正部230は、白とび画素検出部232、画素補間部234、及び補間値調整部236とから構成されている。
【0066】
図5は白とび画素検出部232の処理内容を示すフローチャートである。
【0067】
画素検出部232は、WB補正部220から入力するR、G、Bの各画素ごとに、その画素が白とびしているか否かを検出するもので、まず、入力する画素に対して、白とび画素フラグをOFFに設定する(ステップS10)。ここで、白とび画素フラグがOFFに設定された画素は、その画素値の補正は行われず、白とび画素フラグがONに設定された画素のみを補正対象画素とし、その画素値の補正が行われる。
【0068】
続いて、露出補正部240での露出補正値が0よりも小さいか否かを判別し(ステップS12)、露出補正値<0の場合には、ステップS14に進み、露出補正値≧0の場合には、白とび画素フラグをOFFにしたまま、その画素に対する処理を終了する。尚、露出補正値≧0の場合は、増感処理され、白とび部に色が付くことがないため、画素値の補正は行われない。
【0069】
ステップS14では、画素が65535(=216−1)よりも大きいか否かを判別する。ここで、65535は、16ビットのR、G、Bデータの最大値であり、この値を越える画素は、減感処理しなければ、画素値が飽和する画素(白とびする画素)である。
【0070】
そして、画素値>65535となる画素は、白とび画素フラグをONに設定し(ステップS16)、画素値≦65535となる画素は、白とび画素フラグをOFFにしたまま、その画素に対する判断を終了する。
【0071】
上記の処理により、R、G、Bの全ての画素について、白とび画素の有無を検出し、白とび画素として検出された画素には、白とび画素フラグとしてONが設定される(判別工程)。
【0072】
尚、本例では、16ビット長の出力最大値である65535を判断基準値としたが、8ビット長なら255、24ビット長なら1048575となり、そのときの色表現可能な最大値に応じて判断基準値を変更する。
【0073】
図6はホワイトバランス補正を行った結果、白とびした画素の一例を示す図であり、図6(A)はホワイトバランス補正前のある画素のR、G、Bデータを示し、図6(B)はホワイトバランス補正したために前記画素のR、G、Bデータが白とびする様子を示している。
【0074】
図6に示す例では、太陽光に対応するゲイン値Rg、Gg、Bg(Rg>Bg>Gg)によってホワイトバランス補正がされており、図6(A)に示すホワイトバランス補正前のR、G、Bデータは、いずれも画素値が出力最大値(=65535)以下(いずれも白とびをしていない画素)であるが、ホワイトバランス補正によりR、G、Bデータにそれぞれゲイン値Rg、Gg、Bgが乗算された結果、図6(B)に示すように画素値が出力最大値を越える白とび画素となっている。
【0075】
図6(B)に示したR、G、Bデータのうちの点線で囲んだ範囲内のデータが、白とび量であるが、この白とび量は、R、G、Bごとに一律になるとは限らず、図6(B)に示す例では、Rの白とび量が一番大きく、次にBの白とび量が大きく、Gの白とび量が一番小さくなっている。
【0076】
このホワイトバランス補正されたR、G、Bデータを入力する露出補正部240によって、露出をアンダーにする減感処理の段数を徐々に増加させると、R、G、Bの画素値がそれぞれ一定の割合で縮小され、まずGの画素値が出力最大値(=65535)以下になり、次にBの画素値が出力最大値以下になり、最後にRの画素値が出力最大値以下になる。これにより、Rの画素値が出力最大値になった状態では、G、Bの画素値は出力最大値よりも小さくなり、白とび部に色が付く(この場合は、Rの画素値が大きいため、ピンク色になる)という問題がある。
【0077】
[第1の実施の形態]
本発明はこの白とび部の減感処理時に色付きを防止するために、本発明の第1の実施の形態では、白とび画素と判断された画素(白とび画素フラグがONに設定された補正対象画素)の画素値を、補正対象画素の画素値とその周囲の他の色の画素の画素値のうちの最大の画素値になるように補正する(画素値補正工程)。
【0078】
図7(A)は図6(B)に示したホワイトバランス補正後のR、G、Bデータを示し、図7(B)はそのR、G、Bデータを画素値補正部230によって補正した場合に関して示している。
【0079】
図7に示すように補正対象画素がR画素の場合には、その画素値(R’)は補正されず(R’=R”)、補正対象画素がG画素又はB画素の場合には、その画素値(G’、B’)は、その画素の周囲のR画素の画素値(R”)と一致する画素値(G”、B”)に補正する。
【0080】
このように白とび部の画素の画素値を補正することにより、その後、露出補正部240によって減感処理の段数を徐々に増加しても、白とび部に色が付かないようにすることができるとともに、減感補正可能な幅(段数)を増加させることができる。
【0081】
図8(A)はタングステン電球の光源に対応するホワイトバランス補正がされたR、G、Bデータを示し、図8(B)はそのR、G、Bデータを画素値補正部230によって補正した場合に関して示している。
【0082】
タングステン電球の光源に対応するゲイン値Rg、Gg、Bgは、Bg>Gg>Rgの関係にあり、図8(A)に示す例では、ホワイトバランス補正後のR、G、Bの画素値(R’、G’、B’)は、B’>G’>R’となっている。
【0083】
従って、この場合には、図8(B)に示すように補正対象画素がB画素の場合には、その画素値(B’)は補正されず(B’=B”)、補正対象画素がR画素又はG画素の場合には、その画素値(R’、G’)は、その画素の周囲のB画素の画素値(B”)と一致する画素値(R”、G”)に補正する。
【0084】
[第2の実施の形態]
次に、白とび部の減感処理時に色付きを防止する本発明の第2の実施の形態について説明する。
【0085】
<補間最大値決定>
画素値補正部230の画素補間部234(図4)は、以下に示す補間最大値を決定する。
【0086】
図9は補間最大値の決定方法を示すフローチャートである。
【0087】
まず、白とび画素フラグがONの画素(補正対象画素)が、一番色、二番色及び三番色の画素のうちのいずれの画素に該当するかを判別する(ステップS20、ステップS22)。
【0088】
ここで、一番色、二番色及び三番色の画素とは、WB補正部220で使用されたゲイン値Rg、Gg、Bgのうちの一番大きなゲイン値が乗算された色の画素を一番色の画素といい、二番目に大きなゲイン値が乗算された色の画素を二番色の画素といい、三番に大きなゲイン値(最も小さいゲイン値)が乗算された色の画素を三番色の画素という。
【0089】
そして、補正対象画素が一番色の画素の場合には、その画素の画素値に対する補間最大値は、その入力した画素値(入力値)とする(ステップS24)。
【0090】
補正対象画素が二番色の画素の場合には、補正対象画素に隣接する一番色の画素の画素値から参照する画素値を取得する(ステップS26)。
【0091】
図10は図2に示したCCD24の要部を示している。いま、図10(A)に示すように補正対象画素がBの画素であり、これに隣接する他の色(R)の画素を参照画素としてその画素値を求める場合には、B画素の周囲の4つのR画素の画素値の平均値を求め、これを参照する画素値とする。
【0092】
同様に、図10(B)に示すように補正対象画素がGの画素であり、これに隣接する他の色(R,B)の画素を参照画素としてその画素値を求める場合には、G画素の周囲の2つのR画素の画素値の平均値、2つのB画素の画素値の平均値を求め、これらの平均値を参照する画素値とする。
【0093】
次に、ステップS26で求めた参照画素の画素値と、一番色と二番色の画素に対するゲイン値とに基づいて、二番色の画素の補間最大値を算出する(ステップS28)。
【0094】
例えば、一番色(R)の画素値Rを参照して求めた画素値をRave、ホワイトバランス補正時に適用された一番色(R)のゲイン値Rgと二番色(B)のゲイン値Bgとの比率を(Rg/Bg)とすると、二番色のB画素の補間最大値B”は、次式により算出する。
【0095】
[数1]
B”=Rave*(Rg/Bg)
また、補正対象画素が三番色の画素の場合には、補正対象画素に隣接する一番色の画素と二番色の画素の画素値から参照する画素値を取得する(ステップS30)。例えば、三番色がG画素で、一番色がR画素、二番色がB画素の場合には、上記と同様に補正対象画素の周囲の一番色の画素と二番色の画素の画素値からそれぞれ参照する画素値Rave、Baveを求める。
【0096】
次に、ステップS30で求めた一番色及び二番色の参照する画素値と、ホワイトバランス補正時に適用されたゲイン値Rg、Gg、Bgとに基づいて、三番色の画素の補間最大値を算出する(ステップS32)。
【0097】
例えば、一番色(R)の画素値Rを参照して求めた画素値をRave、二番色(B)の画素値Bを参照して求めた画素値をBave、ホワイトバランス補正時に適用された一番色(R)のゲイン値Rgと二番色(B)のゲイン値Bgとの比率を(Rg/Bg)、二番色(B)のゲイン値Bgと三番色(G)のゲイン値Ggとの比率を(Bg/Rg)とすると、三番色のG画素の補間最大値G”は、次式により算出する。
【0098】
[数2]
G”=α*Gtmp1+β*Gtmp2
但し、Gtmp1=Rave*(Rg/Bg)
Gtmp2=Bave*(Bg/Gg)
α+β=1.0
尚、本例では、参照する画素値を、補正対象画素の周囲の同一色の複数の画素の画素値を平均した値としたが、これに限らず、複数の画素の画素値のうちの最大値を参照画素値としてもよい。また、上記のようにして二番色、三番色の補正対象画素に対して求めた補間最大値が、その補正対象画素の画素値以下となる場合には、その補正対象画素は、補正対象画素から除外される。
【0099】
<補間値調整処理>
画素値補正部230の補間値調整部236(図4)は、補正対象画素の画素値、補間最大値等に基づいて以下に示す補間値を算出し、補正対象画素の画素値の代わりにその算出した補間値を露出補正部240に出力する。
【0100】
図11は補間値調整部236での処理方法を示すフローチャートである。
【0101】
まず、補正対象画素の画素値と、その補正対象画素に対して求めた補間最大値(図9)との混合比率を算出する(ステップS40)。
【0102】
図12に示すように補正対象画素の画素値(入力値)をI、出力最大値(境界値)をB、出力最大値に対してホワイトバランス補正を実行したときに得られる値(入力最大値)をWとすると、前記混合比率ExRatioは、次式、
[数3]
ExRatio(0.0〜1.0)={(I−B)/(W−B)}2
により算出する。
【0103】
次に、補正対象画素に対して求めた補間最大値(図9参照)をMとすると、補正対象画素の画素値(入力値I)と、前記[数3]式で求めた混合比率ExRatioとに基づいて、補間値OutValueは、次式により算出する(ステップS42)。
【0104】
[数4]
補間値OutValue=I*(1−ExRatio)+M*ExRatio
上記[数3]式、及び[数4]式からも明らかなように、混合比率ExRatioは、入力値Iが大きいほど(出力最大値Wに近づくほど)1に近づき、補間値OutValueは、補間最大値Mに近づく。
【0105】
このように、補正対象画素の画素値に応じて補間値を調整することにより、減感処理時時に不要な階調とびを避け、自然な発色を得ることができる。
【0106】
図13(A)及び(B)はそれぞれ上記のような補間値による調整しない場合の画像と補間値による調整した場合の画像を示している。
【0107】
図13(A)に示す画像は、白とびした空などの部分のグラデーションに階調とび(段差)が発生するが、図13(B)に示す画像は、グラデーションが微妙に変化する画像になる。
【0108】
尚、補間最大値は、[数1]式及び[数2]式によって求める場合に限らず、例えば、一番色の入力値に一致させるようにしてもよい。また、混合比率ExRatioは、補正対象画素の画素値に応じて補間値が調整可能なものであればよく、[数3]式に示したものに限定されない。
【0109】
[第3の実施の形態]
図14は本発明に係る画像処理方法の第3の実施の形態を示すフローチャートである。
【0110】
現在、WB補正部220(図4)に設定されているゲイン値Rg、Gg、Bgのうちの一番色となる画素のゲイン値MaxGainを取得する(ステップS50)。
【0111】
例えば、太陽光に対応するゲイン値太陽光に対応するゲイン値Rg、Gg、Bg(Rg>Bg>Gg)によってホワイトバランス補正がされている場合には、ゲイン値Ggを、MaxGainにセットする。
【0112】
次に、情報復元可能な最大の露出補正値をMaxEVとすると、露出補正値MaxEVを、前記MaxGainに基づいて次式により算出する(ステップS52、最大の露出補正値を算出する工程)。
【0113】
[数5]
MaxEV=LOG2(1/MaxGain)
そして、前記算出した情報復元可能な最大の露出補正値MaxEVと、現在設定されている露出補正値との関係を、パソコン100のモニタ装置120に視認可能に表示させる(ステップS54、表示手段に表示させる工程)。
【0114】
図15は露出補正をマニュアル設定するときにモニタ装置120に表示される操作画面の一例を示している。
【0115】
図15に示す例では、−3EVまでアンダーに補正(減感処理)できる構成の場合において、±0〜−3EVの長さの棒グラフ140上で、[数5]式で求めた露出補正値MaxEVに基づいて情報復元可能な露出範囲を白色で表示し、露出補正値MaxEVから−3EVまでの範囲をグレー色で表示している。
【0116】
グレー色の範囲内で露出補正値が設定されると、情報は復元されず、白とび部の輝度値がグレー色に変化することを示している。また、0EVよりもプラス方向の範囲での露出補正では、輝度値が増加し情報が復元されることはないので、何も表示していない。
【0117】
一方、現在設定されている露出補正値は、数値(−1.3)で表示されている。尚、棒グラフ140上に目盛りや現在の露出補正値を示す指標を付けると、より情報復元可能な露出範囲と現在の露出補正値との対応関係を分かりやすく表示することができる。
【0118】
操作者は、アップ/ダウンボタン142や、スライドつまみ144を操作することによって、露出補正値を適宜の値にセットすることができるが、このとき上記情報復元可能な露出範囲(棒グラフ140の白色の範囲)を確認しながら操作することができ、操作性が向上する。
【0119】
[第4の実施の形態]
図16は本発明に係る画像処理方法の第4の実施の形態を示すフローチャートである。
【0120】
RAWデータでRAW現像する場合に、ダイナミックレンジ(Dレンジ)をアップして現像するか、通常現像するかを選択できるようにする。
【0121】
ステップS60では、Dレンジをアップする現像が選択されているか否かを判別し、選択されている場合には、ステップS62に遷移し、選択されていない場合にはステップS68に遷移する。
【0122】
ステップS62では、前述した白とび画素の画素値を補間値に補正する処理が行われる。続いて、ステップS64では、情報復元可能な最大の露出補正値MaxEVを求め([数5]式参照)、この露出補正値MaxEVによって減感処理時を行う(露出補正工程)。
【0123】
図17(A)は、ホワイトバランス補正されたRAWデータの情報量と画素値との関係を示している。上記ステップS64での減感処理時により、図17(B)に示すように色再現可能な範囲(出力最大値以内)に、ホワイトバランス補正されたRAWデータの全情報量を入れることができるが、減感処理しているため、暗い画像になっている。
【0124】
ステップS66では、ガンマ補正部250(図4参照)に通常露光時のガンマカーブ(γ1カーブ)とは異なるγ2カーブをセットし、このγ2カーブによるガンマ補正を行わせる(ガンマ補正工程)。
【0125】
γ2カーブは、減感処理されて暗くなっている画像を明るくする階調補正特性を有し、γ2カーブがセットされたガンマ補正部250は、図17(C)に示すように通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する。これにより、Dレンジがアップされ、通常露光では使用されない高輝度部分の情報を復元することができるとともに、適正な明るさの画像を得ることができる。
【0126】
尚、γ2カーブは、最大の露出補正値MaxEVに応じて何種類か準備しておき、最大の露出補正値MaxEVに応じて最適なγ2カードを選択することが好ましい。
【0127】
一方、ステップS60において、Dレンジアップの現像が選択されていない(通常現像が選択されている)と判別されると、通常現像のγ1カーブをガンマ補正部250にセットし、このγ1カーブによるガンマ補正を行わせる(ステップS68)。
【0128】
この場合、図17(A)に示した色再現可能な範囲を越える画素の情報は、白とび部となり、その情報は失われる。
【0129】
尚、この実施の形態では、パソコン100にインストールされた画像処理プログラムにより、RAWファイルのデータをソフトウエアでRAW現像する際の画像処理方法について説明したが、この画像処理方法は、カメラ1のデジタル信号処理部30でRAWファイルのデータをハードウェアでRAW現像する場合にも同様に適用できる。
【符号の説明】
【0130】
1…撮像装置(カメラ)、20…撮像部、30…デジタル信号処理部、100…パソコン、110…中央処理装置(CPU)、112…主メモリ、114…ハードディスク装置、120…モニタ装置、200…画像処理部、220…ホワイトバランス(WB)補正部、230…画素値補正部、232…白とび画素検出部、234…画素補間部、236…補間値調整部、240…露出補正部、250…ガンマ補正部、140…棒グラフ
【特許請求の範囲】
【請求項1】
カラーのデジタル画像を入力する入力工程と、
前記入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正工程と、
前記ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、前記ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正工程と、
前記アンダーになるように露出補正されたデジタル画像に対して、前記アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正工程と、
を含む画像処理方法。
【請求項2】
前記露出補正工程は、前記ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値に基づいて前記ホワイトバランスが補正されたデジタル画像の情報復元可能な最大の露出補正値を算出する工程を含み、この最大の露出補正値に応じて前記ホワイトバランスが補正されたデジタル画像を露出補正する請求項1に記載の画像処理方法。
【請求項3】
前記最大の露出補正値を算出する工程は、前記ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値を、MaxGainとすると、情報復元可能な最大の露出補正値MaxEVを、次式、
MaxEV=LOG2(1/MaxGain)
によって算出する請求項2に記載の画像処理方法。
【請求項4】
前記ホワイトバランスが補正されたデジタル画像の各画素のうち前記露出補正によってアンダー露出になるように補正しなければ出力する画素値が飽和する画素を判別する判別工程と、
前記判別された飽和する画素のみを補正対象画素とし、該補正対象画素の画素値をその画素値以上の値となるように補正する画素値補正工程と、
を有する請求項1から3のいずれかに記載の画像処理方法。
【請求項5】
前記画素値補正工程は、前記補正対象画素の画素値を、その画素値と該補正対象画素の周囲の異なる色の画素の画素値のうちの最大の画素値に補正する請求項4に記載の画像処理方法。
【請求項6】
前記画素値補正工程は、前記補正対象画素の画素値に対して該画素値以上の補間最大値を求める工程と、前記補正対象画素の画素値と前記補間最大値とを補間処理して補間値を計算する補間処理工程とを含み、前記補正対象画素の画素値を前記計算した補間値に補正する請求項4に記載の画像処理方法。
【請求項7】
カラーのデジタル画像を入力する入力手段と、
前記入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正手段と、
前記ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、前記ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正手段と、
前記アンダーになるように露出補正されたデジタル画像に対して、前記アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正手段と、
を備えたことを特徴とする画像処理装置。
【請求項8】
被写体を撮像してカラーのデジタル画像を示すRAWデータを取得する撮像手段と、
少なくとも前記RAWデータを記録媒体に記録する機能を有する記録手段と、
請求項7に記載の画像処理装置と、を備え、
前記入力手段は、前記撮像手段が取得したRAWデータを示すデジタル画像、又は前記記録媒体から読み出したRAWデータを示すデジタル画像を入力する撮像装置。
【請求項9】
カラーのデジタル画像を入力する入力工機能と、
前記入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正機能と、
前記ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、前記ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正機能と、
前記アンダーになるように露出補正されたデジタル画像に対して、前記アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正機能と、
をコンピュータに実現させることを特徴とする画像処理プログラム。
【請求項1】
カラーのデジタル画像を入力する入力工程と、
前記入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正工程と、
前記ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、前記ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正工程と、
前記アンダーになるように露出補正されたデジタル画像に対して、前記アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正工程と、
を含む画像処理方法。
【請求項2】
前記露出補正工程は、前記ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値に基づいて前記ホワイトバランスが補正されたデジタル画像の情報復元可能な最大の露出補正値を算出する工程を含み、この最大の露出補正値に応じて前記ホワイトバランスが補正されたデジタル画像を露出補正する請求項1に記載の画像処理方法。
【請求項3】
前記最大の露出補正値を算出する工程は、前記ホワイトバランス補正に使用したR、G、Bのゲイン値のうちの最大値を、MaxGainとすると、情報復元可能な最大の露出補正値MaxEVを、次式、
MaxEV=LOG2(1/MaxGain)
によって算出する請求項2に記載の画像処理方法。
【請求項4】
前記ホワイトバランスが補正されたデジタル画像の各画素のうち前記露出補正によってアンダー露出になるように補正しなければ出力する画素値が飽和する画素を判別する判別工程と、
前記判別された飽和する画素のみを補正対象画素とし、該補正対象画素の画素値をその画素値以上の値となるように補正する画素値補正工程と、
を有する請求項1から3のいずれかに記載の画像処理方法。
【請求項5】
前記画素値補正工程は、前記補正対象画素の画素値を、その画素値と該補正対象画素の周囲の異なる色の画素の画素値のうちの最大の画素値に補正する請求項4に記載の画像処理方法。
【請求項6】
前記画素値補正工程は、前記補正対象画素の画素値に対して該画素値以上の補間最大値を求める工程と、前記補正対象画素の画素値と前記補間最大値とを補間処理して補間値を計算する補間処理工程とを含み、前記補正対象画素の画素値を前記計算した補間値に補正する請求項4に記載の画像処理方法。
【請求項7】
カラーのデジタル画像を入力する入力手段と、
前記入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正手段と、
前記ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、前記ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正手段と、
前記アンダーになるように露出補正されたデジタル画像に対して、前記アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正手段と、
を備えたことを特徴とする画像処理装置。
【請求項8】
被写体を撮像してカラーのデジタル画像を示すRAWデータを取得する撮像手段と、
少なくとも前記RAWデータを記録媒体に記録する機能を有する記録手段と、
請求項7に記載の画像処理装置と、を備え、
前記入力手段は、前記撮像手段が取得したRAWデータを示すデジタル画像、又は前記記録媒体から読み出したRAWデータを示すデジタル画像を入力する撮像装置。
【請求項9】
カラーのデジタル画像を入力する入力工機能と、
前記入力したデジタル画像のホワイトバランスを補正するホワイトバランス補正機能と、
前記ホワイトバランスが補正されたデジタル画像を露出補正する工程であって、前記ホワイトバランスが補正されたデジタル画像が飽和しないようにアンダーに露出補正する露出補正機能と、
前記アンダーになるように露出補正されたデジタル画像に対して、前記アンダーになるように露出補正されていないデジタル画像に対する通常のガンマ補正よりも中間調が大きくなるように階調補正するとともに、高輝度部分を圧縮するように階調補正する広ダイナミックレンジ用のガンマ補正を行うガンマ補正機能と、
をコンピュータに実現させることを特徴とする画像処理プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2012−85360(P2012−85360A)
【公開日】平成24年4月26日(2012.4.26)
【国際特許分類】
【出願番号】特願2012−7330(P2012−7330)
【出願日】平成24年1月17日(2012.1.17)
【分割の表示】特願2007−9556(P2007−9556)の分割
【原出願日】平成19年1月18日(2007.1.18)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成24年4月26日(2012.4.26)
【国際特許分類】
【出願日】平成24年1月17日(2012.1.17)
【分割の表示】特願2007−9556(P2007−9556)の分割
【原出願日】平成19年1月18日(2007.1.18)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]