画像処理装置
【課題】水中撮影時に精度の高い色復元処理を簡易な手法で実現する。
【解決手段】画像処理装置は、イメージセンサ1と、A/D変換器2と、OB(Optical Black)減算器3と、デモザイク処理部4と、ホワイトバランスゲイン乗算器5と、水中光路長算出部6と、色復元マトリックス生成部7と、色復元マトリックス乗算器8と、水陸切換器9と、マトリックス乗算器10と、ガンマ処理部11と、映像記録部12とを備える。水中撮影時に、水中光路長またはホワイトバランスゲインに応じた色復元マトリックスを生成し、生成した色復元マトリックス、色空間変換マトリックスおよびホワイトバランスゲインを用いてピクセル値を算出するため、陸上同様に青みの少ない自然な画像が得られる。
【解決手段】画像処理装置は、イメージセンサ1と、A/D変換器2と、OB(Optical Black)減算器3と、デモザイク処理部4と、ホワイトバランスゲイン乗算器5と、水中光路長算出部6と、色復元マトリックス生成部7と、色復元マトリックス乗算器8と、水陸切換器9と、マトリックス乗算器10と、ガンマ処理部11と、映像記録部12とを備える。水中撮影時に、水中光路長またはホワイトバランスゲインに応じた色復元マトリックスを生成し、生成した色復元マトリックス、色空間変換マトリックスおよびホワイトバランスゲインを用いてピクセル値を算出するため、陸上同様に青みの少ない自然な画像が得られる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ホワイトバランスを調整可能な画像処理装置に関し、特に水中撮影に適したホワイトバランス調整と水中特有の色の消失を復元する技術に関する。
【背景技術】
【0002】
近年のデジタルカメラや家庭用小型ビデオカメラの普及に伴って、スノーケリングやスクーバダイビングの際に、水中にカメラを持ち込んで、水中撮影を楽しむ人が増えてきた。
【0003】
しかしながら、水中で撮影を行うと、そのままでは青みの強い不自然な色合いの画像が得られる。その理由は、水中に降り注ぐ自然光は、水深に応じて色温度が高くなるためである。
【0004】
例えば、5m程度の水深でも、水中を通過した自然光は、色温度が10000K(ケルビン)にも達する。また、被写体とカメラの間の距離が長い場合、水中を通過する距離も長くなるため、撮影画像はより青みが強くなる。
【0005】
このような青みの強い撮影画像は、水中での撮影だけでなく、水面付近から水中を撮影するスノーケリングを行う際にも問題となる。例えば、3m程度の水深の魚や珊瑚等を水面付近から撮影する場合、太陽光は3mの水中を通過して被写体で反射し、さらに3mの水中を通過してカメラに入射することになり、往復で6mの水中を通過することになるためである。
【0006】
一方、人間は、光に対する順応能力が高く、目が慣れてしまうため、撮影画像と目視との色合いのギャップが大きくなる。
【0007】
現在市販されているデジタルカメラやビデオカメラは、水中のような特殊な光源下での撮影を前提としていないため、水中撮影時にはオートホワイトバランスも正常に機能しない。このため、撮影者は、オレンジやマゼンダ系の光学フィルタをレンズに装着して撮影を行い、正常なホワイトバランスを得ようとしている。ところが、フィルタは、水中での交換が容易ではなく、水深によって刻々と変わる水中光には対応できない。
【0008】
高級カメラの一部には、マニュアルでホワイトバランスを調整できるものがある(特許文献1参照)。このようなカメラを用いれば、調整の手間はかかるものの、正常なホワイトバランスを得ることができる。あるいは、カメラ側の機能としてホワイトバランスを調整できない場合でも、撮影後にフォトレタッチソフトやRAW現像ソフト、ビデオ編集装置(ソフト)などを用いてホワイトバランスを調整することも可能である。
【特許文献1】特開2006-157316号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
ホワイトバランスの調整によって、無彩色の被写体の画像を無彩色に調整することはできるが、これだけでは正常な色再現は望めない。なせならば、水中に降り注ぐ光のスペクトルは、地上とは大きく異なり、演色性が極端に低いためである。これは、長波長の光が減少するために起きる現象で、ダイバーの間では「水中での色の消失」と呼ばれて理解されている。つまり、正常なホワイトバランスを得た場合でも、色が薄くなったり(彩度が低下したり)、赤系統の色が暗くなったり(明度が低下したり)、色相が変化してしまう。
【0010】
このため、水中にビデオライトやストロボなどの光源を持ち込む撮影者もいるが、光源を水中に持ち込むことには数多くのデメリットが存在する。
【0011】
まずは、撮影機材の大きさや重量が増して、水中での行動が制限されたり、不自由になる可能性がある。また、方向性の強い光を照射するため、影が強く現れる。さらに、画角の広い撮影を行う場合、通常は広角レンズを用いるが、このような場合、光源の光を広範囲に照射し、かつ被写体距離も長く設定するため、光源から被写体、そして被写体からカメラまでの距離が長くなり、やはり色の変化が生じてしまう。より具体的には、光源に近い場所と遠い場所とで輝度差が大きくなり、広い範囲で適正露出を得ることが困難になる。また、光源としてストロボを用いると、充電に時間がかかるため、撮影間隔が長くなるという問題もある。
【0012】
以上の理由により、光源を持ち込んでの水中撮影は、撮影距離の短いマクロ撮影に限定されるのが実情である。
【0013】
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、水中撮影時に精度の高い色復元処理を簡易な手法で実現可能な画像処理装置を提供することにある。
【課題を解決するための手段】
【0014】
本発明の一態様によれば、被写体光の水中光路長を算出する水中光路長算出手段と、算出された水中光路長に基づいて色復元情報を生成する色復元情報生成手段と、前記色復元情報とホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するピクセル値補正手段と、を備えることを特徴とする画像処理装置が提供される。
【0015】
また、本発明の一態様によれば、被写体光の水中光路長を算出する水中光路長算出手段と、算出された水中光路長に基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、前記色復元マトリックスとホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置が提供される。
【0016】
また、本発明の一態様によれば、水中撮影時の被写体周辺のホワイトバランスゲインを設定するホワイトバランス設定手段と、設定された前記ホワイトバランスゲインに基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、前記色復元マトリックスと前記ホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置が提供される。
【発明の効果】
【0017】
本発明によれば、水中撮影時に精度の高い色復元処理を簡易な手法で行うことができる。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照しながら、本発明の一実施形態について説明する。
【0019】
(第1の実施形態)
図1は本発明の第1の実施形態に係る画像処理装置の概略構成を示すブロック図である。この画像処理装置は、例えばデジタルカメラに内蔵される。
【0020】
図1の画像処理装置は、イメージセンサ1と、A/D変換器2と、OB(Optical Black)減算器3と、デモザイク処理部4と、ホワイトバランスゲイン乗算器5と、水中光路長算出部6と、色復元マトリックス生成部7と、色復元マトリックス乗算器8と、水陸切換器9と、マトリックス乗算器10と、ガンマ処理部11と、映像記録部12とを備えている。
【0021】
イメージセンサ1で撮像された撮像信号は、A/D変換器2でデジタルのピクセル値に変換される。デモザイク処理部4は、各画素にすべての色情報を持たせる処理を行う。このデモザイク処理が必要になる理由は、一般的なイメージセンサ1の画素配列はG画素を他の色画素よりも多く配置したベイヤー配列になっているためであり、デモザイク処理部4では、色補間処理を行って、各画素にRGBの色情報を持たせる処理を行う。
【0022】
ホワイトバランスゲイン乗算器5は、所定の手法により設定したホワイトバランスゲインを用いて、デモザイク処理後のピクセル値に対してホワイトバランス調整を行う。ホワイトバランスゲインの設定方法については後述する。
【0023】
水中光路長算出部6は、水面に降り注いだ光がイメージセンサ1に到達するまでの光路長(以下、水中光路長)を算出する。この算出方法についても後述する。
【0024】
色復元マトリックス生成部7は、水中光路長算出部6で算出された水中光路長に基づいて、水中で失われた色を復元するための色復元マトリックスを生成する。
【0025】
色復元マトリックス乗算器8は、ホワイトバランスゲイン乗算器5で乗算した結果に、色復元マトリックスを乗じる処理を行う。
【0026】
水陸切換器9は、水中と陸上のどちらで撮影を行うのかを切り替える。マトリックス乗算器10は、色復元マトリックス乗算器8の乗算結果に色空間変換マトリックスを乗じる処理を行う。
【0027】
ガンマ処理部11は、マトリックス乗算器10の乗算結果に対してガンマ補正を行う。ガンマ補正後のピクセル値は、JPEG等の形式にて映像記録部12に記録される。
【0028】
図1に破線で示す水中光路長算出部6、色復元マトリックス生成部7、色復元マトリックス乗算器8および水中切換器9が本実施形態の主要部である。すなわち、本実施形態は、従来のデジタルカメラの構成に、図1の破線部の構成を追加することで実現可能である。
【0029】
図2は図1の主要部であるホワイトバランスゲインの乗算後のピクセル値からマトリックスの乗算結果を得るまでの処理手順を詳細に示すフローチャートである。まず、ホワイトバランスゲインを設定する(ステップS1)。ここで、ホワイトバランスゲインとは、イメージセンサ1がRGBの原色を扱う場合には、イメージセンサ1のRGB値に対するRとBのゲインを指す。
【0030】
ホワイトバランスゲインの設定方法には複数通りが考えられる。以下、ホワイトバランスを設定するための第1〜第5の方法について説明する。なお、下記以外の方法でホワイトバランスを設定してもよい。
【0031】
第1の方法は、無彩色のグレーの色見本を水中で撮影して得られる映像により、ホワイトバランスを設定するものである。より具体的には、水中の目的とする撮影場所付近でグレーの色見本を予め撮影しておき、後にソフトウェアにより、その色見本の映像がグレーになるようにホワイトバランスを調整し、その調整により得られたホワイトバランスゲインを他の映像にも適用する。これにより、かなり正確なホワイトバランスを得ることができる。
【0032】
ところが、ただでさえ行動が制限される水中に、グレーの色見本を持ち込んで撮影を行うのは撮影者にとって大変な手間になる。そこで、例えば図3に示すように、ダイビング用のフィン14にグレーのシール15を貼り付けておき、本来の撮影を行う際にそのシール15も撮影しておく。
【0033】
水中では、浮力が働いて、体を比較的自由に動かせるため、フィンのシール15もそれほど無理なく撮影可能であり、撮影者はグレーの色見本を携帯する必要がなくなる。
【0034】
撮影者の手間を省くさらなる方法として、図4に示すようにシール15の脇に例えばバーコード状のパターンを貼り付けておき、シール15の撮影の際にバーコード15aのパターンも合わせて撮影し、カメラ内部で撮影された映像からバーコード15aの位置を検出し、それらの中心にあるシール15をグレーにバランスするゲインを算出することで、自動的にホワイトバランスゲインを設定し、その設定前後に撮影した他の映像に対して、設定したホワイトバランスゲインを適用することが考えられる。これにより、後に、撮影者自身でホワイトバランスの調整を行わなくて済み、手間が省けて使い勝手がよくなる。もちろん、カメラに組み込む以外に、撮影後に行う画像処理ソフトウェアにおいても同様に、バーコード15aの位置を検出し、シール15をグレーにバランスするホワイトバランスゲインを算出するように構成すれば、利便性を上げることができる。
【0035】
シール15は、図3のようなグレー単色のもの以外に、図4に示すように、色々な色パターンを含んでいてもよい。
【0036】
第2の方法は、ホワイトバランスを測定可能な環境光センサをカメラに取り付けるものである。この方法では、環境光センサにより、カメラ周辺の水中光を直接測定してホワイトバランスゲインを設定する。このため、このままでは、被写体とカメラの間の光路長を加味してホワイトバランスを測定することはできない。そこで、例えば、カメラにより被写体までの距離を検出し、検出された距離によりホワイトバランスの調整を行うことで、ホワイトバランスの精度向上が図れる。
【0037】
第3の方法は、いわゆるオートバランスである。この方法は、本実施形態による画像処理装置をカメラに適用する場合と撮影後に行う画像処理ソフトウェアに適用する場合のいずれにおいても有効である。
【0038】
先に本発明者が出願した発明(特開2007-13415号公報)を用いれば、物体に降り注ぐ光源色をかなり正確に特定できる。実際に、多くの水中映像において良好な結果を得ており、最も期待される方法の一つである。
【0039】
ただし、陸上と水中の両方の映像を処理できるようにする場合、誤判定を防止するために、映像処理前に水中か陸上の切替を行うのが望ましい。陸上では、水中のような青い光源はまずありえないし、仮にあったとしても青を白くバランスせずにその場の雰囲気を残すために、青く再現する方が望ましい場合があり、水中と陸上ではホワイトバランスの算出方法や、検出したホワイトバランスゲイン値を人間の色順応に合わせて制限する際のリミットを変える必要があるためである。
【0040】
陸上と水中の切替をカメラに設ける場合には、切替スイッチを設けてもよいし、メニュー画面で切替ができるようにしてもよい。切替スイッチを設けたカメラを水中ハウジングに収納して水中撮影を行う場合には、例えば図5および図6に示すように、カメラには水中切り替えスイッチ16を設けておき、水中ハウジングには、その切り替えスイッチが押下されるような突起17を設けておくのが望ましい。図5は水中ハウジングを展開した状態を示しており、突起17は、ハウジングの内部が出っ張っている。図6は、水中ハウジングにカメラを収納して閉じた状態を示している。ハウジングの突起17に押されて、カメラの水中切り替えスイッチ16が押下される。
【0041】
第4の方法は、ユーザがホワイトバランスを設定するものである。この場合、ユーザは、カメラのスイッチやメニュー画面により、あるいはソフトウェアのユーザーインタフェースにより、ホワイトバランスを設定する。多くのカメラでは、光源の種類(電球、蛍光灯、晴れ、曇り、日陰等)を指定したり、色温度を指定することにより、ホワイトバランスの設定が可能であるが、これらの指定は水中では役に立たない。水中では、色度座標が黒体放射線(や昼光線)から大きくずれる上に、水中経路長によって色度座標が広い範囲に分布するため、「水中」というプリセットを用意しても正常なホワイトバランス調整は行えない可能性が高い。
【0042】
そこで、水中経路長をパラメータとして与えて、ユーザがホワイトバランスを設定できるようにすると便利である。多くのカメラやRAW現像処理ソフトウェアが搭載している色温度の指定に倣って、水中光路長を指定すれば、その光路長によって決まる水中透過光の色度座標についてホワイトバランスの設定を行うような設計が可能となる。
【0043】
第5の方法は、カメラやカメラを収納する水中ハウジングに水深計を取り付けて、水深計で測定した水深をカメラに伝達する配線を設けるものである。カメラでは、水深を例えば1〜1.5倍した値を水中光路長としてホワイトバランスを設定する。なぜならば、太陽高度が高く水面に対して直角に太陽光が降り注ぐ赤道付近の晴れの日は、水深と水中光路長は、ほぼ一致するが、くもりの日や太陽高度が低い地域では、水面から斜めに光が降り注ぐために、水中光路長は、実際の水深よりも大きくなる傾向があるからである。冬にスポーツダイバーがダイビングを行えるほぼ北限の関東地方周辺では、実際の水深と水中光路長は1.5倍ほど異なることもある。このため、1〜1.5倍する必要がある。この倍率の設定をカメラのメニューによって行わせても良いし、緯度を入力させて、カメラ内部の時計から季節を算出し、その結果から自動的に設定するようにしても良い。
【0044】
この第5の方法は、正確なホワイトバランスを設定できない上に、機構が複雑でコストがかかるため、実用性はあまりないかもしれない。ただし、映像の付属情報として水深データを記録することが可能であり、事後的に水深データを活用できるという利点がある。例えば、静止画像の付属情報を記録したEXIF情報には、規格上、水深を記録するタグが現時点では定義されていないが、メーカーが独自の情報を記録するメーカーノートタグ(MakerNote Tag)等に水深データを記録しておけば、事後的に、各画像が水深何mで撮影されたものかを正確に特定でき、非常に便利である。したがって、将来的には、EXIF情報の一部として水深データを記録できるような規格変更も考えられる。
【0045】
以上に説明した第1〜第5の方法のいずれかにより、ホワイトバランスゲインが設定されると、次に、水陸切換器9は、水中と陸上のどちらで撮影を行うのかを選択する(図2のステップS2)。上述したように、水陸切換器9は、例えばカメラに設けられる専用のスイッチで実現してもよいし、カメラのメニュー画面によるソフト的な選択で実現してもよい。
【0046】
ステップS2で水中撮影が選択された場合、水中光路長算出部6により水中光路長を算出する(ステップS3)。以下に、水中光路長算出部6の処理内容を詳述する。
【0047】
ここで、カメラがRGBの3色のイメージセンサ1を有するものとする。イメージセンサーの色特性を示すために、CIE(国際照明委員会)の標準的な色表現方法であるCIE1931XYZから、カメラが撮像する3つの色コンポーネント(これは通常RGBの3色である)に変換するためのカラーマトリックスをCとする。この場合、Cは、3×3マトリックスであり、カメラのカラーフィルタやイメージセンサ1、ローパスフィルタ等の特性によって決まる。
【0048】
なお、CIE1931XYZは、RGBの代わりに、XYZの3値を用いて実在色のすべてを表記可能な色の表現方法である。
【0049】
ここで、ある光源色をCIE1931XYZで標記した場合の値を(WP_X,WP_Y,WP_Z)とすると、以下の(1)式の右辺におけるC*(WP_X,WP_Y,WP_Z)は、そのカメラでの線形RAW値(OB減算処理後の値)になる。
【0050】
ホワイトバランスゲインWBR,WBBは、光源色がグレーになるように設定するものであり、C*(WP_X,WP_Y,WP_Z)のR成分をWBRで、G成分を1で、B成分をWBBでそれぞれ重み付けすると、グレー色に調整される。この重み付けを、(1)式の右辺では3×3マトリックスで表現している。
【数1】
【0051】
グレー色に調整するということは、やはりCIEのD65を撮影した場合の線形RAW値と一致することになり、(1)式の右辺は、左辺のC*D65標準光源のXYZ値と一致することになる。
【0052】
ところで、D65は、CIEが定めた標準光源の一つであり、地上に降り注ぐ光の平均値である。D65は、現在、白点として最も広く使用されており、デジタルカメラの標準的な色空間であるsRGBやアドビ(登録商標)RGBも白点をD65と定めている。なお、他の光源を標準光源として用いてもよい。理想的には、所定の色温度を持つ完全放射体または地上に降り注ぐ光の平均値から算出された昼光を標準光源として用いるのが望ましい。
【0053】
sRGBやアドビRGBで、R=G=Bのとき、例えばRGB=(118,118,118)のとき、この値は無彩色であり、正常に校正されたモニタではD65として表示される。
【0054】
上述した(1)式により、(WP_X,WP_Y,WP_Z)を算出することができる。ところが、XYZの3軸による表記では、光の強さを含んでしまう。光の強さは色とは無関係であり、色だけを表記する場合には、X+Y+Z=1となる面(等エネルギー面)で色を表記したものがCIE1931xy座標である。
【0055】
ここでは、光源の強さではなく、その色(色度座標)のみを問題にしているため、光源色をXYZの3軸ではなく、等エネルギー面の2軸(xy)で表記した色度座標wp_xy=(WP_X/(WP_X+WP_Y+WP_Z),WP_Y/(WP_X+WP_Y+WP_Z))を計算する。この色度座標wp_xyが光源色に相当する。
【0056】
上記の手順で光源色が算出されると、次に以下の手順で水中光路長を算出する。図7は水中透過光のCIE1931xy色座標を示す図である。図7の逆U字状曲線cb1は、単色光の色座標曲線であり、この逆U字状曲線の内部に実際の色が存在する。図7の曲線cb2は黒体放射の色座標曲線である。
【0057】
この曲線cb2は、物体の温度を上げたときに発光する光をプロットしており、図7の左側が温度が高く、右側が温度が低い。図7において、5000Kと表示している場所が5000度のときの色座標である。また、地上に降り注ぐ昼光も、ほぼこの黒体放射線に近似しており、晴れの日の昼に地上に降り注ぐ光の色座標は、約5000K程度である。
【0058】
図7の曲線cb3は、水面に5000Kの光が降り注いでいる場合に、水中光路長によって水中光の色座標が変化する様子を示している。すなわち、曲線cb3は、水中光路長ごとの色座標曲線である。
【0059】
上述した(1)式により計算された光源色wp_xyを図7にプロットし、そのプロット位置から曲線cb3に向けて垂線を下ろして、曲線cb3と交わった位置により、水中光路長を求めることができる。
【0060】
上記の手法により水中光路長を算出できることは、本発明者が種々の実験により見出したものである。
【0061】
上記の手法で図2のステップS3にて水中光路長が算出されると、次に、色復元マトリックス生成部7により、色復元マトリックスの生成を行う(ステップS4)。ここでは、水中光路長に応じた色復元マトリックスを選択できるように、予めテーブルを用意しておく。
【0062】
図8はテーブルの一例を示す図である。図8のテーブルには、テーブル番号と、水中光路長と、3×3マトリックスとが対応づけて記憶されている。このテーブルは、例えば、基準チャートを水中に持ち込んで、水深ごとに撮影を行って画像サンプルを取得し、カラーマッチングを行って3×3マトリックスを生成する。また、各画像に対応したホワイトバランスにより、上述した(1)式を用いて水中光路長を計算し、得られた結果を基に、図8のテーブルを予め生成しておく。
【0063】
図2のステップS4では、ステップS3で算出された水中光路長に応じた3×3マトリックスを図8のテーブルから抽出し、抽出したものを色復元マトリックスとして利用する。
【0064】
図8のテーブルには、水中光路長が100cm刻みでしか登録されていないが、もっと細かい単位で3×3マトリックスを用意しておいてもよいし、あるいは、図8のステップS3で計算された水中光路長が図8のテーブルに登録された水中光路長の中間の値の場合には、線形補間等の補間処理を行うことにより、新たな3×3マトリックスを生成してもよい。
【0065】
上述した説明では、算出した水中光路長をパラメータとして色復元マトリックスを選択する例を示したが、水中光路長算出部6と色復元マトリックス生成部7の処理を一つにまとめて、水中光路長を算出することなく、色復元マトリックスを生成してもよい。この場合は、ホワイトバランスゲインと色復元マトリックスとを対応づけたテーブルを用意しておき、ホワイトバランスゲインをパラメータとして、対応する色復元マトリックスを抽出する。
【0066】
図9はこの種のテーブルの一例を示す図である。図9のテーブルには、ホワイトバランスゲインGainR,GainBと3×3マトリックスとが対応づけて登録されている。このテーブルは、例えば基準チャートを水中に持ち込んで、水深ごとに撮影して画像サンプルを取得し、カラーマッチングを行った結果の3×3マトリックスと、そのときのホワイトバランスゲインとを対応づけて作成される。
【0067】
図9のテーブルを用いて最終的な色復元マトリックスを得るには、例えば図10の処理を行う。まず、3×3の色復元マトリックスの各要素Matrix[j](j=0〜9)をゼロに初期化する(ステップS11)。次に、マトリックスの種類を表す変数iをゼロに初期化する(ステップS12)。i=0であれば、図9の一番上の段のホワイトバランスゲインとマトリックスが選択され、i=3であれば、一番下の段のホワイトバランスゲインとマトリックスが選択される。
【0068】
次に、ホワイトバランスゲインWBR,WBBの逆数と、3×3マトリックスの値とGainRまたはGainBとの積の逆数との差分dR,dBを算出する(ステップS13)。
【0069】
次に、差分dRまたはdBがゼロか否かを判定し(ステップS14)、ゼロでなければ、dRとdBから重みFact[i]を算出する(ステップS15)。一方、ステップS14の判定がNOの場合には、WBR,WBBがテーブルに記録されているゲイン値と一致していることを示すので、重みFact[i]を非常に大きな固定値(1.0E+99)に設定する(ステップS16)。
【0070】
ステップS15,S16の処理が終わると、次に、色復元マトリックスの各要素Matrix[j]=Matrix[j]+Fact[i]*Table[i].Matrix[j]を算出する(ステップS17)。次に、重みの総計値FactSum=FactSum+Fact[i]を算出する(ステップS18)。
【0071】
次に、図9のテーブルの最後の段まで処理を行ったか否かを判定し(ステップS19)、処理を行うべきマトリックスがまだ残っていれば、変数iをインクリメントして(ステップS20)、ステップS13以降の処理を繰り返す。
【0072】
すべての行の処理が終わった場合には、3×3マトリックスの各要素を重みFact[i]で加重平均した値を要素とする色復元マトリックスを生成する(ステップS21)。
【0073】
上述した処理手順にて、図8または図9のテーブルを用いて色復元マトリックスが生成されると、次に、色復元マトリックス乗算器8は、ホワイトバランスゲイン乗算器5の乗算結果と、生成した色復元マトリックスとを乗じる処理を行う(図2のステップS5)。
【0074】
図2のステップS3〜S5の処理は、水中撮影を行う場合のみ行われる。ステップS5の処理が終わると、水中撮影と陸上撮影のどちらを行う場合も、マトリックス乗算器10によるマトリックス乗算処理を行う(ステップS6)。この処理では、イメージセンサ1で撮像したRGB値をsRGBなどの色空間に変換するための色空間変換マトリックスを用いて乗算処理を行って、ピクセル値を算出する。
【0075】
例えば、水中撮影を行う場合のステップS6で得られるピクセル値は、以下の(2)式で表される。
マトリックス乗算後のピクセル値=色空間変換マトリックス×(色復元マトリックス×ホワイトバランスゲイン乗算器5の乗算結果) …(2)
【0076】
一方、陸上撮影を行う場合のステップS6で得られるピクセル値は、以下の(3)式で表される。
マトリックス乗算後のピクセル値=色空間変換マトリックス×ホワイトバランスゲイン乗算器5の乗算結果 …(3)
【0077】
図2のステップS6の処理により得られたピクセル値は、図1に示すように、ガンマ処理部11によりガンマ補正された後に映像記録部12に記録される。
【0078】
このように、第1の実施形態では、水中撮影時に、水中光路長またはホワイトバランスゲインに応じた色復元マトリックスを生成し、生成した色復元マトリックス、色空間変換マトリックスおよびホワイトバランスゲインを用いてピクセル値を算出するため、陸上同様に青みの少ない自然な画像が得られる。
【0079】
本実施形態では、水深や水中光路長がわかれば比較的簡易な処理で正確な色復元処理を行えるため、カメラに組み込むことも容易で、また撮影後に画像処理ソフトウェアにて実現することも容易に行える。
【0080】
また、水深がわからなくても、水中で色見本を撮影した結果を利用してホワイトバランスゲインを取得することによっても、正確な色復元処理を行える。
【0081】
このように、本実施形態によれば、水中撮影時の色復元処理を自動化することができ、撮影者の手間を煩わすことなく、水中の被写体の本来の色を復元することができる。
【0082】
(第2の実施形態)
第1の実施形態では、水中撮影時のピクセル値を計算するために、上述した(2)式による演算処理を行った。行列演算には、結合法則が成立するため、この(2)式は、以下の(4)式と同じである。
マトリックス乗算後のピクセル値=(色空間変換マトリックス×色復元マトリックス)×ホワイトバランスゲイン乗算器5の乗算結果 …(4)
【0083】
この(4)式では、あらかじめ、色空間変換マトリックスと色復元マトリックスの乗算処理(以下、マトリックス合成処理)を行った後に、マトリックス合成処理により得られたマトリックスとホワイトバランスゲイン乗算器5の乗算結果のピクセル値との乗算処理を行う。以下に説明する第2の実施形態は、上記の(4)式に基づいてピクセル値を算出するものである。
【0084】
図11は本発明の第2の実施形態による画像処理装置の概略構成を示すブロック図である。図11では、図1と共通する構成部分には同一符号を付しており、以下では相違点を中心に説明する。
【0085】
図11の画像処理装置は、図1になかったものとして、マトリックス合成部21を備えている。このマトリックス合成部21は、色復元マトリックス生成部7で生成された色復元マトリックスと色空間変換マトリックスとを乗算する。
【0086】
また、図11のマトリックス乗算器10は、マトリックス合成部21の乗算結果とホワイトバランスゲイン乗算器5で乗算されたピクセル値とを乗算して、最終的なピクセル値を算出する。
【0087】
図11に破線で示す水中光路長算出部6、色復元マトリックス生成部7、マトリックス合成部21および水中切換器9が本実施形態の主要部である。
【0088】
この第2の実施形態においても、演算順序が異なるだけで、演算処理の内容自体は第1の実施形態と同様であるため、第1の実施形態と同様に、水中撮影時の高精度の色復元処理が可能となる。
【0089】
(第3の実施形態)
第1および第2の実施形態では、ホワイトバランスゲイン乗算器5とマトリックス乗算器10を別個に設けたが、これらの乗算器を一つにまとめることも可能である。
【0090】
ピクセル値を3次のベクトル(例えばR値、G値、B値)で表し、マトリックスを3×3とすると、ホワイトバランスゲイン乗算器5は、以下の(5)式に示すマトリックスを演算することに等しい。
【数2】
【0091】
したがって、ホワイトバランスゲイン乗算器5とマトリックス乗算器10を一つにまとめて、演算結果を一つのマトリックスで表現することができる。
【0092】
上述した第2の実施形態では、(4)式に基づいてマトリックス乗算後のピクセル値を算出する旨を説明したが、(4)式は以下の(6)式のようにも書き直せる。
マトリックス乗算後のピクセル値=(色空間変換マトリックス×色復元マトリックス)×(ホワイトバランスマトリックス×デモザイク処理後のピクセル値) …(6)
【0093】
行列演算には、結合法則が成立するため、この(6)式は、(7)式のように書き直すことも可能である。
マトリックス乗算後のピクセル値=(色空間変換マトリックス×色復元マトリックス×ホワイトバランスマトリックス)×デモザイク処理後のピクセル値 …(7)
【0094】
以上の背景から、以下に説明する第3の実施形態では、ホワイトバランスゲイン乗算器5とマトリックス乗算器10を一つにまとめて、上記(7)式に基づく演算を行うことを特徴とする。
【0095】
図12は本発明の第3の実施形態に係る画像処理装置の概略構成を示すブロック図である。図12では、図1や図11と共通する構成部分には同一符号を付しており、以下では相違点を中心に説明する。
【0096】
図12の画像処理装置は、図1や図11になかった構成として、ホワイトバランスマトリックス合成部22、第1のマトリックス合成部23および第2のマトリックス合成部24を有する。また、図1や図11にはホワイトバランスゲイン乗算器5が存在したが、図12では省略されている。
【0097】
図12に破線で示す水中光路長算出部6、色復元マトリックス生成部7、ホワイトバランスマトリックス生成部22、第1のマトリックス合成部23、水中切換器9および第2のマトリックス合成部24が本実施形態の主要部である。
【0098】
ホワイトバランスマトリックス生成部22は、ホワイトバランスゲインを含む3×3マトリックスを生成する。
【0099】
第1のマトリックス合成部23は、色復元マトリックスとホワイトバランスマトリックスとの乗算を行う。また、第2のマトリックス合成部24は、第1のマトリックス合成部23の演算結果であるマトリックスと色空間変換マトリックスとの乗算を行う。これにより、第2のマトリックス合成部24からは、上記(7)式の括弧内の演算結果が出力される。
【0100】
次に、マトリックス乗算器10は、デモザイク処理後のピクセル値と第2のマトリックス合成部24の出力結果であるマトリックスとの乗算を行って、上記(7)式の演算が完了する。
【0101】
この第3の実施形態においても、マトリックスの演算順序が異なるだけで、演算処理の内容自体は第1および第2の実施形態と同様であるため、第1および第2の実施形態と同様に、水中撮影時の高精度の色復元処理が可能となる。
【0102】
(第4の実施形態)
第1〜第3の実施形態では、カメラ内に組み込むことが可能な画像処理装置について説明したが、以下に説明する第4の実施形態は、イメージセンサ1から出力されたRAWデータの現像処理を行うRAW現像ソフトウェアに組み込めることが可能な画像処理装置であることを特徴とする。
【0103】
図13は本発明の第4の実施形態による画像処理装置の概略構成を示すブロック図である。図13の画像処理装置は、図1の画像処理装置と基本構成は同じであるが、ソフトウェアの形態でRAW現像ソフトウェアに組み込まれるため、イメージセンサ1やA/D変換器2は省略されている。その代わりに、RAWデータを取り込むための画像入力部31を備えている。
【0104】
図13の代わりに、図11または図12と基本構成を同じにしてもよく、その場合はそれぞれ図14または図15のブロック図に示す構成となる。
【0105】
一方、入力データがRAWデータではなく、JPEGなどの既に色空間変換がされた後のデータの場合には、図16のようなブロック構成になる。図16の画像処理装置は、図13になかった構成として逆ガンマ処理部32を有し、図13のOB減算部3、デモザイク処理部4およびマトリックス乗算器10は省略されている。
【0106】
逆ガンマ処理部32は、例えばJPEG形式にて記録された画像データのガンマ特性と逆特性の非線形変換を行って、光量とピクセル値とが比例関係になるような処理を行う。すなわち、逆ガンマ処理部32は、ガンマ処理部11とは逆の処理を行う。
【0107】
式で表すと、逆ガンマ処理部32は例えば以下の(8)式の処理を行い、ガンマ処理部11は(9)式の処理を行う。
出力=power(入力/255,2.2)×255 …(8)
出力=power(入力/255,1/2.2)×255 …(9)
【0108】
このように、本発明は、RAW現像や画像処理を行うソフトウェアに組み込むことも可能であり、水中撮影後にPCを用いて簡易に高精度のホワイトバランス調整を行える。
【0109】
上述した第1〜第3の実施形態では、カメラに組み込む例について説明したが、図1、図11および図12に示した構成の少なくとも一部はハードウェアで構成してもよいし、ソフトウェアで構成してもよい。また、図1等の破線で示した以外の構成については本発明の本質的な部分ではないため、種々に構成を変更してもよい。
【0110】
また、上述した各実施形態では、原色系のイメージセンサ1を用いる例を説明したが、補色系のイメージセンサを用いる場合にも本発明は適用可能である。
【0111】
上述した第1〜第4の実施形態では、色復元マトリックス乗算器8とマトリックス乗算器10とを用いてマトリックス演算を行って水中色の復元処理を行う例を説明したが、マトリックス演算以外の色変換情報を用いて水中色の復元処理を行ってもよい。このような色変換情報を求める式のパラメータとして水中光路長を含めれば、別個に水中光路長との演算処理を行う必要がなくなり、色復元処理を簡略化できる。
【0112】
この場合、色復元マトリックス生成部7の代わりに、水中光路長に基づいて色復元情報を生成する色復元情報生成部を設け、かつ、マトリックス乗算器10の代わりに、色復元情報とホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するピクセル値補正部を設けることになる。
【0113】
色変換情報の一例としては、色と色とを対応づけるカラーマッピングを使用することが考えられる。このようなカラーマッピングでは、水中光路長ごとに色変換マップを設けるか、色変換の式の中に直接的に水中光路長の乗算を含む場合には、一種類の色変換マップを設けるだけで済み、メモリ容量を削減できる。
【図面の簡単な説明】
【0114】
【図1】本発明の第1の実施形態に係る画像処理装置の概略構成を示すブロック図。
【図2】図1の主要部であるホワイトバランスゲインの乗算からマトリックスの乗算結果を得るまでの処理手順を詳細に示すフローチャート。
【図3】グレーのシールを貼付したフィンの一例を示す外観図。
【図4】グレーパターンの周囲にバーコードを配置したシールの一例を示す平面図。
【図5】水中ハウジングを展開した状態を示す図。
【図6】水中ハウジングにカメラを収納して閉じた状態を示す図。
【図7】水中透過光のCIE1931xy色座標を示す図。
【図8】テーブルの一例を示す図。
【図9】他のテーブルの一例を示す図。
【図10】図9のテーブルを利用して色復元マトリックスを生成する処理手順の一例を示すフローチャート。
【図11】本発明の第2の実施形態による画像処理装置の概略構成を示すブロック図。
【図12】本発明の第3の実施形態に係る画像処理装置の概略構成を示すブロック図。
【図13】本発明の第4の実施形態による画像処理装置の概略構成を示すブロック図。
【図14】図13の変形例を示すブロック図。
【図15】図13の変形例を示すブロック図。
【図16】色空間変換がされた後のデータを入力する場合の画像処理装置の概略構成を示すブロック図。
【符号の説明】
【0115】
1 イメージセンサ
2 A/D変換器
3 OB減算器
4 デモザイク処理部
5 ホワイトバランスゲイン乗算器
6 水中光路長算出部
7 色復元マトリックス生成部
8 色復元マトリックス乗算器
9 水陸切換器
10 マトリックス乗算器
11 ガンマ処理部
12 映像記録部
21 マトリックス合成部
22 ホワイトバランスマトリックス生成部
23 第1のマトリックス合成部
24 第2のマトリックス合成部
31 画像入力部
32 逆ガンマ処理部
【技術分野】
【0001】
本発明は、ホワイトバランスを調整可能な画像処理装置に関し、特に水中撮影に適したホワイトバランス調整と水中特有の色の消失を復元する技術に関する。
【背景技術】
【0002】
近年のデジタルカメラや家庭用小型ビデオカメラの普及に伴って、スノーケリングやスクーバダイビングの際に、水中にカメラを持ち込んで、水中撮影を楽しむ人が増えてきた。
【0003】
しかしながら、水中で撮影を行うと、そのままでは青みの強い不自然な色合いの画像が得られる。その理由は、水中に降り注ぐ自然光は、水深に応じて色温度が高くなるためである。
【0004】
例えば、5m程度の水深でも、水中を通過した自然光は、色温度が10000K(ケルビン)にも達する。また、被写体とカメラの間の距離が長い場合、水中を通過する距離も長くなるため、撮影画像はより青みが強くなる。
【0005】
このような青みの強い撮影画像は、水中での撮影だけでなく、水面付近から水中を撮影するスノーケリングを行う際にも問題となる。例えば、3m程度の水深の魚や珊瑚等を水面付近から撮影する場合、太陽光は3mの水中を通過して被写体で反射し、さらに3mの水中を通過してカメラに入射することになり、往復で6mの水中を通過することになるためである。
【0006】
一方、人間は、光に対する順応能力が高く、目が慣れてしまうため、撮影画像と目視との色合いのギャップが大きくなる。
【0007】
現在市販されているデジタルカメラやビデオカメラは、水中のような特殊な光源下での撮影を前提としていないため、水中撮影時にはオートホワイトバランスも正常に機能しない。このため、撮影者は、オレンジやマゼンダ系の光学フィルタをレンズに装着して撮影を行い、正常なホワイトバランスを得ようとしている。ところが、フィルタは、水中での交換が容易ではなく、水深によって刻々と変わる水中光には対応できない。
【0008】
高級カメラの一部には、マニュアルでホワイトバランスを調整できるものがある(特許文献1参照)。このようなカメラを用いれば、調整の手間はかかるものの、正常なホワイトバランスを得ることができる。あるいは、カメラ側の機能としてホワイトバランスを調整できない場合でも、撮影後にフォトレタッチソフトやRAW現像ソフト、ビデオ編集装置(ソフト)などを用いてホワイトバランスを調整することも可能である。
【特許文献1】特開2006-157316号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
ホワイトバランスの調整によって、無彩色の被写体の画像を無彩色に調整することはできるが、これだけでは正常な色再現は望めない。なせならば、水中に降り注ぐ光のスペクトルは、地上とは大きく異なり、演色性が極端に低いためである。これは、長波長の光が減少するために起きる現象で、ダイバーの間では「水中での色の消失」と呼ばれて理解されている。つまり、正常なホワイトバランスを得た場合でも、色が薄くなったり(彩度が低下したり)、赤系統の色が暗くなったり(明度が低下したり)、色相が変化してしまう。
【0010】
このため、水中にビデオライトやストロボなどの光源を持ち込む撮影者もいるが、光源を水中に持ち込むことには数多くのデメリットが存在する。
【0011】
まずは、撮影機材の大きさや重量が増して、水中での行動が制限されたり、不自由になる可能性がある。また、方向性の強い光を照射するため、影が強く現れる。さらに、画角の広い撮影を行う場合、通常は広角レンズを用いるが、このような場合、光源の光を広範囲に照射し、かつ被写体距離も長く設定するため、光源から被写体、そして被写体からカメラまでの距離が長くなり、やはり色の変化が生じてしまう。より具体的には、光源に近い場所と遠い場所とで輝度差が大きくなり、広い範囲で適正露出を得ることが困難になる。また、光源としてストロボを用いると、充電に時間がかかるため、撮影間隔が長くなるという問題もある。
【0012】
以上の理由により、光源を持ち込んでの水中撮影は、撮影距離の短いマクロ撮影に限定されるのが実情である。
【0013】
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、水中撮影時に精度の高い色復元処理を簡易な手法で実現可能な画像処理装置を提供することにある。
【課題を解決するための手段】
【0014】
本発明の一態様によれば、被写体光の水中光路長を算出する水中光路長算出手段と、算出された水中光路長に基づいて色復元情報を生成する色復元情報生成手段と、前記色復元情報とホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するピクセル値補正手段と、を備えることを特徴とする画像処理装置が提供される。
【0015】
また、本発明の一態様によれば、被写体光の水中光路長を算出する水中光路長算出手段と、算出された水中光路長に基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、前記色復元マトリックスとホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置が提供される。
【0016】
また、本発明の一態様によれば、水中撮影時の被写体周辺のホワイトバランスゲインを設定するホワイトバランス設定手段と、設定された前記ホワイトバランスゲインに基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、前記色復元マトリックスと前記ホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置が提供される。
【発明の効果】
【0017】
本発明によれば、水中撮影時に精度の高い色復元処理を簡易な手法で行うことができる。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照しながら、本発明の一実施形態について説明する。
【0019】
(第1の実施形態)
図1は本発明の第1の実施形態に係る画像処理装置の概略構成を示すブロック図である。この画像処理装置は、例えばデジタルカメラに内蔵される。
【0020】
図1の画像処理装置は、イメージセンサ1と、A/D変換器2と、OB(Optical Black)減算器3と、デモザイク処理部4と、ホワイトバランスゲイン乗算器5と、水中光路長算出部6と、色復元マトリックス生成部7と、色復元マトリックス乗算器8と、水陸切換器9と、マトリックス乗算器10と、ガンマ処理部11と、映像記録部12とを備えている。
【0021】
イメージセンサ1で撮像された撮像信号は、A/D変換器2でデジタルのピクセル値に変換される。デモザイク処理部4は、各画素にすべての色情報を持たせる処理を行う。このデモザイク処理が必要になる理由は、一般的なイメージセンサ1の画素配列はG画素を他の色画素よりも多く配置したベイヤー配列になっているためであり、デモザイク処理部4では、色補間処理を行って、各画素にRGBの色情報を持たせる処理を行う。
【0022】
ホワイトバランスゲイン乗算器5は、所定の手法により設定したホワイトバランスゲインを用いて、デモザイク処理後のピクセル値に対してホワイトバランス調整を行う。ホワイトバランスゲインの設定方法については後述する。
【0023】
水中光路長算出部6は、水面に降り注いだ光がイメージセンサ1に到達するまでの光路長(以下、水中光路長)を算出する。この算出方法についても後述する。
【0024】
色復元マトリックス生成部7は、水中光路長算出部6で算出された水中光路長に基づいて、水中で失われた色を復元するための色復元マトリックスを生成する。
【0025】
色復元マトリックス乗算器8は、ホワイトバランスゲイン乗算器5で乗算した結果に、色復元マトリックスを乗じる処理を行う。
【0026】
水陸切換器9は、水中と陸上のどちらで撮影を行うのかを切り替える。マトリックス乗算器10は、色復元マトリックス乗算器8の乗算結果に色空間変換マトリックスを乗じる処理を行う。
【0027】
ガンマ処理部11は、マトリックス乗算器10の乗算結果に対してガンマ補正を行う。ガンマ補正後のピクセル値は、JPEG等の形式にて映像記録部12に記録される。
【0028】
図1に破線で示す水中光路長算出部6、色復元マトリックス生成部7、色復元マトリックス乗算器8および水中切換器9が本実施形態の主要部である。すなわち、本実施形態は、従来のデジタルカメラの構成に、図1の破線部の構成を追加することで実現可能である。
【0029】
図2は図1の主要部であるホワイトバランスゲインの乗算後のピクセル値からマトリックスの乗算結果を得るまでの処理手順を詳細に示すフローチャートである。まず、ホワイトバランスゲインを設定する(ステップS1)。ここで、ホワイトバランスゲインとは、イメージセンサ1がRGBの原色を扱う場合には、イメージセンサ1のRGB値に対するRとBのゲインを指す。
【0030】
ホワイトバランスゲインの設定方法には複数通りが考えられる。以下、ホワイトバランスを設定するための第1〜第5の方法について説明する。なお、下記以外の方法でホワイトバランスを設定してもよい。
【0031】
第1の方法は、無彩色のグレーの色見本を水中で撮影して得られる映像により、ホワイトバランスを設定するものである。より具体的には、水中の目的とする撮影場所付近でグレーの色見本を予め撮影しておき、後にソフトウェアにより、その色見本の映像がグレーになるようにホワイトバランスを調整し、その調整により得られたホワイトバランスゲインを他の映像にも適用する。これにより、かなり正確なホワイトバランスを得ることができる。
【0032】
ところが、ただでさえ行動が制限される水中に、グレーの色見本を持ち込んで撮影を行うのは撮影者にとって大変な手間になる。そこで、例えば図3に示すように、ダイビング用のフィン14にグレーのシール15を貼り付けておき、本来の撮影を行う際にそのシール15も撮影しておく。
【0033】
水中では、浮力が働いて、体を比較的自由に動かせるため、フィンのシール15もそれほど無理なく撮影可能であり、撮影者はグレーの色見本を携帯する必要がなくなる。
【0034】
撮影者の手間を省くさらなる方法として、図4に示すようにシール15の脇に例えばバーコード状のパターンを貼り付けておき、シール15の撮影の際にバーコード15aのパターンも合わせて撮影し、カメラ内部で撮影された映像からバーコード15aの位置を検出し、それらの中心にあるシール15をグレーにバランスするゲインを算出することで、自動的にホワイトバランスゲインを設定し、その設定前後に撮影した他の映像に対して、設定したホワイトバランスゲインを適用することが考えられる。これにより、後に、撮影者自身でホワイトバランスの調整を行わなくて済み、手間が省けて使い勝手がよくなる。もちろん、カメラに組み込む以外に、撮影後に行う画像処理ソフトウェアにおいても同様に、バーコード15aの位置を検出し、シール15をグレーにバランスするホワイトバランスゲインを算出するように構成すれば、利便性を上げることができる。
【0035】
シール15は、図3のようなグレー単色のもの以外に、図4に示すように、色々な色パターンを含んでいてもよい。
【0036】
第2の方法は、ホワイトバランスを測定可能な環境光センサをカメラに取り付けるものである。この方法では、環境光センサにより、カメラ周辺の水中光を直接測定してホワイトバランスゲインを設定する。このため、このままでは、被写体とカメラの間の光路長を加味してホワイトバランスを測定することはできない。そこで、例えば、カメラにより被写体までの距離を検出し、検出された距離によりホワイトバランスの調整を行うことで、ホワイトバランスの精度向上が図れる。
【0037】
第3の方法は、いわゆるオートバランスである。この方法は、本実施形態による画像処理装置をカメラに適用する場合と撮影後に行う画像処理ソフトウェアに適用する場合のいずれにおいても有効である。
【0038】
先に本発明者が出願した発明(特開2007-13415号公報)を用いれば、物体に降り注ぐ光源色をかなり正確に特定できる。実際に、多くの水中映像において良好な結果を得ており、最も期待される方法の一つである。
【0039】
ただし、陸上と水中の両方の映像を処理できるようにする場合、誤判定を防止するために、映像処理前に水中か陸上の切替を行うのが望ましい。陸上では、水中のような青い光源はまずありえないし、仮にあったとしても青を白くバランスせずにその場の雰囲気を残すために、青く再現する方が望ましい場合があり、水中と陸上ではホワイトバランスの算出方法や、検出したホワイトバランスゲイン値を人間の色順応に合わせて制限する際のリミットを変える必要があるためである。
【0040】
陸上と水中の切替をカメラに設ける場合には、切替スイッチを設けてもよいし、メニュー画面で切替ができるようにしてもよい。切替スイッチを設けたカメラを水中ハウジングに収納して水中撮影を行う場合には、例えば図5および図6に示すように、カメラには水中切り替えスイッチ16を設けておき、水中ハウジングには、その切り替えスイッチが押下されるような突起17を設けておくのが望ましい。図5は水中ハウジングを展開した状態を示しており、突起17は、ハウジングの内部が出っ張っている。図6は、水中ハウジングにカメラを収納して閉じた状態を示している。ハウジングの突起17に押されて、カメラの水中切り替えスイッチ16が押下される。
【0041】
第4の方法は、ユーザがホワイトバランスを設定するものである。この場合、ユーザは、カメラのスイッチやメニュー画面により、あるいはソフトウェアのユーザーインタフェースにより、ホワイトバランスを設定する。多くのカメラでは、光源の種類(電球、蛍光灯、晴れ、曇り、日陰等)を指定したり、色温度を指定することにより、ホワイトバランスの設定が可能であるが、これらの指定は水中では役に立たない。水中では、色度座標が黒体放射線(や昼光線)から大きくずれる上に、水中経路長によって色度座標が広い範囲に分布するため、「水中」というプリセットを用意しても正常なホワイトバランス調整は行えない可能性が高い。
【0042】
そこで、水中経路長をパラメータとして与えて、ユーザがホワイトバランスを設定できるようにすると便利である。多くのカメラやRAW現像処理ソフトウェアが搭載している色温度の指定に倣って、水中光路長を指定すれば、その光路長によって決まる水中透過光の色度座標についてホワイトバランスの設定を行うような設計が可能となる。
【0043】
第5の方法は、カメラやカメラを収納する水中ハウジングに水深計を取り付けて、水深計で測定した水深をカメラに伝達する配線を設けるものである。カメラでは、水深を例えば1〜1.5倍した値を水中光路長としてホワイトバランスを設定する。なぜならば、太陽高度が高く水面に対して直角に太陽光が降り注ぐ赤道付近の晴れの日は、水深と水中光路長は、ほぼ一致するが、くもりの日や太陽高度が低い地域では、水面から斜めに光が降り注ぐために、水中光路長は、実際の水深よりも大きくなる傾向があるからである。冬にスポーツダイバーがダイビングを行えるほぼ北限の関東地方周辺では、実際の水深と水中光路長は1.5倍ほど異なることもある。このため、1〜1.5倍する必要がある。この倍率の設定をカメラのメニューによって行わせても良いし、緯度を入力させて、カメラ内部の時計から季節を算出し、その結果から自動的に設定するようにしても良い。
【0044】
この第5の方法は、正確なホワイトバランスを設定できない上に、機構が複雑でコストがかかるため、実用性はあまりないかもしれない。ただし、映像の付属情報として水深データを記録することが可能であり、事後的に水深データを活用できるという利点がある。例えば、静止画像の付属情報を記録したEXIF情報には、規格上、水深を記録するタグが現時点では定義されていないが、メーカーが独自の情報を記録するメーカーノートタグ(MakerNote Tag)等に水深データを記録しておけば、事後的に、各画像が水深何mで撮影されたものかを正確に特定でき、非常に便利である。したがって、将来的には、EXIF情報の一部として水深データを記録できるような規格変更も考えられる。
【0045】
以上に説明した第1〜第5の方法のいずれかにより、ホワイトバランスゲインが設定されると、次に、水陸切換器9は、水中と陸上のどちらで撮影を行うのかを選択する(図2のステップS2)。上述したように、水陸切換器9は、例えばカメラに設けられる専用のスイッチで実現してもよいし、カメラのメニュー画面によるソフト的な選択で実現してもよい。
【0046】
ステップS2で水中撮影が選択された場合、水中光路長算出部6により水中光路長を算出する(ステップS3)。以下に、水中光路長算出部6の処理内容を詳述する。
【0047】
ここで、カメラがRGBの3色のイメージセンサ1を有するものとする。イメージセンサーの色特性を示すために、CIE(国際照明委員会)の標準的な色表現方法であるCIE1931XYZから、カメラが撮像する3つの色コンポーネント(これは通常RGBの3色である)に変換するためのカラーマトリックスをCとする。この場合、Cは、3×3マトリックスであり、カメラのカラーフィルタやイメージセンサ1、ローパスフィルタ等の特性によって決まる。
【0048】
なお、CIE1931XYZは、RGBの代わりに、XYZの3値を用いて実在色のすべてを表記可能な色の表現方法である。
【0049】
ここで、ある光源色をCIE1931XYZで標記した場合の値を(WP_X,WP_Y,WP_Z)とすると、以下の(1)式の右辺におけるC*(WP_X,WP_Y,WP_Z)は、そのカメラでの線形RAW値(OB減算処理後の値)になる。
【0050】
ホワイトバランスゲインWBR,WBBは、光源色がグレーになるように設定するものであり、C*(WP_X,WP_Y,WP_Z)のR成分をWBRで、G成分を1で、B成分をWBBでそれぞれ重み付けすると、グレー色に調整される。この重み付けを、(1)式の右辺では3×3マトリックスで表現している。
【数1】
【0051】
グレー色に調整するということは、やはりCIEのD65を撮影した場合の線形RAW値と一致することになり、(1)式の右辺は、左辺のC*D65標準光源のXYZ値と一致することになる。
【0052】
ところで、D65は、CIEが定めた標準光源の一つであり、地上に降り注ぐ光の平均値である。D65は、現在、白点として最も広く使用されており、デジタルカメラの標準的な色空間であるsRGBやアドビ(登録商標)RGBも白点をD65と定めている。なお、他の光源を標準光源として用いてもよい。理想的には、所定の色温度を持つ完全放射体または地上に降り注ぐ光の平均値から算出された昼光を標準光源として用いるのが望ましい。
【0053】
sRGBやアドビRGBで、R=G=Bのとき、例えばRGB=(118,118,118)のとき、この値は無彩色であり、正常に校正されたモニタではD65として表示される。
【0054】
上述した(1)式により、(WP_X,WP_Y,WP_Z)を算出することができる。ところが、XYZの3軸による表記では、光の強さを含んでしまう。光の強さは色とは無関係であり、色だけを表記する場合には、X+Y+Z=1となる面(等エネルギー面)で色を表記したものがCIE1931xy座標である。
【0055】
ここでは、光源の強さではなく、その色(色度座標)のみを問題にしているため、光源色をXYZの3軸ではなく、等エネルギー面の2軸(xy)で表記した色度座標wp_xy=(WP_X/(WP_X+WP_Y+WP_Z),WP_Y/(WP_X+WP_Y+WP_Z))を計算する。この色度座標wp_xyが光源色に相当する。
【0056】
上記の手順で光源色が算出されると、次に以下の手順で水中光路長を算出する。図7は水中透過光のCIE1931xy色座標を示す図である。図7の逆U字状曲線cb1は、単色光の色座標曲線であり、この逆U字状曲線の内部に実際の色が存在する。図7の曲線cb2は黒体放射の色座標曲線である。
【0057】
この曲線cb2は、物体の温度を上げたときに発光する光をプロットしており、図7の左側が温度が高く、右側が温度が低い。図7において、5000Kと表示している場所が5000度のときの色座標である。また、地上に降り注ぐ昼光も、ほぼこの黒体放射線に近似しており、晴れの日の昼に地上に降り注ぐ光の色座標は、約5000K程度である。
【0058】
図7の曲線cb3は、水面に5000Kの光が降り注いでいる場合に、水中光路長によって水中光の色座標が変化する様子を示している。すなわち、曲線cb3は、水中光路長ごとの色座標曲線である。
【0059】
上述した(1)式により計算された光源色wp_xyを図7にプロットし、そのプロット位置から曲線cb3に向けて垂線を下ろして、曲線cb3と交わった位置により、水中光路長を求めることができる。
【0060】
上記の手法により水中光路長を算出できることは、本発明者が種々の実験により見出したものである。
【0061】
上記の手法で図2のステップS3にて水中光路長が算出されると、次に、色復元マトリックス生成部7により、色復元マトリックスの生成を行う(ステップS4)。ここでは、水中光路長に応じた色復元マトリックスを選択できるように、予めテーブルを用意しておく。
【0062】
図8はテーブルの一例を示す図である。図8のテーブルには、テーブル番号と、水中光路長と、3×3マトリックスとが対応づけて記憶されている。このテーブルは、例えば、基準チャートを水中に持ち込んで、水深ごとに撮影を行って画像サンプルを取得し、カラーマッチングを行って3×3マトリックスを生成する。また、各画像に対応したホワイトバランスにより、上述した(1)式を用いて水中光路長を計算し、得られた結果を基に、図8のテーブルを予め生成しておく。
【0063】
図2のステップS4では、ステップS3で算出された水中光路長に応じた3×3マトリックスを図8のテーブルから抽出し、抽出したものを色復元マトリックスとして利用する。
【0064】
図8のテーブルには、水中光路長が100cm刻みでしか登録されていないが、もっと細かい単位で3×3マトリックスを用意しておいてもよいし、あるいは、図8のステップS3で計算された水中光路長が図8のテーブルに登録された水中光路長の中間の値の場合には、線形補間等の補間処理を行うことにより、新たな3×3マトリックスを生成してもよい。
【0065】
上述した説明では、算出した水中光路長をパラメータとして色復元マトリックスを選択する例を示したが、水中光路長算出部6と色復元マトリックス生成部7の処理を一つにまとめて、水中光路長を算出することなく、色復元マトリックスを生成してもよい。この場合は、ホワイトバランスゲインと色復元マトリックスとを対応づけたテーブルを用意しておき、ホワイトバランスゲインをパラメータとして、対応する色復元マトリックスを抽出する。
【0066】
図9はこの種のテーブルの一例を示す図である。図9のテーブルには、ホワイトバランスゲインGainR,GainBと3×3マトリックスとが対応づけて登録されている。このテーブルは、例えば基準チャートを水中に持ち込んで、水深ごとに撮影して画像サンプルを取得し、カラーマッチングを行った結果の3×3マトリックスと、そのときのホワイトバランスゲインとを対応づけて作成される。
【0067】
図9のテーブルを用いて最終的な色復元マトリックスを得るには、例えば図10の処理を行う。まず、3×3の色復元マトリックスの各要素Matrix[j](j=0〜9)をゼロに初期化する(ステップS11)。次に、マトリックスの種類を表す変数iをゼロに初期化する(ステップS12)。i=0であれば、図9の一番上の段のホワイトバランスゲインとマトリックスが選択され、i=3であれば、一番下の段のホワイトバランスゲインとマトリックスが選択される。
【0068】
次に、ホワイトバランスゲインWBR,WBBの逆数と、3×3マトリックスの値とGainRまたはGainBとの積の逆数との差分dR,dBを算出する(ステップS13)。
【0069】
次に、差分dRまたはdBがゼロか否かを判定し(ステップS14)、ゼロでなければ、dRとdBから重みFact[i]を算出する(ステップS15)。一方、ステップS14の判定がNOの場合には、WBR,WBBがテーブルに記録されているゲイン値と一致していることを示すので、重みFact[i]を非常に大きな固定値(1.0E+99)に設定する(ステップS16)。
【0070】
ステップS15,S16の処理が終わると、次に、色復元マトリックスの各要素Matrix[j]=Matrix[j]+Fact[i]*Table[i].Matrix[j]を算出する(ステップS17)。次に、重みの総計値FactSum=FactSum+Fact[i]を算出する(ステップS18)。
【0071】
次に、図9のテーブルの最後の段まで処理を行ったか否かを判定し(ステップS19)、処理を行うべきマトリックスがまだ残っていれば、変数iをインクリメントして(ステップS20)、ステップS13以降の処理を繰り返す。
【0072】
すべての行の処理が終わった場合には、3×3マトリックスの各要素を重みFact[i]で加重平均した値を要素とする色復元マトリックスを生成する(ステップS21)。
【0073】
上述した処理手順にて、図8または図9のテーブルを用いて色復元マトリックスが生成されると、次に、色復元マトリックス乗算器8は、ホワイトバランスゲイン乗算器5の乗算結果と、生成した色復元マトリックスとを乗じる処理を行う(図2のステップS5)。
【0074】
図2のステップS3〜S5の処理は、水中撮影を行う場合のみ行われる。ステップS5の処理が終わると、水中撮影と陸上撮影のどちらを行う場合も、マトリックス乗算器10によるマトリックス乗算処理を行う(ステップS6)。この処理では、イメージセンサ1で撮像したRGB値をsRGBなどの色空間に変換するための色空間変換マトリックスを用いて乗算処理を行って、ピクセル値を算出する。
【0075】
例えば、水中撮影を行う場合のステップS6で得られるピクセル値は、以下の(2)式で表される。
マトリックス乗算後のピクセル値=色空間変換マトリックス×(色復元マトリックス×ホワイトバランスゲイン乗算器5の乗算結果) …(2)
【0076】
一方、陸上撮影を行う場合のステップS6で得られるピクセル値は、以下の(3)式で表される。
マトリックス乗算後のピクセル値=色空間変換マトリックス×ホワイトバランスゲイン乗算器5の乗算結果 …(3)
【0077】
図2のステップS6の処理により得られたピクセル値は、図1に示すように、ガンマ処理部11によりガンマ補正された後に映像記録部12に記録される。
【0078】
このように、第1の実施形態では、水中撮影時に、水中光路長またはホワイトバランスゲインに応じた色復元マトリックスを生成し、生成した色復元マトリックス、色空間変換マトリックスおよびホワイトバランスゲインを用いてピクセル値を算出するため、陸上同様に青みの少ない自然な画像が得られる。
【0079】
本実施形態では、水深や水中光路長がわかれば比較的簡易な処理で正確な色復元処理を行えるため、カメラに組み込むことも容易で、また撮影後に画像処理ソフトウェアにて実現することも容易に行える。
【0080】
また、水深がわからなくても、水中で色見本を撮影した結果を利用してホワイトバランスゲインを取得することによっても、正確な色復元処理を行える。
【0081】
このように、本実施形態によれば、水中撮影時の色復元処理を自動化することができ、撮影者の手間を煩わすことなく、水中の被写体の本来の色を復元することができる。
【0082】
(第2の実施形態)
第1の実施形態では、水中撮影時のピクセル値を計算するために、上述した(2)式による演算処理を行った。行列演算には、結合法則が成立するため、この(2)式は、以下の(4)式と同じである。
マトリックス乗算後のピクセル値=(色空間変換マトリックス×色復元マトリックス)×ホワイトバランスゲイン乗算器5の乗算結果 …(4)
【0083】
この(4)式では、あらかじめ、色空間変換マトリックスと色復元マトリックスの乗算処理(以下、マトリックス合成処理)を行った後に、マトリックス合成処理により得られたマトリックスとホワイトバランスゲイン乗算器5の乗算結果のピクセル値との乗算処理を行う。以下に説明する第2の実施形態は、上記の(4)式に基づいてピクセル値を算出するものである。
【0084】
図11は本発明の第2の実施形態による画像処理装置の概略構成を示すブロック図である。図11では、図1と共通する構成部分には同一符号を付しており、以下では相違点を中心に説明する。
【0085】
図11の画像処理装置は、図1になかったものとして、マトリックス合成部21を備えている。このマトリックス合成部21は、色復元マトリックス生成部7で生成された色復元マトリックスと色空間変換マトリックスとを乗算する。
【0086】
また、図11のマトリックス乗算器10は、マトリックス合成部21の乗算結果とホワイトバランスゲイン乗算器5で乗算されたピクセル値とを乗算して、最終的なピクセル値を算出する。
【0087】
図11に破線で示す水中光路長算出部6、色復元マトリックス生成部7、マトリックス合成部21および水中切換器9が本実施形態の主要部である。
【0088】
この第2の実施形態においても、演算順序が異なるだけで、演算処理の内容自体は第1の実施形態と同様であるため、第1の実施形態と同様に、水中撮影時の高精度の色復元処理が可能となる。
【0089】
(第3の実施形態)
第1および第2の実施形態では、ホワイトバランスゲイン乗算器5とマトリックス乗算器10を別個に設けたが、これらの乗算器を一つにまとめることも可能である。
【0090】
ピクセル値を3次のベクトル(例えばR値、G値、B値)で表し、マトリックスを3×3とすると、ホワイトバランスゲイン乗算器5は、以下の(5)式に示すマトリックスを演算することに等しい。
【数2】
【0091】
したがって、ホワイトバランスゲイン乗算器5とマトリックス乗算器10を一つにまとめて、演算結果を一つのマトリックスで表現することができる。
【0092】
上述した第2の実施形態では、(4)式に基づいてマトリックス乗算後のピクセル値を算出する旨を説明したが、(4)式は以下の(6)式のようにも書き直せる。
マトリックス乗算後のピクセル値=(色空間変換マトリックス×色復元マトリックス)×(ホワイトバランスマトリックス×デモザイク処理後のピクセル値) …(6)
【0093】
行列演算には、結合法則が成立するため、この(6)式は、(7)式のように書き直すことも可能である。
マトリックス乗算後のピクセル値=(色空間変換マトリックス×色復元マトリックス×ホワイトバランスマトリックス)×デモザイク処理後のピクセル値 …(7)
【0094】
以上の背景から、以下に説明する第3の実施形態では、ホワイトバランスゲイン乗算器5とマトリックス乗算器10を一つにまとめて、上記(7)式に基づく演算を行うことを特徴とする。
【0095】
図12は本発明の第3の実施形態に係る画像処理装置の概略構成を示すブロック図である。図12では、図1や図11と共通する構成部分には同一符号を付しており、以下では相違点を中心に説明する。
【0096】
図12の画像処理装置は、図1や図11になかった構成として、ホワイトバランスマトリックス合成部22、第1のマトリックス合成部23および第2のマトリックス合成部24を有する。また、図1や図11にはホワイトバランスゲイン乗算器5が存在したが、図12では省略されている。
【0097】
図12に破線で示す水中光路長算出部6、色復元マトリックス生成部7、ホワイトバランスマトリックス生成部22、第1のマトリックス合成部23、水中切換器9および第2のマトリックス合成部24が本実施形態の主要部である。
【0098】
ホワイトバランスマトリックス生成部22は、ホワイトバランスゲインを含む3×3マトリックスを生成する。
【0099】
第1のマトリックス合成部23は、色復元マトリックスとホワイトバランスマトリックスとの乗算を行う。また、第2のマトリックス合成部24は、第1のマトリックス合成部23の演算結果であるマトリックスと色空間変換マトリックスとの乗算を行う。これにより、第2のマトリックス合成部24からは、上記(7)式の括弧内の演算結果が出力される。
【0100】
次に、マトリックス乗算器10は、デモザイク処理後のピクセル値と第2のマトリックス合成部24の出力結果であるマトリックスとの乗算を行って、上記(7)式の演算が完了する。
【0101】
この第3の実施形態においても、マトリックスの演算順序が異なるだけで、演算処理の内容自体は第1および第2の実施形態と同様であるため、第1および第2の実施形態と同様に、水中撮影時の高精度の色復元処理が可能となる。
【0102】
(第4の実施形態)
第1〜第3の実施形態では、カメラ内に組み込むことが可能な画像処理装置について説明したが、以下に説明する第4の実施形態は、イメージセンサ1から出力されたRAWデータの現像処理を行うRAW現像ソフトウェアに組み込めることが可能な画像処理装置であることを特徴とする。
【0103】
図13は本発明の第4の実施形態による画像処理装置の概略構成を示すブロック図である。図13の画像処理装置は、図1の画像処理装置と基本構成は同じであるが、ソフトウェアの形態でRAW現像ソフトウェアに組み込まれるため、イメージセンサ1やA/D変換器2は省略されている。その代わりに、RAWデータを取り込むための画像入力部31を備えている。
【0104】
図13の代わりに、図11または図12と基本構成を同じにしてもよく、その場合はそれぞれ図14または図15のブロック図に示す構成となる。
【0105】
一方、入力データがRAWデータではなく、JPEGなどの既に色空間変換がされた後のデータの場合には、図16のようなブロック構成になる。図16の画像処理装置は、図13になかった構成として逆ガンマ処理部32を有し、図13のOB減算部3、デモザイク処理部4およびマトリックス乗算器10は省略されている。
【0106】
逆ガンマ処理部32は、例えばJPEG形式にて記録された画像データのガンマ特性と逆特性の非線形変換を行って、光量とピクセル値とが比例関係になるような処理を行う。すなわち、逆ガンマ処理部32は、ガンマ処理部11とは逆の処理を行う。
【0107】
式で表すと、逆ガンマ処理部32は例えば以下の(8)式の処理を行い、ガンマ処理部11は(9)式の処理を行う。
出力=power(入力/255,2.2)×255 …(8)
出力=power(入力/255,1/2.2)×255 …(9)
【0108】
このように、本発明は、RAW現像や画像処理を行うソフトウェアに組み込むことも可能であり、水中撮影後にPCを用いて簡易に高精度のホワイトバランス調整を行える。
【0109】
上述した第1〜第3の実施形態では、カメラに組み込む例について説明したが、図1、図11および図12に示した構成の少なくとも一部はハードウェアで構成してもよいし、ソフトウェアで構成してもよい。また、図1等の破線で示した以外の構成については本発明の本質的な部分ではないため、種々に構成を変更してもよい。
【0110】
また、上述した各実施形態では、原色系のイメージセンサ1を用いる例を説明したが、補色系のイメージセンサを用いる場合にも本発明は適用可能である。
【0111】
上述した第1〜第4の実施形態では、色復元マトリックス乗算器8とマトリックス乗算器10とを用いてマトリックス演算を行って水中色の復元処理を行う例を説明したが、マトリックス演算以外の色変換情報を用いて水中色の復元処理を行ってもよい。このような色変換情報を求める式のパラメータとして水中光路長を含めれば、別個に水中光路長との演算処理を行う必要がなくなり、色復元処理を簡略化できる。
【0112】
この場合、色復元マトリックス生成部7の代わりに、水中光路長に基づいて色復元情報を生成する色復元情報生成部を設け、かつ、マトリックス乗算器10の代わりに、色復元情報とホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するピクセル値補正部を設けることになる。
【0113】
色変換情報の一例としては、色と色とを対応づけるカラーマッピングを使用することが考えられる。このようなカラーマッピングでは、水中光路長ごとに色変換マップを設けるか、色変換の式の中に直接的に水中光路長の乗算を含む場合には、一種類の色変換マップを設けるだけで済み、メモリ容量を削減できる。
【図面の簡単な説明】
【0114】
【図1】本発明の第1の実施形態に係る画像処理装置の概略構成を示すブロック図。
【図2】図1の主要部であるホワイトバランスゲインの乗算からマトリックスの乗算結果を得るまでの処理手順を詳細に示すフローチャート。
【図3】グレーのシールを貼付したフィンの一例を示す外観図。
【図4】グレーパターンの周囲にバーコードを配置したシールの一例を示す平面図。
【図5】水中ハウジングを展開した状態を示す図。
【図6】水中ハウジングにカメラを収納して閉じた状態を示す図。
【図7】水中透過光のCIE1931xy色座標を示す図。
【図8】テーブルの一例を示す図。
【図9】他のテーブルの一例を示す図。
【図10】図9のテーブルを利用して色復元マトリックスを生成する処理手順の一例を示すフローチャート。
【図11】本発明の第2の実施形態による画像処理装置の概略構成を示すブロック図。
【図12】本発明の第3の実施形態に係る画像処理装置の概略構成を示すブロック図。
【図13】本発明の第4の実施形態による画像処理装置の概略構成を示すブロック図。
【図14】図13の変形例を示すブロック図。
【図15】図13の変形例を示すブロック図。
【図16】色空間変換がされた後のデータを入力する場合の画像処理装置の概略構成を示すブロック図。
【符号の説明】
【0115】
1 イメージセンサ
2 A/D変換器
3 OB減算器
4 デモザイク処理部
5 ホワイトバランスゲイン乗算器
6 水中光路長算出部
7 色復元マトリックス生成部
8 色復元マトリックス乗算器
9 水陸切換器
10 マトリックス乗算器
11 ガンマ処理部
12 映像記録部
21 マトリックス合成部
22 ホワイトバランスマトリックス生成部
23 第1のマトリックス合成部
24 第2のマトリックス合成部
31 画像入力部
32 逆ガンマ処理部
【特許請求の範囲】
【請求項1】
被写体光の水中光路長を算出する水中光路長算出手段と、
算出された水中光路長に基づいて色復元情報を生成する色復元情報生成手段と、
前記色復元情報とホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するピクセル値補正手段と、を備えることを特徴とする画像処理装置。
【請求項2】
前記色復元情報生成手段は、色と色とを対応づけるカラーマッピングを使用して前記色復元情報を生成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
被写体光の水中光路長を算出する水中光路長算出手段と、
算出された水中光路長に基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、
前記色復元マトリックスとホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置。
【請求項4】
水中撮影時の被写体周辺のホワイトバランスゲインを設定するホワイトバランス設定手段と、
設定された前記ホワイトバランスゲインに基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、
前記色復元マトリックスと前記ホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置。
【請求項5】
水中撮影時の被写体周辺のホワイトバランスゲインを設定するホワイトバランス設定手段と、
設定された前記ホワイトバランスゲインに基づいて、被写体の光源色を算出する光源色算出手段と、を備え、
前記水中光路長算出手段は、前記光源色算出手段にて算出された光源色に基づいて、被写体光の水中光路長を算出することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
【請求項6】
前記水中光路長算出手段は、所定の色温度を持つ完全放射体または地上に降り注ぐ光の平均値から算出された昼光からの光が水面に降り注ぐ場合における、水中光路長と色座標との対応関係を示すデータを参照して、前記光源色算出手段にて算出された光源色を用いて被写体光の水中光路長を算出することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記光源色算出手段は、前記ホワイトバランスゲインを与えた場合に光源色が無彩色になる条件に基づいて、光源色を算出することを特徴とする請求項5または6に記載の画像処理装置。
【請求項8】
前記ホワイトバランス設定手段は、水中で無彩色の被写体を撮像装置により撮像して得られた画像の色が本来の無彩色になるように前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項9】
前記ホワイトバランス設定手段は、撮像装置に取り付けられたホワイトバランスを測定可能な環境光センサにて検出された情報に基づいて前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項10】
撮像装置による撮像が水中で行われたのか、あるいは陸上で行われたのかを選択する水陸選択手段を備え、
前記ホワイトバランス設定手段は、前記水陸選択手段の選択結果に応じて、前記撮像装置で撮像されて入力されたピクセル値に対して画像処理を行って、水中撮影に対応した前記ホワイトバランスゲイン、または陸上撮影に対応した前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項11】
水中光路長または水深に関する情報を入力する水中光路長情報入力手段を備え、
前記ホワイトバランス設定手段は、入力された前記情報に基づいて、前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項12】
水深を測定する水深測定手段を備え、
前記水中光路長算出手段は、前記水深測定手段にて測定された水深に基づいて、被写体光の水中光路長を算出することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
【請求項13】
前記入力されたピクセル値は、RAWデータであり、
前記マトリックス乗算手段は、前記RAWデータに応じたピクセル値と、前記色復元マトリックスと、前記ホワイトバランスゲインと、色空間変換マトリックスとを乗じることにより、前記RAWデータに対応するピクセル値を算出することを特徴とする請求項1乃至12のいずれかに記載の画像処理装置。
【請求項14】
前記入力されたピクセル値は、所定の画像ファイル形式からなる画像データを入力光量と比例関係になるようにガンマ変換されたものであり、
前記マトリックス乗算手段は、前記画像データに応じたピクセル値と、前記色復元マトリックスと、前記ホワイトバランスゲインと、色空間変換マトリックスとを乗じることにより、前記画像データに対応するピクセル値を算出することを特徴とする請求項1乃至12のいずれかに記載の画像処理装置。
【請求項1】
被写体光の水中光路長を算出する水中光路長算出手段と、
算出された水中光路長に基づいて色復元情報を生成する色復元情報生成手段と、
前記色復元情報とホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するピクセル値補正手段と、を備えることを特徴とする画像処理装置。
【請求項2】
前記色復元情報生成手段は、色と色とを対応づけるカラーマッピングを使用して前記色復元情報を生成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
被写体光の水中光路長を算出する水中光路長算出手段と、
算出された水中光路長に基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、
前記色復元マトリックスとホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置。
【請求項4】
水中撮影時の被写体周辺のホワイトバランスゲインを設定するホワイトバランス設定手段と、
設定された前記ホワイトバランスゲインに基づいて色復元マトリックスを生成する色復元マトリックス生成手段と、
前記色復元マトリックスと前記ホワイトバランスゲインとに基づいて、入力されたピクセル値を補正するマトリックス乗算手段と、を備えることを特徴とする画像処理装置。
【請求項5】
水中撮影時の被写体周辺のホワイトバランスゲインを設定するホワイトバランス設定手段と、
設定された前記ホワイトバランスゲインに基づいて、被写体の光源色を算出する光源色算出手段と、を備え、
前記水中光路長算出手段は、前記光源色算出手段にて算出された光源色に基づいて、被写体光の水中光路長を算出することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
【請求項6】
前記水中光路長算出手段は、所定の色温度を持つ完全放射体または地上に降り注ぐ光の平均値から算出された昼光からの光が水面に降り注ぐ場合における、水中光路長と色座標との対応関係を示すデータを参照して、前記光源色算出手段にて算出された光源色を用いて被写体光の水中光路長を算出することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記光源色算出手段は、前記ホワイトバランスゲインを与えた場合に光源色が無彩色になる条件に基づいて、光源色を算出することを特徴とする請求項5または6に記載の画像処理装置。
【請求項8】
前記ホワイトバランス設定手段は、水中で無彩色の被写体を撮像装置により撮像して得られた画像の色が本来の無彩色になるように前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項9】
前記ホワイトバランス設定手段は、撮像装置に取り付けられたホワイトバランスを測定可能な環境光センサにて検出された情報に基づいて前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項10】
撮像装置による撮像が水中で行われたのか、あるいは陸上で行われたのかを選択する水陸選択手段を備え、
前記ホワイトバランス設定手段は、前記水陸選択手段の選択結果に応じて、前記撮像装置で撮像されて入力されたピクセル値に対して画像処理を行って、水中撮影に対応した前記ホワイトバランスゲイン、または陸上撮影に対応した前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項11】
水中光路長または水深に関する情報を入力する水中光路長情報入力手段を備え、
前記ホワイトバランス設定手段は、入力された前記情報に基づいて、前記ホワイトバランスゲインを設定することを特徴とする請求項4乃至7のいずれかに記載の画像処理装置。
【請求項12】
水深を測定する水深測定手段を備え、
前記水中光路長算出手段は、前記水深測定手段にて測定された水深に基づいて、被写体光の水中光路長を算出することを特徴とする請求項1乃至3のいずれかに記載の画像処理装置。
【請求項13】
前記入力されたピクセル値は、RAWデータであり、
前記マトリックス乗算手段は、前記RAWデータに応じたピクセル値と、前記色復元マトリックスと、前記ホワイトバランスゲインと、色空間変換マトリックスとを乗じることにより、前記RAWデータに対応するピクセル値を算出することを特徴とする請求項1乃至12のいずれかに記載の画像処理装置。
【請求項14】
前記入力されたピクセル値は、所定の画像ファイル形式からなる画像データを入力光量と比例関係になるようにガンマ変換されたものであり、
前記マトリックス乗算手段は、前記画像データに応じたピクセル値と、前記色復元マトリックスと、前記ホワイトバランスゲインと、色空間変換マトリックスとを乗じることにより、前記画像データに対応するピクセル値を算出することを特徴とする請求項1乃至12のいずれかに記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2008−227951(P2008−227951A)
【公開日】平成20年9月25日(2008.9.25)
【国際特許分類】
【出願番号】特願2007−63892(P2007−63892)
【出願日】平成19年3月13日(2007.3.13)
【出願人】(596046118)株式会社市川ソフトラボラトリー (19)
【Fターム(参考)】
【公開日】平成20年9月25日(2008.9.25)
【国際特許分類】
【出願日】平成19年3月13日(2007.3.13)
【出願人】(596046118)株式会社市川ソフトラボラトリー (19)
【Fターム(参考)】
[ Back to top ]