画像処理方法、画像処理システム及び画像処理プログラム
【課題】RGB画像等の色画像から色再現性の高いXYZ画像等の測色的色再現画像を取得することができるようにする。
【解決手段】白色板及び色票を面順次で撮像してRGB画像を取得し、白色板及び色票の各RGB値をそれぞれ白色板の対応するRGB値で規格化する。この規格化した白色板及び色票のRGB値と、各色票について測定したXYZ値とに基づいて前記規格化された白色板及び色票のRGB値をXYZ値に変換するための変換パラメータを算出する。続いて、白色板を含む任意の被写体を面順次で撮像して3原色の色画像を取得し、この被写体の各色画像をそれぞれ白色板の対応するRGB値で規格化する。このようにして規格化した被写体の各色画像と、前記算出した変換パラメータとに基づいて被写体のRGB画像をXYZ画像に変換している。
【解決手段】白色板及び色票を面順次で撮像してRGB画像を取得し、白色板及び色票の各RGB値をそれぞれ白色板の対応するRGB値で規格化する。この規格化した白色板及び色票のRGB値と、各色票について測定したXYZ値とに基づいて前記規格化された白色板及び色票のRGB値をXYZ値に変換するための変換パラメータを算出する。続いて、白色板を含む任意の被写体を面順次で撮像して3原色の色画像を取得し、この被写体の各色画像をそれぞれ白色板の対応するRGB値で規格化する。このようにして規格化した被写体の各色画像と、前記算出した変換パラメータとに基づいて被写体のRGB画像をXYZ画像に変換している。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理方法、画像処理システム及び画像処理プログラムに係り、特に面順次で撮像された3原色の色画像からデバイスに依存しない表色系画像を取得する技術に関する。
【背景技術】
【0002】
一般に、RGB等の3原色のカラーフィルタを通して得られた3原色画像を、XYZ表色系のXYZ画像に変換するには、3×3マトリクスや3D−LUT(3次元ルックアップテーブル)が利用されている(特許文献1、2参照)。
【0003】
また、3原色のカラーフィルタを通してカラー画像を得る方式として、3原色の各色画像を面順次で取得する面順次の撮像方式がある。この種の面順次の撮像方式は、3原色のカラーフィルタを有する回転カラーフィルタを回転させるとともに、各カラーフィルタが撮影光学系の光軸上に移動するごとに、そのカラーフィルタを介して被写体を白黒撮像装置によって撮像し、各色に対応する画像を順次取り込むようにしている。
【特許文献1】特開2001−94800号公報
【特許文献2】特開平9−37091号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
面順次の撮像方式は、3原色のカラーフィルタが所定の配列構造(ベイヤー、Gストライプなど)で配置されている単板の固体撮像素子であって、同じ画素数及びサイズの固体撮像素子を使用する撮像装置に比べて高解像度の画像が得られるとともに、カラーフィルタの設計の自由度が大きいという利点がある。
【0005】
一方、面順次の撮像方式は、3原色画像の各撮影時にシャッタ速度のバラツキ、撮影光源の変動等の影響を受けやすく、その結果、被写体の正確な3原色画像が得られないおそれがある。また、回転カラーフィルタの回転軸の振れやカラーフィルタの取付精度等により、各回転カラーフィルタの回転位置に応じて結像面での被写体像の位置がずれる(3原色画像の各色面の位置ずれが生じる)という問題がある。
【0006】
本発明はこのような事情に鑑みてなされたもので、面順次の撮像方式の上記不具合を解消するとともに、色再現性の高いXYZ画像等の測色的色再現画像を取得することができる画像処理方法、画像処理システム及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
前記目的を達成するために請求項1に係る発明は、面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理方法において、露光量補正板及び測色変換用色票を面順次で撮像して3原色の色画像を取得する工程と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する第1の規格化工程と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する工程と、露光量補正板を含む被写体を面順次で撮像して3原色の色画像を取得する工程と、前記被写体の各色画像をそれぞれ測色変換用色票の対応する色画像値で規格化する第2の規格化工程と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する工程と、を含むことを特徴としている。
【0008】
まず、3原色の色画像をデバイスに依存しない測色的色再現画像に変換するための変換パラメータを算出する。この変換パラメータの算出に際し、露光量補正板及び測色変換用色票を面順次で撮像して3原色の色画像を取得し、露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する。これにより、露光量補正板及び測色変換用色票の面順次の撮像時におけるシャッタ速度のバラツキ、撮影光源の変動等の影響のない露光量補正板及び測色変換用色票の色画像を得るようにしている。このようにして規格化した露光量補正板及び測色変換用色票の色画像値と、露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する。
【0009】
続いて、露光量補正板を含む任意の被写体を面順次で撮像して3原色の色画像を取得し、この被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する。これにより、被写体の面順次の撮像時におけるシャッタ速度のバラツキ、撮影光源の変動等の影響のない被写体の色画像を得るようにしている。このようにして規格化した被写体の各色画像と、前記算出した変換パラメータとに基づいて被写体の色画像を前記測色的色再現画像に変換している。
【0010】
請求項2に示すように請求項1に記載の画像処理方法において、2以上の位置ずれ検出用マークを有する被写体を面順次で撮像して3原色の色画像を取得する工程と、前記各色画像上の位置ずれ検出用マークの位置を検出する工程と、前記検出した位置ずれ検出用マークの位置に基づいて各色画像間の位置ずれ量を検出する工程とを含み、その後、面順次で撮像される3原色の色画像は、前記検出された位置ずれ量に基づいて各画像間の位置ずれ補正を行うことを特徴としている。これにより、面順次で撮像した3原色の各色画像は、結像位置でそれぞれ位置ずれが生じていても、各色画像間の位置ずれは補正され、虚色等が発生することがない。
【0011】
請求項3に示すように請求項1又は2に記載の画像処理方法において、前記第1の規格化工程は、前記面順次で撮像した3原色の色画像に基づいて露光量補正板及び測色変換用色票を含む画面を表示手段に表示させる工程と、前記画面上で露光量補正板及び測色変換用色票の各領域を指定する工程と、前記指定された領域別の各色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板の領域の各色画像ごとの代表値によって前記露光量補正板及び測色変換用色票の領域の色画像ごとの代表値をそれぞれ除算する工程とを含み、前記除算した値を前記規格化した露光量補正板及び測色変換用色票の色画像値とすることを特徴としている。
【0012】
請求項4に示すように請求項1乃至3のいずれかに記載の画像処理方法において、前記第2の規格化工程は、前記面順次で撮像した色画像に基づいて露光量補正板を含む被写体画面を表示手段に表示させる工程と、前記画面上で露光量補正板の領域を指定する工程と、前記指定された領域の色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板板の領域の色画像ごとの代表値によって前記面順次で撮像した各色画像をそれぞれ除算する工程と、を含むことを特徴としている。
【0013】
請求項5に示すように請求項1乃至4のいずれかに記載の画像処理方法において、前記測色的色再現画像は、XYZ表色系のXYZ画像、又はLab表色系のLab画像であることを特徴としている。
【0014】
請求項6に係る画像処理システムは、白黒撮像手段と、少なくとも3原色のカラーフィルタを有し、各カラーフィルタを前記白黒撮像手段の撮影光路上に順次切り替えて配置するカラーフィルタ手段と、被写体の撮像時に前記カラーフィルタ手段及び白黒撮像手段を制御して面順次の画像データを取得する撮像制御手段とを有する面順次撮像装置と、前記面順次撮像装置によって面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像と、面順次で撮像された露光量補正板を含む被写体の3原色の色画像とを入力する画像入力手段と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化するとともに、前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する手段と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する手段と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する手段とを有する画像処理装置と、から構成されていることを特徴としている。
【0015】
請求項7に係る発明は、面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理プログラムにおいて、面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像を入力する機能と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する機能と、面順次で撮像された露光量補正板を含む被写体の3原色の色画像を入力する機能と、前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する機能と、をコンピュータに実現させることを特徴としている。
【発明の効果】
【0016】
本発明によれば、3刺激値のXYZ画像等のデバイスに依存しない測色的色再現画像を取得することができ、特に色再現性の高い高解像度の測色的色再現画像を取得することができる。
【発明を実施するための最良の形態】
【0017】
以下添付図面に従って本発明に係る画像処理方法、画像処理システム及び画像処理プログラムの好ましい実施の形態について詳説する。
【0018】
図1は本発明に係る画像処理システムを構成する面順次撮像装置の実施の形態を示すブロック図である。
【0019】
この面順次撮像装置10は、撮像装置本体100と、回転カラーフィルタ装置200とから構成されており、回転カラーフィルタ装置200を介して撮像した面順次のカラー画像をメモリカード154に記録するものであり、装置全体の動作は、中央処理装置(CPU)140によって統括制御される。尚、ROM151には、予めプログラムや調整値等が記憶されており、これらのプログラム、調整値等は適宜読み出される。
【0020】
撮像装置本体100には、シャッタボタンや、撮影モード、再生モード等を設定するモードダイヤルを含む操作部138が設けられており、この操作部138での操作に応じた信号はCPU140に入力される。
【0021】
被写体を示す画像光は、回転カラーフィルタ装置200、撮影レンズ112、絞り114を介してCCDイメージセンサ、CMOSイメージセンサ等の白黒撮像素子116の受光面に結像される。
【0022】
回転カラーフィルタ装置200のターレット板202は、CPU140によって制御されるフィルタ駆動部137及びモータ204によって回転駆動され、面順次の撮影ごとに各カラーフィルタが撮影レンズ112の光軸上に位置するように制御される。
【0023】
撮影レンズ112は、CPU140によって制御されるレンズ駆動部136によって駆動され、フォーカス制御等が行われる。絞り114は、例えば、5枚の絞り羽根からなり、CPU140によって制御される絞り駆動部134によって駆動され、例えば、絞り値F2.8 〜F11まで1AV 刻みで5段階に絞り制御される。
【0024】
また、CPU140は、絞り駆動部134を介して絞り114を制御するとともに、撮像素子制御部132を介して白黒撮像素子116での電荷蓄積時間(シャッタスピード)の制御等を行う。
【0025】
白黒撮像素子116に蓄積された信号電荷は、撮像素子制御部132から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。白黒撮像素子116から読み出された電圧信号は、アナログ信号処理部118に加えられ、ここで各画素ごとの電圧信号がサンプリングホールドされ、増幅されたのちA/D変換器120に加えられる。A/D変換器120は、順次入力するアナログ信号をデジタル信号に変換し、このデジタル信号(画像データ)は、画像入力コントローラ122を介してメモリ(SDRAM) 148に一時記憶される。
【0026】
メモリ148に記憶された画像データは、デジタル信号処理部124を介して所要の信号処理が行われた後、VRAM150に出力される。VRAM150には、それぞれが1駒分の画像を表す画像データを記憶するA領域とB領域とが含まれている。VRAM150において1駒分の画像を表す画像データがA領域とB領域とで交互に書き換えられる。VRAM150のA領域及びB領域のうち、画像データが書き換えられている方の領域以外の領域から、書き込まれている画像データが読み出される。VRAM150から読み出された画像データはビデオ・エンコーダ128においてエンコーディングされ、カメラ背面に設けられている液晶モニタ130に出力され、これにより被写体像が液晶モニタ130の表示画面上に表示される。
【0027】
また、操作部138のシャッタボタンの第1段階の押下(半押し)があると、AE動作及びAF動作が開始する。 ・即ち、A/D変換器120から出力される画像データがAF検出部142並びにAE検出部144に取り込まれる。AF検出部142では、画像データ(例えば、白黒撮像素子116の中央領域(フォーカス領域)の信号)を使用し、1次元水平方向に連続する画像データからハイパスフィルタ(HPF)を介して高周波成分を抽出し、この高周波成分を積算した値(AF評価値)をCPU140に出力する。AE検出部144では、画面全体の画像データを積算し、又は画面中央部と周辺部とで異なる重みづけをした画像データを積算し、その積算値をCPU140に出力する。
【0028】
CPU140は、AF検出部142から入力するAF評価値に基づいてそのAF評価値が最大になるレンズ位置にレンズ駆動部136を介して撮影レンズ112を移動させるとともに、AE検出部144から入力する積算値より被写体の明るさ(撮影Ev値)を算出し、この撮影Ev値に基づいて絞り114の絞り値及び白黒撮像素子116の電子シャッタ(シャッタスピード)を所定のプログラム線図にしたがって決定し、その決定した絞り値に基づいて絞り駆動部134を介して絞り114を制御するとともに、決定したシャッタスピードに基づいて撮像素子制御部132を介して白黒撮像素子116での電荷蓄積時間を制御する。
【0029】
AE動作及びAF動作が終了し、シャッタボタンの第2段階の押下(全押し)があると、その押下に応答して面順次の撮像が行われ、面順次の各色ごとの画像データは、画像入力コントローラ122を介してメモリ148に一時記憶される。
【0030】
CPU140は、メモリ148に格納された各色ごとの画像データの色ずれを補正する。尚、この色ずれ補正方法の詳細については後述する。
【0031】
デジタル信号処理部124は、色ずれ補正後の各色ごとの画像データに対して、オフセット処理、ホワイトバランス補正及び感度補正を含むゲイン・ ・コントロール処理、ガンマ補正処理、YC処理等の所定の信号処理を行う。YC処理された画像データ(YCデータ)は、デジタル信号処理部124から読み出され、再びメモリ148に記憶される。続いて、YCデータは圧縮伸長処理部126に出力され、JPEG (joint photgraphic experts group)などの所定の圧縮処理が実行される。 ・圧縮されたYCデータは、再びメモリ148に出力されて記憶されたのち、メディア・コントローラ152によって読み出され、メモリカード154に記録される。
【0032】
また、RAWデータ記録を行う場合には、前記画像入力コントローラ122を介して入力する面順次のRAWデータをメモリ148に一時格納したのち、RAWデータ・ファイルとしてそのまま(デジタル信号処理部124での信号処理や圧縮等が行われずに)メモリカード154に記録される。
【0033】
図2は本発明に係る画像処理システムを構成する画像処理装置のハードウェア構成例を示すブロック図である。
【0034】
図2に示すように、この画像処理装置300は、例えば、パソコン等からなり、主として各構成要素の動作を制御する中央処理装置(CPU)310と、装置の制御プログラムが格納されたり、プログラム実行時の作業領域となる主メモリ312と、パソコンのオペレーティングシステム(OS)、本発明に係る画像処理プログラム、各種のアプリケーションソフト、ユーザの画像等が格納されるハードディスク装置314、CD−ROMからのデータの読み込みが可能なCD−ROM装置316と、メモリカード154から画像データ(RAWデータ)を読み取るカード・インターフェース317と、表示用データを一時記憶する表示メモリ318と、この表示メモリ318からの画像データ、文字データ等により画像や文字等を表示するCRTモニタや液晶モニタ等のモニタ装置320と、キーボード322と、位置入力装置としてのマウス324と、マウス324の状態を検出してモニタ装置320上のマウスポインタの位置やマウス324の状態等の信号をCPU310に出力するマウスコントローラ326と、前記面順次撮像装置10等と通信を行う通信インターフェース327と、上記各構成要素を接続するバス328とから構成される。
【0035】
尚、上記構成の画像処理装置300は、ハードディスク装置314に格納される画像処理用プログラムを除いて周知のものであるため、各構成要素の詳細の説明については省略する。また、本発明に係る画像処理用プログラムは、その画像処理用プログラムが記録されたCD−ROMをCD−ROM装置316にセットすることにより画像処理装置300にインストールすることができる。
【0036】
本発明に係る画像処理システムでは、面順次撮像装置10によって撮像したRGB画像からXYZ表色系のXYZ画像を取得するようにしている。尚、XYZ表色系は、CIE(国際照明委員会)によって規定されているデバイスに依存しない表色系の一つである。
【0037】
図3乃至図10はそれぞれ画像処理装置300のモニタ装置320に表示される操作手順、操作内容等を示すGUI(Graphical User Interface)画面を示す図である。
【0038】
<面順次のRGB画像の取得>
最初に、四隅に位置ずれ検出用マーク(十字マーク)が印刷されているホワイトボード(図5参照)を面順次撮像装置10によって面順次で撮像し、この撮像で得たRGBのRAWデータをメモリカード154に記録する。
【0039】
次に、白色板と24色の色票(図8参照)を面順次撮像装置10によって面順次で撮像し、この撮像で得たRGBのRAWデータをメモリカード154に記録する。この白色板のデータは、後述するように面順次の各画像の露光量補正に使用する。このため、白色板である必要はなく、グレー板、極端には色票でも可能である。補正精度を向上させるには、高反射率及びニュートラル性(分光反射率がフラット)が求められる。この2つの条件を満たす点で、白色板が望ましい。
【0040】
その後、白色板を含む被写体(実シーン)を面順次撮像装置10によって面順次で撮像し、この撮像で得たRGBのRAWデータをメモリカード154に記録する。尚、任意の実シーンを撮像する際には、必ず白色板を入れて撮像する。
【0041】
上記メモリカード154をカード・インターフェース317に装填することにより、画像処理装置300は、RGBのRAWデータの読み出しを適宜行うことができる。尚、図2に示すように面順次撮像装置10をIEEE1394、USBなどの通信インターフェース327に接続し、画像処理装置300は、通信インターフェース327を介して面順次撮像装置10からRAWデータの読み出しを行うようにしてもよい。
【0042】
<位置ずれ評価動作手順>
[手順1]
画像処理装置300において、本発明に係る画像処理プログラムを起動させる。
【0043】
[手順2]
十字マークを撮像したRGBのRAWデータを入力する。即ち、図3に示すように、GUI画面上で、Rボタンを押し、RのRAWデータが記録されたファイルを選択し、同様にしてG、BのRAWデータが記録されたファイルを選択する。
【0044】
[手順3]
図3のGUI画面上で「実行」ボタンを押下し、ハニカム補間された画像を生成する。即ち、画像処理装置300は、RAW現像ソフトによってRAWデータに対してリニアマトリクス処理、ホワイトバランス処理、同時化処理等を行い、ディスプレイ等に出力できるデータを生成する。尚、面順次撮像装置10の白黒撮像素子116は、ハニカム配列と呼ばれる画素配列であり、受光セルの幾何学的な形状の中心点を行方向及び列方向に1つおきに画素ピッチの半分(1/2ピッチ)ずらして配列させたものとなっている。従って、上記RAW現像では、ハニカム配列の空間位置の画素データをピッチずれのないデータに変換するためのハニカム補間も行われている。
【0045】
[手順4]
次に、図4に示すGUI画面上で、「位置ズレ評価」ボタンを押下し、ずれ補正ウインドウを立ち上げる。
【0046】
[手順5]
図5はずれ補正ウインドウを示すGUI画面である。このGUI画面の4つの窓には、十字マークを有するホワイトボードの4隅の画像が表示されている。そして、以下の手順で4つの窓から位置ずれ評価する箇所(十字マーク)を選択し、位置ずれ量を計算する。
【0047】
(1) 矩形を動かし、十字マークに合わせる。
【0048】
(2) 表示されている窓の上にある「確定」ボタンを押下する。
【0049】
(3) 上記(1) 、(2) の操作を4箇所で行う。
【0050】
(4) 確定後、「計算」ボタンを押下する。
【0051】
(5) R-AFFINE係数(Rチャンネル)、B-AFFINE係数(Bチャンネル)にGチャンネルを基準としたずれ量が算出される。即ち、G画像を基準にしてR画像、B画像の位置ずれ、角度ずれが算出される。これにより、RGB画像の相互の位置ずれを評価することができる。尚、1画素以上の位置ずれが生じている場合には、前記算出したずれ量に基づいてG画像に対するR画像、B画像のずれを補正することができる。
【0052】
<較正系及び表示系の動作手順>
[手順1]
図6のGUI画面上で、白色板と色票を撮像したRGBのRAWデータを入力する。即ち、GUI画面上で、「R」ボタンを押し、RのRAWデータが記録された較正用のファイルを選択し、同様にしてG、BのRAWデータが記録されたファイルを選択する。
【0053】
[手順2]
「XYZ」ボタンを押下し、白色板と色票のXYZファイルを入力する。このXYZファイルには、白色板と24色の色票の分光輝度計で測定した、25個のXYZ値が記録されている。
【0054】
[手順3]
「実行」ボタンを押下すると、上記入力されたファイルが読み込まれる。
【0055】
[手順4]
次に、図7に示すGUI画面上で、「MTX算出」ラジオボタンにチェックし、「OK」ボタンを押下し、範囲指定ウインドウを立ち上げる。
【0056】
[手順5]
図8は選択範囲の平均値算出用ウインドウを示すGUI画面である。このGUI画面上で、「個別指定」ラジオボタンをチェックし、データを読み込む矩形のXサイズ、Yサイズを入力する。その後、白色板及び24色の色票の位置を順に選択し、「RGB値取得/MTX算出」ボタンを押下する。矩形内に平均値が表示されれば、「OK」ボタンを押してウインドウを閉じる。尚、白色板、色票のXYZ値の順番と、白色板、色票のRGB値取得の順番とが同順になるように白色板及び色票の選択の順番を合わせる。この例では、最初に白色板を選択し、続いて24色の色票を、図9のGUI画面上で画面左下から右上にかけて選択している。
【0057】
上記操作により、RGBの各面ごとに白色板及び24色の色票の矩形領域の平均値が算出され、この算出結果と、白色板と色票のXYZ値とに基づいてRGB画像をXYZ画像に変換する変換パラメータ(変換マトリクス)が算出される。尚、この詳細については後述する。また、この実施の形態では、白色板及び色票の矩形領域の平均値をその矩形領域の色画像の代表値としたが、これに限らず、中央値などの値を用いてもよい。
【0058】
[手順6]
次に、図9のGUI画面上で、白色板を含む被写体(実シーン)を撮像したRGBのRAWデータを入力する。即ち、GUI画面上で、「R」ボタンを押し、RのRAWデータが記録された実シーン用のファイルを選択し、同様にしてG、BのRAWデータが記録されたファイルを選択する。
【0059】
尚、実シーン用のファイルは、較正用のファイルと同じ光源下で撮像されたRAWデータが記録されたものを使用する。異なる光源下で撮像されたRAWデータを使用する場合には、再度、変換マトリクスを算出する必要がある。
【0060】
[手順7]
次に、図9のGUI画面上で「白色板及び光源XYZ入力」ボタンを押下し、図10に示す白色板RGB取得ビューワを立ち上げる。図10に示すGUI画面上で、「白色板指定」にチェックを入れ、適当な矩形サイズを入力する。続いて、GUI画面上の白色板の位置をマウスで指定する。
【0061】
[手順8]
続いて、「OK」ボタンを押下すると、前記入力した矩形内にRGB画像ごとに平均値が算出され、この算出結果によって実シーンのRAWデータの規格化が行われる。これにより、RGBの各面の撮像時のシャッタのばらつきの補正(=ホワイトバランス補正に相当)が行われる。
【0062】
そして、実シーンのRGBのRAWデータ、白色板のRGB値、XYZ値、及び変換マトリクスに基づいて実シーンのRGB画像をXYZ画像に変換する。
【0063】
図11は本発明に係る画像処理システムでの2つの処理(較正系A,表示系B)によって面順次撮像装置10によって撮像したRGB画像からXYZ画像を取得する処理の流れを示すフローチャートである。
【0064】
図11において、前述したように面順次撮像装置10によって面順次で撮像された白色板と24色の色票のRAWデータ(較正用のRAWデータ)、及び白色板を含む被写体のRAWデータ(実シーンのRAWデータ)を取り込む(ステップS10)。これらのRAWデータは、ハニカム補間されて新たな較正用のRAWデータ、及び実シーンのRAWデータとして一時保存される(ステップS12、S14)。
【0065】
前記RAWデータは、RAW画像表示のために使用されるとともに、較正用のRAWデータからは白色板及び24色の色票のRGB値が算出され、実シーンのRAWデータからは白色板のRGB値が算出される(ステップS16)。較正用のRAWデータから算出された白色板及び色票のRGB値は、較正系Aに送られ、実シーンのRAWデータ及び実シーンのRAWデータから算出された白色板のRGB値は、それぞれ表示系Bに送られる。
【0066】
<較正系A>
較正系Aでは、以下の処理によってRGB画像をXYZ画像に変換するパラメータ(MTX)ファイルを作成する。
【0067】
(1) 24色の色票のXYZ(Xn,Yn,Zn), RGB(Rn,Gn,Bn)と、白色板のXYZ(Xw,Yw,Zw), RGB(Rw,Gw,Bw)とを入力する(ステップS20、S22)。尚、24色の色票のXYZ(Xn,Yn,Zn), 及び白色板のXYZ(Xw,Yw,Zw)は、予め分光輝度計により得られた分光データと等色関数より計算して求めた測色値である。
【0068】
(2) 上記(1) で入力したRGB値、XYZ値を次式に代入し、変換マトリクスA(3×3)を算出する(ステップS24)。
【0069】
【数1】
上記(1) 式からも明らかなように、面順次の撮影時のシャッタのばらつき、撮影光源の変動、シャッタ速度、絞りの変更の影響を受けないように、入力するRGB値を白色板のRGB値(Rw,Gw,Bw)で除算することで規格化している。
【0070】
このようして求めた変換マトリクスAは、パラメータファイルとして表示系Bに出力される(ステップS26)。
【0071】
<表示系B>
表示系Bでは、実シーンのRGB画像からXYZ画像を作成する。
【0072】
(1) 実シーンのRGB画像(RAWデータ)、白色板のRGB値、及び較正系Aで作成したパラメータファイルを入力する(ステップS30)。
【0073】
(2) 前記入力した値を、以下の(2) 式に代入することによりXYZ画像を算出する(ステップS32)。
【0074】
【数2】
上記(2) 式からも明らかなように、面順次の撮影時のシャッタのばらつき、撮影光源の変動、シャッタ速度、絞りの変更の影響を受けないように、実シーンのRGB値を白色板のRGB値(Rw', Gw', Bw') で除算することで規格化している。また、較正用の撮影時と実シーンの撮影時との撮影条件の変動を補正するために、実シーンの白色板のXYZ値(Xw', Yw', Zw') を、較正時に使用した白色板のXYZ値(Xw,Yw,Zw)で除算する。尚、実シーンの白色板のXYZ値(Xw', Yw', Zw') は、(1) 式で算出した変換マトリクスAと実シーンの白色板のRGB値(Rw', Gw', Bw') とから算出することができる。
【0075】
また、較正系Aと表示系Bでの白色板のXYZ値が変わらない場合(白色板の位置や光源の変動がない場合)、(Xw', Yw', Zw') =(Xw,Yw,Zw)となるため、(2) 式は、以下の(3) 式となる。
【0076】
【数3】
また、実シーンの白色板のXYZ値(Xw', Yw', Zw') から撮影光源のXYZ値(Xs', Ys', Zs') を算出する(ステップS34)。(2) 式、(3) 式において、100/Ys'を乗算することにより、撮影光源のYs'を100として規格化されたXYZ画像を得ることができる。
【0077】
このようにして取得したXYZ画像から色差(ΔE)を算出すると、約ΔE=1.5となった。これにより、高解像度かつ高精度の測色的色再現画像(XYZ画像)を得ることができることが確認された。また、このシステムにより得られるXYZ画像は、製品の色の評価、印刷などの分野での利用が期待できる。
【0078】
尚、この実施の形態では、面順次のRGB画像からXYZ画像を得る場合について説明したが、本発明はXYZ画像以外の測色的色再現画像(例えば、Lab画像)を得る場合にも適用できる。また、面順次の色画像は、RGB画像に限らず、例えば、CMYのカラーフィルタを使った面順次のCMY画像でもよい。更に、4色以上のカラーフィルタを使用した面順次の色画像から測色的色再現画像を取得する場合にも本発明は適用できる。そして、N(N≧4の整数)色の場合には、測色補正変換としてN×3行列の変換マトリクスを使用することとなる。
【図面の簡単な説明】
【0079】
【図1】図1は本発明に係る画像処理システムを構成する面順次撮像装置の実施の形態を示すブロック図である。
【図2】図2は本発明に係る画像処理システムを構成する画像処理装置のハードウェア構成例を示すブロック図である。
【図3】図3は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図4】図4は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図5】図5は画像処理装置のモニタ装置に表示されるGUI画面を示す図であり、特にずれ補正ウインドウを示すGUI画面を示す図である。
【図6】図6は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図7】図7は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図8】図8は画像処理装置のモニタ装置に表示されるGUI画面を示す図であり、特に選択範囲の平均値算出用ウインドウを示すGUI画面を示す図である。
【図9】図9は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図10】図10は画像処理装置のモニタ装置に表示されるGUI画面を示す図であり、特に白色板RGB取得ビューワを示す図である。
【図11】図11は撮像したRGB画像からXYZ画像を取得する処理の流れを示すフローチャートである。
【符号の説明】
【0080】
10…面順次撮像装置、100…撮像装置本体、200…回転カラーフィルタ装置、300…画像処理装置
【技術分野】
【0001】
本発明は画像処理方法、画像処理システム及び画像処理プログラムに係り、特に面順次で撮像された3原色の色画像からデバイスに依存しない表色系画像を取得する技術に関する。
【背景技術】
【0002】
一般に、RGB等の3原色のカラーフィルタを通して得られた3原色画像を、XYZ表色系のXYZ画像に変換するには、3×3マトリクスや3D−LUT(3次元ルックアップテーブル)が利用されている(特許文献1、2参照)。
【0003】
また、3原色のカラーフィルタを通してカラー画像を得る方式として、3原色の各色画像を面順次で取得する面順次の撮像方式がある。この種の面順次の撮像方式は、3原色のカラーフィルタを有する回転カラーフィルタを回転させるとともに、各カラーフィルタが撮影光学系の光軸上に移動するごとに、そのカラーフィルタを介して被写体を白黒撮像装置によって撮像し、各色に対応する画像を順次取り込むようにしている。
【特許文献1】特開2001−94800号公報
【特許文献2】特開平9−37091号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
面順次の撮像方式は、3原色のカラーフィルタが所定の配列構造(ベイヤー、Gストライプなど)で配置されている単板の固体撮像素子であって、同じ画素数及びサイズの固体撮像素子を使用する撮像装置に比べて高解像度の画像が得られるとともに、カラーフィルタの設計の自由度が大きいという利点がある。
【0005】
一方、面順次の撮像方式は、3原色画像の各撮影時にシャッタ速度のバラツキ、撮影光源の変動等の影響を受けやすく、その結果、被写体の正確な3原色画像が得られないおそれがある。また、回転カラーフィルタの回転軸の振れやカラーフィルタの取付精度等により、各回転カラーフィルタの回転位置に応じて結像面での被写体像の位置がずれる(3原色画像の各色面の位置ずれが生じる)という問題がある。
【0006】
本発明はこのような事情に鑑みてなされたもので、面順次の撮像方式の上記不具合を解消するとともに、色再現性の高いXYZ画像等の測色的色再現画像を取得することができる画像処理方法、画像処理システム及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
前記目的を達成するために請求項1に係る発明は、面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理方法において、露光量補正板及び測色変換用色票を面順次で撮像して3原色の色画像を取得する工程と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する第1の規格化工程と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する工程と、露光量補正板を含む被写体を面順次で撮像して3原色の色画像を取得する工程と、前記被写体の各色画像をそれぞれ測色変換用色票の対応する色画像値で規格化する第2の規格化工程と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する工程と、を含むことを特徴としている。
【0008】
まず、3原色の色画像をデバイスに依存しない測色的色再現画像に変換するための変換パラメータを算出する。この変換パラメータの算出に際し、露光量補正板及び測色変換用色票を面順次で撮像して3原色の色画像を取得し、露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する。これにより、露光量補正板及び測色変換用色票の面順次の撮像時におけるシャッタ速度のバラツキ、撮影光源の変動等の影響のない露光量補正板及び測色変換用色票の色画像を得るようにしている。このようにして規格化した露光量補正板及び測色変換用色票の色画像値と、露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する。
【0009】
続いて、露光量補正板を含む任意の被写体を面順次で撮像して3原色の色画像を取得し、この被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する。これにより、被写体の面順次の撮像時におけるシャッタ速度のバラツキ、撮影光源の変動等の影響のない被写体の色画像を得るようにしている。このようにして規格化した被写体の各色画像と、前記算出した変換パラメータとに基づいて被写体の色画像を前記測色的色再現画像に変換している。
【0010】
請求項2に示すように請求項1に記載の画像処理方法において、2以上の位置ずれ検出用マークを有する被写体を面順次で撮像して3原色の色画像を取得する工程と、前記各色画像上の位置ずれ検出用マークの位置を検出する工程と、前記検出した位置ずれ検出用マークの位置に基づいて各色画像間の位置ずれ量を検出する工程とを含み、その後、面順次で撮像される3原色の色画像は、前記検出された位置ずれ量に基づいて各画像間の位置ずれ補正を行うことを特徴としている。これにより、面順次で撮像した3原色の各色画像は、結像位置でそれぞれ位置ずれが生じていても、各色画像間の位置ずれは補正され、虚色等が発生することがない。
【0011】
請求項3に示すように請求項1又は2に記載の画像処理方法において、前記第1の規格化工程は、前記面順次で撮像した3原色の色画像に基づいて露光量補正板及び測色変換用色票を含む画面を表示手段に表示させる工程と、前記画面上で露光量補正板及び測色変換用色票の各領域を指定する工程と、前記指定された領域別の各色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板の領域の各色画像ごとの代表値によって前記露光量補正板及び測色変換用色票の領域の色画像ごとの代表値をそれぞれ除算する工程とを含み、前記除算した値を前記規格化した露光量補正板及び測色変換用色票の色画像値とすることを特徴としている。
【0012】
請求項4に示すように請求項1乃至3のいずれかに記載の画像処理方法において、前記第2の規格化工程は、前記面順次で撮像した色画像に基づいて露光量補正板を含む被写体画面を表示手段に表示させる工程と、前記画面上で露光量補正板の領域を指定する工程と、前記指定された領域の色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板板の領域の色画像ごとの代表値によって前記面順次で撮像した各色画像をそれぞれ除算する工程と、を含むことを特徴としている。
【0013】
請求項5に示すように請求項1乃至4のいずれかに記載の画像処理方法において、前記測色的色再現画像は、XYZ表色系のXYZ画像、又はLab表色系のLab画像であることを特徴としている。
【0014】
請求項6に係る画像処理システムは、白黒撮像手段と、少なくとも3原色のカラーフィルタを有し、各カラーフィルタを前記白黒撮像手段の撮影光路上に順次切り替えて配置するカラーフィルタ手段と、被写体の撮像時に前記カラーフィルタ手段及び白黒撮像手段を制御して面順次の画像データを取得する撮像制御手段とを有する面順次撮像装置と、前記面順次撮像装置によって面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像と、面順次で撮像された露光量補正板を含む被写体の3原色の色画像とを入力する画像入力手段と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化するとともに、前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する手段と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する手段と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する手段とを有する画像処理装置と、から構成されていることを特徴としている。
【0015】
請求項7に係る発明は、面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理プログラムにおいて、面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像を入力する機能と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する機能と、面順次で撮像された露光量補正板を含む被写体の3原色の色画像を入力する機能と、前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する機能と、をコンピュータに実現させることを特徴としている。
【発明の効果】
【0016】
本発明によれば、3刺激値のXYZ画像等のデバイスに依存しない測色的色再現画像を取得することができ、特に色再現性の高い高解像度の測色的色再現画像を取得することができる。
【発明を実施するための最良の形態】
【0017】
以下添付図面に従って本発明に係る画像処理方法、画像処理システム及び画像処理プログラムの好ましい実施の形態について詳説する。
【0018】
図1は本発明に係る画像処理システムを構成する面順次撮像装置の実施の形態を示すブロック図である。
【0019】
この面順次撮像装置10は、撮像装置本体100と、回転カラーフィルタ装置200とから構成されており、回転カラーフィルタ装置200を介して撮像した面順次のカラー画像をメモリカード154に記録するものであり、装置全体の動作は、中央処理装置(CPU)140によって統括制御される。尚、ROM151には、予めプログラムや調整値等が記憶されており、これらのプログラム、調整値等は適宜読み出される。
【0020】
撮像装置本体100には、シャッタボタンや、撮影モード、再生モード等を設定するモードダイヤルを含む操作部138が設けられており、この操作部138での操作に応じた信号はCPU140に入力される。
【0021】
被写体を示す画像光は、回転カラーフィルタ装置200、撮影レンズ112、絞り114を介してCCDイメージセンサ、CMOSイメージセンサ等の白黒撮像素子116の受光面に結像される。
【0022】
回転カラーフィルタ装置200のターレット板202は、CPU140によって制御されるフィルタ駆動部137及びモータ204によって回転駆動され、面順次の撮影ごとに各カラーフィルタが撮影レンズ112の光軸上に位置するように制御される。
【0023】
撮影レンズ112は、CPU140によって制御されるレンズ駆動部136によって駆動され、フォーカス制御等が行われる。絞り114は、例えば、5枚の絞り羽根からなり、CPU140によって制御される絞り駆動部134によって駆動され、例えば、絞り値F2.8 〜F11まで1AV 刻みで5段階に絞り制御される。
【0024】
また、CPU140は、絞り駆動部134を介して絞り114を制御するとともに、撮像素子制御部132を介して白黒撮像素子116での電荷蓄積時間(シャッタスピード)の制御等を行う。
【0025】
白黒撮像素子116に蓄積された信号電荷は、撮像素子制御部132から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。白黒撮像素子116から読み出された電圧信号は、アナログ信号処理部118に加えられ、ここで各画素ごとの電圧信号がサンプリングホールドされ、増幅されたのちA/D変換器120に加えられる。A/D変換器120は、順次入力するアナログ信号をデジタル信号に変換し、このデジタル信号(画像データ)は、画像入力コントローラ122を介してメモリ(SDRAM) 148に一時記憶される。
【0026】
メモリ148に記憶された画像データは、デジタル信号処理部124を介して所要の信号処理が行われた後、VRAM150に出力される。VRAM150には、それぞれが1駒分の画像を表す画像データを記憶するA領域とB領域とが含まれている。VRAM150において1駒分の画像を表す画像データがA領域とB領域とで交互に書き換えられる。VRAM150のA領域及びB領域のうち、画像データが書き換えられている方の領域以外の領域から、書き込まれている画像データが読み出される。VRAM150から読み出された画像データはビデオ・エンコーダ128においてエンコーディングされ、カメラ背面に設けられている液晶モニタ130に出力され、これにより被写体像が液晶モニタ130の表示画面上に表示される。
【0027】
また、操作部138のシャッタボタンの第1段階の押下(半押し)があると、AE動作及びAF動作が開始する。 ・即ち、A/D変換器120から出力される画像データがAF検出部142並びにAE検出部144に取り込まれる。AF検出部142では、画像データ(例えば、白黒撮像素子116の中央領域(フォーカス領域)の信号)を使用し、1次元水平方向に連続する画像データからハイパスフィルタ(HPF)を介して高周波成分を抽出し、この高周波成分を積算した値(AF評価値)をCPU140に出力する。AE検出部144では、画面全体の画像データを積算し、又は画面中央部と周辺部とで異なる重みづけをした画像データを積算し、その積算値をCPU140に出力する。
【0028】
CPU140は、AF検出部142から入力するAF評価値に基づいてそのAF評価値が最大になるレンズ位置にレンズ駆動部136を介して撮影レンズ112を移動させるとともに、AE検出部144から入力する積算値より被写体の明るさ(撮影Ev値)を算出し、この撮影Ev値に基づいて絞り114の絞り値及び白黒撮像素子116の電子シャッタ(シャッタスピード)を所定のプログラム線図にしたがって決定し、その決定した絞り値に基づいて絞り駆動部134を介して絞り114を制御するとともに、決定したシャッタスピードに基づいて撮像素子制御部132を介して白黒撮像素子116での電荷蓄積時間を制御する。
【0029】
AE動作及びAF動作が終了し、シャッタボタンの第2段階の押下(全押し)があると、その押下に応答して面順次の撮像が行われ、面順次の各色ごとの画像データは、画像入力コントローラ122を介してメモリ148に一時記憶される。
【0030】
CPU140は、メモリ148に格納された各色ごとの画像データの色ずれを補正する。尚、この色ずれ補正方法の詳細については後述する。
【0031】
デジタル信号処理部124は、色ずれ補正後の各色ごとの画像データに対して、オフセット処理、ホワイトバランス補正及び感度補正を含むゲイン・ ・コントロール処理、ガンマ補正処理、YC処理等の所定の信号処理を行う。YC処理された画像データ(YCデータ)は、デジタル信号処理部124から読み出され、再びメモリ148に記憶される。続いて、YCデータは圧縮伸長処理部126に出力され、JPEG (joint photgraphic experts group)などの所定の圧縮処理が実行される。 ・圧縮されたYCデータは、再びメモリ148に出力されて記憶されたのち、メディア・コントローラ152によって読み出され、メモリカード154に記録される。
【0032】
また、RAWデータ記録を行う場合には、前記画像入力コントローラ122を介して入力する面順次のRAWデータをメモリ148に一時格納したのち、RAWデータ・ファイルとしてそのまま(デジタル信号処理部124での信号処理や圧縮等が行われずに)メモリカード154に記録される。
【0033】
図2は本発明に係る画像処理システムを構成する画像処理装置のハードウェア構成例を示すブロック図である。
【0034】
図2に示すように、この画像処理装置300は、例えば、パソコン等からなり、主として各構成要素の動作を制御する中央処理装置(CPU)310と、装置の制御プログラムが格納されたり、プログラム実行時の作業領域となる主メモリ312と、パソコンのオペレーティングシステム(OS)、本発明に係る画像処理プログラム、各種のアプリケーションソフト、ユーザの画像等が格納されるハードディスク装置314、CD−ROMからのデータの読み込みが可能なCD−ROM装置316と、メモリカード154から画像データ(RAWデータ)を読み取るカード・インターフェース317と、表示用データを一時記憶する表示メモリ318と、この表示メモリ318からの画像データ、文字データ等により画像や文字等を表示するCRTモニタや液晶モニタ等のモニタ装置320と、キーボード322と、位置入力装置としてのマウス324と、マウス324の状態を検出してモニタ装置320上のマウスポインタの位置やマウス324の状態等の信号をCPU310に出力するマウスコントローラ326と、前記面順次撮像装置10等と通信を行う通信インターフェース327と、上記各構成要素を接続するバス328とから構成される。
【0035】
尚、上記構成の画像処理装置300は、ハードディスク装置314に格納される画像処理用プログラムを除いて周知のものであるため、各構成要素の詳細の説明については省略する。また、本発明に係る画像処理用プログラムは、その画像処理用プログラムが記録されたCD−ROMをCD−ROM装置316にセットすることにより画像処理装置300にインストールすることができる。
【0036】
本発明に係る画像処理システムでは、面順次撮像装置10によって撮像したRGB画像からXYZ表色系のXYZ画像を取得するようにしている。尚、XYZ表色系は、CIE(国際照明委員会)によって規定されているデバイスに依存しない表色系の一つである。
【0037】
図3乃至図10はそれぞれ画像処理装置300のモニタ装置320に表示される操作手順、操作内容等を示すGUI(Graphical User Interface)画面を示す図である。
【0038】
<面順次のRGB画像の取得>
最初に、四隅に位置ずれ検出用マーク(十字マーク)が印刷されているホワイトボード(図5参照)を面順次撮像装置10によって面順次で撮像し、この撮像で得たRGBのRAWデータをメモリカード154に記録する。
【0039】
次に、白色板と24色の色票(図8参照)を面順次撮像装置10によって面順次で撮像し、この撮像で得たRGBのRAWデータをメモリカード154に記録する。この白色板のデータは、後述するように面順次の各画像の露光量補正に使用する。このため、白色板である必要はなく、グレー板、極端には色票でも可能である。補正精度を向上させるには、高反射率及びニュートラル性(分光反射率がフラット)が求められる。この2つの条件を満たす点で、白色板が望ましい。
【0040】
その後、白色板を含む被写体(実シーン)を面順次撮像装置10によって面順次で撮像し、この撮像で得たRGBのRAWデータをメモリカード154に記録する。尚、任意の実シーンを撮像する際には、必ず白色板を入れて撮像する。
【0041】
上記メモリカード154をカード・インターフェース317に装填することにより、画像処理装置300は、RGBのRAWデータの読み出しを適宜行うことができる。尚、図2に示すように面順次撮像装置10をIEEE1394、USBなどの通信インターフェース327に接続し、画像処理装置300は、通信インターフェース327を介して面順次撮像装置10からRAWデータの読み出しを行うようにしてもよい。
【0042】
<位置ずれ評価動作手順>
[手順1]
画像処理装置300において、本発明に係る画像処理プログラムを起動させる。
【0043】
[手順2]
十字マークを撮像したRGBのRAWデータを入力する。即ち、図3に示すように、GUI画面上で、Rボタンを押し、RのRAWデータが記録されたファイルを選択し、同様にしてG、BのRAWデータが記録されたファイルを選択する。
【0044】
[手順3]
図3のGUI画面上で「実行」ボタンを押下し、ハニカム補間された画像を生成する。即ち、画像処理装置300は、RAW現像ソフトによってRAWデータに対してリニアマトリクス処理、ホワイトバランス処理、同時化処理等を行い、ディスプレイ等に出力できるデータを生成する。尚、面順次撮像装置10の白黒撮像素子116は、ハニカム配列と呼ばれる画素配列であり、受光セルの幾何学的な形状の中心点を行方向及び列方向に1つおきに画素ピッチの半分(1/2ピッチ)ずらして配列させたものとなっている。従って、上記RAW現像では、ハニカム配列の空間位置の画素データをピッチずれのないデータに変換するためのハニカム補間も行われている。
【0045】
[手順4]
次に、図4に示すGUI画面上で、「位置ズレ評価」ボタンを押下し、ずれ補正ウインドウを立ち上げる。
【0046】
[手順5]
図5はずれ補正ウインドウを示すGUI画面である。このGUI画面の4つの窓には、十字マークを有するホワイトボードの4隅の画像が表示されている。そして、以下の手順で4つの窓から位置ずれ評価する箇所(十字マーク)を選択し、位置ずれ量を計算する。
【0047】
(1) 矩形を動かし、十字マークに合わせる。
【0048】
(2) 表示されている窓の上にある「確定」ボタンを押下する。
【0049】
(3) 上記(1) 、(2) の操作を4箇所で行う。
【0050】
(4) 確定後、「計算」ボタンを押下する。
【0051】
(5) R-AFFINE係数(Rチャンネル)、B-AFFINE係数(Bチャンネル)にGチャンネルを基準としたずれ量が算出される。即ち、G画像を基準にしてR画像、B画像の位置ずれ、角度ずれが算出される。これにより、RGB画像の相互の位置ずれを評価することができる。尚、1画素以上の位置ずれが生じている場合には、前記算出したずれ量に基づいてG画像に対するR画像、B画像のずれを補正することができる。
【0052】
<較正系及び表示系の動作手順>
[手順1]
図6のGUI画面上で、白色板と色票を撮像したRGBのRAWデータを入力する。即ち、GUI画面上で、「R」ボタンを押し、RのRAWデータが記録された較正用のファイルを選択し、同様にしてG、BのRAWデータが記録されたファイルを選択する。
【0053】
[手順2]
「XYZ」ボタンを押下し、白色板と色票のXYZファイルを入力する。このXYZファイルには、白色板と24色の色票の分光輝度計で測定した、25個のXYZ値が記録されている。
【0054】
[手順3]
「実行」ボタンを押下すると、上記入力されたファイルが読み込まれる。
【0055】
[手順4]
次に、図7に示すGUI画面上で、「MTX算出」ラジオボタンにチェックし、「OK」ボタンを押下し、範囲指定ウインドウを立ち上げる。
【0056】
[手順5]
図8は選択範囲の平均値算出用ウインドウを示すGUI画面である。このGUI画面上で、「個別指定」ラジオボタンをチェックし、データを読み込む矩形のXサイズ、Yサイズを入力する。その後、白色板及び24色の色票の位置を順に選択し、「RGB値取得/MTX算出」ボタンを押下する。矩形内に平均値が表示されれば、「OK」ボタンを押してウインドウを閉じる。尚、白色板、色票のXYZ値の順番と、白色板、色票のRGB値取得の順番とが同順になるように白色板及び色票の選択の順番を合わせる。この例では、最初に白色板を選択し、続いて24色の色票を、図9のGUI画面上で画面左下から右上にかけて選択している。
【0057】
上記操作により、RGBの各面ごとに白色板及び24色の色票の矩形領域の平均値が算出され、この算出結果と、白色板と色票のXYZ値とに基づいてRGB画像をXYZ画像に変換する変換パラメータ(変換マトリクス)が算出される。尚、この詳細については後述する。また、この実施の形態では、白色板及び色票の矩形領域の平均値をその矩形領域の色画像の代表値としたが、これに限らず、中央値などの値を用いてもよい。
【0058】
[手順6]
次に、図9のGUI画面上で、白色板を含む被写体(実シーン)を撮像したRGBのRAWデータを入力する。即ち、GUI画面上で、「R」ボタンを押し、RのRAWデータが記録された実シーン用のファイルを選択し、同様にしてG、BのRAWデータが記録されたファイルを選択する。
【0059】
尚、実シーン用のファイルは、較正用のファイルと同じ光源下で撮像されたRAWデータが記録されたものを使用する。異なる光源下で撮像されたRAWデータを使用する場合には、再度、変換マトリクスを算出する必要がある。
【0060】
[手順7]
次に、図9のGUI画面上で「白色板及び光源XYZ入力」ボタンを押下し、図10に示す白色板RGB取得ビューワを立ち上げる。図10に示すGUI画面上で、「白色板指定」にチェックを入れ、適当な矩形サイズを入力する。続いて、GUI画面上の白色板の位置をマウスで指定する。
【0061】
[手順8]
続いて、「OK」ボタンを押下すると、前記入力した矩形内にRGB画像ごとに平均値が算出され、この算出結果によって実シーンのRAWデータの規格化が行われる。これにより、RGBの各面の撮像時のシャッタのばらつきの補正(=ホワイトバランス補正に相当)が行われる。
【0062】
そして、実シーンのRGBのRAWデータ、白色板のRGB値、XYZ値、及び変換マトリクスに基づいて実シーンのRGB画像をXYZ画像に変換する。
【0063】
図11は本発明に係る画像処理システムでの2つの処理(較正系A,表示系B)によって面順次撮像装置10によって撮像したRGB画像からXYZ画像を取得する処理の流れを示すフローチャートである。
【0064】
図11において、前述したように面順次撮像装置10によって面順次で撮像された白色板と24色の色票のRAWデータ(較正用のRAWデータ)、及び白色板を含む被写体のRAWデータ(実シーンのRAWデータ)を取り込む(ステップS10)。これらのRAWデータは、ハニカム補間されて新たな較正用のRAWデータ、及び実シーンのRAWデータとして一時保存される(ステップS12、S14)。
【0065】
前記RAWデータは、RAW画像表示のために使用されるとともに、較正用のRAWデータからは白色板及び24色の色票のRGB値が算出され、実シーンのRAWデータからは白色板のRGB値が算出される(ステップS16)。較正用のRAWデータから算出された白色板及び色票のRGB値は、較正系Aに送られ、実シーンのRAWデータ及び実シーンのRAWデータから算出された白色板のRGB値は、それぞれ表示系Bに送られる。
【0066】
<較正系A>
較正系Aでは、以下の処理によってRGB画像をXYZ画像に変換するパラメータ(MTX)ファイルを作成する。
【0067】
(1) 24色の色票のXYZ(Xn,Yn,Zn), RGB(Rn,Gn,Bn)と、白色板のXYZ(Xw,Yw,Zw), RGB(Rw,Gw,Bw)とを入力する(ステップS20、S22)。尚、24色の色票のXYZ(Xn,Yn,Zn), 及び白色板のXYZ(Xw,Yw,Zw)は、予め分光輝度計により得られた分光データと等色関数より計算して求めた測色値である。
【0068】
(2) 上記(1) で入力したRGB値、XYZ値を次式に代入し、変換マトリクスA(3×3)を算出する(ステップS24)。
【0069】
【数1】
上記(1) 式からも明らかなように、面順次の撮影時のシャッタのばらつき、撮影光源の変動、シャッタ速度、絞りの変更の影響を受けないように、入力するRGB値を白色板のRGB値(Rw,Gw,Bw)で除算することで規格化している。
【0070】
このようして求めた変換マトリクスAは、パラメータファイルとして表示系Bに出力される(ステップS26)。
【0071】
<表示系B>
表示系Bでは、実シーンのRGB画像からXYZ画像を作成する。
【0072】
(1) 実シーンのRGB画像(RAWデータ)、白色板のRGB値、及び較正系Aで作成したパラメータファイルを入力する(ステップS30)。
【0073】
(2) 前記入力した値を、以下の(2) 式に代入することによりXYZ画像を算出する(ステップS32)。
【0074】
【数2】
上記(2) 式からも明らかなように、面順次の撮影時のシャッタのばらつき、撮影光源の変動、シャッタ速度、絞りの変更の影響を受けないように、実シーンのRGB値を白色板のRGB値(Rw', Gw', Bw') で除算することで規格化している。また、較正用の撮影時と実シーンの撮影時との撮影条件の変動を補正するために、実シーンの白色板のXYZ値(Xw', Yw', Zw') を、較正時に使用した白色板のXYZ値(Xw,Yw,Zw)で除算する。尚、実シーンの白色板のXYZ値(Xw', Yw', Zw') は、(1) 式で算出した変換マトリクスAと実シーンの白色板のRGB値(Rw', Gw', Bw') とから算出することができる。
【0075】
また、較正系Aと表示系Bでの白色板のXYZ値が変わらない場合(白色板の位置や光源の変動がない場合)、(Xw', Yw', Zw') =(Xw,Yw,Zw)となるため、(2) 式は、以下の(3) 式となる。
【0076】
【数3】
また、実シーンの白色板のXYZ値(Xw', Yw', Zw') から撮影光源のXYZ値(Xs', Ys', Zs') を算出する(ステップS34)。(2) 式、(3) 式において、100/Ys'を乗算することにより、撮影光源のYs'を100として規格化されたXYZ画像を得ることができる。
【0077】
このようにして取得したXYZ画像から色差(ΔE)を算出すると、約ΔE=1.5となった。これにより、高解像度かつ高精度の測色的色再現画像(XYZ画像)を得ることができることが確認された。また、このシステムにより得られるXYZ画像は、製品の色の評価、印刷などの分野での利用が期待できる。
【0078】
尚、この実施の形態では、面順次のRGB画像からXYZ画像を得る場合について説明したが、本発明はXYZ画像以外の測色的色再現画像(例えば、Lab画像)を得る場合にも適用できる。また、面順次の色画像は、RGB画像に限らず、例えば、CMYのカラーフィルタを使った面順次のCMY画像でもよい。更に、4色以上のカラーフィルタを使用した面順次の色画像から測色的色再現画像を取得する場合にも本発明は適用できる。そして、N(N≧4の整数)色の場合には、測色補正変換としてN×3行列の変換マトリクスを使用することとなる。
【図面の簡単な説明】
【0079】
【図1】図1は本発明に係る画像処理システムを構成する面順次撮像装置の実施の形態を示すブロック図である。
【図2】図2は本発明に係る画像処理システムを構成する画像処理装置のハードウェア構成例を示すブロック図である。
【図3】図3は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図4】図4は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図5】図5は画像処理装置のモニタ装置に表示されるGUI画面を示す図であり、特にずれ補正ウインドウを示すGUI画面を示す図である。
【図6】図6は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図7】図7は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図8】図8は画像処理装置のモニタ装置に表示されるGUI画面を示す図であり、特に選択範囲の平均値算出用ウインドウを示すGUI画面を示す図である。
【図9】図9は画像処理装置のモニタ装置に表示されるGUI画面を示す図である。
【図10】図10は画像処理装置のモニタ装置に表示されるGUI画面を示す図であり、特に白色板RGB取得ビューワを示す図である。
【図11】図11は撮像したRGB画像からXYZ画像を取得する処理の流れを示すフローチャートである。
【符号の説明】
【0080】
10…面順次撮像装置、100…撮像装置本体、200…回転カラーフィルタ装置、300…画像処理装置
【特許請求の範囲】
【請求項1】
面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理方法において、
露光量補正板及び測色変換用色票を面順次で撮像して3原色の色画像を取得する工程と、
前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する第1の規格化工程と、
前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する工程と、
露光量補正板を含む被写体を面順次で撮像して3原色の色画像を取得する工程と、
前記被写体の各色画像をそれぞれ測色変換用色票の対応する色画像値で規格化する第2の規格化工程と、
前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する工程と、
を含むことを特徴とする画像処理方法。
【請求項2】
2以上の位置ずれ検出用マークを有する被写体を面順次で撮像して3原色の色画像を取得する工程と、前記各色画像上の位置ずれ検出用マークの位置を検出する工程と、前記検出した位置ずれ検出用マークの位置に基づいて各色画像間の位置ずれ量を検出する工程とを含み、その後、面順次で撮像される3原色の色画像は、前記検出された位置ずれ量に基づいて各画像間の位置ずれ補正を行うことを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記第1の規格化工程は、前記面順次で撮像した3原色の色画像に基づいて露光量補正板及び測色変換用色票を含む画面を表示手段に表示させる工程と、前記画面上で露光量補正板及び測色変換用色票の各領域を指定する工程と、前記指定された領域別の各色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板の領域の各色画像ごとの代表値によって前記露光量補正板及び測色変換用色票の領域の色画像ごとの代表値をそれぞれ除算する工程とを含み、前記除算した値を前記規格化した露光量補正板及び測色変換用色票の色画像値とすることを特徴とする請求項1又は2に記載の画像処理方法。
【請求項4】
前記第2の規格化工程は、前記面順次で撮像した色画像に基づいて露光量補正板を含む被写体画面を表示手段に表示させる工程と、前記画面上で露光量補正板の領域を指定する工程と、前記指定された領域の色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板の領域の色画像ごとの代表値によって前記面順次で撮像した各色画像をそれぞれ除算する工程と、を含むことを特徴とする請求項1乃至3のいずれかに記載の画像処理方法。
【請求項5】
前記測色的色再現画像は、XYZ表色系のXYZ画像、又はLab表色系のLab画像であることを特徴とする請求項1乃至4のいずれかに記載の画像処理方法。
【請求項6】
白黒撮像手段と、少なくとも3原色のカラーフィルタを有し、各カラーフィルタを前記白黒撮像手段の撮影光路上に順次切り替えて配置するカラーフィルタ手段と、被写体の撮像時に前記カラーフィルタ手段及び白黒撮像手段を制御して面順次の画像データを取得する撮像制御手段とを有する面順次撮像装置と、
前記面順次撮像装置によって面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像と、面順次で撮像された露光量補正板を含む被写体の3原色の色画像とを入力する画像入力手段と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化するとともに、前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する手段と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する手段と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する手段とを有する画像処理装置と、
から構成されていることを特徴とする画像処理システム。
【請求項7】
面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理プログラムにおいて、
面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像を入力する機能と、
前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、
前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する機能と、
面順次で撮像された露光量補正板を含む被写体の3原色の色画像を入力する機能と、
前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、
前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する機能と、
をコンピュータに実現させることを特徴とする画像処理プログラム。
114
【請求項1】
面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理方法において、
露光量補正板及び測色変換用色票を面順次で撮像して3原色の色画像を取得する工程と、
前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する第1の規格化工程と、
前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する工程と、
露光量補正板を含む被写体を面順次で撮像して3原色の色画像を取得する工程と、
前記被写体の各色画像をそれぞれ測色変換用色票の対応する色画像値で規格化する第2の規格化工程と、
前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する工程と、
を含むことを特徴とする画像処理方法。
【請求項2】
2以上の位置ずれ検出用マークを有する被写体を面順次で撮像して3原色の色画像を取得する工程と、前記各色画像上の位置ずれ検出用マークの位置を検出する工程と、前記検出した位置ずれ検出用マークの位置に基づいて各色画像間の位置ずれ量を検出する工程とを含み、その後、面順次で撮像される3原色の色画像は、前記検出された位置ずれ量に基づいて各画像間の位置ずれ補正を行うことを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記第1の規格化工程は、前記面順次で撮像した3原色の色画像に基づいて露光量補正板及び測色変換用色票を含む画面を表示手段に表示させる工程と、前記画面上で露光量補正板及び測色変換用色票の各領域を指定する工程と、前記指定された領域別の各色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板の領域の各色画像ごとの代表値によって前記露光量補正板及び測色変換用色票の領域の色画像ごとの代表値をそれぞれ除算する工程とを含み、前記除算した値を前記規格化した露光量補正板及び測色変換用色票の色画像値とすることを特徴とする請求項1又は2に記載の画像処理方法。
【請求項4】
前記第2の規格化工程は、前記面順次で撮像した色画像に基づいて露光量補正板を含む被写体画面を表示手段に表示させる工程と、前記画面上で露光量補正板の領域を指定する工程と、前記指定された領域の色画像ごとの代表値をそれぞれ算出する工程と、前記露光量補正板の領域の色画像ごとの代表値によって前記面順次で撮像した各色画像をそれぞれ除算する工程と、を含むことを特徴とする請求項1乃至3のいずれかに記載の画像処理方法。
【請求項5】
前記測色的色再現画像は、XYZ表色系のXYZ画像、又はLab表色系のLab画像であることを特徴とする請求項1乃至4のいずれかに記載の画像処理方法。
【請求項6】
白黒撮像手段と、少なくとも3原色のカラーフィルタを有し、各カラーフィルタを前記白黒撮像手段の撮影光路上に順次切り替えて配置するカラーフィルタ手段と、被写体の撮像時に前記カラーフィルタ手段及び白黒撮像手段を制御して面順次の画像データを取得する撮像制御手段とを有する面順次撮像装置と、
前記面順次撮像装置によって面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像と、面順次で撮像された露光量補正板を含む被写体の3原色の色画像とを入力する画像入力手段と、前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化するとともに、前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する手段と、前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する手段と、前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する手段とを有する画像処理装置と、
から構成されていることを特徴とする画像処理システム。
【請求項7】
面順次で撮像された3原色の色画像から測色的色再現画像を取得する画像処理プログラムにおいて、
面順次で撮像された露光量補正板及び測色変換用色票の3原色の色画像を入力する機能と、
前記露光量補正板及び測色変換用色票の各色画像値をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、
前記規格化した露光量補正板及び測色変換用色票の色画像値と該露光量補正板及び測色変換用色票について測定した測色値とに基づいて前記規格化された露光量補正板及び測色変換用色票の色画像値を前記測色値に変換するための変換パラメータを算出する機能と、
面順次で撮像された露光量補正板を含む被写体の3原色の色画像を入力する機能と、
前記被写体の各色画像をそれぞれ露光量補正板の対応する色画像値で規格化する機能と、
前記規格化した被写体の色画像と前記算出した変換パラメータとに基づいて前記被写体の色画像を前記測色的色再現画像に変換する機能と、
をコンピュータに実現させることを特徴とする画像処理プログラム。
114
【図1】
【図2】
【図11】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図11】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2006−303783(P2006−303783A)
【公開日】平成18年11月2日(2006.11.2)
【国際特許分類】
【出願番号】特願2005−121022(P2005−121022)
【出願日】平成17年4月19日(2005.4.19)
【出願人】(000005201)富士写真フイルム株式会社 (7,609)
【Fターム(参考)】
【公開日】平成18年11月2日(2006.11.2)
【国際特許分類】
【出願日】平成17年4月19日(2005.4.19)
【出願人】(000005201)富士写真フイルム株式会社 (7,609)
【Fターム(参考)】
[ Back to top ]