情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置
【課題】光学顕微鏡により得られる画像の色再現性を高精度に補正すること。
【解決手段】本発明に係る情報処理装置は、光学顕微鏡により得られる像を撮影することが可能な撮像手段200により撮像された、校正用光源310により照射された校正用被写体312の画像の色情報と、撮像手段200により撮像された撮影用光源301により照射された校正用被写体312の画像の色情報とに基づいて、色再現補正情報を生成する生成部と、生成部により生成された色再現補正情報に基づいて、撮像手段200により撮像された撮影用光源301により照射された対象被写体の画像の色情報を補正する補正部とを具備する。
【解決手段】本発明に係る情報処理装置は、光学顕微鏡により得られる像を撮影することが可能な撮像手段200により撮像された、校正用光源310により照射された校正用被写体312の画像の色情報と、撮像手段200により撮像された撮影用光源301により照射された校正用被写体312の画像の色情報とに基づいて、色再現補正情報を生成する生成部と、生成部により生成された色再現補正情報に基づいて、撮像手段200により撮像された撮影用光源301により照射された対象被写体の画像の色情報を補正する補正部とを具備する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像素子により得られた画像信号を処理することで、出力される画像の色再現性を補正する情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置に関する。
【背景技術】
【0002】
従来、撮像機器として、例えばCCD(Charge Coupled Device)等の撮像素子を備えたデジタルスチルカメラ等が広く用いられている。このような撮像機器により対象物が撮影されるときには、得られる画像の色再現性を向上させるために、種々の色再現補正技術が用いられる。
【0003】
例えば、特許文献1に記載の画像処理装置では、4色のカラーフィルタが設けられた撮像素子により出力される4種類の色信号が、3×4の行列で表されるリニアマトリクスに基づいて変換される。これにより色再現性が補正された3色のRGB信号が生成される。リニアマトリクスの係数は、標準光源として用いられるD65により照明光が照射されたマクベスチャートに基づいて算出される(特許文献1の段落[0103]−[0133]、図19等参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−267404号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで医療等の分野において、光学顕微鏡により得られる試料の像がデジタル撮影される場合、例えば特殊な分光特性を有する光源、あるいは特殊な分光感度特性を有するイメージセンサ等が用いられる場合がある。この場合、特許文献1に記載されているリニアマトリクスでは、撮像される画像の色再現性を高精度に補正することは困難である。
【0006】
以上のような事情に鑑み、本発明の目的は、光学顕微鏡により得られる画像の色再現性を高精度に補正することができる情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の一形態に係る情報処理装置は、第1の生成部と、補正部とを具備する。
前記第1の生成部は、光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第1の色再現補正情報を生成する。
前記補正部は、前記第1の生成部により生成された前記第1の色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する。
【0008】
この情報処理装置では、校正用光源により照射された校正用被写体の画像の色情報と、撮影用光源により照射された校正用被写体の画像の色情報とに基づいて第1の色再現補正情報が生成される。これにより例えば撮影用光源として特殊な分光特性を有する光源が用いられた場合でも、撮像された対象被写体の画像の色再現性を高精度に補正することができる。
【0009】
前記情報処理装置は、第2の生成部をさらに具備してもよい。前記第2の生成部は、分光測定手段により生成された前記校正用光源により照射された前記校正用被写体の分光情報と、前記撮像手段により撮像された前記校正用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第2の色再現補正情報を生成する。
この場合、前記補正部は、前記第1の色再現補正情報と、前記第2の生成部により生成された前記第2の色再現補正情報とに基づいて、前記撮像手段により撮像された前記対象被写体の画像の色情報を補正してもよい。
【0010】
この情報処理装置では、校正用光源により照射された校正用被写体の分光情報と、校正用光源により照射された校正用被写体の画像の色情報とに基づいて第2の色再現補正情報が生成される。これにより例えば特殊な分光感度特性を有するイメージセンサが用いられた場合でも、撮像された対象被写体の画像の色再現性を高精度に補正することができる。
【0011】
前記第1の生成部は、周期的に前記第1の色再現補正情報を生成してもよい。
例えは、光学顕微鏡や撮像手段等が経年劣化することにより、撮像された画像の色再現性が低下する場合がある。しかしがなら周期的に第1の色再現補正情報が生成されることで、上記経年劣化による色再現性の低下を防止することができる。
【0012】
本発明の一形態に係る情報処理方法は、情報処理装置により実行される以下の方法である。
すなわち、情報処理装置は、光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する。
前記生成された色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報が補正される。
【0013】
本発明の一形態に係るプログラムは、上記情報処理方法を情報処理装置に実行させる。前記プログラムが記録媒体に記録されていてもよい。
【0014】
本発明の一形態に係る、光学顕微鏡を搭載した撮像装置は、光学顕微鏡と、撮像手段と、記憶部と、生成部と、補正部とを具備する。
前記光学顕微鏡は、撮影用光源を有する。
前記撮像手段は、前記光学顕微鏡により得られる像を撮影することが可能である。
前記記憶部は、前記撮像手段により撮像された校正用光源により照射された校正用被写体の画像の色情報を記憶する。
前記生成部は、前記記憶部により記憶された前記校正用光源により照射された前記校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する。
前記補正部は、前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する。
【0015】
前記撮像手段は、前記撮影用光源により照射された前記校正用被写体の画像を周期的に撮像してもよい。この場合、前記生成部は、前記記憶された前記校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成してもよい。
【0016】
本発明の他の形態に係る、光学顕微鏡を搭載した撮像装置は、光学顕微鏡と、撮像手段と、生成部と、補正部とを具備する。
前記光学顕微鏡は、撮影用光源と校正用光源とを有する。
前記撮像手段は、前記光学顕微鏡により得られる像を撮影することが可能である。
前記生成部は、前記撮像手段により撮像された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する。
前記補正部は、前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する。
このように光学顕微鏡が撮影用光源と校正用光源との2つの光源を有していてもよい。
【0017】
前記撮影手段は、前記校正用光源により照射された前記校正用被写体の画像と、前記撮影用光源により照射された前記校正用被写体の画像とを周期的にそれぞれ撮像してもよい。この場合、前記生成部は、前記撮像手段により周期的に撮影された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成してもよい。
【発明の効果】
【0018】
以上のように、本発明によれば、光学顕微鏡により得られる画像の色再現性を高精度に補正することができる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1の実施形態に係る情報処理装置を含む撮像システムの構成例を示すブロック図である。
【図2】図1に示す光学顕微鏡及び撮像装置の構成例を模式的に示す図である。
【図3】図1に示す撮像装置の構成例を示すブロック図である。
【図4】図3に示す撮像装置により生成される画像データとしてのRawデータを模式的に示す図である。
【図5】図1に示すPCの構成例を示すブロック図である。
【図6】図1に示すPCの処理を示すフローチャートである。
【図7】図6に示すセンサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理を説明するための図である。
【図8】図7に示す校正用光源として用いられるD65光源(ハロゲンランプ)の分光特性を示すグラフである。
【図9】図7に示す撮影用光源として用いられる白色LEDの分光特性を示すグラフである。
【図10】図6に示す色再現補正処理を説明するための図である。
【図11】図6に示す色再現補正処理を説明するための図である。
【図12】本発明の第2の実施形態に係る、光学顕微鏡を搭載した撮像装置による色再現補正処理を説明するための図である。
【図13】その他の実施形態に係る撮像システムの構成例を示す図である。
【発明を実施するための形態】
【0020】
以下、図面を参照しながら、本発明の実施形態を説明する。
【0021】
<第1の実施形態>
図1は、本発明の第1の実施形態に係る情報処理装置を含む撮像システムの構成例を示すブロック図である。図2は、図1に示す光学顕微鏡及び撮像装置の構成例を模式的に示す図である。この撮像システム400は、光学顕微鏡300と、撮像手段としての撮像装置200と、情報処理装置としてのPC(Personal Computer)100とを有する。撮像装置200としては、例えばデジタルスチルカメラ等が用いられる。
【0022】
光学顕微鏡300は、撮影用光源301と、照明光学系302及び結像光学系303と、照明光学系302及び結像光学系303の光路上に設けられた試料台304とを有する。試料台304上には対象被写体としての試料305が載置される観察領域306が設けられており、この観察領域306の像が生成される。
【0023】
図2に示すように、本実施形態に係る光学顕微鏡300は、透過照明型の顕微鏡である。また撮影用光源301としては、白色LED(Light Emitting Diode)が用いられる。しかしながら、撮影用光源301としてハロゲンランプ等の他の光源が用いられてもよい。
【0024】
撮像装置200は、イメージセンサ(撮像素子)201を有し、光学顕微鏡300により得られた観察領域306の像を撮影し画像データとして保持することが可能である。この画像データがPC100により読込まれ、以下で説明するデータ処理が行なわれて出力される。本実施形態では、イメージセンサ201としてCMOS(Complementary Metal Oxide Semiconductor Image Sensor)センサが用いられる。しかしながらCCDセンサ等が用いられてもよい。
【0025】
ここで撮像装置200及びPC100について詳しく説明する。
【0026】
図3は、撮像装置200の構成例を示すブロック図である。図4は、撮像装置200により生成される画像データとしてのRawデータを模式的に示す図である。
【0027】
撮像装置200は、イメージセンサ201と、前処理回路202と、記録媒体インターフェイス(I/F)203と、記録媒体204とを有する。記録媒体204としては、例えばメモリカード、光ディスク、光磁気ディスク等が用いられる。
【0028】
図示しないレンズにより、所定の撮影条件(絞り、ズーム、フォーカス等)で入射光が集光され、イメージセンサ201の撮像面に光学像が形成される。イメージセンサ201は、撮像面に形成された光学像の撮像結果を前処理回路202に出力する。本実施形態では、イメージセンサ201として、G市松センサが用いられるが、例えば3板センサ、白黒センサ、ラインセンサ、又はマルチセンサ等が用いられてもよい。
【0029】
前処理回路202は、イメージセンサ201からの出力信号を前処理し、記録媒体I/F203を制御し、Rawデータファイルを記録媒体204に記録する。図4に示すように、Rawデータファイルには、Rawデータ205として、OPB(Optical Black)等の無効画素の領域206、有効画素の領域207、及び実行画素の領域208を有する矩形状のCCDイメージがG市松点順次で格納されている。
【0030】
[情報処理装置の構成]
図5は、PC100の構成例を示すブロック図である。PC100は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、HDD(Hard Disk Drive)104、操作部105、表示部106、記録媒体I/F107、プリンタインターフェースI/F108、及びこれらを互いに接続するバス109を備える。
【0031】
CPU101は、ROM102等からオペレーティングシステム(OS)等のシステムプログラムを読出し、RAM103上に確保される作業領域を用いて実行する。またCPU101は、ROM102、RAM103、HDD104等から画像処理プログラム等を読み出し、RAM103上に確保される作業領域、CPU101に設けられる1次および/または2次キャッシュを用いて実行する。
【0032】
CPU101は、上記したRawデータ205に対して、光学補正処理、ガンマ補正処理、デモザイク処理、ノイズリダクション処理等を含む一連の画質補正処理を行うことが可能である。また、CPU101は、所定のデータ圧縮方式により輝度データおよび色データを圧縮して記録用画像データを形成し、記録用画像データを伸張することで、圧縮されたRawデータ205を復元する。ここでCPU101は、処理実行部、進捗情報管理部、リソース情報取得部、処理優先度設定部、処理制御部等として機能する。また後述するセンサ補正テーブル及び光源補正テーブルをそれぞれ生成する第1及び第2の生成部、及び色再現補正処理を行う補正部として機能する。
【0033】
ROM102は、CPU101により実行されるプログラムや処理に必要とされる各種のデータ等を記憶している。
【0034】
RAM103は、図示しない画像表示用のビデオRAM(VRAM)を含み、主に各種の処理が行なわれるための作業領域として利用される。
【0035】
HDD104は、ハードディスクを含み、CPU101による制御に応じて、ハードディスクに対するデータの書込み/読出しを行う。
【0036】
操作部105は、数字キー、文字キー、上下左右キー、各種のファンクションキー等を含んでおり、ユーザからの操作入力をCPU101に供給する。操作部105は、マウス等のポインティングデバイスを含んでもよい。この操作部105を介してユーザにより入力される操作入力に応じて、CPU101が各部を制御し操作入力に応じた処理を行う。
【0037】
表示部106は、例えばLCD(Liquid Crystal Display)、CRT(Cathode Ray Tube)等の表示素子を有し、輝度データおよび色データから形成される画像信号に対応する画像を表示する。
【0038】
記録媒体I/F107は、例えばメモリカード、光ディスク、光磁気ディスク等の記録媒体110に対するデータの書込み/読出しを行う。あるいは、記憶媒体I/F107及び記録媒体110として、ハードディスクを有するHDDが用いられてもよい。
【0039】
プリンタI/F108は、画像の印刷データ等をプリンタ111に出力する。
【0040】
[情報処理装置の動作]
図6は、本実施形態に係る情報処理装置である、PC100の処理を示すフローチャートである。ここでは撮像装置200により生成された、試料305が配置された観察領域306の画像である試料画像のRawデータファイルが、圧縮された状態でPC100のHDD104に記録されているものとする。
【0041】
PC100のCPU101は、HDD104に記録されている試料画像のRawデータファイルを伸張する。そして、Rawデータファイルに格納された試料画像のRawデータ205を、伸張された状態でRAM103上の所定の格納領域に格納する。
【0042】
CPU101により、例えばユーザの指示や工場調整等により、あらかじめセンサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理が行われる。図7は、センサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理を説明するための図である。図7では、光学顕微鏡300の全体図は省略されている。
【0043】
[センサ色再現キャリブレーション処理]
図6に示すように、センサ色再現測定処理が行われる(ステップ101)。センサ色再現測定処理は、主に撮像装置200が有するイメージセンサ201に依存した色再現補正テーブルを算出するための処理である。
【0044】
図7(A)に示すように、校正用光源310による照明光が照射された校正用被写体312の分光特性が、分光手段としての分光測定器311により測定される。本実施形態では、照明光が透過光として校正用被写体312に照射された際の、校正用被写体312の分光特性が測定される。
【0045】
本実施形態では、校正用光源310としてD65光源が用いられる。しかしながら、例えばA光源やC光源のように可視光領域のスペクトルが略完全に再現可能な光源であれば、他の光源が用いられてもよい。またD65光源としてハロゲンランプが用いられるが、これに限られない。分光測定器311としては、分光光度計等の分光を測定可能な各種の装置を用いることが可能である。
【0046】
校正用被写体312としては、例えば複数の校正用カラーフィルタが用いられる。例えばRGBの各カラーフィルタや、CMYKの各カラーフィルタ等を含む複数のカラーフィルタが用いられる。またはRGBやCMYK等のように色特性が規定されているものではない複数のカラーフィルタが用いられてもよい。あるいは透過光を照射することで色特性が再現できるのであれば、マクベスチャート等が用いられてもよい。
【0047】
後に述べるように、いわゆる3D−LUT補正が可能なような3次元ルックアップテーブルが作成される。そのために複数の校正用カラーフィルタの色の種類、及び色の数は、再現したい色空間に対し十分密となるように選択される。
【0048】
分光測定器311により、校正用光源310のスペクトル分布が分光情報としてPC100に出力される。そしてその分光情報に基づいて、XYZ表色系で表現される分光色彩値XYZが算出される。XYZ表色系とは、CIE(国際照明委員会)標準表色系として採用されているものであり、3刺激値XYZに基づく表色系である。分光色彩値XYZは、例えば等色関数を用いることで算出される。本実施形態では、PC100により分光色彩値XYZが算出されるが、他の情報処理装置により分光色彩値XYZが算出されてもよい。
【0049】
次に校正用光源310により照射された校正用被写体312が、本実施形態に係る撮像装置200により撮影される。撮影された校正用被写体312の画像のRawデータがPC100に出力され、欠陥補正やRawNR(ノイズリダクション)等の光学補正処理が行われる。
【0050】
CPU101は、校正用被写体312の画像のRawデータに対して、デモザイク処理を行う。デモザイク処理とは、G市松点順次で格納された校正用被写体312の画像のRawデータに対してRGBを同時化する処理である。デモザイク処理において同時化されたRGBの値に基づいて、XYZ表色系で表現される校正用光源色彩値XYZが色情報として算出される。校正用光源色彩値XYZは、例えばIEC61966−2−1に基づいて算出される。校正用光源色彩値XYZは、分光色彩値XYZに対比して、主にイメージセンサ201の色再現特性が数式で表現しきれない成分として重畳された値となる。
【0051】
校正用光源色彩値XYZは、複数の校正用カラーフィルタごとに算出され、これら校正用光源色彩値XYZを、対応する分光色彩値XYZに変換する写像Aが算出される。この写像Aは、第2の色再現補正情報としてのセンサ補正情報に対応するものであり、センサ補正テーブルとして、PC100の記憶部としてのROM102やHDD104等に記憶される(ステップ102)。センサ補正テーブルは、3次元のルックアップテーブルとして記憶される。
【0052】
また校正用光源色彩値XYZも、対応する校正用カラーフィルタの情報と紐づけられてPC100のROM102等に記憶される。
【0053】
なお本実施形態では、分光測定器311を用いて分光色彩値XYZを算出する処理、及び分光色彩値XYZと比較される校正用光源色彩値XYZを算出する処理は、拡大光学系ではなく、通常の光学系において行われる。一方、PC100に記憶される校正用光源色彩値XYZは、光学顕微鏡300により得られる校正用被写体312の象が撮像されることで算出される。この際には、光学顕微鏡300に校正用光源310が取り付けられて、校正用被写体312が撮影される。校正用被写体312は、例えば試料305を保持するために用いられるスライドガラスに設けられて撮影される。しかしながら、分光色彩値XYZ、及びこれと比較される校正用光源色彩値XYZを算出する処理が、光学顕微鏡300が有する拡大光学系において行われてもよい。
【0054】
例えば、蛍光顕微鏡をはじめとした医療向けの光学顕微鏡では、自然界では存在しにくい色の色再現が重要になるため、一般的なデジタルスチルカメラのイメージセンサと違って、特殊な分光感度特性を有するイメージセンサが用いられる場合がある。また、イメージセンサに設けられるカラーフィルタの塗りムラ等により、個々のイメージセンサで分光感度特性が異なる場合もある。このような場合においても、本実施形態に係るセンサ補正テーブルを用いることで、撮像される試料画像の色再現性を高精度に補正することができる。
【0055】
また、分光色彩値XYZと、校正用被写体312が撮像されることで算出される校正用光源色彩値XYZとが比較されることでセンサ補正テーブルが作成される。従って校正用被写体312として、色特性が規定されていないカラーフィルタを用いることができる。
【0056】
[光源色再現キャリブレーション処理]
図6に示すように、光源色再現測定処理が行われる(ステップ103)。光源色再現測定処理は、主に光学顕微鏡300が有する撮影用光源301(白色LED)に依存した色再現補正テーブルを算出するための処理である。
【0057】
図7(B)に示すように、上記センサ色再現キャリブレーション処理で用いられた複数の校正用カラーフィルタが、光学顕微鏡300の有する拡大光学系において、撮像装置200により撮影される。校正用カラーフィルタには、光学顕微鏡300が有する撮影用光源301である白色LEDによる照明光が照射される。図7(B)には、撮影用光源301が、色再現補正処理の対象となる光源として図示されている。
【0058】
撮影用光源301を用いて撮影された校正用被写体312の画像のRawデータがPC100に出力され、欠陥補正やRawNR等の光学補正処理が行われる。CPU101により、校正用被写体の画像のRawデータに対してデモザイク処理が行われRGBが同時化される。同時化されたRGBの値に基づいて、XYZ表色系で表現される撮影用光源色彩値XYZが色情報として算出される。撮影用光源色彩値XYZは、校正用光源色彩値XYZに対比して、主に撮影用光源301の色再現特性、及び光学顕微鏡300の組立て交差やそれに依存する光学上もしくは信号処理上の色再現特性が、数式で表現しきれない成分として重畳された値となる。
【0059】
撮影用光源色彩値XYZは、複数の校正用カラーフィルタごとに算出される。これら撮影用光源色彩値XYZを、PC100のROM102等に記憶された各校正用カラーフィルタに対応する校正用光源色彩値XYZに変換する写像Bが算出される。この写像Bは、第1の色再現補正情報としての光源補正情報に対応するものであり、光源補正テーブルとしてPC100のROM102等に記憶される(ステップ104)。光源補正テーブルは、3次元のルックアップテーブルとして、上記したセンサ補正テーブルと別個に記憶される。
【0060】
図8は、本実施形態に係る校正用光源310として用いられるD65光源(ハロゲンランプ)の分光特性を示すグラフである。図9は、本実施形態に係る撮影用光源301として用いられる白色LEDの分光特性を示すグラフである。
【0061】
図8に示すように、ハロゲンランプの分光特性は、太陽光のスペクトル分布に近似しており、可視光領域のスペクトルが略完全に再現可能である。一方、図9に示すように白色LEDの分光特性は、約430nmの波長の光(略青色の光)の強度や、約500nmの波長の光(略青緑色の光)の強度が、ハロゲンランプと比べて小さくなっている。このような特殊な分光特性を有する白色LEDが照明光として用いられると、撮像される試料画像の色再現性が低下してしまう。例えば、撮像された試料画像上において、HE染色等で青色に染色された細胞の核が適正に表現されないといった問題が起こる可能性がある。
【0062】
しかしながら本実施形態では、上記光源補正テーブルが作成される。この光源補正テーブルが用いられることで、白色LEDにより照射されて撮像された試料画像の色再現性を、ハロゲンランプにより照射されて撮像された画像の色再現性と略同様となるように、高精度に補正することができる。従って、ハロゲンランプと比べて、コストが低く、耐久性のよい白色LEDを撮影用光源301として用いることができる。
【0063】
また、サイズの大きい画像を撮像するために、有効領域が大きいCMOSセンサが用いられる場合がある。ローディングシャッタ方式のCMOSセンサにはメカニカルシャッタが設けられており、メカニカルシャッタの動作速度に依存して撮影速度が定まる。従ってメカニカルシャッタの動作速度よりも、撮影速度を速くすることはできない。しかしながら撮影用光源として白色LEDが使用可能な場合、フラッシュ撮影が可能となるので、メカニカルシャッタを有さない構成が可能となる。これにより撮影速度を白色LEDのフラッシュ速度まで向上させることが可能となる。
【0064】
またフラッシュ撮影が可能な白色LEDが使用可能であることにより、照明光の照射による試料305の劣化を抑えることができる。
【0065】
図7(A)に示すセンサ色再現キャリブレーションは、主に工場調整時に、校正用光源310を用いて行われる。一方、光源色再現キャリブレーションは、主に光学顕微鏡300により得られた試料305の像が撮影されるときに行われる。例えば試料305の象が撮像されるごとに光源色再現キャリブレーショ処理が行われることで、周期的に光源補正テーブルが作成されてもよい。あるいは、所定の回数の撮影ごと、または所定の期間ごとに、周期的に光源補正テーブルが作成されてもよい。
【0066】
例えば、光学顕微鏡300が有する撮影用光源301や光学系等、あるいは撮像装置200のイメージセンサ201等が経年劣化することにより、撮像される試料画像の色再現性が低下する場合がある。しかしながら、上記したように周期的に校正用被写体312が撮像され、周期的に光源補正テーブルが作成されることで、経年劣化による色再現性の低下を防止することができる。また光源色再現キャリブレーション処理の頻度と、センサ色再現キャリブレーション処理の頻度とをそれぞれ個別に設定することができるので、精度及び自由度の高い色再現補正が可能となる。また撮影用光源301の温度特性にも対応できる。
【0067】
図6のステップ105に示すように、CPU101は、試料画像のRawデータ205に対して、欠陥補正やRawNR等の光学補正処理を行う。またCPU101は、試料画像のRawデータ205に対して、デモザイク処理を行い、RGBを同時化する(ステップ106)。
【0068】
CPU101は、ユーザに、例えばユーザインターフェイス等を介して、色再現補正処理をするか否かの指示を仰ぐ(ステップ107)。ユーザから色再現補正処理をする指示を受けると、CPU101は、上記したセンサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理により作成された各補正テーブルに基づいて色再現補正処理を行う(ステップ108)。
【0069】
[色再現補正処理]
図10及び図11は、色再現補正処理を説明するための図である。
【0070】
CPU101により、撮像された試料画像に対して、XYZ表色系で表現される撮像色彩値XYZが色情報として算出される。この撮像色彩値XYZが補正されることで、試料画像の色再現性が高精度に補正される。本実施形態では、センサ補正テーブル、光源補正テーブル、色彩値XYZ、及びsRGB値が、それぞれ33×33×33で分割された3次元空間上において表現されるものとして説明する。すなわち上記した各色彩値XYZは、3次元空間において、強度が0から32の33段階中の値としてプロットされる。
【0071】
まず、CPU101により、センサ補正テーブルが表す写像Aと、光源補正テーブルが表す写像Bとが乗算される。すなわち、写像Aに対する入力を乗算後の写像の入力とし、写像Aの出力を写像Bの入力とした際の写像Bの出力を乗算後の写像の出力とするような、新たな写像を乗算後の写像として算出する。
【0072】
次に、写像Aと写像Bとが乗算された新たな写像に、写像Cが乗算される。写像Cは、XYZ表色系で表現される色彩値XYZを、sRGBの値へと変換するリニアマトリクスの数式を写像に変換したものである。sRGBとは、CIEにより策定された色空間の国際標準規格である。
【0073】
写像A、写像B、及び写像Cが乗算されることにより、イメージセンサ201及び撮影用光源301の色再現特性や、組立て交差やそれに依存する光学上もしくは信号処理上の色再現特性が数式で表現できない成分として抽出された補正テーブルが生成される。この補正テーブルが、色再現補正テーブルとして用いられる。図10には、この色再現補正テーブルにより表現される写像が、写像Dとして図示されている。
【0074】
色再現補正テーブルに対応する33×33×33に分割された3次元空間上において、各格子点を色再現補正テーブルの代表点とする。色再現補正テーブルにより、代表点からsRGB値への逆マップが、代表点ごとに割り当てられる。
【0075】
撮像された試料画像の、補正の対象となる注目画素Pが有する撮像色彩値XYZは、以下の式に示すようにsRGBへ変換される。すなわち3次元空間において注目画素Pに隣接する8個の代表点が選択される。各代表点には逆マップが割り当てられているので、各代表点に対応するsRGB値が算出される。注目画素Pの空間上の位置に基づいて、各代表点に対応するsRGB値により補間されることで、注目画素Pの撮影色彩値XYZに対応するsRGB値が算出される。
【0076】
【数1】
【0077】
図11を参照して、上記補間処理の具体的な例を説明する。例えば注目画素Pの撮像色彩値XYZの強度が、強度0から32の33段階中(30.3,30.4,30.5)である場合、図11に示すように、隣接する8個の代表点は以下の8点となる。
色彩値XYZの強度(30,30,30)に対応する代表点a
色彩値XYZの強度(31,30,30)に対応する代表点b
色彩値XYZの強度(30,31,30)に対応する代表点c
色彩値XYZの強度(31,31,30)に対応する代表点d
色彩値XYZの強度(30,30,31)に対応する代表点e
色彩値XYZの強度(31,30,31)に対応する代表点f
色彩値XYZの強度(31,31,31)に対応する代表点g
色彩値XYZの強度(31,31,31)に対応する代表点h
【0078】
注目画素Pに対応したsRGBの値は、以下の式で算出される。なお以下の式中、RGB(30,30,30)は、代表点aに対応するsRGB値を示している。その他の代表点についても同様である。
【0079】
【数2】
【0080】
CPU101は、色再現補正テーブルにより算出されたsRGB値を有する画素で、注目画素Pを上書きする。これによりイメージセンサ201及び撮影用光源301の色再現特性や、組立て交差やそれに依存する光学上もしくは信号処理上の色再現特性等に起因する、数式で表現できない成分が補正される。この結果、撮像された試料画像の色再現性が高精度に補正される。
【0081】
図10に示すように、色再現補正テーブルにより算出された補正後の試料画像の画像データにガンマ補正処理が行われ、PC100の表示部106等に表示されるための撮影画像の画像データが生成される。
【0082】
図6のステップ107において、ユーザから色再現補正処理の指示がない場合、ステップ106でデモザイク処理された試料画像の画像データにガンマ補正処理が行われる。
【0083】
CPU101は、進捗フラグに従って未完の処理を判定する(ステップ109)。そして、未完の処理があれば、未完の処理がなくなるまで、処理を続ける(ステップ110)。本実施形態では、色再現補正後に行われる処理(上記ガンマ補正処理も含む)は、全てこの工程で処理される。CPU101により、処理された試料画像のRawデータ205がエンコードされて(ステップ111)、画像処理が終わる。
【0084】
以上、本実施形態に係る情報処理装置による色再現補正処理においては、分光色彩値XYZと校正用光源色彩値XYZとに基づいて、センサ補正テーブルが生成される。また校正用光源色彩値XYZと撮影用光源色彩値XYZに基づいて、光源補正テーブルが生成される。そしてセンサ補正テーブル及び光源補正テーブルに基づいて、撮像される試料画像の色再現性が補正される。これにより、理論的に算出された数式やシミュレーション値に基づく色再現補正処理では実現できないような、高精度の色再現補正処理が可能となる。例えば本実施形態に係る色再現補正処理により、光学顕微鏡300により得られる画像に特有のLSB(least significant bit)単位での精度要求に応えることができる。この結果、例えば試料画像の諧調性向上、解像感向上、あるいはダイナミックレンジ拡大等を図ることができる。
【0085】
なお、本実施形態では色再現補正処理を行う情報処理装置としてPC100を例に挙げて説明した。しかしながら、例えば図1で示す撮像装置200により、センサ色再現測定処理、光源色再現測定処理、又は色再現補正処理の一部あるいは全部の処理が行われてもよい。この場合、撮像装置200及びPC100が本発明の実施形態に係る情報処理装置として用いられる。さらに、例えば光学顕微鏡の機能を有するスキャナ装置等が、図1で示す光学顕微鏡300、撮像装置200、PC100の機能をあわせ持つ、本発明の実施形態に係る、光学顕微鏡を搭載した撮像装置として用いられてもよい。
【0086】
<第2の実施形態>
本発明の第2の実施形態に係る、光学顕微鏡を搭載した撮像装置について説明する。これ以降の説明では、第1の実施形態で説明した撮像システム400(光学顕微鏡を搭載した撮像装置)に用いられる各種の装置やデータ等と同様なものについては、その説明を省略又は簡略化する。
【0087】
図12は、本実施形態に係る、光学顕微鏡を搭載した撮像装置800による色再現補正処理を説明するための図である。本実施形態に係る撮像装置800は、校正用光源810及び撮影用光源801の2つの光源を有する光学顕微鏡を含む。なお、図12では、光学顕微鏡の全体図は省略されている。
【0088】
図12(A)に示すように、主に工場調整時において、センサ色再現キャリブレーション処理が行われ、写像Aを表すセンサ補正テーブルが作成される。
【0089】
図12(B)に示すように、主に試料画像が撮像されるときに、光源色再現キャリブレーション処理が行われる。本実施形態では、光学顕微鏡が有する校正用光源810により照射された校正用被写体312が撮像され、校正用光源色彩値XYZが算出される。光学顕微鏡が有する撮影用光源801により照射された校正用被写体312が撮像され、撮影用光源色彩値XYZが算出される。算出された校正用光源色彩値XYZ及び撮影用光源色彩値XYZに基づいて、写像Bを表す光源補正テーブルが作成される。
【0090】
光源色再現補正キャリブレーション処理は、例えば試料画像が撮像されるごとに、あるいは、所定の回数の撮影ごと、または所定の期間ごとに、周期的に行われてよい。そして周期的に光源補正テーブルが作成されてよい。
【0091】
センサ色再現キャリブレーション処理において算出された分光色彩値XYZが、本実施形態に係る撮像装置800が有するROM等に記憶されてもよい。そして周期的に行われる光源色再現キャリブレーション処理において算出される校正用光源色彩値XYZと、記憶された分光色彩値XYZとに基づいて、周期的にセンサ補正テーブルが作成されてもよい。
【0092】
上記した各実施形態に係る情報処理装置100及び光学顕微鏡を搭載した撮像装置800は、例えば、医療または病理等の分野において、光学顕微鏡により得られた、生体の細胞、組織、臓器等の画像をデジタル化し、そのデジタル画像に基づき、医師や病理学者等がその組織等を検査したり、患者を診断したりするシステム等に用いられる。しかしながら、この分野に限られず他の分野においても適用可能である。
【0093】
<その他の実施形態>
本発明に係る実施形態は、以上説明した実施形態に限定されず、他の種々の実施形態がある。
【0094】
上記の各実施形態では、XYZ表色系が用いられてセンサ補正テーブル及び光源補正テーブルが作成された。しかしながら、例えばRGB表色系、sRGB表色系、L*a*b*表色系、又はL*u*v*表色系等の他の表色系が用いられてもよい。
【0095】
上記では、デモザイク処理の後、ガンマ補正処理の前に、色再現補正処理が行われた。しかしながらこれに限られず、デモザイク処理の前、あるいはガンマ補正処理の後に、色再現補正処理の全部あるいは一部が行われてもよい。その他、例えばYCrCb変換処理の後に、色再現補正処理が行われてもよい。色再現補正処理が行われる際に入力される入力値に対応するような写像A及び写像Bを適宜算出し、各写像を表現するセンサ補正テーブル及び光源補正テーブルを適宜作成すればよい。
【0096】
上記では、センサ補正テーブルにより表される写像Aと、光源補正テーブルにより表される写像Bと、写像Cとが乗算されることで新たな写像Dが算出された。そしてその写像Dを表現する色再現補正テーブルが作成された。このように新たな写像Dにより、各写像による変換処理を合わせて行うことで、PCのCPUやRAM等の処理リソースに対する負荷を軽減させることができ、一定の処理速度の向上を図ることができる。
【0097】
しかしながら、各写像による変換処理が、異なるステップで個別に行われてもよい。また写像A及び写像Bが共に生成されなくてもよい。例えば主にイメージセンサの分光感度特性に起因する色再現性を補正するための処理として他の補正処理が採用され、主に撮影用光源の分光特性に起因する色再現性を補正するための写像Bのみが生成される。そして写像Bを表す光源補正テーブルにより、撮像される試料画像の色再現性が高度に補正されてもよい。
【0098】
上記では、色再現補正処理において、33×33×33で分割された3次元空間が用いられた。しかしながら33×33×33よりも大きい数、あるいは小さい数により分割された3次元空間が用いられてもよい。例えば256×256×256の数の代表点を有する補正テーブルが用いられてもよい。
【0099】
上記では、センサ補正テーブル及び光源補正テーブルとして、XYZ表色系の色彩値から色彩値への写像A及び写像Bをそれぞれ表す3次元ルックアップテーブルが用いられた。しかしながら、色相から色相への写像を表す2次元テーブルと、輝度の写像を表す1次元テーブルが組み合わされたものが、各補正テーブルとして用いられてもよい。またはRGBからRGBへの写像を表す3次元テーブルが用いられてもよいし、YCrCbからYCrCbへの写像を表す3次元テーブルが用いられてもよい。あるいはLabからLabへの写像を表す3次元テーブルが用いられてもよい。さらにイメージセンサに設けられたカラーフィルタによっては、RGrGbBからRGrGbBへの写像を表す4次元テーブルが用いられてもよい。その他、写像A及び写像Bの変換処理が可能となる補正テーブルであれば、どのようなものが用いられもよい。また各補正テーブルは、圧縮されて記憶されてもよい。
【0100】
上記した色再現補正処理を利用して、例えば特定の色域の強調、減衰、色ノイズ除去、色相廻り補正、高輝度色回り補正が行われてもよい。また上記した色再現補正処理を利用して、光学系、照明系の校正が行われてもよい。
【0101】
また、図13に示すように、本発明の実施形態として用いられるスキャナ装置500により生成された校正用被写体の画像や試料画像のRawデータが、PC100とは別のコンピュータやサーバ600に記憶され、ユーザが端末装置として使用するPC100が、それら別のコンピュータやサーバ600にアクセスしてそのRawデータを受信してもよい。この場合、端末装置としてのPC100とサーバ600等とがLANまたはWAN等のネットワーク700を介して接続されてもよい。特に、WANが使用されることにより遠隔病理学(Telepathology)や遠隔診断等を実現することができる。
【0102】
上記では、センサ色再現測定処理及び光源色再現測定処理が予め行われる場合について説明した。しかしながら、センサ色再現測定処理又は光源色再現測定処理の一部あるいは全部が、色再現補正処理と同時に行われてもよい。この場合、試料を保持するために用いられるスライドガラスに校正用被写体が設けられてもよい。
【0103】
上記では、校正用被写体として複数のカラーフィルタが用いられた。そしてカラーフィルタごとに、校正用光源色彩値XYZや撮像用光源色彩値XYZ等がプロットされることで、センサ補正テーブルや光源補正テーブルが作成された。しかしながら単一のカラーフィルタと光学的なカラーフィルタとを組み合わせたものが、校正用被写体として用いられてもよい。また、校正用光源や撮影用光源の色温度を変化させることで、各色彩値がプロットされてもよい。
【0104】
上記では、センサ補正テーブル及び光源補正テーブルについて、所定の個数の代表点が設定され、代表点ごとに逆マップが割り当てられた。しかしながら、撮影された試料画像の全画素に対応する逆マップを有するセンサ補正テーブル及び光源補正テーブルが作成されてもよい。また周辺画素と平滑化した上で、あるいはフーリエ変換し、数式、もしくは係数が用いられることで、センサ補正テーブル及び光源補正テーブルが作成されてもよい。また光源補正テーブルが、校正用光源により照射された校正用被写体の画像データ、及び撮影用光源により照射された校正用被写体の画像データの撮影データ対として記憶されてもよい。
【0105】
上記では、色再現補正テーブルの代表点にそれぞれ逆マップが割り当てられ、それら逆マップが用いられることで、試料画像の色情報が補正された。しかしながら、処理時間の短縮や演算量の軽減のために色再現処理に用いられる逆マップが間引かれてもよい。
【0106】
また、試料台のZ位置、観察領域に対する撮影位置、照明光学系、結像光学系、試料、センサ、撮像装置、画像処理方法、温度、視野絞り、露光時間、アナログゲイン設定値、露出補正設定値、彩度設定値、あるいは倍率設定値等が変更されるたびにセンサ色再現キャリブレーション処理又は光源色再現キャリブレーション処理が行われ、センサ補正テーブル又は光源補正テーブルが作成されてもよい。
【0107】
撮像される試料画像を複数の領域で分割し、各分割領域に対応するセンサ補正テーブル及び光源補正テーブルが作成されてもよい。そして分割領域ごとに色再現補正処理が行われてもよい。これにより例えば60×40(Kpixel)のサイズからなる、大容量のデータ量を有する試料画像が補正される場合でも、PCのCPUやRAM等の処理リソースに対する負荷が軽減され、一定の処理速度の向上が図られる。
【0108】
上記では、分光測定器により、校正用光源により照射された校正用被写体の分光特性が測定された。しかしながら、理想の色再現特性を有する撮像光学系により校正用被写体が撮像されてもよい。そして得られた画像と、撮像装置により撮像された校正用被写体の画像とが比較されることでセンサ補正テーブルが作成されてもよい。
【0109】
上記では、図2に示す撮像装置200により、校正用被写体の画像及び試料画像のRawデータを含むRawデータファイルが作成された。しかしながら、撮像装置200により、Rawデータに画像処理が行われてもよいし、撮像装置200を特定する情報や撮影条件を特定する情報等の各種のデータを含んだRawデータファイルが作成されてもよい。また、それらの各種のデータが、センサ色再現測定処理、光源色再現測定処理、又は色再現補正処理のために用いられてもよい。
【0110】
また、上記で説明した、各画像のRawデータ、各補正テーブル、又は色再現補正処理等が行われた試料画像が、各キャリブレーション処理時、又は色再現補正処理時に利用される統計データや校正データ等をとるために用いられてもよい。
【0111】
上記では、透過照明型の光学顕微鏡が用いられたが、これに限られず落射照明型の光学顕微鏡が用いられてもよい。
【符号の説明】
【0112】
100…PC(情報処理装置)
101…CPU
102…ROM
103…RAM
104…HDD
110…記録媒体
200…撮像装置
300…光学顕微鏡
301…撮影用光源
305…試料
310…校正用光源
311…分光測定器
312…校正用被写体
400…撮像システム
500…スキャナ装置
600…サーバ
800…光学顕微鏡を搭載した撮像装置
801…撮影用光源
810…校正用光源
【技術分野】
【0001】
本発明は、撮像素子により得られた画像信号を処理することで、出力される画像の色再現性を補正する情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置に関する。
【背景技術】
【0002】
従来、撮像機器として、例えばCCD(Charge Coupled Device)等の撮像素子を備えたデジタルスチルカメラ等が広く用いられている。このような撮像機器により対象物が撮影されるときには、得られる画像の色再現性を向上させるために、種々の色再現補正技術が用いられる。
【0003】
例えば、特許文献1に記載の画像処理装置では、4色のカラーフィルタが設けられた撮像素子により出力される4種類の色信号が、3×4の行列で表されるリニアマトリクスに基づいて変換される。これにより色再現性が補正された3色のRGB信号が生成される。リニアマトリクスの係数は、標準光源として用いられるD65により照明光が照射されたマクベスチャートに基づいて算出される(特許文献1の段落[0103]−[0133]、図19等参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−267404号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで医療等の分野において、光学顕微鏡により得られる試料の像がデジタル撮影される場合、例えば特殊な分光特性を有する光源、あるいは特殊な分光感度特性を有するイメージセンサ等が用いられる場合がある。この場合、特許文献1に記載されているリニアマトリクスでは、撮像される画像の色再現性を高精度に補正することは困難である。
【0006】
以上のような事情に鑑み、本発明の目的は、光学顕微鏡により得られる画像の色再現性を高精度に補正することができる情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の一形態に係る情報処理装置は、第1の生成部と、補正部とを具備する。
前記第1の生成部は、光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第1の色再現補正情報を生成する。
前記補正部は、前記第1の生成部により生成された前記第1の色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する。
【0008】
この情報処理装置では、校正用光源により照射された校正用被写体の画像の色情報と、撮影用光源により照射された校正用被写体の画像の色情報とに基づいて第1の色再現補正情報が生成される。これにより例えば撮影用光源として特殊な分光特性を有する光源が用いられた場合でも、撮像された対象被写体の画像の色再現性を高精度に補正することができる。
【0009】
前記情報処理装置は、第2の生成部をさらに具備してもよい。前記第2の生成部は、分光測定手段により生成された前記校正用光源により照射された前記校正用被写体の分光情報と、前記撮像手段により撮像された前記校正用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第2の色再現補正情報を生成する。
この場合、前記補正部は、前記第1の色再現補正情報と、前記第2の生成部により生成された前記第2の色再現補正情報とに基づいて、前記撮像手段により撮像された前記対象被写体の画像の色情報を補正してもよい。
【0010】
この情報処理装置では、校正用光源により照射された校正用被写体の分光情報と、校正用光源により照射された校正用被写体の画像の色情報とに基づいて第2の色再現補正情報が生成される。これにより例えば特殊な分光感度特性を有するイメージセンサが用いられた場合でも、撮像された対象被写体の画像の色再現性を高精度に補正することができる。
【0011】
前記第1の生成部は、周期的に前記第1の色再現補正情報を生成してもよい。
例えは、光学顕微鏡や撮像手段等が経年劣化することにより、撮像された画像の色再現性が低下する場合がある。しかしがなら周期的に第1の色再現補正情報が生成されることで、上記経年劣化による色再現性の低下を防止することができる。
【0012】
本発明の一形態に係る情報処理方法は、情報処理装置により実行される以下の方法である。
すなわち、情報処理装置は、光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する。
前記生成された色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報が補正される。
【0013】
本発明の一形態に係るプログラムは、上記情報処理方法を情報処理装置に実行させる。前記プログラムが記録媒体に記録されていてもよい。
【0014】
本発明の一形態に係る、光学顕微鏡を搭載した撮像装置は、光学顕微鏡と、撮像手段と、記憶部と、生成部と、補正部とを具備する。
前記光学顕微鏡は、撮影用光源を有する。
前記撮像手段は、前記光学顕微鏡により得られる像を撮影することが可能である。
前記記憶部は、前記撮像手段により撮像された校正用光源により照射された校正用被写体の画像の色情報を記憶する。
前記生成部は、前記記憶部により記憶された前記校正用光源により照射された前記校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する。
前記補正部は、前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する。
【0015】
前記撮像手段は、前記撮影用光源により照射された前記校正用被写体の画像を周期的に撮像してもよい。この場合、前記生成部は、前記記憶された前記校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成してもよい。
【0016】
本発明の他の形態に係る、光学顕微鏡を搭載した撮像装置は、光学顕微鏡と、撮像手段と、生成部と、補正部とを具備する。
前記光学顕微鏡は、撮影用光源と校正用光源とを有する。
前記撮像手段は、前記光学顕微鏡により得られる像を撮影することが可能である。
前記生成部は、前記撮像手段により撮像された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する。
前記補正部は、前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する。
このように光学顕微鏡が撮影用光源と校正用光源との2つの光源を有していてもよい。
【0017】
前記撮影手段は、前記校正用光源により照射された前記校正用被写体の画像と、前記撮影用光源により照射された前記校正用被写体の画像とを周期的にそれぞれ撮像してもよい。この場合、前記生成部は、前記撮像手段により周期的に撮影された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成してもよい。
【発明の効果】
【0018】
以上のように、本発明によれば、光学顕微鏡により得られる画像の色再現性を高精度に補正することができる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1の実施形態に係る情報処理装置を含む撮像システムの構成例を示すブロック図である。
【図2】図1に示す光学顕微鏡及び撮像装置の構成例を模式的に示す図である。
【図3】図1に示す撮像装置の構成例を示すブロック図である。
【図4】図3に示す撮像装置により生成される画像データとしてのRawデータを模式的に示す図である。
【図5】図1に示すPCの構成例を示すブロック図である。
【図6】図1に示すPCの処理を示すフローチャートである。
【図7】図6に示すセンサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理を説明するための図である。
【図8】図7に示す校正用光源として用いられるD65光源(ハロゲンランプ)の分光特性を示すグラフである。
【図9】図7に示す撮影用光源として用いられる白色LEDの分光特性を示すグラフである。
【図10】図6に示す色再現補正処理を説明するための図である。
【図11】図6に示す色再現補正処理を説明するための図である。
【図12】本発明の第2の実施形態に係る、光学顕微鏡を搭載した撮像装置による色再現補正処理を説明するための図である。
【図13】その他の実施形態に係る撮像システムの構成例を示す図である。
【発明を実施するための形態】
【0020】
以下、図面を参照しながら、本発明の実施形態を説明する。
【0021】
<第1の実施形態>
図1は、本発明の第1の実施形態に係る情報処理装置を含む撮像システムの構成例を示すブロック図である。図2は、図1に示す光学顕微鏡及び撮像装置の構成例を模式的に示す図である。この撮像システム400は、光学顕微鏡300と、撮像手段としての撮像装置200と、情報処理装置としてのPC(Personal Computer)100とを有する。撮像装置200としては、例えばデジタルスチルカメラ等が用いられる。
【0022】
光学顕微鏡300は、撮影用光源301と、照明光学系302及び結像光学系303と、照明光学系302及び結像光学系303の光路上に設けられた試料台304とを有する。試料台304上には対象被写体としての試料305が載置される観察領域306が設けられており、この観察領域306の像が生成される。
【0023】
図2に示すように、本実施形態に係る光学顕微鏡300は、透過照明型の顕微鏡である。また撮影用光源301としては、白色LED(Light Emitting Diode)が用いられる。しかしながら、撮影用光源301としてハロゲンランプ等の他の光源が用いられてもよい。
【0024】
撮像装置200は、イメージセンサ(撮像素子)201を有し、光学顕微鏡300により得られた観察領域306の像を撮影し画像データとして保持することが可能である。この画像データがPC100により読込まれ、以下で説明するデータ処理が行なわれて出力される。本実施形態では、イメージセンサ201としてCMOS(Complementary Metal Oxide Semiconductor Image Sensor)センサが用いられる。しかしながらCCDセンサ等が用いられてもよい。
【0025】
ここで撮像装置200及びPC100について詳しく説明する。
【0026】
図3は、撮像装置200の構成例を示すブロック図である。図4は、撮像装置200により生成される画像データとしてのRawデータを模式的に示す図である。
【0027】
撮像装置200は、イメージセンサ201と、前処理回路202と、記録媒体インターフェイス(I/F)203と、記録媒体204とを有する。記録媒体204としては、例えばメモリカード、光ディスク、光磁気ディスク等が用いられる。
【0028】
図示しないレンズにより、所定の撮影条件(絞り、ズーム、フォーカス等)で入射光が集光され、イメージセンサ201の撮像面に光学像が形成される。イメージセンサ201は、撮像面に形成された光学像の撮像結果を前処理回路202に出力する。本実施形態では、イメージセンサ201として、G市松センサが用いられるが、例えば3板センサ、白黒センサ、ラインセンサ、又はマルチセンサ等が用いられてもよい。
【0029】
前処理回路202は、イメージセンサ201からの出力信号を前処理し、記録媒体I/F203を制御し、Rawデータファイルを記録媒体204に記録する。図4に示すように、Rawデータファイルには、Rawデータ205として、OPB(Optical Black)等の無効画素の領域206、有効画素の領域207、及び実行画素の領域208を有する矩形状のCCDイメージがG市松点順次で格納されている。
【0030】
[情報処理装置の構成]
図5は、PC100の構成例を示すブロック図である。PC100は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、HDD(Hard Disk Drive)104、操作部105、表示部106、記録媒体I/F107、プリンタインターフェースI/F108、及びこれらを互いに接続するバス109を備える。
【0031】
CPU101は、ROM102等からオペレーティングシステム(OS)等のシステムプログラムを読出し、RAM103上に確保される作業領域を用いて実行する。またCPU101は、ROM102、RAM103、HDD104等から画像処理プログラム等を読み出し、RAM103上に確保される作業領域、CPU101に設けられる1次および/または2次キャッシュを用いて実行する。
【0032】
CPU101は、上記したRawデータ205に対して、光学補正処理、ガンマ補正処理、デモザイク処理、ノイズリダクション処理等を含む一連の画質補正処理を行うことが可能である。また、CPU101は、所定のデータ圧縮方式により輝度データおよび色データを圧縮して記録用画像データを形成し、記録用画像データを伸張することで、圧縮されたRawデータ205を復元する。ここでCPU101は、処理実行部、進捗情報管理部、リソース情報取得部、処理優先度設定部、処理制御部等として機能する。また後述するセンサ補正テーブル及び光源補正テーブルをそれぞれ生成する第1及び第2の生成部、及び色再現補正処理を行う補正部として機能する。
【0033】
ROM102は、CPU101により実行されるプログラムや処理に必要とされる各種のデータ等を記憶している。
【0034】
RAM103は、図示しない画像表示用のビデオRAM(VRAM)を含み、主に各種の処理が行なわれるための作業領域として利用される。
【0035】
HDD104は、ハードディスクを含み、CPU101による制御に応じて、ハードディスクに対するデータの書込み/読出しを行う。
【0036】
操作部105は、数字キー、文字キー、上下左右キー、各種のファンクションキー等を含んでおり、ユーザからの操作入力をCPU101に供給する。操作部105は、マウス等のポインティングデバイスを含んでもよい。この操作部105を介してユーザにより入力される操作入力に応じて、CPU101が各部を制御し操作入力に応じた処理を行う。
【0037】
表示部106は、例えばLCD(Liquid Crystal Display)、CRT(Cathode Ray Tube)等の表示素子を有し、輝度データおよび色データから形成される画像信号に対応する画像を表示する。
【0038】
記録媒体I/F107は、例えばメモリカード、光ディスク、光磁気ディスク等の記録媒体110に対するデータの書込み/読出しを行う。あるいは、記憶媒体I/F107及び記録媒体110として、ハードディスクを有するHDDが用いられてもよい。
【0039】
プリンタI/F108は、画像の印刷データ等をプリンタ111に出力する。
【0040】
[情報処理装置の動作]
図6は、本実施形態に係る情報処理装置である、PC100の処理を示すフローチャートである。ここでは撮像装置200により生成された、試料305が配置された観察領域306の画像である試料画像のRawデータファイルが、圧縮された状態でPC100のHDD104に記録されているものとする。
【0041】
PC100のCPU101は、HDD104に記録されている試料画像のRawデータファイルを伸張する。そして、Rawデータファイルに格納された試料画像のRawデータ205を、伸張された状態でRAM103上の所定の格納領域に格納する。
【0042】
CPU101により、例えばユーザの指示や工場調整等により、あらかじめセンサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理が行われる。図7は、センサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理を説明するための図である。図7では、光学顕微鏡300の全体図は省略されている。
【0043】
[センサ色再現キャリブレーション処理]
図6に示すように、センサ色再現測定処理が行われる(ステップ101)。センサ色再現測定処理は、主に撮像装置200が有するイメージセンサ201に依存した色再現補正テーブルを算出するための処理である。
【0044】
図7(A)に示すように、校正用光源310による照明光が照射された校正用被写体312の分光特性が、分光手段としての分光測定器311により測定される。本実施形態では、照明光が透過光として校正用被写体312に照射された際の、校正用被写体312の分光特性が測定される。
【0045】
本実施形態では、校正用光源310としてD65光源が用いられる。しかしながら、例えばA光源やC光源のように可視光領域のスペクトルが略完全に再現可能な光源であれば、他の光源が用いられてもよい。またD65光源としてハロゲンランプが用いられるが、これに限られない。分光測定器311としては、分光光度計等の分光を測定可能な各種の装置を用いることが可能である。
【0046】
校正用被写体312としては、例えば複数の校正用カラーフィルタが用いられる。例えばRGBの各カラーフィルタや、CMYKの各カラーフィルタ等を含む複数のカラーフィルタが用いられる。またはRGBやCMYK等のように色特性が規定されているものではない複数のカラーフィルタが用いられてもよい。あるいは透過光を照射することで色特性が再現できるのであれば、マクベスチャート等が用いられてもよい。
【0047】
後に述べるように、いわゆる3D−LUT補正が可能なような3次元ルックアップテーブルが作成される。そのために複数の校正用カラーフィルタの色の種類、及び色の数は、再現したい色空間に対し十分密となるように選択される。
【0048】
分光測定器311により、校正用光源310のスペクトル分布が分光情報としてPC100に出力される。そしてその分光情報に基づいて、XYZ表色系で表現される分光色彩値XYZが算出される。XYZ表色系とは、CIE(国際照明委員会)標準表色系として採用されているものであり、3刺激値XYZに基づく表色系である。分光色彩値XYZは、例えば等色関数を用いることで算出される。本実施形態では、PC100により分光色彩値XYZが算出されるが、他の情報処理装置により分光色彩値XYZが算出されてもよい。
【0049】
次に校正用光源310により照射された校正用被写体312が、本実施形態に係る撮像装置200により撮影される。撮影された校正用被写体312の画像のRawデータがPC100に出力され、欠陥補正やRawNR(ノイズリダクション)等の光学補正処理が行われる。
【0050】
CPU101は、校正用被写体312の画像のRawデータに対して、デモザイク処理を行う。デモザイク処理とは、G市松点順次で格納された校正用被写体312の画像のRawデータに対してRGBを同時化する処理である。デモザイク処理において同時化されたRGBの値に基づいて、XYZ表色系で表現される校正用光源色彩値XYZが色情報として算出される。校正用光源色彩値XYZは、例えばIEC61966−2−1に基づいて算出される。校正用光源色彩値XYZは、分光色彩値XYZに対比して、主にイメージセンサ201の色再現特性が数式で表現しきれない成分として重畳された値となる。
【0051】
校正用光源色彩値XYZは、複数の校正用カラーフィルタごとに算出され、これら校正用光源色彩値XYZを、対応する分光色彩値XYZに変換する写像Aが算出される。この写像Aは、第2の色再現補正情報としてのセンサ補正情報に対応するものであり、センサ補正テーブルとして、PC100の記憶部としてのROM102やHDD104等に記憶される(ステップ102)。センサ補正テーブルは、3次元のルックアップテーブルとして記憶される。
【0052】
また校正用光源色彩値XYZも、対応する校正用カラーフィルタの情報と紐づけられてPC100のROM102等に記憶される。
【0053】
なお本実施形態では、分光測定器311を用いて分光色彩値XYZを算出する処理、及び分光色彩値XYZと比較される校正用光源色彩値XYZを算出する処理は、拡大光学系ではなく、通常の光学系において行われる。一方、PC100に記憶される校正用光源色彩値XYZは、光学顕微鏡300により得られる校正用被写体312の象が撮像されることで算出される。この際には、光学顕微鏡300に校正用光源310が取り付けられて、校正用被写体312が撮影される。校正用被写体312は、例えば試料305を保持するために用いられるスライドガラスに設けられて撮影される。しかしながら、分光色彩値XYZ、及びこれと比較される校正用光源色彩値XYZを算出する処理が、光学顕微鏡300が有する拡大光学系において行われてもよい。
【0054】
例えば、蛍光顕微鏡をはじめとした医療向けの光学顕微鏡では、自然界では存在しにくい色の色再現が重要になるため、一般的なデジタルスチルカメラのイメージセンサと違って、特殊な分光感度特性を有するイメージセンサが用いられる場合がある。また、イメージセンサに設けられるカラーフィルタの塗りムラ等により、個々のイメージセンサで分光感度特性が異なる場合もある。このような場合においても、本実施形態に係るセンサ補正テーブルを用いることで、撮像される試料画像の色再現性を高精度に補正することができる。
【0055】
また、分光色彩値XYZと、校正用被写体312が撮像されることで算出される校正用光源色彩値XYZとが比較されることでセンサ補正テーブルが作成される。従って校正用被写体312として、色特性が規定されていないカラーフィルタを用いることができる。
【0056】
[光源色再現キャリブレーション処理]
図6に示すように、光源色再現測定処理が行われる(ステップ103)。光源色再現測定処理は、主に光学顕微鏡300が有する撮影用光源301(白色LED)に依存した色再現補正テーブルを算出するための処理である。
【0057】
図7(B)に示すように、上記センサ色再現キャリブレーション処理で用いられた複数の校正用カラーフィルタが、光学顕微鏡300の有する拡大光学系において、撮像装置200により撮影される。校正用カラーフィルタには、光学顕微鏡300が有する撮影用光源301である白色LEDによる照明光が照射される。図7(B)には、撮影用光源301が、色再現補正処理の対象となる光源として図示されている。
【0058】
撮影用光源301を用いて撮影された校正用被写体312の画像のRawデータがPC100に出力され、欠陥補正やRawNR等の光学補正処理が行われる。CPU101により、校正用被写体の画像のRawデータに対してデモザイク処理が行われRGBが同時化される。同時化されたRGBの値に基づいて、XYZ表色系で表現される撮影用光源色彩値XYZが色情報として算出される。撮影用光源色彩値XYZは、校正用光源色彩値XYZに対比して、主に撮影用光源301の色再現特性、及び光学顕微鏡300の組立て交差やそれに依存する光学上もしくは信号処理上の色再現特性が、数式で表現しきれない成分として重畳された値となる。
【0059】
撮影用光源色彩値XYZは、複数の校正用カラーフィルタごとに算出される。これら撮影用光源色彩値XYZを、PC100のROM102等に記憶された各校正用カラーフィルタに対応する校正用光源色彩値XYZに変換する写像Bが算出される。この写像Bは、第1の色再現補正情報としての光源補正情報に対応するものであり、光源補正テーブルとしてPC100のROM102等に記憶される(ステップ104)。光源補正テーブルは、3次元のルックアップテーブルとして、上記したセンサ補正テーブルと別個に記憶される。
【0060】
図8は、本実施形態に係る校正用光源310として用いられるD65光源(ハロゲンランプ)の分光特性を示すグラフである。図9は、本実施形態に係る撮影用光源301として用いられる白色LEDの分光特性を示すグラフである。
【0061】
図8に示すように、ハロゲンランプの分光特性は、太陽光のスペクトル分布に近似しており、可視光領域のスペクトルが略完全に再現可能である。一方、図9に示すように白色LEDの分光特性は、約430nmの波長の光(略青色の光)の強度や、約500nmの波長の光(略青緑色の光)の強度が、ハロゲンランプと比べて小さくなっている。このような特殊な分光特性を有する白色LEDが照明光として用いられると、撮像される試料画像の色再現性が低下してしまう。例えば、撮像された試料画像上において、HE染色等で青色に染色された細胞の核が適正に表現されないといった問題が起こる可能性がある。
【0062】
しかしながら本実施形態では、上記光源補正テーブルが作成される。この光源補正テーブルが用いられることで、白色LEDにより照射されて撮像された試料画像の色再現性を、ハロゲンランプにより照射されて撮像された画像の色再現性と略同様となるように、高精度に補正することができる。従って、ハロゲンランプと比べて、コストが低く、耐久性のよい白色LEDを撮影用光源301として用いることができる。
【0063】
また、サイズの大きい画像を撮像するために、有効領域が大きいCMOSセンサが用いられる場合がある。ローディングシャッタ方式のCMOSセンサにはメカニカルシャッタが設けられており、メカニカルシャッタの動作速度に依存して撮影速度が定まる。従ってメカニカルシャッタの動作速度よりも、撮影速度を速くすることはできない。しかしながら撮影用光源として白色LEDが使用可能な場合、フラッシュ撮影が可能となるので、メカニカルシャッタを有さない構成が可能となる。これにより撮影速度を白色LEDのフラッシュ速度まで向上させることが可能となる。
【0064】
またフラッシュ撮影が可能な白色LEDが使用可能であることにより、照明光の照射による試料305の劣化を抑えることができる。
【0065】
図7(A)に示すセンサ色再現キャリブレーションは、主に工場調整時に、校正用光源310を用いて行われる。一方、光源色再現キャリブレーションは、主に光学顕微鏡300により得られた試料305の像が撮影されるときに行われる。例えば試料305の象が撮像されるごとに光源色再現キャリブレーショ処理が行われることで、周期的に光源補正テーブルが作成されてもよい。あるいは、所定の回数の撮影ごと、または所定の期間ごとに、周期的に光源補正テーブルが作成されてもよい。
【0066】
例えば、光学顕微鏡300が有する撮影用光源301や光学系等、あるいは撮像装置200のイメージセンサ201等が経年劣化することにより、撮像される試料画像の色再現性が低下する場合がある。しかしながら、上記したように周期的に校正用被写体312が撮像され、周期的に光源補正テーブルが作成されることで、経年劣化による色再現性の低下を防止することができる。また光源色再現キャリブレーション処理の頻度と、センサ色再現キャリブレーション処理の頻度とをそれぞれ個別に設定することができるので、精度及び自由度の高い色再現補正が可能となる。また撮影用光源301の温度特性にも対応できる。
【0067】
図6のステップ105に示すように、CPU101は、試料画像のRawデータ205に対して、欠陥補正やRawNR等の光学補正処理を行う。またCPU101は、試料画像のRawデータ205に対して、デモザイク処理を行い、RGBを同時化する(ステップ106)。
【0068】
CPU101は、ユーザに、例えばユーザインターフェイス等を介して、色再現補正処理をするか否かの指示を仰ぐ(ステップ107)。ユーザから色再現補正処理をする指示を受けると、CPU101は、上記したセンサ色再現キャリブレーション処理及び光源色再現キャリブレーション処理により作成された各補正テーブルに基づいて色再現補正処理を行う(ステップ108)。
【0069】
[色再現補正処理]
図10及び図11は、色再現補正処理を説明するための図である。
【0070】
CPU101により、撮像された試料画像に対して、XYZ表色系で表現される撮像色彩値XYZが色情報として算出される。この撮像色彩値XYZが補正されることで、試料画像の色再現性が高精度に補正される。本実施形態では、センサ補正テーブル、光源補正テーブル、色彩値XYZ、及びsRGB値が、それぞれ33×33×33で分割された3次元空間上において表現されるものとして説明する。すなわち上記した各色彩値XYZは、3次元空間において、強度が0から32の33段階中の値としてプロットされる。
【0071】
まず、CPU101により、センサ補正テーブルが表す写像Aと、光源補正テーブルが表す写像Bとが乗算される。すなわち、写像Aに対する入力を乗算後の写像の入力とし、写像Aの出力を写像Bの入力とした際の写像Bの出力を乗算後の写像の出力とするような、新たな写像を乗算後の写像として算出する。
【0072】
次に、写像Aと写像Bとが乗算された新たな写像に、写像Cが乗算される。写像Cは、XYZ表色系で表現される色彩値XYZを、sRGBの値へと変換するリニアマトリクスの数式を写像に変換したものである。sRGBとは、CIEにより策定された色空間の国際標準規格である。
【0073】
写像A、写像B、及び写像Cが乗算されることにより、イメージセンサ201及び撮影用光源301の色再現特性や、組立て交差やそれに依存する光学上もしくは信号処理上の色再現特性が数式で表現できない成分として抽出された補正テーブルが生成される。この補正テーブルが、色再現補正テーブルとして用いられる。図10には、この色再現補正テーブルにより表現される写像が、写像Dとして図示されている。
【0074】
色再現補正テーブルに対応する33×33×33に分割された3次元空間上において、各格子点を色再現補正テーブルの代表点とする。色再現補正テーブルにより、代表点からsRGB値への逆マップが、代表点ごとに割り当てられる。
【0075】
撮像された試料画像の、補正の対象となる注目画素Pが有する撮像色彩値XYZは、以下の式に示すようにsRGBへ変換される。すなわち3次元空間において注目画素Pに隣接する8個の代表点が選択される。各代表点には逆マップが割り当てられているので、各代表点に対応するsRGB値が算出される。注目画素Pの空間上の位置に基づいて、各代表点に対応するsRGB値により補間されることで、注目画素Pの撮影色彩値XYZに対応するsRGB値が算出される。
【0076】
【数1】
【0077】
図11を参照して、上記補間処理の具体的な例を説明する。例えば注目画素Pの撮像色彩値XYZの強度が、強度0から32の33段階中(30.3,30.4,30.5)である場合、図11に示すように、隣接する8個の代表点は以下の8点となる。
色彩値XYZの強度(30,30,30)に対応する代表点a
色彩値XYZの強度(31,30,30)に対応する代表点b
色彩値XYZの強度(30,31,30)に対応する代表点c
色彩値XYZの強度(31,31,30)に対応する代表点d
色彩値XYZの強度(30,30,31)に対応する代表点e
色彩値XYZの強度(31,30,31)に対応する代表点f
色彩値XYZの強度(31,31,31)に対応する代表点g
色彩値XYZの強度(31,31,31)に対応する代表点h
【0078】
注目画素Pに対応したsRGBの値は、以下の式で算出される。なお以下の式中、RGB(30,30,30)は、代表点aに対応するsRGB値を示している。その他の代表点についても同様である。
【0079】
【数2】
【0080】
CPU101は、色再現補正テーブルにより算出されたsRGB値を有する画素で、注目画素Pを上書きする。これによりイメージセンサ201及び撮影用光源301の色再現特性や、組立て交差やそれに依存する光学上もしくは信号処理上の色再現特性等に起因する、数式で表現できない成分が補正される。この結果、撮像された試料画像の色再現性が高精度に補正される。
【0081】
図10に示すように、色再現補正テーブルにより算出された補正後の試料画像の画像データにガンマ補正処理が行われ、PC100の表示部106等に表示されるための撮影画像の画像データが生成される。
【0082】
図6のステップ107において、ユーザから色再現補正処理の指示がない場合、ステップ106でデモザイク処理された試料画像の画像データにガンマ補正処理が行われる。
【0083】
CPU101は、進捗フラグに従って未完の処理を判定する(ステップ109)。そして、未完の処理があれば、未完の処理がなくなるまで、処理を続ける(ステップ110)。本実施形態では、色再現補正後に行われる処理(上記ガンマ補正処理も含む)は、全てこの工程で処理される。CPU101により、処理された試料画像のRawデータ205がエンコードされて(ステップ111)、画像処理が終わる。
【0084】
以上、本実施形態に係る情報処理装置による色再現補正処理においては、分光色彩値XYZと校正用光源色彩値XYZとに基づいて、センサ補正テーブルが生成される。また校正用光源色彩値XYZと撮影用光源色彩値XYZに基づいて、光源補正テーブルが生成される。そしてセンサ補正テーブル及び光源補正テーブルに基づいて、撮像される試料画像の色再現性が補正される。これにより、理論的に算出された数式やシミュレーション値に基づく色再現補正処理では実現できないような、高精度の色再現補正処理が可能となる。例えば本実施形態に係る色再現補正処理により、光学顕微鏡300により得られる画像に特有のLSB(least significant bit)単位での精度要求に応えることができる。この結果、例えば試料画像の諧調性向上、解像感向上、あるいはダイナミックレンジ拡大等を図ることができる。
【0085】
なお、本実施形態では色再現補正処理を行う情報処理装置としてPC100を例に挙げて説明した。しかしながら、例えば図1で示す撮像装置200により、センサ色再現測定処理、光源色再現測定処理、又は色再現補正処理の一部あるいは全部の処理が行われてもよい。この場合、撮像装置200及びPC100が本発明の実施形態に係る情報処理装置として用いられる。さらに、例えば光学顕微鏡の機能を有するスキャナ装置等が、図1で示す光学顕微鏡300、撮像装置200、PC100の機能をあわせ持つ、本発明の実施形態に係る、光学顕微鏡を搭載した撮像装置として用いられてもよい。
【0086】
<第2の実施形態>
本発明の第2の実施形態に係る、光学顕微鏡を搭載した撮像装置について説明する。これ以降の説明では、第1の実施形態で説明した撮像システム400(光学顕微鏡を搭載した撮像装置)に用いられる各種の装置やデータ等と同様なものについては、その説明を省略又は簡略化する。
【0087】
図12は、本実施形態に係る、光学顕微鏡を搭載した撮像装置800による色再現補正処理を説明するための図である。本実施形態に係る撮像装置800は、校正用光源810及び撮影用光源801の2つの光源を有する光学顕微鏡を含む。なお、図12では、光学顕微鏡の全体図は省略されている。
【0088】
図12(A)に示すように、主に工場調整時において、センサ色再現キャリブレーション処理が行われ、写像Aを表すセンサ補正テーブルが作成される。
【0089】
図12(B)に示すように、主に試料画像が撮像されるときに、光源色再現キャリブレーション処理が行われる。本実施形態では、光学顕微鏡が有する校正用光源810により照射された校正用被写体312が撮像され、校正用光源色彩値XYZが算出される。光学顕微鏡が有する撮影用光源801により照射された校正用被写体312が撮像され、撮影用光源色彩値XYZが算出される。算出された校正用光源色彩値XYZ及び撮影用光源色彩値XYZに基づいて、写像Bを表す光源補正テーブルが作成される。
【0090】
光源色再現補正キャリブレーション処理は、例えば試料画像が撮像されるごとに、あるいは、所定の回数の撮影ごと、または所定の期間ごとに、周期的に行われてよい。そして周期的に光源補正テーブルが作成されてよい。
【0091】
センサ色再現キャリブレーション処理において算出された分光色彩値XYZが、本実施形態に係る撮像装置800が有するROM等に記憶されてもよい。そして周期的に行われる光源色再現キャリブレーション処理において算出される校正用光源色彩値XYZと、記憶された分光色彩値XYZとに基づいて、周期的にセンサ補正テーブルが作成されてもよい。
【0092】
上記した各実施形態に係る情報処理装置100及び光学顕微鏡を搭載した撮像装置800は、例えば、医療または病理等の分野において、光学顕微鏡により得られた、生体の細胞、組織、臓器等の画像をデジタル化し、そのデジタル画像に基づき、医師や病理学者等がその組織等を検査したり、患者を診断したりするシステム等に用いられる。しかしながら、この分野に限られず他の分野においても適用可能である。
【0093】
<その他の実施形態>
本発明に係る実施形態は、以上説明した実施形態に限定されず、他の種々の実施形態がある。
【0094】
上記の各実施形態では、XYZ表色系が用いられてセンサ補正テーブル及び光源補正テーブルが作成された。しかしながら、例えばRGB表色系、sRGB表色系、L*a*b*表色系、又はL*u*v*表色系等の他の表色系が用いられてもよい。
【0095】
上記では、デモザイク処理の後、ガンマ補正処理の前に、色再現補正処理が行われた。しかしながらこれに限られず、デモザイク処理の前、あるいはガンマ補正処理の後に、色再現補正処理の全部あるいは一部が行われてもよい。その他、例えばYCrCb変換処理の後に、色再現補正処理が行われてもよい。色再現補正処理が行われる際に入力される入力値に対応するような写像A及び写像Bを適宜算出し、各写像を表現するセンサ補正テーブル及び光源補正テーブルを適宜作成すればよい。
【0096】
上記では、センサ補正テーブルにより表される写像Aと、光源補正テーブルにより表される写像Bと、写像Cとが乗算されることで新たな写像Dが算出された。そしてその写像Dを表現する色再現補正テーブルが作成された。このように新たな写像Dにより、各写像による変換処理を合わせて行うことで、PCのCPUやRAM等の処理リソースに対する負荷を軽減させることができ、一定の処理速度の向上を図ることができる。
【0097】
しかしながら、各写像による変換処理が、異なるステップで個別に行われてもよい。また写像A及び写像Bが共に生成されなくてもよい。例えば主にイメージセンサの分光感度特性に起因する色再現性を補正するための処理として他の補正処理が採用され、主に撮影用光源の分光特性に起因する色再現性を補正するための写像Bのみが生成される。そして写像Bを表す光源補正テーブルにより、撮像される試料画像の色再現性が高度に補正されてもよい。
【0098】
上記では、色再現補正処理において、33×33×33で分割された3次元空間が用いられた。しかしながら33×33×33よりも大きい数、あるいは小さい数により分割された3次元空間が用いられてもよい。例えば256×256×256の数の代表点を有する補正テーブルが用いられてもよい。
【0099】
上記では、センサ補正テーブル及び光源補正テーブルとして、XYZ表色系の色彩値から色彩値への写像A及び写像Bをそれぞれ表す3次元ルックアップテーブルが用いられた。しかしながら、色相から色相への写像を表す2次元テーブルと、輝度の写像を表す1次元テーブルが組み合わされたものが、各補正テーブルとして用いられてもよい。またはRGBからRGBへの写像を表す3次元テーブルが用いられてもよいし、YCrCbからYCrCbへの写像を表す3次元テーブルが用いられてもよい。あるいはLabからLabへの写像を表す3次元テーブルが用いられてもよい。さらにイメージセンサに設けられたカラーフィルタによっては、RGrGbBからRGrGbBへの写像を表す4次元テーブルが用いられてもよい。その他、写像A及び写像Bの変換処理が可能となる補正テーブルであれば、どのようなものが用いられもよい。また各補正テーブルは、圧縮されて記憶されてもよい。
【0100】
上記した色再現補正処理を利用して、例えば特定の色域の強調、減衰、色ノイズ除去、色相廻り補正、高輝度色回り補正が行われてもよい。また上記した色再現補正処理を利用して、光学系、照明系の校正が行われてもよい。
【0101】
また、図13に示すように、本発明の実施形態として用いられるスキャナ装置500により生成された校正用被写体の画像や試料画像のRawデータが、PC100とは別のコンピュータやサーバ600に記憶され、ユーザが端末装置として使用するPC100が、それら別のコンピュータやサーバ600にアクセスしてそのRawデータを受信してもよい。この場合、端末装置としてのPC100とサーバ600等とがLANまたはWAN等のネットワーク700を介して接続されてもよい。特に、WANが使用されることにより遠隔病理学(Telepathology)や遠隔診断等を実現することができる。
【0102】
上記では、センサ色再現測定処理及び光源色再現測定処理が予め行われる場合について説明した。しかしながら、センサ色再現測定処理又は光源色再現測定処理の一部あるいは全部が、色再現補正処理と同時に行われてもよい。この場合、試料を保持するために用いられるスライドガラスに校正用被写体が設けられてもよい。
【0103】
上記では、校正用被写体として複数のカラーフィルタが用いられた。そしてカラーフィルタごとに、校正用光源色彩値XYZや撮像用光源色彩値XYZ等がプロットされることで、センサ補正テーブルや光源補正テーブルが作成された。しかしながら単一のカラーフィルタと光学的なカラーフィルタとを組み合わせたものが、校正用被写体として用いられてもよい。また、校正用光源や撮影用光源の色温度を変化させることで、各色彩値がプロットされてもよい。
【0104】
上記では、センサ補正テーブル及び光源補正テーブルについて、所定の個数の代表点が設定され、代表点ごとに逆マップが割り当てられた。しかしながら、撮影された試料画像の全画素に対応する逆マップを有するセンサ補正テーブル及び光源補正テーブルが作成されてもよい。また周辺画素と平滑化した上で、あるいはフーリエ変換し、数式、もしくは係数が用いられることで、センサ補正テーブル及び光源補正テーブルが作成されてもよい。また光源補正テーブルが、校正用光源により照射された校正用被写体の画像データ、及び撮影用光源により照射された校正用被写体の画像データの撮影データ対として記憶されてもよい。
【0105】
上記では、色再現補正テーブルの代表点にそれぞれ逆マップが割り当てられ、それら逆マップが用いられることで、試料画像の色情報が補正された。しかしながら、処理時間の短縮や演算量の軽減のために色再現処理に用いられる逆マップが間引かれてもよい。
【0106】
また、試料台のZ位置、観察領域に対する撮影位置、照明光学系、結像光学系、試料、センサ、撮像装置、画像処理方法、温度、視野絞り、露光時間、アナログゲイン設定値、露出補正設定値、彩度設定値、あるいは倍率設定値等が変更されるたびにセンサ色再現キャリブレーション処理又は光源色再現キャリブレーション処理が行われ、センサ補正テーブル又は光源補正テーブルが作成されてもよい。
【0107】
撮像される試料画像を複数の領域で分割し、各分割領域に対応するセンサ補正テーブル及び光源補正テーブルが作成されてもよい。そして分割領域ごとに色再現補正処理が行われてもよい。これにより例えば60×40(Kpixel)のサイズからなる、大容量のデータ量を有する試料画像が補正される場合でも、PCのCPUやRAM等の処理リソースに対する負荷が軽減され、一定の処理速度の向上が図られる。
【0108】
上記では、分光測定器により、校正用光源により照射された校正用被写体の分光特性が測定された。しかしながら、理想の色再現特性を有する撮像光学系により校正用被写体が撮像されてもよい。そして得られた画像と、撮像装置により撮像された校正用被写体の画像とが比較されることでセンサ補正テーブルが作成されてもよい。
【0109】
上記では、図2に示す撮像装置200により、校正用被写体の画像及び試料画像のRawデータを含むRawデータファイルが作成された。しかしながら、撮像装置200により、Rawデータに画像処理が行われてもよいし、撮像装置200を特定する情報や撮影条件を特定する情報等の各種のデータを含んだRawデータファイルが作成されてもよい。また、それらの各種のデータが、センサ色再現測定処理、光源色再現測定処理、又は色再現補正処理のために用いられてもよい。
【0110】
また、上記で説明した、各画像のRawデータ、各補正テーブル、又は色再現補正処理等が行われた試料画像が、各キャリブレーション処理時、又は色再現補正処理時に利用される統計データや校正データ等をとるために用いられてもよい。
【0111】
上記では、透過照明型の光学顕微鏡が用いられたが、これに限られず落射照明型の光学顕微鏡が用いられてもよい。
【符号の説明】
【0112】
100…PC(情報処理装置)
101…CPU
102…ROM
103…RAM
104…HDD
110…記録媒体
200…撮像装置
300…光学顕微鏡
301…撮影用光源
305…試料
310…校正用光源
311…分光測定器
312…校正用被写体
400…撮像システム
500…スキャナ装置
600…サーバ
800…光学顕微鏡を搭載した撮像装置
801…撮影用光源
810…校正用光源
【特許請求の範囲】
【請求項1】
光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第1の色再現補正情報を生成する第1の生成部と、
前記第1の生成部により生成された前記第1の色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する補正部と
を具備する情報処理装置。
【請求項2】
請求項1に記載の情報処理装置であって、
分光測定手段により生成された前記校正用光源により照射された前記校正用被写体の分光情報と、前記撮像手段により撮像された前記校正用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第2の色再現補正情報を生成する第2の生成部をさらに具備し、
前記補正部は、前記第1の色再現補正情報と、前記第2の生成部により生成された前記第2の色再現補正情報とに基づいて、前記撮像手段により撮像された前記対象被写体の画像の色情報を補正する
情報処理装置。
【請求項3】
請求項1又は2に記載の情報処理装置であって、
前記第1の生成部は、周期的に前記第1の色再現補正情報を生成する情報処理装置。
【請求項4】
光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成し、
前記生成された色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する
ことを情報処理装置が実行する情報処理方法。
【請求項5】
光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成し、
前記生成された色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する
ことを情報処理装置に実行させるプログラム。
【請求項6】
撮影用光源を有する光学顕微鏡と、
前記光学顕微鏡により得られる像を撮影することが可能な撮像手段と、
前記撮像手段により撮像された校正用光源により照射された校正用被写体の画像の色情報を記憶する記憶部と、
前記記憶部により記憶された前記校正用光源により照射された前記校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する生成部と、
前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する補正部と
を具備する、光学顕微鏡を搭載した撮像装置。
【請求項7】
請求項6に記載の、光学顕微鏡を搭載した撮像装置であって、
前記撮像手段は、前記撮影用光源により照射された前記校正用被写体の画像を周期的に撮像し、
前記生成部は、前記記憶された前記校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成する
光学顕微鏡を搭載した撮像装置。
【請求項8】
撮影用光源と校正用光源とを有する光学顕微鏡と、
前記光学顕微鏡により得られる像を撮影することが可能な撮像手段と、
前記撮像手段により撮像された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する生成部と、
前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する補正部と
を具備する、光学顕微鏡を搭載した撮像装置。
【請求項9】
請求項8に記載の、光学顕微鏡を搭載した撮像装置であって、
前記撮影手段は、前記校正用光源により照射された前記校正用被写体の画像と、前記撮影用光源により照射された前記校正用被写体の画像とを周期的にそれぞれ撮像し、
前記生成部は、前記撮像手段により周期的に撮影された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成する
光学顕微鏡を搭載した撮像装置。
【請求項1】
光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第1の色再現補正情報を生成する第1の生成部と、
前記第1の生成部により生成された前記第1の色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する補正部と
を具備する情報処理装置。
【請求項2】
請求項1に記載の情報処理装置であって、
分光測定手段により生成された前記校正用光源により照射された前記校正用被写体の分光情報と、前記撮像手段により撮像された前記校正用光源により照射された前記校正用被写体の画像の色情報とに基づいて、第2の色再現補正情報を生成する第2の生成部をさらに具備し、
前記補正部は、前記第1の色再現補正情報と、前記第2の生成部により生成された前記第2の色再現補正情報とに基づいて、前記撮像手段により撮像された前記対象被写体の画像の色情報を補正する
情報処理装置。
【請求項3】
請求項1又は2に記載の情報処理装置であって、
前記第1の生成部は、周期的に前記第1の色再現補正情報を生成する情報処理装置。
【請求項4】
光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成し、
前記生成された色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する
ことを情報処理装置が実行する情報処理方法。
【請求項5】
光学顕微鏡により得られる像を撮影することが可能な撮像手段により撮像された、校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成し、
前記生成された色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する
ことを情報処理装置に実行させるプログラム。
【請求項6】
撮影用光源を有する光学顕微鏡と、
前記光学顕微鏡により得られる像を撮影することが可能な撮像手段と、
前記撮像手段により撮像された校正用光源により照射された校正用被写体の画像の色情報を記憶する記憶部と、
前記記憶部により記憶された前記校正用光源により照射された前記校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する生成部と、
前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する補正部と
を具備する、光学顕微鏡を搭載した撮像装置。
【請求項7】
請求項6に記載の、光学顕微鏡を搭載した撮像装置であって、
前記撮像手段は、前記撮影用光源により照射された前記校正用被写体の画像を周期的に撮像し、
前記生成部は、前記記憶された前記校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成する
光学顕微鏡を搭載した撮像装置。
【請求項8】
撮影用光源と校正用光源とを有する光学顕微鏡と、
前記光学顕微鏡により得られる像を撮影することが可能な撮像手段と、
前記撮像手段により撮像された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、色再現補正情報を生成する生成部と、
前記生成部により生成された前記色再現補正情報に基づいて、前記撮像手段により撮像された前記撮影用光源により照射された対象被写体の画像の色情報を補正する補正部と
を具備する、光学顕微鏡を搭載した撮像装置。
【請求項9】
請求項8に記載の、光学顕微鏡を搭載した撮像装置であって、
前記撮影手段は、前記校正用光源により照射された前記校正用被写体の画像と、前記撮影用光源により照射された前記校正用被写体の画像とを周期的にそれぞれ撮像し、
前記生成部は、前記撮像手段により周期的に撮影された前記校正用光源により照射された校正用被写体の画像の色情報と、前記撮像手段により周期的に撮像された前記撮影用光源により照射された前記校正用被写体の画像の色情報とに基づいて、周期的に前記色再現補正情報を生成する
光学顕微鏡を搭載した撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−68397(P2012−68397A)
【公開日】平成24年4月5日(2012.4.5)
【国際特許分類】
【出願番号】特願2010−212426(P2010−212426)
【出願日】平成22年9月22日(2010.9.22)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成24年4月5日(2012.4.5)
【国際特許分類】
【出願日】平成22年9月22日(2010.9.22)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]