説明

画像処理装置及び画像処理方法

【課題】撮像装置の欠陥画素の欠陥の種類に応じて、適切な補正を行えるようにすること。
【解決手段】撮像素子から出力される画像データを処理する画像処理装置であって、撮影条件または撮影環境と、補正対象となる欠陥画素のグレードを示す第1の情報とを対応させた複数のテーブルを記憶した第1の記憶手段と、各欠陥画素について、アドレス情報と、複数のテーブルの内、参照するテーブルを示す参照テーブル情報と、欠陥画素のグレードを示す第2の情報とからなるキズデータを記憶した第2の記憶手段とを有し、撮影時の撮影条件及び撮影環境を取得して(S602)、取得した撮影条件または撮影環境における、参照テーブル情報に対応したテーブルが示す第1の情報と、キズデータにおける各欠陥画素の第2の情報との比較結果に基づいて欠陥補正の要否を判定し(S603〜S606)、欠陥補正が必要と判断された欠陥画素から出力された画像データに対して欠陥補正を行う。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置及び画像処理方法に関し、更に詳しくは、欠陥画素から出力された信号を補正する機能を有する画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
従来、固体メモリ素子を有するメモリカードを記録媒体として、CCDやCMOS等の固体撮像素子で撮像した静止画像や動画像を記録および再生する電子カメラ等の画像処理装置が市販されている。CCDやCMOS等の固体撮像素子を用いて撮像する場合、撮像素子に発生する暗電流ノイズや撮像素子固有の欠陥画素等の画質劣化が生じることが知られている。
【0003】
従来、これらの欠陥画素の補正方法としては、センサの工場出荷時に、所定の条件下での標準蓄積時間での出力を評価し、欠陥画素であるか否かを判定する。そして、その画素の欠陥の種類(黒キズ、白キズ等)及びアドレスと欠陥レベルのデータを得、そのデータを用いて欠陥画素を補正するように構成されている。
【0004】
しかしながら、欠陥画素は撮影時の条件によって大きくその程度が異なることが知られている。従って、例えば通常の短秒時での一般撮影時には問題にならないような画素でも、長秒での撮影時には欠陥画素としてのレベルが大きくなり、画質に悪影響を与えてしまうことになる。このような問題を避けるために、特許文献1では、撮影時の条件として撮像素子の温度やシャッター秒時及び感度を考慮して欠陥画素を補正する技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−175987号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ここで、いわゆる白キズであれば特許文献1に記載されているように、温度、シャッター秒時及び感度を考慮した判定条件を定めることが可能である。しかしながら欠陥画素の種類によっては、例えば感度にのみ影響され、露光時間には全く影響されないような欠陥画素(いわゆる、瞬きキズと呼ばれる。)がある。この場合、高感度時には欠陥画素の補正処理を行う必要がある。しかし、他の白キズと同様に、感度に加えて温度および露光時間を考慮した判定条件のもとでは適切な条件を定めることができず、結果として撮影条件によっては過補正するか、もしくは全く補正されない可能性がある。このために撮影画像の画質を損なう場合がある。
【0007】
本発明は上記問題点を鑑みてなされたものであり、撮像装置の欠陥画素の欠陥の種類に応じて、適切な補正を行えるようにすることを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成するために、複数の画素を含む撮像素子から出力される画像データを処理する本発明の画像処理装置は、撮影条件または撮影環境と、補正対象となる欠陥画素のグレードを示す第1の情報とを対応させた複数のテーブルを記憶した第1の記憶手段と、前記複数の画素の内、各欠陥画素について、アドレス情報と、前記複数のテーブルの内、参照するテーブルを示す参照テーブル情報と、欠陥画素のグレードを示す第2の情報とからなるキズデータを記憶した第2の記憶手段と、撮影時の撮影条件及び撮影環境を取得する取得手段と、前記取得手段が取得した前記撮影条件または撮影環境における、前記参照テーブル情報に対応したテーブルが示す前記第1の情報と、前記キズデータにおける各欠陥画素の前記第2の情報とを比較し、比較結果に基づいて各欠陥画素の欠陥補正の要否を判定する判定手段と、前記判定手段により欠陥補正が必要であると判断された欠陥画素から出力された画像データに対して前記欠陥補正を行う補正手段とを有することを特徴とする。
【0009】
また、複数の画素を含む撮像素子から出力される画像データを処理し、撮影条件または撮影環境と、補正対象となる欠陥画素のグレードを示す第1の情報とを対応させた複数のテーブルを記憶した第1の記憶手段と、前記複数の画素の内、各欠陥画素について、アドレス情報と、前記複数のテーブルの内、参照するテーブルを示す参照テーブル情報と、欠陥画素のグレードを示す第2の情報とからなるキズデータを記憶した第2の記憶手段とを有する画像処理装置における画像処理方法であって、取得手段が、撮影時の撮影条件及び撮影環境を取得する取得工程と、判定手段が、前記取得工程で取得した前記撮影条件または撮影環境における、前記参照テーブル情報に対応したテーブルが示す前記第1の情報と、前記キズデータにおける各欠陥画素の前記第2の情報とを比較し、比較結果に基づいて各欠陥画素の欠陥補正の要否を判定する判定工程と、補正手段が、前記判定工程で欠陥補正が必要であると判断された欠陥画素から出力された画像データに対して前記欠陥補正を行う補正工程とを有することを特徴とする。
【発明の効果】
【0010】
本発明によれば、撮像装置の欠陥画素の欠陥の種類に応じた適切な補正を行うことができる。
【図面の簡単な説明】
【0011】
【図1】本発明の実施形態における撮像装置の構成を示すブロック図。
【図2】実施形態における画像処理装置の主ルーチンのフローチャート。
【図3】実施形態における画像処理装置の主ルーチンのフローチャート。
【図4】実施形態における測距・測光処理を示すフローチャート。
【図5】実施形態における撮影処理を示すフローチャート。
【図6】実施形態における欠陥画素補正判定処理を示すフローチャート。
【図7】実施形態におけるキズ画素判断処理を示すフローチャート。
【図8】実施形態におけるキズデータの一例を示す図。
【図9】実施形態における欠陥補正判定を行うための判定値テーブルを示す図。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
【0013】
図1に示すように、本実施の形態の撮像装置は、主に画像処理装置100と、交換レンズタイプのレンズユニット300により構成されている。
【0014】
レンズユニット300は、複数のレンズから成る撮像レンズ310、絞り312、レンズユニット300を画像処理装置100と機械的に結合するレンズマウント306を備えている。レンズマウント306内には、レンズユニット300を画像処理装置100と電気的に接続する各種機能が含まれている。すなわち、レンズマウント306は、レンズユニット300を画像処理装置100と接続するためのインタフェース320、レンズユニット300を画像処理装置100と電気的に接続するコネクタ322を備えている。
【0015】
コネクタ322は、画像処理装置100とレンズユニット300との間で制御信号、状態信号、データ信号などを伝え合うと共に、各種電圧の電流を供給されるあるいは供給する機能も備えている。また、コネクタ322は電気通信のみならず、光通信、音声通信などを伝達する構成としても良い。
【0016】
絞り制御部340は、測光制御部46からの測光情報に基づいて、後述する画像処理装置100のシャッター12を制御するシャッター制御部40と連携しながら、絞り312を制御する。フォーカス制御部342は、撮像レンズ310のフォーカシングを制御し、ズーム制御部344は、撮像レンズ310のズーミングを制御する。
【0017】
レンズ制御回路350は、レンズユニット300全体を制御する。レンズ制御回路350は、動作用の定数、変数、プログラムなどを記憶するメモリを備えている。更に、レンズユニット300固有の番号などの識別情報、管理情報、開放絞り値や最小絞り値、焦点距離などの機能情報、現在や過去の各設定値などを保持する不揮発メモリも備えている。
【0018】
次に、画像処理装置100の構成について説明する。
【0019】
レンズマウント106は、画像処理装置100とレンズユニット300を機械的に結合する。ミラー130、132は、撮像レンズ310に入射した光線を光学ファインダ104に導く。なお、ミラー130はクイックリターンミラーの構成としても、ハーフミラーの構成としても、どちらでも構わない。撮像素子14は、光学像を電気信号に変換する。シャッター12は、撮像素子14への露光量を制御する。撮像レンズ310に入射した光線は、一眼レフ方式によって絞り312、レンズマウント306及び106、ミラー130、シャッター12を介して導かれ、光学像として撮像素子14上に結像する。
【0020】
A/D変換器16は、撮像素子14から出力されるアナログ信号をデジタル信号に変換する。タイミング発生回路18は、撮像素子14、A/D変換器16、D/A変換器26にそれぞれクロック信号や制御信号を供給する。タイミング発生回路18は、メモリ制御回路22及びシステム制御回路50により制御される。
【0021】
画像処理回路20は、A/D変換器16からのデータ或いはメモリ制御回路22からのデータに対して所定の画素補間処理や色変換処理を行う。また、画像処理回路20は、必要に応じて、A/D変換器16から出力される画像データを用いて所定の演算処理を行う。そして、得られた演算結果に基づいて、システム制御回路50がシャッター制御部40、焦点調節部42を制御するための、TTL(スルー・ザ・レンズ)方式のオートフォーカス(AF)処理、自動露出(AE)処理、フラッシュプリ発光(EF)処理を行っている。さらに、画像処理回路20は、A/D変換器16から出力される画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のオートホワイトバランス(AWB)処理も行っている。
【0022】
なお、本実施の形態における図1に示す例では、焦点調節部42及び測光制御部46を専用に備えている。従って、焦点調節部42及び測光制御部46を用いてAF処理、AE処理、EF処理の各処理を行い、画像処理回路20を用いたAF処理、AE処理、EF処理の各処理を行わない構成としても構わない。また、焦点調節部42及び測光制御部46を用いてAF処理、AE処理、EF処理の各処理を行い、さらに、画像処理回路20を用いてAF処理、AE処理、EF処理の各処理を行う構成としてもよい。
【0023】
メモリ制御回路22は、A/D変換器16、タイミング発生回路18、画像処理回路20、画像表示メモリ24、D/A変換器26、メモリ30、圧縮・伸長回路32を制御する。A/D変換器16から出力される画像データは、画像処理回路20、メモリ制御回路22を介して、或いはメモリ制御回路22のみを介して、画像表示メモリ24或いはメモリ30に書き込まれる。
【0024】
画像表示部28は、TFT方式のLCD等から成り、画像表示メモリ24に書き込まれた表示用の画像データがD/A変換器26を介して表示される。画像表示部28を用いて、撮像した画像データを逐次表示することで、電子ビューファインダ(EVF)機能を実現することができる。また、画像表示部28は、システム制御回路50の指示により任意に表示をON/OFFすることが可能であり、表示をOFFにした場合には画像処理装置100の電力消費を大幅に低減することができる。
【0025】
撮影した静止画像や動画像を格納するメモリ30は、所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶容量を備えている。これにより、複数枚の静止画像を連続して撮影する連写撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ30に対して行うことが可能となる。また、メモリ30は、システム制御回路50の作業領域としても使用することが可能である。
【0026】
圧縮・伸長回路32は、適応離散コサイン変換(ADCT)等、公知の圧縮方法を用いて画像データを圧縮・伸長する。圧縮・伸長回路32は、メモリ30に格納された画像を読み込んで圧縮処理或いは伸長処理を行い、処理を終えたデータを再びメモリ30に書き込む。
【0027】
シャッター制御部40は、測光制御部46からの測光情報に基づいて絞り312を制御する絞り制御部340と連携しながらシャッター12を制御する。焦点調節部42は、AF(オートフォーカス)処理を行う。レンズユニット300内の撮像レンズ310に入射した光線が、絞り312、レンズマウント306、106、ミラー130及び焦点調節用サブミラー(図示せず)を介して焦点調節部42に入射されることにより、光学像として結像された画像の合焦状態を測定する。
【0028】
温度計44は、撮影環境の温度を検出する。温度計がセンサ内にある場合はセンサの暗電流をより正確に予想することが可能である。
【0029】
測光制御部46は、AE(自動露出)処理を行う。レンズユニット300内の撮像レンズ310に入射した光線が、絞り312、レンズマウント306、106、ミラー130及び測光用サブミラー(不図示)を介して測光制御部46に入射されることにより、光学像として結像された画像の露出状態を測定する。フラッシュ48は、AF補助光の投光機能及びフラッシュ調光機能を有する。測光制御部46は、フラッシュ48と連携することにより、EF(フラッシュ調光)処理機能も有する。
【0030】
なお、前述したように、A/D変換器16からの画像データを用いて画像処理回路20により演算された演算結果に基づいて露出制御及びAF制御を行っても良い。その場合、システム制御回路50がシャッター制御部40、絞り制御部340、フォーカス制御部342に対し、ビデオTTL方式を用いた露出制御及びAF制御を行うことが可能である。
【0031】
また、焦点調節部42による測定結果と、A/D変換器16からの画像データを画像処理回路20によって演算した演算結果とを用いて、AF制御を行うようにしてもよい。さらに、測光制御部46による測定結果と、A/D変換器16からの画像データを画像処理回路20によって演算した演算結果とを用いて露出制御を行うようにしてもよい。
【0032】
システム制御回路50は、画像処理装置100全体を制御し、周知のCPUなどを内蔵する。メモリ52は、システム制御回路50の動作用の定数、変数、プログラム等を記憶する。さらにメモリ52には、撮像素子14の製造工程内で検出された欠陥画素に関する情報(キズデータ)を記憶している。本実施の形態においては欠陥画素情報として、各欠陥画素のアドレス情報、欠陥の種類を示す情報(以下、「キズID」と呼ぶ。)、及び欠陥の目立ちやすさを示す程度を出力信号レベルに応じて数段階に分類した欠陥画素のグレードを示す情報(以下、「キズグレード」と呼ぶ。)(第2の情報)を記憶している。この欠陥画素情報は、同じキズID及びキズグレードを有する複数の画素に対して共通の1つのキズデータを持っていてもよいし、1つの画素に対して複数のキズデータを持っていてもよい。
【0033】
通知部54は、システム制御回路50でのプログラムの実行に応じて、文字、画像、音声などを用いて動作状態やメッセージなどを外部に通知する。通知部54としては、例えばLCDやLEDなどによる視覚的な表示を行う表示部や音声による通知を行う発音素子などが用いられるが、これらのうち1つ以上の組み合わせにより構成される。特に、表示部の場合には、画像処理装置100の操作部70近辺の、視認しやすい、単数あるいは複数箇所に設置されている。また、通知部54は、その一部の機能が光学ファインダ104内に設置されている。
【0034】
通知部54の表示内容の内、LCDなどに表示するものとしては以下のものがある。まず、単写/連写撮影表示、セルフタイマ表示等、撮影モードに関する表示がある。また、圧縮率表示、記録画素数表示、記録枚数表示、残撮影可能枚数表示等の記録に関する表示がある。また、シャッタースピード表示、絞り値表示、露出補正表示、フラッシュ表示、赤目緩和表示等の撮影条件に関する表示がある。その他に、ISO感度表示、マクロ撮影表示、ブザー設定表示、時計用電池残量表示、電池残量表示、エラー表示、複数桁の数字による情報表示、記録媒体200及び210の着脱状態表示がある。更に、レンズユニット300の着脱状態表示、通信I/F動作表示、日付・時刻表示、外部コンピュータとの接続状態を示す表示等も行われる。
【0035】
また、通知部54の表示内容のうち、光学ファインダ104内に表示するものとしては、例えば、以下のものがある。合焦表示、撮影準備完了表示、手振れ警告表示、フラッシュ充電表示、フラッシュ充電完了表示、シャッタースピード表示、絞り値表示、露出補正表示、記録媒体書き込み動作表示等である。
【0036】
さらに、通知部54の表示内容のうち、LED等により表示するものとしては、例えば、以下のものがある。合焦表示、撮影準備完了表示、手振れ警告表示、フラッシュ充電表示、フラッシュ充電完了表示、記録媒体書き込み動作表示、マクロ撮影設定通知表示、二次電池充電表示等である。
【0037】
また、通知部54の表示内容のうち、ランプ等に表示するものとしては、例えば、セルフタイマ通知ランプ等がある。このセルフタイマ通知ランプはAF補助光と共用してもよい。
【0038】
不揮発性メモリ56は、例えば電気的に消去・記録可能なEEPROM等が用いられ、後述するプログラムなどが格納される。この不揮発性メモリ56には、各種パラメータやISO感度などの設定値、設定モード等のデータが格納される。
【0039】
操作手段60、62、64、66、68、69及び70は、ユーザがシステム制御回路50の各種の動作指示を入力するためのものである。スイッチやダイアル、タッチパネル、視線検知によるポインティング、音声認識装置等の単数或いは複数の組み合わせで構成される。ここで、これらの操作手段の具体的な説明を行う。
【0040】
モードダイアルスイッチ60を操作することで、自動撮影モード、プログラム撮影モード、シャッター速度優先撮影モード、絞り優先撮影モード、マニュアル撮影モード、焦点深度優先(デプス)撮影モード等の各機能撮影モードを切り替え設定することができる。他に、ポートレート撮影モード、風景撮影モード、接写撮影モード、スポーツ撮影モード、夜景撮影モード、パノラマ撮影モードなどの各機能撮影モードを切り替え設定することもできる。
【0041】
シャッタースイッチSW1は、不図示のシャッターボタンの操作途中(例えば半押し)でONとなり、AF処理、AE処理、AWB処理、EF処理等の動作開始を指示する。
【0042】
シャッタースイッチSW2は、不図示のシャッターボタンの操作完了(例えば全押し)でONとなり、露光処理、現像処理、及び記録処理からなる一連の処理の動作開始を指示する。まず、露光処理では、撮像素子14から読み出した信号をA/D変換器16、メモリ制御回路22を介して画像データをメモリ30に書き込み、更に、画像処理回路20やメモリ制御回路22での演算を用いた現像処理が行われる。更に、記録処理では、メモリ30から画像データを読み出し、圧縮・伸長回路32で圧縮を行い、記録媒体200あるいは210に画像データを書き込む。
【0043】
再生スイッチ66を操作することで、各撮影モードで撮影した画像をメモリ30あるいは記録媒体200、210から読み出して画像表示部28に表示する再生動作の開始を指示する。
【0044】
単写/連写スイッチ68により、シャッタースイッチSW2を押した場合に1駒の撮影を行って待機状態とする単写モードと、シャッタースイッチSW2を押している間は連続して撮影を行い続ける連写モードとを設定することができる。
【0045】
ISO感度スイッチ69は、撮像素子14或いは画像処理回路20におけるゲインの設定を変更することにより、ISO感度を設定することができる。
【0046】
操作部70は、各種ボタンやタッチパネルなどから成る。一例として、メニューボタン、セットボタン、マクロボタン、マルチ画面再生改ページボタン、フラッシュ設定ボタン、単写/連写/セルフタイマ切り換えボタン、メニュー移動+(プラス)ボタン、メニュー移動−(マイナス)ボタンを含む。更に、再生画像移動+(プラス)ボタン、再生画像移動−(マイナス)ボタン、撮影画質選択ボタン、露出補正ボタン、日付/時間設定ボタンなども含む。他に、パノラマモード等の撮影及び再生を実行する際に各種機能の選択及び切り替えを設定する選択/切り替えボタン、パノラマモード等の撮影及び再生を実行する際に各種機能の決定及び実行を設定する決定/実行ボタンがある。また、画像表示部28のON/OFFを設定する画像表示ON/OFFスイッチ、撮影直後に撮影した画像データを自動再生するクイックレビュー機能を設定するクイックレビューON/OFFスイッチがある。また、JPEG圧縮の圧縮率を選択するため、あるいは撮像素子の信号をそのままデジタル化して記録媒体に記録するCCDRAWモードを選択するためのスイッチである圧縮モードスイッチがある。他には、再生モード、マルチ画面再生・消去モード、PC接続モード等の各機能モードを設定することができる再生スイッチがある。また、上記プラスボタン及びマイナスボタンの各機能は、回転ダイアルスイッチを備えることによって、より軽快に数値や機能を選択することが可能となる。
【0047】
電源スイッチ72の操作により、画像処理装置100の電源オン、電源オフの各モードを切り替え設定することができる。また、画像処理装置100に接続されたレンズユニット300、外部フラッシュ、記録媒体200、210等の各種付属装置の電源オン、電源オフの設定も合わせて切り替え設定可能である。
【0048】
電源制御部80は、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成されている。電源制御部80は、電池の装着の有無、電池の種類、電池残量の検出を行い、検出結果及びシステム制御回路50の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体を含む各部へ供給する。
【0049】
電源部86は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li‐ion電池、Liポリマー電池等の二次電池、ACアダプター等からなる。電源部86は、コネクタ82、84を介して電源制御部80と着脱自在に接続される。
【0050】
インタフェース90及び94は、コネクタ92及び96を介してメモリカードやハードディスク等の記録媒体と接続を行う。記録媒体着脱検知回路98は、コネクタ92及び/或いは96に記録媒体200或いは210が装着されているか否かを検知する。
【0051】
なお、本実施の形態では記録媒体を取り付けるインタフェース及びコネクタを2系統持つものとして説明しているが、記録媒体を取り付けるインタフェース及びコネクタは、単数或いは複数、いずれの系統数を備える構成としても構わない。また、異なる規格のインタフェース及びコネクタを組み合わせて備える構成としても構わない。
【0052】
インタフェース及びコネクタとしては、種々の記録媒体の規格に準拠したものを用いて構成することが可能である。例えば、PCMCIA(Personal Computer Memory Card International Association)カードやCF(コンパクトフラッシュ(登録商標))カード、SDカード等である。インタフェース90及び94、そしてコネクタ92及び96をPCMCIAカードやCF(登録商標)カード等の規格に準拠したものを用いて構成した場合、各種通信カードを接続することができる。通信カードとしては、LANカードやモデムカード、USB(Universal Serial Bus)カード、IEEE(Institute of Electrical and Electronic Engineers)1394カードがある。他にも、P1284カード、SCSI(Small Computer System Interface)カード、PHS等がある。これら各種通信カードを接続することにより、他のコンピュータやプリンタ等の周辺機器との間で画像データや画像データに付属した管理情報を転送し合うことができる。
【0053】
光学ファインダ104は、撮像レンズ310により結像された被写体の光学像を、絞り312、レンズマウント306、106、ミラー130、132を介してユーザが観察するためのものである。これにより、画像表示部28による電子ファインダ機能を使用すること無しに、光学ファインダ104のみを用いて撮影を行うことが可能である。また、光学ファインダ104内には、通知部54の一部の機能、例えば、合焦状態、手振れ警告、フラッシュ充電、シャッタースピード、絞り値、露出補正などが表示される。
【0054】
通信部110は、RS232CやUSB、IEEE1394、P1284、SCSI、モデム、LAN、無線通信、等の各種通信機能を有する。コネクタ112は、通信部110により画像処理装置100を他の機器と接続する。なお、無線通信の場合は、コネクタ112の代わりにアンテナが設けられる。
【0055】
インタフェース120は、レンズマウント106内で画像処理装置100をレンズユニット300と接続する。
【0056】
コネクタ122は、画像処理装置100をレンズユニット300と電気的に接続する。また、レンズマウント106及び/またはコネクタ122にレンズユニット300が装着されているか否かは、不図示のレンズ着脱検知部により検知される。コネクタ122は、画像処理装置100とレンズユニット300との間で制御信号、状態信号、データ信号などを伝え合うと共に、各種電圧の電流を供給する機能も備えている。また、コネクタ122は、電気通信だけでなく、光通信、音声通信などを伝達する構成としてもよい。
【0057】
記録媒体200及び210は、メモリカードやハードディスク等である。この記録媒体200及び210は、それぞれ、半導体メモリや磁気ディスク等から構成される記録部202及び212、画像処理装置100とのインタフェース204及び214、画像処理装置100と接続を行うコネクタ206及び216を備えている。
【0058】
記録媒体200及び210としては、PCMCIAカードやコンパクトフラッシュ(登録商標)等のメモリカード、ハードディスク等を用いることができる。また、マイクロDAT、光磁気ディスク、CD‐RやCD‐WR等の光ディスク、DVD等の相変化型光ディスク等で構成されていても勿論構わない。
【0059】
次に、図2〜図7を参照して、本発明の実施の形態における上記構成を有する画像処理装置100の動作を説明する。図2及び図3は、本実施の形態における画像処理装置100の主ルーチンのフローチャートである。
【0060】
電池交換等の電源投入により、システム制御回路50はフラグや制御変数等を初期化し、画像処理装置100の各部において必要な所定の初期設定を行う(S101)。次に、システム制御回路50は、電源スイッチ72の設定位置を判断する(S102)。電源スイッチ72が電源OFFに設定されていたならば、システム制御回路50は、各表示部の表示を終了状態に変更し、フラグや制御変数等を含む必要なパラメータや設定値、設定モードを不揮発性メモリ56に記録する。更に、システム制御回路50は、電源制御部80により画像表示部28を含む画像処理装置100各部の不要な電源を遮断する等の所定の終了処理を行った後(S103)、S102に戻る。
【0061】
電源スイッチ72が電源ONに設定されていたならば(S102)、システム制御回路50は、電源制御部80により電池等により構成される電源部86の残容量や動作情況が画像処理装置100の動作に問題があるか否かを判断する(S104)。問題があるならば(S104でNO)、通知部54を用いて画像や音声により所定の警告を行った後に(S105)、S102に戻る。
【0062】
一方、電源部86に問題が無いならば(S104でYES)、システム制御回路50はモードダイアル60の設定位置を判断し(S106)、モードダイアル60が撮影モードに設定されていたならば、S108に進む。モードダイアル60がその他のモードに設定されていたならば、システム制御回路50は選択されたモードに応じた処理を実行し(S107)、処理を終えたならばS102に戻る。
【0063】
システム制御回路50は、記録媒体200或いは210が装着されているかどうかの判断、及び、記録媒体200或いは210に記録された画像データの管理情報の取得を行う。そして、記録媒体200或いは210の動作状態が画像処理装置100の動作、特に記録媒体に対する画像データの記録再生動作に問題があるか否かの判断を行う(S108)。その結果、問題が無いならばS109に進み、問題があるならば通知部54を用いて画像や音声により所定の警告を行った後に(S105)、S102に戻る。
【0064】
S109では、システム制御回路50は通知部54を用いて、画像や音声により画像処理装置100の各種設定状態の通知を行う。なお、画像表示部28の画像表示がONであったならば、画像表示部28も用いて画像や音声により画像処理装置100の各種設定状態の通知を行う。
【0065】
次に、図3のS121において、システム制御回路50はシャッタースイッチSW1の状態を判断し、押されていないと判断するとS102に戻る。一方、シャッタースイッチSW1が押されたと判断すると、システム制御回路50はS122において焦点調節処理を行って撮像レンズ310の焦点を被写体に合わせ、測光処理を行って絞り値及びシャッター時間を決定する、焦点調節・測光処理を行う。測光の結果、必要であればフラッシュの設定も行う。このS122で行う焦点調節・測光処理の詳細は図4を用いて後述する。
【0066】
焦点調節・測光処理が終了すると、S132においてシステム制御回路50はシャッタースイッチSW2の状態を判断し、押されていないと判断すると、システム制御回路50はS133でシャッタースイッチSW1の状態を確認する。シャッタースイッチSW1がオンであるならば、S132に戻る一方、シャッタースイッチSW1がオフであると判断すると、S102に戻る。
【0067】
一方、シャッタースイッチSW2が押されたと判断すると、システム制御回路50は、撮影した画像データを記憶可能なバッファ領域がメモリ30にあるかどうかを判断する(S134)。メモリ30のバッファ領域に新たな画像データを記憶可能な空き領域が無いならば、通知部54を用いて画像や音声により所定の警告を行った後に(S135)、S102に戻る。
【0068】
ここで、メモリ30のバッファ領域に空き領域が無い場合の例として、バッファ領域内に記憶可能な最大枚数の連写撮影を行った直後がある。このような場合、メモリ30から読み出して記録媒体200或いは210に書き込むべき最初の画像がまだ記録媒体200或いは210に記録されていないので、まだ1枚分の空き領域もメモリ30の画像記憶バッファ領域上に確保できない。
【0069】
なお、撮影した画像データを圧縮処理してからメモリ30のバッファ領域に記憶する場合は、圧縮した後の画像データ量が圧縮モードの設定に応じて異なることを考慮する。こうして、記憶可能な領域がメモリ30のバッファ領域にあるかどうかをS134において判断する。
【0070】
メモリ30に撮影した画像データを記憶可能な画像記憶バッファ領域があるならば(S134でYES)、システム制御回路50は、S136において撮影処理を実行する。ここでは、まず、所定時間蓄積された電荷を撮像素子14から読み出し、A/D変換器16、画像処理回路20、メモリ制御回路22を介して、或いはA/D変換器から直接メモリ制御回路22を介して、メモリ30の所定領域に撮影した画像データを書き込む。なお、このS136における撮影処理の詳細は図5を用いて後述する。
【0071】
S136の撮影処理を終えたならば、S139に進んで欠陥画素補正処理を行う。なお、このS139における欠陥画素補正処理の詳細は図6〜図9を用いて後述する。
【0072】
システム制御回路50は、メモリ30の所定領域へ書き込まれた欠陥補正処理後の画像データの一部を、メモリ制御回路22を介して読み出して現像処理を行うために必要なWB積分演算処理、OB積分演算処理を行う。さらに、演算結果をシステム制御回路50の内部メモリ或いはメモリ52に記憶する。
【0073】
そして、システム制御回路50は、メモリ制御回路22そして必要に応じて画像処理回路20を用いて、メモリ30の所定領域に書き込まれた欠陥補正処理後の画像データを読み出す。そして、システム制御回路50の内部メモリ或いはメモリ52に記憶した演算結果を用いて、AWB処理、ガンマ変換処理、色変換処理を含む各種現像処理を行う(S140)。
【0074】
システム制御回路50は、メモリ30の所定領域に書き込まれた画像データを読み出して、設定したモードに応じた画像圧縮処理を圧縮・伸長回路32により行う(S141)。その後、メモリ30の画像記憶バッファ領域の空き領域に、撮影して一連の処理を終えた画像データの書き込みを行う。
【0075】
一連の撮影の実行に伴い、システム制御回路50は、メモリ30の画像記憶バッファ領域に記憶した画像データを読み出す。そして、インタフェース90或いは94、コネクタ92或いは96を介して、メモリカードやコンパクトフラッシュカード等の記録媒体200或いは210へ書き込みを行う記録処理を開始する(S142)。この記録開始処理は、メモリ30の画像記憶バッファ領域の空き領域に、撮影して一連の処理を終えた画像データの書き込みが新たに行われる度に、その画像データに対して実行される。なお、記録媒体200或いは210へ画像データの書き込みを行っている間、書き込み動作中であることを明示するために、通知部54において例えばLEDを点滅させる等の記録媒体書き込み動作表示を行う。
【0076】
そして、システム制御回路50はS143に進み、シャッタースイッチSW1が押されているかどうかを判断し、SW1が押されている間は、これが離されるのを待ち、押されていなければS102へ戻る。
【0077】
図4は、図3のS122における焦点調節・測光処理の詳細なフローチャートを示す。焦点調節・測光処理において、システム制御回路50と絞り制御部340またはフォーカス制御部342との間の各種信号のやり取りは、インタフェース120、コネクタ122、コネクタ322、インタフェース320、レンズ制御回路350を介して行われる。
【0078】
システム制御回路50は、撮像素子14、焦点調節部42及びフォーカス制御部342を用いて、AF処理を開始する(S201)。システム制御回路50は、撮像レンズ310に入射した光線を、絞り312、レンズマウント306及び106、ミラー130、不図示のAF用サブミラーを介して、焦点調節部42に入射させる。これにより、光学像として結像された画像の合焦状態を判断し、合焦と判断されるまで(S203)、フォーカス制御部342を用いて撮像レンズ310を駆動しながら、焦点調節部42を用いて合焦状態を検出するAF制御を実行する(S202)。
【0079】
そして、合焦と判断されると(S203でYES)、システム制御回路50は、撮影画面内の複数の測距点の中から合焦した測距点を決定する。そして、決定した測距点のデータと共に合焦状態のデータ及び或いは設定パラメータをシステム制御回路50の内部メモリ或いはメモリ52に記憶する。
【0080】
続いて、システム制御回路50は、測光制御部46を用いて、AE処理を開始する(S205)。システム制御回路50は、撮像レンズ310に入射した光線を、絞り312、レンズマウント306及び106、ミラー130及び132、不図示の測光用レンズを介して測光制御部46に入射させることにより、光学像として結像された画像の露出状態を測定する。そしてISO感度スイッチ69にて事前に設定されたISO感度において、露出(AE)が適正と判断されるまで(S207)、測光制御部46を用いて測光処理を行う(S206)。
【0081】
露出が適正と判断されると(S207でYES)、システム制御回路50は、測光データ及び/または設定パラメータをシステム制御回路50の内部メモリ或いはメモリ52に記憶し、S208に進む。なお、測光処理S206で検出した露出結果と、モードダイアル60によって設定された撮影モードに応じて、システム制御回路50は、絞り値(Av値)、シャッター速度(Tv値)を決定する。ここで決定したシャッター速度に応じて、システム制御回路50は、撮像素子14の電荷蓄積時間を決定し、決定した電荷蓄積時間、電荷を蓄積する撮影処理を行う。
【0082】
S206の測光処理で得られた測光データにより、システム制御回路50はフラッシュが必要か否かを判断し(S208)、フラッシュが必要ならばフラッシュ・フラグをセットし、フラッシュ48を充電する(S209)。そしてフラッシュ48の充電が完了すると(S210でYES)、焦点調節・測光処理を終了する。
【0083】
図5は、図3のS136における撮影処理の詳細なフローチャートを示す。撮影処理において、システム制御回路50と絞り制御部340或いはフォーカス制御部342との間の各種信号のやり取りは、インタフェース120、コネクタ122、コネクタ322、インタフェース320、レンズ制御回路350を介して行われる。
【0084】
システム制御回路50はミラー130をミラーアップ位置に移動し(S301)、システム制御回路50の内部メモリ或いはメモリ52に記憶された測光データに従い、絞り制御部340によって絞り312を所定の絞り値まで駆動する(S302)。
【0085】
システム制御回路50は、撮像素子14の電荷クリア動作を行った後に(S303)、撮像素子14の電荷蓄積を開始し(S304)、その後、シャッター制御部40によってシャッター12を開き(S305)、撮像素子14の露光を開始する(S306)。ここで、フラッシュ・フラグによりフラッシュ48が必要か否かを判断し(S307)、必要な場合はフラッシュを発光させる(S308)。
【0086】
システム制御回路50は、測光データに従って撮像素子14の露光終了を待ってから(S309)、シャッター制御部40によってシャッター12を閉じ(S310)、撮像素子14の露光を終了する。システム制御回路50は、絞り制御部340によって絞り312を開放の絞り値まで駆動すると共に(S311)、ミラー130をミラーダウン位置に移動する(S312)。
【0087】
そして、設定した電荷蓄積時間が経過すると(S313でYES)、システム制御回路50は、撮像素子14の電荷蓄積を終了した後(S314)、撮像素子14から電荷信号の読み出しを行う。そしてA/D変換器16、画像処理回路20、メモリ制御回路22を介して、或いはA/D変換器16から直接メモリ制御回路22を介して、メモリ30の所定領域への画像データを書き込む(S315)。一連の処理を終えたならば、撮影処理を終了する。
【0088】
図6は、図3のS139における欠陥画素補正処理のフローチャートを示す。システム制御回路50はS401において、欠陥画素を補正するか否かを判定する。この詳細は図7を用いて後述する。
【0089】
次にS402において、システム制御回路50はS401で得られた欠陥画素の補正判定結果から、補正すべきと判断された場合には、該当画素の補正量を算出する。続いて、S403では、S402で求められた補正量を、メモリ30における該当画素のアドレスに書き込む。これにより、該当画素の欠陥補正処理は完了する。なお、補正の方法については様々な方法が考えられるが、いずれの補正アルゴリズムで補正しても本件においては差し支えない。
【0090】
S404においてシステム制御回路50はキズデータに記載された欠陥画素の欠陥補正処理がすべて完了したか否かを判定し、完了していない場合には、S401に戻り、欠陥補正画素の判断を行い、同様に繰り返す。S401にて選択された欠陥補正画素すべてに対する補正処理がすべて終了すると、欠陥画素補正処理シーケンスを完了する。
【0091】
次に、図7のフローチャートを参照して、図6のS401における欠陥画素の補正の判定処理について説明する。まず、システム制御回路50は、メモリ52に記憶されたキズデータの先頭から、欠陥画素1画素分のキズ情報を読み込む(S601)。この中に格納されている欠陥画素のアドレス情報から、メモリ30に書き込まれた撮影画像における該当画素のアドレスを特定することが可能である。次に、システム制御回路50は撮影が行われた際の撮影条件及び撮影環境を取得する(S602)。ここで、撮影条件とは、ISO感度、電荷蓄積時間、及び、絞り値の少なくとも一つである。また、撮影環境とは、例えば、撮影時の温度である。もちろん、本願発明の撮影条件及び撮影環境は、これらに限定されるものではない。
【0092】
次に、システム制御回路50は、キズデータから、1つの欠陥画素について、欠陥の種類を示すキズIDを読み込む(S603)ここで、キズIDは、各欠陥画素について、参照する判定値テーブルを示す参照テーブル情報でもある。図8は、キズデータの一例を示す図であり、上述したように、例えば、メモリ52(第2の記憶手段)に予め記憶されている。図8に示すように、キズデータは、各欠陥画素のアドレス、キズID、およびキズグレードからなる。そして、キズデータに示されるキズIDに応じて参照する判定値テーブルを選択する(S604)。更に、取得した撮影条件及び撮影環境において欠陥が目立つために補正対象となる欠陥画素のグレードを示す情報である判定値(第1の情報)を判定値テーブルから選択する(S605)。図9は、判定値テーブルの一例を示す図であり、例えば、メモリ52(第1の記憶手段)に予め記憶されている。ここで、図9を参照して、システム制御回路50がS604において判定値テーブルを選択する動作、及び、S605において判定値を選択する動作について説明する。
【0093】
判定値テーブルとは、撮影条件や撮影環境をパラメータとし、欠陥画素を補正するか否かをシステム制御回路50が判定するために用いられるテーブルである。図9に示す例では、(a)に示すID1の白キズ、(b)に示すID2のISOで補正対象となる欠陥画素のグレードを変えるキズ、(c)に示すID3のF値で補正対象となる欠陥画素のグレードを変えるキズの3種類のキズIDに対応した判定値テーブルを有している。より具体的には、ID2はいわゆる瞬きキズで、撮影時のISO感度条件にのみ影響を受けるものであり、温度や、秒時の影響は受けない。また、ID3は撮像素子14そのものの欠陥画素ではないが、撮像素子14を封入するパッケージのカバーガラスに欠陥がある場合を想定しており、撮影時の絞り条件によって撮影された画像に影響が現れることが知られている。つまり、撮影時のレンズの絞りが開放側に近い場合にはカバーガラスの欠陥は撮像素子14上ではボケた状態になるため、明確に写りこまず、画質への影響は少ない。しかし、撮影時にレンズを絞りこむことで撮像素子14上にカバーガラスの欠陥が明確に写り込んでしまい、撮像素子14の欠陥画素同様、補正処理が必要となる。この場合の判定値テーブルは、感度や秒時、温度等には一切無関係で、撮影時の絞り情報のみによって決定されることになる。なお、キズの種類は上述したものに限るものではなく、他の種類のキズに対応した判定値テーブルを有していても構わない。
【0094】
また、これらのキズデータの判別レベル、判別個数の設定は、出荷時データの検出可能レベル、その検出精度に依存し、それらと実際に得られた画像の画質を考慮して決定される。また、これらの判別処理は画像処理装置100の外部にて行われる。そのため、画像処理装置100にはそのようにして決定された判別レベル、判別個数によって抽出された画素のアドレスのみが与えられるので、画像処理装置100の処理能力に大きな負荷を与えるものでは無い。
【0095】
システム制御回路50がS603において欠陥画素のキズIDを読み込むと、読み込んだキズIDに応じて、図9(a)〜(c)に示される判定値テーブルのうちの1つを選択する(S604)。例えば、キズIDがID1(白キズ)であるとき、図9(a)の判定値テーブルを選択する(S604)。ここで、S602で取得した撮影条件及び撮影環境が、例えば、ISO感度400、電荷蓄積時間が1秒、温度が25℃、F値が2.8であるものとする。ID1の判定値テーブルは、温度、ISO感度、電荷蓄積時間の条件によって判定値が異なり、この例では温度が25℃であることから、図9(a)の左側の判定値テーブルのISO感度400、電荷蓄積時間1秒に対応する、判定値5が選択される(S605)。
【0096】
上記の例において、撮影条件が変化し、例えば温度が65℃以上になった場合には図9(a)の右側の判定値テーブルが選択される。また、上記の例において、S603において読み込んだキズIDがID2であれば、図9(b)の判定値テーブルから、判定値5が選択され、ID3であれば、図9(c)の判定値テーブルから、同じく判定値5が選択されることになる。
【0097】
上述したようにして、S605で判定値を選択すると、S606において欠陥画素の欠陥の目立ちやすさを示す程度を出力信号レベルに応じて数段階に分類した欠陥画素のグレードを示す情報であるキズグレード(第2の情報)をキズデータから読み出す。そして、S605で選択した判定値(第1の情報)と比較し、比較結果に基づいてキズ補正(欠陥補正)の要否を判定する。キズデータから読み出されたキズグレード(第2の情報)が判定値(第1の情報)以下である場合にはS607に進み、システム制御回路50は、該当する欠陥画素を補正する、と決定した後、S608に進む。一方、キズグレードが判定値より大きい場合には直接S608に進む。
【0098】
S608において、システム制御回路50は該当する欠陥画素に他のキズID情報がさらに格納されているか否かを判断し、有ればS603へ進み、上述したS603〜S608の処理を繰り返す。このように、1つの欠陥画素に対してキズIDおよびキズグレードは複数持ってもよく、その場合、キズID毎にキズ補正するか否かの判定を行い、いずれかのキズIDでの判定結果によって補正すると判断された場合には、該当画素は補正するものとする。
【0099】
S608において、該当する欠陥画素に他のキズIDがなければS609に進み、システム制御回路50はキズデータに、次の欠陥画素の情報がある場合に、当該画素についてS601〜S608の動作を行う。このようにして、システム制御回路50は欠陥画素をキズIDによって判別し、この情報に基づいて撮影条件および撮影環境に応じて補正するか否かを判断する。
【0100】
なお、補正するか否かを判定する判定手段は、各キズID毎に複数設けても良い。
【0101】
<他の実施形態>
本発明は、複数の機器(例えばホストコンピュータ、インタフェース機器、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
【0102】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

【特許請求の範囲】
【請求項1】
複数の画素を含む撮像素子から出力される画像データを処理する画像処理装置であって、
撮影条件または撮影環境と、補正対象となる欠陥画素のグレードを示す第1の情報とを対応させた複数のテーブルを記憶した第1の記憶手段と、
前記複数の画素の内、各欠陥画素について、アドレス情報と、前記複数のテーブルの内、参照するテーブルを示す参照テーブル情報と、欠陥画素のグレードを示す第2の情報とからなるキズデータを記憶した第2の記憶手段と、
撮影時の撮影条件及び撮影環境を取得する取得手段と、
前記取得手段が取得した前記撮影条件または撮影環境における、前記参照テーブル情報に対応したテーブルが示す前記第1の情報と、前記キズデータにおける各欠陥画素の前記第2の情報とを比較し、比較結果に基づいて各欠陥画素の欠陥補正の要否を判定する判定手段と、
前記判定手段により欠陥補正が必要であると判断された欠陥画素から出力された画像データに対して前記欠陥補正を行う補正手段と
を有することを特徴とする画像処理装置。
【請求項2】
前記第2の記憶手段は、1つの欠陥画素に対して複数のキズデータを保持できることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記判定手段は、前記複数のキズデータについて、それぞれ欠陥補正の要否を判定し、前記判定手段が前記複数のキズデータの何れかに基づいて欠陥補正が必要であると判定すると、前記補正手段は該欠陥画素から出力された画像データに対して前記欠陥補正を行うことを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記撮影環境は、撮影時の前記撮像素子の温度を含むことを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記撮影条件は、撮影時の蓄積時間、感度、絞り値の少なくともいずれか1つを含むことを特徴とする請求項1に記載の画像処理装置。
【請求項6】
複数の画素を含む撮像素子から出力される画像データを処理し、撮影条件または撮影環境と、補正対象となる欠陥画素のグレードを示す第1の情報とを対応させた複数のテーブルを記憶した第1の記憶手段と、前記複数の画素の内、各欠陥画素について、アドレス情報と、前記複数のテーブルの内、参照するテーブルを示す参照テーブル情報と、欠陥画素のグレードを示す第2の情報とからなるキズデータを記憶した第2の記憶手段とを有する画像処理装置における画像処理方法であって、
取得手段が、撮影時の撮影条件及び撮影環境を取得する取得工程と、
判定手段が、前記取得工程で取得した前記撮影条件または撮影環境における、前記参照テーブル情報に対応したテーブルが示す前記第1の情報と、前記キズデータにおける各欠陥画素の前記第2の情報とを比較し、比較結果に基づいて各欠陥画素の欠陥補正の要否を判定する判定工程と、
補正手段が、前記判定工程で欠陥補正が必要であると判断された欠陥画素から出力された画像データに対して前記欠陥補正を行う補正工程と
を有することを特徴とする画像処理方法。
【請求項7】
コンピュータを、請求項1乃至5のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
【請求項8】
コンピュータに、請求項6に記載の画像処理方法の各工程を実行させるためのプログラム。
【請求項9】
請求項7または8に記載のプログラムを格納したコンピュータが読み取り可能な記憶媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−38657(P2013−38657A)
【公開日】平成25年2月21日(2013.2.21)
【国際特許分類】
【出願番号】特願2011−174256(P2011−174256)
【出願日】平成23年8月9日(2011.8.9)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】