画像処理装置および画像処理方法
【課題】 フラッシュ撮影に用いたストロボなどの人工照明光の照明ムラに関わらず、照明ムラのない人工照明光で照明した画像を得られる画像処理装置および画像処理方法を提供する。
【解決手段】 ストロボなどによる人工照明光による照明ムラの情報を予め記憶しておき、撮影時に人工照明光ありの第1の画像データと人工照明光のない周囲光のみの第2の画像データを連続して撮像するとともに、第1の画像データから第2の画像データを差し引いたデータに対し予め記憶した照明ムラ情報に基づいた照明ムラ補正を行った後、該照明ムラ補正済みの画像データに対し第2の画像データを加えることにより、照明ムラのない人工照明光で照明した画像を生成する。
【解決手段】 ストロボなどによる人工照明光による照明ムラの情報を予め記憶しておき、撮影時に人工照明光ありの第1の画像データと人工照明光のない周囲光のみの第2の画像データを連続して撮像するとともに、第1の画像データから第2の画像データを差し引いたデータに対し予め記憶した照明ムラ情報に基づいた照明ムラ補正を行った後、該照明ムラ補正済みの画像データに対し第2の画像データを加えることにより、照明ムラのない人工照明光で照明した画像を生成する。
【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像データを画像処理する画像処理装置および画像処理方法、特にストロボ等を用いて照明撮影を行って得られた画像データの照明ムラを画像処理により補正する画像処理装置および画像処理方法に関する。
【0002】
【従来の技術】従来、内蔵ストロボや外付ストロボを用いてフラッシュ撮影を行うカメラにおいては、ストロボの照明ムラを極力少なくするように、ストロボの設計段階において、十分なスペースを確保した上で投光光学系を綿密に光学設計するとともに、ストロボの製造段階においても高精度な部品を用いて念入りな調整が行われていた。
【0003】
【発明が解決しようとする課題】しかしながら上記のような従来のストロボを用いたカメラにおいては、投光光学系の複雑化によりストロボの発光エネルギーをフルに利用できなくなるとともに、高精度部品の使用および製造時の調整のためにストロボの製造コストが高くなってしまうという問題点があった。
【0004】そこで本発明は、低コストかつ簡便に撮影用照明装置の照明ムラを補正できる、電子カメラを用いた画像処理装置および画像処理方法を提供することを目的とする。
【0005】
【課題を解決するための手段】上記目的を達成するため、本発明による画像処理装置および画像処理方法においては、照明ムラデータを予め記憶しておくとともに、フラッシュ撮影時には照明ありの画像データと照明なしの画像データを取得して記憶する。次に2つの画像データの差分に基づき照明による寄与分を算出するとともに、算出された照明の寄与分に対し記憶された照明ムラデータで補正を行う。さらに補正された照明の寄与分に基づき画像データを再構成し、該再構成された画像データを表示または記憶する。
【0006】
【発明の実施の形態】以下、図面を参照して本発明の実施形態について説明する。図1および図2は、本発明を適用した画像処理装置である電子カメラ100の一実施形態の外観図(正面視および背面視)である。図1に示すように電子カメラ100の前面には被写体像を形成するための撮影レンズ10、撮影画面を確認するためのファインダ11、撮影時に被写体を照明するためのストロボ12、被写体の明るさ(定常光照明時およびストロボ光照明時)を検知するための測光/調光回路13、電子カメラ100をユーザが手でホールドしやすくするためにカメラ本体から出っ張ったグリップ部14が備えられ、上面には撮影を指示するためのレリーズボタン16、電子カメラ100の電源のON/OFF制御を行うための電源スイッチ17が備えられる。
【0007】図2に示すように、電子カメラ100の背面にはファインダ11の接眼部、テキストおよび画像表示用の略四角形の画面を備えた左LCD(左画面)21とテキスト表示用および画像表示用の略四角形の画面を備えた右LCD(右画面)22が配置され、右LCD22の下側には再生モード時の画像切換え等に用いられる上方向ボタン23、下方向ボタン24、左方向ボタン25、右方向ボタン26、決定ボタン27が配置され、左LCD21の周辺には電子カメラ100を撮影モードに設定するための撮影モードボタン28、電子カメラ100を再生モードに設定するための再生モードボタン29、撮影モードにおいてフラッシュ撮影を行うか否かを選択するためのストロボボタン31(押すたびにストロボON/OFFが切り換わる)、撮影レンズ10のズーミングを行うためのワイドボタン32とテレボタン33が配置されている。側面には画像データ保存用のメモリカード77を装着するためのメモリカードスロット30が備えられる。
【0008】なおレリーズボタン16、上方向ボタン23、下方向ボタン24、左方向ボタン25、右方向ボタン26、決定ボタン27、撮影モードボタン28、再生モードボタン29、ストロボボタン31、ワイドボタン32、テレボタン33は全てユーザーによって操作される操作キーである。
【0009】なお左LCD21および右LCD22の表面上には、指の接触操作により指示された位置に対応する接触位置データを出力する機能を備えたいわゆるタッチスクリーン66が配置され、画面上に表示された選択項目や画像データの選択に用いることができる。このタッチスクリーン66はガラス・樹脂等の透明材料によって構成され、ユーザはタッチスクリーン66の内側に形成される画像やテキストを、タッチスクリーン66を通して観察することができる。
【0010】図3は、図1および図2に示した電子カメラ100の内部の電気構成例を示すブロック図であって、各構成要素は各種情報データおよび制御データを伝送するためのデータ/制御バス51を介して互いに接続されている。各構成要素はおおまかに、画像データの撮影動作を実行する撮影制御回路60を中心とするブロック、画像ファイルを記憶・保存するメモリカード77のブロック、画像データおよびその関連情報の表示を実行する画面制御回路92を中心とするブロック、操作キー65等のユーザーインターフェースと各制御回路に対する統括制御を行うCPU50を中心とするブロックに分けることができる。
【0011】CPU50(中央処理ユニット)は電子カメラ100全体の制御を行う手段であって、操作キー65、タッチスクリーン66、電源スイッチ17、タイマ74、測光/調光回路13からの入力情報に応じて撮影制御回路60、画面制御回路92、電源制御回路64への各種指示を行う。測光/調光回路13は定常光照明状態およびストロボ光照明状態において被写体の輝度を測定し、その測定結果である測光/調光データをCPU50に出力する。CPU50は定常光照明状態での測光/調光データに応じて、CCD55の露光時間、感度をCCD駆動回路56により設定するとともに、該設定データに応じて撮影制御回路60を介し絞り53の絞り値を絞り制御回路54により制御する。
【0012】またCPU50は定常光照明状態での測光/調光データに基づき被写体輝度が所定値以下であると判断した場合には撮影時にストロボ駆動回路73によりストロボ12を発光させるとともに、ストロボによるフラッシュ撮影中に被写体からの反射される光の累積量を測光/調光回路13により検出し、累積された反射光量が所定値に達するとストロボ駆動回路73によりストロボ12の発光を停止させることにより、フラッシュ撮影の画像データが適正露出になるように制御する。
【0013】またCPU50は操作キー65の一部であるワイドボタン32、テレボタン33の操作に応じて撮影制御回路60を介し撮影レンズ10の焦点距離をレンズ駆動回路52により制御する。
【0014】CPU50は撮影モードではレリーズボタン16の操作に応じて撮影制御回路60を介し撮影動作を制御する。タイマ74は時計回路を内蔵し、現在の日時に対応する日時情報を検出し、撮影時に撮影日時情報をCPU50に供給する。CPU50は該撮影日時情報を画像データに付加してメモリカード77に格納する。CPU50は、ROM67(リードオンリメモリ)に記憶されている制御プログラムに従い各部を制御する。EEPROM68(電気的消去書き込み可能ROM)は不揮発性のメモリであって、ストロボ12の照明ムラデータおよび電子カメラ100の動作に必要な設定情報等を記憶している。RAM70は揮発性のメモリであって、CPU50の一時的作業領域として用いられる。CPU50は、電源スイッチ17の操作状態を検知して、電源制御回路64を介して電源63の制御を行う。
【0015】撮影制御回路60は、レンズ駆動回路52により撮影レンズ10のフォーカシングを行い、絞り制御回路54により絞り53を制御してCCD55の露光量をコントロールし、CCD駆動回路56によりCCD55の動作を制御する。被写体からの光束は撮影レンズ10により光量調節のための絞り53を介し、CCD55上に被写体像として形成され、この被写体像はCCD55により撮像される。複数の画素を備えたCCD55(チャージカップルドデバイス)は被写体像を撮像するための電荷蓄積型イメージセンサーであり、CCD55上に形成された被写体像の強度に応じた電気的な画像信号をCCD駆動回路56により供給される駆動パルスに応じてアナログ処理部57に出力する。
【0016】アナログ処理部57はCCD55が光電変換した画像信号を所定のタイミングでサンプリングし、そのサンプリングした信号を所定のレベルに増幅する。A/D変換回路58(アナログデジタル変換回路)はアナログ処理部57でサンプリングした画像信号をデジタル化することによりデジタルデータに変換し、撮影バッファメモリ59は該デジタルデータを一旦格納する。
【0017】撮影制御回路60は撮影モード中上述の動作を繰り返すとともに、画面制御回路92はデータ/制御バス51を介して撮影バッファメモリ59に順次格納されるデジタルデータを読み出してフレームメモリ69に一旦格納し、該デジタルデータを表示用画像データに変換してフレームメモリ69に再格納し、該表示用画像データを左画面21に表示させるというスルー画像表示動作を繰り返す。また画面制御回路92は必要に応じてテキスト表示情報をCPU50から入手し、表示用テキストデータに変換してフレームメモリ69に格納し、該表示用テキストデータを左画面21、右画面22に表示させる。このようにして撮影モードにおいては、左画面21にCCD50により撮像されている画像がリアルタイムに表示されるので、このスルー画像をモニター画面として使用して撮影のための構図設定を行うことが可能になる。撮影制御回路60は撮影バッファメモリ59に格納したデジタルデータの高周波成分の度合い解析して撮影レンズ10の焦点調節状態を検出し、検出結果に応じてレンズ駆動回路52により撮影レンズ10の焦点調節を行う。
【0018】レリーズ時に撮影制御回路60はCPU50から撮影指示を受けると、CCD駆動回路56を介してCCD55により被写体像を撮像させ、撮像により生成した画像信号をアナログ処理部57、A/D変換回路58を介して撮影バッファメモリ59にデジタルデータ(生データ)として一旦格納する。撮影制御回路60は撮影バッファメモリ59に一旦格納したデジタルデータを所定の記録フォーマット(JPEGなど)に変換または圧縮して画像データを形成し、該画像データをメモリカード77に記録保存する。なお後述するようにフラッシュ撮影時はストロボ発光ありと発光なしの連続2回の撮影を行い、CPU50は2つの画像データをRAM70に一旦格納した後、EEPROM68に記憶されている照明ムラデータを用いて照明ムラ補正を行うことにより照明ムラを補正した画像データ生成してメモリカード77に記録保存する。
【0019】なおCPU50は必要に応じて、メモリカード77に格納した画像データを無線電話回路72およびアンテナ76を介して外部に送信したり、逆に無線電話回路72およびアンテナ76を介して外部から受信した画像データをメモリカード77に格納することができる。
【0020】再生モードにおいては、画面制御回路92はメモリカード77からCPU50に指示された画像データを読み出してフレームメモリ69に一旦格納し、該画像データを左画面21に表示するとともに、CPU50の指示に従い、再生モードの説明等のテキストデータをフレームメモリ69に格納し、該テキストデータを右画面22に表示する。
【0021】図4はメモリカード77内に格納される画像ファイルのデータ構成を示す。図4に示すようにメモリカード77には複数の画像ファイルが保存される。各画像ファイルは画像データと付加情報データから構成される。付加情報データは、図5に示すように画像ファイルの識別情報(ファイル名)と撮影日時データと撮影時の各種設定を示す撮影データとから構成される。
【0022】図6は本発明による電子カメラの実施形態の状態遷移図である。電源ON時には撮影モードとなり、レリーズボタン16の操作により撮影動作と撮影後の画像ファイル作成および画像ファイルのメモリカード77への格納が行われる。再生モードにおいてはメモリカード77に格納した画像データの再生表示動作が行われる。また撮影モードボタン28を操作すると、再生モードから撮影モードに移行し、再生モードボタン29を操作すると、撮影モードから再生モードに移行する。
【0023】図7はフラッシュ撮影時の動作シーケンスを示す図であって、まずストロボ発光ありで第1回の撮影が行われ、画像データがRAM70に格納される。図8はストロボ発光ありの画像データの例であって、照明ムラのため、画面中央の人物はストロボ光による照明が適正であるが、画面周辺の人物はストロボ光による照明が不足している。続いてストロボ発光なし第2回の撮影(他の撮影条件は第1回の撮影と同一)が行われ、画像データがRAM70に格納される。図9はストロボ発光なしの画像データの例であって、撮影条件は第1回の撮影と同一であるため、背景の露出はストロボ発光ありの画像データと同一であるが、画面中央の人物と画面周辺の人物はストロボ光による照明がなく逆光状態にあるため露出が不足している。
【0024】CPU50はEEPROM68に記憶された照明ムラデータとRAM70に格納されたストロボ発光ありの画像データとストロボ発光なしの画像データに後述する画像処理を施して、照明ムラのない画像データを生成し、該画像データをメモリカード77に保存する。
【0025】図10は上記照明ムラ補正の詳細シーケンスを示す図であり、図11は上記照明ムラ補正の処理を図式的に表したものである。図10においてまずストロボ発光ありの画像データ(T)からストロボ発光なしの画像データ(S)を差し引きストロボ照明のみによる画像データ(Q)を抽出する。なお上記処理は対応する画素毎に行われる。
【0026】次に記憶された照明ムラデータから撮影画角範囲のデータを抽出する。図12は記憶された照明ムラデータの具体例であって、照明範囲の照明ムラデータを2次元マトリックスのデータ(画面200内のデータ)で表している。照明ムラデータの個々の値αは照明ムラ補正分を百分率で表した数値である。また照明ムラデータにはその照明範囲の情報(例えば画面のアスペクト比と対角線方向の画角)が付随している。該照明範囲の情報に対する撮影時の撮影画角(撮影レンズ10のスーミング情報とCCD55のサイズにより定まる)に応じて、撮影画角内の照明ムラデータ(画面201内のデータ)が抽出される。
【0027】次に抽出された照明ムラデータαを用いて画素毎に差分データQに対し照明ムラ補正処理を行い補正データQc=(1+α/100)×Qを算出する。ここで縮尺の関係から画素に対応する位置の照明ムラデータがない場合には、近傍の照明ムラデータから補間演算により画素位置に対応する照明ムラデータを算出する。
【0028】最後に補正データQcにストロボ発光なしの画像データSを加えることにより照明ムラ補正済みの画像データUを生成する。図13は、図8に示すストロボ発光ありの画像データに対し照明ムラ補正を行った場合の照明ムラ補正済み画像データの例であって、画面周辺の人物のストロボ光による照明が画面中央の人物と同様に適正になっているとともに、背景に対してはストロボ光の寄与(Q)がないので補正が行われず、図8の露出と同じになっている。
【0029】図14は上記実施形態における電子カメラ100(CPU50)の動作のメインフローチャートである。まずS10で電源スイッチ17を操作すると電源がONとなり、S20で撮影モードのサブルーチンを実行し撮影可能状態になる。撮影モード中にレリーズボタン16を操作すると、S30のレリーズ割込み処理サブルーチンが実行され、撮影動作が行われる。撮影モード中に再生モードボタン29を操作すると、S40のモード切換割込み処理サブルーチンが実行され、S50の再生モードサブルーチンが実行され、メモリカード77に格納されている画像データが左画面21に再生表示される。逆に再生モード中に撮影モードボタン28を操作すると、S40のモード切換割込み処理サブルーチンが実行され、S20の撮影モードサブルーチンに移行する。
【0030】図15は撮影モードサブルーチンの詳細フローチャートであって、S20で起動すると、S201の処理を繰り返す。S201ではユーザが設定したカメラ設定条件で順次CCD55により生成される画像データを図16に示すように左画面21に表示し、そのときのカメラ設定データ(ストロボON/OFF状態を含む)を右画面22にテキスト表示する。なおストロボのON/OFFは電子カメラ100が測光/調光データに基づいて自動的に設定するが、ユーザーはストロボボタン31の操作により自動的に設定されたストロボ発光状態を変更することができる。またワイドボタン32、テレボタン33の操作に応じて撮影レンズ10をズーミングすることができる。
【0031】図17はレリーズ割込み処理サブルーチンの詳細フローチャートであって、S30で起動すると、S301で撮影モードであるかチェックし、撮影モードでない場合はS306でリターンする。撮影モードの場合は、S302でユーザまたはカメラにより設定されている撮影条件(ストロボONの場合はストロボを発光させる)で撮像動作を実行し、ストロボOFFの場合は得られた画像データに付加情報データを付加してメモリカード77に格納するとともに、ストロボONの場合は得られた画像データをRAM70に格納する。S303でストロボONであるかチェックし、ストロボONでない場合はS306でリターンする。ストロボONの場合は、S304でストロボを発光させない以外はS302の撮影条件と同じ設定で撮像動作を実行し、得られた画像データをRAM70に格納する。S305では、上述のように、ストロボONの画像データとストロボOFFの画像データと撮影画角の照明ムラデータに基づき、ストロボONの画像データを補正し、照明ムラ補正済みの画像データを生成し、該画像データに付加情報データを付加してメモリカード77に格納し、S306でリターンする。
【0032】図18はモード切換割込み処理サブルーチンの詳細フローチャートであって、S40で撮影モードボタン28または再生モードボタン29の操作により起動すると、S401で操作されたボタンが撮影モードボタン28であるかチェックし、撮影モードボタン28である場合は再生モードを終了し、S20の撮影モードサブルーチンに移行する。操作されたボタンが撮影モードボタン28でない場合は撮影モードを終了し、S50の再生モードサブルーチンに移行する。
【0033】図19は再生モードサブルーチンの詳細フローチャートであって、S50で起動すると、S501の処理を繰り返す。S501では左方向ボタン25、右方向ボタン26の操作に応じてメモリカード77に格納された画像データを順次読み出し、図20に示すように左画面21に再生表示するとともに、右画面22に操作方法の説明を表示する。なお電源ON直後は最新の画像データを表示し、以後は左方向ボタン25の操作に応じて順次時間データの古い画像データを表示するとともに、右方向ボタン26の操作に応じて順次時間データの新しい画像データを表示する。
【0034】上記実施形態(図1〜図20)においては、フラッシュ撮影時にストロボ発光ありとストロボ発光なしの2回の撮像動作を行い、ストロボ発光ありとストロボ発光なしの画像データの差成分に対して予め記憶した照明ムラデータに基づき自動的に照明ムラ補正を行って照明ムラ補正済み画像データを生成するので、フラッシュ撮影において簡便かつ迅速かつ正確に照明ムラ補正を行うことができる。(変形形態の説明)本発明は以上説明した実施形態に限定されることなく、種々の変形や変更が可能である。
【0035】上記実施形態(図1〜図20)における照明ムラの画像処理はストロボ発光ありの画像データとストロボ発光なしの画像データを短期間に連続して撮像することにより電子カメラのブレをなくし、画像データの同一画素の光量データに対し差分演算を行っているが、2回の撮影の間に発生する被写体の移動やカメラブレが問題となるような場合には、図21に示すようにストロボ発光ありの画像データとストロボ発光なしの画像データ間で周知の方法で動きベクトルを検出し、該動きベクトルに基づいてストロボ発光なしの画像データとストロボ発光ありの画像データの間の対応する画素の関係を変更して差分演算を行うようにしてもよい。図21において画面中で破線で示す被写体がストロボ発光なしの画像データであり、実線で示す被写体がストロボ発光ありの画像データである。動きベクトルの検出の方法としては、ブロック・マッチング法やグラジエント法が知られている。またカメラブレのみを検出する場合には電子カメラ100に角速度センサーなどのフレ検出センサーを内蔵し、該センサーによりストロボ発光なしの撮像時点とストロボ発光ありの撮像時点間のカメラブレを検出し、検出したカメラブレデータに基づいて動きベクトルを算出するようにしてもよい。このようにすれば、ストロボ発光なしの撮像時点とストロボ発光ありの撮像時点間のカメラブレや被写体移動を補償することができるので、本発明の適用範囲を手持ち撮影や人物撮影に対しても拡大することができる。
【0036】上記実施形態(図1〜図20)における照明ムラの画像処理においては、電子カメラは内蔵ストロボを用いてフラッシュ撮影を行っているが、外付ストロボを用いてフラッシュ撮影する場合は、該外付ストロボから照明ムラデータを受信し、該照明ムラデータに基づいて照明ムラ補正を行うようにしてもよい。図22は外付ストロボを電子カメラのストロボシューを用いて取り付けた場合の構成を示し、外付ストロボ内のストロボメモリに記憶された照明ムラデータ、画面アスペクト比データ、画角データ等のデータがストロボシューを介した通信経路を通じて電子カメラ側のカメラメモリに送信され記憶される。電子カメラは外付ストロボを用いてフラッシュ撮影を行う場合は、前記カメラメモリに格納された照明ムラデータに基づいて照明ムラ補正を行う。
【0037】また外付ストロボを用いる場合に、ストロボシューからストロボ発光部までの距離データも、ストロボからカメラ側に送り、カメラ側は該距離データとストロボシューから撮影光軸までの距離データと被写体距離を用いて、照明ムラデータの中心と撮影画面と中心のパララックスを補正して撮影画角に対応する照明ムラデータを抽出するようにしてもよい。このようにすれば、マクロ撮影でフラッシュを利用した場合でもパララックスを考慮した照明ムラ補正が可能になる。
【0038】外付ストロボと内蔵ストロボを同時に使用する場合には、差分データ(Q)を外付ストロボと内蔵ストロボの発光光量に応じて分割したデータに対してそれぞれの照明ムラデータで補正を行い、該補正したデータを加算して補正データ(Qc)を算出する。またストロボを複数用いた多灯フラッシュ撮影においても同様に各ストロボの照明ムラデータを用いて照明ムラを補正することが可能である。この場合、各ストロボの発光光量、被写体と各ストロボとの距離、各ストロボと電子カメラの位置関係、各ストロボの発光量に応じて差分データ(Q)の分割比などを調整する必要がある。
【0039】外付ストロボと内蔵ストロボを併用してフラッシュ撮影を行う場合や、多灯フラシュ撮影を行う場合は、照明ムラ補正において各ストロボの発光光量比の精度が必要となるので、各ストロボを単独に発光させて複数回の撮影を行い、各画像データに対しそれぞれのストロボの照明ムラ補正を施した上で、補正済み画像データを合成して、複数のストロボを併用した場合の照明ムラ補正済み画像データを生成するようにしてもよい。
【0040】上記実施形態(図1〜図20)における照明ムラの画像処理においては、照明ムラデータは1種類であるが、照明ムラ状態が被写体距離に応じて変化する場合は、複数の代表距離における照明ムラデータを記憶しておき、電子カメラに内蔵された測距装置で測定した被写体距離に応じて、測定した被写体距離における照明ムラデータを内捜または外捜して算出して使用するようにしてもよい。また撮影レンズ10のズーミングに応じて配光特性を変化させるいわゆるズームストロボにおいては、ストロボのズーム位置に応じた照明ムラデータと画角データを記憶しておき、発光時のストロボのズーム位置に応じた照明ムラデータと画角データを用いて照明ムラ補正を行うようにしてもよい。このようにすれば、ストロボのどのズーム位置においても配光特性を一様にするという制約がなくなるので、ストロボ設計の制約が少なくなる。
【0041】上記実施形態(図1〜図20)における照明ムラの画像処理においては、ストロボの照明ムラのみを補正しているが、補正データQcにさらに一様な係数を乗ずることにより、ストロボ光量の調整を行うことができる。例えばフラッシュ撮影した画像データに対してはストロボ光なしの画像データ成分Sと照明ムラ補正された差分データQc(ストロボ光成分)を別々にメモリカードに格納しておき、再生時に上ボタン23の操作に応じてQcを増倍させ、増倍させたストロボ光成分とストロボ光なしの画像データ成分を加算した画像データを表示させることにより、ストロボ光を強調した画像データを生成することができる。反対に再生時に下ボタン24の操作に応じてQcを縮小させ、縮小させたストロボ光成分とストロボ光なしの画像データ成分を加算した画像データを表示させることにより、ストロボ光を押さえた画像データを生成することができる。ユーザは所望のストロボ効果が得られた画像データが表示された時点で決定ボタン27を操作することにより、該画像データをメモリカードに保存することができる。このようにすれば、照明ムラのほかにストロボ光量不足やストロボ光量オーバーがあった場合でも事後的に適正なストロボ光量の画像データをえることができる。
【0042】またストロボ光量の調整の他に、自然光成分(S)の調整を行うようにしても構わない。このようにすれば、更に自然光と人工照明光のバランスのとれた画像データを生成することが可能になる。また複数のストロボを使用してフラッシュ撮影した画像データに対しては、各ストロボ毎の光量を調整するようにしても構わない。
【0043】上記実施形態(図1〜図20)における照明ムラ補正の画像処理は電子カメラ100内のCPU50で行われているが、図23に示すように電子カメラ100側では撮影したストロボ発光なしの画像データとストロボ発光ありの画像データと照明ムラデータと撮影画角データをメモリカード77に格納するまでを行い、該メモリカード77をパソコン140に装着し、2つの画像データと照明ムラデータと撮影画角データ基づきパソコン140側で照明ムラ補正の画像処理を行うようにしても構わない。このようにすれば、電子カメラ100側で大規模な画像処理を行う必要がなく、パソコン140側の高性能なCPUで画像処理を行うことができるので、画像処理を迅速に行うことができるとともに、電子カメラ100のCPU50の負担を軽減することができる。
【0044】またメモリカードを介して画像データを電子カメラ100からパソコン140に転送する代わりに、通信回線により電子カメラ100からパソコン140に画像データを転送するようにしてもよい。この場合電子カメラ100は無線通信回路72により無線通信回線190と基地局120とインターネット130を経由してパソコン140に接続し、画像データをパソコン140に送信する。またパソコン140で画像処理をした画像データをパソコン140から電子カメラ100に送り返してもよい。このようにすれば、電子カメラ100側で大規模な画像処理を行う必要がなく、パソコン140側の高性能なCPUで画像処理を行うことができるので、画像処理を迅速に行うことができるとともに、電子カメラ100のCPU50の負担を軽減することができる。
【0045】上記実施形態(図1〜図20)においてストロボの照明ムラデータは設計値であってもいいし、ストロボ毎に測定したデータであってもよい。また照明ムラデータは2次元的なマトリックスデータに限定されず。画角と画面中心からの方向をパラメータとして照明ムラを関数で表現したものであってもよい。
【0046】上記実施形態(図1〜図20)において電子カメラ100は被写体を照明するためにストロボ光を用いているが、他の人工照明光(フラッドランプ、蛍光灯など)であっても構わない。
【0047】上記実施形態(図1〜図20)において、照明ムラ補正を行うためにストロボ光ありとストロボ光なしの2回の撮影を行っているが、ストロボ光なしの撮影ではほとんど真っ暗な場合は、ストロボ光なしの撮影は省略し、ストロボ光なしの成分Sを0として取り扱っても良い。例えば測光/調光回路13で検出した画面全体の輝度が所定値以下の場合はストロボ光なしの撮影の必要なしと判断する。このようにすれば、フラッシュ撮影時に無駄な処理を行う必要がなくなる。
【0048】
【発明の効果】以上説明したように、本発明による画像処理装置および画像処理方法においては、予め照明ムラデータを記憶するとともに、フラッシュ撮影時に照明ありと照明なしの撮像動作を行って画像データの組を生成し、該画像データの組に対して画像処理を行って照明光の寄与量を算出し、該照明光の寄与量を前記照明ムラデータで調整することにより、照明ムラのない画像データを生成するので、配光が一様でない照明をフラッシュ撮影に使用することができる。即ち配光の一様性の条件を緩和できるので、照明装置(ストロボ等)を小型軽量かつ低価格にできるとともに、エネルギー効率も高めることができる。
【0049】また本発明による画像処理装置および画像処理方法においては、照明ムラの補正が自動的に行われるので、撮影後に画像データから照明ムラをなくすために、画像データを見ながら人の判断に応じて画像処理を行うといった手間も省ける。
【0050】また本発明による画像処理装置および画像処理方法においては、画面中に照明光の寄与が異なる領域(主要被写体と遠距離にある背景)が存在しても、照明ありの画像データと照明画像なしの画像データの差分に対して照明ムラデータの補正を行うので、背景部分に対して主要被写体部分を分離して補正すると言った手間がかからない。
【図面の簡単な説明】
【図1】電子カメラの外観図(正面視)である。
【図2】電子カメラの外観図(背面視)である。
【図3】電子カメラの電気構成を示すブロック図である。
【図4】メモリカードのデータの構成図である。
【図5】付加情報データの構成図である。
【図6】電子カメラの状態遷移図である。
【図7】照明ムラ補正処理の説明図である。
【図8】画像の表示例である。
【図9】画像の表示例である。
【図10】照明ムラ補正処理の説明図である。
【図11】照明ムラ補正処理の説明図である。
【図12】照明ムラデータの説明図である。
【図13】画像の表示例である。
【図14】CPUのメインフローチャートである。
【図15】サブルーチンのフローチャートである。
【図16】画面の表示例である。
【図17】サブルーチンのフローチャートである。
【図18】サブルーチンのフローチャートである。
【図19】サブルーチンのフローチャートである。
【図20】画面の表示例である。
【図21】画像処理の説明図である。
【図22】電子カメラの構成例である。
【図23】画像処理システムの構成例である。
【符号の説明】
10 撮影レンズ
12 ストロボ
13 測光/調光回路
21 左LCD(左画面)
22 右LCD(右画面)
23 上方向ボタン
24 下方向ボタン
25 左方向ボタン
26 右方向ボタン
27 決定ボタン
28 撮影モードボタン
29 再生モードボタン
31 ストロボボタン
32 ワイドボタン
33 テレボタン
50 CPU
51 データ/制御バス
55 CCD
60 撮影制御回路
65 操作キー
77 メモリカード
100 電子カメラ
【0001】
【発明の属する技術分野】本発明は、画像データを画像処理する画像処理装置および画像処理方法、特にストロボ等を用いて照明撮影を行って得られた画像データの照明ムラを画像処理により補正する画像処理装置および画像処理方法に関する。
【0002】
【従来の技術】従来、内蔵ストロボや外付ストロボを用いてフラッシュ撮影を行うカメラにおいては、ストロボの照明ムラを極力少なくするように、ストロボの設計段階において、十分なスペースを確保した上で投光光学系を綿密に光学設計するとともに、ストロボの製造段階においても高精度な部品を用いて念入りな調整が行われていた。
【0003】
【発明が解決しようとする課題】しかしながら上記のような従来のストロボを用いたカメラにおいては、投光光学系の複雑化によりストロボの発光エネルギーをフルに利用できなくなるとともに、高精度部品の使用および製造時の調整のためにストロボの製造コストが高くなってしまうという問題点があった。
【0004】そこで本発明は、低コストかつ簡便に撮影用照明装置の照明ムラを補正できる、電子カメラを用いた画像処理装置および画像処理方法を提供することを目的とする。
【0005】
【課題を解決するための手段】上記目的を達成するため、本発明による画像処理装置および画像処理方法においては、照明ムラデータを予め記憶しておくとともに、フラッシュ撮影時には照明ありの画像データと照明なしの画像データを取得して記憶する。次に2つの画像データの差分に基づき照明による寄与分を算出するとともに、算出された照明の寄与分に対し記憶された照明ムラデータで補正を行う。さらに補正された照明の寄与分に基づき画像データを再構成し、該再構成された画像データを表示または記憶する。
【0006】
【発明の実施の形態】以下、図面を参照して本発明の実施形態について説明する。図1および図2は、本発明を適用した画像処理装置である電子カメラ100の一実施形態の外観図(正面視および背面視)である。図1に示すように電子カメラ100の前面には被写体像を形成するための撮影レンズ10、撮影画面を確認するためのファインダ11、撮影時に被写体を照明するためのストロボ12、被写体の明るさ(定常光照明時およびストロボ光照明時)を検知するための測光/調光回路13、電子カメラ100をユーザが手でホールドしやすくするためにカメラ本体から出っ張ったグリップ部14が備えられ、上面には撮影を指示するためのレリーズボタン16、電子カメラ100の電源のON/OFF制御を行うための電源スイッチ17が備えられる。
【0007】図2に示すように、電子カメラ100の背面にはファインダ11の接眼部、テキストおよび画像表示用の略四角形の画面を備えた左LCD(左画面)21とテキスト表示用および画像表示用の略四角形の画面を備えた右LCD(右画面)22が配置され、右LCD22の下側には再生モード時の画像切換え等に用いられる上方向ボタン23、下方向ボタン24、左方向ボタン25、右方向ボタン26、決定ボタン27が配置され、左LCD21の周辺には電子カメラ100を撮影モードに設定するための撮影モードボタン28、電子カメラ100を再生モードに設定するための再生モードボタン29、撮影モードにおいてフラッシュ撮影を行うか否かを選択するためのストロボボタン31(押すたびにストロボON/OFFが切り換わる)、撮影レンズ10のズーミングを行うためのワイドボタン32とテレボタン33が配置されている。側面には画像データ保存用のメモリカード77を装着するためのメモリカードスロット30が備えられる。
【0008】なおレリーズボタン16、上方向ボタン23、下方向ボタン24、左方向ボタン25、右方向ボタン26、決定ボタン27、撮影モードボタン28、再生モードボタン29、ストロボボタン31、ワイドボタン32、テレボタン33は全てユーザーによって操作される操作キーである。
【0009】なお左LCD21および右LCD22の表面上には、指の接触操作により指示された位置に対応する接触位置データを出力する機能を備えたいわゆるタッチスクリーン66が配置され、画面上に表示された選択項目や画像データの選択に用いることができる。このタッチスクリーン66はガラス・樹脂等の透明材料によって構成され、ユーザはタッチスクリーン66の内側に形成される画像やテキストを、タッチスクリーン66を通して観察することができる。
【0010】図3は、図1および図2に示した電子カメラ100の内部の電気構成例を示すブロック図であって、各構成要素は各種情報データおよび制御データを伝送するためのデータ/制御バス51を介して互いに接続されている。各構成要素はおおまかに、画像データの撮影動作を実行する撮影制御回路60を中心とするブロック、画像ファイルを記憶・保存するメモリカード77のブロック、画像データおよびその関連情報の表示を実行する画面制御回路92を中心とするブロック、操作キー65等のユーザーインターフェースと各制御回路に対する統括制御を行うCPU50を中心とするブロックに分けることができる。
【0011】CPU50(中央処理ユニット)は電子カメラ100全体の制御を行う手段であって、操作キー65、タッチスクリーン66、電源スイッチ17、タイマ74、測光/調光回路13からの入力情報に応じて撮影制御回路60、画面制御回路92、電源制御回路64への各種指示を行う。測光/調光回路13は定常光照明状態およびストロボ光照明状態において被写体の輝度を測定し、その測定結果である測光/調光データをCPU50に出力する。CPU50は定常光照明状態での測光/調光データに応じて、CCD55の露光時間、感度をCCD駆動回路56により設定するとともに、該設定データに応じて撮影制御回路60を介し絞り53の絞り値を絞り制御回路54により制御する。
【0012】またCPU50は定常光照明状態での測光/調光データに基づき被写体輝度が所定値以下であると判断した場合には撮影時にストロボ駆動回路73によりストロボ12を発光させるとともに、ストロボによるフラッシュ撮影中に被写体からの反射される光の累積量を測光/調光回路13により検出し、累積された反射光量が所定値に達するとストロボ駆動回路73によりストロボ12の発光を停止させることにより、フラッシュ撮影の画像データが適正露出になるように制御する。
【0013】またCPU50は操作キー65の一部であるワイドボタン32、テレボタン33の操作に応じて撮影制御回路60を介し撮影レンズ10の焦点距離をレンズ駆動回路52により制御する。
【0014】CPU50は撮影モードではレリーズボタン16の操作に応じて撮影制御回路60を介し撮影動作を制御する。タイマ74は時計回路を内蔵し、現在の日時に対応する日時情報を検出し、撮影時に撮影日時情報をCPU50に供給する。CPU50は該撮影日時情報を画像データに付加してメモリカード77に格納する。CPU50は、ROM67(リードオンリメモリ)に記憶されている制御プログラムに従い各部を制御する。EEPROM68(電気的消去書き込み可能ROM)は不揮発性のメモリであって、ストロボ12の照明ムラデータおよび電子カメラ100の動作に必要な設定情報等を記憶している。RAM70は揮発性のメモリであって、CPU50の一時的作業領域として用いられる。CPU50は、電源スイッチ17の操作状態を検知して、電源制御回路64を介して電源63の制御を行う。
【0015】撮影制御回路60は、レンズ駆動回路52により撮影レンズ10のフォーカシングを行い、絞り制御回路54により絞り53を制御してCCD55の露光量をコントロールし、CCD駆動回路56によりCCD55の動作を制御する。被写体からの光束は撮影レンズ10により光量調節のための絞り53を介し、CCD55上に被写体像として形成され、この被写体像はCCD55により撮像される。複数の画素を備えたCCD55(チャージカップルドデバイス)は被写体像を撮像するための電荷蓄積型イメージセンサーであり、CCD55上に形成された被写体像の強度に応じた電気的な画像信号をCCD駆動回路56により供給される駆動パルスに応じてアナログ処理部57に出力する。
【0016】アナログ処理部57はCCD55が光電変換した画像信号を所定のタイミングでサンプリングし、そのサンプリングした信号を所定のレベルに増幅する。A/D変換回路58(アナログデジタル変換回路)はアナログ処理部57でサンプリングした画像信号をデジタル化することによりデジタルデータに変換し、撮影バッファメモリ59は該デジタルデータを一旦格納する。
【0017】撮影制御回路60は撮影モード中上述の動作を繰り返すとともに、画面制御回路92はデータ/制御バス51を介して撮影バッファメモリ59に順次格納されるデジタルデータを読み出してフレームメモリ69に一旦格納し、該デジタルデータを表示用画像データに変換してフレームメモリ69に再格納し、該表示用画像データを左画面21に表示させるというスルー画像表示動作を繰り返す。また画面制御回路92は必要に応じてテキスト表示情報をCPU50から入手し、表示用テキストデータに変換してフレームメモリ69に格納し、該表示用テキストデータを左画面21、右画面22に表示させる。このようにして撮影モードにおいては、左画面21にCCD50により撮像されている画像がリアルタイムに表示されるので、このスルー画像をモニター画面として使用して撮影のための構図設定を行うことが可能になる。撮影制御回路60は撮影バッファメモリ59に格納したデジタルデータの高周波成分の度合い解析して撮影レンズ10の焦点調節状態を検出し、検出結果に応じてレンズ駆動回路52により撮影レンズ10の焦点調節を行う。
【0018】レリーズ時に撮影制御回路60はCPU50から撮影指示を受けると、CCD駆動回路56を介してCCD55により被写体像を撮像させ、撮像により生成した画像信号をアナログ処理部57、A/D変換回路58を介して撮影バッファメモリ59にデジタルデータ(生データ)として一旦格納する。撮影制御回路60は撮影バッファメモリ59に一旦格納したデジタルデータを所定の記録フォーマット(JPEGなど)に変換または圧縮して画像データを形成し、該画像データをメモリカード77に記録保存する。なお後述するようにフラッシュ撮影時はストロボ発光ありと発光なしの連続2回の撮影を行い、CPU50は2つの画像データをRAM70に一旦格納した後、EEPROM68に記憶されている照明ムラデータを用いて照明ムラ補正を行うことにより照明ムラを補正した画像データ生成してメモリカード77に記録保存する。
【0019】なおCPU50は必要に応じて、メモリカード77に格納した画像データを無線電話回路72およびアンテナ76を介して外部に送信したり、逆に無線電話回路72およびアンテナ76を介して外部から受信した画像データをメモリカード77に格納することができる。
【0020】再生モードにおいては、画面制御回路92はメモリカード77からCPU50に指示された画像データを読み出してフレームメモリ69に一旦格納し、該画像データを左画面21に表示するとともに、CPU50の指示に従い、再生モードの説明等のテキストデータをフレームメモリ69に格納し、該テキストデータを右画面22に表示する。
【0021】図4はメモリカード77内に格納される画像ファイルのデータ構成を示す。図4に示すようにメモリカード77には複数の画像ファイルが保存される。各画像ファイルは画像データと付加情報データから構成される。付加情報データは、図5に示すように画像ファイルの識別情報(ファイル名)と撮影日時データと撮影時の各種設定を示す撮影データとから構成される。
【0022】図6は本発明による電子カメラの実施形態の状態遷移図である。電源ON時には撮影モードとなり、レリーズボタン16の操作により撮影動作と撮影後の画像ファイル作成および画像ファイルのメモリカード77への格納が行われる。再生モードにおいてはメモリカード77に格納した画像データの再生表示動作が行われる。また撮影モードボタン28を操作すると、再生モードから撮影モードに移行し、再生モードボタン29を操作すると、撮影モードから再生モードに移行する。
【0023】図7はフラッシュ撮影時の動作シーケンスを示す図であって、まずストロボ発光ありで第1回の撮影が行われ、画像データがRAM70に格納される。図8はストロボ発光ありの画像データの例であって、照明ムラのため、画面中央の人物はストロボ光による照明が適正であるが、画面周辺の人物はストロボ光による照明が不足している。続いてストロボ発光なし第2回の撮影(他の撮影条件は第1回の撮影と同一)が行われ、画像データがRAM70に格納される。図9はストロボ発光なしの画像データの例であって、撮影条件は第1回の撮影と同一であるため、背景の露出はストロボ発光ありの画像データと同一であるが、画面中央の人物と画面周辺の人物はストロボ光による照明がなく逆光状態にあるため露出が不足している。
【0024】CPU50はEEPROM68に記憶された照明ムラデータとRAM70に格納されたストロボ発光ありの画像データとストロボ発光なしの画像データに後述する画像処理を施して、照明ムラのない画像データを生成し、該画像データをメモリカード77に保存する。
【0025】図10は上記照明ムラ補正の詳細シーケンスを示す図であり、図11は上記照明ムラ補正の処理を図式的に表したものである。図10においてまずストロボ発光ありの画像データ(T)からストロボ発光なしの画像データ(S)を差し引きストロボ照明のみによる画像データ(Q)を抽出する。なお上記処理は対応する画素毎に行われる。
【0026】次に記憶された照明ムラデータから撮影画角範囲のデータを抽出する。図12は記憶された照明ムラデータの具体例であって、照明範囲の照明ムラデータを2次元マトリックスのデータ(画面200内のデータ)で表している。照明ムラデータの個々の値αは照明ムラ補正分を百分率で表した数値である。また照明ムラデータにはその照明範囲の情報(例えば画面のアスペクト比と対角線方向の画角)が付随している。該照明範囲の情報に対する撮影時の撮影画角(撮影レンズ10のスーミング情報とCCD55のサイズにより定まる)に応じて、撮影画角内の照明ムラデータ(画面201内のデータ)が抽出される。
【0027】次に抽出された照明ムラデータαを用いて画素毎に差分データQに対し照明ムラ補正処理を行い補正データQc=(1+α/100)×Qを算出する。ここで縮尺の関係から画素に対応する位置の照明ムラデータがない場合には、近傍の照明ムラデータから補間演算により画素位置に対応する照明ムラデータを算出する。
【0028】最後に補正データQcにストロボ発光なしの画像データSを加えることにより照明ムラ補正済みの画像データUを生成する。図13は、図8に示すストロボ発光ありの画像データに対し照明ムラ補正を行った場合の照明ムラ補正済み画像データの例であって、画面周辺の人物のストロボ光による照明が画面中央の人物と同様に適正になっているとともに、背景に対してはストロボ光の寄与(Q)がないので補正が行われず、図8の露出と同じになっている。
【0029】図14は上記実施形態における電子カメラ100(CPU50)の動作のメインフローチャートである。まずS10で電源スイッチ17を操作すると電源がONとなり、S20で撮影モードのサブルーチンを実行し撮影可能状態になる。撮影モード中にレリーズボタン16を操作すると、S30のレリーズ割込み処理サブルーチンが実行され、撮影動作が行われる。撮影モード中に再生モードボタン29を操作すると、S40のモード切換割込み処理サブルーチンが実行され、S50の再生モードサブルーチンが実行され、メモリカード77に格納されている画像データが左画面21に再生表示される。逆に再生モード中に撮影モードボタン28を操作すると、S40のモード切換割込み処理サブルーチンが実行され、S20の撮影モードサブルーチンに移行する。
【0030】図15は撮影モードサブルーチンの詳細フローチャートであって、S20で起動すると、S201の処理を繰り返す。S201ではユーザが設定したカメラ設定条件で順次CCD55により生成される画像データを図16に示すように左画面21に表示し、そのときのカメラ設定データ(ストロボON/OFF状態を含む)を右画面22にテキスト表示する。なおストロボのON/OFFは電子カメラ100が測光/調光データに基づいて自動的に設定するが、ユーザーはストロボボタン31の操作により自動的に設定されたストロボ発光状態を変更することができる。またワイドボタン32、テレボタン33の操作に応じて撮影レンズ10をズーミングすることができる。
【0031】図17はレリーズ割込み処理サブルーチンの詳細フローチャートであって、S30で起動すると、S301で撮影モードであるかチェックし、撮影モードでない場合はS306でリターンする。撮影モードの場合は、S302でユーザまたはカメラにより設定されている撮影条件(ストロボONの場合はストロボを発光させる)で撮像動作を実行し、ストロボOFFの場合は得られた画像データに付加情報データを付加してメモリカード77に格納するとともに、ストロボONの場合は得られた画像データをRAM70に格納する。S303でストロボONであるかチェックし、ストロボONでない場合はS306でリターンする。ストロボONの場合は、S304でストロボを発光させない以外はS302の撮影条件と同じ設定で撮像動作を実行し、得られた画像データをRAM70に格納する。S305では、上述のように、ストロボONの画像データとストロボOFFの画像データと撮影画角の照明ムラデータに基づき、ストロボONの画像データを補正し、照明ムラ補正済みの画像データを生成し、該画像データに付加情報データを付加してメモリカード77に格納し、S306でリターンする。
【0032】図18はモード切換割込み処理サブルーチンの詳細フローチャートであって、S40で撮影モードボタン28または再生モードボタン29の操作により起動すると、S401で操作されたボタンが撮影モードボタン28であるかチェックし、撮影モードボタン28である場合は再生モードを終了し、S20の撮影モードサブルーチンに移行する。操作されたボタンが撮影モードボタン28でない場合は撮影モードを終了し、S50の再生モードサブルーチンに移行する。
【0033】図19は再生モードサブルーチンの詳細フローチャートであって、S50で起動すると、S501の処理を繰り返す。S501では左方向ボタン25、右方向ボタン26の操作に応じてメモリカード77に格納された画像データを順次読み出し、図20に示すように左画面21に再生表示するとともに、右画面22に操作方法の説明を表示する。なお電源ON直後は最新の画像データを表示し、以後は左方向ボタン25の操作に応じて順次時間データの古い画像データを表示するとともに、右方向ボタン26の操作に応じて順次時間データの新しい画像データを表示する。
【0034】上記実施形態(図1〜図20)においては、フラッシュ撮影時にストロボ発光ありとストロボ発光なしの2回の撮像動作を行い、ストロボ発光ありとストロボ発光なしの画像データの差成分に対して予め記憶した照明ムラデータに基づき自動的に照明ムラ補正を行って照明ムラ補正済み画像データを生成するので、フラッシュ撮影において簡便かつ迅速かつ正確に照明ムラ補正を行うことができる。(変形形態の説明)本発明は以上説明した実施形態に限定されることなく、種々の変形や変更が可能である。
【0035】上記実施形態(図1〜図20)における照明ムラの画像処理はストロボ発光ありの画像データとストロボ発光なしの画像データを短期間に連続して撮像することにより電子カメラのブレをなくし、画像データの同一画素の光量データに対し差分演算を行っているが、2回の撮影の間に発生する被写体の移動やカメラブレが問題となるような場合には、図21に示すようにストロボ発光ありの画像データとストロボ発光なしの画像データ間で周知の方法で動きベクトルを検出し、該動きベクトルに基づいてストロボ発光なしの画像データとストロボ発光ありの画像データの間の対応する画素の関係を変更して差分演算を行うようにしてもよい。図21において画面中で破線で示す被写体がストロボ発光なしの画像データであり、実線で示す被写体がストロボ発光ありの画像データである。動きベクトルの検出の方法としては、ブロック・マッチング法やグラジエント法が知られている。またカメラブレのみを検出する場合には電子カメラ100に角速度センサーなどのフレ検出センサーを内蔵し、該センサーによりストロボ発光なしの撮像時点とストロボ発光ありの撮像時点間のカメラブレを検出し、検出したカメラブレデータに基づいて動きベクトルを算出するようにしてもよい。このようにすれば、ストロボ発光なしの撮像時点とストロボ発光ありの撮像時点間のカメラブレや被写体移動を補償することができるので、本発明の適用範囲を手持ち撮影や人物撮影に対しても拡大することができる。
【0036】上記実施形態(図1〜図20)における照明ムラの画像処理においては、電子カメラは内蔵ストロボを用いてフラッシュ撮影を行っているが、外付ストロボを用いてフラッシュ撮影する場合は、該外付ストロボから照明ムラデータを受信し、該照明ムラデータに基づいて照明ムラ補正を行うようにしてもよい。図22は外付ストロボを電子カメラのストロボシューを用いて取り付けた場合の構成を示し、外付ストロボ内のストロボメモリに記憶された照明ムラデータ、画面アスペクト比データ、画角データ等のデータがストロボシューを介した通信経路を通じて電子カメラ側のカメラメモリに送信され記憶される。電子カメラは外付ストロボを用いてフラッシュ撮影を行う場合は、前記カメラメモリに格納された照明ムラデータに基づいて照明ムラ補正を行う。
【0037】また外付ストロボを用いる場合に、ストロボシューからストロボ発光部までの距離データも、ストロボからカメラ側に送り、カメラ側は該距離データとストロボシューから撮影光軸までの距離データと被写体距離を用いて、照明ムラデータの中心と撮影画面と中心のパララックスを補正して撮影画角に対応する照明ムラデータを抽出するようにしてもよい。このようにすれば、マクロ撮影でフラッシュを利用した場合でもパララックスを考慮した照明ムラ補正が可能になる。
【0038】外付ストロボと内蔵ストロボを同時に使用する場合には、差分データ(Q)を外付ストロボと内蔵ストロボの発光光量に応じて分割したデータに対してそれぞれの照明ムラデータで補正を行い、該補正したデータを加算して補正データ(Qc)を算出する。またストロボを複数用いた多灯フラッシュ撮影においても同様に各ストロボの照明ムラデータを用いて照明ムラを補正することが可能である。この場合、各ストロボの発光光量、被写体と各ストロボとの距離、各ストロボと電子カメラの位置関係、各ストロボの発光量に応じて差分データ(Q)の分割比などを調整する必要がある。
【0039】外付ストロボと内蔵ストロボを併用してフラッシュ撮影を行う場合や、多灯フラシュ撮影を行う場合は、照明ムラ補正において各ストロボの発光光量比の精度が必要となるので、各ストロボを単独に発光させて複数回の撮影を行い、各画像データに対しそれぞれのストロボの照明ムラ補正を施した上で、補正済み画像データを合成して、複数のストロボを併用した場合の照明ムラ補正済み画像データを生成するようにしてもよい。
【0040】上記実施形態(図1〜図20)における照明ムラの画像処理においては、照明ムラデータは1種類であるが、照明ムラ状態が被写体距離に応じて変化する場合は、複数の代表距離における照明ムラデータを記憶しておき、電子カメラに内蔵された測距装置で測定した被写体距離に応じて、測定した被写体距離における照明ムラデータを内捜または外捜して算出して使用するようにしてもよい。また撮影レンズ10のズーミングに応じて配光特性を変化させるいわゆるズームストロボにおいては、ストロボのズーム位置に応じた照明ムラデータと画角データを記憶しておき、発光時のストロボのズーム位置に応じた照明ムラデータと画角データを用いて照明ムラ補正を行うようにしてもよい。このようにすれば、ストロボのどのズーム位置においても配光特性を一様にするという制約がなくなるので、ストロボ設計の制約が少なくなる。
【0041】上記実施形態(図1〜図20)における照明ムラの画像処理においては、ストロボの照明ムラのみを補正しているが、補正データQcにさらに一様な係数を乗ずることにより、ストロボ光量の調整を行うことができる。例えばフラッシュ撮影した画像データに対してはストロボ光なしの画像データ成分Sと照明ムラ補正された差分データQc(ストロボ光成分)を別々にメモリカードに格納しておき、再生時に上ボタン23の操作に応じてQcを増倍させ、増倍させたストロボ光成分とストロボ光なしの画像データ成分を加算した画像データを表示させることにより、ストロボ光を強調した画像データを生成することができる。反対に再生時に下ボタン24の操作に応じてQcを縮小させ、縮小させたストロボ光成分とストロボ光なしの画像データ成分を加算した画像データを表示させることにより、ストロボ光を押さえた画像データを生成することができる。ユーザは所望のストロボ効果が得られた画像データが表示された時点で決定ボタン27を操作することにより、該画像データをメモリカードに保存することができる。このようにすれば、照明ムラのほかにストロボ光量不足やストロボ光量オーバーがあった場合でも事後的に適正なストロボ光量の画像データをえることができる。
【0042】またストロボ光量の調整の他に、自然光成分(S)の調整を行うようにしても構わない。このようにすれば、更に自然光と人工照明光のバランスのとれた画像データを生成することが可能になる。また複数のストロボを使用してフラッシュ撮影した画像データに対しては、各ストロボ毎の光量を調整するようにしても構わない。
【0043】上記実施形態(図1〜図20)における照明ムラ補正の画像処理は電子カメラ100内のCPU50で行われているが、図23に示すように電子カメラ100側では撮影したストロボ発光なしの画像データとストロボ発光ありの画像データと照明ムラデータと撮影画角データをメモリカード77に格納するまでを行い、該メモリカード77をパソコン140に装着し、2つの画像データと照明ムラデータと撮影画角データ基づきパソコン140側で照明ムラ補正の画像処理を行うようにしても構わない。このようにすれば、電子カメラ100側で大規模な画像処理を行う必要がなく、パソコン140側の高性能なCPUで画像処理を行うことができるので、画像処理を迅速に行うことができるとともに、電子カメラ100のCPU50の負担を軽減することができる。
【0044】またメモリカードを介して画像データを電子カメラ100からパソコン140に転送する代わりに、通信回線により電子カメラ100からパソコン140に画像データを転送するようにしてもよい。この場合電子カメラ100は無線通信回路72により無線通信回線190と基地局120とインターネット130を経由してパソコン140に接続し、画像データをパソコン140に送信する。またパソコン140で画像処理をした画像データをパソコン140から電子カメラ100に送り返してもよい。このようにすれば、電子カメラ100側で大規模な画像処理を行う必要がなく、パソコン140側の高性能なCPUで画像処理を行うことができるので、画像処理を迅速に行うことができるとともに、電子カメラ100のCPU50の負担を軽減することができる。
【0045】上記実施形態(図1〜図20)においてストロボの照明ムラデータは設計値であってもいいし、ストロボ毎に測定したデータであってもよい。また照明ムラデータは2次元的なマトリックスデータに限定されず。画角と画面中心からの方向をパラメータとして照明ムラを関数で表現したものであってもよい。
【0046】上記実施形態(図1〜図20)において電子カメラ100は被写体を照明するためにストロボ光を用いているが、他の人工照明光(フラッドランプ、蛍光灯など)であっても構わない。
【0047】上記実施形態(図1〜図20)において、照明ムラ補正を行うためにストロボ光ありとストロボ光なしの2回の撮影を行っているが、ストロボ光なしの撮影ではほとんど真っ暗な場合は、ストロボ光なしの撮影は省略し、ストロボ光なしの成分Sを0として取り扱っても良い。例えば測光/調光回路13で検出した画面全体の輝度が所定値以下の場合はストロボ光なしの撮影の必要なしと判断する。このようにすれば、フラッシュ撮影時に無駄な処理を行う必要がなくなる。
【0048】
【発明の効果】以上説明したように、本発明による画像処理装置および画像処理方法においては、予め照明ムラデータを記憶するとともに、フラッシュ撮影時に照明ありと照明なしの撮像動作を行って画像データの組を生成し、該画像データの組に対して画像処理を行って照明光の寄与量を算出し、該照明光の寄与量を前記照明ムラデータで調整することにより、照明ムラのない画像データを生成するので、配光が一様でない照明をフラッシュ撮影に使用することができる。即ち配光の一様性の条件を緩和できるので、照明装置(ストロボ等)を小型軽量かつ低価格にできるとともに、エネルギー効率も高めることができる。
【0049】また本発明による画像処理装置および画像処理方法においては、照明ムラの補正が自動的に行われるので、撮影後に画像データから照明ムラをなくすために、画像データを見ながら人の判断に応じて画像処理を行うといった手間も省ける。
【0050】また本発明による画像処理装置および画像処理方法においては、画面中に照明光の寄与が異なる領域(主要被写体と遠距離にある背景)が存在しても、照明ありの画像データと照明画像なしの画像データの差分に対して照明ムラデータの補正を行うので、背景部分に対して主要被写体部分を分離して補正すると言った手間がかからない。
【図面の簡単な説明】
【図1】電子カメラの外観図(正面視)である。
【図2】電子カメラの外観図(背面視)である。
【図3】電子カメラの電気構成を示すブロック図である。
【図4】メモリカードのデータの構成図である。
【図5】付加情報データの構成図である。
【図6】電子カメラの状態遷移図である。
【図7】照明ムラ補正処理の説明図である。
【図8】画像の表示例である。
【図9】画像の表示例である。
【図10】照明ムラ補正処理の説明図である。
【図11】照明ムラ補正処理の説明図である。
【図12】照明ムラデータの説明図である。
【図13】画像の表示例である。
【図14】CPUのメインフローチャートである。
【図15】サブルーチンのフローチャートである。
【図16】画面の表示例である。
【図17】サブルーチンのフローチャートである。
【図18】サブルーチンのフローチャートである。
【図19】サブルーチンのフローチャートである。
【図20】画面の表示例である。
【図21】画像処理の説明図である。
【図22】電子カメラの構成例である。
【図23】画像処理システムの構成例である。
【符号の説明】
10 撮影レンズ
12 ストロボ
13 測光/調光回路
21 左LCD(左画面)
22 右LCD(右画面)
23 上方向ボタン
24 下方向ボタン
25 左方向ボタン
26 右方向ボタン
27 決定ボタン
28 撮影モードボタン
29 再生モードボタン
31 ストロボボタン
32 ワイドボタン
33 テレボタン
50 CPU
51 データ/制御バス
55 CCD
60 撮影制御回路
65 操作キー
77 メモリカード
100 電子カメラ
【特許請求の範囲】
【請求項1】 被写体を撮影し画像データを生成する撮像手段と、前記被写体を照明する照明手段と、前記照明手段の照明ムラに関する照明ムラ情報を記憶する記憶手段と、前記撮像手段により同一シーンの被写体に対し前記照明手段による照明がある場合とない場合で撮像した2つの画像データと前記照明ムラ情報に基づき、前記照明手段の照明ムラを補正した画像データを生成する照明ムラ補正手段とを備えることを特徴とする画像処理装置。
【請求項2】 請求項1に記載の画像処理装置において、前記照明ムラ情報は2次元的な照明ムラデータと照明画角データから構成されるとともに、前記照明ムラ補正手段は、前記撮像手段による撮影画角データと前記照明画角データに応じて、前記2次元的な照明ムラデータから前記画像データを補正するために必要な照明ムラデータを切り出し、該切り出した照明ムラデータを用いて前記照明手段の照明ムラを補正した画像データを生成することを特徴とする画像処理装置。
【請求項3】 請求項1乃至請求項2のいずれか1項に記載の画像処理装置において、前記照明ムラ補正手段は、前記照明手段による照明がある場合の画像データから前記照明手段による照明がない場合の画像データを差し引いた差分成分に対し前記照明ムラデータを用いた補正を施すことを特徴とする画像処理装置。
【請求項4】 請求項3に記載の画像処理装置において、照明ムラ補正された前記差分成分の量を手動操作に応じて一率に調整する調整手段を備えることを特徴とする画像処理装置。
【請求項5】 請求項3に記載の画像処理装置において、前記照明手段による照明がある場合とない場合の2つの画像データが撮影される間の画面上での被写体の動き情報を検出する動き検出手段をさらに備えるとともに、前記照明ムラ補正手段は前記動き情報に応じて前記照明手段による照明がある場合の画像データと前記照明手段による照明がない場合の画像データの相対的な位置関係を対応付けて照明がある場合の画像データから照明がない場合の画像データを差し引くことを特徴とする画像処理装置。
【請求項6】 請求項1に記載の画像処理装置において、前記照明ムラ情報は前記照明手段により照明を行う被写体までの距離に応じて前記記憶手段に記憶されるとともに、撮影する被写体までの距離を検出する距離検出手段をさらに備え、前記照明ムラ補正手段は前記距離検出手段により検出された被写体距離に応じた照明ムラ情報を用いて照明ムラ補正を行うことを特徴とする画像処理装置。
【請求項7】 請求項1に記載の画像処理装置において、前記照明手段は照明画角を変更するズーム機能を備えるとともに、前記照明ムラ情報は前記照明手段の照明画角に応じて前記記憶手段に記憶されるとともに、前記照明ムラ補正手段は撮影時の前記照明手段の照明画角に応じた照明ムラ情報を用いて照明ムラ補正を行うことを特徴とする画像処理装置。
【請求項8】 請求項1乃至請求項7のいずれか1項に記載の画像処理装置において、前記照明手段と前記記憶手段を収納する付属構体が前記撮像手段と前記照明ムラ補正手段を収納する本体に対し着脱可能に構成されることを特徴とする画像処理装置。
【請求項9】 照明装置の照明ムラに関する情報を生成する工程と、被写体を前記照明装置により照明して撮影することにより第1の画像データを生成する工程と、被写体を前記照明装置による照明なしで撮影することにより第2の画像データを生成する工程と、前記第1の画像データから前記第2の画像データを差し引いて前記照明装置による照明成分を抽出する工程と、前記照明ムラに関する情報に基づき前記照明成分を補正する工程と、照明ムラ補正された前記照明成分に前記第2の画像データの成分を加算することにより照明ムラ補正された画像データを生成する工程とからなることを特徴とする画像処理方法。
【請求項1】 被写体を撮影し画像データを生成する撮像手段と、前記被写体を照明する照明手段と、前記照明手段の照明ムラに関する照明ムラ情報を記憶する記憶手段と、前記撮像手段により同一シーンの被写体に対し前記照明手段による照明がある場合とない場合で撮像した2つの画像データと前記照明ムラ情報に基づき、前記照明手段の照明ムラを補正した画像データを生成する照明ムラ補正手段とを備えることを特徴とする画像処理装置。
【請求項2】 請求項1に記載の画像処理装置において、前記照明ムラ情報は2次元的な照明ムラデータと照明画角データから構成されるとともに、前記照明ムラ補正手段は、前記撮像手段による撮影画角データと前記照明画角データに応じて、前記2次元的な照明ムラデータから前記画像データを補正するために必要な照明ムラデータを切り出し、該切り出した照明ムラデータを用いて前記照明手段の照明ムラを補正した画像データを生成することを特徴とする画像処理装置。
【請求項3】 請求項1乃至請求項2のいずれか1項に記載の画像処理装置において、前記照明ムラ補正手段は、前記照明手段による照明がある場合の画像データから前記照明手段による照明がない場合の画像データを差し引いた差分成分に対し前記照明ムラデータを用いた補正を施すことを特徴とする画像処理装置。
【請求項4】 請求項3に記載の画像処理装置において、照明ムラ補正された前記差分成分の量を手動操作に応じて一率に調整する調整手段を備えることを特徴とする画像処理装置。
【請求項5】 請求項3に記載の画像処理装置において、前記照明手段による照明がある場合とない場合の2つの画像データが撮影される間の画面上での被写体の動き情報を検出する動き検出手段をさらに備えるとともに、前記照明ムラ補正手段は前記動き情報に応じて前記照明手段による照明がある場合の画像データと前記照明手段による照明がない場合の画像データの相対的な位置関係を対応付けて照明がある場合の画像データから照明がない場合の画像データを差し引くことを特徴とする画像処理装置。
【請求項6】 請求項1に記載の画像処理装置において、前記照明ムラ情報は前記照明手段により照明を行う被写体までの距離に応じて前記記憶手段に記憶されるとともに、撮影する被写体までの距離を検出する距離検出手段をさらに備え、前記照明ムラ補正手段は前記距離検出手段により検出された被写体距離に応じた照明ムラ情報を用いて照明ムラ補正を行うことを特徴とする画像処理装置。
【請求項7】 請求項1に記載の画像処理装置において、前記照明手段は照明画角を変更するズーム機能を備えるとともに、前記照明ムラ情報は前記照明手段の照明画角に応じて前記記憶手段に記憶されるとともに、前記照明ムラ補正手段は撮影時の前記照明手段の照明画角に応じた照明ムラ情報を用いて照明ムラ補正を行うことを特徴とする画像処理装置。
【請求項8】 請求項1乃至請求項7のいずれか1項に記載の画像処理装置において、前記照明手段と前記記憶手段を収納する付属構体が前記撮像手段と前記照明ムラ補正手段を収納する本体に対し着脱可能に構成されることを特徴とする画像処理装置。
【請求項9】 照明装置の照明ムラに関する情報を生成する工程と、被写体を前記照明装置により照明して撮影することにより第1の画像データを生成する工程と、被写体を前記照明装置による照明なしで撮影することにより第2の画像データを生成する工程と、前記第1の画像データから前記第2の画像データを差し引いて前記照明装置による照明成分を抽出する工程と、前記照明ムラに関する情報に基づき前記照明成分を補正する工程と、照明ムラ補正された前記照明成分に前記第2の画像データの成分を加算することにより照明ムラ補正された画像データを生成する工程とからなることを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図15】
【図10】
【図11】
【図12】
【図13】
【図14】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図15】
【図10】
【図11】
【図12】
【図13】
【図14】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【公開番号】特開2003−304443(P2003−304443A)
【公開日】平成15年10月24日(2003.10.24)
【国際特許分類】
【出願番号】特願2002−107474(P2002−107474)
【出願日】平成14年4月10日(2002.4.10)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成15年10月24日(2003.10.24)
【国際特許分類】
【出願日】平成14年4月10日(2002.4.10)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]