説明

画像処理装置および方法、プログラム

【課題】 複数のカメラのうちレンズが曇ったカメラを検出することにより、画像撮影の失敗を防止することを目的とする。
【解決手段】曇り止め機能を施したカメラにより撮像された基準画像データの画素値と曇り止め機能を施していないカメラにより撮像された撮像画像データの画素値とを比較することにより、レンズが曇ったカメラを検出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数のカメラにより撮像された複数の画像データを処理する画像処理装置に関する。
【背景技術】
【0002】
従来、ステレオカメラ、又は複数のカメラを格子上に配置した多眼方式の撮像装置を用いて、対象物体の3次元画像データを合成する画像処理技術がある。
【0003】
この画像処理技術において、撮像条件の影響により合成画像データが示す画像の画質が低下する場合がある。例えば、カメラ周辺の急激な温度変化によりレンズが曇った場合、画像上の被写体像がボケたり、全体的に光量が落ちてしまう問題がある。
【0004】
さて、レンズ曇りを防ぐ手法として、カメラフィルター表面に酸化チタンを焼結させることで、曇り止め機能が備わった防曇性カメラフィルターをカメラに装着する手法が提案されている(特許文献1)。
【0005】
また、レンズ表面に直接酸化チタンを焼結させることにより、防曇性カメラフィルターを装着することなくレンズ曇りを防ぐ手法も提案されている(特許文献2)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平9−230106
【特許文献2】特開平11−194252
【発明の概要】
【発明が解決しようとする課題】
【0007】
多眼方式の撮像装置においてレンズ曇りを防ぐために、撮像装置内にある全てのカメラに対して曇り止め機能を施すことにより、レンズ曇りを防ぐ手法が考えられる。曇り止めの一般的な手法としては、カメラのレンズ表面にポリエチレングリコールのような親水性化合物或いは他の界面活性剤を塗布する手法が挙げられる。しかしながら、この種の防曇性被膜はあくまで一時的なもので、水洗や接触によって容易に取り除かれ、早期に効果を失うという課題があった。
【0008】
特許文献1の防曇性カメラフィルターを多眼方式の撮像装置にある全てのカメラに適用すると、長期間に渡りレンズ曇りを防ぐことは可能であるが、カメラ構造が複雑になり、重量が重くなる。更に、コストも高くなるという課題があった。
【0009】
特許文献2の酸化チタンコーティングを撮影光学系、ファインダ光学系、表示部等の外気に触れる部分の表面に適用すると、カメラ構造を複雑にすることなく長期間に渡りレンズ曇りを防ぐことが可能となる。しかし、コストが高くなる上に、酸化チタン焼結に伴いレンズ変形等が発生し、各カメラのレンズ性能が低下してしまうという課題があった。
【0010】
そこで本発明では、複数のカメラのうちレンズが曇ったカメラを検出することにより、画像撮影の失敗を防止することを目的とする。
【課題を解決するための手段】
【0011】
上記の目的を達成するために本発明の画像処理装置は、複数のカメラにより撮像された複数の画像データを処理する画像処理装置であって、前記複数のカメラのうち曇り止め機能を施したカメラにより撮像された基準画像データを取得する基準画像取得手段と、前記複数のカメラのうち曇り止め機能を施していないカメラにより撮像された撮像画像データを取得する撮像画像取得手段と、前記基準画像データの画素値と前記撮像画像データの画素値とを比較することにより、前記複数のカメラのうちレンズが曇ったカメラを検出するレンズ曇り検出手段とを有することを特徴とする。
【発明の効果】
【0012】
本発明によれば、複数のカメラのうちレンズが曇ったカメラを検出することにより、画像撮影の失敗を防止することができる。
【図面の簡単な説明】
【0013】
【図1】多眼方式の撮像装置に防曇性カメラフィルターを装着したイメージ図である。
【図2】実施例1のシステム構成図である。
【図3】撮像部101〜109のシステム構成図である。
【図4】実施例1の示すブロック図である。
【図5】実施例1の効果を示す図である。
【図6】実施例1の動作を示すフローチャートである。
【図7】レンズ曇り検出部407の動作を示すフローチャートである。
【図8】実施例1の撮像ライブ画像データの番号データのイメージ図である。
【図9】実施例2の防曇性カメラフィルター配置を示すイメージ図である。
【発明を実施するための形態】
【0014】
[実施例1]
本実施例では、多眼方式の撮像装置に曇り止め機能を施したカメラをN個(本実施例ではN=1)配置する。
【0015】
図1は、多眼方式の撮像装置に曇り止め機能付きカメラを配置したイメージ図である。図1(a)は複数のカメラを構成する多眼方式の撮像装置の一例を示している。9個のカメラ101〜109は3行3列の正方格子上に配置されている。すべてのカメラは筺体111の同一平面上に配置され、その光軸はすべて平行であり、配置された平面に垂直である。本実施例では、複数台のカメラにおいて、基準カメラと撮像カメラを区別して使う。図1(a)は、基準カメラと撮像カメラの配置を一例として示している。本実施例では図1(a)に示したように、基準カメラはレンズ曇りを検出するために、防曇性カメラフィルターを装着しているカメラである。撮像カメラは防曇性カメラフィルターを装着していない、多視点からの画像を撮影するカメラである。シャッターボタン110は画像撮影を制御するボタンであり、ユーザーがシャッターボタン110を押すことで、視点位置の異なる画像の撮影が開始される。
【0016】
図1(b)、(c)は被写体を撮影した画像のイメージ図である。図1(b)は防曇性カメラフィルターを装着していない撮像カメラで取得した撮像画像データの示す撮像画像のイメージ図を示している。図1(c)は防曇性カメラフィルターを装着した基準カメラで取得した基準画像データの示す基準画像のイメージ図を示している。図1(b)の撮像画像では、画像上にレンズ曇りが写っている。一方、図1(c)の基準画像ではレンズ曇りが発生しないため、画像上にレンズ曇りは写らない。レンズ曇りのあるカメラにより撮像された画像データに基づいて後述の画像合成処理を行うと、適切な結果を得られない場合がある。これは、レンズ曇りのあるカメラにより撮像された画像データが示す画像においては、被写体像がボケたり、全体的に画像の光量が落ちていることが原因である。
【0017】
本実施例のシステム構成を図2を用いて説明する。撮像部101〜109は、被写体の光情報をセンサーで受光しA/D変換を施しデータ転送経路であるバス214にデジタルデータを出力する。フラッシュ201は、被写体に光を照射する。ROM202とRAM203は、撮像や画像処理に必要なプログラム、データ、作業領域などをCPU204に提供する。CPU204はRAM203をワークメモリとして、ROM202やRAM203に格納されたプログラムを実行し、バス214を介して各構成を制御する。これにより、後述する様々な処理が実行される。撮像装置制御部205は、フォーカスを合わせる、シャッターを開く、絞りを調節するなどの、CPU204から指示された撮像系の制御を行う。操作部206は、ボタンやモードダイヤルなどが該当し、これらを介して入力されたユーザ指示を受け取る。CG生成部207は、文字やグラフィックなどを生成する。表示部208は、一般的には液晶ディスプレイが広く用いられており、CG生成部207や後述のデジタル信号処理部209、画像処理部213から受け取った撮影画像や文字の表示を行う。また、タッチスクリーン機能を有していても良く、その場合は、ユーザ指示を操作部206の入力として扱うことも可能である。デジタル信号処理部209は、デジタル値にホワイトバランス処理、ガンマ処理、ノイズ低減処理などを行い、デジタル画像データを生成する。圧縮・伸張部210は、上記デジタル値をJpegやMpegなどのファイルフォーマットに変換する処理を行う。外部メモリ制御部211は、PCその他メディア212(例えば、ハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)につなぐためのインターフェースである。画像処理部213は、撮像部101〜109から得られたデジタル画像データ或いは、デジタル信号処理部から出力されるデジタル画像データを利用して新たな画像を生成し、その結果をバス214へ出力する。
【0018】
図3を用いて、撮像部101〜109の詳細を説明する。撮像部101〜109は、装着フィルター301(本実施例では防曇性カメラフィルター)、レンズ302、絞り303、シャッター304、光学フィルター305、センサー306などから構成され、被写体の光量を検知する。A/D変換部307は被写体の光量をデジタル値に変換し、バス214にデジタルデータを出力する。
【0019】
尚、本実施例では防曇性カメラフィルターを装着フィルター301に付けているが、レンズ302に曇り止めコーティング加工を施しても良い。
【0020】
また、装置の構成要素は上記以外にも存在するが、本実施例の主眼ではないので説明を省略する。
【0021】
図4は、本実施例を適用できる画像処理装置の実施の一形態を示すブロック図である。入力端子401から基準ライブ画像データが、基準ライブ画像取得部404へ入力される。同様に、入力端子402から撮像ライブ画像データが、撮像ライブ画像取得部405へ入力される。基準カメラと撮像カメラのカメラパラメータは、入力端子403から画像処理部213へ入力される。取得できた基準ライブ画像データと撮像ライブ画像データ及びカメラパラメータは端子406を通してレンズ曇り検出部407へ入力される。レンズ曇り検出部407は、各撮像ライブ画像にレンズ曇りが写っているかどうかを検出し、レンズ曇りを検出した撮像ライブ画像データの番号をレンズ曇り通知部408へ出力する。レンズ曇り通知部408は、入力された撮像ライブ画像データの番号に対応する、撮像カメラの位置と撮像ライブ画像データを出力端子409を通して表示部208へ出力する。また、画像合成に用いる基準画像データと撮像画像データはそれぞれ、入力端子401、402を通して基準画像取得部410と撮像画像取得部411に入力される。取得できた基準画像データと撮像画像データ及びカメラパラメータは端子412を通して画像合成部413へ入力される。画像合成部413は、基準画像データと撮影画像データからポリゴンデータを生成し、各ポリゴンデータに対して画像内の画素値を元にテクスチャマッピング処理を施すことにより、3次元画像データを合成する。画像合成部413で合成された合成画像データは出力端子414から出力される。
【0022】
本実施例を適用すると、図5に示すように、基準ライブ画像(図5(a))と撮像ライブ画像(図5(b))とを比較することで、レンズ曇りを検出できる。更に、レンズ曇りを検出した撮像カメラの位置と、対応する撮像ライブ画像を表示部208で表示することにより(図5(c))、ユーザーに対してどの撮像カメラが曇っているかをユーザーに通知できる。通知を受けたユーザーは、事前にレンズ曇りのあるカメラを確認することができ、レンズ拭きでレンズ曇りを拭きとるなどして、撮影の失敗を事前の防止することができる。或いは、レンズ曇りのあるカメラにより取得された画像中のレンズ曇りの影響を除去するような画像処理(例えば、レンズ曇りにより落ちが光量を元に戻すような画像処理)を行う等して、撮影の失敗を事前に防止することもできる。
【0023】
〔画像処理部213の動作〕
図6は、本実施例の画像処理方法を示すフローチャートである。詳細には、図6のフローチャートに示す手順を記述したコンピュータで実行可能なプログラムをROM202からRAM203上に読み込んだ後に、CPU204によって該プログラムを実行することによって当該処理が実施される。
【0024】
以下、図6に示す各処理について説明する。ステップS601では、基準カメラと撮像カメラに対応するカメラパラメータをROM202またはRAM203等の記憶領域に入力する。カメラパラメータは各カメラの焦点距離や光軸ずれを表す内部パラメータと、各カメラの3次元座標を表す外部パラメータ(各カメラの配置と向き情報を表わすパラメータを含む)と、ユーザーが指定した撮影条件パラメータ等から成る。基準ライブ画像取得部404は、基準ライブ画像データを所定の記憶領域に入力する(S602)。所定の記憶領域に既に基準ライブ画像データが有る場合は、上書きする。
【0025】
撮像ライブ画像取得部405は、撮像ライブ画像データを所定の記憶領域に入力する(S603)。所定の記憶領域に既に撮像ライブ画像データが有る場合は、上書きする。レンズ曇り検出部407は、ステップS602で入力された基準ライブ画像データとステップS603で入力された撮像ライブ画像データを比較することにより、レンズ曇りのある撮像カメラを検出する(S604)。各撮像ライブ画像データは通し番号が割り振られており、レンズ曇りが検出された撮像ライブ画像データの番号は、撮像カメラと対応付けて所定の記憶領域に記憶される。レンズ曇り検出方法の詳細は、図7を用いて後述する。ステップS605では、レンズ曇りが検出された撮像ライブ画像データの番号データが所定の記憶領域に有るかどうかを調べることにより、レンズ曇りの有無を判定する。撮像ライブ画像の番号データが有る場合は、レンズが曇っているカメラが有ると判定し、ステップS606へ移行する。撮像ライブ画像データの番号データが無い場合は、レンズが曇っているカメラは無いと判定し、ステップS607へ移行する。レンズ曇り通知部408は、ステップS604でレンズ曇りが検出された撮像ライブ画像データの番号に対応する、撮像カメラの位置と撮像ライブ画像を表示部208に表示する(S606)。この表示処理により、ユーザーに対してどのカメラが曇っているか(レンズ曇りを有するか)を通知する。ステップS607では、シャッターボタン110が押されたかどうかを調べることにより、画像を撮像するかどうかを判定する。シャッターボタン110が押されている場合は、画像を撮像すると判定し、ステップS608へ移行する。シャッターボタン110が押されていない場合は、画像を撮像しないと判定し、ステップS602に戻る。基準画像取得部410は、ステップS601で入力されたカメラパラメータから、ユーザーが指定した撮影条件に基づき、基準画像データを記憶領域に記憶する(S608)。撮像画像取得部411は、ステップS601で入力されたカメラパラメータから、ユーザーが指定した撮影条件に基づき、撮像画像データを記憶領域に記憶する(S609)。画像合成部413は、ステップS608で入力した基準画像データとステップS609で入力した撮像画像データを用いて、ポリゴンデータ生成及びテクスチャマッピング処理を行うことにより、3次元画像データを合成し、処理を終了する(S610)。
【0026】
〔レンズ曇り検出部407の動作〕
以下では、ステップS604のレンズ曇り検出処理の詳細について、図7のフローチャートを用いて説明する。ここでは基準カメラがN個(本実施例ではN=1)、撮像カメラがM個(本実施例ではM=8)あるとする。基準カメラ101で撮影した基準ライブ画像データは基準ライブ画像データ1とする。また、各撮像カメラ102〜109で撮影した撮像ライブ画像データは、撮像ライブ画像1データ,撮像ライブ画像データ2,・・・,撮像ライブ画像データMと各カメラに対応した番号が割り振られているものとする。
【0027】
レンズ曇り検出部407は、ステップS602で入力した基準ライブ画像データ1の画像全体にわたる平均画素値Cを算出する。算出した平均画素値Cは記憶領域に記憶する(S701)。ステップS702では、撮像ライブ画像データの番号iに対して、i=1に初期化する。レンズ曇り検出部407は、ステップS603で入力した撮像ライブ画像iの平均画素値Lを算出する。算出した平均画素値Lは記憶領域に記憶する(S703)。更に、ステップS701で算出した平均画素値Cと、ステップS703で算出した平均画素値Lから、|C−L|>Δ(本実施例ではΔ=50)を満たすかどうかを判定する(S704)。|C−L|>Δを満たす場合は、撮像ライブ画像データiでレンズ曇りが検出されたと判定し、ステップS705へ移行する。|C−L|>Δを満たさない場合は、撮像ライブ画像データiでレンズ曇りが検出されなかったと判定し、ステップS706へ移行する。判定の結果、レンズ曇りを検出した撮像ライブ画像データの番号iを所定の記憶領域に記憶する(S705)。所定の記憶領域に既に撮像ライブ画像データの番号データが有る場合は、上書きする。一方、レンズ曇りを検出しなかった撮像ライブ画像データの番号iは所定の記憶領域から消去する(S706)。所定の記憶領域に撮像ライブ画像データの番号データが無い場合は、消去処理を中断し、ステップS707へ移行する。ステップS707では、撮像ライブ画像データの番号iに対して、i=i+1に更新する。レンズ曇り検出部407は、撮像ライブ画像データの番号iがi≧Mを満たすかどうかを判定する(S708)。i≧Mを満たす場合は、M枚全ての撮像ライブ画像データについて処理を終了したと判定し、レンズ曇り検出処理を終了する。i≧Mを満たさない場合は、ステップS702に戻る。
【0028】
レンズ曇り検出処理で記憶した撮像ライブ画像データの番号データのイメージ図を図8に示す。図8(a)はN枚の基準ライブ画像のイメージ図である(本実施例ではN=1)。図8(b)はM枚の撮像ライブ画像のイメージ図である(本実施例ではM=8)。図8の例では8枚の撮像ライブ画像中、撮像ライブ画像データ1,3、4、、、8でレンズ曇りが検出されている。この時、レンズ曇りが検出された撮像ライブ画像の番号(1,3,4,・・・,8)が所定の記憶領域に記憶され、レンズ曇りが検出されなかった撮像ライブ画像の番号(2)のデータが、所定の記憶領域から消去された状態になっている(図8(c))。
【0029】
1つ以上のカメラに曇り止め機能を施した多眼方式の撮像装置に対して、以上説明したレンズ曇り検出及び通知処理を行うことで、レンズ曇りによる失敗画像撮影を防ぐことができる。即ち、通知を受けたユーザーは、事前にレンズ曇りのあるカメラを確認することができ、レンズ拭きでレンズ曇りを拭きとるなどして、撮影の失敗を事前の防止することができる。或いは、レンズ曇りのあるカメラにより取得された画像中のレンズ曇りの影響を除去するような画像処理(例えば、レンズ曇りにより落ちが光量を元に戻すような画像処理)を行う等して、撮影の失敗を事前に防止することもできる。
【0030】
<変形例>
・本実施例では、各処理が図2に示されるような撮像装置により実施されるとしたが、これに限らない。例えば、基準画像データ及び撮像画像データの撮像は多眼方式の撮像装置によってなされるものの、レンズ曇りの検出、通知は情報処理装置(例えば、パーソナルコンピュータ)により実現されても良い。
・本実施例では、画像合成部413により、基準画像データと撮像画像データから3次元画像データを合成するとした。しかしながら、基準画像データと撮像画像データに基づいた処理は3次元画像データの合成に限らない。例えば、基準画像データと撮像画像データとに基づいて、デプス画像を生成することや、被写界深度を調整した画像データ(ボケ画像データ)を生成する処理であっても構わない。
・本実施例では、基準ライブ画像データと撮像ライブ画像データとに基づいてレンズ曇りの検出を行い、基準画像データと撮像画像データとに基づいて画像合成処理を行うとしたが、これに限らない。例えば、ライブ画像データではなく、基準画像データと撮像画像データとに基づいて、レンズ曇りの検出を行っても良い。
・本実施例では、平均画素値CやLを算出する際に画像全体にわたる平均画素値を用いるとした。しかしながら、画像全体にわたる平均画素値を用いるのではなく、所定の領域(例えば、画像の中心を基準として100画素×100画素の領域)の平均画素値を用いても良い。こうすることにより、平均画素値の算出負荷を低減することが可能となる。・本実施例ではレンズ曇りをユーザーに通知する際に、カメラの位置を文字情報として表示部に表示したが、ユーザーが認識しやすい表示方式であれば良く、特に本実施例の表示方法に限定するものではない。
・レンズ曇りが検出された画像を表示部に表示する際、各撮像ライブ画像をサムネイル表示しても良い。更に、撮像ライブ画像を表示する際、レンズ曇りを検出した撮像ライブ画像又は画像内で曇っている領域を強調表示しても良い。
・本実施例では曇り止め機能として酸化チタンを焼結させた防曇性カメラフィルターを用いたが、水滴がレンズ表面に吸着した際の接触角が5°以下となる表面処理加工であれば良く、特に酸化チタンの焼結コーティング加工に限定するものではない。
・本実施例では曇り止め機能を施したカメラを1個配置したが、複数であっても良い。例えば、曇り止め機能を施した複数のカメラ間の基準画像データ比較することで、曇り止め機能を施したカメラの一部でユーザーの指や、鏡面反射光が写り込む場合でも、レンズ曇りをの有無を安定的に検出することができる。
【0031】
[実施例2]
本実施例では実施例1とは異なる撮像部を備えることでレンズ曇りを検出及び通知する例について説明する。
【0032】
図9(a)〜(c)に撮像部101〜109の別のイメージ図を示す。図1との差異のみを示すと、図9(a)において撮像部105は基準カメラであり、撮像装置の筺体の左右又及び上下方向のどちらか又は両方に対して中央付近に配置されている。撮像部101〜104、106〜109は撮像カメラである。また図9(b)、(c)は筺体111に垂直かつ図9(a)の点線901を通る平面における断面図である。図9(b)、(c)において、撮像部105は基準カメラであり、撮像部102、108は撮像カメラである。図9(b)では基準カメラの鏡筒の高さが撮像カメラよりも低くなっており、図(c)では基準カメラの上部にレンズシャッター902等のメカニカルなレンズ保護機構が施されている。
【0033】
画像処理部213のブロック図とフローチャートは実施例1と同一であるため説明を省略する。
【0034】
以上、図9(a)〜(c)に示す撮像部101〜109を持つ多眼方式の撮像装置では、レンズ曇り検出の基準となる基準カメラがユーザーの指等の接触により汚れたり、傷が付きにくくなる為、高い耐久性を備えたレンズ曇り検出及び通知処理が可能となる。

【特許請求の範囲】
【請求項1】
複数のカメラにより撮像された複数の画像データを処理する画像処理装置であって、
前記複数のカメラのうち曇り止め機能を施したカメラにより撮像された基準画像データを取得する基準画像取得手段と、
前記複数のカメラのうち曇り止め機能を施していないカメラにより撮像された撮像画像データを取得する撮像画像取得手段と、
前記基準画像データの画素値と前記撮像画像データの画素値とを比較することにより、前記複数のカメラのうちレンズが曇ったカメラを検出するレンズ曇り検出手段とを有することを特徴とする画像処理装置。
【請求項2】
前記レンズ曇り検出手段により検出したレンズが曇ったカメラをユーザーに通知するレンズ曇り通知手段を更に有することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記撮像画像取得手段により取得した撮像画像データの内、前記レンズ曇り検出手段で検出したレンズが曇ったカメラの撮像画像データが示す画像を表示装置上に表示することを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記レンズ曇り検出手段は、前記基準画像データが示す画像の画素値の平均画素値と前記撮像画像データが示す画像の画素値の平均画素値とを比較することにより、レンズが曇ったカメラを検出することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
【請求項5】
曇り止め機能を施したカメラが撮像装置の筺体の左右又及び上下方向のどちらか又は両方に対して中央付近に配置されることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
【請求項6】
曇り止め機能を施したカメラの鏡筒の高さが他のカメラに比べて低いことを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
【請求項7】
曇り止め機能を施したカメラの上部にレンズ保護機構を設けたことを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
【請求項8】
請求項1乃至7の何れか1項に記載の画像処理装置を備えた撮像装置。
【請求項9】
複数のカメラにより撮像された複数の画像データを処理する画像処理方法であって、
前記複数のカメラのうち曇り止め機能を施したカメラにより撮像された基準画像データを取得する基準画像取得工程と、
前記複数のカメラのうち曇り止め機能を施していないカメラにより撮像された撮像画像データを取得する撮像画像取得工程と、
前記基準画像データの画素値と前記撮像画像データの画素値とを比較することにより、前記複数のカメラのうちレンズが曇ったカメラを検出するレンズ曇り検出工程とを有することを特徴とする画像処理装置。
【請求項10】
コンピュータを請求項1乃至7のいずれか1項に記載の画像処理装置として機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−46221(P2013−46221A)
【公開日】平成25年3月4日(2013.3.4)
【国際特許分類】
【出願番号】特願2011−182623(P2011−182623)
【出願日】平成23年8月24日(2011.8.24)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】