説明

画像処理装置、映像機器、画像処理方法およびプログラム

【課題】檻やネット越しに被写体が存在する場合であっても、被写体のみ撮影することができる画像処理装置、撮像装置、画像処理方法およびプログラムを提供する。
【解決手段】画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出部103と、パターン検出部103が検出した繰り返しパターンを画像から消去するパターン消去部104と、パターン消去部104が画像から消去した繰り返しパターンの周辺画素を用いて繰り返しパターンの領域に対して画素を補間する画像補間部105と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データに対応する画像に含まれる特定のパターンを消去する画像処理装置、映像機器、画像処理方法およびプログラムに関する。
【背景技術】
【0002】
近年、デジタルカメラ等の映像機器では、動物園等で檻の中にいる被写体(動物)を撮影したり、野球場等でネット越しに被写体(選手)を撮影する際に、被写体にフォーカスを合わせることができる技術が知られている(特許文献1を参照)。この技術では、檻やネットを第1の被写体としてフォーカスさせ、この第1の被写体の部分をマスクした後、被写体にフォーカスを合わせている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−152395号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した技術では、被写体と撮像装置との間に檻やネット等が介在するため、常に檻やネット等の障害物が被写体の領域に写り込み、被写体のみを撮影することができないという問題がある。
【0005】
本発明は、上記に鑑みてなされたものであって、檻の中やネット越しに被写体が存在する場合であっても、被写体のみの画像を得ることができる画像処理装置、映像機器、画像処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本発明にかかる画像処理装置は、画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出部と、前記パターン検出部が検出した前記繰り返しパターンを前記画像から消去するパターン消去部と、前記パターン消去部が前記画像から消去した前記繰り返しパターンの周辺画素を用いて前記繰り返しパターンの領域に対して画素を補間する画像補間部と、を備えたことを特徴とする。
【0007】
また、本発明にかかる画像処理装置は、上記発明において、前記画像に含まれる被写体の顔を検出する顔検出部をさらに備え、前記パターン消去部は、少なくとも前記顔検出部が検出した前記被写体の顔の領域に含まれる前記繰り返しパターンを消去することを特徴とする。
【0008】
また、本発明にかかる画像処理装置は、上記発明において、前前記画像補間部は、前記繰り返しパターンの画素と前記周辺画素とを用いて前記繰り返しパターンの領域に対して画素を補間することを特徴とする。
【0009】
また、本発明にかかる画像処理装置は、上記発明において、前記繰り返しパターンは、金網、檻、柵および網のいずれかであることを特徴とする。
【0010】
また、本発明にかかる映像機器は、上記した画像処理装置と、所定の視野領域から光を集光する光学系を有し、該光学系を介して前記被写体を撮像して該被写体の画像データを生成する撮像部と、を備え、前記パターン検出部は、前記撮像部が生成した前記画像データに対応する画像から前記繰り返しパターンを検出することを特徴とする。
【0011】
また、本発明にかかる映像機器は、上記発明において、前記光学系を光軸上に沿って移動させることにより、前記被写体の一部に合焦させる合焦部をさらに備え、前記パターン検出部は、前記合焦部が前記被写体に合焦させた被写体領域に含まれる前記繰り返しパターンを検出し、前記パターン消去部は、前記パターン検出部が検出した前記被写体領域に含まれる前記繰り返しパターンを消去することを特徴とする。
【0012】
また、本発明にかかる映像機器は、上記発明において、前記パターン消去部は、前記被写体領域の周辺領域を含む前記繰り返しパターンを消去することを特徴とする。
【0013】
また、本発明にかかる映像機器は、上記発明において、前記繰り返しパターンを検出するパターン検出用テンプレートを記憶するテンプレート記憶部をさらに備え、前記パターン検出部は、前記テンプレート記憶部が記憶する前記パターン検出用テンプレートを用いて前記画像内を走査し、該パターン検出用テンプレートの類似度が所定値以上の領域を前記繰り返しパターンとして検出することを特徴とする。
【0014】
また、本発明にかかる映像機器は、上記発明において、前記画像データに対応する前記画像を表示する表示部をさらに備え、前記撮像部は、前記画像データを時系列に沿って連続的に生成可能であり、前記パターン検出部は、前記撮像部が前記画像を生成した順に前記繰り返しパターンを検出し、前記表示部は、前記画像補間部が画素を補間した画像を表示することを特徴とする。
【0015】
また、本発明にかかる画像処理方法は、画像処理装置が実行する画像処理方法であって、画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出ステップと、前記パターン検出ステップが検出した前記繰り返しパターンを前記画像から消去するパターン消去ステップと、前記パターン消去ステップが前記画像から消去した前記繰り返しパターンの周辺画素を用いて前記繰り返しパターンの領域に対して画素を補間する画像補間ステップと、を含むことを特徴とする。
【0016】
また、本発明にかかるプログラムは、画像処理装置に実行させるプログラムであって、画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出ステップと、前記パターン検出ステップが検出した前記繰り返しパターンを前記画像から消去するパターン消去ステップと、前記パターン消去ステップが前記画像から消去した前記繰り返しパターンの周辺画素を用いて前記繰り返しパターンの領域に対して画素を補間する画像補間ステップと、を含むことを特徴とする。
【発明の効果】
【0017】
本発明によれば、パターン検出部が画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出し、パターン消去部がパターン検出部によって画像の中から検出された繰り返しパターンを消去し、画像補間部がパターン消去部によって画像から消去された繰り返しパターンの周辺画素を用いて繰り返しパターンの領域に対して画素を補間する。これにより、檻やネット越しに被写体が存在する場合であっても、被写体のみ写る画像にすることができるという効果を奏する。
【図面の簡単な説明】
【0018】
【図1】図1は、本発明の一実施の形態にかかる映像機器の構成を示すブロック図である。
【図2】図2は、本発明の一実施の形態にかかる映像機器が行う処理の概要を示すフローチャートである。
【図3】図3は、図2のステップS103の撮影処理の概要を示すフローチャートである。
【図4】図4は、図3のステップS207の金網モード処理の概要を示すフローチャートである。
【図5】図5は、図4のステップS301の金網検知処理の概要を示すフローチャートである。
【図6】図6は、金網検知用テンプレート記憶部が記憶する金網検知用テンプレートの一例を示す図である。
【図7】図7は、金網検知用テンプレート記憶部が記憶する金網検知用テンプレートの別の一例を示す図である。
【図8】図8は、本発明の一実施の形態にかかる映像機器が撮影した画像の一例を示す図である。
【図9】図9は、本発明の一実施の形態にかかる映像機器が撮像した画像と金網検知用テンプレートとの類似度の関係を模式的に示す図である。
【図10】図10は、パターン消去部が繰り返しパターンを消去した画像の一例を示す図である。
【図11】図11は、画像補間部がパターン消去部によって消去された繰り返しパターンの領域を画素で補間した画像の一例を示す図である。
【図12】図12は、図2のステップS104の再生処理の概要を示すフローチャートである。
【図13】図13は、本発明の一実施の形態の変形例にかかるパターン消去部が繰り返しパターンを消去した画像の一例を示す図である。
【図14】図14は、本発明の一実施の形態の変形例にかかる画像補間部がパターン消去部によって消去された繰り返しパターンの領域を画素で補間した画像の一例を示す図である。
【発明を実施するための形態】
【0019】
以下、図面を参照して、本発明を実施するための形態(以下、「実施の形態」という)について説明する。なお、以下に説明する実施の形態によって本発明が限定されるものではない。また、以下においては画像処理装置を備えた映像機器を例に説明する。さらに、図面の記載において、同一の部分には同一の符号を付している。
【0020】
図1は、本発明の一実施の形態にかかる映像機器の構成を示すブロック図である。図1に示すように、映像機器1は、撮像部2と、発光部3と、姿勢検出部4と、タイマー5と、操作部6と、表示部7と、タッチパネル8と、記憶部9と、制御部10と、を備える。
【0021】
撮像部2は、被写体を撮像して被写体の画像データを生成する。撮像部2は、レンズ部21と、レンズ駆動部22と、絞り23と、絞り駆動部24と、シャッター25と、シャッター駆動部26と、撮像素子27と、撮像駆動部28と、信号処理部29と、を有する。
【0022】
レンズ部21は、フォーカスおよびズーム可能な複数のレンズ群によって構成され、所定の視野領域から光を集光する。レンズ駆動部22は、ステッピングモータまたはDCモータを用いて構成され、レンズ部21のレンズ群を光軸L1上に沿って移動させることにより、レンズ部21の合焦位置および焦点距離等の変更を行う。
【0023】
絞り23は、レンズ部21が集光した光の入射量を制限することにより露出の調整を行う。絞り駆動部24は、ステッピングモータ等によって構成され、絞り23を駆動する。
【0024】
シャッター25は、撮像素子27の状態を露光状態または遮光状態に設定する。シャッター駆動部26は、ステッピングモータ等によって構成され、レリーズ信号に応じてシャッター25を駆動する。
【0025】
撮像素子27は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等によって構成される。撮像素子27は、レンズ部21が集光した光を受光して光電変換を行うことによって、光を電気信号(アナログ信号)に変換する。撮像駆動部28は、撮像素子27を駆動するタイミングパルスを生成し、撮像素子27が光電変換した電気信号を信号処理部29に出力させる。
【0026】
信号処理部29は、アナログアンプやA/D変換器等によって構成される。信号処理部29は、撮像素子27から出力される電気信号に増幅(ゲイン調整)等の信号処理を施した後、A/D変換を行うことによってデジタルの画像データに変換して制御部10に出力する。
【0027】
発光部3は、キセノンランプまたはLED(Light Emitting Diode)等を用いて構成される。発光部3は、映像機器1が撮像する視野領域へ向けて補助光であるストロボ光を照射する。
【0028】
姿勢検出部4は、加速度センサを用いて構成される。姿勢検出部4は、映像機器1の加速度を検出することにより、映像機器1の姿勢状態を検出する。具体的には、姿勢検出部4は、水平面を基準としたときの映像機器1の姿勢(傾斜角度)を検出する。
【0029】
タイマー5は、計時機能および撮影日時の判定機能を有する。タイマー5は、撮像された画像データに日時データを付加させるため、制御部10に日時データを出力する。
【0030】
操作部6は、映像機器1の電源状態をオン状態またはオフ状態に切換える電源スイッチ61と、撮影の指示を与えるレリーズ信号の入力を受け付けるレリーズスイッチ62と、映像機器1に設定された各種撮影モードを切換える撮影モード切換スイッチ63と、映像機器1の各種設定を切換える操作スイッチ64と、を有する。
【0031】
表示部7は、液晶または有機EL(Electro Luminescence)等からなる表示パネルを用いて実現される。表示部7は、撮像部2が生成した画像データに対応する画像を表示する。表示部7は、映像機器1の操作情報および操作に関する情報を適宜表示する。
【0032】
タッチパネル8は、表示部7の表示画面上に重ねて設けられ、ユーザが表示部7に表示される情報に基づいて接触(タッチ)した位置を検出し、この接触位置に応じた指示信号の入力を受け付ける。一般に、タッチパネルとしては、抵抗膜方式、静電容量方式、光学式等がある。本実施の形態では、いずれの方式のタッチパネルであっても適用可能である。
【0033】
記憶部9は、映像機器1の内部に固定的に設けられるフラッシュメモリおよびRAM(Random Access Memory)等の半導体メモリを用いて実現される。記憶部9は、撮像部2が撮像した画像データを記憶する画像データ記憶部91と、映像機器1が実行する各種プログラムおよび画像処理プログラムを記憶部するプログラム記憶部92と、金網を検知するための金網検知用テンプレートや顔を検出するための顔検出テンプレート等を記憶する金網検知用テンプレート記憶部93と、を有する。
【0034】
制御部10は、CPU(Central Processing Unit)等を用いて構成され、操作部6またはタッチパネル8からの指示信号や切換信号等に応じて映像機器1を構成する各部に対応する指示やデータの転送等を行って映像機器1の動作を統括的に制御する。
【0035】
制御部10の詳細な構成について説明する。制御部10は、画像処理部101と、顔検出部102と、パターン検出部103と、パターン消去部104と、画像補間部105と、合焦部106と、撮影制御部107と、表示制御部108と、を有する。
【0036】
画像処理部101は、信号処理部29から入力される画像データに対して各種の画像処理を施す。具体的には、画像処理部101は、画像データに対して、オプティカルブラック減算処理、ホワイトバランス調整処理、同時化処理、カラーマトリクス演算処理、γ補正処理、色再現処理およびエッジ強調処理等を含む画像処理を行う。画像処理部101は、画像データを所定の方式、たとえばJPEG(Joint Photographic Experts Group)方式で圧縮して画像データ記憶部91に出力する。
【0037】
顔検出部102は、画像データに対応する画像に含まれる被写体の顔を検出する。具体的には、顔検出部102は、画像に含まれる人物の顔をパターンマッチングによって検出する。なお、顔検出部102は、人物の顔だけでなく、犬や猫等の動物の顔を検出してもよい。さらに、顔検出部102は、パターンマッチング以外の周知技術を用いて人物や動物の顔を検出してもよい。
【0038】
パターン検出部103は、画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出する。具体的には、パターン検出部103は、金網検知用テンプレート記憶部93から金網パターンを示す金網検知用テンプレートを取得し、取得した金網検知用テンプレートを用いてテンプレートマッチング等により、画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出する。パターン検出部103は、金網検知用テンプレートを用いて画像内を操作し、この金網検知用テンプレートの類似度が所定値以上の領域を繰り返しパターンの金網として検出する。より具体的には、パターン検出部103は、画像の中からテンプレートマッチングによって金網、檻、柵および網等を繰り返しパターンとして検出する。
【0039】
パターン消去部104は、パターン検出部103によって画像の中から検出された繰り返しパターンを消去する。具体的には、パターン消去部104は、パターン検出部103によって画像の中から検出された繰り返しパターンに対応する領域の画素を消去することによって、繰り返しパターンを画像から消去する。
【0040】
画像補間部105は、パターン消去部104によって画像から消去された繰り返しパターンの周辺画素を用いて繰り返しパターンの領域に対して画素を補間する。具体的には、画像補間部105は、バイリニア補間方式またはバイキュービック補間方式等により、パターン消去部104が消去した繰り返しパターンの領域に対して画素(画像)を補間する。なお、画像補間部105は、バイリニア補間方式またはバイキュービック補間方式以外の周知技術を用いて画素の補完を行ってもよい。
【0041】
合焦部106は、操作部6またはタッチパネル8から入力される指示信号に応じて、撮像部2が合焦する合焦位置を設定する。具体的には、合焦部106は、表示部7が表示する画像に対して、タッチパネル8がユーザによってタッチされたタッチ位置に応じた位置信号に基づいて、映像機器1が合焦する合焦位置を設定する。なお、合焦部106は、画像データから高周波成分の信号を取り出し、高周波成分の信号に対してAF(Auto Focus)演算処理を行うことによって、映像機器1のAF評価を決定することで映像機器1の合焦位置を自動的に設定してもよい。
【0042】
撮影制御部107は、レリーズ信号が入力された場合、映像機器1における撮影動作を開始する制御を行う。ここで、映像機器1における撮影動作とは、シャッター駆動部26および撮像駆動部28の駆動によって撮像素子27が出力した画像データに対し、信号処理部29および画像処理部101が所定の処理を施す動作をいう。このようにして処理が施された画像データは、撮影制御部107によって画像データ記憶部91に記憶される。
【0043】
表示制御部108は、表示部7の表示態様を制御する。具体的には、表示制御部108は、画像データ記憶部91が記憶する複数の画像データの各々に対応する複数の画像を表示部7に表示させる。
【0044】
以上の構成を有する映像機器1に対して、音声入出力機能、着脱自在な電子ビューファインダ(EVF)、およびインターネットを介してパーソナルコンピュータ等の外部処理装置(図示せず)と双方向に通信可能な通信機能等を具備させてもよい。
【0045】
つぎに、映像機器1が行う動作について説明する。図2は、本実施の形態にかかる映像機器1が行う処理の概要を示すフローチャートである。
【0046】
図2に示すように、映像機器1の電源がオン状態であり(ステップS101:Yes)、映像機器1が撮影モードに設定されている場合(ステップS102:Yes)について説明する。この場合、映像機器1は、撮像部2が生成する画像データを画像データ記憶部91に記憶する撮影処理を実行する(ステップS103)。なお、撮影処理の内容は、後述する。ステップS103の後、映像機器1は、ステップS101へ戻る。
【0047】
ステップS102において、映像機器1が撮影モードに設定されていない場合(ステップS102:No)について説明する。この場合、映像機器1は、記憶部9が記憶する画像データを表示部7に表示させる再生処理を実行する(ステップS104)。なお、再生処理の内容は、後述する。ステップS104の後、映像機器1は、ステップS101へ戻る。
【0048】
ステップS101において、映像機器1の電源がオン状態でない場合(ステップS101:No)について説明する。この場合、映像機器1は、本処理を終了する。
【0049】
つぎに、図2のステップS103で説明した撮影処理について説明する。図3は、撮影処理の概要を示すフローチャートである。
【0050】
図3に示すように、表示制御部108は、撮像部2が連続的に生成する画像データに対応するライブビュー画像を表示部7に表示させる(ステップS201)。
【0051】
続いて、制御部10は、レリーズスイッチ62からレリーズ信号が入力されたか否かを判断する(ステップS202)。レリーズ信号が入力されたと制御部10が判断した場合(ステップS202:Yes)、映像機器1は、後述するステップS203へ移行する。一方、レリーズスイッチ62を介してレリーズ信号が入力されていないと制御部10が判断した場合(ステップS202:No)、映像機器1は、図2のメインルーチンへ戻る。
【0052】
ステップS203において、制御部10は、撮像部2が生成した画像データから輝度を算出し、算出した輝度に基づいて、絞り23の絞り値(F値)およびシャッター25のシャッター速度等を自動的に設定して撮影する際の露出を調整するAE処理を実行する。
【0053】
続いて、合焦部106は、撮像部2が生成した画像データに基づいて、映像機器1の合焦位置の設定を行うAF処理を実行する(ステップS204)。なお、合焦部106は、操作部6またはタッチパネル8を介してユーザによって映像機器1の合焦位置が選択されている場合、この選択された位置に映像機器1の合焦位置を設定する。
【0054】
その後、映像機器1は、撮影制御部107の制御のもと、画像データを取得する(ステップS205)。
【0055】
続いて、制御部10は、映像機器1に金網モードが設定されているか否かを判断する(ステップS206)。映像機器1に金網モードが設定されていると制御部10が判断した場合(ステップS206:Yes)、映像機器1は、画像に写る金網を消去する金網モード処理を実行する(ステップS207)。なお、金網モードの詳細については、後述する。ステップS207の後、映像機器1は、ステップS208へ移行する。一方、映像機器1に金網モードが設定されていないと制御部10が判断した場合(ステップS206:No)、映像機器1は、ステップS208へ移行する。
【0056】
ステップS208において、映像機器1は、画像データ記憶部91に金網モード処理が施された画像データまたは金網モード処理が施されていない画像データを画像データ記憶部91に記憶する。その後、映像機器1は、図2のメインルーチンへ戻る。
【0057】
つぎに、図3のステップS207で説明した金網モード処理について説明する。図4は、金網モード処理の概要を示すフローチャートである。
【0058】
図4に示すように、パターン検出部103は、取得した画像データに対応する画像に対し、画像内に写る金網を検知する金網検知処理を実行する(ステップS301)。
【0059】
ここで、図4のステップS301の金網検知処理について説明する。図5は、金網検知処理の概要を示すフローチャートである。
【0060】
図5に示すように、パターン検出部103は、金網検知用テンプレート記憶部93から金網検知用テンプレートを取得する(ステップS401)。具体的には、図6および図7に示すように、パターン検出部103は、金網検知用テンプレート記憶部93から形状が異なる2つの金網検知用テンプレートT1,T2を取得する。金網検知用テンプレートT1は、画面上において左右の端または上下の端まで続く直線が所定の間隔で隙間を有する格子状の繰り返しパターンが写る画像である。金網検知用テンプレートT2は、画面上において左右の端または上下の端まで続く直線および斜線が所定の間隔で隙間を有する略格子状の繰り返しパターンが写る画像である。なお、金網検知用テンプレートT1,T2における直線または斜線の線幅は、適宜設定することができる。
【0061】
続いて、パターン検出部103は、画像内において画像と金網検知用テンプレートT1との類似度が所定値以上の領域があるか否かを判断する(ステップS402)。画像内において金網検知用テンプレートT1との類似度が所定値以上の領域がある場合(ステップS402:Yes)、パターン検出部103は、画像内に金網を検知する(ステップS403)。その後、映像機器1は、図4の金網モード処理に戻る。
【0062】
図8は、映像機器1が撮像した画像の一例を示す図である。図9は、映像機器1が撮像した画像と金網検知用テンプレートとの類似度の関係を模式的に示す図である。なお、図8は、動物園で金網越しに被写体A1(猿)を撮影する状況を示す。
【0063】
図8および図9に示すように、パターン検出部103は、画像W1に対し、金網検知用テンプレートT1の位置を画像W1内において1画素ずつずらしながら画像W1を走査させて、画像W1を所定の間隔で分割した各領域と金網検知用テンプレートT1との類似度が所定の類似度以上の領域を金網が写る領域として検出する。具体的には、図8および図9において、パターン検出部103は、画像W1の領域R1を金網検知用テンプレートT1との類似度が所定値以上であると判断した場合、画像W1の領域R1を金網K1が写る領域として検出する一方、画像W1の領域R2を金網検知用テンプレートT1との類似度が所定値未満であると判断した場合、画像W1の領域R2を金網K1がない領域として検出する。また、金網検知用テンプレートT1,T2の大きさは例示にすぎず、画像や金網の大きさに応じて適宜設定することができる。なお、類似度は、公知の技術を用いて設定される。
【0064】
ステップS402において、画像内において画像と金網検知用テンプレートT1との類似度が所定値以上の領域がない場合(ステップS402:No)について説明する。この場合、パターン検出部103は、画像内において画像と金網検知用テンプレートT2との類似度が所定値以上の領域があるか否かを判断する(ステップS404)。画像内において画像と金網検知用テンプレートT2との類似度が所定値以上の領域がある場合(ステップS404:Yes)、パターン検出部103は、画像内に金網を検知する(ステップS405)。その後、映像機器1は、図4の金網モード処理に戻る。
【0065】
一方、画像内において画像と金網検知用テンプレートT2との類似度が所定値以上の領域がない場合(ステップS404:No)、映像機器1は、図4の金網モード処理に戻る。
【0066】
図4に戻り、ステップS302以降の説明を続ける。ステップS302において、撮影制御部107は、映像機器1の合焦位置が金網K1であるか否かを判断する。具体的には図8に示すように、撮影制御部107は、合焦部106が撮像部2の合焦位置を、パターン検出部103によって検出された金網K1に合わせているか否かを判断する。映像機器1の合焦位置が金網K1であると撮影制御部107が判断した場合(ステップS302:Yes)、映像機器1は、ステップS303へ移行する。一方、映像機器1の合焦位置が金網K1でないと撮影制御部107が判断した場合(ステップS302:No)、映像機器1は、上述した図3の撮影処理に戻る。
【0067】
ステップS303において、撮影制御部107は、合焦部106が撮像部2の合焦位置を金網K1に合わせた画像データ(画像データ1)を画像データ記憶部91に記憶する(ステップS303)。
【0068】
続いて、合焦部106は、レンズ駆動部22を駆動してレンズ部21を光軸L上に沿って移動させることにより、一段階奥の被写体に撮像部2の合焦位置を設定する(ステップS304)。たとえば、合焦部106は、一段階奥の被写体A1に撮像部2の合焦位置を設定する。
【0069】
その後、映像機器1は、撮影制御部107の制御のもと、合焦部106が一段階奥の被写体A1に撮像部2の合焦位置を調整した画像データを取得し(ステップS305)、取得した画像データ(画像データ2)を画像データ記憶部91に記憶する(ステップS306)。
【0070】
続いて、パターン消去部104は、合焦部106によって一段階奥の被写体A1に撮像部2の合焦位置を調整された画像データ(画像データ2)に対応する画像に対し、パターン検出部103が金網K1を検出した画像データ(画像データ1)を用いて金網K1を消去する(ステップS307)。たとえば、パターン消去部104は、二つの画像を仮想的に重ね合わせたことにより、パターン検出部103によって検出された金網K1の領域に対応する画素を、合焦部106によって一段階奥の被写体A1に撮像部2の合焦位置を調整された画像データに対応する画像から消去する。具体的には、図10に示すように、パターン消去部104は、画像W2内において少なくとも撮像部2の合焦位置の周辺を含む領域の金網K1を消去する。
【0071】
その後、画像補間部105は、パターン消去部104が画像から消去した金網K1の周辺画素を用いて金網K1に対応する領域に対して画素を補間する(ステップS308)。具体的には、図11の画像W3に示すように、画像補間部105は、パターン消去部104が画像W2から消去した金網K1の周辺画素を用いて消去した金網K1の領域に対して画素を補間する。その後、映像機器1は、上述した図3の撮影処理に戻る。
【0072】
つぎに、図2のステップS104で説明した再生処理について説明する。図12は、再生処理の概要を示すフローチャートである。
【0073】
図12に示すように、表示制御部108は、画像データ記憶部91が記憶する各画像ファイルの画像データに対応する画像を縮小した縮小画像(サムネイル画像)の一覧を表示部7に表示させる(ステップS501)。
【0074】
続いて、制御部10は、操作部6を介して拡大して表示する画像ファイルの縮小画像が選択されたか否かを判断する(ステップS502)。縮小画像が選択されたと制御部10が判断した場合(ステップS502:Yes)、映像機器1は、ステップS503へ移行する。一方、縮小画像が選択されていないと制御部10が判断した場合(ステップS502:No)、映像機器は、ステップS501へ戻る。
【0075】
ステップS503において、制御部10は、選択された画像ファイルに格納されたデータが動画データであるか否かを判断する。選択された画像ファイルに格納されたデータが動画データであると制御部10が判断した場合(ステップS503:Yes)、映像機器1は、後述するステップS504へ移行する。一方、選択された画像ファイルに格納されたデータが動画データでないと制御部10が判断した場合(ステップS503:No)、映像機器1は、後述するステップS507へ移行する。
【0076】
ステップS504において、表示制御部108は、選択された画像ファイルに格納された動画データを表示部7に再生させる。
【0077】
制御部10は、動画データが終了したか否かを判断する(ステップS505)。動画データが終了していないと制御部10が判断した場合(ステップS505:No)、制御部10は、この判断を続ける。一方、動画データが終了していると制御部10が判断した場合(ステップS505:Yes)、映像機器1は、ステップS506へ移行する。
【0078】
続いて、制御部10は、再生モードの終了操作が行われたか否かを判断する(ステップS506)。具体的には、制御部10は、再生モード切換スイッチ63が操作されることにより、撮影モードに切換える切換信号が入力されたか否かを判断する。再生モードの終了操作が行われたと制御部10が判断した場合(ステップS506:Yes)、映像機器1は、図2のメインルーチンへ戻る。一方、所定時間(たとえば3秒)以内に再生モードの終了操作が行われていないと制御部10が判断した場合(ステップS506:No)、映像機器1は、ステップS501へ戻る。
【0079】
ステップS503において、選択された画像ファイルのデータが動画データでないと制御部10が判断した場合(ステップS503:No)について説明する。この場合、表示制御部108は、画像データに対応する静止画像を表示部7に表示させる(ステップS507)。
【0080】
続いて、制御部10は、表示部7が表示している静止画または動画を切換えるコマ送り操作が行われたか否かを判断する(ステップS508)。コマ送り操作が行われたと制御部10が判断した場合(ステップS508:Yes)、制御部10は、次の画像ファイルに切換える(ステップS509)。その後、映像機器1は、ステップS503へ戻る。一方、所定時間(たとえば3秒)以内にコマ送り操作が行われていないと制御部10が判断した場合(ステップS508:No)、映像機器1は、ステップS506へ移行する。
【0081】
以上説明した本発明の一実施の形態によれば、パターン検出部103が画像の中から繰り返しパターンを検出し、パターン消去部104がパターン検出部103によって画像の中から検出された繰り返しパターンを消去し、画像補間部105がパターン消去部104によって画像から消去された繰り返しパターンの周辺画素を用いて繰り返しパターンの領域に対して画素を補間する。これにより、檻の中やネット越しに被写体が存在する場合であっても、被写体のみを画像を記憶することができる。
【0082】
さらに、本発明の一実施の形態によれば、パターン検出部103が画像から金網K1を検出した場合、合焦部106が撮像部2の合焦位置を、金網K1から一段奥の被写体A1に設定するので、被写体A1に合焦した画像を撮影することができる。
【0083】
さらにまた、本発明の一実施の形態によれば、パターン消去部104が少なくとも合焦部106によって映像機器1の合焦位置を被写体A1に合焦させた周辺領域に含まれる繰り返しパターンの金網K1を消去する。これにより、画像内に写る全ての繰り返しパターンである金網を消去しないので、臨場感を損なうことなく、撮影時の撮影シーンを撮影することができる。
【0084】
なお、本発明の一実施の形態では、パターン消去部104が少なくとも合焦部106によって映像機器1の合焦位置を被写体A1に合焦させた周辺領域に含まれる繰り返しパターンの金網を消去していたが、たとえば顔検出部102によって検出された被写体の顔を含む周辺領域に含まれる繰り返しパターンを消去してもよい。これにより、網または柵越しに撮影を行っても、被写体の顔に網または柵が写りこまない画像を撮影することができる。
【0085】
また、本発明の一実施の形態では、パターン消去部104が少なくとも合焦部106によって映像機器1の合焦位置を被写体A1に合焦させた周辺領域に含まれる繰り返しパターンの金網を消去していたが、画像内の繰り返しパターンを全て消去してもよい。具体的には、図13に示すように、パターン消去部104は、パターン検出部103が画像W2の領域R11で繰り返しパターンの金網を検出した場合、領域R11に写る全ての金網K1を消去する。その後、画像補間部105は、パターン消去部104が消去した金網K1の周辺画素を用いて金網K1の領域に対して画素を補間する。これにより、被写体A1を撮影する際の障害物になる金網を消去した画像W4を撮影することができる。
【0086】
また、本発明の一実施の形態では、画像補間部105がパターン消去部104によって画像内から消去された繰り返しパターンの周辺画素を用いて繰り返しパターンの領域に対して画素を補間していたが、たとえば繰り返しパターンの画素と繰り返しパターンの周辺画素を用いて繰り返しパターンの領域に対して画素を補間してもよい。具体的には、図14に示すように、画像補間部105は、金網の画素と金網の周辺画素を用いて、金網K1を消去した領域に対して画素を補間する。たとえば、画像補間部105は、金網K1の画素と金網K1の周辺画素との比率を変えながら合成または重畳することにより、金網K1の領域に対して画素を補間する。これにより、被写体A1を撮影する際にリアリティを持たせた画像W5を撮影することができる。
【0087】
また、本発明の一実施の形態では、撮影する画像に対して金網モード処理を行っていたが、たとえば撮像部2が連続的に生成する画像データに対応するライブビュー画像に対しても上述した金網モード処理を行ってもよい。また、映像機器に対して着脱自在な電子ビューファインダが表示する画像に金網モード処理を行ってもよい。
【0088】
また、上述した実施の形態では、映像機器としてデジタルカメラを説明したが、たとえば、デジタル一眼レフカメラ、デジタルビデオカメラおよび撮影機能と表示機能を有する携帯電話やタブレット型携帯機器等の電子機器にも本発明を適用することができる。
【符号の説明】
【0089】
1 映像機器
2 撮像部
3 発光部
4 姿勢検出部
5 タイマー
6 操作部
7 表示部
8 タッチパネル
9 記憶部
10 制御部
21 レンズ部
22 レンズ駆動部
23 絞り
24 絞り駆動部
25 シャッター
26 シャッター駆動部
27 撮像素子
28 撮像駆動部
29 信号処理部
61 電源スイッチ
62 レリーズスイッチ
63 撮影モード切換スイッチ
64 操作スイッチ
91 画像データ記憶部
92 プログラム記憶部
93 金網検知用テンプレート記憶部
101 画像処理部
102 顔検出部
103 パターン検出部
104 パターン消去部
105 画像補間部
106 合焦部
107 撮影制御部
108 表示制御部

【特許請求の範囲】
【請求項1】
画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出部と、
前記パターン検出部が検出した前記繰り返しパターンを前記画像から消去するパターン消去部と、
前記パターン消去部が前記画像から消去した前記繰り返しパターンの周辺画素を用いて前記繰り返しパターンの領域に対して画素を補間する画像補間部と、
を備えたことを特徴とする画像処理装置。
【請求項2】
前記画像に含まれる被写体の顔を検出する顔検出部をさらに備え、
前記パターン消去部は、少なくとも前記顔検出部が検出した前記被写体の顔の領域に含まれる前記繰り返しパターンを消去することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記画像補間部は、前記繰り返しパターンの画素と前記周辺画素とを用いて前記繰り返しパターンの領域に対して画素を補間することを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記繰り返しパターンは、金網、檻、柵および網のいずれかであることを特徴とする請求項1〜3のいずれか一つに記載の画像処理装置。
【請求項5】
請求項1〜4のいずれかに記載の画像処理装置と、
所定の視野領域から光を集光する光学系を有し、該光学系を介して前記被写体を撮像して該被写体の画像データを生成する撮像部と、
を備え、
前記パターン検出部は、前記撮像部が生成した前記画像データに対応する画像から前記繰り返しパターンを検出することを特徴とする映像機器。
【請求項6】
前記光学系を光軸上に沿って移動させることにより、前記被写体の一部に合焦させる合焦部をさらに備え、
前記パターン検出部は、前記合焦部が前記被写体に合焦させた被写体領域に含まれる前記繰り返しパターンを検出し、
前記パターン消去部は、前記パターン検出部が検出した前記被写体領域に含まれる前記繰り返しパターンを消去することを特徴とする請求項5に記載の映像機器。
【請求項7】
前記パターン消去部は、前記被写体領域の周辺領域を含む前記繰り返しパターンを消去することを特徴とする請求項6に記載の映像機器。
【請求項8】
前記繰り返しパターンを検出するパターン検出用テンプレートを記憶するテンプレート記憶部をさらに備え、
前記パターン検出部は、前記テンプレート記憶部が記憶する前記パターン検出用テンプレートを用いて前記画像内を走査し、該パターン検出用テンプレートの類似度が所定値以上の領域を前記繰り返しパターンとして検出することを特徴とする請求項4〜7のいずれか一つに記載の映像機器。
【請求項9】
前記画像データに対応する前記画像を表示する表示部をさらに備え、
前記撮像部は、前記画像データを時系列に沿って連続的に生成可能であり、
前記パターン検出部は、前記撮像部が前記画像を生成した順に前記繰り返しパターンを検出し、
前記表示部は、前記画像補間部が画素を補間した画像を表示することを特徴とする請求項4〜8のいずれか一つに記載の映像機器。
【請求項10】
画像処理装置が実行する画像処理方法であって、
画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出ステップと、
前記パターン検出ステップが検出した前記繰り返しパターンを前記画像から消去するパターン消去ステップと、
前記パターン消去ステップが前記画像から消去した前記繰り返しパターンの周辺画素を用いて前記繰り返しパターンの領域に対して画素を補間する画像補間ステップと、
を含むことを特徴とする画像処理方法。
【請求項11】
画像処理装置に実行させるプログラムであって、
画像データに対応する画像の中から直線および/または曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出するパターン検出ステップと、
前記パターン検出ステップが検出した前記繰り返しパターンを前記画像から消去するパターン消去ステップと、
前記パターン消去ステップが前記画像から消去した前記繰り返しパターンの周辺画素を用いて前記繰り返しパターンの領域に対して画素を補間する画像補間ステップと、
を含むことを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2013−55378(P2013−55378A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2011−190088(P2011−190088)
【出願日】平成23年8月31日(2011.8.31)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【Fターム(参考)】