画像処理装置、撮像装置、画像処理方法、プログラム及び記録媒体
【課題】コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる技術を提供する。
【解決手段】画像信号に信号処理を施して出力する信号処理手段と、前記信号処理手段から出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理手段と、前記超解像処理手段から出力される画像信号のエッジを強調するエッジ強調手段と、を有し、前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする画像処理装置を提供する。
【解決手段】画像信号に信号処理を施して出力する信号処理手段と、前記信号処理手段から出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理手段と、前記超解像処理手段から出力される画像信号のエッジを強調するエッジ強調手段と、を有し、前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする画像処理装置を提供する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、撮像装置、画像処理方法、プログラム及び記録媒体
に関する。
【背景技術】
【0002】
近年、デジタルカメラなどの撮像装置においては、静止画を撮像する機能に加えて動画を撮像する機能を有する撮像装置や静止画又は動画の撮像と同時に音声を録音する機能を備えた撮像装置が開発されている。
【0003】
このような撮像装置は、動画の解像度よりも高い解像度の静止画を撮像するために必要な画素数を含む撮像素子を備えている。そして、動画の撮像時には、撮像素子上で画素加算や間引き等を行うことによって動画に適した画素数、且つ、高フレームレートの撮像を実現している。このように、撮像装置は、撮像素子で撮像した画像をそのまま出力する静止画用の駆動モード(以下、「静止画モード」と称する)と、画素加算や間引き等を行う動画用の駆動モード(以下、「動画モード」と称する)とを有する。
【0004】
なお、動画の撮像中に静止画を撮像する技術として、撮像する画像(動画又は静止画)に応じて、撮像素子の駆動モードを動画モード又は静止画モードに切り替えて撮像する技術が提案されている(特許文献1参照)。
【0005】
また、複数の低解像度の画像を合成して高解像度の画像を生成する技術(以下、「超解像」又は「超解像処理」と称する)が提案されており、かかる超解像処理を応用することで動画の撮像中に静止画を撮像することが可能となる。例えば、超解像に関連する技術として、超解像処理を実施してから、或いは、超解像処理を実施しながら信号処理を実施する画像信号処理方法が提案されている(特許文献2参照)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−101473号公報
【特許文献2】特開2007−19641号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、動画の撮像中に静止画を撮像する際に、撮像素子の駆動モードを静止画モードに切り替えると、動画の撮像に必要なフレームレートでの撮像を実現することができなくなってしまう。従って、静止画を撮像している間は、例えば、直前のフレームを維持したり、全面黒色のフレームなどの代用フレームに置き換えたりしなければならず、実質的に動画がフリーズしてしまうという問題を生じてしまう。
【0008】
また、超解像処理を応用した場合には、上述したような動画のフリーズを回避することが可能であるが、動画用の低解像度の画像と超解像処理を施した高解像度の画像のそれぞれに信号処理を実施しなければならない。従って、同時化処理、APC補正処理等の種々の処理を行う信号処理手段を、時分割で低解像度及び高解像度の画像を処理できるように(即ち、高速動作可能に)構成するか、或いは、種々の処理に応じて個別に設ける必要があり、コストの増大を招いてしまう。
【0009】
更に、信号処理を施した動画用の画像に対して超解像処理を行う場合、動画用に施したAPC補正成分が超解像処理によって不自然な滲みとして現れてしまうという問題がある。例えば、APC補正処理を実施すると、エッジ強調成分が混じり込んでしまう。従って、エッジ強調成分が混じり込んだ画像に対して超解像処理を行うと、エッジ強調成分が広がり、超解像処理によって生成された高解像度の画像のエッジ部分に不自然な暗部や明部が発生してしまう。
【0010】
そこで、本発明は、このような従来技術の課題に鑑みて、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる技術を提供することを例示的目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するために、本発明の一側面としての画像処理装置は、画像信号に信号処理を施して出力する信号処理手段と、前記信号処理手段から出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理手段と、前記超解像処理手段から出力される画像信号のエッジを強調するエッジ強調手段と、を有し、前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする。
【0012】
本発明の更なる目的又はその他の特徴は、以下、添付図面を参照して説明される好ましい実施例によって明らかにされるであろう。
【発明の効果】
【0013】
本発明によれば、例えば、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる技術を提供することができる。
【図面の簡単な説明】
【0014】
【図1】本発明に係る第1の実施形態の撮像装置の構成を示す概略ブロック図である。
【図2】本発明に係る第2の実施形態の撮像装置の構成を示す概略ブロック図である。
【図3】本発明に係る第3の実施形態の撮像装置の構成を示す概略ブロック図である。
【図4】APC補正処理において、APC補正の強度を決定するAPC係数の一例を示す図である。
【図5】APC補正処理を説明するための図である。
【図6】APC補正処理を説明するための図である。
【図7】図6に示すAPC補正処理を施した第1のフレーム画像及びAPC補正処理を施した第2のフレーム画像に超解像処理を行った場合の画像を示す図である。
【図8】図6に示す第1のフレーム画像及び第2のフレーム画像に超解像処理を行った後でAPC補正処理を行った場合の画像を示す図である。
【図9】超解像処理を説明するためのフローチャートである。
【図10】超解像処理に用いるフレーム画像と超解像処理後の画像とを示す図である。
【図11】超解像処理における補間処理を説明するための図である。
【発明を実施するための形態】
【0015】
以下、添付図面を参照して、本発明の好適な実施の形態について説明する。なお、各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
【0016】
本実施形態の撮像装置を説明する前に、信号処理について説明する。
【0017】
カラーフィルタを有する単版方式の撮像装置は、撮像素子から1画素あたり単色の情報しか得ることができない。例えば、原色フィルタのカラーフィルタである場合には、1画素ごとに赤、緑、青の原色のうちいずれか1色のみの色情報しか得られないため、隣り合う画素は異なる色情報を有するように配列が決められている。これを、1画素あたり3原色すべて揃うように処理することを同時化処理と呼ぶ。
【0018】
また、信号処理は、同時化処理に加えて、ガンマ補正処理、APC補正(APerture Correction:アパーチャ補正)処理やKNEE補正処理等の画質調整用の処理を含む。特に、APC補正処理はエッジ強調を行う処理であって、同時化処理等の各種処理によってボケてしまったエッジを復元する役割を有する。従って、信号処理を行う信号処理部は、画質を重視する撮像装置において重要な回路であり、回路規模も大きいものとなる。
【0019】
APC補正処理は、例えば、空間フィルタによって抽出されたエッジ成分に、図4に示すようなAPC補正の度合い(強度)を決定するAPC係数をかけて加算することによって実現される。APC係数によって、図5(a)に示すAPC補正処理前の画像(画像信号)に対して、図5(b)に示すAPC補正処理後の画像(画像信号)におけるエッジ強調成分の形状が決まる。エッジ強調成分を多く含む画像に対して超解像処理を行うと、かかるエッジ強調成分が位置あわせによるずらし方向に広がる傾向がある。ここで、図4は、APC補正処理において、APC補正の強度を決定するAPC係数の一例を示す図である。また、図5は、APC補正処理を説明するための図であって、図5(a)は、APC補正処理前の画像を示し、図5(b)は、APC補正処理後の画像を示す。
【0020】
例えば、単純なエッジを撮影する場合を例に説明する。ここでは、画像を2次元ではなく、X軸又はY軸限定の1次元であるものとする。撮影したエッジが、図6(a)に示すようにサンプリングされた場合を考える。図6(a)において、三角形(△)で示されたポイントは、第1のフレーム画像として撮像され、四角形(□)で示されたポイントは、第2のフレーム画像として撮像されたとする。この場合の第1のフレーム画像を図6(b)に示し、第2のフレーム画像を図6(c)に示す。また、第1のフレーム画像にAPC補正処理を施した画像を図6(d)に示し、第2のフレーム画像にAPC補正処理を施した画像を図6(e)に示す。
【0021】
図6(d)に示すAPC補正処理を施した第1のフレーム画像及び図6(e)に示すAPC補正処理を施した第2のフレーム画像に超解像処理を行うと、図7に示すように、エッジ強調成分が広がった状態で合成される。そこで、上述したAPC補正処理は、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度に施し、超解像処理後にAPC補正処理を再度施すようにする。これにより、信号処理部を動画の撮像時と超解像処理時で共用することができるため、回路規模の大型化を抑制することが可能となる。
【0022】
また、図6(b)に示す第1のフレーム画像及び図6(c)に示す第2のフレーム画像に超解像処理を行った後でAPC補正処理を行った場合の画像を図8に示す。信号処理前の画像は、信号処理後の画像よりも色成分1つあたりのビット深度が深い。従って、信号処理前の画像に超解像処理を行うと、かかる超解像処理によって合成された画像を保持するメモリとして大容量のメモリが必要となる。但し、信号処理前にビット深度を下げる処理を行うと、著しい画質の低下を招いてしまうため、信号処理後の画像に対して超解像処理を行うことが好ましい。
【0023】
ここで、超解像処理について詳細に説明する。超解像処理とは、上述したように、重なる部分を有する複数の低解像度の画像から高解像度の画像を生成する処理である。超解像処理は、本実施形態では、複数のフレーム画像(動画)から静止画を生成する。
【0024】
図9は、超解像処理を説明するためのフローチャートである。まず、ステップS1002では、選択された複数のフレーム画像を取得する。本実施形態では、4つのフレーム画像を取得する。ステップS1002で取得された複数の選択フレーム画像は、一時的にメモリに記憶される。
【0025】
なお、フレーム画像は、ドットマトリックス状の各画素の階調値(画素値)を示す階調データ(画素データ)で構成されている。画素データは、Y(輝度)、Cb(ブルーの色差)、Cr(レッドの色差)からなるYCbCrデータや、R(レッド)、G(グリーン)、B(ブルー)からなるRGBデータ等であって、撮像素子の種別に依存する。
【0026】
本実施形態では、超解像処理の説明を明確にするために、フレーム画像は、後述する図10及び図11に示すように、1色のみの多値の画像データとして示す。また、画像サイズも実際の動画サイズ(例えば、VGAサイズ)ではなく、8×8=64画素の画像データとして示す。
【0027】
ステップS1004では、ステップS1002で取得した4つのフレーム画像のうち、3つのフレーム画像の各フレーム相互のずれ(位置ずれ)を補正するための補正量の推定を実行する。かかる補正量の推定では、4つのフレーム画像のうち、1つのフレーム画像を基準フレームとして設定し、その他の3つのフレーム画像を対象フレームとして設定する。そして、各対象フレームについて、基準フレームに対する位置ずれを補正するための補正量が、それぞれ推定される。なお、本実施形態では、ステップS1002で取得したフレーム画像のうち、最も早く生成されたフレーム画像を基準フレームとして設定し、その他の3つのフレーム画像を対象フレームとして設定する。
【0028】
なお、以下の説明では、ステップS1002で取得した4つのフレームの番号(フレーム番号)をn(n=0、1、2、3)とし、フレーム番号nのフレームをフレームnとし、フレームnの画像をフレーム画像Fnとする。例えば、フレーム番号nが0のフレームはフレーム0とし、かかるフレーム0の画像をフレーム画像F0とする。なお、フレーム0を基準フレームとし、フレーム1乃至3を対象フレームとする。また、基準フレームのフレーム画像F0を基準フレーム画像とし、対象フレームのフレーム画像F1乃至F3を対象フレーム画像とする。
【0029】
画像の位置ずれは、並進(横方向又は縦方向)のずれと、回転のずれとの組み合わせで表される。但し、本実施形態では、回転ずれについての説明及び処理は省略する。
【0030】
図10は、超解像処理に用いるフレーム画像と超解像処理後の画像を示す図である。図10において、被写体と、撮像により得られた基準フレーム画像F0と、対象フレーム画像F1乃至F3とを示している。被写体を囲む点線矩形は基準フレーム画像F0を撮像した際の画角を示し、実線矩形は対象フレーム画像F1乃至F3のそれぞれを撮像した際の画角を示す。
【0031】
図10において、横方向の並進ずれ量を「um」、縦方向の並進ずれ量を「vm」とそれぞれ表す。また、対象フレーム画像Fn(n=1、2、3)についてのこれらのずれ量を「umn」、「vmn」と表す。例えば、図10に示すように、対象フレーム画像F1は、基準フレーム画像F0に対して、縦方向の並進ずれが生じており、そのずれ量は、um1、vm1と表される。
【0032】
ここで、各対象フレーム画像(F1乃至F3)を基準フレーム画像(F0)と合成するためには、各対象フレーム画像と基準フレーム画像とのずれをなくすように、各対象フレーム画像の各画素の位置ずれを補正する必要がある。かかる補正のために用いられる横方向の並進補正量を「u」、縦方向の並進補正量を「v」とそれぞれ表す。また、対象フレーム画像Fn(n=1、2、3)についてのこれらの補正量を「un」、「vn」と表す。例えば、対象フレーム画像F1についての補正量は、u1、v1と表される。
【0033】
また、各対象フレーム画像の各画素の位置ずれの補正とは、対象フレーム画像Fn(n=1、2、3)の各画素の位置を、横方向にun移動させ、縦方向にvn移動させることを意味する。従って、対象フレーム画像Fn(n=1、2、3)についての補正量un、vnは、un=−umn、vn=−vmnの関係で表される。例えば、対象フレーム画像F1についての補正量u1、v1は、u1=−um1、v1=−vm1で表される。
【0034】
このように、補正量u1、v1を用いて、対象フレーム画像F1の各画素の位置を補正することにより、対象フレーム画像F1と基準フレーム画像F0とのずれをなくすことができる。同様に、対象フレーム画像F2及びF3についても、補正量u2、v2、及び補正量u3、v3を用いて補正が施される。
【0035】
なお、各対象フレーム画像Fn(n=1、2、3)についての補正量un、vnは、基準フレーム画像F0の画像データと対象フレーム画像F1乃至F3の画像データとに基づき算定される。かかる算定には、例えば、パターンマッチ法、勾配法、最小自乗法などの所定の算出式が用いられる。また、算出された補正量un、vnは、並進補正量データとして、メモリの所定の領域に記憶される。
【0036】
ステップS1006では、基準フレーム画像F0と位置ずれが補正された対象フレーム画像F1乃至F3とを合成して高解像度の静止画像を生成する。
【0037】
本実施形態では、図10に示すように、各対象フレームの位置ずれが1画素単位であるものとして示しているが、実際の撮像においては、1画素間隔以下の位置ずれが生じており、このような微少な位置ずれを利用することで高解像度化が可能となる。
【0038】
従って、生成する静止画を構成する各画素(生成画素)のうち、基準フレーム画像及び対象フレーム画像のいずれにも存在しない画素が存在する。このような画素については、その生成画素の周辺に存在する画素の画素値を表す画素データ(階調値を表す階調データ)を用いて、所定の補間処理を行えばよい。補間処理としては、バイ・リニア法、バイ・キュービック法、ニアレストネイバ法等の種々の補間処理を用いることができる。
【0039】
図11を参照して、バイ・リニア法による補間処理を用いる場合を説明する。まず、基準フレーム画像及び対象フレーム画像から、生成画素GIPの位置に最も近い距離にある最近傍画素NIPを有するフレーム画像を選択する。そして、選択したフレーム画像のうち、生成画素GIPの位置を囲む4つの画素を周辺画素PIP1乃至PIP3として決定し、周辺画素PIP1乃至PIP3のデータ値に所定の重み付けを加えた値を平均して、生成画素GIPのデータ値を得る。
【0040】
このような処理を各生成画素について繰り返すことによって、例えば、図10に示すような解像度が2倍の超解像画像を得ることができる。なお、解像度は2倍に限らず、種々の倍率とすることができる。また、補間処理に複数のフレーム画像のデータ値を用いるほど、高精細な超解像画像を得ることができる。
【0041】
[第1の実施形態]
図1は、本発明に係る第1の実施形態の撮像装置100の構成を示す概略ブロック図である。撮像装置100は、被写体の動画と静止画を同時に撮像することのできる撮像装置であって、本実施形態では、デジタルカメラとして具現化される。
【0042】
撮像装置100は、図1に示すように、レンズ102と、撮像素子104と、A/D変換部106と、信号処理部108と、超解像処理部110とを有する。更に、撮像装置100は、切替部112と、APC補正処理部114と、圧縮処理部116と、メモリ部118と、メモリカード120とを有する。
【0043】
レンズ102は、被写体からの光を撮像素子104に投影して光学像を形成する。
【0044】
撮像素子104は、レンズ102を介して形成される光学像を、光電変換によって、画像信号(電気信号)に変換する。
【0045】
A/D変換部106は、撮像素子104から出力されるアナログの画像信号をデジタルの画像信号に変換する。
【0046】
信号処理部108は、A/D変換部106から出力される画像信号に信号処理を施す。信号処理部108は、例えば、信号処理として、画像信号に含まれる色情報の同時化処理、フィルタ処理、画像信号を輝度信号と色差信号に分離する分離処理、ガンマ補正処理、画像信号のエッジを強調するためのAPC補正処理の少なくとも1つを施す。また、信号処理部108は、信号処理として、KNEE補正処理などを施すこともできる。
【0047】
超解像処理部110は、信号処理部108から出力される複数の画像信号を合成して解像度を向上させるための超解像処理を施す。具体的には、超解像処理部110には、被写体の動画撮像時に被写体の静止画を撮像する場合に、信号処理部108から動画用の複数のフレーム画像が入力される。そして、超解像処理部110は、かかる複数のフレーム画像に超解像処理を施すことによって、動画の解像度よりも高い解像度の静止画(かかる静止画を生成するための画像信号)を生成する。なお、超解像処理については、上述した通り(図9乃至図11参照)であるため、ここでの詳細な説明は省略する。
【0048】
切替部112は、APC補正処理部114への入力を切り替える(即ち、信号処理部108から出力される画像信号又は超解像処理部110から出力される画像信号を選択する)機能を有する。切替部112は、本実施形態では、撮像装置100が動画を撮像しているのか、或いは、静止画を撮像しているのかに応じて、A側パスと、B側パスとを選択する。具体的には、切替部112は、被写体の動画を撮像する場合には、B側パスを選択して、信号処理部108から出力される画像信号を超解像処理部110を介さずにAPC補正処理部114に入力する。一方、被写体の動画撮像時に被写体の静止画を撮像する場合には、切替部112は、A側パスを選択して、信号処理部108から出力される画像信号を超解像処理部110を介してAPC補正処理部114に入力する。
【0049】
APC補正処理部114は、信号処理部108から出力される画像信号及び超解像処理部110から出力される画像信号のそれぞれにエッジを強調するためのAPC補正処理を施す。
【0050】
なお、信号処理部108及びAPC補正処理部114は、共同して上述した通りのAPC補正処理を施す。
【0051】
圧縮処理部116は、APC補正処理部114から出力される画像信号に圧縮処理を施す。
【0052】
メモリ部118は、圧縮処理部116から出力される圧縮処理が施された画像信号を記憶する。
【0053】
メモリカード120は、メモリ部118に記憶されている画像信号を記録する。
【0054】
以下、撮像装置100の動作について説明する。本実施形態では、被写体の撮動画撮像中に被写体の静止画を撮像する場合について説明する。従って、切替部112は、B側パスを選択しており、信号処理部108からは動画用の複数の画像信号が出力されているものとする。
【0055】
被写体の撮動画撮像中に被写体の静止画の撮像が指示されると、切替部112は、A側パスを選択して、信号処理部108から出力される複数の画像信号が超解像処理部110に入力される。なお、かかる複数の画像信号は、信号処理部108において、APC補正処理を含む信号処理が施されている。
【0056】
超解像処理部110に入力された複数の画像信号は、上述したように、超解像処理が施されて、静止画を生成する画像信号として、APC補正処理部114に出力される。
【0057】
APC補正処理部114に入力された画像信号は、APC補正処理が施されて、メモリ部118で記憶されると共に、メモリカード120に記録される。
【0058】
なお、撮像装置100において、信号処理部108で画像信号に施されるAPC補正処理と、APC補正処理部114で画像信号に施されるAPC補正処理とは異なる。具体的には、信号処理部108では、超解像処理部110における位置合わせ演算の演算精度向上を目的とした最低限のAPC補正処理を施す。一方、APC補正処理部114では、画質の改善を目的としたAPC補正処理を施す。換言すれば、信号処理部108が画像信号に施すAPC補正処理のエッジの強調の度合いは、APC補正処理部114が画像信号に施すAPC補正処理のエッジ強調の度合いよりも弱い。具体的には、信号処理部108においては、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度にAPC補正処理を施し、APC補正処理部114においては、超解像処理後にエッジ強調に必要な残りのAPC補正処理を再度施すようにする。
【0059】
このように、撮像装置100は、超解像処理を施す前と施した後とに分けてAPC補正処理を施すことによって、信号処理部108を動画の撮像時と超解像処理時で共用することができ、回路規模の大型化を抑制することができる。従って、撮像装置100は、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる。
【0060】
なお、本実施形態では、切替部112を用いることによって、APC補正処理部114、圧縮処理部116、メモリ部118及び120を動画の撮像及び超解像処理による静止画の撮像において共有している。このような構成は、静止画と動画が同一又は類似する圧縮コーデックを使う場合に特に有利となる(例えば、JPEGとモーションJPEG等)。
【0061】
[第2の実施形態]
図2は、本発明に係る第2の実施形態の撮像装置100Aの構成を示す概略ブロック図である。撮像装置100Aは、被写体の動画と静止画を同時に撮像することのできる撮像装置であって、本実施形態では、デジタルカメラとして具現化される。
【0062】
撮像装置100Aは、撮像装置100と同様な構成を有する。具体的には、撮像装置100Aは、図2に示すように、レンズ102と、撮像素子104と、A/D変換部106と、信号処理部108と、超解像処理部110とを有する。更に、撮像装置100Aは、第1のAPC補正処理部122と、第2のAPC補正処理部124と、第1の圧縮処理部126と、第2の圧縮処理部128と、メモリ部118と、メモリカード120とを有する。
【0063】
第1のAPC補正処理部122は、超解像処理部110から出力される画像信号にエッジを強調するための第1のAPC補正処理を施す。第1のAPC補正処理部122には、動画撮像中に静止画を撮像する場合に、信号処理部108から出力される画像信号が超解像処理部110を介して入力される。
【0064】
第2のAPC補正処理部124は、信号処理部108から出力される画像信号にエッジを強調するための第2のAPC補正処理を施す。第2のAPC補正処理部124には、動画を撮像する場合に、信号処理部108から出力される画像信号が超解像処理部110を介さずに入力される。
【0065】
なお、第1のAPC補正処理と第2のAPC補正処理とは、エッジを強調するという点では同様である。但し、第1のAPC補正処理は、静止画を生成する画像信号に対するAPC補正処理であるのに対して、第2のAPC補正処理は、動画の画像信号に対するAPC補正処理であるという点で異なる。
【0066】
第1の圧縮処理部126は、第1のAPC補正処理部122から出力される画像信号に圧縮処理を施す。第1の圧縮処理部126から出力される画像信号は、メモリ部118に記憶される。
【0067】
第2の圧縮処理部128は、第2のAPC補正処理部124から出力される画像信号に圧縮処理を施す。第2の圧縮処理部126から出力される画像信号は、メモリ部118に記憶される。
【0068】
なお、撮像装置100Aにおいて、信号処理部108で画像信号に施されるAPC補正処理と、第1のAPC補正処理部122及び第2のAPC補正処理部124で画像信号に施されるAPC補正処理とは異なる。具体的には、信号処理部108では、超解像処理部110における位置合わせ演算の演算精度向上を目的とした最低限のAPC補正処理を施す。一方、第1のAPC補正処理部122では、静止画の画質の改善を目的としたAPC補正処理を施す。また、第2のAPC補正処理部124では、動画(フレーム画像)の画質の改善を目的としたAPC補正処理を施す。換言すれば、信号処理部108が画像信号に施すAPC補正処理のエッジの強調の度合いは、第1のAPC補正処理部122及び第2のAPC補正処理部124が画像信号に施すAPC補正処理のエッジ強調の度合いよりも弱い。具体的には、信号処理部108においては、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度にAPC補正処理を施し、第1のAPC補正処理部122においては、超解像処理後にエッジ強調に必要な残りのAPC補正処理を再度施すようにする。同様に、第2のAPC補正処理部124においては、超解像処理が施されていなくても、エッジ強調に必要な残りのAPC補正処理を再度施すようにする。
【0069】
このように、撮像装置100Aは、超解像処理を施す前と施した後とに分けてAPC補正処理を施すことによって、信号処理部108を動画の撮像時と超解像処理時で共用することができ、回路規模の大型化を抑制することができる。従って、撮像装置100Aは、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる。
【0070】
なお、撮像装置100Aは、撮像装置100と比較して、比較的小規模な回路で構成することができるAPC補正処理部を、静止画(超解像画像)用の第1のAPC補正処理部122と、動画用の第2のAPC補正処理部124とに分けている点が異なる。このような構成は、静止画と動画の圧縮コーデックが異なる場合に有利である(例えば、JPEGとMPEG4等)。また、撮像装置100Aは、静止画と動画の処理において、他方の処理によって処理が中断されることもなく、撮像装置100よりも高速に処理することができる。これは、撮像装置100Aが静止画用の第1のAPC補正処理部122及び第1の圧縮処理部126と、動画用の第2のAPC補正処理部124及び第2の圧縮処理部128とを有しているからである。
【0071】
[第3の実施形態]
図3は、本発明に係る第3の実施形態の撮像装置100Bの構成を示す概略ブロック図である。撮像装置100Bは、被写体の動画と静止画を同時に撮像することのできる撮像装置であって、本実施形態では、デジタルカメラとして具現化される。
【0072】
撮像装置100Bは、撮像装置100や撮像装置100Aと同様な構成を有する。具体的には、撮像装置100Bは、図3に示すように、レンズ102と、撮像素子104と、A/D変換部106と、信号処理部108と、超解像処理部110とを有する。更に、撮像装置100Aは、第1のAPC補正処理部122と、第2のAPC補正処理部124と、切替部130と、圧縮処理部116と、メモリ部118と、メモリカード120とを有する。
【0073】
切替部130は、圧縮処理部116への入力を切り替える(即ち、第1のAPC補正処理部122から出力される画像信号又は第2のAPC補正処理部124から出力される画像信号を選択する)機能を有する。切替部130は、本実施形態では、撮像装置100Bが動画を撮像しているのか、或いは、静止画を撮像しているのかに応じて、C側パスと、D側パスとを選択する。具体的には、切替部130は、被写体の動画を撮像する場合には、D側パスを選択して、第2のAPC補正処理部124から出力される画像信号を圧縮処理部116に入力する。一方、被写体の動画撮像時に被写体の静止画を撮像する場合には、切替部130は、C側パスを選択して、第1のAPC補正処理部124から出力される画像信号を圧縮処理部116に入力する。圧縮処理部116では、切替部130による入力の切り替えに応じて、異なる圧縮処理を画像信号に施すことが可能である。
【0074】
なお、撮像装置100Bにおいて、信号処理部108で画像信号に施されるAPC補正処理と、第1のAPC補正処理部122及び第2のAPC補正処理部124で画像信号に施されるAPC補正処理とは異なる。具体的には、信号処理部108では、超解像処理部110における位置合わせ演算の演算精度向上を目的とした最低限のAPC補正処理を施す。一方、第1のAPC補正処理部122では、静止画の画質の改善を目的としたAPC補正処理を施す。また、第2のAPC補正処理部124では、動画(フレーム画像)の画質の改善を目的としたAPC補正処理を施す。換言すれば、信号処理部108が画像信号に施すAPC補正処理のエッジの強調の度合いは、第1のAPC補正処理部122及び第2のAPC補正処理部124が画像信号に施すAPC補正処理のエッジ強調の度合いよりも弱い。具体的には、信号処理部108においては、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度にAPC補正処理を施し、第1のAPC補正処理部122においては、超解像処理後にエッジ強調に必要な残りのAPC補正処理を再度施すようにする。同様に、第2のAPC補正処理部124においては、超解像処理が施されていなくても、エッジ強調に必要な残りのAPC補正処理を再度施すようにする。
【0075】
このように、撮像装置100Bは、超解像処理を施す前と施した後とに分けてAPC補正処理を施すことによって、信号処理部108を動画の撮像時と超解像処理時で共用することができ、回路規模の大型化を抑制することができる。従って、撮像装置100Bは、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる。
【0076】
撮像装置100Bは、撮像装置100と比較して、超解像処理部110からの画像信号にAPC補正処理を施す第1のAPC補正処理部と、信号処理部108からの画像信号にAPC補正処理を施す第2のAPC補正処理部とを独立させている点が異なる。これにより、第1のAPC補正処理部122が超解像処理部110からの画像信号にAPC補正処理を施している間であっても、第2のAPC補正処理部124が信号処理部108から高フレームレートで出力される画像処理にAPC補正処理を施すことができる。従って、撮像装置100Bは、静止画と動画の処理において、撮像装置100よりも高速に処理することができる。
【0077】
また、撮像装置100Bは、撮像装置100Aと比較して、第1のAPC補正処理部122から出力される画像信号に圧縮処理を施す圧縮処理部と第2のAPC補正処理部124から出力される画像信号に圧縮処理を施す圧縮処理部とを共有させている点が異なる。このような構成は、静止画と動画が同一または類似する圧縮コーデックを使う場合に特に有利である(例えば、JPEGとモーションJPEG等)
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形及び変更が可能である。例えば、撮像機能の実行までをカメラに行わせ、カメラと通信手段を介して接続されたパーソナルコンピュータ(PC)に撮像された画像を送り、その後の信号処理を行わせる変形例がある。この場合、カメラからPCへと撮像素子の駆動モードの切り替え情報が伝達されることになる。また、PCでは専用のハードウェアに限らず、PCのメインCPUがソフトウェア処理により、上記の超解像処理やAPC処理が実行するように構成してもよい。その場合に用いられるソフトウェア(プログラム)はCD―ROM等の記録媒体やネットワーク等を介して接続されたサーバからダウンロードして供給される形態がある。
【技術分野】
【0001】
本発明は、画像処理装置、撮像装置、画像処理方法、プログラム及び記録媒体
に関する。
【背景技術】
【0002】
近年、デジタルカメラなどの撮像装置においては、静止画を撮像する機能に加えて動画を撮像する機能を有する撮像装置や静止画又は動画の撮像と同時に音声を録音する機能を備えた撮像装置が開発されている。
【0003】
このような撮像装置は、動画の解像度よりも高い解像度の静止画を撮像するために必要な画素数を含む撮像素子を備えている。そして、動画の撮像時には、撮像素子上で画素加算や間引き等を行うことによって動画に適した画素数、且つ、高フレームレートの撮像を実現している。このように、撮像装置は、撮像素子で撮像した画像をそのまま出力する静止画用の駆動モード(以下、「静止画モード」と称する)と、画素加算や間引き等を行う動画用の駆動モード(以下、「動画モード」と称する)とを有する。
【0004】
なお、動画の撮像中に静止画を撮像する技術として、撮像する画像(動画又は静止画)に応じて、撮像素子の駆動モードを動画モード又は静止画モードに切り替えて撮像する技術が提案されている(特許文献1参照)。
【0005】
また、複数の低解像度の画像を合成して高解像度の画像を生成する技術(以下、「超解像」又は「超解像処理」と称する)が提案されており、かかる超解像処理を応用することで動画の撮像中に静止画を撮像することが可能となる。例えば、超解像に関連する技術として、超解像処理を実施してから、或いは、超解像処理を実施しながら信号処理を実施する画像信号処理方法が提案されている(特許文献2参照)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−101473号公報
【特許文献2】特開2007−19641号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、動画の撮像中に静止画を撮像する際に、撮像素子の駆動モードを静止画モードに切り替えると、動画の撮像に必要なフレームレートでの撮像を実現することができなくなってしまう。従って、静止画を撮像している間は、例えば、直前のフレームを維持したり、全面黒色のフレームなどの代用フレームに置き換えたりしなければならず、実質的に動画がフリーズしてしまうという問題を生じてしまう。
【0008】
また、超解像処理を応用した場合には、上述したような動画のフリーズを回避することが可能であるが、動画用の低解像度の画像と超解像処理を施した高解像度の画像のそれぞれに信号処理を実施しなければならない。従って、同時化処理、APC補正処理等の種々の処理を行う信号処理手段を、時分割で低解像度及び高解像度の画像を処理できるように(即ち、高速動作可能に)構成するか、或いは、種々の処理に応じて個別に設ける必要があり、コストの増大を招いてしまう。
【0009】
更に、信号処理を施した動画用の画像に対して超解像処理を行う場合、動画用に施したAPC補正成分が超解像処理によって不自然な滲みとして現れてしまうという問題がある。例えば、APC補正処理を実施すると、エッジ強調成分が混じり込んでしまう。従って、エッジ強調成分が混じり込んだ画像に対して超解像処理を行うと、エッジ強調成分が広がり、超解像処理によって生成された高解像度の画像のエッジ部分に不自然な暗部や明部が発生してしまう。
【0010】
そこで、本発明は、このような従来技術の課題に鑑みて、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる技術を提供することを例示的目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するために、本発明の一側面としての画像処理装置は、画像信号に信号処理を施して出力する信号処理手段と、前記信号処理手段から出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理手段と、前記超解像処理手段から出力される画像信号のエッジを強調するエッジ強調手段と、を有し、前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする。
【0012】
本発明の更なる目的又はその他の特徴は、以下、添付図面を参照して説明される好ましい実施例によって明らかにされるであろう。
【発明の効果】
【0013】
本発明によれば、例えば、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる技術を提供することができる。
【図面の簡単な説明】
【0014】
【図1】本発明に係る第1の実施形態の撮像装置の構成を示す概略ブロック図である。
【図2】本発明に係る第2の実施形態の撮像装置の構成を示す概略ブロック図である。
【図3】本発明に係る第3の実施形態の撮像装置の構成を示す概略ブロック図である。
【図4】APC補正処理において、APC補正の強度を決定するAPC係数の一例を示す図である。
【図5】APC補正処理を説明するための図である。
【図6】APC補正処理を説明するための図である。
【図7】図6に示すAPC補正処理を施した第1のフレーム画像及びAPC補正処理を施した第2のフレーム画像に超解像処理を行った場合の画像を示す図である。
【図8】図6に示す第1のフレーム画像及び第2のフレーム画像に超解像処理を行った後でAPC補正処理を行った場合の画像を示す図である。
【図9】超解像処理を説明するためのフローチャートである。
【図10】超解像処理に用いるフレーム画像と超解像処理後の画像とを示す図である。
【図11】超解像処理における補間処理を説明するための図である。
【発明を実施するための形態】
【0015】
以下、添付図面を参照して、本発明の好適な実施の形態について説明する。なお、各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
【0016】
本実施形態の撮像装置を説明する前に、信号処理について説明する。
【0017】
カラーフィルタを有する単版方式の撮像装置は、撮像素子から1画素あたり単色の情報しか得ることができない。例えば、原色フィルタのカラーフィルタである場合には、1画素ごとに赤、緑、青の原色のうちいずれか1色のみの色情報しか得られないため、隣り合う画素は異なる色情報を有するように配列が決められている。これを、1画素あたり3原色すべて揃うように処理することを同時化処理と呼ぶ。
【0018】
また、信号処理は、同時化処理に加えて、ガンマ補正処理、APC補正(APerture Correction:アパーチャ補正)処理やKNEE補正処理等の画質調整用の処理を含む。特に、APC補正処理はエッジ強調を行う処理であって、同時化処理等の各種処理によってボケてしまったエッジを復元する役割を有する。従って、信号処理を行う信号処理部は、画質を重視する撮像装置において重要な回路であり、回路規模も大きいものとなる。
【0019】
APC補正処理は、例えば、空間フィルタによって抽出されたエッジ成分に、図4に示すようなAPC補正の度合い(強度)を決定するAPC係数をかけて加算することによって実現される。APC係数によって、図5(a)に示すAPC補正処理前の画像(画像信号)に対して、図5(b)に示すAPC補正処理後の画像(画像信号)におけるエッジ強調成分の形状が決まる。エッジ強調成分を多く含む画像に対して超解像処理を行うと、かかるエッジ強調成分が位置あわせによるずらし方向に広がる傾向がある。ここで、図4は、APC補正処理において、APC補正の強度を決定するAPC係数の一例を示す図である。また、図5は、APC補正処理を説明するための図であって、図5(a)は、APC補正処理前の画像を示し、図5(b)は、APC補正処理後の画像を示す。
【0020】
例えば、単純なエッジを撮影する場合を例に説明する。ここでは、画像を2次元ではなく、X軸又はY軸限定の1次元であるものとする。撮影したエッジが、図6(a)に示すようにサンプリングされた場合を考える。図6(a)において、三角形(△)で示されたポイントは、第1のフレーム画像として撮像され、四角形(□)で示されたポイントは、第2のフレーム画像として撮像されたとする。この場合の第1のフレーム画像を図6(b)に示し、第2のフレーム画像を図6(c)に示す。また、第1のフレーム画像にAPC補正処理を施した画像を図6(d)に示し、第2のフレーム画像にAPC補正処理を施した画像を図6(e)に示す。
【0021】
図6(d)に示すAPC補正処理を施した第1のフレーム画像及び図6(e)に示すAPC補正処理を施した第2のフレーム画像に超解像処理を行うと、図7に示すように、エッジ強調成分が広がった状態で合成される。そこで、上述したAPC補正処理は、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度に施し、超解像処理後にAPC補正処理を再度施すようにする。これにより、信号処理部を動画の撮像時と超解像処理時で共用することができるため、回路規模の大型化を抑制することが可能となる。
【0022】
また、図6(b)に示す第1のフレーム画像及び図6(c)に示す第2のフレーム画像に超解像処理を行った後でAPC補正処理を行った場合の画像を図8に示す。信号処理前の画像は、信号処理後の画像よりも色成分1つあたりのビット深度が深い。従って、信号処理前の画像に超解像処理を行うと、かかる超解像処理によって合成された画像を保持するメモリとして大容量のメモリが必要となる。但し、信号処理前にビット深度を下げる処理を行うと、著しい画質の低下を招いてしまうため、信号処理後の画像に対して超解像処理を行うことが好ましい。
【0023】
ここで、超解像処理について詳細に説明する。超解像処理とは、上述したように、重なる部分を有する複数の低解像度の画像から高解像度の画像を生成する処理である。超解像処理は、本実施形態では、複数のフレーム画像(動画)から静止画を生成する。
【0024】
図9は、超解像処理を説明するためのフローチャートである。まず、ステップS1002では、選択された複数のフレーム画像を取得する。本実施形態では、4つのフレーム画像を取得する。ステップS1002で取得された複数の選択フレーム画像は、一時的にメモリに記憶される。
【0025】
なお、フレーム画像は、ドットマトリックス状の各画素の階調値(画素値)を示す階調データ(画素データ)で構成されている。画素データは、Y(輝度)、Cb(ブルーの色差)、Cr(レッドの色差)からなるYCbCrデータや、R(レッド)、G(グリーン)、B(ブルー)からなるRGBデータ等であって、撮像素子の種別に依存する。
【0026】
本実施形態では、超解像処理の説明を明確にするために、フレーム画像は、後述する図10及び図11に示すように、1色のみの多値の画像データとして示す。また、画像サイズも実際の動画サイズ(例えば、VGAサイズ)ではなく、8×8=64画素の画像データとして示す。
【0027】
ステップS1004では、ステップS1002で取得した4つのフレーム画像のうち、3つのフレーム画像の各フレーム相互のずれ(位置ずれ)を補正するための補正量の推定を実行する。かかる補正量の推定では、4つのフレーム画像のうち、1つのフレーム画像を基準フレームとして設定し、その他の3つのフレーム画像を対象フレームとして設定する。そして、各対象フレームについて、基準フレームに対する位置ずれを補正するための補正量が、それぞれ推定される。なお、本実施形態では、ステップS1002で取得したフレーム画像のうち、最も早く生成されたフレーム画像を基準フレームとして設定し、その他の3つのフレーム画像を対象フレームとして設定する。
【0028】
なお、以下の説明では、ステップS1002で取得した4つのフレームの番号(フレーム番号)をn(n=0、1、2、3)とし、フレーム番号nのフレームをフレームnとし、フレームnの画像をフレーム画像Fnとする。例えば、フレーム番号nが0のフレームはフレーム0とし、かかるフレーム0の画像をフレーム画像F0とする。なお、フレーム0を基準フレームとし、フレーム1乃至3を対象フレームとする。また、基準フレームのフレーム画像F0を基準フレーム画像とし、対象フレームのフレーム画像F1乃至F3を対象フレーム画像とする。
【0029】
画像の位置ずれは、並進(横方向又は縦方向)のずれと、回転のずれとの組み合わせで表される。但し、本実施形態では、回転ずれについての説明及び処理は省略する。
【0030】
図10は、超解像処理に用いるフレーム画像と超解像処理後の画像を示す図である。図10において、被写体と、撮像により得られた基準フレーム画像F0と、対象フレーム画像F1乃至F3とを示している。被写体を囲む点線矩形は基準フレーム画像F0を撮像した際の画角を示し、実線矩形は対象フレーム画像F1乃至F3のそれぞれを撮像した際の画角を示す。
【0031】
図10において、横方向の並進ずれ量を「um」、縦方向の並進ずれ量を「vm」とそれぞれ表す。また、対象フレーム画像Fn(n=1、2、3)についてのこれらのずれ量を「umn」、「vmn」と表す。例えば、図10に示すように、対象フレーム画像F1は、基準フレーム画像F0に対して、縦方向の並進ずれが生じており、そのずれ量は、um1、vm1と表される。
【0032】
ここで、各対象フレーム画像(F1乃至F3)を基準フレーム画像(F0)と合成するためには、各対象フレーム画像と基準フレーム画像とのずれをなくすように、各対象フレーム画像の各画素の位置ずれを補正する必要がある。かかる補正のために用いられる横方向の並進補正量を「u」、縦方向の並進補正量を「v」とそれぞれ表す。また、対象フレーム画像Fn(n=1、2、3)についてのこれらの補正量を「un」、「vn」と表す。例えば、対象フレーム画像F1についての補正量は、u1、v1と表される。
【0033】
また、各対象フレーム画像の各画素の位置ずれの補正とは、対象フレーム画像Fn(n=1、2、3)の各画素の位置を、横方向にun移動させ、縦方向にvn移動させることを意味する。従って、対象フレーム画像Fn(n=1、2、3)についての補正量un、vnは、un=−umn、vn=−vmnの関係で表される。例えば、対象フレーム画像F1についての補正量u1、v1は、u1=−um1、v1=−vm1で表される。
【0034】
このように、補正量u1、v1を用いて、対象フレーム画像F1の各画素の位置を補正することにより、対象フレーム画像F1と基準フレーム画像F0とのずれをなくすことができる。同様に、対象フレーム画像F2及びF3についても、補正量u2、v2、及び補正量u3、v3を用いて補正が施される。
【0035】
なお、各対象フレーム画像Fn(n=1、2、3)についての補正量un、vnは、基準フレーム画像F0の画像データと対象フレーム画像F1乃至F3の画像データとに基づき算定される。かかる算定には、例えば、パターンマッチ法、勾配法、最小自乗法などの所定の算出式が用いられる。また、算出された補正量un、vnは、並進補正量データとして、メモリの所定の領域に記憶される。
【0036】
ステップS1006では、基準フレーム画像F0と位置ずれが補正された対象フレーム画像F1乃至F3とを合成して高解像度の静止画像を生成する。
【0037】
本実施形態では、図10に示すように、各対象フレームの位置ずれが1画素単位であるものとして示しているが、実際の撮像においては、1画素間隔以下の位置ずれが生じており、このような微少な位置ずれを利用することで高解像度化が可能となる。
【0038】
従って、生成する静止画を構成する各画素(生成画素)のうち、基準フレーム画像及び対象フレーム画像のいずれにも存在しない画素が存在する。このような画素については、その生成画素の周辺に存在する画素の画素値を表す画素データ(階調値を表す階調データ)を用いて、所定の補間処理を行えばよい。補間処理としては、バイ・リニア法、バイ・キュービック法、ニアレストネイバ法等の種々の補間処理を用いることができる。
【0039】
図11を参照して、バイ・リニア法による補間処理を用いる場合を説明する。まず、基準フレーム画像及び対象フレーム画像から、生成画素GIPの位置に最も近い距離にある最近傍画素NIPを有するフレーム画像を選択する。そして、選択したフレーム画像のうち、生成画素GIPの位置を囲む4つの画素を周辺画素PIP1乃至PIP3として決定し、周辺画素PIP1乃至PIP3のデータ値に所定の重み付けを加えた値を平均して、生成画素GIPのデータ値を得る。
【0040】
このような処理を各生成画素について繰り返すことによって、例えば、図10に示すような解像度が2倍の超解像画像を得ることができる。なお、解像度は2倍に限らず、種々の倍率とすることができる。また、補間処理に複数のフレーム画像のデータ値を用いるほど、高精細な超解像画像を得ることができる。
【0041】
[第1の実施形態]
図1は、本発明に係る第1の実施形態の撮像装置100の構成を示す概略ブロック図である。撮像装置100は、被写体の動画と静止画を同時に撮像することのできる撮像装置であって、本実施形態では、デジタルカメラとして具現化される。
【0042】
撮像装置100は、図1に示すように、レンズ102と、撮像素子104と、A/D変換部106と、信号処理部108と、超解像処理部110とを有する。更に、撮像装置100は、切替部112と、APC補正処理部114と、圧縮処理部116と、メモリ部118と、メモリカード120とを有する。
【0043】
レンズ102は、被写体からの光を撮像素子104に投影して光学像を形成する。
【0044】
撮像素子104は、レンズ102を介して形成される光学像を、光電変換によって、画像信号(電気信号)に変換する。
【0045】
A/D変換部106は、撮像素子104から出力されるアナログの画像信号をデジタルの画像信号に変換する。
【0046】
信号処理部108は、A/D変換部106から出力される画像信号に信号処理を施す。信号処理部108は、例えば、信号処理として、画像信号に含まれる色情報の同時化処理、フィルタ処理、画像信号を輝度信号と色差信号に分離する分離処理、ガンマ補正処理、画像信号のエッジを強調するためのAPC補正処理の少なくとも1つを施す。また、信号処理部108は、信号処理として、KNEE補正処理などを施すこともできる。
【0047】
超解像処理部110は、信号処理部108から出力される複数の画像信号を合成して解像度を向上させるための超解像処理を施す。具体的には、超解像処理部110には、被写体の動画撮像時に被写体の静止画を撮像する場合に、信号処理部108から動画用の複数のフレーム画像が入力される。そして、超解像処理部110は、かかる複数のフレーム画像に超解像処理を施すことによって、動画の解像度よりも高い解像度の静止画(かかる静止画を生成するための画像信号)を生成する。なお、超解像処理については、上述した通り(図9乃至図11参照)であるため、ここでの詳細な説明は省略する。
【0048】
切替部112は、APC補正処理部114への入力を切り替える(即ち、信号処理部108から出力される画像信号又は超解像処理部110から出力される画像信号を選択する)機能を有する。切替部112は、本実施形態では、撮像装置100が動画を撮像しているのか、或いは、静止画を撮像しているのかに応じて、A側パスと、B側パスとを選択する。具体的には、切替部112は、被写体の動画を撮像する場合には、B側パスを選択して、信号処理部108から出力される画像信号を超解像処理部110を介さずにAPC補正処理部114に入力する。一方、被写体の動画撮像時に被写体の静止画を撮像する場合には、切替部112は、A側パスを選択して、信号処理部108から出力される画像信号を超解像処理部110を介してAPC補正処理部114に入力する。
【0049】
APC補正処理部114は、信号処理部108から出力される画像信号及び超解像処理部110から出力される画像信号のそれぞれにエッジを強調するためのAPC補正処理を施す。
【0050】
なお、信号処理部108及びAPC補正処理部114は、共同して上述した通りのAPC補正処理を施す。
【0051】
圧縮処理部116は、APC補正処理部114から出力される画像信号に圧縮処理を施す。
【0052】
メモリ部118は、圧縮処理部116から出力される圧縮処理が施された画像信号を記憶する。
【0053】
メモリカード120は、メモリ部118に記憶されている画像信号を記録する。
【0054】
以下、撮像装置100の動作について説明する。本実施形態では、被写体の撮動画撮像中に被写体の静止画を撮像する場合について説明する。従って、切替部112は、B側パスを選択しており、信号処理部108からは動画用の複数の画像信号が出力されているものとする。
【0055】
被写体の撮動画撮像中に被写体の静止画の撮像が指示されると、切替部112は、A側パスを選択して、信号処理部108から出力される複数の画像信号が超解像処理部110に入力される。なお、かかる複数の画像信号は、信号処理部108において、APC補正処理を含む信号処理が施されている。
【0056】
超解像処理部110に入力された複数の画像信号は、上述したように、超解像処理が施されて、静止画を生成する画像信号として、APC補正処理部114に出力される。
【0057】
APC補正処理部114に入力された画像信号は、APC補正処理が施されて、メモリ部118で記憶されると共に、メモリカード120に記録される。
【0058】
なお、撮像装置100において、信号処理部108で画像信号に施されるAPC補正処理と、APC補正処理部114で画像信号に施されるAPC補正処理とは異なる。具体的には、信号処理部108では、超解像処理部110における位置合わせ演算の演算精度向上を目的とした最低限のAPC補正処理を施す。一方、APC補正処理部114では、画質の改善を目的としたAPC補正処理を施す。換言すれば、信号処理部108が画像信号に施すAPC補正処理のエッジの強調の度合いは、APC補正処理部114が画像信号に施すAPC補正処理のエッジ強調の度合いよりも弱い。具体的には、信号処理部108においては、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度にAPC補正処理を施し、APC補正処理部114においては、超解像処理後にエッジ強調に必要な残りのAPC補正処理を再度施すようにする。
【0059】
このように、撮像装置100は、超解像処理を施す前と施した後とに分けてAPC補正処理を施すことによって、信号処理部108を動画の撮像時と超解像処理時で共用することができ、回路規模の大型化を抑制することができる。従って、撮像装置100は、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる。
【0060】
なお、本実施形態では、切替部112を用いることによって、APC補正処理部114、圧縮処理部116、メモリ部118及び120を動画の撮像及び超解像処理による静止画の撮像において共有している。このような構成は、静止画と動画が同一又は類似する圧縮コーデックを使う場合に特に有利となる(例えば、JPEGとモーションJPEG等)。
【0061】
[第2の実施形態]
図2は、本発明に係る第2の実施形態の撮像装置100Aの構成を示す概略ブロック図である。撮像装置100Aは、被写体の動画と静止画を同時に撮像することのできる撮像装置であって、本実施形態では、デジタルカメラとして具現化される。
【0062】
撮像装置100Aは、撮像装置100と同様な構成を有する。具体的には、撮像装置100Aは、図2に示すように、レンズ102と、撮像素子104と、A/D変換部106と、信号処理部108と、超解像処理部110とを有する。更に、撮像装置100Aは、第1のAPC補正処理部122と、第2のAPC補正処理部124と、第1の圧縮処理部126と、第2の圧縮処理部128と、メモリ部118と、メモリカード120とを有する。
【0063】
第1のAPC補正処理部122は、超解像処理部110から出力される画像信号にエッジを強調するための第1のAPC補正処理を施す。第1のAPC補正処理部122には、動画撮像中に静止画を撮像する場合に、信号処理部108から出力される画像信号が超解像処理部110を介して入力される。
【0064】
第2のAPC補正処理部124は、信号処理部108から出力される画像信号にエッジを強調するための第2のAPC補正処理を施す。第2のAPC補正処理部124には、動画を撮像する場合に、信号処理部108から出力される画像信号が超解像処理部110を介さずに入力される。
【0065】
なお、第1のAPC補正処理と第2のAPC補正処理とは、エッジを強調するという点では同様である。但し、第1のAPC補正処理は、静止画を生成する画像信号に対するAPC補正処理であるのに対して、第2のAPC補正処理は、動画の画像信号に対するAPC補正処理であるという点で異なる。
【0066】
第1の圧縮処理部126は、第1のAPC補正処理部122から出力される画像信号に圧縮処理を施す。第1の圧縮処理部126から出力される画像信号は、メモリ部118に記憶される。
【0067】
第2の圧縮処理部128は、第2のAPC補正処理部124から出力される画像信号に圧縮処理を施す。第2の圧縮処理部126から出力される画像信号は、メモリ部118に記憶される。
【0068】
なお、撮像装置100Aにおいて、信号処理部108で画像信号に施されるAPC補正処理と、第1のAPC補正処理部122及び第2のAPC補正処理部124で画像信号に施されるAPC補正処理とは異なる。具体的には、信号処理部108では、超解像処理部110における位置合わせ演算の演算精度向上を目的とした最低限のAPC補正処理を施す。一方、第1のAPC補正処理部122では、静止画の画質の改善を目的としたAPC補正処理を施す。また、第2のAPC補正処理部124では、動画(フレーム画像)の画質の改善を目的としたAPC補正処理を施す。換言すれば、信号処理部108が画像信号に施すAPC補正処理のエッジの強調の度合いは、第1のAPC補正処理部122及び第2のAPC補正処理部124が画像信号に施すAPC補正処理のエッジ強調の度合いよりも弱い。具体的には、信号処理部108においては、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度にAPC補正処理を施し、第1のAPC補正処理部122においては、超解像処理後にエッジ強調に必要な残りのAPC補正処理を再度施すようにする。同様に、第2のAPC補正処理部124においては、超解像処理が施されていなくても、エッジ強調に必要な残りのAPC補正処理を再度施すようにする。
【0069】
このように、撮像装置100Aは、超解像処理を施す前と施した後とに分けてAPC補正処理を施すことによって、信号処理部108を動画の撮像時と超解像処理時で共用することができ、回路規模の大型化を抑制することができる。従って、撮像装置100Aは、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる。
【0070】
なお、撮像装置100Aは、撮像装置100と比較して、比較的小規模な回路で構成することができるAPC補正処理部を、静止画(超解像画像)用の第1のAPC補正処理部122と、動画用の第2のAPC補正処理部124とに分けている点が異なる。このような構成は、静止画と動画の圧縮コーデックが異なる場合に有利である(例えば、JPEGとMPEG4等)。また、撮像装置100Aは、静止画と動画の処理において、他方の処理によって処理が中断されることもなく、撮像装置100よりも高速に処理することができる。これは、撮像装置100Aが静止画用の第1のAPC補正処理部122及び第1の圧縮処理部126と、動画用の第2のAPC補正処理部124及び第2の圧縮処理部128とを有しているからである。
【0071】
[第3の実施形態]
図3は、本発明に係る第3の実施形態の撮像装置100Bの構成を示す概略ブロック図である。撮像装置100Bは、被写体の動画と静止画を同時に撮像することのできる撮像装置であって、本実施形態では、デジタルカメラとして具現化される。
【0072】
撮像装置100Bは、撮像装置100や撮像装置100Aと同様な構成を有する。具体的には、撮像装置100Bは、図3に示すように、レンズ102と、撮像素子104と、A/D変換部106と、信号処理部108と、超解像処理部110とを有する。更に、撮像装置100Aは、第1のAPC補正処理部122と、第2のAPC補正処理部124と、切替部130と、圧縮処理部116と、メモリ部118と、メモリカード120とを有する。
【0073】
切替部130は、圧縮処理部116への入力を切り替える(即ち、第1のAPC補正処理部122から出力される画像信号又は第2のAPC補正処理部124から出力される画像信号を選択する)機能を有する。切替部130は、本実施形態では、撮像装置100Bが動画を撮像しているのか、或いは、静止画を撮像しているのかに応じて、C側パスと、D側パスとを選択する。具体的には、切替部130は、被写体の動画を撮像する場合には、D側パスを選択して、第2のAPC補正処理部124から出力される画像信号を圧縮処理部116に入力する。一方、被写体の動画撮像時に被写体の静止画を撮像する場合には、切替部130は、C側パスを選択して、第1のAPC補正処理部124から出力される画像信号を圧縮処理部116に入力する。圧縮処理部116では、切替部130による入力の切り替えに応じて、異なる圧縮処理を画像信号に施すことが可能である。
【0074】
なお、撮像装置100Bにおいて、信号処理部108で画像信号に施されるAPC補正処理と、第1のAPC補正処理部122及び第2のAPC補正処理部124で画像信号に施されるAPC補正処理とは異なる。具体的には、信号処理部108では、超解像処理部110における位置合わせ演算の演算精度向上を目的とした最低限のAPC補正処理を施す。一方、第1のAPC補正処理部122では、静止画の画質の改善を目的としたAPC補正処理を施す。また、第2のAPC補正処理部124では、動画(フレーム画像)の画質の改善を目的としたAPC補正処理を施す。換言すれば、信号処理部108が画像信号に施すAPC補正処理のエッジの強調の度合いは、第1のAPC補正処理部122及び第2のAPC補正処理部124が画像信号に施すAPC補正処理のエッジ強調の度合いよりも弱い。具体的には、信号処理部108においては、超解像処理によって画像を合成してもエッジ強調成分が目立たない程度にAPC補正処理を施し、第1のAPC補正処理部122においては、超解像処理後にエッジ強調に必要な残りのAPC補正処理を再度施すようにする。同様に、第2のAPC補正処理部124においては、超解像処理が施されていなくても、エッジ強調に必要な残りのAPC補正処理を再度施すようにする。
【0075】
このように、撮像装置100Bは、超解像処理を施す前と施した後とに分けてAPC補正処理を施すことによって、信号処理部108を動画の撮像時と超解像処理時で共用することができ、回路規模の大型化を抑制することができる。従って、撮像装置100Bは、コストの増大を抑えながらも、動画の撮像中に高画質の静止画を撮像することができる。
【0076】
撮像装置100Bは、撮像装置100と比較して、超解像処理部110からの画像信号にAPC補正処理を施す第1のAPC補正処理部と、信号処理部108からの画像信号にAPC補正処理を施す第2のAPC補正処理部とを独立させている点が異なる。これにより、第1のAPC補正処理部122が超解像処理部110からの画像信号にAPC補正処理を施している間であっても、第2のAPC補正処理部124が信号処理部108から高フレームレートで出力される画像処理にAPC補正処理を施すことができる。従って、撮像装置100Bは、静止画と動画の処理において、撮像装置100よりも高速に処理することができる。
【0077】
また、撮像装置100Bは、撮像装置100Aと比較して、第1のAPC補正処理部122から出力される画像信号に圧縮処理を施す圧縮処理部と第2のAPC補正処理部124から出力される画像信号に圧縮処理を施す圧縮処理部とを共有させている点が異なる。このような構成は、静止画と動画が同一または類似する圧縮コーデックを使う場合に特に有利である(例えば、JPEGとモーションJPEG等)
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形及び変更が可能である。例えば、撮像機能の実行までをカメラに行わせ、カメラと通信手段を介して接続されたパーソナルコンピュータ(PC)に撮像された画像を送り、その後の信号処理を行わせる変形例がある。この場合、カメラからPCへと撮像素子の駆動モードの切り替え情報が伝達されることになる。また、PCでは専用のハードウェアに限らず、PCのメインCPUがソフトウェア処理により、上記の超解像処理やAPC処理が実行するように構成してもよい。その場合に用いられるソフトウェア(プログラム)はCD―ROM等の記録媒体やネットワーク等を介して接続されたサーバからダウンロードして供給される形態がある。
【特許請求の範囲】
【請求項1】
画像信号に信号処理を施して出力する信号処理手段と、
前記信号処理手段から出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理手段と、
前記超解像処理手段から出力される画像信号のエッジを強調するエッジ強調手段と、
を有し、
前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする画像処理装置。
【請求項2】
前記エッジ強調手段は、前記信号処理手段から出力され前記超解像処理を施されていない画像信号のエッジを強調することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記信号処理手段から出力される画像信号を前記超解像処理手段による超解像処理を施さずに前記エッジ強調手段に入力するか、前記信号処理手段から出力される画像信号を前記超解像処理手段による超解像処理を施して前記エッジ強調手段に入力するかを切り替える切替手段を更に有し、
前記エッジ強調手段は、前記超解像処理手段による超解像処理を施して前記エッジ強調手段に入力される画像信号には第1のエッジ強調処理を施し、前記超解像処理手段による超解像処理を施さずに前記エッジ強調手段に入力される画像信号には前記第1のエッジ強調処理とは異なる第2のエッジ強調処理を施すことを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記エッジ強調手段は、
前記超解像処理手段から出力される画像信号にエッジを強調するための第1のエッジ強調処理を施して出力する第1のエッジ強調手段と、
前記信号処理手段から出力される画像信号に前記第1のエッジ強調処理とは異なる第2のエッジ強調処理を施して出力する第2のエッジ強調手段と、
を含むことを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記第1のエッジ強調手段から出力される画像信号に圧縮処理を施して出力する第1の圧縮処理手段と、
前記第2のエッジ強調手段から出力される画像信号に圧縮処理を施して出力する第2の圧縮処理手段と、
を更に有することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記第1のエッジ強調手段及び前記第2のエッジ強調手段のそれぞれから出力される画像信号に圧縮処理を施す圧縮処理手段と、
前記被写体の動画を撮像する場合には、前記第2のエッジ強調手段から出力される画像信号を前記圧縮処理手段に入力し、前記被写体の動画撮像時に前記被写体の静止画を撮像する場合には、前記第1のエッジ強調手段から出力される画像信号を前記圧縮処理手段に入力するように、前記圧縮処理手段への入力を切り替える切替手段と、
を更に有することを特徴とする請求項4に記載の画像処理装置。
【請求項7】
前記信号処理は、前記画像信号に含まれる色情報の同時化処理、フィルタ処理、前記画像信号を輝度信号と色差信号に分離する分離処理及びガンマ補正処理のうち少なくとも1つを含むことを特徴とする請求項1乃至6のうちいずれか1項に記載の画像処理装置。
【請求項8】
前記信号処理手段が画像信号に施すエッジ強調処理のエッジの強調の度合いは、前記エッジ強調手段が画像信号に施すエッジ強調処理のエッジの強調の度合いよりも弱いことを特徴とする請求項7に記載の画像処理装置。
【請求項9】
請求項1乃至8のうちいずれか1項に記載の画像処理装置と、
画像信号を前記画像処理装置に出力する撮像手段と、
を有することを特徴とする撮像装置。
【請求項10】
画像信号に信号処理を施して出力する信号処理ステップと、
前記信号処理ステップで出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理ステップと、
前記超解像処理ステップで出力される画像信号のエッジを強調するエッジ強調ステップと、
を有し、
前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする画像処理方法。
【請求項11】
請求項10に記載の画像処理方法の各ステップをコンピュータに実行させるためのプログラム。
【請求項12】
請求項11に記載のプログラムを記録したコンピュータで読み取り可能な記録媒体。
【請求項1】
画像信号に信号処理を施して出力する信号処理手段と、
前記信号処理手段から出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理手段と、
前記超解像処理手段から出力される画像信号のエッジを強調するエッジ強調手段と、
を有し、
前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする画像処理装置。
【請求項2】
前記エッジ強調手段は、前記信号処理手段から出力され前記超解像処理を施されていない画像信号のエッジを強調することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記信号処理手段から出力される画像信号を前記超解像処理手段による超解像処理を施さずに前記エッジ強調手段に入力するか、前記信号処理手段から出力される画像信号を前記超解像処理手段による超解像処理を施して前記エッジ強調手段に入力するかを切り替える切替手段を更に有し、
前記エッジ強調手段は、前記超解像処理手段による超解像処理を施して前記エッジ強調手段に入力される画像信号には第1のエッジ強調処理を施し、前記超解像処理手段による超解像処理を施さずに前記エッジ強調手段に入力される画像信号には前記第1のエッジ強調処理とは異なる第2のエッジ強調処理を施すことを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記エッジ強調手段は、
前記超解像処理手段から出力される画像信号にエッジを強調するための第1のエッジ強調処理を施して出力する第1のエッジ強調手段と、
前記信号処理手段から出力される画像信号に前記第1のエッジ強調処理とは異なる第2のエッジ強調処理を施して出力する第2のエッジ強調手段と、
を含むことを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記第1のエッジ強調手段から出力される画像信号に圧縮処理を施して出力する第1の圧縮処理手段と、
前記第2のエッジ強調手段から出力される画像信号に圧縮処理を施して出力する第2の圧縮処理手段と、
を更に有することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記第1のエッジ強調手段及び前記第2のエッジ強調手段のそれぞれから出力される画像信号に圧縮処理を施す圧縮処理手段と、
前記被写体の動画を撮像する場合には、前記第2のエッジ強調手段から出力される画像信号を前記圧縮処理手段に入力し、前記被写体の動画撮像時に前記被写体の静止画を撮像する場合には、前記第1のエッジ強調手段から出力される画像信号を前記圧縮処理手段に入力するように、前記圧縮処理手段への入力を切り替える切替手段と、
を更に有することを特徴とする請求項4に記載の画像処理装置。
【請求項7】
前記信号処理は、前記画像信号に含まれる色情報の同時化処理、フィルタ処理、前記画像信号を輝度信号と色差信号に分離する分離処理及びガンマ補正処理のうち少なくとも1つを含むことを特徴とする請求項1乃至6のうちいずれか1項に記載の画像処理装置。
【請求項8】
前記信号処理手段が画像信号に施すエッジ強調処理のエッジの強調の度合いは、前記エッジ強調手段が画像信号に施すエッジ強調処理のエッジの強調の度合いよりも弱いことを特徴とする請求項7に記載の画像処理装置。
【請求項9】
請求項1乃至8のうちいずれか1項に記載の画像処理装置と、
画像信号を前記画像処理装置に出力する撮像手段と、
を有することを特徴とする撮像装置。
【請求項10】
画像信号に信号処理を施して出力する信号処理ステップと、
前記信号処理ステップで出力される複数の画像信号を合成して解像度を向上させる超解像処理を施して、被写体の静止画を生成する画像信号を出力する超解像処理ステップと、
前記超解像処理ステップで出力される画像信号のエッジを強調するエッジ強調ステップと、
を有し、
前記信号処理は、前記超解像処理によって前記複数の画像信号を合成してもエッジ強調成分が目立たない程度のエッジ強調処理を含むことを特徴とする画像処理方法。
【請求項11】
請求項10に記載の画像処理方法の各ステップをコンピュータに実行させるためのプログラム。
【請求項12】
請求項11に記載のプログラムを記録したコンピュータで読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−213182(P2012−213182A)
【公開日】平成24年11月1日(2012.11.1)
【国際特許分類】
【出願番号】特願2012−120098(P2012−120098)
【出願日】平成24年5月25日(2012.5.25)
【分割の表示】特願2008−45102(P2008−45102)の分割
【原出願日】平成20年2月26日(2008.2.26)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年11月1日(2012.11.1)
【国際特許分類】
【出願日】平成24年5月25日(2012.5.25)
【分割の表示】特願2008−45102(P2008−45102)の分割
【原出願日】平成20年2月26日(2008.2.26)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]