信号処理装置
【課題】信号を復元するに当たり、リンギングの発生等を抑えることができる信号処理装置を提供する。
【解決手段】劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部4を有し、処理部4は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび複元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部4は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置または最小値の近傍位置に設定して復元処理をする。
【解決手段】劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部4を有し、処理部4は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび複元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部4は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置または最小値の近傍位置に設定して復元処理をする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、信号処理装置に関する。
【背景技術】
【0002】
従来から、カメラ等の信号処理装置で撮影した際には、信号には時々劣化が生ずることが知られている。信号劣化の要因としては撮影時の手ブレ、光学系の各種の収差、レンズの歪み等がある。
【0003】
本出願人は、過去に、撮影時の手ブレによって劣化した画像(信号)を復元する方法を提案した(特許文献1参照)。この特許文献1記載の技術は、信号を処理する処理部を有する信号処理装置において、処理部が、復元データを生成する処理を行うに際して、露光時間が最も長い位置に対応させる技術である。この技術を採用することで、撮影画像のブレの軌跡の途中または終端部において露光時間が長くなるような露光が行われた撮影画像を復元する場合に、撮影画像と復元画像との位置ずれを小さくし、見た目で自然な感じに復元画像が生成される画像処理装置を提供できる。
【0004】
なお、一般の撮影画像以外にも、X線写真、顕微鏡画像等、種々の画像や信号が、ブレやその他の原因によって劣化したり、変化したりすることが知られている。
【0005】
【特許文献1】国際公開第2007/077733号パンフレット
【発明の開示】
【発明が解決しようとする課題】
【0006】
特許文献1記載のような信号処理を含め、画像の復元処理を行うと、画像中に存在するエッジ部の近傍でリンギングが発生しやすくなる。このリンギングの発生の抑制は困難である。また、画像におけるリンギングと同様な現象が一般の信号にも生ずる。
【0007】
そこで、本発明の課題は、信号を復元するに当たり、リンギング等の発生を抑えることができる信号処理装置を提供することである。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明の信号処理装置は、劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび複元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置に設定して復元処理をする。
【0009】
この発明によれば、信号要素のデータの移動エネルギーの総和を小さくし、復元手段を実行する過程で信号要素のデータの移動量および移動距離を小さくできる。その結果、復元手段を実行する過程で信号の変化を小さくできる。すると、リンギング等の発生を抑えることができる。
【0010】
上記課題を解決するため、本発明の信号処理装置は、劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび複元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和の最小値をMinとしたとき、その移動エネルギーがMinを超え、Min×1.2以下となる位置に設定して復元処理をする。
【0011】
この発明によれば、信号要素のデータの移動エネルギーの総和を小さい範囲に設定し、復元手段を実行する過程で信号要素のデータの移動量および移動距離を小さくできる。その結果、復元手段を実行する過程で信号の変化を小さくできる。すると、リンギング等の発生を抑えることができる。
【0012】
他の発明に係る信号処理装置は、上述した発明に加え、復元手段は、処理部が信号変化の要因となる変化要因情報のデータを利用して、任意の信号データから比較用データを生成して、処理対象となる原信号のデータと比較用のデータとを比較し、得られた差分のデータを原点位置が設定された変化要因情報のデータを利用して任意の信号データに配分することで復元データを生成し、この復元データを任意の信号データの代わりに使用し、同様の処理を繰り返す繰り返し処理を行う手段である。この繰り返し処理を極めて多数回行えば、リンギングが発生していない画像等の信号を復元できる。よって、この構成を採用することで、より確実にリンギング等の発生を抑えることができる。
【発明の効果】
【0013】
本発明では、リンギングの発生等を抑えることができる信号処理装置を提供することができる。
【発明を実施するための最良の形態】
【0014】
以下、本発明の実施の形態に係る信号処理装置を、図を参照しながら説明する。なお、この信号処理装置は、民生用のカメラとしているが、監視用カメラ、テレビ用カメラ、ハンディタイプのビデオカメラ、内視鏡カメラ、等他の用途のカメラとしたり、顕微鏡、双眼鏡、さらにはNMR撮影等の画像診断装置、画像を印刷するプリンタの画像調節機能の一部を構成する装置等、カメラ以外の機器にも適用できる。
【0015】
図1には信号処理装置1の構成の概要を示している。信号処理装置1は、人物等の画像を撮影する撮影部2と、その撮影部2を駆動する制御系部3と、撮影部2で撮影された画像を処理する処理部4と、を有している。また、この実施の形態に係る信号処理装置1は、さらに処理部4で処理された画像を記録する記録部5と、角速度センサ等からなり、画像劣化など変化の要因となる変化要因情報を検知する検出部6と、画像劣化等を生じさせる既知の変化要因情報を保存する要因情報保存部7を有する。
【0016】
撮影部2は、レンズを有する撮影光学系やレンズを通過した光を電気信号に変換するCCDやC−MOS等の撮影素子を備える部分である。制御系部3は、撮影部2,処理部4,記録部5,検出部6,および要因情報保存部7等、信号処理装置内の各部を制御するものである。
【0017】
処理部4は、画像処理プロセサで構成されており、ASIC(Application Specific Integrated Circuit)のようなハードウェアで構成されている。処理部4は、検出する手ブレ等の振動検出のためのサンプリング周波数を発生させていると共にそのサンプリング周波数を検出部6に供給している。また処理部4は、振動検出の開始と終了を制御している。さらに処理部4は、その振動検出の開始と終了までのブレの軌跡(履歴)と、その軌跡上の各点にとどまっていた時間(重み)を検出し記憶する。そして、処理部4は、後述する光エネルギーの移動エネルギーが最小値となるようにブレ軌跡の原点位置を設定する。
【0018】
また、この処理部4には、後述する比較用データを生成する際の元となる画像のデータが保管されることもある。さらに処理部4は、ASICのようなハードウェアとして構成されるのではなく、ソフトウェアで処理する構成としても良い。記録部5は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段、またはDVD等を使用する光記録手段等を採用しても良い。
【0019】
検出部6は、図2に示すように、信号処理装置1の光軸であるZ軸に対して垂直方向となるX軸、Y軸の回りの速度を検出する2つの角速度センサを備えるものである。ところで、カメラで撮影する際の手ブレは、X方向、Y方向、Z方向の各方向への移動、Z軸回りの回動も生ずるが、各変動により最も大きな影響を受けるのは、Y軸回りの回転とX軸回りの回転である。これら2つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図2のX軸回りとY軸回りの2つの角速度センサのみを配置している。よって、カメラに与えられたブレは、X−Y平面上における座標の経時変化のデータとして出力される。しかし、より完全を期すためZ軸回りの角速度センサをさらに付加したり、X方向やY方向への移動を検出するセンサを付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。
【0020】
要因情報保存部7は、既知の劣化要因情報などの変化要因情報、たとえば光学系の収差および/または検出された振動に基づいて算出された伝達関数等を保存しておく記録部である。要因情報保存部7で記録された伝達関数は、上述のX−Y平面上における座標の経時変化のデータを含み、たとえばその算出後の直近に撮影された原画像(劣化等の変化が生じた画像)から元画像(変化する前の画像もしくは本来撮影されるべきであった画像またはそれらの近似画像)への復元処理の際に、処理部4で用いられる。
【0021】
ここで、保存されるX−Y平面上における座標データの経時変化は、図3に示すX−Y平面で表されるようなブレの軌跡の情報およびその軌跡上の各位置にどの程度の期間とどまっていたかの情報を含む。図3に示すX−Y平面の始点A(X1,Y1)は、撮影開始位置であり、軌跡の終点B(XN,YN)は、撮影終了位置である。
【0022】
ブレによる画像の劣化は、光エネルギーが1点に集中せずに、光エネルギーが図3に示す軌跡A−B上に分散する現象である。よって分散した光エネルギーを1点に集中させることが、原画像を元画像へと復元することとなる。その光エネルギーを集中させる1点は、自由に決定できる。たとえば図3におけるA点、B点、A−Bの軌跡上またはA−Bの軌跡を外れた点に決定できる。
【0023】
ここで、分散した光エネルギーを集中させる点を「原点位置」と言うこととし、原点位置は、図3に示すX−Y平面上の点0座標(0x,0y)で表すこととする。また、上述した伝達関数である点像分布関数(PSF)をG(Xn,Yn)で表すこととする。これは、各位置(Xn,Yn)においてどの程度の期間とどまっていたかの情報である「重さ」を示す。なお、(Xn,Yn)は、図3に示すX−Y平面上の座標である。
【0024】
また、分散した光エネルギーを原点位置である点0へ集中させる移動エネルギーをE(0x,0y)で表すこととする。すると分散したエネルギーを原点位置(0x、0y)に集中させる移動エネルギーは、移動距離と重さの積となり以下の式(2)(n=1,2,・・・N:Nは分散して広がった領域数)で表わすことができる。
【0025】
そして、移動エネルギーE(0x,0y)を最小値とする原点位置(0x,0y)を設定する。この設定は、処理部4で行われる。
【0026】
ここで、原画像の元画像への復元処理を実行する時期は、撮影用の電源がオフされている時、処理部4が稼働していない時、処理部4の稼働率が低い時等、原画像を撮影した時期から遅らせた時期とすることができる。その場合には、記録部5に保存された原画像データおよび、要因情報保存部7に保存された、その原画像についての伝達関数等の変化要因情報が、それぞれが関連づけられた状態で長期間に渡り保存される。このように、原画像の復元処理を実行する時期を、原画像を撮影した時期から遅らせる利点は、種々の処理を伴う撮影時の処理部4の負担を軽減できることである。
【0027】
次に、以上のように構成された本実施の形態に係る信号処理装置1の処理部4の画像復元処理方法(復元手段)の概要を、図4、図5および図6に基づいて説明する。
【0028】
図4中、「I0」は、任意の初期画像であって、処理部4の記録部に予め保存されている画像のデータである。「I0’」は、その初期画像のデータのI0の劣化画像のデータを示し、比較のための比較用データである。「G」は、検出部6で検出された変化要因情報(=劣化要因情報(伝達関数))のデータで、処理部4の記録部に保存されるものである。「Img’」は、原画像のデータである。
【0029】
「δ」は、原画像データImg’と、比較用データI0’との差分のデータである。「k」は、変化要因情報のデータに基づく配分比である。「I0+n」は、初期画像のデータI0に、差分のデータδを変化要因情報のデータGに基づいて配分して新たに生成した復元画像のデータ(復元データ)である。「Img」は、元画像のデータである。ここで、ImgとImg’の関係は、次の(3)式で表されるものとする。
Img’=Img*G ……(3)
ここで、「*」は、重畳積分を表す演算子である。
【0030】
なお、差分のデータδは、対応する画素の単純な差分でも良い場合もあるが、一般的には、変化要因情報のデータGにより異なり、次の(4)式で表される。
δ=f(Img’,Img,G) …(4)
【0031】
処理部4の処理ルーチンは、まず、分散した光エネルギーを集中させる原点位置を決定する(ステップS100)。そして、任意の画像データI0を用意する(ステップS101)。この初期画像のデータI0としては、劣化している原画像のデータImg’を用いても良く、また、黒ベタ、白ベタ、灰色ベタ、市松模様等どのような画像のデータを用いても良い。ステップS102で、(3)式のImgの代わりに初期画像となる任意の画像のデータI0を入れ、劣化画像である比較用データI0’を求める。次に、原画像データImg’と比較用データI0’とを比較し、差分のデータδを算出する(ステップS103)。
【0032】
そして、差分のデータδの各々の絶対値が所定値未満であるか否かを判断する(ステップS104)。ステップS104で差分のデータδが所定値以上であれば、ステップS105で新たな復元画像のデータ(=復元データ)を生成する処理を行う。すなわち、個々の信号要素が得られた個々の差分のデータδを変化要因情報のデータGに基づいて、任意の画像データI0に配分し、新たな復元データI0+nを生成する。
【0033】
その後、図4のステップS102〜S105を繰り返す。ステップS104において、各画素の差分のデータδの各々の絶対値が所定値未満となったら、繰り返し処理を終了する。そして、繰り返し処理を終了した時点での復元データI0+nを元画像のデータImgと推定する。すなわち、各画素の差分のデータδの各々の絶対値が所定値より小さくなった場合、比較用データI0+n’の元となった復元データI0+nは元画像のデータImgと非常に近似したものとなることから、その復元データI0+nを元画像のデータImgと推定するのである。なお、記録部5には、初期画像のデータI0、変化要因情報のデータG、を記録しておき、必要により処理部4に渡すようにしても良い。
【0034】
上述した繰り返し処理方法(復元手段)の考え方をまとめると以下のようになる。すなわち、この処理方法においては、処理の解を逆問題としては解かず、合理的な解を求める最適化問題として解くのである。逆問題として解く場合、理論上は可能であるが、現実問題としては困難である。
【0035】
最適化問題として解く場合において、本実施の形態では、次のような条件を前提としている。
すなわち、
(1)入力に対する出力は、一意に決まる。
(2)出力が同じであれば、入力は同じである。
(3)出力が同じになるように、入力を更新し解を収束させていく。
【0036】
このことを換言すれば、図5(A)(B)に示すように、原画像のデータImg’と近似である比較用データI0’(I0+n’)を生成できれば、その生成の元データとなる初期画像のデータI0または復元データI0+nは、元画像のデータImgに近似したものとなる。
【0037】
なお、この実施の形態では、角速度検出センサのサンプリング周波数を60Hzから240Hz内としているが、高周波数を検出できるように5μsec毎に角速度を検出してもよい。また、差分のデータδの判定基準となる値は、各データを8ビット(0〜255)で表した場合に、この実施の形態では「6」としている。すなわち、6より小さい、つまり5以下の時は、処理を終了している。また、角速度検出センサで検出したブレの生データは、センサ自体の校正が不十分なときは、実際のブレとは対応しない。よって実際のブレに対応させるため、センサが校正されていないときは、センサで検出した生データに所定の倍率をかけたりする補正が必要とされる。
【0038】
次に、図4に示す手ブレの復元処理方法(ステップS102,S103,S104,S105の反復処理(復元手段))の詳細を、図6,図7,図8,図9,図10,図11,図12および図13に基づいて説明する。
【0039】
(手ブレの復元アルゴリズム)
手ブレが無いとき、所定の画素に対応する光エネルギーは、露光時間中、その画素に集中する。また、手ブレがある場合、光エネルギーは、露光時間中にブレた画素に分散する。さらに、露光時間中のブレがわかれば、露光時間中のエネルギーの分散の仕方がわかるため、ブレた画像からブレの無い画像を作ることが可能となる。
【0040】
以下、簡単のため、横一次元で説明する。画素を左から順にS−1,S,S+1,S+2,S+3,…,とし、ある画素Sに注目する。ブレが無いとき、露光時間中のエネルギーは、その画素に集中するため、エネルギーの集中度は「1.0」である。この状態を図6に示す。このときの撮影結果を、図7の表に示す。図7に示すものが、劣化しなかった場合の正しい画像データImgとなる。なお、各データは、8ビット(0〜255)のデータで表している。
【0041】
露光時間中にブレがあり、露光時間中の50%の時間はS番目の画素に、30%の時間はS+1番目の画素に、20%の時間はS+2番目の画素にそれぞれブレていたとする。エネルギーの分散の仕方は、図8に示す表のとおりとなる。これが変化要因情報のデータGとなる。上述の式(1)における「N」の値は「3」となり、「重み」としての50%、30%、および20%の総和が「1」となる。よって、この変化要因情報G(ここでは、横一次元で考えるため、G(Xn)となる)は、上述の式(1)を満たす。
【0042】
この図8および式(2)に基づいて、移動エネルギーE(0x,0y)を算出する。ここでは、横一次元で考えるため、移動エネルギーは、E(0x)となる。また、移動距離は、画素一つ分の移動距離を「1」として計算する。すると、分散した光エネルギーを画素「S」に集中させる場合の移動エネルギーは、E(0x)は、以下のように計算され、求められる。
(1×0)+(0×0.5)+(1×0.3)+(2×0.2)=0.7
【0043】
同様に、分散した光エネルギーを画素「S+1」に集中させる場合の移動エネルギーは、E(0x)は、以下のように計算され、求められる。
(1×0.5)+(0×0.3)+(1×0.2)=0.7
【0044】
同様に、分散した光エネルギーを画素「S+2」に集中させる場合の移動エネルギーは、E(0x)は、以下のように計算され、求められる。
(2×0.5)+(1×0.3)+(0×0.2)=1.3
【0045】
以上の結果から、図8の場合は、分散した光エネルギーを画素「S」または「S1」に集中させることで、移動エネルギーを最小値の「0.7」とすることができる。また、図8の代わりに「S=0.45」「S+1=0.3」「S+2=0.25」の場合は、画素「S+1」への移動エネルギーの総和が最も小さくなる。すなわち、画素「S」への移動は「0.8」となり画素「S+1」への移動は「0.7」となり、画素「S+2」への移動が「1.2」となるためである。以下、分散した光エネルギーを移動エネルギーが最も小さい位置、すなわち上述の図8の例で画素「S」へと、集中させる場合の繰り返し処理の詳細について説明する。
【0046】
ブレは、全ての画素で一様であり、線形問題として把握される。そして、上ブレ(縦ブレ)が無いとすると、ブレの状況は、図9に示す表のとおりとなる。図9中の「ブレ画像」として示されるデータが、劣化している原画像のデータImg’となる。具体的には、たとえば「S−3」の画素の「120」は、ブレ情報である変化要因情報のデータGの「0.5」「0.3」「0.2」の配分比に従い、「S−3」の画素に「60」、「S−2]の画素に「36」、「S−1」の画素に「24」というように分散する。同様に、「S−2」の画素データである「60」は、「S−2」に「30」、「S−1」に「18」、「S」に「12」として分散する。この劣化している原画像データImg’と、図8に示す変化要因情報のデータGから元画像データImgを算出することとなる。以上の処理が、信号要素のデータの一部または全部を移動させる処理となる。
【0047】
ステップS101に示す任意の画像データI0としては、どのようなものでも採用できるが、この説明に当たっては、原画像データImg’を用いる。すなわち、I0=Img’として処理を開始する。図10の表中に「入力」とされたものが初期画像のデータI0に相当する。このデータI0すなわちImg’と、ステップS102で変化要因情報のデータGとを重畳積分する。すなわち、たとえば、初期画像のデータI0の「S−3」の画素の「60」は、S−3の画素に「30」が、「S−2」の画素に「18」が、「S−1」の画素に「12」がそれぞれ割り振られる。他の画素についても同様に配分され、「出力I0’」として示される比較用データI0’が生成される。このため、ステップS103の差分のデータδは、図10の最下欄に示すようになる。
【0048】
差分のデータδの配分は、図11に示すように、たとえば「S−3」の画素データ「30」に、自分の所(=「S−3」の画素)の配分比である0.5をかけた「15」を「S−3」の画素に配分し、また「S−2」の画素のデータ「15」にその「S−2」の画素にきているはずの配分比である0.3をかけた「4.5」を配分し、さらに、「S−1」の画素のデータ「9.2」に、その「S−1」の画素にきているはずの配分比である0.2をかけた「1.84」を配分する。「S−3」の画素に配分された総量は、「21.34」となり、この値を図4における初期画像のデータI0(ここでは原画像データImg’を使用)にプラスして、図4における復元データI0+1が算出される。この例では、図11に示すように「81.34」となる。このように、差分のデータδを変化要因情報のデータGを使用して、任意の画像のデータI0に配分して、図11中の「次回入力」として示される復元データI0+nを生成する。この場合、第1回目であるため、図11では、I0+1と表している。
【0049】
図12に示すように、この復元データI0+1(Ia')がステップS102の入力画像のデータ(=初期画像のデータI0)になり、ステップS102が実行され、ステップS103へと移行し、新しい差分のデータδを得る。その差分のデータδの大きさをステップS104で判断し、所定値より大きい場合、ステップS105で新しい差分のデータδを前回の復元データI0+1に配分し、新しい復元データI0+2を生成する(図13参照)。
【0050】
その後、復元データI0+2を用いてステップS102を遂行することにより、復元データI0+2から新しい比較用データI0+2’が生成される。このように、ステップS102,S103が実行された後、ステップS104へ行き、そこでの判断によりステップS105へ移行する。このような処理を繰り返す。
【0051】
以上のように、ステップS102〜ステップS105が繰り返されることで、差分のデータδが徐々に小さくなっていき、所定値より小さくなると、ブレていない元画像データImgが得られる。この元画像データImgは、図8に示す例では、分散したエネルギーを画素「S」に戻す(移動させる)ことで得られたものである。
【0052】
以上に述べた図4に示す手ブレの復元処理方法(ステップS102,S103,S104,S105の反復処理)においては、処理部4で行った処理は、ソフトウェアで構成しているが、それぞれ、一部の処理を分担して行うようにした部品からなるハードウェアで構成しても良い。また、変化要因情報のデータGとしては、劣化要因情報のデータのみではなく、単に画像を変化させる情報や、劣化とは逆に、画像を良くする情報を含むものとする。
【0053】
また、処理の反復回数が信号処理装置1側で自動的にまたは固定的に設定されている場合、その設定された回数を変化要因情報のデータGによって変更するようにしても良い。たとえば、ある画素のデータがブレにより多数の画素に分散している場合は、反復回数を多くし、分散が少ない場合は反復回数を少なくするようにしても良い。
【0054】
さらに、反復処理中に、差分のデータδが発散してきたり、エネルギーが移動した後の画像データのエネルギーが小さくならず大きくなってきたら、処理を中止させるようにしても良い。発散しているか否かは、たとえば差分のデータδの平均値を見てその平均値が前回より大きくなったら発散していると判断する方法を採用できる。また、反復処理中に、入力を異常な値に変更しようとしたときには、処理を中止させるようにしても良い。たとえば8ビットの場合、変更されようとする値が255を超える値であるときには、処理を中止させる。また、反復処理中、新たなデータである入力を異常な値に変更しようとしたとき、その値を使用せず、正常な値とするようにしても良い。たとえば、8ビットの0〜255の中で、255を超える値を入力データとしようとした際は、マックスの値である255として処理するようにする。
【0055】
また、出力画像となる復元データを生成する際、変化要因情報のデータGによっては、復元させようとする画像の領域外へ出てしまうようなデータが発生する場合がある。このような場合、領域外へはみ出るデータは反対側へ入れる。また、領域外から入ってくるべきデータがある場合は、そのデータは反対側から持ってくるようにするのが好ましい。たとえば、領域内の最も下に位置する画素XN1のデータから、さらに下の画素に割り振られるデータが発生した場合、その位置は領域外になる。そこで、そのデータは画素XN1の真上で最も上に位置する画素X11に割り振られる処理をする。画素XN1の隣の画素N2についても同様に真上で最上覧の画素X12(=画素X11の隣り)に割り振ることとなる。
【実施例】
【0056】
分散した光エネルギーを図8の変形例である画素「S」が0.85、画素「S+1」が0.3、画素「S+2」が0.25の場合、画素「S」、「S+1」、「S+2」に各々集中させ原点位置とし、図4に示す繰り返し処理を行った。それらの各場合の復元画像を目視で観察し、リンギングの有無を判定した。また、式(2)の計算範囲である「N=3」を若干拡大し、分散した光エネルギーを図8における画素「S−1」、「S+3」に各々集中させ原点位置とし、図4に示す繰り返し処理を行った場合の、復元画像のリンギングの有無を同様に判定した。表1に判定結果を示した。
【0057】
なお、分散した光エネルギーを画素「S−1」に集中させる場合の移動エネルギーは、画素「S」、「S+1」、「S+2」の場合と略同様に以下のように計算され、求められる。
(0×0)+(1×0.45)+(2×0.3)+(3×0.25)+(4×0)=1.80
また、同様に、分散した光エネルギーを画素「S+3」に集中させる場合の移動エネルギーは、以下のように計算され、求められる。
(4×0)+(3×0.45)+(2×0.3)+(1×0.25)+(0×0)=2.20
【0058】
【表1】
【0059】
表1の結果および多数の他の例から、移動エネルギー値が所定値を超えるとリンギングが観測され、移動エネルギー値を所定値以内に抑えるとリンギングの発生を抑えることができることがわかった。すなわち、式(2)から導かれる移動エネルギーの総和の最小値をMinとしたとき、その移動エネルギーがMinを超えた場合であってもMin×1.2以下となる値であればリンギングの発生を従来に比べかなり抑えることができた。
【0060】
以上、本実施の形態における信号処理装置1および実施例について説明したが、本発明の要旨を逸脱しない限り種々変更実施可能である。たとえば、本実施の形態では、移動エネルギーE(0x,0y)の総和を最小とする原点位置(0x,0y)を設定しているが、移動エネルギーE(0x,0y)の最小値を超え、所定値以下となる原点位置(0x,0y)を設定しても良い。図8の変形例である「S=0.45」「S+1=0.3」「S+2=0.25」の場合、移動エネルギーが最も小さい画素「S+1」ではなく、画素「S」を原点位置(0x,0y)としても良い。このときの各移動エネルギーは、画素「S」が0.8、画素「S+1」が0.7、画素「S+2」が1.2となる。画素「S」は最小値である0.7に1.2を乗じた値である0.84より小さい値となっている。
【0061】
また、本実施の形態では、復元手段として上述の繰り返し処理を採用しているが、信号要素のデータの一部または全部を移動させる手段であれば、他の復元手段を採用しても良い。
【0062】
また、本実施の形態では、原点位置を図3におけるX−Y平面のいずれかの位置としている。しかし、原点位置は、図3のA−Bの軌跡上の範囲内で決定するものとしても良い。すなわち、たとえば図3におけるA−Bの軌跡上の範囲内である図8における画素「S」「S+1」「S+2」のいずれかとすること、または画素「S−1」もしくは「S+3」を原点位置とすることが、移動エネルギーの総和を小さくするのであれば、そのようにすることが好ましい。また、図3のX−Y平面で表されるブレの軌跡をX軸またはY軸に投影したものをブレの軌跡とし、その軌跡上で移動エネルギーの最小値や上述の実施例のような値となる位置を求めるようにしても良い。
【0063】
また、本実施の形態に係る繰り返し処理では、処理部4は、図4におけるステップS104の判断では、画像を構成する複数の各画素毎の差分のデータδの絶対値が全て所定値か否かを判断している。しかし、所定値との比較の対象を、画像を構成する複数の各画素毎の差分のデータとし、各画素毎に繰り返し処理を停止するか否かを判断するようにしたりしても良い。また、所定値との比較対象を、各画素の差分のデータδの総和、もしくは各画素の差分のデータδの絶対値の総和、または以上の4つのうちの2つ以上とすることができる。たとえば、各画素毎の差分のデータδの中で零から最も離れた値と、各画素毎の差分のデータδの総和の値とが、別々の基準を共に満たすか否かを判断するようにしても良い。このように、所定値と比較する値を適宜選択することで、原画像の種類、変化の状態または復元処理の状況に応じて、適切な処理を行うことができる。
【0064】
上述の実施の形態では、復元対象を画像データとしている。しかし、これらの復元処理の考え方および手法は、あらゆるデジタルデータの復元処理に適用できる。たとえば、デジタルの音声データの復元等への適用が可能である。その適用の結果、リンギングのように一部に不正確な音声データ等が発生することを抑制でき、また変化要因情報のデータが不正確であっても、妥当な結果が得られる復元処理が可能となる。
【0065】
また、上述の実施の形態では、信号処理装置1を民生用のカメラとしているが、信号処理装置1は、デジタルカメラ等で撮影した画像のデータを図4に示す処理を実行した上で印刷するプリンタ機器としても良い。また、信号処理装置1は、プリンタ機器に対して図4に示す処理を実行させつつ操作するソフトウェアがインストールされたコンピュータ、さらには図4に示す処理を実行するソフトウェアがインストールされたコンピュータ等としても良い。
【0066】
また、上述した各処理方法は、プログラム化されても良い。また、プログラム化されたものが記憶媒体、たとえばCD、DVD、USBメモリに入れられ、コンピュータによって読みとり可能とされても良い。この場合、信号処理装置1は、その記憶媒体内のプログラム化されたものが信号処理装置1の外部サーバに入れられ、必要によりダウンロードされ、使用されるようにしても良い。この場合、信号処理装置1は、その記憶媒体内のプログラムをダウンロードする通信手段を持つこととなる。
【図面の簡単な説明】
【0067】
【図1】本発明の実施の形態に係る信号処理装置の主要構成を示すブロック図である。
【図2】図1に示す信号処理装置の概要を示す外観斜視図で、角速度センサの配置位置を説明するための図である。
【図3】図1に示す信号処理装置で扱うブレの例を示す図で、X−Y平面で表されるブレの軌跡を示す図である。
【図4】図1に示す信号処理装置の処理部で行う画像復元処理方法(反復処理)に係る処理ルーチンを説明するための処理フロー図である。
【図5】図4に示す処理方法の概念を説明するための図である。
【図6】図3に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレのないときのエネルギーの集中を示す表である。
【図7】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレのないときの画像データを示す図である。
【図8】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレが生じたときのエネルギーの分散を示す図である。
【図9】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、任意の画像から比較用データを生成する状況を説明するための図である。
【図10】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、比較用データと、処理対象となるブレた原画像とを比較して、差分のデータを生成する状況を説明するための図である。
【図11】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、差分のデータを配分し任意の画像に加えることで復元データを生成する状況を説明するための図である。
【図12】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、生成された復元データから新たな比較用データを生成し、そのデータと処理対象となるブレた原画像とを比較して差分のデータを生成する状況を説明するための図である。
【図13】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、新たに生成された差分のデータを配分し、新たな復元データを生成する状況を説明するための図である。
【符号の説明】
【0068】
1 信号処理装置
4 処理部
Io 初期画像のデータ(任意の信号データ)
Io’ 比較用データ
G 変化要因情報のデータ
Img’ 原画像のデータ(原信号のデータ)
I0+n 復元データ
Img 元画像(元信号)
δ 差分のデータ
【技術分野】
【0001】
本発明は、信号処理装置に関する。
【背景技術】
【0002】
従来から、カメラ等の信号処理装置で撮影した際には、信号には時々劣化が生ずることが知られている。信号劣化の要因としては撮影時の手ブレ、光学系の各種の収差、レンズの歪み等がある。
【0003】
本出願人は、過去に、撮影時の手ブレによって劣化した画像(信号)を復元する方法を提案した(特許文献1参照)。この特許文献1記載の技術は、信号を処理する処理部を有する信号処理装置において、処理部が、復元データを生成する処理を行うに際して、露光時間が最も長い位置に対応させる技術である。この技術を採用することで、撮影画像のブレの軌跡の途中または終端部において露光時間が長くなるような露光が行われた撮影画像を復元する場合に、撮影画像と復元画像との位置ずれを小さくし、見た目で自然な感じに復元画像が生成される画像処理装置を提供できる。
【0004】
なお、一般の撮影画像以外にも、X線写真、顕微鏡画像等、種々の画像や信号が、ブレやその他の原因によって劣化したり、変化したりすることが知られている。
【0005】
【特許文献1】国際公開第2007/077733号パンフレット
【発明の開示】
【発明が解決しようとする課題】
【0006】
特許文献1記載のような信号処理を含め、画像の復元処理を行うと、画像中に存在するエッジ部の近傍でリンギングが発生しやすくなる。このリンギングの発生の抑制は困難である。また、画像におけるリンギングと同様な現象が一般の信号にも生ずる。
【0007】
そこで、本発明の課題は、信号を復元するに当たり、リンギング等の発生を抑えることができる信号処理装置を提供することである。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明の信号処理装置は、劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび複元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置に設定して復元処理をする。
【0009】
この発明によれば、信号要素のデータの移動エネルギーの総和を小さくし、復元手段を実行する過程で信号要素のデータの移動量および移動距離を小さくできる。その結果、復元手段を実行する過程で信号の変化を小さくできる。すると、リンギング等の発生を抑えることができる。
【0010】
上記課題を解決するため、本発明の信号処理装置は、劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、復元手段は、原信号データおよび複元データを構成する信号要素のデータの一部または全部を移動させて原信号データから元信号を生成する手段であり、処理部は、変化要因情報の原点位置を、各々の信号要素のデータの移動に要する移動エネルギーの総和の最小値をMinとしたとき、その移動エネルギーがMinを超え、Min×1.2以下となる位置に設定して復元処理をする。
【0011】
この発明によれば、信号要素のデータの移動エネルギーの総和を小さい範囲に設定し、復元手段を実行する過程で信号要素のデータの移動量および移動距離を小さくできる。その結果、復元手段を実行する過程で信号の変化を小さくできる。すると、リンギング等の発生を抑えることができる。
【0012】
他の発明に係る信号処理装置は、上述した発明に加え、復元手段は、処理部が信号変化の要因となる変化要因情報のデータを利用して、任意の信号データから比較用データを生成して、処理対象となる原信号のデータと比較用のデータとを比較し、得られた差分のデータを原点位置が設定された変化要因情報のデータを利用して任意の信号データに配分することで復元データを生成し、この復元データを任意の信号データの代わりに使用し、同様の処理を繰り返す繰り返し処理を行う手段である。この繰り返し処理を極めて多数回行えば、リンギングが発生していない画像等の信号を復元できる。よって、この構成を採用することで、より確実にリンギング等の発生を抑えることができる。
【発明の効果】
【0013】
本発明では、リンギングの発生等を抑えることができる信号処理装置を提供することができる。
【発明を実施するための最良の形態】
【0014】
以下、本発明の実施の形態に係る信号処理装置を、図を参照しながら説明する。なお、この信号処理装置は、民生用のカメラとしているが、監視用カメラ、テレビ用カメラ、ハンディタイプのビデオカメラ、内視鏡カメラ、等他の用途のカメラとしたり、顕微鏡、双眼鏡、さらにはNMR撮影等の画像診断装置、画像を印刷するプリンタの画像調節機能の一部を構成する装置等、カメラ以外の機器にも適用できる。
【0015】
図1には信号処理装置1の構成の概要を示している。信号処理装置1は、人物等の画像を撮影する撮影部2と、その撮影部2を駆動する制御系部3と、撮影部2で撮影された画像を処理する処理部4と、を有している。また、この実施の形態に係る信号処理装置1は、さらに処理部4で処理された画像を記録する記録部5と、角速度センサ等からなり、画像劣化など変化の要因となる変化要因情報を検知する検出部6と、画像劣化等を生じさせる既知の変化要因情報を保存する要因情報保存部7を有する。
【0016】
撮影部2は、レンズを有する撮影光学系やレンズを通過した光を電気信号に変換するCCDやC−MOS等の撮影素子を備える部分である。制御系部3は、撮影部2,処理部4,記録部5,検出部6,および要因情報保存部7等、信号処理装置内の各部を制御するものである。
【0017】
処理部4は、画像処理プロセサで構成されており、ASIC(Application Specific Integrated Circuit)のようなハードウェアで構成されている。処理部4は、検出する手ブレ等の振動検出のためのサンプリング周波数を発生させていると共にそのサンプリング周波数を検出部6に供給している。また処理部4は、振動検出の開始と終了を制御している。さらに処理部4は、その振動検出の開始と終了までのブレの軌跡(履歴)と、その軌跡上の各点にとどまっていた時間(重み)を検出し記憶する。そして、処理部4は、後述する光エネルギーの移動エネルギーが最小値となるようにブレ軌跡の原点位置を設定する。
【0018】
また、この処理部4には、後述する比較用データを生成する際の元となる画像のデータが保管されることもある。さらに処理部4は、ASICのようなハードウェアとして構成されるのではなく、ソフトウェアで処理する構成としても良い。記録部5は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段、またはDVD等を使用する光記録手段等を採用しても良い。
【0019】
検出部6は、図2に示すように、信号処理装置1の光軸であるZ軸に対して垂直方向となるX軸、Y軸の回りの速度を検出する2つの角速度センサを備えるものである。ところで、カメラで撮影する際の手ブレは、X方向、Y方向、Z方向の各方向への移動、Z軸回りの回動も生ずるが、各変動により最も大きな影響を受けるのは、Y軸回りの回転とX軸回りの回転である。これら2つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図2のX軸回りとY軸回りの2つの角速度センサのみを配置している。よって、カメラに与えられたブレは、X−Y平面上における座標の経時変化のデータとして出力される。しかし、より完全を期すためZ軸回りの角速度センサをさらに付加したり、X方向やY方向への移動を検出するセンサを付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。
【0020】
要因情報保存部7は、既知の劣化要因情報などの変化要因情報、たとえば光学系の収差および/または検出された振動に基づいて算出された伝達関数等を保存しておく記録部である。要因情報保存部7で記録された伝達関数は、上述のX−Y平面上における座標の経時変化のデータを含み、たとえばその算出後の直近に撮影された原画像(劣化等の変化が生じた画像)から元画像(変化する前の画像もしくは本来撮影されるべきであった画像またはそれらの近似画像)への復元処理の際に、処理部4で用いられる。
【0021】
ここで、保存されるX−Y平面上における座標データの経時変化は、図3に示すX−Y平面で表されるようなブレの軌跡の情報およびその軌跡上の各位置にどの程度の期間とどまっていたかの情報を含む。図3に示すX−Y平面の始点A(X1,Y1)は、撮影開始位置であり、軌跡の終点B(XN,YN)は、撮影終了位置である。
【0022】
ブレによる画像の劣化は、光エネルギーが1点に集中せずに、光エネルギーが図3に示す軌跡A−B上に分散する現象である。よって分散した光エネルギーを1点に集中させることが、原画像を元画像へと復元することとなる。その光エネルギーを集中させる1点は、自由に決定できる。たとえば図3におけるA点、B点、A−Bの軌跡上またはA−Bの軌跡を外れた点に決定できる。
【0023】
ここで、分散した光エネルギーを集中させる点を「原点位置」と言うこととし、原点位置は、図3に示すX−Y平面上の点0座標(0x,0y)で表すこととする。また、上述した伝達関数である点像分布関数(PSF)をG(Xn,Yn)で表すこととする。これは、各位置(Xn,Yn)においてどの程度の期間とどまっていたかの情報である「重さ」を示す。なお、(Xn,Yn)は、図3に示すX−Y平面上の座標である。
【0024】
また、分散した光エネルギーを原点位置である点0へ集中させる移動エネルギーをE(0x,0y)で表すこととする。すると分散したエネルギーを原点位置(0x、0y)に集中させる移動エネルギーは、移動距離と重さの積となり以下の式(2)(n=1,2,・・・N:Nは分散して広がった領域数)で表わすことができる。
【0025】
そして、移動エネルギーE(0x,0y)を最小値とする原点位置(0x,0y)を設定する。この設定は、処理部4で行われる。
【0026】
ここで、原画像の元画像への復元処理を実行する時期は、撮影用の電源がオフされている時、処理部4が稼働していない時、処理部4の稼働率が低い時等、原画像を撮影した時期から遅らせた時期とすることができる。その場合には、記録部5に保存された原画像データおよび、要因情報保存部7に保存された、その原画像についての伝達関数等の変化要因情報が、それぞれが関連づけられた状態で長期間に渡り保存される。このように、原画像の復元処理を実行する時期を、原画像を撮影した時期から遅らせる利点は、種々の処理を伴う撮影時の処理部4の負担を軽減できることである。
【0027】
次に、以上のように構成された本実施の形態に係る信号処理装置1の処理部4の画像復元処理方法(復元手段)の概要を、図4、図5および図6に基づいて説明する。
【0028】
図4中、「I0」は、任意の初期画像であって、処理部4の記録部に予め保存されている画像のデータである。「I0’」は、その初期画像のデータのI0の劣化画像のデータを示し、比較のための比較用データである。「G」は、検出部6で検出された変化要因情報(=劣化要因情報(伝達関数))のデータで、処理部4の記録部に保存されるものである。「Img’」は、原画像のデータである。
【0029】
「δ」は、原画像データImg’と、比較用データI0’との差分のデータである。「k」は、変化要因情報のデータに基づく配分比である。「I0+n」は、初期画像のデータI0に、差分のデータδを変化要因情報のデータGに基づいて配分して新たに生成した復元画像のデータ(復元データ)である。「Img」は、元画像のデータである。ここで、ImgとImg’の関係は、次の(3)式で表されるものとする。
Img’=Img*G ……(3)
ここで、「*」は、重畳積分を表す演算子である。
【0030】
なお、差分のデータδは、対応する画素の単純な差分でも良い場合もあるが、一般的には、変化要因情報のデータGにより異なり、次の(4)式で表される。
δ=f(Img’,Img,G) …(4)
【0031】
処理部4の処理ルーチンは、まず、分散した光エネルギーを集中させる原点位置を決定する(ステップS100)。そして、任意の画像データI0を用意する(ステップS101)。この初期画像のデータI0としては、劣化している原画像のデータImg’を用いても良く、また、黒ベタ、白ベタ、灰色ベタ、市松模様等どのような画像のデータを用いても良い。ステップS102で、(3)式のImgの代わりに初期画像となる任意の画像のデータI0を入れ、劣化画像である比較用データI0’を求める。次に、原画像データImg’と比較用データI0’とを比較し、差分のデータδを算出する(ステップS103)。
【0032】
そして、差分のデータδの各々の絶対値が所定値未満であるか否かを判断する(ステップS104)。ステップS104で差分のデータδが所定値以上であれば、ステップS105で新たな復元画像のデータ(=復元データ)を生成する処理を行う。すなわち、個々の信号要素が得られた個々の差分のデータδを変化要因情報のデータGに基づいて、任意の画像データI0に配分し、新たな復元データI0+nを生成する。
【0033】
その後、図4のステップS102〜S105を繰り返す。ステップS104において、各画素の差分のデータδの各々の絶対値が所定値未満となったら、繰り返し処理を終了する。そして、繰り返し処理を終了した時点での復元データI0+nを元画像のデータImgと推定する。すなわち、各画素の差分のデータδの各々の絶対値が所定値より小さくなった場合、比較用データI0+n’の元となった復元データI0+nは元画像のデータImgと非常に近似したものとなることから、その復元データI0+nを元画像のデータImgと推定するのである。なお、記録部5には、初期画像のデータI0、変化要因情報のデータG、を記録しておき、必要により処理部4に渡すようにしても良い。
【0034】
上述した繰り返し処理方法(復元手段)の考え方をまとめると以下のようになる。すなわち、この処理方法においては、処理の解を逆問題としては解かず、合理的な解を求める最適化問題として解くのである。逆問題として解く場合、理論上は可能であるが、現実問題としては困難である。
【0035】
最適化問題として解く場合において、本実施の形態では、次のような条件を前提としている。
すなわち、
(1)入力に対する出力は、一意に決まる。
(2)出力が同じであれば、入力は同じである。
(3)出力が同じになるように、入力を更新し解を収束させていく。
【0036】
このことを換言すれば、図5(A)(B)に示すように、原画像のデータImg’と近似である比較用データI0’(I0+n’)を生成できれば、その生成の元データとなる初期画像のデータI0または復元データI0+nは、元画像のデータImgに近似したものとなる。
【0037】
なお、この実施の形態では、角速度検出センサのサンプリング周波数を60Hzから240Hz内としているが、高周波数を検出できるように5μsec毎に角速度を検出してもよい。また、差分のデータδの判定基準となる値は、各データを8ビット(0〜255)で表した場合に、この実施の形態では「6」としている。すなわち、6より小さい、つまり5以下の時は、処理を終了している。また、角速度検出センサで検出したブレの生データは、センサ自体の校正が不十分なときは、実際のブレとは対応しない。よって実際のブレに対応させるため、センサが校正されていないときは、センサで検出した生データに所定の倍率をかけたりする補正が必要とされる。
【0038】
次に、図4に示す手ブレの復元処理方法(ステップS102,S103,S104,S105の反復処理(復元手段))の詳細を、図6,図7,図8,図9,図10,図11,図12および図13に基づいて説明する。
【0039】
(手ブレの復元アルゴリズム)
手ブレが無いとき、所定の画素に対応する光エネルギーは、露光時間中、その画素に集中する。また、手ブレがある場合、光エネルギーは、露光時間中にブレた画素に分散する。さらに、露光時間中のブレがわかれば、露光時間中のエネルギーの分散の仕方がわかるため、ブレた画像からブレの無い画像を作ることが可能となる。
【0040】
以下、簡単のため、横一次元で説明する。画素を左から順にS−1,S,S+1,S+2,S+3,…,とし、ある画素Sに注目する。ブレが無いとき、露光時間中のエネルギーは、その画素に集中するため、エネルギーの集中度は「1.0」である。この状態を図6に示す。このときの撮影結果を、図7の表に示す。図7に示すものが、劣化しなかった場合の正しい画像データImgとなる。なお、各データは、8ビット(0〜255)のデータで表している。
【0041】
露光時間中にブレがあり、露光時間中の50%の時間はS番目の画素に、30%の時間はS+1番目の画素に、20%の時間はS+2番目の画素にそれぞれブレていたとする。エネルギーの分散の仕方は、図8に示す表のとおりとなる。これが変化要因情報のデータGとなる。上述の式(1)における「N」の値は「3」となり、「重み」としての50%、30%、および20%の総和が「1」となる。よって、この変化要因情報G(ここでは、横一次元で考えるため、G(Xn)となる)は、上述の式(1)を満たす。
【0042】
この図8および式(2)に基づいて、移動エネルギーE(0x,0y)を算出する。ここでは、横一次元で考えるため、移動エネルギーは、E(0x)となる。また、移動距離は、画素一つ分の移動距離を「1」として計算する。すると、分散した光エネルギーを画素「S」に集中させる場合の移動エネルギーは、E(0x)は、以下のように計算され、求められる。
(1×0)+(0×0.5)+(1×0.3)+(2×0.2)=0.7
【0043】
同様に、分散した光エネルギーを画素「S+1」に集中させる場合の移動エネルギーは、E(0x)は、以下のように計算され、求められる。
(1×0.5)+(0×0.3)+(1×0.2)=0.7
【0044】
同様に、分散した光エネルギーを画素「S+2」に集中させる場合の移動エネルギーは、E(0x)は、以下のように計算され、求められる。
(2×0.5)+(1×0.3)+(0×0.2)=1.3
【0045】
以上の結果から、図8の場合は、分散した光エネルギーを画素「S」または「S1」に集中させることで、移動エネルギーを最小値の「0.7」とすることができる。また、図8の代わりに「S=0.45」「S+1=0.3」「S+2=0.25」の場合は、画素「S+1」への移動エネルギーの総和が最も小さくなる。すなわち、画素「S」への移動は「0.8」となり画素「S+1」への移動は「0.7」となり、画素「S+2」への移動が「1.2」となるためである。以下、分散した光エネルギーを移動エネルギーが最も小さい位置、すなわち上述の図8の例で画素「S」へと、集中させる場合の繰り返し処理の詳細について説明する。
【0046】
ブレは、全ての画素で一様であり、線形問題として把握される。そして、上ブレ(縦ブレ)が無いとすると、ブレの状況は、図9に示す表のとおりとなる。図9中の「ブレ画像」として示されるデータが、劣化している原画像のデータImg’となる。具体的には、たとえば「S−3」の画素の「120」は、ブレ情報である変化要因情報のデータGの「0.5」「0.3」「0.2」の配分比に従い、「S−3」の画素に「60」、「S−2]の画素に「36」、「S−1」の画素に「24」というように分散する。同様に、「S−2」の画素データである「60」は、「S−2」に「30」、「S−1」に「18」、「S」に「12」として分散する。この劣化している原画像データImg’と、図8に示す変化要因情報のデータGから元画像データImgを算出することとなる。以上の処理が、信号要素のデータの一部または全部を移動させる処理となる。
【0047】
ステップS101に示す任意の画像データI0としては、どのようなものでも採用できるが、この説明に当たっては、原画像データImg’を用いる。すなわち、I0=Img’として処理を開始する。図10の表中に「入力」とされたものが初期画像のデータI0に相当する。このデータI0すなわちImg’と、ステップS102で変化要因情報のデータGとを重畳積分する。すなわち、たとえば、初期画像のデータI0の「S−3」の画素の「60」は、S−3の画素に「30」が、「S−2」の画素に「18」が、「S−1」の画素に「12」がそれぞれ割り振られる。他の画素についても同様に配分され、「出力I0’」として示される比較用データI0’が生成される。このため、ステップS103の差分のデータδは、図10の最下欄に示すようになる。
【0048】
差分のデータδの配分は、図11に示すように、たとえば「S−3」の画素データ「30」に、自分の所(=「S−3」の画素)の配分比である0.5をかけた「15」を「S−3」の画素に配分し、また「S−2」の画素のデータ「15」にその「S−2」の画素にきているはずの配分比である0.3をかけた「4.5」を配分し、さらに、「S−1」の画素のデータ「9.2」に、その「S−1」の画素にきているはずの配分比である0.2をかけた「1.84」を配分する。「S−3」の画素に配分された総量は、「21.34」となり、この値を図4における初期画像のデータI0(ここでは原画像データImg’を使用)にプラスして、図4における復元データI0+1が算出される。この例では、図11に示すように「81.34」となる。このように、差分のデータδを変化要因情報のデータGを使用して、任意の画像のデータI0に配分して、図11中の「次回入力」として示される復元データI0+nを生成する。この場合、第1回目であるため、図11では、I0+1と表している。
【0049】
図12に示すように、この復元データI0+1(Ia')がステップS102の入力画像のデータ(=初期画像のデータI0)になり、ステップS102が実行され、ステップS103へと移行し、新しい差分のデータδを得る。その差分のデータδの大きさをステップS104で判断し、所定値より大きい場合、ステップS105で新しい差分のデータδを前回の復元データI0+1に配分し、新しい復元データI0+2を生成する(図13参照)。
【0050】
その後、復元データI0+2を用いてステップS102を遂行することにより、復元データI0+2から新しい比較用データI0+2’が生成される。このように、ステップS102,S103が実行された後、ステップS104へ行き、そこでの判断によりステップS105へ移行する。このような処理を繰り返す。
【0051】
以上のように、ステップS102〜ステップS105が繰り返されることで、差分のデータδが徐々に小さくなっていき、所定値より小さくなると、ブレていない元画像データImgが得られる。この元画像データImgは、図8に示す例では、分散したエネルギーを画素「S」に戻す(移動させる)ことで得られたものである。
【0052】
以上に述べた図4に示す手ブレの復元処理方法(ステップS102,S103,S104,S105の反復処理)においては、処理部4で行った処理は、ソフトウェアで構成しているが、それぞれ、一部の処理を分担して行うようにした部品からなるハードウェアで構成しても良い。また、変化要因情報のデータGとしては、劣化要因情報のデータのみではなく、単に画像を変化させる情報や、劣化とは逆に、画像を良くする情報を含むものとする。
【0053】
また、処理の反復回数が信号処理装置1側で自動的にまたは固定的に設定されている場合、その設定された回数を変化要因情報のデータGによって変更するようにしても良い。たとえば、ある画素のデータがブレにより多数の画素に分散している場合は、反復回数を多くし、分散が少ない場合は反復回数を少なくするようにしても良い。
【0054】
さらに、反復処理中に、差分のデータδが発散してきたり、エネルギーが移動した後の画像データのエネルギーが小さくならず大きくなってきたら、処理を中止させるようにしても良い。発散しているか否かは、たとえば差分のデータδの平均値を見てその平均値が前回より大きくなったら発散していると判断する方法を採用できる。また、反復処理中に、入力を異常な値に変更しようとしたときには、処理を中止させるようにしても良い。たとえば8ビットの場合、変更されようとする値が255を超える値であるときには、処理を中止させる。また、反復処理中、新たなデータである入力を異常な値に変更しようとしたとき、その値を使用せず、正常な値とするようにしても良い。たとえば、8ビットの0〜255の中で、255を超える値を入力データとしようとした際は、マックスの値である255として処理するようにする。
【0055】
また、出力画像となる復元データを生成する際、変化要因情報のデータGによっては、復元させようとする画像の領域外へ出てしまうようなデータが発生する場合がある。このような場合、領域外へはみ出るデータは反対側へ入れる。また、領域外から入ってくるべきデータがある場合は、そのデータは反対側から持ってくるようにするのが好ましい。たとえば、領域内の最も下に位置する画素XN1のデータから、さらに下の画素に割り振られるデータが発生した場合、その位置は領域外になる。そこで、そのデータは画素XN1の真上で最も上に位置する画素X11に割り振られる処理をする。画素XN1の隣の画素N2についても同様に真上で最上覧の画素X12(=画素X11の隣り)に割り振ることとなる。
【実施例】
【0056】
分散した光エネルギーを図8の変形例である画素「S」が0.85、画素「S+1」が0.3、画素「S+2」が0.25の場合、画素「S」、「S+1」、「S+2」に各々集中させ原点位置とし、図4に示す繰り返し処理を行った。それらの各場合の復元画像を目視で観察し、リンギングの有無を判定した。また、式(2)の計算範囲である「N=3」を若干拡大し、分散した光エネルギーを図8における画素「S−1」、「S+3」に各々集中させ原点位置とし、図4に示す繰り返し処理を行った場合の、復元画像のリンギングの有無を同様に判定した。表1に判定結果を示した。
【0057】
なお、分散した光エネルギーを画素「S−1」に集中させる場合の移動エネルギーは、画素「S」、「S+1」、「S+2」の場合と略同様に以下のように計算され、求められる。
(0×0)+(1×0.45)+(2×0.3)+(3×0.25)+(4×0)=1.80
また、同様に、分散した光エネルギーを画素「S+3」に集中させる場合の移動エネルギーは、以下のように計算され、求められる。
(4×0)+(3×0.45)+(2×0.3)+(1×0.25)+(0×0)=2.20
【0058】
【表1】
【0059】
表1の結果および多数の他の例から、移動エネルギー値が所定値を超えるとリンギングが観測され、移動エネルギー値を所定値以内に抑えるとリンギングの発生を抑えることができることがわかった。すなわち、式(2)から導かれる移動エネルギーの総和の最小値をMinとしたとき、その移動エネルギーがMinを超えた場合であってもMin×1.2以下となる値であればリンギングの発生を従来に比べかなり抑えることができた。
【0060】
以上、本実施の形態における信号処理装置1および実施例について説明したが、本発明の要旨を逸脱しない限り種々変更実施可能である。たとえば、本実施の形態では、移動エネルギーE(0x,0y)の総和を最小とする原点位置(0x,0y)を設定しているが、移動エネルギーE(0x,0y)の最小値を超え、所定値以下となる原点位置(0x,0y)を設定しても良い。図8の変形例である「S=0.45」「S+1=0.3」「S+2=0.25」の場合、移動エネルギーが最も小さい画素「S+1」ではなく、画素「S」を原点位置(0x,0y)としても良い。このときの各移動エネルギーは、画素「S」が0.8、画素「S+1」が0.7、画素「S+2」が1.2となる。画素「S」は最小値である0.7に1.2を乗じた値である0.84より小さい値となっている。
【0061】
また、本実施の形態では、復元手段として上述の繰り返し処理を採用しているが、信号要素のデータの一部または全部を移動させる手段であれば、他の復元手段を採用しても良い。
【0062】
また、本実施の形態では、原点位置を図3におけるX−Y平面のいずれかの位置としている。しかし、原点位置は、図3のA−Bの軌跡上の範囲内で決定するものとしても良い。すなわち、たとえば図3におけるA−Bの軌跡上の範囲内である図8における画素「S」「S+1」「S+2」のいずれかとすること、または画素「S−1」もしくは「S+3」を原点位置とすることが、移動エネルギーの総和を小さくするのであれば、そのようにすることが好ましい。また、図3のX−Y平面で表されるブレの軌跡をX軸またはY軸に投影したものをブレの軌跡とし、その軌跡上で移動エネルギーの最小値や上述の実施例のような値となる位置を求めるようにしても良い。
【0063】
また、本実施の形態に係る繰り返し処理では、処理部4は、図4におけるステップS104の判断では、画像を構成する複数の各画素毎の差分のデータδの絶対値が全て所定値か否かを判断している。しかし、所定値との比較の対象を、画像を構成する複数の各画素毎の差分のデータとし、各画素毎に繰り返し処理を停止するか否かを判断するようにしたりしても良い。また、所定値との比較対象を、各画素の差分のデータδの総和、もしくは各画素の差分のデータδの絶対値の総和、または以上の4つのうちの2つ以上とすることができる。たとえば、各画素毎の差分のデータδの中で零から最も離れた値と、各画素毎の差分のデータδの総和の値とが、別々の基準を共に満たすか否かを判断するようにしても良い。このように、所定値と比較する値を適宜選択することで、原画像の種類、変化の状態または復元処理の状況に応じて、適切な処理を行うことができる。
【0064】
上述の実施の形態では、復元対象を画像データとしている。しかし、これらの復元処理の考え方および手法は、あらゆるデジタルデータの復元処理に適用できる。たとえば、デジタルの音声データの復元等への適用が可能である。その適用の結果、リンギングのように一部に不正確な音声データ等が発生することを抑制でき、また変化要因情報のデータが不正確であっても、妥当な結果が得られる復元処理が可能となる。
【0065】
また、上述の実施の形態では、信号処理装置1を民生用のカメラとしているが、信号処理装置1は、デジタルカメラ等で撮影した画像のデータを図4に示す処理を実行した上で印刷するプリンタ機器としても良い。また、信号処理装置1は、プリンタ機器に対して図4に示す処理を実行させつつ操作するソフトウェアがインストールされたコンピュータ、さらには図4に示す処理を実行するソフトウェアがインストールされたコンピュータ等としても良い。
【0066】
また、上述した各処理方法は、プログラム化されても良い。また、プログラム化されたものが記憶媒体、たとえばCD、DVD、USBメモリに入れられ、コンピュータによって読みとり可能とされても良い。この場合、信号処理装置1は、その記憶媒体内のプログラム化されたものが信号処理装置1の外部サーバに入れられ、必要によりダウンロードされ、使用されるようにしても良い。この場合、信号処理装置1は、その記憶媒体内のプログラムをダウンロードする通信手段を持つこととなる。
【図面の簡単な説明】
【0067】
【図1】本発明の実施の形態に係る信号処理装置の主要構成を示すブロック図である。
【図2】図1に示す信号処理装置の概要を示す外観斜視図で、角速度センサの配置位置を説明するための図である。
【図3】図1に示す信号処理装置で扱うブレの例を示す図で、X−Y平面で表されるブレの軌跡を示す図である。
【図4】図1に示す信号処理装置の処理部で行う画像復元処理方法(反復処理)に係る処理ルーチンを説明するための処理フロー図である。
【図5】図4に示す処理方法の概念を説明するための図である。
【図6】図3に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレのないときのエネルギーの集中を示す表である。
【図7】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレのないときの画像データを示す図である。
【図8】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、手ブレが生じたときのエネルギーの分散を示す図である。
【図9】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、任意の画像から比較用データを生成する状況を説明するための図である。
【図10】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、比較用データと、処理対象となるブレた原画像とを比較して、差分のデータを生成する状況を説明するための図である。
【図11】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、差分のデータを配分し任意の画像に加えることで復元データを生成する状況を説明するための図である。
【図12】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、生成された復元データから新たな比較用データを生成し、そのデータと処理対象となるブレた原画像とを比較して差分のデータを生成する状況を説明するための図である。
【図13】図4に示す処理方法を、手ブレを例にして具体的に説明するための図で、新たに生成された差分のデータを配分し、新たな復元データを生成する状況を説明するための図である。
【符号の説明】
【0068】
1 信号処理装置
4 処理部
Io 初期画像のデータ(任意の信号データ)
Io’ 比較用データ
G 変化要因情報のデータ
Img’ 原画像のデータ(原信号のデータ)
I0+n 復元データ
Img 元画像(元信号)
δ 差分のデータ
【特許請求の範囲】
【請求項1】
劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、
上記処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、
上記復元手段は、上記原信号データおよび上記複元データを構成する信号要素のデータの一部または全部を移動させて上記原信号データから上記元信号を生成する手段であり、
上記処理部は、上記変化要因情報の原点位置を、各々の上記信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置に設定して復元処理をすることを特徴とする信号処理装置。
【請求項2】
劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、
上記処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、
上記復元手段は、上記原信号データおよび上記複元データを構成する信号要素のデータの一部または全部を移動させて上記原信号データから上記元信号を生成する手段であり、
上記処理部は、上記変化要因情報の原点位置を、各々の上記信号要素のデータの移動に要する移動エネルギーの総和の最小値をMinとしたとき、その移動エネルギーがMinを超え、Min×1.2以下となる位置に設定して復元処理をすることを特徴とする信号処理装置。
【請求項3】
前記復元手段は、前記処理部が信号変化の要因となる前記変化要因情報のデータを利用して、任意の信号データから比較用データを生成して、処理対象となる原信号のデータと上記比較用のデータとを比較し、得られた差分のデータを前記原点位置が設定された前記変化要因情報のデータを利用して上記任意の信号データに配分することで前記復元データを生成し、この復元データを上記任意の信号データの代わりに使用し、同様の処理を繰り返す繰り返し処理を行う手段であることを特徴とする請求項1または2記載の信号処理装置。
【請求項1】
劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、
上記処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、
上記復元手段は、上記原信号データおよび上記複元データを構成する信号要素のデータの一部または全部を移動させて上記原信号データから上記元信号を生成する手段であり、
上記処理部は、上記変化要因情報の原点位置を、各々の上記信号要素のデータの移動に要する移動エネルギーの総和が最小値となる位置に設定して復元処理をすることを特徴とする信号処理装置。
【請求項2】
劣化等の変化が生じた原信号データから、変化する前の信号もしくは本来取得されるべきであった信号またはそれらの近似信号(以下、元信号という)の復元をする処理部を有し、
上記処理部は、信号変化の要因となる変化要因情報のデータを利用して元信号となる復元データを生成する復元手段を有し、
上記復元手段は、上記原信号データおよび上記複元データを構成する信号要素のデータの一部または全部を移動させて上記原信号データから上記元信号を生成する手段であり、
上記処理部は、上記変化要因情報の原点位置を、各々の上記信号要素のデータの移動に要する移動エネルギーの総和の最小値をMinとしたとき、その移動エネルギーがMinを超え、Min×1.2以下となる位置に設定して復元処理をすることを特徴とする信号処理装置。
【請求項3】
前記復元手段は、前記処理部が信号変化の要因となる前記変化要因情報のデータを利用して、任意の信号データから比較用データを生成して、処理対象となる原信号のデータと上記比較用のデータとを比較し、得られた差分のデータを前記原点位置が設定された前記変化要因情報のデータを利用して上記任意の信号データに配分することで前記復元データを生成し、この復元データを上記任意の信号データの代わりに使用し、同様の処理を繰り返す繰り返し処理を行う手段であることを特徴とする請求項1または2記載の信号処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2009−171166(P2009−171166A)
【公開日】平成21年7月30日(2009.7.30)
【国際特許分類】
【出願番号】特願2008−6405(P2008−6405)
【出願日】平成20年1月16日(2008.1.16)
【出願人】(000227364)日東光学株式会社 (151)
【Fターム(参考)】
【公開日】平成21年7月30日(2009.7.30)
【国際特許分類】
【出願日】平成20年1月16日(2008.1.16)
【出願人】(000227364)日東光学株式会社 (151)
【Fターム(参考)】
[ Back to top ]