撮像装置、画像処理装置、画像処理方法及びプログラム
【課題】高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得できるようにする。
【解決手段】被写体の像を取得する撮像センサ100を備えた撮像装置であって、撮像に関するパラメータ、撮像センサ100のセンサピッチ情報、超解像倍率、露光時間等を取得するパラメータ取得部114、115と、パラメータ取得部114、115で取得したパラメータに基づいて、撮像センサ100の変位量及び変位タイミングを決定し、制御する変位制御部116と、変位制御部116による制御下で撮像センサ100を変位させて撮像センサ100により取得した複数枚の微小位置ずれのある画像データを用いて高解像度画像を生成する信号処理部103とを備える。
【解決手段】被写体の像を取得する撮像センサ100を備えた撮像装置であって、撮像に関するパラメータ、撮像センサ100のセンサピッチ情報、超解像倍率、露光時間等を取得するパラメータ取得部114、115と、パラメータ取得部114、115で取得したパラメータに基づいて、撮像センサ100の変位量及び変位タイミングを決定し、制御する変位制御部116と、変位制御部116による制御下で撮像センサ100を変位させて撮像センサ100により取得した複数枚の微小位置ずれのある画像データを用いて高解像度画像を生成する信号処理部103とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、超解像処理を行うのに利用して好適な撮像装置、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
近年、画像、映像を取得する際に失われた信号を復元し、画像、映像の画素そのものを増やすことで画像、映像の解像度を高める技術、いわゆる超解像技術が普及しつつある。低解像度画像に含まれる信号の周波数帯域が限られるため、一枚の低解像度画像だけから高解像度画像を生成するのは限界がある。そこで、複数枚の低解像度画像を入力として、より画素数の多い高解像度画像を生成する技術がある。複数枚の低解像度画像間にサブピクセルの位置ずれがあれば、一枚の低解像度画像で表現できる解像度を超える高解像度画像を生成することができる。これら複数枚の低解像度画像を取得する手法については、様々な方法が提案されている。
【0003】
例えば特許文献1には、高速、高精度、高画質の画素ずらしシステムを実現するために、平行平板で撮像面における垂直及び水平方向における画素ずらしを行うことができるようにした光学装置が開示されている。
【0004】
また、例えば特許文献2には、撮像装置自体の状態変化(速度や加速度)を考慮して、高解像度化手段で高解像度な画像を生成するようにした撮像装置が開示されている。
【0005】
また、例えば特許文献3には、被写体の画像を固体撮像素子に結像させる撮像レンズ部の1つのレンズを光軸に対して4回の露光ごとに異なる4方向に順次移動させ、この4回の露光によって得られた各画像データを合成して1画面の合成画像データを生成するようにした撮像装置が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平11−75099号公報
【特許文献2】特開2006−140885号公報
【特許文献3】特開平10−288803号公報
【非特許文献】
【0007】
【非特許文献1】Sung C.P."Super-Resolution Image Reconstruction: A Technical Overview", IEEE Signal Proc,第26巻、第3号、P.21-36,2003年
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1と特許文献3に開示された従来技術では、超解像倍率に応じて、撮影される複数枚の画像の変位量が計算されていないという課題がある。例えば超解像倍率を3倍とする場合には1/3ピクセルの変位量が必要であって、超解像倍率を4倍とする場合には1/4ピクセルの変位量が必要である。このような超解像倍率に応じた画像間の変位が行われていない。
【0009】
また、特許文献2に開示された従来技術では、露光期間中に撮像装置本体の変位がしてしまうと、取得される画像に動きぶれが発生し、超解像処理に適した画像が取得できない課題がある。
【0010】
本発明は上記のような点に鑑みてなされたものであり、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得できるようにすることを目的とする。
【課題を解決するための手段】
【0011】
本発明の撮像装置は、被写体の像を取得する撮像センサを備えた撮像装置であって、撮像に関するパラメータを取得するパラメータ取得手段と、前記パラメータ取得手段で取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び当該撮像装置のいずれかの変位量及び変位タイミングを決定し、制御する変位制御手段と、前記変位制御手段による制御下で前記撮像センサ、前記撮影レンズ及び当該撮像装置のいずれかを変位させて前記撮像センサにより取得した複数枚の位置ずれのある画像データを用いて高解像度画像を生成する信号処理手段とを備えたことを特徴とする。
【発明の効果】
【0012】
本発明によれば、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【図面の簡単な説明】
【0013】
【図1】第1の実施形態に係る撮像装置の構成を示すブロック図である。
【図2】第1の実施形態に係る撮像装置の垂直断面図である。
【図3】撮像センサを保持するプリント基板と、変位装置を保持する基板とを示す図である。
【図4】第1の実施形態における変位制御部の構成を示すブロック図である。
【図5】第1の実施形態に係る撮像装置の処理を示すフローチャートである。
【図6】撮像センサを変位させる状態を説明するための図である。
【図7】シャッター開閉タイミングと撮像センサの変位との関係図を示す図である。
【図8】第1の実施形態における変位制御パラメータを生成する処理の詳細を示すフローチャートである。
【図9】第1の実施形態における撮像センサの変位制御と撮影を行う処理の詳細を示すフローチャートである。
【図10】信号処理部の構成を示すブロック図である。
【図11】撮像センサの変位量と行列Mkの関係を示す図である。
【図12】信号処理部の超解像生成部の構成を示すブロック図である。
【図13】信号処理部の超解像生成部の処理を示すフローチャートである。
【図14】シフトレンズを示す図である。
【図15】第2の実施形態における変位制御部の構成を示すブロック図である。
【図16】第2の実施形態における変位制御パラメータを生成する処理の詳細を示すフローチャートである。
【図17】撮像装置及び撮像装置を変位させる装置を備えた三脚を示す図である。
【図18】第3の実施形態における変位制御部の構成を示すブロック図である。
【図19】第3の実施形態における変位制御パラメータを生成する処理の詳細を示すフローチャートである。
【発明を実施するための形態】
【0014】
以下、添付図面を参照して、本発明の好適な実施形態について説明する。
(第1の実施形態)
第1の実施形態では、被写体の像を電子的に取得する撮像センサを備えた撮像装置において、撮像センサを微小位置変位させて、複数枚の微小位置ずれのある画像を取得する方式を説明する。図1は、本実施形態に係る撮像装置であるデジタルカメラの構成を示すブロック図である。撮像部101は、被写体の光を検知するための装置であり、例えばズームレンズ、フォーカスレンズ、ぶれ補正レンズ、絞り、シャッター、光学ローパスフィルタ、カラーフィルタ、及び、CMOSやCCDの撮像センサ100から構成される。
【0015】
A/D変換部102は、被写体の光の検知量をデジタル値に変換する。信号処理部103は、上記デジタル値に信号処理してデジタル画像を生成し、例えばデモザイキング処理、ホワイトバランス処理、ガンマ処理を行う。詳細は後述するが、この信号処理部103で、複数枚の微小位置ずれのある画像を用いて超解像処理を行う。エンコーダ104は、上記デジタル画像にデータ圧縮を行い、例えばJPEGに圧縮する等の処理を行う。メディアインターフェース部105は、PC(パーソナルコンピュータ)その他メディア(例えばハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)につなぐためのインターフェースである。
【0016】
CPU106は、上述した各構成の処理の全てに関わる。ROM107とRAM108は、その処理に必要なプログラム、データ、作業領域をCPU106に提供する。また、後述する処理に必要な制御プログラムはROM107に格納されており、一旦RAM108に読み込まれてから実行される。
【0017】
操作部109は、ユーザからの指示を入力するためのものであり、例えばボタンやモードダイヤル等が該当する。キャラクタージェネレーション部110は、文字やグラフィックを生成する。D/A変換部111は、上記デジタル画像をアナログ変換する。表示部112は、一般的にはCRTや液晶ディスプレイが用いられ、撮影画像を表示したり、GUI等の画像を表示したりする。また、公知のタッチスクリーンであっても良い。その場合、タッチスクリーンによる入力については操作部109の入力として扱うことも可能である。
【0018】
撮像部コントローラ113は、CPU106で指示された撮像系の制御を行い、例えばフォーカスを合わせる、シャッターを開く、絞りを調節する等の制御を行う。撮像部パラメータ取得部114は、撮像に関するパラメータとして、撮像部101を構成する撮像センサ100の固有情報を取得する。例えばCCD又はCMOSの素子の大きさ、センサピッチの情報である。詳細は後述するが、本実施形態では、センサピッチを用いて撮像センサ100上にサブピクセルレベルの移動を発生させるのに、撮像センサ100の移動距離について計算する。また、撮像時パラメータ取得部115は、撮像に関するパラメータとして、撮像部コントローラ113から撮像時のパラメータ、例えばズーム倍率、シャッタースピードの値を取得する。
【0019】
変位制御部116は、微小位置ずれを生じさせるための撮像センサ100の変位を制御する。本実施形態では、変位制御部116で変位制御パラメータを生成する。変位制御パラメータは、連写枚数、センサシフト量(水平、垂直変位量)及びセンサシフトタイミング(露光開始時間と露光終了時間)である。変位装置117は、変位制御部116からの変位制御パラメータに従って、撮像センサ100を微小位置変位させる。なお、撮像装置の構成においては上記以外にも様々な構成要素が存在するが、本発明の主眼ではないので、その説明は省略する。
【0020】
図2は、本実施形態に係る撮像装置の垂直断面図である。201は撮影光軸である。202は撮像光学系の撮影レンズであり、シフトレンズ(部分レンズ)1401を含む。203はクイックリターンミラーであり、カメラ本体内で撮影光路中に配置され、撮影レンズ202からの被写体光をファインダ光学系に導く位置と撮影光路外に退避する位置との間で移動可能である。204はピント板であり、ピント板204上にはクイックリターンミラー203からファインダ光学系に導かれる被写体光が結像される。205はファインダの視認性を向上させるためのコンデンサレンズである。206はペンタゴナルダハプリズム、207は測光センサ、208は接眼レンズであり、ピント板204及びコンデンサレンズ205を通った被写体光はペンタゴナルダハプリズム206を介してファインダ観察用の接眼レンズ208及び測光センサ207に導かれる。209、210はそれぞれシャッターを構成する後幕、先幕であり、これら後幕209、先幕210の開放によって、後方に配置されている撮像センサ100の撮像素子が必要時間だけ露光される。後幕209と先幕210の動きによりシャッター開閉する。211はプリント基板であり、撮像センサ100を保持する。212はプリント基板211の後方にある基板であり、変位装置117を保持し、プリント基板211、すなわち撮像センサ100を変位させる。213は画像データを記録する記録装置、214は電池であり、カメラ本体に対して着脱可能である。なお、撮像装置の構成においては上記以外にも様々な構成要素が存在するが、本発明の主眼ではないので、その説明は省略する。
【0021】
図3は、撮像センサ100を保持するプリント基板211と、変位装置117を保持する基板212とを示す図であり、(a)が正面図、(b)が側面図である。矢印は、変位装置117によるプリント基板211の運動方向(変位方向)を示す。本実施形態では、プリント基板211を上下(垂直方向)及び左右(水平方向)に変位させる。変位装置117は基板212に装着されたモータ駆動装置或いはピエゾ駆動装置であり、プリント基板211の背面に接着している。
【0022】
図4は、図1に示した変位制御部116の構成を示すブロック図である。変位制御には二つの制御要素があり、一つは変位量制御、一つは変位タイミング制御である。超解像処理とは、サブピクセルレベルでの位置ずれのある複数枚の画像を撮影し、これらの画像について光学系の劣化要因をキャンセルした上で合成する手法である。1画素を水平、垂直均等にN×N個サブピクセルに分割して撮影したN×N枚の画像から一枚の高解像画像を生成した場合、超解像倍率をN倍と定義する。
【0023】
図4において、撮像部パラメータ取得部114から超解像するための超解像倍率、撮像センサ100で記録される画素間の距離情報が入力されて、変位量のコントロールに使われる。また、撮像時パラメータ取得部115から露光時間の情報が入力されて、変位タイミングのコントロールに使われる。
【0024】
変位制御部116は、センサピッチ情報取得部401、超解像倍率情報取得部402を備え、センサピッチと超解像倍率を取得する。撮像センサの変位量制御部405では、撮像センサ100の水平、垂直の変位量をそれぞれ計算し制御する。ここで、撮像センサ100の水平センサピッチサイズをp_h、垂直センサピッチサイズをp_vとする。超解像倍率がN倍であれば、撮像センサ100を水平方向にシフトさせる際の単位距離d_hは式(1)で計算することができる。また、撮像センサ100を垂直方向にシフトさせる際の単位距離d_vは式(2)で計算することができる。
【0025】
【数1】
【0026】
超解像倍率がN倍であれば、N×N枚の微小位置ずれ画像が必要である。超解像倍率の情報を基づいて連写枚数取得部406で連写枚数を取得する。
【0027】
また、変位制御部116は、変位制御時間取得部403、露光時間取得部404を備え、変位装置制御時間と露光時間を取得する。変位タイミング制御部407では、取得された変位装置制御時間を用いて、変位タイミングを決める。停止時間制御部408は、露光期間中、撮像センサ100の動きを止めて動きブレのない画像を取得するため、露光期間中に撮像センサ100を停止させる。
【0028】
変位制御部116は、変位量と変位タイミングの変位制御パラメータを変位装置117へ送る。
【0029】
図5は、撮像装置の処理、具体的には撮像センサ100を微小位置変位させて、複数枚の微小位置ずれのある画像を取得する処理を示すフローチャートである。ステップS501は撮像センサ個体のパラメータを取得するステップであり、変位制御部116は、撮像センサ100のセンサピッチサイズ、超解像倍率を取得する。
【0030】
ステップS502は撮像時パラメータを取得するステップであり、変位制御部116は、撮像時の露光時間の情報を取得する。
【0031】
ステップS503で、変位制御部116は、ステップS501で取得したパラメータを用いて撮像センサ100の変位量を決定し、変位制御パラメータを生成する。その詳細については後述する。また、ステップS504で、変位制御部116は、ステップS502で取得したパラメータを用いて撮像センサ100の変位タイミングを決定し、変位制御パラメータを生成する。その詳細については後述する。
【0032】
ステップS505で、撮像装置は、ステップS503、S504において生成された変位制御パラメータに基づいて撮像センサ100を変位させた後、撮影を実行する。ステップS506では、ステップS505において取得した複数枚の微小位置ずれのある画像を用いて高解像度画像を生成する。
【0033】
図6は、撮像センサ100を水平、垂直に変位させる状態を説明するための図である。図6において、点線で描かれた格子は撮像素子の単位ピクセルである。また、実線で描かれた格子は撮像素子の単位ピクセルを更に分割したサブピクセルである。
【0034】
図6において、p_hは水平センサピッチサイズ、p_vは垂直センサピッチサイズである。図6では、超解像倍率はN=3倍であって、単位ピクセルを均等に3分割した例を示す。撮像センサ100の水平単位変位量はd_h、垂直単位変位量はd_vで示す。撮像センサ100の変位量に応じて水平、垂直方向で計9枚の画像を取得する。ここで、撮像センサ100のホームポジションを(0,0)とし、変位後の位置を(S_h(num),S_v(num))とする。numは整数であって、変位画像の番号である。すなわち、S_h(num)はnum番目の取得画像の水平変位量を示し、S_v(num)はnum番目の取得画像の垂直変位量を示す。図6において、矢印は撮像センサ100を変位させる順番を示し、取得された画像の番号をIからIXで示す。これら取得されたサブピクセルレベルの位置ずれがある画像から後述する超解像処理により解像度を3倍に向上させた高超解像画像が生成される。
【0035】
図7は、シャッター開閉タイミングと撮像センサ100の変位との関係図を示す図である。図7は、図6に対応しており、超解像倍率が3倍であって、1ピクセルを均等に3分割した例を示す。図7(a)において、横軸は時間を示し、縦軸はシャッターの開閉を示す。一枚の画像を撮影するために必要となる変位制御時間と露光時間を含む時間Tとする。シャッターが開いている時間は露光時間tとする。図7(b)、(c)に、変位装置117による撮像センサ100の変位タイミングを示す。横軸は時間を示し、縦軸は水平変位量と垂直変位量を示す。変位タイミングのコントロールとは、露光期間以外の時間に撮像センサ100を変位させ、露光期間中に撮像センサ100を停止させる制御である。撮像センサ100の変位は、変位制御部116の制御により行われる。変位制御では、撮像センサ100を変位させる時間と撮像センサ100を停止させる時間の制御、変位量の制御を行っている。撮像センサ100の変位と停止時間はタイマにて管理する。撮像センサ100の変位制御のうち変位タイミングは、露光開始時間t_startと露光終了時間t_endの二つの変数を用いて制御する。
【0036】
図8は、図5のステップS503、S504の変位制御パラメータを生成する処理の詳細を示すフローチャートである。ステップS801で、変位制御部116のセンサピッチ情報取得部401は、撮像部パラメータ取得部114から入力されたセンサピッチサイズp_h(水平)、p_v(垂直)を取得する。ステップS802で、変位制御部116の超解像倍率情報取得部402は、撮像部パラメータ取得部114から入力された超解像倍率Nを取得する。
【0037】
ステップS803で、変位制御部116の変位量制御部405は、式(1)を用いて撮像センサ100の単位水平変位量d_hを計算する。ステップS804で、変位制御部116の変位量制御部405は、式(2)を用いて撮像センサの単位垂直変位量d_vを計算する。
【0038】
ステップS805で、変位制御部116の連写枚数取得部406は、連写枚数を取得する。ステップS806で、変位制御部116の変位制御時間取得部403は、一枚の画像を撮影するために必要となる変位制御時間と露光時間を含む時間Tを取得する。ステップS807で、変位制御部116の露光時間取得部404は、一枚撮影する露光時間tを取得する。
【0039】
ステップS808〜ステップS818、ステップS809〜ステップS817は、N回の撮影における変位量、変位タイミングを決定するループ処理である。ステップS810で、複数枚画像の撮影順番を求める。式(3)は撮影順番Pを算出する式であり、図6に示した順番と同じである。i、jはループ回数を表す変数である。
【0040】
【数2】
【0041】
露光開始時間はt_start(P)であって、露光終了時間t_end(P)である。変位制御部116の変位タイミング制御部407は、ステップS811で、式(4)を用いて変位開始時間t_start(P)を計算し、ステップS812では、式(5)を用いて変位終了時間t_end(P)を計算する。
【0042】
【数3】
【0043】
変位制御部116の変位量制御部405は、ステップS813で、水平変位量を計算し、ステップS814で、垂直変位量を計算する。撮影順番のPの水平変位量S_h(P)は式(6)を用いて計算し、垂直変位量S_v(P)は式(7)を用いて計算する。
【0044】
【数4】
【0045】
以上の処理により、変位制御パラメータ(連写枚数、露光開始時間と終了時間、水平、垂直変位量)の生成が完了する。
【0046】
図9は、図5のステップS505の撮像センサ100の変位制御と撮影を行う処理の詳細を示すフローチャートである。ステップS901で、図8で説明したように生成された変位制御パラメータを取得する。
【0047】
ステップS902では、変数countを初期化する。ステップS903では、タイマを開始させる。ステップS904では、変位装置117を起動する。ステップS905では、変数countと連写枚数とを比較する。変数countの値が連写枚数に達していない場合、ステップS906に進む。変数countの値が連写枚数に達している場合、ステップS916に進む。
【0048】
ステップS906においてタイマの示す時間が露光開始時間t_start(count)と同じである場合、ステップS907に進み、変位装置117を停止させる。タイマの示す時間と露光開始時間t_start(count)とが同じでない場合、ステップS909に進む。ステップS908では、撮像装置による撮影を行う。ステップS909においてタイマの示す時間が露光停止時間と同じである場合、ステップS910に進み、撮影を終了する。
【0049】
ステップS911では、変位装置117に変位量を転送する。ステップS912では、撮像センサ100を変位させる。ステップS913においてタイマの示す時間が次の露光開始時間t_start(count+1)と同じである場合、ステップS915に進み、撮像センサ100の変位を終了させる。タイマの示す時間が露光開始時間t_start(count+1)と同じでない場合、ステップS914に進み、タイマを更新する。ステップS916では、変数countの値を一つ増やす。連写枚数が全部撮影できた後に、全処理が終了する。
【0050】
<超解像処理>
本実施形態では、超解像処理は非特許文献1に開示されているMAP法(Maximum A Posterior)を使う。
【0051】
【数5】
【0052】
X^は推定された超解像画像、yは劣化条件で劣化された画像、Mkは基準画像との位置ずれ、DとBは劣化条件である。kは画像番号である。図10は、図1に示した信号処理部103の構成を示すブロック図である。図10を参照して、MAP法による超解像処理を説明する。基準画像との位置ずれ情報は行列Mkで示す。光学系PSFによる劣化処理は行列Bで表示する。ダウンサンプリング処理であって、処理内容は画像縮小の倍率を行列として提供される。行列Dで表示する。
【0053】
式(8)の左辺第二項は、入力画像と劣化過程を経て推定された画像との差分値を演算する項である。σは画像Yのノイズの標準偏差である。式(8)の右辺部を抽出し、超解像処理時の評価関数として用いる数式が次式(9)である。
【0054】
【数6】
【0055】
撮像装置で撮影した画像は、A/D変換部102から信号処理部103に入力される。また、信号処理部103には、撮像部パラメータ取得部114から撮像モデルと、撮像センサ100の変位量が入力される。撮像モデル取得部1001では、撮像装置の撮像モデルを取得する。撮像モデルは、撮影用撮像装置の光学系の劣化PSFと撮像センサ画素数の制限によるダウンサンプリングである。本実施形態では、撮像センサ100を変位させて撮影するため、変位量取得部1003では、撮像センサ100の変位量を取得する。メモリ1002には、複数枚の微小位置ずれのある画像データを格納する。超解像生成部1004では、撮像モデルと画像間の変位量を用いて、複数枚の微小位置ずれのある画像を用いて高解像度画像を生成する。生成された高解像度画像は、出力端子からD/A変換部111を介して表示部112に、又はエンコーダ104を介してメディアインターフェース部105に出力される。
【0056】
図11は、撮像センサ100の変位量と行列Mkの関係を示す図である。本実施形態では、撮像センサ100の水平、垂直のずれ量を(S_h(P),S_v(P))を用いて、行列Mkを形成する。なお、P=k=1、2、3、…、Nである。図11において、W、Hは超解像画像の横画素数、縦画素数である。(x,y)は超解像画像上の着目画素位置を示す。行列MkはH×W次正方行列である。撮像センサがホームポジションにあるときに、行列Mkの対角成分以外の成分がすべて0であって、行列Mkの対角成分は1である。行列成分が1である場合、対応する画素位置の画素値に参照する。撮像センサ100がホームポジションから変位量(S_h(P),S_v(P))で変位したとき、参照する画素位置が変わり、行列Mkの行列成分が1である画素の位置が変化する。具体的には、行列の位置((x+S_h(P))×H+(y+S_v(P)))行、(x×H+y)列に対応する行列成分を1とし、そのほかの画素位置の成分を0とする。
【0057】
図12は、信号処理部103の超解像生成部1004の構成を示すブロック図である。本実施形態では、超解像画像をHR画像と示す。図12において、画像入力端子1201からN枚の画像が入力される。Nは2以上の整数である。本実施形態で扱う入力画像は8ビットのグレイスケール画像とする。初期HR画像作成部1204では、入力された画像を用いて高解像画像の初期値を作成する。本実施形態では、線形補間手法を使用して初期HR画像を作成する。HR画像生成部1205では、MAP推定法によって計算される修正量をHR画像に加えることによりHR画像を更新する。劣化画像作成部1206では、撮像モデル入力端子1203と変位情報入力端子1202から与えられる劣化条件と変位情報に従って入力画像を劣化させ、劣化画像を生成する。劣化条件は撮影用カメラの光学系の劣化PSFとセンサ画素数の制限によるダウンサンプリングである。本実施形態では扱うダウンサンプリングは、ダウンサンプリング時の縮小倍率(1/size_x,1/size_y)で与えられる。なお、size_x、size_yは自然数であるとする。更に、複数枚画像間の位置ずれは既に変位制御する際に使用した変位量に相当するので、変位情報入力端子1202から撮像センサ100の水平、垂直変位量が入力される。本実施形態は、水平、垂直方向の位置ずれを扱う。取得されるN枚の画像のうち、一枚目の画像を基準画像(図6に示されたI番の画像)とし、基準画像からの相対移動量を位置ずれの情報とする。基準画像の中央画像位置を原点と定め、原点に対する水平、垂直のずれ量を(S_h(P),S_v(P))を取得する。なお、P=k=1、2、3、…、Nである。
【0058】
これらの劣化条件は超解像処理に先立って、予め計測されるデータ、或いは既知のデータである。差分演算部1209では、画像入力端子1201で入力された入力画像と劣化画像作成部1206で作成された劣化画像を差分演算する。上記得られた画像間の差分情報の平均値を計算し、超解像画像が生成されたのかどうかを判断する。終了判定部1207では、差分演算部1209の結果を閾値と比較する。そして、差分演算部1209の結果が閾値より小さい場合、終了判定部1207は0と出力する。差分演算部1209の結果が閾値より大きい場合、終了判定部1207は1と出力し、差分演算部1209の結果を修正量計算部1208に入力する。終了判定部1207で入力された結果1である場合、修正量計算部1208では修正量を計算し、修正量を出力する。終了判定部1207で入力された結果0である場合、修正量計算部1208は0として出力する。修正量計算部1208の結果によりHR画像生成部1205でHR画像を生成する。具体的には、修正量計算部1208で得た修正量をHR画像に加える。修正量計算の詳細を後述する。修正量計算部1208の修正量がゼロである場合、HR画像生成部1205はHR画像生成し、HR画像出力端子1210に送る。修正量計算部1208の修正量が非ゼロの場合、劣化画像作成部1206に送る。差分演算部1209の結果が閾値より小さくなると、HR画像出力端子1210からHR画像を出力し、HR画像の生成が完了する。
【0059】
図13は、信号処理部103の超解像生成部1004の処理を示すフローチャートである。ステップS1301で、撮影画像を入力する。Yは入力画像を示す。ステップS1302で、取得された複数枚画像間の位置ずれ情報を含むMk行列を入力する。ステップS1303で、撮像装置の光学劣化条件B行列を入力する。ステップS1304で、撮像装置のダウンサンプリングD行列を入力する。ステップS1305で、初期HR画像を生成する。初期HR画像は線形補間により横サイズM倍、縦サイズN倍に拡大する。ステップS1306で、閾値を取得する。ステップS1308で、式(10)を用いて推定劣化画像Y'を作成する。
【0060】
【数7】
【0061】
HR画像は、ステップS1307からの繰り返し演算によってステップS1313で生成される。i回目の演算で生成されたHR画像をXiとする。ステップS1307〜S1309の間で入力された画像の枚数分の推定劣化画像を生成するループである。ステップS1313で、ステップS1308の計算で得た推定劣化画像と撮影された全ての画像、全ての画素について差分を取って、差分値の平均値と閾値と比較する。差分値の平均値が閾値より小さい場合には、ステップS1314に進み、繰り返し演算が終わる設定になっている。差分値の平均値が閾値より大きいであれば、ステップS1310に進み、HR画像の修正量を計算する更新項を求める。更新項の求め方は後述する。ステップS1311で、ループ回数をカウントする。ステップS1312で、HR画像にステップS1310で計算された更新項の結果を加えてHR画像を更新する。ステップS1313において計算される差分値の平均値が閾値以下となるまで、ステップS1307〜ステップS1313の処理を繰り返し行う。
【0062】
ステップS1310では、HR画像の更新項を計算する。上記評価関数での結果を受けて推定HRにフィードバックを行い、推定HR画像を更新する。本実施形態では最急降下法を用いて推定HR画像を更新する。最急降下法は最小化する関数の一次微分のみを使用した最適化手法である。最急降下法を評価関数式に適応すると、下式(11)が計算される。
【0063】
【数8】
【0064】
以上説明したように、撮影部パラメータと撮影時パラメータとに基づいて撮像センサ100の変位制御を行うことにより、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【0065】
(第2の実施形態)
第2の実施形態では、被写体の像を電子的に取得する撮像センサを備えた撮像装置において、レンズを微小位置変位させて、複数枚の微小位置ずれのある画像を取得する方式を説明する。なお、撮像装置の構成は第1の実施形態と同様であり、以下では第1の実施形態との相違点を中心に説明する。
【0066】
本実施形態では、図2に示すように、撮像光学系の撮影レンズ202の含まれるシフトレンズ1401を変位させることにより、撮像センサ100に到着する光線を変位させる。すなわち、シフトレンズ1401を介して入射した光束を、撮像センサ100の面上に水平方向、垂直方向にそれぞれ画素間隔より小さい変位量でシフトさせる。
【0067】
図14は、シフトレンズ1401を示す図であり、(a)が正面図、(b)が側面図である。本実施形態では、変位装置である電磁アクチュエータ1402でシフトレンズ1401をシフトさせる。矢印は、電磁アクチュエータ1402によるシフトレンズ1401の運動方向(変位方向)を示す。電磁アクチュエータ1402によりシフトレンズ1401を水平、垂直シフトすることによって、シフトレンズ1401のサブピクセルレベルの変位を制御する。
【0068】
図15は、図1に示した変位制御部116の構成を示すブロック図である。図4で示した第1の実施形態における変位制御部116と比較し、撮像センサの変位量制御部405が、レンズの変位量制御部1501に変更されている。撮像レンズの変位量制御部1501では、シフトレンズ1401の水平、垂直の変位量をそれぞれ計算し制御する。
【0069】
図16は、図5のステップS503、S504の変位制御パラメータを生成する処理の詳細を示すフローチャートである。第1の実施形態の図8のフローチャートと異なる点についてのみ説明する。図16のフローチャートでは、図8のステップS803、S804、S813、S814を、ステップS1601、S1602、S1603、S1604に変更している。
【0070】
ステップS1601で、変位制御部116の変位量制御部1501は、式(1)を用いてシフトレンズ1401の単位水平変位量d_hを計算する。ステップS1602で、変位制御部116の変位量制御部1501は、式(2)を用いてシフトレンズ1401の単位垂直変位量d_vを計算する。
【0071】
また、変位制御部116の変位量制御部1501は、ステップS1603で、水平変位量を計算し、ステップS1604で、垂直変位量を計算する。撮影順番のPの水平変位量S_h(P)は式(6)を用いて計算し、垂直変位量S_v(P)は式(7)を用いて計算する。
【0072】
以上説明したように、撮影部パラメータと撮影時パラメータとに基づいてシフトレンズ1401の変位制御を行うことにより、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【0073】
(第3の実施形態)
第3の実施形態では、被写体の像を電子的に取得する撮像センサを備えた撮像装置において、撮像装置そのものを微小位置変位させて、複数枚の微小位置ずれのある画像を取得する方式を説明する。なお、撮像装置の構成は第1の実施形態と同様であり、以下では第1の実施形態との相違点を中心に説明する。
【0074】
図17は、撮像装置及び撮像装置を変位させる装置を備えた三脚を示す図である。図17に示すように、三脚1703上に撮像装置1704を水平変位させる装置1702と、垂直変位させる装置1701を設置し、それらの変位装置1701、1702の上に撮像装置1704を設置している。
【0075】
図18は、図1に示した変位制御部116の構成を示すブロック図である。図4で示した第1の実施形態における変位制御部116と比較し、撮像センサの変位量制御部405が、撮像装置本体の変位量制御部1801に変更されている。撮像装置本体の変位量制御部1801では、撮像装置1704の水平、垂直の変位量をそれぞれ計算し制御する。
【0076】
図19は、図5のステップS503、S504の変位制御パラメータを生成する処理の詳細を示すフローチャートである。第1の実施形態の図8のフローチャートと異なる点についてのみ説明する。図19のフローチャートでは、図8のステップS803、S804、S813、S814を、ステップS1901、S1902、S1903、S1904に変更している。
【0077】
ステップS1901で、変位制御部116の変位量制御部1801は、式(1)を用いて撮像装置1704の単位水平変位量d_hを計算する。ステップS1902で、変位制御部116の変位量制御部1801は、式(2)を用いて撮像装置1704の単位垂直変位量d_vを計算する。
【0078】
また、変位制御部116の変位量制御部1801は、ステップS1903で、水平変位量を計算し、ステップS1904で、垂直変位量を計算する。撮影順番のPの水平変位量S_h(P)は式(6)を用いて計算し、垂直変位量S_v(P)は式(7)を用いて計算する。
【0079】
以上説明したように、撮影部パラメータと撮影時パラメータとに基づいて撮像装置1704の変位制御を行うことにより、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【0080】
以上、本発明を種々の実施形態と共に説明したが、本発明はこれらの実施形態にのみ限定されるものではなく、本発明の範囲内で変更等が可能である。上記実施形態では、撮像に関するパラメータを取得し、撮像センサ100(又はシフトレンズ1401又は撮像装置1704)の変位量及び変位タイミングを決定し、撮像センサ100により取得した複数枚の微小位置ずれのある画像データを用いて高解像度画像を生成する処理の全てを撮像装置が実行する例を説明したが、これらの処理の一部或いは全てを、撮像装置に接続する画像処理装置で実行するような形態としてもよい。
【0081】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0082】
100:撮像センサ、101:撮像部、103:信号処理部、106:CPU、114:撮像部パラメータ取得部、115:撮像時パラメータ取得部、116:変位制御部、117:変位装置
【技術分野】
【0001】
本発明は、超解像処理を行うのに利用して好適な撮像装置、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
近年、画像、映像を取得する際に失われた信号を復元し、画像、映像の画素そのものを増やすことで画像、映像の解像度を高める技術、いわゆる超解像技術が普及しつつある。低解像度画像に含まれる信号の周波数帯域が限られるため、一枚の低解像度画像だけから高解像度画像を生成するのは限界がある。そこで、複数枚の低解像度画像を入力として、より画素数の多い高解像度画像を生成する技術がある。複数枚の低解像度画像間にサブピクセルの位置ずれがあれば、一枚の低解像度画像で表現できる解像度を超える高解像度画像を生成することができる。これら複数枚の低解像度画像を取得する手法については、様々な方法が提案されている。
【0003】
例えば特許文献1には、高速、高精度、高画質の画素ずらしシステムを実現するために、平行平板で撮像面における垂直及び水平方向における画素ずらしを行うことができるようにした光学装置が開示されている。
【0004】
また、例えば特許文献2には、撮像装置自体の状態変化(速度や加速度)を考慮して、高解像度化手段で高解像度な画像を生成するようにした撮像装置が開示されている。
【0005】
また、例えば特許文献3には、被写体の画像を固体撮像素子に結像させる撮像レンズ部の1つのレンズを光軸に対して4回の露光ごとに異なる4方向に順次移動させ、この4回の露光によって得られた各画像データを合成して1画面の合成画像データを生成するようにした撮像装置が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開平11−75099号公報
【特許文献2】特開2006−140885号公報
【特許文献3】特開平10−288803号公報
【非特許文献】
【0007】
【非特許文献1】Sung C.P."Super-Resolution Image Reconstruction: A Technical Overview", IEEE Signal Proc,第26巻、第3号、P.21-36,2003年
【発明の概要】
【発明が解決しようとする課題】
【0008】
特許文献1と特許文献3に開示された従来技術では、超解像倍率に応じて、撮影される複数枚の画像の変位量が計算されていないという課題がある。例えば超解像倍率を3倍とする場合には1/3ピクセルの変位量が必要であって、超解像倍率を4倍とする場合には1/4ピクセルの変位量が必要である。このような超解像倍率に応じた画像間の変位が行われていない。
【0009】
また、特許文献2に開示された従来技術では、露光期間中に撮像装置本体の変位がしてしまうと、取得される画像に動きぶれが発生し、超解像処理に適した画像が取得できない課題がある。
【0010】
本発明は上記のような点に鑑みてなされたものであり、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得できるようにすることを目的とする。
【課題を解決するための手段】
【0011】
本発明の撮像装置は、被写体の像を取得する撮像センサを備えた撮像装置であって、撮像に関するパラメータを取得するパラメータ取得手段と、前記パラメータ取得手段で取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び当該撮像装置のいずれかの変位量及び変位タイミングを決定し、制御する変位制御手段と、前記変位制御手段による制御下で前記撮像センサ、前記撮影レンズ及び当該撮像装置のいずれかを変位させて前記撮像センサにより取得した複数枚の位置ずれのある画像データを用いて高解像度画像を生成する信号処理手段とを備えたことを特徴とする。
【発明の効果】
【0012】
本発明によれば、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【図面の簡単な説明】
【0013】
【図1】第1の実施形態に係る撮像装置の構成を示すブロック図である。
【図2】第1の実施形態に係る撮像装置の垂直断面図である。
【図3】撮像センサを保持するプリント基板と、変位装置を保持する基板とを示す図である。
【図4】第1の実施形態における変位制御部の構成を示すブロック図である。
【図5】第1の実施形態に係る撮像装置の処理を示すフローチャートである。
【図6】撮像センサを変位させる状態を説明するための図である。
【図7】シャッター開閉タイミングと撮像センサの変位との関係図を示す図である。
【図8】第1の実施形態における変位制御パラメータを生成する処理の詳細を示すフローチャートである。
【図9】第1の実施形態における撮像センサの変位制御と撮影を行う処理の詳細を示すフローチャートである。
【図10】信号処理部の構成を示すブロック図である。
【図11】撮像センサの変位量と行列Mkの関係を示す図である。
【図12】信号処理部の超解像生成部の構成を示すブロック図である。
【図13】信号処理部の超解像生成部の処理を示すフローチャートである。
【図14】シフトレンズを示す図である。
【図15】第2の実施形態における変位制御部の構成を示すブロック図である。
【図16】第2の実施形態における変位制御パラメータを生成する処理の詳細を示すフローチャートである。
【図17】撮像装置及び撮像装置を変位させる装置を備えた三脚を示す図である。
【図18】第3の実施形態における変位制御部の構成を示すブロック図である。
【図19】第3の実施形態における変位制御パラメータを生成する処理の詳細を示すフローチャートである。
【発明を実施するための形態】
【0014】
以下、添付図面を参照して、本発明の好適な実施形態について説明する。
(第1の実施形態)
第1の実施形態では、被写体の像を電子的に取得する撮像センサを備えた撮像装置において、撮像センサを微小位置変位させて、複数枚の微小位置ずれのある画像を取得する方式を説明する。図1は、本実施形態に係る撮像装置であるデジタルカメラの構成を示すブロック図である。撮像部101は、被写体の光を検知するための装置であり、例えばズームレンズ、フォーカスレンズ、ぶれ補正レンズ、絞り、シャッター、光学ローパスフィルタ、カラーフィルタ、及び、CMOSやCCDの撮像センサ100から構成される。
【0015】
A/D変換部102は、被写体の光の検知量をデジタル値に変換する。信号処理部103は、上記デジタル値に信号処理してデジタル画像を生成し、例えばデモザイキング処理、ホワイトバランス処理、ガンマ処理を行う。詳細は後述するが、この信号処理部103で、複数枚の微小位置ずれのある画像を用いて超解像処理を行う。エンコーダ104は、上記デジタル画像にデータ圧縮を行い、例えばJPEGに圧縮する等の処理を行う。メディアインターフェース部105は、PC(パーソナルコンピュータ)その他メディア(例えばハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)につなぐためのインターフェースである。
【0016】
CPU106は、上述した各構成の処理の全てに関わる。ROM107とRAM108は、その処理に必要なプログラム、データ、作業領域をCPU106に提供する。また、後述する処理に必要な制御プログラムはROM107に格納されており、一旦RAM108に読み込まれてから実行される。
【0017】
操作部109は、ユーザからの指示を入力するためのものであり、例えばボタンやモードダイヤル等が該当する。キャラクタージェネレーション部110は、文字やグラフィックを生成する。D/A変換部111は、上記デジタル画像をアナログ変換する。表示部112は、一般的にはCRTや液晶ディスプレイが用いられ、撮影画像を表示したり、GUI等の画像を表示したりする。また、公知のタッチスクリーンであっても良い。その場合、タッチスクリーンによる入力については操作部109の入力として扱うことも可能である。
【0018】
撮像部コントローラ113は、CPU106で指示された撮像系の制御を行い、例えばフォーカスを合わせる、シャッターを開く、絞りを調節する等の制御を行う。撮像部パラメータ取得部114は、撮像に関するパラメータとして、撮像部101を構成する撮像センサ100の固有情報を取得する。例えばCCD又はCMOSの素子の大きさ、センサピッチの情報である。詳細は後述するが、本実施形態では、センサピッチを用いて撮像センサ100上にサブピクセルレベルの移動を発生させるのに、撮像センサ100の移動距離について計算する。また、撮像時パラメータ取得部115は、撮像に関するパラメータとして、撮像部コントローラ113から撮像時のパラメータ、例えばズーム倍率、シャッタースピードの値を取得する。
【0019】
変位制御部116は、微小位置ずれを生じさせるための撮像センサ100の変位を制御する。本実施形態では、変位制御部116で変位制御パラメータを生成する。変位制御パラメータは、連写枚数、センサシフト量(水平、垂直変位量)及びセンサシフトタイミング(露光開始時間と露光終了時間)である。変位装置117は、変位制御部116からの変位制御パラメータに従って、撮像センサ100を微小位置変位させる。なお、撮像装置の構成においては上記以外にも様々な構成要素が存在するが、本発明の主眼ではないので、その説明は省略する。
【0020】
図2は、本実施形態に係る撮像装置の垂直断面図である。201は撮影光軸である。202は撮像光学系の撮影レンズであり、シフトレンズ(部分レンズ)1401を含む。203はクイックリターンミラーであり、カメラ本体内で撮影光路中に配置され、撮影レンズ202からの被写体光をファインダ光学系に導く位置と撮影光路外に退避する位置との間で移動可能である。204はピント板であり、ピント板204上にはクイックリターンミラー203からファインダ光学系に導かれる被写体光が結像される。205はファインダの視認性を向上させるためのコンデンサレンズである。206はペンタゴナルダハプリズム、207は測光センサ、208は接眼レンズであり、ピント板204及びコンデンサレンズ205を通った被写体光はペンタゴナルダハプリズム206を介してファインダ観察用の接眼レンズ208及び測光センサ207に導かれる。209、210はそれぞれシャッターを構成する後幕、先幕であり、これら後幕209、先幕210の開放によって、後方に配置されている撮像センサ100の撮像素子が必要時間だけ露光される。後幕209と先幕210の動きによりシャッター開閉する。211はプリント基板であり、撮像センサ100を保持する。212はプリント基板211の後方にある基板であり、変位装置117を保持し、プリント基板211、すなわち撮像センサ100を変位させる。213は画像データを記録する記録装置、214は電池であり、カメラ本体に対して着脱可能である。なお、撮像装置の構成においては上記以外にも様々な構成要素が存在するが、本発明の主眼ではないので、その説明は省略する。
【0021】
図3は、撮像センサ100を保持するプリント基板211と、変位装置117を保持する基板212とを示す図であり、(a)が正面図、(b)が側面図である。矢印は、変位装置117によるプリント基板211の運動方向(変位方向)を示す。本実施形態では、プリント基板211を上下(垂直方向)及び左右(水平方向)に変位させる。変位装置117は基板212に装着されたモータ駆動装置或いはピエゾ駆動装置であり、プリント基板211の背面に接着している。
【0022】
図4は、図1に示した変位制御部116の構成を示すブロック図である。変位制御には二つの制御要素があり、一つは変位量制御、一つは変位タイミング制御である。超解像処理とは、サブピクセルレベルでの位置ずれのある複数枚の画像を撮影し、これらの画像について光学系の劣化要因をキャンセルした上で合成する手法である。1画素を水平、垂直均等にN×N個サブピクセルに分割して撮影したN×N枚の画像から一枚の高解像画像を生成した場合、超解像倍率をN倍と定義する。
【0023】
図4において、撮像部パラメータ取得部114から超解像するための超解像倍率、撮像センサ100で記録される画素間の距離情報が入力されて、変位量のコントロールに使われる。また、撮像時パラメータ取得部115から露光時間の情報が入力されて、変位タイミングのコントロールに使われる。
【0024】
変位制御部116は、センサピッチ情報取得部401、超解像倍率情報取得部402を備え、センサピッチと超解像倍率を取得する。撮像センサの変位量制御部405では、撮像センサ100の水平、垂直の変位量をそれぞれ計算し制御する。ここで、撮像センサ100の水平センサピッチサイズをp_h、垂直センサピッチサイズをp_vとする。超解像倍率がN倍であれば、撮像センサ100を水平方向にシフトさせる際の単位距離d_hは式(1)で計算することができる。また、撮像センサ100を垂直方向にシフトさせる際の単位距離d_vは式(2)で計算することができる。
【0025】
【数1】
【0026】
超解像倍率がN倍であれば、N×N枚の微小位置ずれ画像が必要である。超解像倍率の情報を基づいて連写枚数取得部406で連写枚数を取得する。
【0027】
また、変位制御部116は、変位制御時間取得部403、露光時間取得部404を備え、変位装置制御時間と露光時間を取得する。変位タイミング制御部407では、取得された変位装置制御時間を用いて、変位タイミングを決める。停止時間制御部408は、露光期間中、撮像センサ100の動きを止めて動きブレのない画像を取得するため、露光期間中に撮像センサ100を停止させる。
【0028】
変位制御部116は、変位量と変位タイミングの変位制御パラメータを変位装置117へ送る。
【0029】
図5は、撮像装置の処理、具体的には撮像センサ100を微小位置変位させて、複数枚の微小位置ずれのある画像を取得する処理を示すフローチャートである。ステップS501は撮像センサ個体のパラメータを取得するステップであり、変位制御部116は、撮像センサ100のセンサピッチサイズ、超解像倍率を取得する。
【0030】
ステップS502は撮像時パラメータを取得するステップであり、変位制御部116は、撮像時の露光時間の情報を取得する。
【0031】
ステップS503で、変位制御部116は、ステップS501で取得したパラメータを用いて撮像センサ100の変位量を決定し、変位制御パラメータを生成する。その詳細については後述する。また、ステップS504で、変位制御部116は、ステップS502で取得したパラメータを用いて撮像センサ100の変位タイミングを決定し、変位制御パラメータを生成する。その詳細については後述する。
【0032】
ステップS505で、撮像装置は、ステップS503、S504において生成された変位制御パラメータに基づいて撮像センサ100を変位させた後、撮影を実行する。ステップS506では、ステップS505において取得した複数枚の微小位置ずれのある画像を用いて高解像度画像を生成する。
【0033】
図6は、撮像センサ100を水平、垂直に変位させる状態を説明するための図である。図6において、点線で描かれた格子は撮像素子の単位ピクセルである。また、実線で描かれた格子は撮像素子の単位ピクセルを更に分割したサブピクセルである。
【0034】
図6において、p_hは水平センサピッチサイズ、p_vは垂直センサピッチサイズである。図6では、超解像倍率はN=3倍であって、単位ピクセルを均等に3分割した例を示す。撮像センサ100の水平単位変位量はd_h、垂直単位変位量はd_vで示す。撮像センサ100の変位量に応じて水平、垂直方向で計9枚の画像を取得する。ここで、撮像センサ100のホームポジションを(0,0)とし、変位後の位置を(S_h(num),S_v(num))とする。numは整数であって、変位画像の番号である。すなわち、S_h(num)はnum番目の取得画像の水平変位量を示し、S_v(num)はnum番目の取得画像の垂直変位量を示す。図6において、矢印は撮像センサ100を変位させる順番を示し、取得された画像の番号をIからIXで示す。これら取得されたサブピクセルレベルの位置ずれがある画像から後述する超解像処理により解像度を3倍に向上させた高超解像画像が生成される。
【0035】
図7は、シャッター開閉タイミングと撮像センサ100の変位との関係図を示す図である。図7は、図6に対応しており、超解像倍率が3倍であって、1ピクセルを均等に3分割した例を示す。図7(a)において、横軸は時間を示し、縦軸はシャッターの開閉を示す。一枚の画像を撮影するために必要となる変位制御時間と露光時間を含む時間Tとする。シャッターが開いている時間は露光時間tとする。図7(b)、(c)に、変位装置117による撮像センサ100の変位タイミングを示す。横軸は時間を示し、縦軸は水平変位量と垂直変位量を示す。変位タイミングのコントロールとは、露光期間以外の時間に撮像センサ100を変位させ、露光期間中に撮像センサ100を停止させる制御である。撮像センサ100の変位は、変位制御部116の制御により行われる。変位制御では、撮像センサ100を変位させる時間と撮像センサ100を停止させる時間の制御、変位量の制御を行っている。撮像センサ100の変位と停止時間はタイマにて管理する。撮像センサ100の変位制御のうち変位タイミングは、露光開始時間t_startと露光終了時間t_endの二つの変数を用いて制御する。
【0036】
図8は、図5のステップS503、S504の変位制御パラメータを生成する処理の詳細を示すフローチャートである。ステップS801で、変位制御部116のセンサピッチ情報取得部401は、撮像部パラメータ取得部114から入力されたセンサピッチサイズp_h(水平)、p_v(垂直)を取得する。ステップS802で、変位制御部116の超解像倍率情報取得部402は、撮像部パラメータ取得部114から入力された超解像倍率Nを取得する。
【0037】
ステップS803で、変位制御部116の変位量制御部405は、式(1)を用いて撮像センサ100の単位水平変位量d_hを計算する。ステップS804で、変位制御部116の変位量制御部405は、式(2)を用いて撮像センサの単位垂直変位量d_vを計算する。
【0038】
ステップS805で、変位制御部116の連写枚数取得部406は、連写枚数を取得する。ステップS806で、変位制御部116の変位制御時間取得部403は、一枚の画像を撮影するために必要となる変位制御時間と露光時間を含む時間Tを取得する。ステップS807で、変位制御部116の露光時間取得部404は、一枚撮影する露光時間tを取得する。
【0039】
ステップS808〜ステップS818、ステップS809〜ステップS817は、N回の撮影における変位量、変位タイミングを決定するループ処理である。ステップS810で、複数枚画像の撮影順番を求める。式(3)は撮影順番Pを算出する式であり、図6に示した順番と同じである。i、jはループ回数を表す変数である。
【0040】
【数2】
【0041】
露光開始時間はt_start(P)であって、露光終了時間t_end(P)である。変位制御部116の変位タイミング制御部407は、ステップS811で、式(4)を用いて変位開始時間t_start(P)を計算し、ステップS812では、式(5)を用いて変位終了時間t_end(P)を計算する。
【0042】
【数3】
【0043】
変位制御部116の変位量制御部405は、ステップS813で、水平変位量を計算し、ステップS814で、垂直変位量を計算する。撮影順番のPの水平変位量S_h(P)は式(6)を用いて計算し、垂直変位量S_v(P)は式(7)を用いて計算する。
【0044】
【数4】
【0045】
以上の処理により、変位制御パラメータ(連写枚数、露光開始時間と終了時間、水平、垂直変位量)の生成が完了する。
【0046】
図9は、図5のステップS505の撮像センサ100の変位制御と撮影を行う処理の詳細を示すフローチャートである。ステップS901で、図8で説明したように生成された変位制御パラメータを取得する。
【0047】
ステップS902では、変数countを初期化する。ステップS903では、タイマを開始させる。ステップS904では、変位装置117を起動する。ステップS905では、変数countと連写枚数とを比較する。変数countの値が連写枚数に達していない場合、ステップS906に進む。変数countの値が連写枚数に達している場合、ステップS916に進む。
【0048】
ステップS906においてタイマの示す時間が露光開始時間t_start(count)と同じである場合、ステップS907に進み、変位装置117を停止させる。タイマの示す時間と露光開始時間t_start(count)とが同じでない場合、ステップS909に進む。ステップS908では、撮像装置による撮影を行う。ステップS909においてタイマの示す時間が露光停止時間と同じである場合、ステップS910に進み、撮影を終了する。
【0049】
ステップS911では、変位装置117に変位量を転送する。ステップS912では、撮像センサ100を変位させる。ステップS913においてタイマの示す時間が次の露光開始時間t_start(count+1)と同じである場合、ステップS915に進み、撮像センサ100の変位を終了させる。タイマの示す時間が露光開始時間t_start(count+1)と同じでない場合、ステップS914に進み、タイマを更新する。ステップS916では、変数countの値を一つ増やす。連写枚数が全部撮影できた後に、全処理が終了する。
【0050】
<超解像処理>
本実施形態では、超解像処理は非特許文献1に開示されているMAP法(Maximum A Posterior)を使う。
【0051】
【数5】
【0052】
X^は推定された超解像画像、yは劣化条件で劣化された画像、Mkは基準画像との位置ずれ、DとBは劣化条件である。kは画像番号である。図10は、図1に示した信号処理部103の構成を示すブロック図である。図10を参照して、MAP法による超解像処理を説明する。基準画像との位置ずれ情報は行列Mkで示す。光学系PSFによる劣化処理は行列Bで表示する。ダウンサンプリング処理であって、処理内容は画像縮小の倍率を行列として提供される。行列Dで表示する。
【0053】
式(8)の左辺第二項は、入力画像と劣化過程を経て推定された画像との差分値を演算する項である。σは画像Yのノイズの標準偏差である。式(8)の右辺部を抽出し、超解像処理時の評価関数として用いる数式が次式(9)である。
【0054】
【数6】
【0055】
撮像装置で撮影した画像は、A/D変換部102から信号処理部103に入力される。また、信号処理部103には、撮像部パラメータ取得部114から撮像モデルと、撮像センサ100の変位量が入力される。撮像モデル取得部1001では、撮像装置の撮像モデルを取得する。撮像モデルは、撮影用撮像装置の光学系の劣化PSFと撮像センサ画素数の制限によるダウンサンプリングである。本実施形態では、撮像センサ100を変位させて撮影するため、変位量取得部1003では、撮像センサ100の変位量を取得する。メモリ1002には、複数枚の微小位置ずれのある画像データを格納する。超解像生成部1004では、撮像モデルと画像間の変位量を用いて、複数枚の微小位置ずれのある画像を用いて高解像度画像を生成する。生成された高解像度画像は、出力端子からD/A変換部111を介して表示部112に、又はエンコーダ104を介してメディアインターフェース部105に出力される。
【0056】
図11は、撮像センサ100の変位量と行列Mkの関係を示す図である。本実施形態では、撮像センサ100の水平、垂直のずれ量を(S_h(P),S_v(P))を用いて、行列Mkを形成する。なお、P=k=1、2、3、…、Nである。図11において、W、Hは超解像画像の横画素数、縦画素数である。(x,y)は超解像画像上の着目画素位置を示す。行列MkはH×W次正方行列である。撮像センサがホームポジションにあるときに、行列Mkの対角成分以外の成分がすべて0であって、行列Mkの対角成分は1である。行列成分が1である場合、対応する画素位置の画素値に参照する。撮像センサ100がホームポジションから変位量(S_h(P),S_v(P))で変位したとき、参照する画素位置が変わり、行列Mkの行列成分が1である画素の位置が変化する。具体的には、行列の位置((x+S_h(P))×H+(y+S_v(P)))行、(x×H+y)列に対応する行列成分を1とし、そのほかの画素位置の成分を0とする。
【0057】
図12は、信号処理部103の超解像生成部1004の構成を示すブロック図である。本実施形態では、超解像画像をHR画像と示す。図12において、画像入力端子1201からN枚の画像が入力される。Nは2以上の整数である。本実施形態で扱う入力画像は8ビットのグレイスケール画像とする。初期HR画像作成部1204では、入力された画像を用いて高解像画像の初期値を作成する。本実施形態では、線形補間手法を使用して初期HR画像を作成する。HR画像生成部1205では、MAP推定法によって計算される修正量をHR画像に加えることによりHR画像を更新する。劣化画像作成部1206では、撮像モデル入力端子1203と変位情報入力端子1202から与えられる劣化条件と変位情報に従って入力画像を劣化させ、劣化画像を生成する。劣化条件は撮影用カメラの光学系の劣化PSFとセンサ画素数の制限によるダウンサンプリングである。本実施形態では扱うダウンサンプリングは、ダウンサンプリング時の縮小倍率(1/size_x,1/size_y)で与えられる。なお、size_x、size_yは自然数であるとする。更に、複数枚画像間の位置ずれは既に変位制御する際に使用した変位量に相当するので、変位情報入力端子1202から撮像センサ100の水平、垂直変位量が入力される。本実施形態は、水平、垂直方向の位置ずれを扱う。取得されるN枚の画像のうち、一枚目の画像を基準画像(図6に示されたI番の画像)とし、基準画像からの相対移動量を位置ずれの情報とする。基準画像の中央画像位置を原点と定め、原点に対する水平、垂直のずれ量を(S_h(P),S_v(P))を取得する。なお、P=k=1、2、3、…、Nである。
【0058】
これらの劣化条件は超解像処理に先立って、予め計測されるデータ、或いは既知のデータである。差分演算部1209では、画像入力端子1201で入力された入力画像と劣化画像作成部1206で作成された劣化画像を差分演算する。上記得られた画像間の差分情報の平均値を計算し、超解像画像が生成されたのかどうかを判断する。終了判定部1207では、差分演算部1209の結果を閾値と比較する。そして、差分演算部1209の結果が閾値より小さい場合、終了判定部1207は0と出力する。差分演算部1209の結果が閾値より大きい場合、終了判定部1207は1と出力し、差分演算部1209の結果を修正量計算部1208に入力する。終了判定部1207で入力された結果1である場合、修正量計算部1208では修正量を計算し、修正量を出力する。終了判定部1207で入力された結果0である場合、修正量計算部1208は0として出力する。修正量計算部1208の結果によりHR画像生成部1205でHR画像を生成する。具体的には、修正量計算部1208で得た修正量をHR画像に加える。修正量計算の詳細を後述する。修正量計算部1208の修正量がゼロである場合、HR画像生成部1205はHR画像生成し、HR画像出力端子1210に送る。修正量計算部1208の修正量が非ゼロの場合、劣化画像作成部1206に送る。差分演算部1209の結果が閾値より小さくなると、HR画像出力端子1210からHR画像を出力し、HR画像の生成が完了する。
【0059】
図13は、信号処理部103の超解像生成部1004の処理を示すフローチャートである。ステップS1301で、撮影画像を入力する。Yは入力画像を示す。ステップS1302で、取得された複数枚画像間の位置ずれ情報を含むMk行列を入力する。ステップS1303で、撮像装置の光学劣化条件B行列を入力する。ステップS1304で、撮像装置のダウンサンプリングD行列を入力する。ステップS1305で、初期HR画像を生成する。初期HR画像は線形補間により横サイズM倍、縦サイズN倍に拡大する。ステップS1306で、閾値を取得する。ステップS1308で、式(10)を用いて推定劣化画像Y'を作成する。
【0060】
【数7】
【0061】
HR画像は、ステップS1307からの繰り返し演算によってステップS1313で生成される。i回目の演算で生成されたHR画像をXiとする。ステップS1307〜S1309の間で入力された画像の枚数分の推定劣化画像を生成するループである。ステップS1313で、ステップS1308の計算で得た推定劣化画像と撮影された全ての画像、全ての画素について差分を取って、差分値の平均値と閾値と比較する。差分値の平均値が閾値より小さい場合には、ステップS1314に進み、繰り返し演算が終わる設定になっている。差分値の平均値が閾値より大きいであれば、ステップS1310に進み、HR画像の修正量を計算する更新項を求める。更新項の求め方は後述する。ステップS1311で、ループ回数をカウントする。ステップS1312で、HR画像にステップS1310で計算された更新項の結果を加えてHR画像を更新する。ステップS1313において計算される差分値の平均値が閾値以下となるまで、ステップS1307〜ステップS1313の処理を繰り返し行う。
【0062】
ステップS1310では、HR画像の更新項を計算する。上記評価関数での結果を受けて推定HRにフィードバックを行い、推定HR画像を更新する。本実施形態では最急降下法を用いて推定HR画像を更新する。最急降下法は最小化する関数の一次微分のみを使用した最適化手法である。最急降下法を評価関数式に適応すると、下式(11)が計算される。
【0063】
【数8】
【0064】
以上説明したように、撮影部パラメータと撮影時パラメータとに基づいて撮像センサ100の変位制御を行うことにより、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【0065】
(第2の実施形態)
第2の実施形態では、被写体の像を電子的に取得する撮像センサを備えた撮像装置において、レンズを微小位置変位させて、複数枚の微小位置ずれのある画像を取得する方式を説明する。なお、撮像装置の構成は第1の実施形態と同様であり、以下では第1の実施形態との相違点を中心に説明する。
【0066】
本実施形態では、図2に示すように、撮像光学系の撮影レンズ202の含まれるシフトレンズ1401を変位させることにより、撮像センサ100に到着する光線を変位させる。すなわち、シフトレンズ1401を介して入射した光束を、撮像センサ100の面上に水平方向、垂直方向にそれぞれ画素間隔より小さい変位量でシフトさせる。
【0067】
図14は、シフトレンズ1401を示す図であり、(a)が正面図、(b)が側面図である。本実施形態では、変位装置である電磁アクチュエータ1402でシフトレンズ1401をシフトさせる。矢印は、電磁アクチュエータ1402によるシフトレンズ1401の運動方向(変位方向)を示す。電磁アクチュエータ1402によりシフトレンズ1401を水平、垂直シフトすることによって、シフトレンズ1401のサブピクセルレベルの変位を制御する。
【0068】
図15は、図1に示した変位制御部116の構成を示すブロック図である。図4で示した第1の実施形態における変位制御部116と比較し、撮像センサの変位量制御部405が、レンズの変位量制御部1501に変更されている。撮像レンズの変位量制御部1501では、シフトレンズ1401の水平、垂直の変位量をそれぞれ計算し制御する。
【0069】
図16は、図5のステップS503、S504の変位制御パラメータを生成する処理の詳細を示すフローチャートである。第1の実施形態の図8のフローチャートと異なる点についてのみ説明する。図16のフローチャートでは、図8のステップS803、S804、S813、S814を、ステップS1601、S1602、S1603、S1604に変更している。
【0070】
ステップS1601で、変位制御部116の変位量制御部1501は、式(1)を用いてシフトレンズ1401の単位水平変位量d_hを計算する。ステップS1602で、変位制御部116の変位量制御部1501は、式(2)を用いてシフトレンズ1401の単位垂直変位量d_vを計算する。
【0071】
また、変位制御部116の変位量制御部1501は、ステップS1603で、水平変位量を計算し、ステップS1604で、垂直変位量を計算する。撮影順番のPの水平変位量S_h(P)は式(6)を用いて計算し、垂直変位量S_v(P)は式(7)を用いて計算する。
【0072】
以上説明したように、撮影部パラメータと撮影時パラメータとに基づいてシフトレンズ1401の変位制御を行うことにより、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【0073】
(第3の実施形態)
第3の実施形態では、被写体の像を電子的に取得する撮像センサを備えた撮像装置において、撮像装置そのものを微小位置変位させて、複数枚の微小位置ずれのある画像を取得する方式を説明する。なお、撮像装置の構成は第1の実施形態と同様であり、以下では第1の実施形態との相違点を中心に説明する。
【0074】
図17は、撮像装置及び撮像装置を変位させる装置を備えた三脚を示す図である。図17に示すように、三脚1703上に撮像装置1704を水平変位させる装置1702と、垂直変位させる装置1701を設置し、それらの変位装置1701、1702の上に撮像装置1704を設置している。
【0075】
図18は、図1に示した変位制御部116の構成を示すブロック図である。図4で示した第1の実施形態における変位制御部116と比較し、撮像センサの変位量制御部405が、撮像装置本体の変位量制御部1801に変更されている。撮像装置本体の変位量制御部1801では、撮像装置1704の水平、垂直の変位量をそれぞれ計算し制御する。
【0076】
図19は、図5のステップS503、S504の変位制御パラメータを生成する処理の詳細を示すフローチャートである。第1の実施形態の図8のフローチャートと異なる点についてのみ説明する。図19のフローチャートでは、図8のステップS803、S804、S813、S814を、ステップS1901、S1902、S1903、S1904に変更している。
【0077】
ステップS1901で、変位制御部116の変位量制御部1801は、式(1)を用いて撮像装置1704の単位水平変位量d_hを計算する。ステップS1902で、変位制御部116の変位量制御部1801は、式(2)を用いて撮像装置1704の単位垂直変位量d_vを計算する。
【0078】
また、変位制御部116の変位量制御部1801は、ステップS1903で、水平変位量を計算し、ステップS1904で、垂直変位量を計算する。撮影順番のPの水平変位量S_h(P)は式(6)を用いて計算し、垂直変位量S_v(P)は式(7)を用いて計算する。
【0079】
以上説明したように、撮影部パラメータと撮影時パラメータとに基づいて撮像装置1704の変位制御を行うことにより、高解像度画像を生成する上で好適な微小位置ずれのある複数枚の画像を取得することができる。
【0080】
以上、本発明を種々の実施形態と共に説明したが、本発明はこれらの実施形態にのみ限定されるものではなく、本発明の範囲内で変更等が可能である。上記実施形態では、撮像に関するパラメータを取得し、撮像センサ100(又はシフトレンズ1401又は撮像装置1704)の変位量及び変位タイミングを決定し、撮像センサ100により取得した複数枚の微小位置ずれのある画像データを用いて高解像度画像を生成する処理の全てを撮像装置が実行する例を説明したが、これらの処理の一部或いは全てを、撮像装置に接続する画像処理装置で実行するような形態としてもよい。
【0081】
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。
【符号の説明】
【0082】
100:撮像センサ、101:撮像部、103:信号処理部、106:CPU、114:撮像部パラメータ取得部、115:撮像時パラメータ取得部、116:変位制御部、117:変位装置
【特許請求の範囲】
【請求項1】
被写体の像を取得する撮像センサを備えた撮像装置であって、
撮像に関するパラメータを取得するパラメータ取得手段と、
前記パラメータ取得手段で取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び当該撮像装置のいずれかの変位量及び変位タイミングを決定し、制御する変位制御手段と、
前記変位制御手段による制御下で前記撮像センサ、前記撮影レンズ及び当該撮像装置のいずれかを変位させて前記撮像センサにより取得した複数枚の位置ずれのある画像データを用いて高解像度画像を生成する信号処理手段とを備えたことを特徴とする撮像装置。
【請求項2】
前記撮像に関するパラメータには、前記撮像センサのセンサピッチ情報が含まれることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記撮像に関するパラメータには、超解像倍率が含まれることを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記撮像に関するパラメータには、露光時間が含まれることを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
被写体の像を取得する撮像センサを備えた撮像装置を用いて超解像処理を行う画像処理装置であって、
撮像に関するパラメータを取得するパラメータ取得手段と、
前記パラメータ取得手段で取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び前記撮像装置のいずれかの変位量及び変位タイミングを決定し、制御する変位制御手段と、
前記変位制御手段による制御下で前記撮像センサ、前記撮影レンズ及び前記撮像装置のいずれかを変位させて前記撮像センサにより取得した複数枚の位置ずれのある画像データを用いて高解像度画像を生成する信号処理手段とを備えたことを特徴とする画像処理装置。
【請求項6】
被写体の像を取得する撮像センサを備えた撮像装置を用いて超解像処理を行う画像処理方法であって、
撮像に関するパラメータを取得するステップと、
前記取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び前記撮像装置のいずれかの変位量及び変位タイミングを決定するステップと、
前記決定した変位量及び変位タイミングに従って前記撮像センサ、前記撮影レンズ及び前記撮像装置のいずれかを変位させて前記撮像センサにより複数枚の位置ずれのある画像データを取得するステップと、
前記複数枚の位置ずれのある画像データを用いて高解像度画像を生成するステップとを有することを特徴とする画像処理方法。
【請求項7】
被写体の像を取得する撮像センサを備えた撮像装置を用いて超解像処理を行うためのプログラムであって、
撮像に関するパラメータを取得する処理と、
前記取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び前記撮像装置のいずれかの変位量及び変位タイミングを決定する処理と、
前記決定した変位量及び変位タイミングに従って前記撮像センサ、前記撮影レンズ及び前記撮像装置のいずれかを変位させて前記撮像センサにより複数枚の位置ずれのある画像データを取得する処理と、
前記複数枚の位置ずれのある画像データを用いて高解像度画像を生成する処理とをコンピュータに実行させるためのプログラム。
【請求項1】
被写体の像を取得する撮像センサを備えた撮像装置であって、
撮像に関するパラメータを取得するパラメータ取得手段と、
前記パラメータ取得手段で取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び当該撮像装置のいずれかの変位量及び変位タイミングを決定し、制御する変位制御手段と、
前記変位制御手段による制御下で前記撮像センサ、前記撮影レンズ及び当該撮像装置のいずれかを変位させて前記撮像センサにより取得した複数枚の位置ずれのある画像データを用いて高解像度画像を生成する信号処理手段とを備えたことを特徴とする撮像装置。
【請求項2】
前記撮像に関するパラメータには、前記撮像センサのセンサピッチ情報が含まれることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記撮像に関するパラメータには、超解像倍率が含まれることを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記撮像に関するパラメータには、露光時間が含まれることを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
被写体の像を取得する撮像センサを備えた撮像装置を用いて超解像処理を行う画像処理装置であって、
撮像に関するパラメータを取得するパラメータ取得手段と、
前記パラメータ取得手段で取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び前記撮像装置のいずれかの変位量及び変位タイミングを決定し、制御する変位制御手段と、
前記変位制御手段による制御下で前記撮像センサ、前記撮影レンズ及び前記撮像装置のいずれかを変位させて前記撮像センサにより取得した複数枚の位置ずれのある画像データを用いて高解像度画像を生成する信号処理手段とを備えたことを特徴とする画像処理装置。
【請求項6】
被写体の像を取得する撮像センサを備えた撮像装置を用いて超解像処理を行う画像処理方法であって、
撮像に関するパラメータを取得するステップと、
前記取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び前記撮像装置のいずれかの変位量及び変位タイミングを決定するステップと、
前記決定した変位量及び変位タイミングに従って前記撮像センサ、前記撮影レンズ及び前記撮像装置のいずれかを変位させて前記撮像センサにより複数枚の位置ずれのある画像データを取得するステップと、
前記複数枚の位置ずれのある画像データを用いて高解像度画像を生成するステップとを有することを特徴とする画像処理方法。
【請求項7】
被写体の像を取得する撮像センサを備えた撮像装置を用いて超解像処理を行うためのプログラムであって、
撮像に関するパラメータを取得する処理と、
前記取得したパラメータに基づいて、前記撮像センサ、前記撮像センサに結像する撮影レンズ及び前記撮像装置のいずれかの変位量及び変位タイミングを決定する処理と、
前記決定した変位量及び変位タイミングに従って前記撮像センサ、前記撮影レンズ及び前記撮像装置のいずれかを変位させて前記撮像センサにより複数枚の位置ずれのある画像データを取得する処理と、
前記複数枚の位置ずれのある画像データを用いて高解像度画像を生成する処理とをコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2013−74337(P2013−74337A)
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願番号】特願2011−209890(P2011−209890)
【出願日】平成23年9月26日(2011.9.26)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年4月22日(2013.4.22)
【国際特許分類】
【出願日】平成23年9月26日(2011.9.26)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]