説明

画像判断装置、画像処理装置、カメラ及び画像判断プログラム

【課題】学習によって判断基準を決定する画像判断装置等を提供する。
【解決手段】学習画像を記憶する第1記憶部16と、前記学習画像について、画像品質に関する指標の具体値を取得する特徴抽出部40と、前記学習画像を所定の表示条件で表示する表示部14と、前記表示部によって表示された前記学習画像に対する評価者の判断結果を取得する入力部32と、前記判断結果と前記具体値を対応させた学習要素を記憶する第2記憶部20と、前記学習要素から、前記指標に関する前記評価者の判断基準値を決定する学習演算部36と、を有する画像判断装置。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像判断装置、画像処理装置、カメラ及び画像判断プログラムに関する。
【背景技術】
【0002】
デジタルカメラは、記録媒体に要するコストが比較的安価であり、またゴミを発生させることなく容易に撮影画像を削除可能であること等から、撮影枚数の増大を気にせずに、撮影したいだけ撮影できるという利点を有する。そのため、デジタルカメラによる撮影画像の数は、銀塩カメラに比べて増大する傾向にある。その一方で、撮影者が失敗を怖れずに撮影を行う結果、デジタルカメラの撮影画像には、ブレやボケが発生したような失敗画像が、比較的多く含まれる傾向にある。
【0003】
撮影者は、失敗画像が印刷されることや、失敗画像によって記録媒体が占有され続けることを防ぐために、カメラの液晶画面やPCのモニタで失敗画像を選別し、これを分別又は削除する作業を行うことができる。しかし、多くの撮影画像に対して、このような目視及び手動による仕分け作業を行うことは、煩雑であり、撮影者の負担となっている。
【0004】
このような問題を解決するための従来技術として、画像データに含まれる高周波成分を抽出すること等により撮影ミスを判断するための指標を算出し、自動的に撮影画像の合否判断を行う技術が提案されている(特許文献1等参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2001−256498号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
従来技術に係る画像判断技術において、撮影画像を仕分けるための基準となる判断基準は、例えば失敗画像及び成功画像の一般的な傾向を統計的に調査して定められたものにすぎないため、撮影者個人が求める判断基準に対してずれが生じるという問題がある。撮影画像を仕分けるための判断基準は、撮影者の個性、撮影画像の用途、撮影画像の鑑賞サイズ等によって異なるからである。また、仮に撮影者が判断基準を任意に設定できる場合であっても、撮影画像の合否判断には様々な要因が影響するため、如何なる基準が自分に適しているかを撮影者自身が認識し、正しく設定を行うことは、容易ではないと考えられる。
【0007】
本発明は、このような実状に鑑みてなされ、その目的は、学習によって判断基準を決定する画像判断装置等を提供することである。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本発明に係る画像判断装置は、
学習画像を記憶する第1記憶部(16)と、
前記学習画像について、画像品質に関する指標の具体値を取得する特徴抽出部(40)と、
前記学習画像を所定の表示条件で表示する表示部(14)と、
前記表示部によって表示された前記学習画像に対する評価者の判断結果を取得する入力部(32)と、
前記判断結果と前記具体値を対応させた学習要素を記憶する第2記憶部(20)と、
前記学習要素から、前記指標に関する前記評価者の判断基準値を決定する学習演算部(36)と、を有する。
【0009】
また、例えば、前記特徴抽出部は主成分分析部(46)を有しても良く、
前記主成分分析部は、画像品質に関する2以上の暫定指標に各々対応する暫定具体値を、2以上の前記学習画像の各々について取得し、前記暫定具体値について主成分分析を行い、2以上の前記暫定指標が統合された主成分に関する前記具体値を算出しても良い。
【0010】
また、例えば、前記学習演算部は、前記学習要素について判別分析を行い、前記判断基準値を決定しても良い。
【0011】
また、例えば、本発明に係る画像判断装置は、前記評価者によって選択された画像鑑賞サイズ情報を取得し、前記画像鑑賞サイズを前記表示条件に反映させる画像サイズ取得部(34)をさらに有しても良い。
【0012】
また、例えば、本発明に係る画像判断装置は、前記学習画像の画像品質を調整する画質調整部(38)をさらに有しても良く、
前記画質調整部は、前記学習画像の前記指標の前記具体値が、予め定められた第1の値になるように前記学習画像の画像品質を調整し、
前記表示部は、前記画質調整部によって調整された前記学習画像を表示しても良い。
【0013】
また、本発明に係る画像処理装置は、上記いずれかに記載の画像判断装置と、
撮影された撮影画像について、画像品質に関する第2指標の第2具体値を取得し、前記撮影画像の前記第2具体値と、前記画像判断装置によって決定された前記判断基準値とを比較して、前記撮影画像を判断する撮影画像判断部(52)と、を有する。
【0014】
本発明に係るカメラは、上記に記載の画像処理装置を有する。
【0015】
また、本発明に係る画像判断プログラムは、
コンピュータに、
第1記憶部に記憶された学習画像を読み出す手順と、
前記学習画像について、画像品質に関する指標の具体値を算出する手順と、
前記学習画像を所定の表示条件で表示する手順と、
前記表示部によって表示された前記学習画像に対する評価者の判断結果を取得する手順と、
前記判断結果と前記指標の前記具体値とを対応させた学習要素を記憶させる手順と、
前記学習要素から、前記指標に関する前記評価者の判断基準値を決定する手順と、を実行させる。
【0016】
なお上述の説明では、本発明をわかりやすく説明するために実施形態を示す図面の符号に対応づけて説明したが、本発明は、これに限定されるものでない。後述の実施形態の構成を適宜改良してもよく、また、少なくとも一部を他の構成物に代替させてもよい。さらに、その配置について特に限定のない構成要件は、実施形態で開示した配置に限らず、その機能を達成できる位置に配置することができる。
【図面の簡単な説明】
【0017】
【図1】図1は、本発明の一実施形態に係る画像判断装置のブロック図である。
【図2】図2は、図1に示す画像判断装置で行われる学習処理の第1の例を表すフローチャートである。
【図3】図3は、図2に示す学習処理における判断基準値の決定処理を説明した概念図である。
【図4】図4は、図1に示す画像判断装置で行われる学習処理の第2の例を表すフローチャートである。
【図5】図5は、図4に示す学習処理を説明した概念図である。
【図6】図6は、図1に示す画像判断装置で行われる学習処理の第3の例を表すフローチャートである。
【図7】図7は、図6に示す学習処理における学習画像の画像品質の変更手順を説明した概念図である。
【図8】図8は、本発明の第2実施形態に係る画像処理装置のブロック図である。
【図9】図9は、図8に示す画像処理装置で行われる学習処理と自動判別処理の関係を表す概念図である。
【図10】図10は、図8に示す画像処理装置で行われる自動判別処理の一例を表すフローチャートである。
【発明を実施するための形態】
【0018】
第1実施形態
図1は、本発明の一実施形態に係る画像判断装置10のブロック図である。画像判断装置10は、撮影画像の自動判断処理等に用いる判断基準値を、学習処理により算出する。画像判断装置10は、PC(パーソナルコンピュータ)等に搭載されてもよく、デジタルカメラや携帯電話など、デジタル画像を生成する撮像装置に搭載されても良い。
【0019】
画像判断装置10は、入力装置12、表示装置14、記憶装置16、画像メモリ18、プログラムメモリ20及び中央処理装置30を有する。入力装置12は、画像判断装置10を使用する評価者が、評価者の判断や意志等を、画像判断装置10に伝えるための操作部である。入力装置12の例としては、画像判断装置10がPCである場合には、マウス、キーボード、タッチパネル等が挙げられ、画像判断装置10が撮像装置である場合には、十字キー、ダイアル、ボタン等が挙げられるが特に限定されない。入力装置12は、評価者の操作に基づき、操作信号を中央処理装置30に出力する。
【0020】
表示装置14は、撮影画像や表示画像等の各種画像や、操作メニュー等を表示するものである。表示装置14の例としては、液晶パネル等が挙げられる。表示装置14も、入力装置12と同様に、中央処理装置30によって制御される。記憶装置16は、各種画像ファイルや、中央処理装置30等を制御するためのプログラム及び当該プログラムに使用するデータ等が記憶される。記憶装置16に記憶される画像ファイルには、画像判断装置10による学習処理に用いられる学習画像や、図8に示す撮影画像判断部52による自動判断処理によって判断される撮影画像等が含まれる。
【0021】
プログラムメモリ20には、画像判断装置10に学習処理を行わせるためのプログラムや、図7に示す画像処理装置50に自動判断処理を行わせるためのプログラムが格納される。また、プログラムメモリ20は、学習処理の際に、最終的な判断基準値を算出する過程で得られる学習要素を一時的に記憶する。
【0022】
画像メモリ18は、記憶装置16に記憶されている画像データを、一時的に格納する。中央処理装置30は、画像データに対して各種の演算処理を行う場合や、表示装置14に画像を表示させるような場合において、画像データが画像メモリ18に格納されるように制御を行う。
【0023】
中央処理装置(CPU)30は、画像判断装置10で行われる学習処理に必要な各種の演算処理を実施する。画像判断装置10において、中央処理装置30は、判断入力処理部32、画像サイズ取得部34、学習演算部36、画質調整部38及び特徴抽出部40等として機能する。
【0024】
画像サイズ取得部34は、画像判断装置10のユーザーである評価者によって入力された画像鑑賞サイズ情報を取得する。また、画像サイズ取得部34は、取得された画像鑑賞サイズ情報を、学習画像が表示装置14に表示される際の表示条件(特に表示サイズ)に反映させる。画像鑑賞サイズ情報とは、学習処理の結果を用いて自動判断処理される予定の撮影画像が、どのような条件で鑑賞されるかということに関する情報である。
【0025】
画像サイズ取得部34は、評価者に対して、入力装置12を介して画像鑑賞サイズ情報を入力するように求める。画像サイズ取得部34は、得られた画像鑑賞サイズ情報を用いて、学習画像が表示装置14に表示される際の表示条件を変更する。例えば、画像サイズ取得部34は、学習画像が、その後に行われる自動判断処理によって処理される撮影画像の使用条件と同様又は近似する条件で表示されるように、表示装置14を制御する。
【0026】
さらに一例を挙げると、画像サイズ取得部34は、画像鑑賞サイズ情報が画像を所定のサイズに拡大して鑑賞する旨の情報であれば、学習画像の表示サイズを、これに合わせて拡大する。反対に、画像サイズ取得部34は、画像鑑賞サイズ情報が画像を縮小して鑑賞する旨の情報であれば、学習画像の表示サイズをこれに合わせて縮小する。このような処理を行うことにより、画像判断装置10における学習処理によって算出される判断基準値は、画像鑑賞サイズ情報を考慮したものとなり、評価者の要求する基準に高い精度で一致する。
【0027】
画質調整部38は、学習画像の画像品質を調整することができる。画質調整部38は、例えば、画質調整前の学習画像である元画像に対して、ブレ・ボケの軌跡を表すPSF(Point Spread Function)をコンボリューションすることにより、学習画像の画像品質を調整する。画質調整部38によって調整される画像品質としては、エッジ量(エッジ量算出部42によって算出されるものと同様)等が挙げられるが、特に限定されない。
【0028】
画質調整部38で使用されるボケのPSFとしては、例えば以下の数式(1−1)で表されるガウス分布が挙げられる。ガウス分布を用いて画質調整を行う場合、画質調整部38では、数式(1−2)で表すように、ガウス分布を正規化する。さらに、画質調整部38では、正規化後のガウス分布を、画質調整前の学習画像の輝度Y(i,j)にコンボリューションする。これにより、画質調整部は、数式(1−3)で示すように、画質調整後の学習画像の輝度Ygaussian(i,j)を得る。なお、数式(1−1)におけるσは標準偏差とし、x=4σとして計算を行うことができるが、特に限定されない。また、数式(1−3)におけるTは転置を表す。
【0029】
【数1】

【0030】
学習処理において、画質調整部38によって学習画像の画像品質が調整された場合、表示装置14は、調整後の学習画像を表示する。画質調整部38によって画像品質を調整することにより、画像判断装置10は、同様の構図を有していながら、特定の画像品質に関する指標のみが異なる複数の画像を用いて、学習処理を行うことが可能である。したがって、画像判断装置10は、特定の画像品質に関する指標以外の影響を排除又は抑制した学習処理を行うことが可能であり、評価者の要求する基準に高い精度で一致する判断基準値を得ることができる。なお、画質調整部38が、学習画像のエッジ量が所定の値になるように調整を行った場合、特徴抽出部40は、エッジ量の算出を行う必要がない。なぜなら、特徴抽出部40は、画質調整部38の設定値を読み出すだけで、学習画像のエッジ量を取得できるからである。
【0031】
特徴抽出部40は、学習処理に使用される学習画像について、その画像品質に関する指標の具体値を取得する。特徴抽出部40は、エッジ量算出部42、データ取得部44及び主成分分析部46を有する。エッジ量算出部42、データ取得部44及び主成分分析部46は、それぞれ異なる方法で、学習画像の画像品質に関する指標の具体値を取得する。
【0032】
特徴抽出部40で取得される画像品質の指標としては特に限定されず、特徴抽出部40は、学習画像が成功画像であるか失敗画像であるかを判断するために有効な任意の指標の具体値を、取得することができる。特徴抽出部40で取得される指標の例としては、後述するエッジ量算出部42、データ取得部44及び主成分分析部46で取得される指標以外にも、DCT係数、ウェーブレット係数、FFT係数の実部などが挙げられる。
【0033】
エッジ量算出部42は、画像品質の指標の1つであるエッジ量を、学習画像から算出する。エッジ量算出部42が、学習処理の対象となる学習画像からエッジ量の具体的な値(具体値)を取得する方法の一例を、数式(2−1)〜数式(2−4)を用いて以下に説明する。
【0034】
エッジ量算出部42は、数式(2−1)に示すように、学習画像におけるRGBチャンネルの各数値から、各画素の輝度Y(i,j)を算出する。さらにエッジ量算出部42は、数式(2−2)及び数式(2−3)に示すように、算出された輝度Y(i,j)に対して、エッジ検出フィルタをコンボリューションし、x方向及びy方向のエッジG(i,j)、G(i,j)を算出する。エッジ量算出部42は、エッジ検出フィルタとしてSobelフィルタを用いる。ただし、エッジ量算出部42が使用するエッジ検出フィルタはこれに限定されず、Prewittフィルタ等を用いることもできる。さらに、エッジ量算出部42は、数式(2−4)に示すように、算出されたエッジG(i,j)、G(i,j)から、エッジ方向に依存しないエッジ量G(i,j)を算出する。
【0035】
【数2】

【0036】
データ取得部44は、学習画像に関する画像品質の指標の具体値のうち、学習画像とともに記憶装置16に記録されているものや、画質調整部38において設定済みのエッジ量等を取得する。データ取得部44が取得する指標としては、例えば学習画像が撮影された時のシャッタスピード及びEV値や、画質調整部38における画質調整において設定されたエッジ量などが挙げられる。
【0037】
主成分分析部46は、学習画像の画像品質に関する2以上の指標(暫定指標)について主成分分析を行い、学習処理を行う学習画像群の全体の傾向・特徴を表す新たな指標である主成分を算出する。主成分分析部46は、予め2以上の学習画像について学習処理を行うことが解っており、各学習画像について、画像品質に関する2以上の指標の具体値を取得できる場合において行うことができる。以下に、主成分分析部46が学習画像の画像品質に関する指標(主成分)を算出する方法を、表1及び数式(3−1)〜数式(3−3)を用いて説明する。
【0038】
主成分分析部46は、表1に示すように、画像品質に関する2以上(表1に示す例では3)の暫定指標である指標x,指標y及び指標zに各々対応する具体値(暫定具体値)を、2以上(表1に示す例では10)の学習画像の各々について取得する。主成分分析部46が用いる暫定指標としては、エッジ量、シャッタスピード及びEV値等が挙げられるが、特に限定されない。また、暫定具体値としては、エッジ量算出部42で算出された指標の具体値や、データ取得部44で取得された指標の具体値を用いることができる。
【0039】
【表1】

【0040】
次に、主成分分析部46は、数式(3−1)に示す共分散行列Vxyzを求める。数式(3−1)において、変数aは表1における画像の番号に対応しており、dataは画像数を表しており、表1の例を数式(3−1)に適用する場合、dataは10となる。また、数式(3−1)において、表1に示す指標xの具体値はx、指標yの具体値はy、指標zの具体値はzとして表されている。
【0041】
【数3】

【0042】
さらに、主成分分析部46は、共分散行列Vxyzの固有値λα、λβ、λγと、これらの固有値に対応する固有ベクトルuα、uβ、uγを求める。さらに、主成分分析部46は、算出された各固有ベクトルuα、uβ、uγと、各画像の暫定指標の具体値x、y、z及び画像群の暫定指標毎の平均値から、各画像の主成分の具体値ξα、ψα、ζαを算出する。固有ベクトルuα、uβ、uγの成分を、数式(3−2)に示すようにuα1〜uα3、uβ1〜uβ3、uγ1〜uγ3とすると、各画像の主成分の具体値ξα、ψα、ζαは、数式(3−3)で表すことができる。
【0043】
主成分分析部46で算出された各主成分の具体値ξα、ψα、ζαは、学習画像の画像品質に関する指標の具体値として、特徴抽出部40で取得された他の指標の具体値と同様に、学習処理において使用することができる。また、主成分分析部46は、固有値λα、λβ、λγから各主成分の寄与率を算出し、寄与率の高い主成分のみを、学習処理に用いる指標として採用することができる。この場合、主成分分析部46は、累積寄与率が80%を超える主成分もしくは主成分の組合せを、学習処理に用いる指標として採用しても良い。主成分分析部46で算出された各主成分のうち、寄与率の高い一部の主成分のみを学習処理に用いることによって、学習演算部36における判断基準値の演算処理や、学習処理後に実施される自動画像判断処理の演算処理を、高速化することができる。
【0044】
判断入力処理部32は、表示装置14によって表示された学習画像に対する評価者の判断結果を取得する。例えば、判断入力処理部32は、評価者に対して、表示装置14によって表示された学習画像が、成功画像であるか失敗画像であるか(すなわちOKかNGか)を判断するように求める。学習画像に対する評価者の判断結果は、入力装置12を介して、判断入力処理部32に入力される。
【0045】
さらに、判断入力処理部32は、得られた評価者の判断結果と、当該学習画像について特徴抽出部40で抽出された画像品質に関する指標の具体値を対応させる。さらに、判断入力処理部32は、学習画像の判断結果と指標の具体値とを対応させたものを学習要素として、プログラムメモリ20に記憶させる。この場合、学習要素として記憶される指標の種類は、1種類であっても良く、2種類以上であっても良い。
【0046】
学習演算部36は、プログラムメモリ20に記憶された学習要素から、学習要素の具体値に対応する指標に関する評価者の判断基準値を決定する。例えば、学習処理で採用された指標がエッジ量である場合、プログラムメモリ20に記憶された学習要素は、評価者が如何なるエッジ量の画像をOKと判断し、また如何なるエッジ量の画像をNGと判断したかを、具体的に記録したものである。学習演算部36は、このような学習要素から、あるエッジ量の値を境界として評価者のOK・NGの判断が分かれるという前提の下に、その値を求め、判断基準値とする。
【0047】
学習演算部36は、例えば、線形判別(linear discriminant)等により、判断基準値を決定することができるが、判断基準値の決定方法は特に限定されない。なお、学習処理における判断基準値、具体値、暫定具体値には、一つの値によって構成されるスカラー量等だけでなく、複数の値によって構成される配列等が含まれる。
【0048】
図2は、図1に示す画像判断装置10で行われる学習処理の第1の例を表すフローチャートである。ステップ001では、画像判断装置10による学習処理が開始される。
【0049】
ステップ002では、図1に示す画像サイズ取得部34が、鑑賞サイズ情報を取得する。画像サイズ取得部34は、表示装置14に選択メニューを表示する等の方法により、評価者に鑑賞サイズ情報の入力を促す。評価者は、印刷サイズ(L版、はがきサイズ、A4等)や、表示サイズ(100%、50%、ブログ用)等の鑑賞サイズ情報を、入力装置12を介して入力する。この際、画像サイズ取得部34は、取得した鑑賞サイズ情報を、プログラムメモリ20に記憶させてもよい。
【0050】
ステップS003では、図1に示す中央処理装置30が、学習画像を決定する。中央処理装置30は、表示装置14にコメントを表示する等の方法により、評価者に対して、学習処理で使用する学習画像を指定するように促す。評価者は、予め記憶装置16に用意されている画像や、評価者自身が撮影した撮影画像であって記憶装置16に保存されている画像を、学習画像として指定する。中央処理装置30は、評価者によって指定された学習画像を、学習処理に使用する学習画像として特定する。さらに、中央処理装置30は、決定された学習画像を、画像メモリ18に一時的に格納させる。
【0051】
この際、評価者は、1つの学習画像を指定しても良いし、複数の学習画像を指定しても良い。また、記憶装置16には、予め学習処理に適したサンプル画像が保存されていても良く、評価者は、このようなサンプル画像の中から、学習画像を選択しても良い。さらに、記憶装置16に保存されるサンプル画像は、撮影シーン(夜景、マクロ、スポーツ等)が異なる複数の画像で構成されていても良い。これにより、評価者は、自動判断処理される予定の撮影画像と同じ撮影シーンの画像を、学習画像として指定することができる。なお、サンプル画像の画像品質は、適度なばらつきを有していることが好ましい。
【0052】
ステップS004では、特徴抽出部40が、ステップS003で決定された学習画像について、画像品質に関する指標の具体値を取得する。学習処理で使用される指標には様々なものが存在するが、図2に示す第1の例では、画像品質に関する指標として、エッジ量とシャッタスピードが用いられる場合を例に説明を行う。ステップS004では、特徴抽出部40のエッジ量算出部42が、学習画像のエッジ量を算出する。さらに、ステップS004では、データ取得部44が、学習画像とともに記憶装置16に保存されている情報を検索し、学習画像のシャッタスピードを取得する。エッジ量算出部42で算出されたエッジ量の具体値と、データ取得部44で取得されたシャッタスピードの具体値は、プログラムメモリ20に一時的に格納されても良い。
【0053】
ステップS005では、中央処理装置30は、ステップS003で決定された学習画像を表示するように、表示装置14を制御する。この際、中央処理装置30は、ステップS002で取得された鑑賞サイズ情報に基づき、学習画像の表示条件を指定する。例えば、ステップS002で取得された画像鑑賞サイズ情報が画像を200%に拡大して鑑賞する旨の情報であれば、中央処理装置30は、表示装置14が学習画像を200%で表示するように、表示条件を指定する。これにより、表示装置14は、鑑賞サイズ情報に基づく表示条件で、学習画像を表示する。
【0054】
ステップS006では、中央処理装置30の判断入力処理部32が、表示装置14によって表示された学習画像に対する評価者の判断結果を取得する。判断入力処理部32は、評価者に対して、表示装置14によって表示された学習画像がOKかNGかを入力するように求め、入力された情報を取得することにより、評価者の判断結果を取得する。
【0055】
ステップS007では、判断入力処理部32は、ステップS006で得られた評価者の判断結果と、ステップS004で取得された学習画像のエッジ量及びシャッタスピードの具体値を対応させ、学習要素を生成する。また、判断入力処理部32は、学習画像の判断結果とエッジ量及びシャッタスピードとを対応させた学習要素を、プログラムメモリ20に記憶させる。
【0056】
ステップS008では、中央処理装置30は、評価者に対して、学習処理を終了するか否かを入力するように求める。中央処理装置30は、学習処理を終了させる旨の入力情報を取得した場合にはステップS009の処理を行う。それに対し、学習処理を続ける旨の入力情報を取得した場合には、中央処理装置30は、ステップS003の処理に戻り、学習画像を変えてステップS003〜ステップS007の処理を繰り返す。
【0057】
ステップS009では、中央処理装置30の学習演算部36が、プログラムメモリ20に記憶された学習要素から、エッジ量及びシャッタスピードに関する評価者の判断基準値を決定する。図3は、学習演算部36で行われる判断基準値の決定において行われる処理を、概念的に表したものである。図3に示すグラフは、横軸をエッジ量(指標A)とし、縦軸をシャッタスピード(指標B)として、学習要素をプロットしたものである。図3に示す黒丸及び白丸は、ステップS007においてプログラムメモリ20に記憶された学習要素に対応している。
【0058】
図3に示すグラフでは、11個の学習要素がプロットされており、これは、ステップS009までに、11個の学習画像について、学習画像の決定(ステップS003)から学習要素の記憶(ステップS007)までの処理が行われたことを意味している。図3に示すグラフにおいて、白丸であるか黒丸であるかは、学習要素における学習画像の判断結果に対応している。すなわち、白丸は、ステップS006において評価者がOKと判断した学習要素であり、黒丸はNGと判断した学習要素である。また、各プロットの横軸の位置は、学習要素のエッジ量(指標A)の具体値に対応しており、各プロットの縦軸の位置は、学習要素のシャッタスピード(指標B)の具体値に対応している。
【0059】
学習演算部36は、線形判別により、評価者は、直線70より右下の領域にある画像をOKと判断し、直線70より左上の領域にある画像をNGと判断すると認定する。さらに、学習演算部36は、評価者がエッジ量(指標A)及びシャッタスピード(指標B)に関して、画像をOKまたはNGに分類する境界である判断基準値は、直線70であると決定する。図3に示す場合において、ステップS009で算出される判断基準値は、一次式の形で表される。ステップS009で算出された判断基準値は、記憶装置16に格納される。
【0060】
ステップS010では、中央処理装置30が、一連の学習処理を終了させる。
【0061】
このように、図1に示す画像判断装置10は、図2で示すような一連の学習処理を行うことにより、特定の個人である評価者の判断傾向を、学習・認識することができる。したがって、画像判断装置10は、評価者個人が求める判断基準に対して高い精度で一致する判断基準値を、評価者になんら専門知識等を要求することなく、決定することができる。
【0062】
また、画像判断装置10は、画像サイズ取得部34によって取得された画像鑑賞サイズ情報を、学習画像を表示する際の表示条件に反映させている。これにより、画像判断装置10は、学習結果を用いて行われる自動判別処理の対象となる撮影画像の用途を考慮に入れて学習処理を行うことが可能である。したがって、画像判断装置10は、目的に応じた判断基準値を決定することができる。
【0063】
図4は、図1に示す画像判断装置10で行われる学習処理の第2の例を表すフローチャートである。図4におけるステップS101及びステップS102は、図2において説明したステップS001及びステップS002と同様であるため、説明を省略する。
【0064】
図4に示すステップS103では、図1に示す中央処理装置30が、判断基準値の決定(S110)に使用する全ての学習画像によって構成される学習画像群を取得する。中央処理装置30は、表示装置14にコメントを表示する等の方法により、評価者に対して、学習処理で使用する全ての学習画像を指定するように促す。評価者は、学習画像群が格納されているディレクトリを指定する等により、学習画像群を指定する。中央処理装置30は、評価者によって指定された学習画像群を、学習処理に使用する学習画像群として特定する。
【0065】
ステップS104では、図1に示す中央処理装置30が、学習画像を決定する。中央処理装置30は、ステップS103で取得された学習画像群に含まれる学習画像の中から、自動的に1つの学習画像を選択することができる。ただし、中央処理装置30は、評価者に学習画像群に含まれる学習画像の中から1つの学習画像を選んでもらい、それを学習画像としても良い。
【0066】
ステップS105では、ステップS103で取得された学習画像群に含まれる学習画像の各々について、特徴抽出部40におけるエッジ量算出部42がエッジ量を算出し、データ取得部44が学習画像のシャッタスピードを取得する。エッジ量算出部42によるエッジ量の算出処理及びデータ取得部44によるシャッタスピードの取得処理は、図2に示すステップS004で説明した処理と同様である。
【0067】
さらに、ステップS105では、主成分分析部46が、エッジ量算出部42及びデータ取得部44で取得されたエッジ量及びシャッタスピードを取得する。またさらに、主成分分析部46は、学習画像群に含まれる各学習画像のエッジ量及びシャッタスピードの具体値について主成分分析を行い、エッジ量及びシャッタスピードが統合された主成分を算出する。その上で、ステップS105では、ステップS104で決定された学習画像について、主成分の具体値を算出する。
【0068】
図5は、図4に示す学習処理における主成分分析(ステップS105)から判断基準値の決定(ステップS110)までの処理を、概念的に表したものである。ステップS105において、主成分分析部46は、直線72で表される第1主成分を算出する。第1主成分は、図4に示す学習処理における暫定指標であるエッジ量(特徴A)とシャッタスピード(特徴B)が統合された指標である(数式3−3参照)。図4に示す学習処理では、直線72で表される第1主成分の寄与率が高いため、第1主成分のみを指標として使用する。
【0069】
ステップS104で決定された学習画像について、ステップS105で算出される第1主成分の具体値は、直線72上に配置される点(スカラー量)として表される。なお、第1主成分の具体値を算出するための算出式は、プログラムメモリ20に格納される。
【0070】
ステップS106〜ステップS108に関する処理は、図2において説明したステップS005〜ステップS007と同様であるため、説明を省略する。
【0071】
ステップS109では、中央処理装置30は、ステップS103で選択された学習画像群に含まれるすべての学習画像について、学習要素が記憶されたか否かを判断する。中央処理装置30は、すべての学習画像について学習要素が記憶されていると認める場合には、ステップS110の処理を行う。これに対し、学習要素が記憶されていない学習画像が残っていると認められる場合には、中央処理装置30は、学習画像を変えてステップS104〜ステップS108の処理を繰り返す。ただし、中央処理装置30は、入力装置12を介して評価者の意志を取得し、学習要素が記憶されていない学習画像が残っているか否かにかかわらず、ステップS110へ進んでも良い。
【0072】
なお、2回目以降のステップS105では、第1回目のループで既に第1主成分を算出しているため、改めて主成分分析を行う必要はなく、新たに選択された学習画像について、第1主成分の具体値を算出するだけで足りる。
【0073】
ステップS110では、中央処理装置30の学習演算部36が、プログラムメモリ20に記憶された学習要素から、第1主成分に関する評価者の判断基準値を決定する。図5に示すように、図4に示す学習処理で取得される学習要素は、第1主成分の具体値と評価者の判断結果を対応させたものである。なお、図5におけるプロット(白丸及び黒丸)の意味は、図3と同様である。
【0074】
学習演算部36は、線形判別により、直線72のうち点74より右下の部分にある画像をOKとし、点74より左上の領域にある画像をNGと判断する傾向にあると認定する。さらに、学習演算部36は、評価者が第1主成分に関して、画像をOKまたはNGに分類する境界である判断基準値は、点74であると決定する。図5に示す場合において、ステップS110で算出される判断基準値は、一つの数値で表される。ステップS110で算出された判断基準値は、記憶装置16に格納される。
【0075】
ステップS111では、中央処理装置30が、一連の学習処理を終了させる。
【0076】
このように、図1に示す画像判断装置10は、主成分分析を用いて学習処理を行うことにより、学習演算部36における判断基準値の演算処理を高速化することができる。
【0077】
図6は、図1に示す画像判断装置10で行われる学習処理の第3の例を表すフローチャートである。図6におけるステップS201及びステップS202は、図2において説明したステップS001及びステップS002と同様であるため、説明を省略する。
【0078】
ステップS203では、図1に示す中央処理装置30が、学習画像(元画像)を決定する。中央処理装置30は、評価者に対して、予め用意されたサンプル画像から、学習処理に仕様される学習画像(元画像)を選択するように求め、評価者によって選択された画像を、学習画像(元画像)として特定する。
【0079】
この際、評価者は、1つの学習画像(元画像)を指定する。また、学習画像(元画像)として予め用意されるサンプル画像は、ステップS204で行われる画質調整後における画像品質の指標(例えばエッジ量)の具体値が、予め解っているものであることが好ましい。なお、学習画像(元画像)は、画像メモリ18に一時的に格納される。
【0080】
ステップS204では、図1に示す中央処理装置30の画質調整部38が、ステップS204で特定された学習画像(元画像)の画像品質を調整し、学習画像(画質調整後)を生成する。画質調整部38は、ブレ・ボケの軌跡を表すPSF(Point Spread Function)をコンボリューションすることにより、学習画像(元画像)の画像品質を調整し、学習画像(画質調整後)を生成する。
【0081】
図7は、図6に示す学習処理における学習画像の画像品質の変更手順を説明した概念図である。ステップS203で選択された学習画像(元画像)は、第1回目のステップS204においては、その画像品質の指標(図7に示す例ではエッジ量)が、統計的に算出された一般的な判断基準値(点76)に最も近い値(点D)になるように調整される。すなわち、画質調整部38は、画質調整によって生成される学習画像(画質調整後)のエッジ量の具体値を点Dに設定し、画質調整を行う。なお、学習画像(画質調整後)のエッジ量(ステップS204で実施される画質調整の設定値)は、プログラムメモリ20に格納される。
【0082】
ステップS205では、特徴抽出部40のデータ取得部44が、プログラムメモリ20に格納されている学習画像(画質調整後)のエッジ量を取得する。なお、図6に示す第3の例では、画像品質に関する指標として、エッジ量のみが用いられる場合を例に説明を行う。
【0083】
図6に示すステップS206〜ステップS208に関する処理は、図2において説明したステップS005〜ステップS007と同様であるため、説明を省略する。
【0084】
ステップS209では、中央処理装置30は、プログラムメモリ20に格納されている学習要素を調査し、既に算出された学習要素によって判断基準値を決定しても良いか否かを判断する。例えば、中央処理装置30は、プログラムメモリ20に格納されている学習要素に、評価者による判断がOKのものとNGのものが両方とも含まれている場合には、既に算出された学習要素によって判断基準値を決定しても良いと判断する。その反対に、中央処理装置30は、プログラムメモリ20に格納されている学習要素に、評価者による判断がOK及びNGのもののうちいずれか一方が含まれていない場合には、判断基準値を決定すべきでないと判断する。
【0085】
ステップS209において、中央処理装置30は、判断基準値を決定しても良いと判断した場合には、ステップS211の処理に進む。その反対に、中央処理装置39は、判断基準値を決定すべきでないと判断した場合には、ステップS210の処理に進む。
【0086】
ステップS210では、中央処理装置30の画質調整部38が、ステップS204で実施される画質調整の設定値を変更する。図7のケース1は、第1回目の画質調整(ステップS204)の設定値が点Dであり、その学習画像(画質調整後)についてステップS207で取得された評価者の判断がOKであった場合である。このような場合、ステップS210では、2回目の画質調整(ステップS204)の設定値を、第1回目の設定値より悪い(よりエッジ量の少ない)点Cに変更する。図7のケース2は、ケース1とは反対に、第1回目の評価者の判断がNGであった場合であり、2回目の画質調整(ステップS204)の設定値は、第1回目の設定値より良い(よりエッジ量の多い)点Eに変更する。
【0087】
ステップS210で画質調整の設定値を変更した後は、図6に示すようにステップS204〜ステップS208の処理を繰り返す。
【0088】
ステップS211では、中央処理装置30は、評価者に対して、学習処理を終了するか否かを入力するように求める。中央処理装置30は、学習処理を終了させる旨の入力情報を取得した場合にはステップS212の処理を行う。それに対し、学習処理を続ける旨の入力情報を取得した場合には、中央処理装置30は、ステップS203の処理に戻り、学習画像(元画像)を変えてステップS203〜ステップS210の処理を繰り返す。
【0089】
ステップS212では、中央処理装置30の学習演算部36が、プログラムメモリ20に記憶された学習要素から、エッジ量に関する評価者の判断基準値を決定する。図7のケース1では、最後にOKと判断された学習画像のエッジ量が点Dであり、初めてNGと判断された学習画像のエッジ量が点Cである。この場合、学習演算部36は、点Cと点Dの中間点である点Pを、判断基準値とする。図7のケース2では、最後にNGと判断された学習画像のエッジ量が点Eであり、初めてOKと判断された学習画像のエッジ量が点Fである。この場合、学習演算部36は、点Eと点Fの中間点である点Qを、判断基準値とする。ステップS212で算出された判断基準値は、記憶装置16に格納される。
【0090】
ステップS213では、中央処理装置30が、一連の学習処理を終了させる。
【0091】
このように、図1に示す画像判断装置10は、画質調整部38によって画像品質を調整することにより、同様の構図でありながら画像品質のみが異なる学習画像を用いて、学習処理を行うことができる。したがって、画像判断装置10は、特定の画像品質に関する指標以外の影響を抑制し、評価者の要求する基準に高い精度で一致する判断基準値を得ることができる。
【0092】
また、画像判断装置10は、画質調整部38によって画質調整を行うことにより、学習画像の指標の具体値を、適度に分散させることができる。これにより、画像判断装置10は、評価者が学習処理に要する時間及び手間を減らすことができる。また、画像判断装置10は、第1回目の画質調整で得られる学習画像(画質調整後)のエッジ量を、統計的に算出された一般的な判断基準値に近い値とすることによって、評価者が学習処理に要する時間及び手間を更に減らすことができる。
【0093】
第2実施形態
図8は、本発明の第2実施形態に係る画像処理装置50のブロック図である。画像処理装置50は、中央処理装置30aが、学習処理に関する演算処理だけでなく、自動判別処理に関する演算処理を行える点で図2に示す画像判断装置10と異なるが、その他の点では画像判断装置10と同様である。
【0094】
画像処理装置50の中央処理装置30aは、図8に示すように、図1に示す中央処理装置30と同様の処理装置として機能するだけでなく、撮影画像判断部52としても機能することができる。撮影画像判断部52は、第2特徴抽出部60と、比較部54を有している。
【0095】
図9は、図8に示す画像処理装置50で行われる学習処理と自動判別処理の関係を表す概念図である。撮影画像判断部52は、第1実施形態において説明した学習処理で算出された評価者の判断傾向である判断基準値を用いて、撮影画像の自動判別処理を行う。また、画像処理装置50の中央処理装置30aは、撮影画像判断部52による自動判別処理の結果に基づき、撮影画像の分類等、必要な処理を行うことができる。
【0096】
図8に示す第2特徴抽出部60は、自動判別処理の対象となる撮影画像について、画像品質に関する指標(第2指標)の具体値(第2具体値)を取得することができる。第2特徴抽出部60は、第2エッジ量算出部62と、第2データ取得部64を有する。第2エッジ量算出部62及び第2データ取得部64は、指標を取得する対象が学習画像ではなく、自動判別処理の対象となる撮影画像である点を除き、エッジ量算出部42及びデータ取得部44と同様である。
【0097】
比較部54は、自動判別処理の対象となる撮影画像の指標(第2指標)の具体値(第2具体値)と、学習処理によって学習演算部36によって決定された判断基準値とを比較し、撮影画像が成功画像であるか失敗画像であるか(すなわちOKかNGか)を判断する。
【0098】
図10は、図8に示す自動判別処理の一例を表すフローチャートである。図1に示すステップS301では、画像処理装置50による自動判別処理が開始される。
【0099】
ステップS302では、中央処理装置30aが、撮影画像判断部52で行われる自動判別処理に用いる判断基準値を取得する。ステップS302では、図2、図4、図6で説明した学習処理が行われても良く、予め記憶装置16等に保存された判断基準値を読み出すことによって、判断基準値を取得しても良い。
【0100】
ステップS302では、中央処理装置30aが、自動判別処理の対象となる撮影画像を決定する。中央処理装置30aは、表示装置14にコメントを表示する等の方法により、評価者に対して、自動判別処理の対象となる撮影画像を指定するように促す。評価者は、既に記憶装置16に保存されている撮影画像や、新たに記憶装置16に保存した撮影画像を指定する。中央処理装置30aは、評価者によって指定された撮影画像を、自動判別処理の対象となる撮影画像として特定する。さらに、中央処理装置30aは、決定された撮影画像を、画像メモリ18に一時的に格納させる。なお、この際、評価者は、1つの撮影画像を指定しても良いし、複数の撮影画像を指定しても良い。
【0101】
ステップS304では、撮影画像判断部52における第2特徴抽出部60が、ステップS303で決定された撮影画像について、画像品質に関する指標(第2指標)の具体値(第2具体値)を取得する。ステップS304で取得される具体値(第2具体値)は、ステップS302で取得された判断基準値と比較できるように、当該判断基準値を決定した際の学習処理において使用された指標と同一の指標に関する具体値であることが好ましい。例えば、学習処理において使用された指標がエッジ量及びシャッタスピードであれば、第2特徴抽出部60の第2エッジ量算出部62が撮影画像のエッジ量を算出し、第2取得部64が撮影画像のシャッタスピードを取得する。
【0102】
ステップS305では、撮影画像判断部52における比較部54が、ステップS304で取得された撮影画像の具体値(第2具体値)と、ステップS302で取得された判断基準値を比較する。これにより、比較部54は、自動判別処理の対象である撮影画像がOKかNGかを判断する。ステップS305において、比較部54が撮影画像はOKだと判断した場合はステップS306へ進み、撮影画像はNGだと判断した場合はステップS307へ進む。
【0103】
ステップS306及びステップS307では、中央処理装置30aが、自動判別処理の結果に基づき、撮影画像の分類を行う。すなわち、ステップS306では、中央処理装置30aは、OKと判断された撮影画像を、記憶装置16に作成されたOK画像フォルダに分類する。また、ステップS307では、中央処理装置30aは、NGと判断された撮影画像を、NG画像フォルダに分類する。なお、ステップS307において、中央処理装置30aは、NGと判断された撮影画像を記憶装置16から削除する処理を行っても良い。
【0104】
ステップS308では、中央処理装置30aは、評価者に対して、自動判別処理を終了するか否かを入力するように求める。中央処理装置30aは、自動判別処理を終了させる旨の入力情報を取得した場合には、ステップS309の処理へ進む。それに対し、自動判別処理を続ける旨の入力情報を取得した場合には、中央処理装置30aはステップS303の処理に戻り、対象となる撮影画像を変えてステップS003〜ステップS307の処理を繰り返す。
【0105】
ステップS309では、中央処理装置30aが、一連の自動判別処理を終了させる。
【0106】
このように、図8に示す画像処理装置50は、特定の個人である評価者の判断傾向を、学習・認識し、学習処理によって得られた判断基準値に基づき、撮影画像の自動判別処理を行うことができる。したがって、画像処理装置50は、評価者個人が求める判断基準に対して高い精度で一致する判断基準に基づく自動判別処理を行うことができる。なお、画像処理装置50は、図1に示す画像判断装置10と同様の効果を奏する。
【符号の説明】
【0107】
10…画像判断装置
12…入力装置
14…表示装置
16…記憶装置
18…画像メモリ
20…プログラムメモリ
30,30a…中央処理装置
32…判断入力処理部
34…画像サイズ取得部
36…学習演算部
38…画質調整部
40…特徴抽出部
42…エッジ量算出部
44…データ取得部
46…主成分分析部
50…画像処理装置
52…撮影画像判断部
54…比較部
60…第2特徴抽出部
62…第2エッジ量算出部
64…第2データ取得部

【特許請求の範囲】
【請求項1】
学習画像を記憶する第1記憶部と、
前記学習画像について、画像品質に関する指標の具体値を取得する特徴抽出部と、
前記学習画像を所定の表示条件で表示する表示部と、
前記表示部によって表示された前記学習画像に対する評価者の判断結果を取得する入力部と、
前記判断結果と前記具体値を対応させた学習要素を記憶する第2記憶部と、
前記学習要素から、前記指標に関する前記評価者の判断基準値を決定する学習演算部と、
を有する画像判断装置。
【請求項2】
前記特徴抽出部は主成分分析部を有し、
前記主成分分析部は、画像品質に関する2以上の暫定指標に各々対応する暫定具体値を、2以上の前記学習画像の各々について取得し、前記暫定具体値について主成分分析を行い、2以上の前記暫定指標が統合された主成分に関する前記具体値を算出することを特徴とする請求項1に記載の画像判断装置。
【請求項3】
前記学習演算部は、前記学習要素について判別分析を行い、前記判断基準値を決定することを特徴とする請求項1又は請求項2に記載の画像判断装置。
【請求項4】
前記評価者によって選択された画像鑑賞サイズを取得し、前記画像鑑賞サイズを前記表示条件に反映させる画像サイズ取得部をさらに有することを特徴とする請求項1から請求項3までのいずれかに記載の画像判断装置。
【請求項5】
前記学習画像の画像品質を調整する画質調整部をさらに有し、
前記画質調整部は、前記学習画像の前記指標の前記具体値が、予め定められた第1の値になるように前記学習画像の画像品質を調整し、
前記表示部は、前記画質調整部によって調整された前記学習画像を表示することを特徴とする請求項1から請求項4までのいずれかに記載の画像判断装置。
【請求項6】
請求項1から請求項5までのいずれかに記載の画像判断装置と、
撮影された撮影画像について、画像品質に関する第2指標の第2具体値を取得し、前記撮影画像の前記第2具体値と、前記画像判断装置によって決定された前記判断基準値とを比較して、前記撮影画像を判断する撮影画像判断部と、
を有する画像処理装置。
【請求項7】
請求項6に記載の画像処理装置を有するカメラ。
【請求項8】
コンピュータに、
第1記憶部に記憶された学習画像を読み出す手順と、
前記学習画像について、画像品質に関する指標の具体値を算出する手順と、
前記学習画像を所定の表示条件で表示する手順と、
前記表示部によって表示された前記学習画像に対する評価者の判断結果を取得する手順と、
前記判断結果と前記指標の前記具体値とを対応させた学習要素を記憶させる手順と、
前記学習要素から、前記指標に関する前記評価者の判断基準値を決定する手順と、を実行させるための画像判断プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−168641(P2012−168641A)
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願番号】特願2011−27628(P2011−27628)
【出願日】平成23年2月10日(2011.2.10)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】