説明

ブレ判定システム、ブレ判定プログラム及びカメラ

【課題】 大きな光エネルギーの分散が生じる場合においてもブレ判定を行うことができるブレ判定システムを提供する。
【解決手段】 画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外部16と、算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算部16と、前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定部20とを備えることを特徴とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ブレ判定システム、ブレ判定プログラム及びカメラに関するものである。
【背景技術】
【0002】
加速度センサ等のセンサを用いずにカメラ等で撮像された画像の手ブレを画像処理により判定するブレ判定システムが知られている(例えば、非特許文献1参照)。このブレ判定システムにおいては、撮像素子により計測される光エネルギーが手ブレの軌跡に応じて分散する現象を利用して、光エネルギーの分散によるなだらかな輝度勾配を検知することにより手ブレ判定を行っている。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】Ping Hsu and Bing-Yu Chen, "Blurred Image Detection and Classification," Lecture Notes in Computer Science (International MultiMedia Modeling 2008 Conference Proceedings), vol. 4903, pp. 277-286, 2008, Kyoto, Japan
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、このブレ判定システムにおいては、フラッシュ等の影響により大きな光エネルギーの分散が生じた場合には強い輝度勾配が生じるため、フラッシュの周辺等においては手ブレの判定を行うことが困難であった。
【0005】
本発明の目的は、大きな光エネルギーの分散が生じる場合においてもブレ判定を行うことができるブレ判定システム、ブレ判定プログラム及びカメラを提供することである。
【課題を解決するための手段】
【0006】
本発明のブレ判定システムは画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外部と、算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算部と、前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定部とを備えることを特徴とする。
【0007】
また、本発明のカメラは、本発明のブレ判定システムを備えることを特徴とする。
【0008】
また、本発明のブレ判定プログラムは、コンピュータを画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外手段と、算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算手段と、前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定手段として機能させる。
【発明の効果】
【0009】
本発明のブレ判定システム、ブレ判定プログラム及びカメラによれば、大きな光エネルギーの分散が生じる場合においてもブレ判定を行うことができる。
【図面の簡単な説明】
【0010】
【図1】本発明の実施の形態に係るブレ判定システムを備えるカメラのシステム構成を示すブロック図である。
【図2】本発明の実施の形態に係るブレ判定システムを備えるカメラのブレ判定処理を示すフローチャートである。
【発明を実施するための形態】
【0011】
以下、図面を参照して本発明の実施の形態に係るブレ判定システムを備えるカメラについて説明する。図1は、実施の形態に係るカメラのシステム構成を示すブロック図である。カメラ2はCPU3を備え、CPU3には操作部4、図示しない撮影レンズを介した被写体光を撮像し撮像信号(蓄積電荷としてのアナログ信号)を生成する撮像素子を備える撮像部8、撮像素子から出力された撮像信号をA/D変換して画像データを生成するA/D変換部10、撮像画像の画像データや外部記憶装置24から取得した画像データを記憶する画像データ記憶部12、画像データに対して手ブレ判定を行う際に用いるサイズにするためのリサイズ処理を行う画像データ前処理部14、リサイズ処理が行われた画像データの特徴量を算出する特徴量演算部16、判定ルール作成部26により作成された判定ルールのデータベースを記憶する判定ルール記憶部18、特徴量演算部12により算出された画像データの特徴量から判定ルールを参照して手ブレが発生しているか否かを判定する手ブレ判定部20、画像データの画像や手ブレ判定部20による判定結果を表示するTFT等で構成される表示部22が接続されている。
【0012】
ここで、操作部4はレリーズ指示を行うレリーズボタン28、画像データ記憶部12に記憶された画像を表示部22に再生表示するための指示を行う再生ボタン30、画像データに対して手ブレ判定を実行するための指示を行う手ブレ判定実行ボタン32等を備えている。また、外部記憶装置24は、メモリカードや外付ハードディスク等であり、判定ルール作成部26は、PCやサーバ等カメラ2の外部に設けられた外部装置に備えられている。判定ルール作成部26においては、既知の画像データについて手ブレが発生しているか否かの情報をユーザが入力し、入力された情報と既知の画像データの特徴量とを対応付けたデータに対してサポートベクターマシン(SVM)等の機械学習または統計的手法による統計処理を行い、学習結果または統計処理結果を手ブレ判定を行うための判定ルールのデータベースとして作成する。
【0013】
次に、図2に示すフローチャートを参照して実施の形態に係るブレ判定システムを備えたカメラのブレ判定処理について説明する。本実施の形態に係るカメラにおいてはブレ判定システムによるブレ判定を行うためのブレ判定プログラムが予め組み込まれている。
【0014】
CPU3は、操作部4の手ブレ判定実行ボタン32が操作されると画像データ記憶部12から判定対象の画像データを取得する(ステップS1)。ここで、画像データ記憶部12に記憶された画像を表示部22に再生表示している場合においては手ブレ判定実行ボタン32が操作されると再生表示を行っている画像の画像データを取得する。また、レリーズボタン28の操作により撮像を行った場合には撮像した画像データを取得する。
【0015】
次に画像データ前処理部14において、手ブレ判定システムにおいて判定を行う画像データの画像サイズを統一させるために画像全体の画素数を例えば640ピクセル×480ピクセル等とする取得した画像データに対してリサイズ処理を行う(ステップS2)。そして、特徴量演算部16においてリサイズ処理が行われた画像データの画像全体について特徴量を算出する(ステップS3)。
【0016】
特徴量の算出には画像データの画素毎の輝度値(Img)を用いる。輝度値から局所勾配値(勾配強度(Magnitude)及び勾配角度(Direction))を求め、局所勾配値の算出を行った全画素について勾配角度毎の度数分布(ヒストグラム)Hist(θ)を算出する。また、全画素について勾配角度θ毎の勾配強度の積算値Add(θ)についても算出し、勾配角度毎の勾配強度平均値(Add(θ)/Hist(θ))を求め、特徴量とする。
【0017】
ここで、局所勾配値はそれぞれの画素について周辺4近傍の輝度値に基づいて算出する。従って、画像の最外周1ピクセルは局所勾配値の算出対象から除外する。また、輝度が飽和点に達している等所定の閾値よりも大きい画素についても算出対象から除外する。また、本実施の形態においては勾配角度を1°刻みとし、0°〜359°の範囲で上述の値を算出する。
【0018】
以下、式を用いて特徴量の算出について説明する。最外周1ピクセルではない任意の画素座標(x,y)の輝度値をImg(x,y)とすると当該画素におけるx方向の勾配G(x,y)及びy方向の勾配G(x、y)は、
【数1】

【数2】

で表され、当該画素における勾配強度Magnitude(x,y)及び勾配角度Direction(x,y)は次式により表される。
【数3】

【数4】

【0019】
次に、局所勾配値の算出対象とした全画素について勾配角度の度数分布Hist(θ)及び勾配強度の積算値Add(θ)を算出する。勾配角度の度数分布Hist(θ)及び勾配強度の積算値Add(θ)は、
【数5】

としたとき、
【数6】

【数7】

で表される。特徴量は、特徴量ベクトルFとして式(6)、式(7)より以下の式で算出される。
【数8】

即ち、特徴量ベクトルFは勾配角度毎の勾配強度平均値を表す数値群からなるベクトルである。ただし、式(8)においてHist(θ)=0のときは、Hist(θ)=1に置き換える。
【0020】
次に、手ブレ判定部20は、式(8)により求めた数値群からなる特徴量ベクトルFと判定ルール記憶部18に記憶された判定ルールのデータベースとを比較し手ブレ判定を行う(ステップS4)。
【0021】
ここで、予めPC等を介して判定ルール作成部26に対して既知の画像データにブレが発生しているか否かが入力されている。また、判定ルール作成部26は、上述の式を用いて既知の画像データについても特徴量ベクトルFを算出しブレが発生しているか否かの入力内容と対応付ける。そして、特徴量ベクトルFと入力内容とが対応付けられた複数の既知の画像データをサンプルとしてサポートベクターマシン(SVM)により判定ルールのデータベースを作成する。このとき、サンプルとした画像データにおいて特徴量ベクトルFと入力内容と近似する重畳サンプルを除き例えば数百のサンプルをサポートベクターとした判定ルールのデータベースが作成される。また、SVMにおけるアルゴリズムを用いてサポートベクターに対して重み付けを行う。重み付けにおいてはブレが発生していない画像データは陽性サンプルであり正の値とし、ブレが発生している画像データは陰性サンプルであり負の値とする。
【0022】
判定ルール作成部26により作成された判定ルールのデータベースは判定ルール記憶部18に記憶され、手ブレ判定部20は各サポートベクターと判定対象の画像データの特徴量を比較して各サポートベクターとの距離をそれぞれ算出する。そして、算出された距離に対してカーネル法等により距離が小さいほど値が大きくなる処理を行った近接度を算出し、その後近接度に対して各サポートベクターに付された重み付けの値を乗じた判定値を算出する。手ブレ判定部20は、判定値の絶対値が最も大きいサポートベクターに対応付けられた入力内容に基づいて判定対象の画像データにブレが発生しているか否かを判定する。即ち、絶対値が最も大きいサポートベクターの判定値が正の値であればブレが発生していないと判定し、負の値であればブレが発生していると判定する。
【0023】
そして、表示部22に判定対象の画像データにブレが発生している否かの判定結果を出力表示する(ステップS5)。このとき表示部22に判定対象の画像データが示す画像を表示し、判定結果を文字または図形により重畳表示してもよい。また、判定対象の画像データにブレが発生していると判定された場合には、画像データが示す画像の表示を行わなくてもよい。この場合においては判定結果の表示は行わない。また、画像データ記憶部12に記憶されている判定対象の画像データのExif形式のデータのタグ情報としてブレが発生しているか否かの判定結果を記憶させてもよい。
【0024】
本実施の形態に係るカメラによれば、輝度が飽和点等の閾値以上である画素を判定対象から除くことにより大きな光エネルギーの分散が生じた場合においてもブレ判定を行うことができる。また、輝度が飽和点等の閾値以上である画素を判定対象から除いた場合でも判定対象とした画素における勾配強度の平均値を勾配角度毎に算出するためブレ判定の精度を維持することができる。
【0025】
なお、上述の実施の形態においては、サポートベクターマシン(SVM)により機械学習を行う構成を例としたが、SVMは機械学習の一例であって他の機械学習または統計的手法を用いて既知の画像データから判定ルールを作成してもよい。
【0026】
また、上述の実施の形態においては、各サポートベクターと判定対象の画像データとの距離を算出し比較する構成としたが、特徴量ベクトルFが近似する1のサンプルと比較する構成としてもよい。
【0027】
また、上述の実施の形態においてはブレ判定システムを備えるカメラを例に説明したが、カメラは一例であり画像データの示す画像を印刷出力するプリンタ等がブレ判定システムを備える構成としてもよい。
【0028】
また、上述の実施の形態においてはブレ判定を輝度値に基づいて行う構成を例に説明したが、RGBやYCrCb等の色空間を示す各要素の値を用いる構成としてもよい。
【0029】
また、上述の実施の形態においては、飽和点等の閾値以上の輝度の画素及び外周1ピクセルを除いて画像データの画像全体の画素を用いてブレ判定を行う構成としたが、例えば画像中に写っている顔の周辺等所定の領域を切り取った部分画像を用いてブレ判定を行う構成としてもよい。
【0030】
また、上述の実施の形態においては、判定対象の画像データのブレ判定を行う場合に、カメラに予め組み込まれたブレ判定プログラムを用いて判定対象の画像データのブレ判定を行っているが、該プログラムをインターネット等のネットワークを介してダウンロードし、コンピュータに組み込むことによって、上述の表示処理を行うことができるようにコンピュータを機能させるようにしてもよい。
【0031】
また、該プログラムはフレキシブルディスク、CD−ROM、DVD等のコンピュータ読み取り可能な記録媒体に記録されていてもよい。即ち、コンピュータ読み取り可能な記録媒体から読み取り、コンピュータに組み込むことによって、上述のブレ判定処理を行うことができるようにコンピュータを機能させるようにしてもよい。
【符号の説明】
【0032】
2…カメラ、3…CPU、12…画像データ記憶部、14…画像データ前処理部、16…特徴量演算部、18…判定ルール記憶部、20…手ブレ判定部、22…表示部、26…判定ルール作成部。

【特許請求の範囲】
【請求項1】
画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外部と、
算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算部と、
前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定部と
を備えることを特徴とするブレ判定システム。
【請求項2】
前記特徴量演算部は、前記画像データの前記画素毎に前記画素の輝度値と近傍画素の輝度値との勾配を求めてから、前記画像データの全体における前記勾配の角度と強度に関する分布を求め、前記特徴量とすることを特徴とする請求項1記載のブレ判定システム。
【請求項3】
前記特徴量演算部は、前記勾配の前記角度と前記強度に関する前記分布において、単位角度毎の前記強度の平均値を前記角度全域に渡って求め、前記単位角度毎の前記平均値を要素とする数値群からなるベクトルを特徴量とすることを特徴とする請求項2記載のブレ判定システム。
【請求項4】
既知の前記画像データにおいてブレが発生しているか否かの情報と前記特徴量とを対応付けたデータに対して機械学習または統計処理を行うことにより作成された判定ルールを記憶する判定ルール記憶部を更に備え、
前記ブレ判定部は、前記判定ルールを用いて未知の前記画像データにブレが発生しているか否かを判定することを特徴とする請求項1〜3の何れか一項に記載のブレ判定システム。
【請求項5】
前記ブレ判定部による判定結果を出力する出力制御部を備えることを特徴とする請求項1〜4の何れか一項に記載のブレ判定システム。
【請求項6】
前記ブレ判定部により前記画像データにブレが発生していると判定された場合には判定結果を出力しないことを特徴とする請求項1〜5の何れか一項に記載のブレ判定システム。
【請求項7】
前記ブレ判定部による判定結果を前記画像データに対応付けて記憶する画像記憶部を備えることを特徴とする請求項1〜6の何れか一項に記載のブレ判定システム。
【請求項8】
請求項1〜7の何れか一項に記載のブレ判定システムを備えることを特徴とするカメラ。
【請求項9】
コンピュータを
画像データの画素の輝度値が所定の閾値以上である場合には、前記画素を特徴量の算出対象から除外する飽和画素除外手段と、
算出対象の前記画素の輝度値を用いて前記画像データの前記特徴量を算出する特徴量演算手段と、
前記特徴量を用いて前記画像データの画像にブレが発生しているか否か判定するブレ判定手段として機能させるためのブレ判定プログラム。


【図1】
image rotate

【図2】
image rotate


【公開番号】特開2011−9921(P2011−9921A)
【公開日】平成23年1月13日(2011.1.13)
【国際特許分類】
【出願番号】特願2009−149713(P2009−149713)
【出願日】平成21年6月24日(2009.6.24)
【出願人】(592217093)株式会社ニコンシステム (102)
【Fターム(参考)】