画像判別装置
【課題】画像の構成および画像の破損箇所の特性に対してロバストに、当該画像の破損箇所を特定する画像判別装置を提供する。
【解決手段】入力画像を構成する複数の画像ブロックに対して可変長復号を行い、直交変換係数の配列を取得する部分復号部10と、部分復号部10が取得した直交変換係数の配列に対してフィルタ処理を行い、直交変換係数の特徴量の配列を抽出する特徴量抽出部20と、特徴量抽出部20が抽出した直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、入力画像は破損していないと判別する破損ブロック判定部30とを備える。
【解決手段】入力画像を構成する複数の画像ブロックに対して可変長復号を行い、直交変換係数の配列を取得する部分復号部10と、部分復号部10が取得した直交変換係数の配列に対してフィルタ処理を行い、直交変換係数の特徴量の配列を抽出する特徴量抽出部20と、特徴量抽出部20が抽出した直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、入力画像は破損していないと判別する破損ブロック判定部30とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像ファイルの破損箇所を検出する画像判別装置に関するものである。
【背景技術】
【0002】
画像を符号化してハードディスクに蓄積している場合、ハードディスクの故障などの要因で符号化された画像ファイルが破損することがある。この場合、画像ファイルの符号化方式に応じたデコーダを使って部分的にデコードする、あるいはヘッダの一部を差し替えるなどの方法で修復を試みることになるが、画像ファイルが修復されたかどうかを確認するためには実際に画像を開いて目視する必要がある。そのため、画像ファイルが正しく修復されているか否かをプログラムにより確認したいという要求が存在する。
【0003】
上述の要求を満たすために、符号化された画像を入力とし、当該画像の破損した箇所を検出する画像判別装置が用いられる。画像判別装置における破損箇所の検出方法としては、まず実際にデコードを行い、デコードが成功するか否かで判断する方法が考えられる。しかし画像が可変長符号化を採用した符号化方式で符号化されている場合、破損の状態や修復の方法によっては、デコードは成功しても出力される画像が崩れてしまう場合がある。このような場合に破損した箇所を検出するには、画像の特徴をより詳細に解析する必要がある。
【0004】
画像の特徴を詳細に解析する方法として、画像を周波数変換し、その周波数特性を利用して画像の特徴を解析する方法が特許文献1に提案されている。特許文献1の画像判別装置は、画像データを構成するブロック毎に所定方向の周波数成分を表す係数群を抽出し、あらかじめ記憶した係数群が表す画素値の勾配の形状に近似した基本エッジパターンと照合することで、検出したい特徴を有する画像を検出する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−15661号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した特許文献1に開示された技術では、破損した画像に出現する周波数特性は、破損した箇所によってそれぞれ異なり、あらかじめ記憶したパターンとの照合では発見が困難であるという課題があった。また、特許文献1のように、周波数特性を利用するには輝度成分の周波数特性が利用されることが多いが、輝度成分の周波数特性は個々の画像におけるばらつきが大きく、破損した画像特有の周波数特性を発見しにくいという課題があった。
【0007】
この発明は、上記のような課題を解決するためになされたもので、画像の構成および画像の破損箇所の特性に対してロバストに、当該画像の破損箇所を特定する画像判別装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
この発明に係る画像判別装置は、入力画像を構成する複数の画像ブロックに対して可変長復号を行い、直交変換係数の配列を取得する部分復号部と、部分復号部が取得した直交変換係数の配列に対してフィルタ処理を行い、直交変換係数の特徴量の配列を抽出する特徴量抽出部と、特徴量抽出部が抽出した直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、入力画像は破損していないと判別する破損ブロック判定部とを備えるものである。
【発明の効果】
【0009】
この発明によれば、画像の構成および画像の破損箇所の特性に対してロバストに、画像の破損箇所を特定することができる。
【図面の簡単な説明】
【0010】
【図1】実施の形態1による画像判別装置の構成を示すブロック図である。
【図2】実施の形態1による画像判別装置のDTC係数の配列を示す図である。
【図3】実施の形態1による画像判別装置の特徴量の配列を示す図である。
【図4】実施の形態1による画像判別装置の特徴量抽出フィルタの一例を示す図である。
【図5】実施の形態2による画像判別装置の構成を示すブロック図である。
【図6】実施の形態2による画像判別装置のDCT係数の行列を示す図である。
【図7】実施の形態2による画像判別装置の特徴量抽出部の処理を示す説明図である。
【図8】実施の形態2による画像判別装置の特徴量抽出フィルタの一例を示す図である。
【図9】実施の形態3による画像判別装置の構成を示すブロック図である。
【図10】実施の形態3による画像判別装置の特徴量の配列の詳細を示す図である。
【図11】実施の形態3による画像判別装置の特徴量抽出フィルタの一例を示す図である。
【図12】実施の形態4による画像判別装置の閾値の配列およびその具体例を示す図である。
【図13】実施の形態5による画像判別装置の構成を示すブロック図である。
【図14】実施の形態5による画像判別装置の閾値の算出方法を示す説明図である。
【図15】実施の形態6による画像判別装置の構成を示すブロック図である。
【図16】実施の形態7による画像判別装置の構成を示すブロック図である。
【発明を実施するための形態】
【0011】
この発明の画像判別装置では、入力された画像の色差のみを分離し、さらに画像をブロック単位で周波数変換して得られる周波数係数に対してフィルタ処理を実施し、破損画像に固有の周波数特性を抽出する。一般に、画像の色差成分の周波数特性は輝度成分と比較してなだらかである。特に、JPEGのような色差成分を間引いて符号化する画像符号化方式では、特にこの傾向が顕著である。一方、可変長符号化を採用した符号化方式では、画像の破損によって周波数特性にはランダム性の高い変化が生じる。当該変化は輝度および色差に関係なく生じるため、自然画像にはほとんど出現しない色差成分の周波数の急峻な変化が、画像に現れる。そこで、この発明の画像判別装置では、色差の周波数特性における急峻な変化をエッジ検出フィルタによりフィルタ処理で抽出し、画像の破損箇所を発見する。以下に、具体的な構成および動作を示す。
【0012】
実施の形態1.
図1は、この発明の実施の形態1による画像判別装置の構成を示すブロック図である。図1において、画像判別装置100は、部分復号部10、特徴量抽出部20および破損ブロック判定部30で構成されている。
画像判別装置100は、外部装置から入力される入力画像Isを読み込み、入力画像Isの各ブロックが破損しているか否かを示す判別結果Dbを出力する。なお以下では、入力画像IsはJPEGで符号化されているものとして説明を行う。ただし、入力画像Isの符号化方式はJPEGに限定されるものではなく、可変長符号化および直交変換を採用している符号化方式であれば種々適用可能である。
【0013】
部分復号部10は、入力画像Isを読込んで可変長復号し、JPEGにおけるMCU(Minimum Coded Unit)1個分のDCT係数の配列Cvを取得する。JPEGの圧縮符号化では、入力画像Isを8×8の64画素を1つのブロックとした複数のブロックに分割して、ブロック毎に圧縮符号化を行う。このブロックはJPEG処理の基本単位であり、MCUと呼ぶ。なお、部分復号部10はDCT係数の逆ジグザグスキャンを行わない。従って、DCT係数の配列Cvには8×8ブロック単位の輝度成分のDCT係数の配列4つと、2つの色差成分のDCT係数の配列が各1つずつ含まれる。DCT係数の配列Cvの内容を図2に示す。図2の例では、輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3と、2つの色差成分U,VのDCT係数の配列Cvu,Cvvが含まれている。各配列は要素数64で構成されている。
なお、復号の単位はMCU1個分に限定する必要はなく、入力画像Isの符号化方式において採用されている復号の単位であればどのようなものでも良い。
【0014】
特徴量抽出部20は、部分復号部10から入力されるDCT係数の配列Cvのうち色差成分U,VのDCT係数の配列Cvu,Cvvを得る。さらに、特徴量抽出部20は色差成分U,VのDCT係数の配列Cvu、Cvvに特徴量抽出フィルタFsを適用し、色差特徴量の配列Fvu,Fvvを取得する。特徴量抽出部20は、当該配列Fvu,Fvvをまとめて特徴量の配列Fvとして出力する。特徴量の配列Fvの詳細を図3に示している。
【0015】
破損ブロック判定部30は、入力された特徴量の配列Fvに含まれる色差特徴量の配列Fvu,Fvvについて、それぞれDC成分にあたる0番目の特徴量を除いた63個の特徴量の値をあらかじめ設定された閾値Tfと比較する。色差特徴量の配列Fvu,Fvvのそれぞれについて63個の値全てが閾値Tfより小さい場合、破損ブロック判定部30は当該ブロックが正常であると判定する。一方、閾値Tfより大きい特徴量を有するブロックが存在する場合、当該ブロックが破損していると判定する。なお、閾値Tfは経験的に設定することはもちろん、学習アルゴリズムを用いて適応的に設定してもよい。
破損ブロック判定部30は、判定結果Dbを出力すると共に、ブロックが破損していると判定した場合には、破損したブロックの位置情報も出力する。
【0016】
次に、特徴量抽出部20が色差特徴量の配列を取得する際に適用する特徴量抽出フィルタFsについてより詳細に説明する。図4に示すように、この実施の形態1の画像判別装置100の特徴量抽出部20の特徴量抽出フィルタFsは、フィルタ係数が−1,2,−1の3タップの1次元フィルタを用いる。図4に示す特徴量抽出フィルタFsはエッジ検出フィルタに近い働きを有し、DCT係数の急峻な変化を検出する。上述したように、破損ブロックは色差成分に急峻な変化が出現する特徴を有しているため、当該特徴量抽出フィルタFsは破損ブロックの特徴を効果的に検出することができる。なお、特徴量抽出フィルタFsは図4に示したフィルタに限定されるものではない。
【0017】
以上のように、この実施の形態1によれば、DCT係数に表れる破損ブロック特有の特徴を検出する特徴量抽出フィルタFSを有する特徴量抽出部20を備えるように構成したので、ロバストに入力画像Is内の破損ブロックの存在を判別することができる。
【0018】
実施の形態2.
この実施の形態2では、特徴量抽出部において2次元フィルタを用いる構成について説明する。
図5は、実施の形態2の画像判別装置の構成を示すブロック図である。実施の形態2の画像判別装置100は、配列取得部11aおよびスキャン部11bを備えた部分復号部11、フィルタ処理部21aおよび配列取得部21bを備えた特徴量抽出部21、および破損ブロック判定部30で構成されている。
なお、以下では、実施の形態1による画像判別装置100の構成要素と同一または相当する部分には実施の形態1で使用した符号と同一の符号を付して説明を省略または簡略化する。
【0019】
部分復号部11の配列取得部11aは、上記実施の形態1の図2で示したDCT係数の配列Cvに含まれる輝度および色差のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3,Cvu,Cvvを取得する。さらにスキャン部11bは、これらのDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3,Cvu,Cvvを逆ジグザグスキャンし、それぞれ8×8の輝度および色差のDCT係数の行列Cby0,Cby1,Cby2,Cby3,Cbu,Cbvを取得する。これらの行列をまとめてDCT係数の行列Cbとして出力する。図6にDCT係数の行列Cbの一例を示している。
【0020】
特徴量抽出部21のフィルタ処理部21aは、部分復号部11から入力されるDCT係数の行列Cbのうち、色差成分U,VのDCT係数の行列Cbu,Cbvを得る。さらに、色差成分U,VのDCT係数の行列Cbu,Cbvに2次元の特徴量抽出フィルタFs2を適用し、8×8の色差の特徴量の行列Fbu,Fbvを取得する。さらに配列取得部21bは、当該行列Fbu,Fbvを左上から右下に向かってスキャンし、色差特徴量の配列Fvu2,Fvv2を取得する。図7に、行列Cbuから色差特徴量の配列Fvu2を取得する際の処理を示している。特徴量抽出部21は、取得した配列Fvu2,Fvv2をまとめて特徴量の配列Fv2として出力する。
【0021】
特徴量抽出部21のフィルタ処理部21aが色差特徴量の行列Fbu,Fbvを取得する際に適用する特徴量抽出フィルタFs2についてより詳細に説明する。図8に示すように、この実施の形態2の画像判別装置100の特徴量抽出フィルタFs2は、フィルタ係数が左上から{0,−1,0,−1,4,−1,0,−1,0}の3×3の2次元フィルタを用いる。図7に示した特徴量抽出フィルタFs2は、上記実施の形態1で示した特徴量抽出フィルタFsと同様、DCT係数の急峻な変化を検出することができる。なお、特徴量抽出フィルタFs2に示したフィルタに限定されるものではない。
【0022】
破損ブロック判定部30は、特徴量抽出部21から入力される特徴量の配列Fvに含まれる色差特徴量の配列Fvu2,Fvv2について、閾値Tfと比較する処理を行ってブロックが正常であるか破損しているかの判定を行う。判定処理は、実施の形態1と同様であるため、詳細な説明を省略する。
【0023】
以上のように、この実施の形態2によれば、DCT係数の配列に逆ジグザグスキャンを行ってDCT係数の行列を取得する部分復号部11と、DCT係数の行列を入力として色差成分に対して2次元フィルタによるフィルタ処理を行うことにより、色差特徴量の配列Fvu2,Fvv2を取得する特徴量抽出部21とを備えるように構成したので、入力画像の特徴量の抽出をより精度よく行うことができる。
【0024】
実施の形態3.
上述した実施の形態1および実施の形態2では、特徴量抽出部21において色差成分のみを抽出する構成を示したが、この実施の形態3では、色差成分に加えて輝度成分も抽出する構成を示す。
図9は、この実施の形態3の画像判別装置の構成を示すブロック図である。実施の形態3の画像判別装置100は、部分復号部10、輝度成分抽出部22aおよび色差成分抽出部22bを備えた特徴量抽出部22、輝度成分判定部31aおよび色差成分判定部31bを備えた破損ブロック判定部31で構成されている。
なお、以下では、実施の形態1による画像判別装置100の構成要素と同一または相当する部分には実施の形態1で使用した符号と同一の符号を付して説明を省略または簡略化する。
【0025】
特徴量抽出部22は、部分復号部10から入力されたDCT係数の配列Cvを4つの輝度成分Y0、Y1,Y2,Y3と2つの色差成分U,Vに分離し、これらのDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3,Cvu,Cvvを得る。次に、特徴量抽出部22の輝度成分抽出部22aは、輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3に輝度成分用の特徴量フィルタFsyを適用し、輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3を取得する。また、色差成分抽出部22bは、色差成分のDCT係数の配列Cvu、Cvvに特徴量抽出フィルタFsを適用し、色差成分の特徴量の配列Fvu,Fvvを取得する。特徴量抽出部22は、これらの配列Fvy0,Fvy1,Fvy2,Fvy3,Fvu,Fvvをまとめて特徴量の配列Fvmとして出力する。特徴量の配列Fvmの詳細を図10に示している。
【0026】
破損ブロック判定部31の輝度成分判定部31aは、特徴量抽出部22から入力された特徴量の配列Fvmのうち、輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3のそれぞれについて、DC成分にあたる0番目の特徴量を除いた63個の特徴量の値をあらかじめ設定された輝度成分判定用の閾値Tfyと比較する。輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3のそれぞれについて63個の値のうち1つでも閾値Tfyより大きい値が存在する場合、輝度成分判定部31aは閾値Tfyより大きい特徴量を有するブロックが破損していると判定する。
【0027】
一方、輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3のそれぞれについて63個の値全てが閾値Tfyより小さい場合、続いて色差成分判定部31bが、特徴量の配列Fvmのうち色差特徴量の配列Fvu,FvvについてそれぞれDC成分にあたる0番目の特徴量を除いた63個の特徴量の値をあらかじめ設定された閾値Tfcと比較する。色差特徴量の配列Fvu,Fvvのそれぞれについて63個の値全てが閾値Tfcより小さい場合、色差成分判定部31bは当該ブロックが正常であると判定する。一方、閾値Tfcより大きい特徴量を有するブロックが存在する場合、当該ブロックが破損していると判定する。
【0028】
なお、閾値Tfy,Tfcは経験的に設定することはもちろん、学習アルゴリズムを用いて適応的に設定してもよい。また、閾値Tfyと閾値Tfcは、同一の値で構成してもよいし、異なる値で構成してもよい。
破損ブロック判定部31は、輝度成分判定部31aおよび色差成分判定部31bの判定結果をまとめた判定結果Dbを出力すると共に、ブロックが破損していると判定されている場合には、破損したブロックの位置情報も合せて出力する。
【0029】
次に、特徴量抽出部22の輝度成分抽出部22aが輝度成分の特徴量の配列を取得する際に適用する輝度成分用の特徴量抽出フィルタFsyについてより詳細に説明する。図11は、実施の形態3の画像判別装置100の輝度成分の特徴量抽出フィルタFsyを示す図である。図11では、特徴量抽出フィルタFsyとして、フィルタ係数が{−1,1,−1}の3タップの1次元フィルタを用いる例を示している。図11に示す輝度成分の特徴量抽出フィルタFsyは、色差成分の特徴量抽出フィルタFsと比較して、DCT係数の変化がより激しい箇所のみを検出することができる。なお、輝度成分の特徴量抽出フィルタFsyは図11に示したフィルタに限定されるものではない。
【0030】
以上のように、この実施の形態3によれば、異なる特徴量抽出フィルタFs,Fsyを用いて輝度成分および色差成分両者の特徴量を含む配列Fvmを取得する特徴量抽出部22と、輝度成分と色差成分で異なる閾値Tfc,Tfyを用いて各ブロックの破損を判定する破損ブロック判定部31とを備えるように構成したので、破損ブロックが存在するか否かをより精度よく判定することができる。
【0031】
また、この実施の形態3によれば、輝度成分の特徴量抽出フィルタとしてDCT係数の変化がより激しい箇所のみを検出する特徴量抽出フィルタFsyを適用するように構成したので、抽出する成分の特徴に合せた抽出処理を行うことができる。
【0032】
なお、上述した実施の形態2のDCT係数の行列を用いて特徴量を抽出する構成に、当該実施の形態3の色差成分に加えて輝度成分の特徴量を含む配列Fvmを取得し、輝度成分と色差成分で異なる閾値を用いて各ブロックの破損を判定する構成を適用することも可能である。
【0033】
実施の形態4.
上述した実施の形態1から実施の形態3では、色差特徴量の配列Fvu,Fvvに含まれる63個の特徴量の値を、1つの閾値Tfと比較して破損ブロックの存在の有無を判定する構成を示したが、この実施の形態4では、閾値の配列を用意し、当該閾値の配列と色差特徴量の配列Fvu,Fvvに含まれる63個の特徴量の値とを比較することにより破損ブロックの存在の有無を判定する構成を示す。
なお、画像判別装置100のブロック図は、実施の形態1から実施の形態3と同一であることから、詳細な記載および図面の記載を省略する。
【0034】
図12は、実施の形態4の画像判別装置が破損ブロックの判定に用いる閾値配列の構成を示す図である。なおこの閾値配列は、実施の形態1から実施の形態3で示した破損ブロック判定部30,31が新たに備えるものである。図12(a)は、特徴量の配列に対応した閾値の配列を示す説明図であり、図12(b)は閾値の配列の具体例を示す図である。
図12(a)に示すように、特徴量の配列Fvの各成分F0、F1,F2・・・に対応した閾値T0,T1,T2・・・が設けられ、これらの閾値が閾値の配列Tfvを構成している。閾値の配列Tfvは、インデックスの小さい要素(T0側の閾値)の値は大きく設定され、逆にインデックスの大きい要素(T7側の閾値)の値は小さく設定されている。一方、特徴量の配列は、インデックスの小さい要素(F0側の特徴量)はDCT係数の低周波数成分に対応し、インデックスの大きい要素(F7側の特徴量)はDCT係数の高周波数成分に対応している。図12(b)は、インデックスの大小に従って閾値を配列させた閾値の配列Tfvの具体例を示している。
【0035】
破損ブロック判定部30,31は、各DCT係数の特徴量と対応する閾値とを比較し、破損ブロックが存在するか判定を行う。このように、インデックスの大小に従って閾値を配列させることによってDCT係数の変化量が大きい低周波数帯における誤検出を抑制することができる。
【0036】
以上のように、この実施の形態4によれば、インデックスの小さい要素あるいはインデックスの大きい要素に基づいて閾値を配列した閾値の配列Tfvを用いて、各DCT係数の特徴量との比較を行い、破損ブロックが存在するか判定するように構成したので、DCT係数の変化量が大きい低周波数帯における破損ブロックの誤検出を抑制することができる。
【0037】
実施の形態5.
この実施の形態5では、輝度成分のDCT係数の配列から、破損ブロック判定部が判定に用いる閾値を設定する構成を示す。
図13は、実施の形態5による画像判別装置の構成を示すブロック図である。実施の形態5の画像判別装置100は、部分復号部10、特徴量抽出部20、閾値設定部32aおよび破損判定部32bを備えた破損ブロック判定部32で構成されている。
なお、以下では、実施の形態1による画像判別装置100の構成要素と同一または相当する部分には実施の形態1で使用した符号と同一の符号を付して説明を省略または簡略化する。
【0038】
特徴量抽出部20は、実施の形態1と同様に入力されたDCT係数の配列Cvのうち色差U,VのDCT係数の配列Cvu、Cvvを得ると、当該配列Cvu、Cvvに特徴量抽出フィルタFsを適用して色差特徴量の配列Fvu,Fvvを取得し、これらをまとめた配列Fvを破損ブロック判定部32に出力する。さらにこの実施の形態5では、特徴量抽出部20は、DCT係数の配列Cvのうち8×8ブロック単位の輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3を取得し、これらをまとめて輝度成分のDCT係数の配列Cvyとして破損ブロック判定部32に出力する。
【0039】
破損ブロック判定部32の閾値設定部32aは、入力された輝度成分のDCT係数の配列Cvyを用いて、63個の要素からなる閾値の配列Tvを算出する。その後、破損判定部32bは、入力された特徴量の配列Fvに含まれるFvu、Fvvについて、それぞれDC成分にあたる0番目の特徴量を除いた63個の特徴量の値を閾値の配列Tvの各値と比較する。色差特徴量の配列Fvu,Fvvのそれぞれについて63個の特徴量の値全てが対応する閾値の配列Tvの値より小さい場合、破損判定部32bは全てのブロックが正常であると判断する。一方閾値の配列Tvより大きい特徴量を有するブロックが存在する場合、当該ブロックが破損していると判定する。
【0040】
次に、閾値設定部32aが設定する閾値の配列Tvの算出方法についてより詳細に説明する。
閾値設定部32aは、特徴量抽出部20から入力された輝度成分のDCT係数の配列Cvyから、8×8ブロック単位の輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3を取得する。次に、Cvy0,Cvy1,Cvy2,Cvy3の0番目の要素を除く63個の要素について、同一のインデックスを有する各要素を比較し、各要素のうちで最小の値を閾値の配列Tv´の要素とする。具体的には、図14において、Cvy0,Cvy1,Cvy2,Cvy3のインデックス1の各要素は「12,20,15,17」であり、これらの要素の中で最小の値である「12」を配列Tv´のインデックス1の要素とする。同様にインデックス2から8についても同様の処理を行う。次に、閾値の配列Tv´の各要素にあらかじめ設定した係数Ry(図14の例ではRy=0.5)を乗じて閾値の配列Tvを生成する。このように、輝度成分のDCT係数に基づいて閾値の配列Tvを設定することは、すなわち入力画像の特徴に応じた閾値を設定することになる。
【0041】
以上のように、この実施の形態5によれば、輝度成分のDCT係数の配列を構成する要素の値に応じて閾値の配列を設定する閾値設定部32aと、設定した閾値の配列と入力画像の特徴量の配列とを比較してブロックの破損を判定する破損判定部32bとを有する破損ブロック判定部32を備えるように構成したので、入力画像の特徴に応じて、破損ブロックの存在有無を判定することができる。
【0042】
なお、上述した実施の形態5では、同一のインデックスを有する各要素の値を比較して最小の値を配列Tv´の要素とするように構成したが、最大の値を配列Tv´の要素としてもよいし、中央値を配列Tv´の要素としてもよいし、平均値を配列Tv´の要素としてもよい。
【0043】
実施の形態6.
この実施の形態6では、画像判別装置100にデコーダ部12を追加して設ける構成を示す。
図15は、実施の形態6の画像判別装置の構成を示すブロック図である。画像判別装置100は、上述した実施の形態1から実施の形態5で示した部分復号部10,11に替えてデコーダ部12および直交変換部13を設けている。
また、画像判別装置100には、入力画像Isに替えて入力画像Iiが入力される。入力画像IiはPNG(Portable Network Graphics)で符号化されているものとする。なお、当該符号化方式はPNGに限定されるものではなく、どのような符号化方式で構成してもよい。
【0044】
デコーダ部12は、入力画像Iiを読込んで復号してベースバンド画像Ibを取得し、直交変換部13に出力する。なお、ベースバンド画像はRGB色空間で表現されているため、デコーダ部12はベースバンド画像をYUV色空間に変換し、ベースバンド画像Ibとして出力する。なお、デコーダ部12はベースバンド画像をYUV色空間以外の色空間に変換してもよい。ただし、変換後の色空間はL*a*bなどの輝度と色差で表現されている色空間が望ましい。
【0045】
直交変換部13は、デコーダ部12から入力されたベースバンド画像Ibを輝度成分と色差成分に分離し、分離した輝度成分および色差成分を8×8ブロック単位でDCT変換し、Y,U,Vそれぞれの成分のDCT係数の行列Cby,Cbu,Cbvを取得する。さらに、直交変換部13はCby,Cbu,Cbvそれぞれをジグザグスキャンし、Y,U,Vそれぞれの成分のDCT係数の配列Cvy,Cvu,Cvvを取得する。直交変換部13はCvy,Cvu,CvvをまとめてDCT係数の配列Cv’として出力する。ここで、DCT変換は必ずしも8×8ブロック単位で行う必要はなく、主要な符号化方式で使用されているブロックサイズであればどのようなブロックサイズで行ってもよい。後段の構成として、実施の形態1で示した特徴量抽出部20および破損ブロック判定部30が特徴量の抽出および破損ブロックの判定を行う。
【0046】
また、直交変換部13の異なる構成として、各成分のDCT係数の行列Cby,Cbu,Cbvをジグザグスキャンする代わりに、行列Cby,Cbu,CbvをまとめてDCT係数の行列Cbとして出力するように構成してもよい。直交変換部13がDCT係数の行列Cbを出力するように構成した場合、後段の構成としては、実施の形態2で示した特徴量抽出部21および破損ブロック判定部30が特徴量の抽出および破損ブロックの判定を行う。
【0047】
以上のように、この実施の形態6によれば、入力画像を読込んで復号し、ベースバンド画像を取得するデコーダ部12と、ベースバンド画像を輝度成分と色差成分に分離してDCT係数の行列を取得する直交変換部13とを備えるように構成したので、任意の符号化方式で符号化された入力画像に対して、破損ブロックの検出を行うことができる。
【0048】
実施の形態7.
図16は、この実施の形態7の画像判別装置の構成を示すブロック図である。図16の画像判別装置100は、上記図1で示した実施の形態1の画像判別装置100に破損度算出部40を追加して設け、入力画像の各ブロックが破損しているか否かを出力する構成に代えて、入力画像が破損している確率を示す破損度Drを出力する。破損度Drは、0から1までの値で示され、破損度Drが1に近いほど入力画像が破損している確率が高いことを示す。
【0049】
破損度算出部40の詳細な動作について説明する。
まず、部分復号部10、特徴量抽出部20および破損ブロック判定部30において、実施の形態1から実施の形態6と同一の処理が行われ、破損ブロック判定部30から判定結果Dbが入力される。破損度算出部40は、入力された判定結果Dbを参照し、当該判定結果Dbがブロックの破損を示している場合、破損ブロック数Fnを1増加させる。一方、判定結果Dbがブロックが正常である旨を示している場合、正常ブロック数Snを1増加させる。
【0050】
全てのブロックについて、破損しているか、正常であるかの確認が終了すると、破損度算出部40は、以下の式(1)に基づいて破損度Drを算出する。
式(1)において、Tnは経験的に設定した閾値である。この閾値Tnは学習アルゴリズムによって適応的に設定してもよい。
【0051】
また、正常な画像において破損ブロックは稀にしか出現しないことを考慮して、以下の式(2)に基づいて破損度Drを算出してもよい。
なお、cは上記の値に限定されるものではない。
【0052】
同様に、以下の式(3)に基づいて破損度Drを算出してもよい。
なお、γおよびkは上記の値に限定されるものではない。
【0053】
以上のように、この実施の形態7によれば、破損ブロック数Fnを用いて入力画像Isの破損度Drを算出するように構成したので、入力画像が破損しているかを示す簡便な指標を示すことができる。
【0054】
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
【符号の説明】
【0055】
10,11 部分復号部、11a,21b 配列取得部、11b スキャン部、12 デコーダ部、13 直交変換部、20,21,22 特徴量抽出部、21a フィルタ処理部、22a 輝度成分抽出部、22b 色差成分抽出部、30,31,32 破損ブロック判定部、31a 輝度成分判定部、31b 色差成分判定部、32a 閾値設定部、32b 破損判定部、40 破損度算出部、100 画像判別装置。
【技術分野】
【0001】
この発明は、画像ファイルの破損箇所を検出する画像判別装置に関するものである。
【背景技術】
【0002】
画像を符号化してハードディスクに蓄積している場合、ハードディスクの故障などの要因で符号化された画像ファイルが破損することがある。この場合、画像ファイルの符号化方式に応じたデコーダを使って部分的にデコードする、あるいはヘッダの一部を差し替えるなどの方法で修復を試みることになるが、画像ファイルが修復されたかどうかを確認するためには実際に画像を開いて目視する必要がある。そのため、画像ファイルが正しく修復されているか否かをプログラムにより確認したいという要求が存在する。
【0003】
上述の要求を満たすために、符号化された画像を入力とし、当該画像の破損した箇所を検出する画像判別装置が用いられる。画像判別装置における破損箇所の検出方法としては、まず実際にデコードを行い、デコードが成功するか否かで判断する方法が考えられる。しかし画像が可変長符号化を採用した符号化方式で符号化されている場合、破損の状態や修復の方法によっては、デコードは成功しても出力される画像が崩れてしまう場合がある。このような場合に破損した箇所を検出するには、画像の特徴をより詳細に解析する必要がある。
【0004】
画像の特徴を詳細に解析する方法として、画像を周波数変換し、その周波数特性を利用して画像の特徴を解析する方法が特許文献1に提案されている。特許文献1の画像判別装置は、画像データを構成するブロック毎に所定方向の周波数成分を表す係数群を抽出し、あらかじめ記憶した係数群が表す画素値の勾配の形状に近似した基本エッジパターンと照合することで、検出したい特徴を有する画像を検出する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−15661号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した特許文献1に開示された技術では、破損した画像に出現する周波数特性は、破損した箇所によってそれぞれ異なり、あらかじめ記憶したパターンとの照合では発見が困難であるという課題があった。また、特許文献1のように、周波数特性を利用するには輝度成分の周波数特性が利用されることが多いが、輝度成分の周波数特性は個々の画像におけるばらつきが大きく、破損した画像特有の周波数特性を発見しにくいという課題があった。
【0007】
この発明は、上記のような課題を解決するためになされたもので、画像の構成および画像の破損箇所の特性に対してロバストに、当該画像の破損箇所を特定する画像判別装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
この発明に係る画像判別装置は、入力画像を構成する複数の画像ブロックに対して可変長復号を行い、直交変換係数の配列を取得する部分復号部と、部分復号部が取得した直交変換係数の配列に対してフィルタ処理を行い、直交変換係数の特徴量の配列を抽出する特徴量抽出部と、特徴量抽出部が抽出した直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、入力画像は破損していないと判別する破損ブロック判定部とを備えるものである。
【発明の効果】
【0009】
この発明によれば、画像の構成および画像の破損箇所の特性に対してロバストに、画像の破損箇所を特定することができる。
【図面の簡単な説明】
【0010】
【図1】実施の形態1による画像判別装置の構成を示すブロック図である。
【図2】実施の形態1による画像判別装置のDTC係数の配列を示す図である。
【図3】実施の形態1による画像判別装置の特徴量の配列を示す図である。
【図4】実施の形態1による画像判別装置の特徴量抽出フィルタの一例を示す図である。
【図5】実施の形態2による画像判別装置の構成を示すブロック図である。
【図6】実施の形態2による画像判別装置のDCT係数の行列を示す図である。
【図7】実施の形態2による画像判別装置の特徴量抽出部の処理を示す説明図である。
【図8】実施の形態2による画像判別装置の特徴量抽出フィルタの一例を示す図である。
【図9】実施の形態3による画像判別装置の構成を示すブロック図である。
【図10】実施の形態3による画像判別装置の特徴量の配列の詳細を示す図である。
【図11】実施の形態3による画像判別装置の特徴量抽出フィルタの一例を示す図である。
【図12】実施の形態4による画像判別装置の閾値の配列およびその具体例を示す図である。
【図13】実施の形態5による画像判別装置の構成を示すブロック図である。
【図14】実施の形態5による画像判別装置の閾値の算出方法を示す説明図である。
【図15】実施の形態6による画像判別装置の構成を示すブロック図である。
【図16】実施の形態7による画像判別装置の構成を示すブロック図である。
【発明を実施するための形態】
【0011】
この発明の画像判別装置では、入力された画像の色差のみを分離し、さらに画像をブロック単位で周波数変換して得られる周波数係数に対してフィルタ処理を実施し、破損画像に固有の周波数特性を抽出する。一般に、画像の色差成分の周波数特性は輝度成分と比較してなだらかである。特に、JPEGのような色差成分を間引いて符号化する画像符号化方式では、特にこの傾向が顕著である。一方、可変長符号化を採用した符号化方式では、画像の破損によって周波数特性にはランダム性の高い変化が生じる。当該変化は輝度および色差に関係なく生じるため、自然画像にはほとんど出現しない色差成分の周波数の急峻な変化が、画像に現れる。そこで、この発明の画像判別装置では、色差の周波数特性における急峻な変化をエッジ検出フィルタによりフィルタ処理で抽出し、画像の破損箇所を発見する。以下に、具体的な構成および動作を示す。
【0012】
実施の形態1.
図1は、この発明の実施の形態1による画像判別装置の構成を示すブロック図である。図1において、画像判別装置100は、部分復号部10、特徴量抽出部20および破損ブロック判定部30で構成されている。
画像判別装置100は、外部装置から入力される入力画像Isを読み込み、入力画像Isの各ブロックが破損しているか否かを示す判別結果Dbを出力する。なお以下では、入力画像IsはJPEGで符号化されているものとして説明を行う。ただし、入力画像Isの符号化方式はJPEGに限定されるものではなく、可変長符号化および直交変換を採用している符号化方式であれば種々適用可能である。
【0013】
部分復号部10は、入力画像Isを読込んで可変長復号し、JPEGにおけるMCU(Minimum Coded Unit)1個分のDCT係数の配列Cvを取得する。JPEGの圧縮符号化では、入力画像Isを8×8の64画素を1つのブロックとした複数のブロックに分割して、ブロック毎に圧縮符号化を行う。このブロックはJPEG処理の基本単位であり、MCUと呼ぶ。なお、部分復号部10はDCT係数の逆ジグザグスキャンを行わない。従って、DCT係数の配列Cvには8×8ブロック単位の輝度成分のDCT係数の配列4つと、2つの色差成分のDCT係数の配列が各1つずつ含まれる。DCT係数の配列Cvの内容を図2に示す。図2の例では、輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3と、2つの色差成分U,VのDCT係数の配列Cvu,Cvvが含まれている。各配列は要素数64で構成されている。
なお、復号の単位はMCU1個分に限定する必要はなく、入力画像Isの符号化方式において採用されている復号の単位であればどのようなものでも良い。
【0014】
特徴量抽出部20は、部分復号部10から入力されるDCT係数の配列Cvのうち色差成分U,VのDCT係数の配列Cvu,Cvvを得る。さらに、特徴量抽出部20は色差成分U,VのDCT係数の配列Cvu、Cvvに特徴量抽出フィルタFsを適用し、色差特徴量の配列Fvu,Fvvを取得する。特徴量抽出部20は、当該配列Fvu,Fvvをまとめて特徴量の配列Fvとして出力する。特徴量の配列Fvの詳細を図3に示している。
【0015】
破損ブロック判定部30は、入力された特徴量の配列Fvに含まれる色差特徴量の配列Fvu,Fvvについて、それぞれDC成分にあたる0番目の特徴量を除いた63個の特徴量の値をあらかじめ設定された閾値Tfと比較する。色差特徴量の配列Fvu,Fvvのそれぞれについて63個の値全てが閾値Tfより小さい場合、破損ブロック判定部30は当該ブロックが正常であると判定する。一方、閾値Tfより大きい特徴量を有するブロックが存在する場合、当該ブロックが破損していると判定する。なお、閾値Tfは経験的に設定することはもちろん、学習アルゴリズムを用いて適応的に設定してもよい。
破損ブロック判定部30は、判定結果Dbを出力すると共に、ブロックが破損していると判定した場合には、破損したブロックの位置情報も出力する。
【0016】
次に、特徴量抽出部20が色差特徴量の配列を取得する際に適用する特徴量抽出フィルタFsについてより詳細に説明する。図4に示すように、この実施の形態1の画像判別装置100の特徴量抽出部20の特徴量抽出フィルタFsは、フィルタ係数が−1,2,−1の3タップの1次元フィルタを用いる。図4に示す特徴量抽出フィルタFsはエッジ検出フィルタに近い働きを有し、DCT係数の急峻な変化を検出する。上述したように、破損ブロックは色差成分に急峻な変化が出現する特徴を有しているため、当該特徴量抽出フィルタFsは破損ブロックの特徴を効果的に検出することができる。なお、特徴量抽出フィルタFsは図4に示したフィルタに限定されるものではない。
【0017】
以上のように、この実施の形態1によれば、DCT係数に表れる破損ブロック特有の特徴を検出する特徴量抽出フィルタFSを有する特徴量抽出部20を備えるように構成したので、ロバストに入力画像Is内の破損ブロックの存在を判別することができる。
【0018】
実施の形態2.
この実施の形態2では、特徴量抽出部において2次元フィルタを用いる構成について説明する。
図5は、実施の形態2の画像判別装置の構成を示すブロック図である。実施の形態2の画像判別装置100は、配列取得部11aおよびスキャン部11bを備えた部分復号部11、フィルタ処理部21aおよび配列取得部21bを備えた特徴量抽出部21、および破損ブロック判定部30で構成されている。
なお、以下では、実施の形態1による画像判別装置100の構成要素と同一または相当する部分には実施の形態1で使用した符号と同一の符号を付して説明を省略または簡略化する。
【0019】
部分復号部11の配列取得部11aは、上記実施の形態1の図2で示したDCT係数の配列Cvに含まれる輝度および色差のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3,Cvu,Cvvを取得する。さらにスキャン部11bは、これらのDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3,Cvu,Cvvを逆ジグザグスキャンし、それぞれ8×8の輝度および色差のDCT係数の行列Cby0,Cby1,Cby2,Cby3,Cbu,Cbvを取得する。これらの行列をまとめてDCT係数の行列Cbとして出力する。図6にDCT係数の行列Cbの一例を示している。
【0020】
特徴量抽出部21のフィルタ処理部21aは、部分復号部11から入力されるDCT係数の行列Cbのうち、色差成分U,VのDCT係数の行列Cbu,Cbvを得る。さらに、色差成分U,VのDCT係数の行列Cbu,Cbvに2次元の特徴量抽出フィルタFs2を適用し、8×8の色差の特徴量の行列Fbu,Fbvを取得する。さらに配列取得部21bは、当該行列Fbu,Fbvを左上から右下に向かってスキャンし、色差特徴量の配列Fvu2,Fvv2を取得する。図7に、行列Cbuから色差特徴量の配列Fvu2を取得する際の処理を示している。特徴量抽出部21は、取得した配列Fvu2,Fvv2をまとめて特徴量の配列Fv2として出力する。
【0021】
特徴量抽出部21のフィルタ処理部21aが色差特徴量の行列Fbu,Fbvを取得する際に適用する特徴量抽出フィルタFs2についてより詳細に説明する。図8に示すように、この実施の形態2の画像判別装置100の特徴量抽出フィルタFs2は、フィルタ係数が左上から{0,−1,0,−1,4,−1,0,−1,0}の3×3の2次元フィルタを用いる。図7に示した特徴量抽出フィルタFs2は、上記実施の形態1で示した特徴量抽出フィルタFsと同様、DCT係数の急峻な変化を検出することができる。なお、特徴量抽出フィルタFs2に示したフィルタに限定されるものではない。
【0022】
破損ブロック判定部30は、特徴量抽出部21から入力される特徴量の配列Fvに含まれる色差特徴量の配列Fvu2,Fvv2について、閾値Tfと比較する処理を行ってブロックが正常であるか破損しているかの判定を行う。判定処理は、実施の形態1と同様であるため、詳細な説明を省略する。
【0023】
以上のように、この実施の形態2によれば、DCT係数の配列に逆ジグザグスキャンを行ってDCT係数の行列を取得する部分復号部11と、DCT係数の行列を入力として色差成分に対して2次元フィルタによるフィルタ処理を行うことにより、色差特徴量の配列Fvu2,Fvv2を取得する特徴量抽出部21とを備えるように構成したので、入力画像の特徴量の抽出をより精度よく行うことができる。
【0024】
実施の形態3.
上述した実施の形態1および実施の形態2では、特徴量抽出部21において色差成分のみを抽出する構成を示したが、この実施の形態3では、色差成分に加えて輝度成分も抽出する構成を示す。
図9は、この実施の形態3の画像判別装置の構成を示すブロック図である。実施の形態3の画像判別装置100は、部分復号部10、輝度成分抽出部22aおよび色差成分抽出部22bを備えた特徴量抽出部22、輝度成分判定部31aおよび色差成分判定部31bを備えた破損ブロック判定部31で構成されている。
なお、以下では、実施の形態1による画像判別装置100の構成要素と同一または相当する部分には実施の形態1で使用した符号と同一の符号を付して説明を省略または簡略化する。
【0025】
特徴量抽出部22は、部分復号部10から入力されたDCT係数の配列Cvを4つの輝度成分Y0、Y1,Y2,Y3と2つの色差成分U,Vに分離し、これらのDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3,Cvu,Cvvを得る。次に、特徴量抽出部22の輝度成分抽出部22aは、輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3に輝度成分用の特徴量フィルタFsyを適用し、輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3を取得する。また、色差成分抽出部22bは、色差成分のDCT係数の配列Cvu、Cvvに特徴量抽出フィルタFsを適用し、色差成分の特徴量の配列Fvu,Fvvを取得する。特徴量抽出部22は、これらの配列Fvy0,Fvy1,Fvy2,Fvy3,Fvu,Fvvをまとめて特徴量の配列Fvmとして出力する。特徴量の配列Fvmの詳細を図10に示している。
【0026】
破損ブロック判定部31の輝度成分判定部31aは、特徴量抽出部22から入力された特徴量の配列Fvmのうち、輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3のそれぞれについて、DC成分にあたる0番目の特徴量を除いた63個の特徴量の値をあらかじめ設定された輝度成分判定用の閾値Tfyと比較する。輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3のそれぞれについて63個の値のうち1つでも閾値Tfyより大きい値が存在する場合、輝度成分判定部31aは閾値Tfyより大きい特徴量を有するブロックが破損していると判定する。
【0027】
一方、輝度成分の特徴量の配列Fvy0,Fvy1,Fvy2,Fvy3のそれぞれについて63個の値全てが閾値Tfyより小さい場合、続いて色差成分判定部31bが、特徴量の配列Fvmのうち色差特徴量の配列Fvu,FvvについてそれぞれDC成分にあたる0番目の特徴量を除いた63個の特徴量の値をあらかじめ設定された閾値Tfcと比較する。色差特徴量の配列Fvu,Fvvのそれぞれについて63個の値全てが閾値Tfcより小さい場合、色差成分判定部31bは当該ブロックが正常であると判定する。一方、閾値Tfcより大きい特徴量を有するブロックが存在する場合、当該ブロックが破損していると判定する。
【0028】
なお、閾値Tfy,Tfcは経験的に設定することはもちろん、学習アルゴリズムを用いて適応的に設定してもよい。また、閾値Tfyと閾値Tfcは、同一の値で構成してもよいし、異なる値で構成してもよい。
破損ブロック判定部31は、輝度成分判定部31aおよび色差成分判定部31bの判定結果をまとめた判定結果Dbを出力すると共に、ブロックが破損していると判定されている場合には、破損したブロックの位置情報も合せて出力する。
【0029】
次に、特徴量抽出部22の輝度成分抽出部22aが輝度成分の特徴量の配列を取得する際に適用する輝度成分用の特徴量抽出フィルタFsyについてより詳細に説明する。図11は、実施の形態3の画像判別装置100の輝度成分の特徴量抽出フィルタFsyを示す図である。図11では、特徴量抽出フィルタFsyとして、フィルタ係数が{−1,1,−1}の3タップの1次元フィルタを用いる例を示している。図11に示す輝度成分の特徴量抽出フィルタFsyは、色差成分の特徴量抽出フィルタFsと比較して、DCT係数の変化がより激しい箇所のみを検出することができる。なお、輝度成分の特徴量抽出フィルタFsyは図11に示したフィルタに限定されるものではない。
【0030】
以上のように、この実施の形態3によれば、異なる特徴量抽出フィルタFs,Fsyを用いて輝度成分および色差成分両者の特徴量を含む配列Fvmを取得する特徴量抽出部22と、輝度成分と色差成分で異なる閾値Tfc,Tfyを用いて各ブロックの破損を判定する破損ブロック判定部31とを備えるように構成したので、破損ブロックが存在するか否かをより精度よく判定することができる。
【0031】
また、この実施の形態3によれば、輝度成分の特徴量抽出フィルタとしてDCT係数の変化がより激しい箇所のみを検出する特徴量抽出フィルタFsyを適用するように構成したので、抽出する成分の特徴に合せた抽出処理を行うことができる。
【0032】
なお、上述した実施の形態2のDCT係数の行列を用いて特徴量を抽出する構成に、当該実施の形態3の色差成分に加えて輝度成分の特徴量を含む配列Fvmを取得し、輝度成分と色差成分で異なる閾値を用いて各ブロックの破損を判定する構成を適用することも可能である。
【0033】
実施の形態4.
上述した実施の形態1から実施の形態3では、色差特徴量の配列Fvu,Fvvに含まれる63個の特徴量の値を、1つの閾値Tfと比較して破損ブロックの存在の有無を判定する構成を示したが、この実施の形態4では、閾値の配列を用意し、当該閾値の配列と色差特徴量の配列Fvu,Fvvに含まれる63個の特徴量の値とを比較することにより破損ブロックの存在の有無を判定する構成を示す。
なお、画像判別装置100のブロック図は、実施の形態1から実施の形態3と同一であることから、詳細な記載および図面の記載を省略する。
【0034】
図12は、実施の形態4の画像判別装置が破損ブロックの判定に用いる閾値配列の構成を示す図である。なおこの閾値配列は、実施の形態1から実施の形態3で示した破損ブロック判定部30,31が新たに備えるものである。図12(a)は、特徴量の配列に対応した閾値の配列を示す説明図であり、図12(b)は閾値の配列の具体例を示す図である。
図12(a)に示すように、特徴量の配列Fvの各成分F0、F1,F2・・・に対応した閾値T0,T1,T2・・・が設けられ、これらの閾値が閾値の配列Tfvを構成している。閾値の配列Tfvは、インデックスの小さい要素(T0側の閾値)の値は大きく設定され、逆にインデックスの大きい要素(T7側の閾値)の値は小さく設定されている。一方、特徴量の配列は、インデックスの小さい要素(F0側の特徴量)はDCT係数の低周波数成分に対応し、インデックスの大きい要素(F7側の特徴量)はDCT係数の高周波数成分に対応している。図12(b)は、インデックスの大小に従って閾値を配列させた閾値の配列Tfvの具体例を示している。
【0035】
破損ブロック判定部30,31は、各DCT係数の特徴量と対応する閾値とを比較し、破損ブロックが存在するか判定を行う。このように、インデックスの大小に従って閾値を配列させることによってDCT係数の変化量が大きい低周波数帯における誤検出を抑制することができる。
【0036】
以上のように、この実施の形態4によれば、インデックスの小さい要素あるいはインデックスの大きい要素に基づいて閾値を配列した閾値の配列Tfvを用いて、各DCT係数の特徴量との比較を行い、破損ブロックが存在するか判定するように構成したので、DCT係数の変化量が大きい低周波数帯における破損ブロックの誤検出を抑制することができる。
【0037】
実施の形態5.
この実施の形態5では、輝度成分のDCT係数の配列から、破損ブロック判定部が判定に用いる閾値を設定する構成を示す。
図13は、実施の形態5による画像判別装置の構成を示すブロック図である。実施の形態5の画像判別装置100は、部分復号部10、特徴量抽出部20、閾値設定部32aおよび破損判定部32bを備えた破損ブロック判定部32で構成されている。
なお、以下では、実施の形態1による画像判別装置100の構成要素と同一または相当する部分には実施の形態1で使用した符号と同一の符号を付して説明を省略または簡略化する。
【0038】
特徴量抽出部20は、実施の形態1と同様に入力されたDCT係数の配列Cvのうち色差U,VのDCT係数の配列Cvu、Cvvを得ると、当該配列Cvu、Cvvに特徴量抽出フィルタFsを適用して色差特徴量の配列Fvu,Fvvを取得し、これらをまとめた配列Fvを破損ブロック判定部32に出力する。さらにこの実施の形態5では、特徴量抽出部20は、DCT係数の配列Cvのうち8×8ブロック単位の輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3を取得し、これらをまとめて輝度成分のDCT係数の配列Cvyとして破損ブロック判定部32に出力する。
【0039】
破損ブロック判定部32の閾値設定部32aは、入力された輝度成分のDCT係数の配列Cvyを用いて、63個の要素からなる閾値の配列Tvを算出する。その後、破損判定部32bは、入力された特徴量の配列Fvに含まれるFvu、Fvvについて、それぞれDC成分にあたる0番目の特徴量を除いた63個の特徴量の値を閾値の配列Tvの各値と比較する。色差特徴量の配列Fvu,Fvvのそれぞれについて63個の特徴量の値全てが対応する閾値の配列Tvの値より小さい場合、破損判定部32bは全てのブロックが正常であると判断する。一方閾値の配列Tvより大きい特徴量を有するブロックが存在する場合、当該ブロックが破損していると判定する。
【0040】
次に、閾値設定部32aが設定する閾値の配列Tvの算出方法についてより詳細に説明する。
閾値設定部32aは、特徴量抽出部20から入力された輝度成分のDCT係数の配列Cvyから、8×8ブロック単位の輝度成分のDCT係数の配列Cvy0,Cvy1,Cvy2,Cvy3を取得する。次に、Cvy0,Cvy1,Cvy2,Cvy3の0番目の要素を除く63個の要素について、同一のインデックスを有する各要素を比較し、各要素のうちで最小の値を閾値の配列Tv´の要素とする。具体的には、図14において、Cvy0,Cvy1,Cvy2,Cvy3のインデックス1の各要素は「12,20,15,17」であり、これらの要素の中で最小の値である「12」を配列Tv´のインデックス1の要素とする。同様にインデックス2から8についても同様の処理を行う。次に、閾値の配列Tv´の各要素にあらかじめ設定した係数Ry(図14の例ではRy=0.5)を乗じて閾値の配列Tvを生成する。このように、輝度成分のDCT係数に基づいて閾値の配列Tvを設定することは、すなわち入力画像の特徴に応じた閾値を設定することになる。
【0041】
以上のように、この実施の形態5によれば、輝度成分のDCT係数の配列を構成する要素の値に応じて閾値の配列を設定する閾値設定部32aと、設定した閾値の配列と入力画像の特徴量の配列とを比較してブロックの破損を判定する破損判定部32bとを有する破損ブロック判定部32を備えるように構成したので、入力画像の特徴に応じて、破損ブロックの存在有無を判定することができる。
【0042】
なお、上述した実施の形態5では、同一のインデックスを有する各要素の値を比較して最小の値を配列Tv´の要素とするように構成したが、最大の値を配列Tv´の要素としてもよいし、中央値を配列Tv´の要素としてもよいし、平均値を配列Tv´の要素としてもよい。
【0043】
実施の形態6.
この実施の形態6では、画像判別装置100にデコーダ部12を追加して設ける構成を示す。
図15は、実施の形態6の画像判別装置の構成を示すブロック図である。画像判別装置100は、上述した実施の形態1から実施の形態5で示した部分復号部10,11に替えてデコーダ部12および直交変換部13を設けている。
また、画像判別装置100には、入力画像Isに替えて入力画像Iiが入力される。入力画像IiはPNG(Portable Network Graphics)で符号化されているものとする。なお、当該符号化方式はPNGに限定されるものではなく、どのような符号化方式で構成してもよい。
【0044】
デコーダ部12は、入力画像Iiを読込んで復号してベースバンド画像Ibを取得し、直交変換部13に出力する。なお、ベースバンド画像はRGB色空間で表現されているため、デコーダ部12はベースバンド画像をYUV色空間に変換し、ベースバンド画像Ibとして出力する。なお、デコーダ部12はベースバンド画像をYUV色空間以外の色空間に変換してもよい。ただし、変換後の色空間はL*a*bなどの輝度と色差で表現されている色空間が望ましい。
【0045】
直交変換部13は、デコーダ部12から入力されたベースバンド画像Ibを輝度成分と色差成分に分離し、分離した輝度成分および色差成分を8×8ブロック単位でDCT変換し、Y,U,Vそれぞれの成分のDCT係数の行列Cby,Cbu,Cbvを取得する。さらに、直交変換部13はCby,Cbu,Cbvそれぞれをジグザグスキャンし、Y,U,Vそれぞれの成分のDCT係数の配列Cvy,Cvu,Cvvを取得する。直交変換部13はCvy,Cvu,CvvをまとめてDCT係数の配列Cv’として出力する。ここで、DCT変換は必ずしも8×8ブロック単位で行う必要はなく、主要な符号化方式で使用されているブロックサイズであればどのようなブロックサイズで行ってもよい。後段の構成として、実施の形態1で示した特徴量抽出部20および破損ブロック判定部30が特徴量の抽出および破損ブロックの判定を行う。
【0046】
また、直交変換部13の異なる構成として、各成分のDCT係数の行列Cby,Cbu,Cbvをジグザグスキャンする代わりに、行列Cby,Cbu,CbvをまとめてDCT係数の行列Cbとして出力するように構成してもよい。直交変換部13がDCT係数の行列Cbを出力するように構成した場合、後段の構成としては、実施の形態2で示した特徴量抽出部21および破損ブロック判定部30が特徴量の抽出および破損ブロックの判定を行う。
【0047】
以上のように、この実施の形態6によれば、入力画像を読込んで復号し、ベースバンド画像を取得するデコーダ部12と、ベースバンド画像を輝度成分と色差成分に分離してDCT係数の行列を取得する直交変換部13とを備えるように構成したので、任意の符号化方式で符号化された入力画像に対して、破損ブロックの検出を行うことができる。
【0048】
実施の形態7.
図16は、この実施の形態7の画像判別装置の構成を示すブロック図である。図16の画像判別装置100は、上記図1で示した実施の形態1の画像判別装置100に破損度算出部40を追加して設け、入力画像の各ブロックが破損しているか否かを出力する構成に代えて、入力画像が破損している確率を示す破損度Drを出力する。破損度Drは、0から1までの値で示され、破損度Drが1に近いほど入力画像が破損している確率が高いことを示す。
【0049】
破損度算出部40の詳細な動作について説明する。
まず、部分復号部10、特徴量抽出部20および破損ブロック判定部30において、実施の形態1から実施の形態6と同一の処理が行われ、破損ブロック判定部30から判定結果Dbが入力される。破損度算出部40は、入力された判定結果Dbを参照し、当該判定結果Dbがブロックの破損を示している場合、破損ブロック数Fnを1増加させる。一方、判定結果Dbがブロックが正常である旨を示している場合、正常ブロック数Snを1増加させる。
【0050】
全てのブロックについて、破損しているか、正常であるかの確認が終了すると、破損度算出部40は、以下の式(1)に基づいて破損度Drを算出する。
式(1)において、Tnは経験的に設定した閾値である。この閾値Tnは学習アルゴリズムによって適応的に設定してもよい。
【0051】
また、正常な画像において破損ブロックは稀にしか出現しないことを考慮して、以下の式(2)に基づいて破損度Drを算出してもよい。
なお、cは上記の値に限定されるものではない。
【0052】
同様に、以下の式(3)に基づいて破損度Drを算出してもよい。
なお、γおよびkは上記の値に限定されるものではない。
【0053】
以上のように、この実施の形態7によれば、破損ブロック数Fnを用いて入力画像Isの破損度Drを算出するように構成したので、入力画像が破損しているかを示す簡便な指標を示すことができる。
【0054】
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
【符号の説明】
【0055】
10,11 部分復号部、11a,21b 配列取得部、11b スキャン部、12 デコーダ部、13 直交変換部、20,21,22 特徴量抽出部、21a フィルタ処理部、22a 輝度成分抽出部、22b 色差成分抽出部、30,31,32 破損ブロック判定部、31a 輝度成分判定部、31b 色差成分判定部、32a 閾値設定部、32b 破損判定部、40 破損度算出部、100 画像判別装置。
【特許請求の範囲】
【請求項1】
入力画像を構成する複数の画像ブロックに対して可変長復号を行い、直交変換係数の配列を取得する部分復号部と、
前記部分復号部が取得した直交変換係数の配列に対してフィルタ処理を行い、前記直交変換係数の特徴量の配列を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した前記直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、前記特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別する破損ブロック判定部とを備えた画像判別装置。
【請求項2】
任意の符合化方式で符号化された入力画像を復号し、ベースバンド画像を取得する復号部と、
前記復号部が取得したベースバンド画像に対して直交変換を行い、直交変換係数の行列を取得する直交変換部と、
前記直交変換部が取得した直交変換係数の行列に対して2次元フィルタを用いたフィルタ処理を行い、前記直交変換係数の特徴量の配列を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した前記直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、前記特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別する破損ブロック判定部とを備えた画像判別装置。
【請求項3】
任意の符合化方式で符号化された入力画像を復号し、ベースバンド画像を取得する復号部と、
前記復号部が取得したベースバンド画像に対して直交変換を行い、直交変換係数の行列を取得し、さらに取得した直交変換係数の行列に対してスキャン処理を行って直交変換係数の配列を取得する直交変換部と、
前記直交変換部が取得した直交変換係数の配列に対してフィルタ処理を行い、前記直交変換係数の特徴量の配列を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した前記直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、前記特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別する破損ブロック判定部とを備えた画像判別装置。
【請求項4】
前記特徴量抽出部は、前記直交変換係数の配列のうち、色差成分の配列に対してフィルタ処理を行い、色差特徴量の配列を抽出し、
前記破損ブロック判定部は、前記特徴量抽出部が抽出した色差特徴量の配列を構成する各色差特徴量に対して、あらかじめ設定した閾値以上であるか判定を行い、前記色差特徴量のいずれかが閾値以上であった場合には、閾値以上であった色差特徴量が示す領域の画像ブロックが破損していると判別し、全ての色差特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像判別装置。
【請求項5】
前記特徴量抽出部は、前記直交変換係数の配列のうち、輝度成分の配列に対してフィルタ処理を行い、輝度特徴量の配列を抽出し、
前記破損ブロック判定部は、前記特徴量抽出部が抽出した輝度特徴量の配列を構成する各輝度特徴量に対して、あらかじめ設定した閾値以上であるか判定を行い、前記輝度特徴量のいずれかが閾値以上であった場合には、閾値以上であった輝度特徴量が示す領域の画像ブロックが破損していると判別し、全ての輝度特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別することを特徴とする請求項4記載の画像判別装置。
【請求項6】
前記部分復号部は、前記複数の画像ブロックに対して前記可変長復号に加えて逆係数スキャン処理を実行して直交変換係数の行列を取得し、
前記特徴量抽出部は、前記部分復号処理部が取得した直行変換係数の行列に対して2次元フィルタを用いたフィルタ処理を行い、直交変換係数の特徴量の配列を抽出することを特徴とする請求項1、請求項4又は請求項5のうちのいずれか1項記載の画像判別装置。
【請求項7】
前記閾値は、前記直交変換係数の特徴量の配列に対して設定された1つの値、または前記直交変換係数の特徴量の配列を構成する特徴量それぞれに対して設定された複数の値の配列であることを特徴とする請求項1から請求項6のうちのいずれか1項記載の画像判別装置。
【請求項8】
前記閾値が複数の値の配列である場合に、当該複数の値の配列はインデックスが大きいほど小さい値で構成され、あるいはインデックスが小さいほど小さい値で構成されることを特徴とする請求項7記載の画像判別装置。
【請求項9】
前記破損ブロック判定部が破損していると判別した画像ブロック数に基づいて前記入力画像が破損している確率を算出する破損率算出部を備えたことを特徴とする請求項1から請求項8のうちのいずれか1項記載の画像判別装置。
【請求項1】
入力画像を構成する複数の画像ブロックに対して可変長復号を行い、直交変換係数の配列を取得する部分復号部と、
前記部分復号部が取得した直交変換係数の配列に対してフィルタ処理を行い、前記直交変換係数の特徴量の配列を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した前記直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、前記特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別する破損ブロック判定部とを備えた画像判別装置。
【請求項2】
任意の符合化方式で符号化された入力画像を復号し、ベースバンド画像を取得する復号部と、
前記復号部が取得したベースバンド画像に対して直交変換を行い、直交変換係数の行列を取得する直交変換部と、
前記直交変換部が取得した直交変換係数の行列に対して2次元フィルタを用いたフィルタ処理を行い、前記直交変換係数の特徴量の配列を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した前記直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、前記特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別する破損ブロック判定部とを備えた画像判別装置。
【請求項3】
任意の符合化方式で符号化された入力画像を復号し、ベースバンド画像を取得する復号部と、
前記復号部が取得したベースバンド画像に対して直交変換を行い、直交変換係数の行列を取得し、さらに取得した直交変換係数の行列に対してスキャン処理を行って直交変換係数の配列を取得する直交変換部と、
前記直交変換部が取得した直交変換係数の配列に対してフィルタ処理を行い、前記直交変換係数の特徴量の配列を抽出する特徴量抽出部と、
前記特徴量抽出部が抽出した前記直交変換係数の特徴量の配列を構成する各特徴量が、あらかじめ設定した閾値以上であるか判定を行い、前記特徴量のいずれかが閾値以上であった場合には、閾値以上であった特徴量が示す領域の画像ブロックが破損していると判別し、全ての特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別する破損ブロック判定部とを備えた画像判別装置。
【請求項4】
前記特徴量抽出部は、前記直交変換係数の配列のうち、色差成分の配列に対してフィルタ処理を行い、色差特徴量の配列を抽出し、
前記破損ブロック判定部は、前記特徴量抽出部が抽出した色差特徴量の配列を構成する各色差特徴量に対して、あらかじめ設定した閾値以上であるか判定を行い、前記色差特徴量のいずれかが閾値以上であった場合には、閾値以上であった色差特徴量が示す領域の画像ブロックが破損していると判別し、全ての色差特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別することを特徴とする請求項1から請求項3のうちのいずれか1項記載の画像判別装置。
【請求項5】
前記特徴量抽出部は、前記直交変換係数の配列のうち、輝度成分の配列に対してフィルタ処理を行い、輝度特徴量の配列を抽出し、
前記破損ブロック判定部は、前記特徴量抽出部が抽出した輝度特徴量の配列を構成する各輝度特徴量に対して、あらかじめ設定した閾値以上であるか判定を行い、前記輝度特徴量のいずれかが閾値以上であった場合には、閾値以上であった輝度特徴量が示す領域の画像ブロックが破損していると判別し、全ての輝度特徴量が閾値未満であった場合には、前記入力画像は破損していないと判別することを特徴とする請求項4記載の画像判別装置。
【請求項6】
前記部分復号部は、前記複数の画像ブロックに対して前記可変長復号に加えて逆係数スキャン処理を実行して直交変換係数の行列を取得し、
前記特徴量抽出部は、前記部分復号処理部が取得した直行変換係数の行列に対して2次元フィルタを用いたフィルタ処理を行い、直交変換係数の特徴量の配列を抽出することを特徴とする請求項1、請求項4又は請求項5のうちのいずれか1項記載の画像判別装置。
【請求項7】
前記閾値は、前記直交変換係数の特徴量の配列に対して設定された1つの値、または前記直交変換係数の特徴量の配列を構成する特徴量それぞれに対して設定された複数の値の配列であることを特徴とする請求項1から請求項6のうちのいずれか1項記載の画像判別装置。
【請求項8】
前記閾値が複数の値の配列である場合に、当該複数の値の配列はインデックスが大きいほど小さい値で構成され、あるいはインデックスが小さいほど小さい値で構成されることを特徴とする請求項7記載の画像判別装置。
【請求項9】
前記破損ブロック判定部が破損していると判別した画像ブロック数に基づいて前記入力画像が破損している確率を算出する破損率算出部を備えたことを特徴とする請求項1から請求項8のうちのいずれか1項記載の画像判別装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−253676(P2012−253676A)
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願番号】特願2011−126539(P2011−126539)
【出願日】平成23年6月6日(2011.6.6)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
【公開日】平成24年12月20日(2012.12.20)
【国際特許分類】
【出願日】平成23年6月6日(2011.6.6)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
[ Back to top ]