説明

動画像検索装置

【課題】検索に使用する動画像固有識別情報を自動的に抽出して動画像を検索することができる動画像検索装置を提供する。
【解決手段】本発明の動画像検索装置は、所定の動画像データから各フレームの動画像特徴量情報103を抽出する動画像特徴量情報抽出部102と、動画像特徴量情報抽出部102で抽出された動画像特徴量情報103に基づいて、動画像を識別するための動画像固有識別情報105を抽出する動画像固有識別情報抽出部104と、動画像固有識別情報抽出部104で抽出された動画像固有識別情報105と検索対象の動画像に基づいて準備された検索対象の動画像固有識別情報108とを比較することによって、検索対象の動画像から所定の動画像を検索して同定する動画像固有識別情報検索部109と、を備えることを特徴とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ある動画像の中から所定の動画像を検索する動画像検索装置、動画像検索方法、及び動画像検索プログラムを記録した記録媒体に関する。特には、動画像の内容に依存した動画像固有識別情報を抽出して登録しておき、放送などで送られてくる動画像や動画像アーカイブなどの動画像の中から、登録されている動画像をビデオレートよりも早く検索する動画像検索装置、動画像検索方法、及び動画像検索プログラムを記録した記録媒体に関するものである。
【背景技術】
【0002】
従来から、動画像の蓄積や伝送の際の情報圧縮技術として、MPEG(MovingPicture Experts Group)の様な国際標準符号化方式の技術がある。この国際標準符号化方式で圧縮符号化されている動画像を用いれば、PC(Personal Computer )でも十分に動画像を扱うことが可能となっている。このPCを用いて、特定の動画像の検索、例えば、テレビCM等の送出の監視(動画像同定)などを行うための技術が、従来から研究され開発されている。
【0003】
従来の動画像検索方法としては、キーワード検索によって動画像を検索する動画像検索方法や、ユーザの目視による視覚照合で動画像を検索する動画像検索方法や、特開平7−46517号公報に示される動画像ショットの継続フレーム数を用いた動画像検索法などがある。
【0004】
ここで、キーワード検索による動画像検索方法では、分類コード、タイトル、動画像の内容、各種関連情報などを動画像にキーワードインデックス情報として付与し、このキーワードを検索することによって動画像を検索している。
【0005】
また、ユーザ目視の視覚照合による動画像検索方法では、動画像を検索するユーザが検索したい動画像を記憶しておき、このユーザが全ての動画像を目視することにより、所望の動画像を検索している。
【0006】
また、特開平7−46517号公報の動画像検索装置では、カット点検出手段によってカット点間の各ショットの継続フレーム数を求め、継続フレーム数の列をインデックス情報として用いることによって動画像検索を行っている。
【0007】
また、カットの時系列コーディングに基づく映像シーンの実時間識別法(長坂他、1996年4月電子情報通信学会論文誌D−II Vol.J79−D−II No.4 pp.531−537)では、カット点フレーム画像を抽出し、フレームを2×2に分割して平均色情報を求めてコード化し、コード化情報を時系列に並べて映像シーンの識別(検索)に適用している。
【0008】
また、動画像を検索するために動画像のカット点を検出するものとしては、特開平7−236153号公報に記載されている動画像カット点検出装置がある。この特開平7−236153号公報の動画像カット点検出装置では、動画像からカット点を高速に求めるために、準備された縮小画像や圧縮符号化された動画像情報の平均値成分データから作成される縮小画像のフレーム間輝度差分の時間変化と色差ヒストグラム相関値の時間的変化とを用いている。
【0009】
また、動画像の特徴フレームを検出するものとしては、特開平7−152779号公報に記載されている動画処理装置がある。この特開平7−152779号公報に記載の動画処理装置では、DCT(Discrete Cosine Transform :離散コサイン変換)演算を含む圧縮動画像データから、インデックス情報(検索情報)として使用される特徴的なフレーム、例えば、カット点フレーム、静止フレーム、文字フレーム、特定色フレームなどを検出するために、DCT成分の低周波部分を用いている。
【先行技術文献】
【特許文献】
【0010】
【特許文献1】特開平7−236153号公報
【特許文献2】特開平7−152779号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかしながら、従来の動画像検索方法においては、以下の様な問題点がある。
【0012】
すなわち、従来のキーワード検索による動画像検索方法においては、キーワードインデックス情報を予め登録しなければならないため、その登録に多大なコストがかかるという問題があった。また、動画像を検索する各ユーザの動画像の感じ方や理解の仕方が異なるため、同一の動画像の検索の場合でもキーワードインデックス情報がユーザによって異なる場合があるという問題があった。また、一覧形式で提示されたキーワードインデックス情報から動画像を検索するユーザに所望のキーワードインデックスを選択させるようなキーワードインデックス入力方式であっても、所望のキーワードインデックスを選択するのに時間がかかるという問題があった。
【0013】
また、従来のユーザ目視の視覚照合による動画像検索方法においては、動画像を検索するユーザが検索したい動画像を記憶しておき、全ての動画像を見ることにより、所望の動画像を検索する方法であるため、人手がかかり、コストが高くつくという問題があった。
【0014】
また、特開平7−46517号公報の動画像を構成するショットの継続フレーム数を用いて動画像を検索する動画像検索方法においては、継続フレーム数が動画像の意味内容を反映したインデックス情報ではないため、検索する動画像とは異なる内容の動画像でもその継続フレーム数が一致すれば、同一の動画像と誤認識してしまう可能性があるという問題があった。
【0015】
また、従来のカットの時系列コーディングに基づく映像シーンの実時間識別法においては、正しい照合結果を得るために、正確にカット点フレームを抽出する必要があるため、カット点フレームの抽出処理に時間がかかりコストも高くなるという問題があった。
【0016】
また、特開平7−236153号公報の動画像カット点検出装置では、動画像中のカット点の検出が目的であり、輝度差分や色差ヒストグラム相関値の時間的変化を見てカット点の検出を行っているのみなので、自動的に所望の動画像を検索することができないという問題があった。
【0017】
特開平7−152779号公報の動画処理装置においては、インデックス情報(検索情報)として使用されるフレームを検出するために、圧縮画像データを画像データに復元する過程で得られる、DCT演算の結果に相当する中間結果を、動画インデックス特徴量情報信号とし、この動画インデックス特徴量情報信号の内、少なくとも一種の動画インデックスを検出して被検査画像の動画インデックスとの差分値の和を閾値処理し、この閾値処理の結果によりインデックス画像として動画像を検出するため、処理が複雑で時間がかかり、処理コストも高くつくという問題があった。
【0018】
したがって、本発明の目的は、動画像の内容に応じた、検索に使用する動画像固有識別情報をPCなどの資源の少ないコンピュータでも自動的に抽出でき、この動画像固有識別情報を用いて自動的に動画像を検索することができる動画像検索装置、動画像検索方法、及び動画像検索プログラムを記録した記録媒体を提供することである。
【課題を解決するための手段】
【0019】
上記課題を解決するため、本発明の第1の態様の動画像検索装置は、 検索対象の動画像から所定の動画像を検索する動画像検索装置において、 所定の動画像から各フレームの特徴量情報を抽出する特徴量情報抽出手段と、 特徴量情報抽出手段で抽出された特徴量情報に基づいて、動画像を識別するための固有識別情報を抽出する固有識別情報抽出手段と、 固有識別情報抽出手段で抽出された固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索する動画像検索手段と、を備えることを特徴とする。
【0020】
上述の本発明の第1の態様の動画像検索装置においては、 所定の動画像を、非圧縮の動画像データとし、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0021】
また、特徴量情報抽出手段で、所定の動画像から、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0022】
このとき、特徴量情報抽出手段で、さらに、所定の動画像から動き補償情報を特徴量情報として抽出することもできる。
【0023】
また、所定の動画像を、非圧縮の動画像データとし、 特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0024】
また、所定の動画像を、非圧縮の動画像データとし、 特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0025】
また、所定の動画像を、非圧縮の動画像データとし、 特徴量情報抽出手段で、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0026】
また、上記課題を解決するため、本発明の第2の態様の動画像検索装置は、所定の動画像から所定の動画像を検索する動画像検索装置において、 所定の動画像から各フレームの特徴量情報を抽出する特徴量情報抽出手段と、 検索対象の動画像から動画像のカット点を検出して、各カット点毎に検索対象の動画像を複数のショットに分割するカット点検出手段と、 特徴量情報抽出手段で抽出された特徴量情報に基づいて、カット点検出手段で分割された各ショット毎に動画像を識別するための固有識別情報を抽出する固有識別情報抽出手段と、 固有識別情報抽出手段で抽出された固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索する動画像検索手段と、を備えることを特徴とする。
【0027】
上述した本発明の第2の態様の動画像検索装置においては、 所定の動画像を、非圧縮の動画像データとし、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、カット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0028】
また、特徴量情報抽出手段で、所定の動画像から、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、カット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0029】
また、特徴量情報抽出手段で、さらに、所定の動画像から動き補償情報を特徴量情報として抽出する、ようにしてもよい。
【0030】
また、所定の動画像を、非圧縮の動画像データとし、 特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 固有識別情報抽出手段は、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、カット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0031】
また、所定の動画像を、非圧縮の動画像データとし、 特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、カット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0032】
また、所定の動画像を、非圧縮の動画像データとし、 特徴量情報抽出手段で、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 固有識別情報抽出手段で、特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、カット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0033】
また、上記課題を解決するため、本発明の第3の態様の動画像検索装置は、検索対象の動画像から所定の動画像を検索する動画像検索装置において、 所定の動画像が非圧縮の動画像データか、圧縮された動画像データかを判定する圧縮/非圧縮判定手段と、 非圧縮の動画像データから各フレームの特徴量情報を抽出する第1の特徴量情報抽出手段と、 第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する第1の固有識別情報抽出手段と、 圧縮された動画像データから各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出する第2の特徴量情報抽出手段と、 第2の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する第2の固有識別情報抽出手段と、 第1の固有識別情報抽出手段または第2の固有識別情報抽出手段で抽出された固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索する動画像検索手段と、を備えることを特徴とする。
【0034】
このとき、第1の固有識別情報抽出手段と第2の固有識別情報抽出手段は、同一の固有識別情報抽出手段に含ませることができる。また、第2の特徴量情報抽出手段で、圧縮された動画像データから各フレームの動き補償情報を特徴量情報として抽出することもできる。
【0035】
上述した本発明の第3の態様の動画像検索装置においては、 所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段で、非圧縮の動画像データから、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報抽出手段で、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。このとき、第1の特徴量情報抽出手段で、非圧縮の動画像データから各フレームの動き補償情報を特徴量情報として抽出することもできる。
【0036】
また、所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段は、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 第1の固有識別情報抽出手段は、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0037】
また、所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報抽出手段で、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0038】
また、所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段は、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 第1の固有識別情報抽出手段は、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0039】
また、上記課題を解決するため、本発明の第4の態様の動画像検索装置は、検索対象の動画像から所定の動画像を検索する動画像検索装置において、 所定の動画像が非圧縮の動画像データか、圧縮された動画像データかを判定する圧縮/非圧縮判定手段と、 非圧縮の動画像データから各フレームの特徴量情報を抽出する第1の特徴量情報抽出手段と、 非圧縮の動画像データから動画像のカット点を検出して、各カット点毎に検索対象の動画像を複数のショットに分割する第1のカット点検出手段と、 第1の特徴量情報抽出手段で抽出された特徴量情報に基づいて、第1のカット点検出手段で分割された各ショット毎に動画像を識別するための固有識別情報を抽出する第1の固有識別情報抽出手段と、 圧縮された動画像データから各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出する第2の特徴量情報抽出手段と、 圧縮の動画像データから動画像のカット点を検出して、各カット点毎に検索対象の動画像を複数のショットに分割する第2のカット点検出手段と、 第2の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、第2のカット点検出手段で分割された各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する第2の固有識別情報抽出手段と、 第1の固有識別情報抽出手段または第2の固有識別情報抽出手段で抽出された固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索する動画像検索手段と、を備えることを特徴とする。
【0040】
ここで、第2の特徴量情報抽出手段で、圧縮された動画像データから各フレームの動き補償情報を特徴量情報として抽出することもできる。
【0041】
上述の本発明の第4の態様の動画像検索装置においては、 所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段は、非圧縮の動画像データから、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報抽出手段は、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、第1のカット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにすることができる。このとき、第1の特徴量情報抽出手段は、非圧縮の動画像データから各フレームの動き補償情報を特徴量情報として抽出するようにしてもよい。
【0042】
また、所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 第1の固有識別情報抽出手段は、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、第1のカット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0043】
また、所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段で、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報抽出手段は、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、カット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0044】
また、所定の動画像を、非圧縮の動画像データとし、 第1の特徴量情報抽出手段は、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 第1の固有識別情報抽出手段は、第1の特徴量情報抽出手段で抽出された特徴量情報の少なくとも1つを、第1のカット点検出手段で分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0045】
上述の、本発明の第1乃至第4の態様の動画像検索装置においては、 固有識別情報を蓄積する固有識別情報蓄積手段を有することもでき、また、動画像検索手段の検索の結果を蓄積する検索結果蓄積手段を有することもでき、 また、動画像検索手段の検索の結果を表示する検索結果表示手段を有することもできる。
【0046】
また、上記課題を解決するため、本発明の第1の態様の動画像検索方法は、検索対象の動画像から所定の動画像を検索する動画像検索方法において、 所定の動画像から各フレームの特徴量情報を抽出するステップと、 特徴量情報に基づいて、動画像を識別するための固有識別情報を抽出するステップと、 固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索するステップと、を備えることを特徴とする。
【0047】
上述した本発明の第1の態様の動画像検索方法においては、 所定の動画像は、非圧縮の動画像データであり、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0048】
また、特徴量情報を抽出するステップは、所定の動画像から、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0049】
また、特徴量情報を抽出するステップは、さらに、所定の動画像から各フレームの動き補償情報を特徴量情報として抽出する、こともできる。
【0050】
また、所定の動画像は、非圧縮の動画像データであり、 特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0051】
また、所定の動画像は、非圧縮の動画像データであり、 特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0052】
また、所定の動画像は、非圧縮の動画像データであり、 特徴量情報を抽出するするステップは、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0053】
また、上記課題を解決するため、本発明の第2の態様の動画像検索方法は、検索対象の動画像から所定の動画像を検索する動画像検索方法において、 所定の動画像から各フレームの特徴量情報を抽出するステップと、 所定の動画像から動画像のカット点を検出して、各カット点毎に所定の動画像を複数のショットに分割するステップと、 特徴量情報に基づいて、各ショット毎に動画像を識別するための固有識別情報を抽出するステップと、 固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索するステップと、を備えることを特徴とする。
【0054】
また、本発明の第2の態様の動画像検索方法においては、 所定の動画像は、非圧縮の動画像データであり、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0055】
また、特徴量情報を抽出するステップは、所定の動画像から、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報の少なくとも1つを、分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0056】
また、特徴量情報を抽出するステップは、さらに、所定の動画像から各フレームの動き補償情報を特徴量情報として抽出する、ようにすることもできる。
【0057】
また、所定の動画像は、非圧縮の動画像データであり、 特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0058】
また、所定の動画像は、非圧縮の動画像データであり、 特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにすることもできる。
【0059】
また、所定の動画像は、非圧縮の動画像データであり、 特徴量情報を抽出するステップは、 非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 固有識別情報を抽出するステップは、特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0060】
また、上記課題を解決するため、本発明の第3の態様の動画像検索方法は、検索対象の動画像から所定の動画像を検索する動画像検索方法において、 所定の動画像が非圧縮の動画像データか、圧縮された動画像データかを判定するステップと、 非圧縮の動画像データから各フレームの第1の特徴量情報を抽出するステップと、 第1の特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための第1の固有識別情報を抽出するステップと、 圧縮された動画像データから各フレームのDCT(離散コサイン変換)係数を第2の特徴量情報として抽出するステップと、 第2の特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための第2の固有識別情報を抽出するステップと、 第1の固有識別情報または第2の固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索するステップと、を備えることを特徴とする。
【0061】
ここで、第2の特徴量情報を抽出するステップは、圧縮された動画像データから各フレームの動き補償情報を第2の特徴量情報として抽出する、こともできる。
【0062】
上述した本発明の第3の態様の動画像検索方法においては、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データから、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。ここで、第1の特徴量情報を抽出するステップは、非圧縮の動画像データから動き補償情報を特徴量情報として抽出することもできる。
【0063】
また、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0064】
また、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにするとよい。
【0065】
また、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0066】
また、上記課題を解決するため、本発明の第4の態様の動画像検索方法は、検索対象の動画像から所定の動画像を検索する動画像検索方法において、 所定の動画像が非圧縮の動画像データか、圧縮された動画像データかを判定するステップと、 非圧縮の動画像データから各フレームの第1の特徴量情報を抽出するステップと、 非圧縮の動画像データから動画像のカット点を検出して、各カット点毎に所定の動画像を第1の複数のショットに分割するステップと、 第1の特徴量情報を抽出するステップで抽出された特徴量情報に基づいて、分割された第1の各ショット毎に動画像を識別するための第1の固有識別情報を抽出するステップと、 圧縮された動画像データから各フレームのDCT(離散コサイン変換)係数を第2の特徴量情報として抽出するステップと、 圧縮の動画像データから動画像のカット点を検出して、各カット点毎に所定の動画像を第2の複数のショットに分割するステップと、 第2の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割された第2の各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための第2の固有識別情報を抽出するステップと、 第1の固有識別情報を抽出するステップまたは第2の固有識別情報を抽出するステップで抽出された第1または第2の固有識別情報と検索対象の動画像に基づいて準備された検索対象の固有識別情報とを比較することによって、検索対象の動画像から所定の動画像を検索するステップと、を備えることを特徴とする。
【0067】
ここで、第2の特徴量情報を抽出するステップは、圧縮された動画像データから各フレームの動き補償情報を第2の特徴量情報として抽出する、こともできる。
【0068】
上述した本発明の第4の態様の動画像検索方法においては、 所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データから、各フレームのDCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される第1の各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。ここで、第1の特徴量情報を抽出するステップは、非圧縮の動画像データから各フレームの動き補償情報を特徴量情報として抽出することもできる。
【0069】
また、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位で動き補償情報を得、M’×N’(M’及びN’は自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を得て、これらを特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される第1の各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0070】
また、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データからM×N(M及びNは自然数)画素のブロック単位でDCT(離散コサイン変換)演算を行って、DCT(離散コサイン変換)係数を特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される第1の各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、こともできる。
【0071】
また、所定の動画像は、非圧縮の動画像データであり、 第1の特徴量情報を抽出するステップは、非圧縮の動画像データから、M×N(M及びNは自然数)画素のブロック単位で平均色(R,G,B)情報や平均輝度・色差(Y,Cb,Cr)情報などの画素値情報を特徴量情報として抽出し、 第1の固有識別情報を抽出するステップは、第1の特徴量情報を抽出するステップで抽出された特徴量情報の少なくとも1つを、分割される第1の各ショット毎に時間軸上に配列して、該配列の並びから動画像を識別するための固有識別情報を抽出する、ようにしてもよい。
【0072】
また、上述した本発明の第1乃至第4の態様の動画像検索方法においては、さらに、固有識別情報を蓄積するステップを有することができる。また、検索の結果を蓄積するステップを有するようにしてもよい。また、検索の結果を表示するステップを有することもできる。
【0073】
また、上述の動画像検索方法をコンピュータで実行可能な動画像検索プログラムとし、このプログラムをコンピュータで読み取り可能な記録媒体に記録することもできる。
【0074】
本発明は、上記構成によって、動画像から、動画像の各フレームから得られる輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行う装置を実現するものである。このため、動画像から自動的に動画像固有識別情報を抽出でき、元の動画像より動画像識別のための情報量が少なくなるため、高速に検索をすることができる。
【0075】
また、標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数や動き補償情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから動画像識別のための動画像固有識別情報が抽出して、他の固有識別情報と比較することにより、動画像の検索を行うため、圧縮動画像データから自動的にかつ完全伸張をすることなく動画像固有識別情報を抽出でき、元の圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。
【0076】
また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の動画像データから、動画像の各フレームから得られる輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行うものであるため、動画像から自動で動画像固有識別情報を抽出可能であり、元の動画像より動画像識別のための情報量が少なくなるため、高速に検索をすることができる。
【0077】
また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数や動き補償情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行うため、圧縮動画像データから自動的にかつ完全伸張をすることなく動画像固有識別情報を抽出でき、元の圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。
【0078】
また、動画像データから画像特徴量情報として、M×N画素単位の動き補償情報と、M’×N’画素単位のDCT(離散コサイン変換)演算を行い、演算結果であるDCT(離散コサイン変換)係数を物理的な画像特徴量情報として抽出し、また、標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数や動き補償情報等の物理的な画像特徴量情報として抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出しておき、他の固有識別情報と比較することにより、動画像の検索を行うため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用できる。
【0079】
また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の動画像データから、動画像の各フレームから得られる輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な画像特徴量情報を抽出し、また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数や動き補償情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行うため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用することができる。
【0080】
また、動画像データから画像特徴量情報として、M×N画素単位の動き補償情報と、M’×N’画素単位の画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報等の画素値情報を抽出し、標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数のうちDC(直流)成分情報のみと動き補償情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行う装置を実現するものであるため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用することができる。動画像データに対し、DCT(離散コサイン変換)演算を行わないため、複雑な処理が軽減される。
【0081】
また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、M×N画素単位の動き補償情報と、M’×N’画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報等の画素値情報を物理的な画像特徴量情報として抽出し、また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数のうちDC(直流)成分情報のみと動き補償情報等の物理的な画像特徴量情報を抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行うため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用できる。動画像データに対し、DCT(離散コサイン変換)演算を行わないため、複雑な処理が軽減される。
【0082】
また、動画像データから画像特徴量情報として、M×N画素単位のDCT(離散コサイン変換)演算を行い、演算結果であるDCT(離散コサイン変換)係数を物理的な画像特徴量情報として抽出し、また、標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数を物理的な画像特徴量情報として抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行うため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用することができる。
【0083】
また、動画像データから画像特徴量情報として、M×N画素単位のDCT(離散コサイン変換)演算を行い、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の各フレームのDCT(離散コサイン変換)係数を物理的な画像特徴量情報として抽出し、また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数を物理的な画像特徴量情報として抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索・同定を行う装置を実現するものであるため、元の動画像データ・圧縮動画像データより動画像識別のための情報量が少なくなるため、高速検索・同定が可能となる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用することができる。
【0084】
また、動画像データから画像特徴量情報として、M×N画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報等の画素値情報を物理的な画像特徴量情報として抽出し、また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数のうちDC(直流)成分情報のみを物理的な画像特徴量情報として抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出しておき、他の固有識別情報と比較することにより、動画像の検索を行うため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用できる。動画像データに対し、DCT(離散コサイン変換)演算を行わないため、複雑な処理が軽減される。
【0085】
また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の各フレームのM×N画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報等の画素値情報を物理的な画像特徴量情報として抽出し、また、動画像のカット点検出処理により、カット点からカット点間のショットに対し、各ショット内の標準動画像圧縮符号化処理により圧縮された圧縮動画像データから、各フレームから得られるDCT(離散コサイン変換)係数のうちDC(直流)成分情報のみを物理的な画像特徴量情報として抽出し、画像特徴量情報を時間軸上に並べ、その並びから各ショット毎に動画像識別のための動画像固有識別情報を抽出して、他の固有識別情報と比較することにより、動画像の検索を行うため、元の動画像データや圧縮動画像データより動画像識別のための情報量が少なくなる。このため、高速に検索をすることができる。また、動画像データと圧縮動画像データから、抽出された固有識別情報は、お互いに動画像検索に使用することができる。動画像データに対し、DCT(離散コサイン変換)演算を行わないため、複雑な処理が軽減される。
【発明の効果】
【0086】
以上のように、本発明の動画像検索装置、動画像検索方法、及び動画像検索プログラムを記録した記録媒体によれば、動画像の内容に依存した動画像識別のための動画像固有識別情報を抽出して動画像の検索に用いるため、所定の動画像の中から同じ動画像を自動的かつ高速に検索することができる。
【0087】
また、非圧縮の動画像と圧縮動画像との両方の動画像から、動画像の検索に使用できる動画像固有識別情報を抽出することができるので、非圧縮及び圧縮の区別なく動画像の検索をすることができる。
【図面の簡単な説明】
【0088】
【図1】本発明の動画像検索装置の構成を示すブロック図である。
【図2】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図3】本発明の動画像検索装置の構成を示すブロック図である。
【図4】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図5】本発明の動画像検索装置の構成を示すブロック図である。
【図6】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図7】本発明の動画像検索装置の構成を示すブロック図である。
【図8】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図9】本発明の動画像検索装置の構成を示すブロック図である。
【図10】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図11】本発明の動画像検索装置の構成を示すブロック図である。
【図12】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図13】本発明の動画像検索装置の構成を示すブロック図である。
【図14】MPEGにおけるDCT(離散コサイン変換)演算の処理を示す概念図である。
【図15】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図16】本発明の動画像検索装置の構成を示すブロック図である。
【図17】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図18】本発明の動画像検索装置の構成を示すブロック図である。
【図19】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図20】本発明の動画像検索装置の構成を示すブロック図である。
【図21】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図22】本発明の動画像検索装置の構成を示すブロック図である。
【図23】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図24】本発明の動画像検索装置の構成を示すブロック図である。
【図25】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図26】本発明の動画像検索装置の構成を示すブロック図である。
【図27】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図28】本発明の動画像検索装置の構成を示すブロック図である。
【図29】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図30】本発明の動画像検索装置の構成を示すブロック図である。
【図31】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図32】本発明の動画像検索装置の構成を示すブロック図である。
【図33】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図34】本発明の動画像検索装置の構成を示すブロック図である。
【図35】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図36】本発明の動画像検索装置の構成を示すブロック図である。
【図37】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図38】本発明の動画像検索装置の構成を示すブロック図である。
【図39】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図40】本発明の動画像検索装置の構成を示すブロック図である。
【図41】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図42】本発明の動画像検索装置の構成を示すブロック図である。
【図43】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図44】本発明の動画像検索装置の構成を示すブロック図である。
【図45】本発明の動画像検索装置における動画像検索処理のフローチャートである。
【図46】本発明の動画像検索装置の具体的な実施例であるテレビCM監視装置の構成を示すブロック図である。
【図47】本発明の動画像検索装置の具体的な実施例であるテレビCM監視装置における動画像検索処理のフローチャートである。
【発明を実施するための形態】
【0089】
以下、本発明の動画像検索装置、動画像検索方法、及び動画像検索プログラムを記録した記録媒体について、図面を参照しつつ詳述する。
【0090】
<実施の形態1>図1は、本発明の動画像検索装置の一形態を示す構成図である。図1において、この動画像検索装置は、動画像データ101から、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な画像特徴量情報を動画像特徴量情報103として抽出する動画像特徴量情報抽出部102と、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報103のうち少なくとも1以上の画像特徴量情報103を時間軸上に配列し、その並びから動画像識別のための動画像固有識別情報105を抽出する動画像固有識別情報抽出部104と、動画像固有識別情報抽出部104で抽出された動画像固有識別情報105を蓄積する動画像固有識別情報蓄積部106と、予め他の動画像データから抽出された動画像固有識別情報108の中から動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報105と同一の情報を検索して同定する動画像固有識別情報検索同定部(以下、単に「動画像固有識別情報検索部」ともいう)109と、動画像固有識別情報検索部109の検索結果を格納する検索同定結果格納部(以下、単に「検索結果格納部」ともいう)110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索同定結果表示部(以下、単に「検索結果表示部」ともいう)111とを備えている。以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0091】
図2は、図1で示した本発明の動画像検索装置の動作を示すフローチャートである。図1及び図2において、まず、動画像特徴量情報抽出部102は、動画像の同定を行う検索キーとなる動画像データ101を取り込み(ステップ201)、この動画像データ101から各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等を物理的な動画像特徴量情報103として抽出する(ステップ202)。
【0092】
次に、動画像固有識別情報抽出部104は、動画像特徴量情報103に基づいて、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を動画像識別のための動画像固有識別情報105として抽出する(ステップ203)。
【0093】
動画像固有識別情報蓄積部106は、動画像固有識別情報抽出部104で抽出された動画像固有識別情報105を蓄積する(ステップ204)。
【0094】
一方、他の動画像データ(検索対象の動画像データ)から動画像固有識別情報108を抽出しておく(ステップ205)。この抽出処理は、上述したステップ201〜204と同様の処理によって行うことができる。
【0095】
そして、動画像固有識別情報検索部109は、動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報105と他の動画像データから抽出された動画像固有識別情報108とを比較する(ステップ206)。
【0096】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0097】
以上のステップ206〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報108に対して行う(ステップ210)。
【0098】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述した動画像固有識別情報抽出部104において、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びを変則間隔で抜き出し、その抜き出した値を動画像識別のための動画像固有識別情報105として抽出しているが、この動画像固有識別情報抽出部104において、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な動画像特徴量情報の一部分または複数部分の値、その値の平均値、その値の合計値、若しくはその値の差分値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を動画像識別のための動画像固有識別情報105として抽出してもよい。即ち、一画像を複数のフレームに分割して各フレームの動画像特徴量情報の値を求め、これらの値の全てを使用して動画像固有識別情報105を抽出することができ、また、一部のフレームの動画像特徴量情報の値を使用して動画像固有識別情報105を抽出するようにしてもよい。このような使用形態としては、例えば、画像上の時刻表示部分や画像むらのある周辺のフレームを除いた他のフレームの動画像特徴量情報の値を使用する場合などがある。
【0099】
また、動画像固有識別情報抽出部104において、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な動画像特徴量情報に対し重み付けを行ってから値を算出し、その値、その値の平均値、その値の合計値、またはその値の差分値を適用するようにしてもよい。
【0100】
また、動画像固有識別情報抽出部104において、物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求めてから、求めた値を量子化してもよい。
【0101】
以上のように、本発明の実施の形態によれば、動画像の内容に依存した動画像識別のための動画像固有識別情報を抽出することができるので、動画像固有識別情報を用いて、高速に動画像の中から同じ動画像を検索することができる。
【0102】
<実施の形態2>以下、本発明の第2の実施の形態について、図面を参照しながら説明する。
【0103】
図3は、本発明の他の動画像検索装置を示す。なお、図3においては、図1と同一の構成のものには同一の符号を付している。図3において、この動画像検索装置は、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部304と、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索同定部(以下、単に「圧縮動画像固有識別情報検索部」ともいう)309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0104】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0105】
図4は、図3で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図4においては、図2と同一の処理ステップには同一のステップ番号を付している。図3及び図4において、まず、圧縮動画像特徴量情報抽出部302は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込み(ステップ401)、この圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。
【0106】
次に、圧縮動画像固有識別情報抽出部304は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ403)。
【0107】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0108】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ401〜404と同様の処理によって行うことができる。
【0109】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0110】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0111】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報308に対して行う(ステップ410)。
【0112】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述した圧縮動画像固有識別情報抽出部304において、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数からの物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値と、動き補償情報からの動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどのうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出したものを圧縮動画像識別のための圧縮動画像固有識別情報305として抽出しているが、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の中の一部分または複数部分を利用して、上述したこれらの値を求めてもよく、動き補償情報の中の一部分または複数部分を利用して、上述したこれらのベクトルを求めてもよい。即ち、一画像を複数のフレームに分割して各フレームの圧縮動画像特徴量情報の値を求め、これらの値の全てを使用して圧縮動画像固有識別情報305を抽出することができ、また、一部のフレームの動画像特徴量情報の値を使用して圧縮動画像固有識別情報305を抽出するようにしてもよい。このような使用形態としては、例えば、画像上の時刻表示部分や画像むらのある周辺のフレームを除いた他のフレームの圧縮動画像特徴量情報の値を使用する場合などがある。
【0113】
また、圧縮動画像固有識別情報抽出部304において、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数からの物理的な圧縮動画像特徴量情報に対して重み付けを行い、その重み付けられた圧縮動画像特徴量情報によって上述の値を求めてもよい。また、動き補償情報に対して重み付けを行い、その重み付けられた動き補償情報によって、上述のベクトルを求めてもよい。
【0114】
また、圧縮動画像固有識別情報抽出部304において、上述した物理的な圧縮動画像特徴量情報の値などを量子化して適用してもよく、上述した動きベクトルなどを量子化した値にすることもできる。
【0115】
以上のように、本発明の実施の形態によれば、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像の内容に依存した、動画像識別のための動画像固有識別情報を抽出することができるので、この動画像固有識別情報を用いて、高速に動画像の中から同じ動画像を検索することができる。
【0116】
<実施の形態3>以下、本発明の第3の実施の形態について、図面を参照しながら説明する。
【0117】
図5は、本発明の他の動画像検索装置を示す。なお、図5においては、図1と同一の構成のものには同一の符号を付している。図5において、この動画像検索装置は、動画像データ101から、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報を動画像特徴量情報103として抽出する動画像特徴量情報抽出部102と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な画像特徴量情報103のうち少なくとも1以上の動画像特徴量情報103を時間軸上に配列し、その並びから動画像識別のための動画像固有識別情報505を、カット点情報502を用いて分割される動画像データ101の各ショット単位に抽出する動画像固有識別情報抽出部503と、動画像固有識別情報抽出部503で抽出された動画像固有識別情報505を蓄積する動画像固有識別情報蓄積部106と、予め他の動画像データから抽出された動画像固有識別情報508の中から動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報505と同一の情報を検索して同定する動画像固有識別情報検索部109と、動画像固有識別情報検索部109の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0118】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0119】
図6は、図5で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図6においては、図2と同一の処理ステップには同一のステップ番号を付している。図5及び図6において、まず、動画像特徴量情報抽出部102及びカット点検出部501は、動画像の同定を行う検索キーとなる動画像データ101を取り込む(ステップ601)。
【0120】
次に、動画像特徴量情報抽出部102は、この動画像データ101から各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等などの物理的な動画像特徴量情報103を抽出する(ステップ202)。
【0121】
また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。ここで、動画像データ101のカット点とは、撮影されている動画像データ101の場面が変化する点、または、動画像データ101を撮影しているカメラが切換わった点をいう。
【0122】
次に、動画像固有識別情報抽出部503は、動画像特徴量情報103に基づいて、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報502を用いて分割される動画像データ101の各ショット単位に動画像識別のための動画像固有識別情報505として抽出する(ステップ603)。
【0123】
動画像固有識別情報蓄積部106は、動画像固有識別情報抽出部503で抽出された動画像固有識別情報505を蓄積する(ステップ604)。
【0124】
一方、他の動画像データ(検索対象の動画像データ)から動画像固有識別情報508を抽出しておく(ステップ205)。この抽出処理は、上述したステップ601〜604と同様の処理によって行うことができる。
【0125】
そして、動画像固有識別情報検索部109は、動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報505と他の動画像データから抽出された動画像固有識別情報508とを比較する(ステップ206)。
【0126】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0127】
以上のステップ206〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報508に対して行う(ステップ210)。
【0128】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述した動画像固有識別情報抽出部503において、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な動画像特徴量情報の一部分または複数部分の値、その値の平均値、その値の合計値、若しくはその値の差分値としてもよい。即ち、一画像を複数のフレームに分割して各フレームの動画像特徴量情報の値を求め、これらの値の全てを使用して動画像固有識別情報505を抽出することができ、また、一部のフレームの動画像特徴量情報の値を使用して動画像固有識別情報505を抽出するようにしてもよい。このような使用形態としては、例えば、画像上の時刻表示部分や画像むらのある周辺のフレームを除いた他のフレームの動画像特徴量情報の値を使用する場合などがある。
【0129】
また、動画像固有識別情報抽出部503において、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等の物理的な動画像特徴量情報に対し重み付けを行ってから値を算出し、その値、その値の平均値、その値の合計値、またはその値の差分値を適用するようにしてもよい。
【0130】
また、動画像固有識別情報抽出部503において、物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求めてから、求めた値を量子化してもよい。
【0131】
以上のように、本発明の実施の形態によれば、動画像の内容に依存した動画像識別のための動画像固有識別情報505を、カット点情報502によるショットの時間概念を利用することによって、さらに少ない情報量で抽出することができる。また、この動画像固有識別情報505を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0132】
<実施の形態4>以下、本発明の第4の実施の形態について、図面を参照しながら説明する。
【0133】
図7は、本発明の他の動画像検索装置を示す。なお、図7においては、図3と同一の構成のものには同一の符号を付している。図7において、この動画像検索装置は、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部703と、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0134】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0135】
図8は、図7で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図8においては、図4と同一の処理ステップには同一のステップ番号を付している。図7及び図8において、まず、圧縮動画像特徴量情報抽出部302及びカット点検出部701は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ801)。次に、圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0136】
次に、圧縮動画像固有識別情報抽出部703は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどのを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に、圧縮動画像識別のための圧縮動画像固有識別情報705として抽出する(ステップ803)。
【0137】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0138】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ801〜804と同様の処理によって行うことができる。
【0139】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0140】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0141】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報708に対して行う(ステップ410)。
【0142】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述した圧縮動画像固有識別情報抽出部703において、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数からの物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の中の一部分または複数部分を利用して求めてもよく、また、動き補償情報からの動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどの値を、動き補償情報の中の一部分または複数部分を利用して求めてもよい。即ち、一画像を複数のフレームに分割して各フレームの圧縮動画像特徴量情報の値を求め、これらの値の全てを使用して圧縮動画像固有識別情報705を抽出することができ、また、一部のフレームの圧縮動画像特徴量情報の値を使用して圧縮動画像固有識別情報705を抽出するようにしてもよい。このような使用形態としては、例えば、画像上の時刻表示部分や画像むらのある周辺のフレームを除いた他のフレームの圧縮動画像特徴量情報の値を使用する場合などがある。
【0143】
また、圧縮動画像固有識別情報抽出部703において、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数からの物理的な圧縮動画像特徴量情報に対して重み付けを行い、その重み付けられた圧縮動画像特徴量情報によって上述の値を求めてもよい。また、動き補償情報に対して重み付けを行い、その重み付けられた動き補償情報によって、上述のベクトルを求めてもよい。
【0144】
また、圧縮動画像固有識別情報抽出部703において、上述した物理的な圧縮動画像特徴量情報の値などを量子化して適用してもよく、上述した動きベクトルなどを量子化した値にすることもできる。
【0145】
以上のように、本発明の実施の形態によれば、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像の内容に依存した動画像識別のための圧縮動画像固有識別情報705を、カット点情報702によるショットの時間概念を利用することによって、さらに少ない情報量で抽出することができる。また、この圧縮動画像固有識別情報705を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0146】
<実施の形態5>以下、本発明の第5の実施の形態について、図面を参照しながら説明する。
【0147】
図9は、本発明の他の動画像検索装置を示す。なお、図9においては、図1及び図3と同一の構成のものには同一の符号を付している。図9において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、動画像データ101のM’×N’(M’及びN’は自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を得るDCT(離散コサイン変換)演算部902と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像特徴量情報抽出部302または動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部304と、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0148】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0149】
図10は、図9で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図10においては、図4と同一の処理ステップには同一のステップ番号を付している。図9及び図10において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0150】
入力された動画像データが圧縮されていない動画像データ101の場合には、動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ1002)。
【0151】
動き補償情報抽出部901は、動画像の検索を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を求める(ステップ1004)。
【0152】
この動き補償情報抽出部901で求められたM×N画素単位の動き補償情報と、DCT(離散コサイン変換)演算部902で求められたM’×N’画素単位のDCT(離散コサイン変換)係数は、圧縮動画像特徴量情報303として圧縮動画像固有識別情報抽出部304に送り出される。
【0153】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部302は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込み(ステップ401)、この圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。
【0154】
次に、圧縮動画像固有識別情報抽出部304は、圧縮動画像特徴量情報抽出部302または動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902で抽出された圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどのを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ403)。
【0155】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0156】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404と同様の処理によって行うことができる。
【0157】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0158】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0159】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報308に対して行う(ステップ410)。
【0160】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、M×N画素単位及びM’×N’画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0161】
以上のように、本発明の実施の形態によれば、非圧縮の動画像データ101に前処理(ステップ1003、1004)を行うため、動画像データ101及び圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報305を同じ処理(ステップ403)で抽出することができる。また、この圧縮動画像固有識別情報305を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0162】
<実施の形態6>以下、本発明の第6の実施の形態について、図面を参照しながら説明する。
【0163】
図11は、本発明の他の動画像検索装置を示す。なお、図11においては、図5、図7、及び図9と同一の構成のものには同一の符号を付している。図11において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、動画像データ101のM’×N’(M’及びN’は自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を得るDCT(離散コサイン変換)演算部902と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902または圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部703と、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0164】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0165】
図12は、図11で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図12においては、図6、図8、及び図10と同一の処理ステップには同一のステップ番号を付している。図11及び図12において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0166】
入力された動画像データが圧縮されていない動画像データ101の場合には、動き補償情報抽出部901、DCT(離散コサイン変換)演算部902、及びカット点検出部501は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ1201)。
【0167】
動き補償情報抽出部901は、動画像の検索を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を求める(ステップ1004)。
【0168】
また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0169】
この動き補償情報抽出部901で求められたM×N画素単位の動き補償情報と、DCT(離散コサイン変換)演算部902で求められたM’×N’画素単位のDCT(離散コサイン変換)係数は、圧縮動画像特徴量情報303として、カット点検出部501で検出されたカット点情報502と共に、圧縮動画像固有識別情報抽出部703に送り出される。
【0170】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部302及びカット点検出部701は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ801)。次に、圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0171】
次に、圧縮動画像固有識別情報抽出部703は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどのを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報502を用いて分割される動画像データ101またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に、圧縮動画像識別のための圧縮動画像固有識別情報705として抽出する(ステップ803)。
【0172】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0173】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804と同様の処理によって行うことができる。
【0174】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0175】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0176】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報708に対して行う(ステップ410)。
【0177】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、M×N画素単位及びM’×N’画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0178】
以上のように、本発明の実施の形態によれば、非圧縮の動画像データ101に前処理(ステップ1003、1004)を行うため、動画像データ101及び圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報705を同じ処理(ステップ803)で抽出することができる。また、動画像識別のための圧縮動画像固有識別情報705を、カット点情報502またはカット点情報702によるショットの時間概念を利用することによって、さらに少ない情報量で抽出することができる。この圧縮動画像固有識別情報705を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0179】
<実施の形態7>以下、本発明の第7の実施の形態について、図面を参照しながら説明する。
【0180】
図13は、本発明の他の動画像検索装置を示す。なお、図13においては、図3及び図9と同一の構成のものには同一の符号を付している。図13において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、M’×N’(M’及びN’は自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を求めるブロック単位平均値抽出部1301と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、動き補償情報抽出部901及びブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値及びそれらの動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部1304と、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0181】
図14は、MPEGなどの国際標準符号化方式で用いられているDCT(離散コサイン変換)演算とIDCT(逆離散コサイン変換)演算とフレーム画像との関係を示す概念図である。
【0182】
ここで、DCT(離散コサイン変換)演算式は、以下の「数1」に示される式である。
【0183】
【数1】


また、IDCT(逆離散コサイン変換)演算式は、以下の「数2」で示される式である。
【0184】
【数2】

ただし、上述の「数1」及び「数2」においては、N :イントラ符号のブロックサイズx,y :ブロック内の座標f(x,y):ブロック内の座標(x,y)の画素値u,v :DCT変換後の座標F(u,v):DCT変換後の座標(u,v)のDCTの係数値C(u) :u=0のとき1/√2u≠0のとき1C(v) :v=0のとき1/√2v≠0のとき1である。
【0185】
図14において、例えば、1フレームのブロックサイズNが、N=8で、DCT変換後の座標(u,v)が、(0,0)の場合、「数1」のF(u,v)は、次の「数3」のようになる。
【0186】
【数3】

また、ブロック内の平均画素値は、以下の「数4」のように求めることができる。
【0187】
【数4】

上述の「数3」及び「数4」に示されるように、DCT(離散コサイン変換)係数のDC(直流)成分F(u,v)は、ブロック内の平均画素値をブロックの量子化数(N)倍した値になる。すなわち、圧縮動画像特徴量情報抽出部1302で抽出されるDCT(離散コサイン変換)係数のDC(直流)成分F(u,v)と、ブロック単位平均値抽出部1301で得られるブロック内の平均画素値は、ブロックの量子化数を考慮して同一の情報データとして扱うことができる。すなわち、圧縮動画像特徴量情報抽出部1302から抽出される圧縮動画像特徴量情報1303と、動き補償情報抽出部901で抽出される動き補償情報及びブロック単位平均値抽出部1301で抽出される平均画素値による圧縮動画像特徴量情報1303は、同じ内容構成のデータ情報とすることができる。
【0188】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0189】
図15は、図13で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図15においては、図4及び図10と同一の処理ステップには同一のステップ番号を付している。図13乃至図15において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0190】
入力された動画像データが圧縮されていない動画像データ101の場合には、動き補償情報抽出部901及びブロック単位平均値抽出部1301は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ1501)。
【0191】
動き補償情報抽出部901は、動画像の検索を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位の平均画素値を求める(ステップ1502)。
【0192】
この動き補償情報抽出部901で求められたM×N画素単位の動き補償情報と、ブロック単位平均値抽出部1301で求められたM’×N’画素単位の平均画素値は、圧縮動画像特徴量情報1303として、圧縮動画像固有識別情報抽出部1304に送り出される。
【0193】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部1302は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ401)。次に、圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分および動き補償情報で構成される圧縮動画像特徴量情報1303を抽出する(ステップ1503)。
【0194】
次に、圧縮動画像固有識別情報抽出部1304は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ1504)。
【0195】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0196】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404と同様の処理によって行うことができる。
【0197】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0198】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0199】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報308に対して行う(ステップ410)。
【0200】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述した圧縮動画像固有識別情報抽出部1304において、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の中の一部分または複数部分を利用して求めてもよく、また、動き補償情報からの動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどの値を、動き補償情報の中の一部分または複数部分を利用して求めてもよい。
【0201】
また、圧縮動画像固有識別情報抽出部1304において、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値に対して重み付けを行い、その重み付けられた圧縮動画像特徴量情報または平均画素値によって上述の値を求めてもよい。また、動き補償情報に対して重み付けを行い、その重み付けられた動き補償情報によって、上述のベクトルを求めてもよい。
【0202】
また、圧縮動画像固有識別情報抽出部1304において、上述した物理的な圧縮動画像特徴量情報または平均画素値の値などを量子化して適用してもよく、上述した動きベクトルなどを量子化した値にすることもできる。
【0203】
また、M×N画素単位及びM’×N’画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0204】
以上のように、本発明の実施の形態によれば、動画像に簡単な前処理を行うことにより、動画像データ101や圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報305を、さらに少ない情報量で、かつ動画像データ101と圧縮動画像データ301とを同じ処理で抽出することができる。また、この圧縮動画像固有識別情報305を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0205】
<実施の形態8>以下、本発明の第8の実施の形態について、図面を参照しながら説明する。
【0206】
図16は、本発明の他の動画像検索装置を示す。なお、図16においては、図5、図7及び図13と同一の構成のものには同一の符号を付している。図16において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、M’×N’(M’及びN’は自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を求めるブロック単位平均値抽出部1301と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、補償情報抽出部901及びブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値及びそれらの動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部1603と、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0207】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0208】
図17は、図16で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図17においては、図6、図8、及び図15と同一の処理ステップには同一のステップ番号を付している。図16及び図17において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0209】
入力された動画像データが圧縮されていない動画像データ101の場合には、動き補償情報抽出部901、ブロック単位平均値抽出部1301、及びカット点検出部501は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ1701)。
【0210】
動き補償情報抽出部901は、動画像の同定を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位の平均画素値を求める(ステップ1502)。さらに、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0211】
この動き補償情報抽出部901で求められたM×N画素単位の動き補償情報と、ブロック単位平均値抽出部1301で求められたM’×N’画素単位の平均画素値は、カット点検出部501で検出されたカット点情報502と共に、圧縮動画像特徴量情報1303として、圧縮動画像固有識別情報抽出部1603に送り出される。
【0212】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部1302及びカット点検出部701は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ801)。次に、圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分および動き補償情報で構成される圧縮動画像特徴量情報1303を抽出する(ステップ1503)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0213】
次に、圧縮動画像固有識別情報抽出部1603は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報705として、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する(ステップ1702)。
【0214】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0215】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804と同様の処理によって行うことができる。
【0216】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0217】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0218】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報708に対して行う(ステップ410)。
【0219】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、M×N画素単位及びM’×N’画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0220】
以上のように、本発明の実施の形態によれば、カット点情報によるショットの時間概念を利用し、また、動画像に簡単な前処理を行うことで動画像データ101及び圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報1303を、少ない情報量で、かつ動画像データと圧縮動画像データにおいて同じ処理で抽出することができる。また、この圧縮動画像固有識別情報1303を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0221】
<実施の形態9>以下、本発明の第9の実施の形態について、図面を参照しながら説明する。
【0222】
図18は、本発明の他の動画像検索装置を示す。なお、図18においては、図3及び図9と同一の構成のものには同一の符号を付している。図18において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として得るDCT(離散コサイン変換)演算部902と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、DCT(離散コサイン変換)演算部902または圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部304と、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0223】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0224】
図19は、図18で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図19においては、図10と同一の処理ステップには同一のステップ番号を付している。図18及び図19において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0225】
入力された動画像データが圧縮されていない動画像データ101の場合には、DCT(離散コサイン変換)演算部902は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ1901)。
【0226】
DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として求める(ステップ1902)。
【0227】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部302は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込み(ステップ401)、この圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として抽出する(ステップ1903)。
【0228】
次に、圧縮動画像固有識別情報抽出部304は、圧縮動画像特徴量情報抽出部302またはDCT(離散コサイン変換)演算部902で抽出された圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ1904)。
【0229】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0230】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404と同様の処理によって行うことができる。
【0231】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0232】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0233】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報308に対して行う(ステップ410)。
【0234】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、M×N画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0235】
以上のように、本発明の実施の形態によれば、動画像データ101に前処理を行うことにより、動画像データ101と圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報305を同じ処理で抽出することができる。また、この圧縮動画像固有識別情報305を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0236】
<実施の形態10>以下、本発明の第10の実施の形態について、図面を参照しながら説明する。
【0237】
図20は、本発明の他の動画像検索装置を示す。なお、図20においては、図11と同一の構成のものには同一の符号を付している。図20において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として得るDCT(離散コサイン変換)演算部902と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、DCT(離散コサイン変換)演算部902または圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部703と、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0238】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0239】
図21は、図20で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図21においては、図12及び図19と同一の処理ステップには同一のステップ番号を付している。図20及び図21において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0240】
入力された動画像データが圧縮されていない動画像データ101の場合には、DCT(離散コサイン変換)演算部902及びカット点検出部501は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ2101)。
【0241】
DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として求める(ステップ1902)。また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0242】
このDCT(離散コサイン変換)演算部902で求められたM×N画素単位のDCT(離散コサイン変換)係数は、圧縮動画像特徴量情報303として、カット点検出部501で検出されたカット点情報502と共に、圧縮動画像固有識別情報抽出部703に送り出される。
【0243】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部302及びカット点検出部701は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ801)。次に、圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として抽出する(ステップ1903)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0244】
次に、圧縮動画像固有識別情報抽出部703は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報502を用いて分割される動画像データ101またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に、圧縮動画像識別のための圧縮動画像固有識別情報705として抽出する(ステップ2102)。
【0245】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0246】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804と同様の処理によって行うことができる。
【0247】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0248】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0249】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報708に対して行う(ステップ410)。
【0250】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、M×N画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0251】
以上のように、本発明の実施の形態によれば、非圧縮の動画像データ101に前処理を行うため、動画像データ101及び圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報705を同じ処理で抽出することができる。また、動画像識別のための圧縮動画像固有識別情報705を、カット点情報502またはカット点情報702によるショットの時間概念を利用することによって、さらに少ない情報量で抽出することができる。この圧縮動画像固有識別情報705を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0252】
<実施の形態11>以下、本発明の第11の実施の形態について、図面を参照しながら説明する。
【0253】
図22は、本発明の他の動画像検索装置を示す。なお、図22においては、図13と同一の構成のものには同一の符号を付している。図22において、この動画像検索装置は、M×N(M及びNは自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を圧縮動画像特徴量情報1303として求めるブロック単位平均値抽出部1301と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、ブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部1304と、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0254】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0255】
図23は、図22で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図23においては、図15と同一の処理ステップには同一のステップ番号を付している。図22乃び図23において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0256】
入力された動画像データが圧縮されていない動画像データ101の場合には、ブロック単位平均値抽出部1301は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ2301)。
【0257】
ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位の平均画素値を圧縮動画像特徴量情報1303として求める(ステップ1502)。
【0258】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部1302は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ401)。次に、圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像特徴量情報1303として抽出する(ステップ1503)。
【0259】
次に、圧縮動画像固有識別情報抽出部1304は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ1504)。
【0260】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0261】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404と同様の処理によって行うことができる。
【0262】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0263】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0264】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報308に対して行う(ステップ410)。
【0265】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述した圧縮動画像固有識別情報抽出部1304において、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の中の一部分または複数部分を利用して求めてもよい。
【0266】
また、圧縮動画像固有識別情報抽出部1304において、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値に対して重み付けを行い、その重み付けられた圧縮動画像特徴量情報または平均画素値によって上述の値を求めてもよい。
【0267】
また、圧縮動画像固有識別情報抽出部1304において、上述した物理的な圧縮動画像特徴量情報または平均画素値の値などを量子化して適用してもよい。
【0268】
また、M×N画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0269】
以上のように、本発明の実施の形態によれば、動画像に簡単な前処理を行うことにより、動画像データ101や圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報305を、さらに少ない情報量で、かつ動画像データ101と圧縮動画像データ301とを同じ処理で抽出することができる。また、この圧縮動画像固有識別情報305を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0270】
<実施の形態12>以下、本発明の第12の実施の形態について、図面を参照しながら説明する。
【0271】
図24は、本発明の他の動画像検索装置を示す。なお、図24においては、図16と同一の構成のものには同一の符号を付している。図24において、この動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を圧縮動画像特徴量情報1303として求めるブロック単位平均値抽出部1301と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、ブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部1603と、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0272】
以上のように構成された本発明の動画像検索装置について、以下にその動作を説明する。
【0273】
図25は、図24で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図25においては、図17と同一の処理ステップには同一のステップ番号を付している。図24及び図25において、まず、入力された動画像データが圧縮されているかどうかを判断する(ステップ1001)。
【0274】
入力された動画像データが圧縮されていない動画像データ101の場合には、ブロック単位平均値抽出部1301及びカット点検出部501は、動画像の検索を行う検索キーとなる動画像データ101を取り込む(ステップ2501)。
【0275】
ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位の平均画素値を求める(ステップ1502)。また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0276】
一方、入力された動画像データが圧縮されている圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部1302及びカット点検出部701は、圧縮動画像の検索を行う検索キーとなる圧縮動画像データ301を取り込む(ステップ801)。次に、圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像特徴量情報1303として抽出する(ステップ1503)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0277】
次に、圧縮動画像固有識別情報抽出部1603は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報705として、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する(ステップ1702)。
【0278】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0279】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804と同様の処理によって行うことができる。
【0280】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0281】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0282】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報708に対して行う(ステップ410)。
【0283】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、M×N画素単位を、MPEGなどの標準圧縮符号化方式の画素単位と同じ値にしてもよい。
【0284】
以上のように、本発明の実施の形態によれば、カット点情報によるショットの時間概念を利用し、また、動画像に簡単な前処理を行うことで動画像データ101及び圧縮動画像データ301の内容に依存した動画像識別のための圧縮動画像固有識別情報1303を、少ない情報量で、かつ動画像データと圧縮動画像データにおいて同じ処理で抽出することができる。また、この圧縮動画像固有識別情報1303を用いて、さらに高速に動画像の中から同じ動画像を検索することができる。
【0285】
<実施の形態13>以下、本発明の第13の実施の形態について、図面を参照しながら説明する。
【0286】
図26は、本発明の他の動画像検索装置を示す。なお、図26においては、図1及び図3と同一の構成のものには同一の符号を付している。図26に示した動画像検索装置は、動画像データ101から、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な画像特徴量情報を動画像特徴量情報103として抽出する動画像特徴量情報抽出部102と、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報103のうち少なくとも1以上の画像特徴量情報103を時間軸上に配列し、その並びから動画像識別のための動画像固有識別情報105を抽出する動画像固有識別情報抽出部104と、動画像固有識別情報抽出部104で抽出された動画像固有識別情報105を蓄積する動画像固有識別情報蓄積部106と、予め他の動画像データから抽出された動画像固有識別情報108の中から動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報105と同一の情報を検索して同定する動画像固有識別情報検索部109と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部304と、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、動画像固有識別情報検索部109及び圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101を動画像特徴量情報抽出部102に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302に出力する圧縮・非圧縮判定部2602を備えている。
【0287】
図27は、図26で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図27においては、図2及び図4と同一の処理ステップには同一のステップ番号を付している。
【0288】
図27において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0289】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、この動画像データ101から各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等を物理的な動画像特徴量情報103として抽出する(ステップ202)。
【0290】
次に、動画像固有識別情報抽出部104は、動画像特徴量情報103に基づいて、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を動画像識別のための動画像固有識別情報105として抽出する(ステップ203)。
【0291】
動画像固有識別情報蓄積部106は、動画像固有識別情報抽出部104で抽出された動画像固有識別情報105を蓄積する(ステップ204)。
【0292】
一方、他の動画像データ(検索対象の動画像データ)から動画像固有識別情報108を抽出しておく(ステップ205)。この抽出処理は、上述したステップ201〜204(図2)と同様の処理によって行うことができる。
【0293】
そして、動画像固有識別情報検索部109は、動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報105と他の動画像データから抽出された動画像固有識別情報108とを比較する(ステップ206)。
【0294】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0295】
以上のステップ206〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報108に対して行う(ステップ210)。
【0296】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、この圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。
【0297】
次に、圧縮動画像固有識別情報抽出部304は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ403)。
【0298】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0299】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ401〜404(図4)と同様の処理によって行うことができる。
【0300】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0301】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0302】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報308に対して行う(ステップ410)。
【0303】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0304】
<実施の形態14>以下、本発明の第14の実施の形態について、図面を参照しながら説明する。
【0305】
図28は、本発明の他の動画像検索装置を示す。なお、図28においては、図5及び図7と同一の構成のものには同一の符号を付している。図28に示した動画像検索装置は、動画像データ101から、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報を動画像特徴量情報103として抽出する動画像特徴量情報抽出部102と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、動画像特徴量情報103の各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な画像特徴量情報103のうち少なくとも1以上の動画像特徴量情報103を時間軸上に配列し、その並びから動画像識別のための動画像固有識別情報505を、カット点情報502を用いて分割される動画像データ101の各ショット単位に抽出する動画像固有識別情報抽出部503と、動画像固有識別情報抽出部503で抽出された動画像固有識別情報505を蓄積する動画像固有識別情報蓄積部106と、予め他の動画像データから抽出された動画像固有識別情報508の中から動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報505と同一の情報を検索して同定する動画像固有識別情報検索部109と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部703と、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、動画像固有識別情報検索部109及び圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101を動画像特徴量情報抽出部102とカット点検出部501に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302とカット点検出部701に出力する圧縮・非圧縮判定部2602を備えている。
【0306】
図29は、図28で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図29においては、図6及び図8と同一の処理ステップには同一のステップ番号を付している。
【0307】
図29において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0308】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像特徴量情報抽出部102は、この動画像データ101から各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報等などの物理的な動画像特徴量情報103を抽出する(ステップ202)。
【0309】
また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。ここで、動画像データ101のカット点とは、撮影されている動画像データ101の場面が変化する点、または、動画像データ101を撮影しているカメラが切換わった点をいう。
【0310】
次に、動画像固有識別情報抽出部503は、動画像特徴量情報103に基づいて、各フレームの輝度・色差(Y,Cb,Cr)情報や色(R,G,B)情報などの物理的な動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報502を用いて分割される動画像データ101の各ショット単位に動画像識別のための動画像固有識別情報505として抽出する(ステップ603)。
【0311】
動画像固有識別情報蓄積部106は、動画像固有識別情報抽出部503で抽出された動画像固有識別情報505を蓄積する(ステップ604)。
【0312】
一方、他の動画像データ(検索対象の動画像データ)から動画像固有識別情報508を抽出しておく(ステップ205)。この抽出処理は、上述したステップ601〜604(図6)と同様の処理によって行うことができる。
【0313】
そして、動画像固有識別情報検索部109は、動画像固有識別情報蓄積部106に蓄積されている動画像固有識別情報505と他の動画像データから抽出された動画像固有識別情報508とを比較する(ステップ206)。
【0314】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0315】
以上のステップ206〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報508に対して行う(ステップ210)。
【0316】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0317】
次に、圧縮動画像固有識別情報抽出部703は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどのを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に、圧縮動画像識別のための圧縮動画像固有識別情報705として抽出する(ステップ803)。
【0318】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0319】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ801〜804(図8)と同様の処理によって行うことができる。
【0320】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0321】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0322】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報708に対して行う(ステップ410)。
【0323】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0324】
<実施の形態15>以下、本発明の第15の実施の形態について、図面を参照しながら説明する。
【0325】
図30は、本発明の他の動画像検索装置を示す。なお、図30においては、図9と同一の構成のものには同一の符号を付している。図30に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、動画像データ101のM’×N’(M’及びN’は自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を得るDCT(離散コサイン変換)演算部902と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像特徴量情報抽出部302または動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部304と、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101を動き補償情報抽出部901とDCT(離散コサイン変換)演算部902に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302に出力する圧縮・非圧縮判定部2602を備えている。
【0326】
図31は、図30で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図31においては、図10と同一の処理ステップには同一のステップ番号を付している。
【0327】
図31において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0328】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101を動き補償情報抽出部901とDCT(離散コサイン変換)演算部902に出力する。動き補償情報抽出部901は、動画像の検索を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を求める(ステップ1004)。
【0329】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302に出力する。圧縮動画像特徴量情報抽出部302は、この圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。
【0330】
次に、圧縮動画像固有識別情報抽出部304は、圧縮動画像特徴量情報抽出部302または動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902で抽出された圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ403)。
【0331】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0332】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404(図10)と同様の処理によって行うことができる。
【0333】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0334】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0335】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報308に対して行う(ステップ410)。
【0336】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0337】
<実施の形態16>以下、本発明の第16の実施の形態について、図面を参照しながら説明する。
【0338】
図32は、本発明の他の動画像検索装置を示す。なお、図32においては、図11と同一の構成のものには同一の符号を付している。図32に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、動画像データ101のM’×N’(M’及びN’は自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を得るDCT(離散コサイン変換)演算部902と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、動き補償情報抽出部901及びDCT(離散コサイン変換)演算部902または圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数及び動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部703と、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101を動き補償情報抽出部901、DCT(離散コサイン変換)演算部902、及びカット点検出部501に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302及びカット点検出部701に出力する圧縮・非圧縮判定部2602を備えている。
【0339】
図33は、図32で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図33においては、図12と同一の処理ステップには同一のステップ番号を付している。
【0340】
図33において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0341】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101を動き補償情報抽出部901、DCT(離散コサイン変換)演算部902、及びカット点検出部501に出力する。動き補償情報抽出部901は、動画像の検索を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を求める(ステップ1004)。
【0342】
また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0343】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302及びカット点検出部701に出力する。圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数および動き補償情報で構成される圧縮動画像特徴量情報303を抽出する(ステップ402)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0344】
次に、圧縮動画像固有識別情報抽出部703は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどのを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報502を用いて分割される動画像データ101またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に、圧縮動画像識別のための圧縮動画像固有識別情報705として抽出する(ステップ803)。
【0345】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0346】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804(図12)と同様の処理によって行うことができる。
【0347】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0348】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0349】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報708に対して行う(ステップ410)。
【0350】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0351】
<実施の形態17>以下、本発明の第17の実施の形態について、図面を参照しながら説明する。
【0352】
図34は、本発明の他の動画像検索装置を示す。なお、図34においては、図13と同一の構成のものには同一の符号を付している。図34に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、M’×N’(M’及びN’は自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を求めるブロック単位平均値抽出部1301と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、動き補償情報抽出部901及びブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値及びそれらの動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部1304と、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101を動き補償情報抽出部901とブロック単位平均値抽出部1301に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302に出力する圧縮・非圧縮判定部2602を備えている。
【0353】
図35は、図34で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図35においては、図15と同一の処理ステップには同一のステップ番号を付している。
【0354】
図35において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0355】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101を動き補償情報抽出部901とブロック単位平均値抽出部1301に出力する。動き補償情報抽出部901は、動画像の検索を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位の平均画素値を求める(ステップ1502)。
【0356】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302に出力する。圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分および動き補償情報で構成される圧縮動画像特徴量情報1303を抽出する(ステップ1503)。
【0357】
次に、圧縮動画像固有識別情報抽出部1304は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ1504)。
【0358】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0359】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404(図15)と同様の処理によって行うことができる。
【0360】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0361】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0362】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された圧縮動画像固有識別情報308に対して行う(ステップ410)。
【0363】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0364】
<実施の形態18>以下、本発明の第18の実施の形態について、図面を参照しながら説明する。
【0365】
図36は、本発明の他の動画像検索装置を示す。なお、図36においては、図16と同一の構成のものには同一の符号を付している。図36に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の動き補償情報を求める動き補償情報抽出部901と、M’×N’(M’及びN’は自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を求めるブロック単位平均値抽出部1301と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分及び動き補償情報を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、補償情報抽出部901及びブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値及びそれらの動き補償情報のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部1603と、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101を動き補償情報抽出部901、ブロック単位平均値抽出部1301、及びカット点検出部501に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302及びカット点検出部701に出力する圧縮・非圧縮判定部2602を備えている。
【0366】
図37は、図36で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図37においては、図17と同一の処理ステップには同一のステップ番号を付している。
【0367】
図37において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0368】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101を動き補償情報抽出部901、ブロック単位平均値抽出部1301、及びカット点検出部501に出力する。動き補償情報抽出部901は、動画像の同定を行う検索キーとなる動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位で動き補償情報を求める(ステップ1003)。また、ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM’×N’(M’及びN’は自然数)画素単位に分割し、M’×N’画素単位の平均画素値を求める(ステップ1502)。さらに、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0369】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302及びカット点検出部701に出力する。圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分および動き補償情報で構成される圧縮動画像特徴量情報1303を抽出する(ステップ1503)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0370】
次に、圧縮動画像固有識別情報抽出部1603は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。また、動き補償情報からは、動きベクトル、前後フレーム間の平均動きベクトル、合計動きベクトル、差分ベクトル、またはフレーム全体としての動きベクトルなどを求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報705として、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する(ステップ1702)。
【0371】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0372】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804(図17)と同様の処理によって行うことができる。
【0373】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0374】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0375】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報708に対して行う(ステップ410)。
【0376】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0377】
<実施の形態19>以下、本発明の第19の実施の形態について、図面を参照しながら説明する。
【0378】
図38は、本発明の他の動画像検索装置を示す。なお、図38においては、図18と同一の構成のものには同一の符号を付している。図38に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として得るDCT(離散コサイン変換)演算部902と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、DCT(離散コサイン変換)演算部902または圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部304と、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101をDCT(離散コサイン変換)演算部902に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302に出力する圧縮・非圧縮判定部2602を備えている。
【0379】
図39は、図38で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図39においては、図19と同一の処理ステップには同一のステップ番号を付している。
【0380】
図39において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0381】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101をDCT(離散コサイン変換)演算部902に出力する。DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として求める(ステップ1902)。
【0382】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302に出力する。圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として抽出する(ステップ1903)。
【0383】
次に、圧縮動画像固有識別情報抽出部304は、圧縮動画像特徴量情報抽出部302またはDCT(離散コサイン変換)演算部902で抽出された圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ1904)。
【0384】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0385】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404(図17)と同様の処理によって行うことができる。
【0386】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0387】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0388】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報308に対して行う(ステップ410)。
【0389】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0390】
<実施の形態20>以下、本発明の第20の実施の形態について、図面を参照しながら説明する。
【0391】
図40は、本発明の他の動画像検索装置を示す。なお、図40においては、図20と同一の構成のものには同一の符号を付している。図40に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位でDCT(離散コサイン変換)演算を行い、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として得るDCT(離散コサイン変換)演算部902と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT係数を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)303として抽出する圧縮動画像特徴量情報抽出部302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、DCT(離散コサイン変換)演算部902または圧縮動画像特徴量情報抽出部302で抽出された圧縮動画像特徴量情報303の各フレームのDCT係数のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部703と、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101をDCT(離散コサイン変換)演算部902とカット点検出部501に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302とカット点検出部701に出力する圧縮・非圧縮判定部2602を備えている。
【0392】
図41は、図40で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図41においては、図21と同一の処理ステップには同一のステップ番号を付している。
【0393】
図41において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0394】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101をDCT(離散コサイン変換)演算部902とカット点検出部501に出力する。DCT(離散コサイン変換)演算部902は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位でDCT(離散コサイン変換)演算をし、DCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として求める(ステップ1902)。また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0395】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部302とカット点検出部701に出力する。圧縮動画像特徴量情報抽出部302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数を圧縮動画像特徴量情報303として抽出する(ステップ1903)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0396】
次に、圧縮動画像固有識別情報抽出部703は、圧縮動画像特徴量情報303の各フレームのDCT(離散コサイン変換)係数から物理的な圧縮動画像特徴量情報の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を、カット点情報502を用いて分割される動画像データ101またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に、圧縮動画像識別のための圧縮動画像固有識別情報705として抽出する(ステップ2102)。
【0397】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部703で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0398】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804(図21)と同様の処理によって行うことができる。
【0399】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0400】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0401】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報708に対して行う(ステップ410)。
【0402】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0403】
<実施の形態21>以下、本発明の第21の実施の形態について、図面を参照しながら説明する。
【0404】
図42は、本発明の他の動画像検索装置を示す。なお、図42においては、図22と同一の構成のものには同一の符号を付している。図42に示した動画像検索装置は、M×N(M及びNは自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を圧縮動画像特徴量情報1303として求めるブロック単位平均値抽出部1301と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、ブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報305を抽出する圧縮動画像固有識別情報抽出部1304と、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報308の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101をブロック単位平均値抽出部1301に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302に出力する圧縮・非圧縮判定部2602を備えている。
【0405】
図43は、図42で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図43においては、図23と同一の処理ステップには同一のステップ番号を付している。
【0406】
図43において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0407】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101をブロック単位平均値抽出部1301に出力する。ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位の平均画素値を圧縮動画像特徴量情報1303として求める(ステップ1502)。
【0408】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302に出力する。圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像特徴量情報1303として抽出する(ステップ1503)。
【0409】
次に、圧縮動画像固有識別情報抽出部1304は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報305として抽出する(ステップ1504)。
【0410】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1304で抽出された圧縮動画像固有識別情報305を蓄積する(ステップ404)。
【0411】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報308を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜404(図23)と同様の処理によって行うことができる。
【0412】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報305と他の動画像データから抽出された圧縮動画像固有識別情報308とを比較する(ステップ406)。
【0413】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0414】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報308に対して行う(ステップ410)。
【0415】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0416】
<実施の形態22>以下、本発明の第22の実施の形態について、図面を参照しながら説明する。
【0417】
図44は、本発明の他の動画像検索装置を示す。なお、図44においては、図24と同一の構成のものには同一の符号を付している。図44に示した動画像検索装置は、動画像データ101のM×N(M及びNは自然数)画素単位の平均色(R,G,B)情報や、平均輝度・平均色差(Y,Cb,Cr)情報などの平均画素値を圧縮動画像特徴量情報1303として求めるブロック単位平均値抽出部1301と、動画像データ101のカット点をカット点情報502として検出するカット点検出部501と、MPEGなどの標準動画像圧縮符号化処理により圧縮された圧縮動画像データ301から、各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像の特徴量情報(圧縮動画像特徴量情報)1303として抽出する圧縮動画像特徴量情報抽出部1302と、圧縮動画像データ301のカット点をカット点情報702として検出するカット点検出部701と、ブロック単位平均値抽出部1301または圧縮動画像特徴量情報抽出部1302で抽出された圧縮動画像特徴量情報1303の各フレームのDCT係数のDC成分または平均画素値のうち少なくとも1以上の特徴量情報を時間軸上に配列し、その並びから圧縮動画像識別のための圧縮動画像固有識別情報705を、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する圧縮動画像固有識別情報抽出部1603と、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報708の中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報705と同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111と、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定し、非圧縮の動画像データ101をブロック単位平均値抽出部1301とカット点検出部501に出力し、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302とカット点検出部701に出力する圧縮・非圧縮判定部2602を備えている。
【0418】
図45は、図44で示した本発明の動画像検索装置の動作を示すフローチャートである。なお、図45においては、図25と同一の処理ステップには同一のステップ番号を付している。
【0419】
図45において、まず、圧縮・非圧縮判定部2602は、ディジタル動画像データ2601を取得する(ステップ2701)。次に、圧縮・非圧縮判定部2602は、取得したディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを判定する(ステップ2702)。
【0420】
ディジタル動画像データ2601が非圧縮の動画像データ101の場合には、動画像データ101をブロック単位平均値抽出部1301とカット点検出部501に出力する。ブロック単位平均値抽出部1301は、動画像データ101の各フレームをM×N(M及びNは自然数)画素単位に分割し、M×N画素単位の平均画素値を求める(ステップ1502)。また、カット点検出部501は、動画像データ101のカット点をカット点情報502として検出する(ステップ602)。
【0421】
また、ディジタル動画像データ2601が圧縮動画像データ301の場合には、圧縮動画像データ301を圧縮動画像特徴量情報抽出部1302とカット点検出部701に出力する。圧縮動画像特徴量情報抽出部1302は、圧縮動画像データ301から各フレームのDCT(離散コサイン変換)係数のDC(直流)成分を圧縮動画像特徴量情報1303として抽出する(ステップ1503)。また、カット点検出部701は、圧縮動画像データ301のカット点をカット点情報702として検出する(ステップ802)。
【0422】
次に、圧縮動画像固有識別情報抽出部1603は、圧縮動画像特徴量情報1303の各フレームのDCT(離散コサイン変換)係数のDC(直流)成分からの物理的な圧縮動画像特徴量情報または平均画素値の値、その値の平均値、その値の合計値、またはその値の差分値を求める。そして、これらの値のうち少なくとも1以上の値を、時間軸上に配列した並びの全部、その配列した並びの一定間隔、またはその配列した並びの変則間隔で抜き出し、その抜き出した値を圧縮動画像識別のための圧縮動画像固有識別情報705として、カット点情報502を用いて分割される動画像データ101の各ショット単位またはカット点情報702を用いて分割される圧縮動画像データ301の各ショット単位に抽出する(ステップ1702)。
【0423】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部1603で抽出された圧縮動画像固有識別情報705を蓄積する(ステップ804)。
【0424】
一方、他の圧縮動画像データ(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報708を抽出しておく(ステップ405)。この抽出処理は、上述したステップ1001〜804(図25)と同様の処理によって行うことができる。
【0425】
そして、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている動画像固有識別情報705と他の動画像データから抽出された圧縮動画像固有識別情報708とを比較する(ステップ406)。
【0426】
この比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0427】
以上のステップ406〜ステップ209の処理を、全ての他の動画像データから抽出された動画像固有識別情報708に対して行う(ステップ410)。
【0428】
以上のように、本発明の実施の形態によれば、入力されるディジタル動画像データ2601が非圧縮の動画像データ101か圧縮動画像データ301かを自動的に判定できるため、検索する画像データの形式(圧縮/非圧縮)によらず、より高速に動画像の中から同じ動画像を検索することができる。
【0429】
また、上述した本発明の第1乃至第22の実施の形態において、検索対象の動画像データを非圧縮の動画像データまたは圧縮された動画像データの何れか一方のみで説明したが、各実施の形態における検索対象の動画像データは、どちらの動画像データであってもよい。
【実施例】
【0430】
以下、本発明の第2の実施の形態の具体的な実施例として、動画像の検索の実験を行った実験用の動画像検索装置及び動画像検索方法について、図面を参照しながら説明する。
【0431】
図46は、本発明の第2の実施の形態で示した動画像検索装置の具体的な実施例であるテレビCM監視装置を示す。なお、図46においては、図3と同一の構成のものには同一の符号を付している。
【0432】
図46において、このテレビCM監視装置は、MPEG−2により圧縮されたMPEG−2ストリーム(テレビ放送)301Aから、各フレームのDCT係数のDC成分のみを圧縮動画像特徴量情報(DC成分)303Aとして抽出するDC成分抽出部302Aと、DC成分抽出部302Aで抽出された圧縮動画像特徴量情報(DC成分)303Aの各フレームのDC成分の平均値を時間軸上に配列し、その並びを圧縮動画像識別のための圧縮動画像固有識別情報(平均色情報時系列情報)305Aとして抽出する圧縮動画像固有識別情報抽出部(平均色情報計算部)304Aと、圧縮動画像固有識別情報抽出部(平均色情報計算部)304Aで抽出された圧縮動画像固有識別情報305Aを蓄積する圧縮動画像固有識別情報蓄積部306と、予め他の動画像データから抽出された圧縮動画像固有識別情報(テレビCMの平均色情報時系列情報)308Aの中から圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報(平均色情報時系列情報)305Aと同一の情報を検索して同定する圧縮動画像固有識別情報検索部309と、圧縮動画像固有識別情報検索部309の検索結果を格納する検索結果格納部110と、検索結果格納部110に格納されている検索結果を画面に表示したり印刷したりする検索結果表示部111とを備えている。
【0433】
ここで、MPEG−2ストリーム(テレビ放送)301Aは、現行のテレビ放送の画像をMPEG−2方式で符号化したものである。
【0434】
以上のように構成された本発明のテレビCM監視装置について、以下にその動作を説明する。
【0435】
図47は、図46で示した本発明の動画像検索装置の実施例であるテレビCM監視装置の動作を示すフローチャートである。なお、図47においては、図4と同一の処理ステップには同一のステップ番号を付している。図46及び図47において、まず、DC成分抽出部302Aは、圧縮動画像の検索を行う検索キーとなるMPEG−2ストリーム(テレビ放送)301Aを取り込み(ステップ401A)、このMPEG−2ストリームから各フレームのDCT(離散コサイン変換)係数のうちDC成分のみを圧縮動画像特徴量情報(DC成分)303Aとして抽出する(ステップ402A)。
【0436】
次に、圧縮動画像固有識別情報抽出部(平均色情報計算部)304Aは、圧縮動画像特徴量情報(DC成分)303Aの各フレームのDC成分からその平均値を求める。この平均値を時間軸上に配列した並びを、圧縮動画像識別のための圧縮動画像固有識別情報(平均色情報時系列情報)305Aとして抽出する(ステップ403A)。
【0437】
圧縮動画像固有識別情報蓄積部306は、圧縮動画像固有識別情報抽出部(平均色情報計算部)304Aで抽出された圧縮動画像固有識別情報(平均色情報時系列情報)305Aを蓄積する(ステップ404)。
【0438】
本実験で圧縮動画像固有識別情報(平均色情報時系列情報)305Aは、輝度・色差(Y,Cb,Cr)情報3つの時系列情報となる。ここで、個々の時系列情報を、横軸を時間、縦軸を平均色情報の値としてコンピュータ装置などでグラフ化すると、圧縮動画像固有識別情報(平均色情報時系列情報)305Aは、例えば、3本の棒グラフで表すことができる。
【0439】
一方、テレビCMのMPEG−2ストリーム(検索対象の圧縮動画像データ)から圧縮動画像固有識別情報(テレビCMの色情報時系列情報)308Aを抽出する(ステップ405A)。この抽出処理は、上述したステップ401A〜404と同様の処理によって行うことができる。
【0440】
テレビCMのMPEG−2ストリームは、上述のMPEG−2ストリーム(テレビ放送)301Aと同様に、現行地上波テレビ放送(CM)をMPEG−2に符号化したストリームである。
【0441】
次に、圧縮動画像固有識別情報検索部309は、圧縮動画像固有識別情報蓄積部306に蓄積されている圧縮動画像固有識別情報305Aと他の動画像データから抽出された圧縮動画像固有識別情報308Aとを比較する(ステップ406)。
【0442】
ここで、テレビCM監視装置としてはPC程度の簡単な設備を用いて実現することを考えている。また、現行のテレビ放送では、テレビ電波の反射・マルチパスにより像が多重映りするゴースト現象や色ずれ等が発生する場合がある。従って、この様なゴースト現象や色ずれ等が発生しているテレビ放送を用いて抽出される圧縮動画像固有識別情報305Aに対して、これらの影響が多少発生する場合がある。
【0443】
ここで、上述のように、圧縮動画像固有識別情報(平均色情報時系列情報)305Aを3本の棒グラフで表した場合、これらのグラフにも影響が生じる。しかし、これらのグラフには動画像を識別するのに十分な動画像固有識別情報があり、これらのグラフを拡大・縮小することによって、ゴースト現象や色ずれ等の影響を受け難くすることができる。
【0444】
圧縮動画像固有識別情報検索部309(ステップ406)での比較結果は、検索結果格納部110に格納され(ステップ207)、表示や印刷をする場合には(ステップ208)、検索結果表示部111で出力される(ステップ209)。
【0445】
上述したステップ406〜ステップ209の処理を、他の動画像データから抽出された全ての動画像固有識別情報308Aに対して行う(ステップ410)。
【0446】
以上、本発明の動画像検索装置及び動画像検索方法の具体的な実施例について説明したが、図46及び図47に示す実験システムを用いて、本発明の有効性を試す実験を以下のように行った。
【0447】
動画像としては地上波テレビ放送の画像を用い、26時間15分のテレビ放送画像(MPEG−2ストリーム(テレビ放送)301A)の中から、37種類で総数152個のテレビCM(圧縮動画像固有識別情報(テレビCMの色情報時系列情報)308A)を検索する実験を行ったところ、検出洩れ0、過剰検出0という結果を得ることができた。
【0448】
以上、本発明の動画像検索装置及び動画像検索方法として上述した発明の第1乃至第22の実施の形態、及び実施例において、一画像を複数のフレームに分割して処理しているが、更に各フレームをn(nは2以上の自然数)分割して処理することもできる。このとき、分割した各領域からそれぞれ動画像識別のための動画像固有識別情報や圧縮動画像固有識別情報を抽出して元の動画像の動画像固有識別情報105や元の圧縮動画像の圧縮動画像固有識別情報305、305Aとする。そして、動画像固有識別情報検索部109や圧縮動画像固有識別情報検索部309は、予め抽出された動画像固有識別情報108や圧縮動画像固有識別情報308、308Aから動画像固有識別情報105や圧縮動画像固有識別情報305、305Aと同一の情報を検索する。この検索は、分割された動画像固有識別情報105や圧縮動画像固有識別情報305、305Aの全ての領域が一致した時に、検索が行えたものとする。このように、1つのフレームを複数の情報で検索することによって、更に検索精度を向上することができる。
【0449】
また、上述のように各フレームをn分割し、分割した各々の領域から動画像固有識別情報105や圧縮動画像固有識別情報305、305Aを抽出することにより、動画像固有識別情報105や圧縮動画像固有識別情報305、305Aに含まれる時系列情報を短くすることができる。
【0450】
さらには、各フレームをn分割し、各領域から抽出された動画像識別のための動画像固有識別情報105や圧縮動画像固有識別情報305、305Aの内、(n−m)個以上(1<=m<=(n−1))の領域に限定して検索した時に、動画像の一部領域が異なる類似動画像の検索が行える。即ち、分割された領域の一部のみを検索対象として選択し、その部分のみが一致した場合に検索できたことにすることによって、類似動画像の検索を行うことができる。
【0451】
以上、本発明の動画像検索装置及び動画像検索方法について説明したが、上述の動画像検索方法をコンピュータで実行可能な動画像検索プログラムとし、このプログラムをコンピュータで読み取り可能な記録媒体に記録することもできる。
【符号の説明】
【0452】
101 動画像データ
102 動画像特徴量情報抽出部
103 動画像特徴量情報
104、503 動画像固有識別情報抽出部
105、505 動画像固有識別情報
106 動画像固有識別情報蓄積部
108、508 動画像固有識別情報
109 動画像固有識別情報検索同定部(動画像固有識別情報検索部)
110 検索同定結果格納部(検索結果格納部)
111 検索同定結果表示部(検索結果表示部)
301 圧縮動画像データ
301A MPEG−2ストリーム(テレビ放送)
302、1302 圧縮動画像特徴量情報抽出部
302A DC成分抽出部
303、1303 圧縮動画像特徴量情報
303A 圧縮動画像特徴量情報(DC成分)
304、703、1304、1603 圧縮動画像固有識別情報抽出部
304A 圧縮動画像固有識別情報抽出部(平均色情報計算部)
305、308 カット無し圧縮動画像固有識別情報
305A 圧縮動画像固有識別情報(平均色情報時系列情報)
306 圧縮動画像固有識別情報蓄積部
308A 圧縮動画像固有識別情報(テレビCMの色情報時系列情報)
309 圧縮動画像固有識別情報検索同定部(圧縮動画像固有識別情報検索部)
501、701 カット点検出部
502、702 カット点情報
705、708 カット有り圧縮動画像固有識別情報
901 動き補償情報抽出部
902 DCT(離散コサイン変換)演算部
1301 ブロック単位平均値抽出部
2601 ディジタル動画像データ
2602 圧縮・非圧縮判定部

【特許請求の範囲】
【請求項1】
所定の動画像データを検索対象の動画像データから検索する動画像検索装置において、
前記所定の動画像データから、各フレームの物理的な特徴量情報を抽出する特徴量情報抽出手段と、
抽出した各フレームの特徴量情報を時間軸上に配列した時系列情報を、所定の動画像データの固有識別情報として抽出する固有識別情報抽出手段と、
前記所定の動画像データの固有識別情報を、検索対象の動画像データの各フレームから抽出した物理的な特徴量情報を時間軸上に配列した時系列情報である検索対象の動画像データの固有識別情報との配列の並びを比較し、当該検索対象の動画像データの固有識別情報の中から類似する情報を検索して同定する検索同定手段と、を有し、
前記所定の動画像データとしてテレビ映像データを用い、前記検索対象の動画像データとしてテレビ放送のデータを用いることを特徴とする動画像検索装置。
【請求項2】
検索同定手段は、前記検索対象の動画像データから抽出された固有識別情報の全てに対して、前記所定の動画像データの固有識別情報との配列の並びの比較を繰り返し、類似する動画像データを検索して同定することを特徴とする請求項1記載の動画像検索装置。
【請求項3】
前記固有識別情報抽出手段は、前記時系列情報をグラフ化して、固有識別情報として抽出することを特徴とする請求項1記載の動画像検索装置。
【請求項4】
前記固有識別情報抽出手段は、前記グラフを拡大または縮小して固有識別情報を抽出することを特徴とする請求項3記載の動画像検索装置。
【請求項5】
前記時系列情報のグラフは、複数の物理的な特徴量情報で示されることを特徴とする請求項3又は4に記載の動画像検索装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate

【図36】
image rotate

【図37】
image rotate

【図38】
image rotate

【図39】
image rotate

【図40】
image rotate

【図41】
image rotate

【図42】
image rotate

【図43】
image rotate

【図44】
image rotate

【図45】
image rotate

【図46】
image rotate

【図47】
image rotate


【公開番号】特開2010−148154(P2010−148154A)
【公開日】平成22年7月1日(2010.7.1)
【国際特許分類】
【出願番号】特願2010−49058(P2010−49058)
【出願日】平成22年3月5日(2010.3.5)
【分割の表示】特願平11−294850の分割
【原出願日】平成11年10月18日(1999.10.18)
【出願人】(301022471)独立行政法人情報通信研究機構 (1,071)
【出願人】(000005821)パナソニック株式会社 (73,050)
【出願人】(598155195)
【出願人】(598138752)
【Fターム(参考)】