説明

映像比較監視システム、映像比較監視方法、映像比較監視プログラム及び映像比較監視プログラム用記録媒体

【課題】リアルタイムに比較監視を行い、その結果をオフラインで検証し、比較条件にフィードバックして、2つの映像ストリームを人間の知覚に近いレベルでリアルタイムに比較すること。
【解決手段】人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ比較し、その比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて比較する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像を比較して監視する技術に関する。
【背景技術】
【0002】
現在では、従来の地上波アナログ放送と共に、高精細性、高音質・多機能性、双方向性等の様々な利便的特徴から、MPEG2の信号圧縮方式を採用した地上波デジタル放送が開始されている。
【0003】
通常、このような地上波デジタル放送は無線通信ネットワークを通じてユーザに提供されるが、放送されている地上波デジタル放送をリアルタイムに捕捉し、H.264の圧縮形式で圧縮した後に、IP化した時系列な複数の画像データ(フレームという場合もある)を再送信することにより、光回線等の有線通信ネットワークを通じて地上波デジタル放送を擬似的に提供することが可能となっている(非特許文献1,2参照)。
【0004】
図7は、従来の映像比較監視システムを概略的に示す図である。図7(a)はリアルタイムで映像比較監視するシステムを示し、図7(b)はオフラインで映像比較するシステムを示している。
【0005】
リアルタイム型の映像比較監視システムでは、放送されている地上波デジタル放送の放送用映像ストリームAを捕捉し、放送用映像ストリームAを構成している複数の放送用画像データAを時系列順にバッファAに書き込むと共に、IP再送信されている再送信用映像ストリームBを捕捉し、再送信用映像ストリームBを構成している複数の再送信用画像データBを時系列順にバッファBに書き込み、各バッファA,Bから各放送用画像データAと各再送信用画像データBとをそれぞれ取得して画像データ単位(フレーム単位)で比較し、予め設定されている比較監視パラメータの値に合致するか否かをリアルタイムに判定して、合致しない再送信用画像データBをエラーとして検知していた。
【0006】
その後、エラー検知された再送信用画像データBが人間の目から見てエラーに値するか否かを判断し、エラー検知に値しない場合には比較監視パラメータの値を調整して、以降同様の再送信用画像データBが送信された際にはエラー検知しないようにすることで再送信用画像データを監視していた。
【0007】
このような従来のリアルタイム型の映像比較監視システムによれば、リアルタイムに画像データを比較するため、放送のような映像ストリームの監視には好適である。しかしながら、再度同様の映像ストリームが出現するとは限らないため、調整後の比較監視パラメータの値を検証することは不可能であり、実際に人間の目で見て障害があるか否かを判断可能な視聴監視レベルまで比較監視パラメータを調整することは困難であった。
【0008】
一方、オフライン型の映像比較システムでは、上記複数の放送用画像データAと上記複数の再送信用画像データBとをデータ蓄積部に逐次一旦蓄積しておき、必要に応じて放送用画像データAと再送信用画像データBとをデータ蓄積部から読み出して所定の比較アルゴリズムを用いて画像比較を行い、予め設定されている比較パラメータに合致するか否かを判定し、合致しない場合に再送信用画像データBをエラーとして検知していた。
【0009】
このような従来のオフライン型の映像比較システムによれば、リアルタイム性が求められないため、比較処理時間を必要とする比較アルゴリズムを採用することが可能であり、比較アルゴリズムの比較監視パラメータを何度も調整して画像比較を繰り返して詳細に行うことができ、画像データの相違箇所を正確に評価することが可能である。しかしながら、原則として二度と同じ画像データが出現しない放送のような絶えず変化する映像ストリームをリアルタイムに監視する用途には不向きであった。
【0010】
そこで、2つの映像ストリームのリアルタイムでの映像比較監視を人間による視聴監視に近いレベルで実施できるように、リアルタイム型の映像比較監視システムからエラー検知を受けたオペレータが、画像データを蓄積したオフライン型の映像比較システムを使用して、エラー検知時刻から目的の画像データを検索し、エラー検知が妥当であるか否かを比較アルゴリズムを用いて比較監視パラメータを可変しながら具体的に判断し、その判断結果に基づいてリアルタイム型の映像比較監視システムの比較監視パラメータを調整することを繰り返し行うことも可能であった。
【先行技術文献】
【非特許文献】
【0011】
【非特許文献1】「IPTV規定 地上デジタルテレビジョン放送 IP再送信運用規定」、有限責任中間法人IPTVフォーラム、2008年12月8日発行、IPTVFJ STD-0005、1.1版
【非特許文献2】「IPTV規定 BSデジタル放送 IP再送信運用規定」、一般社団法人IPTVフォーラム、2009年9月30日発行、IPTVFJ STD-0009、1.0版
【発明の概要】
【発明が解決しようとする課題】
【0012】
比較監視に用いられる処理には画像処理、画像認識、その他メタ情報を用いることが考えられるが、人間の極めて複雑な視聴感覚に近づけるような画像比較処理を自動で行うには、様々な比較アルゴリズムを導入して比較監視パラメータの調整をその都度行う必要があるため、単純な既存施術の組み合わせでは画像比較処理が煩雑且つ高負荷となり、膨大な時間を要するという問題があった。
【0013】
また、このような問題に起因して、様々な比較アルゴリズムの導入や比較監視パラメータの変更等を迅速に対応することが困難となり、次々と対処すべき事象が発生する監視現場ではエラー検知の妥当性の調査がされずに保留された状態の監視結果が存在するという問題もあった。
【0014】
本発明は、上記を鑑みてなされたものであり、リアルタイムに比較監視を行い、その結果をオフラインで検証し、比較条件にフィードバックして、2つの映像ストリームを人間の知覚に近いレベルでリアルタイムに比較することを課題とする。
【課題を解決するための手段】
【0015】
請求項1に記載の本発明は、放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを蓄積する画像データ蓄積手段と、前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録するリアルタイム型映像比較監視手段と、前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定するオフライン型追比較検証手段と、を有することを特徴とする。
【0016】
本発明によれば、複数の放送用画像データと複数の再送信用画像データとを、放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、その第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行うため、リアルタイムでの監視を実現しながら、人間の視聴感覚に近づけるような複数の比較処理をリアルタイム監視向けに短時間で実現することが可能となる。
【0017】
本発明によれば、画像比較結果記録手段から各識別情報を読み出して、その各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを画像データ蓄積手段から取得するため、リアルタイム型映像比較監視手段とオフライン型追比較検証手段との間で、対象となる画像データの時間ズレや検出結果の差異等の発生を防止することが可能となる。
【0018】
請求項2に記載の本発明は、前記比較が、前記放送用画像データと前記再送信用画像データとの近似度又は相違度の比較であることを特徴とする。
【0019】
請求項3に記載の本発明は、前記オフライン型追比較検証手段が、比較される前記放送用画像データ及び前記再送信用画像データと前記比較の結果とを表示する表示手段と、前記比較条件として設定されるパラメータの値の変更の入力を受け付ける変更入力受付手段と、を有し、前記パラメータの値は、前記表示手段に表示された前記比較の結果に基づいて、前記変更入力受付手段で入力が受け付けられたユーザによって変更された値であることを特徴とする。
【0020】
本発明によれば、パラメータの値は、表示手段に表示された比較の結果に基づいて、変更入力受付手段で入力が受け付けられたユーザによって変更された値であるため、リアルタイム型映像比較監視手段における以降の比較処理を、より人間の視聴感覚に近いものにすることが可能となる。
【0021】
請求項4に記載の本発明は、前記オフライン型追比較検証手段が、前記パラメータの値が変更される毎に、前記比較を行って当該比較の結果を表示することを特徴とする。
【0022】
請求項5に記載の本発明は、前記オフライン型追比較検証手段が、比較される前記放送用画像データと前記再送信用画像データとに時系列的に前後する複数の放送用画像データと複数の再送信用画像データとを前記画像データ蓄積手段から更に取得して再生することを特徴とする。
【0023】
請求項6に記載の本発明は、前記オフライン型追比較検証手段が、コマ送り再生、繰り返し再生のうちいずれか1以上を行うことを特徴とする。
【0024】
本発明によれば、コマ送り再生、繰り返し再生のうちいずれか1以上を行うため、エラー判定結果を容易且つ適宜適切に確認することが可能となる。
【0025】
請求項7に記載の本発明は、前記リアルタイム型映像比較監視手段が、前記放送用映像ストリームとして放送されている各放送用画像データの各放送時刻と、前記再送信用映像ストリームとして再送信されている各再送信用画像データの各再送信時刻とから前記それぞれ追い掛けて再生されるまでの遅延時間の最小値を設定しておき、前記比較処理が重い場合には、当該比較処理に要する時間に応じて前記遅延時間を増大して前記追い掛けて再生し、前記比較処理が軽い場合には、前記遅延時間の最小値になるまで当該比較処理に要する処理速度に応じて早送り再生することを特徴とする。
【0026】
請求項8に記載の本発明は、前記リアルタイム型映像比較監視手段が、少なくとも1以上の放送用画像データからなる第1画像群を複数選択すると共に、少なくとも1以上の再送信用画像データからなる第2画像群を複数選択し、前記複数の第1画像群のうちいずれかの第1画像群と前記複数の第2画像群のうちいずれかの第2画像群とを任意に比較して相関度を求め、最も相関度の高い第1画像群と第2画像群とにそれぞれ含まれる放送用画像データと再送信用画像データとを用いて前記比較処理を行うことを特徴とする。
【0027】
請求項9に記載の本発明は、前記リアルタイム型映像比較監視手段が、放送時及び再送信時に付与されている時刻情報の値が最も近い放送用画像データと再送信用画像データとを用いて前記比較処理を行うことを特徴とする。
【0028】
請求項10に記載の本発明は、前記リアルタイム型映像比較監視手段が、前記第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとを更に比較処理時間の短い比較アルゴリズムを用いて第3比較する比較処理を行い、当該第3比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を前記画像比較結果記録手段に記録する、及び/又は、前記第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報と、前記第3比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報との両方を前記画像比較結果記録手段に記録する、ことを特徴とする。
【0029】
請求項11に記載の本発明は、前記放送用映像ストリームは、地上波デジタル放送又はBSデジタル放送の映像ストリームであり、前記再送信用映像ストリームは、当該地上波デジタル放送又は当該BSデジタル放送のうちいずれかの放送の映像ストリームをH.264で圧縮した映像ストリームであって、当該放送に追従して送信されていることを特徴とする。
【0030】
請求項12に記載の本発明は、前記再送信用映像ストリームが、ケーブルテレビで再送信されることを特徴とする。
【0031】
請求項13に記載の本発明は、コンピュータにより、放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを画像データ蓄積手段に蓄積する第1のステップと、前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録する第2のステップと、前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定する第3のステップと、を有することを特徴とする。
【0032】
請求項14に記載の本発明は、コンピュータに、放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを画像データ蓄積手段に蓄積する第1の手順と、前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録する第2の手順と、前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定する第3の手順と、を実行させることを特徴とする。
【0033】
請求項15に記載の本発明は、コンピュータに、放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを画像データ蓄積手段に蓄積する第1の手順と、前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録する第2の手順と、前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定する第3の手順と、を実行させるための映像比較監視プログラムを記録したコンピュータ読み取り可能な記録媒体であることを特徴とする。
【発明の効果】
【0034】
本発明によれば、リアルタイムに比較監視を行い、その結果をオフラインで検証し、比較条件にフィードバックして、2つの映像ストリームを人間の知覚に近いレベルでリアルタイムに比較することができる。
【図面の簡単な説明】
【0035】
【図1】映像比較監視システムの機能ブロック構成を示す図である。
【図2】映像比較監視部で画像データの比較監視を行うまでの処理フローを説明する図である。
【図3】映像比較監視部で画像データの比較監視を行うまでの処理フローを説明する図である。
【図4】相関性のある2つの画像データを時間差をもって取得した場合における画像マッチング処理を説明する図である。
【図5】追比較検証部で相違検出結果を検証するまでの処理フローを説明する図である。
【図6】追比較検証部での比較監視パラメータの変更による動画像の比較検証までの処理フローを説明する図である。
【図7】従来の映像比較監視システムを概略的に示す図である。
【発明を実施するための形態】
【0036】
以下、発明を実施するための一実施の形態について、図面を用いて説明する。
【0037】
図1は、映像比較監視システムの機能ブロック構成を示す図である。この映像比較監視システムは、2つの映像ストリームを収集してリアルタイムで同時に蓄積するデータ蓄積部1と、蓄積された2つの映像ストリームをリアルタイムで比較処理して監視する映像比較監視部3と、映像比較監視部3による比較結果でエラー検知された映像ストリームをオフライン(ノンリアルタイム)で比較検証し、比較監視パラメータを変更してエラー検知の妥当性を追って比較検証する追比較検証部5とで構成されている。以下、これら各機能部の機能及び処理フローを説明した後に、本映像比較監視システムの効果について説明する。
【0038】
データ蓄積部1は、同時記録データA蓄積部11と、同時記録データB蓄積部12とで構成されており、放送されている地上波デジタル放送の映像ストリーム(以下、ストリームAという)をリアルタイムで捕捉して、ストリームAとして流れている複数の放送用画像データを時系列順に同時記録データA蓄積部11に蓄積すると同時に、ストリームAをH.264で圧縮してIP化し、ストリームAの放送に追従してIP再送信されているIP再送信用映像ストリーム(以下、ストリームBという)をリアルタイムで捕捉して、ストリームBとして流れている複数の再送信用画像データを時系列順に同時記録データB蓄積部12に蓄積する機能を有している。
【0039】
また、データ蓄積部1は、リアルタイムに蓄積された放送用画像データと再送信用画像データとを、即時に、映像比較監視部3に送出する機能を有している。さらに、データ蓄積部1は、追比較検証部5からの要求に応じて、蓄積された放送用画像データと再送信用画像データとを追比較検証部5に送出する機能をも有している。
【0040】
次に、映像比較監視部3について説明する。映像比較監視部3は、2つの動画像デコード機能部31,32と、比較処理管理機能部33と、映像比較結果記録部34と、アラーム出力機能部35とで構成されている。
【0041】
動画像デコード機能部31は、同時記録データA蓄積部11に蓄積された全ての放送用画像データを時系列順で読み出して、各放送用画像データをデコード処理し、放送用画像データのストリーミング再生(以下、追い掛け再生という)開始時刻をストリームAの放送時刻に近い実時刻に設定しておき、デコード処理された各放送用画像データを、設定された追い掛け再生開始時刻から再生させる機能を有している。
【0042】
動画像デコード機能部32は、同時記録データB蓄積部12に蓄積された全ての再送信用画像データに対し、追い掛け再生開始時刻をストリームBの再送信時刻に近い実時刻に設定しておき、デコード処理された各再送信用画像データを、設定された追い掛け再生開始時刻から再生させる機能を有している。
【0043】
比較処理管理機能部33は、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ比較し、その比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて比較する比較処理を繰り返し、上記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を映像比較結果記録部34に記録する機能を有している。
【0044】
具体的には、比較条件として複数の比較監視パラメータP1を準備し、その比較監視パラメータP1の閾値を予め設定しておき、第1の比較アリゴリズムを用いて放送用画像データと再送信用画像データとの近似度を計算し(第1比較)、計算された近似度が設定された閾値を超えない場合(又は、相違度が閾値を超える場合。以下同様。)にはエラーとして検知する。その後、エラー検出された放送用画像データと再送信用画像データとの近似度を、第1の比較アルゴリズムの次に処理時間の短い第2の比較アルゴリズム(第1の比較アルゴリズムの処理時間よりも長い処理時間の比較アルゴリズム)を用いて計算し(第2比較)、計算された近似度が上記閾値を超えない場合にはエラーとして検知する。そして、第2比較でエラー検知された放送用画像データと再送信用画像データとの各識別情報を障害画像として比較結果記録部34に記録する。
【0045】
更に、比較処理管理機能部33は、上記第2比較でエラー検出された放送用画像データと再送信用画像データとの近似度を、更に比較処理時間の短い第3の比較アルゴリズム(第2の比較アルゴリズムの処理時間よりも長い処理時間の比較アルゴリズム)を用いて計算し(第3比較)、計算された近似度が上記閾値を超えない場合にはエラーとして検知することも可能である。その場合には、第3比較でエラー検知された放送用画像データと再送信用画像データとの各識別情報を障害画像として比較結果記録部34に記録する。
【0046】
なお、各比較処理が行われる度に、エラー検知された放送用画像データの識別情報と再送信用画像データの識別情報とを映像比較結果記録部34に記録することも可能である。すなわち、第1比較と第2比較と第3比較とでそれぞれエラー検知された全て又は任意の放送用画像データの識別情報と再送信用画像データの識別情報とを比較結果記録部34に記録するようにしてもよい。
【0047】
また、上記第2比較でエラー検出された放送用画像データと再送信用画像データとのみではなく、上記第1比較(又は上記第1比較及び第2比較)でエラー検出された放送用画像データと再送信用画像データとの近似度を、第3の比較アルゴリズムを用いて計算するようにしてもよい。
【0048】
なお、上記比較監視パラメータP1としては、例えば、複数階調の輝度値、濃淡値、彩度値、明度値、テクスチャ等を用いることが可能である。また、上記比較処理は、画像データの全領域ではなく、特定の一領域のみを対象に比較することも可能である。さらに、後段の比較処理では、前段の比較処理でエラー検知した画像データに加えて、時系列的に前後する複数の画像データをデータ蓄積部1から読み出して、読み出された複数の画像データをも合わせて比較処理を行うことも可能である。なお、人間の視覚特性を考慮した比較アルゴリズム、換言すれば、人間の視覚検知に近づけることが可能な映像比較アルゴリズムは既に公知技術であることを明示しておく。
【0049】
映像比較結果記録部34は、比較処理管理機能部33による比較処理の結果、エラー検知された場合(放送用画像データと再送信用画像データとの間に相違箇所があった場合。以下同様。)に、そのエラー検知された放送用画像データと再送信用画像データとの各識別情報を記録する機能を有している。そのような識別情報としては、例えば、各画像データに付与されている画像番号、各画像データに付与されているPTS(Presentation Time Stamp:提示時刻タイムスタンプ)、データ蓄積部1に蓄積された時刻等を一例に挙げることができる。
【0050】
アラーム出力機能部35は、比較処理管理機能部33による比較処理の結果、エラー検知された場合に、比較アルゴリズム毎にレベル分けした音やパトランプ等で外部に通知する機能を有している。
【0051】
次に、追比較検証部5について説明する。追比較検証部5は、映像比較結果指定機能部51と、再生日時指定機能部52と、同時記録データ読出機能部53と、2つの動画像デコード機能部54,55と、比較処理管理機能部56と、追比較監視結果表示機能部57と、ボタン指定機能部58と、比較監視パラメータ調整機能部59と、比較監視パラメータ読出/書込機能部60とで構成されている。
【0052】
映像比較結果指定機能部51は、映像比較監視部3の映像比較結果記録部34から読み込んだ識別情報に基づいて映像比較結果の一覧を生成して画面に表示し、ユーザによって任意の映像比較結果が選択された場合に、その選択された映像比較結果情報を同時記録データ読出機能部53に送信する機能を有している。例えば、「7月15日(水)14:38:41 映像相違エラー」の表示が選択可能に表示される。
【0053】
再生日時指定機能部52は、日時指定再生ボタンを押下可能に表示し、ユーザにより日時指定再生ボタンが押下られ、再生したい動画像の再生開始日時が指定入力された場合に、指定入力された再生開始日時を同時記録データ読出機能部53に送信する機能を有している。
【0054】
同時記録データ読出機能部53は、映像比較結果指定機能部51と、再生日時指定機能部52と、ボタン指定機能部58(詳細は後述する)とから送信された各情報に基づいて、選択されたエラー検知に係る放送用画像データと、指定入力された時間範囲の複数の放送用画像データとをデータ蓄積部1の同時記録データA蓄積部11から読み出して動画像デコード機能部54に送信すると共に、選択されたエラー検知に係る再送信用画像データと、指定入力された時間範囲の複数の再送信用画像データとを同時記録データB蓄積部12から読み出して動画像デコード機能部55に送信する機能を有している。
【0055】
動画像デコード機能部54は、同時記録データ読出機能部53によって送信されたエラー検知対象の放送用画像データを含む複数の放送用画像データをデコード処理し、再生する機能を有している。
【0056】
動画像デコード機能部55は、同時記録データ読出機能部53によって送信されたエラー検知対象の再送信用画像データを含む複数の再送信用画像データをデコード処理し、再生する機能を有している。
【0057】
比較処理管理機能部56は、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ比較し、その比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて比較する比較処理を繰り返す機能を有している。
【0058】
具体的には、映像比較監視部3の比較監視パラメータP1と同様の比較監視パラメータP2を比較条件として準備し、その比較監視パラメータP2の閾値も比較監視パラメータP1の閾値と同様の閾値を設定しておき、第1の比較アリゴリズムを用いて放送用画像データと再送信用画像データとの近似度を計算し(第1比較)、計算された近似度が設定された閾値を超えない場合(又は、相違度が閾値を超える場合。以下同様。)にはエラーとして検知する。その後、エラー検出された放送用画像データと再送信用画像データとの近似度を、第1の比較アルゴリズムよりも処理時間の長い第2の比較アルゴリズムを用いて計算し(第2比較)、計算された近似度が上記閾値を超えない場合にはエラーとして検知する。
【0059】
更に、比較処理管理機能部56は、上記第2比較でエラー検出された放送用画像データと再送信用画像データとの近似度を、更に比較処理時間の短い第3の比較アルゴリズムを用いて計算し(第3比較)、計算された近似度が上記閾値を超えない場合にはエラーとして検知することも可能である。
【0060】
なお、各比較処理が行われる度に、エラー検知結果を後述する追比較監視結果表示機能部57により画面表示させるようにすることも可能である。
【0061】
また、上記第2比較でエラー検出された放送用画像データと再送信用画像データとのみではなく、上記第1比較(又は上記第1比較及び第2比較)でエラー検出された放送用画像データと再送信用画像データとの近似度を、第3の比較アルゴリズムを用いて計算するようにしてもよい。
【0062】
なお、上記比較監視パラメータP2としては、例えば、複数階調の輝度値、濃淡値、彩度値、明度値、テクスチャ等を用いることが可能である。また、上記比較処理は、画像データの全領域ではなく、特定の一領域のみを対象に比較することも可能である。さらに、後段の比較処理では、前段の比較処理でエラー検知した画像データに加えて、時系列的に前後する複数の画像データをデータ蓄積部1から読み出して、読み出された複数の画像データをも合わせて比較処理を行うことも可能である。
【0063】
追比較監視結果表示機能部57は、比較処理管理機能部56によって再生されながら比較処理される放送用画像データと再送信用画像データを画面に表示し、比較処理結果についても識別可能に画面に表示する機能を有している。なお、比較処理結果としてエラー検知された箇所(相違点があった箇所)には、明暗や色付け等が施され、どの比較監視パラメータでエラーを検出したかを画面に同時に表示する。
【0064】
ボタン指定機能部58は、再生ボタン、一時停止ボタン、早送りボタン、巻き戻しボタン、5秒前から再生ボタン、繰り返し再生ボタン等を押下可能に表示し、オペレータ(以下、単にユーザという)により任意のボタンが押下られた場合に、押下られたボタンに係るボタン情報を同時記録データ読出機能部53に送信する機能を有している。なお、同時記録データ読出機能部53は、送信されたボタン情報に応じて動画像デコード機能部54,55の再生処理を制御する。例えば、放送用画像データと再送信用画像データとの再生に対して、一時停止、コマ送り再生、繰り返し再生等の制御が可能となる。
【0065】
比較監視パラメータ調整機能部59は、比較条件として設定される比較監視パラメータP2の閾値の変更の入力を受け付けて、ユーザによって比較監視パラメータP2の閾値が調整された場合に、比較監視パラメータP2の閾値を再設定する機能を有している。すなわち、ユーザによって、放送用画像データと再送信用画像データとを一時停止した状態で、比較監視パラメータP2の閾値として表示されている数値やインジケータ上の設定バーが変更された場合や、各々の比較監視パラメータP2を選択し、画面上で相違箇所として判断させたい/判断させたくない場所をマウスでクリックされた場合に、比較監視パラメータP2の閾値の変更を反映する機能を有している。
【0066】
比較監視パラメータ読出/書込機能部60は、比較条件として映像比較監視部3で管理している比較監視パラメータP1の情報を追比較検証部5で管理している比較監視パラメータP2に反映する機能や、追比較検証部5での追比較検証により変更された比較監視パラメータP2を映像比較監視部3の比較監視パラメータP1に反映する機能を有している。
【0067】
次に、本映像比較監視システムの処理フローについて説明する。まず、図2,図3を用いて、映像比較監視部3で画像データの比較監視を行うまでの処理フローについて説明する。
【0068】
最初に、データ蓄積部1により、放送されているストリームAと再送信されているストリームBとがリアルタイムで捕捉され、ストリームAとして流れる複数の放送用画像データが、各放送用画像データの放送時刻にそれぞれ関連付けられてリアルタイムに同時記録データA蓄積部11に蓄積されると同時に、ストリームBとして流れる複数の再送信用画像データが、各再送信用画像データの再送信時刻にそれぞれ関連付けられてリアルタイムに同時記録データB蓄積部12に蓄積される(S1)。
【0069】
次いで、データ蓄積部1により、リアルタイムに蓄積された複数の放送用画像データと複数の再送信用画像データとが映像比較監視部3に即時に送出され、動画像デコード機能部31により、複数の放送用画像データがデコード処理され、ストリームAの放送に追い掛けて再生されると同時に、動画像デコード機能部32により、複数の再送信用画像データがデコード処理され、ストリームBの再送信に追い掛けて再生される(S2)。
【0070】
次いで、比較処理管理機能部33により、追い掛け再生されている各放送用画像データと各再送信用画像データとを用い、第1の比較アルゴリズムを用いて、各画像データ(各フレーム)の時刻情報(例えば、前述したPTS等)の値が最も近い画像データ同士の近似度が計算される(S3)。
【0071】
次いで、S3での計算の結果、計算された近似度が設定された閾値を超えない場合(画像データ間で相違箇所を検出した場合)には、比較処理管理機能部33により、エラーとして検知されて、エラー検知された放送用画像データの識別情報と再送信用画像データの識別情報とが映像比較結果記録部34に記録され、アラーム出力機能部35により、音やパトランプ等で外部に通知される(S4)。
【0072】
次いで、エラー検知された画像データ同士を対象として、第1の比較アルゴリズムの次に処理時間の短い第2の比較アルゴリズムを用いて、S3とS4との処理が繰り返される(S5)。
【0073】
なお、S2の処理で説明した追い掛け再生は、通常の追い掛け再生又はベストエフォート型追い掛け再生のいずれでもよい。ここで、ベストエフォート型追い掛け再生とは、ストリームAとして放送されている各放送用画像データの各放送時刻と、ストリームBとして再送信されている各再送信用画像データの各再送信時刻とから、データ蓄積部1から送出された各放送用画像データと各再送信用画像データとをそれぞれ追い掛けて再生するまでの遅延時間の最小値を設定しておき、上記S3乃至S5の各比較処理が重い場合には、その比較処理に要する時間に応じて遅延時間を増大して追い掛けて再生を行い、その比較処理が軽い場合には、遅延時間の最小値になるまで当該比較処理に要する処理速度に応じて早送り再生を実施することをいう。また、通常の追い掛け再生とは、各放送時刻又は各再送信時刻からの遅延時間を一定に保持しながら再生することをいう。ベストエフォート型追い掛け再生は、遅延時間の最小値に小さい値を設定しているため、通常の追い掛け再生よりも監視のリアルタイム性を向上することができ、比較アルゴリズムに求められるリアルタイム性(すなわち、必ず一定時間内で処理を終了することができる性能)要件を緩和することが可能となる。
【0074】
また、S3の処理では、各画像データの時刻情報の値が最も近い画像データ同士の近似度を計算するとして説明したが、少なくとも1以上の放送用画像データからなる第1画像群を複数選択すると共に、少なくとも1以上の再送信用画像データからなる第2画像群を複数選択し、複数の第1画像群のうちいずれかの第1画像群と複数の第2画像群のうちいずれかの第2画像群とを任意に比較して相関度を求め、最も相関度の高い第1画像群と第2画像群とにそれぞれ含まれる放送用画像データと再送信用画像データとを用いて近似度を計算するようにしてもよい。
【0075】
例えば、複数の放送用画像データから、時刻n〜時刻n+2の放送用画像データを有する第1a画像群、時刻n+1〜時刻n+3の放送用画像データを有する第1b画像群、時刻n+2〜時刻n+4の放送用画像データを有する第1c画像群を選択する。同様に、複数の再送信用画像データから、時刻m〜時刻m+2の再送信用画像データを有する第2a画像群、時刻m+1〜時刻m+3の再送信用画像データを有する第2b画像群、時刻m+2〜時刻m+4の再送信用画像データを有する第2c画像群を選択する(nは、mと同じであっても異なってもよい)。そして、第1b画像群の平均輝度値に対する第2a画像群〜第2c画像群の各平均輝度値を順次比較していき、最も近い平均輝度値を有する第2画像群(差分輝度値が最も小さい第2画像群)を最も相関度の高い画像群とする。なお、この相関度の計算は、輝度値のみではなく、画像の類似比較処理に用いられる全ての要素(組み合わせを含む)を利用可能であることは言うまでもない。
【0076】
より具体的に、図4を参照しながら説明する。図4は、相関性のある2つの画像データを時間差をもって取得した場合における画像マッチング処理を説明する図である。
【0077】
ストリームA,Bから時刻tの時に取得した放送用画像データ,再送信用画像データをPic(A,t),Pic(B,t)とし、ストリームAとストリームBとには時間差があるものとする。Pic(A,t)にマッチするPic(B,t)を求める場合、Pic(B,t+n)のnの値を1つずつ加算又は減算しながら平均輝度値の差分を計算していき、その差分が最小となるPic(B,t)を最も相関度の高いものとする。
【0078】
但し、ストリームAにおける時刻t+1と時刻t+2との画像データのように、同じ画像が連続する場合もあるため、1つの画像のみで行ったマッチング判定の信頼性は低い。そこで、例えば、図4の下段に示すように、連続する複数の画像データを1つの画像群とし、ストリームAの画像群とストリームBの画像群との輝度差の合計が最小となる画像群を求めるようにしてもよい。
【0079】
続いて、図5を用いて、追比較検証部5で相違検出結果を検証するまでの処理フローについて説明する。
【0080】
最初に、映像比較結果指定機能部51により、映像比較監視部3の映像比較結果記録部34からエラー検知に係る識別情報が取得され、映像比較結果の一覧が生成されて選択可能に画面に表示され、再生日時指定機能部52により、再生したい動画像の再生開始日時が指定入力可能に表示される(S11)。これにより、ユーザによって、確認したい動画像データが選択又は指定されることになる。
【0081】
次いで、同時記録データ読出機能部53により、ユーザによって選択された映像比較結果に対応する、又は指定された時刻情報に対応する、各放送用画像データが同時記録データA蓄積部11から読み出されて動画像デコード機能部54に送信されると共に、各再送信用画像データが同時記録データB蓄積部12から読み出されて動画像デコード機能部55に送信され、各動画像デコード機能部54,55によりデコード処理される(S12)。
【0082】
次いで、各動画像デコード機能部54,55により、比較監視パラメータP2が取り出され、各放送用画像データと各再送信用画像データとがそれぞれ再生されながら、比較処理管理機能部56により、取り出された比較監視パラメータP2を用いて、各放送用画像データと各再送信用画像データとがそれぞれ比較処理される(S13)。なお、比較結果は、追比較監視結果表示機能部57により、エラー検知された箇所(相違点があった箇所)については、明暗や色付け等が施され、どの比較監視パラメータでエラーを検出したかが画面に同時に表示される。これにより、ユーザは、映像比較監視部3によってエラー検知された再送信用画像データにおける放送用画像データとの相違箇所を把握することが可能となる。
【0083】
続いて、図6を用いて、追比較検証部5での比較監視パラメータP2の変更による動画像の比較検証までの処理フローについて説明する。
【0084】
最初に、ユーザによって一時停止ボタンが押下られて放送用画像データと再送信用画像データとが再生後一時停止した状態になった場合に、比較監視パラメータ調整機能部59により、比較条件として設定される比較監視パラメータP2の閾値の変更の入力が受付可能に制御される(S21)。ユーザの視点から説明すると、放送用画像データと再送信用画像データとを再生した後に、一時停止した状態で、比較監視パラメータP2の閾値を変更することが可能となる。
【0085】
次いで、ユーザによって、比較監視パラメータP2の閾値として表示されている数値やインジケータ上の設定バーが変更された場合や、各々の比較監視パラメータP2を選択し、画面上で相違箇所として判断させたい/判断させたくない場所をマウスでクリックされた場合に、比較監視パラメータ調整機能部59により、このような変更に基づいて比較監視パラメータP2の閾値が変更される(S22)。
【0086】
次いで、比較監視パラメータP2の閾値が変更された後、ユーザによって再生ボタンが押下された場合に、動画像デコード機能部54,55により、放送用画像データと再送信用画像データとの再生が再開され、比較処理管理機能部56により、変更後の比較監視パラメータP2の閾値で、再度比較処理される(S23)。
【0087】
なお、再度の比較処理にエラー検知された場合には、比較処理管理機能部56により、追比較検証部5の映像比較結果蓄積部(不図示)に記録され、追比較監視結果表示機能部57により、相違箇所が画面に表示される。
【0088】
また、S22における比較監視パラメータP2の閾値の変更は何回でも可能であり、S23における再度の比較処理は、比較監視パラメータP2の閾値が変更される毎に繰り返し行われ、比較処理結果はその都度画面表示される。
【0089】
続いて、追比較検証部5による映像比較監視部3の比較監視パラメータP1の閾値の変更までの処理フローについて説明する。
【0090】
最初に、追比較検証部5の比較監視パラメータ調整機能部59によって比較監視パラメータP2の閾値が変更され、ユーザによって監視設定ボタン(図5,図6参照)が押下られた場合に、比較監視パラメータ読出/書込機能部60により、変更後の比較監視パラメータP2が読み出され、映像比較監視部3の比較監視パラメータP1が更新される(S31)。
【0091】
次いで、映像比較監視部3により、更新後の比較監視パラメータP2を用いて、上述したS1〜S5の処理が行われる(S32)。
【0092】
本実施の形態によれば、放送用画像データの追い掛け再生開始時刻をストリームAの放送時刻に近い実時刻に設定し、再送信用画像データの追い掛け再生開始時刻をストリームBの再送信時刻に近い実時刻に設定しているので、リアルタイムでの監視を実現が可能であり、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ比較し、その比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて比較するので、リアルタイムでの監視を実現しながら、人間の視聴感覚に近づけるような複数の比較処理をリアルタイム監視向けに短時間で実現することが可能となる。
【0093】
本実施の形態によれば、オフライン型の追比較検証部5で監視結果を閲覧する際には、リアルタイム型の映像比較監視部3での比較監視結果に対応する画像データをデータ蓄積部1から取得するので、リアルタイム型の映像比較監視部3とオフライン型の追比較検証部5との間で、対象となる画像データの時間ズレや検出結果の差異等の発生を防止することが可能となる。
【0094】
本実施の形態によれば、オフライン型の追比較検証部5で映像比較監視部3での監視結果を検証する際において、再生ボタン、一時停止ボタン、早送りボタン、巻き戻しボタン、5秒前から再生ボタン等のいずれかのボタンがユーザにより押下られた場合に、押下られたボタン情報に応じて放送用画像データと再送信用画像データとを制御するため、画面上で相違箇所を閲覧しつつ、エラー判定結果を容易且つ適宜適切に確認することが可能となり、人間の視聴感覚に基づいて変更(調整)された比較監視パラメータP2が比較監視パラメータP1に反映されるので、映像比較監視部3における以降のリアルタイム監視を、より人間の視聴感覚に近いものにすることが可能となる。
【0095】
本実施の形態によれば、人間の主観に依存する比較監視パラメータを試行錯誤しながら調整可能な環境の実現が可能となり、比較監視パラメータの調整作業に要する時間を大幅に削減することが可能となる。また、試行錯誤しながら比較監視パラメータの調整を行う作業に時間がかかり過ぎるために比較監視パラメータの調整機能が実質的に利用されないといった事態を防止することが可能となる。
【0096】
本実施の形態によれば、放送用画像データと再送信用画像データとが保存されているので、一時的に比較処理が遅れた場合や、動画像デコーダ等の障害により比較処理に瞬断が発生した場合でも、後から追い掛け再生し、実時刻に追いついて監視欠落部分を無くすことが可能である。また、リアルタイム処理が困難な複雑な比較処理に関しても、時間差は生じるものの、欠落部分なく監視することが可能となるので、動画像デコーダ等の安定性や比較アルゴリズムの処理速度についての要求レベルが下がり、様々な動画像デコーダや比較アルゴリズムが利用可能となる。
【0097】
本実施の形態によれば、放送用画像データと再送信用画像データとが保存されているので、データ蓄積部1と、映像比較監視部3と、追比較検証部5とを各々あらかじめ独立させておくことにより、監視欠落期間なく各機能部単位で交換が可能となるので、保守運用時の作業面の負担だけではなく、映像比較監視部3と追比較検証部5との冗長化設計における費用面の負担も軽減される。
【0098】
本実施の形態によれば、映像配信事業者は、配信する映像の同時録画装置を利用していることが多く、その同時録画装置がデータ蓄積部1と同等の機能を有する場合には、新たにデータ蓄積部1を導入する必要がなく、既存のリソースを有効活用した効率のよい映像比較監視システムの構築が可能となる。
【0099】
本実施の形態によれば、2つの映像ストリームに時差が存在する場合であっても、その2つの映像ストリームの比較対象画像データのマッチングができる前提で、保存されている画像データから比較監視することが可能であるため、例えば、国内時差が存在する国等での映像配信や、地域間配信における番組編成上発生する時差放送においても有効である。
【0100】
本実施の形態によれば、オフライン比較における比較監視パラメータの変更に対して、発生する映像比較結果ログ量の増減も調整することが可能となり、オペレータが対応しきれないほど相違検出が頻発した場合など、比較監視の比較監視パラメータを変更し、障害検知レベルを保ちながら、実質的に対応可能な検出量に抑えるといった、障害検知レベルと運用作業量とのバランス調整が容易となる。
【0101】
なお、追比較検証部5の動画像デコード機能部54,55として、異なる複数のデコーダを用いることにより、デコーダの性能によって比較結果の差異を確認するようにしてもよい。また、追比較検証部5の比較処理管理機能部56に新たな比較アルゴリズムを導入し、既存の比較アルゴリズムとの性能差の検証や比較監視パラメータP2の調整を、映像比較監視部3に反映する前に実施するようにしてもよい。更に、データ蓄積部1と、映像比較監視部3と、追比較検証部5とは、それぞれ異なる場所に存在してもよいし、比較監視パラメータ数を変更(増加減)することも可能である。
【0102】
なお、本実施の形態では、地上波デジタル放送の映像ストリーム(ストリームA)と、ストリームAをH.264で圧縮してIP化し、ストリームAの放送に追従してIP再送信されているIP再送信用映像ストリーム(ストリームB)との映像を監視する場合について説明したが、地上波デジタル放送以外で放送されている映像を監視する場合についても、本映像比較監視システムを利用可能であることはいうまでもない。例えば、ストリームAを、BSデジタル放送やCSデジタル放送としてもよいし、ストリームBを、地上波,BS,CSデジタル放送のIP再送信としてもよい。また、ストリームAやストリームBとして放送又は再送信される映像は、ケーブルテレビで放送又は再送信されるものであってもよい。
【0103】
最後に、本実施の形態で説明した映像比較監視システムは、コンピュータで構成され、各機能部の各処理はプログラムで実行されるようになっている。また、上記各処理動作をプログラムとして例えばコンパクトディスクやフロッピー(登録商標)ディスク等の記録媒体に記録して、この記録媒体をコンピュータに組み込んだり、若しくは記録媒体に記録されたプログラムを、任意の通信回線を介してコンピュータにダウンロードしたり、又は記録媒体からインストールし、該プログラムでコンピュータを動作させることにより、上述した各処理動作を映像比較監視システムとして機能させることができるのは勿論である。
【0104】
また、同時記録データA蓄積部11、同時記録データB蓄積部12、映像比較結果記録部34としては、例えば、一次メモリや二次メモリ、ハードディスク、更には通信ネットワークを介して電気的に接続可能な外部の記憶装置を用いて実現可能である。
【符号の説明】
【0105】
1…データ蓄積部(画像データ蓄積手段)
11…同時記録データA蓄積部
12…同時記録データB蓄積部
3…映像比較監視部(リアルタイム型映像比較監視手段)
31,32…動画像デコード機能部
33…比較処理管理機能部
34…映像比較結果記録部
35…アラーム出力機能部
5…追比較検証部(オフライン型追比較検証手段)
51…映像比較結果指定機能部
52…再生日時指定機能部
53…同時記録データ読出機能部
54,55…動画像デコード機能部
56…比較処理管理機能部
57…追比較監視結果表示機能部
58…ボタン指定機能部
59…比較監視パラメータ調整機能部
60…比較監視パラメータ読出/書込機能部
S1〜S5…ステップ
S11〜S13…ステップ
S21〜S23…ステップ
S31〜S32…ステップ

【特許請求の範囲】
【請求項1】
放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを蓄積する画像データ蓄積手段と、
前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録するリアルタイム型映像比較監視手段と、
前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定するオフライン型追比較検証手段と、
を有することを特徴とする映像比較監視システム。
【請求項2】
前記比較は、前記放送用画像データと前記再送信用画像データとの近似度又は相違度の比較であることを特徴とする請求項1に記載の映像比較監視システム。
【請求項3】
前記オフライン型追比較検証手段は、
比較される前記放送用画像データ及び前記再送信用画像データと前記比較の結果とを表示する表示手段と、前記比較条件として設定されるパラメータの値の変更の入力を受け付ける変更入力受付手段と、を有し、
前記パラメータの値は、
前記表示手段に表示された前記比較の結果に基づいて、前記変更入力受付手段で入力が受け付けられたユーザによって変更された値であることを特徴とする請求項1又は2に記載の映像比較監視システム。
【請求項4】
前記オフライン型追比較検証手段は、
前記パラメータの値が変更される毎に、前記比較を行って当該比較の結果を表示することを特徴とする請求項3に記載の映像比較監視システム。
【請求項5】
前記オフライン型追比較検証手段は、
比較される前記放送用画像データと前記再送信用画像データとに時系列的に前後する複数の放送用画像データと複数の再送信用画像データとを前記画像データ蓄積手段から更に取得して再生することを特徴とする請求項1乃至4のいずれか1項に記載の映像比較監視システム。
【請求項6】
前記オフライン型追比較検証手段は、
コマ送り再生、繰り返し再生のうちいずれか1以上を行うことを特徴とする請求項5に記載の映像比較監視システム。
【請求項7】
前記リアルタイム型映像比較監視手段は、
前記放送用映像ストリームとして放送されている各放送用画像データの各放送時刻と、前記再送信用映像ストリームとして再送信されている各再送信用画像データの各再送信時刻とから前記それぞれ追い掛けて再生されるまでの遅延時間の最小値を設定しておき、前記比較処理が重い場合には、当該比較処理に要する時間に応じて前記遅延時間を増大して前記追い掛けて再生し、前記比較処理が軽い場合には、前記遅延時間の最小値になるまで当該比較処理に要する処理速度に応じて早送り再生することを特徴とする請求項1乃至6のいずれか1項に記載の映像比較監視システム。
【請求項8】
前記リアルタイム型映像比較監視手段は、
少なくとも1以上の放送用画像データからなる第1画像群を複数選択すると共に、少なくとも1以上の再送信用画像データからなる第2画像群を複数選択し、前記複数の第1画像群のうちいずれかの第1画像群と前記複数の第2画像群のうちいずれかの第2画像群とを任意に比較して相関度を求め、最も相関度の高い第1画像群と第2画像群とにそれぞれ含まれる放送用画像データと再送信用画像データとを用いて前記比較処理を行うことを特徴とする請求項1乃至7のいずれか1項に記載の映像比較監視システム。
【請求項9】
前記リアルタイム型映像比較監視手段は、
放送時及び再送信時に付与されている時刻情報の値が最も近い放送用画像データと再送信用画像データとを用いて前記比較処理を行うことを特徴とする請求項1乃至7のいずれか1項に記載の映像比較監視システム。
【請求項10】
前記リアルタイム型映像比較監視手段は、
前記第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとを更に比較処理時間の短い比較アルゴリズムを用いて第3比較する比較処理を行い、当該第3比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を前記画像比較結果記録手段に記録する、及び/又は、
前記第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報と、前記第3比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報との両方を前記画像比較結果記録手段に記録する、
ことを特徴とする請求項1乃至9のいずれか1項に記載の映像比較監視システム。
【請求項11】
前記放送用映像ストリームは、地上波デジタル放送又はBSデジタル放送の映像ストリームであり、
前記再送信用映像ストリームは、当該地上波デジタル放送又は当該BSデジタル放送のうちいずれかの放送の映像ストリームをH.264で圧縮した映像ストリームであって、当該放送に追従して送信されていることを特徴とする請求項1乃至10のいずれか1項に記載の映像比較監視システム。
【請求項12】
前記再送信用映像ストリームは、
ケーブルテレビで再送信されることを特徴とする請求項11に記載の映像比較監視システム。
【請求項13】
コンピュータにより、
放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを画像データ蓄積手段に蓄積する第1のステップと、
前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録する第2のステップと、
前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定する第3のステップと、
を有することを特徴とする映像比較監視方法。
【請求項14】
コンピュータに、
放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを画像データ蓄積手段に蓄積する第1の手順と、
前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録する第2の手順と、
前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定する第3の手順と、
を実行させることを特徴とする映像比較監視プログラム。
【請求項15】
コンピュータに、
放送されている放送用映像ストリームを捕捉し、前記放送用映像ストリームとして流れる複数の放送用画像データを蓄積すると共に、前記放送用映像ストリームを圧縮して再送信されている再送信用映像ストリームを捕捉し、前記再送信用映像ストリームとして流れる複数の再送信用画像データを画像データ蓄積手段に蓄積する第1の手順と、
前記複数の放送用画像データと前記複数の再送信用画像データとを前記画像データ蓄積手段からそれぞれ読み出して、前記放送用映像ストリームの放送と前記再送信用映像ストリームの再送信とにそれぞれ追い掛けて再生し、人間の視覚特性を考慮した複数の比較アルゴリズムのうち、比較処理時間の短い比較アルゴリズムを用いて各放送用画像データと各再送信用画像データとをそれぞれ第1比較し、当該第1比較の結果、予め設定された比較条件に合致しない放送用画像データと再送信用画像データとを次に比較処理時間の短い比較アルゴリズムを用いて第2比較する比較処理を行い、当該第2比較の結果、前記比較条件に合致しない放送用画像データと再送信用画像データとの各識別情報を画像比較結果記録手段に記録する第2の手順と、
前記画像比較結果記録手段から前記各識別情報を読み出して、当該各識別情報にそれぞれ対応する放送用画像データと再送信用画像データとを前記画像データ蓄積手段から取得し、前記複数の比較アルゴリズムのうちいずれか1以上を用いて当該放送用画像データと当該再送信用画像データとを比較し、当該比較の結果に基づいて前記比較条件を変更して、変更後の比較条件を前記リアルタイム型映像比較監視手段の比較条件に設定する第3の手順と、
を実行させるための映像比較監視プログラムを記録したコンピュータ読み取り可能な映像比較監視プログラム用記録媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2011−244278(P2011−244278A)
【公開日】平成23年12月1日(2011.12.1)
【国際特許分類】
【出願番号】特願2010−115611(P2010−115611)
【出願日】平成22年5月19日(2010.5.19)
【出願人】(500197143)株式会社NTTぷらら (4)
【出願人】(398035604)株式会社トラフィック・シム (8)
【出願人】(399035766)エヌ・ティ・ティ・コミュニケーションズ株式会社 (321)
【Fターム(参考)】