説明

蓄積型放送受信装置および要約映像再生プログラム

【課題】放送番組の要約映像を再生することが可能な蓄積型放送受信装置を提供する。
【解決手段】蓄積型放送受信装置1は、放送番組の映像データから、サンプリングしたフレーム画像ごとに画像特徴量を生成する特徴量生成手段20と、画像特徴量を記憶する記憶手段30と、視聴者が選択した映像データの画像特徴量とそれ以外の映像データの要約映像時間分の映像区間の画像特徴量との類似度に基づいて、視聴者が選択した映像データの要約映像となる映像区間を特定する要約映像特定手段60と、を備えていることを特徴とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、蓄積した複数の放送番組の映像データから、視聴者が所望する放送番組の要約映像を検索して再生する蓄積型放送受信装置および要約映像再生プログラムに関する。
【背景技術】
【0002】
近年、ハードディスク等の大容量の記憶装置を備え、放送番組の映像データを蓄積(記憶)し、その蓄積された映像データの中から、視聴者が所望する映像データを検索して再生する蓄積型放送受信装置が普及してきている。
このような蓄積型放送受信装置では、映像データを検索する際に、視聴者が、番組名やその内容を簡単に記述したテキストデータだけではなく、映像を実際に見て選択の判断基準としたいという要望がある。しかし、放送番組の映像データをそのまま再生したのでは、大量の映像データの中から視聴者が所望する映像データを検索するのに時間がかかるという問題がある。
【0003】
そこで、放送番組とは別に当該放送番組のダイジェスト映像(要約映像)を作成しておき、放送番組とダイジェスト映像とを対応付けて、放送番組を検索する際に、放送番組のダイジェスト映像を再生することで、放送番組の検索の補助を行う技術が開示されている(特許文献1,2参照)。
【0004】
特許文献1に開示されている技術によれば、送信装置において、予め作成されたダイジェスト映像を、当該ダイジェスト映像と放送番組とを対応付けた番組ガイド情報とともに、放送信号に多重化する。そして、受信装置において、番組ガイド情報を参照して、放送番組に対応するダイジェスト映像を再生することで、ダイジェスト映像による放送番組の検索を可能にしている。
【0005】
また、特許文献2に開示されている技術によれば、予め作成されたダイジェスト映像を、コンテンツサーバに蓄積しておき、放送番組に対するダイジェスト映像の所在をURL(Uniform Resource Locator)で受信装置に通知する。そして、受信装置において、URLを放送番組に対応するダイジェスト映像をコンテンツサーバから取得し再生することで、ダイジェスト映像による放送番組の検索を可能にしている。
【0006】
【特許文献1】特開2002−344858号公報
【特許文献2】特開2004−304430号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
前記した従来の技術によれば、視聴者は、ダイジェスト映像を再生することで、所望の放送番組を、実際に映像を見て検索することが可能になる。
しかし、従来の技術では、放送番組の提供者(放送事業者等)は、予め放送番組を検索するためだけに使用するダイジェスト映像を作成しなければならず、その作成に手間と費用がかかるという問題がある。
【0008】
また、従来の技術によれば、放送番組の提供者によって、予め放送番組とダイジェスト映像とを対応付けた番組ガイド情報やURLを作成しておく必要がある。この放送番組とダイジェスト映像との対応付けは、人手を介して行う必要があるため、大量の放送番組にダイジェスト映像を対応付けるには非常に多くの手間がかかるという問題がある。
また、従来の技術によれば、ダイジェスト映像を、放送波や通信回線を介して受信装置に伝送する必要があるため、放送波や通信回線の伝送帯域を圧迫してしまうという問題がある。
【0009】
本発明は、以上のような課題を解決するためになされたものであり、放送番組の提供者が、放送番組を検索するためだけに使用するダイジェスト映像や、放送番組とダイジェスト映像とを対応付けた番組ガイド情報等を作成することなく、受信装置において、放送番組のダイジェスト映像(要約映像)を再生することが可能な蓄積型放送受信装置および要約映像再生プログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明は、前記目的を達成するために創案されたものであり、まず、請求項1に記載の蓄積型放送受信装置は、放送番組の映像データと前記放送番組の時間情報を含んだ番組情報データとを映像データ記憶手段に記憶し、前記放送番組を再生する蓄積型放送受信装置において、サンプリング手段と、特徴量算出手段と、特徴量記憶手段と、リスト生成手段と、番組映像特徴量抽出手段と、要約映像候補特徴量抽出手段と、類似度算出手段と、要約映像区間特定手段と、要約映像再生手段と、を備える構成とした。
【0011】
かかる構成において、蓄積型放送受信装置は、サンプリング手段によって、映像データを所定のフレーム間隔でサンプリングする。そして、蓄積型放送受信装置は、特徴量算出手段によって、サンプリングされたフレーム画像ごとに画像特徴量を算出して、映像データと対応付けて特徴量記憶手段に記憶する。これによって、蓄積型放送受信装置は、映像データが時間経過とともに変化する特徴量を抽出することができ、当該特徴量は、映像データを特定するための情報として使用することができる。
【0012】
また、蓄積型放送受信装置は、リスト生成手段によって、番組情報データを参照することで、映像データ記憶手段に記憶されている映像データのリストを生成する。これによって、視聴者は、リストから放送番組(映像データ)を選択することができる。
そして、蓄積型放送受信装置は、番組映像特徴量抽出手段によって、リストにおいて視聴者が選択した映像データの画像特徴量を、特徴量記憶手段から読み出す。
【0013】
また、蓄積型放送受信装置は、要約映像候補特徴量抽出手段によって、リストにおいて視聴者が選択した映像データ以外の映像データのうちで、予め定めた要約映像時間分の映像区間の画像特徴量を、特徴量記憶手段から順次読み出す。これによって、要約映像の候補となる映像区間の画像特徴量が、特徴量記憶手段から順次読み出されることになる。
【0014】
そして、蓄積型放送受信装置は、類似度算出手段によって、番組映像特徴量抽出手段で読み出された画像特徴量と、要約映像候補特徴量抽出手段で順次読み出された画像特徴量との類似度を算出する。これによって、蓄積型放送受信装置は、視聴者が選択した映像データと、要約映像の候補とが、類似しているか否かを判定することが可能になる。
【0015】
さらに、蓄積型放送受信装置は、要約映像区間特定手段によって、類似度算出手段で算出された類似度に基づいて、視聴者が選択した映像データに最も類似する要約映像時間分の映像区間を特定する。これによって、視聴者が選択した映像データに対応する要約映像が特定されることになる。
そして、蓄積型放送受信装置は、要約映像再生手段によって、要約映像区間特定手段で特定された映像区間の映像データを映像データ記憶手段から読み出して再生する。これによって、視聴者が選択した映像データに対応する要約映像が再生されることになる。
【0016】
また、請求項2に記載の蓄積型放送受信装置は、請求項1に記載の蓄積型放送受信装置において、放送番組の映像データは、番組情報データが付加された放送番組の実体である第1映像データと、番組情報データが付加されていない第2映像データとで構成され、要約映像候補特徴量抽出手段が、第2映像データに対応する画像特徴量から、要約映像時間分の映像区間の画像特徴量を抽出する構成とした。
【0017】
かかる構成において、蓄積型放送受信装置は、番組情報データが付加されていない第2映像データ(非放送番組)において、要約映像を検索し、放送番組の宣伝用に放送されたスポット映像を要約映像として特定することができる。
【0018】
さらに、請求項3に記載の蓄積型放送受信装置は、請求項1に記載の蓄積型放送受信装置において、放送番組の映像データは、番組情報データが付加された放送番組の実体である第1映像データと、番組情報データが付加されていない第2映像データとで構成され、要約映像候補特徴量抽出手段が、第1映像データに対応する画像特徴量において、番組情報データで特定される終了時刻より所定時間遡った時間から、要約映像時間分の映像区間の画像特徴量を抽出する構成とした。
【0019】
かかる構成において、蓄積型放送受信装置は、番組情報データが付加されている第1映像データ(放送番組)において、放送番組の最後の所定時間分の映像から要約映像を検索し、放送番組の予告として放送されたスポット映像を要約映像として特定することができる。
【0020】
また、請求項4に記載の要約映像再生プログラムは、放送番組の映像データと前記放送番組の時間情報を含んだ番組情報データとを映像データ記憶手段に記憶し、前記放送番組を再生する蓄積型放送受信装置において、視聴者が選択した放送番組の要約映像を再生するために、コンピュータを、サンプリング手段、特徴量算出手段、リスト生成手段、番組映像特徴量抽出手段、要約映像候補特徴量抽出手段、類似度算出手段、要約映像区間特定手段、要約映像再生手段、として機能させる構成とした。
【0021】
かかる構成において、要約映像再生プログラムは、サンプリング手段によって、映像データを所定のフレーム間隔でサンプリングする。そして、要約映像再生プログラムは、特徴量算出手段によって、サンプリングされたフレーム画像ごとに画像特徴量を算出して、映像データと対応付けて特徴量記憶手段に記憶する。
また、要約映像再生プログラムは、リスト生成手段によって、番組情報データを参照することで、映像データ記憶手段に記憶されている映像データのリストを生成する。
【0022】
そして、要約映像再生プログラムは、番組映像特徴量抽出手段によって、リストにおいて視聴者が選択した映像データの画像特徴量を、特徴量記憶手段から読み出す。
また、要約映像再生プログラムは、要約映像候補特徴量抽出手段によって、リストにおいて視聴者が選択した映像データ以外の映像データのうちで、予め定めた要約映像時間分の映像区間の画像特徴量を、特徴量記憶手段から順次読み出す。
そして、要約映像再生プログラムは、類似度算出手段によって、番組映像特徴量抽出手段で読み出された画像特徴量と、要約映像候補特徴量抽出手段で順次読み出された画像特徴量との類似度を算出する。
【0023】
さらに、要約映像再生プログラムは、要約映像区間特定手段によって、類似度算出手段で算出された類似度に基づいて、視聴者が選択した映像データに最も類似する要約映像時間分の映像区間を特定する。
そして、要約映像再生プログラムは、要約映像再生手段によって、要約映像区間特定手段で特定された映像区間の映像データを映像データ記憶手段から読み出して再生する。
【発明の効果】
【0024】
請求項1,4に記載の発明によれば、蓄積型放送受信装置は、蓄積された放送番組から所望の放送番組を検索する際に、要約映像を見て検索を行うことができるため、放送番組の映像を順次見て検索を行う場合に比べて、高速に検索を行うことができる。また、本発明によれば、蓄積型放送受信装置において、蓄積されている映像データから要約映像を抽出するため、放送番組の提供者が、放送番組を検索するためだけに使用する要約映像(ダイジェスト映像)や、放送番組と要約映像とを対応付けた番組ガイド情報等を作成する必要がなく、また、提供者側の人手を介さずに要約映像を再生することができる。さらに、本発明によれば、検索を行うためだけに使用する要約映像を、放送波や通信回線を介して配信する必要がないため、放送波や通信回線の伝送帯域を圧迫することがない。
【0025】
請求項2に記載の発明によれば、蓄積型放送受信装置は、番組情報データが付加されていない非放送番組において、要約映像を検索し、放送番組の宣伝用に放送されたスポット映像を要約映像として特定することができる。このように、本発明は、非放送番組において要約映像を検索するため、放送番組全体から要約映像を検索するのに比べて、高速に要約映像を検索することができる。
【0026】
請求項3に記載の発明によれば、蓄積型放送受信装置は、番組情報データが付加されている放送番組の最後の所定時間分の映像において、要約映像を検索し、放送番組の予告用に放送されたスポット映像を要約映像として特定することができる。このように、本発明は、放送番組において所定時間の映像区間で要約映像を検索するため、放送番組全体から要約映像を検索するのに比べて、高速に要約映像を検索することができる。
【発明を実施するための最良の形態】
【0027】
以下、本発明の実施の形態について図面を参照して説明する。
[本発明の概要]
まず、図1を参照して、本発明の概要について説明する。図1は、番組編成の内容を説明するための模式図である。
図1(a)では、2007年○月○日の11時00分に、ある放送番組(本放送A)が放送され、11時54分に放送番組が終了するタイムテーブルを示している。
また、図1(b)では、2007年△月△日の16時00分に、ある放送番組(本放送B)が放送され、16時24分に放送番組が終了するタイムテーブルを示している。
このような放送番組の開始時刻、終了時刻等は、通常、番組情報データ(EPG〔電子番組ガイド〕等)として配信される。
【0028】
一方、番組情報データとして通知されないコマーシャル等の非放送番組も、放送番組(第1映像データ)の間に放送されている。例えば、本放送Aの後の11時54分〜12時00分、本放送Bの後の16時24分〜16時30分の時間に非放送番組(第2映像データ)が放送されている。
この非放送番組には、放送番組の番組宣伝のために放送番組の内容を要約したスポット映像が含まれている場合がある。例えば、本放送Aの後に含まれるスポット映像Xは、本放送Bの要約映像となっている場合がある。また、放送番組には、本放送の最後に予告映像を含んでいる場合もある(図示せず)。
【0029】
このようなスポット映像は、放送番組の映像データの一部で構成されているものであるため、画像特徴が放送番組の映像データと類似するフレーム画像が含まれている。
そこで、本発明に係る蓄積型放送受信装置は、放送番組(非放送番組を含む)を蓄積し、視聴者が放送番組を検索する際に、放送番組の本放送に類似するスポット映像を、当該放送番組の要約映像として再生する。これによって、視聴者は、要約映像によって、視聴したい放送番組を検索することが可能になる。
【0030】
[蓄積型放送受信装置の構成]
次に、図2を参照して、本発明の実施形態に係る蓄積型放送受信装置の構成について説明する。図2は、本発明の実施形態に係る蓄積型放送受信装置の構成を示すブロック図である。
【0031】
蓄積型放送受信装置1は、放送番組の映像データ(音声を含む)を蓄積し、視聴者が当該放送番組を視聴したいときに再生を行う蓄積型の放送受信装置である。ここでは、蓄積型放送受信装置1は、再生した映像データを表示するための表示装置2を外部に接続し、リモコン装置3によって操作されるものとする。
また、蓄積型放送受信装置1は、視聴者が視聴したい放送番組を検索する際に、映像データの要約となる要約映像を再生することで、視聴者の検索を補助する機能を付加している。
以下、蓄積型放送受信装置1の各構成について個々に説明を行う。
【0032】
図2に示すように、蓄積型放送受信装置1は、受信手段10と、特徴量生成手段20と、記憶手段30と、要約映像特定手段40と、検索リスト提示手段50と、映像再生手段60とを備えている。
【0033】
受信手段10は、放送波を介して配信される放送番組(非放送番組を含む)の映像データや、電子番組ガイド(EPG:Electric Program Guide)等の番組情報データを受信するものである。この受信手段10は、受信した映像データや番組情報データを、放送番組ごとにファイルデータ(映像ファイルデータ)として記憶手段30に書き込む。これによって、映像データは記憶手段30に蓄積されることになり、いつでも再生を行うことが可能になる。また、リアルタイムで映像データを再生する場合、受信手段10は、映像データを映像再生手段60に出力する。なお、受信手段10は、図示を省略した録画手段を備え、リモコン装置3によって録画が指示された場合のみ、受信した映像データを記憶手段30に書き込む。あるいは、録画予約時間に達した段階で、映像データを記憶手段30に書き込む。
【0034】
また、受信手段10は、映像データ等を記憶手段30に書き込んだ後、書き込みが完了した旨を特徴量生成手段20に通知することとする。
なお、ここでは、受信手段10は、放送波を介して、放送番組の映像データを受信することとしたが、例えば、通信回線を介して配信される映像データを受信するものであってもよい。
【0035】
特徴量生成手段20は、記憶手段30に記憶されている映像データの特徴量を生成するものである。ここでは、特徴量生成手段20は、サンプリング手段21と、特徴量算出手段22とを備えている。
【0036】
サンプリング手段21は、記憶手段30に記憶されている映像データを所定のフレーム間隔でサンプリングするものである。例えば、サンプリング手段21は、10フレーム間隔で映像データのフレーム画像を抽出する。このサンプリング手段21でサンプリングされたフレーム画像は、サンプリング時刻とともに、特徴量算出手段22に出力される。
【0037】
特徴量算出手段22は、サンプリング手段21でサンプリングされたフレーム画像ごとに画像特徴量を算出するものである。この画像特徴量は、画像処理の分野で一般的に用いられるものであればよく、例えば、フレーム画像の全画素のRGBまたはHSVの平均値ベクトル、フレーム画像全体の輝度ヒストグラム、フレーム画像をエッジ化したときのエッジ方向ヒストグラム、あるいは、フレーム画像の複雑さを示すフラクタル次元等を、画像特徴量とすることができる。
【0038】
ここでは、特徴量算出手段22は、複数の画像特徴量を算出し、画像特徴ベクトルとして、フレーム画像の画像特徴量を表現することとする。すなわち、特徴量算出手段22は、フレーム画像から、m個の画像特徴量(v,v,…,v)を算出し、m次元の画像特徴ベクトルV=[v,v,…,v]を生成することとする。
なお、特徴量算出手段22は、算出した画像特徴量(画像特徴ベクトルV)を、映像データを特定する識別子、サンプリング時刻とともに、記憶手段30に書き込む。
【0039】
記憶手段(映像データ記憶手段、特徴量記憶手段)30は、受信手段10で受信した映像データと、特徴量生成手段20で生成される映像データの特徴量(フレーム画像ごとの画像特徴量)とを記憶するものであって、ハードディスク等の一般的な記憶装置である。
この記憶手段30に記憶されている映像データや画像特徴量は、要約映像特定手段40、検索リスト提示手段50および映像再生手段60によって参照される。
【0040】
ここで、図3を参照(適宜図2参照)して、記憶手段30に記憶されるデータ内容について具体的に説明する。図3は、本発明の実施形態に係る蓄積型放送受信装置の記憶手段に記憶されるデータのデータ構造を模式的に示す構造図である。
図3に示すように、記憶手段30は、記憶領域として、映像ファイルデータ記憶領域31と、フレーム画像特徴量構造体記憶領域32とに区分されている。
【0041】
映像ファイルデータ記憶領域(映像データ記憶手段)31は、映像ファイル識別子IDと、映像データDと、番組情報データPとからなる映像ファイルデータ31aを記憶する領域である。この映像ファイルデータ31aは、受信手段10によって書き込まれる。
【0042】
映像ファイル識別子IDは、当該映像ファイルデータ31aを識別するための固有の識別情報であって、例えば、固有の数値、ファイル名等である。
映像データDは、放送番組の実体であって、映像のデジタルデータである。例えば、この映像データDは、MPEG−2等で符号化されたデジタル符号化データである。
【0043】
番組情報データPは、放送局等から配信される電子番組ガイド(EPG)等の放送番組の映像区間(開始時刻、終了時刻等)を示すデータである。なお、この番組情報データPは、放送番組の本放送の映像区間にのみ付加されるデータであって、コマーシャル映像等の非番組映像区間には付加されていない。本実施形態においては、この非番組映像区間に挿入されているスポット映像を、要約映像として利用することとする。
【0044】
フレーム画像特徴量構造体記憶領域(特徴量記憶手段)32は、画像特徴量Vと、映像ファイル識別子IDと、サンプリング時刻Tとを構造体の要素として有するフレーム画像特徴量構造体32aを記憶する領域である。このフレーム画像特徴量構造体32aは、特徴量生成手段20によって書き込まれる。
【0045】
画像特徴量Vは、映像ファイルデータ記憶領域31に記憶されている映像ファイルデータ31aの映像データDを所定のフレーム間隔でサンプリングしたフレーム画像の特徴量である。ここでは、フレーム画像ごとに、m次元の画像特徴ベクトルV=[v,v,…,v]が画像特徴量として記憶される。
【0046】
映像ファイル識別子IDは、当該フレーム画像特徴量構造体32aが、どの映像ファイルデータ31aの特徴量であるのかを示す識別情報であって、対応する映像ファイルデータ31aの映像ファイル識別子IDと同一の識別子を示す。
【0047】
サンプリング時刻Tは、当該フレーム画像特徴量構造体32aに対応するフレーム画像が、映像ファイルデータ31aのどのサンプリング時刻のフレーム画像であるのかを示す時刻情報である。このサンプリング時刻Tは、映像データDのタイムコード(時:分:秒:フレーム)であってもよいし、映像データDの先頭フレーム画像から番号付けされたフレーム番号であってもよい。
【0048】
なお、ここでは、映像ファイルデータ31aと、フレーム画像特徴量構造体32aとを、記憶手段30の異なる記憶領域に区分して記憶することとしたが、映像ファイルデータ31aと、フレーム画像特徴量構造体32aとを別々の記憶手段(映像データ記憶手段、特徴量記憶手段:図示せず)に記憶することとしてもよい。
図2に戻って、蓄積型放送受信装置1の構成について説明を続ける。
【0049】
要約映像特定手段40は、後記する検索リスト提示手段50から、視聴者が選択した放送番組の映像データを特定する識別情報(映像ファイル識別子)を入力し、当該映像データに対する要約映像を記憶手段30において検索し、その映像区間(要約映像区間)を特定するものである。ここでは、要約映像特定手段40は、特徴量抽出手段41と、類似度算出手段42と、要約映像区間特定手段43とを備えている。
【0050】
特徴量抽出手段41は、視聴者が選択した放送番組の映像データの画像特徴量と、当該映像データ以外の映像データ(非番組映像データ)の予め定めた要約映像分の映像区間の画像特徴量とを抽出するものである。ここでは、特徴量抽出手段41は、番組映像特徴量抽出手段41aと、非番組映像特徴量抽出手段41bとを備えている。
【0051】
番組映像特徴量抽出手段41aは、記憶手段30に記憶されている画像特徴量から、視聴者が選択した放送番組の映像データに対応する画像特徴量を抽出するものである。ここでは、番組映像特徴量抽出手段41aは、図3で説明した映像ファイルデータ31aの番組情報データPを参照して、当該映像区間に対応したフレーム画像特徴量(フレーム画像特徴量構造体32a)を抽出する。そして、番組映像特徴量抽出手段41aは、サンプリング時刻Tに従って、抽出したフレーム画像特徴量構造体32aを時系列に配列することで、視聴者が選択した放送番組の映像データに対応する画像特徴量(番組画像特徴構造体系列)とする。
この番組映像特徴量抽出手段41aで抽出された画像特徴量(番組画像特徴構造体系列)は、類似度算出手段42に出力される。
【0052】
非番組映像特徴量抽出手段(要約映像候補特徴量抽出手段)41bは、要約映像の候補となる非番組映像データ(第2映像データ)の予め定めた要約映像時間分の映像区間の画像特徴量を抽出するものである。ここでは、非番組映像特徴量抽出手段41bは、非番組映像データとして、図3で説明した映像ファイルデータ31aに番組情報データPが付加されていない非番組映像区間に対応したフレーム画像特徴量(フレーム画像特徴量構造体32a)から、要約映像時間分(例えば、スポット映像として一般的な15秒分)の画像特徴量を順次抽出する。そして、非番組映像特徴量抽出手段41bは、サンプリング時刻Tに従って、抽出したフレーム画像特徴量構造体32aを時系列に配列することで、要約映像時間分の映像区間の画像特徴量(要約映像候補特徴構造体系列)とする。
【0053】
この非番組映像特徴量抽出手段41bで抽出された画像特徴量(要約映像候補特徴構造体系列)は、映像ファイル識別子IDとサンプリング時刻Tとともに、類似度算出手段42に出力される。
【0054】
類似度算出手段42は、特徴量抽出手段41の番組映像特徴量抽出手段41aで抽出された視聴者が選択した放送番組の映像データの画像特徴量(番組画像特徴構造体系列)と、順次、非番組映像特徴量抽出手段41bから出力される要約映像時間分の映像区間の画像特徴量(要約映像候補特徴構造体系列)との類似度を算出するものである。
【0055】
ここでは、類似度算出手段42は、番組画像特徴構造体系列のフレーム画像ごとの画像特徴量(画像特徴ベクトル)の系列である番組映像特徴ベクトルと、要約映像候補特徴構造体系列のフレーム画像ごとの画像特徴量(画像特徴ベクトル)の系列である要約映像候補特徴ベクトルとの類似度を算出する。
【0056】
例えば、類似度算出手段42は、番組映像特徴ベクトルと要約映像候補特徴ベクトルとのそれぞれのベクトルを時系列において平均化した後、ベクトルの内積演算を行い、その演算結果を類似度とする。なお、ベクトルの内積演算に代えて、ベクトル間の距離を求め、その距離が近いものほど値を“0”、遠いものほど値を“1”とするように、距離を“0”〜“1”で正規化することで、類似度を求めることとしてもよい。
【0057】
また、例えば、類似度算出手段42は、要約映像候補特徴ベクトルの要素ベクトル(画像特徴ベクトル)ごとに、番組映像特徴ベクトルの要素ベクトル(画像特徴ベクトル)との間で最大となる類似度を求め、要約映像候補特徴ベクトルの要素数で平均化することで、全体の類似度とすることとしてもよい。この要素ベクトル間の類似度についても、ベクトルの内積、ベクトルの距離等を用いることができる。
この類似度算出手段42で算出された類似度は、映像ファイル識別子とサンプリング時刻とともに、要約映像区間特定手段43に出力される。
【0058】
要約映像区間特定手段43は、類似度算出手段42で算出された類似度に基づいて、視聴者が選択した放送番組の要約映像となる映像区間を特定するものである。
ここでは、要約映像区間特定手段43は、類似度算出手段42で算出された類似度が最大となる非番組画像特徴構造体系列の先頭のサンプリング時刻に対応するフレーム画像を、要約映像区間の開始フレームとする。そして、要約映像区間特定手段43は、開始フレームから、予め定めた要約映像分のフレーム数(15秒;450フレーム)分経過したフレーム画像を終了フレームとすることで、要約映像区間を特定する。
【0059】
この要約映像区間を特定する区間情報には、放送番組の映像データを特定する映像ファイル識別子と、開始フレームの時刻と、終了フレームの時刻とが含まれる。なお、終了フレームの時刻の代わりに、要約映像分の時間間隔またはフレーム数を用いてもよい。
この要約映像区間特定手段43で特定された要約映像区間の区間情報は、検索リスト提示手段50に出力される。
【0060】
検索リスト提示手段50は、当該蓄積型放送受信装置1にどの放送番組が記憶(蓄積)されているのかを示すリストを生成し、表示装置2に出力するものである。ここでは、検索リスト提示手段50は、リスト生成手段51と、リスト選択手段52と、要約映像再生手段53とを備えている。
【0061】
リスト生成手段51は、視聴者からリモコン装置3を介してリスト表示を指示された際に、記憶手段30に記憶されている映像ファイルデータの番組情報データに基づいて、記憶されている放送番組の番組名、映像区間(開始時刻、終了時刻)、ジャンル等からなるリストを生成するものである。このリスト生成手段51で生成されたリストは、表示装置2に出力され、表示装置2の表示画面上にリスト画面として表示される。
【0062】
リスト選択手段52は、表示装置2に表示されたリストにおいて、視聴者からの選択を受け付けるものである。ここでは、リスト選択手段52は、リモコン装置3から出力される上下左右ボタン、決定ボタン等の操作ボタンの押下信号を解析することで、リスト内の放送番組を特定する。
ここで、リスト選択手段52は、操作ボタンによって、選択された放送番組の再生を指示されることで、選択された放送番組の映像データを特定する識別情報(映像ファイル識別子)を映像再生手段60に出力する。
【0063】
また、リスト選択手段52は、操作ボタンによって、選択された放送番組の要約映像の再生を指示されることで、選択された放送番組の映像データを特定する識別情報(映像ファイル識別子)を要約映像再生手段53に出力する。なお、要約映像の再生の指示は、例えば、リスト画面上に要約映像再生ボタンを表示しておき、リモコン装置3によって、選択されることにより行う。
【0064】
要約映像再生手段53は、リスト選択手段52によって選択され、再生が指示された放送番組の要約映像を再生するものである。
ここでは、要約映像再生手段53は、リスト選択手段52から入力された識別情報(映像ファイル識別子)を要約映像特定手段40に出力する。そして、要約映像再生手段53は、要約映像特定手段40から当該映像ファイル識別子に対応した要約映像区間の区間情報を取得し、要約映像区間に対応する映像データを記憶手段30から読み出し再生する。
【0065】
映像再生手段60は、リスト選択手段52によって選択され、再生が指示された放送番組の映像を再生するものである。ここでは、映像再生手段60は、リスト選択手段52から入力された識別情報(映像ファイル識別子)に対応する映像データを記憶手段30から読み出し再生する。
このように蓄積型放送受信装置1を構成することで、蓄積型放送受信装置1は、視聴者が視聴したい放送番組を検索する際に、放送番組の要約となる要約映像を再生することができる。
【0066】
以上、蓄積型放送受信装置1の構成について説明したが、蓄積型放送受信装置1は、一般的なコンピュータを前記した各手段として機能させる要約映像提示プログラムによって動作させることができる。
また、ここでは、蓄積型放送受信装置1において、放送番組の要約となる要約映像を、放送番組の本放送の映像区間以外の映像から抽出することとしたが、放送番組の本放送の映像区間から抽出することとしてもよい。この場合、例えば、特徴量抽出手段41を、図4に示すように、番組映像部分特徴量抽出手段41cを付加した特徴量抽出手段41Bとして、蓄積型放送受信装置1Bを構成する。
【0067】
番組映像部分特徴量抽出手段41cは、視聴者が選択した放送番組の映像データ以外の映像データ(第1映像データ)に対応する画像特徴量において、番組情報データで特定される終了時刻より所定時間遡った時間から、要約映像分の映像区間の画像特徴量を抽出するものである。
この番組映像部分特徴量抽出手段41cは、例えば、映像データ(第1映像データ)の終了時刻5分前から終了時刻までの映像データにおいて、要約映像分(例えば、15秒分)の画像特徴量を順次抽出する。この順次特徴量を抽出する手法は、図2で説明した非番組映像特徴量抽出手段41bと同様である。
【0068】
なお、この場合、類似度算出手段42は、番組映像特徴量抽出手段41aで抽出された画像特徴量と、非番組映像特徴量抽出手段41bで抽出された画像特徴量および番組映像部分特徴量抽出手段41cで抽出された画像特徴量との類似度を順次算出する。
【0069】
このように蓄積型放送受信装置1Bを構成することで、蓄積型放送受信装置1Bは、放送番組の要約映像を、番組情報データが付加されていない映像データ(非番組映像)と、番組情報データが付加されている映像データ(番組映像)の終了時刻より所定時間遡った映像データとから生成することができる。
【0070】
[蓄積型放送受信装置の動作]
次に、本発明の実施形態に係る蓄積型放送受信装置の動作について説明する。ここでは、本発明の実施形態に係る蓄積型放送受信装置における放送番組を蓄積する蓄積動作と、要約映像を再生する要約映像再生動作とに分けて説明する。
【0071】
<蓄積動作>
最初に、図5を参照(適宜図2参照)して、本発明の実施形態に係る蓄積型放送受信装置の蓄積動作について説明する。図5は、本発明の実施形態に係る蓄積型放送受信装置の蓄積動作を示すフローチャートである。
まず、蓄積型放送受信装置1は、受信手段10によって、放送波を介して配信される放送番組の映像データおよび番組情報データを受信し(ステップS1)、記憶手段30に書き込む(ステップS2)。
その後、蓄積型放送受信装置1は、特徴量生成手段20のサンプリング手段21によって、映像データを所定のフレーム間隔でサンプリングする(ステップS3)。
【0072】
そして、蓄積型放送受信装置1は、特徴量算出手段22によって、ステップS3でサンプリングされたフレーム画像ごとに画像特徴量を算出し(ステップS4)、映像データを特定する識別子(映像ファイル識別子)、サンプリング時刻とともに、フレーム画像特徴量構造体を生成する(ステップS5)。そして、特徴量算出手段22は、フレーム画像特徴量構造体を記憶手段30に書き込む(ステップS6)。
以上の動作によって、放送番組の映像データおよび番組情報データと、当該映像データの特徴量とが、記憶手段30に蓄積されることになる。
【0073】
<要約映像再生動作>
次に、図6を参照(適宜図2参照)して、本発明の実施形態に係る蓄積型放送受信装置の要約映像再生動作について説明する。図6は、本発明の実施形態に係る蓄積型放送受信装置の要約映像再生動作を示すフローチャートである。
【0074】
まず、蓄積型放送受信装置1は、検索リスト提示手段50のリスト生成手段51によって、リモコン装置3を介して、視聴者からリスト表示を指示されることで、記憶手段30に記憶されている映像ファイルデータの番組情報データに基づいて、放送番組の番組名等からなるリストを生成し、表示装置2に表示する(ステップS11)。
そして、蓄積型放送受信装置1は、リスト選択手段52によって、リモコン装置3を介して視聴者が選択した放送番組を特定する(ステップS12)。
【0075】
さらに、蓄積型放送受信装置1は、特徴量抽出手段41の番組映像特徴量抽出手段41aによって、ステップS12で特定された放送番組の番組情報データを参照して、番組情報データが付加されている映像データの映像区間に対応したフレーム画像特徴量構造体(番組映像特徴構造体)から画像特徴量を抽出し、サンプリング時刻に従って時系列に並べた番組映像特徴構造体系列を生成する(ステップS13)。
【0076】
なお、ここで、視聴者が選択した放送番組の映像データがNref枚のフレーム画像で構成され、それぞれのフレーム画像の画像特徴量(画像特徴ベクトル)が、V(1),V(2),…,V(Nref)である場合に、番組映像特徴構造体系列を、画像特徴量のみに着目した番組映像特徴ベクトルVref=[V(1),V(2),…,V(Nref)]として表すこととする。
そして、蓄積型放送受信装置1は、時刻(サンプリング時刻)tを変数とし、初期化(“0”)しておく(ステップS14)。
【0077】
そして、蓄積型放送受信装置1は、特徴量抽出手段41の非番組映像特徴量抽出手段41bによって、番組情報データが付加されていない映像データの映像区間に対応したフレーム画像特徴量構造体(非番組映像特徴構造体)から、時刻tを始点として、要約映像の候補となる映像区間分の画像特徴量を抽出し、サンプリング時刻に従って時系列に並べた要約映像候補特徴構造体系列を生成する(ステップS15)。
【0078】
なお、ここで、非放送番組の映像データがNnpg枚のフレーム画像で構成され、それぞれのフレーム画像の画像特徴量(画像特徴ベクトル)が、V′(1),V′(2),…,V′(Nnpg)である場合に、非番組映像特徴構造体系列を、画像特徴量のみに着目した非番組映像特徴ベクトルVnpg=[V′(1),V′(2),…,V′(Nnpg)]として表すこととする。
【0079】
この場合、ステップS15において、非番組映像特徴量抽出手段41bが生成した、時刻tを始点とした要約映像分の要約映像候補特徴構造体系列は、要約映像候補特徴ベクトルVspt=[V′(t),V′(t+1),…,V′(t+L−1)]として表される。なお、Lは、非番組映像特徴構造体から抽出する要約映像候補特徴構造体の数であって、例えば、サンプリング間隔が30フレーム、要約映像の時間15秒に相当するフレーム数が450フレームであるとすると、L=(450/30)=15となる。
【0080】
そして、蓄積型放送受信装置1は、類似度算出手段42によって、ステップS13で抽出された放送番組の画像特徴量(番組映像特徴構造体系列)と、ステップS15で抽出された要約映像分の画像特徴量(要約映像候補特徴構造体系列)との類似度S(t)を算出する(ステップS16)。なお、この類似度の算出動作については、後で詳細に説明する。
【0081】
そして、蓄積型放送受信装置1は、時刻(サンプリング時刻)tを“1”加算する(ステップS17)。ここで、要約映像候補特徴構造体系列の抽出が、非番組映像特徴構造体の終端に達した場合、すなわち、“t+L−1”が、非放送番組の映像データのフレーム画像の数(Nnpg枚)を超過した場合(ステップS18でYes)、蓄積型放送受信装置1は、ステップS19に動作を進める。
【0082】
一方、要約映像候補特徴構造体系列の抽出が、非番組映像特徴構造体の終端に達していない場合、すなわち、“t+L−1”が、非放送番組の映像データのフレーム画像の数(Nnpg枚)以下の場合(ステップS18でNo)、蓄積型放送受信装置1は、ステップS15に戻って動作を継続する。
【0083】
そして、蓄積型放送受信装置1は、要約映像区間特定手段43によって、ステップS16で算出された類似度S(t)が最大となるサンプリング時刻Tに対応するフレーム画像を、要約映像区間の開始フレームとし、その開始フレームから、予め定めた要約映像分のフレーム数(15秒;450フレーム)分経過したフレーム画像を終了フレームとすることで、要約映像区間を特定する(ステップS19)。
【0084】
そして、蓄積型放送受信装置1は、要約映像再生手段53によって、ステップS19で特定された要約映像区間に対応する映像データを記憶手段30から読み出し再生する(ステップS20)。
以上の動作によって、蓄積型放送受信装置1は、視聴者がリストから放送番組を選択することで、その選択された放送番組の要約となる要約映像を再生することができる。
【0085】
[蓄積型放送受信装置の類似度算出動作]
次に、図7および図8を参照して、蓄積型放送受信装置1の類似度算出手段42が行う類似度算出の動作について説明する。図7は、本発明の実施形態に係る蓄積型放送受信装置の類似度算出手段が行う類似度算出動作の一例を示すフローチャートである。図8は、本発明の実施形態に係る蓄積型放送受信装置の類似度算出手段が行う類似度算出動作の他の例を示すフローチャートである。なお、この図7および図8で説明する動作は、図6で説明したステップS16の動作に相当するものである。
【0086】
<類似度算出動作:第1例>
最初に、図7を参照(適宜図2参照)して、類似度算出手段42が行う類似度算出動作の第1例について説明する。
まず、類似度算出手段42は、Nref枚のフレーム画像で構成された番組映像特徴構造体系列における番組映像特徴ベクトルVref=[V(1),V(2),…,V(Nref)]において、各ベクトルの平均となる平均ベクトルVref_aveを算出する(ステップS31)。
【0087】
また、類似度算出手段42は、ある時刻tにおけるL枚のフレーム画像で構成された要約映像候補特徴構造体系列における要約映像候補特徴ベクトルVspt(t)=[V′(t),V′(t+1),…,V′(t+L−1)]において、各ベクトルの平均となる平均ベクトルVspt_ave(t)を算出する(ステップS32)。
そして、類似度算出手段42は、ステップS31で算出した平均ベクトルVref_aveと、ステップS32で算出した平均ベクトルVspt_ave(t)とにおいて、ベクトルの内積を類似度S(t)として求める(ステップS33)。
【0088】
以上の動作によって、類似度算出手段42は、番組映像特徴ベクトルの平均ベクトルと、要約映像候補特徴ベクトルの平均ベクトルとから類似度を算出する。
なお、ここでは、ベクトルの内積演算を行うことで、類似度を算出することとしたが、ベクトルの類似を求める手法であれば、ベクトル内積に限定されるものではない。例えば、類似度算出手段42は、ステップS33において、ベクトル間の距離を求め、その距離が近いものほど値を“0”、遠いものほど値を“1”とするように、距離を“0”〜“1”で正規化することで、類似度を求めることとしてもよい。
【0089】
<類似度算出動作:第2例>
次に、図8を参照(適宜図2参照)して、類似度算出手段42が行う類似度算出動作の第2例について説明する。
まず、類似度算出手段42は、ループ回数を示す変数iを初期化(“0”)する(ステップS41)。
【0090】
そして、類似度算出手段42は、ある時刻tにおけるL枚のフレーム画像で構成された要約映像候補特徴構造体系列における要約映像候補特徴ベクトルVspt(t)の要素ベクトルV′(t),V′(t+1),…,V′(t+L−1)のi番目の要素ベクトルV′(t+i)と、Nref枚のフレーム画像で構成された番組映像特徴構造体系列における番組映像特徴ベクトルVrefの要素ベクトルV(1),V(2),…,V(Nref)とのそれぞれのベクトル内積s(i,1)、s(i,2)、…、s(i,Nref)を算出し(ステップS42)、その中の最大値smax(i)を求める(ステップS43)。
【0091】
そして、類似度算出手段42は、ループ回数iを“1”加算する(ステップS44)。ここで、ループ回数が要約映像候補特徴ベクトルの要素ベクトルの数(L)に達した場合(ステップS45でYes)、類似度算出手段42は、ステップS46に動作を進める。
一方、ループ回数が要約映像候補特徴ベクトルの要素ベクトルの数(L)に達していない場合(ステップS45でNo)、類似度算出手段42は、ステップS42に戻って動作を継続する。
そして、類似度算出手段42は、ステップS43で順次算出されたベクトル内積の最大値smax(0)、smax(1)、…、smax(L−1)の平均を類似度S(t)として求める(ステップS46)。
【0092】
以上の動作によって、類似度算出手段42は、番組映像特徴ベクトルの要素ベクトルと、要約映像候補特徴ベクトルの要素ベクトルとで、最も類似する類似度を求め、それらを平均することで、ベクトル全体の類似度を算出する。
なお、ここでは、ベクトルの内積演算を行うことで、類似度を算出することとしたが、ベクトルの類似を求める手法であれば、ベクトル内積に限定されるものではない。例えば、類似度算出手段42は、ステップS42において、第1例と同様、ベクトル間の距離を求め、その距離が近いものほど値を“0”、遠いものほど値を“1”とするように、距離を“0”〜“1”で正規化することで、類似度を求めることとしてもよい。
【図面の簡単な説明】
【0093】
【図1】番組編成の内容を説明するための模式図である。
【図2】本発明の実施形態に係る蓄積型放送受信装置の構成を示すブロック図である。
【図3】本発明の実施形態に係る蓄積型放送受信装置の記憶手段に記憶されるデータのデータ構造を模式的に示す構造図である。
【図4】本発明の他の実施形態に係る蓄積型放送受信装置の構成を示すブロック図である。
【図5】本発明の実施形態に係る蓄積型放送受信装置の蓄積動作を示すフローチャートである。
【図6】本発明の実施形態に係る蓄積型放送受信装置の要約映像再生動作を示すフローチャートである。
【図7】本発明の実施形態に係る蓄積型放送受信装置の類似度算出手段が行う類似度算出動作の一例を示すフローチャートである。
【図8】本発明の実施形態に係る蓄積型放送受信装置の類似度算出手段が行う類似度算出動作の他の例を示すフローチャートである。
【符号の説明】
【0094】
1,1B 蓄積型放送受信装置
10 受信手段
20 特徴量生成手段
21 サンプリング手段
22 特徴量算出手段
30 記憶手段(映像データ記憶手段、特徴量記憶手段)
40 要約映像特定手段
41 特徴量抽出手段
41a 番組映像特徴量抽出手段
41b 非番組映像特徴量抽出手段(要約映像候補特徴量抽出手段)
41c 番組映像部分特徴量抽出手段(要約映像候補特徴量抽出手段)
42 類似度算出手段
43 要約映像区間特定手段
50 検索リスト提示手段
51 リスト生成手段
52 リスト選択手段
53 要約映像再生手段
60 映像再生手段

【特許請求の範囲】
【請求項1】
放送番組の映像データと前記放送番組の時間情報を含んだ番組情報データとを映像データ記憶手段に記憶し、前記放送番組を再生する蓄積型放送受信装置において、
前記映像データを所定のフレーム間隔でサンプリングするサンプリング手段と、
このサンプリング手段でサンプリングされたフレーム画像ごとに画像特徴量を算出する特徴量算出手段と、
この特徴量算出手段で算出された画像特徴量を、前記映像データと対応付けて記憶する特徴量記憶手段と、
前記番組情報データに基づいて、前記映像データ記憶手段に記憶されている映像データのリストを生成するリスト生成手段と、
前記リストにおいて視聴者が選択した映像データの画像特徴量を、前記特徴量記憶手段から読み出す番組映像特徴量抽出手段と、
前記リストにおいて視聴者が選択した映像データ以外の映像データのうちで、予め定めた要約映像時間分の映像区間の画像特徴量を、前記特徴量記憶手段から順次読み出す要約映像候補特徴量抽出手段と、
前記番組映像特徴量抽出手段で読み出された画像特徴量と、前記要約映像候補特徴量抽出手段で順次読み出された画像特徴量との類似度を算出する類似度算出手段と、
この類似度算出手段で算出された類似度に基づいて、前記視聴者が選択した映像データに最も類似する要約映像時間分の映像区間を特定する要約映像区間特定手段と、
この要約映像区間特定手段で特定された映像区間の映像データを、前記映像データ記憶手段から読み出して要約映像として再生する要約映像再生手段と、
を備えることを特徴とする蓄積型放送受信装置。
【請求項2】
前記放送番組の映像データは、前記番組情報データが付加された前記放送番組の実体である第1映像データと、前記番組情報データが付加されていない第2映像データとで構成され、
前記要約映像候補特徴量抽出手段は、前記第2映像データに対応する画像特徴量から、前記要約映像時間分の映像区間の画像特徴量を抽出することを特徴とする請求項1に記載の蓄積型放送受信装置。
【請求項3】
前記放送番組の映像データは、前記番組情報データが付加された前記放送番組の実体である第1映像データと、前記番組情報データが付加されていない第2映像データとで構成され、
前記要約映像候補特徴量抽出手段は、前記第1映像データに対応する画像特徴量において、前記番組情報データで特定される終了時刻より所定時間遡った時間から、前記要約映像時間分の映像区間の画像特徴量を抽出することを特徴とする請求項1に記載の蓄積型放送受信装置。
【請求項4】
放送番組の映像データと前記放送番組の時間情報を含んだ番組情報データとを映像データ記憶手段に記憶し、前記放送番組を再生する蓄積型放送受信装置において、視聴者が選択した放送番組の要約映像を再生するために、コンピュータを、
前記映像データを所定のフレーム間隔でサンプリングするサンプリング手段、
このサンプリング手段でサンプリングされたフレーム画像ごとに画像特徴量を算出して、前記映像データと対応付けて特徴量記憶手段に記憶する特徴量算出手段、
前記番組情報データに基づいて、前記映像データ記憶手段に記憶されている映像データのリストを生成するリスト生成手段、
前記リストにおいて視聴者が選択した映像データの画像特徴量を、前記特徴量記憶手段から読み出す番組映像特徴量抽出手段、
前記リストにおいて視聴者が選択した映像データ以外の映像データのうちで、予め定めた要約映像時間分の映像区間の画像特徴量を、前記特徴量記憶手段から順次読み出す要約映像候補特徴量抽出手段、
前記番組映像特徴量抽出手段で読み出された画像特徴量と、前記要約映像候補特徴量抽出手段で順次読み出された画像特徴量との類似度を算出する類似度算出手段、
この類似度算出手段で算出された類似度に基づいて、前記視聴者が選択した映像データに最も類似する要約映像時間分の映像区間を特定する要約映像区間特定手段、
この要約映像区間特定手段で特定された映像区間の映像データを、前記映像データ記憶手段から読み出して要約映像として再生する要約映像再生手段、
として機能させることを特徴とする要約映像再生プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2009−21732(P2009−21732A)
【公開日】平成21年1月29日(2009.1.29)
【国際特許分類】
【出願番号】特願2007−181676(P2007−181676)
【出願日】平成19年7月11日(2007.7.11)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】