説明

動画処理装置

【課題】
短時間で重要なシーンを効果的に視聴することが困難であった。
【解決手段】
上記課題を解決するために、動画処理装置であって、動画データを入力する動画データ
入力手段と、該動画データにおける重要シーンが記述された重要シーンデータを入力ある
いは生成する重要シーンデータ入力/生成手段と、該重要シーンデータ入力/生成手段に
より入力あるいは生成された該重要シーンデータに基づいてデフォルトの再生パラメタを
決定するデフォルト再生パラメタ決定手段と、再生シーンを決定するためのパラメタを入
力する再生パラメタ入力手段と、該再生パラメタ入力手段により該再生パラメタが入力さ
れた場合には、該デフォルト再生パラメタ決定手段により決定された再生パラメタより該
再生パラメタ入力手段により入力された再生パラメタを優先的に使用して該動画データの
再生シーンを再生するように制御する制御部とを備えるように構成すればよい。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画データを再生する動画処理装置に関する。
【背景技術】
【0002】
近年、デジタルテレビ放送による動画データの多チャンネル放送化やネットワークの広帯域化により、多くの動画データを取得あるいは視聴可能となった。また、動画圧縮伸張技術の向上や、それを実現するハードウェア/ソフトウェアの低価格化、及び蓄積メディアの大容量化ならびにその低価格化により、多くの動画データの保存を手軽に行えるようになり、視聴可能な動画データが増加しつつある。しかしながら、多忙な人にとっては、それら全ての動画データを視聴する時間は無く、結果として視聴可能な動画データが氾濫するといった状況になってきている。そこで、動画データにおける重要なシーンだけを視聴することにより、短時間で内容を理解する仕組みや、本当に視聴したい動画データを探し出せるようにすることが重要となる。
【0003】
このような状況に鑑み、例えば特許文献1及び非特許文献1では、動画データにおける重要なシーンを表示可能な技術が紹介されている。特に、非特許文献1では、動画データからその特徴を生成し、その特徴に基づいて、重要なシーンの抽出及びランキング付けを行い、利用者から指定された割合で重要なシーンのみを再生する技術が紹介されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−153139号公報
【非特許文献】
【0005】
【非特許文献1】D.DeMenthon, V.Kobla, and D.Doermann, “Video Summarization by Curve Simplification”, ACM Multimedia 98, Bristol, England, pp.211-218, 1998
【発明の概要】
【発明が解決しようとする課題】
【0006】
以上のように、動画データの内容を短時間で把握するための技術が提案されているが、利用者にとって好ましいユーザーインターフェースは提案されていない。例えば、特許文献1では、重要と思われるすべてのシーンを視聴可能であるが、再生時間や再生割合を指定できないため、利用者にとって都合のいい時間で動画データの重要箇所の一部あるいは全部を視聴できないという問題がある。また、非特許文献1では、利用者から指定された割合で重要なシーンのみを再生可能であるが、利用者はどれくらいの割合で視聴すれば効果的に重要なシーンのみを視聴可能であるかを把握できないという問題がある。
【0007】
本発明は、これらの課題を解決するものであり、動画データの内容を効果的に把握可能な動画処理装置を提供することを目的とするものである。
【課題を解決するための手段】
【0008】
上述の課題を解決するために、例えば、動画処理装置であって、動画データを入力する動画データ入力手段と、該動画データにおける重要シーンが記述された重要シーンデータを入力あるいは生成する重要シーンデータ入力/生成手段と、該重要シーンデータ入力/生成手段により入力あるいは生成された該重要シーンデータに基づいてデフォルトの再生パラメタを決定するデフォルト再生パラメタ決定手段と、再生シーンを決定するためのパラメタを入力する再生パラメタ入力手段と、該再生パラメタ入力手段により該再生パラメタが入力された場合には、該デフォルト再生パラメタ決定手段により決定された再生パラメタより該再生パラメタ入力手段により入力された再生パラメタを優先的に使用して該動画データの再生シーンを再生するように制御する制御部とを備えるように構成すればよい。
【発明の効果】
【0009】
本発明によれば、動画データの内容を効果的に把握可能となり、ユーザの使い勝手が向上する。
【図面の簡単な説明】
【0010】
【図1】本発明の実施例に係る動画処理装置の機能ブロックをソフトウェアで実現する場合のハードウェア構成図の一例である。
【図2】本発明の実施例1に係る動画処理装置の機能ブロック図の一例である。
【図3】本発明の実施例で取り扱う特徴データのデータ構造の一例である。
【図4】本発明の実施例1で取り扱う重要シーンデータのデータ構造の一例である。
【0011】
本発明の実施例1に係る動画処理装置の再生操作パネルの一例である。
【図5】本発明の実施例に係る再生時間及び再生割合の設定表示画面の一例である。
【図6】本発明の実施例1で取り扱う再生シーンのデータ構造の一例である。
【図7】本発明の実施例1に係る再生シーンの決定方法を説明する図である。
【図8】本発明の実施例に係る動画処理装置の再生操作パネルの一例である。
【図9】本発明の実施例に係る動画処理装置再生処理および全体の動作を示すフローチャートの一例である。
【図10】本発明の実施例に係る動画処理装置の再生処理で再生される再生シーンを説明する図ある。
【図11】本発明の実施例2に係る動画処理装置の機能ブロック図の一例である。
【図12】本発明の実施例2で取り扱うランキングデータのデータ構造の一例である。
【図13】本発明の実施例2で取り扱う重要シーンデータのデータ構造の一例である。
【図14】本発明の実施例2で取り扱う再生シーンのデータ構造の一例である。
【図15】本発明の実施例2に係る再生シーンの決定方法を説明する図である。
【図16】本発明の実施例に係る動画処理装置の機能ブロック図の他の例である。
【発明を実施するための形態】
【0012】
以下、本発明にかかる実施例について、図面を参照して説明する。
【実施例1】
【0013】
図1は、本実施例に係る動画処理装置のハードウェア構成の一例である。
【0014】
図1に示す通り、本実施例1に係る動画処理装置は、動画データ入力装置100と、中央処理装置101と、入力装置102と、表示装置103と、音声出力装置104と、記憶装置105と、二次記憶装置106を有して構成される。そして、各装置は、バス107によって接続され、各装置間で、相互にデータの送受信が可能なように構成されている。ただし、二次記憶装置106は、記憶装置105の補助的な役割であり、記憶装置105でその役割をまかなえる場合には、必ずしも必要ではない。
【0015】
動画データ入力装置100は、動画データを入力する。本動画データ入力装置100は、例えば後述する記憶装置105あるいは二次記憶装置106に記憶されている動画データを読み込む装置としたり、テレビ放送等を受信する場合には、テレビのチューナとすることが出来る。また、ネットワーク経由で動画データを入力する場合には、本動画データ入力装置100をLANカード等のネットワークカードとすることが出来る。
【0016】
中央処理装置101は、マイクロプロセッサを主体に構成されており、記憶装置105や二次記憶装置106に格納されているプログラム等を実行する制御部である。
【0017】
入力装置102は、例えばリモコン、あるいはキーボードや、マウス等のポインティングデバイスによって実現され、利用者が後述する再生シーン決定パラメタを入力可能とする。
【0018】
表示装置103は、例えばディスプレイアダプタと液晶パネルやプロジェクタ等によって実現され、再生シーンの画像や、再生シーン決定パラメタの入力をGUI経由で実施する場合には、このGUIを表示する。なお、本GUIの一例については後で詳述する。
【0019】
音声出力装置104は、例えばスピーカによって実現され、再生シーンの音声を出力する。
【0020】
記憶装置105は、例えばランダムアクセスメモリ(RAM)やリードオンリーメモリ(ROM)等によって実現され、中央処理装置101によって実行されるプログラムや本動画処理装置において処理されるデータ、あるいは再生対象の動画データやランキングデータ等を格納する。
【0021】
二次記憶装置106は、例えばハードディスクやDVDあるいはCDとそれらのドライブ、あるいはフラッシュメモリ等の不揮発性メモリにより構成され、中央処理装置101によって実行されるプログラムや本動画処理装置において処理されるデータ、あるいは再生対象の動画データやランキングデータ等を格納する。
【0022】
図2は、本実施例1に係る動画処理装置の機能ブロック図である。なお、以下では、一例として、これらの機能ブロックの全てが中央処理装置101によって制御されて実行されるソフトウェアプログラムであるものとして説明するが、ハードウェアを用いてこれらの機能を実現しても構わない。
【0023】
図2に示す通り、本実施例1に係る動画処理装置は、解析動画データ入力部201と、特徴データ生成部202と、特徴データ保持部213と、特徴データ入力部214と、重要シーンデータ生成部203と、重要シーンデータ保持部210と、重要シーンデータ入力部211と、デフォルト再生パラメタ決定部216と、デフォルト再生パラメタ提示部217と、再生動画データ入力部212と、再生シーン決定部204と、再生シーン決定パラメタ入力部205と、再生部206と、表示部208と、音声出力部215を有して構成される。
【0024】
ただし、他の装置ですでに作成済みの重要シーンデータを使用するなど、重要シーンデータを本動画処理装置で生成しない場合には、必ずしも解析動画データ入力部201と、特徴データ生成部202と、特徴データ保持部213と、特徴データ入力部214と、重要シーンデータ生成部203と、重要シーンデータ保持部210は必要ない。
【0025】
また、他の装置ですでに作成済みの特徴データを使用するなど、特徴データを本動画処理装置で生成しない場合には、必ずしも解析動画データ入力部201と、特徴データ生成部202と、特徴データ保持部213は必要ない。さらに、デフォルトの再生パラメタを利用者に提示部する必要がない場合には、デフォルト再生パラメタ提示部217は必要ない。
【0026】
解析動画データ入力部201は、動画データの重要シーンを決定するために動画の特徴を生成および解析し、それぞれ特徴データおよび重要シーンデータを生成するために動画データ入力装置100から入力する。なお、本解析動画データ入力部201は、利用者によって、特徴データ及び重要シーンデータの作成が指示された場合、あるいは再生開始時、あるいは図示しないスケジューラによって、特徴データ及び重要シーンデータが作成されていない動画データを発見した場合に中央処理装置101によって実行される。
【0027】
特徴データ生成部202は、解析動画データ入力部201において入力した動画データの特徴を生成する。これは、例えば、図3に示すとおり、動画データにおける音声データ及び画像データのそれぞれのフレームについて、音声のパワーや相関度および画像の輝度分布や動きの大きさ等を生成することによって実現できる。
【0028】
図3において、(a)は、音声の特徴データであり、(b)は、画像の特徴データである。図3(a)においては、301は、音声フレーム番号であり、311ないし313は、それぞれ音声フレームを示している。また、302は、その音声フレームが出力される時刻、303は、その音声フレームにおける音声のパワー、304は、その音声フレームと他の音声フレームの相関度であり、他の音声フレームとの自己相関係数を取ることによって実現できる。図3(b)においては、321は、画像フレーム番号であり、331ないし333は、それぞれ画像フレームを示している。また、322は、その画像フレームが出力される時刻、323は、その画像フレームにおける輝度分布であり、324は、その画像フレームの他の画像フレームからの動きのである。
【0029】
ここで、輝度分布323は、例えば、その画像フレームをいくつかの領域に分けて、各領域における平均輝度のヒストグラムをとることによって実現でき、動きの大きさは、例えば、その画像フレームをいくつかの領域に分けて、各領域において1つ前のフレームに対する動きベクトルを生成し、生成された各動きベクトルの内積をとるなどによって実現できる。なお、本特徴データ生成部202は、解析動画データ入力部201が実行された場合に、動画データが入力されるたびに、中央処理装置101によって実行される。
【0030】
特徴データ保持部213は、特徴データ生成部202において生成した特徴データを保持する。これは、例えば特徴データ生成部202において生成した特徴データを記憶装置105あるいは二次記憶装置106に格納することによって実現できる。なお、本特徴データ保持部213は、特徴データ生成部202が実行された場合に、特徴データが生成されるたびに、あるいは1フレーム分の特徴データが生成されるごとに中央処理装置101によって実行されるように構成すればよい。
【0031】
特徴データ入力部214は、特徴データ保持部213において保持された特徴データ、あるいは他の装置などによって既に生成されている特徴データを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されている特徴データを読み出すことによって実現できる。なお、本特徴データ入力部214は、後述する重要シーンデータ生成部203が実行された場合に、中央処理装置101によって実行されればよい。
【0032】
重要シーンデータ生成部203は、重要シーンデータ入力/生成手段に相当し、特徴データ入力部214で入力した特徴データに基づいて、重要シーンを決定して、図4に示すような重要シーンデータを生成する。図4において、401は、重要シーンの番号であり、411ないし413は、それぞれ重要シーンを示している。また、402は、その重要シーンの開始位置、403は、その重要シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、重要シーンデータには開始時間と終了時間が記述されているものとして説明する。さて、この重要シーンデータ生成部203における重要シーンの決定は、例えば、動画データが音楽番組のコンテンツであった場合、音声のパワーや相関度を評価し、音楽部分を検出することによって実現できる。
【0033】
さらに、音楽番組以外のコンテンツであっても、例えば、動画の輝度分布や動きに基づいて、典型的なパターンが現れた場合に重要なシーンと認識し、この重要シーンを検出することよって実現しても良い。
【0034】
なお、重要シーンデータ生成部203は、利用者によって、重要シーンデータの作成が指示された場合、あるいは再生開始時、あるいは図示しないスケジューラによって、重要シーンデータが作成されていない動画データを検出した場合に中央処理装置101によって実行される。
【0035】
重要シーンデータ保持部210は、重要シーン部203において生成した重要シーンデータを保持する。これは、例えば重要シーンデータ生成部203において生成した重要シーンデータを記憶装置105あるいは二次記憶装置106に格納することによって実現できる。ただし、重要シーンデータ生成部203において生成した重要シーンデータが後述するデフォルト再生パラメタ決定部216および再生シーン決定部204に直接読み込まれる構成とした場合には、本重要シーンデータ保持部210は必ずしも必要はない。なお、本重要シーンデータ保持部210が存在する構成とした場合には、本重要シーンデータ保持部210は、重要シーンデータ生成部203が実行された場合に、重要シーンデータが生成されるたびに中央処理装置101によって実行されるように構成すればよい。
【0036】
重要シーンデータ入力部211は、重要シーンデータ入力/生成手段に相当し、重要シーンデータ保持部210において保持された重要シーンデータ、あるいは他の装置などによって既に生成されている重要シーンデータを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されている重要シーンデータを読み出すことによって実現できる。ただし、重要シーンデータ生成部203において生成した重要シーンデータが後述するデフォルト再生パラメタ決定部216および再生シーン決定部204に直接読み込まれる構成とした場合には、本重要シーンデータ入力部211は必ずしも必要はない。なお、本重要シーンデータ入力部211が存在する構成とした場合には、本重要シーンデータ入力部211は、後述する再生シーン決定部204あるいはデフォルト再生パラメタ決定部216が実行された場合に、中央処理装置101によって実行されるように構成すればよい。
【0037】
デフォルト再生パラメタ決定部216は、デフォルト再生パラメタ決定手段に相当し、前述の重要シーンデータに基づいてデフォルトの再生パラメタを決定する。これは、重要シーンデータにおける各重要シーンの時間を合計して、重要シーンの総再生時間を算出することによって実現できる。あるいは、動画データ全体の再生時間に対する重要シーンの総再生時間の割合を算出するようにしても良い。具体的には、重要シーンデータが図4に示すデータであり、動画データ全体の再生時間が500秒であった場合、デフォルトの再生パラメタを、再生時間80秒(=(40-20)+(110-100)+(300-250))あるいは再生割合16%(=80÷500×100)と決定する。なお、本デフォルト再生パラメタ決定部216は、後述する再生シーン決定パラメタ入力部205が実行された場合に、中央処理装置101によって実行されるように構成すればよい。
【0038】
デフォルト再生パラメタ提示部217は、デフォルト再生パラメタ提示手段に相当し、デフォルト再生パラメタ決定部216で決定した再生パラメタを利用者に提示する。これは、例えば、デフォルト再生パラメタ決定部216で算出した再生時間あるいは再生割合を表示部208を介して表示装置103に表示することによって実現できる。なお、本具体例については、色々考えられるが、その一例として、後述する再生シーン決定パラメタ入力部205における入力値のデフォルト値として表示することが考えられる。本画面例については、再生シーン決定パラメタ入力部205の説明で詳述する。なお、本デフォルト再生パラメタ提示部217は、デフォルトの再生パラメタを利用者に提示しない場合には必要ないが、利用者にとっては、重要なシーンを効果的に視聴したい場合に指定すべき時間あるいは再生割合がデフォルトで使用されるとともに、提示されていることが望ましい。本デフォルト再生パラメタ提示部217が存在する構成とした場合には、本デフォルト再生パラメタ提示部217は、本後述する再生シーン決定パラメタ入力部205が実行された場合に、前述のデフォルト再生パラメタ決定部216の処理が終了した後に、中央処理装置101によって実行されるように構成すればよい。
【0039】
再生シーン決定パラメタ入力部205は、再生シーン決定パラメタ入力手段に相当し、入力装置102を介して、再生シーンを決定する際のパラメタを入力する。具体的には、例えば、リモコン上あるいは表示部208を介して表示装置103に図5に示す表示画面を表示する。
【0040】
図5において、(a)は、再生時間を設定する場合の表示画面例であり、(b)は、再生割合を設定する場合の表示画面例である。また、(c)は、利用者が再生時間を指定するか、あるいは再生割合を指定するかを選択可能とした画面例である。
【0041】
図5(a)において、601は、再生時間指定ウィンドウであり、602は、再生時間指定エリアである。図5(b)において、611は、再生割合指定ウィンドウであり、612は、再生割合指定エリアである。図5(c)において、621は再生時間/割合指定ウィンドウ、622は再生時間指定ボタン、623は再生割合指定ボタン、624は再生時間/割合指定エリア、625はインジケータである。
【0042】
図5(a)においては、利用者は入力装置102を用いて、再生時間指定エリア602に所望の再生時間を設定可能である。このとき、本再生時間指定ウィンドウ601が表示された際、デフォルト再生パラメタ決定部216で決定され、デフォルト再生パラメタ提示部217で提示される再生時間を表示するようにしてもよい。これにより、利用者は重要なシーンを効果的に視聴したい場合に指定すべき再生時間を容易に把握可能となる。
【0043】
図5(b)においては、利用者は入力装置102を用いて、再生割合指定エリア612に所望の再生割合を設定可能である。このとき、本再生割合指定ウィンドウ601が表示された際、デフォルト再生パラメタ決定部216で決定され、デフォルト再生パラメタ提示部217で提示される再生割合を表示するようにしてもよい。これにより、利用者は重要なシーンを効果的に視聴したい場合に指定すべき再生割合を容易に把握可能となる。
【0044】
また、図5(c)においては、利用者は入力装置102を用いて、再生時間を指定するか再生割合を指定するかを決定できる。すなわち、利用者が再生時間指定ボタン622を押下した場合には、本動画処理装置は再生時間指定モードに入り、利用者は再生時間/割合指定エリア624に所望の再生時間を設定可能である。この場合、図に示すように再生時間指定ボタンにインジケータを表示するとよい。
【0045】
一方、利用者が再生割合指定ボタン623を押下した場合には、本動画処理装置は再生割合指定モードに入り、利用者は再生時間/割合指定エリア624に所望の再生割合を設定可能である。
【0046】
この場合、図示しないが再生時間指定ボタンにインジケータを表示するとよい。このとき、本再生時間/割合指定ウィンドウ621が表示された際、前回設定されたモードでデフォルト再生パラメタ決定部216で決定され、デフォルト再生パラメタ提示部217で提示される再生時間あるいは割合を表示するようにしてもよい。
【0047】
これにより、利用者は重要なシーンを効果的に視聴したい場合に指定すべき再生時間あるいは割合を容易に把握可能となる。また、利用者により再生時間指定ボタン622あるいは再生割合指定ボタン623が操作され、モードが変更されたときには、変更される前のモードにおけるパラメタ値から変更した後のモードのパラメタ値に計算しなおして、再生時間/割合指定ウィンドウ621に表示するとよい。
【0048】
なお、図5(c)においては、利用者により、再生時間を指定することが示されたこと例示している。なお、本再生シーン決定パラメタ入力部205は、後述する再生部206において重要シーンの再生が実行された時点で中央処理装置101によって実行される。
【0049】
また、図5において、デフォルト再生パラメタ値が表示されている状態でユーザによるパラメタ入力用の画面をも表示するようにしても構わない。この場合に、ユーザは、デフォルト値を参照しながらユーザの所望するパラメタ値を入力できるので使い勝手がよい。
【0050】
またさらに、ユーザが一旦デフォルト値を操作して所望のパラメタ値を入力したとしても、気が変わったり、あるいは操作ミス等の理由で、デフォルト値の方がよかったと考える場合も起こり得る。こういったシーンを想定すると、簡単な操作でデフォルト値に戻る仕組みがあればさらに使い勝手は向上すると考えられる。簡単な操作例としては、例えば、所定ボタンを押下したり、所定領域(『デフォルト値』を意味するアイコンなども含む)をクリックするなどの操作が考えられる。
【0051】
この場合、前述したような操作を介することで中央処理装置101には当該デフォルト値の出力指示を行う制御信号が入力され、当該制御信号を入力した中央処理装置101は、リモコン上あるいは表示部208を介して表示装置103に表示画面を表示する処理を行う。これにより、更なる使い勝手の向上が期待できる。
【0052】
再生シーン決定部204は、再生シーン決定手段に相当し、再生シーン決定パラメタ入力部205で入力したパラメタ及び、重要シーンデータ生成部203で生成あるいは重要シーンデータ入力部211入力した重要シーンデータを元に再生シーンを決定する。具体的には、例えば、重要シーンデータが図4に示すデータであり、再生シーン決定パラメタ入力部205において再生時間として80秒あるいは再生割合として16%が入力された場合、重要シーンデータに記述されている全重要シーンが再生可能であるので、図6(a)および図7(a)に示すシーンを再生シーンと決定する。
【0053】
なお、図6および図7は、本再生シーン決定部204で決定した再生シーンであり、図6は再生シーンのデータ構造、図7は再生シーンの決定方法を図示している。中でも、図6(a)および図7(a)は、特に図4で記述された重要シーンに対して、再生シーン決定パラメタ入力部205で入力した再生パラメタの値がデフォルト再生パラメタ決定部216で決定した再生パラメタの値と同じ値であった場合、すなわち、再生シーン決定パラメタ入力部205において、デフォルト再生パラメタ決定部216で決定した再生パラメタ値が入力された場合、あるいは再生シーン決定パラメタ入力部205において、デフォルト再生パラメタ提示部217で提示したパラメタ値が入力された場合を示している。
【0054】
図6(a)において、801は、再生シーンの番号であり、811ないし813は、それぞれ再生シーンを示している。また、802は、その再生シーンの開始位置、803は、その再生シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、再生シーンの開始位置と終了位置をそれぞれ開始時間と終了時間として説明する。
【0055】
また、図7(a)において、900は動画データ、901ないし903はそれぞれ重要シーン#1から重要シーン#3、904ないし906はそれぞれ再生シーン#1ないし再生シーン#3を示している。なお、図6(a)および図7(a)は、再生シーン決定パラメタ入力部205で入力した再生パラメタがデフォルト再生パラメタ決定部216で決定した再生パラメタと同じ値であるため、重要シーンがそのまま再生シーンとなっていることが分かる。
【0056】
一方、例えば、重要シーンデータが図4に示すデータであり、再生シーン決定パラメタ入力部205において再生時間として40秒あるいは再生割合として8%が入力された場合、重要シーンデータに記述されている全重要シーンは再生不可能であるので、各重要シーンを短くしたシーンを再生シーンと決定する。具体的には、例えば、図6(b)および図7(b)に示すように各重要シーンの前半半分を各再生シーンとして決定する。
【0057】
ただし、必ずしも前半半分とする必要はなく、例えば後半半分としても良いし、シーンの中心を含み半分としても良い。また、音声のパワーが最大となる点や画像上の特定画像点を含み、あるいはこの点を先頭として半分としても良いし、それぞれのシーンからある決められた長さ、例えば、上記の例ではすべての重要シーンから40秒減らせばよいので、40÷3≒13.4秒をそれぞれの重要シーンからカットして再生シーンとしても良い。この場合、カットせずに再生シーンとする部分も、重要シーンの前半、後半、あるいは中心を含むように、あるいは音声のパワーが最大となる点や画像上の特定画像点を含むようにしても良いし、あるいはこの点を先頭が再生シーンとなるようにしても良い。
【0058】
なお、中でも、図6(b)および図7(b)は、特に図4で記述された重要シーンに対して、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間40秒あるいは再生割合8%と、デフォルト再生パラメタ決定部216で決定した再生パラメタの値(デフォルト再生時間80秒、デフォルト再生割合16%)の半分であった場合で、各重要シーンの前半半分を再生シーンとした場合を示している。
【0059】
図6(b)において、801は、再生シーンの番号であり、821ないし823は、それぞれ再生シーンを示している。また、802は、その再生シーンの開始位置、803は、その再生シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、再生シーンの開始位置と終了位置をそれぞれ開始時間と終了時間として説明する。
【0060】
また、図7(b)において、900は動画データ、901ないし903はそれぞれ重要シーン#1から重要シーン#3、904‘ないし906’はそれぞれ再生シーン#1‘ないし再生シーン#3’を示している。なお、図6(b)および図7(b)は、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間40秒、再生割合8%となっているため、各再生シーンが各重要シーンの一部で、かつ、各再生シーンの合計が再生時間40秒、再生割合8%となっていることが分かる。さらに、例えば、重要シーンデータが図4に示すデータであり、再生シーン決定パラメタ入力部205において再生時間として120秒あるいは再生割合として24%が入力された場合、重要シーンデータに記述されている全重要シーンよりも長く再生可能であるので、各重要シーンを長くしたシーンを再生シーンと決定する。
【0061】
具体的には、例えば、図6(c)および図7(c)に示すように、各重要シーンの前後を延ばしたシーンを各再生シーンとして決定する。ただし、必ずしも前後を延ばす必要はなく、例えば後ろだけを延ばしても良いし、前だけを延ばしても良い。また、図6(c)および図7(c)では、一例として各重要シーンの長さの割合に応じて、シーンの前後を前後同じ割合で延ばしているが、この限りではなく、例えば、各シーンを一律で延ばしても良いし、前と後ろの延ばす割合を2:1とするなど、色々なバリエーションにしてもよい。
【0062】
なお、中でも、図6(c)および図7(c)は、特に図4で記述された重要シーンに対して、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間120秒あるいは再生割合24%と、デフォルト再生パラメタ決定部216で決定した再生パラメタの値(デフォルト再生時間80秒、デフォルト再生割合16%)の1.5倍であった場合で、各重要シーンの長さに比例した割合で延ばし、かつ前後1:1の割合で延ばして再生シーンとした場合を示している。図6(c)において、801は、再生シーンの番号であり、831ないし833は、それぞれ再生シーンを示している。
【0063】
また、802は、その再生シーンの開始位置、803は、その再生シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、再生シーンの開始位置と終了位置をそれぞれ開始時間と終了時間として説明する。
【0064】
また、図7(c)において、900は動画データ、901ないし903はそれぞれ重要シーン#1から重要シーン#3、904‘’ないし906’‘はそれぞれ再生シーン#1‘’ないし再生シーン#3’‘を示している。なお、図6(c)および図7(c)は、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間120秒、再生割合24%となっているため、各再生シーンが各重要シーンを含み、かつ、各再生シーンの合計が再生時間120秒、再生割合24%となっていることが分かる。
【0065】
さて、再生シーン決定部204は、再生シーン決定パラメタ入力部205で再生パラメタが入力された後あるいはデフォルト値でよいと指定された場合に、中央処理装置101によって実行される。
【0066】
再生動画データ入力部212は、動画データ入力手段に相当し、再生対象の動画データを動画データ入力装置100から入力する。なお、本再生動画データ入力部212は、後述する再生部206によって再生対象の動画データを取得する際に起動され、中央処理装置101によって実行される。
【0067】
表示部208は、表示手段に相当し、再生部206において生成された再生画像を表示装置103に表示する。本表示部208は、再生部206が生成した再生画像を1フレームごとに表示装置103に表示する。この場合、本表示部208は、再生部206によって1フレーム分の再生画像が生成されるごとに起動され、中央処理装置101によって実行される。また、図5で示した表示画面を表示するようにしてもよい。この場合、再生シーン決定パラメタ入力部205が起動された場合にこのGUIのフレームを生成し、利用者からの入力など、当該GUIのフレームに変更があるたびに中央処理装置101が本表示部208を起動して、当該フレームが表示されるようにすれば良い。
【0068】
音声出力部215も表示手段に相当し、再生部206において生成された再生音声を音声出力装置104に表示する。本音声出力部215は、再生部206が生成した再生音声を1フレームごとに音声出力装置104に出力することによって実現可能である。この場合、本音声出力部215は、再生部206によって1フレーム分の再生音声が生成されるごとに起動され、中央処理装置101によって実行される。
【0069】
再生部206は、再生手段に相当し、再生シーン決定部204で決定した再生シーンの動画データを再生動画データ入力部212により入力して、再生画像を生成して表示部208経由で表示装置103に表示する。また、再生音声を生成して音声出力部215に出力する。なお、本再生部206における詳細な処理内容については全体の動作とあわせて後述する。本再生部206は、利用者によって、通常再生あるいは重要シーンの再生が指示された場合に中央処理装置101によって実行される。
【0070】
次に、本動画処理装置の再生操作パネルの一例について図8を用いて説明する。
【0071】
図8において、501は操作パネル、502は動画データ選択ボタン、503は再生ボタン、504は早送りボタン、505は巻き戻しボタン、506は停止ボタン、507は一時停止ボタンであり、508が重要シーン再生指示ボタン、509は重要シーン再生インジケータである。本動画処理装置の利用者は、入力装置102を使用して、動画データ選択ボタン502を操作することによって、再生動画データの選択が可能である。これは、例えば、本動画データ選択ボタン502が操作された場合に、中央処理装置101が再生可能な動画データのリストを生成するとともに画像フレーム化し、表示部208を起動して表示装置103上に表示させ、さらに入力装置102を介して利用者が再生させる動画データを選択可能なように構成すればよい。なお、本処理についてはすでに、一般のハードディスクレコーダなどで実施されているので詳細な説明については省略する。同様に、本動画処理装置の利用者は、再生ボタン503、早送りボタン504、巻き戻しボタン505、停止ボタン506、および一時停止ボタン507を操作することにより、それぞれ、動画データ選択ボタン502の操作により選択された動画データの再生開始指示、早送り開始指示、巻き戻し開始指示、停止指示、および一時停止を行うことができる。なお、これらの処理についてもすでに、一般のハードディスクレコーダなどで実施されているので詳細な説明については省略する。
【0072】
さて、本動画処理装置には、前述のとおり重要シーン再生指示ボタン508がついており、利用者は、本重要シーン再生指示ボタン508を操作することにより、動画データ選択ボタン502の操作により選択された動画データに対して、重要シーンの再生開始指示および重要シーンの再生終了指示が行えるようになっている。これは、例えば、本重要シーン再生指示ボタン508が一度押された場合には、重要シーンの再生開始を行い、もう一度押された場合には重要シーンの再生を終了し、通常再生に戻るように構成する。なお、このときの動作は、再生部206における詳細な処理内容と本動画処理装置の全体の動作とあわせて後述する。
【0073】
また、重要シーン再生インジケータ509は、重要シーン再生が行われている場合に点灯させる様に構成すると良い。
【0074】
なお、本再生操作パネル501における各ボタンは、リモコン上の物理的なボタンとして構成しても良いし、中央処理装置101によって画像フレーム化し、表示部208経由で表示装置103上にオーバレイされても良い。この場合には、例えば、重要シーン再生指示ボタン508付近に、再生シーン決定パラメタ入力部205で入力された再生時間あるいは再生割合を表示しても良い。図8における510は、これを示しており、xxが再生シーン決定パラメタ入力部205で入力された再生時間あるいは再生割合を示している。
【0075】
なお、リモコン上に表示パネルがある場合には、この表示パネルに再生シーン決定パラメタ入力部205で入力された再生時間あるいは再生割合が表示されるように構成してもよい。この場合、例えば、重要シーン再生指示ボタン508が押下され、重要シーン再生開始が指示された後に、リモコンが本動画処理装置と赤外線アクセスにより、再生シーン決定パラメタ入力部205で入力された再生時間あるいは再生割合を取得するよう構成すればよい。
【0076】
次に、再生部206における再生処理の処理内容とあわせて本動画処理装置の全体の動作について図9のフローチャートを用いて説明する。
【0077】
図9に示すとおり、本動画処理装置では、動画データが指定され再生の開始あるいは重要シーン再生の開始が指示されると以下の動作を行う。
【0078】
まず、再生部206は、重要シーン再生が指示されているか否かを判断する(ステップ1001)。
【0079】
上記ステップ1001における判断の結果、重要シーン再生が指定されていないと判断した場合には、通常再生を行う(ステップ1002)。なお、通常再生については、既に広く行われているので、説明を省略するが、本発明の動画処理装置においては、定期的に重要シーン再生指示ボタン508が押下されたかを判断することにより、重要シーン再生が指定されたかを判断し(ステップ1003)、重要シーン再生が指定されずに再生が終了した場合には(ステップ1004)、再生を終了する。なお本通常再生においては、動画データをすべて表示し終わった場合あるいは利用者から再生の終了が指示された場合に再生の終了と判断し、それ以外は通常再生を継続する。
【0080】
一方、上記ステップ1001における判断の結果、重要シーン再生が指定されていると判断した場合には、以下により重要シーンの再生を実施する。すなわち、まず、重要シーンデータ入力部211により、重要シーンデータを入力する(ステップ1005)。なお、重要シーンデータが存在しない場合には、解析動画データ入力部201、特徴データ生成部202、特徴データ保持部213、特徴データ入力部214、重要シーンデータ生成部203、重要シーンデータ保持部210の各部を起動し、重要シーンデータを生成するか、重要シーンデータがないことを表示し、通常再生を実施する。あるいは、重要シーンデータがない場合には、重要シーン再生指示ボタン508を無効化するあるいは重要シーン再生指示ボタン508を表示画面に表示する構成としている場合には、本重要シーン再生指示ボタン508を表示しないように構成しても良い。
【0081】
さて、重要シーンデータが入力できた場合には、再生部206は、続いて、デフォルト再生パラメタ決定部216により、デフォルト再生パラメタを算出し、デフォルト再生パラメタ提示部217が存在する場合には、算出したデフォルト再生パラメタを表示する(ステップ1006)。
【0082】
続いて、再生シーン決定パラメタ入力部205により、再生パラメタを入力し(ステップ1007)、再生シーン決定部204により、再生シーンを決定する(ステップ1008)。
【0083】
続いて、動画データにおける現在の再生位置を取得し(ステップ1009)、この現在の再生位置を元に、次の再生シーンの開始位置及び終了位置を取得する(ステップ1010)。これは、再生シーン決定部204で決定した再生シーンのうち、現在の再生位置よりも後で、かつ現在の再生位置に最も近い再生シーンの開始位置及び終了位置を取得することによって実現できる。
【0084】
次に、再生部206は、ステップ1010で取得した次の再生シーンの開始位置へジャンプし(ステップ1011)、当該再生シーンの再生を行う(ステップ1012)。これは、再生シーンにおける再生画像を表示部208を介して表示装置103への表示すること、及び再生シーンにおける再生音声を音声出力部部206を介して音声出力装置104への出力することにより実施される。
【0085】
なお、本再生シーンの再生中、定期的に重要シーン再生指示ボタン508が押下されたかあるいは再生ボタン503が押下されたかを判断することにより、通常再生が指定されたかを判断し(ステップ1013)、通常再生が指定された場合にはステップ1002乃至ステップ1004の通常再生に移る。
【0086】
また、同再生シーンの再生中、定期的に再生が終了したか否かを判断し(ステップ1014)、再生が終了した場合には動画データの再生を終了する。なお、本重要シーンの再生においては、再生シーン決定部204で決定した再生シーンをすべて再生し終わった場合あるいは利用者から再生の終了が指示された場合に再生の終了と判断し、それ以外は再生シーンの再生を継続する。さらに、同再生シーンの再生中、再生シーン決定パラメタ入力部205により定期的に再生パラメタが変更されたか否かを判断し(ステップ1015)、再生パラメタが変更された場合にはステップ1005に戻る。
【0087】
一方、再生パラメタが変更されていない場合には、続いて、現在の再生位置を取得し(ステップ1016)、当該再生シーンの終了位置に到達したか否かを判断する(ステップ1017)。これは、ステップ1010で取得した再生シーンの終了位置とステップ1016で取得した現在の再生位置とを比較することで判断できる。
【0088】
さて、本ステップ1017における判断の結果、当該再生シーンの終了位置に到達していないと判断した場合には、ステップ1012乃至ステップ1017を繰り返し、当該再生シーンの再生を継続する。一方、ステップ1017における判断の結果、当該再生シーンの終了位置に到達したと判断した場合には、ステップ1009乃至ステップ1017を繰り返すことにより、再生シーン決定部204で決定した再生シーンを順次再生し、再生シーン決定部204で決定したすべての再生シーンを再生し終わると、ステップ1014でそれを認識し、再生を終了する。
【0089】
これにより、図10に示すとおり、各再生シーンにジャンプしつつ再生シーン決定部204で決定した再生シーンのみを再生可能となる。なお、図10は、本発明の動画処理装置に係る再生部206において再生される再生シーンを説明する図ある。図10において、1100は動画データ全体を示し、1104は現在の再生位置を示している。また、1101乃至1103は、再生シーン決定部204で決定した再生シーンを示している。
【0090】
なお、図10においては、便宜上、現在の再生位置が10秒の位置であり、再生シーン決定部204で決定した再生シーンは、図6(a)および図7(a)の再生シーンを例に取っている。本動画処理装置では、上述した再生部206の処理により、現在の再生位置から順次、再生シーン1、再生シーン2、再生シーン3にジャンプしつつ当該再生シーンのみを再生可能となる。
【0091】
なお、本実施例では、現在の再生位置が、最初の再生シーンの開始位置よりも前の場合について説明したが、実際には、現在の再生位置がいくつかの再生シーンの開始位置よりも後ろでも適用可能である。この場合には、現在の位置よりも前の再生シーンを再生されないようにするあるいは上述の処理の対象外とすればよい。これにより、デフォルト再生パラメタ決定部216およびデフォルト再生パラメタ提示部217によるデフォルト再生パラメタの決定および提示、並びに再生シーン決定パラメタ入力部205による再生パラメタの入力および再生シーン決定部204による再生シーンの決定は動的に可能である。
【実施例2】
【0092】
実施例2では、動画データにおけるシーンをランキング付け(格付け)し、それに基づいて重要シーンおよび再生シーンを決定する動画処理装置を提供する。
【0093】
図11は、本実施例2に係る動画処理装置の機能ブロック図である。
【0094】
図11に示すとおり、本実施例に係る動画処理装置は、実施例1で示した動画処理装置の機能ブロックに加えて、ランキングデータ生成部1501と、ランキングデータ保持部1502と、ランキングデータ入力部1503を有して構成される。なお、これらの機能ブロックの一部あるいは全部は、図1で示したハードウェアに加えて、ハードウェアとして実現されてもよいが、中央処理装置101によって実行されるソフトウェアプログラムとして実現されてもよい。なお、以下では、一例として、これらの機能ブロックの全てが中央処理装置101によって実行されるソフトウェアプログラムであるものとして説明する。また、本実施例において、他の装置ですでに作成済みのランキングデータを使用するなど、ランキングデータを本動画処理装置で生成しない場合には、必ずしも解析動画データ入力部201と、特徴データ生成部202と、特徴データ保持部213と、特徴データ入力部214と、ランキングデータ生成部1501と、ランキングデータ保持部1503は必要ない。また、他の装置ですでに作成済みの特徴データを使用するなど、特徴データを本動画処理装置で生成しない場合には、必ずしも解析動画データ入力部201と、特徴データ生成部202と、特徴データ保持部213は必要ない。
【0095】
ランキングデータ生成部1501は、ランキングデータ入力/生成手段に相当し、特徴データ入力部214で入力した特徴データに基づいて、動画データにおけるシーンのランキング付けを行い、図12に示すようなランキングデータを生成する。図12において、1601は、シーンの番号であり、1604ないし1608は、それぞれ動画データにおけるシーンを示している。また、1602は、そのシーンの開始位置、1603は、そのシーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、ランキングデータには開始時間と終了時間が記述されているものとして説明する。さて、このランキングデータ生成部1501におけるシーンのランク付けは、例えば、非特許文献1で記載されている方法で実現可能である。あるいは、動画データが音楽番組のコンテンツであった場合、音声の相関度の評価の方法等によって、音楽部分を検出し、さらに音声のパワーの高いシーン順にランク付けすることでも実現できる。
【0096】
あるいは、音楽番組以外のコンテンツであっても、例えば、動画の輝度分布や動きに基づいて、典型的なパターンが現れた場合にそのシーンのランクを高くすることによっても実現できる。もちろんこれらの方法を組み合わせて使用し、シーンのランク付けを行っても良い。
【0097】
なお、ランキングデータ生成部1501は、利用者によって、ランキングデータの作成が指示された場合、あるいは再生開始時、あるいは図示しないスケジューラによって、ランキングデータが作成されていない動画データを検出した場合に中央処理装置101によって実行される。
【0098】
ランキングデータ保持部1502は、ランキングデータ生成部1501において生成したランキングデータを保持する。これは、例えばランキングデータ生成部1501において生成したランキングデータを記憶装置105あるいは二次記憶装置106に格納することによって実現できる。
【0099】
ただし、ランキングデータ生成部1501において生成したランキングデータが重要シーンデータ生成部203に直接読み込まれるように構成した場合には、本ランキングデータ保持部1502は必ずしも必要はない。なお、本ランキングデータ保持部1502が存在するように構成した場合には、本ランキングデータ保持部1502は、ランキングデータ生成部1501が実行された場合に、ランキングデータが生成されるたびに中央処理装置101によって実行されるように構成すればよい。
【0100】
ランキングデータ入力部1503は、ランキングデータ入力/生成手段に相当し、ランキングデータ保持部1502において保持されたランキングデータ、あるいは他の装置などによって既に生成されているランキングデータを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されているランキングデータを読み出すことによって実現できる。ただし、ランキングデータ生成部1501において生成したランキングデータが重要シーンデータ生成部203に直接読み込まれるように構成した場合には、本ランキングデータ入力部1503は必ずしも必要はない。なお、本ランキングデータ入力部211が存在するように構成した場合には、本ランキングデータ入力部1503は、重要シーンデータ生成部203が実行された場合に、中央処理装置101によって実行されるように構成すればよい。
【0101】
また、本実施例2においては、解析動画データ入力部201、特徴データ入力部214、重要シーンデータ生成部203、および再生シーン決定部204の処理を以下のとおり変更する。
【0102】
解析動画データ入力部201は、動画データにおけるシーンのランキング付けおよび重要シーンを決定するために動画の特徴を生成および解析し、それぞれ特徴データ、ランキングデータおよび重要シーンデータを生成するために動画データ入力装置100から入力する。なお、本解析動画データ入力部201は、利用者によって、特徴データ、ランキングデータ、あるいは重要シーンデータの作成が指示された場合、あるいは再生開始時、あるいは図示しないスケジューラによって、特徴データ、ランキングデータ、あるいは重要シーンデータが作成されていない動画データを発見した場合に中央処理装置101によって実行される。
【0103】
特徴データ入力部214は、特徴データ保持部213において保持された特徴データ、あるいは他の装置などによって既に生成されている特徴データを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されている特徴データを読み出すことによって実現できる。なお、本特徴データ入力部214は、ランキングデータ生成部1501あるいは重要シーンデータ生成部203が実行された場合に、中央処理装置101によって実行されればよい。
【0104】
重要シーンデータ生成部203は、特徴データ入力部214で入力した特徴データおよびランキングデータ生成部1501において生成したランキングデータに基づいて、重要シーンを決定して、図13に示すような重要シーンデータを生成する。図13において、1601は、重要シーンの番号であり、1604ないし1606は、それぞれ重要シーンを示している。また、1602は、その重要シーンの開始位置、1603は、その重要シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、重要シーンデータには開始時間と終了時間が記述されているものとして説明する。
【0105】
さて、この重要シーンデータ生成部203における重要シーンの決定は、例えば、動画データが音楽番組のコンテンツであった場合、ランキングデータにおける音声部分とすることによって実現できる。あるいは、音楽番組以外のコンテンツであっても、ランキングデータにおいて例えば、動画の輝度分布や動きに基づいて、典型的なパターンが現れたシーンとすることよって実現しても良い。あるいは、ランキングデータにおいて、音声のパワーが一定以上のシーンとしても良い。あるいは、ランキングデータにおいて、一定以上の輝度のシーンとしても良い。あるいはランキングデータにおいて、輝度分布が特定のシーンとしても良い。また、もちろん単にランキングデータにおける任意の上位シーンとしてもよい。
【0106】
図13においては、特に図12で示したランキングデータから、ランク1ないしランク3のシーンを重要シーンとして決定し、重要シーンデータを生成した例を示している。なお、重要シーンデータ生成部203は、利用者によって、重要シーンデータの作成が指示された場合、あるいは再生開始時、あるいは図示しないスケジューラによって、重要シーンデータが作成されていない動画データを発見した場合に中央処理装置101によって実行される。なお、図13の例では、動画データが500秒の場合、デフォルト再生パラメタ決定部216で決定されたデフォルトの再生時間は80秒(=(40-20)+(110-100)+(300-250))となり、デフォルトの再生割合は16%(=80÷500×100)となる。
【0107】
再生シーン決定部204は、再生シーン決定パラメタ入力部205で入力したパラメタ及び、ランキングデータ生成部1501で生成あるいはランキングデータ入力部1502で入力したランキングデータ、及び、重要シーンデータ生成部203で生成した重要シーンデータを元に再生シーンを決定する。具体的には、例えば、500秒の動画データに対するランキングデータが図12に示すデータであり、重要シーンデータが図13に示すデータであった場合で、再生シーン決定パラメタ入力部205において、再生時間として80秒あるいは再生割合として16%が入力された場合、重要シーンデータに記述されている全重要シーンが再生可能であるので、図14(a)および図15(a)に示すシーンを再生シーンと決定する。
【0108】
なお、図14および図15は、本再生シーン決定部204で決定した再生シーンであり、図14は再生シーンのデータ構造、図15は再生シーンの決定方法を図示している。中でも、図14(a)および図15(a)は、特に図13で記述された重要シーンに対して、再生シーン決定パラメタ入力部205で入力した再生パラメタの値がデフォルト再生パラメタ決定部216で決定した再生パラメタの値と同じ値であった場合、すなわち、再生シーン決定パラメタ入力部205において、デフォルト再生パラメタ決定部216で決定した再生パラメタ値が入力された場合、あるいは再生シーン決定パラメタ入力部205において、デフォルト再生パラメタ提示部217で提示したパラメタ値が入力された場合を示している。
【0109】
図14(a)において、1601は、再生シーンの番号であり、1604ないし1606は、それぞれ再生シーンを示している。また、1602は、その再生シーンの開始位置、1603は、その再生シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、再生シーンの開始位置と終了位置をそれぞれ開始時間と終了時間として説明する。
【0110】
また、図15(a)において、1900は動画データ、1901、1902、および1903はそれぞれランク2、ランク3、及びランク1のシーンであるとともに、重要シーン#1、重要シーン#2、及び重要シーン#3である。また、1911ないし1913はそれぞれ再生シーン#1ないし再生シーン#3を示している。
【0111】
なお、図14(a)および図15(a)は、再生シーン決定パラメタ入力部205で入力した再生パラメタがデフォルト再生パラメタ決定部216で決定した再生パラメタと同じ値であるため、重要シーンがそのまま再生シーンとなっていることが分かる。
【0112】
一方、例えば、500秒の動画データの重要シーンデータが図13に示すデータであり、ランキングデータが図12に示すデータであった場合において、再生シーン決定パラメタ入力部205において再生時間として40秒あるいは再生割合として8%が入力された場合、重要シーンデータに記述されている全重要シーンは再生不可能であるので、ランキングデータにおけるランクの高いシーン順に再生シーンとして決定する。
【0113】
具体的には、例えば、上述の例では、図14(b)および図15(b)に示すようにランクの高いシーンから40秒分選び、再生シーンとする。ただし、本例では、ランクの最も高いシーンでも50秒であるので、ランク1のシーンを40秒にカットする。このとき、図14(b)および図15(b)に示すように、シーンの中央40秒分以外をカットしても良いし、シーンの先頭から40秒分以外をカットしても良い。さらに、シーンの前後をカットする場合には、前後でカットする割合を適当に決めても良い。また、シーンの中心を含む40秒以外をカットしても良いし、シーンの後ろから40秒分以外をカットしても良い。また、音声のパワーが最大となる点や画像上の特定画像点を含み、あるいはこの点を先頭として40秒以外をカットしても良い。すなわち、シーンの累積した再生時間が再生シーン決定パラメタ入力部205において入力した再生時間あるいは再生割合に入らない場合には、ランクの最も低いシーンの長さで、再生時間を調整する。あるいは、最も低いランクのシーンは再生しないようにしても良い。
【0114】
なお、図14(b)および図15(b)においては、特に図13で記述された重要シーンに対して、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間40秒あるいは再生割合8%と、デフォルト再生パラメタ決定部216で決定した再生パラメタの値(デフォルト再生時間80秒、デフォルト再生割合16%)以下であった場合、図12で記述されたランキングデータにおけるランクの最も高いシーン再生シーンとし、かつこのシーンがランクが最も低いのでこのシーンを40秒にカットした場合を示している。図14(b)において、1601は、再生シーンの番号であり、1604‘は再生シーンを示している。
【0115】
また、1602は、その再生シーンの開始位置、1603は、その再生シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、再生シーンの開始位置と終了位置をそれぞれ開始時間と終了時間として説明する。また、図15(b)において、1900は動画データ、1903はランク1のシーンであり、重要シーン#1である。また、1921は再生シーン#1を示している。
【0116】
なお、図14(b)および図15(b)は、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間40秒、再生割合8%となっているため、再生シーンが重要シーンの一部で、かつ、再生シーンの合計が再生時間40秒、再生割合8%となっていることが分かる。さらに、例えば、500秒の動画データの重要シーンデータが図13に示すデータであり、ランキングデータが図12に示すデータであった場合において、再生シーン決定パラメタ入力部205において再生時間として120秒あるいは再生割合として24%が入力された場合、重要シーンデータに記述されている全重要シーンよりも長く再生可能であるので、ランキングデータにおけるランクの高いシーンから順に再生シーンに加える。
【0117】
具体的には、例えば、上述の例では、図14(c)および図15(c)に示すようにランクの高いシーンから120秒分選び、再生シーンとする。より具体的には、例えば、図14(c)および図15(c)に示すように、ランク1からランク5の各シーンを再生シーンとして決定する。ただし、これらのシーンの合計が再生シーン決定パラメタ入力部205において入力した再生時間あるいは再生割合に入らない場合には、ランクの最も低いシーンの長さで、再生時間を調整する。すなわち、上述の例では、ランク5のシーンを20秒にカットし、合計の再生時間を120秒に、あるいは再生割合を8%に合わせる。このとき、カットするシーンを再生シーンが中央となるように前後をカットしても良いし、先頭からカットしても良い。さらに、前後をカットする場合には、前後でカットする割合を適当に決めても良い。あるいは、シーンの中心を含むようにカットしても良いし、シーンの後ろをカットしても良い。また、音声のパワーが最大となる点や画像上の特定画像点を含むように、あるいはこの点が先頭として再生シーンとなるようにカットしても良い。あるいは、最も低いランクのシーンは再生しないようにしても良い。
【0118】
なお、図14(c)および図15(c)は、特に図14で記述された重要シーンに対して、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間120秒あるいは再生割合24%と、デフォルト再生パラメタ決定部216で決定した再生パラメタの値(デフォルト再生時間80秒、デフォルト再生割合16%)以上であった場合で、ランク1からランク5の各シーンを再生シーンとし、かつランク5のシーンを20秒とすることで全体のシーンの合計が120秒以下になるように調整した例を示している。図14(c)において、1601は、再生シーンの番号であり、1604ないし1607は、それぞれランク1ないしランク4のシーンかつ再生シーンを示している。
【0119】
また、1608も再生シーンであるが、ランク5のシーンの一部となっている。また、1602は、その再生シーンの開始位置、1603は、その再生シーンの終了位置である。なお、開始位置と終了位置は、それぞれ開始時間と終了時間としてもよく、本実施例では、便宜上、再生シーンの開始位置と終了位置をそれぞれ開始時間と終了時間として説明する。また、図15(c)において、1900は動画データ、1901ないし1905はそれぞれランク1からランク5のシーンの一部、1931ないし1935はそれぞれ再生シーン#1ないし再生シーン#5を示している。
【0120】
なお、図14(c)および図15(c)は、再生シーン決定パラメタ入力部205で入力した再生パラメタの値が、再生時間120秒、再生割合24%となっているため、各再生シーンが各重要シーンを含み、かつ、ランク4のシーンおよびランク5のシーンの一部が再生シーンとして加えられて、各再生シーンの合計が再生時間120秒、再生割合24%となっていることが分かる。
【0121】
本実施例2では、さらに、図9におけるステップ1005において、重要シーンデータが存在しない場合には、解析動画データ入力部201、特徴データ生成部202、特徴データ保持部213、特徴データ入力部214、ランキングデータ生成部1501、ランキングデータ保持部1502、ランキングデータ入力部1503、重要シーンデータ生成部203、重要シーンデータ保持部210の各部を起動して重要シーンデータを生成するか、重要シーンデータがないことを表示し、通常再生を実施するように構成する。あるいは、重要シーンデータがない場合には、重要シーン再生指示ボタン508を無効化するあるいは重要シーン再生指示ボタン508を表示画面に表示する構成としている場合には、本重要シーン再生指示ボタン508を表示しないように構成する。これにより、重要シーンをランクの高い順に再生可能となる。
【0122】
なお、実施例1および実施例2では、重要シーンデータ生成部203および再生シーン決定部204の処理は動画データのカテゴリによらず一定の処理を行っていたが、これらの処理が動画データのカテゴリによって、実施例1で示した方法と実施例2で示した方法で切り換えられるようにしても良い。
【0123】
この場合、図16で示すように、実施例2で示した動画処理装置の機能ブロックに加えて、カテゴリ取得部2001を有して構成される。ここで、カテゴリ取得部2001は、EPGにより動画データのカテゴリを取得するか、あるいは入力装置102を介して利用者から動画データのカテゴリが入力されることで動画データのカテゴリを取得し、重要シーンデータ生成部203は、そのカテゴリによって実施例1で示した方法及び実施例2で示した方法のうち、あらかじめ決められた方法で重要シーンデータを生成すように構成する。
【0124】
また、再生シーン決定部204においても、同様にカテゴリ取得部2001で取得した動画データのカテゴリによって実施例1で示した方法及び実施例2で示した方法のうち、あらかじめ決められた方法で再生シーンを決定するように構成する。これにより、動画データのカテゴリによって、効果的に重要シーンの再生が行われるようになる。
【0125】
上記実施例に限らず,その要旨を逸脱しない範囲内で種々変形して実施することが可能である。更に、上記実施の形態には種々の発明が含まれており、開示される複数の構成要件における適宜な組み合わせにより種々の発明が抽出され得る。例えば、実施の形態に示される前構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成が発明となるのは言うまでもない。
【符号の説明】
【0126】
100・・・動画データ入力装置、101・・・中央処理装置、102・・・入力装置、103・・・表示装置、104・・・音声出力装置、105・・・記憶装置、106・・・二次記憶装置、107・・・バス、201・・・動画解析動画データ入力部、202・・・特徴データ生成部、203・・・重要シーンデータ生成部、204・・・再生シーン決定部、205・・・再生シーン決定パラメタ入力部、206・・・再生部、208・・・表示部、210・・・重要シーンデータ保持部、211・・・重要シーンデータ入力部、212・・・再生動画データ入力部、213・・・特徴データ保持部、214・・・特徴データ入力部、215・・・音声出力部、216・・・デフォルト再生パラメタ決定部、217・・・デフォルト再生パラメタ提示部、1501・・・ランキングデータ生成部、1502・・・ランキングデータ保持部、1503・・・ランキングデータ入力部

【特許請求の範囲】
【請求項1】
動画処理装置であって、
動画データを入力する動画データ入力手段と、
該動画データにおける重要シーンが記述された重要シーンデータを入力あるいは生成する重要シーンデータ入力/生成手段と、
該重要シーンデータ入力/生成手段により入力あるいは生成された該重要シーンデータに基づいて第一の再生パラメタを決定する中央処理装置と、
再生シーンを決定するための第二の再生パラメタを入力する第二再生パラメタ入力手段と、
該第二再生パラメタ入力手段により該第二の再生パラメタが入力された場合には、該中央処理装置により決定された第一の再生パラメタより該第二再生パラメタ入力手段により入力された第二の再生パラメタを優先的に使用して該動画データの再生シーンを再生するように制御することを特徴とする動画処理装置。
【請求項2】
上記中央処理装置は、
上記重要シーンデータにおける各重要シーンの時間を合計して重要シーンの総再生時間を算出することにより、第一の再生パラメタを決定することを特徴とする請求項1記載の動画処理装置。
【請求項3】
上記中央処理装置は、
上記動画データ全体の再生時間に対する上記重要シーンの総再生時間の割合を算出することにより、第一の再生パラメタを決定することを特徴とする請求項1記載の動画処理装置。
【請求項4】
請求項1〜3のいずれかに記載の動画処理装置であって、
前記第一再生パラメタ決定手段で決定した第一の再生パラメタの利用者への提示を指示する第一再生パラメタ提示手段を有することを特徴とする動画処理装置。
【請求項5】
請求項4に記載の動画処理装置であって、
前記第一再生パラメタ提示手段は、第一の再生パラメタとして、前記動画データに対する再生時間、あるいは前記動画データの全体の再生時間に対する割合、あるいは該動画データに対する再生時間と動画データの全体の再生時間に対する割合の両方の利用者への提示を指示することを特徴とする動画処理装置。
【請求項6】
請求項4に記載の動画処理装置であって、
前記第二再生パラメタ入力手段は、前記動画データに対する再生時間、あるいは前記動画データの全体の再生時間に対する割合を前記第一再生パラメタ決定手段から入力することを特徴とする動画処理装置。
【請求項7】
動画処理装置であって、
動画データを入力する動画データ入力部と、
該動画データにおける重要シーンが記述された重要シーンデータを特定する重要シーンデータ入力/生成部と、
上記重要シーンデータを保持する重要シーンデータ保持部と、
該重要シーンデータに基づいてデフォルトとなる第一の再生パラメタを決定する第一再生パラメタ決定部と、
再生シーンを決定するための第二の再生パラメタを入力する第二再生パラメタ入力部と、
該第二再生パラメタ入力部により該第二の再生パラメタが入力された場合には、該第一再生パラメタ決定部により決定された第一の再生パラメタより該第二再生パラメタ入力部により入力された第二の再生パラメタを優先的に使用して該動画データの再生シーンを再生するように制御する制御部と、
前記第一再生パラメタ決定手段で決定した第一の再生パラメタを利用者に提示させる第一再生パラメタ提示部を有し、
前記第一の再生パラメタは前記重要シーンの再生時間を示す情報であることを特徴とする動画処理装置。
【請求項8】
前記第二の再生パラメタとして、前記重要シーンの再生時間を設定することを特徴とする請求項7記載の動画処理装置。
【請求項9】
請求項7または8に記載の動画処理装置であって、
前記制御部は、前記第二再生パラメタ入力部により該第二の再生パラメタが入力された場合において、前記第二再生パラメタ入力部で入力した第二のパラメタの値が、前記第一再生パラメタ決定手段で決定した第一のパラメタの値と異なる場合には、前記重要シーンデータに記述されている各重要シーンの前、あるいは、後ろ、あるいは前後を延ばして再生シーンの再生を行うように制御することを特徴とする動画処理装置。
【請求項10】
請求項7または8に記載の動画処理装置であって、
前記制御部は、前記第二再生パラメタ入力部により該第二の再生パラメタが入力された場合において、前記第二再生パラメタ入力部で入力した第二のパラメタの値が、前記第一再生パラメタ決定手段で決定した第一のパラメタの値と異なる場合には、前記重要シーンデータに記述されている各重要シーンの前、あるいは、後ろ、あるいは前後をカットして再生シーンの再生を行うように制御することを特徴とする動画処理装置。
【請求項11】
動画処理装置であって、
動画データを入力する動画データ入力部と、
該動画データにおける重要シーンが記述された重要シーンデータを特定する重要シーンデータ入力/生成部と、
上記重要シーンデータを保持する重要シーンデータ保持部と、
該重要シーンデータに基づいて第一の再生パラメタを決定する第一再生パラメタ決定部と、
再生シーンを決定するための第二の再生パラメタを入力する第二再生パラメタ入力部と、
該第二再生パラメタ入力部により該第二の再生パラメタが入力された場合には、該第一再生パラメタ決定部により決定された第一の再生パラメタより該第二再生パラメタ入力部により入力された第二の再生パラメタを優先的に使用して該動画データの再生シーンを再生するように制御する制御部と、
前記第一再生パラメタ決定部で決定した第一の再生パラメタを利用者に提示させる第一再生パラメタ提示部を有し、
前記第一の再生パラメタは再生すべき前記重要シーンの動画データの全体の再生時間に対する割合を示す情報であることを特徴とする動画処理装置。
【請求項12】
前記第二の再生パラメタとして、再生すべき前記重要シーンの動画データの全体の再生時間に対する割合を設定することを特徴とする請求項11記載の動画処理装置。
【請求項13】
請求項11または12に記載の動画処理装置であって、
前記制御部は、前記第二再生パラメタ入力部により該第二の再生パラメタが入力された場合において、前記第二再生パラメタ入力部で入力した第二のパラメタの値が、前記第一再生パラメタ決定手段で決定した第一のパラメタの値と異なる場合には、前記重要シーンデータに記述されている各重要シーンの前、あるいは、後ろ、あるいは前後を延ばして再生シーンの再生を行うように制御することを特徴とする動画処理装置。
【請求項14】
請求項11または12に記載の動画処理装置であって、
前記制御部は、前記第二再生パラメタ入力部により該第二の再生パラメタが入力された場合において、前記第二再生パラメタ入力部で入力した第二のパラメタの値が、前記第一再生パラメタ決定手段で決定した第一のパラメタの値と異なる場合には、前記重要シーンデータに記述されている各重要シーンの前、あるいは、後ろ、あるいは前後をカットして再生シーンの再生を行うように制御することを特徴とする動画処理装置。
【請求項15】
動画処理装置であって、
動画データを入力する動画データ入力手段と、
該動画データにおけるシーンごとにランキングづけられたランキングデータを入力あるいは生成するランキングデータ入力/生成手段と、
該ランキングデータに基づいて重要シーンが記述されたデータを設定する重要シーンデータ生成手段と、
該重要シーンデータ生成手段により生成された該重要シーンデータに基づいて、該重要シーンデータの少なくとも一部を再生するための第一の再生パラメタを決定する第一再生パラメタ決定手段と、
該重要シーンデータの少なくとも一部を再生するための第二の再生パラメタを入力する第二再生パラメタ入力手段と、
該第二再生パラメタ入力手段により該第二の再生パラメタが入力された場合には、該第一再生パラメタ決定手段により決定された第一の再生パラメタより、該第二再生パラメタ入力手段により入力された第二の再生パラメタを優先的に使用するように制御する制御部を備えることを特徴とする動画処理装置。
【請求項16】
前記第二の再生パラメタとして、前記重要シーンの再生時間を設定し、当該再生時間の制約に基づき、前期ランキングデータによるランキングによって重み付けを行って、再生すべき重要シーンを抽出することを特徴とする請求項15記載の動画処理装置。
【請求項17】
前記第二の再生パラメタとして、再生すべき前記重要シーンの動画データの全体の再生時間に対する割合を設定し、当該割合の制約に基づき、前期ランキングデータによるランキングによって重み付けを行って、再生すべき重要シーンを抽出することを特徴とする請求項15記載の動画処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate


【公開番号】特開2010−171999(P2010−171999A)
【公開日】平成22年8月5日(2010.8.5)
【国際特許分類】
【出願番号】特願2010−61781(P2010−61781)
【出願日】平成22年3月18日(2010.3.18)
【分割の表示】特願2005−120484(P2005−120484)の分割
【原出願日】平成17年4月19日(2005.4.19)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】