テロップ検出装置及び方法並びにレコーダ
【課題】 映像内のテロップを高精度で検出することができるテロップ検出装置及び方法並びにレコーダを提供する。
【解決手段】
入力映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出し、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定する。
【解決手段】
入力映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出し、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像信号からテロップ部分の情報を検出するテロップ検出装置及び方法並びにそのテロップ検出装置及び方法が適用されたディスクレコーダ等のレコーダに関する。
【背景技術】
【0002】
テレビ放送番組には、情報番組やバラエティ番組のように、番組全体が幾つかの話題から構成される番組がある。このような番組においては、放送中の映像が何の話題についての映像であるのかを示すため、画面隅にテロップが表示されることが多い。例えば、図1に示すように画面Aの右上隅にテロップBが表示される。このようなテロップをコーナーテロップ(「コーナー」=「画面隅」の意)と呼ぶ。コーナーテロップは番組の話題を示すためのものであり、番組の内容理解において重要なキー情報と言える。よってコーナーテロップが検出できれば、番組全体を話題毎に構造化したり、ユーザによるシーン検索の支援が出来たりといった応用が可能になる。
【0003】
図2はかかるコーナーテロップと放送中の映像に付加される通常のテロップとの差異について示している。通常のテロップは一般に視聴者に注目させるために、テロップ自体を目立たせる必要があり、通常のテロップを構成する画素と背景との輝度差が大きく、エッジ(文字の縁)の輝度強度も強い。また、通常のテロップの表示時間は短く、概ね数秒程度である。
【0004】
これに対し、コーナーテロップは、上記のように放送中の番組内の話題についての概要を示すテロップである。これにより、ユーザが番組を途中から視聴した場合でも、コーナーテロップを見ればどのような番組かを大まかに理解できる。その後は基本的に不要なテロップとなるので、できるだけ本編映像の妨げにならないような表示形態であることが望ましい。よって、コーナーテロップを構成する画素と背景との輝度差も比較的小さく、エッジ強度も弱い。ただし、コーナーテロップは同一の話題が続いている間に亘って表示されるので、コーナーテロップの表示時間は長く、少なくとも数十秒は表示される。
【0005】
通常のテロップを検出する従来の方法としては、特許文献1には画面端に表示されるテロップとして、緊急ニュースなどの速報用テロップの検出方法が示されている。当該検出方法によれば、速報用テロップはテレビ画面の上部または下部の所定領域に表示されるので、これらの画面領域を対象に時間軸上の閾値以上の輝度変化を検出し、閾値以上の輝度変化の時点を速報用テロップの開始時点および終了時点として検出することが行われる。
【0006】
また、特許文献2に示されたテロップの検出方法によれば、テロップには一般的に高輝度であり、背景との境目に強いエッジがあるという特徴があるため、高輝度画素のみを有効とした画像である輝度2値化画像と、エッジ検出した画像を数画素分膨張したエッジ膨張画像との重ね合わせ(AND処理)によりテロップ部分を検出することが行われる。
【0007】
更に、特許文献3には、テレビジョン信号中の映像信号の任意の画素の輝度レベルと周辺画素の輝度レベルを比較して略均一な輝度レベルの領域を検出する均一記録領域検出回路と、映像信号の任意の映像平面における周波数成分の高域を検出する高周波領域検出回路と、その任意の画素の輝度レベルが所定時間以上無変化であるか否かを判定する一定時間無変化画素検出回路と、を備え、それら回路の各出力を基にテロップを抽出する方法が開示されている。
【特許文献1】特開平12−23062号公報
【特許文献2】特開平12−182053号公報
【特許文献3】特開平10−233994号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、上記したように、コーナーテロップは通常のテロップと異なる性質を持つため、特許文献1及び2の開示技術においては、背景との輝度差が大きいテロップの検出には有効であるが、コーナーテロップのように背景との輝度差が小さいテロップの検出には不向きであるという欠点がある。上記の特許文献3の開示技術においては、文字の構成輝度がほぼ均一であるテロップの検出には有効であるが、コーナーテロップは構成輝度が均一である保証は少なく、コーナーテロップの高精度の検出が難しいという欠点がある。
【0009】
本発明が解決しようとする課題には、上記の欠点が一例として挙げられ、映像内のコーナーテロップ等のテロップを高精度で検出することができるテロップ検出装置及び方法並びにレコーダを提供することが本発明の目的である。
【課題を解決するための手段】
【0010】
請求項1に係る発明のテロップ検出装置は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0011】
請求項9に係る発明のレコーダは、入力映像信号を記録媒体に記録するレコーダであって、入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0012】
請求項11に係る発明のテロップ検出装置は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0013】
請求項17に係る発明のレコーダは、入力映像信号を記録媒体に記録するレコーダであって、入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0014】
請求項19に係る発明のテロップ検出方法は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を前記静止エッジ画像データとして検出し、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定することを特徴としている。
【0015】
請求項20に係る発明のテロップ検出方法は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出し、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定することを特徴としている。
【発明を実施するための最良の形態】
【0016】
請求項1に係る発明のテロップ検出装置においては、入力映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分が静止エッジ画像データとして検出され、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域が判定される。
【0017】
請求項9に係る発明のレコーダにおいては、入力映像信号又は前記記録媒体に記録された映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分が静止エッジ画像データとして検出され、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域が判定される。
【0018】
また、請求項19に係る発明のテロップ検出方法においては、入力映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出し、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定することが行われる。
【0019】
よって、請求項1、請求項9及び請求項19に係る発明においては、テロップを構成する画素と背景との輝度差も比較的小さく、エッジの輝度強度が弱いテロップを高精度で検出することができる。
【0020】
請求項11に係る発明のテロップ検出装置においては、1フレームが所定の複数画素からなるブロック単位に分割され、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データが入力映像信号のフレーム毎に作成され、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分が静止ブロック画像データとして検出され、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止ブロック画像データが示すブロックの密集度に応じてテロップ領域が判定される。
【0021】
請求項17に係る発明のレコーダにおいては、入力映像信号又は前記記録媒体に記録された映像信号の1フレームが所定の複数画素からなるブロック単位に分割され、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データが入力映像信号のフレーム毎に作成され、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分が静止ブロック画像データとして検出され、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止ブロック画像データが示すブロックの密集度に応じてテロップ領域が判定される。
【0022】
請求項20に係る発明のテロップ検出方法においては、1フレームを所定の複数画素からなるブロック単位に分割し、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を静止ブロック画像データとして検出し、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定することが行われる。
【0023】
よって、請求項11、請求項17及び請求項20に係る発明においては、テロップを構成する画素と背景との輝度差も比較的小さく、エッジの輝度強度が弱いテロップを高精度で検出することができる。また、ブロック単位で検出処理することにより、少ないデータ量でテロップを検出することができるので、処理負荷を軽減させることができる。
【実施例】
【0024】
以下、本発明の実施例を図面を参照しつつ詳細に説明する。
【0025】
図3は本発明のテロップ検出装置が適用されたディスクレコーダを示している。このディスクレコーダは、TVチューナ101、A/D変換器102、MPEGエンコーダ103、制御部104、表示部105、操作部106、HDD(ハードディスクドライブ)装置107、光ディスクドライブ装置108、ROM109、RAM110、MPEGデコーダ111、D/A変換器112及びコーナーテロップ検出装置113からなる。
【0026】
TVチューナ101はアンテナ入力端子121に接続され、そこに接続されるアンテナ(図示せず)を介してテレビ放送波を制御部104による制御によって選択的に受信しその受信信号を復調してアナログの映像信号及び音声信号を出力する。TVチューナ101の出力はA/D変換器102に接続されている。A/D変換器102はTVチューナ101から出力されるアナログの映像信号及び音声信号をディジタル化する。また、A/D変換器102は外部映像及び音声入力端子122及び123に接続され、そこに供給されるアナログの映像信号及び音声信号をディジタル化する。A/D変換器102の出力はエンコーダ103に接続されている。エンコーダ103はディジタル化された映像信号及び音声信号を例えば、MPEG形式の圧縮データに変換する。
【0027】
エンコーダ103、制御部104、HDD装置107、光ディスクドライブ装置108、ROM109、RAM110、デコーダ111及びコーナーテロップ検出装置113は共通のバス116に接続されている。
【0028】
制御部104は例えば、マイクロコンピュータからなり、予め定められた制御用プログラムに従って本ディスクレコーダ全体を制御する。制御部104とTVチューナ101との間は図示しない制御ラインによって接続され、TVチューナ101の受信チャンネルが制御部104によって制御されるようになっている。
【0029】
表示部105及び操作部106は制御部104に接続されている。表示部105は制御部104から表示指令に応じてTVチューナ101の受信チャンネルやHDD装置107及び光ディスクドライブ装置108の記録/再生状態を表示する。操作部106はユーザの入力操作を受け入れてその入力操作に応じた指令を制御部104に供給する。
【0030】
HDD装置107は書き換え可能な固定ディスク(図示せず)による記憶装置であり、制御部104の書込指示に応じてエンコーダ103から供給される圧縮データを内部の固定ディスクのその書込指示が示すアドレス位置に書き込む。また、制御部104の読出指示に応じて固定ディスクからその読出指示によってアドレス指定された記憶位置の圧縮データを読み出してバス116に出力する。
【0031】
光ディスクドライブ装置108は、リムーバブル型の記憶装置であり、制御部104の書込指示に応じてエンコーダ103又はHDD装置107からの圧縮データを光ディスク115に書き込み可能な装置である。光ディスク115としては例えば、DVD−RやDVD−RWが用いられる。光ディスクドライブ装置108は制御部104の読出指示に応じて光ディスク115に書き込まれている圧縮データを読み出すこともできる。
【0032】
ROM109には上記の制御用プログラムが予め書き込まれている。RAM110には制御部104の制御動作において必要なデータが書き込まれ又はそこからデータが読み出される。
【0033】
デコーダ111はバス116を介してエンコーダ103、制御部104、HDD装置107又は光ディスクドライブ装置108から供給される圧縮データを伸張してディジタルの映像信号及び音声信号を復元する。復元されたディジタルの映像信号及び音声信号はD/A変換器112に供給される。D/A変換器112はディジタルの映像信号及び音声信号をアナログの映像信号及び音声信号に変換して映像及び音声出力端子124及び125に供給する。映像及び音声出力端子124及び125には図示しないテレビモニタが接続される。
【0034】
コーナーテロップ検出装置113は上記したようにバス116に接続され、MPEG形式の圧縮データに応じてコーナーテロップを検出する。コーナーテロップ検出装置113には、エンコーダ3から出力されている圧縮データ、HDD装置107から読み出された圧縮データ、或いは光ディスク115から光ディスクドライブ装置108によって読み出された圧縮データのいずれかが制御部104の制御によって供給される。コーナーテロップ検出装置113によるコーナーテロップ検出出力は制御部104に供給される。
【0035】
図4は、コーナーテロップ検出装置113の概略構成を示している。コーナーテロップ検出装置113は、エッジ抽出部1と、コーナーテロップ候補検出部2と、コーナーテロップ判定部3とを備えている。
【0036】
エッジ抽出部1は、フレーム抽出部11、フレーム内エッジ抽出部12、静止エッジ検出部13及び静止エッジバッファ14からなり、入力映像信号から1フレーム毎に静止エッジを検出してそれを保存する。フレーム抽出部11は入力映像信号から1フレーム分の映像信号を抽出する。フレーム内エッジ抽出部12は1フレーム分の映像信号から輝度上のエッジを形成した画素からなるエッジ画像データを抽出する。エッジ画像データはテロップ文字の縁などの、隣接画素との輝度差が所定値以上の急峻である部分、すなわちエッジを示す。静止エッジ検出部13は抽出されたエッジ画像データと、既に検出された静止エッジ画像データとを比較して、位置の変化しない部分のエッジ画素を静止エッジ画像データとして検出する。静止エッジバッファ14は静止エッジ検出部13で検出された静止エッジ画像データを保存する。
【0037】
コーナーテロップ候補検出部2は、エッジ数測定部21及び継続時間測定部22からなり、静止エッジ検出部13によって検出された静止エッジ画像データが何フレームに亘って継続したかを検出する。エッジ数測定部21は、静止エッジ検出部13によって検出された静止エッジ画像データが示すエッジの数を測定する。継続時間測定部22は、エッジ数測定部21によって測定されたエッジ数が閾値Tn以上である状態が継続したフレーム数を測定する。
【0038】
コーナーテロップ判定部3は、エッジブロック作成部31、ブロック密集度算出部32及びエッジブロックバッファ33からなり、静止エッジ画像データに基づいてコーナーブロック領域を判定する。エッジブロック作成部31は、静止エッジ画像データに応じて静止エッジブロック画像データを作成する。ブロック密集度算出部32は、画像内のブロック密集度を算出してその密集度に応じてコーナーブロック領域を判定する。エッジブロックバッファ33は、エッジブロック画像データを保持する。
【0039】
なお、本実施例では特に断り書きが無い場合、各フレームの画素を構成する要素は輝度信号とする。
【0040】
かかる構成のコーナーテロップ検出装置113の動作について以下にフローチャートを用いて説明する。
【0041】
図5に示すように、エッジ検出部1においては、入力映像信号を受け入れる前に、初期化処理として、コーナーテロップ候補の継続フレーム数を示すフレーム計数値countが初期値0にリセットされる(ステップS1)。実際のコーナーテロップ検出処理が開始されると、先ず、フレーム抽出部11が入力映像信号から1フレーム分の映像信号(画素データ)を抽出する(ステップS2)。入力映像信号はMPEG等の圧縮形式のディジタル圧縮信号であるが、これ以外のアナログ信号、デジタル信号、他の圧縮形式のディジタル圧縮信号であっても良い。画像サイズなどは問わないが、アナログ映像信号の場合はA/D(アナログ/デジタル)変換器を介してフレーム抽出部11には供給される。
【0042】
フレーム抽出部11は1フレームを複数の領域に分割し、有効部分と無効部分とに分ける(ステップS3)。例えば、図6に示すように、抽出した1フレームを縦方向4つ、横方向2つの計8領域に分割し、画面隅に相当する4つの領域を有効領域とし、残りを無効領域とする。コーナーテロップは画面隅に表示される傾向が高いため、このように有効領域を限定することで、処理の効率化及び検出精度向上が期待できる。図6の場合には以降のエッジ処理なども4つの有効領域に対して個々に行われる。また、領域分割の方法はこれ以外でも良く、また領域分割自体を行わなくても良い。
【0043】
フレーム内エッジ抽出部12は、フレーム内の有効領域の画素データからエッジを抽出し、エッジ画像データを作成する(ステップS4)。エッジ抽出に用いるフィルタとしては例えば、ラプラシアンフィルタを用いることができるが、これに特に限定されない。なお、コーナーテロップはエッジが弱いという性質があるため、好ましくはエッジ判定を緩めにしても良い。
【0044】
静止エッジ検出部13は、現フレームが入力映像信号の先頭フレームか、若しくはコーナーテロップ候補が検出された直後のフレームか否かを判定する(ステップS5)。すなわち、フレーム計数値countが0であるか否かが判別される。ステップS4にてエッジ検出が行われたフレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームであれば、count=0であり、検出されたエッジ画像データを静止エッジ画像データとし、静止エッジバッファ14に格納する(ステップS6)。一方、ステップS4にてエッジ検出が行われたフレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームではないならば、今回作成したエッジ画像データと既に検出された静止エッジ画像データ(例えば、前回検出された静止画エッジ画像データ)とのAND(論理積)をとり、それを新たな静止エッジ画像データとし、静止エッジバッファ14に格納する(ステップS7)。なお、ステップS7では、今回作成したエッジ画像データと既に検出された静止エッジ画像データとのAND処理に限らず、今回作成したエッジ画像データと既に検出された静止エッジ画像データとのOR(論理和)をとり、それを静止エッジ画像データとしても良く、これ以外の重ね合わせ手法を用いても良い。
【0045】
例えば、図7(a)に示すようなコーナーテロップの画像が有効領域にある場合には、その静止エッジ画像データは図7(b)に示すようになる。
【0046】
エッジ数測定部21は、静止エッジバッファ14から静止エッジ画像データを取得し、静止エッジ画像データが示すエッジの数を測定し、そのエッジ数が閾値Tn(第1閾値)以上になったか否かを判別する(ステップS8)。エッジ数が閾値Tn以上になった場合には、フレーム計数値countが1だけ増加され(ステップS9)、入力映像信号の全フレームの処理が終了したか否かが判別される(ステップS10)。全フレームの処理が終了していない場合には、入力映像信号の処理が次のフレームに進められ(ステップS11)、そして、ステップS2に戻って次のフレームについてのコーナーテロップ検出処理が実行される。
【0047】
エッジ数が閾値Tn以上になった場合には、継続時間測定部22においてフレーム計数値countが閾値Tc(第2閾値)より大であるか否かが判別される(ステップS12)。閾値Tcはコーナーテロップ表示時間の下限に対応する。コーナーテロップには表示時間が長いという性質があるため、閾値Tcは好ましくは長めに設定しても良い。閾値Tcの具体的な設定方法としては、番組の全体的な長さに基づいて番組中の各話題の時間を類推して設定することが考えられる。例えば、番組長が1時間の場合、話題数を10個程度と想定すると、各話題の平均時間は約6分程度である。ただし、番組中には現実的には話題以外にコマーシャルなども含まれるので、それらを加味した上で、例えば、Tcを2,3分程度に設定しても良い。また各番組の性質を元にして、話題数が少なければTcを更に長めに設定し、逆に話題数が多ければTcを短めに設定しても良い。全ての番組で閾値Tcを例えば、1分のように固定長に設定しても良い。
【0048】
count≦Tcならば、保存された静止エッジ画像データはコーナーテロップの画像ではない可能性が高いので、静止エッジバッファ14に保存された静止エッジ画像データが消去され、またフレーム計数値countは初期値0にリセットされる(ステップS13)。その後、ステップS10が実行される。
【0049】
count>Tcならば、コーナーテロップ判定部3によるコーナーテロップ判定サブルーチンが実行され(ステップS14)、その後、ステップS13が実行される。
【0050】
コーナーテロップ判定サブルーチンにおいて、図8に示すように、先ず、エッジブロック作成部31は、コーナーテロップ候補検出部2において検出された静止エッジ画像データからエッジブロック画像データを作成し、そのエッジブロック画像データをエッジブロックバッファ33に格納する(ステップS21)。エッジブロック画像データは、静止エッジ画像を8×8画素からなるブロック単位に分割し、各ブロック内のエッジ数が所定数以上である多エッジ数のブロックをエッジブロックとした画像を示す。例えば、図7(b)に示した静止エッジ画像データの画像に対して、ブロック単位は図7(c)に示すように破線で示され、エッジブロックは図7(d)に示すように黒のブロックである。なお、ブロックは8×8画素に限らず、縦横を他の画素数で構成しても良い。
【0051】
エッジブロック作成部31は、エッジブロック画像から空間的に孤立したブロックを除去する(ステップS22)。図9(a)に示すように静止エッジ画像にコーナーテロップ以外のごみ等のエッジが含まれている場合には、それに基づいたエッジブロック画像には図9(b)に示すようにコーナーテロップ部分以外にもブロックが現れる。よって、ステップS22では図9(c)に示すように、このような孤立ブロックを除去したエッジブロック画像が作成される。
【0052】
ブロック密集度算出部32は、エッジブロック作成部31によって作成されたエッジブロック画像のブロック数が閾値Tb(第3閾値)より大であるか否かを判別する(ステップS23)。ブロック数が閾値Tb以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0053】
ブロック密集度算出部32は、ブロック数が閾値Tbより大であるならば、そのエッジブロックを囲む最小の矩形領域をブロック囲み領域として設定する(ステップS24)。エッジブロック作成部31によって作成されたエッジブロック画像において例えば、図10(a)に示すように、エッジブロックが存在するならば、図10(b)に太線で示すように矩形のブロック囲み領域は設定される。ブロック密集度算出部32は、設定したブロック囲み領域に対するエッジブロックの面積比を算出し、その面積比が閾値Ta(第4閾値)以上であるか否かを判別する(ステップS25)。面積比が閾値Taより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0054】
一方、面積比が閾値Ta以上ならば、ブロック密集度算出部32は、設定したブロック囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する(ステップS26)。コーナーテロップ情報は、コーナーテロップの開始時刻及び終了時刻、静止エッジ画像、エッジブロック画像、及びブロック囲み領域の座標の少なくとも1である。OCR(光学式文字読取装置)処理により静止エッジ画像の文字認識を行って、その結果を文字コードとして出力しても良い。
【0055】
図11は、本発明の実施例を示している。図11に示したコーナーテロップ検出装置は、図4の装置と同様に、エッジ抽出部1と、コーナーテロップ候補検出部2と、コーナーテロップ判定部3とを備えている。エッジ抽出部1と、コーナーテロップ候補検出部2とは、図4の装置のものと同一である。コーナーテロップ判定部3は、孤立エッジ除去部35と、エッジ密集度算出部36とから構成される。孤立エッジ除去部35は静止エッジ画像から孤立エッジを除去する。エッジ密集度算出部36は、孤立エッジが除去された静止エッジ画像内のエッジ密集度を算出する。
【0056】
図11のコーナーテロップ判定部3によるコーナーテロップ判定サブルーチンにおいて、図12に示すように、孤立エッジ除去部35はコーナーテロップ候補検出部2において検出された静止エッジ画像から空間的に孤立した孤立エッジを除去する(ステップS31)。例えば、図13(a)に示した孤立エッジを含む静止エッジ画像に対して、孤立エッジ除去部35によって、図13(b)に示すように、孤立エッジを除去した静止エッジ画像が作成される。
【0057】
エッジ密集度算出部36は、孤立エッジ除去後の静止エッジ画像のエッジ数が閾値Te(第5閾値)より大であるか否かを判別する(ステップS32)。エッジ数が閾値Te以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0058】
エッジ数が閾値Teより大であるならば、その静止エッジ画像のエッジを全て囲む最小の矩形領域をエッジ囲み領域として設定する(ステップS33)。上記の図13(b)の孤立エッジ除去後の静止エッジ画像においては、例えば、図13(c)に太線で示すように矩形のエッジ囲み領域は設定される。
【0059】
エッジ密集度算出部36は、設定したエッジ囲み領域に対するエッジ部分の面積比を算出し、その面積比が閾値Ta(第6閾値)以上であるか否かを判別する(ステップS34)。面積比が閾値Taより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0060】
一方、面積比が閾値Ta以上ならば、エッジ密集度算出部36は、設定したエッジ囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する(ステップS35)。
【0061】
かかる図11及び図12に示した実施例においては、画素単位でコーナーテロップ領域を決定することができるので、コーナーテロップ領域をより限定的に判定することができる。
【0062】
図14は、更に本発明の他の実施例を示している。図14に示したコーナーテロップ検出装置は、静止ブロック検出部5、コーナーテロップ候補検出部6と、コーナーテロップ判定部7とを備えている。静止ブロック検出部5は、フレーム抽出部51、フレーム内エッジ抽出部52、エッジブロック作成部53、静止ブロック検出部54及び静止ブロックバッファ55を備え、入力映像信号から1フレーム毎に静止ブロック画像を検出してそれを保存する。
【0063】
フレーム抽出部51は入力映像信号から1フレーム分の映像信号を抽出する。フレーム内エッジ抽出部52は1フレーム分の映像信号からエッジを形成した画素からなるエッジ画像を抽出する。エッジブロック作成部53は抽出されたエッジ画像からエッジブロック画像を作成する。静止ブロック検出部54はエッジブロック画像から静止ブロック画像を検出してそれを静止ブロックバッファ55に保存させる。
【0064】
コーナーテロップ候補検出部6は、ブロック数測定部61及び継続時間測定部62を備え、静止ブロック検出部13によって検出された静止ブロック画像の状態が何フレームに亘って継続したことを検出する。ブロック数測定部61は、静止ブロック検出部13によって検出された静止ブロック画像のブロック数を測定する。継続時間測定部62は、ブロック数測定部61によって測定されたブロック数が閾値以上である状態が継続したフレーム数を測定する。
【0065】
コーナーテロップ判定部7は、孤立ブロック除去部71及びブロック密集度算出部72からなり、静止ブロック画像のコーナーテロップを含むブロックを判定する。孤立ブロック除去部71は静止ブロック画像から孤立ブロック除去する。ブロック密集度算出部72は、孤立ブロックが除去された静止ブロック画像内のブロック密集度を算出してブロック密集度に基づいてコーナーテロップを含むブロックを判定する。
【0066】
図14のコーナーテロップ検出装置の動作について以下にフローチャートを用いて説明する。
【0067】
図15に示すように、静止ブロック検出部5においては、入力映像信号を受け入れる前に、初期化処理として、コーナーテロップ候補の継続フレーム数を示すフレーム計数値countが初期値0にリセットされる(ステップS51)。実際のコーナーテロップ検出処理が開始されると、先ず、フレーム抽出部51が入力映像信号から1フレーム分の映像信号(画素データ)を抽出する(ステップS52)。
【0068】
フレーム抽出部51は1フレームを複数の領域に分割し、有効部分と無効部分とに分ける(ステップS53)。ステップS53の実行後、フレーム内エッジ抽出部52は、有効領域の画素データからエッジを抽出し、エッジ画像を作成する(ステップS54)。ステップS51〜S54は上記したステップS1〜S4と同一である。
【0069】
エッジブロック作成部53は、エッジ画像からエッジブロック画像を作成する(ステップS55)。エッジブロック画像の作成方法としてはエッジブロック作成部31において示した方法が用いられる。すなわち、エッジ画像を8×8画素からなるブロック単位に分割し、各ブロック内のエッジ数が所定数以上である多エッジ数のブロックをエッジブロックとした画像が作成される。ここで入力映像信号がMPEG等の圧縮映像信号の場合には、そのDCT係数に基づいて、高周波ブロック(エッジの多いブロック)を検出することができる。このようなブロックをエッジブロックとして用いても良い。また、圧縮映像信号の場合には、入力圧縮映像信号のフルデコード処理、及びステップS54のエッジ画像の作成が不要となるので、処理負荷の軽減につながる。なお、MPEGのDCT係数から高周波ブロックを検出する方法については、例えば、59P0262の公開公報(公報番号をお知らせください)に示された方法を用いることができる。
【0070】
静止ブロック検出部54は、エッジブロック作成部53によってエッジブロック画像が作成された現フレームが入力映像信号の先頭フレームか、若しくはコーナーテロップ候補が検出された直後のフレームか否かを判定する(ステップS56)。現フレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームであれば、作成されたエッジブロック画像を静止ブロック画像とし、静止ブロックバッファ55に格納する(ステップS57)。一方、現フレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームではないならば、今回作成したエッジブロック画像と既に検出された静止ブロック画像(例えば、前回検出された静止ブロック画像)とのAND(論理積)をとり、それを静止ブロック画像とし、静止ブロックバッファ55に格納する(ステップS58)。なお、ステップS58では、今回作成したエッジブロック画像と既に検出された静止ブロック画像とのOR(論理和)をとり、それを静止ブロック画像としても良く、これ以外の重ね合わせ手法を用いても良い。
【0071】
ブロック数測定部61は、静止ブロックバッファ55から静止ブロック画像を読み出して取得し、静止ブロック画像中のブロック数を測定し、そのブロック数が閾値Tn(第1閾値)以上になったか否かを判別する(ステップS59)。ブロック数が閾値Tn以上になった場合には、フレーム計数値countが1だけ増加され(ステップS60)、入力映像信号の全フレームの処理が終了したか否かが判別される(ステップS61)。全フレームの処理が終了していない場合には、入力映像信号の処理が次のフレームに進められ(ステップS62)、そして、ステップS52に戻って次のフレームについてのコーナーテロップ検出処理が実行される。
【0072】
ブロック数が閾値Tn以上になった場合には、継続時間測定部62においてフレーム計数値countが閾値Tc(第2閾値)より大であるか否かが判別される(ステップS63)。count≦Tcならば、静止ブロックバッファ55に現在保存された静止ブロック画像データはコーナーテロップの画像データではない可能性が高いので、静止ブロックバッファ55に保存された静止ブロック画像データが消去され、またフレーム計数値countは初期値0にリセットされる(ステップS64)。その後、ステップS61が実行される。
【0073】
count>Tcならば、コーナーテロップ判定部3によるコーナーテロップ判定サブルーチンが実行され(ステップS65)、その後、ステップS64が実行される。
【0074】
ステップS65のコーナーテロップ判定サブルーチンにおいて、図16に示すように、先ず、孤立ブロック除去部71は、静止ブロック画像から空間的に孤立したブロックを除去する(ステップS71)。ステップS71では孤立ブロックを除去した静止ブロック画像が作成される。
【0075】
ブロック密集度算出部72は、孤立ブロック除去部71による孤立ブロック除去後の静止ブロック画像のブロック数が閾値Tb(第3閾値)より大であるか否かを判別する(ステップS72)。ブロック数が閾値Tb以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0076】
ブロック密集度算出部72は、ブロック数が閾値Tbより大であるならば、その静止ブロック画像のブロックを囲む最小の矩形領域をブロック囲み領域として設定する(ステップS73)。ブロック密集度算出部72は、設定したブロック囲み領域に対する静止ブロックの面積比を算出し、その面積比が閾値Ta(第4閾値)以上であるか否かを判別する(ステップS74)。面積比が閾値Taより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0077】
一方、面積比が閾値Ta以上ならば、ブロック密集度算出部72は、設定したブロック囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する(ステップS75)。
【0078】
かかる図14〜図16に示した実施例でにおいては、画素単位の静止エッジ画像データに代えてブロック単位の静止ブロック画像データが検出され、静止ブロック画像データに応じてコーナーテロップ候補検出及びコーナーテロップ判定が行われる。よって、図2における静止エッジバッファ14の記憶容量に比べて静止ブロックバッファ55の記憶容量は少なくて済むので、内蔵メモリ等のリソースの少ない機器でも容易に実装することができる。また、入力映像信号としてMPEG等の圧縮符号化信号を用いる場合には、そのDCT係数に基づいてエッジブロック(高周波ブロック)が検出できるので、図14におけるフレーム内エッジ抽出部52及びエッジブロック作成部53が不要となり、処理負荷を低減させることができる。
【0079】
上記した各実施例においては、主に情報番組で表示されるコーナーテロップを検出する場合であるが、野球やサッカー等のスポーツ番組におけるスコア表示検出へ応用することも可能である。スポーツ番組のスコア表示も、画面隅に表示され、プレイ中表示されるという、コーナーテロップと類似した性質を持っているため、基本的には図2と同様のブロック構成で検出できる。ただしスポーツの種類に応じて以下のような工夫を行っても良い。代表的なスポーツ番組の例として、野球とサッカーを挙げる。野球のスコア表示には得点の他、ストライク/ボール/アウトカウント等の多くの情報が表示され、エッジ強度も強い。また1回の表示時間も比較的短い(数秒程度)。一方、サッカーの場合はエッジ強度が弱く、表示時間は比較的長い傾向にある。スポーツによりスコアの表示時間が異なる理由は、各々のプレイ単位(プレイの区切り間の時間長)が異なるためであり、野球は基本的にピッチャーによる投球1回が1プレイ単位であることに対し、サッカーはキックオフ(またはプレイ再開)からファウルやゴールのためにプレイが中断するまでの間が1プレイ単位である。そのため、入力映像が野球映像の場合、図2におけるフレーム内エッジ抽出部12でのエッジ判定閾値Tnを高めに設定し、継続時間測定部22の継続時間閾値Tcを短めに設定することで、野球のスコア検出に適した処理が実現できる。一方、サッカーなどの場合、フレーム内エッジ抽出部12でのエッジ判定閾値Tnを低めに設定し、継続時間測定部22の継続時間閾値Tcを長めに設定することで、サッカーのスコア検出に適した処理が実現できる。またスコア表示の検出過程において、時間的に直近に検出されたスコアデータとの類似度比較を行うことで、例えば得点が入った箇所を検出することができる。具体的な比較方法として、現時点と前回のそれぞれの静止エッジ画像を重ね合わせ、その変化度を元に判定する等の方法が考えられる。これはスポーツ番組だけでなく情報番組のコーナーテロップ検出に対しても有効であり、前回検出したデータと比較することにより、話題の変化を判定しても良い。
【0080】
また、上記した実施例においては、図6に示したように1フレームの領域分割を行うと、コーナーテロップの表示候補が複数(この例では4つ)になるため、真のコーナーテロップがどの領域に表示されているか判断が必要になる。そこで、各領域でのコーナーテロップ候補検出頻度を元に、コーナーテロップ表示領域を決定しても良い。1つの方法として、4つの領域のうち最も多くコーナーテロップ表示候補が検出された領域をコーナーテロップ表示領域と決定しても良い。ただし、この場合、例えば、図17(a)及び(b)に示すように、画面隅の時刻表示や放送局名のテロップをコーナーテロップとして誤判定する可能性がある。そこで、正確に1分毎に変化するテロップや、逆に、非常に長時間に渡って変化しないテロップなどをコーナーテロップ候補から外す処理を加えてコーナーテロップの誤検出を防ぐようにしても良い。また、検出対象の番組がシリーズ物であり、前回の放送分からコーナーテロップを検出していた場合、その情報を元にコーナーテロップの表示領域を決定しても良い。
【0081】
更に、上記した各実施例においては、本発明をコーナーテロップを検出するコーナーテロップ検出装置に適用した場合について説明したが、本発明によって検出されるテロップはコーナーテロップに限定されない。すなわち、テロップはコーナーテロップとして画面の隅に表示されることが多いが、必ずしも画面の隅に表示される必要はない。
【0082】
以上のように、エッジ検出部1と、コーナーテロップ候補検出部3及びコーナーテロップ判定部3とを備えたことより、エッジの輝度強度が弱く、テロップを構成する画素と背景との輝度差が小さいコーナーテロップを高精度で検出することができる。また、静止ブロック検出部5、コーナーテロップ候補検出部6及びコーナーテロップ判定部7とを備えたことより、コーナーテロップを高精度で検出することができるだけでなく、ブロック単位で検出処理するので、少ないデータ量でコーナーテロップを検出することができるので、処理負荷を軽減させることができる。
【0083】
本発明のテロップ検出装置及び方法は、テレビ放送を受信し、録画或いは視聴するための、例えば、DVD/HDDレコーダ、PDPテレビ装置等のTV受像機、TVチューナ内蔵のPC(パーソナルコンピュータ)又はカーナビ装置等の映像機器及びPC用のソフトウェアに適用することができる。
【0084】
かかる本発明のテロップ検出装置又は方法によって検出されたコーナーテロップを用いてチャプタメニューを作成することができる。映像コンテンツを録画視聴できる上記したDVD/HDDレコーダ、PDPテレビ装置、カーナビ装置等の機器であれば、全て同様の応用が可能である。例えば、図3に示したレコーダの場合には、先ず、レコーダのHDD装置107に蓄積されたいるコンテンツ(録画済みの圧縮データ)又は光ディスク115に記録されているコンテンツ、又はこれから記録するコンテンツからコーナーテロップを検出する。本発明によるコーナーテロップ検出方法は、コンテンツを録画しながら同時に検出するリアルタイム検出、又は録画済みのコンテンツを再処理して検出する非リアルタイム検出のいずれに適用しても良い。コーナーテロップ検出時には、コーナーテロップ情報として少なくともテロップの表示開始時刻が検出される。コーナーテロップを検出したならば、制御部104ではその検出箇所に映像の区切りを示すためにチャプタを設定することが行われる。チャプタの設定ではコーナーテロップの表示開始時刻と再生アドレスとの関係を示すチャプタテーブルファイルが作成される。チャプタの設定は、コンテンツの時間情報と映像情報との同期が取れたタイミング(例えば録画後)で行われる。次に、制御部104では検出されたコーナーテロップをボタン画像として用いたチャプタメニューを作成することが行われる。チャプタメニューとは、図18に示すように、チャプタの内容をメニュー形式でユーザに対して分かり易く示したものである。ユーザはこのチャプタメニューを見ることで、番組の全体概要を一目で把握することができる。更に、興味を持った箇所をメニューから選択することにより、表示開始時刻が指定されるのでその時刻に対応した再生アドレスがチャプタテーブルファイルから読み出されることになり、その再生アドレスからの映像再生が開始される。よって、ユーザは映像コンテンツを好きな箇所から視聴することができる。このようにコーナーテロップをコンテンツのチャプタ付けに応用することで、コンテンツをその内容に即して自動的に構造化できる。更にコーナーテロップをボタン画像に用いたチャプタメニューを作成することで、ユーザは番組の全体概要を一目で把握することができ、興味を持った箇所からコンテンツを視聴することができる。このようにコーナーテロップを応用することで、ユーザにとってコンテンツの利便性を高めることができる。
【図面の簡単な説明】
【0085】
【図1】コーナーテロップの表示例を示す図である。
【図2】通常のテロップとコーナーテロップとの特徴的な差異を示す図である。
【図3】本発明が適用されたディスクレコーダの構成を示すブロック図である。
【図4】図3のレコーダ中のコーナーテロップ検出装置の構成を示すブロック図である。
【図5】図4のコーナーテロップ検出装置の動作を示すフローチャートである。
【図6】1フレームの複数の分割領域、その有効領域及び無効領域を示す図である。
【図7】フレーム画像、エッジ画像、ブロック単位の分割及びエッジブロック画像を示す図である。
【図8】コーナーテロップ判定サブルーチンを示すフローチャートである。
【図9】エッジ画像、エッジブロック画像及び孤立ブロックの除去を示す図である。
【図10】エッジブロック画像及びブロック囲み領域を示す図である。
【図11】本発明の他の実施例を示すブロック図である。
【図12】図11のコーナーテロップ検出装置で実行されるコーナーテロップ判定サブルーチンを示すフローチャートである。
【図13】エッジ画像、孤立ブロックの除去及びエッジ囲み領域を示す図である。
【図14】本発明の実施例を示すブロック図である。
【図15】図14のコーナーテロップ検出装置の動作を示すフローチャートである。
【図16】図14のコーナーテロップ検出装置で実行されるコーナーテロップ判定サブルーチンを示すフローチャートである。
【図17】映像内の時刻表示及び放送局名テロップの例を示す図である。
【図18】チャプタメニュー例を示す図である。
【符号の説明】
【0086】
1 エッジ抽出部
2,6 コーナーテロップ候補検出部
3,7 コーナーテロップ判定部
5 静止ブロック検出部
【技術分野】
【0001】
本発明は、映像信号からテロップ部分の情報を検出するテロップ検出装置及び方法並びにそのテロップ検出装置及び方法が適用されたディスクレコーダ等のレコーダに関する。
【背景技術】
【0002】
テレビ放送番組には、情報番組やバラエティ番組のように、番組全体が幾つかの話題から構成される番組がある。このような番組においては、放送中の映像が何の話題についての映像であるのかを示すため、画面隅にテロップが表示されることが多い。例えば、図1に示すように画面Aの右上隅にテロップBが表示される。このようなテロップをコーナーテロップ(「コーナー」=「画面隅」の意)と呼ぶ。コーナーテロップは番組の話題を示すためのものであり、番組の内容理解において重要なキー情報と言える。よってコーナーテロップが検出できれば、番組全体を話題毎に構造化したり、ユーザによるシーン検索の支援が出来たりといった応用が可能になる。
【0003】
図2はかかるコーナーテロップと放送中の映像に付加される通常のテロップとの差異について示している。通常のテロップは一般に視聴者に注目させるために、テロップ自体を目立たせる必要があり、通常のテロップを構成する画素と背景との輝度差が大きく、エッジ(文字の縁)の輝度強度も強い。また、通常のテロップの表示時間は短く、概ね数秒程度である。
【0004】
これに対し、コーナーテロップは、上記のように放送中の番組内の話題についての概要を示すテロップである。これにより、ユーザが番組を途中から視聴した場合でも、コーナーテロップを見ればどのような番組かを大まかに理解できる。その後は基本的に不要なテロップとなるので、できるだけ本編映像の妨げにならないような表示形態であることが望ましい。よって、コーナーテロップを構成する画素と背景との輝度差も比較的小さく、エッジ強度も弱い。ただし、コーナーテロップは同一の話題が続いている間に亘って表示されるので、コーナーテロップの表示時間は長く、少なくとも数十秒は表示される。
【0005】
通常のテロップを検出する従来の方法としては、特許文献1には画面端に表示されるテロップとして、緊急ニュースなどの速報用テロップの検出方法が示されている。当該検出方法によれば、速報用テロップはテレビ画面の上部または下部の所定領域に表示されるので、これらの画面領域を対象に時間軸上の閾値以上の輝度変化を検出し、閾値以上の輝度変化の時点を速報用テロップの開始時点および終了時点として検出することが行われる。
【0006】
また、特許文献2に示されたテロップの検出方法によれば、テロップには一般的に高輝度であり、背景との境目に強いエッジがあるという特徴があるため、高輝度画素のみを有効とした画像である輝度2値化画像と、エッジ検出した画像を数画素分膨張したエッジ膨張画像との重ね合わせ(AND処理)によりテロップ部分を検出することが行われる。
【0007】
更に、特許文献3には、テレビジョン信号中の映像信号の任意の画素の輝度レベルと周辺画素の輝度レベルを比較して略均一な輝度レベルの領域を検出する均一記録領域検出回路と、映像信号の任意の映像平面における周波数成分の高域を検出する高周波領域検出回路と、その任意の画素の輝度レベルが所定時間以上無変化であるか否かを判定する一定時間無変化画素検出回路と、を備え、それら回路の各出力を基にテロップを抽出する方法が開示されている。
【特許文献1】特開平12−23062号公報
【特許文献2】特開平12−182053号公報
【特許文献3】特開平10−233994号公報
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、上記したように、コーナーテロップは通常のテロップと異なる性質を持つため、特許文献1及び2の開示技術においては、背景との輝度差が大きいテロップの検出には有効であるが、コーナーテロップのように背景との輝度差が小さいテロップの検出には不向きであるという欠点がある。上記の特許文献3の開示技術においては、文字の構成輝度がほぼ均一であるテロップの検出には有効であるが、コーナーテロップは構成輝度が均一である保証は少なく、コーナーテロップの高精度の検出が難しいという欠点がある。
【0009】
本発明が解決しようとする課題には、上記の欠点が一例として挙げられ、映像内のコーナーテロップ等のテロップを高精度で検出することができるテロップ検出装置及び方法並びにレコーダを提供することが本発明の目的である。
【課題を解決するための手段】
【0010】
請求項1に係る発明のテロップ検出装置は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0011】
請求項9に係る発明のレコーダは、入力映像信号を記録媒体に記録するレコーダであって、入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0012】
請求項11に係る発明のテロップ検出装置は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0013】
請求項17に係る発明のレコーダは、入力映像信号を記録媒体に記録するレコーダであって、入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴としている。
【0014】
請求項19に係る発明のテロップ検出方法は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を前記静止エッジ画像データとして検出し、前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定することを特徴としている。
【0015】
請求項20に係る発明のテロップ検出方法は、入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出し、前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定することを特徴としている。
【発明を実施するための最良の形態】
【0016】
請求項1に係る発明のテロップ検出装置においては、入力映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分が静止エッジ画像データとして検出され、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域が判定される。
【0017】
請求項9に係る発明のレコーダにおいては、入力映像信号又は前記記録媒体に記録された映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分が静止エッジ画像データとして検出され、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域が判定される。
【0018】
また、請求項19に係る発明のテロップ検出方法においては、入力映像信号の今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出し、静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定することが行われる。
【0019】
よって、請求項1、請求項9及び請求項19に係る発明においては、テロップを構成する画素と背景との輝度差も比較的小さく、エッジの輝度強度が弱いテロップを高精度で検出することができる。
【0020】
請求項11に係る発明のテロップ検出装置においては、1フレームが所定の複数画素からなるブロック単位に分割され、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データが入力映像信号のフレーム毎に作成され、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分が静止ブロック画像データとして検出され、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止ブロック画像データが示すブロックの密集度に応じてテロップ領域が判定される。
【0021】
請求項17に係る発明のレコーダにおいては、入力映像信号又は前記記録媒体に記録された映像信号の1フレームが所定の複数画素からなるブロック単位に分割され、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データが入力映像信号のフレーム毎に作成され、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分が静止ブロック画像データとして検出され、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したならば、その静止ブロック画像データが示すブロックの密集度に応じてテロップ領域が判定される。
【0022】
請求項20に係る発明のテロップ検出方法においては、1フレームを所定の複数画素からなるブロック単位に分割し、エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を静止ブロック画像データとして検出し、静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定したとき、その静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定することが行われる。
【0023】
よって、請求項11、請求項17及び請求項20に係る発明においては、テロップを構成する画素と背景との輝度差も比較的小さく、エッジの輝度強度が弱いテロップを高精度で検出することができる。また、ブロック単位で検出処理することにより、少ないデータ量でテロップを検出することができるので、処理負荷を軽減させることができる。
【実施例】
【0024】
以下、本発明の実施例を図面を参照しつつ詳細に説明する。
【0025】
図3は本発明のテロップ検出装置が適用されたディスクレコーダを示している。このディスクレコーダは、TVチューナ101、A/D変換器102、MPEGエンコーダ103、制御部104、表示部105、操作部106、HDD(ハードディスクドライブ)装置107、光ディスクドライブ装置108、ROM109、RAM110、MPEGデコーダ111、D/A変換器112及びコーナーテロップ検出装置113からなる。
【0026】
TVチューナ101はアンテナ入力端子121に接続され、そこに接続されるアンテナ(図示せず)を介してテレビ放送波を制御部104による制御によって選択的に受信しその受信信号を復調してアナログの映像信号及び音声信号を出力する。TVチューナ101の出力はA/D変換器102に接続されている。A/D変換器102はTVチューナ101から出力されるアナログの映像信号及び音声信号をディジタル化する。また、A/D変換器102は外部映像及び音声入力端子122及び123に接続され、そこに供給されるアナログの映像信号及び音声信号をディジタル化する。A/D変換器102の出力はエンコーダ103に接続されている。エンコーダ103はディジタル化された映像信号及び音声信号を例えば、MPEG形式の圧縮データに変換する。
【0027】
エンコーダ103、制御部104、HDD装置107、光ディスクドライブ装置108、ROM109、RAM110、デコーダ111及びコーナーテロップ検出装置113は共通のバス116に接続されている。
【0028】
制御部104は例えば、マイクロコンピュータからなり、予め定められた制御用プログラムに従って本ディスクレコーダ全体を制御する。制御部104とTVチューナ101との間は図示しない制御ラインによって接続され、TVチューナ101の受信チャンネルが制御部104によって制御されるようになっている。
【0029】
表示部105及び操作部106は制御部104に接続されている。表示部105は制御部104から表示指令に応じてTVチューナ101の受信チャンネルやHDD装置107及び光ディスクドライブ装置108の記録/再生状態を表示する。操作部106はユーザの入力操作を受け入れてその入力操作に応じた指令を制御部104に供給する。
【0030】
HDD装置107は書き換え可能な固定ディスク(図示せず)による記憶装置であり、制御部104の書込指示に応じてエンコーダ103から供給される圧縮データを内部の固定ディスクのその書込指示が示すアドレス位置に書き込む。また、制御部104の読出指示に応じて固定ディスクからその読出指示によってアドレス指定された記憶位置の圧縮データを読み出してバス116に出力する。
【0031】
光ディスクドライブ装置108は、リムーバブル型の記憶装置であり、制御部104の書込指示に応じてエンコーダ103又はHDD装置107からの圧縮データを光ディスク115に書き込み可能な装置である。光ディスク115としては例えば、DVD−RやDVD−RWが用いられる。光ディスクドライブ装置108は制御部104の読出指示に応じて光ディスク115に書き込まれている圧縮データを読み出すこともできる。
【0032】
ROM109には上記の制御用プログラムが予め書き込まれている。RAM110には制御部104の制御動作において必要なデータが書き込まれ又はそこからデータが読み出される。
【0033】
デコーダ111はバス116を介してエンコーダ103、制御部104、HDD装置107又は光ディスクドライブ装置108から供給される圧縮データを伸張してディジタルの映像信号及び音声信号を復元する。復元されたディジタルの映像信号及び音声信号はD/A変換器112に供給される。D/A変換器112はディジタルの映像信号及び音声信号をアナログの映像信号及び音声信号に変換して映像及び音声出力端子124及び125に供給する。映像及び音声出力端子124及び125には図示しないテレビモニタが接続される。
【0034】
コーナーテロップ検出装置113は上記したようにバス116に接続され、MPEG形式の圧縮データに応じてコーナーテロップを検出する。コーナーテロップ検出装置113には、エンコーダ3から出力されている圧縮データ、HDD装置107から読み出された圧縮データ、或いは光ディスク115から光ディスクドライブ装置108によって読み出された圧縮データのいずれかが制御部104の制御によって供給される。コーナーテロップ検出装置113によるコーナーテロップ検出出力は制御部104に供給される。
【0035】
図4は、コーナーテロップ検出装置113の概略構成を示している。コーナーテロップ検出装置113は、エッジ抽出部1と、コーナーテロップ候補検出部2と、コーナーテロップ判定部3とを備えている。
【0036】
エッジ抽出部1は、フレーム抽出部11、フレーム内エッジ抽出部12、静止エッジ検出部13及び静止エッジバッファ14からなり、入力映像信号から1フレーム毎に静止エッジを検出してそれを保存する。フレーム抽出部11は入力映像信号から1フレーム分の映像信号を抽出する。フレーム内エッジ抽出部12は1フレーム分の映像信号から輝度上のエッジを形成した画素からなるエッジ画像データを抽出する。エッジ画像データはテロップ文字の縁などの、隣接画素との輝度差が所定値以上の急峻である部分、すなわちエッジを示す。静止エッジ検出部13は抽出されたエッジ画像データと、既に検出された静止エッジ画像データとを比較して、位置の変化しない部分のエッジ画素を静止エッジ画像データとして検出する。静止エッジバッファ14は静止エッジ検出部13で検出された静止エッジ画像データを保存する。
【0037】
コーナーテロップ候補検出部2は、エッジ数測定部21及び継続時間測定部22からなり、静止エッジ検出部13によって検出された静止エッジ画像データが何フレームに亘って継続したかを検出する。エッジ数測定部21は、静止エッジ検出部13によって検出された静止エッジ画像データが示すエッジの数を測定する。継続時間測定部22は、エッジ数測定部21によって測定されたエッジ数が閾値Tn以上である状態が継続したフレーム数を測定する。
【0038】
コーナーテロップ判定部3は、エッジブロック作成部31、ブロック密集度算出部32及びエッジブロックバッファ33からなり、静止エッジ画像データに基づいてコーナーブロック領域を判定する。エッジブロック作成部31は、静止エッジ画像データに応じて静止エッジブロック画像データを作成する。ブロック密集度算出部32は、画像内のブロック密集度を算出してその密集度に応じてコーナーブロック領域を判定する。エッジブロックバッファ33は、エッジブロック画像データを保持する。
【0039】
なお、本実施例では特に断り書きが無い場合、各フレームの画素を構成する要素は輝度信号とする。
【0040】
かかる構成のコーナーテロップ検出装置113の動作について以下にフローチャートを用いて説明する。
【0041】
図5に示すように、エッジ検出部1においては、入力映像信号を受け入れる前に、初期化処理として、コーナーテロップ候補の継続フレーム数を示すフレーム計数値countが初期値0にリセットされる(ステップS1)。実際のコーナーテロップ検出処理が開始されると、先ず、フレーム抽出部11が入力映像信号から1フレーム分の映像信号(画素データ)を抽出する(ステップS2)。入力映像信号はMPEG等の圧縮形式のディジタル圧縮信号であるが、これ以外のアナログ信号、デジタル信号、他の圧縮形式のディジタル圧縮信号であっても良い。画像サイズなどは問わないが、アナログ映像信号の場合はA/D(アナログ/デジタル)変換器を介してフレーム抽出部11には供給される。
【0042】
フレーム抽出部11は1フレームを複数の領域に分割し、有効部分と無効部分とに分ける(ステップS3)。例えば、図6に示すように、抽出した1フレームを縦方向4つ、横方向2つの計8領域に分割し、画面隅に相当する4つの領域を有効領域とし、残りを無効領域とする。コーナーテロップは画面隅に表示される傾向が高いため、このように有効領域を限定することで、処理の効率化及び検出精度向上が期待できる。図6の場合には以降のエッジ処理なども4つの有効領域に対して個々に行われる。また、領域分割の方法はこれ以外でも良く、また領域分割自体を行わなくても良い。
【0043】
フレーム内エッジ抽出部12は、フレーム内の有効領域の画素データからエッジを抽出し、エッジ画像データを作成する(ステップS4)。エッジ抽出に用いるフィルタとしては例えば、ラプラシアンフィルタを用いることができるが、これに特に限定されない。なお、コーナーテロップはエッジが弱いという性質があるため、好ましくはエッジ判定を緩めにしても良い。
【0044】
静止エッジ検出部13は、現フレームが入力映像信号の先頭フレームか、若しくはコーナーテロップ候補が検出された直後のフレームか否かを判定する(ステップS5)。すなわち、フレーム計数値countが0であるか否かが判別される。ステップS4にてエッジ検出が行われたフレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームであれば、count=0であり、検出されたエッジ画像データを静止エッジ画像データとし、静止エッジバッファ14に格納する(ステップS6)。一方、ステップS4にてエッジ検出が行われたフレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームではないならば、今回作成したエッジ画像データと既に検出された静止エッジ画像データ(例えば、前回検出された静止画エッジ画像データ)とのAND(論理積)をとり、それを新たな静止エッジ画像データとし、静止エッジバッファ14に格納する(ステップS7)。なお、ステップS7では、今回作成したエッジ画像データと既に検出された静止エッジ画像データとのAND処理に限らず、今回作成したエッジ画像データと既に検出された静止エッジ画像データとのOR(論理和)をとり、それを静止エッジ画像データとしても良く、これ以外の重ね合わせ手法を用いても良い。
【0045】
例えば、図7(a)に示すようなコーナーテロップの画像が有効領域にある場合には、その静止エッジ画像データは図7(b)に示すようになる。
【0046】
エッジ数測定部21は、静止エッジバッファ14から静止エッジ画像データを取得し、静止エッジ画像データが示すエッジの数を測定し、そのエッジ数が閾値Tn(第1閾値)以上になったか否かを判別する(ステップS8)。エッジ数が閾値Tn以上になった場合には、フレーム計数値countが1だけ増加され(ステップS9)、入力映像信号の全フレームの処理が終了したか否かが判別される(ステップS10)。全フレームの処理が終了していない場合には、入力映像信号の処理が次のフレームに進められ(ステップS11)、そして、ステップS2に戻って次のフレームについてのコーナーテロップ検出処理が実行される。
【0047】
エッジ数が閾値Tn以上になった場合には、継続時間測定部22においてフレーム計数値countが閾値Tc(第2閾値)より大であるか否かが判別される(ステップS12)。閾値Tcはコーナーテロップ表示時間の下限に対応する。コーナーテロップには表示時間が長いという性質があるため、閾値Tcは好ましくは長めに設定しても良い。閾値Tcの具体的な設定方法としては、番組の全体的な長さに基づいて番組中の各話題の時間を類推して設定することが考えられる。例えば、番組長が1時間の場合、話題数を10個程度と想定すると、各話題の平均時間は約6分程度である。ただし、番組中には現実的には話題以外にコマーシャルなども含まれるので、それらを加味した上で、例えば、Tcを2,3分程度に設定しても良い。また各番組の性質を元にして、話題数が少なければTcを更に長めに設定し、逆に話題数が多ければTcを短めに設定しても良い。全ての番組で閾値Tcを例えば、1分のように固定長に設定しても良い。
【0048】
count≦Tcならば、保存された静止エッジ画像データはコーナーテロップの画像ではない可能性が高いので、静止エッジバッファ14に保存された静止エッジ画像データが消去され、またフレーム計数値countは初期値0にリセットされる(ステップS13)。その後、ステップS10が実行される。
【0049】
count>Tcならば、コーナーテロップ判定部3によるコーナーテロップ判定サブルーチンが実行され(ステップS14)、その後、ステップS13が実行される。
【0050】
コーナーテロップ判定サブルーチンにおいて、図8に示すように、先ず、エッジブロック作成部31は、コーナーテロップ候補検出部2において検出された静止エッジ画像データからエッジブロック画像データを作成し、そのエッジブロック画像データをエッジブロックバッファ33に格納する(ステップS21)。エッジブロック画像データは、静止エッジ画像を8×8画素からなるブロック単位に分割し、各ブロック内のエッジ数が所定数以上である多エッジ数のブロックをエッジブロックとした画像を示す。例えば、図7(b)に示した静止エッジ画像データの画像に対して、ブロック単位は図7(c)に示すように破線で示され、エッジブロックは図7(d)に示すように黒のブロックである。なお、ブロックは8×8画素に限らず、縦横を他の画素数で構成しても良い。
【0051】
エッジブロック作成部31は、エッジブロック画像から空間的に孤立したブロックを除去する(ステップS22)。図9(a)に示すように静止エッジ画像にコーナーテロップ以外のごみ等のエッジが含まれている場合には、それに基づいたエッジブロック画像には図9(b)に示すようにコーナーテロップ部分以外にもブロックが現れる。よって、ステップS22では図9(c)に示すように、このような孤立ブロックを除去したエッジブロック画像が作成される。
【0052】
ブロック密集度算出部32は、エッジブロック作成部31によって作成されたエッジブロック画像のブロック数が閾値Tb(第3閾値)より大であるか否かを判別する(ステップS23)。ブロック数が閾値Tb以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0053】
ブロック密集度算出部32は、ブロック数が閾値Tbより大であるならば、そのエッジブロックを囲む最小の矩形領域をブロック囲み領域として設定する(ステップS24)。エッジブロック作成部31によって作成されたエッジブロック画像において例えば、図10(a)に示すように、エッジブロックが存在するならば、図10(b)に太線で示すように矩形のブロック囲み領域は設定される。ブロック密集度算出部32は、設定したブロック囲み領域に対するエッジブロックの面積比を算出し、その面積比が閾値Ta(第4閾値)以上であるか否かを判別する(ステップS25)。面積比が閾値Taより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0054】
一方、面積比が閾値Ta以上ならば、ブロック密集度算出部32は、設定したブロック囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する(ステップS26)。コーナーテロップ情報は、コーナーテロップの開始時刻及び終了時刻、静止エッジ画像、エッジブロック画像、及びブロック囲み領域の座標の少なくとも1である。OCR(光学式文字読取装置)処理により静止エッジ画像の文字認識を行って、その結果を文字コードとして出力しても良い。
【0055】
図11は、本発明の実施例を示している。図11に示したコーナーテロップ検出装置は、図4の装置と同様に、エッジ抽出部1と、コーナーテロップ候補検出部2と、コーナーテロップ判定部3とを備えている。エッジ抽出部1と、コーナーテロップ候補検出部2とは、図4の装置のものと同一である。コーナーテロップ判定部3は、孤立エッジ除去部35と、エッジ密集度算出部36とから構成される。孤立エッジ除去部35は静止エッジ画像から孤立エッジを除去する。エッジ密集度算出部36は、孤立エッジが除去された静止エッジ画像内のエッジ密集度を算出する。
【0056】
図11のコーナーテロップ判定部3によるコーナーテロップ判定サブルーチンにおいて、図12に示すように、孤立エッジ除去部35はコーナーテロップ候補検出部2において検出された静止エッジ画像から空間的に孤立した孤立エッジを除去する(ステップS31)。例えば、図13(a)に示した孤立エッジを含む静止エッジ画像に対して、孤立エッジ除去部35によって、図13(b)に示すように、孤立エッジを除去した静止エッジ画像が作成される。
【0057】
エッジ密集度算出部36は、孤立エッジ除去後の静止エッジ画像のエッジ数が閾値Te(第5閾値)より大であるか否かを判別する(ステップS32)。エッジ数が閾値Te以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0058】
エッジ数が閾値Teより大であるならば、その静止エッジ画像のエッジを全て囲む最小の矩形領域をエッジ囲み領域として設定する(ステップS33)。上記の図13(b)の孤立エッジ除去後の静止エッジ画像においては、例えば、図13(c)に太線で示すように矩形のエッジ囲み領域は設定される。
【0059】
エッジ密集度算出部36は、設定したエッジ囲み領域に対するエッジ部分の面積比を算出し、その面積比が閾値Ta(第6閾値)以上であるか否かを判別する(ステップS34)。面積比が閾値Taより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0060】
一方、面積比が閾値Ta以上ならば、エッジ密集度算出部36は、設定したエッジ囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する(ステップS35)。
【0061】
かかる図11及び図12に示した実施例においては、画素単位でコーナーテロップ領域を決定することができるので、コーナーテロップ領域をより限定的に判定することができる。
【0062】
図14は、更に本発明の他の実施例を示している。図14に示したコーナーテロップ検出装置は、静止ブロック検出部5、コーナーテロップ候補検出部6と、コーナーテロップ判定部7とを備えている。静止ブロック検出部5は、フレーム抽出部51、フレーム内エッジ抽出部52、エッジブロック作成部53、静止ブロック検出部54及び静止ブロックバッファ55を備え、入力映像信号から1フレーム毎に静止ブロック画像を検出してそれを保存する。
【0063】
フレーム抽出部51は入力映像信号から1フレーム分の映像信号を抽出する。フレーム内エッジ抽出部52は1フレーム分の映像信号からエッジを形成した画素からなるエッジ画像を抽出する。エッジブロック作成部53は抽出されたエッジ画像からエッジブロック画像を作成する。静止ブロック検出部54はエッジブロック画像から静止ブロック画像を検出してそれを静止ブロックバッファ55に保存させる。
【0064】
コーナーテロップ候補検出部6は、ブロック数測定部61及び継続時間測定部62を備え、静止ブロック検出部13によって検出された静止ブロック画像の状態が何フレームに亘って継続したことを検出する。ブロック数測定部61は、静止ブロック検出部13によって検出された静止ブロック画像のブロック数を測定する。継続時間測定部62は、ブロック数測定部61によって測定されたブロック数が閾値以上である状態が継続したフレーム数を測定する。
【0065】
コーナーテロップ判定部7は、孤立ブロック除去部71及びブロック密集度算出部72からなり、静止ブロック画像のコーナーテロップを含むブロックを判定する。孤立ブロック除去部71は静止ブロック画像から孤立ブロック除去する。ブロック密集度算出部72は、孤立ブロックが除去された静止ブロック画像内のブロック密集度を算出してブロック密集度に基づいてコーナーテロップを含むブロックを判定する。
【0066】
図14のコーナーテロップ検出装置の動作について以下にフローチャートを用いて説明する。
【0067】
図15に示すように、静止ブロック検出部5においては、入力映像信号を受け入れる前に、初期化処理として、コーナーテロップ候補の継続フレーム数を示すフレーム計数値countが初期値0にリセットされる(ステップS51)。実際のコーナーテロップ検出処理が開始されると、先ず、フレーム抽出部51が入力映像信号から1フレーム分の映像信号(画素データ)を抽出する(ステップS52)。
【0068】
フレーム抽出部51は1フレームを複数の領域に分割し、有効部分と無効部分とに分ける(ステップS53)。ステップS53の実行後、フレーム内エッジ抽出部52は、有効領域の画素データからエッジを抽出し、エッジ画像を作成する(ステップS54)。ステップS51〜S54は上記したステップS1〜S4と同一である。
【0069】
エッジブロック作成部53は、エッジ画像からエッジブロック画像を作成する(ステップS55)。エッジブロック画像の作成方法としてはエッジブロック作成部31において示した方法が用いられる。すなわち、エッジ画像を8×8画素からなるブロック単位に分割し、各ブロック内のエッジ数が所定数以上である多エッジ数のブロックをエッジブロックとした画像が作成される。ここで入力映像信号がMPEG等の圧縮映像信号の場合には、そのDCT係数に基づいて、高周波ブロック(エッジの多いブロック)を検出することができる。このようなブロックをエッジブロックとして用いても良い。また、圧縮映像信号の場合には、入力圧縮映像信号のフルデコード処理、及びステップS54のエッジ画像の作成が不要となるので、処理負荷の軽減につながる。なお、MPEGのDCT係数から高周波ブロックを検出する方法については、例えば、59P0262の公開公報(公報番号をお知らせください)に示された方法を用いることができる。
【0070】
静止ブロック検出部54は、エッジブロック作成部53によってエッジブロック画像が作成された現フレームが入力映像信号の先頭フレームか、若しくはコーナーテロップ候補が検出された直後のフレームか否かを判定する(ステップS56)。現フレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームであれば、作成されたエッジブロック画像を静止ブロック画像とし、静止ブロックバッファ55に格納する(ステップS57)。一方、現フレームが先頭フレーム又はコーナーテロップ候補検出直後のフレームではないならば、今回作成したエッジブロック画像と既に検出された静止ブロック画像(例えば、前回検出された静止ブロック画像)とのAND(論理積)をとり、それを静止ブロック画像とし、静止ブロックバッファ55に格納する(ステップS58)。なお、ステップS58では、今回作成したエッジブロック画像と既に検出された静止ブロック画像とのOR(論理和)をとり、それを静止ブロック画像としても良く、これ以外の重ね合わせ手法を用いても良い。
【0071】
ブロック数測定部61は、静止ブロックバッファ55から静止ブロック画像を読み出して取得し、静止ブロック画像中のブロック数を測定し、そのブロック数が閾値Tn(第1閾値)以上になったか否かを判別する(ステップS59)。ブロック数が閾値Tn以上になった場合には、フレーム計数値countが1だけ増加され(ステップS60)、入力映像信号の全フレームの処理が終了したか否かが判別される(ステップS61)。全フレームの処理が終了していない場合には、入力映像信号の処理が次のフレームに進められ(ステップS62)、そして、ステップS52に戻って次のフレームについてのコーナーテロップ検出処理が実行される。
【0072】
ブロック数が閾値Tn以上になった場合には、継続時間測定部62においてフレーム計数値countが閾値Tc(第2閾値)より大であるか否かが判別される(ステップS63)。count≦Tcならば、静止ブロックバッファ55に現在保存された静止ブロック画像データはコーナーテロップの画像データではない可能性が高いので、静止ブロックバッファ55に保存された静止ブロック画像データが消去され、またフレーム計数値countは初期値0にリセットされる(ステップS64)。その後、ステップS61が実行される。
【0073】
count>Tcならば、コーナーテロップ判定部3によるコーナーテロップ判定サブルーチンが実行され(ステップS65)、その後、ステップS64が実行される。
【0074】
ステップS65のコーナーテロップ判定サブルーチンにおいて、図16に示すように、先ず、孤立ブロック除去部71は、静止ブロック画像から空間的に孤立したブロックを除去する(ステップS71)。ステップS71では孤立ブロックを除去した静止ブロック画像が作成される。
【0075】
ブロック密集度算出部72は、孤立ブロック除去部71による孤立ブロック除去後の静止ブロック画像のブロック数が閾値Tb(第3閾値)より大であるか否かを判別する(ステップS72)。ブロック数が閾値Tb以下ならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0076】
ブロック密集度算出部72は、ブロック数が閾値Tbより大であるならば、その静止ブロック画像のブロックを囲む最小の矩形領域をブロック囲み領域として設定する(ステップS73)。ブロック密集度算出部72は、設定したブロック囲み領域に対する静止ブロックの面積比を算出し、その面積比が閾値Ta(第4閾値)以上であるか否かを判別する(ステップS74)。面積比が閾値Taより小であるならば、コーナーテロップ判定サブルーチンを直ちに終了する。
【0077】
一方、面積比が閾値Ta以上ならば、ブロック密集度算出部72は、設定したブロック囲み領域にコーナーテロップを含むと判定してコーナーテロップ情報を出力する(ステップS75)。
【0078】
かかる図14〜図16に示した実施例でにおいては、画素単位の静止エッジ画像データに代えてブロック単位の静止ブロック画像データが検出され、静止ブロック画像データに応じてコーナーテロップ候補検出及びコーナーテロップ判定が行われる。よって、図2における静止エッジバッファ14の記憶容量に比べて静止ブロックバッファ55の記憶容量は少なくて済むので、内蔵メモリ等のリソースの少ない機器でも容易に実装することができる。また、入力映像信号としてMPEG等の圧縮符号化信号を用いる場合には、そのDCT係数に基づいてエッジブロック(高周波ブロック)が検出できるので、図14におけるフレーム内エッジ抽出部52及びエッジブロック作成部53が不要となり、処理負荷を低減させることができる。
【0079】
上記した各実施例においては、主に情報番組で表示されるコーナーテロップを検出する場合であるが、野球やサッカー等のスポーツ番組におけるスコア表示検出へ応用することも可能である。スポーツ番組のスコア表示も、画面隅に表示され、プレイ中表示されるという、コーナーテロップと類似した性質を持っているため、基本的には図2と同様のブロック構成で検出できる。ただしスポーツの種類に応じて以下のような工夫を行っても良い。代表的なスポーツ番組の例として、野球とサッカーを挙げる。野球のスコア表示には得点の他、ストライク/ボール/アウトカウント等の多くの情報が表示され、エッジ強度も強い。また1回の表示時間も比較的短い(数秒程度)。一方、サッカーの場合はエッジ強度が弱く、表示時間は比較的長い傾向にある。スポーツによりスコアの表示時間が異なる理由は、各々のプレイ単位(プレイの区切り間の時間長)が異なるためであり、野球は基本的にピッチャーによる投球1回が1プレイ単位であることに対し、サッカーはキックオフ(またはプレイ再開)からファウルやゴールのためにプレイが中断するまでの間が1プレイ単位である。そのため、入力映像が野球映像の場合、図2におけるフレーム内エッジ抽出部12でのエッジ判定閾値Tnを高めに設定し、継続時間測定部22の継続時間閾値Tcを短めに設定することで、野球のスコア検出に適した処理が実現できる。一方、サッカーなどの場合、フレーム内エッジ抽出部12でのエッジ判定閾値Tnを低めに設定し、継続時間測定部22の継続時間閾値Tcを長めに設定することで、サッカーのスコア検出に適した処理が実現できる。またスコア表示の検出過程において、時間的に直近に検出されたスコアデータとの類似度比較を行うことで、例えば得点が入った箇所を検出することができる。具体的な比較方法として、現時点と前回のそれぞれの静止エッジ画像を重ね合わせ、その変化度を元に判定する等の方法が考えられる。これはスポーツ番組だけでなく情報番組のコーナーテロップ検出に対しても有効であり、前回検出したデータと比較することにより、話題の変化を判定しても良い。
【0080】
また、上記した実施例においては、図6に示したように1フレームの領域分割を行うと、コーナーテロップの表示候補が複数(この例では4つ)になるため、真のコーナーテロップがどの領域に表示されているか判断が必要になる。そこで、各領域でのコーナーテロップ候補検出頻度を元に、コーナーテロップ表示領域を決定しても良い。1つの方法として、4つの領域のうち最も多くコーナーテロップ表示候補が検出された領域をコーナーテロップ表示領域と決定しても良い。ただし、この場合、例えば、図17(a)及び(b)に示すように、画面隅の時刻表示や放送局名のテロップをコーナーテロップとして誤判定する可能性がある。そこで、正確に1分毎に変化するテロップや、逆に、非常に長時間に渡って変化しないテロップなどをコーナーテロップ候補から外す処理を加えてコーナーテロップの誤検出を防ぐようにしても良い。また、検出対象の番組がシリーズ物であり、前回の放送分からコーナーテロップを検出していた場合、その情報を元にコーナーテロップの表示領域を決定しても良い。
【0081】
更に、上記した各実施例においては、本発明をコーナーテロップを検出するコーナーテロップ検出装置に適用した場合について説明したが、本発明によって検出されるテロップはコーナーテロップに限定されない。すなわち、テロップはコーナーテロップとして画面の隅に表示されることが多いが、必ずしも画面の隅に表示される必要はない。
【0082】
以上のように、エッジ検出部1と、コーナーテロップ候補検出部3及びコーナーテロップ判定部3とを備えたことより、エッジの輝度強度が弱く、テロップを構成する画素と背景との輝度差が小さいコーナーテロップを高精度で検出することができる。また、静止ブロック検出部5、コーナーテロップ候補検出部6及びコーナーテロップ判定部7とを備えたことより、コーナーテロップを高精度で検出することができるだけでなく、ブロック単位で検出処理するので、少ないデータ量でコーナーテロップを検出することができるので、処理負荷を軽減させることができる。
【0083】
本発明のテロップ検出装置及び方法は、テレビ放送を受信し、録画或いは視聴するための、例えば、DVD/HDDレコーダ、PDPテレビ装置等のTV受像機、TVチューナ内蔵のPC(パーソナルコンピュータ)又はカーナビ装置等の映像機器及びPC用のソフトウェアに適用することができる。
【0084】
かかる本発明のテロップ検出装置又は方法によって検出されたコーナーテロップを用いてチャプタメニューを作成することができる。映像コンテンツを録画視聴できる上記したDVD/HDDレコーダ、PDPテレビ装置、カーナビ装置等の機器であれば、全て同様の応用が可能である。例えば、図3に示したレコーダの場合には、先ず、レコーダのHDD装置107に蓄積されたいるコンテンツ(録画済みの圧縮データ)又は光ディスク115に記録されているコンテンツ、又はこれから記録するコンテンツからコーナーテロップを検出する。本発明によるコーナーテロップ検出方法は、コンテンツを録画しながら同時に検出するリアルタイム検出、又は録画済みのコンテンツを再処理して検出する非リアルタイム検出のいずれに適用しても良い。コーナーテロップ検出時には、コーナーテロップ情報として少なくともテロップの表示開始時刻が検出される。コーナーテロップを検出したならば、制御部104ではその検出箇所に映像の区切りを示すためにチャプタを設定することが行われる。チャプタの設定ではコーナーテロップの表示開始時刻と再生アドレスとの関係を示すチャプタテーブルファイルが作成される。チャプタの設定は、コンテンツの時間情報と映像情報との同期が取れたタイミング(例えば録画後)で行われる。次に、制御部104では検出されたコーナーテロップをボタン画像として用いたチャプタメニューを作成することが行われる。チャプタメニューとは、図18に示すように、チャプタの内容をメニュー形式でユーザに対して分かり易く示したものである。ユーザはこのチャプタメニューを見ることで、番組の全体概要を一目で把握することができる。更に、興味を持った箇所をメニューから選択することにより、表示開始時刻が指定されるのでその時刻に対応した再生アドレスがチャプタテーブルファイルから読み出されることになり、その再生アドレスからの映像再生が開始される。よって、ユーザは映像コンテンツを好きな箇所から視聴することができる。このようにコーナーテロップをコンテンツのチャプタ付けに応用することで、コンテンツをその内容に即して自動的に構造化できる。更にコーナーテロップをボタン画像に用いたチャプタメニューを作成することで、ユーザは番組の全体概要を一目で把握することができ、興味を持った箇所からコンテンツを視聴することができる。このようにコーナーテロップを応用することで、ユーザにとってコンテンツの利便性を高めることができる。
【図面の簡単な説明】
【0085】
【図1】コーナーテロップの表示例を示す図である。
【図2】通常のテロップとコーナーテロップとの特徴的な差異を示す図である。
【図3】本発明が適用されたディスクレコーダの構成を示すブロック図である。
【図4】図3のレコーダ中のコーナーテロップ検出装置の構成を示すブロック図である。
【図5】図4のコーナーテロップ検出装置の動作を示すフローチャートである。
【図6】1フレームの複数の分割領域、その有効領域及び無効領域を示す図である。
【図7】フレーム画像、エッジ画像、ブロック単位の分割及びエッジブロック画像を示す図である。
【図8】コーナーテロップ判定サブルーチンを示すフローチャートである。
【図9】エッジ画像、エッジブロック画像及び孤立ブロックの除去を示す図である。
【図10】エッジブロック画像及びブロック囲み領域を示す図である。
【図11】本発明の他の実施例を示すブロック図である。
【図12】図11のコーナーテロップ検出装置で実行されるコーナーテロップ判定サブルーチンを示すフローチャートである。
【図13】エッジ画像、孤立ブロックの除去及びエッジ囲み領域を示す図である。
【図14】本発明の実施例を示すブロック図である。
【図15】図14のコーナーテロップ検出装置の動作を示すフローチャートである。
【図16】図14のコーナーテロップ検出装置で実行されるコーナーテロップ判定サブルーチンを示すフローチャートである。
【図17】映像内の時刻表示及び放送局名テロップの例を示す図である。
【図18】チャプタメニュー例を示す図である。
【符号の説明】
【0086】
1 エッジ抽出部
2,6 コーナーテロップ候補検出部
3,7 コーナーテロップ判定部
5 静止ブロック検出部
【特許請求の範囲】
【請求項1】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴とするテロップ検出装置。
【請求項2】
前記エッジ画像抽出手段は、入力映像信号の1フレーム分の映像信号を抽出するフレーム抽出部と、前記フレーム抽出部によって抽出された1フレーム分の映像信号から、隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ映像データを抽出するフレーム内エッジ抽出部と、を備えたことを特徴とする請求項1記載のテロップ検出装置。
【請求項3】
前記エッジ画像抽出手段は、1フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段を有し、
前記フレーム内エッジ抽出部は、前記フレーム抽出部によって抽出された1フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ映像データを抽出することを特徴とする請求項2記載のテロップ検出装置。
【請求項4】
前記静止エッジ検出手段は、前記静止エッジ画像データを保存する静止エッジバッファと、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと前記静止エッジバッファに保存された前記静止エッジ画像データとの重複部分を新たな前記静止エッジ画像データとし、その新たな静止エッジ画像データを前記静止エッジバッファに格納する静止エッジ検出部と、を備えたことを特徴とする請求項1記載のテロップ検出装置。
【請求項5】
前記静止エッジ検出手段は、前記エッジ画像抽出手段によって先頭フレームの映像信号から抽出されたエッジ画像データ、又は前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定された直後のフレームの映像信号から前記エッジ画像抽出手段によって抽出されたエッジ画像データを、そのまま前記静止エッジ画像データとすることをを特徴とする請求項1記載のテロップ検出装置。
【請求項6】
前記継続状態判定手段は、前記静止エッジ画像データが示すエッジ数が第1閾値より大であるか否かを判別するエッジ数測定部と、前記エッジ数測定部によって前記エッジ数が前記第1閾値より大であることが判別されたときフレーム計数値を1だけ増加させ、前記エッジ数測定部によって前記エッジ数が前記第1閾値以下であることが判別されたとき前記フレーム計数値が第2閾値より大であるか否かを判別する継続時間測定部と、前記エッジ数測定部によって前記エッジ数が前記第1閾値以下であることが判別されたとき前記フレーム計数値を0に初期化するリセット手段と、を備え、前記フレーム計数値が前記第2閾値より大であるときに前記テロップ判定手段によるテロップ領域の判定が行われることを特徴とする請求項1記載のテロップ検出装置。
【請求項7】
前記テロップ判定手段は、前記判定された静止エッジ画像データを所定の複数画素からなるブロック単位に分割し、前記判定された静止エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成部と、前記エッジブロック画像データが示すブロックのうちの孤立したブロックを除去するブロック除去手段と、前記ブロック除去手段による孤立ブロック除去後のエッジブロック画像データが示すブロック数が第3閾値より大であるか否かを判別するブロック数判別手段と、前記ブロック数判別手段によって前記ブロック数が前記第3閾値より大であると判別されたとき前記孤立ブロック除去後のエッジブロック画像データが示すブロックを全て含む領域を囲む最小の矩形ブロック領域をブロック囲み領域として設定するブロック囲み領域設定手段と、前記ブロック囲み領域におけるブロック部分との面積比を算出し、その面積比が第4閾値以上であるか否かを判別するブロック密集度算出部と、を備え、前記面積比が前記第4閾値以上であるとき前記ブロック囲み領域を前記テロップ領域と判定することを特徴とする請求項1記載のテロップ検出装置。
【請求項8】
前記テロップ判定手段は、前記判定された静止エッジ画像データが示すエッジのうちの孤立したエッジを除去するエッジ除去手段と、前記エッジ除去手段による孤立エッジ除去後の静止エッジ画像データが示すエッジ数が第5閾値より大であるか否かを判別するエッジ数判別手段と、前記エッジ数判別手段によって前記エッジ数が前記第5閾値より大であると判別されたとき前記孤立エッジ除去後の静止エッジ画像データが示すエッジを全て含む領域を囲む最小の矩形領域をエッジ囲み領域として設定するエッジ囲み領域設定手段と、前記エッジ囲み領域におけるエッジ部分との面積比を算出し、その面積比が第6閾値以上であるか否かを判別するエッジ密集度算出部と、を備え、前記面積比が前記第6閾値以上であるとき前記エッジ囲み領域を前記テロップ領域と判定することを特徴とする請求項1記載のテロップ検出装置。
【請求項9】
入力映像信号を記録媒体に記録するレコーダであって、
入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴とするレコーダ。
【請求項10】
前記テロップ判定手段によって判定されたテロップ領域を用いてチャプタメニューを作成するチャプタメニュー作成手段を更に備えたことを特徴とする請求項9記載のレコーダ。
【請求項11】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、
前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴とするテロップ検出装置。
【請求項12】
前記エッジ画像抽出手段は、入力映像信号の1フレーム分の映像信号を抽出するフレーム抽出部と、前記フレーム抽出部によって抽出された1フレーム分の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ映像データを抽出するフレーム内エッジ抽出部と、を備えたことを特徴とする請求項11記載のテロップ検出装置。
【請求項13】
前記静止ブロック検出手段は、前記静止ブロック画像データを保存する静止ブロックバッファと、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと前記静止ブロックバッファに保存された前記静止ブロック画像データとの重複部分を新たな前記静止ブロック画像データとし、その新たな静止ブロック画像データを前記静止ブロックバッファに格納する静止ブロック検出部と、を備えたことを特徴とする請求項11記載のテロップ検出装置。
【請求項14】
前記静止ブロック検出手段は、前記エッジブロック作成手段によって作成された先頭フレームのエッジブロック画像データ、又は前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定された直後のフレームのエッジブロック画像データをそのまま前記静止ブロック画像データとすることを特徴とする請求項11記載のテロップ検出装置。
【請求項15】
前記継続状態判定手段は、前記静止ブロック画像データが示すブロック数が第1閾値より大であるか否かを判別するブロック数測定部と、前記ブロック数測定部によって前記ブロック数が前記第1閾値より大であることが判別されたときフレーム計数値を1だけ増加させ、前記ブロック数測定部によって前記ブロック数が前記第1閾値以下であることが判別されたとき前記フレーム計数値が第2閾値より大であるか否かを判別する継続時間測定部と、前記ブロック数測定部によって前記ブロック数が前記第1閾値以下であることが判別されたとき前記フレーム計数値を0に初期化するリセット手段と、を備え、前記フレーム計数値が第2閾値より大であるときに前記テロップ判定手段によるテロップ領域の判定が行われることを特徴とする請求項11記載のテロップ検出装置。
【請求項16】
前記テロップ判定手段は、前記エッジブロック画像データが示すブロックのうちの孤立したブロックを除去するブロック除去手段と、前記ブロック除去手段による孤立ブロック除去後のエッジブロック画像データが示すブロック数が第3閾値より大であるか否かを判別するブロック数判別手段と、前記ブロック数判別手段によって前記ブロック数が前記第3閾値より大であると判別されたとき前記孤立ブロック除去後のエッジブロック画像データが示すブロックを全て含む領域を囲む最小の矩形ブロック領域をブロック囲み領域として設定するブロック囲み領域設定手段と、前記ブロック囲み領域におけるブロック部分との面積比を算出し、その面積比が第4閾値以上であるか否かを判別するブロック密集度算出部と、を備え、前記面積比が前記第4閾値以上であるとき前記ブロック囲み領域を前記テロップ領域と判定することを特徴とする請求項11記載のテロップ検出装置。
【請求項17】
入力映像信号を記録媒体に記録するレコーダであって、
入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、
前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、
を備えたことを特徴とするレコーダ。
【請求項18】
前記テロップ判定手段によって判定されたテロップ領域を用いてチャプタメニューを作成するチャプタメニュー作成手段を更に備えたことを特徴とする請求項17記載のレコーダ。
【請求項19】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、
今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を前記静止エッジ画像データとして検出し、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、
前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定することを特徴とするテロップ検出方法。
【請求項20】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、
1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、
今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出し、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、
前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定することを特徴とするテロップ検出方法。
【請求項1】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴とするテロップ検出装置。
【請求項2】
前記エッジ画像抽出手段は、入力映像信号の1フレーム分の映像信号を抽出するフレーム抽出部と、前記フレーム抽出部によって抽出された1フレーム分の映像信号から、隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ映像データを抽出するフレーム内エッジ抽出部と、を備えたことを特徴とする請求項1記載のテロップ検出装置。
【請求項3】
前記エッジ画像抽出手段は、1フレームを複数の領域に分割して画面隅の領域のみを有効領域とし、他の領域を無効領域とする領域分割手段を有し、
前記フレーム内エッジ抽出部は、前記フレーム抽出部によって抽出された1フレーム分の前記有効領域の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ映像データを抽出することを特徴とする請求項2記載のテロップ検出装置。
【請求項4】
前記静止エッジ検出手段は、前記静止エッジ画像データを保存する静止エッジバッファと、前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと前記静止エッジバッファに保存された前記静止エッジ画像データとの重複部分を新たな前記静止エッジ画像データとし、その新たな静止エッジ画像データを前記静止エッジバッファに格納する静止エッジ検出部と、を備えたことを特徴とする請求項1記載のテロップ検出装置。
【請求項5】
前記静止エッジ検出手段は、前記エッジ画像抽出手段によって先頭フレームの映像信号から抽出されたエッジ画像データ、又は前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定された直後のフレームの映像信号から前記エッジ画像抽出手段によって抽出されたエッジ画像データを、そのまま前記静止エッジ画像データとすることをを特徴とする請求項1記載のテロップ検出装置。
【請求項6】
前記継続状態判定手段は、前記静止エッジ画像データが示すエッジ数が第1閾値より大であるか否かを判別するエッジ数測定部と、前記エッジ数測定部によって前記エッジ数が前記第1閾値より大であることが判別されたときフレーム計数値を1だけ増加させ、前記エッジ数測定部によって前記エッジ数が前記第1閾値以下であることが判別されたとき前記フレーム計数値が第2閾値より大であるか否かを判別する継続時間測定部と、前記エッジ数測定部によって前記エッジ数が前記第1閾値以下であることが判別されたとき前記フレーム計数値を0に初期化するリセット手段と、を備え、前記フレーム計数値が前記第2閾値より大であるときに前記テロップ判定手段によるテロップ領域の判定が行われることを特徴とする請求項1記載のテロップ検出装置。
【請求項7】
前記テロップ判定手段は、前記判定された静止エッジ画像データを所定の複数画素からなるブロック単位に分割し、前記判定された静止エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成部と、前記エッジブロック画像データが示すブロックのうちの孤立したブロックを除去するブロック除去手段と、前記ブロック除去手段による孤立ブロック除去後のエッジブロック画像データが示すブロック数が第3閾値より大であるか否かを判別するブロック数判別手段と、前記ブロック数判別手段によって前記ブロック数が前記第3閾値より大であると判別されたとき前記孤立ブロック除去後のエッジブロック画像データが示すブロックを全て含む領域を囲む最小の矩形ブロック領域をブロック囲み領域として設定するブロック囲み領域設定手段と、前記ブロック囲み領域におけるブロック部分との面積比を算出し、その面積比が第4閾値以上であるか否かを判別するブロック密集度算出部と、を備え、前記面積比が前記第4閾値以上であるとき前記ブロック囲み領域を前記テロップ領域と判定することを特徴とする請求項1記載のテロップ検出装置。
【請求項8】
前記テロップ判定手段は、前記判定された静止エッジ画像データが示すエッジのうちの孤立したエッジを除去するエッジ除去手段と、前記エッジ除去手段による孤立エッジ除去後の静止エッジ画像データが示すエッジ数が第5閾値より大であるか否かを判別するエッジ数判別手段と、前記エッジ数判別手段によって前記エッジ数が前記第5閾値より大であると判別されたとき前記孤立エッジ除去後の静止エッジ画像データが示すエッジを全て含む領域を囲む最小の矩形領域をエッジ囲み領域として設定するエッジ囲み領域設定手段と、前記エッジ囲み領域におけるエッジ部分との面積比を算出し、その面積比が第6閾値以上であるか否かを判別するエッジ密集度算出部と、を備え、前記面積比が前記第6閾値以上であるとき前記エッジ囲み領域を前記テロップ領域と判定することを特徴とする請求項1記載のテロップ検出装置。
【請求項9】
入力映像信号を記録媒体に記録するレコーダであって、
入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
前記エッジ画像抽出手段によって今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を静止エッジ画像データとして検出する静止エッジ検出手段と、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴とするレコーダ。
【請求項10】
前記テロップ判定手段によって判定されたテロップ領域を用いてチャプタメニューを作成するチャプタメニュー作成手段を更に備えたことを特徴とする請求項9記載のレコーダ。
【請求項11】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、
前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、を備えたことを特徴とするテロップ検出装置。
【請求項12】
前記エッジ画像抽出手段は、入力映像信号の1フレーム分の映像信号を抽出するフレーム抽出部と、前記フレーム抽出部によって抽出された1フレーム分の映像信号から隣接画素の輝度とは輝度差が所定値以上の輝度を有するエッジ画素を示すエッジ映像データを抽出するフレーム内エッジ抽出部と、を備えたことを特徴とする請求項11記載のテロップ検出装置。
【請求項13】
前記静止ブロック検出手段は、前記静止ブロック画像データを保存する静止ブロックバッファと、前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと前記静止ブロックバッファに保存された前記静止ブロック画像データとの重複部分を新たな前記静止ブロック画像データとし、その新たな静止ブロック画像データを前記静止ブロックバッファに格納する静止ブロック検出部と、を備えたことを特徴とする請求項11記載のテロップ検出装置。
【請求項14】
前記静止ブロック検出手段は、前記エッジブロック作成手段によって作成された先頭フレームのエッジブロック画像データ、又は前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定された直後のフレームのエッジブロック画像データをそのまま前記静止ブロック画像データとすることを特徴とする請求項11記載のテロップ検出装置。
【請求項15】
前記継続状態判定手段は、前記静止ブロック画像データが示すブロック数が第1閾値より大であるか否かを判別するブロック数測定部と、前記ブロック数測定部によって前記ブロック数が前記第1閾値より大であることが判別されたときフレーム計数値を1だけ増加させ、前記ブロック数測定部によって前記ブロック数が前記第1閾値以下であることが判別されたとき前記フレーム計数値が第2閾値より大であるか否かを判別する継続時間測定部と、前記ブロック数測定部によって前記ブロック数が前記第1閾値以下であることが判別されたとき前記フレーム計数値を0に初期化するリセット手段と、を備え、前記フレーム計数値が第2閾値より大であるときに前記テロップ判定手段によるテロップ領域の判定が行われることを特徴とする請求項11記載のテロップ検出装置。
【請求項16】
前記テロップ判定手段は、前記エッジブロック画像データが示すブロックのうちの孤立したブロックを除去するブロック除去手段と、前記ブロック除去手段による孤立ブロック除去後のエッジブロック画像データが示すブロック数が第3閾値より大であるか否かを判別するブロック数判別手段と、前記ブロック数判別手段によって前記ブロック数が前記第3閾値より大であると判別されたとき前記孤立ブロック除去後のエッジブロック画像データが示すブロックを全て含む領域を囲む最小の矩形ブロック領域をブロック囲み領域として設定するブロック囲み領域設定手段と、前記ブロック囲み領域におけるブロック部分との面積比を算出し、その面積比が第4閾値以上であるか否かを判別するブロック密集度算出部と、を備え、前記面積比が前記第4閾値以上であるとき前記ブロック囲み領域を前記テロップ領域と判定することを特徴とする請求項11記載のテロップ検出装置。
【請求項17】
入力映像信号を記録媒体に記録するレコーダであって、
入力映像信号又は前記記録媒体に記録された映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出するエッジ画像抽出手段と、
1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成するエッジブロック作成手段と、
前記エッジブロック作成手段によって今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出する静止ブロック検出手段と、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定する継続状態判定手段と、
前記継続状態検出手段によって前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定するテロップ判定手段と、
を備えたことを特徴とするレコーダ。
【請求項18】
前記テロップ判定手段によって判定されたテロップ領域を用いてチャプタメニューを作成するチャプタメニュー作成手段を更に備えたことを特徴とする請求項17記載のレコーダ。
【請求項19】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、
今回のフレームの映像信号から抽出されたエッジ画像データと少なくとも前回のフレームの映像信号から抽出されたエッジ画像データとの重複部分を前記静止エッジ画像データとして検出し、
前記静止エッジ画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、
前記静止エッジ画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止エッジ画像データが示すエッジの密集度に応じてテロップ領域を判定することを特徴とするテロップ検出方法。
【請求項20】
入力映像信号からフレーム毎に輝度上のエッジを示すエッジ画像データを抽出し、
1フレームを所定の複数画素からなるブロック単位に分割し、前記エッジ画像データに応じてエッジの数を所定数以上含むブロックを表すエッジブロック画像データを作成し、
今回作成されたフレームのエッジブロック画像データと少なくとも前回作成されたフレームのエッジブロック画像データとの重複部分を前記静止ブロック画像データとして検出し、
前記静止ブロック画像データが所定のフレーム数以上に亘ってほぼ同一の内容で継続したか否かを判定し、
前記静止ブロック画像データが前記所定のフレーム数以上に亘ってほぼ同一の内容で継続したと判定されたとき、その判定された静止ブロック画像データが示すブロックの密集度に応じてテロップ領域を判定することを特徴とするテロップ検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【公開番号】特開2007−74091(P2007−74091A)
【公開日】平成19年3月22日(2007.3.22)
【国際特許分類】
【出願番号】特願2005−256245(P2005−256245)
【出願日】平成17年9月5日(2005.9.5)
【出願人】(000005016)パイオニア株式会社 (3,620)
【Fターム(参考)】
【公開日】平成19年3月22日(2007.3.22)
【国際特許分類】
【出願日】平成17年9月5日(2005.9.5)
【出願人】(000005016)パイオニア株式会社 (3,620)
【Fターム(参考)】
[ Back to top ]