説明

静止画記録装置及び画素データ補間方法

【課題】映像データに全体的に色や明るさが違ったフィールドデータが混入されていても、静止している部分と動いている部分とを的確に判断して高画質な静止画像を生成、記録することが可能な静止画記録装置を提供する。
【解決手段】各画素間の輝度信号の差分がΔY5からΔY7の範囲に収まる画素であれば、該画素は静止している部分と判断してフィールド間補間をし、収まらなければ、動いている部分と判断してフィールド内補間をして高画質な静止画像を生成する。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、飛び越し走査による動画像データから順次走査による静止画像データを生成する静止画記録装置に関する。
【0002】
【従来の技術】従来、インターレース(飛び越し)走査方式が採用されているテレビやビデオカメラ、CCDカメラなどから入力される動画像(映像)データから、プログレッシブ(順次)走査による1枚の静止画像データを生成する場合、飛び越し走査における奇数フィールドデータと偶数フィールドデータとの間の時間的なずれによる画像の乱れを補正して1枚の静止画を生成するのが一般的である。例えば、被写体が動いている映像から任意の位置の1枚の静止画を生成する場合、奇数フィールドデータと偶数フィールドデータとを合わせて1枚のフレームデータとすると、上記の2つのフィールドデータは時間的なずれがあるため、動体の部分では櫛上になり画質が劣化する。
【0003】そのため、特開平5−207431号公報では、時間的に連続する2フィールドのフレーム差信号をとって動体の動き情報を抽出し、その情報をもとにフィールド内補間とフィールド間補間を切り替えて画素を補間する方式を開示している。また、特開平8−130716号公報では、動体の動き情報を抽出の際に動きベクトル検出を使用する方式を開示している。
【0004】
【発明が解決しようとする課題】例えば、ビデオカメラやCCDカメラなどを使って室内で撮影する場合、ビデオカメラやCCDカメラから入力される映像データでは、(交流電源であるための)蛍光燈のちらつく周期とカメラが撮影する周期とが一致したいため、全体的に色や明るさが違ったフィールドデータが存在することがある。上記従来技術では、時間的に連続する2つのフィールドデータ間のフレーム差信号をとって動く情報を抽出するため、映像データに上記のような全体的に色や明るさが違ったフィールドデータが混入されていると、静止している部分においてもフレーム差が大きい、つまり動いている部分であると誤判断する可能性がある。
【0005】本発明の目的は、飛び越し走査による映像データから静止画像を生成する際、上記映像データに全体的に色や明るさが違ったフィールドデータが混入されていても、静止している部分と動いている部分とを的確に判断して高画質な静止画像を生成、記録することが可能な静止画記録装置を提供することにある。
【0006】
【課題を解決するための手段】上記課題を解決するために本発明は、インターレース画像をプログレッシブ画像に変換する方法であって、時間的に連続する2つのフィールドデータ間の全画素における輝度信号の差分を算出し、全差分値の分布を示すヒストグラムから各画素が動いている画素か、あるいは静止している画素かを判断し、動いている画素であればフィールド間補間をして補間データを生成し、静止している画素であればフィールド内補間をして補間データを生成する構成とした。
【0007】さらに、本発明は、上記ヒストグラムにおいて、全差分値のある一定の割合が含まれる領域に分布される(含まれる)差分値に対する画素は、静止している画素と判断され、上記領域に分布されない(含まれない)画素は、動いている画素と判断する構成とした。
【0008】また、本発明は、静止画像を生成する基準のフィールドデータを任意の個数のブロックに分割し、あるブロックに含まれる画素のうち、少なくとも1つ以上の画素が動いている画素であると判断された場合には、該ブロックに含まれる全画素は動いている画素であると判断する構成とした。
【0009】
【発明の実施の形態】本発明の実施形態を図面を参照して説明する。
【0010】図1は実施形態の静止画記録装置を適応しうるパーソナルコンピュータ等の情報処理装置のハードウェア構成図である。
【0011】図1に示すように、静止画記録装置10は、CPU1と、主記憶2と、補助記憶装置3と、入力装置4と、表示装置5と、動画像取り込み装置6と、動画像入力装置7とを有して構成される。そして、動画像入力装置7以外の各構成要素は、バス8によって接続され、各構成要素間で、必要な情報が伝送可能に構成されている。
【0012】また、動画像入力装置7は、動画像取り込み装置6に接続され、動画像入力装置7から映像データを伝送可能なように構成されている。
【0013】主記憶2は、ワークエリアとして機能したり、必要なプログラムを格納するための手段であり、前者に対してはRAM、後者に対してはROM等によって実現できる。
【0014】補助記憶装置3は、画像符号化装置10の動作を制御するためのプログラムや、動画像取り込み装置6を介して入力された映像データから生成した静止画などを保存しておく手段であり、例えば、フロッピーディスク、ハードディスク、DVD−ROM、DVD−RAM、CD−ROM、MO、メモリーカード等によって実現できる。
【0015】入力装置4は、必要な命令や情報を入力するための手段であり、例えば、キーボード、無線によるコントローラや、マウス、ジョイスティック等のポインティングデバイス等によって実現できる。
【0016】表示装置5は、動画像取り込み装置6を介して入力された映像データの表示や、生成された静止画像の表示等、各種情報を表示するための手段であり、例えば、CRT、ELディスプレイ、プラズマディスプレイ、液晶ディスプレイ等によって実現できる。
【0017】動画像取り込み装置6は、動画像入力装置6から入力されるアナログの映像データをデジタル化するための手段であり、ビデオキャプチャ装置等によって実現できる。例えば、特開平9−224216号公報に記載されている画像取り込み装置も適用可能である。
【0018】動画像入力装置7は、アナログあるいはディジタルの画像を入力する手段であり、例えば、CCD等のカメラ、ビデオカメラ、VTR、テレビジョン、TVチューナー等によって実現できる。
【0019】CPU1は、主記憶2や補助記憶装置3に、あらかじめ格納されているプログラムによって所定の動作を行う。
【0020】また、静止画記録装置10を構成する各要素のうち、画像やプログラムの入出力と直接関係がない装置がある場合には、その装置を図1の構成からはずすことができる。さらに、動画像取り込み装置6と動画像入力装置7とを一体化した構成としてもよい。
【0021】次に、実施形態では上記装置上で動作するプログラムで実現される静止画生成(画素データ補間)方法について詳しく説明する。上記プログラムは、主記憶2や補助記憶装置3に格納されており、何らかの事象、例えば、入力装置4を使用して入力されるユーザからの指示等を契機に、CPU1が実行することによって実現される。
【0022】図2は、上記動画像取り込み装置6を介して静止画記録装置10に取り込まれるディジタル化された映像データのうち、ある時点の連続する3つのフィールドデータを示している。図2において、iフィールドが奇数フィールドであれば、(i−1)フィールド及び(i+1)フィールドは偶数フィールドとなる。また、各フィールド内での走査線の一部をそれぞれ実線L1,L2,L1’,L2’,L3,L4で示す。実線L1とL1’,L2とL2’とはそれぞれ同じ位置に存在する走査線であり、L1及びL1’上のある同位置の画素をそれぞれP1,P2とする。また、実線L3及びL4上の画素で、画素P1及びP2と水平位置が同じである画素をそれぞれP3,P4とする。
【0023】まず、本実施形態における画素データ補間方法では、iフィールドに対して画素データを補間すると仮定すると、(i−1)フィールド及び(i+1)フィールドを構成する全画素に対し、上記各フィールド間の相対する位置の画素間の輝度信号の差分を算出する。例えば、画素P1に対しては画素P2との輝度信号の差分を算出する。通常、上記動画像入力装置7から入力されるデータはYUV形式で表現されており、このYデータが輝度信号である。つまり、各画素間のYデータの差分を算出することになる。また、仮に、上記動画像入力装置7から入力されるデータがRGB形式であったとしても、RGBからYUVに変換した後に差分を算出すればよい。画素P1の輝度信号をY1、画素P2の輝度信号をY2とすると、その差分値ΔYは(1)式で与えられる。
【0024】
【数1】ΔY=Y1―Y2 …(数1)
また、各フィールドにおいて、実際に映像データが含まれている有効画素数が、例えば、1走査線あたり640画素であり、有効走査線数が240本(2つフィールドデータで1フレームデータを構成すると有効走査線数は480本)であったとすると、差分を算出する全画素数は1フィールドあたり153600(=640x240)画素となる。
【0025】次に、画素間の輝度信号の差分値をもとに、各画素が動いている部分か、あるいは静止している部分かを判断するために、上記で算出した全差分値の分布を示すヒストグラムを作成する。ヒストグラムの一例を図3に示す。そして、全差分値のある一定の割合が含まれる差分値の最小値及び最大値を求める。図3において、全差分値の平均値が0であったとすると、最小値及び最大値はそれぞれΔY1及びΔY2となり、―ΔY1=ΔY2を満足する。仮に上記一定の割合を90%とすると、上述した例では、差分がΔY1からΔY2に収まる画素数は、138240(=153600x0.9)画素となる。ここで、各画素間の輝度信号の差分がΔY1からΔY2の範囲に収まる画素であれば、該画素は静止している部分と判断し、収まらなければ、該画素は動いている部分と判断する。
【0026】例えば、(1)式において、ΔYが図3におけるΔY3であったとすると、画素P1とP2は静止している部分であると判断される。また、ΔYがΔY4であったとすると、動いている部分であると判断される。
【0027】次に、各画素が静止している部分か、あるいは、動いている部分かを判断した後、画素データの補間を行う。例えば、図4におけるiフィールド中の画素P5を補間するデータとして生成する場合、画素P5は、上記方法で画素P1とP2とが静止している部分と判断された場合には(2)式で与えられる。
【0028】
【数2】P5=(P1+P2)/2 …(数2)
また、画素P1とP2とが動いている部分と判断された場合には(3)式で与えられる。
【0029】
【数3】P5=(P3+P4)/2 …(数3)
ここで、画素がYUV形式で表現されるならば、各画素のYデータ、Uデータ、Vデータそれぞれに対して、(2)式あるいは(3)式を適用することになる。また、画素がRGB形式で表現されるならば、各画素のRデータ、Gデータ、Bデータそれぞれに対して、(2)式あるいは(3)式を適用することになる。
【0030】一方、上記動画像入力装置7から入力されるデータに、全体的に色や明るさが違ったフィールドデータが混入されている場合、例えば、(i+1)フィールドの各画素が、(i−1)フィールドの各画素に対して全体的に明るい場合、全差分値の分布を示すヒストグラムは図5のようになる。ここで、全差分値の平均値がΔY6であったとすると、全差分値のある一定の割合が含まれる差分値の最小値及び最大値はそれぞれΔY5及びΔY7となり、(ΔY6―ΔY5)=(ΔY7―ΔY6)を満足する。そして、各画素間の輝度信号の差分がΔY5からΔY7の範囲に収まる画素であれば、該画素は静止している部分と判断される。
【0031】以上のように、本実施形態では、上記動画像入力装置7から入力されるデータに、全体的に色や明るさが違ったフィールドデータが混入されている場合においても、上記全体的に色や明るさが違ったフィールドデータが混入されていないときと同様の方式で画素データの補間が可能であり、さらに、ある画素が静止している部分か、あるいは、動いている部分かを誤判断することなく、高画質な静止画像の生成、記録が可能となる。
【0032】また、上記実施形態では、画素毎に静止している部分か、あるいは、動いている部分かを判定して補間データを生成したが、画素データを補間する(静止画像として生成する)フィールドデータをいくつかのブロックに分割し、各ブロック毎に静止している部分か、あるいは、動いている部分かを判定するようにしてもよい。
【0033】図6は生成された全補間データの一例を示している。全補間データはいくつかのブロックに分割されており、各ブロックは少なくとも1つ以上の補間データを含んでいる。例えば、ブロックB1が補間データP6及びP7を含んでおり、さらに、上記実施形態の補間データ生成方法を用いて、P6は(2)式を用いて生成されたデータ(つまり、静止している部分)、P7は(3)式を用いて生成されたデータ(つまり、動いている部分)とすると、ブロックB1には、少なくとも1つの動いている部分が存在することになり、この場合、ブロックB1に含まれる全補間データを動いている部分として再認識し、(3)式を用いて補間データを再生成する。
【0034】このように、ブロック毎に静止している部分か、あるいは、動いている部分かを判定することで、一面同じような色や明るさを持つ被写体が移動している場合においても、的確に移動している部分として認識し、正しい補間データを生成することが可能となる。
【0035】
【発明の効果】以上説明してきたように、本発明によれば、上記動画像入力装置7から入力される映像データに、全体的に色や明るさが違ったフィールドデータが混入されている場合においても、上記全体的に色や明るさが違ったフィールドデータが混入されていないときと同様の方式で画素データの補間が可能であり、さらに、ある画素が静止している部分か、あるいは、動いている部分かを誤判断することなく、高画質な静止画像の生成、記録が可能な静止画記録装置を提供することができる。
【0036】さらに、生成された全補間データをいくつかのブロックに分割し、各ブロック毎に静止している部分か、あるいは、動いている部分かを判定することで、一面同じような色や明るさを持つ被写体が移動している場合においても、的確に移動している部分として認識し、正しい補間データを生成することが可能な静止画記録装置を提供することができる。
【図面の簡単な説明】
【図1】本実施形態の静止画記録装置のハードウェア構成図である。
【図2】画素データ補間方法の説明図である。
【図3】動き判定方法の説明する特性図である。
【図4】画素データ補間方法の説明図である。
【図5】動き判定方法の説明する特性図である。
【図6】動き判定方法の説明図である。
【符号の説明】
1…CPU、2…主記憶、3…補助記憶装置、4…入力装置、5…表示装置、6…動画像取り込み装置、7…動画像入力装置、8…バス。

【特許請求の範囲】
【請求項1】処理装置と、記憶装置とを有する静止画記録装置において、インターレース信号におけるある時刻のフィールドデータを補間して静止画像を生成する場合、前記処理装置は、前記フィールドデータの時間的に連続する前後の2つフィールドデータの各画素間の輝度信号の差分をとって全差分値の平均値ΔY0を求め、さらに、(ΔY0―ΔY1)=(ΔY2―ΔY0)を満足し、かつ、全差分値のある一定の割合が含まれる差分値の最小値ΔY1及び最大値ΔY2を求め、そして、前記各画素間の輝度信号の差分がΔY1からΔY2の範囲に収まる画素であれば、該画素は被写体が静止している部分と判断してフィールド間補間をし、収まらなければ、該画素は被写体が動いている部分と判断してフィールド内補間をして静止画像を生成して前記記憶装置に記憶することを特徴とする静止画記録装置。
【請求項2】請求項1において、前記処理装置は、前記ある時刻のフィールドデータを補間する全データを少なくとも1つ以上のブロックに分割し、各ブロックに少なくとも1つ以上の動いている部分と判断される画素がある場合には、該ブロックに含まれるすべての画素が動いている部分であると判断することを特徴とする静止画記録装置。
【請求項3】インターレース信号におけるある時刻のフィールドデータを補間して静止画像を生成する場合、前記フィールドデータの時間的に連続する前後の2つフィールドデータの各画素間の輝度信号の差分をとって全差分値の平均値ΔY0を求め、さらに、(ΔY0―ΔY1)=(ΔY2―ΔY0)を満足し、かつ、全差分値のある一定の割合が含まれる差分値の最小値ΔY1及び最大値ΔY2を求め、そして、前記各画素間の輝度信号の差分がΔY1からΔY2の範囲に収まる画素であれば、該画素は被写体が静止している部分と判断してフィールド間補間をし、収まらなければ、該画素は被写体が動いている部分と判断してフィールド内補間をして静止画像を生成することを特徴とする画素データ補間方法。
【請求項4】請求項3において、前記ある時刻のフィールドデータを補間する全データを少なくとも1つ以上のブロックに分割し、各ブロックに少なくとも1つ以上の動いている部分と判断される画素がある場合には、該ブロックに含まれるすべての画素が動いている部分であると判断することを特徴とする画素データ補間方法。

【図1】
image rotate


【図2】
image rotate


【図3】
image rotate


【図4】
image rotate


【図5】
image rotate


【図6】
image rotate


【公開番号】特開2000−324440(P2000−324440A)
【公開日】平成12年11月24日(2000.11.24)
【国際特許分類】
【出願番号】特願平11−126739
【出願日】平成11年5月7日(1999.5.7)
【出願人】(000005108)株式会社日立製作所 (27,607)
【出願人】(000153476)株式会社日立マイクロソフトウェアシステムズ (2)
【Fターム(参考)】