動画像処理装置、動画像処理装置の制御方法、プログラム及び記録媒体
【課題】メモリをひとつだけ持つ構成で、プログレッシブ方式の画像データを、幾何的変形を施したインターレース方式の画像データへと変換するビデオカメラ装置を実現。
【解決手段】イメージセンサ11から出力されたプログレッシブ方式の画像データはメモリ制御部30によりメモリ20に書き込まれる。メモリ20上の画像(変形前画像)を変形(拡大・回転等)後の画像のインターレース方式で出力される画素順で、変形後画像の各画素の座標に対応した変形前画像上の座標が画像変形部40で順次生成される。メモリ制御部30は、その生成された座標をメモリ20のアドレスへ変換し、該アドレスより変形前画像の画素値を読み出してインターレース方式の画像データとして出力する。
【解決手段】イメージセンサ11から出力されたプログレッシブ方式の画像データはメモリ制御部30によりメモリ20に書き込まれる。メモリ20上の画像(変形前画像)を変形(拡大・回転等)後の画像のインターレース方式で出力される画素順で、変形後画像の各画素の座標に対応した変形前画像上の座標が画像変形部40で順次生成される。メモリ制御部30は、その生成された座標をメモリ20のアドレスへ変換し、該アドレスより変形前画像の画素値を読み出してインターレース方式の画像データとして出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログレッシブ方式の画像データを入力し、インターレース方式の画像データを出力するビデオカメラ装置等の動画像処理装置に関する。
【背景技術】
【0002】
近年、ビデオカメラ装置はその小型化に伴って、例えば車載カメラやセキュリティカメラなど様々な用途に使用されるようになっている。
【0003】
このようなビデオカメラ装置の中には、画像をインターレース方式で出力するものがある。これは、動画像を表示するための装置(カーナビゲーションシステムのモニタやテレビジョンなど)には、NTSCやPALなどのインターレース方式の規格に対応した装置が多いからである。
【0004】
一方、映像を撮像するためにはCCDイメージセンサやCMOSイメージセンサといったイメージセンサが使用されるが、これらのイメージセンサは撮像した画像をプログレッシブ方式の画像データとして出力するものが多い。これは、撮像後に画像処理を施す場合や動く被写体を撮像する場合に、プログレッシブ方式のほうが有利であるためである。
【0005】
以上のように、入力の画像データがプログレッシブ方式で、出力の画像データがインターレース方式であるビデオカメラ装置等においては、プログレッシブ方式をインターレース方式に変換するPI変換処理を施す必要がある。
【0006】
このPI変換の方法は良く知られている。例えば特許文献1では、プログレッシブ方式で入力する際のフレームレートと、インターレース方式で出力する際のフィールドレートとの関係によって、2通りのPI変換方法を使い分けている。より具体的には、入力のプログレッシブ方式のフレームレートが出力のインターレース方式のフィールドレートと同じである場合には、プログレッシブ方式のフレーム内で垂直方向に並んだ2つの画素値を足し合わせて、1フィールド分の画素値を得ることで、PI変換を実現している。入力のプログレッシブ方式のフレームレートが出力のインターレース方式のフィールドレートと同じでない場合には、プログレッシブ方式の画像データの1フレーム分をメモリにいったん保存し、保存した画像を走査線1本おきに読み出すことでPI変換を実現している。
【0007】
上記の2画素を足し合わせるPI変換方法は、メモリが不要なのでコスト面で有利である。しかし、入力のフレームレートを出力のフィールドレートと同じにするためには、イメージセンサを含む入力部分の動作の高速化が必要なので、高速で動作できるイメージセンサでしか実現できない方法である。逆に、上記のメモリを使用するPI変換方法は、メモリ分のコストアップはあるものの、入力からメモリに保存するまでの動作速度が限定されない(遅くても速くても問題ない)という利点がある。
【0008】
ビデオカメラ装置には、イメージセンサから得られた画像データをそのまま出力するだけでなく、拡大や回転といった幾何学的な変形処理を施して出力するものもある。このような画像の変形処理の方法は良く知られている。ここでは変形処理の例として、画像を縦横に2倍に拡大する処理について図10を用い説明する。
【0009】
説明を簡単にするため、横4pix、縦3pixの、合計12pixの画素で構成された画像データを、横8pix、縦6pixの、合計48pixの画素で構成された画像データに拡大する場合で考える。
【0010】
図10において、変形前の画像の横方向をx座標で示し、縦方向をy座標で示し、画像の左上隅にあたる画素の座標を(x,y)=(1,1)とした。また、拡大後の画像の横方向をu座標で示し、縦方向をv座標で示し、画像の左上隅にあたる画素の座標を(u,v)=(1,1)とした。
【0011】
例えば、拡大後の画像の座標(u,v)=(8,6)の画素値を求めるには、当該u,v座標の値を1/2すると(u,v)=(4,3)となるので、変形前の画像の座標(x,y)=(4,3)の画素値を参照し、その値をコピーする。また、拡大後の画像の座標(u,v)=(5,2)の画素値を求めるには、u,v座標値を1/2すると(u,v)=(2.5,1)とu座標値は小数になるため、変形前の画像の座標(x,y)=(2,1)と(x,y)=(3,1)の2点の画素値を参照し、それらの平均値を採用する。
【0012】
ここでは画像の拡大の場合について説明したが、その他の変形の場合でも、「変形後の画像のある座標は、変形前の画像ではどこの座標にあたるのかを見つけ出す」という処理を行うのが一般的である。このような処理を実現するためには、変形前の画像データをメモリに保存しておく必要がある。
【0013】
前述のように、PI変換の際にも画像の変形処理の際にも、メモリが必要になる。そのため、イメージセンサからプログレッシブ方式で得られる画像データに変形処理を施したうえで、インターレース方式の画像データに変換して出力するビデオカメラ装置の構成は、例えば図11のようになる。図11において、イメージセンサ100からプログレッシブ方式の画像データが出力されが、この画像データを変形処理用のメモリ101にいったん保存する。画像変形部102では、メモリ101に保存された画像データを参照しながら変形処理を施し、変形後の画像データをPI変換用のメモリ103に保存する。メモリ103から変形後の画像データが走査線1本おきに読み出すことにより、プログレッシブ方式の画像データからインターレース方式の画像データに変換する。
【0014】
しかし、図11の構成では、メモリが2つ必要でコスト高だという問題がある。また、画像データの入力から出力までの間に2つのメモリにそれぞれ読み書きを行うので、2画面分の遅延が発生するという性能面の問題がある。
【発明の概要】
【発明が解決しようとする課題】
【0015】
本発明は、ビデオカメラ装置等の動画処理装置における前述したようなコスト面及び性能面での問題点を解決することを目的とする。より具体的には、本発明の目的は、入力される画像を保存するためのメモリを1つ持つだけで、画像の幾何学的変形とPI変換とを実行し、かつ、それら処理を無駄なメモリの読み書きを行うことなく実行するようにしたビデオカメラ装置等の動画処理装置を提供すること、及び、そのような動画処理装置のための制御方法を提供することにある。
【課題を解決するための手段】
【0016】
請求項1記載の発明は、プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置であって、
メモリと、
前記変形前画像を前記メモリに書き込む第1の手段と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の手段と、
前記第2の手段により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の手段と、
を有することを特徴とする。
【0017】
請求項2記載の発明の特徴は、請求項1記載の発明の動画像処理装置に、前記プログレッシブ方式の画像データを入力するための手段として、撮像した画像をプログレッシブ方式の画像データとして出力するイメージセンサをさらに備えることである。
【0018】
請求項3記載の発明の特徴は、請求項1又は2記載の発明の動画像処理装置に、インターレース方式の画像データに適した同期信号を生成する第4の手段をさらに備え、前記第2の手段は、前記第4の手段により生成された同期信号を受けて、前記変形後画像のインターレース方式で出力される画素順に従って前記変形後画像の各画素の二次元座標を順次生成し、生成した該二次元座標に対応した前記変形前画像上の二次元座標を順次生成することである。
【0019】
請求項4記載の発明の特徴は、請求項3記載の発明の動画像処理装置に、前記第3の手段より出力されるインターレース方式の画像データと、前記第4の手段により生成される同期信号とを入力として、前記第3の手段より出力されるインターレース方式の画像データに所定の画像処理を施した、インターレース方式の別の画像データを出力する第5の手段をさらに備えることである。
【0020】
請求項5記載の発明の特徴は、請求項4記載の発明の動画像処理装置において、前記所定の画像処理は、前記第3の手段より出力されるインターレース方式の画像データに他の画像を重ね描きするオーバーレイ処理であることである。
【0021】
請求項6記載の発明は、プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置の制御方法であって、
前記変形前画像をメモリに書き込む第1の工程と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の工程と、
前記第2の工程により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の工程と、
を有することを特徴とする。
【0022】
請求項7記載の発明は、請求項1乃至5のいずれか1項記載の発明の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラムである。
【0023】
請求項8記載の発明は、請求項1乃至5のいずれか1項記載の発明の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラムが記録されたコンピュータが読み取り可能な記録媒体である。
【発明の効果】
【0024】
請求項1乃至6に記載の発明によれば、イメージセンサ等から入力されるプログレッシブ方式の画像データを保存するためのメモリを1つ備えるのみで、該メモリに保存された画像データを、幾何学的変形を施したインターレース方式の画像データへ変換する処理を実行することができ、その際に無駄なメモリの読み書きを行わないため処理効率も良いため、従来のビデオカメラ装置等の動画処理装置におけるコスト面及び性能面での問題点を解決するができる。また、請求項7,8に記載の発明によれば、マイクロコンピュータ等のコンピュータを利用し、請求項1乃至6に記載の発明を容易に実施可能になる。
【図面の簡単な説明】
【0025】
【図1】実施例1に係る動画像処理装置の構成説明のためのブロック図である。
【図2】実施例1に係る動画像処理装置における画像変形部での処理の説明のための図である。
【図3】実施例2に係る動画像処理装置の構成説明のためのブロック図である。
【図4】実施例3に係る動画像処理装置の構成説明のためのブロック図である。
【図5】有効な走査期間、水平ブランク期間及び垂直ブランク期間の説明図である。
【図6】プログレッシブ方式の画像データの同期信号と、それに基づいた変形前画像上の座標の計算を説明するための図である。
【図7】インターレース方式の画像データの同期信号と、それに基づいた変形後画像上の座標の計算を説明するための図である。
【図8】実施例4に係る動画像処理装置の構成説明のためのブロック図である。
【図9】オーバーレイ処理の説明図である。
【図10】拡大処理の説明図である。
【図11】変形処理用のメモリとPI変換用のメモリを備えるビデオカメラ装置のブロック図である。
【発明を実施するための形態】
【0026】
以下、本発明の実施の形態について、いくつかの実施例を挙げて詳細に説明する。なお、説明の重複を減らすため、図1、図3、図4、図8において、同一もしくは同様の要素には同一の参照番号が付けられている。
【実施例1】
【0027】
図1は、本発明の実施例1に係る動画像処理装置の主要部構成を説明するためのブロック図である。
【0028】
図1において、10はプログレッシブ方式の画像データを入力するための手段としての画像データ源で、プログレッシブ方式の画像データを出力するものである。この画像データ源10は、具体的には、プログレッシブ方式で画像データを出力する外部のビデオカメラ装置、プログレッシブ方式で画像データを記録する記録装置や記録媒体などを挙げることができる。
【0029】
20は、画像データ源10よりプログレッシブ方式の画像データとして入力された画像(変形前画像)を保存するためのメモリである。このメモリ20の容量は、画像の変形の自由度等を考慮して、画像データ1画面分以上を保存できる容量であることが望ましい。
【0030】
30はメモリ制御部であり、メモリ20の読み書きを制御するものである。例えば、メモリ20を読み書きするタイミングを制御したり、読み書きするアドレスを指定したりする。また、画像の各画素の座標をメモリ20のアドレスへと変換する(左上隅の画素はメモリの0番地とする等)処理などを行う。
【0031】
40は、メモリ20に保存された変形前画像に対する所定の幾何学的変形処理に関わる画像変形部である。幾何学的変形処理とは、図10を用いて説明したような拡大もしくは縮小や回転といった処理である。画像変換部40は、実行される変形処理の内容に適したルックアップテーブル(LUT)や、行列演算を行う演算回路などによって実現することができる。なお、画像変形部40では、画像データを直接操作するような処理は行わず、後述のような座標変換のための処理を実行する。したがって、メモリ制御部30と画像変形部40との間では、画像データそのもののやりとりはない。
【0032】
画像変形部40は、「変形後画像の画素の座標を示すための」信号41が入力される。ここで、「変形後画像」とは、メモリ20に保存されている変形前画像に所定の幾何学的変形が施されたならば得られるであろう画像であるが、その画像データはメモリ20上には存在しない。
【0033】
画像変形部40においては、信号41に基づいて、変形後画像のインターレース方式で出力される画素順に従って、変形後画像の各画素の二次元座標に対応した変形前画像上の二次元座標を順次生成し、生成した二次元座標を「変形前画像の座標を示すための」信号42としてメモリ制御部30へ出力する。
【0034】
メモリ制御部30では、信号42で示された二次元座標をメモリ20のアドレスに変換し、該アドレスから画素値を読み出し、当該画素値をインターレース方式の画像データとして出力する。
【0035】
なお、信号40,41は、直交座標の値そのものを示す信号である場合と、二次元座標を算出できるようにするための信号である場合とがある。後者の信号の例としては、極座標の動径と偏角を示す信号、画素数を数え上げるカウンタの値を示す信号、さらには、後述するような画像データの同期信号などを挙げることができる。
【0036】
また、「変形後画像の画素の座標を示すための」信号41をメモリ制御部30から画像変形部40へ与えるようにしているが、これに限ることはなく、当該装置を制御するプロセッサ(不図示)などから信号41を画像変形部40に与えるようにしても良いし、画像変形部40の内部で信号41に相当する信号を生成するようにしてもよい。
【0037】
ここで、画像変形部40へ入力する信号41で変形後画像の画素の二次元座標を指示する順番について、図2により説明する。
【0038】
図2では、説明を簡単にするために、変形後画像は、横8画素、縦6画素、合計48画素で構成されているものとする。また、変形後画像の横方向をu座標で、縦方向をv座標で示しており、画像の左上隅にあたる画素の座標は(u,v)=(1,1)である。
【0039】
図2中の斜体数字は、変形後画像の画素の座標が指示される順番を示し、この順番は変形後画像のインターレース方式で画素値が出力される順番でもある。
【0040】
1番目は左上隅の座標(u,v)=(1,1)を指示し、画像変形部40は(u,v)=(1,1)は変形前画像ではどこの座標にあたるのかを求め、その座標を信号42によりメモリ制御部30に報せ、メモリ制御部30はその座標に対応するメモリ20のアドレスから画素値を読み出し、当該画素値を変形後画像の座標(u,v)=(1,1)の画像値として出力する。
【0041】
2番目は右隣の座標(u,v)=(2,1)を指示して同様の処理をし、3番目はさらに右隣の(u,v)=(3,1)を指示して同様の処理をしていく。すなわち、変形後画像の1行目を左から右に向かって処理していく。
【0042】
このようにして8番目の右上隅の座標(u,v)=(8,1)まで処理が完了すると、9番目は3行目の1列目の座標(u,v)=(1,3)を処理する。すなわち、2行目をとばして、3行目を左から右に向かって処理していく。
【0043】
16番目の座標(u,v)=(8,3)まで処理が完了すると、17番目の座標として5行目の1列目の座標(u,v)=(1,5)を処理する。すなわち、4行目をとばして5行目を左から右に向かって処理していく。
【0044】
24番目の座標(u,v)=(5,8)まで処理が完了すると、25番目の座標として2行目の1列目の座標(u,v)=(1,2)に戻って処理し、2行目を左から右に向かって処理していく。
【0045】
このような処理により、変形後画像の画像データを走査線1本おきに形成することができる。これはつまり、メモリ制御部30で、画像の変形処理とインターレース方式への変換とが一緒に(同時に)実行されるということである。
【0046】
付言すれば、本実施例に係る動画像処理装置は、メモリ制御部30より出力されたインターレース方式の画像データを外部へ出力する手段や、その画像データを表示するための手段等、図1に示されていない要素を備えてもよい。
【0047】
また、以上の説明で明らかなように、本実施例におけるメモリ制御部30は特許請求の範囲における「第1の手段」と「第3の手段」の両方を包含する要素であり、画像変形部40は特許請求の範囲における「第2の手段」に相当する要素である。
【0048】
なお、図1において、太い矢印は画像データを示し、細い矢印は画像データ以外の信号を示している。これは他のブロック図においても同様である。
【実施例2】
【0049】
図3は、本発明の実施例2に係る動画処理装置の主要部構成を説明するためのブロック図である。
【0050】
本実施例に係る動画処理装置は、プログレッシブ方式の画像データを入力する手段として、撮像した画像をプログレッシブ方式の画像データとして出力するイメージセンサ11を備える。イメージセンサ11としては、公知のCCDイメージセンサやCMOSイメージセンサを用いることができる。すなわち、前記実施例1における画像データ源10がイメージセンサ11に置き換わっている。これ以外は実施例1の場合と同様である。
【0051】
このようにイメージセンサを備える本実施例に係る動画像処理装置は、具体的には例えばビデオカメラ装置である。なお、本実施例に係る動画像処理装置は、ビデオカメラ装置として一般的に備える他の要素を備えてもよいことは当然である。
【実施例3】
【0052】
図4は、本発明の実施例3に係る動画像処理装置の主要部構成を説明するためのブロック図である。以下、前記実施例2との相違点を中心に説明する。
【0053】
本実施例に係る動画像処理装置は、具体的にはビデオカメラ装置であって、イメージセンサ11を備える。ただし、本実施例では、イメージセンサ11として、プログレッシブ方式の画像データとともに、プログレッシブ方式の画像データに適した同期信号31を出力するものが用いられる。
【0054】
本実施例に係る動画像処理装置は、同期信号生成部50を備える。この同期信号生成部50は、インターレース方式の画像データに適した同期信号43,44を生成する。同期信号43は、前記実施例1,2における「変形後画像の画素の二次元座標を示すための」信号41に対応した信号として画像変形部40に入力される。同期信号44は、メモリ制御部30より出力されるインターレース方式の画像データとともに出力される。
【0055】
メモリ制御部30は、プログレッシブ方式の画像データと同期信号31とを受け取ると、同期信号31から入力画像すなわち変形前画像の各画素の二次元座標を計算し、その二次元座標をメモリ20のアドレスに変換し、メモリ20の該当アドレスに画像データの画素値を書き込む。
【0056】
画像変形部40は、同期信号43に基づいて、変形後画像のインターレース方式で出力される画素順に従って、変形後画像の各画素の二次元座標を順次計算する。そして、この変形後画像の各画素の二次元座標に対応した変形前画像上の二次元座標を生成し、この二次元座標を信号42としてメモリ制御部30へ通知する。
【0057】
メモリ制御部30では、信号42で示された二次元座標をメモリ20のアドレスに変換し、メモリ20の該当アドレスから画素値を読み出し、これを変形後画像のインターレース方式の画像データとして出力する。
【0058】
本実施例では、メモリ制御部30から出力されるインターレース方式の画像データとともに同期信号44も出力される。このように画像データとともに同期信号も出力するようにしておくと、後段に当該画像データを扱う処理部等がある場合に、当該処理部等で同期信号44に基づいて変形後画像上の二次元座標を容易に計算可能となる等の利益を得られる。
【0059】
なお、同期信号44は、画像変形部40に与えられる同期信号43と比べて、画像変形部42の処理およびメモリ制御部30でのメモリ20からの画像データの読み出しに必要な時間だけ遅延させて、出力される画像データとタイミングが揃うようにしておくのが望ましい。
【0060】
本実施例において、同期信号生成部50は、特許請求の範囲の「第4の手段」に相当する。ただし、第4の手段を、同期信号生成部50のような独立した要素として設けず、メモリ制御部30又は画像変形部40の一部機能として設けるようにしてもよい。
【0061】
ここで、メモリ制御部30において同期信号31に基づいて変形前画像上の各画素の二次元座標を計算する方法、及び、画像変形部40において同期信号43に基づいて変形後画像上の各画素の二次元座標を計算する方法について説明を補足する。
【0062】
ビデオカメラ装置のような電子機器においては、画像データは電気信号として扱われることになるが、画像データだけでは、どこからどこまでが一つの画像であるか判別できなくなってしまう。そこで、画像の始まりや水平走査線の始まりを電気回路で判別できるように、同期信号が付加される。イメージセンサが出力するようなデジタル信号では、画像データと同期信号とを別々に出力することもあるし、画像データの途中に同期信号を挿入することもある。ここでは、前者の場合を例にとって説明する。
【0063】
説明を簡単にするため、図5に示すような横8画素、縦6画素の画像の場合で考える。また、画像データには、画面に表示される有効なデータを持つ期間のほかに、有効なデータを持たないブランク期間が垂直・水平方向ともに含まれているものとする。このように画像データがブランク期間も含む場合、同期信号は画像の始まりだけでなく、有効な期間も示せると良い。
【0064】
プログレッシブ方式で画像データを出力するイメージセンサからは、例えば図6に示す同期信号および画像データが出力される。図6において、垂直同期信号は、画像の始まりから一定期間”H”になる信号である。よって、垂直同期信号の立ち上がりを検出してから、次に垂直同期信号の立ち上がりを検出するまでが、1フレーム(1画面)となる。水平同期信号は、有効な画像を含む水平走査線の、有効な画像の始まりの時点で”H”になり、8画素相当の時間”H”を維持したのちに”L”になる信号である。また、垂直ブランク期間においては、水平同期信号は常に”L”になる。
【0065】
メモリ制御部30では、このような同期信号に基づいて、変換前画像の各画素の二次元座標を次のようにして生成する。ここでは、変形前画像の横方向をx座標で、縦方向をy座標で示し、画像の左上隅にあたる画素の座標を(x,y)=(1,1)とする。
【0066】
x座標については、水平同期信号の立ち上がりを検出した時点でx=1とし、以降、水平同期信号が”H”である期間中、画像データが更新されるタイミング(ピクセルクロック周波数)で、x=2,3,…,8と、1ずつ増やしていく。y座標については、垂直同期信号の立ち上がりを検出したのち、最初に水平同期信号の立ち上がりを検出した時点でy=1とし、以降水平同期信号の立ち上がりを検出するたびに、y=2,3,…,6と、1ずつ増やしていく。y座標を1ずつ増やすタイミングは、水平走査線1本分の時間に相当する時間が経過したときでも良い。
【0067】
同期信号生成部50が生成するインターレース方式の画像データに適した同期信号43は、例えば図7のような信号である。なお、インターレース方式では、縦6画素で構成される1フレーム分(1画面分)が縦3画素で構成される2つのフィールドに分割される。
【0068】
図7において、垂直同期信号は、一方のフィールドの始まりの時点で”H”になり、もう一方のフィールドの始まりの時点で”L”になる信号である。よって、垂直同期信号の立ち上がりを検出してから、次に垂直同期信号の立ち上がりを検出するまでが、2フィールドすなわち1フレーム(1画面)となる。水平同期信号は、プログレッシブ方式の場合と同様、有効な画像を含む水平走査線の、有効な画像の始まりの時点で”H”になり、8画素相当の時間”H”を維持したのち”L”になる信号である。また、垂直ブランク期間においては、水平同期信号は常に”L”である。
【0069】
画像変形部40では、このような同期信号に基づいて、変形後画像の各画素の二次元画像を次のようにして生成する。こごては、変形後画像の横方向をu座標で、縦方向をv座標で示し、画像の左上隅にあたる画素の座標を(u,v)=(1,1)とする。
【0070】
u座標については、プログレッシブ方式の場合と同様、水平同期信号の立ち上がりを検出した時点でu=1とし、以降水平同期信号が”H”である期間中、画像データが更新されるタイミング(ピクセルクロック周波数)で、u=2,3,…,8と、1ずつ増やしていく。
【0071】
v座標については、垂直同期信号の立ち上がりを検出したのち、最初に水平同期信号の立ち上がりを検出した時点でv=1とし、以降水平同期信号の立ち上がりを検出するたびに、v=3,5とし、垂直同期信号の立ち下がりを検出したのち、最初に水平同期信号の立ち上がりを検出した時点でv=2とし、以降水平同期信号の立ち上がりを検出するたびに、v=4,6とする。インターレース方式では水平走査線が1本おきとなるので、v座標を2ずつ増やすことになる。v座標を2ずつ増やすタイミングは、水平走査線1本分の時間に相当する時間が経過したときでも良いが、v=1、v=2とするタイミングについては前述のようにするべきである。
【実施例4】
【0072】
図8は、本発明の実施例4に係る動画像処理装置の主要部構成を説明するためのブロック図である。以下、前記実施例3との相違点を中心に説明する。
【0073】
本実施例に係る動画像処理装置は、メモリ制御部30の後段に画像処理部60を備えている。この画像処理部60は、特許請求の範囲の「第5の手段」に相当する。
【0074】
画像処理部60には、メモリ制御部30から出力されるインターレース方式の画像データと、同期信号生成部50から出力されるインターレース方式の画像データに適した同期信号44が入力される。前記実施例3に関連して説明したように、同期信号44は、画像変形部40に与えられる同期信号43に対し、画像変形部40の処理およびメモリ20からの画像データの読み出しに必要な時間だけ遅延させて、出力画像データとタイミングが揃うようにしておくと良い。
【0075】
画像処理の対象となる画像データがインターレース方式である場合、プログレッシブ方式である場合と比べて、施すことのできる画像処理の自由度が制限される。これはインターレース方式では走査線1本おきのデータしか存在しないため、ある画素と垂直方向に隣り合う画素を得るのが困難なためである。例えば、ある画素とその近傍画素を必要とするフィルタ処理などは、インターレース方式の画像データに対して施すのは困難である。
【0076】
そこで、画像処理部60においは、画像データがインターレース方式であっても可能な処理、もしくは、同期信号だけでも可能な処理を施す。そのような画像処理の具体例は、イメージセンサ11で撮像された画像に任意の画像を重ね描きするオーバーレイ処理である。
【0077】
図9を参照し、オーバーレイ処理の概要を説明する。オーバーレイ処理を施すためには、元となる画像62と、重ね描きしたい任意の画像63、それら画像の座標が必要になる。ただし、座標を指定するための信号64に基づいて座標を計算するようにしてもよい(この計算手段が図9に座標変換手段65として示されている)。出力画像67を生成するにあたっては、元となる画像62又は重ね描きしたい任意の画像63のどちらか一方を、座標変換手段65で算出された座標に応じて選択して出力する(この選択を行う手段が図9に画像選択手段66として示されている)。つまり、算出された座標が重ね描きをしたくない位置であったときは、元の画像62の画素値をそのまま出力画像67の画素値として選択する。一方、算出された座標が重ね描きをしたい位置であったときは、任意の画像63の画素値の方を出力画像67の画素値として選択する。
【0078】
このように、オーバーレイ処理では画像の座標さえ分かればよく、ある画素と垂直方向に隣り合う画素は必要としないので、画像データがインターレース方式であっても処理を施すことが可能である。また、処理結果をインターレース方式で維持することも容易である。
【0079】
本実施例における画像処理部60の場合、画像62はメモリ制御部30から出力されるインターレース方式の画像データに相当し、信号64は同期信号生成部50から出力されるインターレース方式の画像データに適した同期信号44に相当する。重ね描きしたい画像63は別途用意されることになる。かくして、画像変形およびインターレース変換を施した画像データに対して、さらにオーバーレイ処理を施すことができる。
【0080】
なお、オーバーレイ処理はイメージセンサ11から得られた画像データをメモリ20に保存する以前に施しておくことも可能ではあるが、メモリ20から読み出す際に画像の変形処理が施されるということは、オーバーレイした画像も一緒に変形処理されてしまうため好ましくない。オーバーレイ処理はビデオカメラ装置で施す処理の中でも最後に行うことが一般に望ましい。
【0081】
以上、4つの実施例について説明したが、各実施例に係る画像処理装置においてメモリ20、メモリ制御部30、画像変形部40、同期信号生成部50、画像処理部60として具現化された、特許請求の範囲におけるメモリと第1乃至第5の手段を、マイクロコンピュータ等のコンピュータを利用し実現することも可能である。そのためのプログラム、すなわち、メモリと第1乃至第5の手段としてコンピュータを機能させるためのプログラムも本発明に包含される。そのようなプログラムが記録された半導体記憶素子、磁気ディスク、光ディスク、光磁気ディスク等のコンピュータが読み取り可能な各種記録(記憶)媒体も本発明に包含される。
【0082】
また、各実施例に係る画像処理装置において、メモリ制御部30による書き込み時の処理工程と読み出し時の処理工程、画像変形部40による処理工程が特許請求の範囲の請求項6における第1乃至第3の工程に相当する。すなわち、各実施例は、特許請求の範囲の請求項6に係る画像処理装置の制御方法の実施例でもある。
【0083】
なお、本発明は、以上に説明した実施形態のみに限定されるものではなく、様々に変形した形態をとり得るものである。例えば、前記各実施例においては、プログレッシブ方式の画像を、その走査線を1本おきに飛び越し走査するインターレース方式の画像に変換するものとして説明したが、走査線をN(≧2)本おきに飛び越し走査するインターレース方式の画像に変換する態様も当然に本発明に包含されるものである。
【符号の説明】
【0084】
10 画像データ源
11 イメージセンサ
20 メモリ
30 メモリ制御部
40 画像変形部
50 同期信号生成部
60 画像処理部
【先行技術文献】
【特許文献】
【0085】
【特許文献1】特開2008−54221号公報
【技術分野】
【0001】
本発明は、プログレッシブ方式の画像データを入力し、インターレース方式の画像データを出力するビデオカメラ装置等の動画像処理装置に関する。
【背景技術】
【0002】
近年、ビデオカメラ装置はその小型化に伴って、例えば車載カメラやセキュリティカメラなど様々な用途に使用されるようになっている。
【0003】
このようなビデオカメラ装置の中には、画像をインターレース方式で出力するものがある。これは、動画像を表示するための装置(カーナビゲーションシステムのモニタやテレビジョンなど)には、NTSCやPALなどのインターレース方式の規格に対応した装置が多いからである。
【0004】
一方、映像を撮像するためにはCCDイメージセンサやCMOSイメージセンサといったイメージセンサが使用されるが、これらのイメージセンサは撮像した画像をプログレッシブ方式の画像データとして出力するものが多い。これは、撮像後に画像処理を施す場合や動く被写体を撮像する場合に、プログレッシブ方式のほうが有利であるためである。
【0005】
以上のように、入力の画像データがプログレッシブ方式で、出力の画像データがインターレース方式であるビデオカメラ装置等においては、プログレッシブ方式をインターレース方式に変換するPI変換処理を施す必要がある。
【0006】
このPI変換の方法は良く知られている。例えば特許文献1では、プログレッシブ方式で入力する際のフレームレートと、インターレース方式で出力する際のフィールドレートとの関係によって、2通りのPI変換方法を使い分けている。より具体的には、入力のプログレッシブ方式のフレームレートが出力のインターレース方式のフィールドレートと同じである場合には、プログレッシブ方式のフレーム内で垂直方向に並んだ2つの画素値を足し合わせて、1フィールド分の画素値を得ることで、PI変換を実現している。入力のプログレッシブ方式のフレームレートが出力のインターレース方式のフィールドレートと同じでない場合には、プログレッシブ方式の画像データの1フレーム分をメモリにいったん保存し、保存した画像を走査線1本おきに読み出すことでPI変換を実現している。
【0007】
上記の2画素を足し合わせるPI変換方法は、メモリが不要なのでコスト面で有利である。しかし、入力のフレームレートを出力のフィールドレートと同じにするためには、イメージセンサを含む入力部分の動作の高速化が必要なので、高速で動作できるイメージセンサでしか実現できない方法である。逆に、上記のメモリを使用するPI変換方法は、メモリ分のコストアップはあるものの、入力からメモリに保存するまでの動作速度が限定されない(遅くても速くても問題ない)という利点がある。
【0008】
ビデオカメラ装置には、イメージセンサから得られた画像データをそのまま出力するだけでなく、拡大や回転といった幾何学的な変形処理を施して出力するものもある。このような画像の変形処理の方法は良く知られている。ここでは変形処理の例として、画像を縦横に2倍に拡大する処理について図10を用い説明する。
【0009】
説明を簡単にするため、横4pix、縦3pixの、合計12pixの画素で構成された画像データを、横8pix、縦6pixの、合計48pixの画素で構成された画像データに拡大する場合で考える。
【0010】
図10において、変形前の画像の横方向をx座標で示し、縦方向をy座標で示し、画像の左上隅にあたる画素の座標を(x,y)=(1,1)とした。また、拡大後の画像の横方向をu座標で示し、縦方向をv座標で示し、画像の左上隅にあたる画素の座標を(u,v)=(1,1)とした。
【0011】
例えば、拡大後の画像の座標(u,v)=(8,6)の画素値を求めるには、当該u,v座標の値を1/2すると(u,v)=(4,3)となるので、変形前の画像の座標(x,y)=(4,3)の画素値を参照し、その値をコピーする。また、拡大後の画像の座標(u,v)=(5,2)の画素値を求めるには、u,v座標値を1/2すると(u,v)=(2.5,1)とu座標値は小数になるため、変形前の画像の座標(x,y)=(2,1)と(x,y)=(3,1)の2点の画素値を参照し、それらの平均値を採用する。
【0012】
ここでは画像の拡大の場合について説明したが、その他の変形の場合でも、「変形後の画像のある座標は、変形前の画像ではどこの座標にあたるのかを見つけ出す」という処理を行うのが一般的である。このような処理を実現するためには、変形前の画像データをメモリに保存しておく必要がある。
【0013】
前述のように、PI変換の際にも画像の変形処理の際にも、メモリが必要になる。そのため、イメージセンサからプログレッシブ方式で得られる画像データに変形処理を施したうえで、インターレース方式の画像データに変換して出力するビデオカメラ装置の構成は、例えば図11のようになる。図11において、イメージセンサ100からプログレッシブ方式の画像データが出力されが、この画像データを変形処理用のメモリ101にいったん保存する。画像変形部102では、メモリ101に保存された画像データを参照しながら変形処理を施し、変形後の画像データをPI変換用のメモリ103に保存する。メモリ103から変形後の画像データが走査線1本おきに読み出すことにより、プログレッシブ方式の画像データからインターレース方式の画像データに変換する。
【0014】
しかし、図11の構成では、メモリが2つ必要でコスト高だという問題がある。また、画像データの入力から出力までの間に2つのメモリにそれぞれ読み書きを行うので、2画面分の遅延が発生するという性能面の問題がある。
【発明の概要】
【発明が解決しようとする課題】
【0015】
本発明は、ビデオカメラ装置等の動画処理装置における前述したようなコスト面及び性能面での問題点を解決することを目的とする。より具体的には、本発明の目的は、入力される画像を保存するためのメモリを1つ持つだけで、画像の幾何学的変形とPI変換とを実行し、かつ、それら処理を無駄なメモリの読み書きを行うことなく実行するようにしたビデオカメラ装置等の動画処理装置を提供すること、及び、そのような動画処理装置のための制御方法を提供することにある。
【課題を解決するための手段】
【0016】
請求項1記載の発明は、プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置であって、
メモリと、
前記変形前画像を前記メモリに書き込む第1の手段と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の手段と、
前記第2の手段により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の手段と、
を有することを特徴とする。
【0017】
請求項2記載の発明の特徴は、請求項1記載の発明の動画像処理装置に、前記プログレッシブ方式の画像データを入力するための手段として、撮像した画像をプログレッシブ方式の画像データとして出力するイメージセンサをさらに備えることである。
【0018】
請求項3記載の発明の特徴は、請求項1又は2記載の発明の動画像処理装置に、インターレース方式の画像データに適した同期信号を生成する第4の手段をさらに備え、前記第2の手段は、前記第4の手段により生成された同期信号を受けて、前記変形後画像のインターレース方式で出力される画素順に従って前記変形後画像の各画素の二次元座標を順次生成し、生成した該二次元座標に対応した前記変形前画像上の二次元座標を順次生成することである。
【0019】
請求項4記載の発明の特徴は、請求項3記載の発明の動画像処理装置に、前記第3の手段より出力されるインターレース方式の画像データと、前記第4の手段により生成される同期信号とを入力として、前記第3の手段より出力されるインターレース方式の画像データに所定の画像処理を施した、インターレース方式の別の画像データを出力する第5の手段をさらに備えることである。
【0020】
請求項5記載の発明の特徴は、請求項4記載の発明の動画像処理装置において、前記所定の画像処理は、前記第3の手段より出力されるインターレース方式の画像データに他の画像を重ね描きするオーバーレイ処理であることである。
【0021】
請求項6記載の発明は、プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置の制御方法であって、
前記変形前画像をメモリに書き込む第1の工程と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の工程と、
前記第2の工程により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の工程と、
を有することを特徴とする。
【0022】
請求項7記載の発明は、請求項1乃至5のいずれか1項記載の発明の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラムである。
【0023】
請求項8記載の発明は、請求項1乃至5のいずれか1項記載の発明の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラムが記録されたコンピュータが読み取り可能な記録媒体である。
【発明の効果】
【0024】
請求項1乃至6に記載の発明によれば、イメージセンサ等から入力されるプログレッシブ方式の画像データを保存するためのメモリを1つ備えるのみで、該メモリに保存された画像データを、幾何学的変形を施したインターレース方式の画像データへ変換する処理を実行することができ、その際に無駄なメモリの読み書きを行わないため処理効率も良いため、従来のビデオカメラ装置等の動画処理装置におけるコスト面及び性能面での問題点を解決するができる。また、請求項7,8に記載の発明によれば、マイクロコンピュータ等のコンピュータを利用し、請求項1乃至6に記載の発明を容易に実施可能になる。
【図面の簡単な説明】
【0025】
【図1】実施例1に係る動画像処理装置の構成説明のためのブロック図である。
【図2】実施例1に係る動画像処理装置における画像変形部での処理の説明のための図である。
【図3】実施例2に係る動画像処理装置の構成説明のためのブロック図である。
【図4】実施例3に係る動画像処理装置の構成説明のためのブロック図である。
【図5】有効な走査期間、水平ブランク期間及び垂直ブランク期間の説明図である。
【図6】プログレッシブ方式の画像データの同期信号と、それに基づいた変形前画像上の座標の計算を説明するための図である。
【図7】インターレース方式の画像データの同期信号と、それに基づいた変形後画像上の座標の計算を説明するための図である。
【図8】実施例4に係る動画像処理装置の構成説明のためのブロック図である。
【図9】オーバーレイ処理の説明図である。
【図10】拡大処理の説明図である。
【図11】変形処理用のメモリとPI変換用のメモリを備えるビデオカメラ装置のブロック図である。
【発明を実施するための形態】
【0026】
以下、本発明の実施の形態について、いくつかの実施例を挙げて詳細に説明する。なお、説明の重複を減らすため、図1、図3、図4、図8において、同一もしくは同様の要素には同一の参照番号が付けられている。
【実施例1】
【0027】
図1は、本発明の実施例1に係る動画像処理装置の主要部構成を説明するためのブロック図である。
【0028】
図1において、10はプログレッシブ方式の画像データを入力するための手段としての画像データ源で、プログレッシブ方式の画像データを出力するものである。この画像データ源10は、具体的には、プログレッシブ方式で画像データを出力する外部のビデオカメラ装置、プログレッシブ方式で画像データを記録する記録装置や記録媒体などを挙げることができる。
【0029】
20は、画像データ源10よりプログレッシブ方式の画像データとして入力された画像(変形前画像)を保存するためのメモリである。このメモリ20の容量は、画像の変形の自由度等を考慮して、画像データ1画面分以上を保存できる容量であることが望ましい。
【0030】
30はメモリ制御部であり、メモリ20の読み書きを制御するものである。例えば、メモリ20を読み書きするタイミングを制御したり、読み書きするアドレスを指定したりする。また、画像の各画素の座標をメモリ20のアドレスへと変換する(左上隅の画素はメモリの0番地とする等)処理などを行う。
【0031】
40は、メモリ20に保存された変形前画像に対する所定の幾何学的変形処理に関わる画像変形部である。幾何学的変形処理とは、図10を用いて説明したような拡大もしくは縮小や回転といった処理である。画像変換部40は、実行される変形処理の内容に適したルックアップテーブル(LUT)や、行列演算を行う演算回路などによって実現することができる。なお、画像変形部40では、画像データを直接操作するような処理は行わず、後述のような座標変換のための処理を実行する。したがって、メモリ制御部30と画像変形部40との間では、画像データそのもののやりとりはない。
【0032】
画像変形部40は、「変形後画像の画素の座標を示すための」信号41が入力される。ここで、「変形後画像」とは、メモリ20に保存されている変形前画像に所定の幾何学的変形が施されたならば得られるであろう画像であるが、その画像データはメモリ20上には存在しない。
【0033】
画像変形部40においては、信号41に基づいて、変形後画像のインターレース方式で出力される画素順に従って、変形後画像の各画素の二次元座標に対応した変形前画像上の二次元座標を順次生成し、生成した二次元座標を「変形前画像の座標を示すための」信号42としてメモリ制御部30へ出力する。
【0034】
メモリ制御部30では、信号42で示された二次元座標をメモリ20のアドレスに変換し、該アドレスから画素値を読み出し、当該画素値をインターレース方式の画像データとして出力する。
【0035】
なお、信号40,41は、直交座標の値そのものを示す信号である場合と、二次元座標を算出できるようにするための信号である場合とがある。後者の信号の例としては、極座標の動径と偏角を示す信号、画素数を数え上げるカウンタの値を示す信号、さらには、後述するような画像データの同期信号などを挙げることができる。
【0036】
また、「変形後画像の画素の座標を示すための」信号41をメモリ制御部30から画像変形部40へ与えるようにしているが、これに限ることはなく、当該装置を制御するプロセッサ(不図示)などから信号41を画像変形部40に与えるようにしても良いし、画像変形部40の内部で信号41に相当する信号を生成するようにしてもよい。
【0037】
ここで、画像変形部40へ入力する信号41で変形後画像の画素の二次元座標を指示する順番について、図2により説明する。
【0038】
図2では、説明を簡単にするために、変形後画像は、横8画素、縦6画素、合計48画素で構成されているものとする。また、変形後画像の横方向をu座標で、縦方向をv座標で示しており、画像の左上隅にあたる画素の座標は(u,v)=(1,1)である。
【0039】
図2中の斜体数字は、変形後画像の画素の座標が指示される順番を示し、この順番は変形後画像のインターレース方式で画素値が出力される順番でもある。
【0040】
1番目は左上隅の座標(u,v)=(1,1)を指示し、画像変形部40は(u,v)=(1,1)は変形前画像ではどこの座標にあたるのかを求め、その座標を信号42によりメモリ制御部30に報せ、メモリ制御部30はその座標に対応するメモリ20のアドレスから画素値を読み出し、当該画素値を変形後画像の座標(u,v)=(1,1)の画像値として出力する。
【0041】
2番目は右隣の座標(u,v)=(2,1)を指示して同様の処理をし、3番目はさらに右隣の(u,v)=(3,1)を指示して同様の処理をしていく。すなわち、変形後画像の1行目を左から右に向かって処理していく。
【0042】
このようにして8番目の右上隅の座標(u,v)=(8,1)まで処理が完了すると、9番目は3行目の1列目の座標(u,v)=(1,3)を処理する。すなわち、2行目をとばして、3行目を左から右に向かって処理していく。
【0043】
16番目の座標(u,v)=(8,3)まで処理が完了すると、17番目の座標として5行目の1列目の座標(u,v)=(1,5)を処理する。すなわち、4行目をとばして5行目を左から右に向かって処理していく。
【0044】
24番目の座標(u,v)=(5,8)まで処理が完了すると、25番目の座標として2行目の1列目の座標(u,v)=(1,2)に戻って処理し、2行目を左から右に向かって処理していく。
【0045】
このような処理により、変形後画像の画像データを走査線1本おきに形成することができる。これはつまり、メモリ制御部30で、画像の変形処理とインターレース方式への変換とが一緒に(同時に)実行されるということである。
【0046】
付言すれば、本実施例に係る動画像処理装置は、メモリ制御部30より出力されたインターレース方式の画像データを外部へ出力する手段や、その画像データを表示するための手段等、図1に示されていない要素を備えてもよい。
【0047】
また、以上の説明で明らかなように、本実施例におけるメモリ制御部30は特許請求の範囲における「第1の手段」と「第3の手段」の両方を包含する要素であり、画像変形部40は特許請求の範囲における「第2の手段」に相当する要素である。
【0048】
なお、図1において、太い矢印は画像データを示し、細い矢印は画像データ以外の信号を示している。これは他のブロック図においても同様である。
【実施例2】
【0049】
図3は、本発明の実施例2に係る動画処理装置の主要部構成を説明するためのブロック図である。
【0050】
本実施例に係る動画処理装置は、プログレッシブ方式の画像データを入力する手段として、撮像した画像をプログレッシブ方式の画像データとして出力するイメージセンサ11を備える。イメージセンサ11としては、公知のCCDイメージセンサやCMOSイメージセンサを用いることができる。すなわち、前記実施例1における画像データ源10がイメージセンサ11に置き換わっている。これ以外は実施例1の場合と同様である。
【0051】
このようにイメージセンサを備える本実施例に係る動画像処理装置は、具体的には例えばビデオカメラ装置である。なお、本実施例に係る動画像処理装置は、ビデオカメラ装置として一般的に備える他の要素を備えてもよいことは当然である。
【実施例3】
【0052】
図4は、本発明の実施例3に係る動画像処理装置の主要部構成を説明するためのブロック図である。以下、前記実施例2との相違点を中心に説明する。
【0053】
本実施例に係る動画像処理装置は、具体的にはビデオカメラ装置であって、イメージセンサ11を備える。ただし、本実施例では、イメージセンサ11として、プログレッシブ方式の画像データとともに、プログレッシブ方式の画像データに適した同期信号31を出力するものが用いられる。
【0054】
本実施例に係る動画像処理装置は、同期信号生成部50を備える。この同期信号生成部50は、インターレース方式の画像データに適した同期信号43,44を生成する。同期信号43は、前記実施例1,2における「変形後画像の画素の二次元座標を示すための」信号41に対応した信号として画像変形部40に入力される。同期信号44は、メモリ制御部30より出力されるインターレース方式の画像データとともに出力される。
【0055】
メモリ制御部30は、プログレッシブ方式の画像データと同期信号31とを受け取ると、同期信号31から入力画像すなわち変形前画像の各画素の二次元座標を計算し、その二次元座標をメモリ20のアドレスに変換し、メモリ20の該当アドレスに画像データの画素値を書き込む。
【0056】
画像変形部40は、同期信号43に基づいて、変形後画像のインターレース方式で出力される画素順に従って、変形後画像の各画素の二次元座標を順次計算する。そして、この変形後画像の各画素の二次元座標に対応した変形前画像上の二次元座標を生成し、この二次元座標を信号42としてメモリ制御部30へ通知する。
【0057】
メモリ制御部30では、信号42で示された二次元座標をメモリ20のアドレスに変換し、メモリ20の該当アドレスから画素値を読み出し、これを変形後画像のインターレース方式の画像データとして出力する。
【0058】
本実施例では、メモリ制御部30から出力されるインターレース方式の画像データとともに同期信号44も出力される。このように画像データとともに同期信号も出力するようにしておくと、後段に当該画像データを扱う処理部等がある場合に、当該処理部等で同期信号44に基づいて変形後画像上の二次元座標を容易に計算可能となる等の利益を得られる。
【0059】
なお、同期信号44は、画像変形部40に与えられる同期信号43と比べて、画像変形部42の処理およびメモリ制御部30でのメモリ20からの画像データの読み出しに必要な時間だけ遅延させて、出力される画像データとタイミングが揃うようにしておくのが望ましい。
【0060】
本実施例において、同期信号生成部50は、特許請求の範囲の「第4の手段」に相当する。ただし、第4の手段を、同期信号生成部50のような独立した要素として設けず、メモリ制御部30又は画像変形部40の一部機能として設けるようにしてもよい。
【0061】
ここで、メモリ制御部30において同期信号31に基づいて変形前画像上の各画素の二次元座標を計算する方法、及び、画像変形部40において同期信号43に基づいて変形後画像上の各画素の二次元座標を計算する方法について説明を補足する。
【0062】
ビデオカメラ装置のような電子機器においては、画像データは電気信号として扱われることになるが、画像データだけでは、どこからどこまでが一つの画像であるか判別できなくなってしまう。そこで、画像の始まりや水平走査線の始まりを電気回路で判別できるように、同期信号が付加される。イメージセンサが出力するようなデジタル信号では、画像データと同期信号とを別々に出力することもあるし、画像データの途中に同期信号を挿入することもある。ここでは、前者の場合を例にとって説明する。
【0063】
説明を簡単にするため、図5に示すような横8画素、縦6画素の画像の場合で考える。また、画像データには、画面に表示される有効なデータを持つ期間のほかに、有効なデータを持たないブランク期間が垂直・水平方向ともに含まれているものとする。このように画像データがブランク期間も含む場合、同期信号は画像の始まりだけでなく、有効な期間も示せると良い。
【0064】
プログレッシブ方式で画像データを出力するイメージセンサからは、例えば図6に示す同期信号および画像データが出力される。図6において、垂直同期信号は、画像の始まりから一定期間”H”になる信号である。よって、垂直同期信号の立ち上がりを検出してから、次に垂直同期信号の立ち上がりを検出するまでが、1フレーム(1画面)となる。水平同期信号は、有効な画像を含む水平走査線の、有効な画像の始まりの時点で”H”になり、8画素相当の時間”H”を維持したのちに”L”になる信号である。また、垂直ブランク期間においては、水平同期信号は常に”L”になる。
【0065】
メモリ制御部30では、このような同期信号に基づいて、変換前画像の各画素の二次元座標を次のようにして生成する。ここでは、変形前画像の横方向をx座標で、縦方向をy座標で示し、画像の左上隅にあたる画素の座標を(x,y)=(1,1)とする。
【0066】
x座標については、水平同期信号の立ち上がりを検出した時点でx=1とし、以降、水平同期信号が”H”である期間中、画像データが更新されるタイミング(ピクセルクロック周波数)で、x=2,3,…,8と、1ずつ増やしていく。y座標については、垂直同期信号の立ち上がりを検出したのち、最初に水平同期信号の立ち上がりを検出した時点でy=1とし、以降水平同期信号の立ち上がりを検出するたびに、y=2,3,…,6と、1ずつ増やしていく。y座標を1ずつ増やすタイミングは、水平走査線1本分の時間に相当する時間が経過したときでも良い。
【0067】
同期信号生成部50が生成するインターレース方式の画像データに適した同期信号43は、例えば図7のような信号である。なお、インターレース方式では、縦6画素で構成される1フレーム分(1画面分)が縦3画素で構成される2つのフィールドに分割される。
【0068】
図7において、垂直同期信号は、一方のフィールドの始まりの時点で”H”になり、もう一方のフィールドの始まりの時点で”L”になる信号である。よって、垂直同期信号の立ち上がりを検出してから、次に垂直同期信号の立ち上がりを検出するまでが、2フィールドすなわち1フレーム(1画面)となる。水平同期信号は、プログレッシブ方式の場合と同様、有効な画像を含む水平走査線の、有効な画像の始まりの時点で”H”になり、8画素相当の時間”H”を維持したのち”L”になる信号である。また、垂直ブランク期間においては、水平同期信号は常に”L”である。
【0069】
画像変形部40では、このような同期信号に基づいて、変形後画像の各画素の二次元画像を次のようにして生成する。こごては、変形後画像の横方向をu座標で、縦方向をv座標で示し、画像の左上隅にあたる画素の座標を(u,v)=(1,1)とする。
【0070】
u座標については、プログレッシブ方式の場合と同様、水平同期信号の立ち上がりを検出した時点でu=1とし、以降水平同期信号が”H”である期間中、画像データが更新されるタイミング(ピクセルクロック周波数)で、u=2,3,…,8と、1ずつ増やしていく。
【0071】
v座標については、垂直同期信号の立ち上がりを検出したのち、最初に水平同期信号の立ち上がりを検出した時点でv=1とし、以降水平同期信号の立ち上がりを検出するたびに、v=3,5とし、垂直同期信号の立ち下がりを検出したのち、最初に水平同期信号の立ち上がりを検出した時点でv=2とし、以降水平同期信号の立ち上がりを検出するたびに、v=4,6とする。インターレース方式では水平走査線が1本おきとなるので、v座標を2ずつ増やすことになる。v座標を2ずつ増やすタイミングは、水平走査線1本分の時間に相当する時間が経過したときでも良いが、v=1、v=2とするタイミングについては前述のようにするべきである。
【実施例4】
【0072】
図8は、本発明の実施例4に係る動画像処理装置の主要部構成を説明するためのブロック図である。以下、前記実施例3との相違点を中心に説明する。
【0073】
本実施例に係る動画像処理装置は、メモリ制御部30の後段に画像処理部60を備えている。この画像処理部60は、特許請求の範囲の「第5の手段」に相当する。
【0074】
画像処理部60には、メモリ制御部30から出力されるインターレース方式の画像データと、同期信号生成部50から出力されるインターレース方式の画像データに適した同期信号44が入力される。前記実施例3に関連して説明したように、同期信号44は、画像変形部40に与えられる同期信号43に対し、画像変形部40の処理およびメモリ20からの画像データの読み出しに必要な時間だけ遅延させて、出力画像データとタイミングが揃うようにしておくと良い。
【0075】
画像処理の対象となる画像データがインターレース方式である場合、プログレッシブ方式である場合と比べて、施すことのできる画像処理の自由度が制限される。これはインターレース方式では走査線1本おきのデータしか存在しないため、ある画素と垂直方向に隣り合う画素を得るのが困難なためである。例えば、ある画素とその近傍画素を必要とするフィルタ処理などは、インターレース方式の画像データに対して施すのは困難である。
【0076】
そこで、画像処理部60においは、画像データがインターレース方式であっても可能な処理、もしくは、同期信号だけでも可能な処理を施す。そのような画像処理の具体例は、イメージセンサ11で撮像された画像に任意の画像を重ね描きするオーバーレイ処理である。
【0077】
図9を参照し、オーバーレイ処理の概要を説明する。オーバーレイ処理を施すためには、元となる画像62と、重ね描きしたい任意の画像63、それら画像の座標が必要になる。ただし、座標を指定するための信号64に基づいて座標を計算するようにしてもよい(この計算手段が図9に座標変換手段65として示されている)。出力画像67を生成するにあたっては、元となる画像62又は重ね描きしたい任意の画像63のどちらか一方を、座標変換手段65で算出された座標に応じて選択して出力する(この選択を行う手段が図9に画像選択手段66として示されている)。つまり、算出された座標が重ね描きをしたくない位置であったときは、元の画像62の画素値をそのまま出力画像67の画素値として選択する。一方、算出された座標が重ね描きをしたい位置であったときは、任意の画像63の画素値の方を出力画像67の画素値として選択する。
【0078】
このように、オーバーレイ処理では画像の座標さえ分かればよく、ある画素と垂直方向に隣り合う画素は必要としないので、画像データがインターレース方式であっても処理を施すことが可能である。また、処理結果をインターレース方式で維持することも容易である。
【0079】
本実施例における画像処理部60の場合、画像62はメモリ制御部30から出力されるインターレース方式の画像データに相当し、信号64は同期信号生成部50から出力されるインターレース方式の画像データに適した同期信号44に相当する。重ね描きしたい画像63は別途用意されることになる。かくして、画像変形およびインターレース変換を施した画像データに対して、さらにオーバーレイ処理を施すことができる。
【0080】
なお、オーバーレイ処理はイメージセンサ11から得られた画像データをメモリ20に保存する以前に施しておくことも可能ではあるが、メモリ20から読み出す際に画像の変形処理が施されるということは、オーバーレイした画像も一緒に変形処理されてしまうため好ましくない。オーバーレイ処理はビデオカメラ装置で施す処理の中でも最後に行うことが一般に望ましい。
【0081】
以上、4つの実施例について説明したが、各実施例に係る画像処理装置においてメモリ20、メモリ制御部30、画像変形部40、同期信号生成部50、画像処理部60として具現化された、特許請求の範囲におけるメモリと第1乃至第5の手段を、マイクロコンピュータ等のコンピュータを利用し実現することも可能である。そのためのプログラム、すなわち、メモリと第1乃至第5の手段としてコンピュータを機能させるためのプログラムも本発明に包含される。そのようなプログラムが記録された半導体記憶素子、磁気ディスク、光ディスク、光磁気ディスク等のコンピュータが読み取り可能な各種記録(記憶)媒体も本発明に包含される。
【0082】
また、各実施例に係る画像処理装置において、メモリ制御部30による書き込み時の処理工程と読み出し時の処理工程、画像変形部40による処理工程が特許請求の範囲の請求項6における第1乃至第3の工程に相当する。すなわち、各実施例は、特許請求の範囲の請求項6に係る画像処理装置の制御方法の実施例でもある。
【0083】
なお、本発明は、以上に説明した実施形態のみに限定されるものではなく、様々に変形した形態をとり得るものである。例えば、前記各実施例においては、プログレッシブ方式の画像を、その走査線を1本おきに飛び越し走査するインターレース方式の画像に変換するものとして説明したが、走査線をN(≧2)本おきに飛び越し走査するインターレース方式の画像に変換する態様も当然に本発明に包含されるものである。
【符号の説明】
【0084】
10 画像データ源
11 イメージセンサ
20 メモリ
30 メモリ制御部
40 画像変形部
50 同期信号生成部
60 画像処理部
【先行技術文献】
【特許文献】
【0085】
【特許文献1】特開2008−54221号公報
【特許請求の範囲】
【請求項1】
プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置であって、
メモリと、
前記変形前画像を前記メモリに書き込む第1の手段と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の手段と、
前記第2の手段により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の手段と、
を有することを特徴とする動画像処理装置。
【請求項2】
前記プログレッシブ方式の画像データを入力するための手段として、撮像した画像をプログレッシブ方式の画像データとして出力するイメージセンサを有することを特徴とする請求項1に記載の動画像処理装置。
【請求項3】
インターレース方式の画像データに適した同期信号を生成する第4の手段を有し、
前記第2の手段は、前記第4の手段により生成された同期信号を受けて、前記変形後画像のインターレース方式で出力される画素順に従って前記変形後画像の各画素の二次元座標を順次生成し、生成した該二次元座標に対応した前記変形前画像上の二次元座標を順次生成することを特徴とする請求項1又は2に記載の動画像処理装置。
【請求項4】
前記第3の手段より出力されるインターレース方式の画像データと、前記第4の手段により生成される同期信号とを入力として、前記第3の手段より出力されるインターレース方式の画像データに所定の画像処理を施した、インターレース方式の別の画像データを出力する第5の手段を有することを特徴とする請求項3に記載の動画像処理装置。
【請求項5】
前記所定の画像処理は、前記第3の手段より出力されるインターレース方式の画像データに他の画像を重ね描きするオーバーレイ処理であることを特徴とする請求項4に記載の動画像処理装置。
【請求項6】
プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置の制御方法であって、
前記変形前画像をメモリに書き込む第1の工程と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の工程と、
前記第2の工程により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の工程と、
を有することを特徴とする動画像処理装置の制御方法。
【請求項7】
請求項1乃至5のいずれか1項に記載の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラム。
【請求項8】
請求項1乃至5のいずれか1項に記載の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラムが記録されたコンピュータが読み取り可能な記録媒体。
【請求項1】
プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置であって、
メモリと、
前記変形前画像を前記メモリに書き込む第1の手段と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の手段と、
前記第2の手段により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の手段と、
を有することを特徴とする動画像処理装置。
【請求項2】
前記プログレッシブ方式の画像データを入力するための手段として、撮像した画像をプログレッシブ方式の画像データとして出力するイメージセンサを有することを特徴とする請求項1に記載の動画像処理装置。
【請求項3】
インターレース方式の画像データに適した同期信号を生成する第4の手段を有し、
前記第2の手段は、前記第4の手段により生成された同期信号を受けて、前記変形後画像のインターレース方式で出力される画素順に従って前記変形後画像の各画素の二次元座標を順次生成し、生成した該二次元座標に対応した前記変形前画像上の二次元座標を順次生成することを特徴とする請求項1又は2に記載の動画像処理装置。
【請求項4】
前記第3の手段より出力されるインターレース方式の画像データと、前記第4の手段により生成される同期信号とを入力として、前記第3の手段より出力されるインターレース方式の画像データに所定の画像処理を施した、インターレース方式の別の画像データを出力する第5の手段を有することを特徴とする請求項3に記載の動画像処理装置。
【請求項5】
前記所定の画像処理は、前記第3の手段より出力されるインターレース方式の画像データに他の画像を重ね描きするオーバーレイ処理であることを特徴とする請求項4に記載の動画像処理装置。
【請求項6】
プログレッシブ方式の画像データとして入力された画像(以下、変形前画像と記す)に所定の幾何学的変形を施した画像(以下、変形後画像)をインターレース方式の画像データとして出力する動画像処理装置の制御方法であって、
前記変形前画像をメモリに書き込む第1の工程と、
前記変形後画像のインターレース方式で出力される画素順に従って、前記変形後画像の各画素の二次元座標に対応した前記変形前画像上の二次元座標を順次生成する第2の工程と、
前記第2の工程により順次生成された二次元座標に対応した前記変形前画像の画素値を前記メモリより順次読み出し、当該画素値をインターレース方式の画像データとして出力する第3の工程と、
を有することを特徴とする動画像処理装置の制御方法。
【請求項7】
請求項1乃至5のいずれか1項に記載の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラム。
【請求項8】
請求項1乃至5のいずれか1項に記載の動画像処理装置のメモリ及び各手段としてコンピュータを機能させるプログラムが記録されたコンピュータが読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−4019(P2011−4019A)
【公開日】平成23年1月6日(2011.1.6)
【国際特許分類】
【出願番号】特願2009−143815(P2009−143815)
【出願日】平成21年6月17日(2009.6.17)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成23年1月6日(2011.1.6)
【国際特許分類】
【出願日】平成21年6月17日(2009.6.17)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]