説明

車載カメラ装置および車両

【課題】 画像歪みをディジタル的に補正し、その後エンコードし画質を向上させる。
【解決手段】 入力画像の輝度信号をディジタル処理する輝度信号処理手段と、前記入力画像の色信号をディジタル処理する色信号処理手段と、前記輝度信号手段と色信号手段で信号処理された輝度信号と色信号が供給され、画像の歪み補正を行う歪み補正手段130と、前記歪み補正手段から出力される輝度信号と色信号からアナログ複合映像信号を発生するエンコーダ143とを有し、エンコード前に画像歪みを補正し画質を向上させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの固体撮像素子を用いた画像処理回路およびこれを用いたカメラ装置と車載カメラ装置に関し、特に広角レンズによる画像歪みをカメラモジュール(装置)内で処理し、高解像度、低コスト、高信頼性の画質を得るようにした。
【背景技術】
【0002】
カメラモジュールを搭載した車載カメラ(装置)においては、ブラインドコーナー用として左右両方の画像を撮像するために2台必要であった。これを改善するため、最近では車載カメラ装置にプリズムを介して左右両方の画像を表示する方法が特許文献1(特開2001−219783号公報)に開示されている。しかしながら、カメラモジュールを構成する固体撮像素子の画素数が25万画素と少ないことがあり、画像の解像度に問題や、プリズムを介して撮像するカメラ装置であるため用途が限定されたり、カメラ装置の外形サイズが大きくなったりする等の問題があった。
また、特許文献2(特開2004−297405号公報)においては、1台のカメラ装置で車両前方及び左右を撮像可能にした撮像装置(撮像システム)が開示されている。広角レンズとプリズムを組み合わせ、撮像素子をリニアモータ装置により移動させることで車両の走行状況に応じて適した画像を表示できるようにしている。
ただしモータを使うことにより制御が複雑になり、メカ駆動部を有するため高い信頼性が求められ高コスト、形状(大きさ)の増加が避けられない。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2001−219783号公報
【特許文献2】特開2004−297405号公報
【特許文献3】特開2004−80545号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来、歪み補正の処理部をカメラ信号処理LSIに内蔵できなかった問題点は、既存の歪み補正方法では、あまりにも回路規模が膨大になってしまうという事である。
それに対して、特許文献3(特開2004−80545号公報)では、アルゴリズムとアーキテクチャの工夫により画質を維持しつつ適性回路規模まで縮小することを可能とすることが開示されている。
また、従来技術において解決が難しかった理由は、車載カメラの映像伝送はNTSC(National Television System Committee)方式が用いられていて、従来の車載カメラ装置からの映像出力(NTSC信号)を後段の処理ブロックにてAD(アナログ・ディジタル)変換した後、ディジタル信号処理により歪み補正を行い、更にDA(ディジタル・アナログ)変換してNTSC方式のアナログ信号に変換を行いLCD(Liquid Crystal Display)モニタに表示していたことである。
以上のような処理では一度アナログ信号のNTSC方式に変換した後に歪み補正を行うため画質はNTSC信号の帯域制限により劣化する。また、AD変換、DA変換を繰り返すことにより、画質が劣化してしまう問題点がある。
【0005】
本発明は、上記課題に鑑みてなされたものであり、その目的とするところは、高画質、高解像度の映像を出力するためには、カメラ装置内で画像(または映像)を歪み補正し、歪み補正した画像(映像)を切り出しカメラ(装置)外部の処理装置でディジタル的に処理した後にNTSC方式に変換することにより、上述したNTSC信号の帯域制限のための画像劣化は生じない画像処理回路およびこれを用いたカメラ装置と車載カメラ装置を提供することにある。
【課題を解決するための手段】
【0006】
本発明の画像処理回路は、入力画像の輝度信号をディジタル処理する輝度信号処理手段と、前記入力画像の色信号をディジタル処理する色信号処理手段と、前記輝度信号処理手段と色信号処理手段で信号処理された輝度信号と色信号が供給され、画像の歪み補正を行う歪み補正手段と、前記歪み補正手段から出力される輝度信号と色信号からアナログ複合映像信号を発生するエンコーダとを有する。
本発明の画像処理回路は、入力画像の輝度信号をディジタル処理する輝度信号処理手段と、前記入力画像の色信号をディジタル処理する色信号処理手段と、前記輝度信号処理手段と色信号処理手段で信号処理された輝度信号と色信号が供給され、画像の歪み補正を行い、該歪み補正されたディジタル輝度信号と色信号を後段の信号処理手段に出力する歪み補正手段とを有する。
本発明のカメラ装置は、広角レンズと、前記広角レンズを介して画像光信号が入力されるセンサと、前記センサから出力された画像信号をディジタル信号に変換した後、変換された入力画像の歪み補正する画像処理回路と、歪み補正されたディジタル画像信号を映像伝送信号にエンコードするエンコーダとを有する。
本発明の車載カメラ装置は、広角レンズを有し、該広角レンズを介して入力された光信号を受光素子で電気信号に変換して画像信号を生成し、該画像信号の入力画像を画像処理回路で歪み補正し映像伝送信号にエンコードした後、該映像伝送信号を出力することを特徴とする。
【発明の効果】
【0007】
本発明における画像処理回路およびこれを用いたカメラ装置と車載カメラ装置は、高画質を実現するとともに、カメラ装置の外部に設けられ、このカメラ装置の出力に接続された処理ブロックであるECU(Electrical Control Unit;電子制御ユニット)の負荷を軽減することができる。画像の歪み補正をカメラ装置内のDSP(Digital Signal Processor;ディジタル信号処理装置)で行うことにより、画像の視点を変換することができ、またカメラ装置からの歪み補正された画像を合成して鳥瞰図などが出力できる。
従来はカメラ装置からの出力をNTSC方式等のアナログ信号として伝送し、後段の処理部(ECU)でAD変換を行った後、ディジタル信号としてカメラ装置の歪みを補正し、更にDA変換しアナログ信号のNTSC方式に変換していた。NTSC信号に帯域制限があることと画像データに関しAD変換、DA変換を繰り返すことにより画質が劣化していたが、カメラ装置内部でしかもディジタル的に画像歪み補正することにより、高画質化を実現した。
カメラ装置内部のメモリに予め歪み補正データを記憶することができるため、コマンド通信を行うことは不必要となり、DSPの外部端子の選択で所望のモードに遷移することができる。たとえば、画像の切り出し場所の選択、ズーム範囲、視点の変換、PAN/TILT動作などのモードを外部端子で選択することができる。勿論、通信でモードを変更することも可能である。
また、カメラ装置の出力をアナログ信号出力に加えて、ディジタル信号出力にも対応するようにしたため種々のディジタル処理に適応できる。
【図面の簡単な説明】
【0008】
【図1】カメラ装置のブロック構成を示した図である。
【図2】ECU(電子制御ユニット)のブロック構成を示した図である。
【図3】カメラ信号処理部のブロック構成を示した図である。
【図4】歪み補正回路のブロック構成を示した図である。
【図5】カメラ装置を車両に搭載したときの撮像範囲と補正画像の鳥瞰図である。
【図6】車載カメラ装置の画像歪み補正した図である。
【図7】他の車載カメラ装置の画像歪み補正した図である。
【図8】他の車載カメラ装置の画像歪み補正した図である。
【図9】カメラ装置の電子的パン動作とチルト動作を説明するための図である。
【発明を実施するための形態】
【0009】
図1に実施形態例であるカメラ装置(モジュール)10のブロック構成を示す。
カメラ装置(モジュール)10は、例えば、広角レンズ11、センサ(受光素子)12とカメラ信号処理部20で構成されている。
また、カメラ信号処理部20は、CPU(Central Processing Unit;中央演算装置)21、ROM(Read Only Memory)22、カメラ信号処理回路23、歪み補正回路24、NTSCエンコーダ25などで構成されている。
たとえば車載用カメラ装置としては、図1に示すカメラ装置(モジュール)10が複数台搭載され、必要に応じて、車両の前方、左右あるいは後方などに任意に備えることができる。
カメラ信号処理部20の(カメラ)信号処理回路23は、CDS(相関二重サンプリング)やプリアンプなどを有する前処理部、A/D(アナログ/ディジタル)変換器、補正処理部(回路)、輝度信号処理部と色信号処理部などで構成される。
【0010】
広角レンズ11は、被写体(図示せず)の画像(光信号)をセンサ12の撮像面上に投写する。このとき視野角がたとえば180度の場合、画像の周辺部で歪が生じる。そのため、補正する必要がある。
センサ12は、例えば、CCDやCMOSなどからなり、従来の25万画素に対して130万画素などの多画素で構成され、広角レンズ11を透過した画像光信号を電気信号に変換し、画像信号としてCDS(相関二重サンプリング)やプリアンプなどを有するカメラ信号処理回路23に供給する。
センサ12を多画素にすることにより、画像の一部領域を拡大しても画質が劣化されることがなく、画像周辺部の歪み補正後の拡大表示するときに高解像度が得られ高画質を維持することができる。
歪み補正回路24は、カメラ信号処理回路23でディジタル的に信号処理されて出力された、Y(輝度)信号ディジタルデータ(以後、輝度(Y)データと称する)とクロマ(C;色)信号ディジタルデータ(以後、色(C)データと称する)が供給され、リアルタイムの画像歪み補正の信号処理が行われる。この動作に関する説明は後述する。
歪み補正回路24から出力されたYデータとC(色)データはたとえばNTSCエンコーダ25に入力され、同期信号と合成されたアナログコンポジット信号またはコンポーネント信号が出力される。
これ以外に、歪み補正回路24から、ディジタル信号のYデータとCデータを直接出力し、後段でディジタル信号処理できるようにしている。
また、カメラ装置(10)内部のメモリに予め歪み補正データを記憶することができるため、コマンド通信を行うことは不必要となり、ディジタル信号処理装置(DSP)の外部端子の選択で所望のモードに遷移することができる。カメラ装置(10)にCPUを備えているので、このCPUによりコマンド通信できることは勿論のことである。
【0011】
図2にECU(Electrical Control Unit;電子制御ユニット)50のブロック構成を示す。このECU50はカメラ装置(モジュール)10の外部に備えられ、カメラ装置10の出力端子に接続されている。たとえば車載カメラ装置(システム)の場合、カメラ装置10を車両のフロントに備え、ケーブルなどを介して車内に備えられたECU50に接続し、ECU50で処理された画像をモニタを介して表示するようにしている。
ECU50は、カメラインターフェース51、画像ASIC52、CPU54、画像メモリ55、データメモリ56、モニタインターフェース53などで構成される。
カメラインターフェース51は上述したカメラ装置10の出力に接続され、また不図示の複数のカメラ装置(カメラ1〜カメラN)の出力とも接続できるようにされていて、複数の画像信号が任意に取り入れられる。
このカメラインターフェース51の入力端子には、ディジタル信号の場合は図2に示すカメラ後処理ユニット140のディジタルI/F145からディジタルデータが供給され、アナログ信号の場合はD/A変換器144でアナログ信号に変換されたアナログコンポジット信号が供給される。
そして、カメラ(装置)1,・・・,カメラNからの画像が切り替えられ、または任意に複数台選択されて後段の画像ASIC52に出力される。
画像ASIC52で画像処理するとき、CPU54で制御して画像メモリ55に画像データを記憶し、記憶した画像データあるいはその他のデータを読出し、またデータメモリ56へのデータの書込み、読み出しも行う。画像ASIC52は、CPU54の制御によりこれらのデータを用いて、画像の切り出し、合成、文字情報のスーパーインポーズなどの画像処理を行う。
例えば、カメラ(装置)1,・・・,カメラNの中で選択されたカメラ1からの画像データがカメラインターフェース51を介して画像ASIC52に入力されると、CPU54でその入力された画像データを画像メモリ55に記憶し、この画像データとデータメモリ56から文字、または図形データを読み出し合成する。具体例として、車両のリアに備えつけられたカメラ装置で撮影した画像をカメラ信号処理部20で歪み補正し画像メモリ55に記憶し、この画像に対してデータメモリ56から読み出した車両の後退(バック)軌跡のデータや文字情報を画像ASIC52で合成して、モニタインターフェース53を介して車内前方のモニタに表示する。したがって、車両の後退方向を車両内に備え付けられたモニタの表示画像で確認できるので車の安全運転に寄与できる。
【0012】
図3にカメラ信号処理部20(100)に関する詳細なブロック図を示す。
カメラ信号処理部100は、カメラ前処理ユニット110、歪み補正ユニット(回路)130、カメラ後処理ユニット140、同期分離ユニット150、クロック発生回路161、CPU162などで構成されている。
ここでは歪み補正ユニット130はカメラ後処理ユニット140の周波数変換回路141の前に構成されているが後でもよく、その接続位置は図3の構成に限定されない。
【0013】
センサ12から出力された画素信号はサンプルホールドされて必要な画素信号が取り出され、この画素信号は適正なレベルに合わせるためにゲインコントロール(AGC)が行われ、A/D変換器に供給される。
不図示のA/D変換器は、画素信号を取り扱うため、10〜12Bits精度のものが採用され、アナログ信号からディジタル信号に変換し、ディジタル信号を後段のカメラ前処理ユニット110に出力する。
【0014】
カメラ前処理ユニット110は、ディジタルAGC(Automatic Gain Control;自動利得制御)111、シェーディング補正112、画素の欠陥補正113、光学黒レベル検出114で構成される前処理部と、Y−LPF(輝度信号ローパスフィルタ)/クランプ115、輪郭補正116、ガンマ(γ)補正117で構成される輝度信号処理部と、C−LPF(クロマローパスフィルタ)/クランプ(処理部)118、RGB Matrix(RGBマトリックス)119、ホワイトバランス(WB)/ガンマ(γ)補正120、Hue/Gain調整121、Cr/Cb(色差信号)生成(回路)122で構成される色信号処理部の3つのブロックで構成され、かつディジタル信号処理が行われる。以後各処理部で取り扱うディジタル信号を単にデータと称することとする。
【0015】
前処理部では、光学黒レベルの検出、ディジタルゲイン調整(Digital Gain Control)、広角レンズ11で生じるシェーディングの補正や遅延線を用いて画素欠陥の補正を行う。
輝度信号処理部はY(輝度)信号の垂直・水平(方向)輪郭補正(VHアパーチャーコントロール)、Y輝度信号と垂直・水平輪郭補正信号のMix(混合;加算)処理、γ(ガンマ)補正などの種々の画像処理を行う。
色信号処理部は、色分離やクランプ処理、色信号のノイズや色偽信号の除去、RGBマトリックス(Matrix)処理、R,G,Bの各色の係数を可変するホワイトバランス(WB)調整、γ(ガンマ)補正、R−G/B−G変換、色偽信号の抑圧処理、Hue/Gain調整、色差信号(Cr/Cb)の生成などを行う。
また、CPU162により、カメラ前処理ユニット110のホワイトバランス調整、Hue/Gain調整、ガンマ補正の設定、歪み補正回路130の画像の切り出し領域、メモリのコントロールやカメラ後処理ユニット140のアナログコンポジット信号出力とディジタルRGB信号(等)出力の切り替え、周波数変換の周波数設定などをバス(B1〜B7)を介して制御するようにしている。
CPU162は、歪み補正回路130に制御信号を供給して、通常の画像の歪み補正の制御を行う以外に歪み補正した画像の任意の領域を切り出し、また任意の領域をズーム処理して拡大画像を生成して、歪み補正できるようにしている。さらに広角レンズで取り入れられた後、歪み補正された画像を基にPAN/TILT処理を電子的に処理できるようにしている。このCPU162は入出力端子によりUART通信や、メモリ(EEPROM)やセンサI/Fとのデータの授受を行う。
【0016】
図3に本発明の実施形態例であるカメラ前処理ユニット110、歪み補正回路130、カメラ後処理ユニット140のブロック構成を示す。カメラ前処理ユニット110において、光学黒レベル(OB;Optical Black)検出器114はA/D変換器から出力されたデータ(ADout)を用いて、入力データ(信号)の黒レベルを計算し、クランプレベルを計算するためのデータを出力する。
不図示の加算器で、入力データ(ADout)から黒レベルを減算処理し、黒レベルを基準とした(黒レベルにクランプされた)新たな画素データを生成する。
ディジタルゲイン調整(AGC)111は、加算器から出力された黒レベルにクランプされたデータのレベルをディジタル的に可変して明るさを調整している。
シェーディング補正112は、広角レンズ11の口径により画像の中心部に対して周辺部は輝度の差(ムラ)があり、この輝度ムラを補正するようにしている。
欠陥補正113は、遅延線と演算(加算・減算)器を用いて、例えば入力データを遅延させ、この遅延した画素値を用いて欠陥画素の前後の平均化した値を求め、欠陥画素と置換して、画素の欠陥補正を行っている。
【0017】
欠陥補正113で欠陥補正され、さらに輝度信号と色信号に分離されたデータはそれぞれ輝度信号処理部(Y−ブロック)と色信号処理部(C−ブロック)に供給される。
【0018】
輝度信号処理部(Y−ブロック)において、Y−LPF/クランプ115は、輝度データを加算演算処理して、等価的にノイズを除去している。また輝度データの黒レベルを所定のレベルにクランプする。
輪郭補正(垂直・水平輪郭補正;VHアパーチャーコントロール)116は、遅延素子と加算・減算処理する演算器を用いて、画像の水平方向の輪郭部を強調するパルスを生成し、また画像の垂直方向の輪郭部を強調するパルスも生成する。
不図示の輪郭補正加算器で、垂直・水平輪郭補正(116)から出力された水平方向の輪郭補正パルスと垂直方向の輪郭補正パルスと、Y−LPF(115)から供給された輝度データが供給され、加算処理がされて輪郭が強調された輝度データが出力される。
ガンマ(γ)補正117は、たとえば表示装置をCRT(Cathode Ray Tube;受像管)とすると、このCRTのγ特性が2.2であるので、あらかじめ撮像側で1/γ=0.45と入出力特性のカーブを補正して、CRT側で画像の階調が正しく再現されるようにし、正しい再生画像が得られるようにしている。このガンマ補正された輝度データ(Y)は後段の歪み補正回路130に出力される。
【0019】
次に色信号処理部(C−ブロック)について説明する。
色信号処理部は、色(クロマ)信号ローパスフィルタ(C−LPF)/クランプ118、RGB Matrix(RGBマトリックス)119、ホワイトバランス(WB)調整/ガンマ(γ)補正120、Hue(色相制御)/Gain(ゲイン)調整121、Cr/Cb生成(回路)122などで構成される。
欠陥補正113から出力された画像信号(データ)は色信号処理部のC−LPF/クランプ118に供給される。
C−LPF/クランプ118のクロマ信号ローパスフィルタ(C−LPF)は、たとえばディジタルローパスフィルタで構成され、色分離された信号の偽色信号やノイズの除去を行っている。また色データはクランプ(118)で所定の値にクランプされる。
RGB Matrix(RGBマトリックス)119は、C−LPF/クランプ118からの出力データを演算処理してR,G,Bの3原色データを求め、ホワイトバランス(WB)調整/γ補正120に出力する。
ホワイトバランス(WB)調整(120)は、R(赤),G(緑),B(青)の色信号(データ)に所定の係数を掛けて、目標の色温度に対する白色を設定するようにしている。ホワイトバランスのとれた色データをガンマ補正(120)に出力し、そこで表示装置に応じた入出力特性に変換される。
Hue/Gain調整121は、色相を可変しまた利得を可変して色データの調整を行う。
Cr/Cb生成122は、Hue/Gain121で色相と利得が調整された色データからR−YとB−Yの色差信号を発生する。ここで、Cr=R−Y,Cb=B−Y(Yは輝度信号)である。この色差信号(C)が次段の歪み補正回路130に出力される。
【0020】
色信号処理部に色データが入力されると、C−LPF/クランプ118で、色データより高域の周波数成分を除去し、ノイズと色偽信号を除去する。
ノイズと色偽信号が除去された色データはRGBマトリックス119でR,G,Bの3原色信号が求められ、ホワイトバランス(WB)調整/γ補正120でホワイトバランス調整し、ガンマ補正(120)で色信号に関するガンマ(γ)補正を行う。またホワイトバランス(WB)調整(120)から出力されたデータは不図示の色信号オプティカルディテクタに出力され、そこで色データのレベルが検出される。この検出された色データを不図示のAE(自動露光)/AWB(自動ホワイトバランス調整)に供給してコンピュータまたは演算装置でソフトウエアー処理により、色信号(データ)に対する色温度を求め、また目標(白)色温度に対する各色の補正係数を計算し、そのデータをホワイトバランス(WB)調整(120)にフィードバックして自動的にホワイトバランスの調整を行う。
【0021】
ホワイトバランス調整された色データがガンマ補正され、さらにHue/Gain調整される。次に、不図示のR−G/B−G変換回路でR,G,Bの色データからR−G/B−Gの変換を行い、また色偽信号の抑圧処理を行う。そして、Cr/Cb生成122でR−G/B−G変換で発生されたR−GとB−Gデータを用いてCr=R−YとCb=B−Yの色差信号の色データを生成する。
輝度Yデータは、
Y=0.30R+0.59G+0.11B ・・・(1)
と表されるので、
Cr=R−Y=0.70(R−G)−0.11(B−G)・・・(2)
Cb=B−Y=0.89(B−G)−0.30(R−G)・・・(3)
と変形できる。すなわち、Cr,Cbの色差信号は、R−GとB−Gの色データを用いて式(2),(3)から求めることができる。そして、この色差信号が輝度信号Yと共に歪み補正回路130に出力される。
【0022】
次に、図2の歪み補正回路130のブロック構成を図4に示す。
歪み補正回路200は、水平方向変換回路201、垂直方向変換回路202、水平処理用の画像メモリ(フィールドメモリ)203、歪み補正パラメータデコーダ205、歪み補正パラメータエンコーダ206、垂直処理用の画像メモリ(FIFO;ファイフォメモリ)204、垂直方向の歪み補正パラメータデコーダ207、垂直方向の歪み補正パラメータエンコーダ208などで構成されている。
水平方向変換回路201は、不図示のデータ書込み部、データ取得部、補完位相・入力データ座標計算部、補正係数生成部、データ補間計算部や、ラインメモリと、ラインメモリの出力ノードに直列接続されたレジスタと、各レジスタから出力されたデータと対応する補間係数とを乗算する乗算回路と、この乗算回路により得られたデータを加算する加算回路などで構成される。
水平方向変換回路201に入力された画像データは書き込み制御信号と共に画像メモリ(フィールドメモリ)203へ書き込まれる。
読み出し制御信号を水平処理用の画像メモリ203へ供給することにより、歪み補正パラメータデコーダ205から供給されるx方向用の補正量パラメータ(Xm)に応じて、水平方向に並ぶ画像データを補間用データ(補正前の画像データ)として取得する。
そして、補間係数生成部から供給される補間係数を用いて水平方向の1次元補間演算を実行し、画像メモリ204にこの演算結果が格納される。
画像メモリ(フィールドメモリ)203は、水平方向変換回路201を介して輝度データや色データで構成される入力画素が供給され、水平方向の歪みを補正するために用いられる。
画像メモリ(FIFOメモリ)204は、水平方向の歪み補正された画像データが供給され、垂直方向変換回路202で歪み補正演算するために用いられる。この画像メモリ204は垂直方向の歪みを補正するために必要な最小限ライン数に渡るデータを記憶できる容量が必要であり、また後段に設けられるバッファ容量に供給される出力同期信号の周波数に応じて決定される。
【0023】
歪み補正パラメータデコーダ205(207)は、補正パラメータの水平方向変換回路201への読出しに必要な格子を決定し、水平方向変換回路201から供給された座標をこの格子に応じて正規化する。この格子を用いて歪み補正パラメータエンコーダ206から供給された補正ベクトルを水平方向変換回路201(垂直方向変換回路202)へ供給する。
歪み補正パラメータエンコーダ206(208)は、広角レンズ11の歪曲収差に関するデータなどから、全画素の各位置に応じた補正ベクトルを予め計算する。
また、全画素点の補正ベクトルを区分毎に分割するための格子線を決定する。格子分割方法には、所定の領域をx方向及びy方向において均等に分割する均等分割方法と、各格子の幅が2のべき乗となるように分割するべき乗分割方法と、最適分割位置において分割する最適分割方法とがある。また、ユーザインターフェースから格子分割方法を指定するとともに格子分割数を指定し、指定された分割方法に従って表示画像を指定された分割数に分割する。
垂直方向変換回路202、歪み補正パラメータデコーダ207や歪み補正パラメータエンコーダ208も水平方向に関する機能と同様である。
【0024】
歪み補正回路200の動作について説明する。
水平方向変換回路201へ入力された画像データは、水平方向変換回路201のデータ書き込み制御部によって書き込み制御信号と共に画像メモリ(フィールドメモリ)203へ供給され、この書き込み制御信号に応じて画像メモリ203に書き込まれる。
このとき、水平方向変換回路201のデータ取得部は読み出し制御信号を水平処理用の画像メモリ203へ供給することにより、歪み補正パラメータデコーダ205から供給されるx方向用の補正量パラメータ(Xm)に応じて、画像メモリ203から水平方向に並ぶ画像データを補間用データ(補正前の画像データ)として取得する。
そして、水平方向変換回路201のデータ補間計算部で補間係数生成部から供給された補間係数を用いて水平方向の1次元補間演算を実行し、垂直方向変換回路202を介して垂直処理用の画像メモリ204にこの演算結果を格納する。
たとえば補正後の画像において、x座標が2.0の点に位置するデータの補正量パラメータXmを1.25とする。その結果、補正前の画像における該点の対応点のx座標は、この2.0に補正量パラメータXmを加算して3.25と求められる。このとき、x座標(3.25)の整数成分(3)が補正前の画像における該データのアドレスを示し、0.25が補間位相を示す。従って、補正後の画像におけるx座標が2.0の点の輝度信号は、補正前の画像において3近傍のxアドレスを有する複数の連続データを対象とし、水平補間フィルタの位相を0.25とした1次元補間演算により求められることになる。
【0025】
次に、垂直方向変換部202では、データ取得部が歪み補正パラメータデコーダ207から供給されるy方向用の補正量パラメータYmに応じて、垂直処理用の画像メモリ(FIFOメモリ)204から垂直方向に並ぶ画像データを補間用データ(補正前の画像データ)として取得する。そして、補間係数生成部から供給された補間係数を用いて垂直方向の1次元補間演算を実行し、出力データバッファを介して出力同期信号に応じてこの演算結果を出力する。
なお、上記のように、水平方向変換回路201及び垂直方向変換回路202により実行される補間演算は1次元補間演算の簡易な回路により実現されるため、2次元補間演算では難しい高次タップのフィルタによる演算が容易に実現できることから、より高画質な画像を得ることができる。
【0026】
すなわち、歪みを持った原画像を補正する歪み補正回路は、水平方向の歪み補正で、原画像を構成する画素点における水平方向の補正量を示す水平補正パラメータを用いて原画像に対し1次元補間演算を施すことにより、原画像の水平方向における歪みを補正する。
また垂直方向歪み補正は水平方向の歪み補正により得られた画像を用いて、原画像を構成する画素点における垂直方向の補正量を示す垂直補正パラメータを用いた1次元補間演算を施すことにより、原画像の垂直方向における歪みを補正するようにした。
したがって、歪み補正回路は、水平方向の歪み補正では原画像の水平方向に1次元補間演算を施し、垂直補正手段は該原画像の垂直方向に1次元補間演算を施すため、低コストでリアルタイムに原画像の歪みを補正することができる。
【0027】
また、上記においては、水平方向の1次元補間演算を実行した後に垂直方向の1次元補間演算を実行する実施の形態を説明したが、逆に垂直方向の1次元補間演算を先に実行し、その後に水平方向の1次元補間演算を実行するようにしても良い。
【0028】
次に、図3に示すカメラ後処理ユニット140は周波数変換回路141、フィルタ(Filter)142、ディジタルエンコーダ143、D/A(ディジタル/アナログ)変換器144とディジタルI/F(インターフェース)145などで構成されている。
周波数変換回路141は、歪み補正回路130などで信号処理に用いられた動作クロックを後段の映像信号の動作クロックに変換する。たとえばNTSC信号の場合、歪み補正回路130で演算処理動作に用いられた動作クロックを4fsc(クロマ周波数の4倍のクロック周波数)に変換し、後段の画像処理と同じクロック周波数にしてECUなどのシステムに適応するようにしている。
フィルタ(Filter)142は、周波数変換回路141で周波数を可変(下げた)したので、その際に生じる高調波成分を除去する。
ディジタルエンコーダ143は、輝度データと色データ(色差信号)を用いて、同期信号などを付加してたとえばNTSC方式のディジタルコンポジット信号を生成する。勿論、PAL、SECAM方式の映像信号にエンコードしても良い。
D/A(ディジタル/アナログ)変換器144は、ディジタルコンポジット信号をアナログコンポジット信号に変換して、アナログ表示装置と接続して画像表できるようにしている。
ディジタルI/F(インターフェース)145は、ディジタルR,G,Bデータなどを出力し、後段でディジタル信号処理などを行うためのインターフェースを行う。
歪み補正された輝度データと色データが後処理ユニットに供給されると、CPU162で設定されたクロック周波数を用いて、ECUに出力するための後処理が行われる。
【0029】
次にカメラ後処理ユニットの動作を説明する。CPU162からバスB7,B1,B6などを介して制御信号(またはデータ)が周波数変換回路141に供給されると、その制御信号(またはデータ)に応じて入力画像データ(Y、Cデータ)の駆動(クロック)周波数が設定され、入力された輝度データや色データが新たに設定されたクロックで駆動される。画像データを周波数変換することによって発生した基本クロック周波数以外のたとえば高調波がシステムに対する妨害波となりシステムに悪影響を及ぼすのでフィルタ142で除去する。
ディジタル輝度データと色データがディジタルエンコーダ143で演算処理され、同期信号などを付加したコンポジットディジタル信号が発生し、D/A変換器144でアナログ信号に変換されてたとえば後段のECUなどに出力される。また、フィルタ142から出力されるディジタル輝度データと色データはディジタルI/F(インターフェース)を介してディジタルR(赤),G(緑),B(青)データや、その他ディジタル信号Y/Cr/Cb(ITU−RBT656/601標準フォーマット)が出力される。
【0030】
次に、他の実施形態例である車載カメラ装置(システム)300を図5に示す。
図5(A)の車載カメラ装置300は、車両301のフロント(前方)にカメラ(装置)1、左右にカメラ2,3さらにリア(後方)にカメラ4が備えてある。
カメラ(装置)1の出力は車両301の内部、たとえば運転席前部に備え付けられたECU302(50)のカメラインターフェース501入力に接続され、またこれ以外のカメラ2〜カメラ4も同様にECU302のカメラインターフェース501に接続される。
カメラ(装置)1〜カメラ4は、たとえば図1に示した構成であって、広角レンズ11を用い、たとえば180度の視野角の映像(画像)を取り込み、この広角レンズ11による画像歪みを補正してECU302に出力する。
車両301のフロントに備え付けられたカメラ(装置)1の画像取り込み角度はaで示す範囲であり、広角のため画像の周辺部は歪む。同様にカメラ2はbの角度、カメラ3はcの角度そしてカメラ4はdの角度の範囲の画像をそれぞれ取り込み、これらの取り込んだ画像をECU302に出力する。この結果、車両301の前方、左右、後方の360度(全方位)の画像をECUに302取り込むことができる。広角レンズ11を用いているため、(狭角)レンズあるいはプリズムなどを機械的に駆動して移動、回転などを行う必要がない。
各カメラ(装置)1〜カメラ4は上述したように歪み補正回路を内蔵したので、画像の周辺領域などを補正し正視した場合の画像が得られる。この歪み補正した画像がECU302に転送され、必要に応じてこれらの画像を選択して、またはこれらの画像全てを用いて合成する。そして、この合成された画像を車両内のモニタに表示する。
【0031】
図5(B)に各カメラ(装置)1〜カメラ4で撮影した画像を車両内のモニタに表示した例を示す。図5(B)の補正画像1は図5(A)に示したカメラ1で撮影した画像に対応し、広角レンズ11による画像歪みが補正された補正後の画像が表示され、以下同様にカメラ2は補正画像2、カメラ3は補正画像3そしてカメラ4は補正画像4にそれぞれ対応している。
このように、車両301を基準に全方位の画像をあたかも正面からみたようにモニタで1度に表示する、いわゆる鳥瞰図を生成することにより全方位を確認することができ、しかも従来画像の周辺部が歪んで見にくいことを解消できる。また歪み補正回路を各カメラ(装置)1〜カメラ4に内蔵し、カメラ装置の外部のECU302内に構成しないので、ECU回路構成を簡素にすることができこれに伴ってコストを削減することができる。
【0032】
図6に他の実施形態例を示す。従来2台カメラ装置を用いてあるいは1台のカメラ装置でプリズムを用いて車両の前方(左前、右前)を表示していた。これに対して、上述したように広角レンズと歪み補正回路を有する1台のカメラ装置を車両のフロントに備えた例を図6に示す。
カメラ装置で撮影された歪み補正する前の画像を模式的に図6(A)に示す。広角レンズを用いているため、破線で囲んである画像の左右周辺領域eとfは歪んでいる。この領域e,fについてカメラ装置内に設けた信号処理部の歪み補正回路で画像ひずみ補正して、それぞれの画像を抜き出し、ECUで合成または別々に表示した例を図6(B),(C)に示す。
このように1台のカメラ装置で車両の左右前方をあたかも正視した画像として表示することができる。また、センサ12にたとえば130万画素の多画素のもの用いることにより撮影した画像の一部領域を拡大表示しても画素数が多いと画質が劣化することはない。その結果、従来見にくかった領域をさらに見易くすることができる。
【0033】
図7に他の実施形態例である車載カメラ装置について示す。
図7の車載カメラ装置は、車両の左(右)サイドに1台のカメラ装置が設置され、しかもカメラ(装置)にズーム機構と歪み補正の機能を有している。
図7(A)はズームなしのとき広角レンズから取り込んだ画像を示す。図7(A)の左周辺部(リア;左後方)とフロント(左前方)の画像は歪んでいて、しかも対象物である車両の形状などが小さく表示されている。図7(B)では、広角レンズを用いて、リア(左後)方向にズームして左周辺部の車両の位置を拡大し、その画像を歪み補正した図である。また図7(C)も同様に、車両の左前方(フロント)をズーム拡大して撮影した画像の一部を歪み補正した図である。
図7(A)でリア方向の小さくしかも左周辺部の歪んで見にくかった画像が、図7(B)に示す拡大されさらに画像歪が補正された画像として表示されている。そのため、対象物や距離間をズーム前の画像と比較してより正確に把握できる。
また、図7(C)に示すように、車両の左前方のフロント部が大きく、歪みのない画像が得られるので対象物をより正確に把握することができ、また車両と対象物間の距離を従来と比較してより正確に把握することができる。
このように、カメラに広角レンズとズーム機構を備えかつ画像歪み補正を備えることにより、たとえば車載とした場合、1台のカメラで車両の前後を正確に撮像できる。
【0034】
図8に他の実施形態例である車載カメラ装置の例を示す。
車両のリアに広角レンズと歪み補正処理機能を有するカメラ装置を取り付けたときの画像例を示す。図8(A)にカメラ装置で撮影した車両の後方画像を歪み補正(変換)した例を示す。これに対して、後方画像の歪み変換で視点を変換した場合の画像を図8(B)に示す。
図8(B)に示すように、画像歪み補正処理処のとき画像の視点を変換することにより、任意の方向から見た画像が得られる。その結果、運転者の後方に対する認知性を1台のカメラ装置で高めることができる。
【0035】
図9に他の実施形態例を示す。広角レンズと画像歪み補正回路を有するカメラ装置(システム)において、広角レンズで撮影した画像を歪み補正回路で補正した画像の全体を図9に示す。
画像の一部N1を所定時間表示し、次に領域N2を所定時間表示し、・・・、最後に領域Nnを表示する。表示部N1とN2、N2とN3、・・・、Nn−1とNn間の間隔とそれぞれの表示部の表示時間を調整して電子的にPAN(パン;回転)動作を滑らかに行うことができる。また同様に、垂直方向にも、電子的にTILT(チルト)動作を行うことができる。
【0036】
さらに、他の実施形態例として従来の監視カメラ装置等の分野において、広角レンズと歪み補正機能を備えたカメラ装置を用いると、広角に撮影した画像の歪みを補正して出力することができる。また、広角レンズを用いても画像を歪み補正してモニタに表示するため、カメラ装置を回転、移動などメカ的に駆動する必要がなくコストを削減できる。
【0037】
以上のべたように、本発明の画像処理回路およびこれを用いたカメラ装置と車載カメラ装置は、高画質を実現するとともにカメラ装置後段の処理ブロックであるECUの負荷を軽減することができる。歪み補正をカメラ装置のDSP(ディジタル信号処理装置)で行うことにより画像の視点を変換した画像を表示し、またカメラ装置外部のECUで複数のカメラ装置から出力された歪み補正画像を任意に取り入れ鳥瞰図などの合成画像を表示することができる。
従来はカメラ装置からの出力をNTSC方式等のアナログ信号として伝送し後段の処理部(ECU部)でAD変換を行った後、ディジタル信号として画像の歪みを補正し、更にDA変換しNTSC方式に変換したいたため、NTSC信号に帯域制限があることとAD変換、DA変換を繰り返すことにより画像の劣化があったが、本発明はカメラ装置内部でしかもディジタル的に画像歪み補正することにより、高画質化を実現した。
カメラ装置内部のメモリに予め歪み補正データを記憶することができるため、コマンド通信を行うことは不必要となり、DSPの外部端子の選択で所望のモードに遷移することができる。
また、カメラ(装置)出力を、アナログ信号出力に加えて、ディジタル信号出力にも対応するようにしたため種々のディジタル処理領域に適応できる。
【符号の説明】
【0038】
10…カメラ装置、11…広角レンズ、12…センサ(受光素子)、20…カメラ信号処理部、23,100…カメラ信号処理回路、24,130,200…歪み補正回路、25…NTSCエンコーダ、50…ECU(電子制御ユニット)、51…カメラインターフェース、52…画像ASIC、53…モニタインターフェース、55,203,204…画像メモリ、56…データメモリ、110…カメラ前処理ユニット、111…ディジタルAGC(ゲイン調整)、112…シェーディング補正、113…欠陥補正、114…黒レベル検出、115…輝度信号ローパスフィルタ(Y−LPF)/クランプ、116…輪郭補正、117…ガンマ(γ)補正、118…C−LPF/クランプ処理部、119…RGBマトリックス、120…ホワイトバランス(WB)調整/γ補正、121…Hue/Gain調整、122…Cr/Cb(色差信号)生成(回路)、201…水平方向変換回路、202…垂直方向変換回路、205,207…歪み補正パラメータデコーダ、206,208…歪み補正パラメータエンコーダ。

【特許請求の範囲】
【請求項1】
入力画像の輝度信号をディジタル処理する輝度信号処理手段と、
前記入力画像の色信号をディジタル処理する色信号処理手段と、
前記輝度信号処理手段と色信号処理手段で信号処理された輝度信号と色信号が供給され、画像の歪み補正を行う歪み補正手段と、
前記歪み補正手段から出力される輝度信号と色信号からアナログ複合映像信号を発生するエンコーダと
を有する
画像処理回路。
【請求項2】
前記歪み補正手段は、前記入力画像を構成する画素点における水平方向の補正量を示す水平補正パラメータを用いて前記入力画像に対し1次元補間演算を施すことにより、前記入力画像の水平方向における歪みを補正し、該補正により得られた画像に対し、前記入力画像を構成する画素点における垂直方向の補正量を示す垂直補正パラメータを用いた1次元補間演算を施すことにより、前記入力画像の垂直方向における歪みを補正する請求項1記載の画像処理回路。
【請求項3】
前記歪み補正手段は、歪み補正処理のとき視点を可変して前記入力画像の歪み補正を行う請求項1記載の画像処理回路。
【請求項4】
入力画像の輝度信号をディジタル処理する輝度信号処理手段と、
前記入力画像の色信号をディジタル処理する色信号処理手段と、
前記輝度信号処理手段と色信号処理手段で信号処理された輝度信号と色信号が供給され、画像の歪み補正を行い、該歪み補正されたディジタル輝度信号と色信号を後段の信号処理手段に出力する歪み補正手段と
を有する
画像処理回路。
【請求項5】
前記歪み補正手段は、前記入力画像を構成する画素点における水平方向の補正量を示す水平補正パラメータを用いて前記入力画像に対し1次元補間演算を施すことにより、前記入力画像の水平方向における歪みを補正し、該補正により得られた画像に対し、前記入力画像を構成する画素点における垂直方向の補正量を示す垂直補正パラメータを用いた1次元補間演算を施すことにより、前記入力画像の垂直方向における歪みを補正する請求項4記載の画像処理回路。
【請求項6】
前記歪み補正手段は、歪み補正処理のとき視点を可変して前記入力画像の歪み補正を行う請求項4記載の画像処理回路。
【請求項7】
広角レンズと、
前記広角レンズを介して画像光信号が入力されるセンサと、
前記センサから出力された画像信号をディジタル信号に変換した後、変換された入力画像の歪み補正する画像処理回路と、
歪み補正されたディジタル画像信号を映像伝送信号にエンコードするエンコーダと
を有する
カメラ装置。
【請求項8】
前記画像処理回路は歪み補正手段を有し、前記入力画像を構成する画素点における水平方向の補正量を示す水平補正パラメータを用いて前記入力画像に対し1次元補間演算を施すことにより、前記入力画像の水平方向における歪みを補正し、該補正により得られた画像に対し、前記入力原画像を構成する画素点における垂直方向の補正量を示す垂直補正パラメータを用いた1次元補間演算を施すことにより、前記入力画像の垂直方向における歪みを補正する請求項7記載のカメラ装置。
【請求項9】
前記歪み補正手段は、歪み補正処理のとき視点を可変して前記入力画像の歪み補正を行う請求項8記載のカメラ装置。
【請求項10】
前記カメラ装置は、歪み補正された画像の任意の領域を電子的に左右または上下に移動させて左右または上下の回転画像を発生する請求項7記載のカメラ装置。
【請求項11】
広角レンズを有し、該広角レンズを介して入力された光信号を受光素子で電気信号に変換して画像信号を生成し、該画像信号の入力画像を画像処理回路で歪み補正し映像伝送信号にエンコードした後、該映像伝送信号を出力するカメラ装置が車両に搭載された車載カメラ装置。
【請求項12】
前記カメラ装置が車両の前後左右部の少なくともいずれか一つに備え付けられ、前記カメラ装置の出力が電子制御ユニットに供給されて歪み補正処理後の画像処理が行われる請求項11記載の車載カメラ装置。
【請求項13】
前記カメラ装置の画像処理回路は、複数の歪み補正データを記憶する記憶装置を有し、前記画増処理回路の制御端子を選択して処理モードを可変する請求項11記載の車載カメラ装置。
【請求項14】
前記画像処理回路は歪み補正手段を有し、前記入力画像を構成する画素点における水平方向の補正量を示す水平補正パラメータを用いて前記入力画像に対し1次元補間演算を施すことにより、前記入力画像の水平方向における歪みを補正し、該補正により得られた画像に対し、前記入力画像を構成する画素点における垂直方向の補正量を示す垂直補正パラメータを用いた1次元補間演算を施すことにより、前記入力画像の垂直方向における歪みを補正する請求項11記載の車載カメラ装置。
【請求項15】
前記歪み補正手段は、歪み補正処理のとき視点を可変して前記入力画像の歪み補正を行う請求項14記載の車載カメラ装置。
【請求項16】
前記受光素子は多画素で構成され、切り出した画像またはズームした画像の解像度の劣化を防止する請求項11記載の車載カメラ装置。
【請求項17】
前記電子制御ユニットは、複数の前記カメラ装置から出力された歪み補正された画像を合成する請求項12記載の車載カメラ装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2010−268520(P2010−268520A)
【公開日】平成22年11月25日(2010.11.25)
【国際特許分類】
【出願番号】特願2010−181654(P2010−181654)
【出願日】平成22年8月16日(2010.8.16)
【分割の表示】特願2005−250098(P2005−250098)の分割
【原出願日】平成17年8月30日(2005.8.30)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】