説明

車載撮像システム及び撮像装置

【課題】1台の撮像装置で距離算出用の画像及び表示用の画像の両方を撮像可能にする。
【解決手段】撮像装置2は、広角レンズ6の左右に所要角度で傾けた左鏡7A及び右鏡7Bを配置すると共に、広角レンズ6に対向させて撮像画素部8を設ける。撮像画素部8は中央に広角レンズ6を通過した像が直接的に入射される直接領域8cを設けると共に、左右に左鏡7A及び右鏡7Bで反射された像が入射される左反射領域8a及び右反射領域8bを設ける。撮像画素部8で撮像した画像はネットワークケーブル5aで接続される画像処理ECUへ送信されて、画像処理ECUで表示用画像に変換する処理が行われると共に、左右反射領域8a、8bで撮像した画像に対して距離算出に係る処理が行われる。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は、1台の撮像装置で撮像画像及び撮像対象までの距離算出に係る情報等を得るようにした車載撮像システム及び撮像装置に関する。
【0002】
【従来の技術】
従来、車両の前部、後部等に車両周囲の撮像用のカメラを設置すると共に、撮像画像を利用して周囲に存在する物体の検出及び検出した物体までの距離の算出を行うシステムが存在する。このようなシステムは撮像画像の画像処理、画像変換等により物体の検出を行っており、距離の算出に関しては1台の単眼カメラの撮像画像を利用するタイプ及び2台の単眼カメラによる撮像画像を利用するタイプ等がある。
【0003】
1台の単眼カメラによる撮像画像を利用するタイプは、同方向で撮像された画像により距離の算出を行うため、算出距離と実際の距離との誤差が大きかった。一方、2台の単眼カメラによる撮像画像を利用するタイプでは、各カメラを間隔を隔てて配置することでステレオカメラ的な構成を実現し、三角測量による原理に基づき高精度な距離の算出を行っていた。
なお、車両周囲の撮像に関しては、下記の特許文献1でも開示されている。
【0004】
【特許文献1】
特開2001−219783号公報
【0005】
【発明が解決しようとする課題】
上述したステレオカメラ的な構成では高精度な距離算出を実現できるが、2台のカメラを利用するため、カメラの配置及び接続に係る手間が増大し、コストも1台のカメラを用いたシステムに比べて上昇すると云う問題があった。特に各カメラの配置は、ステレオカメラ的な構成にするため撮像方向を厳密に合わせる必要があった。
【0006】
また、1台のカメラ及び複数の鏡を用いてステレオカメラ的な構成を実現することも想定できる。例えば、2枚以上の鏡をステレオカメラ的に配置すると共に、各鏡の反射光が1台のカメラのレンズに入射するように各鏡の角度を設定することで、入射された各反射光の撮像画像に対し三角測量の原理を用いて高精度な距離算出も可能になる。
【0007】
しかし、この場合では、撮像される像は全て反射光によるものとなるため、撮像画像が鏡像になると共に各鏡及びレンズ等の影響による幻影が撮像画像に生じるため、車内に設けたモニタにそのままの状態で表示できないと云う問題がある。また、このような撮像画像を用いて物体の検出を行っては、検出処理精度が悪化し、所要の検出能力を確保できないと云う問題がある。
【0008】
よって、上述したように1台のカメラ及び複数の鏡を用いた場合では、車両の周囲の状況を自然な状態でモニタに表示するため、及び、物体の検出精度を維持するためには、直接光が入射されるカメラを別途用意する必要があり、システム全体の構成が複雑になり、鏡の配置及びカメラの接続等に手間を要する懸念がある。
【0009】
本発明は、斯かる事情に鑑みてなされたものであり、1台のカメラの撮像画素部に対して、鏡により反射された像を入射する領域及び直接的に像を入射する領域を設けることで、1台のカメラで反射像及び直接像を撮像可能にした車載撮像システム及び撮像装置を提供することを目的とする。
【0010】
また、本発明は複数の鏡に対応した複数の領域を撮像画素部に設けることで、撮像された像までの距離の算出精度を向上した車載撮像システムを提供することを目的とする。
さらに、本発明は像が直接的に入射される領域による撮像画像に対して歪み補正を行うことで、レンズの影響が除去された画像を表示可能とした車載撮像システムを提供することを目的とする。
【0011】
【課題を解決するための手段】
第1発明に係る車載撮像システムは、撮像した画像を出力する車載用の撮像装置と、入力された画像に対する処理を行う画像処理装置とを備える車載撮像システムにおいて、前記撮像装置は、鏡と、該鏡で反射された像が入射される反射領域及び像が直接的に入射される直接領域を有する撮像画素部とを備え、前記画像処理装置は、前記反射領域による撮像画像に対して撮像された像までの距離算出に係る処理を行う距離算出手段と、前記直接領域による撮像画像に対して表示用画像への変換処理を行う変換手段とを備えることを特徴とする。
【0012】
第2発明に係る車載撮像システムは、前記鏡は複数であり、前記撮像画素部は、前記複数の鏡で反射された像が夫々入射される複数の反射領域を有することを特徴とする。
【0013】
第3発明に係る車載撮像システムは、前記撮像装置は更に、前記撮像画素部に対向させて湾曲レンズを備え、前記変換手段は、前記湾曲レンズによる画像歪みの補正を行う補正手段を備えることを特徴とする。
第4発明に係る車載撮像システムは、前記画像処理装置は更に、画像の画素都度に対応した歪み補正情報を有する歪み補正テーブルを備え、前記補正手段は、前記歪み補正テーブルに基づき画像歪みの補正を行うことを特徴とする。
【0014】
第5発明に係る撮像装置は、車両への搭載用の撮像装置において、鏡と、該鏡で反射された像が入射される反射領域及び像が直接的に入射される直接領域を有する撮像画素部とを備えることを特徴とする。
【0015】
第1発明及び第5発明にあっては、撮像装置が鏡を備えると共に、撮像画素部に反射領域及び直接領域を設けることで、鏡の反射光及び直接光の両方を1台の撮像装置で撮像できる。その結果、簡易な構成で撮像対象までの距離の算出及び車両周囲の表示を行うことができる。
【0016】
第2発明にあっては、複数の鏡及び複数の反射領域を設けることで、各鏡をステレオカメラ的な配置にすることが可能となり距離算出の向上に貢献でき、また、2台より多い鏡を用いる場合は、さらに複雑な三次元的な画像情報を取得でき処理対象の範囲を拡大できる。
【0017】
第3発明にあっては、撮像装置に湾曲レンズを用いても、湾曲レンズによる画像歪みを補正するので、歪みの取れた自然な表示用の画像を得ることができる。よって、湾曲レンズとして撮像範囲が広い広角レンズを使用することで、車両周囲の広い範囲をモニタに自然な状態で表示できる。
第4発明にあっては、画像歪みの補正処理を歪み補正テーブルに基づき行うことで、補正手段の処理負担を軽減できると共に歪み補正処理の効率化を図ることができる。
【0018】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて説明する。
図1は、本発明の実施形態に係る車載撮像システム1の全体的な構成を示している。車載撮像システム1は、車両Sの前方中央に取り付けられた撮像装置2、車両Sの内部に搭載された画像処理装置に相当する画像処理ECU(Electric Control Unit)3及び車室内に設置されたモニタ4をネットワークケーブル5a及び接続ケーブル5bで夫々接続することにより構成されている。
【0019】
撮像装置2は車両前方を撮像し、画像処理ECU3は撮像された画像を表示用画像に変換する処理を行い、モニタ4は表示用画像を表示する。よって、モニタ4の表示画面を確認することで、車両Sの搭乗者は車両前方の状況を確認できる。また、画像処理ECU3は撮像装置2の撮像画像から撮像対象となる物体Tまでの距離及び物体Tの速度等を算出し、算出結果をモニタ4で表示させる処理も行う。
【0020】
図2は、撮像装置2の内部構造を示している。撮像装置2はボックス状のハウジング2aの前方となる一面側に外部からの光を取り入れる開口2bを設け、開口2bの両端に左鏡7A及び右鏡7Bを所要角度に傾斜させた状態で配置すると共に、中央付近に約120度の撮像範囲を有する湾曲形状の広角レンズ6を配置している。
【0021】
さらに、撮像装置2は、広角レンズ6に対向させて1秒当たり30フレームの撮像を行う平板状の撮像画素部8をハウジング2の内部に配置している。なお、撮像装置2は開口2bに透明板を取り付けて雨及びホコリ等がハウジング2aの内部に進入することを防止していると共に、撮像画素部8と内部バス10で接続された通信インタフェース9も有する。
【0022】
撮像画素部8はCCD(Charge Coupled Device)から構成され、広角レンズ6との対向面を3つの領域に分けて、左側の領域を左反射領域8a、右側の領域を右反射領域8b、中央の領域を直接領域8cにしている。左反射領域8aには左鏡7Aで反射された像が入射され、右反射領域8bには右鏡7Bで反射された像が入射され、直接領域8cには広角レンズ6aを通過した像が直接的に入射されている。なお、左鏡7A及び右鏡7Bは、左反射領域8a及び右反射領域8bに夫々反射像が入力されるように配置角度が設定されている。
【0023】
図1、2に示すように車両Sの前方に円柱状の物体Tが存在する場合、撮像装置2は撮像画素部8で図4(a)に示すような画像11を撮像する。画像11は撮像画像部8の3つの各領域8a〜8cに対応して3種の撮像内容が組み合わされたものになっており、左端の左画像部11aは撮像画素部8の左反射領域8aで撮像されたものであり、以下、右端の右画像部11bは撮像画素部8の右反射領域8b、中央の中央画像部11cは撮像画素部8の直接領域8cで夫々撮像されたものである。
【0024】
左画像部11aに映っている左撮像物体T1は実際の物体Tを撮像したものであり、中央画像部11cとの左境界線11dから左撮像物体T1の中心線T1aまでの距離x1は、図2に示す撮像装置2の左鏡7A及び物体Tとの角度Aに対応したものになっている。即ち、左画像部11aにおける距離x1が特定できれば角度Aも特定できるようになる。
【0025】
また、右画像部11bに映っている右撮像物体T2は物体Tを撮像したものであり、上記同様、中央画像部11cとの右境界線11eから右撮像物体T2の中心線T2aまでの距離x2が、図2に示す右鏡7B及び物体Tとの角度Bに対応する。さらに、中央画像部11cに映っている中央撮像物体T3は、広角レンズ6による影響で画像が歪んだ形状になっている。
【0026】
撮像画素部8で撮像された画像は内部バス10を通じて通信インタフェース9へ送られる。通信インタフェース9はネットワークケーブル5aと接続されており、撮像画素部8より送られた図4(a)に示すような画像11をネットワークケーブル5aを通じて画像処理ECU3へ出力している。
【0027】
図3は、画像処理ECU3の内部構成を示している。画像処理ECU3はネットワークケーブル5aとの接続用である通信インタフェース3a、画像処理ECU3の全体的な制御を行うCPU3b、画像処理専用のカスタムICである画像処理ASIC(Application Specific IC)3c、入力された画像を一時的に記憶するフレームメモリ3d、変換処理用の変換テーブルを記憶する変換テーブル用メモリ3e及び処理した画像をモニタ4へ出力するモニタインタフェース3fを備えている。
【0028】
通信インタフェース3aは、ネットワークケーブル5aを通じて撮像装置2より出力されてきた画像を受け付けて画像処理ASIC3cへ送る処理を行う。また、フレームメモリ3dはSDRAMからなり、画像処理ASIC3cの指示に応じて画像の記憶及び記憶された画像の読出を行う。変換テーブル用メモリ3eは、画像処理に係る変換テーブルとして、処理対象の画像における不要部分を不表示にするマスキングテーブル、処理対象の画像の画素都度に対応した歪み補正情報を有する歪み補正テーブル、処理対象の画像内の物体が映っているか否かを検出する検出テーブル等を記憶している。
【0029】
一方、画像処理ASIC3cは通信インタフェース3aより送られた画像を処理状況に応じてフレームメモリ3dへ記憶させるか、又は、すぐ処理を行うか否かを判断すると共に、処理対象の画像を表示用画像へ変換する処理、画像内の物体検出処理、検出した物体までの距離算出処理、検出した物体の相対速度の算出処理等を行う。なお、画像処理ASIC3cは距離算出に対し、図2に示す左鏡7A及び右鏡7Bの間隔の距離を記憶している。
【0030】
画像処理ASIC3cは、表示用画像の変換処理として、先ずマスキング処理を行う。例えば、図4(a)に示す画像11をマスキング処理する場合、変換テーブル用メモリ3eからマスキングテーブルを読み出して、このマスキングテーブルに基づき左右の左画像部11a及び右画像部11bをマスキングして中央画像部11cのみを残す処理を行う。なお、マスキングテーブルは画像11を構成する各画素に対する情報を有しており、図4(a)の画像11における左画像部11a及び右画像部11bに該当する画素の全てを黒色にすると共に、中央画像部11cはそのままの状態にする内容を規定したものになっている。
【0031】
次に、画像処理ASIC3cは、中央画像部11cに対して、画像の歪み補正処理を変換テーブル用メモリ3eから読み出した歪み補正テーブルに基づいて行う。このように歪み補正処理を行うことで、図4(b)に示す表示用画像12を生成しており、表示用画像12における表示用物体T10は、図4(a)の中央画像部11cにおける樽状に歪んだ中央撮像物体T3が補正された形状になっている。
【0032】
なお、補正テーブルは、広角レンズ6の曲率に応じて、歪み補正前の画像を形成する各画素の移動先の位置を歪みが補正されるように規定したものになっている。例えば、図4(a)に示すように横方向をX座標、縦方向をY座標とした場合、歪み補正前の画像11の中の画素Gの座標(X、Y)=(350、310)は、補正テーブルに基づいて(X、Y)=(370、310)へと移動され、歪みが補正される。
【0033】
さらに、画像処理ASIC3cは、歪みを補正した表示用画像12に対して、変換テーブル用メモリ3eから読み出した物体検出テーブルに基づいて、各画素を二値化処理することで物体の有無を検出している。なお、画像処理ASIC3cは、上述したように各種テーブルに基づき画像の処理を行うことで、自身の処理負担を軽減して効率的な処理を可能にしている。
【0034】
また、画像処理ASIC3cは、上記処理により物体を検出した場合、物体Tまでの距離及び物体Tの相対速度算出に係る処理を行う。物体までの距離算出に関し、画像処理ASIC3cは、マスキング対象となった左画像部11a及び右画像部11bにおける距離x1、距離x2を特定し、これら特定した距離x1、x2に基づき図2に示す角度A、Bを特定する。
【0035】
画像処理ASIC3cは、各鏡7A、7Bの間隔の距離を予め記憶しているので、物体T、各鏡7A、7Bを夫々頂点とした三角形を想定して物体Tまでの距離L(図2参照)を下記の数式に基づき算出している。
L=(k・tanA・tanB)/(tanA+tanB)
但し、上記の数式において、kは各鏡7A、7Bの間隔の距離である。
なお、画像処理ASIC3cは、このように算出した距離Lの値を、図4(b)に示すように表示用画像12の右隅に付加している。
【0036】
さらに、画像処理ASIC3cは、上述した距離Lの算出を撮像装置2が30フレーム/秒で撮像する各フレーム毎に行うことで、時間当たりの距離Lの変化を算出して、車両Sに対する物体Tの相対速度を特定している。なお、画像処理ASIC3cは、このように算出した相対速度も図4(b)に示すように表示用画像12の右隅に付加している。また、画像処理ASIC3cは、各種処理を経て作成した表示用画像12をモニタインタフェース3fへ送っている。
【0037】
モニタインタフェース3fは接続ケーブル5bと接続されており、画像処理ASIC3cで処理された表示用画像12を、接続ケーブル5bを通じてモニタ4へ出力する処理を行う。また、モニタ4は出力された表示用画像12を受け付けて画面に表示する。よって、本発明に係る車載撮像システム1は、1台の撮像装置2のみで、自然な画像を表示できると共に物体までの距離算出等を行っており、運転者はモニタ4の画面を見るだけで車両Sの周囲の状況を確認できる。
【0038】
なお、車載撮像システム1は上述した形態に限定されるものではなく、種々の変形例の適用が可能である。例えば、画像処理ECU3は、各種テーブルに基づいて画像の処理を行っているが、テーブルを用いずに変換式及び変換プログラムに基づき画像処理を行うようにしてもよい。また、画像処理ECU3は物体の検出に係る処理は省略可能であり、この場合は、撮像された画像に映った物体の距離算出等を常に行うようにするか、又は、画像処理ECU3に距離算出用のスイッチを設けて、当該スイッチがオンの場合のみ距離算出を行うようにしてもよい。さらに、画像処理ECU3は相対速度の算出に係る処理を省略することも可能である。
【0039】
また、撮像装置2は、CMOS(Complementary Metal−Oxide Semiconductor)からなる撮像画素部8を適用することも可能である。さらに、撮像装置2は、1個のみの鏡を用いると共に撮像画素部8に1個の反射領域及び1個の直接領域を設ける構成にしてもよく、この場合は、直接領域での撮像画像も利用して距離算出に係る処理を行うことが好適である。
【0040】
さらに、また、撮像装置2は、3以上の鏡を用いて三次元的に物体を捉えるようにしてもよく、例えば、図5に示す撮像装置20のように、広角レンズ26の左右に所要角度で左鏡27A及び右鏡27Bを配置すると共に、広角レンズ26の下方にも所要角度で下鏡27Cを配置するようにしてもよい。この場合は、撮像画素部28を左反射領域28a、右反射領域28b及び直接領域28cに区分けすると共に、下方を下反射領域28dに分けて下鏡27Cで反射した像を入射させる。このように三方からの反射像を撮像画素部28に入射することで、撮像対象の物体の形状が複雑な場合でも、物体の形状、物体までの距離等を確実に把握することが可能になる。
【0041】
また、上述したような撮像装置2(又は20)は、車両Sの前方だけでなく、車両Sの後方及び側方等に取り付けて、1台の画像処理ECU3又は各撮像装置毎に画像処理ECU3を設けて車両Sの各周囲に対して物体の撮像及び距離算出等を行うようにしてもよい。このように複数の撮像装置2(又は20)を取り付けた場合は、モニタ4で表示する画像は、物体が映っている画像を優先的に表示するように画像処理ECU3が表示画像の切替を行うようにする場合、又は、画像の切替スイッチを設けて車両Sの搭乗者の操作により画像を切り替えるようにする。
【0042】
また、上述した本発明に係る車載撮像システム1は、図6に示す車両Sに構築される車載ネットワークシステム90に好適に利用できる。車載ネットワークシステム90は、情報系ネットワーク60、車体系ネットワーク70及び制御系ネットワーク80をゲートウェイ装置50で接続した構成にしており、情報系ネットワーク60に上述した車載撮像システム1を含ませている。
【0043】
また、車体系ネットワーク70はステアリング装置における操舵角センサ71及び車速検出に係る車軸パルスセンサ72を有し、制御系ネットワーク80はブレーキ装置の制御を行うブレーキECU81及びアクセル装置82の制御を行うアクセルECU82を有している。
【0044】
車体系ネットワーク70は、各センサ71、72が検出に係るセンサ信号をゲートウェイ装置50を介して情報系ネットワーク60の画像処理ECU3へ送信している。画像処理ECU3のCPU3bは、上述したセンサ信号及び撮像装置2が撮像した画像の情報に基づき車両Sの現在の状況を判断する。さらに、CPU3bは、判断した状況に対応する車両Sの制御信号を生成し、ゲートウェイ装置50を介してブレーキECU81及びアクセルECU82へ送信する。
【0045】
よって、ブレーキECU81及びアクセルECU82は、受信した制御信号に基づきブレーキ装置及びアクセル装置の制御を行い、車両Sの走行を現在の状況に対して適切に制御可能にして運転者の操作支援を実現できる。
【0046】
【発明の効果】
以上に詳述した如く、第1発明及び第5発明にあっては、撮像装置が備える鏡で反射した像を入射させる反射領域及び像を直接的に入射させる直接領域を撮像画素部に設けることで、1台の撮像装置で距離算出に必要な画像及び表示に必要な画像の両方を撮像できる。
第2発明にあっては、複数の鏡及び複数の反射領域を設けることで、距離算出に係る処理精度を向上できる。
【0047】
第3発明にあっては、湾曲レンズの使用により広い撮像範囲を確保できると共に、湾曲レンズによる画像歪みを補正するので、歪みの取れた自然な表示用の画像を得ることができる。
第4発明にあっては、画像歪みの補正処理を歪み補正テーブルに基づき行うことで、画像処理装置の歪み補正に係る処理負担を低減できる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る車載撮像システムの全体構成図である。
【図2】撮像装置の概略図である。
【図3】画像処理ECUの内部構成を示すブロック図である。
【図4】(a)は撮像された画像の概略図であり、(b)は画像処理が行われた表示用画像の概略図である。
【図5】変形例の撮像装置の概略斜視図である。
【図6】本発明に係る車載撮像システムを適用した車両ネットワークシステムの概略図である。
【符号の説明】
1 車載撮像システム
2 撮像装置
3 画像処理ECU
3c 画像処理ASIC
3e 変換テーブル用メモリ
4 モニタ
6 広角レンズ
7A、7B 左鏡、右鏡
8 撮像画素部
8a 左反射領域
8b 右反射領域
8c 直接領域
11 画像
12 表示用画像
S 車両

【特許請求の範囲】
【請求項1】
撮像した画像を出力する車載用の撮像装置と、入力された画像に対する処理を行う画像処理装置とを備える車載撮像システムにおいて、
前記撮像装置は、
鏡と、
該鏡で反射された像が入射される反射領域及び像が直接的に入射される直接領域を有する撮像画素部と
を備え、
前記画像処理装置は、
前記反射領域による撮像画像に対して撮像された像までの距離算出に係る処理を行う距離算出手段と、
前記直接領域による撮像画像に対して表示用画像への変換処理を行う変換手段と
を備えることを特徴とする車載撮像システム。
【請求項2】
前記鏡は複数であり、
前記撮像画素部は、前記複数の鏡で反射された像が夫々入射される複数の反射領域を有する請求項1に記載の車載撮像システム。
【請求項3】
前記撮像装置は更に、
前記撮像画素部に対向させて湾曲レンズを備え、
前記変換手段は、
前記湾曲レンズによる画像歪みの補正を行う補正手段を備える請求項1又は請求項2に記載の車載撮像システム。
【請求項4】
前記画像処理装置は更に、
画像の画素都度に対応した歪み補正情報を有する歪み補正テーブルを備え、
前記補正手段は、
前記歪み補正テーブルに基づき画像歪みの補正を行う請求項3に記載の車載撮像システム。
【請求項5】
車両への搭載用の撮像装置において、
鏡と、
該鏡で反射された像が入射される反射領域及び像が直接的に入射される直接領域を有する撮像画素部と
を備えることを特徴とする撮像装置。

【図1】
image rotate



【図2】
image rotate



【図3】
image rotate



【図4】
image rotate



【図5】
image rotate



【図6】
image rotate


【公開番号】特開2004−289305(P2004−289305A)
【公開日】平成16年10月14日(2004.10.14)
【国際特許分類】
【出願番号】特願2003−76415(P2003−76415)
【出願日】平成15年3月19日(2003.3.19)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】