車両用画像処理装置および車両用画像処理方法
【課題】自車の曲進および振動による影響を考慮して対象物との衝突可能性を判定する車両用画像処理装置および車両用画像処理方法を提供する。
【解決手段】車両用画像処理装置において、カメラ11は、車両の周辺を撮像する。動きベクトル算出部21は、カメラ11により撮像された複数の画像間の動きベクトルを求める。スケールファクタ付き並進成分算出部23は、画像に含まれる対象物に対応する動きベクトルと車両の回転成分とにもとづいて、スケールファクタ付き並進成分を算出する。z位置取得部26は、カメラ座標系における対象物の光軸方向座標値を取得する。衝突判定部25は、カメラ11の中心から対象物までの距離を時間の関数としてあらわした式にもとづいて、カメラ11の中心から対象物までの最近接距離が所定の距離以下であるか否かを判定する。衝突危険度判定部28は、最近接距離が所定の距離以下であると、車両と対象物が衝突すると判定する。
【解決手段】車両用画像処理装置において、カメラ11は、車両の周辺を撮像する。動きベクトル算出部21は、カメラ11により撮像された複数の画像間の動きベクトルを求める。スケールファクタ付き並進成分算出部23は、画像に含まれる対象物に対応する動きベクトルと車両の回転成分とにもとづいて、スケールファクタ付き並進成分を算出する。z位置取得部26は、カメラ座標系における対象物の光軸方向座標値を取得する。衝突判定部25は、カメラ11の中心から対象物までの距離を時間の関数としてあらわした式にもとづいて、カメラ11の中心から対象物までの最近接距離が所定の距離以下であるか否かを判定する。衝突危険度判定部28は、最近接距離が所定の距離以下であると、車両と対象物が衝突すると判定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、車両用画像処理装置および車両用画像処理方法に関する。
【背景技術】
【0002】
最近、自動車などの車両の運転を支援するための技術として、車両と対象物との衝突可能性を判定する技術の開発が望まれている。この種の技術には、たとえば、車両に搭載されたカメラにより撮像された画像にもとづいて車両と対象物との衝突可能性を判定する技術などがある。車両に搭載されたカメラにより撮像された画像を用いる場合、レーダを用いる場合に比べてデジタル化された画像データを利用することができることから、対象物の接近角度などの複雑な判断が可能である。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平11−353565号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、従来の技術は、車両が振動することなく静かに直進している場合を想定したものであり、車両の3種の回転成分(ヨーイング、ローリング、ピッチング)を考慮していない。このため、従来の技術は、車両が曲進する場合や車両が振動する場合などに適用することが難しい。
【課題を解決するための手段】
【0005】
本発明の一実施形態に係る車両用画像処理装置は、上述した課題を解決するために、カメラと、動きベクトル算出部と、スケールファクタ付き並進成分算出部と、z位置取得部と、衝突判定部と、衝突危険度判定部と、を備える。カメラは、車両に設けられ車両の周辺を撮像する。動きベクトル算出部は、カメラにより撮像された複数の画像間の動きベクトルを求める。スケールファクタ付き並進成分算出部は、画像に含まれる対象物に対応する動きベクトルと車両の回転成分とにもとづいて、対象物の相対並進成分をカメラ座標系における対象物の光軸方向座標値で除したスケールファクタ付き並進成分を算出する。z位置取得部は、カメラ座標系における対象物の光軸方向座標値を取得する。衝突判定部は、カメラ座標系における対象物の光軸方向座標値を含む三次元座標値とスケールファクタ付き並進成分とを用いてカメラの中心から対象物までの距離を時間の関数としてあらわした式にもとづいて、カメラの中心から対象物までの最近接距離が所定の距離以下であるか否かを判定する。衝突危険度判定部は、最近接距離が所定の距離以下であると、車両と対象物が衝突すると判定する。
【図面の簡単な説明】
【0006】
【図1】本発明の一実施形態に係る車両用画像処理装置の一例を示す全体構成図。
【図2】カメラ座標系におけるカメラ投影面と対象物との関係を示す説明図。
【図3】(a)は、r2−r02の極小値が負の場合におけるr2−r02と時間tの関係の一例を示す説明図、(b)はr2−r02の極小値が正の場合におけるr2−r02と時間tの関係の一例を示す説明図。
【図4】衝突予測ECUのCPUが、カメラにより取得された画像にもとづいて車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定する際の手順を示すフローチャート。
【発明を実施するための形態】
【0007】
本発明に係る車両用画像処理装置および車両用画像処理方法の実施の形態について、添付図面を参照して説明する。
【0008】
図1は、本発明の一実施形態に係る車両用画像処理装置10の一例を示す全体構成図である。
【0009】
車両用画像処理装置10は、カメラ11、衝突予測ECU(Electronic Control Unit)12、記憶部13、表示部14およびスピーカ15を有する。
【0010】
カメラ11は、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサにより構成され、自家用自動車等の車両周囲の画像を取り込んで画像信号を生成して衝突予測ECU12に与える。
【0011】
たとえば後方を監視する場合、カメラ11は車両後部のナンバープレート付近に路面と平行な線からやや下向きに配設される。カメラ11には、より広範な車両外画像が取得可能なように広角レンズや魚眼レンズが取り付けられてもよい。また、車両の側方を監視する場合、カメラ11はサイドミラー付近に配設される。もちろん、複数のカメラ11を用いることにより広範な車外周囲画像を取り込むようにしてもよい。
【0012】
衝突予測ECU12は、CPU、RAMおよびROMなどの記憶媒体などにより構成される。衝突予測ECU12のCPUは、ROMなどの記憶媒体に記憶された衝突予測プログラムおよびこのプログラムの実行のために必要なデータをRAMへロードし、このプログラムに従って、カメラ11により取得された画像にもとづいて、車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定する。
【0013】
衝突予測ECU12のRAMは、CPUが実行するプログラムおよびデータを一時的に格納するワークエリアを提供する。衝突予測ECU12のROMなどの記憶媒体は、衝突予測プログラムや、これらのプログラムを実行するために必要な各種データを記憶する。
【0014】
なお、ROMをはじめとする記憶媒体は、磁気的もしくは光学的記録媒体または半導体メモリなどの、CPUにより読み取り可能な記録媒体を含んだ構成を有し、これら記憶媒体内のプログラムおよびデータの一部または全部は図示しないネットワーク接続部を介して電子ネットワークを介してダウンロードされるように構成してもよい。
【0015】
なお、この場合、ネットワーク接続部は、ネットワークの形態に応じた種々の情報通信用プロトコルを実装し、この各種プロトコルに従って衝突予測ECU12と他の車両のECUなどの電気機器とを電子ネットワークを介して接続する。この接続には、電子ネットワークを介した電気的な接続などを適用することができる。ここで電子ネットワークとは、電気通信技術を利用した情報通信網全般を意味し、無線/有線LAN(Local Area Network)やインターネット網のほか、電話通信回線網、光ファイバ通信ネットワーク、ケーブル通信ネットワークおよび衛星通信ネットワークなどを含む。
【0016】
記憶部13は、衝突予測ECU12によるデータの読み書きが可能な不揮発性のメモリであり、あらかじめ、消失点(FOE:Focus of Expansion)の情報FOE(x0、y0)、距離マージンr0、第1の時間閾値s1、第2の時間閾値s2および接近閾値d0を記憶している。これらの情報は、電子ネットワークを介してまたは光ディスクなどの可搬型記憶媒体を介して更新されてもよい。
【0017】
消失点情報FOE(x0、y0)は、衝突予測ECU12により車両の回転成分を算出する際に用いられる。
【0018】
距離マージンr0、第1の時間閾値s1、第2の時間閾値s2および接近閾値d0は、衝突予測ECU12により車両と対象物との衝突危険度を判定するために用いられる。
【0019】
表示部14は、運転者が視認可能な位置に設けられ、車載用の一般的なディスプレイやカーナビゲーションシステム、HUD(ヘッドアップディスプレイ)などの表示出力装置を用いることができ、衝突予測ECU12の制御に従って衝突警告情報などの各種情報を表示する。
【0020】
スピーカ15は、衝突予測ECU12の制御に従って衝突警告情報などの各種情報に対応した音声を出力する。
【0021】
図1に示すように、衝突予測ECU12のCPUは、衝突プログラムによって、少なくとも動きベクトル算出部21、回転成分算出部22、スケールファクタ付き並進成分算出部23、ユークリッド距離推定部24、衝突判定部25、z位置取得部26、衝突時間推定部27、衝突危険度判定部28および警告提示部29として機能する。この各部21〜29は、RAMの所要のワークエリアを、データの一時的な格納場所として利用する。なお、これらの機能実現部は、CPUを用いることなく回路などのハードウエアロジックによって構成してもよい。
【0022】
ここで、本実施形態で用いるカメラ座標系について簡単に説明する。
【0023】
図2は、カメラ座標系におけるカメラ投影面31と対象物32との関係を示す説明図である。
【0024】
本実施形態に係る車両用画像処理装置は、カメラ座標系のみを用い、世界座標系を併用しないため、座標系の相互変換等の処理が不要である。
【0025】
カメラ座標系(x、y、z)は、カメラ11の中心を原点とする左手座標系である。カメラ座標系のz軸は、カメラ11の光軸に一致するよう設定される。
【0026】
カメラ投影面31は、カメラ座標系においてz=fの面である。fはカメラ11の焦点距離である。カメラ11は、このカメラ投影面31に投影される車両周囲を撮像する。
【0027】
対象物32のある点Pのカメラ座標系の三次元座標をP(X、Y、Z)とすると、点Pのカメラ投影面31に投影された点pの座標はp(x、y、f)となる。点Pのz座標(光軸方向座標)をzと定義すると(Z=z)、X=(z/f)・x、Y=(z/f)・y、Z=zと書ける。このとき、距離rはr2=(z2/f2)(x2+y2+f2)と書ける。ここで、x、yは投影面31上のxy座標値であり、zは対象物32のz座標値であることに注意する。投影面31上のxy座標値は、カメラ11の画素と対応するものであるため、画像から容易に取得することができる。
【0028】
動きベクトル算出部21は、ブロックマッチング法や勾配法などを用いて、カメラ111により撮像された複数の画像から画素ごとに動きベクトル(u、v)を算出する。
【0029】
回転成分算出部22は、動きベクトル(u、v)および消失点情報FOE(x0、y0)にもとづいて回転成分Rx、Ry、Rzを算出する。以下、より具体的に説明する。
【0030】
カメラ投影面31上の動きベクトル(u、v)は、次のように書けることが知られている。
U = xy(1/f)Rx−(x2+f2)(1/f)Ry+yRz−f(Tx/z)+x(Tz/z) (1)
V = (y2+f2)(1/f) Rx−xy(1/f)Ry−xRz−f(Ty/z)+y(Tz/z) (2)
【0031】
ここで、x、yは投影面31上のxy座標値、zは対象物32のz座標値をあらわす。また、Rx、Ry、Rz、Tx、Ty、Tzは運動パラメータであり、Rx、Ry、Rzは車両の回転成分をあらわし、Tx、Ty、Tzは自車と対象物32との相対並進成分をあらわす。
【0032】
車両の回転成分Rxはx軸中心の回転成分であり、自車のピッチング成分をあらわす。また、Ryはy軸中心の回転成分であり、自車のヨーイング成分をあらわす。ヨーイングは、主に舵角時(自車の曲進時)に発生する。Rzはz軸中心の回転成分であり自車のローリング成分をあらわす。
【0033】
式(1)および式(2)は、それぞれ次のように変形できる。
u−xy(1/f)Rx+(x2+f2)(1/f)Ry−yRz = −f(Tx/z)+x(Tz/z) (3)
v−(y2+f2)(1/f) Rx+xy(1/f)Ry+xRz = −f(Ty/z)+y(Tz/z) (4)
【0034】
式(3)および式(4)において、左辺は動きベクトル(u、v)を回転成分で補正したものである。
【0035】
対象物32が静止物である場合には、式(3)の式(4)に対する比は、画素(x、y)からFOE(x0、y0)に向かう傾きと等しくなることが知られている(崎本隆志ら、火の国情報シンポジウム2003講演論文集、「拡張焦点を用いた移動車両検出及び追跡に関する研究」(2003))。
このため、次の式(5)が導かれる。
[u−xy(1/f)Rx+(x2+f2)(1/f)Ry−yRz]/[ v−(y2+f2)(1/f) Rx+xy(1/f)Ry+xRz]
= [x-x0]/[y-y0] (5)
【0036】
したがって、Rx、Ry、Rzを3つの未知数と考えれば、静止物に対応する少なくとも3つの画素の動きベクトルを得ることができればRx、Ry、Rzを算出できる。
【0037】
そこで、回転成分算出部22は、消失点情報FOE(x0、y0)を記憶部13から取得し、静止物に対応する3つ以上の画素の動きベクトル(u、v)についての式(5)にもとづいて回転成分Rx、Ry、Rzを算出する。すなわち、回転成分算出部22は、カメラ11が取得した画像から回転成分を算出することができる。
【0038】
なお、回転成分は、車速データや舵角データなどの車両情報やジャイロセンサなどから求めることもできる。
【0039】
スケールファクタ付き並進成分算出部23は、画像に含まれる対象物32に対応する動きベクトル(u、v)と車両の回転成分Rx、Ry、Rzとにもとづいて、対象物32のスケールファクタ付きの相対並進成分(以下、スケールファクタ付き並進成分という)Tx/z、Ty/z、Tz/zを算出する。
【0040】
スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zは、対象物32の相対並進成分Tx、Ty、Tzを対象物32のz座標値で除したものである。このため、相対並進成分Tx、Ty、Tzが同一であれば、遠くにある(z座標値が大きい)ものほどスケールファクタ付き並進成分が小さくなる。対象物32の点Pが静止しているか移動しているかによらず、点Pはスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zで運動していると画像上において観測される。以下、より具体的に説明する。
【0041】
回転成分Rx、Ry、Rzは、画面内の任意の位置で共通なパラメータである。このため、式(3)および式(4)にもとづき、任意の画素に対して次式が成り立つ。
−f(Tx/z)+x(Tz/z) = a (6)
−f(Ty/z)+y(Tz/z) = b (7)
【0042】
ここで、aは式(3)の左辺をあらわす観測値であり、bは式(4)の左辺をあらわす観測値である。対象物32の複数の画素(x、y)についての観測値a、bが得られれば、式(6)および式(7)から未知数Tx/z、Ty/z、Tz/zを得ることができる。
【0043】
そこで、スケールファクタ付き並進成分算出部23は、車両の回転成分Rx、Ry、Rzと、画像に含まれる対象物32に対応する複数の画素についての動きベクトル(u、v)と、にもとづいて式(6)および式(7)のaおよびbを算出することにより、対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを算出する。
【0044】
換言すれば、スケールファクタ付き並進成分算出部23は、対象物32のz座標値を用いることなく対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを得ることができる。
【0045】
ユークリッド距離推定部24は、カメラ座標系における対象物32の三次元座標値(X、Y、Z)とスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとを用いてカメラ11の中心から対象物32までの距離rを時間tの関数としてあらわす式を立てる。以下、より具体的に説明する。
【0046】
現時刻から時刻tまで自車および対象物32は同じ運動をすると仮定すると、時刻t秒後における原点と点Pとの距離rの2乗はユークリッド距離として、時刻tの2次関数であらわすことができる。
r2 = (X−Txt)2+(Y−Tyt)2+(Z−Tzt)2 (8)
【0047】
上述の通り、点Pのz座標(光軸方向座標)をzと定義すると(Z=z)、X=(z/f)・x、Y=(z/f)・y、Z=zと書ける。これを式(8)に代入すると、次式を得る。
r2 = (xz/f−Txt)2+(yz/f−Tyt)2+(z−Tzt)2 (9)
【0048】
式(9)は、次のように変形できる。
r2 / z2 = At2−2Bt+C (10)
ただし、A = (Tx/z)2+(Ty/z)2+(Tz/z)2、
B = (1/ f)(x Tx/z+yTy/z +fTz/z)、
C = (1/ f2)( x2+y2+f2) をそれぞれあらわす。
【0049】
式(10)のAは正であるから、r2は下に凸のtの2次関数である。式(10)から、r2の極小値r2minおよび極小値r2minをとる時間tはそれぞれ次のようにあらわせる。
r2min=(z/f)2{(x2+y2+f2)−(xTx/z+yTy/z+fTz/z)2/ (Tx2/z2+Ty2/z2+Tz2/z2)} (11)
t = (1/f)(xTx/z +yTy/z +fTz/z)/ (Tx2/z2 +Ty2/z2 +Tz2/z2) (12)
【0050】
式(11)から明らかなように、r2の極小値は、スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zおよび対象物32のz座標値が得られれば算出することができる。また、式(12)から明らかなように、r2が極小値となる時刻tは、スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zが得られれば算出することができる。
【0051】
r2がゼロになるということは、点Pが原点(カメラ中心)に到達することを意味する。したがって、r2の極小値は、車両と対象物32との衝突危険性を判定するための指標として用いることができる。
【0052】
また、車両と対象物が所定の距離(以下、距離マージンr0という)以内に近づくか否かを判定することも、衝突危険性の判定に有効であると考えられる。車両と対象物が所定の距離(以下、距離マージンr0という)以内に近づくか否かを判定するためには、まず式(9)の両辺から距離マージンr0を減じた次式を立てる。
r2 −r0 = (xz/f−Txt)2+(yz/f−Tyt)2+(z−Tzt)2 −r0 (13)
【0053】
式(13)から、r2−r02の極小値r2−r02minは次のようにあらわせる。
r2 −r02min =(z/f)2{(x2+y2+f2)−(xTx/z+yTy/z+fTz/z)2/ (Tx2/z2+Ty2/z2+Tz2/z2)} (14)
【0054】
なお、r2−r02が極小値をとる時間tは式(10)であらわせる。
【0055】
以下の説明では、ユークリッド距離推定部24が、記憶部13から距離マージンr0を取得し、カメラ座標系における対象物32の三次元座標値(X、Y、Z)とスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとを用いた式(8)にもとづく式(14)を立て、この式を衝突判定部25に与える場合の例について示す。
【0056】
衝突判定部25は、式(8)にもとづく式(14)を用いて、カメラ11の中心から対象物32までの最近接距離(rの極小値)が距離マージンr0以下であるか否か、すなわち式(14)においてr2−r02の極小値がゼロ以下となるか否かを判定する。なお、衝突判定部25は、カメラ11の中心から対象物32までの最近接距離が距離マージンr0以下となる場合にはさらに、車両と対象物32とが衝突すると判定してもよい。また、衝突判定部25は、r2−r02の極小値が正である場合、この極小値が記憶部13に記憶された接近閾値d1より小さいか(ただし、d1>0とする)否かを判定する。
【0057】
式(14)を解くためには、スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zのほか、対象物32のz座標値が必要である。対象物32のz座標値は、z位置取得部26から衝突判定部25に与えられる。
【0058】
z位置取得部26は、対象物32のz座標値を取得して衝突判定部25に与える。たとえば、対象物32が静止物である場合は、相対並進成分Tx、Ty、Tzを別途求めておき、相対並進成分Tx、Ty、Tzとスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとから求めることができる。相対並進成分Tx、Ty、Tzは、画像から求めることもできるし、車両の車速データや舵角データなどの車両情報や加速度センサなどから求めることもできる。なお、対象物32のz座標値は、1台のカメラ11以外の部材を用いる場合、レーダ、レーダレーザ、光切断法、ステレオカメラなどによる距離測定法により求めることもできる。
【0059】
図3(a)は、r2−r02の極小値が負の場合におけるr2−r02と時間tの関係の一例を示す説明図であり、(b)はr2−r02の極小値が正の場合におけるr2−r02と時間tの関係の一例を示す説明図である。
【0060】
衝突時間推定部27は、式(8)にもとづく式(14)を用いて、カメラ11の中心から対象物32までの距離rが距離マージンr0となる時間を算出する。なお、カメラ11の中心から対象物32までの距離rが距離マージンr0となるのは、r2−r02の極小値がゼロ以下の場合のみである(図3(a)参照)。
【0061】
具体的には、衝突時間推定部27は、式(14)の左辺をゼロとした式の実根t1およびt2を求め、小さいほうの根t1を衝突までの時間TTC(Time To Collision)とする。
【0062】
衝突危険度判定部28は、カメラ11の中心から対象物32までの最近接距離と、カメラ11の中心から対象物32までの距離rがr0となる時間TTCとに応じて車両と対象物32との衝突危険性を複数の段階に分類する。以下の説明では、衝突危険性が3段階に分類される場合の例について示す。
【0063】
より具体的には、衝突危険度判定部28は、最近接距離がr0以下であり、かつTTCが記憶部13に記憶された第1の時間閾値s1より小さいと、危険度を「高」と判定する。また、最近接距離がr0以下であり、かつTTCが記憶部13に記憶された第1の時間閾値s1以上第2の時間閾値s2未満であると、危険度を「中」と判定し、s2以上であると危険度を「低」と判定する。
【0064】
また、衝突危険度判定部28は、最近接距離がr0より大きくかつ、r2−r02の極小値が記憶部13に記憶された接近閾値d1より小さい場合は危険度を「中」と判定し、d1以上である場合は危険度を「低」と判定する。
【0065】
警告提示部29は、衝突危険度判定部28により分類された衝突危険性に応じて、表示部14やスピーカ15を介して運転者に対して警告を行う。たとえば、危険度「高」の場合、運転者に緊急であることが認識されるよう、表示部14を介した映像およびスピーカ15を介した音声で衝突する危険があることを通知するとよい。また、危険度「中」の場合は、運転者に注意を促す程度に、表示部14を介した映像およびスピーカ15を介した音声で衝突する危険があることを通知するとよい。危険度「低」の場合は、運転者への警告を行わなくてもよい。
【0066】
次に、本実施形態に係る車両用画像処理装置および車両用画像処理方法の動作の一例について説明する。
【0067】
図4は、衝突予測ECU12のCPUが、カメラ11により取得された画像にもとづいて車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定する際の手順を示すフローチャートである。図4において、Sに数字を付した符号は、フローチャートの各ステップを示す。
【0068】
まず、ステップST1において、動きベクトル算出部21は、カメラ11から撮像画像の画像データを取得する。
【0069】
次に、ステップST2において、動きベクトル算出部は、取得した画像データにもとづき、カメラ11により撮像された複数の画像間の動きベクトル(u、v)を画素ごとに求める。
【0070】
次に、ステップST3において、回転成分算出部22は、消失点情報FOE(x0、y0)を記憶部13から取得し、静止物に対応する3つ以上の動きベクトル(u、v)についての式(5)にもとづいて回転成分Rx、Ry、Rzを算出する。
【0071】
次に、ステップST4において、スケールファクタ付き並進成分算出部23は、車両の回転成分Rx、Ry、Rzと、画像に含まれる対象物32に対応する複数の画素についての動きベクトル(u、v)と、にもとづいて式(6)および式(7)のaおよびbを算出することにより、対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを算出する。
【0072】
次に、ステップST5において、ユークリッド距離推定部24は、記憶部13から距離マージンr0を取得し、カメラ座標系における対象物32の三次元座標値(X、Y、Z)とスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとを用いた式(8)にもとづく式(9)および式(10)を立てる。
【0073】
次に、ステップST6において、ユークリッド距離推定部24は、式(9)の両辺から距離マージンr0を減じた式(13)を立てる。また、ユークリッド距離推定部24は、式(13)にもとづきr2−r02の極小値を求めるための式(14)を立て、この式(14)を衝突判定部25に与える。
【0074】
次に、ステップST7において、衝突判定部25は、z位置取得部26から対象物32のz座標値を取得し、このz座標値およびスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを代入して式(14)を解くことにより、r2−r02の極小値がゼロ以下となるか否かを判定する。r2−r02の極小値がゼロ以下となる場合はステップST8に進む。一方、r2−r02の極小値が正である場合は、ステップST13に進む。
【0075】
次に、ステップST8において、衝突時間推定部27は、式(14)の左辺をゼロとした式の実根t1およびt2を求め、小さいほうの根t1を衝突までの時間TTC(Time To Collision)と推定する。
【0076】
次に、ステップST9において、衝突危険度判定部28は、TTCが記憶部13に記憶された第1の時間閾値s1より小さいか否かを判定する。TTCが第1の時間閾値s1より小さい場合はステップST10に進む。一方、TTCが第1の時間閾値s1以上である場合はステップST11に進む。
【0077】
次に、ステップS10において、衝突危険度判定部28は、衝突危険度を「高」と判定し、ステップST15に進む。
【0078】
他方、ステップST9でTTCが第1の時間閾値s1以上であると判定されると、ステップST11において、衝突危険度判定部28は、TTCが記憶部13に記憶された第2の時間閾値s2より小さいか否かを判定する。TTCが第2の時間閾値s2より小さい場合はステップST12に進む。一方、TTCが第2の時間閾値s2以上である場合はステップST14に進む。
【0079】
次に、ステップST12において、衝突危険度判定部28は、衝突危険度を「中」と判定し、ステップST15に進む。
【0080】
また、ステップST13において、衝突危険度判定部28は、衝突危険度を「低」と判定し、ステップST15に進む。
【0081】
他方、ステップST7でr2−r02の極小値が正であると判定されると、ステップST14において、衝突判定部25はr2−r02の極小値が記憶部13に記憶された接近閾値d1より小さいか否かを判定する。r2−r02の極小値が接近閾値d1より小さい場合は、ステップS12に進んで衝突危険度判定部28により衝突危険度が「中」であると判定される。一方、r2−r02の極小値が接近閾値d1以上である場合は、ステップS14に進んで衝突危険度判定部28により衝突危険度が「低」であると判定される。
【0082】
そして、ステップS15において、警告提示部29は、衝突危険度判定部28により分類された衝突危険性に応じて、表示部14やスピーカ15を介して運転者に対して警告を行う。
【0083】
以上の手順により、カメラ11により取得された画像にもとづいて車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定することができる。
【0084】
本実施形態に係る車両用画像処理装置10は、対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを算出する際に、動きベクトル(u、v)を回転成分Rx、Ry、Rzで補正した式(3)および式(4)を用いる。このため、車両の曲進や振動の影響は排除される。したがって、車両用画像処理装置10によれば、自車の曲進および自車の振動による影響を考慮して対象物32との衝突可能性を的確に判定することができる。
【0085】
また、車両用画像処理装置10は、車両と対象物32との距離rにもとづいて衝突危険性を判定する。したがって、対象物32が静止物であるか移動物であるかによらず、正確に衝突危険性を判定することができる。また、対象物32が静止物であれば、1台のカメラ11のみからz座標値を得ることができるため、車両用画像処理装置10を簡素に構成することができる。
【0086】
また、車両用画像処理装置10は、単一の座標系(カメラ座標系)のみを用いる。このため、カメラ座標系と世界座標系とを併用する場合に比べ、座標系のの相互変換等の処理が不要となり、衝突危険予測に必要な演算量を少なくすることができる。
【0087】
また、車両用画像処理装置10は、カメラ11の中心から対象物32までの最近接距離と、カメラ11の中心から対象物32までの距離rがr0となる時間TTCとに応じて車両と対象物32との衝突危険性を複数の段階に分類し、この分類に応じた適切な警告を運転者に与えることができる。
【0088】
なお、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0089】
また、本発明の実施形態では、フローチャートの各ステップは、記載された順序に沿って時系列的に行われる処理の例を示したが、必ずしも時系列的に処理されなくとも、並列的あるいは個別実行される処理をも含むものである。
【符号の説明】
【0090】
10 車両用画像処理装置
11 カメラ
12 衝突予測ECU
13 記憶部
21 動きベクトル算出部
22 回転成分算出部
23 スケールファクタ付き並進成分算出部
25 衝突判定部
26 z位置取得部
27 衝突時間推定部
28 衝突危険度判定部
31 カメラ投影面
32 対象物
【技術分野】
【0001】
本発明の実施形態は、車両用画像処理装置および車両用画像処理方法に関する。
【背景技術】
【0002】
最近、自動車などの車両の運転を支援するための技術として、車両と対象物との衝突可能性を判定する技術の開発が望まれている。この種の技術には、たとえば、車両に搭載されたカメラにより撮像された画像にもとづいて車両と対象物との衝突可能性を判定する技術などがある。車両に搭載されたカメラにより撮像された画像を用いる場合、レーダを用いる場合に比べてデジタル化された画像データを利用することができることから、対象物の接近角度などの複雑な判断が可能である。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平11−353565号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、従来の技術は、車両が振動することなく静かに直進している場合を想定したものであり、車両の3種の回転成分(ヨーイング、ローリング、ピッチング)を考慮していない。このため、従来の技術は、車両が曲進する場合や車両が振動する場合などに適用することが難しい。
【課題を解決するための手段】
【0005】
本発明の一実施形態に係る車両用画像処理装置は、上述した課題を解決するために、カメラと、動きベクトル算出部と、スケールファクタ付き並進成分算出部と、z位置取得部と、衝突判定部と、衝突危険度判定部と、を備える。カメラは、車両に設けられ車両の周辺を撮像する。動きベクトル算出部は、カメラにより撮像された複数の画像間の動きベクトルを求める。スケールファクタ付き並進成分算出部は、画像に含まれる対象物に対応する動きベクトルと車両の回転成分とにもとづいて、対象物の相対並進成分をカメラ座標系における対象物の光軸方向座標値で除したスケールファクタ付き並進成分を算出する。z位置取得部は、カメラ座標系における対象物の光軸方向座標値を取得する。衝突判定部は、カメラ座標系における対象物の光軸方向座標値を含む三次元座標値とスケールファクタ付き並進成分とを用いてカメラの中心から対象物までの距離を時間の関数としてあらわした式にもとづいて、カメラの中心から対象物までの最近接距離が所定の距離以下であるか否かを判定する。衝突危険度判定部は、最近接距離が所定の距離以下であると、車両と対象物が衝突すると判定する。
【図面の簡単な説明】
【0006】
【図1】本発明の一実施形態に係る車両用画像処理装置の一例を示す全体構成図。
【図2】カメラ座標系におけるカメラ投影面と対象物との関係を示す説明図。
【図3】(a)は、r2−r02の極小値が負の場合におけるr2−r02と時間tの関係の一例を示す説明図、(b)はr2−r02の極小値が正の場合におけるr2−r02と時間tの関係の一例を示す説明図。
【図4】衝突予測ECUのCPUが、カメラにより取得された画像にもとづいて車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定する際の手順を示すフローチャート。
【発明を実施するための形態】
【0007】
本発明に係る車両用画像処理装置および車両用画像処理方法の実施の形態について、添付図面を参照して説明する。
【0008】
図1は、本発明の一実施形態に係る車両用画像処理装置10の一例を示す全体構成図である。
【0009】
車両用画像処理装置10は、カメラ11、衝突予測ECU(Electronic Control Unit)12、記憶部13、表示部14およびスピーカ15を有する。
【0010】
カメラ11は、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサにより構成され、自家用自動車等の車両周囲の画像を取り込んで画像信号を生成して衝突予測ECU12に与える。
【0011】
たとえば後方を監視する場合、カメラ11は車両後部のナンバープレート付近に路面と平行な線からやや下向きに配設される。カメラ11には、より広範な車両外画像が取得可能なように広角レンズや魚眼レンズが取り付けられてもよい。また、車両の側方を監視する場合、カメラ11はサイドミラー付近に配設される。もちろん、複数のカメラ11を用いることにより広範な車外周囲画像を取り込むようにしてもよい。
【0012】
衝突予測ECU12は、CPU、RAMおよびROMなどの記憶媒体などにより構成される。衝突予測ECU12のCPUは、ROMなどの記憶媒体に記憶された衝突予測プログラムおよびこのプログラムの実行のために必要なデータをRAMへロードし、このプログラムに従って、カメラ11により取得された画像にもとづいて、車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定する。
【0013】
衝突予測ECU12のRAMは、CPUが実行するプログラムおよびデータを一時的に格納するワークエリアを提供する。衝突予測ECU12のROMなどの記憶媒体は、衝突予測プログラムや、これらのプログラムを実行するために必要な各種データを記憶する。
【0014】
なお、ROMをはじめとする記憶媒体は、磁気的もしくは光学的記録媒体または半導体メモリなどの、CPUにより読み取り可能な記録媒体を含んだ構成を有し、これら記憶媒体内のプログラムおよびデータの一部または全部は図示しないネットワーク接続部を介して電子ネットワークを介してダウンロードされるように構成してもよい。
【0015】
なお、この場合、ネットワーク接続部は、ネットワークの形態に応じた種々の情報通信用プロトコルを実装し、この各種プロトコルに従って衝突予測ECU12と他の車両のECUなどの電気機器とを電子ネットワークを介して接続する。この接続には、電子ネットワークを介した電気的な接続などを適用することができる。ここで電子ネットワークとは、電気通信技術を利用した情報通信網全般を意味し、無線/有線LAN(Local Area Network)やインターネット網のほか、電話通信回線網、光ファイバ通信ネットワーク、ケーブル通信ネットワークおよび衛星通信ネットワークなどを含む。
【0016】
記憶部13は、衝突予測ECU12によるデータの読み書きが可能な不揮発性のメモリであり、あらかじめ、消失点(FOE:Focus of Expansion)の情報FOE(x0、y0)、距離マージンr0、第1の時間閾値s1、第2の時間閾値s2および接近閾値d0を記憶している。これらの情報は、電子ネットワークを介してまたは光ディスクなどの可搬型記憶媒体を介して更新されてもよい。
【0017】
消失点情報FOE(x0、y0)は、衝突予測ECU12により車両の回転成分を算出する際に用いられる。
【0018】
距離マージンr0、第1の時間閾値s1、第2の時間閾値s2および接近閾値d0は、衝突予測ECU12により車両と対象物との衝突危険度を判定するために用いられる。
【0019】
表示部14は、運転者が視認可能な位置に設けられ、車載用の一般的なディスプレイやカーナビゲーションシステム、HUD(ヘッドアップディスプレイ)などの表示出力装置を用いることができ、衝突予測ECU12の制御に従って衝突警告情報などの各種情報を表示する。
【0020】
スピーカ15は、衝突予測ECU12の制御に従って衝突警告情報などの各種情報に対応した音声を出力する。
【0021】
図1に示すように、衝突予測ECU12のCPUは、衝突プログラムによって、少なくとも動きベクトル算出部21、回転成分算出部22、スケールファクタ付き並進成分算出部23、ユークリッド距離推定部24、衝突判定部25、z位置取得部26、衝突時間推定部27、衝突危険度判定部28および警告提示部29として機能する。この各部21〜29は、RAMの所要のワークエリアを、データの一時的な格納場所として利用する。なお、これらの機能実現部は、CPUを用いることなく回路などのハードウエアロジックによって構成してもよい。
【0022】
ここで、本実施形態で用いるカメラ座標系について簡単に説明する。
【0023】
図2は、カメラ座標系におけるカメラ投影面31と対象物32との関係を示す説明図である。
【0024】
本実施形態に係る車両用画像処理装置は、カメラ座標系のみを用い、世界座標系を併用しないため、座標系の相互変換等の処理が不要である。
【0025】
カメラ座標系(x、y、z)は、カメラ11の中心を原点とする左手座標系である。カメラ座標系のz軸は、カメラ11の光軸に一致するよう設定される。
【0026】
カメラ投影面31は、カメラ座標系においてz=fの面である。fはカメラ11の焦点距離である。カメラ11は、このカメラ投影面31に投影される車両周囲を撮像する。
【0027】
対象物32のある点Pのカメラ座標系の三次元座標をP(X、Y、Z)とすると、点Pのカメラ投影面31に投影された点pの座標はp(x、y、f)となる。点Pのz座標(光軸方向座標)をzと定義すると(Z=z)、X=(z/f)・x、Y=(z/f)・y、Z=zと書ける。このとき、距離rはr2=(z2/f2)(x2+y2+f2)と書ける。ここで、x、yは投影面31上のxy座標値であり、zは対象物32のz座標値であることに注意する。投影面31上のxy座標値は、カメラ11の画素と対応するものであるため、画像から容易に取得することができる。
【0028】
動きベクトル算出部21は、ブロックマッチング法や勾配法などを用いて、カメラ111により撮像された複数の画像から画素ごとに動きベクトル(u、v)を算出する。
【0029】
回転成分算出部22は、動きベクトル(u、v)および消失点情報FOE(x0、y0)にもとづいて回転成分Rx、Ry、Rzを算出する。以下、より具体的に説明する。
【0030】
カメラ投影面31上の動きベクトル(u、v)は、次のように書けることが知られている。
U = xy(1/f)Rx−(x2+f2)(1/f)Ry+yRz−f(Tx/z)+x(Tz/z) (1)
V = (y2+f2)(1/f) Rx−xy(1/f)Ry−xRz−f(Ty/z)+y(Tz/z) (2)
【0031】
ここで、x、yは投影面31上のxy座標値、zは対象物32のz座標値をあらわす。また、Rx、Ry、Rz、Tx、Ty、Tzは運動パラメータであり、Rx、Ry、Rzは車両の回転成分をあらわし、Tx、Ty、Tzは自車と対象物32との相対並進成分をあらわす。
【0032】
車両の回転成分Rxはx軸中心の回転成分であり、自車のピッチング成分をあらわす。また、Ryはy軸中心の回転成分であり、自車のヨーイング成分をあらわす。ヨーイングは、主に舵角時(自車の曲進時)に発生する。Rzはz軸中心の回転成分であり自車のローリング成分をあらわす。
【0033】
式(1)および式(2)は、それぞれ次のように変形できる。
u−xy(1/f)Rx+(x2+f2)(1/f)Ry−yRz = −f(Tx/z)+x(Tz/z) (3)
v−(y2+f2)(1/f) Rx+xy(1/f)Ry+xRz = −f(Ty/z)+y(Tz/z) (4)
【0034】
式(3)および式(4)において、左辺は動きベクトル(u、v)を回転成分で補正したものである。
【0035】
対象物32が静止物である場合には、式(3)の式(4)に対する比は、画素(x、y)からFOE(x0、y0)に向かう傾きと等しくなることが知られている(崎本隆志ら、火の国情報シンポジウム2003講演論文集、「拡張焦点を用いた移動車両検出及び追跡に関する研究」(2003))。
このため、次の式(5)が導かれる。
[u−xy(1/f)Rx+(x2+f2)(1/f)Ry−yRz]/[ v−(y2+f2)(1/f) Rx+xy(1/f)Ry+xRz]
= [x-x0]/[y-y0] (5)
【0036】
したがって、Rx、Ry、Rzを3つの未知数と考えれば、静止物に対応する少なくとも3つの画素の動きベクトルを得ることができればRx、Ry、Rzを算出できる。
【0037】
そこで、回転成分算出部22は、消失点情報FOE(x0、y0)を記憶部13から取得し、静止物に対応する3つ以上の画素の動きベクトル(u、v)についての式(5)にもとづいて回転成分Rx、Ry、Rzを算出する。すなわち、回転成分算出部22は、カメラ11が取得した画像から回転成分を算出することができる。
【0038】
なお、回転成分は、車速データや舵角データなどの車両情報やジャイロセンサなどから求めることもできる。
【0039】
スケールファクタ付き並進成分算出部23は、画像に含まれる対象物32に対応する動きベクトル(u、v)と車両の回転成分Rx、Ry、Rzとにもとづいて、対象物32のスケールファクタ付きの相対並進成分(以下、スケールファクタ付き並進成分という)Tx/z、Ty/z、Tz/zを算出する。
【0040】
スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zは、対象物32の相対並進成分Tx、Ty、Tzを対象物32のz座標値で除したものである。このため、相対並進成分Tx、Ty、Tzが同一であれば、遠くにある(z座標値が大きい)ものほどスケールファクタ付き並進成分が小さくなる。対象物32の点Pが静止しているか移動しているかによらず、点Pはスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zで運動していると画像上において観測される。以下、より具体的に説明する。
【0041】
回転成分Rx、Ry、Rzは、画面内の任意の位置で共通なパラメータである。このため、式(3)および式(4)にもとづき、任意の画素に対して次式が成り立つ。
−f(Tx/z)+x(Tz/z) = a (6)
−f(Ty/z)+y(Tz/z) = b (7)
【0042】
ここで、aは式(3)の左辺をあらわす観測値であり、bは式(4)の左辺をあらわす観測値である。対象物32の複数の画素(x、y)についての観測値a、bが得られれば、式(6)および式(7)から未知数Tx/z、Ty/z、Tz/zを得ることができる。
【0043】
そこで、スケールファクタ付き並進成分算出部23は、車両の回転成分Rx、Ry、Rzと、画像に含まれる対象物32に対応する複数の画素についての動きベクトル(u、v)と、にもとづいて式(6)および式(7)のaおよびbを算出することにより、対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを算出する。
【0044】
換言すれば、スケールファクタ付き並進成分算出部23は、対象物32のz座標値を用いることなく対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを得ることができる。
【0045】
ユークリッド距離推定部24は、カメラ座標系における対象物32の三次元座標値(X、Y、Z)とスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとを用いてカメラ11の中心から対象物32までの距離rを時間tの関数としてあらわす式を立てる。以下、より具体的に説明する。
【0046】
現時刻から時刻tまで自車および対象物32は同じ運動をすると仮定すると、時刻t秒後における原点と点Pとの距離rの2乗はユークリッド距離として、時刻tの2次関数であらわすことができる。
r2 = (X−Txt)2+(Y−Tyt)2+(Z−Tzt)2 (8)
【0047】
上述の通り、点Pのz座標(光軸方向座標)をzと定義すると(Z=z)、X=(z/f)・x、Y=(z/f)・y、Z=zと書ける。これを式(8)に代入すると、次式を得る。
r2 = (xz/f−Txt)2+(yz/f−Tyt)2+(z−Tzt)2 (9)
【0048】
式(9)は、次のように変形できる。
r2 / z2 = At2−2Bt+C (10)
ただし、A = (Tx/z)2+(Ty/z)2+(Tz/z)2、
B = (1/ f)(x Tx/z+yTy/z +fTz/z)、
C = (1/ f2)( x2+y2+f2) をそれぞれあらわす。
【0049】
式(10)のAは正であるから、r2は下に凸のtの2次関数である。式(10)から、r2の極小値r2minおよび極小値r2minをとる時間tはそれぞれ次のようにあらわせる。
r2min=(z/f)2{(x2+y2+f2)−(xTx/z+yTy/z+fTz/z)2/ (Tx2/z2+Ty2/z2+Tz2/z2)} (11)
t = (1/f)(xTx/z +yTy/z +fTz/z)/ (Tx2/z2 +Ty2/z2 +Tz2/z2) (12)
【0050】
式(11)から明らかなように、r2の極小値は、スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zおよび対象物32のz座標値が得られれば算出することができる。また、式(12)から明らかなように、r2が極小値となる時刻tは、スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zが得られれば算出することができる。
【0051】
r2がゼロになるということは、点Pが原点(カメラ中心)に到達することを意味する。したがって、r2の極小値は、車両と対象物32との衝突危険性を判定するための指標として用いることができる。
【0052】
また、車両と対象物が所定の距離(以下、距離マージンr0という)以内に近づくか否かを判定することも、衝突危険性の判定に有効であると考えられる。車両と対象物が所定の距離(以下、距離マージンr0という)以内に近づくか否かを判定するためには、まず式(9)の両辺から距離マージンr0を減じた次式を立てる。
r2 −r0 = (xz/f−Txt)2+(yz/f−Tyt)2+(z−Tzt)2 −r0 (13)
【0053】
式(13)から、r2−r02の極小値r2−r02minは次のようにあらわせる。
r2 −r02min =(z/f)2{(x2+y2+f2)−(xTx/z+yTy/z+fTz/z)2/ (Tx2/z2+Ty2/z2+Tz2/z2)} (14)
【0054】
なお、r2−r02が極小値をとる時間tは式(10)であらわせる。
【0055】
以下の説明では、ユークリッド距離推定部24が、記憶部13から距離マージンr0を取得し、カメラ座標系における対象物32の三次元座標値(X、Y、Z)とスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとを用いた式(8)にもとづく式(14)を立て、この式を衝突判定部25に与える場合の例について示す。
【0056】
衝突判定部25は、式(8)にもとづく式(14)を用いて、カメラ11の中心から対象物32までの最近接距離(rの極小値)が距離マージンr0以下であるか否か、すなわち式(14)においてr2−r02の極小値がゼロ以下となるか否かを判定する。なお、衝突判定部25は、カメラ11の中心から対象物32までの最近接距離が距離マージンr0以下となる場合にはさらに、車両と対象物32とが衝突すると判定してもよい。また、衝突判定部25は、r2−r02の極小値が正である場合、この極小値が記憶部13に記憶された接近閾値d1より小さいか(ただし、d1>0とする)否かを判定する。
【0057】
式(14)を解くためには、スケールファクタ付き並進成分Tx/z、Ty/z、Tz/zのほか、対象物32のz座標値が必要である。対象物32のz座標値は、z位置取得部26から衝突判定部25に与えられる。
【0058】
z位置取得部26は、対象物32のz座標値を取得して衝突判定部25に与える。たとえば、対象物32が静止物である場合は、相対並進成分Tx、Ty、Tzを別途求めておき、相対並進成分Tx、Ty、Tzとスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとから求めることができる。相対並進成分Tx、Ty、Tzは、画像から求めることもできるし、車両の車速データや舵角データなどの車両情報や加速度センサなどから求めることもできる。なお、対象物32のz座標値は、1台のカメラ11以外の部材を用いる場合、レーダ、レーダレーザ、光切断法、ステレオカメラなどによる距離測定法により求めることもできる。
【0059】
図3(a)は、r2−r02の極小値が負の場合におけるr2−r02と時間tの関係の一例を示す説明図であり、(b)はr2−r02の極小値が正の場合におけるr2−r02と時間tの関係の一例を示す説明図である。
【0060】
衝突時間推定部27は、式(8)にもとづく式(14)を用いて、カメラ11の中心から対象物32までの距離rが距離マージンr0となる時間を算出する。なお、カメラ11の中心から対象物32までの距離rが距離マージンr0となるのは、r2−r02の極小値がゼロ以下の場合のみである(図3(a)参照)。
【0061】
具体的には、衝突時間推定部27は、式(14)の左辺をゼロとした式の実根t1およびt2を求め、小さいほうの根t1を衝突までの時間TTC(Time To Collision)とする。
【0062】
衝突危険度判定部28は、カメラ11の中心から対象物32までの最近接距離と、カメラ11の中心から対象物32までの距離rがr0となる時間TTCとに応じて車両と対象物32との衝突危険性を複数の段階に分類する。以下の説明では、衝突危険性が3段階に分類される場合の例について示す。
【0063】
より具体的には、衝突危険度判定部28は、最近接距離がr0以下であり、かつTTCが記憶部13に記憶された第1の時間閾値s1より小さいと、危険度を「高」と判定する。また、最近接距離がr0以下であり、かつTTCが記憶部13に記憶された第1の時間閾値s1以上第2の時間閾値s2未満であると、危険度を「中」と判定し、s2以上であると危険度を「低」と判定する。
【0064】
また、衝突危険度判定部28は、最近接距離がr0より大きくかつ、r2−r02の極小値が記憶部13に記憶された接近閾値d1より小さい場合は危険度を「中」と判定し、d1以上である場合は危険度を「低」と判定する。
【0065】
警告提示部29は、衝突危険度判定部28により分類された衝突危険性に応じて、表示部14やスピーカ15を介して運転者に対して警告を行う。たとえば、危険度「高」の場合、運転者に緊急であることが認識されるよう、表示部14を介した映像およびスピーカ15を介した音声で衝突する危険があることを通知するとよい。また、危険度「中」の場合は、運転者に注意を促す程度に、表示部14を介した映像およびスピーカ15を介した音声で衝突する危険があることを通知するとよい。危険度「低」の場合は、運転者への警告を行わなくてもよい。
【0066】
次に、本実施形態に係る車両用画像処理装置および車両用画像処理方法の動作の一例について説明する。
【0067】
図4は、衝突予測ECU12のCPUが、カメラ11により取得された画像にもとづいて車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定する際の手順を示すフローチャートである。図4において、Sに数字を付した符号は、フローチャートの各ステップを示す。
【0068】
まず、ステップST1において、動きベクトル算出部21は、カメラ11から撮像画像の画像データを取得する。
【0069】
次に、ステップST2において、動きベクトル算出部は、取得した画像データにもとづき、カメラ11により撮像された複数の画像間の動きベクトル(u、v)を画素ごとに求める。
【0070】
次に、ステップST3において、回転成分算出部22は、消失点情報FOE(x0、y0)を記憶部13から取得し、静止物に対応する3つ以上の動きベクトル(u、v)についての式(5)にもとづいて回転成分Rx、Ry、Rzを算出する。
【0071】
次に、ステップST4において、スケールファクタ付き並進成分算出部23は、車両の回転成分Rx、Ry、Rzと、画像に含まれる対象物32に対応する複数の画素についての動きベクトル(u、v)と、にもとづいて式(6)および式(7)のaおよびbを算出することにより、対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを算出する。
【0072】
次に、ステップST5において、ユークリッド距離推定部24は、記憶部13から距離マージンr0を取得し、カメラ座標系における対象物32の三次元座標値(X、Y、Z)とスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zとを用いた式(8)にもとづく式(9)および式(10)を立てる。
【0073】
次に、ステップST6において、ユークリッド距離推定部24は、式(9)の両辺から距離マージンr0を減じた式(13)を立てる。また、ユークリッド距離推定部24は、式(13)にもとづきr2−r02の極小値を求めるための式(14)を立て、この式(14)を衝突判定部25に与える。
【0074】
次に、ステップST7において、衝突判定部25は、z位置取得部26から対象物32のz座標値を取得し、このz座標値およびスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを代入して式(14)を解くことにより、r2−r02の極小値がゼロ以下となるか否かを判定する。r2−r02の極小値がゼロ以下となる場合はステップST8に進む。一方、r2−r02の極小値が正である場合は、ステップST13に進む。
【0075】
次に、ステップST8において、衝突時間推定部27は、式(14)の左辺をゼロとした式の実根t1およびt2を求め、小さいほうの根t1を衝突までの時間TTC(Time To Collision)と推定する。
【0076】
次に、ステップST9において、衝突危険度判定部28は、TTCが記憶部13に記憶された第1の時間閾値s1より小さいか否かを判定する。TTCが第1の時間閾値s1より小さい場合はステップST10に進む。一方、TTCが第1の時間閾値s1以上である場合はステップST11に進む。
【0077】
次に、ステップS10において、衝突危険度判定部28は、衝突危険度を「高」と判定し、ステップST15に進む。
【0078】
他方、ステップST9でTTCが第1の時間閾値s1以上であると判定されると、ステップST11において、衝突危険度判定部28は、TTCが記憶部13に記憶された第2の時間閾値s2より小さいか否かを判定する。TTCが第2の時間閾値s2より小さい場合はステップST12に進む。一方、TTCが第2の時間閾値s2以上である場合はステップST14に進む。
【0079】
次に、ステップST12において、衝突危険度判定部28は、衝突危険度を「中」と判定し、ステップST15に進む。
【0080】
また、ステップST13において、衝突危険度判定部28は、衝突危険度を「低」と判定し、ステップST15に進む。
【0081】
他方、ステップST7でr2−r02の極小値が正であると判定されると、ステップST14において、衝突判定部25はr2−r02の極小値が記憶部13に記憶された接近閾値d1より小さいか否かを判定する。r2−r02の極小値が接近閾値d1より小さい場合は、ステップS12に進んで衝突危険度判定部28により衝突危険度が「中」であると判定される。一方、r2−r02の極小値が接近閾値d1以上である場合は、ステップS14に進んで衝突危険度判定部28により衝突危険度が「低」であると判定される。
【0082】
そして、ステップS15において、警告提示部29は、衝突危険度判定部28により分類された衝突危険性に応じて、表示部14やスピーカ15を介して運転者に対して警告を行う。
【0083】
以上の手順により、カメラ11により取得された画像にもとづいて車両の曲進および車両の振動による影響を考慮して対象物との衝突可能性を判定することができる。
【0084】
本実施形態に係る車両用画像処理装置10は、対象物32のスケールファクタ付き並進成分Tx/z、Ty/z、Tz/zを算出する際に、動きベクトル(u、v)を回転成分Rx、Ry、Rzで補正した式(3)および式(4)を用いる。このため、車両の曲進や振動の影響は排除される。したがって、車両用画像処理装置10によれば、自車の曲進および自車の振動による影響を考慮して対象物32との衝突可能性を的確に判定することができる。
【0085】
また、車両用画像処理装置10は、車両と対象物32との距離rにもとづいて衝突危険性を判定する。したがって、対象物32が静止物であるか移動物であるかによらず、正確に衝突危険性を判定することができる。また、対象物32が静止物であれば、1台のカメラ11のみからz座標値を得ることができるため、車両用画像処理装置10を簡素に構成することができる。
【0086】
また、車両用画像処理装置10は、単一の座標系(カメラ座標系)のみを用いる。このため、カメラ座標系と世界座標系とを併用する場合に比べ、座標系のの相互変換等の処理が不要となり、衝突危険予測に必要な演算量を少なくすることができる。
【0087】
また、車両用画像処理装置10は、カメラ11の中心から対象物32までの最近接距離と、カメラ11の中心から対象物32までの距離rがr0となる時間TTCとに応じて車両と対象物32との衝突危険性を複数の段階に分類し、この分類に応じた適切な警告を運転者に与えることができる。
【0088】
なお、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0089】
また、本発明の実施形態では、フローチャートの各ステップは、記載された順序に沿って時系列的に行われる処理の例を示したが、必ずしも時系列的に処理されなくとも、並列的あるいは個別実行される処理をも含むものである。
【符号の説明】
【0090】
10 車両用画像処理装置
11 カメラ
12 衝突予測ECU
13 記憶部
21 動きベクトル算出部
22 回転成分算出部
23 スケールファクタ付き並進成分算出部
25 衝突判定部
26 z位置取得部
27 衝突時間推定部
28 衝突危険度判定部
31 カメラ投影面
32 対象物
【特許請求の範囲】
【請求項1】
車両に設けられ前記車両の周辺を撮像するカメラと、
前記カメラにより撮像された複数の画像間の動きベクトルを求める動きベクトル算出部と、
前記画像に含まれる対象物に対応する動きベクトルと前記車両の回転成分とにもとづいて、スケールファクタ付き相対並進成分を算出するスケールファクタ付き並進成分算出部と、
前記カメラ座標系における前記対象物の光軸方向座標値を取得するz位置取得部と、
前記カメラ座標系における前記対象物の前記光軸方向座標値を含む三次元座標値と前記スケールファクタ付き相対並進成分とを用いて前記カメラの中心から前記対象物までの距離を時間の関数としてあらわした式にもとづいて、前記カメラの中心から前記対象物までの最近接距離が所定の距離以下であるか否かを判定する衝突判定部と、
前記最近接距離が前記所定の距離以下であると、前記車両と前記対象物が衝突すると判定する衝突危険度判定部と、
を備えたことを特徴とする車両用画像処理装置。
【請求項2】
前記対象物は静止物であり、
消失点の情報および少なくとも3つの前記画素の動きベクトルにもとづいて前記回転成分を算出する回転成分算出部、
をさらに備えた請求項1記載の車両用画像処理装置。
【請求項3】
前記z位置取得部は、
前記カメラにより撮像された画像から前記車両の並進成分を求め、前記車両の並進成分を前記スケールファクタ付き相対並進成分で除すことにより前記カメラ座標系における前記対象物の光軸方向座標値を取得する、
請求項2記載の車両用画像処理装置。
【請求項4】
前記カメラ座標系における前記対象物の前記光軸方向座標値を含む三次元座標値と前記スケールファクタ付き相対並進成分とを用いて前記カメラの中心から前記対象物までの距離を時間の関数としてあらわした式にもとづいて、前記カメラの中心から前記対象物までの距離が前記所定の距離となる時間を算出する衝突時間推定部、
をさらに備えた請求項1ないし3のいずれか1項に記載の車両用画像処理装置。
【請求項5】
前記衝突危険度判定部は、
前記最近接距離と前記カメラの中心から前記対象物までの距離が前記所定の距離となる時間とに応じて前記車両と前記対象物との衝突危険性を複数の段階に分類する、
請求項4記載の車両用画像処理装置。
【請求項6】
車両に設けられたカメラが前記車両の周辺を撮像するステップと、
前記カメラにより撮像された複数の画像間の動きベクトルを画素ごとに求めるステップと、
前記車両の回転成分と前記画像に含まれる対象物に対応する動きベクトルとにもとづいて、スケールファクタ付き相対並進成分を算出するステップと、
前記カメラ座標系における前記対象物の光軸方向座標値を取得するステップと、
前記カメラ座標系における前記対象物の前記光軸方向座標値を含む三次元座標値と前記スケールファクタ付き相対並進成分とを用いて前記カメラの中心から前記対象物までの距離を時間の関数としてあらわした式にもとづいて、前記カメラの中心から前記対象物までの最近接距離が所定の距離以下であるか否かを判定するステップと、
前記最近接距離が前記所定の距離以下であると、前記車両と前記対象物が衝突すると判定するステップと、
を有することを特徴とする車両用画像処理方法。
【請求項1】
車両に設けられ前記車両の周辺を撮像するカメラと、
前記カメラにより撮像された複数の画像間の動きベクトルを求める動きベクトル算出部と、
前記画像に含まれる対象物に対応する動きベクトルと前記車両の回転成分とにもとづいて、スケールファクタ付き相対並進成分を算出するスケールファクタ付き並進成分算出部と、
前記カメラ座標系における前記対象物の光軸方向座標値を取得するz位置取得部と、
前記カメラ座標系における前記対象物の前記光軸方向座標値を含む三次元座標値と前記スケールファクタ付き相対並進成分とを用いて前記カメラの中心から前記対象物までの距離を時間の関数としてあらわした式にもとづいて、前記カメラの中心から前記対象物までの最近接距離が所定の距離以下であるか否かを判定する衝突判定部と、
前記最近接距離が前記所定の距離以下であると、前記車両と前記対象物が衝突すると判定する衝突危険度判定部と、
を備えたことを特徴とする車両用画像処理装置。
【請求項2】
前記対象物は静止物であり、
消失点の情報および少なくとも3つの前記画素の動きベクトルにもとづいて前記回転成分を算出する回転成分算出部、
をさらに備えた請求項1記載の車両用画像処理装置。
【請求項3】
前記z位置取得部は、
前記カメラにより撮像された画像から前記車両の並進成分を求め、前記車両の並進成分を前記スケールファクタ付き相対並進成分で除すことにより前記カメラ座標系における前記対象物の光軸方向座標値を取得する、
請求項2記載の車両用画像処理装置。
【請求項4】
前記カメラ座標系における前記対象物の前記光軸方向座標値を含む三次元座標値と前記スケールファクタ付き相対並進成分とを用いて前記カメラの中心から前記対象物までの距離を時間の関数としてあらわした式にもとづいて、前記カメラの中心から前記対象物までの距離が前記所定の距離となる時間を算出する衝突時間推定部、
をさらに備えた請求項1ないし3のいずれか1項に記載の車両用画像処理装置。
【請求項5】
前記衝突危険度判定部は、
前記最近接距離と前記カメラの中心から前記対象物までの距離が前記所定の距離となる時間とに応じて前記車両と前記対象物との衝突危険性を複数の段階に分類する、
請求項4記載の車両用画像処理装置。
【請求項6】
車両に設けられたカメラが前記車両の周辺を撮像するステップと、
前記カメラにより撮像された複数の画像間の動きベクトルを画素ごとに求めるステップと、
前記車両の回転成分と前記画像に含まれる対象物に対応する動きベクトルとにもとづいて、スケールファクタ付き相対並進成分を算出するステップと、
前記カメラ座標系における前記対象物の光軸方向座標値を取得するステップと、
前記カメラ座標系における前記対象物の前記光軸方向座標値を含む三次元座標値と前記スケールファクタ付き相対並進成分とを用いて前記カメラの中心から前記対象物までの距離を時間の関数としてあらわした式にもとづいて、前記カメラの中心から前記対象物までの最近接距離が所定の距離以下であるか否かを判定するステップと、
前記最近接距離が前記所定の距離以下であると、前記車両と前記対象物が衝突すると判定するステップと、
を有することを特徴とする車両用画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図2】
【図3】
【図4】
【公開番号】特開2012−113358(P2012−113358A)
【公開日】平成24年6月14日(2012.6.14)
【国際特許分類】
【出願番号】特願2010−259416(P2010−259416)
【出願日】平成22年11月19日(2010.11.19)
【出願人】(504113008)東芝アルパイン・オートモティブテクノロジー株式会社 (110)
【Fターム(参考)】
【公開日】平成24年6月14日(2012.6.14)
【国際特許分類】
【出願日】平成22年11月19日(2010.11.19)
【出願人】(504113008)東芝アルパイン・オートモティブテクノロジー株式会社 (110)
【Fターム(参考)】
[ Back to top ]