Notice: Undefined variable: fterm_desc_sub in /mnt/www/biblio_conv.php on line 353
移動体識別装置、画像処理装置、コンピュータプログラム及び光軸方向特定方法
説明

移動体識別装置、画像処理装置、コンピュータプログラム及び光軸方向特定方法

【課題】ビデオカメラ等の取付角度(レンズの光軸方向)を簡便に設定することができる移動体識別装置、画像処理装置、コンピュータプログラム及び光軸方向特定方法を提供する。
【解決手段】車両存在位置判定部60は、検出範囲において車両有無識別部51で車両が識別された場合、通信部14を介して車両から受信した車両情報に含まれる車両の位置情報に基づいて、該車両が検出範囲内に存在するか否かを判定する。光軸方向特定部70は、車両存在位置判定部60で車両が検出範囲内に存在すると判定した場合、識別部50で識別された車両位置を撮像画像上でプロットし、同様にして、複数の撮像時点で識別した車両位置をプロットする。また、同様の処理を複数の車両に対して行う。これにより、複数の車両それぞれの走行軌跡を表わす仮想直線を求め、仮想直線の交点からレンズの光軸方向を特定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、道路を含む領域を撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する移動体識別装置、撮像画像に対して所定の処理を行う画像処理装置、前記移動体識別装置及び画像処理装置をコンピュータで実現するためのコンピュータプログラム及び前記移動体識別装置及び画像処理装置による光軸方向特定方法に関する。
【背景技術】
【0002】
路側インフラ装置と車両(車載装置)とが有線又は無線による路車間通信にて情報を交換し、各装置が単独では実現できなかった機能を実現させるシステムが検討されている。特に、車両の運転者からは死角となる場所に存在する車両又は歩行者の情報をインフラ側より車両側に提供することで未然に交通事故を抑止する路車協調型安全運転支援システムの検討が進められている。
【0003】
このようなシステムを実現するための主要技術としては、例えば、車両の位置情報、車種情報(例えば、自動車、二輪車又は歩行者等)、車両の移動速度又は移動方向などの情報を検出するセンサが必要である。このようなセンサとしては、例えば、レーザを利用するもの、あるいは、ビデオカメラで撮像した画像を利用するものがあるが、情報を検出することができる範囲の広さ、製品寿命、コスト及び性能などのバランスを考慮すると画像処理方式が有力である。
【0004】
画像処理方式のセンサ(画像センサ)を使用する例として、例えば、ビデオカメラで撮像された画像情報から、車両の存在、小型車や中型車などの車種、車両速度などを検出して交通流計測を行う装置が開示されている(特許文献1参照)。
【特許文献1】特開平5−307695号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、特許文献1に開示されている画像処理方式のセンサの課題の1つは、撮像する道路の幅、車線の位置、車両の進行方向等に応じてビデオカメラで撮像する撮像範囲、ビデオカメラの設置高さ、俯角又は回転角などのビデオカメラの取付角度(ビデオカメラのレンズの光軸方向)の調整及び撮像画像上での車線位置等の設定を要することである。特に、車両の速度計測や位置を精度良く求めるためには、撮像画像上の位置と実際の道路上の位置を一致させておく必要があり、ビデオカメラの取付角度を正確に設定する必要があった。
【0006】
従来、ビデオカメラの設置場所で取付角度の調整を行っていたが、調整作業には多大の労力を要した。また、調整作業中は、道路の車線規制などを行う必要があり、交通渋滞や交通事故の恐れもあった。このため、簡便な方法でビデオカメラ等の取付角度を設定することが望まれていた。
【0007】
本発明は、斯かる事情に鑑みてなされたものであり、ビデオカメラ等の取付角度(レンズの光軸方向)を簡便に設定することができる移動体識別装置及び画像処理装置、前記移動体識別装置及び画像処理装置をコンピュータで実現するためのコンピュータプログラム並びに前記移動体識別装置及び画像処理装置による光軸方向特定方法に関する。
【課題を解決するための手段】
【0008】
第1発明に係る移動体識別装置は、道路を含む領域を撮像装置で撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する移動体識別装置であって、移動体の位置情報を取得する位置情報取得手段と、撮像画像上の部分画像を特定する部分画像特定手段と、該部分画像特定手段で特定した部分画像の特徴量を抽出する特徴量抽出手段と、該特徴量抽出手段で抽出した特徴量を用いて移動体を識別する識別手段と、該識別手段で移動体を識別した場合、前記位置情報取得手段で取得した位置情報、前記撮像装置のレンズの既知の光軸方向及び前記部分画像特定手段で特定した部分画像の撮像画像上の位置に基づいて、前記位置情報取得手段で位置情報を取得した移動体が前記部分画像に撮像されているか否かを判定する判定手段と、該判定手段で前記移動体が撮像されていると判定した場合、該移動体の撮像画像上の位置を算出する位置算出手段と、該位置算出手段で算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記光軸方向を修正すべく光軸方向を特定する光軸方向特定手段とを備えることを特徴とする。
【0009】
第2発明に係る移動体識別装置は、第1発明において、前記特徴量抽出手段で抽出した特徴量を用いて天候又は昼夜の別を含む環境状況を識別する環境識別手段を備え、前記識別手段は、前記環境識別手段で識別した環境状況及び前記特徴量を用いて移動体を識別するように構成してあることを特徴とする。
【0010】
第3発明に係る画像処理装置は、撮像装置で撮像して得られた撮像画像に対して所定の処理を行う画像処理装置において、撮像画像の特徴量を抽出する抽出手段と、該抽出手段で抽出した特徴量を用いて撮像画像上の移動体の位置を算出する位置算出手段と、該位置算出手段で算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記撮像装置のレンズの光軸方向を特定する光軸方向特定手段とを備えることを特徴とする。
【0011】
第4発明に係るコンピュータプログラムは、コンピュータを、道路を含む領域を撮像装置で撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する手段として機能させるためのコンピュータプログラムであって、コンピュータを、撮像画像上の部分画像を特定する部分画像特定手段と、特定した部分画像の特徴量を抽出する特徴量抽出手段と、抽出した特徴量を用いて移動体を識別する識別手段と、移動体を識別した場合、移動体の位置情報、前記撮像装置のレンズの既知の光軸方向及び特定した部分画像の撮像画像上の位置に基づいて、前記移動体が前記部分画像に撮像されているか否かを判定する判定手段と、前記移動体が撮像されていると判定した場合、該移動体の撮像画像上の位置を算出する位置算出手段と、算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記光軸方向を修正すべく光軸方向を特定する光軸方向特定手段として機能させることを特徴とする。
【0012】
第5発明に係るコンピュータプログラムは、コンピュータを、撮像装置で撮像して得られた撮像画像に対して所定の処理を行う手段として機能させるためのコンピュータプログラムにおいて、コンピュータを、撮像画像の特徴量を抽出する抽出手段と、抽出した特徴量を用いて撮像画像上の移動体の位置を算出する位置算出手段と、算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記撮像装置のレンズの光軸方向を特定する光軸方向特定手段として機能させることを特徴とする。
【0013】
第6発明に係る光軸方向特定方法は、道路を含む領域を撮像装置で撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する移動体識別装置による光軸方向特定方法であって、移動体の位置情報を取得し、撮像画像上の部分画像を特定し、特定した部分画像の特徴量を抽出し、抽出した特徴量を用いて移動体を識別し、移動体を識別した場合、取得した位置情報、前記撮像装置のレンズの既知の光軸方向及び特定した部分画像の撮像画像上の位置に基づいて、前記位置情報を取得した移動体が前記部分画像に撮像されているか否かを判定し、前記移動体が撮像されていると判定した場合、該移動体の撮像画像上の位置を算出し、算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記光軸方向を修正すべく光軸方向を特定することを特徴とする。
【0014】
第7発明に係る光軸方向特定方法は、撮像装置で撮像して得られた撮像画像に対して所定の処理を行う画像処理装置による光軸方向特定方法において、撮像画像の特徴量を抽出し、抽出した特徴量を用いて撮像画像上の移動体の位置を算出し、算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記撮像装置のレンズの光軸方向を特定することを特徴とする。
【0015】
第1発明、第4発明及び第6発明にあっては、撮像画像上の部分画像を特定し、特定した部分画像の特徴量を抽出する。部分画像は、例えば、24×32画素の検出範囲であって、検出範囲を撮像画像上で走査して検出範囲の特徴量を抽出する。特徴量は、例えば、HOG(Histograms of Oriented Gradients)特徴を用いることができ、検出範囲の輝度の勾配強度を勾配方向毎にヒストグラム化した特徴ベクトルである。なお、特徴量は、HOG特徴に限定されるものではなく、エッジ検出により抽出してもよい。抽出した特徴量を用いて移動体(例えば、車両)を識別手段(識別器)で識別した場合、移動体の位置情報、撮像装置のレンズの既知の光軸方向(例えば、光軸の俯角及び回転角)及び特定した部分画像(移動体を識別した際の特徴量を抽出した検出範囲)の撮像画像上の位置に基づいて、車両の位置情報を取得した移動体が部分画像(検出範囲)内にあるか否かを判定する。識別器は、特徴量(特徴ベクトル)が入力された場合、入力された特徴量と識別器パラメータとにより識別結果(判定情報、例えば、車両あり、車両なし等)を出力するものである。また、既知の光軸方向は、例えば、大凡に設定されたものであり精度良く特定する前のものである。
【0016】
移動体が撮像されている(検出範囲内にある)と判定した場合、前記移動体の撮像画像上の位置を算出する。複数の撮像時点で同様にして移動体の位置を算出する。これにより、移動体の走行軌跡を表わす仮想直線を撮像画像上で求めることができる。また、複数の移動体について、同様に撮像画像上の複数の位置を算出する。これにより、複数の仮想直線を求めることができる。算出した各位置、すなわち、複数の仮想直線の交点(無限遠点)及び撮像装置の撮像パラメータ(例えば、撮像装置の撮像面の大きさ及び解像度、レンズの焦点距離など)を用いて、撮像装置のレンズの既知の光軸方向を修正すべく光軸方向(例えば、光軸の俯角及び回転角)を特定する。これにより、レンズの光軸方向(俯角及び回転角)を高精度かつ自動的に求めることができる。また、撮像装置の取付角度に関わる調整作業を手作業ではなく自動的に行うことができ、調整作業に要する車線規制なども不要になり、作業労力及び作業コストの低減を図ることができ、また、交通渋滞や交通事故の防止に繋がる。
【0017】
第2発明にあっては、抽出した特徴量を用いて天候又は昼夜の別を含む環境状況を識別する環境識別手段(環境識別器)を備える。環境識別器は、特徴量(特徴ベクトル)が入力された場合、入力された特徴量と環境識別器パラメータとにより識別結果(判定情報、例えば、昼、夕方、夜、晴天、雨天等などの環境状況を出力するものである。車両を識別する場合、抽出した特徴量及び所要の環境状況(例えば、昼、夕方、晴れの夜間、雨天の夜間など)により車両(移動体)を識別する。これにより、環境状況に関わらず移動体を精度良く識別することができる。
【0018】
第3発明、第5発明及び第7発明にあっては、撮像画像の特徴量を抽出する。特徴量は、例えば、エッジ検出により抽出してもよく、あるいは、HOG(Histograms of Oriented Gradients)特徴を用いることもできる。抽出した特徴量を用いて撮像画像上の移動体の位置を算出する。複数の撮像時点で同様にして移動体の位置を算出する。これにより、移動体の走行軌跡を表わす仮想直線を撮像画像上で求めることができる。また、複数の移動体について、同様に撮像画像上の複数の位置を算出する。これにより、複数の仮想直線を求めることができる。算出した各位置、すなわち、複数の仮想直線の交点(無限遠点)及び撮像装置の撮像パラメータ(例えば、撮像装置の撮像面の大きさ及び解像度、レンズの焦点距離など)を用いて、撮像装置のレンズの光軸方向(例えば、光軸の俯角及び回転角)を特定する。これにより、撮像装置の取付角度に関わる調整作業を手作業ではなく自動的に行うことができ、調整作業に要する車線規制なども不要になり、作業労力及び作業コストの低減を図ることができ、また、交通渋滞や交通事故の防止に繋がる。
【発明の効果】
【0019】
本発明によれば、撮像装置の取付角度に関わる調整作業を手作業ではなく自動的に行うことができ、調整作業に要する車線規制なども不要になり、作業労力及び作業コストの低減を図ることができ、また、交通渋滞や交通事故の防止に繋がる。
【発明を実施するための最良の形態】
【0020】
以下、本発明を実施の形態を示す図面に基づいて説明する。図1は本発明に係る移動体識別装置である車両識別装置100の構成の一例を示すブロック図である。車両識別装置100は、画像入力部11、A/D変換部12、画像メモリ13、通信部14、記憶部15、装置全体を制御する制御部20、部分画像特定部30、特徴量抽出部40、識別手段(識別器)としての識別部50、車両存在位置判定部60、ビデオカメラ10のレンズの光軸方向を特定する光軸方向特定部70などを備える。また、識別部50は、車両有無識別部51、車種識別部52、環境識別部53、環境別車両有無識別部54などを備えている。また、画像入力部11には、ビデオカメラ10を接続してある。なお、ビデオカメラ10は、車両識別装置100とは別個の装置であってもよく、あるいは、両者が一体をなす構成であってもよい。
【0021】
ビデオカメラ10は、道路を含む所要の領域を撮像すべく、所定の高さ、レンズの光軸方向(例えば、俯角及び回転角)などの撮像条件が設定された状態で道路付近の所要の地点に設置してある。ビデオカメラ10は、撮像して得られた撮像画像を映像信号(アナログ信号)として画像入力部11へ出力する。
【0022】
まず、ビデオカメラ10のレンズの光軸方向の大凡の値(初期値)設定方法について説明する。図2は道路座標系を示す説明図である。図2に示すように、ビデオカメラ10のレンズ中心を原点として、道路座標系(X、Y、Z)を定義する。道路座標系は、道路の進行方向(ビデオカメラ10から離れる方向)をY軸(前方向を正)、道路方向と垂直な道路面上の方向をX軸(前方に向かって右方向を正)、路面と垂直な方向をZ軸(上方を正)とする。また、ビデオカメラ10のレンズ中心を原点として、カメラ座標系(X’、Y’、Z’)を定義する。カメラ座標系は、カメラレンズの光軸をY’軸、光軸に垂直であって水平方向の軸をX’軸、カメラの上方向をZ’軸とする。さらに、カメラ座標系の各軸の道路座標系の各軸に対する回転角を、それぞれα(ピッチ角)、β(ロール角)、γ(ヨー角)とし、全て右ねじの進む方向を正(α:水平面より上向きが正、β:右回りが正、γ:左回りが正)とする。この場合、道路座標系からカメラ座標系の変換式は、式(1)で表すことができる。
【0023】
【数1】

【0024】
変換行列の係数P11〜P33それぞれは、式(2)で表すことができる。また、撮像画像上の座標(x、y)は、レンズの焦点距離をFとすると、式(3)で表すことができる。
【0025】
図3はビデオカメラ10の取付状態を示す説明図である。ビデオカメラ10のレンズの光軸方向は、俯角及び回転角により特定することができる。図3(a)に示すように、俯角は、道路面と平行な面とレンズの光軸とのなす角である。レンズの光軸が道路面と平行な場合には、俯角は0度であり、レンズの光軸が下に向く方向を正の俯角と定義する。この場合、俯角は上述のピッチ角の方向とは逆になり、−αで表わすことができる。
【0026】
また、図3(b)に示すように、回転角は道路の進行方向とレンズの光軸とのなす角である。レンズの光軸が道路の進行方向と平行な場合には、回転角は0度であり、レンズの光軸が左へ向く方向を正の回転角と定義する。この場合、回転角は上述のヨー角(γ)で表わすことができる。なお、ロール角βは水平器を用いて0に設定するものとする。ビデオカメラ10のレンズの光軸方向の大凡の値を設定するということは、上述のピッチ角(α)、ヨー角(γ)を暫定的に求めることである。
【0027】
図4はビデオカメラ10のレンズの光軸方向の初期設定の例を示す説明図である。光軸方向の初期設定は、ビデオカメラ10を設置した際に、レンズの光軸方向(俯角と回転角)の大凡の値を設定するものである。これにより、俯角及び回転角を予め定めておく。光軸方向の大凡の設定方法としては、例えば、計測範囲の左右端(例えば、道路の端)の境界位置(E1、E2、E3、E4)を撮像画像上で設定することで2つの境界線を決定する。なお、この作業は人手により容易に行うことができる。そして、2つの境界線の交点E0により、俯角及び回転角を算出し、撮像画像上の座標と実際の道路上の位置とを合わせておく。
【0028】
ビデオカメラ10の撮像パラメータを以下のとおりとする。すなわち、ビデオカメラの設置高さをH、撮像面の横サイズをSH、縦サイズをSV、撮像面の横解像度(画素数)をRH、縦解像度(ライン数)をRV、レンズの焦点距離をFとする。
【0029】
図4に示すように、撮像画像上の点E1〜E4の座標をそれぞれ(x1、y1)、(x2、y2)、(x3、y3)、(x4、y4)とする。点E1、E2を結ぶ仮想直線E1E2と、点E3、E4を結ぶ仮想直線E3E4との交点をE0とする。仮想直線E1E2は式(4)で表わすことができ、仮想直線E3E4は式(5)で表わすことができる。
【0030】
【数2】

【0031】
また、交点E0の座標を(x0、y0)とすると、交点E0は、式(6)により求めることができる。撮像面上での交点E1の座標(s0、t0)は、式(7)で求めることができ、俯角α及び回転角γは、式(8)で算出することができる。式(8)で算出した俯角及び回転角は、大凡の値であり、光軸方向特定部70で求める前の暫定的な既知の値である。
【0032】
画像入力部11は、取得した映像信号をA/D変換部12へ出力する。
【0033】
A/D変換部12は、入力された映像信号をデジタル信号に変換し、変換したデジタル信号を画像データとして画像メモリ13へ記憶する。画像入力部11を介してビデオカメラ10から入力された撮像画像は、ビデオカメラ10のフレームレート(撮像時点の間隔、例えば、1秒間に30フレーム)と同期して、1フレーム単位(例えば、240×320画素)の画像データとして画像メモリ13に記憶される。
【0034】
図5は撮像画像の一例を示す説明図である。図5に示すように、ビデオカメラ10を所定の撮像条件で道路付近に設置することで、所要の道路を走行する車両を撮像することができる。なお、ビデオカメラ10を設置する場合、レンズの光軸方向(例えば、俯角及び回転角など)は、大凡に設定されたものであり、後述のとおり、レンズの光軸方向は、光軸方向特定部70で自動的に精度良く特定(設定)される。また、図5では、撮像画像の大きさは240×320画素であるが、撮像画像の大きさはこれに限定されるものではない。
【0035】
通信部14は、狭域通信機能、UHF帯若しくはVHF帯などの無線LAN等の中域通信機能、及び携帯電話、PHS、多重FM放送若しくはインターネット通信などの広域通信機能を備える。通信部14は、ビデオカメラ10の撮像領域内又はその付近に存在する車両から所定の車両情報(例えば、車両の位置情報、車速情報、車種情報、ワイパー及びヘッドライト等の車灯の動作状況を示す情報など)を受信する。また、通信部14は、車両を識別した結果得られた識別情報を付近に存在する車両へ送信する。また、通信部14は、交通管制センタ等に設置されたサーバ装置、他の車両識別装置との間で所定の情報の送受信を行う。
【0036】
記憶部15は、制御部20の制御により、車両識別装置100の処理により得られたデータ、通信部14を介して受信したデータなどを記憶する。
【0037】
部分画像特定部30は、撮像画像上で所要の大きさの部分画像を特定し、特定した部分画像を撮像画像上で走査する。部分画像は、後述する特徴量を抽出するための検出範囲を画定する。
【0038】
図6は検出範囲の一例を示す説明図である。図6に示すように、検出範囲の大きさは、例えば、24×32画素である。検出範囲を撮像画像上で走査する場合、図6に示すように1回の走査で水平方向に16画素だけ検出範囲を移動させることができる。
【0039】
特徴量抽出部40は、検出範囲の特徴量を抽出する。特徴量は、HOG(Histograms of Oriented Gradients)特徴を用いることができ、検出範囲の輝度の勾配強度を勾配方向毎にヒストグラム化した特徴ベクトルである。なお、特徴量は、HOG特徴に限定されるものではなく、エッジ検出により抽出してもよい。
【0040】
以下、特徴量としての特徴ベクトルの算出方法について説明する。図7は局所領域の一例を示す説明図である。局所領域(ブロック)は、24×32画素の検出範囲から一部が重複するように抽出され、例えば、16×16画素の大きさを有する。従って、検出範囲から6つの局所領域を抽出することができる。また、局所領域は、4個のセル(8×8画素の領域)で構成されている。
【0041】
図8は輝度の勾配強度と勾配方向の一例を示す説明図である。セル内の画素の位置を(x、y)で表わす。画素(x、y)における輝度の勾配強度をm(x、y)、勾配方向をθ(x、y)とする。勾配強度m(x、y)、勾配方向θ(x、y)は、式(9)〜式(11)で求めることができる。ここで、fx(x、y)は横方向(x方向)の輝度勾配であり、fy(x、y)は縦方向(y方向)の輝度勾配であり、式(3)以外にも、例えば、Sobelフィルタにより求めることができる。また、L(x、y)は、画素(x、y)の輝度である。
【0042】
【数3】

【0043】
そして、セル毎に8方向のヒストグラムを作成する。図9は勾配方向の一例を示す説明図であり、図10は勾配強度のヒストグラムの一例を示す説明図である。図9に示すように、勾配方向を45°毎に分割し8方向の(j=1〜8)勾配方向を設定する。また、図10に示すように、算出した輝度の勾配強度を勾配方向毎に振り分けてヒストグラムを作成する。勾配強度を算出する場合に、局所領域(ブロック)の中心からの距離に反比例したσ=1.6のガウシアンフィルタを局所領域に対して施してエッジ強度を平滑化することもできる。
【0044】
セル毎に求めたヒストグラムを局所領域でまとめ、局所領域毎のヒストグラムの最大要素(勾配強度の最大値)で各ヒストグラムの要素(勾配強度)を除算して正規化する。これにより、1つの局所領域(ブロック)で抽出された32次元の特徴ベクトルの最大成分は1となる。1つの検出範囲で6つの局所領域があるので、式(12)に示すように、1つの検出範囲について192次元(32次元×6=192次元)の特徴ベクトルVを算出することができる。
【0045】
【数4】

【0046】
隣接画素の勾配を検出範囲毎にヒストグラム化して正規化するため、道路を撮像して得られる撮像画像に対するノイズ又は明るさの変化、影の有無などの影響を受けにくく局所的な幾何学変化(平行移動、回転など)に対して頑健である。
【0047】
識別部50は、特徴量抽出部40で抽出した特徴量(特徴ベクトル)を入力情報として、車両の有無を含む所定の識別判定を行い、識別結果(判定情報)を出力する。識別部50は、車両有無識別器を有する車両有無識別部51、車種識別器を有する車種識別部52、環境識別器を有する環境識別部53、環境別車両有無識別器を有する環境別車両有無識別部54などを備えている。
【0048】
図11は識別部50の各識別器の概要を示す説明図であり、図12は識別部50の各識別器の識別内容を示す説明図である。車両有無識別器は、特徴ベクトルVが入力された場合、識別情報Dc=Ac・Vを出力する。ここで、Acは車両有無識別器の識別器パラメータである。車両有無識別器は、入力された特徴ベクトルVに対して、識別器パラメータAcによる所定の演算を行って、識別結果(クラス)として車両あり又は車両なしを判定する。出力された識別情報Dcが、例えば、Dc>0であれば車両ありと判定され、Dc<0であれば車両なしと判定することができる。なお、判定条件は一例であって、これに限定されるものではない。
【0049】
また、車種識別器は、特徴ベクトルVが入力された場合、識別情報Dt=At・Vを出力する。ここで、Atは車種識別器の識別器パラメータである。車種識別器は、入力された特徴ベクトルVに対して、識別器パラメータAtによる所定の演算を行って、識別結果(クラス)として、例えば、普通車、大型車、二輪車又は歩行者などの別を判定する。出力された識別情報Dtが、例えば、0<Dt<Tt1であれば普通車と判定され、Tt1<Dt<Tt2であれば大型車と判定され、Tt2<Dt<Tt3であれば二輪車と判定され、Dt<0であれば歩行者と判定することができる。なお、判定条件は一例であって、これに限定されるものではない。
【0050】
また、環境識別器は、特徴ベクトルVが入力された場合、識別情報Dw=Aw・Vを出力する。ここで、Awは環境識別器の識別器パラメータである。環境識別器は、入力された特徴ベクトルVに対して、識別器パラメータAwによる所定の演算を行って、識別結果(クラス)として、例えば、昼、夕方、晴れの夜間、雨天の夜間などの別を判定する。出力された識別情報Dwが、例えば、0<Dw<Tw1であれば昼と判定され、Tw1<Dw<Tw2であれば夕方と判定され、Tw2<Dw<Tw3であれば晴れの夜間と判定され、Tw3<Dw<Tw4であれば雨天の夜間と判定することができる。なお、判定条件は一例であって、これに限定されるものではない。
【0051】
また、環境別車両有無識別器は、特徴ベクトルVが入力された場合、識別情報Dcw=Acw・Vを出力する。ここで、Acwは環境別車両有無識別器の識別器パラメータである。環境別車両有無識別器は、入力された特徴ベクトルVに対して、識別器パラメータAcwによる所定の演算を行って、識別結果(クラス)として、例えば、昼車両あり、夕方車両あり、晴夜車両あり、雨夜車両あり、昼車両なし、夕方車両なし、晴夜車両なし、雨夜車両なしなどの別を判定する。なお、判定内容は、上述の各識別器と同様に識別情報Dcwの値に応じて区別することができる。
【0052】
車両存在位置判定部60は、検出範囲(部分画像)において車両有無識別部51で車両が識別された場合(車両ありと判定された場合)、通信部14を介して車両から受信した車両情報に含まれる車両の位置情報に基づいて、該車両が検出範囲内に存在するか否かを判定する。すなわち、車両存在位置判定部60は、車両情報を受信したときに、その車両情報を送信した車両が、特徴ベクトルを抽出して車両ありと判定された検出範囲内の車両と同一車両であるか否かを判定する。なお、同一車両である否かの判定は、車両の位置検出精度に応じて所要の誤差範囲を含めることができる。すなわち、車両の位置情報に誤差範囲を加味した位置が検出範囲内にあるか否かで判定すればよい。また、車両有無識別部51に代えて環境別車両有無識別部54を用いることもできる。これにより、環境状況に関わらず車両を精度良く識別することができる。
【0053】
より具体的には、車両が検出範囲内に存在するか否かは、以下のように行うことができる。車両から受信した車両情報に含まれる車両の位置をPcarとし、特徴ベクトルを抽出して車両ありと判定された検出範囲の中心位置をPdetとする。ただし、Pcar及びPdetは、カメラ設置位置を基準とする実道路上での位置とする。この場合に、2つの位置の距離がある誤差(Err)範囲以下のとき、すなわち、|Pcar−Pdet|<Err、のとき、検出範囲内に車両が存在すると判定する。
【0054】
光軸方向特定部70は、ビデオカメラ10のレンズの予め定められた大凡の光軸方向を手作業による調整を行うことなく自動的かつ高精度に特定する。以下、光軸方向(俯角及び回転角)の特定方法について説明する。
【0055】
図13は車両識別装置100の光軸方向特定モードの適用例を示す説明図である。図13に示すように、車両識別装置100は、撮像範囲を走行する車両C1を撮像するとともに、車両C1から車両C1の位置情報を含む車両情報を受信する。車両識別装置100は、撮像画像から抽出した特徴量(特徴ベクトル)を用いて識別部50(車両有無識別部51、又は環境別車両有無識別部54)で車両を識別する。
【0056】
光軸方向特定部70は、車両存在位置判定部60で車両が検出範囲内に存在すると判定した場合、識別部50で識別された車両位置(例えば、車両を識別した検出範囲の中心位置)を撮像画像上でプロットし、同様にして、複数の撮像時点で識別した車両位置をプロットする。これにより、車両の走行軌跡を表わす仮想直線を撮像画像上で求めることができる。なお、同じ車両を追跡するには、例えば、テンプレートマチング方式等を用いることができる。また、車両を追跡する場合の位置としては、例えば、検出範囲の重心位置、車両の先頭位置などを用いることができる。
【0057】
次に、同様の処理を複数の車両に対して行う。これにより、複数の車両それぞれの走行軌跡を表わす仮想直線を求めることができる。
【0058】
図14はビデオカメラ10のレンズの光軸方向の特定方法の一例を示す説明図である。1つの車両の撮像画像上でプロットした位置をA、Bとし、それぞれの座標をA(xa、ya)、B(xb、yb)とする。また、他の車両の撮像画像上でプロットした位置をC、Dとし、それぞれの座標をC(xc、yc)、D(xd、yd)とする。なお、プロットした位置は、車両毎に2点に限定されるものではなく、さらに多数の位置をプロットすることができる。
【0059】
次に、位置A、Bを通る車両の走行軌跡を直線近似することにより仮想直線ABを求める。同様にして、位置C、Dを通る車両の走行軌跡を直線近似することにより仮想直線CDを求める。仮想直線ABは式(13)で表わすことができ、仮想直線CDは式(14)で表わすことができる。
【0060】
【数5】

【0061】
仮想直線AB及びCDの交点(無限遠点)をMとし、その座標をM(mx、my)とすると、無限遠点M(mx、my)は、式(15)により算出することができる。そして、撮像面上での無限遠点Mの座標(ms、mt)は、式(16)で求めることができ、俯角α′及び回転角γ′は、式(17)で算出することができる。
【0062】
なお、式(16)及び(17)において、ビデオカメラ10の撮像パラメータを以下のとおりとする。すなわち、ビデオカメラ10の撮像面の横サイズをSH、縦サイズをSV、撮像面の横解像度(画素数)をRH、縦解像度(ライン数)をRV、レンズの焦点距離をFとする。
【0063】
式(17)で算出した俯角及び回転角は、図4により求めた暫定的な既知の値を修正するものであり、自動的かつ高精度に求めることができる。
【0064】
制御部20、部分画像特定部30、特徴量抽出部40、識別部50、車両存在位置判定部60、光軸方向特定部70などは、専用のハードウエア回路で実現することができる。また、各部の機能を定めたコンピュータプログラムをCPUで実行させることで実現することもできる。
【0065】
従来のような時間差分結果の積分などを用いる方法にあっては、周囲の環境変化により車両以外のノイズ成分も車両存在範囲に含まれるので、正確な車両存在範囲を特定することが困難であった。本発明によれば、ビデオカメラ10で撮像した撮像画像により求めた車両位置と車両から取得した位置情報との両者を用いることにより、確実に車両が存在する範囲を決定することができる。
【0066】
図15は車両識別装置100の情報提供モードの適用例を示す説明図である。図15に示すように、車両識別装置100を交差点付近に設置し、所要の撮像範囲をビデオカメラで撮像する。車両識別装置100は、撮像範囲が見通し外となる車両C2、C3などに対して、見通し外の車両又は見通し外の歩行者などの識別を行い、識別結果に基づいて情報提供を行う。これにより、車両の運転者から死角となる地点の車両や歩行者の情報を提供することができ、交通事故を未然に防止することができる。
【0067】
次に車両識別装置100の動作について説明する。図16は光軸方向特定の処理手順を示すフローチャートである。制御部20は、撮像画像を取得し(S11)、部分画像としての検出範囲を特定した上で走査する(S12)。制御部20は、検出範囲の特徴量としての特徴ベクトルを算出し(S13)、算出した特徴ベクトルに対して識別器パラメータによる演算を施して識別処理(例えば、車両の有無の識別)を行う(S14)。なお、この場合、識別器としては、車両有無識別器又は環境別車両有無識別器を用いることができる。
【0068】
制御部20は、車両の有無を判定し(S15)、車両ありの場合(S15でYES)、車両の位置情報を含む車両情報を受信したか否かを判定する(S16)。なお、車両情報は、位置情報のみでもよい。車両情報を受信した場合(S16でYES)、制御部20は、受信した位置情報に基づいて車両位置が検出範囲内にあるか否かを判定する(S17)。
【0069】
車両位置が検出範囲内にある場合(S17でYES)、すなわち、車両情報を受信したときに、その車両情報を送信した車両が、特徴ベクトルを抽出して車両ありと判定された検出範囲内の車両と同一車両である場合、制御部20は、撮像画像上で車両位置をプロットする(S18)。
【0070】
制御部20は、複数の撮像時点でのプロット位置により車両の軌跡を算出し(S19)、複数車両の軌跡により無限遠点を算出する(S20)。制御部20は、レンズの光軸方向を特定(俯角及び回転角を算出)し(S21)、処理を終了する。
【0071】
また、車両なしの場合(S15でNO)、車両情報を受信していない場合(S16でNO)、あるいは、車両位置が検出範囲内でない場合(S17でNO)、制御部20は、ステップS11以降の処理を続ける。
【0072】
これにより、ビデオカメラ10の取付角度に関わる調整作業を手作業ではなく自動的に行うことができ、調整作業に要する車線規制なども不要になり、作業労力及び作業コストの低減を図ることができ、また、交通渋滞や交通事故の防止に繋がる。
【0073】
ビデオカメラ10のレンズの光軸方向の初期値(暫定値)は、図4の例のように手作業で道路上の複数地点を撮像画像上で設定することにより求めることができる。しかし、光軸方向を求める方法は、これに限定されるものではなく、画像処理により求めることもできる。
【0074】
図17は本発明に係る画像処理装置200の構成の一例を示すブロック図である。画像処理装置200は、必ずしも車両を識別するための装置でなくてもよく、他の所定の画像処理を行うものであればよい。
【0075】
画像処理装置200は、画像入力部11、A/D変換部12、画像メモリ13、通信部14、記憶部15、装置全体を制御する制御部201、所定の画像処理を行う画像処理部202、移動体特定部203、光軸方向特定部204などを備える。また、画像入力部11には、ビデオカメラ10を接続してある。なお、ビデオカメラ10は、画像処理装置200とは別個の装置であってもよく、あるいは、両者が一体をなす構成であってもよい。また、車両識別装置100と同様の構成のものは同一符号を付して説明を省略する。
【0076】
移動体特定部203は、撮像画像の特徴量を抽出し、抽出した特徴量を用いて撮像画像上の移動体(車両)の位置を算出する。特徴量は、例えば、エッジ検出により抽出してもよく、あるいは、HOG(Histograms of Oriented Gradients)特徴を用いることもできる。
【0077】
光軸方向特定部204は、移動体特定部203で算出した車両位置を撮像画像上でプロットし、同様にして、複数の撮像時点で算出した車両位置をプロットする。これにより、車両の走行軌跡を表わす仮想直線を撮像画像上で求めることができる。なお、同じ車両を追跡するには、例えば、テンプレートマッチング方式等を用いることができる。また、車両を追跡する場合の位置としては、例えば、車両の先頭位置などを用いることができる。
【0078】
光軸方向特定部204は、同様の処理を複数の車両に対して行う。これにより、複数の車両それぞれの走行軌跡を表わす仮想直線を求めることができる。光軸方向特定部204は、複数の仮想直線の交点(無限遠点)及びビデオカメラ10の撮像パラメータ(例えば、撮像面の大きさ及び解像度、レンズの焦点距離など)を用いて、ビデオカメラ10のレンズの光軸方向(光軸の俯角及び回転角)を特定する。
【0079】
以上説明したように、本発明の画像処理装置200によれば、ビデオカメラ10の取付角度に関わる調整作業を手作業ではなく自動的に行うことができ、調整作業に要する車線規制なども不要になり、作業労力及び作業コストの低減を図ることができ、また、交通渋滞や交通事故の防止に繋がる。
【0080】
また、本発明の車両識別装置100によれば、ビデオカメラ10で撮像した撮像画像により求めた車両位置と車両から取得した位置情報との両者を用いることにより、確実に車両が存在する範囲を決定することができる。このため、レンズの光軸方向(俯角及び回転角)を高精度かつ自動的に求めることができる。また、ビデオカメラ10の取付角度に関わる調整作業を手作業ではなく自動的に行うことができ、調整作業に要する車線規制なども不要になり、作業労力及び作業コストの低減を図ることができ、また、交通渋滞や交通事故の防止に繋がる。
【0081】
上述の実施の形態では、車両の走行軌跡を直線近似して求めた仮想直線の交点により、ビデオカメラ10のレンズの光軸の俯角及び回転角を求める構成であったが、これに限定されるものではない。例えば、ビデオカメラの焦点距離や撮像面の画素の間隔などのビデオカメラの内部パラメータ、ビデオカメラの位置と姿勢により決定される外部パラメータ及びこれら内部パラメータと外部パラメータとを組み合わせたパラメータ等を構成要素とする透視投影行列を用いることもできる。この場合、6個以上の道路面上の位置と撮像画像上の位置との組み合わせにより、レンズの光軸の俯角及び回転角を算出することができる。
【0082】
上述の実施の形態において、複数の車両の走行軌跡や車両の存在範囲により、道路の車線数や車線位置などを検出することもできる。すなわち、車線境界は各車線における走行軌跡(車両の通過経路)間の中心位置として求めることができる。また、車両の存在分布が少ない範囲において、追跡方向に沿った白線を検出することにより、車線位置を検出することもできる。
【0083】
以上に開示された実施の形態及び実施例は、全ての点で例示であって制限的なものではないと考慮されるべきである。本発明の範囲は、以上の実施の形態及び実施例ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての修正や変形を含むものと意図される。
【図面の簡単な説明】
【0084】
【図1】本発明に係る移動体識別装置である車両識別装置の構成の一例を示すブロック図である。
【図2】道路座標系を示す説明図である。
【図3】ビデオカメラの取付状態を示す説明図である。
【図4】ビデオカメラのレンズの光軸方向の初期設定の例を示す説明図である。
【図5】撮像画像の一例を示す説明図である。
【図6】検出範囲の一例を示す説明図である。
【図7】局所領域の一例を示す説明図である。
【図8】輝度の勾配強度と勾配方向の一例を示す説明図である。
【図9】勾配方向の一例を示す説明図である。
【図10】勾配強度のヒストグラムの一例を示す説明図である。
【図11】識別部の各識別器の概要を示す説明図である。
【図12】識別部の各識別器の識別内容を示す説明図である。
【図13】車両識別装置の光軸方向特定モードの適用例を示す説明図である。
【図14】ビデオカメラのレンズの光軸方向の特定方法の一例を示す説明図である。
【図15】車両識別装置の情報提供モードの適用例を示す説明図である。
【図16】光軸方向特定の処理手順を示すフローチャートである。
【図17】本発明に係る画像処理装置の構成の一例を示すブロック図である。
【符号の説明】
【0085】
10 ビデオカメラ
11 画像入力部
12 A/D変換部
13 画像メモリ
14 通信部
15 記憶部
20 制御部
30 部分画像特定部
40 特徴量抽出部
50 識別部
51 車両有無識別部
52 車種識別部
53 環境識別部
54 環境別車両有無識別部
60 車両存在位置判定部
70 光軸方向特定部

【特許請求の範囲】
【請求項1】
道路を含む領域を撮像装置で撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する移動体識別装置であって、
移動体の位置情報を取得する位置情報取得手段と、
撮像画像上の部分画像を特定する部分画像特定手段と、
該部分画像特定手段で特定した部分画像の特徴量を抽出する特徴量抽出手段と、
該特徴量抽出手段で抽出した特徴量を用いて移動体を識別する識別手段と、
該識別手段で移動体を識別した場合、前記位置情報取得手段で取得した位置情報、前記撮像装置のレンズの既知の光軸方向及び前記部分画像特定手段で特定した部分画像の撮像画像上の位置に基づいて、前記位置情報取得手段で位置情報を取得した移動体が前記部分画像に撮像されているか否かを判定する判定手段と、
該判定手段で前記移動体が撮像されていると判定した場合、該移動体の撮像画像上の位置を算出する位置算出手段と、
該位置算出手段で算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記光軸方向を修正すべく光軸方向を特定する光軸方向特定手段と
を備えることを特徴とする移動体識別装置。
【請求項2】
前記特徴量抽出手段で抽出した特徴量を用いて天候又は昼夜の別を含む環境状況を識別する環境識別手段を備え、
前記識別手段は、
前記環境識別手段で識別した環境状況及び前記特徴量を用いて移動体を識別するように構成してあることを特徴とする請求項1に記載の移動体識別装置。
【請求項3】
撮像装置で撮像して得られた撮像画像に対して所定の処理を行う画像処理装置において、
撮像画像の特徴量を抽出する抽出手段と、
該抽出手段で抽出した特徴量を用いて撮像画像上の移動体の位置を算出する位置算出手段と、
該位置算出手段で算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記撮像装置のレンズの光軸方向を特定する光軸方向特定手段と
を備えることを特徴とする画像処理装置。
【請求項4】
コンピュータを、道路を含む領域を撮像装置で撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する手段として機能させるためのコンピュータプログラムであって、
コンピュータを、
撮像画像上の部分画像を特定する部分画像特定手段と、
特定した部分画像の特徴量を抽出する特徴量抽出手段と、
抽出した特徴量を用いて移動体を識別する識別手段と、
移動体を識別した場合、移動体の位置情報、前記撮像装置のレンズの既知の光軸方向及び特定した部分画像の撮像画像上の位置に基づいて、前記移動体が前記部分画像に撮像されているか否かを判定する判定手段と、
前記移動体が撮像されていると判定した場合、該移動体の撮像画像上の位置を算出する位置算出手段と、
算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記光軸方向を修正すべく光軸方向を特定する光軸方向特定手段として機能させることを特徴とするコンピュータプログラム。
【請求項5】
コンピュータを、撮像装置で撮像して得られた撮像画像に対して所定の処理を行う手段として機能させるためのコンピュータプログラムにおいて、
コンピュータを、
撮像画像の特徴量を抽出する抽出手段と、
抽出した特徴量を用いて撮像画像上の移動体の位置を算出する位置算出手段と、
算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記撮像装置のレンズの光軸方向を特定する光軸方向特定手段として機能させることを特徴とするコンピュータプログラム。
【請求項6】
道路を含む領域を撮像装置で撮像して得られた撮像画像から特徴量を抽出し、抽出した特徴量を用いて移動体を識別する移動体識別装置による光軸方向特定方法であって、
移動体の位置情報を取得し、
撮像画像上の部分画像を特定し、
特定した部分画像の特徴量を抽出し、
抽出した特徴量を用いて移動体を識別し、
移動体を識別した場合、取得した位置情報、前記撮像装置のレンズの既知の光軸方向及び特定した部分画像の撮像画像上の位置に基づいて、前記位置情報を取得した移動体が前記部分画像に撮像されているか否かを判定し、
前記移動体が撮像されていると判定した場合、該移動体の撮像画像上の位置を算出し、
算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記光軸方向を修正すべく光軸方向を特定することを特徴とする移動体識別装置による光軸方向特定方法。
【請求項7】
撮像装置で撮像して得られた撮像画像に対して所定の処理を行う画像処理装置による光軸方向特定方法において、
撮像画像の特徴量を抽出し、
抽出した特徴量を用いて撮像画像上の移動体の位置を算出し、
算出した複数の撮像時点での1又は複数の移動体の各位置及び前記撮像装置の撮像パラメータを用いて、前記撮像装置のレンズの光軸方向を特定することを特徴とする画像処理装置による光軸方向特定方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate


【公開番号】特開2010−41322(P2010−41322A)
【公開日】平成22年2月18日(2010.2.18)
【国際特許分類】
【出願番号】特願2008−201012(P2008−201012)
【出願日】平成20年8月4日(2008.8.4)
【出願人】(000002130)住友電気工業株式会社 (12,747)
【Fターム(参考)】