説明

位置特定装置、位置特定方法、及びプログラム

【課題】基準位置からのベースライン長を十分に確保できない位置での撮像画像を用いて行うステレオ視による対象物の位置特定の精度を向上させる。
【解決手段】撮像位置特定部1は、位置情報が既知である基準位置の当該位置情報と、当該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で当該対象物を撮像して得た撮像位置画像とに基づいて、当該撮像位置の位置情報の特定を行う。対象物位置特定部2は、既知位置の位置情報と、当該既知位置で当該対象物を撮像して得た既知位置画像と、当該撮像位置の位置情報と、当該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、当該対象物の位置情報の特定を行う。なお、既知位置とは、撮像位置特定部1で位置情報が特定された撮像位置からの距離が前述の基準位置よりも大きい地点に位置しており、且つ、位置情報が既知である位置のことである。

【発明の詳細な説明】
【技術分野】
【0001】
本明細書で議論される実施態様は、物体の位置の特定技術に関する。
【背景技術】
【0002】
近年、自動車の安全運転を支援する技術として、ドライバから見難い範囲や死角となる汎用の映像をドライバへ提供する技術が各種提案されている。
また、このような安全運転の支援技術として、自車両の周囲に存在する各物体の自車両からの距離を計測し、例えば、その自車両の周囲の三次元画像を生成として表示することで、その周囲の情報をドライバへ違和感なく提供するようなシステムも考えられている。このようなシステムの実現には、自車両の速度に依存しない安定した距離計測の技術と、低廉なコストとが求められる。
【0003】
距離計測の手法のひとつとして、ステレオ視を行って得られる視差画像を基に、三角測量の原理により距離を算出するという手法が知られている。例えば、第一技術として、車両に設置した単一の撮像装置で、時系列的に視差付けされた2枚の画像を2つの地点で撮像すると共に当該2地点間の移動データを求め、両画像に映っている立体物までの距離を、三角測量の原理で求めるという技術が知られている。
【0004】
また、単眼ステレオと複眼ステレオとを切り替えて、あるいは、周囲の状況(立体物までの距離や車両速度)に応じて両者の重みを調整しつつ当該両者を利用して、両者の欠点を補いつつ、立体物までの距離を精度良く求めるという手法も知られている。例えば、第二技術として、車両の静止時には複眼ステレオのみを用いて立体物までの距離を求める一方、車両が移動しているときには単眼ステレオと複眼ステレオとの各々による距離測定の結果を統合して、立体物までの距離を求めるという技術が知られている。また、例えば、第三技術として、複眼ステレオが使用可能な領域では複眼ステレオを用いて立体物までの距離を求める一方、複眼ステレオが使用できない領域では、単眼ステレオを用いて立体物までの距離を求めるという技術も知られている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−263657号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、前述した第一技術では、2地点間の移動データが自車両の速度に依存するため、安定した距離計測が難しい。
また、前述した第二技術では、単眼ステレオと複眼ステレオとの両者を使用するため、システムコストが高価なものになる。
【0007】
また、前述した第二技術及び第三技術で使用される複眼ステレオでは、立体物の位置の推定精度が2台のカメラ間の距離(ベースライン)に依存し、ベースラインを長くするほど距離推定精度が向上する。しかし、2台のカメラを車両に搭載することを考えると、ベースラインを長くすることは難しいため、精度の良い距離計測を行える立体物の存在範囲が、自車両周囲の近距離に限定される。
【0008】
なお、単眼ステレオでも、自車両が停止している状態から動き出した直後は十分なベースライン長を確保できないために、精度の良い距離計測が行えない。
上述した問題に鑑み、本明細書で後述する位置特定装置は、基準位置からのベースライン長を十分に確保できない位置での撮像画像を用いて行うステレオ視による対象物の位置特定の精度を向上させる。
【課題を解決するための手段】
【0009】
本明細書で後述する位置特定装置のひとつに、撮像位置特定部と対象物位置特定部とを備えるというものがある。ここで、撮像位置特定部は、位置情報が既知である基準位置の当該位置情報と、当該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で当該対象物を撮像して得た撮像位置画像とに基づいて、当該撮像位置の位置情報の特定を行う。そして、対象物位置特定部は、既知位置の位置情報と、当該既知位置で当該対象物を撮像して得た既知位置画像と、当該撮像位置の位置情報と、当該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、当該対象物の位置情報の特定を行う。なお、ここで、既知位置とは、撮像位置特定部で位置情報が特定された撮像位置からの距離が前述の基準位置よりも大きい地点に位置しており、且つ、位置情報が既知である位置のことである。
【0010】
また、本明細書で後述する位置特定方法のひとつは、まず、任意の撮像位置で対象物を撮像して撮像位置画像を得たときの当該撮像位置の位置情報の特定を撮像位置特定部が行う。なお、この撮像位置の位置情報の特定は、位置情報が既知である基準位置の当該位置情報と、当該基準位置で対象物を撮像して得た基準位置画像と、前述の撮像位置画像とに基づいて行う。次に、既知位置の位置情報と、当該既知位置で当該対象物を撮像して得た既知位置画像と、当該撮像位置の位置情報と、当該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいた当該対象物の位置情報の特定を、対象物位置特定部が行う。なお、ここで、既知位置とは、撮像位置特定部が位置情報を特定した撮像位置からの距離が前述の基準位置よりも大きい地点に位置しており、且つ、位置情報が既知である位置のことである。
【0011】
また、本明細書で後述するプログラムのひとつは、以下の処理をコンピュータに行わせる。この処理は、まず、位置情報が既知である基準位置の当該位置情報と、当該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で当該対象物を撮像して得た撮像位置画像とに基づいて、当該撮像位置の位置情報の特定を行う。そして、次に、既知位置の位置情報と、当該既知位置で前述の対象物を撮像して得た既知位置画像と、当該撮像位置の位置情報と、当該撮像位置で当該対象物を撮像して得た撮像位置画像とに基づいて、当該対象物の位置情報の特定を行う。ここで、既知位置とは、前述の撮像位置の位置情報の特定によって位置情報を特定した撮像位置からの距離が前述の基準位置よりも大きい地点に位置しており、且つ、位置情報が既知である位置のことである。
【発明の効果】
【0012】
本明細書で後述する位置特定装置によれば、基準位置からのベースライン長を十分に確保できない位置での撮像画像を用いて行うステレオ視による対象物の位置特定の精度が向上するという効果を奏する。
【図面の簡単な説明】
【0013】
【図1】位置特定装置の一実施例の機能ブロック図である。
【図2】位置特定装置の別の一実施例の機能ブロック図である。
【図3A】アクチュエータにより開閉可能なドアミラーにカメラが固定されている構造の一例(その1)である。
【図3B】アクチュエータにより開閉可能なドアミラーにカメラが固定されている構造の一例(その2)である。
【図4A】第一撮影画像の説明図である。
【図4B】第二撮影画像の説明図である。
【図5】図2の位置特定装置における位置特定部による対象物の位置特定の動作を説明する図である。
【図6】位置特定装置の更なる別の一実施例の機能ブロック図である。
【図7】位置特定処理の処理内容を図解したフローチャートである。
【図8】図7のフローチャートの説明図である。
【図9】画像取得処理の処理内容を図解したフローチャートである。
【図10】撮像位置特定処理の処理内容を図解したフローチャートである。
【図11】選択処理の処理内容を図解したフローチャートである。
【図12】位置特定及び距離算出処理の処理内容を図解したフローチャートである。
【図13】コンピュータのハードウェア構成例である。
【発明を実施するための形態】
【0014】
まず図1について説明する。図1は、位置特定装置の一実施例の機能ブロック図である。この位置特定装置は、撮像位置特定部1と対象物位置特定部2とを備えている。
撮像位置特定部1は、位置情報が既知である基準位置の当該位置情報と、当該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で当該対象物を撮像して得た撮像位置画像とに基づいて、当該撮像位置の位置情報の特定を行う。
【0015】
対象物位置特定部2は、既知位置の位置情報と、既知位置画像と、撮像位置特定部1で位置情報が特定された撮像位置の位置情報と、当該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、当該対象物の位置情報の特定を行う。なお、ここでの既知位置とは、撮像位置特定部1で位置情報が特定された撮像位置からの距離が前述の基準位置よりも大きい(長い)地点に位置しており位置情報が既知である位置である。また、既知位置画像とは、当該既知位置で前述の対象物を撮像して得た画像である。
【0016】
この位置特定装置では、撮像位置特定部1で位置情報が特定された撮像位置からの距離が基準位置よりも大きい(長い)地点に位置している既知位置と当該既知位置での既知位置画像とを用いて対象物の位置情報の特定が行われる。一般に、ステレオ視による対象物の位置の特定の精度は、その位置特定に用いる2枚の画像の撮像位置間の距離(ベースライン)を長くするほど向上する。従って、図1の位置特定装置による位置特定の精度は、基準位置と基準位置画像とを用いる場合におけるものよりも向上する。
【0017】
なお、図1に破線を用いて図解したように、この位置特定装置に選択部3を備えるように構成してもよい。
この選択部3は、前述の既知位置が複数存在する場合に、当該複数の既知位置のうちから、対象物位置特定部2による前述の対象物の位置特定の基礎として用いるときの適性を表している所定の条件に合致するものを、前述の選択既知位置として選択する。
【0018】
なお、このように構成する場合には、対象物位置特定部2は、選択部3が選択した選択既知位置の位置情報と、選択既知位置画像と、前述の撮像位置の位置情報と、前述の撮像位置画像とに基づいて、当該対象物の位置情報の特定を行う。なお、選択既知位置画像とは、選択部3が選択した選択既知位置で前述の対象物を撮像して得た画像である。
【0019】
なお、選択部3による選択既知位置の選択では、例えば、前述の複数の既知位置のうちで、撮像位置特定部1が位置情報を特定した撮像位置からの距離が大きい順序(長い順序)に所定数個を選択するようにする。
【0020】
前述したように、ステレオ視による対象物の位置の特定の精度は、その位置特定に用いる2枚の画像の撮像位置間のベースラインを長くするほど向上する。従って、上述のように、複数の既知位置のうちから、上述の撮像位置からの距離が長いものを選択部3が選択するようにすることで、対象物位置特定部2による対象物の位置特定の精度の更なる向上が期待できる。
【0021】
また、図1に破線を用いて図解したように、この位置特定装置に記録部4を備えるように構成してもよい。この記録部4には、過去に行われた対象物の位置情報の特定結果の履歴が記録されている。なお、この構成においては、選択部3は、複数の既知位置からの選択既知位置の選択を、例えば以下のようにして行う。
【0022】
すなわち、複数の既知位置のうちで、撮像位置特定部1が位置情報を特定した撮像位置を結ぶ線分の垂直二等分線からの、記録部4に記録されている過去の位置情報の特定結果に係る対象物の位置までの距離が短くなる順序に所定数個を、選択するようにしてもよい。
【0023】
一般に、ステレオ視による対象物の位置の特定の精度は、その位置特定に用いる2枚の画像を撮像した2つの撮像位置からの距離の差が少ないほど向上する。つまり、対象物の位置が、当該2つの撮像位置を結ぶ線分の垂直二等分線に近いほど、当該対象物の位置特定の精度が向上する。従って、上述のようにして選択部3が選択既知位置を選択することで、対象物位置特定部2による対象物の位置特定の精度の更なる向上が期待できる。
【0024】
なお、選択部3が選択既知位置を複数個選択した場合には、対象物位置特定部2は、対象物についての位置情報の特定を、例えば以下のように行う。
すなわち、対象物位置特定部2は、まず、対象物についての位置情報の特定を、選択部3が選択した複数個の選択既知位置の各々について行う。そして、この特定により得られる複数の位置情報で示される複数の位置の重心を求め、その重心の位置情報を、当該対象物の位置情報の特定結果とする。このようにして、複数個の選択既知位置の各々について特定された複数の位置情報の重心を、当該対象物の位置情報の特定結果とすることで、位置特定の精度の更なる向上が期待できる。
【0025】
また、選択部3が選択既知位置を複数個選択した場合には、対象物位置特定部2は、対象物についての位置情報の特定を、例えば以下のように行ってもよい。
すなわち、対象物位置特定部2は、対象物についての位置情報の特定を、選択部3が選択した複数個の選択既知位置の各々についてまず行う。次に、この特定により得られる複数の位置情報で示される複数の位置の各々に対して、位置情報の特定に用いた選択既知位置を選択部3が選択したときの選択順序に応じた重み付けを与える。そして、この重み付けが各々与えられた複数の位置の重み付け重心を求め、その重み付け重心の位置情報を、当該対象物の位置情報の特定結果とする。このようにして、複数個の選択既知位置の各々について特定された複数の位置情報に、選択既知位置の選択順序に応じた重みを与えたときの重み付き重心を、当該対象物の位置情報の特定結果とすることで、位置特定の精度の更なる向上が期待できる。
【0026】
また、図1に破線を用いて図解したように、この位置特定装置に判定部5を備えるように構成してもよい。判定部5は、前述の基準位置と撮像位置特定部1が特定した撮像位置との間の距離である基線距離と、所定の距離閾値との長短を判定する。なお、この構成においては、対象物位置特定部2は、対象物の位置情報の特定を、例えば以下のものに基づいて行う。
【0027】
まず、基線距離が当該距離閾値よりも短いと判定部5が判定したときには、対象物の位置情報の特定が、選択部3が選択した選択既知位置の位置情報及び選択既知位置画像と、撮像位置特定部1が特定した撮像位置の位置情報及び撮像位置画像とに基づき行われる。一方、基線距離が当該距離閾値よりも長いと判定部5が判定したときには、対象物の位置情報の特定が、基準位置の位置情報及び基準位置画像と、撮像位置特定部1が特定した撮像位置の位置情報及び撮像位置画像とに基づき行われる。
【0028】
この構成では、上述の基線距離(すなわちベースライン)が、所望の位置特定の精度が得られる距離閾値よりも長い場合には、対象物位置特定部2による対象物の位置情報の特定を、基準位置の位置情報及び基準位置画像を用いて行うというものである。
【0029】
なお、図1に破線を用いて図解したように、この位置特定装置に、単一の撮像装置6を更に備えるように構成してもよい。この撮像装置6は、例えば自動車などの移動体に設置されており、前述の基準位置画像、撮像位置画像、及び既知位置画像の全ての撮像を行う。
【0030】
また、図1に破線を用いて図解したように、この位置特定装置に、距離算出部7を更に備えるように構成してもよい。この距離算出部7は、撮像装置6から前述の対象物までの距離を、対象物位置特定部2が特定した対象物の位置情報と、撮像位置特定部1が特定した撮像位置の位置情報とに基づいて算出する。
【0031】
次に、位置特定装置を用いて、自動車周辺の対象物の位置を特定して、当該対象物の当該車両からの距離を求める実施例について、当該自動車が静止している場合の実施例と、静止状態であった当該自動車が移動を開始した直後の場合の実施例とに分けて説明する。
【0032】
まず図2について説明する。図2は、位置特定装置の別の一実施例の機能ブロック図である。この図2の位置特定装置は、自動車が静止している場合における、当該自動車周辺の対象物の位置の特定と、当該対象物の当該車両からの距離の算出とを行う。
【0033】
図2の位置特定装置は、カメラ11、アクチュエータ12、アクチュエータ制御部13、画像取得部14、画像処理部15、特徴点追跡結果格納メモリ16、位置特定部17、及び距離算出部18を備えている。
【0034】
カメラ11は対象物を撮像する撮像装置であり、アクチュエータ12は、このカメラ11の位置を移動させる。アクチュエータ制御部13は、アクチュエータ12によるカメラ11の移動動作を制御するものである。
【0035】
ここで、カメラ11と、アクチュエータ12と、アクチュエータ制御部13との関係について、図3A及び図3Bを参照しながら説明する。
図3Aに図解されているように、カメラ11は自動車のドアミラー19の先端部分に固定されており、当該自動車の側方の対象物を撮像する。アクチュエータ12は、このドアミラー19の自動開閉動作の駆動用のモータであり、アクチュエータ制御部13がアクチュエータ12を制御してドアミラー19を開閉動作させることで、カメラ11を移動させることができる。従って、ドアミラー19を開閉動作させたときのカメラ11の移動の経路(軌跡)は既知である。
【0036】
なお、このアクチュエータ制御部13は、ドアミラー19が完全に閉じたこと及び完全に開いたことの検出はできるが、開閉動作の途中においてドアミラー19がどの程度開いているかを検出することはできない。また、ドアミラー19が完全に閉じたとき及び完全に開いたときのカメラ11の位置(自動車に対する相対位置及び向き)及びカメラ11の軌跡は既知であるが、その開閉動作の途中でカメラ11の位置(軌跡上のどこか)を、知ることはできない。
【0037】
カメラ11は、ドアミラー19の開閉動作による移動の途中で順次撮像を繰り返す。
画像取得部14は、カメラ11が移動しながら複数枚撮像した対象物の画像を取得する。
【0038】
画像処理部15は、画像取得部14が取得した複数枚の画像に対して各種の画像処理を施す。より具体的には、画像処理部15は、特徴点抽出部15aと特徴点追跡部15bとを備えており、いわゆるブロックマッチング処理を行う。
【0039】
特徴点抽出部15aは、画像取得部14が取得した撮像画像から部分画像領域(特徴点)の抽出を行う。特徴点抽出部15aは、カメラ11が撮像した対象物が映っている画像領域から特徴点を抽出する。なお、この特徴点を抽出する手法としては、形状の特徴を用いる手法や色彩の特徴を用いる手法など、広く知られている各種の手法を用いることができる。
【0040】
特徴点追跡部15bは、画像取得部14が取得した2枚の撮像画像から、特徴点抽出部15aが抽出した特徴点の類似度が所定の閾値以上で最大の位置を抽出し、2枚の画像間での特徴点の移動を追跡する。
【0041】
特徴点追跡結果格納メモリ16は、画像取得部14が取得した撮像画像と、画像処理部15による処理結果である、各撮像画像間での特徴点の追跡結果とを格納して記憶しておく記憶装置である。
【0042】
位置特定部17は、特徴点追跡結果格納メモリ16に格納されている情報を用いて、カメラ11が撮像した対象物の位置(自動車に対する相対位置)を特定する。位置特定部17は第一位置特定部17a及び第二位置特定部17bを備えている。
【0043】
第一位置特定部17aは、カメラ11が撮像した対象物のひとつである第一対象物の位置を特定する。この第一対象物の位置の特定は、位置が既知である、ドアミラー19が完全に閉じたとき及び完全に開いたときの位置(2つの既知点)の各々からカメラ11が撮像して得た、第一対象物についての2枚の撮像画像(第一撮像画像)に基づいて行われる。
【0044】
第二位置特定部17bは、カメラ11が撮像した対象物のひとつであって第一対象物とは別のものである第二対象物の位置を特定する。この位置の特定は、第一対象物の位置と、カメラ11の軌跡上の任意の位置から撮像して得た、第一対象物の像も含まれている第二対象物についての1枚の撮像画像(第二撮像画像)と、第一撮像画像のうち第二対象物の像も含まれているものとに基づいて行われる。
【0045】
ここで、第一撮影画像及び第二撮影画像について、図4A及び図4Bを用いて説明する。
図4A及び図4Bは、ドアミラー19の開閉動作により移動するカメラ11の視野の変化を図解している。
【0046】
図4Aにおいて、[1]はドアミラー19が完全に閉じたときの視野であり、[2]はドアミラー19が完全に開いたときの視野であり、[3]はドアミラー19の開閉動作による軌跡上のある位置での視野である。また、[4]は、[1]の視野と[2]の視野とには重なりがあり、自車両の左側方で立っている人Hが、この両者の共通部分に位置していることを表現している。従って、人Hの像は、カメラ11が[1]の視野で撮像した画像と、カメラ11が[2]の視野で撮像した画像とのどちらにも含まれる。この場合において、人Hが第一対象物であり、カメラ11が[1]及び[2]の各々で撮像して得た2枚の撮像画像が第一撮像画像となり、第一位置特定部17aは、この2枚の撮像画像から人Hの位置を特定する。
【0047】
一方、図4Bは、それまで完全に閉じていたドアミラー19の開動作によって、人Hのみが含まれていたカメラ11の視野が変化して、車Vの一部も視野内に含むようになった様子を示している。この場合においては、第一位置特定部17aが位置の特定を行った人Hが第一対象物であり、車Vが第二対象物となり、カメラ11が人Hと車Vとの両者を視野に含む位置で撮像した撮像画像が第二撮像画像となる。そして、第二位置特定部17bは、第一位置特定部17aにより特定された人Hの位置と、第二撮像画像と、第一撮像画像のうち車Vの像も含まれているもの(図4Aの[2]の画像)とから、車Vの位置を特定する。
【0048】
なお、上記説明においては、第一対象物と第二対象物とは別個の物体である場合を例としているが、本実施例はこれに限るものではない。第一対象物、第二対象物とも、カメラ11が撮像した画像上で特定可能な特徴点若しくは特徴領域であれば良い。その意味からすれば、第一対象物及び第二対象物は、同一の物体の異なる部位であっても構わない。例えば、カメラ11を搭載した車Vの側方に、図4Aの[1]、[2]、[3]いずれの状態でも撮像範囲に存在する、トラックや壁のような長い物体が存在する場合には、その物体の一部分を第一対象物とし、当該一部分とは別の一部分を第二対象物としてもよい。また、カメラ11を搭載した車Vの側方に、図4Aの[1]、[2]、[3]いずれの状態でも撮像範囲に存在する路面ペイントが存在する場合には、その路面ペイントのある一部分を第一対象物とし、当該一部分とは別の一部分を第二対象物としてもよい。
【0049】
図2の説明に戻る。
距離算出部18は、位置特定部17により特定された第一対象物、第二対象物、第三対象物、…の各対象物についての、カメラ11が設置されている自動車の所定位置からの距離を算出する。
【0050】
なお、図2の位置特定部17は、更に第三位置特定部17cも備えている。第三位置特定部17cは、カメラ11が撮像した対象物のひとつであって第一対象物及び第二対象物とは別のものである第三対象物の位置を特定する。この特定は、第一対象物の位置と、第一対象物の像も含まれている第三対象物についての1枚の撮像画像(第三撮像画像)と、第一撮像画像のうち第三対象物の像も含まれているものとに基づいて行われる。
【0051】
次に、位置特定部17による対象物の位置特定の動作について、図5を用いて更に説明する。
図5は、ドアミラー19を開閉動作させてカメラ11を移動させながら、対象物A(図5では丸印で表現)、対象物B(図5では四角印で表現)、及び対象物C(図5では三角印で表現)を撮像する様子を模式的に表したものである。
【0052】
図5において、P1、P2、及びQiはカメラ11の位置を表している。このうちのP1及びP2は、その位置が既知であり、ドアミラー19が完全に閉じたとき及び完全に開いたときのカメラ11の位置である。また、Qiは、ドアミラー19の開閉動作によりカメラ11が移動することで描かれるP1・P2間の軌跡上の任意の位置である。
【0053】
また、P1画像、Qi画像、及びP2画像は、それぞれ、カメラ11がP1、Qi、及びP2の各位置において撮像して得た画像である。ここで、対象物Aは、位置P1におけるカメラ11の視野と位置P2におけるカメラ11の視野とのどちらにも含まれる場所に位置しているので、P1画像、Qi画像、及びP2画像のいずれにも、対象物Aの像が含まれている。一方、対象物Bは位置P2におけるカメラ11の視野から外れているため、対象物Bの像は、P1画像及びQi画像には含まれているが、P2画像には含まれていない。また、対象物Cは位置P1におけるカメラ11の視野から外れているため、対象物Cの像は、Qi画像及びP2画像には含まれているが、P1画像には含まれていない。
【0054】
この図5の例において、位置特定部17が備えている第一位置特定部17a及び第二位置特定部17bは、それぞれ以下のように動作する。
まず、第一位置特定部17aは、対象物A(第一対象物)の位置を特定する。第一位置特定部17aは、この位置の特定を、位置が既知である2つの既知点P1及びP2の各々からカメラ11が撮像して得た2枚の撮像画像(第一撮像画像)であるP1画像及びP2画像に基づいて行う。つまり、第一位置特定部17aは、第一撮像画像を視差画像として使用して、前述した三角測量の原理により対象物Aの位置(特徴点抽出部15aが抽出した各特徴点に対応する対象物Aの各部の位置)を算出することで、その位置を特定する。
【0055】
第二位置特定部17bは、対象物Aとは別のものである対象物B(第二対象物)の位置を特定する。第二位置特定部17bは、この位置の特定を、既に特定した対象物Aの位置と、対象物Aの像も含まれている対象物Bについての撮像画像であるQi画像(第二撮像画像)と、第一撮像画像のうち対象物Bの像が含まれているP1画像とに基づいて行う。第二位置特定部17bによる対象物Bの位置の特定は、より具体的には、以下のようにして行われる。
【0056】
まず、位置P1から位置Qiまでの移動によるカメラ11の移動量の回転成分を回転行列Riと表し、その並進成分を並進行列Tiと表すものとする。また、第一位置特定部17aにより特定された対象物Aの位置(特徴点抽出部15aによりP1画像から抽出された対象物A上の特徴点mの座標)をXrmと表すものとする。このとき、Qi画像における対象物Aの位置(特徴点追跡部15bによる追跡の結果である、Qi画像における対象物A上の特徴点mの座標)Xmは、下記の式[1]により表される。
Xm=Ri(Xrm−Ti)………………式[1]
【0057】
対象物A上の複数の特徴点について、この式[1]を立て、得られた複数の式に対して最小二乗法を適用することで、Ri及びTiを求める。これにより、既知の位置P1から位置Qiまでの移動によるカメラ11の移動量が求まるので、位置Qiを位置P1に基づき特定することができる。その後、第二位置特定部17bは、既知の位置で撮像したP1画像と、特定された位置で撮像したQi画像とを視差画像として使用して、前述した三角測量の原理により対象物Bの位置を算出することで、その位置を特定する。
【0058】
ところで、第三位置特定部17cは、対象物A及び対象物Bとは別のものである対象物Cの位置を特定する。図5の例では、第三位置特定部17cは、この位置の特定を、既に特定した対象物Aの位置と、対象物Aの像も含まれている対象物Cについての撮像画像であるQi画像(第三撮像画像)と、第一撮像画像のうち対象物Cの像が含まれているP2画像とに基づいて行う。
【0059】
位置特定部17は、このようにして同様の処理を繰り返すことで、複数の対象物の位置特定を次々と行うことができる。
【0060】
なお、カメラ11での画像の撮像位置は、以下のようにして求めるようにしてもよい。
まず、Xj及びXkを、ドアミラー19の開閉動作によりカメラ11が移動することで描かれるP1・P2間の軌跡上の任意の位置とする。
まず、基準位置X0から位置Xjまでの移動によるカメラ11の移動量の回転成分を回転行列Rjと表し、並進成分を並進行列Tjと表すものとする。また、基準位置X0から位置Xkまでの移動によるカメラ11の移動量の回転成分を回転行列Rkと表し、並進成分を並進行列Tkと表すものとする。
【0061】
位置P1をXrと表すと、位置Xj及び位置Xkは下記の式で表すことができる。
このとき、
Xj=Rj(X0−Tj)………………式[2]
Xk=Rk(X0−Tk)………………式[3]
上記の[2]式及び[3]からX0を消去すると、下記の式[4]が得られる。
Xk=RkRjT {Xj−Rj(Tk−Tj)}………………式[4]
なお、『RjT』はRjの転置行列である。
【0062】
ここで、Rjk=RkRjT と置き、Tjk=Tk−Tjと置くと、下記の式[5]が得られる。
Xk=Rjk(Xj−Tjk)………………式[5]
【0063】
この式[5]を用い、Rjk及びTjkを前述したようにして最小二乗法により求めておくことで、先に求まった位置Xjから位置Xkを求めることができる。このようにして、カメラ11での画像の撮像位置を順次求めるようにしてもよい。
【0064】
次に図6について説明する。図6は、位置特定装置の更なる別の一実施例の機能ブロック図である。この図2の位置特定装置は、静止状態であった自動車が移動を開始した直後の場合における、当該自動車周辺の対象物の位置の特定と、当該対象物の当該車両からの距離の算出とを行う。
【0065】
図6の位置特定装置は、撮像装置21、特徴点抽出部22、特徴点追跡部23、位置特定部24、記録装置25、撮像装置位置特定部26、撮像装置位置選択部27、距離算出部28、及び距離記録装置29を備えている。
【0066】
この図6に図解した機能ブロックのうちの撮像装置21、特徴点抽出部22、特徴点追跡部23、及び位置特定部24は、図2に図解した位置特定装置の各機能ブロックと同一の機能を提供する。
【0067】
より具体的に説明すると、撮像装置21は、図2の位置特定装置におけるカメラ11、アクチュエータ12、アクチュエータ制御部13、及び画像取得部14を備えており、図1の位置特定装置における撮像装置6に相当するものである。なお、カメラ11は、図3A及び図3Bに図解したように、アクチュエータ12により開閉可能な自動車のドアミラー19に固定されている。なお、本実施例では、カメラ11は、ドアミラー19が閉じている状態から、所定の一定時間間隔で、当該自動車の周囲の画像を撮像し続ける。
【0068】
また、特徴点抽出部22、特徴点追跡部23、及び位置特定部24は、それぞれ、図2における特徴点抽出部15a、特徴点追跡部15b、及び位置特定部24と同一の機能を有している。
【0069】
記録装置25は、図2の特徴点追跡結果格納メモリ16に記憶されるものと同一の記憶データを記憶する。加えて、記録装置25は、自動車が静止状態であるときに位置特定部24により行われる対象物の位置の特定の処理の途中で特定がされる、図5における撮影位置Qiの位置情報の格納も行う。前述したように、撮影位置Qiは、ドアミラー19の開閉動作によりカメラ11が移動することで描かれるP1・P2間の軌跡上の位置である。更に、記録装置25には、この図6の位置特定装置によって過去に行われた対象物の位置情報の特定結果の履歴も記録される。つまり、この記録装置25により、図1の位置特定装置における記録部4に相当する機能が提供される。
【0070】
以上のように、図6の位置特定装置では、図2の位置特定装置と同様にして、自動車が静止していた場合における対象物の位置の特定が予め行われる。この結果、図5における位置P1から位置P2に至る区間上の複数の位置Qiの位置情報は既知のものとなり、これらの位置P1、位置P2、及び位置Qiの位置情報とこれらの各位置でカメラ11が撮像した対象物の撮像画像とが、記録装置25に格納される。
【0071】
撮像装置位置特定部26は、自動車が移動を開始して以降にカメラ11が所定の一定時間間隔で当該自動車の周囲の画像を撮像したときの撮像位置の特定を行う。この撮像装置位置特定部26により、図1の位置特定装置における撮像位置特定部1に相当する機能が提供される。
【0072】
撮像装置位置選択部27は、撮像装置位置特定部26が特定した撮像位置の位置情報と当該撮像位置での撮像画像とに基づいた自動車周囲の対象物の位置の特定のための使用に適切な撮影位置の既知の撮影位置からの選択を、対象物の位置特定の精度の観点から行う。この撮像装置位置選択部27により、図1の位置特定装置における選択部3及び判定部5の各々に相当する機能が提供される。
【0073】
距離算出部28は、対象物の位置を特定して、自動車から当該対象物までの距離を算出する。この位置の特定は、撮像装置位置特定部26が特定した撮像位置の位置情報、当該撮像位置での撮像画像、撮像装置位置選択部27が選択した撮影位置の位置情報、及び当該選択された撮影位置での撮像画像を用いて行われる。この距離算出部28により、図1の位置特定装置における対象物位置特定部2及び距離算出部7の各々に相当する機能が提供される。
【0074】
距離記録装置29は、距離算出部28により算出した、撮像装置位置特定部26が特定した撮像位置における、対象物についての位置と自動車からの距離とを記録しておく記録装置である。
【0075】
次に、図6の位置特定装置による、静止状態であった自動車が移動を開始して以降の当該自動車周辺の対象物の位置の特定処理の処理手順について、図7及び図8を用いて説明する。図7は、図6の位置特定装置によって行われる、位置特定処理の処理内容を図解したフローチャートであり、図8は、図7のフローチャートの説明図である。
【0076】
なお、図7の処理の開始時には、図2の位置特定装置と同様の手法により、自動車が静止している場合における、当該自動車周辺の対象物の位置の特定と、当該対象物の位置の特定とが既に完了しているものとする。従って、記録装置25には、図8における静止区間内の複数の位置の位置情報、当該複数の位置でのカメラ11による撮像画像、及び、位置特定部24による、対象物の位置情報の特定結果の履歴が既に記録されているものとする。
【0077】
なお、図8に示されている静止区間とは、静止状態の自動車Vのドアミラー19の開閉動作によりカメラ11(図8では図示を省略している。)が移動することで描かれる軌跡の区間である。また、図8に示されている走行開始区間とは、ドアミラー19が完全に開いた状態で自動車Vが静止状態から走行を開始したことによって移動するカメラ11が描く軌跡の区間である。
【0078】
なお、図7の処理は、自動車Vが走行を開始すると開始される。
図7において、まず、ステップ1では、基準位置を設定する処理を撮像装置位置特定部26が行う。この処理では、静止区間と走行開始区間の境界点、すなわち、自動車Vが静止状態であり且つドアミラー19が完全に開いた状態であるときのカメラ11の位置を基準位置に設定する処理が行われる。なお、前に説明した図5においては、ドアミラー19が完全に開いた状態であるときのカメラ11の位置をP2と表示していたが、図8では、この位置を、基準位置P0と改めて表示している。
【0079】
次に、ステップ2では、画像取得処理を撮像装置21、特徴点抽出部22、及び特徴点追跡部23が行う。この処理は、自動車Vの周囲の画像をカメラ11に撮像させ、得られた撮像画像から対象物Aの像にける特徴点の抽出を行い、得られた撮像画像と基準位置で撮像していた撮像画像(基準位置画像)との間での特徴点の移動を追跡する処理である。この画像取得処理により得られる撮像画像と特徴点の追跡結果とは、記録装置25に格納される。
【0080】
次に、ステップ3では、ステップ2の処理により撮像が行われたときのカメラ11の位置(撮像位置)の位置情報を特定する撮像位置特定処理を撮像装置位置特定部26が行う。この処理は、撮像位置の位置情報の特定を、基準位置の位置情報と、基準位置画像と、当該撮像位置でのカメラ11の撮像により得られた画像(撮像位置画像)とに基づいて行う処理である。図8では、この処理により位置情報が特定された撮像位置を、P1と表示している。
【0081】
次に、ステップ4では、基準位置P0を含む静止区間内の複数の撮像位置から所定の条件に合致する撮像位置を選択する選択処理を撮像装置位置選択部27が行う。この処理は、前述の撮像位置P1と当該撮像位置P1での撮像位置画像とに基づいて対象物Aの位置の特定を行う場合の位置特定の基礎として用いる適性を有している撮像位置を、当該静止区間内の複数の撮像位置から選択する処理である。
【0082】
次に、ステップ5では、対象物Aの位置の特定、及び、ステップ3の処理で特定された撮像位置から対象物Aの位置までの距離の算出の処理を、距離算出部28が行う。この処理は、ステップ4の処理により選択された撮像位置及び当該選択された撮像位置と、前述の撮像位置P1と当該撮像位置P1での撮像位置画像とに基づいて対象物Aの位置の特定と距離の算出とを行う処理である。このステップ5の位置特定及び距離算出処理を終えると、図7の位置特定処理が終了する。
【0083】
次に、図7の位置特定処理におけるステップ2からステップ5までの各処理の詳細について説明する。
まず図9について説明する。図9は、図7におけるステップ2の処理である、画像取得処理の処理内容を図解したフローチャートである。
【0084】
図9において、まず、S201では、撮像処理を撮像装置21が行う。この処理は、図8における撮像位置P1に位置しているカメラ11に、対象物Aを含む自動車V周囲の画像を撮像させ、得られた撮像位置画像を記録装置25に格納する処理である。
【0085】
次に、S202では、特徴点抽出処理を特徴点抽出部22が行う。この処理は、S201の処理により取得された画像における対象物Aの像から特徴点を抽出する処理である。なお、この特徴点を抽出する手法としては、図2の特徴点抽出部15aと同様に、形状の特徴を用いる手法や色彩の特徴を用いる手法など、広く知られている各種の手法を用いることができる。
【0086】
次に、S203では、特徴点追跡処理を特徴点追跡部23が行う。この処理では、まず、基準位置P0において撮像された基準位置画像を記録装置25から読み出す処理が行われる。次に、この基準位置画像とS201の処理により撮像位置P1において撮像された撮像位置画像とから、S202の処理で抽出された特徴点の類似度が所定の閾値以上で最大の位置を抽出する処理が行われる。そして次に、抽出された位置を、当該特徴点についての、基準位置画像から撮像位置画像への追跡結果として取得する処理が行われる。
【0087】
次に、S204では、S203の処理により得られた、基準位置画像から撮像位置画像への特徴点の追跡結果を、当該撮像位置画像に対応付けて記録装置25に格納して保存する処理を特徴点追跡部23が行う。その後は図9の画像取得処理が終了する。
【0088】
次に図10について説明する。図10は、図7におけるステップ3の処理である、撮像位置特定処理の処理内容を図解したフローチャートである。
図10において、まず、S301では、ステップ2の画像取得処理によって記録装置25に保存されている基準位置画像から撮像位置画像への特徴点の追跡結果を読み出す処理を撮像装置位置特定部26が行う。
【0089】
次に、S302では、S301の処理で得られた追跡結果に基づき、基準位置P0から撮像位置P1に至るまでのカメラ11の移動量の回転成分を表す回転行列Rを算出する処理を撮像装置位置特定部26が行う。そして、続くS303において、S301の処理で得られた追跡結果に基づき、基準位置P0から撮像位置P1に至るまでのカメラ11の移動量の並進成分を表す並進行列Tを算出する処理を撮像装置位置特定部26が行う。
【0090】
次に、S304では、基準位置P0の位置情報と、S302及びS303の処理により算出されたカメラ11の移動量を表す回転行列R及び並進行列Tとに基づいて、撮像位置P1の位置情報を特定する処理を撮像装置位置特定部26が行う。その後は図10の撮像位置特定処理が終了する。
【0091】
以上のS302からS304にかけての処理内容を更に説明する。なお、ここでは、エピポーラ幾何(epipolar geometry)を利用した撮像位置P1の位置情報の特定手法について説明する。
【0092】
まず、基準位置画像上における特徴点の位置を、
【数1】

と表し、この特徴点についての、撮像位置画像上における対応位置を、
【数2】

と表す。
【0093】
このとき、エピポーラ拘束(epipolar constraints)により、基礎行列(fundamental matrix)Fについて
【数3】

が成り立つので、基礎行列Fを
【数4】

と表すと、
【数5】

が成り立つ。
【0094】
そこで、基準位置画像と撮像位置画像とから両者間で対応する特徴点を8組以上抽出し、それらの各組の特徴点の位置データについて最小二乗法を適用することで基礎行列Fを導出する。
【0095】
次に、カメラ11の内部パラメータKが既知であるとして、下記の式に従って基礎行列Fの正規化を行い、基本行列(essential matrix)Eを得る。
【0096】
【数6】

【0097】
ここで、基準位置画像から撮像位置画像に至るまでの画像間の幾何関係の並進ベクトルをtとすると、基本行列Eについて、
【0098】
【数7】

が成り立つ。
【0099】
次に、
【数8】

の固有値分解を行って、最小の固有値に対応する固有ベクトルeを導出する。
【0100】
すると、
【数9】

の関係から、
【数10】

が得られる。
【0101】
ここで、前述の回転行列Rについて、
【数11】

の関係があるので、この関係から回転行列Rが得られる。
【0102】
次に、並進行列Tの算出手法について説明する。
まず、基準位置画像上の特徴点のうち、自動車が静止状態であるときに行われた処理によって基準位置P0からの距離が既知であるものを
【数12】

と表す。また、基準位置画像上の特徴点に対応する撮像位置画像上での特徴点を、
【数13】

と表す。
【0103】
このpi とqj とにおいて、対応付けができたものの集合をそれぞれ、
【数14】

及び
【数15】

と表す。更に、pk についての現実の三次元空間上での位置を、
【数16】

と表し、その基準位置画像上での位置を
【数17】

と表す。そして、qk についての現実の三次元空間上での位置を、
【数18】

と表し、その撮像位置画像上での位置を
【数19】

と表す。
【0104】
このとき、下記の3つの式が成り立つ。
【0105】
【数20】

【0106】
ここで、並進行列Tを、未知数lを用いて
【数21】

と表し、更に、
【数22】

と置くと、[数20]は以下のように整理できる。
【0107】
【数23】

【0108】
この[数23]におけるlの値を、最小二乗法を用いて決定し、得られたlの値を[数21]に代入することで、並進行列Tが求まる。
【0109】
以上のようにして算出された回転行列R及び並進行列Tに相当する移動量だけ、基準位置P0を移動させる計算を行うことで、撮像位置P1の位置情報が特定される。
撮像装置位置特定部26による撮像位置P1の位置情報の特定は、例えば以上のようにして行われる。この特定結果は、距離記録装置29に記録される。
【0110】
次に図11について説明する。図11は、図7におけるステップ4の処理である、選択処理の処理内容を図解したフローチャートである。
図11において、まず、S401では、ステップ3の撮像位置特定処理によって算出されたカメラ11の移動量(基準位置P0から撮像位置P1までの移動量)を撮像装置位置特定部26から取得する処理を撮像位置選択部27が行う。
【0111】
次に、S402では、S401の処理によって取得したカメラ11の移動量が、所定の距離閾値以上であるか否かを判定する処理を撮像位置選択部27が行う。この処理により、基準位置P0と撮像位置P1との間の距離である基線距離と、当該距離閾値との長短を判定する処理が行われる。
【0112】
このS402の判定処理において、カメラ11の移動量(基線距離)が所定の距離閾値以上であると判定されたとき(判定結果がYesのとき)には、S403に処理が進む。そして、S403において、基準位置P0を選択する処理を撮像位置選択部27が行い、その後は図11の選択処理が終了する。つまり、撮像位置選択部27は、所望の位置特定の精度が得られる距離閾値よりも基線距離が長いと判定した場合には、距離算出部28による対象物Aの位置情報の特定を、基準位置P0の位置情報及び基準位置画像を用いて行わせるようにする。従って、この処理の後に行われる図7のステップ5の処理では、距離算出部28は、対象物Aの位置情報の特定を、基準位置P0の位置情報と、基準位置画像と、撮像位置P1の位置情報と、撮像位置画像とに基づいて行うことになる。
【0113】
一方、S402の判定処理において、カメラ11の移動量(基線距離)が所定の距離閾値未満であると判定されたとき(判定結果がNoのとき)には、S404に処理が進む。そして、S404において、位置情報が記録装置25に記録されている図8の静止区間内の複数の位置から、後述する所定の条件に合致するものを選択する処理を撮像位置選択部27が行い、その後は図11の選択処理が終了する。つまり、撮像位置選択部27は、所当該距離閾値よりも基線距離が短いと判定した場合には、距離算出部28による対象物Aの位置情報の特定を、このS404の処理により選択された位置の位置情報及び当該位置で撮像された画像を用いて行わせるようにする。従って、この処理の後に行われる図7のステップ5の処理では、距離算出部28は、対象物Aの位置情報の特定を、この位置の情報と、この位置での撮像画像と、撮像位置P1の位置情報と、撮像位置画像とに基づいて行うことになる。
【0114】
なお、図8を参照すれば明らかなように、位置情報が記録装置25に記録されている静止区間内の複数の位置は、いずれも、撮像位置P1からの距離が、基準位置P0よりも大きい(長い)地点に位置している。従って、これらの静止区間内の複数の位置は、図1の位置特定装置についての説明に使用していた既知位置の一例である。以下の説明では、これらの静止区間内の位置を『既知位置』と称することとし、当該既知位置で対象物Aを撮像して得た画像を『既知位置画像』と称することとする。更に、S404の処理により選択された既知位置を『選択既知位置』と称することとし、当該選択既知位置で対象物Aを撮像して得た画像を『選択既知位置画像』と称することとする。
【0115】
次に、S404の処理における選択の基準とする条件について説明する。この条件は、距離算出部28による対象物Aの位置特定の基礎として用いるときの適性を表しているものであり、例えば以下の2つの条件を挙げることができる。
【0116】
まず、第一の条件は、複数の既知位置のうちで、撮像位置P1からの距離が最長であることである。
このような既知位置を選択すれば、対象物Aの位置特定に用いる2枚の画像の撮像位置間(すなわち撮像位置P1と選択既知位置との間)のベースラインが最長となる。従って、距離算出部28が行うステレオ視による対象物の位置の特定を高い精度で行うことができる。
【0117】
また、第二の条件は、複数の既知位置のうちで、撮像位置P1を結ぶ線分の垂直二等分線から対象物Aの位置までの距離が最短であることである。
前述したように、ステレオ視による対象物の位置の特定の精度は、その位置特定に用いる2枚の画像を撮像した2つの撮像位置からの距離の差が少ないほど向上する。ここで、上述の第二の条件に従って既知位置を選択すれば、対象物Aの位置特定に用いる2枚の画像を撮像した2つの撮像位置(すなわち撮像位置P1及び選択既知位置)から対象物Aの位置までの距離の差が最短となる。従って、距離算出部28が行うステレオ視による対象物の位置の特定を高い精度で行うことができる。
【0118】
なお、第二の条件をS404の処理に採用する場合には、対象物Aの位置として、記録装置25に記録されている、対象物Aについての過去の位置情報の特定結果を利用して行う。
【0119】
S404の処理では、上述した第一の条件及び第二の条件のどちらを採用してもよい。
また、S404の処理において、上述した条件に合致する既知位置を1つのみ選択するのではなく、条件に合致する程度に応じた順序に複数個選択してもよい。すなわち、第一の条件に関しては、複数の既知位置のうちで、撮像位置P1からの距離が大きい順序(長い順序)に複数個選択してもよい。また、第二の条件に関しては、複数の既知位置のうちで、撮像位置P1を結ぶ線分の垂直二等分線から対象物Aの位置までの距離が短い順序に複数個選択してもよい。なお、このS404の処理において既知位置を複数選択した場合における、距離算出部28による対象物Aの位置の特定の手法については後述する。
なお、撮像位置選択部27が行った選択の結果は、距離記録装置29に格納される。
【0120】
次に図12について説明する。図12は、図7におけるステップ5の処理である、位置特定及び距離算出処理の処理内容を図解したフローチャートである。
【0121】
図12において、まず、S501では、撮像位置画像と、図7のステップ4の処理により選択された位置での撮像画像(すなわち基準位置画像若しくは選択既知位置画像)とでの特徴点の位置と対応関係との情報を取得する処理を距離算出部28が行う。なお、これらの情報は特徴点抽出部22及び特徴点追跡部23により既に求められており、距離算出部28は、記録装置25からこれらの情報を取得する。
【0122】
次に、S502では、三角測量の原理を用いて、対象物A上の特徴点の現実の三次元空間での位置を特定し、その特定結果を距離記録装置29に格納する処理を距離算出部28が行う。この位置特定の処理は、S501の処理により取得した情報と、撮像位置P1の位置情報と、図7のステップ4の処理により選択された位置の位置情報(すなわち基準位置P0若しくは選択既知位置)とに基づいて行われる。
【0123】
次に、S503では、S502の処理により特定された対象物Aについての特徴点の位置と、撮像位置P1との距離を算出し、その算出結果を距離記録装置29に格納する処理を距離算出部28が行い、その後は、この図12の処理が終了する。
【0124】
ここで、S502の位置特定の処理の処理内容について、更に説明する。
[数20]にも掲げた下記の関係式
【数24】

は、現実の三次元空間上での特徴点pk とqk との関係を表している。ここで、特徴点pk とqk の画像上での位置を用いてこの関係式を表現するには、変数k1 及びk2 を導入することで、
【数25】

と表される。
【0125】
この[数25]式を展開すると、
【数26】

となる。この式を
【数27】

と表現する。なお、特徴点pk とqk の画像上での位置は、[数17]及び[数19]のように3つの要素で表現されているので、1組の特徴点の対応関係について、3つの関係式が得られる。
【0126】
ここで、撮像位置画像と、図7のステップ4の処理により選択された位置での撮像画像とでの特徴点の対応関係をn組得ることで、その各組について[数27]の関係式を生成することで、
【数28】

が得られる。この式は、
【数29】

の形をしている。従って、
【数30】

を、最小二乗法を適用して解くことで、k(k1 及びk2 )の値が求まる。このようにして得られたk1 及びk2 の値と、特徴点pk 及びqk の画像上の位置とから、特徴点pk 及びqk の現実の三次元空間上での位置(すなわち、対象物Aの位置の位置情報)が求まる。
【0127】
なお、図11のS404の処理において撮像位置選択部27が既知位置を複数選択した場合には、S502において、距離算出部28は、対象物Aの位置の特定処理を、次のようにして行う。
【0128】
まず、距離算出部28は、撮像位置選択部27が選択した複数の既知位置の1つずつに基づいて、対象物Aについての位置情報の特定処理を前述のようにして行う。次に、距離算出部28は、この特定処理によって得られた複数個の位置情報で示されている複数の位置の重心の位置を求める処理を行う。そして、このようにして求められた重心の位置情報を、S502の位置特定の処理による、対象物Aの位置情報の特定結果とする。
【0129】
なお、上述したようにして重心の位置を求める際に、撮像位置選択部27による既知位置の選択順序に応じた重みを考慮するようにしてもよい。すなわち、距離算出部28は、まず、撮像位置選択部27が選択した複数の既知位置の1つずつに基づいて、対象物Aについての位置情報の特定処理を前述のようにして行う。次に、距離算出部28は、この特定処理によって位置情報が得られた複数個の位置の各々に対し、当該位置情報の特定に用いた選択既知位置を撮像位置選択部27がS404の処理において選択したときの選択順序に応じた重み付けを与える処理を行う。次に、距離算出部28は、このようにして重み付けが各々与えられた複数個の位置の重心(重み付け重心)を求める処理を行う。そして、このようにして求められた重み付け重心の位置情報を、S502の位置特定の処理による、対象物Aの位置情報の特定結果とする。距離算出部28がこのようにして対象物Aの位置情報の特定を行うようにしてもよい。
【0130】
図6の位置特定装置は、以上の処理を各構成要素が行うことによって、静止状態であった自動車Vが移動を開始して以降の対象物Aの位置を特定する。
なお、図6の撮像装置は、カメラ11が撮像位置画像の取得後に続いて画像を新たに撮像した場合における当該新画像の撮像位置P2の特定についても、同様に行うことができる。すなわち、この場合には、図7のステップ1において、前述のようにして特定した撮像位置P1を新たな基準位置P0に設定する処理を撮像装置位置特定部26が行うことで、後は同様の処理によって、当該新画像の撮像位置P2を特定することができる。
【0131】
また、撮像位置P1に基づく新画像の撮像位置P2の特定は、以下のようにして行うこともできる。
まず、基準位置P0、撮像位置P1、及び上記の新画像の撮像位置P2の位置を表す座標を、それぞれX0、X1、及びX2とする。
【0132】
ここで、基準位置P0から撮像位置P1への移動におけるカメラ11の移動量の回転成分を回転行列R1と表し、その並進成分を並進行列T1と表すものとする。また、基準位置P0から新画像の撮像位置P2への移動におけるカメラ11の移動量の回転成分を回転行列R2と表し、その並進成分を並進行列T2と表すものとする。
【0133】
このとき、下記の式が成り立つ。
X1=R1(X0−T1)………………式[6]
X2=R2(X0−T2)………………式[7]
上記の式[6]を変形すると、
X0=R1T X1+T1…………………式[8]
この式[8]を式[7]に代入すると、
X2=R2(R1T X1+T1−T2)
=R2R1T (X1−R1(T2−T1))…………………式[9]
ここで、R12=R2R1T 及びT12=R1(T2−T1)と置くと、式[9]は、
X2=R12(X1−T12)…………式[10]
と表される。
【0134】
従って、R1、R2、T1、及びT2を用いてR12及びT12を求めることで、撮像位置P1から新画像の撮像位置P2への移動におけるカメラ11の移動量が求まり、従って、新画像の撮像位置P2の特定を、撮像位置P1に基づいて行うことができる。
【0135】
図6の位置特定装置は、以上のように動作する結果、自動車Vが移動を開始した直後においても、その周囲に存在する対象物Aについての位置特定及び距離計測を高精度に行うことができる。従って、自動車Vの始動直後から周囲にある物体情報を自動車Vのドライバへ提供することができ、ドライバの安心安全を実現できる。また、図6の位置特定装置は単眼カメラシステム系であるので、低コストで実現できる。
なお、前述した各実施例に係る位置特定装置の各機能ブロックを、コンピュータを用いて構成することもできる。
【0136】
ここで図13について説明する。図13には、位置特定装置の各機能ブロックとして動作させることのできるコンピュータのハードウェア構成例が図解されている。
このコンピュータ30は、MPU31、ROM32、RAM33、入力装置34、表示装置35、インタフェース装置36、及び記録媒体駆動装置37を備えている。なお、これらの構成要素はバスライン38を介して接続されており、MPU31の管理の下で各種のデータを相互に授受することができる。
【0137】
MPU(Micro Processing Unit)31は、このコンピュータ30全体の動作を制御する演算処理装置である。
ROM(Read Only Memory)32は、所定の制御プログラムや各種の定数値が予め記録されている読み出し専用半導体メモリである。MPU31は、この制御プログラムをコンピュータ30の起動時に読み出して実行することにより、このコンピュータ30の各構成要素の動作制御が可能となる。
【0138】
RAM(Random Access Memory)33は、MPU31が各種の制御プログラムを実行する際に、必要に応じて作業用記憶領域として使用する、随時書き込み読み出し可能な半導体メモリである。なお、このRAM33は、図1における記録部4や、図2における特徴点追跡結果格納メモリ16、あるいは図6における記録装置25及び距離記録装置29として機能する。
【0139】
入力装置34は、例えばキーボード装置であり、コンピュータ30の使用者により操作されると、その操作内容に対応付けられている使用者からの各種情報の入力を取得し、取得した入力情報をMPU31に送付する。
【0140】
表示装置35は例えば液晶ディスプレイであり、MPU31から送付される表示データに応じて各種のテキストや画像を表示する。
インタフェース装置36は、このコンピュータ30に接続される各種機器との間での各種データの授受の管理を行う。より具体的には、インタフェース装置36は、カメラ11から送られてくる撮像画像信号のアナログ−デジタル変換や、アクチュエータ12を駆動させるための駆動信号の出力などを行う。
【0141】
このような構成を有するコンピュータ30を、前述した各実施例に係る位置特定装置の各機能ブロックとして機能させることができる。例えば、図7及び図9から図12の各図を用いて説明した位置特定処理の各処理手順をMPU31に行わせるための制御プログラムを作成する。作成した制御プログラムはROM32に予め格納しておく。そして、MPU31に所定の実行開始指示を与えてこの制御プログラムを読み出させて実行させる。こうすることで、MPU31が、図6における特徴点抽出部22、特徴点追跡部23、位置特定部24、撮像装置位置特定部26、撮像位置選択部27、及び距離算出部28として機能するようになる。従って、コンピュータ30のインタフェース装置36に撮像装置21を接続することで、図6の位置特定装置を構成することができる。
【0142】
なお、記録媒体駆動装置37は、可搬型記録媒体39に記録されている各種の制御プログラムやデータの読み出しを行う装置である。例えば、ROM32としてフラッシュメモリを使用し、MPU31が、可搬型記録媒体39に記録されている前述の制御プログラムを、記録媒体駆動装置38を介して読み出してROM32に格納するようにコンピュータ30を構成してもよい。この場合には、MPU31は、所定の実行開始指示を受けたには、MPU31がROM32に格納した制御プログラムを読み出して実行するようにする。
【0143】
なお、可搬型記録媒体39としては、例えば、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)などの非一時的(non-transitory)な記録媒体が利用可能である。また、可搬型記録媒体39として、例えばUSB(Universal Serial Bus)規格のコネクタが備えられている半導体メモリも利用可能である。
【0144】
また、端末装置と、当該端末装置との間で各種データの授受を行うことのできるサーバ装置とからなるコンピュータシステムにより、前述した各実施例に係る位置特定装置を構成してもよい。例えば、このコンピュータシステムで図6の位置特定装置を構成する場合には、自動車Vに設置される端末装置に、撮像装置21と、サーバ装置との通信用の通信装置と、対象物Aについての位置特定及び距離算出の結果をドライバに提供する表示装置とを備える。一方、サーバ装置には、例えば図13のコンピュータ30の構成を備える。但し、インタフェース装置36には、端末装置の通信装置との間でのデータ通信を管理する通信装置を備える。そして、端末装置は、撮像装置21で順次撮像される自動車V周囲の撮像画像をサーバ装置に送付する。一方、サーバ装置では、端末装置から受け取った撮像画像に基づき、対象物Aについての位置特定及び距離算出を前述したようにして行い、その結果を端末装置に送付して表示装置に表示させる。このようにして、図6の位置特定装置を上述のコンピュータシステムにより構成してもよい。
【符号の説明】
【0145】
1 撮像位置特定部
2 対象物位置特定部
3 選択部
4 記録部
5 判定部
6 撮像装置
7、18、28 距離算出部
11 カメラ
12 アクチュエータ
13 アクチュエータ制御部
14 画像取得部
15 画像処理部
15a、22 特徴点抽出部
15b、23 特徴点追跡部
16 特徴点追跡結果格納メモリ
17、24 位置特定部
17a 第一位置特定部
17b 第二位置特定部
17c 第三位置特定部
19 ドアミラー
21 撮像装置
25 記録装置
26 撮像装置位置特定部
27 撮像装置位置選択部
29 距離記録装置
30 コンピュータ
31 MPU
32 ROM
33 RAM
34 入力装置
35 表示装置
36 インタフェース装置
37 記録媒体駆動装置
38 バスライン
39 可搬型記録媒体

【特許請求の範囲】
【請求項1】
位置情報が既知である基準位置の該位置情報と、該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、該撮像位置の位置情報の特定を行う撮像位置特定部、及び
前記撮像位置特定部で位置情報が特定された撮像位置からの距離が前記基準位置よりも大きい地点に位置しており位置情報が既知である既知位置の位置情報と、該既知位置で前記対象物を撮像して得た既知位置画像と、該撮像位置の位置情報と、該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、該対象物の位置情報の特定を行う対象物位置特定部、
を備えることを特徴とする位置特定装置。
【請求項2】
前記既知位置が複数存在する場合に、該複数の既知位置のうちから、前記対象物位置特定部による前記対象物の位置特定の基礎として用いるときの適性を表している所定の条件に合致するものを、選択既知位置として選択する選択部を更に備え、
前記対象物位置特定部は、前記選択部が選択した前記選択既知位置の位置情報と、該選択既知位置で前記対象物を撮像して得た選択既知位置画像と、前記撮像位置の位置情報と、前記撮像位置画像とに基づいて、該対象物の位置情報の特定を行う、
ことを特徴とする請求項1に記載の位置特定装置。
【請求項3】
前記選択部は、前記複数の既知位置のうちで、前記撮像位置特定部が位置情報を特定した撮像位置からの距離が大きい順に所定数個を、前記選択既知位置として選択することを特徴とする請求項2に記載の位置特定装置。
【請求項4】
過去に行われた前記対象物の位置情報の特定結果の履歴が記録されている記録部を更に備え、
前記選択部は、前記複数の既知位置のうちで、前記撮像位置特定部が位置情報を特定した撮像位置を結ぶ線分の垂直二等分線からの、前記記録部に記録されている過去の位置情報の特定結果に係る前記対象物の位置までの距離が短くなる順序に所定数個を、前記選択既知位置として選択する、
ことを特徴とする請求項2に記載の位置特定装置。
【請求項5】
前記選択部が前記選択既知位置を複数個選択した場合には、前記対象物位置特定部は、前記対象物についての位置情報の特定を、該選択部が選択した複数個の選択既知位置の各々についてまず行い、該特定により得られる複数の位置情報で示される複数の位置の重心を求め、該重心の位置情報を該対象物の位置情報の特定結果とすることを特徴とする請求項2から4のうちのいずれか一項に記載の位置特定装置。
【請求項6】
前記選択部が前記選択既知位置を複数個選択した場合には、前記対象物位置特定部は、前記対象物についての位置情報の特定を、該選択部が選択した複数個の選択既知位置の各々についてまず行い、該特定により得られる複数の位置情報で示される複数の位置の各々に対して、該位置情報の特定に用いた選択既知位置を前記選択部が選択したときの選択順序に応じた重み付けを与え、該重み付けが各々与えられた該複数の位置の重み付け重心を求め、該重み付け重心の位置情報を該対象物の位置情報の特定結果とすることを特徴とする請求項3又は4に記載の位置特定装置。
【請求項7】
前記基準位置と前記撮像位置特定部が特定した撮像位置との間の距離である基線距離と所定の距離閾値との長短を判定する判定部を更に備え、
前記対象物位置特定部は、
前記基線距離が前記距離閾値よりも短いと前記判定部が判定したときには、前記選択部が選択した選択既知位置の位置情報と、該選択既知位置で前記対象物を撮像して得た選択既知位置画像と、前記撮像位置特定部が特定した撮像位置の位置情報と、該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、該対象物の位置情報を特定し、
前記基線距離が前記距離閾値よりも長いと前記判定部が判定したときには、前記基準位置の位置情報と、前記基準位置画像と、前記撮像位置特定部が特定した撮像位置の位置情報と、該撮像位置で前記対象物を撮像して得た撮像位置画像とに基づいて、該対象物の位置情報を特定する、
ことを特徴とする請求項2から6のうちのいずれか一項に記載の位置特定装置。
【請求項8】
移動体に設置されており、前記基準位置画像、前記撮像位置画像、及び前記既知位置画像の全ての撮像を行う単一の撮像装置を更に備えることを特徴とする請求項1から7のうちのいずれか一項に記載の位置特定装置。
【請求項9】
前記撮像装置から前記対象物までの距離を、前記対象物位置特定部が特定した前記対象物の位置情報と、前記撮像位置特定部が特定した撮像位置の位置情報とに基づいて算出する距離算出部を更に備えることを特徴とする請求項8に記載の位置特定装置。
【請求項10】
位置情報が既知である基準位置の該位置情報と、該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で該対象物を撮像して得た撮像位置画像とに基づいた、該撮像位置の位置情報の特定を撮像位置特定部が行い、
前記撮像位置特定部が位置情報を特定した撮像位置からの距離が前記基準位置よりも遠くに位置しており位置情報が既知である既知位置の位置情報と、該既知位置で前記対象物を撮像して得た既知位置画像と、該撮像位置の位置情報と、該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいた、該対象物の位置情報の特定を対象物位置特定部が行う、
ことを特徴とする位置特定方法。
【請求項11】
位置情報が既知である基準位置の該位置情報と、該基準位置で対象物を撮像して得た基準位置画像と、任意の撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、該撮像位置の位置情報の特定を行い、
前記撮像位置の位置情報の特定によって位置情報が特定された撮像位置からの距離が前記基準位置よりも遠くに位置しており位置情報が既知である既知位置の位置情報と、該既知位置で前記対象物を撮像して得た既知位置画像と、該撮像位置の位置情報と、該撮像位置で該対象物を撮像して得た撮像位置画像とに基づいて、該対象物の位置情報の特定を行う、
処理をコンピュータに実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図6】
image rotate

【図7】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図3A】
image rotate

【図3B】
image rotate

【図4A】
image rotate

【図4B】
image rotate

【図5】
image rotate

【図8】
image rotate


【公開番号】特開2012−122911(P2012−122911A)
【公開日】平成24年6月28日(2012.6.28)
【国際特許分類】
【出願番号】特願2010−275221(P2010−275221)
【出願日】平成22年12月10日(2010.12.10)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】