画像処理装置
【課題】観察者の死角となる範囲の画像を適切に生成することが可能な画像処理装置を提供する。
【解決手段】第1カメラ150−1は第1の範囲に対応する第1画像を撮影し、第2カメラ150−2は第2の範囲に対応する第2画像を撮影する。制御部102は、第1画像から物体300の画像を抽出し、当該画像を運転者400の視点位置と物体300との距離と、第1カメラ150−1と物体300との距離とによって定まる倍率で拡縮する。更に、制御部102は、第2画像から背景画像を抽出して、第1画像に背景画像を重畳し、更に当該背景画像に拡縮物体画像を重畳することで合成画像を生成する。
【解決手段】第1カメラ150−1は第1の範囲に対応する第1画像を撮影し、第2カメラ150−2は第2の範囲に対応する第2画像を撮影する。制御部102は、第1画像から物体300の画像を抽出し、当該画像を運転者400の視点位置と物体300との距離と、第1カメラ150−1と物体300との距離とによって定まる倍率で拡縮する。更に、制御部102は、第2画像から背景画像を抽出して、第1画像に背景画像を重畳し、更に当該背景画像に拡縮物体画像を重畳することで合成画像を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の画像を合成する画像処理装置に関する。
【背景技術】
【0002】
近年、車両の安全性を確保すべく、車両周辺を監視するシステムが提案されている。例えば、特許文献1に記載された車両の画像処理装置では、車外に設けられたカメラの撮影により得られた画像を運転者の視点から見た画像(運転者視点画像)に変換する。更に、運転者の視点位置近傍に設けられたカメラの撮影により得られた画像から死角範囲を除いた画像を生成し、当該画像に運転者視点画像を合成する。また、特許文献2に記載された運転支援装置では、路面上の物体を平面物とみなし、カメラの撮影により得られた画像が鳥瞰変換されて統合された統合鳥瞰画像を運転者視点画像に変換する。
【0003】
また、車両前方下部が運転者の死角になることに鑑み、当該フロントガラスの下部に配置されたディスプレイに表示する画像処理装置を撮影するとともに、その撮影により得られた画像を、車室内のフロントガラスの下部に配置されたディスプレイに表示する画像処理装置も存在する。
【特許文献1】特開2003−196645号公報
【特許文献2】特開2005−167309号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上述した、車両前方下部の画像を、フロントガラスの下部に配置されたディスプレイに表示する画像処理装置では、運転者に違和感を生じさせないようにするためには、運転者によって、フロントガラスを介して直接視認される範囲と、ディスプレイに画像が表示されることで認識される死角範囲とが連続したものとして把握されるようにすることが望ましい。
【0005】
しかし、物体が運転者によって直接視認される範囲と死角範囲とに跨って存在する場合、物体の連続性が確保されないという問題がある。例えば、図14に示す、運転者の認識範囲において、物体510がフロントガラスを介して直接視認される範囲501と、ディスプレイに画像が表示されることで認識される死角範囲502とに跨って存在している。このような場合、物体510について、直接視認範囲501と死角範囲502との連続性が確保されなくなってしまう。これは、死角範囲502を撮影するカメラの位置と、運転者の視点位置とが異なることによる。
【0006】
本発明の目的は、上述した問題を解決するものであり、観察者の死角となる範囲の画像を適切に生成することが可能な画像処理装置を提供するものである。
【課題を解決するための手段】
【0007】
本発明に係る画像処理装置は、第1の範囲を撮影し、第1の画像を生成する第1の撮影手段と、第2の範囲を撮影し、第2の画像を生成する第2の撮影手段と、前記第1の範囲に存在する物体を検出する物体検出手段と、前記第1の撮影手段により生成された第1の画像から前記物体検出手段により検出された物体に対応する物体画像を抽出する物体画像抽出手段と、前記物体画像抽出手段により抽出された物体画像を拡縮した拡縮物体画像を生成する物体画像変換手段と、前記第2の撮影手段により生成された第2の画像から前記拡縮物体画像を重ねるべき背景画像を抽出する背景画像抽出手段と、前記第1の画像と、前記背景画像と、該背景画像の所定位置に重ねられた前記拡縮物体画像からなる合成画像を生成する画像合成手段とを有する。
【0008】
この構成によれば、第1の範囲を撮影して得られる第1の画像から当該第1の範囲に存在する物体の画像のみを抽出、拡縮し、第2の範囲を撮影して得られる第2の画像から背景画像を抽出した上で、第1の画像と、背景画像と、当該背景画像の所定位置に重ねられた拡縮物体画像からなる合成画像が生成される。これにより、物体画像が適切に拡縮されて、観察者が直接視認する範囲と死角となる範囲とを跨る物体について、連続性が確保された状態で把握される。
【0009】
また、本発明に係る画像処理装置は、前記物体検出手段が、前記物体の位置を検出し、前記物体画像変換手段が、前記物体検出手段により検出された位置に基づいて、前記物体、前記第1の撮影手段、及び、前記観察者の視点位置の配置を認識し、該配置によって定まる倍率で前記物体画像を縮小又は拡大して前記拡縮物体画像とするようにしてもよい。
【0010】
この構成によれば、第1の撮影手段と観察者の視点位置とが異なることを考慮して、物体画像を適切に拡縮することができる。
【0011】
また、本発明に係る画像処理装置は、前記画像合成手段が、前記第1の画像における前記物体画像を含む位置に前記背景画像を重ねるようにしてもよい。
【0012】
この構成によれば、物体画像が背景画像によって隠蔽されて、更に拡縮物体画像が重ねられるため、合成画像に物体画像と拡縮物体画像の双方が含まれることがなく、観察者が物体を認識しやすくなる。
【0013】
また、本発明に係る画像処理装置は、前記画像合成手段により生成された合成画像を表示する表示手段を有するようにしてもよい。
【0014】
また、本発明に係る画像処理装置は、前記表示手段が、車両の室内におけるフロントガラス下部に配置されるようにしてもよい。
【0015】
また、本発明に係る画像処理装置は、前記画像合成手段により生成された合成画像から観察者の死角範囲に対応する画像を切り出す画像切り出し手段を有し、前記表示手段が、前記画像切り出し手段により切り出された画像を表示するようにしてもよい。
【発明の効果】
【0016】
本発明によれば、物体の画像のみが拡縮されて、第1の画像及び背景画像と合成されるため、観察者が直接視認する範囲と死角となる範囲とを跨る物体について、連続性が確保された状態で把握されることが可能となる。
【発明を実施するための最良の形態】
【0017】
以下、本発明の実施の形態について、図面を参照して具体的に説明する。図1は、本発明の実施形態に係る画像処理装置としての車両周辺画像提供装置の構成を示す図である。
【0018】
図1に示す車両周辺画像提供装置100は、車両に搭載されるものであり、メモリ104と、ディスプレイ106と、第1カメラ150−1と、第2カメラ150−2と、センサ152により構成される。これらのうち、第1カメラ150−1が第1の撮影手段に対応し、第2カメラ150−2が第2の撮影手段に対応し、センサ152が物体検出手段に対応する。また、制御部102が物体画像抽出手段、物体画像変換手段、背景画像抽出手段、及び、画像合成手段に対応し、ディスプレイ106が表示手段に対応する。
【0019】
図2は、車両における第1カメラ150−1、第2カメラ150−2及びセンサ152の取り付け位置の一例を示す図である。図2において、第1カメラ150−1は、車両200の前部左側に取り付けられ、第2カメラ150−2は、車両200の前部右側に取り付けられている。これら第1カメラ150−1及び第2カメラ150−2は、広角もしくは魚眼レンズ(図示せず)を内蔵し、広い画角を有しており、車両200の前方の広い範囲を撮影可能である。また、センサ152は、車両200の前部中央に取り付けられている。
【0020】
第1カメラ150−1は、車両前方の予め定められた撮影範囲(第1の範囲)を撮影して画像(第1画像)を生成する。一方、第2カメラ150−2は、車両前方の予め定められた撮影範囲(第2の範囲)を撮影して画像(第2画像)を生成する。
【0021】
図3は、第1カメラ150−1の撮影範囲である第1の範囲と、第2カメラ150−2の撮影範囲である。第2の範囲との一例を示す図である。図3に示すように、第1の範囲151−1と第2の範囲151−2とは、重複するように予め設定されている。本実施形態の車両周辺画像提供装置100は、第1の範囲に存在する物体300を適切に表示させるようにするものである。
【0022】
再び、図1に戻って説明する。センサ152は、車両200の前方の路面上に存在する物体300を検出するものであり、例えばレーザセンサである。
【0023】
制御部102は、CPUを内蔵しており、車両周辺画像提供装置100の全体を制御する。具体的には、制御部102は、第1カメラ150−1からの第1画像と、第2カメラ150−2からの第2画像と、センサ152によって検出された物体300の位置とを入力する。そして、制御部102は、これらに基づいて、物体300が、観察者である運転者によってフロントガラスを介して直接視認される範囲と、死角となる範囲とに跨る場合に、当該物体300が、運転者によってフロントガラスを介して直接視認される部分と、ディスプレイ106に画像が表示されることで認識される部分とが連続したものとして把握されるように、ディスプレイ106に表示されるべき画像を生成する。画像生成の詳細については後述する。ディスプレイ106は、この制御部102によって生成された画像を表示する。
【0024】
以下、フローチャートを参照しつつ、車両周辺画像提供装置100の動作を説明する。図4及び図5は、車両周辺画像提供装置100による画像処理の動作を示すフローチャートである。
【0025】
第1カメラ150−1は、車両前方の第1の範囲を撮影して第1画像を生成する。一方、第2カメラ150−2は、車両前方の第2の範囲を撮影して第2画像を生成する(S101)。第1カメラ150−1は、生成した第1画像を制御部102へ出力し、第2カメラ150−2は、生成した第2画像を制御部102へ出力する。
【0026】
次に、センサ152は、車両200の前方の第1の範囲に向けてレーザ光を照射し、当該第1の範囲内に存在する物体300で反射したレーザ光を受ける。そして、センサ152は、レーザ光の照射方向と、照射から受光までの時間差とにより、第1の範囲内に存在する物体300の位置を検出する(S102)。ここで、物体300の位置は、センサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標として特定される。検出された物体300の位置は、制御部102へ出力される。制御部102は、第1カメラ150−1からの第1画像、第2カメラ150−2からの第2画像、及び、センサ152からの物体300の位置を入力し、メモリ104に格納する。
【0027】
次に、制御部102は、第1画像のうち、運転者の死角となる車両前方下部の範囲(死角範囲)を特定する(S103)。ここで、運転者の視点位置は、センサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標として予め特定され、メモリ104に格納されている。また、第1画像に対応する撮影範囲である第1の範囲と、第2画像に対応する撮影範囲である第2の範囲とは、それぞれセンサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標の集合として予め特定され、メモリ104に格納されている。
【0028】
死角範囲は、運転者の視点位置と第1の範囲とにより一意に定まる。従って、これら運転者の視点位置及び第1の範囲が予め特定されることにより、死角範囲も予め特定されることになる。この死角範囲は、センサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標の集合として、メモリ104に格納される。制御部102は、メモリ104から死角範囲の座標集合を読み出し、当該死角範囲を特定する。
【0029】
次に、制御部102は、物体300の位置と、死角範囲とに基づいて、当該死角範囲に物体300の少なくとも一部が存在するか否かを判定する(S104)。死角範囲に物体300が存在しない場合には、一連の動作が終了する。この場合には、制御部102は、ディスプレイ106に対して、後述する死角範囲画像を出力し、ディスプレイ106は、この死角範囲画像を表示する。
【0030】
一方、死角範囲に物体300の少なくとも一部が存在する場合には、図5に示す動作に移行し、制御部102は、第1画像から物体300の画像を抽出する(S111)。具体的には、制御部102は、メモリ104から第1画像の撮影範囲である第1の範囲と、物体300の位置とを読み出し、これら第1の範囲と物体300の位置とに基づいて、第1画像における物体300の画像の位置を特定し、その物体300の画像を抽出する。例えば、図6に示す第1画像350においては、物体300の画像310が抽出される。
【0031】
再び、図5に戻って説明する。次に、制御部102は、抽出した物体300の画像の拡縮倍率を導出する(S112)。拡縮倍率は、物体300が、運転者がフロントガラスを介して直接視認する範囲と死角となる範囲とを跨る場合に、運転者によって、フロントガラスを介して直接視認される部分と、ディスプレイ106に画像が表示されることで認識される部分とが連続したものとして把握されるような値に設定される。
【0032】
ここで、運転者400の視点位置と物体300との距離をa、第1カメラ150−1と物体300との距離をbとすると、倍率はa/bに所定の係数を乗じた値で算出される。すなわち、第1カメラ150−1と物体300との距離bに対する、運転者400の視点位置と物体300との距離aの比率が小さいほど、倍率は小さくなる。例えば、図7の例では、運転者400の視点位置と物体300との距離aは、第1カメラ150−1と物体300との距離bより大きい。この場合には、一般に倍率は1以下となり、物体300の画像は縮小されることになる。例えば、メモリ104に図8に示すような運転者400の視点位置と物体300との距離、第1カメラ150−1と物体300との距離、及び、倍率を対応付けたテーブルを格納しておき、制御部102は、このテーブルに基づいて、運転者400の視点位置と物体300との距離と、第1カメラ150−1と物体300との距離とから倍率を一意に特定するようにしてもよい。
【0033】
再び、図5に戻って説明する。次に、制御部102は、S112にて導出した拡縮倍率に基づいて、S111にて抽出した物体300の画像を縮小又は拡大する(S113)。
【0034】
更に、制御部102は、第2画像から、S113にて縮小又は拡大した物体300の画像を重ねるべき背景画像を抽出する(S114)。具体的には、制御部102は、第1画像における物体300の画像の周辺の画像(周辺画像)を特定する。例えば、図9に示す第1画像350では、物体300の画像310の周辺である、周辺画像311が特定される。次に、制御部102は、第2画像のうち、第1画像にて特定した周辺画像に近似する画像を、背景画像として特定する。例えば、図10に示す第2画像360では、図9における周辺画像311に近似する画像が背景画像312として特定される。周辺画像に対する背景画像の近似の度合いは、例えば、周辺画像と背景画像の同一位置の画素の画素値の差の合計値に基づいて判断することができる。この場合、周辺画像と背景画像の同一位置の画素の画素値の差の合計値が最も小さくなれば、その背景画像は、第2の画像において、周辺画像に最も近似する画像であると判断される。
【0035】
再び、図5に戻って説明する。次に、制御部102は、第1画像における周辺画像の位置にS114にて抽出した背景画像を重畳する(S115)。次に、制御部102は、該1画像に重畳した背景画像の位置に、更にS113にて物体300の画像を縮小又は拡大して得られた画像(拡縮物体画像)を重畳して、合成画像を生成する(S116)。例えば、図11では、第1画像350に背景画像312が重畳され、当該背景画像312に更に拡縮物体画像313が重畳されて、合成画像が得られる。
【0036】
再び、図5に戻って説明する。次に、制御部102は、S116にて生成した合成画像から運転者400の死角範囲に対応する画像(死角範囲画像)を切り出す(S117)。ここで、死角範囲は、運転者の視点位置と第1の範囲とにより一意に定まるため、これら運転者の視点位置及び第1の範囲が予め特定されることにより、死角範囲に対応する画像の切り出し範囲も予め特定される。この死角範囲画像の切り出し範囲は、第1画像に対応する2次元空間における座標の集合として、メモリ104に格納される。制御部102は、メモリ104から死角範囲画像の切り出し範囲の座標集合を読み出し、当該座標集合に基づいて第1画像、背景画像及び拡縮物体画像からなる合成画像から死角範囲画像を切り出すことができる。例えば、図12では、第1画像350、背景画像312及び拡縮物体画像313からなる合成画像から死角範囲画像314が切り出される。
【0037】
制御部102は、このようにして切り出した死角範囲画像を、ディスプレイ106に出力する。ディスプレイ106は、車両200のフロントガラス下部に配置されており、制御部102からの死角範囲画像を表示する(S118)。
【0038】
このように、本実施形態の車両周辺画像提供装置100では、第1カメラ150−1によって第1画像を撮影し、第2カメラ150−2によって第2画像を撮影する。そして、制御部102は、第1画像から物体300の画像を抽出し、当該画像を運転者400の視点位置と物体300との距離と、第1カメラ150−1と物体300との距離とによって定まる倍率で拡縮する。更に、制御部102は、第2画像から背景画像を抽出して、第1画像に背景画像を重畳し、更に当該背景画像に拡縮物体画像を重畳することで合成画像を生成する。そして、制御部102は、合成画像から運転者400の死角に対応する死角範囲の画像を切り出して、フロントガラス下部のディスプレイ106に表示させる。これにより、物体300が、運転者400がフロントガラスを介して直接視認する範囲と死角となる範囲とを跨る場合には、図13に示すように、運転者によって、フロントガラス501を介して直接視認される物体300の部分と、ディスプレイ106に死角範囲画像314が表示されることで認識される物体300の部分とが連続したものとして把握されることが可能となり、運転者400に違和感を生じさせないようにすることができる。
【0039】
なお、上述した実施形態では、車両周辺の画像を提供する専用の装置である車両周辺画像提供装置100について説明したが、例えば、車両周辺の画像を提供する機能を有するナビゲーション装置等にも、同様に本発明を適用することができる。
【産業上の利用可能性】
【0040】
以上、説明したように、本発明に係る画像処理装置は、観察者の死角となる範囲の画像を適切に生成することが可能であり、画像処理装置として有用である。
【図面の簡単な説明】
【0041】
【図1】本発明の実施形態に係る画像処理装置を適用した車両周辺画像提供装置の構成を示す図である。
【図2】車両におけるカメラ及びセンサの取り付け位置の一例を示す図である。
【図3】カメラの撮影範囲の一例を示す図である。
【図4】車両周辺画像提供装置による画像処理の動作を示す第1のフローチャートである。
【図5】車両周辺画像提供装置による画像処理の動作を示す第2のフローチャートである。
【図6】第1画像と当該第1画像に含まれる物体画像の一例を示す図である。
【図7】運転者の視点位置と物体との距離と、第1カメラと物体との距離の一例を示す図である。
【図8】倍率導出のためのテーブルの一例を示す図である。
【図9】第1画像と当該第1画像に含まれる周辺画像の一例を示す図である。
【図10】第2画像と当該第2画像に含まれる背景画像の一例を示す図である。
【図11】第1画像、背景画像及び拡縮物体画像からなる合成画像の一例を示す図である。
【図12】合成画像における死角範囲画像の一例を示す図である。
【図13】運転者の認識範囲の一例を示す図である。
【図14】従来の運転者の認識範囲の一例を示す図である。
【符号の説明】
【0042】
100 車両周辺画像提供装置
102 制御部
104 メモリ
106 ディスプレイ
150−1 第1カメラ
150−2 第2カメラ
152 センサ
200 車両
300 物体
400 運転者
【技術分野】
【0001】
本発明は、複数の画像を合成する画像処理装置に関する。
【背景技術】
【0002】
近年、車両の安全性を確保すべく、車両周辺を監視するシステムが提案されている。例えば、特許文献1に記載された車両の画像処理装置では、車外に設けられたカメラの撮影により得られた画像を運転者の視点から見た画像(運転者視点画像)に変換する。更に、運転者の視点位置近傍に設けられたカメラの撮影により得られた画像から死角範囲を除いた画像を生成し、当該画像に運転者視点画像を合成する。また、特許文献2に記載された運転支援装置では、路面上の物体を平面物とみなし、カメラの撮影により得られた画像が鳥瞰変換されて統合された統合鳥瞰画像を運転者視点画像に変換する。
【0003】
また、車両前方下部が運転者の死角になることに鑑み、当該フロントガラスの下部に配置されたディスプレイに表示する画像処理装置を撮影するとともに、その撮影により得られた画像を、車室内のフロントガラスの下部に配置されたディスプレイに表示する画像処理装置も存在する。
【特許文献1】特開2003−196645号公報
【特許文献2】特開2005−167309号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上述した、車両前方下部の画像を、フロントガラスの下部に配置されたディスプレイに表示する画像処理装置では、運転者に違和感を生じさせないようにするためには、運転者によって、フロントガラスを介して直接視認される範囲と、ディスプレイに画像が表示されることで認識される死角範囲とが連続したものとして把握されるようにすることが望ましい。
【0005】
しかし、物体が運転者によって直接視認される範囲と死角範囲とに跨って存在する場合、物体の連続性が確保されないという問題がある。例えば、図14に示す、運転者の認識範囲において、物体510がフロントガラスを介して直接視認される範囲501と、ディスプレイに画像が表示されることで認識される死角範囲502とに跨って存在している。このような場合、物体510について、直接視認範囲501と死角範囲502との連続性が確保されなくなってしまう。これは、死角範囲502を撮影するカメラの位置と、運転者の視点位置とが異なることによる。
【0006】
本発明の目的は、上述した問題を解決するものであり、観察者の死角となる範囲の画像を適切に生成することが可能な画像処理装置を提供するものである。
【課題を解決するための手段】
【0007】
本発明に係る画像処理装置は、第1の範囲を撮影し、第1の画像を生成する第1の撮影手段と、第2の範囲を撮影し、第2の画像を生成する第2の撮影手段と、前記第1の範囲に存在する物体を検出する物体検出手段と、前記第1の撮影手段により生成された第1の画像から前記物体検出手段により検出された物体に対応する物体画像を抽出する物体画像抽出手段と、前記物体画像抽出手段により抽出された物体画像を拡縮した拡縮物体画像を生成する物体画像変換手段と、前記第2の撮影手段により生成された第2の画像から前記拡縮物体画像を重ねるべき背景画像を抽出する背景画像抽出手段と、前記第1の画像と、前記背景画像と、該背景画像の所定位置に重ねられた前記拡縮物体画像からなる合成画像を生成する画像合成手段とを有する。
【0008】
この構成によれば、第1の範囲を撮影して得られる第1の画像から当該第1の範囲に存在する物体の画像のみを抽出、拡縮し、第2の範囲を撮影して得られる第2の画像から背景画像を抽出した上で、第1の画像と、背景画像と、当該背景画像の所定位置に重ねられた拡縮物体画像からなる合成画像が生成される。これにより、物体画像が適切に拡縮されて、観察者が直接視認する範囲と死角となる範囲とを跨る物体について、連続性が確保された状態で把握される。
【0009】
また、本発明に係る画像処理装置は、前記物体検出手段が、前記物体の位置を検出し、前記物体画像変換手段が、前記物体検出手段により検出された位置に基づいて、前記物体、前記第1の撮影手段、及び、前記観察者の視点位置の配置を認識し、該配置によって定まる倍率で前記物体画像を縮小又は拡大して前記拡縮物体画像とするようにしてもよい。
【0010】
この構成によれば、第1の撮影手段と観察者の視点位置とが異なることを考慮して、物体画像を適切に拡縮することができる。
【0011】
また、本発明に係る画像処理装置は、前記画像合成手段が、前記第1の画像における前記物体画像を含む位置に前記背景画像を重ねるようにしてもよい。
【0012】
この構成によれば、物体画像が背景画像によって隠蔽されて、更に拡縮物体画像が重ねられるため、合成画像に物体画像と拡縮物体画像の双方が含まれることがなく、観察者が物体を認識しやすくなる。
【0013】
また、本発明に係る画像処理装置は、前記画像合成手段により生成された合成画像を表示する表示手段を有するようにしてもよい。
【0014】
また、本発明に係る画像処理装置は、前記表示手段が、車両の室内におけるフロントガラス下部に配置されるようにしてもよい。
【0015】
また、本発明に係る画像処理装置は、前記画像合成手段により生成された合成画像から観察者の死角範囲に対応する画像を切り出す画像切り出し手段を有し、前記表示手段が、前記画像切り出し手段により切り出された画像を表示するようにしてもよい。
【発明の効果】
【0016】
本発明によれば、物体の画像のみが拡縮されて、第1の画像及び背景画像と合成されるため、観察者が直接視認する範囲と死角となる範囲とを跨る物体について、連続性が確保された状態で把握されることが可能となる。
【発明を実施するための最良の形態】
【0017】
以下、本発明の実施の形態について、図面を参照して具体的に説明する。図1は、本発明の実施形態に係る画像処理装置としての車両周辺画像提供装置の構成を示す図である。
【0018】
図1に示す車両周辺画像提供装置100は、車両に搭載されるものであり、メモリ104と、ディスプレイ106と、第1カメラ150−1と、第2カメラ150−2と、センサ152により構成される。これらのうち、第1カメラ150−1が第1の撮影手段に対応し、第2カメラ150−2が第2の撮影手段に対応し、センサ152が物体検出手段に対応する。また、制御部102が物体画像抽出手段、物体画像変換手段、背景画像抽出手段、及び、画像合成手段に対応し、ディスプレイ106が表示手段に対応する。
【0019】
図2は、車両における第1カメラ150−1、第2カメラ150−2及びセンサ152の取り付け位置の一例を示す図である。図2において、第1カメラ150−1は、車両200の前部左側に取り付けられ、第2カメラ150−2は、車両200の前部右側に取り付けられている。これら第1カメラ150−1及び第2カメラ150−2は、広角もしくは魚眼レンズ(図示せず)を内蔵し、広い画角を有しており、車両200の前方の広い範囲を撮影可能である。また、センサ152は、車両200の前部中央に取り付けられている。
【0020】
第1カメラ150−1は、車両前方の予め定められた撮影範囲(第1の範囲)を撮影して画像(第1画像)を生成する。一方、第2カメラ150−2は、車両前方の予め定められた撮影範囲(第2の範囲)を撮影して画像(第2画像)を生成する。
【0021】
図3は、第1カメラ150−1の撮影範囲である第1の範囲と、第2カメラ150−2の撮影範囲である。第2の範囲との一例を示す図である。図3に示すように、第1の範囲151−1と第2の範囲151−2とは、重複するように予め設定されている。本実施形態の車両周辺画像提供装置100は、第1の範囲に存在する物体300を適切に表示させるようにするものである。
【0022】
再び、図1に戻って説明する。センサ152は、車両200の前方の路面上に存在する物体300を検出するものであり、例えばレーザセンサである。
【0023】
制御部102は、CPUを内蔵しており、車両周辺画像提供装置100の全体を制御する。具体的には、制御部102は、第1カメラ150−1からの第1画像と、第2カメラ150−2からの第2画像と、センサ152によって検出された物体300の位置とを入力する。そして、制御部102は、これらに基づいて、物体300が、観察者である運転者によってフロントガラスを介して直接視認される範囲と、死角となる範囲とに跨る場合に、当該物体300が、運転者によってフロントガラスを介して直接視認される部分と、ディスプレイ106に画像が表示されることで認識される部分とが連続したものとして把握されるように、ディスプレイ106に表示されるべき画像を生成する。画像生成の詳細については後述する。ディスプレイ106は、この制御部102によって生成された画像を表示する。
【0024】
以下、フローチャートを参照しつつ、車両周辺画像提供装置100の動作を説明する。図4及び図5は、車両周辺画像提供装置100による画像処理の動作を示すフローチャートである。
【0025】
第1カメラ150−1は、車両前方の第1の範囲を撮影して第1画像を生成する。一方、第2カメラ150−2は、車両前方の第2の範囲を撮影して第2画像を生成する(S101)。第1カメラ150−1は、生成した第1画像を制御部102へ出力し、第2カメラ150−2は、生成した第2画像を制御部102へ出力する。
【0026】
次に、センサ152は、車両200の前方の第1の範囲に向けてレーザ光を照射し、当該第1の範囲内に存在する物体300で反射したレーザ光を受ける。そして、センサ152は、レーザ光の照射方向と、照射から受光までの時間差とにより、第1の範囲内に存在する物体300の位置を検出する(S102)。ここで、物体300の位置は、センサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標として特定される。検出された物体300の位置は、制御部102へ出力される。制御部102は、第1カメラ150−1からの第1画像、第2カメラ150−2からの第2画像、及び、センサ152からの物体300の位置を入力し、メモリ104に格納する。
【0027】
次に、制御部102は、第1画像のうち、運転者の死角となる車両前方下部の範囲(死角範囲)を特定する(S103)。ここで、運転者の視点位置は、センサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標として予め特定され、メモリ104に格納されている。また、第1画像に対応する撮影範囲である第1の範囲と、第2画像に対応する撮影範囲である第2の範囲とは、それぞれセンサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標の集合として予め特定され、メモリ104に格納されている。
【0028】
死角範囲は、運転者の視点位置と第1の範囲とにより一意に定まる。従って、これら運転者の視点位置及び第1の範囲が予め特定されることにより、死角範囲も予め特定されることになる。この死角範囲は、センサ152の位置を原点とし、車両200の前方を1つの座標軸とする三次元空間における座標の集合として、メモリ104に格納される。制御部102は、メモリ104から死角範囲の座標集合を読み出し、当該死角範囲を特定する。
【0029】
次に、制御部102は、物体300の位置と、死角範囲とに基づいて、当該死角範囲に物体300の少なくとも一部が存在するか否かを判定する(S104)。死角範囲に物体300が存在しない場合には、一連の動作が終了する。この場合には、制御部102は、ディスプレイ106に対して、後述する死角範囲画像を出力し、ディスプレイ106は、この死角範囲画像を表示する。
【0030】
一方、死角範囲に物体300の少なくとも一部が存在する場合には、図5に示す動作に移行し、制御部102は、第1画像から物体300の画像を抽出する(S111)。具体的には、制御部102は、メモリ104から第1画像の撮影範囲である第1の範囲と、物体300の位置とを読み出し、これら第1の範囲と物体300の位置とに基づいて、第1画像における物体300の画像の位置を特定し、その物体300の画像を抽出する。例えば、図6に示す第1画像350においては、物体300の画像310が抽出される。
【0031】
再び、図5に戻って説明する。次に、制御部102は、抽出した物体300の画像の拡縮倍率を導出する(S112)。拡縮倍率は、物体300が、運転者がフロントガラスを介して直接視認する範囲と死角となる範囲とを跨る場合に、運転者によって、フロントガラスを介して直接視認される部分と、ディスプレイ106に画像が表示されることで認識される部分とが連続したものとして把握されるような値に設定される。
【0032】
ここで、運転者400の視点位置と物体300との距離をa、第1カメラ150−1と物体300との距離をbとすると、倍率はa/bに所定の係数を乗じた値で算出される。すなわち、第1カメラ150−1と物体300との距離bに対する、運転者400の視点位置と物体300との距離aの比率が小さいほど、倍率は小さくなる。例えば、図7の例では、運転者400の視点位置と物体300との距離aは、第1カメラ150−1と物体300との距離bより大きい。この場合には、一般に倍率は1以下となり、物体300の画像は縮小されることになる。例えば、メモリ104に図8に示すような運転者400の視点位置と物体300との距離、第1カメラ150−1と物体300との距離、及び、倍率を対応付けたテーブルを格納しておき、制御部102は、このテーブルに基づいて、運転者400の視点位置と物体300との距離と、第1カメラ150−1と物体300との距離とから倍率を一意に特定するようにしてもよい。
【0033】
再び、図5に戻って説明する。次に、制御部102は、S112にて導出した拡縮倍率に基づいて、S111にて抽出した物体300の画像を縮小又は拡大する(S113)。
【0034】
更に、制御部102は、第2画像から、S113にて縮小又は拡大した物体300の画像を重ねるべき背景画像を抽出する(S114)。具体的には、制御部102は、第1画像における物体300の画像の周辺の画像(周辺画像)を特定する。例えば、図9に示す第1画像350では、物体300の画像310の周辺である、周辺画像311が特定される。次に、制御部102は、第2画像のうち、第1画像にて特定した周辺画像に近似する画像を、背景画像として特定する。例えば、図10に示す第2画像360では、図9における周辺画像311に近似する画像が背景画像312として特定される。周辺画像に対する背景画像の近似の度合いは、例えば、周辺画像と背景画像の同一位置の画素の画素値の差の合計値に基づいて判断することができる。この場合、周辺画像と背景画像の同一位置の画素の画素値の差の合計値が最も小さくなれば、その背景画像は、第2の画像において、周辺画像に最も近似する画像であると判断される。
【0035】
再び、図5に戻って説明する。次に、制御部102は、第1画像における周辺画像の位置にS114にて抽出した背景画像を重畳する(S115)。次に、制御部102は、該1画像に重畳した背景画像の位置に、更にS113にて物体300の画像を縮小又は拡大して得られた画像(拡縮物体画像)を重畳して、合成画像を生成する(S116)。例えば、図11では、第1画像350に背景画像312が重畳され、当該背景画像312に更に拡縮物体画像313が重畳されて、合成画像が得られる。
【0036】
再び、図5に戻って説明する。次に、制御部102は、S116にて生成した合成画像から運転者400の死角範囲に対応する画像(死角範囲画像)を切り出す(S117)。ここで、死角範囲は、運転者の視点位置と第1の範囲とにより一意に定まるため、これら運転者の視点位置及び第1の範囲が予め特定されることにより、死角範囲に対応する画像の切り出し範囲も予め特定される。この死角範囲画像の切り出し範囲は、第1画像に対応する2次元空間における座標の集合として、メモリ104に格納される。制御部102は、メモリ104から死角範囲画像の切り出し範囲の座標集合を読み出し、当該座標集合に基づいて第1画像、背景画像及び拡縮物体画像からなる合成画像から死角範囲画像を切り出すことができる。例えば、図12では、第1画像350、背景画像312及び拡縮物体画像313からなる合成画像から死角範囲画像314が切り出される。
【0037】
制御部102は、このようにして切り出した死角範囲画像を、ディスプレイ106に出力する。ディスプレイ106は、車両200のフロントガラス下部に配置されており、制御部102からの死角範囲画像を表示する(S118)。
【0038】
このように、本実施形態の車両周辺画像提供装置100では、第1カメラ150−1によって第1画像を撮影し、第2カメラ150−2によって第2画像を撮影する。そして、制御部102は、第1画像から物体300の画像を抽出し、当該画像を運転者400の視点位置と物体300との距離と、第1カメラ150−1と物体300との距離とによって定まる倍率で拡縮する。更に、制御部102は、第2画像から背景画像を抽出して、第1画像に背景画像を重畳し、更に当該背景画像に拡縮物体画像を重畳することで合成画像を生成する。そして、制御部102は、合成画像から運転者400の死角に対応する死角範囲の画像を切り出して、フロントガラス下部のディスプレイ106に表示させる。これにより、物体300が、運転者400がフロントガラスを介して直接視認する範囲と死角となる範囲とを跨る場合には、図13に示すように、運転者によって、フロントガラス501を介して直接視認される物体300の部分と、ディスプレイ106に死角範囲画像314が表示されることで認識される物体300の部分とが連続したものとして把握されることが可能となり、運転者400に違和感を生じさせないようにすることができる。
【0039】
なお、上述した実施形態では、車両周辺の画像を提供する専用の装置である車両周辺画像提供装置100について説明したが、例えば、車両周辺の画像を提供する機能を有するナビゲーション装置等にも、同様に本発明を適用することができる。
【産業上の利用可能性】
【0040】
以上、説明したように、本発明に係る画像処理装置は、観察者の死角となる範囲の画像を適切に生成することが可能であり、画像処理装置として有用である。
【図面の簡単な説明】
【0041】
【図1】本発明の実施形態に係る画像処理装置を適用した車両周辺画像提供装置の構成を示す図である。
【図2】車両におけるカメラ及びセンサの取り付け位置の一例を示す図である。
【図3】カメラの撮影範囲の一例を示す図である。
【図4】車両周辺画像提供装置による画像処理の動作を示す第1のフローチャートである。
【図5】車両周辺画像提供装置による画像処理の動作を示す第2のフローチャートである。
【図6】第1画像と当該第1画像に含まれる物体画像の一例を示す図である。
【図7】運転者の視点位置と物体との距離と、第1カメラと物体との距離の一例を示す図である。
【図8】倍率導出のためのテーブルの一例を示す図である。
【図9】第1画像と当該第1画像に含まれる周辺画像の一例を示す図である。
【図10】第2画像と当該第2画像に含まれる背景画像の一例を示す図である。
【図11】第1画像、背景画像及び拡縮物体画像からなる合成画像の一例を示す図である。
【図12】合成画像における死角範囲画像の一例を示す図である。
【図13】運転者の認識範囲の一例を示す図である。
【図14】従来の運転者の認識範囲の一例を示す図である。
【符号の説明】
【0042】
100 車両周辺画像提供装置
102 制御部
104 メモリ
106 ディスプレイ
150−1 第1カメラ
150−2 第2カメラ
152 センサ
200 車両
300 物体
400 運転者
【特許請求の範囲】
【請求項1】
第1の範囲を撮影し、第1の画像を生成する第1の撮影手段と、
第2の範囲を撮影し、第2の画像を生成する第2の撮影手段と、
前記第1の範囲に存在する物体を検出する物体検出手段と、
前記第1の撮影手段により生成された第1の画像から前記物体検出手段により検出された物体に対応する物体画像を抽出する物体画像抽出手段と、
前記物体画像抽出手段により抽出された物体画像を拡縮した拡縮物体画像を生成する物体画像変換手段と、
前記第2の撮影手段により生成された第2の画像から前記拡縮物体画像を重ねるべき背景画像を抽出する背景画像抽出手段と、
前記第1の画像と、前記背景画像と、該背景画像の所定位置に重ねられた前記拡縮物体画像からなる合成画像を生成する画像合成手段とを有する画像処理装置。
【請求項2】
前記物体検出手段は、前記物体の位置を検出し、
前記物体画像変換手段は、前記物体検出手段により検出された位置に基づいて、前記物体、前記第1の撮影手段、及び、前記観察者の視点位置の配置を認識し、該配置によって定まる倍率で前記物体画像を縮小又は拡大して前記拡縮物体画像とする請求項1に記載の画像処理装置。
【請求項3】
前記画像合成手段は、前記第1の画像における前記物体画像を含む位置に前記背景画像を重ねることを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記画像合成手段により生成された合成画像を表示する表示手段を有する請求項1乃至3のいずれかに記載の画像処理装置。
【請求項5】
前記表示手段は、車両の室内におけるフロントガラス下部に配置される請求項4に記載の画像処理装置。
【請求項6】
前記画像合成手段により生成された合成画像から観察者の死角範囲に対応する画像を切り出す画像切り出し手段を有し、
前記表示手段は、前記画像切り出し手段により切り出された画像を表示する請求項4又は5に記載の画像処理装置。
【請求項1】
第1の範囲を撮影し、第1の画像を生成する第1の撮影手段と、
第2の範囲を撮影し、第2の画像を生成する第2の撮影手段と、
前記第1の範囲に存在する物体を検出する物体検出手段と、
前記第1の撮影手段により生成された第1の画像から前記物体検出手段により検出された物体に対応する物体画像を抽出する物体画像抽出手段と、
前記物体画像抽出手段により抽出された物体画像を拡縮した拡縮物体画像を生成する物体画像変換手段と、
前記第2の撮影手段により生成された第2の画像から前記拡縮物体画像を重ねるべき背景画像を抽出する背景画像抽出手段と、
前記第1の画像と、前記背景画像と、該背景画像の所定位置に重ねられた前記拡縮物体画像からなる合成画像を生成する画像合成手段とを有する画像処理装置。
【請求項2】
前記物体検出手段は、前記物体の位置を検出し、
前記物体画像変換手段は、前記物体検出手段により検出された位置に基づいて、前記物体、前記第1の撮影手段、及び、前記観察者の視点位置の配置を認識し、該配置によって定まる倍率で前記物体画像を縮小又は拡大して前記拡縮物体画像とする請求項1に記載の画像処理装置。
【請求項3】
前記画像合成手段は、前記第1の画像における前記物体画像を含む位置に前記背景画像を重ねることを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記画像合成手段により生成された合成画像を表示する表示手段を有する請求項1乃至3のいずれかに記載の画像処理装置。
【請求項5】
前記表示手段は、車両の室内におけるフロントガラス下部に配置される請求項4に記載の画像処理装置。
【請求項6】
前記画像合成手段により生成された合成画像から観察者の死角範囲に対応する画像を切り出す画像切り出し手段を有し、
前記表示手段は、前記画像切り出し手段により切り出された画像を表示する請求項4又は5に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2009−152951(P2009−152951A)
【公開日】平成21年7月9日(2009.7.9)
【国際特許分類】
【出願番号】特願2007−329757(P2007−329757)
【出願日】平成19年12月21日(2007.12.21)
【出願人】(000101732)アルパイン株式会社 (2,424)
【Fターム(参考)】
【公開日】平成21年7月9日(2009.7.9)
【国際特許分類】
【出願日】平成19年12月21日(2007.12.21)
【出願人】(000101732)アルパイン株式会社 (2,424)
【Fターム(参考)】
[ Back to top ]