画像表示システム及び画像表示方法
【課題】 車両が走行していなくても、仮想視点から撮像された画像を生成し表示する。
【解決手段】 車両50に搭載され、車両50周囲の所定の撮像領域を撮像する撮像装置11と、撮像される撮像領域に対して所定の照射パターンの近赤外光を照射する近赤外光照射装置12と、撮像領域に照射された照射パターンを撮像装置11によって撮像した撮像画像から、撮像領域に存在する撮像対象物の3次元情報を演算する3次元情報演算処理部28と、撮像装置11によって撮像された撮像対象物の撮像画像を、3次元情報を用いて画像変換処理することで、撮像対象物を撮像装置11とは異なる仮想視点から撮像した画像を生成する画像変換処理部23と、生成された画像を表示する表示装置40とを備えることで実現する。
【解決手段】 車両50に搭載され、車両50周囲の所定の撮像領域を撮像する撮像装置11と、撮像される撮像領域に対して所定の照射パターンの近赤外光を照射する近赤外光照射装置12と、撮像領域に照射された照射パターンを撮像装置11によって撮像した撮像画像から、撮像領域に存在する撮像対象物の3次元情報を演算する3次元情報演算処理部28と、撮像装置11によって撮像された撮像対象物の撮像画像を、3次元情報を用いて画像変換処理することで、撮像対象物を撮像装置11とは異なる仮想視点から撮像した画像を生成する画像変換処理部23と、生成された画像を表示する表示装置40とを備えることで実現する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置で撮像された撮像画像を画像変換処理することで、仮想視点から撮像した撮像画像を生成して表示する画像表示システム及び画像表示方法に関する。
【背景技術】
【0002】
対象物を高所から見下ろした俯瞰画像を、例えば、車両に搭載した車載カメラで車両の周囲状況を撮像して運転者に提示するビューシステムにおいて提示した場合、車両と障害物との関係を明確に運転者に示すことができるため非常に効果的である。
【0003】
特に、運転者から死角となる車両後方の画像を撮像し、撮像した画像を運転者に提示するバックビューモニタシステムにおいては、撮像した画像を俯瞰画像とすると、車庫入れなどの車両操作を有効に支援することができる。
【0004】
ところで、車両に搭載した撮像カメラで対象物を真上から撮像することは、撮像カメラの取り付け位置に制限があるため非常に困難である。したがって、一般に、車両の所定の位置に設置された撮像カメラにて撮像した画像に画像変換処理を施すことで、仮想的に配置された仮想カメラによってあたかも撮像されたかのような俯瞰画像を取得している。
【0005】
例えば、車両に搭載された実際の撮像カメラ(実カメラ)と対象物とが相対移動した場合に得られる動画情報を解析して、対象物の高さ情報を取得し、取得した高さ情報を用いて対象物の俯瞰図を作成する手法が開示されている。
【特許文献1】特開2002−34035号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した特許文献1で開示されている手法では、俯瞰図を作成するために用いる高さ情報を取得するに際し、車両に搭載された実カメラと対象物との相対移動を前提としている。つまり、高さ情報を取得するためには、車両を移動させる必要がある。
【0007】
したがって、車両が走行を開始する前には高さ情報を取得することができないため、車両が走行を開始する前には俯瞰画像を提供することができなかった。
【0008】
そこで、本発明は、上述した問題を解決するために案出されたものであり、車両が走行していなくても、仮想視点から撮像した画像を生成し表示することができる画像表示システム及び画像表示方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の画像表示システムは、移動体に搭載され、移動体周囲の所定の撮像領域を撮像する撮像手段と、前記撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射する近赤外光照射手段と、前記撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得する3次元情報取得手段と、前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成する画像処理手段と、前記画像処理手段によって生成された画像を表示する表示手段とを備えることにより、上述の課題を解決する。
【0010】
本発明の画像表示方法は、撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射し、撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得し、前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成して表示することで、上述の課題を解決する。
【発明の効果】
【0011】
本発明によれば、車両が走行していなくても、仮想視点から撮像した画像を生成し、表示することができる。
【発明を実施するための最良の形態】
【0012】
以下、本発明の実施の形態について図面を参照して説明する。
【0013】
まず、図1を用いて、本発明の実施の形態として示す俯瞰画像表示システムについて説明をする。図1に示すように俯瞰画像表示システムは、撮像装置11と、近赤外光照射装置12と、画像処理装置20と、当該俯瞰画像表示システムを統括的に制御する制御部30と、車両室内に設置され、画像処理装置20にて所定の画像処理を施された画像を出力表示する、例えば、比較的インチサイズが小さく薄型の液晶ディスプレイなどである表示装置40とを備える。この俯瞰画像表示システムは、図2に示すように車両50に搭載され、例えば、撮像装置11で運転者から死角となる車両50の後方画像を撮像し、撮像した画像を運転者に提示するバックビューモニタシステムに適用される。
【0014】
なお、俯瞰画像表示システムは、バックビューモニタシステムに限定されることなく、撮像カメラで車両外状況を撮像し、撮像画像を表示装置を介して運転者に提示する、どのようなビューモニタシステム、例えば、左右のサイドミラーに内蔵した広角カメラと、車両に設けられたフロントカメラ、リアカメラで車両周囲を撮像し、この撮像画像に所定の画像処理を施して生成した車両周囲を見渡せる画像を表示することで、運転者の視界を補助する全周囲モニタシステムなどにおいても適用することができる。また、車両ばかりではなく、船舶、航空機、電車といった各種移動体に設けることもできる。
【0015】
図2に示すように、この俯瞰画像表示システムは、実際のカメラ(以下、実カメラと呼ぶ。)である撮像装置11で撮像された画像に画像処理を施すことで、あたかも仮想カメラIMで撮像されたような俯瞰画像を生成することができる。
【0016】
図2では、仮想カメラIMの位置を俯瞰画像を取得することができるような位置に設定しているが、本発明は、これに限定されるものではなく、任意の視点方向を仮想視点として、この仮想視点から撮像した画像を生成することができる。
【0017】
撮像装置11は、ビューモニタシステムおいて要求される車両の周囲環境を撮像するための撮像カメラである。撮像装置11は、撮像素子として、例えば、小型で高画質の画像を撮像することができるCCD(Charge Coupled Devices )などを用いている。撮像装置11で撮像された画像は、電気信号として画像処理装置20に出力される。撮像装置11が備える撮像素子は、可視光領域から近赤外光領域までの波長領域の光を検出することができる。
【0018】
撮像装置11は、俯瞰画像表示システムをバックビューシステムで用いる際には、例えば、図2に示すように車両50の車室内のリアウインドウ近傍に設けられる。従って、撮像装置11によって撮像される画像は、車両50後方を斜め上方から撮像した画像となる。
【0019】
近赤外光照射装置12は、撮像装置11で撮像される対象物の3次元情報(地面に対して鉛直方向の情報)を取得するために対象物に照射する近赤外光の照射パターンを照射する。近赤外光照射装置12は、例えば、光源として、近赤外線LED(Light Emitting Diode)を備えている。照射パターンの照射は、撮像装置11で撮像する撮像領域内に、立体的な障害物が存在するかどうかを第1の目的とし、障害物が存在する場合にはその形状の把握を第2の目的としている。
【0020】
この近赤外光照射装置12は、撮像装置11で撮像される対象物の3次元情報を取得するために別途用意してもよいが、ビューモニタシステムにおいて、夜間時や悪天候時における撮像装置11の視認性を確保し、利用可能とするために備えられている赤外光照射装置と併用するようにしてもよい。これにより、部品点数を削減することができるため低コスト化を図ることができる。
【0021】
近赤外光照射装置12の近赤外光の発光タイミングは、制御部30によって制御される。3次元情報を取得するために、近赤外光の照射パターンを対象物に照射する場合、制御部30は、例えば、当該俯瞰画像表示システムが起動されたことに応じて、照射パターンの照射を開始するよう制御し、一旦、3次元情報が取得された際には、所定の時間間隔で照射パターンを対象物に照射するように制御する。照射パターンは、近赤外光であるため、運転者に視認されることはなく、車両運転時に照射したとしても運転者の車両操作を阻害することはない。
【0022】
画像処理装置20は、A/D変換部21、画像メモリ22、撮像装置11で撮像された画像を用いて俯瞰画像を生成する画像変換処理部23、画像変換処理部23での画像変換処理に用いる変換テーブルが格納された変換テーブル記憶部24、出力用画像メモリ25、D/A変換部26からなる俯瞰画像生成ブロックB1と、A/D変換部27、3次元情報演算処理部28からなる3次元情報演算処理ブロックB2とを有する。
【0023】
俯瞰画像生成ブロックB1は、画像処理装置20におけるメインタスクとなる俯瞰画像の生成処理を実行するブロックである。一方、3次元情報演算処理ブロックB2は、俯瞰画像生成ブロックB1において、地面からの鉛直方向も考慮したより実際的な俯瞰画像を生成するために用いる3次元情報を求めるブロックである。
【0024】
俯瞰画像生成ブロックB1のA/D変換部21は、撮像装置11で撮像された画像の電気信号をデジタル量に変換する。
【0025】
画像メモリ22は、A/D変換部21でデジタル量に変換された撮像画像の画像データをフレーム単位で記憶する。
【0026】
画像変換処理部23は、図2に示すような撮像装置11とは異なる視点方向の仮想カメラIMによって撮像された俯瞰画像となるように、画像メモリ22に記憶された画像データを、変換テーブル記憶部24に格納された変換テーブルを用いて画像変換処理する。このとき、画像変換処理部23は、後述する3次元情報演算処理部28で演算される3次元情報を考慮した画像変換処理を行う。
【0027】
画像変換処理部23が、変換テーブル記憶部24に格納された変換テーブルを用いて実行する画像変換処理は、ポイント・トゥ・ポイント法と呼ばれる画像変換処理手法である。このポイント・トゥ・ポイント法は、変換後の画像を構成する各画素のアドレスと変換前の画像を構成する各画素のアドレスとを1対1で対応付け、画像メモリ22に格納された画像データのアドレスを変換することで、撮像された原画像を全く異なる視点から撮像された画像へと変換することができる。
【0028】
変換テーブル記憶部24に格納される変換テーブルは、実カメラである撮像装置11の設置位置、撮像装置11のレンズデータ、仮想カメラIMの位置などから一意に決定されるため、設定する仮想視点に応じて用意することになる。
【0029】
図3は、図2で示すように、車両50に搭載されている撮像装置11によって撮像された画像を、画像処理装置20による画像処理を施さずにダイレクトに表示装置40の表示部40aに表示させた様子を示した図である。
【0030】
このように、撮像装置11で撮像される画像に対し、変換テーブル記憶部24に記憶されている変換テーブルを用いて画像変換処理部23で画像変換処理を施すと、表示装置40の表示部40aには、仮想カメラIMによって撮像されたような、図4に示す俯瞰画像を表示させることができる。
【0031】
図5は、撮像装置11で地面に対して鉛直方向に高さを有する対象物OJ1を撮像した画像を、画像変換処理部23による画像変換処理を施すことなく表示装置40の表示部40aに表示させた様子を示した図である。このような、対象物OJ1を撮像装置11で撮像した画像を、画像変換処理部23により画像変換処理を施すことで俯瞰画像を生成し表示装置40の表示部40aに表示させると、図6に示すように、実際には地面対して鉛直方向に高さを有する対象部OJ1が、地面に対して倒れ込んでしまったかのような、違和感のある俯瞰画像となってしまう。
【0032】
このような俯瞰画像は、車両50を運転する運転者に対して、車両50の周囲環境状況を明確に伝えているとはいえないため、運転者の車両操作を確実に支援することができない場合も考えられる。
【0033】
そこで、画像変換処理部23は、変換テーブルを用いた画像変換処理により得られる俯瞰画像が、対象物を仮想カメラIMで撮像したような画像に近づくように、画像処理装置20の3次元情報演算処理ブロックB2によって取得される対象物毎に異なる3次元情報を用いて変換後のアドレスを変更する。つまり、変換テーブルによって1対1で対応づけられていた変換前の画像を構成する各画素を特定するアドレスと、変換後の画像を構成する各画素データのアドレスとの対応づけを3次元情報によって補正する。
【0034】
続いて、3次元情報演算処理ブロックB2について説明をする。3次元情報演算処理ブロックB2は、制御部30の制御により、当該俯瞰画像表示システムが起動され、近赤外光照射装置12にて対象物に照射パターンが照射された際に、対象物に照射された照射パターンの反射光を撮像装置11で撮像することで、撮像装置11の撮像領域に立体的な障害物が存在するどうかを認識し、存在する場合には、その障害物の詳細な形状を取得し3次元情報として画像変換処理部23に通知する。
【0035】
A/D変換部27は、制御部30により近赤外光照射装置12から照射パターンが照射された際に、撮像装置11で撮像された照射パターンの対象物からの反射光による画像の電気信号をデジタル信号に変換する。
【0036】
3次元情報演算処理部28は、A/D変換部27で変換されたデジタル信号から撮像装置11の撮像領域に存在する立体的な対象物の3次元情報を演算する。図7は、近赤外光照射装置12からマトリックス状の照射パターンを照射した際に、撮像装置11で撮像される照射パターンの反射光を撮像した様子の一例を示した図である。
【0037】
図7では、撮像装置11の撮像領域内に障害物である対象物OJ2が存在していることから、近赤外光照射装置12から照射されたマトリックス状の照射パターンが対象物OJ2で反射されている様子が分かる。
【0038】
3次元情報演算処理部28は、スチルカメラなどで一般的に利用されている赤外光を利用したフォーカス制御であるアクティブ・オートフォーカス方式と同じ原理にて、撮像装置11から照射パターンが照射された対象物までの距離を算出する。
【0039】
例えば、図8に示すように、撮像装置11と近赤外光照射装置12とが配置されており、撮像装置11の撮像領域内に対象物PS1、対象物PS2をそれぞれ配置した際の撮像装置11から各対象物までの距離を求める場合を考える。
【0040】
まず、撮像装置11の撮像領域内に、撮像装置11から距離Aだけ離れた位置に対象物PS1を配置し、近赤外光照射装置12から線状の照射パターンを照射すると、撮像装置11では、図9に示すようにラインaの位置に線状の照射パターンが撮像される。
【0041】
次に、撮像装置11の撮像領域内に、対象物PS1に代えて対象物PS2を配置し、近赤外光照射装置12から同一の線状の照射パターンを照射すると、撮像装置11では、図9に示すようにラインbの位置に線状の照射パターンが撮像される。
【0042】
このように、近赤外光照射装置12から同一の照射パターンを、撮像装置11から距離の異なる位置にある対象物に照射すると、撮像装置11で撮像される照射パターンの反射光を画像は、全く異なる位置に照射パターンの反射光が現れる画像となる。これにより、3次元情報演算処理部28は、撮像装置11から照射パターンが照射された対象物の各部位までの距離を算出することができる。3次元情報演算処理部28は、この算出された距離情報を3次元情報として、画像変換処理部23に出力する。
【0043】
近赤外光照射装置12から照射される照射パターンを密にすると分解能が上がるため、対象物の各部位までの距離をより正確に把握することができる。したがって、画像変換処理部23が取得する3次元情報もより詳細な値となるため、画像変換処理部23で生成される俯瞰画像も、対象物の立体形状をより詳細に反映させた画像となる。
【0044】
このように、画像変換処理部23で画像変換処理された画像データは、画像メモリ22と同等の出力用画像メモリ25にフレーム単位で記憶され、D/A変換部26より表示装置40に対応した電気信号に変換され俯瞰画像として表示装置40に出力され表示される。
【0045】
続いて、図10に示すフローチャートを用いて、俯瞰画像表示システムによる俯瞰画像生成処理について説明をする。
【0046】
まず、ステップS1において、運転者の指示に応じて制御部30は、俯瞰画像表示システムを起動させ、撮像装置11を動作させて車両の周囲環境の撮像を開始する。撮像された画像は、A/D変換部21を介して、フレーム単位で画像メモリ22に記憶される。
【0047】
ステップS2において、制御部30は、撮像装置11による車両の周囲環境の撮像を開始したことに応じて、近赤外光照射装置12を制御し、撮像装置11の撮像領域に対して所定の照射パターンを照射させる。
【0048】
ステップS3において、画像処理装置20の3次元情報演算処理部28は、撮像装置11で撮像された画像から、撮像装置11の撮像領域内に存在し、地面に対して高さを有する立体的な対象物の3次元情報を算出する。3次元情報演算処理部28で算出された3次元情報は、画像変換処理部23に出力される。
【0049】
ステップS4において、画像変換処理部23は、変換テーブル記憶部24に格納されている変換テーブルに基づき、画像メモリ22に記憶されている画像データをアドレス毎に読み出し、変換テーブルにて対応付けられている変換先のアドレスの画像データとして、出力用画像メモリ25に書き込むことで画像変換処理を施す。このとき、画像変換処理部23は、3次元情報演算処理部28で算出された3次元情報を考慮して、変換先のアドレスを補正する。
【0050】
例えば、撮像装置11で撮像された対象物の画像が、図11に示すような画像D1であった場合、画像変換処理部23にて3次元情報を考慮しながら変換テーブルにて画像変換処理されると、地面に倒れ込むような俯瞰画像ではなく、図12に示す画像D2のように、仮想カメラIMから撮像されたような俯瞰画像となる。
【0051】
ステップS5において、画像変換処理部23は、3次元情報を考慮した画像変換処理により、変換後に画像データが割り当てられなかった画像表示領域に対して、補正処理を施す。この画像表示領域は、対象物を3次元情報を考慮して画像変換処理をしているのに対し、対象物以外の画像領域では、3次元情報を考慮せずに変換テーブルのみで画像変換処理をしているため生じた領域である。
【0052】
例えば、画像変換処理部23により変換テーブルのみで画像変換処理をした場合には、上述した図5に示す撮像画像が、図6に示すような地面に対して倒れ込んだように見える俯瞰画像へと変換される。3次元情報を考慮した画像変換処理を施した場合には、図12に示すように変換されることから、図13に示す画像表示領域SDには割り当てられる画像データが存在しないことになる。
【0053】
そこで、図13に示すように、この画像表示領域SDの画素データの、例えば、色度情報や輝度情報といった各種属性情報を調整することで、図14に示すような、対象物OJ1の影であるかのように示すことができ、この表示装置40の表示部40aを視認している運転者に対して、死角となる領域を視覚的に識別可能なように提示することができる。
【0054】
これにより、運転者は、車両運転中において、識別可能とされたこの死角となる領域を注視するため、例えば、この領域からの飛び出し予測などを事前にすることができる。
【0055】
このように、本発明の実施の形態として示す俯瞰画像表示システムは、近赤外光照射装置12によって撮像装置11の撮像領域に所定の照射パターンを照射することで、撮像領域内に存在する障害物となる可能性のある立体物の3次元情報を取得し、取得した3次元情報を考慮して、変換テーブルによる画像変換処理を実行することで、撮像装置11を設置することが困難な仮想視点から見た、より正確な俯瞰画像を運転者に提示することができる。
【0056】
また、撮像装置11の撮像領域内にある立体物の3次元情報を取得するのに、近赤外光照射装置12から照射される近赤外光の照射パターンを用いるため、車両が停止状態であっても、さらには、撮像領域内の対象物に移動や変化があった場合でも確実に3次元情報を取得することできる。
【0057】
したがって、車両の運転状態や車両の周囲環境に依存せずに、撮像領域内に存在する対象物の3次元情報を確実に取得することができるため、撮像装置11を設置することが困難な仮想視点から見たより正確な俯瞰画像を、当該俯瞰画像表示システムを起動している間、運転者に常にリアルタイムで提示することができる。
【0058】
なお、上述の実施の形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論である。
【図面の簡単な説明】
【0059】
【図1】本発明の実施の形態として示す俯瞰画像表示システムの構成について説明するための図である。
【図2】俯瞰画像表示システムを車両に搭載した様子を示した図である。
【図3】車両に搭載された撮像装置で撮像された車両周囲の画像を示した図である。
【図4】車両に搭載された撮像装置で撮像された車両周囲の画像に画像処理を施して俯瞰画像とした図である。
【図5】撮像装置で撮像された対象物の画像を示した図である。
【図6】撮像装置で撮像された対象物の画像に画像処理を施して俯瞰画像とした図である。
【図7】近赤外光の照射パターンを照射した様子を示した図である。
【図8】対象物に照射パターンを照射することで取得される3次元情報について説明するための図である。
【図9】同じく、照射パターンを照射することで取得される3次元情報について説明するための図である。
【図10】本発明の実施の形態として示す俯瞰画像表示システムの処理動作について説明するためのフローチャートである。
【図11】画像変換処理を施す前の画像を示した図である。
【図12】3次元情報を考慮して画像変換処理を施すことで生成される俯瞰画像を示した図である。
【図13】俯瞰画像を生成した際に画像データが割り当てられない領域に対する処理について説明するための図である。
【図14】最終的に生成される俯瞰画像の一例を示した図である。
【符号の説明】
【0060】
11 撮像装置
12 近赤外光照射装置
20 画像処理装置
22 画像メモリ
23 画像変換処理部
24 変換テーブル記憶部
28 3次元情報演算処理部
30 制御部
40 表示装置
40a 表示部
【技術分野】
【0001】
本発明は、撮像装置で撮像された撮像画像を画像変換処理することで、仮想視点から撮像した撮像画像を生成して表示する画像表示システム及び画像表示方法に関する。
【背景技術】
【0002】
対象物を高所から見下ろした俯瞰画像を、例えば、車両に搭載した車載カメラで車両の周囲状況を撮像して運転者に提示するビューシステムにおいて提示した場合、車両と障害物との関係を明確に運転者に示すことができるため非常に効果的である。
【0003】
特に、運転者から死角となる車両後方の画像を撮像し、撮像した画像を運転者に提示するバックビューモニタシステムにおいては、撮像した画像を俯瞰画像とすると、車庫入れなどの車両操作を有効に支援することができる。
【0004】
ところで、車両に搭載した撮像カメラで対象物を真上から撮像することは、撮像カメラの取り付け位置に制限があるため非常に困難である。したがって、一般に、車両の所定の位置に設置された撮像カメラにて撮像した画像に画像変換処理を施すことで、仮想的に配置された仮想カメラによってあたかも撮像されたかのような俯瞰画像を取得している。
【0005】
例えば、車両に搭載された実際の撮像カメラ(実カメラ)と対象物とが相対移動した場合に得られる動画情報を解析して、対象物の高さ情報を取得し、取得した高さ情報を用いて対象物の俯瞰図を作成する手法が開示されている。
【特許文献1】特開2002−34035号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した特許文献1で開示されている手法では、俯瞰図を作成するために用いる高さ情報を取得するに際し、車両に搭載された実カメラと対象物との相対移動を前提としている。つまり、高さ情報を取得するためには、車両を移動させる必要がある。
【0007】
したがって、車両が走行を開始する前には高さ情報を取得することができないため、車両が走行を開始する前には俯瞰画像を提供することができなかった。
【0008】
そこで、本発明は、上述した問題を解決するために案出されたものであり、車両が走行していなくても、仮想視点から撮像した画像を生成し表示することができる画像表示システム及び画像表示方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の画像表示システムは、移動体に搭載され、移動体周囲の所定の撮像領域を撮像する撮像手段と、前記撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射する近赤外光照射手段と、前記撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得する3次元情報取得手段と、前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成する画像処理手段と、前記画像処理手段によって生成された画像を表示する表示手段とを備えることにより、上述の課題を解決する。
【0010】
本発明の画像表示方法は、撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射し、撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得し、前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成して表示することで、上述の課題を解決する。
【発明の効果】
【0011】
本発明によれば、車両が走行していなくても、仮想視点から撮像した画像を生成し、表示することができる。
【発明を実施するための最良の形態】
【0012】
以下、本発明の実施の形態について図面を参照して説明する。
【0013】
まず、図1を用いて、本発明の実施の形態として示す俯瞰画像表示システムについて説明をする。図1に示すように俯瞰画像表示システムは、撮像装置11と、近赤外光照射装置12と、画像処理装置20と、当該俯瞰画像表示システムを統括的に制御する制御部30と、車両室内に設置され、画像処理装置20にて所定の画像処理を施された画像を出力表示する、例えば、比較的インチサイズが小さく薄型の液晶ディスプレイなどである表示装置40とを備える。この俯瞰画像表示システムは、図2に示すように車両50に搭載され、例えば、撮像装置11で運転者から死角となる車両50の後方画像を撮像し、撮像した画像を運転者に提示するバックビューモニタシステムに適用される。
【0014】
なお、俯瞰画像表示システムは、バックビューモニタシステムに限定されることなく、撮像カメラで車両外状況を撮像し、撮像画像を表示装置を介して運転者に提示する、どのようなビューモニタシステム、例えば、左右のサイドミラーに内蔵した広角カメラと、車両に設けられたフロントカメラ、リアカメラで車両周囲を撮像し、この撮像画像に所定の画像処理を施して生成した車両周囲を見渡せる画像を表示することで、運転者の視界を補助する全周囲モニタシステムなどにおいても適用することができる。また、車両ばかりではなく、船舶、航空機、電車といった各種移動体に設けることもできる。
【0015】
図2に示すように、この俯瞰画像表示システムは、実際のカメラ(以下、実カメラと呼ぶ。)である撮像装置11で撮像された画像に画像処理を施すことで、あたかも仮想カメラIMで撮像されたような俯瞰画像を生成することができる。
【0016】
図2では、仮想カメラIMの位置を俯瞰画像を取得することができるような位置に設定しているが、本発明は、これに限定されるものではなく、任意の視点方向を仮想視点として、この仮想視点から撮像した画像を生成することができる。
【0017】
撮像装置11は、ビューモニタシステムおいて要求される車両の周囲環境を撮像するための撮像カメラである。撮像装置11は、撮像素子として、例えば、小型で高画質の画像を撮像することができるCCD(Charge Coupled Devices )などを用いている。撮像装置11で撮像された画像は、電気信号として画像処理装置20に出力される。撮像装置11が備える撮像素子は、可視光領域から近赤外光領域までの波長領域の光を検出することができる。
【0018】
撮像装置11は、俯瞰画像表示システムをバックビューシステムで用いる際には、例えば、図2に示すように車両50の車室内のリアウインドウ近傍に設けられる。従って、撮像装置11によって撮像される画像は、車両50後方を斜め上方から撮像した画像となる。
【0019】
近赤外光照射装置12は、撮像装置11で撮像される対象物の3次元情報(地面に対して鉛直方向の情報)を取得するために対象物に照射する近赤外光の照射パターンを照射する。近赤外光照射装置12は、例えば、光源として、近赤外線LED(Light Emitting Diode)を備えている。照射パターンの照射は、撮像装置11で撮像する撮像領域内に、立体的な障害物が存在するかどうかを第1の目的とし、障害物が存在する場合にはその形状の把握を第2の目的としている。
【0020】
この近赤外光照射装置12は、撮像装置11で撮像される対象物の3次元情報を取得するために別途用意してもよいが、ビューモニタシステムにおいて、夜間時や悪天候時における撮像装置11の視認性を確保し、利用可能とするために備えられている赤外光照射装置と併用するようにしてもよい。これにより、部品点数を削減することができるため低コスト化を図ることができる。
【0021】
近赤外光照射装置12の近赤外光の発光タイミングは、制御部30によって制御される。3次元情報を取得するために、近赤外光の照射パターンを対象物に照射する場合、制御部30は、例えば、当該俯瞰画像表示システムが起動されたことに応じて、照射パターンの照射を開始するよう制御し、一旦、3次元情報が取得された際には、所定の時間間隔で照射パターンを対象物に照射するように制御する。照射パターンは、近赤外光であるため、運転者に視認されることはなく、車両運転時に照射したとしても運転者の車両操作を阻害することはない。
【0022】
画像処理装置20は、A/D変換部21、画像メモリ22、撮像装置11で撮像された画像を用いて俯瞰画像を生成する画像変換処理部23、画像変換処理部23での画像変換処理に用いる変換テーブルが格納された変換テーブル記憶部24、出力用画像メモリ25、D/A変換部26からなる俯瞰画像生成ブロックB1と、A/D変換部27、3次元情報演算処理部28からなる3次元情報演算処理ブロックB2とを有する。
【0023】
俯瞰画像生成ブロックB1は、画像処理装置20におけるメインタスクとなる俯瞰画像の生成処理を実行するブロックである。一方、3次元情報演算処理ブロックB2は、俯瞰画像生成ブロックB1において、地面からの鉛直方向も考慮したより実際的な俯瞰画像を生成するために用いる3次元情報を求めるブロックである。
【0024】
俯瞰画像生成ブロックB1のA/D変換部21は、撮像装置11で撮像された画像の電気信号をデジタル量に変換する。
【0025】
画像メモリ22は、A/D変換部21でデジタル量に変換された撮像画像の画像データをフレーム単位で記憶する。
【0026】
画像変換処理部23は、図2に示すような撮像装置11とは異なる視点方向の仮想カメラIMによって撮像された俯瞰画像となるように、画像メモリ22に記憶された画像データを、変換テーブル記憶部24に格納された変換テーブルを用いて画像変換処理する。このとき、画像変換処理部23は、後述する3次元情報演算処理部28で演算される3次元情報を考慮した画像変換処理を行う。
【0027】
画像変換処理部23が、変換テーブル記憶部24に格納された変換テーブルを用いて実行する画像変換処理は、ポイント・トゥ・ポイント法と呼ばれる画像変換処理手法である。このポイント・トゥ・ポイント法は、変換後の画像を構成する各画素のアドレスと変換前の画像を構成する各画素のアドレスとを1対1で対応付け、画像メモリ22に格納された画像データのアドレスを変換することで、撮像された原画像を全く異なる視点から撮像された画像へと変換することができる。
【0028】
変換テーブル記憶部24に格納される変換テーブルは、実カメラである撮像装置11の設置位置、撮像装置11のレンズデータ、仮想カメラIMの位置などから一意に決定されるため、設定する仮想視点に応じて用意することになる。
【0029】
図3は、図2で示すように、車両50に搭載されている撮像装置11によって撮像された画像を、画像処理装置20による画像処理を施さずにダイレクトに表示装置40の表示部40aに表示させた様子を示した図である。
【0030】
このように、撮像装置11で撮像される画像に対し、変換テーブル記憶部24に記憶されている変換テーブルを用いて画像変換処理部23で画像変換処理を施すと、表示装置40の表示部40aには、仮想カメラIMによって撮像されたような、図4に示す俯瞰画像を表示させることができる。
【0031】
図5は、撮像装置11で地面に対して鉛直方向に高さを有する対象物OJ1を撮像した画像を、画像変換処理部23による画像変換処理を施すことなく表示装置40の表示部40aに表示させた様子を示した図である。このような、対象物OJ1を撮像装置11で撮像した画像を、画像変換処理部23により画像変換処理を施すことで俯瞰画像を生成し表示装置40の表示部40aに表示させると、図6に示すように、実際には地面対して鉛直方向に高さを有する対象部OJ1が、地面に対して倒れ込んでしまったかのような、違和感のある俯瞰画像となってしまう。
【0032】
このような俯瞰画像は、車両50を運転する運転者に対して、車両50の周囲環境状況を明確に伝えているとはいえないため、運転者の車両操作を確実に支援することができない場合も考えられる。
【0033】
そこで、画像変換処理部23は、変換テーブルを用いた画像変換処理により得られる俯瞰画像が、対象物を仮想カメラIMで撮像したような画像に近づくように、画像処理装置20の3次元情報演算処理ブロックB2によって取得される対象物毎に異なる3次元情報を用いて変換後のアドレスを変更する。つまり、変換テーブルによって1対1で対応づけられていた変換前の画像を構成する各画素を特定するアドレスと、変換後の画像を構成する各画素データのアドレスとの対応づけを3次元情報によって補正する。
【0034】
続いて、3次元情報演算処理ブロックB2について説明をする。3次元情報演算処理ブロックB2は、制御部30の制御により、当該俯瞰画像表示システムが起動され、近赤外光照射装置12にて対象物に照射パターンが照射された際に、対象物に照射された照射パターンの反射光を撮像装置11で撮像することで、撮像装置11の撮像領域に立体的な障害物が存在するどうかを認識し、存在する場合には、その障害物の詳細な形状を取得し3次元情報として画像変換処理部23に通知する。
【0035】
A/D変換部27は、制御部30により近赤外光照射装置12から照射パターンが照射された際に、撮像装置11で撮像された照射パターンの対象物からの反射光による画像の電気信号をデジタル信号に変換する。
【0036】
3次元情報演算処理部28は、A/D変換部27で変換されたデジタル信号から撮像装置11の撮像領域に存在する立体的な対象物の3次元情報を演算する。図7は、近赤外光照射装置12からマトリックス状の照射パターンを照射した際に、撮像装置11で撮像される照射パターンの反射光を撮像した様子の一例を示した図である。
【0037】
図7では、撮像装置11の撮像領域内に障害物である対象物OJ2が存在していることから、近赤外光照射装置12から照射されたマトリックス状の照射パターンが対象物OJ2で反射されている様子が分かる。
【0038】
3次元情報演算処理部28は、スチルカメラなどで一般的に利用されている赤外光を利用したフォーカス制御であるアクティブ・オートフォーカス方式と同じ原理にて、撮像装置11から照射パターンが照射された対象物までの距離を算出する。
【0039】
例えば、図8に示すように、撮像装置11と近赤外光照射装置12とが配置されており、撮像装置11の撮像領域内に対象物PS1、対象物PS2をそれぞれ配置した際の撮像装置11から各対象物までの距離を求める場合を考える。
【0040】
まず、撮像装置11の撮像領域内に、撮像装置11から距離Aだけ離れた位置に対象物PS1を配置し、近赤外光照射装置12から線状の照射パターンを照射すると、撮像装置11では、図9に示すようにラインaの位置に線状の照射パターンが撮像される。
【0041】
次に、撮像装置11の撮像領域内に、対象物PS1に代えて対象物PS2を配置し、近赤外光照射装置12から同一の線状の照射パターンを照射すると、撮像装置11では、図9に示すようにラインbの位置に線状の照射パターンが撮像される。
【0042】
このように、近赤外光照射装置12から同一の照射パターンを、撮像装置11から距離の異なる位置にある対象物に照射すると、撮像装置11で撮像される照射パターンの反射光を画像は、全く異なる位置に照射パターンの反射光が現れる画像となる。これにより、3次元情報演算処理部28は、撮像装置11から照射パターンが照射された対象物の各部位までの距離を算出することができる。3次元情報演算処理部28は、この算出された距離情報を3次元情報として、画像変換処理部23に出力する。
【0043】
近赤外光照射装置12から照射される照射パターンを密にすると分解能が上がるため、対象物の各部位までの距離をより正確に把握することができる。したがって、画像変換処理部23が取得する3次元情報もより詳細な値となるため、画像変換処理部23で生成される俯瞰画像も、対象物の立体形状をより詳細に反映させた画像となる。
【0044】
このように、画像変換処理部23で画像変換処理された画像データは、画像メモリ22と同等の出力用画像メモリ25にフレーム単位で記憶され、D/A変換部26より表示装置40に対応した電気信号に変換され俯瞰画像として表示装置40に出力され表示される。
【0045】
続いて、図10に示すフローチャートを用いて、俯瞰画像表示システムによる俯瞰画像生成処理について説明をする。
【0046】
まず、ステップS1において、運転者の指示に応じて制御部30は、俯瞰画像表示システムを起動させ、撮像装置11を動作させて車両の周囲環境の撮像を開始する。撮像された画像は、A/D変換部21を介して、フレーム単位で画像メモリ22に記憶される。
【0047】
ステップS2において、制御部30は、撮像装置11による車両の周囲環境の撮像を開始したことに応じて、近赤外光照射装置12を制御し、撮像装置11の撮像領域に対して所定の照射パターンを照射させる。
【0048】
ステップS3において、画像処理装置20の3次元情報演算処理部28は、撮像装置11で撮像された画像から、撮像装置11の撮像領域内に存在し、地面に対して高さを有する立体的な対象物の3次元情報を算出する。3次元情報演算処理部28で算出された3次元情報は、画像変換処理部23に出力される。
【0049】
ステップS4において、画像変換処理部23は、変換テーブル記憶部24に格納されている変換テーブルに基づき、画像メモリ22に記憶されている画像データをアドレス毎に読み出し、変換テーブルにて対応付けられている変換先のアドレスの画像データとして、出力用画像メモリ25に書き込むことで画像変換処理を施す。このとき、画像変換処理部23は、3次元情報演算処理部28で算出された3次元情報を考慮して、変換先のアドレスを補正する。
【0050】
例えば、撮像装置11で撮像された対象物の画像が、図11に示すような画像D1であった場合、画像変換処理部23にて3次元情報を考慮しながら変換テーブルにて画像変換処理されると、地面に倒れ込むような俯瞰画像ではなく、図12に示す画像D2のように、仮想カメラIMから撮像されたような俯瞰画像となる。
【0051】
ステップS5において、画像変換処理部23は、3次元情報を考慮した画像変換処理により、変換後に画像データが割り当てられなかった画像表示領域に対して、補正処理を施す。この画像表示領域は、対象物を3次元情報を考慮して画像変換処理をしているのに対し、対象物以外の画像領域では、3次元情報を考慮せずに変換テーブルのみで画像変換処理をしているため生じた領域である。
【0052】
例えば、画像変換処理部23により変換テーブルのみで画像変換処理をした場合には、上述した図5に示す撮像画像が、図6に示すような地面に対して倒れ込んだように見える俯瞰画像へと変換される。3次元情報を考慮した画像変換処理を施した場合には、図12に示すように変換されることから、図13に示す画像表示領域SDには割り当てられる画像データが存在しないことになる。
【0053】
そこで、図13に示すように、この画像表示領域SDの画素データの、例えば、色度情報や輝度情報といった各種属性情報を調整することで、図14に示すような、対象物OJ1の影であるかのように示すことができ、この表示装置40の表示部40aを視認している運転者に対して、死角となる領域を視覚的に識別可能なように提示することができる。
【0054】
これにより、運転者は、車両運転中において、識別可能とされたこの死角となる領域を注視するため、例えば、この領域からの飛び出し予測などを事前にすることができる。
【0055】
このように、本発明の実施の形態として示す俯瞰画像表示システムは、近赤外光照射装置12によって撮像装置11の撮像領域に所定の照射パターンを照射することで、撮像領域内に存在する障害物となる可能性のある立体物の3次元情報を取得し、取得した3次元情報を考慮して、変換テーブルによる画像変換処理を実行することで、撮像装置11を設置することが困難な仮想視点から見た、より正確な俯瞰画像を運転者に提示することができる。
【0056】
また、撮像装置11の撮像領域内にある立体物の3次元情報を取得するのに、近赤外光照射装置12から照射される近赤外光の照射パターンを用いるため、車両が停止状態であっても、さらには、撮像領域内の対象物に移動や変化があった場合でも確実に3次元情報を取得することできる。
【0057】
したがって、車両の運転状態や車両の周囲環境に依存せずに、撮像領域内に存在する対象物の3次元情報を確実に取得することができるため、撮像装置11を設置することが困難な仮想視点から見たより正確な俯瞰画像を、当該俯瞰画像表示システムを起動している間、運転者に常にリアルタイムで提示することができる。
【0058】
なお、上述の実施の形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論である。
【図面の簡単な説明】
【0059】
【図1】本発明の実施の形態として示す俯瞰画像表示システムの構成について説明するための図である。
【図2】俯瞰画像表示システムを車両に搭載した様子を示した図である。
【図3】車両に搭載された撮像装置で撮像された車両周囲の画像を示した図である。
【図4】車両に搭載された撮像装置で撮像された車両周囲の画像に画像処理を施して俯瞰画像とした図である。
【図5】撮像装置で撮像された対象物の画像を示した図である。
【図6】撮像装置で撮像された対象物の画像に画像処理を施して俯瞰画像とした図である。
【図7】近赤外光の照射パターンを照射した様子を示した図である。
【図8】対象物に照射パターンを照射することで取得される3次元情報について説明するための図である。
【図9】同じく、照射パターンを照射することで取得される3次元情報について説明するための図である。
【図10】本発明の実施の形態として示す俯瞰画像表示システムの処理動作について説明するためのフローチャートである。
【図11】画像変換処理を施す前の画像を示した図である。
【図12】3次元情報を考慮して画像変換処理を施すことで生成される俯瞰画像を示した図である。
【図13】俯瞰画像を生成した際に画像データが割り当てられない領域に対する処理について説明するための図である。
【図14】最終的に生成される俯瞰画像の一例を示した図である。
【符号の説明】
【0060】
11 撮像装置
12 近赤外光照射装置
20 画像処理装置
22 画像メモリ
23 画像変換処理部
24 変換テーブル記憶部
28 3次元情報演算処理部
30 制御部
40 表示装置
40a 表示部
【特許請求の範囲】
【請求項1】
移動体に搭載され、移動体周囲の所定の撮像領域を撮像する撮像手段と、
前記撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射する近赤外光照射手段と、
前記撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得する3次元情報取得手段と、
前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成する画像処理手段と、
前記画像処理手段によって生成された画像を表示する表示手段とを備えること
を特徴とする画像表示システム。
【請求項2】
前記画像処理手段は、前記撮像手段によって撮像された撮像対象物の撮像画像を3次元情報を用いて画像変換処理することで、前記撮像対象物を上方から撮像した俯瞰画像を生成すること
を特徴とする請求項1記載の画像表示システム。
【請求項3】
前記画像処理手段は、当該画像処理手段で生成した画像が、前記撮像手段の視点からは死角となる画像領域を含んでいる場合、前記死角となる画像領域を視覚的に識別可能とすること
を特徴とする請求項1又は請求項2記載の画像表示システム。
【請求項4】
撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射し、
撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得し、
前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成して表示すること
を特徴とする画像表示方法。
【請求項1】
移動体に搭載され、移動体周囲の所定の撮像領域を撮像する撮像手段と、
前記撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射する近赤外光照射手段と、
前記撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得する3次元情報取得手段と、
前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成する画像処理手段と、
前記画像処理手段によって生成された画像を表示する表示手段とを備えること
を特徴とする画像表示システム。
【請求項2】
前記画像処理手段は、前記撮像手段によって撮像された撮像対象物の撮像画像を3次元情報を用いて画像変換処理することで、前記撮像対象物を上方から撮像した俯瞰画像を生成すること
を特徴とする請求項1記載の画像表示システム。
【請求項3】
前記画像処理手段は、当該画像処理手段で生成した画像が、前記撮像手段の視点からは死角となる画像領域を含んでいる場合、前記死角となる画像領域を視覚的に識別可能とすること
を特徴とする請求項1又は請求項2記載の画像表示システム。
【請求項4】
撮像手段で撮像される撮像領域に対して所定の照射パターンの近赤外光を照射し、
撮像領域に照射された照射パターンを前記撮像手段によって撮像した撮像画像から、前記撮像領域に存在する撮像対象物の3次元情報を取得し、
前記撮像手段によって撮像された撮像対象物の撮像画像を、前記3次元情報を用いて画像変換処理することで、前記撮像対象物を前記撮像手段とは異なる仮想視点から撮像した画像を生成して表示すること
を特徴とする画像表示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2007−49392(P2007−49392A)
【公開日】平成19年2月22日(2007.2.22)
【国際特許分類】
【出願番号】特願2005−231208(P2005−231208)
【出願日】平成17年8月9日(2005.8.9)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
【公開日】平成19年2月22日(2007.2.22)
【国際特許分類】
【出願日】平成17年8月9日(2005.8.9)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】
[ Back to top ]