車載照明装置、画像処理装置、画像表示システム及び照明方法
【課題】車両の周辺の撮影を補助する照明に係る消費電力を低減できる技術を提供する。
【解決手段】画像表示システム120では、ディスプレイ21に表示される画像に含まれる車両の周辺の領域に応じて、複数の光源60のそれぞれの光量を個別に調整する。このため、必要となる一部の光源60の光量のみを増加させることができる。したがって、複数の光源60の全てを最大の光量で常に発光させる必要が無いため、消費電力を低減できる。
【解決手段】画像表示システム120では、ディスプレイ21に表示される画像に含まれる車両の周辺の領域に応じて、複数の光源60のそれぞれの光量を個別に調整する。このため、必要となる一部の光源60の光量のみを増加させることができる。したがって、複数の光源60の全てを最大の光量で常に発光させる必要が無いため、消費電力を低減できる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両の周辺の撮影を補助する照明を行う技術に関する。
【背景技術】
【0002】
従来より、自動車などの車両に搭載され、車載カメラで車両の周辺を撮影して得られた画像を車室内のディスプレイに表示する画像表示システムが知られている。この画像表示システムを利用することにより、ドライバは車両の周辺の様子をほぼリアルタイムに把握することができる。
【0003】
例えば、運転席の逆側となるフロントフェンダの外側領域は運転席から死角となりやすく、車体と障害物との間のクリアランスをドライバが把握しにくい。これに対して、画像表示システムを利用すれば、車載カメラの撮影によりフロントフェンダの外側領域を示す画像が取得され、その画像が車室内のディスプレイに表示される。これにより、車両の幅寄せを行う場合などにおいて、運転席の逆側の車体と障害物との間のクリアランスをドライバが容易に確認できることとなる。
【0004】
このような画像表示システムでは、夜間など周辺環境が暗い場合においては撮影時に十分な露光量が得られず、車両の周辺を示す画像としての明るさが十分に確保できない場合がある。このため、周辺環境が比較的暗い場合には撮影を補助する補助光を発光して撮影対象となる領域を照明し、画像として必要な明るさを確保することも提案されている(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2004−189060号公報
【特許文献2】特許第3286306号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、近年では、複数の車載カメラで車両の周辺を撮影して得られる複数の撮影画像を利用して、車両の直上や後方などの任意の仮想視点からみた車両の周辺の様子を示す合成画像を生成してディスプレイに表示する画像表示システムが提案されている(例えば、特許文献2参照。)。この画像表示システムでは、車両の周囲の全体を示す画像をディスプレイに表示させることも可能である。
【0007】
このような画像表示システムを利用する場合においても、周辺環境が比較的暗い場合には車両の周囲を照明することが望ましい。画像表示システムで表示可能な領域が広がると、それに伴い、周辺環境が比較的暗い場合に補助光で照明すべき領域についても広がることになる。例えば、車両の側方領域については、車両の前方から後方にわたる比較的広い範囲を補助光で照明する必要がある。
【0008】
また一方で、人工的な植物や石壁などは補助光を反射しにくい性質があるため、車両の近傍に存在するこれらの被写体像の視認性を向上するために、補助光の光量をより高くしたいという要望がある。
【0009】
しかしながら、照明すべき領域の全体に関して一律に補助光の光量を高くしたのでは、照明すべき領域が広いために非常に大きな電力が必要となり、補助光での照明に係る消費電力が高くなってしまう。また、常に高い光量で補助光を発光することにより、補助光を発光する光源の劣化が進行し、その耐久性が低下する可能性がある。
【0010】
本発明は、上記課題に鑑みてなされたものであり、車両の周辺の撮影を補助する照明に係る消費電力を低減できる技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するため、請求項1の発明は、車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う車載照明装置であって、前記画像生成装置は、前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させるものであり、前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源と、前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記複数の光源のそれぞれの光量を個別に調整する調整手段と、を備えている。
【0012】
また、請求項2の発明は、請求項1に記載の車載照明装置において、前記調整手段は、前記複数の光源の一部の光量を基準光量よりも増加させ、他の光源の光量を基準光量よりも減少させる。
【0013】
また、請求項3の発明は、請求項1または2に記載の車載照明装置において、前記車両の周辺の明るさを取得する取得手段、をさらに備え、前記調整手段は、前記車両の周辺の明るさに応じて、前記複数の光源の光量を調整する。
【0014】
また、請求項4の発明は、請求項1ないし3のいずれかに記載の車載照明装置において、前記車両の走行に用いる走行用灯火装置の点灯状態を示す信号を入力する手段、をさらに備え、前記調整手段は、前記点灯状態に応じて、前記複数の光源の光量を調整する。
【0015】
また、請求項5の発明は、請求項1ないし3のいずれかに記載の車載照明装置において、前記車両のドライバが意図する方向指示を入力する手段、をさらに備え、前記複数の光源は、前記車両の左側及び右側にそれぞれ配置され、前記調整手段は、前記方向指示が有るときは、前記方向指示が示す方向に配置された前記複数の光源の光量を、前記方向指示の逆方向に配置された前記複数の光源の光量以上とする。
【0016】
また、請求項6の発明は、車両に搭載される画像処理装置であって、前記車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成可能な画像生成装置と、前記画像生成装置の撮影を補助する照明を行う請求項1ないし5のいずれかに記載の車載照明装置と、を備えている。
【0017】
また、請求項7の発明は、車両に搭載される画像表示システムであって、請求項6に記載の画像処理装置と、前記画像処理装置から出力された前記車両の周辺を示す画像を表示する表示装置と、を備えている。
【0018】
また、請求項8の発明は、車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う照明方法であって、前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させる工程と、前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源のそれぞれの光量を個別に調整する工程と、を備えている。
【発明の効果】
【0019】
請求項1ないし8の発明によれば、表示装置に表示される画像に含まれる車両の周辺の領域に応じて複数の光源のそれぞれの光量を個別に調整するため、必要な一部の光源のみの光量を増加させることができるため、複数の光源全ての光量を増加させる必要が無く、消費電力を低減できる。
【0020】
また、特に請求項2の発明によれば、複数の光源の一部の光量を基準光量よりも増加させ、他の光源の光量を基準光量よりも減少させることで、消費電力を低減しつつ特定領域の一部を強調してユーザに示すことができる。
【0021】
また、特に請求項3の発明によれば、光源の光量が車両の周辺の明るさに応じて適切な光量に調整されるため、無駄な照明がなされず消費電力を低減できる。
【0022】
また、特に請求項4の発明によれば、走行用灯火装置が照明している領域を照明しないことで、無駄な照明がなされず消費電力を低減できる。
【0023】
また、特に請求項5の発明によれば、ドライバが意図する方向の光源の光量が逆方向の光源の光量以上とされるため、ドライバが注目すべき領域を強調することができる。
【図面の簡単な説明】
【0024】
【図1】図1は、画像表示システムの構成を示すブロック図である。
【図2】図2は、車載カメラが車両に配置される位置を示す図である。
【図3】図3は、サイドカメラユニットの外観構成を示す図である。
【図4】図4は、車両の後方から見たサイドカメラユニットの断面図である。
【図5】図5は、車両の左側から見たサイドカメラユニットの断面図である。
【図6】図6は、3つの光源の光軸の車両に対する位置関係を示す図である。
【図7】図7は、3つの光源の光軸の車両に対する位置関係を示す図である。
【図8】図8は、合成画像を生成する手法を説明するための図である。
【図9】図9は、画像表示システムの動作モードの遷移を示す図である。
【図10】図10は、周囲確認モードにおける仮想視点の位置の遷移を示す図である。
【図11】図11は、周囲確認モードにおける表示例を示す図である。
【図12】図12は、フロントモードにおける表示モードの遷移を示す図である。
【図13】図13は、バックモードにおける表示モードの遷移を示す図である。
【図14】図14は、ドアミラーが格納された状態を示す図である。
【図15】図15は、基準光量テーブルの内容を示す図である。
【図16】図16は、光量調整テーブルの内容を示す図である。
【図17】図17は、第1の実施の形態における、光源の光量を調整する処理の流れを示す図である。
【図18】図18は、自車確認モードにおける画面の状態遷移を示す図である。
【図19】図19は、仮想視点の位置の遷移を示す図である。
【図20】図20は、第2の実施の形態における、光源の光量を調整する処理の流れを示す図である。
【図21】図21は、車両のヘッドライトが照明可能な領域を示す図である。
【図22】図22は、第3の実施の形態における、光源の光量を調整する処理の流れを示す図である。
【発明を実施するための形態】
【0025】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0026】
<1.第1の実施の形態>
<1−1.システム構成>
図1は、第1の実施の形態の画像表示システム120の構成を示すブロック図である。この画像表示システム120は、車両(本実施の形態では、自動車)に搭載されるものであり、車両の周辺を撮影して画像を生成して車室内に表示する機能を有している。画像表示システム120のユーザ(代表的にはドライバ)は、この画像表示システム120を利用することにより、当該車両の周辺の様子をほぼリアルタイムに把握できるようになっている。
【0027】
図1に示すように、画像表示システム120は、車両の周辺を示す画像を生成する画像処理装置100と、車両に乗車するユーザに対して各種情報を表示するナビゲーション装置20とを主に備えている。画像処理装置100で生成された画像は、ナビゲーション装置20において表示される。
【0028】
ナビゲーション装置20は、ユーザに対しナビゲーション案内を行うものであり、タッチパネル機能を備えた液晶などのディスプレイ21と、ユーザが操作を行う操作部22と、装置全体を制御する制御部23とを備えている。ディスプレイ21の画面がユーザから視認可能なように、ナビゲーション装置20は車両のインストルメントパネルなどに設置される。ユーザからの各種の指示は、操作部22とタッチパネルとしてのディスプレイ21とによって受け付けられる。制御部23は、CPU、RAM及びROMなどを備えたコンピュータとして構成され、所定のプログラムに従ってCPUが演算処理を行うことでナビゲーション機能を含む各種の機能が実現される。
【0029】
ナビゲーション装置20は、画像処理装置100と通信可能に接続され、画像処理装置100との間で各種の制御信号の送受信や、画像処理装置100で生成された画像の受信が可能となっている。ディスプレイ21には、制御部23の制御により、通常はナビゲーション装置20単体の機能に基づく画像が表示されるが、所定の条件下で画像処理装置100で生成された車両の周辺の様子を示す画像が表示される。これにより、ナビゲーション装置20は、画像処理装置100で生成された画像を受信して表示する表示装置としても機能する。
【0030】
画像処理装置100は、その本体部10が画像を生成する機能を有するECU(Electronic Control Unit)として構成され、車両の所定の位置に配置される。画像処理装置100は、車両の周辺を撮影する撮影部5を備えており、この撮影部5で車両の周辺を撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成する画像生成装置として機能する。
【0031】
さらに、画像処理装置100は、撮影部5の撮影を補助する照明を行う補助照明部6を備えており、撮影部5の撮影を補助する照明を行う車載照明装置としても機能する。補助照明部6は、撮影部5の撮影を補助する補助光を発光する複数の光源60(本実施の形態では6つの光源60)を備えている。夜間など周辺環境が暗い場合においては撮影部5での撮影時に十分な露光量が得られず、取得される画像は車両の周辺を示すのに十分に明るさとならないことから、補助照明部6が照明を行う。
【0032】
撮影部5が備える複数の車載カメラ51,52,53と補助照明部6が備える複数の光源60とは、本体部10とは別の車両の適位置に配置されるが詳細は後述する。
【0033】
画像処理装置100の本体部10は、装置全体を制御する制御部1と、撮影部5で取得された撮影画像を処理して表示用の画像を生成する画像生成部3と、ナビゲーション装置20との間で通信を行うナビ通信部42とを主に備えている。
【0034】
ナビゲーション装置20の操作部22やディスプレイ21によって受け付けられたユーザからの各種の指示は、制御信号としてナビ通信部42によって受け付けられて制御部1に入力される。また、画像処理装置100は、表示内容を切り替える指示をユーザから受け付ける切替スイッチ43を備えている。この切替スイッチ43からもユーザの指示を示す信号が制御部1に入力される。これにより、画像処理装置100は、ナビゲーション装置20に対するユーザの操作、及び、切替スイッチ43に対するユーザの操作の双方に応答した動作が可能となっている。切替スイッチ43は、ユーザが操作しやすいように、本体部10とは別に車両の適位置に配置される。
【0035】
画像生成部3は、各種の画像処理が可能なハードウェア回路として構成されており、撮影画像調整部31、及び、合成画像生成部32を主な機能として備えている。
【0036】
撮影画像調整部31は、撮影部5で取得された撮影画像を対象とし、表示に利用するための調整を行うものである。具体的には、撮影画像調整部31は、撮影画像に対して、歪み補正、拡大縮小、及び、切り出しなどの画像処理を行う。
【0037】
合成画像生成部32は、撮影部5の複数の車載カメラ51,52,53で取得された複数の撮影画像に基づいて、車両の周辺の任意の仮想視点からみた車両の周辺の少なくとも一部の領域を示す合成画像を生成する。合成画像生成部32が合成画像を生成する手法については後述する。
【0038】
撮影画像調整部31に調整された撮影画像や合成画像生成部32により生成された合成画像はさらに表示用の画像に調整され、その後、ナビ通信部42によってナビゲーション装置20に出力される。これにより、被写体像として車両の周辺の領域を含む画像がナビゲーション装置20のディスプレイ21に表示されることになる。
【0039】
制御部1は、CPU、RAM及びROMなどを備えたコンピュータとして構成され、所定のプログラムに従ってCPUが演算処理を行うことで各種の制御機能が実現される。図中に示す、画像制御部11、照明制御部12及び輝度取得部13は、このようにして実現される制御部1の機能のうちの一部を示している。
【0040】
画像制御部11は、画像生成部3によって実行される画像処理を制御するものである。例えば、画像制御部11は、合成画像生成部32が生成する合成画像の生成に必要な各種パラメータなどを指示する。
【0041】
照明制御部12は、補助照明部6による照明を制御するものである。照明制御部12は、補助照明部6に含まれる複数の光源60のそれぞれの光量を個別に調整することが可能である。具体的には、照明制御部12は、複数の光源60のそれぞれの光量を決定し、各光源60が発光する補助光の光量が、決定した光量となるように補助照明部6に信号を出力する。
【0042】
輝度取得部13は、4つの車載カメラ51,52,53で取得される4つの撮影画像の各画素の輝度を取得し、その平均輝度を導出する。
【0043】
また、画像処理装置100の本体部10は、不揮発性メモリ40、カード読取部44、及び、信号入力部41をさらに備えており、これらは制御部1に接続されている。
【0044】
不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどで構成されている。不揮発性メモリ40には、車種別データ4a、基準光量テーブル4b、及び、光量調整テーブル4cなどが記憶されている。車種別データ4aは、合成画像生成部32が合成画像を生成する際に必要となる車両の種別に応じたデータである。また、基準光量テーブル4b及び光量調整テーブル4cは、照明制御部12が、補助照明部6の複数の光源60の光量を決定する際に参照するテーブルデータである。
【0045】
カード読取部44は、可搬性の記録媒体であるメモリカードMCの読み取りを行う。カード読取部44は、メモリカードMCの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードMCに記録されたデータを読み取る。カード読取部44で読み取られたデータは、制御部1に入力される。
【0046】
メモリカードMCは、種々のデータを記憶可能なフラッシュメモリなどで構成されており、画像処理装置100はメモリカードMCに記憶された種々のデータを利用できる。例えば、メモリカードMCにプログラムを記憶させ、これを読み出すことで、制御部1の機能を実現するプログラム(ファームウェア)を更新することが可能である。また、メモリカードMCに不揮発性メモリ40に記憶された車種別データ4aとは異なる種別の車両に応じた車種別データを記憶させ、これを読み出して不揮発性メモリ40に記憶させることで、画像表示システム120を異なる種別の車両に対応させることも可能である。
【0047】
また、信号入力部41は、車両に設けられた各種装置からの信号を入力する。この信号入力部41を介して、画像表示システム120の外部からの信号が制御部1に入力される。具体的には、シフトセンサ81、車速度センサ82、灯火制御装置84、方向指示器85、及び、ミラー駆動装置86などから、各種情報を示す信号が制御部1に入力される。
【0048】
シフトセンサ81からは、車両の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションが入力される。車速度センサ82からは、その時点の車両9の走行速度(km/h)が入力される。
【0049】
灯火制御装置84は、補助照明部6とは別に車両に標準的に設けられる、車両の通常の走行に用いる走行用灯火装置の制御を行う。走行用灯火装置には、ヘッドライト(前照灯)、スモールランプ(車幅灯)、テールランプ(尾灯)、ブレーキランプ(制動灯)、及び、バックランプ(後退灯)などが含まれる。灯火制御装置84は、ドライバの操作に応答してヘッドライトやスモールランプを点灯させ、ヘッドライトまたはスモールランプを点灯させるときにはテールランプを点灯させる。また、灯火制御装置84は、ドライバによりブレーキが踏まれた場合はブレーキランプを点灯させ、シフトポジションが”R”のときにバックランプを点灯させる。灯火制御装置84からは、このような各種の走行用灯火装置の点灯状態が入力される。
【0050】
方向指示器85からは、ウインカースイッチの操作に基づく方向指示、すなわち、車両のドライバが意図する方向指示を示すターン信号が入力される。ウインカースイッチが操作されたときはターン信号が発生し、ターン信号はその操作された方向(左方向あるいは右方向)を示すことになる。ウインカースイッチが中立位置となったときは、ターン信号はオフとなる。
【0051】
また、ミラー駆動装置86は、ドライバの操作に応答して車両のドアミラーを格納/展開する。ミラー駆動装置86からは、ドアミラーの状態(格納/展開)が入力される。
【0052】
<1−2.撮影部及び補助照明部>
次に、画像処理装置100の撮影部5及び補助照明部6についてより詳細に説明する。撮影部5及び補助照明部6は、制御部1に電気的に接続され、制御部1からの信号に基づいて動作する。
【0053】
撮影部5は、車載カメラであるフロントカメラ51、バックカメラ52及びサイドカメラ53を備えている。これらの車載カメラ51,52,53はそれぞれ、CCDやCMOSなどの撮像素子を備えており電子的に画像を取得する。
【0054】
図2は、車載カメラ51,52,53が車両9に配置される位置を示す図である。なお、以下の説明においては、方向及び向きを示す際に、適宜、図中に示す3次元のXYZ直交座標を用いる。このXYZ軸は車両9に対して相対的に固定される。ここで、X軸方向は車両9の左右方向に沿い、Y軸方向は車両9の直進方向(前後方向)に沿い、Z軸方向は鉛直方向に沿っている。また、便宜上、+X側を車両9の右側、+Y側を車両9の後側、+Z側を上側とする。
【0055】
フロントカメラ51は、車両9の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸51aは車両9の直進方向(平面視でY軸方向の−Y側)に向けられている。バックカメラ52は、車両9の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸52aは車両9の直進方向の逆方向(平面視でY軸方向の+Y側)に向けられている。また、サイドカメラ53は、左右のドアミラー93にそれぞれ設けられており、その光軸53aは車両9の左右方向(平面視でX軸方向)に沿って外部に向けられている。なお、フロントカメラ51やバックカメラ52の取り付け位置は、左右略中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。
【0056】
これらの車載カメラ51,52,53のレンズとしては魚眼レンズなどが採用されており、車載カメラ51,52,53は180度以上の画角αを有している。このため、4つの車載カメラ51,52,53を利用することで、車両9の全周囲の撮影が可能となっている。
【0057】
図1に戻り、補助照明部6が備える6つの光源60は、不可視光である近赤外光を発光するLEDなどで構成される。近赤外光は人間の目には見えないため、補助照明部6の光源60から車両9の周辺を照明したとしても、車両9の周辺に存在する歩行者などに影響を与えることがない。一方で、車載カメラ51,52,53に採用される撮像素子は、近赤外光の感度を有している。このため、車両9の周辺環境が比較的暗い場合においては、補助照明部6の光源の近赤外光を補助光として車両9の周辺の領域を照明することにより、歩行者などに影響を与えることなく、その領域の状況を示す十分な明るさの画像を取得できる。
【0058】
補助照明部6の6つの光源60のうち、3つの光源60は車両9の左側に配置され、残りの3つの光源60は車両9の右側に配置される。車両9の左側の3つの光源60は、車両9の左側の側方領域を分割して得られる複数の領域をそれぞれ照明する。一方、車両9の右側の3つの光源60は、車両9の右側の側方領域を分割して得られる複数の領域をそれぞれ照明する。
【0059】
また、車両9の左側の3つの光源60と、車両9の左側のサイドカメラ53とは、同一のハウジング内に収容されて一体化され、全体としてサイドカメラユニット70となっている。同様に、車両9の右側の3つの光源60と、車両9の右側のサイドカメラ53とは、同一のハウジング内に収容されて一体化され、全体としてサイドカメラユニット70となっている。
【0060】
図3は、左側のサイドカメラユニット70の外観構成を示す図である。なお、サイドカメラユニット70の構成や配置は車両9の左右で対称としているため、以降の説明では車両9の左側を例に具体的に説明するが、右側についても同様である。図に示すように、サイドカメラユニット70は、ブラケット79を介してドアミラー93の下側に配置される。
【0061】
図4は、左側のサイドカメラユニット70の車両9の後方(+Y側)から見たXZ平面での断面図である。また、図5は、左側のサイドカメラユニット70の車両9の左側(−X側)から見たYZ平面での断面図である。図4は図5のIV−IV位置での断面図に相当し、図5は図4のV−V位置での断面図に相当する。
【0062】
これらの図に示すように、サイドカメラユニット70は、筐体となるハウジング7を有している。このハウジング7内には、サイドカメラ53、ならびに、補助照明部6の3つの光源60及び光源駆動部69が収容されている。3つの光源60は、具体的には、車両9の前方側の領域を主に照明する前方光源61と、車両9の後方側の領域を主に照明する後方光源62と、前方光源61及び後方光源62が照明する領域の相互間の領域を主に照明する中央光源63とである。
【0063】
光源駆動部69は、これら3つの光源60に、車両のバッテリからの電力を供給する。光源駆動部69は、前方光源61、後方光源62及び中央光源63にそれぞれ対応して、3つの電流変更部61a,62a,63aを備えている。各電流変更部61a,62a,63aは、対応する光源61,62,63に流れる電流の値を変更可能となっている。光源60の光量は電流の値に依存するため、このような電流の値の変更により、3つの光源61,62,63の光量が個別に変更される。各光源61,62,63の光量は、制御部1の照明制御部12から信号で指示される。
【0064】
サイドカメラ53は、レンズ531と撮像素子532とを備えて構成されている。図4に示すように、サイドカメラ53は、ハウジング7内に配置され、光軸53aが車両9の外側に向けられている。サイドカメラ53は、この光軸53aの方向が鉛直方向に対して所定の角度(例えば、約45度)となるようにハウジング7に固定される。
【0065】
補助照明部6の3つの光源60は、ハウジング7内においてサイドカメラ53よりも内側(+X側)に配置されている。3つの光源61,62,63の光軸61a,62a,63aは車両9の外側に向けられ、その方向はすべて車両9の前後方向(Y軸方向)から見て鉛直方向に対して所定の角度θ1とされている。角度θ1は、例えば30度以下とすることが望ましい。
【0066】
また、図5に示すように、ハウジング7内の中央部分には中央光源63が配置されるとともに、前方光源61と後方光源62とはハウジング7内の中心に関して左右対称に配置されている。車両9の左右方向(X軸方向)から見て、中央光源63の光軸63aの方向は鉛直方向(Z軸方向)に沿っており、前方光源61の光軸61aの方向は車両9の前方側(−Y側)に傾けられ、後方光源62の光軸62aの方向は車両9の後方側(+Y側)に傾けられている。そして、前方光源61の光軸61aの方向と後方光源62の光軸62aの方向とは、中央光源63の光軸63aの方向に関して対称とされている。すなわち、中央光源63の光軸63aと前方光源61の光軸61aとでなす角度は、中央光源63の光軸63aと後方光源62の光軸62aとでなす角度に一致し、所定の角度θ2とされている。角度θ2は、例えば60度以上70度以下とすることが望ましい。
【0067】
補助照明部6の3つの光源60は、上記で説明した位置及び方向となるように、固定部材71によりハウジング7に固定される。すなわち、3つの光源60は、その光軸が互いに異なる方向に向けた状態でハウジング7に固定されることになる。これらの光源60の固定位置の下部に相当するハウジング7の部分には、近赤外光を透過する透過部材72が採用されている。これにより、光源60の補助光をハウジング7の外部に投光できるようになっている。
【0068】
図6及び図7は、左側のサイドカメラユニット70における3つの光源60の光軸の車両9に対する位置関係を示す図である。図6は上面図(+Z側から見た図)、図7は側面図(−X側から見た図)である。
【0069】
これらの図に示すように、ドアミラー93に設けられるサイドカメラユニット70から、車両9の側面に対しX軸方向に500mm離間した位置に向けて、3つの光源60の光軸61a,62a,63aが延びている。3つの光源60の光軸61a,62a,63aの方向は互いに異なっている。具体的には、平面視(図6参照)で、中央光源63の光軸63aは車両9の左右方向(X軸方向)に沿っており、前方光源61の光軸61aは車両9の前方側(−Y側)に向けられ、後方光源62の光軸62aは車両9の後方側(+Y側)に向けられている。また、側面視(図7参照)で、中央光源63の光軸63aは鉛直方向(Z軸方向)に沿っており、前方光源61の光軸61aは車両9の前方側(−Y側)に向けられ、後方光源62の光軸62aは車両9の後方側(+Y側)に向けられている。前方光源61の光軸61aの方向と後方光源62の光軸62aの方向とは、中央光源63の光軸63aの方向に関して対称とされている。
【0070】
このような光軸の配置により、3つの光源61,62,63によって車両9の側方領域SAが分担して照明される。照明対象となる側方領域SAには、車両9に対して相対固定される特定領域が設定されている。具体的には、車両9の前後方向(Y軸方向)においては、車両9の前端よりも約2m前方の位置から車両9のおよそ後端位置までが側方領域SAの範囲となっている。また、車両9の左右方向(X軸方向)においては、車両9の側面の位置からその外側に約1m離れた位置までが側方領域SAの範囲となっている。
【0071】
3つの光源61,62,63は、この照明対象となる側方領域SAを分割した複数の領域FA,BA,CAをそれぞれ照明する。具体的には、前方光源61は、照明対象となる側方領域SAのうち、車両9の前端よりも前方の領域(以下、「前方領域」という。)FAを主に照明する。後方光源62は、照明対象となる側方領域SAのうち、車両9のリアドア96及びリアフェンダ97付近の外側の領域(以下、「後方領域」という。)BAを主に照明する。また、中央光源63は、照明対象となる側方領域SAのうち、前方領域FAと後方領域BAとの間となる、車両9のフロントフェンダ94及びフロントドア95付近の外側の領域(以下、「中央領域」という。)CAを主に照明する。
【0072】
中央光源63は、前方光源61及び後方光源62と比較して、サイドカメラユニット70の位置(3つの光源60が配置される位置)から比較的近い領域を照明する。このため、中央光源63の光量を、前方光源61及び後方光源62の光量と同レベルとすると、側方領域SAのうち中央領域CAが他の領域FA,BAよりも明るく照明され、側方領域SAの全体として明るさが不均一となることが考えられる。このため、車両9の前方側から後方側にわたる車両9の側方領域SAの全体をおよそ均一に照明できるように、中央光源63については、前方光源61及び後方光源62と比較して光量が低くなるように調整されるようになっている。
【0073】
このように、本実施の形態においては、車両9の同一方向の側方領域SAを照明する3つの光源60が、同一のハウジング7内に光軸の方向が互いに異なる状態で固定されて収容される。これにより、3つの光源60がハウジング7によってサイドカメラユニット70として一体化される。このため、このサイドカメラユニット70を取り付けるのみで、複数の光源60を一度に取り付けることができる。また、3つの光源60への電源ラインや制御ラインなどの電気配線も、一つのサイドカメラユニット70の位置まで行えばよいことになる。このため、車両9の比較的広範囲な側方領域SAを照明するための複数の光源60を、簡便かつ低コストに車両9に取り付けることが可能となっている。
【0074】
<1−3.合成画像の生成>
次に、画像生成部3の合成画像生成部32が、撮影部5で得られた複数の撮影画像に基づいて車両9の周辺の少なくとも一部の領域を任意の仮想視点からみた様子を示す合成画像を生成する手法について説明する。合成画像を生成する際には、不揮発性メモリ40に予め記憶された車種別データ4aが利用される。図8は、合成画像を生成する手法を説明するための図である。
【0075】
撮影部5のフロントカメラ51、バックカメラ52及びサイドカメラ53で同時に撮影が行われると、車両9の前方、後方、左側方、及び、右側方をそれぞれ示す4つの撮影画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの撮影画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。
【0076】
次に、4つの撮影画像P1〜P4の各画素が、仮想的な三次元空間における立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。撮影画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とは予め対応関係が定められている。このため、立体曲面SPの各画素の値は、この対応関係と撮影画像P1〜P4に含まれる各画素の値とに基づいて決定できる。
【0077】
撮影画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、車両9における4つの車載カメラ51,52,53の配置(相互間距離、地上高さ、光軸角度等)に依存する。このため、この対応関係を示すテーブルデータが、不揮発性メモリ40に記憶された車種別データ4aに含まれている。
【0078】
また、車種別データ4aに含まれる車体の形状やサイズを示すポリゴンデータが利用され、車両9の三次元形状を示すポリゴンモデルである車両像が仮想的に構成される。構成された車両像は、立体曲面SPが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0079】
さらに、立体曲面SPが存在する三次元空間に対して、制御部1により仮想視点VPが設定される。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の周辺に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0080】
そして、設定された仮想視点VPに応じて、立体曲面SPにおける必要な領域が画像として切り出される。仮想視点VPと、立体曲面SPにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。一方で、設定された仮想視点VPに応じてポリゴンで構成された車両像に関してレンダリングがなされ、その結果となる二次元の車両像が、切り出された画像に対して重畳される。これにより、車両9及びその車両9の周辺の少なくとも一部の領域を任意の仮想視点からみた様子を示す合成画像が生成されることになる。
【0081】
例えば、視点位置が車両9の位置の略中央の直上位置で、視野方向が略直下方向とした仮想視点VP1を設定した場合は、車両9の略直上から車両9を見下ろすように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP1が生成される。また、図中に示すように、視点位置が車両9の位置の左後方で、視野方向が車両9における略前方とした仮想視点VP2を設定した場合は、車両9の左後方からその周辺全体を見渡すように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP2が生成される。
【0082】
なお、実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、設定された仮想視点VPに対応して必要となる領域の画素の値のみを撮影画像P1〜P4に基づいて決定することで、処理速度を向上できる。
【0083】
<1−4.動作モード>
次に、画像表示システム120の動作モードについて説明する。図9は、画像表示システム120の動作モードの遷移を示す図である。画像表示システム120は、ナビモードM0、周囲確認モードM1、フロントモードM2、及び、バックモードM3の4つの動作モードを有している。これらの動作モードは、ドライバの操作や車両9の走行状態に応じて制御部1の制御により切り替えられるようになっている。
【0084】
ナビモードM0は、ナビゲーション装置20の機能により、ナビゲーション案内用の地図画像などをディスプレイ21に表示する動作モードである。ナビモードM0では、画像処理装置100の機能が利用されず、ナビゲーション装置20単体の機能で各種の表示がなされる。このため、ナビゲーション装置20が、テレビジョン放送の電波を受信して表示する機能を有している場合は、ナビゲーション案内用の地図画像に代えて、テレビジョン放送画面が表示されることもある。
【0085】
これに対して、周囲確認モードM1、フロントモードM2及びバックモードM3は、画像処理装置100の機能を利用して、撮影画像及び合成画像の少なくとも一つをディスプレイ21に表示して、車両9の周辺の状況をリアルタイムでユーザに示す動作モードである。
【0086】
周囲確認モードM1は、車両9を見下ろした状態で車両9の周囲を周回するようなアニメーション表現を行う動作モードである。フロントモードM2は、前進時に必要となる車両9の前方や側方を主に示す画像を表示する動作モードである。また、バックモードM3は、後退時に必要となる車両9の後方を主に示す画像を表示する動作モードである。
【0087】
画像表示システム120は起動すると、最初に周囲確認モードM1となる。周囲確認モードM1の場合には、車両9の周囲を周回するようなアニメーション表現がなされた後に所定時間(例えば、6秒)が経過すると、自動的にフロントモードM2に切り替えられる。また、フロントモードM2の場合において、走行速度が例えば0km/hの状態(停止状態)で切替スイッチ43が所定時間以上継続して押下されると、周囲確認モードM1に切り替えられる。なお、ドライバからの指示で、周囲確認モードM1からフロントモードM2に切り替えるようにしてもよい。
【0088】
また、フロントモードM2の場合に走行速度が例えば10km/h以上になったときは、ナビモードM0に切り替えられる。逆に、ナビモードM0の場合に車速度センサ82から入力される走行速度が例えば10km/h未満になったときは、フロントモードM2に切り替えられる。
【0089】
車両9の走行速度が比較的高い場合においては、ドライバを走行に集中させるためにフロントモードM2が解除される。逆に、車両9の走行速度が比較的低い場合においては、ドライバは車両9の周辺の状況をより考慮した運転、具体的には、見通しの悪い交差点への進入、方向変更、あるいは、幅寄せなどを行っている場面が多い。このため、走行速度が比較的低い場合においては、ナビモードM0からフロントモードM2に切り替えられる。なお、ナビモードM0からフロントモードM2に切り替える場合は、走行速度が10km/h未満という条件に、ドライバからの明示的な操作指示があるという条件を加えてもよい。
【0090】
また、ナビモードM0あるいはフロントモードM2の場合に、シフトセンサ81から入力されるシフトレバーの位置が”R(後退)”となったときは、バックモードM3に切り替えられる。すなわち、車両9の変速装置が”R(後退)”の位置に操作されているときには、車両9は後退する状態であるため、車両9の後方を主に示すバックモードM3に切り替えられる。
【0091】
一方、バックモードM3の場合に、シフトレバーの位置が”R(後退)”以外となったときは、その時点の走行速度を基準として、ナビモードM0あるいはフロントモードM2に切り替えられる。すなわち、走行速度が10km/h以上であればナビモードM0に切り替えられ、走行速度が10km/h未満であればフロントモードM2に切り替えられる。
【0092】
以下、周囲確認モードM1、フロントモードM2及びバックモードM3のそれぞれにおける、車両9の周辺の表示態様について詳細に説明する。
【0093】
<1−5.周囲確認モード>
まず、周囲確認モードM1における車両9の周辺の表示態様について説明する。周囲確認モードM1においては、1つの表示モードのみがある。周囲確認モードM1においては、被写体像として車両9の全周囲の領域を含む合成画像が表示されるが、この合成画像のための仮想視点VPが連続的に変化され、アニメーション表現がなされる。
【0094】
具体的には、車両9を見下ろすように仮想視点VPが設定され、図10に示すように、この仮想視点VPが車両9の周辺を周回するように連続的に移動される。仮想視点VPは、最初に車両9の後方に設定された後、右回りで車両9の周辺を周回する。このようにして仮想視点VPが、車両9の左側、前方及び右側を経由して再び後方まで移動すると、車両9の直上まで移動する。このように仮想視点VPが移動されている状態で、複数の合成画像が時間連続して生成される。生成された複数の合成画像は、ナビゲーション装置20に順次に出力されて、ディスプレイ21に時間連続して表示される。
【0095】
これにより、図11に示すように、車両9を見下ろした状態で車両9の周囲を周回するようなアニメーション表現がなされることになる。図11に示す例では、状態ST1〜ST6の順で合成画像RPが順次に表示される。各合成画像RPにおいては、車両9は画像の中心付近に配置されており、車両9とともに車両9の周辺の様子を確認できるようになっている。
【0096】
ユーザは、周囲確認モードM1のこのようなアニメーション表現を視認することで、車両9を目の前にした視点から車両9の全周囲の状況を確認することができ、直感的に車両9の全周囲の障害物と車両9との位置関係を把握できることになる。
【0097】
<1−6.フロントモード>
次に、フロントモードM2における車両9の周辺の表示態様について詳細に説明する。図12は、フロントモードM2における表示モードの遷移を示す図である。フロントモードM2では、走行俯瞰モードM21、自車確認モードM22、及び、サイドカメラモードM23の3つの表示モードがあり、これらの表示モードは互いに表示態様が異なっている。すなわち、表示モードごとに表示される撮影画像及び合成画像が異なっており、表示モードごとに車両の周辺の異なる領域がユーザに示されることになる。これらの画面には、各表示態様における視野範囲を示す視野ガイド90が表示され、ユーザに対して車両9の周辺のいずれの領域を表示しているかが示されるようになっている。
【0098】
これらの表示モードは、ユーザが切替スイッチ43を押下するごとに、走行俯瞰モードM21、自車確認モードM22、サイドカメラモードM23の順で制御部1の制御により切り替えられる。サイドカメラモードM23の場合に切替スイッチ43を押下すると、再び、走行俯瞰モードM21に戻るようになっている。
【0099】
走行俯瞰モードM21は、車両9の直上の仮想視点VPからみた車両9の様子を示す合成画像FP1と、フロントカメラ51での撮影により得られる撮影画像であるフロント画像FP2とを並べて含む画面をディスプレイ21に表示する表示モードである。すなわち、走行俯瞰モードM21では、被写体像として車両9の周辺全体の領域を含む合成画像FP1と、被写体像として車両9の前方の領域を含むフロント画像FP2との二つの画像が同一画面上に示される。
【0100】
走行俯瞰モードM21においては、このような二つの画像FP1,FP2を閲覧することができるため、ユーザは、車両9の周囲全体とともに、車両9の進行方向である前方の状況を一目で確認できる。走行俯瞰モードM21は、前進中のさまざまな場面で汎用性高く利用できる表示モードであるといえる。
【0101】
また、自車確認モードM22は、フロントカメラ51での撮影により得られる撮影画像であるフロント画像FP3と、車両9の後方の仮想視点VPからみた車両9の周辺の様子を示す合成画像FP4とを並べて含む画面をディスプレイ21に表示する表示モードである。すなわち、自車確認モードM22では、被写体像として車両9の前方の領域を含むフロント画像FP3と、被写体像として車両9の側方領域を含む合成画像FP4との二つの画像が同一画面上に示される。
【0102】
自車確認モードM22のフロント画像FP3は、走行俯瞰モードM21のフロント画像FP2と比較して、左右方向の視野範囲が広く設定されている。このため、見通しの悪い交差点に進入する場合に死角となりやすい車両9の前端より前方かつ左右方向に存在する物体を確認できる。
【0103】
また、自車確認モードM22の合成画像FP4は、走行俯瞰モードM21の合成画像FP1と比較して仮想視点VPの位置が車両9の後方に移動されているため、車両9の後方の領域は狭くなるものの、車両9の側方領域が確認しやすくなっている。このため、対向車とすれ違う場合などに、対向車とのクリアランスを容易に確認できる。
【0104】
自車確認モードM22においては、このような二つの画像FP3,FP4を閲覧することができるため、ユーザは、見通しの悪い交差点に進入する場合や対向車とすれ違う場合などの慎重な運転を必要とする状況において、確認すべき領域の状況を一目で確認できる。
【0105】
また、サイドカメラモードM23は、左右のサイドカメラ53での撮影によりそれぞれ得られる撮影画像であるサイド画像FP5,FP6を並べて含む画面をディスプレイ21に表示する表示モードである。サイド画像FP5,FP6は、運転席から死角となりやすいフロントフェンダ94の外側の領域のみを被写体像として含んでいる。
【0106】
サイドカメラモードM23においては、このような二つの画像FP3,FP4を閲覧することができるため、ユーザは、道路の端に車体を寄せる幅寄せを行う場合などにおいて、確認すべき領域の状況を容易に確認できる。
【0107】
<1−7.バックモード>
次に、バックモードM3における車両9の周辺の表示態様について詳細に説明する。図13は、バックモードM3における表示モードの遷移を示す図である。バックモードM3では、駐車俯瞰モードM31、及び、ドアミラーモードM32の2つの表示モードがあり、これらの表示モードは互いに表示態様が異なっている。すなわち、表示モードごとに表示される撮影画像及び合成画像が異なっており、表示モードごとに車両の周辺の異なる領域がユーザに示されることになる。これらの画面にも、各表示態様における視野範囲を示す視野ガイド90が表示され、ユーザに対して車両9の周辺のいずれの領域を表示しているかが示されるようになっている。
【0108】
これらの表示モードは、ミラー駆動装置86から入力されるドアミラー93の状態に応じて制御部1の制御により切り替えられる。具体的には、ドアミラー93が通常状態に展開されている場合は駐車俯瞰モードM31となり、ドアミラー93が格納されている場合はドアミラーモードM32となる。
【0109】
駐車俯瞰モードM31は、車両9の直上の仮想視点VPからみた車両9の様子を示す合成画像BP1と、バックカメラ52での撮影により得られる撮影画像であるバック画像BP2とを並べて含む画面をディスプレイ21に表示する表示モードである。すなわち、駐車俯瞰モードM31では、被写体像として車両9の周辺全体の領域を含む合成画像BP1と、被写体像として車両9の後方の領域を含むバック画像BP2との二つの画像が同一画面上に示される。
【0110】
駐車俯瞰モードM31においては、このような二つの画像BP1,BP2を閲覧することができるため、ユーザは、車両9の周囲全体とともに、車両9の進行方向である後方の状況を一目で確認できる。駐車俯瞰モードM31は、後退中のさまざまな場面で汎用性高く利用できる表示モードであるといえる。
【0111】
また、ドアミラーモードM32は、左右のサイドカメラ53での撮影によりそれぞれ得られる撮影画像であるサイド画像BP3,BP4を並べて含む画面をディスプレイ21に表示する表示モードである。サイド画像BP3,BP4は、ドアミラー93が展開している際に、ドアミラー93に映る範囲とほぼ同様の範囲、具体的には、車両9の側方領域のうちの後方を示すものとなる。
【0112】
図14に示すように、サイドカメラ53はドアミラー93に設けられるため、ドアミラー93が格納された状態となると、その光軸53aの方向が車両9の後方に向けられることになる。この状態では、サイドカメラ53において車両9の側方全体を示す画像を取得できないため、任意の仮想視点からみた合成画像を生成することは難しくなる。しかしながら、光軸53aが車両9の後方へ移動するため、車両9の側方領域の後方については比較的歪が少ない撮影画像を取得することができる。ドアミラーモードM32では、このようなサイドカメラ53の配置を利用して、被写体像として車両9の側方領域の後方を含む二つのサイド画像BP3,BP4を生成して表示する。
【0113】
ドアミラーモードM32においては、このような二つの画像BP3,BP4を閲覧することができるため、ユーザは、駐車環境によってドアミラー93を格納せざるを得ない場合であっても、ドアミラー93に映る範囲とほぼ同様の範囲を確認することができる。
【0114】
<1−8.光源の光量の調整>
このように画像表示システム120においては、互いに表示態様が異なる各種の表示モードで車両9の周辺の様子がディスプレイ21に示されることになるが、周辺環境が比較的暗くて車両9の周辺を示す画像としての明るさが十分に確保できないときは、補助照明部6から補助光による照明を行うことになる。
【0115】
表示する画像中の物体の視認性を向上するためには、この補助光の光量を高くする必要がある。しかしながら、補助照明部6の複数の光源60全てを能力上最大の光量で常に発光させたのでは、電力が無駄に消費される可能性がある。例えば、周辺環境が暗い場合といっても、夕暮れ時に街灯などによりある程度の明るさがあるような場合には、補助光の光量が少なくても、車両の周辺の様子を示すのに十分な明るさの可能な画像を取得できることがある。また、例えば、サイドカメラモードM23においては、フロントフェンダ94の外側の領域にユーザを注目させる必要があることから、この領域に対応する中央領域CA(図6参照。)については補助光の光量を高くする必要があるが、前方領域FAや後方領域BAについては補助光の光量を高くする必要性は低い。
【0116】
また、複数の光源60の全てを最大の光量で常に発光させた場合は、一つのサイドカメラユニット70に流れる電流の合計値が高くなることから、サイドカメラユニット70を高い電流に対応させるために電気配線や電子部品等のコストが上昇する可能性がある。また、複数の光源60の全てを最大の光量で常に発光させたのでは、光源60の劣化が進行し、その耐久性が低下する可能性もある。
【0117】
このような問題に対応するため、画像表示システム120では、車両の周辺の明るさ、及び、その時点の表示モードに応じて、補助照明部6の複数の光源のそれぞれの光量が個別に調整されるようになっている。
【0118】
具体的には、まず、車両の周辺の明るさに基づいて、複数の光源60のそれぞれについて制御の基準となる光量(以下、「基準光量」という。)が設定される。そして、その複数の光源60のそれぞれの基準光量に基づいて表示モードに応じた調整がなされ、最終的に制御すべき光量(以下、「制御光量」という。)が決定されるようになっている。
【0119】
車両の周辺の明るさと基準光量との対応関係は、不揮発性メモリ40に記憶された基準光量テーブル4bに示されている。基準光量テーブル4bでは、車両の周辺の明るさが暗いほど、基準光量が高くなるように設定されている。
【0120】
図15は、この基準光量テーブル4bの内容を示す図である。本実施の形態では、撮影部5の4つの車載カメラ51,52,53で取得される4つの撮影画像の平均輝度が、車両の周辺の明るさを示す値として利用される。この平均輝度は、輝度取得部13によって導出されるものであり、8ビット(0〜255)で示される。
【0121】
また、光源60が発光する光量はその光源60に流れる電流の値に依存するため、本実施の形態では、各光源60の基準光量は、その基準光量にするために光源60に流すべき電流の値(mA)で表現されている。以下、基準光量にするために光源60に流すべき電流の値を、「基準電流値」という。
【0122】
前述のように、側方領域SAの全体をおよそ均一に照明できるように、前方光源61及び後方光源62と比較して、中央光源63の基準光量(正確には、基準電流値)は低く設定されている。
【0123】
基準光量テーブル4bに示すように、周辺環境が最も暗い場合に相当する平均輝度が「0〜50」の場合は、前方光源61の基準電流値は50(mA)、中央光源63の基準電流値は10(mA)、後方光源62の基準電流値は50(mA)に設定されている。
【0124】
また、平均輝度が「51〜100」の場合は、平均輝度が「0〜50」の場合よりも周辺環境が明るくなっている。このため、平均輝度が「0〜50」の場合よりも基準電流値が低く設定される。具体的には、前方光源61の基準電流値は40(mA)、中央光源63の基準電流値は8(mA)、後方光源62の基準電流値は40(mA)に設定されている。
【0125】
さらに、平均輝度が「101〜150」の場合は、平均輝度が「51〜100」の場合よりも周辺環境がさらに明るくなっている。このため、平均輝度が「51〜100」の場合よりも基準電流値が低く設定される。具体的には、前方光源61の基準電流値は30(mA)、中央光源63の基準電流値は6(mA)、後方光源62の基準電流値は30(mA)に設定されている。
【0126】
また、平均輝度が「151〜255」の場合は、車両の周辺の明るさが十分に明るいため、全ての光源60は非点灯とされる。
【0127】
前方光源61、中央光源63及び後方光源62の全てを、基準光量テーブル4bに設定された基準光量で発光させれば、側方領域SAはその全体がおよそ均一に照明されることになる。このような各光源60に設定された基準光量を、表示モードに応じてどのように調整して制御光量にするかは、不揮発性メモリ40に記憶された光量調整テーブル4cに示されている。
【0128】
図16は、この光量調整テーブル4cの内容を示す図である。図に示すように、光量調整テーブル4cにおいては、表示モードごとに、前方光源61、中央光源63及び後方光源62それぞれの制御光量の決定手法が記載されている。すなわち、制御光量を基準光量に維持すべき光源60には「維持」と示され、制御光量を基準光量よりも増加すべき光源60は「増加」と示され、制御光量を基準光量よりも減少すべき光源60は「減少」と示されている。
【0129】
周囲確認モードM1においては、前方光源61、中央光源63及び後方光源62の全てについて「維持」と示されている。周囲確認モードM1は、車両9の全周囲の状況を確認するための表示モードであるため(図11参照。)、車両の周辺において特にユーザに注目させるべき領域は存在しない。このため、全ての光源60の制御光量は基準光量のまま維持される。
【0130】
走行俯瞰モードM21においては、前方光源61、中央光源63及び後方光源62の全てについて「維持」と示されている。走行俯瞰モードM21では、車両9の周辺全体を示す合成画像FP1が示されることから(図12参照。)、車両の周辺において特にユーザに注目させるべき領域は存在しない。このため、全ての光源60の制御光量は基準光量のまま維持される。
【0131】
自車確認モードM22においては、前方光源61及び中央光源63について「増加」と示され、後方光源62について「減少」と示されている。自車確認モードM22は、見通しの悪い交差点に進入する場合や対向車とすれ違う場合などに利用される(図12参照。)。このため、車両9の前方側にユーザを注目させるために、前方光源61及び中央光源63の制御光量が基準光量よりも増加され、後方光源62の制御光量は基準光量よりも減少される。
【0132】
サイドカメラモードM23においては、中央光源63について「増加」と示され、前方光源61及び後方光源62については「減少」と示されている。サイドカメラモードM23においては、フロントフェンダ94の外側の領域のみが示される(図12参照。)。このため、当該領域にユーザを注目させるために、中央光源63の制御光量が基準光量よりも増加され、前方光源61及び後方光源62の制御光量は基準光量よりも減少される。
【0133】
駐車俯瞰モードM31においては、前方光源61、中央光源63及び後方光源62の全てについて「維持」と示されている。駐車俯瞰モードM31では、車両9の周辺全体を示す合成画像BP1が示されることから(図13参照。)、車両の周辺において特にユーザに注目させるべき領域は存在しない。このため、全ての光源60の制御光量は基準光量のまま維持される。
【0134】
また、ドアミラーモードM32においては、中央光源63について「増加」と示され、前方光源61及び後方光源62については「減少」と示されている。ドアミラーモードM32においては、車両9の側方領域の後方が示されることになる(図13参照。)。ただしこの場合、ドアミラー93が格納されているため、3つの光源60の光軸の方向も車両9の後方側へ移動される。このため、車両9の側方領域の後方に光軸が向けられた中央光源63のみの制御光量が基準光量よりも増加され、前方光源61及び後方光源62の制御光量は基準光量よりも減少される。
【0135】
このように制御光量を決定することは、実際には、その制御光量にするために光源60に流すべき電流の値(以下、「制御電流値」という。)を決定することに相当する。前方光源61及び後方光源62に関しては、制御電流値は、光量調整テーブル4cで「増加」と示される場合は基準電流値に対して例えば10(mA)増加され、「減少」と示される場合は基準電流値に対して例えば10(mA)減少される。また、中央光源63に関しては、制御電流値は、光量調整テーブル4cで「増加」と示される場合は基準電流値に対して例えば2(mA)増加され、「減少」と示される場合は基準電流値に対して例えば2(mA)減少されることになる。
【0136】
<1−9.処理フロー>
次に、上記のような複数の光源60の光量を個別に調整する処理の流れについて説明する。図17は、照明制御部12が光源60の光量を調整する処理の流れを示す図である。この処理は、照明制御部12により繰り返し実行されるものである。
【0137】
まず、ディスプレイ21に車両9の周辺の画像を表示させる状態であるかが判定される(ステップS11)。具体的には、動作モードが、ナビモードM0以外(周囲確認モードM1、フロントモードM2及びバックモードM3のいずれか)であるかが判定される。動作モードがナビモードM0の場合は(ステップS11にてNo)、補助照明部6による照明が不要であるため全ての光源60が消灯される(ステップS17)。
【0138】
また、動作モードがナビモードM0以外のときには(ステップS11にてYes)、次に、補助照明部6による照明が必要な程度に、車両の周辺の明るさが低いか否かが判定される。車両の周辺の明るさは、撮影部5で取得される撮影画像の平均輝度が利用される。輝度取得部13によって撮影画像の平均輝度が導出され、この平均輝度が所定のしきい値(例えば「150」)以下であるか否かが判定される(ステップS12)。撮影画像の平均輝度が所定のしきい値よりも高い場合は(ステップS12にてNo)、補助照明部6による照明が不要であるため全ての光源60が消灯される(ステップS17)
一方、撮影画像の平均輝度が所定のしきい値よりも低い場合は(ステップS12にてYes)、次に、車両の周辺の明るさに基づいて、複数の光源60それぞれの基準光量が設定される。具体的には、不揮発性メモリ40内の基準光量テーブル4bが参照され、撮影画像の平均輝度に基づいて、複数の光源60それぞれの基準電流値が取得される(ステップS13)。
【0139】
次に、その時点の表示モードが取得される(ステップS14)。そして、複数の光源60のそれぞれの基準光量に対して表示モードに応じた調整がなされ、制御光量が決定される(ステップS15)。具体的には、不揮発性メモリ40に記憶された光量調整テーブル4cが参照され、表示モードに応じて基準電流値に対する増減がなされ、あるいは、基準電流値が維持されて制御電流値が決定される。
【0140】
続いて、各光源60の電流の値が制御電流値となるように、光源駆動部69の電流変更部61a,62a,63aのそれぞれに照明制御部12から信号が出力される。これにより、各光源60ごとに個別に調整された制御光量で各光源60が発光することになる(ステップS16)。
【0141】
以上のように、本実施の形態の画像表示システム120では、ディスプレイ21に表示される画像に被写体像として含まれる車両の周辺の領域に応じて、複数の光源60のそれぞれの光量を個別に調整する。このため、必要となる一部の光源60の光量のみを増加させることができる。したがって、複数の光源60の全てを最大の光量で常に発光させる必要が無いため、消費電力を低減できる。これとともに、光源60の劣化の進行を抑制してその耐久性を向上できる。
【0142】
また、表示モードに応じて、複数の光源60のうちの一部の光源60の光量を基準光量よりも増加させ、他の光源60の光量を基準光量よりも減少させることで、光量が増加した光源60が照明する領域と光量が減少した光源60が照明する領域との間のコントラストが高くなり、側方領域SAのうちのユーザに注目させるべき一部の領域(光量が増加した光源60が照明する領域)を強調することができる。また、一部の光源60の光量を増加させたとしても、他の光源60の光量を減少させることから、一つのサイドカメラユニット70に流れる電流の合計値を抑制できるため、電気配線や電子部品等のコストの上昇を防止できる。
【0143】
また、車両の周辺の明るさに応じて光源60の光量が適切な光量に調整されるため、無駄な照明がなされず、消費電力を有効に低減できる。
【0144】
<2.第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態における画像表示システムの構成・処理は、第1の実施の形態とほぼ同様であるが一部のみが相違しているため、以下、第1の実施の形態との相違点を中心に説明する。
【0145】
第2の実施の形態では、自車確認モードM22において、ドライバの方向指示器85のウインカースイッチの操作に応答して、合成画像FP4の仮想視点VPの視点位置が移動されるようになっている。
【0146】
図18は、自車確認モードM22における画面の状態遷移を示す図である。また、図19は、仮想視点VPの位置の遷移を示す図である。方向指示器85から入力されるターン信号がオフの場合、すなわち、方向指示が無い場合は、仮想視点VPの視点位置は車両9の後方における左右略中央の位置VPC(図19参照)、視野方向は車両9の前方方向に設定される。これにより、図18の状態STCに示すように、ディスプレイ21には、車両9の左右双方の側方領域を略均等に含む合成画像FP4が示される。
【0147】
一方、方向指示器85から入力されるターン信号がオンの場合、すなわち、方向指示が有る場合は、仮想視点VPに関して視野方向は車両9の前方方向のまま、視点位置がターン信号が示す方向の位置に移動される。
【0148】
具体的には、ターン信号が左方向を示すときは、仮想視点VPの視点位置は車両9の左サイドの位置VPLに設定される(図19参照)。これにより、図18の状態STLに示すように、方向指示器85のターン信号が示す左方向の側方領域を右方向の側方領域よりも大きく示す合成画像FP4が、ディスプレイ21に表示される。
【0149】
また、ターン信号が右方向を示すときは、仮想視点VPの視点位置は車両9の右サイドの位置VPRに設定される(図19参照)。これにより、図18の状態STRに示すように、方向指示器85のターン信号が示す右方向の側方領域を左方向の側方領域よりも大きく示す合成画像FP4がディスプレイ21に表示される。
【0150】
方向指示器85で指示された方向は、方向変更や幅寄せのときに車両9が移動して接触する物体が存在する可能性が高い。したがって、このように方向指示器85で指示された方向の側方領域を大きく示すことで、ユーザ(代表的にはドライバ)の注意を接触する可能性のある物体に向けさせることができ、車両9と物体との接触を有効に防止できる。なお、方向指示が解除されると、図18の状態STCに示すように、車両9の左右双方の側方領域を略均等に含む合成画像FP4が表示される状態に戻ることになる。
【0151】
また、本実施の形態では、このように方向指示が有る場合は、方向指示が示す方向に配置されたサイドカメラユニット70の3つの光源60の光量を、方向指示の逆方向に配置されたサイドカメラユニット70の3つの光源60の光量以上とするようになっている。
【0152】
図20は、第2の実施の形態における、光源60の光量を調整する処理の流れを示す図である。
【0153】
図20に示すステップS21〜S25,S29の処理は、図17に示すステップS11〜S15,S17の処理と同様である。したがって、ステップS25が完了した時点で、表示モードに応じて制御光量(より正確には、制御電流値)が決定されている。
【0154】
ステップS25が完了すると、続いて、表示モードが自車確認モードM22で、かつ、方向指示が有るか否かが判定される(ステップS26)。方向指示の有無は、ターン信号に基づいて判断される。表示モードが自車確認モードM22以外の場合や、自車確認モードM22であっても方向指示が無い場合は(ステップS26にてNo)、そのままステップS25で決定された制御光量で各光源60が発光するように制御される(ステップS28)。
【0155】
一方、表示モードが自車確認モードM22で、かつ、方向指示が有る場合は(ステップS26にてYes)、方向指示とは逆方向に配置された3つの光源60全ての制御光量が、基準光量よりも減少した値に再決定される。また、方向指示が示す方向に配置された3つの光源60の制御光量はそのまま維持される(ステップS27)。そして、再決定された制御光量で各光源60が発光するように制御されることになる(ステップS28)。
【0156】
これにより、方向指示が示す方向の前方光源61及び中央光源63の制御光量のみが基準光量よりも増加され、他の光源60の制御光量は基準光量よりも減少されることになる。その結果、方向指示が示す方向の光源60の光量がその逆方向の光源60の光量以上となるため、方向指示が示す方向の側方領域をより強調することができ、ユーザ(代表的にはドライバ)の注意を接触する可能性高い方向に向けさせることができる。なお、この場合において、方向指示の逆方向の光源60については、制御光量は減少されてはいるものの消灯されるわけではない。このため、仮に方向指示の逆方向に接触する可能性のある物体が存在する場合でも、ユーザはその物体を認識可能である。
【0157】
なお、本実施の形態では、自車確認モードM22の場合にのみ、方向指示が示す方向に基づいて光源60の光量を調整していたが、他の表示モードにおいても同様に、方向指示が示す方向の光源60の光量がその逆方向の光源60の光量以上となるようにしてもよい。
【0158】
<3.第3の実施の形態>
次に、第3の実施の形態について説明する。第3の実施の形態における画像表示システムの構成・処理は、第1の実施の形態とほぼ同様であるが一部のみが相違しているため、以下、第1の実施の形態との相違点を中心に説明する。
【0159】
一つのサイドカメラユニット70に配置される3つの光源60は、図6に示すように、前方領域FA、中央領域CA及び後方領域BAを照明する。このうち、前方領域FAについては、車両9が標準的に備えるヘッドライトによっても照明することが可能である。
【0160】
図21は、車両9のヘッドライト98が照明可能な領域を示す図である。図中では、ヘッドライト98によって、周辺環境が暗い場合でも十分な明るさの画像の取得が可能な程度(例えば、0.5ルクス以上)に照明できる領域HAをハッチングで示している。図に示すように、前方領域FAは、ヘッドライト98が照明可能な領域HAに含まれている。したがって、ヘッドライト98が点灯している場合は、前方領域FAの光量を高くする必要性は低い。このため、本実施の形態では、ヘッドライト98が点灯している場合は、前方光源61の制御光量を基準光量よりも減少させるようになっている。
【0161】
図22は、第3の実施の形態における、光源60の光量を調整する処理の流れを示す図である。
【0162】
図22に示すステップS31〜S35,S39の処理は、図17に示すステップS11〜S15,S17の処理と同様である。したがって、ステップS35が完了した時点で、表示モードに応じて制御光量(より正確には、制御電流値)が決定されている。
【0163】
ステップS35が完了すると、続いて、ヘッドライト98が点灯されているか否かが判定される(ステップS36)。ヘッドライト98の点灯状態は、灯火制御装置84からの信号に基づいて判断される。ヘッドライト98が点灯していない場合は(ステップS36にてNo)、そのままステップS35で決定された制御光量で各光源60が発光するように制御される(ステップS38)。
【0164】
一方、ヘッドライト98が点灯している場合は(ステップS36にてYes)、前方光源61の制御光量が基準光量よりも減少した値に再決定される。また、前方光源61以外の光源60の制御光量はそのまま維持される(ステップS37)。そして、再決定された制御光量で各光源60が発光するように制御されることになる(ステップS38)。
【0165】
このように、ヘッドライト98が点灯している場合に前方光源61の制御光量を基準光量よりも減少させることで、無駄な照明がなされず、消費電力を有効に低減できる。なお、本実施の形態では、走行用灯火装置のうちヘッドライト98の点灯状態のみを考慮していたが、テールランプやブレーキランプなど他の走行用灯火装置の点灯状態を考慮して各光源60の光量を調整するようにしてもよい。
【0166】
<4.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態で説明した形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0167】
上記実施の形態では、表示モードに応じて複数の光源のそれぞれの光量を個別に調整するようにしている。シフトポジションや走行速度などの車両の走行状態に応じて動作モードが変更され、表示モードは動作モードに応じて変更されることから、上記実施の形態の技術は、車両の走行状態に応じて複数の光源のそれぞれの光量を個別に調整する技術であるともいえる。また、表示モードとは無関係に、車両の走行状態を考慮して複数の光源のそれぞれの光量を個別に調整してもよい。例えば、シフトポジションが”D(前進)”であれば前方光源61の制御光量を基準光量よりも増加させ(他の光源60の光量を基準光量よりも減少させる)、シフトポジションが”R(後退)”であれば後方光源62の制御光量を基準光量よりも増加させる(他の光源60の光量を基準光量よりも減少させる)ことなどが考えられる。また、走行速度が所定以上の場合はドライバに進行方向に集中させるために前方光源61の制御光量を基準光量よりも増加させ(他の光源60の光量を基準光量よりも減少させる)、走行速度が所定未満の場合は車両の周辺の確認が必要な場合が多いため全ての光源60の制御光量を基準光量に維持することなどが考えられる。
【0168】
また、上記実施の形態において、制御光量を基準光量よりも減少させると説明した光源に関しては、消灯させてもよい。
【0169】
また、上記実施の形態では、車両の周辺の明るさに基づいて基準光量が設定されていたが、基準光量は予め定められた一定の値であってもよい。
【0170】
また、上記実施の形態では、車両の周辺の明るさを示す値として撮影画像の平均輝度が利用されていたが、車両の周辺の照度を検出する照度センサを設け、車両の周辺の明るさを示す値としてその照度センサの検出結果を利用してもよい。照度センサは、車両のフロントウインドウ中央上部やダッシュボード上などに取り付けることができる。
【0171】
また、上記実施の形態では、複数の光源が照明する車両の周辺の特定領域として車両の側方領域を設定していたが、特定領域としては車両の側方領域には限定されず車両の周囲の任意の領域を設定すればよい。ただし、上記実施の形態のように側方領域を特定領域とすれば、ドライバにとって確認が難しく走行用灯火装置でも照明しにくい側方領域を示す画像を、車両の周辺が暗い場合でも表示できるため有効である。なお、上記実施の形態では、車両の左右双方の側方領域を特定領域としていたが、一方の側方領域のみ(例えば、特に死角となりやすい運転席の逆側の側方領域のみ)を特定領域として設定してもよい。
【0172】
また、上記実施の形態では、画像処理装置100とナビゲーション装置20とは別の装置であるとして説明したが、画像処理装置100とナビゲーション装置20とが同一の筐体内に配置されて一体型の装置として構成されてもよい。
【0173】
また、上記実施の形態では、画像処理装置100で生成された画像を表示する表示装置はナビゲーション装置20であるとして説明したが、ナビゲーション機能等の特殊な機能を有していない一般的な表示装置であってもよい。
【0174】
また、上記実施の形態において、画像処理装置100の制御部1によって実現されると説明した機能の一部は、ナビゲーション装置20の制御部23によって実現されてもよい。
【0175】
また、上記実施の形態において、信号入力部41を介して画像処理装置100の制御部1に入力されると説明した信号の一部または全部は、ナビゲーション装置20に入力されるようになっていてもよい。この場合は、ナビ通信部42を経由して、画像処理装置100の制御部1に当該信号を入力すればよい。
【0176】
また、上記実施の形態では、車両のドライバが意図する方向指示を方向指示器85から入力していたが、他の手段によって入力してもよい。例えば、ドライバの目を撮影した画像からドライバの視点の動きを検出し、その検出結果からドライバが意図する方向指示を入力するものであってもよい。
【0177】
また、上記実施の形態では、プログラムに従ったCPUの演算処理によってソフトウェア的に各種の機能が実現されると説明したが、これら機能のうちの一部は電気的なハードウェア回路により実現されてもよい。また逆に、ハードウェア回路によって実現されるとした機能のうちの一部は、ソフトウェア的に実現されてもよい。
【符号の説明】
【0178】
1 制御部
12 照明制御部
13 輝度取得部
21 ディスプレイ
32 合成画像生成部
4b 基準光量テーブル
4c 光量調整テーブル
5 撮影部
6 補助照明部
61 前方光源
62 後方光源
63 中央光源
【技術分野】
【0001】
本発明は、車両の周辺の撮影を補助する照明を行う技術に関する。
【背景技術】
【0002】
従来より、自動車などの車両に搭載され、車載カメラで車両の周辺を撮影して得られた画像を車室内のディスプレイに表示する画像表示システムが知られている。この画像表示システムを利用することにより、ドライバは車両の周辺の様子をほぼリアルタイムに把握することができる。
【0003】
例えば、運転席の逆側となるフロントフェンダの外側領域は運転席から死角となりやすく、車体と障害物との間のクリアランスをドライバが把握しにくい。これに対して、画像表示システムを利用すれば、車載カメラの撮影によりフロントフェンダの外側領域を示す画像が取得され、その画像が車室内のディスプレイに表示される。これにより、車両の幅寄せを行う場合などにおいて、運転席の逆側の車体と障害物との間のクリアランスをドライバが容易に確認できることとなる。
【0004】
このような画像表示システムでは、夜間など周辺環境が暗い場合においては撮影時に十分な露光量が得られず、車両の周辺を示す画像としての明るさが十分に確保できない場合がある。このため、周辺環境が比較的暗い場合には撮影を補助する補助光を発光して撮影対象となる領域を照明し、画像として必要な明るさを確保することも提案されている(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2004−189060号公報
【特許文献2】特許第3286306号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、近年では、複数の車載カメラで車両の周辺を撮影して得られる複数の撮影画像を利用して、車両の直上や後方などの任意の仮想視点からみた車両の周辺の様子を示す合成画像を生成してディスプレイに表示する画像表示システムが提案されている(例えば、特許文献2参照。)。この画像表示システムでは、車両の周囲の全体を示す画像をディスプレイに表示させることも可能である。
【0007】
このような画像表示システムを利用する場合においても、周辺環境が比較的暗い場合には車両の周囲を照明することが望ましい。画像表示システムで表示可能な領域が広がると、それに伴い、周辺環境が比較的暗い場合に補助光で照明すべき領域についても広がることになる。例えば、車両の側方領域については、車両の前方から後方にわたる比較的広い範囲を補助光で照明する必要がある。
【0008】
また一方で、人工的な植物や石壁などは補助光を反射しにくい性質があるため、車両の近傍に存在するこれらの被写体像の視認性を向上するために、補助光の光量をより高くしたいという要望がある。
【0009】
しかしながら、照明すべき領域の全体に関して一律に補助光の光量を高くしたのでは、照明すべき領域が広いために非常に大きな電力が必要となり、補助光での照明に係る消費電力が高くなってしまう。また、常に高い光量で補助光を発光することにより、補助光を発光する光源の劣化が進行し、その耐久性が低下する可能性がある。
【0010】
本発明は、上記課題に鑑みてなされたものであり、車両の周辺の撮影を補助する照明に係る消費電力を低減できる技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するため、請求項1の発明は、車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う車載照明装置であって、前記画像生成装置は、前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させるものであり、前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源と、前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記複数の光源のそれぞれの光量を個別に調整する調整手段と、を備えている。
【0012】
また、請求項2の発明は、請求項1に記載の車載照明装置において、前記調整手段は、前記複数の光源の一部の光量を基準光量よりも増加させ、他の光源の光量を基準光量よりも減少させる。
【0013】
また、請求項3の発明は、請求項1または2に記載の車載照明装置において、前記車両の周辺の明るさを取得する取得手段、をさらに備え、前記調整手段は、前記車両の周辺の明るさに応じて、前記複数の光源の光量を調整する。
【0014】
また、請求項4の発明は、請求項1ないし3のいずれかに記載の車載照明装置において、前記車両の走行に用いる走行用灯火装置の点灯状態を示す信号を入力する手段、をさらに備え、前記調整手段は、前記点灯状態に応じて、前記複数の光源の光量を調整する。
【0015】
また、請求項5の発明は、請求項1ないし3のいずれかに記載の車載照明装置において、前記車両のドライバが意図する方向指示を入力する手段、をさらに備え、前記複数の光源は、前記車両の左側及び右側にそれぞれ配置され、前記調整手段は、前記方向指示が有るときは、前記方向指示が示す方向に配置された前記複数の光源の光量を、前記方向指示の逆方向に配置された前記複数の光源の光量以上とする。
【0016】
また、請求項6の発明は、車両に搭載される画像処理装置であって、前記車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成可能な画像生成装置と、前記画像生成装置の撮影を補助する照明を行う請求項1ないし5のいずれかに記載の車載照明装置と、を備えている。
【0017】
また、請求項7の発明は、車両に搭載される画像表示システムであって、請求項6に記載の画像処理装置と、前記画像処理装置から出力された前記車両の周辺を示す画像を表示する表示装置と、を備えている。
【0018】
また、請求項8の発明は、車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う照明方法であって、前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させる工程と、前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源のそれぞれの光量を個別に調整する工程と、を備えている。
【発明の効果】
【0019】
請求項1ないし8の発明によれば、表示装置に表示される画像に含まれる車両の周辺の領域に応じて複数の光源のそれぞれの光量を個別に調整するため、必要な一部の光源のみの光量を増加させることができるため、複数の光源全ての光量を増加させる必要が無く、消費電力を低減できる。
【0020】
また、特に請求項2の発明によれば、複数の光源の一部の光量を基準光量よりも増加させ、他の光源の光量を基準光量よりも減少させることで、消費電力を低減しつつ特定領域の一部を強調してユーザに示すことができる。
【0021】
また、特に請求項3の発明によれば、光源の光量が車両の周辺の明るさに応じて適切な光量に調整されるため、無駄な照明がなされず消費電力を低減できる。
【0022】
また、特に請求項4の発明によれば、走行用灯火装置が照明している領域を照明しないことで、無駄な照明がなされず消費電力を低減できる。
【0023】
また、特に請求項5の発明によれば、ドライバが意図する方向の光源の光量が逆方向の光源の光量以上とされるため、ドライバが注目すべき領域を強調することができる。
【図面の簡単な説明】
【0024】
【図1】図1は、画像表示システムの構成を示すブロック図である。
【図2】図2は、車載カメラが車両に配置される位置を示す図である。
【図3】図3は、サイドカメラユニットの外観構成を示す図である。
【図4】図4は、車両の後方から見たサイドカメラユニットの断面図である。
【図5】図5は、車両の左側から見たサイドカメラユニットの断面図である。
【図6】図6は、3つの光源の光軸の車両に対する位置関係を示す図である。
【図7】図7は、3つの光源の光軸の車両に対する位置関係を示す図である。
【図8】図8は、合成画像を生成する手法を説明するための図である。
【図9】図9は、画像表示システムの動作モードの遷移を示す図である。
【図10】図10は、周囲確認モードにおける仮想視点の位置の遷移を示す図である。
【図11】図11は、周囲確認モードにおける表示例を示す図である。
【図12】図12は、フロントモードにおける表示モードの遷移を示す図である。
【図13】図13は、バックモードにおける表示モードの遷移を示す図である。
【図14】図14は、ドアミラーが格納された状態を示す図である。
【図15】図15は、基準光量テーブルの内容を示す図である。
【図16】図16は、光量調整テーブルの内容を示す図である。
【図17】図17は、第1の実施の形態における、光源の光量を調整する処理の流れを示す図である。
【図18】図18は、自車確認モードにおける画面の状態遷移を示す図である。
【図19】図19は、仮想視点の位置の遷移を示す図である。
【図20】図20は、第2の実施の形態における、光源の光量を調整する処理の流れを示す図である。
【図21】図21は、車両のヘッドライトが照明可能な領域を示す図である。
【図22】図22は、第3の実施の形態における、光源の光量を調整する処理の流れを示す図である。
【発明を実施するための形態】
【0025】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0026】
<1.第1の実施の形態>
<1−1.システム構成>
図1は、第1の実施の形態の画像表示システム120の構成を示すブロック図である。この画像表示システム120は、車両(本実施の形態では、自動車)に搭載されるものであり、車両の周辺を撮影して画像を生成して車室内に表示する機能を有している。画像表示システム120のユーザ(代表的にはドライバ)は、この画像表示システム120を利用することにより、当該車両の周辺の様子をほぼリアルタイムに把握できるようになっている。
【0027】
図1に示すように、画像表示システム120は、車両の周辺を示す画像を生成する画像処理装置100と、車両に乗車するユーザに対して各種情報を表示するナビゲーション装置20とを主に備えている。画像処理装置100で生成された画像は、ナビゲーション装置20において表示される。
【0028】
ナビゲーション装置20は、ユーザに対しナビゲーション案内を行うものであり、タッチパネル機能を備えた液晶などのディスプレイ21と、ユーザが操作を行う操作部22と、装置全体を制御する制御部23とを備えている。ディスプレイ21の画面がユーザから視認可能なように、ナビゲーション装置20は車両のインストルメントパネルなどに設置される。ユーザからの各種の指示は、操作部22とタッチパネルとしてのディスプレイ21とによって受け付けられる。制御部23は、CPU、RAM及びROMなどを備えたコンピュータとして構成され、所定のプログラムに従ってCPUが演算処理を行うことでナビゲーション機能を含む各種の機能が実現される。
【0029】
ナビゲーション装置20は、画像処理装置100と通信可能に接続され、画像処理装置100との間で各種の制御信号の送受信や、画像処理装置100で生成された画像の受信が可能となっている。ディスプレイ21には、制御部23の制御により、通常はナビゲーション装置20単体の機能に基づく画像が表示されるが、所定の条件下で画像処理装置100で生成された車両の周辺の様子を示す画像が表示される。これにより、ナビゲーション装置20は、画像処理装置100で生成された画像を受信して表示する表示装置としても機能する。
【0030】
画像処理装置100は、その本体部10が画像を生成する機能を有するECU(Electronic Control Unit)として構成され、車両の所定の位置に配置される。画像処理装置100は、車両の周辺を撮影する撮影部5を備えており、この撮影部5で車両の周辺を撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成する画像生成装置として機能する。
【0031】
さらに、画像処理装置100は、撮影部5の撮影を補助する照明を行う補助照明部6を備えており、撮影部5の撮影を補助する照明を行う車載照明装置としても機能する。補助照明部6は、撮影部5の撮影を補助する補助光を発光する複数の光源60(本実施の形態では6つの光源60)を備えている。夜間など周辺環境が暗い場合においては撮影部5での撮影時に十分な露光量が得られず、取得される画像は車両の周辺を示すのに十分に明るさとならないことから、補助照明部6が照明を行う。
【0032】
撮影部5が備える複数の車載カメラ51,52,53と補助照明部6が備える複数の光源60とは、本体部10とは別の車両の適位置に配置されるが詳細は後述する。
【0033】
画像処理装置100の本体部10は、装置全体を制御する制御部1と、撮影部5で取得された撮影画像を処理して表示用の画像を生成する画像生成部3と、ナビゲーション装置20との間で通信を行うナビ通信部42とを主に備えている。
【0034】
ナビゲーション装置20の操作部22やディスプレイ21によって受け付けられたユーザからの各種の指示は、制御信号としてナビ通信部42によって受け付けられて制御部1に入力される。また、画像処理装置100は、表示内容を切り替える指示をユーザから受け付ける切替スイッチ43を備えている。この切替スイッチ43からもユーザの指示を示す信号が制御部1に入力される。これにより、画像処理装置100は、ナビゲーション装置20に対するユーザの操作、及び、切替スイッチ43に対するユーザの操作の双方に応答した動作が可能となっている。切替スイッチ43は、ユーザが操作しやすいように、本体部10とは別に車両の適位置に配置される。
【0035】
画像生成部3は、各種の画像処理が可能なハードウェア回路として構成されており、撮影画像調整部31、及び、合成画像生成部32を主な機能として備えている。
【0036】
撮影画像調整部31は、撮影部5で取得された撮影画像を対象とし、表示に利用するための調整を行うものである。具体的には、撮影画像調整部31は、撮影画像に対して、歪み補正、拡大縮小、及び、切り出しなどの画像処理を行う。
【0037】
合成画像生成部32は、撮影部5の複数の車載カメラ51,52,53で取得された複数の撮影画像に基づいて、車両の周辺の任意の仮想視点からみた車両の周辺の少なくとも一部の領域を示す合成画像を生成する。合成画像生成部32が合成画像を生成する手法については後述する。
【0038】
撮影画像調整部31に調整された撮影画像や合成画像生成部32により生成された合成画像はさらに表示用の画像に調整され、その後、ナビ通信部42によってナビゲーション装置20に出力される。これにより、被写体像として車両の周辺の領域を含む画像がナビゲーション装置20のディスプレイ21に表示されることになる。
【0039】
制御部1は、CPU、RAM及びROMなどを備えたコンピュータとして構成され、所定のプログラムに従ってCPUが演算処理を行うことで各種の制御機能が実現される。図中に示す、画像制御部11、照明制御部12及び輝度取得部13は、このようにして実現される制御部1の機能のうちの一部を示している。
【0040】
画像制御部11は、画像生成部3によって実行される画像処理を制御するものである。例えば、画像制御部11は、合成画像生成部32が生成する合成画像の生成に必要な各種パラメータなどを指示する。
【0041】
照明制御部12は、補助照明部6による照明を制御するものである。照明制御部12は、補助照明部6に含まれる複数の光源60のそれぞれの光量を個別に調整することが可能である。具体的には、照明制御部12は、複数の光源60のそれぞれの光量を決定し、各光源60が発光する補助光の光量が、決定した光量となるように補助照明部6に信号を出力する。
【0042】
輝度取得部13は、4つの車載カメラ51,52,53で取得される4つの撮影画像の各画素の輝度を取得し、その平均輝度を導出する。
【0043】
また、画像処理装置100の本体部10は、不揮発性メモリ40、カード読取部44、及び、信号入力部41をさらに備えており、これらは制御部1に接続されている。
【0044】
不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどで構成されている。不揮発性メモリ40には、車種別データ4a、基準光量テーブル4b、及び、光量調整テーブル4cなどが記憶されている。車種別データ4aは、合成画像生成部32が合成画像を生成する際に必要となる車両の種別に応じたデータである。また、基準光量テーブル4b及び光量調整テーブル4cは、照明制御部12が、補助照明部6の複数の光源60の光量を決定する際に参照するテーブルデータである。
【0045】
カード読取部44は、可搬性の記録媒体であるメモリカードMCの読み取りを行う。カード読取部44は、メモリカードMCの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードMCに記録されたデータを読み取る。カード読取部44で読み取られたデータは、制御部1に入力される。
【0046】
メモリカードMCは、種々のデータを記憶可能なフラッシュメモリなどで構成されており、画像処理装置100はメモリカードMCに記憶された種々のデータを利用できる。例えば、メモリカードMCにプログラムを記憶させ、これを読み出すことで、制御部1の機能を実現するプログラム(ファームウェア)を更新することが可能である。また、メモリカードMCに不揮発性メモリ40に記憶された車種別データ4aとは異なる種別の車両に応じた車種別データを記憶させ、これを読み出して不揮発性メモリ40に記憶させることで、画像表示システム120を異なる種別の車両に対応させることも可能である。
【0047】
また、信号入力部41は、車両に設けられた各種装置からの信号を入力する。この信号入力部41を介して、画像表示システム120の外部からの信号が制御部1に入力される。具体的には、シフトセンサ81、車速度センサ82、灯火制御装置84、方向指示器85、及び、ミラー駆動装置86などから、各種情報を示す信号が制御部1に入力される。
【0048】
シフトセンサ81からは、車両の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションが入力される。車速度センサ82からは、その時点の車両9の走行速度(km/h)が入力される。
【0049】
灯火制御装置84は、補助照明部6とは別に車両に標準的に設けられる、車両の通常の走行に用いる走行用灯火装置の制御を行う。走行用灯火装置には、ヘッドライト(前照灯)、スモールランプ(車幅灯)、テールランプ(尾灯)、ブレーキランプ(制動灯)、及び、バックランプ(後退灯)などが含まれる。灯火制御装置84は、ドライバの操作に応答してヘッドライトやスモールランプを点灯させ、ヘッドライトまたはスモールランプを点灯させるときにはテールランプを点灯させる。また、灯火制御装置84は、ドライバによりブレーキが踏まれた場合はブレーキランプを点灯させ、シフトポジションが”R”のときにバックランプを点灯させる。灯火制御装置84からは、このような各種の走行用灯火装置の点灯状態が入力される。
【0050】
方向指示器85からは、ウインカースイッチの操作に基づく方向指示、すなわち、車両のドライバが意図する方向指示を示すターン信号が入力される。ウインカースイッチが操作されたときはターン信号が発生し、ターン信号はその操作された方向(左方向あるいは右方向)を示すことになる。ウインカースイッチが中立位置となったときは、ターン信号はオフとなる。
【0051】
また、ミラー駆動装置86は、ドライバの操作に応答して車両のドアミラーを格納/展開する。ミラー駆動装置86からは、ドアミラーの状態(格納/展開)が入力される。
【0052】
<1−2.撮影部及び補助照明部>
次に、画像処理装置100の撮影部5及び補助照明部6についてより詳細に説明する。撮影部5及び補助照明部6は、制御部1に電気的に接続され、制御部1からの信号に基づいて動作する。
【0053】
撮影部5は、車載カメラであるフロントカメラ51、バックカメラ52及びサイドカメラ53を備えている。これらの車載カメラ51,52,53はそれぞれ、CCDやCMOSなどの撮像素子を備えており電子的に画像を取得する。
【0054】
図2は、車載カメラ51,52,53が車両9に配置される位置を示す図である。なお、以下の説明においては、方向及び向きを示す際に、適宜、図中に示す3次元のXYZ直交座標を用いる。このXYZ軸は車両9に対して相対的に固定される。ここで、X軸方向は車両9の左右方向に沿い、Y軸方向は車両9の直進方向(前後方向)に沿い、Z軸方向は鉛直方向に沿っている。また、便宜上、+X側を車両9の右側、+Y側を車両9の後側、+Z側を上側とする。
【0055】
フロントカメラ51は、車両9の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸51aは車両9の直進方向(平面視でY軸方向の−Y側)に向けられている。バックカメラ52は、車両9の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸52aは車両9の直進方向の逆方向(平面視でY軸方向の+Y側)に向けられている。また、サイドカメラ53は、左右のドアミラー93にそれぞれ設けられており、その光軸53aは車両9の左右方向(平面視でX軸方向)に沿って外部に向けられている。なお、フロントカメラ51やバックカメラ52の取り付け位置は、左右略中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。
【0056】
これらの車載カメラ51,52,53のレンズとしては魚眼レンズなどが採用されており、車載カメラ51,52,53は180度以上の画角αを有している。このため、4つの車載カメラ51,52,53を利用することで、車両9の全周囲の撮影が可能となっている。
【0057】
図1に戻り、補助照明部6が備える6つの光源60は、不可視光である近赤外光を発光するLEDなどで構成される。近赤外光は人間の目には見えないため、補助照明部6の光源60から車両9の周辺を照明したとしても、車両9の周辺に存在する歩行者などに影響を与えることがない。一方で、車載カメラ51,52,53に採用される撮像素子は、近赤外光の感度を有している。このため、車両9の周辺環境が比較的暗い場合においては、補助照明部6の光源の近赤外光を補助光として車両9の周辺の領域を照明することにより、歩行者などに影響を与えることなく、その領域の状況を示す十分な明るさの画像を取得できる。
【0058】
補助照明部6の6つの光源60のうち、3つの光源60は車両9の左側に配置され、残りの3つの光源60は車両9の右側に配置される。車両9の左側の3つの光源60は、車両9の左側の側方領域を分割して得られる複数の領域をそれぞれ照明する。一方、車両9の右側の3つの光源60は、車両9の右側の側方領域を分割して得られる複数の領域をそれぞれ照明する。
【0059】
また、車両9の左側の3つの光源60と、車両9の左側のサイドカメラ53とは、同一のハウジング内に収容されて一体化され、全体としてサイドカメラユニット70となっている。同様に、車両9の右側の3つの光源60と、車両9の右側のサイドカメラ53とは、同一のハウジング内に収容されて一体化され、全体としてサイドカメラユニット70となっている。
【0060】
図3は、左側のサイドカメラユニット70の外観構成を示す図である。なお、サイドカメラユニット70の構成や配置は車両9の左右で対称としているため、以降の説明では車両9の左側を例に具体的に説明するが、右側についても同様である。図に示すように、サイドカメラユニット70は、ブラケット79を介してドアミラー93の下側に配置される。
【0061】
図4は、左側のサイドカメラユニット70の車両9の後方(+Y側)から見たXZ平面での断面図である。また、図5は、左側のサイドカメラユニット70の車両9の左側(−X側)から見たYZ平面での断面図である。図4は図5のIV−IV位置での断面図に相当し、図5は図4のV−V位置での断面図に相当する。
【0062】
これらの図に示すように、サイドカメラユニット70は、筐体となるハウジング7を有している。このハウジング7内には、サイドカメラ53、ならびに、補助照明部6の3つの光源60及び光源駆動部69が収容されている。3つの光源60は、具体的には、車両9の前方側の領域を主に照明する前方光源61と、車両9の後方側の領域を主に照明する後方光源62と、前方光源61及び後方光源62が照明する領域の相互間の領域を主に照明する中央光源63とである。
【0063】
光源駆動部69は、これら3つの光源60に、車両のバッテリからの電力を供給する。光源駆動部69は、前方光源61、後方光源62及び中央光源63にそれぞれ対応して、3つの電流変更部61a,62a,63aを備えている。各電流変更部61a,62a,63aは、対応する光源61,62,63に流れる電流の値を変更可能となっている。光源60の光量は電流の値に依存するため、このような電流の値の変更により、3つの光源61,62,63の光量が個別に変更される。各光源61,62,63の光量は、制御部1の照明制御部12から信号で指示される。
【0064】
サイドカメラ53は、レンズ531と撮像素子532とを備えて構成されている。図4に示すように、サイドカメラ53は、ハウジング7内に配置され、光軸53aが車両9の外側に向けられている。サイドカメラ53は、この光軸53aの方向が鉛直方向に対して所定の角度(例えば、約45度)となるようにハウジング7に固定される。
【0065】
補助照明部6の3つの光源60は、ハウジング7内においてサイドカメラ53よりも内側(+X側)に配置されている。3つの光源61,62,63の光軸61a,62a,63aは車両9の外側に向けられ、その方向はすべて車両9の前後方向(Y軸方向)から見て鉛直方向に対して所定の角度θ1とされている。角度θ1は、例えば30度以下とすることが望ましい。
【0066】
また、図5に示すように、ハウジング7内の中央部分には中央光源63が配置されるとともに、前方光源61と後方光源62とはハウジング7内の中心に関して左右対称に配置されている。車両9の左右方向(X軸方向)から見て、中央光源63の光軸63aの方向は鉛直方向(Z軸方向)に沿っており、前方光源61の光軸61aの方向は車両9の前方側(−Y側)に傾けられ、後方光源62の光軸62aの方向は車両9の後方側(+Y側)に傾けられている。そして、前方光源61の光軸61aの方向と後方光源62の光軸62aの方向とは、中央光源63の光軸63aの方向に関して対称とされている。すなわち、中央光源63の光軸63aと前方光源61の光軸61aとでなす角度は、中央光源63の光軸63aと後方光源62の光軸62aとでなす角度に一致し、所定の角度θ2とされている。角度θ2は、例えば60度以上70度以下とすることが望ましい。
【0067】
補助照明部6の3つの光源60は、上記で説明した位置及び方向となるように、固定部材71によりハウジング7に固定される。すなわち、3つの光源60は、その光軸が互いに異なる方向に向けた状態でハウジング7に固定されることになる。これらの光源60の固定位置の下部に相当するハウジング7の部分には、近赤外光を透過する透過部材72が採用されている。これにより、光源60の補助光をハウジング7の外部に投光できるようになっている。
【0068】
図6及び図7は、左側のサイドカメラユニット70における3つの光源60の光軸の車両9に対する位置関係を示す図である。図6は上面図(+Z側から見た図)、図7は側面図(−X側から見た図)である。
【0069】
これらの図に示すように、ドアミラー93に設けられるサイドカメラユニット70から、車両9の側面に対しX軸方向に500mm離間した位置に向けて、3つの光源60の光軸61a,62a,63aが延びている。3つの光源60の光軸61a,62a,63aの方向は互いに異なっている。具体的には、平面視(図6参照)で、中央光源63の光軸63aは車両9の左右方向(X軸方向)に沿っており、前方光源61の光軸61aは車両9の前方側(−Y側)に向けられ、後方光源62の光軸62aは車両9の後方側(+Y側)に向けられている。また、側面視(図7参照)で、中央光源63の光軸63aは鉛直方向(Z軸方向)に沿っており、前方光源61の光軸61aは車両9の前方側(−Y側)に向けられ、後方光源62の光軸62aは車両9の後方側(+Y側)に向けられている。前方光源61の光軸61aの方向と後方光源62の光軸62aの方向とは、中央光源63の光軸63aの方向に関して対称とされている。
【0070】
このような光軸の配置により、3つの光源61,62,63によって車両9の側方領域SAが分担して照明される。照明対象となる側方領域SAには、車両9に対して相対固定される特定領域が設定されている。具体的には、車両9の前後方向(Y軸方向)においては、車両9の前端よりも約2m前方の位置から車両9のおよそ後端位置までが側方領域SAの範囲となっている。また、車両9の左右方向(X軸方向)においては、車両9の側面の位置からその外側に約1m離れた位置までが側方領域SAの範囲となっている。
【0071】
3つの光源61,62,63は、この照明対象となる側方領域SAを分割した複数の領域FA,BA,CAをそれぞれ照明する。具体的には、前方光源61は、照明対象となる側方領域SAのうち、車両9の前端よりも前方の領域(以下、「前方領域」という。)FAを主に照明する。後方光源62は、照明対象となる側方領域SAのうち、車両9のリアドア96及びリアフェンダ97付近の外側の領域(以下、「後方領域」という。)BAを主に照明する。また、中央光源63は、照明対象となる側方領域SAのうち、前方領域FAと後方領域BAとの間となる、車両9のフロントフェンダ94及びフロントドア95付近の外側の領域(以下、「中央領域」という。)CAを主に照明する。
【0072】
中央光源63は、前方光源61及び後方光源62と比較して、サイドカメラユニット70の位置(3つの光源60が配置される位置)から比較的近い領域を照明する。このため、中央光源63の光量を、前方光源61及び後方光源62の光量と同レベルとすると、側方領域SAのうち中央領域CAが他の領域FA,BAよりも明るく照明され、側方領域SAの全体として明るさが不均一となることが考えられる。このため、車両9の前方側から後方側にわたる車両9の側方領域SAの全体をおよそ均一に照明できるように、中央光源63については、前方光源61及び後方光源62と比較して光量が低くなるように調整されるようになっている。
【0073】
このように、本実施の形態においては、車両9の同一方向の側方領域SAを照明する3つの光源60が、同一のハウジング7内に光軸の方向が互いに異なる状態で固定されて収容される。これにより、3つの光源60がハウジング7によってサイドカメラユニット70として一体化される。このため、このサイドカメラユニット70を取り付けるのみで、複数の光源60を一度に取り付けることができる。また、3つの光源60への電源ラインや制御ラインなどの電気配線も、一つのサイドカメラユニット70の位置まで行えばよいことになる。このため、車両9の比較的広範囲な側方領域SAを照明するための複数の光源60を、簡便かつ低コストに車両9に取り付けることが可能となっている。
【0074】
<1−3.合成画像の生成>
次に、画像生成部3の合成画像生成部32が、撮影部5で得られた複数の撮影画像に基づいて車両9の周辺の少なくとも一部の領域を任意の仮想視点からみた様子を示す合成画像を生成する手法について説明する。合成画像を生成する際には、不揮発性メモリ40に予め記憶された車種別データ4aが利用される。図8は、合成画像を生成する手法を説明するための図である。
【0075】
撮影部5のフロントカメラ51、バックカメラ52及びサイドカメラ53で同時に撮影が行われると、車両9の前方、後方、左側方、及び、右側方をそれぞれ示す4つの撮影画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの撮影画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。
【0076】
次に、4つの撮影画像P1〜P4の各画素が、仮想的な三次元空間における立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。撮影画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とは予め対応関係が定められている。このため、立体曲面SPの各画素の値は、この対応関係と撮影画像P1〜P4に含まれる各画素の値とに基づいて決定できる。
【0077】
撮影画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、車両9における4つの車載カメラ51,52,53の配置(相互間距離、地上高さ、光軸角度等)に依存する。このため、この対応関係を示すテーブルデータが、不揮発性メモリ40に記憶された車種別データ4aに含まれている。
【0078】
また、車種別データ4aに含まれる車体の形状やサイズを示すポリゴンデータが利用され、車両9の三次元形状を示すポリゴンモデルである車両像が仮想的に構成される。構成された車両像は、立体曲面SPが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0079】
さらに、立体曲面SPが存在する三次元空間に対して、制御部1により仮想視点VPが設定される。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の周辺に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0080】
そして、設定された仮想視点VPに応じて、立体曲面SPにおける必要な領域が画像として切り出される。仮想視点VPと、立体曲面SPにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。一方で、設定された仮想視点VPに応じてポリゴンで構成された車両像に関してレンダリングがなされ、その結果となる二次元の車両像が、切り出された画像に対して重畳される。これにより、車両9及びその車両9の周辺の少なくとも一部の領域を任意の仮想視点からみた様子を示す合成画像が生成されることになる。
【0081】
例えば、視点位置が車両9の位置の略中央の直上位置で、視野方向が略直下方向とした仮想視点VP1を設定した場合は、車両9の略直上から車両9を見下ろすように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP1が生成される。また、図中に示すように、視点位置が車両9の位置の左後方で、視野方向が車両9における略前方とした仮想視点VP2を設定した場合は、車両9の左後方からその周辺全体を見渡すように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP2が生成される。
【0082】
なお、実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、設定された仮想視点VPに対応して必要となる領域の画素の値のみを撮影画像P1〜P4に基づいて決定することで、処理速度を向上できる。
【0083】
<1−4.動作モード>
次に、画像表示システム120の動作モードについて説明する。図9は、画像表示システム120の動作モードの遷移を示す図である。画像表示システム120は、ナビモードM0、周囲確認モードM1、フロントモードM2、及び、バックモードM3の4つの動作モードを有している。これらの動作モードは、ドライバの操作や車両9の走行状態に応じて制御部1の制御により切り替えられるようになっている。
【0084】
ナビモードM0は、ナビゲーション装置20の機能により、ナビゲーション案内用の地図画像などをディスプレイ21に表示する動作モードである。ナビモードM0では、画像処理装置100の機能が利用されず、ナビゲーション装置20単体の機能で各種の表示がなされる。このため、ナビゲーション装置20が、テレビジョン放送の電波を受信して表示する機能を有している場合は、ナビゲーション案内用の地図画像に代えて、テレビジョン放送画面が表示されることもある。
【0085】
これに対して、周囲確認モードM1、フロントモードM2及びバックモードM3は、画像処理装置100の機能を利用して、撮影画像及び合成画像の少なくとも一つをディスプレイ21に表示して、車両9の周辺の状況をリアルタイムでユーザに示す動作モードである。
【0086】
周囲確認モードM1は、車両9を見下ろした状態で車両9の周囲を周回するようなアニメーション表現を行う動作モードである。フロントモードM2は、前進時に必要となる車両9の前方や側方を主に示す画像を表示する動作モードである。また、バックモードM3は、後退時に必要となる車両9の後方を主に示す画像を表示する動作モードである。
【0087】
画像表示システム120は起動すると、最初に周囲確認モードM1となる。周囲確認モードM1の場合には、車両9の周囲を周回するようなアニメーション表現がなされた後に所定時間(例えば、6秒)が経過すると、自動的にフロントモードM2に切り替えられる。また、フロントモードM2の場合において、走行速度が例えば0km/hの状態(停止状態)で切替スイッチ43が所定時間以上継続して押下されると、周囲確認モードM1に切り替えられる。なお、ドライバからの指示で、周囲確認モードM1からフロントモードM2に切り替えるようにしてもよい。
【0088】
また、フロントモードM2の場合に走行速度が例えば10km/h以上になったときは、ナビモードM0に切り替えられる。逆に、ナビモードM0の場合に車速度センサ82から入力される走行速度が例えば10km/h未満になったときは、フロントモードM2に切り替えられる。
【0089】
車両9の走行速度が比較的高い場合においては、ドライバを走行に集中させるためにフロントモードM2が解除される。逆に、車両9の走行速度が比較的低い場合においては、ドライバは車両9の周辺の状況をより考慮した運転、具体的には、見通しの悪い交差点への進入、方向変更、あるいは、幅寄せなどを行っている場面が多い。このため、走行速度が比較的低い場合においては、ナビモードM0からフロントモードM2に切り替えられる。なお、ナビモードM0からフロントモードM2に切り替える場合は、走行速度が10km/h未満という条件に、ドライバからの明示的な操作指示があるという条件を加えてもよい。
【0090】
また、ナビモードM0あるいはフロントモードM2の場合に、シフトセンサ81から入力されるシフトレバーの位置が”R(後退)”となったときは、バックモードM3に切り替えられる。すなわち、車両9の変速装置が”R(後退)”の位置に操作されているときには、車両9は後退する状態であるため、車両9の後方を主に示すバックモードM3に切り替えられる。
【0091】
一方、バックモードM3の場合に、シフトレバーの位置が”R(後退)”以外となったときは、その時点の走行速度を基準として、ナビモードM0あるいはフロントモードM2に切り替えられる。すなわち、走行速度が10km/h以上であればナビモードM0に切り替えられ、走行速度が10km/h未満であればフロントモードM2に切り替えられる。
【0092】
以下、周囲確認モードM1、フロントモードM2及びバックモードM3のそれぞれにおける、車両9の周辺の表示態様について詳細に説明する。
【0093】
<1−5.周囲確認モード>
まず、周囲確認モードM1における車両9の周辺の表示態様について説明する。周囲確認モードM1においては、1つの表示モードのみがある。周囲確認モードM1においては、被写体像として車両9の全周囲の領域を含む合成画像が表示されるが、この合成画像のための仮想視点VPが連続的に変化され、アニメーション表現がなされる。
【0094】
具体的には、車両9を見下ろすように仮想視点VPが設定され、図10に示すように、この仮想視点VPが車両9の周辺を周回するように連続的に移動される。仮想視点VPは、最初に車両9の後方に設定された後、右回りで車両9の周辺を周回する。このようにして仮想視点VPが、車両9の左側、前方及び右側を経由して再び後方まで移動すると、車両9の直上まで移動する。このように仮想視点VPが移動されている状態で、複数の合成画像が時間連続して生成される。生成された複数の合成画像は、ナビゲーション装置20に順次に出力されて、ディスプレイ21に時間連続して表示される。
【0095】
これにより、図11に示すように、車両9を見下ろした状態で車両9の周囲を周回するようなアニメーション表現がなされることになる。図11に示す例では、状態ST1〜ST6の順で合成画像RPが順次に表示される。各合成画像RPにおいては、車両9は画像の中心付近に配置されており、車両9とともに車両9の周辺の様子を確認できるようになっている。
【0096】
ユーザは、周囲確認モードM1のこのようなアニメーション表現を視認することで、車両9を目の前にした視点から車両9の全周囲の状況を確認することができ、直感的に車両9の全周囲の障害物と車両9との位置関係を把握できることになる。
【0097】
<1−6.フロントモード>
次に、フロントモードM2における車両9の周辺の表示態様について詳細に説明する。図12は、フロントモードM2における表示モードの遷移を示す図である。フロントモードM2では、走行俯瞰モードM21、自車確認モードM22、及び、サイドカメラモードM23の3つの表示モードがあり、これらの表示モードは互いに表示態様が異なっている。すなわち、表示モードごとに表示される撮影画像及び合成画像が異なっており、表示モードごとに車両の周辺の異なる領域がユーザに示されることになる。これらの画面には、各表示態様における視野範囲を示す視野ガイド90が表示され、ユーザに対して車両9の周辺のいずれの領域を表示しているかが示されるようになっている。
【0098】
これらの表示モードは、ユーザが切替スイッチ43を押下するごとに、走行俯瞰モードM21、自車確認モードM22、サイドカメラモードM23の順で制御部1の制御により切り替えられる。サイドカメラモードM23の場合に切替スイッチ43を押下すると、再び、走行俯瞰モードM21に戻るようになっている。
【0099】
走行俯瞰モードM21は、車両9の直上の仮想視点VPからみた車両9の様子を示す合成画像FP1と、フロントカメラ51での撮影により得られる撮影画像であるフロント画像FP2とを並べて含む画面をディスプレイ21に表示する表示モードである。すなわち、走行俯瞰モードM21では、被写体像として車両9の周辺全体の領域を含む合成画像FP1と、被写体像として車両9の前方の領域を含むフロント画像FP2との二つの画像が同一画面上に示される。
【0100】
走行俯瞰モードM21においては、このような二つの画像FP1,FP2を閲覧することができるため、ユーザは、車両9の周囲全体とともに、車両9の進行方向である前方の状況を一目で確認できる。走行俯瞰モードM21は、前進中のさまざまな場面で汎用性高く利用できる表示モードであるといえる。
【0101】
また、自車確認モードM22は、フロントカメラ51での撮影により得られる撮影画像であるフロント画像FP3と、車両9の後方の仮想視点VPからみた車両9の周辺の様子を示す合成画像FP4とを並べて含む画面をディスプレイ21に表示する表示モードである。すなわち、自車確認モードM22では、被写体像として車両9の前方の領域を含むフロント画像FP3と、被写体像として車両9の側方領域を含む合成画像FP4との二つの画像が同一画面上に示される。
【0102】
自車確認モードM22のフロント画像FP3は、走行俯瞰モードM21のフロント画像FP2と比較して、左右方向の視野範囲が広く設定されている。このため、見通しの悪い交差点に進入する場合に死角となりやすい車両9の前端より前方かつ左右方向に存在する物体を確認できる。
【0103】
また、自車確認モードM22の合成画像FP4は、走行俯瞰モードM21の合成画像FP1と比較して仮想視点VPの位置が車両9の後方に移動されているため、車両9の後方の領域は狭くなるものの、車両9の側方領域が確認しやすくなっている。このため、対向車とすれ違う場合などに、対向車とのクリアランスを容易に確認できる。
【0104】
自車確認モードM22においては、このような二つの画像FP3,FP4を閲覧することができるため、ユーザは、見通しの悪い交差点に進入する場合や対向車とすれ違う場合などの慎重な運転を必要とする状況において、確認すべき領域の状況を一目で確認できる。
【0105】
また、サイドカメラモードM23は、左右のサイドカメラ53での撮影によりそれぞれ得られる撮影画像であるサイド画像FP5,FP6を並べて含む画面をディスプレイ21に表示する表示モードである。サイド画像FP5,FP6は、運転席から死角となりやすいフロントフェンダ94の外側の領域のみを被写体像として含んでいる。
【0106】
サイドカメラモードM23においては、このような二つの画像FP3,FP4を閲覧することができるため、ユーザは、道路の端に車体を寄せる幅寄せを行う場合などにおいて、確認すべき領域の状況を容易に確認できる。
【0107】
<1−7.バックモード>
次に、バックモードM3における車両9の周辺の表示態様について詳細に説明する。図13は、バックモードM3における表示モードの遷移を示す図である。バックモードM3では、駐車俯瞰モードM31、及び、ドアミラーモードM32の2つの表示モードがあり、これらの表示モードは互いに表示態様が異なっている。すなわち、表示モードごとに表示される撮影画像及び合成画像が異なっており、表示モードごとに車両の周辺の異なる領域がユーザに示されることになる。これらの画面にも、各表示態様における視野範囲を示す視野ガイド90が表示され、ユーザに対して車両9の周辺のいずれの領域を表示しているかが示されるようになっている。
【0108】
これらの表示モードは、ミラー駆動装置86から入力されるドアミラー93の状態に応じて制御部1の制御により切り替えられる。具体的には、ドアミラー93が通常状態に展開されている場合は駐車俯瞰モードM31となり、ドアミラー93が格納されている場合はドアミラーモードM32となる。
【0109】
駐車俯瞰モードM31は、車両9の直上の仮想視点VPからみた車両9の様子を示す合成画像BP1と、バックカメラ52での撮影により得られる撮影画像であるバック画像BP2とを並べて含む画面をディスプレイ21に表示する表示モードである。すなわち、駐車俯瞰モードM31では、被写体像として車両9の周辺全体の領域を含む合成画像BP1と、被写体像として車両9の後方の領域を含むバック画像BP2との二つの画像が同一画面上に示される。
【0110】
駐車俯瞰モードM31においては、このような二つの画像BP1,BP2を閲覧することができるため、ユーザは、車両9の周囲全体とともに、車両9の進行方向である後方の状況を一目で確認できる。駐車俯瞰モードM31は、後退中のさまざまな場面で汎用性高く利用できる表示モードであるといえる。
【0111】
また、ドアミラーモードM32は、左右のサイドカメラ53での撮影によりそれぞれ得られる撮影画像であるサイド画像BP3,BP4を並べて含む画面をディスプレイ21に表示する表示モードである。サイド画像BP3,BP4は、ドアミラー93が展開している際に、ドアミラー93に映る範囲とほぼ同様の範囲、具体的には、車両9の側方領域のうちの後方を示すものとなる。
【0112】
図14に示すように、サイドカメラ53はドアミラー93に設けられるため、ドアミラー93が格納された状態となると、その光軸53aの方向が車両9の後方に向けられることになる。この状態では、サイドカメラ53において車両9の側方全体を示す画像を取得できないため、任意の仮想視点からみた合成画像を生成することは難しくなる。しかしながら、光軸53aが車両9の後方へ移動するため、車両9の側方領域の後方については比較的歪が少ない撮影画像を取得することができる。ドアミラーモードM32では、このようなサイドカメラ53の配置を利用して、被写体像として車両9の側方領域の後方を含む二つのサイド画像BP3,BP4を生成して表示する。
【0113】
ドアミラーモードM32においては、このような二つの画像BP3,BP4を閲覧することができるため、ユーザは、駐車環境によってドアミラー93を格納せざるを得ない場合であっても、ドアミラー93に映る範囲とほぼ同様の範囲を確認することができる。
【0114】
<1−8.光源の光量の調整>
このように画像表示システム120においては、互いに表示態様が異なる各種の表示モードで車両9の周辺の様子がディスプレイ21に示されることになるが、周辺環境が比較的暗くて車両9の周辺を示す画像としての明るさが十分に確保できないときは、補助照明部6から補助光による照明を行うことになる。
【0115】
表示する画像中の物体の視認性を向上するためには、この補助光の光量を高くする必要がある。しかしながら、補助照明部6の複数の光源60全てを能力上最大の光量で常に発光させたのでは、電力が無駄に消費される可能性がある。例えば、周辺環境が暗い場合といっても、夕暮れ時に街灯などによりある程度の明るさがあるような場合には、補助光の光量が少なくても、車両の周辺の様子を示すのに十分な明るさの可能な画像を取得できることがある。また、例えば、サイドカメラモードM23においては、フロントフェンダ94の外側の領域にユーザを注目させる必要があることから、この領域に対応する中央領域CA(図6参照。)については補助光の光量を高くする必要があるが、前方領域FAや後方領域BAについては補助光の光量を高くする必要性は低い。
【0116】
また、複数の光源60の全てを最大の光量で常に発光させた場合は、一つのサイドカメラユニット70に流れる電流の合計値が高くなることから、サイドカメラユニット70を高い電流に対応させるために電気配線や電子部品等のコストが上昇する可能性がある。また、複数の光源60の全てを最大の光量で常に発光させたのでは、光源60の劣化が進行し、その耐久性が低下する可能性もある。
【0117】
このような問題に対応するため、画像表示システム120では、車両の周辺の明るさ、及び、その時点の表示モードに応じて、補助照明部6の複数の光源のそれぞれの光量が個別に調整されるようになっている。
【0118】
具体的には、まず、車両の周辺の明るさに基づいて、複数の光源60のそれぞれについて制御の基準となる光量(以下、「基準光量」という。)が設定される。そして、その複数の光源60のそれぞれの基準光量に基づいて表示モードに応じた調整がなされ、最終的に制御すべき光量(以下、「制御光量」という。)が決定されるようになっている。
【0119】
車両の周辺の明るさと基準光量との対応関係は、不揮発性メモリ40に記憶された基準光量テーブル4bに示されている。基準光量テーブル4bでは、車両の周辺の明るさが暗いほど、基準光量が高くなるように設定されている。
【0120】
図15は、この基準光量テーブル4bの内容を示す図である。本実施の形態では、撮影部5の4つの車載カメラ51,52,53で取得される4つの撮影画像の平均輝度が、車両の周辺の明るさを示す値として利用される。この平均輝度は、輝度取得部13によって導出されるものであり、8ビット(0〜255)で示される。
【0121】
また、光源60が発光する光量はその光源60に流れる電流の値に依存するため、本実施の形態では、各光源60の基準光量は、その基準光量にするために光源60に流すべき電流の値(mA)で表現されている。以下、基準光量にするために光源60に流すべき電流の値を、「基準電流値」という。
【0122】
前述のように、側方領域SAの全体をおよそ均一に照明できるように、前方光源61及び後方光源62と比較して、中央光源63の基準光量(正確には、基準電流値)は低く設定されている。
【0123】
基準光量テーブル4bに示すように、周辺環境が最も暗い場合に相当する平均輝度が「0〜50」の場合は、前方光源61の基準電流値は50(mA)、中央光源63の基準電流値は10(mA)、後方光源62の基準電流値は50(mA)に設定されている。
【0124】
また、平均輝度が「51〜100」の場合は、平均輝度が「0〜50」の場合よりも周辺環境が明るくなっている。このため、平均輝度が「0〜50」の場合よりも基準電流値が低く設定される。具体的には、前方光源61の基準電流値は40(mA)、中央光源63の基準電流値は8(mA)、後方光源62の基準電流値は40(mA)に設定されている。
【0125】
さらに、平均輝度が「101〜150」の場合は、平均輝度が「51〜100」の場合よりも周辺環境がさらに明るくなっている。このため、平均輝度が「51〜100」の場合よりも基準電流値が低く設定される。具体的には、前方光源61の基準電流値は30(mA)、中央光源63の基準電流値は6(mA)、後方光源62の基準電流値は30(mA)に設定されている。
【0126】
また、平均輝度が「151〜255」の場合は、車両の周辺の明るさが十分に明るいため、全ての光源60は非点灯とされる。
【0127】
前方光源61、中央光源63及び後方光源62の全てを、基準光量テーブル4bに設定された基準光量で発光させれば、側方領域SAはその全体がおよそ均一に照明されることになる。このような各光源60に設定された基準光量を、表示モードに応じてどのように調整して制御光量にするかは、不揮発性メモリ40に記憶された光量調整テーブル4cに示されている。
【0128】
図16は、この光量調整テーブル4cの内容を示す図である。図に示すように、光量調整テーブル4cにおいては、表示モードごとに、前方光源61、中央光源63及び後方光源62それぞれの制御光量の決定手法が記載されている。すなわち、制御光量を基準光量に維持すべき光源60には「維持」と示され、制御光量を基準光量よりも増加すべき光源60は「増加」と示され、制御光量を基準光量よりも減少すべき光源60は「減少」と示されている。
【0129】
周囲確認モードM1においては、前方光源61、中央光源63及び後方光源62の全てについて「維持」と示されている。周囲確認モードM1は、車両9の全周囲の状況を確認するための表示モードであるため(図11参照。)、車両の周辺において特にユーザに注目させるべき領域は存在しない。このため、全ての光源60の制御光量は基準光量のまま維持される。
【0130】
走行俯瞰モードM21においては、前方光源61、中央光源63及び後方光源62の全てについて「維持」と示されている。走行俯瞰モードM21では、車両9の周辺全体を示す合成画像FP1が示されることから(図12参照。)、車両の周辺において特にユーザに注目させるべき領域は存在しない。このため、全ての光源60の制御光量は基準光量のまま維持される。
【0131】
自車確認モードM22においては、前方光源61及び中央光源63について「増加」と示され、後方光源62について「減少」と示されている。自車確認モードM22は、見通しの悪い交差点に進入する場合や対向車とすれ違う場合などに利用される(図12参照。)。このため、車両9の前方側にユーザを注目させるために、前方光源61及び中央光源63の制御光量が基準光量よりも増加され、後方光源62の制御光量は基準光量よりも減少される。
【0132】
サイドカメラモードM23においては、中央光源63について「増加」と示され、前方光源61及び後方光源62については「減少」と示されている。サイドカメラモードM23においては、フロントフェンダ94の外側の領域のみが示される(図12参照。)。このため、当該領域にユーザを注目させるために、中央光源63の制御光量が基準光量よりも増加され、前方光源61及び後方光源62の制御光量は基準光量よりも減少される。
【0133】
駐車俯瞰モードM31においては、前方光源61、中央光源63及び後方光源62の全てについて「維持」と示されている。駐車俯瞰モードM31では、車両9の周辺全体を示す合成画像BP1が示されることから(図13参照。)、車両の周辺において特にユーザに注目させるべき領域は存在しない。このため、全ての光源60の制御光量は基準光量のまま維持される。
【0134】
また、ドアミラーモードM32においては、中央光源63について「増加」と示され、前方光源61及び後方光源62については「減少」と示されている。ドアミラーモードM32においては、車両9の側方領域の後方が示されることになる(図13参照。)。ただしこの場合、ドアミラー93が格納されているため、3つの光源60の光軸の方向も車両9の後方側へ移動される。このため、車両9の側方領域の後方に光軸が向けられた中央光源63のみの制御光量が基準光量よりも増加され、前方光源61及び後方光源62の制御光量は基準光量よりも減少される。
【0135】
このように制御光量を決定することは、実際には、その制御光量にするために光源60に流すべき電流の値(以下、「制御電流値」という。)を決定することに相当する。前方光源61及び後方光源62に関しては、制御電流値は、光量調整テーブル4cで「増加」と示される場合は基準電流値に対して例えば10(mA)増加され、「減少」と示される場合は基準電流値に対して例えば10(mA)減少される。また、中央光源63に関しては、制御電流値は、光量調整テーブル4cで「増加」と示される場合は基準電流値に対して例えば2(mA)増加され、「減少」と示される場合は基準電流値に対して例えば2(mA)減少されることになる。
【0136】
<1−9.処理フロー>
次に、上記のような複数の光源60の光量を個別に調整する処理の流れについて説明する。図17は、照明制御部12が光源60の光量を調整する処理の流れを示す図である。この処理は、照明制御部12により繰り返し実行されるものである。
【0137】
まず、ディスプレイ21に車両9の周辺の画像を表示させる状態であるかが判定される(ステップS11)。具体的には、動作モードが、ナビモードM0以外(周囲確認モードM1、フロントモードM2及びバックモードM3のいずれか)であるかが判定される。動作モードがナビモードM0の場合は(ステップS11にてNo)、補助照明部6による照明が不要であるため全ての光源60が消灯される(ステップS17)。
【0138】
また、動作モードがナビモードM0以外のときには(ステップS11にてYes)、次に、補助照明部6による照明が必要な程度に、車両の周辺の明るさが低いか否かが判定される。車両の周辺の明るさは、撮影部5で取得される撮影画像の平均輝度が利用される。輝度取得部13によって撮影画像の平均輝度が導出され、この平均輝度が所定のしきい値(例えば「150」)以下であるか否かが判定される(ステップS12)。撮影画像の平均輝度が所定のしきい値よりも高い場合は(ステップS12にてNo)、補助照明部6による照明が不要であるため全ての光源60が消灯される(ステップS17)
一方、撮影画像の平均輝度が所定のしきい値よりも低い場合は(ステップS12にてYes)、次に、車両の周辺の明るさに基づいて、複数の光源60それぞれの基準光量が設定される。具体的には、不揮発性メモリ40内の基準光量テーブル4bが参照され、撮影画像の平均輝度に基づいて、複数の光源60それぞれの基準電流値が取得される(ステップS13)。
【0139】
次に、その時点の表示モードが取得される(ステップS14)。そして、複数の光源60のそれぞれの基準光量に対して表示モードに応じた調整がなされ、制御光量が決定される(ステップS15)。具体的には、不揮発性メモリ40に記憶された光量調整テーブル4cが参照され、表示モードに応じて基準電流値に対する増減がなされ、あるいは、基準電流値が維持されて制御電流値が決定される。
【0140】
続いて、各光源60の電流の値が制御電流値となるように、光源駆動部69の電流変更部61a,62a,63aのそれぞれに照明制御部12から信号が出力される。これにより、各光源60ごとに個別に調整された制御光量で各光源60が発光することになる(ステップS16)。
【0141】
以上のように、本実施の形態の画像表示システム120では、ディスプレイ21に表示される画像に被写体像として含まれる車両の周辺の領域に応じて、複数の光源60のそれぞれの光量を個別に調整する。このため、必要となる一部の光源60の光量のみを増加させることができる。したがって、複数の光源60の全てを最大の光量で常に発光させる必要が無いため、消費電力を低減できる。これとともに、光源60の劣化の進行を抑制してその耐久性を向上できる。
【0142】
また、表示モードに応じて、複数の光源60のうちの一部の光源60の光量を基準光量よりも増加させ、他の光源60の光量を基準光量よりも減少させることで、光量が増加した光源60が照明する領域と光量が減少した光源60が照明する領域との間のコントラストが高くなり、側方領域SAのうちのユーザに注目させるべき一部の領域(光量が増加した光源60が照明する領域)を強調することができる。また、一部の光源60の光量を増加させたとしても、他の光源60の光量を減少させることから、一つのサイドカメラユニット70に流れる電流の合計値を抑制できるため、電気配線や電子部品等のコストの上昇を防止できる。
【0143】
また、車両の周辺の明るさに応じて光源60の光量が適切な光量に調整されるため、無駄な照明がなされず、消費電力を有効に低減できる。
【0144】
<2.第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態における画像表示システムの構成・処理は、第1の実施の形態とほぼ同様であるが一部のみが相違しているため、以下、第1の実施の形態との相違点を中心に説明する。
【0145】
第2の実施の形態では、自車確認モードM22において、ドライバの方向指示器85のウインカースイッチの操作に応答して、合成画像FP4の仮想視点VPの視点位置が移動されるようになっている。
【0146】
図18は、自車確認モードM22における画面の状態遷移を示す図である。また、図19は、仮想視点VPの位置の遷移を示す図である。方向指示器85から入力されるターン信号がオフの場合、すなわち、方向指示が無い場合は、仮想視点VPの視点位置は車両9の後方における左右略中央の位置VPC(図19参照)、視野方向は車両9の前方方向に設定される。これにより、図18の状態STCに示すように、ディスプレイ21には、車両9の左右双方の側方領域を略均等に含む合成画像FP4が示される。
【0147】
一方、方向指示器85から入力されるターン信号がオンの場合、すなわち、方向指示が有る場合は、仮想視点VPに関して視野方向は車両9の前方方向のまま、視点位置がターン信号が示す方向の位置に移動される。
【0148】
具体的には、ターン信号が左方向を示すときは、仮想視点VPの視点位置は車両9の左サイドの位置VPLに設定される(図19参照)。これにより、図18の状態STLに示すように、方向指示器85のターン信号が示す左方向の側方領域を右方向の側方領域よりも大きく示す合成画像FP4が、ディスプレイ21に表示される。
【0149】
また、ターン信号が右方向を示すときは、仮想視点VPの視点位置は車両9の右サイドの位置VPRに設定される(図19参照)。これにより、図18の状態STRに示すように、方向指示器85のターン信号が示す右方向の側方領域を左方向の側方領域よりも大きく示す合成画像FP4がディスプレイ21に表示される。
【0150】
方向指示器85で指示された方向は、方向変更や幅寄せのときに車両9が移動して接触する物体が存在する可能性が高い。したがって、このように方向指示器85で指示された方向の側方領域を大きく示すことで、ユーザ(代表的にはドライバ)の注意を接触する可能性のある物体に向けさせることができ、車両9と物体との接触を有効に防止できる。なお、方向指示が解除されると、図18の状態STCに示すように、車両9の左右双方の側方領域を略均等に含む合成画像FP4が表示される状態に戻ることになる。
【0151】
また、本実施の形態では、このように方向指示が有る場合は、方向指示が示す方向に配置されたサイドカメラユニット70の3つの光源60の光量を、方向指示の逆方向に配置されたサイドカメラユニット70の3つの光源60の光量以上とするようになっている。
【0152】
図20は、第2の実施の形態における、光源60の光量を調整する処理の流れを示す図である。
【0153】
図20に示すステップS21〜S25,S29の処理は、図17に示すステップS11〜S15,S17の処理と同様である。したがって、ステップS25が完了した時点で、表示モードに応じて制御光量(より正確には、制御電流値)が決定されている。
【0154】
ステップS25が完了すると、続いて、表示モードが自車確認モードM22で、かつ、方向指示が有るか否かが判定される(ステップS26)。方向指示の有無は、ターン信号に基づいて判断される。表示モードが自車確認モードM22以外の場合や、自車確認モードM22であっても方向指示が無い場合は(ステップS26にてNo)、そのままステップS25で決定された制御光量で各光源60が発光するように制御される(ステップS28)。
【0155】
一方、表示モードが自車確認モードM22で、かつ、方向指示が有る場合は(ステップS26にてYes)、方向指示とは逆方向に配置された3つの光源60全ての制御光量が、基準光量よりも減少した値に再決定される。また、方向指示が示す方向に配置された3つの光源60の制御光量はそのまま維持される(ステップS27)。そして、再決定された制御光量で各光源60が発光するように制御されることになる(ステップS28)。
【0156】
これにより、方向指示が示す方向の前方光源61及び中央光源63の制御光量のみが基準光量よりも増加され、他の光源60の制御光量は基準光量よりも減少されることになる。その結果、方向指示が示す方向の光源60の光量がその逆方向の光源60の光量以上となるため、方向指示が示す方向の側方領域をより強調することができ、ユーザ(代表的にはドライバ)の注意を接触する可能性高い方向に向けさせることができる。なお、この場合において、方向指示の逆方向の光源60については、制御光量は減少されてはいるものの消灯されるわけではない。このため、仮に方向指示の逆方向に接触する可能性のある物体が存在する場合でも、ユーザはその物体を認識可能である。
【0157】
なお、本実施の形態では、自車確認モードM22の場合にのみ、方向指示が示す方向に基づいて光源60の光量を調整していたが、他の表示モードにおいても同様に、方向指示が示す方向の光源60の光量がその逆方向の光源60の光量以上となるようにしてもよい。
【0158】
<3.第3の実施の形態>
次に、第3の実施の形態について説明する。第3の実施の形態における画像表示システムの構成・処理は、第1の実施の形態とほぼ同様であるが一部のみが相違しているため、以下、第1の実施の形態との相違点を中心に説明する。
【0159】
一つのサイドカメラユニット70に配置される3つの光源60は、図6に示すように、前方領域FA、中央領域CA及び後方領域BAを照明する。このうち、前方領域FAについては、車両9が標準的に備えるヘッドライトによっても照明することが可能である。
【0160】
図21は、車両9のヘッドライト98が照明可能な領域を示す図である。図中では、ヘッドライト98によって、周辺環境が暗い場合でも十分な明るさの画像の取得が可能な程度(例えば、0.5ルクス以上)に照明できる領域HAをハッチングで示している。図に示すように、前方領域FAは、ヘッドライト98が照明可能な領域HAに含まれている。したがって、ヘッドライト98が点灯している場合は、前方領域FAの光量を高くする必要性は低い。このため、本実施の形態では、ヘッドライト98が点灯している場合は、前方光源61の制御光量を基準光量よりも減少させるようになっている。
【0161】
図22は、第3の実施の形態における、光源60の光量を調整する処理の流れを示す図である。
【0162】
図22に示すステップS31〜S35,S39の処理は、図17に示すステップS11〜S15,S17の処理と同様である。したがって、ステップS35が完了した時点で、表示モードに応じて制御光量(より正確には、制御電流値)が決定されている。
【0163】
ステップS35が完了すると、続いて、ヘッドライト98が点灯されているか否かが判定される(ステップS36)。ヘッドライト98の点灯状態は、灯火制御装置84からの信号に基づいて判断される。ヘッドライト98が点灯していない場合は(ステップS36にてNo)、そのままステップS35で決定された制御光量で各光源60が発光するように制御される(ステップS38)。
【0164】
一方、ヘッドライト98が点灯している場合は(ステップS36にてYes)、前方光源61の制御光量が基準光量よりも減少した値に再決定される。また、前方光源61以外の光源60の制御光量はそのまま維持される(ステップS37)。そして、再決定された制御光量で各光源60が発光するように制御されることになる(ステップS38)。
【0165】
このように、ヘッドライト98が点灯している場合に前方光源61の制御光量を基準光量よりも減少させることで、無駄な照明がなされず、消費電力を有効に低減できる。なお、本実施の形態では、走行用灯火装置のうちヘッドライト98の点灯状態のみを考慮していたが、テールランプやブレーキランプなど他の走行用灯火装置の点灯状態を考慮して各光源60の光量を調整するようにしてもよい。
【0166】
<4.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態で説明した形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0167】
上記実施の形態では、表示モードに応じて複数の光源のそれぞれの光量を個別に調整するようにしている。シフトポジションや走行速度などの車両の走行状態に応じて動作モードが変更され、表示モードは動作モードに応じて変更されることから、上記実施の形態の技術は、車両の走行状態に応じて複数の光源のそれぞれの光量を個別に調整する技術であるともいえる。また、表示モードとは無関係に、車両の走行状態を考慮して複数の光源のそれぞれの光量を個別に調整してもよい。例えば、シフトポジションが”D(前進)”であれば前方光源61の制御光量を基準光量よりも増加させ(他の光源60の光量を基準光量よりも減少させる)、シフトポジションが”R(後退)”であれば後方光源62の制御光量を基準光量よりも増加させる(他の光源60の光量を基準光量よりも減少させる)ことなどが考えられる。また、走行速度が所定以上の場合はドライバに進行方向に集中させるために前方光源61の制御光量を基準光量よりも増加させ(他の光源60の光量を基準光量よりも減少させる)、走行速度が所定未満の場合は車両の周辺の確認が必要な場合が多いため全ての光源60の制御光量を基準光量に維持することなどが考えられる。
【0168】
また、上記実施の形態において、制御光量を基準光量よりも減少させると説明した光源に関しては、消灯させてもよい。
【0169】
また、上記実施の形態では、車両の周辺の明るさに基づいて基準光量が設定されていたが、基準光量は予め定められた一定の値であってもよい。
【0170】
また、上記実施の形態では、車両の周辺の明るさを示す値として撮影画像の平均輝度が利用されていたが、車両の周辺の照度を検出する照度センサを設け、車両の周辺の明るさを示す値としてその照度センサの検出結果を利用してもよい。照度センサは、車両のフロントウインドウ中央上部やダッシュボード上などに取り付けることができる。
【0171】
また、上記実施の形態では、複数の光源が照明する車両の周辺の特定領域として車両の側方領域を設定していたが、特定領域としては車両の側方領域には限定されず車両の周囲の任意の領域を設定すればよい。ただし、上記実施の形態のように側方領域を特定領域とすれば、ドライバにとって確認が難しく走行用灯火装置でも照明しにくい側方領域を示す画像を、車両の周辺が暗い場合でも表示できるため有効である。なお、上記実施の形態では、車両の左右双方の側方領域を特定領域としていたが、一方の側方領域のみ(例えば、特に死角となりやすい運転席の逆側の側方領域のみ)を特定領域として設定してもよい。
【0172】
また、上記実施の形態では、画像処理装置100とナビゲーション装置20とは別の装置であるとして説明したが、画像処理装置100とナビゲーション装置20とが同一の筐体内に配置されて一体型の装置として構成されてもよい。
【0173】
また、上記実施の形態では、画像処理装置100で生成された画像を表示する表示装置はナビゲーション装置20であるとして説明したが、ナビゲーション機能等の特殊な機能を有していない一般的な表示装置であってもよい。
【0174】
また、上記実施の形態において、画像処理装置100の制御部1によって実現されると説明した機能の一部は、ナビゲーション装置20の制御部23によって実現されてもよい。
【0175】
また、上記実施の形態において、信号入力部41を介して画像処理装置100の制御部1に入力されると説明した信号の一部または全部は、ナビゲーション装置20に入力されるようになっていてもよい。この場合は、ナビ通信部42を経由して、画像処理装置100の制御部1に当該信号を入力すればよい。
【0176】
また、上記実施の形態では、車両のドライバが意図する方向指示を方向指示器85から入力していたが、他の手段によって入力してもよい。例えば、ドライバの目を撮影した画像からドライバの視点の動きを検出し、その検出結果からドライバが意図する方向指示を入力するものであってもよい。
【0177】
また、上記実施の形態では、プログラムに従ったCPUの演算処理によってソフトウェア的に各種の機能が実現されると説明したが、これら機能のうちの一部は電気的なハードウェア回路により実現されてもよい。また逆に、ハードウェア回路によって実現されるとした機能のうちの一部は、ソフトウェア的に実現されてもよい。
【符号の説明】
【0178】
1 制御部
12 照明制御部
13 輝度取得部
21 ディスプレイ
32 合成画像生成部
4b 基準光量テーブル
4c 光量調整テーブル
5 撮影部
6 補助照明部
61 前方光源
62 後方光源
63 中央光源
【特許請求の範囲】
【請求項1】
車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う車載照明装置であって、
前記画像生成装置は、前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させるものであり、
前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源と、
前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記複数の光源のそれぞれの光量を個別に調整する調整手段と、
を備えることを特徴とする車載照明装置。
【請求項2】
請求項1に記載の車載照明装置において、
前記調整手段は、前記複数の光源の一部の光量を基準光量よりも増加させ、他の光源の光量を基準光量よりも減少させることを特徴とする車載照明装置。
【請求項3】
請求項1または2に記載の車載照明装置において、
前記車両の周辺の明るさを取得する取得手段、
をさらに備え、
前記調整手段は、前記車両の周辺の明るさに応じて、前記複数の光源の光量を調整することを特徴とする車載照明装置。
【請求項4】
請求項1ないし3のいずれかに記載の車載照明装置において、
前記車両の走行に用いる走行用灯火装置の点灯状態を示す信号を入力する手段、
をさらに備え、
前記調整手段は、前記点灯状態に応じて、前記複数の光源の光量を調整することを特徴とする車載照明装置。
【請求項5】
請求項1ないし3のいずれかに記載の車載照明装置において、
前記車両のドライバが意図する方向指示を入力する手段、
をさらに備え、
前記複数の光源は、前記車両の左側及び右側にそれぞれ配置され、
前記調整手段は、前記方向指示が有るときは、前記方向指示が示す方向に配置された前記複数の光源の光量を、前記方向指示の逆方向に配置された前記複数の光源の光量以上とすることを特徴とする車載照明装置。
【請求項6】
車両に搭載される画像処理装置であって、
前記車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成可能な画像生成装置と、
前記画像生成装置の撮影を補助する照明を行う請求項1ないし5のいずれかに記載の車載照明装置と、
を備えることを特徴とする画像処理装置。
【請求項7】
車両に搭載される画像表示システムであって、
請求項6に記載の画像処理装置と、
前記画像処理装置から出力された前記車両の周辺を示す画像を表示する表示装置と、
を備えることを特徴とする画像表示システム。
【請求項8】
車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う照明方法であって、
前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させる工程と、
前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源のそれぞれの光量を個別に調整する工程と、
を備えることを特徴とする照明方法。
【請求項1】
車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う車載照明装置であって、
前記画像生成装置は、前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させるものであり、
前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源と、
前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記複数の光源のそれぞれの光量を個別に調整する調整手段と、
を備えることを特徴とする車載照明装置。
【請求項2】
請求項1に記載の車載照明装置において、
前記調整手段は、前記複数の光源の一部の光量を基準光量よりも増加させ、他の光源の光量を基準光量よりも減少させることを特徴とする車載照明装置。
【請求項3】
請求項1または2に記載の車載照明装置において、
前記車両の周辺の明るさを取得する取得手段、
をさらに備え、
前記調整手段は、前記車両の周辺の明るさに応じて、前記複数の光源の光量を調整することを特徴とする車載照明装置。
【請求項4】
請求項1ないし3のいずれかに記載の車載照明装置において、
前記車両の走行に用いる走行用灯火装置の点灯状態を示す信号を入力する手段、
をさらに備え、
前記調整手段は、前記点灯状態に応じて、前記複数の光源の光量を調整することを特徴とする車載照明装置。
【請求項5】
請求項1ないし3のいずれかに記載の車載照明装置において、
前記車両のドライバが意図する方向指示を入力する手段、
をさらに備え、
前記複数の光源は、前記車両の左側及び右側にそれぞれ配置され、
前記調整手段は、前記方向指示が有るときは、前記方向指示が示す方向に配置された前記複数の光源の光量を、前記方向指示の逆方向に配置された前記複数の光源の光量以上とすることを特徴とする車載照明装置。
【請求項6】
車両に搭載される画像処理装置であって、
前記車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成可能な画像生成装置と、
前記画像生成装置の撮影を補助する照明を行う請求項1ないし5のいずれかに記載の車載照明装置と、
を備えることを特徴とする画像処理装置。
【請求項7】
車両に搭載される画像表示システムであって、
請求項6に記載の画像処理装置と、
前記画像処理装置から出力された前記車両の周辺を示す画像を表示する表示装置と、
を備えることを特徴とする画像表示システム。
【請求項8】
車両の周辺を複数のカメラで撮影して得られる撮影画像に基づいて、仮想視点からみた前記車両の周辺の少なくとも一部の領域を示す合成画像を生成可能な画像生成装置の撮影を補助する照明を行う照明方法であって、
前記撮影画像及び前記合成画像のうちの少なくとも一つを表示装置に表示させる工程と、
前記表示装置に表示する画像に被写体像として含まれる前記車両の周辺の領域に応じて、前記車両の周辺の特定領域を分割した複数の領域をそれぞれ照明する複数の光源のそれぞれの光量を個別に調整する工程と、
を備えることを特徴とする照明方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2011−205376(P2011−205376A)
【公開日】平成23年10月13日(2011.10.13)
【国際特許分類】
【出願番号】特願2010−70316(P2010−70316)
【出願日】平成22年3月25日(2010.3.25)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
【公開日】平成23年10月13日(2011.10.13)
【国際特許分類】
【出願日】平成22年3月25日(2010.3.25)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
[ Back to top ]