画像表示システム、画像処理装置、および、画像表示方法
【課題】車両列駐車の運転操作に応じてユーザが注意を払うべき箇所を明確にする技術を提供する。
【解決手段】車両及び車両の周辺領域を俯瞰した俯瞰画像を生成して、車両のステアリングホイールの操作内容を示す信号を入力する。車両を駐車する場合における操作内容に応答して、俯瞰画像中の車両の車体前方部を含む領域を拡大した前方拡大画像を表示する。これにより、駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。
【解決手段】車両及び車両の周辺領域を俯瞰した俯瞰画像を生成して、車両のステアリングホイールの操作内容を示す信号を入力する。車両を駐車する場合における操作内容に応答して、俯瞰画像中の車両の車体前方部を含む領域を拡大した前方拡大画像を表示する。これにより、駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両における画像表示技術に関する。
【背景技術】
【0002】
従来、車両の駐車を行う場合、ユーザは目測した駐車スペースの広さに対して車両の駐車が可能であると判断した場合に、ユーザが目測した情報に基づいてステアリングホイールを操作して車両を駐車していた。また、車両の周辺をカメラで撮影した画像を表示装置に表示してユーザが車両を駐車する場合の運転操作のサポートを行う技術がある。なお、本発明と関連する技術を説明する資料としては特許文献1がある。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−93485号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、ユーザの目測した情報に基づいて車両の駐車を行うと、車両と障害物との位置関係はユーザの感覚に基づいた不明瞭な状態で、ユーザが駐車を実行することとなり、ユーザの目測が誤っていた場合は車両を障害物に衝突させてしまう可能性があった。また、車両の周辺をカメラで撮影した画像を表示装置に表示する技術においても、駐車の際に表示装置に継続的に表示されている画像(例えば駐車動作を行っている際に継続的に表示されている車両後方の画像)だけでは、ユーザが車両を操作するごとに変化する車両の位置に応じて、車体のどの部分に障害物と衝突をしないかの注意を払って運転操作を行えばよいかがユーザにとって不明確となっていた。このような状態で、表示装置に表示された画像に基づいて車両を操作すると、車両を障害物に衝突させる可能性があった。
【0005】
本発明は、車両の駐車の運転操作に応じてユーザが注意を払うべき箇所を明確にすることを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、請求項1の発明は、車両に搭載される画像表示システムであって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、前記車両を駐車する場合に、前記車両がステアリングホイールの切返し位置に到達したことを検出する検出手段と、前記検出手段の情報から前記車両が前記切返し位置に到達したことに応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、を備える。
【0007】
また、請求項2の発明は、請求項1に記載の画像表示システムにおいて、前記車両を駐車する場合にユーザが設定した前記車両の駐車すべき位置に応じて前記切返し位置を算出する算出手段をさらに備え、前記検出手段は、前記車両の位置情報から前記算出手段により算出された前記切返し位置への前記車両の到達を検出する。
【0008】
また、請求項3の発明は、請求項1に記載の画像表示システムにおいて、前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段をさらに備え、前記検出手段は前記ステアリングホイールの操作状態に応じて前記切返し位置への前記車両の到達を検出する。
【0009】
また、請求項4の発明は、車両に搭載される画像表示システムであって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、を備える。
【0010】
また、請求項5の発明は、請求項4に記載の画像表示システムにおいて、前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記第1方向とは逆方向の第2方向に操作され、前記ステアリングホイールが、前記中立位置、及び、前記中立位置近傍のいずれかの位置となったことに応答して、前記前方拡大画像を表示する。
【0011】
また、請求項6の発明は、請求項4に記載の画像表示システムにおいて、前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記中立位置を経由して前記第1方向とは逆方向の第2方向に操作されたことに応答して、前記前方拡大画像を表示する。
【0012】
また、請求項7の発明は、請求項5または6に記載の画像表示システムにおいて、前記表示手段は、前記前方拡大画像が表示されている間に、前記ステアリングホイールが前記第2方向から前記第1方向へ操作された場合に、前記前方拡大画像から前記車両の後方を示す画像に切り替えて表示する。
【0013】
また、請求項8の発明は、請求項4乃至7のいずれかに記載の画像表示システムにおいて、前記表示手段は、前記前方拡大画像と前記俯瞰画像とを併せて表示する。
【0014】
また、請求項9の発明は、車両に搭載された表示装置に表示させる画像を生成する画像処理装置であって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する生成手段と、前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を前記表示装置に出力して表示させる出力手段と、を備える。
【0015】
さらに、請求項10の発明は、車両に搭載される画像表示方法であって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する工程と、前記車両のステアリングホイールの操作内容を示す信号を入力する工程と、前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する工程と、を備える。
【発明の効果】
【0016】
請求項1ないし10の発明によれば、検出手段の情報から車両が切返し位置に到達したことに応答して、俯瞰画像中の車両の車体前方部を含む領域を拡大した前方拡大画像を表示することで、ステアリングホイールを切返す位置でユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0017】
また、特に請求項2の発明によれば、検出手段は、車両の位置情報から算出手段により算出された切返し位置への車両の到達を検出することで、車両がステアリングホイールの切返し位置へ到達したことを精度よく検出でき、それに伴いユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0018】
また、特に請求項3の発明によれば、検出手段はステアリングホイールの操作状態に応じて切返し位置への車両の到達を検出することで、ユーザのステアリングホイールの操作状態に伴い、ユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0019】
また、特に請求項4の発明によれば、車両を縦列駐車する場合における操作内容に応答して、俯瞰画像中の車両の車体前方部を含む領域を拡大した前方拡大画像を表示することで、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。
【0020】
また、特に請求項5の発明によれば、表示手段は、ステアリングホイールが、車両が直進する中立位置から第1方向に操作された後に、第1方向とは逆方向の第2方向に操作され、ステアリングホイールが、中立位置、及び、中立位置近傍のいずれかの位置となったことに応答して、前方拡大画像を表示することで、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングの前にユーザは注意する対称の状況を確認できる。
【0021】
また、特に請求項6の発明によれば、表示手段は、ステアリングホイールが、車両が直進する中立位置から第1方向に操作された後に、中立位置を経由して第1方向とは逆方向の第2方向に操作されたことに応答して、前方拡大画像を表示することで、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。
【0022】
また、特に請求項7の発明によれば、表示手段は、前方拡大画像が表示されている間に、ステアリングホイールが第2方向から第1方向へ操作された場合に、前方拡大画像から車両の後方を示す画像に切り替えて表示することで、縦列駐車における車両位置に応じて車体前方部及び車両の後方に注意を払って操作するタイミングをユーザは把握できる。
【0023】
さらに、特に請求項8の発明によれば、表示手段は、前記前方拡大画像と前記俯瞰画像とを併せて表示することで、縦列駐車における車両位置に応じてユーザが注意を払って操作すべき車体部分の画像と、車両全体を含む車両9の周辺領域の画像とを同時にユーザは確認できる。
【図面の簡単な説明】
【0024】
【図1】図1は、画像表示システムのブロック図である。
【図2】図2は、車載カメラが車両に配置される位置を示す図である。
【図3】図3は、合成画像を生成する手法を説明するための図である。
【図4】図4は、画像表示システムの動作モードの遷移を示す図である。
【図5】図5は、設定前の駐車領域の画像を含む合成画像と車両の後方画像とを示す図である。
【図6】図6は、設定後の駐車領域の画像を含む合成画像と車両の後方画像とを示す図である。
【図7】図7は、縦列駐車途中の画像を表示する合成画像と車両の後方画像とを示す図である。
【図8】図8は、縦列駐車途中の画像を表示する合成画像と前方拡大画像とを示す図である。
【図9】図9は、駐車領域内の車両の画像を表示する合成画像と車両の後方画像とを示す図である。
【図10】図10は、画像処理装置の処理フローチャートである。
【図11】図11は、画像処理装置の処理フローチャートである。
【図12】図12は、画像表示システムのブロック図である。
【図13】図13は、駐車領域の設定に伴う駐車開始位置の算出を示す図である。
【図14】図14は、切返し位置が表示された状態を示す図である。
【図15】図15は、車両がステアリングホイールの切返し位置に到達したことにより表示される前方拡大画像を示す図である。
【図16】図16は、画像処理装置の処理フローチャートである。
【図17】図17は、画像処理装置の処理フローチャートである。
【発明を実施するための形態】
【0025】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0026】
<第1の実施の形態>
<1−1.システム構成>
図1は、画像表示システム120のブロック図である。この画像表示システム120は、車両(本実施の形態では、自動車)に搭載されるものであり、車両の周辺を撮影して画像を生成し、その生成した画像を車室内のナビゲーション装置20などの表示装置に出力する機能を有している。画像表示システム120のユーザ(代表的にはドライバ)は、この画像表示システム120を利用することにより、当該車両の周辺の様子をほぼリアルタイムに把握できるようになっている。
【0027】
図1に示すように、画像表示システム120は、車両の周辺を示す周辺画像を生成してナビゲーション装置20などの表示装置に画像情報を出力する画像処理装置100と、車両の周囲を撮影するカメラを備えている撮影部5とを主に備えている。
【0028】
ナビゲーション装置20は、ユーザに対しナビゲーション案内を行うものであり、タッチパネル機能を備えた液晶などのディスプレイ21と、ユーザが操作を行う操作部22と、装置全体を制御する制御部23とを備えている。ディスプレイ21の画面がユーザから視認可能なように、ナビゲーション装置20は車両のインストルメントパネルなどに設置される。ユーザからの各種の指示は、操作部22とタッチパネルとしてのディスプレイ21とによって受け付けられる。制御部23は、CPU、RAM及びROMなどを備えたコンピュータであり、所定のプログラムに従ってCPUが演算処理を行うことでナビゲーション機能を含む各種の機能が実現される。
【0029】
ナビゲーション装置20は、画像処理装置100と通信可能に接続され、画像処理装置100との間で各種の制御信号の送受信や、画像処理装置100で生成された周辺画像の受信が可能となっている。ディスプレイ21には、制御部23の制御により、通常はナビゲーション装置20単体の機能に基づく画像が表示されるが、所定の条件下で画像処理装置100により生成された車両の周辺の様子を示す周辺画像や、車両9及び車両9の周辺領域を俯瞰した俯瞰画像が表示される。また、ディスプレイ21に表示される俯瞰画像は周辺領域をほぼリアルタイムに示すことになる。これにより、ナビゲーション装置20は、画像処理装置100で生成された周辺画像を受信して表示する表示装置としても機能する。
【0030】
画像処理装置100は、その本体部10が周辺画像を生成する機能を有するECU(Electronic Control Unit)であり、車両の所定の位置に配置される。画像処理装置100は、車両の周辺を撮影する撮影部5を備えており、この撮影部5で車両の周辺を撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成する画像生成装置として機能する。これらの撮影部5が備える複数の車載カメラ51,52,53は、本体部10とは別の車両の適位置に配置されるが詳細は後述する。
【0031】
画像処理装置100の本体部10は、装置全体を制御する制御部1と、撮影部5で取得された撮影画像を処理して表示用の周辺画像を生成する画像生成部3と、ナビゲーション装置20との間で通信を行うナビ通信部42とを主に備えている。
【0032】
ナビゲーション装置20の操作部22やディスプレイ21によって受け付けられたユーザからの各種の指示は、制御信号としてナビ通信部42によって受け付けられて制御部1に入力される。これにより、画像処理装置100は、ナビゲーション装置20に対するユーザの操作に応答した動作が可能となっている。
【0033】
また、画像処理装置100は、駐車支援ボタン45を備えている。この駐車支援ボタン45がユーザに操作されると、ユーザの指示を示す信号が制御部1に入力されて、後述するフロントモードM2(図4に示す。)の画像が表示される。なお、この駐車支援ボタン45はハードボタンとして画像処理装置100やナビゲーション装置20に設けられてもよい。また、駐車支援ボタン45は、ナビゲーション装置20のディスプレイ21にユーザが指などをディスプレイ21に接触させて操作するタッチパネルのボタンとして表示されるようにしてもよい。
【0034】
画像生成部3は、各種の画像処理が可能なハードウェア回路として構成されており、合成画像生成部31、画像範囲選択部32、及び、画像情報出力部33を主な機能として備えている。
【0035】
合成画像生成部31は、撮影部5の複数の車載カメラ51,52,53で取得された複数の撮影画像に基づいて、車両の周辺の任意の仮想視点からみた合成画像を生成する。合成画像生成部31が仮想視点からみた合成画像を生成する手法については後述する。
【0036】
また、画像情報出力部33は合成画像生成部31において生成された合成画像情報をナビゲーション装置20へ出力する。これにより、車両の周辺を示す周辺画像がナビゲーション装置20のディスプレイ21に表示されることになる。
【0037】
制御部1は、CPU、RAM及びROMなどを備えたコンピュータであり、所定のプログラムに従ってCPUが演算処理を行うことで各種の制御機能が実現される。図中に示す画像制御部11は、このようにして実現される制御部1の機能のうちの一部を示している。
【0038】
画像制御部11は、画像生成部3によって実行される画像処理を制御するものである。例えば、画像制御部11は、合成画像生成部31が生成する合成画像の生成に必要な各種パラメータなどを指示する。また、画像範囲選択部32がサイドカメラ53により撮影した画像の所定範囲を選択するための指示を車種ごとのパラメータの情報に基づいて行う。
【0039】
また、画像制御部11は、後述する縦列駐車ボタン202(図4に示す。)のユーザの操作に応答して、生成された合成画像中に後述する駐車領域RF11(図5に示す。)をナビゲーション装置20に出力してディスプレイ21に表示させるための制御を行う。
【0040】
さらに、画像制御部11は、後述する車両9のステアリングホイール91のユーザの操作内容を示す信号が制御部1に入力されると、その操作内容に応答して生成された合成画像(俯瞰画像中の車両9の車体前方部を含む領域を拡大した前方拡大画像(図8に示すCQ3a。)をナビゲーション装置20に出力してディスプレイ21に表示させる制御を行う。これにより、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。
【0041】
また、画像処理装置100の本体部10は、不揮発性メモリ40、カード読取部44、及び、信号入力部41をさらに備えており、これらは制御部1に接続されている。
【0042】
不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどで構成されている。不揮発性メモリ40には、車種別データ4aが記憶されている。車種別データ4aは、合成画像生成部31が合成画像を生成する際に必要となる車両の種別に応じたデータなどである。また、縦列駐車モードで表示させる駐車領域のデータやユーザのステアリングホイール91の操作内容に応答して表示される画像データのパラメータなども記憶されている。
【0043】
カード読取部44は、可搬性の記録媒体であるメモリカードMCの読み取りを行う。カード読取部44は、メモリカードMCの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードMCに記録されたデータを読み取る。カード読取部44で読み取られたデータは、制御部1に入力される。
【0044】
メモリカードMCは、種々のデータを記憶可能なフラッシュメモリなどで構成されており、画像処理装置100はメモリカードMCに記憶された種々のデータを利用できる。例えば、メモリカードMCにプログラムを記憶させ、これを読み出すことで、制御部1の機能を実現するプログラム(ファームウェア)を更新することが可能である。また、メモリカードMCに不揮発性メモリ40に記憶された車種別データ4aとは異なる種別の車両に応じた車種別データを記憶させ、これを読み出して不揮発性メモリ40に記憶させることで、画像表示システム120を異なる種別の車両に対応させることも可能である。
【0045】
また、信号入力部41は、車両に設けられた各種装置からの信号を入力する。この信号入力部41を介して、画像表示システム120の外部からの信号が制御部1に入力される。具体的には、シフトセンサ81、車速センサ82、方向指示器83、及び、操舵角センサ84などから、各種情報を示す信号が制御部1に入力される。
【0046】
シフトセンサ81からは、車両9の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションが入力される。車速センサ82からは、その時点の車両9の走行速度(km/h)が入力される。
【0047】
方向指示器83からは、ウインカースイッチの操作に基づく方向指示、すなわち、車両のドライバが意図する方向指示を示すターン信号が入力される。ウインカースイッチが操作されたときはターン信号が発生し、ターン信号はその操作された方向(左方向あるいは右方向)を示すことになる。ウインカースイッチが中立位置となったときは、ターン信号はオフとなる。
【0048】
操舵角センサ84は、ユーザが操作したステアリングホイール91の操作方向を制御部1に入力する。詳細には、操舵角センサ84は、ユーザが操作したステアリングホイール91の回転方向、回転角度、及び、回転速度を信号入力部41を介して制御部1に入力する。なお、操舵角センサ84の信号は車両本体を制御する制御部へも入力される。そして、操舵角センサ84の入力信号と車速センサ82から車両本体を制御する制御部へ入力された信号に基づいて、車両9を操舵する前輪(図8に示す前輪401。)の操舵角と操舵速度が算出され、この算出された値に基づいて車両9の制御が行われる。
【0049】
<1−2.撮影部>
次に、画像処理装置100の撮影部5について詳細に説明する。撮影部5は、制御部1に電気的に接続され、制御部1からの信号に基づいて動作する。
【0050】
撮影部5は、車載カメラであるフロントカメラ51、バックカメラ52及びサイドカメラ53を備えている。これらの車載カメラ51,52,53はそれぞれ、CCDやCMOSなどの撮像素子を備えており電子的に画像を取得する。
【0051】
図2は、車載カメラ51,52,53が車両9に配置される位置を示す図である。なお、以下の説明においては、方向及び向きを示す際に、適宜、図中に示す3次元のXYZ直交座標を用いる。このXYZ軸は車両9に対して相対的に固定される。ここで、X軸方向は車両9の左右方向に沿い、Y軸方向は車両9の直進方向(前後方向)に沿い、Z軸方向は鉛直方向に沿っている。また、便宜上、+X側を車両9の右側、+Y側を車両9の後側、+Z側を上側とする。
【0052】
フロントカメラ51は、車両9の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸51aは車両9の直進方向(平面視でY軸方向の−Y側)に向けられている。バックカメラ52は、車両9の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸52aは車両9の直進方向の逆方向(平面視でY軸方向の+Y側)に向けられている。また、サイドカメラ53は、左右のドアミラー93にそれぞれ設けられており、その光軸53aは車両9の左右方向(平面視でX軸方向)に沿って外部に向けられている。なお、フロントカメラ51やバックカメラ52の取り付け位置は、左右略中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。
【0053】
これらの車載カメラ51,52,53のレンズとしては魚眼レンズなどが採用されており、車載カメラ51,52,53は180度以上の画角αを有している。このため、4つの車載カメラ51,52,53を利用することで、車両9の全周囲の撮影が可能となっている。
【0054】
<1−3.画像変換処理>
次に、画像生成部3の合成画像生成部31が、撮影部5で得られた複数の撮影画像に基づいて車両9の周辺を任意の仮想視点からみた様子を示す合成画像を生成する手法について説明する。合成画像を生成する際には、不揮発性メモリ40に予め記憶された車種別データ4aが利用される。図3は、合成画像を生成する手法を説明するための図である。
【0055】
撮影部5のフロントカメラ51、バックカメラ52及びサイドカメラ53で同時に撮影が行われると、車両9の前方、後方、左側方、及び、右側方をそれぞれ示す4つの撮影画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの撮影画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。
【0056】
次に、4つの撮影画像P1〜P4の各画素が、仮想的な三次元空間における立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。撮影画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とは予め対応関係が定められている。このため、立体曲面SPの各画素の値は、この対応関係と撮影画像P1〜P4に含まれる各画素の値とに基づいて決定できる。
【0057】
撮影画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、車両9における4つの車載カメラ51,52,53の配置(相互間距離、地上高さ、光軸角度等)に依存する。このため、この対応関係を示すテーブルデータが、不揮発性メモリ40に記憶された車種別データ4aに含まれている。
【0058】
また、車種別データ4aに含まれる車体の形状やサイズを示すポリゴンデータが利用され、車両9の三次元形状を示すポリゴンモデルである車両像を仮想的に備えている。構成された車両像は、立体曲面SPが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0059】
さらに、立体曲面SPが存在する三次元空間に対して、制御部1により仮想視点VPが設定される。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の周辺に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0060】
そして、設定された仮想視点VPに応じて、立体曲面SPにおける必要な領域が画像として切り出される。仮想視点VPと、立体曲面SPにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。一方で、設定された仮想視点VPに応じてポリゴンで構成された車両像に関してレンダリングがなされ、その結果となる二次元の車両像が、切り出された画像に対して重畳される。これにより、車両9及びその車両9の周辺を任意の仮想視点からみた様子を示す合成画像が生成されることになる。
【0061】
例えば、視点位置が車両9の位置の略中央の直上位置で、視野方向が略直下方向とした仮想視点VP1を設定した場合は、車両9の略直上から車両9を見下ろすように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP1が生成される。また、図中に示すように、視点位置が車両9の位置の左後方で、視野方向が車両9における略前方とした仮想視点VP2を設定した場合は、車両9の左後方からその周辺全体を見渡すように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP2が生成される。
【0062】
なお、実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、設定された仮想視点VPに対応して必要となる領域の画素の値のみを撮影画像P1〜P4に基づいて決定することで、処理速度を向上できる。
【0063】
<1−4.動作モード>
次に、画像表示システム120の動作モードについて説明する。図4は、画像表示システム120の動作モードの遷移を示す図である。画像表示システム120は、ナビモードM1、フロントモードM2、バックモードM3、及び、縦列駐車モードM4の4つの動作モードを有している。これらの動作モードは、ユーザの操作や車両9の走行状態に応じて制御部1の制御により切り替えられるようになっている。
【0064】
ナビモードM1は、ナビゲーション装置20の機能により、ナビゲーション案内用の地図画像NPを主にディスプレイ21に表示する動作モードである。ナビモードM1では、画像処理装置100の機能が利用されず、ナビゲーション装置20単体の機能で各種の表示がなされる。
【0065】
フロントモードM2、バックモードM3、及び、縦列駐車モードM4は、画像処理装置100の機能を利用して、撮影画像PP、合成画像CP、及び、合成画像CQ0などをディスプレイ21に表示して、車両9の周辺の状況をほぼリアルタイムでユーザに示す動作モードである。
【0066】
また、フロントモードM2は、前進時に必要となる車両9の前方や側方を主に示す画像を表示する動作モードである。例えば、図中に示すように、車両9の直上の仮想視点からみた車両9及び車両9の周辺の様子を示す合成画像(俯瞰画像)CPと、フロントカメラ51での撮影により得られる撮影画像PPとが同時にディスプレイ21に表示される。この合成画像CPの仮想視点の位置は、車両9の直上に限らず、ユーザの操作に応じて車両9の後方側などへ切り替えられるようになっていてもよい。さらに、フロントモードM2は、自車の中心に周囲2〜3mの範囲を俯瞰画像として表示したモードである。
【0067】
また、バックモードM3は、後退時に必要となる車両9の後方を主に示す画像を表示する動作モードである。例えば、図中に示すように、車両9の直上の仮想視点からみた車両9及び車両9の周辺の様子を示す合成画像(俯瞰画像)CPと、バックカメラ52での撮影により得られる撮影画像PPとが同時にディスプレイ21に表示される。この合成画像CPの仮想視点の位置は、車両9の直上に限らず、ユーザの操作に応じて車両9の前方側などへ切り替えられるようになっていてもよい。
【0068】
さらに、縦列駐車モードM4は、ユーザが車両9を縦列駐車する際にユーザの運転操作をサポートするモードである。例えば、図中に示すように、車両9の直上の仮想視点からみた車両9の周辺領域をほぼリアルタイムに示し、車両9の大きさに対応した広さを有する駐車領域RF11と車両9の前方に駐車している他車両19を表示する画像が合成画像俯瞰画像)CQ0として画像処理装置100は、ナビゲーション装置20出力してディスプレイ21に表示させる。
【0069】
また、縦列駐車モードM4は、車両9の後方に備えられたカメラ52で車両9の後方を撮影した後方画像BA0を合成画像CQ0と併せて画像処理装置100が出力して表示させる。
【0070】
縦列駐車モードM4は、フロントモードM2の縦列駐車ボタン202をユーザが操作することにより開始される。そして、縦列駐車モードM4では、フロントモードM2で表示されていた車両9と車両9の周辺の様子を示す合成画像俯瞰画像)CPに、車両9と車両9の大きさに対応した広さを有する駐車領域RF11の画像の表示が加わり、合成画像CQ0として画像処置装置100がディスプレイ21に出力して表示させる。なお、縦列駐車モードM4は、フロントモードM2から仮想視点の位置を上方の位置に移動させて自車と駐車領域RF11とがディスプレイ21の1画面内で表示されるようにしている。 また、フロントモードM2の縦列駐車ボタン202がユーザにより操作されると、画像処理装置100は、フロントモードM2で表示されていた車両9の前方の撮影画像PPからカメラ52により車両9の後方を撮影した後方画像BA0に切替えて、ディスプレイ21に表示させる。
【0071】
各モードの遷移は、ナビモードM1において、ナビゲーション装置20のディスプレイ21に表示される駐車支援ボタン201をユーザが操作した場合、または、ユーザが操作部22を操作した場合など、所定操作によりフロントモードM2に切り替えられる。また、フロントモードM2において、ユーザの操作部22による操作などの所定操作により、ナビモードM1に切り替えられる。なお、ナビモードM1とフロントモードM2とは、車速センサ82から入力される走行速度に応じて切り替えてもよい。
【0072】
また、ナビモードM1あるいはフロントモードM2の場合に、シフトセンサ81から入力されるシフトポジションが”R(後退)”となったときは、バックモードM3に切り替えられる。すなわち、シフトポジションが”R(後退)”の場合は、車両9は後退する状態であるため、車両9の後方を主に示すバックモードM3に切り替えられる。また、バックモードM3の場合に、シフトポジションが”R(後退)”以外となったときは、バックモードM3に切り替えられる直前の動作モードに戻ることになる。なお、バックモードM3において、ディスプレイ21に表示される駐車支援ボタン201をユーザが操作した場合は、フロントモードM2となる。
【0073】
そして、フロントモードM2において、ディスプレイ21に表示された縦列駐車ボタン202をユーザが操作すると、縦列駐車モードM4の画像が画像処理装置100から出力され、ディスプレイ21に表示される。また、縦列駐車モードM4においてディスプレイ21の戻るボタン203をユーザが操作した場合は、フロントモードM2に遷移する。
【0074】
<1−5縦列駐車モード>
以下では、縦列駐車モードM4で画像処理装置100からナビゲーション装置20に出力され、ディスプレイ21に表示される合成画像の詳細について図5〜図9を用いて説明する。図5は、設定前の駐車領域RF11の画像を含む合成画像CQ0(以下、「画像CQ0」ともいう。)と車両9の後方画像BA0以下、「画像BA0」ともいう。)とを示す図である。フロントモードM2で縦列駐車ボタン202がユーザにより操作されると、縦列駐車モードM4の画像CQ0と画像BA0とが画像処理装置100からナビゲーション装置20に出力され、ディスプレイ21に表示される。
図5に示す画像CQ0は、略中心に車両9の画像が表示されている俯瞰画像であり、車両の周辺領域を略リアルタイムに示している。そして、車両9の左側に駐車領域RF11が表示されている。この駐車領域RF11は、車両9が縦列駐車を行うのに必要なスペースであり、車両9の進行方向の長さが車両9の全長の約1.5倍で、車幅方向の長さが車両9の車幅の約1.2倍の広さを備えている略長方形の領域である。駐車領域RF11は縦列駐車モードM4の開始に伴い、画像CQ0の所定の位置に表示され、後述するようにユーザの操作により、駐車スペースの位置に設定される。また、図5に示す画像BA0は車両9に備えられたバックカメラ52から撮影された画像であり、車両9の後方の駐車領域RF11の一部分を含む画像が表示されている。
さらに、画像BA0の近傍には表示領域ガイド301が表示されている。この表示領域ガイド301は、画像BA0の画像が車両9に対してどの領域を撮影しているかを示したものであり、図5に示す表示領域ガイド301では車両9の後方領域を示している。このように表示されている画像が車両9からみてどの領域を撮影しているかを示すことで、ユーザは画像の撮影範囲を直感的に認識できる。
【0075】
図6は、設定後の駐車領域RF11の画像を含む合成画像CQ1(以下、「画像CQ1」ともいう。)と車両9の後方画像BA1(以下、「画像BA1」ともいう。)とを示す図である。車両9の左側には駐車領域RF11の画像が表示されている。この駐車領域RF11は、ユーザが指などをディスプレイ21に接触させたり、操作部22を用いて操作することにより、画像CQ1内の任意の位置に設定される。図6ではユーザは画像CQ1内の他車両19の後方である駐車スペースSA101以下、「スペースSA101」ともいう。)の領域に駐車領域RF11を移動させて、車両9を駐車させる位置を設定している。この設定により以後駐車領域RF11は路面に対して固定表示される。また、図5に示す画像BA1は車両9に備えられたバックカメラ52から撮影された画像であり、表示領域ガイド301は車両9の後方領域を示している。
【0076】
図7は、縦列駐車途中の画像を表示する合成画像CQ2以下、「画像CQ2」ともいう。)と車両9の画像BA2(以下、「画像BA2」ともいう。)とを示す図である。ユーザは駐車領域RF11をスペースSA101の領域に設定して、スペースSA101の位置に車両9を駐車させる動作を開始する。
【0077】
縦列駐車を開始する場合、ユーザが駐車領域RF11を操作して駐車スペースとして設定したスペースSA101が、車両9の右側後方で車両9と略平行な位置となるよう車両9を移動させる。このとき車両9の右側の側面とスペースSA101との車幅方向の間隔とは約1mの間隔とする。そして、シフト位置がバックになり車両が後退するときにユーザは車両9が直進する中立位置から右方向へステアリングホイール91を操作し、車両9の後端部がスペースSA101側へ所定角度傾いた後にステアリングホイール91を中立位置に戻した状態を図7の画像CQ2は示している。
【0078】
図8は、縦列駐車途中の画像を表示する合成画像CQ3(「画像CQ3」ともいう。)と前方拡大画像CQ3a以下、「画像CQ3a」ともいう。)とを示す図である。図8ではユーザが車両9のステアリングホイール91を中立位置とした状態で車両9を後退させた後、ステアリングホイール91を中立位置から左方向に操作した状態を示している。そして、この操作内容に応答して俯瞰画像である画像CQ3中の車両9の車体前方部を含む領域を拡大した画像CQ3aを図7の画像BA2から切替えてディスプレイ21に表示させる。尚、前方拡大画像CQ3aは、以下のようにして作成される。即ち、合成画像CQ3の前方部を切り出して所定倍率に拡大することで前方拡大画像CQ3aが作成される。あるいは、仮想視点位置を画像CQ3の仮想視点位置に対し車両前部方向にかつ下方に移動させた新たな俯瞰画像を作成することで前方拡大画像CQ3aが作成される。
【0079】
つまり、縦列駐車モードM4において、車両9のステアリングホイール91が、車両9が直進する中立位置から右方向に操作された後に中立位置を経由して右方向とは逆方向の左方向に操作されたことに応答して、画像処理装置100は画像CQ3aをディスプレイ21に表示させる。これにより、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。尚、車両9の後退中に右方向に操作された状態から中立位置に戻った時点で画像CQ3aをディスプレイ21に表示させてもよい。即ち、車両9がステアリングの切り返しポイントに到達したことを検出したときに画像CQ3aを表示させる。
【0080】
なお、車体前方部を含む領域とは、図8に示すように車体前方の両角部を含む領域であっても良いし、車体の回転方向に応じて運転者が注意すべき車体前方角部(切返しにより車体が右方向に回転する場合は車体前方部の右角部)であってもよい。このように車体前方角部を表示する場合、ユーザが注意すべき車体の箇所をより大きく拡大できるため、ユーザは障害物と車両9との位置関係をより明確に知ることができる。
図8に示す画像CQ3aでは、車両9がステアリングホイール91を左方向へ操作したことに伴い、車両9の前輪401は直進方向を0度とした場合に、車両9の左方向に所定角度傾いている。そして、前輪401がこの所定角度に傾いた状態で車両9が移動する軌跡をガイド線501で表示する。ガイド線501の軌跡上には障害物である他車両19の車体は重なっていないので、車両9は他車両19と衝突することなく、スペースSA101に移動できることをユーザは確認できる。
【0081】
また、画像CQ3aの近傍には表示領域ガイド301aが表示されている。この表示領域ガイド301aは、図7に示す画像BA2から図8に示す画像CQ3aに画像の表示が切り替わったことに伴い、表示領域ガイド301の車両9の後方領域の表示から車両9の車体前方部を含む車両9の前方領域の表示に切り替わっている。このように縦列駐車モードM4において表示される画像の切り替えに応答して、表示領域ガイドの表示領域も変更される。これにより、画像の表示が切り替わった後も画像が車両9のどの領域を撮影しているかをユーザは直感的に認識できる。
【0082】
さらに、図8に示すように画像CQ3aと俯瞰画像である画像CQ3とを併せて表示することで、縦列駐車における車両位置に応じてユーザが注意を払って操作すべき車体部分の画像と、車両全体を含む車両9の周辺領域の画像とを同時にユーザは確認できる。
【0083】
図9は、駐車領域RF11に含まれるスペースSA101の車両9の画像を表示する合成画像CQ4(以下、画像「CQ4」ともいう。)と車両9の後方画像BA4以下、「画像BA4」ともいう。)とを示す図である。
【0084】
図9は、図8に示した操作内容をユーザが行った後に画像CQ3aが表示された状態で、ユーザがステアリングホイール91を画像CQ3aが表示された際の左方向から右方向へ操作を切替えたことにより、画像CQ3aから画像BA4に切替えてディスプレイ21に表示することを示している。これにより、縦列駐車における車両位置に応じて車体前方部及び車両の後方に注意を払って操作するタイミングをユーザは把握できる。なお、画像CQ4では、ユーザがステアリングホイール91を左方向から右方向へ操作して、略中立位置となった状態で、車両9は駐車領域RF11内のスペースSA101に位置している。このため、ユーザは他車両19に衝突することなく車両9をスペースSA101内に駐車できる。
【0085】
なお、画像CQ3aから画像BA4の切り替えに伴い、表示領域ガイドの表示領域は、画像301aに対応した車両9の車体前方部を含む車両9の前方領域を示した表示領域ガイド301から、画像BA4に対応した車両9の後方領域を示した表示領域ガイド301aに切り替えられている。
<2.処理>
次に、画像処理装置100の処理について説明する。図10及び図11は画像処理装置100の処理フローチャートである。ユーザからの駐車支援ボタン201の操作信号が入力された場合(ステップS101がYes)、画像処理装置100はフロントモードM2の画像をナビゲーション装置20に出力して(ステップS102)、ステップS103の処理へ進む。なお、ユーザからの駐車支援ボタン201の操作信号が画像処理装置100に入力されていない場合(ステップS101がNo)は、処理を終了する。
【0086】
ステップS103では、ユーザからの縦列駐車ボタン202の操作信号が画像処理装置100に入力された場合(ステップS103がYes)、縦列駐車モードM4の画像を出力して(ステップS104)、ステップS105の処理へ進む。
【0087】
縦列駐車モードM4では、車両9の周辺領域を略リアルタイムに示す俯瞰画像(画像CQ0)を表示して、車両9の大きさに対応した広さを有す駐車領域RF11を俯瞰画像(画像CQ0)中に表示する。また、俯瞰画像と併せて画像BA0を表示する。なお、縦列駐車ボタン202の操作信号が画像処理装置100に入力されていない場合(ステップS103がNo)は、画像処理装置100はフロントモードM2の画像出力を継続して行う。
【0088】
ステップS105では、ユーザの操作により駐車領域RF11が合成画像内の駐車スペースを含む位置に設定された信号が入力された場合(ステップS105がYes)は、ユーザが設定した位置を駐車スペースとして設定して(ステップS106)、ステップS107の処理へ進む。
【0089】
なお、駐車領域を設定する信号が画像処理装置100に入力されていない場合(ステップS105がNo)は、縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0090】
ステップS107では、操舵角センサ84が検出した車両9のステアリングホイール91の回転方向、回転角度、及び、回転速度の情報が画像処理装置100へ入力により、画像CQ3aの出力条件を満たしている場合(ステップS107がYes)は、図11のステップS108の処理へ進む。そして、画像処理装置100は画像CQ3aをナビゲーション装置20へ出力してディスプレイ21に表示させ(ステップS109)、ステップS110の処理へ進む。
【0091】
つまり、ユーザのステアリングホイール91の操作内容に応答して、俯瞰画像中の車両9の車体前方部を含む領域を拡大した画像CQ3aを表示する。また詳細には、車両9のステアリングホイールが車両9が直進する中立位置から右方向に操作された後に、中立位置を経由して右方向とは逆の左方向に操作されたことに応答して、画像CQ3aを表示する。これにより、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。また、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。
【0092】
なお、画像CQ3aの出力条件を満たしていない場合(ステップS107がNo)は、継続して操舵角センサ84からの情報入力が画像処理装置100になされる。また、所定時間経過後もステップS107の条件を満たさない場合は、縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0093】
次に、ステップS109では、操舵角センサ84が検出した車両9のステアリングホイール91の回転方向、回転角度、及び、回転速度の情報が画像処理装置100へ入力により、画像BA4の出力条件を満たしているか否かを判定する(ステップS109)。
【0094】
そして、画像BA4の出力条件を満たしている場合(ステップS109がYes)は、画像処理装置100は、ナビゲーション装置20への画像出力を画像CQ3aから画像B4に切り替えて、ディスプレイ21に画像B4を表示させて(ステップS110)、処理を終了する。
【0095】
詳細には、画像CQ3aが表示されている間に、ステアリングホイール91が左方向から右方向へ操作された場合に、拡大画像CQ3aから車両9の後方を示す画像B4に切替えて表示する。これにより、縦列駐車における車両位置に応じて車体前方部及び車両9の後方に注意を払って操作するタイミングをユーザは把握できる。
【0096】
なお、画像B4の出力条件を満たしていない場合(ステップ109がNo)は、継続して操舵角センサ84からの情報入力が画像処理装置100になされる。また、所定時間経過後もステップS109の条件を満たさない場合は、縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0097】
以上のように、画像表示システム120においては、車両9を縦列駐車する場合におけるステアリングホイール91の操作内容に応答して、俯瞰画像中の車両9の車体前方部を含む領域を拡大した前方拡大画像CQ3aが表示される。このため、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザ把握できる。
【0098】
また、ステアリングホイール91が車両9が直進する中立位置から右方向に操作された後に中立位置を経由して右方向とは逆の左方向に操作されたことに応答して、ディスプレイ21に前方拡大画像CQ3aを表示する。このため、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザ把握できる。
【0099】
また、ディスプレイ21に前方拡大画像が表示されている間に、ステアリングホイール91が左方向から右方向へ操作された場合に、前方拡大画像CQ3aから車両9の後方を示す画像に切り替えて表示する。このため、縦列駐車における車両位置に応じて車体前方部、及び、車両9の後方に注意を払って操作するタイミングをユーザは把握できる。
【0100】
また、ディスプレイ21に前方拡大画像CQ3aと俯瞰画像CQ3とを併せて表示する。これにより、縦列駐車における車両9の位置に応じてユーザが注意を払って操作すべき車体部分の画像と、車両9の周辺領域を含む車両全体の画像とを同時にユーザは確認できる。
<第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態の画像処理システム120a(図12に示す。)は、ユーザが車両9の駐車を開始する位置(駐車すべき位置に対して車両9の後退を開始する位置)に応じて、画像処理装置11がステアリングホイール91の切返し位置(以下、「切返し位置」ともいう。)を算出する。
【0101】
そして、車両9が切返し位置に到達したことを画像処理装置11が検出した場合に、俯瞰画像中の車両9の車体前方部を含む領域を拡大した拡大領域を表示する。
【0102】
第2の実施の形態の画像処理システム120aの構成及び処理は、第1の実施の形態とほぼ同様であるが、一部相違する。このため以下、相違点を中心に説明する。
<3.システム構成>
図12は画像処理システム120aのブロック図である。画像処理システム100aの画像処理装置10aに備えられる制御部1aは、第1の実施の形態の制御部1の画像制御部11の構成に加えて、新たに位置算出部12、及び、位置検出部13を備える。
【0103】
位置算出部12は、縦列駐車モードM4において車両9が後退して移動する中で、ユーザが車両9のステアリングホイール91を操作する位置である切返し位置を算出する。この切返し位置の算出は、ユーザが駐車領域RF11を設定した駐車スペースSA101の位置と、車両9の駐車開始位置との情報から制御部1aが理想経路(駐車開始位置から駐車スペースSA101までの経路)を算出し、その理想経路上のステアリングホイール91を操作する位置が切返し位置として算出される。
【0104】
位置検出部13は、車速度センサ82、及び、操舵角センサ84の情報に基づいて車両9の移動軌跡を演算し、位置算出部12により算出された切返し位置と、ユーザの操作により移動する車両9の位置とが同じ位置となった場合に、車両9が切返し位置に到達したことを検出する。
<4.表示画像説明>
次に、縦列駐車モードM4で画像処理装置100からナビゲーション装置20に出力され、ディスプレイ21に表示される合成画像の詳細について図13〜図15を用いて説明する。図13は、駐車領域RF11の設定に伴う駐車開始位置SF21の算出を示す図である。ディスプレイ21には合成画像CQ1aを含む画像が表示されている。この合成画像CQ1aには、車両9の近傍にユーザの操作により移動する駐車領域RF11が表示されている。駐車領域RF11はユーザの操作により他車両19の後方の駐車スペースSA101に移動する。そして、駐車スペースSA101が車両9の駐車すべき位置として設定される。これにより、車両9の駐車すべき位置である駐車領域RF11が路面に対して固定される。
【0105】
そして、車両9の駐車すべき位置である駐車領域RF11が路面に対して固定されたことに伴い、車両9の縦列駐車が可能となる開始位置を演算し、開始位置SF21として表示される。
【0106】
図14は、切返しポイントMA31が表示された状態を示す図である。図13に示す車両9の位置から、合成画像CQ5に示すようにユーザの操作により車両9が直進方向に進行して、車体全体が開始位置SF21の領域に入ると、ユーザはシフトレバーを”D(前進)”から”R(後退)”に切り替えて縦列駐車を開始する。なお、このように車体全体が開始位置SF21の領域に入り、シフトレバーの切り替えが行われたことに伴い、その時点での車両9の位置から路面に固定された駐車領域RF11までの車両9の進行すべき理想経路、及び、切返し位置を制御部1aが演算する。なお、演算された理想経路は合成画像中に表示するようにしてもよい。また、切返し位置に対応する位置に指標MA31をディスプレイ21に表示してもよい。なお、この切返し位置である指標MA31は理想経路上に位置する。
【0107】
図15は、車両9がステアリングホイール91の切返し位置に到達したことにより表示される前方拡大画像CQ3cを示す図である。車両9が駐車動作を開始した後、切返し位置に車両9が到達したことを、位置検出部13が検出すると、画像制御部11は、合成画像CQ3b中の車両9の車体前方部を含む領域を拡大した前方拡大画像CQ3cをディスプレイ21に表示する。これにより、車両9がステアリングホイール91の切返し位置へ到達したことを精度よく検出でき、それに伴いユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
<4.処理>
図16及び図17は、画像処理装置100aの処理フローチャートである。この図16及び図17の処理フローチャートは第1の実施の形態で図10及び図11を用いて説明した処理フローチャートにステップS201〜ステップS206の処理を加えたものであり、これ以外の処理は同様の処理である。図16に示すステップS106において、ユーザの操作により駐車スペースSA101に駐車領域RF11を設定するとステップS201の処理へ進む。
【0108】
ステップS201の処理では、駐車領域RF11の設定に伴い、画像処理装置100aが車両9の開始位置SF21を設定し(ステップS201)、ステップS202の処理へ進む。この開始位置SF21の設定は、ステップS106で設定された駐車スペースSA101の位置に応じて予め対応付けられた位置に設定される。つまり、駐車動作を開始した車両9が駐車スペースSA101に到達するために必要な距離などを予め算出しておき、この駐車スペースSA101に到達するために必要な距離などの情報に基づいて、画像処理装置100aが開始位置SF21を最適な位置に設定する。
【0109】
ステップS202では、車両9の開始位置SF21への到達の状態を画像処理装置100aが判定する(ステップS202)。車両9の開始位置SF21への到達については、車速センサ82、及び、操舵角センサ84の入力情報に基づいて車両9の現在位置からの移動量を画像処理装置100aが演算し、車両9の開始位置SF21への到達の状態を判定する。
【0110】
そして、車両9が開始位置SF21に到達した場合(ステップS202がYes)は、ステップS203の処理へ進む。なお、車両9が開始位置SF21に到達していない場合(ステップS202がNo)は、縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0111】
ステップS203では、車両9の駐車開始位置から画像処理装置100aが理想経路(車両9の駐車開始位置から駐車スペースSA101までの経路)を算出して(ステップS203)、ステップS204の処理へ進む。
【0112】
ステップS204では、位置算出部12が理想経路上のステアリングホイール91を操作する切返し位置を算出し(ステップS204)、ステップS205の処理へ進む。
【0113】
ステップS205では、位置検出部13が、車速度センサ82、及び、操舵角センサ84の情報に基づいて車両9の移動軌跡を演算する。そして、車両9が切返し位置に到達した場合、つまり、位置算出部12により算出された切返し位置と、ユーザの操作により移動する車両9の位置とが同じ位置となった場合(ステップS205がYes)に、車両9が切返し位置に到達したとして、車両9の前方拡大画像を出力して(ステップS108)、ステップS206の処理へ進む。
【0114】
ここで、切返し位置に対応する車両9の位置は車両9の車体の所定部分であり、予めユーザの任意の位置に設定が可能である。なお、車両9が切返し位置に到達していない場合(ステップS205がNo)は、縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0115】
ステップS206では、車両9が切返し位置に到達した後、切返し位置を通過した場合(ステップS206がYes)は、画像処理装置100aは、ナビゲーション装置20への画像出力を画像CQ3cから図9に示す画像B4に切り替えて、ディスプレイ21に画像B4を表示させて(ステップS110)、処理を終了する。なお、車両9が切返し位置に到達した後、車両9が切返し位置を通過しない場合(ステップS206がNo)、画像処理装置100aは縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0116】
なお、本実施の形態では、車両9を駐車スペースSA101に設定された駐車領域RF11に対して縦列駐車させる場合について述べたが、本実施の形態の処理は縦列駐車以外の駐車例えば、並列駐車)においても適用できる。
【0117】
また、これまでの第1の実施の形態、及び、第2の実施の形態の記載から以下の処理が可能である。つまり、画像表示システムにおいては、車両9を駐車する場合に、車両9がステアリングホイール91の切返し位置に到達したことを画像処理装置100が検出する。そして、その検出情報から車両9が切返し位置に到達したことに応答して、俯瞰画像中の車両9の車体前方部を含む領域を拡大した前方拡大画像をディスプレイ21に表示する。これにより、ステアリングホイール91を切返す位置でユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0118】
また、画像処理装置100は、車両9を駐車する場合にユーザが設定した車両の駐車すべき位置駐車スペースSA101に設定された駐車領域RF11)に応じてステアリングホイール91の切返し位置を算出する。そして、画像処理装置100は、車両9が移動した位置から算出されたステアリングホイール91の切返し位置への車両9の到達を検出して、車両9の前方拡大画像をディスプレイ21に表示する。これにより、車両9がステアリングホイール91の切返し位置へ到達したことを精度よく検出でき、それに伴いユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0119】
さらに、画像処理装置100は車両9のステアリングホイール91の操作内容を示す信号の入力を受けて、ステアリングホイール91の操作状態に応じて切返し位置への車両9の到達を画像処理装置100が検出して、車両9の前方拡大画像をディスプレイ21に表示する。これにより、ユーザのステアリングホイール91の操作状態に伴い、ユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
<変形例>
以下、変形例について説明する。なお、上記の実施の形態、及び、下記で説明する形態を含む全ての形態は適宜に組み合わせ可能である。
【0120】
また、上記の実施の形態では、車両9の駐車スペースを車両9の右側のスペースSA101として駐車する例について述べたが、車両9の左側の駐車スペースに車両9を駐車する場合にも上記実施の形態の技術は適用できる。つまり、車両9の左側の駐車スペースに車両9を駐車する場合の前方拡大画像の表示は、縦列駐車モードM4において、ステアリングホイール91が車両9が直進する中立位置から左方向に操作された後に、中立位置を経由して左方向とは逆方向の右方向に操作されたことに応答して、後方画像から前方拡大画像に切替えて表示する。これにより、ユーザは縦列駐車位置の方向にかかわらず、車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。
【0121】
また、前方拡大画像が表示された状態で、ユーザがステアリングホイール91を前方拡大画像が表示された際の右方向から左方向へ操作したことにより、前方拡大画像から後方画像に切替えて表示する。これにより、縦列駐車における車両位置に応じて車体前方部及び車両9の後方に注意を払って操作するタイミングをユーザは把握できる。
【0122】
また、上記の実施の形態では、画像CQ3aから画像BA4への切り替えをステアリングホイール91が左方向から右方向へ操作されたことを条件としたが、左方向から右方向へ操作され、右方向の操作により、ステアリングホイール91が中立位置、及び、中立位置近傍のいずれかの位置となった時に画像CQ3aから画像BA4へ切り替えるようにしてもよい。これにより、ユーザが注意を払って操作を行う箇所をユーザは所定時間確認できる。また、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングの前にユーザは注意する対称の状況を確認できる。
【0123】
また、表示されている合成画像よりも更に広い範囲を表示する場合は、俯瞰画像を生成する仮想視点の位置を現在の画像を生成する位置よりも上方向の位置に移動させることで、車両9から離れた駐車スペースに対して駐車領域RF11をユーザが設定することもできる。
【0124】
さらに、上記の実施の形態の俯瞰画像は複数のカメラの撮影画像により生成された合成画像以外に一のカメラにより生成された俯瞰画像であってもよい。
【符号の説明】
【0125】
1・・・・制御部
3・・・・画像生成部
5・・・・撮影部
20・・・ナビゲーション装置
40・・・不揮発性メモリ
41・・・信号入力部
42・・・ナビ通信部
81・・・シフトセンサ
82・・・車速センサ
83・・・方向指示器
【技術分野】
【0001】
本発明は、車両における画像表示技術に関する。
【背景技術】
【0002】
従来、車両の駐車を行う場合、ユーザは目測した駐車スペースの広さに対して車両の駐車が可能であると判断した場合に、ユーザが目測した情報に基づいてステアリングホイールを操作して車両を駐車していた。また、車両の周辺をカメラで撮影した画像を表示装置に表示してユーザが車両を駐車する場合の運転操作のサポートを行う技術がある。なお、本発明と関連する技術を説明する資料としては特許文献1がある。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−93485号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、ユーザの目測した情報に基づいて車両の駐車を行うと、車両と障害物との位置関係はユーザの感覚に基づいた不明瞭な状態で、ユーザが駐車を実行することとなり、ユーザの目測が誤っていた場合は車両を障害物に衝突させてしまう可能性があった。また、車両の周辺をカメラで撮影した画像を表示装置に表示する技術においても、駐車の際に表示装置に継続的に表示されている画像(例えば駐車動作を行っている際に継続的に表示されている車両後方の画像)だけでは、ユーザが車両を操作するごとに変化する車両の位置に応じて、車体のどの部分に障害物と衝突をしないかの注意を払って運転操作を行えばよいかがユーザにとって不明確となっていた。このような状態で、表示装置に表示された画像に基づいて車両を操作すると、車両を障害物に衝突させる可能性があった。
【0005】
本発明は、車両の駐車の運転操作に応じてユーザが注意を払うべき箇所を明確にすることを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、請求項1の発明は、車両に搭載される画像表示システムであって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、前記車両を駐車する場合に、前記車両がステアリングホイールの切返し位置に到達したことを検出する検出手段と、前記検出手段の情報から前記車両が前記切返し位置に到達したことに応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、を備える。
【0007】
また、請求項2の発明は、請求項1に記載の画像表示システムにおいて、前記車両を駐車する場合にユーザが設定した前記車両の駐車すべき位置に応じて前記切返し位置を算出する算出手段をさらに備え、前記検出手段は、前記車両の位置情報から前記算出手段により算出された前記切返し位置への前記車両の到達を検出する。
【0008】
また、請求項3の発明は、請求項1に記載の画像表示システムにおいて、前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段をさらに備え、前記検出手段は前記ステアリングホイールの操作状態に応じて前記切返し位置への前記車両の到達を検出する。
【0009】
また、請求項4の発明は、車両に搭載される画像表示システムであって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、を備える。
【0010】
また、請求項5の発明は、請求項4に記載の画像表示システムにおいて、前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記第1方向とは逆方向の第2方向に操作され、前記ステアリングホイールが、前記中立位置、及び、前記中立位置近傍のいずれかの位置となったことに応答して、前記前方拡大画像を表示する。
【0011】
また、請求項6の発明は、請求項4に記載の画像表示システムにおいて、前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記中立位置を経由して前記第1方向とは逆方向の第2方向に操作されたことに応答して、前記前方拡大画像を表示する。
【0012】
また、請求項7の発明は、請求項5または6に記載の画像表示システムにおいて、前記表示手段は、前記前方拡大画像が表示されている間に、前記ステアリングホイールが前記第2方向から前記第1方向へ操作された場合に、前記前方拡大画像から前記車両の後方を示す画像に切り替えて表示する。
【0013】
また、請求項8の発明は、請求項4乃至7のいずれかに記載の画像表示システムにおいて、前記表示手段は、前記前方拡大画像と前記俯瞰画像とを併せて表示する。
【0014】
また、請求項9の発明は、車両に搭載された表示装置に表示させる画像を生成する画像処理装置であって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する生成手段と、前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を前記表示装置に出力して表示させる出力手段と、を備える。
【0015】
さらに、請求項10の発明は、車両に搭載される画像表示方法であって、前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する工程と、前記車両のステアリングホイールの操作内容を示す信号を入力する工程と、前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する工程と、を備える。
【発明の効果】
【0016】
請求項1ないし10の発明によれば、検出手段の情報から車両が切返し位置に到達したことに応答して、俯瞰画像中の車両の車体前方部を含む領域を拡大した前方拡大画像を表示することで、ステアリングホイールを切返す位置でユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0017】
また、特に請求項2の発明によれば、検出手段は、車両の位置情報から算出手段により算出された切返し位置への車両の到達を検出することで、車両がステアリングホイールの切返し位置へ到達したことを精度よく検出でき、それに伴いユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0018】
また、特に請求項3の発明によれば、検出手段はステアリングホイールの操作状態に応じて切返し位置への車両の到達を検出することで、ユーザのステアリングホイールの操作状態に伴い、ユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0019】
また、特に請求項4の発明によれば、車両を縦列駐車する場合における操作内容に応答して、俯瞰画像中の車両の車体前方部を含む領域を拡大した前方拡大画像を表示することで、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。
【0020】
また、特に請求項5の発明によれば、表示手段は、ステアリングホイールが、車両が直進する中立位置から第1方向に操作された後に、第1方向とは逆方向の第2方向に操作され、ステアリングホイールが、中立位置、及び、中立位置近傍のいずれかの位置となったことに応答して、前方拡大画像を表示することで、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングの前にユーザは注意する対称の状況を確認できる。
【0021】
また、特に請求項6の発明によれば、表示手段は、ステアリングホイールが、車両が直進する中立位置から第1方向に操作された後に、中立位置を経由して第1方向とは逆方向の第2方向に操作されたことに応答して、前方拡大画像を表示することで、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。
【0022】
また、特に請求項7の発明によれば、表示手段は、前方拡大画像が表示されている間に、ステアリングホイールが第2方向から第1方向へ操作された場合に、前方拡大画像から車両の後方を示す画像に切り替えて表示することで、縦列駐車における車両位置に応じて車体前方部及び車両の後方に注意を払って操作するタイミングをユーザは把握できる。
【0023】
さらに、特に請求項8の発明によれば、表示手段は、前記前方拡大画像と前記俯瞰画像とを併せて表示することで、縦列駐車における車両位置に応じてユーザが注意を払って操作すべき車体部分の画像と、車両全体を含む車両9の周辺領域の画像とを同時にユーザは確認できる。
【図面の簡単な説明】
【0024】
【図1】図1は、画像表示システムのブロック図である。
【図2】図2は、車載カメラが車両に配置される位置を示す図である。
【図3】図3は、合成画像を生成する手法を説明するための図である。
【図4】図4は、画像表示システムの動作モードの遷移を示す図である。
【図5】図5は、設定前の駐車領域の画像を含む合成画像と車両の後方画像とを示す図である。
【図6】図6は、設定後の駐車領域の画像を含む合成画像と車両の後方画像とを示す図である。
【図7】図7は、縦列駐車途中の画像を表示する合成画像と車両の後方画像とを示す図である。
【図8】図8は、縦列駐車途中の画像を表示する合成画像と前方拡大画像とを示す図である。
【図9】図9は、駐車領域内の車両の画像を表示する合成画像と車両の後方画像とを示す図である。
【図10】図10は、画像処理装置の処理フローチャートである。
【図11】図11は、画像処理装置の処理フローチャートである。
【図12】図12は、画像表示システムのブロック図である。
【図13】図13は、駐車領域の設定に伴う駐車開始位置の算出を示す図である。
【図14】図14は、切返し位置が表示された状態を示す図である。
【図15】図15は、車両がステアリングホイールの切返し位置に到達したことにより表示される前方拡大画像を示す図である。
【図16】図16は、画像処理装置の処理フローチャートである。
【図17】図17は、画像処理装置の処理フローチャートである。
【発明を実施するための形態】
【0025】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0026】
<第1の実施の形態>
<1−1.システム構成>
図1は、画像表示システム120のブロック図である。この画像表示システム120は、車両(本実施の形態では、自動車)に搭載されるものであり、車両の周辺を撮影して画像を生成し、その生成した画像を車室内のナビゲーション装置20などの表示装置に出力する機能を有している。画像表示システム120のユーザ(代表的にはドライバ)は、この画像表示システム120を利用することにより、当該車両の周辺の様子をほぼリアルタイムに把握できるようになっている。
【0027】
図1に示すように、画像表示システム120は、車両の周辺を示す周辺画像を生成してナビゲーション装置20などの表示装置に画像情報を出力する画像処理装置100と、車両の周囲を撮影するカメラを備えている撮影部5とを主に備えている。
【0028】
ナビゲーション装置20は、ユーザに対しナビゲーション案内を行うものであり、タッチパネル機能を備えた液晶などのディスプレイ21と、ユーザが操作を行う操作部22と、装置全体を制御する制御部23とを備えている。ディスプレイ21の画面がユーザから視認可能なように、ナビゲーション装置20は車両のインストルメントパネルなどに設置される。ユーザからの各種の指示は、操作部22とタッチパネルとしてのディスプレイ21とによって受け付けられる。制御部23は、CPU、RAM及びROMなどを備えたコンピュータであり、所定のプログラムに従ってCPUが演算処理を行うことでナビゲーション機能を含む各種の機能が実現される。
【0029】
ナビゲーション装置20は、画像処理装置100と通信可能に接続され、画像処理装置100との間で各種の制御信号の送受信や、画像処理装置100で生成された周辺画像の受信が可能となっている。ディスプレイ21には、制御部23の制御により、通常はナビゲーション装置20単体の機能に基づく画像が表示されるが、所定の条件下で画像処理装置100により生成された車両の周辺の様子を示す周辺画像や、車両9及び車両9の周辺領域を俯瞰した俯瞰画像が表示される。また、ディスプレイ21に表示される俯瞰画像は周辺領域をほぼリアルタイムに示すことになる。これにより、ナビゲーション装置20は、画像処理装置100で生成された周辺画像を受信して表示する表示装置としても機能する。
【0030】
画像処理装置100は、その本体部10が周辺画像を生成する機能を有するECU(Electronic Control Unit)であり、車両の所定の位置に配置される。画像処理装置100は、車両の周辺を撮影する撮影部5を備えており、この撮影部5で車両の周辺を撮影して得られる撮影画像に基づいて仮想視点からみた合成画像を生成する画像生成装置として機能する。これらの撮影部5が備える複数の車載カメラ51,52,53は、本体部10とは別の車両の適位置に配置されるが詳細は後述する。
【0031】
画像処理装置100の本体部10は、装置全体を制御する制御部1と、撮影部5で取得された撮影画像を処理して表示用の周辺画像を生成する画像生成部3と、ナビゲーション装置20との間で通信を行うナビ通信部42とを主に備えている。
【0032】
ナビゲーション装置20の操作部22やディスプレイ21によって受け付けられたユーザからの各種の指示は、制御信号としてナビ通信部42によって受け付けられて制御部1に入力される。これにより、画像処理装置100は、ナビゲーション装置20に対するユーザの操作に応答した動作が可能となっている。
【0033】
また、画像処理装置100は、駐車支援ボタン45を備えている。この駐車支援ボタン45がユーザに操作されると、ユーザの指示を示す信号が制御部1に入力されて、後述するフロントモードM2(図4に示す。)の画像が表示される。なお、この駐車支援ボタン45はハードボタンとして画像処理装置100やナビゲーション装置20に設けられてもよい。また、駐車支援ボタン45は、ナビゲーション装置20のディスプレイ21にユーザが指などをディスプレイ21に接触させて操作するタッチパネルのボタンとして表示されるようにしてもよい。
【0034】
画像生成部3は、各種の画像処理が可能なハードウェア回路として構成されており、合成画像生成部31、画像範囲選択部32、及び、画像情報出力部33を主な機能として備えている。
【0035】
合成画像生成部31は、撮影部5の複数の車載カメラ51,52,53で取得された複数の撮影画像に基づいて、車両の周辺の任意の仮想視点からみた合成画像を生成する。合成画像生成部31が仮想視点からみた合成画像を生成する手法については後述する。
【0036】
また、画像情報出力部33は合成画像生成部31において生成された合成画像情報をナビゲーション装置20へ出力する。これにより、車両の周辺を示す周辺画像がナビゲーション装置20のディスプレイ21に表示されることになる。
【0037】
制御部1は、CPU、RAM及びROMなどを備えたコンピュータであり、所定のプログラムに従ってCPUが演算処理を行うことで各種の制御機能が実現される。図中に示す画像制御部11は、このようにして実現される制御部1の機能のうちの一部を示している。
【0038】
画像制御部11は、画像生成部3によって実行される画像処理を制御するものである。例えば、画像制御部11は、合成画像生成部31が生成する合成画像の生成に必要な各種パラメータなどを指示する。また、画像範囲選択部32がサイドカメラ53により撮影した画像の所定範囲を選択するための指示を車種ごとのパラメータの情報に基づいて行う。
【0039】
また、画像制御部11は、後述する縦列駐車ボタン202(図4に示す。)のユーザの操作に応答して、生成された合成画像中に後述する駐車領域RF11(図5に示す。)をナビゲーション装置20に出力してディスプレイ21に表示させるための制御を行う。
【0040】
さらに、画像制御部11は、後述する車両9のステアリングホイール91のユーザの操作内容を示す信号が制御部1に入力されると、その操作内容に応答して生成された合成画像(俯瞰画像中の車両9の車体前方部を含む領域を拡大した前方拡大画像(図8に示すCQ3a。)をナビゲーション装置20に出力してディスプレイ21に表示させる制御を行う。これにより、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。
【0041】
また、画像処理装置100の本体部10は、不揮発性メモリ40、カード読取部44、及び、信号入力部41をさらに備えており、これらは制御部1に接続されている。
【0042】
不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどで構成されている。不揮発性メモリ40には、車種別データ4aが記憶されている。車種別データ4aは、合成画像生成部31が合成画像を生成する際に必要となる車両の種別に応じたデータなどである。また、縦列駐車モードで表示させる駐車領域のデータやユーザのステアリングホイール91の操作内容に応答して表示される画像データのパラメータなども記憶されている。
【0043】
カード読取部44は、可搬性の記録媒体であるメモリカードMCの読み取りを行う。カード読取部44は、メモリカードMCの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードMCに記録されたデータを読み取る。カード読取部44で読み取られたデータは、制御部1に入力される。
【0044】
メモリカードMCは、種々のデータを記憶可能なフラッシュメモリなどで構成されており、画像処理装置100はメモリカードMCに記憶された種々のデータを利用できる。例えば、メモリカードMCにプログラムを記憶させ、これを読み出すことで、制御部1の機能を実現するプログラム(ファームウェア)を更新することが可能である。また、メモリカードMCに不揮発性メモリ40に記憶された車種別データ4aとは異なる種別の車両に応じた車種別データを記憶させ、これを読み出して不揮発性メモリ40に記憶させることで、画像表示システム120を異なる種別の車両に対応させることも可能である。
【0045】
また、信号入力部41は、車両に設けられた各種装置からの信号を入力する。この信号入力部41を介して、画像表示システム120の外部からの信号が制御部1に入力される。具体的には、シフトセンサ81、車速センサ82、方向指示器83、及び、操舵角センサ84などから、各種情報を示す信号が制御部1に入力される。
【0046】
シフトセンサ81からは、車両9の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションが入力される。車速センサ82からは、その時点の車両9の走行速度(km/h)が入力される。
【0047】
方向指示器83からは、ウインカースイッチの操作に基づく方向指示、すなわち、車両のドライバが意図する方向指示を示すターン信号が入力される。ウインカースイッチが操作されたときはターン信号が発生し、ターン信号はその操作された方向(左方向あるいは右方向)を示すことになる。ウインカースイッチが中立位置となったときは、ターン信号はオフとなる。
【0048】
操舵角センサ84は、ユーザが操作したステアリングホイール91の操作方向を制御部1に入力する。詳細には、操舵角センサ84は、ユーザが操作したステアリングホイール91の回転方向、回転角度、及び、回転速度を信号入力部41を介して制御部1に入力する。なお、操舵角センサ84の信号は車両本体を制御する制御部へも入力される。そして、操舵角センサ84の入力信号と車速センサ82から車両本体を制御する制御部へ入力された信号に基づいて、車両9を操舵する前輪(図8に示す前輪401。)の操舵角と操舵速度が算出され、この算出された値に基づいて車両9の制御が行われる。
【0049】
<1−2.撮影部>
次に、画像処理装置100の撮影部5について詳細に説明する。撮影部5は、制御部1に電気的に接続され、制御部1からの信号に基づいて動作する。
【0050】
撮影部5は、車載カメラであるフロントカメラ51、バックカメラ52及びサイドカメラ53を備えている。これらの車載カメラ51,52,53はそれぞれ、CCDやCMOSなどの撮像素子を備えており電子的に画像を取得する。
【0051】
図2は、車載カメラ51,52,53が車両9に配置される位置を示す図である。なお、以下の説明においては、方向及び向きを示す際に、適宜、図中に示す3次元のXYZ直交座標を用いる。このXYZ軸は車両9に対して相対的に固定される。ここで、X軸方向は車両9の左右方向に沿い、Y軸方向は車両9の直進方向(前後方向)に沿い、Z軸方向は鉛直方向に沿っている。また、便宜上、+X側を車両9の右側、+Y側を車両9の後側、+Z側を上側とする。
【0052】
フロントカメラ51は、車両9の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸51aは車両9の直進方向(平面視でY軸方向の−Y側)に向けられている。バックカメラ52は、車両9の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸52aは車両9の直進方向の逆方向(平面視でY軸方向の+Y側)に向けられている。また、サイドカメラ53は、左右のドアミラー93にそれぞれ設けられており、その光軸53aは車両9の左右方向(平面視でX軸方向)に沿って外部に向けられている。なお、フロントカメラ51やバックカメラ52の取り付け位置は、左右略中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。
【0053】
これらの車載カメラ51,52,53のレンズとしては魚眼レンズなどが採用されており、車載カメラ51,52,53は180度以上の画角αを有している。このため、4つの車載カメラ51,52,53を利用することで、車両9の全周囲の撮影が可能となっている。
【0054】
<1−3.画像変換処理>
次に、画像生成部3の合成画像生成部31が、撮影部5で得られた複数の撮影画像に基づいて車両9の周辺を任意の仮想視点からみた様子を示す合成画像を生成する手法について説明する。合成画像を生成する際には、不揮発性メモリ40に予め記憶された車種別データ4aが利用される。図3は、合成画像を生成する手法を説明するための図である。
【0055】
撮影部5のフロントカメラ51、バックカメラ52及びサイドカメラ53で同時に撮影が行われると、車両9の前方、後方、左側方、及び、右側方をそれぞれ示す4つの撮影画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの撮影画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。
【0056】
次に、4つの撮影画像P1〜P4の各画素が、仮想的な三次元空間における立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。撮影画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とは予め対応関係が定められている。このため、立体曲面SPの各画素の値は、この対応関係と撮影画像P1〜P4に含まれる各画素の値とに基づいて決定できる。
【0057】
撮影画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、車両9における4つの車載カメラ51,52,53の配置(相互間距離、地上高さ、光軸角度等)に依存する。このため、この対応関係を示すテーブルデータが、不揮発性メモリ40に記憶された車種別データ4aに含まれている。
【0058】
また、車種別データ4aに含まれる車体の形状やサイズを示すポリゴンデータが利用され、車両9の三次元形状を示すポリゴンモデルである車両像を仮想的に備えている。構成された車両像は、立体曲面SPが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0059】
さらに、立体曲面SPが存在する三次元空間に対して、制御部1により仮想視点VPが設定される。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の周辺に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0060】
そして、設定された仮想視点VPに応じて、立体曲面SPにおける必要な領域が画像として切り出される。仮想視点VPと、立体曲面SPにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。一方で、設定された仮想視点VPに応じてポリゴンで構成された車両像に関してレンダリングがなされ、その結果となる二次元の車両像が、切り出された画像に対して重畳される。これにより、車両9及びその車両9の周辺を任意の仮想視点からみた様子を示す合成画像が生成されることになる。
【0061】
例えば、視点位置が車両9の位置の略中央の直上位置で、視野方向が略直下方向とした仮想視点VP1を設定した場合は、車両9の略直上から車両9を見下ろすように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP1が生成される。また、図中に示すように、視点位置が車両9の位置の左後方で、視野方向が車両9における略前方とした仮想視点VP2を設定した場合は、車両9の左後方からその周辺全体を見渡すように、車両9(実際には車両像)及び車両9の周辺の様子を示す合成画像CP2が生成される。
【0062】
なお、実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、設定された仮想視点VPに対応して必要となる領域の画素の値のみを撮影画像P1〜P4に基づいて決定することで、処理速度を向上できる。
【0063】
<1−4.動作モード>
次に、画像表示システム120の動作モードについて説明する。図4は、画像表示システム120の動作モードの遷移を示す図である。画像表示システム120は、ナビモードM1、フロントモードM2、バックモードM3、及び、縦列駐車モードM4の4つの動作モードを有している。これらの動作モードは、ユーザの操作や車両9の走行状態に応じて制御部1の制御により切り替えられるようになっている。
【0064】
ナビモードM1は、ナビゲーション装置20の機能により、ナビゲーション案内用の地図画像NPを主にディスプレイ21に表示する動作モードである。ナビモードM1では、画像処理装置100の機能が利用されず、ナビゲーション装置20単体の機能で各種の表示がなされる。
【0065】
フロントモードM2、バックモードM3、及び、縦列駐車モードM4は、画像処理装置100の機能を利用して、撮影画像PP、合成画像CP、及び、合成画像CQ0などをディスプレイ21に表示して、車両9の周辺の状況をほぼリアルタイムでユーザに示す動作モードである。
【0066】
また、フロントモードM2は、前進時に必要となる車両9の前方や側方を主に示す画像を表示する動作モードである。例えば、図中に示すように、車両9の直上の仮想視点からみた車両9及び車両9の周辺の様子を示す合成画像(俯瞰画像)CPと、フロントカメラ51での撮影により得られる撮影画像PPとが同時にディスプレイ21に表示される。この合成画像CPの仮想視点の位置は、車両9の直上に限らず、ユーザの操作に応じて車両9の後方側などへ切り替えられるようになっていてもよい。さらに、フロントモードM2は、自車の中心に周囲2〜3mの範囲を俯瞰画像として表示したモードである。
【0067】
また、バックモードM3は、後退時に必要となる車両9の後方を主に示す画像を表示する動作モードである。例えば、図中に示すように、車両9の直上の仮想視点からみた車両9及び車両9の周辺の様子を示す合成画像(俯瞰画像)CPと、バックカメラ52での撮影により得られる撮影画像PPとが同時にディスプレイ21に表示される。この合成画像CPの仮想視点の位置は、車両9の直上に限らず、ユーザの操作に応じて車両9の前方側などへ切り替えられるようになっていてもよい。
【0068】
さらに、縦列駐車モードM4は、ユーザが車両9を縦列駐車する際にユーザの運転操作をサポートするモードである。例えば、図中に示すように、車両9の直上の仮想視点からみた車両9の周辺領域をほぼリアルタイムに示し、車両9の大きさに対応した広さを有する駐車領域RF11と車両9の前方に駐車している他車両19を表示する画像が合成画像俯瞰画像)CQ0として画像処理装置100は、ナビゲーション装置20出力してディスプレイ21に表示させる。
【0069】
また、縦列駐車モードM4は、車両9の後方に備えられたカメラ52で車両9の後方を撮影した後方画像BA0を合成画像CQ0と併せて画像処理装置100が出力して表示させる。
【0070】
縦列駐車モードM4は、フロントモードM2の縦列駐車ボタン202をユーザが操作することにより開始される。そして、縦列駐車モードM4では、フロントモードM2で表示されていた車両9と車両9の周辺の様子を示す合成画像俯瞰画像)CPに、車両9と車両9の大きさに対応した広さを有する駐車領域RF11の画像の表示が加わり、合成画像CQ0として画像処置装置100がディスプレイ21に出力して表示させる。なお、縦列駐車モードM4は、フロントモードM2から仮想視点の位置を上方の位置に移動させて自車と駐車領域RF11とがディスプレイ21の1画面内で表示されるようにしている。 また、フロントモードM2の縦列駐車ボタン202がユーザにより操作されると、画像処理装置100は、フロントモードM2で表示されていた車両9の前方の撮影画像PPからカメラ52により車両9の後方を撮影した後方画像BA0に切替えて、ディスプレイ21に表示させる。
【0071】
各モードの遷移は、ナビモードM1において、ナビゲーション装置20のディスプレイ21に表示される駐車支援ボタン201をユーザが操作した場合、または、ユーザが操作部22を操作した場合など、所定操作によりフロントモードM2に切り替えられる。また、フロントモードM2において、ユーザの操作部22による操作などの所定操作により、ナビモードM1に切り替えられる。なお、ナビモードM1とフロントモードM2とは、車速センサ82から入力される走行速度に応じて切り替えてもよい。
【0072】
また、ナビモードM1あるいはフロントモードM2の場合に、シフトセンサ81から入力されるシフトポジションが”R(後退)”となったときは、バックモードM3に切り替えられる。すなわち、シフトポジションが”R(後退)”の場合は、車両9は後退する状態であるため、車両9の後方を主に示すバックモードM3に切り替えられる。また、バックモードM3の場合に、シフトポジションが”R(後退)”以外となったときは、バックモードM3に切り替えられる直前の動作モードに戻ることになる。なお、バックモードM3において、ディスプレイ21に表示される駐車支援ボタン201をユーザが操作した場合は、フロントモードM2となる。
【0073】
そして、フロントモードM2において、ディスプレイ21に表示された縦列駐車ボタン202をユーザが操作すると、縦列駐車モードM4の画像が画像処理装置100から出力され、ディスプレイ21に表示される。また、縦列駐車モードM4においてディスプレイ21の戻るボタン203をユーザが操作した場合は、フロントモードM2に遷移する。
【0074】
<1−5縦列駐車モード>
以下では、縦列駐車モードM4で画像処理装置100からナビゲーション装置20に出力され、ディスプレイ21に表示される合成画像の詳細について図5〜図9を用いて説明する。図5は、設定前の駐車領域RF11の画像を含む合成画像CQ0(以下、「画像CQ0」ともいう。)と車両9の後方画像BA0以下、「画像BA0」ともいう。)とを示す図である。フロントモードM2で縦列駐車ボタン202がユーザにより操作されると、縦列駐車モードM4の画像CQ0と画像BA0とが画像処理装置100からナビゲーション装置20に出力され、ディスプレイ21に表示される。
図5に示す画像CQ0は、略中心に車両9の画像が表示されている俯瞰画像であり、車両の周辺領域を略リアルタイムに示している。そして、車両9の左側に駐車領域RF11が表示されている。この駐車領域RF11は、車両9が縦列駐車を行うのに必要なスペースであり、車両9の進行方向の長さが車両9の全長の約1.5倍で、車幅方向の長さが車両9の車幅の約1.2倍の広さを備えている略長方形の領域である。駐車領域RF11は縦列駐車モードM4の開始に伴い、画像CQ0の所定の位置に表示され、後述するようにユーザの操作により、駐車スペースの位置に設定される。また、図5に示す画像BA0は車両9に備えられたバックカメラ52から撮影された画像であり、車両9の後方の駐車領域RF11の一部分を含む画像が表示されている。
さらに、画像BA0の近傍には表示領域ガイド301が表示されている。この表示領域ガイド301は、画像BA0の画像が車両9に対してどの領域を撮影しているかを示したものであり、図5に示す表示領域ガイド301では車両9の後方領域を示している。このように表示されている画像が車両9からみてどの領域を撮影しているかを示すことで、ユーザは画像の撮影範囲を直感的に認識できる。
【0075】
図6は、設定後の駐車領域RF11の画像を含む合成画像CQ1(以下、「画像CQ1」ともいう。)と車両9の後方画像BA1(以下、「画像BA1」ともいう。)とを示す図である。車両9の左側には駐車領域RF11の画像が表示されている。この駐車領域RF11は、ユーザが指などをディスプレイ21に接触させたり、操作部22を用いて操作することにより、画像CQ1内の任意の位置に設定される。図6ではユーザは画像CQ1内の他車両19の後方である駐車スペースSA101以下、「スペースSA101」ともいう。)の領域に駐車領域RF11を移動させて、車両9を駐車させる位置を設定している。この設定により以後駐車領域RF11は路面に対して固定表示される。また、図5に示す画像BA1は車両9に備えられたバックカメラ52から撮影された画像であり、表示領域ガイド301は車両9の後方領域を示している。
【0076】
図7は、縦列駐車途中の画像を表示する合成画像CQ2以下、「画像CQ2」ともいう。)と車両9の画像BA2(以下、「画像BA2」ともいう。)とを示す図である。ユーザは駐車領域RF11をスペースSA101の領域に設定して、スペースSA101の位置に車両9を駐車させる動作を開始する。
【0077】
縦列駐車を開始する場合、ユーザが駐車領域RF11を操作して駐車スペースとして設定したスペースSA101が、車両9の右側後方で車両9と略平行な位置となるよう車両9を移動させる。このとき車両9の右側の側面とスペースSA101との車幅方向の間隔とは約1mの間隔とする。そして、シフト位置がバックになり車両が後退するときにユーザは車両9が直進する中立位置から右方向へステアリングホイール91を操作し、車両9の後端部がスペースSA101側へ所定角度傾いた後にステアリングホイール91を中立位置に戻した状態を図7の画像CQ2は示している。
【0078】
図8は、縦列駐車途中の画像を表示する合成画像CQ3(「画像CQ3」ともいう。)と前方拡大画像CQ3a以下、「画像CQ3a」ともいう。)とを示す図である。図8ではユーザが車両9のステアリングホイール91を中立位置とした状態で車両9を後退させた後、ステアリングホイール91を中立位置から左方向に操作した状態を示している。そして、この操作内容に応答して俯瞰画像である画像CQ3中の車両9の車体前方部を含む領域を拡大した画像CQ3aを図7の画像BA2から切替えてディスプレイ21に表示させる。尚、前方拡大画像CQ3aは、以下のようにして作成される。即ち、合成画像CQ3の前方部を切り出して所定倍率に拡大することで前方拡大画像CQ3aが作成される。あるいは、仮想視点位置を画像CQ3の仮想視点位置に対し車両前部方向にかつ下方に移動させた新たな俯瞰画像を作成することで前方拡大画像CQ3aが作成される。
【0079】
つまり、縦列駐車モードM4において、車両9のステアリングホイール91が、車両9が直進する中立位置から右方向に操作された後に中立位置を経由して右方向とは逆方向の左方向に操作されたことに応答して、画像処理装置100は画像CQ3aをディスプレイ21に表示させる。これにより、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。尚、車両9の後退中に右方向に操作された状態から中立位置に戻った時点で画像CQ3aをディスプレイ21に表示させてもよい。即ち、車両9がステアリングの切り返しポイントに到達したことを検出したときに画像CQ3aを表示させる。
【0080】
なお、車体前方部を含む領域とは、図8に示すように車体前方の両角部を含む領域であっても良いし、車体の回転方向に応じて運転者が注意すべき車体前方角部(切返しにより車体が右方向に回転する場合は車体前方部の右角部)であってもよい。このように車体前方角部を表示する場合、ユーザが注意すべき車体の箇所をより大きく拡大できるため、ユーザは障害物と車両9との位置関係をより明確に知ることができる。
図8に示す画像CQ3aでは、車両9がステアリングホイール91を左方向へ操作したことに伴い、車両9の前輪401は直進方向を0度とした場合に、車両9の左方向に所定角度傾いている。そして、前輪401がこの所定角度に傾いた状態で車両9が移動する軌跡をガイド線501で表示する。ガイド線501の軌跡上には障害物である他車両19の車体は重なっていないので、車両9は他車両19と衝突することなく、スペースSA101に移動できることをユーザは確認できる。
【0081】
また、画像CQ3aの近傍には表示領域ガイド301aが表示されている。この表示領域ガイド301aは、図7に示す画像BA2から図8に示す画像CQ3aに画像の表示が切り替わったことに伴い、表示領域ガイド301の車両9の後方領域の表示から車両9の車体前方部を含む車両9の前方領域の表示に切り替わっている。このように縦列駐車モードM4において表示される画像の切り替えに応答して、表示領域ガイドの表示領域も変更される。これにより、画像の表示が切り替わった後も画像が車両9のどの領域を撮影しているかをユーザは直感的に認識できる。
【0082】
さらに、図8に示すように画像CQ3aと俯瞰画像である画像CQ3とを併せて表示することで、縦列駐車における車両位置に応じてユーザが注意を払って操作すべき車体部分の画像と、車両全体を含む車両9の周辺領域の画像とを同時にユーザは確認できる。
【0083】
図9は、駐車領域RF11に含まれるスペースSA101の車両9の画像を表示する合成画像CQ4(以下、画像「CQ4」ともいう。)と車両9の後方画像BA4以下、「画像BA4」ともいう。)とを示す図である。
【0084】
図9は、図8に示した操作内容をユーザが行った後に画像CQ3aが表示された状態で、ユーザがステアリングホイール91を画像CQ3aが表示された際の左方向から右方向へ操作を切替えたことにより、画像CQ3aから画像BA4に切替えてディスプレイ21に表示することを示している。これにより、縦列駐車における車両位置に応じて車体前方部及び車両の後方に注意を払って操作するタイミングをユーザは把握できる。なお、画像CQ4では、ユーザがステアリングホイール91を左方向から右方向へ操作して、略中立位置となった状態で、車両9は駐車領域RF11内のスペースSA101に位置している。このため、ユーザは他車両19に衝突することなく車両9をスペースSA101内に駐車できる。
【0085】
なお、画像CQ3aから画像BA4の切り替えに伴い、表示領域ガイドの表示領域は、画像301aに対応した車両9の車体前方部を含む車両9の前方領域を示した表示領域ガイド301から、画像BA4に対応した車両9の後方領域を示した表示領域ガイド301aに切り替えられている。
<2.処理>
次に、画像処理装置100の処理について説明する。図10及び図11は画像処理装置100の処理フローチャートである。ユーザからの駐車支援ボタン201の操作信号が入力された場合(ステップS101がYes)、画像処理装置100はフロントモードM2の画像をナビゲーション装置20に出力して(ステップS102)、ステップS103の処理へ進む。なお、ユーザからの駐車支援ボタン201の操作信号が画像処理装置100に入力されていない場合(ステップS101がNo)は、処理を終了する。
【0086】
ステップS103では、ユーザからの縦列駐車ボタン202の操作信号が画像処理装置100に入力された場合(ステップS103がYes)、縦列駐車モードM4の画像を出力して(ステップS104)、ステップS105の処理へ進む。
【0087】
縦列駐車モードM4では、車両9の周辺領域を略リアルタイムに示す俯瞰画像(画像CQ0)を表示して、車両9の大きさに対応した広さを有す駐車領域RF11を俯瞰画像(画像CQ0)中に表示する。また、俯瞰画像と併せて画像BA0を表示する。なお、縦列駐車ボタン202の操作信号が画像処理装置100に入力されていない場合(ステップS103がNo)は、画像処理装置100はフロントモードM2の画像出力を継続して行う。
【0088】
ステップS105では、ユーザの操作により駐車領域RF11が合成画像内の駐車スペースを含む位置に設定された信号が入力された場合(ステップS105がYes)は、ユーザが設定した位置を駐車スペースとして設定して(ステップS106)、ステップS107の処理へ進む。
【0089】
なお、駐車領域を設定する信号が画像処理装置100に入力されていない場合(ステップS105がNo)は、縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0090】
ステップS107では、操舵角センサ84が検出した車両9のステアリングホイール91の回転方向、回転角度、及び、回転速度の情報が画像処理装置100へ入力により、画像CQ3aの出力条件を満たしている場合(ステップS107がYes)は、図11のステップS108の処理へ進む。そして、画像処理装置100は画像CQ3aをナビゲーション装置20へ出力してディスプレイ21に表示させ(ステップS109)、ステップS110の処理へ進む。
【0091】
つまり、ユーザのステアリングホイール91の操作内容に応答して、俯瞰画像中の車両9の車体前方部を含む領域を拡大した画像CQ3aを表示する。また詳細には、車両9のステアリングホイールが車両9が直進する中立位置から右方向に操作された後に、中立位置を経由して右方向とは逆の左方向に操作されたことに応答して、画像CQ3aを表示する。これにより、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザは把握できる。また、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。
【0092】
なお、画像CQ3aの出力条件を満たしていない場合(ステップS107がNo)は、継続して操舵角センサ84からの情報入力が画像処理装置100になされる。また、所定時間経過後もステップS107の条件を満たさない場合は、縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0093】
次に、ステップS109では、操舵角センサ84が検出した車両9のステアリングホイール91の回転方向、回転角度、及び、回転速度の情報が画像処理装置100へ入力により、画像BA4の出力条件を満たしているか否かを判定する(ステップS109)。
【0094】
そして、画像BA4の出力条件を満たしている場合(ステップS109がYes)は、画像処理装置100は、ナビゲーション装置20への画像出力を画像CQ3aから画像B4に切り替えて、ディスプレイ21に画像B4を表示させて(ステップS110)、処理を終了する。
【0095】
詳細には、画像CQ3aが表示されている間に、ステアリングホイール91が左方向から右方向へ操作された場合に、拡大画像CQ3aから車両9の後方を示す画像B4に切替えて表示する。これにより、縦列駐車における車両位置に応じて車体前方部及び車両9の後方に注意を払って操作するタイミングをユーザは把握できる。
【0096】
なお、画像B4の出力条件を満たしていない場合(ステップ109がNo)は、継続して操舵角センサ84からの情報入力が画像処理装置100になされる。また、所定時間経過後もステップS109の条件を満たさない場合は、縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0097】
以上のように、画像表示システム120においては、車両9を縦列駐車する場合におけるステアリングホイール91の操作内容に応答して、俯瞰画像中の車両9の車体前方部を含む領域を拡大した前方拡大画像CQ3aが表示される。このため、縦列駐車における車両位置に応じて車体のどの部分に注意を払って操作すればよいかをユーザ把握できる。
【0098】
また、ステアリングホイール91が車両9が直進する中立位置から右方向に操作された後に中立位置を経由して右方向とは逆の左方向に操作されたことに応答して、ディスプレイ21に前方拡大画像CQ3aを表示する。このため、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザ把握できる。
【0099】
また、ディスプレイ21に前方拡大画像が表示されている間に、ステアリングホイール91が左方向から右方向へ操作された場合に、前方拡大画像CQ3aから車両9の後方を示す画像に切り替えて表示する。このため、縦列駐車における車両位置に応じて車体前方部、及び、車両9の後方に注意を払って操作するタイミングをユーザは把握できる。
【0100】
また、ディスプレイ21に前方拡大画像CQ3aと俯瞰画像CQ3とを併せて表示する。これにより、縦列駐車における車両9の位置に応じてユーザが注意を払って操作すべき車体部分の画像と、車両9の周辺領域を含む車両全体の画像とを同時にユーザは確認できる。
<第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態の画像処理システム120a(図12に示す。)は、ユーザが車両9の駐車を開始する位置(駐車すべき位置に対して車両9の後退を開始する位置)に応じて、画像処理装置11がステアリングホイール91の切返し位置(以下、「切返し位置」ともいう。)を算出する。
【0101】
そして、車両9が切返し位置に到達したことを画像処理装置11が検出した場合に、俯瞰画像中の車両9の車体前方部を含む領域を拡大した拡大領域を表示する。
【0102】
第2の実施の形態の画像処理システム120aの構成及び処理は、第1の実施の形態とほぼ同様であるが、一部相違する。このため以下、相違点を中心に説明する。
<3.システム構成>
図12は画像処理システム120aのブロック図である。画像処理システム100aの画像処理装置10aに備えられる制御部1aは、第1の実施の形態の制御部1の画像制御部11の構成に加えて、新たに位置算出部12、及び、位置検出部13を備える。
【0103】
位置算出部12は、縦列駐車モードM4において車両9が後退して移動する中で、ユーザが車両9のステアリングホイール91を操作する位置である切返し位置を算出する。この切返し位置の算出は、ユーザが駐車領域RF11を設定した駐車スペースSA101の位置と、車両9の駐車開始位置との情報から制御部1aが理想経路(駐車開始位置から駐車スペースSA101までの経路)を算出し、その理想経路上のステアリングホイール91を操作する位置が切返し位置として算出される。
【0104】
位置検出部13は、車速度センサ82、及び、操舵角センサ84の情報に基づいて車両9の移動軌跡を演算し、位置算出部12により算出された切返し位置と、ユーザの操作により移動する車両9の位置とが同じ位置となった場合に、車両9が切返し位置に到達したことを検出する。
<4.表示画像説明>
次に、縦列駐車モードM4で画像処理装置100からナビゲーション装置20に出力され、ディスプレイ21に表示される合成画像の詳細について図13〜図15を用いて説明する。図13は、駐車領域RF11の設定に伴う駐車開始位置SF21の算出を示す図である。ディスプレイ21には合成画像CQ1aを含む画像が表示されている。この合成画像CQ1aには、車両9の近傍にユーザの操作により移動する駐車領域RF11が表示されている。駐車領域RF11はユーザの操作により他車両19の後方の駐車スペースSA101に移動する。そして、駐車スペースSA101が車両9の駐車すべき位置として設定される。これにより、車両9の駐車すべき位置である駐車領域RF11が路面に対して固定される。
【0105】
そして、車両9の駐車すべき位置である駐車領域RF11が路面に対して固定されたことに伴い、車両9の縦列駐車が可能となる開始位置を演算し、開始位置SF21として表示される。
【0106】
図14は、切返しポイントMA31が表示された状態を示す図である。図13に示す車両9の位置から、合成画像CQ5に示すようにユーザの操作により車両9が直進方向に進行して、車体全体が開始位置SF21の領域に入ると、ユーザはシフトレバーを”D(前進)”から”R(後退)”に切り替えて縦列駐車を開始する。なお、このように車体全体が開始位置SF21の領域に入り、シフトレバーの切り替えが行われたことに伴い、その時点での車両9の位置から路面に固定された駐車領域RF11までの車両9の進行すべき理想経路、及び、切返し位置を制御部1aが演算する。なお、演算された理想経路は合成画像中に表示するようにしてもよい。また、切返し位置に対応する位置に指標MA31をディスプレイ21に表示してもよい。なお、この切返し位置である指標MA31は理想経路上に位置する。
【0107】
図15は、車両9がステアリングホイール91の切返し位置に到達したことにより表示される前方拡大画像CQ3cを示す図である。車両9が駐車動作を開始した後、切返し位置に車両9が到達したことを、位置検出部13が検出すると、画像制御部11は、合成画像CQ3b中の車両9の車体前方部を含む領域を拡大した前方拡大画像CQ3cをディスプレイ21に表示する。これにより、車両9がステアリングホイール91の切返し位置へ到達したことを精度よく検出でき、それに伴いユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
<4.処理>
図16及び図17は、画像処理装置100aの処理フローチャートである。この図16及び図17の処理フローチャートは第1の実施の形態で図10及び図11を用いて説明した処理フローチャートにステップS201〜ステップS206の処理を加えたものであり、これ以外の処理は同様の処理である。図16に示すステップS106において、ユーザの操作により駐車スペースSA101に駐車領域RF11を設定するとステップS201の処理へ進む。
【0108】
ステップS201の処理では、駐車領域RF11の設定に伴い、画像処理装置100aが車両9の開始位置SF21を設定し(ステップS201)、ステップS202の処理へ進む。この開始位置SF21の設定は、ステップS106で設定された駐車スペースSA101の位置に応じて予め対応付けられた位置に設定される。つまり、駐車動作を開始した車両9が駐車スペースSA101に到達するために必要な距離などを予め算出しておき、この駐車スペースSA101に到達するために必要な距離などの情報に基づいて、画像処理装置100aが開始位置SF21を最適な位置に設定する。
【0109】
ステップS202では、車両9の開始位置SF21への到達の状態を画像処理装置100aが判定する(ステップS202)。車両9の開始位置SF21への到達については、車速センサ82、及び、操舵角センサ84の入力情報に基づいて車両9の現在位置からの移動量を画像処理装置100aが演算し、車両9の開始位置SF21への到達の状態を判定する。
【0110】
そして、車両9が開始位置SF21に到達した場合(ステップS202がYes)は、ステップS203の処理へ進む。なお、車両9が開始位置SF21に到達していない場合(ステップS202がNo)は、縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0111】
ステップS203では、車両9の駐車開始位置から画像処理装置100aが理想経路(車両9の駐車開始位置から駐車スペースSA101までの経路)を算出して(ステップS203)、ステップS204の処理へ進む。
【0112】
ステップS204では、位置算出部12が理想経路上のステアリングホイール91を操作する切返し位置を算出し(ステップS204)、ステップS205の処理へ進む。
【0113】
ステップS205では、位置検出部13が、車速度センサ82、及び、操舵角センサ84の情報に基づいて車両9の移動軌跡を演算する。そして、車両9が切返し位置に到達した場合、つまり、位置算出部12により算出された切返し位置と、ユーザの操作により移動する車両9の位置とが同じ位置となった場合(ステップS205がYes)に、車両9が切返し位置に到達したとして、車両9の前方拡大画像を出力して(ステップS108)、ステップS206の処理へ進む。
【0114】
ここで、切返し位置に対応する車両9の位置は車両9の車体の所定部分であり、予めユーザの任意の位置に設定が可能である。なお、車両9が切返し位置に到達していない場合(ステップS205がNo)は、縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0115】
ステップS206では、車両9が切返し位置に到達した後、切返し位置を通過した場合(ステップS206がYes)は、画像処理装置100aは、ナビゲーション装置20への画像出力を画像CQ3cから図9に示す画像B4に切り替えて、ディスプレイ21に画像B4を表示させて(ステップS110)、処理を終了する。なお、車両9が切返し位置に到達した後、車両9が切返し位置を通過しない場合(ステップS206がNo)、画像処理装置100aは縦列駐車モードM4の画像出力を継続して行う。また、所定時間経過後に縦列駐車モードM4の前のモードであるフロントモードM2に遷移するようにしてもよい。
【0116】
なお、本実施の形態では、車両9を駐車スペースSA101に設定された駐車領域RF11に対して縦列駐車させる場合について述べたが、本実施の形態の処理は縦列駐車以外の駐車例えば、並列駐車)においても適用できる。
【0117】
また、これまでの第1の実施の形態、及び、第2の実施の形態の記載から以下の処理が可能である。つまり、画像表示システムにおいては、車両9を駐車する場合に、車両9がステアリングホイール91の切返し位置に到達したことを画像処理装置100が検出する。そして、その検出情報から車両9が切返し位置に到達したことに応答して、俯瞰画像中の車両9の車体前方部を含む領域を拡大した前方拡大画像をディスプレイ21に表示する。これにより、ステアリングホイール91を切返す位置でユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0118】
また、画像処理装置100は、車両9を駐車する場合にユーザが設定した車両の駐車すべき位置駐車スペースSA101に設定された駐車領域RF11)に応じてステアリングホイール91の切返し位置を算出する。そして、画像処理装置100は、車両9が移動した位置から算出されたステアリングホイール91の切返し位置への車両9の到達を検出して、車両9の前方拡大画像をディスプレイ21に表示する。これにより、車両9がステアリングホイール91の切返し位置へ到達したことを精度よく検出でき、それに伴いユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
【0119】
さらに、画像処理装置100は車両9のステアリングホイール91の操作内容を示す信号の入力を受けて、ステアリングホイール91の操作状態に応じて切返し位置への車両9の到達を画像処理装置100が検出して、車両9の前方拡大画像をディスプレイ21に表示する。これにより、ユーザのステアリングホイール91の操作状態に伴い、ユーザが注意を払うべき車体の箇所を表示して、車体が他の物体に衝突することを防止できる。
<変形例>
以下、変形例について説明する。なお、上記の実施の形態、及び、下記で説明する形態を含む全ての形態は適宜に組み合わせ可能である。
【0120】
また、上記の実施の形態では、車両9の駐車スペースを車両9の右側のスペースSA101として駐車する例について述べたが、車両9の左側の駐車スペースに車両9を駐車する場合にも上記実施の形態の技術は適用できる。つまり、車両9の左側の駐車スペースに車両9を駐車する場合の前方拡大画像の表示は、縦列駐車モードM4において、ステアリングホイール91が車両9が直進する中立位置から左方向に操作された後に、中立位置を経由して左方向とは逆方向の右方向に操作されたことに応答して、後方画像から前方拡大画像に切替えて表示する。これにより、ユーザは縦列駐車位置の方向にかかわらず、車両位置に応じて車体前方部に注意を払って操作するタイミングをユーザは把握できる。
【0121】
また、前方拡大画像が表示された状態で、ユーザがステアリングホイール91を前方拡大画像が表示された際の右方向から左方向へ操作したことにより、前方拡大画像から後方画像に切替えて表示する。これにより、縦列駐車における車両位置に応じて車体前方部及び車両9の後方に注意を払って操作するタイミングをユーザは把握できる。
【0122】
また、上記の実施の形態では、画像CQ3aから画像BA4への切り替えをステアリングホイール91が左方向から右方向へ操作されたことを条件としたが、左方向から右方向へ操作され、右方向の操作により、ステアリングホイール91が中立位置、及び、中立位置近傍のいずれかの位置となった時に画像CQ3aから画像BA4へ切り替えるようにしてもよい。これにより、ユーザが注意を払って操作を行う箇所をユーザは所定時間確認できる。また、縦列駐車における車両位置に応じて車体前方部に注意を払って操作するタイミングの前にユーザは注意する対称の状況を確認できる。
【0123】
また、表示されている合成画像よりも更に広い範囲を表示する場合は、俯瞰画像を生成する仮想視点の位置を現在の画像を生成する位置よりも上方向の位置に移動させることで、車両9から離れた駐車スペースに対して駐車領域RF11をユーザが設定することもできる。
【0124】
さらに、上記の実施の形態の俯瞰画像は複数のカメラの撮影画像により生成された合成画像以外に一のカメラにより生成された俯瞰画像であってもよい。
【符号の説明】
【0125】
1・・・・制御部
3・・・・画像生成部
5・・・・撮影部
20・・・ナビゲーション装置
40・・・不揮発性メモリ
41・・・信号入力部
42・・・ナビ通信部
81・・・シフトセンサ
82・・・車速センサ
83・・・方向指示器
【特許請求の範囲】
【請求項1】
車両に搭載される画像表示システムであって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、
前記車両を駐車する場合に、前記車両がステアリングホイールの切返し位置に到達したことを検出する検出手段と、
前記検出手段の情報から前記車両が前記切返し位置に到達したことに応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、
を備えること特徴とする画像表示システム。
【請求項2】
請求項1に記載の画像表示システムにおいて、
前記車両を駐車する場合にユーザが設定した前記車両の駐車すべき位置に応じて前記切返し位置を算出する算出手段をさらに備え、
前記検出手段は、前記車両の位置情報から前記算出手段により算出された前記切返し位置への前記車両の到達を検出すること、
を特徴とする画像表示システム。
【請求項3】
請求項1に記載の画像表示システムにおいて、
前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段をさらに備え、
前記検出手段は前記ステアリングホイールの操作状態に応じて前記切返し位置への前記車両の到達を検出すること、
を特徴とする画像表示システム。
【請求項4】
車両に搭載される画像表示システムであって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、
前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、
前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、
を備えること特徴とする画像表示システム。
【請求項5】
請求項4に記載の画像表示システムにおいて、
前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記第1方向とは逆方向の第2方向に操作され、前記ステアリングホイールが、前記中立位置、及び、前記中立位置近傍のいずれかの位置となったことに応答して、前記前方拡大画像を表示すること、
を特徴とする画像表示システム。
【請求項6】
請求項4に記載の画像表示システムにおいて、
前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記中立位置を経由して前記第1方向とは逆方向の第2方向に操作されたことに応答して、前記前方拡大画像を表示すること、
を特徴とする画像表示システム。
【請求項7】
請求項5または6に記載の画像表示システムにおいて、
前記表示手段は、前記前方拡大画像が表示されている間に、前記ステアリングホイールが前記第2方向から前記第1方向へ操作された場合に、前記前方拡大画像から前記車両の後方を示す画像に切り替えて表示すること、
を特徴とする画像表示システム。
【請求項8】
請求項4乃至7のいずれかに記載の画像表示システムにおいて、
前記表示手段は、前記前方拡大画像と前記俯瞰画像とを併せて表示すること、
を特徴とする画像表示システム。
【請求項9】
車両に搭載された表示装置に表示させる画像を生成する画像処理装置であって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する生成手段と、
前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、
前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を前記表示装置に出力して表示させる出力手段と、
を備えることを特徴とする画像処理装置。
【請求項10】
車両に搭載される画像表示方法であって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する工程と、
前記車両のステアリングホイールの操作内容を示す信号を入力する工程と、
前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する工程と、
を備えること特徴とする画像表示方法。
【請求項1】
車両に搭載される画像表示システムであって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、
前記車両を駐車する場合に、前記車両がステアリングホイールの切返し位置に到達したことを検出する検出手段と、
前記検出手段の情報から前記車両が前記切返し位置に到達したことに応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、
を備えること特徴とする画像表示システム。
【請求項2】
請求項1に記載の画像表示システムにおいて、
前記車両を駐車する場合にユーザが設定した前記車両の駐車すべき位置に応じて前記切返し位置を算出する算出手段をさらに備え、
前記検出手段は、前記車両の位置情報から前記算出手段により算出された前記切返し位置への前記車両の到達を検出すること、
を特徴とする画像表示システム。
【請求項3】
請求項1に記載の画像表示システムにおいて、
前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段をさらに備え、
前記検出手段は前記ステアリングホイールの操作状態に応じて前記切返し位置への前記車両の到達を検出すること、
を特徴とする画像表示システム。
【請求項4】
車両に搭載される画像表示システムであって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を俯瞰した俯瞰画像を生成する生成手段と、
前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、
前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する表示手段と、
を備えること特徴とする画像表示システム。
【請求項5】
請求項4に記載の画像表示システムにおいて、
前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記第1方向とは逆方向の第2方向に操作され、前記ステアリングホイールが、前記中立位置、及び、前記中立位置近傍のいずれかの位置となったことに応答して、前記前方拡大画像を表示すること、
を特徴とする画像表示システム。
【請求項6】
請求項4に記載の画像表示システムにおいて、
前記表示手段は、前記ステアリングホイールが、前記車両が直進する中立位置から第1方向に操作された後に、前記中立位置を経由して前記第1方向とは逆方向の第2方向に操作されたことに応答して、前記前方拡大画像を表示すること、
を特徴とする画像表示システム。
【請求項7】
請求項5または6に記載の画像表示システムにおいて、
前記表示手段は、前記前方拡大画像が表示されている間に、前記ステアリングホイールが前記第2方向から前記第1方向へ操作された場合に、前記前方拡大画像から前記車両の後方を示す画像に切り替えて表示すること、
を特徴とする画像表示システム。
【請求項8】
請求項4乃至7のいずれかに記載の画像表示システムにおいて、
前記表示手段は、前記前方拡大画像と前記俯瞰画像とを併せて表示すること、
を特徴とする画像表示システム。
【請求項9】
車両に搭載された表示装置に表示させる画像を生成する画像処理装置であって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する生成手段と、
前記車両のステアリングホイールの操作内容を示す信号を入力する入力手段と、
前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を前記表示装置に出力して表示させる出力手段と、
を備えることを特徴とする画像処理装置。
【請求項10】
車両に搭載される画像表示方法であって、
前記車両に配置されたカメラで得られる撮影画像から、前記車両及び前記車両の周辺領域を仮想視点から俯瞰した俯瞰画像を生成する工程と、
前記車両のステアリングホイールの操作内容を示す信号を入力する工程と、
前記車両を縦列駐車する場合における前記操作内容に応答して、前記俯瞰画像中の前記車両の車体前方部を含む領域を拡大した前方拡大画像を表示する工程と、
を備えること特徴とする画像表示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2012−73836(P2012−73836A)
【公開日】平成24年4月12日(2012.4.12)
【国際特許分類】
【出願番号】特願2010−218320(P2010−218320)
【出願日】平成22年9月29日(2010.9.29)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
【公開日】平成24年4月12日(2012.4.12)
【国際特許分類】
【出願日】平成22年9月29日(2010.9.29)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
[ Back to top ]