周辺認知支援装置
【課題】運転者の状態から運転者が目視する領域と異なる領域の確認が可能な装置を構成する。
【解決手段】運転座席に備えた複数の荷重センサWSの荷重情報から目視方向推定手段32が運転者Dの目視方向を推定し、この推定方向と異なる方向の距離センサDSで障害物の接近を判定した場合には、その障害物を撮影する車載カメラの撮影画像をモニタ7に拡大表示する。
【解決手段】運転座席に備えた複数の荷重センサWSの荷重情報から目視方向推定手段32が運転者Dの目視方向を推定し、この推定方向と異なる方向の距離センサDSで障害物の接近を判定した場合には、その障害物を撮影する車載カメラの撮影画像をモニタ7に拡大表示する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、周辺認知支援装置に関し、詳しくは、車載カメラによって撮影した車両の周辺画像を撮影した画像をモニタに表示する技術に関する。
【背景技術】
【0002】
上記のように構成された周辺認知支援装置に関連するものとして特許文献1には、運転者の位置から死角になる領域を撮影する複数のCCDカメラが車体に備えられ、車内には運転者の顔を撮影する赤外線カメラが備えられた車両周辺表示装置が示されている。この車両周辺表示装置では、赤外線カメラで撮影された画像から運転者の顔の向き等を求めて運転者が注視する方向を判別するECUを備えており、このECUは判別された顔の方向のカメラで撮影された画像をモニタに表示する制御を行う。
【0003】
周辺認知支援装置に関連するものとして特許文献2には、特許文献1と類似する構成を備えた車両用モニタリングシステムでは、運転者用カメラで撮影された運転者の顔の向きを顔向き検知ECUで判別し、顔の向きに一致する特定領域の画像の拡大表示を行う拡大表示手段が備えられている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007‐142724号公報 (段落番号〔0016〕〜〔0076〕、図1〜図4)
【特許文献2】特開2007‐15663号公報 (段落番号〔0027〕、〔0059〕、図1〜図7)
【発明の概要】
【発明が解決しようとする課題】
【0005】
車両を後進させて駐車を行う際の運転者の操作を例に挙げると、車両を後進させる際には、運転者は上半身を捩るように車両の後方を振り返り、車両の後方を直接的に確認することや、場合によっては運転座席のドアのウインドウを開放し、この開放部位から車両の後方を直接的に確認することや、サイドミラーに視線を向けることでミラーを介して車両の後方を確認することが行われている。また、車両の後方を撮影するカメラを備えたものでは、運転座席近傍のディスプレイに対してカメラからの画像を表示することで車両の後方を確認することも行われている。
【0006】
このように車両を後進させる際には、車両の後方の確認を行うことは重要であり、特許文献1に記載されるように運転者から死角になる領域をモニタに表示する制御が有効となり、特許文献2に記載されるように運転者が必要とする方向の映像をモニタに表示することも有効となる。
【0007】
しかしながら、狭い駐車スペースに車両を導入する場合や障害物が存在する領域に車両を導入する場合には、車両の後方の一部の領域を確認するだけでは、不充分な場合があり、例えば、車両の前端部に近い領域に障害物が存在する場合には、ステアリング操作に伴い車両の前端部が横方向に振れる際に、その障害物に接触する可能性もあり、このような前端部位置の障害物の確認も同時に行う必要があった。
【0008】
このような状況を考えると特許文献1や特許文献2に記載されるように、運転者の状態から自動的にモニタに情報を表示する有効性は認められるものの、運転者が目視している領域をモニタに表示するだけでは不充分であることも考えられ改善の余地がある。
【0009】
本発明の目的は、運転者の状態から運転者が目視する領域と異なる領域の確認が可能な装置を合理的に構成する点にある。
【課題を解決するための手段】
【0010】
本発明の特徴は、車両周辺を撮影する車載カメラと、この車載カメラで撮影された画像を表示するモニタとを備えると共に、
車両の運転座席に着座した運転者の姿勢から運転者が目視する方向を推定する目視方向推定手段と、
前記車載カメラで撮影された車体周辺の撮影画像のうち、前記目視方向推定手段で推定した目視方向と異なる方向となる車体周辺の撮影画像を前記モニタに表示する表示対象設定手段が備えられている点にある。
【0011】
この構成によると、運転者の姿勢から目視方向推定手段が目視方向を推定するので、視線の方向を特定するためのカメラ類を用いずに構成することが可能となり、また、車載カメラで撮影された車体周辺の撮影画像のうち、推定した目視方向と異なる方向となる車体周辺の画像が、表示対象設定手段によってモニタに表示される。そして、この表示対象がモニタに表示されることで運転者の注意を促すことも可能となる。つまり、運転者は目視していない方向の車体周辺の状況を積極的に確認している訳ではないので、運転者が目視しない領域をモニタに表示することで、運転者が障害物等の見落としを少なくできる。
その結果、運転者の状態から運転者が確認を行う領域と異なる領域の確認が可能な装置が合理的に構成された。
【0012】
本発明は、車体外部に存在する障害物を検出する障害物検出手段を備え、前記表示対象設定手段は、前記目視方向と異なる方向において前記障害物検出手段で障害物が検出された領域の撮影画像を表示対象に設定しても良い。
これによると、運転者が目視する方向と異なる方向において、障害物検出手段が障害物を検出した場合に、その障害物が検出された領域がモニタに表示されることになるので、例えば、障害物が検出されない場合には、車体の進行方向の撮影画像や、所謂トップビュー等を表示しておき、障害物が検出された場合に、その領域を表示することにより、運転者に注意を促すことも可能となる。
【0013】
本発明は、前記目視方向推定手段が、前記運転座席に着座した運転者の荷重情報を取得する荷重センサを備えても良い。
これによると、運転座席に備えた荷重センサの荷重情報から運転者の姿勢を判別できる。
【0014】
本発明は、前記目視方向推定手段が、前記運転座席に着座した運転者と、運転者近傍のドアとの距離情報を取得するように前記ドアに形成された近接センサを備えても良い。
これによると、ドアに備えた近接センサの距離情報から運転者の姿勢を判別できる。
【0015】
本発明は、前記目視方向推定手段が、ステアリングホイールを運転者が握る把持位置と把持力とを圧力情報として取得する感圧センサを備えても良い。
これによると、ステアリングホイールに備えた感圧センサの圧力情報から運転者がステアイングホイールを握る把持位置と把持力とを特定し、これに基づいて運転者の姿勢を判別できる。
【0016】
本発明は、前記表示対象設定手段で設定された表示対象の撮影画像のうち、前記目視方向と異なる方向の画像を切り出して前記モニタに表示する表示領域抽出手段を備えても良い。
これによると、複数の車載カメラを備えなくとも、撮影画像からモニタに表示すべき画像を切り出して拡大表示できる。
【0017】
本発明は、前記車載カメラが車体周辺の異なる領域を撮影するように複数備えられ、前記表示対象設定手段は、前記車載カメラで撮影された撮影画像のうち、前記目視方向と異なる方向の領域を撮影する車載カメラからの画像を選択してモニタに表示しても良い。
これによると、複数の車載カメラのうちの1つからの画像を選択してモニタに表示するので、モニタに表示される画像の画質を低下させることがない。
【図面の簡単な説明】
【0018】
【図1】車両の構成を示す斜視図である。
【図2】車内のパネル部を示す斜視図である。
【図3】カメラの撮影領域を示す平面図である。
【図4】制御系を示すブロック回路図である。
【図5】表示制御ルーチンのフローチャートである。
【図6】運転者の目視方向等を示す図である。
【図7】駐車エリアと車体との位置関係を示す平面図である。
【図8】リアカメラの撮影画像が表示されたモニタを示す図である。
【図9】フロントカメラの撮影画像が表示されたモニタを示す図である。
【図10】左サイドカメラの撮影画像と右サイドカメラの撮影画像とが表示されたモニタを示す図である。
【図11】障害物が表示されたモニタを示す図である。
【発明を実施するための形態】
【0019】
以下、本発明の実施の形態を図面に基づいて説明する。
〔車体構成〕
図1〜図3には車両の一例としての乗用車を示している。この乗用車の車体Aには左右一対の前車輪1及び左右一対の後車輪2が備えられ、ルーム内には運転座席3と助手席4とが備えられ、運転座席3の前方位置にステアリングホイール5が配置されている。また、運転座席3の前方位置にメータ類を有するパネル6が備えられ、このパネル6と隣接する位置に各種情報を表示するモニタ7が備えられている。パネル6の下方にはアクセルペダル8とブレーキペダル9とが備えられ、運転座席3の側部には変速操作を実現するシフトレバー10が配置されている。
【0020】
ルーム内の前部にはルームミラー11が備えられている。車体前部の左ドア12の外部に左ドアミラー13が備えられ、車体前部の右側の右ドア14の外部に右ドアミラー15が備えられている。
【0021】
車体Aの前端には車体前方の路面を含む周辺領域を撮影するフロントカメラ16が備えられ、車体Aの後端には車体後方の路面を含む周辺領域を撮影するリアカメラ17が備えられている。左ドアミラー13のハウジングには車体Aの左側方の路面を含む周辺領域を撮影する左サイドカメラ18が備えられ、これと同様に、右ドアミラー15のハウジングには車体の右側方の路面を含む周辺領域を撮影する右サイドカメラ19が備えられている。
【0022】
これらフロントカメラ16、リアカメラ17、左サイドカメラ18、右サイドカメラ19は車載カメラの具体例であり、夫々ともCCDやCIS等の撮像素子を内蔵したデジタルカメラとして構成されている。これらのデジタルカメラは、撮像角度が水平方向に180度に及ぶ広角度レンズを有し、撮影した撮影画像を動画情報としてリアルタイムに出力する。図3には、フロントカメラ16の前方撮影領域Faと、リアカメラ17の後方撮影領域Baと、左サイドカメラ18の左方撮影領域Laと、右サイドカメラ19の右方撮影領域Raとを異なるハッチングを付して示しており、これらの領域が対応するカメラにおいて撮影画像として取得される。
【0023】
車体Aの前端のバンパーの左右両端となる2箇所と、車体Aの後端のバンパーの左右両端となる2箇所との合計4箇所には、障害物を検出する超音波型や赤外線反射型等の距離センサDS(障害物検出手段の一例)が備えられている。
【0024】
この乗用車では、複数のGPS衛星から電波信号を受信することで車体Aの位置を地球の経度と緯度とで構成されるポジション情報を取得するナビゲーションシステム21を(図4を参照)を備えている。このナビゲーションシステム21は、取得したポジション情報に対応する領域の地図を前記モニタ7に表示する共に、車体Aが存在する位置を地図上に表示し、この地図上に車体Aが走行すべき経路を表示し、既に走行した経路を表示する等の処理を実現する。
【0025】
図1及び図4に示すように、この乗用車では、前述したフロントカメラ16、リアカメラ17、左サイドカメラ18、右サイドカメラ19からの撮影画像を前記モニタ7に表示することが可能な周辺認知制御ユニット30を備えている。この周辺認知制御ユニット30は、マイクロプロセッサやDSP(digital signal processor)等を有し、所定のソフトウエアが実行される表示ECUとして構成されている(制御形態は後述する)。
【0026】
モニタ7は、表示面にタッチパネルを備え、バックライトを備えた液晶式に構成されている。もちろん、プラズマ表示型のものやCRT型のものであっても良い。また、タッチパネルは、指などによる接触位置をロケーションデータとして出力することができる感圧式や静電式の指示入力装置である。モニタ7の下部にはモニタ7に表示すべき画像を人為的に設定するマニュアルスイッチ22が備えられ、この近傍にはスピーカ23を備えている。
【0027】
この乗用車は一般的なものと同様にシフトレバー10の設定により前後進の何れかの方向への走行が実現する。アクセルペダル8の操作で走行速度の調節が実現し、ブレーキペダル9の操作で減速が実現し、ステアリングホイール5の操作により操舵輪として機能する前車輪1の操向作動が実現する。
【0028】
運転座席3は、シートクッション3Aとシートバック3Bとを備えており、このシートクッション3Aとシートバック3Bとには、運転者D(図6を参照)が着座した際の圧力を検出する複数の荷重センサWSを備えている。この複数の荷重センサWSは、シートクッション3Aにおいて運転者Dの左右方向と前後方向とにおける荷重を計測できるように前部と後部と左部と右部との少なくとも4箇所に配置されている。シートバック3Bに対しても運転者Dの左右方向における荷重を計測できるように左部と右部との少なくとも2箇所に配置されている。
【0029】
右ドア14の内壁面には、運転者Dとの距離を計測する複数の近接センサ24を備え、ステアリングホイール5には運転者Dの把持位置と把持力とを計測する複数の感圧センサ25を備えている。
【0030】
近接センサ24は、静電容量型や、赤外線を用いた反射型の測距センサ等、非接触型のものが用いられ、ドア内面と運転者Dとの距離を計測する。感圧センサ25は感圧ゴムやストレインゲージ等で構成され、運転者Dがホイール部分を握る把持力と把持位置との情報を出力する。
【0031】
例えば、図7に示すように、駐車エリアPの近傍に車体Aを停止させて、駐車エリアPに車体を導入する際には、周辺認知制御ユニット30が運転座席3に着座する運転者Dの目視方向を推定する。この推定に基づいてフロントカメラ16、リアカメラ17、左サイドカメラ18、右サイドカメラ19の何れかからの撮影画像がモニタ7に表示され、運転者Dによる車体周辺の認知の支援を行える。この周辺認知制御ユニット30の制御構成、制御形態を以下に説明する。
【0032】
〔制御構成〕
図4に示すようにモニタ7に画像を表示する制御系が構成されている。この制御系では、周辺認知制御ユニット30に対して、ナビゲーションシステム21からのナビゲーション情報と、マニュアルスイッチ22の設定情報とが入力する情報取得系が形成されている。また、シフトレバー10のシフト位置を検出するシフト位置センサ10Sからのシフト位置情報と、フロントカメラ16・バックカメラ17・左サイドカメラ18・右サイドカメラ19夫々からの撮影画像とが入力する情報取得系が形成されている。更に、複数の荷重センサWSからの荷重情報と、複数の近接センサ24からの距離情報と、複数の感圧センサ25からの把持位置を含む圧力情報と、障害物検出手段として機能する複数の距離センサDSからの距離情報とが入力する情報取得系が形成されている。
【0033】
周辺認知制御ユニット30は、複数の荷重センサWSで荷重情報を取得し、近接センサ24の計測情報を取得し、感圧センサ25の圧力情報を取得する。周辺認知制御ユニット30では、取得した情報から運転座席3に着座した運転者Dの姿勢を判別し、この姿勢から更に、運転者が目視する方向を推定し、運転者Dの目視方向と異なる方向をモニタ7に表示する制御を行う。
【0034】
周辺認知制御ユニット30は、撮影画像取得手段31と、目視方向推定手段32と、障害物位置判定手段33と、表示対象設定手段34と、表示画像取得手段35と、表示領域抽出手段36と、表示対象決定手段37と、タイマ38と、表示画像出力モジュール39と、音声処理モジュール40とを備えている。
【0035】
撮影画像取得手段31は、フロントカメラ16・バックカメラ17・左サイドカメラ18・右サイドカメラ19夫々からの撮影画像を取得する。目視方向推定手段32は、複数の荷重センサWS・複数の近接センサ24・複数の感圧センサ25夫々からの情報の少なくとも1つを取得して運転者の目視方向を推定する。また、この目視方向推定手段32に対して推定の基準とする荷重分布や閾値等の情報を与える目視方向判定テーブル32Tを備えている。
【0036】
図面には示していないが、車体Aにはステアリングホイール5の回転操作角を取得する回転角センサが備えられ、目視方向推定手段32では、回転角センサで特定されるステアリングホイール5の回転操作角と、複数の感圧センサ25の圧力情報とに基づいて、運転者Dがホイール部分を握る把持位置と把持力とを特定する処理が行われる。
【0037】
障害物位置判定手段33は、複数の距離センサDSからの距離情報に基づいて障害物の位置を判定する。表示対象設定手段34は、外部からの情報あるいは内部で生成した情報に基づいてモニタ7に表示すべき対象を設定する。表示画像取得手段35は表示すべき撮影画像等を取得する。表示領域抽出手段36は、撮影画像から障害物B(図7を参照)が存在する一部の領域を切り出す処理を行う。
【0038】
表示対象決定手段37は、表示画像取得手段35で取得した撮影画像又は表示領域抽出手段36で切り出した撮影画像等を表示する処理を行う。表示画像出力モジュール39はモニタ7に対して画像を出力する処理を行う。この表示画像出力モジュール39はモニタ7に画像の表示形態を設定する情報を取得するレイアウトテーブル39Tを備えている。音声処理モジュール40は障害物位置判定手段33で検出した障害物Bと車体Aとの距離が設定値未満まで減少するとスピーカ23から警報音を出力する。
【0039】
これら、撮影画像取得手段31と、目視方向推定手段32と、障害物位置判定手段33と、表示対象設定手段34と、表示画像取得手段35と、表示領域抽出手段36と、表示対象決定手段37とはソフトウエアで構成されるものであるが、夫々をハードウエアで構成して良く、また、夫々をハードウエアとソフトウエアとの組み合わせによって構成しても良い。
【0040】
周辺認知制御ユニット30は、車体Aの走行方向や走行速度に拘わらず運転者Dの目視方向に基づいてモニタ7に表示すべき画像の自動設定を実現するものであるが、この実施形態では図7に示すように車体Aを駐車エリアPの近傍に停車させた状態で車体Aを後進させる場合の表示制御を説明する。
【0041】
〔表示制御〕
図5のフローチャートに示すように、シフト位置センサ10Sからの情報から車体Aの走行方向が後進でない(前進である)場合には、マニュアルスイッチ22の設定情報に基づいてナビゲーションシステム21から取得したナビゲーション情報又はフロントカメラ16・バックカメラ17・左サイドカメラ18・右サイドカメラ19の何れかから取得した撮影画像を表示対象にセットする(#101、#102ステップ)。
【0042】
また、シフト位置が後進(リバース)である場合には、リアカメラ17からの撮影画像が表示対象にセットされる。このセット状態で目視方向を推定し、この推定された目視方向が設定時間以上維持された場合にのみ、距離センサDSの距離情報を取得し、既に推定されている目視方向と異なる方向に存在する障害物B(図7を参照)が設定距離未満まで車体Aに接近したことを判定した場合にのみ、障害物Bを検出した領域の拡大画像を表示対象にセットする(#103〜#108ステップ)。
【0043】
次に、既に障害物Bが表示されている場合には目視方向の変更時間が設定値未満である場合には、障害物Bを表示対象にセットする。このようにセットされた表示対象はモニタ7に表示される(#109〜#111ステップ)。
【0044】
フローチャートには示していないが障害物Bを検出した場合には、音声処理モジュール40が生成した電子音がスピーカ23から出力されるので、運転者Dは音声によっても障害物Bの存在が把握できる。特に、音声処理モジュールは障害物Bを検出した際には必ず音声を出力するので、モニタ7に障害物Bが表示されない状況でも音声から障害物Bの存在を把握できる。
【0045】
つまり、#101、#102、#111ステップの処理として、車体Aを後進させない場合には、表示対象設定手段34がマニュアルスイッチ22の設定情報に基づいて表示対象をセットする。
【0046】
具体的には、表示対象としてはナビゲーションシステム21が生成したナビゲーション画面や、複数のカメラでの撮影された撮影画像が表示対象に設定され、このセットに基づいて表示画像取得手段35が表示すべき撮影画像を取得し、表示画像出力モジュール39がモニタ7に表示する。このような表示が行われる際には、レイアウトテーブル39Tに基づいて表示位置を設定することも可能であり、例えば、モニタ7の表示面を分割し、複数のカメラでの撮影された撮影画像を分割された表示面に表示できる。
【0047】
また、#103ステップの処理として、車体Aを後進させる状況にある場合には、モニタ7に対してリアカメラ17で撮影された後方撮影領域Baの撮影画像を表示する基本的な設定が表示対象設定手段34において行われる。このようにセットされた状態で障害物Bが検出されない場合には、#111ステップにおいて、リアカメラ17の撮影画像を表示画像取得手段35が取得し、図8に示すように撮影画像がモニタ7に表示される。
【0048】
尚、この図8のようにモニタ7に示される撮影画像は、ミラーによって後方を確認した際の像と整合させるため、左右が入れ替わった像となっている。また、モニタ7に表示される撮影画像には左右一対の車幅ラインYwと、5m(メートル)、3m、1mに対応した予想進路線Y1、Y2、Y3で成るガイドインジケータがスーパーインポーズの処理によって表示される。
【0049】
特に、#104、#105ステップの処理として、#103ステップで車体後方の撮影画像が表示対象にセットされている状況において、荷重センサWS、近接センサ24、感圧センサ25の少なくとも1つからの情報に基づいて目視方向推定手段32が運転者Dの姿勢に基づいて目視方向を推定する。
【0050】
この推定の一例を挙げると、車体Aを駐車エリアPに導入する際に、図6に示すように運転座席3に着座する運転者Dが右ドアミラー15を目視する場合や、直接的に車体Aに右後方を目視する場合には、運転者Dの体の重心が右側に移動し、体も傾斜する。このような理由から、荷重センサWSの荷重情報から体の姿勢の判別し、目視方向の推定が可能となる。これと同様に理由から、近接センサ24の検出値、及び、感圧センサ25の圧力情報から運転者Dの姿勢を判別し、目視方向の推定を実現している。
【0051】
目視方向判定テーブル32Tには、複数の荷重センサWSの荷重情報と目視方向との関係、複数の近接センサ24の計測値と目視方向との関係、複数の感圧センサ25の圧力情報と目視方向との関係夫々をデータ化して保存している。また、この目視方向判定テーブル32Tは、運転者Dが直接的に車外を目視した場合の目視方向だけを推定するだけではなく、運転者Dがミラーを介して車体Aの後方を目視した場合にも、車体Aの後方を目視していることを推定するように、ルームミラー11、左ドアミラー13、右ドアミラー15夫々の位置が記録されている。
【0052】
つまり、推定された目視方向がルームミラー11に向かっている場合には、運転者Dは車体Aの後方を目視して入ると見なす。これと同様に、推定された目視方向が左ドアミラー13に向かっている場合には、運転者Dは車体Aの左後方を目視して入ると見なす。また、推定された目視方向が右ドアミラー15に向かっている場合には、前述したように運転者Dは車体Aの右後方を目視して入ると見なす。
【0053】
これにより、目視方向判定テーブル32Tの情報に基づき複数の荷重センサWSの荷重情報と、複数の近接センサ24の距離情報と、複数の感圧センサ25の圧力情報との少なくとも1つに基づいて目視方向の推定を実現している。
【0054】
特に荷重センサWSの荷重情報を基本として、近接センサ24の距離情報と、感圧センサ25の圧力情報とのうちの少なくとも1つの情報も併せて参照することで目視方向の推定の精度を高めることが可能である。
【0055】
#105ステップのように、目視方向推定手段32によって推定された目視方向が設定時間(数秒程度)以上維持されたことをタイマ38からの情報に基づいて判別した状況において、#106、#107ステップの処理では、障害物位置判定手段33が距離センサDSの距離情報を取得する。そして、目視方向と異なる方向の障害物Bが検出された場合には、障害物Bを検出した領域の撮影画像の一部の拡大画像が表示対象にセットされる。
【0056】
本実施の形態では撮影画像の一部を拡大表示する処理を示しているが、複数の車載カメラの1つからの撮影画像を拡大せずにモニタ7に表示するように表示対象設定手段34の処理形態を設定しても良い。
【0057】
具体的な状況として、図6に示されるように運転者Dが右ドアミラー15を目視している場合や、車体Aの右後方を目視する場合において、図7に示すように、車体Aの左前部において障害物Bが検出された場合には、図11に示す画像がモニタ7に表示される。つまり、撮影画像取得手段31においてフロントカメラ16から図9に示す撮影画像を取得しており、左サイドカメラ18から図10に示す撮影画像(モニタ7の左側に表示されたもの)を取得している。尚、同図には右サイドカメラ19も併せてモニタ7に並列的に表示した状態を示している
【0058】
ここで、目視方向と異なる方向として、運転者Dが車体Aの右後方を目視している場合には、異なる方向として車体Aの左前部に存在する障害物Bを表示対象にセットした例を挙げたが、異なる方向として車体Aの右前部であっても、車体Aの左後部であっても、その位置に存在する障害物Bはモニタ7に表示されることになる。
【0059】
これらの撮影画像のうち、表示対象設定手段34が、図9、図10において破線で示す領域Eを表示対象にセットすることで、拡大画像が表示対象となる。このようにセットされた2つの拡大画像は#111ステップにおいて図11に示すようにモニタ7に並列的に表示される。このような並列的な表示はレイアウトテーブル39Tからのレイアウト情報に基づいて表示画像出力モジュール39が実現する。
【0060】
尚、障害物Bは地上に設置された非移動物に限るものではなく、車体Aに接近するバイクや人物等の移動物を含むものである。
【0061】
#109、#110ステップの処理は、障害物Bが表示対象に設定されている状況において、その障害物Bが既にモニタ7に表示されている場合には、目視方向の変更時間が設定値未満である場合、つまり、目視方向から視線をそらすことがあっても、そらす時間が短時間である場合には、障害物Bの拡大画像を表示対象にセットする状態が維持されることを意味している。
【0062】
つまり、短時間だけモニタ7を見ることや、短時間だけルームミラー11を見ることがあっても障害物Bの表示は継続することになる。
【0063】
この周辺認知制御ユニット30では、車体Aを後進させて駐車エリアPに導入する際には、障害物Bが検出されない限りモニタ7にはリアカメラ17からの撮影画像(図8を参照)が表示される。しかしながら、運転者Dの目視方向を推定し、推定された方向と異なる方向で障害物Bが検出された場合には、モニタ7に対して障害物Bを表示することにより、運転者Dに対して障害物Bの存在を視覚的に認識させ、接触を未然に回避できるものにしているのである。
【0064】
〔別実施の形態〕
本発明は、上記した実施の形態以外に以下のように構成しても良い。
【0065】
(a)表示対象設定手段は、障害物が検出されない状況において、運転者の目視方向と反対方向を表示するように単純な処理を行うように処理形態を設定しても良い。この場合、常に目視方向と反対方向を表示する表示形態でも良く、例えば、目視方向が後方である場合には、右前方や左前方等表示方向を予め設定できるように表示形態を設定しても良い。
【0066】
(b)例えば、縦軸芯周りにパーン作動自在で、ズームレンズを有する車載カメラを備え、表示対象設定手段が障害物の存在する領域をモニタに表示する対象に設定した場合には、車載カメラをパーン作動させて撮影領域の中央を障害物が存在する領域に向け、ズームレンズで撮影対象を拡大するように焦点距離の設定を行うように構成する。このように構成することにより、多数の車載カメラを備えずとも広範な領域の対象を拡大表示することも可能となる。
【0067】
(c)障害物検出手段が、複数の車載カメラの撮影画像の画像処理により立体物を抽出し、その立体物を障害物として認識し、車体との距離を計測できるように構成されたものであっても良い。このように構成した場合には、画像処理だけで障害物との距離を把握できるため超音波センサ等を備える必要がなく、部位点数の低減に繋がる。
【0068】
(d)車内のフロアー等に運転者の足(靴)からの圧力を検出する感圧センサを備え、この感圧センサの圧力情報も併せて目視方向を推定する処理に用いる。このように構成することにより、運転者の姿勢を明確に判定でき目視方向の推定精度を高めることが可能となる。
【産業上の利用可能性】
【0069】
本発明は、ナビゲーションシステムを備えず、車載カメラの撮影画像のみをモニタに表示するシンプルなシステムに利用することができる。
【符号の説明】
【0070】
3 運転座席
5 ステアリングホイール
7 モニタ
14 ドア(右ドア)
16 車載カメラ(フロントカメラ)
17 車載カメラ(リアカメラ)
18 車載カメラ(左サイドカメラ)
19 車載カメラ(右サイドカメラ)
25 感圧センサ
32 目視方向推定手段
34 表示対象設定手段
36 表示領域抽出手段
D 運転者
DS 障害物検出手段(距離センサ)
WS 荷重センサ
【技術分野】
【0001】
本発明は、周辺認知支援装置に関し、詳しくは、車載カメラによって撮影した車両の周辺画像を撮影した画像をモニタに表示する技術に関する。
【背景技術】
【0002】
上記のように構成された周辺認知支援装置に関連するものとして特許文献1には、運転者の位置から死角になる領域を撮影する複数のCCDカメラが車体に備えられ、車内には運転者の顔を撮影する赤外線カメラが備えられた車両周辺表示装置が示されている。この車両周辺表示装置では、赤外線カメラで撮影された画像から運転者の顔の向き等を求めて運転者が注視する方向を判別するECUを備えており、このECUは判別された顔の方向のカメラで撮影された画像をモニタに表示する制御を行う。
【0003】
周辺認知支援装置に関連するものとして特許文献2には、特許文献1と類似する構成を備えた車両用モニタリングシステムでは、運転者用カメラで撮影された運転者の顔の向きを顔向き検知ECUで判別し、顔の向きに一致する特定領域の画像の拡大表示を行う拡大表示手段が備えられている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007‐142724号公報 (段落番号〔0016〕〜〔0076〕、図1〜図4)
【特許文献2】特開2007‐15663号公報 (段落番号〔0027〕、〔0059〕、図1〜図7)
【発明の概要】
【発明が解決しようとする課題】
【0005】
車両を後進させて駐車を行う際の運転者の操作を例に挙げると、車両を後進させる際には、運転者は上半身を捩るように車両の後方を振り返り、車両の後方を直接的に確認することや、場合によっては運転座席のドアのウインドウを開放し、この開放部位から車両の後方を直接的に確認することや、サイドミラーに視線を向けることでミラーを介して車両の後方を確認することが行われている。また、車両の後方を撮影するカメラを備えたものでは、運転座席近傍のディスプレイに対してカメラからの画像を表示することで車両の後方を確認することも行われている。
【0006】
このように車両を後進させる際には、車両の後方の確認を行うことは重要であり、特許文献1に記載されるように運転者から死角になる領域をモニタに表示する制御が有効となり、特許文献2に記載されるように運転者が必要とする方向の映像をモニタに表示することも有効となる。
【0007】
しかしながら、狭い駐車スペースに車両を導入する場合や障害物が存在する領域に車両を導入する場合には、車両の後方の一部の領域を確認するだけでは、不充分な場合があり、例えば、車両の前端部に近い領域に障害物が存在する場合には、ステアリング操作に伴い車両の前端部が横方向に振れる際に、その障害物に接触する可能性もあり、このような前端部位置の障害物の確認も同時に行う必要があった。
【0008】
このような状況を考えると特許文献1や特許文献2に記載されるように、運転者の状態から自動的にモニタに情報を表示する有効性は認められるものの、運転者が目視している領域をモニタに表示するだけでは不充分であることも考えられ改善の余地がある。
【0009】
本発明の目的は、運転者の状態から運転者が目視する領域と異なる領域の確認が可能な装置を合理的に構成する点にある。
【課題を解決するための手段】
【0010】
本発明の特徴は、車両周辺を撮影する車載カメラと、この車載カメラで撮影された画像を表示するモニタとを備えると共に、
車両の運転座席に着座した運転者の姿勢から運転者が目視する方向を推定する目視方向推定手段と、
前記車載カメラで撮影された車体周辺の撮影画像のうち、前記目視方向推定手段で推定した目視方向と異なる方向となる車体周辺の撮影画像を前記モニタに表示する表示対象設定手段が備えられている点にある。
【0011】
この構成によると、運転者の姿勢から目視方向推定手段が目視方向を推定するので、視線の方向を特定するためのカメラ類を用いずに構成することが可能となり、また、車載カメラで撮影された車体周辺の撮影画像のうち、推定した目視方向と異なる方向となる車体周辺の画像が、表示対象設定手段によってモニタに表示される。そして、この表示対象がモニタに表示されることで運転者の注意を促すことも可能となる。つまり、運転者は目視していない方向の車体周辺の状況を積極的に確認している訳ではないので、運転者が目視しない領域をモニタに表示することで、運転者が障害物等の見落としを少なくできる。
その結果、運転者の状態から運転者が確認を行う領域と異なる領域の確認が可能な装置が合理的に構成された。
【0012】
本発明は、車体外部に存在する障害物を検出する障害物検出手段を備え、前記表示対象設定手段は、前記目視方向と異なる方向において前記障害物検出手段で障害物が検出された領域の撮影画像を表示対象に設定しても良い。
これによると、運転者が目視する方向と異なる方向において、障害物検出手段が障害物を検出した場合に、その障害物が検出された領域がモニタに表示されることになるので、例えば、障害物が検出されない場合には、車体の進行方向の撮影画像や、所謂トップビュー等を表示しておき、障害物が検出された場合に、その領域を表示することにより、運転者に注意を促すことも可能となる。
【0013】
本発明は、前記目視方向推定手段が、前記運転座席に着座した運転者の荷重情報を取得する荷重センサを備えても良い。
これによると、運転座席に備えた荷重センサの荷重情報から運転者の姿勢を判別できる。
【0014】
本発明は、前記目視方向推定手段が、前記運転座席に着座した運転者と、運転者近傍のドアとの距離情報を取得するように前記ドアに形成された近接センサを備えても良い。
これによると、ドアに備えた近接センサの距離情報から運転者の姿勢を判別できる。
【0015】
本発明は、前記目視方向推定手段が、ステアリングホイールを運転者が握る把持位置と把持力とを圧力情報として取得する感圧センサを備えても良い。
これによると、ステアリングホイールに備えた感圧センサの圧力情報から運転者がステアイングホイールを握る把持位置と把持力とを特定し、これに基づいて運転者の姿勢を判別できる。
【0016】
本発明は、前記表示対象設定手段で設定された表示対象の撮影画像のうち、前記目視方向と異なる方向の画像を切り出して前記モニタに表示する表示領域抽出手段を備えても良い。
これによると、複数の車載カメラを備えなくとも、撮影画像からモニタに表示すべき画像を切り出して拡大表示できる。
【0017】
本発明は、前記車載カメラが車体周辺の異なる領域を撮影するように複数備えられ、前記表示対象設定手段は、前記車載カメラで撮影された撮影画像のうち、前記目視方向と異なる方向の領域を撮影する車載カメラからの画像を選択してモニタに表示しても良い。
これによると、複数の車載カメラのうちの1つからの画像を選択してモニタに表示するので、モニタに表示される画像の画質を低下させることがない。
【図面の簡単な説明】
【0018】
【図1】車両の構成を示す斜視図である。
【図2】車内のパネル部を示す斜視図である。
【図3】カメラの撮影領域を示す平面図である。
【図4】制御系を示すブロック回路図である。
【図5】表示制御ルーチンのフローチャートである。
【図6】運転者の目視方向等を示す図である。
【図7】駐車エリアと車体との位置関係を示す平面図である。
【図8】リアカメラの撮影画像が表示されたモニタを示す図である。
【図9】フロントカメラの撮影画像が表示されたモニタを示す図である。
【図10】左サイドカメラの撮影画像と右サイドカメラの撮影画像とが表示されたモニタを示す図である。
【図11】障害物が表示されたモニタを示す図である。
【発明を実施するための形態】
【0019】
以下、本発明の実施の形態を図面に基づいて説明する。
〔車体構成〕
図1〜図3には車両の一例としての乗用車を示している。この乗用車の車体Aには左右一対の前車輪1及び左右一対の後車輪2が備えられ、ルーム内には運転座席3と助手席4とが備えられ、運転座席3の前方位置にステアリングホイール5が配置されている。また、運転座席3の前方位置にメータ類を有するパネル6が備えられ、このパネル6と隣接する位置に各種情報を表示するモニタ7が備えられている。パネル6の下方にはアクセルペダル8とブレーキペダル9とが備えられ、運転座席3の側部には変速操作を実現するシフトレバー10が配置されている。
【0020】
ルーム内の前部にはルームミラー11が備えられている。車体前部の左ドア12の外部に左ドアミラー13が備えられ、車体前部の右側の右ドア14の外部に右ドアミラー15が備えられている。
【0021】
車体Aの前端には車体前方の路面を含む周辺領域を撮影するフロントカメラ16が備えられ、車体Aの後端には車体後方の路面を含む周辺領域を撮影するリアカメラ17が備えられている。左ドアミラー13のハウジングには車体Aの左側方の路面を含む周辺領域を撮影する左サイドカメラ18が備えられ、これと同様に、右ドアミラー15のハウジングには車体の右側方の路面を含む周辺領域を撮影する右サイドカメラ19が備えられている。
【0022】
これらフロントカメラ16、リアカメラ17、左サイドカメラ18、右サイドカメラ19は車載カメラの具体例であり、夫々ともCCDやCIS等の撮像素子を内蔵したデジタルカメラとして構成されている。これらのデジタルカメラは、撮像角度が水平方向に180度に及ぶ広角度レンズを有し、撮影した撮影画像を動画情報としてリアルタイムに出力する。図3には、フロントカメラ16の前方撮影領域Faと、リアカメラ17の後方撮影領域Baと、左サイドカメラ18の左方撮影領域Laと、右サイドカメラ19の右方撮影領域Raとを異なるハッチングを付して示しており、これらの領域が対応するカメラにおいて撮影画像として取得される。
【0023】
車体Aの前端のバンパーの左右両端となる2箇所と、車体Aの後端のバンパーの左右両端となる2箇所との合計4箇所には、障害物を検出する超音波型や赤外線反射型等の距離センサDS(障害物検出手段の一例)が備えられている。
【0024】
この乗用車では、複数のGPS衛星から電波信号を受信することで車体Aの位置を地球の経度と緯度とで構成されるポジション情報を取得するナビゲーションシステム21を(図4を参照)を備えている。このナビゲーションシステム21は、取得したポジション情報に対応する領域の地図を前記モニタ7に表示する共に、車体Aが存在する位置を地図上に表示し、この地図上に車体Aが走行すべき経路を表示し、既に走行した経路を表示する等の処理を実現する。
【0025】
図1及び図4に示すように、この乗用車では、前述したフロントカメラ16、リアカメラ17、左サイドカメラ18、右サイドカメラ19からの撮影画像を前記モニタ7に表示することが可能な周辺認知制御ユニット30を備えている。この周辺認知制御ユニット30は、マイクロプロセッサやDSP(digital signal processor)等を有し、所定のソフトウエアが実行される表示ECUとして構成されている(制御形態は後述する)。
【0026】
モニタ7は、表示面にタッチパネルを備え、バックライトを備えた液晶式に構成されている。もちろん、プラズマ表示型のものやCRT型のものであっても良い。また、タッチパネルは、指などによる接触位置をロケーションデータとして出力することができる感圧式や静電式の指示入力装置である。モニタ7の下部にはモニタ7に表示すべき画像を人為的に設定するマニュアルスイッチ22が備えられ、この近傍にはスピーカ23を備えている。
【0027】
この乗用車は一般的なものと同様にシフトレバー10の設定により前後進の何れかの方向への走行が実現する。アクセルペダル8の操作で走行速度の調節が実現し、ブレーキペダル9の操作で減速が実現し、ステアリングホイール5の操作により操舵輪として機能する前車輪1の操向作動が実現する。
【0028】
運転座席3は、シートクッション3Aとシートバック3Bとを備えており、このシートクッション3Aとシートバック3Bとには、運転者D(図6を参照)が着座した際の圧力を検出する複数の荷重センサWSを備えている。この複数の荷重センサWSは、シートクッション3Aにおいて運転者Dの左右方向と前後方向とにおける荷重を計測できるように前部と後部と左部と右部との少なくとも4箇所に配置されている。シートバック3Bに対しても運転者Dの左右方向における荷重を計測できるように左部と右部との少なくとも2箇所に配置されている。
【0029】
右ドア14の内壁面には、運転者Dとの距離を計測する複数の近接センサ24を備え、ステアリングホイール5には運転者Dの把持位置と把持力とを計測する複数の感圧センサ25を備えている。
【0030】
近接センサ24は、静電容量型や、赤外線を用いた反射型の測距センサ等、非接触型のものが用いられ、ドア内面と運転者Dとの距離を計測する。感圧センサ25は感圧ゴムやストレインゲージ等で構成され、運転者Dがホイール部分を握る把持力と把持位置との情報を出力する。
【0031】
例えば、図7に示すように、駐車エリアPの近傍に車体Aを停止させて、駐車エリアPに車体を導入する際には、周辺認知制御ユニット30が運転座席3に着座する運転者Dの目視方向を推定する。この推定に基づいてフロントカメラ16、リアカメラ17、左サイドカメラ18、右サイドカメラ19の何れかからの撮影画像がモニタ7に表示され、運転者Dによる車体周辺の認知の支援を行える。この周辺認知制御ユニット30の制御構成、制御形態を以下に説明する。
【0032】
〔制御構成〕
図4に示すようにモニタ7に画像を表示する制御系が構成されている。この制御系では、周辺認知制御ユニット30に対して、ナビゲーションシステム21からのナビゲーション情報と、マニュアルスイッチ22の設定情報とが入力する情報取得系が形成されている。また、シフトレバー10のシフト位置を検出するシフト位置センサ10Sからのシフト位置情報と、フロントカメラ16・バックカメラ17・左サイドカメラ18・右サイドカメラ19夫々からの撮影画像とが入力する情報取得系が形成されている。更に、複数の荷重センサWSからの荷重情報と、複数の近接センサ24からの距離情報と、複数の感圧センサ25からの把持位置を含む圧力情報と、障害物検出手段として機能する複数の距離センサDSからの距離情報とが入力する情報取得系が形成されている。
【0033】
周辺認知制御ユニット30は、複数の荷重センサWSで荷重情報を取得し、近接センサ24の計測情報を取得し、感圧センサ25の圧力情報を取得する。周辺認知制御ユニット30では、取得した情報から運転座席3に着座した運転者Dの姿勢を判別し、この姿勢から更に、運転者が目視する方向を推定し、運転者Dの目視方向と異なる方向をモニタ7に表示する制御を行う。
【0034】
周辺認知制御ユニット30は、撮影画像取得手段31と、目視方向推定手段32と、障害物位置判定手段33と、表示対象設定手段34と、表示画像取得手段35と、表示領域抽出手段36と、表示対象決定手段37と、タイマ38と、表示画像出力モジュール39と、音声処理モジュール40とを備えている。
【0035】
撮影画像取得手段31は、フロントカメラ16・バックカメラ17・左サイドカメラ18・右サイドカメラ19夫々からの撮影画像を取得する。目視方向推定手段32は、複数の荷重センサWS・複数の近接センサ24・複数の感圧センサ25夫々からの情報の少なくとも1つを取得して運転者の目視方向を推定する。また、この目視方向推定手段32に対して推定の基準とする荷重分布や閾値等の情報を与える目視方向判定テーブル32Tを備えている。
【0036】
図面には示していないが、車体Aにはステアリングホイール5の回転操作角を取得する回転角センサが備えられ、目視方向推定手段32では、回転角センサで特定されるステアリングホイール5の回転操作角と、複数の感圧センサ25の圧力情報とに基づいて、運転者Dがホイール部分を握る把持位置と把持力とを特定する処理が行われる。
【0037】
障害物位置判定手段33は、複数の距離センサDSからの距離情報に基づいて障害物の位置を判定する。表示対象設定手段34は、外部からの情報あるいは内部で生成した情報に基づいてモニタ7に表示すべき対象を設定する。表示画像取得手段35は表示すべき撮影画像等を取得する。表示領域抽出手段36は、撮影画像から障害物B(図7を参照)が存在する一部の領域を切り出す処理を行う。
【0038】
表示対象決定手段37は、表示画像取得手段35で取得した撮影画像又は表示領域抽出手段36で切り出した撮影画像等を表示する処理を行う。表示画像出力モジュール39はモニタ7に対して画像を出力する処理を行う。この表示画像出力モジュール39はモニタ7に画像の表示形態を設定する情報を取得するレイアウトテーブル39Tを備えている。音声処理モジュール40は障害物位置判定手段33で検出した障害物Bと車体Aとの距離が設定値未満まで減少するとスピーカ23から警報音を出力する。
【0039】
これら、撮影画像取得手段31と、目視方向推定手段32と、障害物位置判定手段33と、表示対象設定手段34と、表示画像取得手段35と、表示領域抽出手段36と、表示対象決定手段37とはソフトウエアで構成されるものであるが、夫々をハードウエアで構成して良く、また、夫々をハードウエアとソフトウエアとの組み合わせによって構成しても良い。
【0040】
周辺認知制御ユニット30は、車体Aの走行方向や走行速度に拘わらず運転者Dの目視方向に基づいてモニタ7に表示すべき画像の自動設定を実現するものであるが、この実施形態では図7に示すように車体Aを駐車エリアPの近傍に停車させた状態で車体Aを後進させる場合の表示制御を説明する。
【0041】
〔表示制御〕
図5のフローチャートに示すように、シフト位置センサ10Sからの情報から車体Aの走行方向が後進でない(前進である)場合には、マニュアルスイッチ22の設定情報に基づいてナビゲーションシステム21から取得したナビゲーション情報又はフロントカメラ16・バックカメラ17・左サイドカメラ18・右サイドカメラ19の何れかから取得した撮影画像を表示対象にセットする(#101、#102ステップ)。
【0042】
また、シフト位置が後進(リバース)である場合には、リアカメラ17からの撮影画像が表示対象にセットされる。このセット状態で目視方向を推定し、この推定された目視方向が設定時間以上維持された場合にのみ、距離センサDSの距離情報を取得し、既に推定されている目視方向と異なる方向に存在する障害物B(図7を参照)が設定距離未満まで車体Aに接近したことを判定した場合にのみ、障害物Bを検出した領域の拡大画像を表示対象にセットする(#103〜#108ステップ)。
【0043】
次に、既に障害物Bが表示されている場合には目視方向の変更時間が設定値未満である場合には、障害物Bを表示対象にセットする。このようにセットされた表示対象はモニタ7に表示される(#109〜#111ステップ)。
【0044】
フローチャートには示していないが障害物Bを検出した場合には、音声処理モジュール40が生成した電子音がスピーカ23から出力されるので、運転者Dは音声によっても障害物Bの存在が把握できる。特に、音声処理モジュールは障害物Bを検出した際には必ず音声を出力するので、モニタ7に障害物Bが表示されない状況でも音声から障害物Bの存在を把握できる。
【0045】
つまり、#101、#102、#111ステップの処理として、車体Aを後進させない場合には、表示対象設定手段34がマニュアルスイッチ22の設定情報に基づいて表示対象をセットする。
【0046】
具体的には、表示対象としてはナビゲーションシステム21が生成したナビゲーション画面や、複数のカメラでの撮影された撮影画像が表示対象に設定され、このセットに基づいて表示画像取得手段35が表示すべき撮影画像を取得し、表示画像出力モジュール39がモニタ7に表示する。このような表示が行われる際には、レイアウトテーブル39Tに基づいて表示位置を設定することも可能であり、例えば、モニタ7の表示面を分割し、複数のカメラでの撮影された撮影画像を分割された表示面に表示できる。
【0047】
また、#103ステップの処理として、車体Aを後進させる状況にある場合には、モニタ7に対してリアカメラ17で撮影された後方撮影領域Baの撮影画像を表示する基本的な設定が表示対象設定手段34において行われる。このようにセットされた状態で障害物Bが検出されない場合には、#111ステップにおいて、リアカメラ17の撮影画像を表示画像取得手段35が取得し、図8に示すように撮影画像がモニタ7に表示される。
【0048】
尚、この図8のようにモニタ7に示される撮影画像は、ミラーによって後方を確認した際の像と整合させるため、左右が入れ替わった像となっている。また、モニタ7に表示される撮影画像には左右一対の車幅ラインYwと、5m(メートル)、3m、1mに対応した予想進路線Y1、Y2、Y3で成るガイドインジケータがスーパーインポーズの処理によって表示される。
【0049】
特に、#104、#105ステップの処理として、#103ステップで車体後方の撮影画像が表示対象にセットされている状況において、荷重センサWS、近接センサ24、感圧センサ25の少なくとも1つからの情報に基づいて目視方向推定手段32が運転者Dの姿勢に基づいて目視方向を推定する。
【0050】
この推定の一例を挙げると、車体Aを駐車エリアPに導入する際に、図6に示すように運転座席3に着座する運転者Dが右ドアミラー15を目視する場合や、直接的に車体Aに右後方を目視する場合には、運転者Dの体の重心が右側に移動し、体も傾斜する。このような理由から、荷重センサWSの荷重情報から体の姿勢の判別し、目視方向の推定が可能となる。これと同様に理由から、近接センサ24の検出値、及び、感圧センサ25の圧力情報から運転者Dの姿勢を判別し、目視方向の推定を実現している。
【0051】
目視方向判定テーブル32Tには、複数の荷重センサWSの荷重情報と目視方向との関係、複数の近接センサ24の計測値と目視方向との関係、複数の感圧センサ25の圧力情報と目視方向との関係夫々をデータ化して保存している。また、この目視方向判定テーブル32Tは、運転者Dが直接的に車外を目視した場合の目視方向だけを推定するだけではなく、運転者Dがミラーを介して車体Aの後方を目視した場合にも、車体Aの後方を目視していることを推定するように、ルームミラー11、左ドアミラー13、右ドアミラー15夫々の位置が記録されている。
【0052】
つまり、推定された目視方向がルームミラー11に向かっている場合には、運転者Dは車体Aの後方を目視して入ると見なす。これと同様に、推定された目視方向が左ドアミラー13に向かっている場合には、運転者Dは車体Aの左後方を目視して入ると見なす。また、推定された目視方向が右ドアミラー15に向かっている場合には、前述したように運転者Dは車体Aの右後方を目視して入ると見なす。
【0053】
これにより、目視方向判定テーブル32Tの情報に基づき複数の荷重センサWSの荷重情報と、複数の近接センサ24の距離情報と、複数の感圧センサ25の圧力情報との少なくとも1つに基づいて目視方向の推定を実現している。
【0054】
特に荷重センサWSの荷重情報を基本として、近接センサ24の距離情報と、感圧センサ25の圧力情報とのうちの少なくとも1つの情報も併せて参照することで目視方向の推定の精度を高めることが可能である。
【0055】
#105ステップのように、目視方向推定手段32によって推定された目視方向が設定時間(数秒程度)以上維持されたことをタイマ38からの情報に基づいて判別した状況において、#106、#107ステップの処理では、障害物位置判定手段33が距離センサDSの距離情報を取得する。そして、目視方向と異なる方向の障害物Bが検出された場合には、障害物Bを検出した領域の撮影画像の一部の拡大画像が表示対象にセットされる。
【0056】
本実施の形態では撮影画像の一部を拡大表示する処理を示しているが、複数の車載カメラの1つからの撮影画像を拡大せずにモニタ7に表示するように表示対象設定手段34の処理形態を設定しても良い。
【0057】
具体的な状況として、図6に示されるように運転者Dが右ドアミラー15を目視している場合や、車体Aの右後方を目視する場合において、図7に示すように、車体Aの左前部において障害物Bが検出された場合には、図11に示す画像がモニタ7に表示される。つまり、撮影画像取得手段31においてフロントカメラ16から図9に示す撮影画像を取得しており、左サイドカメラ18から図10に示す撮影画像(モニタ7の左側に表示されたもの)を取得している。尚、同図には右サイドカメラ19も併せてモニタ7に並列的に表示した状態を示している
【0058】
ここで、目視方向と異なる方向として、運転者Dが車体Aの右後方を目視している場合には、異なる方向として車体Aの左前部に存在する障害物Bを表示対象にセットした例を挙げたが、異なる方向として車体Aの右前部であっても、車体Aの左後部であっても、その位置に存在する障害物Bはモニタ7に表示されることになる。
【0059】
これらの撮影画像のうち、表示対象設定手段34が、図9、図10において破線で示す領域Eを表示対象にセットすることで、拡大画像が表示対象となる。このようにセットされた2つの拡大画像は#111ステップにおいて図11に示すようにモニタ7に並列的に表示される。このような並列的な表示はレイアウトテーブル39Tからのレイアウト情報に基づいて表示画像出力モジュール39が実現する。
【0060】
尚、障害物Bは地上に設置された非移動物に限るものではなく、車体Aに接近するバイクや人物等の移動物を含むものである。
【0061】
#109、#110ステップの処理は、障害物Bが表示対象に設定されている状況において、その障害物Bが既にモニタ7に表示されている場合には、目視方向の変更時間が設定値未満である場合、つまり、目視方向から視線をそらすことがあっても、そらす時間が短時間である場合には、障害物Bの拡大画像を表示対象にセットする状態が維持されることを意味している。
【0062】
つまり、短時間だけモニタ7を見ることや、短時間だけルームミラー11を見ることがあっても障害物Bの表示は継続することになる。
【0063】
この周辺認知制御ユニット30では、車体Aを後進させて駐車エリアPに導入する際には、障害物Bが検出されない限りモニタ7にはリアカメラ17からの撮影画像(図8を参照)が表示される。しかしながら、運転者Dの目視方向を推定し、推定された方向と異なる方向で障害物Bが検出された場合には、モニタ7に対して障害物Bを表示することにより、運転者Dに対して障害物Bの存在を視覚的に認識させ、接触を未然に回避できるものにしているのである。
【0064】
〔別実施の形態〕
本発明は、上記した実施の形態以外に以下のように構成しても良い。
【0065】
(a)表示対象設定手段は、障害物が検出されない状況において、運転者の目視方向と反対方向を表示するように単純な処理を行うように処理形態を設定しても良い。この場合、常に目視方向と反対方向を表示する表示形態でも良く、例えば、目視方向が後方である場合には、右前方や左前方等表示方向を予め設定できるように表示形態を設定しても良い。
【0066】
(b)例えば、縦軸芯周りにパーン作動自在で、ズームレンズを有する車載カメラを備え、表示対象設定手段が障害物の存在する領域をモニタに表示する対象に設定した場合には、車載カメラをパーン作動させて撮影領域の中央を障害物が存在する領域に向け、ズームレンズで撮影対象を拡大するように焦点距離の設定を行うように構成する。このように構成することにより、多数の車載カメラを備えずとも広範な領域の対象を拡大表示することも可能となる。
【0067】
(c)障害物検出手段が、複数の車載カメラの撮影画像の画像処理により立体物を抽出し、その立体物を障害物として認識し、車体との距離を計測できるように構成されたものであっても良い。このように構成した場合には、画像処理だけで障害物との距離を把握できるため超音波センサ等を備える必要がなく、部位点数の低減に繋がる。
【0068】
(d)車内のフロアー等に運転者の足(靴)からの圧力を検出する感圧センサを備え、この感圧センサの圧力情報も併せて目視方向を推定する処理に用いる。このように構成することにより、運転者の姿勢を明確に判定でき目視方向の推定精度を高めることが可能となる。
【産業上の利用可能性】
【0069】
本発明は、ナビゲーションシステムを備えず、車載カメラの撮影画像のみをモニタに表示するシンプルなシステムに利用することができる。
【符号の説明】
【0070】
3 運転座席
5 ステアリングホイール
7 モニタ
14 ドア(右ドア)
16 車載カメラ(フロントカメラ)
17 車載カメラ(リアカメラ)
18 車載カメラ(左サイドカメラ)
19 車載カメラ(右サイドカメラ)
25 感圧センサ
32 目視方向推定手段
34 表示対象設定手段
36 表示領域抽出手段
D 運転者
DS 障害物検出手段(距離センサ)
WS 荷重センサ
【特許請求の範囲】
【請求項1】
車両周辺を撮影する車載カメラと、この車載カメラで撮影された画像を表示するモニタとを備えると共に、
車両の運転座席に着座した運転者の姿勢から運転者が目視する方向を推定する目視方向推定手段と、
前記車載カメラで撮影された車体周辺の撮影画像のうち、前記目視方向推定手段で推定した目視方向と異なる方向となる車体周辺の撮影画像を前記モニタに表示する表示対象設定手段が備えられている周辺認知支援装置。
【請求項2】
車体外部に存在する障害物を検出する障害物検出手段を備え、前記表示対象設定手段は、前記目視方向と異なる方向において前記障害物検出手段で障害物が検出された領域の撮影画像を表示対象に設定する請求項1記載の周辺認知支援装置。
【請求項3】
前記目視方向推定手段が、前記運転座席に着座した運転者の荷重情報を取得する荷重センサを備えている請求項1又は2記載の周辺認知支援装置。
【請求項4】
前記目視方向推定手段が、前記運転座席に着座した運転者と、運転者近傍のドアとの距離情報を取得するように前記ドアに形成された近接センサを備えている請求項1又は2記載の周辺認知支援装置。
【請求項5】
前記目視方向推定手段が、ステアリングホイールを運転者が握る把持位置と把持力とを圧力情報として取得する感圧センサを備えている請求項1又は2記載の周辺認知支援装置。
【請求項6】
前記表示対象設定手段で設定された表示対象の撮影画像のうち、前記目視方向と異なる方向の画像を切り出して前記モニタに表示する表示領域抽出手段を備えている請求項1〜5のいずれか一項に記載の周辺認知支援装置。
【請求項7】
前記車載カメラが車体周辺の異なる領域を撮影するように複数備えられ、前記表示対象設定手段は、前記車載カメラで撮影された撮影画像のうち、前記目視方向と異なる方向の領域を撮影する車載カメラからの画像を選択してモニタに表示する請求項1〜5のいずれか一項に記載の周辺認知支援装置。
【請求項1】
車両周辺を撮影する車載カメラと、この車載カメラで撮影された画像を表示するモニタとを備えると共に、
車両の運転座席に着座した運転者の姿勢から運転者が目視する方向を推定する目視方向推定手段と、
前記車載カメラで撮影された車体周辺の撮影画像のうち、前記目視方向推定手段で推定した目視方向と異なる方向となる車体周辺の撮影画像を前記モニタに表示する表示対象設定手段が備えられている周辺認知支援装置。
【請求項2】
車体外部に存在する障害物を検出する障害物検出手段を備え、前記表示対象設定手段は、前記目視方向と異なる方向において前記障害物検出手段で障害物が検出された領域の撮影画像を表示対象に設定する請求項1記載の周辺認知支援装置。
【請求項3】
前記目視方向推定手段が、前記運転座席に着座した運転者の荷重情報を取得する荷重センサを備えている請求項1又は2記載の周辺認知支援装置。
【請求項4】
前記目視方向推定手段が、前記運転座席に着座した運転者と、運転者近傍のドアとの距離情報を取得するように前記ドアに形成された近接センサを備えている請求項1又は2記載の周辺認知支援装置。
【請求項5】
前記目視方向推定手段が、ステアリングホイールを運転者が握る把持位置と把持力とを圧力情報として取得する感圧センサを備えている請求項1又は2記載の周辺認知支援装置。
【請求項6】
前記表示対象設定手段で設定された表示対象の撮影画像のうち、前記目視方向と異なる方向の画像を切り出して前記モニタに表示する表示領域抽出手段を備えている請求項1〜5のいずれか一項に記載の周辺認知支援装置。
【請求項7】
前記車載カメラが車体周辺の異なる領域を撮影するように複数備えられ、前記表示対象設定手段は、前記車載カメラで撮影された撮影画像のうち、前記目視方向と異なる方向の領域を撮影する車載カメラからの画像を選択してモニタに表示する請求項1〜5のいずれか一項に記載の周辺認知支援装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−933(P2011−933A)
【公開日】平成23年1月6日(2011.1.6)
【国際特許分類】
【出願番号】特願2009−144465(P2009−144465)
【出願日】平成21年6月17日(2009.6.17)
【出願人】(000000011)アイシン精機株式会社 (5,421)
【Fターム(参考)】
【公開日】平成23年1月6日(2011.1.6)
【国際特許分類】
【出願日】平成21年6月17日(2009.6.17)
【出願人】(000000011)アイシン精機株式会社 (5,421)
【Fターム(参考)】
[ Back to top ]