障害物検知支援装置
【課題】車外の障害物の位置を、立体音声により使用者に報知する。
【解決手段】車両10の外部に設けられ、車両の周囲の状況を画像として取得するカメラ3F、3R・・と、車両に対して着脱自在に設けられた画像表示装置1Bと、画像表示装置1Bの位置を検出する位置検出装置7と、スピーカー2F、2Rを備え、位置検出装置7で検出された位置に基づいて、使用者の視点から画像表示装置1Bへ向かう延長線上の、車両周囲状況を、カメラ3F・・で取得した画像から切り出し、画像表示装置1Bのディスプレイに表示するとともに、取得された画像から障害物を検出し、該障害物の位置を立体音声によって、使用者に報知する。
【解決手段】車両10の外部に設けられ、車両の周囲の状況を画像として取得するカメラ3F、3R・・と、車両に対して着脱自在に設けられた画像表示装置1Bと、画像表示装置1Bの位置を検出する位置検出装置7と、スピーカー2F、2Rを備え、位置検出装置7で検出された位置に基づいて、使用者の視点から画像表示装置1Bへ向かう延長線上の、車両周囲状況を、カメラ3F・・で取得した画像から切り出し、画像表示装置1Bのディスプレイに表示するとともに、取得された画像から障害物を検出し、該障害物の位置を立体音声によって、使用者に報知する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、車両に搭載された障害物検知支援装置に係り、詳しくは、車体の透過画像を表示する障害物検知支援装置に関するものである。
【背景技術】
【0002】
従来、自動車の運転者が、車両の周囲を視認する際、車体自体の影となって視覚が遮られ、認識できない死角領域が、車両の周囲に存在する。従来では、運転操作の補助として死角領域をカメラ等の画像取得機器で取得し、画像を車内のモニタに映し出す構成が提案されている。例えば、車両後尾に、車両の後尾に近接した領域を映し出すカメラを設置し、後退時には自動的に車内モニタに後方の撮影画像が映し出される構成などが提案されている。
【特許文献1】特開2002−262280
【発明の開示】
【発明が解決しようとする課題】
【0003】
特許文献1に代表されるように、画像が映し出されるモニタは、車両側に固定されている。このため、肉眼で確認したい方向と、モニタの設置位置が一致しない場合には、肉眼で車外を確認し、かつモニタに顔を向けて死角領域を確認するといった煩わしい動作を行う必要がある。
例えば、車両後方の死角領域を映し出すバックモニタでは、後退時に後方を肉眼で確認するために、顔をバックシートの方向へ向けつつ操舵するとともに、死角領域の確認をする際には、運転席の前方に配置されたモニタを見る必要がある。この様に、後退時には、顔を前後に頻繁に向き直らせなければならず、かえって操作が煩雑になるといった問題がある。
【0004】
また、従来の装置ではモニタは固定されているので、運転者が見たいところを見るためには、本体やリモコンに設置されたジョイスティックやタッチパネル装置を用いてメニュー画面からカメラを切り替え、或は、カメラをパン・チルトさせるといった手段を取っていた。運転者はこれらの手段により、カメラ画像をスクロールさせ、或は、カメラ画像の切り替えを行う必要があり、運転者にとっては大変煩わしいものであった。
この発明は、車外の障害物の位置を、立体音声により使用者に報知することのできる障害物検知支援装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
以上のような問題を解決する本発明は、以下のような構成を有する。
(1) 車両の周囲を撮像する撮像手段と、
車両に対して着脱可能に設けられ、前記撮像した画像を表示する画像表示面を有するディスプレイと、
該ディスプレイの位置及び画像表示面の方向を検出する位置検出手段と、
前記検出したディスプレイの位置及び画像表示面の方向から前記ディスプレイの使用者位置を特定する使用者特定手段と、
車両周囲に存在する障害物の位置を検知する障害物検知手段と、
車両室内に、前記特定した使用者位置を基準位置として、前記検知した障害物の位置に対する方向から聞こえるように、障害物の存在を報知する報知音を出力制御する報知音出力制御手段と、を備えたことを特徴とする障害物検知支援装置。
【0006】
(2) 前記報知音出力制御手段は、前記検知した障害物の位置方向と、前記位置検出手段により検出したディスプレイの方向とが一致した場合に、方向が一致したことを報知する音を出力することを特徴とする請求項1記載の障害物検知支援装置。
【0007】
(3) 前記撮像手段が撮像した画像から、前記位置検出手段により検出した位置関係に基づき、基準点からディスプレイ上の延長線上に存在する車両周囲の画像を抽出する画像抽出手段と、
上記画像抽出手段に基づいて抽出された画像を前記ディスプレイに表示する表示手段と、をさらに有し、
前記報知音出力制御手段は、前記表示した画像中に、前記検知した障害物が存在する場合、障害物が表示画像中に存在することを報知する音を出力することを特徴とする請求項1または2記載の障害物検知支援装置。
【発明の効果】
【0008】
請求項1に記載の発明によれば、取り外し可能なディスプレイによって、車両の後退駐車時など、振り返って操舵するドライバの習性に合った、判り易い運転を補助する障害物検知支援装置とすることが出来る。特に、障害物検知手段により検知した障害物のある方向と、使用者特定手段により検出した基準位置とに基づき、基準位置に対する障害物の相対位置が、音により報知されるので、出力される音に導かれて、障害物のある方向が分かるものとなる。従って、感覚的に障害物の存在する方向を短時間で認識することができ、取り外し可能なディスプレイにより、聴覚的に認識された障害物の方向へディスプレイの方向を合わせることが容易となる。
【0009】
請求項2に記載の発明によれば、障害物検知手段により検知した障害物のある方向と、ディスプレイをかざした方向が一致したことが、特別な音パターンによって報知されるので、音の誘導によって容易に障害物の方向とディスプレイの方向を合致させることができる。
【0010】
請求項3に記載の発明によれば、基準位置からディスプレイの延長線上に存在する車両周囲の画像を抽出し、ディスプレイに表示することが出来るので、障害物検知手段により検知した障害物のある方向と、ディスプレイの方向が一致したことを特別な音声パターンによって報知することと組み合わせることで、音声の誘導によって簡単に障害物の方向を認識することが出来ると共に、その障害物が何であるのか画像情報を得ることが出来る。
【発明を実施するための最良の形態】
【0011】
次にこの発明の車外情報表示装置1の好適実施形態について説明する。本発明の車外情報表示装置1は、自動車に搭載され、画像取得装置1Aと画像表示装置1Bとを有している。図1は、画像取得装置1Aの構成を示すブロック図である。画像取得装置1Aは、車両2に取り付けられ車両の周囲を撮像する撮像手段である複数のカメラ3F、3R、3L、3B(図1中、カメラ3L、3Bは省略する)と、画像処理等の演算及び制御を行う演算処理装置4Aと、メモリ5Aと、画像表示装置1Bとの通信を行う通信装置61Aと、画像表示装置1Bの接続を行う接続部62Aと、これらの装置の通信を媒体するシステムバス11Aと、音声出力装置2とを備えている。
【0012】
カメラ3F、3R、3L、3Bは、図2に示されているように、車両10の側面に、外側に向けて設けられている。車両10において、カメラ3Fは車体前部中央に、カメラ3Bは、車体後部中央に、カメラ3Rは、車体右側面運転席側方に、カメラ3Lは、車体左側面運転席側方にそれぞれ設けられている。本実施形態での各カメラは、魚眼レンズであり、180°の画角を有している。側面に設けられたカメラ3R、3Lは、車体の中央部でなく、運転席の側方に設けられている。これは、本装置を使用するのは運転者であることが多いので、カメラ3R、3Lの撮影位置を、使用者(運転者)の視点位置に近づけるために、そのような位置としている。後述する視点変換処理をする際に、変換処理の負担が軽減されるとともに、変換後の画像の歪みも抑えることができるからである。
【0013】
カメラ3F、3R、3L、3Bは、それぞれ魚眼レンズを用いており、例えばCCD(Charge-Coupled Devices)により、光(画像)信号を電気信号に変換する構成を備えている。それぞれのカメラ3F、3R、3L、3Bは、A/D変換器31F、31R、31L、31Bを介してシステムバス11Aに各々接続される。カメラ3Fは、車両10の前方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Rは、車両10の右側方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Lは、車両10の左側方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Bは、車両10の後方にレンズの光軸を向け、その周囲の景色を画像として取得する。
【0014】
各カメラ3F、3R、3L、3Bから出力された画像信号は、A/D変換器31F、31R、31L、31Bによって、それぞれデジタル信号に変換される。また、接続されたカメラ3F、3R、3L、3Bが、デジタル信号出力が可能なものである場合には、A/D変換器31F、31R、31L、31Bには不要である。なお、本実施形態では、上述のように、撮像手段は、魚眼レンズを用いたカメラ4つを有しているが、車両の周囲360°の画像を取得できれば、どのようなカメラを用いても構わない。例えば、5つ以上の複数のカメラを、車両の外側に向けて設置してもよく、また、360°の画像を取得できるカメラを1つ用いてもよい。
【0015】
演算処理装置4Aは、中央処理装置[CPU(Central Processing Unit)]41Aと、リードオンリーメモリ[ROM]42Aと、ランダムアクセスメモリ[RAM]43Aとを備えている。中央処理装置41Aは、例えば、画像取込装置1Aと、画像表示装置1Bとの相対位置を演算し、或は、各カメラから取得された画像に基づいて、車体10周囲の360°画像を合成し、或は、合成した画像から画像表示装置1Bへ送る画像を切り取り(抽出し)、また、切り取った画像を使用者の視点位置に視点変換し、切り取った画像に、車両の輪郭を合成する、或は画像表示装置1Bとのデータの送受信などの処理及び演算を行う。また、取得された画像を原画像とし、駐車場の仕切り白線や黄色線等、障害物ではないと想定されるパターン画像データと比較し、非障害物パターンデータに一致しないものと障害物として判定する、といった障害物検出処理も行う。
ROM42には、例えば、中央処理装置41が画像処理を行うためのソフトウエア等が格納されており、RAM43は、例えば、各種画像処理等を行う場としてのワーキングエリアとして使用される。
【0016】
メモリ5Aは、各カメラ3F、3R、3L、3Bが撮影した画像を経時的に連続してそれぞれ記録するカメラ画像バッファ51F、51R、51L、51Bと、描画用画像バッファ52Aと、画像処理情報メモリ53Aと、車両情報記憶手段である車体データメモリ54Aと、ワークメモリ55Aと、音声データメモリ21Aと、音声パターンデータメモリ22Aとを備えている。
【0017】
描画用画像バッファ52Aには、カメラ画像に画像処理を施して生成した画像が保存される。画像処理情報メモリ53Aには、視点変換、歪み補正、合成等画像処理を実行するために必要な変数が保存される。例えば、GUIで構成されたメニュー画面等を介して設定値の入力や変更は適宜可能となっている。車体データメモリ54Aには、表示画像に重ねて、車体透過イメージを作るために必要な輪郭情報が格納されている。輪郭情報には、車体の輪郭やタイヤ位置等を表現した3Dモデリングデータまたは3Dに見えるように描かれたビットマップデータなどが保存されている。この車体データメモリ54Aに保存されるデータには、カメラ画像または画像処理後のカメラ画像と合成するために使用するマスクデータも含まれる。ワークメモリ55Aは、視点変換処理、歪補正処理、ワイヤーフレームの画像合成処理などの画像処理を行う場合のワーキングエリアとして使用される。
【0018】
音声データメモリ21Aには、障害物の位置を知らせる音声のトーン(例えば、男性の声、女性の声、機械的な声)や、音声以外の報知音(高さの異なる数種類の電子音等)が格納されている。音声パターンデータメモリ22Aには、障害物の位置を知らせる音声パターンが格納されている。例えば、「障害物が検出されました。」「ディスプレイ方向を右に向けて下さい。」「ディスプレイ方向と障害物の方向が一致しました。」等の案内音声パターンである。
【0019】
通信装置61Aは、画像表示装置1Bからのセンサデータ受信、画像表示装置1Bへの描画用画像データ送信を行う。通信手段としては、有線と無線があるが、無線の場合は、無線LAN(IEEE802.11a/b/g)、Bluetooth、赤外線(IrDA)、小電力FMトランスミッター、UWB(Ultra Wide Band)、スペクトラム拡散(SS)等が考えられる。
【0020】
接続部62Aは、接続端子を備え、画像表示装置1Bの接続部62Bに設けられた接続端子と接続するものである。画像表示装置1Bの接続部62Bと接続することによって、通信装置61Aと同様の作用をする。この接続部62Aは、例えば、画像表示装置1Bと接続するための保持位置として機能する。
【0021】
一方、画像表示装置1Bは、画像処理等の演算及び制御を行う演算処理装置4Bと、通信装置61Bと、接続部62Bと、メモリ5Bと、位置・角度検出装置7と、A/D変換装置71と、表示装置8と、D/A変換装置81と、これらの装置の通信を媒体するシステムバス11Bを有している。
【0022】
音声出力装置2は、車両10の車両室内に設けられ、音声を位相差出力する立体音声出力手段である少なくとも2以上のスピーカーを備える。本実施形態の場合、図3に示されているように、スピーカーは車両10の室内に4つ設けられている。車両10の室内において、スピーカー2Fは車体前部中央に、スピーカー2Bは車体後部中央に、スピーカー2Rは車体右側面運転席側方に、スピーカー2Lは車体左側面運転席側方にそれぞれ設けられている。このスピーカー2F、2B、2R、2Lの配置は、カメラ3F、3R、3L、3Bの配置位置に対応させて、略同じ位置となっている。このような位置にスピーカーを配置することによって、カメラの配線とスピーカーの配線を束ねることができ、カメラとスピーカーの取り付け作業が容易となる。さらに、カメラとスピーカーを一体化し、単一のユニットと(集合体)とすることによって、組立作業が容易となる。
【0023】
この他、車内の4隅にスピーカーを設けることもできる。通常、車両に搭載されているオーディオ装置は、複数のスピーカーを有しているので、車両に搭載しているオーディオ装置のスピーカーと兼用して用いてもよい。
本実施形態では、図3に示されているように、音声出力装置2はスピーカーを4つ有しているものである。が、障害物のある方向がある程度分かるように最低2つ、例えば、車体中央前後部もしくは車体中央左右側方にスピーカー設けられるものとしても良い。勿論、障害物のある方向がより細かく分かるように、例えば、後部座席左右側方にもそれぞれスピーカーを設け、合計6つのスピーカーから構成されるようにしても良い。
【0024】
スピーカーが2つの場合には、図示されているように、運転席の左右側に配置する(2R、2L)ことによって、障害物の左右方向の位置を把握することができる。そして、前後方向の位置は、報知音の音質(音の高低、発信音の間隔、リズムの違い、メロディの違い)の違いにより、分けて報知することにより、運転者に知らせることができる。例えば、音が高い場合には、前側に障害物があり、低い場合には、後ろ側に障害物があることを意味する。或は、車の進行方向に障害物がある(障害物が近づいている)場合には、報知音を高く、車の進行方向の反対側に障害物がある場合には(障害物が離れている)場合には、報知音を低くすることもできる。また、音声により、車両の前側か、後ろ側かを、案内してもよい。更に、スピーカーを1つ設けた場合には、音声案内によって、障害物の方向を知らせることもできる。例えば、「2時の方向に障害物がある。」「7時方向に障害物がある」等のように案内することができる。
【0025】
図4は、画像表示装置1Bの構成を示すブロック図である。
演算処理装置4Bは、中央処理装置[CPU(Central Processing Unit)]41Bと、リードオンリーメモリ[ROM]42Bと、ランダムアクセスメモリ[RAM]43Bとを備えている。中央処理装置41Bは、例えば、位置・角度検出装置7からの位置と角度のデータ等(センサデータ)をメモリ5Bへ書き込みおよび演算、データ送受信の制御、画像の描画等を行う。通信装置61Bは、画像取込装置1Aへのセンサデータ送信、画像表示装置1Aからの描画用画像データ受信を行う。接続部62Bは、接続端子を備え、画像取得装置1Aの接続部62Aに設けられた接続端子と接続することによって、通信装置61Bと同様の作用をする。
【0026】
本願発明の位置検出手段および角度検出手段である位置・角度検出装置7は、画像表示装置1Bの基準点からの位置および角度を検出する。位置・角度検出装置7は、ジャイロセンサ、加速度センサ、地磁気センサ等により構成される。これらのセンサは画像取得装置1Aと画像表示装置1Bとの相対距離(位置関係)及び相対角度(方向)を算出するために用いるものであり、相対距離及び相対角度を算出できるものであれば、上述のセンサのうち1つの使用でも複数の使用でもかまわない。さらに、本発明は上述のセンサに限られるものではなく、相対距離及び相対角度を検出できるものであれば、どのようなセンサを用いてもかまわない。
【0027】
ジャイロセンサ、地磁気センサによって、画像表示装置1Bの向きが検出され、加速度センサによって移動距離や角度(仰角・俯角)が検出される。さらに、車内に設けられた3つの測量点から、電波・超音波等によって画像表示装置1Bの位置を三点測量し、位置検出する方法などが採られる。具体的には、上記センサ類による位置検出と、三点測量による位置検出とを複合的に用いて、位置検出が行われる。この位置検出の演算は、センサ類が検出したデータに基づく演算及び三点測量による演算は、画像取得装置1Aの中央処理装置1Aで行われる。さらに、画像表示装置1Bの姿勢は、GPSや電波測量と同じように、画像表示装置1B側の、同一直線状に存在しない3点の位置をそれぞれ検出することによっても、検出することができる。
【0028】
上記三点測量による場合、車内に設けられる3つの測量点を、例えば、4つのスピーカーの内の3つの位置の近傍にもうけることができる。このように、スピーカー位置の近くに設けることによって、超音波発信機等の測量機器の配線とスピーカーの配線を束ねることができ、測量機器とスピーカーの取り付け作業が容易となる。さらに、測量機器とスピーカーを一体化し、単一のユニットと(集合体)とすることによって、組立作業が容易となる。これは、同様に、測量点をカメラが配置されている4箇所の内、3箇所の近傍に測量機器を設けても同様であり、また、カメラ、スピーカー及び測量機器をユニット化することにより、より一層組立て作業の効率化を図ることができる。
【0029】
A/D変換器71は、アナログ出力であるセンサ出力を中央処理装置1Bが扱えるようにデジタルデータに変換する。なお、位置・角度検出装置7からの出力が予めデジタル出力の場合には、A/D変換器71は不要である。
【0030】
本発明の表示手段である表示装置8は、受信した描画用画像データを表示する。表示装置8は、ディプレイ画面を備え、ディスプレイ画面は、例えば液晶パネルやELパネル等が用いられる。D/A変換器81は、表示装置8がアナログ入力の場合、中央処理装置1Bが扱うデジタルデータをアナログデータに変換する。表示装置8がデジタル入力対応であれば不要となる。メモリ5Bは、センサデータや受信した画像データのバッファリングに用いられる。
【0031】
以上のように構成された本発明の車外情報表示装置1の作用について、図5に示されているフローチャートに基づき説明する。
システムが起動すると、まず画像取込装置1A及び画像表示装置1Bの初期化処理が行われる(ステップS101、S201)。システム起動は、イグニッションON、スイッチ操作等によって行われ、シフトポジションや車速に応じて動作するといった動作制限を設けても良い。或は、車両の方向を転換する予備動作として行われる動作を検出して、システムが起動する構成としてもよい。また、画像表示装置1Bを保持位置(接続部62A)から離脱させた場合に、即ち、接続部62Aと接続部62Bの接続が切り離された場合に、システム起動する構成としてもよい。
【0032】
画像取込装置1Aの初期化処理としては、カメラ電源のオンや明るさ・コントラスト設定等のカメラの初期化を行い、画像取込のための準備を行う。また、画像処理に必要となるパラメータを、メモリ5Aに格納されたデフォルト値を読み出し、或はユーザー入力を促す等の方法で設定する。また、画像表示装置1Bの初期化処理としては、位置・角度検出のために用いるセンサ類の初期化が行われ、測定基準点は、保持位置に設定される。
【0033】
画像表示装置1Bであるディスプレイが、画像取込装置1Aから取り外されたか判断する(ステップS103、S202)。取り外された場合には、接続部62Bと接続部62Aとの接続が切り離され、以後、画像取込装置1Aの通信装置61Aと、画像表示装置1Bの通信装置61Bとの間で通信が行われ、データの授受がなされる。即ち、取り外された場合には、通信回線が確立され、回線が接続される(ステップS105、S203)。
【0034】
回線が確立すると、画像表示装置1Bでは、位置・角度検出装置7により画像表示装置1Bの位置・角度の情報を取得する(ステップS205)。取得される値は、ディスプレイ画面の仰角又は俯角、画面の向き(車に対しての水平方向の回転角度)、移動距離等に関する値である。取得されたデータは、通信装置61Bを介して、画像取込装置1Aに送信される(ステップS207)。画像取込装置1A側では、通信装置61Aを介して、画像表示装置1Bから送信されたセンサデータを受信する(ステップS107)。受信するセンサデータには、ジャイロセンサによって検出されるディスプレイ画面の角度(仰角又は俯角)、及び画面回転角(車両に対しての水平方向の回転角度)に関するデータ、地磁気センサによってディスプレイ画面の方向(ディスプレイ画面に垂直な直線を水平面内に投影した線L1(図6)の向きに関するデータ、などがある。
【0035】
画像取込装置1A側では、各カメラから画像取込を開始する(ステップS105)。取込まれた画像データはメモリ5Aに確保されたバッファ51F、51R、51L、51Bに随時格納される。
【0036】
ステップS107において受信されたデータに基づいて、画像抽出処理が行われる(ステップS111)。この画像抽出処理は、図7に示されているサブルーチンに基づき説明する。位置・角度検出装置7に基づき、3点測量により画像表示装置1Bの3次元位置を検出する(ステップS301)。画像表示装置1Bの3次元位置は、図6に示されているように、画像表示装置1Bの保持位置101を起点(X,Y,Z=0,0,0)として、ステップS107で受信した画像表示装置1Bの位置・角度検出装置7からの位置の情報、または三点測量等を用いて相対位置を算出することによって、位置特定される(X,Y,Z=x1,y1,z1)。このステップS301によって位置検出手段が構成される。起点は、保持位置でなくとも良く、車内空間の4隅のいずれか、車内空間の中央、ハンドルの位置、運転手の視点位置、バックミラーの位置等、いずれでもよい。
【0037】
また、画像表示装置1Bに設けられたジャイロセンサや加速度センサ、地磁気センサからの値に基づいて、画像表示装置1Bの姿勢が特定される(ステップS302)。姿勢とは、画像表示装置1Bのディスプレイ画面の向いている方向であり、この姿勢の特定によって、ディスプレイ画面の仰角又は俯角(傾き)及び回転角が特定される。ステップS301、S302によって、位置検出手段が構成される。
【0038】
ステップS301及びステップS302で決定された位置及び姿勢から視点位置を特定する(ステップS303)。この実施形態では、視点位置は、各座席毎に予め定められており、視点位置としての座標が画像処理情報メモリ53に記憶されている。例えば、運転席111には、視点位置E1が予め座標(xe1,ye1,ze1)として記憶されている。助手席112には、視点位置E2が座標(xe2,ye2,ze2)として、その他3人掛けの後部座席113には、視点位置E3、E4、E5が、座席114には、視点位置E6、E7、E8がそれぞれ予め決められており、それぞれ固有の座標が記憶されている。そして、各視点位置に応じた領域が予め定められており、どの領域内に画像表示装置1Bが含まれているかを判断し、その領域に対応した視点位置が決定される。
【0039】
この領域は、各座席毎に設定され、座席の第1列目の背もたれよりも前方側の領域であって、運転席と助手席に対応した領域、この領域には、視点位置E1、E2がそれぞれ対応している。
第2列目の座席113の背もたれと、第1列目の座席111、112の背もたれとの間に設けられた領域であって、乗車する人間が座る位置に応じて設けられた3つの領域には、視点位置E3、E4、E5がそれぞれ対応している。
第3列目の座席114の背もたれと、第2列目の座席113の背もたれとの間に設けられた領域であって、乗車する人間が座る位置に応じて設けられた3つの領域には、視点位置E6、E7、E8がそれぞれ対応している。
【0040】
そして、各領域の境目に画像表示装置1Bが位置する場合には、表示装置であるディスプレイ8が表示する側にある視点位置が選択される。このような作用を有するステップS303によって、視点位置特定手段が構成される。このように、画像表示装置1Bの位置と、姿勢が特定されると、視点位置が決定される。この実施形態では、運転席の運転手の視点位置E1となる。また、視点位置が特定されることによって、使用者の位置も同時に特定されることとなるので、ステップS303により、使用者特定手段が構成される。
【0041】
視点位置の特定方法として、既述のように、予め座席位置に応じた視点位置の座標を決めておき、これを記憶しておく構成の他、位置特定された画像表示装置1Bのディスプレイ画面8の中心を通る垂直線(軸線)上に位置し、ディスプレイ画面8から所定の距離(例えば、35〜50cm程度の範囲内で予め定められた距離)離れて位置する点を視点位置と想定し、その位置の座標を算出する方法を摂ってもよい。さらに他の方法としては、ディスプレイ画面8が設けられている側において、画像表示装置1Bに最も近い視点位置を、8つの視点位置の中から選択する方法としてもよい。
【0042】
以上のとおり、視点位置E1が特定されると、該視点位置E1と、ディスプレイの中央部とを結ぶ直線が特定され、この直線の延長線上において、視点位置E1からディスプレイ8へ向かう方向が、画像を取得する方向として特定される(ステップS304)。このステップS304によって方向検出手段が構成される。
【0043】
次に、視点位置E1とディスプレイ8とを結ぶ直線を平面に投影した場合の直線L1と、車両の軸線(Y軸)との成す角α(回転角)を算出する(ステップS305)。ステップS302及びステップS305により本願発明の角度検出手段が構成される。
次に、角度αに基づき、抽出画像を抽出する画像を取り込むカメラを選択する(ステップS307)。このステップS307によって、選択手段が構成される。
【0044】
角度αについては、図2に示されているように、カメラレンズの光軸の交差点を中心として、前方を0°後方を±180°、左方向をマイナス値、右方向をプラス値と設定する。そして、- 25°<α< 25°の場合には、前方カメラ3F、-160°<α<-25°の場合には、左側方カメラ3L、25°<α<160°の場合には、右側方カメラ3R、-160°<α<-180°の場合又は160°<α<180°の場合には、後方カメラ3Bを選択する。このように、切り出す画像の領域、車両の側面のカメラ3R、3Lで取得された画像がより広く、車両の前後のカメラ3F、3Bで取得された画像が狭く構成されている。車両に並走する自転車やオートバイを捕えるためには、側面のカメラの画像が有用であるからである。換言すると、側面のカメラ3R、3Lを原則として用い、これらのカメラで捕えられない領域、即ち、真正面、真後などの領域では、前方に設けられたカメラFと後方に設けられたカメラBを用いる。
【0045】
この他、ステップS307によって構成さる選択手段の他の実施形態として、撮像方向に向けられたカメラレンズの光軸(ベクトル)と、特定された視点位置から画像表示装置1Bへ向かう延長線(ベクトル)との交差角度が、最も小さいカメラを選択する構成としてもよい。カメラの光軸と視線とが最も平行に近いカメラが選択されるので、視点変換された画像の歪みが抑制され、より鮮明な画像を得ることができる。このような選択方法は、魚眼レンズを有さないカメラを多数設け、これらのカメラ画像を繋ぎ合わせて画像を構成する場合に特に有用である。
【0046】
さらに、その他の方法として、直線L1が、車体の側面の輪郭線と交差する場合には、側面に設けられたカメラ3R、3Lを選択し、車体の正面の輪郭と交差する場合には、正面のカメラ3Fを選択し、車体の背面の輪郭と交差する場合には、背面のカメラ3Bを選択する構成としてもよい。また、ステップS305によって検出された角度αではなく、車両に対するディスプレイの向いている方向のカメラを選択する構成としてもよい。
【0047】
次に、選択されたカメラの魚眼画像内において、抽出する画像の抽出位置を決定する(ステップS309)。図8に示されているように、選択されたカメラ画像(魚眼画像Pc1)から、抽出画像Pc2を決定する。具体的には、カメラ選択に使用した角度αを魚眼画像Pc1の横方向の座標に変換する。魚眼画像の縦方向の座標については、画像表示装置の仰角または俯角に対応させる。例えば、α=-70°、センサの俯角データが-20°であれば、魚眼画像内の位置では、水平方向20°(=90°−70°)、垂直方向-20°となる。(ただし、魚眼画像の中心を0°とし、中心から右・上方向を+値、左・下方向を−値とした場合。)
このようにして抽出される画像の中心点P0が決定される(ステップS309)。そして、この中心点P0を中心とした抽出画像Pc2が抽出される(ステップS311)。このステップS301〜S311によって、画像抽出手段が構成される。
【0048】
次に、抽出された画像の画像処理が行われる(ステップS113)。図9は、ステップS113の画像処理の内容を示すサブルーチンである。抽出画像Pc2に正像変換処理を行うことで、歪みを補正する(ステップS401)。次に視点変換処理(ステップS403)を行い、車体データを合成する画像合成処理(ステップS405)を行う。
【0049】
ステップS303において決められた視点位置(図6においては、運転車の視点位置E1)が基準点とされる。この視点位置に基づき、ステップS401で処理された画像を、アフィン変換により、カメラ視点の画像から決められた視点位置からの視点画像になるように画像処理する(ステップS403)。これにより、取得された画像が、特定された視点位置から見た場合の画像に変換される。このステップS403によって視点変換手段が構成される。
【0050】
以上のように視点変換処理を行った後、画像合成処理を行う(ステップS405)。図10は、画像合成処理の内容を示すフローチャートである。車体データメモリ54に格納されている車体輪郭データ、タイヤ設置位置データ等を読み出す(ステップS501)。これらのデータは、車体輪郭やタイヤなどを、画面に映し出す画像化するために必要なデータである。これらのデータを用いて、ステップS301〜309で得られた画像抽出方向のデータに基づき、ステップS311で抽出される画像と同じ視線方向の車体輪郭画像を生成する(ステップS503)。
【0051】
車体輪郭画像とは、具体的には、例えば、車体の輪郭を示すワイヤーフレーム画像、或は、車体内部を映した半透明画像などがある。これらの画像は、車体全部を表している必要はなく、車体の一部であってもよい。車体と外部状況との位置関係が把握できる程度のものでよい。例えば、窓枠、車輪、テールランプ、ヘッドランプなどの内の1つ又は2つ以上のワイヤーフレーム(又は、半透明画像)でもよい。
【0052】
生成された車体輪郭画像について、ステップS403で決定された視点位置に基づき、視点変換処理を行う(ステップS505)。変換方法は、ステップS403で行った変換方法と同様である。ステップS501〜S505によって、輪郭形成手段が構成される。
【0053】
また、輪郭形成手段は、上記ワイヤーフレームの画像を各使用者毎(座席毎)に格納されていてもよく、その場合には、ステップS303にて特定された使用者(視点位置)に応じたワイヤーフレームを読み込み合成する。こうすることにより画像処理負荷を軽減することが可能である。
【0054】
ステップS505で得られた車体輪郭画像を、視点変換処理(ステップS403)が終了した、車外画像に合成する(ステップS507)。このように合成された画像は、車体の輪郭が把握できるとともに、車体を透視して視認できる車外状況が同時に把握できる画像である。ステップS507によって、画像合成手段が構成される。
【0055】
上記画像処理におけるステップS401〜S405は、必ずしも上記順番で行われる必要はなく、これらの3つの処理が行われるのであれば、処理の順番は、特に限定されない。例えば、視点変換、画像合成をした後、正像変換してもよく、最初又は最後に視点変換を行ってもよい。
【0056】
次に、障害物位置検出処理が行われる(ステップS115)。この処理は車両周囲に存在する障害物を、カメラ3F、3R、3L、3Bから取得された画像に基づいて検出する処理である。ステップS109で取り込んだ画像を原画像として使用する。また、予めテンプレートとして、駐車場の仕切り白線や黄色線等障害物ではないと想定されるパターン画像のデータを、メモリ54Aなどに記憶されている。取り込んだ原画像を複数のブロックに分割し(ステップS601)、分割したブロック中を解析する(ステップS603)。即ち、分割したブロックの中に、上記予め記憶されているテンプレートの非障害物パターンデータに類似あるいは一致するパターンが存在するか判断する(ステップS605)。
【0057】
非障害物と一致しないパターンが存在しない場合には、リターンされる。存在した場合、それは障害物である可能性がある。その擬似障害物は連続したエッジの切り出し処理により、その大きさと形状、位置を特定する(ステップS607)。ステップS607で特定された大きさ、形状、位置に基づいて、さらに擬似障害物が、真性障害物であるか判断する(ステップS609)。例えば車両の駐車を妨げない程度の大きさ(数十センチメートル以下)のものであれば、ゴミとして無視する等、障害物認識としての精度を高める。また、障害物の位置が、車両の進行方向に対して逆側に位置する場合、車両の進行の障害にならないので、障害物と判定しない。なお、障害物と判定されなかった場合には、リターンされる。ステップS601〜S609によって、障害物検知手段が構成される。
【0058】
障害物であると判定された場合には、障害物の位置と、取り外した画像表示装置1Bの保持者との相対位置を計算する(ステップS611)。計算された相対位置に基づき、保持者に対して、障害物の存在する方向から音が聞こえるように特定の報知音を、スピーカーから発する(ステップS612)。即ち、左右のスピーカー2R、2Lの位相差出力によって、障害物の左右方向の位置が特定され、前後のスピーカー2F、2Bの位相差出力によって、前後方向の位置が特定される。即ち、4つのスピーカー2F、2B、2R、2Lから発せられる音によって合成される立体音(又は音声)によって、障害物の位置が聴覚により把握することができる。ここで、スピーカー2F、2B、2R、2Lから発せられる音は、既述の通り、電子音や、音声などである。
【0059】
画像表示装置1Bの向きと、ステップS611で特定された障害物の位置が一致しているか、判断する(ステップS613)。即ち、図6に示されているように、画像表示装置1Bの軸線L1上に障害物が位置しているか否かを判断する。一致していない場合には、相対位置から計算した位相差を元に立体音声の警告を出力する(ステップS615)。
【0060】
つまり、画像表示装置1Bの向きを、障害物が位置している向きに向けるように、誘導する音声を出力する。例えば、「右方向に向けてください」「もう少し右です。」などである。或は、音声を用いない場合には、間欠的に発せられる音により障害物の位置と画像表示装置1Bの向きを一致させるように導く構成としてもよい。例えば、一定の間隔で音を発生させ(例えば、「ピーピーピー・・・・」)、画像表示装置1Bの向きが、障害物の位置に近づくに従って、音が発生する間隔を短く(例えば「ピ、ピ、ピ・・・・」)変化させる。保持者は、音の間隔が短く変化するに従って、向きが障害物に近づいていることを知ることができる。そして、障害物の位置に向きが合致した場合には、「ピーーー」といった、連続音に変化させ、或は音の音色を変化させる。この音の変化によって、使用者は、画像表示装置1Bが障害物の方向に合致いてることを知ることができ、換言すると、ディスプレイ画面8内に障害物が映し出されていることを知ることができる。
【0061】
一方、画像表示装置1Bの向きと、ステップS611で特定された障害物の位置が一致している場合には、その旨を報知音により保持者に知らせる(ステップS617)。具体的には、発せられる音の音質やメロディを変える。或は、音声により報知する。音声の例としては、「障害物が映し出されています」などである。上記ステップS611〜S617及び音声出力装置2によって、報知音出力制御手段が構成される。
【0062】
以上のように生成された描画データを、通信装置61Aを介して、画像表示装置1Bへ送信する(ステップS117)。画像表示装置1Bでは、画像取込装置1Aから送信された描画データを通信装置61Bを介して受信する(ステップS209)。受信した描画データをディスプレイ画面8に画像表示する(ステップS211)。このステップS211によって表示手段が構成される。図12に示されているように、ディスプレイ画面8に表示された画像82は、そのディスプレイ画面8を見ている使用者にとっては、その視線の延長線上にある車外画像に、車体の輪郭Bdが重ねて表示されたものである。つまり、車体によって死角となっている車外の状況を把握することができ、かつ、車体との位置関係も把握することが容易となる。
【0063】
その後、画像取込装置1A及び画像表示装置1Bともに、終了トリガーが検出されたか判断する(ステップS119及びS213)。終了トリガーには、スイッチのOFF操作、イグニッションスイッチのOFF、シフトポジションや車速が予め定められた動作条件からはずれた場合、或は、画像表示装置1Bの保持位置(接続部62A)へのセット等がある。これらの動作があった場合には、画像取込装置1Aと画像表示装置1Bとの通信は必要がなくなったものとして、通信装置61Aと通信装置61Bと通信回線は絶たれる(ステップS121及びS215)。
【0064】
終了トリガーが検出されない場合には、画像取込装置1Aでは、ステップS107へ、画像表示装置1Bでは、ステップS205へ、それぞれリターンされ、画像表示動作が継続される。
既述のように、画像表示装置1Bは、保持位置に対して着脱自在に構成されている。そして、保持位置に固定された状態では、より鮮明な画像を画像表示面に表示することができるとともに、画像表示装置1Bのみを、他の装置の表示画面として用いることもできる。
【図面の簡単な説明】
【0065】
【図1】画像取込装置の構成を示すブロック図である。
【図2】カメラ取り付け位置を示す、車両の平面図である。
【図3】車内のスピーカー取り付け配置を示す模式図である。
【図4】画像表示装置の構成を示すブロック図である。
【図5】フローチャートである。
【図6】車内の座席配置を示す模式図である。
【図7】画像抽出処理の内容を示すフローチャートである。
【図8】魚眼レンズの画像図である。
【図9】画像処理の内容を示すフローチャートである。
【図10】画像合成処理の内容を示すフローチャートである。
【図11】障害物位置検出処理の内容を示すフローチャートである。
【図12】表示画像図である。
【符号の説明】
【0066】
1A 画像取込装置
1B 画像表示装置
2F、2R、2L、2B スピーカー
3F、3R、3L、3B カメラ
8 表示装置(ディスプレイ画面)
【技術分野】
【0001】
この発明は、車両に搭載された障害物検知支援装置に係り、詳しくは、車体の透過画像を表示する障害物検知支援装置に関するものである。
【背景技術】
【0002】
従来、自動車の運転者が、車両の周囲を視認する際、車体自体の影となって視覚が遮られ、認識できない死角領域が、車両の周囲に存在する。従来では、運転操作の補助として死角領域をカメラ等の画像取得機器で取得し、画像を車内のモニタに映し出す構成が提案されている。例えば、車両後尾に、車両の後尾に近接した領域を映し出すカメラを設置し、後退時には自動的に車内モニタに後方の撮影画像が映し出される構成などが提案されている。
【特許文献1】特開2002−262280
【発明の開示】
【発明が解決しようとする課題】
【0003】
特許文献1に代表されるように、画像が映し出されるモニタは、車両側に固定されている。このため、肉眼で確認したい方向と、モニタの設置位置が一致しない場合には、肉眼で車外を確認し、かつモニタに顔を向けて死角領域を確認するといった煩わしい動作を行う必要がある。
例えば、車両後方の死角領域を映し出すバックモニタでは、後退時に後方を肉眼で確認するために、顔をバックシートの方向へ向けつつ操舵するとともに、死角領域の確認をする際には、運転席の前方に配置されたモニタを見る必要がある。この様に、後退時には、顔を前後に頻繁に向き直らせなければならず、かえって操作が煩雑になるといった問題がある。
【0004】
また、従来の装置ではモニタは固定されているので、運転者が見たいところを見るためには、本体やリモコンに設置されたジョイスティックやタッチパネル装置を用いてメニュー画面からカメラを切り替え、或は、カメラをパン・チルトさせるといった手段を取っていた。運転者はこれらの手段により、カメラ画像をスクロールさせ、或は、カメラ画像の切り替えを行う必要があり、運転者にとっては大変煩わしいものであった。
この発明は、車外の障害物の位置を、立体音声により使用者に報知することのできる障害物検知支援装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
以上のような問題を解決する本発明は、以下のような構成を有する。
(1) 車両の周囲を撮像する撮像手段と、
車両に対して着脱可能に設けられ、前記撮像した画像を表示する画像表示面を有するディスプレイと、
該ディスプレイの位置及び画像表示面の方向を検出する位置検出手段と、
前記検出したディスプレイの位置及び画像表示面の方向から前記ディスプレイの使用者位置を特定する使用者特定手段と、
車両周囲に存在する障害物の位置を検知する障害物検知手段と、
車両室内に、前記特定した使用者位置を基準位置として、前記検知した障害物の位置に対する方向から聞こえるように、障害物の存在を報知する報知音を出力制御する報知音出力制御手段と、を備えたことを特徴とする障害物検知支援装置。
【0006】
(2) 前記報知音出力制御手段は、前記検知した障害物の位置方向と、前記位置検出手段により検出したディスプレイの方向とが一致した場合に、方向が一致したことを報知する音を出力することを特徴とする請求項1記載の障害物検知支援装置。
【0007】
(3) 前記撮像手段が撮像した画像から、前記位置検出手段により検出した位置関係に基づき、基準点からディスプレイ上の延長線上に存在する車両周囲の画像を抽出する画像抽出手段と、
上記画像抽出手段に基づいて抽出された画像を前記ディスプレイに表示する表示手段と、をさらに有し、
前記報知音出力制御手段は、前記表示した画像中に、前記検知した障害物が存在する場合、障害物が表示画像中に存在することを報知する音を出力することを特徴とする請求項1または2記載の障害物検知支援装置。
【発明の効果】
【0008】
請求項1に記載の発明によれば、取り外し可能なディスプレイによって、車両の後退駐車時など、振り返って操舵するドライバの習性に合った、判り易い運転を補助する障害物検知支援装置とすることが出来る。特に、障害物検知手段により検知した障害物のある方向と、使用者特定手段により検出した基準位置とに基づき、基準位置に対する障害物の相対位置が、音により報知されるので、出力される音に導かれて、障害物のある方向が分かるものとなる。従って、感覚的に障害物の存在する方向を短時間で認識することができ、取り外し可能なディスプレイにより、聴覚的に認識された障害物の方向へディスプレイの方向を合わせることが容易となる。
【0009】
請求項2に記載の発明によれば、障害物検知手段により検知した障害物のある方向と、ディスプレイをかざした方向が一致したことが、特別な音パターンによって報知されるので、音の誘導によって容易に障害物の方向とディスプレイの方向を合致させることができる。
【0010】
請求項3に記載の発明によれば、基準位置からディスプレイの延長線上に存在する車両周囲の画像を抽出し、ディスプレイに表示することが出来るので、障害物検知手段により検知した障害物のある方向と、ディスプレイの方向が一致したことを特別な音声パターンによって報知することと組み合わせることで、音声の誘導によって簡単に障害物の方向を認識することが出来ると共に、その障害物が何であるのか画像情報を得ることが出来る。
【発明を実施するための最良の形態】
【0011】
次にこの発明の車外情報表示装置1の好適実施形態について説明する。本発明の車外情報表示装置1は、自動車に搭載され、画像取得装置1Aと画像表示装置1Bとを有している。図1は、画像取得装置1Aの構成を示すブロック図である。画像取得装置1Aは、車両2に取り付けられ車両の周囲を撮像する撮像手段である複数のカメラ3F、3R、3L、3B(図1中、カメラ3L、3Bは省略する)と、画像処理等の演算及び制御を行う演算処理装置4Aと、メモリ5Aと、画像表示装置1Bとの通信を行う通信装置61Aと、画像表示装置1Bの接続を行う接続部62Aと、これらの装置の通信を媒体するシステムバス11Aと、音声出力装置2とを備えている。
【0012】
カメラ3F、3R、3L、3Bは、図2に示されているように、車両10の側面に、外側に向けて設けられている。車両10において、カメラ3Fは車体前部中央に、カメラ3Bは、車体後部中央に、カメラ3Rは、車体右側面運転席側方に、カメラ3Lは、車体左側面運転席側方にそれぞれ設けられている。本実施形態での各カメラは、魚眼レンズであり、180°の画角を有している。側面に設けられたカメラ3R、3Lは、車体の中央部でなく、運転席の側方に設けられている。これは、本装置を使用するのは運転者であることが多いので、カメラ3R、3Lの撮影位置を、使用者(運転者)の視点位置に近づけるために、そのような位置としている。後述する視点変換処理をする際に、変換処理の負担が軽減されるとともに、変換後の画像の歪みも抑えることができるからである。
【0013】
カメラ3F、3R、3L、3Bは、それぞれ魚眼レンズを用いており、例えばCCD(Charge-Coupled Devices)により、光(画像)信号を電気信号に変換する構成を備えている。それぞれのカメラ3F、3R、3L、3Bは、A/D変換器31F、31R、31L、31Bを介してシステムバス11Aに各々接続される。カメラ3Fは、車両10の前方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Rは、車両10の右側方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Lは、車両10の左側方にレンズの光軸を向け、その周囲の景色を画像として取得する。カメラ3Bは、車両10の後方にレンズの光軸を向け、その周囲の景色を画像として取得する。
【0014】
各カメラ3F、3R、3L、3Bから出力された画像信号は、A/D変換器31F、31R、31L、31Bによって、それぞれデジタル信号に変換される。また、接続されたカメラ3F、3R、3L、3Bが、デジタル信号出力が可能なものである場合には、A/D変換器31F、31R、31L、31Bには不要である。なお、本実施形態では、上述のように、撮像手段は、魚眼レンズを用いたカメラ4つを有しているが、車両の周囲360°の画像を取得できれば、どのようなカメラを用いても構わない。例えば、5つ以上の複数のカメラを、車両の外側に向けて設置してもよく、また、360°の画像を取得できるカメラを1つ用いてもよい。
【0015】
演算処理装置4Aは、中央処理装置[CPU(Central Processing Unit)]41Aと、リードオンリーメモリ[ROM]42Aと、ランダムアクセスメモリ[RAM]43Aとを備えている。中央処理装置41Aは、例えば、画像取込装置1Aと、画像表示装置1Bとの相対位置を演算し、或は、各カメラから取得された画像に基づいて、車体10周囲の360°画像を合成し、或は、合成した画像から画像表示装置1Bへ送る画像を切り取り(抽出し)、また、切り取った画像を使用者の視点位置に視点変換し、切り取った画像に、車両の輪郭を合成する、或は画像表示装置1Bとのデータの送受信などの処理及び演算を行う。また、取得された画像を原画像とし、駐車場の仕切り白線や黄色線等、障害物ではないと想定されるパターン画像データと比較し、非障害物パターンデータに一致しないものと障害物として判定する、といった障害物検出処理も行う。
ROM42には、例えば、中央処理装置41が画像処理を行うためのソフトウエア等が格納されており、RAM43は、例えば、各種画像処理等を行う場としてのワーキングエリアとして使用される。
【0016】
メモリ5Aは、各カメラ3F、3R、3L、3Bが撮影した画像を経時的に連続してそれぞれ記録するカメラ画像バッファ51F、51R、51L、51Bと、描画用画像バッファ52Aと、画像処理情報メモリ53Aと、車両情報記憶手段である車体データメモリ54Aと、ワークメモリ55Aと、音声データメモリ21Aと、音声パターンデータメモリ22Aとを備えている。
【0017】
描画用画像バッファ52Aには、カメラ画像に画像処理を施して生成した画像が保存される。画像処理情報メモリ53Aには、視点変換、歪み補正、合成等画像処理を実行するために必要な変数が保存される。例えば、GUIで構成されたメニュー画面等を介して設定値の入力や変更は適宜可能となっている。車体データメモリ54Aには、表示画像に重ねて、車体透過イメージを作るために必要な輪郭情報が格納されている。輪郭情報には、車体の輪郭やタイヤ位置等を表現した3Dモデリングデータまたは3Dに見えるように描かれたビットマップデータなどが保存されている。この車体データメモリ54Aに保存されるデータには、カメラ画像または画像処理後のカメラ画像と合成するために使用するマスクデータも含まれる。ワークメモリ55Aは、視点変換処理、歪補正処理、ワイヤーフレームの画像合成処理などの画像処理を行う場合のワーキングエリアとして使用される。
【0018】
音声データメモリ21Aには、障害物の位置を知らせる音声のトーン(例えば、男性の声、女性の声、機械的な声)や、音声以外の報知音(高さの異なる数種類の電子音等)が格納されている。音声パターンデータメモリ22Aには、障害物の位置を知らせる音声パターンが格納されている。例えば、「障害物が検出されました。」「ディスプレイ方向を右に向けて下さい。」「ディスプレイ方向と障害物の方向が一致しました。」等の案内音声パターンである。
【0019】
通信装置61Aは、画像表示装置1Bからのセンサデータ受信、画像表示装置1Bへの描画用画像データ送信を行う。通信手段としては、有線と無線があるが、無線の場合は、無線LAN(IEEE802.11a/b/g)、Bluetooth、赤外線(IrDA)、小電力FMトランスミッター、UWB(Ultra Wide Band)、スペクトラム拡散(SS)等が考えられる。
【0020】
接続部62Aは、接続端子を備え、画像表示装置1Bの接続部62Bに設けられた接続端子と接続するものである。画像表示装置1Bの接続部62Bと接続することによって、通信装置61Aと同様の作用をする。この接続部62Aは、例えば、画像表示装置1Bと接続するための保持位置として機能する。
【0021】
一方、画像表示装置1Bは、画像処理等の演算及び制御を行う演算処理装置4Bと、通信装置61Bと、接続部62Bと、メモリ5Bと、位置・角度検出装置7と、A/D変換装置71と、表示装置8と、D/A変換装置81と、これらの装置の通信を媒体するシステムバス11Bを有している。
【0022】
音声出力装置2は、車両10の車両室内に設けられ、音声を位相差出力する立体音声出力手段である少なくとも2以上のスピーカーを備える。本実施形態の場合、図3に示されているように、スピーカーは車両10の室内に4つ設けられている。車両10の室内において、スピーカー2Fは車体前部中央に、スピーカー2Bは車体後部中央に、スピーカー2Rは車体右側面運転席側方に、スピーカー2Lは車体左側面運転席側方にそれぞれ設けられている。このスピーカー2F、2B、2R、2Lの配置は、カメラ3F、3R、3L、3Bの配置位置に対応させて、略同じ位置となっている。このような位置にスピーカーを配置することによって、カメラの配線とスピーカーの配線を束ねることができ、カメラとスピーカーの取り付け作業が容易となる。さらに、カメラとスピーカーを一体化し、単一のユニットと(集合体)とすることによって、組立作業が容易となる。
【0023】
この他、車内の4隅にスピーカーを設けることもできる。通常、車両に搭載されているオーディオ装置は、複数のスピーカーを有しているので、車両に搭載しているオーディオ装置のスピーカーと兼用して用いてもよい。
本実施形態では、図3に示されているように、音声出力装置2はスピーカーを4つ有しているものである。が、障害物のある方向がある程度分かるように最低2つ、例えば、車体中央前後部もしくは車体中央左右側方にスピーカー設けられるものとしても良い。勿論、障害物のある方向がより細かく分かるように、例えば、後部座席左右側方にもそれぞれスピーカーを設け、合計6つのスピーカーから構成されるようにしても良い。
【0024】
スピーカーが2つの場合には、図示されているように、運転席の左右側に配置する(2R、2L)ことによって、障害物の左右方向の位置を把握することができる。そして、前後方向の位置は、報知音の音質(音の高低、発信音の間隔、リズムの違い、メロディの違い)の違いにより、分けて報知することにより、運転者に知らせることができる。例えば、音が高い場合には、前側に障害物があり、低い場合には、後ろ側に障害物があることを意味する。或は、車の進行方向に障害物がある(障害物が近づいている)場合には、報知音を高く、車の進行方向の反対側に障害物がある場合には(障害物が離れている)場合には、報知音を低くすることもできる。また、音声により、車両の前側か、後ろ側かを、案内してもよい。更に、スピーカーを1つ設けた場合には、音声案内によって、障害物の方向を知らせることもできる。例えば、「2時の方向に障害物がある。」「7時方向に障害物がある」等のように案内することができる。
【0025】
図4は、画像表示装置1Bの構成を示すブロック図である。
演算処理装置4Bは、中央処理装置[CPU(Central Processing Unit)]41Bと、リードオンリーメモリ[ROM]42Bと、ランダムアクセスメモリ[RAM]43Bとを備えている。中央処理装置41Bは、例えば、位置・角度検出装置7からの位置と角度のデータ等(センサデータ)をメモリ5Bへ書き込みおよび演算、データ送受信の制御、画像の描画等を行う。通信装置61Bは、画像取込装置1Aへのセンサデータ送信、画像表示装置1Aからの描画用画像データ受信を行う。接続部62Bは、接続端子を備え、画像取得装置1Aの接続部62Aに設けられた接続端子と接続することによって、通信装置61Bと同様の作用をする。
【0026】
本願発明の位置検出手段および角度検出手段である位置・角度検出装置7は、画像表示装置1Bの基準点からの位置および角度を検出する。位置・角度検出装置7は、ジャイロセンサ、加速度センサ、地磁気センサ等により構成される。これらのセンサは画像取得装置1Aと画像表示装置1Bとの相対距離(位置関係)及び相対角度(方向)を算出するために用いるものであり、相対距離及び相対角度を算出できるものであれば、上述のセンサのうち1つの使用でも複数の使用でもかまわない。さらに、本発明は上述のセンサに限られるものではなく、相対距離及び相対角度を検出できるものであれば、どのようなセンサを用いてもかまわない。
【0027】
ジャイロセンサ、地磁気センサによって、画像表示装置1Bの向きが検出され、加速度センサによって移動距離や角度(仰角・俯角)が検出される。さらに、車内に設けられた3つの測量点から、電波・超音波等によって画像表示装置1Bの位置を三点測量し、位置検出する方法などが採られる。具体的には、上記センサ類による位置検出と、三点測量による位置検出とを複合的に用いて、位置検出が行われる。この位置検出の演算は、センサ類が検出したデータに基づく演算及び三点測量による演算は、画像取得装置1Aの中央処理装置1Aで行われる。さらに、画像表示装置1Bの姿勢は、GPSや電波測量と同じように、画像表示装置1B側の、同一直線状に存在しない3点の位置をそれぞれ検出することによっても、検出することができる。
【0028】
上記三点測量による場合、車内に設けられる3つの測量点を、例えば、4つのスピーカーの内の3つの位置の近傍にもうけることができる。このように、スピーカー位置の近くに設けることによって、超音波発信機等の測量機器の配線とスピーカーの配線を束ねることができ、測量機器とスピーカーの取り付け作業が容易となる。さらに、測量機器とスピーカーを一体化し、単一のユニットと(集合体)とすることによって、組立作業が容易となる。これは、同様に、測量点をカメラが配置されている4箇所の内、3箇所の近傍に測量機器を設けても同様であり、また、カメラ、スピーカー及び測量機器をユニット化することにより、より一層組立て作業の効率化を図ることができる。
【0029】
A/D変換器71は、アナログ出力であるセンサ出力を中央処理装置1Bが扱えるようにデジタルデータに変換する。なお、位置・角度検出装置7からの出力が予めデジタル出力の場合には、A/D変換器71は不要である。
【0030】
本発明の表示手段である表示装置8は、受信した描画用画像データを表示する。表示装置8は、ディプレイ画面を備え、ディスプレイ画面は、例えば液晶パネルやELパネル等が用いられる。D/A変換器81は、表示装置8がアナログ入力の場合、中央処理装置1Bが扱うデジタルデータをアナログデータに変換する。表示装置8がデジタル入力対応であれば不要となる。メモリ5Bは、センサデータや受信した画像データのバッファリングに用いられる。
【0031】
以上のように構成された本発明の車外情報表示装置1の作用について、図5に示されているフローチャートに基づき説明する。
システムが起動すると、まず画像取込装置1A及び画像表示装置1Bの初期化処理が行われる(ステップS101、S201)。システム起動は、イグニッションON、スイッチ操作等によって行われ、シフトポジションや車速に応じて動作するといった動作制限を設けても良い。或は、車両の方向を転換する予備動作として行われる動作を検出して、システムが起動する構成としてもよい。また、画像表示装置1Bを保持位置(接続部62A)から離脱させた場合に、即ち、接続部62Aと接続部62Bの接続が切り離された場合に、システム起動する構成としてもよい。
【0032】
画像取込装置1Aの初期化処理としては、カメラ電源のオンや明るさ・コントラスト設定等のカメラの初期化を行い、画像取込のための準備を行う。また、画像処理に必要となるパラメータを、メモリ5Aに格納されたデフォルト値を読み出し、或はユーザー入力を促す等の方法で設定する。また、画像表示装置1Bの初期化処理としては、位置・角度検出のために用いるセンサ類の初期化が行われ、測定基準点は、保持位置に設定される。
【0033】
画像表示装置1Bであるディスプレイが、画像取込装置1Aから取り外されたか判断する(ステップS103、S202)。取り外された場合には、接続部62Bと接続部62Aとの接続が切り離され、以後、画像取込装置1Aの通信装置61Aと、画像表示装置1Bの通信装置61Bとの間で通信が行われ、データの授受がなされる。即ち、取り外された場合には、通信回線が確立され、回線が接続される(ステップS105、S203)。
【0034】
回線が確立すると、画像表示装置1Bでは、位置・角度検出装置7により画像表示装置1Bの位置・角度の情報を取得する(ステップS205)。取得される値は、ディスプレイ画面の仰角又は俯角、画面の向き(車に対しての水平方向の回転角度)、移動距離等に関する値である。取得されたデータは、通信装置61Bを介して、画像取込装置1Aに送信される(ステップS207)。画像取込装置1A側では、通信装置61Aを介して、画像表示装置1Bから送信されたセンサデータを受信する(ステップS107)。受信するセンサデータには、ジャイロセンサによって検出されるディスプレイ画面の角度(仰角又は俯角)、及び画面回転角(車両に対しての水平方向の回転角度)に関するデータ、地磁気センサによってディスプレイ画面の方向(ディスプレイ画面に垂直な直線を水平面内に投影した線L1(図6)の向きに関するデータ、などがある。
【0035】
画像取込装置1A側では、各カメラから画像取込を開始する(ステップS105)。取込まれた画像データはメモリ5Aに確保されたバッファ51F、51R、51L、51Bに随時格納される。
【0036】
ステップS107において受信されたデータに基づいて、画像抽出処理が行われる(ステップS111)。この画像抽出処理は、図7に示されているサブルーチンに基づき説明する。位置・角度検出装置7に基づき、3点測量により画像表示装置1Bの3次元位置を検出する(ステップS301)。画像表示装置1Bの3次元位置は、図6に示されているように、画像表示装置1Bの保持位置101を起点(X,Y,Z=0,0,0)として、ステップS107で受信した画像表示装置1Bの位置・角度検出装置7からの位置の情報、または三点測量等を用いて相対位置を算出することによって、位置特定される(X,Y,Z=x1,y1,z1)。このステップS301によって位置検出手段が構成される。起点は、保持位置でなくとも良く、車内空間の4隅のいずれか、車内空間の中央、ハンドルの位置、運転手の視点位置、バックミラーの位置等、いずれでもよい。
【0037】
また、画像表示装置1Bに設けられたジャイロセンサや加速度センサ、地磁気センサからの値に基づいて、画像表示装置1Bの姿勢が特定される(ステップS302)。姿勢とは、画像表示装置1Bのディスプレイ画面の向いている方向であり、この姿勢の特定によって、ディスプレイ画面の仰角又は俯角(傾き)及び回転角が特定される。ステップS301、S302によって、位置検出手段が構成される。
【0038】
ステップS301及びステップS302で決定された位置及び姿勢から視点位置を特定する(ステップS303)。この実施形態では、視点位置は、各座席毎に予め定められており、視点位置としての座標が画像処理情報メモリ53に記憶されている。例えば、運転席111には、視点位置E1が予め座標(xe1,ye1,ze1)として記憶されている。助手席112には、視点位置E2が座標(xe2,ye2,ze2)として、その他3人掛けの後部座席113には、視点位置E3、E4、E5が、座席114には、視点位置E6、E7、E8がそれぞれ予め決められており、それぞれ固有の座標が記憶されている。そして、各視点位置に応じた領域が予め定められており、どの領域内に画像表示装置1Bが含まれているかを判断し、その領域に対応した視点位置が決定される。
【0039】
この領域は、各座席毎に設定され、座席の第1列目の背もたれよりも前方側の領域であって、運転席と助手席に対応した領域、この領域には、視点位置E1、E2がそれぞれ対応している。
第2列目の座席113の背もたれと、第1列目の座席111、112の背もたれとの間に設けられた領域であって、乗車する人間が座る位置に応じて設けられた3つの領域には、視点位置E3、E4、E5がそれぞれ対応している。
第3列目の座席114の背もたれと、第2列目の座席113の背もたれとの間に設けられた領域であって、乗車する人間が座る位置に応じて設けられた3つの領域には、視点位置E6、E7、E8がそれぞれ対応している。
【0040】
そして、各領域の境目に画像表示装置1Bが位置する場合には、表示装置であるディスプレイ8が表示する側にある視点位置が選択される。このような作用を有するステップS303によって、視点位置特定手段が構成される。このように、画像表示装置1Bの位置と、姿勢が特定されると、視点位置が決定される。この実施形態では、運転席の運転手の視点位置E1となる。また、視点位置が特定されることによって、使用者の位置も同時に特定されることとなるので、ステップS303により、使用者特定手段が構成される。
【0041】
視点位置の特定方法として、既述のように、予め座席位置に応じた視点位置の座標を決めておき、これを記憶しておく構成の他、位置特定された画像表示装置1Bのディスプレイ画面8の中心を通る垂直線(軸線)上に位置し、ディスプレイ画面8から所定の距離(例えば、35〜50cm程度の範囲内で予め定められた距離)離れて位置する点を視点位置と想定し、その位置の座標を算出する方法を摂ってもよい。さらに他の方法としては、ディスプレイ画面8が設けられている側において、画像表示装置1Bに最も近い視点位置を、8つの視点位置の中から選択する方法としてもよい。
【0042】
以上のとおり、視点位置E1が特定されると、該視点位置E1と、ディスプレイの中央部とを結ぶ直線が特定され、この直線の延長線上において、視点位置E1からディスプレイ8へ向かう方向が、画像を取得する方向として特定される(ステップS304)。このステップS304によって方向検出手段が構成される。
【0043】
次に、視点位置E1とディスプレイ8とを結ぶ直線を平面に投影した場合の直線L1と、車両の軸線(Y軸)との成す角α(回転角)を算出する(ステップS305)。ステップS302及びステップS305により本願発明の角度検出手段が構成される。
次に、角度αに基づき、抽出画像を抽出する画像を取り込むカメラを選択する(ステップS307)。このステップS307によって、選択手段が構成される。
【0044】
角度αについては、図2に示されているように、カメラレンズの光軸の交差点を中心として、前方を0°後方を±180°、左方向をマイナス値、右方向をプラス値と設定する。そして、- 25°<α< 25°の場合には、前方カメラ3F、-160°<α<-25°の場合には、左側方カメラ3L、25°<α<160°の場合には、右側方カメラ3R、-160°<α<-180°の場合又は160°<α<180°の場合には、後方カメラ3Bを選択する。このように、切り出す画像の領域、車両の側面のカメラ3R、3Lで取得された画像がより広く、車両の前後のカメラ3F、3Bで取得された画像が狭く構成されている。車両に並走する自転車やオートバイを捕えるためには、側面のカメラの画像が有用であるからである。換言すると、側面のカメラ3R、3Lを原則として用い、これらのカメラで捕えられない領域、即ち、真正面、真後などの領域では、前方に設けられたカメラFと後方に設けられたカメラBを用いる。
【0045】
この他、ステップS307によって構成さる選択手段の他の実施形態として、撮像方向に向けられたカメラレンズの光軸(ベクトル)と、特定された視点位置から画像表示装置1Bへ向かう延長線(ベクトル)との交差角度が、最も小さいカメラを選択する構成としてもよい。カメラの光軸と視線とが最も平行に近いカメラが選択されるので、視点変換された画像の歪みが抑制され、より鮮明な画像を得ることができる。このような選択方法は、魚眼レンズを有さないカメラを多数設け、これらのカメラ画像を繋ぎ合わせて画像を構成する場合に特に有用である。
【0046】
さらに、その他の方法として、直線L1が、車体の側面の輪郭線と交差する場合には、側面に設けられたカメラ3R、3Lを選択し、車体の正面の輪郭と交差する場合には、正面のカメラ3Fを選択し、車体の背面の輪郭と交差する場合には、背面のカメラ3Bを選択する構成としてもよい。また、ステップS305によって検出された角度αではなく、車両に対するディスプレイの向いている方向のカメラを選択する構成としてもよい。
【0047】
次に、選択されたカメラの魚眼画像内において、抽出する画像の抽出位置を決定する(ステップS309)。図8に示されているように、選択されたカメラ画像(魚眼画像Pc1)から、抽出画像Pc2を決定する。具体的には、カメラ選択に使用した角度αを魚眼画像Pc1の横方向の座標に変換する。魚眼画像の縦方向の座標については、画像表示装置の仰角または俯角に対応させる。例えば、α=-70°、センサの俯角データが-20°であれば、魚眼画像内の位置では、水平方向20°(=90°−70°)、垂直方向-20°となる。(ただし、魚眼画像の中心を0°とし、中心から右・上方向を+値、左・下方向を−値とした場合。)
このようにして抽出される画像の中心点P0が決定される(ステップS309)。そして、この中心点P0を中心とした抽出画像Pc2が抽出される(ステップS311)。このステップS301〜S311によって、画像抽出手段が構成される。
【0048】
次に、抽出された画像の画像処理が行われる(ステップS113)。図9は、ステップS113の画像処理の内容を示すサブルーチンである。抽出画像Pc2に正像変換処理を行うことで、歪みを補正する(ステップS401)。次に視点変換処理(ステップS403)を行い、車体データを合成する画像合成処理(ステップS405)を行う。
【0049】
ステップS303において決められた視点位置(図6においては、運転車の視点位置E1)が基準点とされる。この視点位置に基づき、ステップS401で処理された画像を、アフィン変換により、カメラ視点の画像から決められた視点位置からの視点画像になるように画像処理する(ステップS403)。これにより、取得された画像が、特定された視点位置から見た場合の画像に変換される。このステップS403によって視点変換手段が構成される。
【0050】
以上のように視点変換処理を行った後、画像合成処理を行う(ステップS405)。図10は、画像合成処理の内容を示すフローチャートである。車体データメモリ54に格納されている車体輪郭データ、タイヤ設置位置データ等を読み出す(ステップS501)。これらのデータは、車体輪郭やタイヤなどを、画面に映し出す画像化するために必要なデータである。これらのデータを用いて、ステップS301〜309で得られた画像抽出方向のデータに基づき、ステップS311で抽出される画像と同じ視線方向の車体輪郭画像を生成する(ステップS503)。
【0051】
車体輪郭画像とは、具体的には、例えば、車体の輪郭を示すワイヤーフレーム画像、或は、車体内部を映した半透明画像などがある。これらの画像は、車体全部を表している必要はなく、車体の一部であってもよい。車体と外部状況との位置関係が把握できる程度のものでよい。例えば、窓枠、車輪、テールランプ、ヘッドランプなどの内の1つ又は2つ以上のワイヤーフレーム(又は、半透明画像)でもよい。
【0052】
生成された車体輪郭画像について、ステップS403で決定された視点位置に基づき、視点変換処理を行う(ステップS505)。変換方法は、ステップS403で行った変換方法と同様である。ステップS501〜S505によって、輪郭形成手段が構成される。
【0053】
また、輪郭形成手段は、上記ワイヤーフレームの画像を各使用者毎(座席毎)に格納されていてもよく、その場合には、ステップS303にて特定された使用者(視点位置)に応じたワイヤーフレームを読み込み合成する。こうすることにより画像処理負荷を軽減することが可能である。
【0054】
ステップS505で得られた車体輪郭画像を、視点変換処理(ステップS403)が終了した、車外画像に合成する(ステップS507)。このように合成された画像は、車体の輪郭が把握できるとともに、車体を透視して視認できる車外状況が同時に把握できる画像である。ステップS507によって、画像合成手段が構成される。
【0055】
上記画像処理におけるステップS401〜S405は、必ずしも上記順番で行われる必要はなく、これらの3つの処理が行われるのであれば、処理の順番は、特に限定されない。例えば、視点変換、画像合成をした後、正像変換してもよく、最初又は最後に視点変換を行ってもよい。
【0056】
次に、障害物位置検出処理が行われる(ステップS115)。この処理は車両周囲に存在する障害物を、カメラ3F、3R、3L、3Bから取得された画像に基づいて検出する処理である。ステップS109で取り込んだ画像を原画像として使用する。また、予めテンプレートとして、駐車場の仕切り白線や黄色線等障害物ではないと想定されるパターン画像のデータを、メモリ54Aなどに記憶されている。取り込んだ原画像を複数のブロックに分割し(ステップS601)、分割したブロック中を解析する(ステップS603)。即ち、分割したブロックの中に、上記予め記憶されているテンプレートの非障害物パターンデータに類似あるいは一致するパターンが存在するか判断する(ステップS605)。
【0057】
非障害物と一致しないパターンが存在しない場合には、リターンされる。存在した場合、それは障害物である可能性がある。その擬似障害物は連続したエッジの切り出し処理により、その大きさと形状、位置を特定する(ステップS607)。ステップS607で特定された大きさ、形状、位置に基づいて、さらに擬似障害物が、真性障害物であるか判断する(ステップS609)。例えば車両の駐車を妨げない程度の大きさ(数十センチメートル以下)のものであれば、ゴミとして無視する等、障害物認識としての精度を高める。また、障害物の位置が、車両の進行方向に対して逆側に位置する場合、車両の進行の障害にならないので、障害物と判定しない。なお、障害物と判定されなかった場合には、リターンされる。ステップS601〜S609によって、障害物検知手段が構成される。
【0058】
障害物であると判定された場合には、障害物の位置と、取り外した画像表示装置1Bの保持者との相対位置を計算する(ステップS611)。計算された相対位置に基づき、保持者に対して、障害物の存在する方向から音が聞こえるように特定の報知音を、スピーカーから発する(ステップS612)。即ち、左右のスピーカー2R、2Lの位相差出力によって、障害物の左右方向の位置が特定され、前後のスピーカー2F、2Bの位相差出力によって、前後方向の位置が特定される。即ち、4つのスピーカー2F、2B、2R、2Lから発せられる音によって合成される立体音(又は音声)によって、障害物の位置が聴覚により把握することができる。ここで、スピーカー2F、2B、2R、2Lから発せられる音は、既述の通り、電子音や、音声などである。
【0059】
画像表示装置1Bの向きと、ステップS611で特定された障害物の位置が一致しているか、判断する(ステップS613)。即ち、図6に示されているように、画像表示装置1Bの軸線L1上に障害物が位置しているか否かを判断する。一致していない場合には、相対位置から計算した位相差を元に立体音声の警告を出力する(ステップS615)。
【0060】
つまり、画像表示装置1Bの向きを、障害物が位置している向きに向けるように、誘導する音声を出力する。例えば、「右方向に向けてください」「もう少し右です。」などである。或は、音声を用いない場合には、間欠的に発せられる音により障害物の位置と画像表示装置1Bの向きを一致させるように導く構成としてもよい。例えば、一定の間隔で音を発生させ(例えば、「ピーピーピー・・・・」)、画像表示装置1Bの向きが、障害物の位置に近づくに従って、音が発生する間隔を短く(例えば「ピ、ピ、ピ・・・・」)変化させる。保持者は、音の間隔が短く変化するに従って、向きが障害物に近づいていることを知ることができる。そして、障害物の位置に向きが合致した場合には、「ピーーー」といった、連続音に変化させ、或は音の音色を変化させる。この音の変化によって、使用者は、画像表示装置1Bが障害物の方向に合致いてることを知ることができ、換言すると、ディスプレイ画面8内に障害物が映し出されていることを知ることができる。
【0061】
一方、画像表示装置1Bの向きと、ステップS611で特定された障害物の位置が一致している場合には、その旨を報知音により保持者に知らせる(ステップS617)。具体的には、発せられる音の音質やメロディを変える。或は、音声により報知する。音声の例としては、「障害物が映し出されています」などである。上記ステップS611〜S617及び音声出力装置2によって、報知音出力制御手段が構成される。
【0062】
以上のように生成された描画データを、通信装置61Aを介して、画像表示装置1Bへ送信する(ステップS117)。画像表示装置1Bでは、画像取込装置1Aから送信された描画データを通信装置61Bを介して受信する(ステップS209)。受信した描画データをディスプレイ画面8に画像表示する(ステップS211)。このステップS211によって表示手段が構成される。図12に示されているように、ディスプレイ画面8に表示された画像82は、そのディスプレイ画面8を見ている使用者にとっては、その視線の延長線上にある車外画像に、車体の輪郭Bdが重ねて表示されたものである。つまり、車体によって死角となっている車外の状況を把握することができ、かつ、車体との位置関係も把握することが容易となる。
【0063】
その後、画像取込装置1A及び画像表示装置1Bともに、終了トリガーが検出されたか判断する(ステップS119及びS213)。終了トリガーには、スイッチのOFF操作、イグニッションスイッチのOFF、シフトポジションや車速が予め定められた動作条件からはずれた場合、或は、画像表示装置1Bの保持位置(接続部62A)へのセット等がある。これらの動作があった場合には、画像取込装置1Aと画像表示装置1Bとの通信は必要がなくなったものとして、通信装置61Aと通信装置61Bと通信回線は絶たれる(ステップS121及びS215)。
【0064】
終了トリガーが検出されない場合には、画像取込装置1Aでは、ステップS107へ、画像表示装置1Bでは、ステップS205へ、それぞれリターンされ、画像表示動作が継続される。
既述のように、画像表示装置1Bは、保持位置に対して着脱自在に構成されている。そして、保持位置に固定された状態では、より鮮明な画像を画像表示面に表示することができるとともに、画像表示装置1Bのみを、他の装置の表示画面として用いることもできる。
【図面の簡単な説明】
【0065】
【図1】画像取込装置の構成を示すブロック図である。
【図2】カメラ取り付け位置を示す、車両の平面図である。
【図3】車内のスピーカー取り付け配置を示す模式図である。
【図4】画像表示装置の構成を示すブロック図である。
【図5】フローチャートである。
【図6】車内の座席配置を示す模式図である。
【図7】画像抽出処理の内容を示すフローチャートである。
【図8】魚眼レンズの画像図である。
【図9】画像処理の内容を示すフローチャートである。
【図10】画像合成処理の内容を示すフローチャートである。
【図11】障害物位置検出処理の内容を示すフローチャートである。
【図12】表示画像図である。
【符号の説明】
【0066】
1A 画像取込装置
1B 画像表示装置
2F、2R、2L、2B スピーカー
3F、3R、3L、3B カメラ
8 表示装置(ディスプレイ画面)
【特許請求の範囲】
【請求項1】
車両の周囲を撮像する撮像手段と、
車両に対して着脱可能に設けられ、前記撮像した画像を表示する画像表示面を有するディスプレイと、
該ディスプレイの位置及び画像表示面の方向を検出する位置検出手段と、
前記検出したディスプレイの位置及び画像表示面の方向から前記ディスプレイの使用者位置を特定する使用者特定手段と、
車両周囲に存在する障害物の位置を検知する障害物検知手段と、
車両室内に、前記特定した使用者位置を基準位置として、前記検知した障害物の位置に対する方向から聞こえるように、障害物の存在を報知する報知音を出力制御する報知音出力制御手段と、を備えたことを特徴とする障害物検知支援装置。
【請求項2】
前記報知音出力制御手段は、前記検知した障害物の位置方向と、前記位置検出手段により検出したディスプレイの方向とが一致した場合に、方向が一致したことを報知する音を出力することを特徴とする請求項1記載の障害物検知支援装置。
【請求項3】
前記撮像手段が撮像した画像から、前記位置検出手段により検出した位置関係に基づき、基準位置からディスプレイ上の延長線上に存在する車両周囲の画像を抽出する画像抽出手段と、
上記画像抽出手段に基づいて抽出された画像を前記ディスプレイに表示する表示手段と、をさらに有し、
前記報知音出力制御手段は、前記表示した画像中に、前記検知した障害物が存在する場合、障害物が表示画像中に存在することを報知する音を出力することを特徴とする請求項1または2記載の障害物検知支援装置。
【請求項1】
車両の周囲を撮像する撮像手段と、
車両に対して着脱可能に設けられ、前記撮像した画像を表示する画像表示面を有するディスプレイと、
該ディスプレイの位置及び画像表示面の方向を検出する位置検出手段と、
前記検出したディスプレイの位置及び画像表示面の方向から前記ディスプレイの使用者位置を特定する使用者特定手段と、
車両周囲に存在する障害物の位置を検知する障害物検知手段と、
車両室内に、前記特定した使用者位置を基準位置として、前記検知した障害物の位置に対する方向から聞こえるように、障害物の存在を報知する報知音を出力制御する報知音出力制御手段と、を備えたことを特徴とする障害物検知支援装置。
【請求項2】
前記報知音出力制御手段は、前記検知した障害物の位置方向と、前記位置検出手段により検出したディスプレイの方向とが一致した場合に、方向が一致したことを報知する音を出力することを特徴とする請求項1記載の障害物検知支援装置。
【請求項3】
前記撮像手段が撮像した画像から、前記位置検出手段により検出した位置関係に基づき、基準位置からディスプレイ上の延長線上に存在する車両周囲の画像を抽出する画像抽出手段と、
上記画像抽出手段に基づいて抽出された画像を前記ディスプレイに表示する表示手段と、をさらに有し、
前記報知音出力制御手段は、前記表示した画像中に、前記検知した障害物が存在する場合、障害物が表示画像中に存在することを報知する音を出力することを特徴とする請求項1または2記載の障害物検知支援装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2006−11516(P2006−11516A)
【公開日】平成18年1月12日(2006.1.12)
【国際特許分類】
【出願番号】特願2004−183527(P2004−183527)
【出願日】平成16年6月22日(2004.6.22)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【出願人】(591261509)株式会社エクォス・リサーチ (1,360)
【Fターム(参考)】
【公開日】平成18年1月12日(2006.1.12)
【国際特許分類】
【出願日】平成16年6月22日(2004.6.22)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【出願人】(591261509)株式会社エクォス・リサーチ (1,360)
【Fターム(参考)】
[ Back to top ]