説明

画像処理装置及び画像処理方法

【課題】複数の領域を一つのカメラの画像で撮像し、各領域の画像の明るさをそれぞれ調整して、複数の車両管理機能を正確に実行する。
【解決手段】
広角カメラ20により撮像された車両の内外画像Pに含まれる第1領域画像P1、第2領域画像P2及び第3領域画像P3をそれぞれ設定し、内外領域又は各領域の明るさの情報をそれぞれ取得し、この明るさの情報に応じて、設定された第1領域画像、第2領域画像、及び第3領域画像を含む各領域画像の明るさをそれぞれ調整し、第1領域画像、第2領域画像、及び第3領域画像と、各領域画像が利用される車両の管理機能とを予め対応づけた対応関係を参照し、明るさが調整された第1領域画像、第2領域画像、及び第3領域画像を、管理機能を実行する各装置にそれぞれ出力させる制御装置10を備える画像処理装置100を有する車両管理システム1000を提供する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に設置された一つのカメラを用いて、車両の管理に関する複数の機能を実現する画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
車両の管理を行う装置に関し、ドライブレコーダによって記録された走行中の運転情報を提示する運転支援システム(特許文献1)や、車両に取り付けられたカメラの映像から検出した動体に警告を発する車両用監視装置(特許文献2)が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−257484号公報
【特許文献2】特開2006−321357号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、車両の管理に関する複数の機能を実現する場合に、一つのカメラで車両の内外を含む領域を撮像すると、撮像エリアによって明るさが異なり、画像が部分的に不明瞭となるため、管理に関する機能が正確に実現できない場合があるという問題があった。
【0005】
本発明が解決しようとする課題は、単一の広角カメラを用いて、車両の管理に関する複数の機能を正確に実現することである。
【課題を解決するための手段】
【0006】
本発明は、車両に設置された単一の広角カメラにより撮像された車両の内外画像を取得し、この内外画像に設定された、車両の車外領域に対応する車外領域画像及び車両の車室内領域に対応する車室内領域画像を含む各領域画像の明るさを、内外領域又は各領域の明るさに基づいて調整し、各領域画像とこれらが利用される車両の各管理機能とを予め対応づけた対応関係を参照して、明るさが調整された各領域画像を、管理機能が実行される各管理装置にそれぞれ出力することにより、上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、車両の前方領域、車両の側方領域及び車両の車室内領域を単一の広角カメラで撮像し、撮像された車両の内外画像に設定された各領域画像を切り出して、これら各領域画像の明るさを各領域の明るさに基づいて調整するので、撮像エリアによって明るさが異なる場合でも、画像が部分的に不明瞭となることを防止し、車両の管理に関する複数の機能を正確に実現することができる。
【図面の簡単な説明】
【0008】
【図1】本発明に係る実施形態の画像処理装置を備えた車両管理システムの構成図である。
【図2】本実施形態のカメラの設置位置及びカメラによって撮像される車両の内外領域の一例を示す図である。
【図3】車両の内外画像に設定された各領域画像の一例を示す図である。
【図4】車両の内外画像に設定された各領域画像の他の例を示す図である。
【図5】各領域画像と管理装置との対応関係を示す図である。
【図6】本発明の実施形態に係る車両管理システムの制御手順を示すフローチャート図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態を図面に基づいて説明する。本実施形態では、本発明に係る画像処理装置を車両管理システム1000に適用した場合を例にして説明する。
【0010】
図1は、本実施形態に係る画像処理装置100を含む車両管理システム1000のブロック構成図である。図1に示すように、本実施形態の車両管理システム1000は、画像処理装置100と、車載装置200と、車両コントローラ300と、を備えている。
【0011】
車両管理システム1000は、エンジンの始動・停止指令を受け付けるイグニッションスイッチ400、車両のシフト位置のポジションに応じた信号を出力するポジショニングスイッチ500、車両の駆動に係る駆動系600などの車載装置を備えることもできる。
【0012】
これらの各装置はCAN(Controller Area Network)その他の車載LANによって接続され、車両コントローラ300を介して間接的に又は直接的に、情報の授受を相互に行うことができる。
【0013】
また、図1に示すように、画像処理装置100は、制御装置10と、カメラ20と、照度センサ30とを備えている。
【0014】
本実施形態に係る画像処理装置100のカメラ20は、一台の車両につき一つずつ車両の車室内に設置され、焦点距離が比較的短い(例えば、35mmフィルム換算で焦点距離が40mm未満)広角(広画角)のカメラである。この広角カメラ20は、CCD(Charge Coupled Devices)等の撮像素子を用いて構成され、所定周期で車両の車室内及び車室外を含む車両の内外領域を撮像する。
【0015】
車両の内外領域には、車両の外側の車外領域及び車両の室内側の車室内領域が含まれる。さらに、車外領域には、車両の主にフロントウィンドウを介して車室内から見える車両外側の前方領域、車両の主にサイドドアウィンドウを介して車室内から見える車両外側の側方領域が含まれる。また、車室内領域には、車両の運転席、助手席、後部座席の一部又は全部の車室内領域が含まれる。つまり、本実施形態に係る車両の内外領域には、車外の前方領域、車外の側方領域及び車室内領域が含まれる。
【0016】
図2は、カメラ10の設置例と、車両Vの内外領域Eの一例を車両Vの側面から見た図である。図2に示すように、カメラ20は車室内の運転席上部の天井、マップランプ周囲又は、バックミラーに設けられ、車両Vの前方領域、車両Vの側方領域(車外領域)及び車両Vの車室内領域を含む内外領域Eを撮像する。カメラ20の設置位置、焦点距離及び内外領域Eの範囲は、車両Vの大きさ、運転席の高さ、後部座席の大きさ、窓の大きさ、管理機能の内容などに応じて適宜に設定される。
【0017】
カメラ20は内外領域Eを撮像した後に、車両Vの内外領域Eの映像である内外画像を制御装置10へ送出する。なお、撮像開始のトリガは限定されず、いずれか一つの管理装置210〜260に入力されたオン信号、イグニッションスイッチ400に入力されたオン信号、又はカメラ20のスイッチ21に入力されたオン信号を取得した場合に撮像を開始させることができる。また、車両Vを常に管理する観点からは、常時、撮像を継続させることもできる。
【0018】
本実施形態に係る画像処理装置100の制御装置10は、単一のカメラが撮像した車両Vの内外画像に、車両Vの複数の管理機能を実現させるために必要な領域画像を設定し、設定された各領域画像の明るさを調整してから、これらが用いられる各装置に送出するプログラムが格納されたROM(Read Only Memory)12と、このROM12に格納されたプログラムを実行することで、本発明に係る実施形態の画像処理装置100として機能させる動作回路としてのCPU(Central Processing Unit)11と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)13と、を備えている。本実施形態の制御装置10は、車載装置200のいずれか一つの装置に入力されたオン信号、画像処理装置100のスイッチに入力されたオン信号に呼応して起動するが、車両Vを常に管理する観点からは、常時、動作を継続させることもできる。
【0019】
本実施形態に係る画像処理装置100の制御装置10は、領域設定機能と、明るさ取得機能と、画像調整機能と、出力機能とを備えている。本実施形態の制御装置10は、上記機能を実現するためのソフトウェアと、上述したハードウェアの協働により上記機能を実行することができる。
【0020】
以下に、画像処理装置100の制御装置10が実現する各機能についてそれぞれ説明する。
【0021】
まず、制御装置10の領域設定機能について説明する。本実施形態の制御装置10は、カメラ20により撮像された車両Vの内外画像Pから、前方領域に対応する第1領域画像、側方領域に対応する第2領域画像及び車室内領域に対応する第3領域画像の境界を抽出する。本実施形態では、内外画像Pを三つの領域に分けて処理する例を説明するが、内外画像Pを車両の前方領域及び車両の側方領域を含む領域に対応する車外領域画像と、車室内領域に対応する車室内領域との二つの領域に分けて処理することもできる。ここでは重複した説明を避けて、内外画像P三つの領域に分けて処理を例にして説明する。
【0022】
図3は、車両Vの内外領域E(図2参照)をカメラ20で撮像した内外画像Pの一例を示す図である。図3に示すように、本例の内外画像Pは、第1辺R1,第2辺R2、第3辺R3、第4辺R4に囲まれる矩形の画像データである。本例の内外画像Pは、車両Vのフロントウィンドウを介して車室内から見える前方領域に対応する第1領域画像P1と、車両Vのサイドドアウィンドウを介して車室内から見える側方領域に対応する第2領域画像P2及び車両Vの車室内領域に対応する第3領域画像P3(以下、各領域画像をPnと総称することもある)を含んでいる。
【0023】
制御装置10は、上述の第1領域画像P1、第2領域画像P2、及び第3領域画像P3の境界を車両Vの内外画像Pから抽出する。境界の抽出手法は特に限定されないが、本実施形態の制御装置10は、内外画像Pについて画素の明るさに基づいてエッジ検出処理を行い、車両V内及び車両V外に存在する被写体(物体)の特徴に対応するエッジQに基づいて、第1領域画像P1、第2領域画像P2、及び第3領域画像P3の境界を抽出する。本例では第1〜第3の領域画像P1〜P3(以下、総称してPnとも称する)を設定する例を説明するが、領域画像は管理機能の内容に応じて適宜定義することができる。
【0024】
本実施形態では、制御装置10は、車両Vのダッシュボード、サイドドア、サイドドアウィンドウのエッジを抽出する。具体的に、制御装置10は、図3に示すように、ダッシュボードとフロントウィンドウとの境界となる第1エッジQ1と、ダッシュボードと座席空間との境目となる第2エッジQ2とを検出する。これと並行して、同図に示すように、制御装置10は、車両Vのサイドドアとサイドドアウィンドウとの境目となる第3エッジQ3、第4エッジQ4及び第5エッジQ5を検出する。
【0025】
制御装置10は、検出された第1エッジQ1〜第5エッジQ5に基づいて第1領域画像P1、第2領域画像P2、及び第3領域画像P3の各境界をそれぞれ抽出する。
【0026】
なお、本実施形態では、各領域画像Pnの境界を取得する手法として、内外画像Pの画像データに基づいてエッジQを検出し、このエッジQに基づいて各領域画像Pnの境界を抽出する手法を説明したが、各領域画像Pnの境界を内外画像Pの座標上に予め定義し、読み出し可能な状態に記憶しておくことも可能である。
【0027】
そして、本実施形態の制御装置10は、抽出された境界に基づいて、車両Vの内外画像Pに含まれる第1領域画像P1、第2領域画像P2及び第3領域画像P3をそれぞれ設定する。
【0028】
図3に示すように、制御装置10は、内外画像Pの第1辺R1、第3辺R3、第4辺R4、及び第1エッジQ1に囲まれた領域を第1領域画像P1として設定する。また、制御装置10は、内外画像Pの第2辺R2、第3辺R3、第2エッジQ2、第4エッジQ4、及び第5エッジQ5に囲まれた領域、並びに内外画像Pの第1辺R1、第2エッジQ2、及び第3エッジQ3に囲まれた領域を第2領域画像P2として設定する。さらに、制御装置10は、第2エッジQ2、第3エッジQ3、第4エッジQ4及び第5エッジQ5、内外画像Pの第1辺R1、第2辺R2、に囲まれた領域を第3領域画像P3として設定する。
【0029】
なお、制御装置10は、内外画像Pに、車外領域に対応する車外領域画像と車室内領域に対応する車室内領域画像とを設定することができる。この場合において、制御装置10は、ダッシュボードとフロントウィンドウとの境界となる第1エッジQ1と、ダッシュボードと座席空間との境目となる第2エッジQ2とを検出する。そして、制御装置10は、内外画像Pの第1辺R1、第3辺R3、第4辺R4、及び第1エッジQ1に囲まれた領域と、内外画像Pの第2辺R2、第3辺R3、第2エッジQ2、第4エッジQ4、及び第5エッジQ5に囲まれた領域、並びに内外画像Pの第1辺R1、第2エッジQ2、及び第3エッジQ3に囲まれた領域を車外領域として設定する。また、制御装置10は、第2エッジQ2、第3エッジQ3、第4エッジQ4及び第5エッジQ5、内外画像Pの第1辺R1、第2辺R2、に囲まれた領域を車室内領域として設定する。
【0030】
また、カメラ20の配置によっては車両Vに取り付けられた物体が内外画像Pに映り込むことがある。例えば、カメラ20がバックミラーの上部に設けられている場合や、カメラ20が車室の天井に設けられ、その下方にバックミラーが設けられている場合には、図4に示すように、バックミラーの画像P3が内外画像Pに常に映り込む。
【0031】
車両Vの内外画像Pに車両Vに取り付けられた物体(バックミラー)の画像が含まれる場合には、本実施形態の制御装置10は、バックミラーの画像P3に対応する領域の第1外縁B1,第2外縁B2、第3外縁B3,第4外縁B4を予め内外画像P内に設定しておき、設定された外縁B1〜B4を用いて領域画像P1〜P4の境界を抽出する。つまり、予め内外画像P内に設定されたバックミラーの画像P3に対応する領域の第1外縁B1,第2外縁B2、第3外縁B3,第4外縁B4を含む境界に基づいて領域画像P1〜P4を設定する。
【0032】
具体的に、図4に示す例においては、制御装置10は、内外画像Pの第1辺R1、第3辺R3、第4辺R4、第1エッジQ1及びバックミラーの画像P3に対応する領域の第4外縁B4(画像P3の形状によっては第3外縁B3)に囲まれた領域を第1領域画像P1として設定することができる。また、制御装置10は、バックミラーの画像P3に対応する領域の第2外縁B2、内外画像Pの第3辺R3、内外画像Pの第2辺R2、第5エッジQ5、及び第4エッジQ4に囲まれた領域を第2領域画像P2として設定することができる。さらに、制御装置10は、第2エッジQ2、バックミラーの画像P3に対応する領域の第2外縁B1、同第2外縁B2、第4エッジQ4、第5エッジQ5、内外画像Pの第2辺R2、同第1辺R1、第3エッジQ3に囲まれた領域を第3領域画像P3として設定することができる。なお、内外画像Pを車外領域画像と車室内領域画像との二つに分ける場合には、前述の第1領域画像P1と第2領域画像P2とを合わせた物を車外領域画像とし、第3領域画像P3を車室内領域画像とする。
【0033】
バックミラーその他の物体の形状は、エッジ検出処理によって正確に検出することが難しいが、バックミラーの画像P3に対応する領域の外縁を予め設定しておくことにより、物体の影響を排除しつつ、画像処理を迅速に行うことができる。
【0034】
このように、車両Vに取り付けられたバックミラーなどの物体の画像に対応する外縁Bを予め内外画像Pに設定しておき、これを用いて領域画像P1〜P3の境界を設定することにより、カメラ20に撮像される内外領域に設けられた物体の影響を受けることなく、領域画像P1〜P4を正確に設定することができる。
【0035】
また、本実施形態の制御装置10は、所定の周期で撮像された車両Vの内外画像Pについて、所定の周期で各領域画像Pnの境界を抽出し、抽出した境界に基づいて各内外画像Pに含まれる各領域画像Pnをそれぞれ設定することができる。
【0036】
カメラ20の位置が固定されていれば、カメラ20により撮像される内外領域Eの外延は常に一定であるが、カメラ20がバックミラーなどのように位置が可変の部Eに取り付けられている場合にバックミラーが動かされると、撮像される内外領域Eの外延が変化する。本実施形態では、所定の周期で各領域画像Pnの境界を抽出するので、カメラ20の位置が変わるなど内外領域Eの外延が変化し、内外画像Pの対象範囲が変化した場合であっても、各領域画像Pnの正確な境界を求め、各領域画像Pnを正確に設定することができる。
【0037】
さらに、本実施形態の制御装置10は、車両Vが所定距離を走行するまでの間の異なるタイミングで撮像された複数の内外画像Pに基づいて各領域画像Pnの各境界を抽出することができる。つまり、車両Vが走行を開始してから所定距離を走行するまでの所定のタイミングで撮像された内外画像Pから各領域画像Pnの境界Qを抽出し、この境界Qに基づいて各内外画像Pに含まれる各領域画像Pnをそれぞれ設定することができる。車両Vの走行開始は、車両コントローラ300を介してイグニッションスイッチ400からオン信号を取得したタイミングに基づいて判断することができる。具体的に、制御装置10は、イグニッションオンから所定距離を走行するまでの間に所定周期で撮像された各内外画像Pから検出された各エッジQについて、位置のずれ量を算出し、位置のずれ量が最も小さいエッジQ群を求めて、このエッジ群Qを各領域画像Pnの境界として抽出することができる。また、制御装置10は、イグニッションオンから所定距離を走行するまでの間に所定周期で撮像された各内外画像Pから検出された各エッジQの座標分布を求め、最も分布確率の高い座標値を有するエッジQ群を求め、分布確率の高いエッジQを各領域画像Pnの境界として抽出することもできる。
【0038】
走行地点の環境によっては、日光や街灯光がダッシュボードに一時的に映り込む場合がある。このような場合には、内外画像Pに架空の画像が含まれ、エッジQの検出が正確に行われず、各領域画像Pnの境界を正確に抽出することができない。このような場面において、本実施形態の画像処理装置100は、イグニッションオンから所定距離を走行するまでの間に撮像された複数の内外画像Pを用いて各領域画像Pnの境界を抽出するので、走行地点の環境による一時的な映り込みなどの影響を排除して、各領域画像Pnの境界を正確に抽出することができる。この結果、各領域画像Pnを正確に設定することができる。
【0039】
次に、制御装置10の明るさ取得機能について説明する。本実施形態に係る画像処理装置100の制御装置10は、車両Vの内外領域(全体)の明るさ又は前方領域、側方領域及び車室内領域を含む各領域の明るさを取得する。具体的に、制御装置10は、明るさの検出タイミングにおける、カメラ20の撮像素子の光量の平均値等の代表値を内外領域の明るさの情報として取得することができる。また、領域ごとの明るさの情報を取得する場合には、制御装置10は、車両Vの前方領域に対応する第1領域画像を撮像する各素子の光量の代表値を前方領域の明るさの情報として取得することができ、車両Vの側方領域に対応する第2領域画像を撮像する各素子の光量の平均値等の代表値を側方領域の明るさの情報として取得することができ、車両Vの室内領域に対応する第3領域画像を撮像する各素子の光量の平均値等の代表値を車室内領域の明るさの情報として取得することができる。
【0040】
また、図1に示すように、車両Vの内外領域又は車両Vの前方領域、側方領域及び車室内領域などの各領域の明るさを検出する一又は複数の照度センサ30を車両Vに設置することができる。一つの照度センサ30は車両Vの内外領域の一部又は全部の平均的な明るさを検出し、制御装置10へ送出する。複数の照度センサ30は、車両Vの前方領域、車両Vの側方領域及び車両Vの車室内領域を含む各領域の照度を検知し、各領域の照度を明るさの情報として各領域の識別子を付して、制御装置10へ送出する。このため、制御装置10は、各照度センサ30により検出された各領域の明るさの情報を取得することができる。
【0041】
もちろん、カメラ20の撮像素子の各素子における光量に基づく各領域の明るさの情報を取得しつつ、併せて、照度センサ30により検知された各領域の明るさの情報を取得することもできる。制御装置10は、カメラ20の撮像素子の各素子により検出された明るさと、照度センサ30により検出された明るさとを比較して、差が所定値以上である場合には照度センサ30の検出値を用いるようにしてもよいし、カメラ20の撮像素子の各素子により検出された明るさと、照度センサ30により検出された明るさの平均値を用いてもよい。このように、カメラ20の撮像素子により検出される明るさと、照度センサ30により検出される明るさとの両方を用いることにより、高い精度で各領域画像の明るさを制御することができる。
【0042】
続いて、制御装置10の画像調整機能について説明する。
【0043】
本実施形態に係る画像処理装置100の制御装置10は、明るさ取得機能により取得された内外領域全体の明るさの情報又は各領域の明るさの情報に応じて、領域設定機能により設定された第1領域画像P1、第2領域画像P2、及び第3領域画像P3を含む各領域画像Pnの明るさをそれぞれ調整する。
【0044】
一般的な構造の車両Vにおいては、フロントウィンドウは天井から傾斜する状態で設けられ、その面積が大きいため、カメラ20が撮像する車両Vの前方領域は、車両Vの側方領域や車両Vの車室内領域よりも明るく、車両Vの側方領域は、車両Vの車室内領域よりも明るい。このため、本実施形態の制御装置10は、内外領域の明るさに適した画像の明るさを基準とした場合に、最も明るい前方領域に対応する第1領域画像P1の明るさが暗くなるように、明るさを向上させる調整量を低減して(例えば、露光時間を短くして)白とびしないように調整し、最も暗い車室内領域に対応する第3領域画像P3の明るさが明るくなるように、明るさを向上させる調整量を増加させて(例えば、露光時間を長くして)黒つぶれがないように調整する。また、中間の明るさである側方領域に対応する第2領域画像P2は、基準どおりの明るさに従い、調整をしない(例えば、露光時間を変えない)。
【0045】
例えば、車両Vの構造及びカメラ20の性能を考慮して、予め、車両Vの内外画像P全体の平均的なの明るさXに対して各領域画像Pnの明るさYが定義されている場合において、前方領域の明るさがXであるとき、制御装置10は、第1領域画像P1の明るさをY1(Y1<Y)となるように調整するとともに、第3領域画像P3の明るさをY2(Y2>Y)となるように調整することができる。つまり、前方領域の第1領域画像P1は光量過剰の可能性があるため、平均的な明るさに基づいて求められた適正な画像の明るさに比べてより暗く調整し、車室内領域の第3領域画像P3は光量不足の可能性があるため、平均的な明るさに基づいて求められた適正な画像の明るさに比べてより明るく調整することができる。
【0046】
各領域画像の調整手法は特に限定されないが、本実施形態において、制御装置10は、カメラ20の露光を制御することにより、各領域画像Pnの明るさを調整することができる。
【0047】
具体的に、制御装置10は、車両Vの内外領域の明るさ又は車両Vの前方領域、側方領域及び車室内領域を含む各領域の明るさと、カメラ20の露光時間とを予め対応づけた露光データを参照し、明るさ取得機能によって取得された各領域の明るさに応じて、各領域の領域画像Pnを撮像する撮像素子の露光時間を制御する露光制御命令を作成し、カメラ20へ送出することができる。
【0048】
ちなみに、露光制御命令には、設定された各領域画像Pnに対応する撮像素子のグループを特定する情報を付加することができるので、カメラ20は、取得した露光制御命令に基づいて、特定された撮像素子のグループごとに露光時間を制御することができる。これにより、各領域の明るさに応じて画像の明るさが調整された、第1領域画像P1、第2領域画像P2、及び第3領域画像P3を得ることができる。
【0049】
なお、制御装置10は、カメラ20が備える適正露出制御機能、ISO感度調整その他の画像調整機能を利用して、各機能に応じた各領域の明るさに応じた制御命令をカメラ20へ送出し、各領域画像Pnの明るさを調整することもできる。
【0050】
また内外画像Pの全体について統一された露光時間を設定する必要がある場合には、前方領域の明るさに応じた露光時間で内外領域全体を撮像し、その内外画像Pから第1領域画像P1のみを設定し、側方領域の明るさに応じた露光時間で内外領域全体を撮像し、その内外画像Pから第2領域画像P2のみを設定し、車室内領域の明るさに応じた露光時間で内外領域の全体を撮像し、その内外画像Pから第3領域画像P3のみを設定することもできる。この処理によると、撮像回数が増えてしまうものの一つの広角カメラ20で画像処理を行うことができる。
【0051】
さらにまた、本実施形態の制御装置10は、カメラ20によって撮像された内外画像Pの各領域画像Pnに加工処理を施すことにより各領域画像Pnの明るさを調整することができる。具体的に、制御装置10は、車両Vの内外領域又は車両Vの前方領域、側方領域及び車室内領域を含む各領域の明るさと、各領域画像Pnの適切な明るさとを予め対応づけた画像調整データを参照し、明るさ取得機能によって取得された各領域の明るさに応じて、領域画像Pnの明るさを調整する。画像調整データは、車両Vの構造(ウィンドウの位置・大きさ、車室内の広さ)と、カメラ20の性能に応じて実験により定義することができる。特に限定されないが、制御装置10は、出願時において知られている、濃度値の変換、コントラスト補正、ガンマ補正、濃度値のヒストグラム変換その他の明るさを調整するための画像処理手法を用いて、各領域画像Pnの明るさを調整することもできる。
なお、明るさの調整は、カメラ20の露光制御又は画像処理のいずれか一方の手法によって実行してもよいし、両方の手法により実行してもよい。例えば、カメラ20の露光制御をしつつ、撮像された各領域画像Pnの明るさを画像処理によって調整することができる。
【0052】
加えて、一般的に、走行中である場合の車両Vの内外領域は、駐車中の場合よりも車両Vの内外領域よりも明るい場合が多いと推測されるため、本実施形態の制御装置10は、走行中であるか駐車中であるかといった車両Vの状態に応じて各領域画像Pnの明るさの調整の度合いを変化させることができる。
【0053】
本実施形態の制御装置10は、車両Vから当該車両Vが走行中であるか又は駐車中であるかの情報をポジショニングスイッチ500から取得し、車両Vが駐車中である旨の情報を取得した後に撮像される各領域画像Pnの明るさを向上させる調整量を増加させることができる。また、本実施形態の制御装置10は、車両Vから当該車両Vが走行中であるか又は駐車中であるかの情報をポジショニングスイッチ500から取得し、車両Vが走行中である旨の情報を取得した後に撮像される各領域画像Pnの明るさを向上させる調整量を減少させることができる。
【0054】
具体的には、車両Vが駐車中である旨の情報を取得した場合には、その後に各領域画像Pnを撮像する撮像素子の露光時間を延長し、車両Vが走行中である旨の情報を取得した後には、その後に各領域画像Pnを撮像する撮像素子の露光時間を短縮することができる。
【0055】
たとえば、車両Vの構造及びカメラ20の性能を考慮して、走行中及び駐車中の内外領域又は車両Vの前方領域の明るさZに対して第1領域画像P1の明るさWが定義されている場合において、内外領域又は前方領域の明るさがZであるとき、制御装置10は、駐車中に撮像された第1領域画像P1の明るさをW1(W1>W)となるように調整することができる。この調整と独立して又はこの調整とともに、走行中に撮像された第1領域画像P1の明るさをW2(W2<W)となるように調整することができる。つまり、駐車中に撮像された第1領域画像P1は光量不足の可能性があるため、車両Vの状態を考慮しない場合に比べて第1領域画像P1をより明るく調整することができる。また、走行中に撮像された第1領域画像P1は光量過剰の可能性があるため、車両Vの状態を考慮しない場合に比べて第1領域画像P1をより暗く調整することができる。側方領域、車室内領域についても同様の調整を行うことができる。
【0056】
このように、車両Vが走行中であるか駐車中であるかに応じて、各領域画像Pnの明るさを向上させる調整量を変化させることにより、駐車中の撮像において各領域画像Pnの光量が十分でない場合であっても適切な明るさの領域画像Pnを得ることができる。また、車両Vが走行中であるか駐車中であるかに応じて、各領域画像Pnの明るさを向上させる調整量を変化させることにより、走行中の撮像において各領域画像Pnの光量が過剰となる場合であっても適切な明るさの領域画像Pnを得ることができる。
【0057】
次に、制御装置10の出力制御機能について説明する。
【0058】
本実施形態に係る画像処理装置100の制御装置10は、後述する対応関係を参照し、前述した領域設定機能により設定され、画像調整機能により各領域画像Pnの明るさが調整された第1領域画像P1、第2領域画像P2、及び第3領域画像P3(又は車外領域画像、車室内領域画像)を切り出して、管理機能を実行する各管理装置にそれぞれ出力する。
【0059】
本実施形態の車載装置200は、レーン認識装置210、障害物検知装置220、ドライブレコーダ装置230、スナップショット装置240、ドライバーモニター装置250及びセキュリティ装置260その他の管理装置の管理結果を利用者に提示する出力装置270を備えている。
【0060】
以下に、管理機能を実行する装置の一例として管理装置210〜260を説明するが、本発明の実施形態に係る車両管理システム1000に適用される管理装置は、カメラ20により撮像された画像に基づいて車両Vの状態を管理する機能を備えるものであれば特に限定されない。
【0061】
本実施形態のレーン識別装置210は、車両Vの前方領域の画像に基づいて、自車両が走行している道路の車線を認識し、自車両と車線との位置関係を判断するレーン認識機能を有する。本実施形態のレーン識別装置210は、自車両が車線から外れる可能性が所定の閾値を超えると判断した場合には、ディスプレイ271、スピーカ272などの出力装置270を介して乗員の注意を喚起する情報を出力し、又は車両コントローラ300に車両Vの駆動系600の制御に関する信号を送出する。
【0062】
本実施形態の障害物検知装置220は、車両Vの前方領域の画像に基づいて、車両前方の車両や歩行者などの障害物を検知し、自車両と障害物との位置関係を判断する障害物検知機能を有する。本実施形態の障害物検知装置220は、自車両と障害物とが接近する可能性が所定の閾値を超えると判断した場合には、ディスプレイ271、スピーカ272などの出力装置270を介して乗員の注意を喚起する情報を出力し、又は車両コントローラ300に車両Vの駆動制御に関する信号を送出する。
【0063】
本実施形態のドライブレコーダ装置230は、走行中の車両Vの前方領域、車両Vの側方領域を撮像し、走行中に車両V又は他車両に事故が生じた場合に、事故発生時の状況を確認するための画像を記録するドライブレコーダ機能を有する。本実施形態のドライブレコーダ装置230は、撮像した画像をディスプレイ271、スピーカ272などの出力装置270を介して提示することができ、又は通信装置273を介して撮像した画像をコンピュータや携帯電話などの外部端末800に送出することができる。
【0064】
本実施形態のスナップショット装置240は、走行中の車両Vの前方領域、車両Vの側方領域を撮像し、走行後に走行ルートの風景を楽しむなどの目的でドライブ時の画像を記録するスナップショット機能を有する。本実施形態のスナップショット装置240は、撮像した画像をディスプレイ271、スピーカ272などの出力装置270を介して提示することができ、又は通信装置273を介して撮像した画像をコンピュータや携帯電話などの外部端末800に送出することができる。
【0065】
本実施形態のドライバーモニター装置250は、運転者の身体の画像に基づいて、運転者の状態を検知し、運転者が運転に適した状態であるか否かを判断するドライバーモニター機能を有する。本実施形態の障害物検知装置220は、走行中の運転者の肩や腕などの身体や、顔や目などの表情より、運転者が運転に適していないと判断された場合には、ディスプレイ271、スピーカ272などの出力装置270を介して運転者に休憩を薦める情報や、運転者の注意を喚起する情報を出力し、又は車両コントローラ300に車両Vの駆動制御に関する信号を送出する。
【0066】
本実施形態のセキュリティ装置260は、駐車中の車両Vの前方領域、車両Vの側方領域、車両Vの車室内領域を撮像し、乗員が車両Vを降車した後に車両Vの安全を守る目的で駐車時の画像を取得するセキュリティ機能を有する。本実施形態のセキュリティ装置260は、撮像した車両周囲の画像に基づいて車両の安全が脅かされる状態である(例えば、車両部品の盗難、搭載貨物の盗難などが発生する可能性が高い)と判断した場合には、ディスプレイ271、スピーカ272などの出力装置270を介して外部に警告を提示する、又は通信装置273を介して撮像した画像をコンピュータや携帯電話などの外部端末800に送出することができる。
【0067】
続いて、本実施形態に係る画像処理装置100の制御装置10が出力処理を行う際に参照する対応関係Sについて説明する。
【0068】
制御装置10は、第1領域画像P1、第2領域画像P2、及び第3領域画像P3と、各領域画像Pnが利用される車両Vの管理機能を実行する管理装置210〜260とを予め対応づけた対応関係Sを参照して、領域設定機能により設定された第1領域画像P1、第2領域画像P2、及び第3領域画像P3を、前述した管理機能を実行する各管理装置210〜260にそれぞれ出力する。
【0069】
本実施形態の対応関係Sの一例を図5に示す。
【0070】
図5に示すように、明るさが調整された第1領域画像P1は、第1領域画像P1を用いてレーン認識機能を実行するレーン識別装置210、第1領域画像P1を用いて障害物検知機能を実行する障害物検知装置220、第1領域画像P1を用いてドライブレコーダ機能を実行するドライブレコーダ装置230、第1領域画像P1を用いてスナップショット機能を実行するスナップショット装置240及び第1領域画像P1を用いてセキュリティ機能を実行するセキュリティ装置260のいずれか一つ以上の装置に出力される。
【0071】
また、同図に示すように、明るさが調整された第2領域画像P2は、第2領域画像P2を用いてドライブレコーダ機能を実行するドライブレコーダ装置230、第2領域画像P2を用いてスナップショット機能を実行するスナップショット装置240及び第2領域画像P2を用いてセキュリティ機能を実行するセキュリティ装置260のうちのいずれか一つ以上の装置に出力される。
【0072】
さらにまた、同図に示すように、明るさが調整された第3領域画像P3は、第3領域画像P3を用いてドライブレコーダ機能を実行するドライブレコーダ装置230、第3領域画像P3を用いてドライバーモニター機能を実行するドライバーモニター装置250及び第3領域画像P3を用いてセキュリティ機能を実行するセキュリティ装置260のうちのいずれか一つ以上の装置に出力される。
【0073】
また、内外画像Pを車外領域画像と車室内領域画像とに分けて、各画像を各装置210〜260に出力する場合には、図5に示すように、明るさが調整された車外領域画像は、レーン識別装置210、障害物検知装置220、ドライブレコーダ装置230、スナップショット装置240、セキュリティ装置260のいずれか一つ以上の装置に出力され、明るさが調整された車室内領域画像は、ドライブレコーダ装置230、ドライバーモニター装置250及びセキュリティ装置260のうちのいずれか一つ以上の装置に出力される。
【0074】
なお、図5に示す対応関係Sでは、一つの機能に一つの装置を対応づけているが、セキュリティ装置がセキュリティ機能とドライブレコーダ機能とを併せ持つ場合には、対応関係S中のドライブレコーダ装置はセキュリティ装置に書き換えることができる。
【0075】
このように、単一の広角カメラ20により撮像された車両Vの内外画像Pに設定され、明るさが調整された各領域画像Pnを内外画像Pから切り出し、これを用いて車両管理を行う管理装置210〜260にそれぞれ出力するので、単一の内外画像Pによって複数の車両管理を並行して実行することができる。また、管理機能を実行する際に、各管理装置210〜260は、設定された各領域画像P1〜P3についてのみ所定の画像処理を行えばよいので、処理負荷を低減することができる。
【0076】
加えて、本実施形態の対応関係Sは、図5に示すように車両Vが駐車中である場合と車両Vが走行中である場合とに分けて定義されている。
【0077】
本実施形態に係る画像処理装置100の制御装置10は、ポジショニングスイッチ500からD、R、Nレンジなどの車両Vが走行中である旨の信号を受信した場合と、ポジショニングスイッチ500からPレンジなどの車両Vが駐車中である旨の信号を受信した場合とに応じて、明るさが調整された各領域画像Pを各管理装置210〜260に送出する。
【0078】
制御装置10は、車両Vが走行中であるか否かを示すポジショニングスイッチ500の信号を、車両コントローラ300を介して取得することができる。
【0079】
具体的に、制御装置10が、車両Vから当該車両Vが駐車中である旨の情報を取得した場合には、対応関係Sを参照し、明るさが調整された第1領域画像P1をドライブレコーダ装置230及びセキュリティ装置260のうちのいずれか一つに出力し、明るさが調整された第2領域画像P2を、ドライブレコーダ装置230及びセキュリティ装置260のうちのいずれか一つ以上の装置に出力し、明るさが調整された第3領域画像P3を、セキュリティ装置260に出力する。
【0080】
他方、制御装置10が、車両Vから当該車両Vが走行中である旨の情報を取得した場合には、対応関係Sを参照し、明るさが調整された第1領域画像P1をレーン認識装置210、障害物検知装置220、ドライブレコーダ装置230、及びスナップショット装置240のうちのいずれか一つ以上の装置に出力し、明るさが調整された第2領域画像P2を、ドライブレコーダ装置230及びスナップショット装置240のうちのいずれか一つ以上の装置に出力し、明るさが調整された第3領域画像P3を、ドライブレコーダ装置230及びドライバーモニター装置250のうちのいずれか一つ以上の装置に出力する。
【0081】
このように、車両Vが走行中か駐車中か否かに応じて、明るさが調整された領域画像P3を所定の管理装置210〜260に送出することにより、必要な場面で、車両Vの各管理機能を実行する装置210〜260に、各管理機能の実行に必要な画像を、適切な明るさに調整してから出力することができる。
【0082】
また、内外画像Pを車外領域画像と車室内領域画像とに分けて、各画像を各装置210〜260に出力する場合において、図5に示すように、車両Vから当該車両Vが駐車中である旨の情報を取得したときには、対応関係Sを参照し、設定された車外領域画像をドライブレコーダ装置230及びセキュリティ装置260のうちのいずれか一つに出力し、設定された車室内領域画像P3を、セキュリティ装置260に出力する。他方、車両Vから当該車両Vが走行中である旨の情報を取得したときには、車外領域画像は、レーン識別装置210、障害物検知装置220、ドライブレコーダ装置230、スナップショット装置240のいずれか一つ以上の装置に出力され、設定された車室内領域画像を、ドライブレコーダ装置230及びドライバーモニター装置250のうちのいずれか一つ以上の装置に出力する。このようにしても、上述の処理と同様の作用効果を得ることができる。
【0083】
続いて、図6に基づいて、本実施形態の画像処理装置100の制御手順を具体的に説明する。
【0084】
まず、ステップ10において、制御装置10は、画像処理開始のトリガとなる起動信号の取得に応じて、カメラ20の撮像処理を開始させる。起動信号は、イグニッションスイッチ400から取得したイグニッションオン信号、画像処理装置100のスイッチ21から取得したオン信号、管理装置210〜260のいずれか一つ以上の装置から取得したオン信号などを適宜に定義することができる。
【0085】
広角カメラ20は、所定の内外領域E(図2参照)を所定周期で撮像し、制御装置10へ送出する。内外領域Eを撮像した内外画像Pは、前方領域に対応する第1領域画像P1、側方領域に対応する第2領域画像P2及び車室内領域に対応する第3領域画像P3を含む。
【0086】
ステップ20において、制御装置10は、広角カメラ20により撮像された車両Vの内外画像Pから、第1領域画像P1、第2領域画像P2及び第3領域画像P3の境界を抽出するため、内外画像Pの画素の明るさに基づいてエッジを検出する。エッジの検出処理は、所定周期で撮像された内外画像Pのそれぞれについて行う。本実施形態において検出するエッジは、図3に示すように、ダッシュボードとフロントウィンドウとの境界となる第1エッジQ1と、ダッシュボードと座席空間との境目となる第2エッジQ2と、サイドドアとサイドドアウィンドウとの境目となる第3エッジQ3と、第4エッジQ4及び第5エッジQ5とを検出する。
【0087】
エッジ検出後、ステップ50へ進む。ステップ50において、制御装置10は、検出された各エッジに基づいて、前方領域に対応する第1領域画像P1、側方領域に対応する第2領域画像P2及び車室内領域に対応する第3領域画像P3の境界を抽出する。そして、制御装置10は、ステップ20において抽出された各境界によって区切られる第1領域画像P1、第2領域画像P2及び第3領域画像P3をそれぞれ設定する。また、制御装置10は、第1領域画像P1及び第2領域画像P2を含む車外領域画像と、第3領域画像P3を含む車室内領域画像との境界を抽出し、各境界により区切られる車外領域画像と車室内領域画像を設定する。なお、この各領域画像P1〜P3の設定に伴い、各領域画像P1〜P3に応じた画素の識別子、アドレス、位置(座標)などを特定することができる。
【0088】
なお、制御装置10は、車両Vの内外画像Pに車両Vに取り付けられたバックミラーなどの物体の画像が含まれる場合には、この物体の画像に対応する領域の外縁を予め設定しておき、設定された外縁を用いて領域画像P1〜P3の境界を抽出することができる。
【0089】
また、本実施形態の制御装置10は、エッジ検出処理後に、ステップ30の処理を行うことができる。具体的に、制御装置10は、所定時間経過後又は車両Vが所定距離走行後に、ステップ20へ戻ってエッジの検出処理を再度行うことができる。
【0090】
カメラ20がバックミラーなどの可動部材に取り付けられている場合には、バックミラーの位置が動くと、カメラ20の撮像範囲(内外領域)が変更されるため、取得される内外画像Pも変化し、各領域画像P1〜P3を正確に設定できない。これに対し、本処理を行うことにより、所定周期で各領域画像P1〜P3の境界を抽出することができるので、カメラ20の撮像範囲(内外領域)が変更されても、各領域画像P1〜P3を正確に設定することができる。
【0091】
なお、車両Vが所定距離を走行したか否かを判断するための起点(走行開始のタイミング)は、イグニッションスイッチ400からオン信号を取得したタイミング、つまり走行開始時としてもよいし、各領域画像の境界の検出処理が開始されたタイミングとしてもよい。
【0092】
さらに、本実施形態の制御装置10は、エッジ検出処理後に、ステップ30及び40の処理を行うことができる。具体的に、制御装置10は、所定時間経過後又は車両Vが所定距離走行後に(Step30でYes)ステップ40に進み、ステップ40において、前回の処理で撮像された内外画像Pから検出されたエッジの位置と今回の処理で撮像された内外画像Pから検出されたエッジの位置を比較し、両エッジの位置に所定値以上の変更があるか否かを判断し(Step40)、エッジの位置に変化がある場合はステップ20へ戻って、今回の処理で撮像された内外画像Pに基づいて各領域画像P1〜P3の境界を再抽出することができる。
【0093】
車両Vが走行し、車両Vの位置が変わると日光や街灯の光の当たり方が変化するが、日光や街灯の光の当たり方によってはインストルメント・パネルに光が映り込み、エッジの検出(各領域画像の境界の抽出)が正確にできない場合がある。これに対し、本実施形態では、車両Vが所定距離を走行するまでの間の異なるタイミングで撮像された内外画像Pに基づいて各領域画像P1〜P3の境界を抽出することにより、ある位置において日光や街灯の光がダッシュボードに映り込んでしまっても、このような日光や街灯の光の影響を排除して各領域画像P1〜P3を正確に設定することができる。
【0094】
他方、ステップ40の判断において、各内外画像Pのエッジに所定値以上の変更(ずれ)が無い場合には、前回の処理における境界の抽出結果に基づく画像処理に従えばよいので、処理を終了する。
【0095】
ステップ30、ステップ30及び40の処理を経て検出されたエッジにより各領域画像P1〜P3の境界を抽出し、先述したステップ50における各領域画像P1〜P3の設定処理を実行することができる。
【0096】
先述したステップ50に続くステップ60において、制御装置10は、内外領域の明るさ又は各領域の明るさの情報を、カメラ20の撮像素子及び/又は照度センサ30から取得する。
【0097】
そして、ステップ70において、制御装置10は、ポジショニングスイッチ500からシフトポジション情報を取得する。制御装置10は、シフトポジション情報に基づいて、車両Vが走行中であるか駐車中であるかを判断する。具体的に、制御装置10は、Dレンジ、Rレンジ、Nレンジのシフトポジション信号を取得した場合は、車両Vが走行中であると判断する。他方、御装置10は、Pレンジのシフトポジション信号を取得した場合は、車両Vが駐車中であると判断する。
【0098】
次のステップ80において、制御装置10は、取得された内外領域又は各領域の明るさの情報に基づいて、内外領域若しくは各領域の明るさとカメラ20の露光時間とを予め対応づけた「露光データ」、又は内外領域若しくは各領域の明るさと、各領域画像Pnの適切な明るさとを予め対応づけた「画像調整データ」を参照し、ステップS50において設定された第1領域画像P1、第2領域画像P2、及び第3領域画像P3を含む各領域画像Pnの明るさをそれぞれ調整する。なお、各領域画像Pnの明るさの調整は、上述したように、カメラ20の露光制御やISO制御によって行うことができ、制御装置10の画像処理によっても行うこともできる。
【0099】
図6に示すように、ステップ80の処理は、ステップ60の処理の後、シフトポジション情報を得ることなく実行することができるが、本実施形態では、車両Vが走行中であるか駐車中であるかに応じて、車両Vが駐車中である旨の情報を取得した後に撮像される各領域画像Pnの明るさを向上させる調整量を増加させ、車両Vが走行中である旨の情報を取得した後に撮像される各領域画像Pnの明るさを向上させる調整量を低減させる。
【0100】
ステップ60からステップ80に移行する場合には、画像調整処理において参照する上述の露光データ又は画像調整データを、車両Vが駐車中である場合と車両Vが走行中である場合とに分けて定義しておくことができる。この場合において、車両Vが駐車中である場合においては、領域の明るさに対する各領域画像Pnの適切な明るさが、車両Vの状態を考慮しない場合の明るさよりも高く設定することができる。また、車両Vが走行中である場合においては、領域の明るさに対する各領域画像Pnの適切な明るさが、車両Vの状態を考慮しない場合の明るさよりも低く設定することができる。
【0101】
次のステップ90において、制御装置10は、第1領域画像P1、第2領域画像P2、及び第3領域画像P3と、各領域画像P1〜P3が利用される車両Vの管理機能を実行する管理装置210〜260とを予め対応づけた対応関係S(例えば図5)を参照する。この対応関係Sは、車両Vが駐車中である場合と車両Vが走行中である場合とに分けて定義することができる。
【0102】
そして、ステップ100において、制御装置10は、車両Vが走行中であるか駐車中であるかの判断に基づき、対応関係Sに従い、ステップ50において設定され、ステップ80において明るさが調整された第1領域画像P1、第2領域画像P2、及び第3領域画像P3を内外画像Pから切り出し、各種の管理機能を実行するレーン認識装置210、障害物検知装置220、ドライブレコーダ装置230、スナップショット装置240、ドライバーモニター装置250、セキュリティ装置260その他の管理装置210〜260にそれぞれ出力する。
【0103】
この場合において、制御装置10は、車両Vから当該車両Vが駐車中である旨の情報を取得した場合には、第1領域画像P1を、ドライブレコーダ機能を実行するドライブレコーダ装置230及び/又はセキュリティ機能を実行するセキュリティ装置260に出力し、第2領域画像P2を、ドライブレコーダ機能を実行するドライブレコーダ装置230及び/又はセキュリティ機能を実行するセキュリティ装置260に出力し、第3領域画像P3を、セキュリティ機能を実行するセキュリティ装置260に出力することができる。これにより、駐車中に機能が実現される管理装置にのみ、領域画像Pnを出力することができる。
【0104】
また、制御装置10は、ステップ70において車両Vから当該車両Vが走行中である旨の情報を取得した場合には、明るさが調整された第1領域画像P1を、レーン認識機能を実行するレーン認識装置210、障害物検知機能を実行する障害物検知装置220、ドライブレコーダ機能を実行するドライブレコーダ装置230、及びスナップショット機能を実行するスナップショット装置240のうちのいずれか一つ以上に出力し、第2領域画像P2を、ドライブレコーダ機能を実行するドライブレコーダ装置230及び/又はスナップショット機能を実行するスナップショット装置240に出力し、第3領域画像P3を、ドライブレコーダ機能を実行するドライブレコーダ装置230及び/又はドライバーモニター機能を実行するドライバーモニター装置250に出力する。これにより、走行中に機能が実現される管理装置にのみ、領域画像Pnを出力することができる。
【0105】
なお、制御装置10は、車両Vが走行中であるか駐車中であるかの判断をすることなく、対応関係Sに基づいて各領域画像を各管理装置210〜260に出力することができる。この場合において、制御装置10は、第1領域画像P1を、レーン認識機能を実行するレーン識別装置210、障害物検知機能を実行する障害物検知装置220、ドライブレコーダ機能を実行するドライブレコーダ装置230、スナップショット機能を実行するスナップショット装置240及びセキュリティ機能を実行するセキュリティ装置260のうちのいずれか一つ以上に出力することができる。また、制御装置10は、第2領域画像P2を、ドライブレコーダ機能を実行するドライブレコーダ装置230、スナップショット機能を実行するスナップショット装置240及びセキュリティ機能を実行するセキュリティ装置260のうちのいずれか一つ以上に出力することができる。さらに、制御装置10は、第3領域画像P3を、ドライブレコーダ機能を実行するドライブレコーダ装置230、ドライバーモニター機能を実行するドライバーモニター装置250及びセキュリティ機能を実行するセキュリティ装置260のうちのいずれか一つ以上に出力することができる。
【0106】
本処理は、内外画像Pに3つの領域画像を設定した例により説明するが、内外画像Pを車外領域画像と車室内領域画像とに分ける場合は、図5に示す対応関係Sに従って明るさが調整された各領域画像を各装置210〜260に出力する。
【0107】
最後に、ステップ110において、各管理装置210〜260の制御装置は、制御装置10の指令により取得した各領域画像P1〜P3を利用して各管理機能を実行する。各管理機能の内容、各管理機能の実行手法については、特に限定されず、出願時において知られた内容及び手法を用いることができる。また、本実施形態においては、管理装置210〜260の例として、レーン認識装置210、障害物検知装置220、ドライブレコーダ装置230、スナップショット装置240、ドライバーモニター装置250、セキュリティ装置260を例示したが、カメラによる撮像画像を用いて所定の機能を実行する管理装置であれば特に限定されない。
【0108】
なお、本実施形態では、画像処理装置100が車両Vに設置された場合を例にして説明したが、本発明の本実施形態に係る画像処理方法を、管理装置210〜260を制御可能なクライアント(コンピュータ・制御装置)と情報の授受が可能なサーバ(コンピュータ・制御装置)において実行することもできる。サーバは、クライアントと離隔した場所に配置することができる。
【0109】
管理装置210〜260と情報の授受が可能なサーバは、車両側のクライアントに以下の指令を送出して、画像処理方法を実行することができる。指令の内容は、車両Vに設置された一つの広角カメラ20を用いて、車両Vの車外領域及び車両Vの車室内領域(前方領域、側方領域、車室内領域)の映像を含む車両Vの内外画像Pを取得する処理(ステップ)と、内外画像Pに基づいて、車外領域に対応する車外領域画像及び車室内領域に対応する車室内領域画像(又は第1領域画像P1、第2領域画像P2、及び第3領域画像P3)を設定する処理(ステップ)と、車両Vの内外領域又は車外領域画像及び車室内領域画像(又は第1領域画像P1、第2領域画像P2、及び第3領域画像P3)を含む各領域の明るさに応じて、設定された車両Vの内外領域又は車外領域画像及び車室内領域画像(又は第1領域画像P1、第2領域画像P2、及び第3領域画像P3)を含む各領域画像のそれぞれの明るさを調整する処理(ステップ)と、車外領域画像及び車室内領域画像(又は第1領域画像P1、第2領域画像P2、及び第3領域画像P3と、各領域画像P1〜P3)が利用される車両Vの管理機能を実行する管理装置210〜260と、を予め対応づけた対応関係Sを参照し、設定された車外領域画像及び車室内領域画像(第1領域画像P1、第2領域画像P2、及び第3領域画像P3)を、管理機能を実行させる各管理装置210〜260にそれぞれ出力する処理(ステップ)と、を含む。処理の具体的な内容は、本実施形態の車両側の画像処理装置100、車両管理システム1000と共通するのでこれらの説明を援用する。
【0110】
本発明は以上のように構成され、以上のように作用するので、以下の効果を奏する。
【0111】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000によれば、車両Vの車外領域及び車両Vの車室内領域(又は車両Vの前方領域、車両Vの側方領域及び車両Vの車室内領域)を単一の広角カメラ20で撮像し、撮像された車両Vの内外画像に設定された各領域画像を切り出して、これら各領域画像の明るさを内外領域又は各領域の明るさに基づいて調整するので、撮像エリアによって明るさが異なる場合でも、画像が部分的に不明瞭となることを防止し、車両Vの管理に関する複数の機能を並行して正確に実現することができる。しかも、撮像手段としては、広角カメラ20を一つ設置すればよいので、車両Vの管理に要するコストを低減させることができる。
【0112】
また、管理機能を実行する際に、各管理装置210〜260は、設定された各領域画像P1〜P3についてのみ所定の画像処理を行えばよいので、処理負荷を低減することができる。
【0113】
本発明に係る実施形態の画像処理方法によっても、同様の作用を奏し、同様の効果を得ることができる。
【0114】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000によれば、車両Vが走行中であるか駐車中であるかに応じて、各領域画像Pnの明るさを向上させる調整量を変化させるので、駐車中に撮像する際には各領域画像Pnの光量が不十分となる傾向があるが、このような場合であっても適切な明るさの領域画像Pnを得ることができる。この結果、車両Vの管理機能を正確に実行することができる。
【0115】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000によれば、車両Vが走行中であるか駐車中であるかに応じて、各領域画像Pnの明るさを向上させる調整量を変化させるので、走行中に撮像する際には角領域画像Pnの光量が過剰となる傾向があるが、このような場合であっても適切な明るさの領域画像Pnを得ることができる。この結果、車両Vの管理機能を正確に実行することができる。
【0116】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000は、各領域の明るさを検出する一又は複数の照度センサ30を有するので、カメラ20の撮像素子を用いることなく、各領域の明るさを正確に検出することができるため、高い精度で各領域画像の明るさを制御することができる。さらに、カメラ20の撮像素子により検出される明るさと、照度センサ30により検出される明るさとの両方を用いることにより、より正確な各領域の明るさを検出することができる。
【0117】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000によれば、車外領域画像と車室内領域画像(又は第1領域画像〜第3領域が画像)を予め定義された装置に出力するので、管理機能の実現において必要とされる各領域を撮像した各領域画像を、その管理機能を実現する装置210〜260に適切に出力することができる。この結果、広角カメラ20によって撮像された一つの内外画像Pによって複数の管理機能を実現することができる。しかも、管理機能を実行するために必要とされる各領域画像のみが各管理装置210〜260に出力されるので、管理機能を実行する各管理装置210〜260の画像処理の負荷を低減することができる。
【0118】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000は、車両Vから当該車両Vが駐車中である旨の情報を取得した場合には、車外領域画像と車室内領域画像(又は第1領域画像〜第3領域が画像)を予め定義された装置に出力するので、各領域画像P1〜P3を、車両Vの状態に応じて各管理機能を実現する装置210〜260に適切に出力することができる。
【0119】
つまり、車両Vが走行中である又は車両Vが駐車中であるといった車両Vの状態に応じて、各車両Vの状態における管理機能の実現において必要とされる各領域を撮像した各領域画像P1〜P3を適切な明るさに調整して、その管理機能を実現する装置210〜260に適切に出力することができる。この結果、広角カメラ20によって撮像された一つの内外画像Pによって、車両Vの状態に応じた複数の管理機能を実現することができる。
【0120】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000は、所定の周期で各領域画像P1〜P3の境界を抽出し、各領域画像P1〜P3を設定するので、カメラ20の位置が変わるなどの原因により内外領域Eの外延が変化し、内外画像Pの対象範囲が変化した場合であっても、各領域画像Pnの正確な境界を求めることにより、正確な境界に基づいて各領域画像Pnを正確に設定することができる。たとえば、カメラ20がバックミラーなどのように位置が可変の部材に取り付けられている場合には、撮像される内外領域の外延が変化するが、本実施形態では所定の周期で各領域画像Pnの境界を抽出するので、変化後の内外画像Pにより各領域画像Pnの正確な境界を求め、この正確な境界に基づいて各領域画像Pnを正確に設定することができる。
【0121】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000は、車両Vが所定距離を走行するまでの間の異なるタイミングで撮像された内外画像Pに基づいて各領域画像P1〜P3の境界を抽出するので、走行場所の環境による影響を排除して、各領域画像Pnの境界を正確に抽出することができる。走行地点の環境によっては、日光や街灯光がダッシュボードに一時的に映り込んで、エッジQの検出が正確に行われない場合があるが、本実施形態によれば、所定距離を走行するまでの間に撮像された複数の内外画像Pを用いて各領域画像Pnの境界を抽出するので、走行地点の環境による一時的な映り込みなどの影響を排除して、各領域画像Pnの境界を正確に抽出することができる。この結果、各領域画像Pnを正確に設定することができる。
【0122】
本発明に係る実施形態の画像処理装置100、又はこれを備える車両管理システム1000は、車両Vの内外画像Pに車両Vに取り付けられたバックミラーなどの物体の画像が含まれる場合には、物体の画像に対応する領域の外縁を予め設定し、設定された外縁を用いて領域画像P1〜P3の境界を抽出するので、カメラ20に撮像される内外領域に設けられた物体の影響を受けることなく、領域画像P1〜P4を正確に設定することができる。
【0123】
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【0124】
すなわち、本明細書では、本発明に係る画像処理装置の一態様として画像処理装置100及びこの画像処理装置100を備える車両管理システム1000を例にして説明するが、本発明はこれに限定されるものではない。
【0125】
本明細書では、本発明に係る画像処理装置の一態様として、CPU11、ROM12、RAM13を含む制御装置10を備える画像処理装置100を一例として説明するが、これに限定されるものではない。
【0126】
また、本明細書では、本願発明に係る広角カメラと、領域設定手段と、画像調整手段と、出力制御手段とを有する画像処理装置の一態様として、カメラ20と、領域設定機能、画像調整機能及び出力制御機能とを実行させる制御装置10と、照度センサ30とを備えた画像処理装置100を例にして説明するが、本発明はこれに限定されるものではない。
【0127】
本明細書では、本発明に係る管理機能を実行する各装置の一例として、レーン認識装置210、障害物検知装置220、ドライブレコーダ装置230、スナップショット装置240、ドライバーモニター装置250、セキュリティ装置260を少なくとも含む管理装置210〜260を例示するが、本発明はこれに限定されるものではない。
【符号の説明】
【0128】
1000…車両管理システム
100…画像処理装置
10…制御装置
11…CPU
12…ROM
13…RAM
20…広角カメラ
200…車載装置
210〜260…管理装置
220…レーン認識装置
230…障害物検知装置
240…スナップショット装置
250…ドライバーモニター装置
260…セキュリティ装置
270…出力装置
271…ディスプレイ
272…スピーカ
273…通信装置
300…車両コントローラ
400…イグニッションスイッチ
500…ポジショニングスイッチ
600…駆動系
800…携帯端末
V…車両
E…撮像領域
M…乗員
P…内外画像
P1,Pn…第1領域画像(車両の前方領域に対応する画像)
P2,Pn…第2領域画像(車両の側方領域に対応する画像)
P3,Pn…第3領域画像(車両の車室内領域に対応する画像)
Q…エッジ(境界)
Q1…第1エッジ,Q2…第2エッジ,Q3…第3エッジ,Q4…第4エッジ,Q5…第5エッジ
R1…第1辺,R2…第2辺,R3…第3辺,R4…第4辺
B1…第1外縁,B2…第2外縁,B3…第3外縁,B4…第4外縁
S…対応関係

【特許請求の範囲】
【請求項1】
車両に設置され、前記車両の車外領域及び前記車両の車室内領域を含む前記車両の内外領域を撮像可能な一つの広角カメラと、
前記広角カメラにより撮像された前記車両の内外画像から、前記車外領域に対応する車外領域画像、前記車室内領域に対応する車室内領域画像を含む各領域画像の境界を抽出し、当該抽出された境界に基づいて前記車両の内外画像に含まれる前記車外領域画像、前記車室内領域画像を含む各領域画像をそれぞれ設定する領域設定手段と、
前記内外領域、又は前記車外領域及び前記車室内領域を含む各領域の明るさの情報をそれぞれ取得する明るさ取得手段と、
前記明るさ取得手段により取得された前記明るさの情報に基づいて、前記領域設定手段により前記設定された前記車外領域画像、前記車室内領域画像を含む各領域画像のそれぞれの明るさを調整する画像調整手段と、
前記車外領域画像及び前記車室内領域画像を含む各領域画像と、これらの各領域画像が利用される前記車両の管理機能とを予め対応づけた対応関係を参照し、前記画像調整手段により明るさが調整された前記各領域画像を、これらの各領域画像に基づいて前記管理機能を実行する各装置にそれぞれ出力する出力制御手段と、を備える画像処理装置。
【請求項2】
前記画像調整手段は、前記車両から当該車両が走行中であるか又は駐車中であるかの情報を取得し、前記車両が駐車中である旨の情報を取得した場合は、前記撮像される各領域画像の明るさを向上させる調整量を増加させることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記画像調整手段は、前記車両から当該車両が走行中であるか又は駐車中であるかの情報を取得し、前記車両が走行中である旨の情報を取得した後に撮像される各領域画像の明るさを向上させる調整量を低減させることを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記車両に設置され、前記車両の車外領域及び前記車両の車室内領域を含む各領域の明るさを検出する一又は複数の照度センサを有し、
前記明るさ取得手段は、前記照度センサにより検出された前記各領域の明るさの情報を取得することを特徴とする請求項1〜3の何れか一項に記載の画像処理装置。
【請求項5】
前記出力制御手段は、前記対応関係を参照し、
前記領域設定手段により設定された前記車外領域画像を、レーン認識機能を実行する装置、障害物検知機能を実行する装置、ドライブレコーダ機能を実行する装置、スナップショット機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力し、
前記領域設定手段により設定された前記車室内領域画像を、ドライブレコーダ機能を実行する装置、ドライバーモニター機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
【請求項6】
前記対応関係は、前記車両が駐車中である場合と前記車両が走行中である場合とに分けて定義され、
前記出力制御手段は、前記車両から当該車両が駐車中である旨の情報を取得した場合には、前記対応関係を参照し、前記領域設定手段により設定された前記車外領域画像を、ドライブレコーダ機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力し、前記領域設定手段により設定された前記車室内領域画像を、セキュリティ機能を実行する装置に出力し、
前記出力制御手段は、前記車両から当該車両が走行中である旨の情報を取得した場合には、前記対応関係を参照し、前記領域設定手段により設定された前記車外領域画像を、レーン認識機能を実行する装置、障害物検知機能を実行する装置、ドライブレコーダ機能を実行する装置、及びスナップショット機能を実行する装置のうちのいずれか一つ以上の装置に出力し、前記領域設定手段により設定された前記車室内領域画像を、ドライブレコーダ機能を実行する装置及びドライバーモニター機能を実行する装置のうちのいずれか一つ以上の装置に出力することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
【請求項7】
前記車外領域は、前記車両の前方領域、前記車両の側方領域を含み、
前記領域設定手段は、前記広角カメラにより撮像された前記車両の内外画像から、前記前方領域に対応する第1領域画像、前記側方領域に対応する第2領域画像及び前記車室内領域に対応する第3領域画像を含む各領域画像の境界を抽出し、当該抽出された境界に基づいて前記車両の内外画像に含まれる前記第1領域画像、前記第2領域画像及び前記第3領域画像を含む各領域画像をそれぞれ設定し、
前記出力制御手段は、前記対応関係を参照し、
前記画像調整手段により明るさが調整された前記第1領域画像を、レーン認識機能を実行する装置、障害物検知機能を実行する装置、ドライブレコーダ機能を実行する装置、スナップショット機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力し、
前記画像調整手段により明るさが調整された前記第2領域画像を、ドライブレコーダ機能を実行する装置、スナップショット機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力し、
前記画像調整手段により明るさが調整された前記第3領域画像を、ドライブレコーダ機能を実行する装置、ドライバーモニター機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力することを特徴とする請求項1〜4の何れか一項に記載に記載の画像処理装置。
【請求項8】
前記車外領域は、前記車両の前方領域、前記車両の側方領域を含み、
前記領域設定手段は、前記広角カメラにより撮像された前記車両の内外画像から、前記前方領域に対応する第1領域画像、前記側方領域に対応する第2領域画像及び前記車室内領域に対応する第3領域画像を含む各領域画像の境界を抽出し、当該抽出された境界に基づいて前記車両の内外画像に含まれる前記第1領域画像、前記第2領域画像及び前記第3領域画像を含む各領域画像をそれぞれ設定し、
前記対応関係は、前記車両が駐車中である場合と前記車両が走行中である場合とに分けて定義され、
前記出力制御手段は、前記車両から当該車両が駐車中である旨の情報を取得した場合には、前記対応関係を参照し、前記画像調整手段により明るさが調整された前記第1領域画像を、ドライブレコーダ機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力し、前記画像調整手段により明るさが調整された前記第2領域画像を、ドライブレコーダ機能を実行する装置及びセキュリティ機能を実行する装置のうちのいずれか一つ以上の装置に出力し、前記画像調整手段により明るさが調整された前記第3領域画像を、セキュリティ機能を実行する装置に出力し、
前記出力制御手段は、前記車両から当該車両が走行中である旨の情報を取得した場合には、前記対応関係を参照し、前記画像調整手段により明るさが調整された前記第1領域画像を、レーン認識機能を実行する装置、障害物検知機能を実行する装置、ドライブレコーダ機能を実行する装置、及びスナップショット機能を実行する装置のうちのいずれか一つ以上の装置に出力し、前記画像調整手段により明るさが調整された前記第2領域画像を、ドライブレコーダ機能を実行する装置及びスナップショット機能を実行する装置のうちのいずれか一つ以上の装置に出力し、前記画像調整手段により明るさが調整された前記第3領域画像を、ドライブレコーダ機能を実行する装置及びドライバーモニター機能を実行する装置のうちのいずれか一つ以上の装置に出力することを特徴とする請求項1〜4の何れか一項に記載に記載の画像処理装置。
【請求項9】
前記領域設定手段は、所定の周期で撮像された前記車両の内外画像から前記各領域画像の境界を抽出し、当該境界に基づいて前記各内外画像に含まれる前記各領域画像をそれぞれ設定することを特徴とする請求項1〜8の何れか一項に記載の画像処理装置。
【請求項10】
前記領域設定手段は、前記車両が所定距離を走行するまでの間の異なるタイミングで撮像された前記内外画像から前記各領域画像の境界を抽出し、当該境界に基づいて前記各内外画像に含まれる前記各領域画像をそれぞれ設定することを特徴とする請求項1〜9の何れか一項に記載の画像処理装置。
【請求項11】
前記領域設定手段は、前記車両の内外画像に車両に取り付けられた物体の画像が含まれる場合には、前記物体の画像に対応する領域の外縁を予め設定し、前記設定された外縁を用いて前記領域画像の境界を抽出することを特徴とする請求項1〜10の何れか一項に記載の画像処理装置。
【請求項12】
車両に設置された一つの広角カメラを用いて、前記車両の車外領域及び前記車両の車室内領域を含む内外領域を撮像した車両の内外画像を取得し、
前記内外画像に基づいて、前記車外領域に対応する車外領域画像及び前記車室内領域に対応する車室内領域画像を含む各領域画像を設定し、
前記車両の内外領域、又は前記車両の車外領域及び前記車両の車室内領域を含む各領域の明るさに応じて、前記領域設定手段により前記設定された前記車外領域画像及び前記車室内領域画像を含む各領域画像のそれぞれの明るさを調整し、
前記車外領域画像及び前記車室内領域画像を含む各領域画像と、これらの各領域画像が利用される前記車両の管理機能とを予め対応づけた対応関係を参照し、前記明るさが調整された前記各領域画像を、これらの各領域画像に基づいて前記管理機能を実行する各装置にそれぞれ出力する画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2012−228931(P2012−228931A)
【公開日】平成24年11月22日(2012.11.22)
【国際特許分類】
【出願番号】特願2011−97967(P2011−97967)
【出願日】平成23年4月26日(2011.4.26)
【出願人】(000003997)日産自動車株式会社 (16,386)
【Fターム(参考)】