説明

車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム

【課題】 振動検出情報に基づいて処理モードを設定することで車両の状況に応じた処理モードを自ら設定し、設定した処理モードに応じた処理を行う車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム等を提供すること。
【解決手段】 車載カメラ制御装置100は、赤外線画像データを赤外線画像撮像部210から取得する画像取得部110と、振動検出部(センサー240)からの振動検出情報を取得する振動検出情報取得部130と、赤外線画像データに基づく処理を行う処理部120とを含み、処理部120は、第1処理モードと、第1処理モードより処理の実行レートが低い第2処理モードを含む複数の処理モードのうちから、振動検出情報に基づき1つの処理モードを使用処理モードとして設定し、設定された使用処理モードに従って、対象物の検出処理を実行する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム等に関する。
【背景技術】
【0002】
近年、犯罪の凶悪化、巧妙化に対応するために、防犯対策の強化が望まれており、各種防犯アイテムの充実が望まれている。
【0003】
例えば住居の防犯に関して言えば、住居の扉や窓への不審者による不正な開閉が検知された時に、赤外線カメラによる撮像又はブザー等の警報を行い、住居人に報知する特許文献1に記載されているような従来技術がある。
【0004】
しかしながら、単に、防犯アイテムを増加させるのでは、防犯システムの増加に伴い防犯システムに掛かる費用も高くなり、ユーザーの費用負担が増加するという問題がある。
【0005】
一方で、車載赤外線カメラにより車体前方の近赤外線画像を撮像して表示するとともに、撮像画像から歩行者を検知して、その検知結果を近赤外線画像に重ね合わせて表示する車載用の暗視装置が実用化されている。このような暗視装置に用いられる歩行者検知技術として、特許文献2に記載される従来技術がある。
【0006】
特許文献2の従来技術では、検知対象物における所定部位の形状と同一形状の部位が、該対象物中に連続して存在するか否かを探索し、同一形状の部位が連続して存在する場合には、該対象物は人工物であると判断して、該対象物を除外した残りの対象物から歩行者を認識する。
【0007】
このような状況の中で、本出願人は、住居の侵入者防止用途と道路走行中の歩行者検知用途に、車載カメラを兼用して使う手法を検討している。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2002−150438号公報
【特許文献2】特開2005−352974号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
車載赤外線カメラを道路走行中の歩行者検知と住居の侵入者防止の両方の用途に用いようとする場合、それぞれの用途に適切な画像データの処理が異なり、車両が走行中の場合と車両が駐車中の場合にそれぞれの処理モードを使用者が設定する必要がある。
【0010】
本発明の幾つかの態様によれば、振動検出情報に基づいて処理モードを設定することで車両の状況に応じた処理モードを自ら設定し、設定した処理モードに応じた処理を行う車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム等を提供することができる。
【0011】
また、本発明の幾つかの態様によれば、消費電力を抑制しつつ車両の走行状況に応じた監視対象物の監視をすることが可能な車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステム等を提供することができる。
【課題を解決するための手段】
【0012】
本発明の一態様は、赤外線画像データを赤外線画像撮像部から取得する画像取得部と、
振動検出部からの振動検出情報を取得する振動検出情報取得部と、前記赤外線画像データに基づく処理を行う処理部と、を含み、前記処理部は、第1処理モードと、前記第1処理モードより前記赤外線画像データに基づく処理の実行レートが低い第2処理モードを含む複数の処理モードのうちから、前記振動検出情報に基づき1つの処理モードを使用処理モードとして設定し、設定された前記使用処理モードに従って、前記赤外線画像データに基づいて対象物の検出処理を実行する車載カメラ制御装置に関係する。
【0013】
本発明の一態様では、振動検出情報に基づいて設定した使用処理モードに応じて、適切に処理を切り替えること等が可能になる。
【0014】
また、本発明の一態様では、前記処理部は、前記振動検出情報に基づいて振動が非検出であると判定された場合には、前記使用処理モードを前記第2処理モードに設定し、前記赤外線画像データに基づく防犯用処理を行ってもよい。
【0015】
これにより、振動が非検出の場合には、第2処理モードによる防犯用処理を行うこと等が可能になる。
【0016】
また、本発明の一態様では、前記処理部は、前記振動検出情報に基づいて振動が検出されたと判定された場合には、前記使用処理モードを前記第1処理モードに設定し、前記赤外線画像データに基づいて前記対象物が検出されたか否かを表すアラート表示情報を生成し、前記アラート表示情報を含む表示用画像データを生成してもよい。
【0017】
これにより、振動が検出された場合には、提示部等に表示される表示用画像データを生成すること等が可能になる。
【0018】
また、本発明の一態様では、前記画像取得部は、可視画像データを可視画像撮像部から取得し、前記処理部は、前記可視画像データに対して前記アラート表示情報を付加することで、前記表示用画像データを生成してもよい。
【0019】
これにより、表示用画像データとして、可視画像データに対してアラート表示情報を付加した画像データを生成すること等が可能になり、ユーザーにとって見やすい画像を提供することができる。
【0020】
また、本発明の一態様では、前記処理部は、前記振動検出情報に基づいて振動が非検出であると判定された場合には、前記可視画像撮像部を動作オフ状態又は省電力状態に設定してもよい。
【0021】
これにより、振動が非検出の場合には、可視画像撮像部を動作オフ状態又は省電力状態に設定することで、電力の消費を抑えること等が可能になる。
【0022】
また、本発明の一態様では、前記処理部は、前記使用処理モードが前記第2処理モードに設定されている場合には、前記使用処理モードが前記第1処理モードに設定されている場合に比べて、前記画像取得部における前記赤外線画像データの取得レートを低く設定してもよい。
【0023】
これにより、第2処理モードでは第1処理モードに比べて、赤外線画像データの取得レートを低く設定できるため、電力の消費を抑えること等が可能になる。
【0024】
また、本発明の一態様では、前記画像取得部は、前記使用処理モードが前記第2処理モードに設定されている場合には、前記使用処理モードが前記第1処理モードに設定されている場合とは異なる位置又は方向に設定された前記赤外線画像撮像部により前記赤外線画像データを取得してもよい。
【0025】
これにより、第1処理モードと第2処理モードで赤外線画像撮像部の位置及び方向を変更することが可能になり、モードにあわせた領域を撮像すること等ができる。
【0026】
また、本発明の一態様では、前記処理部は、前記使用処理モードが前記第2処理モードに設定されている場合に、前記使用処理モードが前記第1処理モードに設定されている場合に用いられるテンプレートを用いて前記対象物の検出処理を行ってもよい。
【0027】
これにより、第1処理モードと第2処理モードで共通のテンプレートを用いることができるため、保持データ量の削減や、処理の共通化等が可能になる。
【0028】
また、本発明の一態様では、前記画像取得部は、所与の時間間隔ごとに前記赤外線画像データを取得し、前記処理部は、第1のタイミングで取得された第1の赤外線画像データと、前記第1のタイミングとは異なる第2のタイミングで取得された第2の赤外線画像データとの比較処理を含む前記防犯用処理を行ってもよい。
【0029】
これにより、防犯用処理として異なるタイミングで取得された赤外線画像データの比較処理が可能になり、簡単な処理で侵入者の検出等ができる。
【0030】
また、本発明の一態様では、前記処理部は、前記振動検出情報に基づいて振動が非検出であると判定された場合には、前記赤外線画像撮像部を動作オフ状態に設定し、所与の時間経過後に前記防犯用処理を行ってもよい。
【0031】
これにより、第2処理モードに切り替わる際に、一定時間赤外線画像撮像部を動作オフ状態にすることが可能になるため、電力の消費を抑えること等が可能になる。
【0032】
また、本発明の一態様では、前記防犯用処理は、住居防犯処理と、車両防犯処理を有し、前記処理部は、前記使用処理モードが前記第2処理モードに設定されて、前記防犯用処理として前記住居防犯処理を実行中に前記振動検出情報に基づいて振動が検出されたと判定された場合には、前記防犯用処理を前記車両防犯処理に切り替えてもよい。
【0033】
これにより、車両を駐車しているときにおける車両の盗難を抑止すること等が可能になる。
【0034】
また、本発明の一態様では、前記処理部は、前記赤外線画像撮像部が住居防犯用の位置又は方向に設定されており、且つ、前記振動検出情報に基づいて振動が検出されたと判定された場合には、前記防犯用処理として前記車両防犯処理を実行してもよい。
【0035】
これにより、車両を駐車しているときにおける車両の盗難を抑止すること等が可能になる。
【0036】
また、本発明の一態様では、前記画像取得部は、可視画像データを可視画像撮像部から取得し、前記処理部は、前記住居防犯処理では前記可視画像撮像部を動作オフ状態に設定し、前記車両防犯処理では前記可視画像撮像部を動作オン状態に設定してもよい。
【0037】
これにより、住居防犯処理では可視画像撮像部をオフにすることで、電力の消費を抑えること等が可能になるとともに、車両防犯処理では可視画像撮像部を動作オン状態にすることで、車両の現在位置の情報を取得すること等が可能になる。
【0038】
また、本発明の一態様では、前記振動検出部は、前記画像取得部で取得される画像において生じる、車両の走行時の振動による画像ブレの補正用の振動検出部であり、前記処理部は、前記振動検出部からの前記振動検出情報に基づいて前記使用処理モードの設定処理を行ってもよい。
【0039】
これにより、使用処理モードの設定処理に用いる振動検出部を、画像のブレ補正にも用いることができるため、システムの構成を簡略化すること等が可能になる。
【0040】
また、本発明の一態様では、前記振動検出部は、車両を駆動するモーターの振動を検出してもよい。
【0041】
これにより、モーターの振動を検出することができるため、例えばハイブリッドカーにおいて電動モーターの駆動状況を判定すること等が可能になる。
【0042】
また、本発明の他の態様は、赤外線画像データを赤外線画像撮像部から取得する画像取得部と、振動検出部からの振動検出情報を取得する振動検出情報取得部と、前記赤外線画像データに基づく処理を行う処理部と、を含み、前記処理部は、第1処理モードと、前記第1処理モードより前記赤外線画像データに基づく処理の実行レートが低い第2処理モードを含む複数の処理モードのうちから、前記振動検出情報に基づき1つの処理モードを使用処理モードとして設定し、設定された前記使用処理モードに従って、前記赤外線画像データに基づいて対象物の検出処理を実行する車載カメラ制御システムに関係する。
【0043】
また、本発明の他の態様は、上記のいずれかに記載の車載カメラ制御装置と前記赤外線画像撮像部を含む車載カメラシステムに関係する。
【図面の簡単な説明】
【0044】
【図1】本実施形態のシステム構成例。
【図2】図2(A)は赤外線画像撮像部及び可視画像撮像部の取付け位置を示す平面図、図2(B)は図2(A)の側面図。
【図3】本実施形態のハードウェア的なシステム構成例。
【図4】図4(A)〜図4(D)は、車両が走行状態である時の処理の説明図。
【図5】図5(A)、図5(B)は、アラート画像の説明図。
【図6】図6(A)〜図6(C)は、住居防犯処理の説明図。
【図7】図7(A)〜図7(C)は、車両防犯処理の説明図。
【図8】本実施形態の処理を説明するためのフローチャート。
【図9】テンプレート処理を説明するためのフローチャート。
【発明を実施するための形態】
【0045】
以下、本実施形態について説明する。まず、本実施形態のシステム構成例を説明し、次に本実施形態の特徴について説明する。そして最後に、フローチャートを用いて本実施形態の処理の流れについて説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0046】
1.システム構成例
まず、図1に本実施形態の車載カメラ制御装置及びこれを含む車載カメラシステムの構成例を示す。
【0047】
車載カメラ制御装置100は、画像取得部110と、処理部120と、振動検出情報取得部130と、記憶部150と、を含む。また、車載カメラ制御装置100を含む車載カメラシステム200の例としては、赤外線画像撮像部210や、可視画像撮像部220、提示部230、センサー240などを含む車載カメラシステムなどが挙げられる。なお、車載カメラ制御装置100及びこれを含む車載カメラシステム200は、図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。例えば、車載カメラ制御装置100の一部又は全部の機能を、赤外線画像撮像部210や、可視画像撮像部220により実現してもよい。また、本実施形態の車載カメラ制御装置100の一部又は全部の機能は、通信により接続されたサーバにより実現されてもよい。
【0048】
次に各部で行われる処理について説明する。
【0049】
まず、画像取得部110は、赤外線画像撮像部210から赤外線画像データを取得し、可視画像撮像部220から可視画像データを取得する。
【0050】
そして、処理部120は、振動検出情報取得部130により取得された振動検出情報に応じて、記憶部150から得られるデータを用いて種々の処理を行う。
【0051】
さらに、振動検出情報取得部130は、センサー240での振動検出情報(振動が検出されたか否かを判定する情報)を取得する。
【0052】
なお、画像取得部110及び、処理部120、振動検出情報取得部130の機能は、各種プロセッサー(CPU等)、ASIC(ゲートアレイ等)などのハードウェアや、プログラムなどにより実現できる。
【0053】
また、記憶部150は、データベースを記憶したり、処理部120等のワーク領域となるもので、その機能はRAM等のメモリーやHDD(ハードディスクドライブ)などにより実現できる。
【0054】
そして、赤外線画像撮像部210は、赤外線画像を撮像する。赤外線画像は、遠赤外線画像及び中赤外線画像を含む。赤外線画像撮像部210は、検出対象物に人体を含める場合には、8〜12μmの遠赤外線波長域に感度を有するものであっても良く、より遠距離(およそ200m先)の感度を得る必要がある場合には、赤外線画像撮像部210として焦電型赤外線センサーカメラを用いることが望ましい。焦電型センサーカメラを使うことにより、遠距離から近距離までの熱画像(赤外線画像)を1つのセンサー膜で取得可能であり、人体の体温と他の静止物の境界線が明確に表示可能であるため、人体抽出には最適であり、さらに他の赤外線センサーより大幅にコストが低い。
【0055】
また、本実施形態では、赤外線画像撮像部210は、住居侵入防止等の防犯目的において使用されるが、この場合には、監視エリアは住居の窓及び扉を含むエリアとなる。したがって、この監視エリアへの侵入者を検知するためには、赤外線画像撮像部210は、前述したように8〜12μmの遠赤外線波長域に感度を有するものであることが望ましい。そのため、同一の赤外線画像撮像部を、走行時と住居防犯時に共用することもできる。さらに、車両の走行途中に歩行者を検知する場合に比べ、住居の防犯時に侵入者を検知する場合には、背景画像が時間的に変化せず、侵入者の有無だけを検知するだけで良いため、走行時に比べて画像処理が非常に簡単である。また、侵入者が撮像エリア内を通過する時間も歩行者に比べ長いため、フレームレートを低く設定して、間引き撮像を行いつつ、侵入者を検出することも可能であり、撮像時の電気消費量を抑えることが可能である。
【0056】
一方、可視画像撮像部220は、可視画像を撮像する。可視画像撮像部220は、撮像素子としてCCDやCMOSを用いているカメラであっても良く、また、白黒カメラでもカラーカメラでも良い。白黒カメラを使う場合には、可視画像として濃淡画像が撮像され、カラーカメラを使う場合には、可視画像として色画像が撮像される。
【0057】
なお、赤外線画像撮像部210及び可視画像撮像部220は、画像処理用等に用いられるデバイス(プロセッサー)を含んでもよい。本実施形態においては、赤外線画像データまたは可視画像データを、そのまま車載カメラ制御装置100に出力するが、これに限定されるものではない。例えば、車載カメラ制御装置100の処理部の一部を、赤外線画像撮像部210又は可視画像撮像部220に持たせてもよい。その場合、赤外線画像又は可視画像に対して、画像処理が施された後の情報が車載カメラ制御装置100に出力されることになる。
【0058】
次に、図2(A)、図2(B)に、赤外線画像撮像部及び可視画像撮像部等の取り付け位置の一例を示す。
【0059】
赤外線画像撮像部210は、図2(A)、図2(B)に示すように、レンズの光軸の水平成分方向HLL1と車体中心線CL1がなすパン角がPA1となり、レンズの光軸の垂直成分方向PLL1と地上との水平線HL1がなすチルト角がTA1となるように、車体のバンパーまたはグリル内に取り付けられる。ここで、赤外線画像撮像部210は、赤外線画像撮像部210を上下、左右に首振り駆動させる電動モーターを備えていてもよい。この場合には、車体進行方向前方の道路又は道路側面を撮像できるように回転角度を自由に調整できる。
【0060】
可視画像撮像部220は、図2(A)、図2(B)に示すように、レンズの光軸の水平成分方向HLL2と車体中心線CL2がなすパン角がPA2となり、レンズの光軸の垂直成分方向PLL2と地上との水平線HL2がなすチルト角がTA2となるように、フロントウィンドウ上部に取り付けられる。ここで、可視画像撮像部220も赤外線画像撮像部210と同様に、可視画像撮像部220を上下、左右に首振り駆動させる電動モーターを備えていてもよい。この場合には、車体進行方向前方の道路又は道路側面を撮像できるように回転角度を自由に調整できる。
【0061】
なお、図2(A)では、分かりやすいようにPA1及びPA2は0°以上となっているが、車体進行方向前方を撮像する際には、PA1=PA2=0°、TA1=TA2とすることが望ましい。また、赤外線画像撮像部210及び可視画像撮像部220は、車体の側面に設置してもよいし、それぞれの撮像部を複数設置してもよい。
【0062】
さらに、赤外線画像撮像部210及び可視画像撮像部220には、運転者が任意に撮影方向や撮影位置を決定するために、車内にセレクタスイッチが設置されていてもよい。セレクタスイッチにより、赤外線画像撮像部210又は可視画像撮像部220の駆動のON/OFFや、赤外線画像撮像部210や可視画像撮像部220の位置や方向を変更することができる。なお、図1及び図2(A)、図2(B)においては、セレクタスイッチは省略されている。
【0063】
次に、提示部230は、車載カメラ制御装置100の処理結果をユーザーに示す。提示部230は、警報装置であってもよいし、ディスプレイであってもよい。
【0064】
提示部230が警報装置である場合には、警報装置は、処理部120から得られる出力信号に基づいて、歩行者の有無や住居への侵入者を検知した場合に警報(音声)を発する。警報装置として車体のクラクション及びフロントライトを用いれば、住居への侵入者を検知した場合に、クラクションを鳴らしたり、フロントライトを点滅させたりすることができ、新たな設備を設ける必要がないという利点がある。
【0065】
さらに、提示部230がディスプレイである場合には、ディスプレイは、処理部120が先行車や歩行者、又は住居への侵入者を検出した場合に、これらの位置を表す画像を表示したり、検出物の輪郭画像等を可視画像に重畳して生成された画像を、処理部120から取得し、これを表示してもよい。
【0066】
また、本実施形態では、センサー240には、ジャイロセンサーを使用する。ジャイロセンサーは、消費電力が少なく、微細な振動をも検知することが可能である。他にも、センサー240は、加速度センサーやGPSセンサー等であってもよい。
【0067】
また、図3に本実施形態のハードウェア構成図を示す。まず、図1の車載カメラ制御装置100は、図3のCPU450とメモリー470により実現できる。ここで、図1の画像取得部110及び処理部120、振動検出情報取得部130は、図1のCPU450により実現でき、図1の記憶部150は、図3のメモリー470により実現できる。
【0068】
そして、図1の車載カメラシステム200は、図3の赤外線カメラ410と、CPU450と、メモリー470とを含んでいる。ここで、図1の赤外線画像撮像部210は、図3の赤外線カメラ410により実現され、電動モーター420を備えている。
【0069】
また、図1の可視画像撮像部220は、図3の可視カメラ430により実現され、電動モーター440を備えている。さらに、図1の提示部230は、図3のディスプレイ490により実現できる。そして、図1のセンサー240は、図3のジャイロセンサー460やGPS480等により実現できる。
【0070】
2.本実施形態の手法
以上の本実施形態では、車載カメラ制御装置100は、赤外線画像データを赤外線画像撮像部210から取得する画像取得部110と、赤外線画像データに基づく処理を行う処理部120と、振動検出部(例えばセンサー240)からの振動検出情報を取得する振動検出情報取得部130と、を含む。そして、処理部120は、振動検出情報に基づき設定された処理モード(使用処理モード)に従って、赤外線画像データに基づいた対象物の検出処理を行う。
【0071】
処理モードとは、車載カメラ制御装置100の処理状態の総称であり、設定された処理モードによって、車載カメラ制御装置100が行う一連の処理が決定付けられるものをいう。さらに、車載カメラ制御装置を制御する際に実際に使用される処理モードのことを、使用処理モードと呼ぶ。本実施形態では、処理モードは、少なくとも第1処理モードと第2処理モードを有し、第2処理モードは、第1処理モードに比べて赤外線画像データに基づく処理の実行レートが低いモードである。ここで実行レートとは、処理部120において単位時間あたりに実行される処理の量を表すものであり、実行レートが低いとは、単位時間あたりの処理部120での処理量が少ないことを意味する。よって、例えば処理部120がCPU等により実現される場合には、第2処理モードは第1処理モードに比べて当該CPUにかかる負荷が小さいことになり、省電力性等において優位である。
【0072】
具体的には、以下のような手法により、第2処理モードの実行レートを第1処理モードに比べて低くすることが考えられる。例えば、第1処理モードと第2処理モードが単位時間あたり同数程度の赤外線画像データを取得する場合に、第1処理モードにおいては全画像データに対して対象物検出処理を行うのに対して、第2処理モードでは所定時間間隔で抽出された一部の赤外線画像データに対して対象物検出処理を行うようにする。或いは、第1処理モードに比べて、第2処理モードの赤外線画像データ取得レート(単位時間あたりの赤外線画像データ取得数に対応)を低く設定した上で、対象物検出処理を行ってもよい。
【0073】
なお、第1処理モードは狭義には走行モード(車両走行時に実行される処理モード)であってもよいし、第2処理モードは狭義には防犯モード(後述する防犯用処理を実行する処理モード)であってもよい。処理部120は、後述するように少なくとも防犯モード及び走行モードのうちのいずれか一つを選択することができ、また他の処理モードに切り替えることができる。
【0074】
これにより、振動検出情報に基づいて設定された使用処理モードに従って処理を行うことが可能になる。例えば、振動検出情報に基づいて車両の走行状態を判定するものとすれば、車両が走行状態である場合と、車両が非走行状態である場合で、異なる処理を行うことができる。振動検出部による振動の検出は、例えば車体に設けられたセンサー240(例えばジャイロセンサー)が、1Hzないし20Hzの周波数の振動を、所定の時間連続して検出した場合に、振動を検出したと判定してもよい。
【0075】
また、処理部120は、振動検出情報に基づいて振動が非検出であると判定された場合には、使用処理モードを第2処理モードに設定し、赤外線画像データに基づく防犯用処理を行ってもよい。
【0076】
ここで、防犯用処理とは防犯時における対象物の検出処理のことであり、例えば住居の侵入に対する防犯時であれば、当該住居への侵入者を検出する処理に対応する。具体的には、後述するように、第1のタイミングで取得された第1の赤外線画像データと第2のタイミングで取得された第2の赤外線画像データの比較による対象物の検出処理等が防犯用処理として考えられる。なお、第1のタイミングと第2のタイミングは、赤外線画像データの取得タイミングとして連続する2タイミングであってもよい。例えば、最新の赤外線画像データと、その1タイミング前の赤外線画像データの比較処理である。或いは、第1のタイミングが所与の基準タイミングであってもよい。例えば、第1のタイミングとして防犯用処理開始後の最初の赤外線画像データ取得タイミングとすることが考えられる。この場合、第1の赤外線画像データとは、侵入者が存在しない監視用固定画像データ(背景画像データ)に対応することになり、当該監視用固定画像データと、最新の赤外線画像データとを比較することになる。
【0077】
これにより、振動が非検出の場合には、赤外線画像データを用いた防犯用処理が可能になる。振動が非検出の場合とは、例えば車両が停止中の場合であり、具体的にはユーザーの自宅駐車場に駐車されているケース等が考えられる。この場合には、監視対象物が住居等への侵入者となり、これらの監視に最適な処理を行う。防犯用処理としては、対象物の検出処理だけでなく、赤外線画像撮像部210により撮像された赤外線画像データ又は赤外線画像データに基づく検出情報を、提示部230において提示する処理を行ってもよい。
【0078】
ここで、検出情報とは、赤外線画像中に監視対象物が映っていることを示す情報である。例えば、検出情報の一例としては、住居等への侵入者がいることをユーザーに知らせる文字情報や、提示部230に警告音を発生させる命令などがある。
【0079】
この場合には、監視エリア内に侵入者等がいる場合にのみ、提示部230に提示すればよい。したがって、非走行状態において、常時、提示部230での提示を行う場合に比べて、車載カメラ制御装置100の消費電力の抑制が可能となる。
【0080】
なお、ここで、監視エリアとは、車載カメラシステム200の監視対象物を検出するために、監視することが必要なエリアのことであり、例えば、赤外線画像撮像部210又は可視画像撮像部220により、撮像される範囲のこという。後述する図6(A)の例で言えば、赤外線画像撮像部210により撮像される住居のドアDRや窓WDを含む範囲のことである。
【0081】
また、検出情報は、監視対象物が映っていないことを示す情報であってもよい。この場合には、車両が非走行状態にある時に、原則として常時、車載カメラ制御装置100は提示部230において提示を行う。
【0082】
また、処理部120は、振動検出情報に基づいて振動が検出されたと判定された場合には、使用処理モードを第1処理モードに設定し、赤外線画像データに基づいて対象物が検出されたか否かを表すアラート表示情報を生成し、生成したアラート表示情報を含む表示用画像データの生成処理を行ってもよい。
【0083】
ここで、表示用画像データとは、表示用画像を表すデータである。また、表示用画像とは、検出した対象物の存在をユーザーに伝えるための画像である。例えば、第1処理モードが走行モード(車両が走行状態であるモード)である場合には、表示用画像とは、歩行者や先行車等の監視対象物の存在をユーザーに伝えるための画像であり、提示部230に表示する画像そのものをいう。この場合、アラート表示情報としては、監視対象物の輪郭を表す画像や、監視対象物が近くにいることを通知するための記号等を表す画像が考えられる。つまり、アラート表示情報を含む表示用画像データとは、赤外線画像に歩行者や先行車等の輪郭画像を重畳して生成した画像などである。また、表示用画像を表示すると同時に、警告音等を発しても良い。
【0084】
これにより、監視対象物の存在を強調した画像データを生成し、ユーザーに提示することができ、ユーザーに監視対象物への注意を促すこと等が可能になる。第1処理モードが走行モードであれば、監視対象物が歩行者や先行車となり、これらの監視に最適な処理を行うことになり、例えば、歩行者や先行車の輪郭画像等を、ユーザーに提示して、監視対象物への注意を促すこと等が可能になる。
【0085】
また、車両が走行状態にあると判定された場合には、赤外線画像データを取得するため、歩行者が多かったり、他の車両が多かったり等の車両の周囲の状況に応じた監視対象物の監視をすることが可能である。
【0086】
例えば、図4(A)に、車両CA1が走行しており、走行モードが設定されている場合の様子を示す。この時、車両CA1に設けられた赤外線画像撮像部210が、車両の前方を撮像し、先行車CA2や歩行者WP1、自転車に乗っている人WP2などを撮像する。
【0087】
ここで、赤外線画像データとは、赤外線画像撮像部210により撮像される赤外線画像(熱画像)を表す情報である。赤外線画像については、前述した通りである。例えば、赤外線画像の一例として、図4(A)の車両CA1に設けられた赤外線画像撮像部210により撮像された赤外線画像IIMを、図4(C)に示す。赤外線画像IIMには、歩行者WP1や先行車CA2、自転車に乗った人WP2などが、温度が高い部分が色濃く映し出されている。赤外線画像は、風景等の識別には向かないが、温度分布等を識別することが容易であり、背景と監視対象物とを判別する場合に有用である。
【0088】
しかし、輪郭画像や赤外線画像に輪郭画像を重畳した画像などの表示用画像は、ユーザーが実際に見ている景色とは、見た目が大きく異なっており、表示用画像から取得した情報を、ユーザーが適切に利用することが困難である可能性がある。例えば、第1処理モードが走行モードの場合には、輪郭画像等が提示されたとしても、ユーザーがすぐに車両の運転に反映できない可能性がある。
【0089】
そこで、画像取得部110は、可視画像データを可視画像撮像部220から取得してもよい。そして、処理部120は、可視画像データに対してアラート表示情報を付加することで、表示用画像データの生成処理を行ってもよい。
【0090】
ここで、可視画像データに対してアラート表示情報が付加された表示用画像データとしては、可視画像に対して対象物の輪郭を表す画像を重畳した画像に対応する画像データ等が考えられる。
【0091】
また、可視画像データとは、可視画像撮像部220により撮像される可視画像を表す情報である。可視画像については、前述した通りである。例えば、可視画像の一例として、図4(A)の車両CA1に設けられた可視画像撮像部220により撮像された可視画像VIMを、図4(B)に示す。可視画像VIMにも、歩行者WP1や先行車CA2、自転車に乗った人WP2などが映し出されている。可視画像VIMは、ユーザーが見た景色とほとんど相違がないため、一見して風景を含む画像の全体像を把握しやすい。逆に、可視画像のみを用いて、風景と監視対象物を区別することは困難である。そこで、本実施形態では、前述したような特徴を持つ赤外線画像を用いて、監視対象物を区別する。
【0092】
さらに、可視画像を用いて生成した表示用画像の具体例を、図4(D)に示す。表示用画像CIMを生成する際には、例えば、図4(C)に示す赤外線画像IIMにより表される温度分布の特徴に基づいて、後述するようなテンプレートマッチング処理を行って、人(WP1とWP2)と人以外(背景や先行車CA2)を区別する。そして、可視画像上において、人が位置する部分を囲うように、後述するアラート画像(ALIM1とALIM2)等を重畳させて、表示用画像CIMを生成する。このような画像を提示することにより、歩行者に注意を払うように、ユーザーに警告する。
【0093】
ここで、アラート画像とは、ユーザーに監視対象物の存在を知らせるための画像であり、提示部230に表示する走行用表示画像の一部となる画像のことをいう。アラート画像の例としては、エクスクラメーション・マ−クや、歩行者や先行車を表す模式図、危険が迫っていることを知らせる強調文字などがある。なお、アラート画像とは上述したようにアラート表示情報に含まれるものとする。
【0094】
具体的には、図4(D)に示す画像ALIM1やALIM2がアラート画像に該当する。他にも、図5(A)に示す画像CIM1上において、歩行者WP1の頭上に表示したALIM3のようなエクスクラメーション・マ−クや、図5(B)に示す画像CIM2上において、歩行者WP1の輪郭を強調する画像ALIM4や、危険が迫っていることを文字や記号を用いて強調するALIM5のような帯画像などがある。
【0095】
これにより、ユーザーが実際に見ている景色と合致する可視画像に、アラート画像を重畳させて走行用表示画像を生成するため、表示用画像を用いた場合にも、ユーザーに違和感を覚えさせずに、監視対象物への注意を促すこと等が可能となる。さらに、アラート画像を用いることにより、ユーザーが背景と監視対象物とを簡単に区別すること等が可能となる。
【0096】
また、処理部120は、振動検出情報に基づいて振動が非検出であると判定された場合には、可視画像撮像部220を動作オフ状態又は省電力状態に設定してもよい。
【0097】
これにより、振動が非検出であるとき(第2処理モードに設定されたとき)には、可視画像撮像部220を動作オフ状態又は省電力状態に設定できるため、電力の消費を抑えることが可能になる。上述したように、振動が非検出である第2処理モードとは、車両が停止しており、侵入者の検出等を行うことが想定される。その際には、侵入者の有無をユーザーに対して提示できれば十分であり、ユーザーにとって見やすい画像である可視画像は必ずしも提供する必要はない。よって、可視画像撮像部220については動作オフ状態または省電力状態に設定してもよい。
【0098】
また、処理部120は、使用処理モードが第2処理モードに設定されている場合には、第1処理モードに設定されている場合に比べて、画像取得部110における赤外線画像データの取得レートを低く設定してもよい。
【0099】
これにより、赤外線画像撮像部210の駆動及び赤外線画像データの画像処理に用いる電力の消費を抑えること等が可能となる。住居等への侵入者は、住居の様子をみたりするため、一定箇所に留まることが多く、監視エリアの通過時間が歩行者等に対して長いことが分かっている。また、車両が駐車中の場合には、背景画像が時間的に変化しないため、防犯用処理以外の処理が実行される場合(例えば、車両が走行状態である場合等)に比べて画像処理が容易であり、フレームレートを高く設定する必要はない。
【0100】
また、画像取得部110は、使用処理モードが第2処理モードに設定されている場合には、第1処理モードに設定されている場合とは異なる位置又は方向に設定された赤外線画像撮像部210により、赤外線画像データを取得してもよい。
【0101】
これにより、第2処理モードの場合と第1処理モードの場合とで、それぞれ適切な領域を撮像した画像を取得することが可能になる。第1処理モードとは、上述したように第2処理モードに比べて処理の実行レートが高いモードであり、典型的には走行モードが想定される。走行モードにおいては、車両は前方に移動することが想定されるため、歩行者・障害物等の監視対象物は前方にあるものを捉える必要がある。よって、走行モードでは赤外線画像撮像部210は車両の前方を撮像可能な位置又は方向に設定される。それに対して第2処理モード(狭義には防犯モード)においては、住居に侵入しようとしている者が監視対象物となるため、住居への侵入経路となりそうな箇所(例えば窓等)や、侵入されることが好ましくない領域(自宅の敷地内等)を撮像する必要がある。よって、防犯モードでは赤外線画像撮像部210は、上述のような領域を撮像可能な位置又は方向に設定される。
【0102】
また、処理部120は、使用処理モードが第1処理モードである場合に対象物の検出に用いられるテンプレートを用いて、第2処理モードにおける対象物の検出処理を行ってもよい。これは第1処理モードと第2処理モードの両方で共通のテンプレートを用いると言ってもよい。
【0103】
これにより、記憶部150等に保持しておくテンプレートデータを少なくすることが可能になり、また、第1処理モードと第2処理モードで共通のテンプレートを用いるため処理を共通化することができる。これは、第1処理モードと第2処理モードが走行モードと防犯モードである場合に、走行時にも防犯時にも人が監視対象物に含まれることが想定されるところ、人に特徴的なデータ(例えば温度データ等)は走行時に観察される場合も防犯時に観察される場合も同様であることによる。
【0104】
また、画像取得部110は、所与の時間間隔ごとに赤外線画像データを取得する。そして処理部120は、第1のタイミングで取得された第1の赤外線画像データと、第1のタイミングとは異なる第2のタイミングで取得された第2の赤外線画像データとの比較処理を含む防犯用処理を行ってもよい。
【0105】
ここで、第1の赤外線画像データと第2の赤外線画像データは、互いに異なるタイミングにおいて撮像された赤外線画像を表す赤外線画像データのことをいう。例えば、あるタイミング1についての赤外線画像データを取得し、これを第1の赤外線画像データとし、その後の所定周期毎に取得する赤外線画像データを、第2の赤外線画像データとして、比較処理を行っても良い。他にも、第1の赤外線画像データの次のタイミングに取得する赤外線画像データが第2の赤外線画像データであり、第2の赤外線画像データの次のタイミングに取得する赤外線画像データが第1の赤外線画像データであるとして、比較処理を行ってもよい。
【0106】
また、防犯用処理の具体例としては、第1の赤外線画像データと、第2の赤外線画像データの比較処理の結果、2つの赤外線画像データに差異があった場合に、監視対象物を検出したと判定してもよい。例えば、図6(A)の例において、あるタイミングtにおいて、赤外線画像撮像部210が撮像した赤外線画像を、図6(B)に示すIIM1とし、タイミング(t+1)に撮像した赤外線画像を図6(C)に示すIIM2とする。この場合には、まず赤外線画像IIM1を示す赤外線画像データを、第1の赤外線画像データとして記憶部に保存しておき、赤外線画像IIM2を示す赤外線画像データを取得した時点で、IIM2の赤外線画像データを第2の赤外線画像データとして、第1の赤外線画像データと比較する。その結果、本例では、赤外線画像IIM1には、監視対象物が何も映っていないが、赤外線画像IIM2には、侵入者IV2らしき姿が確認されたとする。この場合には、図6(A)において、タイミングtでは、監視エリア外の位置P1にいた人物IVが、タイミング(t+1)までの間に、位置P2に移動して監視エリア内に侵入したとして、この人物IVを侵入者IV2として認識する。そして、第1の赤外線画像データと第2の赤外線画像データとに差異があったと判断して、侵入者がいることを提示部230において提示する。
【0107】
これにより、第2処理モードが設定されている場合に、赤外線画像データのみを用いて、監視対象物を検出し、監視対象物が検出された場合には、ユーザーへ侵入者の存在を通知すること等が可能になる。
【0108】
また、処理部120は、振動検出情報に基づいて振動が非検出であると判定された場合には、赤外線画像撮像部210を動作オフ状態に設定し、所与の時間経過後に防犯用処理を行ってもよい。
【0109】
これにより、赤外線画像撮像部210を所与の時間動作オフ状態にすることができるため、電力の消費を抑えることが可能になる。これは例えば走行モードから防犯モードへの切り替わり時等に行われることが想定される。つまり、切り替わり前まではユーザーが車両の近く(実際には車両の中)にいると考えられる。よって、モード切り替わり時にはユーザーが車両や住居等の近くにいるため、システムによる防犯用処理は必ずしも優先度が高くない。そのような場合に一定時間赤外線画像撮像部210を動作オフ状態にしても、特に支障はないと考えられる。
【0110】
また、防犯用処理は住居防犯処理と車両防犯処理を有してもよい。そして、処理部120は、使用処理モードが第2処理モードに設定されており、住居防犯処理の実行時に振動検出情報に基づいて振動が検出された場合には、防犯用処理として行う処理を住居防犯処理から車両防犯処理に切り替えてもよい。
【0111】
ここで、住居防犯処理とは、住居や施設等への侵入者等の検出を目的とする処理のこという。一方、車両防犯処理とは、車両盗難の検出等を目的とする処理のことをいう。
【0112】
これにより、住居防犯処理を行いつつ、車両が盗難にあった可能性がある時には、車両防犯処理を行うこと等が可能になる。これは、住居等を監視している際中に、車両自体が盗難にあってしまう場合を想定している。具体的には、住居防犯処理が実行されている場合において、振動が検出された(車両が走行している可能性がある)場合には、車両が盗難にあった可能性が高い。つまり、停止(駐車)して防犯用処理による監視を始めているのに、正規の手続きを取らずに車両を走行させたという状況を持って、その場合の運転者はユーザーではなく窃盗を行ったものを想定していることになる。
【0113】
また、処理部120は、赤外線画像撮像部210が住居防犯用の位置又は方向に設定されているときに振動検出情報に基づいて振動が検出された場合には、防犯用処理として車両防犯処理を行ってもよい。
【0114】
これにより、車両が盗難にあった可能性がある時には、車両防犯処理を行うこと等が可能になる。車両が停止(駐車)して防犯用処理による監視を始めているのに、正規の手続きを取らずに車両を走行させたという状況に基づいて、車両防犯処理を実行するという点では上述したケースと同様である。ただし、車両が停止していることを、使用処理モード及び防犯用処理の処理内容から判定するのではなく、赤外線画像撮像部210の位置又は方向から判定してもよい。具体的には、図7(A)に示すような場合である。図7(A)には、本来P1の地点で、車両CAに搭載された車載カメラシステムが、住居防犯処理を行って、住居の周辺を監視していたが、盗難者によって車両CAが盗難され、住居防犯処理を終了させないまま、走り去っていってしまった様子を示している。このような場合には、住居防犯処理を継続する必要はなく、車両盗難への対策を講じる必要がある。
【0115】
ここで、住居防犯用の位置又は方向とは、例えば、住居や施設等のドアや窓などユーザーが監視したい場所を撮像することが可能な赤外線画像撮像部210の位置又は方向である。住居防犯用の位置又は方向は、あらかじめ記憶部150等に複数の組み合わせが記憶されており、ユーザーがセレクタスイッチ等を操作して特定し、車載カメラ制御装置100の制御によって、自動で赤外線画像撮像部210を移動させてもよい。他にも、ユーザーが手動で赤外線画像撮像部210の位置又は方向を動かして、配置し、車載カメラ制御装置100に、配置が完了したことを入力してもよい。
【0116】
具体例を図6(A)に示す。図6(A)は、第2処理モード(防犯モード)が設定されている場合の処理の様子を表すものであり、車両CAが住居の前の駐車上に駐車されている様子を示している。図6(A)では、住居等へ侵入者が侵入する可能性が高いドアDRや窓WDを撮像が撮像できるように、赤外線画像撮像部210の位置及び方向が調整されている。
【0117】
また、処理部120は、住居防犯処理では可視画像撮像部220を動作オフ状態に設定し、車両防犯処理では可視画像撮像部220を動作オン状態に設定してもよい。
【0118】
これにより、住居防犯処理が実行されている場合に、不要な可視画像撮像部220を動作オフ状態にし、消費電力を抑える一方で、車両防犯処理では可視画像撮像部220を動作オン状態にして、現在車両が位置する場所を撮像し、ユーザーに提示すること等が可能になる。車両が盗難にあった場合には、ユーザー等に車両の現在位置を通知する必要がある。そのためには、一見して場所の判別がつきやすい可視画像の方が、赤外線画像よりも有用であるためである。具体例を図7(B)に示す。可視画像撮像部220を動作オン状態に設定することで、図7(B)に示したような可視画像を取得することが可能になる。可視画像撮像部220が車両に設けられている以上、取得される可視画像は車両の現在位置に対応した位置(例えば車両の前方等)を撮像した画像となる。よって、可視画像を取得することにより、盗難された車両の位置を推定することができる。特に、図7(B)のように地名や施設等を表す看板などが撮像されていれば、容易に位置を特定することが可能である。なお、取得した可視画像を車両内のディスプレイに表示しても、ユーザー等に伝わることが無く利点は少ない。よってこの場合には、何らかの通信手段を用いて外部機器に対して可視画像の情報を送信することが望ましい。外部機器としては例えば、ユーザーの所有する携帯電話等が考えられる。また、車載カメラシステムが通信手段を有する場合には、外部機器に対して送信される情報は可視画像に限定されるものではなく、図7(C)に示したように文字情報であってもよい。
【0119】
また、振動検出部(例えばセンサー240)は、画像取得部110で取得される画像において生じる、車両走行時の振動による画像ブレの補正用の振動検出部であってもよい。そして処理部120は、振動検出部からの振動検出情報に基づいて、使用処理モードの設定処理を行う。
【0120】
これにより、共通の振動検出部(センサー240)を用いて、使用処理モードの設定処理(例えば第1処理モードに設定するか第2処理モードに設定するかの判定、つまり例えば走行状態か否かの判定等)とともに、画像ブレの補正を行うことが可能になる。図2に示したように、赤外線画像撮像部210も可視画像撮像部220も車両に搭載される。そのため、車両が振動すると撮像部も振動することになり、取得する画像にもブレが生じることになる。ブレが生じた画像はユーザーにとって見づらい画像となるため、ブレを補正することが好ましい。この際、ブレが車両の振動により生じていることが想定されるため、振動の程度がわかれば画像ブレ補正が可能になる。使用処理モードの設定処理用の振動検出部は、撮像部と同様に車両に搭載されているため、撮像部における振動を検出することができるのであるから、当該振動検出部を画像ブレ補正においても用いることが可能である。これにより、2つの処理においてそれぞれ別の振動検出部を用意する必要が無くなるため、構成を簡略化することができる。
【0121】
また、振動検出部は、車両を駆動するモーターの振動を検出してもよい。
【0122】
これにより、振動検出部によりモーターの振動を検出することが可能になる。例えばガソリン等を用いた動力と、電力とを併用するハイブリッドカー等において、電力により駆動する電動モーターに振動検出部を設けることで、モーターの振動を検出する。車両の走行時には、エンジンが駆動することによる振動や、路面から受ける振動等、複数の要因による振動が生じるが、振動検出部をモーターに設置することにより、モーターの駆動による振動を検出することができる。例えば、モーターは大きなトルクが必要な発進時・加速時に用いることが考えられ、その場合には大きな動力を得るために激しく振動する。これは、速度が十分得られた後の走行時とは明確に区別が可能である。よって、振動検出部によりモーターの振動を検出することで、車両が走行中か否かだけでなく、発進・加速時なのか否かの判定を行うことができることになり、発進・加速時とそれ以外とで異なる使用処理モードを設定し、それぞれに応じた適切な処理を行うことも可能になる。
【0123】
なお、本実施形態の車載カメラ制御装置等は、プログラムにより実現してもよい。この場合には、CPU等のプロセッサーがプログラムを実行することで、本実施形態の車載カメラ制御装置等が実現される。具体的には情報記憶媒体に記憶されたプログラムが読み出され、読み出されたプログラムをCPU等のプロセッサーが実行する。ここで、情報記憶媒体(コンピューターにより読み取り可能な媒体)は、プログラムやデータなどを格納するものであり、その機能は、光ディスク(DVD、CD等)、HDD(ハードディスクドライブ)、或いはメモリー(カード型メモリー、ROM等)などにより実現できる。そしてCPU等のプロセッサーは、情報記憶媒体に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体には、本実施形態の各部としてコンピューター(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピューターに実行させるためのプログラム)が記憶される。
【0124】
3.処理の流れ
以下では、図8のフローチャートを用いて、本実施形態の処理の流れについて説明する。なお、ここでは第1処理モード及び第2処理モードとして、走行モード及び防犯モードを想定している。
【0125】
まず、ステップ1(S1)において、処理に必要なパラメータの初期設定を行う。次に、ステップ2(S2)において、車体の状態を把握するために、車体の振動を検出する。もし振動を検出したならば、車体が走行中又は停車中であり、振動が検出されなければ、駐車中と判断する。
【0126】
車体の振動を検出した場合、赤外線画像撮像部210により車体進行方向前方を撮像して、熱画像を処理領域に取り込む(S3)。ここで、赤外線画像撮像部210は、検出対象物として人体を含めて考える場合には、8〜12μmの遠赤外線波長域に感度を有するものであれば良く、より遠距離の感度を得るため、焦電型赤外線センサーカメラであればなおさら良い。
【0127】
そして、ステップ4(S4)において、可視画像撮像部220により車体進行方向前方を撮像して、可視画像を処理領域に取り込む。ここで、可視画像撮像部220は、撮像素子としてCCDやCMOSを用いているもので良く、また、白黒カメラでもカラーカメラでも構わない。可視画像は、白黒カメラを使う場合は濃淡画像、カラーカメラを使う場合は色画像である。本実施形態では、可視画像撮像部220として、色情報が取得できるカラーカメラを用いた場合について説明する。なお、ステップ3(S3)およびステップ4(S4)の順序は、ステップ間の間隔が短ければ、どちらが先でも構わない。また、場合によっては両方を並列に処理してしまうことも可能である。
【0128】
次に、ステップ5(S5)では、ステップ3(S3)で得られた熱画像から候補領域を抽出する。すなわち、対象物の特徴を表す温度領域を塊として抽出する。本実施形態においては、検出対象物を先行車および歩行者(人物)として説明するものとする。これ以外のものを検出の対象とする場合には、その対象が有する温度情報を特徴量として、それぞれ本ステップにおいて処理対象に加えればよい。
【0129】
まず、先行車体の場合は、マフラー領域が100℃程度の高温になることを利用して、熱画像中から例えば80℃以上の温度情報を有する領域を探索して、その領域の位置情報と温度情報を検出する。一方、歩行者の場合は、露出している顔の表面温度が30℃程度の中温になることを利用して、熱画像中から例えば30℃程度の温度情報を有する領域を探索して、その領域の位置情報と温度情報を検出する。ここで、各領域で検出される結果のうち、位置情報としては例えば塊の重心座標位置とすればよく、温度情報としては例えば塊の平均温度とすればよい。そして、ステップ6(S6)では、ステップ5(S5)で得られた各領域の位置情報と温度情報を対応付けした位置および温度リストを作成して以降の処理に進む。
【0130】
次に、ステップ7(S7)では、ステップ6(S6)で作成したリストに基づいて、検出対象である先行車や歩行者の特徴量を示す温度情報が抽出されているかどうかを判定する。リスト内に対象物の候補が一つも抽出されていない場合には、今回の赤外線画像撮像部210による撮像画像の中には検出対象である先行車や歩行者が存在しないものと判断して、次回の処理のためにステップ3(S3)に戻る。一方、リスト内に対象物の候補が一つ以上抽出されている場合には次のステップ(S8)に進んで、可視画像中からの対象物の検出を行う。
【0131】
そして、ステップ8(S8)では、ステップ6(S6)で作成したリストに基づいて、対象物の検出処理を行う検出領域を可視画像中に設定する。次に、ステップ9(S9)では、ステップ8(S8)で設定した検出領域について、テンプレートマッチング処理に用いるテンプレートを選択する。このテンプレート選択処理について、図9を用いて説明する。
【0132】
まず、ステップ801(S801)において、ステップ6(S6)で作成したリストの温度情報に基づいて、以降の処理で用いるためのテンプレート候補を選択する。具体的には、その候補領域の平均温度情報±ΔTの範囲内の値を持つテンプレートを一つの候補領域内での対象物検出に用いるテンプレート候補とするものである。先行車存在候補領域に用いるテンプレートとして選択されるのは、例えばテンプレートがもつ温度情報が100±3℃となる。ただし、高温部分については、通常の走行環境内では特殊な存在であるため、あらかじめ例えば80℃以上の領域をテンプレートとして選択しても良い。一方、歩行者存在候補領域に用いるテンプレートとして選択されるのは、例えばテンプレートがもつ温度情報が28±3℃となる。高温部分については、外気温の影響を受けること等を考えると、同一の物体でも所定の範囲では温度が変化することを考慮する必要がある。また、今回の例では中温情報を有する対象物を歩行者としているが、例えば動物(犬等)と区別するためには、本ステップで動物のテンプレートも候補として選択されてもよい。
【0133】
次に、ステップ802(S802)において、ステップ7(S7)で設定された検出領域毎に、可視画像から特徴量として濃度情報(濃淡情報)および色情報を抽出する。例えば白黒カメラの場合は、濃度情報のみになるが、濃度情報から平均濃度値や濃度ヒストグラムのピークを有する濃度値、またはエッジ情報を利用して、検出領域内の対象物の大きさや種類を推定できる特徴量を抽出するようにすればよい。また、例えばカラーカメラの場合は、濃度情報に加えて色情報が得られるので、検出領域内に先行車体のテールランプに相当する赤い領域が存在するかどうか等を抽出するようにすればよい。
【0134】
そして、ステップ803(S803)において、ステップ801(S801)およびステップ802(S802)の結果に基づいて、可視画像中に設定された検出領域毎に最適なテンプレートを決定し、テンプレートを用いて、可視画像中でテンプレートマッチング処理を行う。
【0135】
すなわち、図8のステップ10(S10)では、ステップ8(S8)で選択されたテンプレートを用いて、可視画像中でテンプレートマッチング処理を行い、各検出領域内での最終的な対象物の有無およびその位置を検出する。ステップ9(S9)において、先行車存在候補領域については車体テンプレートが選択され、歩行者存在候補領域については人テンプレートが選択されている。本ステップでは、先行車存在候補領域から先行車を検出する場合には、車体テンプレートを用いて、先行車存在候補領域と車体テンプレートでの濃度値(濃淡値)の相関演算によって先行車体の有無とその詳細な位置を検出する。また、歩行者存在候補領域から歩行者を検出する場合には、歩行者存在候補領域と人テンプレートでの濃度値の相関演算によって歩行者の有無とその詳細な位置を検出する。本実施形態では、テンプレートマッチング処理を濃度値での相関演算で行っているが、これに限定されるものではなく、例えばエッジ画像をテンプレートとして持っておき、この相関値で最終的な対象物の有無とその位置を検出するようにしても構わない。
【0136】
次に、ステップ11(S11)では、ステップ6(S6)で作成されたリストにある領域の全てに対して検出処理が行われたかどうかを判定する。リストにある領域全ての処理が終了していなければ、処理領域を切り替えるために、ステップ8(S8)に戻り、検出領域の設定を行う。リストにある領域全ての処理が終了していれば、それまでの処理結果を出力するために次のステップへ進む。
【0137】
最後に、ステップ12(S12)では、提示部230等に対して検出結果を出力して、次回以降の処理を行うためにステップ2(S2)へ戻る。具体的には、例えばステアリングやアクセルやブレーキ等の制御を行うために、又は例えば歩行者の有無や衝突危険性などの警報を発するため、本処理の検出結果を警報又は画像として提示部230において提示する。
【0138】
次に、車体が住居に停車し、住居の防犯に使用する方法について、説明する。ステップ2(S2)において、もし振動がなければ、停車中と判断され、ステップ13(S13)において、赤外線カメラ及び可視カメラの駆動が停止される。ステップ14(S14)において、赤外線カメラのみを、事前に設定された画像取得領域を撮像可能な状態になるように回転させる。また、赤外線カメラは手動にて向きが設定されてもよい。ステップ15(S15)及びステップ16(S16)において、タイマーが設定され、一定時間経過後、赤外線カメラが駆動し、設定された前方を撮像し、熱画像の初期画面を取得する(S17)。タイマーが設定されているのは、赤外線カメラを住居に向けて設定しても、すぐに画像を取得する必要はなく、一定時間経過に画像取得を開始しても十分警戒が可能であるからである。
【0139】
また通常は、住居の防犯を検知する場所としては、窓及び扉等が考えられる。ここで、侵入者として人を検知する場合には、8〜12μmの遠赤外線波長域に感度を有するものであればよく、車体設置の赤外線カメラと共用可能であって問題はない。さらに、車体の走行途中の歩行者の検知に比べ、住居の防犯の検知は、背景画像が固定であり、侵入者の有無だけを検知するだけで良いため、画像処理が非常に簡単にすむ。また、撮像時間も、侵入者の動きも歩行者にくらべ遅いため、間引き撮像が可能で、撮像時の電気消費量も少なくすむ。
【0140】
そして、ステップ17(S17)において、一定時間経過後、赤外線カメラにより前方を撮像し、画像を取り込む。ここで、赤外線カメラの感度は落としても構わない。車体と目的物(窓・扉)の距離も近いこと、背景部と侵入者の画像の重なりによる、輪郭のボケも少ないことの理由によるものである。さらにステップ18(S18)において、時刻t+iでの熱画像を取り込む。
【0141】
次に、ステップ19(S19)では、ステップ17(S17)で得られた熱画像とステップ18(S18)の熱画像の温度特徴量の比較を行う。一般に、侵入者の場合は、露出している顔の表面温度が30℃程度の中温になることを利用して、熱画像中から例えば30℃程度の温度情報を有する領域を探索して、温度情報の有無を検出する。もし、温度情報が無であれば、ステップ21(S21)において、赤外線カメラが初期位置(走行時に用いられる歩行者検出位置)であるかの判定し、初期値でなければ侵入者検出位置にある、つまり防犯モードによる処理を行っているということであるから、防犯処理を継続し、再度数秒後熱画像を撮像する。
【0142】
ステップ21(S21)で、赤外線カメラが初期位置に変更されていれば、ステップ1(S1)に戻り、初期の設定から始められる。また、ステップ19(S19)において、2つの熱画像の比較処理から、侵入者の表面温度30℃程度の領域を検出できたなら、ステップ20(S20)では、提示部230等に対して検出結果を出力して、次回以降の処理を行うステップ1(S1)へ戻る。
【0143】
この構成であれば、深夜の車両盗難が発生した場合、ステップ19(S19)にて、画像の差異が大幅に出るため、提示部230や外部に接続されている機器に対して、検出結果が出力され、車両の窃盗を検知可能である。また、盗難後はS2において振動が検出されることが想定され、その場合走行モードでの処理が行われることから、赤外線カメラがリセットされ、可視カメラと赤外線カメラが同時に駆動し、現在走行位置に対応する可視画像等を取得することが可能である。なお、上述したように可視画像は外部機器に対して送信されることが望ましい。
【0144】
以上のように本実施形態について詳細に説明したが、本発明の新規事項及び効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また、車載カメラ制御装置、車載カメラ制御システム及び車載カメラシステムの構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
【符号の説明】
【0145】
100 車載カメラ制御装置、110 画像取得部、120 処理部、
130 振動検出情報取得部、150 記憶部、200 車載カメラシステム、
210 赤外線画像撮像部、220 可視画像撮像部、230 提示部、
240 センサー、410 赤外線カメラ、420 電動モーター、
430 可視カメラ、440 電動モーター、460 ジャイロセンサー、
470 メモリー、490 ディスプレイ

【特許請求の範囲】
【請求項1】
赤外線画像データを赤外線画像撮像部から取得する画像取得部と、
振動検出部からの振動検出情報を取得する振動検出情報取得部と、
前記赤外線画像データに基づく処理を行う処理部と、
を含み、
前記処理部は、
第1処理モードと、前記第1処理モードより前記赤外線画像データに基づく処理の実行レートが低い第2処理モードを含む複数の処理モードのうちから、前記振動検出情報に基づき1つの処理モードを使用処理モードとして設定し、設定された前記使用処理モードに従って、前記赤外線画像データに基づいて対象物の検出処理を実行することを特徴とする車載カメラ制御装置。
【請求項2】
請求項1において、
前記処理部は、
前記振動検出情報に基づいて振動が非検出であると判定された場合には、前記使用処理モードを前記第2処理モードに設定し、前記赤外線画像データに基づく防犯用処理を行うことを特徴とする車載カメラ制御装置。
【請求項3】
請求項2において、
前記処理部は、
前記振動検出情報に基づいて振動が検出されたと判定された場合には、前記使用処理モードを前記第1処理モードに設定し、前記赤外線画像データに基づいて前記対象物が検出されたか否かを表すアラート表示情報を生成し、前記アラート表示情報を含む表示用画像データを生成することを特徴とする車載カメラ制御装置。
【請求項4】
請求項3において、
前記画像取得部は、
可視画像データを可視画像撮像部から取得し、
前記処理部は、
前記可視画像データに対して前記アラート表示情報を付加することで、前記表示用画像データを生成することを特徴とする車載カメラ制御装置。
【請求項5】
請求項4において、
前記処理部は、
前記振動検出情報に基づいて振動が非検出であると判定された場合には、前記可視画像撮像部を動作オフ状態又は省電力状態に設定することを特徴とする車載カメラ制御装置。
【請求項6】
請求項1乃至5のいずれかにおいて、
前記処理部は、
前記使用処理モードが前記第2処理モードに設定されている場合には、前記使用処理モードが前記第1処理モードに設定されている場合に比べて、前記画像取得部における前記赤外線画像データの取得レートを低く設定することを特徴とする車載カメラ制御装置。
【請求項7】
請求項1乃至6のいずれかにおいて、
前記画像取得部は、
前記使用処理モードが前記第2処理モードに設定されている場合には、前記使用処理モードが前記第1処理モードに設定されている場合とは異なる位置又は方向に設定された前記赤外線画像撮像部により前記赤外線画像データを取得することを特徴とする車載カメラ制御装置。
【請求項8】
請求項1乃至7のいずれかにおいて、
前記処理部は、
前記使用処理モードが前記第2処理モードに設定されている場合に、前記使用処理モードが前記第1処理モードに設定されている場合に用いられるテンプレートを用いて前記対象物の検出処理を行うことを特徴とする車載カメラ制御装置。
【請求項9】
請求項2乃至8のいずれかにおいて、
前記画像取得部は、
所与の時間間隔ごとに前記赤外線画像データを取得し、
前記処理部は、
第1のタイミングで取得された第1の赤外線画像データと、前記第1のタイミングとは異なる第2のタイミングで取得された第2の赤外線画像データとの比較処理を含む前記防犯用処理を行うことを特徴とする車載カメラ制御装置。
【請求項10】
請求項2乃至9のいずれかにおいて、
前記処理部は、
前記振動検出情報に基づいて振動が非検出であると判定された場合には、前記赤外線画像撮像部を動作オフ状態に設定し、所与の時間経過後に前記防犯用処理を行うことを特徴とする車載カメラ制御装置。
【請求項11】
請求項2乃至10のいずれかにおいて、
前記防犯用処理は、住居防犯処理と、車両防犯処理を有し、
前記処理部は、
前記使用処理モードが前記第2処理モードに設定されて、前記防犯用処理として前記住居防犯処理を実行中に前記振動検出情報に基づいて振動が検出されたと判定された場合には、前記防犯用処理を前記車両防犯処理に切り替えることを特徴とする車載カメラ制御装置。
【請求項12】
請求項11において、
前記処理部は、
前記赤外線画像撮像部が住居防犯用の位置又は方向に設定されており、且つ、前記振動検出情報に基づいて振動が検出されたと判定された場合には、前記防犯用処理として前記車両防犯処理を実行することを特徴とする車載カメラ制御装置。
【請求項13】
請求項11又は12において、
前記画像取得部は、
可視画像データを可視画像撮像部から取得し、
前記処理部は、
前記住居防犯処理では前記可視画像撮像部を動作オフ状態に設定し、前記車両防犯処理では前記可視画像撮像部を動作オン状態に設定することを特徴とする車載カメラ制御装置。
【請求項14】
請求項1乃至13のいずれかにおいて、
前記振動検出部は、
前記画像取得部で取得される画像において生じる、車両の走行時の振動による画像ブレの補正用の振動検出部であり、
前記処理部は、
前記振動検出部からの前記振動検出情報に基づいて前記使用処理モードの設定処理を行うことを特徴とする車載カメラ制御装置。
【請求項15】
請求項1乃至14のいずれかにおいて、
前記振動検出部は、
車両を駆動するモーターの振動を検出することを特徴とする車載カメラ制御装置。
【請求項16】
赤外線画像データを赤外線画像撮像部から取得する画像取得部と、
振動検出部からの振動検出情報を取得する振動検出情報取得部と、
前記赤外線画像データに基づく処理を行う処理部と、
を含み、
前記処理部は、
第1処理モードと、前記第1処理モードより前記赤外線画像データに基づく処理の実行レートが低い第2処理モードを含む複数の処理モードのうちから、前記振動検出情報に基づき1つの処理モードを使用処理モードとして設定し、設定された前記使用処理モードに従って、前記赤外線画像データに基づいて対象物の検出処理を実行することを特徴とする車載カメラ制御システム。
【請求項17】
請求項1乃至15のいずれかに記載の車載カメラ制御装置と前記赤外線画像撮像部を含むことを特徴とする車載カメラシステム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図5】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図4】
image rotate

【図6】
image rotate


【公開番号】特開2013−41483(P2013−41483A)
【公開日】平成25年2月28日(2013.2.28)
【国際特許分類】
【出願番号】特願2011−178729(P2011−178729)
【出願日】平成23年8月18日(2011.8.18)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】