説明

照明の劣化による画像認識精度低下を軽減する方法、装置およびシステム

【課題】LED照明は徐々に劣化するので交換時期を逸しがちで、画像認識を利用したシステム用の照明として利用する際に、運用上の問題になっていた。
【解決手段】LED照明を点灯して撮影した画像の輝度をもとにLED照明の光量を算出し、画像認識に必要な最低限の光量を示す輝度標準値A、および画像の輝度を補正してから画像認識処理を行っても十分な精度を得られない光量を示す輝度限界値Bと比較する(B<A)。LED照明の光量がA未満ならLED照明が劣化しているというアラーム、B未満ならLED照明の交換時期になったというアラームを出す。また、LED照明の光量がA未満のとき、撮影した画像の輝度を補正してから画像認識処理を行う。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、照明を当てて撮影した画像に対して画像認識処理を行う方法、装置およびシステムに関する。
【背景技術】
【0002】
夜間、あるいは暗い場所において、照明を当てて対象を撮影し、撮像装置からの出力画像に対する画像認識処理を行うシステムが知られている。例えば、車両が有する特定の文字パターンを画像認識処理により認識する車両監視システムでは、十分な日射のある昼間は日射光を利用して撮影するが、日射のない夜間などは照明装置を利用して撮影する。しかし、車両監視システムにおいて可視光線の照明装置を利用すると、車両の運転者を眩惑させることがあるので危険である。そこで、照明の発光を目立たなくするために、人間の目には見えない近赤外光を発する近赤外LED(Light Emitting Diode;発光ダイオード)照明が利用されている。他の監視システムでも同様な照明が利用されている。もちろん、近赤外光の照明を利用するのに合わせ、撮像装置も近赤外光に感度を有するものを利用している。
【0003】
ところで、LEDは点灯時間によって例えば2年から3年程度の寿命があり、定期的な交換が必要である。
従来技術でも、LEDを設置してからの経過時間や、LEDの夜間輝度の変化により、LED照明の交換時期を判定しアラームを出力する技術がある。しかし、LEDは電球のように突然発光しなくなるのではなく、徐々に光量が落ちていく特性を有する。そのため、アラーム出力後も監視システムの夜間認識精度が急激には悪化せず、多少精度が悪化した状態ながらも継続して使用することができる。このため、システムを利用する人間に「まだLED照明を交換しなくても構わない、このまましばらくシステムを使える」といった甘えが生じやすく、結果としてLED照明の交換時期が遅れがちだった。そして、交換時期を逸した結果、気づいた時には認識装置や監視システムとしての基本性能が維持できなくなっているといった弊害があった。
【0004】
また、各種監視システムでは、LED照明を含む撮像装置が路上など屋外に設置されている場合が多いので、LED照明の交換を思いたってから実際に交換を実施するまでには、道路使用許可申請等の各種手続きや機器類の準備期間などのために相当の期間が必要である。そのため、交換時期になってからアラームが出力されるのでは、実運用上、間に合わないことが多い。
【0005】
特許文献1には、LEDなどの照明装置の劣化に応じて画像認識処理を行う装置が開示されている。この装置は、プリント回路基板の製造において、光源から光を照射して製造途中の基板を撮像し、その画像から得られる測定値を基準値と比較することによって基板の検査を行う場合に、光源の状態に応じて検査を行う装置である。この検査装置は、検査をしていない時にセンサを用いて光源状態(光量など)を測定し、光源状態の測定値にもとづいて、光源の交換時期を通知したり、検査時に用いる画像の測定値や基準値を補正するための補正値を算出したりする。補正値にもとづいて検査が行われるため、光源の劣化に合わせて適切な検査が行われる。
【0006】
しかし、特許文献1の装置は、基板の検査という本来の動作とは別に光源状態を測定する必要があり、そのために別途センサも必要としているのでコストもかかる。
【特許文献1】特開2005−17123号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
本発明の課題は、LEDなどの照明装置を用いて撮影した画像に対する画像認識処理を行う場合に、照明装置の劣化による画像認識精度低下の軽減を図るとともに、照明装置の劣化の各段階に応じて適切な情報出力を行うことができる装置およびシステムを提供することである。
【課題を解決するための手段】
【0008】
図1はLEDの劣化の特性を示す特性図である。図1の縦軸はLEDの光量、横軸は時間を示す。図1に示すように、LEDは時間とともに徐々に劣化して光量が落ちる特性がある。つまり、劣化の度合いは光量により示される。夜間などの十分な光のない環境でLED照明を当てて撮影した画像に対して画像認識処理を行う場合、LEDの光量の減少につれて、認識精度も徐々に悪化する。なお、以下ではLED照明について述べるが、図1のように徐々に劣化する特性の照明なら、LEDに限らず本発明の対象となる。
【0009】
図1のグラフを時間軸に沿って見ると、最初のうちは画像認識処理で一定の認識精度を保つのに必要な光量が得られるが、LEDの劣化とともに、LEDの光量は、画像認識処理で一定の認識精度を保つのに必要な最低限の光量を示す輝度標準値(以後、Aとする)を下回るようになる。よって、LEDの光量が輝度標準値Aを下回ってからも当該LEDを使い続けると、次第に画像認識の精度が悪化していく。ただし、輝度標準値A未満の光量しかなくても、ある程度の光量があれば、画像の輝度を補正してから画像認識処理を行うことにより、この悪化の度合いを軽減することができる。つまり、輝度標準値Aでの「最低限の光量」とは、補正せずに一定の認識精度を保って画像認識処理を行うのに必要な最低限の光量という意味である。しかし、時間とともにLEDの劣化がさらに進むと、所望の精度での画像認識処理を可能にする有効な補正を行うことができない水準である輝度限界値(以後、Bとする)にまでLEDの光量が落ちる。輝度限界値B未満の光量しか得られなくなったLEDは、交換するしかない。
【0010】
以後、図1のグラフでLEDの光量が輝度標準値Aになった時点を輝度補正開始時点C、LEDの光量が輝度限界値Bになった時点を交換時期Dとよぶ。輝度補正開始時点Cは従来のシステムでのLEDの寿命に該当する。
【0011】
本発明では、LED照明を当てて撮影した画像に対して画像認識処理を行う際、まず、図1のLEDの光量(劣化の度合い)を、当該画像の輝度をもとに算出する。そして、算出したLEDの光量を輝度標準値Aおよび輝度限界値Bと比較し、算出したLEDの光量が輝度標準値A以上のときは、LEDが正常であることを示す第一の範囲に該当すると判定して従来と同様の画像認識処理を行う。算出したLEDの光量が輝度標準値A未満で輝度限界値B以上のときは、LEDが劣化しているが交換は不要であることを示す第二の範囲に該当すると判定して、画像の輝度を補正する輝度補正処理を行ってから画像認識処理を行う(図1の斜線部は、有効な輝度補正処理の範囲を示している)。なお、補正を行っている間もLEDの劣化は進行するので、いずれは交換時期Dに達してLEDの光量が輝度限界値Bを下回り、補正後の画像に対して画像認識処理を行っても満足な認識結果が得られなくなってLEDの交換が必要となる。よって、算出したLEDの光量が輝度限界値B未満のときは、劣化が進み交換が必要であることを示す第三の範囲に該当すると判定する。
【0012】
さらに、本発明では、必要に応じてLEDの劣化の度合いに関する情報を出力する。例えば、LEDの光量が輝度標準値A以上のときはLEDが正常である旨を出力してもよく、輝度標準値A未満で輝度限界値B以上のときはLEDが劣化している旨や輝度限界値Bに達するまでの時間(現時点から交換時期Dまでの時間)の予測値を出力してもよく、輝度限界値B未満のときはLEDの交換時期Dになった旨を出力してもよい。また、これらの情報は、上記の比較や画像認識処理を行う装置自体の表示部などに直接出力してもよく、当該装置のデータ送信部に出力し、ネットワークを介して他の装置に送信してもよい。
【0013】
また、上記で「未満」および「以上」という言葉を使って説明したが、これらを「以下」および「より大きい」に変えて実施してもよい。
【発明の効果】
【0014】
本発明によれば、撮影した画像の輝度にもとづいてLEDの劣化の度合いを判定し、必要に応じて輝度補正処理を行うことにより、LEDの光量が輝度標準値A未満になったときの認識精度の低下を軽減することができる。従来はLEDの光量が輝度標準値A未満となった輝度補正開始時点CがLEDの寿命(交換時期)だったが、LEDの交換時期を逸してしまい、認識精度が落ちたままLEDを使い続けることがあった。しかし、本発明では、補正により認識精度の低下を軽減するとともに、光量が輝度限界値B未満になる時点まで交換時期Dを延ばしている。
【0015】
また、本発明によれば、LEDの劣化の各段階に応じた情報が出力されるため、システムを運用する人間は、適切な時期に適切な情報を知ることができ、LEDの交換の準備および実施を適切な時期に行うことができる。
【0016】
また、本発明は、もともとの目的である画像認識処理のために撮影した画像を利用してLEDの劣化の度合いを判定するため、既存の監視システムに別途センサ等の装置を追加したり、追加の画像を撮影したりせずに実施することが可能である。よって、既存のシステムからの移行コストが少ない。さらに、実際に撮影した画像の輝度にもとづいてLEDの劣化の度合いが判定されるので、個々のLEDの性能のばらつきや、置かれた環境の違いに合わせた判定が可能である。
【発明を実施するための最良の形態】
【0017】
以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。
図2は、本発明の一実施形態における車両監視システムで利用される装置を説明する図である。本実施形態における車両監視システムは、道路1上を走行する車両2を撮像装置3のカメラ4で撮影した画像に対して、認識装置6が画像認識処理を行うことにより、車両2が有する特定文字パターンを認識し、車両2を監視する。夜間など撮影のための光が十分でないときも特定文字パターンを認識可能とするために、撮像装置3はLED照明5を備えており、必要に応じて点灯する。本発明による認識装置6は、従来の車両監視システムと同様の画像認識処理と認識結果の通知を行うほかに、LED照明5の劣化の度合いの判定も行い、場合に応じて輝度補正処理やアラームなどの情報の出力も行う。本実施形態では、撮像装置3および認識装置6は屋外に設置されている。
【0018】
夜間等にLED照明5の発光により車両2の運転者を眩惑させると危険なので、LED照明5は人間の目には見えない近赤外光を利用した照明装置であり、それに合わせて、カメラ4は近赤外光に感度を有するものを利用している。日射光にも近赤外光は含まれているため、晴天の昼間など十分な日射があるときはLED照明5を消灯した状態でカメラ4により撮影すればよい。なお、本実施形態では、近赤外光による撮像によって、グレイスケールの輝度画像を得ている。
【0019】
図3は、本発明の一実施形態における車両監視システムを説明する図である。図3の右側は図2と同様で、道路1上を走行する車両2を撮像装置3のカメラ4で撮影した画像に対して、認識装置6が画像認識処理を行う。撮像装置3はLED照明5を備えており、夜間など画像認識に必要な光がないときはLED照明5を照射して撮影する。
【0020】
本発明による認識装置6は、従来と同様の画像認識処理に加えて、撮影した画像の輝度をもとにLED照明5の劣化の度合い(つまりLED照明5の光量)を算出し、図1の輝度標準値Aや輝度限界値Bと比較し、必要に応じて輝度補正処理を行うとともに、ネットワーク7を介してアラームなどの情報をセンタ装置8に送信する。アラームとしては、LED照明5の交換が必要な場合(LED照明5の光量が輝度限界値B未満の場合)の「交換アラーム」、LED照明5が劣化している場合(LED照明5の光量が輝度標準値A未満の場合)の「劣化アラーム」、劣化アラームが出された場合の交換アラーム発生までに予測される時間(つまり現時点から図1の交換時期Dまでの残り時間の予測値)、を通知することが好ましい。
【0021】
しかし、実施の形態によっては、これら全てを通知しなくてもよい。例えば、交換アラーム発生までの予測時間のみを通知することとしてもよい。この場合、予測時間が通知されていなければ正常と判断し、予測時間が通知されていれば劣化と判断し、予測時間が0に近ければ交換時期Dに達したと推測することが可能である。また、LED照明5の交換の準備等にそれほど時間を要さない実施形態においては、交換アラームのみを通知するのでもシステム運用上の問題は少ない。ただし、例えば劣化アラームを通知しない場合であっても、認識装置6は輝度補正処理を行う。
【0022】
撮像装置3と認識装置6の組を複数地点に設置する場合、これら複数地点の認識装置6を管理するセンタ装置8を設け、それぞれの認識装置6からネットワーク7を介してセンタ装置8にアラーム情報を伝送することが望ましい。センタ装置8は制御処理部9と表示部10とを有する。制御処理部9は、センタ装置8の全体を制御するのものであり、例えば、表示部10への表示指示を行ったり、ネットワーク7を介した通信の制御を行ったりする。ネットワーク7を介して伝送されたアラーム情報の内容は、表示部10に表示される。表示部10は、例えば、特定のランプの点滅や点灯によってアラームの内容を表してもよく、文字や画像によりアラームの内容を表してもよい。また、実施の形態によっては、音声出力によりアラームの内容を表してもよい。車両監視システムの管理者などは、表示されたアラームにより、その時点でなすべき行動を把握することができる。
【0023】
例えば、劣化アラームは、LED照明5を交換するための諸手続き(道路使用許可申請など)や交換用機器の準備を開始するためのトリガとして利用可能である。また、劣化アラーム発生時に通知される交換アラーム発生までの予測時間は、それらの諸手続きや準備のスケジュール管理に利用することができる。そして、交換アラームは、夜間などに特定文字パターンの認識が全くできないといったシステム障害が起きており、即時のLED照明5の交換が必要だという緊急の通知として利用可能である。なお、緊急度は交換アラームの方が劣化アラームよりも上なので、以下では交換アラームをメジャーアラーム、劣化アラームをマイナーアラームともいう。
【0024】
つまり、これらのアラーム情報は、実際のシステム運用の段取りと適合した、段階に応じた内容となっている。そのため、車両監視システムの管理者などは、LED照明5の交換時期を逸さず、適切な時期に適切な行動をとることが可能となる。
【0025】
図4は、本発明の車両監視システムで利用される装置(撮像装置3、認識装置6、センタ装置8)の一実施形態における構成を示すブロック図である。
撮像装置3は、上記のごとく、近赤外線に感度を有しグレイスケールの輝度画像を撮影するカメラ4と、近赤外光を発するLED照明5を備える。また、撮像装置3は、明るさに応じてカメラ4のレンズの絞り(アイリス)を制御するとともに、例えば、アイリスを全開にするときにはLED照明5を点灯するよう、LED照明5の点灯・消灯も制御している。撮像装置3と認識装置6は、有線または無線の通信手段により接続されており、カメラ4で撮影した画像は認識装置6の画像処理部11に送られる。
【0026】
認識装置6は、画像処理部11、輝度測定部12、輝度判定部13、LEDアラーム伝送部14を有する。図4では機能別のブロックに分けて示してあるが、実施の形態によっては、例えば共通のマイクロプロセッサとRAM(Random Access Memory)などのメモリを利用して画像処理部11、輝度測定部12、輝度判定部13を実現してもよい。つまり、認識装置6がROM(Read Only Memory)などの不揮発性メモリを備え、そこに格納されたプログラムをマイクロプロセッサにロードして実行することにより、画像処理部11、輝度測定部12、輝度判定部13の機能を実現し、LEDアラーム伝送部14を制御してもよい。この場合、認識装置6の製造段階でプログラムを認識装置6に組み込んでもよく、既存の認識装置に対し、例えばセンタ装置8からネットワーク7を介してプログラムを送信して既存のプログラムを上書き更新することにより、本発明の認識装置6を実現してもよい。
【0027】
晴天の昼間など、十分な日射がありLED照明5を点灯しない場合は、認識装置6の動作は従来と同様である。つまり、画像処理部11で画像認識処理を行って特定文字パターンを認識し、その結果をLEDアラーム伝送部14から送出する。以下では、夜間などでLED照明5を点灯している場合の動作について主に述べる。
【0028】
夜間などにLED照明5を点灯した状態でカメラ4により撮影された画像を画像処理部11が受け取ると、輝度測定部12がその画像の輝度を測定し、測定した輝度にもとづいてLED照明5の光量を算出する。算出したLED照明5の光量にもとづいて輝度判定部13がLED照明5の劣化の度合いを判定する。画像処理部11は判定結果に応じて、輝度補正処理を行ってから画像認識処理を行うか、輝度補正処理を行わないまま画像認識処理を行う。画像認識処理による特定文字パターンの認識結果および、輝度判定部13でLED照明5が劣化していると判定された場合のアラームは、LEDアラーム伝送部14から送出される。
【0029】
特定文字パターンの認識結果やアラームは、ネットワーク7を介してセンタ装置8に送られ、センタ装置8の送受信部15で受信される。センタ装置8は制御処理部9と表示部10も有している。表示部10は送受信部15が受信したアラームなどを表示する。送受信部15は、上記受信のほか、受信確認メッセージの送信などにも利用される。制御処理部9は、表示や通信などの制御を行う。
【0030】
図5は、本発明の一実施形態において認識装置6が行う処理のフローチャートである。図5は、例えば夜間などのLED照明5の点灯時に実行される処理を示している。また、図5のフローチャートの処理は、画像1枚ごとに実行される。例えば、カメラ4が1秒間に30フレームの撮像を行う動画撮像装置の場合、図5の処理は1秒間に30回実行される。
【0031】
ステップS101では、カメラ4で撮影した画像を画像処理部11に取り込み、ステップS102に移行する。カメラ4が動画撮像装置の場合は1フレーム分の画像がステップS101で取り込まれ、カメラ4が静止画像撮像装置の場合は、1回の撮像によって得られた1枚の画像がステップS101で取り込まれる。
【0032】
ステップS102では、画像処理部11が、取り込んだ画像から動体を検出し、ステップS103に移行する。車両監視システムでは、車両等が動体に該当する。動体の検出には任意の画像処理手法を利用することができる。
【0033】
ステップS103では、ステップS102で動体が検出されたか否かを画像処理部11が判定する。動体が検出された場合、判定が「YES」となってステップS104に移行し、動体が検出されなかった場合、判定が「NO」となって処理を終了する。
【0034】
ステップS104では、検出した動体から特定文字パターンに対応する領域(以後、特定文字パターン領域という)を画像処理部11が抽出し、ステップS105に移行する。特定文字パターン領域の抽出には任意の画像処理手法を利用することができる。なお、カメラ4のレンズや設置角度などを適切に選ぶことにより、撮影対象範囲を所望の範囲に限定することが可能である、よって以下では、ステップS104で抽出されるのは高々車両1台分のみの特定文字パターン領域であるものとして説明する。
【0035】
ステップS105では、ステップS104で特定文字パターン領域が抽出されたか否かを画像処理部11が判定する。特定文字パターン領域が見つかって抽出された場合、判定が「YES」となってステップS106に移行し、特定文字パターン領域が抽出されなかった場合、判定が「NO」となって処理を終了する。
【0036】
ステップS106では、輝度測定部12が、当該画像の輝度を示す値を算出する。LED照明5を点灯するのは主に夜間なので、この値を以下では夜間輝度といい、xで表す。本実施形態では、ステップS104で抽出された特定文字パターン領域に含まれる各画素の輝度の平均値を算出して夜間輝度xとする。
【0037】
また、図5の処理は前述のように繰り返し実行されるが、本実施形態では、ステップS107で利用するために、ステップS106の直近の100回の実行において算出された夜間輝度を認識装置6のメモリなどに保存している。そのため、ステップS106では輝度測定部12がさらに、保存されているうちの最古の夜間輝度を削除し、代わりに今回のステップS106の実行で算出した最新の夜間輝度xを、輝度測定部12が使用する認識装置6のメモリなどに保存する。保存後、ステップS107に移行する。
【0038】
ステップS107では、ステップS106で算出した夜間輝度xを含む最新の車両100台分の夜間輝度の平均値である夜間平均輝度mを輝度測定部12が算出する。本実施形態では、夜間平均輝度mを、LED照明5の光量(つまりLED照明5の劣化の度合い)を示す値として利用する。夜間平均輝度mの算出後、ステップS108に移行する。
【0039】
ステップS108では、輝度判定部13が、夜間平均輝度mを輝度標準値Aおよび輝度限界値Bと比較する。上記のとおり、輝度標準値Aは、撮像装置3で撮影した画像そのものに対して特定文字パターンを認識するための画像認識処理を行い、一定の認識精度を保つのに必要なLED照明5の光量の最小値である。また、輝度限界値Bは、撮像装置3で撮影した画像に対する輝度補正処理を行った場合に、補正処理後の画像を使って特定文字パターンを認識することが可能なLED照明5の光量の最小値である。輝度標準値Aおよび輝度限界値Bの値は、輝度判定部13に予め設定されている(画像処理部11、輝度測定部12、輝度判定部13が共通のプロセッサにより実現されている実施形態の場合は、認識装置6が備える共通のROM等に輝度標準値Aおよび輝度限界値Bの値が記録されていてもよい)。また、輝度標準値A>輝度限界値Bである。比較後、ステップS109に移行する。
【0040】
ステップS109では、輝度限界値Bが夜間平均輝度mより大きいか否かを輝度判定部13が判定する。B>mのとき判定が「YES」となり、ステップS110に移行する。B≦mのとき判定が「NO」となりステップS111に移行する。
【0041】
ステップS110は、輝度限界Bを夜間平均輝度mが下回っていた場合に実行される。このとき、図1から分かるように、輝度補正による効果が得られないほど、LEDの劣化が進んでいると輝度判定部13が判断する。そして、交換アラーム(メジャーアラーム)を輝度判定部13がLEDアラーム伝送部14に出力し、LEDアラーム伝送部14がネットワーク7を介してセンタ装置8に交換アラームを送信する。その後、ステップS113に移行する。
【0042】
ステップS111は、輝度限界値Bが夜間平均輝度m以下のときに実行される。ステップS111では、輝度標準値Aが夜間平均輝度mより大きいか否かを輝度判定部13が判定する。A>mのとき判定が「YES」となりステップS112に移行する。A≦mのとき判定が「NO」となりステップS114に移行する。
【0043】
ステップS112は、B≦m<Aのときに実行される。つまり、輝度標準値Aを夜間平均輝度mが下回っていた場合なので、輝度判定部13は、LEDの劣化が発生していると判断する。ただし、まだ夜間平均輝度mは輝度限界B以上なので、交換アラームを出力する代わりに、LEDの劣化発生を知らせる劣化アラームをLEDアラーム伝送部14に出力する。また、夜間平均輝度mが輝度限界B未満になるまでの時間(つまり交換時期Dまでの猶予期間)をLEDの劣化の特性から予測して、その予測時間もLEDアラーム伝送部14に出力する。LEDアラーム伝送部14は受け取った劣化アラームと予測時間を、ネットワーク7を介してセンタ装置8に伝送する。その後、ステップS113に移行する。
【0044】
なお、交換アラーム発生までの予測時間は、実施の形態によって様々な方法で算出することができる。例えば、複数のLED照明について予め実測により図1に相当するデータを収集しておき(データベース化してもよい)、それらデータをもとに統計的な手法により、当該LED照明5の現在の夜間輝度xから交換時期Dまでの平均的な猶予時間を算出してもよい。あるいは、図1のグラフを複数のパラメタにより表される曲線であると見なし、当該LED照明5に関する今までの夜間輝度の実測値から、例えば最小2乗法によりそれらのパラメタを推測して、夜間輝度が輝度限界値Bになる時点を算出することにより、LED照明5を交換すべき時期を予測してもよい。
【0045】
ステップS113は、ステップS109でm<Bと判定された場合と、ステップS111でm<Aと判定された場合(B≦m<Aの場合)に実行される。つまり、夜間平均輝度mが輝度標準値A未満のときは常に実行される。ステップS113では、LEDの劣化が特定文字パターンの認識に与える悪影響を軽減するため、特定文字パターン領域の輝度補正処理を画像処理部11が実施する。ここで、輝度補正処理とは、画像の輝度分布を分析して画像の輝度を補正する処理のことであり、公知の技術を利用することができる。
【0046】
これにより、LED照明5が劣化して十分な光量が得られない場合に、もとの暗い画像を補正し、暗い画像に対して画像認識処理を行うよりも良い認識精度で画像認識を行うことができる。ただし、輝度補正処理は、あくまでも認識精度の低下を軽減するためのものであって、認識精度を維持または向上させるものではない。一般的に、光量以外の条件を同じにして同じ対象物を撮影した場合、輝度補正処理後の画像にはノイズが含まれるため、光量不足で撮影された画像を輝度補正処理した画像に対する認識精度は、十分な光量のもとで撮影された画像そのものに対する認識精度よりも低い。しかし、光量不足で撮影された画像そのものに対して画像認識処理を行うよりは、輝度補正処理後の画像に対して画像認識処理を行う方が認識精度は良いため、本発明ではm<Aのとき輝度補正処理を行っている。
【0047】
なお、夜間平均輝度mが輝度限界値B未満の場合、輝度限界値Bの定義から、たとえステップS113で輝度補正処理を行っても、その後、特定文字パターンをうまく認識することができる保証は全くない。しかし、本実施形態では、m<Bの場合も、「何もしないよりはまし、駄目でもともと」という考えにしたがい、輝度補正処理(ステップS113)およびその後の画像認識処理(ステップS114からステップS116)を行う。輝度補正処理の実行後、ステップS114に移行する。
【0048】
ステップS114からステップS116は、特定文字パターンを認識するステップである。
ところで、本実施形態では、車両2が有する特定文字パターン領域には特定のパターンにしたがって文字が並んでおり、特定文字パターン領域はそのパターンを構成する複数のブロックに分割することができ、各ブロックは1文字または特定の組み合わせの複数文字を含む、と仮定している。
【0049】
ステップS114では、ステップS104で抽出した特定文字パターン領域の中から、画像処理部11がそのようなブロックを1つ抽出する。なお、抽出には任意の画像認識手法を利用することができる。
【0050】
なお、上記の処理の流れから分かるように、夜間平均輝度mが輝度標準値A以上の場合(m≧A>BなのでステップS109でNOとなり、S111でNOとなった場合)は、LEDが劣化しておらず正常な場合である。この場合、輝度補正処理やアラーム通知処理は行わず、ステップS104で検出した特定文字パターン領域そのものに対してステップS114からステップS116の処理(特定文字パターンを認識する処理)を行う。
【0051】
一方、夜間平均輝度mが輝度標準値Aを下回る場合(ステップS109でB>mと判定された場合またはステップS111でA>mと判定された場合)は、ステップS113で輝度補正処理された後の画像に対して、ステップS114からステップS116の処理を行う。
【0052】
ステップS114でブロックを1つ抽出したら、ステップS115に移行する。
ステップS115では、画像処理部11が、ステップS114で抽出したブロックに含まれる文字をパターンマッチング等の手法により認識し、認識した文字をコード化する。ここでコード化とは、特定文字パターンをデータとして表現し、伝送するときの特定のフォーマットに沿ったデジタルデータを生成することを意味している。コード化の後、ステップS116に移行する。
【0053】
ステップS116では、特定文字パターン領域の全てのブロックを抽出してそこに含まれる全ての文字をコード化したか否かを画像処理部11が判定する。つまり、特定文字パターンを全てコード化したか否かを判定する。全ての抽出およびコード化が終了していれば判定が「YES」となり処理を終了する。まだ抽出およびコード化が終了していないブロックが残っていれば、判定が「NO」となってステップS114に戻る。つまり、ステップS114からステップS116のループは、特定文字パターンが全てコード化されるまで繰り返し実行される。
【0054】
以上のようにして図5の処理を終了すると、次の画像に対して再び図5の処理が実行される。また、図5のステップS114からステップS116で求めたコード化された特定文字パターンは、LEDアラーム伝送部14に送られ、ネットワーク7を介してセンタ装置8に送信される。
【0055】
なお、図5の処理のうち、ステップS101からステップS105およびステップS114からステップS116は、従来の車両監視システムと同様の処理である。つまり、本発明の特徴はステップS106からステップS113の処理を行う点である。しかし、これらの処理には、もともとの目的である特定文字パターンの認識のために撮影した画像(ステップS101で取り込んだ画像)を利用しており、何かを別途撮影したり、そのためにセンサ等の装置を別途設けたりする必要がない。この点は本発明の利点の一つである。
【0056】
なお、図5の処理では、夜間輝度xが輝度標準値A未満であっても、夜間平均輝度mが輝度標準値A以上となる場合は、当該画像に対して輝度補正処理を行っていない。その理由は、LEDが劣化していないのに偶発的に(例えば動画のうちある1フレームの画像でのみ)夜間の光量が落ちるということがほとんどないので、処理を簡単化するためである。一般に、偶発的な要因で急に光量が落ちるのは、急に雲や大型車により日光が遮られた場合などであり、主に昼間に生じる現象である。一方、夜間に近赤外光の光量の変動要因となるのは街灯や車両のヘッドライトくらいしかなく、実運用においては基本的に夜間の撮影はLED照明5のみで必要な光量を確保することが前提であるため、LEDが劣化していなければ、偶発的な要因により特定文字パターンの認識に必要な光量が得られないということはほとんど起こらない。
【0057】
ところで、一般に、個別の値の代わりに平均値などの統計値を利用して判断するのは、偶発的な揺れの影響を防ぐためである。しかし、上記のように夜間における近赤外光の光量は安定しており、偶発的な揺れの影響がほとんどないにもかかわらず、図5の処理では夜間輝度x自体ではなく夜間平均輝度mを輝度標準値Aや輝度限界値Bと比較している(ステップS108)。その理由は、光量の揺れよりもむしろ、画像認識処理の誤認識を原因とする夜間輝度xの揺れを吸収するためである。
【0058】
図5のステップS104で、実際には特定文字パターン領域に該当しない領域を画像処理部11が誤って抽出してしまうことがある。例えば、車両2のグリルやヘッドライトに相当する領域が誤って特定文字パターン領域として抽出されることがある。その場合、実際には特定文字パターンではない部分の画像の輝度がステップS106で夜間輝度xとして算出されてしまう。偶然そのように誤って算出された夜間輝度xにもとづいてLED照明5の劣化の度合いを判定するのは不適切である。よって、ステップS107で夜間平均輝度mを算出し、夜間平均輝度mにもとづいてステップS108、S109、S111の判定を行うことにより、誤認識を原因とする夜間輝度xの揺れの影響を少なくしている。また、夜間は上記のごとく偶発的に光量が落ちることはほとんどないが、逆に、対向車のヘッドライトなどにより偶発的に光量が増すことがある。夜間輝度xのかわりに夜間平均輝度mを利用して判断するのは、このように偶然、夜間輝度xが増した場合の影響を少なくするためでもある。
【0059】
以上の理由により、輝度補正処理を行うか否かの判断には、夜間輝度xではなく夜間平均輝度mを用いている。
なお、本発明は上記の実施形態に限られるものではなく、様々に変形可能である。以下にその例をいくつか述べる。
【0060】
図4では、輝度判定部13からLEDアラーム伝送部14へ向かう矢印があり、これは図5のステップS110およびステップS112で説明したとおり、アラームを輝度判定部13からLEDアラーム伝送部14に出力することを示している。しかし、他の実施形態では、輝度判定部13からLEDアラーム伝送部14に直接アラームを出力するのではなく、画像処理部11を介して出力してもよい。いずれの場合も、輝度判定部13における判定結果は輝度補正処理の有無を判定するために画像処理部11に送られる必要があり、特定文字パターンの認識結果を示すコードは画像処理部11からLEDアラーム伝送部14に送られる必要がある。よって、情報(アラームと認識結果のコード)を一旦画像処理部11に集約してからLEDアラーム伝送部14に出力することも可能である。
【0061】
図5のステップS106では、特定文字パターン領域に含まれる各画素の輝度の平均値を算出して夜間輝度として利用している。しかし、夜間輝度は、当該画像の所定の領域内の各画素の輝度にもとづくものであれば、実施の形態に応じて様々な算出方法を採用することができる。例えば、特定文字パターン領域ではなく、画像全体の画素の輝度にもとづいて算出してもよく、平均値以外の何らかの統計量を用いて算出してもよい。
【0062】
図5のステップS107では、直近の車両100台分の夜間輝度xの平均から、LED照明5の劣化の度合いを示す値としての夜間平均輝度mを算出している。しかし、実施の形態によっては、100台ではなく任意の数の夜間輝度xの平均を夜間平均輝度mとして利用してもよく、平均値以外の統計量(最頻値など)を採用してもよい。また、上記ではカメラ4は動画カメラであるとしたが、静止画像を継続的に撮影するカメラの場合でも、同様に、例えば直近の100台分の夜間輝度xの平均から夜間平均輝度mを算出することができる。
【0063】
図5のステップS108では、夜間平均輝度mを輝度標準値Aや輝度限界値Bと比較している。しかし、例えば画像処理部11が行うステップS104の特定文字パターン領域の抽出精度が非常に高い場合など、実施の形態によっては、ステップS106で算出した当該画像の夜間輝度x自体を輝度標準値Aや輝度限界値Bと比較してもよい(つまり、夜間輝度x自体をLED照明5の劣化の度合いを示す値として用いてもよい)。
【0064】
また、他の実施形態では、図5のステップS107、S108、S109、S111のかわりに、直近の車両100台分の夜間輝度xのうち、いくつが輝度標準値A未満で、いくつが輝度限界値B未満か、などの分布にもとづいてアラームを出すか否かの判定を行ってもよい。例えば、100台のうち90台以上で夜間輝度xが輝度標準値B未満ならメジャーアラームを通知する、などとしてもよい。また、例えば、100台のうち100台すべてで夜間輝度xが輝度標準値A未満ならマイナーアラームを通知することにすれば、継続的に夜間輝度xが輝度標準値Aを下回っているか否かによって判定することが可能である。
【0065】
図5のステップS109ではB>mか否かを判定しているが、B≧mか否かを判定してもよい。同様に、ステップS111ではA>mか否かではなく、A≧mか否かを判定してもよい。
【0066】
図5では、ステップS111でA>mと判定されるたびに、ステップS112において劣化アラーム(マイナーアラーム)を通知している。しかし、ステップS112の実行のたびに通知するのではなく、24時間ごとや1週間ごとなど、一定期間ごとに通知してもよい。また、その場合も、認識装置6からセンタ装置8への伝送をそれら一定期間ごとに行ってもよく、伝送はステップS112の実行のたびに行いセンタ装置8の表示部10での表示のみ一定期間ごとに行ってもよい。同様に、ステップS110の交換アラーム(メジャーアラーム)を一定期間ごとに通知してもよい。ただし、メジャーアラームの方がマイナーアラームよりも緊急度が高いことを考慮して、マイナーアラームを通知する間隔よりも短い間隔にすることが望ましい。
【0067】
図5では、ステップS109でB>mと判定されたときのみ、ステップS110で交換アラーム(メジャーアラーム)を通知している。しかし、ある画像に対して図5の処理を実行したときにB≦m<Aとなり、ステップS112で交換時期Dまでの時間を予測した場合、その時点からその予測時間が経過した時に、交換アラームをさらに通知してもよい。あるいは、ステップS112で予測した交換時期Dまでの時間が所定の閾値以下のとき、ステップS112で劣化アラームのかわりに交換アラームを通知してもよい。
【0068】
また、図5では、ステップS110およびS112のアラームの通知と、コード化された特定文字パターン(つまり認識結果)の通知を別のタイミングで行うように説明したが、他の実施形態では、アラームと認識結果をまとめてLEDアラーム伝送部14から伝送してもよい。
【0069】
上記のとおり、図5は夜間などLED照明5を点灯しているときの処理を示した図である。一方、晴天の昼間などLED照明5を点灯しない場合の処理は、図5のステップS101からステップS105とステップS114からステップS116からなる処理に相当する。よって、ある実施形態では、まずLED照明5を点灯するか否かの判定を行い、点灯の場合は図5の処理を呼び出し、点灯しない場合は図5のステップS101からステップS105とステップS114からステップS116からなる処理を行う。別の実施形態では、図5のステップS105とステップS106の間でLED照明5を点灯するか否かを判定し、点灯の場合はステップS106に移行し、消灯の場合はステップS114に移行する。いずれにしても、LED照明5を点灯する場合は図5の処理が実行される。
【0070】
実施の形態によっては、図3や図4のセンタ装置8を有さないシステムでも構わない。この場合は、アラームランプや表示画面などのユーザインタフェースを備えた認識装置6を利用し、認識装置6のユーザインタフェースを通じてアラームを通知する(アラームランプを点灯または点滅させたり、表示画面に文字や画像を表示したりする)。システム管理者等の人間は、各所に設置した認識装置6を定期的に見回るなどしてLED照明5の劣化を知ることができる。センタ装置8の有無は、図5のステップS110とステップS112のアラームの通知方法および図5には不図示の認識処理結果の通知方法に影響するだけであり、他のステップで行う処理はセンタ装置8の有無によらず同様である。
【0071】
図3や図4のセンタ装置8を有するシステムでは、図5のステップS112で交換時期Dまでの時間を予測するのに必要なデータベースなどをセンタ装置8に備えておき、ステップS112で、認識装置6の輝度判定部13とセンタ装置8が、LEDアラーム伝送部14、ネットワーク7、および送受信部15を介して通信することにより、交換時期Dまでの時間を予測してもよい。
【0072】
また、上記の実施形態では照明装置として近赤外光を発するLED照明5を利用しているが、これ以外の照明装置でも、図1と同様に徐々に劣化する特性のものであれば、上記と同様にして、画像認識精度の低下を軽減するとともに適切な時期に適切な情報を出力することが可能である。また、上記の実施形態ではカメラ4ではグレイスケールの画像を撮像するとして説明したが、カラー画像を撮像する撮像装置であってもかまわない。また、車両監視システム以外の用途でも本発明を実施することは可能である。
【0073】
なお、システムの重要度や運用状況に合わせて輝度標準値Aや輝度限界値Bの値を認識装置6の輝度判定部13に設定することが望ましい。これらの値を大きめに設定しておけば、図1から分かるように、アラームが通知される時期は早くなる。逆に、これらの値を小さめに設定しておけば、アラームが通知される時期は遅くなる。例えば、重要なシステムではこれらの値を大きめに設定して早めにLED照明5の交換準備および交換実施を行うといった運用が可能である。
【0074】
(付記1)
発光素子照明を用いて撮影された対象物の画像に含まれる特定文字パターンを認識することにより対象物監視を行うプログラムであって、
前記発光素子照明の点灯時に撮影された前記画像の輝度を測定し、測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出する輝度測定ステップと、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定する輝度判定ステップと、
前記第一の範囲に該当する場合は前記画像に対して前記特定文字パターンを認識する認識処理を行い、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行う画像処理ステップと、
前記劣化の度合いに関する情報を出力するアラーム出力ステップと、
をコンピュータに実行させることを特徴とするプログラム。
(付記2)
発光素子照明を用いて撮影された対象物の画像に含まれる特定文字パターンを認識することにより対象物監視を行う方法であって、
前記発光素子照明の点灯時に撮影された前記画像の輝度を測定し、
測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出し、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定し、
前記第一の範囲に該当する場合は前記画像に対して前記特定文字パターンを認識する認識処理を行い、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行い、
前記劣化の度合いに関する情報を出力する、
ことを特徴とする方法。
(付記3)
前記劣化の度合いに関する前記情報は、前記第一の範囲に該当するか否か、前記第三の範囲に該当するか否か、前記発光素子照明の交換時期までの残り時間の予測値、のうち少なくとも一つを含むことを特徴とする付記2に記載の方法。
(付記4)
前記第三の範囲に該当する場合も、前記画像に対する輝度補正処理を行ってから前記認識処理を行うことを特徴とする付記2に記載の方法。
(付記5)
前記発光素子照明の点灯時に撮影された前記画像のうち直近に撮影された所定数の画像の前記輝度も、前記劣化の度合いの算出に利用することを特徴とする付記2に記載の方法。
(付記6)
前記発光素子照明は発光ダイオード照明であり、前記対象物は車両であることを特徴とする付記2に記載の方法。
(付記7)
発光素子照明を用いて撮影された対象物の画像に含まれる特定文字パターンを認識することにより対象物監視を行う認識装置であって、
前記発光素子照明の点灯時に撮影された前記画像の輝度を測定し、測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出する輝度測定部と、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定する輝度判定部と、
前記第一の範囲に該当する場合は前記画像に対して前記特定文字パターンを認識する認識処理を行い、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行う画像処理部と、
前記劣化の度合いに関する情報を出力するアラーム出力部と、
を備えることを特徴とする認識装置。
(付記8)
付記7に記載の認識装置および対象物監視センタ装置を含む対象物監視システムであって、
前記認識装置は、ネットワークを介してデータ送信を行う送信部をさらに有し、
前記認識装置の前記アラーム出力部は、前記送信部に前記情報を出力して前記ネットワークを介して該情報を前記対象物監視センタ装置に送信させ、
前記対象物監視センタ装置は、受信した前記情報を出力する、
ことを特徴とする対象物監視システム。
(付記9)
対象物の監視を行うプログラムであって、
発光素子照明の点灯時に前記対象物を撮影した画像の輝度を測定し、測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出する輝度測定ステップと、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定する輝度判定ステップと、
前記第一の範囲に該当する場合は前記画像に含まれる特定文字パターンを認識する認識処理を行うことにより前記対象物を監視し、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行うことにより前記対象物を監視する画像処理ステップと、
前記劣化の度合いに関する情報を出力するアラーム出力ステップと、
をコンピュータに実行させることを特徴とするプログラム。
(付記10)
照明装置を用いて撮影された画像に対する画像認識処理を行う方法であって、
前記照明装置の点灯時に撮影された前記画像にもとづいて前記照明装置の劣化の度合いを判定し、
劣化と判定した場合は、前記画像に対して前記照明装置の劣化を補うための補正処理を行ってから前記画像認識処理を行い、劣化と判定しなかった場合は、前記画像に対して前記画像認識処理を行い、
前記劣化の度合いに関する情報を出力する、
ことを特徴とする方法。
【図面の簡単な説明】
【0075】
【図1】LEDの劣化の特性を示す特性図である。
【図2】本発明の一実施形態における車両監視システムで利用される装置を説明する図である。
【図3】本発明の一実施形態における車両監視システムを説明する図である。
【図4】本発明の車両監視システムで利用される装置の一実施形態における構成を示すブロック図である。
【図5】本発明の一実施形態において認識装置が行う処理のフローチャートである。
【符号の説明】
【0076】
1 道路
2 車両
3 撮像装置
4 カメラ
5 LED照明
6 認識装置
7 ネットワーク
8 センタ装置
9 制御処理部
10 表示部
11 画像処理部
12 輝度測定部
13 輝度判定部
14 LEDアラーム伝送部
15 送受信部

【特許請求の範囲】
【請求項1】
発光素子照明を用いて撮影された対象物の画像に含まれる特定文字パターンを認識することにより対象物監視を行うプログラムであって、
前記発光素子照明の点灯時に撮影された前記画像の輝度を測定し、測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出する輝度測定ステップと、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定する輝度判定ステップと、
前記第一の範囲に該当する場合は前記画像に対して前記特定文字パターンを認識する認識処理を行い、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行う画像処理ステップと、
前記劣化の度合いに関する情報を出力するアラーム出力ステップと、
をコンピュータに実行させることを特徴とするプログラム。
【請求項2】
発光素子照明を用いて撮影された対象物の画像に含まれる特定文字パターンを認識することにより対象物監視を行う方法であって、
前記発光素子照明の点灯時に撮影された前記画像の輝度を測定し、
測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出し、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定し、
前記第一の範囲に該当する場合は前記画像に対して前記特定文字パターンを認識する認識処理を行い、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行い、
前記劣化の度合いに関する情報を出力する、
ことを特徴とする方法。
【請求項3】
前記劣化の度合いに関する前記情報は、前記第一の範囲に該当するか否か、前記第三の範囲に該当するか否か、前記発光素子照明の交換時期までの残り時間の予測値、のうち少なくとも一つを含むことを特徴とする請求項2に記載の方法。
【請求項4】
発光素子照明を用いて撮影された対象物の画像に含まれる特定文字パターンを認識することにより対象物監視を行う認識装置であって、
前記発光素子照明の点灯時に撮影された前記画像の輝度を測定し、測定した前記輝度にもとづいて前記発光素子照明の劣化の度合いを算出する輝度測定部と、
該劣化の度合いが、正常を示す第一の範囲、劣化しているが交換は不要であることを示す第二の範囲、劣化が進み交換が必要であることを示す第三の範囲のいずれに該当するかを判定する輝度判定部と、
前記第一の範囲に該当する場合は前記画像に対して前記特定文字パターンを認識する認識処理を行い、前記第二の範囲に該当する場合は前記画像に対する輝度補正処理を行ってから前記認識処理を行う画像処理部と、
前記劣化の度合いに関する情報を出力するアラーム出力部と、
を備えることを特徴とする認識装置。
【請求項5】
請求項4に記載の認識装置および対象物監視センタ装置を含む対象物監視システムであって、
前記認識装置は、ネットワークを介してデータ送信を行う送信部をさらに有し、
前記認識装置の前記アラーム出力部は、前記送信部に前記情報を出力して前記ネットワークを介して該情報を前記対象物監視センタ装置に送信させ、
前記対象物監視センタ装置は、受信した前記情報を出力する、
ことを特徴とする対象物監視システム。

【図4】
image rotate

【図5】
image rotate

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate


【公開番号】特開2007−265287(P2007−265287A)
【公開日】平成19年10月11日(2007.10.11)
【国際特許分類】
【出願番号】特願2006−92492(P2006−92492)
【出願日】平成18年3月29日(2006.3.29)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】