説明

画像処理装置

【課題】画像処理を施した画像と元の撮像画像との間にズレを生じさせずに両者を重畳することができる画像処理装置を提供する。
【解決手段】識別ID埋め込み部13が、画像に画像がカメラ30によって撮像された時刻を示す識別IDを画像に埋め込み、検知処理部16が、検知対象物が含まれている画像に画像処理を施し、検知結果重畳処理部24が、検知処理部16が画像処理を施した画像と、識別ID埋め込み部13が画像に埋め込んだ識別IDに係る時刻にカメラ30によって撮像された画像とを重畳する。これにより、画像の重畳を平均処理時間によらないで、識別IDの示す時刻に一対一で対応するよう重畳することができるため、画像処理を施した画像と元の撮像画像との間にズレを生じさせずに両者を重畳することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理装置に関し、特に、検知対象物が含まれている撮像した画像に画像処理を施し、元の撮像した画像と重畳する処理を行う画像処理装置に関する。
【背景技術】
【0002】
従来、自動車の暗視装置において歩行者の検知を行うことが提案されている。例えば、特許文献1では、自車両の周囲を撮影可能な赤外線カメラと、該赤外線カメラにより捉えられた画像から自車両の走行に影響を与える検知対象物を判定する画像処理部と、画像処理部により検知対象物が検知された場合に、自車両の運転席前方に配置された表示装置に、赤外線カメラにより撮影された映像及び検知対象物を示す歩行者検知枠等の強調映像を同時に重畳して表示する表示制御部とを備えた車両周辺表示装置が提案されている。このような装置では、検知対象物を判定して検知対象物を示す強調映像を重畳する処理の平均処理時間を求め、平均処理時間分だけドライバーへの表示が遅延された撮像画像上に強調映像を重畳するという処理を行っている。
【特許文献1】特開2004−364112号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかしながら、上記のような従来の技術では、検知対象物を判定して検知対象物を示す強調映像を重畳する実際の処理時間と平均処理時間との間に差異が生じると、検知対象物を示す強調映像が実際に検知対象物を撮像した画像とは異なる撮像画像上に重畳されてしまい、表示装置の画像表示にズレや違和感が生じてしまう問題がある。
【0004】
本発明は、かかる事情に鑑みてなされたものであり、その目的は、画像処理を施した画像と元の撮像画像との間にズレを生じさせずに両者を重畳することができる画像処理装置を提供することにある。
【課題を解決するための手段】
【0005】
本発明は、周囲の画像を撮像する撮像手段と、画像が撮像手段によって撮像された時刻を示す識別IDを画像に埋め込む識別ID埋め込み手段と、識別ID埋め込み手段により識別IDを埋め込まれた画像に画像処理を施す処理手段と、処理手段が画像処理を施す前後の画像であって、同じ時刻に係る識別IDを有している画像同士を重畳する重畳処理手段と、を備えた画像処理装置である。
【0006】
この構成によれば、識別ID埋め込み手段が、画像が撮像手段によって撮像された時刻を示す識別IDを画像に埋め込み、処理手段が、識別ID埋め込み手段により識別IDを埋め込まれた画像に画像処理を施し、重畳処理手段が、処理手段が画像処理を施す前後の画像であって、同じ時刻に係る識別IDを有している画像同士を重畳するため、画像の重畳を平均処理時間によらないで、識別IDの示す時刻に一対一で対応するよう重畳することができるため、画像処理を施した画像と元の撮像画像との間にズレを生じさせずに両者を重畳することができる。
【0007】
この場合、撮像手段はフレームごとに周囲の画像を撮像し、処理手段が画像を処理する時間が閾値以上の場合は、撮像手段が画像を撮像した時刻におけるフレームと、重畳処理手段が画像を重畳する時刻におけるフレームとの間にフレーム補間を行うフレーム補間手段をさらに備えることが好適である。
【0008】
この構成によれば、処理手段が画像を処理する時間が閾値以上の場合は、フレーム補間手段が、撮像手段が画像を撮像した時刻におけるフレームと、重畳処理手段が画像を重畳する時刻におけるフレームとの間にフレーム補間を行うため、処理手段の処理時間が長引いた場合であっても、フレーム補間により表示される画像に違和感が生じないようにすることができる。
【発明の効果】
【0009】
本発明の画像処理装置によれば、画像処理を施した画像と元の撮像画像との間にズレを生じさせずに両者を重畳することができる。
【発明を実施するための最良の形態】
【0010】
以下、本発明の実施の形態に係る画像処理装置について添付図面を参照して説明する。
【0011】
図1は、本実施形態に係る対象物検知装置の構成を示すブロック図である。本実施形態の対象物検知装置は、車載用の暗視装置等においてパターンマッチングにより対象物を検知してドライバーに強調表示をするための画像処理装置である。図1に示すように、本実施形態の対象物検知装置1は、映像分配・検知処理装置10、映像描画装置20、カメラ(撮像手段)30、画像キャプチャ装置31、予備フレームメモリ40及びモニタ50を備えている。
【0012】
カメラ30は、CCDあるいはCMOS等の半導体素子を用いた単眼カメラあるいはステレオカメラであり、10〜100msの周期でフレームごとに前方の画像を取得する。夜間における歩行者等の検知を重視するのであれば、カメラ30として暗視性能に優れた近赤外線カメラ、遠赤外線カメラを適用することができる。カメラ30により取得されたフレーム画像は、画像キャプチャ装置31に送られて、映像分配・検知処理装置10によって処理可能なデータ形式に変換される。
【0013】
映像分配・検知処理装置10は、ECU(Electric Control Unit)等のマイクロコンピュータのハードウェアおよびソフトウェアを利用して構成され、検知実施判定部(検知実施判定手段)11、識別ID付与部12、識別ID埋め込み部(識別ID埋め込み手段)13、映像分配部14、識別ID解読部15、検知処理部(処理手段)16及び検知結果送信部17を有する。
【0014】
検知実施判定部11は、カメラ30が画像を撮像した時点で、検知処理部16が検知処理を行っているか否かを判定するためのものである。例えば、カメラ30が33msごとの周期でフレーム画像を撮像する場合において、検知処理部16はその処理速度の関係から検知処理を3フレーム(100ms)ごとに行うものとすると、検知処理部16が検視処理を行っている間は、他のフレーム画像の検知処理を行うことはできないため、検知実施判定部11は、他のフレーム画像の検知処理を行うか否かを決定するため、検知処理部16からの情報により、検知処理部16が検知処理中であるか否かを判定する。
【0015】
識別ID付与部12は、画像がカメラ30により撮像された時刻と検知対象物であるか否かを示す識別IDを生成するためのものである。もし、検知処理部16が検知処理中であると検知実施判定部11が判定したときは、検知対象物ではない旨の識別IDを生成し、検知処理部16が検知処理ではないと検知実施判定部11が判定したときは、検知対象物である旨の識別IDを生成する。
【0016】
識別ID埋め込み部13は、識別IDを画像に埋め込むためのものである。図2は、歩行者検知画像に埋め込まれた識別IDを示す図である。図2の例では、歩行者検知画像100の右上隅に、画像が撮像された時刻を示すタイムスタンプ101と、検知対象であるか否かを示す検知対象判別値102とが付与されている。
【0017】
映像分配部14は、画像を識別ID解読部15と予備フレームメモリ40とに分配するためのものである。識別ID解読部15は、検知処理後の検知結果に識別IDを格納するために画像内に格納されている識別IDを読み取るためのものである。検知処理部16は、識別ID解読部15によって検知処理を行うことを決定された画像に対して、歩行者等の検知対象物を歩行者検知枠等で囲う、所定のシンボルを表示する等の検知処理(強調画像処理)を施すためのものである。検知結果送信部17は、検知処理を施した画像を映像描画装置20に送信するためのものである。
【0018】
予備フレームメモリ40は、映像分配・検知処理装置10の映像分配部14から識別IDを埋め込まれた画像を取得し、所定の時間だけ蓄積するためのものである。
【0019】
映像描画装置20は、映像分配・検知処理装置10と同様にECU等のマイクロコンピュータのハードウェアおよびソフトウェアを利用して構成され、結果待ち受け部21、重畳用画像対応付部22、フレーム補間部(フレーム補間手段)23、検知結果重畳処理部(重畳処理手段)24及び画像表示部25を有する。なお、映像分配・検知処理装置10、映像描画装置20及び呼びフレームメモリ40が一体化された構成としても良い。
【0020】
検知結果待ち受け部21は、映像分配・検知処理装置10の検知結果送信部17から検知処理を施された画像を取得するためのものである。重畳用画像対応付部22は、検知結果待ち受け部21と予備フレームメモリ40とから、同じ時刻のタイムスタンプ101を含む識別IDを付与された画像同士を対応つけるためのものである。
【0021】
フレーム補間部23は、映像分配・検知処理装置10の検知処理部16が検知対象物の含まれている画像を処理する時間が所定の閾値時間以上の場合に、カメラ30が検知対象物の含まれている画像を撮像した時刻におけるフレームと、検知結果重畳処理部24が画像を重畳する時刻におけるフレームとの間にフレーム補間を行うためのものである。
【0022】
検知結果重畳処理部24は、映像分配・検知処理装置10の検知処理部16が検知処理を施した画像と、映像分配・検知処理装置10の識別ID埋め込み部13が画像に埋め込んだ識別IDに係る時刻にカメラ30によって撮像された画像とを重畳するためのものである。画像表示部25は、検知結果重畳処理部24が重畳した画像をモニタ50に出力して、表示させるためのものである。
【0023】
モニタ50は、画像表示部25からの歩行者検知枠等が表示された画像をユーザに対して表示するためのものである。車載用の装置の場合は、一般的には、モニタ50には、液晶モニタやナビゲーション用モニタを適用することができる。
【0024】
次に、図3〜7を参照して、本実施形態の対象物検知装置1の動作について説明する。図3は、本実施形態に係る画像分配スレッドを示すフロー図である。図3に示すように、画像キャプチャ装置31がカメラ30からの画像を取得する(S101)。映像分配・検知処理装置10の検知実施判定部11は、フラグ監視や割り込み発生の有無によって映像分配・検知処理装置10の検知処理部16が検知処理中であるか否かを判断する(S102)。
【0025】
検知処理部16が検知処理中である場合は、新たな画像の検知処理は不可能であるため、映像分配・検知処理装置10の識別ID付与部12は現在時刻を取得し、検知対象判別値=OFFとして識別IDを作成する(S103、S104)。検知処理部16が検知処理中でない場合は、新たな画像の検知処理が可能であるため、識別ID付与部12は現在時刻を取得し、検知対象判別値=ONとして識別IDを作成する(S103、S105)。
【0026】
映像分配・検知処理装置10の識別ID埋め込み部13は、図2に示すように識別IDを画像の所定位置に埋め込む(S106)。映像分配・検知処理装置10の映像分配部14は、作成した画像を非同期で予備フレームメモリ40に送信(出力し)、予備フレームメモリ40に画像を蓄積する(S107)。逐次、同様の処理が繰り返される。
【0027】
図4は、本実施形態に係る検知スレッドを示すフロー図である。図4に示すように、映像分配・検知処理装置10の識別ID解読部15は、検知処理後の検知結果に識別IDを格納するために画像内に格納されている識別IDを読み取る(S201)。映像分配・検知処理装置10の検知処理部16は、歩行者等の検知対象物について歩行者検知枠等で囲う、所定のシンボルを表示する等の検知処理を行い、対象物の検知結果データに識別IDを格納する(S202)。映像分配・検知処理装置10の検知結果送信部17は、検知結果を映像描画装置20に送信(出力)する(S203)。
【0028】
図5は、本実施形態に係る検知結果待ち受けスレッドを示すフロー図である。図5に示すように、映像描画装置20の検知結果待ち受け部21は、映像分配・検知処理装置10の検知結果送信部17から対象物の検知結果の受信を待ち受ける(S301)。
【0029】
もし、検知結果が到着していなければ、検知結果待ち受け部21はステップS301を繰り返すとともに、後述のフレーム補間判断スレッドを行う(S302)。一方、検知結果が到着した場合は、映像描画装置20の重畳用画像対応付部22は、対象物の検知結果に格納されている識別IDと、予備フレームメモリ40に蓄積されている画像に格納されている識別IDとの照合を行う(S303)。
【0030】
映像描画装置20の検知結果重畳処理部24は、識別IDが合致した画像に対象物検知結果を重畳する(S304)。映像描画装置20の画像表示部25は、重畳処理済あるいは未処理の画像をモニタ50に出力する(S305)。この場合、後述のフレーム補間判断スレッドにおいて、フレーム挿入プロセスあるいはフレーム削除プロセスにおいて生成された情報も反映される。
【0031】
図6は、本実施形態に係るフレーム補間判断スレッドのフレーム挿入プロセスを示すフロー図である。この場合において、検知スレッドにおける検知処理終了を待っている状態であり、検知処理中につき、予備フレームメモリ40には現在、検知処理中の画像も含めて表示処理待ちの画像が格納されている。図6に示すように、検知結果待ち受けスレッドのステップS302において、検知結果の到着が遅れた場合、映像描画装置20のフレーム補間部23は、カメラ30のフレームレートで画像出力タイミングを計る(S401)。もし、今の検知処理開始前にフレームの挿入を実施した場合は、フレームの削除が必要となるため、フレーム補間部23は、後述するフレーム削除プロセスを行う(S402)。
【0032】
一方、今の検知処理開始前にフレームの挿入を実施していない場合であって、1検知処理中にフレームの挿入を実施していない場合は(S402、S403)、フレーム補間部23は、予備フレームメモリ40に既に格納されている画像の連続2フレーム(時系列であり、仮にFn−1,Fとする)を検査する(S404)。フレーム補間部23は、映像表示待ちの時系列連続2フレームFn−1,Fから識別IDを取得して参照し、「検知対象判断値」が、時系列連続2フレームFn−1,Fにおいて「OFF」から「ON」になっているか否かを判断する(S405)。つまり、表示待ちのフレームに対して、現在、検知処理中のフレーム(検知対象判断値がON)の直前のフレーム(検知対象判断値がOFF)の間に新しいフレームを挿入したいために、前述のような組み合わせのフレームが、予備フレームメモリ40内に存在するかどうかを確認する処理を行う。
【0033】
もし、「検知対象判断値」が「OFF」から「ON」になっていないときは、フレーム補間部23はフレームFn−1を描画対象とする旨の指令を画像表示部25に出し、画像表示部25はフレームFn−1をモニタ50に表示する(S406、S407、S305)。つまり、特にフレームの挿入は行わずに、時系列(待機順番)に従って表示を行う。
【0034】
一方、「検知対象判断値」が「OFF」から「ON」になっているときは、フレーム補間部23は、フレームFn−1とフレームFとの間でフレーム補間処理を行い、新たなフレーム画像NFを生成し、挿入する(S406)。ここで、Nは増減フレーム数を意味する。フレーム補間部23は、増減フレーム数Nをインクリメントし(S409)、フレームNFを描画対象とする旨の指令を画像表示部25に出し、画像表示部25はフレームNFをモニタ50に表示する(S410、S305)。
【0035】
もし、上述のステップS403において、1検知処理中にフレームの挿入を実施している場合は、フレーム補間部23は、「検知対象判断値」がONの最新画像、つまり現在検知中の画像と、フレームNFとの間でフレーム補間処理を行い、新たなフレーム画像NFn+1を作成する(S411)。フレーム補間部23は、増減フレーム数Nをインクリメントし(S409)、フレームNFn+1を描画対象とする旨の指令を画像表示部25に出し、画像表示部25はフレームNFn+1をモニタ50に表示する(S412、S305)。
【0036】
図7は、本実施形態に係るフレーム補間判断スレッドのフレーム削除プロセスを示すフロー図である。なお、本実施形態では、予備フレームメモリ40の容量が不足しないように、フレーム削除プロセスを行うが、予備フレームメモリ40の容量が十分に大きければ、フレーム削除プロセスを行う必要はない。図7に示すように、フレーム挿入プロセスのステップS402で、今の検知処理開始前にフレームの挿入を実施した場合は、フレーム補間部23は、「検知対象判別値」がONの最新フレームFdn(現在、検知処理中の画像フレーム)と、その一つ前のフレームFdo(既に表示処理済の検知対象画像)とを取得する(S501)。フレーム補間部23は、フレームFdnとフレームFdoとの間で予備フレームメモリ40に格納されている画像フレーム数Mを識別IDのタイムスタンプから判断し、フレーム数Mをカウントする(S502)。
【0037】
フレーム補間部23は、増減フレーム数Nと、フレームFdn−フレームFdo間のフレーム数Mとを比較し、M>Nかどうかを判定する(S503)。すなわち、フレーム補間部23は、挿入総数Nと表示待ちフレーム数Mとを比較して、Mの方が大きければ、表示待ちフレームの中からフレームを一つ削除する。もし、M>Nでない場合は、フレーム補間部23は、フレームを削除できないので、フレーム挿入プロセスのステップS404を行う(S505、S404)。
【0038】
一方、もし、M>Nである場合は、フレーム補間部23は、フレームFdnとフレームFdoとの間のフレームの中で最新のフレーム(表示タイミングが後の方)を1フレーム削除し、M=M−1、N=N−1とする(S505)。すなわち、表示待ちフレーム数を1つ減らし、挿入した履歴数Nを1つ減らす。Nを減らすのは、次の検知処理において、あと何フレーム分を削除すべきかを記憶するためである。
【0039】
フレーム補間部23は、フレームFdoの次のフレームから順に描画対象とする旨の指令を画像表示部25に出し、画像表示部25はフレームFdoの次のフレームから順にモニタ50に表示する(S506、S305)。
【0040】
本実施形態では、識別ID埋め込み部13が、画像に画像がカメラ30によって撮像された時刻を示す識別IDを画像に埋め込み、検知処理部16が、検知対象物が含まれている画像に画像処理を施し、検知結果重畳処理部24が、検知処理部16が画像処理を施す前後の画像であって同じ時刻に係る識別IDを有する画像同士を重畳するため、画像の重畳を平均処理時間によらないで、識別IDの示す時刻に一対一で対応するよう重畳することができるため、画像処理を施した画像と元の撮像画像との間にズレを生じさせずに両者を重畳することができる。
【0041】
すなわち、図8に示すように、従来はカメラ映像に検知処理結果を重畳して遅延表示映像とする場合、平均検知処理時間PTを想定し、メモリに蓄積した撮像画像を想定した平均検知処理時間PTだけ予め遅延させて処理していた。そのため、検知対象物である歩行者200に対して歩行者検知枠300を表示するような場合でも、平均検知処理時間PTより処理が遅れると、同期ずれを生じ、検知結果を異なる映像に重畳する場合があった。一方、本実施形態では、図9に示すように、画像の重畳を平均処理時間によらず、識別IDの示す時刻に一対一で対応するよう重畳することができるため、同期ずれを生じさせず重畳処理を行うことができる。したがって、本実施形態の装置を歩行者検知に適用した場合、歩行者検知枠のズレがなくなり、ドライバーは映像上における歩行者の位置を性格に把握しやすくなる。さらに、本実施形態では識別IDを直接書き込むため、同期をとるために余分なデータを送受信する必要がなくなる。その結果、状態遷移が単純になるとともに、通信データを増やす必要がなくなる。
【0042】
また、本実施形態では、検知処理部16が画像を処理する時間が閾値以上の場合は、フレーム補間部23が、カメラ30が画像を撮像した時刻におけるフレームと、検知処理部16が画像を重畳する時刻におけるフレームとの間にフレーム補間を行うため、検知処理部16の処理時間が長引いた場合であっても、フレーム補間により表示される画像に違和感が生じないようにすることができる。さらに、本実施形態では、違和感なくフレームの削除を行い、検知結果の描画は一致させるため、予備フレームメモリ40の容量が不足してあふれないようにすることができる。
【0043】
以上、本発明の実施の形態について説明したが、本発明は、上記実施形態に限定されるものではなく種々の変形が可能である。例えば、上記実施形態では、車載用の暗視装置において歩行者検知用に本発明を適用した場合を中心に説明したが、本発明はこれに限定されることはなく、他の用途にも適用可能である。
【図面の簡単な説明】
【0044】
【図1】本実施形態に係る対象物検知装置の構成を示すブロック図である。
【図2】歩行者検知画像に埋め込まれた識別IDを示す図である。
【図3】本実施形態に係る画像分配スレッドを示すフロー図である。
【図4】本実施形態に係る検知スレッドを示すフロー図である。
【図5】本実施形態に係る検知結果待ち受けスレッドを示すフロー図である。
【図6】本実施形態に係るフレーム補間判断スレッドのフレーム挿入プロセスを示すフロー図である。
【図7】本実施形態に係るフレーム補間判断スレッドのフレーム削除プロセスを示すフロー図である。
【図8】従来のカメラ映像と遅延表示映像との関係を示す図である。
【図9】本実施形態のカメラ映像と遅延表示映像との関係を示す図である。
【符号の説明】
【0045】
1…対象物検知装置、10…映像分配・検知処理装置、11…検知実施判定部、12…識別ID付与部、13…識別ID埋込部、14…映像分配部、15…識別ID解読部、16…検知処理部、17…検知結果送信部、20…映像描画装置、21…検知結果待ち受け部、22…重畳用画像対応付部、23…フレーム補間部、24…検知結果重畳処理部、25…画像表示部、30…カメラ、31…画像キャプチャ装置、40…予備フレームメモリ、50…モニタ、100…歩行者検知画像、101…タイプスタンプ、102…検知対象判別値、200…歩行者、300…歩行者検知枠。

【特許請求の範囲】
【請求項1】
周囲の画像を撮像する撮像手段と、
前記画像が前記撮像手段によって撮像された時刻を示す識別IDを前記画像に埋め込む識別ID埋め込み手段と、
前記識別ID埋め込み手段により識別IDを埋め込まれた画像に画像処理を施す処理手段と、
前記処理手段が画像処理を施す前後の画像であって、同じ時刻に係る識別IDを有している画像同士を重畳する重畳処理手段と、
を備えた画像処理装置。
【請求項2】
前記撮像手段はフレームごとに周囲の画像を撮像し、
前記処理手段が前記画像を処理する時間が閾値以上の場合は、前記撮像手段が前記画像を撮像した時刻におけるフレームと、前記重畳処理手段が画像を重畳する時刻におけるフレームとの間にフレーム補間を行うフレーム補間手段をさらに備えた請求項1に記載の画像処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2008−167348(P2008−167348A)
【公開日】平成20年7月17日(2008.7.17)
【国際特許分類】
【出願番号】特願2007−170(P2007−170)
【出願日】平成19年1月4日(2007.1.4)
【出願人】(000003207)トヨタ自動車株式会社 (59,920)
【Fターム(参考)】