説明

画像処理装置、画像処理方法、及び運転支援システム

【課題】撮像画像内の不明確な表示物を、使用者に瞬時且つ正確に認識させることができる運転支援システムを提供する。
【解決手段】運転支援システム1は、カメラ3と記憶部5及びCPU6を有する処理装置4とモニタ22とを備える。CPU6は、カメラ3が撮像した動画像から生成した処理画像9を用いて障害物11を検知し、障害物11を検知したとき、当該処理画像9を処理対象画像13として処理対象画像13内に障害物11を基準とした対象領域16を設定する。CPU6は、対象領域16の直径Rが切り替え領域の直径Rc未満である場合には対象領域16を拡大領域の大きさに拡大し、切り替え領域の直径Rc以上で拡大領域の直径Rm未満である場合には対象領域16を所定の倍率で拡大して、拡大縮小画像19を生成し、拡大縮小画像19と処理対象画像13とを合成して強調画像14を生成し、モニタ22に出力して表示させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及び運転支援システムに関する。
【背景技術】
【0002】
特開2001−71790号公報には、車両に設けられたディスプレイに車両の前方を撮影した撮影画像を表示して、車両の前方に存在する障害物をドライバに認識させる車両の表示装置が記載されている。この表示装置では、車両からの距離が所定値より長い位置に障害物が検出されたとき、ディスプレイには撮影画像内の当該障害物の画像部分をディスプレイ全体の大きさに拡大した拡大画像が表示される。同公報には、拡大画像を表示する際、拡大画像の一部に撮影画像全体を縮小した縮小画像を表示してもよいことが記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2001−71790号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記従来の装置では、車両の遠方に障害物が検出されると、ディスプレイには障害物の拡大画像が表示され、車両前方の全体像を示す撮像画像は表示されないか或いは縮小して表示される。このため、使用者は、ディスプレイに表示された画像を通して拡大画像が撮影画像内のどの領域であるのかを即座に判断することができず、障害物が車両前方のうち何れの方向に存在するのかを瞬時に特定することができない。
【0005】
そこで、本発明は、撮像画像内の不明確な表示物を、撮像画像内における相対的な状態を含めて使用者に瞬時且つ正確に認識させることを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成すべく、本発明の第1の態様の画像処理装置は、領域設定手段と判定手段と画像生成手段と表示制御手段とを備える。
【0007】
領域設定手段は、所定の基準形状に相似する対象領域を処理対象画像内に設定する。判定手段は、領域設定手段が設定した対象領域の大きさが基準形状に相似する所定の拡大領域の大きさ未満であるか否かを判定する。画像生成手段は、対象領域の大きさが拡大領域の大きさ未満であると判定手段が判定したとき、対象領域を拡大領域の大きさに拡大して拡大画像を生成する拡大処理を実行し、処理対象画像内に対象領域を基準として拡大画像が表示されるように処理対象画像と拡大画像とを合成して表示画像を生成する。表示制御手段は、画像生成手段が生成した表示画像を表示手段に表示させる。
【0008】
また、本発明の画像処理方法は、所定の基準形状に相似する対象領域を処理対象画像内に設定し、設定した対象領域の大きさが基準形状に相似する所定の拡大領域の大きさ未満であるか否かを判定し、対象領域の大きさが拡大領域の大きさ未満であると判定したとき、対象領域を拡大領域の大きさに拡大して拡大画像を生成する拡大処理を実行し、処理対象画像内に対象領域を基準として拡大画像が表示されるように処理対象画像と拡大画像とを合成して表示画像を生成し、生成した表示画像を表示手段に表示させる。
【0009】
上記構成及び方法では、処理対象画像内に対象領域が設定され、設定された対象領域の大きさが所定の拡大領域の大きさ未満であるとき、対象領域を拡大領域の大きさに拡大して拡大画像を生成する拡大処理が実行される。拡大処理が実行されると、処理対象画像の一部の領域に拡大画像が合成されて表示画像が生成され、生成された表示画像が表示手段に表示される。対象領域は、使用者からの指示に従って設定されてもよく、使用者の意思に関わらず所定の条件に従って設定されてもよい。
【0010】
このため、拡大領域を適切な大きさに設定することによって、拡大領域未満の大きさである小さく不明確な対象領域を適切な一定の大きさに拡大して拡大画像を生成し、生成した拡大画像を処理対象画像の一部に表示することができる。従って、使用者は、処理対象画像では不明確な対象領域内の表示物の実体を瞬時且つ正確に認識することができる。また、拡大画像は処理対象画像の一部に表示されるので、例えば処理対象画像が1つの物体を異なる距離から撮像した複数の画像であり、当該物体を基準として対象領域が設定される場合には、使用者は、各表示画像の拡大画像を除く画像内の表示物を比較することによって、当該物体の前後方向の位置を推定することができる。
【0011】
また、処理対象画像の対象領域を中心部に含む領域に拡大画像を合成することによって、拡大画像を対象領域と周囲との位置関係を保持して表示することができる。また、処理対象画像の対象領域を含まない領域に拡大画像を合成することによって、例えば処理対象画像内の対象領域を指示して拡大画像を表示するなど、拡大画像を処理対象画像内の対象領域と同時に表示することができる。従って、使用者は、拡大画像が処理対象画像内の何れの領域の画像を拡大したものであるのか(対象領域が処理対象画像内の何れの領域であるのか)を即座に判断することができ、処理対象画像が撮像手段によって撮像されたものである場合には、撮像手段からの拡大画像内の表示物が存在する方向を特定することができる。
【0012】
また、処理対象画像内に設定された対象領域のうち、拡大領域未満の大きさの対象領域のみが拡大して表示される。このため、例えば、処理対象画像が遠方から接近してくる1つの物体を撮像した動画像を構成する画像(静止画像)であり、当該物体を基準として対象領域が設定される場合には、撮像された画像に物体が小さく不明確に表示されている間は、モニタ等の表示手段には一定の大きさに拡大された物体の画像が撮像された画像の一部に合成された表示画像が表示され、撮像された画像に物体が比較的大きく明確に表示されると、表示手段には撮像された画像のみが表示される。従って、使用者は、表示画像を通して、物体を瞬時に発見してその実体を相対的な位置や動きを推定しながら確実に認識した上で、物体の相対的な位置や動きを正確に認識することができる。
【0013】
本発明の第2の態様の画像処理装置は、領域設定手段と第1判定手段と第2判定手段と画像生成手段と表示制御手段とを備える。
【0014】
領域設定手段は、所定の基準形状に相似する対象領域を処理対象画像内に設定する。第1判定手段は、領域設定手段が設定した対象領域の大きさが基準形状に相似する所定の拡大領域の大きさ未満であるか否かを判定する。第2判定手段は、拡大領域の大きさ未満であると第1判定手段によって判定された対象領域の大きさと、基準形状に相似し且つ拡大領域以下の大きさを有する所定の切り替え領域の大きさとを比較し、対象領域の大きさが切り替え領域の大きさ未満であるとき、第1実行条件が成立したと判定し、対象領域の大きさが切り替え領域の大きさ以上であるとき、第2実行条件が成立したと判定する。画像生成手段は、第1実行条件が成立したと第2判定手段が判定したとき、対象領域を拡大領域の大きさに拡大して第1の拡大画像を生成する第1の拡大処理を実行し、処理対象画像内に対象領域を基準として第1の拡大画像が表示されるように処理対象画像と第1の拡大画像とを合成して表示画像を生成し、第2実行条件が成立したと第2判定手段が判定したとき、対象領域を所定の倍率で拡大して第2の拡大画像を生成する第2の拡大処理を実行し、処理対象画像内に対象領域を基準として第2の拡大画像が表示されるように処理対象画像と第2の拡大画像とを合成して表示画像を生成する。表示制御手段は、画像生成手段が生成した表示画像を表示手段に表示させる。
【0015】
上記構成では、対象領域の大きさが所定の切り替え領域の大きさ未満であるとき、第1の拡大処理が実行され、処理対象画像内の一部の領域に第1の拡大画像が合成されて生成された表示画像が表示手段に表示される。また、対象領域の大きさが切り替え領域の大きさ以上で拡大領域の大きさ未満であるとき、対象領域を所定の倍率で拡大して第2の拡大画像を生成する第2の拡大処理が実行され、処理対象画像内の一部の領域に第2の拡大画像が合成されて生成された表示画像が表示手段に表示される。
【0016】
このため、切り替え領域を適切な大きさに設定することによって、切り替え領域未満の大きさである非常に小さく不明確な対象領域を適切な一定の大きさに拡大して第1の拡大画像を生成し、切り替え領域以上で拡大領域未満の大きさである比較的小さく不明確な対象領域を所定の倍率で拡大して第2の拡大画像を生成して、生成した第1の拡大画像及び第2の拡大画像を処理対象画像の一部に表示することができる。また、第2の拡大画像は対象領域の大きさによって大きさが異なるので、使用者は、第2の拡大画像の大きさから対象領域の大きさを推定することができ、例えば処理対象画像が1つの物体を異なる距離から撮像した複数の画像であり、当該物体を基準として対象領域が設定される場合には、当該物体の前後方向の位置を認識することができる。
【0017】
また、例えば処理対象画像が遠方から接近してくる1つの物体を撮像した動画像を構成する画像であり、当該物体を基準として対象領域が設定される場合には、撮像された画像に物体が非常に小さく不明確に表示されている間は、表示手段には一定の大きさに拡大された物体の画像が撮像された画像の一部に合成された表示画像が表示され、撮像された画像に物体が比較的小さく不明確に表示されている間は、表示手段にはその大きさに応じた大きさに拡大された物体の画像が撮像された画像の一部に合成された表示画像が表示され、撮像された画像に物体が比較的大きく明確に表示されると、表示手段には撮像された画像のみが表示される。従って、使用者は、表示画像を通して、物体を瞬時に発見してその実体を相対的な位置や動きを推定しながら確実に認識し、物体の前後方向の動きを認識した上で、物体の相対的な位置や動きを正確に認識することができる。
【0018】
また、切り替え領域を所定の倍率で拡大すると拡大領域の大きさになるように所定の倍率、拡大領域及び切り替え領域を設定することによって、拡大領域未満の大きさの対象領域を常に拡大領域以上の大きさに拡大し、第2の拡大画像を常に第1の拡大画像よりも大きく生成することができる。従って、例えば処理対象画像が1つの物体を異なる距離から撮像した複数の画像であり当該物体を基準として設定された対象領域に対して第1の拡大処理と第2の拡大処理とを実行する場合であっても、使用者は、表示画像を通して当該物体の前後方向の位置を誤解することなく認識することができる。
【0019】
また、上記第2の態様の画像処理装置において、第2判定手段は、対象領域の大きさと切り替え領域の大きさとの比較の結果に関わらず、処理対象画像の明度が所定の閾値未満である場合には第1実行条件が成立したと判定し、処理対象画像の明度が閾値以上である場合には第2実行条件が成立したと判定してもよい。
【0020】
上記構成では、対象領域の大きさと切り替え領域の大きさとの比較の結果に関わらず、処理対象画像の明度が閾値未満であるときに第1の拡大処理が実行され、処理対象画像の明度が閾値以上であるときに第2の拡大処理が実行される。このため、例えば、処理対象画像が夜間の画像のように暗く全体的に表示物が不明確な場合には、拡大領域未満の大きさの対象領域を一定の大きさに拡大し、昼間の画像のように明るく全体的に表示物が明確な場合には、拡大領域未満の大きさの対象領域を所定の倍率で拡大することができる。従って、使用者は、処理対象画像が全体的に表示物が不明確な場合であっても、対象領域内の表示物を適切な一定の大きさに拡大された画像によって確実に認識することができる。
【0021】
また、上記第1の態様及び第2の態様の画像処理装置では、画像生成手段は、拡大処理を実行するとき、処理対象画像内に表示された全ての領域が表示画像内に表示されるように、対象領域の周縁に隣接する第2対象領域を処理対象画像内に設定し、第2対象領域を縮小して縮小画像を生成する縮小処理を実行し、処理対象画像と拡大画像と縮小画像とを合成して表示画像を生成してもよい。
【0022】
上記構成では、第1の拡大処理又は第2の拡大処理を実行するとき、対象領域の周縁に隣接する第2対象領域を縮小して縮小画像を生成する縮小処理が実行され、第1の拡大画像又は第2の拡大画像の周縁の領域に縮小画像が合成されて表示画像が生成される。このため、使用者は、対象領域内の表示物を処理対象画像内の全ての領域の表示物とともに認識することができる。
【0023】
また、上記第1の態様及び第2の態様の画像処理装置において、画像生成手段は、対象領域の大きさに関わらず、対象領域と対象領域を除く領域との間で輝度及び明度の少なくとも一方を変化させて明暗差をつけてもよい。
【0024】
上記構成では、第1の拡大処理又は第2の拡大処理が実行されるか否かに関わらず、対象領域と対象領域を除く領域との間に明暗差がつけられる。このため、対象領域内の表示物を周囲の領域の表示物よりも鮮明に表示することができ、使用者は、対象領域内の表示物を更に容易且つ確実に認識することができる。また、対象領域の大きさに関わらず対象領域と対象領域を除く領域との間に明暗差をつけることができるので、使用者は、拡大領域以上の大きさの対象領域内の表示物も瞬時且つ確実に認識することができる。
【0025】
本発明の運転支援システムは、上記第1の態様又は第2の態様の画像処理装置と撮像手段と障害物検知手段とを備える。
【0026】
撮像手段は、車両の周囲の動画像を撮像する。障害物検知手段は、車両の周囲に存在する障害物を検知する。処理対象画像は、撮像手段が撮像した動画像を構成する静止画像である。領域設定手段は、障害物検知手段が検知した障害物を基準として対象領域を設定する。
【0027】
上記構成では、車両の周囲を撮像した動画像を構成する静止画像を処理対象画像として各静止画像内に障害物を基準として対象領域が設定される。このため、存在する位置や固有の大きさなどによって撮像された動画像では明確に表示されないような障害物を拡大して表示することができる。従って、使用者は、車両の周囲に存在する障害物を確実に認識することができる。
【0028】
また、対象領域の大きさに応じて第1の拡大処理及び第2の拡大処理の何れか一方が選択され実行される場合、例えば、後方から追い上げてくるオートバイが障害物として検知されると、オートバイが車両から十分に離れている間は、表示手段には一定の大きさに拡大されたオートバイの画像が撮像された画像の一部に合成された表示画像が表示され、オートバイが車両に少し近づくと、表示手段には撮像された画像に表示される大きさに応じた大きさに拡大されたオートバイの画像が撮像された画像の一部に合成された表示画像が表示され、オートバイが更に車両に近づくと、表示手段には撮像された画像のみが表示される。従って、使用者は、表示画像を通して、オートバイを瞬時に発見し、オートバイが自車に対してどのような動きをしているかを認識した上で、オートバイの相対的な位置や動きを正確に認識することができる。
【0029】
また、動画像の明度に応じて第1の拡大処理及び第2の拡大処理の何れか一方が選択され実行される場合、例えば、撮像された画像が薄暮時や夜間の画像ように暗く不明確な場合には、障害物は一定の大きさに拡大して表示され、撮像された画像が昼間の画像のように明るく明確な場合には、障害物はその大きさに応じて変化する大きさで表示される。従って、使用者は、薄暮時や夜間等であっても障害物を確実に認識することができる。
【発明の効果】
【0030】
本発明によれば、撮像画像内の不明確な表示物を、撮像画像内における相対的な状態を含めて使用者に瞬時且つ正確に認識させることができる。
【図面の簡単な説明】
【0031】
【図1】第1実施形態の運転支援システムの構成図である。
【図2】第1実施形態の第1の拡大処理及び第2の拡大処理における拡大倍率及び縮小倍率を示す概念図である。
【図3】第1実施形態の強調画像生成処理における処理対象画像及び強調画像の一部を示す図である。
【図4】第1実施形態の強調画像生成処理を示すフローチャートである。
【図5】第2実施形態の強調画像生成処理における強調画像の一部を示す図である。
【図6】第2実施形態の強調画像生成処理を示すフローチャートである。
【発明を実施するための形態】
【0032】
以下、本発明の第1実施形態の運転支援システムについて、図面を参照して説明する。図1は、第1実施形態の運転支援システムの構成図である。図2は、第1実施形態の第1の拡大処理及び第2の拡大処理における拡大倍率及び縮小倍率を示す概念図である。図3(a)は、第1実施形態の強調画像生成処理における処理対象画像の一部を示す図であり、図3(b)は、第1実施形態の強調画像生成処理における強調画像の一部を示す図である。図4は、第1実施形態の強調画像生成処理を示すフローチャートである。
【0033】
図1に示すように、本実施形態の運転支援システム1は、カメラ3と処理装置4とモニタ22とを備え、車両2に設けられる。
【0034】
カメラ3は、CCD(Charge Coupled Device)センサやCOMS(Complementary Metal Oxide Semiconductor)センサ等の撮像素子を有し、車両2の後部、右部及び左部にそれぞれ設けられる。カメラ3は、車両2の後方、右側方及び左側方の動画像を撮像し、撮像した動画像を構成する静止画像をデジタル変換して処理装置4に順次出力する。すなわち、カメラ3は、車両2の周囲の動画像を撮像する撮像手段として機能する。
【0035】
処理装置4は、記憶部5とCPU(Central Processing Unit)6とを有する。記憶部5は、例えばRAM(Random Access Memory)などの記録媒体によって構成され、CPU6が各種処理を実行するための各種プログラムや各種データや各種フラグが記憶されている。各種プログラムには、CPU6が障害物検知処理を実行するための障害物検知処理実行プログラム、及び強調画像生成処理を実行するための強調画像生成処理実行プログラムが含まれる。各種フラグには、オン状態又はオフ状態に設定される障害物検知フラグ及び条件成立フラグが含まれる。また、記憶部5は、各種画像や各種情報などが読み書き自在に記憶される記憶領域を有する。障害物検知処理及び強調画像生成処理を実行するCPU6は、受信部7、処理画像生成部8、障害物検知部10、強調画像生成部12及び表示制御部21として機能する。
【0036】
受信部7は、カメラ3から3方向の静止画像を順次入力して記憶部5に記憶する。
【0037】
処理画像生成部8は、記憶部5に記憶された静止画像の中から同一時刻に撮像された3方向の静止画像を抽出し、抽出した3つの静止画像を合成することによって処理画像9を生成して記憶部5に記憶する。
【0038】
障害物検知部10は、処理画像生成部8によって処理画像9が生成されたとき、処理画像生成部8が生成した処理画像9を用いて車両2に接近する物体を障害物11として検知する障害物検知処理を実行する。まず、障害物検知部10は、時間的に連続する2つの処理画像9間において、ブロックマッチングにより処理画像9内の動きベクトルを検出して移動物体を検知する。具体的には、障害物検知部10は、記憶部5から時刻tの処理画像9及び時刻t−Δtの処理画像9を読み出し、これらの処理画像9内に処理領域及び車両領域を設定する。処理領域は、所定の大きさ及び形状を有し、処理画像9内の車両や歩行者等が通行する可能性のある道路等が表示される所定の領域に設定される。車両領域は、所定の大きさ及び形状を有し、処理画像9内の車両2の近傍である所定の領域に設定される。処理画像9内に処理領域及び車両領域を設定した障害物検知部10は、時刻t−Δtの処理画像9内に設定した処理領域を小さい領域(ブロック)に分割し、時刻tの処理画像9内に設定した処理領域を探索して分割した各ブロックに最も類似する領域(類似領域)を検出し、各ブロックと各類似領域との位置座標から各ブロックの動きベクトルを算出する。これにより、処理画像9内に設定した処理領域内の物体の中から移動物体を検知することができる。
【0039】
移動物体を検知した障害物検知部10は、全ての動きベクトルの中から車両領域へ向かう向きの動きベクトルを抽出する。これにより、全ての移動物体の中から車両2に接近する物体、つまり障害物11を抽出することができる。障害物検知部10は、車両領域へ向かう向きの動きベクトルを抽出したとき、障害物11が存在すると判断し、抽出した動きベクトルに基づいて障害物11の情報を設定して当該障害物11を検知した処理画像9に対応させて記憶部5に記憶するとともに、記憶部5に記憶された障害物検知フラグをオン状態に設定する。すなわち、障害物検知部10は、車両2の周囲に存在する障害物11を検知する障害物検知手段として機能する。
【0040】
強調画像生成部12は、対象領域設定部15と判定部17と強調処理部18とを含み、障害物11が検知されたとき、障害物11が検知された処理画像9を処理対象画像13として強調画像14を生成する強調画像生成処理を実行する。
【0041】
対象領域設定部15は、障害物検知部10によって検知された障害物11を基準として、処理対象画像13内に対象領域16を設定する。具体的には、対象領域設定部15は、記憶部5の障害物検知フラグがオン状態であるか否かを判定し、障害物検知フラグがオン状態である場合、記憶部5から障害物11が検知された処理画像9(処理対象画像13)及び障害物11の情報を読み出す。対象領域設定部15は、障害物11の情報に基づいて、処理対象画像13において障害物11のエッジを検出し、障害物11の中心座標(x,y)及び最大直径Rを算出する。対象領域設定部15は、処理対象画像13内に、中心が障害物11の中心座標(x,y)であり直径が障害物11の最大直径Rである円形(基準形状)の領域を対象領域16として設定する。障害物11が処理対象画像13内に複数存在する場合には、対象領域設定部15は、各障害物11に対して対象領域16を設定し、各対象領域16の中心座標(x,y)から各対象領域16間の長さLを算出する。すなわち、対象領域設定部15は、障害物検知部10が検知した障害物11を基準として対象領域16を処理対象画像13内に設定する領域設定手段として機能する。
【0042】
判定部17は、第1判定部と第2判定部と第3判定部と第4判定部とを含む。第1判定部は、処理対象画像13内に対象領域16が設定されたとき、設定された全ての対象領域16の中から対象領域16を1つ抽出し、抽出した対象領域16の直径Rが円形の所定の拡大領域の直径Rm未満であるか否かを判定する。対象領域16の直径Rが拡大領域の直径Rm未満である場合には、第1判定部は、当該対象領域16に対して実行条件が成立したと判定して記憶部5の条件成立フラグをオン状態に設定する。すなわち、第1判定部は、対象領域16の大きさが拡大領域の大きさ未満であるか否かを判定する第1判定手段として機能する。
【0043】
第2判定部は、第1判定部によって実行条件が成立したと判定されたとき、当該対象領域16の直径Rが円形の所定の切り替え領域の直径Rc未満であるか否かを判定する。切り替え領域の直径Rcは、拡大領域の直径Rmを後述する所定の拡大倍率で除した値に設定される。第2判定部は、対象領域16の直径Rが、切り替え領域の直径Rc未満である場合には、当該対象領域16に対して第1実行条件が成立したと判定し、切り替え領域の直径Rc以上である場合には、当該対象領域16に対して第2実行条件が成立したと判定する。すなわち、第2判定部は、拡大領域の大きさ未満である対象領域16の大きさが、切り替え領域の大きさ未満であるときには第1実行条件が成立したと判定し、切り替え領域の大きさ以上であるときには第2実行条件が成立したと判定する第2判定手段として機能する。
【0044】
第3判定部は、第2判定部によって第1実行条件又は第2実行条件が成立したと判定されたとき、又は第1判定部によって対象領域16の直径Rが拡大領域の直径Rm以上であると判定されたとき、未抽出の対象領域16が存在しないか否かを判定する。
【0045】
第4判定部は、第3判定部によって未抽出の対象領域16が存在しないと判定されたとき、実行条件が成立したと判定された対象領域16が1つであるか否かを判定する。実行条件が成立したと判定された対象領域16が複数である場合には、第4判定部は、対象領域設定部15が算出した対象領域16間の長さLに基づいて、実行条件が成立したと判定された対象領域16間の長さLが全て所定値Lc以上であるか否かを判定する。少なくとも1つの対象領域16間の長さLが所定値Lc未満である場合には、第4判定部は、実行条件が成立したと判定された全ての対象領域16に対して中止条件が成立したと判定し、条件成立フラグをオフ状態に設定する。
【0046】
強調処理部18は、対象領域16が周囲の領域よりも高い輝度及び明度となるように、対象領域16を除く領域の輝度及び明度を所定の割合に減少させるコントラスト調整処理を実行する。コントラスト調整処理を実行した強調処理部18は、条件成立フラグがオン状態であるか否かを判定し、条件成立フラグがオン状態である場合、拡大処理を実行する。拡大処理において、強調処理部18は、第1実行条件が成立したと判定された対象領域16に対して第1の拡大処理を実行して拡大縮小画像19を生成し、第2実行条件が成立したと判定された対象領域16に対して第2の拡大処理を実行して拡大縮小画像19を生成して、生成した拡大縮小画像19と処理対象画像13とを合成する。
【0047】
第1の拡大処理では、強調処理部19は、処理対象画像13内に、中心が対象領域16の中心座標(x,y)であり直径が所定の長さRxである第1の円を設定し、設定した第1の円と対象領域16の外周とによって区画される領域を第2対象領域20として設定する。第1の円の直径Rxは、拡大領域の直径Rmを超えて設定される。強調処理部18は、対象領域16の直径R及び拡大領域の直径Rmから拡大倍率を算出し、第2対象領域24の径方向の長さRx−R、及び第1の円の直径Rxと拡大領域の直径Rmとの差Rx−Rmから縮小倍率を算出する。拡大倍率及び縮小倍率を算出した強調処理部18は、図2に示すように、算出した拡大倍率及び縮小倍率に基づいて、径方向の長さに応じて連続的に変化する拡大縮小倍率を設定して、設定した拡大縮小倍率で対象領域16を拡大及び第2対象領域20を縮小して拡大縮小画像19を生成する。
【0048】
第2の拡大処理では、拡大処理部18は、処理対象画像13内に、中心が対象領域16の中心座標(x,y)であり直径が当該対象領域16の直径Rに所定数kを乗じた長さk・Rである第2の円を設定し、設定した第2の円と対象領域16の外周とによって区画される領域を第2対象領域20として設定する。所定数kは、第2の円の直径k・Rが拡大領域の直径Rmに所定の拡大倍率を乗じた値を超えて設定される。拡大処理部18は、所定の拡大倍率及び縮小倍率に基づいて、第1の拡大処理と同様に、径方向の長さに応じて連続的に変化する拡大縮小倍率を設定して、設定した拡大縮小倍率で対象領域16を拡大及び第2対象領域20を縮小して拡大縮小画像19を生成する。
【0049】
拡大縮小画像19と処理対象画像13とを合成する際、強調処理部18は、処理対象画像13内の中心が対象領域16の中心座標(x,y)であり大きさが拡大縮小画像19である領域を拡大縮小画像19を合成する領域として設定し、拡大縮小画像19を処理対象画像13内に設定した領域に合成する。
【0050】
強調処理部18は、拡大処理を実行したとき、拡大処理によって生成した拡大縮小画像19と処理対象画像13とを合成した画像を強調画像14として記憶部5に記憶するとともに、障害物検知フラグ及び条件成立フラグをオフ状態に設定する。一方、条件成立フラグがオフ状態であり拡大処理を実行しないときには、コントラスト調整処理によって生成された画像を強調画像14として記憶部5に記憶するとともに、障害物検知フラグをオフ状態に設定する。すなわち、強調処理部18は、対象領域16の大きさに関わらず対象領域16と対象領域16を除く領域との間で明暗差をつけ、切り替え領域未満の大きさの対象領域16を拡大領域の大きさに拡大する第1の拡大処理、及び切り替え領域以上で拡大領域未満の大きさの対象領域16を所定の拡大倍率で拡大する第2の拡大処理を実行して強調画像14を生成する画像生成手段として機能する。なお、強調画像生成処理における処理対象画像13及び強調画像14は、図3に示すとおりである。
【0051】
表示制御部21は、障害物11が検知されて強調画像14が生成されたときには、強調画像14を表示画像として記憶部5から読み出し、障害物11が検知されずに強調画像14が生成されないときには、処理画像9を表示画像として記憶部5から読み出して、それぞれ読み出した表示画像をモニタ22に順次出力する。すなわち、表示制御部21は、モニタ22に強調画像14又は処理画像9を表示させる表示制御手段として機能する。
【0052】
モニタ22は、例えば車両2に搭載されたカーナビゲーションシステムの表示装置であり、表示制御部21から入力した表示画像を表示する。
【0053】
次に、第1実施形態におけるCPU6が実行する強調画像生成処理について、図4を参照して説明する。本処理は、車両2のイグニッションキーがON状態のとき、所定時間ごとに繰り返して実行される。
【0054】
本処理が開始されると、対象領域設定部15は、記憶部5の障害物検知フラグがオン状態であるか否かを判定する(ステップS1)。
【0055】
障害物検知フラグがオン状態である場合(ステップS1:YES)、対象領域設定部15は、処理対象画像13内に対象領域16を設定する(ステップS2)。障害物11が処理対象画像13内に複数存在する場合には、対象領域設定部15は、各障害物11に対して対象領域16を設定し、各対象領域16間の長さLを算出する。
【0056】
次に、判定部(第1判定部)17は、設定された全ての対象領域16の中から対象領域16を1つ抽出する(ステップS3)。
【0057】
判定部17は、抽出した対象領域16の直径Rが拡大領域の直径Rm未満であるか否かを判定する(ステップS4)。
【0058】
対象領域16の直径Rが拡大領域の直径Rm未満である場合(ステップS4:YES)には、判定部(第1判定部)17は、実行条件が成立したと判定して条件成立フラグをオン状態に設定する(ステップS5)。
【0059】
次に、判定部(第2判定部)17は、当該対象領域16の直径Rが切り替え領域の直径Rc未満であるか否かを判定する(ステップS6)。
【0060】
対象領域16の直径Rが切り替え領域の直径Rc未満である場合(ステップS6:YES)には、判定部(第2判定部)17は、第1実行条件が成立したと判定する(ステップS7)。
【0061】
一方、対象領域16の直径Rが切り替え領域の直径Rc以上である場合(ステップS6:NO)には、判定部(第2判定部)17は、第2実行条件が成立したと判定する(ステップS8)。
【0062】
次に、判定部(第3判定部)17は、未抽出の対象領域16が存在しないか否かを判定する(ステップS9)。
【0063】
未抽出の対象領域16が存在する場合(ステップS9:NO)には、判定部17は未抽出の対象領域16の中から対象領域16を1つ抽出して各種実行条件が成立するか否かを判定すること(ステップS3〜S8)を繰り返す。
【0064】
未抽出の対象領域16が存在しない場合(ステップS9:YES)には、判定部(第4判定部)17は、実行条件が成立したと判定された対象領域16が1つであるか否かを判定する(ステップS10)。
【0065】
実行条件が成立したと判定された対象領域16が複数である場合(ステップS10:NO)には、判定部(第4判定部)17は、実行条件が成立したと判定された対象領域16間の長さLが全て所定値Lc以上であるか否かを判定する(ステップS11)。
【0066】
少なくとも1つの対象領域16間の長さが所定値Lc未満である場合(ステップS11:NO)には、判定部(第4判定部)17は、中止条件が成立したと判定して条件成立フラグをオフ状態に設定する(ステップS12)。
【0067】
次に、強調処理部18は、コントラスト調整処理を実行する(ステップS13)。
【0068】
コントラスト調整処理を実行した強調処理部18は、条件成立フラグがオン状態であるか否かを判定する(ステップS14)。
【0069】
条件成立フラグがオン状態である場合(ステップS14:YES)には、強調処理部18は、拡大処理を実行する(ステップS15)。拡大処理を実行すると、強調処理部18は、拡大処理によって生成された画像を強調画像14として記憶部5に記憶するとともに、障害物検知フラグ及び条件成立フラグをオフ状態に設定して本処理を終了する。
【0070】
一方、条件成立フラグがオフ状態である場合(ステップS14:NO)には、強調処理部18は、コントラスト調整処理によって生成された画像を強調画像14として記憶部5に記憶するとともに、障害物検知フラグをオフ状態に設定して本処理を終了する。
【0071】
また、障害物検知フラグがオフ状態である場合(ステップS1:NO)には、障害物11が検知されていないと判断して本処理を終了する。
【0072】
このように、本実施形態の運転支援システム1によれば、切り替え領域未満の大きさの対象領域16は拡大領域の大きさに拡大され、切り替え領域以上で拡大領域未満の大きさの対象領域16は所定の倍率で拡大領域以上の大きさに拡大され、それぞれ拡大されて生成された拡大縮小画像19は中心位置が対象領域16の中心位置と一致する領域に表示される。このため、使用者は、カメラ3によって撮像された動画像では不明確な障害物11の実体を、モニタ22に表示される表示画像では周囲に対する位置関係とともに瞬時且つ正確に認識することができる。
【0073】
また、対象領域16を除く領域の輝度及び明度を減少させて、全ての対象領域16と対象領域16を除く領域との間に明暗差がつけられるので、使用者は、障害物11をその大きさに関わらず容易且つ確実に認識することができる。
【0074】
また、撮像された動画像において障害物11が非常に小さく不明確に表示されている間は、モニタ22には障害物11が拡大領域の大きさに拡大されて輝度及び明度が調整された強調画像14が表示され、動画像において障害物11が比較的小さく不明確に表示されている間は、モニタ22には障害物11がその大きさに応じた大きさに拡大されて輝度及び明度が調整された強調画像14が表示され、動画像において障害物11が比較的大きく明確に表示されている間は、モニタ22には障害物11は拡大されずに輝度及び明度が調整された強調画像14が表示される。このため、例えば、障害物11が後方から車両2に接近する場合であっても、使用者は、モニタ22を通して、障害物11を瞬時に発見し、その動きを容易且つ正確に認識することができる。
【0075】
また、切り替え領域以上で拡大領域未満の大きさの対象領域16は拡大領域以上の大きさに拡大して表示されるので、1つの対象領域16に対して第1の拡大処理及び第2の拡大処理が実行される場合であっても、使用者は、障害物11の前後方向の位置を誤解することなく認識することができる。
【0076】
また、対象領域16の周縁の第2対象領域20が縮小され、撮像された動画像に表示された全ての表示物が強調画像14に表示されるので、使用者は、障害物11を周囲の全ての表示物とともに認識することができる。
【0077】
なお、カメラ3の数及び設置場所は、上記に限定されず、例えば1台を後部に設置するなどであってもよい。
【0078】
また、障害物検知部10が障害物11を検知する方法は、上記に限定されず、画像差分方式などの他の画像を用いた検知方法であってもよく、画像を用いない超音波による検知方法やミリ波レーダによる検知方法などであってもよい。
【0079】
また、対象領域16、拡大領域及び切り替え領域の形状である基準形状は、円形に限定されず、矩形などであってもよい。
【0080】
また、表示制御部21は、障害物11が検知されて強調画像14が生成された場合にのみ生成された強調画像14をモニタ22に出力して表示させてもよい。
【0081】
また、障害物11の検知を音などによって使用者に報知する手段を備え、強調画像14の表示と同時に音による報知を実行してもよい。
【0082】
また、モニタ22は、上記に限定されず、ウインドシールドディスプレイなどであってもよい。
【0083】
また、コントラスト調整処理は、対象領域16の大きさに関わらず実行されることに限定されず、例えば、拡大処理が実行されない場合や昼間等で画像の明度が高い場合にのみ実行されてもよい。
【0084】
また、コントラスト調整処理において、強調処理部18は、対象領域16を除く領域の輝度及び明度を減少させるのではなく、対象領域16の輝度及び明度を増加させてもよく、両者を同時に行ってもよい。また、輝度及び明度の何れか一方のみの調整であってもよい。
【0085】
また、対象領域16に対する処理は、対象領域16の大きさに応じて選択されることに限定されず、例えば、障害物11の相対速度などに応じて選択されてもよい。また、処理対象画像13内に設定された対象領域16毎に選択されることに限定されず、処理対象画像13の明度や使用者のよそ見度などに応じて、処理対象画像13内の全ての対象領域16に対して1つの処理を選択してもよい。
【0086】
ここで、処理対象画像13の明度に応じて処理対象画像13内の全ての対象領域16に対して1つの処理を選択する場合の強調画像生成処理における判定部17の処理について説明する。判定部17は、第1判定部と第3判定部と第4判定部と第5判定部とを有する。第5判定部は、第4判定部によって対象領域16は1つであると判定されたとき、又は中止条件が成立したと判定されたとき、処理対象画像13の明度が閾値未満であるか否かを判定する。第5判定部は、処理対象画像13の明度が閾値未満である場合には、実行条件が成立したと判定された全ての対象領域16に対して第1実行条件が成立したと判定し、処理対象画像13の明度が閾値以上である場合には、実行条件が成立したと判定された全ての対象領域16に対して第2実行条件が成立したと判定する。このように、処理対象画像13の明度に応じて対象領域16に対する処理を選択すると、処理対象画像13の明度が閾値未満である場合には、対象領域16は拡大領域の大きさに拡大して表示される強調画像14が生成される。このため、使用者は、撮像された動画像が暗くて不鮮明である場合であっても、表示画像を通して障害物11を確実に認識することができる。
【0087】
次に、本発明の第2実施形態の運転支援システムについて、図面を参照して説明する。図5は、第2実施形態の強調画像生成処理における強調画像の一部を示す図である。図6は、第2実施形態の強調画像生成処理を示すフローチャートである。本実施形態は、強調画像14が、枠線処理と吹き出し拡大処理とによって生成される点で、上記第1実施形態と相違する。なお、上記第1実施形態と同様の構成には、同一の符号を付してその詳細な説明を省略する。
【0088】
対象領域設定部15は、処理対象画像13内に、中心が障害物11の中心座標(x,y)であり幅が障害物11の最大直径Rである矩形(基準形状)の領域を対象領域16として設定する。
【0089】
判定部17は、第1判定部と第3判定部と第6判定部とを含む。第1判定部は、対象領域16の幅Rと拡大領域の幅Rmとによって対象領域16と拡大領域との大きさを比較する。
【0090】
第6判定部は、第3判定部によって未抽出の対象領域16が存在しないと判定されたとき、処理対象画像13内に実行条件が成立したと判定された全ての対象領域16に対応する空き領域が存在するか否かを判定する。空き領域とは、拡大領域と同一の大きさを有し、対象領域16が設定されていない領域をいう。第6判定部は、処理対象画像13を拡大領域の大きさの領域に分割し、分割した各領域内に対象領域16が含まれるか否かを判定して、各領域の中から対象領域16が含まれない領域を空き領域として検出する。空き領域を検出した第6判定部は、所定の条件に従って、検出した空き領域の中から実行条件が成立したと判定された対象領域16に対応する空き領域をそれぞれ検出する。実行条件が成立したと判定された少なくとも1つの対象領域16に対応する空き領域が検出されない場合には、第6判定部は、実行条件が成立したと判定された全ての対象領域16に対して中止条件が成立したと判定し、条件成立フラグをオフ状態に設定する。
【0091】
強調処理部18は、全ての対象領域16に対して各対象領域16を囲む線(枠線)23を付する枠線処理を実行する。枠線処理を実行した強調処理部18は、条件成立フラグがオン状態であるか否かを判定し、条件成立フラグがオン状態である場合、吹き出し拡大処理を実行する。吹き出し拡大処理において、強調処理部18は、実行条件が成立したと判定された対象領域16を拡大領域の大きさに拡大して拡大画像24を生成し、判定部17によって検出された各対象領域16に対応する空き領域を各拡大画像24を合成する領域として設定し、拡大画像24を処理対象画像13内に設定した領域に合成する。拡大画像24と処理対象画像13とを合成した強調処理部18は、対象領域16と拡大画像24との対応関係を明確にするために、拡大画像24に一部が突出した枠線25を付し、枠線25の突出部の先端を対象領域16上に配置する。
【0092】
強調処理部18は、吹き出し拡大処理を実行したとき、吹き出し拡大処理によって生成した拡大画像24と処理対象画像13とを合成した画像を強調画像14として記憶部5に記憶するとともに、障害物検知フラグ及び条件成立フラグをオフ状態に設定する。一方、条件成立フラグがオフ状態であり吹き出し拡大処理を実行しないときには、枠線処理によって生成された画像を強調画像14として記憶部5に記憶するとともに、障害物検知フラグをオフ状態に設定する。なお、本実施形態の強調画像生成処理における強調画像14は、図6に示すとおりである。
【0093】
次に、第2実施形態におけるCPU6が実行する強調画像生成処理について、図6を参照して説明する。
【0094】
本処理が開始されると、対象領域設定部15は、記憶部5の障害物検知フラグがオン状態であるか否かを判定する(ステップS21)。
【0095】
障害物検知フラグがオン状態である場合(ステップS21:YES)、対象領域設定部15は、処理対象画像13内に対象領域16を設定する(ステップS22)。障害物11が処理対象画像13内に複数存在する場合には、対象領域設定部15は、各障害物11に対して対象領域16を設定する。
【0096】
次に、判定部(第1判定部)17は、設定された全ての対象領域16の中から対象領域16を1つ抽出する(ステップS23)。
【0097】
判定部(第1判定部)17は、抽出した対象領域16の幅Rが拡大領域の幅Rm未満であるか否かを判定する(ステップS24)。
【0098】
対象領域16の幅Rが拡大領域の幅Rm未満である場合(ステップS24:YES)には、判定部(第1判定部)17は、実行条件が成立したと判定して条件成立フラグをオン状態に設定する(ステップS25)。
【0099】
次に、判定部(第3判定部)17は、未抽出の対象領域16が存在しないか否かを判定する(ステップS26)。
【0100】
未抽出の対象領域16が存在する場合(ステップS26:NO)には、判定部17は、未抽出の対象領域16の中から対象領域16を1つ抽出して実行条件が成立するか否かを判定すること(ステップS23〜S25)を繰り返す。
【0101】
未抽出の対象領域16が存在しない場合(ステップS26:YES)には、判定部(第6判定部)17は、処理対象画像13内に実行条件が成立したと判定された対象領域16に対応する空き領域が存在するか否かを判定する(ステップS27)。
【0102】
少なくとも1つの対象領域16に対応する空き領域が検出されない場合には、判定部(第6判定部)17は、実行条件が成立したと判定された全ての対象領域16に対して中止条件が成立したと判定し、条件成立フラグをオフ状態に設定する(ステップS28)
次に、強調処理部18は、枠線処理を実行する(ステップS29)。
【0103】
枠線処理を実行した強調処理部18は、条件成立フラグがオン状態であるか否かを判定する(ステップS30)。
【0104】
条件成立フラグがオン状態である場合(ステップS30:YES)には、強調処理部18は、吹き出し拡大処理を実行し(ステップS31)、本処理を終了する。
【0105】
また、条件成立フラグがオフ状態である場合(ステップS30:NO)、及び障害物検知フラグがオフ状態である場合(ステップS21:NO)には、本処理を終了する。
【0106】
このように、本実施形態の運転支援システムによれば、拡大領域未満の大きさの対象領域16は拡大領域の大きさに拡大され、拡大されて生成された拡大画像24は対象領域16と重複しない領域に対象領域16を指示して表示されるので、使用者は、障害物11をその原状とともに瞬時且つ正確に認識することができる。
【0107】
また、全ての対象領域16に枠線を付するので、障害物11をその大きさに関わらず容易且つ確実に認識することができる。
【0108】
上記実施形態は、本発明の一例であり、本発明を逸脱しない範囲において変更可能である。
【産業上の利用可能性】
【0109】
本発明は、各種画像処理に幅広く適用可能である。
【符号の説明】
【0110】
1:運転支援システム
2:車両
3:カメラ(撮像手段)
4:処理装置
5:記憶部
6:CPU(Central Processing Unit)
7:受信部
8:処理画像生成部
9:処理画像
10:障害物検知部(障害物検知手段)
11:障害物
12:強調画像生成部
13:処理対象画像
14:強調画像
15:対象領域設定部(領域設定手段)
16:対象領域
17:判定部(判定手段、第1判定手段、第2判定手段)
18:強調処理部(画像生成手段)
19:拡大縮小画像
20:第2対象領域
21:表示制御部(表示制御手段)
22:モニタ
23:枠線
24:拡大画像
25:枠線

【特許請求の範囲】
【請求項1】
所定の基準形状に相似する対象領域を処理対象画像内に設定する領域設定手段と、
前記領域設定手段が設定した対象領域の大きさが前記基準形状に相似する所定の拡大領域の大きさ未満であるか否かを判定する判定手段と、
前記対象領域の大きさが前記拡大領域の大きさ未満であると前記判定手段が判定したとき、前記対象領域を前記拡大領域の大きさに拡大して拡大画像を生成する拡大処理を実行し、前記処理対象画像内に前記対象領域を基準として前記拡大画像が表示されるように前記処理対象画像と前記拡大画像とを合成して表示画像を生成する画像生成手段と、
前記画像生成手段が生成した表示画像を表示手段に表示させる表示制御手段と、を備える
ことを特徴とする画像処理装置。
【請求項2】
所定の基準形状に相似する対象領域を処理対象画像内に設定する領域設定手段と、
前記領域設定手段が設定した対象領域の大きさが前記基準形状に相似する所定の拡大領域の大きさ未満であるか否かを判定する第1判定手段と、
前記拡大領域の大きさ未満であると前記第1判定手段によって判定された前記対象領域の大きさと、前記基準形状に相似し且つ前記拡大領域以下の大きさを有する所定の切り替え領域の大きさとを比較し、前記対象領域の大きさが前記切り替え領域の大きさ未満であるとき、第1実行条件が成立したと判定し、前記対象領域の大きさが前記切り替え領域の大きさ以上であるとき、第2実行条件が成立したと判定する第2判定手段と、
前記第1実行条件が成立したと前記第2判定手段が判定したとき、前記対象領域を前記拡大領域の大きさに拡大して第1の拡大画像を生成する第1の拡大処理を実行し、前記処理対象画像内に前記対象領域を基準として前記第1の拡大画像が表示されるように前記処理対象画像と前記第1の拡大画像とを合成して表示画像を生成し、前記第2実行条件が成立したと前記第2判定手段が判定したとき、前記対象領域を所定の倍率で拡大して第2の拡大画像を生成する第2の拡大処理を実行し、前記処理対象画像内に前記対象領域を基準として前記第2の拡大画像が表示されるように前記処理対象画像と前記第2の拡大画像とを合成して表示画像を生成する画像生成手段と、
前記画像生成手段が生成した表示画像を表示手段に表示させる表示制御手段と、を備える
ことを特徴とする画像処理装置。
【請求項3】
請求項2に記載の画像処理装置であって、
前記第2判定手段は、前記対象領域の大きさと前記切り替え領域の大きさとの比較の結果に関わらず、前記処理対象画像の明度が所定の閾値未満である場合には前記第1実行条件が成立したと判定し、前記処理対象画像の明度が前記閾値以上である場合には前記第2実行条件が成立したと判定する
ことを特徴とする画像処理装置。
【請求項4】
請求項1〜請求項3に記載の画像処理装置であって、
前記画像生成手段は、前記拡大処理を実行するとき、前記処理対象画像内に表示された全ての領域が前記表示画像内に表示されるように、前記対象領域の周縁に隣接する第2対象領域を前記処理対象画像内に設定し、前記第2対象領域を縮小して縮小画像を生成する縮小処理を実行し、前記処理対象画像と前記拡大画像と前記縮小画像とを合成して前記表示画像を生成する
ことを特徴とする画像処理装置。
【請求項5】
請求項1〜請求項4に記載の画像処理装置であって、
前記画像生成手段は、前記対象領域の大きさに関わらず、前記対象領域と前記対象領域を除く領域との間で輝度及び明度の少なくとも一方を変化させて明暗差をつける
ことを特徴とする画像処理装置。
【請求項6】
所定の基準形状に相似する対象領域を処理対象画像内に設定し、
前記設定した対象領域の大きさが前記基準形状に相似する所定の拡大領域の大きさ未満であるか否かを判定し、
前記対象領域の大きさが前記拡大領域の大きさ未満であると判定したとき、前記対象領域を前記拡大領域の大きさに拡大して拡大画像を生成する拡大処理を実行し、前記処理対象画像内に前記対象領域を基準として前記拡大画像が表示されるように前記処理対象画像と前記拡大画像とを合成して表示画像を生成し、
前記生成した表示画像を表示手段に表示させる
ことを特徴とする画像処理方法。
【請求項7】
請求項1〜請求項5の何れかに記載の画像処理装置を備えた運転支援システムであって、
車両の周囲の動画像を撮像する撮像手段と、
前記車両の周囲に存在する障害物を検知する障害物検知手段と、を備え、
前記処理対象画像は、前記撮像手段が撮像した動画像を構成する静止画像であり、
前記領域設定手段は、前記障害物検知手段が検知した障害物を基準として前記対象領域を設定する
ことを特徴とする運転支援システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2012−222776(P2012−222776A)
【公開日】平成24年11月12日(2012.11.12)
【国際特許分類】
【出願番号】特願2011−89928(P2011−89928)
【出願日】平成23年4月14日(2011.4.14)
【出願人】(000000170)いすゞ自動車株式会社 (1,721)
【Fターム(参考)】