説明

撮像装置および撮像方法

【課題】画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供すること。
【解決手段】画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像の解像度および露出を制御することにより、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置および撮像方法に関し、特に、画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像内の物体を含む領域の解像度および露出の何れか一方あるいは両方を制御する撮像装置および撮像方法に関する。
【背景技術】
【0002】
従来の車載用撮像装置においては、例えば走行中に道路上の車両や路側の人物や道路標識をカーナビゲーションシステムのモニタに映し出すために、あるいは、撮像した動画像から道路上の障害物や路側からの人物の飛び出し等を検知して警告を行う安全運転支援システムのために、車載カメラが撮像可能な最大の解像度よりも低い解像度の画像を高フレームレートで撮像することにより、限られた画像データ転送速度の中でフレーム間の画像の変化があまり大きくない滑らかな動画像を得るような工夫が行われている。
【0003】
しかし、この方法では滑らかな動画像が得られるという意味では画質は向上するが、得られる画像の解像度が低いために、例えばモニタに映し出された画像内の物体が何であるか(例えば人物か街路樹の幹か等)の判別がつきにくかったり、あるいは、駐車禁止の標識等、走行に関係ない道路標識を速度制限の標識と見誤ったりといったような誤認の可能性があり、それによる事故等の危険が発生したりする。つまり、少なくとも画像内の注目したいあるいは注目する必要のある部分、つまり重要度の高い部分の解像度については、可能な限り高解像度にしたいという要求がある。また、画像の露出についても、画像内の重要度の高い部分が適正な露出となることが望ましい。
【0004】
そこで、例えば、テレビ会議システムにおいて発言者の画像を鮮明に表示するための方法として、ステレオマイクから得られた音声信号により発言者の位置を推定し、推定された位置を中心に所定の範囲の画像領域を他の画像領域より高解像度にする方法が提案されている(例えば、特許文献1参照)。あるいは、車載カメラシステムにおいて、自車の運行速度に応じて撮影ズーム率を変更することにより撮影距離を変更して撮影することで、鮮明な画像を取得し、危険障害物の検知を容易にする方法が提案されている(例えば、特許文献2参照)。
【0005】
また、スチルカメラの露出制御において、主要部測光エリア内に主要部以外の背景を含む率を少なくして主要部の測光精度を向上させるための方法として、測距回路により求められた主要被写体までの距離に基づいて主要被写体の顔サイズを決定し、決定された顔サイズをほぼカバーする主要部測光エリアを求め、主要部測光エリア内に位置する多分割測光素子の出力により露出制御を行う方法が提案されている(例えば、特許文献3参照)。さらに、車載用カメラにおいて、画面の高輝度部分の影響を排除して自車が走行する車線部分の輝度レベルを安定に保つために、画像内の自車が走行する車線部分を検出し、車線部分の輝度が予め定められた目標輝度となるようにアイリスあるいはシャッタを調節して露出制御を行う方法が提案されている(例えば、特許文献4参照)。
【特許文献1】特開平6−217276号公報
【特許文献2】特開2005−274518号公報
【特許文献3】特開平5−66458号公報
【特許文献4】特開平8−240833号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、特許文献1の方法では、音声信号により発言者を特定しているため、テレビ会議システムのような室内の限られた条件下では発言者を特定できても、車載用撮像装置のような屋外で距離も様々で騒音も多いといった条件下では適用は困難である。
【0007】
また、特許文献2の方法では、車速に応じてズームされるために、例えば高速走行時は画角が狭くなって周囲の画像が得られない状態、つまり視野が狭くなった状態となり、自車の側方等から向かって来る障害物を見落とすという問題が発生する。
【0008】
さらに、特許文献3の方法では、主要被写体までの距離情報を得るために測距回路が必須でシステムが複雑で大掛かりとなり、さらに対象を人物に限定しているために、車載用撮像装置のように多様な物体を撮像対象とするシステムにはそぐわない。
【0009】
また、特許文献4の方法では、道路に露出を合わせるようになっており、画像内の重要度の高い部分が必ずしも適正な露出となるわけではない。
【0010】
本発明は、上記事情に鑑みてなされたもので、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明の目的は、下記構成により達成することができる。
【0012】
1.撮像される画像の解像度を制御する解像度制御部と撮像される画像の露出を制御する露出制御部とを有する撮像部を備えた撮像装置において、
前記撮像部で撮像された画像から物体を検出する物体検出部と、
少なくとも一つの物体の形状を記憶する形状記憶部と、
検出された前記物体と前記形状記憶部に記憶されている物体の形状との一致度を判定する重要度判定部と、
前記重要度判定部の判定結果に基づいて、前記撮像部で撮像される画像の解像度および露出の何れか一方あるいは両方を前記解像度制御部および前記露出制御部に制御させるための制御信号を出力する撮像制御部とを備えたことを特徴とする撮像装置。
【0013】
2.前記撮像制御部は、前記解像度制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の解像度が間引き撮像時の解像度よりも高くなるように制御させるための制御信号を出力することを特徴とする1に記載の撮像装置。
【0014】
3.前記撮像制御部は、前記露出制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の露出が所定の露出となるように制御させるための制御信号を出力することを特徴とする1または2に記載の撮像装置。
【0015】
4.前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出で撮像された画像を表示する表示部を備えたことを特徴とする1乃至3の何れか1項に記載の撮像装置。
【0016】
5.前記物体検出部は、前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出を用いて前記撮像部で撮像された画像から物体を再検出し、
前記重要度判定部は、再検出された前記物体の重要度を再判定し、
前記重要度判定部による再判定の結果に基づいて重要度の高い物体の存在を告知する重要物体告知部を備えたことを特徴とする1乃至4の何れか1項に記載の撮像装置。
【0017】
6.前記重要物体告知部は、音声による告知を行う発音部を有することを特徴とする5に記載の撮像装置。
【0018】
7.前記重要物体告知部は、画像による告知を行う表示部を有することを特徴とする5に記載の撮像装置。
【0019】
8.撮像を行う撮像工程と、
前記撮像工程で撮像された画像から物体を検出する物体検出工程と、
前記物体検出工程で検出された物体の重要度を判定する重要度判定工程と、
前記重要度判定工程での判定結果に基づいて、前記撮像工程で撮像される画像の解像度および露出の何れか一方あるいは両方を制御する撮像制御工程とを備えたことを特徴とする撮像装置の撮像方法。
【発明の効果】
【0020】
本発明によれば、画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像の解像度および露出を制御することにより、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することができる。
【発明を実施するための最良の形態】
【0021】
以下、本発明を図示の実施の形態に基づいて説明するが、本発明は該実施の形態に限られない。なお、図中、同一あるいは同等の部分には同一の番号を付与し、重複する説明は省略する。
【0022】
まず最初に、本発明における撮像装置の一例である車載用撮像装置について、図1を用いて説明する。図1は車載用撮像装置100の概要を示す模式図で、図1(a)は車載用撮像装置100を搭載した車両200が道路上を走行している状態を上空から見た模式図、図1(b)はその時の車載用撮像装置100で撮像された画像の模式図である。
【0023】
図1(a)および(b)において、車載用撮像装置100を搭載した車両200は、白線241と242とで示された車線251上を紙面の右から左に走行している。車両200の前方には同一の車線251上に車両210が同方向に走行しており、車両200の進行方向に向かって白線241の左側には人物220と道路標識230(この例では制限速度60kmの標識)とが立っている。車両200の進行方向に向かって白線242の右側には白線242と243とで示された車線252がある。
【0024】
本例においては、上述した重要度の高い部分に相当するのは、前方を走行する車両210、左路側の人物220および道路標識230である。以下、画像内の重要度の高い物体を含む領域を重要物エリアNAと言う。なお、ここでは車載用撮像装置100として車両前方を撮像する例を示したが、これに限るものではなく、車両後方、側方を撮像するものであってもよい。さらに、本発明における撮像装置は、本例のような車載用撮像装置に限るものではなく、例えば路側や高速道路の料金所等に設置された定点撮像装置であってもよい。このような定点撮像装置においては、例えば車両のナンバープレートや運転席や助手席にいる人物の顔といったものも上述した重要度の高い物体に相当すると考えられる。
【0025】
次に、車載用撮像装置100の第1の実施の形態について、図2および図3を用いて説明する。
【0026】
図2は、車載用撮像装置100の構成を示すブロック図である。図2において、車載用撮像装置100は、撮像部110、物体検出部120、重要度判定部130、撮像制御部140、画像処理部150および表示部160等で構成されている。
【0027】
撮像部110で、撮像部110が持つ最大解像度よりも低い解像度で撮像(以下、間引き撮像と言う)された画像信号110aは物体検出部120に入力され、物体検出が行われる。物体検出部120で検出された輪郭形状情報120aは重要度判定部130に入力され、重要度が判定される。一方、間引き撮像された画像信号110aは、画像処理部150に入力されて表示のための既定の画像処理が施され、例えばカーナビゲーションシステムのモニタ等である表示部160に表示される。
【0028】
重要度判定部130で判定された重要度情報130aおよび重要物エリア座標情報130bは撮像制御部140に入力され、重要度に応じて撮像部110の撮像動作を制御する制御信号140aに反映される。具体的には、重要物エリアNAの解像度を間引き撮像時の解像度よりも高く制御する、あるいは重要物エリアNAの露出が所定の露出となるように制御するような制御信号140aが出力される。解像度と露出の両方を共に制御してもよい。ここに、所定の露出とは、例えば表示部160で再現可能な輝度範囲の中央近傍の輝度等を意味する。
【0029】
制御信号140aは、画像処理部150にも入力され、撮像部110の撮像動作の制御に合わせた既定の画像処理の選択が行われる。上述した物体の重要度が反映されて撮像された画像信号110aは、画像処理部150に入力されて表示のための既定の画像処理が施され、表示部160に表示され、運転者が視認できる状態となる。
【0030】
図3は、図2に示した車載用撮像装置100の動作の流れを示すフローチャートである。図3において、ステップS101(撮像工程)で撮像部110によって間引き撮像が行われ、画像信号110aが物体検出部120に入力される。ステップS103(物体検出工程)で物体検出部120によって画像信号110aから物体が検出され、輪郭形状情報120aが重要度判定部130に入力される。ステップS105(重要度判定工程)で重要度判定部130によって輪郭形状情報120aから物体の重要度が判定され、ステップS107で判定結果から重要度の高い物体の有無が判断される。
【0031】
重要度の高い物体がない場合(ステップS107;No)、ステップS113に進み、ステップS113(表示工程)で間引き撮像された画像が表示部160に表示される。ステップS115で上述した一連の動作を終了するか否かが確認され、終了する場合(ステップS115;Yes)にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合(ステップS115;No)、ステップS101に戻り動作が継続される。
【0032】
ステップS107で重要度の高い物体がある場合(ステップS107;Yes)、重要度情報130aおよび重要物エリア座標情報130bが撮像制御部140に入力されてステップS111に進む。ステップS111(撮像制御工程および撮像工程)で撮像制御部140の制御信号140aに従って撮像部110の解像度および露出の何れか一方あるいは両方の制御が変更されて撮像が行われ、画像信号110aが画像処理部150に入力される。
【0033】
ステップS113(表示工程)で物体の重要度が反映されて撮像された画像が表示部160に表示され、運転者が重要度の高い物体を視認できる状態となる。ステップS115で上述した一連の動作を終了するか否かが確認され、終了する場合(ステップS115;Yes)にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合(ステップS115;No)、ステップS101に戻り動作が継続される。
【0034】
次に、図2に示した各部の詳細について、図4乃至図9を用いて説明する。
【0035】
図4は、上述した撮像部110の構成を示すブロック図である。図4において、撮像部110は、撮像レンズ111、絞り112、撮像素子113、アンプ114、アナログデジタル(A/D)変換器115、インターフェース116、タイミングジェネレータ117、絞り制御部118等で構成されている。
【0036】
撮像レンズ111で結像され、絞り制御部118によって制御された絞り112で光量制御された被写体からの光は撮像素子113で光電変換され、アンプ114で増幅され、A/D変換器でデジタルデータに変換され、インターフェース116を介して画像信号110aとして出力される。これらの一連の撮像動作およびアンプ114の増幅率は、タイミングジェネレータ117によって制御される。
【0037】
一方、上述した撮像制御部140からの制御信号140aはインターフェース116を介してタイミングジェネレータ117および絞り制御部118に入力され、制御信号140aに従って、撮像素子113の読出の解像度、露出時間およびアンプ114の増幅率、および絞り112の絞り値等の制御が行われる。ここに、タイミングジェネレータ117は本発明における解像度制御部として機能し、タイミングジェネレータ117および絞り制御部118は本発明における露出制御部として機能する。
【0038】
図5は、上述した物体検出部120および重要度判定部130の構成を示すブロック図である。図5において、物体検出部120は、エッジ画像算出部121および輪郭形状抽出部122等で構成され、重要度判定部130は、輪郭形状比較部131、重要物エリア座標算出部132、テンプレート記憶部133、テンプレート選択部134、テンプレート変形処理部135等で構成されている。
【0039】
上述した間引き撮像の画像信号110aがエッジ画像算出部121に入力され、画像信号110aに対してエッジ検出用フィルタであるソベルフィルタ等のフィルタ処理が行われ、重要度判定部130で行われるテンプレートマッチングのためのエッジ画像が算出される。エッジ検出用フィルタはソベルフィルタ以外のフィルタであってもよいし、エッジ画像の代わりに二値化画像を用いてもよい。エッジ画像算出部121で算出されたエッジ画像は輪郭形状抽出部122に入力されて物体の輪郭形状が抽出され、輪郭形状情報120aとして重要度判定部130に入力される。
【0040】
重要度判定部130のテンプレート記憶部133には、人物、車両、道路標識等の重要度の高い物体の輪郭形状がテンプレートとして記憶されている。テンプレート選択部134は、テンプレート記憶部133に記憶されている各種のテンプレートから輪郭形状情報120aと比較するためのテンプレートを選択する。テンプレート変形処理部135は、テンプレート選択部134によって選択されたテンプレートと輪郭形状情報120aとを比較するために、選択されたテンプレートに拡大、縮小、回転、反転等の処理を施して輪郭形状比較部131に入力するとともに、輪郭形状比較部131による比較で、選択されたテンプレートと輪郭形状情報120aとの一致度が高いと判断された場合には、重要度情報130aを出力する。
【0041】
輪郭形状比較部131は、テンプレート変形処理部135で変形処理された選択されたテンプレートと輪郭形状情報120aとを画素単位で比較し、一致する画素の割合が既定値を超える場合に選択されたテンプレートと輪郭形状情報120aとの一致度が高いと判断する。ここに、テンプレート記憶部133は本発明における形状記憶部として機能する。
【0042】
重要エリア座標算出部132は、輪郭形状比較部131によって選択されたテンプレートと輪郭形状情報120aとが一致度が高いすると判断された場合に、画像信号110a上での輪郭形状の座標を重要物エリア座標情報130bとして出力する。重要物エリアNAの形状は、選択されたテンプレートの形状であっても、輪郭形状情報120aで示される形状であってもよいし、後に図7等で示すような輪郭形状情報120aで示される重要度の高い物体の形状に外接する四角形であってもよい。
【0043】
ここでは重要度判定方法としてテンプレートマッチングを用いた方法を例示したが、これに限るものではなく、他の画像認識方法を用いて重要度の判定を行ってもよい。また、重要度の高い物体は一つと限るものではなく、1つの画像信号110aから複数の物体を検出し、それぞれに対して重要度を判定して重要度情報130aおよび重要物エリア座標情報130bを出力してもよいし、抽出された複数の重要度情報の中から最も重要度の高いものを選択して重要度情報130aおよび重要物エリア座標情報130bを出力してもよい。
【0044】
図6は、撮像制御部140の制御信号140aに従って制御される撮像部110の間引き撮像を説明する模式図で、図6(a)は撮像部110の撮像素子113の仕様を例示した模式図、図6(b)は垂直方向を1/2に間引きする場合の駆動方法を例示した模式図、図6(c)は間引き駆動によって生成される間引き画像を例示した模式図である。
【0045】
図6(a)において、撮像素子113は、例えば、画素数がVGA(水平640画素×垂直480行)で、毎秒30フレームのフレームレートで撮像可能な撮像素子であるとする。この撮像素子113を、図6(b)に示すように垂直方向に1行読み出し、続く1行を読み出さずに読み飛ばすという垂直1/2間引き駆動すると、図6(c)に示すような水平640画素×垂直240行の垂直1/2間引き画像を得ることができ、この場合のフレームレートは毎秒60フレームとなり、高速読出が可能となる。
【0046】
なお、撮像素子113がモノクロームの場合や、所謂ナイトビジョンと呼ばれる遠赤外線カメラの画像等の場合には、上述した「垂直方向に1行読み出し、続く1行を読み飛ばす」ことで垂直1/2間引き駆動が可能となるが、例えば撮像素子113がベイヤ配列の原色(RGB)カラーフィルタを備えている場合は、図6(b)で「垂直方向に2行読み出し、続く2行を読み飛ばす」ことで、色情報の欠落を起こさずに垂直1/2間引き駆動が可能となる。
【0047】
図7は、図6に示した撮像部110の間引き撮像において、重要度の高い物体が存在する場合の画像信号の読出方法を示す模式図である。図7において、領域Bの左側に重要物エリアNA(ここでは、図5で説明した重要度の高い物体の形状に外接する四角形で表される)がある場合、重要度の高い物体が存在しない領域Aおよび領域Cについては、図6に示したと同じ垂直1/2間引き駆動を行って垂直1/2間引き画像を得る。領域Bについては、図6の垂直1/2間引き駆動は行わず、垂直行を全て読み出す全行読出駆動を行う。
【0048】
図6および図7に示した例では、重要物エリアNAがある領域Bについては、水平、垂直共に全画素の信号を読み出すようにしたが、撮像素子113が垂直だけでなく水平の各画素についても読み出すか読み飛ばすかを設定できるような構成のものであれば、重要物エリアNAの部分だけを全画素読出し、その他の重要度の高い物体の存在しない部分については水平、垂直共に間引き駆動を行うことができる。この例を示したのが図8である。
【0049】
図8においては、画面左下に重要物エリアNAがあり、その他の部分には重要度の高い物体は存在しないとする。この場合、画面左下の重要物エリアNAのみ全画素読出を行い、その他の領域については水平、垂直共に例えば1/2間引き駆動を行う。この場合、読み出す画素数が全画素読出の場合の約1/4となるため、フレームレートは約4倍の毎秒約120フレームとなり、図6および図7の例よりもさらに高速読出が可能となるため、高速で移動する車両に備えられる車載用撮像装置に最適のものとなる。
【0050】
図7および図8の例では、重要物エリアNAが一つの場合を示したが、例えば図1に示した、前方を走行する車両210、左路側の人物220および道路標識230の3つの重要度の高い物体が存在する場合のように複数の重要度の高い物体が存在する場合には、重要度の高い物体を含むエリアを、それぞれ重要物エリアNAとして表示してもよい。
【0051】
次に、重要物エリアNAに露出を合わせる方法について図9を用いて説明する。ここでは、重要度の高い物体の種類とそれが存在する画面内の位置について重み付けを行い、その結果から露出を決定する方法について説明する。
【0052】
図9は、撮像制御部140の制御信号140aに従って制御される撮像部110の露出制御を説明する模式図で、図9(a)は重要度の高い物体の種類による重み付けを示す模式図、図9(b)は重要度の高い物体の存在する画面内の位置による重み付けを示す模式図である。
【0053】
ここで、重要度の高い物体の種類による重み付け係数をW1とし、例えば、
(1)重要度の高い物体が人物の場合、W1=3
(2)重要度の高い物体が車両や道路標識の場合、W1=2
(3)重要度の高い物体が存在しない場合、W1=1
のように重み付け係数W1を設定する。
【0054】
そして例えば図1に示したように画面左下に人物が存在する場合、図9(a)において、画面左下の重要物エリアNAについては重み付け係数W1=3であり、その他の部分については重み付け係数W1=1である。
【0055】
次に、重要度の高い物体の存在する画面内の位置による重み付け係数をW2とし、危険度の高い位置ほど重み付け係数W2を大きく設定する。例えば、
(a)道路内は道路外よりW2が大きくなるように、
(b)自車に近いほどW2が大きくなるように、
設定する。
【0056】
図9(b)には重み付け係数W2の設定の例を示した。例えば、自車の直前が一番W2が大きく(W2=10)、次いで左右の直前がW2が高く(W2=8)設定され、遠方あるいは空の部分はW2が低く(W2=1)設定されている。ここでは重み付け係数W2が左右対称の例を示したが、例えば、日本では車両が左側車線を走行するために左側から人物が飛び出す危険が高いので、同じ距離でも右よりも左の重み付け係数W2を高くするといったことでもよい。
【0057】
次に、上述した重み付け係数W1およびW2を用いて、画面各部の輝度評価値を決定する。撮像された画像の画素P(x,y)における輝度値をY(x,y)、輝度評価値をYi(x,y)とし、重み付け係数をそれぞれW1(x,y)、W2(x,y)とすると、
Yi(x,y)=W1(x,y)×W2(x,y)×Y(x,y)
となる。
【0058】
さらに、Yi(x,y)の全画素平均を求め、それを画像の輝度評価値Yiとし、輝度評価値Yiが所定の輝度となるように絞り112の絞り値、撮像素子113の露出時間、アンプ114の増幅率等を制御することで、重要物エリアNAの露出を所定の露出に合わせることができる。
【0059】
以上に述べたように、本第1の実施の形態によれば、間引き撮像によって得られた画像内の物体の形状とテンプレート記憶部133に記憶された重要度の高い物体の形状とを比較して一致度を判定し、判定結果に基づいて一致度の高い物体を含むエリアすなわち重要物エリアNAの解像度を高くして撮像した画像を表示部に表示することで運転者が重要度の高い物体を高解像度で視認できるようになり、また、同じく判定結果に基づいて重要物エリアNAの露出を所定の露出に合わせることで運転者が重要度の高い物体を適正な明るさで正確に視認できるようになり、重要度の高い物体の誤認や、衝突、人身事故等の危険を回避する安全運転に大きく寄与することができる。
【0060】
次に、車載用撮像装置100の第2の実施の形態について、図10および図11を用いて説明する。図10は、車載用撮像装置100の構成を示すブロック図である。図10において、車載用撮像装置100は、撮像部110、物体検出部120、重要度判定部130、撮像制御部140および警告部170等で構成されている。
【0061】
最初に、撮像部110で、間引き撮像された画像信号110aは物体検出部120に入力され、ラフな物体検出が行われる。物体検出部120で検出された輪郭形状情報120aは重要度判定部130に入力され、ラフな重要度判定が行われる。撮像部110は図4に示したと同じものでよく、物体検出部120および重要度判定部130は図5に示したと同じものでよい。
【0062】
重要度判定部130でラフに判定された重要度情報130aおよび重要物エリア座標情報130bは撮像制御部140に入力され、重要度に応じて撮像部110の撮像動作を制御するための制御信号140aに反映される。ここでは、重要物エリアNAの解像度を間引き撮像よりも高く制御し、かつ、重要物エリアNAの露出を所定の露出に制御するような制御信号140aが出力されるとする。
【0063】
上述した物体のラフな重要度が反映されて、重要物エリアNAが高解像度でかつ所定の露出に制御された画像信号110aは、再度物体検出部120に入力され、再度物体検出が行われる。物体検出部120で再検出された輪郭形状情報120aは重要度判定部130に入力され、重要度が再判定される。
【0064】
再判定でも重要度の高い物体が存在すると判定された場合、撮像制御部140は重要物体情報140bを警告部170に出力する。警告部170は、重要物体情報140bを受けて、音声による告知を行う発音部180に信号を送信し、重要度の高い物体の存在を、例えば「左側に人物がいます」等の言葉あるいはブザー等の警告音により告知する。
【0065】
重要度の高い物体の存在の告知は音声による告知に限るものではなく、例えば第1の実施の形態と同様に、カーナビゲーションシステムのモニタ等の表示部160に、重要物エリアNAが高解像度でかつ所定の露出に制御された画像を表示してもよいし、発光ダイオード等を点滅させて警告表示してもよい。ここに、警告部170および発音部180あるいは表示部160は本発明における重要物体告知部として機能する。
【0066】
図11は、図10に示した車載用撮像装置100の第2の実施の形態における動作の流れを示すフローチャートである。図11において、ステップS201(撮像工程)で撮像部110によって間引き撮像が行われ、画像信号110aが物体検出部120に入力される。ステップS203(物体検出工程)で物体検出部120によって画像信号110aから物体がラフに検出され、輪郭形状情報120aが重要度判定部130に入力される。ステップS205(重要度判定工程)で重要度判定部130によって輪郭形状情報120aから物体の重要度がラフに判定され、ステップS207で判定結果から重要度の高い物体の有無が判断される。
【0067】
重要度の高い物体がない場合(ステップS207;No)、ステップS223に進み、ステップS223で上述した一連の動作を終了するか否かが確認され、終了する場合(ステップS223;Yes)にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合(ステップS223;No)、ステップS201に戻り動作が継続される。
【0068】
ステップS207で重要度の高い物体がある場合(ステップS207;Yes)、重要度情報130aおよび重要物エリア座標情報130bが撮像制御部140に入力されてステップS211に進む。ステップS211(撮像制御工程および撮像工程)で撮像制御部140の制御信号140aに従って撮像部110の重要物エリアNAの解像度が高解像度に設定され、かつ重要物エリアNAの露出が所定の露出に設定されて撮像が行われ、画像信号110aが再度物体検出部120に入力される。
【0069】
ステップS213(物体検出工程)で物体検出部120によって画像信号110aから再度物体検出が行われ、輪郭形状情報120aが再度重要度判定部130に入力される。ステップS215(重要度判定工程)で重要度判定部130によって輪郭形状情報120aから物体の重要度が再判定され、ステップS217で再判定結果から重要度の高い物体の有無が再判断される。
【0070】
重要度の高い物体がない場合(ステップS217;No)、ステップS223に進み、ステップS223で上述した一連の動作を終了するか否かが確認され、終了する場合(ステップS223;Yes)にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合(ステップS223;No)、ステップS201に戻り動作が継続される。
【0071】
ステップS217で重要度の高い物体がある場合(ステップS217;Yes)、撮像制御部140から重要物体情報140bが警告部170に出力される。ステップS221(重要物体告知工程)で、警告部170および発音部180により重要度の高い物体の存在を言葉あるいはブザー等の警告音や画像等により運転者に告知する。
【0072】
ステップS223で上述した一連の動作を終了するか否かが確認され、終了する場合(ステップS223;Yes)にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合(ステップS223;No)、ステップS201に戻り動作が継続される。
【0073】
本第2の実施の形態においては、重要物体の存在を音声や画像で運転者に告知するとしたが、それに限るものではなく、例えば重要物体の存在を検知した場合に、ブレーキ操作やハンドル操作に直接あるいは間接に検出結果をフィードバックすることでもよい。
【0074】
以上に述べたように、本第2の実施の形態によれば、間引き撮像によって得られた画像内の物体の形状とテンプレート記憶部133に記憶された重要度の高い物体の形状とをラフに比較して一致度を判定し、ラフな判定結果に基づいて一致度の高い物体を含むエリアすなわち重要物エリアNAの解像度を高くし、かつ露出を適正にして撮像した画像を用いて再度画像内の物体の形状とテンプレート記憶部133に記憶された重要度の高い物体の形状とを高精度に比較して一致度を判定することで、重要度の高い物体を高精度に検出することができ、検出結果に基づいて重要物体の存在を音声や画像で運転者に告知することで、運転者が重要度の高い物体の存在を正確に把握できるようになり、衝突や人身事故等の危険を回避する安全運転に大きく寄与することができる。
【0075】
以上に述べたように、本発明によれば、画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像の解像度および露出を制御することにより、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することができる。
【0076】
尚、本発明に係る撮像装置および撮像方法を構成する各構成の細部構成および細部動作に関しては、本発明の趣旨を逸脱することのない範囲で適宜変更可能である。
【図面の簡単な説明】
【0077】
【図1】車載用撮像装置の概要を示す模式図である。
【図2】車載用撮像装置の第1の実施の形態の構成を示すブロック図である。
【図3】図2に示した車載用撮像装置の動作の流れを示すフローチャートである。
【図4】撮像部の構成を示すブロック図である。
【図5】物体検出部および重要度判定部の構成を示すブロック図である。
【図6】撮像部の間引き撮像を説明する模式図である。
【図7】重要度の高い物体が存在する場合の画像信号の読出方法を示す模式図である。
【図8】撮像部の間引き撮像の別法を説明する模式図である。
【図9】撮像部の露出制御を説明する模式図である。
【図10】車載用撮像装置の第2の実施の形態の構成を示すブロック図である。
【図11】図10に示した車載用撮像装置の動作の流れを示すフローチャートである。
【符号の説明】
【0078】
100 車載用撮像装置
110 撮像部
111 撮像レンズ
112 絞り
113 撮像素子
114 アンプ
115 アナログデジタル(A/D)変換器
116 インターフェース
117 タイミングジェネレータ
118 絞り制御部
120 物体検出部
130 重要度判定部
140 撮像制御部
150 画像処理部
160 表示部
170 警告部
180 発音部
200 車両
210 車両
220 人物
230 道路標識
241 白線
242 白線
243 白線
251 車線
252 車線
NA 重要物エリア
W1 (重要度の高い物体の種類による)重み付け係数
W2 (重要度の高い物体の存在する画面内の位置による)重み付け係数

【特許請求の範囲】
【請求項1】
撮像される画像の解像度を制御する解像度制御部と撮像される画像の露出を制御する露出制御部とを有する撮像部を備えた撮像装置において、
前記撮像部で撮像された画像から物体を検出する物体検出部と、
少なくとも一つの物体の形状を記憶する形状記憶部と、
検出された前記物体と前記形状記憶部に記憶されている物体の形状との一致度を判定する重要度判定部と、
前記重要度判定部の判定結果に基づいて、前記撮像部で撮像される画像の解像度および露出の何れか一方あるいは両方を前記解像度制御部および前記露出制御部に制御させるための制御信号を出力する撮像制御部とを備えたことを特徴とする撮像装置。
【請求項2】
前記撮像制御部は、前記解像度制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の解像度が間引き撮像時の解像度よりも高くなるように制御させるための制御信号を出力することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記撮像制御部は、前記露出制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の露出が所定の露出となるように制御させるための制御信号を出力することを特徴とする請求項1または2に記載の撮像装置。
【請求項4】
前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出で撮像された画像を表示する表示部を備えたことを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。
【請求項5】
前記物体検出部は、前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出を用いて前記撮像部で撮像された画像から物体を再検出し、
前記重要度判定部は、再検出された前記物体の重要度を再判定し、
前記重要度判定部による再判定の結果に基づいて重要度の高い物体の存在を告知する重要物体告知部を備えたことを特徴とする請求項1乃至4の何れか1項に記載の撮像装置。
【請求項6】
前記重要物体告知部は、音声による告知を行う発音部を有することを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記重要物体告知部は、画像による告知を行う表示部を有することを特徴とする請求項5に記載の撮像装置。
【請求項8】
撮像を行う撮像工程と、
前記撮像工程で撮像された画像から物体を検出する物体検出工程と、
前記物体検出工程で検出された物体の重要度を判定する重要度判定工程と、
前記重要度判定工程での判定結果に基づいて、前記撮像工程で撮像される画像の解像度および露出の何れか一方あるいは両方を制御する撮像制御工程とを備えたことを特徴とする撮像装置の撮像方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公開番号】特開2008−53901(P2008−53901A)
【公開日】平成20年3月6日(2008.3.6)
【国際特許分類】
【出願番号】特願2006−226320(P2006−226320)
【出願日】平成18年8月23日(2006.8.23)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】