撮像装置および表示方法
【課題】ユーザに違和感を与えない画像や映像を提示できる撮像装置を提供する。
【解決手段】入力された画像から被写体に含まれる人物の顔を検出する顔検出部14と、顔検出部で検出された顔と撮像装置との距離を測定する距離測定部15と、距離測定部で測定された距離に応じて顔検出部で検出された顔に対する指標を異ならせ、その指標を前記画像の前記顔の位置に付加する顔指標付加部16と、顔指標付加部で指標が付加された顔の画像を表示する画像表示部18とを備える。
【解決手段】入力された画像から被写体に含まれる人物の顔を検出する顔検出部14と、顔検出部で検出された顔と撮像装置との距離を測定する距離測定部15と、距離測定部で測定された距離に応じて顔検出部で検出された顔に対する指標を異ならせ、その指標を前記画像の前記顔の位置に付加する顔指標付加部16と、顔指標付加部で指標が付加された顔の画像を表示する画像表示部18とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像により得られた画像から人物の顔を検出し、検出した顔に指標を付した画像を表示する撮像装置および表示方法に関する。
【背景技術】
【0002】
近年、被写体をCCDやMOS型の固体撮像素子を用いて撮像するデジタルカメラやデジタルビデオカメラ等といった撮像装置においては、静止画像や動画像の撮影時に、被写体に含まれる人物の顔を自動的に検出する顔検出機能を有するものが増えている。この顔検出機能を有する撮像装置においては、一般に、検出された顔部分の領域(顔領域)における画像情報に基づきフォーカス制御や露出制御が行われている。
【0003】
また、一般に、撮像装置には、そのボディに液晶表示装置が備えられていることが多く、その液晶表示装置には、撮像素子によって捉えられた画像が表示される。顔検出機能を備えたデジタルビデオカメラやデジタルカメラでは、この液晶表示装置に表示される画像に重ねて顔検出枠(例えば、特許文献1参照)や顔検出のマーク(例えば、特許文献2参照)が表示される。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−286940号公報
【特許文献2】特開2007−201839号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、撮像装置からの距離に差がある複数の人物が存在し、各人物の顔検出枠が重なってしまった場合、撮像装置から遠い位置(後方)の人物の顔検出枠が、撮像装置から近い位置(前方)の人物の顔検出枠に重なって表示される。例えば、図12に示すように、撮像装置から近い位置の人物71の顔検出枠73と撮像装置から遠い位置の人物72の顔検出枠74とは独立して表示されるために、撮像装置から遠い位置の顔検出枠74が撮像装置から近い位置の人物71に重なる部分75が存在する。そのため、この重なる部分75の前後の関係が他の部分と異なり、ユーザは、撮像装置の液晶表示装置に表示される画像に違和感を持つことがある。
【0006】
また、近年は、ユーザが立体的に視認可能な静止画像(3次元画像)やユーザが立体的に視認可能な動画像(3次元映像)に対する関心が高まっており、3次元画像や3次元映像を撮影できる3次元撮像装置が増えてきている。この3次元撮像装置では、視差を考慮した右目用の画像および左目用の画像を取得して3次元画像が得られるようになっており、その3次元撮像装置には、視差バリア方式を利用した裸眼による立体視を可能にした液晶表示装置が備えられている。
【0007】
3次元画像や3次元映像の場合、図12に示すように、撮像装置から遠い位置にあるべきものが撮像装置から近い位置にあるものの上に重なるように表示されると、その部分の前後関係が逆転した画像や映像となって立体感が損なわれ、また、その画像や映像を見ているユーザに違和感を与えるため、大きな疲労感が生じる要因になることがある。
【0008】
本発明の解決する課題は、ユーザに違和感を与えない画像や映像を提示できる撮像装置および表示方法を提供することにある。
【課題を解決するための手段】
【0009】
上記の課題を解決するために、本発明は、入力された画像から被写体に含まれる人物の顔を検出する顔検出部と、顔検出部で検出された顔と撮像装置との距離を測定する距離測定部と、距離測定部で測定された距離に応じて顔検出部で検出された顔に対する指標を異ならせ、その指標を前記画像の前記顔の位置に付加する顔指標付加部と、顔指標付加部で指標が付加された顔の画像を表示する画像表示部とを備える。
【発明の効果】
【0010】
本発明は、撮像装置から人物の顔までの距離に応じた方法で顔に指標を表示することにより、ユーザに違和感を与えない画像や映像を提示できる。
【図面の簡単な説明】
【0011】
【図1】本発明の実施例1に係る撮像装置の構成を示すブロック図である。
【図2】本発明の実施例1に係る撮像装置の動作を、顔検出枠表示処理を中心に示すフローチャートである。
【図3】本発明の実施例1に係る撮像装置において顔検出枠が重なった場合の例を示す図である。
【図4】本発明の実施例1に係る撮像装置において顔検出枠の太さで前方後方を区別する例を示す図である。
【図5】本発明の実施例1に係る撮像装置において顔検出枠の色で前方後方を区別する例を示す図である。
【図6】本発明の実施例2に係る撮像装置の構成を示すブロック図である。
【図7】本発明の実施例2に係る撮像装置において、3次元撮影時における人物の左画像および右画像の位置関係を示す図である。
【図8】本発明の実施例2に係る撮像装置において、右画像と左画像とから作図された真上から見た人物と撮像装置との位置関係を示す図である。
【図9】本発明の実施例3に係る撮像装置において、人物a、人物bおよび人物cの配置を上空から見た図である。
【図10】本発明の実施例3に係る撮像装置において、左レンズおよび右レンズから撮影した画像内における人物の位置の横軸座標を示す図である。
【図11】本発明の実施例1に係る撮像装置の動作を、顔検出枠表示処理を中心に示すフローチャートである。
【図12】従来の撮像装置における顔検出枠の表示例を示す図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。
【実施例1】
【0013】
本発明の実施例1に係る撮像装置は、静止画像または動画像(以下、単に「画像」と総称する)に基づき顔検出枠を表示するようにしたものである。なお、顔検出枠は、指標の一例であり、本発明の「指標」としては、顔検出枠に限定されず、任意の形状のマークや矢印などを用いることができる。
【0014】
図1は、実施例1に係る撮像装置の構成を示すブロック図である。この撮像装置は、レンズ11、画像入力部12、メモリ13、顔検出部14、距離測定部15、顔枠付加部16、画像出力部17、画像表示部18および外部端子出力部19を備えている。
【0015】
レンズ11は、被写体の像を撮像素子(図示しない)上に結像させる。撮像素子はレンズによって結像された、被写体からの光に基づく像を電気信号に変換し、出力する。画像入力部12は、撮像素子が出力した電気信号に基づいた1フレームごとの画像データを生成し、メモリ13に出力する。
【0016】
メモリ13は、画像入力部12から入力される1フレームごとの画像データを一時記憶する。メモリ13に記憶された画像データは、必要に応じて、顔検出部14および顔枠付加部16から読み出される。
【0017】
顔検出部14は、メモリ13から読み出した1フレームごとの画像データによって示される画像から、被写体に含まれる人物の顔を検出し、検出した顔の位置の座標を算出する。なお、顔検出部14は、画像の肌色部分を検出したり、パターン認識技術を用いたりして、人物の顔を検出する周知の顔検出技術を用いて、人物の顔を検出する。顔検出部14で算出された座標は、顔位置座標値として距離測定部15に送られる。
【0018】
距離測定部15は、当該撮像装置から、顔検出部14から送られてきた顔位置座標値によって示される人物の顔までの距離を、以下の周知技術(1)または(2)のいずれかを用いて測定する。なお、(1)の場合、距離測定部15は、顔検出部14が検出した顔にフォーカスが合ったときのレンズ11の位置を取得し、そのレンズ11の位置によって顔までの距離を算出する。
(1)オートフォーカス機能を利用して、人物の顔にフォーカスを合わせることで測定
(2)レーザー距離計測器、GPS、超音波距離計測器等の測定装置を用いて測定
【0019】
距離測定部15で測定された人物の顔までの距離を示すデータは、顔検出部14から送られてくる顔位置座標値とともに、顔枠付加部16に送られる。
【0020】
顔枠付加部16は、本発明の顔指標付加部に対応し、メモリ13から読み出した画像データによって示される画像の顔の位置に対応する部分に、距離測定部15から送られてくるデータによって示される距離に応じた顔検出枠を生成して付加(合成)する。顔枠付加部16で顔検出枠が付加された画像を表す画像データは、画像出力部17に送られる。
【0021】
画像出力部17は、顔枠付加部16から送られてくる画像データに基づき画像データに基づく画像を表示するための表示信号を生成し、その表示信号を画像表示部18および外部端子出力部19に送る。画像表示部18は、例えばLCD(Liquid Crystal Display)や有機エレクトロルミネッセンスディスプレイから構成されており、画像出力部17から送られてくる表示信号にしたがって画面に画像を表示する。外部端子出力部19は、画像出力部17から送られてくる表示信号を外部の表示装置に出力する。
【0022】
次に、上記のように構成される本発明の実施例1に係る撮像装置の動作を、顔検出枠表示処理を中心に、図2に示すフローチャートを参照しながら説明する。
【0023】
まず、ユーザによって撮像装置が撮影モードに設定される(ステップS11)。これにより、レンズ11は、被写体の像を撮像素子上に結像させ、画像入力部12は、レンズ11によって撮像素子上に結像された画像を電気信号に変換して1フレーム分の画像データを生成し、メモリ13に送る。メモリ13は、画像入力部12から送られてくる1フレーム分の画像データを一時記憶する。この状態で顔検出枠表示処理が開始される。
【0024】
顔検出枠表示処理では、まず、顔が検出されたかどうかが調べられる(ステップS12)。すなわち、顔検出部14は、メモリ13から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像の中から全ての人物の顔を検出したかどうかを判断する。この際、顔検出部14は、まだ検出していない人物の顔があると判断すると、その検出していない顔の内、1の人物の顔を検出してその顔の部分の座標を算出し、その座標を示すデータである顔位置座標値を距離測定部15に送る。なお、人物の顔を一つも検出していない状態である初期状態において、全ての人物の顔を検出したと判断した場合(画像に人物が一人も含まれていない場合)は、ステップS12にて待機する。
【0025】
次にステップS12において、距離計測(計算)が行われる(ステップS13)。すなわち、距離測定部15は、顔検出部14から送られてきた顔位置座標値によって示される撮像装置から人物の顔までの距離を計算する。
【0026】
次いで、顔位置座標と顔までの距離が記憶される(ステップS14)。すなわち、距離計測部15は、ステップS12において顔検出部14から送られてくる顔位置座標値と、ステップS13で計算した人物の顔までの距離を示すデータを記憶する。距離計測部15に記憶された顔位置座標値および距離を示すデータは、顔枠付加部16によって読み出される。その後、ステップS12に戻り、上述した処理が繰り返される。
【0027】
ステップS12において、顔検出部14によって全ての顔が検出されたと判断されると、1フレームの画像中の全ての顔に対する処理が完了した旨が認識され、次いで、顔検出枠が作成される(ステップS15)。すなわち、顔枠付加部16は、メモリ13から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像に含まれる顔に付加する顔検出枠を、距離測定部15から読み出した顔位置座標値および人物の顔までの距離を示すデータに基づき作成する。この際、顔枠付加部16は、当該撮像装置から顔までの距離に応じて、つまり距離計測部15から送られてくる距離を示すデータに応じて、顔検出枠の太さ、大きさまたは色を変化させても良い。そのように変化させることで、よりユーザに違和感を持たせない画像または映像とすることができる。
【0028】
次いで、顔検出枠の重なりがあるかどうかが調べられる(ステップS16)。すなわち、顔枠付加部16は、距離測定部15から読み込んだ顔位置座標値から、例えば図12に示すような、2つ以上の顔検出枠が重なっている部分が存在するかどうかを調べる。
【0029】
ステップS16において、顔検出枠の重なりがあることが判断されると、後方の顔検出枠の重なり部分が消去される(ステップS17)。すなわち、顔枠付加部16は、例えば図3に示すように、後方の顔検出枠の重なり部分を消去する。一方、ステップS16において、顔枠付加部16によって顔検出枠の重なりがなくなったことが判断されると、ステップS17の処理はスキップされる。
【0030】
次いで、顔検出枠が合成される(ステップS18)。すなわち、顔枠付加部16は、メモリ13から読み出した1フレーム分の画像データによって示される画像に、上述した処理によって作成した顔検出枠を合成する。顔枠付加部16で顔検出枠が合成された画像を表す画像データは、画像出力部17に送られる。
【0031】
次いで、画像が表示される(ステップS19)。すなわち、画像出力部17は、顔枠付加部16から送られてくる画像データに基づき表示信号を生成し、画像表示部18に送る。画像表示部18は、画像出力部17から送られてくる表示信号にしたがって、図3に示すような、顔検出枠が付加された画像を画面に表示する。
【0032】
このように、本発明の実施例1に係る撮像装置によれば、画像内に存在する検出された全ての顔までの距離を測定(計算)するので、撮像装置に近い位置(前方)の人物71の顔検出枠73と人物81よりも撮像装置から遠い位置(後方)の人物72の顔検出枠74の前後関係を知ることができる。したがって、図3に示すように、前方の顔検出枠73と、その前方の人物よりも撮像装置から遠い位置に位置する後方の人物72の顔検出枠74との交点76の部分から顔検出枠74の一部を消去した顔検出枠74aを生成して画像に付加することによりユーザに違和感を持たせない画像または映像を表示することができる。
【0033】
なお、顔検出枠同士が重ならない場合においても、図4に示すように、顔枠付加部16は、撮像装置に近い位置の人物81の顔検出枠83と人物81よりも撮像装置から遠い位置の人物82の顔検出枠84の枠の太さを変えて表示するようにしても良い。この場合、顔検出枠の太さを人物の顔までの距離に反比例して変更するように構成できる。顔枠付加部16が例えば、撮像装置に近い人物の顔検出枠ほど太くし、撮像装置から遠い人物の顔検出枠ほど細くするという遠近法を利用した顔枠を付加することにより、前後関係が視覚的にわかりやすい画像または映像を表示することができる。さらに、人物までの距離85および86を表示するように構成すれば、ユーザによる撮影の構図等の決定をサポートすることができる。
【0034】
また、図5に示すように、顔枠付加部16が、撮像装置に近い人物に対応するの顔検出枠ほど明るい色の顔枠を付加し、撮像装置から遠い人物に対応する顔検出枠ほど暗い色の顔枠を付加する構成としても良い。このように、人物の顔までの距離に応じて枠の色の明るさを調整して表示することにより、遠近法と同様に、人物の前後関係が視覚的にわかりやくなるという効果がある。
【0035】
以上のように、顔枠付加部16は、距離測定部15で測定された撮像装置から人物の顔までの距離に応じて、顔検出部で検出された顔に対する顔検出枠(指標)を変化させて付加するため、顔検出枠が付加されていてもユーザに違和感を与えない画像や映像を提示できる。
【実施例2】
【0036】
図6は、本発明の実施例2に係る撮像装置の構成を示すブロック図である。この撮像装置は、右レンズ21、左レンズ22、第1画像入力部23、第2画像入力部24、第1メモリ25、第2メモリ26、第1顔検出部27、第2顔検出部28、距離計算部29、第1顔枠付加部30、第2顔枠付加部31、画像出力部32、画像表示部33および外部端子出力部34を備えている。
【0037】
右レンズ21は、被写体の像を第1の撮像素子(図示しない)上に結像させる。第1の撮像素子は右レンズ21によって結像された被写体からの光に基づく像を電気信号に変換し、第1画像入力部23に入力し、第1画像入力部23は、第1の撮像素子から入力されたその電気信号に基づいて1フレームごとの画像データを生成し、第1メモリ25に送る。
【0038】
左レンズ22は、被写体の像を第2の撮像素子(図示しない)上に結像させる。第2の撮像素子は左レンズ22によって結像された被写体からの光に基づく像を電気信号に変換し、第2画像入力部24に入力し、第2画像入力部24は、第2の撮像素子から入力されたその電気信号に基づいて1フレームごとの画像データを生成し、第2メモリ26に送る。
【0039】
なお、右レンズ21と左レンズ22とは所定の間隔を空けて配置されており、その間隔は一般的な人の右目と左目との間隔と同程度の間隔であることが望ましい。また、右レンズ21の中心線及び左レンズ22の中心線の方向は変更可能であることが望ましく、図示しないレンズ駆動部は、少なくとも撮像時に、右レンズ21及び左レンズ22を、右レンズ21の中心線と左レンズ22の中心線とがほぼ交わるような向きに位置させる。
【0040】
第1メモリ25は、第1画像入力部23から送られてくる1フレームごとの画像データを一時記憶する。第1メモリ25に記憶された画像データは、必要に応じて、第1顔検出部27および第1顔枠付加部30から読み出される。
【0041】
第2メモリ26は、第2画像入力部24から送られてくる1フレームごとの画像データを一時記憶する。第2メモリ26に記憶された画像データは、必要に応じて、第2顔検出部28および第2顔枠付加部31から読み出される。
【0042】
第1顔検出部27は、第1メモリ25から読み出した1フレームごとの画像データによって示される画像から人物の顔を検出し、検出した顔の位置の座標を算出する。第1顔検出部27で算出された座標は、検出した顔の位置の座標を示すデータである顔位置座標値を距離計算部29に送られる。
【0043】
第2顔検出部28は、第2メモリ26から読み出した1フレームごとの画像データによって示される画像から人物の顔を検出し、検出した顔の位置の座標を算出する。第2顔検出部28は、検出した顔の位置の座標を示すデータである顔位置座標値を距離計算部29に送られる。
【0044】
距離計算部29は、第1顔検出部27から送られてきた顔位置座標値および第2顔検出部28から送られてきた顔位置座標値を用いて、当該撮像装置から人物の顔までの距離を、三角法に基づいた計算により求める(詳細は後述する)。距離計算部29で計算された距離を示すデータは、第1顔検出部27から送られてくる顔位置座標値と一緒に第1顔枠付加部30に送られるとともに、第2顔検出部28から送られてくる顔位置座標値と一緒に第2顔枠付加部31に送られる。
【0045】
第1顔枠付加部30は、本発明の顔指標付加部に対応し、第1メモリ25から読み出した1フレーム分の画像データによって示される画像の顔の位置に対応する部分に、距離計算部29から送られてくるデータによって示される距離に応じた顔検出枠を生成して付加(合成)する。第1顔枠付加部30で顔検出枠が付加された画像を表す画像データは、画像出力部32に送られる。
【0046】
第2顔枠付加部31は、本発明の顔指標付加部に対応し、第2メモリ26から読み出した1フレーム分の画像データによって示される画像の顔の位置に対応する部分に、距離計算部29から送られてくるデータによって示される距離に応じた顔枠を生成して付加(合成)する。第2顔枠付加部31で顔枠が付加された画像を表す画像データは、画像出力部32に送られる。
【0047】
画像出力部17は、第1顔枠付加部30から送られてくる画像データ及び第2顔枠付加部31から送られてくる画像データの内の少なくとも一方に基づき表示信号を生成し、画像表示部33および外部端子出力部34に送る。画像表示部33は、画像出力部32から送られてくる表示信号にしたがって画面に画像を表示する。また、外部端子信号部34は、画像出力部32から送られてくる表示信号を外部の表示装置に出力する。
【0048】
次に、本実施例の距離計算部29が行う、三角法に基づいた計算によって撮像装置から顔までの距離を算出する方法について図7及び図8を用いて説明する。
【0049】
図7(a)は、右レンズ21から得られる右画像、図7(b)は、左レンズ22から得られる左画像を示しており、検出された人物の顔の領域の中心点をAとする。右画像の縦の中心線を線C、左画像の縦の中心線を線Eとし、右画像の右端を線D、左画像の右端を線Fとする。右画像の点Aから水平方向に引いた線と線Cとの交点をK、線Dとの交点をMとし、左画像の点Aから水平方向に引いた線と線Eとの交点をN、線Fとの交点をPとする。
【0050】
距離計算部29は、線Cの座標と第1顔検出部27から送られてくる顔位置座標値とを基に、右右画像における、線分AKの長さと線分AMの長さとの比「R1:R2」を求め、線Eの座標と第2顔検出部28から送られてくる顔位置座標値とを基に、左画像における、線分ANの長さと線分APの長さとの比「R3:R4」を求める。
【0051】
次に図8の説明に移る。図8は、図7(a)に示す右画像と図7(b)に示す左画像とを基に、真上から見た人物と撮像装置との関係を、示したものである。なお、図8において、線および点に付された記号のうち、図7で使用した記号と同じ意味を有するものは、図7で使用した記号と同じ記号が使用されている。図8において、点Iは、撮像装置Gの右レンズ21の中心点を表し、点Hは左レンズ22の中心点を表している。本実施例の撮像装置では、右レンズ21と左レンズ22との向きがなす角(輻輳角)を調整して、3次元画像が作成される。輻輳角をαとし、右レンズ21の中心線と左レンズ22の中心線が交わる点(輻輳点)をBとする。また、右レンズ21と左レンズ22との間隔L1は、一般に、人間の左右の目の間隔と同等に設定され、例えば、約60mmに設定される。右レンズ21の中心線および左レンズ22の中心線から右端までの角度(右側の撮影限界角)βは、レンズの性能より決められる。また、点Iと点Hとを通る線Jと、その線Jと直交しかつ点Aを通る線との交点をQとする。さらに、線分IQの長さをL2、線分AQの長さをL3とする。本実施例の距離測定部29は、このL3の長さを求めることで、撮像装置から人物の顔までの距離を求める。
【0052】
次に、L3を求める方法について詳細に説明する。
【0053】
図7に示す右画像の中心からAまでの長さR1と右画像の右端からAまでの長さR2の比と、直角三角形IKMと、直角三角形IKAの関係より
R1:R1+R2=tan(δ):tan(β)
となり、左画像の中心からAまでの長さR3と左画像の右端からAまでの長さR4の比と、直角三角形HNFと、直角三角形HNAの関係より
R3:R3+R4=tan(ε):tan(β)
となり、直角三角形ANIのIの角度δと直角三角形AKHのHの角度εを求めることができる。
【0054】
次に、二等辺三角形BHIの低角γ、直角三角形AQHのHの角度θと直角三角形AIQのIの角度λは
γ=(180−α)/2
λ=180−(γ+δ)
θ=γ−ε
により求められる。よって、直角三角形AQHと直角三角形AIQの辺と角度より
tan(θ)=L3/(L1+L2)
tan(λ)=L3/L2
の関係が成り立ち、これらの2式から3次元画像撮像装置から人物の顔までの距離L3は以下の式で求めることができる。
L3=tan(λ)×tan(θ)×L1/(tan(λ)−tan(θ))
【0055】
距離計算部29は、各点の座標と、第1顔検出部27及び第2顔検出部28から送られてくる顔位置座標値とを基に、以上のようにしてL3を求めることで、撮像装置から人物の顔までの距離を求める。本実施形態の撮像装置は以上のようにして撮像装置から人物の顔までの距離を求めるので、オートフォーカス機能を用いたり、各種距離計測器を用いたりすることなしに撮像装置から人物の顔までの距離を求めることができる。
【0056】
なお、3次元画像または3次元映像を撮像できる撮像装置においても、オートフォーカス機能を利用して撮像装置から人物の顔までの距離を測定したり、レーザー距離計等の各種距離計測器を用いて撮像装置から人物の顔までの距離を測定したりしても良い。
【実施例3】
【0057】
3次元画像または3次元映像を撮像できる撮像装置においては、人物の顔までの距離を測定しなくても、右画像と左画像との視差から人物の前後関係を認識できる。本発明の実施例3に係る撮像装置は、右画像と左画像との視差に基づき顔検出枠を表示するようにしたものである。
【0058】
実施例3に係る撮像装置の構成は、図6に示した実施例2に係る撮像装置の構成とほぼ同じである。ただし、本実施例の距離計算部29は、視差計算部として機能する。以下においては、実施例2と相違する距離計算部29の動作を中心に説明する。
【0059】
図9は、右レンズ21の中心線と左レンズ22の中心線が所定の輻輳角で交差しているときの人物a、人物bおよび人物cの配置を上空から見た図である。人物aは、左レンズ22で撮影される左画像に含まれる領域の左端dと、左画像の中心を通る中心線eまでの距離の比が13:7の位置に存在する。その人物aを右レンズ21で撮影した場合、左画像に含まれる領域の左端jと中心線kまでの距離の比は6:14になる。同様に、人物bおよび人物cの位置関係は、人物aと合わせて、以下のような比で表すことができる。なお、これらの比は、右レンズ21の中心線と左レンズ22の中心線が交わる点(輻輳点)に応じて変わるため、右レンズ21と左レンズ22の向きを変更可能な場合は、本実施形態の距離計算部29はそのレンズの向きに関する情報を図示しないレンズ制御部から取得し、そのレンズの向きに応じて以下の比を算出することが望ましい。
【0060】
人物a 左画像 d−a:a−e=13:7
右画像 j−a:a−k=6:14
人物b 左画像 f−b:b−g=8:12
右画像 l−b:b−m=11:9
人物c 左画像 h−c:c−i=6:14
右画像 n−c:c−o=12:8
【0061】
図10(a)は左レンズ22で撮影した画像(左画像)であり、図10(a)は右レンズ21で撮影した画像(右画像)であり、人物a、人物bおよび人物cは、図9に図示する位置で撮影されている。画像の左端の横軸座標を0、中心の横軸座標を100、右端の横軸座標を200とした場合、上記の人物a、人物bおよび人物cの画像位置の比から、各々の横軸座標は以下のように求められる。
【0062】
人物a 左画像 65
右画像 30
人物b 左画像 140
右画像 155
人物c 左画像 130
右画像 160
【0063】
ここで、各人物a〜cそれぞれにおいて、左画像の座標から右画像の座標の差を求めると、
人物a 65−30=+25
人物b 140−155=−15
人物c 130−160=−30
となり、差分値の大きい方が前方にいることがわかる。また、右レンズ21の中心線と左レンズ22の中心線が交わる点(輻輳点)より前方の人物の座標の差分値はプラスになり、後方の差分値はマイナスとなる。
【0064】
この原理を利用することにより、本実施例の距離計算部29は、3次元画像または3次元映像の場合は左右の画像の人物の横軸座標から、各人物の前後関係を求める。その結果、各人物の前後関係に応じて、人物の顔検出枠の太さ、大きさまたは色を変化させることができる。
【0065】
次に、上記のように構成される本発明の実施例3に係る撮像装置の動作を、顔検出枠表示処理を中心に、図11に示すフローチャートを参照しながら説明する。なお、図11に示すフローチャートにおいて、図2のフローチャートに示した実施例1に係る撮像装置の顔検出枠表示処理と同じまたは相当する処理を実行するステップには、図2で使用した符号と同じ符号を付して説明を簡略化する。
【0066】
まず、ユーザによって撮像装置が撮影モードに設定される(ステップS11)。これにより、顔検出枠表示処理が開始される。顔検出枠表示処理では、まず、右画像に含まれる全ての人物の顔を検出したかどうかを判断する(ステップS21)。すなわち、第1顔検出部27は、第1メモリ25から1フレーム分の画像データを読み出し、読み出した画像データによって示される右画像の中から全ての人物の顔を検出したかどうかを調べる。
【0067】
ステップS21において、まだ検出していない人物の顔があると判断すると、次いで、右画像の顔座標を算出する(ステップS22)。すなわち、第1顔検出部27は、検出していない顔の内、1の人物のを検出し、その顔の横軸座標を算出し、距離計算部29に送る。なお、人物の顔を一つも検出していない状態である初期状態において、全ての人物の顔を検出したと判断した場合(右画像に人物が一人も含まれていない場合)は、ステップS21にて待機する。
【0068】
次いで、左画像に含まれる全ての人物の顔を検出したかどうかを判断する(ステップS23)。すなわち、第2顔検出部28は、第2メモリ26から1フレーム分の画像データを読み出し、読み出した画像データによって示される左画像の中から全ての人物の顔を検出したかどうかを調べる。
【0069】
ステップS23において、まだ検出していない人物の顔があると判断すると、次いで、左画像の顔座標を算出する(ステップS24)。すなわち、第2顔検出部28は、第1顔検出部27が検出した人物の顔の内、最近検出した顔(この時点で、第1顔検出部27が最後に検出した人物の顔)に対応する左画像内の人物の顔を検出し、その顔の横軸座標を算出し、距離計算部29に送る。
【0070】
なお、第2顔検出部は、周知のパターンマッチング技術を用いて第1顔検出部27が最近検出した顔と左画像内の各人物の顔が同一か否かを判定して、同一であると判定した顔の横軸座標を算出し、その横軸座標値を示すデータを距離計算部29に送ることが望ましいが、第2顔検出部は、第1顔検出部27が最近検出した顔の座標値と最も近い座標値に対応する顔の座標値を距離計算部29に送っても良い。
【0071】
また、第1顔検出部27が最近検出した顔に対応する左画像内の人物の顔を検出できない場合は、視差の影響により左画像にその顔が含まれていない可能性があるので、その顔に対する顔検出枠は表示しないことが望ましい。
【0072】
図11の説明に戻り、次いで、左右座標の差分が記憶される(ステップS25)。すなわち、距離計算部29は、ステップS22で第1顔検出部27から送られてきた人物の顔の横軸座標と、その人物の顔に対応する、ステップS24で第2顔検出部28から送られてきた人物の顔の横軸座標との差分を算出して記憶する。この右画像における人物の顔の横軸座標と、その人物の顔の左画像における横軸座標との差分が視差に対応した値となる。その後、ステップS21に戻り、上述した処理が繰り返される。
【0073】
ステップS21において、右画像から顔が検出されなかった、または、ステップS23において、左画像から顔が検出されなかったことが判断されると、1フレームの画像中の全ての顔に対する処理が完了した旨が認識され、次いで、顔検出枠が作成される(ステップS26)。すなわち、第1顔枠付加部30は、第1メモリ25から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像に含まれる顔に付加する顔検出枠を作成する。この際、第1顔枠付加部30は、視差に応じて、つまり距離計算部29から送られてくる視差を示すデータに応じて、顔検出枠の太さ、大きさまたは色を変化させる。
【0074】
なお、ステップS26においては、第2顔枠付加部31が、第2メモリ26から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像に含まれる顔に付加する顔検出枠を作成するようにしてもよい。この際、第2顔枠付加部31は、視差に応じて、つまり距離計算部29から送られてくる視差を示すデータに応じて、顔検出枠の太さ、大きさまたは色を変化させる。
【0075】
次いで、顔検出枠の重なりがあるかどうかが調べられる(ステップS16)。すなわち、第1顔枠付加部30は、距離計算部29から送られてくる顔位置座標値から、2つ以上の顔検出枠が重なっているどうかを調べる。なお、ステップS16の処理は、第2顔枠付加部31で行うように構成することもできる。
【0076】
ステップS16において、顔検出枠の重なりがあることが判断されると、後方の顔検出枠の重なり部分が消去される(ステップS17)。すなわち、第1顔枠付加部30は、後方の顔検出枠の重なり部分を消去する。なお、ステップS17の処理は、第2顔枠付加部31で行うように構成することもできる。一方、ステップS16において、顔検出枠の重なりがないことが判断されると、ステップS17の処理はスキップされる。
【0077】
次いで、顔検出枠が合成される(ステップS18)。すなわち、第1顔枠付加部30は、第1メモリ25から読み出した1フレーム分の画像データによって示される画像に、上述した処理によって作成した全ての顔検出枠を合成し、顔検出枠を合成した画像を表す画像データを、画像出力部32に送る。なお、ステップS18においては、第2顔枠付加部31は、第2メモリ26から読み出した1フレーム分の画像データによって示される画像に、上述した処理によって作成した全ての顔検出枠を合成し、顔検出枠を合成した画像を表す画像データを、画像出力部32に送るように構成することもできる。
【0078】
次いで、画像が表示される(ステップS19)。これにより、図3に示すような、顔検出枠が付加された画像が画像表示部33の画面に表示される。
【0079】
以上のように、本実施例の顔枠付加部は、距離計算部29で測定された右画像と左画像との視差に応じて、顔検出部で検出された顔に対する顔検出枠(指標)を変化させて付加するため、顔検出枠が付加されていてもユーザに違和感を与えない画像や映像を提示できる。
【0080】
なお、本発明は以上説明した各実施形態に限定されることはなく、本発明の要旨を逸脱しない範囲において種々変更が可能である。
【0081】
例えば、実施例2及び実施例3において、メモリを2つ有する構成としたが、一つのメモリが、第1メモリ25及び第2メモリ26双方の機能を有するようにしても良い。また、実施例2及び実施例3において、画像入力部を2つ有する構成としたが、一つの画像入力部が第1画像入力部23及び第2画像入力部24双方の機能を有するようにしても良い。また、実施例2及び実施例3において、顔検出部を2つ有する構成としたが、一つの顔検出部が第1顔検出部27及び第2顔検出部28双方の機能を有するようにしても良い。さらに、実施例2及び実施例3において、顔枠付加部を2つ有する構成としたが、一つの顔枠付加部が第1顔枠付加部30及び第2顔枠付加部31双方の機能を有するようにしても良い。また、各実施形態において、顔位置座標とは、一例として、顔を検出した領域の中心の座標であるとする。
【産業上の利用可能性】
【0082】
本発明は、デジタルカメラやデジタルビデオカメラ等に利用することができる。
【符号の説明】
【0083】
11 レンズ
12 画像入力部
13 メモリ
14 顔検出部
15 距離測定部
16 顔枠付加部
17 画像出力部
18 画像表示部
19 外部端子出力部
【技術分野】
【0001】
本発明は、撮像により得られた画像から人物の顔を検出し、検出した顔に指標を付した画像を表示する撮像装置および表示方法に関する。
【背景技術】
【0002】
近年、被写体をCCDやMOS型の固体撮像素子を用いて撮像するデジタルカメラやデジタルビデオカメラ等といった撮像装置においては、静止画像や動画像の撮影時に、被写体に含まれる人物の顔を自動的に検出する顔検出機能を有するものが増えている。この顔検出機能を有する撮像装置においては、一般に、検出された顔部分の領域(顔領域)における画像情報に基づきフォーカス制御や露出制御が行われている。
【0003】
また、一般に、撮像装置には、そのボディに液晶表示装置が備えられていることが多く、その液晶表示装置には、撮像素子によって捉えられた画像が表示される。顔検出機能を備えたデジタルビデオカメラやデジタルカメラでは、この液晶表示装置に表示される画像に重ねて顔検出枠(例えば、特許文献1参照)や顔検出のマーク(例えば、特許文献2参照)が表示される。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−286940号公報
【特許文献2】特開2007−201839号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、撮像装置からの距離に差がある複数の人物が存在し、各人物の顔検出枠が重なってしまった場合、撮像装置から遠い位置(後方)の人物の顔検出枠が、撮像装置から近い位置(前方)の人物の顔検出枠に重なって表示される。例えば、図12に示すように、撮像装置から近い位置の人物71の顔検出枠73と撮像装置から遠い位置の人物72の顔検出枠74とは独立して表示されるために、撮像装置から遠い位置の顔検出枠74が撮像装置から近い位置の人物71に重なる部分75が存在する。そのため、この重なる部分75の前後の関係が他の部分と異なり、ユーザは、撮像装置の液晶表示装置に表示される画像に違和感を持つことがある。
【0006】
また、近年は、ユーザが立体的に視認可能な静止画像(3次元画像)やユーザが立体的に視認可能な動画像(3次元映像)に対する関心が高まっており、3次元画像や3次元映像を撮影できる3次元撮像装置が増えてきている。この3次元撮像装置では、視差を考慮した右目用の画像および左目用の画像を取得して3次元画像が得られるようになっており、その3次元撮像装置には、視差バリア方式を利用した裸眼による立体視を可能にした液晶表示装置が備えられている。
【0007】
3次元画像や3次元映像の場合、図12に示すように、撮像装置から遠い位置にあるべきものが撮像装置から近い位置にあるものの上に重なるように表示されると、その部分の前後関係が逆転した画像や映像となって立体感が損なわれ、また、その画像や映像を見ているユーザに違和感を与えるため、大きな疲労感が生じる要因になることがある。
【0008】
本発明の解決する課題は、ユーザに違和感を与えない画像や映像を提示できる撮像装置および表示方法を提供することにある。
【課題を解決するための手段】
【0009】
上記の課題を解決するために、本発明は、入力された画像から被写体に含まれる人物の顔を検出する顔検出部と、顔検出部で検出された顔と撮像装置との距離を測定する距離測定部と、距離測定部で測定された距離に応じて顔検出部で検出された顔に対する指標を異ならせ、その指標を前記画像の前記顔の位置に付加する顔指標付加部と、顔指標付加部で指標が付加された顔の画像を表示する画像表示部とを備える。
【発明の効果】
【0010】
本発明は、撮像装置から人物の顔までの距離に応じた方法で顔に指標を表示することにより、ユーザに違和感を与えない画像や映像を提示できる。
【図面の簡単な説明】
【0011】
【図1】本発明の実施例1に係る撮像装置の構成を示すブロック図である。
【図2】本発明の実施例1に係る撮像装置の動作を、顔検出枠表示処理を中心に示すフローチャートである。
【図3】本発明の実施例1に係る撮像装置において顔検出枠が重なった場合の例を示す図である。
【図4】本発明の実施例1に係る撮像装置において顔検出枠の太さで前方後方を区別する例を示す図である。
【図5】本発明の実施例1に係る撮像装置において顔検出枠の色で前方後方を区別する例を示す図である。
【図6】本発明の実施例2に係る撮像装置の構成を示すブロック図である。
【図7】本発明の実施例2に係る撮像装置において、3次元撮影時における人物の左画像および右画像の位置関係を示す図である。
【図8】本発明の実施例2に係る撮像装置において、右画像と左画像とから作図された真上から見た人物と撮像装置との位置関係を示す図である。
【図9】本発明の実施例3に係る撮像装置において、人物a、人物bおよび人物cの配置を上空から見た図である。
【図10】本発明の実施例3に係る撮像装置において、左レンズおよび右レンズから撮影した画像内における人物の位置の横軸座標を示す図である。
【図11】本発明の実施例1に係る撮像装置の動作を、顔検出枠表示処理を中心に示すフローチャートである。
【図12】従来の撮像装置における顔検出枠の表示例を示す図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。
【実施例1】
【0013】
本発明の実施例1に係る撮像装置は、静止画像または動画像(以下、単に「画像」と総称する)に基づき顔検出枠を表示するようにしたものである。なお、顔検出枠は、指標の一例であり、本発明の「指標」としては、顔検出枠に限定されず、任意の形状のマークや矢印などを用いることができる。
【0014】
図1は、実施例1に係る撮像装置の構成を示すブロック図である。この撮像装置は、レンズ11、画像入力部12、メモリ13、顔検出部14、距離測定部15、顔枠付加部16、画像出力部17、画像表示部18および外部端子出力部19を備えている。
【0015】
レンズ11は、被写体の像を撮像素子(図示しない)上に結像させる。撮像素子はレンズによって結像された、被写体からの光に基づく像を電気信号に変換し、出力する。画像入力部12は、撮像素子が出力した電気信号に基づいた1フレームごとの画像データを生成し、メモリ13に出力する。
【0016】
メモリ13は、画像入力部12から入力される1フレームごとの画像データを一時記憶する。メモリ13に記憶された画像データは、必要に応じて、顔検出部14および顔枠付加部16から読み出される。
【0017】
顔検出部14は、メモリ13から読み出した1フレームごとの画像データによって示される画像から、被写体に含まれる人物の顔を検出し、検出した顔の位置の座標を算出する。なお、顔検出部14は、画像の肌色部分を検出したり、パターン認識技術を用いたりして、人物の顔を検出する周知の顔検出技術を用いて、人物の顔を検出する。顔検出部14で算出された座標は、顔位置座標値として距離測定部15に送られる。
【0018】
距離測定部15は、当該撮像装置から、顔検出部14から送られてきた顔位置座標値によって示される人物の顔までの距離を、以下の周知技術(1)または(2)のいずれかを用いて測定する。なお、(1)の場合、距離測定部15は、顔検出部14が検出した顔にフォーカスが合ったときのレンズ11の位置を取得し、そのレンズ11の位置によって顔までの距離を算出する。
(1)オートフォーカス機能を利用して、人物の顔にフォーカスを合わせることで測定
(2)レーザー距離計測器、GPS、超音波距離計測器等の測定装置を用いて測定
【0019】
距離測定部15で測定された人物の顔までの距離を示すデータは、顔検出部14から送られてくる顔位置座標値とともに、顔枠付加部16に送られる。
【0020】
顔枠付加部16は、本発明の顔指標付加部に対応し、メモリ13から読み出した画像データによって示される画像の顔の位置に対応する部分に、距離測定部15から送られてくるデータによって示される距離に応じた顔検出枠を生成して付加(合成)する。顔枠付加部16で顔検出枠が付加された画像を表す画像データは、画像出力部17に送られる。
【0021】
画像出力部17は、顔枠付加部16から送られてくる画像データに基づき画像データに基づく画像を表示するための表示信号を生成し、その表示信号を画像表示部18および外部端子出力部19に送る。画像表示部18は、例えばLCD(Liquid Crystal Display)や有機エレクトロルミネッセンスディスプレイから構成されており、画像出力部17から送られてくる表示信号にしたがって画面に画像を表示する。外部端子出力部19は、画像出力部17から送られてくる表示信号を外部の表示装置に出力する。
【0022】
次に、上記のように構成される本発明の実施例1に係る撮像装置の動作を、顔検出枠表示処理を中心に、図2に示すフローチャートを参照しながら説明する。
【0023】
まず、ユーザによって撮像装置が撮影モードに設定される(ステップS11)。これにより、レンズ11は、被写体の像を撮像素子上に結像させ、画像入力部12は、レンズ11によって撮像素子上に結像された画像を電気信号に変換して1フレーム分の画像データを生成し、メモリ13に送る。メモリ13は、画像入力部12から送られてくる1フレーム分の画像データを一時記憶する。この状態で顔検出枠表示処理が開始される。
【0024】
顔検出枠表示処理では、まず、顔が検出されたかどうかが調べられる(ステップS12)。すなわち、顔検出部14は、メモリ13から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像の中から全ての人物の顔を検出したかどうかを判断する。この際、顔検出部14は、まだ検出していない人物の顔があると判断すると、その検出していない顔の内、1の人物の顔を検出してその顔の部分の座標を算出し、その座標を示すデータである顔位置座標値を距離測定部15に送る。なお、人物の顔を一つも検出していない状態である初期状態において、全ての人物の顔を検出したと判断した場合(画像に人物が一人も含まれていない場合)は、ステップS12にて待機する。
【0025】
次にステップS12において、距離計測(計算)が行われる(ステップS13)。すなわち、距離測定部15は、顔検出部14から送られてきた顔位置座標値によって示される撮像装置から人物の顔までの距離を計算する。
【0026】
次いで、顔位置座標と顔までの距離が記憶される(ステップS14)。すなわち、距離計測部15は、ステップS12において顔検出部14から送られてくる顔位置座標値と、ステップS13で計算した人物の顔までの距離を示すデータを記憶する。距離計測部15に記憶された顔位置座標値および距離を示すデータは、顔枠付加部16によって読み出される。その後、ステップS12に戻り、上述した処理が繰り返される。
【0027】
ステップS12において、顔検出部14によって全ての顔が検出されたと判断されると、1フレームの画像中の全ての顔に対する処理が完了した旨が認識され、次いで、顔検出枠が作成される(ステップS15)。すなわち、顔枠付加部16は、メモリ13から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像に含まれる顔に付加する顔検出枠を、距離測定部15から読み出した顔位置座標値および人物の顔までの距離を示すデータに基づき作成する。この際、顔枠付加部16は、当該撮像装置から顔までの距離に応じて、つまり距離計測部15から送られてくる距離を示すデータに応じて、顔検出枠の太さ、大きさまたは色を変化させても良い。そのように変化させることで、よりユーザに違和感を持たせない画像または映像とすることができる。
【0028】
次いで、顔検出枠の重なりがあるかどうかが調べられる(ステップS16)。すなわち、顔枠付加部16は、距離測定部15から読み込んだ顔位置座標値から、例えば図12に示すような、2つ以上の顔検出枠が重なっている部分が存在するかどうかを調べる。
【0029】
ステップS16において、顔検出枠の重なりがあることが判断されると、後方の顔検出枠の重なり部分が消去される(ステップS17)。すなわち、顔枠付加部16は、例えば図3に示すように、後方の顔検出枠の重なり部分を消去する。一方、ステップS16において、顔枠付加部16によって顔検出枠の重なりがなくなったことが判断されると、ステップS17の処理はスキップされる。
【0030】
次いで、顔検出枠が合成される(ステップS18)。すなわち、顔枠付加部16は、メモリ13から読み出した1フレーム分の画像データによって示される画像に、上述した処理によって作成した顔検出枠を合成する。顔枠付加部16で顔検出枠が合成された画像を表す画像データは、画像出力部17に送られる。
【0031】
次いで、画像が表示される(ステップS19)。すなわち、画像出力部17は、顔枠付加部16から送られてくる画像データに基づき表示信号を生成し、画像表示部18に送る。画像表示部18は、画像出力部17から送られてくる表示信号にしたがって、図3に示すような、顔検出枠が付加された画像を画面に表示する。
【0032】
このように、本発明の実施例1に係る撮像装置によれば、画像内に存在する検出された全ての顔までの距離を測定(計算)するので、撮像装置に近い位置(前方)の人物71の顔検出枠73と人物81よりも撮像装置から遠い位置(後方)の人物72の顔検出枠74の前後関係を知ることができる。したがって、図3に示すように、前方の顔検出枠73と、その前方の人物よりも撮像装置から遠い位置に位置する後方の人物72の顔検出枠74との交点76の部分から顔検出枠74の一部を消去した顔検出枠74aを生成して画像に付加することによりユーザに違和感を持たせない画像または映像を表示することができる。
【0033】
なお、顔検出枠同士が重ならない場合においても、図4に示すように、顔枠付加部16は、撮像装置に近い位置の人物81の顔検出枠83と人物81よりも撮像装置から遠い位置の人物82の顔検出枠84の枠の太さを変えて表示するようにしても良い。この場合、顔検出枠の太さを人物の顔までの距離に反比例して変更するように構成できる。顔枠付加部16が例えば、撮像装置に近い人物の顔検出枠ほど太くし、撮像装置から遠い人物の顔検出枠ほど細くするという遠近法を利用した顔枠を付加することにより、前後関係が視覚的にわかりやすい画像または映像を表示することができる。さらに、人物までの距離85および86を表示するように構成すれば、ユーザによる撮影の構図等の決定をサポートすることができる。
【0034】
また、図5に示すように、顔枠付加部16が、撮像装置に近い人物に対応するの顔検出枠ほど明るい色の顔枠を付加し、撮像装置から遠い人物に対応する顔検出枠ほど暗い色の顔枠を付加する構成としても良い。このように、人物の顔までの距離に応じて枠の色の明るさを調整して表示することにより、遠近法と同様に、人物の前後関係が視覚的にわかりやくなるという効果がある。
【0035】
以上のように、顔枠付加部16は、距離測定部15で測定された撮像装置から人物の顔までの距離に応じて、顔検出部で検出された顔に対する顔検出枠(指標)を変化させて付加するため、顔検出枠が付加されていてもユーザに違和感を与えない画像や映像を提示できる。
【実施例2】
【0036】
図6は、本発明の実施例2に係る撮像装置の構成を示すブロック図である。この撮像装置は、右レンズ21、左レンズ22、第1画像入力部23、第2画像入力部24、第1メモリ25、第2メモリ26、第1顔検出部27、第2顔検出部28、距離計算部29、第1顔枠付加部30、第2顔枠付加部31、画像出力部32、画像表示部33および外部端子出力部34を備えている。
【0037】
右レンズ21は、被写体の像を第1の撮像素子(図示しない)上に結像させる。第1の撮像素子は右レンズ21によって結像された被写体からの光に基づく像を電気信号に変換し、第1画像入力部23に入力し、第1画像入力部23は、第1の撮像素子から入力されたその電気信号に基づいて1フレームごとの画像データを生成し、第1メモリ25に送る。
【0038】
左レンズ22は、被写体の像を第2の撮像素子(図示しない)上に結像させる。第2の撮像素子は左レンズ22によって結像された被写体からの光に基づく像を電気信号に変換し、第2画像入力部24に入力し、第2画像入力部24は、第2の撮像素子から入力されたその電気信号に基づいて1フレームごとの画像データを生成し、第2メモリ26に送る。
【0039】
なお、右レンズ21と左レンズ22とは所定の間隔を空けて配置されており、その間隔は一般的な人の右目と左目との間隔と同程度の間隔であることが望ましい。また、右レンズ21の中心線及び左レンズ22の中心線の方向は変更可能であることが望ましく、図示しないレンズ駆動部は、少なくとも撮像時に、右レンズ21及び左レンズ22を、右レンズ21の中心線と左レンズ22の中心線とがほぼ交わるような向きに位置させる。
【0040】
第1メモリ25は、第1画像入力部23から送られてくる1フレームごとの画像データを一時記憶する。第1メモリ25に記憶された画像データは、必要に応じて、第1顔検出部27および第1顔枠付加部30から読み出される。
【0041】
第2メモリ26は、第2画像入力部24から送られてくる1フレームごとの画像データを一時記憶する。第2メモリ26に記憶された画像データは、必要に応じて、第2顔検出部28および第2顔枠付加部31から読み出される。
【0042】
第1顔検出部27は、第1メモリ25から読み出した1フレームごとの画像データによって示される画像から人物の顔を検出し、検出した顔の位置の座標を算出する。第1顔検出部27で算出された座標は、検出した顔の位置の座標を示すデータである顔位置座標値を距離計算部29に送られる。
【0043】
第2顔検出部28は、第2メモリ26から読み出した1フレームごとの画像データによって示される画像から人物の顔を検出し、検出した顔の位置の座標を算出する。第2顔検出部28は、検出した顔の位置の座標を示すデータである顔位置座標値を距離計算部29に送られる。
【0044】
距離計算部29は、第1顔検出部27から送られてきた顔位置座標値および第2顔検出部28から送られてきた顔位置座標値を用いて、当該撮像装置から人物の顔までの距離を、三角法に基づいた計算により求める(詳細は後述する)。距離計算部29で計算された距離を示すデータは、第1顔検出部27から送られてくる顔位置座標値と一緒に第1顔枠付加部30に送られるとともに、第2顔検出部28から送られてくる顔位置座標値と一緒に第2顔枠付加部31に送られる。
【0045】
第1顔枠付加部30は、本発明の顔指標付加部に対応し、第1メモリ25から読み出した1フレーム分の画像データによって示される画像の顔の位置に対応する部分に、距離計算部29から送られてくるデータによって示される距離に応じた顔検出枠を生成して付加(合成)する。第1顔枠付加部30で顔検出枠が付加された画像を表す画像データは、画像出力部32に送られる。
【0046】
第2顔枠付加部31は、本発明の顔指標付加部に対応し、第2メモリ26から読み出した1フレーム分の画像データによって示される画像の顔の位置に対応する部分に、距離計算部29から送られてくるデータによって示される距離に応じた顔枠を生成して付加(合成)する。第2顔枠付加部31で顔枠が付加された画像を表す画像データは、画像出力部32に送られる。
【0047】
画像出力部17は、第1顔枠付加部30から送られてくる画像データ及び第2顔枠付加部31から送られてくる画像データの内の少なくとも一方に基づき表示信号を生成し、画像表示部33および外部端子出力部34に送る。画像表示部33は、画像出力部32から送られてくる表示信号にしたがって画面に画像を表示する。また、外部端子信号部34は、画像出力部32から送られてくる表示信号を外部の表示装置に出力する。
【0048】
次に、本実施例の距離計算部29が行う、三角法に基づいた計算によって撮像装置から顔までの距離を算出する方法について図7及び図8を用いて説明する。
【0049】
図7(a)は、右レンズ21から得られる右画像、図7(b)は、左レンズ22から得られる左画像を示しており、検出された人物の顔の領域の中心点をAとする。右画像の縦の中心線を線C、左画像の縦の中心線を線Eとし、右画像の右端を線D、左画像の右端を線Fとする。右画像の点Aから水平方向に引いた線と線Cとの交点をK、線Dとの交点をMとし、左画像の点Aから水平方向に引いた線と線Eとの交点をN、線Fとの交点をPとする。
【0050】
距離計算部29は、線Cの座標と第1顔検出部27から送られてくる顔位置座標値とを基に、右右画像における、線分AKの長さと線分AMの長さとの比「R1:R2」を求め、線Eの座標と第2顔検出部28から送られてくる顔位置座標値とを基に、左画像における、線分ANの長さと線分APの長さとの比「R3:R4」を求める。
【0051】
次に図8の説明に移る。図8は、図7(a)に示す右画像と図7(b)に示す左画像とを基に、真上から見た人物と撮像装置との関係を、示したものである。なお、図8において、線および点に付された記号のうち、図7で使用した記号と同じ意味を有するものは、図7で使用した記号と同じ記号が使用されている。図8において、点Iは、撮像装置Gの右レンズ21の中心点を表し、点Hは左レンズ22の中心点を表している。本実施例の撮像装置では、右レンズ21と左レンズ22との向きがなす角(輻輳角)を調整して、3次元画像が作成される。輻輳角をαとし、右レンズ21の中心線と左レンズ22の中心線が交わる点(輻輳点)をBとする。また、右レンズ21と左レンズ22との間隔L1は、一般に、人間の左右の目の間隔と同等に設定され、例えば、約60mmに設定される。右レンズ21の中心線および左レンズ22の中心線から右端までの角度(右側の撮影限界角)βは、レンズの性能より決められる。また、点Iと点Hとを通る線Jと、その線Jと直交しかつ点Aを通る線との交点をQとする。さらに、線分IQの長さをL2、線分AQの長さをL3とする。本実施例の距離測定部29は、このL3の長さを求めることで、撮像装置から人物の顔までの距離を求める。
【0052】
次に、L3を求める方法について詳細に説明する。
【0053】
図7に示す右画像の中心からAまでの長さR1と右画像の右端からAまでの長さR2の比と、直角三角形IKMと、直角三角形IKAの関係より
R1:R1+R2=tan(δ):tan(β)
となり、左画像の中心からAまでの長さR3と左画像の右端からAまでの長さR4の比と、直角三角形HNFと、直角三角形HNAの関係より
R3:R3+R4=tan(ε):tan(β)
となり、直角三角形ANIのIの角度δと直角三角形AKHのHの角度εを求めることができる。
【0054】
次に、二等辺三角形BHIの低角γ、直角三角形AQHのHの角度θと直角三角形AIQのIの角度λは
γ=(180−α)/2
λ=180−(γ+δ)
θ=γ−ε
により求められる。よって、直角三角形AQHと直角三角形AIQの辺と角度より
tan(θ)=L3/(L1+L2)
tan(λ)=L3/L2
の関係が成り立ち、これらの2式から3次元画像撮像装置から人物の顔までの距離L3は以下の式で求めることができる。
L3=tan(λ)×tan(θ)×L1/(tan(λ)−tan(θ))
【0055】
距離計算部29は、各点の座標と、第1顔検出部27及び第2顔検出部28から送られてくる顔位置座標値とを基に、以上のようにしてL3を求めることで、撮像装置から人物の顔までの距離を求める。本実施形態の撮像装置は以上のようにして撮像装置から人物の顔までの距離を求めるので、オートフォーカス機能を用いたり、各種距離計測器を用いたりすることなしに撮像装置から人物の顔までの距離を求めることができる。
【0056】
なお、3次元画像または3次元映像を撮像できる撮像装置においても、オートフォーカス機能を利用して撮像装置から人物の顔までの距離を測定したり、レーザー距離計等の各種距離計測器を用いて撮像装置から人物の顔までの距離を測定したりしても良い。
【実施例3】
【0057】
3次元画像または3次元映像を撮像できる撮像装置においては、人物の顔までの距離を測定しなくても、右画像と左画像との視差から人物の前後関係を認識できる。本発明の実施例3に係る撮像装置は、右画像と左画像との視差に基づき顔検出枠を表示するようにしたものである。
【0058】
実施例3に係る撮像装置の構成は、図6に示した実施例2に係る撮像装置の構成とほぼ同じである。ただし、本実施例の距離計算部29は、視差計算部として機能する。以下においては、実施例2と相違する距離計算部29の動作を中心に説明する。
【0059】
図9は、右レンズ21の中心線と左レンズ22の中心線が所定の輻輳角で交差しているときの人物a、人物bおよび人物cの配置を上空から見た図である。人物aは、左レンズ22で撮影される左画像に含まれる領域の左端dと、左画像の中心を通る中心線eまでの距離の比が13:7の位置に存在する。その人物aを右レンズ21で撮影した場合、左画像に含まれる領域の左端jと中心線kまでの距離の比は6:14になる。同様に、人物bおよび人物cの位置関係は、人物aと合わせて、以下のような比で表すことができる。なお、これらの比は、右レンズ21の中心線と左レンズ22の中心線が交わる点(輻輳点)に応じて変わるため、右レンズ21と左レンズ22の向きを変更可能な場合は、本実施形態の距離計算部29はそのレンズの向きに関する情報を図示しないレンズ制御部から取得し、そのレンズの向きに応じて以下の比を算出することが望ましい。
【0060】
人物a 左画像 d−a:a−e=13:7
右画像 j−a:a−k=6:14
人物b 左画像 f−b:b−g=8:12
右画像 l−b:b−m=11:9
人物c 左画像 h−c:c−i=6:14
右画像 n−c:c−o=12:8
【0061】
図10(a)は左レンズ22で撮影した画像(左画像)であり、図10(a)は右レンズ21で撮影した画像(右画像)であり、人物a、人物bおよび人物cは、図9に図示する位置で撮影されている。画像の左端の横軸座標を0、中心の横軸座標を100、右端の横軸座標を200とした場合、上記の人物a、人物bおよび人物cの画像位置の比から、各々の横軸座標は以下のように求められる。
【0062】
人物a 左画像 65
右画像 30
人物b 左画像 140
右画像 155
人物c 左画像 130
右画像 160
【0063】
ここで、各人物a〜cそれぞれにおいて、左画像の座標から右画像の座標の差を求めると、
人物a 65−30=+25
人物b 140−155=−15
人物c 130−160=−30
となり、差分値の大きい方が前方にいることがわかる。また、右レンズ21の中心線と左レンズ22の中心線が交わる点(輻輳点)より前方の人物の座標の差分値はプラスになり、後方の差分値はマイナスとなる。
【0064】
この原理を利用することにより、本実施例の距離計算部29は、3次元画像または3次元映像の場合は左右の画像の人物の横軸座標から、各人物の前後関係を求める。その結果、各人物の前後関係に応じて、人物の顔検出枠の太さ、大きさまたは色を変化させることができる。
【0065】
次に、上記のように構成される本発明の実施例3に係る撮像装置の動作を、顔検出枠表示処理を中心に、図11に示すフローチャートを参照しながら説明する。なお、図11に示すフローチャートにおいて、図2のフローチャートに示した実施例1に係る撮像装置の顔検出枠表示処理と同じまたは相当する処理を実行するステップには、図2で使用した符号と同じ符号を付して説明を簡略化する。
【0066】
まず、ユーザによって撮像装置が撮影モードに設定される(ステップS11)。これにより、顔検出枠表示処理が開始される。顔検出枠表示処理では、まず、右画像に含まれる全ての人物の顔を検出したかどうかを判断する(ステップS21)。すなわち、第1顔検出部27は、第1メモリ25から1フレーム分の画像データを読み出し、読み出した画像データによって示される右画像の中から全ての人物の顔を検出したかどうかを調べる。
【0067】
ステップS21において、まだ検出していない人物の顔があると判断すると、次いで、右画像の顔座標を算出する(ステップS22)。すなわち、第1顔検出部27は、検出していない顔の内、1の人物のを検出し、その顔の横軸座標を算出し、距離計算部29に送る。なお、人物の顔を一つも検出していない状態である初期状態において、全ての人物の顔を検出したと判断した場合(右画像に人物が一人も含まれていない場合)は、ステップS21にて待機する。
【0068】
次いで、左画像に含まれる全ての人物の顔を検出したかどうかを判断する(ステップS23)。すなわち、第2顔検出部28は、第2メモリ26から1フレーム分の画像データを読み出し、読み出した画像データによって示される左画像の中から全ての人物の顔を検出したかどうかを調べる。
【0069】
ステップS23において、まだ検出していない人物の顔があると判断すると、次いで、左画像の顔座標を算出する(ステップS24)。すなわち、第2顔検出部28は、第1顔検出部27が検出した人物の顔の内、最近検出した顔(この時点で、第1顔検出部27が最後に検出した人物の顔)に対応する左画像内の人物の顔を検出し、その顔の横軸座標を算出し、距離計算部29に送る。
【0070】
なお、第2顔検出部は、周知のパターンマッチング技術を用いて第1顔検出部27が最近検出した顔と左画像内の各人物の顔が同一か否かを判定して、同一であると判定した顔の横軸座標を算出し、その横軸座標値を示すデータを距離計算部29に送ることが望ましいが、第2顔検出部は、第1顔検出部27が最近検出した顔の座標値と最も近い座標値に対応する顔の座標値を距離計算部29に送っても良い。
【0071】
また、第1顔検出部27が最近検出した顔に対応する左画像内の人物の顔を検出できない場合は、視差の影響により左画像にその顔が含まれていない可能性があるので、その顔に対する顔検出枠は表示しないことが望ましい。
【0072】
図11の説明に戻り、次いで、左右座標の差分が記憶される(ステップS25)。すなわち、距離計算部29は、ステップS22で第1顔検出部27から送られてきた人物の顔の横軸座標と、その人物の顔に対応する、ステップS24で第2顔検出部28から送られてきた人物の顔の横軸座標との差分を算出して記憶する。この右画像における人物の顔の横軸座標と、その人物の顔の左画像における横軸座標との差分が視差に対応した値となる。その後、ステップS21に戻り、上述した処理が繰り返される。
【0073】
ステップS21において、右画像から顔が検出されなかった、または、ステップS23において、左画像から顔が検出されなかったことが判断されると、1フレームの画像中の全ての顔に対する処理が完了した旨が認識され、次いで、顔検出枠が作成される(ステップS26)。すなわち、第1顔枠付加部30は、第1メモリ25から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像に含まれる顔に付加する顔検出枠を作成する。この際、第1顔枠付加部30は、視差に応じて、つまり距離計算部29から送られてくる視差を示すデータに応じて、顔検出枠の太さ、大きさまたは色を変化させる。
【0074】
なお、ステップS26においては、第2顔枠付加部31が、第2メモリ26から1フレーム分の画像データを読み出し、読み出した画像データによって示される画像に含まれる顔に付加する顔検出枠を作成するようにしてもよい。この際、第2顔枠付加部31は、視差に応じて、つまり距離計算部29から送られてくる視差を示すデータに応じて、顔検出枠の太さ、大きさまたは色を変化させる。
【0075】
次いで、顔検出枠の重なりがあるかどうかが調べられる(ステップS16)。すなわち、第1顔枠付加部30は、距離計算部29から送られてくる顔位置座標値から、2つ以上の顔検出枠が重なっているどうかを調べる。なお、ステップS16の処理は、第2顔枠付加部31で行うように構成することもできる。
【0076】
ステップS16において、顔検出枠の重なりがあることが判断されると、後方の顔検出枠の重なり部分が消去される(ステップS17)。すなわち、第1顔枠付加部30は、後方の顔検出枠の重なり部分を消去する。なお、ステップS17の処理は、第2顔枠付加部31で行うように構成することもできる。一方、ステップS16において、顔検出枠の重なりがないことが判断されると、ステップS17の処理はスキップされる。
【0077】
次いで、顔検出枠が合成される(ステップS18)。すなわち、第1顔枠付加部30は、第1メモリ25から読み出した1フレーム分の画像データによって示される画像に、上述した処理によって作成した全ての顔検出枠を合成し、顔検出枠を合成した画像を表す画像データを、画像出力部32に送る。なお、ステップS18においては、第2顔枠付加部31は、第2メモリ26から読み出した1フレーム分の画像データによって示される画像に、上述した処理によって作成した全ての顔検出枠を合成し、顔検出枠を合成した画像を表す画像データを、画像出力部32に送るように構成することもできる。
【0078】
次いで、画像が表示される(ステップS19)。これにより、図3に示すような、顔検出枠が付加された画像が画像表示部33の画面に表示される。
【0079】
以上のように、本実施例の顔枠付加部は、距離計算部29で測定された右画像と左画像との視差に応じて、顔検出部で検出された顔に対する顔検出枠(指標)を変化させて付加するため、顔検出枠が付加されていてもユーザに違和感を与えない画像や映像を提示できる。
【0080】
なお、本発明は以上説明した各実施形態に限定されることはなく、本発明の要旨を逸脱しない範囲において種々変更が可能である。
【0081】
例えば、実施例2及び実施例3において、メモリを2つ有する構成としたが、一つのメモリが、第1メモリ25及び第2メモリ26双方の機能を有するようにしても良い。また、実施例2及び実施例3において、画像入力部を2つ有する構成としたが、一つの画像入力部が第1画像入力部23及び第2画像入力部24双方の機能を有するようにしても良い。また、実施例2及び実施例3において、顔検出部を2つ有する構成としたが、一つの顔検出部が第1顔検出部27及び第2顔検出部28双方の機能を有するようにしても良い。さらに、実施例2及び実施例3において、顔枠付加部を2つ有する構成としたが、一つの顔枠付加部が第1顔枠付加部30及び第2顔枠付加部31双方の機能を有するようにしても良い。また、各実施形態において、顔位置座標とは、一例として、顔を検出した領域の中心の座標であるとする。
【産業上の利用可能性】
【0082】
本発明は、デジタルカメラやデジタルビデオカメラ等に利用することができる。
【符号の説明】
【0083】
11 レンズ
12 画像入力部
13 メモリ
14 顔検出部
15 距離測定部
16 顔枠付加部
17 画像出力部
18 画像表示部
19 外部端子出力部
【特許請求の範囲】
【請求項1】
撮像装置において、
入力された画像から被写体に含まれる人物の顔を検出する顔検出部と、
前記顔検出部で検出された前記顔と前記撮像装置との距離を測定する距離測定部と、
前記距離測定部で測定された距離に応じて前記顔検出部で検出された前記顔に対する指標を異ならせ、その指標を前記画像の前記顔の位置に付加する顔指標付加部と、
前記顔指標付加部で指標が付加された前記顔の画像を表示する画像表示部と、
を備えることを特徴とする撮像装置。
【請求項2】
前記顔指標付加部は、前記距離測定部で測定された前記顔までの距離に応じて、前記顔に対応する指標の枠の太さ、指標の大きさまたは指標の色を変化させることを特徴とする請求項1記載の撮像装置。
【請求項3】
前記顔指標付加部は、前記顔検出部によって複数の顔が検出された場合に、前記距離測定部で測定された前記複数の顔までの距離に基づいて、所定の顔に対応する指標の、前記所定の顔よりも前記撮像装置に近い位置の顔に対応する指標に重なる部分を消去することを特徴とする請求項1記載の撮像装置。
【請求項4】
前記距離測定部は、前記顔検出部で検出された顔にフォーカスを合わせることによりその顔までの距離を測定することを特徴とする請求項1記載の撮像装置。
【請求項5】
撮像装置の画像表示部に画像を表示する表示方法において、
入力された画像から人物の顔を検出し、
検出した前記顔と前記撮像装置との距離を測定し、
測定した前記距離に応じて、検出された前記顔に対する指標を変化させ、その指標を前記画像の前記顔の位置に付加し、
前記指標が付加された顔の画像を表示することを特徴とする表示方法。
【請求項6】
立体的に視認可能な静止画像または立体的に視認可能な動画像を撮像する撮像装置において、
入力された第1画像から人物の顔を検出する第1顔検出部と、
入力された第2画像から前記人物の前記顔を検出する第2顔検出部と、
前記第1顔検出部が検出した前記顔の画像と、前記第2顔検出部が検出した前記顔の画像との視差を計算する視差計算部と、
前記視差計算部で計算された視差に応じて、前記顔に対する指標を変化させ、その指標を、前記第1画像及び前記第2画像の内の少なくとも一方の画像の前記顔の位置に付加する顔指標付加部と、
前記顔指標付加部で指標が付加された前記顔の画像を表示する画像表示部と、
を備えることを特徴とする撮像装置。
【請求項1】
撮像装置において、
入力された画像から被写体に含まれる人物の顔を検出する顔検出部と、
前記顔検出部で検出された前記顔と前記撮像装置との距離を測定する距離測定部と、
前記距離測定部で測定された距離に応じて前記顔検出部で検出された前記顔に対する指標を異ならせ、その指標を前記画像の前記顔の位置に付加する顔指標付加部と、
前記顔指標付加部で指標が付加された前記顔の画像を表示する画像表示部と、
を備えることを特徴とする撮像装置。
【請求項2】
前記顔指標付加部は、前記距離測定部で測定された前記顔までの距離に応じて、前記顔に対応する指標の枠の太さ、指標の大きさまたは指標の色を変化させることを特徴とする請求項1記載の撮像装置。
【請求項3】
前記顔指標付加部は、前記顔検出部によって複数の顔が検出された場合に、前記距離測定部で測定された前記複数の顔までの距離に基づいて、所定の顔に対応する指標の、前記所定の顔よりも前記撮像装置に近い位置の顔に対応する指標に重なる部分を消去することを特徴とする請求項1記載の撮像装置。
【請求項4】
前記距離測定部は、前記顔検出部で検出された顔にフォーカスを合わせることによりその顔までの距離を測定することを特徴とする請求項1記載の撮像装置。
【請求項5】
撮像装置の画像表示部に画像を表示する表示方法において、
入力された画像から人物の顔を検出し、
検出した前記顔と前記撮像装置との距離を測定し、
測定した前記距離に応じて、検出された前記顔に対する指標を変化させ、その指標を前記画像の前記顔の位置に付加し、
前記指標が付加された顔の画像を表示することを特徴とする表示方法。
【請求項6】
立体的に視認可能な静止画像または立体的に視認可能な動画像を撮像する撮像装置において、
入力された第1画像から人物の顔を検出する第1顔検出部と、
入力された第2画像から前記人物の前記顔を検出する第2顔検出部と、
前記第1顔検出部が検出した前記顔の画像と、前記第2顔検出部が検出した前記顔の画像との視差を計算する視差計算部と、
前記視差計算部で計算された視差に応じて、前記顔に対する指標を変化させ、その指標を、前記第1画像及び前記第2画像の内の少なくとも一方の画像の前記顔の位置に付加する顔指標付加部と、
前記顔指標付加部で指標が付加された前記顔の画像を表示する画像表示部と、
を備えることを特徴とする撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−217229(P2011−217229A)
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願番号】特願2010−84925(P2010−84925)
【出願日】平成22年4月1日(2010.4.1)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願日】平成22年4月1日(2010.4.1)
【出願人】(000004329)日本ビクター株式会社 (3,896)
【Fターム(参考)】
[ Back to top ]