信号処理装置
【課題】画像を撮影した後に撮影状態を示す情報を画像と関連つけて記録し、その情報を信号処理に用いる。
【解決手段】レンズと、光電変換部と、光電変換部の出力に信号処理を施す信号処理部と、信号処理部の出力を記録する記録部を有する撮像装置において、撮影を行っているときの状態を示すデータを抽出する状態抽出部と、信号処理部の出力を記録する記録部は、前記状態抽出部の結果を信号処理部の出力と関連付けて記録し、さらに、記録した画像の中から距離の基準となる被写体を選択する選択部と、選択した被写体から撮像装置までの距離と他の被写体から撮像装置までの距離の差分を算出する算出部と、それぞれの被写体までの距離の差分を用いて信号処理を施す信号処理部を有する。
【解決手段】レンズと、光電変換部と、光電変換部の出力に信号処理を施す信号処理部と、信号処理部の出力を記録する記録部を有する撮像装置において、撮影を行っているときの状態を示すデータを抽出する状態抽出部と、信号処理部の出力を記録する記録部は、前記状態抽出部の結果を信号処理部の出力と関連付けて記録し、さらに、記録した画像の中から距離の基準となる被写体を選択する選択部と、選択した被写体から撮像装置までの距離と他の被写体から撮像装置までの距離の差分を算出する算出部と、それぞれの被写体までの距離の差分を用いて信号処理を施す信号処理部を有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は信号処理装置に係り、特に画像を撮像して処理する信号処理装置に関するものである。
【背景技術】
【0002】
静止画を撮影する方法のひとつとして、デジタルカメラを使用する機会が飛躍的に増え、それに伴ってデジタルカメラの小型化、軽量化、高機能化が進み、高画質な画像を手軽に得ることができるようになった。
特に高機能化に対する需要は高くなる一方であり、最近では高級なレンズを搭載するカメラに対して高度な機能を期待している傾向がある。例えば、被写界深度を浅くする、あるいは、深くするといった高度の撮影テクニックに対応する機能や、合焦としている範囲の画像がより鮮明に撮影できる機能などである。そのためには、絞り機構を備えたレンズユニット、また、空間周波数特性が良いレンズを採用することとなり、それに伴いレンズが大型化し上記で述べたデジタルカメラの小型化を進める際の足かせになっている。
現在では、特許文献1に記載の信号処理のように画像の鮮明度を算出しその結果の数値からレンズの焦点が合っている範囲を選定し、その範囲以外の領域にソフトフォーカス処理を施すことで、被写界深度を浅くした画像と同様の効果を得る技術が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−279054号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記特許文献1の課題のひとつに、撮影した映像信号から得られる情報には限りがあり、例えば撮影者と被写体までの距離が分らないことがある。そのため、被写界深度を変えるような処理を行う際に、例えば画像の中央部に固定された焦点を中心として、周辺のピントがぼける程度の処理をすることとなる。そのため現状では、焦点を中央部以外に置いて被写界深度を変えるといった処理は不可能である。
本発明の目的は上記した課題に鑑み、画像処理を高度化した信号処理装置を提供することにある。
【課題を解決するための手段】
【0005】
前記目的を達成するため本発明は、被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる倍率で拡大処理した映像信号を出力することを特徴としている。
【0006】
または、前記第2の信号処理部は、前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる明度で明度調整処理した映像信号を出力することを特徴としている。
または、前記第2の信号処理部は、前記該差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体に対して前記画像が含む他の被写体よりも高い鮮明度を与えるよう鮮明度調整処理した映像信号を出力することを特徴としている。
【発明の効果】
【0007】
本発明によれば、画像処理を高度化した信号処理装置を提供することができ、例えば撮像装置の高機能化に寄与することができる。
【図面の簡単な説明】
【0008】
【図1】第一の実施例における撮像装置のブロック図である。
【図2】第一の実施例における画像ファイル生成部111のブロック図である。
【図3】第二の実施例における撮像装置のブロック図である。
【図4】第二の実施例における第三信号処理部303のブロック図である。
【図5】第二の実施例における距離算出部405の距離算出方法を説明する図である。
【図6】第三の実施例における撮像装置のブロック図である。
【図7】第四の実施例における信号処理部407のブロック図である。
【図8】第五の実施例における信号処理部407のブロック図である。
【図9】第六の実施例における信号処理部407のブロック図である。
【図10】第六の実施例における制御を説明する図である。
【図11】第四の実施例における制御を説明する図である。
【発明を実施するための形態】
【0009】
図1、図2を用いて第一の実施例を説明する。
図1は、本実施例の撮像装置のブロック図である。
図2は、図1における画像ファイル生成部111のブロック図を示す。
101はレンズ、102は光電変換するセンサ、103はセンサ102の出力に第一の信号処理を施す第一信号処理部、104は撮像装置全体の制御を行うシステムコントロール部、105はシステムコントロール部104の命令を受けてレンズ101の焦点位置を変える制御をするレンズ制御部、106は被写体から反射してきた赤外線を受光する受光部、107は測距用の赤外線を発光する発光部、108は受光部106と発光部107を具備する赤外線受発光部、109は画像ファイル生成部111の出力を記録する画像記録部、111は第一信号処理部103の出力に第二の信号処理を施し画像ファイルを生成する画像ファイル生成部(第二信号処理部に相当する)、112は第一信号処理部103の出力である。113はセンサ102の受光面に当たる光の量を調節する絞り、114は絞り113の開け閉めをシステムコントロール部104の制御に従い行う絞り制御部である。
【0010】
接続について説明する。レンズ101はセンサ102の受光面に絞り113を通して被写体の光学画像を結像する。センサ102の出力は第一信号処理部103の入力に接続され、第一信号処理部103の出力は画像ファイル生成部111の入力に接続され、画像ファイル生成部111の出力は画像記録部109の入力に接続され、システムコントロール部104のそれぞれの出力はセンサ102、レンズ制御部105、絞り制御部114、第一信号処理部103、画像記録部109、画像ファイル生成部111、発光部107に接続され、システムコントロール部104の入力には受光部106の出力、レンズ制御部105の出力、第一信号処理部103のカメラ自動制御用出力が接続されている。
【0011】
動作について説明する。システムコントロール部104は、発光部107に発光を行う命令を出し、さらに発光された光の反射光の受光結果を受光部106から受け取り、発光部107に信号を送ってから、受光部106より受光結果が届くまでの時間差から距離を求める。次にシステムコントロール部104は、レンズ制御部105に命令を出して測距した距離に合焦するようにレンズの位置を変える等の制御を行い、また、絞り制御部114に命令を出して、絞り113を開ける、あるいは閉める制御を行って被写界深度を調節する。レンズ制御部105は、レンズ101の視野角の情報をシステムコントロール部104に送る。そのためレンズ制御部105は視野角抽出部を兼ねている。周知のとおり、視野角はレンズ101の焦点距離に応じて定まる。センサ102は、このように調節された光学系がセンサ102の受光面に作った像に対応した電気信号を出力する。
【0012】
第一信号処理部103は、この電気信号にシステムコントロール部104の制御を受けてカメラ用の信号処理を施す。この際、明るさを一定にする、または、ホワイトバランスを一定に保つといったカメラ自動制御を行うための情報を第一信号処理部103からシステムコントロール部104に送り、この情報をもとにシステムコントロール部104は新たに第一信号処理部103の各処理を制御する。このようにして自動制御ループを形成している。画像ファイル生成部111は、生成した映像信号に画像圧縮等の信号処理を施し、その際にレンズ制御部105から送られたレンズの視野角などの撮影状態を示すデータを取込む動作も行う。画像ファイル生成部111の出力は画像記録部109にて記録される。
ここで画像ファイル生成部111に入力される撮影状態を示すデータについて説明する。記録するデータは、撮影した画像からでは分析することが困難な情報を含んでいる。たとえば前記のようにレンズ101の視野角を示すデータである。よってシステムコントロール部104は、視野角を示すデータを画像ファイル生成部111に出力する。
【0013】
次に図2を用いて画像ファイル生成部111の動作について説明する。
図2は、JPEG画像圧縮を行う場合の画像ファイル生成部111のブロック図である。
201は映像データ112をJPEG基本処理単位である縦8ライン横8画素のブロックに分割するブロック分割部、202は分割された縦8ライン横8画素のブロックのデータをJPEGデータフォーマットであるYCrCbに変換するYCrCb変換部、203は2次元離散コサイン変換により画像信号を空間周波数へ変換するDCT部、204は量子化テーブルを用いてDCT係数に対し1次元一様量子化を行う一様量子化部、205は1次元DC予測値を計算する1次元DC予測部、206は1次元DC予測値および量子化AC係数を可変長符号を用いてエントロピー符号化を行うエントロピー符号化部、207はシステムコントロール部104が出力した例えば視野角を示すデータである。
【0014】
動作を説明する。JPEG画像圧縮の動作は、本発明の本質的な動作ではないため詳細説明は割愛し、本質的であるデータの挿入について説明する。エントロピー符号化部206は、撮影状態を示すデータをJPEG画像ファイルのヘッダー部分に挿入する。例えば一般的なJPEGファイルのフォーマット規格であるExif規格を例に説明する。Exif規格にはユーザーがコメントを書き込むことができるタグがあり2バイト分の情報を書き込むことができる。このタグに視野角を示すデータ207の情報を書き込むことでエントロピー符号化部206はファイル内保存部を兼ねることとなる。これにより撮影した画像からでは分析することが困難な情報を画像ファイル内に記録することができる。また、2バイトの各ビットに識別子などの意味を持たせることでどのような状態データであるかを認識できる。
以上の動作により撮影した画像からでは分析することが困難な撮影状態の情報を画像ファイル内に納めることができる。これにより画像を撮影した後に撮影を行った瞬間の状態を確認することができる。ここではレンズを合焦位置に移動させるための情報を発光と受光の差分から得たが、一般的に知られているビデオフォーカス方式でも同様の効果があることは周知の通りである。
【0015】
次に、図3、図4を用いて第二の実施例を説明する。
図3は、本実施例の撮像装置のブロック図である。
図4は、図3における第三信号処理部303のブロック図である。
301は図1の画像ファイル生成部111を含み、かつ、画像ファイル生成部111の出力画像を記録する画像記録部、302はシステムコントロール部104が出力する撮影状態を示すデータを記録する状態データ記録部、303は画像記録部301と状態データ記録部302の出力をもとに新たな効果をもたらす信号処理を施す第三信号処理部、304は第一信号処理部103の出力と第三信号処理部303の出力を選択して出力する画像出力部である。画像記録部301と状態データ記録部302は、例えば記録媒体としてハードディスクを用いた記録ユニットである。双方が個別に記録媒体を備えても良く、同じ記録媒体上の異なる記録領域を使用しても良い。
【0016】
接続について説明する。第一信号処理部103の出力とシステムコントロール部104の出力は画像記録部301のそれぞれ対応する入力に接続され、システムコントロール部104の別の出力は状態データ記録部302の入力に接続され、画像記録部301の出力と状態データ記録部302の出力とシステムコントロール部104の別の出力は第三信号処理部303のそれぞれ対応する入力に接続され、第一信号処理部103の出力と第三信号処理部303の出力とシステムコントロール部104の別の出力は画像出力部304のそれぞれの入力に接続される。ほかの接続と各部の働きは図1の実施例と同様である。
【0017】
動作を説明する。図1の実施例と同様の動作は割愛する。第一信号処理部103で生成された映像信号は、画像記録部301で記録され、また、撮影状態を示すデータは、状態データ記録部302にて記録される。この際撮影状態を示すデータは、映像信号の同期信号と同じタイミングで記録されるため、映像信号と撮影状態を示すデータは時間的なずれを持つことなく記録できる。
【0018】
このようにして記録された映像信号と撮影状態を示すデータは、システムコントロール部104によって時間的なずれのない関係を維持したまま読み出され、第三信号処理部303にて所定の信号処理を施される。この信号処理は撮影状態を示すデータがあることで初めて実施でき、遠近表現の効果を向上させる信号処理である。第一信号処理部103と第三信号処理部303のそれぞれの出力は、システムコントロール部104の制御に従い画像出力部304を通して、ユーザーの指示に応じてどちらか一方が選択されて出力される。
以上の動作により撮影した画像からでは分析することが困難な情報を映像信号と関連つけて記録することができるようになる。また、その関係を保持したまま読み出すことで新たな効果を期待できる信号処理を施すことが可能となる。
【0019】
次に図4を用いて、第三信号処理部303の処理の一例を挙げて説明する。
401は信号記録部301が出力する映像信号、409は状態データ記録部302が出力する状態データ、410はシステムコントロール部104が出力する制御信号である。402は映像信号401に二値化処理を施す二値化部、403は人の顔と認識するための条件をデータ化したデータベース、404はデータベース403のデータと二値化部402の結果とが一致する項目数から人の顔であるか否かを判定する顔判定部、405は状態データ409を参照しながら顔判定部404が顔と判定した被写体までの距離を演算により算出する距離算出部、406は顔判定部404が顔と判定した被写体を囲む最小の領域を算出する顔領域算出部、407は入力された映像信号のうち顔領域算出部406が出力した領域内だけに所定の信号処理を施す信号処理部、411は映像信号401を遅延させる遅延部である。
【0020】
接続について説明する。映像信号401は二値化部402と遅延部411と距離算出部405と顔領域算出部406のそれぞれの入力に接続し、二値化部402の出力とデータベース403の出力は、顔判定部404のそれぞれの入力に接続され、顔判定部404の出力は距離算出部405の別の入力と顔領域算出部406に接続され、距離算出部405の出力と顔領域算出部406の出力と遅延部411の出力は信号処理部407のそれぞれの入力に接続され、状態データ409は距離算出部405の別の入力に接続され、制御信号410は信号処理部407と顔領域算出部406の入力に接続される。
【0021】
動作について説明する。二値化部402は、映像信号401の輝度レベルを参照し、所定の値を閾値として閾値以上の輝度レベルである場合と閾値未満である場合の二値に分別する。これにより映像信号401に撮影されている物体の特徴が強調される。顔判定部404は、データベース403から人の顔として認識するためのいくつかの二値化パターンを読み出し二値化部402の出力と比較して一致するパターンが所定数より多い場合に人の顔であると判定する。この結果を受けて距離算出部405と顔領域算出部406は動作状態になる。
【0022】
距離算出部405は、状態データ409を参照しながら映像信号401から人の顔と判定された被写体までの距離を算出する。また、顔領域算出部406は、人の顔と判定された被写体の輪郭を背景との信号量の違い等から算出して信号処理部407に出力する。ここまでの動作は映像信号401を画像記録部301から読み込んだときに開始される。次に信号処理部407は、遅延部411から読み出された映像信号に距離算出部405の出力結果を用い、また信号処理を施す際の有効範囲として顔領域算出部406の算出結果を用いることで、人の顔と判定された被写体のみに重点を置いた信号処理を施すことができる。このように人の顔と判定された被写体別に撮像装置までの距離を算出して距離に応じた信号処理を施すことができる。なお、遅延部411は、映像信号401を読み込んだ後、距離算出部405や顔領域算出部406での算出が完了するまでの時間遅延を補償している。
【0023】
次に、図5を用いて距離算出部405の動作について、状態データ409として与えられた情報がレンズの視野角θであった場合について説明する。
図5は、図4における距離算出部405の距離算出方法を説明する図である。
501は撮影に用いる撮像装置、502は撮影した被写体、503は状態データ409として与えられた視野角θ、504は撮像装置501が撮影した静止画である。
動作について説明する。被写体502は、顔判定部404で想定している“(例えば人の)顔”と判定されている被写体である。そのため顔の実際の横幅サイズ(図中のW)はデータベース403を見れば予想することが容易な数値であり、ここでは一般的な人の顔の横幅平均値とする。この際、Wの値が推測できると静止画504の全幅の1/2に相当する実際のシーン中の撮影されている横幅(図中のWA)が下記数式(1)より推測できる。人の顔の横幅を構成する画素数をPピクセル、静止画504の全幅の1/2の長さを構成する画素数をQピクセルと表すと、
WA = W × Q / P ・・・・・・数式(1)
で表すことができる。
【0024】
よって視野角θとWAの幅にて、撮像装置501と被写体502間の距離(図中のL)が下記数式で表すことができる。
【0025】
L = WA/tanθ ・・・・・・数式(2)
このようにして被写体502までの距離を算出する。静止画504内に人の顔と判定された被写体が複数個あったとしても同様に視野角θとWAの幅が分れば上記式によって被写体別に距離を求めることができる。
【0026】
以上の動作により、撮影した画像からでは分析することが困難な撮影状態の情報を画像ファイル内に納めることができ、またこの情報を読み出すことで撮影した後に撮影を行った瞬間の状態を確認し、撮影状態の情報を用いて新たな効果を期待できる信号処理システムを構築することができる。具体的には静止画上に存在する各被写体と撮影装置までのそれぞれの距離が分ることから被写界深度を浅くする、または、深くするといったぼかしの演出を行うことができる。
【0027】
例えば前記した距離が短い場合、被写界深度を浅くすれば目的とした被写体を明確にする効果がある。また、被写体ごとの距離を参照してぼかし具合を決定することで画面一様の処理とは異なり演出の幅を広げることができる。例えば目的とした被写体が複数あって前記した距離が互いに異なる場合、被写界深度を深くすれば複数の被写体の多くを明確にする効果がある。
処理を行う以前の原画像は画像記録部301に保存されている。このためユーザーはこれらの処理を、異なる演出効果のもとで被写体を撮像した後に繰返し行うことができる。
また、第三信号処理部303は、図1における画像記録部109の後段につけても、静止画再生時に同様の効果が得られることは言うまでも無い。
【0028】
次に、図6を用いて第三の実施例を説明する。
図6は、第三の実施例における撮像装置のブロック図であって、図4のブロック図に基準としたい被写体を決定する基準決定部601を新たに追加したものである。基準決定部601の出力はシステムコントロール部104の入力に接続されている。なお、基準決定部601は例えば、撮像装置のタッチパネル式の表示部(図示せず)に表示されたモニター画面上で、ユーザーが基準としたい被写体に触れることにより基準を決定すると良い。
【0029】
第三信号処理部303内の顔領域算出部406に与えるシステムコントロール部104の出力410には、基準決定部601が出力した縦軸、横軸の座標を示す情報も与えられる。この情報は、映像信号401内に複数個存在する被写体の中で基準としたい被写体を選ぶために、映像信号中の該被写体の位置を示した情報である。顔領域算出部406は、算出した領域の中から基準決定部601が出力した縦軸、横軸の座標が含まれる領域を検索して、該当した算出領域には識別信号を印加して信号処理部407に出力する。信号処理部407は識別信号が印加された領域に対応して距離算出部405が出力する距離情報を基準として、被写体ごとに基準とした被写体との差分距離を算出する。この差分を用いて信号処理を施す。
【0030】
以上の動作により撮影した装置から基準とした被写体までの距離と、他の被写体までの距離との差分を用いて差分値が大きくなるに従いソフトフォーカス効果を強くする信号処理を第三信号処理部303が施すことができ、たとえば選択した被写体を中心に被写界深度を浅くするといった効果のある信号処理を行うことができる。第三信号処理部303は、図1における画像記録部109の後段につけても同様の効果が得られることは言うまでも無い。
また、上記ではJPEGのExifファイルに記録する例を示したが、動画像の圧縮方式であるMPEGフォーマットを用いた動画ファイル等にも、状態情報を記録し、動画再生時に上記第三信号処理303にてリアルタイムで画像演出を施してもよい。このように前記した実施例に対して変更を加えた実施例を考えることができるが、いずれも本発明の範疇にある。
【0031】
図7を用いて第四の実施例を説明する。
図7は、第四の実施例における信号処理部407のブロック図であり、図6における第三信号処理部303中の信号処理部407の一例を示したものである。
701は遅延部411の画像出力結果、702は距離算出部405の出力結果、703は顔領域算出部406の出力結果である。前記したように703には、顔または被写体の領域を示す出力と、その被写体が距離の基準とした被写体であるかを示す信号の2種類が含まれている。704は制御信号410にて設定された条件を距離算出部出力結果702が満たしているかを判定する距離判定部、705は制御信号410にて設定された拡大率を出力する拡大率選択部、706は例えばフィールドメモリのように画像出力結果701を保持する画像保持部である。707は、拡大率選択部705と、距離の基準とした被写体であるかを示す顔領域算出部出力結果703を用いて、画像保持部706から画像データを読み出す制御を行う第1の画像W/R制御部であり、拡大処理が希望の拡大率で、且つ、拡大中心が基準決定部601で決めた被写体になるように画像切り出し位置の変更や画像データの間欠読み出しを行う制御をする。
【0032】
708は画像保持部706からの読み出しデータに拡大率選択部705から出力された拡大率にて拡大処理を行う画像拡大部、709は入力画像をフィールドメモリに上書きする画像合成保持部、710は画像合成保持部709のデータ書き込み、データ読み出しを制御する第2の画像W/R制御部である。711は画像合成保持部709への入力データを、顔または被写体の領域を示す顔領域算出部出力結果703に従って、画像拡大部708の出力画像と、画像合成保持部709の出力画像から選択する選択部である。712は撮像装置から距離の基準とした被写体までの距離と、撮像装置からその他の被写体との差分を算出する差分算出部、713はスイッチ部である。
【0033】
接続について説明する。距離算出部出力結果702と、距離の基準とした被写体であるかを示す顔領域算出部出力結果703は、差分算出部712の入力に接続し、差分算出部712の出力と制御信号410は距離判定部704の入力に接続し、制御信号410は拡大率選択部705の入力に接続し、拡大率選択部705の出力と距離の基準とした被写体であるかを示す顔領域算出部出力結果703は第1の画像W/R制御部707の入力に接続し、第1の画像W/R制御部707の出力と遅延部画像出力結果701と顔または被写体の領域を示す顔領域算出部出力結果703は画像保持部706の入力に接続し、画像保持部706の画像出力と拡大率選択部705の出力は画像拡大部708の入力に接続し、画像保持部706から出力された顔または被写体の領域を示す出力は、スイッチ部713にて距離判定部704の出力にて接続、非接続を制御されて選択部711の一方の入力に接続し、また、画像合成保持部709の出力は選択部711の別の入力に接続し、選択部711の出力と第2の画像W/R制御部710の出力は画像合成保持部709の入力に接続し、第2の画像W/R制御部710の入力に制御信号410を接続している。
【0034】
動作について説明する。本実施例は図6に示した実施例の第三信号処理部303中の信号処理部407(図4)の一例を示したものであり、それ以外の動作は先記実施例と同じであるためここでは割愛する。
まず、差分算出部712に距離の基準とした被写体までの距離を記憶させるため、図6のシステムコントロール部104は、画像記録部301で記録している映像信号と、状態データ記録部302で記録している視野角などの撮影環境データを読み出させ、さらに、基準決定部601にて決められた距離の基準とした被写体の位置情報信号を出力する。図4の距離算出部405は顔判定部404が顔と判定した被写体のすべてについて撮像装置から被写体までの距離を算出する。差分算出部712は、この算出結果の中から距離の基準とした被写体であるかを示す顔領域算出部出力結果703に基づき、距離の基準とした被写体までの距離を記憶する。
【0035】
システムコントロール部104は、再び画像記録部301が記録している映像信号と、状態データ記録部302が記録している視野角などの撮影環境データを読み出させ、距離算出部405にて撮像装置からすべての被写体までの距離を算出させる。差分算出部712は、先ほど記憶した撮像装置から基準とした被写体までの距離と、撮像装置からすべての被写体までの距離の差分を個々に算出する。距離判定部704は、この差分量が制御信号410にて設定された条件を満たす場合にスイッチ部713をONし、満たさない場合OFFするための信号を出力する。制御信号410にて設定された条件で3つ以上の場合分けを行うときは、場合分けの識別信号を出力する。
【0036】
画像保持部706は、拡大率選択部705が出力する拡大率と距離の基準とした被写体であるかを示す顔領域算出部出力結果703に従い、第1の画像W/R制御部707によって読み出し制御を受け、拡大中心が基準決定部601で決めた被写体になるように画像切り出し位置の変更や画像データの間欠読み出しを行い、顔または被写体の領域を示す出力と保持した画像を出力する。読み出した画像は、画像拡大部708にて拡大処理を施される。この拡大画像は、画像拡大部708から選択部711を介して画像合成保持部709に供給される。この際、まず画像保持部706からの顔または被写体の領域を示す出力を、スイッチ部713において距離判定部704の出力でON/OFF切換する。次いでスイッチ部713の出力で選択部711の接続を切換る。これにより、距離判定部704の出力が示す条件を満たす被写体の領域だけを選択して、前記拡大画像は画像拡大部708から画像合成保持部709に入力される。
【0037】
この動作にて、特定の条件を満たす被写体のみに特定の拡大処理を施すことができる。例えば基準とした被写体より遠い被写体は拡大率1倍、基準とした被写体付近の被写体は拡大率1.5倍、基準とした被写体より近い被写体は2倍とするときは距離判定部704と拡大率選択部705への設定を変えながら、3回上記動作を繰り返す。なお、前記した特定の条件を満たさない被写体に対しては、画像合成保持部709の出力が選択部711を介して、再び画像合成保持部709に入力されるため、拡大処理を受けることはない。
【0038】
図11は、第四の実施例における制御を説明する図である。ここで、図11を用いて画像切り出し位置の変更制御や画像データの間欠読み出し制御について説明する。
1101は有効画像枠、1102は拡大率2倍のときの拡大範囲、1103は距離の基準とした被写体の中心位置、1104は有効画像枠1101を画素単位で表した有効画像枠、1105は有効画像枠1104上での拡大率2倍のときの拡大範囲、1106は有効画像枠1104を構成する画素、1107は有効画像枠1104の1行を読み出すときの垂直同期信号、1108は拡大範囲1105からの読み出し信号、1109は読み出し信号1108を1行分遅延させた遅延信号、1110は読み出し信号1108と遅延信号1109から垂直2倍の拡大処理を施した拡大信号である。
【0039】
説明の簡素化のため水平、垂直それぞれ2倍処理を行った場合を例にして説明する。拡大率選択部705は水平、垂直それぞれ2倍処理を行うデータを出力する。第1の画像W/R制御部707は、このデータと距離の基準とした被写体であるかを示す顔領域算出部出力結果703に基づき拡大範囲1102を生成する。拡大範囲1102は、距離の基準とした被写体の中心位置1103に左右、上下に拡大率に従った領域を持たせたものである。例えば、有効画像枠1101の幅をW_A、高さをH_A、拡大範囲1102の幅の1/2をW_B、拡大範囲1102の高さの1/2をH_BとするとW_B、H_Bは下記式で表すことができる。
【0040】
W_B = W_A/2*(1/拡大率)・・・ 数式(3)
H_B = H_A/2*(1/拡大率)・・・ 数式(4)
このように中心位置と拡大率が決まれば拡大範囲も明確になる。次にこの拡大範囲からの信号読み出しについて説明する。第1の画像W/R制御部707は、上記した数式(3)と(4)で決まった拡大範囲1105から、読み出し信号1108に示すように垂直2倍に合わせて1行分のデータを2回読み出す制御を行う。読み出し信号1108は、画像拡大部708内に具備している例えばラインメモリに代表される遅延手段によって1ライン分遅延処理され、遅延信号1109となる。
画像拡大部708は、遅延信号1109と読み出し信号1108から2倍の拡大処理を下記の式に従い行い、拡大信号1110を生成する。
【0041】
2倍の拡大信号 =(遅延信号1109+読み出し信号1108)/2
・・・ 数式(5)
ここでは垂直の2倍処理について説明したが、水平の2倍処理も同様の考え方で実現できる。1画素のデータを2回読み出す制御を行うこととなり、上記数式(5)を画素の考え方に変えることで対応できるため、説明は割愛する。
上記の動作により撮像装置から被写体までの距離に従い、拡大率を変える制御を行うことができ、しかも、基準となる被写体を中心から遠くなるほど拡大率を小さく、近くなるほど拡大率を大きくすることで、画面全体を同一の拡大率で拡大処理した画像とは異なり、あたかも基準となる被写体に近づいているような臨場感のある連続写真を作成する機能を実現することができる。本機能は撮像装置から被写体までの距離が明確になったことで初めて可能となるものである。
【0042】
図8を用いて第五の実施例を説明する。
図8は、第五の実施例における信号処理部407のブロック図であり、図6における第三信号処理部303中の信号処理部407の一例を示し、図7とは異なる実施例である。
801は距離判定部704の出力に従い制御信号410にて予め設定されている複数の明度ゲインデータの中からひとつを選択する明度選択部、802は明度選択部801と顔または被写体の領域を示す顔領域算出部出力結果703の出力にて画像出力結果701に乗じる係数を生成する係数生成部、803は係数生成部802が出力した係数を画像出力結果701に乗じる乗算部である。
【0043】
接続について説明する。距離算出部出力結果702と距離の基準とした被写体であるかを示す顔領域算出部出力結果703の信号は差分算出部712の入力に接続し、差分算出部712の出力と制御信号410は距離判定部704の入力に接続し、距離判定部704の出力と制御信号410は明度選択部801の入力に接続し、明度選択部801の出力と顔または被写体の領域を示す顔領域算出部出力結果703の出力は係数生成部802の入力に接続し、係数生成部802の出力と画像出力結果701は乗算部803の入力に接続している。
【0044】
動作について説明する。本実施例は図6における実施例の第三信号処理部303中の信号処理部407(図4)の一例を示したものであるため、それ以外の動作は先記実施例と同じであるためここでは割愛する。
まず、差分算出部712に距離の基準とした被写体までの距離を記憶させるため、図6のシステムコントロール部104は、画像記録部301から記録している映像信号と、状態データ記録部302から記録している視野角などの撮影環境データを読み出させ、基準決定部601にて決められた基準とした被写体の位置情報信号を出力する。図4の距離算出部405は顔判定部404が顔と判定した被写体のすべてについて撮像装置から被写体までの距離を算出する。差分算出部712は、この算出結果の中から距離の基準とした被写体であるかを示す顔領域算出部出力結果703の信号に基づき、距離の基準とした被写体までの距離を記憶する。
【0045】
再び画像記録部301から記録している映像信号と、状態データ記録部302から記録している視野角などの撮影環境データを読み出し、撮像装置からすべての被写体までの距離を算出する。差分算出部712は、先ほど記憶した撮像装置から基準とした被写体までの距離と、撮像装置からすべての被写体までの距離の差分を算出する。距離判定部704は、この差分量が制御信号410にて設定された条件を満たすか否かを示す識別信号を出力する。制御信号410にて設定された条件で3つ以上の場合分けを行うときは、場合分けの識別信号を出力する。
【0046】
明度選択部801は、距離判定部704の出力に従い予め制御信号410にて設定された明度ゲインデータの中からひとつを選択する。係数生成部802は、明度選択部801と顔または被写体の領域を示す顔領域算出部出力結果703に基づき、特定の被写体の領域だけ輝度、あるいは色信号に乗じる特定のゲインを出力し、その他の領域のゲインは1倍を示す値を出力する。乗算部803は画像出力結果701の輝度、あるいは色信号に係数生成部802の出力する係数を乗じる。
上記の動作により撮像装置から被写体までの距離に従い、明度を変える制御を行うことができ、しかも、基準となる被写体を中心に遠くなるほど明度ゲインデータを小さく、近くなるほど明度ゲインデータを大きくすることで、画面全体を同一の明度ゲインデータで信号処理した画像とは異なり、新しい方法にて遠近感を表現する連続写真を作成する機能を実現することができる。本機能は撮像装置から被写体までの距離が明確になったことで初めて可能となったものである。
【0047】
また、基準とした被写体の明度を予め検出し、その結果を元に基準とした被写体よりも遠方の被写体や、近方の被写体の明度ゲインデータを数式に則り算出する方法であっても同様の効果が得られる。
図9を用いて第六の実施例を説明する。
図9は、第六の実施例における信号処理部407のブロック図であり、図6における第三信号処理部303中の信号処理部407の一例を示し、図7、図8とは異なる実施例である。
【0048】
901は顔または被写体の領域を示す顔領域算出部出力結果703の出力を用いて、画像出力結果701の中から各被写体ごとの鮮明度を高周波成分の信号量にて計測する鮮明度抽出部、902は距離算出部405の出力702と鮮明度抽出部901の出力から鮮明度の一番高い被写体の鮮明度、一番遠方の被写体の鮮明度、一番近方の被写体の鮮明度、距離の基準とした被写体の鮮明度、それぞれの被写体と撮像装置までの距離を記憶する鮮明度記憶部、903は鮮明度記憶部902が記憶した情報から、各被写体の鮮明度を補正するデータを算出する鮮明度補正データ算出部、904は鮮明度補正データ算出部903と距離判定部704の出力と顔または被写体の領域を示す顔領域算出部出力結果703の出力から各被写体に対応した鮮明度補正データを選択する鮮明度補正データ選択部、905は鮮明度補正データ選択部904の出力に基づき、画像出力結果701の被写体に鮮明度を上げる、または下げる処理を行う鮮明度調整部である。
【0049】
接続について説明する。距離算出部出力結果702と距離の基準とした被写体であるかを示す顔領域算出部出力結果703は差分算出部712の入力に接続し、差分算出部712の出力と制御信号410は距離判定部704の入力に接続し、画像出力結果701と顔または被写体の領域を示す顔領域算出部出力結果703は鮮明度抽出部901の入力に接続し、鮮明度抽出部901の出力と距離算出部出力結果702は鮮明度記憶部902の入力に接続し、鮮明度記憶部902の出力は鮮明度補正データ算出部903の入力に接続し、距離判定部704の出力と制御信号410と距離の基準とした被写体であるかを示す顔領域算出部出力結果703と鮮明度補正データ算出部903の出力は鮮明度補正データ選択部904の入力に接続し、鮮明度補正データ選択部904の出力と画像出力結果701は鮮明度調整部905の入力に接続している。
【0050】
動作について説明する。本実施例は図6における実施例の第三信号処理部303中の信号処理部407(図4)の一例を示したものであるため、それ以外の動作は先記実施例と同じであるためここでは割愛する。
まず、差分算出部712に距離の基準とした被写体までの距離を記憶させるため、図6のシステムコントロール部104は、画像記録部301から記録している映像信号と、状態データ記録部302から記録している視野角などの撮影環境データを読み出させ、基準決定部601にて決められた基準とした被写体の位置情報信号を出力する。図4の距離算出部405は顔判定部404が顔と判定した被写体のすべてについて撮像装置から被写体までの距離を算出する。差分算出部712は、この算出結果の中から顔領域算出部出力結果703の距離の基準とした被写体であるかを判別する信号に基づき、距離の基準とした被写体までの距離を記憶する。
【0051】
それと同時に鮮明度抽出部901は、顔または被写体の領域を示す顔領域算出部出力結果703を用いて、すべての顔または被写体の鮮明度を抽出する。鮮明度は例えばサンプリング周波数の1/2の周波数を通過させるバンド・パス・フィルタ(以下BPFとする)の出力を積分した結果で表すことができる。その結果、鮮明度の一番高い被写体の鮮明度と距離算出部405が算出した距離702、一番遠方の被写体の鮮明度と距離算出部405が算出した距離702、一番近方の被写体の鮮明度と距離算出部405が算出した距離702、距離の基準とした被写体の鮮明度と距離算出部405が算出した距離702という4種類の被写体の情報が抽出できる。鮮明度記憶部902はこの4種類の被写体の情報を記憶する。
【0052】
再び画像記録部301で記録している映像信号と、状態データ記録部302で記録している視野角などの撮影環境データを読み出し、撮像装置からすべての被写体までの距離を算出する。差分算出部712は、先ほど記憶した撮像装置から距離の基準とした被写体までの距離と、撮像装置からすべての被写体までの距離の差分を算出する。距離判定部704は、この差分量が制御信号410にて設定された条件を満たすか否かを示す識別信号を出力する。制御信号410にて設定された条件で3つ以上の場合分けを行うときは、場合分けの識別信号を出力する。鮮明度補正データ算出部903は、鮮明度記憶部902が記憶した4種類の被写体の情報から、距離の基準とした被写体の鮮明度が一番高くなるように鮮明度を上げる補正を行うデータを算出する。他の被写体は差分算出部712の出力にしたがって鮮明度を下げる補正を行うデータを算出する。
【0053】
この際、距離判定部704は差分算出部712の出力を複数のグループに区切り、算出された差分がどこのグループに属するかを判定し、識別信号を出力する。鮮明度補正データ選択部904は、識別信号を用いて鮮明度補正データ算出部903が出力した複数の補正データからひとつを選択し、鮮明度調整部905に入力する。鮮明度調整部905は、鮮明度補正データ選択部904の出力に従い、画像出力結果701に鮮明度調整処理を施す。鮮明度補正データが鮮明度を上げるものであった場合、例えば画像出力結果701にエッジ強調処理を十分に施した画像ともとの画像出力結果701との混合比を変えることで鮮明度を上げ、逆に鮮明度補正データが鮮明度を下げるものであった場合、例えば画像出力結果701にロー・パス・フィルタ(以下LPFとする)を施した画像ともとの画像出力結果701との混合比を変えることで鮮明度を下げる。
【0054】
図10は、第六の実施例における制御を説明する図である。ここで図10を用いて鮮明度補正データ算出部903、差分算出部712、距離判定部704の動作を詳しく説明する。
図10において、1001は撮像装置、1002は最も近い被写体、1003は最も鮮明度の高い被写体、1004は距離の基準とした被写体、1005は最も遠くの被写体であり、横軸は撮像装置1001からの距離を示す。1006は画像出力結果701の鮮明度抽出部901の結果を縦軸とって示した鮮明度曲線、1007は距離の基準とした被写体1004を一番鮮明度が高くなるようにしたときの鮮明度直線、1008は距離判定部704が出力する距離の基準とした被写体1004から等間隔で区切った領域、1009は鮮明度補正データ選択部の出力であり、鮮明度を上げるデータを+鮮明度データ、鮮明度を下げるデータを−鮮明度データ、それぞれの強度を大、中、小、補正なしで表している。
【0055】
画像出力結果701の鮮明度抽出部901の結果は鮮明度曲線1006に示す通りとする。このとき、距離の基準とした被写体1004よりも被写体1003の鮮明度が高く、距離の基準とした被写体1004はピントがぼけている状態である。ここで鮮明度補正データ算出部903は、最も近い被写体1002と最も鮮明度の高い被写体1003と最も遠くの被写体1005のそれぞれの鮮明度と、距離の基準とした被写体1004の位置から、鮮明度直線1007に示すように距離の基準とした被写体1004の鮮明度を一番高くする特性を算出する。その算出結果を距離判定部704が出力する領域108内で平均をとり、鮮明度補正データ選択部904の出力とする。
【0056】
上記の動作により撮像装置から被写体までの距離に基づき、鮮明度を変える制御を行うことができ、しかも、基準となる被写体を中心に遠くなるほど鮮明度下げ、近くなるほど鮮明度を上げることができるため、画面全体を同一の鮮明度向上処理で信号処理した画像とは異なり、新たにフォーカスを取り直したような連続写真を作成する機能を実現することができる。本機能は撮像装置から被写体までの距離が明確になったことで初めて可能となるものである。
【符号の説明】
【0057】
101:レンズ、102:センサ、103:第一信号処理部、104:システムコントロール部、105:レンズ制御部、106:受光部、107:発光部、108:赤外線受発光部、109:画像記憶部、111:画像ファイル生成部、112:第一信号処理部103の出力、113:絞り、114:絞り制御部、201:ブロック分割部、202:YCrCB変換部、203:DCT部、204:一様量子化部、205:1次元DC予測部、206:エントロピー符号化部、207:撮影状態を示すデータ、301:画像記録部、302:状態データ記録部、303:第三信号処理、304:画像出力部、401:映像信号、402:二値化部、403:データベース、404:顔判定部、405:距離算出部、406:顔領域算出部、407:信号処理部、409:状態データ、410:制御信号、411:遅延部、501:撮像装置、502:被写体、503:視野角θ、504:撮影した静止画、601:基準決定部、701:画像出力結果、702:距離算出部405の出力結果、703:顔領域算出部406の出力結果、704:距離判定部、705:拡大率選択部、706:画像保持部、707:第1の画像W/R制御部、708:画像拡大部、709:画像合成保持部、710:第2の画像W/R制御部、711:選択部、712:差分演算部、713:スイッチ部、801:明度選択部、802:係数生成部、803:乗算部、901:鮮明度抽出部、902:鮮明度記憶部、903:鮮明度補正データ算出部、904:鮮明度補正データ選択部、905:鮮明度調整部、1001:撮像装置、1002:最も近い被写体、1003:最も鮮明度の高い被写体、1004:距離の基準とした被写体、1005:最も遠くの被写体、1006:鮮明度曲線、1007:鮮明度直線、1008:等間隔で区切った領域、1009:鮮明度補正データ選択部の出力、1101:有効画像枠、1102:拡大率2倍のときの拡大範囲、1103:距離の基準とした被写体の中心位置、1104:画素単位で表した有効画像枠、1105:有効画像枠1104上での拡大率2倍のときの拡大範囲、1106:有効画像枠1104を構成する画素、1107:垂直同期信号、1108:読み出し信号、1109:遅延信号、1110:拡大信号。
【技術分野】
【0001】
本発明は信号処理装置に係り、特に画像を撮像して処理する信号処理装置に関するものである。
【背景技術】
【0002】
静止画を撮影する方法のひとつとして、デジタルカメラを使用する機会が飛躍的に増え、それに伴ってデジタルカメラの小型化、軽量化、高機能化が進み、高画質な画像を手軽に得ることができるようになった。
特に高機能化に対する需要は高くなる一方であり、最近では高級なレンズを搭載するカメラに対して高度な機能を期待している傾向がある。例えば、被写界深度を浅くする、あるいは、深くするといった高度の撮影テクニックに対応する機能や、合焦としている範囲の画像がより鮮明に撮影できる機能などである。そのためには、絞り機構を備えたレンズユニット、また、空間周波数特性が良いレンズを採用することとなり、それに伴いレンズが大型化し上記で述べたデジタルカメラの小型化を進める際の足かせになっている。
現在では、特許文献1に記載の信号処理のように画像の鮮明度を算出しその結果の数値からレンズの焦点が合っている範囲を選定し、その範囲以外の領域にソフトフォーカス処理を施すことで、被写界深度を浅くした画像と同様の効果を得る技術が知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−279054号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記特許文献1の課題のひとつに、撮影した映像信号から得られる情報には限りがあり、例えば撮影者と被写体までの距離が分らないことがある。そのため、被写界深度を変えるような処理を行う際に、例えば画像の中央部に固定された焦点を中心として、周辺のピントがぼける程度の処理をすることとなる。そのため現状では、焦点を中央部以外に置いて被写界深度を変えるといった処理は不可能である。
本発明の目的は上記した課題に鑑み、画像処理を高度化した信号処理装置を提供することにある。
【課題を解決するための手段】
【0005】
前記目的を達成するため本発明は、被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる倍率で拡大処理した映像信号を出力することを特徴としている。
【0006】
または、前記第2の信号処理部は、前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる明度で明度調整処理した映像信号を出力することを特徴としている。
または、前記第2の信号処理部は、前記該差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体に対して前記画像が含む他の被写体よりも高い鮮明度を与えるよう鮮明度調整処理した映像信号を出力することを特徴としている。
【発明の効果】
【0007】
本発明によれば、画像処理を高度化した信号処理装置を提供することができ、例えば撮像装置の高機能化に寄与することができる。
【図面の簡単な説明】
【0008】
【図1】第一の実施例における撮像装置のブロック図である。
【図2】第一の実施例における画像ファイル生成部111のブロック図である。
【図3】第二の実施例における撮像装置のブロック図である。
【図4】第二の実施例における第三信号処理部303のブロック図である。
【図5】第二の実施例における距離算出部405の距離算出方法を説明する図である。
【図6】第三の実施例における撮像装置のブロック図である。
【図7】第四の実施例における信号処理部407のブロック図である。
【図8】第五の実施例における信号処理部407のブロック図である。
【図9】第六の実施例における信号処理部407のブロック図である。
【図10】第六の実施例における制御を説明する図である。
【図11】第四の実施例における制御を説明する図である。
【発明を実施するための形態】
【0009】
図1、図2を用いて第一の実施例を説明する。
図1は、本実施例の撮像装置のブロック図である。
図2は、図1における画像ファイル生成部111のブロック図を示す。
101はレンズ、102は光電変換するセンサ、103はセンサ102の出力に第一の信号処理を施す第一信号処理部、104は撮像装置全体の制御を行うシステムコントロール部、105はシステムコントロール部104の命令を受けてレンズ101の焦点位置を変える制御をするレンズ制御部、106は被写体から反射してきた赤外線を受光する受光部、107は測距用の赤外線を発光する発光部、108は受光部106と発光部107を具備する赤外線受発光部、109は画像ファイル生成部111の出力を記録する画像記録部、111は第一信号処理部103の出力に第二の信号処理を施し画像ファイルを生成する画像ファイル生成部(第二信号処理部に相当する)、112は第一信号処理部103の出力である。113はセンサ102の受光面に当たる光の量を調節する絞り、114は絞り113の開け閉めをシステムコントロール部104の制御に従い行う絞り制御部である。
【0010】
接続について説明する。レンズ101はセンサ102の受光面に絞り113を通して被写体の光学画像を結像する。センサ102の出力は第一信号処理部103の入力に接続され、第一信号処理部103の出力は画像ファイル生成部111の入力に接続され、画像ファイル生成部111の出力は画像記録部109の入力に接続され、システムコントロール部104のそれぞれの出力はセンサ102、レンズ制御部105、絞り制御部114、第一信号処理部103、画像記録部109、画像ファイル生成部111、発光部107に接続され、システムコントロール部104の入力には受光部106の出力、レンズ制御部105の出力、第一信号処理部103のカメラ自動制御用出力が接続されている。
【0011】
動作について説明する。システムコントロール部104は、発光部107に発光を行う命令を出し、さらに発光された光の反射光の受光結果を受光部106から受け取り、発光部107に信号を送ってから、受光部106より受光結果が届くまでの時間差から距離を求める。次にシステムコントロール部104は、レンズ制御部105に命令を出して測距した距離に合焦するようにレンズの位置を変える等の制御を行い、また、絞り制御部114に命令を出して、絞り113を開ける、あるいは閉める制御を行って被写界深度を調節する。レンズ制御部105は、レンズ101の視野角の情報をシステムコントロール部104に送る。そのためレンズ制御部105は視野角抽出部を兼ねている。周知のとおり、視野角はレンズ101の焦点距離に応じて定まる。センサ102は、このように調節された光学系がセンサ102の受光面に作った像に対応した電気信号を出力する。
【0012】
第一信号処理部103は、この電気信号にシステムコントロール部104の制御を受けてカメラ用の信号処理を施す。この際、明るさを一定にする、または、ホワイトバランスを一定に保つといったカメラ自動制御を行うための情報を第一信号処理部103からシステムコントロール部104に送り、この情報をもとにシステムコントロール部104は新たに第一信号処理部103の各処理を制御する。このようにして自動制御ループを形成している。画像ファイル生成部111は、生成した映像信号に画像圧縮等の信号処理を施し、その際にレンズ制御部105から送られたレンズの視野角などの撮影状態を示すデータを取込む動作も行う。画像ファイル生成部111の出力は画像記録部109にて記録される。
ここで画像ファイル生成部111に入力される撮影状態を示すデータについて説明する。記録するデータは、撮影した画像からでは分析することが困難な情報を含んでいる。たとえば前記のようにレンズ101の視野角を示すデータである。よってシステムコントロール部104は、視野角を示すデータを画像ファイル生成部111に出力する。
【0013】
次に図2を用いて画像ファイル生成部111の動作について説明する。
図2は、JPEG画像圧縮を行う場合の画像ファイル生成部111のブロック図である。
201は映像データ112をJPEG基本処理単位である縦8ライン横8画素のブロックに分割するブロック分割部、202は分割された縦8ライン横8画素のブロックのデータをJPEGデータフォーマットであるYCrCbに変換するYCrCb変換部、203は2次元離散コサイン変換により画像信号を空間周波数へ変換するDCT部、204は量子化テーブルを用いてDCT係数に対し1次元一様量子化を行う一様量子化部、205は1次元DC予測値を計算する1次元DC予測部、206は1次元DC予測値および量子化AC係数を可変長符号を用いてエントロピー符号化を行うエントロピー符号化部、207はシステムコントロール部104が出力した例えば視野角を示すデータである。
【0014】
動作を説明する。JPEG画像圧縮の動作は、本発明の本質的な動作ではないため詳細説明は割愛し、本質的であるデータの挿入について説明する。エントロピー符号化部206は、撮影状態を示すデータをJPEG画像ファイルのヘッダー部分に挿入する。例えば一般的なJPEGファイルのフォーマット規格であるExif規格を例に説明する。Exif規格にはユーザーがコメントを書き込むことができるタグがあり2バイト分の情報を書き込むことができる。このタグに視野角を示すデータ207の情報を書き込むことでエントロピー符号化部206はファイル内保存部を兼ねることとなる。これにより撮影した画像からでは分析することが困難な情報を画像ファイル内に記録することができる。また、2バイトの各ビットに識別子などの意味を持たせることでどのような状態データであるかを認識できる。
以上の動作により撮影した画像からでは分析することが困難な撮影状態の情報を画像ファイル内に納めることができる。これにより画像を撮影した後に撮影を行った瞬間の状態を確認することができる。ここではレンズを合焦位置に移動させるための情報を発光と受光の差分から得たが、一般的に知られているビデオフォーカス方式でも同様の効果があることは周知の通りである。
【0015】
次に、図3、図4を用いて第二の実施例を説明する。
図3は、本実施例の撮像装置のブロック図である。
図4は、図3における第三信号処理部303のブロック図である。
301は図1の画像ファイル生成部111を含み、かつ、画像ファイル生成部111の出力画像を記録する画像記録部、302はシステムコントロール部104が出力する撮影状態を示すデータを記録する状態データ記録部、303は画像記録部301と状態データ記録部302の出力をもとに新たな効果をもたらす信号処理を施す第三信号処理部、304は第一信号処理部103の出力と第三信号処理部303の出力を選択して出力する画像出力部である。画像記録部301と状態データ記録部302は、例えば記録媒体としてハードディスクを用いた記録ユニットである。双方が個別に記録媒体を備えても良く、同じ記録媒体上の異なる記録領域を使用しても良い。
【0016】
接続について説明する。第一信号処理部103の出力とシステムコントロール部104の出力は画像記録部301のそれぞれ対応する入力に接続され、システムコントロール部104の別の出力は状態データ記録部302の入力に接続され、画像記録部301の出力と状態データ記録部302の出力とシステムコントロール部104の別の出力は第三信号処理部303のそれぞれ対応する入力に接続され、第一信号処理部103の出力と第三信号処理部303の出力とシステムコントロール部104の別の出力は画像出力部304のそれぞれの入力に接続される。ほかの接続と各部の働きは図1の実施例と同様である。
【0017】
動作を説明する。図1の実施例と同様の動作は割愛する。第一信号処理部103で生成された映像信号は、画像記録部301で記録され、また、撮影状態を示すデータは、状態データ記録部302にて記録される。この際撮影状態を示すデータは、映像信号の同期信号と同じタイミングで記録されるため、映像信号と撮影状態を示すデータは時間的なずれを持つことなく記録できる。
【0018】
このようにして記録された映像信号と撮影状態を示すデータは、システムコントロール部104によって時間的なずれのない関係を維持したまま読み出され、第三信号処理部303にて所定の信号処理を施される。この信号処理は撮影状態を示すデータがあることで初めて実施でき、遠近表現の効果を向上させる信号処理である。第一信号処理部103と第三信号処理部303のそれぞれの出力は、システムコントロール部104の制御に従い画像出力部304を通して、ユーザーの指示に応じてどちらか一方が選択されて出力される。
以上の動作により撮影した画像からでは分析することが困難な情報を映像信号と関連つけて記録することができるようになる。また、その関係を保持したまま読み出すことで新たな効果を期待できる信号処理を施すことが可能となる。
【0019】
次に図4を用いて、第三信号処理部303の処理の一例を挙げて説明する。
401は信号記録部301が出力する映像信号、409は状態データ記録部302が出力する状態データ、410はシステムコントロール部104が出力する制御信号である。402は映像信号401に二値化処理を施す二値化部、403は人の顔と認識するための条件をデータ化したデータベース、404はデータベース403のデータと二値化部402の結果とが一致する項目数から人の顔であるか否かを判定する顔判定部、405は状態データ409を参照しながら顔判定部404が顔と判定した被写体までの距離を演算により算出する距離算出部、406は顔判定部404が顔と判定した被写体を囲む最小の領域を算出する顔領域算出部、407は入力された映像信号のうち顔領域算出部406が出力した領域内だけに所定の信号処理を施す信号処理部、411は映像信号401を遅延させる遅延部である。
【0020】
接続について説明する。映像信号401は二値化部402と遅延部411と距離算出部405と顔領域算出部406のそれぞれの入力に接続し、二値化部402の出力とデータベース403の出力は、顔判定部404のそれぞれの入力に接続され、顔判定部404の出力は距離算出部405の別の入力と顔領域算出部406に接続され、距離算出部405の出力と顔領域算出部406の出力と遅延部411の出力は信号処理部407のそれぞれの入力に接続され、状態データ409は距離算出部405の別の入力に接続され、制御信号410は信号処理部407と顔領域算出部406の入力に接続される。
【0021】
動作について説明する。二値化部402は、映像信号401の輝度レベルを参照し、所定の値を閾値として閾値以上の輝度レベルである場合と閾値未満である場合の二値に分別する。これにより映像信号401に撮影されている物体の特徴が強調される。顔判定部404は、データベース403から人の顔として認識するためのいくつかの二値化パターンを読み出し二値化部402の出力と比較して一致するパターンが所定数より多い場合に人の顔であると判定する。この結果を受けて距離算出部405と顔領域算出部406は動作状態になる。
【0022】
距離算出部405は、状態データ409を参照しながら映像信号401から人の顔と判定された被写体までの距離を算出する。また、顔領域算出部406は、人の顔と判定された被写体の輪郭を背景との信号量の違い等から算出して信号処理部407に出力する。ここまでの動作は映像信号401を画像記録部301から読み込んだときに開始される。次に信号処理部407は、遅延部411から読み出された映像信号に距離算出部405の出力結果を用い、また信号処理を施す際の有効範囲として顔領域算出部406の算出結果を用いることで、人の顔と判定された被写体のみに重点を置いた信号処理を施すことができる。このように人の顔と判定された被写体別に撮像装置までの距離を算出して距離に応じた信号処理を施すことができる。なお、遅延部411は、映像信号401を読み込んだ後、距離算出部405や顔領域算出部406での算出が完了するまでの時間遅延を補償している。
【0023】
次に、図5を用いて距離算出部405の動作について、状態データ409として与えられた情報がレンズの視野角θであった場合について説明する。
図5は、図4における距離算出部405の距離算出方法を説明する図である。
501は撮影に用いる撮像装置、502は撮影した被写体、503は状態データ409として与えられた視野角θ、504は撮像装置501が撮影した静止画である。
動作について説明する。被写体502は、顔判定部404で想定している“(例えば人の)顔”と判定されている被写体である。そのため顔の実際の横幅サイズ(図中のW)はデータベース403を見れば予想することが容易な数値であり、ここでは一般的な人の顔の横幅平均値とする。この際、Wの値が推測できると静止画504の全幅の1/2に相当する実際のシーン中の撮影されている横幅(図中のWA)が下記数式(1)より推測できる。人の顔の横幅を構成する画素数をPピクセル、静止画504の全幅の1/2の長さを構成する画素数をQピクセルと表すと、
WA = W × Q / P ・・・・・・数式(1)
で表すことができる。
【0024】
よって視野角θとWAの幅にて、撮像装置501と被写体502間の距離(図中のL)が下記数式で表すことができる。
【0025】
L = WA/tanθ ・・・・・・数式(2)
このようにして被写体502までの距離を算出する。静止画504内に人の顔と判定された被写体が複数個あったとしても同様に視野角θとWAの幅が分れば上記式によって被写体別に距離を求めることができる。
【0026】
以上の動作により、撮影した画像からでは分析することが困難な撮影状態の情報を画像ファイル内に納めることができ、またこの情報を読み出すことで撮影した後に撮影を行った瞬間の状態を確認し、撮影状態の情報を用いて新たな効果を期待できる信号処理システムを構築することができる。具体的には静止画上に存在する各被写体と撮影装置までのそれぞれの距離が分ることから被写界深度を浅くする、または、深くするといったぼかしの演出を行うことができる。
【0027】
例えば前記した距離が短い場合、被写界深度を浅くすれば目的とした被写体を明確にする効果がある。また、被写体ごとの距離を参照してぼかし具合を決定することで画面一様の処理とは異なり演出の幅を広げることができる。例えば目的とした被写体が複数あって前記した距離が互いに異なる場合、被写界深度を深くすれば複数の被写体の多くを明確にする効果がある。
処理を行う以前の原画像は画像記録部301に保存されている。このためユーザーはこれらの処理を、異なる演出効果のもとで被写体を撮像した後に繰返し行うことができる。
また、第三信号処理部303は、図1における画像記録部109の後段につけても、静止画再生時に同様の効果が得られることは言うまでも無い。
【0028】
次に、図6を用いて第三の実施例を説明する。
図6は、第三の実施例における撮像装置のブロック図であって、図4のブロック図に基準としたい被写体を決定する基準決定部601を新たに追加したものである。基準決定部601の出力はシステムコントロール部104の入力に接続されている。なお、基準決定部601は例えば、撮像装置のタッチパネル式の表示部(図示せず)に表示されたモニター画面上で、ユーザーが基準としたい被写体に触れることにより基準を決定すると良い。
【0029】
第三信号処理部303内の顔領域算出部406に与えるシステムコントロール部104の出力410には、基準決定部601が出力した縦軸、横軸の座標を示す情報も与えられる。この情報は、映像信号401内に複数個存在する被写体の中で基準としたい被写体を選ぶために、映像信号中の該被写体の位置を示した情報である。顔領域算出部406は、算出した領域の中から基準決定部601が出力した縦軸、横軸の座標が含まれる領域を検索して、該当した算出領域には識別信号を印加して信号処理部407に出力する。信号処理部407は識別信号が印加された領域に対応して距離算出部405が出力する距離情報を基準として、被写体ごとに基準とした被写体との差分距離を算出する。この差分を用いて信号処理を施す。
【0030】
以上の動作により撮影した装置から基準とした被写体までの距離と、他の被写体までの距離との差分を用いて差分値が大きくなるに従いソフトフォーカス効果を強くする信号処理を第三信号処理部303が施すことができ、たとえば選択した被写体を中心に被写界深度を浅くするといった効果のある信号処理を行うことができる。第三信号処理部303は、図1における画像記録部109の後段につけても同様の効果が得られることは言うまでも無い。
また、上記ではJPEGのExifファイルに記録する例を示したが、動画像の圧縮方式であるMPEGフォーマットを用いた動画ファイル等にも、状態情報を記録し、動画再生時に上記第三信号処理303にてリアルタイムで画像演出を施してもよい。このように前記した実施例に対して変更を加えた実施例を考えることができるが、いずれも本発明の範疇にある。
【0031】
図7を用いて第四の実施例を説明する。
図7は、第四の実施例における信号処理部407のブロック図であり、図6における第三信号処理部303中の信号処理部407の一例を示したものである。
701は遅延部411の画像出力結果、702は距離算出部405の出力結果、703は顔領域算出部406の出力結果である。前記したように703には、顔または被写体の領域を示す出力と、その被写体が距離の基準とした被写体であるかを示す信号の2種類が含まれている。704は制御信号410にて設定された条件を距離算出部出力結果702が満たしているかを判定する距離判定部、705は制御信号410にて設定された拡大率を出力する拡大率選択部、706は例えばフィールドメモリのように画像出力結果701を保持する画像保持部である。707は、拡大率選択部705と、距離の基準とした被写体であるかを示す顔領域算出部出力結果703を用いて、画像保持部706から画像データを読み出す制御を行う第1の画像W/R制御部であり、拡大処理が希望の拡大率で、且つ、拡大中心が基準決定部601で決めた被写体になるように画像切り出し位置の変更や画像データの間欠読み出しを行う制御をする。
【0032】
708は画像保持部706からの読み出しデータに拡大率選択部705から出力された拡大率にて拡大処理を行う画像拡大部、709は入力画像をフィールドメモリに上書きする画像合成保持部、710は画像合成保持部709のデータ書き込み、データ読み出しを制御する第2の画像W/R制御部である。711は画像合成保持部709への入力データを、顔または被写体の領域を示す顔領域算出部出力結果703に従って、画像拡大部708の出力画像と、画像合成保持部709の出力画像から選択する選択部である。712は撮像装置から距離の基準とした被写体までの距離と、撮像装置からその他の被写体との差分を算出する差分算出部、713はスイッチ部である。
【0033】
接続について説明する。距離算出部出力結果702と、距離の基準とした被写体であるかを示す顔領域算出部出力結果703は、差分算出部712の入力に接続し、差分算出部712の出力と制御信号410は距離判定部704の入力に接続し、制御信号410は拡大率選択部705の入力に接続し、拡大率選択部705の出力と距離の基準とした被写体であるかを示す顔領域算出部出力結果703は第1の画像W/R制御部707の入力に接続し、第1の画像W/R制御部707の出力と遅延部画像出力結果701と顔または被写体の領域を示す顔領域算出部出力結果703は画像保持部706の入力に接続し、画像保持部706の画像出力と拡大率選択部705の出力は画像拡大部708の入力に接続し、画像保持部706から出力された顔または被写体の領域を示す出力は、スイッチ部713にて距離判定部704の出力にて接続、非接続を制御されて選択部711の一方の入力に接続し、また、画像合成保持部709の出力は選択部711の別の入力に接続し、選択部711の出力と第2の画像W/R制御部710の出力は画像合成保持部709の入力に接続し、第2の画像W/R制御部710の入力に制御信号410を接続している。
【0034】
動作について説明する。本実施例は図6に示した実施例の第三信号処理部303中の信号処理部407(図4)の一例を示したものであり、それ以外の動作は先記実施例と同じであるためここでは割愛する。
まず、差分算出部712に距離の基準とした被写体までの距離を記憶させるため、図6のシステムコントロール部104は、画像記録部301で記録している映像信号と、状態データ記録部302で記録している視野角などの撮影環境データを読み出させ、さらに、基準決定部601にて決められた距離の基準とした被写体の位置情報信号を出力する。図4の距離算出部405は顔判定部404が顔と判定した被写体のすべてについて撮像装置から被写体までの距離を算出する。差分算出部712は、この算出結果の中から距離の基準とした被写体であるかを示す顔領域算出部出力結果703に基づき、距離の基準とした被写体までの距離を記憶する。
【0035】
システムコントロール部104は、再び画像記録部301が記録している映像信号と、状態データ記録部302が記録している視野角などの撮影環境データを読み出させ、距離算出部405にて撮像装置からすべての被写体までの距離を算出させる。差分算出部712は、先ほど記憶した撮像装置から基準とした被写体までの距離と、撮像装置からすべての被写体までの距離の差分を個々に算出する。距離判定部704は、この差分量が制御信号410にて設定された条件を満たす場合にスイッチ部713をONし、満たさない場合OFFするための信号を出力する。制御信号410にて設定された条件で3つ以上の場合分けを行うときは、場合分けの識別信号を出力する。
【0036】
画像保持部706は、拡大率選択部705が出力する拡大率と距離の基準とした被写体であるかを示す顔領域算出部出力結果703に従い、第1の画像W/R制御部707によって読み出し制御を受け、拡大中心が基準決定部601で決めた被写体になるように画像切り出し位置の変更や画像データの間欠読み出しを行い、顔または被写体の領域を示す出力と保持した画像を出力する。読み出した画像は、画像拡大部708にて拡大処理を施される。この拡大画像は、画像拡大部708から選択部711を介して画像合成保持部709に供給される。この際、まず画像保持部706からの顔または被写体の領域を示す出力を、スイッチ部713において距離判定部704の出力でON/OFF切換する。次いでスイッチ部713の出力で選択部711の接続を切換る。これにより、距離判定部704の出力が示す条件を満たす被写体の領域だけを選択して、前記拡大画像は画像拡大部708から画像合成保持部709に入力される。
【0037】
この動作にて、特定の条件を満たす被写体のみに特定の拡大処理を施すことができる。例えば基準とした被写体より遠い被写体は拡大率1倍、基準とした被写体付近の被写体は拡大率1.5倍、基準とした被写体より近い被写体は2倍とするときは距離判定部704と拡大率選択部705への設定を変えながら、3回上記動作を繰り返す。なお、前記した特定の条件を満たさない被写体に対しては、画像合成保持部709の出力が選択部711を介して、再び画像合成保持部709に入力されるため、拡大処理を受けることはない。
【0038】
図11は、第四の実施例における制御を説明する図である。ここで、図11を用いて画像切り出し位置の変更制御や画像データの間欠読み出し制御について説明する。
1101は有効画像枠、1102は拡大率2倍のときの拡大範囲、1103は距離の基準とした被写体の中心位置、1104は有効画像枠1101を画素単位で表した有効画像枠、1105は有効画像枠1104上での拡大率2倍のときの拡大範囲、1106は有効画像枠1104を構成する画素、1107は有効画像枠1104の1行を読み出すときの垂直同期信号、1108は拡大範囲1105からの読み出し信号、1109は読み出し信号1108を1行分遅延させた遅延信号、1110は読み出し信号1108と遅延信号1109から垂直2倍の拡大処理を施した拡大信号である。
【0039】
説明の簡素化のため水平、垂直それぞれ2倍処理を行った場合を例にして説明する。拡大率選択部705は水平、垂直それぞれ2倍処理を行うデータを出力する。第1の画像W/R制御部707は、このデータと距離の基準とした被写体であるかを示す顔領域算出部出力結果703に基づき拡大範囲1102を生成する。拡大範囲1102は、距離の基準とした被写体の中心位置1103に左右、上下に拡大率に従った領域を持たせたものである。例えば、有効画像枠1101の幅をW_A、高さをH_A、拡大範囲1102の幅の1/2をW_B、拡大範囲1102の高さの1/2をH_BとするとW_B、H_Bは下記式で表すことができる。
【0040】
W_B = W_A/2*(1/拡大率)・・・ 数式(3)
H_B = H_A/2*(1/拡大率)・・・ 数式(4)
このように中心位置と拡大率が決まれば拡大範囲も明確になる。次にこの拡大範囲からの信号読み出しについて説明する。第1の画像W/R制御部707は、上記した数式(3)と(4)で決まった拡大範囲1105から、読み出し信号1108に示すように垂直2倍に合わせて1行分のデータを2回読み出す制御を行う。読み出し信号1108は、画像拡大部708内に具備している例えばラインメモリに代表される遅延手段によって1ライン分遅延処理され、遅延信号1109となる。
画像拡大部708は、遅延信号1109と読み出し信号1108から2倍の拡大処理を下記の式に従い行い、拡大信号1110を生成する。
【0041】
2倍の拡大信号 =(遅延信号1109+読み出し信号1108)/2
・・・ 数式(5)
ここでは垂直の2倍処理について説明したが、水平の2倍処理も同様の考え方で実現できる。1画素のデータを2回読み出す制御を行うこととなり、上記数式(5)を画素の考え方に変えることで対応できるため、説明は割愛する。
上記の動作により撮像装置から被写体までの距離に従い、拡大率を変える制御を行うことができ、しかも、基準となる被写体を中心から遠くなるほど拡大率を小さく、近くなるほど拡大率を大きくすることで、画面全体を同一の拡大率で拡大処理した画像とは異なり、あたかも基準となる被写体に近づいているような臨場感のある連続写真を作成する機能を実現することができる。本機能は撮像装置から被写体までの距離が明確になったことで初めて可能となるものである。
【0042】
図8を用いて第五の実施例を説明する。
図8は、第五の実施例における信号処理部407のブロック図であり、図6における第三信号処理部303中の信号処理部407の一例を示し、図7とは異なる実施例である。
801は距離判定部704の出力に従い制御信号410にて予め設定されている複数の明度ゲインデータの中からひとつを選択する明度選択部、802は明度選択部801と顔または被写体の領域を示す顔領域算出部出力結果703の出力にて画像出力結果701に乗じる係数を生成する係数生成部、803は係数生成部802が出力した係数を画像出力結果701に乗じる乗算部である。
【0043】
接続について説明する。距離算出部出力結果702と距離の基準とした被写体であるかを示す顔領域算出部出力結果703の信号は差分算出部712の入力に接続し、差分算出部712の出力と制御信号410は距離判定部704の入力に接続し、距離判定部704の出力と制御信号410は明度選択部801の入力に接続し、明度選択部801の出力と顔または被写体の領域を示す顔領域算出部出力結果703の出力は係数生成部802の入力に接続し、係数生成部802の出力と画像出力結果701は乗算部803の入力に接続している。
【0044】
動作について説明する。本実施例は図6における実施例の第三信号処理部303中の信号処理部407(図4)の一例を示したものであるため、それ以外の動作は先記実施例と同じであるためここでは割愛する。
まず、差分算出部712に距離の基準とした被写体までの距離を記憶させるため、図6のシステムコントロール部104は、画像記録部301から記録している映像信号と、状態データ記録部302から記録している視野角などの撮影環境データを読み出させ、基準決定部601にて決められた基準とした被写体の位置情報信号を出力する。図4の距離算出部405は顔判定部404が顔と判定した被写体のすべてについて撮像装置から被写体までの距離を算出する。差分算出部712は、この算出結果の中から距離の基準とした被写体であるかを示す顔領域算出部出力結果703の信号に基づき、距離の基準とした被写体までの距離を記憶する。
【0045】
再び画像記録部301から記録している映像信号と、状態データ記録部302から記録している視野角などの撮影環境データを読み出し、撮像装置からすべての被写体までの距離を算出する。差分算出部712は、先ほど記憶した撮像装置から基準とした被写体までの距離と、撮像装置からすべての被写体までの距離の差分を算出する。距離判定部704は、この差分量が制御信号410にて設定された条件を満たすか否かを示す識別信号を出力する。制御信号410にて設定された条件で3つ以上の場合分けを行うときは、場合分けの識別信号を出力する。
【0046】
明度選択部801は、距離判定部704の出力に従い予め制御信号410にて設定された明度ゲインデータの中からひとつを選択する。係数生成部802は、明度選択部801と顔または被写体の領域を示す顔領域算出部出力結果703に基づき、特定の被写体の領域だけ輝度、あるいは色信号に乗じる特定のゲインを出力し、その他の領域のゲインは1倍を示す値を出力する。乗算部803は画像出力結果701の輝度、あるいは色信号に係数生成部802の出力する係数を乗じる。
上記の動作により撮像装置から被写体までの距離に従い、明度を変える制御を行うことができ、しかも、基準となる被写体を中心に遠くなるほど明度ゲインデータを小さく、近くなるほど明度ゲインデータを大きくすることで、画面全体を同一の明度ゲインデータで信号処理した画像とは異なり、新しい方法にて遠近感を表現する連続写真を作成する機能を実現することができる。本機能は撮像装置から被写体までの距離が明確になったことで初めて可能となったものである。
【0047】
また、基準とした被写体の明度を予め検出し、その結果を元に基準とした被写体よりも遠方の被写体や、近方の被写体の明度ゲインデータを数式に則り算出する方法であっても同様の効果が得られる。
図9を用いて第六の実施例を説明する。
図9は、第六の実施例における信号処理部407のブロック図であり、図6における第三信号処理部303中の信号処理部407の一例を示し、図7、図8とは異なる実施例である。
【0048】
901は顔または被写体の領域を示す顔領域算出部出力結果703の出力を用いて、画像出力結果701の中から各被写体ごとの鮮明度を高周波成分の信号量にて計測する鮮明度抽出部、902は距離算出部405の出力702と鮮明度抽出部901の出力から鮮明度の一番高い被写体の鮮明度、一番遠方の被写体の鮮明度、一番近方の被写体の鮮明度、距離の基準とした被写体の鮮明度、それぞれの被写体と撮像装置までの距離を記憶する鮮明度記憶部、903は鮮明度記憶部902が記憶した情報から、各被写体の鮮明度を補正するデータを算出する鮮明度補正データ算出部、904は鮮明度補正データ算出部903と距離判定部704の出力と顔または被写体の領域を示す顔領域算出部出力結果703の出力から各被写体に対応した鮮明度補正データを選択する鮮明度補正データ選択部、905は鮮明度補正データ選択部904の出力に基づき、画像出力結果701の被写体に鮮明度を上げる、または下げる処理を行う鮮明度調整部である。
【0049】
接続について説明する。距離算出部出力結果702と距離の基準とした被写体であるかを示す顔領域算出部出力結果703は差分算出部712の入力に接続し、差分算出部712の出力と制御信号410は距離判定部704の入力に接続し、画像出力結果701と顔または被写体の領域を示す顔領域算出部出力結果703は鮮明度抽出部901の入力に接続し、鮮明度抽出部901の出力と距離算出部出力結果702は鮮明度記憶部902の入力に接続し、鮮明度記憶部902の出力は鮮明度補正データ算出部903の入力に接続し、距離判定部704の出力と制御信号410と距離の基準とした被写体であるかを示す顔領域算出部出力結果703と鮮明度補正データ算出部903の出力は鮮明度補正データ選択部904の入力に接続し、鮮明度補正データ選択部904の出力と画像出力結果701は鮮明度調整部905の入力に接続している。
【0050】
動作について説明する。本実施例は図6における実施例の第三信号処理部303中の信号処理部407(図4)の一例を示したものであるため、それ以外の動作は先記実施例と同じであるためここでは割愛する。
まず、差分算出部712に距離の基準とした被写体までの距離を記憶させるため、図6のシステムコントロール部104は、画像記録部301から記録している映像信号と、状態データ記録部302から記録している視野角などの撮影環境データを読み出させ、基準決定部601にて決められた基準とした被写体の位置情報信号を出力する。図4の距離算出部405は顔判定部404が顔と判定した被写体のすべてについて撮像装置から被写体までの距離を算出する。差分算出部712は、この算出結果の中から顔領域算出部出力結果703の距離の基準とした被写体であるかを判別する信号に基づき、距離の基準とした被写体までの距離を記憶する。
【0051】
それと同時に鮮明度抽出部901は、顔または被写体の領域を示す顔領域算出部出力結果703を用いて、すべての顔または被写体の鮮明度を抽出する。鮮明度は例えばサンプリング周波数の1/2の周波数を通過させるバンド・パス・フィルタ(以下BPFとする)の出力を積分した結果で表すことができる。その結果、鮮明度の一番高い被写体の鮮明度と距離算出部405が算出した距離702、一番遠方の被写体の鮮明度と距離算出部405が算出した距離702、一番近方の被写体の鮮明度と距離算出部405が算出した距離702、距離の基準とした被写体の鮮明度と距離算出部405が算出した距離702という4種類の被写体の情報が抽出できる。鮮明度記憶部902はこの4種類の被写体の情報を記憶する。
【0052】
再び画像記録部301で記録している映像信号と、状態データ記録部302で記録している視野角などの撮影環境データを読み出し、撮像装置からすべての被写体までの距離を算出する。差分算出部712は、先ほど記憶した撮像装置から距離の基準とした被写体までの距離と、撮像装置からすべての被写体までの距離の差分を算出する。距離判定部704は、この差分量が制御信号410にて設定された条件を満たすか否かを示す識別信号を出力する。制御信号410にて設定された条件で3つ以上の場合分けを行うときは、場合分けの識別信号を出力する。鮮明度補正データ算出部903は、鮮明度記憶部902が記憶した4種類の被写体の情報から、距離の基準とした被写体の鮮明度が一番高くなるように鮮明度を上げる補正を行うデータを算出する。他の被写体は差分算出部712の出力にしたがって鮮明度を下げる補正を行うデータを算出する。
【0053】
この際、距離判定部704は差分算出部712の出力を複数のグループに区切り、算出された差分がどこのグループに属するかを判定し、識別信号を出力する。鮮明度補正データ選択部904は、識別信号を用いて鮮明度補正データ算出部903が出力した複数の補正データからひとつを選択し、鮮明度調整部905に入力する。鮮明度調整部905は、鮮明度補正データ選択部904の出力に従い、画像出力結果701に鮮明度調整処理を施す。鮮明度補正データが鮮明度を上げるものであった場合、例えば画像出力結果701にエッジ強調処理を十分に施した画像ともとの画像出力結果701との混合比を変えることで鮮明度を上げ、逆に鮮明度補正データが鮮明度を下げるものであった場合、例えば画像出力結果701にロー・パス・フィルタ(以下LPFとする)を施した画像ともとの画像出力結果701との混合比を変えることで鮮明度を下げる。
【0054】
図10は、第六の実施例における制御を説明する図である。ここで図10を用いて鮮明度補正データ算出部903、差分算出部712、距離判定部704の動作を詳しく説明する。
図10において、1001は撮像装置、1002は最も近い被写体、1003は最も鮮明度の高い被写体、1004は距離の基準とした被写体、1005は最も遠くの被写体であり、横軸は撮像装置1001からの距離を示す。1006は画像出力結果701の鮮明度抽出部901の結果を縦軸とって示した鮮明度曲線、1007は距離の基準とした被写体1004を一番鮮明度が高くなるようにしたときの鮮明度直線、1008は距離判定部704が出力する距離の基準とした被写体1004から等間隔で区切った領域、1009は鮮明度補正データ選択部の出力であり、鮮明度を上げるデータを+鮮明度データ、鮮明度を下げるデータを−鮮明度データ、それぞれの強度を大、中、小、補正なしで表している。
【0055】
画像出力結果701の鮮明度抽出部901の結果は鮮明度曲線1006に示す通りとする。このとき、距離の基準とした被写体1004よりも被写体1003の鮮明度が高く、距離の基準とした被写体1004はピントがぼけている状態である。ここで鮮明度補正データ算出部903は、最も近い被写体1002と最も鮮明度の高い被写体1003と最も遠くの被写体1005のそれぞれの鮮明度と、距離の基準とした被写体1004の位置から、鮮明度直線1007に示すように距離の基準とした被写体1004の鮮明度を一番高くする特性を算出する。その算出結果を距離判定部704が出力する領域108内で平均をとり、鮮明度補正データ選択部904の出力とする。
【0056】
上記の動作により撮像装置から被写体までの距離に基づき、鮮明度を変える制御を行うことができ、しかも、基準となる被写体を中心に遠くなるほど鮮明度下げ、近くなるほど鮮明度を上げることができるため、画面全体を同一の鮮明度向上処理で信号処理した画像とは異なり、新たにフォーカスを取り直したような連続写真を作成する機能を実現することができる。本機能は撮像装置から被写体までの距離が明確になったことで初めて可能となるものである。
【符号の説明】
【0057】
101:レンズ、102:センサ、103:第一信号処理部、104:システムコントロール部、105:レンズ制御部、106:受光部、107:発光部、108:赤外線受発光部、109:画像記憶部、111:画像ファイル生成部、112:第一信号処理部103の出力、113:絞り、114:絞り制御部、201:ブロック分割部、202:YCrCB変換部、203:DCT部、204:一様量子化部、205:1次元DC予測部、206:エントロピー符号化部、207:撮影状態を示すデータ、301:画像記録部、302:状態データ記録部、303:第三信号処理、304:画像出力部、401:映像信号、402:二値化部、403:データベース、404:顔判定部、405:距離算出部、406:顔領域算出部、407:信号処理部、409:状態データ、410:制御信号、411:遅延部、501:撮像装置、502:被写体、503:視野角θ、504:撮影した静止画、601:基準決定部、701:画像出力結果、702:距離算出部405の出力結果、703:顔領域算出部406の出力結果、704:距離判定部、705:拡大率選択部、706:画像保持部、707:第1の画像W/R制御部、708:画像拡大部、709:画像合成保持部、710:第2の画像W/R制御部、711:選択部、712:差分演算部、713:スイッチ部、801:明度選択部、802:係数生成部、803:乗算部、901:鮮明度抽出部、902:鮮明度記憶部、903:鮮明度補正データ算出部、904:鮮明度補正データ選択部、905:鮮明度調整部、1001:撮像装置、1002:最も近い被写体、1003:最も鮮明度の高い被写体、1004:距離の基準とした被写体、1005:最も遠くの被写体、1006:鮮明度曲線、1007:鮮明度直線、1008:等間隔で区切った領域、1009:鮮明度補正データ選択部の出力、1101:有効画像枠、1102:拡大率2倍のときの拡大範囲、1103:距離の基準とした被写体の中心位置、1104:画素単位で表した有効画像枠、1105:有効画像枠1104上での拡大率2倍のときの拡大範囲、1106:有効画像枠1104を構成する画素、1107:垂直同期信号、1108:読み出し信号、1109:遅延信号、1110:拡大信号。
【特許請求の範囲】
【請求項1】
被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、
該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、
該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、
前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、
該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、
前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、
該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、
該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、
前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる倍率で拡大処理した映像信号を出力することを特徴とする信号処理装置。
【請求項2】
被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、
該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、
該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、
前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、
該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、
前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、
該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、
該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、
前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる明度で明度調整処理した映像信号を出力することを特徴とする信号処理装置。
【請求項3】
被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、
該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、
該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、
前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、
該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、
前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、
該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、
該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、
前記該差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体に対して前記画像が含む他の被写体よりも高い鮮明度を与えるよう鮮明度調整処理した映像信号を出力することを特徴とする信号処理装置。
【請求項1】
被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、
該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、
該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、
前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、
該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、
前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、
該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、
該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、
前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる倍率で拡大処理した映像信号を出力することを特徴とする信号処理装置。
【請求項2】
被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、
該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、
該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、
前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、
該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、
前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、
該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、
該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、
前記差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体と前記画像が含む他の被写体に対して互いに異なる明度で明度調整処理した映像信号を出力することを特徴とする信号処理装置。
【請求項3】
被写体を撮像して記録するための信号処理装置であって、
前記被写体からの光を集光するレンズと、
該レンズが集光した光が照射され該光を変換して映像信号を生成する光電変換部と、
該光電変換部が生成した前記映像信号に対し所定の信号処理を行って出力する第1の信号処理部と、
前記被写体が撮像された際の前記レンズの視野角に係るデータを抽出する視野角抽出部と、
該視野角抽出部が抽出したデータ及び前記第1の信号処理部が出力した映像信号を記録する画像記録部と、
前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に基づき、前記映像信号が含む画像より距離の基準とする被写体を決定する基準決定部と、
該基準決定部で決定された被写体と前記信号処理装置の間の距離及び前記画像が含む他の被写体と前記信号処理装置の間の距離を前記視野角抽出部が抽出したデータ又は前記画像記録部から読み出された視野角に係るデータに基づいて算出し、双方の前記距離の差を算出する差分算出部と、
該差分算出部が算出した前記距離の差に基づき前記第1の信号処理部が出力した映像信号又は前記画像記録部から読み出された前記映像信号に対して所定の信号処理を行って出力する第2の信号処理部を有し、
該第2の信号処理部は、
前記該差分算出部が算出した前記距離の差に基づき、前記基準決定部で決定された被写体に対して前記画像が含む他の被写体よりも高い鮮明度を与えるよう鮮明度調整処理した映像信号を出力することを特徴とする信号処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2013−98827(P2013−98827A)
【公開日】平成25年5月20日(2013.5.20)
【国際特許分類】
【出願番号】特願2011−241069(P2011−241069)
【出願日】平成23年11月2日(2011.11.2)
【出願人】(509189444)日立コンシューマエレクトロニクス株式会社 (998)
【Fターム(参考)】
【公開日】平成25年5月20日(2013.5.20)
【国際特許分類】
【出願日】平成23年11月2日(2011.11.2)
【出願人】(509189444)日立コンシューマエレクトロニクス株式会社 (998)
【Fターム(参考)】
[ Back to top ]