撮像システムおよび撮像装置
【課題】入力画像などから得られる各種情報を複数の撮像装置間で送受信することにより、多様な撮像制御を行うことができる撮像システムおよび撮像装置を提供する。
【解決手段】撮像システムは撮像装置Aと撮像装置Bとから構成される。撮像装置Aが追被写体Aを追尾し、撮像装置Bは被写体Bを追尾する。撮像装置A、Bは、画像解析部114、動作制御部115、メタデータ生成部116、接近判定部117、動き予測部118、構図決定部119、撮像トリガ生成部120を備える。被写体Aと被写体Bとが接近した場合に撮像装置Bからメタデータを撮像装置Aに送信し、メタデータに基づいて撮像装置Aは構図を決定する。そして、被写体Aと被写体Bが近づいて被写体Bが撮像装置Aの撮像範囲に入ったら決定した構図で撮像を行う。
【解決手段】撮像システムは撮像装置Aと撮像装置Bとから構成される。撮像装置Aが追被写体Aを追尾し、撮像装置Bは被写体Bを追尾する。撮像装置A、Bは、画像解析部114、動作制御部115、メタデータ生成部116、接近判定部117、動き予測部118、構図決定部119、撮像トリガ生成部120を備える。被写体Aと被写体Bとが接近した場合に撮像装置Bからメタデータを撮像装置Aに送信し、メタデータに基づいて撮像装置Aは構図を決定する。そして、被写体Aと被写体Bが近づいて被写体Bが撮像装置Aの撮像範囲に入ったら決定した構図で撮像を行う。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、複数の撮像装置からなり、撮像装置間でデータのやり取りを行うことにより適切な撮像を可能とする撮像システムおよびその撮像システムを構成する撮像装置に関する。
【背景技術】
【0002】
従来から、複数の撮像装置間でデータの送受信を行い、そのデータを利用して撮像を行う技術が存在する。例えば、カメラの焦点距離、絞り、ホワイトバランス、映像データの符号化圧縮率、多重レートおよび多重期間、静止画か動画かの区別および音声の有無などの映像音声信号、ビデオ編集、システム制御に関連するパラメータを用いて、複数の撮影装置の同期制御を行う記録システムが提案されている(特許文献1)。
【0003】
また、撮影装置からの画像データを用いて他の撮影装置を制御するシステムとしては、広角画像を撮影する2台のセンサカメラで被写体の動き予測を行い、そのパラメータを用いて撮影カメラで被写体を自動追尾して撮影する自動撮影カメラシステムが提案されている(特許文献2)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002―325216号公報
【特許文献1】特開平9―321248号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、上述の従来のシステムで撮像装置間の同期制御に用いている情報は、カメラの焦点距離、絞り、ホワイトバランス、映像データの符号化圧縮率、多重レートおよび多重期間、静止画か動画かの区別および音声の有無などであり、実際に記録される画像データを元にした情報としては被写体の移動情報程度しかない。このため、得られる情報を用いて可能な制御としては、ズームを同期させる、WBを同じにする、圧縮率に応じて転送レートを変えるなど、単純なシステム制御に限られる。よって、画像中の撮影対象の変化に応じて撮影対象/方法を変えるような、画像データから得られるメタデータを使用した制御は行えていない。
【0006】
また、被写体がある撮影装置の撮影範囲外に出て他の撮影装置の撮影範囲内に移動する場合など、複数の撮影装置の撮影範囲をまたいで移動する場合には、それまで撮影していた被写体の情報を引き継ぐことができず、各撮影装置で取得し直す必要があった。センサカメラの撮影範囲内から出てしまった場合も同様である。
【0007】
したがって、この発明の目的は、入力画像などから得られる各種情報をメタデータとして複数の撮像装置間で送受信することにより、より多様な撮像制御を行うことができる撮像システムおよびその撮像システムを構成する撮像装置を提供することにある。
【課題を解決するための手段】
【0008】
上述した課題を解決するために、第1の発明は、相互通信可能な複数の撮像装置からなり、複数の被写体を撮像する撮像システムにおいて、複数の撮像装置に含まれる第1の撮像装置は、第1のメタデータを生成して複数の撮像装置に含まれる第2の撮像装置に送信し、第2の撮像装置は、第2のメタデータを生成して第1の撮像装置に送信し、第1の撮像装置および第2の撮像装置のうちいずれか一方または両方は第1のメタデータおよび第2のメタデータに基づいて構図を決定する撮像システムである。
【0009】
第2の発明は、複数の撮像装置からなり、複数の被写体を撮像する撮像システムを構成する撮像装置において、撮像装置は、メタデータを生成するメタデータ生成部と、メタデータ生成部により生成されたメタデータを前記撮像システムを構成する他の撮像装置に送信し、さらに、他の撮像装置が生成した他のメタデータを受信する通信部と、メタデータおよび他のメタデータに基づいて撮像の構図を決定する構図決定部とを備える撮像装置である。
【発明の効果】
【0010】
この発明によれば、入力画像などから得られる各種情報をメタデータとして複数の撮像装置間で送受信することにより、多様な撮像制御を行うことができる。
【図面の簡単な説明】
【0011】
【図1】この発明の第1の実施の形態に係る撮像システムの概略構成を示す図である。
【図2】撮像システムを構成する撮像装置の構成を示すブロック図である。
【図3】撮像システムを構成する撮像装置の外観構成を示す図である。
【図4】メタデータの詳細を示す図である。
【図5】第1の実施の形態において撮像装置が行う処理を示すフローチャートである。
【図6】構図の決定の具体例を示す図である。
【図7】構図の決定の他の具体例を示す図である。
【図8】第1の実施の形態の応用例を示す図である。
【図9】この発明の第2の実施の形態において撮像装置が行う処理を示すフローチャートである。
【図10】第2の実施の形態における構図の決定の具体例を示す図である。
【図11】第2の実施の形態の応用例における処理を示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、この発明の実施の形態について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.第1の実施の形態>
[1−1.撮像システムの構成]
[1−2.撮像装置の構成]
[1−3.撮像システムの動作]
[1−4.構図決定の具体例]
[1−5.応用例]
<2.第2の実施の形態>
[2−1.撮像システムの動作]
[2−2.応用例]
<3.変形例>
【0013】
<1.第1の実施の形態>
[1−1.撮像システムの構成]
図1は、この発明に係る撮像システム1の概略構成を示す図である。図1に示すように撮像システム1は、近接した状態で並設された撮像装置Aと撮像装置Bとから構成されている。撮像装置Aが特許請求の範囲における第1の撮像装置に相当し、撮像装置Bが第2の撮像装置に相当するものである。また、請求項10以降においては、撮像装置Aが撮像装置、撮像装置Bが他の撮像装置に相当する。なお、本実施の形態では、撮像装置Aおよび撮像装置Bとしては、静止画像を記録するデジタルスチルカメラが用いられている。撮像装置Aと撮像装置Bとは後述する通信部108を介して接続されており、メタデータ、画像データ、撮像トリガなどの各種データの送受信が可能となっている。各種データの詳細およびその送受信については後述する。
【0014】
図1に示すように、撮像装置Aが追尾する被写体を被写体A、撮像装置Bが追尾する被写体を被写体Bと称する。また、撮像装置Aの撮像範囲(画枠)を撮像範囲A、撮像装置Bの撮像範囲を撮像範囲Bと称する。撮像装置Aと撮像装置Bとは初期状態においては、輻輳角が限りなくゼロに近い、つまり光軸が並行である状態に設置するものとする。その状態を基準としてパン方向回転角度を把握するものとする。
【0015】
[1−2.撮像装置の構成]
以下、上述の撮像システム1を構成する撮像装置A、撮像装置Bについて説明する。図2は、この発明に係る撮像装置Aの構成を示すブロック図である。また、図3は撮像装置の外観構成を示す図である。なお、撮像装置Bの構成も撮像装置Aと同様であるため、その説明を省略する。撮像装置Aは、被写体の撮像を行う撮像部100と撮像部100のパン・チルト動作を担う駆動部200とから構成されている。
【0016】
光学撮像系101は、例えば、撮像レンズ、ズームレンズ、フォーカスレンズおよび絞りなどを有し、被写体の光画像を入射する。光学撮像系101を介して得られた被写体の光画像は、撮像デバイスとしての固体撮像素子102上に結像される。固体撮像素子102としては、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などが用いられる。
【0017】
固体撮像素子102は、結像された光画像を光電変換して電荷量に変換し、アナログ撮像信号として出力する。固体撮像素子102から出力されるアナログ撮像信号は、A/D変換部103に供給される。A/D変換部103は、固体撮像素子102から供給されるアナログ撮像信号をデジタル撮像信号に変換し、信号処理部104に出力する。信号処理部104は、A/D変換部103から出力されるデジタル撮像信号を、例えば輝度信号と色差信号からなる画像データに変換して制御部113に出力する。ズームレンズ制御部105、フォーカスレンズ制御部106および絞り制御部107は、後述する制御部113からの制御信号に従って、それぞれ光学撮像系101が有するズームレンズ、フォーカスレンズおよび絞りなどを制御する。
【0018】
通信部108は、有線通信または無線通信によって撮像装置Bとの間でメタデータ、画像データ、撮像トリガなどの各種情報を送受信するためのインターフェースである。本実施の形態では、撮像装置AからのメタデータAは通信部108を介して撮像装置Bに送信され、撮像装置Bから送信されたメタデータBは通信部108を介して撮像装置Aが受信する。
【0019】
通信方式は有線、無線を問わず、有線の場合にはUSB(Universal Serial Bus)ケーブル、ネットワークを利用した有線LAN(Local Area Network)などにより接続する。無線の場合には、無線LAN、Bluetooth(登録商標)、近接無線転送技術Transfer Jet(ソニー株式会社の商標)などを用いることができる。なお、Transfer Jetの通信可能距離は数センチメートルであるため、Transfer Jetを用いる場合は、撮像装置Aを撮像装置Bとを近接した状態で配置する必要がある。
【0020】
バッファメモリ109は、揮発性メモリ、例えば、DRAM(Dynamic Random Access Memory)で構成される記憶媒体であり、信号処理部104によって所定の処理が施された画像データを一時的に蓄えておくものである。スイッチ110は、例えば、FET(Field Effect Transistor)などの半導体スイッチ素子を用いて構成されており、バッファメモリ109と後述するエンコード部111の間に設けられている。スイッチ110は、後述する撮像トリガ生成部120から出力される撮像トリガによってオン/オフが切り換えられることによりバッファメモリ109に格納されている画像データをエンコード部111に供給するか否かを切り換えるものである。
【0021】
エンコード部111は、スイッチ110がオンの状態の場合にバッファメモリ109から供給された画像データを、例えばJPEG(Joint Photographic Experts Group)などに符号化して記録部112に供給するものである。
【0022】
記録部112は、例えば、ハードディスク、メモリースティック(ソニー株式会社の登録商標)、SDメモリーカードなどにより構成される大容量記憶媒体であり、撮像装置Aによって撮像された画像を保存するためのものである。また、保存された画像に付随するメタデータもその画像に対応付けられて保存される。このように、この発明に係る撮像装置では、画像データは常時バッファメモリ109に格納され、撮像トリガによってスイッチ110がオンに切り換えられることによりエンコード部111に送られる。そして、最終的に記録部112に保存される。
【0023】
制御部113は、例えばCPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)から構成されている。ROMには、CPUにより読み込まれ動作されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって撮像装置A全体の制御を行う。また、制御部113は、所定のプログラムを実行することにより、画像解析部114、動作制御部115、メタデータ生成部116、接近判定部117、動き予測部118、構図決定部119、撮像トリガ生成部120として機能する。
【0024】
画像解析部114は、信号処理部104から供給された入力画像データを解析して、種々の検出、情報の算出などを行う。まず、画像解析部114は、画像データから被写体を検出する。本実施の形態においては被写体は人物であり、被写体の検出は例えば、人物の顔を検出することにより行われる。顔検出方法としては、例えば、人間の顔の特徴(目、眉毛、口、耳等)を含むテンプレートと画像データとのパターンマッチングによる検出方法、顔の輝度分布情報が記録されているテンプレートと画像データとのパターンマッチングによる検出方法、画像に含まれる肌色の部分や人間の顔の特徴量等に基づいた顔検出方法等を用いることができる。なお、複数の顔が検出された場合には、顔の大きさ、向き、輝度などの情報により、その検出された複数の顔に対して重み付けを行い、重み付けの結果、最も高い重みが付与された顔が被写体として選択するようにしてもよい。
【0025】
また、画像解析部114は、検出された人物があらかじめ被写体として設定された人物(以下、設定被写体と称する。)であるか否かの判定も行う。その設定被写体か否かの判定は例えば、あらかじめ撮像装置A内の記録部112にその設定被写体の顔の特徴に関する情報を保持しておき、その顔特徴情報と検出された被写体の顔の特徴とのパターンマッチングを行うことにより実施される。そして、検出された被写体が設定被写体であると判定した場合、画像解析部114はその被写体を追尾対象として決定する。その追尾対象の情報は動作制御部115に出力される。
【0026】
また、画像解析部114は、上述の処理により追尾対象として決定された被写体についての顔位置情報の生成を行う。顔位置情報は、枠サイズwidth、顔枠サイズheight、顔枠オフセットleft、顔枠オフセットtop、移動速度x、移動速度y、移動速度zとから構成されている。なお、顔位置情報は特許請求の範囲における被写体情報に相当するものである。
【0027】
顔枠サイズwidthは、撮像範囲A内で顔として検出された範囲を示す顔枠の横幅のサイズを示す情報である。顔枠サイズheightは撮像範囲A内における顔枠の縦方向の長さを示す情報である。また、顔枠オフセットleftは、撮像範囲Aの左端から顔枠の左端までのオフセットである。顔枠オフセットtopは撮像範囲Aの上端から顔枠の上端までのオフセットである。このオフセット情報により被写体の顔が撮像範囲A内のどこに位置しているかが示される。
【0028】
移動速度xは、検出された顔のx方向(横方向)の移動速度であり、移動速度yは顔のy方向(縦方向)の移動速度であり、移動速度zは顔のz方向(奥行き方向)の移動速度である。移動速度は、例えば、現フレームに係る画像と前フレームに係る画像間における顔の位置の移動量および現フレームと前フレーム間の経過時間とから算出することが可能である。このようにして、画像解析部114により求められた顔位置情報は動作制御部115およびメタデータ生成部116に出力される。
【0029】
さらに、画像解析部114は、検出された被写体の顔の表情判定も行う。表情判定は、公知の技術を利用することで実現することができる。例えば、目、鼻、口、眉毛又は顎の輪郭周りに特徴点を検出し、その特徴点の配置状態、位置関係により表情の種別およびその表情の度合いを検出することが可能である。そして、表情判定の結果(以下、表情判定情報と称する。)は後述する撮像トリガ生成部120に供給され、撮像トリガの生成に用いられる。これにより、例えば、被写体が笑顔になるたびに撮像トリガを生成していわゆる笑顔撮影を行うことができる。なお、表情判定情報は、撮像トリガの生成に用いられるものであるため、表情に基づく撮像を行わない場合には表情判定処理は省略してもよい。なお、検出する表情は笑顔に限られるものではない。
【0030】
動作制御部115は、画像解析部114によって追尾対象として決定された被写体を自動追尾するために、撮像装置Aの各部の動作の制御を行うものである。画像解析部114から供給された顔位置情報に基づいて被写体の移動を検出し、その移動に合わせてオートフォーカスを行うエリアを自動的に移動させるようフォーカス制御部113に所定の制御信号を出力する。これにより撮像範囲A内で被写体が移動した場合でも、その被写体の顔を追尾してピントを合わせることができる。
【0031】
また、動作制御部115は、被写体の自動追尾のため、あらかじめ定められたアルゴリズムに基づく撮像のため、ズームレンズ制御部105に所定の制御信号を出力しズーム倍率の制御を行う。さらに、動作制御部115は、被写体の自動追尾のため、あらかじめ定められたアルゴリズムに基づく撮像のため、後述する駆動部200に対し所定の制御信号を送信することにより駆動部200のパン・チルト動作の制御を行う。
【0032】
ここで、所定のアルゴリズムとは、追尾対象としている被写体の笑顔を検出したときに撮像を行う、一定の時間間隔を空けて定期的に撮像を行う、同一被写体は10秒以上間隔を空けて撮像する、一回の撮像ごとにズーム倍率を変更する、などである。
【0033】
さらに、動作制御部115は、後述する構図決定部119から供給された構図情報に基づいて、決定された構図を反映させるためにズーム倍率の制御、駆動部200のパン・チルト動作制御を行う。構図情報とは、決定した構図を再現するためのオートフォーカス情報、ズーム倍率を示す情報およびパン・チルト回転角度を示す情報とからなる。なお、構図の決定の詳細については後述する。
【0034】
なお、ズームレンズ制御部105に対する制御情報、すなわち、ズームレンズのズーム倍率を示す情報がズーム情報としてメタデータ生成部116に出力される。また、同様に駆動部200に対する制御情報、すなわち、駆動部200のパン方向角度、チルト方向角度を示す情報はパン・チルト情報としてメタデータ生成部116に出力される。パン方向角度は、撮像装置Aの撮像方向のパン方向(水平方向)における回転角度を示すものであり、チルト方向角度は、撮像装置Aの撮像方向のチルト方向(垂直方向)における回転角度を示すものである。
【0035】
このように、この発明では、被写体の顔位置情報を算出し、それらに基づいて被写体を自動追尾するためのフォーカスエリアの位置、ズーム倍率、パン・チルト回転角度を求める。そして、その算出結果に基づいて、常に被写体Aが撮像範囲A内に位置するように、フォーカスエリアの移動、ズーム倍率の調整、さらに、駆動部200の動作制御を行う。これにより、被写体が移動した場合でも、その顔を自動追尾することが可能となっている。
【0036】
メタデータ生成部116は、画像解析部114から供給された顔位置情報、さらに動作制御部115から取得した撮像装置Aの動作に関する情報であるズームレンズ情報、パン・チルト情報に基づいてメタデータを生成するものである。したがって、メタデータは図4に示すように、顔位置情報、ズーム情報、パン・チルト情報とから構成されるものとなる。メタデータ生成部116により生成されたメタデータは通信部108を介して撮像装置A撮像装置B間で送受信される。さらに、接近判定部117、動き予測部118および構図決定部119に出力される。また、生成されたメタデータは記録部112に蓄積メタデータとして随時記録されていく。なお、撮像装置Aにより生成されるメタデータをメタデータAとし、撮像装置Bにより生成されるメタデータをメタデータBと称し、区別する。
【0037】
メタデータを構成する顔位置情報は画像解析部114による解析の結果取得され、ズーム情報およびパン・チルト情報は動作制御部115から取得されるものとして説明を行った。しかし、それに限られず、ズーム情報およびパン・チルト情報も画像解析部114による画像解析の結果求めるようにしてもよい。
【0038】
接近判定部117は、メタデータに含まれる顔位置情報、パン・チルト情報に基づいて被写体Aと被写体Bとが接近しているか否かの判定を行う。接近しているかの判定は例えば、被写体Aと被写体Bとが共に撮像範囲A内に収まっている場合にはそれぞれの顔の位置を検出し、その顔の位置間の距離が所定の閾値(距離)以下か否かを判定することにより行うことができる。また、撮像装置Aの撮像範囲A内には被写体Aのみが収まっており、撮像装置Bの撮像範囲B内には被写体Bのみが収まっているような場合には、撮像装置Aと撮像装置Bのそれぞれのパン方向の回転角度の差を算出する。そして、その差が所定の閾値(角度)以下である場合に被写体間の距離が短いとして被写体が接近している、と判定することができる。接近判定部117は、その判定結果を構図決定部119および撮像トリガ生成部120に出力する。なお、接近していると判定するための閾値はデフォルトとして撮像装置A内に設定しておいてもよいし、ユーザが任意に設定できるようにしてもよい。
【0039】
動き予測部118は、メタデータに含まれる被写体の顔位置情報に基づいてフレーム間の被写体の動き予測を行う。動き予測は例えば以下のようにして行う。まず、時刻Tn(現フレーム)の時点での被写体の動きベクトルVnを算出する。この動きベクトルVnは、画像中で時刻Tn−1(前フレーム)において得られた被写体と時刻Tn(現フレーム)において得られた被写体とのずれとして算出することができる。そして、動きベクトルVnを算出した後、動き予測を行う。被写体は同一方向に同一速度で動くと考えて予測を行う。すなわち、時刻Tn−1(前フレーム)、時刻Tn(現フレーム)、時刻Tn+1(次フレーム)の間で、画像上での被写体の動きベクトルが変わらないと考える。したがって、予測される動きベクトルVn+1は、Vn+1=Vnとなる。このような予測を行うことにより、被写体の時刻Tn+1(次フレーム)における位置を予測することができる。
【0040】
また、動き予測は、3つのフレーム、時刻Tn(現フレーム)、時刻Tn−1(前フレーム)、時刻Tn−2(2つ前のフレーム)に基づいて行なってもよい。この場合、時刻Tn−1(前フレーム)、時刻Tn−2(2つ前のフレーム)間の動きベクトルVn−1を求め、さらに、時刻Tn(現フレーム)、時刻Tn−1(前フレーム)間の動きベクトルVnを求める。そして、その二つの動きベクトルから予測動きベクトルVn+1を算出して、その動きベクトルVn+1から被写体の時刻Tn+1(次フレーム)における位置を予測することができる。
【0041】
また、動き予測部118は、記録部112に保存されている蓄積メタデータを用いて動き予測を行うことも可能である。具体的には、同一の被写体について作成した直前のメタデータに含まれる被写体の顔位置情報と、現時点における被写体の顔位置情報とに基づいて上述のフレーム間における動きベクトル算出と同様にして動きベクトルを算出する。そして、その動きベクトルに基づいて動き予測を行う。なお、蓄積メタデータに含まれるパン・チルト情報に基づいても動き予測は可能であると考えられる。例えば、直前のメタデータに含まれるパン・チルト情報と現時点におけるパン・チルト情報とからパン・チルト回転角度の差分を算出する。そして、直前のメタデータ作成時刻から現時刻までの経過時間と同じ時間が経過した後には被写体が現在位置から同方向にその差分に相当する距離移動すると予測することにより動き予測を行う、などである。
【0042】
また、蓄積メタデータを用いて画像解析部114における被写体の移動速度の算出も行うことが可能である。具体的には、同一の被写体について作成した直前のメタデータに含まれる被写体の顔位置情報と現時点における被写体の顔位置情報から顔位置の差として顔位置の移動量を算出する。そして、その移動量と、直前のメタデータの作成時刻から現在時刻までの経過時間とから移動速度を算出することが可能である。
【0043】
構図決定部119は、撮像装置Aにより生成されたメタデータAおよび撮像装置Bにより生成されて撮像装置Aに送信されたメタデータBに基づいて撮像に適した構図を算出して決定するものである。構図決定の具体的内容については後述する。また、本実施の形態においては接近判定部117から供給された判定結果に基づいて構図の決定処理を開始する。その詳細については後述する。
【0044】
撮像トリガ生成部120は、予め設定された所定の撮像条件(例えば、上述のアルゴリズム)にしたがって、撮像トリガを生成してスイッチ110に出力するものである。例えば、笑顔検出を行い、被写体が笑顔になるたびに撮像を行うように設定されている場合は、画像解析部114から被写体が笑顔である旨の表情判定情報が供給された場合に撮像トリガを出力する。
【0045】
駆動部200は、図3に示すように、第1支持体201、第2支持体202、回転体203、ベース204とからなるパンチチルトユニットとして構成されている。撮像部100は、第1支持体201、第2支持体202間に水平方向に沿って設けられたチルト軸(図示せず。)によって支持されている。撮像部100は第1支持体201または第2支持体202のどちらかの内部に設けられたチルト駆動用モータ(図示せず。)による駆動力によってチルト方向に回転することが可能となっている。第1支持体201および第2支持体202は回転体203の上面に立設されている。
【0046】
回転体203は、上面で第1支持体201および第2支持体202を支持している。そして、ベース204上に設けられており、垂直方向に沿って設けられたパン軸(図示せず。)によってベース204上に支持されている。回転体203は内部に設けられたパン軸駆動用モータ(図示せず。)の駆動力によって、パン軸を中心にベース204上で360度回転可能に構成されている。すなわち、撮像部100はパン軸を中心にパン方向に回転可能となっている。ベース204はパン軸を介して上面で回転体203を支持しており、底面はテーブルや地面などに載置することが可能なように平面上に形成されている。
【0047】
このように構成された駆動部200は、動作制御部115からの制御信号に従って動作することにより撮像部100をパン・チルト動作させる。
【0048】
上述のように、本実施の形態においては撮像装置A、Bは近接した状態で並設されている。しかし、例えば、数メートル〜数十メートルなど距離をおいて撮像装置A、B設置する場合には、撮像装置A、Bに位置検出部を設けて、設置位置を検出し、その設置位置情報を撮像装置A、B間でやり取りし、互いの位置を認識するようにしてもよい。位置検出部は、例えばGPS(Global Positioning System)の受信デバイスにより構成されるものであり、撮像装置の設置位置の検出を行うものである。
【0049】
[1−3.撮像システムの動作]
以下、撮像システム1が行う撮像処理について説明する。図5Aは、第1の実施の形態において撮像装置Aが行う処理の流れを示すフローチャートである。図5Bは、撮像装置Bが行う処理の流れを示すフローチャートである。撮像装置Aが行う処理と撮像装置Bが行う処理とは常時並行して行われる。
【0050】
第1の実施の形態では、撮像装置Aはあらかじめ被写体として設定されている被写体Aを自動追尾して所定のアルゴリズムにしたがってその撮像を行う。また、撮像装置Bは、被写体を検索し、被写体A以外の他の被写体を検出した場合、その他の被写体が被写体Aに接近しているか否かを判定し、接近している場合、その他の被写体を追尾対象とする。その追尾対象は被写体Bとする。そして、撮像装置A、B間でメタデータの送受信を行い、被写体Bが撮像装置Aの撮像範囲A内に入りそうになった場合に、撮像装置Aは被写体Aおよび被写体Bの両方を撮像するのに適した構図を決定して保持する。そして、被写体Bが撮像範囲Aに入った場合に、その保持してある構図を反映することにより、被写体Aおよび被写体Bの変化に即時に対応した撮像を可能にするものである。
【0051】
なお、所定のアルゴリズムとは、上述したように、追尾対象としている被写体の笑顔を検出したときに撮影を行う、一定の時間間隔を空けて定期的に撮像を行う、などである。そのうちのどのアルゴリズムに従い撮像を行うかはデフォルトで設定されているものとする。ただし、ユーザが事前に設定可能および撮像途中で変更可能としてもよい。
【0052】
撮像処理を開始すると、撮像装置Aはまず、ステップS111であらかじめ設定された被写体である被写体Aの自動追尾を開始する。また、同時に所定のアルゴリズムに従い被写体Aの撮像も開始する。次に、ステップS112で、画像解析部114で入力画像の解析を行い、その解析結果および動作制御部115から所得するズーム情報およびパン・チルト情報に基づきメタデータ生成部116により被写体AについてのメタデータAを生成する。そして、撮像装置AはステップS113でそのメタデータAを撮像装置Bに送信する。
【0053】
一方、撮像装置Bは、撮像開始時点では特定の追尾対象を有しておらず、ステップS121で被写体の検索を開始する。なお、この検索時においては、被写体の検索のため、あらかじめ定められた設定に従いズーム倍率の変更、パン・チルト動作を行うようにするとよい。例えば、一定の時間おきにズーム倍率を切り換える、一定時間でパン動作可能角度内を一往復するようパン動作を行う、などである。
【0054】
そして、ステップS122で被写体を検出したら、次に撮像装置Bは、ステップS123で、その被写体Bが撮像装置Aの追尾対象である被写体Aとは異なる被写体であるか否かを判定する。被写体Bが被写体Aと異なる被写体ではない、すなわち、同一であると判定した場合、処理はステップS121に戻り、再び被写体の検索を行う(ステップS123のNo)。一方、被写体Bが被写体Aとは異なると判定した場合、処理はステップS124に進む(ステップS123のYes)。次に撮像装置Bは、ステップS124で撮像装置Aから送信されたメタデータAを受信する。
【0055】
次に撮像装置BはステップS125で、接近判定部117により被写体Bと被写体Aとが「接近している状態」か否かを判定する。判定は上述のように検出した顔の位置、またはパン方向回転角度の差分に基づいて行うことができる。そして、被写体Aと被写体Bとが「接近している状態」ではないと判定した場合、処理はステップS121に戻り再び入力画像からの被写体の検索を行う(ステップS125のNo)。
【0056】
一方、被写体Aと被写体Bとが「接近している状態」であると判定した場合、処理はステップS126に進む(ステップS125のYes)。そして撮像装置Bは、ステップS126で被写体Bを追尾対象として決定し、その追尾を開始する。なお、撮像装置Bは、追尾中にも常に被写体Aと被写体Bとが「接近している状態」か否かを判定し、「接近している状態」であると判定する限り自動追尾を続ける。次に、ステップS127で、撮像装置Bは被写体BについてのメタデータBの生成を行う。そして、撮像装置Bは、ステップS128でメタデータBを撮像装置Aに送信する。
【0057】
一方、撮像装置Aは、ステップS114で、撮像装置Bにおける処理のステップS128で送信されたメタデータBを受信する。次にステップS115で撮像装置Aは、接近判定部117および動き予測部118により、メタデータBに基づいて、被写体Bが被写体Aに接近することにより撮像範囲A内に「入りそう」か否かを判定する。例えば、受信したメタデータBを用いて被写体Bの動き予測を行い、予測される被写体Bの位置が撮像装置Aの撮像範囲A内に存在する(すなわち、判定時には被写体Bは撮像範囲A内にはまだ入っていない)場合に「入りそう」であると判定することができる。または、メタデータに含まれる撮像装置Aと撮像装置Bのそれぞれパン方向回転角度の差分が所定の閾値(角度)以下になった場合に「入りそう」であると判定することも可能である。なお、被写体Bが被写体Aに接近することにより撮像範囲A内に「入りそう」な状態は、上述の撮像装置BのステップS125における「接近している状態」よりも被写体間の距離が短いものである。
【0058】
ステップS115において、被写体Bが撮像装置Aの撮像範囲内に「入りそう」ではない判定した場合、処理はステップS112に戻り、引き続き被写体Aについてのメタデータ生成から処理を行う(ステップS115のNo)。一方、ステップS115において、被写体Bが撮像範囲Aに「入りそう」だと判定した場合、処理はステップS116に進む(ステップS115のYes)。次に、撮像装置Aは、ステップS116でメタデータAおよびメタデータBに基づいて、被写体Bが撮像範囲Aに入った場合に適切な撮像が行える構図を決定する。詳しくは、現時点における被写体Aの位置と予測される被写体Bの位置に基づいて被写体Aおよび被写体Bが撮像装置A内に収まるように構図を決定する。そして、その構図を反映させるために必要な構図情報を記録部112に保持しておく。
【0059】
次に、撮像装置AはステップS117で、被写体Bが撮像範囲A内に「入った」か否かを判定する。「入った」か否かは、例えば、撮像装置Aの画像解析部114が撮像範囲A内に被写体Bの顔を検出したか否かによって判定することができる。または、上述した、被写体Bが撮像範囲A内に入りそうか否かの判定において予測した被写体Bの位置に被写体が入ったか否かを確認することなどにより判定することができる。そして、ステップS117で被写体Bが撮像範囲Aに入ってはいないと判定した場合、処理はステップS112に戻り、被写体Bが撮像範囲Aに入るまで、撮像装置AはステップS112乃至ステップS117の処理を行う。
【0060】
一方、ステップS117で被写体Bが撮像範囲Aに「入った」と判定した場合、撮像装置AはステップS118で、保持している構図情報に基づいてオートフォーカスの制御、ズーム倍率の制御、駆動部200のパン・チルト制御を行うことにより、保持している構図を反映させる(ステップS117のYes)。これにより、常に撮像装置Aは、被写体Aを自動追尾し撮像を行いながら、被写体Bが撮像範囲A内に入ってきた場合であっても、即座に被写体Aおよび被写体Bを適切な構図で撮像することができる。
【0061】
そして、撮像装置Aおよび撮像装置Bは被写体Aおよび被写体Bの動きに合わせて上述の処理を繰り返しながら所定のアルゴリズム、例えば被写体の笑顔を検出した際に撮像トリガを生成して撮像を行う。撮像が行われるタイミングは上述の処理中のいつでもよい。
例えば、笑顔撮影の場合は、撮像装置Aは上述の処理を行いながら常時入力画像データをバッファメモリ109に蓄えている。さらに、上述の処理と並行して常時被写体の表情判定を行い、被写体の笑顔が検出されたら撮像トリガをスイッチ110に出力する。これにより、被写体の笑顔を捉えた画像データがエンコード部111に送られて、最終的に記録部112に保存される。
【0062】
記録された画像は撮像装置A、B間で送受信して、撮像装置A、Bそれぞれの記録部112に関連付けて保存するとよい。これにより、画像の検索、画像の加工などにおける利便性を高めることができる。ただし、記録された画像を撮像装置間で送受信せず、撮像装置Aで撮像した画像は撮像装置Aに、撮像装置Bで撮像した画像は撮像装置Bに保存するようにしてもよい。なお、説明はパン方向の動きを想定して行ったが、チルト方向についても同様にして行うことができる。
【0063】
[1−4.構図決定の具体例]
図6および図7は構図の決定の具体例をそれぞれ示すものである。まず、図6に示す例について説明する。まず、図6Aの状態は、撮像装置Aは被写体Aを自動追尾して撮像している。また、撮像装置Bは被写体Aとは異なる被写体Bを検出し、被写体Bと被写体Aとが「接近している状態」と判定したため被写体Bを追尾対象として決定し、メタデータBを撮像装置Aに送信した状態である。すなわち、撮像装置Aにおいては、ステップS111乃至ステップS114までが行われ、撮像装置BにおいてはステップS121乃至ステップS128までが行われた状態である。そして、被写体Bは被写体Aにさらに接近しようとしている。
【0064】
そして、撮像装置Aは、例えば動き予測により被写体Bが撮像範囲A内に「入りそう」か否かを判定する。図6Bでは、破線で示す被写体Bの予測される位置が撮像範囲A内に入っているため、撮像装置Aは被写体Bが撮像範囲A内に「入りそう」であると判定する。「入りそう」であると判定した場合、撮像装置Aは画像解析部114により被写体Aの現在位置を把握し、さらにメタデータBから被写体Bの予測位置を把握し、被写体Aおよび被写体Bが適切に撮像範囲A内に収まるように構図を決定して保持しておく。そして、図6Cに示すように被写体Bが撮像範囲A内に入ってきたら、図6Dに示すようにパン・チルト制御を行い、決定した構図反映させる。
【0065】
図6の例では、構図の変更をパン・チルト制御により行う例を示したが、構図の変更はそれだけに限られない。図7はその他の方法により構図を変更する例を示すものである。図7Aでは、被写体Aよりも被写体Bが撮像装置Aに近い場所に位置しており、そのままの構図では被写体Bを撮像装置Aの撮像範囲A内に納めることができない。そこで、被写体Bが撮像範囲A内に収まるようにズーム倍率を変更して撮像範囲Aを広くすることにより構図の調整を行っている。
【0066】
図7Bは、被写体Aよりも後方に複数の被写体(その複数の被写体を総称して被写体Bとする)が存在している場合である。この場合、まず、駆動部200のパン・チルト制御を行って被写体Aを構図の手前に入れつつ、被写体Aと被写体Bとが撮像範囲A内に収まるように構図を調整する。さらに、被写体Aまたは被写体Bにピントを合わせる。
【0067】
以上のような構図の決定および反映によって、撮像範囲A内に被写体Bの一部が入った状態(被写体Bの顔が切れている状態など)で撮像がなされてしまうことを防止することができる。また、被写体Bにフォーカスが合っていない状態で撮像がなされてしまうことなども防止することができる。すなわち、常に被写体Aおよび被写体Bを適切な状態で撮像することが可能となる。
【0068】
なお、図6および図7の例では、撮像装置Aの撮像範囲Aのみを図示しているが、撮像装置Bは撮像装置Aが撮像処理を行っている間、同様に追尾対象である被写体Bを継続して追尾し所定のアルゴリズムに従って撮像していてもよい。また、撮像装置Bの撮像範囲Bを撮像装置Aに一致させるようにしてもよい。
【0069】
[1―5.応用例]
次に、第1の実施の形態の応用例について説明する。図8A、図8Bは共に、被写体Aは同じ位置に留まっており、被写体Bが被写体Aに向けて移動している場合を示すものである。図8Aは被写体Bの移動速度が速い例を示すものであり、図8Bは被写体Bの移動速度が遅い例を示すものである。この応用例では、被写体Bの動きに合わせて撮像範囲Aの調整を行うことによって、被写体Aおよび被写体Bを常に撮像装置Aの撮像範囲A内に収めながら、被写体Bが被写体Aに徐々に近づいてゆく過程を逃さず捉えることができる。
【0070】
この応用例を行うには、まず、被写体Aと被写体Bとが「接近している状態」になる予測時刻(以下、接近予測時刻と称する。)を算出する。接近予測時刻は、例えば、被写体Bの移動速度とフレーム間の経過時間とから被写体Bの予測位置を算出し、被写体Aの位置と被写体Bの予測位置間の距離が所定の閾値以下になる時刻として求めることができる。ここで、所定の閾値は被写体Aと被写体Bとが接近したか否かの基準となるものであり、デフォルトとして設定しておいてもよいし、ユーザが任意に設定できるようにしてもよい。
【0071】
そして、その接近予測時刻よりも前の各時刻(例えば2秒前の時刻および1秒前の時刻)における被写体Bの位置を予測する。接近予測時刻前の各時刻における位置の予測は例えば、接近予測時刻が現在時刻から5秒後であり、接近予測時刻の2秒前の位置を予測しようとする場合には、その差である現在時刻から3秒後の被写体Bの位置を予測する。これにより図8に示すように接近予測時刻から2秒前の被写体Bの位置を予測することができる。そして、現在時刻から3秒後の被写体Bと被写体Aとが撮像範囲A内に収まるように構図を決定する。同様にして接近予測時刻の1秒前の被写体Bの位置も予測して構図を決定することができる。
【0072】
また、まず、被写体Aの位置と被写体Bの予測位置間の距離が所定の閾値以下になる接近予測時刻を求める。次に、現在時刻から接近予測時刻までの間において所定の時間間隔をあけて(例えば、1秒間隔)で、それぞれの時点における被写体Bの位置を予測し、そのそれぞれの時点における被写体Bの位置に合わせて構図を決定して保持しておく。そして、各時点において保持していた構図を反映させて撮像を行うようにしてもよい。
【0073】
接近予測時刻前のいつの時点で撮像を行うかのポイントはデフォルトとして設定しておいてもよいし、ユーザが任意に設定できるようにしてもよい。撮像ポイントの個数を増やすことにより、被写体Bが被写体Aに接近する様子をより詳細に撮像することができる。
【0074】
<2.第2の実施の形態>
以下、この発明の第2の実施の形態について図9乃至図11を参照して説明を行う。なお、撮像システム1、撮像装置Aおよび撮像装置Bの構成は第1の実施の形態と同様であるため、その説明を省略する。
【0075】
[2−1.撮像システムの動作]
なお、第2の実施の形態においては、前提として、撮像装置Aはあらかじめ設定された被写体Aを自動追尾しており、所定のアルゴリズムに従い撮像を行うものとする。また、撮像装置Bもあらかじめ設定された被写体B(被写体Aとは異なる。)を自動追尾しており、所定のアルゴリズムに従い撮像を行うものとする。所定のアルゴリズムは、第1の実施の形態で説明したのと同様に、追尾対象としている被写体の笑顔を検出したときに撮影を行う、一定の時間間隔を空けて定期的に撮像を行う、同一被写体は10秒以上間隔を空けて撮像する、一回の撮像ごとにズーム倍率を変更して撮像を行う、などである。
【0076】
撮像処理を開始すると、撮像装置Aはまず、ステップS211であらかじめ設定された被写体である被写体Aの自動追尾を開始する。また、同時に所定のアルゴリズムに従い被写体Aの撮像も開始する。次に、ステップS212で撮像装置Aは被写体AについてのメタデータAの生成を行う。そして、撮像装置AはステップS213でそのメタデータAを撮像装置Bに送信する。
【0077】
一方、撮像装置Bは、ステップS221であらかじめ設定された被写体である被写体Bの自動追尾を開始する。また、同時に所定のアルゴリズムに従い被写体Bの撮像も開始する。次に、ステップS222で被写体BについてのメタデータBの生成を行う。そして、撮像装置BはステップS223でそのメタデータBを撮像装置Aに送信する。
【0078】
そして、撮像装置AはステップS214で撮像装置Bから送信されたメタデータBを受信する。また、同様に撮像装置BはステップS224で撮像装置Aから送信されたメタデータAを受信する。
【0079】
次に撮像装置AはステップS215で、接近判定部117により被写体Aと被写体Bとが「接近している状態」であるか否かの判定を行う。「接近している状態」か否かの判定は第1の実施の形態と同様にして行う。そして、「接近している状態」ではないと判定した場合、処理はステップS212に戻る(ステップS215のNo)。そして、「接近している状態」であると判定するまで、ステップS212乃至ステップS215を繰り返して、被写体Aの追尾を行いながらメタデータAの生成および送信、撮像装置BからのメタデータBの受信を行う。
【0080】
一方、被写体Aと被写体Bとが「接近している状態」であると判定した場合、処理はステップS216に進む(ステップS215のYes)。そして、ステップS216で撮像装置Aはズーム倍率をあらかじめ設定してあるズーム倍率(設定ズーム倍率と称する。)に一致させることにより、撮像範囲のサイズの調整(構図の調整)を行う。設定ズーム倍率は、被写体間の距離、パン方向回転角度の差分、すなわち「接近している状態」か否かの判定に用いる情報に対応させてあらかじめ設定されて記録部112などに保持されているものとする。言い換えると、それらの情報に基づいて構図が決定される。ただし、ズーム倍率の調整は、撮像装置同士がお互いのメタデータに含まれるズーム倍率を参照してどちらか一方の撮像装置のその時点におけるズーム倍率に合わせるように調整してもよい。
【0081】
撮像装置Bも同様に、ステップS225で被写体Bと被写体Aとが「接近している状態」か否かの判定を行う。そして、「接近している状態」ではないと判定した場合、処理はステップS222に戻る(ステップS225のNo)。そして、「接近している状態」と判定するまで、ステップS222乃至ステップS225を繰り返して、被写体Bの追尾を行いながらメタデータBの生成および送信、撮像装置AからのメタデータAの受信を行う。なお、撮像装置AにおけるステップS215の判定、および、撮像装置BにおけるステップS225の判定が特許請求の範囲における第1の接近判定に相当する。
【0082】
一方、「接近している状態」と判定した場合、処理はステップS226に進み(ステップS225のYes)、ズーム倍率を設定ズーム倍率に一致させて撮像範囲Bのサイズの調整(構図の調整)を行う。設定ズーム倍率は撮像装置Aおよび撮像装置B共通のものとする。よって、撮像装置AのステップS216、撮像装置BのステップS226によって撮像装置A、撮像装置Bのズーム倍率は同一となり、撮像範囲Aと撮像範囲Bのサイズは同一となる。
【0083】
次に、撮像装置AはステップS217で、被写体Aと被写体Bとが「さらに接近した」か否かを判定する。「さらに接近した」か否かは、上述のステップS215と同様にして行うことができる。ただし、ステップS217はステップS215の状態に比べて「さらに接近した」か否かを判定するものである。したがって、「さらに接近した」かを判定するために顔位置間の距離と比較する閾値、またはパン方向回転角度の差分と比較する閾値はステップS215における判定に用いる閾値よりも小さい値とする。
【0084】
撮像装置AはステップS217で、「さらに接近した」とは判定しなかった場合、処理はステップS212に戻り、「さらに接近した」と判定するまで、ステップS212乃至ステップS217を繰り返す(ステップS217のNo)。一方、「さらに接近した」と判定した場合処理はステップS218に進む(ステップS217のYes)。そして、ステップS218で撮像装置Aの撮像トリガ生成部120は撮像トリガを生成してスイッチ110に出力する。これによりバッファメモリ109に蓄えられていた画像データがエンコード部11を介して記録部112に送られて画像の記録が行われる。
【0085】
撮像装置Bも同様に、ステップS227で、被写体Bと被写体Aとが「さらに接近した」か否かを判定する。「さらに接近した」とは判定しなかった場合、処理はステップS222に戻り、「さらに接近した」と判定するまで、ステップS222乃至ステップS227を繰り返す(ステップS227のNo)。一方、「さらに接近した」と判定した場合処理はステップS228に進み、(ステップS227のYes)、撮像トリガを生成してスイッチ110に出力する。これにより画像の記録が行われる。なお、撮像装置AにおけるステップS217の判定、および、撮像装置BにおけるステップS227の判定が特許請求の範囲における第2の接近判定に相当する。
【0086】
なお、上述のように撮像装置A、撮像装置Bが別々に撮像トリガを生成するのではなく、例えば、撮像装置Aは生成した撮像トリガを撮像装置Bに送信し、撮像装置Bはその受信した撮像トリガに基づき画像の記録を行ってもよい。これによっても、2台の撮像装置で同時に画像の記録を行うことができる。
【0087】
撮像装置A、撮像装置Bは上述の処理を繰り返しながら撮像を行う。そして、被写体が離れていき、ステップS217(ステップS227)で被写体が「さらに接近した」と判定しなかった場合、撮像トリガの生成を行わない。さらにステップS215(ステップS225)で被写体が「接近した」と判定しなかった場合はステップS216(ステップS226)におけるズーム倍率の調整は行わず、撮像装置A、撮像装置Bは、所定のアルゴリズムにしたがって各々の被写体を自動追尾し撮像を行う状態に戻る。なお、説明はパン方向の動きを想定して行ったが、チルト方向についても同様にして行うことができる。
【0088】
第2の実施の形態においても第1の実施の形態と同様に、記録された画像を撮像装置A、B間で送受信し、それらを関連付けられて保存してもよいし、送受信は行わず、各々が保存してもよい。
【0089】
上述の第2の実施の形態における撮像処理について図10を参照して具体例で説明する。図10Aでは、撮像装置Aは被写体Aを追尾しており、撮像装置Bは被写体Bを追尾している。そして、被写体A、被写体Bは互いの方向に進んで接近しようとしている。なお、この時点で、撮像装置Aと撮像装置Bのズーム倍率は異なっており、撮像範囲のサイズも異なっている。そして、図10Bに示すように被写体Aと被写体Bが移動し、「接近した」と判定すると、図10Cに示すように、撮像装置A、撮像装置Bはズーム倍率を調整して、撮像範囲のサイズを一致させる。そして、この状態で引き続きそれぞれ被写体の追尾を続ける。そして、図10Dに示すように被写体が近づき、「さらに接近した」と判定した場合、撮像装置Aおよび撮像装置Bは被写体の画像の記録を行う。
【0090】
第2の実施の形態においては被写体が接近したか否か、すなわち、被写体間の距離に応じて撮像が行われる。よって、「さらに接近した」か否かの判定の際に用いられる閾値を調整することにより、被写体がどのくらい接近したら撮像を行うかの調整を行うことができ、ユーザの嗜好に合わせた撮像が可能となる。
【0091】
[2−2.応用例]
次に、図11を参照して第2の実施の形態の応用例について説明する。図11は応用例において撮像装置で行われる処理を示すフローチャートである。図11のフローチャートは撮像装置Aが行う処理についてのものである。撮像装置Bも撮像装置Aと同様の処理を行うため、撮像装置Bについてのフローチャートは省略する。この応用例は、第2の実施の形態におけるステップS216およびステップS226のズーム倍率の調整は行わず、被写体の接近の度合いに応じて撮像の頻度のみを変更する、というものである。
【0092】
撮像処理を開始すると、撮像装置Aはまず、ステップS311乃至ステップS314を実行し、被写体Aの追尾を開始し、メタデータAの生成と送信、さらに撮像装置BからのメタデータBの受信を行う。このステップS311乃至ステップS314は第2の実施の形態と同様であるため、詳細な説明は省略する。
【0093】
次にステップS315で、被写体Aと被写体Bとが第3の接近状態であるか否かを判定する。判定の結果、第3の接近状態である場合には、処理はステップS316に進み(ステップS315のYes)、第3の接近状態に対応して設定してある頻度で撮像トリガを生成して出力する。一方、被写体Aと被写体Bとが第3の接近状態ではない場合には、処理はステップS317に進み、被写体Aと被写体Bとが第4の接近状態である否かを判定する。判定の結果、第4の接近状態であると判定した場合には、処理はステップS318に進み(ステップS317のYes)、第4の接近状態に対応して設定してある頻度で撮像トリガを生成して出力する。被写体間の距離が第3の接近状態、第4の接近状態のいずれでもない場合には(ステップS315、317のいずれもNo)処理はステップS312に戻る。
【0094】
被写体Aと被写体Bとが第3の接近状態にあるか、第4の接近状態にあるかの判定は、上述の「接近している」か否かの判定と同様に行うことができる。なお、この応用例において、第3の接近状態、第4の接近状態と称しているのは、第2の実施の形態における第1の接近判定、第2の接近判定との混同を避けるためである。
【0095】
この応用例は、上述のように、被写体の接近の度合いに応じて撮像の頻度を変更するものである。よって、例えば、第3の接近状態に対応する閾値よりも第4の接近状態に対応する閾値を小さく設定し、さらに、第3の接近状態に応じた頻度よりも第4の接近状態に応じた頻度を高く設定すれば、被写体が接近していくにつれて撮像頻度を上げていく、ということが可能となる。なお、図11のフローチャートにおいては、接近状態は2段階であるものとして説明を行ったが、それは一例に過ぎず、より多くの段階を設定して、その段階に応じて撮像トリガ生成頻度を設定することも可能である。
【0096】
<3.変形例>
以上、この発明の一実施の形態について具体的に説明したが、この発明は、上述の実施形態に限定されるものではなく、この発明の技術的思想に基づく各種の変形が可能である。第1および第2の実施の形態においては撮像装置は2つである場合を想定して説明を行ったが、撮像装置の数は2つに限られず、それ以上でもよい。また、被写体が接近した場合に構図の決定、撮像トリガの生成が行われる場合を想定して説明を行ったが、逆に被写体Aと被写体Bとが離れていく場合に構図を決定し、撮像トリガを生成してもよい。
【0097】
例えば、撮像装置A、撮像装置B、撮像装置Cの合計を3つの撮像装置を用いて2つの被写体A、被写体Bを撮像することもできる。この場合、撮像装置Aは被写体Aを自動追尾し、所定のアルゴリズムに従い撮像を行い、メタデータAを撮像装置Cに送信する。また、撮像装置Bは被写体Bを自動追尾し、所定のアルゴリズムに従い撮像を行い、メタデータBを撮像装置Cに送信する。そして、撮像装置CはメタデータAおよびメタデータBに基づいて、撮像範囲C内に被写体Aおよび被写体Bが常に収まるようにズーム制御、パン・チルト制御を行いながら撮像を行う。この場合、いずれかの撮像装置が撮像トリガを生成したら、その撮像トリガを他の撮像装置に送信し、他の撮像装置はその受信した撮像トリガに基づいて撮像を行うとよい。これにより、同じタイミングで、被写体Aの画像、被写体Bの画像、被写体Aと被写体Bとが収まった画像を記録することができる。
【0098】
また、上述の撮像装置の構成の説明においては、撮像装置は操作部と表示部を備えていない自動パン・チルトカメラとして説明を行った。しかし、撮像装置はそのようなものに限られず、操作部および表示部を備えるものであってもよい。操作部は、シャッタボタン、電源のオン/オフを切り換える電源キー、撮影条件の設定を切り換えるための撮影モード切り換えキー、画像再生のための再生キーなどの、ユーザによる入力の各種キーから構成されるものである。操作部は、これらキーの操作に対応する操作信号を生成し、後述する制御部113へ出力する。表示部は、例えば、LCD(Liquid Crystal Display)、有機EL(Electro luminescence)ディスプレイなどから構成される電子ビューファインダーである。信号処理部104から出力された画像データは表示部に供給されて映像として表示されることによりユーザに提供される。
【0099】
また、操作部、表示部は外部機器として構成し、撮像装置と接続することにより、撮像装置の操作、画像等の表示を行うようにしてもよい。
【0100】
また、撮像装置は共に撮像部100と駆動部200からなり、それらが一体に構成されたものとして説明を行ったが、それに限られず、撮像装置と駆動部200とを別々の構成としてもよい。例えば、駆動部200をParty-shot(ソニー株式会社の登録商標)のような撮像装置を載置する雲台として構成し、その雲台にデジタルスチルカメラを取り付けて自動追尾可能な撮像装置を構成してもよい。なお、その場合も上述した画像解析処理、動作制御処理、メタデータ生成処理、構図決定処理などの一連の処理はデジタルカメラ側で行う。そして、雲台はデジタルカメラによる動作制御に従いパン・チルト動作を行う。
【0101】
第1の実施の形態および第2の実施の形態では、撮像部100はデジタルスチルカメラとして構成され、静止画像を撮像する場合を例にして説明を行ったが、撮像部100としてデジタルビデオカメラを用いて動画撮影についてこの発明を適用することができる。
【0102】
この発明に係る撮像システム1は、例えば、結婚式等に用いることができる。この場合、撮像装置Aが新郎を追尾し、撮像装置Bが新婦を追尾し、新郎と新婦の撮像を常時別々に行いながら、二人が接近したシャッターチャンスにおいては、撮像装置A、撮像装置Bともに新郎新婦を適切な構図で撮像することが可能となる。さらに、撮像装置Cも用いて、撮像装置Cは常に新郎と新婦の両方が撮像範囲C内に収まるように撮像する、ということも可能である。このように、より多彩な写真撮影が可能となる。
【0103】
また、撮像システム1は、監視カメラシステムとして用いられてもよい。この場合、侵入者が複数いる場合であっても、それぞれの侵入者を捉えつつ、侵入者がひとつの場所に集まった場合にはその状況を複数のアングルで捉えることができる。これにより、侵入者の特徴等をより正確に認識することができる。
【符号の説明】
【0104】
1・・・・・撮像システム
100・・・撮像部
108・・・通信部
112・・・記録部
113・・・制御部
114・・・画像解析部
115・・・動作制御部
116・・・メタデータ生成部
117・・・接近判定部
118・・・動き予測部
119・・・構図決定部
120・・・撮像トリガ生成部
【技術分野】
【0001】
この発明は、複数の撮像装置からなり、撮像装置間でデータのやり取りを行うことにより適切な撮像を可能とする撮像システムおよびその撮像システムを構成する撮像装置に関する。
【背景技術】
【0002】
従来から、複数の撮像装置間でデータの送受信を行い、そのデータを利用して撮像を行う技術が存在する。例えば、カメラの焦点距離、絞り、ホワイトバランス、映像データの符号化圧縮率、多重レートおよび多重期間、静止画か動画かの区別および音声の有無などの映像音声信号、ビデオ編集、システム制御に関連するパラメータを用いて、複数の撮影装置の同期制御を行う記録システムが提案されている(特許文献1)。
【0003】
また、撮影装置からの画像データを用いて他の撮影装置を制御するシステムとしては、広角画像を撮影する2台のセンサカメラで被写体の動き予測を行い、そのパラメータを用いて撮影カメラで被写体を自動追尾して撮影する自動撮影カメラシステムが提案されている(特許文献2)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002―325216号公報
【特許文献1】特開平9―321248号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、上述の従来のシステムで撮像装置間の同期制御に用いている情報は、カメラの焦点距離、絞り、ホワイトバランス、映像データの符号化圧縮率、多重レートおよび多重期間、静止画か動画かの区別および音声の有無などであり、実際に記録される画像データを元にした情報としては被写体の移動情報程度しかない。このため、得られる情報を用いて可能な制御としては、ズームを同期させる、WBを同じにする、圧縮率に応じて転送レートを変えるなど、単純なシステム制御に限られる。よって、画像中の撮影対象の変化に応じて撮影対象/方法を変えるような、画像データから得られるメタデータを使用した制御は行えていない。
【0006】
また、被写体がある撮影装置の撮影範囲外に出て他の撮影装置の撮影範囲内に移動する場合など、複数の撮影装置の撮影範囲をまたいで移動する場合には、それまで撮影していた被写体の情報を引き継ぐことができず、各撮影装置で取得し直す必要があった。センサカメラの撮影範囲内から出てしまった場合も同様である。
【0007】
したがって、この発明の目的は、入力画像などから得られる各種情報をメタデータとして複数の撮像装置間で送受信することにより、より多様な撮像制御を行うことができる撮像システムおよびその撮像システムを構成する撮像装置を提供することにある。
【課題を解決するための手段】
【0008】
上述した課題を解決するために、第1の発明は、相互通信可能な複数の撮像装置からなり、複数の被写体を撮像する撮像システムにおいて、複数の撮像装置に含まれる第1の撮像装置は、第1のメタデータを生成して複数の撮像装置に含まれる第2の撮像装置に送信し、第2の撮像装置は、第2のメタデータを生成して第1の撮像装置に送信し、第1の撮像装置および第2の撮像装置のうちいずれか一方または両方は第1のメタデータおよび第2のメタデータに基づいて構図を決定する撮像システムである。
【0009】
第2の発明は、複数の撮像装置からなり、複数の被写体を撮像する撮像システムを構成する撮像装置において、撮像装置は、メタデータを生成するメタデータ生成部と、メタデータ生成部により生成されたメタデータを前記撮像システムを構成する他の撮像装置に送信し、さらに、他の撮像装置が生成した他のメタデータを受信する通信部と、メタデータおよび他のメタデータに基づいて撮像の構図を決定する構図決定部とを備える撮像装置である。
【発明の効果】
【0010】
この発明によれば、入力画像などから得られる各種情報をメタデータとして複数の撮像装置間で送受信することにより、多様な撮像制御を行うことができる。
【図面の簡単な説明】
【0011】
【図1】この発明の第1の実施の形態に係る撮像システムの概略構成を示す図である。
【図2】撮像システムを構成する撮像装置の構成を示すブロック図である。
【図3】撮像システムを構成する撮像装置の外観構成を示す図である。
【図4】メタデータの詳細を示す図である。
【図5】第1の実施の形態において撮像装置が行う処理を示すフローチャートである。
【図6】構図の決定の具体例を示す図である。
【図7】構図の決定の他の具体例を示す図である。
【図8】第1の実施の形態の応用例を示す図である。
【図9】この発明の第2の実施の形態において撮像装置が行う処理を示すフローチャートである。
【図10】第2の実施の形態における構図の決定の具体例を示す図である。
【図11】第2の実施の形態の応用例における処理を示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、この発明の実施の形態について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.第1の実施の形態>
[1−1.撮像システムの構成]
[1−2.撮像装置の構成]
[1−3.撮像システムの動作]
[1−4.構図決定の具体例]
[1−5.応用例]
<2.第2の実施の形態>
[2−1.撮像システムの動作]
[2−2.応用例]
<3.変形例>
【0013】
<1.第1の実施の形態>
[1−1.撮像システムの構成]
図1は、この発明に係る撮像システム1の概略構成を示す図である。図1に示すように撮像システム1は、近接した状態で並設された撮像装置Aと撮像装置Bとから構成されている。撮像装置Aが特許請求の範囲における第1の撮像装置に相当し、撮像装置Bが第2の撮像装置に相当するものである。また、請求項10以降においては、撮像装置Aが撮像装置、撮像装置Bが他の撮像装置に相当する。なお、本実施の形態では、撮像装置Aおよび撮像装置Bとしては、静止画像を記録するデジタルスチルカメラが用いられている。撮像装置Aと撮像装置Bとは後述する通信部108を介して接続されており、メタデータ、画像データ、撮像トリガなどの各種データの送受信が可能となっている。各種データの詳細およびその送受信については後述する。
【0014】
図1に示すように、撮像装置Aが追尾する被写体を被写体A、撮像装置Bが追尾する被写体を被写体Bと称する。また、撮像装置Aの撮像範囲(画枠)を撮像範囲A、撮像装置Bの撮像範囲を撮像範囲Bと称する。撮像装置Aと撮像装置Bとは初期状態においては、輻輳角が限りなくゼロに近い、つまり光軸が並行である状態に設置するものとする。その状態を基準としてパン方向回転角度を把握するものとする。
【0015】
[1−2.撮像装置の構成]
以下、上述の撮像システム1を構成する撮像装置A、撮像装置Bについて説明する。図2は、この発明に係る撮像装置Aの構成を示すブロック図である。また、図3は撮像装置の外観構成を示す図である。なお、撮像装置Bの構成も撮像装置Aと同様であるため、その説明を省略する。撮像装置Aは、被写体の撮像を行う撮像部100と撮像部100のパン・チルト動作を担う駆動部200とから構成されている。
【0016】
光学撮像系101は、例えば、撮像レンズ、ズームレンズ、フォーカスレンズおよび絞りなどを有し、被写体の光画像を入射する。光学撮像系101を介して得られた被写体の光画像は、撮像デバイスとしての固体撮像素子102上に結像される。固体撮像素子102としては、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などが用いられる。
【0017】
固体撮像素子102は、結像された光画像を光電変換して電荷量に変換し、アナログ撮像信号として出力する。固体撮像素子102から出力されるアナログ撮像信号は、A/D変換部103に供給される。A/D変換部103は、固体撮像素子102から供給されるアナログ撮像信号をデジタル撮像信号に変換し、信号処理部104に出力する。信号処理部104は、A/D変換部103から出力されるデジタル撮像信号を、例えば輝度信号と色差信号からなる画像データに変換して制御部113に出力する。ズームレンズ制御部105、フォーカスレンズ制御部106および絞り制御部107は、後述する制御部113からの制御信号に従って、それぞれ光学撮像系101が有するズームレンズ、フォーカスレンズおよび絞りなどを制御する。
【0018】
通信部108は、有線通信または無線通信によって撮像装置Bとの間でメタデータ、画像データ、撮像トリガなどの各種情報を送受信するためのインターフェースである。本実施の形態では、撮像装置AからのメタデータAは通信部108を介して撮像装置Bに送信され、撮像装置Bから送信されたメタデータBは通信部108を介して撮像装置Aが受信する。
【0019】
通信方式は有線、無線を問わず、有線の場合にはUSB(Universal Serial Bus)ケーブル、ネットワークを利用した有線LAN(Local Area Network)などにより接続する。無線の場合には、無線LAN、Bluetooth(登録商標)、近接無線転送技術Transfer Jet(ソニー株式会社の商標)などを用いることができる。なお、Transfer Jetの通信可能距離は数センチメートルであるため、Transfer Jetを用いる場合は、撮像装置Aを撮像装置Bとを近接した状態で配置する必要がある。
【0020】
バッファメモリ109は、揮発性メモリ、例えば、DRAM(Dynamic Random Access Memory)で構成される記憶媒体であり、信号処理部104によって所定の処理が施された画像データを一時的に蓄えておくものである。スイッチ110は、例えば、FET(Field Effect Transistor)などの半導体スイッチ素子を用いて構成されており、バッファメモリ109と後述するエンコード部111の間に設けられている。スイッチ110は、後述する撮像トリガ生成部120から出力される撮像トリガによってオン/オフが切り換えられることによりバッファメモリ109に格納されている画像データをエンコード部111に供給するか否かを切り換えるものである。
【0021】
エンコード部111は、スイッチ110がオンの状態の場合にバッファメモリ109から供給された画像データを、例えばJPEG(Joint Photographic Experts Group)などに符号化して記録部112に供給するものである。
【0022】
記録部112は、例えば、ハードディスク、メモリースティック(ソニー株式会社の登録商標)、SDメモリーカードなどにより構成される大容量記憶媒体であり、撮像装置Aによって撮像された画像を保存するためのものである。また、保存された画像に付随するメタデータもその画像に対応付けられて保存される。このように、この発明に係る撮像装置では、画像データは常時バッファメモリ109に格納され、撮像トリガによってスイッチ110がオンに切り換えられることによりエンコード部111に送られる。そして、最終的に記録部112に保存される。
【0023】
制御部113は、例えばCPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)から構成されている。ROMには、CPUにより読み込まれ動作されるプログラムなどが記憶されている。RAMは、CPUのワークメモリとして用いられる。CPUは、ROMに記憶されたプログラムに従い様々な処理を実行してコマンドの発行を行うことによって撮像装置A全体の制御を行う。また、制御部113は、所定のプログラムを実行することにより、画像解析部114、動作制御部115、メタデータ生成部116、接近判定部117、動き予測部118、構図決定部119、撮像トリガ生成部120として機能する。
【0024】
画像解析部114は、信号処理部104から供給された入力画像データを解析して、種々の検出、情報の算出などを行う。まず、画像解析部114は、画像データから被写体を検出する。本実施の形態においては被写体は人物であり、被写体の検出は例えば、人物の顔を検出することにより行われる。顔検出方法としては、例えば、人間の顔の特徴(目、眉毛、口、耳等)を含むテンプレートと画像データとのパターンマッチングによる検出方法、顔の輝度分布情報が記録されているテンプレートと画像データとのパターンマッチングによる検出方法、画像に含まれる肌色の部分や人間の顔の特徴量等に基づいた顔検出方法等を用いることができる。なお、複数の顔が検出された場合には、顔の大きさ、向き、輝度などの情報により、その検出された複数の顔に対して重み付けを行い、重み付けの結果、最も高い重みが付与された顔が被写体として選択するようにしてもよい。
【0025】
また、画像解析部114は、検出された人物があらかじめ被写体として設定された人物(以下、設定被写体と称する。)であるか否かの判定も行う。その設定被写体か否かの判定は例えば、あらかじめ撮像装置A内の記録部112にその設定被写体の顔の特徴に関する情報を保持しておき、その顔特徴情報と検出された被写体の顔の特徴とのパターンマッチングを行うことにより実施される。そして、検出された被写体が設定被写体であると判定した場合、画像解析部114はその被写体を追尾対象として決定する。その追尾対象の情報は動作制御部115に出力される。
【0026】
また、画像解析部114は、上述の処理により追尾対象として決定された被写体についての顔位置情報の生成を行う。顔位置情報は、枠サイズwidth、顔枠サイズheight、顔枠オフセットleft、顔枠オフセットtop、移動速度x、移動速度y、移動速度zとから構成されている。なお、顔位置情報は特許請求の範囲における被写体情報に相当するものである。
【0027】
顔枠サイズwidthは、撮像範囲A内で顔として検出された範囲を示す顔枠の横幅のサイズを示す情報である。顔枠サイズheightは撮像範囲A内における顔枠の縦方向の長さを示す情報である。また、顔枠オフセットleftは、撮像範囲Aの左端から顔枠の左端までのオフセットである。顔枠オフセットtopは撮像範囲Aの上端から顔枠の上端までのオフセットである。このオフセット情報により被写体の顔が撮像範囲A内のどこに位置しているかが示される。
【0028】
移動速度xは、検出された顔のx方向(横方向)の移動速度であり、移動速度yは顔のy方向(縦方向)の移動速度であり、移動速度zは顔のz方向(奥行き方向)の移動速度である。移動速度は、例えば、現フレームに係る画像と前フレームに係る画像間における顔の位置の移動量および現フレームと前フレーム間の経過時間とから算出することが可能である。このようにして、画像解析部114により求められた顔位置情報は動作制御部115およびメタデータ生成部116に出力される。
【0029】
さらに、画像解析部114は、検出された被写体の顔の表情判定も行う。表情判定は、公知の技術を利用することで実現することができる。例えば、目、鼻、口、眉毛又は顎の輪郭周りに特徴点を検出し、その特徴点の配置状態、位置関係により表情の種別およびその表情の度合いを検出することが可能である。そして、表情判定の結果(以下、表情判定情報と称する。)は後述する撮像トリガ生成部120に供給され、撮像トリガの生成に用いられる。これにより、例えば、被写体が笑顔になるたびに撮像トリガを生成していわゆる笑顔撮影を行うことができる。なお、表情判定情報は、撮像トリガの生成に用いられるものであるため、表情に基づく撮像を行わない場合には表情判定処理は省略してもよい。なお、検出する表情は笑顔に限られるものではない。
【0030】
動作制御部115は、画像解析部114によって追尾対象として決定された被写体を自動追尾するために、撮像装置Aの各部の動作の制御を行うものである。画像解析部114から供給された顔位置情報に基づいて被写体の移動を検出し、その移動に合わせてオートフォーカスを行うエリアを自動的に移動させるようフォーカス制御部113に所定の制御信号を出力する。これにより撮像範囲A内で被写体が移動した場合でも、その被写体の顔を追尾してピントを合わせることができる。
【0031】
また、動作制御部115は、被写体の自動追尾のため、あらかじめ定められたアルゴリズムに基づく撮像のため、ズームレンズ制御部105に所定の制御信号を出力しズーム倍率の制御を行う。さらに、動作制御部115は、被写体の自動追尾のため、あらかじめ定められたアルゴリズムに基づく撮像のため、後述する駆動部200に対し所定の制御信号を送信することにより駆動部200のパン・チルト動作の制御を行う。
【0032】
ここで、所定のアルゴリズムとは、追尾対象としている被写体の笑顔を検出したときに撮像を行う、一定の時間間隔を空けて定期的に撮像を行う、同一被写体は10秒以上間隔を空けて撮像する、一回の撮像ごとにズーム倍率を変更する、などである。
【0033】
さらに、動作制御部115は、後述する構図決定部119から供給された構図情報に基づいて、決定された構図を反映させるためにズーム倍率の制御、駆動部200のパン・チルト動作制御を行う。構図情報とは、決定した構図を再現するためのオートフォーカス情報、ズーム倍率を示す情報およびパン・チルト回転角度を示す情報とからなる。なお、構図の決定の詳細については後述する。
【0034】
なお、ズームレンズ制御部105に対する制御情報、すなわち、ズームレンズのズーム倍率を示す情報がズーム情報としてメタデータ生成部116に出力される。また、同様に駆動部200に対する制御情報、すなわち、駆動部200のパン方向角度、チルト方向角度を示す情報はパン・チルト情報としてメタデータ生成部116に出力される。パン方向角度は、撮像装置Aの撮像方向のパン方向(水平方向)における回転角度を示すものであり、チルト方向角度は、撮像装置Aの撮像方向のチルト方向(垂直方向)における回転角度を示すものである。
【0035】
このように、この発明では、被写体の顔位置情報を算出し、それらに基づいて被写体を自動追尾するためのフォーカスエリアの位置、ズーム倍率、パン・チルト回転角度を求める。そして、その算出結果に基づいて、常に被写体Aが撮像範囲A内に位置するように、フォーカスエリアの移動、ズーム倍率の調整、さらに、駆動部200の動作制御を行う。これにより、被写体が移動した場合でも、その顔を自動追尾することが可能となっている。
【0036】
メタデータ生成部116は、画像解析部114から供給された顔位置情報、さらに動作制御部115から取得した撮像装置Aの動作に関する情報であるズームレンズ情報、パン・チルト情報に基づいてメタデータを生成するものである。したがって、メタデータは図4に示すように、顔位置情報、ズーム情報、パン・チルト情報とから構成されるものとなる。メタデータ生成部116により生成されたメタデータは通信部108を介して撮像装置A撮像装置B間で送受信される。さらに、接近判定部117、動き予測部118および構図決定部119に出力される。また、生成されたメタデータは記録部112に蓄積メタデータとして随時記録されていく。なお、撮像装置Aにより生成されるメタデータをメタデータAとし、撮像装置Bにより生成されるメタデータをメタデータBと称し、区別する。
【0037】
メタデータを構成する顔位置情報は画像解析部114による解析の結果取得され、ズーム情報およびパン・チルト情報は動作制御部115から取得されるものとして説明を行った。しかし、それに限られず、ズーム情報およびパン・チルト情報も画像解析部114による画像解析の結果求めるようにしてもよい。
【0038】
接近判定部117は、メタデータに含まれる顔位置情報、パン・チルト情報に基づいて被写体Aと被写体Bとが接近しているか否かの判定を行う。接近しているかの判定は例えば、被写体Aと被写体Bとが共に撮像範囲A内に収まっている場合にはそれぞれの顔の位置を検出し、その顔の位置間の距離が所定の閾値(距離)以下か否かを判定することにより行うことができる。また、撮像装置Aの撮像範囲A内には被写体Aのみが収まっており、撮像装置Bの撮像範囲B内には被写体Bのみが収まっているような場合には、撮像装置Aと撮像装置Bのそれぞれのパン方向の回転角度の差を算出する。そして、その差が所定の閾値(角度)以下である場合に被写体間の距離が短いとして被写体が接近している、と判定することができる。接近判定部117は、その判定結果を構図決定部119および撮像トリガ生成部120に出力する。なお、接近していると判定するための閾値はデフォルトとして撮像装置A内に設定しておいてもよいし、ユーザが任意に設定できるようにしてもよい。
【0039】
動き予測部118は、メタデータに含まれる被写体の顔位置情報に基づいてフレーム間の被写体の動き予測を行う。動き予測は例えば以下のようにして行う。まず、時刻Tn(現フレーム)の時点での被写体の動きベクトルVnを算出する。この動きベクトルVnは、画像中で時刻Tn−1(前フレーム)において得られた被写体と時刻Tn(現フレーム)において得られた被写体とのずれとして算出することができる。そして、動きベクトルVnを算出した後、動き予測を行う。被写体は同一方向に同一速度で動くと考えて予測を行う。すなわち、時刻Tn−1(前フレーム)、時刻Tn(現フレーム)、時刻Tn+1(次フレーム)の間で、画像上での被写体の動きベクトルが変わらないと考える。したがって、予測される動きベクトルVn+1は、Vn+1=Vnとなる。このような予測を行うことにより、被写体の時刻Tn+1(次フレーム)における位置を予測することができる。
【0040】
また、動き予測は、3つのフレーム、時刻Tn(現フレーム)、時刻Tn−1(前フレーム)、時刻Tn−2(2つ前のフレーム)に基づいて行なってもよい。この場合、時刻Tn−1(前フレーム)、時刻Tn−2(2つ前のフレーム)間の動きベクトルVn−1を求め、さらに、時刻Tn(現フレーム)、時刻Tn−1(前フレーム)間の動きベクトルVnを求める。そして、その二つの動きベクトルから予測動きベクトルVn+1を算出して、その動きベクトルVn+1から被写体の時刻Tn+1(次フレーム)における位置を予測することができる。
【0041】
また、動き予測部118は、記録部112に保存されている蓄積メタデータを用いて動き予測を行うことも可能である。具体的には、同一の被写体について作成した直前のメタデータに含まれる被写体の顔位置情報と、現時点における被写体の顔位置情報とに基づいて上述のフレーム間における動きベクトル算出と同様にして動きベクトルを算出する。そして、その動きベクトルに基づいて動き予測を行う。なお、蓄積メタデータに含まれるパン・チルト情報に基づいても動き予測は可能であると考えられる。例えば、直前のメタデータに含まれるパン・チルト情報と現時点におけるパン・チルト情報とからパン・チルト回転角度の差分を算出する。そして、直前のメタデータ作成時刻から現時刻までの経過時間と同じ時間が経過した後には被写体が現在位置から同方向にその差分に相当する距離移動すると予測することにより動き予測を行う、などである。
【0042】
また、蓄積メタデータを用いて画像解析部114における被写体の移動速度の算出も行うことが可能である。具体的には、同一の被写体について作成した直前のメタデータに含まれる被写体の顔位置情報と現時点における被写体の顔位置情報から顔位置の差として顔位置の移動量を算出する。そして、その移動量と、直前のメタデータの作成時刻から現在時刻までの経過時間とから移動速度を算出することが可能である。
【0043】
構図決定部119は、撮像装置Aにより生成されたメタデータAおよび撮像装置Bにより生成されて撮像装置Aに送信されたメタデータBに基づいて撮像に適した構図を算出して決定するものである。構図決定の具体的内容については後述する。また、本実施の形態においては接近判定部117から供給された判定結果に基づいて構図の決定処理を開始する。その詳細については後述する。
【0044】
撮像トリガ生成部120は、予め設定された所定の撮像条件(例えば、上述のアルゴリズム)にしたがって、撮像トリガを生成してスイッチ110に出力するものである。例えば、笑顔検出を行い、被写体が笑顔になるたびに撮像を行うように設定されている場合は、画像解析部114から被写体が笑顔である旨の表情判定情報が供給された場合に撮像トリガを出力する。
【0045】
駆動部200は、図3に示すように、第1支持体201、第2支持体202、回転体203、ベース204とからなるパンチチルトユニットとして構成されている。撮像部100は、第1支持体201、第2支持体202間に水平方向に沿って設けられたチルト軸(図示せず。)によって支持されている。撮像部100は第1支持体201または第2支持体202のどちらかの内部に設けられたチルト駆動用モータ(図示せず。)による駆動力によってチルト方向に回転することが可能となっている。第1支持体201および第2支持体202は回転体203の上面に立設されている。
【0046】
回転体203は、上面で第1支持体201および第2支持体202を支持している。そして、ベース204上に設けられており、垂直方向に沿って設けられたパン軸(図示せず。)によってベース204上に支持されている。回転体203は内部に設けられたパン軸駆動用モータ(図示せず。)の駆動力によって、パン軸を中心にベース204上で360度回転可能に構成されている。すなわち、撮像部100はパン軸を中心にパン方向に回転可能となっている。ベース204はパン軸を介して上面で回転体203を支持しており、底面はテーブルや地面などに載置することが可能なように平面上に形成されている。
【0047】
このように構成された駆動部200は、動作制御部115からの制御信号に従って動作することにより撮像部100をパン・チルト動作させる。
【0048】
上述のように、本実施の形態においては撮像装置A、Bは近接した状態で並設されている。しかし、例えば、数メートル〜数十メートルなど距離をおいて撮像装置A、B設置する場合には、撮像装置A、Bに位置検出部を設けて、設置位置を検出し、その設置位置情報を撮像装置A、B間でやり取りし、互いの位置を認識するようにしてもよい。位置検出部は、例えばGPS(Global Positioning System)の受信デバイスにより構成されるものであり、撮像装置の設置位置の検出を行うものである。
【0049】
[1−3.撮像システムの動作]
以下、撮像システム1が行う撮像処理について説明する。図5Aは、第1の実施の形態において撮像装置Aが行う処理の流れを示すフローチャートである。図5Bは、撮像装置Bが行う処理の流れを示すフローチャートである。撮像装置Aが行う処理と撮像装置Bが行う処理とは常時並行して行われる。
【0050】
第1の実施の形態では、撮像装置Aはあらかじめ被写体として設定されている被写体Aを自動追尾して所定のアルゴリズムにしたがってその撮像を行う。また、撮像装置Bは、被写体を検索し、被写体A以外の他の被写体を検出した場合、その他の被写体が被写体Aに接近しているか否かを判定し、接近している場合、その他の被写体を追尾対象とする。その追尾対象は被写体Bとする。そして、撮像装置A、B間でメタデータの送受信を行い、被写体Bが撮像装置Aの撮像範囲A内に入りそうになった場合に、撮像装置Aは被写体Aおよび被写体Bの両方を撮像するのに適した構図を決定して保持する。そして、被写体Bが撮像範囲Aに入った場合に、その保持してある構図を反映することにより、被写体Aおよび被写体Bの変化に即時に対応した撮像を可能にするものである。
【0051】
なお、所定のアルゴリズムとは、上述したように、追尾対象としている被写体の笑顔を検出したときに撮影を行う、一定の時間間隔を空けて定期的に撮像を行う、などである。そのうちのどのアルゴリズムに従い撮像を行うかはデフォルトで設定されているものとする。ただし、ユーザが事前に設定可能および撮像途中で変更可能としてもよい。
【0052】
撮像処理を開始すると、撮像装置Aはまず、ステップS111であらかじめ設定された被写体である被写体Aの自動追尾を開始する。また、同時に所定のアルゴリズムに従い被写体Aの撮像も開始する。次に、ステップS112で、画像解析部114で入力画像の解析を行い、その解析結果および動作制御部115から所得するズーム情報およびパン・チルト情報に基づきメタデータ生成部116により被写体AについてのメタデータAを生成する。そして、撮像装置AはステップS113でそのメタデータAを撮像装置Bに送信する。
【0053】
一方、撮像装置Bは、撮像開始時点では特定の追尾対象を有しておらず、ステップS121で被写体の検索を開始する。なお、この検索時においては、被写体の検索のため、あらかじめ定められた設定に従いズーム倍率の変更、パン・チルト動作を行うようにするとよい。例えば、一定の時間おきにズーム倍率を切り換える、一定時間でパン動作可能角度内を一往復するようパン動作を行う、などである。
【0054】
そして、ステップS122で被写体を検出したら、次に撮像装置Bは、ステップS123で、その被写体Bが撮像装置Aの追尾対象である被写体Aとは異なる被写体であるか否かを判定する。被写体Bが被写体Aと異なる被写体ではない、すなわち、同一であると判定した場合、処理はステップS121に戻り、再び被写体の検索を行う(ステップS123のNo)。一方、被写体Bが被写体Aとは異なると判定した場合、処理はステップS124に進む(ステップS123のYes)。次に撮像装置Bは、ステップS124で撮像装置Aから送信されたメタデータAを受信する。
【0055】
次に撮像装置BはステップS125で、接近判定部117により被写体Bと被写体Aとが「接近している状態」か否かを判定する。判定は上述のように検出した顔の位置、またはパン方向回転角度の差分に基づいて行うことができる。そして、被写体Aと被写体Bとが「接近している状態」ではないと判定した場合、処理はステップS121に戻り再び入力画像からの被写体の検索を行う(ステップS125のNo)。
【0056】
一方、被写体Aと被写体Bとが「接近している状態」であると判定した場合、処理はステップS126に進む(ステップS125のYes)。そして撮像装置Bは、ステップS126で被写体Bを追尾対象として決定し、その追尾を開始する。なお、撮像装置Bは、追尾中にも常に被写体Aと被写体Bとが「接近している状態」か否かを判定し、「接近している状態」であると判定する限り自動追尾を続ける。次に、ステップS127で、撮像装置Bは被写体BについてのメタデータBの生成を行う。そして、撮像装置Bは、ステップS128でメタデータBを撮像装置Aに送信する。
【0057】
一方、撮像装置Aは、ステップS114で、撮像装置Bにおける処理のステップS128で送信されたメタデータBを受信する。次にステップS115で撮像装置Aは、接近判定部117および動き予測部118により、メタデータBに基づいて、被写体Bが被写体Aに接近することにより撮像範囲A内に「入りそう」か否かを判定する。例えば、受信したメタデータBを用いて被写体Bの動き予測を行い、予測される被写体Bの位置が撮像装置Aの撮像範囲A内に存在する(すなわち、判定時には被写体Bは撮像範囲A内にはまだ入っていない)場合に「入りそう」であると判定することができる。または、メタデータに含まれる撮像装置Aと撮像装置Bのそれぞれパン方向回転角度の差分が所定の閾値(角度)以下になった場合に「入りそう」であると判定することも可能である。なお、被写体Bが被写体Aに接近することにより撮像範囲A内に「入りそう」な状態は、上述の撮像装置BのステップS125における「接近している状態」よりも被写体間の距離が短いものである。
【0058】
ステップS115において、被写体Bが撮像装置Aの撮像範囲内に「入りそう」ではない判定した場合、処理はステップS112に戻り、引き続き被写体Aについてのメタデータ生成から処理を行う(ステップS115のNo)。一方、ステップS115において、被写体Bが撮像範囲Aに「入りそう」だと判定した場合、処理はステップS116に進む(ステップS115のYes)。次に、撮像装置Aは、ステップS116でメタデータAおよびメタデータBに基づいて、被写体Bが撮像範囲Aに入った場合に適切な撮像が行える構図を決定する。詳しくは、現時点における被写体Aの位置と予測される被写体Bの位置に基づいて被写体Aおよび被写体Bが撮像装置A内に収まるように構図を決定する。そして、その構図を反映させるために必要な構図情報を記録部112に保持しておく。
【0059】
次に、撮像装置AはステップS117で、被写体Bが撮像範囲A内に「入った」か否かを判定する。「入った」か否かは、例えば、撮像装置Aの画像解析部114が撮像範囲A内に被写体Bの顔を検出したか否かによって判定することができる。または、上述した、被写体Bが撮像範囲A内に入りそうか否かの判定において予測した被写体Bの位置に被写体が入ったか否かを確認することなどにより判定することができる。そして、ステップS117で被写体Bが撮像範囲Aに入ってはいないと判定した場合、処理はステップS112に戻り、被写体Bが撮像範囲Aに入るまで、撮像装置AはステップS112乃至ステップS117の処理を行う。
【0060】
一方、ステップS117で被写体Bが撮像範囲Aに「入った」と判定した場合、撮像装置AはステップS118で、保持している構図情報に基づいてオートフォーカスの制御、ズーム倍率の制御、駆動部200のパン・チルト制御を行うことにより、保持している構図を反映させる(ステップS117のYes)。これにより、常に撮像装置Aは、被写体Aを自動追尾し撮像を行いながら、被写体Bが撮像範囲A内に入ってきた場合であっても、即座に被写体Aおよび被写体Bを適切な構図で撮像することができる。
【0061】
そして、撮像装置Aおよび撮像装置Bは被写体Aおよび被写体Bの動きに合わせて上述の処理を繰り返しながら所定のアルゴリズム、例えば被写体の笑顔を検出した際に撮像トリガを生成して撮像を行う。撮像が行われるタイミングは上述の処理中のいつでもよい。
例えば、笑顔撮影の場合は、撮像装置Aは上述の処理を行いながら常時入力画像データをバッファメモリ109に蓄えている。さらに、上述の処理と並行して常時被写体の表情判定を行い、被写体の笑顔が検出されたら撮像トリガをスイッチ110に出力する。これにより、被写体の笑顔を捉えた画像データがエンコード部111に送られて、最終的に記録部112に保存される。
【0062】
記録された画像は撮像装置A、B間で送受信して、撮像装置A、Bそれぞれの記録部112に関連付けて保存するとよい。これにより、画像の検索、画像の加工などにおける利便性を高めることができる。ただし、記録された画像を撮像装置間で送受信せず、撮像装置Aで撮像した画像は撮像装置Aに、撮像装置Bで撮像した画像は撮像装置Bに保存するようにしてもよい。なお、説明はパン方向の動きを想定して行ったが、チルト方向についても同様にして行うことができる。
【0063】
[1−4.構図決定の具体例]
図6および図7は構図の決定の具体例をそれぞれ示すものである。まず、図6に示す例について説明する。まず、図6Aの状態は、撮像装置Aは被写体Aを自動追尾して撮像している。また、撮像装置Bは被写体Aとは異なる被写体Bを検出し、被写体Bと被写体Aとが「接近している状態」と判定したため被写体Bを追尾対象として決定し、メタデータBを撮像装置Aに送信した状態である。すなわち、撮像装置Aにおいては、ステップS111乃至ステップS114までが行われ、撮像装置BにおいてはステップS121乃至ステップS128までが行われた状態である。そして、被写体Bは被写体Aにさらに接近しようとしている。
【0064】
そして、撮像装置Aは、例えば動き予測により被写体Bが撮像範囲A内に「入りそう」か否かを判定する。図6Bでは、破線で示す被写体Bの予測される位置が撮像範囲A内に入っているため、撮像装置Aは被写体Bが撮像範囲A内に「入りそう」であると判定する。「入りそう」であると判定した場合、撮像装置Aは画像解析部114により被写体Aの現在位置を把握し、さらにメタデータBから被写体Bの予測位置を把握し、被写体Aおよび被写体Bが適切に撮像範囲A内に収まるように構図を決定して保持しておく。そして、図6Cに示すように被写体Bが撮像範囲A内に入ってきたら、図6Dに示すようにパン・チルト制御を行い、決定した構図反映させる。
【0065】
図6の例では、構図の変更をパン・チルト制御により行う例を示したが、構図の変更はそれだけに限られない。図7はその他の方法により構図を変更する例を示すものである。図7Aでは、被写体Aよりも被写体Bが撮像装置Aに近い場所に位置しており、そのままの構図では被写体Bを撮像装置Aの撮像範囲A内に納めることができない。そこで、被写体Bが撮像範囲A内に収まるようにズーム倍率を変更して撮像範囲Aを広くすることにより構図の調整を行っている。
【0066】
図7Bは、被写体Aよりも後方に複数の被写体(その複数の被写体を総称して被写体Bとする)が存在している場合である。この場合、まず、駆動部200のパン・チルト制御を行って被写体Aを構図の手前に入れつつ、被写体Aと被写体Bとが撮像範囲A内に収まるように構図を調整する。さらに、被写体Aまたは被写体Bにピントを合わせる。
【0067】
以上のような構図の決定および反映によって、撮像範囲A内に被写体Bの一部が入った状態(被写体Bの顔が切れている状態など)で撮像がなされてしまうことを防止することができる。また、被写体Bにフォーカスが合っていない状態で撮像がなされてしまうことなども防止することができる。すなわち、常に被写体Aおよび被写体Bを適切な状態で撮像することが可能となる。
【0068】
なお、図6および図7の例では、撮像装置Aの撮像範囲Aのみを図示しているが、撮像装置Bは撮像装置Aが撮像処理を行っている間、同様に追尾対象である被写体Bを継続して追尾し所定のアルゴリズムに従って撮像していてもよい。また、撮像装置Bの撮像範囲Bを撮像装置Aに一致させるようにしてもよい。
【0069】
[1―5.応用例]
次に、第1の実施の形態の応用例について説明する。図8A、図8Bは共に、被写体Aは同じ位置に留まっており、被写体Bが被写体Aに向けて移動している場合を示すものである。図8Aは被写体Bの移動速度が速い例を示すものであり、図8Bは被写体Bの移動速度が遅い例を示すものである。この応用例では、被写体Bの動きに合わせて撮像範囲Aの調整を行うことによって、被写体Aおよび被写体Bを常に撮像装置Aの撮像範囲A内に収めながら、被写体Bが被写体Aに徐々に近づいてゆく過程を逃さず捉えることができる。
【0070】
この応用例を行うには、まず、被写体Aと被写体Bとが「接近している状態」になる予測時刻(以下、接近予測時刻と称する。)を算出する。接近予測時刻は、例えば、被写体Bの移動速度とフレーム間の経過時間とから被写体Bの予測位置を算出し、被写体Aの位置と被写体Bの予測位置間の距離が所定の閾値以下になる時刻として求めることができる。ここで、所定の閾値は被写体Aと被写体Bとが接近したか否かの基準となるものであり、デフォルトとして設定しておいてもよいし、ユーザが任意に設定できるようにしてもよい。
【0071】
そして、その接近予測時刻よりも前の各時刻(例えば2秒前の時刻および1秒前の時刻)における被写体Bの位置を予測する。接近予測時刻前の各時刻における位置の予測は例えば、接近予測時刻が現在時刻から5秒後であり、接近予測時刻の2秒前の位置を予測しようとする場合には、その差である現在時刻から3秒後の被写体Bの位置を予測する。これにより図8に示すように接近予測時刻から2秒前の被写体Bの位置を予測することができる。そして、現在時刻から3秒後の被写体Bと被写体Aとが撮像範囲A内に収まるように構図を決定する。同様にして接近予測時刻の1秒前の被写体Bの位置も予測して構図を決定することができる。
【0072】
また、まず、被写体Aの位置と被写体Bの予測位置間の距離が所定の閾値以下になる接近予測時刻を求める。次に、現在時刻から接近予測時刻までの間において所定の時間間隔をあけて(例えば、1秒間隔)で、それぞれの時点における被写体Bの位置を予測し、そのそれぞれの時点における被写体Bの位置に合わせて構図を決定して保持しておく。そして、各時点において保持していた構図を反映させて撮像を行うようにしてもよい。
【0073】
接近予測時刻前のいつの時点で撮像を行うかのポイントはデフォルトとして設定しておいてもよいし、ユーザが任意に設定できるようにしてもよい。撮像ポイントの個数を増やすことにより、被写体Bが被写体Aに接近する様子をより詳細に撮像することができる。
【0074】
<2.第2の実施の形態>
以下、この発明の第2の実施の形態について図9乃至図11を参照して説明を行う。なお、撮像システム1、撮像装置Aおよび撮像装置Bの構成は第1の実施の形態と同様であるため、その説明を省略する。
【0075】
[2−1.撮像システムの動作]
なお、第2の実施の形態においては、前提として、撮像装置Aはあらかじめ設定された被写体Aを自動追尾しており、所定のアルゴリズムに従い撮像を行うものとする。また、撮像装置Bもあらかじめ設定された被写体B(被写体Aとは異なる。)を自動追尾しており、所定のアルゴリズムに従い撮像を行うものとする。所定のアルゴリズムは、第1の実施の形態で説明したのと同様に、追尾対象としている被写体の笑顔を検出したときに撮影を行う、一定の時間間隔を空けて定期的に撮像を行う、同一被写体は10秒以上間隔を空けて撮像する、一回の撮像ごとにズーム倍率を変更して撮像を行う、などである。
【0076】
撮像処理を開始すると、撮像装置Aはまず、ステップS211であらかじめ設定された被写体である被写体Aの自動追尾を開始する。また、同時に所定のアルゴリズムに従い被写体Aの撮像も開始する。次に、ステップS212で撮像装置Aは被写体AについてのメタデータAの生成を行う。そして、撮像装置AはステップS213でそのメタデータAを撮像装置Bに送信する。
【0077】
一方、撮像装置Bは、ステップS221であらかじめ設定された被写体である被写体Bの自動追尾を開始する。また、同時に所定のアルゴリズムに従い被写体Bの撮像も開始する。次に、ステップS222で被写体BについてのメタデータBの生成を行う。そして、撮像装置BはステップS223でそのメタデータBを撮像装置Aに送信する。
【0078】
そして、撮像装置AはステップS214で撮像装置Bから送信されたメタデータBを受信する。また、同様に撮像装置BはステップS224で撮像装置Aから送信されたメタデータAを受信する。
【0079】
次に撮像装置AはステップS215で、接近判定部117により被写体Aと被写体Bとが「接近している状態」であるか否かの判定を行う。「接近している状態」か否かの判定は第1の実施の形態と同様にして行う。そして、「接近している状態」ではないと判定した場合、処理はステップS212に戻る(ステップS215のNo)。そして、「接近している状態」であると判定するまで、ステップS212乃至ステップS215を繰り返して、被写体Aの追尾を行いながらメタデータAの生成および送信、撮像装置BからのメタデータBの受信を行う。
【0080】
一方、被写体Aと被写体Bとが「接近している状態」であると判定した場合、処理はステップS216に進む(ステップS215のYes)。そして、ステップS216で撮像装置Aはズーム倍率をあらかじめ設定してあるズーム倍率(設定ズーム倍率と称する。)に一致させることにより、撮像範囲のサイズの調整(構図の調整)を行う。設定ズーム倍率は、被写体間の距離、パン方向回転角度の差分、すなわち「接近している状態」か否かの判定に用いる情報に対応させてあらかじめ設定されて記録部112などに保持されているものとする。言い換えると、それらの情報に基づいて構図が決定される。ただし、ズーム倍率の調整は、撮像装置同士がお互いのメタデータに含まれるズーム倍率を参照してどちらか一方の撮像装置のその時点におけるズーム倍率に合わせるように調整してもよい。
【0081】
撮像装置Bも同様に、ステップS225で被写体Bと被写体Aとが「接近している状態」か否かの判定を行う。そして、「接近している状態」ではないと判定した場合、処理はステップS222に戻る(ステップS225のNo)。そして、「接近している状態」と判定するまで、ステップS222乃至ステップS225を繰り返して、被写体Bの追尾を行いながらメタデータBの生成および送信、撮像装置AからのメタデータAの受信を行う。なお、撮像装置AにおけるステップS215の判定、および、撮像装置BにおけるステップS225の判定が特許請求の範囲における第1の接近判定に相当する。
【0082】
一方、「接近している状態」と判定した場合、処理はステップS226に進み(ステップS225のYes)、ズーム倍率を設定ズーム倍率に一致させて撮像範囲Bのサイズの調整(構図の調整)を行う。設定ズーム倍率は撮像装置Aおよび撮像装置B共通のものとする。よって、撮像装置AのステップS216、撮像装置BのステップS226によって撮像装置A、撮像装置Bのズーム倍率は同一となり、撮像範囲Aと撮像範囲Bのサイズは同一となる。
【0083】
次に、撮像装置AはステップS217で、被写体Aと被写体Bとが「さらに接近した」か否かを判定する。「さらに接近した」か否かは、上述のステップS215と同様にして行うことができる。ただし、ステップS217はステップS215の状態に比べて「さらに接近した」か否かを判定するものである。したがって、「さらに接近した」かを判定するために顔位置間の距離と比較する閾値、またはパン方向回転角度の差分と比較する閾値はステップS215における判定に用いる閾値よりも小さい値とする。
【0084】
撮像装置AはステップS217で、「さらに接近した」とは判定しなかった場合、処理はステップS212に戻り、「さらに接近した」と判定するまで、ステップS212乃至ステップS217を繰り返す(ステップS217のNo)。一方、「さらに接近した」と判定した場合処理はステップS218に進む(ステップS217のYes)。そして、ステップS218で撮像装置Aの撮像トリガ生成部120は撮像トリガを生成してスイッチ110に出力する。これによりバッファメモリ109に蓄えられていた画像データがエンコード部11を介して記録部112に送られて画像の記録が行われる。
【0085】
撮像装置Bも同様に、ステップS227で、被写体Bと被写体Aとが「さらに接近した」か否かを判定する。「さらに接近した」とは判定しなかった場合、処理はステップS222に戻り、「さらに接近した」と判定するまで、ステップS222乃至ステップS227を繰り返す(ステップS227のNo)。一方、「さらに接近した」と判定した場合処理はステップS228に進み、(ステップS227のYes)、撮像トリガを生成してスイッチ110に出力する。これにより画像の記録が行われる。なお、撮像装置AにおけるステップS217の判定、および、撮像装置BにおけるステップS227の判定が特許請求の範囲における第2の接近判定に相当する。
【0086】
なお、上述のように撮像装置A、撮像装置Bが別々に撮像トリガを生成するのではなく、例えば、撮像装置Aは生成した撮像トリガを撮像装置Bに送信し、撮像装置Bはその受信した撮像トリガに基づき画像の記録を行ってもよい。これによっても、2台の撮像装置で同時に画像の記録を行うことができる。
【0087】
撮像装置A、撮像装置Bは上述の処理を繰り返しながら撮像を行う。そして、被写体が離れていき、ステップS217(ステップS227)で被写体が「さらに接近した」と判定しなかった場合、撮像トリガの生成を行わない。さらにステップS215(ステップS225)で被写体が「接近した」と判定しなかった場合はステップS216(ステップS226)におけるズーム倍率の調整は行わず、撮像装置A、撮像装置Bは、所定のアルゴリズムにしたがって各々の被写体を自動追尾し撮像を行う状態に戻る。なお、説明はパン方向の動きを想定して行ったが、チルト方向についても同様にして行うことができる。
【0088】
第2の実施の形態においても第1の実施の形態と同様に、記録された画像を撮像装置A、B間で送受信し、それらを関連付けられて保存してもよいし、送受信は行わず、各々が保存してもよい。
【0089】
上述の第2の実施の形態における撮像処理について図10を参照して具体例で説明する。図10Aでは、撮像装置Aは被写体Aを追尾しており、撮像装置Bは被写体Bを追尾している。そして、被写体A、被写体Bは互いの方向に進んで接近しようとしている。なお、この時点で、撮像装置Aと撮像装置Bのズーム倍率は異なっており、撮像範囲のサイズも異なっている。そして、図10Bに示すように被写体Aと被写体Bが移動し、「接近した」と判定すると、図10Cに示すように、撮像装置A、撮像装置Bはズーム倍率を調整して、撮像範囲のサイズを一致させる。そして、この状態で引き続きそれぞれ被写体の追尾を続ける。そして、図10Dに示すように被写体が近づき、「さらに接近した」と判定した場合、撮像装置Aおよび撮像装置Bは被写体の画像の記録を行う。
【0090】
第2の実施の形態においては被写体が接近したか否か、すなわち、被写体間の距離に応じて撮像が行われる。よって、「さらに接近した」か否かの判定の際に用いられる閾値を調整することにより、被写体がどのくらい接近したら撮像を行うかの調整を行うことができ、ユーザの嗜好に合わせた撮像が可能となる。
【0091】
[2−2.応用例]
次に、図11を参照して第2の実施の形態の応用例について説明する。図11は応用例において撮像装置で行われる処理を示すフローチャートである。図11のフローチャートは撮像装置Aが行う処理についてのものである。撮像装置Bも撮像装置Aと同様の処理を行うため、撮像装置Bについてのフローチャートは省略する。この応用例は、第2の実施の形態におけるステップS216およびステップS226のズーム倍率の調整は行わず、被写体の接近の度合いに応じて撮像の頻度のみを変更する、というものである。
【0092】
撮像処理を開始すると、撮像装置Aはまず、ステップS311乃至ステップS314を実行し、被写体Aの追尾を開始し、メタデータAの生成と送信、さらに撮像装置BからのメタデータBの受信を行う。このステップS311乃至ステップS314は第2の実施の形態と同様であるため、詳細な説明は省略する。
【0093】
次にステップS315で、被写体Aと被写体Bとが第3の接近状態であるか否かを判定する。判定の結果、第3の接近状態である場合には、処理はステップS316に進み(ステップS315のYes)、第3の接近状態に対応して設定してある頻度で撮像トリガを生成して出力する。一方、被写体Aと被写体Bとが第3の接近状態ではない場合には、処理はステップS317に進み、被写体Aと被写体Bとが第4の接近状態である否かを判定する。判定の結果、第4の接近状態であると判定した場合には、処理はステップS318に進み(ステップS317のYes)、第4の接近状態に対応して設定してある頻度で撮像トリガを生成して出力する。被写体間の距離が第3の接近状態、第4の接近状態のいずれでもない場合には(ステップS315、317のいずれもNo)処理はステップS312に戻る。
【0094】
被写体Aと被写体Bとが第3の接近状態にあるか、第4の接近状態にあるかの判定は、上述の「接近している」か否かの判定と同様に行うことができる。なお、この応用例において、第3の接近状態、第4の接近状態と称しているのは、第2の実施の形態における第1の接近判定、第2の接近判定との混同を避けるためである。
【0095】
この応用例は、上述のように、被写体の接近の度合いに応じて撮像の頻度を変更するものである。よって、例えば、第3の接近状態に対応する閾値よりも第4の接近状態に対応する閾値を小さく設定し、さらに、第3の接近状態に応じた頻度よりも第4の接近状態に応じた頻度を高く設定すれば、被写体が接近していくにつれて撮像頻度を上げていく、ということが可能となる。なお、図11のフローチャートにおいては、接近状態は2段階であるものとして説明を行ったが、それは一例に過ぎず、より多くの段階を設定して、その段階に応じて撮像トリガ生成頻度を設定することも可能である。
【0096】
<3.変形例>
以上、この発明の一実施の形態について具体的に説明したが、この発明は、上述の実施形態に限定されるものではなく、この発明の技術的思想に基づく各種の変形が可能である。第1および第2の実施の形態においては撮像装置は2つである場合を想定して説明を行ったが、撮像装置の数は2つに限られず、それ以上でもよい。また、被写体が接近した場合に構図の決定、撮像トリガの生成が行われる場合を想定して説明を行ったが、逆に被写体Aと被写体Bとが離れていく場合に構図を決定し、撮像トリガを生成してもよい。
【0097】
例えば、撮像装置A、撮像装置B、撮像装置Cの合計を3つの撮像装置を用いて2つの被写体A、被写体Bを撮像することもできる。この場合、撮像装置Aは被写体Aを自動追尾し、所定のアルゴリズムに従い撮像を行い、メタデータAを撮像装置Cに送信する。また、撮像装置Bは被写体Bを自動追尾し、所定のアルゴリズムに従い撮像を行い、メタデータBを撮像装置Cに送信する。そして、撮像装置CはメタデータAおよびメタデータBに基づいて、撮像範囲C内に被写体Aおよび被写体Bが常に収まるようにズーム制御、パン・チルト制御を行いながら撮像を行う。この場合、いずれかの撮像装置が撮像トリガを生成したら、その撮像トリガを他の撮像装置に送信し、他の撮像装置はその受信した撮像トリガに基づいて撮像を行うとよい。これにより、同じタイミングで、被写体Aの画像、被写体Bの画像、被写体Aと被写体Bとが収まった画像を記録することができる。
【0098】
また、上述の撮像装置の構成の説明においては、撮像装置は操作部と表示部を備えていない自動パン・チルトカメラとして説明を行った。しかし、撮像装置はそのようなものに限られず、操作部および表示部を備えるものであってもよい。操作部は、シャッタボタン、電源のオン/オフを切り換える電源キー、撮影条件の設定を切り換えるための撮影モード切り換えキー、画像再生のための再生キーなどの、ユーザによる入力の各種キーから構成されるものである。操作部は、これらキーの操作に対応する操作信号を生成し、後述する制御部113へ出力する。表示部は、例えば、LCD(Liquid Crystal Display)、有機EL(Electro luminescence)ディスプレイなどから構成される電子ビューファインダーである。信号処理部104から出力された画像データは表示部に供給されて映像として表示されることによりユーザに提供される。
【0099】
また、操作部、表示部は外部機器として構成し、撮像装置と接続することにより、撮像装置の操作、画像等の表示を行うようにしてもよい。
【0100】
また、撮像装置は共に撮像部100と駆動部200からなり、それらが一体に構成されたものとして説明を行ったが、それに限られず、撮像装置と駆動部200とを別々の構成としてもよい。例えば、駆動部200をParty-shot(ソニー株式会社の登録商標)のような撮像装置を載置する雲台として構成し、その雲台にデジタルスチルカメラを取り付けて自動追尾可能な撮像装置を構成してもよい。なお、その場合も上述した画像解析処理、動作制御処理、メタデータ生成処理、構図決定処理などの一連の処理はデジタルカメラ側で行う。そして、雲台はデジタルカメラによる動作制御に従いパン・チルト動作を行う。
【0101】
第1の実施の形態および第2の実施の形態では、撮像部100はデジタルスチルカメラとして構成され、静止画像を撮像する場合を例にして説明を行ったが、撮像部100としてデジタルビデオカメラを用いて動画撮影についてこの発明を適用することができる。
【0102】
この発明に係る撮像システム1は、例えば、結婚式等に用いることができる。この場合、撮像装置Aが新郎を追尾し、撮像装置Bが新婦を追尾し、新郎と新婦の撮像を常時別々に行いながら、二人が接近したシャッターチャンスにおいては、撮像装置A、撮像装置Bともに新郎新婦を適切な構図で撮像することが可能となる。さらに、撮像装置Cも用いて、撮像装置Cは常に新郎と新婦の両方が撮像範囲C内に収まるように撮像する、ということも可能である。このように、より多彩な写真撮影が可能となる。
【0103】
また、撮像システム1は、監視カメラシステムとして用いられてもよい。この場合、侵入者が複数いる場合であっても、それぞれの侵入者を捉えつつ、侵入者がひとつの場所に集まった場合にはその状況を複数のアングルで捉えることができる。これにより、侵入者の特徴等をより正確に認識することができる。
【符号の説明】
【0104】
1・・・・・撮像システム
100・・・撮像部
108・・・通信部
112・・・記録部
113・・・制御部
114・・・画像解析部
115・・・動作制御部
116・・・メタデータ生成部
117・・・接近判定部
118・・・動き予測部
119・・・構図決定部
120・・・撮像トリガ生成部
【特許請求の範囲】
【請求項1】
相互通信可能な複数の撮像装置からなり、複数の被写体を撮像する撮像システムにおいて、
前記複数の撮像装置に含まれる第1の撮像装置は、第1のメタデータを生成して前記複数の撮像装置に含まれる第2の撮像装置に送信し、
前記第2の撮像装置は、第2のメタデータを生成して前記第1の撮像装置に送信し、
前記第1の撮像装置および前記第2の撮像装置のうちいずれか一方または両方は、前記第1のメタデータおよび前記第2のメタデータに基づいて構図を決定する
撮像システム。
【請求項2】
前記第1の撮像装置は、前記複数の被写体に含まれる第1の被写体と前記複数の被写体に含まれる第2の被写体とが接近しているか否かを判定し、
前記第1の被写体と前記第2の被写体とが接近していると判定した場合に、前記第1の被写体と前記第2の被写体とが撮像範囲内に収まるように構図を決定する
請求項1に記載の撮像システム。
【請求項3】
前記第1の撮像装置は、パン・チルト動作可能な駆動部を備え、決定された前記構図に基づいて前記駆動部のパン・チルト動作を制御する
請求項2に記載の撮像システム。
【請求項4】
前記第1の撮像装置は、決定された前記構図に基づいてズーム倍率を調整する請求項2に記載の撮像システム。
【請求項5】
前記第1の撮像装置および第2の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記第1のメタデータは、前記第1の撮像装置の撮像範囲内における前記第1の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものであり、
前記第2のメタデータは、前記第2の撮像装置の撮像範囲内における前記第2の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものである
請求項1に記載の撮像システム。
【請求項6】
前記第1の撮像装置および/または前記第2の撮像装置は、前記複数の被写体に含まれる第1の被写体と前記複数の被写体に含まれる第2の被写体とが接近しているか否かを判定する第1の接近判定を行い、
該第1の接近判定により該第1の被写体と該第2の被写体とが接近していると判定した場合に、前記第1の撮像装置と前記第2の撮像装置の撮像範囲のサイズが一致するように構図を決定する
請求項1に記載の撮像システム。
【請求項7】
前記第1の撮像装置および/または前記第2の撮像装置は、前記第1の被写体と前記第2の被写体とが接近しているか否かを判定する第2の接近判定を行い、
該第2の接近判定により前記第1の被写体と前記第2の被写体とが接近していると判定した場合に、前記第1の被写体および前記第2の被写体の撮像を行う
請求項6に記載の撮像システム。
【請求項8】
前記第1の撮像装置および/または前記第2の撮像装置は、前記第1の被写体と前記第2の被写体間の距離に基づいて前記第1の接近判定および前記第2の接近判定を行い、
前記第2の接近判定は、前記第1の被写体と前記第2の被写体間の距離が、前記第1の接近判定において接近していると判定した場合における前記第1の被写体と前記第2の被写体間の距離よりも短い場合に前記第1の被写体と前記第2の被写体が接近していると判定する請求項7に記載の撮像システム。
【請求項9】
前記第1の撮像装置および第2の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記第1のメタデータは、前記第1の撮像装置の撮像範囲内における前記第1の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものであり、
前記第2のメタデータは、前記第2の撮像装置の撮像範囲内における前記第2の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものである
請求項6に記載の撮像システム。
【請求項10】
複数の撮像装置からなり、複数の被写体を撮像する撮像システムを構成する撮像装置において、
該撮像装置は、
メタデータを生成するメタデータ生成部と、
該メタデータ生成部により生成された前記メタデータを前記撮像システムを構成する他の撮像装置に送信し、さらに、該他の撮像装置が生成した他のメタデータを受信する通信部と、
前記メタデータおよび前記他のメタデータに基づいて撮像の構図を決定する構図決定部と
を備える撮像装置。
【請求項11】
前記撮像装置はさらに、
前記複数の被写体に含まれる第1の被写体と前記複数の被写体に含まれる第2の被写体とが接近しているか否かを判定する接近判定部を備え、
前記構図決定部は、該接近判定部により前記第1の被写体と前記第2の被写体とが接近していると判定された場合に前記第1の被写体と前記第2の被写体とが撮像範囲内に収まるように構図を決定する
請求項10に記載の撮像装置。
【請求項12】
前記撮像装置はさらに、
パン・チルト動作可能な駆動部を備え、決定された前記構図に基づいて前記駆動部のパン・チルト動作を制御する
請求項11に記載の撮像装置。
【請求項13】
前記撮像装置は、決定された前記構図に基づいてズーム倍率を調整する請求項11に記載の撮像装置。
【請求項14】
前記撮像装置はさらに、
前記複数の被写体に含まれる第1の被写体と第2の被写体とが接近しているか否かを判定する接近判定部と、
該接近判定部により前記第1の被写体と前記第2の被写体とが接近していると判定した場合に前記メタデータを前記他の撮像装置に送信する
請求項10に記載の撮像装置。
【請求項15】
前記撮像装置および前記他の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記メタデータは、前記撮像装置の撮像範囲内における前記第1の被写体の大きさおよび位置を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものであり、
前記他のメタデータは、前記他の撮像装置の撮像範囲内における前記第2の被写体の大きさおよび位置を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものである
請求項10または14に記載の撮像装置。
【請求項16】
前記撮像装置はさらに、
前記第1の被写体と前記第2の被写体とが接近しているか否かを判定する接近判定部を備え、
前記構図決定部は、該接近判定部により行われる第1の接近判定により該第1の被写体と該第2の被写体とが接近していると判定された場合に、前記撮像装置と前記他の撮像装置の撮像範囲のサイズが一致するように構図を決定する
請求項10に記載の撮像装置。
【請求項17】
前記接近判定部はさらに、
前記第1の被写体と前記第2の被写体とが接近しているか否かを判定する第2の接近判定を行い、
該第2の接近判定により前記第1の被写体と前記第2の被写体とが接近していると判定した場合に、前記第1の被写体および前記第2の被写体の撮像を行う
請求項16に記載の撮像装置。
【請求項18】
前記第1の接近判定および前記第2の接近判定は、前記第1の被写体と前記第2の被写体間の距離に基づいて前記第1の被写体と前記第2の被写体とが接近しているか否かの判定を行い、
前記第2の接近判定は、前記第1の被写体と前記第2の被写体間の距離が、前記第1の接近判定において接近していると判定した場合の前記第1の被写体と前記第2の被写体間の距離よりも短い場合に前記第1の被写体と前記第2の被写体が接近していると判定する請求項17に記載の撮像装置。
【請求項19】
前記撮像装置および前記他の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記メタデータは、前記撮像装置の撮像範囲内における前記第1の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報からなり、
前記他のメタデータは、前記他の撮像装置の撮像範囲内における前記第2の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報からなる
請求項16に記載の撮像装置。
【請求項1】
相互通信可能な複数の撮像装置からなり、複数の被写体を撮像する撮像システムにおいて、
前記複数の撮像装置に含まれる第1の撮像装置は、第1のメタデータを生成して前記複数の撮像装置に含まれる第2の撮像装置に送信し、
前記第2の撮像装置は、第2のメタデータを生成して前記第1の撮像装置に送信し、
前記第1の撮像装置および前記第2の撮像装置のうちいずれか一方または両方は、前記第1のメタデータおよび前記第2のメタデータに基づいて構図を決定する
撮像システム。
【請求項2】
前記第1の撮像装置は、前記複数の被写体に含まれる第1の被写体と前記複数の被写体に含まれる第2の被写体とが接近しているか否かを判定し、
前記第1の被写体と前記第2の被写体とが接近していると判定した場合に、前記第1の被写体と前記第2の被写体とが撮像範囲内に収まるように構図を決定する
請求項1に記載の撮像システム。
【請求項3】
前記第1の撮像装置は、パン・チルト動作可能な駆動部を備え、決定された前記構図に基づいて前記駆動部のパン・チルト動作を制御する
請求項2に記載の撮像システム。
【請求項4】
前記第1の撮像装置は、決定された前記構図に基づいてズーム倍率を調整する請求項2に記載の撮像システム。
【請求項5】
前記第1の撮像装置および第2の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記第1のメタデータは、前記第1の撮像装置の撮像範囲内における前記第1の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものであり、
前記第2のメタデータは、前記第2の撮像装置の撮像範囲内における前記第2の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものである
請求項1に記載の撮像システム。
【請求項6】
前記第1の撮像装置および/または前記第2の撮像装置は、前記複数の被写体に含まれる第1の被写体と前記複数の被写体に含まれる第2の被写体とが接近しているか否かを判定する第1の接近判定を行い、
該第1の接近判定により該第1の被写体と該第2の被写体とが接近していると判定した場合に、前記第1の撮像装置と前記第2の撮像装置の撮像範囲のサイズが一致するように構図を決定する
請求項1に記載の撮像システム。
【請求項7】
前記第1の撮像装置および/または前記第2の撮像装置は、前記第1の被写体と前記第2の被写体とが接近しているか否かを判定する第2の接近判定を行い、
該第2の接近判定により前記第1の被写体と前記第2の被写体とが接近していると判定した場合に、前記第1の被写体および前記第2の被写体の撮像を行う
請求項6に記載の撮像システム。
【請求項8】
前記第1の撮像装置および/または前記第2の撮像装置は、前記第1の被写体と前記第2の被写体間の距離に基づいて前記第1の接近判定および前記第2の接近判定を行い、
前記第2の接近判定は、前記第1の被写体と前記第2の被写体間の距離が、前記第1の接近判定において接近していると判定した場合における前記第1の被写体と前記第2の被写体間の距離よりも短い場合に前記第1の被写体と前記第2の被写体が接近していると判定する請求項7に記載の撮像システム。
【請求項9】
前記第1の撮像装置および第2の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記第1のメタデータは、前記第1の撮像装置の撮像範囲内における前記第1の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものであり、
前記第2のメタデータは、前記第2の撮像装置の撮像範囲内における前記第2の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものである
請求項6に記載の撮像システム。
【請求項10】
複数の撮像装置からなり、複数の被写体を撮像する撮像システムを構成する撮像装置において、
該撮像装置は、
メタデータを生成するメタデータ生成部と、
該メタデータ生成部により生成された前記メタデータを前記撮像システムを構成する他の撮像装置に送信し、さらに、該他の撮像装置が生成した他のメタデータを受信する通信部と、
前記メタデータおよび前記他のメタデータに基づいて撮像の構図を決定する構図決定部と
を備える撮像装置。
【請求項11】
前記撮像装置はさらに、
前記複数の被写体に含まれる第1の被写体と前記複数の被写体に含まれる第2の被写体とが接近しているか否かを判定する接近判定部を備え、
前記構図決定部は、該接近判定部により前記第1の被写体と前記第2の被写体とが接近していると判定された場合に前記第1の被写体と前記第2の被写体とが撮像範囲内に収まるように構図を決定する
請求項10に記載の撮像装置。
【請求項12】
前記撮像装置はさらに、
パン・チルト動作可能な駆動部を備え、決定された前記構図に基づいて前記駆動部のパン・チルト動作を制御する
請求項11に記載の撮像装置。
【請求項13】
前記撮像装置は、決定された前記構図に基づいてズーム倍率を調整する請求項11に記載の撮像装置。
【請求項14】
前記撮像装置はさらに、
前記複数の被写体に含まれる第1の被写体と第2の被写体とが接近しているか否かを判定する接近判定部と、
該接近判定部により前記第1の被写体と前記第2の被写体とが接近していると判定した場合に前記メタデータを前記他の撮像装置に送信する
請求項10に記載の撮像装置。
【請求項15】
前記撮像装置および前記他の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記メタデータは、前記撮像装置の撮像範囲内における前記第1の被写体の大きさおよび位置を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものであり、
前記他のメタデータは、前記他の撮像装置の撮像範囲内における前記第2の被写体の大きさおよび位置を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報を含むものである
請求項10または14に記載の撮像装置。
【請求項16】
前記撮像装置はさらに、
前記第1の被写体と前記第2の被写体とが接近しているか否かを判定する接近判定部を備え、
前記構図決定部は、該接近判定部により行われる第1の接近判定により該第1の被写体と該第2の被写体とが接近していると判定された場合に、前記撮像装置と前記他の撮像装置の撮像範囲のサイズが一致するように構図を決定する
請求項10に記載の撮像装置。
【請求項17】
前記接近判定部はさらに、
前記第1の被写体と前記第2の被写体とが接近しているか否かを判定する第2の接近判定を行い、
該第2の接近判定により前記第1の被写体と前記第2の被写体とが接近していると判定した場合に、前記第1の被写体および前記第2の被写体の撮像を行う
請求項16に記載の撮像装置。
【請求項18】
前記第1の接近判定および前記第2の接近判定は、前記第1の被写体と前記第2の被写体間の距離に基づいて前記第1の被写体と前記第2の被写体とが接近しているか否かの判定を行い、
前記第2の接近判定は、前記第1の被写体と前記第2の被写体間の距離が、前記第1の接近判定において接近していると判定した場合の前記第1の被写体と前記第2の被写体間の距離よりも短い場合に前記第1の被写体と前記第2の被写体が接近していると判定する請求項17に記載の撮像装置。
【請求項19】
前記撮像装置および前記他の撮像装置は、パン・チルト動作可能な駆動部を備え、
前記メタデータは、前記撮像装置の撮像範囲内における前記第1の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報からなり、
前記他のメタデータは、前記他の撮像装置の撮像範囲内における前記第2の被写体の大きさ、位置および移動速度を示す被写体情報、ズーム倍率を示すズーム情報、前記駆動部のパン・チルト動作におけるパン・チルト回転角度を示すパン・チルト情報からなる
請求項16に記載の撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2011−211598(P2011−211598A)
【公開日】平成23年10月20日(2011.10.20)
【国際特許分類】
【出願番号】特願2010−78674(P2010−78674)
【出願日】平成22年3月30日(2010.3.30)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成23年10月20日(2011.10.20)
【国際特許分類】
【出願日】平成22年3月30日(2010.3.30)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]