撮像装置及びプログラム
【課題】撮影時に撮像データそのものではなく、撮像の上手さを示す情報のみを共有することで、撮像時の共有に係る各種処理の負担及び記録容量の圧迫を低減することができる撮像装置を提供する。
【解決手段】撮像装置1は、撮像部100、上手さ情報算出部405、及び送信部308を備える。撮像部100は、被写体を撮像し撮像画像を取得する。上手さ情報算出部405は、前記撮像部100が取得した前記撮像画像について、撮像の上手さに関する情報を算出する。送信部308は、前記上手さ情報算出部405が算出した上手さ情報を外部機器に送信する
【解決手段】撮像装置1は、撮像部100、上手さ情報算出部405、及び送信部308を備える。撮像部100は、被写体を撮像し撮像画像を取得する。上手さ情報算出部405は、前記撮像部100が取得した前記撮像画像について、撮像の上手さに関する情報を算出する。送信部308は、前記上手さ情報算出部405が算出した上手さ情報を外部機器に送信する
【発明の詳細な説明】
【技術分野】
【0001】
本発明は撮像装置及びプログラムに関し、より詳細には、撮像された撮像データから撮像の上手さを示す情報を算出し、その情報を外部機器と共有することができる撮像装置及びプログラムに関する。
【背景技術】
【0002】
近年、通信技術の発達及びデジタルカメラ等の普及により、あるユーザがデジタルカメラ等で撮像した撮像データが、ネットワーク通信を通じて他のユーザのPC(Personal Computer)やデジタルカメラ等に転送され、複数のユーザ間で共有されるということが一般化している。例えば、IEEE802.11規格に準拠した無線通信によるネットワーク機能を搭載したデジタルカメラ等により、複数のユーザが、同一の風景、例えば結婚式の風景等を撮像し、その場で各ユーザが互いの撮像データを共有するというようなことも一般的に行われるようになってきている。
【0003】
このように撮像データの共有が手軽に行える環境が整ってくると、次にデータの共有そのものをより効率的に行いたい、又は共有された複数の撮像データを簡便にダビング等で編集したいとの要請が出てくる。この要請に答える技術として、例えば以下のようなものがある。
【0004】
特許文献1には、外部装置から撮像データの送信要求を受信し、その送信要求を受信した日時を示す時間情報、又は送信要求の中で別途特定された時間情報を抽出し、抽出されたこれらの時間情報に対応付けられた撮像データを要求元となる外部装置に送信するカメラに関する技術が開示されている。このカメラによれば、送信要求時に近いタイミングで撮像された画像データを自動的に選択して送信することができるため、ユーザは撮像データを効率よく共有することができる。
【0005】
特許文献2には、複数のカメラで同一の風景を撮像する際に、各カメラの記録の開始と終了を示す情報からなる記録状況インデックスを生成し、この記録状況インデックスから多くのカメラが撮像していた重要シーンを特定し、自動抽出する映像編集システムに関する技術が開示されている。この映像編集システムによれば、共有された複数の撮像データの中から自動的に重要なシーンを抽出し、簡便なダビング編集を行うことができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2009−171491号公報
【特許文献2】特開2010−199816号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、ネットワークを介して共有される撮像データが動画像データであった場合、当然、そのデータ量は静止画像データに比べ極めて大きなものとなる。従って、動画像データの送受信に必要な演算処理等は装置に大きな負担をかけるとともに、送受信の処理に一定時間を要する。また、送受信される動画像データを記録する記録媒体の容量も圧迫することになる。
【0008】
ここで、上記特許文献1に記載の技術では、共有する撮像データを時間情報から選別してはいるが、撮像データそのものを送受信している。従って、同一風景を動画像で撮像した複数のユーザが、各人の動画像データを各人で共有する場合は、そのデータの送受信に一定時間を要し、カメラ側の処理負担も大きくなり、手軽に共有ができないという問題が生じることが推察される。また共有されたデータが各人のカメラの記録媒体の容量を圧迫し、共有後の新たな撮像データの取得が制限されるという問題が生じることが推察される。
また、時間情報で選別されているとはいえ、ユーザは、ダビング編集時に各撮像データの内容を一旦再生して確認した上で、必要なシーン等を選別し編集しなければならない。
【0009】
また、特許文献2に記載の技術では、撮像データそのものを全て共有していることから、上記特許文献1の問題と同様に、撮像データの送受信に一定時間を要するという問題、処理負担が大きくなるという問題、及び各人のカメラやサーバ装置の記録媒体の容量が圧迫されるという問題が推察される。
そして、ダビング編集の際に重要なシーンが自動抽出されるが、この重要なシーンは同時刻に記録を行ったユーザの数が多いことにより特定されている。従って、一部のユーザのみが記録した貴重なシーンや、他のユーザにとっては重要ではないが、ある特定のユーザにとっては重要なシーン等がある場合に、それらのシーンを求めるユーザは、各撮像データの内容を一旦再生し確認した上で、それらを特定しなければならない。また自動抽出されたシーンが手ぶれ等のない、上手く撮像された撮像データであるとも限らないという問題も推察される。
【0010】
本発明はこのような問題に鑑みてなされたものであり、複数のユーザが撮像した動画像データを共有する場合に、撮影時に撮像データそのものではなく、撮像の上手さを示す情報のみを共有することで、撮像時の共有に係る各種処理の負担及び記録容量の圧迫を低減することができる撮像装置及びプログラムを提供することを目的とする。
【0011】
また、本発明は、ユーザ自らが撮像した撮像データに、他のユーザが撮像した撮像データから算出した撮像の上手さを示す情報を関連付けて記録することで、その他のユーザが撮像した撮像データから必要なシーンのみをより簡便に特定することができる撮像装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明は、上述した課題を解決するため、被写体を撮像し撮像画像を取得する撮像部(100)と、前記撮像部(100)が取得した前記撮像画像について、撮像の上手さに関する情報を算出する上手さ情報算出部(405)と、前記上手さ情報算出部が算出した上手さ情報を外部機器に送信する送信部(308)とを備えることを特徴とする撮像装置(1)を提供する。
【0013】
上記の構成において、上記撮像装置(1)は、受信部(309)及び記録部(206又は302)をさらに備え、前記受信部(309)は外部機器が撮像した撮像画像についての撮像の上手さ情報を受信し、前記記録部(206又は302)は、上記撮像部(100)が取得した撮像画像、上記上手さ情報算出部(405)が算出した撮像の上手さに関する情報、及び前記受信部(309)が受信した撮像の上手さに関する情報を関連付けて記録するようにしてもよい。
【0014】
上記の構成において、上記撮像装置(1)は、出力部(303)をさらに備え、前記出力部(303)は、上記記録部(206又は302)が記録した、上記上手さ情報算出部(405)が算出した撮像の上手さに関する情報及び上記受信部(309)が受信した撮像の上手さに関する情報を、比較可能な態様で視覚化して表示するための出力を行うようにしてもよい。
【0015】
上記の構成において、上記撮像の上手さに関する情報は、上記撮像部(100)の撮像情報又は上記撮像部(100)が取得した撮像画像の被写体情報の少なくともいずれかからなるようにしてもよい。
【0016】
上記の構成において、上記撮像装置(1)は、手ぶれ補正部(404)をさらに備え、上記撮像情報は、上記撮像部(100)のズーム倍率、上記撮像部(100)のパンの大きさ、上記撮像部(100)のチルトの大きさ、上記撮像部(100)が取得した前記撮像画像のホワイトバランス、又は前記手ぶれ補正部(404)が行う手ぶれ補正の大きさの少なくとも何れか一つに関する情報に基づくようにしてもよい。
【0017】
上記の構成において、上記撮像装置(1)は、顔検出部(402)をさらに備え、前記被写体情報は、前記顔検出部(402)による前記撮像画像からの顔検出の結果に基づくものであるようにしてもよい。
【0018】
また、本発明は、撮像部(100)が撮像した被写体の撮像画像について、その撮像の上手さに関する情報を算出する処理と、前記撮像の上手さに関する情報を外部機器に送信する処理とをコンピュータに実行させるプログラムを提供する。
【0019】
上記の構成において、上記プログラムは、さらに外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理と、前記撮像部が撮像した撮像画像、前記上手さ情報を算出する処理で算出された撮像の上手さに関する情報、及び前記外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理する処理で受信した撮像の上手さに関する情報とを関連付けて記録する処理とさらに実行させるようにしてもよい。
【発明の効果】
【0020】
本発明に係る撮像装置及びプログラムによれば、複数のユーザが撮像した動画像データを共有する場合に、撮像データではなく、撮像の上手さを示す情報のみを共有することで、撮像時の共有に係る各種処理の負担及び記録容量の圧迫を低減することができる。
【0021】
また、本発明に係る撮像装置及びプログラムによれば、ユーザ自らが撮像した撮像データに、他のユーザが撮像した撮像データから算出した撮像の上手さを示す情報を関連付けて記録することで、その他のユーザが撮像した撮像データから必要なシーンのみをより簡便に特定することができる。
【図面の簡単な説明】
【0022】
【図1】本発明の実施形態に係る撮像装置(デジタルビデオカメラ)1の内部構成の例を示すブロック図である。
【図2】本実施形態に係る撮像装置1を含む無線通信ネットワークシステムの構成例を示す図である。
【図3】撮像装置1が上手さ情報を算出する処理を説明するためのフローチャートである。
【図4】顔画像データのサイズの算出について説明するための図である。
【図5】上手さ情報について説明するための図である。
【図6】複数の撮像装置間がそれぞれ算出した上手さ情報を互いに共有する処理について説明するためのフローチャートである。
【図7】グループ化の対象とした全機器が撮像を開始する前にグループ化する場合の例について説明するための図である。
【図8】撮像装置1が撮像を開始し撮像中であった場合に、撮像装置2とグループ化する例について説明するための図である。
【図9】撮像装置1及び撮像装置2が撮像を開始し撮像中であった場合に、撮像装置3とグループ化する例について説明するための図である。
【図10】撮像装置2が撮像装置1とのグループ化を解除した場合の例について説明するための図である。
【図11】撮像装置1が撮像装置2及び撮像装置3とのグループ化を解除した場合の例について説明するための図である。
【図12】グループ化した全機器のグループ化を同時に解除する場合について説明するための図である。
【図13】共有された上手さ情報の視覚化表示の例を説明するための図である。
【発明を実施するための形態】
【0023】
以下に図面を参照しながら、本発明に係る撮像装置及びプログラムの好適な実施形態を説明する。かかる実施形態に示す具体的な数値等は、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0024】
図1は、本発明の実施形態に係る撮像装置(デジタルビデオカメラ)1の内部構成の例を示すブロック図である。撮像装置1は動画像及び静止画像を撮像することができる。
なお、本発明は、動画像を撮像できるものであれば、いわゆるコンパクトデジタルカメラ等のデジタルスチルカメラをはじめ、携帯電話、PHS(Personal Handyphone System)、PDA(Personal Digital Assistant)等、その他の電子機器においても採用することができる。
【0025】
中央制御部400はCPU、各種プログラムが格納されたROM、及びワークエリアとしてのRAM等を含む半導体集積回路により構成され、撮像、各種画像の表示、及び記録、並びに後述する撮像の上手さを示す情報の算出、当該情報の他の機器との共有と記録等の撮像装置1全体の処理を統括的に制御する。
【0026】
撮像装置1は、ズームレンズ101、フォーカスレンズ102、絞り103、及び撮像素子104で構成される撮像部100を有する。ズームレンズ101は図示しないズームアクチュエータによって光軸LAに沿って移動する。同様に、フォーカスレンズ102は、図示しないフォーカスアクチュエータによって光軸LAに沿って移動する。絞り103は、図示しない絞りアクチュエータに駆動されて動作する。撮像素子104は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等で構成される。
【0027】
撮像装置1を用いた撮像は以下の手順で行われる。撮像素子104はズームレンズ101、フォーカスレンズ102、及び絞り103を通過した光を光電変換して、被写体のアナログ画像信号を生成する。
アナログ画像信号処理部105が、このアナログ画像信号を増幅した後、画像A/D変換部106が、その増幅された信号をデジタル画像データに変換する。画像入力コントローラ107は、画像A/D変換部106から出力されたデジタル画像データを撮像データとして取り込んで、バス200を介してメインメモリ206に格納する。
【0028】
デジタル信号処理部108は、バス200を介して中央制御部400からの指令に基づき、メインメモリ206に格納された撮像データを取り込み、所定の信号処理を施して輝度信号と色差信号とからなるデータを生成する。デジタル信号処理部108はまた、オフセット処理、ホワイトバランス調整処理、ガンマ補正処理、RGB補完処理、ノイズ低減処理、輪郭補正処理、色調補正処理、光源種別判定処理等の各種デジタル補正を行う。
【0029】
マイク109は撮像時の周囲の音声を周音し、アナログ音声信号を生成する。アナログ音声信号処理部110がそのアナログ音声信号を増幅した後、音声A/D変換部111が、その増幅された信号をデジタル音声データに変換する。音声入力コントローラ112は、音声A/D変換部111から出力されたデジタル音声データを撮像データと併せてメインメモリ206に格納する。
【0030】
多重化部113は、メインメモリ206に格納された撮像データ及びデジタル音声データを多重化しストリームデータを生成する。
【0031】
圧縮・伸長処理部201は、バス200を介して中央制御部400からの指示に従い、メインメモリ206に格納されたストリームデータに所定の圧縮処理を施し、圧縮データを生成する。また、中央制御部400からの指令に従い、カード型記録媒体302等に格納された圧縮データに所定形式の伸張処理を施し、非圧縮データを生成する。
なお、本実施の形態の撮像装置1では、静止画像に対してはJPEG規格に準拠した圧縮方式が、動画像に対してはMPEG2規格やAVC/H.264規格に準拠した圧縮方式が採用される。
【0032】
音声・画像処理部202は、バス200を介して中央制御部400の指示に従い、メインメモリ206から読み出したデジタルデータに所定の画像処理を施す。例えばメニュー画像やOSD画像等、各種処理のための画像データを生成し、その画像データをメインメモリ206から読み出されたオリジナルの撮像データに重畳させて液晶モニタ304に出力する。この出力によって、液晶モニタ304に表示される画像は各種画像データが合成されたものとなる。
【0033】
ROM203はバス200を介して中央制御部400に接続されており、中央制御部100が実行する制御プログラム及び制御に必要な各種データ等を格納している。フラッシュROM204は、ユーザの設定情報等、撮像装置1の動作に関する各種設定情報を格納している。撮像装置1は、様々な撮像のシチュエーションに応じて、いくつかの撮像モードと、各モードにあわせた撮像条件の設定を予めフラッシュROM204に記憶している。そして、ユーザは撮像を開始する前に、各モードの中から最適なモードを選択することにより、最適な撮像条件で撮像を実施することができる。例えば、特定の人物の撮像に適した「ポートレートモード」、運動会等の撮像に適した「スポーツモード」、又は夜景等の暗い場所の撮像に適した「夜景モード」等である。
【0034】
VRAM205は、表示用の画像データの一時記憶領域として使用される。メインメモリ206は、各種画像データの一時記憶領域として使用されるとともに、中央制御部100の演算作業領域としても使用される。
【0035】
メディア制御部207は、中央制御部400の指令に従い、カードI/F301を通じてカード型記録媒体302へのデータの書き込みやデータの読み出しを制御する。
【0036】
ジャイロセンサ208は、3軸の加速度及び角速度の変化を検出し、撮像装置1のパン・チルト量や上下及び左右の手ぶれ量を検出する。時計209は、撮像データの取得日時の情報を生成し、また後述する撮像の上手さを示す情報を他の機器と共有する際の、タイムスタンプの共有に使用される。
【0037】
液晶モニタ304、スピーカ305、操作部306及び入出力端子307は入出力I/F303に接続されている。液晶モニタ304は、例えばVRAM205やメインメモリ206に一時記録された撮像データや各種メニュー画像データ等、各種画像データから生成された画像を表示する。スピーカ305は、例えばメインメモリ205に一時記録された音声を出力する。操作部306は、図示しないリレーズ・スイッチや電源スイッチを含む操作キー、十字キー、ジョイスティック、又は液晶モニタ304上に重畳されたタッチパネル等から構成されており、ユーザの撮像装置1への操作入力を受け付ける。入出力端子307は、図示しないテレビモニタやPC(Personal Computer)等に接続される。
【0038】
無線通信部309は、バス200及び無線I/F308を介して、後述する顔画像登録部407に登録された顔画像データや撮像の上手さを示す情報等を外部機器との間で送受信する。また、撮像装置1を外部機器とグループ化する際の、グループ化に関する情報の送受信を行う。各種情報及び撮像データ等の無線通信はIEEE802.11規格に準拠した方式で行われる。
【0039】
図2は、本実施形態に係る撮像装置1を含む無線通信ネットワークシステムの構成例を示す図である。図2では、撮像装置1は、外部装置である撮像装置(デジタルビデオカメラ)2や撮像装置(デジタルスチルカメラ)3と無線通信可能となっている。なお、撮像装置2及び撮像装置3とは、撮像装置1と基本的な構成は同様である。これらの機器同士がそれぞれ共通の無線接続情報を記憶しており、その無線接続情報に基づいて各機器間の接続動作を行う。
【0040】
中央制御部400はまた、後述する撮像の上手さを示す情報の算出処理において、撮像情報取得部401、顔検出部402、顔認識部403、手ぶれ補正部404、及び上手さ情報算出部405として機能する。
【0041】
撮像情報取得部401は、バス200を介して、音声・画像処理部202から撮像データのホワイトバランスの調整度合いに関する情報を撮像情報の一種として取得する。また、撮像情報取得部401は、上述したズームレンズ101を駆動する図示しないズームアクチュエータからズームの変更度合いに関する情報や、ジャイロセンサ208等から撮像装置1のパンやチルトの度合いに関する情報を、撮像情報として取得する。
【0042】
顔検出部402は、メインメモリ206に一時記憶された撮像データから、人物の顔画像データを検出する。顔認識部403は、顔検出部402が検出した顔画像データと、顔画像登録部407に予め登録されている人物の顔画像データとを照合し、検出された顔画像データを有する人物が何者であるかを認識する、
【0043】
手ぶれ補正部404は、ジャイロセンサ208の出力に応じて、撮像画像にいわゆる電子的な手ぶれ補正や光学的な手ぶれ補正を実施する。
【0044】
上手さ情報算出部は、撮像情報取得部401が取得した撮像情報、顔検出部402による顔検出の結果、顔認識部403による顔認識の結果、及び手ぶれ補正部404による手ぶれ補正の結果等から、撮像の上手さを示す情報を算出する。
【0045】
中央制御部400はまた、上手さ情報算出部405が算出した撮像の上手さを示す情報を他の撮像装置を始めとした外部機器と共有する際に、撮像装置1とその外部機器とを共有を実施するグループとするグループ化の処理を実施するグループ化部406としても機能する。
【0046】
グループ化部406は、無線モジュール309により送受信した、グループ化に関する情報をもとに、撮像装置1と外部機器とを撮像の上手さ情報の共有のためのグループにする。
【0047】
<撮像の上手さを示す情報の算出処理>
図3は、撮像装置1が撮像の上手さを示す情報(以下、単に「上手さ情報」という。)を算出する処理を説明するためのフローチャートである。
【0048】
ユーザが操作部306の図示しない録画ボタンを押下すると、ズームレンズ101、フォーカスレンズ102、絞り103、及び撮像素子104を介して風景や被写体の画像が、及びマイク109を介して周囲の音声が取得され、撮像が開始される(ステップS101)。そして取得された画像及び音声は、撮像データ及びデジタル音声データとしてメインメモリ206への一時記憶が開始される(ステップS103)。
【0049】
ステップS102で撮像データ等の一時記憶が開始されると、上手さ情報算出部405は、上手さ情報を算出する(ステップ104)。上手さ情報は、ホワイトバランスの調整度合い、ズームの変更度合い、パン及びチルトの度合い、顔検出の結果、撮像画像中の顔画像のサイズ、顔認識の結果及び手ぶれ補正等の結果等の各種パラメータを算出し、それらパラメータを加算等することにより算出される。なお、上手さ情報の算出に使用する上記各種のパラメータは例示に過ぎず、その他撮像の上手さを図る指標となりうるものであれば、全て採用可能である。
【0050】
まず、ホワイトバランスの調整度合いに基づくパラメータをF1、ズームの変更度合いに基づくパラメータをF2、パン及びチルトの度合いに基づくパラメータをF3、顔検出の結果に基づくパラメータをF4、撮像画像中の顔画像のサイズに基づくパラメータをF5、顔認識の結果に基づくパラメータをF6、そして手ぶれ補正に基づくパラメータをF7とし、以下にそれぞれのパラメータの算出方法を説明する。
【0051】
<ホワイトバランスの調整度合いに基づくパラメータ:F1>
ホワイトバランスの調整度合いに基づくパラメータは、例えば以下のようにして行われる。音声・画像処理部202は、既知の各種方法により、メインメモリ206に一時記憶された撮像データから、色温度を算出し、この算出された色温度に応じて撮像データのホワイトバランスを調整する。撮像情報取得部401は、音声・画像処理部202がこの調整を実施している時間Twを取得する。
【0052】
撮像情報取得部401がTwを取得すると、上手さ情報算出部405は以下の数式1から、ホワイトバランスの調整度合いに基づくパラメータF1を算出する。なお、数式1及び後述する各数式におけるPTは、予め定められた時間(例えば、20秒)であり、フラッシュROM204に記録されている値である。ユーザは、この値を操作部306の図示しないボタン等を使って変更することもできる。
(数1)
F1=Tw/PT ・・・(数式1)
【0053】
以上により、撮像データの所定の時間あたりのホワイトバランスの自動調整が行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして算出することができる。このF1は最終的に算出される上手さ情報において、他のパラメータから減算されることになる。これによって調整の行われていない、より自然な色で撮像されている撮像データの上手さ情報を高い値とすることができる。
【0054】
<ズームの変更度合いに基づくパラメータ:F2>
ズームの変更度合いに基づくパラメータF2の算出は、例えば以下のようにして行われる。ズームレンズ102の図示しないズームアクチュエータが駆動すると、撮像情報取得部401は、その駆動時間Tzを取得する。
【0055】
撮像情報取得部401がTzを取得すると、上手さ情報算出部405は以下の数式2から、ズームに基づくパラメータF2を算出する。なお、数式2におけるPTは予め定められた時間(例えば、20秒)であり、上記数式1と同じ値が採用される。
(数2)
F2=Tz/PT ・・・(数式2)
【0056】
以上により、撮像データの所定の時間あたりのズーム倍率の変更が行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。ズーム倍率が変更されている時間は、ユーザが被写体を望ましい倍率で捉え切れていない時間帯と考えられる。このF2が、最終的に算出される上手さ情報において、他のパラメータから減算されることで、ズーム倍率が固定された、ユーザが被写体画像を意図する倍率に捉えた後の撮像データの上手さ情報を高い値とすることができる。
【0057】
<パン又はチルトの度合いに基づくパラメータ:F3>
撮像情報取得部401は、ジャイロセンサ208の出力等からユーザが撮像装置1をパン又はチルトしている時間Tpを取得する。
【0058】
撮像情報取得部401がTpを取得すると、上手さ情報算出部405は以下の数式3から、パン又はチルトの度合いに基づく上手さ情報F3を算出する。なお、数式3におけるPTは予め定められた時間(例えば、20秒)であり、上記数式1と同じ値が採用される。
(数3)
F3=Tp/PT ・・・(数式3)
【0059】
以上により、撮像データの所定の時間あたりのパン又はチルトが行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。パン又はチルトが行われている時間は、ユーザが被写体を完全に捉え切れていない時間帯とも考えられる。このF3が、最終的に算出される上手さ情報において、他のパラメータから減算されることになり、パン又はチルトが行われた後の、すなわちユーザが意図する被写体を捉えた後の撮像データの上手さ情報を高い値とすることができる。
【0060】
<顔検出に基づくパラメータ:F4>
顔検出部402は、ステップS102でメインメモリ206に一時記憶された撮像データから、人物の顔画像データを検出する。例えば、顔検出部402は、顔全体の輪郭または目、口、鼻、耳等の顔の構成要素から特徴長を算出し、その特徴量に基づくテンプレートマッチングによって顔を検出する。または、顔検出部402は、肌の色に近い領域を検出し、その領域を顔として検出してもよい。さらに、顔検出部402は、ニューラルネットワークを使って教師信号による学習を行い、顔らしいと判断した領域を顔として検出したり、顔を検出する既存の他の技術を用いたりしてもよい。
【0061】
顔検出部402が撮像データから顔画像データを検出すると、上手さ情報算出部405は、顔検出部402が顔画像データを検出している時間Tfを算出し、以下の数式4から、顔検出に基づくパラメータF4を算出する。
(数4)
F4=Tf/PT ・・・(数式4)
【0062】
以上により、撮像データの所定の時間あたりの顔画像データの検出されている時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。撮像装置1のようなデジタルビデオカメラを用いた撮像では、被写体として人物を撮像することが多いと考えられる。このF4が、最終的に算出される上手さ情報において、他のパラメータから加算されることになり、ユーザが被写体となる人物を捉えている撮像データの上手さ情報を高い値とすることができる。
【0063】
<撮像画像中の顔画像のサイズに基づくパラメータ:F5>
検出部402が上述のようにして、撮像データから被写体となる人物の顔画像データを検出すると、上手さ情報算出部405は、検出されている顔画像データの大きさが、撮像画像データ全体の大きさに占める割合を算出し、この算出された割合が所定の範囲内(例えば、30%〜70%)にある時間Tsを算出する。
【0064】
顔画像データの大きさは、既知の方法、例えば特開2000−339476号公報等に記載された方法に基づき、顔画像の領域を特定することで行われる。すなわち、図4に示すように上手さ情報算出部405は先ず顔検出部402が検出した顔画像データの中心線fcを特定する。この中心線fcの特定は顔画像データ中の左右の画素値の対象性が高いx座標を求めることで行われる。
【0065】
顔画像データの中心線が特定されると、顔画像の濃淡からx方向及びy方向のエッジを強調したx方向エッジ情報とy方向エッジ情報が算出される。そして、上手さ情報算出部405は先ずx方向エッジ情報をx方向に投影加算処理し、x方向エッジ投影ヒストグラムXHGを求める。顔画像データの場合、x方向のエッジは通常顔の輪郭の部分の多くに現れる。上手さ情報算出部405は、x方向エッジ投影ヒストグラムXHGの値の高いところを顔中心線から左右方向に探索し、顔画像の領域の横幅Whを決定する。
【0066】
横幅Whが決定されると、y方法エッジ情報をy方向に投影加算処理し、y方向エッジ投影ヒストグラムYHGを求める。顔の縦幅を決定する場合、目の付近にy方向エッジが集中的に現れ、その下の頬の部分にはy方向エッジがほとんど現れないことを利用して、目のy座標候補位置を検出し、その目のy座標候補と横エッジ投影ヒストグラムHHGから顔画像の領域の縦幅Wvを決定する。以上のようにして、横幅Wh及び縦幅Wvから顔画像データの大きさが算出される。
【0067】
そして、上手さ情報算出部405は、以下の数式5から、撮像画像中の顔画像のサイズに基づくパラメータF5を算出する。
(数5)
F5=Ts/PT ・・・(数式5)
【0068】
以上により、撮像データの所定の時間あたりにおける、検出されている顔画像データの大きさが、撮像画像データ全体の大きさに占める割合が所定の範囲となっている時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。撮像装置1のようなデジタルビデオカメラを用いた撮像では、被写体として人物を撮像することが多いと考えられるが、さらに被写体を小さすぎず、また大きすぎず撮像できている場合は、撮像が上手く行われていると考えられる。このF5が、最終的に算出される上手さ情報において、他のパラメータから加算されることになり、ユーザが被写体となる人物を上手く捉えている撮像データの上手さ情報を高い値とすることができる。
【0069】
<顔認識の結果に基づくパラメータ:F6>
検出部402が上述のようにして、撮像データから被写体となる人物の顔画像データを検出すると、顔認識部403は検出された顔画像データと、顔画像登録部407に予め登録された顔画像データと照合する。そして、顔認識部403は、検出された顔画像データと、顔画像登録部407に予め登録された顔画像データとが一致する場合は、検出された顔画像データは、予め登録された人物のものであると認識する。上手さ情報算出部405は、顔認識部403がこの認識を行っている時間Trを算出する。
【0070】
そして、上手さ情報算出部405は、以下の数式6から、顔認識の結果に基づくパラメータF6を算出する。
(数6)
F6=Tr/PT ・・・(数式6)
【0071】
以上により、撮像データの所定の時間あたりにおける、予め顔画像データが登録された人物の顔画像データが検出されている時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。予め顔画像データが登録されているような人物は、ユーザにとって重要な被写体である可能性が高いと考えられる。このF6が、最終的に算出される上手さ情報において、他のパラメータから加算されることになり、ユーザが重要な被写体となる人物を捉えている撮像データの上手さ情報を高い値とすることができる。
【0072】
なお、顔認識の結果に基づくパラメータを算出するにあたり、各機器のユーザは互いの機器の顔画像データの登録内容を共有しておくことが有効である。すなわち、無線モジュール309を解して、互いの顔画像登録部407に登録されている顔画像データを全て共有し、共有された全ての顔画像データに基づいて本パラメータを算出する、または互いの顔画像登録部407に登録されている顔画像データで共通するデータを特定し、特定された顔画像データのみに基づいて本パラメータを算出するようにするとよい。
【0073】
以上のようにすることで、上手さ情報を算出する際の本パラメータの値の基準を統一することができる。また、ユーザが所有する撮像装置1にのみ登録されている人物の顔画像を、他のユーザが所有する撮像装置2が撮像している場合に、その撮像装置2の撮像データに係る上手さ情報が、撮像装置1のユーザにとっても有用なものとなる。
【0074】
<手ぶれ補正に基づくパラメータ:F7>
手ぶれ補正部404は、ジャイロセンサ208の出力に応じて、いわゆる電子的な手ぶれ補正及び光学的な手ぶれ補正を、既知の方法により実施する。上手さ情報算出部405は、手ぶれ補正部404が手ぶれ補正を実施している時間Tmを算出し、以下の数式7から、手ぶれ補正に基づくパラメータF7を算出する。
(数7)
F7=Tm/PT ・・・(数式7)
【0075】
以上により、撮像データの所定の時間あたりの手ぶれ補正が行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。手ぶれ補正が行われている時間は、ユーザが手ぶれを起こし、撮像自体は上手く行えていない可能性がある。このF7が、最終的に算出される上手さ情報において、他のパラメータから減算されることになり、手ぶれ補正が行われていない、上手く撮像された撮像データの上手さ情報を高い値とすることができる。
【0076】
<各パラメータに基づく上手さ情報の算出処理>
上手さ情報算出部405は、上述のようにして、ホワイトバランスの調整度合いに基づくパラメータF1、ズームの変更度合いに基づくパラメータF2、パン及びチルトの度合いに基づくパラメータF3、顔検出の結果に基づくパラメータF4、撮像画像中の顔画像のサイズに基づくパラメータF5、顔認識の結果に基づくパラメータF6、及び手ぶれ補正に基づくパラメータF7を算出すると、以下の数式8のようにして、各パラメータを加算し、上手さ情報Pを算出する。
(数8)
P=−n1F1−n2F2−n3F3+n4F4+n5F5+n6F6−n7F7
・・・(数式8)
【0077】
ここで、n1からn7までの各nx(x=1〜7)は、各パラメータの重み付けのための係数であり、各値をユーザが操作部306の図示しないボタン等を用いて設定することができる。なお、ここではnxは全てゼロ以上の整数である。設定された値はフラッシュROM204に記憶される。また、全てのパラメータを使用するのではなく、ユーザが事前に選択した一部のパラメータのみを使用するようにしてもよい。
【0078】
また、n1からn7までの各nxの値や関係を、フラッシュROM204が記憶している各種撮像モードに応じて、予め設定されるようにしてもよい。例えば、運動会等を撮像するスポーツモードでは、激しく動く特定の人物を、他の人物の中から判別して撮像を行う必要がある。そこで、顔検出の結果に基づくパラメータF4の重み付け係数n4、及び顔認識の結果に基づくパラメータF6の重み付け係数n6を他のパラメータの重み付け係数より大きくするとともに、被写体を追従した撮像が必要になることから、パンやチルトが激しく行われることを想定し、パン及びチルトの度合いに基づくパラメータF3の重み付け係数n3をゼロにする等のアレンジが考えられる。
【0079】
また、暗い環境で撮像が行われる夜景モードでは、撮像素子104のシャッタスピードが落ちることから、手ぶれが起こりやすくなる。そこで、手ぶれ補正に基づくパラメータF7の重み付け係数n7を他のパラメータの重み付け係数よりも大きくする等のアレンジが考えられる。
【0080】
図3に戻り、ステップS103で撮像の上手さ情報が算出されると、取得された撮像データと算出された上手さ情報とが、関連付けられて入出力I/Fから出力され、カード型記録媒体302に記録される(ステップS104)。この時、例えば、中央制御部400は、時計209の出力を利用して撮像データと上手さ情報のタイムスタンプを共通にする関連付けを行う。そして、撮像データは音声データとともに多重化部113に多重化され、圧縮・伸長処理部201に圧縮されてカード型記録媒体302に記録される。上手さ情報は、例えばメタデータとして、撮像データに係るストリームデータとは別にカード型記録媒体302に記録される。
【0081】
ユーザが操作部306の図示しない録画ボタンを離すと(ステップS105でYES)、撮像の終了とともに、上手さ情報の算出の処理を終了する。ユーザが操作部306の図示しない録画釦を離さず、押下し続けた場合は(ステップS105でNO)、ステップS102に戻り、撮像と当該算出処理が継続される。
【0082】
図5に、算出された上手さ情報を説明するための概念図を示す。図5では、撮像装置1には上手さ情報を算出するための所定時間PTとして、20秒の期間が設定されている。ユーザがt1の時点で録画ボタンを押下し、40秒後に録画ボタンを離すまで、つまりt3までの期間、撮像を行ったとする。この場合の上手さ情報は、t1の0秒からt2の20秒までの間の値が1.20、そしてt2の20秒からt3の40秒までの間の値が0.60として算出される。そして、この上手さ情報が、t1からt3までの間の録画(撮像)で生成された撮像データと関連付けられたメタデータとして記録されることとなる。
【0083】
次にユーザが、最初に録画釦を押下してから50秒後のt4のタイミングで再度録画ボタンを押下し、30秒後に録画ボタンを離すまで、つまりt6までの期間、撮像を行ったとする。この場合、所定の期間である20秒間に相当するt4からt5までの期間の撮像については、上記で詳述したようにして上手さ情報が算出される。例えば、その上手さ情報は2.40とする。
【0084】
ここで、t5からt6までの間は10秒間しかなく、上手さ情報を算出するためのPTである20秒間に満たない。この場合は、上手さ情報を算出するに足る撮像データが不足するとして、上手さ情報を算出しないようにしても良いし、t5からt6の期間のみ、PTを10秒として上手さ情報を算出しても良い。ここでは、PTを10秒として上手さ情報を算出したものとする。これらは、ユーザが操作部306の図示しないボタン等を用いて任意に選択し、設定することができるものとする。
【0085】
<上手さ情報の共有処理>
次に、複数の撮像装置間がそれぞれ算出した上手さ情報を、各撮像装置が互いに共有する処理について、図6に示したフローチャートを参照して説明する。ここでは、図2に示した撮像装置(デジタルビデオカメラ)1が、撮像装置(デジタルビデオカメラ)2及び撮像装置(デジタルスチルカメラ)3と、互いに上手さ情報を共有する場合を例に挙げて説明する。
【0086】
撮像装置1のグループ化部406は、無線モジュール309を介して、グループ化の要求に関する情報を所定の範囲に送信し、グループ化可能な外部機器を探索する(ステップS201)。そして、撮像装置2及び撮像装置3が当該所定の範囲内にある場合は、当該撮像装置2等は撮像装置1から送信されたグループ化の要求に関する情報を受信するとともに、撮像装置1にグループ化の承認に関する情報を送信する。同様に撮像装置2又は撮像装置3も、撮像装置1にグループ化の要求に関する情報を送信し、撮像装置1からグループ化の承認に関する情報を受信する。
【0087】
上記のようにして、各撮像装置はグループ化の要求に関する情報等を送受信し、グループが生成される(ステップS202)。ここで、撮像装置1等はグループ化の要求に関する情報を無線モジュール309から受信すると、当該情報の送信元となる外部機器(ここでは撮像装置2及び3)の情報を液晶モニタ304に表示し、ユーザは当該表示モニタ上に形成された操作部306としてのタッチパネルを押圧する等して、グループ化の対象とする外部機器を取捨選択できるようにしてもよい。
【0088】
また、グループが生成されると、対象となる機器間で、上手さ情報に使用するパラメータの種類と、各パラメータに用いられる重み付け係数の値が共有される。これにより、同じ基準で算出された上手さ情報を共有することが可能となる。また、このグループ化の際に、顔画像登録部407に登録された顔画像データに関する情報を共有することもできる。これにより、例えば撮像装置1には登録がなく、撮像装置2にのみ登録がある顔画像データを有する被写体を撮像装置1が撮像した場合に、その撮像データ及び算出された上手さ情報を撮像装置2のユーザにとって有意義なものとすることができる。
【0089】
ステップS202でグループが生成されると、次にグループ化部406は、グループ化の対象とした外部機器がすでに撮像を開始し、撮像中であるかどうかを判定する(ステップS203)。以下に、全ての機器が撮像中ではなく、事前に全機種をグループ化した場合と、一部の機器が撮像を開始しており撮像中であった場合とに、場合分けして説明する。
【0090】
全ての機器が撮像中ではなく事前に全機種をグループ化した場合、すなわちグループ化の対象とした機器が全て撮像を開始していなかった場合は(ステップS203でNO)、グループ化以降に取得された撮像データ及び上手さ情報を共有するため、各撮像装置の時間基準を統一すべく共通のタイムスタンプの設定が行われる(ステップS205)。
【0091】
図7に、この場合の例について説明する概念図を示す。撮像装置1、撮像装置2、及び撮像装置3は、tGの時点でグループ化されたとする。この場合、生成されたグループが解除されるまでの間、各撮像装置の撮像データに係る上手さ情報は全て共有の対象となる。
【0092】
すなわち、図7において、撮像装置1が取得する、t1の時点からt4の時点までの40秒間の撮像データ、t5の時点からt7の時点までの30秒間の撮像データ、及びt6の時点以降の撮像データに係る上手さ情報が撮像装置2及び撮像装置3への送信対象、つまり共有対象となる。また、撮像装置2が取得する、t2の時点からt5の時点までの撮像データ、及びt6の時点以降の撮像データに係る上手さ情報が撮像装置1及び撮像装置3への送信対象、つまり共有対象となる。そして、撮像装置3が取得する、t3の時点からt6の時点までの40秒間の撮像データ、及びt6の時点以降の撮像データに係る上手さ情報が撮像装置1及び撮像装置2への送信対象、つまり共有対象となる。
【0093】
グループ化の対象とした機器の一部が撮像を開始し、撮像中であった場合は(ステップS203でYES)、撮像中である撮像装置の撮像データの一部を対象から除外し、共通のタイムスタンプをオフセットする(ステップS204)。
【0094】
図8に、撮像装置1が撮像を開始し撮像中であった場合に、撮像装置2とグループ化する例について説明するための概念図を示す。ここで撮像装置1と撮像装置2とは、tGの時点でステップS202のグループ化の処理を完了したとする。このとき、撮像装置1はt1の時点からすでに撮像を開始している。この場合は、撮像装置1は、t1の時点からt3の時点までの20秒間の撮像データに係る上手さ情報は、上手さ情報は1.80として算出されているが、撮像装置2には共有せず、tGの時点を基準として、共通のタイムスタンプを生成し(ステップS205)、次の所定の期間である20秒間の撮像期間、すなわちt3の時点からt4の時点までの期間の撮像データに係る上手さ情報から撮像装置2との共有対象とする。
【0095】
すなわち、撮像装置1は、t3の時点からt4の時点までの20秒間の撮像データ、t5の時点からt7の時点までの30秒間の撮像データ、及びt8の時点以降の撮像データに係る上手さ情報を撮像装置2に送信することになる。
【0096】
そして、撮像装置2は、グループ化を行ったtG以降の撮像データ、すなわちt2の時点からt5の時点までの40秒間の撮像データ、及びt6の時点以降の撮像データに係る上手さ情報を撮像装置1に送信することになる。
【0097】
次に、図9に、撮像装置1及び撮像装置2が撮像を開始し撮像中であった場合に、撮像装置3とグループ化する例について説明するための概念図を示す。ここで撮像装置1と撮像装置2とは、上述のようにして、すでにステップS202のグループ化の処理を完了し、撮像装置3はtGの時点で当該グループに加わったものとする。
【0098】
撮像装置1はt1の時点ですでに撮像を開始している。この場合は、撮像装置1は、t1の時点からt4の時点までの20秒間の撮像データに係る上手さ情報は、撮像装置3には共有せず、t3の時点から共通のタイムスタンプを生成し(ステップS205)、次の所定の期間である20秒間の撮像期間、すなわちt4の時点からt6の時点までの期間の撮像データに係る上手さ情報から、撮像装置3との共有対象とする。
【0099】
すなわち、撮像装置1は、t4の時点からt6の時点までの20秒間の撮像データ、t7の時点からt9の時点までの30秒間の撮像データ、及びt10の時点以降の撮像データに係る上手さ情報を撮像装置3に送信することになる。
【0100】
また、撮像装置2はt3の時点からすでに撮像を開始している。この場合は、撮像装置2はt2の時点からt5の時点までの20秒間の撮像データに係る上手さ情報は、撮像装置3には共有せず、t3の時点から共通のタイムスタンプを生成し(ステップS205)、次の所定の期間である20秒間の撮像期間、すなわちt5からt7までの期間の撮像データに係る上手さ情報から、撮像装置3との共有対象とする。
【0101】
すなわち、撮像装置2は、t5の時点からt7の時点までの20秒間の撮像データ、及びt8の時点以降の撮像データに係る上手さ情報を撮像装置3に送信することになる。
【0102】
そして、撮像装置3は、グループ化を行ったt3の時点以降の撮像データ、すなわちt3の時点からt8の時点までの40秒間の撮像データ、及びt10の時点以降の撮像データに係る上手さ情報を撮像装置1及び撮像装置2に送信することになる。
【0103】
なお、撮像装置1と撮像装置2とが互いに共有する上手さ情報については、前述の図8を参照にした説明と同様であるため、省略する。
【0104】
上述のようにして、ステップS205で、上手さ情報を共有するためのタイムスタンプが生成されると、撮像装置1、撮像装置2、及び撮像装置3はそれぞれ撮像データを取得し、それぞれの撮像データに係る上手さ情報を算出し、カード型記録媒体302等に記憶する(ステップS206)。
【0105】
そして、グループ化部406は、ステップS202でグループを生成し、グループ化の対象とした機器のうち、一部の機器がグループを離脱したか否かを判定する(ステップS207)。グループ化部406によるグループの離脱の判断は、グループ化部406が、無線モジュール309を介して、グループ解除に関する情報を外部機器から受信したか否かに基づいて行われる。
【0106】
グループ化部406が、無線モジュール309を介して、外部機器、例えば撮像装置2から、グループ解除に関する情報を受信すると(ステップS207でYES)、撮像装置1のグループ化部406は撮像装置2のグループ解除を承認する処理を実施する(ステップS208)。すなわち、撮像装置2に対して、無線モジュール309から、グループ離脱の承認に関する情報を送信する処理を行う。
【0107】
ステップS208でグループの解除の承認処理が完了すると、撮像装置1は解除する撮像装置2との間で、上手さ情報のみを無線モジュール309を介して互いに送受信し、共有する(ステップS209)。
【0108】
この場合の、共有対象となる上手さ情報について説明するための概念図を図10に示す。ここで、撮像装置2はtCの時点で、撮像装置1とのグループ化を解除したものとする。撮像装置1は、tCの時点までの上手さ情報の算出が完了していた期間の上手さ情報を撮像装置2との共有対象とする。すなわち、撮像装置1はt1の時点までの撮像データ、t2の時点からt4の時点までの撮像データ、及びt6の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置2との共有対象とする。一方、撮像装置2は、自らがグループ化を解除した時点までに上手さ情報の算出が完了していた期間の上手さ情報を撮像装置1との共有対象とする。すなわち、撮像装置2はt3の時点までの撮像データ、及びt4の時点からt8の時点までの撮像データに係る上手さ情報を撮像装置1との共有対象とする。
【0109】
グループ化部406が、無線モジュール309を介して、外部機器からグループを離脱する旨の情報を受信しなかった場合(ステップS207でYES)、撮像装置1は外部機器である撮像装置2及び撮像装置3にグループの離脱を要請する処理をすることとなる(ステップS210)。そして、撮像装置1は撮像装置2及び撮像装置3と、上手さ情報のみを無線モジュール309を介して互いに送受信し、共有する(ステップS211)。
【0110】
この場合の、共有対象となる上手さ情報について説明するための概念図を図11に示す。ここで、撮像装置1はtCの時点で、撮像装置2及び撮像装置3とのグループ化を解除したものとする。撮像装置2は、tCの時点までの上手さ情報の算出が完了していた期間の上手さ情報を撮像装置1との共有対象とする。すなわち、撮像装置2はt3の時点までの撮像データ、及びt4の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置1との共有対象とする。同じく、撮像装置3は、tCの時点までの上手さ情報の算出が完了していた期間の上手さ情報を撮像装置1との共有対象とする。すなわち、撮像装置2はt2の時点からt3の時点までの撮像データ、及びt4の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置1との共有対象とする。
【0111】
また、撮像装置1がグループ化を解除すると同時に、他の全ての外部機器、すなわち撮像装置2及び撮像装置3がグループ化を解除する場合の共有対象となる上手さ情報について説明するための概念図を図12に示す。
【0112】
撮像装置1、撮像装置2、及び撮像装置3はtCの時点でそれぞれグループ化を解除したとする。この場合、撮像装置1は、t1の時点までの撮像データ、及びt3の時点からt6の時点までの撮像データに係る上手さ情報を撮像装置2及び撮像装置3との共有対象とする。撮像装置2は、t3の時点までの撮像データ、及びt4の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置1及び撮像装置3との共有対象とする。そして、撮像装置3は、t1の時点までの撮像データ、t2の時点からt4の時点までの撮像データ、及びt5の時点からt8の時点までの撮像データに係る上手さ情報を撮像装置1及び撮像装置2との共有対象とする。
【0113】
ステップS209又はステップS211で、上手さ情報の送受信が完了すると、この上手さ情報の共有処理が完了する。
【0114】
以上のように、撮像装置1は、撮像データとしての動画像データそのものではなく、自らが算出した撮像データに係る上手さ情報、及び外部機器が算出した撮像データに係る上手さ情報のみを撮像の際に共有することになるので、撮像時の各種データの共有に係る処理の負担及び記録容量の圧迫を大幅に低減することができる。
【0115】
<上手さ情報の記録と表示処理>
撮像装置1は、上述のようにして外部機器と共有した当該外部機器の撮像データに係る上手さ情報を、自らの撮像データ及び当該撮像データに係る上手さ情報と併せて、メインメモリ206に記録し、最終的にカードI/F301を介してカード型記録媒体302に記録することができる。各上手さ情報は、例えばメタデータとして、撮像装置1の撮像データと関連付けられて記録されている。
【0116】
そして、カード型記録媒体302に記録された各上手さ情報は、中央制御部400の指示に基づいて、液晶モニタ304又は入出力端子307を介して外部の各種モニタ装置に、比較のために視覚化して表示することができる。この視覚化した表示の例としては、いわゆるタイムラインによる表示が挙げられる。
【0117】
図13に、共有された上手さ情報の視覚化表示の例を説明するための図を示す。図13は、撮像装置1自身が生成した上手さ情報、撮像装置2と共有し撮像装置2から受信した撮像装置2の生成した上手さ情報、及び撮像装置3と共有し撮像装置3から受信した撮像装置3の生成した上手さ情報を、タイムラインとして液晶モニタ304に表示した態様を表す概念図である。
【0118】
撮像装置1のユーザは、この液晶モニタ304の表示を見て、例えば以下のような考察をすることができる。
【0119】
t2の時点からt3の時点の撮影は、自分の撮像の上手さが0.60と評価されたのに対して、撮像装置3のユーザの撮像の上手さは倍の1.20と評価されている。従って、この期間に関しては、撮像装置3のユーザの方が自分よりもズームの変化や手ぶれが少なく、被写体を正確に捉えた撮像データを保有している可能性が高いとの考察が可能となる。
【0120】
或は、t3の時点からt4の時点に関しては、自分も撮像装置3のユーザも撮像を逃してしまっているが、撮像装置2のユーザはこの期間の撮像データを保有しているとの考察が可能となる。
【0121】
以上の場合に、撮像装置1のユーザは、撮像装置2のユーザ又は撮像装置3のユーザに、例えば無線モジュール309を介した無線ネットワーク通信や、別途の連絡により、上記のような考察を行った期間の撮像データだけを自分と共有するように申出をすることが可能となる。
【0122】
或は、撮像装置1のユーザは、撮像装置2のユーザ及び撮像装置3のユーザがともに撮像を逃しており、かつ自らの撮像の上手さが高い評価を獲得しているt4の時点からt5の時点までの撮像データの提供を、各ユーザに申し出ることも可能となる。
【0123】
また、t7の時点からt8の時点までは、撮像装置1、撮像装置2、及び撮像装置3の全てのユーザが撮像を行っており、この期間を含む撮像期間の撮像データを有していることがわかる。それぞれのユーザが有している撮像データの期間は、撮像装置1のユーザがt4の時点からt8の時点までの30秒間、撮像装置2のユーザがt7の時点からの20秒間、及び撮像装置3のユーザがt6の時点からt8の時点までの20秒間と完全には一致していない。
【0124】
一方で、t7の時点からt8の時点までの重複する期間を含めた各期間について上手さ情報が比較可能な態様で視覚化されて表示されているため、例えば、撮像装置1のユーザが撮像装置3のユーザにt7の時点からt8の時点までのデータの提供を申し出るかの指標として利用できる。
【0125】
以上のように、本発明に係る撮像装置1によれば、ユーザ自らが撮像した撮像データに、他のユーザが撮像した撮像データに係る上手さ情報を関連付けて記録し、表示することができるので、その他のユーザが撮像した撮像データ又は自らが撮像した撮像データから必要なシーンのみをより簡便に特定することができる。したがって、他のユーザが撮像した撮像データの内容を確認せずともダビングを効率的かつ簡便に実施することができるようになる。
【0126】
なお、ダビングの際に、自分が撮像した撮像データを他のユーザが撮像した撮像データに置き換える場合に、当該自分が撮像した撮像データに係る音声データと当該他のユーザが撮像した撮像データに係る音声データを、併せて置き換えてしまうと、前後の音声データの繋がりが不自然になってしまう問題が生じることが推察される。
【0127】
同一の風景を複数人で同時に撮像している場合は、撮像データはアングル等によって大きく異なるが、音声データに大きな相違はない。例えば、結婚式で新郎新婦入場のシーンを撮像している場合、撮像データは、新郎新婦から近い位置で撮像されているもの、新郎新婦から遠い位置で撮像されているもの等、撮像装置によって大きく異なる。一方で、取得される音声はほとんどの撮像装置が入場のアナウンスと入場曲という共通の音声を取得しているはずである。
【0128】
そこで、本発明に係る撮像装置1では、ダビング編集時に、自分の撮像データを他のユーザの撮像データに置き換える場合でも、音声データは自分の撮像データに係るものを採用して、多重化部113が新たなストリームデータを生成することができる。
【0129】
また、撮像装置1に係る液晶モニタ304等は、ダビング編集時に自分の撮像データを他のユーザの撮像データに置き換える場合に、他のユーザの撮像データに、採用されなかった(置き換えられた)自らの撮像データをピクチャ・イン・ピクチャやオーバレイなどにより子画面で重畳表示するストリームデータを生成することもできる。
【符号の説明】
【0130】
1 撮像装置(デジタルビデオカメラ)
2 撮像装置(デジタルビデオカメラ)
3 撮像装置(デジタルスチルカメラ)
100 撮像部
202 音声・画像処理部
206 メインメモリ
301 カードI/F
302 カード型記録媒体
303 入出力I/F
304 液晶モニタ
305 スピーカ
306 操作部
307 入出力端子
308 無線I/F
309 無線モジュール
400 中央制御部
401 撮像情報取得部
402 顔検出部
403 顔認識部
404 手ぶれ補正部
405 上手さ情報算出部
406 グループ化部
407 顔画像登録部
【技術分野】
【0001】
本発明は撮像装置及びプログラムに関し、より詳細には、撮像された撮像データから撮像の上手さを示す情報を算出し、その情報を外部機器と共有することができる撮像装置及びプログラムに関する。
【背景技術】
【0002】
近年、通信技術の発達及びデジタルカメラ等の普及により、あるユーザがデジタルカメラ等で撮像した撮像データが、ネットワーク通信を通じて他のユーザのPC(Personal Computer)やデジタルカメラ等に転送され、複数のユーザ間で共有されるということが一般化している。例えば、IEEE802.11規格に準拠した無線通信によるネットワーク機能を搭載したデジタルカメラ等により、複数のユーザが、同一の風景、例えば結婚式の風景等を撮像し、その場で各ユーザが互いの撮像データを共有するというようなことも一般的に行われるようになってきている。
【0003】
このように撮像データの共有が手軽に行える環境が整ってくると、次にデータの共有そのものをより効率的に行いたい、又は共有された複数の撮像データを簡便にダビング等で編集したいとの要請が出てくる。この要請に答える技術として、例えば以下のようなものがある。
【0004】
特許文献1には、外部装置から撮像データの送信要求を受信し、その送信要求を受信した日時を示す時間情報、又は送信要求の中で別途特定された時間情報を抽出し、抽出されたこれらの時間情報に対応付けられた撮像データを要求元となる外部装置に送信するカメラに関する技術が開示されている。このカメラによれば、送信要求時に近いタイミングで撮像された画像データを自動的に選択して送信することができるため、ユーザは撮像データを効率よく共有することができる。
【0005】
特許文献2には、複数のカメラで同一の風景を撮像する際に、各カメラの記録の開始と終了を示す情報からなる記録状況インデックスを生成し、この記録状況インデックスから多くのカメラが撮像していた重要シーンを特定し、自動抽出する映像編集システムに関する技術が開示されている。この映像編集システムによれば、共有された複数の撮像データの中から自動的に重要なシーンを抽出し、簡便なダビング編集を行うことができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2009−171491号公報
【特許文献2】特開2010−199816号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、ネットワークを介して共有される撮像データが動画像データであった場合、当然、そのデータ量は静止画像データに比べ極めて大きなものとなる。従って、動画像データの送受信に必要な演算処理等は装置に大きな負担をかけるとともに、送受信の処理に一定時間を要する。また、送受信される動画像データを記録する記録媒体の容量も圧迫することになる。
【0008】
ここで、上記特許文献1に記載の技術では、共有する撮像データを時間情報から選別してはいるが、撮像データそのものを送受信している。従って、同一風景を動画像で撮像した複数のユーザが、各人の動画像データを各人で共有する場合は、そのデータの送受信に一定時間を要し、カメラ側の処理負担も大きくなり、手軽に共有ができないという問題が生じることが推察される。また共有されたデータが各人のカメラの記録媒体の容量を圧迫し、共有後の新たな撮像データの取得が制限されるという問題が生じることが推察される。
また、時間情報で選別されているとはいえ、ユーザは、ダビング編集時に各撮像データの内容を一旦再生して確認した上で、必要なシーン等を選別し編集しなければならない。
【0009】
また、特許文献2に記載の技術では、撮像データそのものを全て共有していることから、上記特許文献1の問題と同様に、撮像データの送受信に一定時間を要するという問題、処理負担が大きくなるという問題、及び各人のカメラやサーバ装置の記録媒体の容量が圧迫されるという問題が推察される。
そして、ダビング編集の際に重要なシーンが自動抽出されるが、この重要なシーンは同時刻に記録を行ったユーザの数が多いことにより特定されている。従って、一部のユーザのみが記録した貴重なシーンや、他のユーザにとっては重要ではないが、ある特定のユーザにとっては重要なシーン等がある場合に、それらのシーンを求めるユーザは、各撮像データの内容を一旦再生し確認した上で、それらを特定しなければならない。また自動抽出されたシーンが手ぶれ等のない、上手く撮像された撮像データであるとも限らないという問題も推察される。
【0010】
本発明はこのような問題に鑑みてなされたものであり、複数のユーザが撮像した動画像データを共有する場合に、撮影時に撮像データそのものではなく、撮像の上手さを示す情報のみを共有することで、撮像時の共有に係る各種処理の負担及び記録容量の圧迫を低減することができる撮像装置及びプログラムを提供することを目的とする。
【0011】
また、本発明は、ユーザ自らが撮像した撮像データに、他のユーザが撮像した撮像データから算出した撮像の上手さを示す情報を関連付けて記録することで、その他のユーザが撮像した撮像データから必要なシーンのみをより簡便に特定することができる撮像装置及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明は、上述した課題を解決するため、被写体を撮像し撮像画像を取得する撮像部(100)と、前記撮像部(100)が取得した前記撮像画像について、撮像の上手さに関する情報を算出する上手さ情報算出部(405)と、前記上手さ情報算出部が算出した上手さ情報を外部機器に送信する送信部(308)とを備えることを特徴とする撮像装置(1)を提供する。
【0013】
上記の構成において、上記撮像装置(1)は、受信部(309)及び記録部(206又は302)をさらに備え、前記受信部(309)は外部機器が撮像した撮像画像についての撮像の上手さ情報を受信し、前記記録部(206又は302)は、上記撮像部(100)が取得した撮像画像、上記上手さ情報算出部(405)が算出した撮像の上手さに関する情報、及び前記受信部(309)が受信した撮像の上手さに関する情報を関連付けて記録するようにしてもよい。
【0014】
上記の構成において、上記撮像装置(1)は、出力部(303)をさらに備え、前記出力部(303)は、上記記録部(206又は302)が記録した、上記上手さ情報算出部(405)が算出した撮像の上手さに関する情報及び上記受信部(309)が受信した撮像の上手さに関する情報を、比較可能な態様で視覚化して表示するための出力を行うようにしてもよい。
【0015】
上記の構成において、上記撮像の上手さに関する情報は、上記撮像部(100)の撮像情報又は上記撮像部(100)が取得した撮像画像の被写体情報の少なくともいずれかからなるようにしてもよい。
【0016】
上記の構成において、上記撮像装置(1)は、手ぶれ補正部(404)をさらに備え、上記撮像情報は、上記撮像部(100)のズーム倍率、上記撮像部(100)のパンの大きさ、上記撮像部(100)のチルトの大きさ、上記撮像部(100)が取得した前記撮像画像のホワイトバランス、又は前記手ぶれ補正部(404)が行う手ぶれ補正の大きさの少なくとも何れか一つに関する情報に基づくようにしてもよい。
【0017】
上記の構成において、上記撮像装置(1)は、顔検出部(402)をさらに備え、前記被写体情報は、前記顔検出部(402)による前記撮像画像からの顔検出の結果に基づくものであるようにしてもよい。
【0018】
また、本発明は、撮像部(100)が撮像した被写体の撮像画像について、その撮像の上手さに関する情報を算出する処理と、前記撮像の上手さに関する情報を外部機器に送信する処理とをコンピュータに実行させるプログラムを提供する。
【0019】
上記の構成において、上記プログラムは、さらに外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理と、前記撮像部が撮像した撮像画像、前記上手さ情報を算出する処理で算出された撮像の上手さに関する情報、及び前記外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理する処理で受信した撮像の上手さに関する情報とを関連付けて記録する処理とさらに実行させるようにしてもよい。
【発明の効果】
【0020】
本発明に係る撮像装置及びプログラムによれば、複数のユーザが撮像した動画像データを共有する場合に、撮像データではなく、撮像の上手さを示す情報のみを共有することで、撮像時の共有に係る各種処理の負担及び記録容量の圧迫を低減することができる。
【0021】
また、本発明に係る撮像装置及びプログラムによれば、ユーザ自らが撮像した撮像データに、他のユーザが撮像した撮像データから算出した撮像の上手さを示す情報を関連付けて記録することで、その他のユーザが撮像した撮像データから必要なシーンのみをより簡便に特定することができる。
【図面の簡単な説明】
【0022】
【図1】本発明の実施形態に係る撮像装置(デジタルビデオカメラ)1の内部構成の例を示すブロック図である。
【図2】本実施形態に係る撮像装置1を含む無線通信ネットワークシステムの構成例を示す図である。
【図3】撮像装置1が上手さ情報を算出する処理を説明するためのフローチャートである。
【図4】顔画像データのサイズの算出について説明するための図である。
【図5】上手さ情報について説明するための図である。
【図6】複数の撮像装置間がそれぞれ算出した上手さ情報を互いに共有する処理について説明するためのフローチャートである。
【図7】グループ化の対象とした全機器が撮像を開始する前にグループ化する場合の例について説明するための図である。
【図8】撮像装置1が撮像を開始し撮像中であった場合に、撮像装置2とグループ化する例について説明するための図である。
【図9】撮像装置1及び撮像装置2が撮像を開始し撮像中であった場合に、撮像装置3とグループ化する例について説明するための図である。
【図10】撮像装置2が撮像装置1とのグループ化を解除した場合の例について説明するための図である。
【図11】撮像装置1が撮像装置2及び撮像装置3とのグループ化を解除した場合の例について説明するための図である。
【図12】グループ化した全機器のグループ化を同時に解除する場合について説明するための図である。
【図13】共有された上手さ情報の視覚化表示の例を説明するための図である。
【発明を実施するための形態】
【0023】
以下に図面を参照しながら、本発明に係る撮像装置及びプログラムの好適な実施形態を説明する。かかる実施形態に示す具体的な数値等は、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書及び図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0024】
図1は、本発明の実施形態に係る撮像装置(デジタルビデオカメラ)1の内部構成の例を示すブロック図である。撮像装置1は動画像及び静止画像を撮像することができる。
なお、本発明は、動画像を撮像できるものであれば、いわゆるコンパクトデジタルカメラ等のデジタルスチルカメラをはじめ、携帯電話、PHS(Personal Handyphone System)、PDA(Personal Digital Assistant)等、その他の電子機器においても採用することができる。
【0025】
中央制御部400はCPU、各種プログラムが格納されたROM、及びワークエリアとしてのRAM等を含む半導体集積回路により構成され、撮像、各種画像の表示、及び記録、並びに後述する撮像の上手さを示す情報の算出、当該情報の他の機器との共有と記録等の撮像装置1全体の処理を統括的に制御する。
【0026】
撮像装置1は、ズームレンズ101、フォーカスレンズ102、絞り103、及び撮像素子104で構成される撮像部100を有する。ズームレンズ101は図示しないズームアクチュエータによって光軸LAに沿って移動する。同様に、フォーカスレンズ102は、図示しないフォーカスアクチュエータによって光軸LAに沿って移動する。絞り103は、図示しない絞りアクチュエータに駆動されて動作する。撮像素子104は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等で構成される。
【0027】
撮像装置1を用いた撮像は以下の手順で行われる。撮像素子104はズームレンズ101、フォーカスレンズ102、及び絞り103を通過した光を光電変換して、被写体のアナログ画像信号を生成する。
アナログ画像信号処理部105が、このアナログ画像信号を増幅した後、画像A/D変換部106が、その増幅された信号をデジタル画像データに変換する。画像入力コントローラ107は、画像A/D変換部106から出力されたデジタル画像データを撮像データとして取り込んで、バス200を介してメインメモリ206に格納する。
【0028】
デジタル信号処理部108は、バス200を介して中央制御部400からの指令に基づき、メインメモリ206に格納された撮像データを取り込み、所定の信号処理を施して輝度信号と色差信号とからなるデータを生成する。デジタル信号処理部108はまた、オフセット処理、ホワイトバランス調整処理、ガンマ補正処理、RGB補完処理、ノイズ低減処理、輪郭補正処理、色調補正処理、光源種別判定処理等の各種デジタル補正を行う。
【0029】
マイク109は撮像時の周囲の音声を周音し、アナログ音声信号を生成する。アナログ音声信号処理部110がそのアナログ音声信号を増幅した後、音声A/D変換部111が、その増幅された信号をデジタル音声データに変換する。音声入力コントローラ112は、音声A/D変換部111から出力されたデジタル音声データを撮像データと併せてメインメモリ206に格納する。
【0030】
多重化部113は、メインメモリ206に格納された撮像データ及びデジタル音声データを多重化しストリームデータを生成する。
【0031】
圧縮・伸長処理部201は、バス200を介して中央制御部400からの指示に従い、メインメモリ206に格納されたストリームデータに所定の圧縮処理を施し、圧縮データを生成する。また、中央制御部400からの指令に従い、カード型記録媒体302等に格納された圧縮データに所定形式の伸張処理を施し、非圧縮データを生成する。
なお、本実施の形態の撮像装置1では、静止画像に対してはJPEG規格に準拠した圧縮方式が、動画像に対してはMPEG2規格やAVC/H.264規格に準拠した圧縮方式が採用される。
【0032】
音声・画像処理部202は、バス200を介して中央制御部400の指示に従い、メインメモリ206から読み出したデジタルデータに所定の画像処理を施す。例えばメニュー画像やOSD画像等、各種処理のための画像データを生成し、その画像データをメインメモリ206から読み出されたオリジナルの撮像データに重畳させて液晶モニタ304に出力する。この出力によって、液晶モニタ304に表示される画像は各種画像データが合成されたものとなる。
【0033】
ROM203はバス200を介して中央制御部400に接続されており、中央制御部100が実行する制御プログラム及び制御に必要な各種データ等を格納している。フラッシュROM204は、ユーザの設定情報等、撮像装置1の動作に関する各種設定情報を格納している。撮像装置1は、様々な撮像のシチュエーションに応じて、いくつかの撮像モードと、各モードにあわせた撮像条件の設定を予めフラッシュROM204に記憶している。そして、ユーザは撮像を開始する前に、各モードの中から最適なモードを選択することにより、最適な撮像条件で撮像を実施することができる。例えば、特定の人物の撮像に適した「ポートレートモード」、運動会等の撮像に適した「スポーツモード」、又は夜景等の暗い場所の撮像に適した「夜景モード」等である。
【0034】
VRAM205は、表示用の画像データの一時記憶領域として使用される。メインメモリ206は、各種画像データの一時記憶領域として使用されるとともに、中央制御部100の演算作業領域としても使用される。
【0035】
メディア制御部207は、中央制御部400の指令に従い、カードI/F301を通じてカード型記録媒体302へのデータの書き込みやデータの読み出しを制御する。
【0036】
ジャイロセンサ208は、3軸の加速度及び角速度の変化を検出し、撮像装置1のパン・チルト量や上下及び左右の手ぶれ量を検出する。時計209は、撮像データの取得日時の情報を生成し、また後述する撮像の上手さを示す情報を他の機器と共有する際の、タイムスタンプの共有に使用される。
【0037】
液晶モニタ304、スピーカ305、操作部306及び入出力端子307は入出力I/F303に接続されている。液晶モニタ304は、例えばVRAM205やメインメモリ206に一時記録された撮像データや各種メニュー画像データ等、各種画像データから生成された画像を表示する。スピーカ305は、例えばメインメモリ205に一時記録された音声を出力する。操作部306は、図示しないリレーズ・スイッチや電源スイッチを含む操作キー、十字キー、ジョイスティック、又は液晶モニタ304上に重畳されたタッチパネル等から構成されており、ユーザの撮像装置1への操作入力を受け付ける。入出力端子307は、図示しないテレビモニタやPC(Personal Computer)等に接続される。
【0038】
無線通信部309は、バス200及び無線I/F308を介して、後述する顔画像登録部407に登録された顔画像データや撮像の上手さを示す情報等を外部機器との間で送受信する。また、撮像装置1を外部機器とグループ化する際の、グループ化に関する情報の送受信を行う。各種情報及び撮像データ等の無線通信はIEEE802.11規格に準拠した方式で行われる。
【0039】
図2は、本実施形態に係る撮像装置1を含む無線通信ネットワークシステムの構成例を示す図である。図2では、撮像装置1は、外部装置である撮像装置(デジタルビデオカメラ)2や撮像装置(デジタルスチルカメラ)3と無線通信可能となっている。なお、撮像装置2及び撮像装置3とは、撮像装置1と基本的な構成は同様である。これらの機器同士がそれぞれ共通の無線接続情報を記憶しており、その無線接続情報に基づいて各機器間の接続動作を行う。
【0040】
中央制御部400はまた、後述する撮像の上手さを示す情報の算出処理において、撮像情報取得部401、顔検出部402、顔認識部403、手ぶれ補正部404、及び上手さ情報算出部405として機能する。
【0041】
撮像情報取得部401は、バス200を介して、音声・画像処理部202から撮像データのホワイトバランスの調整度合いに関する情報を撮像情報の一種として取得する。また、撮像情報取得部401は、上述したズームレンズ101を駆動する図示しないズームアクチュエータからズームの変更度合いに関する情報や、ジャイロセンサ208等から撮像装置1のパンやチルトの度合いに関する情報を、撮像情報として取得する。
【0042】
顔検出部402は、メインメモリ206に一時記憶された撮像データから、人物の顔画像データを検出する。顔認識部403は、顔検出部402が検出した顔画像データと、顔画像登録部407に予め登録されている人物の顔画像データとを照合し、検出された顔画像データを有する人物が何者であるかを認識する、
【0043】
手ぶれ補正部404は、ジャイロセンサ208の出力に応じて、撮像画像にいわゆる電子的な手ぶれ補正や光学的な手ぶれ補正を実施する。
【0044】
上手さ情報算出部は、撮像情報取得部401が取得した撮像情報、顔検出部402による顔検出の結果、顔認識部403による顔認識の結果、及び手ぶれ補正部404による手ぶれ補正の結果等から、撮像の上手さを示す情報を算出する。
【0045】
中央制御部400はまた、上手さ情報算出部405が算出した撮像の上手さを示す情報を他の撮像装置を始めとした外部機器と共有する際に、撮像装置1とその外部機器とを共有を実施するグループとするグループ化の処理を実施するグループ化部406としても機能する。
【0046】
グループ化部406は、無線モジュール309により送受信した、グループ化に関する情報をもとに、撮像装置1と外部機器とを撮像の上手さ情報の共有のためのグループにする。
【0047】
<撮像の上手さを示す情報の算出処理>
図3は、撮像装置1が撮像の上手さを示す情報(以下、単に「上手さ情報」という。)を算出する処理を説明するためのフローチャートである。
【0048】
ユーザが操作部306の図示しない録画ボタンを押下すると、ズームレンズ101、フォーカスレンズ102、絞り103、及び撮像素子104を介して風景や被写体の画像が、及びマイク109を介して周囲の音声が取得され、撮像が開始される(ステップS101)。そして取得された画像及び音声は、撮像データ及びデジタル音声データとしてメインメモリ206への一時記憶が開始される(ステップS103)。
【0049】
ステップS102で撮像データ等の一時記憶が開始されると、上手さ情報算出部405は、上手さ情報を算出する(ステップ104)。上手さ情報は、ホワイトバランスの調整度合い、ズームの変更度合い、パン及びチルトの度合い、顔検出の結果、撮像画像中の顔画像のサイズ、顔認識の結果及び手ぶれ補正等の結果等の各種パラメータを算出し、それらパラメータを加算等することにより算出される。なお、上手さ情報の算出に使用する上記各種のパラメータは例示に過ぎず、その他撮像の上手さを図る指標となりうるものであれば、全て採用可能である。
【0050】
まず、ホワイトバランスの調整度合いに基づくパラメータをF1、ズームの変更度合いに基づくパラメータをF2、パン及びチルトの度合いに基づくパラメータをF3、顔検出の結果に基づくパラメータをF4、撮像画像中の顔画像のサイズに基づくパラメータをF5、顔認識の結果に基づくパラメータをF6、そして手ぶれ補正に基づくパラメータをF7とし、以下にそれぞれのパラメータの算出方法を説明する。
【0051】
<ホワイトバランスの調整度合いに基づくパラメータ:F1>
ホワイトバランスの調整度合いに基づくパラメータは、例えば以下のようにして行われる。音声・画像処理部202は、既知の各種方法により、メインメモリ206に一時記憶された撮像データから、色温度を算出し、この算出された色温度に応じて撮像データのホワイトバランスを調整する。撮像情報取得部401は、音声・画像処理部202がこの調整を実施している時間Twを取得する。
【0052】
撮像情報取得部401がTwを取得すると、上手さ情報算出部405は以下の数式1から、ホワイトバランスの調整度合いに基づくパラメータF1を算出する。なお、数式1及び後述する各数式におけるPTは、予め定められた時間(例えば、20秒)であり、フラッシュROM204に記録されている値である。ユーザは、この値を操作部306の図示しないボタン等を使って変更することもできる。
(数1)
F1=Tw/PT ・・・(数式1)
【0053】
以上により、撮像データの所定の時間あたりのホワイトバランスの自動調整が行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして算出することができる。このF1は最終的に算出される上手さ情報において、他のパラメータから減算されることになる。これによって調整の行われていない、より自然な色で撮像されている撮像データの上手さ情報を高い値とすることができる。
【0054】
<ズームの変更度合いに基づくパラメータ:F2>
ズームの変更度合いに基づくパラメータF2の算出は、例えば以下のようにして行われる。ズームレンズ102の図示しないズームアクチュエータが駆動すると、撮像情報取得部401は、その駆動時間Tzを取得する。
【0055】
撮像情報取得部401がTzを取得すると、上手さ情報算出部405は以下の数式2から、ズームに基づくパラメータF2を算出する。なお、数式2におけるPTは予め定められた時間(例えば、20秒)であり、上記数式1と同じ値が採用される。
(数2)
F2=Tz/PT ・・・(数式2)
【0056】
以上により、撮像データの所定の時間あたりのズーム倍率の変更が行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。ズーム倍率が変更されている時間は、ユーザが被写体を望ましい倍率で捉え切れていない時間帯と考えられる。このF2が、最終的に算出される上手さ情報において、他のパラメータから減算されることで、ズーム倍率が固定された、ユーザが被写体画像を意図する倍率に捉えた後の撮像データの上手さ情報を高い値とすることができる。
【0057】
<パン又はチルトの度合いに基づくパラメータ:F3>
撮像情報取得部401は、ジャイロセンサ208の出力等からユーザが撮像装置1をパン又はチルトしている時間Tpを取得する。
【0058】
撮像情報取得部401がTpを取得すると、上手さ情報算出部405は以下の数式3から、パン又はチルトの度合いに基づく上手さ情報F3を算出する。なお、数式3におけるPTは予め定められた時間(例えば、20秒)であり、上記数式1と同じ値が採用される。
(数3)
F3=Tp/PT ・・・(数式3)
【0059】
以上により、撮像データの所定の時間あたりのパン又はチルトが行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。パン又はチルトが行われている時間は、ユーザが被写体を完全に捉え切れていない時間帯とも考えられる。このF3が、最終的に算出される上手さ情報において、他のパラメータから減算されることになり、パン又はチルトが行われた後の、すなわちユーザが意図する被写体を捉えた後の撮像データの上手さ情報を高い値とすることができる。
【0060】
<顔検出に基づくパラメータ:F4>
顔検出部402は、ステップS102でメインメモリ206に一時記憶された撮像データから、人物の顔画像データを検出する。例えば、顔検出部402は、顔全体の輪郭または目、口、鼻、耳等の顔の構成要素から特徴長を算出し、その特徴量に基づくテンプレートマッチングによって顔を検出する。または、顔検出部402は、肌の色に近い領域を検出し、その領域を顔として検出してもよい。さらに、顔検出部402は、ニューラルネットワークを使って教師信号による学習を行い、顔らしいと判断した領域を顔として検出したり、顔を検出する既存の他の技術を用いたりしてもよい。
【0061】
顔検出部402が撮像データから顔画像データを検出すると、上手さ情報算出部405は、顔検出部402が顔画像データを検出している時間Tfを算出し、以下の数式4から、顔検出に基づくパラメータF4を算出する。
(数4)
F4=Tf/PT ・・・(数式4)
【0062】
以上により、撮像データの所定の時間あたりの顔画像データの検出されている時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。撮像装置1のようなデジタルビデオカメラを用いた撮像では、被写体として人物を撮像することが多いと考えられる。このF4が、最終的に算出される上手さ情報において、他のパラメータから加算されることになり、ユーザが被写体となる人物を捉えている撮像データの上手さ情報を高い値とすることができる。
【0063】
<撮像画像中の顔画像のサイズに基づくパラメータ:F5>
検出部402が上述のようにして、撮像データから被写体となる人物の顔画像データを検出すると、上手さ情報算出部405は、検出されている顔画像データの大きさが、撮像画像データ全体の大きさに占める割合を算出し、この算出された割合が所定の範囲内(例えば、30%〜70%)にある時間Tsを算出する。
【0064】
顔画像データの大きさは、既知の方法、例えば特開2000−339476号公報等に記載された方法に基づき、顔画像の領域を特定することで行われる。すなわち、図4に示すように上手さ情報算出部405は先ず顔検出部402が検出した顔画像データの中心線fcを特定する。この中心線fcの特定は顔画像データ中の左右の画素値の対象性が高いx座標を求めることで行われる。
【0065】
顔画像データの中心線が特定されると、顔画像の濃淡からx方向及びy方向のエッジを強調したx方向エッジ情報とy方向エッジ情報が算出される。そして、上手さ情報算出部405は先ずx方向エッジ情報をx方向に投影加算処理し、x方向エッジ投影ヒストグラムXHGを求める。顔画像データの場合、x方向のエッジは通常顔の輪郭の部分の多くに現れる。上手さ情報算出部405は、x方向エッジ投影ヒストグラムXHGの値の高いところを顔中心線から左右方向に探索し、顔画像の領域の横幅Whを決定する。
【0066】
横幅Whが決定されると、y方法エッジ情報をy方向に投影加算処理し、y方向エッジ投影ヒストグラムYHGを求める。顔の縦幅を決定する場合、目の付近にy方向エッジが集中的に現れ、その下の頬の部分にはy方向エッジがほとんど現れないことを利用して、目のy座標候補位置を検出し、その目のy座標候補と横エッジ投影ヒストグラムHHGから顔画像の領域の縦幅Wvを決定する。以上のようにして、横幅Wh及び縦幅Wvから顔画像データの大きさが算出される。
【0067】
そして、上手さ情報算出部405は、以下の数式5から、撮像画像中の顔画像のサイズに基づくパラメータF5を算出する。
(数5)
F5=Ts/PT ・・・(数式5)
【0068】
以上により、撮像データの所定の時間あたりにおける、検出されている顔画像データの大きさが、撮像画像データ全体の大きさに占める割合が所定の範囲となっている時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。撮像装置1のようなデジタルビデオカメラを用いた撮像では、被写体として人物を撮像することが多いと考えられるが、さらに被写体を小さすぎず、また大きすぎず撮像できている場合は、撮像が上手く行われていると考えられる。このF5が、最終的に算出される上手さ情報において、他のパラメータから加算されることになり、ユーザが被写体となる人物を上手く捉えている撮像データの上手さ情報を高い値とすることができる。
【0069】
<顔認識の結果に基づくパラメータ:F6>
検出部402が上述のようにして、撮像データから被写体となる人物の顔画像データを検出すると、顔認識部403は検出された顔画像データと、顔画像登録部407に予め登録された顔画像データと照合する。そして、顔認識部403は、検出された顔画像データと、顔画像登録部407に予め登録された顔画像データとが一致する場合は、検出された顔画像データは、予め登録された人物のものであると認識する。上手さ情報算出部405は、顔認識部403がこの認識を行っている時間Trを算出する。
【0070】
そして、上手さ情報算出部405は、以下の数式6から、顔認識の結果に基づくパラメータF6を算出する。
(数6)
F6=Tr/PT ・・・(数式6)
【0071】
以上により、撮像データの所定の時間あたりにおける、予め顔画像データが登録された人物の顔画像データが検出されている時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。予め顔画像データが登録されているような人物は、ユーザにとって重要な被写体である可能性が高いと考えられる。このF6が、最終的に算出される上手さ情報において、他のパラメータから加算されることになり、ユーザが重要な被写体となる人物を捉えている撮像データの上手さ情報を高い値とすることができる。
【0072】
なお、顔認識の結果に基づくパラメータを算出するにあたり、各機器のユーザは互いの機器の顔画像データの登録内容を共有しておくことが有効である。すなわち、無線モジュール309を解して、互いの顔画像登録部407に登録されている顔画像データを全て共有し、共有された全ての顔画像データに基づいて本パラメータを算出する、または互いの顔画像登録部407に登録されている顔画像データで共通するデータを特定し、特定された顔画像データのみに基づいて本パラメータを算出するようにするとよい。
【0073】
以上のようにすることで、上手さ情報を算出する際の本パラメータの値の基準を統一することができる。また、ユーザが所有する撮像装置1にのみ登録されている人物の顔画像を、他のユーザが所有する撮像装置2が撮像している場合に、その撮像装置2の撮像データに係る上手さ情報が、撮像装置1のユーザにとっても有用なものとなる。
【0074】
<手ぶれ補正に基づくパラメータ:F7>
手ぶれ補正部404は、ジャイロセンサ208の出力に応じて、いわゆる電子的な手ぶれ補正及び光学的な手ぶれ補正を、既知の方法により実施する。上手さ情報算出部405は、手ぶれ補正部404が手ぶれ補正を実施している時間Tmを算出し、以下の数式7から、手ぶれ補正に基づくパラメータF7を算出する。
(数7)
F7=Tm/PT ・・・(数式7)
【0075】
以上により、撮像データの所定の時間あたりの手ぶれ補正が行われた時間の割合を算出し、この割合を上手さ情報を示すパラメータの一つとして利用することができる。手ぶれ補正が行われている時間は、ユーザが手ぶれを起こし、撮像自体は上手く行えていない可能性がある。このF7が、最終的に算出される上手さ情報において、他のパラメータから減算されることになり、手ぶれ補正が行われていない、上手く撮像された撮像データの上手さ情報を高い値とすることができる。
【0076】
<各パラメータに基づく上手さ情報の算出処理>
上手さ情報算出部405は、上述のようにして、ホワイトバランスの調整度合いに基づくパラメータF1、ズームの変更度合いに基づくパラメータF2、パン及びチルトの度合いに基づくパラメータF3、顔検出の結果に基づくパラメータF4、撮像画像中の顔画像のサイズに基づくパラメータF5、顔認識の結果に基づくパラメータF6、及び手ぶれ補正に基づくパラメータF7を算出すると、以下の数式8のようにして、各パラメータを加算し、上手さ情報Pを算出する。
(数8)
P=−n1F1−n2F2−n3F3+n4F4+n5F5+n6F6−n7F7
・・・(数式8)
【0077】
ここで、n1からn7までの各nx(x=1〜7)は、各パラメータの重み付けのための係数であり、各値をユーザが操作部306の図示しないボタン等を用いて設定することができる。なお、ここではnxは全てゼロ以上の整数である。設定された値はフラッシュROM204に記憶される。また、全てのパラメータを使用するのではなく、ユーザが事前に選択した一部のパラメータのみを使用するようにしてもよい。
【0078】
また、n1からn7までの各nxの値や関係を、フラッシュROM204が記憶している各種撮像モードに応じて、予め設定されるようにしてもよい。例えば、運動会等を撮像するスポーツモードでは、激しく動く特定の人物を、他の人物の中から判別して撮像を行う必要がある。そこで、顔検出の結果に基づくパラメータF4の重み付け係数n4、及び顔認識の結果に基づくパラメータF6の重み付け係数n6を他のパラメータの重み付け係数より大きくするとともに、被写体を追従した撮像が必要になることから、パンやチルトが激しく行われることを想定し、パン及びチルトの度合いに基づくパラメータF3の重み付け係数n3をゼロにする等のアレンジが考えられる。
【0079】
また、暗い環境で撮像が行われる夜景モードでは、撮像素子104のシャッタスピードが落ちることから、手ぶれが起こりやすくなる。そこで、手ぶれ補正に基づくパラメータF7の重み付け係数n7を他のパラメータの重み付け係数よりも大きくする等のアレンジが考えられる。
【0080】
図3に戻り、ステップS103で撮像の上手さ情報が算出されると、取得された撮像データと算出された上手さ情報とが、関連付けられて入出力I/Fから出力され、カード型記録媒体302に記録される(ステップS104)。この時、例えば、中央制御部400は、時計209の出力を利用して撮像データと上手さ情報のタイムスタンプを共通にする関連付けを行う。そして、撮像データは音声データとともに多重化部113に多重化され、圧縮・伸長処理部201に圧縮されてカード型記録媒体302に記録される。上手さ情報は、例えばメタデータとして、撮像データに係るストリームデータとは別にカード型記録媒体302に記録される。
【0081】
ユーザが操作部306の図示しない録画ボタンを離すと(ステップS105でYES)、撮像の終了とともに、上手さ情報の算出の処理を終了する。ユーザが操作部306の図示しない録画釦を離さず、押下し続けた場合は(ステップS105でNO)、ステップS102に戻り、撮像と当該算出処理が継続される。
【0082】
図5に、算出された上手さ情報を説明するための概念図を示す。図5では、撮像装置1には上手さ情報を算出するための所定時間PTとして、20秒の期間が設定されている。ユーザがt1の時点で録画ボタンを押下し、40秒後に録画ボタンを離すまで、つまりt3までの期間、撮像を行ったとする。この場合の上手さ情報は、t1の0秒からt2の20秒までの間の値が1.20、そしてt2の20秒からt3の40秒までの間の値が0.60として算出される。そして、この上手さ情報が、t1からt3までの間の録画(撮像)で生成された撮像データと関連付けられたメタデータとして記録されることとなる。
【0083】
次にユーザが、最初に録画釦を押下してから50秒後のt4のタイミングで再度録画ボタンを押下し、30秒後に録画ボタンを離すまで、つまりt6までの期間、撮像を行ったとする。この場合、所定の期間である20秒間に相当するt4からt5までの期間の撮像については、上記で詳述したようにして上手さ情報が算出される。例えば、その上手さ情報は2.40とする。
【0084】
ここで、t5からt6までの間は10秒間しかなく、上手さ情報を算出するためのPTである20秒間に満たない。この場合は、上手さ情報を算出するに足る撮像データが不足するとして、上手さ情報を算出しないようにしても良いし、t5からt6の期間のみ、PTを10秒として上手さ情報を算出しても良い。ここでは、PTを10秒として上手さ情報を算出したものとする。これらは、ユーザが操作部306の図示しないボタン等を用いて任意に選択し、設定することができるものとする。
【0085】
<上手さ情報の共有処理>
次に、複数の撮像装置間がそれぞれ算出した上手さ情報を、各撮像装置が互いに共有する処理について、図6に示したフローチャートを参照して説明する。ここでは、図2に示した撮像装置(デジタルビデオカメラ)1が、撮像装置(デジタルビデオカメラ)2及び撮像装置(デジタルスチルカメラ)3と、互いに上手さ情報を共有する場合を例に挙げて説明する。
【0086】
撮像装置1のグループ化部406は、無線モジュール309を介して、グループ化の要求に関する情報を所定の範囲に送信し、グループ化可能な外部機器を探索する(ステップS201)。そして、撮像装置2及び撮像装置3が当該所定の範囲内にある場合は、当該撮像装置2等は撮像装置1から送信されたグループ化の要求に関する情報を受信するとともに、撮像装置1にグループ化の承認に関する情報を送信する。同様に撮像装置2又は撮像装置3も、撮像装置1にグループ化の要求に関する情報を送信し、撮像装置1からグループ化の承認に関する情報を受信する。
【0087】
上記のようにして、各撮像装置はグループ化の要求に関する情報等を送受信し、グループが生成される(ステップS202)。ここで、撮像装置1等はグループ化の要求に関する情報を無線モジュール309から受信すると、当該情報の送信元となる外部機器(ここでは撮像装置2及び3)の情報を液晶モニタ304に表示し、ユーザは当該表示モニタ上に形成された操作部306としてのタッチパネルを押圧する等して、グループ化の対象とする外部機器を取捨選択できるようにしてもよい。
【0088】
また、グループが生成されると、対象となる機器間で、上手さ情報に使用するパラメータの種類と、各パラメータに用いられる重み付け係数の値が共有される。これにより、同じ基準で算出された上手さ情報を共有することが可能となる。また、このグループ化の際に、顔画像登録部407に登録された顔画像データに関する情報を共有することもできる。これにより、例えば撮像装置1には登録がなく、撮像装置2にのみ登録がある顔画像データを有する被写体を撮像装置1が撮像した場合に、その撮像データ及び算出された上手さ情報を撮像装置2のユーザにとって有意義なものとすることができる。
【0089】
ステップS202でグループが生成されると、次にグループ化部406は、グループ化の対象とした外部機器がすでに撮像を開始し、撮像中であるかどうかを判定する(ステップS203)。以下に、全ての機器が撮像中ではなく、事前に全機種をグループ化した場合と、一部の機器が撮像を開始しており撮像中であった場合とに、場合分けして説明する。
【0090】
全ての機器が撮像中ではなく事前に全機種をグループ化した場合、すなわちグループ化の対象とした機器が全て撮像を開始していなかった場合は(ステップS203でNO)、グループ化以降に取得された撮像データ及び上手さ情報を共有するため、各撮像装置の時間基準を統一すべく共通のタイムスタンプの設定が行われる(ステップS205)。
【0091】
図7に、この場合の例について説明する概念図を示す。撮像装置1、撮像装置2、及び撮像装置3は、tGの時点でグループ化されたとする。この場合、生成されたグループが解除されるまでの間、各撮像装置の撮像データに係る上手さ情報は全て共有の対象となる。
【0092】
すなわち、図7において、撮像装置1が取得する、t1の時点からt4の時点までの40秒間の撮像データ、t5の時点からt7の時点までの30秒間の撮像データ、及びt6の時点以降の撮像データに係る上手さ情報が撮像装置2及び撮像装置3への送信対象、つまり共有対象となる。また、撮像装置2が取得する、t2の時点からt5の時点までの撮像データ、及びt6の時点以降の撮像データに係る上手さ情報が撮像装置1及び撮像装置3への送信対象、つまり共有対象となる。そして、撮像装置3が取得する、t3の時点からt6の時点までの40秒間の撮像データ、及びt6の時点以降の撮像データに係る上手さ情報が撮像装置1及び撮像装置2への送信対象、つまり共有対象となる。
【0093】
グループ化の対象とした機器の一部が撮像を開始し、撮像中であった場合は(ステップS203でYES)、撮像中である撮像装置の撮像データの一部を対象から除外し、共通のタイムスタンプをオフセットする(ステップS204)。
【0094】
図8に、撮像装置1が撮像を開始し撮像中であった場合に、撮像装置2とグループ化する例について説明するための概念図を示す。ここで撮像装置1と撮像装置2とは、tGの時点でステップS202のグループ化の処理を完了したとする。このとき、撮像装置1はt1の時点からすでに撮像を開始している。この場合は、撮像装置1は、t1の時点からt3の時点までの20秒間の撮像データに係る上手さ情報は、上手さ情報は1.80として算出されているが、撮像装置2には共有せず、tGの時点を基準として、共通のタイムスタンプを生成し(ステップS205)、次の所定の期間である20秒間の撮像期間、すなわちt3の時点からt4の時点までの期間の撮像データに係る上手さ情報から撮像装置2との共有対象とする。
【0095】
すなわち、撮像装置1は、t3の時点からt4の時点までの20秒間の撮像データ、t5の時点からt7の時点までの30秒間の撮像データ、及びt8の時点以降の撮像データに係る上手さ情報を撮像装置2に送信することになる。
【0096】
そして、撮像装置2は、グループ化を行ったtG以降の撮像データ、すなわちt2の時点からt5の時点までの40秒間の撮像データ、及びt6の時点以降の撮像データに係る上手さ情報を撮像装置1に送信することになる。
【0097】
次に、図9に、撮像装置1及び撮像装置2が撮像を開始し撮像中であった場合に、撮像装置3とグループ化する例について説明するための概念図を示す。ここで撮像装置1と撮像装置2とは、上述のようにして、すでにステップS202のグループ化の処理を完了し、撮像装置3はtGの時点で当該グループに加わったものとする。
【0098】
撮像装置1はt1の時点ですでに撮像を開始している。この場合は、撮像装置1は、t1の時点からt4の時点までの20秒間の撮像データに係る上手さ情報は、撮像装置3には共有せず、t3の時点から共通のタイムスタンプを生成し(ステップS205)、次の所定の期間である20秒間の撮像期間、すなわちt4の時点からt6の時点までの期間の撮像データに係る上手さ情報から、撮像装置3との共有対象とする。
【0099】
すなわち、撮像装置1は、t4の時点からt6の時点までの20秒間の撮像データ、t7の時点からt9の時点までの30秒間の撮像データ、及びt10の時点以降の撮像データに係る上手さ情報を撮像装置3に送信することになる。
【0100】
また、撮像装置2はt3の時点からすでに撮像を開始している。この場合は、撮像装置2はt2の時点からt5の時点までの20秒間の撮像データに係る上手さ情報は、撮像装置3には共有せず、t3の時点から共通のタイムスタンプを生成し(ステップS205)、次の所定の期間である20秒間の撮像期間、すなわちt5からt7までの期間の撮像データに係る上手さ情報から、撮像装置3との共有対象とする。
【0101】
すなわち、撮像装置2は、t5の時点からt7の時点までの20秒間の撮像データ、及びt8の時点以降の撮像データに係る上手さ情報を撮像装置3に送信することになる。
【0102】
そして、撮像装置3は、グループ化を行ったt3の時点以降の撮像データ、すなわちt3の時点からt8の時点までの40秒間の撮像データ、及びt10の時点以降の撮像データに係る上手さ情報を撮像装置1及び撮像装置2に送信することになる。
【0103】
なお、撮像装置1と撮像装置2とが互いに共有する上手さ情報については、前述の図8を参照にした説明と同様であるため、省略する。
【0104】
上述のようにして、ステップS205で、上手さ情報を共有するためのタイムスタンプが生成されると、撮像装置1、撮像装置2、及び撮像装置3はそれぞれ撮像データを取得し、それぞれの撮像データに係る上手さ情報を算出し、カード型記録媒体302等に記憶する(ステップS206)。
【0105】
そして、グループ化部406は、ステップS202でグループを生成し、グループ化の対象とした機器のうち、一部の機器がグループを離脱したか否かを判定する(ステップS207)。グループ化部406によるグループの離脱の判断は、グループ化部406が、無線モジュール309を介して、グループ解除に関する情報を外部機器から受信したか否かに基づいて行われる。
【0106】
グループ化部406が、無線モジュール309を介して、外部機器、例えば撮像装置2から、グループ解除に関する情報を受信すると(ステップS207でYES)、撮像装置1のグループ化部406は撮像装置2のグループ解除を承認する処理を実施する(ステップS208)。すなわち、撮像装置2に対して、無線モジュール309から、グループ離脱の承認に関する情報を送信する処理を行う。
【0107】
ステップS208でグループの解除の承認処理が完了すると、撮像装置1は解除する撮像装置2との間で、上手さ情報のみを無線モジュール309を介して互いに送受信し、共有する(ステップS209)。
【0108】
この場合の、共有対象となる上手さ情報について説明するための概念図を図10に示す。ここで、撮像装置2はtCの時点で、撮像装置1とのグループ化を解除したものとする。撮像装置1は、tCの時点までの上手さ情報の算出が完了していた期間の上手さ情報を撮像装置2との共有対象とする。すなわち、撮像装置1はt1の時点までの撮像データ、t2の時点からt4の時点までの撮像データ、及びt6の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置2との共有対象とする。一方、撮像装置2は、自らがグループ化を解除した時点までに上手さ情報の算出が完了していた期間の上手さ情報を撮像装置1との共有対象とする。すなわち、撮像装置2はt3の時点までの撮像データ、及びt4の時点からt8の時点までの撮像データに係る上手さ情報を撮像装置1との共有対象とする。
【0109】
グループ化部406が、無線モジュール309を介して、外部機器からグループを離脱する旨の情報を受信しなかった場合(ステップS207でYES)、撮像装置1は外部機器である撮像装置2及び撮像装置3にグループの離脱を要請する処理をすることとなる(ステップS210)。そして、撮像装置1は撮像装置2及び撮像装置3と、上手さ情報のみを無線モジュール309を介して互いに送受信し、共有する(ステップS211)。
【0110】
この場合の、共有対象となる上手さ情報について説明するための概念図を図11に示す。ここで、撮像装置1はtCの時点で、撮像装置2及び撮像装置3とのグループ化を解除したものとする。撮像装置2は、tCの時点までの上手さ情報の算出が完了していた期間の上手さ情報を撮像装置1との共有対象とする。すなわち、撮像装置2はt3の時点までの撮像データ、及びt4の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置1との共有対象とする。同じく、撮像装置3は、tCの時点までの上手さ情報の算出が完了していた期間の上手さ情報を撮像装置1との共有対象とする。すなわち、撮像装置2はt2の時点からt3の時点までの撮像データ、及びt4の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置1との共有対象とする。
【0111】
また、撮像装置1がグループ化を解除すると同時に、他の全ての外部機器、すなわち撮像装置2及び撮像装置3がグループ化を解除する場合の共有対象となる上手さ情報について説明するための概念図を図12に示す。
【0112】
撮像装置1、撮像装置2、及び撮像装置3はtCの時点でそれぞれグループ化を解除したとする。この場合、撮像装置1は、t1の時点までの撮像データ、及びt3の時点からt6の時点までの撮像データに係る上手さ情報を撮像装置2及び撮像装置3との共有対象とする。撮像装置2は、t3の時点までの撮像データ、及びt4の時点からt7の時点までの撮像データに係る上手さ情報を撮像装置1及び撮像装置3との共有対象とする。そして、撮像装置3は、t1の時点までの撮像データ、t2の時点からt4の時点までの撮像データ、及びt5の時点からt8の時点までの撮像データに係る上手さ情報を撮像装置1及び撮像装置2との共有対象とする。
【0113】
ステップS209又はステップS211で、上手さ情報の送受信が完了すると、この上手さ情報の共有処理が完了する。
【0114】
以上のように、撮像装置1は、撮像データとしての動画像データそのものではなく、自らが算出した撮像データに係る上手さ情報、及び外部機器が算出した撮像データに係る上手さ情報のみを撮像の際に共有することになるので、撮像時の各種データの共有に係る処理の負担及び記録容量の圧迫を大幅に低減することができる。
【0115】
<上手さ情報の記録と表示処理>
撮像装置1は、上述のようにして外部機器と共有した当該外部機器の撮像データに係る上手さ情報を、自らの撮像データ及び当該撮像データに係る上手さ情報と併せて、メインメモリ206に記録し、最終的にカードI/F301を介してカード型記録媒体302に記録することができる。各上手さ情報は、例えばメタデータとして、撮像装置1の撮像データと関連付けられて記録されている。
【0116】
そして、カード型記録媒体302に記録された各上手さ情報は、中央制御部400の指示に基づいて、液晶モニタ304又は入出力端子307を介して外部の各種モニタ装置に、比較のために視覚化して表示することができる。この視覚化した表示の例としては、いわゆるタイムラインによる表示が挙げられる。
【0117】
図13に、共有された上手さ情報の視覚化表示の例を説明するための図を示す。図13は、撮像装置1自身が生成した上手さ情報、撮像装置2と共有し撮像装置2から受信した撮像装置2の生成した上手さ情報、及び撮像装置3と共有し撮像装置3から受信した撮像装置3の生成した上手さ情報を、タイムラインとして液晶モニタ304に表示した態様を表す概念図である。
【0118】
撮像装置1のユーザは、この液晶モニタ304の表示を見て、例えば以下のような考察をすることができる。
【0119】
t2の時点からt3の時点の撮影は、自分の撮像の上手さが0.60と評価されたのに対して、撮像装置3のユーザの撮像の上手さは倍の1.20と評価されている。従って、この期間に関しては、撮像装置3のユーザの方が自分よりもズームの変化や手ぶれが少なく、被写体を正確に捉えた撮像データを保有している可能性が高いとの考察が可能となる。
【0120】
或は、t3の時点からt4の時点に関しては、自分も撮像装置3のユーザも撮像を逃してしまっているが、撮像装置2のユーザはこの期間の撮像データを保有しているとの考察が可能となる。
【0121】
以上の場合に、撮像装置1のユーザは、撮像装置2のユーザ又は撮像装置3のユーザに、例えば無線モジュール309を介した無線ネットワーク通信や、別途の連絡により、上記のような考察を行った期間の撮像データだけを自分と共有するように申出をすることが可能となる。
【0122】
或は、撮像装置1のユーザは、撮像装置2のユーザ及び撮像装置3のユーザがともに撮像を逃しており、かつ自らの撮像の上手さが高い評価を獲得しているt4の時点からt5の時点までの撮像データの提供を、各ユーザに申し出ることも可能となる。
【0123】
また、t7の時点からt8の時点までは、撮像装置1、撮像装置2、及び撮像装置3の全てのユーザが撮像を行っており、この期間を含む撮像期間の撮像データを有していることがわかる。それぞれのユーザが有している撮像データの期間は、撮像装置1のユーザがt4の時点からt8の時点までの30秒間、撮像装置2のユーザがt7の時点からの20秒間、及び撮像装置3のユーザがt6の時点からt8の時点までの20秒間と完全には一致していない。
【0124】
一方で、t7の時点からt8の時点までの重複する期間を含めた各期間について上手さ情報が比較可能な態様で視覚化されて表示されているため、例えば、撮像装置1のユーザが撮像装置3のユーザにt7の時点からt8の時点までのデータの提供を申し出るかの指標として利用できる。
【0125】
以上のように、本発明に係る撮像装置1によれば、ユーザ自らが撮像した撮像データに、他のユーザが撮像した撮像データに係る上手さ情報を関連付けて記録し、表示することができるので、その他のユーザが撮像した撮像データ又は自らが撮像した撮像データから必要なシーンのみをより簡便に特定することができる。したがって、他のユーザが撮像した撮像データの内容を確認せずともダビングを効率的かつ簡便に実施することができるようになる。
【0126】
なお、ダビングの際に、自分が撮像した撮像データを他のユーザが撮像した撮像データに置き換える場合に、当該自分が撮像した撮像データに係る音声データと当該他のユーザが撮像した撮像データに係る音声データを、併せて置き換えてしまうと、前後の音声データの繋がりが不自然になってしまう問題が生じることが推察される。
【0127】
同一の風景を複数人で同時に撮像している場合は、撮像データはアングル等によって大きく異なるが、音声データに大きな相違はない。例えば、結婚式で新郎新婦入場のシーンを撮像している場合、撮像データは、新郎新婦から近い位置で撮像されているもの、新郎新婦から遠い位置で撮像されているもの等、撮像装置によって大きく異なる。一方で、取得される音声はほとんどの撮像装置が入場のアナウンスと入場曲という共通の音声を取得しているはずである。
【0128】
そこで、本発明に係る撮像装置1では、ダビング編集時に、自分の撮像データを他のユーザの撮像データに置き換える場合でも、音声データは自分の撮像データに係るものを採用して、多重化部113が新たなストリームデータを生成することができる。
【0129】
また、撮像装置1に係る液晶モニタ304等は、ダビング編集時に自分の撮像データを他のユーザの撮像データに置き換える場合に、他のユーザの撮像データに、採用されなかった(置き換えられた)自らの撮像データをピクチャ・イン・ピクチャやオーバレイなどにより子画面で重畳表示するストリームデータを生成することもできる。
【符号の説明】
【0130】
1 撮像装置(デジタルビデオカメラ)
2 撮像装置(デジタルビデオカメラ)
3 撮像装置(デジタルスチルカメラ)
100 撮像部
202 音声・画像処理部
206 メインメモリ
301 カードI/F
302 カード型記録媒体
303 入出力I/F
304 液晶モニタ
305 スピーカ
306 操作部
307 入出力端子
308 無線I/F
309 無線モジュール
400 中央制御部
401 撮像情報取得部
402 顔検出部
403 顔認識部
404 手ぶれ補正部
405 上手さ情報算出部
406 グループ化部
407 顔画像登録部
【特許請求の範囲】
【請求項1】
被写体を撮像し撮像画像を取得する撮像部と、
前記撮像部が取得した前記撮像画像について、撮像の上手さに関する情報を算出する上手さ情報算出部と、
前記上手さ情報算出部が算出した上手さ情報を外部機器に送信する送信部と
を備えることを特徴とする撮像装置。
【請求項2】
外部機器が取得した撮像画像について、その外部機器が算出した撮像の上手さに関する情報を受信する受信部と、
前記撮像部が取得した撮像画像、前記上手さ情報算出部が算出した撮像の上手さに関する情報、及び前記受信部が受信した撮像の上手さに関する情報を関連付けて記録する記録部と
をさらに有することを特徴とする請求項1に記載の撮像装置
【請求項3】
前記記録部が記録した、前記上手さ情報算出部が算出した撮像の上手さに関する情報及び前記受信部が受信した撮像の上手さに関する情報を、比較可能な態様で視覚化して表示するための出力を行う出力部
をさらに備えることを特徴とする請求項2に記載の撮像装置。
【請求項4】
前記撮像の上手さに関する情報は、前記撮像部の撮像情報又は前記撮像部が取得した撮像画像の被写体情報の少なくともいずれかに基づく
ことを特徴とする請求項1から3の何れか1項に記載の撮像装置。
【請求項5】
前記撮像装置は、手ぶれ補正部をさらに備え、
前記撮像情報は、前記撮像部のズーム倍率、前記撮像部のパンの大きさ、前記撮像部のチルトの大きさ、前記撮像部が取得した前記撮像画像のホワイトバランス、又は前記手ぶれ補正部が行う手ぶれ補正の大きさの少なくとも何れか一つに関する情報に基づく
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記撮像装置は、顔検出部をさらに備え、
前記被写体情報は、前記顔検出部による前記撮像画像からの顔検出の結果に基づくものであることを特徴とする請求項4に記載の撮像装置。
【請求項7】
撮像部が撮像した被写体の撮像画像について、その撮像の上手さに関する情報を算出する処理と、
前記撮像の上手さに関する情報を外部機器に送信する処理と
をコンピュータに実行させるプログラム
【請求項8】
外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理と、
前記撮像部が撮像した撮像画像、前記上手さ情報を算出する処理で算出された撮像の上手さに関する情報、及び前記外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理する処理で受信した撮像の上手さに関する情報とを関連付けて記録する処理と
をさらに実行させる請求項7に記載のプログラム。
【請求項1】
被写体を撮像し撮像画像を取得する撮像部と、
前記撮像部が取得した前記撮像画像について、撮像の上手さに関する情報を算出する上手さ情報算出部と、
前記上手さ情報算出部が算出した上手さ情報を外部機器に送信する送信部と
を備えることを特徴とする撮像装置。
【請求項2】
外部機器が取得した撮像画像について、その外部機器が算出した撮像の上手さに関する情報を受信する受信部と、
前記撮像部が取得した撮像画像、前記上手さ情報算出部が算出した撮像の上手さに関する情報、及び前記受信部が受信した撮像の上手さに関する情報を関連付けて記録する記録部と
をさらに有することを特徴とする請求項1に記載の撮像装置
【請求項3】
前記記録部が記録した、前記上手さ情報算出部が算出した撮像の上手さに関する情報及び前記受信部が受信した撮像の上手さに関する情報を、比較可能な態様で視覚化して表示するための出力を行う出力部
をさらに備えることを特徴とする請求項2に記載の撮像装置。
【請求項4】
前記撮像の上手さに関する情報は、前記撮像部の撮像情報又は前記撮像部が取得した撮像画像の被写体情報の少なくともいずれかに基づく
ことを特徴とする請求項1から3の何れか1項に記載の撮像装置。
【請求項5】
前記撮像装置は、手ぶれ補正部をさらに備え、
前記撮像情報は、前記撮像部のズーム倍率、前記撮像部のパンの大きさ、前記撮像部のチルトの大きさ、前記撮像部が取得した前記撮像画像のホワイトバランス、又は前記手ぶれ補正部が行う手ぶれ補正の大きさの少なくとも何れか一つに関する情報に基づく
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記撮像装置は、顔検出部をさらに備え、
前記被写体情報は、前記顔検出部による前記撮像画像からの顔検出の結果に基づくものであることを特徴とする請求項4に記載の撮像装置。
【請求項7】
撮像部が撮像した被写体の撮像画像について、その撮像の上手さに関する情報を算出する処理と、
前記撮像の上手さに関する情報を外部機器に送信する処理と
をコンピュータに実行させるプログラム
【請求項8】
外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理と、
前記撮像部が撮像した撮像画像、前記上手さ情報を算出する処理で算出された撮像の上手さに関する情報、及び前記外部機器が撮像した撮像画像についての撮像の上手さ情報を受信する処理する処理で受信した撮像の上手さに関する情報とを関連付けて記録する処理と
をさらに実行させる請求項7に記載のプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2012−216936(P2012−216936A)
【公開日】平成24年11月8日(2012.11.8)
【国際特許分類】
【出願番号】特願2011−79761(P2011−79761)
【出願日】平成23年3月31日(2011.3.31)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
【公開日】平成24年11月8日(2012.11.8)
【国際特許分類】
【出願日】平成23年3月31日(2011.3.31)
【出願人】(308036402)株式会社JVCケンウッド (1,152)
【Fターム(参考)】
[ Back to top ]