説明

撮像装置および撮像方法

【課題】撮像装置が、撮像対象者の感情やその場の雰囲気に応じて所望するシーンを撮像
する。
【解決手段】ユーザーは、撮像条件記憶領域123に記憶された、撮像開始の条件である
撮像条件から望むシーンに応じた撮像条件を選択する。そして、マイク13によって収音
された音声に基づいて、感情検出部152は、この音声に含まれる感情を検出する。検出
された感情が、選択された撮像条件における撮像開始の条件を満たす場合、自動で撮像が
行われる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像を行う撮像装置およびその撮像方法に関するものである。
【背景技術】
【0002】
カメラ等の撮像装置において、静止画像または動画の撮像時には、撮像者がファインダ
ー等を通して撮像対象を決定し、撮像状況を自ら確認した後に、撮像者による撮像開始の
操作を介して、撮像が行われるのが通常である。このような撮像装置においては、撮像者
に撮像の準備が出来ていない場合、貴重な撮像機会を逃すことがある。また、撮像の操作
を行う撮像者が少なくとも1人必要となるため、静止画像撮像時においては撮像者が被写
体となることが出来ない。また、楽しい雰囲気になったときに撮像したいなどの要求があ
る場合には、撮像者が周囲の状況を常に気にかけている必要がある。
【0003】
そこで、撮像者の操作を要することなく、外部からの入力情報をトリガーとして撮像装
置が自動で撮像を行う自動撮像の技術が開発されている。例えば、特許文献1には、ユー
ザーが撮像装置に撮像対象者の顔データを予め登録しておき、セルフタイマ撮像において
、顔検出部が画像信号から抽出した被写界における人物の抽出顔データと、登録された顔
データとに基づいて、撮像対象者の検出ができたと撮像装置が判定した場合に、自動撮像
のカウントダウンが開始される技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−81543号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記のような特許文献1に記載の技術では、ユーザーが撮像対象者の顔データを予め撮
像装置に登録する必要があり、撮像対象者が多数に上る場合にはその登録に相当の手間を
要する。また、顔データにおける検出を撮像のトリガーとすると、被写界に撮像対象者が
存在しているかどうかだけが撮像開始の基準となるため、その撮像対象者の気分や場の雰
囲気に関わらず撮像が行われ、撮像者あるいは撮像対象者が望まないシーンが撮像されて
しまうような事態が生じる問題がある。
本発明は、撮像装置が、撮像対象者の感情やその場の雰囲気に応じて撮像を行うことを
目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために本発明に係る撮像装置は、撮像を行う撮像手段と、収音を行
う収音手段と、前記収音手段によって収音された音声から当該音声の発話者の感情を認識
する感情認識手段と前記撮像手段が撮像を行う条件である撮像条件として、音声の発話者
の感情に関する条件を記憶する撮像条件記憶手段と、前記感情認識手段により認識された
感情が、前記撮像条件記憶手段に記憶されている撮像条件を満たす場合に、前記撮像手段
に撮像を行わせる撮像制御手段とを有することを特徴とする。
本発明によれば、撮像装置が、撮像対象者の感情やその場の雰囲気に応じて撮像を行う
ことが可能となる。
【0007】
本発明において、前記撮像条件記憶手段は、複数種類の感情のうち少なくともいずれか
1種類の感情と、当該感情の度合いとを、前記撮像条件として記憶し、前記感情認識手段
は、前記収音手段によって収音された音声から当該音声の発話者の感情と当該感情の度合
いとを認識する構成としてもよい。
この構成によれば、感情の種類に応じた撮像だけではなく、感情の度合いをも考慮した
撮像を行うことができる。
【0008】
本発明において、前記撮像手段によって撮像が行われた結果を表す撮像データを、当該
撮像が行われているときに前記感情認識手段によって認識された感情と、当該感情が認識
された時刻と対応付けて記憶する撮像データ記憶手段を有する構成としてもよい。
この構成によれば、ユーザーが撮像済みの撮像データを再生する際に、感情に注目して
検索を行うことが容易となる。
【0009】
本発明において、さらに特定の発話者の音声の特徴を記憶する音声特徴記憶手段を備え
、前記撮像条件記憶手段は、前記音声特徴記憶手段に記憶された特徴を持つ音声の発話者
の感情に関する条件を記憶し、前記撮像制御手段は、前記収音手段により収音された音声
の特徴が前記音声特徴記憶手段に記憶された特徴に合致し、且つ、当該音声から前記感情
認識手段により認識された感情が、前記撮像条件記憶手段に記憶されている撮像条件を満
たす場合に、前記撮像手段に撮像を行わせる構成としてもよい。
この構成によれば、ユーザーは特定の人物に注目して撮像機会を狙うことが可能となる

【0010】
本発明において、前記撮像条件記憶手段は、或る期間において変化する感情の度合いを
相対的に評価したときの評価値を前記撮像条件として記憶し、前記感情認識手段は、前記
収音手段によって収音された音声から当該音声の発話者の感情と当該感情の度合いとを認
識し、前記撮像制御手段は、前記感情認識手段により認識された感情の度合いを時系列に
記憶する感情記憶手段を有し、前記感情記憶手段により前記或る期間内に記憶された感情
の度合いが、前記撮像条件記憶手段により記憶された前記評価値を超える場合に、前記撮
像手段に撮像を行わせる構成としてもよい。
この構成によれば、ある期間内において、撮像対象者の感情もしくは場のムードが、比
較的高まった瞬間を逃さずに撮像が行われることが可能となる。
なお、本発明は、撮像装置のほか、撮像方法として概念することが可能である。
【図面の簡単な説明】
【0011】
【図1】本発明の実施形態における撮像装置の構成を表したブロック図である。
【図2】感情・音声パターンと音声数値との関係を二次元グラフで表した図である。
【図3】撮像条件記憶領域に記憶された個々の撮像条件における具体例を表した図である。
【図4】個別設定における静止画像の撮像タイミングを表した図である。
【図5】オート設定における静止画像の撮像タイミングを表した図である。
【図6】検出感情一時記憶領域に保存される検出感情データの例を表した図である。
【図7A】静止画像撮像時における処理フロー図である。
【図7B】静止画像撮像時における処理フロー図である。
【図7C】静止画像撮像時における処理フロー図である。
【図8】動画撮像時の動作例を表した図である。
【図9A】動画撮像時における処理フロー図である。
【図9B】動画撮像時における処理フロー図である。
【図9C】動画撮像時における処理フロー図である。
【図10】撮像データ記憶領域に保存される撮像データの例を表した図である。
【発明を実施するための形態】
【0012】
以下、図面を参照して本発明の実施形態について説明する。
(1)実施形態
図1は、本発明の実施形態における撮像装置1の構成を表したブロック図である。
撮像装置1は、制御部11、記憶部12、マイク13、A/D変換機14、感情認識部
15、時間計測部16、表示部17、操作部18、撮像部19及び電源部20を備えてお
り、これらの各部はバス21を介して互いに接続されている。制御部11は、CPU(Ce
ntral Processing Unit)111、RAM(Random Access Memory)112およびROM
(Read Only Memory)113を有する。CPU111は、ROM113に記憶されている
制御プログラムを読み出しRAM112にロードして実行することにより、撮像装置1の
各部を制御し、例えば表示機能、操作機能、撮像機能、感情認識機能などの各種機能を実
現する。RAM112は、CPU111が処理を行う際のワークエリアとなる。
【0013】
記憶部12は、感情・音声対応パターン121及びユーザー・音声対応パターン122
を記憶しているほか、撮像条件記憶領域123、検出感情一時記憶領域124及び撮像デ
ータ記憶領域125を有する。感情・音声対応パターン121は、例えば喜び、怒り、悲
しみ、笑い等の複数カテゴリーの感情と、人間がこれらの各感情を感じているときに発す
る音声の特徴(これを音声パターンという)を対応付けて記憶したデータベースである。
ここで例えば喜びの感情に対応した音声パターンとは、大量にサンプリングされた、人間
が喜んでいるときに発せられた複数の音声データから、ピッチ、抑揚、音の強度等の複数
に渡る各種パラメータにおいて共通してみられる特徴を抽出し、各パラメータについて求
められた平均値に基づいて、喜びの感情に対応する一つのパターンとして予め形作られた
音声データである。ユーザー・音声対応パターン122は、例えば「山本太郎」や「山田
花子」などの氏名、あるいは「父」などの続柄等、特定の人物を示す名称と、予め登録さ
れた各人物の音声の特徴とを対応付けて記憶したデータベースである。このユーザー・音
声対応パターン122は、撮像開始前にユーザーが予め登録を行うことにより記憶される
ものである。撮像条件記憶領域123は、撮像装置1が撮像を開始する際のトリガーとな
る撮像条件を複数記憶している。検出感情一時記憶領域124は、後述する感情検出部1
52により検出された感情を表すデータ(検出感情データという)を時系列に記憶してい
く記憶領域であり、記憶されたデータは一定のタイミングで消去される。撮像データ記憶
領域125は、撮像された静止画像や動画の画像データが保存される記憶領域である。
【0014】
マイク13は、撮像装置1の周囲の音声を収集する収音装置である。図1においてマイ
ク13は1つしか存在していないが、複数のマイクが撮像装置1に設けられてもよい。ま
た、マイク13の設置位置は、撮像装置1においてレンズが備えられた側である被写体側
のみに設けられてもよいし、被写体側および被写体側の裏面である撮像者側の両側におい
て複数箇所に設けられても良い。A/D変換機14は、マイク13により収音された音を
表すアナログの音声データを、デジタルの音声データに変換するものである。
【0015】
感情認識部15は、音声分析部151、感情検出部152、ユーザー音声登録部153
およびユーザー検出部154を有する。この感情認識部15は、ASIC(Application
Specific Integrated Circuit)などの特定用途向けの集積回路によって構成されている
が、制御部11のCPU111がコンピュータプログラムを実行することによって実現さ
れるものであってもよい。音声分析部151は、A/D変換機14によってデジタルに変
換された音声データについて、ピッチ、抑揚、音の強度等、複数のパラメータを用いて分
析を行い、音声データを定量的に数値化するものである。以降、音声データを音声分析部
151によって数値化したものを、「音声数値」と呼び、この音声数値の元となる音声を
発した人物を、「音声数値の持ち主」と呼ぶ。感情検出部152は、音声数値を感情・音
声対応パターン121と照会し、この音声数値に対応する感情のカテゴリーと、そのカテ
ゴリーにおける感情の度合いを検出するものである。ここで1つの音声数値につき検出さ
れる感情のカテゴリーは、1つのカテゴリーに限ったものではなく、例えばある音声数値
が笑いと喜びに判定された場合には、喜び度60%、笑い度50%といったように2つの
カテゴリーの感情が検出される。以降、感情検出部152により、ある音声数値から検出
された感情を「検出感情」と呼び、この検出感情の元となる音声を発した人物を、「検出
感情の持ち主」と呼ぶ。ユーザー音声登録部153は、音声分析部151によって分析さ
れた音声数値と、その音声を発した人物を特定する名称とを対応付けてユーザー・音声対
応パターン122に記憶するものである。ユーザー検出部154は、音声数値をユーザー
・音声対応パターン122と照会し、この音声数値の持ち主を検出する。このように、音
声分析部151、感情検出部152、ユーザー音声登録部153およびユーザー検出部1
54の各部が相互に作用することにより、ある音声から特定の感情が検出される。また、
音声データ、音声数値および音声パターンは、いずれも何らかの形式を取った音声に関す
るデータであるが、それぞれの差異を説明する。音声データは、収音された音声に基づい
て生成されたデータである。この音声データは、アナログ、デジタルのいずれの形態にお
いても、何らかの処理が行われておらず、音声としてそのまま再生可能なデータである。
音声数値は、ある音声データに基づいて、この音声データにおける音声の特徴が抽出され
数値化されたものである。音声パターンは、特定の感情に対応した音声の特徴が抽出され
数値化された音声数値の集合である。
【0016】
時間計測部16は、待機時間計測タイマー161、判定期間計測タイマー162、及び
撮像時間計測タイマー163を有する。待機時間計測タイマー161は、静止画像撮像時
に、自動で撮像が行われた時点を開始時点として時間の計測を行う。この計測時間は、上
述した撮像条件において設定された待機時間(後述)が経過したかを判定するために用い
られる。判定期間計測タイマー162は、撮像装置1に電源が投入された後、最初の検出
感情が検出感情一時記憶領域124に保存された時点を開始時点として時間の計測を行う
。この計測時間は、撮像条件において設定された判定期間(後述)が経過したかを判定す
るために用いられる。撮像時間計測タイマー163は、動画撮像時に、自動で動画の撮像
が開始された時点を開始時点として時間の計測を行う。この計測時間は、撮像条件におい
て設定された撮像時間(後述)が経過したかを判定するために用いられる。
【0017】
表示部17は、液晶等で構成された表示体を有し、この表示体に、メニューや撮像中の
画像を表示したり、撮像データ記憶領域125に保存された撮像データを再生表示したり
する。操作部18は、各種の操作ボタンや操作キーを有しており、操作されたボタンやキ
ーに応じた信号を制御部11に供給する。これらの操作ボタンや操作キーは、例えば撮像
開始、撮像停止、撮像データ再生、動画撮像と静止画像撮像の切替、ユーザーにより撮像
の指示が直接操作される手動撮像モードと撮像装置1に撮像の判断を任せる自動撮像モー
ドの切替、およびメニュー表示等をユーザーが撮像装置1に指示するために用いられる。
撮像部19は、撮像レンズ、固体撮像素子、アナログ信号処理部、A/D変換機、発光部
、受光部、および、撮像レンズと固体撮像素子の間にそれぞれ設けられた絞り機構、赤外
線カットフィルタ、光学ローパスフィルタ等を備える。この撮像部19は、操作部18を
介してユーザーにより撮像を開始する操作が行われるか、もしくは撮像条件記憶領域12
3に記憶されておりユーザーにより選択された撮像条件が満たされた場合に、静止画像も
しくは動画の撮像を行う。電源部20は、バッテリーを有し、このバッテリーから撮像装
置1への電力供給を制御する。
【0018】
図2は、感情・音声パターンと音声数値との関係を二次元グラフで表した図である。
この図2を用いて、ある音声数値から特定の感情が検出される際の仕組みを説明する。
音声分析部151は、前述したように、デジタルデータに変換された音声データについて
、ピッチ、抑揚、音の強度等、複数のパラメータを用いて分析を行い、音声データを定量
的に数値化する。そのため、音声数値は複数次元のパラメータを有しているが、本実施形
態のものは、これに主成分分析を行って全体の持つ情報量を保持しつつデータの次元を下
げている。ここでは、理解を容易にするため、音声数値および各カテゴリーの感情に紐付
けられた音声パターンを2次元まで下げたものとして説明を行う。ここで、二次元グラフ
はX軸およびY軸で構成され、二次元に変換された音声数値は二次元グラフ中の(X,Y
)に相当する座標が与えられる。図2中の点Aは、ある音声数値の二次元グラフ上の座標
である。図2における音声パターン領域31〜34は、感情・音声対応パターン121に
予め記憶されている複数のカテゴリーの感情に紐付けられた各音声パターンが存在する領
域を表し、それぞれ、笑いの音声パターン領域31、喜びの音声パターン領域32、怒り
の音声パターン領域33、悲しみの音声パターン領域34である。音声パターン領域31
〜34は、点ではなく、図2で表されるように例えば楕円形のような、一定の範囲を持っ
た領域として二次元グラフ上に割り当てられる。これは、あるカテゴリーの感情に紐付け
られた音声パターンは、前述したように多数のサンプリングされた音声データに基づいた
複数の音声数値より作成されたものであるため、ユーザー・音声対応パターン122に記
憶される音声数値のように1点に集約するものではなく、その特徴を表す範囲内に、該当
する音声数値が複数存在するからである。
【0019】
感情検出部152により行われる、感情のカテゴリーおよびそのカテゴリーにおける感
情の度合いの判定は、いわゆるマハラノビスの距離に基づいている。マハラノビスの距離
というのは、カテゴリーのデータ中心(一般的に言えば、母集団の重心位置)から判定対
象となるデータまでの距離であって、この距離が短いほど判定対象のデータはそのカテゴ
リーの属性に近く、そのカテゴリーに属するする度合いが高い、つまり、感情の度合いが
高いということが出来る。尚、カテゴリーのデータ中心というのは、そのカテゴリーが有
する特徴量の平均値のことである。具体的に言えば、図2において、1つの音声パターン
は、2次元に変換された複数の特徴量を持っているから、各特徴量について、それぞれカ
テゴリー内の平均をとった2次元のデータが、カテゴリーのデータ中心である。図2に示
す点41は笑いのカテゴリーのデータ中心であり、点42は喜びのカテゴリーのデータ中
心であり、点43は怒りのカテゴリーのデータ中心であり、点44は悲しみのカテゴリー
のデータ中心である。感情検出部152は、音声数値を表す点Aと、各カテゴリーのデー
タ中心とを比較して、各カテゴリーの感情における感情の度合いを算出し、次に、この音
声数値に該当する感情のカテゴリーを検出する。感情の度合いは、点Aと各カテゴリーの
データ中心との間の距離に基づき、パーセンテージで算出される。点Aとカテゴリーのデ
ータ中心の距離が近いほど、そのカテゴリーに該当する感情の度合いが大きく、距離が遠
ざかるにつれて、算出される感情の度合いは小さくなる。
【0020】
感情検出部152は、各カテゴリーのデータ中心と、二次元グラフに割り当てられた音
声数値の座標との距離に基づいて、カテゴリー毎の感情の度合いを算出するための変換式
を記憶している。例えば図2において、点Aは上述の変換式に基づいて、怒りの感情の度
合いが「50%」と検出される。さらに、ある音声数値が或る感情のカテゴリーに属する
かどうかの判定は、上述の変換式に基づいてカテゴリー毎に算出された感情の度合いが、
予め定められた一定の値以上を満たした場合、そのカテゴリーの感情に該当するというふ
うになされる。この予め定められた一定の値とは、例えば「5%以上」であり、ROM1
13に予め変数として記憶されているものである。例えば図2において、点Aにおける音
声数値から、怒り以外の各カテゴリーの感情について算出された感情の度合いが、予め定
められた一定の値に満たなかったとすると、感情検出部152は、点Aにおける音声数値
に対して「怒り度50%」の感情のみを検出する。なお、図2において図示された感情の
カテゴリーは「笑い」、「喜び」、「悲しみ」、「怒り」の4種類であるが、これに限ら
ず、さらに「興奮」、「平常」「リラックス」等の別のカテゴリーが追加されても良い。
ただし、その場合、各カテゴリーの感情と、その感情に対応する音声パターンを対応付け
た組が、感情・音声対応パターン121に予め記憶されている必要がある。
【0021】
図3は、撮像条件記憶領域123に記憶された個々の撮像条件における具体例を表した
図である。
撮像条件51〜56は、ユーザーにより各々異なる設定がされ、撮像条件記憶領域12
3に記憶された個々の撮像条件の例である。個々の撮像条件が有する設定項目として、「
モード」設定、「感情」設定、「感情認識対象者」設定、「待機時間」設定、「判定期間
」設定、及び「撮像時間」設定がある。以下では、説明の便宜上、感情設定、感情認識対
象者設定、待機時間設定、モード設定、判定期間設定、撮像時間設定という順序でその詳
細を説明していく。
【0022】
まず、感情設定は、ユーザーが撮像を望むシーンに対応した感情のカテゴリーと、撮像
開始の基準に用いる該当カテゴリーにおける感情の度合いを表す数値との組み合わせを設
定する設定項目である。感情設定は、後述するモード設定において個別設定あるいはオー
ト設定のどちらが選択されたかによって、その設定内容が異なる。撮像条件51〜54は
、モード設定において個別設定が選択された撮像条件であり、撮像条件55,56は、モ
ード設定においてオート設定が選択された撮像条件である。モード設定において個別設定
が選択された場合、感情設定における感情の度合いは、撮像を開始する際の閾値が設定さ
れ、検出感情における感情の度合いが、この閾値を越えた場合に撮像が行われる。例えば
ユーザーが幸せなシーンの撮像を望み、モード設定において個別設定を選択した場合、撮
像条件51のように、「喜び度が60%以上」というような設定となる。モード設定にお
いてオート設定が選択された場合、感情設定における感情の度合いは、一定期間における
過去の複数の検出感情において最も高い感情の度合いを持つ検出感情を100%としたと
きに、ある瞬間の検出感情が、一定期間における過去の複数の検出感情と相対的に比較し
て、上位何%に当たるか、といった相対的な基準で設定される。例えばユーザーが楽しい
シーンの撮像を望み、モード設定においてオート設定を選択した場合、撮像条件55のよ
うに、「笑い度が一定期間における上位5%」というような設定となる。また、感情設定
においては、複数のカテゴリーの感情を、and条件もしくはor条件で組み合わせて設
定することが可能である。例えば、撮像条件53は、ユーザーが楽しいシーンの撮像を望
んだ際の設定の一例である。この撮像条件53では、喜び度が60%以上、又は笑い度が
50%以上、という感情設定がされており、どちらか一方あるいは両方の条件を満たした
場合に撮像が行われる。また、撮像条件54では、怒り度60%以上、及び悲しさ度40
%以上、という感情設定がされており、両方の条件を満たした場合にのみ撮像が行われる

【0023】
感情認識対象者設定は、ユーザーが撮像を望む対象者を設定する設定項目である。例え
ば特定のユーザーAを撮像したいとユーザーが思った場合、撮像条件52のように、感情
認識対象者にユーザーAを設定する。ここで設定できる特定の個人は、予めユーザー音声
登録部153を介してユーザー・音声対応パターン122に音声数値が登録されたユーザ
ーに限る。感情認識対象者にユーザーAが設定された場合、ユーザー検出部154は、音
声分析部151によって音声データが分析された結果である音声数値と、ユーザー・音声
対応パターン122に予め記憶されたユーザーAの音声数値の比較を行い、両者の間に一
定以上の相似が見られるかどうかの判定を行う。この判定の結果、両者の間に一定以上の
相似が見られた場合、ユーザー検出部154は、この音声数値の持ち主としてユーザーA
を検出する。ユーザー検出部154は、この判定の結果および検出した音声数値の持ち主
をCPU111に通知する。ここで、両者の間に一定以上の相似が見られないとユーザー
検出部154が判定した場合、CPU111は、通知された判定に基づいて、音声を発し
た人物が設定された感情認識対象者と異なる、すなわち撮像条件が満たされていないと判
断し、撮像部19に撮像の旨を指示しない。また、特定の人物に限らず、場のムードに合
わせて撮像したいと思った場合、ユーザーは、感情認識対象者として「雰囲気」という内
容を設定する。ここで雰囲気とは、実際にはマイク13で収音される際に複数の人物によ
り音声が発せられていた場合の、この複数の音声の合成である。感情認識対象者に雰囲気
が設定された場合、合成された音声から音声分析部151が算出した音声数値において特
徴的な感情が検出される。
【0024】
待機時間設定は、静止画像撮像時のみ有効となる設定項目であり、選択された撮像条件
が満たされ自動で撮像が行われた後、次にこの撮像条件を満たしても撮像を行わず待機す
る時間の間隔を設定するものである。前述したように、検出感情が撮像条件を満たす場合
には撮像が行われるが、このような撮像条件を満たす検出感情に対応するような音声は一
定時間継続して発生する可能性が高い。このような場合、検出感情が撮像条件を満たして
いる時間帯において制限なく撮像を自動的に繰り返すと、同じような撮像データが大量に
記憶されることによって、短時間で撮像データ記憶領域125が要領オーバーになってし
まい、その後の多様な撮像機会を逃すような事態に陥ることがある。この待機時間設定は
、そのような問題を防止するために設定される。静止画像撮像時に、例えば待機時間に1
分が設定された撮像条件51が選択された場合、撮像条件が満たされて自動で撮像が行わ
れた後、この撮像時点から1分が経過するまでの期間は、再び撮像条件を満たすことがあ
っても、CPU111は撮像部19に対して撮像の旨を通知することはない。つまり、こ
の間、撮像装置1は撮像待機状態にある。そして、待機時間計測タイマー161により上
記の1分が経過すると、待機時間計測タイマー161は設定された待機時間が経過した旨
をCPU111に通知する。この通知に従って、CPU111は撮像待機状態を解除し、
この解除以降において撮像条件が満たされる場合には、自動で撮像が行われる。なお、動
画撮像時には待機時間設定が無効であるが、これは、動画の場合、一度撮像が開始されれ
ば、ユーザーにより撮像停止の操作が行われるか、あるいは撮像部19がCPU111よ
り撮像終了の通知を受けるまでは、撮像が継続して行われ、再度撮像開始の指示を受ける
必要がないからである。
【0025】
モード設定は、検出感情における感情の度合いの判定方法が異なるモードを切り替える
ための設定項目である。このモード設定で設定されるモードには、個別設定とオート設定
があり、これらは、感情設定の設定内容および判定期間設定の設定の有無が異なる。
まず、個別設定は、撮像装置1が自動で撮像を開始する際の基準となる個々の設定項目
を、ユーザーの好みに応じて個別に設定する際のモードである。個別設定においては、判
定期間設定は設定不要のため、モード設定に個別設定が選択されると、判定期間設定は、
例えば「−」のように表示され、設定することが出来ないようになるか、もしくは設定を
行っても動作に影響しないようになっている。また個別設定においては、前述したように
、感情設定における感情の度合いは、撮像を開始する際の閾値が設定される。すなわち、
個別設定において撮像条件が満たされた場合、CPU111は、撮像部19に対して撮像
の旨を通知し、撮像部19は、この通知に従ってユーザーの操作を介することなく、静止
画像もしくは動画の撮像を行う。
【0026】
次に、オート設定は、個別設定のように撮像開始の閾値として感情の度合いの絶対値を
設定するものではなく、一定期間における相対的な感情の度合いを撮像開始のトリガーと
するモードである。このオート設定は、例えばユーザーが楽しいシーンを撮像したいと思
った時に、ある一定期間において、絶対的にそれ程盛り上がっている状況でなくとも、そ
の中から比較的盛り上がっているタイミングを狙って撮像したい場合に選択される。この
オート設定における感情のカテゴリー、感情認識対象者および待機時間における設定は、
個別設定と同じであるが、前述したように、感情の度合いにおける設定が個別設定と異な
り、さらに判定期間の設定が有効になっている。オート設定の撮像条件が選択されると、
時系列に沿って検出される検出感情が、検出感情一時記憶領域124に蓄積されていく。
そして、後述する判定期間に設定された時間が経過すると、CPU111により、その後
最も新しく検出された検出感情と、判定期間中に検出感情一時記憶領域124に蓄積され
た複数の検出感情との比較が行われる。すなわち、撮像条件55が選択された際を例にあ
げると、判定期間に設定された1分間は、撮像が行われることなく、その都度の検出感情
が検出感情一時記憶領域124に蓄積して記憶される。そして、判定期間に設定された1
分間が経過すると、以降の検出感情について、検出感情一時記憶領域124に蓄積された
複数の検出感情のうち最も高い感情の度合いを持つ検出感情を100%としたときに、以
降の検出感情における感情の度合いが、検出感情一時記憶領域124に蓄積された複数の
検出感情と比較して上位5%に当たるかどうかの判定が行われる。
【0027】
判定期間設定は、モード設定がオート設定の際に有効となる設定項目である。判定期間
設定では、撮像を行わずに音声を収音し、その音声から得られた検出感情を検出感情一時
記憶領域124に保存する初期期間と、この初期期間経過後に、検出感情一時記憶領域1
24に蓄積保存された複数の検出感情における比較範囲を更新する周期とが設定される。
例えば撮像条件56が選択された場合、撮像装置1に電源が投入された後、最初の検出感
情が検出感情一時記憶領域124に保存された時点を開始時点として判定期間計測タイマ
ー162によって時間の計測が行われる。そして、初期期間に設定された3分間が経過し
た事を判定期間計測タイマー162がCPU111に通知するまでは、撮像が行われるこ
となく、経過する時間に沿ってその都度検出された検出感情が検出感情一時記憶領域12
4に保存される。判定期間計測タイマー162から、初期期間に設定された3分間が経過
したことがCPU111に通知されると、CPU111は、3分間経過以降における検出
感情を、その前の3分間に検出感情一時記憶領域124に蓄積された複数の検出感情と比
較して、感情設定に設定された感情の度合いを満たすかどうかの判定を行う。ここで、初
期期間経過以降の検出感情が、感情設定に設定された感情の度合いをしばらく満たさない
状態が続き、判定期間設定に設定された周期である1分間がさらに経過すると、検出感情
一時記憶領域124に蓄積された複数の検出感情における比較範囲が更新される。すなわ
ち、初期期間の3分間と周期に設定された1分間を合計した4分間に、検出感情一時記憶
領域124に蓄積された複数の検出感情が比較範囲となる。このように比較範囲を更新す
る周期を設定する理由は、一定のタイミングで比較範囲を更新する都度、比較対象の母数
が増え、比較が行われた際の判定の精度が向上するためである。
【0028】
撮像時間設定は、動画撮像時に、自動撮像が開始されてから動画を撮像し続ける時間を
設定する設定項目である。この撮像時間設定は、動画撮像時にのみ有効となり、静止画像
撮像時には無効となり、動作に影響を及ぼすことは無い。撮像時間計測タイマー163は
、自動で動画の撮像が行われた時点を開始時点として、時間の計測を行い、設定された撮
像時間が経過した際に、その旨をCPU111に通知する。CPU111は、この通知に
従って動画の撮像を終了する。
【0029】
上記のように、撮像条件記憶領域123は、ユーザーが操作部18を用いることにより
それぞれ任意に設定された、モード設定、感情設定、感情認識対象者設定、待機時間設定
、判定期間設定及び撮像時間設定の組み合わせからなる個々の撮像条件を複数記憶してい
る。ユーザーはその時の気分や場の雰囲気に合わせて、撮像条件記憶領域123に記憶さ
れた撮像条件の中から、自身が所望する撮像条件を自由に選択することが可能である。ま
た、ユーザーは一度設定した撮像条件を、操作部18を用いて変更することが可能である
。さらに、撮像条件記憶領域123が記憶できる撮像条件の数は、例えば図3では6個表
示されているが、これに限らず、撮像装置1が保持している記憶媒体の記憶容量に応じて
、多くしても良いし少なくしても良い。
【0030】
図4は、個別設定における静止画像の撮像タイミングを表した図である。
ここで、撮像条件は図3における撮像条件51が選択されているとする。つまり、感情
設定に「喜び度60%以上」、感情認識対象者に「雰囲気」、待機時間に「1分」が設定
されている。なお、ここでは、モード設定が個別設定のため、判定期間設定は動作に影響
を及ぼさないし、また、静止画像の撮像のため、撮像時間設定は動作に影響を及ぼさない
。図4において、横軸は時間を表し、縦軸は喜び度を表している。縦軸において、図中の
上に行く程、検出感情の喜び度が高い。喜び度検出曲線60は、各時点において検出され
た喜びの度合いを表す各点を、時系列に結んだものであり、時間の経過に伴って検出され
た喜びの度合いが変化していく模様を表している。閾値線61は、縦軸に取られた喜び度
において、撮像条件に設定された自動で撮像が開始する際の閾値「60%」を表している
。シャッターチャンス62は、検出感情の感情の度合いがこの閾値を越えており、撮像条
件を満たしている時間帯であり、この時間帯に撮像がなされる。
【0031】
図4において、撮像装置1は、「2010/5/12 18:20:00」の時点に電源
が入れられ、マイク13が十分に周囲の音声を収音可能な位置に設置されて、自動撮像の
セッティングが完了する。セッティングが完了すると、感情検出部152は、マイク13
により収音された音声が音声分析部151により分析された音声数値から、定期的に感情
を検出し、CPU111に通知する。図4において、喜び度検出曲線60は、セッティン
グが完了してからしばらくの間、閾値60%に満たない値を取っているが、「2010/
5/12 18:30:00」の時点で、感情検出部152により閾値線61を超える喜
びの度合いを持つ感情が検出される。このとき、検出感情における喜び度が閾値60%を
超えており、さらに撮像待機状態でもないため、CPU111は、撮像条件51が満たさ
れていると判断し、撮像部19に対して静止画像を撮像する旨を通知する。撮像部19は
、この通知に従い自動で撮像を行う。このように、CPU111が、検出感情と撮像条件
とに基づいて判定を行い、判定の結果に基づいて撮像を制御している。撮像の後、待機時
間計測タイマー161は、撮像時点から経過する時間の計測を開始する。CPU111は
、待機時間に設定された1分が経過した旨の通知を待機時間計測タイマー161より受け
るまで、検出感情が設定された閾値を越えていても、撮像部19に対して撮像の旨を通知
しない。つまり、撮像が行われると、以降の検出感情が設定された閾値を越えていても、
設定された待機時間が経過するまで、CPU111は、撮像条件が満たされていないとみ
なす。そして、撮像が行われた「2010/5/12 18:30:00」の時点から、待
機時間に設定された1分間が経過したことを待機時間計測タイマー161が計測すると、
待機時間計測タイマー161は、待機時間が終了した旨をCPU111に通知する。
【0032】
この後、「2010/5/12 18:30:00」の時点から、待機時間に設定された
1分が経過した「2010/5/12 18:31:00」の時点で、検出感情が閾値6
0%を越えているため、再び、CPU111は、撮像条件を満たしていると判断し、撮像
の旨を撮像部19に対して通知する。撮像部19は、この通知に従い自動で撮像を行う。
さらに、撮像が行われた「2010/5/12 18:31:00」の時点より、待機時
間に設定された1分が経過した「2010/5/12 18:32:00」の時点では、
検出感情が閾値60%に満たず、撮像条件が満たされていないため、自動で撮像が行われ
ることは無い。以降、ユーザーにより自動撮像モードから手動撮像モードへの切替が行わ
れるか、ユーザーにより自動撮像停止の操作がおこなわれるか、ユーザーにより電源が切
られるか、あるいはバッテリーが尽きるまで、上述と同様の動作によって、撮像条件を満
たすタイミングにおいて自動で撮像が行われる。
なお、各時点における検出感情は、複数のカテゴリーの感情および感情の度合いを含む
場合がある。例示した図4においては、撮像条件51の感情設定に「喜び度」が設定され
ており、検出感情に含まれる感情のカテゴリーとして喜びのみを対象に判定すればよいた
め、縦軸を喜び度に限定していたが、複数のカテゴリーの感情が設定された場合には、そ
れぞれの感情について図4と同じ手法で考えればよい。
【0033】
次に、図5は、オート設定における静止画像の撮像タイミングを表した図である。
ここで、撮像条件は、図3における撮像条件55が選択されているものとする。つまり
、感情設定に「笑い度が一定期間における上位5%」、感情認識対象者に「雰囲気」、待
機時間に「30秒」、判定期間に、初期期間として「1分」、比較範囲更新の周期として
「30秒毎」が設定されている。なお、図5においては、静止画像の撮像のため、撮像時
間設定は動作に影響を及ぼさない。図5において、横軸は時間を表し、縦軸は笑い度を表
している。笑い度検出曲線70は、各時点において検出された笑いの度合いを表す各点を
、時系列に結んだものであり、時間の経過に伴って検出された笑いの度合いが変化してい
く模様を表している。直線71は、図5において選択された撮像条件55とは関係ないが
、図4における個別設定との比較を分かりやすくするために図示したものであり、60%
の笑い度を表したものである。シャッターチャンス72は、撮像条件を満たしている時間
帯であり、この時間帯に撮像がなされる。
【0034】
図5において、撮像装置1は、図5で表された「2010/7/5 20:15:15」
の時点で電源が入れられ、マイク13が十分に周囲の音声を収音可能な位置に設置されて
、自動撮像のセッティングが完了する。セッティングが完了すると、感情検出部152は
、マイク13により収音された音声が音声分析部151により分析された音声数値から、
定期的に感情を検出し、CPU111に通知する。図5において、「2010/7/5 2
0:15:21」は、セッティングが完了した後に初めて感情が検出された時点である。
この時点を開始時点として、判定期間計測タイマー162は、経過する時間を計測する。
初めて感情が検出された「2010/7/5 20:15:21」の時点から、判定期間に
初期期間として設定された1分間が経過したことが判定期間計測タイマー162からCP
U111に通知されるまでは、撮像が行われることなく、その都度の検出感情が時系列に
沿って、検出感情一時記憶領域124に蓄積して保存される。「2010/7/5 20:
15:21」の時点から、判定期間に初期期間として設定された1分間が経過した「20
10/7/5 20:16:21」の時点以降、CPU111は、感情検出部152により
都度検出された検出感情と、1分間に検出感情一時記憶領域124に蓄積して保存された
複数の検出感情との比較を行う。
【0035】
ここで、図5における点Cは、設定された初期期間に該当する「2010/7/5 20
:15:21」から「2010/7/5 20:16:21」の間に検出された検出感情の
うち、最も高い笑いの感情の度合いを持つ検出感情であり、図5における点Dは、初期期
間経過後、すなわち「2010/7/5 20:16:21」の時点以降に検出された検出
感情のうちの一つである。比較範囲αは、検出感情一時記憶領域124に蓄積して保存さ
れた複数の検出感情のうち、設定された初期期間に該当する「2010/7/5 20:1
5:21」から「2010/7/5 20:16:21」の間に蓄積された、点Dの比較範
囲である。この比較範囲は、時間間隔を表す数値として、RAM112に変数として記憶
される。「2010/7/5 20:16:21」の時点で、この変数として記憶される値
は、初期期間に設定された期間と同様の「1分間」である。ここで点Cにおける検出感情
が持つ笑いの度合いが、絶対値として30%であった場合、CPU111は、この30%
を、比較範囲αにおける比較の基準値100%として、点Dにおける検出感情が持つ笑い
の度合いが、比較範囲αにおける複数の検出感情が持つ笑いの度合いと比較して、感情設
定に設定された「上位5%」に当たるかどうかの判定を行う。ここで、点Dにおける検出
感情が持つ笑いの度合いは、図5に表されるように、比較範囲αにおいて「上位5%」に
当たらないため、CPU111は、選択された撮像条件55を満たさないと判断し、自動
で撮像が行われることは無い。
【0036】
以降、感情検出部152が感情を検出する毎に、CPU111は、検出した最新の検出
感情が持つ笑いの度合いと、検出感情一時記憶領域124に蓄積して保存された比較範囲
αにおける複数の検出感情が持つ笑いの度合いとを比較して、最新の検出感情が持つ笑い
の度合いが、感情設定に設定された「上位5%」に当たるかどうかの判定を行う。図5に
おいて、初期期間が経過した「2010/7/5 20:16:21」の時点以降しばらく
の間、検出感情は、「上位5%」に満たない笑いの度合いとなっている。次に、初期期間
が経過した「2010/7/5 20:16:21」の時点から、判定期間に比較範囲更新
の周期として設定された「30秒」が経過した「2010/7/5 20:16:51」の
時点で、比較範囲αと比較して「上位5%」に当たる笑いの度合いを持つ感情が検出され
なかったため、CPU111は、周期として設定された30秒分、比較範囲をさらに広く
取り、比較範囲をαからβに更新する。具体的には、CPU111は、比較範囲を表す変
数の値を「1分間」から「1分間30秒」に更新する。比較範囲がβに更新された「20
10/7/5 20:16:51」の時点以降、感情が検出される毎に、CPU111は、
その最新の検出感情が持つ笑いの度合いと、比較範囲βにおける複数の検出感情が持つ笑
いの度合いとを比較して、感情設定に設定された「上位5%」に当たるかどうかの判定を
行う。
【0037】
この結果、「2010/7/5 20:17:05」の時点で、比較範囲βにおける複数
の検出感情が持つ笑いの度合いと相対的に比較して、感情設定に設定された「上位5%」
に当たる笑いの度合いを持つ検出感情が検出される。この検出感情が感情設定における条
件を満たしており、さらに撮像待機状態でもないため、CPU111は、撮像条件55が
満たされていると判断し、撮像部19に対して静止画像を撮像する旨を通知する。撮像部
19は、通知に従い自動で撮像を行う。撮像の後、待機時間計測タイマー161は、撮像
時点から経過する時間の計測を開始する。CPU111は、待機時間に設定された30秒
が経過した旨の通知を待機時間計測タイマー161より受けるまで、検出感情が感情設定
における条件を満たしていても、撮像部19にたいして撮像の旨を通知しない。つまり、
撮像が行われると、以降の検出感情が感情設定における条件を満たしていても、設定され
た待機時間が経過するまで、CPU111は、撮像条件が満たされていないとみなす。そ
して、撮像が行われた「2010/7/5 20:17:05」の時点より、待機時間に
設定された30秒が経過した「2010/7/5 20:17:35」の時点では、この
時点の検出感情が持つ笑いの度合いが、比較範囲βにおける複数の検出感情が持つ笑いの
度合いと比較して、「上位5%」に当たらず、撮像条件が満たされていないため、自動で
撮像が行われることは無い。以降、ユーザーにより自動撮像モードから手動撮像モードへ
の切替が行われるか、ユーザーにより自動撮像停止の操作がおこなわれるか、ユーザーに
より電源が切られるか、あるいはバッテリーが尽きるまで、上述と同様の動作によって、
撮像条件を満たすタイミングにおいて自動で撮像が行われる。
【0038】
図6は、検出感情一時記憶領域124に保存される検出感情データの例を表した図であ
る。
検出感情一時記憶領域124に保存される個々の検出感情データは、ID、タイムスタ
ンプおよび感情フラグからなる。IDは、個々の検出感情データを一意に認識するための
ものであり、例えば任意の桁数による数字の組み合わせ等で表される。IDは、検出感情
データが検出感情一時記憶領域124に保存される際、一意に割り当てられた値であり、
例えば6桁の数字である。タイムスタンプは、個々の検出感情データが検出感情一時記憶
領域124に保存された時刻である。感情フラグは、個々の検出感情データに含まれる、
感情のカテゴリーおよび、そのカテゴリーの感情の度合いを表す。
【0039】
図6において検出感情一時記憶領域124に保存された検出感情データは、図5におけ
るオート設定による静止画像撮像時の複数の検出感情と対応している。例えば図6中のI
D「000001」の検出感情データは、図5において、セッティングが完了した後に初
めて検出された検出感情である。CPU111は、オート設定における検出感情の比較を
行う際の比較範囲を、RAM112に記憶された変数の値と、検出感情一時記憶領域12
4に保存された検出感情データのタイムスタンプとに基づいて判断する。すなわち、CP
U111は、検出感情一時記憶領域124に保存された複数の検出感情データのうち、タ
イムスタンプに最も過去の時刻を持つ検出感情データから、この検出感情データの持つタ
イムスタンプにおける時刻に、比較範囲を表す変数に値として保持された時間を加算した
時刻以内のタイムスタンプを持つ検出感情データまでを比較範囲と判断する。図5におい
て、判定期間に設定された初期期間経過後から周期が経過しない期間に比較範囲となるの
は、「2010/7/5 20:15:21」から「2010/7/5 20:16:2
1」の間における検出感情、つまり図6中のID「000001」からID「00000
13」までの検出感情データである。比較範囲における検出感情データのうち、感情設定
に設定されたカテゴリーの感情を含まないものは、比較の対象外となる。例えば、図5に
おいて初期期間の1分経過後、さらに周期である30秒が経過した場合、比較範囲となる
のは、タイムスタンプが「2010/7/5 20:15:21」から「2010/7/
5 20:16:51」以内である検出感情データ、つまり図6中のID「000001
」からID「0000020」までの検出感情データであるが、ID「000014」お
よびID「000015」の検出感情データは、感情設定に設定された「笑い度」を含ん
でいないため、CPU111は、この2つの検出感情データを比較の際に対象外とする。
【0040】
図7A、図7Bおよび図7Cは、静止画像撮像時における処理フロー図である。尚、図
7A〜図7Cの処理フローにおいては、撮像装置1の電源は常にオンの状態かつ撮像デー
タ記憶領域125に充分な容量が確保されており、かつ静止画像の撮像であることが前提
であり、ユーザーにより電源がオフにされるか、バッテリーが尽きるか、撮像データ記憶
領域125が容量オーバーとなるか、あるいは動画撮像に切り替えられると、その段階で
処理を終了する。
まず、撮像装置1は、自動撮像モードである場合(図7AステップS1;YES)、マ
イク13により周囲の音声が収音される(図7AステップS2)。手動撮像モードであっ
た場合(図7AステップS1;NO)、検出感情一時記憶領域124をフォーマットし(
図7CステップS17)、自動撮像の処理を終了する。撮像装置1が、自動撮像モードで
あり(図7AステップS1;YES)、収音した音声を処理対象とするサンプリング周期
に該当する場合(図7AステップS3;YES)、収音された音声は、A/D変換機14
により、アナログの音声データからデジタルの音声データに変換される(図7Aステップ
S4)。サンプリング周期に該当しない場合(図7AステップS3;NO)、図7Aステ
ップS1の判定に戻る。デジタルに変換された音声データは、音声分析部151により分
析のうえ数値化がなされ、音声数値が算出される(図7AステップS5)。
【0041】
ここで、選択された撮像条件において、感情認識対象者に雰囲気ではなく特定のユーザ
ーが設定されていた場合(図7AステップS6;YES)、ユーザー検出部154は、算
出された音声数値とユーザー・音声対応パターン122との照会を行い、ユーザー・音声
対応パターン122に予め登録された音声数値のうち、算出された音声数値と一定以上の
相似が認められる音声数値を特定し、算出された音声数値に対応するユーザーを検出する
(図7AステップS7)。算出された音声数値とユーザー・音声対応パターン122とを
照会した結果、算出された音声数値が、感情認識対象者に設定された特定のユーザーに該
当すると判定された場合(図7AステップS8;YES)、感情検出部152により、こ
の音声数値と感情・音声対応パターン121との照会が行われ、この音声数値に該当する
検出感情、すなわち該当する感情のカテゴリーおよび、そのカテゴリーにおける感情の度
合いが検出される(図7AステップS9)。算出された音声数値とユーザー・音声対応パ
ターン122とが照会された結果、この音声数値が、感情認識対象者に設定された特定の
ユーザーに該当しないと判定され(図7AステップS8;NO)、ユーザーにより自動撮
像を停止する操作が行われると(図7CステップS16;YES)、CPU111は、検
出感情一時記憶領域124をフォーマットし(図7CステップS17)、自動撮像の処理
を終了する。ユーザーにより自動撮像を停止する操作が行われていない場合(図7Cステ
ップS16;NO)、図7AステップS1の判定に戻る。選択された撮像条件において、
感情認識対象者に特定のユーザーではなく雰囲気が設定されていた場合(図7Aステップ
S6;NO)、図7AステップS7および図7AステップS8を経ずに、感情検出部15
2により、音声数値と感情・音声対応パターン121との照会が行われ、この音声数値に
該当する感情が検出される(図7AステップS9)。
【0042】
音声数値に該当する感情が検出(図7AステップS9)された後、選択された撮像条件
においてモード設定が個別設定である場合(図7BステップS10;NO)、CPU11
1により、検出感情が、選択された撮像条件の感情設定を満たしているか、すなわち、検
出感情が、設定された感情のカテゴリーに該当し、設定された閾値を越えるこのカテゴリ
ーの感情の度合いを持っているかの判定が行われる(図7BステップS11)。検出感情
が、選択された撮像条件の感情設定における条件を満たさない場合(図7BステップS1
1;NO)、図7CステップS16の判定に進む。検出感情が、選択された撮像条件の感
情設定における条件を満たす場合(図7BステップS11;YES)、撮像装置1が撮像
待機状態かの判定が行われる(図7CステップS12)。すなわち、これ以前に自動で撮
像が行われており、以降、CPU111が、待機時間計測タイマー161より待機時間が
経過した旨の通知を受けていない場合(図7CステップS12;YES)、図7Cステッ
プS16の判定に進む。CPU111が、待機時間計測タイマー161より、待機時間が
経過した旨の通知を受けている、もしくはこれ以前に撮像が行われておらず、撮像待機状
態では無い場合(図7CステップS12;NO)、CPU111は、撮像部19に撮像の
旨を通知し、この通知に従って、撮像部19は自動で撮像を行う(図7CステップS13
)。
【0043】
撮像(図7CステップS13)が完了すると、CPU111は、撮像データを撮像デー
タ記憶領域125に保存する(図7CステップS14)。CPU111は、待機時間計測
タイマー161をリセットし、待機時間計測タイマー161は、この時点を開始時点とし
て、経過する時間の計測を開始する(図7CステップS15)。次に、ユーザーにより自
動撮像を停止する操作が行われていない場合(図7CステップS16;NO)、ステップ
S1の判定に戻る。ユーザーにより自動撮像を停止する操作が行われた場合(図7Cステ
ップS16;YES)、CPU111は、検出感情一時記憶領域をフォーマットし(図7
CステップS17)、自動撮像の処理を終了する。
【0044】
図7BステップS18〜図7BステップS24は、モード設定がオート設定であった場
合(図7BステップS10;YES)の処理フローである。CPU111は、検出感情を
検出感情一時記憶領域124に保存する(図7BステップS18)。ここで、保存された
検出感情が、検出感情一時記憶領域124に最初に保存された検出感情データであった場
合(図7BステップS19;YES)、判定期間計測タイマー162は、この時点を開始
時点として、経過する時間の計測を開始する(図7BステップS20)。次に、CPU1
11が、判定期間計測タイマー162より、選択された撮像条件の判定期間に設定された
初期期間が経過している旨の通知を受けているかの判定が行われる(図7BステップS2
1)。CPU111により検出感情データが保存された際に、検出感情一時記憶領域12
4に、それ以前の検出感情データが既に存在していた場合(図7BステップS19;NO
)、判定期間計測タイマー162による計時は開始されているため、図7BステップS2
0を経ずに図7BステップS21の判定が行われる。
【0045】
CPU111が、判定期間計測タイマー162より、選択された撮像条件の判定期間に
設定された初期期間が経過している旨の通知を受けていない場合(図7BステップS21
;NO)、図7CステップS16の判定に進む。CPU111が、判定期間計測タイマー
162より、選択された撮像条件の判定期間に設定された初期期間が経過している旨の通
知を受けており(図7BステップS21;YES)、さらにCPU111が、判定期間計
測タイマー162より、選択された撮像条件の判定期間に設定された周期が経過している
旨の通知を受けている場合(図7BステップS22;YES)、CPU111は、RAM
112に記憶された比較範囲を表す変数の値を更新する(図7BステップS23)。次に
、CPU111は、検出感情と、検出感情一時記憶領域124に記憶された複数の検出感
情データのうち、比較範囲の検出感情データとの相対的な比較を行い、検出感情が、選択
された撮像条件に設定された感情設定における条件を満たすかどうかの判定を行う(図7
BステップS24)。CPU111が、判定期間計測タイマー162より、前回の撮像時
点から、選択された撮像条件の判定期間に設定された周期が経過している旨の通知を受け
ていない場合(図7BステップS22;NO)、図7BステップS23を経ずに図7Bス
テップS24の判定に進む。判定の結果、検出感情が、選択された撮像条件に設定された
感情設定における条件を満たす場合(図7BステップS24;YES)、図7Cステップ
S12の判定に進む。判定の結果、検出感情が、選択された撮像条件に設定された感情設
定における条件を満たさない場合(図7BステップS24;NO)、図7CステップS1
6の判定に進む。
【0046】
このように、ユーザーにより自動撮像モードから手動撮像モードに切り替えられるか(
図7AステップS1;NO)、ユーザーにより自動撮像を停止する操作が行われるまで(
図7CステップS16;YES)、撮像装置1は、図7A〜図7Cの処理フローに従い、
収音データから感情を検出し、判定に従って撮像を行うという一連の動作を繰り返す。
【0047】
図8は、動画撮像時の動作例を説明する図である。
図8において、横軸は時間を表している。図8において、矢印81、82は、撮像の開
始から終了までの期間を表したものである。撮像開始のタイミングおよびその判定方法に
ついては、個別設定およびオート設定のいずれにおいても、図4および図5における静止
画像撮像時と同様であるため、詳細な説明は省略する。
【0048】
矢印81は、撮像条件に、図3における撮像条件51が選択された場合に動画が撮像さ
れる期間を表している。すなわち、撮像条件として、モード設定に「個別設定」、感情設
定に「喜び度60%以上」、感情認識対象者に「雰囲気」、撮像時間に「10分」が設定
されているときの撮像時間である。「2010/3/10 15:15:00」の時点で
、感情設定に設定された「喜び度60%以上」を満たす検出感情85が検出される。この
検出感情における喜び度が、設定された閾値60%を超えており、さらに撮像待機状態で
もないため、CPU111は、撮像条件51が満たされていると判断し、撮像部19に対
して動画の撮像を開始する旨を通知する。撮像部19は、この通知に従い、自動で動画の
撮像を開始する。動画の撮像が開始されると、撮像時間計測タイマー163は、撮像が開
始された時点を始点として、経過する時間の計測を開始する。撮像時間計測タイマー16
3より、撮像時間に設定された10分間が経過した旨がCPU111に通知されると、C
PU111は撮像部19に撮像停止の旨を通知し、この通知に従って撮像部19は動画の
撮像を終了する。次に、CPU111は、動画撮像データを、撮像データ記憶領域125
に保存する。ここで、撮像時間計測タイマー163により計時が開始されてから、撮像時
間に設定された10分間が経過するまでの間に、撮像条件51の感情設定に設定された「
喜び度60%以上」を満たす検出感情が検出されると、撮像時間の延長が行われる。すな
わち、CPU111は撮像時間計測タイマー163をリセットし、撮像時間計測タイマー
163は、リセットされた時点を始点として経過する時間の計測を開始する。「2010
/3/10 15:20:00」の時点で、「喜び度45%」の検出感情86が検出され
るが、これは感情設定に設定された「喜び度60%以上」という条件を満たさないため、
撮像時間の延長が行われることはない。動画撮像開始後、撮像時間の延長が行われるよう
な検出感情が新たに検出されることが無いため、撮像時間に設定された10分間が経過し
た「2010/3/10 15:25:00」の時点で、撮像が終了している。
【0049】
矢印82は、撮像条件に、図3における撮像条件53が選択された場合に動画が撮像さ
れる期間を表している。すなわち、撮像条件として、モード設定に「個別設定」、感情設
定に「喜び度60%以上または笑い度50%以上」、感情認識対象者に「雰囲気」、撮像
時間に「10分」が設定されているときの撮像時間である。「2010/3/10 15
:40:30」の時点で、感情設定に設定された「喜び度60%以上または笑い度50%
以上」を満たす検出感情87が検出され、動画の撮像が開始される。動画の撮像が開始さ
れると、撮像時間計測タイマー163は、撮像が開始された時点を始点として、経過する
時間の計測を開始する。撮像開始時点より、撮像時間に設定された10分間が経過してい
ない「2010/3/10 15:48:00」の時点で、「喜び度80%」の検出感情
が検出され、これは感情設定に設定された条件を満たすため、撮像時間の延長が行われる
。すなわち、CPU111は撮像時間計測タイマー163をリセットし、撮像時間計測タ
イマー163は、リセットされた「2010/3/10 15:48:00」の時点を始
点として、経過する時間の計測を開始する。その後、感情設定に設定された条件を満たす
検出感情が新たに検出されることが無いため、「2010/3/10 15:48:00
」の時点から、撮像時間に設定された10分間が経過した「2010/3/10 15:
58:00」の時点で、撮像が終了している。
【0050】
図9A、図9B、図9Cは、動画撮像時における処理フロー図である。尚、図9A〜図
9Cの処理フローにおいては、撮像装置1の電源は常にオンの状態かつ撮像データ記憶領
域125に充分な容量が確保されており、かつ動画の撮像であることが前提であり、ユー
ザーにより電源がオフにされるか、バッテリーが尽きるか、撮像データ記憶領域125が
容量オーバーとなるか、あるいは静止画像の撮像に切り替えられると、その段階で処理を
終了する。また、図9AステップS1〜図9AステップS9、図9BステップS10、図
9BステップS11および図9BステップS18〜図9BステップS24については、そ
の処理内容および処理フローについて静止画像撮像時と同様のため、詳細な説明は省略す
る。
【0051】
選択された撮像条件においてモード設定が個別設定であり(図9BステップS10;NO
)、検出感情が選択された撮像条件の感情設定における条件を満たすか(図9Bステップ
S11;YES)、あるいは選択された撮像条件においてモード設定がオート設定であり
(図9BステップS10;YES)、検出感情が選択された撮像条件における感情設定を
満たす(図9BステップS24;YES)と、撮像装置1が撮像中であるかどうかの判定
が行われる(図9CステップS30)。撮像が開始されていない場合(図9CステップS
30;NO)、CPU111は、撮像部19に動画の撮像を開始する旨を通知し、この通
知に従って撮像部19は動画の撮像を自動で開始し、撮像時間計測タイマー163は、撮
像が開始された時点を始点として経過する時間の計測を開始する(図9CステップS31
)。CPU111は、撮像データを撮像データ記憶領域125に保存する(図9Cステッ
プS32)。次に、CPU111が、撮像時間計測タイマー163より、撮像条件に設定
された撮像時間が経過した旨の通知を受けておらず(図9CステップS33;NO)、ユ
ーザーにより操作部18を介して撮像停止の操作が行われていない場合(図9Cステップ
S34;NO)、ステップS1の判定に戻る。ユーザーにより操作部18を介して撮像停
止の操作が行われた場合(図9CステップS34;YES)、CPU111は、撮像部1
9に撮像停止の旨を通知し、この通知に従って撮像部19は撮像を停止する(図9Cステ
ップS35)。その後、CPU111は、撮像データを撮像データ記憶領域125に保存
し(図9CステップS36)、CPU111が検出感情一時記憶領域124をフォーマッ
トした後に(図9CステップS37)、撮像装置1は動画撮像の処理を終了する。CPU
111が、撮像時間計測タイマー163より、撮像条件に設定された撮像時間が経過した
旨の通知を受けていた場合(図9CステップS33;YES)、CPU111は、撮像部
19に撮像停止の旨を通知し、この通知に従って撮像部19は撮像を停止し(図9Cステ
ップS35)、以降図9CステップS36および図9CステップS37の処理が行われた
後、撮像装置1は動画撮像の処理を終了する。
【0052】
図9CステップS38および図9CステップS39は、図9Cステップ30において、
撮像装置1が撮像中であると判断された場合(図9CステップS30;YES)の処理フ
ローである。この場合、CPU111は、撮像時間計測タイマー163をリセットし、撮
像時間計測タイマー163は、リセットされた時点を開始時点として経過する時間の計測
を開始する(図9CステップS38)。その後、CPU111は、撮像データ記憶領域1
25に保存された撮像中の動画撮像データに対して、現在の時刻を表すタイムスタンプと
、検出感情における感情のカテゴリーおよびその感情の度合いと、検出感情の持ち主であ
る感情認識対象者を付加し、撮像データ記憶領域125に保存された撮像中の動画撮像デ
ータを最新の状態に上書き保存する(図9CステップS39)。
【0053】
さて、図9AステップS1において、ユーザーにより自動撮像モードから手動撮像モー
ドに切り替えられると(図9AステップS1;NO)、それが撮像中であった場合には、
CPU111は、撮像データ記憶領域125に保存された撮像中の動画撮像データを最新
の状態に上書き保存し(図9CステップS36)、CPU111は検出感情一時記憶領域
124をフォーマットした後に(図9CステップS37)、撮像装置1は自動撮像時の処
理フローを終了する。その後、ユーザーにより自動撮像を停止する操作が行われるか、撮
像データ記憶領域125が容量オーバーとなるか、ユーザーにより電源がオフにされるか
、バッテリーが尽きるか、あるいは静止画像の撮像に切り替えられるまで、撮像装置1は
、動画を撮像し続ける。撮像装置1が、自動撮像モードである(図9AステップS1;Y
ES)状態が続く限りにおいて、CPU111が、撮像時間計測タイマー163より設定
された撮像時間が経過した旨の通知を受けるか(図9CステップS33;YES)、ユー
ザーにより自動撮像を停止する操作が行われる(図9CステップS34;YES)まで、
撮像装置1は、図9A〜図9Cの処理フローに従い、収音データから感情を検出し、判定
に従って動画の撮像を開始する、もしくは動画の撮像を継続する、という一連の動作を繰
り返す。
【0054】
図10は、撮像データ記憶領域125に保存される撮像データの例を表した図である。
撮像データ記憶領域125に保存される個々の撮像データは、ID、ファイル名、タイ
ムスタンプ、感情フラグ、感情認識対象者からなる。IDは、個々の撮像データを一意に
認識するためのものであり、例えば任意の桁数による英数字の組み合わせ等で表される。
IDは、撮像データが撮像データ記憶領域125に保存される際、自動で採番された値が
割り当てられる。図10においては、IDは、8桁の数字によって一意の値を持つ。ファ
イル名は、個々の撮像データであるファイルを識別するための固有名称であり、任意の桁
数による英数字等の組み合わせである文字部分と、ファイルの種類を表す拡張子との組み
合わせによって表される。例えば図10において、静止画像であれば「aaabbb12
3.jpg」といったファイル名であり、動画であれば「HHHKKK123.mpg」
といったファイル名である。ファイル名は、撮像データが撮像データ記憶領域125に保
存される際、文字部分に、その初期値として自動で採番された値が割り当てられる。ここ
でファイル名は、撮像データが撮像データ記憶領域125に保存された後、ユーザーが操
作部18を介して、ユーザーの好みに応じたファイル名に変更することを可能としても良
い。例えば図10における「1003誕生日.jpg」のように、漢字をファイル名に使
用可能としても良いし、これに限らず、平仮名、カナ等を使用可能としても良い。タイム
スタンプは、個々の撮像データが撮像された時刻である。静止画像の場合、撮像が行われ
た時刻であり、動画の場合、撮像が開始された時刻および、その後撮像条件を満たした時
刻である。感情フラグは、個々の撮像データが撮像された際に、感情検出部152により
検出された感情のカテゴリーと、そのカテゴリーにおける感情の度合いを表す。感情認識
対象者は、個々の撮像データが撮像された際の、検出感情の持ち主を表す。
【0055】
例えば図10において、ファイル名「aaabbb123.jpg」の撮像データは、
「2009/10/16 15:35」に撮像された静止画像であり、撮像された際の雰
囲気が、喜び度70%であったことを表す。また、図6において、ファイル名「HHHK
KK123.mpg」の撮像データは、「2009/10/18 12:00」に撮像が
開始された動画であり、撮像が開始された際の雰囲気が、喜び度70%および笑い度50
%であったことを表し、「2009/10/18 12:15」の時点でユーザーBの喜
び度が70%であったことを表す。また、ユーザーが撮像データ記憶領域125に保存さ
れた撮像データを再生する際、再生対象の撮像データを、撮像データ記憶領域125に保
存された個々の撮像データが持つ属性を用いて、検索可能としても良い。すなわち、ユー
ザーが操作部18を介して、表示部17が有する表示体に表示された、撮像データに対す
る検索フィールドに対して、ファイル名、日付、感情のカテゴリーおよびそのカテゴリー
の感情の度合い、あるいは感情認識対象者を、任意に組み合わせて指定することにより、
ユーザーが再生を望む撮像データを検索することを可能としても良い。
【0056】
このように、本実施形態によれば、ユーザーは、望むシーンに応じて、自動で撮像が開
始される条件である撮像条件を設定のうえ選択し、撮像装置1が、周囲の音声から被撮像
者や場における感情を検出することにより、検出感情が選択された撮像条件を満たす場合
、自動で撮像が行われる。こうした一連の制御により、ユーザーは、自らによる操作を介
することなく、望むシーンに応じた静止画像や動画を得ることが可能となる。また、撮像
条件として特定の人物を撮像対象者に設定することが可能なため、ユーザーは、所望する
特定の人物の感情に注目して撮像機会を狙うことも可能である。また、こうした特定の人
物を狙った撮像を望むのでなければ、撮像開始前にユーザーが予め準備する内容は、撮像
条件の設定および選択のみで良いため、ユーザーが要する手間が少なくて済む。また、検
出された感情の相対評価に基づいた撮像機会を得ることも可能であるため、ユーザーは、
ある時間帯の中で比較的盛り上がったシーンについて撮像機会を逃すこともない。また、
保存された撮像データには、検出された感情が感情フラグとして、検出感情の持ち主が感
情認識対象者として付加されているため、撮像データの再生時において、感情および特定
の人物に注目した検索および頭出し再生が容易となっている。このように、本実施形態に
よれば、自動撮像の機能を有効にするためにユーザーが必要とする手間を削減し、被撮像
者の感情や、場の雰囲気に応じて、ユーザーが望むシーンを自動で撮像することが可能と
なるという効果を奏することができる。
【0057】
(2)変形例
上記の実施形態を次のように変形してもよい。
(2−1)変形例1
上記実施形態においては、撮像条件におけるモード設定がオート設定であった場合、検
出感情一時記憶領域124をフォーマットするタイミングは、ユーザーにより自動撮像モ
ードから手動撮像モードに切り替えられるか、設定された撮像時間が満了する、あるいは
ユーザーにより停止の操作が行われることで、撮像が停止したタイミングである。つまり
、いずれにおいても、自動撮像の処理が停止された後であって、自動撮像の処理が進行中
にフォーマットが行われるものではなかった。検出感情一時記憶領域124をフォーマッ
トするタイミングはこれに限らず、自動撮像の処理が進行中の期間における、ある一定の
タイミングが訪れる毎に定期的にフォーマットが行われるようにしてもよい。すなわち、
撮像条件が満たされ自動で撮像が行われた直後に、フォーマットが行われてもよいし、撮
像条件が満たされ自動で撮像が行われた後、設定された待機時間が経過したタイミングで
フォーマットが行われてもよい。また、撮像条件が満たされ自動で撮像が行われた後、予
め定められた一定の期間が経過したタイミングでフォーマットが行われてもよい。この予
め定められた一定の期間は、ROM113に書換え不可な形で記憶されていてもよいし、
撮像条件に、この予め定められた一定の期間を設定するための項目を設け、ユーザーの希
望に応じて変更可能なようにしてもよい。このように、自動撮像の処理が進行中に、一定
のタイミングで定期的に検出感情一時記憶領域124のフォーマットが行われることによ
って、オート設定による撮像が長時間行われた際、検出感情一時記憶領域124が容量オ
ーバーとなり撮像不可となることを防ぐことが可能となる。また、定期的に検出感情一時
記憶領域124がフォーマットされ、その都度新たな検出感情が検出感情一時記憶領域1
24に蓄積して保存されていくことにより、オート設定における比較範囲が都度新たなも
のとなり、最初の判定期間で以降の撮像基準が決定してしまう事がなく、時間の経過に沿
ったその時々の被撮像者の感情もしくは場の雰囲気に柔軟に応じて自動で撮像が行われる
ことが可能となる。例えば、自動撮像モードで撮像装置1がセッティングされた後の初期
の時間帯に場の雰囲気が大いに盛り上がり、その後それ程の盛り上がり方が発生しなかっ
た状況においても、検出感情一時記憶領域124における比較範囲が新たなものとなるこ
とによって、その後の落ち着いた雰囲気の中でも比較的盛り上がった場面を自動で撮像す
ることが可能となる。
【0058】
(2−2)変形例2
本実施形態においては、感情認識アルゴリズムとして、マハラビノスの距離に基づいた
ものを採用しているが、このアルゴリズムはこれに限ったものではない。例えば感情認識
アルゴリズムとして、例えば特開2003−162294号公報、特開2002−091
482公報あるいは特許第4085130号公報等に記載された、周知の技術を用いても
よい。
【0059】
(2−3)変形例3
本実施形態における撮像装置は、撮像専用のデジタルカメラのほか、携帯電話機、携帯
型の音楽プレーヤー、PDA(Personal Digital Assistants)、パーソナルコンピュー
タ等に搭載することが可能である。
【符号の説明】
【0060】
1…撮像装置、11…制御部、111…CPU、112…RAM、113…ROM、1
2…記憶部、121…感情・音声対応パターン、122…ユーザー・音声対応パターン、
123…撮像条件記憶領域、124…検出感情一時記憶領域、125…撮像データ記憶領
域、13…マイク、14…A/D変換機、15…感情認識部、151…音声分析部、152
…感情検出部、153…ユーザー音声登録部、154…ユーザー検出部、16…時間計測
部、161…待機時間計測タイマー、162…判定期間計測タイマー、163…撮像時間
計測タイマー、17…表示部、18…操作部、19…撮像部、20…電源部、21…バス
、31…笑いの音声パターン領域、32…喜びの音声パターン領域、33…怒りの音声パ
ターン領域、34…悲しみの音声パターン領域、41…笑いのカテゴリーのデータ中心、
42…喜びのカテゴリーのデータ中心、43…怒りのカテゴリーのデータ中心、44…悲
しみのカテゴリーのデータ中心、51〜56…撮像条件、60…喜び度検出曲線、61…
閾値線、62,72…シャッターチャンス、70…笑い度検出曲線、71…直線、81,
82…矢印、85〜88,C,D…検出感情、A…音声数値、α,β…比較範囲

【特許請求の範囲】
【請求項1】
撮像を行う撮像手段と、
収音を行う収音手段と、
前記収音手段によって収音された音声から当該音声の発話者の感情を認識する感情認識
手段と
前記撮像手段が撮像を行う条件である撮像条件として、音声の発話者の感情に関する条
件を記憶する撮像条件記憶手段と、
前記感情認識手段により認識された感情が、前記撮像条件記憶手段に記憶されている撮
像条件を満たす場合に、前記撮像手段に撮像を行わせる撮像制御手段と
を有することを特徴とする撮像装置。
【請求項2】
前記撮像条件記憶手段は、複数種類の感情のうち少なくともいずれか1種類の感情と、
当該感情の度合いとを、前記撮像条件として記憶し、
前記感情認識手段は、前記収音手段によって収音された音声から当該音声の発話者の感
情と当該感情の度合いとを認識する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記撮像手段によって撮像が行われた結果を表す撮像データを、当該撮像が行われてい
るときに前記感情認識手段によって認識された感情と、当該感情が認識された時刻と対応
付けて記憶する撮像データ記憶手段を有する
ことを特徴とする請求項1または2のいずれか1項に記載の撮像装置。
【請求項4】
特定の発話者の音声の特徴を記憶する音声特徴記憶手段を備え、
前記撮像条件記憶手段は、前記音声特徴記憶手段に記憶された特徴を持つ音声の発話者
の感情に関する条件を記憶し、
前記撮像制御手段は、前記収音手段により収音された音声の特徴が前記音声特徴記憶手
段に記憶された特徴に合致し、且つ、当該音声から前記感情認識手段により認識された感
情が、前記撮像条件記憶手段に記憶されている撮像条件を満たす場合に、前記撮像手段に
撮像を行わせる
ことを特徴とする請求項1〜3のいずれか1項に記載の撮像装置。
【請求項5】
前記撮像条件記憶手段は、或る期間において変化する感情の度合いを相対的に評価した
ときの評価値を前記撮像条件として記憶し、
前記感情認識手段は、前記収音手段によって収音された音声から当該音声の発話者の感
情と当該感情の度合いとを認識し、
前記撮像制御手段は、
前記感情認識手段により認識された感情の度合いを時系列に記憶する感情記憶手段を有
し、
前記感情記憶手段により前記或る期間内に記憶された感情の度合いが、前記撮像条件記
憶手段により記憶された前記評価値を超える場合に、前記撮像手段に撮像を行わせる
ことを特徴とする請求項1〜4のいずれか1項に記載の撮像装置。
【請求項6】
撮像を行う撮像手段と収音を行う収音手段とを備える撮像装置が行う撮像方法であって

前記収音手段によって収音を行うステップと、
収音された音声から当該音声の発話者の感情を認識するステップと、
認識された感情が、音声の発話者の感情に関する撮像条件として予め記憶された内容を
満たす場合に、前記撮像手段に撮像を行わせるステップと
を有することを特徴とする撮像方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7A】
image rotate

【図7B】
image rotate

【図7C】
image rotate

【図8】
image rotate

【図9A】
image rotate

【図9B】
image rotate

【図9C】
image rotate

【図10】
image rotate


【公開番号】特開2011−119963(P2011−119963A)
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願番号】特願2009−275220(P2009−275220)
【出願日】平成21年12月3日(2009.12.3)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】