動作タイミング判定装置、撮像装置およびプログラム
【課題】動作部によりノイズが発生したタイミングをより正確に判定すること。
【解決手段】構成部材の動作状態に応じた信号を出力するエンコーダと、前記動作検出部からの検出結果に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったと判定された場合、前記構成部材が動作していると判定する動作タイミング判定部とを備えることを特徴とする。
【解決手段】構成部材の動作状態に応じた信号を出力するエンコーダと、前記動作検出部からの検出結果に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったと判定された場合、前記構成部材が動作していると判定する動作タイミング判定部とを備えることを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動作タイミング判定装置、撮像装置およびプログラムに関する。
【背景技術】
【0002】
例えば、音声記録中のモータの制御信号を取得し、当該制御信号からモータによる雑音情報を算出し、算出された雑音情報を音声情報から除去する撮像装置がある(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−233956号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、モータが実際に動作するタイミングは、制御信号が出力されるタイミングとずれる場合がある。この場合、モータによってノイズが発生したタイミングを正確に判定することができない。よって、制御信号に基づきノイズを除去した場合、ノイズ以外の音信号まで低減させてしまい、目的音の音質が劣化する問題がある。
【0005】
本発明は、前記の点に鑑みてなされたものであり、構成部材が動作するタイミングをより正確に判定する動作タイミング判定装置、撮像装置およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の一実施形態に係る動作タイミング判定装置は、上記の課題を解決するためになされたものであり、構成部材の動作状態に応じた信号を出力する動作検出部と、前記動作検出部からの検出結果に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったと判定された場合、前記構成部材が動作していると判定する動作タイミング判定部とを備える。
【発明の効果】
【0007】
本発明によれば、動作部によりノイズが発生したタイミングをより正確に判定することができる。
【図面の簡単な説明】
【0008】
【図1】本発明の実施形態に係る撮像装置の構成の一例を示すブロック図である。
【図2】本発明の実施形態に係る動作状態検出対象部材の動作タイミングと音信号との関係の一例を説明するための参考図である。
【図3】図2に示す音信号について詳細に説明するための参考図である。
【図4】本発明の実施形態に係るズームエンコーダの出力の一例を説明するための図である。
【図5】図4に示すズームエンコーダの出力を詳細に説明するための図である。
【図6】本発明の実施形態に係るフォーカスエンコーダの出力の一例について説明するための図である。
【図7】本発明の実施形態に係るマルチセレクターの出力の一例について説明するための図である。
【図8】本発明の実施形態に係る撮像装置に搭載される記録装置の構成の一例を示す図である。
【図9】本発明の実施形態に係るフォーカスエンコーダの出力と動作タイミングとの関係を示す図である。
【図10】本発明の実施形態に係る記録制御部が記録媒体に書き込む情報の一例を示す図である。
【図11】本発明の実施形態に係る記録制御部が情報を書き込むファイルの一例を示す図である。
【図12】本発明の実施形態に係る記録制御部が情報を書き込むファイルの他の例を示す図である。
【図13】ノイズ低減処理部の構成の一例を示す図である。
【図14】ノイズ低減制御情報の一例を示す図である。
【図15】動作状態検出対象部材が動作した期間を示す図である。
【図16】発明の第1実施形態に係る動作状態検出対象部材の動作タイミングと音信号との関係の一例を説明するための参考図である。
【図17】本発明に係るノイズ情報記録処理方法の一例を示すフローチャートである。
【図18】本発明に係るノイズ低減処理方法の一例を示すフローチャートである。
【図19】CPU190の顔認識の結果とノイズ低減処理について説明する。
【図20】本発明に係る記録制御部194を備える交換レンズの一例を示す図である。
【図21】本発明の実施形態に係る衝撃音ノイズ低減処理部が取得する第1周波数スペクトルと第2周波数スペクトルの一例を説明するための図である。
【図22】図15に示した各周波数スペクトルの周波数成分の一例を示す図である。
【図23】本発明の実施形態に係る衝撃音ノイズ低減処理の一例について説明するための図である。
【図24】本発明の本実施形態に係るノイズ低減処理方法の一例について説明するためのフローチャートである。
【図25】本発明の本実施形態に係るタイミング判定方法の一例について説明するための図である。
【発明を実施するための形態】
【0009】
[第1実施形態]
本発明の実施形態について図面を参照して詳細に説明する。図1には、本実施形態に係る撮像装置の構成を示すブロック図が示されている。
本実施形態に係る撮像装置は、構成部材の動作状態に応じた信号を検出し、この検出した信号に基づき、構成部材が動作したか否かを判定する。この構成部材が動作したか否かの判定結果としては、以下のようなさまざまな結果内容を取得することができる。
例えば、本実施形態に係る撮像装置は、構成部材が動作している状態であるか、あるいは、構成部材が停止している状態であるかを判定するものであってもよい。
また、本実施形態に係る撮像装置は、構成部材の動作状態が変化した動作タイミングを判定するものであってもよい。この動作タイミングとは、静止中の構成部材が動作を開始したタイミング、動作中の構成部材が動作を停止したタイミング、あるいは、動作中の構成部材の動作内容が変化したタイミングを示す。
なお、本実施形態では、構成部材が動作したことを示す情報として、構成部材の動作状態が変化した動作タイミングを検出する例について以下説明する。しかし、本願発明はこれに限られず、種々の方法により、構成部材が動作したか否かを判定するものである。
【0010】
本実施形態において、動作状態を検出する対象である構成部材は、撮像装置100を構成する構成部材であって、例えば、フォーカスレンズ、VRレンズ、ズームレンズ、絞り機構等の光学系構造部材と、撮像装置の操作ボタン、シャッターボタン、開閉式のストロボ等の操作系構造部材と、撮像装置の筐体等の固定系構造部材とである。なお、これら光学系構造部材、操作系構造部材、および固定系構成部材を、以下、動作状態検出対象部材という。
光学系構造部材は、撮影時の条件に応じて撮像装置自身によって自動的に動作させられる場合(以下、オート動作という)と、ユーザが手動により動作させられる場合(以下、マニュアル動作という)とがある。いずれの場合も、動作による機械音(ノイズ)が発生する。
操作系構造部材は、ユーザの操作によって動作させられる。この場合、ボタン等が押下されたことによる動作音(ノイズ)が発生したり、ストロボが開閉したことによる動作音(ノイズ)が発生する。また、ストロボを発光させるための充電器が作動したことによる音(ノイズ)が発生する。
固定系構造部材は、ユーザの手や洋服等が撮像装置の筐体に接触することによる摩擦音(ノイズ)が発生する。また、撮像装置の筐体をぶつけることによっても音(ノイズ)が発生する。
本実施形態に係る撮像装置は、上述の動作状態検出対象部材の動作状態が変化したタイミングを判定し、これら動作状態検出対象部材の動作によるノイズの発生タイミングを検出する。
【0011】
次に、図1を参照して、本実施形態に係る撮像装置100の構成の一例について説明する。
図1に示す通り、撮像装置100は、撮像部110と、バッファメモリ130と、画像処理部140と、表示部150と、記録部160と、通信部170と、操作部180と、CPU190と、加速度センサー210と、計時部220と、マイク230と、A/D変換部240と、低減処理部250と、電池260と、ストロボ270とを備える。この撮像装置100は、通信部170を介して外部構成である記録媒体200に対して、データの読み出し、あるいは、書き込みを行う。
本実施形態に係る撮像装置100において、動作状態検出対象部材の動作状態を示す動作状態情報を検出する動作検出部は、例えば、加速度センサー210や撮像部110内に搭載されているエンコーダである。なお、この動作検出部については、後述する。
【0012】
撮像装置100は、撮像部110が撮像した画像データと、マイク230が収音したマイク音信号とを記録媒体200に記録するとともに、動作状態検出対象部材の動作状態が変化したタイミングを示す動作タイミング情報とを記録部200に記録する記録装置である。この撮像装置100は、画像データを連続的に撮像して、動画データを撮影することができる。
本実施形態において、このように、画像データ(あるいは動画データ)、マイク音信号、および動作タイミング情報を記録媒体200に記録する記録装置は、撮像装置100に組み込まれているものとして説明する。しかし、本発明はこれに限られず、撮像装置本体から着脱可能な別構成の記録装置であってもよく、撮像装置本体から着脱可能な撮像部110に搭載されるものであってもよい。また、本実施形態において、低減処理部250は、撮像装置100に内蔵されている例について説明するが、本発明はこれに限られず、撮像装置100の外部装置であってもよい。さらに、記録媒体200は、撮像装置100に対して着脱可能な媒体であるが、本発明はこれに限られず、撮像装置100に内蔵されているものであってもよい。
【0013】
また、本実施形態に係るノイズ低減処理部250は、動作状態検出対象部材が動作することによって発生する動作音(ノイズ)を低減するためのノイズ低減処理を実行する。
例えば、撮像装置100が、フォーカスレンズを動作されるAF(Auto Focus)やMF(Manual Focus)のフォーカス処理において、モータやフォーカスレンズが動くことによる動作音(ノイズ)が発生する。また、モータが回転方向を切り換えた場合、一時的に大きい音のノイズが発生する。
このように、動作状態検出対象部材である光学系やモータが動作した場合あるいは動作状態が変化した場合に、一時的に発生する大きい音を衝撃音という。一方、この衝撃音よりも小さく、動作状態検出対象部材である光学系やこの動作状態検出対象部材を動作させる構成部材であるモータが動いている状態において発生する音を駆動音という。つまり、駆動音は、衝撃音以外のノイズである。
また、撮像装置100が、ズームレンズを動作させるズーム処理において、モータやズームレンズが動くことによる動作音(ノイズ)が発生する。なお、ズーム処理においては、衝撃音は発生しない。
本実施形態に係る低減処理部250は、少なくとも駆動音によるノイズを低減する駆動音ノイズ低減処理を実行するとともに、動作状態検出対象部材の種類に応じて、衝撃音によるノイズを低減する衝撃音ノイズ低減処理を実行する。
このノイズ低減処理部250は、外部装置に設けられているものであってもよい。
【0014】
次に、撮像装置100の各構成について詳細に説明する。
撮像部110は、光学系111と、撮像素子119と、A/D(Analog/Digital)変換部120と、レンズ制御部121と、バッファメモリ部122と、通信部123とを備える。
この光学系111は、手動により、ユーザによって操作可能である。つまり、光学系111は、CPU190による制御によって動作するとともに、ユーザの操作によって動作する。光学系111は、オート動作において、設定される撮像条件(例えば絞り値、露出値等)に応じて予め決められた動作パターンに従って、CPU190により動作が制御される。一方、マニュアル動作において、光学系111は、操作によって変更された撮像条件に応じて動作する。
この撮像部110は、光学系111による光学像を撮像素子119に結像させて、A/D変換部120によってデジタル信号に変換された光学像に基づく画像データを生成する。
【0015】
光学系111は、焦点調整レンズ(以下、「フォーカスレンズ」という)112と、手ブレ補正レンズ(以下、「VR(Vibration Reduction)レンズ」という)113と、ズームレンズ114と、ズームエンコーダ115と、レンズ駆動部116と、フォーカスエンコーダ117と、手ブレ補正部118とを備える。
これら光学系111の各構成は、オート動作において、CPU190による焦点調整処理、手ブレ補正処理、およびズーム処理において、それぞれの動作パターンに従って、駆動する。また、マニュアル動作において、光学系111は、操作によって変更された撮像条件に応じて動作する。つまり、光学系111は、撮像装置100における動作状態検出対象部材である。また、ズームレンズ114およびズームエンコーダ115は、動作状態検出対象部材の動作状態を検出する動作検出部である。
【0016】
この光学系111は、ズームレンズ114から入射し、ズームレンズ114、VRレンズ113、フォーカスレンズ112の順番で通過した光学像を、撮像素子119の受光面に導く。
レンズ駆動部116は、フォーカスレンズ112およびズームレンズ114の位置を制御するための駆動制御信号(コマンド)をCPU190から入力する。このレンズ駆動部116は、入力する駆動制御信号に応じて、フォーカスレンズ112およびズームレンズ114の位置を制御する。
つまり、この駆動制御信号がCPU190からレンズ駆動部116に入力されてレンズ駆動部116が駆動することにより、フォーカスレンズ112およびズームレンズ114が移動(動作)する。
【0017】
ズームエンコーダ115は、ズームレンズ114の位置を表わすズームポジションを検出し、CPU190に出力する。このズームエンコーダ115は、ズームレンズ114の移動を検出し、例えば、ズームレンズ114が光学系111内を移動している場合にパルス信号をCPU190に出力する。一方、停止している場合、ズームエンコーダ115は、パルス信号の出力を停止する。
【0018】
フォーカスエンコーダ117は、フォーカスレンズ112の位置を表わすフォーカスポジションを検出し、CPU190に出力する。このフォーカスエンコーダ117は、フォーカスレンズ112の移動を検出する。
【0019】
なお、ズームエンコーダ115は、ズームポジションを検出するために、ズームレンズ114の駆動方向を検出するものであってもよい。また、フォーカスエンコーダ117は、フォーカスポジションを検出するために、フォーカスレンズ112の駆動方向を検出するものであってもよい。
例えば、ズームレンズ114やフォーカスレンズ112は、レンズ駆動部116によって駆動される駆動機構(例えばモータやカム等)が時計回り(CW)あるいは反時計回り(CCW)に回転することにより光軸方向に移動する。ズームエンコーダ115およびフォーカスエンコーダ117は、それぞれ、駆動機構の回転方向(ここでは、時計回りあるいは反時計回り)を検出することよって、ズームレンズ114およびフォーカスレンズ112が移動していることを検出するものであってもよい。
【0020】
手ブレ補正部118は、例えば振動ジャイロ機構を備え、光学系111による像の光軸ぶれを検出し、この光軸ぶれを打ち消す方向にVRレンズ113を動かす。この手ブレ補正部118は、例えばフォーカスレンズ112を動かしている状態においてハイレベルの信号をCPU190に出力する。一方、フォーカスレンズ112を停止させている状態において、手ブレ補正部118は、ローレベルの信号をCPU190に出力する。
【0021】
撮像素子119は、例えば、光電変換面を備え、その受光面に結像した光学像を電気信号に変換して、A/D変換部120に出力する。
この撮像素子119は、操作部180を介して撮影指示を受け付けた際に得られる画像データを、静止画又は動画の画像データとして、A/D変換部120を介して記録媒体200に記録させる。一方、撮像素子119は、操作部180を介して撮像指示を受け付けていない状態において、連続的に得られる画像データをスルー画データとして、A/D変換部120を介してCPU190および表示部150に出力する。
【0022】
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像データをバッファメモリ部130に出力する。
レンズ制御部121は、ズームエンコーダ115とフォーカスエンコーダ117からの出力をバッファメモリ部122に一時的に記憶する設定がなされている場合、ズームエンコーダ115とフォーカスエンコーダ117からの出力に、計時部220によって計時される時間情報を関連付けてバッファメモリ部122に記録する。
バッファメモリ部122は、ズームエンコーダ115とフォーカスエンコーダ117からの出力に時間情報を関連付けた情報を一時的に記録する。
通信部123は、定期的に、バッファメモリ部122に記録されている情報を読み出して、記録部160に記録する。
【0023】
バッファメモリ部130は、撮像部110によって撮像された画像データ(あるいは動画データ)を、一時的に記録する。また、バッファメモリ部130は、マイク230が収音したマイク検出音に応じたマイク音信号を、一時的に記録する。なお、バッファメモリ部130は、マイク検出音が収音された時刻と、バッファメモリ部130における位置とを対応付けて、マイク検出音に応じたマイク音信号を記録してもよい。
【0024】
画像処理部140は、記録部160に記録されている画像処理条件を参照して、バッファメモリ部130に一時的に記録されている画像データ(あるいは動画データ)に対して、画像処理をする。画像処理された画像データ(あるいは動画データ)は、通信部170を介して記録媒体200に記録する。なお、画像処理部140は、記録媒体200に記録されている画像データ(あるいは動画データ)に対して、画像処理をしてもよい。
【0025】
表示部150は、例えば液晶ディスプレイであって、撮像部100によって得られた画像データや操作画面等を表示する。
【0026】
記録部160は、CPU190によってシーン判定の際に参照される判定条件や、シーン判定によって判断されたシーン毎に対応付けられた撮像条件等を記録する。
【0027】
通信部170は、カードメモリ等の取り外しが可能な記録媒体200と接続され、この記録媒体200への情報(画像データ、動画データ、あるいは音データ等)の書込み、読み出し、あるいは消去を行う。
【0028】
操作部180は、マルチセレクター181と、マニュアル操作部182とを含む。
このマニュアルセレクター181は、例えば、電源スイッチ、シャッターボタン、セレクタキー(十字キー)、又はその他の操作キーを含み、ユーザによって操作されることでユーザの操作入力を受け付け、操作入力に応じた操作信号をCPU190に出力する。この操作部180は、ユーザによって押下される際、物理的な動作音を発生する場合がある。つまり、マルチセレクター181は、動作状態検出対象部材である。
【0029】
マニュアル操作部182は、マニュアル動作によって動作するフォーカスレンズ112やズームレンズ114等をズーム調整やフォーカス調整を実行する際にユーザが動作させる構成である。このマニュアル操作部182は、例えば、撮像部110の鏡筒に取り付けられている。なお、マニュアル操作部182は、ユーザが当該マニュアル操作部182を動かすことによって、その動力が直接ズームレンズ114やフォーカスレンズ112を動かすものである。つまり、マルチセレクター181のように受け付けた操作に応じた操作信号を生成し、CPU190に出力する構成ではない。言い換えると、CPU190に入力する操作信号をモニタリングしているだけでは、このようなマニュアル動作によるズームレンズ114やフォーカスレンズ112の動作を検出することはできない。
【0030】
CPU190は、設定された撮像条件(例えば絞り値、露出値等)に応じた動作パターンに従って撮像部110を制御する。このCPU190は、ズームエンコーダ115から出力されるズームポジションおよびフォーカスエンコーダ117から出力されるフォーカスポジションに基づき、レンズ駆動部116を駆動する駆動制御信号を生成して、レンズ駆動部116に出力する。その生成アルゴリズムは、必要に応じて既存のアルゴリズムを適宜用いてよい。
【0031】
記録媒体200は、撮像装置100に対して着脱可能に接続される記録部であって、例えば、撮像部110によって生成された(撮影された)画像データや動画データ、あるいは、低減処理部250により音信号処理された音信号を記録する。
【0032】
バス290は、撮像部110と、バッファメモリ部130と、画像処理部140と、表示部150と、記録部160と、通信部170と、操作部180と、CPU190と、加速度センサー210と、計時部220と、A/D変換部240と、ノイズ低減処理部250と、ストロボ270と接続され、各構成部から出力されたデータ等を転送する。
【0033】
加速度センサー210は、撮像装置100における衝撃や振動を検出し、検出結果を示す出力をCPU190に出力する。
計時部220は、時間を計時して現時点に時間を示す時間情報を出力する。この計時部220は、一定間隔に出力されるクロックや音声サンプリングに使用するクロックをカウントして時間を計時するものであってもよく、日にちや時刻を計時して計時した日時を表わす日時情報を出力するものであってもよい。つまり、計時部220が計時した時間は、撮像部110によって撮影される動画データの撮影経過時間、マイク230によって収音される音声データの収音経過時間、および動作状態検出対象部材が動作した動作時間を一元的に管理する時間である。なお、この計時部220は、CPU190に内蔵されている構成であってもよい。
【0034】
マイク230は、周辺の音を収音し、この音のマイク音信号をA/D変換部240に出力する。このマイク230によって収音されるマイク検出音には、主に、収音対象である目的音と、動作状態検出対象部材による動作音(ノイズ)とが含まれている。
【0035】
A/D変換部240は、マイク230から入力されたアナログ信号であるマイク音信号をデジタル信号であるマイク音信号に変換する。このA/D変換部240は、デジタル信号であるマイク音信号を、低減処理部250に出力する。
また、A/D変換部240は、デジタル信号であるマイク音信号を、バッファメモリ部130あるいは記録媒体200に記録する構成であってもよい。
【0036】
ノイズ低減処理部250は、A/D変換部240によりデジタル信号に変換されたマイク音信号に対して、例えばフォーカスレンズ112、VRレンズ113、ズームレンズ114等の動作部による動作音であるノイズを低減するなどのノイズ低減処理を実行し、このノイズ低減処理した音信号を記録媒体200に記録する。
電池260は、撮像装置100へ供給される電力を蓄電する。
ストロボ270は、例えば、開閉式の構造であって、発光する際には発光面が立ち上がるように開かれて、使用しない場合は閉じられて発光面は収納される。このストロボ270は、開閉動作の際に動作音(ノイズ)が発生する。また、発光の際に充電する充電音(ノイズ)が発生する。このストロボ270は、CPU190と接続され、CPU190から入力されるコマンドに従って動作する。
【0037】
次に、マイク230によって取得されたマイク音信号について説明する、例えば、フォーカスレンズ112が動作された時に得られたマイク音信号の一例について、図2、3を参照して説明する。
図2(a)は、フォーカスエンコーダ117の出力と時間との関係の一例を示す。図2(b)は、マイク音信号と時間の関係の一例を示す。なお、図2(b)は、説明便宜のため、マイク音信号のうち、動作音の音信号のみを示し、目的音の音信号の図示を省略する。
【0038】
図2(a)には、その縦軸に、フォーカスエンコーダ117出力から求めた、フォーカスレンズ112を駆動する駆動機構の回転方向を示す。
この焦点距離Pでピントを合わせるAF処理を行う動作パターンでは、図2(a)に示す通り、フォーカスレンズ112を駆動する駆動機構が、時刻t110〜t120おいて、時計回りCWに回転して、その後、静止する。
つまり、時刻t110は、フォーカスレンズ112の動作が開始したタイミングを、時刻t120は、フォーカスレンズ112の動作が停止したタイミングを、それぞれ表わしている。なお、本実施形態において、動作が開始したタイミングの時刻t110は、フォーカスレンズ112の動作が開始したことを示す信号をフォーカスエンコーダ117が出力したタイミングである。動作が停止したタイミングの時刻t120は、動作中のフォーカスレンズ112の動作が停止したことを示す信号をフォーカスエンコーダ117が出力したタイミングである。
【0039】
従って、図2(b)に示す通り、時刻t110〜t120の期間で、マイク音信号にフォーカスレンズ112による動作音(ノイズ)が目的音に重畳している、又は、動作音(ノイズ)が目的音に重畳している可能性が高い。本実施形態においては、時刻t110〜t120の期間において、フォーカスレンズ112による動作音(ノイズ)が発生している場合について以下説明する。
また、図2(b)に示す通り、時刻t110、t120においては、それぞれ衝撃音が発生している可能性が高い。本実施形態においては、時刻t110、t120において、フォーカスレンズ112による衝撃音が発生している場合について説明する。
【0040】
また、衝撃音が発生した場合、その衝撃音が発生している可能性の高い時間は、各動作パターンに応じて予め決められている。例えば、焦点距離Pでピントを合わせるAF処理を行う動作パターンでは、図3に示すような衝撃音の発生する時間、および当該衝撃音の音量が予め決められている。
図3は、焦点距離Pでピントを合わせるAF処理を行う動作パターンでフォーカスレンズ112を駆動した際に、マイク230で収音されるマイク音信号の一例を示す。図3に示すグラフは、縦軸にマイク230によって収音された音信号を、横軸に時間を、それぞれ示す。なお、図3は、説明便宜のため、マイク230によって収音された音信号のうち、動作音(ノイズ)の音信号のみを示し、目的音の音信号の図示を省略する。
焦点距離Pでピントを合わせるAF処理を行う動作パターンでは、時刻t110〜t111までの時間、および時刻t119〜t120までの時間が、それぞれ、衝撃音の発生する時間であると予め決められている。動作部が動作しない可能性の高い期間を非動作期間Taとする。動作部の動作により衝撃音が発生する可能性の高い期間を衝撃音発生期間Tbとする。動作部の動作により駆動音が発生する可能性の高い期間を駆動音発生期間Tcとする。
時刻t110以前の区間、t120以降の区間が、非動作期間Taである。時刻t1100〜t111の区間、時刻t119〜t120の区間が、衝撃音発生期間Tbである。時刻t111〜t119の区間が、駆動音発生期間Tcである。
【0041】
次に、図4〜7を参照して、動作状態検出対象部材の動作状態を検出する動作検出部の出力について説明する。この動作検出部の一例として、ズームエンコーダ115、フォーカスエンコーダ117、および操作部180の出力について説明する。なお、図4〜7に示す時間は、計時部220によって計時された時間である。
はじめに、図4を参照して、ズームエンコーダ115の検出結果について説明する。このズームエンコーダ115の検出結果は、ズームレンズ115から出力されるパルス信号に基づく判定されるズームレンズ114の動作を示す情報である。なお、このズームエンコーダ115の検出結果は、ズームエンコーダ115の出力であるパルス信号の組み合わせパターンに応じて予め決められており、例えば、CPU190によって判定される。
図4(a)は、撮像部110によって撮像された撮影時間を示す。図4(a)に示すように、動画データが撮影された時間は、t0〜t10までの時間である。なお、t0〜t10までは、t0からの経過時間を示す撮影経過時間を、例えば計時部220が計時する。この計時部220は、フレーム数や時刻等によって、撮影経過時間を計時する。なお、t0は、撮影部110が撮影を開始したタイミングを示す。t10は、撮影部110が撮影を終了したタイミングを示す。
【0042】
図4(b)は、ズームエンコーダ115の検出結果と撮影経過時間との関係の一例を示す。図4(b)に示すように、t101〜t106の期間でズームエンコーダ115は階段状の検出結果を出力している。つまり、このt101〜t106において、ズームレンズ114が移動したことを示している。本実施形態において、ズームエンコーダ115の検出結果は、図5に示す通り、複数のズームポジション(焦点距離)f1〜f5を示す信号である。
図5は、ズームエンコーダ115の検出結果と焦点距離との関係を示す図である。図5において、実線は、ズームエンコーダ115の出力を示し、一点鎖線は、焦点距離を示す。
図5に示す通り、f1が広角よりのズームポジション、f5が遠望よりのズームポジションである。広角よりのズームポジションf1の方が、焦点距離が短い。望遠よりのズームポジションf5の方が、焦点距離が長い。
なお、ズームポジションは、説明便宜のため5段階に区分された値f1〜f5を例に説明するが、本発明はこれに限られず、5段階以上の値であってもよい。また、ズームポジションとは、ズームレンズ114の焦点距離範囲を複数個に分割した焦点距離を示す区分である。ズームレンズ114が移動すると、ズームエンコーダ115がズーム焦点距離範囲を示す信号を出力する。なお、ズームポジションf1〜f5が変化するタイミング(動作状態変化タイミング)は、t102〜t105である。
【0043】
ここで、図4に戻って、このt101は、ズームレンズ114が動作を開始したタイミングである。t106は、ズームレンズ114が動作を停止したタイミングである。
なお、撮影開始時刻t0とズームレンズ114が動作を開始したタイミングt101とは、ずれており、ズームレンズ114が動作を開始したタイミングt101の方が遅い。
図4(c)は、マイク230の出力と撮影経過時間との関係の一例を示す。図4(c)に示すように、t101〜t106の期間でノイズが重畳したマイク音信号を出力している。
【0044】
次に、図6を参照して、フォーカスエンコーダ117の出力について説明する。
図6(a)は、撮像部110によって動画データが撮影された撮影時間を示す。図6(a)に示すように、撮影された時間は、t0〜t10までの時間である。
図6(b)は、フォーカスエンコーダ117の出力と撮影経過時間との関係の一例を示す。図6(b)に示すように、t110〜t120の期間でパルス信号を出力している。つまり、このt110〜t120において、フォーカスレンズ112が移動したことを示している。このt110は、フォーカスレンズ112が動作を開始したタイミングである。t120は、フォーカスレンズ112が動作を停止したタイミングである。
なお、撮影開始時刻t0とフォーカスレンズ112が動作を開始したタイミングt110とは、ずれており、フォーカスレンズ112が動作を開始したタイミングt110の方が遅い。
図6(c)は、マイク230の出力と撮影経過時間との関係の一例を示す。図6(c)に示すように、t110〜t120の期間でノイズが重畳したマイク音信号を出力している。
【0045】
次に、図7を参照して、マルチセレクター181の出力について説明する。マルチセレクター181の出力は、このマルチセレクター181が出力する操作信号である。
図7(a)は、撮像部110によって撮像された撮影時間を示す。図7(a)に示すように、撮影された時間は、t0〜t10までの時間である。
図7(b)は、マルチセレクター181の出力と撮影経過時間との関係の一例を示す。図7(b)に示すように、マルチセレクター181の出力である操作信号は、t210〜t220、t230〜t240の期間で出力している。つまり、このt210〜t220、t230〜t240の期間において、マルチセレクター181が操作されたことを示している。このt210、t230は、マルチセレクター181が動作を開始したタイミングを示す。t220、t240は、マルチセレクター181の動作が終了したタイミングを示す。
なお、撮影開始時刻t0とマルチセレクター181が動作を開始したタイミングt210、t230とは、ずれている。
図7(c)は、マイク230の出力と撮影経過時間との関係の一例を示す。図7(c)に示すように、t210〜t220、t230〜t240の期間でノイズが重畳したマイク音信号を出力している。
【0046】
次に、図8を参照して、本実施形態に係る撮像装置100の動作タイミング情報の記録装置としての機能について説明する。
図8は、撮像装置100に搭載される記録装置としての最小限の構成の一例を示す図である。
図8に示す通り、撮像装置100に搭載される記録装置は、動作検出部300と、CPU190と、計時部220とを備える。
動作検出部300は、ズームエンコーダ115と、フォーカスエンコーダ117と、マルチセレクター181とを含み、動作状態検出対象部材の動作状態を示す動作情報をCPU190に出力する。この動作情報とは、動作検出部300に含まれる各構成からの出力であり、例えば、図4(b)に示したズームエンコーダ115の出力、図6(b)に示したフォーカスエンコーダ117の出力、図7(b)に示したマルチセレクター181の出力である。
【0047】
CPU190は、タイミング判定部191と記録制御部194とを備える。
タイミング判定部191は、動作タイミング判定部192と、制御タイミング判定部193とを含む。
動作タイミング判定部192は、動作検出部300から入力する動作情報に基づき、動作状態検出対象部材が動作したか否かを判定する。この動作タイミング判定部192は、動作検出部300から入力する動作情報に基づき、例えば、動作状態検出対象部材の動作が開始したタイミング、動作状態検出対象部材の動作が停止したタイミング、動作状態検出対象部材の動作状態が変更したタイミングを検出した場合、動作状態検出対象部材が動作したことを判定する。この動作タイミング判定部192は、動作状態検出対象部材が動作したことを判定した場合、この判定結果を記録制御部194に出力する。
【0048】
例えば、動作タイミング判定部192は、図4(b)に示したズームエンコーダ115の出力が入力された場合、ズームエンコーダ115の検出結果がf1からf2〜f5に変化したタイミングt102〜t105を検出する。そして、動作タイミング判定部192は、t102、t103、t104、t105がズームレンズ114の動作状態が変更したタイミングであると判定する。
【0049】
また、動作タイミング判定部192は、動作検出部300からの出力(動作情報)が入力された場合、予め決められた動作判定期間Mの間での動作検出部300のぞれぞれの出力が、動作していると判定するための値(以下、動作出力閾値という)以上であるか否かを判定する。
例えば、フォーカスエンコーダ117からの出力が入力された場合について説明する。このフォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値以上であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していると判定する。一方、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していないと判定する。
また、動作タイミング判定部192は、フォーカスレンズ112が動作していると判定した期間の最初を、フォーカスレンズ112の動作が開始したタイミングと判定し、フォーカスレンズ112が動作していると判定した期間の最後を、フォーカスレンズ112の動作が停止したタイミングと判定する。
なお、動作判定期間Mは、フォーカスエンコーダ117のパルス間隔よりも十分に広い時間であって、例えば、10msecである。
【0050】
ここで、動作タイミング判定部192による動作状態検出対象部材が動作を開始したタイミングを検出する検出方法の一例について説明する。本実施形態において、動作タイミング判定部192は、以下に説明する2つの検出方法のうち少なくともいずれか一方を適用することができる。
図9は、フォーカスエンコーダ117の出力と動作タイミングとの関係を示す図である。
図9に示す例では、フォーカスエンコーダ117は、t310にパルス信号を一時的に出力し、t320から連続して出力している。
本実施形態において、t310に発生した一時的なパルス信号は、フォーカスエンコーダ117に対して外乱振動が発生したことにより発生したパルス信号である。このように、検出対象であるフォーカスレンズ112の動作以外の振動であっても、フォーカスエンコーダ117からパルス信号が出力され、エッジ(LowからHighまたはHighからLow)が発生することがある。つまり、このt310におけるエッジが発生した時点をフォーカスレンズ112が動作したタイミングであると判定した場合、この判定は誤判定である。このように、パルス信号の発生時には、フォーカスレンズ112の動作時に発生するパルス信号以外の外乱振動等により発生するパルス信号のエッジにより、動作タイミングを誤判定してしまうおそれがある。
【0051】
また、フォーカスレンズ112の動作終了時においては、パルス幅が広くなる。これは、フォーカスエンコーダ117のパルス幅が駆動速度に反比例するためである。そのため、フォーカスレンズ112がほとんど動作していない状態において発生されたパルス信号によりエッジを検出した場合、ほとんど動作していない状態においてフォーカスレンズ112が動作していると誤判定してしまうおそれがある。
【0052】
動作タイミング判定部192は、t310から動作判定期間Mの間にフォーカスエンコーダ117から出力されたパルス信号のエッジ数を算出する。この場合、パルス信号は「0」から「1」に変化し、その後「1」から「0」に変化している。つまり、動作タイミング判定部192は、このようなパルス信号の変化の回数を示すエッジ数を算出する。このため、動作タイミング判定部192は、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であるため、t310からの動作判定期間Mでは、フォーカスレンズ112が動作していないと判定する。
【0053】
また、動作タイミング判定部192は、t320から動作判定期間Mの間にフォーカスエンコーダ117から出力されたパルス信号の数を算出する。この場合、パルス信号は「1」と「0」とを連続して複数個のパルス信号が出力している。ここで、動作タイミング判定部192は、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値以上であるため、t320からの動作判定期間Mでは、フォーカスレンズ112が動作していると判定する。同様にして、動作タイミング判定部192は、t330からの動作判定期間M、t340からの動作判定期間Mについても、フォーカスレンズ112が動作していると判定する。
さらに、動作タイミング判定部192は、t350からの動作判定期間Mにフォーカスエンコーダ117から出力されたパルス信号のエッジ数を検出する。この場合、フォーカスエンコーダ117からパルス信号は出力されていない。このため、動作タイミング判定部192は、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であるため、t350からの動作判定期間Mでは、フォーカスレンズ112が動作していないと判定する。
【0054】
ここで、動作状態検出対象部材が動作を開始したタイミングを検出する第1の検出方法では、以下のようにして、動作を開始したタイミングを検出する。この第1の検出方法は、リアルタイムの検出動作に適している。
動作タイミング判定部192は、フォーカスエンコーダ117からの出力信号に基づき、フォーカスエンコーダ117から入力するパルス信号の値が変化したか否かを判定する。なお、このとき、動作タイミング判定部192には、計時部220によって計時された時間を示す時間情報が入力されている。
例えば、動作タイミング判定部192は、t320においてパルス信号の値が変化したことを判定した場合、この変化したタイミングt320からの動作判定期間M(つまり、t320〜t330の期間)で検出されるパルス信号のエッジ数をカウントする。そして、動作判定期間M(t320〜t330の期間)において検出されたパルス信号の数が予め決められた回数(動作出力閾値)以上であるか否かを判定する。ここで、動作判定期間M(t320〜t330の期間)において検出されたパルス信号のエッジ数は、予め決められた回数(動作出力閾値)以上であるため、動作タイミング判定部192は、t330において、フォーカスレンズ112が動作していることを判定する。そして、動作タイミング判定部192は、この判定したタイミングt330の時間情報を取得する。
【0055】
この動作タイミング判定部192は、フォーカスレンズ112が動作していることを判定したタイミングt330から、動作判定期間Mの時間長を減じたタイミングt320が、フォーカスレンズ112が動作を開始したタイミングであると判定する。つまり、動作タイミング判定部192は、動作していることを判定した時刻(t330)から動作判定期間Mを減じた時刻(t320)を、動作開始時刻と判定する。
これにより、フォーカスレンズ112が動作を開始したタイミングがずれ、この例においては、t330の時点がフォーカスレンズ112の動作が開始したタイミングであると誤判定されることを防止することができる。
また、動作タイミング判定部192は、フォーカスレンズ112が動作している状態から動作していない状態に変化したことを判定したタイミングt360から、動作判定期間Mの時間長を減じたタイミングt350が、フォーカスレンズ112が動作を停止したタイミングであると判定する。つまり、動作タイミング判定部192は、動作している状態から動作していない状態に変化したことを判定した時刻(t360)から動作判定期間Mを減じた時刻(t350)を、動作停止時刻と判定する。
このようにして、動作タイミング判定部192は、フォーカスレンズ112の動作開始時刻と動作停止時刻を正確に検出することができる。つまり、ノイズ低減対象期間である動作開始時刻から動作停止時刻をより正確に検出することができるため、ノイズ以外の音信号まで低減させてしまうことによる目的音の音質が劣化を防止することができる。
【0056】
なお、上述の通り、駆動速度が変化すると、エンコーダから出力されるパルス信号のパルス幅は広くなる。このため、動作部の速度に応じた動作部の動き(動作パターン)に応じて、動作判定期間Mを変更するようにしてもよい。例えば、動作部の動作速度が遅くなる期間が予めわかっている場合、例えば、動作終了直前においては、動作開始直後において動作タイミングを判定するための動作判定期間M1に比べて長い期間である動作判定期間M2を設定するものであってもよい。
【0057】
次に、動作状態検出対象部材が動作を開始したタイミングを検出する第2の検出方法について説明する。
動作タイミング判定部192は、フォーカスエンコーダ117からの出力信号に基づき、フォーカスエンコーダ117から入力するパルス信号の値が変化したか否かを判定する。なお、このとき、動作タイミング判定部192には、計時部220によって計時された時間を示す時間情報が入力されている。
動作タイミング判定部192は、フォーカスエンコーダ117から入力するパルス信号の値が変化したと判定した場合、この判定したタイミングt320の時間情報を取得する。そして、動作タイミング判定部192は、このタイミングt320をトリガとして、タイミングt320からの動作判定期間M(つまり、t320〜t330の期間)で検出されるパルス信号の数をカウントする。そして、動作判定期間M(t320〜t330の期間)において検出されたパルス信号の数が予め決められた回数(動作出力閾値)以上であるか否かを判定する。ここで、動作判定期間M(t320〜t330の期間)において検出されたパルス信号の数は、予め決められた回数(動作出力閾値)以上であるため、動作タイミング判定部192は、t320において、フォーカスレンズ112が動作していることを判定する。
【0058】
この動作タイミング判定部192は、フォーカスレンズ112が動作していることを判定した場合、予め取得しているフォーカスエンコーダ117から入力するパルス信号の値が変化したと判定したタイミングt320を、フォーカスレンズ112が動作を開始したタイミングであると判定する。
この方法によっても、フォーカスレンズ112が動作を開始したタイミングがずれ、この例においては、t330の時点がフォーカスレンズ112が動作を開始したタイミングであると誤判定されることを防止することができる。
【0059】
動作タイミング判定部192は、上述のような処理を、図6(b)に示したフォーカスエンコーダ117の出力に基づき実行することにより、t110がフォーカスレンズ112の動作が開始したタイミングであり、t120がフォーカスレンズ112の動作が停止したタイミングであると判定する。
【0060】
動作タイミング判定部192は、図7(b)に示したマルチセレクター181の操作信号が入力された場合、操作信号が検出されたタイミングt210、t230をマルチセレクター181のクリック音が発生したタイミングと判定し、操作信号が検出されなくなったタイミングt220、t240をマルチセレクター181のクリック音が発生したタイミングと判定する。
【0061】
制御タイミング判定部193は、CPU190が動作状態検出対象部材を動作させる駆動制御信号に基づいて、動作状態検出対象部材の動作状態が変化した動作タイミングを判定し、判定結果を記録制御部194に出力する。なお、この駆動制御信号とは、動作部を動作させる駆動部に対して、動作部を動作させるようにする駆動制御信号、または、この駆動部を駆動させる駆動制御信号である。
この制御タイミング判定部193は、例えば、CPU190が出力するコマンドに基づいて、動作状態検出対象部材の動作タイミングを判定する。
この制御タイミング判定部193は、タイミング判定部191によって、動作タイミング判定部192の判定結果と、制御タイミング判定部193の判定結果とを組み合わせてタイミングを判定する場合に利用されてもよい。
【0062】
記録制御部194は、タイミング判定部191の判定結果に基づき、動作状態検出対象部材が動作したことを判定した場合、当該動作状態検出対象部材の動作タイミングを記録媒体200に書き込む。この記録制御部194は、動作タイミング判定部192によって動作状態検出対象部材が動作したことが判定された場合、動作状態検出対象部材が動作したことを示す情報と音信号とを関連付けて記録部に記録する。
具体的に説明すると、記録制御部194は、計時部220によって計時された時間情報に基づき、動作状態検出対象部材が動作した動作時刻と、音信号が収音された経過時間とを関連付ける。例えば、音信号の収音開始時刻を時刻0として、そこからの経過時間を動作時刻として記録する。
【0063】
この記録制御部194が記録媒体200に書き込む情報の一例を図10に示す。
図10(a)は、動作状態検出対象部材の種類ごとに、動作タイミングを書き込む例を説明するための図である。
図示の通り、記録制御部194は、動作状態検出対象部材の種類ごとに、動作タイミングを示す動作時間とその動作内容とを関連付けて、記録媒体200に書き込む。
図示の例において、ズームレンズ114の動作内容は、ズームエンコーダ115の検出結果であるf1〜f5で表現されている。フォーカスレンズ112の動作内容は、フォーカスエンコーダ117の出力であるSTART、STOPで表現されている。マルチセレクターの動作内容は、マルチセレクター181の出力である操作信号の入力開始(ON)と入力停止(OFF)で表現されている。
【0064】
図10(b)は、動作タイミングを示す動作時間ごとに、動作タイミングを書き込む例を説明するための図である。
図示の通り、記録制御部194は、動作タイミングを示す動作時間ごとに、動作タイミングを示す動作時間とその動作内容とを関連付けて、記録媒体200に書き込む。この場合、動作内容に応じて、その動作の主体である動作状態検出対象部材の種類が判別できるように、その内容の表現が上述の通り、予め決められている。
【0065】
例えば、記録制御部194は、ズームレンズ114の動作タイミングを示すズームエンコーダデータとして、ズームエンコーダ115の出力がf2〜f5に変化したタイミングをt102〜t105を書き込む。
また、記録制御部194は、フォーカスレンズ112の動作タイミングを示すフォーカスエンコーダデータとして、フォーカスレンズ112の動作が開始したタイミング(START)をt110と、フォーカスレンズ112の動作が停止したタイミング(STOP)をt120と、それぞれ書き込む。なお、初期状態においてフォーカスレンズ112は停止しているため、記録制御部194は、t0がフォーカスレンズ112の動作が停止しているタイミング(STOP)であることを書き込む。
さらに、記録制御部194は、マルチセレクター181の動作タイミングを示すマルチセレクターデータとして、マルチセレクター181の動作が開始したタイミング(ON)をt210、t230と、マルチセレクター181の動作が停止したタイミング(OFF)をt220、t240と、それぞれ書き込む。なお、初期状態においてマルチセレクター181はユーザからの指示を何ら受け付けていないため、記録制御部194は、t0がマルチセレクター181の動作が停止しているタイミング(OFF)であることを書き込む。
【0066】
次に、図11を参照して、記録制御部194が情報を書き込むファイルの一例について説明する。
図11(a)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データとは異なるファイルで記録される場合の一例を示す図である。
図11(a)に示す通り、動画データと音声データは、動画音声データ用のファイルに格納される。
動作タイミング情報は、動作タイミング情報用のファイルに格納される。
このように、それぞれのファイルを別にすることによって、動画再生時に不具合が生じる可能性を低減させることができる。
【0067】
なお、本発明はこれに限られず、動画データ、音声データおよび動作タイミング情報を、同一のファイルに一体にして格納してもよく、それぞれを別々のファイルに格納してもよい。
図11(b)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データと一体として、同一の一体保存ファイルに記録される場合の一例を示す図である。
【0068】
次に、図12を参照して、記録制御部194が情報を書き込むファイルの他の例について説明する。
図12(a)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データとは異なるファイルで記録される場合の一例を示す図である。また、図12(b)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データと一体として、同一の一体保存ファイルに記録される場合の一例を示す図である。これらの図のように、記録制御部194は、図9で説明した動作判定期間Mを動作タイミング情報の一部として記録してもよい。この場合、後述のノイズ低減処理部250において、フォーカスレンズ112が動作していることを判定したタイミングt330から、動作判定期間Mの時間長を減じたタイミングt320が、フォーカスレンズ112が動作を開始したタイミングであると判定してもよい。
【0069】
次に、ノイズ低減処理部250によるノイズ低減処理の一例について説明する。
図13は、ノイズ低減処理部250の構成の一例を示す図である。
このノイズ低減処理部250は、ノイズ低減制御部251と、音信号処理部252と、衝撃音ノイズ低減処理部253と、駆動音ノイズ低減処理部254と、逆フーリエ変換部255とを含む。
このノイズ低減処理部250は、記録媒体200に保存されている動作タイミング情報に基づき、この記録媒体200に保存されている音声データに対してノイズ低減処理を実行する。この記録媒体200には、ノイズ低減処理部250によって参照されるノイズ低減制御情報が保存されている。
【0070】
このノイズ低減制御情報の一例を図14に示す。図14に示す通り、ノイズ低減制御情報は、動作状態検出対象部材名と、衝撃音ノイズ低減処理フラグと、駆動音ノイズ低減処理フラグと、設定ノイズとを対応付けるテーブルである。
動作状態検出対象部材名は、ノイズ低減処理部250がノイズ低減処理の対象とする動作状態検出対象部材を示す情報である。
衝撃音ノイズ低減処理フラグは、対応する動作状態検出対象部材が衝撃音ノイズ低減処理を実行する対象であるか否かを示す情報である。この衝撃音ノイズ低減処理フラグが立っている場合(図示においては、○が記載されている場合)、衝撃音ノイズ低減処理を実行することを示す。
駆動音ノイズ低減処理フラグは、対応する動作状態検出対象部材が駆動音ノイズ低減処理を実行する対象であるか否かを示す情報である。この駆動音ノイズ低減処理フラグが立っている場合(図示においては、○が記載されている場合)、駆動音ノイズ低減処理を実行することを示す。
設定ノイズは、対応する動作状態検出対象部材によって発生するノイズとして推定される値であって、予め決められている。
【0071】
図14に示す通り、ズームレンズ114をCPU190の制御によって動作させた場合<ズームレンズ(オート)>、ズームレンズ114を手動で動作させた場合<ズームレンズ(マニュアル)>、VRレンズ133を動作させた場合<VRレンズ>、ストロボが発光した場合<ストロボ発光>は、駆動音ノイズ低減処理のみを実行することが決められている。
フォーカスレンズ112をCPU190の制御によって動作させた場合<フォーカスレンズ(オート)>、フォーカスレンズ112を手動で動作させた場合<フォーカスレンズ(マニュアル)>は、衝撃音ノイズ低減処理および駆動音ノイズ低減処理の双方を実行することが決められている。
ユーザがマルチセレクター181を操作して動作させた場合<マルチセレクター>、撮像装置100の筐体に衝撃が与えられた場合<タッチノイズ>、絞り機構が動作した場合<絞り機構>、開閉式のストロボが開いた場合<ストロボポップアップ>、動画撮影中に静止の撮像操作が指示された場合<シャッター音>は、衝撃音ノイズ低減処理のみを実行することが決められている。
【0072】
ノイズ低減制御部251は、記録媒体200から動作タイミング情報を読み出し、ノイズ低減制御情報を参照して、各動作状態検出対象部材に応じたノイズ低減をするよう衝撃音ノイズ低減処理部253と駆動音ノイズ低減処理部254とを制御する。
ここで、ノイズ低減制御部251によりノイズ低減される処理対象の一例について、図14を参照して説明する。図15は、図10に示した動作タイミング情報に基づき、動作状態検出対象部材が動作した期間を示す図である。この図15は、マイク230によって収音された目的音と動作状態検出対象部材による動作期間とを同一時間軸上に並べた図である。
図15に示す通り、ズームレンズ114の動作処理J1、フォーカスレンズ112の動作処理J2、マルチセレクター181の操作処理J3の順番で、各動作状態検出対象部材による動作が発生している。つまり、この処理J1〜J3の期間において、動作状態検出対象部材によるノイズが発生している可能性が高い。
ノイズ低減処理部250は、図15に示す各動作状態検出対象部材による動作期間において収音された目的音に対して、ノイズ低減処理を実行する。
【0073】
ここで、図16を参照して、音信号処理部252により算出される窓関数の各区間に対応する周波数スペクトルの一例について説明する。
音信号処理部252は、上述の通り、A/D変換部240から出力されたマイク音信号に対して、図16に示すように他の区間と半分ずつオーバーラップしている窓関数W1〜W14で重み付けをする。これにより、マイク音信号は、窓関数のサイズに分割される。この音信号処理部252は、例えば窓関数W1〜W14で重み付けされた各区間のマイク音信号ごとに、例えばフーリエ変換を行い、周波数領域における周波数スペクトルS1〜S14を算出する。つまり、音信号処理部252によって算出される周波数スペクトルS1〜S14は、窓関数W1〜W14の区間にそれぞれ対応する周波数スペクトルである。
【0074】
なお、図16に示すマイク音信号は、図6において示したフォーカスレンズ112の動作により発生したノイズの一例を示す。なお、図16は、説明便宜のため、マイク音信号のうち、フォーカスレンズ112の動作により発生するノイズのみを示し、目的音の音信号の図示を省略している。
図16に示す通り、フォーカスレンズ112を動作させるフォーカス調整処理を行う場合の動作パターンにおいては、動作開始タイミングと動作停止タイミングにおいて衝撃音が発生する。
時刻t110以前の区間、t120以降の区間が、非動作期間Taである。時刻t110〜t111の区間、時刻t119〜t120の区間が、衝撃音発生期間Tbである。時刻t111〜t119の区間が、駆動音発生期間Tcである。
【0075】
本実施形態において、窓関数W1、W13、W14に対応する周波数スペクトルS1、S13、S14は、非動作期間Taに取得されたマイク音信号の周波数スペクトルである。窓関数W5〜W8に対応する周波数スペクトルS5〜S8は、動作部が動作する可能性の高い期間のうち、駆動音発生期間Tcに取得されたマイク音信号の周波数スペクトルである。
また、窓関数W2〜W4に対応する周波数スペクトルS2〜S4と、窓関数W9〜W12に対応する周波数スペクトルS9〜S12は、動作部が動作する可能性の高い期間のうち、衝撃音発生期間Tbに取得されたマイク音信号の周波数スペクトルである。
【0076】
ノイズ低減制御部251は、記録媒体200に保存されている動作タイミング情報を参照して、動作状態検出対象部材による動作期間を判定する。このノイズ低減制御部251は、例えば、t110〜120の期間が、フォーカスレンズ112の動作期間であると判定する。
このノイズ低減制御部251は、記録部160に保存されているノイズ低減制御情報を参照して、フォーカスレンズ112の動作処理については、動作開始タイミングと動作停止タイミングにおいて衝撃音ノイズ低減処理を実行するとともに、動作期間の全体に対して駆動音ノイズ低減処理とを実行すると判定する。
ノイズ低減制御部251は、このようにして判定した結果に基づき、衝撃音ノイズ低減処理部253と駆動音ノイズ低減処理部254とを制御する。
つまり、ノイズ低減制御部251は、t110から予め決められた期間であるt110〜t111の期間において、フォーカスレンズ112の衝撃音ノイズ低減処理を実行することを指示する制御信号を衝撃音ノイズ低減処理部253に出力する。また、ノイズ低減制御部251は、t120までの予め決められた時間であるt119〜t120の期間において、フォーカスレンズ112の衝撃音ノイズ低減処理を実行することを指示する制御信号を衝撃音ノイズ低減処理部253に出力する。
さらに、ノイズ低減制御部251は、t110〜t120の期間において、フォーカスレンズ112の駆動音ノイズ低減処理を実行することを指示する制御信号を駆動音ノイズ低減処理部254に出力する。
【0077】
音信号処理部252は、A/D変換部240から出力されたマイク音信号に対して、予め決められた区間ごとに窓関数で重み付けするとともに、この区間毎のマイク音信号を周波数領域で表わされるスペクトルに変換して、この周波数領域で表わされるスペクトル(周波数スペクトル)を衝撃音ノイズ低減処理部253と駆動音ノイズ低減処理部254に出力する。
この音信号処理部252は、例えば、マイク音信号にフーリエ変換、あるいは高速フーリエ変換(FFT:Fast Fourier Transform)を行うことで、マイク音信号を周波数領域に変換する。音信号処理部252は、例えば、マイク音信号にフーリエ変換を行うことで、窓関数の各区間に対応する周波数スペクトルを算出する。
ここで、窓関数において予め定められた区間とは、信号処理の単位(フレーム)であって、一定の間隔で繰り返される区間である。これらの窓関数の各区間は、他の窓関数の各区間と半分ずつオーバーラップしている。なお、窓関数は、例えば、ハニング窓(ハニングウィンドウ)関数が利用可能である。
【0078】
衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から入力する制御信号に基づき、衝撃音発生期間Tbに対応するマイク音に対して、衝撃音ノイズ低減処理を実行する。なお、衝撃音ノイズ低減処理において低減するノイズは、動作状態検出対象部材ごとに予め決められており、ノイズ低減制御情報に規定されている。つまり、衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から低減すべき設定ノイズが指示される。衝撃音ノイズ低減処理部253は、ノイズ低減制御部251の制御に従って、指示された動作期間に対して、指示された設定ノイズの低減を実行する。
例えば、衝撃音ノイズ低減処理部253は、周波数スペクトルS2、S3、S4、S9、S10、S11、S12に対して、設定ノイズを周波数スペクトルに変換したものを減算するスペクトル減算を実行する。
この衝撃音ノイズ低減処理部253は、衝撃音ノイズ低減処理後の周波数スペクトルを駆動音ノイズ低減処理部254に出力する。
【0079】
駆動音ノイズ低減処理部254は、ノイズ低減制御部251から入力する制御信号に基づき、少なくとも駆動音発生期間Tcに対応するマイク音に対して、駆動音ノイズ低減処理を実行する。なお、駆動音ノイズ低減処理において低減するノイズは、動作状態検出対象部材ごとに予め決められており、ノイズ低減制御情報に規定されている。つまり、駆動音ノイズ低減処理部254は、ノイズ低減制御部251から低減すべき設定ノイズが指示される。駆動音ノイズ低減処理部254は、ノイズ低減制御部251の制御に従って、指示された動作期間に対して、指示された設定ノイズの低減を実行する。
例えば、駆動音ノイズ低減処理部254は、周波数スペクトルS2〜S12に対して、設定ノイズを周波数スペクトルに変換したものを減算するスペクトル減算を実行する。
この駆動音ノイズ低減処理部254は、駆動音ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部255に出力する。
【0080】
なお、駆動音ノイズ低減処理部254は、衝撃音ノイズ低減処理と駆動音ノイズ低減処理の両方を実行することが予め決められている動作状態検出対象部材に対しては、衝撃音ノイズ低減処理部253から入力する衝撃音ノイズ低減処理後のマイク音信号に対して駆動音ノイズ低減処理を実行する。一方、駆動音ノイズ低減処理のみの実行が予め決められている動作状態検出対象部材に対しては、音信号処理部252から入力するマイク音信号に対して駆動音ノイズ低減処理を実行する。
【0081】
逆フーリエ変換部255は、駆動音ノイズ低減処理部254から入力された周波数スペクトルに対して、例えば逆フーリエ変換、あるいは逆高速フーリエ変換(IFFT:Inverse Fast Fourier Transform)を行うことで、時間領域に変換する。
そして、通信部170は、この逆フーリエ変換部255によって時間領域に変換された音信号を記録媒体200に記録させる。なお、通信部170は、時間領域に変換された音信号と、撮像素子119により撮像された画像データとを、対応する日時情報を有する同士で対応付けて、記録媒体200に記録させてもよく、音信号を含む動画として記録してもよい。
【0082】
次に、図17を参照して、本発明に係るノイズ情報記録処理方法の一例について説明する。図17は、本発明に係るノイズ情報記録処理方法の一例を示すフローチャートである。
例えば、操作部180の電源スイッチがONされると、撮像装置100に電源が投入され、電池260から各構成部に対して電力が供給される。本実施形態では、撮像装置100に対して、撮像時の画像データと音声データとを対応付けて記録媒体200に記録することが予め設定されている。
【0083】
(ステップST1)
そして、操作部180により、例えば、動画の撮影を開始する指示が入力された場合、以下の処理を実行する。
マイク230は、例えば、電源がONされると、収音されたマイク音信号をA/D変換部240に出力する。A/D変換部240は、アナログ信号であるマイク音信号をデジタル変換したマイク音信号を低減処理部250に出力する。
低減処理部250は、A/D変換部240からマイク音信号を入力する。
例えば、ユーザによってズームレンズ114を広角から望遠に変更する操作が実行された場合、マニュアル操作部182は、ユーザからの受けた動力をズームレンズ114に伝達する。これにより、ズームレンズ114は、例えば、ズームポジションf1からf5に移動する。
ズームレンズ114が動くと、ズームエンコーダ115は、ズームレンズ114のf1からf5への移動に応じた信号を動作タイミング判定部192に出力する。
【0084】
(ステップST2)
動作タイミング判定部192は、動作検出部300からの入力があるか否かを判定する。このとき、動作タイミング判定部192には、計時部220によって計時された時間を示す時間情報が入力されている。
例えば、ズームエンコーダ115からズームレンズ114のズームポジションが変化したことを示す信号が入力した場合、動作タイミング判定部192は、ズームレンズ114の動作が開始したことを検出する。そして、動作タイミング判定部192は、このズームエンコーダ115からズームレンズ114のズームポジションが変化したことを示す信号を入力したタイミングを、計時部220によって計時された時間に基づき取得する。また、ズームエンコーダ115からズームレンズ114のズームポジションが変化したことを示す信号の入力が終了した場合、動作タイミング判定部192は、ズームレンズ114の動作が停止したことを検出する。そして、動作タイミング判定部192は、このズームエンコーダ115からの信号の入力が終了したタイミングを、計時部220によって計時された時間に基づき取得する。
【0085】
なお、フォーカスエンコーダ117からパルス信号が入力した場合、動作タイミング判定部192は、上述の第1の検出方法あるいは第2の検出方法を用いて、フォーカスエンコーダ117の動作が開始したタイミングとフォーカスエンコーダ117の動作が停止したタイミングを取得する。
さらに、マルチセレクター181が操作されたことを示す操作信号が入力した場合、動作タイミング判定部192は、マルチセレクター181が動作したことを検出する。そして、動作タイミング判定部192は、この操作信号が入力したタイミングを、計時部220によって計時された時間に基づき取得し、この操作信号の入力が終了したタイミングを、計時部220によって計時された時間に基づき取得する。
動作タイミング判定部192は、上述のようにして取得した動作タイミングを示す情報を記録制御部194に出力する。
【0086】
(ステップST4)
記録制御部194は、動作タイミング判定部192からの判定結果に基づき、動作タイミング情報を、記録媒体200内の予め決められたファイル内に記録する。この記録制御部194は、動作タイミング判定部192によって判定された動作タイミングである動作時間と動作内容を対応付けて記録媒体200に書き込む。
なお、計時部220によって計時された時間は、マイク230によって収音され記録媒体に記録される音声データに対しても付与されている。よって、動作タイミング情報と音声データを記録媒体200に書き込むことにより、記録制御部193は、動作状態検出対象部材が動作した動作時間とマイク音信号が収音された経過時間とを関連付けて記録することができる。
【0087】
次に、図18を参照して、本発明に係るノイズ低減処理方法の一例について説明する。図18は、本発明に係るノイズ低減処理方法の一例を示すフローチャートである。
【0088】
(ステップST11)
ノイズ低減処理部250のノイズ低減制御部251は、記録媒体200に記録されている音声データに対して関連付けられた動作タイミング情報が記録されているか否かを判定する。
【0089】
(ステップST12)
関連付けられた動作タイミング情報が記録されている場合、ノイズ低減制御部251は、この動作タイミング情報と音声データとを読み出す。
そして、ノイズ低減制御部251は、動作タイミング情報を参照して、ノイズ低減処理を実行する動作状態検出対象部材を決定する。
例えば、ノイズ低減制御部251は、動作タイミング情報に含まれるズームエンコーダデータに基づき、ノイズ低減処理の対象をズームレンズ114と決定する。
【0090】
(ステップST13)
次いで、ノイズ低減制御部251は、ノイズ低減制御情報を記録部160から読み出し、このノイズ低減制御情報の“動作状態検出対象部材名”の項目のズームレンズ(マニュアル)と対応付けられるノイズ低減処理の内容を確認する。
例えば、ノイズ低減制御部251は、ズームレンズ(マニュアル)と対応付けられる“衝撃音ノイズ低減処理フラグ”がたっているか否かを判定するとともに、“駆動音ノイズ低減処理フラグ”がたっているか否かを判定する。
【0091】
(ステップST14)
そして、“衝撃音ノイズ低減処理フラグ”が立っている場合、ノイズ低減制御部251は、動作タイミング情報が示す動作期間に対して、衝撃音ノイズ低減処理を実行する。また、“駆動音ノイズ低減処理フラグ”が立っている場合、ノイズ低減制御部251は、動作タイミング情報が示す動作期間に対して、駆動音ノイズ低減処理を実行する。
例えば、ノイズ低減制御部251は、動作タイミング情報に示されるズームレンズ114の動作期間であるt101〜t106の動作期間に対して、駆動音ノイズ低減処理を実行するように、駆動音ノイズ低減処理部254を制御する。このとき、ノイズ低減制御部251は、ノイズ低減制御情報において対応付けられている設定ノイズを読み出し、この設定ノイズの周波数スペクトルを減じるスペクトル減算を実行することを指示する。
【0092】
そして、衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から衝撃音ノイズ低減処理の実行が指示された場合、音信号処理部252によって周波数スペクトルに変換された音信号のうち、衝撃音発生期間に対応する音信号の周波数スペクトルから、設定ノイズの周波数スペクトルを減じるスペクトル減算を実行する。そして、衝撃音ノイズ低減処理部253は、スペクトル減算を実行した音信号の周波数スペクトルを逆フーリエ変換部255に出力する。
また、駆動音ノイズ低減処理部254は、ノイズ低減制御部251から駆動音ノイズ低減処理の実行が指示された場合、音信号処理部252によって周波数スペクトルに変換された音信号のうち、駆動音発生期間に対応する音信号の周波数スペクトルから、設定ノイズの周波数スペクトルを減じるスペクトル減算を実行する。そして、駆動音ノイズ低減処理部254は、スペクトル減算を実行した音信号の周波数スペクトルを逆フーリエ変換部255に出力する。
【0093】
逆フーリエ変換部255は、衝撃音ノイズ低減処理部253あるいは駆動音ノイズ低減処理部254から入力されたノイズ低減処理後の周波数スペクトルに対して、例えば逆フーリエ変換を行うことで、時間領域に変換する。この逆フーリエ変換部255は、時間領域に変換された音信号を記録媒体200に記録させる。
【0094】
以上説明したように、本実施形態に係る撮像装置100の動作タイミング判定部192は、動作検出部300の出力に基づき、動作状態検出対象部材が動作しているか否かを判定し、動作状態検出対象部材が動作していることが判定された場合、この動作状態検出対象部材が動作したことを示す情報(動作タイミング情報)と音信号とを関連付けて記録媒体200に記録する。
この構成により、本実施形態に係る動作タイミング判定部192は、ユーザのマニュアル操作によって動作された動作状態検出対象部材の動作状態についても判定することができる。一方、例えば、動作タイミング判定部192を備えず、制御タイミング判定部193のみを備える場合、マニュアル操作によってフォーカスレンズ112やズームレンズ114が動作された場合、この動作があったことを検出することができない。
【0095】
また、本実施形態に係る動作タイミング判定部192は、動作状態検出対象部材が動作したタイミングを確実に判定することができる。一方、CPU190が動作状態検出対象部材の動作を制御したタイミング(つまり、CPU190が動作状態検出対象部材にコマンドを出力するタイミング)は、動作状態検出対象部材が動作した可能性が高いタイミングであって、実際に動作状態検出対象部材が動作したタイミングとは異なる場合がある。例えば、制御に必要な演算時間や、モータ起動までの遅れ時間によって、制御したタイミングより実際の動作タイミングは遅れることが多い。また、モータの構造上、制御タイミング(動作を指示するコマンドが出力されたタイミング)と一定時間ずれる場合があるが、その制御タイミングと動作タイミングがずれる間隔は必ずしも一定とは限らない。
本実施形態に係る動作タイミング判定部192は、動作検出部300の出力に基づき、動作状態検出対象部材が動作しているか否かを判定することにより、上述の問題を解決することができる。
これにより、動作タイミング情報を用いて音信号に対するノイズ低減処理を実行する際、ノイズが発生している期間の検出の精度が向上し、ノイズ低減処理の精度の向上につなげることができる。
【0096】
また、本実施形態に係る撮像装置100の記録制御部194は、動作状態検出対象部材が動作していることが判定された場合、この動作状態検出対象部材が動作したことを示す情報(動作タイミング情報)と音信号とを関連付けて記録媒体200に記録する。これにより、リアルタイムでノイズ低減処理を実行する際の問題を解決できる。例えば、リアルタイムでノイズ低減処理を実行した場合、撮像装置100の録画や録音のための電力を消耗してしまう問題や、誤ってノイズが発生していない場合にノイズ低減処理を実行した場合に元に戻せない問題がある。また、ノイズ低減処理のための構成を備えていない撮像装置100に対しては、ノイズ低減処理部250を搭載させなければならないためコストもかかる。
しかしながら、本願発明に係る撮像装置100のように、記録装置として機能し、取得した動作タイミング情報と音信号とを関連づけて記録媒体200に記録することにより、例えばユーザが所望した希望のタイミングで、例えば、ユーザのパーソナルコンピュータを用いて、ノイズ低減処理を実行することができる。
【0097】
なお、本発明は、上述の実施形態に限られない。
例えば、動作タイミング判定部192は、撮像部110の通信部123によって記録部160に記録されている情報、つまり、ズームエンコーダ115とフォーカスエンコーダ117からの出力に時間情報を関連付けた情報を読み出して、動作タイミング判定処理を実行するものであってもよい。
【0098】
また、ノイズ低減処理装置250は、人物の音声について、以下のようなノイズ低減処理をするものであってもよい。動画撮影の機能として、画面内から顔を認識して顔にピントを合わせる顔認識機能がある。
CPU190は、この顔認識機能を利用して、撮像部110によって撮像される画像データに基づき、画像データ内に顔があるか否かを判定する。このCPU190は、顔を認識していない状態から顔を認識した状態になった場合に、顔を認識したことを示す情報と、その顔を認識した時間を示す時間情報を関連付けて、記録媒体200に記録する。また、CPU190は、顔認識が解除になったことを示す情報とその時間を示す時間情報とを関連づけて記録部200に記録する。
顔が認識されている時間は、画面内に人物がいるため、音声が記録されている可能性が高い。ノイズ低減処理部250は、顔が認識されている時間は、なるべく音声劣化を防止する条件(例えば、音声に含まれる周波数範囲を保存する処理)でノイズ低減処理を行うように処理を切り替えるものであってもよい。
【0099】
ここで、図19を参照して、CPU190の顔認識の結果とノイズ低減処理について説明する。
図19(a)は、撮像部110によって撮像された撮影時間を示す。図19(a)に示すように、動画データが撮影された時間は、t0〜t10までの時間である。なお、t0〜t10までは、t0からの経過時間を示す撮影経過時間を、例えば計時部220が計時する。
図19(b)は、CPU190によって顔認識の結果と撮影経過時間との関係の一例を示す。図19(b)に示すように、t410〜t420の期間でCPU190は、顔を認識している。このt410が、顔を認識したタイミングであって、t420が、顔認識を解除したタイミングである。
ノイズ低減処理部250は、このt410〜t420の期間に収音された音声データに対してノイズ低減処理を行う場合、たとえば、人間の音声に近い周波数に対応する周波数スペクトルの周波数成分のスペクトル減算を実行せずに、人間の音声に近い周波数以外に対応する周波数スペクトルの周波数成分のスペクトル減算を実行する。
【0100】
また、動画撮影中に撮影者が周囲の音圧レベルに応じて手動でマイク感度を変更する場合がある。この場合はマイク感度変更スイッチを押した情報に加えて、変更されたマイク感度情報も記録する。マイク感度情報はノイズ処理を行う際に利用する。例えば、マイク感度を半分に下げると、記録されるノイズ音も半分になるため、推定ノイズの値を半分にしてノイズ減算処理を行う。
録音時のマイク感度が自動的に変更される場合は、動画撮影開始時のマイク感度初期値およびマイク感度変更が発生したときの感度変更後の値を時刻情報と共に記録する。
内蔵マイク/外部マイクの使用状況を記録しても良い。動画撮影時の使用状況(例えば内蔵マイク使用)と動画撮影中の使用状況を記録し、内蔵マイク使用時のみノイズ低減処理を行っても良い。
【0101】
[第2実施形態]
なお、上述の第1実施形態に係る記録制御部194は、撮像装置に着脱可能な交換レンズに設けられる構成であってもよい。この交換レンズの一例について図20を参照して説明する。
図20は、本発明に係る記録制御部194を備える交換レンズの一例を示す図である。
図20に示す通り、この交換レンズ400は、光学系111と、撮像素子119と、A/D変換部120と、動作タイミング判定部192と、記録制御部194と、動作検出部310と、バッファメモリ401とを備える。なお、第1実施形態と同様の構成については、同一の符号を付して、詳細な説明は省略する。
動作検出部310は、ズームエンコーダ115とフォーカスエンコーダ117とを含む。
計時部220は、計時した時間を示す時間情報を動作タイミング判定部192と、記録制御部194と、録音装置501とに出力する。この録音装置501は、マイクを搭載し、収音した音信データに計時部220から入力する時間情報を関連付けて記録部に記録する。
動作タイミング判定部192は、動作検出部310からの出力信号に基づきフォーカスレンズ112とズームレンズ114とが動作したことを判定し、動作したことを示す情報と計時部220から入力する時間情報とを関連づけて記録制御部194に出力する。
記録制御部194は、計時部220から入力する時間情報をA/D変換部120から出力される動画データに付与する。この記録制御部194は、動作タイミング判定部192から入力する動作したことを示す情報と、A/D変換部120から入力する動画データとを、時間情報に基づき関連付けてバッファメモリ401に記録する。
【0102】
なお、本発明はこれに限られず、交換レンズ400における動作タイミング判定部192がリアルタイムに動作タイミング判定を実行せずに、動作検出部310の出力に計時部220からの時間情報を関連付けてバッファメモリ401に一時的に保存しておく構成であってもよい。この場合、動作タイミング判定部192は、例えば、交換レンズ400が取り付けられた撮像装置が充電中に動作タイミング判定処理を実行するものであってもよい。
【0103】
[第3実施形態]
本発明に係るノイズ低減処理部250の衝撃音ノイズ低減処理部253は、以下に説明するような衝撃音ノイズ低減処理を実行するものであってもよい。なお、ここで、ノイズ低減処理を実行する対象は、図16に示したマイク音信号である。
以下、具体的に説明する。
【0104】
衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から入力する制御信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、衝撃音が発生している可能性の高い衝撃音発生期間Tbに対応する周波数スペクトル(以下、第1周波数スペクトルという)を取得する。例えば、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す情報に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、第1周波数スペクトルとして取得する。なお、衝撃音発生期間の時間長は、動作状態検出対象部材毎に予め決められている。
衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、衝撃音が発生している可能性の高い衝撃音発生期間Tbに対応する周波数スペクトルS9〜S12を、第1周波数スペクトルとして取得する。なお、この衝撃音発生期間の時間長についても、動作状態検出対象部材毎に予め決められている。
【0105】
また、衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から入力する制御信号に基づき、音信号処理部252から出力される周波数スペクトルS1〜S14から、少なくとも衝撃音が発生していない可能性の高い期間(非動作期間Taあるいは駆動音発生期間Tc)に対応する周波数スペクトル(以下、第2周波数スペクトルという)を取得する。この衝撃音ノイズ低減処理部253は、衝撃音を含んでいる可能性の高い第1周波数スペクトルごとに、この衝撃音を含む可能性の低い第2周波数スペクトルを取得する。本実施形態において、衝撃音ノイズ低減処理部253は、第1周波数スペクトルと時間軸方向において最も近い衝撃音を含む可能性の低い周波数スペクトルを第2周波数スペクトルとして取得する。つまり、衝撃音ノイズ低減処理部253は、第1周波数スペクトルと時間軸方向に隣接あるいは重複する周波数スペクトルを第2周波数スペクトルとして取得する。
【0106】
なお、本実施形態において、第2周波数スペクトルは、衝撃音が発生していない可能性の高い期間に対応する周波数スペクトルである。しかし、本発明はこれに限られず、第2周波数スペクトルは、動作部の動作によって発生するノイズ音(駆動音および衝撃音)が発生しない可能性の高い期間(非動作期間Ta)に対応する周波数スペクトルであることが好ましい。
【0107】
ここで、図21を参照して、衝撃音ノイズ低減処理部253が取得する第1周波数スペクトルと第2周波数スペクトルとの関係の一例について説明する。図21は、衝撃音ノイズ低減処理部253が取得する第1周波数スペクトルと第2周波数スペクトルの一例を説明するための図である。
例えば、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t110を示す情報(ノイズ低減制御部251から入力する制御信号に含まれる)に基づき、第1周波数スペクトルである周波数スペクトルS2、S3に対応する第2周波数スペクトルとして、周波数スペクトルS2、3の時間軸の過去方向に最も近い周波数スペクトルS1を取得する。また、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t110を示す情報(ノイズ低減制御部251から入力する制御信号に含まれる)に基づき、第1周波数スペクトルである周波数スペクトルS4に対応する第2周波数スペクトルとして、周波数スペクトルS4の時間軸の未来方向に最も近い周波数スペクトルS5を取得する。
【0108】
また、衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、第1周波数スペクトルである周波数スペクトルS9、S10に対応する第2周波数スペクトルとして、周波数スペクトルS9、10の時間軸の過去方向に最も近い周波数スペクトルS8を取得する。また、衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、第1周波数スペクトルである周波数スペクトルS11、12に対応する第2周波数スペクトルとして、周波数スペクトルS11、12の時間軸の未来方向に最も近い周波数スペクトルS13を取得する。
【0109】
さらに、衝撃音ノイズ低減処理部253は、第1周波数スペクトルの少なくとも一部を第2周波数スペクトルの対応する部分に置き換える。
例えば、衝撃音ノイズ低減処理部253は、第1周波数スペクトルのうち予め決められた閾値周波数以上の周波数スペクトルと、第2周波数スペクトルのうち予め決められた閾値周波数以上の周波数スペクトルとを、周波数成分ごとに比較して、第2周波数スペクトルの方が第1周波数スペクトルに比べて小さいと判定した場合に、第1周波数スペクトルにおける当該周波数成分を第2周波数スペクトルの周波数成分に置き換える。
【0110】
図22を参照して詳細に説明する。図22は、一部の周波数スペクトルの周波数成分の一例について説明するための図である。なお、本実施の形態では、説明便宜のため、図16に示すマイク音信号のうち、窓関数W1,W3,W5,W7,W11,W13に対応する周波数スペクトルS1,S3,S5,S7,S11,S13について説明する。
図22に示す通り、周波数スペクトルS1,S3,S5,S7,S11,S13は、それぞれ、周波数成分f1〜f9の周波数成分を含む。
例えば、衝撃音ノイズ低減処理部253は、各周波数スペクトルの閾値周波数以上の周波数成分として、周波数成分f3〜f9について、第1周波数スペクトルと第2周波数スペクトルを比較することが予め決められている。よって、衝撃音ノイズ低減処理部253は、周波数成分f1,f2については、第1周波数スペクトルと第2周波数スペクトルを比較しない。
【0111】
ここで、図23を参照して、周波数スペクトルS1とS3について、衝撃音ノイズ低減処理部253による衝撃音ノイズ低減処理の一例について説明する。
図23は、周波数スペクトルS1とS3の周波数成分ごとに、振幅の比較について説明するための図である。
例えば、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f3の振幅と、周波数スペクトルS3の周波数成分f3の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f3の振幅の方が、周波数スペクトルS3の周波数成分f3の振幅に比べて小さい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換える。
また、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f4の振幅と、周波数スペクトルS3の周波数成分f4の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f4の振幅の方が、周波数スペクトルS3の周波数成分f4の振幅に比べて大きい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換えない。
このようにして、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分の振幅の方が、周波数スペクトルS3の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS3の周波数成分を周波数スペクトルS1の周波数成分に置き換える。
図23に示す場合、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3、f6〜f9を周波数スペクトルS1の周波数成分f3、f6〜f9に置き換える。
【0112】
次に、図24を参照して、本実施形態に係るノイズ低減処理方法の一例について説明する。図24は、本実施形態に係るノイズ低減処理方法の一例を示すフローチャートである。
例えば、操作部180の電源スイッチがONされると、撮像装置100に電源が投入され、電池260から各構成部に対して電力が供給される。本実施形態では、撮像装置100に対して、撮像時の画像データと音声データを対応付けて記憶媒体200に記憶させることが予め設定されている。
【0113】
(ステップST21)
衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から衝撃音ノイズ低減処理を実行することを指示する制御信号が入力されたか否かを判定する。衝撃音ノイズ低減処理部253は、衝撃音ノイズ低減処理が指示された場合、ステップST22に移行し、指示されていない場合、ステップST26に移行する。
(ステップST22)
一方、音信号処理部252は、A/D変換部240から出力されたマイク音信号に対して、予め決められた区間ごとに窓関数で重み付けするとともに、この区間毎のマイク音信号を周波数領域で表わされる周波数スペクトルに変換する。音信号処理部252は、例えば、窓関数で重み付けされた音信号をフーリエ変換して、周波数スペクトルS1〜S14を算出する。
【0114】
(ステップST23)
そして、音信号処理部252は、動作タイミング信号に基づき、衝撃音発生期間に対応する周波数スペクトルの周波数成分の総和と、予め決められた閾値とを比較する。
例えば、音信号処理部252は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を取得する。そして、音信号処理部252は、周波数スペクトルS2〜S4ごとに、周波数成分の総和が予め決められた閾値未満であるか否かを判定する。また、音信号処理部252は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を取得する。そして、音信号処理部252は、周波数スペクトルS9〜S12ごとに、周波数成分の総和が予め決められた閾値未満であるか否かを判定する。
【0115】
そして、音信号処理部252は、周波数成分の総和が予め決められた閾値未満であった周波数スペクトルを衝撃音ノイズ低減処理部253に出力するとともに、この周波数スペクトルに対して衝撃音ノイズ低減処理を実行するよう衝撃音ノイズ低減処理部253を制御する。
【0116】
(ステップST24)
次いで、衝撃音ノイズ低減処理部253は、音信号処理部252から衝撃音ノイズ低減処理を実行する制御に基づき、A/D変換部240から入力するマイク音信号に対して衝撃音ノイズ低減処理を実行する。
例えば、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、第1周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS2、S3に対応する第2周波数スペクトルとして、周波数スペクトルS2、3の直前の周波数スペクトルS1を取得する。また、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS4に対応する第2周波数スペクトルとして、周波数スペクトルS4の直後の周波数スペクトルS5を取得する。
【0117】
また、衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を、第1周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部253は、動作停止タイミングt20に対応する衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS9、S10に対応する第2周波数スペクトルとして、周波数スペクトルS9、10の直前の周波数スペクトルS8を取得する。また、衝撃音ノイズ低減処理部253は、動作開始タイミングt120に対応する衝撃音発生期間t119〜t120を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS11、12に対応する第2周波数スペクトルとして、周波数スペクトルS11、12の直後の周波数スペクトルS13を取得する。
【0118】
(ステップST25)
次いで、衝撃音ノイズ低減処理部253は、各周波数スペクトルの閾値周波数以上の周波数成分として、周波数成分f3〜f9について、第1周波数スペクトルと第2周波数スペクトルを比較する。
例えば、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f3の振幅と、周波数スペクトルS2の周波数成分f3の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f3の振幅の方が、周波数スペクトルS2の周波数成分f3の振幅に比べて小さい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換える。
また、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f4の振幅と、周波数スペクトルS2の周波数成分f4の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f4の振幅の方が、周波数スペクトルS2の周波数成分f4の振幅に比べて大きい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換えない。
このようにして、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分の振幅の方が、周波数スペクトルS3の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS3の周波数成分を周波数スペクトルS1の周波数成分に置き換える。
そして、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3、f6〜f9を、周波数成分を周波数スペクトルS1の周波数成分f3、f6〜f9と置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´3を駆動音ノイズ低減処理部254に出力する。
【0119】
衝撃音ノイズ低減処理部253は、同様にして、第1周波数スペクトルである周波数スペクトルS2と第2周波数スペクトルS1との比較と、第1周波数スペクトルである周波数スペクトルS4と第2周波数スペクトルS5との比較を行う。そして、第2周波数スペクトルS1、S5の周波数成分の振幅の方が、それぞれ、周波数スペクトルS2、S4の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS2、S4の周波数成分をそれぞれ周波数スペクトルS1、S5の周波数成分に置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´4を駆動音ノイズ低減処理部254に出力する。
【0120】
また、衝撃音ノイズ低減処理部253は、同様にして、第1周波数スペクトルである周波数スペクトルS9、S10と第2周波数スペクトルS8との比較、および第1周波数スペクトルである周波数スペクトルS11、S12と第2周波数スペクトルS13との比較を行う。そして、第2周波数スペクトルS8の周波数成分の振幅の方が、それぞれ、周波数スペクトルS9、S10の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS9、S10の周波数成分をそれぞれ周波数スペクトルS8の周波数成分に置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´9、S´10を駆動音ノイズ低減処理部254に出力する。同様にして、第2周波数スペクトルS13の周波数成分の振幅の方が、それぞれ、周波数スペクトルS11、S12の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS11、S12の周波数成分をそれぞれ周波数スペクトルS13の周波数成分に置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´11、S´12を駆動音ノイズ低減処理部254に出力する。
【0121】
(ステップST26)
駆動音ノイズ低減処理部254は、ノイズ低減制御部251から駆動音ノイズ低減処理を実行することを指示する制御信号が入力されたか否かを判定する。駆動音ノイズ低減処理部254は、駆動音ノイズ低減処理が指示された場合、ステップST27に移行し、指示されていない場合、ステップST28に移行する。
【0122】
(ステップST27)
次いで、駆動音ノイズ低減処理部254は、音信号処理部252から入力するマイク音信号の周波数スペクトルと、衝撃音ノイズ低減処理部253から入力する衝撃音ノイズ低減処理後の周波数スペクトルに基づき、駆動音ノイズ低減処理を実行する。例えば、駆動音ノイズ低減処理部254は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミングと、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す動作タイミング信号に基づき、駆動音が発生している可能性のある期間に対応する周波数スペクトルS2〜S12を、第3周波数スペクトルとして取得する。
この駆動音ノイズ低減処理部254は、取得した第3周波数スペクトルS2〜S12のうち、衝撃音ノイズ低減処理後の周波数スペクトルに対応する周波数スペクトルをS2〜S4、S9〜S12を、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12に置き換える。そして、駆動音ノイズ低減処理部254は、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12と、周波数スペクトルS5〜S7に対して駆動音ノイズ低減処理を実行する。つまり、駆動音ノイズ低減処理部254は、駆動パターンに応じて予め決められているノイズを表わす周波数スペクトルの周波数成分を、衝撃音ノイズ低減処理後の第3周波数スペクトルS´2〜S´4、S5〜7、S´9〜S´12の周波数成分からそれぞれ減算する。駆動音ノイズ低減処理部254は、この駆動音ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部254に出力する。
【0123】
(ステップST28)
逆フーリエ変換部254は、駆動音ノイズ低減処理部254から入力された駆動音ノイズ低減処理後の周波数スペクトルに対して、例えば逆フーリエ変換を行うことで、時間領域に変換する。この逆フーリエ変換部254は、時間領域に変換された音信号を記憶媒体200に記憶させる。
【0124】
次に、図25を参照して、動作タイミング判定部192によって判定される動作開始タイミングの一例について説明する。
図25には、例えば、コマンド出力と、フォーカスエンコーダ117の出力と、マイク230が出力するマイク音信号の一例を示す図である。
図示において、コマンド出力の波形の立ち上がり時(LowからHigh)は、コマンドの送信開始時刻を示している。コマンド出力の波形の立ち下がり時(HighからLow)は、コマンドの送信終了時刻を示している。なお、制御タイミング判定部193は、コマンドの送信終了時刻(t501)を動作開始タイミングであると判定する。この制御タイミング判定部193によって判定される動作開始タイミングは予め決められおり、ここでは、コマンド送信終了時刻と決められている。
【0125】
上述の通り、動作タイミング判定部192は、動作判定期間Mに対応する期間において、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値以上であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していると判定する。一方、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していないと判定する。
このようにして、動作タイミング判定部192は、t502が動作開始タイミングであり、t503が動作停止タイミングであると判定する。
【0126】
しかし、図25に示すように、フォーカスレンズ112の駆動系(ギア列等)のバックラッシュの影響で、フォーカスエンコーダ117の出力が、実際のフォーカスレンズ112の駆動系の動作開始タイミングとずれる場合がある。
図25に示す通り、実際のフォーカスレンズ112の駆動系の動作開始タイミングは、動作タイミング判定部192によって動作開始タイミングと判定されたt502ではなく、コマンドの送信終了時刻t510である。
【0127】
そこで、本実施形態に係るタイミング判定部191は、動作部の種類に応じて、動作開始タイミングについては、動作タイミング判定部192によって判定された動作開始タイミング(t502)ではなく、制御タイミング判定部193によって判定された動作開始タイミング(t501)を動作開始タイミングと決定する。なお、動作開始タイミングとして、動作タイミング判定部192によって決定されたタイミング、あるいは、制御タイミング判定部193によって判定されたタイミングを採用するかは、動作部の種類に応じて予め決められている。
これにより、タイミング判定部191は、図25を用いて説明したとおり、駆動系の実際の開始タイミングとフォーカスエンコーダ117の出力とがずれてしまった場合であっても、動作部によるノイズが発生した期間を検出することができる。
なお、上述の通り、タイミング判定部191が動作タイミング判定部192による判定結果と制御タイミング判定部193による判定結果を用いて動作タイミングを決定する際、動作タイミング判定部192は、上述の動作状態検出対象部材が動作を開始したタイミングを検出する第1の検出方法あるいは第2の検出方法のいずれか一方を利用することができる。
【0128】
また、タイミング判定部191又はノイズ低減処理部250等による手順を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含むものであってもよい。
【0129】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記録装置のことをいう。
【0130】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記録装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【符号の説明】
【0131】
100…撮像装置、110…撮像部、190…CPU、191…タイミング判定部部、192…動作タイミング判定部、194…記録制御部、200…記録媒体、230…マイク、240…A/D変換部、250…ノイズ低減処理部、300…動作検出部
【技術分野】
【0001】
本発明は、動作タイミング判定装置、撮像装置およびプログラムに関する。
【背景技術】
【0002】
例えば、音声記録中のモータの制御信号を取得し、当該制御信号からモータによる雑音情報を算出し、算出された雑音情報を音声情報から除去する撮像装置がある(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−233956号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、モータが実際に動作するタイミングは、制御信号が出力されるタイミングとずれる場合がある。この場合、モータによってノイズが発生したタイミングを正確に判定することができない。よって、制御信号に基づきノイズを除去した場合、ノイズ以外の音信号まで低減させてしまい、目的音の音質が劣化する問題がある。
【0005】
本発明は、前記の点に鑑みてなされたものであり、構成部材が動作するタイミングをより正確に判定する動作タイミング判定装置、撮像装置およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の一実施形態に係る動作タイミング判定装置は、上記の課題を解決するためになされたものであり、構成部材の動作状態に応じた信号を出力する動作検出部と、前記動作検出部からの検出結果に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったと判定された場合、前記構成部材が動作していると判定する動作タイミング判定部とを備える。
【発明の効果】
【0007】
本発明によれば、動作部によりノイズが発生したタイミングをより正確に判定することができる。
【図面の簡単な説明】
【0008】
【図1】本発明の実施形態に係る撮像装置の構成の一例を示すブロック図である。
【図2】本発明の実施形態に係る動作状態検出対象部材の動作タイミングと音信号との関係の一例を説明するための参考図である。
【図3】図2に示す音信号について詳細に説明するための参考図である。
【図4】本発明の実施形態に係るズームエンコーダの出力の一例を説明するための図である。
【図5】図4に示すズームエンコーダの出力を詳細に説明するための図である。
【図6】本発明の実施形態に係るフォーカスエンコーダの出力の一例について説明するための図である。
【図7】本発明の実施形態に係るマルチセレクターの出力の一例について説明するための図である。
【図8】本発明の実施形態に係る撮像装置に搭載される記録装置の構成の一例を示す図である。
【図9】本発明の実施形態に係るフォーカスエンコーダの出力と動作タイミングとの関係を示す図である。
【図10】本発明の実施形態に係る記録制御部が記録媒体に書き込む情報の一例を示す図である。
【図11】本発明の実施形態に係る記録制御部が情報を書き込むファイルの一例を示す図である。
【図12】本発明の実施形態に係る記録制御部が情報を書き込むファイルの他の例を示す図である。
【図13】ノイズ低減処理部の構成の一例を示す図である。
【図14】ノイズ低減制御情報の一例を示す図である。
【図15】動作状態検出対象部材が動作した期間を示す図である。
【図16】発明の第1実施形態に係る動作状態検出対象部材の動作タイミングと音信号との関係の一例を説明するための参考図である。
【図17】本発明に係るノイズ情報記録処理方法の一例を示すフローチャートである。
【図18】本発明に係るノイズ低減処理方法の一例を示すフローチャートである。
【図19】CPU190の顔認識の結果とノイズ低減処理について説明する。
【図20】本発明に係る記録制御部194を備える交換レンズの一例を示す図である。
【図21】本発明の実施形態に係る衝撃音ノイズ低減処理部が取得する第1周波数スペクトルと第2周波数スペクトルの一例を説明するための図である。
【図22】図15に示した各周波数スペクトルの周波数成分の一例を示す図である。
【図23】本発明の実施形態に係る衝撃音ノイズ低減処理の一例について説明するための図である。
【図24】本発明の本実施形態に係るノイズ低減処理方法の一例について説明するためのフローチャートである。
【図25】本発明の本実施形態に係るタイミング判定方法の一例について説明するための図である。
【発明を実施するための形態】
【0009】
[第1実施形態]
本発明の実施形態について図面を参照して詳細に説明する。図1には、本実施形態に係る撮像装置の構成を示すブロック図が示されている。
本実施形態に係る撮像装置は、構成部材の動作状態に応じた信号を検出し、この検出した信号に基づき、構成部材が動作したか否かを判定する。この構成部材が動作したか否かの判定結果としては、以下のようなさまざまな結果内容を取得することができる。
例えば、本実施形態に係る撮像装置は、構成部材が動作している状態であるか、あるいは、構成部材が停止している状態であるかを判定するものであってもよい。
また、本実施形態に係る撮像装置は、構成部材の動作状態が変化した動作タイミングを判定するものであってもよい。この動作タイミングとは、静止中の構成部材が動作を開始したタイミング、動作中の構成部材が動作を停止したタイミング、あるいは、動作中の構成部材の動作内容が変化したタイミングを示す。
なお、本実施形態では、構成部材が動作したことを示す情報として、構成部材の動作状態が変化した動作タイミングを検出する例について以下説明する。しかし、本願発明はこれに限られず、種々の方法により、構成部材が動作したか否かを判定するものである。
【0010】
本実施形態において、動作状態を検出する対象である構成部材は、撮像装置100を構成する構成部材であって、例えば、フォーカスレンズ、VRレンズ、ズームレンズ、絞り機構等の光学系構造部材と、撮像装置の操作ボタン、シャッターボタン、開閉式のストロボ等の操作系構造部材と、撮像装置の筐体等の固定系構造部材とである。なお、これら光学系構造部材、操作系構造部材、および固定系構成部材を、以下、動作状態検出対象部材という。
光学系構造部材は、撮影時の条件に応じて撮像装置自身によって自動的に動作させられる場合(以下、オート動作という)と、ユーザが手動により動作させられる場合(以下、マニュアル動作という)とがある。いずれの場合も、動作による機械音(ノイズ)が発生する。
操作系構造部材は、ユーザの操作によって動作させられる。この場合、ボタン等が押下されたことによる動作音(ノイズ)が発生したり、ストロボが開閉したことによる動作音(ノイズ)が発生する。また、ストロボを発光させるための充電器が作動したことによる音(ノイズ)が発生する。
固定系構造部材は、ユーザの手や洋服等が撮像装置の筐体に接触することによる摩擦音(ノイズ)が発生する。また、撮像装置の筐体をぶつけることによっても音(ノイズ)が発生する。
本実施形態に係る撮像装置は、上述の動作状態検出対象部材の動作状態が変化したタイミングを判定し、これら動作状態検出対象部材の動作によるノイズの発生タイミングを検出する。
【0011】
次に、図1を参照して、本実施形態に係る撮像装置100の構成の一例について説明する。
図1に示す通り、撮像装置100は、撮像部110と、バッファメモリ130と、画像処理部140と、表示部150と、記録部160と、通信部170と、操作部180と、CPU190と、加速度センサー210と、計時部220と、マイク230と、A/D変換部240と、低減処理部250と、電池260と、ストロボ270とを備える。この撮像装置100は、通信部170を介して外部構成である記録媒体200に対して、データの読み出し、あるいは、書き込みを行う。
本実施形態に係る撮像装置100において、動作状態検出対象部材の動作状態を示す動作状態情報を検出する動作検出部は、例えば、加速度センサー210や撮像部110内に搭載されているエンコーダである。なお、この動作検出部については、後述する。
【0012】
撮像装置100は、撮像部110が撮像した画像データと、マイク230が収音したマイク音信号とを記録媒体200に記録するとともに、動作状態検出対象部材の動作状態が変化したタイミングを示す動作タイミング情報とを記録部200に記録する記録装置である。この撮像装置100は、画像データを連続的に撮像して、動画データを撮影することができる。
本実施形態において、このように、画像データ(あるいは動画データ)、マイク音信号、および動作タイミング情報を記録媒体200に記録する記録装置は、撮像装置100に組み込まれているものとして説明する。しかし、本発明はこれに限られず、撮像装置本体から着脱可能な別構成の記録装置であってもよく、撮像装置本体から着脱可能な撮像部110に搭載されるものであってもよい。また、本実施形態において、低減処理部250は、撮像装置100に内蔵されている例について説明するが、本発明はこれに限られず、撮像装置100の外部装置であってもよい。さらに、記録媒体200は、撮像装置100に対して着脱可能な媒体であるが、本発明はこれに限られず、撮像装置100に内蔵されているものであってもよい。
【0013】
また、本実施形態に係るノイズ低減処理部250は、動作状態検出対象部材が動作することによって発生する動作音(ノイズ)を低減するためのノイズ低減処理を実行する。
例えば、撮像装置100が、フォーカスレンズを動作されるAF(Auto Focus)やMF(Manual Focus)のフォーカス処理において、モータやフォーカスレンズが動くことによる動作音(ノイズ)が発生する。また、モータが回転方向を切り換えた場合、一時的に大きい音のノイズが発生する。
このように、動作状態検出対象部材である光学系やモータが動作した場合あるいは動作状態が変化した場合に、一時的に発生する大きい音を衝撃音という。一方、この衝撃音よりも小さく、動作状態検出対象部材である光学系やこの動作状態検出対象部材を動作させる構成部材であるモータが動いている状態において発生する音を駆動音という。つまり、駆動音は、衝撃音以外のノイズである。
また、撮像装置100が、ズームレンズを動作させるズーム処理において、モータやズームレンズが動くことによる動作音(ノイズ)が発生する。なお、ズーム処理においては、衝撃音は発生しない。
本実施形態に係る低減処理部250は、少なくとも駆動音によるノイズを低減する駆動音ノイズ低減処理を実行するとともに、動作状態検出対象部材の種類に応じて、衝撃音によるノイズを低減する衝撃音ノイズ低減処理を実行する。
このノイズ低減処理部250は、外部装置に設けられているものであってもよい。
【0014】
次に、撮像装置100の各構成について詳細に説明する。
撮像部110は、光学系111と、撮像素子119と、A/D(Analog/Digital)変換部120と、レンズ制御部121と、バッファメモリ部122と、通信部123とを備える。
この光学系111は、手動により、ユーザによって操作可能である。つまり、光学系111は、CPU190による制御によって動作するとともに、ユーザの操作によって動作する。光学系111は、オート動作において、設定される撮像条件(例えば絞り値、露出値等)に応じて予め決められた動作パターンに従って、CPU190により動作が制御される。一方、マニュアル動作において、光学系111は、操作によって変更された撮像条件に応じて動作する。
この撮像部110は、光学系111による光学像を撮像素子119に結像させて、A/D変換部120によってデジタル信号に変換された光学像に基づく画像データを生成する。
【0015】
光学系111は、焦点調整レンズ(以下、「フォーカスレンズ」という)112と、手ブレ補正レンズ(以下、「VR(Vibration Reduction)レンズ」という)113と、ズームレンズ114と、ズームエンコーダ115と、レンズ駆動部116と、フォーカスエンコーダ117と、手ブレ補正部118とを備える。
これら光学系111の各構成は、オート動作において、CPU190による焦点調整処理、手ブレ補正処理、およびズーム処理において、それぞれの動作パターンに従って、駆動する。また、マニュアル動作において、光学系111は、操作によって変更された撮像条件に応じて動作する。つまり、光学系111は、撮像装置100における動作状態検出対象部材である。また、ズームレンズ114およびズームエンコーダ115は、動作状態検出対象部材の動作状態を検出する動作検出部である。
【0016】
この光学系111は、ズームレンズ114から入射し、ズームレンズ114、VRレンズ113、フォーカスレンズ112の順番で通過した光学像を、撮像素子119の受光面に導く。
レンズ駆動部116は、フォーカスレンズ112およびズームレンズ114の位置を制御するための駆動制御信号(コマンド)をCPU190から入力する。このレンズ駆動部116は、入力する駆動制御信号に応じて、フォーカスレンズ112およびズームレンズ114の位置を制御する。
つまり、この駆動制御信号がCPU190からレンズ駆動部116に入力されてレンズ駆動部116が駆動することにより、フォーカスレンズ112およびズームレンズ114が移動(動作)する。
【0017】
ズームエンコーダ115は、ズームレンズ114の位置を表わすズームポジションを検出し、CPU190に出力する。このズームエンコーダ115は、ズームレンズ114の移動を検出し、例えば、ズームレンズ114が光学系111内を移動している場合にパルス信号をCPU190に出力する。一方、停止している場合、ズームエンコーダ115は、パルス信号の出力を停止する。
【0018】
フォーカスエンコーダ117は、フォーカスレンズ112の位置を表わすフォーカスポジションを検出し、CPU190に出力する。このフォーカスエンコーダ117は、フォーカスレンズ112の移動を検出する。
【0019】
なお、ズームエンコーダ115は、ズームポジションを検出するために、ズームレンズ114の駆動方向を検出するものであってもよい。また、フォーカスエンコーダ117は、フォーカスポジションを検出するために、フォーカスレンズ112の駆動方向を検出するものであってもよい。
例えば、ズームレンズ114やフォーカスレンズ112は、レンズ駆動部116によって駆動される駆動機構(例えばモータやカム等)が時計回り(CW)あるいは反時計回り(CCW)に回転することにより光軸方向に移動する。ズームエンコーダ115およびフォーカスエンコーダ117は、それぞれ、駆動機構の回転方向(ここでは、時計回りあるいは反時計回り)を検出することよって、ズームレンズ114およびフォーカスレンズ112が移動していることを検出するものであってもよい。
【0020】
手ブレ補正部118は、例えば振動ジャイロ機構を備え、光学系111による像の光軸ぶれを検出し、この光軸ぶれを打ち消す方向にVRレンズ113を動かす。この手ブレ補正部118は、例えばフォーカスレンズ112を動かしている状態においてハイレベルの信号をCPU190に出力する。一方、フォーカスレンズ112を停止させている状態において、手ブレ補正部118は、ローレベルの信号をCPU190に出力する。
【0021】
撮像素子119は、例えば、光電変換面を備え、その受光面に結像した光学像を電気信号に変換して、A/D変換部120に出力する。
この撮像素子119は、操作部180を介して撮影指示を受け付けた際に得られる画像データを、静止画又は動画の画像データとして、A/D変換部120を介して記録媒体200に記録させる。一方、撮像素子119は、操作部180を介して撮像指示を受け付けていない状態において、連続的に得られる画像データをスルー画データとして、A/D変換部120を介してCPU190および表示部150に出力する。
【0022】
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像データをバッファメモリ部130に出力する。
レンズ制御部121は、ズームエンコーダ115とフォーカスエンコーダ117からの出力をバッファメモリ部122に一時的に記憶する設定がなされている場合、ズームエンコーダ115とフォーカスエンコーダ117からの出力に、計時部220によって計時される時間情報を関連付けてバッファメモリ部122に記録する。
バッファメモリ部122は、ズームエンコーダ115とフォーカスエンコーダ117からの出力に時間情報を関連付けた情報を一時的に記録する。
通信部123は、定期的に、バッファメモリ部122に記録されている情報を読み出して、記録部160に記録する。
【0023】
バッファメモリ部130は、撮像部110によって撮像された画像データ(あるいは動画データ)を、一時的に記録する。また、バッファメモリ部130は、マイク230が収音したマイク検出音に応じたマイク音信号を、一時的に記録する。なお、バッファメモリ部130は、マイク検出音が収音された時刻と、バッファメモリ部130における位置とを対応付けて、マイク検出音に応じたマイク音信号を記録してもよい。
【0024】
画像処理部140は、記録部160に記録されている画像処理条件を参照して、バッファメモリ部130に一時的に記録されている画像データ(あるいは動画データ)に対して、画像処理をする。画像処理された画像データ(あるいは動画データ)は、通信部170を介して記録媒体200に記録する。なお、画像処理部140は、記録媒体200に記録されている画像データ(あるいは動画データ)に対して、画像処理をしてもよい。
【0025】
表示部150は、例えば液晶ディスプレイであって、撮像部100によって得られた画像データや操作画面等を表示する。
【0026】
記録部160は、CPU190によってシーン判定の際に参照される判定条件や、シーン判定によって判断されたシーン毎に対応付けられた撮像条件等を記録する。
【0027】
通信部170は、カードメモリ等の取り外しが可能な記録媒体200と接続され、この記録媒体200への情報(画像データ、動画データ、あるいは音データ等)の書込み、読み出し、あるいは消去を行う。
【0028】
操作部180は、マルチセレクター181と、マニュアル操作部182とを含む。
このマニュアルセレクター181は、例えば、電源スイッチ、シャッターボタン、セレクタキー(十字キー)、又はその他の操作キーを含み、ユーザによって操作されることでユーザの操作入力を受け付け、操作入力に応じた操作信号をCPU190に出力する。この操作部180は、ユーザによって押下される際、物理的な動作音を発生する場合がある。つまり、マルチセレクター181は、動作状態検出対象部材である。
【0029】
マニュアル操作部182は、マニュアル動作によって動作するフォーカスレンズ112やズームレンズ114等をズーム調整やフォーカス調整を実行する際にユーザが動作させる構成である。このマニュアル操作部182は、例えば、撮像部110の鏡筒に取り付けられている。なお、マニュアル操作部182は、ユーザが当該マニュアル操作部182を動かすことによって、その動力が直接ズームレンズ114やフォーカスレンズ112を動かすものである。つまり、マルチセレクター181のように受け付けた操作に応じた操作信号を生成し、CPU190に出力する構成ではない。言い換えると、CPU190に入力する操作信号をモニタリングしているだけでは、このようなマニュアル動作によるズームレンズ114やフォーカスレンズ112の動作を検出することはできない。
【0030】
CPU190は、設定された撮像条件(例えば絞り値、露出値等)に応じた動作パターンに従って撮像部110を制御する。このCPU190は、ズームエンコーダ115から出力されるズームポジションおよびフォーカスエンコーダ117から出力されるフォーカスポジションに基づき、レンズ駆動部116を駆動する駆動制御信号を生成して、レンズ駆動部116に出力する。その生成アルゴリズムは、必要に応じて既存のアルゴリズムを適宜用いてよい。
【0031】
記録媒体200は、撮像装置100に対して着脱可能に接続される記録部であって、例えば、撮像部110によって生成された(撮影された)画像データや動画データ、あるいは、低減処理部250により音信号処理された音信号を記録する。
【0032】
バス290は、撮像部110と、バッファメモリ部130と、画像処理部140と、表示部150と、記録部160と、通信部170と、操作部180と、CPU190と、加速度センサー210と、計時部220と、A/D変換部240と、ノイズ低減処理部250と、ストロボ270と接続され、各構成部から出力されたデータ等を転送する。
【0033】
加速度センサー210は、撮像装置100における衝撃や振動を検出し、検出結果を示す出力をCPU190に出力する。
計時部220は、時間を計時して現時点に時間を示す時間情報を出力する。この計時部220は、一定間隔に出力されるクロックや音声サンプリングに使用するクロックをカウントして時間を計時するものであってもよく、日にちや時刻を計時して計時した日時を表わす日時情報を出力するものであってもよい。つまり、計時部220が計時した時間は、撮像部110によって撮影される動画データの撮影経過時間、マイク230によって収音される音声データの収音経過時間、および動作状態検出対象部材が動作した動作時間を一元的に管理する時間である。なお、この計時部220は、CPU190に内蔵されている構成であってもよい。
【0034】
マイク230は、周辺の音を収音し、この音のマイク音信号をA/D変換部240に出力する。このマイク230によって収音されるマイク検出音には、主に、収音対象である目的音と、動作状態検出対象部材による動作音(ノイズ)とが含まれている。
【0035】
A/D変換部240は、マイク230から入力されたアナログ信号であるマイク音信号をデジタル信号であるマイク音信号に変換する。このA/D変換部240は、デジタル信号であるマイク音信号を、低減処理部250に出力する。
また、A/D変換部240は、デジタル信号であるマイク音信号を、バッファメモリ部130あるいは記録媒体200に記録する構成であってもよい。
【0036】
ノイズ低減処理部250は、A/D変換部240によりデジタル信号に変換されたマイク音信号に対して、例えばフォーカスレンズ112、VRレンズ113、ズームレンズ114等の動作部による動作音であるノイズを低減するなどのノイズ低減処理を実行し、このノイズ低減処理した音信号を記録媒体200に記録する。
電池260は、撮像装置100へ供給される電力を蓄電する。
ストロボ270は、例えば、開閉式の構造であって、発光する際には発光面が立ち上がるように開かれて、使用しない場合は閉じられて発光面は収納される。このストロボ270は、開閉動作の際に動作音(ノイズ)が発生する。また、発光の際に充電する充電音(ノイズ)が発生する。このストロボ270は、CPU190と接続され、CPU190から入力されるコマンドに従って動作する。
【0037】
次に、マイク230によって取得されたマイク音信号について説明する、例えば、フォーカスレンズ112が動作された時に得られたマイク音信号の一例について、図2、3を参照して説明する。
図2(a)は、フォーカスエンコーダ117の出力と時間との関係の一例を示す。図2(b)は、マイク音信号と時間の関係の一例を示す。なお、図2(b)は、説明便宜のため、マイク音信号のうち、動作音の音信号のみを示し、目的音の音信号の図示を省略する。
【0038】
図2(a)には、その縦軸に、フォーカスエンコーダ117出力から求めた、フォーカスレンズ112を駆動する駆動機構の回転方向を示す。
この焦点距離Pでピントを合わせるAF処理を行う動作パターンでは、図2(a)に示す通り、フォーカスレンズ112を駆動する駆動機構が、時刻t110〜t120おいて、時計回りCWに回転して、その後、静止する。
つまり、時刻t110は、フォーカスレンズ112の動作が開始したタイミングを、時刻t120は、フォーカスレンズ112の動作が停止したタイミングを、それぞれ表わしている。なお、本実施形態において、動作が開始したタイミングの時刻t110は、フォーカスレンズ112の動作が開始したことを示す信号をフォーカスエンコーダ117が出力したタイミングである。動作が停止したタイミングの時刻t120は、動作中のフォーカスレンズ112の動作が停止したことを示す信号をフォーカスエンコーダ117が出力したタイミングである。
【0039】
従って、図2(b)に示す通り、時刻t110〜t120の期間で、マイク音信号にフォーカスレンズ112による動作音(ノイズ)が目的音に重畳している、又は、動作音(ノイズ)が目的音に重畳している可能性が高い。本実施形態においては、時刻t110〜t120の期間において、フォーカスレンズ112による動作音(ノイズ)が発生している場合について以下説明する。
また、図2(b)に示す通り、時刻t110、t120においては、それぞれ衝撃音が発生している可能性が高い。本実施形態においては、時刻t110、t120において、フォーカスレンズ112による衝撃音が発生している場合について説明する。
【0040】
また、衝撃音が発生した場合、その衝撃音が発生している可能性の高い時間は、各動作パターンに応じて予め決められている。例えば、焦点距離Pでピントを合わせるAF処理を行う動作パターンでは、図3に示すような衝撃音の発生する時間、および当該衝撃音の音量が予め決められている。
図3は、焦点距離Pでピントを合わせるAF処理を行う動作パターンでフォーカスレンズ112を駆動した際に、マイク230で収音されるマイク音信号の一例を示す。図3に示すグラフは、縦軸にマイク230によって収音された音信号を、横軸に時間を、それぞれ示す。なお、図3は、説明便宜のため、マイク230によって収音された音信号のうち、動作音(ノイズ)の音信号のみを示し、目的音の音信号の図示を省略する。
焦点距離Pでピントを合わせるAF処理を行う動作パターンでは、時刻t110〜t111までの時間、および時刻t119〜t120までの時間が、それぞれ、衝撃音の発生する時間であると予め決められている。動作部が動作しない可能性の高い期間を非動作期間Taとする。動作部の動作により衝撃音が発生する可能性の高い期間を衝撃音発生期間Tbとする。動作部の動作により駆動音が発生する可能性の高い期間を駆動音発生期間Tcとする。
時刻t110以前の区間、t120以降の区間が、非動作期間Taである。時刻t1100〜t111の区間、時刻t119〜t120の区間が、衝撃音発生期間Tbである。時刻t111〜t119の区間が、駆動音発生期間Tcである。
【0041】
次に、図4〜7を参照して、動作状態検出対象部材の動作状態を検出する動作検出部の出力について説明する。この動作検出部の一例として、ズームエンコーダ115、フォーカスエンコーダ117、および操作部180の出力について説明する。なお、図4〜7に示す時間は、計時部220によって計時された時間である。
はじめに、図4を参照して、ズームエンコーダ115の検出結果について説明する。このズームエンコーダ115の検出結果は、ズームレンズ115から出力されるパルス信号に基づく判定されるズームレンズ114の動作を示す情報である。なお、このズームエンコーダ115の検出結果は、ズームエンコーダ115の出力であるパルス信号の組み合わせパターンに応じて予め決められており、例えば、CPU190によって判定される。
図4(a)は、撮像部110によって撮像された撮影時間を示す。図4(a)に示すように、動画データが撮影された時間は、t0〜t10までの時間である。なお、t0〜t10までは、t0からの経過時間を示す撮影経過時間を、例えば計時部220が計時する。この計時部220は、フレーム数や時刻等によって、撮影経過時間を計時する。なお、t0は、撮影部110が撮影を開始したタイミングを示す。t10は、撮影部110が撮影を終了したタイミングを示す。
【0042】
図4(b)は、ズームエンコーダ115の検出結果と撮影経過時間との関係の一例を示す。図4(b)に示すように、t101〜t106の期間でズームエンコーダ115は階段状の検出結果を出力している。つまり、このt101〜t106において、ズームレンズ114が移動したことを示している。本実施形態において、ズームエンコーダ115の検出結果は、図5に示す通り、複数のズームポジション(焦点距離)f1〜f5を示す信号である。
図5は、ズームエンコーダ115の検出結果と焦点距離との関係を示す図である。図5において、実線は、ズームエンコーダ115の出力を示し、一点鎖線は、焦点距離を示す。
図5に示す通り、f1が広角よりのズームポジション、f5が遠望よりのズームポジションである。広角よりのズームポジションf1の方が、焦点距離が短い。望遠よりのズームポジションf5の方が、焦点距離が長い。
なお、ズームポジションは、説明便宜のため5段階に区分された値f1〜f5を例に説明するが、本発明はこれに限られず、5段階以上の値であってもよい。また、ズームポジションとは、ズームレンズ114の焦点距離範囲を複数個に分割した焦点距離を示す区分である。ズームレンズ114が移動すると、ズームエンコーダ115がズーム焦点距離範囲を示す信号を出力する。なお、ズームポジションf1〜f5が変化するタイミング(動作状態変化タイミング)は、t102〜t105である。
【0043】
ここで、図4に戻って、このt101は、ズームレンズ114が動作を開始したタイミングである。t106は、ズームレンズ114が動作を停止したタイミングである。
なお、撮影開始時刻t0とズームレンズ114が動作を開始したタイミングt101とは、ずれており、ズームレンズ114が動作を開始したタイミングt101の方が遅い。
図4(c)は、マイク230の出力と撮影経過時間との関係の一例を示す。図4(c)に示すように、t101〜t106の期間でノイズが重畳したマイク音信号を出力している。
【0044】
次に、図6を参照して、フォーカスエンコーダ117の出力について説明する。
図6(a)は、撮像部110によって動画データが撮影された撮影時間を示す。図6(a)に示すように、撮影された時間は、t0〜t10までの時間である。
図6(b)は、フォーカスエンコーダ117の出力と撮影経過時間との関係の一例を示す。図6(b)に示すように、t110〜t120の期間でパルス信号を出力している。つまり、このt110〜t120において、フォーカスレンズ112が移動したことを示している。このt110は、フォーカスレンズ112が動作を開始したタイミングである。t120は、フォーカスレンズ112が動作を停止したタイミングである。
なお、撮影開始時刻t0とフォーカスレンズ112が動作を開始したタイミングt110とは、ずれており、フォーカスレンズ112が動作を開始したタイミングt110の方が遅い。
図6(c)は、マイク230の出力と撮影経過時間との関係の一例を示す。図6(c)に示すように、t110〜t120の期間でノイズが重畳したマイク音信号を出力している。
【0045】
次に、図7を参照して、マルチセレクター181の出力について説明する。マルチセレクター181の出力は、このマルチセレクター181が出力する操作信号である。
図7(a)は、撮像部110によって撮像された撮影時間を示す。図7(a)に示すように、撮影された時間は、t0〜t10までの時間である。
図7(b)は、マルチセレクター181の出力と撮影経過時間との関係の一例を示す。図7(b)に示すように、マルチセレクター181の出力である操作信号は、t210〜t220、t230〜t240の期間で出力している。つまり、このt210〜t220、t230〜t240の期間において、マルチセレクター181が操作されたことを示している。このt210、t230は、マルチセレクター181が動作を開始したタイミングを示す。t220、t240は、マルチセレクター181の動作が終了したタイミングを示す。
なお、撮影開始時刻t0とマルチセレクター181が動作を開始したタイミングt210、t230とは、ずれている。
図7(c)は、マイク230の出力と撮影経過時間との関係の一例を示す。図7(c)に示すように、t210〜t220、t230〜t240の期間でノイズが重畳したマイク音信号を出力している。
【0046】
次に、図8を参照して、本実施形態に係る撮像装置100の動作タイミング情報の記録装置としての機能について説明する。
図8は、撮像装置100に搭載される記録装置としての最小限の構成の一例を示す図である。
図8に示す通り、撮像装置100に搭載される記録装置は、動作検出部300と、CPU190と、計時部220とを備える。
動作検出部300は、ズームエンコーダ115と、フォーカスエンコーダ117と、マルチセレクター181とを含み、動作状態検出対象部材の動作状態を示す動作情報をCPU190に出力する。この動作情報とは、動作検出部300に含まれる各構成からの出力であり、例えば、図4(b)に示したズームエンコーダ115の出力、図6(b)に示したフォーカスエンコーダ117の出力、図7(b)に示したマルチセレクター181の出力である。
【0047】
CPU190は、タイミング判定部191と記録制御部194とを備える。
タイミング判定部191は、動作タイミング判定部192と、制御タイミング判定部193とを含む。
動作タイミング判定部192は、動作検出部300から入力する動作情報に基づき、動作状態検出対象部材が動作したか否かを判定する。この動作タイミング判定部192は、動作検出部300から入力する動作情報に基づき、例えば、動作状態検出対象部材の動作が開始したタイミング、動作状態検出対象部材の動作が停止したタイミング、動作状態検出対象部材の動作状態が変更したタイミングを検出した場合、動作状態検出対象部材が動作したことを判定する。この動作タイミング判定部192は、動作状態検出対象部材が動作したことを判定した場合、この判定結果を記録制御部194に出力する。
【0048】
例えば、動作タイミング判定部192は、図4(b)に示したズームエンコーダ115の出力が入力された場合、ズームエンコーダ115の検出結果がf1からf2〜f5に変化したタイミングt102〜t105を検出する。そして、動作タイミング判定部192は、t102、t103、t104、t105がズームレンズ114の動作状態が変更したタイミングであると判定する。
【0049】
また、動作タイミング判定部192は、動作検出部300からの出力(動作情報)が入力された場合、予め決められた動作判定期間Mの間での動作検出部300のぞれぞれの出力が、動作していると判定するための値(以下、動作出力閾値という)以上であるか否かを判定する。
例えば、フォーカスエンコーダ117からの出力が入力された場合について説明する。このフォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値以上であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していると判定する。一方、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していないと判定する。
また、動作タイミング判定部192は、フォーカスレンズ112が動作していると判定した期間の最初を、フォーカスレンズ112の動作が開始したタイミングと判定し、フォーカスレンズ112が動作していると判定した期間の最後を、フォーカスレンズ112の動作が停止したタイミングと判定する。
なお、動作判定期間Mは、フォーカスエンコーダ117のパルス間隔よりも十分に広い時間であって、例えば、10msecである。
【0050】
ここで、動作タイミング判定部192による動作状態検出対象部材が動作を開始したタイミングを検出する検出方法の一例について説明する。本実施形態において、動作タイミング判定部192は、以下に説明する2つの検出方法のうち少なくともいずれか一方を適用することができる。
図9は、フォーカスエンコーダ117の出力と動作タイミングとの関係を示す図である。
図9に示す例では、フォーカスエンコーダ117は、t310にパルス信号を一時的に出力し、t320から連続して出力している。
本実施形態において、t310に発生した一時的なパルス信号は、フォーカスエンコーダ117に対して外乱振動が発生したことにより発生したパルス信号である。このように、検出対象であるフォーカスレンズ112の動作以外の振動であっても、フォーカスエンコーダ117からパルス信号が出力され、エッジ(LowからHighまたはHighからLow)が発生することがある。つまり、このt310におけるエッジが発生した時点をフォーカスレンズ112が動作したタイミングであると判定した場合、この判定は誤判定である。このように、パルス信号の発生時には、フォーカスレンズ112の動作時に発生するパルス信号以外の外乱振動等により発生するパルス信号のエッジにより、動作タイミングを誤判定してしまうおそれがある。
【0051】
また、フォーカスレンズ112の動作終了時においては、パルス幅が広くなる。これは、フォーカスエンコーダ117のパルス幅が駆動速度に反比例するためである。そのため、フォーカスレンズ112がほとんど動作していない状態において発生されたパルス信号によりエッジを検出した場合、ほとんど動作していない状態においてフォーカスレンズ112が動作していると誤判定してしまうおそれがある。
【0052】
動作タイミング判定部192は、t310から動作判定期間Mの間にフォーカスエンコーダ117から出力されたパルス信号のエッジ数を算出する。この場合、パルス信号は「0」から「1」に変化し、その後「1」から「0」に変化している。つまり、動作タイミング判定部192は、このようなパルス信号の変化の回数を示すエッジ数を算出する。このため、動作タイミング判定部192は、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であるため、t310からの動作判定期間Mでは、フォーカスレンズ112が動作していないと判定する。
【0053】
また、動作タイミング判定部192は、t320から動作判定期間Mの間にフォーカスエンコーダ117から出力されたパルス信号の数を算出する。この場合、パルス信号は「1」と「0」とを連続して複数個のパルス信号が出力している。ここで、動作タイミング判定部192は、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値以上であるため、t320からの動作判定期間Mでは、フォーカスレンズ112が動作していると判定する。同様にして、動作タイミング判定部192は、t330からの動作判定期間M、t340からの動作判定期間Mについても、フォーカスレンズ112が動作していると判定する。
さらに、動作タイミング判定部192は、t350からの動作判定期間Mにフォーカスエンコーダ117から出力されたパルス信号のエッジ数を検出する。この場合、フォーカスエンコーダ117からパルス信号は出力されていない。このため、動作タイミング判定部192は、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であるため、t350からの動作判定期間Mでは、フォーカスレンズ112が動作していないと判定する。
【0054】
ここで、動作状態検出対象部材が動作を開始したタイミングを検出する第1の検出方法では、以下のようにして、動作を開始したタイミングを検出する。この第1の検出方法は、リアルタイムの検出動作に適している。
動作タイミング判定部192は、フォーカスエンコーダ117からの出力信号に基づき、フォーカスエンコーダ117から入力するパルス信号の値が変化したか否かを判定する。なお、このとき、動作タイミング判定部192には、計時部220によって計時された時間を示す時間情報が入力されている。
例えば、動作タイミング判定部192は、t320においてパルス信号の値が変化したことを判定した場合、この変化したタイミングt320からの動作判定期間M(つまり、t320〜t330の期間)で検出されるパルス信号のエッジ数をカウントする。そして、動作判定期間M(t320〜t330の期間)において検出されたパルス信号の数が予め決められた回数(動作出力閾値)以上であるか否かを判定する。ここで、動作判定期間M(t320〜t330の期間)において検出されたパルス信号のエッジ数は、予め決められた回数(動作出力閾値)以上であるため、動作タイミング判定部192は、t330において、フォーカスレンズ112が動作していることを判定する。そして、動作タイミング判定部192は、この判定したタイミングt330の時間情報を取得する。
【0055】
この動作タイミング判定部192は、フォーカスレンズ112が動作していることを判定したタイミングt330から、動作判定期間Mの時間長を減じたタイミングt320が、フォーカスレンズ112が動作を開始したタイミングであると判定する。つまり、動作タイミング判定部192は、動作していることを判定した時刻(t330)から動作判定期間Mを減じた時刻(t320)を、動作開始時刻と判定する。
これにより、フォーカスレンズ112が動作を開始したタイミングがずれ、この例においては、t330の時点がフォーカスレンズ112の動作が開始したタイミングであると誤判定されることを防止することができる。
また、動作タイミング判定部192は、フォーカスレンズ112が動作している状態から動作していない状態に変化したことを判定したタイミングt360から、動作判定期間Mの時間長を減じたタイミングt350が、フォーカスレンズ112が動作を停止したタイミングであると判定する。つまり、動作タイミング判定部192は、動作している状態から動作していない状態に変化したことを判定した時刻(t360)から動作判定期間Mを減じた時刻(t350)を、動作停止時刻と判定する。
このようにして、動作タイミング判定部192は、フォーカスレンズ112の動作開始時刻と動作停止時刻を正確に検出することができる。つまり、ノイズ低減対象期間である動作開始時刻から動作停止時刻をより正確に検出することができるため、ノイズ以外の音信号まで低減させてしまうことによる目的音の音質が劣化を防止することができる。
【0056】
なお、上述の通り、駆動速度が変化すると、エンコーダから出力されるパルス信号のパルス幅は広くなる。このため、動作部の速度に応じた動作部の動き(動作パターン)に応じて、動作判定期間Mを変更するようにしてもよい。例えば、動作部の動作速度が遅くなる期間が予めわかっている場合、例えば、動作終了直前においては、動作開始直後において動作タイミングを判定するための動作判定期間M1に比べて長い期間である動作判定期間M2を設定するものであってもよい。
【0057】
次に、動作状態検出対象部材が動作を開始したタイミングを検出する第2の検出方法について説明する。
動作タイミング判定部192は、フォーカスエンコーダ117からの出力信号に基づき、フォーカスエンコーダ117から入力するパルス信号の値が変化したか否かを判定する。なお、このとき、動作タイミング判定部192には、計時部220によって計時された時間を示す時間情報が入力されている。
動作タイミング判定部192は、フォーカスエンコーダ117から入力するパルス信号の値が変化したと判定した場合、この判定したタイミングt320の時間情報を取得する。そして、動作タイミング判定部192は、このタイミングt320をトリガとして、タイミングt320からの動作判定期間M(つまり、t320〜t330の期間)で検出されるパルス信号の数をカウントする。そして、動作判定期間M(t320〜t330の期間)において検出されたパルス信号の数が予め決められた回数(動作出力閾値)以上であるか否かを判定する。ここで、動作判定期間M(t320〜t330の期間)において検出されたパルス信号の数は、予め決められた回数(動作出力閾値)以上であるため、動作タイミング判定部192は、t320において、フォーカスレンズ112が動作していることを判定する。
【0058】
この動作タイミング判定部192は、フォーカスレンズ112が動作していることを判定した場合、予め取得しているフォーカスエンコーダ117から入力するパルス信号の値が変化したと判定したタイミングt320を、フォーカスレンズ112が動作を開始したタイミングであると判定する。
この方法によっても、フォーカスレンズ112が動作を開始したタイミングがずれ、この例においては、t330の時点がフォーカスレンズ112が動作を開始したタイミングであると誤判定されることを防止することができる。
【0059】
動作タイミング判定部192は、上述のような処理を、図6(b)に示したフォーカスエンコーダ117の出力に基づき実行することにより、t110がフォーカスレンズ112の動作が開始したタイミングであり、t120がフォーカスレンズ112の動作が停止したタイミングであると判定する。
【0060】
動作タイミング判定部192は、図7(b)に示したマルチセレクター181の操作信号が入力された場合、操作信号が検出されたタイミングt210、t230をマルチセレクター181のクリック音が発生したタイミングと判定し、操作信号が検出されなくなったタイミングt220、t240をマルチセレクター181のクリック音が発生したタイミングと判定する。
【0061】
制御タイミング判定部193は、CPU190が動作状態検出対象部材を動作させる駆動制御信号に基づいて、動作状態検出対象部材の動作状態が変化した動作タイミングを判定し、判定結果を記録制御部194に出力する。なお、この駆動制御信号とは、動作部を動作させる駆動部に対して、動作部を動作させるようにする駆動制御信号、または、この駆動部を駆動させる駆動制御信号である。
この制御タイミング判定部193は、例えば、CPU190が出力するコマンドに基づいて、動作状態検出対象部材の動作タイミングを判定する。
この制御タイミング判定部193は、タイミング判定部191によって、動作タイミング判定部192の判定結果と、制御タイミング判定部193の判定結果とを組み合わせてタイミングを判定する場合に利用されてもよい。
【0062】
記録制御部194は、タイミング判定部191の判定結果に基づき、動作状態検出対象部材が動作したことを判定した場合、当該動作状態検出対象部材の動作タイミングを記録媒体200に書き込む。この記録制御部194は、動作タイミング判定部192によって動作状態検出対象部材が動作したことが判定された場合、動作状態検出対象部材が動作したことを示す情報と音信号とを関連付けて記録部に記録する。
具体的に説明すると、記録制御部194は、計時部220によって計時された時間情報に基づき、動作状態検出対象部材が動作した動作時刻と、音信号が収音された経過時間とを関連付ける。例えば、音信号の収音開始時刻を時刻0として、そこからの経過時間を動作時刻として記録する。
【0063】
この記録制御部194が記録媒体200に書き込む情報の一例を図10に示す。
図10(a)は、動作状態検出対象部材の種類ごとに、動作タイミングを書き込む例を説明するための図である。
図示の通り、記録制御部194は、動作状態検出対象部材の種類ごとに、動作タイミングを示す動作時間とその動作内容とを関連付けて、記録媒体200に書き込む。
図示の例において、ズームレンズ114の動作内容は、ズームエンコーダ115の検出結果であるf1〜f5で表現されている。フォーカスレンズ112の動作内容は、フォーカスエンコーダ117の出力であるSTART、STOPで表現されている。マルチセレクターの動作内容は、マルチセレクター181の出力である操作信号の入力開始(ON)と入力停止(OFF)で表現されている。
【0064】
図10(b)は、動作タイミングを示す動作時間ごとに、動作タイミングを書き込む例を説明するための図である。
図示の通り、記録制御部194は、動作タイミングを示す動作時間ごとに、動作タイミングを示す動作時間とその動作内容とを関連付けて、記録媒体200に書き込む。この場合、動作内容に応じて、その動作の主体である動作状態検出対象部材の種類が判別できるように、その内容の表現が上述の通り、予め決められている。
【0065】
例えば、記録制御部194は、ズームレンズ114の動作タイミングを示すズームエンコーダデータとして、ズームエンコーダ115の出力がf2〜f5に変化したタイミングをt102〜t105を書き込む。
また、記録制御部194は、フォーカスレンズ112の動作タイミングを示すフォーカスエンコーダデータとして、フォーカスレンズ112の動作が開始したタイミング(START)をt110と、フォーカスレンズ112の動作が停止したタイミング(STOP)をt120と、それぞれ書き込む。なお、初期状態においてフォーカスレンズ112は停止しているため、記録制御部194は、t0がフォーカスレンズ112の動作が停止しているタイミング(STOP)であることを書き込む。
さらに、記録制御部194は、マルチセレクター181の動作タイミングを示すマルチセレクターデータとして、マルチセレクター181の動作が開始したタイミング(ON)をt210、t230と、マルチセレクター181の動作が停止したタイミング(OFF)をt220、t240と、それぞれ書き込む。なお、初期状態においてマルチセレクター181はユーザからの指示を何ら受け付けていないため、記録制御部194は、t0がマルチセレクター181の動作が停止しているタイミング(OFF)であることを書き込む。
【0066】
次に、図11を参照して、記録制御部194が情報を書き込むファイルの一例について説明する。
図11(a)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データとは異なるファイルで記録される場合の一例を示す図である。
図11(a)に示す通り、動画データと音声データは、動画音声データ用のファイルに格納される。
動作タイミング情報は、動作タイミング情報用のファイルに格納される。
このように、それぞれのファイルを別にすることによって、動画再生時に不具合が生じる可能性を低減させることができる。
【0067】
なお、本発明はこれに限られず、動画データ、音声データおよび動作タイミング情報を、同一のファイルに一体にして格納してもよく、それぞれを別々のファイルに格納してもよい。
図11(b)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データと一体として、同一の一体保存ファイルに記録される場合の一例を示す図である。
【0068】
次に、図12を参照して、記録制御部194が情報を書き込むファイルの他の例について説明する。
図12(a)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データとは異なるファイルで記録される場合の一例を示す図である。また、図12(b)は、動作タイミング情報が、動画データ(あるいは画像データ)および音声データと一体として、同一の一体保存ファイルに記録される場合の一例を示す図である。これらの図のように、記録制御部194は、図9で説明した動作判定期間Mを動作タイミング情報の一部として記録してもよい。この場合、後述のノイズ低減処理部250において、フォーカスレンズ112が動作していることを判定したタイミングt330から、動作判定期間Mの時間長を減じたタイミングt320が、フォーカスレンズ112が動作を開始したタイミングであると判定してもよい。
【0069】
次に、ノイズ低減処理部250によるノイズ低減処理の一例について説明する。
図13は、ノイズ低減処理部250の構成の一例を示す図である。
このノイズ低減処理部250は、ノイズ低減制御部251と、音信号処理部252と、衝撃音ノイズ低減処理部253と、駆動音ノイズ低減処理部254と、逆フーリエ変換部255とを含む。
このノイズ低減処理部250は、記録媒体200に保存されている動作タイミング情報に基づき、この記録媒体200に保存されている音声データに対してノイズ低減処理を実行する。この記録媒体200には、ノイズ低減処理部250によって参照されるノイズ低減制御情報が保存されている。
【0070】
このノイズ低減制御情報の一例を図14に示す。図14に示す通り、ノイズ低減制御情報は、動作状態検出対象部材名と、衝撃音ノイズ低減処理フラグと、駆動音ノイズ低減処理フラグと、設定ノイズとを対応付けるテーブルである。
動作状態検出対象部材名は、ノイズ低減処理部250がノイズ低減処理の対象とする動作状態検出対象部材を示す情報である。
衝撃音ノイズ低減処理フラグは、対応する動作状態検出対象部材が衝撃音ノイズ低減処理を実行する対象であるか否かを示す情報である。この衝撃音ノイズ低減処理フラグが立っている場合(図示においては、○が記載されている場合)、衝撃音ノイズ低減処理を実行することを示す。
駆動音ノイズ低減処理フラグは、対応する動作状態検出対象部材が駆動音ノイズ低減処理を実行する対象であるか否かを示す情報である。この駆動音ノイズ低減処理フラグが立っている場合(図示においては、○が記載されている場合)、駆動音ノイズ低減処理を実行することを示す。
設定ノイズは、対応する動作状態検出対象部材によって発生するノイズとして推定される値であって、予め決められている。
【0071】
図14に示す通り、ズームレンズ114をCPU190の制御によって動作させた場合<ズームレンズ(オート)>、ズームレンズ114を手動で動作させた場合<ズームレンズ(マニュアル)>、VRレンズ133を動作させた場合<VRレンズ>、ストロボが発光した場合<ストロボ発光>は、駆動音ノイズ低減処理のみを実行することが決められている。
フォーカスレンズ112をCPU190の制御によって動作させた場合<フォーカスレンズ(オート)>、フォーカスレンズ112を手動で動作させた場合<フォーカスレンズ(マニュアル)>は、衝撃音ノイズ低減処理および駆動音ノイズ低減処理の双方を実行することが決められている。
ユーザがマルチセレクター181を操作して動作させた場合<マルチセレクター>、撮像装置100の筐体に衝撃が与えられた場合<タッチノイズ>、絞り機構が動作した場合<絞り機構>、開閉式のストロボが開いた場合<ストロボポップアップ>、動画撮影中に静止の撮像操作が指示された場合<シャッター音>は、衝撃音ノイズ低減処理のみを実行することが決められている。
【0072】
ノイズ低減制御部251は、記録媒体200から動作タイミング情報を読み出し、ノイズ低減制御情報を参照して、各動作状態検出対象部材に応じたノイズ低減をするよう衝撃音ノイズ低減処理部253と駆動音ノイズ低減処理部254とを制御する。
ここで、ノイズ低減制御部251によりノイズ低減される処理対象の一例について、図14を参照して説明する。図15は、図10に示した動作タイミング情報に基づき、動作状態検出対象部材が動作した期間を示す図である。この図15は、マイク230によって収音された目的音と動作状態検出対象部材による動作期間とを同一時間軸上に並べた図である。
図15に示す通り、ズームレンズ114の動作処理J1、フォーカスレンズ112の動作処理J2、マルチセレクター181の操作処理J3の順番で、各動作状態検出対象部材による動作が発生している。つまり、この処理J1〜J3の期間において、動作状態検出対象部材によるノイズが発生している可能性が高い。
ノイズ低減処理部250は、図15に示す各動作状態検出対象部材による動作期間において収音された目的音に対して、ノイズ低減処理を実行する。
【0073】
ここで、図16を参照して、音信号処理部252により算出される窓関数の各区間に対応する周波数スペクトルの一例について説明する。
音信号処理部252は、上述の通り、A/D変換部240から出力されたマイク音信号に対して、図16に示すように他の区間と半分ずつオーバーラップしている窓関数W1〜W14で重み付けをする。これにより、マイク音信号は、窓関数のサイズに分割される。この音信号処理部252は、例えば窓関数W1〜W14で重み付けされた各区間のマイク音信号ごとに、例えばフーリエ変換を行い、周波数領域における周波数スペクトルS1〜S14を算出する。つまり、音信号処理部252によって算出される周波数スペクトルS1〜S14は、窓関数W1〜W14の区間にそれぞれ対応する周波数スペクトルである。
【0074】
なお、図16に示すマイク音信号は、図6において示したフォーカスレンズ112の動作により発生したノイズの一例を示す。なお、図16は、説明便宜のため、マイク音信号のうち、フォーカスレンズ112の動作により発生するノイズのみを示し、目的音の音信号の図示を省略している。
図16に示す通り、フォーカスレンズ112を動作させるフォーカス調整処理を行う場合の動作パターンにおいては、動作開始タイミングと動作停止タイミングにおいて衝撃音が発生する。
時刻t110以前の区間、t120以降の区間が、非動作期間Taである。時刻t110〜t111の区間、時刻t119〜t120の区間が、衝撃音発生期間Tbである。時刻t111〜t119の区間が、駆動音発生期間Tcである。
【0075】
本実施形態において、窓関数W1、W13、W14に対応する周波数スペクトルS1、S13、S14は、非動作期間Taに取得されたマイク音信号の周波数スペクトルである。窓関数W5〜W8に対応する周波数スペクトルS5〜S8は、動作部が動作する可能性の高い期間のうち、駆動音発生期間Tcに取得されたマイク音信号の周波数スペクトルである。
また、窓関数W2〜W4に対応する周波数スペクトルS2〜S4と、窓関数W9〜W12に対応する周波数スペクトルS9〜S12は、動作部が動作する可能性の高い期間のうち、衝撃音発生期間Tbに取得されたマイク音信号の周波数スペクトルである。
【0076】
ノイズ低減制御部251は、記録媒体200に保存されている動作タイミング情報を参照して、動作状態検出対象部材による動作期間を判定する。このノイズ低減制御部251は、例えば、t110〜120の期間が、フォーカスレンズ112の動作期間であると判定する。
このノイズ低減制御部251は、記録部160に保存されているノイズ低減制御情報を参照して、フォーカスレンズ112の動作処理については、動作開始タイミングと動作停止タイミングにおいて衝撃音ノイズ低減処理を実行するとともに、動作期間の全体に対して駆動音ノイズ低減処理とを実行すると判定する。
ノイズ低減制御部251は、このようにして判定した結果に基づき、衝撃音ノイズ低減処理部253と駆動音ノイズ低減処理部254とを制御する。
つまり、ノイズ低減制御部251は、t110から予め決められた期間であるt110〜t111の期間において、フォーカスレンズ112の衝撃音ノイズ低減処理を実行することを指示する制御信号を衝撃音ノイズ低減処理部253に出力する。また、ノイズ低減制御部251は、t120までの予め決められた時間であるt119〜t120の期間において、フォーカスレンズ112の衝撃音ノイズ低減処理を実行することを指示する制御信号を衝撃音ノイズ低減処理部253に出力する。
さらに、ノイズ低減制御部251は、t110〜t120の期間において、フォーカスレンズ112の駆動音ノイズ低減処理を実行することを指示する制御信号を駆動音ノイズ低減処理部254に出力する。
【0077】
音信号処理部252は、A/D変換部240から出力されたマイク音信号に対して、予め決められた区間ごとに窓関数で重み付けするとともに、この区間毎のマイク音信号を周波数領域で表わされるスペクトルに変換して、この周波数領域で表わされるスペクトル(周波数スペクトル)を衝撃音ノイズ低減処理部253と駆動音ノイズ低減処理部254に出力する。
この音信号処理部252は、例えば、マイク音信号にフーリエ変換、あるいは高速フーリエ変換(FFT:Fast Fourier Transform)を行うことで、マイク音信号を周波数領域に変換する。音信号処理部252は、例えば、マイク音信号にフーリエ変換を行うことで、窓関数の各区間に対応する周波数スペクトルを算出する。
ここで、窓関数において予め定められた区間とは、信号処理の単位(フレーム)であって、一定の間隔で繰り返される区間である。これらの窓関数の各区間は、他の窓関数の各区間と半分ずつオーバーラップしている。なお、窓関数は、例えば、ハニング窓(ハニングウィンドウ)関数が利用可能である。
【0078】
衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から入力する制御信号に基づき、衝撃音発生期間Tbに対応するマイク音に対して、衝撃音ノイズ低減処理を実行する。なお、衝撃音ノイズ低減処理において低減するノイズは、動作状態検出対象部材ごとに予め決められており、ノイズ低減制御情報に規定されている。つまり、衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から低減すべき設定ノイズが指示される。衝撃音ノイズ低減処理部253は、ノイズ低減制御部251の制御に従って、指示された動作期間に対して、指示された設定ノイズの低減を実行する。
例えば、衝撃音ノイズ低減処理部253は、周波数スペクトルS2、S3、S4、S9、S10、S11、S12に対して、設定ノイズを周波数スペクトルに変換したものを減算するスペクトル減算を実行する。
この衝撃音ノイズ低減処理部253は、衝撃音ノイズ低減処理後の周波数スペクトルを駆動音ノイズ低減処理部254に出力する。
【0079】
駆動音ノイズ低減処理部254は、ノイズ低減制御部251から入力する制御信号に基づき、少なくとも駆動音発生期間Tcに対応するマイク音に対して、駆動音ノイズ低減処理を実行する。なお、駆動音ノイズ低減処理において低減するノイズは、動作状態検出対象部材ごとに予め決められており、ノイズ低減制御情報に規定されている。つまり、駆動音ノイズ低減処理部254は、ノイズ低減制御部251から低減すべき設定ノイズが指示される。駆動音ノイズ低減処理部254は、ノイズ低減制御部251の制御に従って、指示された動作期間に対して、指示された設定ノイズの低減を実行する。
例えば、駆動音ノイズ低減処理部254は、周波数スペクトルS2〜S12に対して、設定ノイズを周波数スペクトルに変換したものを減算するスペクトル減算を実行する。
この駆動音ノイズ低減処理部254は、駆動音ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部255に出力する。
【0080】
なお、駆動音ノイズ低減処理部254は、衝撃音ノイズ低減処理と駆動音ノイズ低減処理の両方を実行することが予め決められている動作状態検出対象部材に対しては、衝撃音ノイズ低減処理部253から入力する衝撃音ノイズ低減処理後のマイク音信号に対して駆動音ノイズ低減処理を実行する。一方、駆動音ノイズ低減処理のみの実行が予め決められている動作状態検出対象部材に対しては、音信号処理部252から入力するマイク音信号に対して駆動音ノイズ低減処理を実行する。
【0081】
逆フーリエ変換部255は、駆動音ノイズ低減処理部254から入力された周波数スペクトルに対して、例えば逆フーリエ変換、あるいは逆高速フーリエ変換(IFFT:Inverse Fast Fourier Transform)を行うことで、時間領域に変換する。
そして、通信部170は、この逆フーリエ変換部255によって時間領域に変換された音信号を記録媒体200に記録させる。なお、通信部170は、時間領域に変換された音信号と、撮像素子119により撮像された画像データとを、対応する日時情報を有する同士で対応付けて、記録媒体200に記録させてもよく、音信号を含む動画として記録してもよい。
【0082】
次に、図17を参照して、本発明に係るノイズ情報記録処理方法の一例について説明する。図17は、本発明に係るノイズ情報記録処理方法の一例を示すフローチャートである。
例えば、操作部180の電源スイッチがONされると、撮像装置100に電源が投入され、電池260から各構成部に対して電力が供給される。本実施形態では、撮像装置100に対して、撮像時の画像データと音声データとを対応付けて記録媒体200に記録することが予め設定されている。
【0083】
(ステップST1)
そして、操作部180により、例えば、動画の撮影を開始する指示が入力された場合、以下の処理を実行する。
マイク230は、例えば、電源がONされると、収音されたマイク音信号をA/D変換部240に出力する。A/D変換部240は、アナログ信号であるマイク音信号をデジタル変換したマイク音信号を低減処理部250に出力する。
低減処理部250は、A/D変換部240からマイク音信号を入力する。
例えば、ユーザによってズームレンズ114を広角から望遠に変更する操作が実行された場合、マニュアル操作部182は、ユーザからの受けた動力をズームレンズ114に伝達する。これにより、ズームレンズ114は、例えば、ズームポジションf1からf5に移動する。
ズームレンズ114が動くと、ズームエンコーダ115は、ズームレンズ114のf1からf5への移動に応じた信号を動作タイミング判定部192に出力する。
【0084】
(ステップST2)
動作タイミング判定部192は、動作検出部300からの入力があるか否かを判定する。このとき、動作タイミング判定部192には、計時部220によって計時された時間を示す時間情報が入力されている。
例えば、ズームエンコーダ115からズームレンズ114のズームポジションが変化したことを示す信号が入力した場合、動作タイミング判定部192は、ズームレンズ114の動作が開始したことを検出する。そして、動作タイミング判定部192は、このズームエンコーダ115からズームレンズ114のズームポジションが変化したことを示す信号を入力したタイミングを、計時部220によって計時された時間に基づき取得する。また、ズームエンコーダ115からズームレンズ114のズームポジションが変化したことを示す信号の入力が終了した場合、動作タイミング判定部192は、ズームレンズ114の動作が停止したことを検出する。そして、動作タイミング判定部192は、このズームエンコーダ115からの信号の入力が終了したタイミングを、計時部220によって計時された時間に基づき取得する。
【0085】
なお、フォーカスエンコーダ117からパルス信号が入力した場合、動作タイミング判定部192は、上述の第1の検出方法あるいは第2の検出方法を用いて、フォーカスエンコーダ117の動作が開始したタイミングとフォーカスエンコーダ117の動作が停止したタイミングを取得する。
さらに、マルチセレクター181が操作されたことを示す操作信号が入力した場合、動作タイミング判定部192は、マルチセレクター181が動作したことを検出する。そして、動作タイミング判定部192は、この操作信号が入力したタイミングを、計時部220によって計時された時間に基づき取得し、この操作信号の入力が終了したタイミングを、計時部220によって計時された時間に基づき取得する。
動作タイミング判定部192は、上述のようにして取得した動作タイミングを示す情報を記録制御部194に出力する。
【0086】
(ステップST4)
記録制御部194は、動作タイミング判定部192からの判定結果に基づき、動作タイミング情報を、記録媒体200内の予め決められたファイル内に記録する。この記録制御部194は、動作タイミング判定部192によって判定された動作タイミングである動作時間と動作内容を対応付けて記録媒体200に書き込む。
なお、計時部220によって計時された時間は、マイク230によって収音され記録媒体に記録される音声データに対しても付与されている。よって、動作タイミング情報と音声データを記録媒体200に書き込むことにより、記録制御部193は、動作状態検出対象部材が動作した動作時間とマイク音信号が収音された経過時間とを関連付けて記録することができる。
【0087】
次に、図18を参照して、本発明に係るノイズ低減処理方法の一例について説明する。図18は、本発明に係るノイズ低減処理方法の一例を示すフローチャートである。
【0088】
(ステップST11)
ノイズ低減処理部250のノイズ低減制御部251は、記録媒体200に記録されている音声データに対して関連付けられた動作タイミング情報が記録されているか否かを判定する。
【0089】
(ステップST12)
関連付けられた動作タイミング情報が記録されている場合、ノイズ低減制御部251は、この動作タイミング情報と音声データとを読み出す。
そして、ノイズ低減制御部251は、動作タイミング情報を参照して、ノイズ低減処理を実行する動作状態検出対象部材を決定する。
例えば、ノイズ低減制御部251は、動作タイミング情報に含まれるズームエンコーダデータに基づき、ノイズ低減処理の対象をズームレンズ114と決定する。
【0090】
(ステップST13)
次いで、ノイズ低減制御部251は、ノイズ低減制御情報を記録部160から読み出し、このノイズ低減制御情報の“動作状態検出対象部材名”の項目のズームレンズ(マニュアル)と対応付けられるノイズ低減処理の内容を確認する。
例えば、ノイズ低減制御部251は、ズームレンズ(マニュアル)と対応付けられる“衝撃音ノイズ低減処理フラグ”がたっているか否かを判定するとともに、“駆動音ノイズ低減処理フラグ”がたっているか否かを判定する。
【0091】
(ステップST14)
そして、“衝撃音ノイズ低減処理フラグ”が立っている場合、ノイズ低減制御部251は、動作タイミング情報が示す動作期間に対して、衝撃音ノイズ低減処理を実行する。また、“駆動音ノイズ低減処理フラグ”が立っている場合、ノイズ低減制御部251は、動作タイミング情報が示す動作期間に対して、駆動音ノイズ低減処理を実行する。
例えば、ノイズ低減制御部251は、動作タイミング情報に示されるズームレンズ114の動作期間であるt101〜t106の動作期間に対して、駆動音ノイズ低減処理を実行するように、駆動音ノイズ低減処理部254を制御する。このとき、ノイズ低減制御部251は、ノイズ低減制御情報において対応付けられている設定ノイズを読み出し、この設定ノイズの周波数スペクトルを減じるスペクトル減算を実行することを指示する。
【0092】
そして、衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から衝撃音ノイズ低減処理の実行が指示された場合、音信号処理部252によって周波数スペクトルに変換された音信号のうち、衝撃音発生期間に対応する音信号の周波数スペクトルから、設定ノイズの周波数スペクトルを減じるスペクトル減算を実行する。そして、衝撃音ノイズ低減処理部253は、スペクトル減算を実行した音信号の周波数スペクトルを逆フーリエ変換部255に出力する。
また、駆動音ノイズ低減処理部254は、ノイズ低減制御部251から駆動音ノイズ低減処理の実行が指示された場合、音信号処理部252によって周波数スペクトルに変換された音信号のうち、駆動音発生期間に対応する音信号の周波数スペクトルから、設定ノイズの周波数スペクトルを減じるスペクトル減算を実行する。そして、駆動音ノイズ低減処理部254は、スペクトル減算を実行した音信号の周波数スペクトルを逆フーリエ変換部255に出力する。
【0093】
逆フーリエ変換部255は、衝撃音ノイズ低減処理部253あるいは駆動音ノイズ低減処理部254から入力されたノイズ低減処理後の周波数スペクトルに対して、例えば逆フーリエ変換を行うことで、時間領域に変換する。この逆フーリエ変換部255は、時間領域に変換された音信号を記録媒体200に記録させる。
【0094】
以上説明したように、本実施形態に係る撮像装置100の動作タイミング判定部192は、動作検出部300の出力に基づき、動作状態検出対象部材が動作しているか否かを判定し、動作状態検出対象部材が動作していることが判定された場合、この動作状態検出対象部材が動作したことを示す情報(動作タイミング情報)と音信号とを関連付けて記録媒体200に記録する。
この構成により、本実施形態に係る動作タイミング判定部192は、ユーザのマニュアル操作によって動作された動作状態検出対象部材の動作状態についても判定することができる。一方、例えば、動作タイミング判定部192を備えず、制御タイミング判定部193のみを備える場合、マニュアル操作によってフォーカスレンズ112やズームレンズ114が動作された場合、この動作があったことを検出することができない。
【0095】
また、本実施形態に係る動作タイミング判定部192は、動作状態検出対象部材が動作したタイミングを確実に判定することができる。一方、CPU190が動作状態検出対象部材の動作を制御したタイミング(つまり、CPU190が動作状態検出対象部材にコマンドを出力するタイミング)は、動作状態検出対象部材が動作した可能性が高いタイミングであって、実際に動作状態検出対象部材が動作したタイミングとは異なる場合がある。例えば、制御に必要な演算時間や、モータ起動までの遅れ時間によって、制御したタイミングより実際の動作タイミングは遅れることが多い。また、モータの構造上、制御タイミング(動作を指示するコマンドが出力されたタイミング)と一定時間ずれる場合があるが、その制御タイミングと動作タイミングがずれる間隔は必ずしも一定とは限らない。
本実施形態に係る動作タイミング判定部192は、動作検出部300の出力に基づき、動作状態検出対象部材が動作しているか否かを判定することにより、上述の問題を解決することができる。
これにより、動作タイミング情報を用いて音信号に対するノイズ低減処理を実行する際、ノイズが発生している期間の検出の精度が向上し、ノイズ低減処理の精度の向上につなげることができる。
【0096】
また、本実施形態に係る撮像装置100の記録制御部194は、動作状態検出対象部材が動作していることが判定された場合、この動作状態検出対象部材が動作したことを示す情報(動作タイミング情報)と音信号とを関連付けて記録媒体200に記録する。これにより、リアルタイムでノイズ低減処理を実行する際の問題を解決できる。例えば、リアルタイムでノイズ低減処理を実行した場合、撮像装置100の録画や録音のための電力を消耗してしまう問題や、誤ってノイズが発生していない場合にノイズ低減処理を実行した場合に元に戻せない問題がある。また、ノイズ低減処理のための構成を備えていない撮像装置100に対しては、ノイズ低減処理部250を搭載させなければならないためコストもかかる。
しかしながら、本願発明に係る撮像装置100のように、記録装置として機能し、取得した動作タイミング情報と音信号とを関連づけて記録媒体200に記録することにより、例えばユーザが所望した希望のタイミングで、例えば、ユーザのパーソナルコンピュータを用いて、ノイズ低減処理を実行することができる。
【0097】
なお、本発明は、上述の実施形態に限られない。
例えば、動作タイミング判定部192は、撮像部110の通信部123によって記録部160に記録されている情報、つまり、ズームエンコーダ115とフォーカスエンコーダ117からの出力に時間情報を関連付けた情報を読み出して、動作タイミング判定処理を実行するものであってもよい。
【0098】
また、ノイズ低減処理装置250は、人物の音声について、以下のようなノイズ低減処理をするものであってもよい。動画撮影の機能として、画面内から顔を認識して顔にピントを合わせる顔認識機能がある。
CPU190は、この顔認識機能を利用して、撮像部110によって撮像される画像データに基づき、画像データ内に顔があるか否かを判定する。このCPU190は、顔を認識していない状態から顔を認識した状態になった場合に、顔を認識したことを示す情報と、その顔を認識した時間を示す時間情報を関連付けて、記録媒体200に記録する。また、CPU190は、顔認識が解除になったことを示す情報とその時間を示す時間情報とを関連づけて記録部200に記録する。
顔が認識されている時間は、画面内に人物がいるため、音声が記録されている可能性が高い。ノイズ低減処理部250は、顔が認識されている時間は、なるべく音声劣化を防止する条件(例えば、音声に含まれる周波数範囲を保存する処理)でノイズ低減処理を行うように処理を切り替えるものであってもよい。
【0099】
ここで、図19を参照して、CPU190の顔認識の結果とノイズ低減処理について説明する。
図19(a)は、撮像部110によって撮像された撮影時間を示す。図19(a)に示すように、動画データが撮影された時間は、t0〜t10までの時間である。なお、t0〜t10までは、t0からの経過時間を示す撮影経過時間を、例えば計時部220が計時する。
図19(b)は、CPU190によって顔認識の結果と撮影経過時間との関係の一例を示す。図19(b)に示すように、t410〜t420の期間でCPU190は、顔を認識している。このt410が、顔を認識したタイミングであって、t420が、顔認識を解除したタイミングである。
ノイズ低減処理部250は、このt410〜t420の期間に収音された音声データに対してノイズ低減処理を行う場合、たとえば、人間の音声に近い周波数に対応する周波数スペクトルの周波数成分のスペクトル減算を実行せずに、人間の音声に近い周波数以外に対応する周波数スペクトルの周波数成分のスペクトル減算を実行する。
【0100】
また、動画撮影中に撮影者が周囲の音圧レベルに応じて手動でマイク感度を変更する場合がある。この場合はマイク感度変更スイッチを押した情報に加えて、変更されたマイク感度情報も記録する。マイク感度情報はノイズ処理を行う際に利用する。例えば、マイク感度を半分に下げると、記録されるノイズ音も半分になるため、推定ノイズの値を半分にしてノイズ減算処理を行う。
録音時のマイク感度が自動的に変更される場合は、動画撮影開始時のマイク感度初期値およびマイク感度変更が発生したときの感度変更後の値を時刻情報と共に記録する。
内蔵マイク/外部マイクの使用状況を記録しても良い。動画撮影時の使用状況(例えば内蔵マイク使用)と動画撮影中の使用状況を記録し、内蔵マイク使用時のみノイズ低減処理を行っても良い。
【0101】
[第2実施形態]
なお、上述の第1実施形態に係る記録制御部194は、撮像装置に着脱可能な交換レンズに設けられる構成であってもよい。この交換レンズの一例について図20を参照して説明する。
図20は、本発明に係る記録制御部194を備える交換レンズの一例を示す図である。
図20に示す通り、この交換レンズ400は、光学系111と、撮像素子119と、A/D変換部120と、動作タイミング判定部192と、記録制御部194と、動作検出部310と、バッファメモリ401とを備える。なお、第1実施形態と同様の構成については、同一の符号を付して、詳細な説明は省略する。
動作検出部310は、ズームエンコーダ115とフォーカスエンコーダ117とを含む。
計時部220は、計時した時間を示す時間情報を動作タイミング判定部192と、記録制御部194と、録音装置501とに出力する。この録音装置501は、マイクを搭載し、収音した音信データに計時部220から入力する時間情報を関連付けて記録部に記録する。
動作タイミング判定部192は、動作検出部310からの出力信号に基づきフォーカスレンズ112とズームレンズ114とが動作したことを判定し、動作したことを示す情報と計時部220から入力する時間情報とを関連づけて記録制御部194に出力する。
記録制御部194は、計時部220から入力する時間情報をA/D変換部120から出力される動画データに付与する。この記録制御部194は、動作タイミング判定部192から入力する動作したことを示す情報と、A/D変換部120から入力する動画データとを、時間情報に基づき関連付けてバッファメモリ401に記録する。
【0102】
なお、本発明はこれに限られず、交換レンズ400における動作タイミング判定部192がリアルタイムに動作タイミング判定を実行せずに、動作検出部310の出力に計時部220からの時間情報を関連付けてバッファメモリ401に一時的に保存しておく構成であってもよい。この場合、動作タイミング判定部192は、例えば、交換レンズ400が取り付けられた撮像装置が充電中に動作タイミング判定処理を実行するものであってもよい。
【0103】
[第3実施形態]
本発明に係るノイズ低減処理部250の衝撃音ノイズ低減処理部253は、以下に説明するような衝撃音ノイズ低減処理を実行するものであってもよい。なお、ここで、ノイズ低減処理を実行する対象は、図16に示したマイク音信号である。
以下、具体的に説明する。
【0104】
衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から入力する制御信号に基づき、例えば、音信号処理部252から出力される周波数スペクトルS1〜S14から、衝撃音が発生している可能性の高い衝撃音発生期間Tbに対応する周波数スペクトル(以下、第1周波数スペクトルという)を取得する。例えば、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す情報に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、第1周波数スペクトルとして取得する。なお、衝撃音発生期間の時間長は、動作状態検出対象部材毎に予め決められている。
衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、衝撃音が発生している可能性の高い衝撃音発生期間Tbに対応する周波数スペクトルS9〜S12を、第1周波数スペクトルとして取得する。なお、この衝撃音発生期間の時間長についても、動作状態検出対象部材毎に予め決められている。
【0105】
また、衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から入力する制御信号に基づき、音信号処理部252から出力される周波数スペクトルS1〜S14から、少なくとも衝撃音が発生していない可能性の高い期間(非動作期間Taあるいは駆動音発生期間Tc)に対応する周波数スペクトル(以下、第2周波数スペクトルという)を取得する。この衝撃音ノイズ低減処理部253は、衝撃音を含んでいる可能性の高い第1周波数スペクトルごとに、この衝撃音を含む可能性の低い第2周波数スペクトルを取得する。本実施形態において、衝撃音ノイズ低減処理部253は、第1周波数スペクトルと時間軸方向において最も近い衝撃音を含む可能性の低い周波数スペクトルを第2周波数スペクトルとして取得する。つまり、衝撃音ノイズ低減処理部253は、第1周波数スペクトルと時間軸方向に隣接あるいは重複する周波数スペクトルを第2周波数スペクトルとして取得する。
【0106】
なお、本実施形態において、第2周波数スペクトルは、衝撃音が発生していない可能性の高い期間に対応する周波数スペクトルである。しかし、本発明はこれに限られず、第2周波数スペクトルは、動作部の動作によって発生するノイズ音(駆動音および衝撃音)が発生しない可能性の高い期間(非動作期間Ta)に対応する周波数スペクトルであることが好ましい。
【0107】
ここで、図21を参照して、衝撃音ノイズ低減処理部253が取得する第1周波数スペクトルと第2周波数スペクトルとの関係の一例について説明する。図21は、衝撃音ノイズ低減処理部253が取得する第1周波数スペクトルと第2周波数スペクトルの一例を説明するための図である。
例えば、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t110を示す情報(ノイズ低減制御部251から入力する制御信号に含まれる)に基づき、第1周波数スペクトルである周波数スペクトルS2、S3に対応する第2周波数スペクトルとして、周波数スペクトルS2、3の時間軸の過去方向に最も近い周波数スペクトルS1を取得する。また、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t110を示す情報(ノイズ低減制御部251から入力する制御信号に含まれる)に基づき、第1周波数スペクトルである周波数スペクトルS4に対応する第2周波数スペクトルとして、周波数スペクトルS4の時間軸の未来方向に最も近い周波数スペクトルS5を取得する。
【0108】
また、衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、第1周波数スペクトルである周波数スペクトルS9、S10に対応する第2周波数スペクトルとして、周波数スペクトルS9、10の時間軸の過去方向に最も近い周波数スペクトルS8を取得する。また、衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、第1周波数スペクトルである周波数スペクトルS11、12に対応する第2周波数スペクトルとして、周波数スペクトルS11、12の時間軸の未来方向に最も近い周波数スペクトルS13を取得する。
【0109】
さらに、衝撃音ノイズ低減処理部253は、第1周波数スペクトルの少なくとも一部を第2周波数スペクトルの対応する部分に置き換える。
例えば、衝撃音ノイズ低減処理部253は、第1周波数スペクトルのうち予め決められた閾値周波数以上の周波数スペクトルと、第2周波数スペクトルのうち予め決められた閾値周波数以上の周波数スペクトルとを、周波数成分ごとに比較して、第2周波数スペクトルの方が第1周波数スペクトルに比べて小さいと判定した場合に、第1周波数スペクトルにおける当該周波数成分を第2周波数スペクトルの周波数成分に置き換える。
【0110】
図22を参照して詳細に説明する。図22は、一部の周波数スペクトルの周波数成分の一例について説明するための図である。なお、本実施の形態では、説明便宜のため、図16に示すマイク音信号のうち、窓関数W1,W3,W5,W7,W11,W13に対応する周波数スペクトルS1,S3,S5,S7,S11,S13について説明する。
図22に示す通り、周波数スペクトルS1,S3,S5,S7,S11,S13は、それぞれ、周波数成分f1〜f9の周波数成分を含む。
例えば、衝撃音ノイズ低減処理部253は、各周波数スペクトルの閾値周波数以上の周波数成分として、周波数成分f3〜f9について、第1周波数スペクトルと第2周波数スペクトルを比較することが予め決められている。よって、衝撃音ノイズ低減処理部253は、周波数成分f1,f2については、第1周波数スペクトルと第2周波数スペクトルを比較しない。
【0111】
ここで、図23を参照して、周波数スペクトルS1とS3について、衝撃音ノイズ低減処理部253による衝撃音ノイズ低減処理の一例について説明する。
図23は、周波数スペクトルS1とS3の周波数成分ごとに、振幅の比較について説明するための図である。
例えば、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f3の振幅と、周波数スペクトルS3の周波数成分f3の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f3の振幅の方が、周波数スペクトルS3の周波数成分f3の振幅に比べて小さい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換える。
また、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f4の振幅と、周波数スペクトルS3の周波数成分f4の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f4の振幅の方が、周波数スペクトルS3の周波数成分f4の振幅に比べて大きい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換えない。
このようにして、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分の振幅の方が、周波数スペクトルS3の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS3の周波数成分を周波数スペクトルS1の周波数成分に置き換える。
図23に示す場合、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3、f6〜f9を周波数スペクトルS1の周波数成分f3、f6〜f9に置き換える。
【0112】
次に、図24を参照して、本実施形態に係るノイズ低減処理方法の一例について説明する。図24は、本実施形態に係るノイズ低減処理方法の一例を示すフローチャートである。
例えば、操作部180の電源スイッチがONされると、撮像装置100に電源が投入され、電池260から各構成部に対して電力が供給される。本実施形態では、撮像装置100に対して、撮像時の画像データと音声データを対応付けて記憶媒体200に記憶させることが予め設定されている。
【0113】
(ステップST21)
衝撃音ノイズ低減処理部253は、ノイズ低減制御部251から衝撃音ノイズ低減処理を実行することを指示する制御信号が入力されたか否かを判定する。衝撃音ノイズ低減処理部253は、衝撃音ノイズ低減処理が指示された場合、ステップST22に移行し、指示されていない場合、ステップST26に移行する。
(ステップST22)
一方、音信号処理部252は、A/D変換部240から出力されたマイク音信号に対して、予め決められた区間ごとに窓関数で重み付けするとともに、この区間毎のマイク音信号を周波数領域で表わされる周波数スペクトルに変換する。音信号処理部252は、例えば、窓関数で重み付けされた音信号をフーリエ変換して、周波数スペクトルS1〜S14を算出する。
【0114】
(ステップST23)
そして、音信号処理部252は、動作タイミング信号に基づき、衝撃音発生期間に対応する周波数スペクトルの周波数成分の総和と、予め決められた閾値とを比較する。
例えば、音信号処理部252は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を取得する。そして、音信号処理部252は、周波数スペクトルS2〜S4ごとに、周波数成分の総和が予め決められた閾値未満であるか否かを判定する。また、音信号処理部252は、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す情報に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を取得する。そして、音信号処理部252は、周波数スペクトルS9〜S12ごとに、周波数成分の総和が予め決められた閾値未満であるか否かを判定する。
【0115】
そして、音信号処理部252は、周波数成分の総和が予め決められた閾値未満であった周波数スペクトルを衝撃音ノイズ低減処理部253に出力するとともに、この周波数スペクトルに対して衝撃音ノイズ低減処理を実行するよう衝撃音ノイズ低減処理部253を制御する。
【0116】
(ステップST24)
次いで、衝撃音ノイズ低減処理部253は、音信号処理部252から衝撃音ノイズ低減処理を実行する制御に基づき、A/D変換部240から入力するマイク音信号に対して衝撃音ノイズ低減処理を実行する。
例えば、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS2〜S4を、第1周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS2、S3に対応する第2周波数スペクトルとして、周波数スペクトルS2、3の直前の周波数スペクトルS1を取得する。また、衝撃音ノイズ低減処理部253は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS4に対応する第2周波数スペクトルとして、周波数スペクトルS4の直後の周波数スペクトルS5を取得する。
【0117】
また、衝撃音ノイズ低減処理部253は、動作停止タイミングt120に対応する衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、衝撃音が発生している可能性のある期間に対応する周波数スペクトルS9〜S12を、第1周波数スペクトルとして取得する。
そして、衝撃音ノイズ低減処理部253は、動作停止タイミングt20に対応する衝撃音発生期間t20〜t21を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS9、S10に対応する第2周波数スペクトルとして、周波数スペクトルS9、10の直前の周波数スペクトルS8を取得する。また、衝撃音ノイズ低減処理部253は、動作開始タイミングt120に対応する衝撃音発生期間t119〜t120を示す動作タイミング信号に基づき、第1周波数スペクトルである周波数スペクトルS11、12に対応する第2周波数スペクトルとして、周波数スペクトルS11、12の直後の周波数スペクトルS13を取得する。
【0118】
(ステップST25)
次いで、衝撃音ノイズ低減処理部253は、各周波数スペクトルの閾値周波数以上の周波数成分として、周波数成分f3〜f9について、第1周波数スペクトルと第2周波数スペクトルを比較する。
例えば、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f3の振幅と、周波数スペクトルS2の周波数成分f3の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f3の振幅の方が、周波数スペクトルS2の周波数成分f3の振幅に比べて小さい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換える。
また、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分f4の振幅と、周波数スペクトルS2の周波数成分f4の振幅とを比較する。この場合、周波数スペクトルS1の周波数成分f4の振幅の方が、周波数スペクトルS2の周波数成分f4の振幅に比べて大きい。よって、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3を、周波数スペクトルS1の周波数成分f3に置き換えない。
このようにして、衝撃音ノイズ低減処理部253は、周波数スペクトルS1の周波数成分の振幅の方が、周波数スペクトルS3の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS3の周波数成分を周波数スペクトルS1の周波数成分に置き換える。
そして、衝撃音ノイズ低減処理部253は、周波数スペクトルS3の周波数成分f3、f6〜f9を、周波数成分を周波数スペクトルS1の周波数成分f3、f6〜f9と置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´3を駆動音ノイズ低減処理部254に出力する。
【0119】
衝撃音ノイズ低減処理部253は、同様にして、第1周波数スペクトルである周波数スペクトルS2と第2周波数スペクトルS1との比較と、第1周波数スペクトルである周波数スペクトルS4と第2周波数スペクトルS5との比較を行う。そして、第2周波数スペクトルS1、S5の周波数成分の振幅の方が、それぞれ、周波数スペクトルS2、S4の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS2、S4の周波数成分をそれぞれ周波数スペクトルS1、S5の周波数成分に置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´4を駆動音ノイズ低減処理部254に出力する。
【0120】
また、衝撃音ノイズ低減処理部253は、同様にして、第1周波数スペクトルである周波数スペクトルS9、S10と第2周波数スペクトルS8との比較、および第1周波数スペクトルである周波数スペクトルS11、S12と第2周波数スペクトルS13との比較を行う。そして、第2周波数スペクトルS8の周波数成分の振幅の方が、それぞれ、周波数スペクトルS9、S10の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS9、S10の周波数成分をそれぞれ周波数スペクトルS8の周波数成分に置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´9、S´10を駆動音ノイズ低減処理部254に出力する。同様にして、第2周波数スペクトルS13の周波数成分の振幅の方が、それぞれ、周波数スペクトルS11、S12の周波数成分の振幅に比べて小さい場合のみ、周波数スペクトルS11、S12の周波数成分をそれぞれ周波数スペクトルS13の周波数成分に置き換えて、衝撃音ノイズ低減処理後の周波数スペクトルS´11、S´12を駆動音ノイズ低減処理部254に出力する。
【0121】
(ステップST26)
駆動音ノイズ低減処理部254は、ノイズ低減制御部251から駆動音ノイズ低減処理を実行することを指示する制御信号が入力されたか否かを判定する。駆動音ノイズ低減処理部254は、駆動音ノイズ低減処理が指示された場合、ステップST27に移行し、指示されていない場合、ステップST28に移行する。
【0122】
(ステップST27)
次いで、駆動音ノイズ低減処理部254は、音信号処理部252から入力するマイク音信号の周波数スペクトルと、衝撃音ノイズ低減処理部253から入力する衝撃音ノイズ低減処理後の周波数スペクトルに基づき、駆動音ノイズ低減処理を実行する。例えば、駆動音ノイズ低減処理部254は、動作開始タイミングt110に対応する衝撃音発生期間t110〜t111を示す動作タイミングと、動作停止タイミングt120に対応する衝撃音発生期間t119〜t120を示す動作タイミング信号に基づき、駆動音が発生している可能性のある期間に対応する周波数スペクトルS2〜S12を、第3周波数スペクトルとして取得する。
この駆動音ノイズ低減処理部254は、取得した第3周波数スペクトルS2〜S12のうち、衝撃音ノイズ低減処理後の周波数スペクトルに対応する周波数スペクトルをS2〜S4、S9〜S12を、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12に置き換える。そして、駆動音ノイズ低減処理部254は、衝撃音ノイズ低減処理後の周波数スペクトルS´2、S´3、S´4、S´9、S´10、S´11、S´12と、周波数スペクトルS5〜S7に対して駆動音ノイズ低減処理を実行する。つまり、駆動音ノイズ低減処理部254は、駆動パターンに応じて予め決められているノイズを表わす周波数スペクトルの周波数成分を、衝撃音ノイズ低減処理後の第3周波数スペクトルS´2〜S´4、S5〜7、S´9〜S´12の周波数成分からそれぞれ減算する。駆動音ノイズ低減処理部254は、この駆動音ノイズ低減処理後の周波数スペクトルを逆フーリエ変換部254に出力する。
【0123】
(ステップST28)
逆フーリエ変換部254は、駆動音ノイズ低減処理部254から入力された駆動音ノイズ低減処理後の周波数スペクトルに対して、例えば逆フーリエ変換を行うことで、時間領域に変換する。この逆フーリエ変換部254は、時間領域に変換された音信号を記憶媒体200に記憶させる。
【0124】
次に、図25を参照して、動作タイミング判定部192によって判定される動作開始タイミングの一例について説明する。
図25には、例えば、コマンド出力と、フォーカスエンコーダ117の出力と、マイク230が出力するマイク音信号の一例を示す図である。
図示において、コマンド出力の波形の立ち上がり時(LowからHigh)は、コマンドの送信開始時刻を示している。コマンド出力の波形の立ち下がり時(HighからLow)は、コマンドの送信終了時刻を示している。なお、制御タイミング判定部193は、コマンドの送信終了時刻(t501)を動作開始タイミングであると判定する。この制御タイミング判定部193によって判定される動作開始タイミングは予め決められおり、ここでは、コマンド送信終了時刻と決められている。
【0125】
上述の通り、動作タイミング判定部192は、動作判定期間Mに対応する期間において、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値以上であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していると判定する。一方、フォーカスエンコーダ117から出力されるパルス信号のエッジ数が、予め決められている動作出力閾値未満であった場合、当該動作判定期間Mに対応する期間は、フォーカスレンズ112が動作していないと判定する。
このようにして、動作タイミング判定部192は、t502が動作開始タイミングであり、t503が動作停止タイミングであると判定する。
【0126】
しかし、図25に示すように、フォーカスレンズ112の駆動系(ギア列等)のバックラッシュの影響で、フォーカスエンコーダ117の出力が、実際のフォーカスレンズ112の駆動系の動作開始タイミングとずれる場合がある。
図25に示す通り、実際のフォーカスレンズ112の駆動系の動作開始タイミングは、動作タイミング判定部192によって動作開始タイミングと判定されたt502ではなく、コマンドの送信終了時刻t510である。
【0127】
そこで、本実施形態に係るタイミング判定部191は、動作部の種類に応じて、動作開始タイミングについては、動作タイミング判定部192によって判定された動作開始タイミング(t502)ではなく、制御タイミング判定部193によって判定された動作開始タイミング(t501)を動作開始タイミングと決定する。なお、動作開始タイミングとして、動作タイミング判定部192によって決定されたタイミング、あるいは、制御タイミング判定部193によって判定されたタイミングを採用するかは、動作部の種類に応じて予め決められている。
これにより、タイミング判定部191は、図25を用いて説明したとおり、駆動系の実際の開始タイミングとフォーカスエンコーダ117の出力とがずれてしまった場合であっても、動作部によるノイズが発生した期間を検出することができる。
なお、上述の通り、タイミング判定部191が動作タイミング判定部192による判定結果と制御タイミング判定部193による判定結果を用いて動作タイミングを決定する際、動作タイミング判定部192は、上述の動作状態検出対象部材が動作を開始したタイミングを検出する第1の検出方法あるいは第2の検出方法のいずれか一方を利用することができる。
【0128】
また、タイミング判定部191又はノイズ低減処理部250等による手順を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含むものであってもよい。
【0129】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記録装置のことをいう。
【0130】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記録装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【符号の説明】
【0131】
100…撮像装置、110…撮像部、190…CPU、191…タイミング判定部部、192…動作タイミング判定部、194…記録制御部、200…記録媒体、230…マイク、240…A/D変換部、250…ノイズ低減処理部、300…動作検出部
【特許請求の範囲】
【請求項1】
構成部材の動作状態に応じた信号を出力する動作検出部と、
前記動作検出部からの検出結果に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったと判定された場合、前記構成部材が動作していると判定する動作タイミング判定部とを備えることを特徴とする動作タイミング判定装置。
【請求項2】
音信号が収音された経過時間を計時する第1計時部をさらに備え、
前記動作タイミング判定部は、
前記動作検出部から出力された信号に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったことを判定した期間を前記第1計時部によって計時された時間に基づき検出し、前記判定期間内において前記回数以上のパルス信号の出力があったことを判定した期間から前記判定期間の時間長を減じたタイミングを前記構成部材が動作したタイミングであると判定することを特徴とする請求項1に記載の動作タイミング判定装置。
【請求項3】
音信号が収音された経過時間を計時する第2計時部をさらに備え、
前記動作タイミング判定部は、
前記動作検出部からの出力が変化したタイミングを前記第2計時部によって計時された時刻に基づき検出し、当該動作検出部からの出力が変化した時刻から予め決められた判定期間内に、予め決められた回数以上のパルス信号の出力が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力が前記動作検出部からあったことを判定した場合、前記動作検出部からの出力が変化した時刻を前記構成部材が動作したタイミングであると判定することを特徴とする請求項1に記載の動作タイミング判定装置。
【請求項4】
上述の請求項1から3のうちいずれか一項に記載の動作タイミング判定装置を含むことを特徴とする撮像装置。
【請求項5】
前記動作タイミング判定部によって前記構成部材が動作していると判定された場合、当該構成部材が動作したことを示す情報と前記判定期間の時間長を示す情報とを、前記音信号とを関連付けて記録部に記録する記録制御部をさらに備えることを特徴とする請求項4に記載の撮像装置。
【請求項6】
コンピュータを、
上述の請求項1から3に記載のうちいずれか一項に記載の動作タイミング判定装置によって判定された構成部材が動作したことを示す情報に基づき、音信号のうち前記当該構成部材が動作した期間に対してノイズ低減処理を実行するノイズ低減処理手段として機能させるためのプログラム。
【請求項1】
構成部材の動作状態に応じた信号を出力する動作検出部と、
前記動作検出部からの検出結果に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったと判定された場合、前記構成部材が動作していると判定する動作タイミング判定部とを備えることを特徴とする動作タイミング判定装置。
【請求項2】
音信号が収音された経過時間を計時する第1計時部をさらに備え、
前記動作タイミング判定部は、
前記動作検出部から出力された信号に基づき、予め決められた判定期間内において、予め決められた回数以上のパルス信号が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力があったことを判定した期間を前記第1計時部によって計時された時間に基づき検出し、前記判定期間内において前記回数以上のパルス信号の出力があったことを判定した期間から前記判定期間の時間長を減じたタイミングを前記構成部材が動作したタイミングであると判定することを特徴とする請求項1に記載の動作タイミング判定装置。
【請求項3】
音信号が収音された経過時間を計時する第2計時部をさらに備え、
前記動作タイミング判定部は、
前記動作検出部からの出力が変化したタイミングを前記第2計時部によって計時された時刻に基づき検出し、当該動作検出部からの出力が変化した時刻から予め決められた判定期間内に、予め決められた回数以上のパルス信号の出力が前記動作検出部から出力されたか否かを判定し、前記判定期間内において前記回数以上のパルス信号の出力が前記動作検出部からあったことを判定した場合、前記動作検出部からの出力が変化した時刻を前記構成部材が動作したタイミングであると判定することを特徴とする請求項1に記載の動作タイミング判定装置。
【請求項4】
上述の請求項1から3のうちいずれか一項に記載の動作タイミング判定装置を含むことを特徴とする撮像装置。
【請求項5】
前記動作タイミング判定部によって前記構成部材が動作していると判定された場合、当該構成部材が動作したことを示す情報と前記判定期間の時間長を示す情報とを、前記音信号とを関連付けて記録部に記録する記録制御部をさらに備えることを特徴とする請求項4に記載の撮像装置。
【請求項6】
コンピュータを、
上述の請求項1から3に記載のうちいずれか一項に記載の動作タイミング判定装置によって判定された構成部材が動作したことを示す情報に基づき、音信号のうち前記当該構成部材が動作した期間に対してノイズ低減処理を実行するノイズ低減処理手段として機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【公開番号】特開2012−249110(P2012−249110A)
【公開日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願番号】特願2011−119761(P2011−119761)
【出願日】平成23年5月27日(2011.5.27)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成24年12月13日(2012.12.13)
【国際特許分類】
【出願日】平成23年5月27日(2011.5.27)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]