説明

信号処理装置、撮像装置、及びプログラム

【課題】撮像された画像に関連付けられている音信号のノイズを適切に低減することができる信号処理装置を提供する。
【解決手段】信号処理装置は、撮像装置により撮像された画像に関連付けられている音信号に対して、画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理をする処理部、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、信号処理装置、撮像装置、及びプログラムに関する。
【背景技術】
【0002】
従来、動画を撮像する撮像装置において発生するズーム駆動音またはフォーカス駆動音等のノイズを信号処理により低減する技術がある(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−211437号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、動画及び静止画の両方を撮像可能な撮像装置において、静止画を撮像する際、動画を撮像する際と同様の信号処理によりノイズを低減すると、適切にノイズを低減することができないことがあった。
【0005】
本発明は、このような事情に鑑みてなされたもので、その目的は、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる信号処理装置、撮像装置、及びプログラムを提供することにある。
【課題を解決するための手段】
【0006】
この発明は上述した課題を解決するためになされたもので、本発明は、撮像装置により撮像された画像に関連付けられている音信号に対して、前記画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理をする処理部、を備えることを特徴とする信号処理装置である。
【0007】
また、本発明は、上述の信号処理装置、を備えることを特徴とする撮像装置である。
【0008】
また、本発明は、信号処理装置としてのコンピュータに、撮像装置により撮像された画像に関連付けられている音信号に対して、前記画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理、を実行させるためのプログラムである。
【発明の効果】
【0009】
この発明によれば、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる。
【図面の簡単な説明】
【0010】
【図1】この発明の第1実施形態による信号処理装置を備える撮像装置の構成を示す概略ブロック図である。
【図2】第1実施形態における音信号処理部の構成の一例を示す概略ブロック図である。
【図3】第1実施形態におけるノイズ低減処理の一例を示すフローチャートである。
【図4】第2実施形態における音信号処理部の構成の一例を示す概略ブロック図である。
【図5】第3実施形態における音信号処理部の構成の一例を示す概略ブロック図である。
【図6】第5実施形態における音信号処理部の構成の一例を示す概略ブロック図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して、本発明の実施の形態について説明する。
<第1実施形態>
図1は、この発明の第1実施形態による信号処理装置を備える撮像装置100の構成を示す概略ブロック図である。
この図1に示すとおり、第1実施形態に係る撮像装置100は、撮像部110と、CPU(Central processing unit)190と、操作部180、画像処理部140と、表示部150と、記憶部160と、バッファメモリ部130と、通信部170と、マイク230と、A/D(Analog/Digital)変換部240と、音信号処理部(処理部)250と、バス300と、を備えている。この撮像装置100が備える構成のうち、例えば、音信号処理部250が信号処理装置に対応する。
【0012】
撮像部110は、光学系111と、ミラー部119と、撮像素子120と、A/D変換部121とを含み、設定された撮像条件(例えば絞り値、露出値等)に従ってCPU190により制御され、光学系111による光学像を撮像素子120に結像させて、A/D変換部121によってデジタル信号に変換された当該光学像に基づく画像データを生成する。
【0013】
光学系111は、ズームレンズ114と、手振れ防止用レンズ(以下、VR(Vibration Reduction)レンズという)113と、焦点調整レンズ(以下、AF(Auto Focus)レンズという)112と、ズームエンコーダ115と、レンズ駆動部116と、AFエンコーダ117と、手振れ防止部118と、を備える。
【0014】
この光学系111は、ズームレンズ114、VRレンズ113、および、AFレンズ112を通過した光学像を撮像素子120の受光面に導く。
【0015】
レンズ駆動部116は、後述するCPU190から入力される駆動制御信号に基づいて、ズームレンズ114またはAFエンコーダ117の位置を制御する。
【0016】
手振れ防止部118は、後述するCPU190から入力される駆動制御信号に基づいて、VRレンズ113の位置を制御する。この手振れ防止部118は、VRレンズ113の位置を検出していてもよい。
【0017】
ズームエンコーダ115は、ズームレンズ114の位置を表わすズームポジションを検出し、検出したズームポジションをCPU190に出力する。
【0018】
AFエンコーダ117は、AFレンズ112の位置を表わすフォーカスポジションを検出し、検出したフォーカスポジションをCPU190に出力する。
【0019】
なお、上述した光学系111は、撮像装置100に取り付けられて一体とされていてもよいし、撮像装置100に着脱可能に取り付けられてもよい。
【0020】
ミラー部119は、光学像を撮像素子120の受光面に導くか、または光学ファインダー(不図示)に導くかを切替えるための反射ミラーと、当該反射ミラーの切替え動作を駆動するミラー駆動部とを有している。例えば、ミラー部119の反射ミラーは、静止画撮像の操作入力に応じて静止画が撮像されるタイミングで切替わる。
【0021】
撮像素子120は、例えば、受光面に結像した光学像を電気信号に変換して、A/D変換部121に出力する。
【0022】
また、撮像素子120は、操作部180を介して撮像指示を受け付けた際に得られる画像データを、撮像された静止画の撮像画像データとして、A/D変換部121や画像処理部140を介して、記憶媒体200に記憶させる。
【0023】
一方、撮像素子120は、例えば、操作部180を介して撮像指示を受け付けていない状態において、連続的に得られる画像データをスルー画データとして、A/D変換部121や画像処理部140を介して、CPU190および表示部150に出力する。
【0024】
A/D変換部121は、撮像素子120によって変換された電子信号をアナログ/デジタル変換し、この変換したデジタル信号である画像データを出力する。
【0025】
操作部180は、例えば、電源スイッチやシャッターボタン、その他の操作キーを含み、ユーザによって操作されることでユーザの操作入力を受け付け、CPU190に出力する。
【0026】
画像処理部140は、記憶部160に記憶されている画像処理条件を参照して、バッファメモリ部130、または、記憶媒体200に記録されている画像データに対して画像処理をする。
【0027】
表示部150は、例えば液晶ディスプレイであって、撮像部110によって得られた画像データや、操作画面等を表示する。
【0028】
記憶部160は、CPU190によってシーン判定の際に参照される判定条件や、撮像条件等を記憶する。また、記憶部160には、後述する音信号処理部250における音信号に対するノイズ低減処理の処理パラメータが記憶されている。例えば、記憶部160には、画像形式が動画と静止画との何れの画像形式であるかを示す識別情報と関連付けて、当該画像形式におけるノイズ低減処理のそれぞれの処理パラメータ(動画用の処理パラメータおよび静止画用の処理パラメータ)が予め記憶されている。
【0029】
マイク230は、音を収音し、収音した音に応じた音信号を出力する。この音信号は、アナログ信号である。
【0030】
A/D変換部240は、マイク230から入力されたアナログ信号である音信号を、デジタル信号である音信号に、アナログデジタル変換する。
【0031】
音信号処理部250は、A/D変換部240によりデジタル信号に変換された音信号に対して、例えば、ノイズを低減するなどの音信号処理を実行し、この音信号処理した音信号を記憶媒体200に記憶させる。なお、この音信号処理部250は、ノイズを低減するなどの音信号処理を実行する場合、撮像された画像に関連付けられている音信号に対して、画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理をする。この音信号処理部250の詳細については、後述する。
【0032】
なお、音信号処理部250により音信号処理された音信号が記憶媒体200に記憶される場合、撮像素子120により撮像された画像データと関連付けられて記憶される。例えば、音信号処理された音信号は、撮像された画像データと時間的に関連付けられて記憶されてもよいし、音信号を含む動画として記憶されてもよい。また、撮像された画像データに、後から録音されて音信号処理された音信号(例えば、静止画に対して付加される音声メモとして、後から録音された音信号)が関連付けられて記憶されてもよい。
【0033】
バッファメモリ部130は、撮像部110によって撮像された画像データや、音信号処理部250により変換された音信号等を、一時的に記憶する。
【0034】
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報の書込み、読み出し、あるいは消去を行う。
【0035】
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、例えば、撮像部110によって生成された(撮像された)画像データや、音信号処理部250により音信号処理された音信号を記憶する。
【0036】
CPU190は、撮像装置全体を制御するが、一例としては、ズームエンコーダ115から入力されるズームポジション、および、AFエンコーダ117から入力されるフォーカスポジションと、操作部180から入力される操作入力とに基づいて、ズームレンズ114およびAFレンズ112の位置を制御する駆動制御信号を生成する。CPU190は、この駆動制御信号に基づいて、レンズ駆動部116を介してズームレンズ114およびAFレンズ112の位置を制御する。また、CPU190は、操作部180から入力される静止画撮像のレリーズ操作入力に基づいて、例えば、ミラー部119の動作を制御する。
【0037】
また、このCPU190は、タイミング検出部191を備えている。このタイミング検出部191は、撮像装置100が備えている動作部が動作するタイミングを検出する。
【0038】
ここでいう動作部とは、一例としては、上述したズームレンズ114、VRレンズ113、AFレンズ112、ミラー部119、または、操作部180のことであり、撮像装置100が備えている構成のうち、動作することにより、または、動作されることにより、音が生じる(または、音が生じる可能性がある)構成である。これらの動作部が動作することにより、例えば、ズーム音、フォーカス音、ミラー音、または、シャッター音等が生じる。
【0039】
また、この動作部とは、撮像装置100が備えている構成のうち、動作することにより生じた音、または、動作されることにより生じた音が、マイク230により収音される(または、収音される可能性のある)構成である。
【0040】
このタイミング検出部191は、動作部を動作させる制御信号に基づいて、動作部が動作するタイミングを検出してもよい。この制御信号とは、動作部を動作させる駆動部に対して、動作部を動作させるようにする制御信号、または、この駆動部を駆動させる制御信号である。ここでいう駆動部とは、一例としては、レンズ駆動部116、手振れ防止部118、または、ミラー部119の有するミラー駆動部のことである。
【0041】
例えば、タイミング検出部191は、ズームレンズ114、VRレンズ113、AFレンズ112、またはミラー部119を駆動させるために、レンズ駆動部116、手振れ防止部118、またはミラー部119に入力される駆動制御信号に基づいて、または、CPU190で生成される駆動制御信号に基づいて、動作部が動作するタイミングを検出してもよい。
また、CPU190が駆動制御信号を生成する場合に、タイミング検出部191は、CPU190内部で実行される処理やコマンドに基づいて、動作部が動作するタイミングを検出してもよい。
また、タイミング検出部191は、操作部180から入力されるズームレンズ114、または、AFレンズ112を駆動させることを示す信号に基づいて、動作部が動作するタイミングを検出してもよい。
【0042】
また、このタイミング検出部191は、動作部が動作されたことを示す信号に基づいて、動作部が動作するタイミングを検出してもよい。
【0043】
例えば、タイミング検出部191は、ズームエンコーダ115またはAFエンコーダ117の出力に基づいて、ズームレンズ114またはAFレンズ112が駆動されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
また、タイミング検出部191は、手振れ防止部118からの出力に基づいて、VRレンズ113が駆動されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
また、このタイミング検出部191は、操作部180からの入力に基づいて、操作部180が操作されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
【0044】
そして、タイミング検出部191は、撮像装置100が備えている動作部が動作するタイミングを検出し、この検出したタイミングを示す信号を、音信号処理部250に出力する。
【0045】
また、タイミング検出部191は、撮像装置100において、動画または静止画が撮像されるタイミングを検出する。例えば、操作部180から入力される動画または静止画の撮像動作を示す信号に基づいて、画像形式が動画と静止画との何れの画像形式であるかと、動画の撮像タイミングまたは静止画の撮像タイミングとをそれぞれ検出する。なお、タイミング検出部191は、撮像された静止画に後から音声メモとして関連付けて記録される音信号の録音タイミングを、操作部180から入力される録音動作を示す信号に基づいて検出してもよい。そして、タイミング検出部191は、検出した画像形式を示す識別情報と撮像タイミングとを示す信号を、音信号処理部250に出力する。
【0046】
バス300は、撮像部110と、CPU190と、操作部180と、画像処理部140と、表示部150と、記憶部160と、バッファメモリ部130と、通信部170とに接続され、各部から出力されたデータ等を転送する。
【0047】
(音信号処理部250の概要)
次に、音信号処理部250の概要について説明する。
音信号処理部250は、撮像された画像に関連付けられている音信号に対して、画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理をする。例えば、音信号処理部250は、撮像装置100において、動画が撮像される際の音信号に対しては、動画に関連付けて記録される音信号に適したノイズ低減処理をし、静止画が撮像される際の音信号に対しては、静止画に関連付けて記録される音信号に適したノイズ低減処理をする。
【0048】
例えば、音信号処理部250は、撮像された画像が動画である場合、当該画像に関連付けられている音信号に対して、ノイズ低減前の音信号が示す原音を残すようなノイズ低減処理をする。ここで、ノイズ低減前の音信号が示す原音とは、動画の撮像中にマイク230により収音された音であって、より正確には収音された音のうちノイズ以外の音である。ノイズとは、例えば、上述した撮像装置100の動作部が動作することにより生じる音(例えば、ズーム音、またはフォーカス音等)であって、本来動画に関連付けて記録される必要がない音(ノイズ)である。すなわち、音信号処理部250は、撮像された画像が動画である場合、当該画像に関連付けられている音信号に対してノイズの低減処理をする際に、その低減処理によってノイズ以外の音信号の音質が変化してしまうことや環境音が消去されてしまうようなことが少ないような(原音を残すような)ノイズ低減処理をする。
【0049】
一方、音信号処理部250は、撮像された画像が静止画である場合、当該画像に関連付けられている音信号に対して、音声が聞き取りやすくなるようなノイズ低減処理をする。
ここで、静止画に関連付けられている音の記録目的としては、撮像時の情報や被写体の説明等を音声メモとして付加する目的がある。例えば、静止画に関連付けられている音とは、予め設定されている期間であって、静止画の撮像タイミングに対応した期間(例えば、レリーズ押下前後の10秒間等)に検出された音である(撮像の際に検出された会話や音声)。また、静止画に関連付けられている音とは、静止画が撮像された後、予め設定された期間において検出された音(後から録音された音声)であってもよい。このような、音声の記録を目的とする場合は、記録された音声が聞き取りやすい(話の意味が伝わりやすく聞こえる)ことが優先され、音声以外の音は記録される必要がない音(ノイズ)である。そのため、音信号処理部250は、撮像された画像が静止画である場合、当該画像に関連付けられている音信号に対してノイズの低減処理をする際に、その低減処理によって音声以外の音信号(すなわち、ノイズ)の音質が変化してしまうことや環境音が消去されてしまうことは許容して音声が聞き取りやすいようなノイズ低減処理をする。
【0050】
例えば、音信号処理部250は、撮像された画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減強度のノイズ低減処理をする。具体的には、音信号処理部250は、ノイズ低減処理として、撮像された画像に関連付けられている音信号に対して周波数帯域フィルタによるノイズ低減処理をし、画像が静止画である場合、動画である場合に対比して周波数帯域フィルタのノイズ低減強度が大きい処理をする。
【0051】
(音信号処理部250の詳細な構成)
次に、音信号処理部250の構成の詳細について説明する。
図2は、音信号処理部250の構成の一例を示す概略ブロック図である。音信号処理部250は、処理選択部251と、ノイズ低減処理部252と、を備えている。処理選択部251は、タイミング検出部191から入力された画像形式が動画と静止画との何れの画像形式であるかを示す識別情報に基づいて、当該識別情報に関連付けてられているノイズ低減処理のそれぞれの処理パラメータ(動画用の処理パラメータおよび静止画用の処理パラメータ)を記憶部160から読み出す。そして、処理選択部251は、選択した処理パラメータをノイズ低減処理部252に出力する。
【0052】
ノイズ低減処理部252は、フィルタ処理部253と、フィルタ処理設定部254と、を備えており、処理選択部251により選択された処理パラメータに基づいて、音信号に対してノイズ低減処理を実行する。
【0053】
フィルタ処理部253は、入力された音信号に対して帯域制限(若しくは、帯域通過)させる周波数帯域フィルタを有している。例えば、フィルタ処理部253は、ローパスフィルタ、ハイパスフィルタ、バンドパスフィルタ、または、その組み合わせによるフィルタ等の周波数帯域フィルタを有している。また、この周波数帯域フィルタは、デジタル回路により構成されている。なお、フィルタ処理部253の周波数帯域フィルタは、A/D変換部240によりデジタル信号に変換される前のアナログの音信号に対して処理する構成とした場合には、アナログ回路により構成されている周波数帯域フィルタとしてもよい。
【0054】
フィルタ処理設定部254は、フィルタ処理部253の有している周波数帯域フィルタにおける処理パラメータを設定する。この処理パラメータとは、例えば、帯域制限させる周波数帯域(遮断周波数)を設定するためのパラメータ、または、帯域制限による音信号の減衰量(低減強度)を設定するためのパラメータ等である。また、この処理パラメータは、動画用の処理パラメータおよび静止画用の処理パラメータとして記憶部160に予め記憶されている。そして、フィルタ処理設定部254は、処理選択部251により記憶部160から読み出された処理パラメータをフィルタ処理部253に設定する。
【0055】
例えば、静止画用の処理パラメータは、動画用の処理パラメータに対比して低減強度の大きい減衰量となる処理パラメータである。処理選択部251は、動画である場合と静止画である場合とに応じて選択した動画用の処理パラメータまたは静止画用の処理パラメータを、記憶部160から読み出してフィルタ処理設定部254に出力する。フィルタ処理設定部254は、処理選択部251から入力された動画用の処理パラメータまたは静止画用の処理パラメータをフィルタ処理部253に設定する。これにより、音信号処理部250は、入力された音信号に対して、画像が静止画である場合、動画である場合に対比して周波数帯域フィルタのノイズ低減強度が大きい処理をする。
【0056】
なお、動画用の処理パラメータは、ズーム音またはフォーカス音等による音信号の周波数帯域を低減させるような遮断周波数と、ノイズ以外の音信号の音質が変化してしまうことや環境音が消去されてしまうようなことが少ないような減衰量(静止画用の処理パラメータより低減強度の小さい減衰量)とが、処理パラメータとして設定されていてもよい。一方、静止画用の処理パラメータは、音声以外の音信号の周波数帯域を低減させるような遮断周波数と、動画用の処理パラメータより低減強度の大きい減衰量とが、処理パラメータとして設定されていてもよい。
【0057】
次に、第1実施形態におけるノイズ低減処理の動作を説明する。
図3は、第1実施形態におけるノイズ低減処理の一例を示すフローチャートである。この図は、撮像装置100において、動画が撮像されている途中に静止画の撮像がされる場合の動作を示している。
【0058】
まず、操作部180における動画の撮像開始指示により、操作部180からCPU190に動画の撮像開始指示(動画の撮像開始動作を示す信号)が入力される。CPU190のタイミング検出部191は、操作部180から入力された動画の撮像開始動作を示す信号に基づいて検出した画像形式が動画であることを示す識別情報と撮像開始タイミングとを示す信号を音信号処理部250に出力する(ステップS11)。
【0059】
次に、音信号処理部250の処理選択部251は、タイミング検出部191から画像形式が動画であることを示す識別情報と撮像開始タイミングとを示す信号が入力されたことに応じて、記憶部160から動画用の処理パラメータを読み出してフィルタ処理設定部254に出力する。フィルタ処理設定部254は、処理選択部251から入力された動画用の処理パラメータをフィルタ処理部253に設定する。そして、音信号処理部250は、動画が撮像されることに応じて入力される音信号に対して、動画用のノイズ低減処理を実行する。(ステップS12)。音信号処理部250によりノイズ低減処理された音信号は、動画像に関連付けられて記録される。
【0060】
続いて、動画が撮像されている期間において、CPU190は、操作部180から動画の撮像終了指示(動画の撮像終了動作を示す信号)が入力されたか否かを判定する(ステップS13)。ステップS13において、操作部180から動画の撮像終了指示が入力されたと判定された場合、CPU190は、撮像動作を終了する(ステップS17)。一方、ステップS13において、操作部180から動画の撮像終了指示が入力されていないと判定された場合、CPU190は、操作部180から静止画の撮像開始指示(静止画の撮像開始動作を示す信号)が入力されたか否かを判定する(ステップS14)。ステップS14において、操作部180から静止画の撮像開始指示が入力されていないと判定された場合、CPU190は、ステップS12に処理を戻し動画の撮像動作を継続する。
【0061】
一方、ステップS14において、操作部180から静止画の撮像開始指示が入力されたと判定された場合、CPU190は、動画の撮像動作を中断して、静止画の撮像動作と当該静止画に関連付けて記録される音信号を検出する制御を開始する。また、タイミング検出部191は、操作部180から入力された静止画の撮像開始動作を示す信号に基づいて検出した画像形式が静止画であることを示す識別情報と撮像開始タイミングとを示す信号を音信号処理部250に出力する。音信号処理部250の処理選択部251は、タイミング検出部191から画像形式が静止画であることを示す識別情報と撮像開始タイミングとを示す信号が入力されたことに応じて、記憶部160から静止画用の処理パラメータを読み出してフィルタ処理設定部254に出力する。フィルタ処理設定部254は、処理選択部251から入力された静止画用の処理パラメータをフィルタ処理部253に設定する。そして、音信号処理部250は、静止画が撮像されることに応じて入力される音信号に対して、静止画用のノイズ低減処理を実行する。(ステップS15)。音信号処理部250によりノイズ低減処理された音信号は、静止画像に関連付けられて記録される。
【0062】
続いて、CPU190は、静止画に関連付けて記録される音信号の検出が終了したか否かを判定する(ステップS16)。
なお、静止画に関連付けて記録される音信号の検出期間は、例えば、予め設定されている期間(例えば、レリーズ押下前後の10秒間等)であり、この期間が経過したタイミングにおいて終了される。
【0063】
ステップS16において、静止画に関連付けて記録される音信号の検出が終了していないと判定された場合、CPU190は、ステップS15に処理を戻し、静止画に関連付けて記録される音信号の検出を継続する。一方、ステップS16において、静止画に関連付けて記録される音信号の検出が終了したと判定された場合、CPU190は、ステップS12に処理を戻し、動画の撮像動作を再開する。また、タイミング検出部191は、静止画に関連付けて記録される音信号の検出が終了したと判定されたことに応じて、画像形式が動画であることを示す識別情報と動画の撮像開始タイミングを示す信号とを音信号処理部250に出力する。これにより、音信号処理部250は、動画の撮像が再開されることに応じて入力される音信号に対して、動画用のノイズ低減処理を実行する。
【0064】
なお、図3を用いて、動画が撮像されている途中に静止画の撮像がされる場合の動作を説明したが、動画が撮像されている途中の動作に限られるものではない。例えば、動画の撮像動作、または静止画の撮像動作がそれぞれ単独で実行された場合においても、音信号処理部250は、同様に、それぞれ対応する動画用のノイズ低減処理、または静止画用のノイズ低減処理を実行する。
【0065】
以上のように、音信号処理部250は、撮像装置100において、動画が撮像される際の音信号に対しては、動画に関連付けて記録される音信号に適したノイズ低減処理をし、静止画が撮像される際の音信号に対しては、静止画に関連付けて記録される音信号に適したノイズ低減処理をする。例えば、音信号処理部250は、ノイズ低減処理として、撮像された画像に関連付けられている音信号に対して周波数帯域フィルタによるノイズ低減処理をし、画像が静止画である場合、動画である場合に対比して周波数帯域フィルタのノイズ低減強度が大きい処理をする。
【0066】
これにより、音信号処理部250は、画像が動画である場合、ノイズ低減処理によってノイズ以外の音信号の音質が変化してしまうことや環境音が消去されてしまうようなことが少ないような(原音を残すような)ノイズ低減処理をすることができる。また、音信号処理部250は、画像が静止画である場合、ノイズ低減処理によって音声以外の音信号(すなわち、ノイズ)の音質が変化してしまうことや環境音が消去されてしまうことは許容して音声が聞き取りやすいようなノイズ低減処理をすることができる。よって、撮像装置100は、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる。
【0067】
<第2実施形態>
次に、第2実施形態におけるノイズ低減処理について説明する。
図4は、第2実施形態における音信号処理部250の構成の一例を示す概略ブロック図である。
第2実施形態のノイズ低減処理部252は、フィルタ処理部253と、フィルタ処理設定部254と、に代えて、スペクトル減算処理部255と、スペクトル減算処理設定部256と、を備えていることが第1実施形態と異なる。その他の構成については、第1実施形態と同様であり説明を省略する。
【0068】
スペクトル減算処理部255は、ノイズ低減処理として、画像に関連付けられている音信号の周波数スペクトルを算出して当該周波数スペクトル毎にノイズを低減するノイズ低減処理をする。すなわち、スペクトル減算処理部255は、ノイズの周波数スペクトルに基づいて、音信号にスペクトル減算(Spectral Subtraction)処理することにより、音信号のノイズを低減させる。このスペクトル減算処理とは、まず、音信号をフーリエ変換により周波数領域に変換し、周波数領域でノイズを減じた後、逆フーリエ変換することにより、音信号のノイズを低減させる方法である。なお、ノイズの周波数スペクトルは、例えば、予め推定して設定されており、記憶部160に記憶されている。以降、このノイズの周波数スペクトルを推定ノイズスペクトルとも記述する。
【0069】
また、スペクトル減算処理部255は、フーリエ変換または逆フーリエ変換する場合に、高速フーリエ変換(FFT:Fast Fourier Transform)、または、逆高速フーリエ変換(IFFT:Inverse Fast Fourier Transform)により、フーリエ変換または逆フーリエ変換してもよい。
【0070】
スペクトル減算処理設定部256は、スペクトル減算処理部255において減算する推定ノイズスペクトルを設定する。また、スペクトル減算処理設定部256は、スペクトル減算処理部255において、音信号の周波数スペクトルから推定ノイズスペクトルを減算する際の減算係数(低減強度)を設定する。これら推定ノイズスペクトルおよび減算係数は、動画用と静止画用とのそれぞれの場合に対応する動画用の処理パラメータおよび静止画用の処理パラメータとして記憶部160に予め記憶されている。スペクトル減算処理設定部256は、処理選択部251により記憶部160から読み出された処理パラメータをスペクトル減算処理部255に設定する。
【0071】
音信号処理部250は、スペクトル減算処理により、画像が静止画である場合、動画である場合に対比して当該音信号の周波数スペクトル毎にノイズを低減するノイズ低減強度が大きい処理をする。すなわち、音信号処理部250は、スペクトル減算処理により、画像が静止画である場合、動画である場合に対比して当該音信号の周波数スペクトル毎に推定ノイズスペクトルを減算する減算係数が大きい処理をする。
【0072】
例えば、静止画用処理のパラメータは、動画用の処理パラメータに対比して低減強度の大きい減算係数となる処理パラメータである。処理選択部251は、動画である場合と静止画である場合とに応じて選択した動画用の処理パラメータまたは静止画用の処理パラメータを、記憶部160から読み出してスペクトル減算処理設定部256に出力する。スペクトル減算処理設定部256は、処理選択部251から入力された動画用の処理パラメータまたは静止画用の処理パラメータをスペクトル減算処理部255に設定する。これにより、音信号処理部250は、入力された音信号に対して、画像が静止画である場合、動画である場合に対比して当該音信号の周波数スペクトル毎にノイズを低減するノイズ低減強度が大きい処理をする。
【0073】
以上のように、音信号処理部250は、撮像装置100において、動画が撮像される際の音信号に対しては、動画に関連付けて記録される音信号に適したノイズ低減処理をし、静止画が撮像される際の音信号に対しては、静止画に関連付けて記録される音信号に適したノイズ低減処理をする。例えば、音信号処理部250は、ノイズ低減処理として、撮像された画像に関連付けられている音信号に対してスペクトル減算処理によるノイズ低減処理をし、画像が静止画である場合、動画である場合に対比して当該音信号の周波数スペクトル毎にノイズを低減するノイズ低減強度が大きい処理をする。
これにより、撮像装置100は、第1実施形態と同様に、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる。
【0074】
<第3実施形態>
次に、第3実施形態におけるノイズ低減処理について説明する。
図5は、第3実施形態における音信号処理部250の構成の一例を示す概略ブロック図である。
第3実施形態のノイズ低減処理部252は、フィルタ処理部253と、フィルタ処理設定部254と、スペクトル減算処理部255と、スペクトル減算処理設定部256とを備えていることが、第1実施形態および第2実施形態と異なる。すなわち、ノイズ低減処理部252は、周波数帯域フィルタとスペクトル減算処理との両方のノイズ低減処理(ノイズ低減アルゴリズム)を備えている。その他の構成については、第1実施形態と同様であり説明を省略する。
【0075】
音信号処理部250は、画像が動画である場合と静止画である場合とに応じて、それぞれに応じたアルゴリズムによるノイズ低減処理をする。例えば、音信号処理部250は、画像が動画である場合、ノイズ低減処理として周波数帯域フィルタによるノイズ低減処理をし、画像が静止画である場合、ノイズ低減処理としてスペクトル減算処理によるノイズ低減処理をする。
【0076】
例えば、動画用の処理パラメータには、周波数帯域フィルタによるノイズ低減処理が選択されるように設定されている。また、静止画用の処理パラメータには、スペクトル減算処理によるノイズ低減処理が選択されるように設定されている。処理選択部251は、動画である場合と静止画である場合とに応じて選択した動画用の処理パラメータまたは静止画用の処理パラメータを、記憶部160から読み出してノイズ低減処理部252に出力する。
【0077】
処理選択部251は、動画である場合、記憶部160から読み出した動画用の処理パラメータに基づいて、ノイズ低減処理部252において周波数帯域フィルタによるノイズ低減処理が実行されるように選択する。フィルタ処理設定部254は、処理選択部251により記憶部160から読み出された動画用の処理パラメータをフィルタ処理部253に設定する。
【0078】
一方、処理選択部251は、静止画である場合、記憶部160から読み出した静止画用の処理パラメータに基づいて、ノイズ低減処理部252においてスペクトル減算処理によるノイズ低減処理が実行されるように選択する。スペクトル減算処理設定部256は、処理選択部251により記憶部160から読み出された静止画用の処理パラメータをスペクトル減算処理部255に設定する。
【0079】
これにより、音信号処理部250は、画像が動画である場合、ノイズ低減処理として、スペクトル減算処理において生じる可能性があるミュージカルノイズ(例えば、ノイズを減算した際に除去しきれない周波数軸上で孤立した成分のノイズであって、不自然で耳障りな音として聞こえる人工的なノイズ)が発生しない周波数帯域フィルタによるノイズ低減処理をする。そのため、音信号処理部250は、画像が動画である場合、ノイズ低減処理によってノイズ以外の音信号の音質が変化してしまうことや環境音が消去されてしまうようなことが少ないような(原音を残すような)ノイズ低減処理をすることができる。
【0080】
一方、音信号処理部250は、画像が静止画である場合、ノイズ低減処理として、ミュージカルノイズが発生する可能性はあるが周波数帯域フィルタに対比してノイズを低減させる効果が高いスペクトル減算処理によるノイズ低減処理をする。そのため、音信号処理部250は、画像が静止画である場合、ノイズ低減処理によって音声以外の音信号(すなわち、ノイズ)の音質が変化してしまうことや環境音が消去されてしまうことは許容して音声が聞き取りやすいようなノイズ低減処理をすることができる。
よって、撮像装置100は、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる。
【0081】
<第4実施形態>
次に、第4実施形態におけるノイズ低減処理について説明する。
第4実施形態の音信号処理部250は、画像が動画である場合と静止画である場合とに応じて、それぞれの場合に応じた推定ノイズによりノイズ低減処理をする。ここでは、第2実施形態と同様に、ノイズ低減処理部252がスペクトル減算処理部255と、スペクトル減算処理設定部256と、を備えている構成であるとして説明する。
【0082】
音信号処理部250は、画像が動画である場合、撮像装置100において当該画像が撮像される期間において発生する撮像装置100の機構音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をする。また、音信号処理部250は、画像が静止画である場合、当該画像に関連付けられている音信号が検出される期間における周囲の環境音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をする。
【0083】
例えば、音信号処理部250は、画像が動画である場合、動画に応じた推定ノイズスペクトルによりスペクトル減算処理をし、静止画である場合、静止画に応じた推定ノイズスペクトルによりスペクトル減算処理をする。
【0084】
この場合、例えば、記憶部160には、撮像装置100の機構音をノイズとした推定ノイズスペクトルが動画用の処理パラメータとして予め記憶されている。この機構音とは、撮像装置100において動画が撮像されている期間に動作部が動作することにより(または、動作されることにより)生じる音であり、例えば、ズーム音、またはフォーカス音等である。記憶部160には、ズーム音、またはフォーカス音等をノイズとした推定ノイズスペクトルが予め記憶されている。
【0085】
また、記憶部160には、周囲の環境音をノイズとした推定ノイズスペクトルが静止画用の処理パラメータとして予め記憶されている。この周囲の環境音とは、撮像装置100において静止画に関連付けられている音信号が検出される期間における周囲の環境音であって、例えば、音声以外の音である。記憶部160には、音声以外の音である周囲の環境音をノイズとした推定ノイズスペクトルが予め記憶されている。
【0086】
これにより、音信号処理部250は、画像が動画である場合、動画が撮像されている期間に動作部が動作することにより生じる音(ズーム音、またはフォーカス音等の機構音)を推定ノイズスペクトルとして、音信号に対してスペクトル減算処理によるノイズ低減処理をすることができる。また、音信号処理部250は、画像が静止画である場合、静止画に関連付けられている音信号が検出される期間における周囲の環境音(音声以外の音)を推定ノイズスペクトルとして、音信号に対してスペクトル減算処理によるノイズ低減処理をすることができる。
よって、撮像装置100は、画像が動画である場合と静止画である場合とに応じて、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる。
【0087】
なお、音信号処理部250は、画像が静止画ある場合、当該画像に関連付けられている音信号が検出される期間において発生する撮像装置100の機構音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をしてもよい。この機構音とは、撮像装置100において静止画が撮像されるタイミングに動作部が動作することにより生じる音であり、例えば、ミラー音、またはシャッター音等である。これにより、音信号処理部250は、画像が静止画である場合、静止画に関連付けられている音信号が検出される期間においてに動作部が動作することにより生じる音(ミラー音、またはシャッター音等の機構音)を推定ノイズスペクトルとして、音信号に対してスペクトル減算処理によるノイズ低減処理をすることができる。
【0088】
なお、音信号処理部250は、第1実施形態と同様に、ノイズ低減処理部252がフィルタ処理部253と、フィルタ処理設定部254と、を備えている構成としてもよい。この場合、音信号処理部250は、画像が動画である場合の推定ノイズと静止画である場合の推定ノイズとに基づいて、周波数帯域フィルタの帯域制限させる周波数帯域(遮断周波数)をそれぞれの推定ノイズの周波数成分に対応して設定してもよい。
【0089】
なお、動画が撮像されている期間に動作部が動作することにより(または、動作されることにより)生じる音を推定ノイズとする場合、ズーム音、またはフォーカス音の他に、VRレンズ113の駆動音、または絞り機構(不図示)の駆動音等も、同様に推定ノイズとしてもよい。
【0090】
<第5実施形態>
次に、第5実施形態におけるノイズ低減処理について説明する。
第5実施形態の音信号処理部250は、音信号の音量に応じてノイズ低減処理のノイズ低減強度を変更する。
図6は、第5実施形態の音信号処理部250の構成の一例を示す概略ブロック図である。この図において、音信号処理部250は、音量判定部257をさらに備えている。その他の構成については、前述した実施形態と同様である。なお、ノイズ低減処理部252は、フィルタ処理部253と、フィルタ処理設定部254と、を備えている構成としてもよいし、スペクトル減算処理部255と、スペクトル減算処理設定部256と、を備えている構成としてもよい。また、ノイズ低減処理部252は、フィルタ処理部253と、フィルタ処理設定部254と、スペクトル減算処理部255と、スペクトル減算処理設定部256と、を備えている構成としてもよい。
【0091】
音信号処理部250は、画像に関連付けられている音信号の音量に応じて、ノイズ低減処理のノイズ低減強度を変更する。例えば、音信号処理部250は、画像が動画である場合、当該画像に関連付けられている音信号の音量が大きくなるのに応じて、当該音信号に対するノイズ低減処理のノイズ低減強度を小さくする。また、音信号処理部250は、画像が静止画である場合、当該画像に関連付けられている音信号の音量が大きくなるのに応じて、当該音信号に対するノイズ低減処理のノイズ低減強度を大きくする。
【0092】
例えば、音信号の音量が大きい場合(検出された周囲の環境音等の音量が大きい場合)、動画が撮像されている期間に動作部が動作することにより生じる音(ズーム音、またはフォーカス音等の機構音)の音量は、相対的に小さくノイズとして目立たない音量となる。そのため、音信号処理部250は、動画に関連付けられている音信号の音量が大きくなるのに応じて、ノイズ低減強度を小さくして原音を残すようなノイズ低減処理をする。
【0093】
また、音信号の音量が大きい場合(検出された周囲の環境音等の音量が大きい場合)、静止画に関連付けられている音信号における音声の音量は、相対的に小さく聞き取りにくい音量となる。そのため、音信号処理部250は、静止画に関連付けられている音信号の音量が大きくなるのに応じて、音声以外のノイズに対する低減強度を大きくして音声が聞き取りやすくなるようなノイズ低減処理をする。
【0094】
これにより、音信号処理部250は、画像に関連付けられている音信号の音量に応じて、動画に関連付けられている音信号および静止画に関連付けられている音信号のそれぞれに対してノイズを適切に低減することができる。
【0095】
以上説明してきたように、本実施形態における撮像装置100は、動画が撮像される際の音信号に対しては、動画に関連付けて記録される音信号に適したノイズ低減処理をし、静止画が撮像される際の音信号に対しては、静止画に関連付けて記録される音信号に適したノイズ低減処理をするため、撮像された画像に関連付けられている音信号のノイズを適切に低減することができる。
【0096】
なお、第1実施形態から第5実施形態において説明してきたノイズ低減処理は、それぞれのノイズ低減処理を組み合わせて実行されるものであってもよい。
【0097】
なお、音信号処理部250は、撮像装置100の動作音(機構音)に基づく推定ノイズを低減する処理をする場合、タイミング検出部191から入力された撮像装置100の動作部が動作するタイミングに応じて、当該動作部が動作する期間に対して推定ノイズを低減する処理をしてもよい。また、音信号処理部250は、撮像装置100のそれぞれの動作部の動作音(機構音)に基づくそれぞれの推定ノイズの中から、それぞれの動作部が動作するタイミングに応じた推定ノイズを選択し、選択した推定ノイズを低減する処理をしてもよい。
【0098】
なお、静止画に関連付けられている音信号に対して、音声が聞き取りやすいようなノイズ低減処理をする場合、ノイズゲート(一定レベル以下の音信号を減衰させる低減処理)によるノイズ低減処理をしてもよい。
【0099】
なお、静止画に関連付けられている音信号は、音声認識を用いて、音声が認識された期間において、検出されて記録されてもよい。また、静止画に関連付けられている音信号は、音声認識を用いて、特定の音声が認識された期間のみ検出されて記録されてもよい。
【0100】
なお、上記実施形態において、撮像装置100がミラー部119を備えている構成を例として説明したが、ミラー部119を備えていない構成であってもよい。
【0101】
なお、上述の音信号処理部250は専用のハードウェアにより実現されるものであってもよく、また、メモリおよびCPU(中央演算装置)により構成され、上述の音信号処理部250の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。
【0102】
また、上述の音信号処理部250の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の音信号処理部250を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0103】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0104】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0105】
100 撮像装置、250 音信号処理部(処理部)

【特許請求の範囲】
【請求項1】
撮像装置により撮像された画像に関連付けられている音信号に対して、前記画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理をする処理部、
を備えることを特徴とする信号処理装置。
【請求項2】
前記処理部は、
前記画像が動画である場合、当該画像に関連付けられている音信号に対して、ノイズ低減前の音信号が示す原音を残すようなノイズ低減処理をし、
前記画像が静止画である場合、当該画像に関連付けられている音信号に対して、音声が聞き取りやすくなるようなノイズ低減処理をする
ことを特徴とする請求項1に記載の信号処理装置。
【請求項3】
前記処理部は、
前記画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減強度のノイズ低減処理をする
ことを特徴とする請求項1または請求項2に記載の信号処理装置。
【請求項4】
前記処理部は、
前記ノイズ低減処理として、前記画像に関連付けられている音信号に対して周波数帯域フィルタによるノイズ低減処理をし、
前記画像が静止画である場合、動画である場合に対比して前記周波数帯域フィルタのノイズ低減強度が大きい
ことを特徴とする請求項1から請求項3の何れか1項に記載の信号処理装置。
【請求項5】
前記処理部は、
前記ノイズ低減処理として、前記画像に関連付けられている音信号の周波数スペクトルを算出して当該周波数スペクトル毎にノイズを低減するノイズ低減処理をし、
前記画像が静止画である場合、動画である場合に対比して当該音信号の周波数スペクトル毎にノイズを低減するノイズ低減強度が大きい
ことを特徴とする請求項1から請求項3の何れか1項に記載の信号処理装置。
【請求項6】
前記処理部は、
前記画像が動画である場合と静止画である場合とに応じて、それぞれに応じたアルゴリズムによるノイズ低減処理をする
ことを特徴とする請求項1から請求項3の何れか1項に記載の信号処理装置。
【請求項7】
前記処理部は、
前記画像が動画である場合、前記ノイズ低減処理として周波数帯域フィルタによるノイズ低減処理をし、
前記画像が静止画である場合、前記ノイズ低減処理として当該画像に関連付けられている音信号の周波数スペクトルを算出して当該周波数スペクトル毎にノイズを低減するノイズ低減処理をする
ことを特徴とする請求項6に記載の信号処理装置。
【請求項8】
前記処理部は、
前記画像が動画である場合、前記撮像装置において当該画像が撮像される期間において発生する前記撮像装置の機構音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をし、
前記画像が静止画である場合、当該画像に関連付けられている音信号が検出される期間における周囲の環境音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をする
ことを特徴とする請求項1から請求項7の何れか1項に記載の信号処理装置。
【請求項9】
前記処理部は、
前記画像が動画である場合、前記撮像装置において当該画像が撮像される期間において発生する前記撮像装置の機構音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をし、
前記画像が静止画ある場合、当該画像に関連付けられている音信号が検出される期間において発生する前記撮像装置の機構音を推定ノイズとして、当該推定ノイズに基づいてノイズ低減処理をする
ことを特徴とする請求項1から請求項7の何れか1項に記載の信号処理装置。
【請求項10】
前記処理部は、
前記画像に関連付けられている音信号の音量に応じて、前記ノイズ低減処理のノイズ低減強度を変更する
ことを特徴とする請求項1から請求項9の何れか1項に記載の信号処理装置。
【請求項11】
前記処理部は、
前記画像が動画である場合、当該画像に関連付けられている音信号の音量が大きくなるのに応じて、当該音信号に対する前記ノイズ低減処理のノイズ低減強度を小さくする
ことを特徴とする請求項1から請求項10の何れか1項に記載の信号処理装置。
【請求項12】
前記処理部は、
前記画像が静止画である場合、当該画像に関連付けられている音信号の音量が大きくなるのに応じて、当該音信号に対する前記ノイズ低減処理のノイズ低減強度を大きくする
ことを特徴とする請求項1から請求項11の何れか1項に記載の信号処理装置。
【請求項13】
前記画像が静止画である場合、当該画像に関連付けられている音信号は、当該画像が撮像されるタイミングに対応して予め設定された期間において検出される音に基づく音信号、または当該画像が撮像された後、予め設定された期間において検出される音に基づく音信号である
ことを特徴とする請求項1から請求項12の何れか1項に記載の信号処理装置。
【請求項14】
請求項1から請求項11の何れか1項に記載の信号処理装置、
を備えることを特徴とする撮像装置。
【請求項15】
信号処理装置としてのコンピュータに、
撮像装置により撮像された画像に関連付けられている音信号に対して、前記画像が動画である場合と静止画である場合とに応じて、それぞれに応じたノイズ低減処理、
を実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公開番号】特開2012−178785(P2012−178785A)
【公開日】平成24年9月13日(2012.9.13)
【国際特許分類】
【出願番号】特願2011−41567(P2011−41567)
【出願日】平成23年2月28日(2011.2.28)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】