説明

録音装置、撮像装置、および、プログラム

【課題】音信号にノイズや不連続が発生する場合においても聴感上の違和感を減じる録音装置を提供する。
【解決手段】録音装置が、音信号が入力される入力部と、動作部が動作するタイミングを検出するタイミング検出部と、タイミング検出部により検出されたタイミングに基づいて、音信号において動作部が動作している区間を含む第1区間を設定する区間設定部と、音信号において、第1区間に連続する第2区間に対応する音信号を、第1基準信号とする基準信号決定部と、音信号において、第1基準信号と最も相関の高い音信号を第2基準信号として検出する信号検出部と、音信号において、信号検出部により検出された第2基準信号に連続し、且つ第1区間と同じ時間長の音信号を補間信号として検出する補間信号検出部と、第1区間の音信号を補間信号で置換する信号置換部と、信号置換部により置換された音信号を記録する記録部と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、録音装置、録音装置を備える撮像装置、および、プログラムに関する。
【背景技術】
【0002】
従来、ノイズや不連続が発生した音信号の欠損区間を、前後の音信号で置き換える方法が知られている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平9−274772号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の方法にあっては、音信号の欠損区間を、単に、前後の音信号で置き換えるため、前後の音信号に大きな不連続部分が発生する可能性があり、聴感上の違和感が生じるという問題がある。
【0005】
本発明は、このような事情に鑑みてなされたもので、その目的は、音信号に混入したノイズを減じる際に、聴感上の違和感を抑えることのできる録音装置、撮像装置、および、プログラムを提供することにある。
【課題を解決するための手段】
【0006】
この発明は上述した課題を解決するためになされたもので、音信号が入力される入力部と、動作部が動作するタイミングを検出するタイミング検出部と、前記タイミング検出部により検出されたタイミングに基づいて、前記音信号において前記動作部が動作している区間を含む第1区間を設定する区間設定部と、前記音信号において、前記第1区間に連続する第2区間に対応する前記音信号を、第1基準信号とする基準信号決定部と、前記音信号において、前記第1基準信号と最も相関の高い音信号を第2基準信号として検出する信号検出部と、前記音信号において、前記信号検出部により検出された前記第2基準信号に連続し、且つ前記第1区間と同じ時間長の音信号を補間信号として検出する補間信号検出部と、前記第1区間の音信号を前記補間信号で置換する信号置換部と、前記信号置換部により置換された音信号を記録する記録部と、を備えることを特徴とする録音装置である。
【0007】
また、この発明は、上記に記載の録音装置と、光学系からの像を撮像する撮像部と、を備えることを特徴とする撮像装置である。
【0008】
また、この発明は、コンピュータに、音信号とともに、当該音信号を録音した装置が備えている動作部が動作することを示すタイミングを入力させる入力手順と、前記入力されたタイミングに基づいて、前記音信号において前記動作部が動作している区間を含む第1区間を設定する区間設定手順と、前記音信号において、前記第1区間に連続する第2区間に対応する前記音信号を、第1基準信号とする基準信号決定手順と、前記音信号において、前記第1基準信号と最も相関の高い音信号を第2基準信号として検出する信号検出手順と、前記音信号において、前記信号検出手順により検出された前記第2基準信号に連続し、且つ前記第1区間と同じ時間長の音信号を補間信号として検出する補間信号検出手順と、前記第1区間の音信号を前記補間信号で置換する信号置換手順と、を実行させるためのプログラムである。
【発明の効果】
【0009】
この発明によれば、音信号のノイズを、聴感上の違和感を抑えながら減じることができるという効果を奏する。
【図面の簡単な説明】
【0010】
【図1】この発明の一実施形態による録音装置を備える撮像装置の構成の一例を示すブロック図である。
【図2】一例としての音信号の波形と、当該音信号の場合における補間信号の生成方法を示す波形図である。
【図3】図2の場合の一例としての第1基準信号を示す波形図である。
【図4】図1に示す録音装置を備える撮像装置の一例としての動作を示すフローチャートである。
【発明を実施するための形態】
【0011】
<第1実施形態>
以下、図面を参照して、本発明の実施の形態について説明する。図1は、この発明の一実施形態による録音装置を備える撮像装置の構成を示す概略ブロック図である。
【0012】
この図1に示すとおり、本実施形態に係る撮像装置100は、撮像部110と、CPU(Central processing unit)110と、操作部180、画像処理部140と、表示部150と、記憶部160と、バッファメモリ部130と、通信部170と、マイク230と、A/D(Analog/Digital)変換部240と、音信号処理部250と、バス300と、を備えている。この撮像装置100が備える構成のうち、たとえば、マイク230と、A/D変換部240と、音信号処理部250とが、録音装置に対応する。
【0013】
撮像部110は、光学系111と、撮像素子119と、A/D変換部120とを含み、設定された撮像条件(例えば絞り値、露出値等)に従ってCPU190により制御され、光学系111による光学像を撮像素子119に結像させて、A/D変換部120によってデジタル信号に変換された当該光学像に基づく画像データを生成する。
【0014】
光学系111は、ズームレンズ114と、手振れ防止用レンズ(以下、VR(Vibration Reduction)レンズという)113と、焦点調整レンズ(以下、AF(Auto Focus)レンズという)112と、ズームエンコーダ115と、レンズ駆動部116と、AFエンコーダ117と、手振れ防止部118と、を備える。
【0015】
この光学系111は、ズームレンズ114、VRレンズ113、および、AFレンズ112を通過した光学像を撮像素子119の受光面に導く。
【0016】
レンズ駆動部116は、後述するCPU190から入力される駆動制御信号に基づいて、ズームレンズ114またはAFエンコーダ117の位置を制御する。
【0017】
手振れ防止部118は、後述するCPU190から入力される駆動制御信号に基づいて、VRレンズ113の位置を制御する。この手振れ防止部118は、VRレンズ113の位置を検出していてもよい。
【0018】
ズームエンコーダ115は、ズームレンズ114の位置を表わすズームポジションを検出し、検出したズームポジションをCPU190に出力する。
【0019】
AFエンコーダ117は、AFレンズ112の位置を表わすフォーカスポジションを検出し、検出したズームポジションおよびフォーカスポジションをCPU190に出力する。
【0020】
なお、上述した光学系111は、撮像装置100に取り付けられて一体とされていてもよいし、撮像装置100に着脱可能に取り付けられてもよい。
【0021】
撮像素子119は、例えば、受光面に結像した光学像を電気信号に変換して、A/D変換部120に出力する。
【0022】
また、撮像素子119は、操作部180を介して撮影指示を受け付けた際に得られる画像データを、撮影された静止画の撮影画像データとして、A/D変換部120や画像処理部140を介して、記憶媒体200に記憶させる。
【0023】
一方、撮像素子119は、たとえば、操作部180を介して撮像指示を受け付けていない状態において、連続的に得られる画像データをスルー画データとして、A/D変換部120や画像処理部140を介して、CPU190および表示部150に出力する。
【0024】
A/D変換部120は、撮像素子119によって変換された電子信号をアナログ/デジタル変換し、この変換したデジタル信号である画像データを出力する。
【0025】
操作部180は、例えば、電源スイッチやシャッターボタン、その他の操作キーを含み、ユーザによって操作されることでユーザの操作入力を受け付け、CPU190に出力する。
【0026】
画像処理部140は、記憶部160に記憶されている画像処理条件を参照して、バッファメモリ130、または、記憶媒体200に記録されている画像データに対して画像処理をする。
【0027】
表示部150は、例えば液晶ディスプレイであって、撮像部110によって得られた画像データや、操作画面等を表示する。
【0028】
記憶部160は、CPU190によってシーン判定の際に参照される判定条件や、撮像条件等を記憶する。
【0029】
マイク230は、音を収音し、収音した音に応じた音信号を出力する。この音信号は、アナログ信号である。
【0030】
A/D変換部240は、マイク230から入力されたアナログ信号である音信号を、デジタル信号である音信号に、アナログデジタル変換する。
【0031】
音信号処理部250は、A/D変換部240によりデジタル信号に変換された音信号に対して、たとえば、ノイズを低減するなどの音信号処理を実行し、この音信号処理した音信号を記憶媒体200に記憶させる。この音信号処理部250の詳細については、後述する。
【0032】
なお、音信号処理部250により音信号処理された音信号が記憶媒体200に記憶される場合、撮像素子119により撮像された画像データと、時間的に関係付けられて記憶されてもよいし、音信号を含む動画として記憶されてもよい。
【0033】
バッファメモリ部130は、撮像部110によって撮像された画像データや、音信号処理部250により変換された音信号等を、一時的に記憶する。
【0034】
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報の書込み、読み出し、あるいは消去を行う。
【0035】
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、例えば、撮像部110によって生成された(撮影された)画像データや、音信号処理部250により音信号処理された音信号を記憶する。
【0036】
CPU190は、撮像装置全体を制御するが、一例としては、ズームエンコーダ115から入力されるズームポジション、および、AFエンコーダ117から入力されるフォーカスポジションと、操作部180から入力される操作入力に基づいて、ズームエンコーダ115およびAFエンコーダ117の位置を制御する駆動制御信号を生成する。CPU190は、この駆動制御信号に基づいて、レンズ駆動部116を介してズームエンコーダ115およびAFエンコーダ117の位置を制御する。
【0037】
また、このCPU190は、タイミング検出部191を備えている。このタイミング検出部191は、撮像装置100が備えている動作部が動作するタイミングを検出する。
【0038】
ここでいう動作部とは、一例としては、上述したズームレンズ114、VRレンズ113、AFレンズ112、または、操作部180のことであり、撮像装置100が備えている構成のうち、動作することにより、または、動作されることにより、音が生じる(または、音が生じる可能性がある)構成である。
【0039】
また、この動作部とは、撮像装置100が備えている構成のうち、動作することにより生じた音、または、動作されることにより生じた音が、マイク230により収音される(または、収音される可能性のある)構成である。
【0040】
このタイミング検出部191は、動作部を動作させる制御信号に基づいて、動作部が動作するタイミングを検出してもよい。この制御信号とは、動作部を動作させる駆動部に対して、動作部を動作させるようにする制御信号、または、この駆動部を駆動させる制御信号である。
【0041】
たとえば、タイミング検出部191は、ズームレンズ114、VRレンズ113、または、AFレンズ112を駆動させるためにレンズ駆動部116または手振れ防止部118に入力される駆動制御信号に基づいて、または、CPU190で生成される駆動制御信号に基づいて、動作部が動作するタイミングを検出してもよい。
また、CPU190が駆動制御信号を生成する場合に、タイミング検出部191は、CPU190内部で実行される処理やコマンドに基づいて、動作部が動作するタイミングを検出してもよい。
また、タイミング検出部191は、操作部180から入力されるズームレンズ114、または、AFレンズ112を駆動させることを示す信号に基づいて、動作部が動作するタイミングを検出してもよい。
【0042】
また、このタイミング検出部191は、動作部が動作されたことを示す信号に基づいて、動作部が動作するタイミングを検出してもよい。
【0043】
たとえば、タイミング検出部191は、ズームエンコーダ115またはAFエンコーダ117の出力に基づいて、ズームレンズ114またはAFレンズ112が駆動されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
また、タイミング検出部191は、手振れ防止部118からの出力に基づいて、VRレンズ113が駆動されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
また、このタイミング検出部191は、操作部180からの入力に基づいて、操作部180が操作されたことを検出することにより、動作部が動作するタイミングを検出してもよい。
【0044】
そして、タイミング検出部191は、撮像装置100が備えている動作部が動作するタイミングを検出し、この検出したタイミングを示す信号を、音信号処理部250に出力する(後述する図2の信号Aを参照)。
【0045】
バス300は、撮像部110と、CPU190と、操作部180と、画像処理部140と、表示部150と、記憶部160と、バッファメモリ部130と、通信部170とに接続され、各部から出力されたデータ等を転送する。
【0046】
<音信号処理部250の詳細な構成>
次に、音信号処理部250の詳細について説明する。音信号処理部250は、区間設定部251と、基準信号決定部252と、信号検出部253と、補間信号検出部254と、信号置換部255と、記録部256と、信号処理部257と、を備えている。
【0047】
ここでは、図1に示すA/D変換部240から入力された音信号の波形(図2の信号Oを参照)と後述の制御信号(図2の信号A、信号B、信号C、信号D、および、信号Eを参照)と、図3に示す後述の第1基準信号を参照しつつ、各構成について説明する。この図2および図3において、横軸は時間軸であり、縦軸は、たとえば、各信号の電圧である。
【0048】
なお、この図2の信号Oに示すように、たとえば、音声に収音した場合の音信号の場合、音声の場合等、数十ミリ秒程度の短い時間内では、図に示すように比較的繰り返し信号が多い。そのため、後述するように、ノイズが重畳する区間の音信号を、他の区間の音信号で置換することが可能である。
【0049】
ここで、タイミング検出部191により検出されたタイミングに対応して、図2においては、信号Aがハイになる。この信号Aとは、たとえば、タイミング検出部191から音信号処理部250に入力される信号であり、動作部が動作している区間を示す信号である。
【0050】
図2の場合、時刻t8から時刻t9の区間において、信号Aがハイとなる。そして、たとえば、この時刻t8から時刻t9の区間において、信号Oには、動作部が動作したことに起因するノイズが重畳(発生)している、または、このノイズが重畳している可能性が高い。
【0051】
なお、図2において、信号Aは、たとえば、タイミング検出部191から音信号処理部250の区間設定部251に出力される信号であり、駆動部が駆動された区間を示す信号である。
信号Bは、たとえば、音信号処理部250の区間設定部251から音信号処理部250の基準信号決定部252に出力される信号であり、音信号(信号O)において、後述するように、動作部が動作している区間を含む第1区間を示す信号である。
【0052】
信号Cは、たとえば、音信号処理部250の基準信号決定部252から音信号処理部250の信号検出部253に出力される信号であり、音信号(信号O)において、後述するように、第1区間に連続する第2区間、すなわち、第1基準信号を示す区間を示す信号である。
【0053】
信号Dは、たとえば、音信号処理部250の信号検出部253から音信号処理部250の補間信号検出部254に出力される信号であって、音信号(信号O)において、後述するように、第1基準信号と最も相関の高い音信号の区間、すなわち、第2基準信号の区間を示す信号である。
【0054】
信号Eは、たとえば、音信号処理部250の補間信号検出部254から音信号処理部250の信号置換部255に出力される信号であって、音信号(信号O)において、後述するように、補間信号の区間を示す信号である。
【0055】
図1の説明に戻り、音信号処理部250が備えている各構成について説明する。
区間設定部251は、タイミング検出部191により検出されたタイミングに基づいて、A/D変換部240から入力された音信号において、動作部が動作している区間を含む第1区間を設定する。
【0056】
たとえば、タイミング検出部191により検出されたタイミング(信号Aがハイとなる区間である時刻t8から時刻t9を参照)に対応して、区間設定部251は、時刻t7から時刻t10の区間を第1区間として設定する(図2の信号Bがハイの区間を参照)。
【0057】
基準信号決定部252は、A/D変換部240から入力された音信号において、第1区間に連続する第2区間に対応する音信号を、第1基準信号とする。たとえば、この基準信号決定部252は、音信号における第1区間の前の、該第1区間に連続する区間を第2区間として、第1基準信号を決定する。
【0058】
この図2の場合、基準信号決定部252は、音信号における第1区間の前、すなわち、時刻t7以前の、該第1区間に連続する区間、たとえば、時刻t5から時刻t7の区間を第2区間とし(図2の信号Cがハイの区間を参照)、この第2区間に対応する音信号を第1基準信号として決定する。
【0059】
図3に、この第1基準信号の一例を例示する。なお、ここでは、第1基準信号として、音信号のほぼ1周期分の波形を例示しているが、この第1基準信号とする周期は任意であり、たとえば、複数の周期の音信号が含まれるようにしてもよいし、1つの周期の音信号の一部であってもよい。
【0060】
なお、後述するように、音信号において、この第1基準信号と相関が最も高い音信号を検出する。そのため、この第1基準信号の区間の時間長としては、第1基準信号と相関が高い音信号を検出することができる程度に長いことが望ましい。なお、ノイズを低減する対象とする音信号が人の音声である場合のように予め定められている場合には、対象とする音信号に応じて、この第1基準信号の区間の時間長は予め設定されていてもよい。
【0061】
図1の音信号処理部250が備えている各構成についての説明に戻り、信号検出部253は、第2区間に対応する音信号を除いた音信号において、第1基準信号と最も相関の高い音信号を第2基準信号として検出する。たとえば、信号検出部253は、音信号における第2区間の前の区間において、第1基準信号と最も相関の高い音信号を第2基準信号として検出する。
【0062】
たとえば、信号検出部253は、音信号における第2区間の前の区間、すなわち、時刻t5よりも前の区間において、第1基準信号と最も相関の高い音信号、たとえばこの場合は、時刻t3から時刻t4の音信号を第2基準信号として検出する(信号Dがハイの区間を参照)。
【0063】
ここで、第2基準信号を検索する区間としては、時刻t5よりも前の区間であればよく、その区間の時間長としては、時刻t5よりも前の音信号全てであってもよいが、第1基準信号と相関が高い音信号は第1基準信号の近傍にある可能性が高いため、第2区間の時間長の数倍から数十倍程度が望ましい。
【0064】
補間信号検出部254は、A/D変換部240から入力された音信号において、信号検出部253により検出された第2基準信号に連続し、且つ第1区間と同じ時間長の音信号を補間信号として検出する。たとえば、この補間信号検出部254は、第2基準信号の後に連続し、且つ第1区間と同じ時間長の音信号を補間信号として検出する。
【0065】
図2の場合、補間信号検出部254は、第2基準信号の後に連続し、且つ第1区間と同じ時間長の音信号として、時刻t4から時刻t6の音信号を補間信号として検出する(信号Eのハイの区間を参照)。
【0066】
信号置換部255は、第1区間の音信号を補間信号で置換する。この場合、信号置換部255は、時刻t7から時刻t10に対応する第1区間の音信号を、時刻t4から時刻t6の音信号である補間信号で置換する。
なお、信号置換部255は、第1区間の音信号を補間信号で置換する場合に、音信号の接続部が連続となるように、クロスフェースドなどを行ってもよい。
【0067】
信号処理部257は、信号置換部255により置換された音信号に対して、SS(Spectral Subtraction)処理またはSNG(Spectral Noise Gating)処理を実行する。
【0068】
なお、上述した区間設定部251により設定される第1区間の時間長は、信号処理部257により実行されるSS処理またはSNG処理の処理単位に対応する区間の整数倍としてもよい。
このようにすることにより、置換された音信号に対してSS処理またはSNG処理する場合に、置換された境界部分のSS処理またはSNG処理に対する影響を減じることができ、そのため、聴感上の違和感を減じることができる。
【0069】
記録部256は、信号置換部255により置換された音信号、または、信号処理部257により処理された音信号を、通信部170を介して記憶媒体200に記録する。この記録部256は、音信号を記憶媒体200に記録する場合に、撮像素子119により撮像された画像データと、時間的に関係付けられるようにして記憶してもよい。
【0070】
次に、図4のフローチャートを用いて、第1実施形態による撮像装置の記録装置が、音信号に対して信号処理する場合の動作について説明する。
【0071】
まず、タイミング検出部191は、撮像装置100が備えている動作部が動作するタイミングを検出する(ステップS1)。
【0072】
次に、区間設定部251は、タイミング検出部191により検出されたタイミングに基づいて、A/D変換部240から入力された音信号において、動作部が動作している区間を含む第1区間を設定する(ステップS2)。
【0073】
次に、基準信号決定部252は、A/D変換部240から入力された音信号において、第1区間に連続する第2区間に対応する音信号を第1基準信号として、第1基準信号を決定する(ステップS3)。
【0074】
次に、信号検出部253は、第2区間に対応する音信号を除いた音信号において、第1基準信号と最も相関の高い音信号を第2基準信号として検出することにより、補間信号の位置を検出する(ステップS4)。たとえば、図2の場合、第2基準信号の終了位置(時刻t4を参照)が、補間信号の開始位置(時刻t4を参照)として検出される。なお、第2基準信号の時間長は、第1基準信号の時間長と同じである。
【0075】
補間信号検出部254は、A/D変換部240から入力された音信号において、信号検出部253により検出された第2基準信号に連続し、且つ第1区間と同じ時間長の音信号を補間信号として検出する。
【0076】
ここで、信号検出部253により検出された第2基準信号は、第1基準信号と相関が高い。そのため、第1基準信号の終了時刻(たとえば、図2の時刻t7)に対応する音信号のレベル(電圧値)と、第2基準信号の終了時刻(たとえば、図2の時刻t4)に対応する音信号のレベルとも相関が高い。
【0077】
そして、音信号のレベルは時刻において連続しているため、第1基準信号の終了時刻(たとえば、図2の時刻t7)に対応する音信号のレベルと、第1区間の開始時刻(たとえば、図2の時刻t7)に対応する音信号のレベルとは、ほぼ同一である。
また、音信号のレベルは時刻において連続しているため、第2基準信号の終了時刻(たとえば、図2の時刻t4)に対応する音信号のレベルと、補間信号の開始時刻(たとえば、図2の時刻t4)に対応する音信号のレベルとは、ほぼ同一である。
【0078】
よって、第1区間の開始時刻(たとえば、図2の時刻t7)に対応する音信号のレベルと、補間信号の開始時刻(たとえば、図2の時刻t4)に対応する音信号のレベルとは、ほぼ同一である。そのため、この第1区間の音信号を、補間信号で置換しても、置換された第1区間の開始時刻に対応する音信号のレベルは、直前の音信号のレベルと同じであり、音信号のレベルが連続となるため、聴感上の違和感が少ない。
【0079】
次に、信号置換部255は、第1区間の音信号を補間信号で置換する(ステップS6)。その後、記録部256は、信号置換部255により置換された音信号、または、信号処理部257により処理された音信号を、記憶媒体200に記録する。
【0080】
以上説明したように、本実施形態の録音装置は、音信号の欠損区間を第1区間とし、この第1区間の音信号と連続している音信号を第1基準信号として、この基準信号と相関の高い音信号である第2基準信号を検出する。そして、この第2基準信号と連続しており、第1区間の音信号と第1基準信号との相対的な位置関係が、第2基準信号に対して同じとなる音信号である補間信号を検出する。そして、この補間信号により、第1区間の音信号、すなわち、欠損区間の音信号を置き換える。
【0081】
この補間信号は、第1区間の音信号と第1基準信号との相対的な位置関係が、第1基準信号と類似している第2基準信号に対して同じである。よって、単なる第1区間の前後の音信号よりも、この補間信号の方が、第1区間の目的音に近い可能性が高い。そして、本実施形態の録音装置は、音信号の欠損区間を、この第1区間の目的音に近い可能性が高い補間信号により置き換えるために、単に、前後の音信号で置き換える場合に対比して、聴感上の違和感を減じることができる。
なお、ここでいう目的音とは、録音された音信号に対して、ノイズが重畳していない理想的な音信号、または、欠損が生じていない理想的な音信号である。
【0082】
なお、図2においては、一例として、信号Aがハイとなる区間に対応して、音信号(信号O)に、動作部が動作したことに起因するノイズが重畳(発生)している、または、このノイズが重畳している可能性が高い、ものとして説明した。
【0083】
ところで、たとえば、操作部180が備えているスイッチが操作されたことに応じてノイズが発生する場合、スイッチが操作されたタイミングと、ノイズが発生するタイミングとは、一致しない場合もありうる。
【0084】
例えば、スイッチが操作されたタイミング、すなわち、スイッチが操作されたことに応じて図2の信号Aがハイとなる区間に対して、ノイズが発生するタイミング、すなわち、図2の信号Oにノイズが生じている区間が長い場合もありうる。
【0085】
しかしながら、スイッチが操作されたことに応じて図2の信号Aがハイとなる区間と、ノイズが発生するタイミング、すなわち、図2の信号Oにノイズが生じている区間との関係は、ほぼ一定となる可能性がある。また、この関係は、上述したズームレンズ114、VRレンズ113、AFレンズ112、または、操作部180などの動作部の種類ごとに、異なる可能性がある。
【0086】
そこで、動作部の種類毎に、その動作部が動作したことを示す区間と、実際に、音信号においてノイズが生じる区間との時間関係を、予め記憶部160に記憶しておく。この時間関係は、予め実際に測定されたものであってもよいし、シミュレーションにより予め求められていてもよい。
【0087】
そして、区間設定部251は、タイミング検出部191により検出されたタイミングに基づいて、A/D変換部240から入力された音信号において、動作部が動作している区間を含む第1区間を設定する場合に、次のようにしてもよい。
【0088】
まず、タイミング検出部191は、撮像装置100が備えている動作部が動作するタイミングを検出し、この検出したタイミングとともに、動作部の種類を示す情報を、区間設定部251に出力する。
【0089】
区間設定部251は、動作部の種類に応じた時間関係を記憶部160から読み出す。そして、区間設定部251は、読み出した時間関係と、タイミング検出部191により検出されたタイミングに基づいて、A/D変換部240から入力された音信号において、動作部が動作している区間を含む第1区間を設定する。
【0090】
このようにすることにより、動作部が動作したことを示す区間と、実際に、音信号においてノイズが生じる区間とが、必ずしも一致しない場合であっても、区間設定部251は、動作部が動作している区間を含む第1区間であって、実際にノイズが生じている可能性の高い第1区間を、適切に設定することができる。
【0091】
<第2実施形態>
上述した第1実施形態においては、区間設定部251により設定された第1区間よりも前の音信号において、補間信号を検出し、この補間信号により第1区間の音信号を置き換えた。
これに対して、第2実施形態においては、区間設定部251により設定された第1区間よりも後の音信号において、補間信号を検出し、この補間信号により第1区間の音信号を置き換える。
【0092】
この第2実施形態の場合、基準信号決定部252、信号検出部253、および、補間信号検出部254は、以下のように変更される。なお、各実施形態の説明においては、第1実施形態との相違点についてのみ説明する。
【0093】
基準信号決定部252は、音信号における第1区間の後の、該第1区間に連続した第3区間に対応する音信号を第3基準信号として決定する。
【0094】
信号検出部253は、音信号における第3区間の後の区間において、第3基準信号と最も相関の高い音信号を第4基準信号として検出する。
【0095】
補間信号検出部254は、第4基準信号の前に連続し、且つ第1区間と同じ時間長の音信号を補間信号として検出する。
【0096】
この第2実施形態により検出される補間信号は、第1実施形態により検出される補間信号と同様に、第1区間の音信号と第3基準信号との相対的な位置関係が、第3基準信号と類似している第4基準信号に対して同じである。そのため、第1区間の前後の音信号よりも、この補間信号の方が、第1区間の目的音に近い可能性が高い。
【0097】
そして、この第2実施形態においても、第1実施形態の場合と同様の補間信号により、第1区間の音信号、すなわち、欠損区間の音信号を置き換える。
そのため、第2実施形態による録音装置も、第1実施形態による録音装置と同様に、音信号の欠損区間を、単に、前後の音信号で置き換える場合に対比して、聴感上の違和感を減じることができる。
【0098】
<第3実施形態>
上述した第1実施形態においては、区間設定部251により設定された第1区間よりも前の音信号において補間信号を検出し、第2実施形態においては、区間設定部251により設定された第1区間よりも後の音信号において、補間信号を検出した。
【0099】
第3実施形態では、これら2つの補間信号を組み合わせて(合成して)、補間信号を生成し、この生成した補間信号に基づいて、第1区間の音信号、すなわち、欠損区間の音信号を置き換える。この2つの補間信号を組み合わせる(合成する)方法の一例について、次に、第1例から第5例の場合について説明する。
【0100】
ここでは、上述した第1実施形態により検出された補間信号であって、区間設定部251により設定された第1区間よりも前の音信号において検出された補間信号を、「第2基準信号に基づく補間信号」として説明する。
【0101】
また、第2実施形態により検出された補間信号であって、区間設定部251により設定された第1区間よりも後の音信号において検出された補間信号を、「第4基準信号に基づく補間信号」として説明する。
【0102】
また、信号検出部253により検出される第2基準信号と第1基準信号との相関係数を「第1相関係数」とし、信号検出部253により検出される第4基準信号と第3基準信号との相関係数を「第2相関係数」として、説明する。
【0103】
(第1例)
第3実施形態の第1例において、信号置換部255は、A/D変換部240から入力された音信号において、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを平均した補間信号で置換する。
【0104】
上記構成により、この第3実施形態の第1例においては、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを平均した補間信号で置換する。
【0105】
この第3実施形態の第1例による補間信号は、第2基準信号に基づく補間信号または第4基準信号に基づく補間信号、すなわち、第1実施形態による補間信号または第2実施形態による補間信号に対比して、2つの補間信号を平均しているために、更に、第1区間の音信号(目的音)に近い可能性が高い。
【0106】
そのため、第1区間の音信号を、第2基準信号に基づく補間信号または第4基準信号に基づく補間信号の一方のみで置換する第1実施形態または第2実施形態に対比して、この2つの補間信号を平均した補間信号で置換する第3実施形態の第1例は、更に、聴感上の違和感を減じることができる。
【0107】
(第2例)
第3実施形態の第2例において、信号置換部255は、A/D変換部240から入力された音信号において、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを第1相関係数と第2相関係数とで重み付けして平均した補間信号で置換する。
【0108】
上記構成により、この第3実施形態の第2例においては、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを、単に平均するのではなく、それぞれの相関係数である第1相関係数と第2相関係数とで重み付けして平均した補間信号で置換する。
【0109】
この2つの補間信号を第1相関係数と第2相関係数とで重み付けして平均した補間信号は、2つの補間信号を単に平均した補間信号よりも、更に、第1区間の音信号(目的音)に近い可能性が高い。
【0110】
そのため、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを、単に平均した補間信号で置換する第3実施形態の第1例に対比して、ここで説明した第3実施形態の第2例は、更に、聴感上の違和感を減じることができる。
【0111】
(第3例)
第3実施形態の第3例において、信号置換部255は、第1相関係数が第2相関係数以上である場合には、第1区間の音信号を第2基準信号に基づく補間信号で置換し、第1相関係数が第2相関係数よりも小さい場合には、第1区間の音信号を第4基準信号に基づく補間信号で置換する。
【0112】
上記構成により、この第3実施形態の第3例においては、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とのうち、相関係数が大きい方の補間信号で置換する。
【0113】
この第3実施形態の第3例による補間信号は、第2基準信号に基づく補間信号または第4基準信号に基づく補間信号のうち、相関係数が大きい補間信号である。そのため、第2基準信号に基づく補間信号または第4基準信号に基づく補間信号、すなわち、第1実施形態による補間信号または第2実施形態による補間信号のうち、単に、いずれか一方に対比して、ここで説明した第3実施形態の第3例による補間信号は、更に、第1区間の音信号(目的音)に近い可能性が高い。
【0114】
そのため、第1区間の音信号を、第2基準信号に基づく補間信号または第4基準信号に基づく補間信号で置換する第1実施形態または第2実施形態に対比して、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とのうち、相関係数が大きい方の補間信号で置換する第3実施形態の第3例は、更に、聴感上の違和感を減じることができる。
【0115】
(第4例)
第3実施形態の第3例において、信号置換部255は、第1相関係数が第2相関係数以上であり、かつ、第1相関係数と第2相関係数との差が予め定められている第1閾値よりも大きい場合には、第1区間の音信号を第2基準信号に基づく補間信号で置換する。
【0116】
また、この信号置換部255は、第1相関係数が第2相関係数よりも小さく、かつ、第2相関係数と第1相関係数との差が上述の第1閾値よりも大きい場合には、第1区間の音信号を第4基準信号に基づく補間信号で置換する。
【0117】
また、この信号置換部255は、上記2つの場合以外の場合には、音信号において、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを平均した補間信号で置換する。
【0118】
この第3実施形態の第4例による補間信号は、第1相関係数と第2相関係数との差が、第1閾値よりも大きい場合、すなわち、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とのち、いずれか1方のみが補間信号として適切である可能性が高い場合には、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とのうち、相関係数が大きい方の補間信号で置換する。この場合には、上述した第3実施形態の第3例の場合と同様の効果を奏する。
【0119】
そして、第1相関係数と第2相関係数との差が、第1閾値以下である場合、すなわち、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とのち、両方が補間信号として適切である可能性が高い場合には、第1区間の音信号を、両方を平均した補間信号で置換する。この場合には、上述した第3実施形態の第1例の場合と同様の効果を奏する。
【0120】
よって、第3実施形態の第4例によれば、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とのち、いずれか1方のみが補間信号として適切である可能性が高い場合と、両方が補間信号として適切である可能性が高い場合とのいずれの場合であっても、それぞれの場合に適した補間信号により、第1区間の音信号を置換することができる。
そのため、第3実施形態の第4例によれば、上述したいずれの場合であっても、聴感上の違和感を減じることができる。
【0121】
(第5例)
上述した第3実施形態の第4例に対して、第3実施形態の第5例における信号置換部255は、A/D変換部240から入力された音信号において、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを平均した補間信号で置換する場合に、A/D変換部240から入力された音信号において、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを第1相関係数と第2相関係数とで重み付けして平均した補間信号で置換する。
【0122】
これにより、上述した第3実施形態の第4例で、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号と両方が補間信号として適切である可能性が高い場合、上述した第3実施形態の第1例に対する第2例の場合と同様の効果を奏する。
【0123】
すなわち、第1区間の音信号を、第2基準信号に基づく補間信号と第4基準信号に基づく補間信号とを、単に平均した補間信号で置換する第3実施形態の第4例に対比して、それぞれの相関係数とで重み付けして平均した補間信号で置換するため、更に、聴感上の違和感を減じることができる。
【0124】
以上説明した第1実施形態から第3実施形態、および、第3実施形態の第1例から第5例のいずれの場合においても、本実施形態の録音装置は、音信号の欠損区間(第1区間)の音信号を、この音信号の欠損区間(第1区間)の目的音に近い可能性が高い補間信号により置き換える。そのために、単に、前後の音信号で置き換える場合に対比して、聴感上の違和感を減じることができる。
【0125】
なお、図2を用いた説明において、第2基準信号を検索する区間としては、時刻t5よりも前の区間であればよく、その区間の時間長としては、時刻t5よりも前の音信号全てであってもよいが、第1基準信号と相関が高い音信号は第1基準信号の近傍にある可能性が高いため、第2区間の時間長の数倍から数十倍程度が望ましいとして説明した。
この検索する期間としては、たとえば、上述した第1相関係数を用いて、次のようにして、動的に設定されてもよい。
【0126】
たとえば、第1実施形態のように、区間設定部251により設定された第1区間よりも前の音信号において補間信号を検出する場合には、音信号において、設定された第1区間から前の方向に、すなわち、設定された第1区間から遠ざかる方向に、順に、第1相関係数を算出していく。
【0127】
そして、第1相関係数の極大値が、たとえば順に増大していき、減少し始めたら、この減少し始めた直前の極大値に対応する音信号の区間を、上述した第2基準信号として決定する。このようにすることにより、第2基準信号を検索する区間を予め設定する必要がないばかりでなく、少ない検索回数で、より適切な第2基準信号を検索することができる。
【0128】
ここでいう第1相関係数の極大値とは、たとえば、図2の時刻t3からt4に対する第1相関係数、および、時刻t1からt2に対する第1相関係数のことである。
【0129】
ここでは、第1実施形態のように、区間設定部251により設定された第1区間よりも前の音信号において補間信号を検出する場合について説明した。しかし、第2実施形態のように、区間設定部251により設定された第1区間よりも後ろの音信号において補間信号を検出する場合も、第1実施形態の場合と同様に、音信号において、設定された第1区間から後の方向に、すなわち、設定された第1区間から遠ざかる方向に、順に、第2相関係数を算出する。
【0130】
そして、この算出した第2相関係数に基づいて、第1実施形態の場合と同様に、上述した第3基準信号を決定する。このようにすることにより、第3基準信号を検索する区間を予め設定する必要がないばかりでなく、少ない検索回数で、より適切な第3基準信号を検索することができる。
【0131】
なお、ここで図2を用いて説明したように、区間設定部251により設定された第1区間よりも前の音信号において、補間信号を検出する場合に、図2の時刻t3からt4に対する音信号、または、時刻t1からt2に対する音信号のように、第1相関係数が極大となる複数の音信号が、第2基準信号の候補として検出される可能性がある。
【0132】
このように、複数の第2基準信号の候補が存在する場合、補間信号検出部254は、複数の第2基準信号に基づいて検出される補間信号、すなわち補間信号の候補のうち、上述したように、単に、第1相関係数が最も高い補間信号の候補を、補間信号として選択してもよい。
【0133】
また、信号検出部253は、この複数の補間信号の候補を、第3実施形態において説明した第2基準信号に基づく補間信号および第4基準信号に基づく補間信号として、上述した第3実施形態の第1例から第5例と同様に、複数の補間信号の候補を組み合わせて(合成して)、補間信号を生成してもよい。
【0134】
このようにすることにより、第3実施形態の第1例から第5例の場合と同様に、信号検出部253は、より適切な補間信号を検出することができる。そのために、更に、音信号における聴感上の違和感を減じることができる。
【0135】
また、図2に示すような、設定された第1区間よりも前の音信号において補間信号を検出する第1実施形態の場合と同様に、設定された第1区間よりも後の音信号において補間信号を検出する第2実施形態においても、信号検出部253は、同様に、複数の補間信号の候補を組み合わせて(合成して)、補間信号を生成してもよい。
【0136】
なお、上記の説明においては、音信号処理部250が、マイク230により収音された音信号に対して信号処理する場合について説明したが、本実施形態による上述した音信号処理部250の処理は、このようにリアルタイムに収音された音信号に対してのみ適用されるものではない。
【0137】
たとえば、既に録音されている音信号に対しても、この音信号と関連付けて、この音信号を録音した装置が備えている動作部が動作することを示すタイミングが、たとえば、記憶媒体200などの記憶部に記録されている場合にも、本実施形態による音信号処理部250は、上述した信号処理を同様に、実行することができる。
【0138】
なお、図1における音信号処理部250、または、この音信号処理部250が備える各部は、専用のハードウェアにより実現されるものであってもよく、また、メモリおよびマイクロプロセッサにより実現させるものであってもよい。
【0139】
なお、この音信号処理部250、または、この音信号処理部250が備える各部は、専用のハードウェアにより実現されるものであってもよく、また、この音信号処理部250、または、この音信号処理部250が備える各部はメモリおよびCPU(中央演算装置)により構成され、音信号処理部250、または、この音信号処理部250が備える各部の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。
【0140】
また、図1における音信号処理部250、または、この音信号処理部250が備える各部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、音信号処理部250、または、この音信号処理部250が備える各部による処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0141】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0142】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0143】
110…撮像部、111…光学系、191…タイミング検出部、251…区間設定部、252…基準信号決定部、253…信号検出部、254…補間信号検出部、255…信号置換部、256…記録部、257…信号処理部

【特許請求の範囲】
【請求項1】
音信号が入力される入力部と、
動作部が動作するタイミングを検出するタイミング検出部と、
前記タイミング検出部により検出されたタイミングに基づいて、前記音信号において前記動作部が動作している区間を含む第1区間を設定する区間設定部と、
前記音信号において、前記第1区間に連続する第2区間に対応する前記音信号を、第1基準信号とする基準信号決定部と、
前記音信号において、前記第1基準信号と最も相関の高い音信号を第2基準信号として検出する信号検出部と、
前記音信号において、前記信号検出部により検出された前記第2基準信号に連続し、且つ前記第1区間と同じ時間長の音信号を補間信号として検出する補間信号検出部と、
前記第1区間の音信号を前記補間信号で置換する信号置換部と、
前記信号置換部により置換された音信号を記録する記録部と、
を備えることを特徴とする録音装置。
【請求項2】
前記基準信号決定部は、前記音信号における前記第1区間の前の、該第1区間に連続する区間を前記第2区間として前記第1基準信号を決定し、
前記信号検出部は、前記音信号における前記第2区間の前の区間において、前記第1基準信号と最も相関の高い音信号を前記第2基準信号として検出し、
前記補間信号検出部は、前記第2基準信号の後に連続する前記音信号を前記補間信号として検出する、
ことを特徴とする請求項1に記載の録音装置。
【請求項3】
前記基準信号決定部は、前記音信号における前記第1区間の後の、該第1区間に連続した第3区間に対応する前記音信号を第3基準信号として決定し、
前記信号検出部は、前記音信号における前記第3区間の後の区間において、前記第3基準信号と最も相関の高い音信号を第4基準信号として検出し、
前記補間信号検出部は、前記第4基準信号の前に連続し、且つ前記第1区間と同じ時間長の音信号を前記補間信号として検出する、
ことを特徴とする請求項2に記載の録音装置。
【請求項4】
前記信号置換部は、
前記音信号において、前記第1区間の音信号を、前記第2基準信号に基づく補間信号と前記第4基準信号に基づく補間信号とを平均した補間信号で置換する、
ことを特徴とする請求項3に記載の録音装置。
【請求項5】
前記信号検出部により検出される前記第2基準信号と前記第1基準信号との相関係数を第1相関係数とし、
前記信号検出部により検出される前記第4基準信号と前記第3基準信号との相関係数を第2相関係数とし、
前記信号置換部は、
前記音信号において、前記第1区間の音信号を、前記第2基準信号に基づく補間信号と前記第4基準信号に基づく補間信号とを前記第1相関係数と前記第2相関係数とで重み付けして平均した補間信号で置換する、
ことを特徴とする請求項3に記載の録音装置。
【請求項6】
前記信号検出部により検出される前記第2基準信号と前記第1基準信号との相関係数を第1相関係数とし、
前記信号検出部により検出される前記第4基準信号と前記第3基準信号との相関係数を第2相関係数とし、
前記信号置換部は、
前記第1相関係数が第2相関係数以上である場合には、前記第1区間の音信号を前記第2基準信号に基づく補間信号で置換し、
前記第1相関係数が第2相関係数よりも小さい場合には、前記第1区間の音信号を前記第4基準信号に基づく補間信号で置換する、
ことを特徴とする請求項3に記載の録音装置。
【請求項7】
前記信号検出部により検出される前記第2基準信号と前記第1基準信号との相関係数を第1相関係数とし、
前記信号検出部により検出される前記第4基準信号と前記第3基準信号との相関係数を第2相関係数とし、
前記信号置換部は、
前記第1相関係数が第2相関係数以上であり、かつ、前記第1相関係数と第2相関係数との差が予め定められている閾値よりも大きい場合には、前記第1区間の音信号を前記第2基準信号に基づく補間信号で置換し、
前記第1相関係数が第2相関係数よりも小さく、かつ、前記第2相関係数と第1相関係数との差が前記閾値よりも大きい場合には、前記第1区間の音信号を前記第4基準信号に基づく補間信号で置換し、
上記以外の場合には、前記音信号において、前記第1区間の音信号を、前記第2基準信号に基づく補間信号と前記第4基準信号に基づく補間信号とを平均した補間信号で置換する、
ことを特徴とする請求項3に記載の録音装置。
【請求項8】
前記信号置換部は、
前記音信号において、前記第1区間の音信号を、前記第2基準信号に基づく補間信号と前記第4基準信号に基づく補間信号とを平均した補間信号で置換する場合に、
前記音信号において、前記第1区間の音信号を、前記第2基準信号に基づく補間信号と前記第4基準信号に基づく補間信号とを前記第1相関係数と前記第2相関係数とで重み付けして平均した補間信号で置換する、
ことを特徴とする請求項7に記載の録音装置。
【請求項9】
前記信号置換部により置換された音信号に対して、SS(Spectral Subtraction)処理またはSNG(Spectral Noise Gating)処理を実行する信号処理部、
を備えていることを特徴とする請求項1から請求項8のいずれか1項に記載の録音装置。
【請求項10】
前記区間設定部により設定される前記第1区間は、前記信号処理部により実行されるSS処理またはSNG処理の処理単位に対応する区間の整数倍である、
ことを特徴とする請求項9に記載の録音装置。
【請求項11】
前記タイミング検出部は、
前記動作部を起動させるスイッチが操作されたことに応じて出力される信号に基づいて、前記タイミングを検出する、
ことを特徴とする請求項1から請求項10のいずれか1項に記載の録音装置。
【請求項12】
請求項1から請求項11のいずれか1項に記載の録音装置と、
光学系からの像を撮像する撮像部と、
を備えることを特徴とする撮像装置。
【請求項13】
コンピュータに、
音信号とともに、当該音信号を録音した装置が備えている動作部が動作することを示すタイミングを入力させる入力手順と、
前記入力されたタイミングに基づいて、前記音信号において前記動作部が動作している区間を含む第1区間を設定する区間設定手順と、
前記音信号において、前記第1区間に連続する第2区間に対応する前記音信号を、第1基準信号とする基準信号決定手順と、
前記音信号において、前記第1基準信号と最も相関の高い音信号を第2基準信号として検出する信号検出手順と、
前記音信号において、前記信号検出手順により検出された前記第2基準信号に連続し、且つ前記第1区間と同じ時間長の音信号を補間信号として検出する補間信号検出手順と、
前記第1区間の音信号を前記補間信号で置換する信号置換手順と、
を実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate