説明

撮影装置

【課題】撮影中に撮影フレームレートを切り替えて撮影でき、再生した場合には、通常スピード映像とスローモーション映像とが切り替わったとしても明るさを保ったまま、且つ、スロー再生映像の画質が低下することのない再生映像が得られるように撮影する。
【解決手段】通常のフレームレートで撮影中に、高速撮影に切り替えて撮影する場合に、切り替え前に、高速撮影時に確保できる露光時間であっても切り替え前と同等の露光量を確保できるような絞りと、高速撮影時に確保できる露光時間とに遷移させておくことで、速やかに切り替えができ、且つ、切り替え時の再生画面がシームレスとなるような映像を撮影する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画像を所定のフレームレートで撮影する撮影装置に関し、特に、撮影途中でフレームレートを変更して撮影する場合の撮影技術に関する。
【背景技術】
【0002】
従来から、動画像を撮影する場合、撮影時のフレームレート(以下、「撮影フレームレート」という。)を変えて撮影することが行われている。
例えば、通常よりも高いレートでの撮影である高速度撮影を行い、再生時には通常のフレームレートで再生することで、スローモーション映像を作り出すことができる。
ここで、動画像を撮影している途中で撮影フレームレートを変えて撮影する撮影装置がある(特許文献1)。この装置は、通常のフレームレートでの撮影中に、装置外部から所定のトリガ信号が入力されると高フレームレートでの高速撮影を行うものであり、フレームレートに応じて撮像素子の信号電荷出力周期を変更して画像を記録する。
【0003】
従って、この装置で撮影した映像を再生した場合には、通常のフレームレートでの撮影映像から高フレームレートでの撮影映像へと、すなわち、通常スピードの動画からスローモーションの動画へと繋ぎ目無く連続して再生される。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−87630号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、この撮影装置では、高フレームレートで撮影する場合は、通常のフレームレートで撮影する場合に比べて撮像素子の信号電荷出力周期が短いため露光時間が短くなり、露光量が小さく映像信号レベルが低下してしまう。
従って、再生した場合に、高フレームレートで撮影した映像は、通常のフレームレート
で撮影した映像に比べて暗くなってしまうという欠点が生ずる。
【0006】
また、映像信号レベルの低下を、信号を増幅することで補おうとした場合には、同時にノイズも増幅され再生時の画質が低下してしまうという不都合が生じ得る。
そこで、本発明は、撮影中に撮影フレームレートを切り替えて撮影でき、再生した場合には、通常スピード映像とスローモーション映像とが切り替わったとしても明るさを保ったまま、且つ、スロー再生映像の画質が低下することのない再生映像が得られるように撮影することができる撮影装置の提供を目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するために、本発明に係る撮影装置は、入射光の光電変換により電荷を蓄積する撮像素子から信号を読み出して、所定のフレームレートで、画像フレームを順次出力する撮像手段と、前記撮像手段で、画像フレームを順次出力しているときにフレームレートを変更するフレームレート変更手段と、前記入射光の量を定める絞りの度合いを変更する絞り調整手段と、前記入射光を光電変換した電荷を蓄積する時間である露光時間を変更する露光時間調整手段と、変更後のフレームレートで撮影した場合の画像フレーム毎の蓄積電荷の総量と、変更前のフレームレートで撮影した画像フレーム毎の蓄積電荷の総量とが同程度となるように、変更後の絞りの度合いを決定する決定手段と、前記フレームレート変更手段で、フレームレートを変更する前に、変更前の絞りの度合いから前記決定手段で決定した変更後の絞りの度合いになるまで、前記絞り調整手段に絞りの度合いを遷移させると共に、前記露光時間調整手段に、フレーム毎の蓄積電荷の総量が変更前の画像フレーム毎の蓄積電荷の総量と同程度となるように、絞りの度合いに応じて露光時間を遷移させる制御手段とを備えることを特徴とする。
【発明の効果】
【0008】
上記構成の撮影装置は、実際にフレームレートを切り替える前に、露光量を保ったままで、変更後のフレームレートに対応した露光時間と絞りとに移行しておくので、フレームレートの切り替えの前後で1フレーム当たりの露光量を保つことが可能となる。
具体的には、本撮影装置は、フレームレートの切り替え前後の1フレーム当たりの露光量が同程度となるように、すなわち、撮影結果として得られる映像を再生した場合に、再生画像の明るさ(輝度)が、フレームレート切り替え前後で視覚的に変化していると認知されない範囲に収まるように、絞りと露光時間とを遷移させる。
【0009】
従って、フレームレートを途中で変えて撮影した映像を再生したとしても、露光量の変動が少ないので、画面が暗くならずにスムーズな再生が可能となる。
また、前記撮影装置は、更に、画像フレームを順次出力しているときに、自装置外部からフレームレートの変更の指示を取得する指示取得手段備え、前記決定手段は、前記指示取得手段で指示を取得したときに、変更後の絞りの度合いを決定し、前記制御手段は、前記指示取得手段で指示を取得したときから、フレームレートを変更する前に、前記絞り調整手段と前記露光時間調整手段に絞りの度合いと露光時間とを遷移させることとしてもよい。
【0010】
これにより、ユーザからの準備の指示を取得してから絞りと露光時間とを遷移させ、フレームレートを実際変更する前に絞りと露光時間とが遷移しているので、 フレームレートの切り替えを速やかに行うことが可能となる。
すなわち、ユーザからフレームレートの変更指示があってから絞りと露光時間とを調整してからフレームレートを切り替える場合と比べて、ユーザからの指示後速やかにフレームレートの切り替えが成されるので、シャッターチャンスを逃すことがなくなるという利点がある。
【0011】
また、前記決定手段は、更に、変更後のフレームレートに基づいて露光時間を決定し、変更後の露光時間が変更前の露光時間の1/a倍となるように決定した場合には、絞りの開口面積が変更前の概ねa倍となるように絞りの度合いを決定し、前記制御手段は、前記露光時間調整手段に、露光時間を前記決定手段で決定した露光時間になるまで遷移させることとしてもよい。
【0012】
これにより、変更後のフレームレートに基づいた露光時間、すなわち、変更後のフレームレートでフレーム毎に取り得る時間内で露光時間が決定され、それに応じた絞りの度合いが決定されるので、切り替えの前後での1フレーム当たりの露光量を保つことが可能となる。
また、前記制御手段は、更に、前記フレームレート変更手段で、変更後のフレームレートから変更前のフレームレートと同じフレームレートに再度変更する場合は、当該変更後に、前記変更後の絞りの度合いから前記変更前の絞りの度合いになるまで、前記絞り調整手段に絞りの度合いを遷移させると共に、前記露光時間調整手段に、フレーム毎の蓄積電荷の総量が変更前の画像フレーム毎の蓄積電荷の総量と同程度となるように、絞りの度合いに応じて露光時間を遷移させることとしてもよい。
【0013】
これにより、フレームレートを変更前のフレームレートに戻したときに、露光量を保ったままで、変更前のフレームレートに対応した露光時間と絞りとに遷移するので、フレームレートの切り替えの前後で1フレーム当たりの露光量を保つことが可能となり、画面が急に明るくならずにスムーズな再生が可能となる。
また、前記変更後のフレームレートは、変更前のフレームレートより高いレートであり、前記撮影装置は、更に、記録の指示を取得する記録指示取得手段と、
変更後のフレームレートで出力された画像フレームから、変更前のフレームレートで出力された画像フレームに変換する変換手段と、前記撮像手段で出力される画像フレームを記憶する記憶手段であって、前記フレームレート変更手段で、フレームレートを変更した後に、前記記録指示取得手段で指示を取得した場合は、当該指示の前後所定数分の画像フレームを記憶し、前記指示の前後の所定数分以外の画像フレームは、前記変換手段で変換して記憶する記憶手段とを備えることとしてもよい。
【0014】
これにより、指定した時の前後の所定数のフレームのみが、変更後の高フレームレートで記録されるので、映像全体の記憶容量を抑えることができ、且つ、所望部分は高フレームレートで記録することが可能となる。
また、本発明に係る撮影装置は、入射光の光電変換により電荷を蓄積する撮像素子から信号を読み出して、所定のフレームレートで、画像フレームを順次出力する撮像手段と、前記撮像手段で、画像フレームを順次出力しているときにフレームレートを変更するフレームレート変更手段と、前記入射光の量を定める絞りの度合いを変更する絞り調整手段と、前記入射光を光電変換した電荷を蓄積する時間である露光時間を変更する露光時間調整手段と、露光時間を変更後のフレームレートで撮影した場合の1画像フレーム当たりの蓄積電荷の総量と、変更前のフレームレートで撮影した画像フレーム毎の蓄積電荷の総量とが同程度となるように、変更後の絞りの度合いを決定する決定手段と、前記フレームレート変更手段で、フレームレートを変更したときから、変更前の絞りの度合いから前記決定手段で決定した変更後の絞りの度合いになるまで、前記絞り調整手段に絞りの度合いを遷移させる制御手段とを備えることとしてもよい。
【0015】
これにより、フレームレートを変更した後に、変更後のフレームレートに応じて決定した絞りの度合いと露光時間とに移行するので、速やかな変更が可能となる。すなわち、従来の自動露出による移行ではなく、フレームレート変更後の絞りを決定し、その決定した絞りに変更するからであり、決定した絞り絞りを変更する時間のみが、移行に必要な時間となるからである。
【図面の簡単な説明】
【0016】
【図1】本発明の撮影装置1の外観を示す図である。
【図2】高速撮影に関係するボタン及びスイッチを示す図である。
【図3】撮影装置1の構成を示す機能ブロック図である。
【図4】n画素混合方式と間引き方式を示す図である。
【図5】準備期間を設けた高速撮影方法を示す図である。
【図6】フレームレートを切り替える場合に、準備期間の無い場合と準備期間の有る場合の蓄積電荷を示す図である。
【図7】露光時間を変更する必要が無い場合と、変更の必要が有る場合とを示す図である。
【図8】絞りで調整ができない場合の高速撮影方法を示す図である。
【図9】ノイズを付加する場合の高速撮影方法を示す図である。
【図10】準備期間無しの高速撮影方法を示す図である。
【図11】絞りと増幅率の調整を示す図である。
【図12】通常撮影から高速撮影には直に切り替わるが、高速撮影から通常撮影に戻るときは徐々に戻す方法を示す図である。
【図13】通常撮影から高速撮影への切り替えに時間を要してもよい場合の方法を示す図である。
【図14】通常撮影及び高速撮影の処理を表すフローチャートである。
【図15】高速撮影準備有りモードでの高速撮影の処理を表すフローチャートである。
【図16】高速撮影準備無しモードでの高速撮影の処理を表すフローチャートである。
【図17】準備期間有りモードにおける、通常撮影から高速撮影への切り替え時の絞り・露光時間のタイムチャートを示す図である。
【図18】絞り・露光時間の移行処理のフローチャートである。
【図19】図19(a)は、光量の変化を示すタイムチャートであり、図19(b)は、フレームレートと絞りの増分との対応表101である。
【図20】絞り目標値を求める処理のフローチャートである。
【図21】準備期間無しモードにおける、通常撮影から高速撮影への切り替え時の絞り・露光時間のタイムチャートを示す図である。
【図22】高速撮影から通常撮影への切り替え時の絞り・露光時間のタイムチャートを示す図である。
【図23】通常撮影から高速撮影に切り替えて、高速撮影の映像の一部を記録する方法を示す図である。
【図24】映像の記録方法を示す図である。
【図25】第3トリガ前のTmax期間の高速フレームを記録する方法を示す図である。
【図26】第3トリガ後のTmax期間の高速フレームを記録する例を説明する図である。
【図27】撮影装置1の録画処理のフローチャートである。
【図28】高速撮影録画処理のフローチャートである。
【図29】フレームレート切り替え時のフレームの生成方法を示す図である。
【図30】絞り補正方式をゲイン補正方式に変えた場合を示す図である。
【図31】間引き方式で撮影した映像データを再生する場合の方法を示す図である。
【図32】間引き補完処理の流れを示す図である。
【図33】間引き補完プロセスを示す図である。
【図34】間引き補完プロセスを示す図である。
【図35】ズーム時の間引き補完プロセスを示す図である。
【図36】間引き画像の位置合わせを示す図である。
【発明を実施するための形態】
【0017】
<実施形態1>
<概要>
本発明に係る撮影装置は、撮影フレームレートの変更前の1フレームあたりの露光量と
、変更後の1フレームあたりの露光量とを概ね同じとすることで、記録する映像信号の信号レベルの変動を防ごうとするものである。
【0018】
撮影フレームレートを切り替えたときに露光量を変えないためには、露光時間を変えなければ良いが、撮影フレームレートによって1フレームに割り当てることができる最大の露光時間が決められてしまうので、必要な露光時間を確保できない場合がある。
この場合、撮影フレームレートの切り替え時に、増幅率を上げるゲイン調整や、絞りを開く絞りの調整で対処することが考えられるが、ゲイン調整の場合はノイズの急上昇が予想され、再生画面の画質を低下させる可能性があり、また、絞りを調整する場合は、絞りは機械的に行われることから時間を要し、シャッターチャンスを逃してしまう可能性がある。
【0019】
そこで、本発明では、撮影フレームレートの切り替えを行う前に、準備期間を設けることで、通常フレームレートでの撮影(以下、「通常撮影」という。)から高フレームレートでの撮影(以下、「高速撮影」という。)への移行を速やかに行い、且つ、再生映像の明るさが大きく変化すること、及び、画質が低下することが無いようにするものである。尚、本撮影装置では、準備期間を設けることができない場合、例えば、すぐに高速撮影する場合にも、準備期間を設けた場合とほぼ同様な再生ができるような対処を行っている。
【0020】
以下、本発明の実施形態における撮影装置について、図面を用いて説明する。
フレームレートの切り替えがあっても、再生時には、切り替え前後の映像が滑らかに移り変わるような映像のことを、以下、シームレスな映像ともいうものとする。また、断りが無ければ、通常撮影のフレームレートは60fps(frame per second)、高速撮影のフレームレートは180fpsとする。
【0021】
<撮影装置の外観及び操作手順>
まず、本発明に係る撮影装置の外観と、高速撮影する場合の操作手順を説明する。
図1は、本発明の撮影装置1の外観を示す図である。
図1の上段の図は、撮影装置1の斜視図であり、図1の下段の図は、撮影装置1の背面図である。
【0022】
撮影装置1には、撮影ボタン2、電源スイッチ3、高速撮影モードスイッチ4、モードダイヤル5、レンズ6、ピント露出固定ボタン7、機能ボタン8、機能ボタン上9、機能ボタン右11、機能ボタン下13、機能ボタン左12、決定ボタン10、表示ボタン14、キャンセルボタン15と高速撮影スイッチ16及び液晶モニタ17が備わっている。
高速撮影に関係する撮影ボタン2、高速撮影モードスイッチ4、高速撮影スイッチ16の機能を、図2を用いて以下に説明する。
【0023】
図2は、高速撮影に関係するボタン及びスイッチを示す図である。
第1段目は、撮影ボタン2、高速撮影モードスイッチ4、高速撮影スイッチ16を上から見た図であり、第2段目から第4段目は、それぞれ、撮影ボタン2及び高速撮影スイッチ16が、押されていない状態、半押しの状態、全押しの状態を示す図である。尚、ここでは、撮影ボタン2と高速撮影スイッチ16それぞれの状態を示しており、撮影ボタン2と高速撮影スイッチ16は連動して半押し状態等になるのではない。
【0024】
また、左列は、高速撮影モードスイッチ4が「OFF」の状態を示し、右列は、「ON」の状態を示す図である。高速撮影モードスイッチ4の突起4aが、高速撮影スイッチ16側になっている状態が「ON」の状態である。
撮影ボタン2は、通常撮影を行う場合に使用するボタンであり、全押し状態で撮影装置1は撮影を開始し、押してない状態に戻したときに撮影を終了する。
【0025】
高速撮影モードスイッチ4は、準備期間を設けた高速撮影を行うことを設定するスイッチである。
また、高速撮影スイッチ16は、実際に高速撮影を開始するスイッチであり、通常撮影中に、全押し状態で高速撮影を開始し、押していない状態に戻したときに高速撮影を終了し通常撮影に戻る。
【0026】
ここで、高速撮影モードスイッチ4が「ON」又は「OFF」の状態での、撮影ボタン2及び高速撮影スイッチ16が押下された場合に、撮影装置1ではどのような撮影を行うのかを、簡単に説明する。
高速撮影モードスイッチ4が「ON」の場合は、準備期間有りで高速撮影を行う場合であり、押下されていない状態の撮影ボタン2aから、全押し状態の撮影ボタン2cになった時から通常撮影を開始する。この状態で、押下されていない状態の高速撮影スイッチ16bから、半押し状態の高速撮影スイッチ16cになった時に高速撮影の準備を開始し、全押し状態の高速撮影スイッチ16dで高速撮影を開始する。
【0027】
また、高速撮影モードスイッチ4が「OFF」の場合は、準備期間無しの高速撮影を行う場合であり、押下されていない状態の撮影ボタン2dから、完全押し状態の撮影ボタン2fになった時に通常撮影を開始する。この状態で、押下されていない状態の高速撮影スイッチ16eから、全押し状態の高速撮影スイッチ16gになった時から高速撮影を開始する。
【0028】
以下、本発明の実施形態における撮影装置について、図面を用いて説明する。
<構成>
図3は、撮影装置1の構成を示す機能ブロック図である。
まず、一般的な撮影を、機能ブロックを用いて簡単に説明する。
入射光30は、撮影レンズ・メカ機能6において、フォーカス駆動部32により駆動される主レンズ31から入射し、ズーム駆動部33により駆動されるズームレンズ34により拡大、縮小され、絞り駆動部35により駆動される絞り36により明るさを調整される。
【0029】
絞り36により明るさを調整された入射光30は、CMOS(Complementary Metal-Oxide Semiconductor)もしくはCCD(Charge-Coupled Devices)等の撮像素子40に結
像する。
撮像素子40で光電変換された映像出力が、フロンドエンド部50に入力され増幅器51により増幅された後、AD変換器52によりデジタル信号に変換され、映像信号処理部54においてバッファメモリ90を使用して信号処理される。
【0030】
映像信号処理部54で処理された映像信号は、圧縮回路で圧縮処理され、記録再生部の記録部を介して、記録媒体91に記録される。
フロントエンド部50は、更に、明度検出部56、AGC(Automatic Gain Central)57、ノイズフィルタ74、ノイズを付加する機能を有するノイズ付加部75を有する。
撮影装置1は、更に、高速撮影時の制御を行う高速撮影制御部48、フレームレートの変更を制御するフレームレート制御部60、シャッター時間すなわち露光時間を制御する
シャッター時間制御部49、自動露出を行う露出制御部76を備える。シャッター時間制御部49は、露出休止時間制御部53を有する。実際の露光時間は、露出時間の休止時間を制御して調整され、露出休止時間制御部53がその調整を行う。
【0031】
また、撮影装置1は、絞り目標値算出部55を備える。この絞り目標値算出部55は、フレームレート切り替え時に、絞りをどのように調整するかを算出する機能を有する。絞り目標値算出部55は、通常撮影時のフレームレート、露光時間、絞り度をそれぞれ記憶する第1フレームレート、第1露光時間、第1絞りと、高速撮影時のフレームレートを記憶する第2フレームレート81と、これら記憶されている情報からフレーム切り替え後の絞りである第2絞りを算出する演算部82を備える。また、絞り目標値55と露光時間目標値87を記憶する。絞り目標値算出部55の詳細は、<絞り・露光時間の移行処理>の項で説明する。
【0032】
更に、撮影装置1は、撮像素子40の感度を設定する感度制御部73は、CPUを有して装置全体の制御を行う機能を有する全体制御部100を備える。この全体制御部100は、例えば、撮影ボタン2や高速撮影スイッチ16の押下状態、具体的には、半押し状態16c又は全押し状態16d、モード設定部42で設定されているモード、具体的には、高速撮影モード43又は通常撮影モード44の各状態を参照して高速撮影等を制御する。
【0033】
本撮影装置1は、大きく分けて2つの特徴を有する。1つは撮影方法であり、もう1つは記録方法である。撮影方法については、本実施形態1で説明する。
記録方法については、実施形態2で説明するものとし、映像信号処理部54については、実施形態2で説明する。
<フレームレートを上げる方法>
ここで、フレームレートを上げた場合の、撮像素子の走査方法について簡単に説明する。
【0034】
フレームレートを上げる場合の走査方式として、高速走査方式以外に、n画素混合方式と間引き方式がある。
このn画素混合方式と間引き方式とについて、図4を用いて説明する。
図4は、n画素混合方式と間引き方式を示す図である。
左図は、n画素混合方式の例、真ん中の図は、通常撮影時の全ライン走査の例、右図は、間引き方式の例を示す。ここでは、n画素混合方式の例として4画素混合方式83を、間引き方式の例として1/5の間引き方式84を示している。
【0035】
右図の1/5の間引き方式84では、フレームレートは通常撮影の5倍の300fpsになり、左図の4画素混合方式83は4倍の240fpsとなる。従って、4画素混合方式83と1/5の間引き方式84とを採用すれば、1つの撮影装置で240fpsと300fpsの2つのフレームレートでの高速撮影が可能となる。
左図に示すように、n画素混合方式の場合はn画素を混合(加算)するため、露光時間が1/4になっても明るさは変わらない。従って、再生画面が暗くなるという問題は生じ得ない。即ち、露光時間の調整や絞りの開放等の処理は必要ない。
【0036】
一方、右図に示すように、間引き方式の場合は、低いフレームレートから高いフレームレートに変更した場合は、画素の数が減り画面が暗くなることから、露光時間の調整や絞りの開放が必要となる。
本撮影装置1では、240fpsと300fpsの2つのフレームレートでの高速撮影を可能とし、フレームレートに応じて、フレームレート変換時の露光時間や絞りを変える処理を行ったり、行わなわなかったりする。
【0037】
以下、間引き方式の場合についてのみ説明する。
<撮影装置1の撮影方法>
図5〜図13を用いて本発明の撮影方法を説明する。まず、準備期間を設ける場合と、設けない場合の2つに分けて説明する。
<準備期間を設ける場合>
まず、準備期間を設ける場合の高速撮影について、図5〜図9を用いて説明する。
【0038】
図5は、準備期間を設けた高速撮影方法を示す図である。
本図は、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、トリガ、絞り、露光時間、増幅率等のタイムチャートを示す。
具体的には、第1段目は、動作の契機を示すトリガのタイムチャートであり、縦軸の「1」は高速撮影スイッチ16の半押し状態を示し、「2」は全押し状態を示す。また、第2段目は、絞りのタイムチャートであり、縦軸は絞りの開き具合を示す。第3段目は、露光時間のタイムチャートであり、縦軸はフレーム毎の露光時間の長さを示す。更に、第4段目は、増幅率のタイムチャートであり、縦軸は増幅率の高さを示す。
【0039】
次に、第5段目は、撮影モードのタイムチャートであり、フレーム遷移表200は、通常速度撮影から高速度撮影に移行する前後に撮影するフレームのタイムチャートを示す。フレーム遷移表200の上部の「t3」等は、トリガ等のタイムチャートの「t3」等を示すものとする。
まず、一連の動作を、トリガのタイムチャートと撮影モードのタイムチャートとを参照しながら、各撮影モードにおける絞り、露光時間、増幅率の変化を説明する。
【0040】
撮影ボタン2を押すと通常速度で撮影を開始する。t=t0時に示すように、通常の絞り、露光時間で通常速度45で撮影する。このとき、高速撮影モードスイッチ4は「ON」の状態としておくものとする。
通常撮影を行っている途中で、高速撮影スイッチ16が押下され、半押し状態(16c:第1トリガ)になると、通常モード46から高速度撮影準備モード47に移行する。
【0041】
この高速度撮影準備モード47の間に、1フレームあたりの露光量を変えないように、
絞りを開け、同時に、露光時間を短くしていく。本図では、t1〜t2の間に、絞りを開けると共に露光時間を短くし、t2の時点での露光時間が、高速撮影に移行した場合の1フレームあたりの時間となったら、その状態を保ちつつ通常撮影を行う。絞りと露光時間をどのように制御するかは、後で<絞り・露光時間の移行処理>の項で説明する。
【0042】
その後、高速撮影スイッチ16が全押し状態(第2トリガ)になると、高速度撮影準備モード47から高速撮影モード70に移行し、t4の時点から実際に高速度撮影が行われる。このフレームレートが切り替わる時(以下、「変換点」という。)t4の前後のt3からt5間のフレームレートの切り替わりをフレーム遷移表200に示している。変換点t4の後は、180fpsで撮影され、時間が1フレームあたり1/180秒ずつ増加していることを表している。
【0043】
高速撮影を終了するため、高速度撮影スイッチ16を押されていない状態(16b:第3トリガ)に戻すと、高速撮影モード70から通常速度撮影準備モード47aに移行し、その後、通常モード46aに移行する。通常速度撮影準備モード47aに移行した時点であるt7の時点から、通常速度撮影は再開されている。この変換点t7の前後のt6からt8間のフレームレートの切り替わりをフレーム遷移表200に示している。
【0044】
この通常速度撮影準備モード47aでは、高速度撮影準備モード47で行った動作と逆の動作、すなわち、絞りを閉めつつ、露光時間を長くしていき、通常モード46の絞りと
露光時間とする。
本図では、増幅率のタイムチャートにおいて、高速撮影を行っている期間t4〜t7で増幅率を上げている。これは、通常撮影モードに比べて高速度撮影モードの方が実質的な露光時間が少なくなるからである(露光時間のタイムチャートのt4〜t7参照。)。本実施形態では、垂直ブランキング期間を考慮に入れずに高速度撮影準備モード47で露光時間を決定しているからであり、垂直ブランキング期間を考慮に入れた場合、あるいは、垂直ブランキング期間が垂直同期周期に対して無視できるレベルである場合は、増幅率を上げる必要はない。
【0045】
本実施形態では、露光時間のt4〜t7にかけての露光時間の減少への対処として、増幅器のゲインをt4のタイミングで上げ、変換点t4及びt7における映像信号の明るさレベルの変化をより小さくしている。この減少分を絞りで対応させることは、追従速度の面から困難であるからである。
次に、図6を用いて、露光時間と蓄積電荷と絞りの調整を説明する。
【0046】
図6は、フレームレートを切り替える場合に、準備期間の無い場合と準備期間の有る場合の蓄積電荷を示す図である。第2段目〜第4段目は準備期間の無い場合を、第6段目〜第8段目は準備期間の有る場合を示す。
第1段目は、トリガのタイムチャートであり、第2段目と最下段である第8段目は、絞りのタイムチャートである。これらは、図5のものと同様である。
【0047】
第3段目は、露光時間のタイムチャートであるが、図5のものとは異なり、露光時間の長さを横軸で表している。
次に、第5段目は、蓄積電荷を読み出す走査ラインを示している。高速撮影の場合は、いわゆる間引き方式を行っている。
第4段目と第6段目とは、蓄積電荷のタイムチャートであり、縦軸が蓄積されている電荷量を示し、本図では、一定の入射光量の条件での電荷量の変化を示している。横軸の両端矢印S1〜S9は蓄積している時間、すなわち、露光時間を示している。
【0048】
第6段目は、シャッターのタイムチャートであり、縦矢印80a、80b、80c、80d等はシャッター時間を表しており、矢印が長いほどシャッター時間が長いことを示している。実際には、シャッター時間とは、電荷の蓄積時間、即ち露光時間を意味し、本図では、S1〜S9の両端矢印と対応している。
尚、本図での時間t0等は、図5のt0等と合わせているが、説明の便宜上t2〜t4は省略している。
【0049】
まず、準備期間が無く、フレームレートを変えた場合を説明する。
第2、3、4段目のタイムチャートを見ると、絞りを変えない場合は、露光時間はフレームレートの1フレームあたりの時間となり、蓄積電荷はフレームレートが上がれば、その分蓄積電荷は少なくなる。すなわち、再生画面が暗くなる。
第5段目に示すような、間引き走査方式の場合は、例えば2つの走査線を間引いて3倍に高速化した場合、実質的な光量が約1/3になる。
【0050】
詳細には、通常撮影時の1フレーム当たりの露光時間が、高速撮影時の1フレーム当たりの露光時間より長い場合は(第3段目の露光時間のタイムチャート参照)、蓄積電荷は変換点において急激に、かつ大幅に減少する(第4段目の蓄積電荷のタイムチャート参照)。
このように、通常撮影時と高速撮影時の明るさが異なるため、再生した時に明るさが変換点の前後で極端に暗くなり、仮にゲインを加えて明るさを合わせてもノイズが増えるため変換点で視聴者に違和感を与えることになる。すなわち、フレームレートの切り替え点
において実質的な明るさが急激に暗くなるため、明るさの面で再生画像がシームレスに再生されないという課題が生ずる。
【0051】
次に、準備期間を設けて、フレームレートを変えた場合を説明する。
第6段目の蓄積電荷のタイムチャートのように、第1トリガが入力されたt1から、露光時間をS1、S2、S3と徐々に短くして、第2トリガが入力されたt4でフレームレートを切り替える時には、変更後のフレームレートで確保できる最大の露光時間Smaxとなるようにする。
【0052】
それと同時に、第8段目の絞りのタイムチャートで示すように、蓄積電荷の値が一定に保たれるように、t1〜t2(t4)の間に絞りを徐々に開けていく。
このように露光時間と絞りを制御して露光時間を事前に短くしておくことで、トリガ2が入力されたときに直にフレームレートを切り替えたとしても、1フレームあたりの蓄積電荷が少なくなることはなく、再生画面が暗くなることもない。
【0053】
図6では、準備期間中に、露光時間を徐々に短くしていく場合を説明したが、準備期間に露光時間を変更しなくても良い場合がある。
このような場合を、図7を用いて説明する。
第1段目〜第8段目までのタイムチャートは、図6と同様である。
本図では、露光時間を変更する必要が無い場合と、変更の必要が有る場合とを説明する。第2段目〜第4段目は露光時間を変更する必要が無い場合を、第6段目〜第8段目は露光時間を変更する必要が有る場合を示す。
【0054】
第6段目〜第8段目は露光時間を変更する必要が有る場合は、図6の準備期間の有る場合と同じであるので、ここでは、第2段目〜第4段目の露光時間を変更する必要が無い場合のみ説明する。
露光時間を変更する必要が無い場合とは、言い換えれば、露光時間が既に変更後のフレームレートの1フレームあたりの最大露光時間と等しいか短い場合である。この様な状況は、例えば入射光が非常に強く絞りだけでは露出オーバーとなってしまう場合に生じる。
【0055】
第3段目の露光時間のタイムチャートで示されるように、フレームレート切り替え前の露光時間61a、61b、61cは、切り替え後の露光時間の最大値Smax89より小さいか、略等しい。この場合は、フレームレート変更後も露光時間を短縮しなくても実質的な明るさを確保できるため、露光時間を変える必要も、第2段目の絞りのタイムチャートで示されるように、絞りを変える必要も無い。
【0056】
従って、この場合は、準備期間が無くても、高速撮影に入ることが可能となる。
本撮影装置は、このように、入射光量が多い時はフレームレート変更時に露光時間や絞りを調整せず、入射光量が少ない時はフレーム変更時に露光時間や絞りを大きく変化させることで、1フレームあたりの露光量をほぼ一定としている。
<絞りで調整できない場合>
ここでは、露光時間が短くなる場合に、絞りを開けることで露光量を確保しようとしたが、絞りが全開となって露光量を確保できない場合の対処方法について説明する。
【0057】
図8は、絞りで調整ができない場合の高速撮影方法を示す図である。
本図は、図5と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、絞り、露光時間、増幅率、ノイズフィルタ、撮影モードのタイムチャートと、フレーム遷移表を示す。尚、トリガのタイムチャートは省略しているが、図5と同様のタイミングでトリガが発生するものとする。
【0058】
絞りによっては露光量が確保できない場合、増幅器によるゲイン調整のみで露光量を確保しようとすると、変換点において、ノイズが急上昇するという欠点が想定される。
第1段目の絞りのタイムチャートに示すように、絞りを変更しない場合は、t4〜t7の期間に高速化により実質的な露光時間が短くなり、露光量が減少する(第2段目の露光時間のタイムチャート参照)。
【0059】
露光量の不足分を補うため、増幅率を、t4〜t7の期間上げることにより映像信号の明るさを変化しない方向に制御する(第3段目の増幅率のタイムチャート参照)。
この場合、t4〜t7の期間中のノイズが増えるため、ノイズフィルタ74をAD変換器52の前に入れて、動作させる(第4段目のノイズフィルタのタイムチャートの「ON」参照)。または、ノイズフィルタの減衰率を大きくすることにより、ノイズの発生を目立たなくさせる。これにより、よりシームレスな映像を撮影できることとなる。
【0060】
さらに、変換点におけるノイズの増加を目立たなくさせるもう1つの方法として、意図的にノイズを加える方式がある。
ノイズを付加する方法を、図9を用いて説明する。
図9は、ノイズを付加する場合の高速撮影方法を示す図である。
本図は、図5と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、絞り、露光時間、増幅率、ノイズフィルタ、付加ノイズ、ノイズ、撮影モードのタイムチャートと、フレーム遷移表を示す。尚、トリガのタイムチャートは省略しているが、図5と同様のタイミングでトリガが発生するものとする。
【0061】
付加ノイズのタイムチャートは、付加するノイズを表し、ノイズのタイムチャートは、実際に生ずるノイズ、すなわち、付加されたノイズと増幅によるノイズの双方合わせたものを表す。
高速度撮影の準備期間(t1〜t4)に、ノイズ77を発生させ(第5段目の付加ノイズのタイムチャート参照)、徐々にノイズレベルを上げていき、高速撮影時に発生するノイズレベルNL1まで上げていく。
【0062】
この手法によりt4とt7におけるノイズの急激な増加を緩和することができるため、通常速度撮影モードと高速度撮影モードの変換点の映像がよりシームレスになるという効果がある。
<準備期間を設けない場合>
次に、準備期間を設けないで高速撮影に入る場合や、準備期間を設けるモードになっているが準備期間が殆ど設けられない場合について、図10と図11とを用いて説明する。
【0063】
具体的には、高速撮影モードスイッチ4が「OFF」の場合に、高速撮影スイッチ16を完全押し状態にした場合と、高速撮影モードスイッチ4が「ON」の場合に、高速撮影スイッチ16を半押し状態が殆ど無しで、完全押し状態にした場合である。
絞りを垂直ブランキング期間に変更できるならば、直に高速撮影に移ったとしても露光量は変わらないが、絞りは機械的に変えるため、追従時間は10〜15msec程度の長い時間を要するため、垂直ブランキング期間に絞りを変えることは難しい。そこで、本発明では以下のような方法を取るものである。
【0064】
図10は、準備期間無しの高速撮影方法を示す図である。
本図は、図5と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、トリガ、絞り、露光時間、増幅率、ノイズフィルタ、撮影モードのタイムチャートと、フレーム遷移表を示す。ただし、高速度撮影準備モードと通常速度撮影準備モードとは設けられていない。
【0065】
高速撮影開始のトリガである第1トリガ88を受けて、直接、通常速度撮影から高速度撮影に移る際の手順を説明する。
第1トリガ88を受けたt4から、高速撮影終了のトリガである第2トリガ79を受けるt7までの間、高速撮影を行う場合を説明する。
t4で高速撮影スイッチ16が押下されるまで、通常速度で撮影しており、t4において、フレームレートが通常速度から高速度に変わる。
【0066】
この瞬間に露光時間が1/3になるため(第3段目の露光時間のタイムチャート参照)、絞り目標値まで絞りを開ける作業を開始する(第2段目の絞りのタイムチャート参照)。絞り目標値については、後の<絞り・露光時間の移行処理>の項で説明する。
また、t4〜t6において、開かれていく絞りに合わせて増幅率を下げるとともに(第4段目の増幅率のタイムチャート参照)、ノイズフィルタの減衰率を下げる(第5段目のノイズフィルタのタイムチャート参照)。
【0067】
t6において絞りが絞り目標値に到達すると、増幅率とノイズフィルタも通常撮影時の値に戻ることになる。
t7において、第2トリガ79を受けると、t4〜t6の逆の動作を行う。
具体的には、t7の時点で、フレームレートを高速度から通常速度に戻し、t7〜t9の期間に、絞りを閉めるとともに増幅率とノイズフィルタ特性とを上げていく。
【0068】
絞りが元の絞り値に戻った瞬間であるt9において、露光時間を通常速度撮影時の値に戻す(第3段目の露光時間のタイムチャート参照)。
このように、絞り、増幅率、ノイズフィルタを調整することで、高速度撮影と通常速度撮影の間がシームレスに撮影される。
この方式では、高速撮影命令を受けると同時にフレームレートを高速化するとともに、増幅率を同時に上げるため、高速撮影スイッチ16が押されると同時に高速度撮影モードに入ることが可能となる。このため高速撮影への切り替わりが迅速であり、重要なシーンのシャッターチャンスを逃すことがなくなるという利点がある。
【0069】
次に、図11を用いて、絞りと増幅率の調整を説明する。
第1段目〜第8段目までのタイムチャートは、図6と同様である。第9段目は、増幅率のタイムチャートである。
本図では、被写体が明るく露光時間を変更する必要が無い場合と、被写体が暗く露光時間を変更の必要が有る場合とを説明する。第2段目〜第4段目は露光時間を変更する必要が無い場合を、第6段目〜第9段目は露光時間を変更する必要が有る場合を示す。
【0070】
被写体が明るい場合は、露光時間を変える必要がないため、絞りを変えずに、高速撮影に移行する。
一方、被写体が暗い場合は、高速度撮影開始のトリガである第1トリガ88が入ると、露光時間を短くする(第7段目の露光時間のタイムチャート参照)。
露光時間を短くすると同時に、ゲインを急激に上げ(第9段目の増幅率のタイムチャート参照)、絞りを開け始める(第8段目の絞りのタイムチャート参照)。
【0071】
その後、t3からゲインを下げ始める(第9段目の増幅率のタイムチャート参照)。
このように、絞り、増幅率を調整することで、高速度撮影と通常速度撮影の間がシームレスに撮影され、再生映像の明るさの不連続性は緩和される。
<変形例>
上述した高速撮影方法の変形例を2つ説明する。
【0072】
まず1つ目の変形例を、図12を用いて説明する。
図12は、通常撮影から高速撮影には直に切り替わるが、高速撮影から通常撮影に戻るときは徐々に戻す方法を示す図である。
すなわち、通常撮影から高速撮影に変わる時は、シャッターチャンスを逃さないように、早いレスポンスが要求されるためであり、一方、高速撮影を終了する時は、それほどレスポンスが要求されないためである。
【0073】
本図は、図10と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、トリガ、絞り、露光時間、増幅率、ノイズフィルタ、撮影モードのタイムチャートと、フレーム遷移表を示す。
t4で、高速撮影開始トリガである第1トリガ88を受けた後の、t4〜t6期間の動作は、図10に示した方式と同じである。すなわち、t4において第1トリガ88が入ると同時に増幅率を上げ、絞りを開けていく。
【0074】
一方、t8において高速撮影終了トリガである第2トリガ79を受けたあとの動作は図10とは異なる。
本変形例では、t8において第2トリガ79を受けたら、増幅率を変えないで、徐々に絞りを閉める(第2段目の絞りのタイムチャート参照)と同時に、露光時間を増加させる(第3段目の露光時間のタイムチャート参照)。
【0075】
そして、t8の時点でフレームレートは通常速度に戻される。
この方式では、通常撮影から高速撮影に変わる時は、第1トリガが入った瞬間に高速撮影に切り替わりシャッターチャンスは逃さないものの、画質は若干劣化することとなる。すなわち、信号レベルの低下が防げれば、増幅する必要を最小限とすることが可能となり、画質の低下を抑えることができるようになる。
【0076】
一方、高速度撮影を終了して通常撮影に戻るときは、ゲインを変えないで絞りを徐々に閉めていくことにより、ノイズの発生を抑制し、高速度撮影終了時の映像の画質の劣化が少ないという利点がある。
次に、図13を用いて、2つ目の変形例を説明する。
図13は、通常撮影から高速撮影に切り替える場合に時間を要する方法を示す図である。
【0077】
1つ目の変形例では、高速撮影開始トリガである第1トリガ88を受けると、直に高速撮影を開始するが、若干画質が劣化するものであった。本変形例では、若干送れて高速撮影を開始するが、画質が劣化しない例である。
通常撮影から高速撮影に変わる時は、シャッターチャンスを逃さないように、早いレスポンスが要求される場合が多いが、本変形例は、若干高速撮影の開始が遅れても画質の良さが要求される場合に適している。
【0078】
本図は、図12と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、トリガ、絞り、露光時間、増幅率、撮影モードのタイムチャートと、フレーム遷移表を示す。尚、ノイズフィルタのタイムチャートは記載されていない。また、本図の増幅率のタイムチャートは、図5のものと同様に、必須ではない。
t1において、高速度撮影開始のトリガである第1トリガ88を受けると、t1〜t3の間のT1の期間中に、絞りを開けるとともに露光時間を短くしていく(第2段目の絞りのタイムチャート及び第3段目の露光時間のタイムチャート参照)。
【0079】
露光時間が高速撮影用の長さになったt3の時点で高速度撮影に入る。
t6において、高速撮影終了のトリガである第2トリガ79を受けると、高速撮影から通常撮影に戻る。そして、t6〜t8の間のT2の期間中に、絞りを閉めていくことに連
動して露光時間を増やしてゆく(第2段目の絞りのタイムチャート及び第3段目の露光時間のタイムチャート参照)。
【0080】
t8において、絞りと露光時間は通常撮影時と同じ値になる。
この方式では、T1よりT2の方が大きいように制御する。この理由は通常撮影から高速撮影に移行する時に、この移行時間が長いとシャッターチャンスを逃す可能性があり、移行時間は少ないことが最も重要であるからである。従って、T1は可能な範囲内で最小の値にする。
【0081】
一方、高速度撮影を終了する時は、シャッターチャンス等関係なく緊急は要求されないため、移行時間は長くてもよい。むしろ長い方が画質面でよりシームレスになる。すなわち、移行時間より画質を優先して、T1より長く設定する。
従って、T2はT1よりも長くすることにより、高速撮影開始時におけるレスポンスを速くすると同時に、高速撮影終了時の明るさの時間的変化が少なくよりシームレスに撮影できるという効果を奏することになる。
【0082】
<動作>
以下、本発明に係る撮影装置の動作について図14〜16を用いて説明する。
図14は、通常撮影及び高速撮影の処理を表すフローチャートである。
まず、ユーザは、初期設定により通常速度のフレームレートをR1とし、高速度撮影モードのフレームレートをR2に設定する(ステップS100)。この操作は、図1のモード設定ダイヤル5を用いて行う。
【0083】
このユーザの操作を検知した全体制御部100は、設定されたフレームレートR1とR2とを、絞り目標値算出部55の第1フレームレートと第2フレームレートにそれぞれ記憶する。
また、ユーザが、高速撮影モードスイッチ4を、「ON」又は「OFF」とする。ユーザの操作を検知した全体制御部100は、高速撮影モードスイッチ4が「ON」の場合は、モード設定部42を高速撮影モード43の状態に、高速撮影モードスイッチ4が「OFF」の場合は、通常撮影モード44の状態にする。具体的には、例えば、撮影状態フラグ(図示していない。)が「1」のときは、高速撮影モード43状態、「0」ときは、通常モード状態44とする。
【0084】
ユーザが通常撮影を始めるため撮影ボタン2を押下する(ステップS110:押下)。この押下を検知した全体制御部100は、フォーカス駆動部32等に指示を出し、フレームレートR1で通常撮影を開始する(ステップS120)。
通常撮影中に、ユーザは高速撮影スイッチ16を押下して高速撮影の開始を指示する(ステップS130:押下)。この押下を検知した全体制御部100は、高速撮影を始める
旨、高速撮影制御部48に通知する。
【0085】
高速撮影の開始指示を受けた高速撮影制御部48は、高速撮影モードスイッチ4が「ON」か「OFF」のどちらになっているかと、高速撮影スイッチ16が半押し状態なのか全押し状態なのかの2点を全体制御部100に問い合わせる。
問い合わせを受けた全体制御部100は、モード設定部42が高速撮影モード43となっていれば「ON」を返し、通常撮影モード44となっていれば「OFF」を返す。また、高速撮影スイッチ16が半押しSW状態16cであれば「半押し」を、全押しSW状態16dであれば「全押し」を返す。
【0086】
全体制御部100から、高速撮影モードスイッチ4と高速撮影スイッチ16との状態を受け取った高速撮影制御部48は、高速撮影モードスイッチ4が「ON」の場合(ステッ
プS240:ON)であって、高速撮影スイッチ16が「半押し」の場合(ステップS150:YES)は、高速撮影準備有りモードで高速撮影を行う(ステップS160)。
一方、高速撮影モードスイッチ4が「OFF」の場合(ステップS240:OFF)や、高速撮影スイッチ16が「全押し」の場合(ステップS150:NO)は、高速撮影準備無しモードで高速撮影を行う(ステップS170)。
【0087】
その後、ユーザが、撮影ボタン2が押されていない状態に戻して、撮影の終了を指示(ステップS180)するまで、ステップS120〜ステップS170までの撮影を行う。
次に、図15を用いて、高速撮影準備有りモードでの高速撮影の処理を説明する。
ここで説明する処理は、図5、図8、図9を用いて説明した撮影方法である。
図15は、高速撮影準備有りモードでの高速撮影の処理を表すフローチャートである。
【0088】
まず、高速撮影制御部48は、絞り駆動部35に指示を出して絞りを開け始めるとともに、シャッター時間制御部49に指示を出し、露出休止時間制御部53により、露光休止時間中に光電変換された電荷を排出することにより露光時間を短くしてゆく(ステップS200)。
この処理の具体的な処理については、<絞り・露光時間の移行処理>の項で説明する。
【0089】
ここで、絞り度が限界に達してしまった場合は(ステップS210:YES)、絞りを明るい限界値に設定し、増幅器51のゲインを上げるか、感度制御部73により撮像素子40の感度の変更により信号出力を増加させ、ノイズフィルタを入れてノイズを低減する(ステップS220)。
その後、ユーザが、高速撮影スイッチ16を「全押し」して、高速撮影を実際に開始する操作を行う(ステップS230:YES)と、その操作を検出した全体制御部100は、高速撮影制御部48にその旨を通知し、通知を受けた高速撮影制御部48はフレームレート制御部60にフレームレートをR2にするよう指示する(ステップS230:YES)。
【0090】
指示を受けたフレームレート制御部60は、撮像装置40にフレームレートをR2にするよう指示し、高速撮影が開始される(ステップS240)。
その後、ユーザが、高速撮影スイッチ16を「押していない状態」に戻して、高速撮影を終了する操作を行う(ステップS250:YES)と、その操作を検出した全体制御部100は、フレームレート制御部60にフレームレートをR1に戻すよう指示し、高速撮影制御部48に高速撮影を終了する旨を通知する(ステップS230:YES)。
【0091】
指示を受けたフレームレート制御部60は、撮像装置40にフレームレートをR1にするよう指示し、通常撮影が再開される(ステップS260)。
高速撮影を終了する旨の指示を受けた高速撮影制御部48は、絞りを閉めていくと同時に露光時間を長くしてゆき、通常撮影時のものに戻し、必要に応じて増幅率を下げるなどの処理を行う(ステップS270)。
【0092】
次に、図16を用いて、高速撮影準備無しモードでの高速撮影の処理を説明する。
ここで説明する処理は、図8、図10を用いて説明した撮影方法である。ステップS320〜ステップS360が図8の撮影方法において高速度撮影準備モードの期間が殆どない場合、ステップS400〜ステップS450が図10の撮影方法である。
図16は、高速撮影準備無しモードでの高速撮影の処理を表すフローチャートである。
【0093】
フレームレートR1で通常撮影を行っている現在の露光時間を第1露光時間T1とし、高速撮影時のフレームレートR2の最大露光時間を第2露光時間T2とする。
まず、高速撮影制御部48は、露光時間を、第1露光時間T1と第2露光時間T2のう
ちの小さい方の露光時間とするようシャッター時間制御部49に指示を出し、シャッター時間制御部49は露光時間を調整する(ステップS300)。言い換えれば、T1≦T2にするようにT1を短くする。
【0094】
高速撮影制御部48は、第1露光時間T1を調節したとしたら絞りが限界値に達していると判断した場合(ステップS310:YES)は、絞りを明るい限界値に設定し、増幅器のゲインを上げるか、撮像素子40の感度の変更により信号出力を増加させ、ノイズフィルタを入れてノイズを低減する(ステップS320)。
その後、高速撮影制御部48は、フレームレート制御部60にフレームレートをR2にするよう指示し、指示を受けたフレームレート制御部60は、撮像装置40にフレームレートをR2にするよう指示し、高速撮影が開始される(ステップS330)。
【0095】
その後、ユーザが、高速撮影スイッチ16を「押していない状態」に戻して、高速撮影を終了する操作を行う(ステップS340:YES)と、その操作を検出した全体制御部100は、高速撮影制御部48にその旨を通知し、通知を受けた高速撮影制御部48はフレームレート制御部60にフレームレートをR1に戻すよう指示する。
指示を受けたフレームレート制御部60は、撮像装置40にフレームレートをR1にするよう指示し、通常撮影が再開される(ステップS350)。
【0096】
また、フレームレート制御部60への指示と同時に、高速撮影制御部48は、増幅率を下げるとともに絞りを閉じる方向に制御しながら露光時間を長くし、通常撮影を再開する(ステップS360)。
一方、高速撮影制御部48が、第1露光時間T1を調節したとしたら絞りが限界値に達していないと判断した場合(ステップS310:NO)は、絞りを所定の露光量を得るように制御する(ステップS400)。
【0097】
その後、高速撮影制御部48は、フレームレート制御部60にフレームレートをR2にするよう指示し、指示を受けたフレームレート制御部60は、撮像装置40にフレームレートをR2にするよう指示し、高速撮影が開始される(ステップS410)。
露光量の調節は、絞り、露光時間、ゲインを組み合わせて調節する(ステップS420)。
【0098】
その後、ユーザが、高速撮影スイッチ16を「押していない状態」に戻して、高速撮影を終了する操作を行う(ステップS430:YES)と、その操作を検出した全体制御部100は、高速撮影制御部48にその旨を通知し、通知を受けた高速撮影制御部48はフレームレート制御部60にフレームレートをR1に戻すよう指示する。
指示を受けたフレームレート制御部60は、撮像装置40にフレームレートをR1にするよう指示し、通常撮影が再開される(ステップS440)。
【0099】
また、フレームレート制御部60への指示と同時に、高速撮影制御部48は、増幅率を下げるとともに絞りを閉じる方向に制御しながら露光時間を長くし、通常撮影を再開する(ステップS450)。
<絞り・露光時間の移行処理>
ここで、絞りと露光時間の移行処理について説明する。この処理は、準備期間を設けた高速撮影の処理において、準備期間に成されるものである。図15のステップ200での処理に該当する。
【0100】
絞り・露光時間の移行処理について図17と図18とを用いて説明する。
図17は、絞り・露光時間のタイムチャートを示す図である。
本図は、図5のt1からt2を説明するための図であり、説明の便宜上、図5のt2〜
t4は省いている。また、本図と図5のt1等は、同じ時間を表すものではない。
第1段目は、動作の契機を示すトリガのタイムチャートであり、第2段目は、フレームレートのタイムチャートである。第3段目は、絞り度のタイムチャートであり、縦軸は絞り値を示し、L1、L2、L3の順で絞り値が大きくなり、絞り値が大きいほど絞りが開くものとする。
【0101】
第4段目は、絞り値近似値のタイムチャートであり、この値は露光時間を求めるために使用する。
第5段目は、蓄積電荷のタイムチャートであり、縦軸は蓄積されている電荷量を、S1等の両端矢印は露光時間を示す。
図17を簡単に説明すると、まず、第1トリガを受けると、絞り目標値85を算出し、その絞り目標値85に絞りを近づけていくと同時に、露光時間を短くしていき、高速撮影のフレームレートR2の最大露光時間Smax89とする。このときの各フレームの露光時間は、フレーム毎の絞り値近似値とフレームにおいて蓄積すべき電荷とから求める。
【0102】
第2トリガを受けたときに、フレームレートをR1からR2に切り替えて、高速撮影を開始する。
この絞り目標値は、通常撮影時のフレームレートと高速撮影時のフレームレートが決まれば、フレームあたりの光量の増減が一義的に決まることから、求めることができる。つまり、フレームレートが決まれば明るさの増減が決まるため、絞りの開閉の目標値がわかることになる。この絞り目標値の求め方は、<絞り目標値の求め方>の項で説明する。
【0103】
図18は、絞り・露光時間の移行処理のフローチャートである。
高速撮影制御部48は、シャッター時間制御部49から現在の露光時間E1を求め(ステップS600)、高速撮影時のフレームレートR2から露光時間E2、すなわち、露光時間目標値87を求める(ステップS610)。ここでは、露光時間目標値87は、フレームレートR2での最大露光時間Smax89とする。露光時間目標値87は、選択可能な値の中から通常最も大きな値を採用するためであり、SmaxはフレームレートR2のみによって一義的に決まる。
【0104】
現在の露光時間E1が露光時間目標値87である露光時間E2以下の場合(ステップS620:YES)は、絞り調整の必要が無いため何も行わない。この場合は、図7の「露光時間を変更しない場合」に該当する。
露光時間E1の方が露光時間E2より大きい場合(ステップS620:NO)は、絞り目標値算出部55に絞り目標値85の算出を依頼する(ステップS630)。依頼を受けた絞り目標値算出部55は、絞り目標値85を算出し、高速撮影制御部48に渡す。
【0105】
高速撮影制御部48は、受け取った絞り目標値85となるように、絞り駆動部35に指示して、絞り36を開けていく(ステップS640)。
絞りは機械的に制御されるため、10〜30msの時間が必要となる。図17に示すようにt2からt6にかけて、ゆるやかに開いていく。
この絞りの変化を予測式で予測する(ステップS650)。撮影装置1の絞り36の制御特性は予めわかっているため、この変化は簡単な予測式で予測できる。
【0106】
次に、各フレーム期間中の平均値である絞り値L1と絞り値L2とを求める(ステップS660、図17の絞り値近似値のタイムチャート参照)。
求めたL1、L2の絞りにおいて、最適な露光を得る露光時間S1、S2を、各フレームで求める(ステップS670)。
そして、高速撮影制御部48は、各フレームを撮影する際に、シャッター時間制御部49に最適露光時間S1、Sをそれぞれ指示する(ステップS670)。
【0107】
絞りが絞り目標値85に達した時点(ステップS690:YES)で、絞りと露光時間とを保持する。
高速撮影制御部48は、全体制御部100からトリガ2を受けた旨の通知を受けたら、フレームレート制御部60にフレームレートをR2にするように指示し、高速度撮影を開始する。
【0108】
このように本発明では、高速度撮影時のフレームレートに応じて、高速撮影時の絞り目標値85と露光時間目標値87とを、絞り目標値算出部55が求めることができるので、フィードフォワード方式で時々刻々に絞り36と露出時間を制御していく。そのため、従来の自動露出方式を用いて、露出制御部76で絞り補正を行う場合に比べて大幅な時間の削減ができる。従って、より短い時間で通常速度撮影から高速撮影に移ることが可能となる。よって、使用者にレスポンスの速い、使い勝手のよい撮影装置を提供できる。
【0109】
尚、自動露出は、撮像素子40から明るさを検出して、露出制御部76により、フィードバック制御を行い、絞りとシャッター速度を調整するものである。この方式は、映像の明るさ情報が1フレームもしくは1フィールド毎にしか得られない。この1秒に60コマ位しかとれないサンプルデータに基づいてフィードバック制御を行うことになる。フィードバック制御するためには、少なくとも複数の明るさのサンプルつまり複数のフレームの映像情報が必要であり、絞りの変更に時間を要することとなる。このようにフィードバック方式の自動露出方式を用いると応答が遅く数十フレームを必要とし、通常速度から高速度撮影に移行する時に絞りの追従速度が遅いため、高速度撮影ボタンを押しても、フレームレートの変更に時間が必要なため、シャッターチャンスを逃し良いシーンを高速度撮影できないこととなる。
【0110】
<絞り目標値の求め方>
次に、絞り目標値を求める処理について、図19と図20とを用いて説明する。
図20は、絞り目標値を求める処理のフローチャートであり、この処理は、絞り目標値算出部55が行う処理である。
図19(a)は、光量の変化を示すタイムチャートである。
【0111】
第1段目は、トリガのタイムチャートを示す。
第2段目は、光量のタイムチャートを示し、縦軸は光の量を表す。この光の量は、明度検出部56により検出され、最新の所定期間分、絞り目標値算出部55内部の作業領域に記憶されているものとする。
また、第3段目は、フレームレートのタイムチャートを示し、矩形が1フレームを表す。矩形内の「R1」、「R2」は、撮影されたフレームレートを表す。
【0112】
図19(b)は、フレームレートと絞りの増分との対応表101である。この対応表101は、R2つまり第2フレームレートに応じて絞りの増分△f2が決まることから、その値をフレームレートと対応付けているものである。すなわち、R2が決まると最大露光時間Smaxが決まることから、△f2も一義的に決まるからである。
絞り目標値85は、通常撮影のフレームレートR1である第1フレームレートと、露光時間である第1露光時間と、絞りである第1絞りと、高速撮影時のフレームレートR2である第2フレームレートから求めることができる。
【0113】
この演算において、最も重要なパラメータは第2フレームレート81である。というのは、第1フレームレートと第1露光時間と第1絞りは既にわかっている。第2フレームレート81により光量の増減は1〜1/n倍と大幅に変わるため、一番重要な要素といえる。
更に、絞り目標値85を求める場合に、第1絞りをどのような値とするかが重要となる。すなわち、被写体の明るさは常に一定ではないことから、フレームレートを切り替える直前の絞りを採用すると、妥当ではない場合、例えば、切り替えの直前に被写体が明るかった場合は、絞り目標値85が低すぎてしまう場合があるからである。
【0114】
そこで、本撮影装置1では、フレームレートを切り替える時より前の所定時間において、被写体が最も暗かったときの絞りを第1絞りとするものとする。このようにすることで、高速撮影時の映像が露出不足にならないという効果がある。
以下、図20を用いて、絞り目標値85である高速度撮影時の第2絞りf2を求める方法を説明する。
【0115】
まず、図19(a)に示すように、光量を測定し記憶しておく。ここでは、t2で、高速撮影の準備を開始する指示であるトリガ1を受ける前のt1〜t2間の光量の最小値Iminを測定し記憶する。
t2でトリガ1を受けたときに、記憶している光量の最小値を求める(ステップS500)。図19(a)の場合は、t1のところの光量Iが最小値となる。
【0116】
このIminから、第1絞りf1を求める(ステップS510)。具体的には、このIminで表される光量と第1露光時間とから第1絞りを求める。
次に、対応表101から第2フレームレートであるR2の増分△f2を求め、求めた増分△f2と第1絞りf1とから第2絞りf2を求める(ステップS520)。
図19のように、トリガ1の前の一定期間の光量の最小値を基に、第1絞りf1を求めることにより、最も暗い条件下の第2絞りが目標値に決定される。
【0117】
このように絞り目標値85が決定されるため、t3〜t4の間に光量変化があっても、統計的にImin以下になる可能性が低く、露光不足となる可能性は低くなる。
また、t3〜t4の期間は、通常は、第2露光時間が最大値に設定されるため、被写体が暗くなった場合には、露光時間をこれ以上大きくすることはできず、露光時間では、暗さを補う補正はできない。また、絞りの調整は機械的な動作のため、高速で追従できないので、絞りで暗さを補うこともできない。従って、最も暗い条件下での絞りを絞り目標値とすることは、露光不足となる可能性を低くすることになる。
【0118】
本発明では、トリガ1の前の一定期間の中でもっとも少ない光量Iminから求められる絞りf1を算出し、そのf1を用いるため、最も明るいf値をf2とすることになる。従って、t3〜t4の間に露出不足にならないという効果がある。
尚、本実施形態では光量を測定して記憶することとしているが、絞りを記憶しておいてもよく、この場合は、記憶している最大の絞り、すなわち、もっとも明るい絞りを第1絞りとする。
【0119】
<変形例>
上述した絞り・露光時間の移行処理の変形例を説明する
この変形例は、図13を用いて説明した高速撮影方法の移行処理である。
図21は、通常撮影から高速撮影へ切り替える方式を示す図であり、図17の通常撮影から高速撮影への遷移時間を短くした場合を示す。本変形例では、ゲインを掛けることで、遷移時間を短縮している。
【0120】
本図は、図17と同様に、トリガ、フレームレート、絞り値、蓄積電荷のタイムチャートと、他に、露光時間、信号レベル、増幅率のタイムチャートを示す。
通常速度のフレームレートR1での1フレームあたりの時間は約16.7msである。一方、本発明のフィードフォワード方式では、絞りの応答速度は10〜15msである。
従って、第3段目の絞り値のタイムチャートで示すように、t4〜t6の間、すなわち、1フレーム分の時間の間に絞りを変更することができる。
【0121】
この場合、t4〜t6の1フレームの露光時間を、フレームレートR1の露光時間S1と、フレームレートR2の露光時間S2との中間の値Shとする。
このように露光時間を設定することで、t4〜t6の遷移時間T1の期間でフレームレートを切り替えることができるので、レスポンスが早くなるという効果がある。
この場合、第6段目の信号レベルのタイムチャートで示すように、t4〜t6の間の映像信号のレベルが落ちるが、第7段目の増幅率のタイムチャートに示すように、明度検出部56により明度を検出し、AGC57によりゲインを調節することにより、明るさの増減を緩和することができる。このように、切り替え時の再生映像をよりシームレスにすることができる。
【0122】
尚、準備期間を設けない高速処理においても、高速処理を開始した直後に、露光時間はフレームレートに合わせて短くなるが、図10のt4〜t6で絞りを上げていく場合も、同様にフレームレートを切り替えることが可能である。
次に、図22は、高速撮影から通常撮影へ切り替える方式を示す図である。
本図は、図17と同様に、トリガ、フレームレート、絞り値、蓄積電荷のタイムチャートと、他に、露光時間のタイムチャートを示す。
【0123】
t4で、高速撮影の終了指示であるトリガ2を受けると、t4でフレームレートをR2からR1にフレームレートを落とす。
そして、t4〜t6の遷移時間に、絞りを小さくし露光時間を長くする。t4〜t6の遷移時間T2は2フレーム分であるとする。
通常撮影のフレームレートR1から高速撮影のフレームレートR2へ切り替える場合は、シャッターチャンスを逃さないようにレスポンスをよくし、図21の遷移時間T1のように、短い時間で切り替える。
【0124】
しかし、高速撮影のフレームレートR2から通常撮影のフレームレートR1への切り替え時は、フレームレートを変えてから絞りや露光時間を補正することとしても良いため、遷移時間は数十フレーム等に長くなっても全く問題がない。むしろ長い方がよりシームレスになるという効果がある。
本発明ではT1<T2にすることにより、シームレスさとレスポンスが両立するという効果がある。
<実施形態2>
本実施形態1では、通常撮影から高速撮影への移行方法について説明したが、本実施形態では、高速撮影で撮影した映像データの蓄積方法について説明する。
【0125】
<高速撮影映像の記録方法>
高速撮影時の撮影映像を全て記録しようとした場合には、現実的には、メモリや処理速度、記録速度に限界がある。
従って、撮影した映像を、一旦バッファメモリ90に蓄え、その中から必要な映像のみ取り出し、ICメモリ等の記録媒体91に記録する方法がより現実的である(図3参照)。
【0126】
このような、必要な映像のみを取り出して記録する方法を、図23と図24とを用いて説明する。
図23は、通常撮影から高速撮影に切り替えて、高速撮影の映像の一部を記録する方法を示す図である。
本図は、図13と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、
トリガ、絞り、露光時間、増幅率、撮影モードのタイムチャートと、フレーム遷移表を示す。ここでは、図13に示す撮影方法の高速撮影時に一部を記録する方法を説明するが、もちろん、図5等の他の撮影方法においても同様である。
【0127】
t1において、高速度撮影開始のトリガである第1トリガ88を受けると、t1〜t3の間のT1の期間中に、絞りを開けるとともに露光時間を短くしていく(第2段目の絞りのタイムチャート及び第3段目の露光時間のタイムチャート参照)。
露光時間が高速撮影用の長さになったt3の時点で高速度撮影に入る。
高速撮影中に、記録を指示するトリガである第3トリガを受けると、その第3トリガの前後の所定数nフレームを記録する。第3トリガは、第2トリガを受けるまでに複数回受けてもよく、その場合も、前後nフレームを記録するものとする。本実施形態では、1回のみとして説明する。
【0128】
t6において、高速撮影終了のトリガである第2トリガ79を受けると、高速撮影から通常撮影に戻る。そして、t6〜t8の間のT2の期間中に、絞りを閉めていくことに連動して露光時間を増やしてゆく(第2段目の絞りのタイムチャート及び第3段目の露光時間のタイムチャート参照)。
t8において、絞りと露光時間は通常撮影時と同じ値になる。
【0129】
このように記録することにより、例えばゴルフのショットの瞬間に映像記録スイッチを押すとショットの前後の映像が高速度映像で記録されるため、撮り損ね、つまり失敗を防ぐことができる。このため、高速撮影になれていないユーザも簡単に高速度映像を撮影できるという効果がある。
次に、図24を用いて、映像の記録方法を説明する。
【0130】
本図は、通常撮影から、第1トリガで高速撮影に移り、第3トリガで高速撮影映像を記録し、第2トリガで通常撮影に戻る場合の、高速撮影映像の記録方法を示している。他の撮影方法においても同様である。
第1段目は、撮影ボタン2の状態のタイムチャートであり、ボタンが全押しされている状態(図2参照)をONとして記載している。
【0131】
第2段目は、サブトリガの入力を示すタイムチャートであり、第3段目は、メイントリガの入力を示すタイムチャートである。ここでのサブトリガは、例えば、高速撮影スイッチ16が半押し状態となった場合とし、メイントリガは、高速撮影スイッチ16が全押し状態となった場合をいうものとする(図2参照)。
第4段目は、撮影データのタイムチャートであり、この矩形1つが1フレームを示す。以下、フレームレートR1で撮影されたフレームを「通常フレーム」、フレームレートR2で撮影されたフレームを「高速フレーム」というものとする。
【0132】
また、第5段目と第6段目は、それぞれ、t5とt6時点でのバッファメモリ90に記録されている高速撮影映像データを示す。
第7段目〜第10段目までは、それぞれ、t5、t7、t8、t9時点での記記録媒体91に記録されている撮影映像データを示す。
第11段目は、記録されている撮影映像データのフレームレート識別子のタイムチャートを示す。ここでは、「R1」はフレームレートR1を、「R2」はフレームレートR2を示し、フレーム毎に付される。このフレームレート識別子は、再生する際に、高速撮影映像データを通常撮影映像データに変換する場合などに使用される。
【0133】
まず、撮影ボタン2を全押しして、通常撮影を行っている状態で、t2において高速度撮影を開始を示す第1トリガ88が入力されると、フレームレートがR1からR2になり
、高速撮影がt2から始まる(撮影データのタイムチャート参照)。
t2の時点から、バッファメモリ90に高速撮影映像データの記録が開始される。但し、バッファメモリ90には、Tmaxの期間分の映像データのみが記憶される。すなわち、新しい高速フレームが記録されると、古い高速フレームは通常フレームとして記録媒体91に移され、バッファメモリ90からは削除されることになる。
【0134】
本実施形態では、フレームレートR1は60fpsであり、フレームレートR2は180fpsであるので、3つの高速フレームが1つの通常フレームに該当し、3つの高速フレームから1つの通常フレームを生成して記録媒体91に記録する。
具体的には、t5の時には、t3〜t5の映像データであるTmaxの期間分だけのデータがバッファメモリ90に蓄えられており、t2〜t3の高速フレームはフレーム合成部58により合成され(ステップ117a参照)、通常フレーム115として記録媒体91に記録される。
【0135】
つまり、3つの高速フレーム116a、116b、116cが加算処理等により合成されて1つのフレーム115aになり、記録媒体91やメモリに記録される。または、中心の高速フレーム116bのみがフレーム115aとして記録することとしてもよい。
t5において、映像の記録を示す第3トリガ78が入力されると、t5の前後のt4〜t5とt5〜t6のフレームのみが高速フレームで記録される。
【0136】
t6の時点では、t3〜t4の6つの高速フレームが2つの通常フレームに合成されて記録媒体91に記録されており、t4〜t6の高速フレームは、そのままバッファメモリ90に記録されている。
t6の時点からは、高速フレームは通常フレームに合成されて記録され、t7において、高速撮影の終了を示す第2トリガ79が入力されると、フレームレートR2がR1に戻され、通常撮影を再開する(撮影データのタイムチャート参照)。以後、通常撮影映像データは通常フレームのまま、記録媒体91に記録される。
【0137】
t9において、バッファメモリ90に記録されている映像記録第3トリガ78の前後nフレーム分の高速フレームを記録媒体91に記録する。
記録される時には、各フレーム毎にフレームレートを示すフレームレート識別子を付加する(フレームレート識別子のタイムチャート参照)。
通常フレームにはR1を示すフレームレート識別子59bが、高速フレームにはR2を示すフレームレート識別子59aが記録される。本図では、R1を示すフレームレート識別子59bを「R1」、R2を示すフレームレート識別子59aを「R2」と記載している。
【0138】
このように、高速撮影中の第3トリガ78の前後のnフレーム分の高速度撮影映像だけがバッファメモリ90に蓄えられ記録されるため、バッファメモリの容量を最小にできるという効果がある。また、使用者が映像記録スイッチを押した時点の±nフレームの映像が高速撮影映像として記録されるため、シャッターチャンスを逃さない映像を記録できるという効果がある。
【0139】
図24では、映像の記録を示す第3トリガ前後のTmax期間の高速フレームを記録する例を説明したが、図25を用いて、第3トリガ前のTmax期間の高速フレームを記録する例を、図26を用いて、第3トリガ後のTmax期間の高速フレームを記録する例を説明する。
図25は、図24で説明した記録方法とほぼ同じである。異なる点は、第3トリガ78の前の期間のTmaxの期間の高速フレームを記録する点のみが異なる。
【0140】
この場合はt5で、第3トリガ78を受けるが、この段階でt3〜t5の間の高速フレーム116は、バッファメモリ90に記録されている。
t2〜t3の高速フレームと、t5以後の高速フレームは3つを合成し、通常フレームを記録媒体91に記録する。
図25の場合は、アクションが終了した時点で映像記録スイッチを使用者が押すことにより、アクションの高速度撮影画像が記録される。
【0141】
図26は図25とは逆である。つまり、第3トリガ78がt5で入力されると、t5の後のt5〜t7の間の高速フレーム116a〜116lが高速フレームとして記録され、t2〜t5とt7以後のフレームは通常フレームとして記録される。
図26の場合は、アクションが開始される前の時点で映像記録スイッチを使用者が押すことにより、アクションの高速度撮影画像が記録される。
【0142】
以上、図24、25、26を用いて説明した録画方法は、間引き方式のみならず、直接走査方式や画素混合方式等の高速撮影にも有効である。
次に、図24、25、26の録画処理を、図27と図28とを用いて説明する。
図27は、撮影装置1の録画処理のフローチャートである。
まず、通常撮影時のフレームレートR1と高速撮影時のフレームレートR2、及び、高速撮影指示の第3トリガの前と前後と後の3カ所のうち、どの箇所を記録するかを示す録画モードを設定する(ステップS700)。この設定は、図1のモードダイヤル5を用いて設定する。
【0143】
設定を検出した全体制御部100は、最大高速録画可能時間 Tmaxを、フレームレ
ートR2とバッファメモリ90に記録できるフレームの枚数から求め液晶モニタ17に表示する(ステップS710)。
ユーザが通常撮影を始めるため撮影ボタン2を押下し、押下を検知した全体制御部100は、フォーカス駆動部32等に指示を出し、フレームレートR1で通常撮影を開始する(ステップS720)。
【0144】
通常撮影中に、ユーザは高速撮影スイッチ16を半押して、高速撮影の開始を指示する(ステップS730:YES)。この押下を検知した全体制御部100は、高速撮影を始める旨、高速撮影制御部48に通知する。
高速撮影の開始指示を受けた高速撮影制御部48は、絞り目標値算出部55に絞り目標値の算出を依頼し、依頼を受けた絞り目標値算出部55は、絞り目標値を算出して高速撮影制御部48に返す。高速撮影制御部48は、絞りを目標値に向けて絞り駆動部35に指示を出し、絞りに応じた露光時間にすべくシャッター時間制御部49に指示を出す(ステップS740)。
【0145】
絞りが目標値に達したら、フレームレートをR1からR2に切り替え(ステップS750)、録画処理を行う(ステップS760)。この録画処理は、図28を用いて後述する。
その後、ユーザは高速撮影スイッチ16を押してない状態に戻し、高速撮影の終了を指示する(ステップS770:YES)。この押下を検知した全体制御部100は、高速撮影を終了する旨、高速撮影制御部48に通知する。
【0146】
高速撮影の終了指示を受けた高速撮影制御部48は、絞り目標値算出部55に絞り目標値の算出を依頼し、依頼を受けた絞り目標値算出部55は、絞り目標値を算出して高速撮影制御部48に返す。高速撮影制御部48は、フレームレートをR2からR1に戻し(ステップS780)、絞りと露光時間を通常撮影時に戻していく(ステップS790)。
その後、全体制御部100は、映像信号処理部54に指示を出し、バッファメモリ90
に記録している高速撮影映像データを画像処理して、記録媒体91に記録する(ステップS800)。
【0147】
ユーザが、撮影ボタン2を押してない状態に戻し、通常撮影の終了を指示する(ステップS810:YES)。この押下を検知した全体制御部100は、通常撮影を終了する処理を行う。
次に、図28を用いて、高速撮影録画処理について説明する。
図28は、高速撮影録画処理のフローチャートである。
【0148】
映像信号処理部54は、フロントエンド部50を介して撮像素子40から、フレームレートR2で送られてくる映像データを処理し、バッファメモリ90に記録する(ステップS900)。
映像信号処理部54は、最大高速録画可能時間Tmaxの期間の高速撮影映像データをバッファメモリ90に蓄え、Tmaxより古いデータはフレームレートR2からフレームレートR1の映像データに変換して記録媒体91に記録する(ステップS910)。この変換は、フレーム合成部58で行う。
【0149】
ユーザが、高速撮影スイッチ16を全押しして、録画を指示する(ステップS920)と、この押下を検知した全体制御部100は、録画をするよう映像信号処理部54に依頼する。この際、ユーザが事前に設定した記録モード、すなわち、録画指示時の前の映像データを記録するか、前後の時間の映像を記録するのか、後の映像を記録するのかを通知する。
【0150】
依頼を受けた映像信号処理部54は、通知された録画モードに従い、Tmax分の高速撮影映像データを取得し、バッファメモリ90に記録する(ステップS970)。取得したTmax以外の映像データは、フレームレートR1に変換して記録媒体91に記録する。
録画モードが、録画指示時の前の映像データを記録する場合は(ステップS930:(1))、録画指示時より前のTmaxの映像データを取得し(ステップS940)、録画指示時の前後の映像データを記録する場合は(ステップS930:(2))、録画指示時より前後でTmaxの映像データを取得し(ステップS950)、録画指示時の後の映像データを記録する場合は(ステップS930:(3))、録画指示時より後のTmaxの映像データを取得する(ステップS960)。
【0151】
<切り替え時のフレームの記録方法>
通常撮影から高速撮影に切り替える際には、1フレームの画像が保証できない場合が生じ得、その場合の対処法について説明する。
その場合とは、間引き方式(図4参照)により、フレームレートを変える場合である。言い換えれば、走査方式を変える時、すなわち、全走査から間引き走査に変わる時と間引き走査から全走査に変わる時とに、1フレームの間、画像信号が乱れる場合がある。
【0152】
この場合の、保証できない1フレームの画像を生成する方法について、図29を用いて説明する。
図29は、フレームレート切り替え時のフレームの生成方法を示す図である。
本図は、図5と同様に、通常撮影から高速撮影を行い、再び通常撮影に戻る場合の、絞り、露光時間、撮影モードのタイムチャートと、フレーム遷移表を示し、下部に、フレームの合成処理の流れを示す。
【0153】
t4〜t5とt8〜t9のそれぞれ1フレームが保証できないフレームである。本図では、それぞれバッファフレーム110とバッファフレーム111と記載している。
すなわち、通常撮影の通常フレームレートの最終フレーム112aと、高速撮影の高速フレームレートの最初のフレーム112bとの間にバッファフレーム110を入れることにより、このバッファ時間中に、撮像素子40の走査切り替えを行ったことにより出力される乱れた映像信号の影響を受けないという効果がある。
【0154】
後ろのバッファフレーム111の場合は、フレーム112gとフレーム112hの間にバッファフレーム111を入れる。
しかし、このバッファを入れることにより、t4〜t5やt8〜t9の間の1フレーム分の映像情報がなくなりシームレスに撮影できないこととなる。
そこで、このブランクを解消するため、本発明ではステップ105aで高速フレームレートのフレーム112b、112c、112dを合成し、合成フレーム113を作成する。
【0155】
次に、ステップ105bで、合成した合成フレーム113と通常フレームレートのフレーム112aを合成し、1枚の合成フレームを作成する。
ステップ105cで、最終フレーム112aとフレーム112bの間に、フレーム順序が現実的にもしくは仮想的に連続するようにFnを定義し、ステップ105dでメモリに記録する。
【0156】
バッファフレーム111の場合も同様に、ステップ105f、105g、105hを経てステップ105iでメモリに記録する。
ただし、これらの処理を撮影期間中に行うと、CPUや映像信号処理部54の負荷が大きくなり過ぎるため、ステップ105j、105kに示すように撮影終了後に処理、記録を行うことにより、負荷が大きくなることを防止でき、構成が簡単になるという効果がある。
【0157】
このようにバッファフレーム110、111を設け、バッファフレームが抜けた画像の前後のフレームから作成することにより、つながりがよくなるため、連続的に、またシームレスに撮影できるという効果がある。
図30は図29の絞り補正方式を図8を用いて説明したゲイン補正方式に変えた場合の実施例であり、動作は同じであるため説明を省略する。
【0158】
<間引き方式時の再生方法>
次に、記録した映像データを、再生する場合の方法について説明する。
図31は、間引き方式で撮影した映像データを再生する場合の方法を示す図である。本図において、矩形は1フレームを表し、1フレーム中の横線は、走査したラインを示す。高速度モードでのフレームレートは180fps、通常速度モードでのフレームレートは60fpsとする。
【0159】
第1段目は、間引き方式で実際に撮影した映像データであり、第2段目は、記録されている映像データである。第3段目は、スロー再生画像データを示す。
第4段目は、第2段目と同じ記録データを示し、第5段目は、通常再生画像データを示す。
ここでは、映像データのうち、間引き方式で撮影された間引き形式のフレームは、フレーム合成部58で、他のフレームを参照して抜けているラインを補ってフルライン形式のフレームとし、記憶する(第2段目参照)。この方法の一例は、図32を用いて後で説明する。このように記録しておくことで、汎用的な再生装置でも再生することが可能となる。
【0160】
この記録データをそのまま、通常のフレームレートで再生すると、高速度モードで撮影
した部分はスロー映像として再生される(第3段目参照)。
また、この記録データから、通常の再生を行うため、高速度モードで撮影した部分は、3フレームをフレーム合成部58で合成して1フレームとし(第4段目参照)、通常のフレームレートで再生すると、通常スピードの映像として再生される(第5段目参照)。
【0161】
このように、高速度撮影期間において、第1段目のような間引き方式で撮影した映像データを、第4段目と第5段目のように、3フレームに1回のフレームを出力すると実質的に通常速度で再生でき、通常撮影期間と動き的には全く同じ動画が出力される。尚、走査速度を高速化する直接方式で撮影した映像は、本図の第2段目の記録データと同じであるので、同様に通常速度で再生が可能である。
【0162】
次に、図32〜36を用いて、間引き形式のフレームからフルライン形式のフレームを生成する方法について説明する。
図32は、間引き補完処理の流れを示す図である。
フレーム120a、120b、120cは、間引き走査をされ(ステップ121a)、間引き画像122a、122b、122cとして出力される。
【0163】
これらの間引き画像は、図2の動き検出部126において動き補正され、間引き補間部123(ステップ121b)の位置合わせ部124によりブロック単位で位置合わせが成される(ステップ121c)。
これらの画素を、統合部128により統合し(ステップ121d)、統合画像125を得て(ステップ121e)、この画像を、リサンプリング部129によりリサンプリングを行う(ステップ121f)。ここで、リサンプリングとは、位置合わせを少数画素精度で行った場合に、位置合わせ結果を最も近い整数画素位置に丸めることをいう。
【0164】
その後、間引き画像の位置合わせが、オクルージョンや変形、動きベクトルが大きすぎるなどの理由により正常に成されなかった場合は、復元部130により復元を行い、例えば1080Pのフルライン画像131aを得る(ステップ121g)。
ここで復元とは、いわゆる画面内補間をいい、図36に示すように、差分検出部127により1〜7の各方向のライン上の画素の差分をとり、最も差分の少ない方向にある画素群を採用し、間引かれたラインの画素を補間生成する。例えば、最も差分の少ない方向にある選択された走査ライン上に位置する2画素から、内挿により間引かれた走査ラインの画素を生成する。
【0165】
同様に、フルライン画像131aの前のフレーム131bは、間引き画像122d、122a、122bの3枚の画像から、前の前のフレーム131cは間引き画像122e、122d、122aから、間引き補間部121bにより補間することにより得る。
この間引き補完プロセスを、図33を用いて説明する。
第1段目は、撮像素子40が撮影する画像を示し、第2段目は、記録されている映像データを示す。本図の、記録されている映像データは、図31と異なり、間引きされたままのフレームのデータである。
【0166】
第3段目は、フルライン画像データを示す。
まず、撮像素子40が撮影する画像(第1段目参照)から間引きを行い、間引き画像121a、121b、121c、121dを得る(第2段目参照)。
ここでは、間引き画像を記録することとしているが、第3段目に示すように、補間したフルライン画像131a、131d、131e、131fを得て、このフルライン画像を記録することとしてもよい。
【0167】
撮影装置のデータ処理能力によって、間引き画像を記録するか、フルライン画像を記録
するかを変える必要が有るが、図32に示すような、フルライン画像131の補間処理を行うには、大きなデータ処理能力と電力を必要とする。
従って、カメラの中におけるフルラインでのリアルタイム補間処理および動画像符号化処理は半導体技術の大幅な進展を待つ必要がある。
【0168】
この点に鑑み、本発明では現実的な方式を提案する。
図33の第2段目の間引き画像121a等は、エイリアシング・ノイズによるモアレなどが生じるため、そのままでは画面表示に適さない。
そこで図34に示すように、間引き画像121a、121b、121cを合成部138の中の動き補正部134により動き補正をした上で、混合部133により垂直方向にラインを混合して1本のラインを生成する。
【0169】
垂直ラインが1/3になった合成画像135aが得られる。
同様にして混合画像135b、135cも得られる。これらの画像はエイリアシング・ノイズによるモアレなどが消えているため、カメラの表示画像に使える。ライン数は1/3になるが、デジカメの画面サイズは小さいため、さほど支障は来たさない。
また、フルラインの補間処理に比べると1/3の処理でよいため、デジカメでも処理可能である。更に、消費電力も1/3になるという効果があり、バッテリー容量を小さくすることができる。
【0170】
尚、デジカメの小さな画面ではライン数が1/3になっても一般の使用者には区別できない。
しかし、デジカメでは画面を拡大してピント等の写り具合を見るためズーミングするということが一般的に行われている。合成画像は1/3のライン数であるため、拡大すると粗くなる。
【0171】
そこで、図35のように、ズームした時はある一定までは粗くなっていくが、ある一定以上になると、図35の第2段目に示す間引き画像132a、132b、132cの部分領域である、第3段目に示す部分領域136a、136b、136cの領域を、間引き補間部123により補間された部分領域である部分補間領域137a、137b等が得られる。
【0172】
この部分補完領域137a、137b等の解像度は、この領域だけ見るとフルライン画像131と同じである。従ってズーム表示ではフルラインと同じ解像度の画像がデジカメの画面に表示されるため、拡大表示画面でピント等の確認ができる。この方式では部分領域の補間処理を行うため処理量は1/n、例えば1/3になるため1/3の処理量のデバイスと1/3の消費電力が得られるため、現実的なデジカメが実現するという効果がある。
<補足>
以上、本発明の実施形態について説明したが、本発明は上記形態に限らず、以下のようにしてもよい。
(1)撮影装置は、図3の各構成要素の全部又は一部を、1チップ又は複数チップの集積回路で実現してもよい。例えば、図3の点線で囲まれた部分を1チップとするなどである。
(2)撮影装置は、図3の各構成要素の全部又は一部を、コンピュータのプログラムで実現してもよいし、その他どのような形態で実施してもよい。
【0173】
コンピュータプログラムの場合、メモリカード、CD−ROMなどいかなる記録媒体に書き込まれたものをコンピュータに読み込ませて実行させる形にしてもよいし、ネットワークを経由してプログラムをダウンロードして実行させる形にしてもよい。
【産業上の利用可能性】
【0174】
本発明に係る撮像装置は、撮影フレームレート切り替えにおいて、露光量を一定に保つ機構を有し、高速な動体を撮影する高速度カメラとして有用である。また、通常の動画撮影中に、移動量の大きい被写体を撮影するための高速撮影機能を有するビデオカメラ、デジタルカメラ等の用途にも応用できる。
【符号の説明】
【0175】
1 撮影装置
2 撮影ボタン
4 高速撮影準備スイッチ
5 モードダイヤル
16 高速度撮影スイッチ
33 ズーム駆動部
35 絞り駆動部
36 絞り
40 撮像素子
42 撮影モード設定部
48 高速撮影制御部
49 シャッター時間制御部
50 フロントエンド部
51 増幅器
52 AD変換器
53 露出休止時間制御部
54 映像信号処理部
55 絞り目標値算出部
56 明度検出部
57 AGC
58 フレーム合成部
60 フレームレート制御部
72 間引き制御部
73 感度制御部
74 ノイズフィルタ
75 ノイズ付加部
76 露出制御部
82 演算部
90 バッファメモリ
91 記録媒体

【特許請求の範囲】
【請求項1】
入射光を光電変換した電荷を蓄積する撮像素子から信号を読み出して、所定のフレームレートで、画像フレームを出力する撮像手段と、
前記入射光の量を定める絞りの度合いを変更する絞り調整手段と、
前記入射光を光電変換した電荷を蓄積する時間である露光時間を変更する露光時間調整手段と、
制御手段とを備え、
前記制御手段は、
第1のフレームレートでの撮影中に、前記第1のフレームレートと異なる第2のフレームレートでの撮影の開始が指示された場合、前記第1のフレームレートを維持したままで、前記絞り調整手段に前記絞りの度合いを第1目標値に向けて変更させ始めると共に前記露光時間調整手段に前記露光時間を第2目標値に向けて変更させ始め、
前記絞りの度合いが前記第1目標値に到達し前記露光時間が前記第2目標値に到達した後、前記撮像手段に前記所定のフレームレートを前記第1のフレームレートから前記第2のフレームレートに切り替えさせる
ことを特徴とする撮影装置。
【請求項2】
前記第1のフレームレートは通常撮影のフレームレートであり、
前記第2のフレームレートは前記通常撮影のフレームレートより高い高速撮影のフレームレートであり、
高速撮影を設定する高速撮影モードスイッチと、
前記高速撮影の開始のための高速撮影スイッチと、を更に備え、
前記制御手段は、前記高速撮影モードスイッチにより高速撮影が設定された状態で前記高速撮影スイッチの半押しが検知された場合に、前記第1のフレームレートを維持したままで、前記絞り調整手段に前記絞りを第1目標値に向けて変更させ始めると共に前記露光時間調整手段に前記露光時間を第2目標値に向けて変更させ始める
ことを特徴とする請求項1記載の撮影装置。
【請求項3】
前記制御手段は、前記絞りが前記第1目標値に到達し前記露光時間が前記第2目標値に到達した後、前記高速撮影スイッチの全押しが検知された場合、前記撮像手段に前記所定のフレームレートを前記通常撮影のフレームレートから前記高速撮影のフレームレートに切り替えさせる
ことを特徴とする請求項2記載の撮影装置。
【請求項4】
前記第1目標値は、前記第1のフレームレートで撮影した場合の画像フレーム毎の蓄積電荷と前記第2のフレームレートで撮影した場合の画像フレーム毎の蓄積電荷とが同程度となるように、前記絞り調整手段に前記絞りの度合いを変更させるための目標値であり、
前記第2目標値は、前記第1のフレームレートで撮影した場合の画像フレーム毎の蓄積電荷と前記前記2のフレームレートで撮影した場合の画像フレーム毎の蓄積電荷とが同程度となるように、前記露光時間調整手段に前記露光時間を変更させるための目標値である
ことを特徴とする請求項1記載の撮影装置。
【請求項5】
撮影装置で用いられる集積回路であって、
入射光を光電変換した電荷を蓄積する撮像素子から信号を読み出して、所定のフレームレートで、画像フレームを出力する撮像手段と、
前記入射光の量を定める絞りの度合いを変更する絞り調整手段と、
前記入射光を光電変換した電荷を蓄積する時間である露光時間を変更する露光時間調整手段と、
制御手段とを備え、
前記制御手段は、
第1のフレームレートでの撮影中に、前記第1のフレームレートと異なる第2のフレームレートでの撮影の開始が指示された場合、前記第1のフレームレートを維持したままで、前記絞り調整手段に前記絞りの度合いを第1目標値に向けて変更させ始めると共に前記露光時間調整手段に前記露光時間を第2目標値に向けて変更させ始め、
前記絞りの度合いが前記第1目標値に到達し前記露光時間が前記第2目標値に到達した後、前記撮像手段に前記所定のフレームレートを前記第1のフレームレートから前記第2のフレームレートに切り替えさせる
ことを特徴とする集積回路。
【請求項6】
入射光を光電変換した電荷を蓄積する撮像素子から信号を読み出して、所定のフレームレートで画像フレームを出力する撮像手段と、前記入射光の量を定める絞りの度合いを変更する絞り調整手段と、前記入射光を光電変換した電荷を蓄積する時間である露光時間を変更する露光時間調整手段とを備える撮影装置で用いられる撮像方法であって、
前記撮像手段が第1のフレームレートで前記画像フレームを出力しているとき、前記第1のフレームレートと異なる第2のフレームレートでの撮影の開始が指示された場合、前記第1のフレームレートを維持したまま、前記絞り調整手段に前記絞りの度合いを第1目標値に向けて変更させ始める絞り調整ステップと、
前記絞りの度合いの変更と共に、前記露光時間調整手段に前記露光時間を第2目標値に向けて変更させ始める露光時間調整ステップと、
前記絞りの度合いが前記第1目標値に到達し前記露光時間が前記第2目標値に到達した後、前記撮像手段に前記所定のフレームレートを前記第1のフレームレートから前記第2のフレームレートに切り替えさせるフレームレート変更ステップと
を含むことを特徴とする撮影方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate

【図27】
image rotate

【図28】
image rotate

【図29】
image rotate

【図30】
image rotate

【図31】
image rotate

【図32】
image rotate

【図33】
image rotate

【図34】
image rotate

【図35】
image rotate

【図36】
image rotate


【公開番号】特開2013−85279(P2013−85279A)
【公開日】平成25年5月9日(2013.5.9)
【国際特許分類】
【出願番号】特願2012−272690(P2012−272690)
【出願日】平成24年12月13日(2012.12.13)
【分割の表示】特願2009−524400(P2009−524400)の分割
【原出願日】平成20年7月25日(2008.7.25)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】