撮像装置
【課題】3D映像を撮影できる撮像装置において、撮影中にパン、チルトまたは大きな手振れが発生した場合は、鑑賞者に違和感を与える3D映像となってしまうおそれがある。
【解決手段】本発明の撮像装置100は、撮像装置100の動きを検出する動き検出部210と、被写体像を撮像して得られる2D映像データと3D映像データとを、検出された撮像装置100の動きに応じて切り替えて出力する映像データ出力部209とを備える。撮像装置100の動きに応じて、2D映像データと3D映像データとを切り替えて出力することにより、適切な映像を提供することができる。また、撮像装置100の動きに応じて、光学系のステレオベースを変更する、あるいは、左右の画像間の視差を調整することにより、適切な映像を提供することができる。
【解決手段】本発明の撮像装置100は、撮像装置100の動きを検出する動き検出部210と、被写体像を撮像して得られる2D映像データと3D映像データとを、検出された撮像装置100の動きに応じて切り替えて出力する映像データ出力部209とを備える。撮像装置100の動きに応じて、2D映像データと3D映像データとを切り替えて出力することにより、適切な映像を提供することができる。また、撮像装置100の動きに応じて、光学系のステレオベースを変更する、あるいは、左右の画像間の視差を調整することにより、適切な映像を提供することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置に関し、特に2D(Two−Dimensional)動画と3D(Three−Dimensional)動画を撮影する機能を有する撮像装置に関する。
【背景技術】
【0002】
近年、テレビと映画コンテンツの3D化に伴い、3D映像を一般ユーザーが簡単に視聴できる環境が整いつつある。これに連動して、撮像装置に関しても3D撮影が可能なカメラが提案されている。
【0003】
3D映像の撮影には、従来より同一の被写体を複数の視点から同時に撮影し、その視点間の視差量から3D映像を取得・生成する方法が一般に用いられている。しかし、3D映像は視差のある画像から人間が脳内で映像を立体像と認識するプロセスを経るため、眼で視覚される画像が人間の立体像の認識プロセスに合わせて適度に調整された画像でない場合には、鑑賞者に違和感を与える恐れがある。そのため特許文献1のように、3Dに対応した撮像装置で3D映像を撮影する場合には、2D撮影の場合に比べてカメラの制御方法(特許文献1の場合は、露出制御の周期)を変えて、3D映像の視聴時に鑑賞者に違和感を与えることが無いようにすることが提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−187385号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、3D映像において鑑賞者が違和感を感じる条件には、他にも様々なケースが考えられる。特にプロフェッショナルではない一般のカメラユーザーが3D映像を撮影できる民生用途のカメラにおいては、撮影された3D映像が鑑賞時に違和感を与えない適切な映像となるように、あらかじめ撮影時の状況に合わせて自動でカメラを制御したり、記録される3D映像データを加工したりしておくべきである。
【0006】
本発明はこのような課題を鑑みてなされたものであり、鑑賞者に違和感を与える3D映像になる可能性がある撮影条件では、自動でカメラを制御する、もしくは映像データに加工を施すことで、適切な映像を提供できる撮像装置を提供する。
【課題を解決するための手段】
【0007】
本発明の撮像装置は、自装置の動きを検出する動き検出部と、被写体像を撮像して得られる2D映像データと3D映像データとを、前記検出された自装置の動きに応じて切り替えて出力する映像データ出力部とを備えることを特徴とする。
【0008】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、前記映像データ出力部が前記3D映像データを出力しているときに、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する。
【0009】
ある実施形態によれば、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する。
【0010】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、前記映像データ出力部が前記3D映像データを出力しているときに、前記揺動が所定レベル以上と判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する。
【0011】
ある実施形態によれば、前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する。
【0012】
ある実施形態によれば、前記動き検出部は角速度センサである。
【0013】
ある実施形態によれば、前記動き検出部は撮影画像から動きベクトルを検出する。
【0014】
本発明の撮像装置は、自装置の動きを検出する動き検出部と、互いに並んで配置され、それぞれ被写体像を形成する第1および第2の光学系と、前記第1および第2の光学系で形成される2つの被写体像を撮像して得られた画像信号に基づき、3D映像データを生成する映像データ生成部と、前記検出された自装置の動きに応じて、前記第1および第2の光学系の少なくとも一方の光学系を光軸と垂直な方向に移動させ、前記第1および第2の光学系の光軸間の距離であるステレオベースを変更する変更部とを備えることを特徴とする。
【0015】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記変更部は、前記ステレオベースを短くする。
【0016】
ある実施形態によれば、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記変更部は、前記ステレオベースを長くする。
【0017】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、前記変更部は、前記揺動が所定レベル以上と判定された場合、前記ステレオベースを短くする。
【0018】
ある実施形態によれば、前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記変更部は、前記ステレオベースを長くする。
【0019】
ある実施形態によれば、前記動き検出部は角速度センサである。
【0020】
ある実施形態によれば、前記動き検出部は撮影画像から動きベクトルを検出する。
【0021】
本発明の撮像装置は、自装置の動きを検出する動き検出部と、被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記検出された自装置の動きに応じて調整する視差調整部と、前記調整された視差に基づき3D映像データを生成する映像データ生成部とを備えることを特徴とする。
【0022】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記視差調整部は、前記視差を小さくする。
【0023】
ある実施形態によれば、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記視差調整部は、前記視差を大きくする。
【0024】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、前記視差調整部は、前記揺動が所定レベル以上と判定された場合、前記視差を小さくする。
【0025】
ある実施形態によれば、前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記視差調整部は、前記視差を大きくする。
【0026】
ある実施形態によれば、前記動き検出部は角速度センサである。
【0027】
ある実施形態によれば、前記動き検出部は撮影画像から動きベクトルを検出する。
【0028】
本発明のプログラムは、映像処理を撮像装置に実行させるプログラムであって、前記プログラムは、被写体像を撮像して得られる2D映像データと3D映像データとを、前記撮像装置の動きに応じて切り替えて出力するステップを前記撮像装置に実行させることを特徴とする。
【0029】
本発明のプログラムは、映像処理を撮像装置に実行させるプログラムであって、前記プログラムは、被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記撮像装置の動きに応じて調整するステップと、前記調整された視差に基づき3D映像データを生成するステップとを前記撮像装置に実行させることを特徴とする。
【発明の効果】
【0030】
本発明によれば、鑑賞者に違和感を与える3D映像になる可能性がある撮影条件では、自動でカメラを制御する、もしくは映像データに加工を施すことで、適切な映像を提供することができる。
【0031】
本発明のある実施形態によれば、撮像装置の動きに応じて、2D映像データと3D映像データとを切り替えて出力することにより、適切な映像を提供することができる。
【0032】
また、本発明のある実施形態によれば、撮像装置の動きに応じて、第1および第2の光学系の光軸間の距離であるステレオベースを変更することにより、適切な映像を提供することができる。
【0033】
また、本発明のある実施形態によれば、撮像装置の動きに応じて、右目用の画像と左目用の画像との間の視差を調整することにより、適切な映像を提供することができる。
【図面の簡単な説明】
【0034】
【図1】本発明の実施形態1における撮像装置の外観を示す図である。
【図2】本発明の実施形態1における撮像装置の内部構成を示す図である。
【図3】本発明の実施形態1における撮像装置の動作を示すフローチャートである。
【図4】本発明の実施形態1におけるパンニング中の水平・垂直動きセンサの出力信号を示す図である。
【図5】本発明の実施形態2における撮像装置の動作を示すフローチャートである。
【図6】本発明の実施形態2における撮影中の水平・垂直動きセンサの出力信号を示す図である。
【図7】本発明の実施形態2における撮像装置の動作を示すフローチャートである。
【図8】本発明の実施形態3における撮像装置の内部構成を示す図である。
【図9】本発明の実施形態3における撮像装置の動作を示すフローチャートである。
【図10】本発明の実施形態3におけるステレオベース変更方法を示す図である。
【図11】本発明の実施形態4における撮像装置の動作を示すフローチャートである。
【図12】本発明の実施形態4における撮像装置の動作を示すフローチャートである。
【図13】本発明の実施形態4におけるステレオベース変更方法を示す図である。
【図14】本発明の実施形態5における撮像装置の内部構成を示す図である。
【図15】本発明の実施形態5における視差調整部の内部構成を示す図である。
【図16】本発明の実施形態5における撮像装置の動作を示すフローチャートである。
【図17】本発明の実施形態5における視差を説明する図である。
【図18】本発明の実施形態5における視差の変更方法を示す図である。
【図19】本発明の実施形態5における視差の変更方法を示す図である。
【発明を実施するための形態】
【0035】
以下、本発明の実施形態の撮像装置について図面を参照しながら説明する。
【0036】
(実施形態1)
図1は、本発明の実施形態1における撮像装置100の外観を示す図である。図1に示した撮像装置100は、2つの撮像レンズ100R(被写体に向かって右側)と、100L(被写体に向かって左側)と、録画ON/OFFスイッチ101と、モード切替スイッチ102と、ズームレバー103と、ストロボ104とを備える。
【0037】
2つの撮影レンズ100Rと100Lを介して得られた左右方向に視差のある2つの映像を元に3D映像を撮影する。なお本撮像装置100は2つの撮影レンズのいずれか一方の映像だけを用いて2D映像を撮影することも可能である。
【0038】
モード切替スイッチ102は、2D撮影と3D撮影、動画撮影と静止画撮影等の撮影モードを切り替える。ズームレバー103は、2つの撮影レンズ100Rと100Lの焦点距離の変更を指示する。ストロボ104は暗い被写体を撮影する際に使用する。動画撮影モード時に、録画ON/OFFスイッチ101を一旦押下されると動画記録が開始され、再度押下されると録画が停止する。
【0039】
図2は、図1に示した撮像装置100の内部構成を示すブロック図である。図2において、参照符号の末尾にRが付された構成要素は、撮影レンズ100Rを介して得られる被写体像から画像データを得るための構成要素を表しており、参照符号の末尾にLが付された構成要素は、撮影レンズ100Lを介して得られる被写体像から画像データを得るための構成要素を表している。Rが付された構成要素とLが付された構成要素の機能および動作は基本的には同じであるので、同じ説明の繰り返しは省略する。ここではRが付された構成要素の機能および動作を主に説明する。
【0040】
図2において、撮影レンズ100Rは、被写体像を撮像素子200R上に結像させるための複数のレンズ群からなる光学系であり、ズーム機能および合焦機能を有する。
【0041】
撮像素子200Rは結像した被写体像を電気信号(画像信号)に変換する光電変換デバイスであり、例えばCCDイメージセンサやCMOSイメージセンサである。
【0042】
アナログ信号処理部201Rは、撮像素子200Rから得られた画像信号に対しゲイン調整、ノイズ除去等の処理を施す。これらの処理後、画像信号はA/D変換部202Rによりデジタル信号に変換される。
【0043】
A/D変換部202Rによりデジタル信号に変換された画像信号は、デジタル信号処理部203Rに送られる。
【0044】
デジタル信号処理部203Rは、例えば、輝度信号と色差信号の分離、ノイズ除去、ガンマ補正、先鋭度改善処理、電子ズーム処理等の必要なデジタル処理を実行する。また撮影された画像信号のコントラストの変化を検出し、撮影レンズ100Rの合焦制御(オートフォーカス)に必要となる情報を抽出し、後述するシステム制御部208に供給する。
【0045】
メモリ204は、デジタル信号処理部203Rを経由した画像データ(画像信号)を記憶する。ここで、記憶される画像データはデジタル信号処理部203Rでの処理後の信号に限るものではない。A/D変換部202Rから供給される画像データをそのまま一旦メモリ204に記憶し、必要な画像データのみを例えばブロック単位でメモリ204から読み出してデジタル信号処理部203Rにて処理し、再度、メモリ204に書き戻す、というようなバッファメモリ的な使い方も可能である。
【0046】
メモリ制御部205は、システム制御部208の指示に従い、メモリ204への画像データの記録、およびメモリ204からの画像データの読み出しを制御する。
【0047】
ズーム・AF駆動部206Rは、図示しないズームモーターおよびフォーカスモーターを駆動し、撮影レンズ100Rのズーム倍率と合焦を制御し、システム制御部208からの指令信号に従い、撮影レンズ100Rのズーム倍率と合焦位置(フォーカス)を調整する。
【0048】
撮像素子駆動制御部207Rは、撮像素子200Rの露光タイミングや信号の読み出しタイミング、電子シャッター動作を制御するためのパルス信号を供給し、システム制御部208からの指令信号に従い、撮像素子200Rを駆動制御する。
【0049】
撮影レンズ100L、撮像素子200L、アナログ信号処理部201L、A/D変換部202L、デジタル信号処理部203L、ズーム・AF駆動206L、撮像素子駆動制御部207Lは、参照符号にRを付した上述の構成要素と同様の機能および動作の構成要素であるため、説明は省略する。
【0050】
システム制御部208は、撮像装置100の動作全体を制御する。システム制御部208は、デジタル信号処理部203Rおよび203Lや水平・垂直動きセンサ210から供給される情報、モード切替スイッチ102およびズームレバー103の状態等に基づき、ズーム・AF駆動制御部206Rおよび206L、撮像素子駆動制御部207Rおよび207L、デジタル信号処理部203Rおよび203L、メモリ制御部205、3D映像生成部209等を統合的に制御し、映像撮影時にそれぞれが連動して適切な動作を行うよう指令を与える。システム制御部208は、例えばマイクロコンピュータとそれに格納される制御プログラムからなる。
【0051】
3D映像生成部209は、2つの撮影レンズとそこから得られた被写体像を処理する2系統の要素から得られた2種類の画像信号を元に3D映像を生成する。
【0052】
水平・垂直動きセンサ210は、撮像装置100自体の動きを検出する動き検出部として機能する。水平・垂直動きセンサ210は、例えばジャイロセンサ(角速度センサ)などの物理センサであり、撮像装置100の内部に組み込まれ、撮像装置100自体の動きに応じた角速度データを出力し、システム制御部208に供給する。また、3D映像生成部209は、被写体像を撮像して得られる2D映像データと3D映像データとを、検出された撮像装置100の動きに応じて切り替えて出力する映像データ出力部として機能する。
【0053】
以上のように構成された本実施形態1の撮像装置100の動作について、以下により詳細に説明する。
【0054】
まずあらかじめ撮像装置100のモード切替スイッチ102が3D動画の撮影モードに設定されているものとする。このとき、撮像装置の操作者が録画ON/OFFスイッチ101を押下し録画を開始すると、システム制御部208は撮影レンズ100Rと100Lのズーム倍率を同じに設定し、且つ2つのレンズを正しく合焦させてから、2つの撮像素子200Rと200Lを同一タイミングで駆動し撮影を開始する。そして所定のフレーム周期で撮影された画像信号は2つの撮像素子から出力され、アナログ信号処理部201Rと201L、A/D変換部202Rと202L、デジタル信号処理部203Rと203Lを経由して3D映像生成部209に供給され、ここで3D映像データが生成される。3D映像データの生成方法は公知の技術である。例えば本実施形態においては、2系統のシステムから得られた視差のある2系統の動画から、左目用と右目用の映像を記録する時分割方式を用いて3D映像データが生成され、図示しない撮像装置の記録メディア(ハードディスクや半導体メモリカードなど)に記録される。なお、生成された3D映像データは、メモリ204に記録されてもよいし、撮像装置100内には記録されずに外部機器へ出力されてもよい。
【0055】
また、録画が開始されると、水平・垂直動きセンサ210において撮像装置100の動きが検出され、システム制御部208に供給される。
【0056】
撮像装置100を使って動画を撮影する場合、撮影者が意図的に構図を変えることは頻繁に行われる。ここで、特に速い構図の変化は、パンニング(水平方向の構図変化。以降ではパンと略記する。)や、チルティング(垂直方向の構図変化。以降ではチルトと略記する。)と呼ばれることは周知のことである。このように撮影中にパンやチルト動作を行うと、2D撮影に於いても構図(被写体像)の変化に鑑賞者がついていけず違和感を感じることが多々あるが、これが3D映像の場合は更に顕著な違和感に繋がる。
【0057】
そこで本実施形態1においては、水平・垂直動きセンサ210の出力から撮影装置100の動き(撮影状況)を判断して、上述のパンやチルト動作が発生した場合には、録画される映像を3D映像から2D映像に切り替えることで上述した鑑賞者の違和感を軽減する。
【0058】
システム制御部208は、撮像装置100の動きに基づいて、パンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部として機能する。パンニングおよびチルティングが同時に発生している場合は、何れか一方またはそれらの合成ベクトルをモニタする。3D映像生成部209が3D映像データを出力しているときに、パンニング撮影およびチルティング撮影の少なくとも一方の状態であると判定された場合、3D映像生成部209は、3D映像データから2D映像データへ切り替えて出力する。また、その後、パンニング撮影およびチルティング撮影のいずれでもない状態になったと判定された場合、3D映像生成部209は、2D映像データから3D映像データへ切り替えて出力する。
【0059】
この動作について、図3のフローチャートを用いて詳しく説明する。
【0060】
図3は、本実施形態1における3D撮影と2D撮影を切り替える動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部208にハードウエアもしくはソフトウエアとして実装されている。
【0061】
図3において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ300)。本実施形態1において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部208に取り込まれるデータは撮像装置100の動きの角速度である。ここで撮像装置100を撮影者が手で保持しながら撮影し、その途中でパンを行ったとすると、水平・垂直動きセンサ210から出力される信号は、例えば図4のようになる。
【0062】
図4において、縦軸は水平・垂直動きセンサの出力(単位はボルト)、横軸は時間(単位は秒)である。実線が水平・垂直動きセンサ210の出力、点線が例えば撮像装置が三脚などに固定されて完全に静止している場合の水平・垂直動きセンサ210の出力レベル(中心電位)である。図4に示すように手で保持して撮影している場合は、手振れによって水平・垂直動きセンサ210の出力は中心電位を挟んで上下にランダムに変化する。パン中には撮像装置100が一定方向に連続的に変位させられるため、水平・垂直動きセンサ210の出力は中心電位からみて片側に偏在することになる。
【0063】
図3のステップ301において、水平・垂直動きセンサ210の出力の変化を連続してモニタし、一定期間にわたって水平・垂直動きセンサ210の出力が中心電位の片側に偏在した場合、パンもしくはチルトが開始されたと判断する。逆に水平・垂直動きセンサ210の出力が上記の一定期間未満で中心電位をまたいで変化した場合は、パンもしくはチルトではないと判断し、ステップ300に戻る。ステップ301でパンもしくはチルトと判断された場合、ステップ302へ進み、録画を3D映像から2D映像に自動で切り替える。なお、撮像装置100の動きが遅い場合でも、一定期間以上の移動が続いている場合は、録画を3D映像から2D映像に自動で切り替えてもよい。
【0064】
次に引き続き水平・垂直動きセンサ210の出力をモニタし(ステップ303)、上記一定期間未満で水平・垂直動きセンサ210の出力が中心電位をまたいで変化した場合は、パンもしくはチルトが終了したと判断して(ステップ304)、ステップ305に進み録画を2D映像から3D映像に切り替える。パンもしくはチルトが終了していないと判断した場合は、ステップ303に戻ってモニタを続ける。
【0065】
なお、3D撮影から2D撮影への切り替える方法としては、撮像装置100が有する2系統のカメラ系のうち、いずれか一方から得られた画像のみを3D映像生成部209に供給し、1系統のカメラ画像だけからなる映像を出力させるものとするか、もしくは2系統の画像を合成して2D映像を合成しても構わない。
【0066】
以上のように本実施形態1によれば、3D映像撮影時に、パンもしくはチルトのようなカメラ操作によって、撮影された3D映像が鑑賞者に違和感を与える可能性がある状況では、映像を3D映像から2D映像に自動で切替えることで、鑑賞するのに適切な映像データを得ることができる。
【0067】
(実施形態2)
本発明の実施形態2として、パンもしくはチルトのようなカメラ操作ではなく、撮像装置100を手で保持して撮影する際に発生する手振れの大小に応じて3D撮影と2D撮影を切り替える例について以下に説明する。なお、実施形態2における撮像装置100の基本構成は、図1、図2に示したものと同様であるためその説明は省略する。
【0068】
撮像装置を使って動画を撮影する場合、撮影者が撮像装置を手で保持して撮影すると、手振れによる映像の揺動が不可避である。この撮影中の手振れによる映像の揺動を補正する技術としては、例えば連続する画像間の動きベクトルを検出し、この動きベクトルに基づき画像の一部を切り出す技術が知られている。また、手振れによるカメラの動き(例えば角速度)を検出し、これに応じて特殊な光学レンズを光軸に直交する面内で移動させ光軸を動かすことで手振れによる映像の動きを補正する技術も存在する。いかなる条件においても手振れによる映像の揺動を完全に除去することは困難である。そのため手振れによる映像の揺動が大きい場合、例えば歩行しながらの撮影や自動車等の乗り物に乗車しての撮影では、映像の揺動により、撮影された3D映像が鑑賞者に顕著な違和感を与えることになり得る。
【0069】
そこで本実施形態2においては、水平・垂直動きセンサ210の出力から撮影装置100の動き(手振れの大小)を判断して、所定以上の大きな手振れが発生した場合には、録画される映像を3D映像から2D映像に切り替えることで上述した鑑賞者の違和感を軽減する。
【0070】
システム制御部208は、撮像装置100の動きに基づいて、撮像装置100が手振れによる揺動の状態を判定する判定部として機能する。3D映像生成部209が3D映像データを出力しているときに、撮像装置100の揺動が所定レベル以上と判定された場合、3D映像生成部209は、3D映像データから2D映像データへ切り替えて出力する。また、その後、揺動が所定レベル未満になったと判定された場合、3D映像生成部209は、2D映像データから3D映像データへ切り替えて出力する。
【0071】
この動作について、図5のフローチャートを用いて詳しく説明する。
【0072】
図5は、本実施形態2における3D撮影と2D撮影を切り替える動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部208にハードウエアもしくはソフトウエアとして実装されている。
【0073】
図5において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ500)。本実施形態2において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部208に取り込まれるデータは撮像装置100の動きの角速度である。次にこの出力を積分する(ステップ501)。これを積分すれば撮像装置100の移動角度を求めることができる。なお、積分の前に、水平・垂直動きセンサ210の出力から中心電位に相当する量を減算しておく。
【0074】
ステップ502においては、ステップ501にて求められた撮像装置100の移動角度が一定角度以上の場合、手振れが大きいと判断し、ステップ503へ進み、録画を3D映像から2D映像に自動で切り替える。逆に撮像装置100の移動角度が一定角度未満の場合には、ステップ500に戻り、3D撮影を継続する。
【0075】
ステップ503で3D映像から2D映像に切り替えた場合は、ステップ504にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ505にてこれを積分して撮像装置100の移動角度を求める。そしてステップ506において、ステップ505にて求められた撮像装置100の移動角度が一定角度未満に低下した場合、手振れが小さくなったと判断し、ステップ507へ進み、録画を2D映像から3D映像に自動で切り替える。手振れが依然大きいままの場合は、ステップ504に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。
【0076】
以上のように本実施形態2によれば、3D映像撮影時に、撮影者の手振れによって、撮影された映像が鑑賞者に違和感を与える可能性がある状況では、映像を3D映像から2D映像に自動で切替えることで、鑑賞するのに適切な映像を撮影することができる。
【0077】
なお手振れの大小を判断する方法としては、図5を用いて説明した以外に、図6および図7で説明する方法も考えられる。
【0078】
図6は手で撮像装置100を保持して撮影した場合の水平・垂直動きセンサ210の出力例(手振れの角速度)である。図6において、縦軸は水平・垂直動きセンサの出力(単位はボルト)、横軸は時間(単位は秒)である。実線が水平・垂直動きセンサ210の出力、点線が例えば撮像装置100が三脚などに固定されて完全に静止している場合の水平・垂直動きセンサ210の出力レベル(中心電位)である。
【0079】
図6に示すように手振れは低い周期的な動きが支配的である。そのため図5に示した例のように角速度を積分した移動角度の大小だけで手振れの大きさを判断すると、周期的に手振れの大小が変化し、3D撮影と2D撮影が頻繁に切り替わり、却って見苦しい映像となる可能性がある。そこで図6中に矢印で示した区間での水平・垂直動きセンサ210の出力の二乗平均値を算出し、更にこの二乗平均値を求める区間を移動させていけば、一定期間内での手振れの大小の傾向を把握することができる(なお、二乗平均値を求める前に、水平・垂直動きセンサ210の出力から中心電位に相当する量を減算しておく)。例えば、ある区間での二乗平均値が大きい場合には、撮影者が連続して歩行撮影しているなど手振れが大きく発生する状況にあると予想することができる。そしてこの傾向に応じて手振れの大小を判断して3D撮影と2D撮影を切り替えれば、この切り替えが頻繁に起こることが避けられ、より好ましい映像を撮影することができる。
【0080】
図7は、上述の二乗平均値を算出する方法を用いて3D撮影と2D撮影を切り替える動作のフローチャートである。図7において、ステップ701、702、705および706が、水平・垂直動きセンサ210の出力値の一定区間の二乗平均値を算出して手振れの大小を求めるステップである。
【0081】
図7において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ700)。次に、水平・垂直動きセンサ210の出力の一定区間での二乗平均値を算出する(ステップ701)。
【0082】
ステップ702においては、算出した二乗平均値が所定値以上の場合、手振れが大きいと判断し、ステップ703へ進み、録画を3D映像から2D映像に自動で切り替える。逆に撮像装置100の二乗平均値が所定値未満の場合には、ステップ700に戻り、3D撮影を継続する。
【0083】
ステップ703で3D映像から2D映像に切り替えた場合は、ステップ704にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ705にて一定区間での二乗平均値を算出する。そしてステップ706において、ステップ705にて求められた二乗平均値が所定値未満に低下した場合、手振れが小さくなったと判断し、ステップ707へ進み、録画を2D映像から3D映像に自動で切り替える。手振れが依然大きいままの場合は、ステップ704に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。このように、映像を3D映像から2D映像に自動で切替えることで、鑑賞するのに適切な映像を撮影することができる。
【0084】
(実施形態3)
本発明の実施形態3における撮像装置200について図8および図9を参照して説明する。撮像装置200では、撮像装置100(図2)に、撮影レンズ100Rと100Lの間の物理的距離(以降ではステレオベース)を可変たらしめるためのステレオベース変更部800を設け、これをシステム制御部801から制御する。システム制御部801の基本的な動作はシステム制御部208(図2)と同様である。図8の撮像装置200において、撮像装置100と同様の構成要素については同じ参照符号を付し、同様の説明の繰り返しは省略する。
【0085】
図8は本発明の実施形態3における撮像装置200の内部構成を示すブロック図である。2つの撮影レンズ(光学系)100Rおよび100Lは、互いに並んで配置され、それぞれ被写体像を形成する。ステレオベース変更部800は、2つの撮影レンズ100Rおよび100Lの光軸間の距離であるステレオベースを自由に変更するための機構および駆動モーターからなり、システム制御部801からの指令信号に基づいてステレオベースを変更する。ステレオベース変更部800は、撮像装置200の動きに応じて、撮影レンズ100Rおよび100Lの少なくとも一方の光学系を光軸と垂直な方向に移動させ、ステレオベースを変更する。
【0086】
このステレオベース変更部800によって2つの撮影レンズ100Rと100L間のステレオベースを変更することで、撮影される3D映像の立体感(飛び出し量)を変更することが可能である。なおステレオベースを変更することは、左右の2画像間の視差を変更することである。視差と3D映像の立体感(飛び出し量)を調整するために2画像間の視差を調整する方法は、例えば2系統のカメラで得られた左右の2画像間の水平方向の空間的な位置ズレ量を画像処理で調整する方法がある。他には例えば特開2010−45584公報に開示された方法もある。
【0087】
ここで、本発明の実施形態1において述べたとおり、撮影中にパンやチルト動作を行うと、3D映像の鑑賞者の違和感に繋がることがある。
【0088】
そこで本実施形態3においては、水平・垂直動きセンサ210の出力から撮影装置200の動き(撮影状況)を判断して、上述のパンやチルト動作が発生した場合には、2つの撮影レンズ100Rと100L間のステレオベースを自由に変更し、撮影される3D映像の立体感(飛び出し量)を調整することで鑑賞者の違和感を軽減する。
【0089】
ステレオベース変更部800は、撮像装置200がパンおよびチルトの少なくとも一方の状態であると判定された場合、ステレオベースを短くして、3D映像の立体感を弱くする。その後、パンおよびチルトの状態でなくなったと判定された場合、ステレオベース変更部800は、ステレオベースを長くして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0090】
この動作について、図9のフローチャートを用いて詳しく説明する。
【0091】
図9は、本実施形態3における撮影レンズ100Rと100Lの間のステレオベースを変更する動作を説明するフローチャートである。この動作を実現するアルゴリズムはシステム制御部801にハードウエアもしくはソフトウエアとして実装されている。
【0092】
図9において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ900)。本実施形態3において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部801に取り込まれるデータは撮像装置200の動きの角速度である。ここで撮像装置200を撮影者が手で保持しながら撮影し、その途中でパンを行ったとすると、水平・垂直動きセンサ210から出力される信号は、例えば図4のようになる。
【0093】
図4において、縦軸は水平・垂直動きセンサの出力(単位はボルト)、横軸は時間(単位は秒)である。実線が水平・垂直動きセンサ210の出力、点線が例えば撮像装置200が三脚などに固定されて完全に静止している場合の水平・垂直動きセンサ210の出力レベル(中心電位)である。図4に示すように手で保持して撮影している場合は手振れによって水平・垂直動きセンサ210の出力は中心電位を挟んで上下にランダムに変化する。パン中には撮像装置200が一定方向に連続的に変位させられるため、水平・垂直動きセンサ210の出力は中心電位からみて片側に偏在することになる。
【0094】
図9のステップ901において水平・垂直動きセンサ210の出力の変化を連続してモニタし、一定期間にわたって水平・垂直動きセンサ210の出力が中心電位の片側に偏在した場合、パンもしくはチルトが開始されたと判断する(ステップ901)。逆に水平・垂直動きセンサ210の出力が上記の一定期間未満で中心電位をまたいで変化した場合は、パンもしくはチルトではないと判断し、ステップ900に戻る。ステップ901でパンもしくはチルトと判断された場合、ステップ902へ進み、撮影レンズ100Rと100Lの間のステレオベースを変更する。この際、ステレオベースの変更は、3D映像の立体感(飛び出し量)が小さくなる方向に変更することが好ましいため、具体的には撮影レンズ100Rと100Lの間のステレオベースを短くするように変更する。
【0095】
次に引き続き水平・垂直動きセンサ210の出力をモニタし、上記一定期間未満で水平・垂直動きセンサ210の出力が中心電位をまたいで変化した場合はパンもしくはチルトが終了したと判断して(ステップ904)、ステップ905に進み、撮影レンズ100Rと100Lの間のステレオベースを拡大して元に戻す。
【0096】
以上のように本実施形態3によれば、3D映像撮影時に、パンもしくはチルトのようなカメラ操作によって、撮影された3D映像が鑑賞者に違和感を与える可能性がある状況では、ステレオベースを変更することで、鑑賞するのに適切な映像を得ることができる。
【0097】
なお、ステレオベースの変更は、例えば通常撮影時(パンもしくはチルト無し)とパンもしくはチルト時の2つの状態に合わせて、2つのステレオベース値を保持しておき、この2値間で切り替える構成が考えられる。しかし、急速にステレオベースを変更すると3D映像の立体感が急激に変わるため好ましくない。そこで、図10に示すように、ステレオベースは徐々に変更することが好ましい。図10は、ステレオベースの変更方法を示す図である。図10において、縦軸はステレオベースの長さ、横軸は時間(単位は秒)である。パンもしくはチルトを検出後、徐々にステレオベースを変更し、またパンもしくはチルトが終了後も徐々にステレオベースを元に戻すことで、鑑賞者の違和感をより低減させることができる。
【0098】
(実施形態4)
本発明の実施形態4として、パンもしくはチルトのようなカメラ操作ではなく、撮像装置200を手で保持して撮影する際に発生する手振れの大小に応じてステレオベースを変更する例について以下に説明する。なお実施形態4における撮像装置200の基本構成は図1、図8に示したものと同様であるためその説明は省略する。
【0099】
撮像装置200を使って動画を撮影する場合、実施形態2において説明した通り、手振れによる画像の揺動により撮影された3D映像が鑑賞者に違和感を与えることになる。
【0100】
そこで本実施形態4においては、水平・垂直動きセンサ210の出力から撮影装置200の動き(手振れの大小)を判断して、所定以上の大きな手振れが発生した場合には、ステレオベースを変更することで上述した鑑賞者の違和感を軽減する。
【0101】
ステレオベース変更部800は、揺動が所定レベル以上と判定された場合、ステレオベースを短くして、3D映像の立体感を弱くする。その後、揺動が所定レベル以上の状態から所定レベル未満の状態になったと判定された場合、ステレオベース変更部800は、ステレオベースを長くして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0102】
この動作について、図11のフローチャートを用いて詳しく説明する。
【0103】
図11は、本実施形態4におけるステレオベースを変更する動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部801にハードウエアもしくはソフトウエアとして実装されている。
【0104】
図11において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ1100)。本実施形態4において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部801に取り込まれるデータは撮像装置200の動きの角速度である。次にこの出力を積分する(ステップ1101)。これを積分すれば撮像装置200の移動角度を求めることができる。なお、積分の前に、水平・垂直動きセンサ210の出力から中心電位に相当する量を減算しておく。ステップ1102においては、ステップ1101にて求められた撮像装置200の移動角度が一定角度以上の場合、手振れが大きいと判断し、ステップ1103へ進み、撮影レンズ100Rと100Lの間の物理的距離(ステレオベース)を変更する。この際、ステレオベースの変更は、3D映像の立体感(飛び出し量)が小さくなる方向に変更することが好ましいため、具体的には撮影レンズ100Rと100Lの間のステレオベースを短くするように変更する。
【0105】
ステップ1103でステレオベースを短くし、次にステップ1104にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ1105にてこれを積分して撮像装置200の移動角度を求める。そしてステップ1106において、ステップ1105にて求められた撮像装置の移動角度が一定角度未満に低下した場合、手振れ(揺動)が小さくなったと判断し、ステップ1107へ進み、撮影レンズ100Rと100Lの間のステレオベースを拡大して元に戻す。手振れが依然大きいままの場合は、ステップ1104に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。
【0106】
以上のように本実施形態4によれば、3D映像撮影時に、撮影者の手振れによって、撮影された映像が鑑賞者に違和感を与える可能性がある状況では、ステレオベースを変更して3D映像の立体感(飛び出し量)を調整することで、鑑賞するのに適切な映像を撮影することができる。
【0107】
なお手振れの大小を判断する方法としては、本実施形態2において説明した方法と同様に、図11を用いて説明した以外に、図6および図12で説明する方法も考えられることは言うまでもない。
【0108】
図12は、上述した二乗平均値を算出する方法を用いてステレオベースを変更する動作のフローチャートである。図12において、ステップ1201、1202、1205および1206が、水平・垂直動きセンサ210の出力値の一定区間の二乗平均値を算出して手振れの大小を求めるステップである。
【0109】
図12において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ1200)。次に、水平・垂直動きセンサ210の出力の一定区間での二乗平均値を算出する(ステップ1201)。
【0110】
ステップ1202においては、算出した二乗平均値が所定値以上の場合、手振れが大きいと判断し、ステップ1203へ進み、ステレオベースを小さくする。逆に撮像装置200の二乗平均値が所定値未満の場合には、ステップ1200に戻り、現在のステレオベースを維持する。
【0111】
ステップ1203でステレオベースを小さくした場合は、ステップ1204にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ1205にて一定区間での二乗平均値を算出する。そしてステップ1206において、ステップ1205にて求められた二乗平均値が所定値未満に低下した場合、手振れが小さくなったと判断し、ステップ1207へ進み、ステレオベースを長くする。手振れが依然大きいままの場合は、ステップ1204に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。このように、揺動の大きさに応じてステレオベースを自動で調整することで、鑑賞するのに適切な映像を撮影することができる。
【0112】
また実施形態3において図10を用いて説明したとおり、ステレオベースの変更は2値の切り換えも可能だが、図13に示すように、手振れが小さい状態と手振れが大きい状態で、切り替えを徐々に進めるほうが好ましい。図13は、ステレオベースの変更方法を示す図である。図13において、縦軸はステレオベースの長さ、横軸は時間(単位は秒)である。手振れが大きくなった場合は徐々にステレオベースを小さくし、手振れが小さくなった後も徐々にステレオベースを元に戻すことで、鑑賞者の違和感をより低減させることができる。
【0113】
(実施形態5)
本発明の実施形態5における撮像装置300について図14から図17を参照して説明する。本実施形態5では、先に説明した撮影レンズ100Rと100Lの間のステレオベースを変更する代わりに、撮影レンズ100Rと100Lを介して撮影された左右の2画像間の視差を変更する。図14の撮像装置300において、すでに説明した撮像装置100および200の構成要素と同様の構成要素には同じ参照符号を付し、同様の説明の繰り返しは省略する。
【0114】
図14は本発明の実施形態5における撮像装置300の内部構成を示すブロック図である。撮像装置300は視差調整部1400を備えている。視差調整部1400は、被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、撮像装置300の動きに応じて調整する。3D映像生成部209は、調整された視差に基づき3D映像データを生成する。
【0115】
視差調整部1400は、2つの撮影レンズ100Rと100Lを介して撮影された左右の2つの画像間の視差を自由に変更する。この視差調整部1400によって左右2つの画像間の視差を変更することで、撮影される3D映像の立体感(飛び出し量)を変更することが可能である。なお、3D映像の立体感(飛び出し量)を調整するために2画像間の視差を調整する方法は、例えば2系統のカメラで得られた左右の2画像間の水平方向の空間的な位置ズレ量を画像処理で調整する方法がある。他には例えば文献特開2010−45584公報に開示された方法がある。
【0116】
図15は、視差調整部1400の内部構成を示すブロック図である。視差検出部1500は、デジタル信号処理部203Rと203Lから供給される左右の2画像の視差を検出する。なお視差の検出方法、例えば左右2つの画像の水平方向の位置ズレ量を検出する方法が一般的である。具体的には左右2つの画像のうち、どちらか一方を基準とし、この基準画像中に適当な矩形エリアを設け、もう片方の画像中でこの矩形エリアと絵柄が一致する場所をパターンマッチングで探索することで位置ズレ量を検出する。
【0117】
バッファメモリ1501は、デジタル信号処理部203Rおよび203Lから供給される左右の2画像のデータを一旦記憶するメモリである。バッファメモリ1501は後述する視差変更部1502の指令に基づき、記憶された2つの画像データに対し、任意の水平方向位置から画像を切り出して出力できる。
【0118】
視差変更部1502は、システム制御部801からの指示と、視差検出部1500における2画像間の視差検出結果に基づき、バッファメモリ1501から画像を読み出す際の水平方向の切り出し位置を指定する。
【0119】
図17は、2画像間の視差Dを模式的に示した図である。図17の例では、左画像171と右画像172との間で絵柄が一致する位置を特定し、それらの位置の間の水平方向距離として視差Dを求めている。視差Dを小さくする場合は、例えば、左画像171の絵を数画素分右へずらし、右画像172の絵を数画素分左へずらすことで、視差Dを小さくすることができる。また、左画像171の絵を数画素分左へずらし、右画像172の絵を数画素分右へずらすことで、視差Dを大きくすることができる。
【0120】
また、画像中の手前に位置する絵(図17では人間の絵)の視差の調整量は大きくし、景色のような後方の絵(図17では家の絵)の視差の調整量は小さくするというように、画像中の位置に応じて調整量を異ならせてもよい。
【0121】
以上のように構成された実施形態5における動作を以下に説明する。
【0122】
本発明の実施形態1および3において述べたとおり、撮影中にパンやチルト動作を行うと、3D映像の場合は違和感に繋がることがある。
【0123】
そこで本実施形態5においては、水平・垂直動きセンサ210の出力から撮影装置300の動き(撮影状況)を判断して、上述のパンやチルト動作が発生した場合には、2つの撮影レンズ100Rと100Lを介して撮影された左右の2画像間の視差を変更し、撮影される3D映像の立体感(飛び出し量)を調整することで鑑賞者の違和感を軽減する。
【0124】
視差調整部1400は、撮像装置300がパンおよびチルトの少なくとも一方の状態であると判定された場合、視差を小さくして、3D映像の立体感を弱くする。その後、パンおよびチルトの状態でなくなったと判定された場合、視差調整部1400は、視差を大きくして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0125】
この動作について、図16のフローチャートを用いて詳しく説明する。
【0126】
図16は、本実施形態5における2画像間の視差を変更する動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部801にハードウエアもしくはソフトウエアとして実装されている。
【0127】
図16において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ1600)。本実施形態5においても、実施形態1および3と同様の方法でパンおよびチルトを検出する。そしてステップ1601でパンもしくはチルトと判断された場合、ステップ1602へ進み、2画像間の視差調整を視差変更部1502に指示する。この際、視差の変更は、3D映像の立体感(飛び出し量)が小さくなる方向に変更することが好ましいため、具体的には撮影された2画像間の元の視差(視差検出部1500にて検出される視差)よりも視差を小さくするように変更する。
【0128】
次に、引き続き水平・垂直動きセンサ210の出力をモニタし、実施形態1および3と同様の方法でパンおよびチルトの終了を検出する(ステップ1603および1604)。パンもしくはチルトが続いている間はモニタを継続する。パンもしくはチルトが終了したと判断するとステップ1605に進み、2画像間の視差調整を視差変更部1502に指示する(視差を拡大して元に戻す)。
【0129】
以上のように本実施形態5によれば、3D映像撮影時に、パンもしくはチルトのようなカメラ操作によって、撮影された映像が鑑賞者に違和感を与える可能性がある状況では、2画像間の視差を変更することで、鑑賞するのに適切な映像を得ることができる。
【0130】
なお、視差の変更は、例えば通常撮影時(パンもしくはチルト無し)とパンもしくはチルト時の2つの状態に合わせて、2つの視差を保持しておき、この2値間で切り替える構成も考えられる。しかし、急速に視差を変更すると3D映像の立体感が急激に変わるため好ましくない。そこで図18に示すようにパンもしくはチルトを検出後、徐々に視差を変更し、またパンもしくはチルトが終了後も徐々に視差を元に戻すことが望ましい。図18は、視差の変更方法を示す図である。図18において、縦軸は視差の大きさ、横軸は時間(単位は秒)である。パンもしくはチルトを検出後、徐々に視差を変更し、またパンもしくはチルトが終了後も徐々に視差を元に戻すことで、鑑賞者の違和感をより低減させることができる。
【0131】
また、バッファメモリ1501から画像を読み出す際に、読み出し位置を水平方向にずらして画像の切り出し位置を変える場合、切り出しに伴い画像の一部に欠落が生じる恐れがある。これを回避するためには、あらかじめバッファメモリ1501に記録する2画像は水平方向にマージン分の余裕画素を持たせた画像としておけばよい。
【0132】
また、実施形態5においてはパンもしくはチルトを検出して視差を調整する構成について説明したが、例えば実施形態2、4を同様に撮影時の手振れ量の大小に応じて視差を調整してもよい。その場合、手振れが大きいほど視差を小さくするようにすればよい。視差調整部1400は、揺動が所定レベル以上と判定された場合、視差を小さくして、3D映像の立体感を弱くする。その後、揺動が所定レベル以上の状態から所定レベル未満の状態になったと判定された場合、視差調整部1400は、視差を大きくして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0133】
また実施形態5においてはパンもしくはチルト時に視差を小さくする構成を説明したが、視差をゼロにすることは2D映像の取得と同様であるため、例えば図19に示すようにパンもしくはチルトの状態では、視差をゼロまで小さくして、最終的にはパンもしくはチルト中は2Dで録画することも考えられる。この場合、視差がゼロの状態では左右の2画像のうち、あらかじめ決めておいた片方の画像のみを記録してもよい。
【0134】
また本発明の実施形態1から5において、パンやチルト、手振れによる撮像装置の揺動を検出するには、一定の時間が必要となる。その場合、パンやチルト、手振れが始まってから一定期間は3D映像のままで記録が行われるため、その部分で鑑賞者が違和感を感じる映像が撮影されることとなる。このような事態を避けるためには、例えばメモリ204もしくはバッファメモリ1501に当該一定期間分の左右画像を蓄積できるだけの容量を確保しておき、パンやチルト、手振れが検出された場合には、検出に要した当該一定期間分だけ遡り、上述した措置(例えば、3D映像を2D映像に変更する、もしくは左右の2画像間の視差を調整する)を施した後に、表示部もしくは記録部に映像を供給するようにすればよい。また、パンやチルト、手振れによる撮像装置の揺動の検出は、映像録画の開始とは無関係に、撮像装置の電源が投入された後は常時行ってもよい。録画開始のタイミングで、パンやチルト、手振れによる撮像装置の揺動が検出されている場合は、録画開始と同時に上述した措置(例えば、3D映像を2D映像に変更する、もしくは左右の2画像間の視差を調整する)を施すことで、より適切な映像データを得ることができる。
【0135】
また本発明の実施形態1、2、5において、2D映像を記録する際は、2系統のカメラのうちのいずれかから得られた映像を記録する処理を説明したが、どちらのカメラ映像を記録するかを撮影者に選択さてもよい。
【0136】
また本発明の実施形態1から5において、パン、チルト、揺動の検出にはジャイロセンサ(角速度センサ)を用いる構成を説明したが、本発明はこれに限るものではなく、例えば加速度センサや傾斜(傾き)センサのような別のセンサを用いることも可能である。また、動き検出部は、すでに述べたジャイロセンサのような物理センサではなく、撮影された画像から検出される動きベクトルを用いて、パン、チルト、揺動を検出してもよい。動きベクトルから撮像装置の移動角や、動きベクトルの一定期間内での二乗平均値を計算して手振れの大小を判定しても、上述した本発明の効果が得られる。なお、画像から動きベクトルを検出する技術としては、連続する2フィールド(もしくは2フレーム)間の画像の位置ズレをパターンマッチングによって検出するなどの方式を使えばよく(例えば、特許2516580号公報)、その方式は特定のものに限定されない。
【0137】
また本発明の実施形態1から5において、3D映像を得る撮像装置は2系統のカメラを有する構成を説明したがこれに限るものではなく、3系統以上のカメラを有する構成においても本発明は適用される。また、複数台の個別のカメラを用いて3D映像撮影システムを構成した場合も同様である。
【0138】
また、本発明の実施形態1から5の撮像装置は撮像素子を2つ備えていたが、撮像素子を1つのみ備えてそれを用いて3D映像データを生成する撮像装置にも本発明は適用される。
【0139】
また上述したように、撮像装置の動きに応じて、2D映像データと3D映像データとを切り替える動作、光学系のステレオベースを変更する動作、および左右の画像間の視差を調整する動作は、ハードウエアによって実現されてもよいしソフトウエアによって実現されてもよい。それら動作を実行させるプログラムは、例えばシステム制御部、3D映像生成部、視差調整部等の内蔵メモリに記憶される。また、プログラムは、そのような構成要素とは別に設けられた記録媒体に記録されていてもよい。
【0140】
また本発明の実施形態1から5において、3D映像を時分割方式の3D映像として説明したが、本発明はこれに限定されず、一般に知られている他の3D映像方式においても本発明は適用される。
【0141】
また本発明の実施形態1から5において、音声の記録については特に説明を行っていないが、動画と同期して音声を記録してもよいことは言うまでもない。
【0142】
また本発明実施形態1から5において、3D撮影から2D撮影に切り替える際に、3D映像の撮影ができない旨を、表示部もしくは専用のインジケータ等の手段を介して、撮影者に知らしめるよう表示(警告)を行ってもよい。その場合、撮影者は3D撮影ができないことを認識して3D撮影に適切なカメラ操作を行うよう心がけることができ、より鑑賞時に適切な映像撮影が可能となる。
【産業上の利用可能性】
【0143】
本発明は、3D映像撮影時に、その撮影した映像が鑑賞者に違和感を与える可能性がある状況でも、自動でカメラを制御する、もしくは撮影された映像に加工を施すことで、適切な3D映像を撮影することができるシステムであって、3D映像の技術分野において特に有用である。
【符号の説明】
【0144】
100R、100L 撮影レンズ
200R、200L 撮像素子
201R、201L アナログ信号処理部
202R、202L A/D変換部
203R、203L デジタル信号処理部
204 メモリ
205 メモリ制御部
206R、206L ズーム・AF駆動制御部
207R、207L 撮像素子駆動制御部
208 システム制御部
209 3D映像生成部
210 水平・垂直動きセンサ
【技術分野】
【0001】
本発明は、撮像装置に関し、特に2D(Two−Dimensional)動画と3D(Three−Dimensional)動画を撮影する機能を有する撮像装置に関する。
【背景技術】
【0002】
近年、テレビと映画コンテンツの3D化に伴い、3D映像を一般ユーザーが簡単に視聴できる環境が整いつつある。これに連動して、撮像装置に関しても3D撮影が可能なカメラが提案されている。
【0003】
3D映像の撮影には、従来より同一の被写体を複数の視点から同時に撮影し、その視点間の視差量から3D映像を取得・生成する方法が一般に用いられている。しかし、3D映像は視差のある画像から人間が脳内で映像を立体像と認識するプロセスを経るため、眼で視覚される画像が人間の立体像の認識プロセスに合わせて適度に調整された画像でない場合には、鑑賞者に違和感を与える恐れがある。そのため特許文献1のように、3Dに対応した撮像装置で3D映像を撮影する場合には、2D撮影の場合に比べてカメラの制御方法(特許文献1の場合は、露出制御の周期)を変えて、3D映像の視聴時に鑑賞者に違和感を与えることが無いようにすることが提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−187385号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、3D映像において鑑賞者が違和感を感じる条件には、他にも様々なケースが考えられる。特にプロフェッショナルではない一般のカメラユーザーが3D映像を撮影できる民生用途のカメラにおいては、撮影された3D映像が鑑賞時に違和感を与えない適切な映像となるように、あらかじめ撮影時の状況に合わせて自動でカメラを制御したり、記録される3D映像データを加工したりしておくべきである。
【0006】
本発明はこのような課題を鑑みてなされたものであり、鑑賞者に違和感を与える3D映像になる可能性がある撮影条件では、自動でカメラを制御する、もしくは映像データに加工を施すことで、適切な映像を提供できる撮像装置を提供する。
【課題を解決するための手段】
【0007】
本発明の撮像装置は、自装置の動きを検出する動き検出部と、被写体像を撮像して得られる2D映像データと3D映像データとを、前記検出された自装置の動きに応じて切り替えて出力する映像データ出力部とを備えることを特徴とする。
【0008】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、前記映像データ出力部が前記3D映像データを出力しているときに、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する。
【0009】
ある実施形態によれば、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する。
【0010】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、前記映像データ出力部が前記3D映像データを出力しているときに、前記揺動が所定レベル以上と判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する。
【0011】
ある実施形態によれば、前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する。
【0012】
ある実施形態によれば、前記動き検出部は角速度センサである。
【0013】
ある実施形態によれば、前記動き検出部は撮影画像から動きベクトルを検出する。
【0014】
本発明の撮像装置は、自装置の動きを検出する動き検出部と、互いに並んで配置され、それぞれ被写体像を形成する第1および第2の光学系と、前記第1および第2の光学系で形成される2つの被写体像を撮像して得られた画像信号に基づき、3D映像データを生成する映像データ生成部と、前記検出された自装置の動きに応じて、前記第1および第2の光学系の少なくとも一方の光学系を光軸と垂直な方向に移動させ、前記第1および第2の光学系の光軸間の距離であるステレオベースを変更する変更部とを備えることを特徴とする。
【0015】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記変更部は、前記ステレオベースを短くする。
【0016】
ある実施形態によれば、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記変更部は、前記ステレオベースを長くする。
【0017】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、前記変更部は、前記揺動が所定レベル以上と判定された場合、前記ステレオベースを短くする。
【0018】
ある実施形態によれば、前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記変更部は、前記ステレオベースを長くする。
【0019】
ある実施形態によれば、前記動き検出部は角速度センサである。
【0020】
ある実施形態によれば、前記動き検出部は撮影画像から動きベクトルを検出する。
【0021】
本発明の撮像装置は、自装置の動きを検出する動き検出部と、被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記検出された自装置の動きに応じて調整する視差調整部と、前記調整された視差に基づき3D映像データを生成する映像データ生成部とを備えることを特徴とする。
【0022】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記視差調整部は、前記視差を小さくする。
【0023】
ある実施形態によれば、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記視差調整部は、前記視差を大きくする。
【0024】
ある実施形態によれば、前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、前記視差調整部は、前記揺動が所定レベル以上と判定された場合、前記視差を小さくする。
【0025】
ある実施形態によれば、前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記視差調整部は、前記視差を大きくする。
【0026】
ある実施形態によれば、前記動き検出部は角速度センサである。
【0027】
ある実施形態によれば、前記動き検出部は撮影画像から動きベクトルを検出する。
【0028】
本発明のプログラムは、映像処理を撮像装置に実行させるプログラムであって、前記プログラムは、被写体像を撮像して得られる2D映像データと3D映像データとを、前記撮像装置の動きに応じて切り替えて出力するステップを前記撮像装置に実行させることを特徴とする。
【0029】
本発明のプログラムは、映像処理を撮像装置に実行させるプログラムであって、前記プログラムは、被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記撮像装置の動きに応じて調整するステップと、前記調整された視差に基づき3D映像データを生成するステップとを前記撮像装置に実行させることを特徴とする。
【発明の効果】
【0030】
本発明によれば、鑑賞者に違和感を与える3D映像になる可能性がある撮影条件では、自動でカメラを制御する、もしくは映像データに加工を施すことで、適切な映像を提供することができる。
【0031】
本発明のある実施形態によれば、撮像装置の動きに応じて、2D映像データと3D映像データとを切り替えて出力することにより、適切な映像を提供することができる。
【0032】
また、本発明のある実施形態によれば、撮像装置の動きに応じて、第1および第2の光学系の光軸間の距離であるステレオベースを変更することにより、適切な映像を提供することができる。
【0033】
また、本発明のある実施形態によれば、撮像装置の動きに応じて、右目用の画像と左目用の画像との間の視差を調整することにより、適切な映像を提供することができる。
【図面の簡単な説明】
【0034】
【図1】本発明の実施形態1における撮像装置の外観を示す図である。
【図2】本発明の実施形態1における撮像装置の内部構成を示す図である。
【図3】本発明の実施形態1における撮像装置の動作を示すフローチャートである。
【図4】本発明の実施形態1におけるパンニング中の水平・垂直動きセンサの出力信号を示す図である。
【図5】本発明の実施形態2における撮像装置の動作を示すフローチャートである。
【図6】本発明の実施形態2における撮影中の水平・垂直動きセンサの出力信号を示す図である。
【図7】本発明の実施形態2における撮像装置の動作を示すフローチャートである。
【図8】本発明の実施形態3における撮像装置の内部構成を示す図である。
【図9】本発明の実施形態3における撮像装置の動作を示すフローチャートである。
【図10】本発明の実施形態3におけるステレオベース変更方法を示す図である。
【図11】本発明の実施形態4における撮像装置の動作を示すフローチャートである。
【図12】本発明の実施形態4における撮像装置の動作を示すフローチャートである。
【図13】本発明の実施形態4におけるステレオベース変更方法を示す図である。
【図14】本発明の実施形態5における撮像装置の内部構成を示す図である。
【図15】本発明の実施形態5における視差調整部の内部構成を示す図である。
【図16】本発明の実施形態5における撮像装置の動作を示すフローチャートである。
【図17】本発明の実施形態5における視差を説明する図である。
【図18】本発明の実施形態5における視差の変更方法を示す図である。
【図19】本発明の実施形態5における視差の変更方法を示す図である。
【発明を実施するための形態】
【0035】
以下、本発明の実施形態の撮像装置について図面を参照しながら説明する。
【0036】
(実施形態1)
図1は、本発明の実施形態1における撮像装置100の外観を示す図である。図1に示した撮像装置100は、2つの撮像レンズ100R(被写体に向かって右側)と、100L(被写体に向かって左側)と、録画ON/OFFスイッチ101と、モード切替スイッチ102と、ズームレバー103と、ストロボ104とを備える。
【0037】
2つの撮影レンズ100Rと100Lを介して得られた左右方向に視差のある2つの映像を元に3D映像を撮影する。なお本撮像装置100は2つの撮影レンズのいずれか一方の映像だけを用いて2D映像を撮影することも可能である。
【0038】
モード切替スイッチ102は、2D撮影と3D撮影、動画撮影と静止画撮影等の撮影モードを切り替える。ズームレバー103は、2つの撮影レンズ100Rと100Lの焦点距離の変更を指示する。ストロボ104は暗い被写体を撮影する際に使用する。動画撮影モード時に、録画ON/OFFスイッチ101を一旦押下されると動画記録が開始され、再度押下されると録画が停止する。
【0039】
図2は、図1に示した撮像装置100の内部構成を示すブロック図である。図2において、参照符号の末尾にRが付された構成要素は、撮影レンズ100Rを介して得られる被写体像から画像データを得るための構成要素を表しており、参照符号の末尾にLが付された構成要素は、撮影レンズ100Lを介して得られる被写体像から画像データを得るための構成要素を表している。Rが付された構成要素とLが付された構成要素の機能および動作は基本的には同じであるので、同じ説明の繰り返しは省略する。ここではRが付された構成要素の機能および動作を主に説明する。
【0040】
図2において、撮影レンズ100Rは、被写体像を撮像素子200R上に結像させるための複数のレンズ群からなる光学系であり、ズーム機能および合焦機能を有する。
【0041】
撮像素子200Rは結像した被写体像を電気信号(画像信号)に変換する光電変換デバイスであり、例えばCCDイメージセンサやCMOSイメージセンサである。
【0042】
アナログ信号処理部201Rは、撮像素子200Rから得られた画像信号に対しゲイン調整、ノイズ除去等の処理を施す。これらの処理後、画像信号はA/D変換部202Rによりデジタル信号に変換される。
【0043】
A/D変換部202Rによりデジタル信号に変換された画像信号は、デジタル信号処理部203Rに送られる。
【0044】
デジタル信号処理部203Rは、例えば、輝度信号と色差信号の分離、ノイズ除去、ガンマ補正、先鋭度改善処理、電子ズーム処理等の必要なデジタル処理を実行する。また撮影された画像信号のコントラストの変化を検出し、撮影レンズ100Rの合焦制御(オートフォーカス)に必要となる情報を抽出し、後述するシステム制御部208に供給する。
【0045】
メモリ204は、デジタル信号処理部203Rを経由した画像データ(画像信号)を記憶する。ここで、記憶される画像データはデジタル信号処理部203Rでの処理後の信号に限るものではない。A/D変換部202Rから供給される画像データをそのまま一旦メモリ204に記憶し、必要な画像データのみを例えばブロック単位でメモリ204から読み出してデジタル信号処理部203Rにて処理し、再度、メモリ204に書き戻す、というようなバッファメモリ的な使い方も可能である。
【0046】
メモリ制御部205は、システム制御部208の指示に従い、メモリ204への画像データの記録、およびメモリ204からの画像データの読み出しを制御する。
【0047】
ズーム・AF駆動部206Rは、図示しないズームモーターおよびフォーカスモーターを駆動し、撮影レンズ100Rのズーム倍率と合焦を制御し、システム制御部208からの指令信号に従い、撮影レンズ100Rのズーム倍率と合焦位置(フォーカス)を調整する。
【0048】
撮像素子駆動制御部207Rは、撮像素子200Rの露光タイミングや信号の読み出しタイミング、電子シャッター動作を制御するためのパルス信号を供給し、システム制御部208からの指令信号に従い、撮像素子200Rを駆動制御する。
【0049】
撮影レンズ100L、撮像素子200L、アナログ信号処理部201L、A/D変換部202L、デジタル信号処理部203L、ズーム・AF駆動206L、撮像素子駆動制御部207Lは、参照符号にRを付した上述の構成要素と同様の機能および動作の構成要素であるため、説明は省略する。
【0050】
システム制御部208は、撮像装置100の動作全体を制御する。システム制御部208は、デジタル信号処理部203Rおよび203Lや水平・垂直動きセンサ210から供給される情報、モード切替スイッチ102およびズームレバー103の状態等に基づき、ズーム・AF駆動制御部206Rおよび206L、撮像素子駆動制御部207Rおよび207L、デジタル信号処理部203Rおよび203L、メモリ制御部205、3D映像生成部209等を統合的に制御し、映像撮影時にそれぞれが連動して適切な動作を行うよう指令を与える。システム制御部208は、例えばマイクロコンピュータとそれに格納される制御プログラムからなる。
【0051】
3D映像生成部209は、2つの撮影レンズとそこから得られた被写体像を処理する2系統の要素から得られた2種類の画像信号を元に3D映像を生成する。
【0052】
水平・垂直動きセンサ210は、撮像装置100自体の動きを検出する動き検出部として機能する。水平・垂直動きセンサ210は、例えばジャイロセンサ(角速度センサ)などの物理センサであり、撮像装置100の内部に組み込まれ、撮像装置100自体の動きに応じた角速度データを出力し、システム制御部208に供給する。また、3D映像生成部209は、被写体像を撮像して得られる2D映像データと3D映像データとを、検出された撮像装置100の動きに応じて切り替えて出力する映像データ出力部として機能する。
【0053】
以上のように構成された本実施形態1の撮像装置100の動作について、以下により詳細に説明する。
【0054】
まずあらかじめ撮像装置100のモード切替スイッチ102が3D動画の撮影モードに設定されているものとする。このとき、撮像装置の操作者が録画ON/OFFスイッチ101を押下し録画を開始すると、システム制御部208は撮影レンズ100Rと100Lのズーム倍率を同じに設定し、且つ2つのレンズを正しく合焦させてから、2つの撮像素子200Rと200Lを同一タイミングで駆動し撮影を開始する。そして所定のフレーム周期で撮影された画像信号は2つの撮像素子から出力され、アナログ信号処理部201Rと201L、A/D変換部202Rと202L、デジタル信号処理部203Rと203Lを経由して3D映像生成部209に供給され、ここで3D映像データが生成される。3D映像データの生成方法は公知の技術である。例えば本実施形態においては、2系統のシステムから得られた視差のある2系統の動画から、左目用と右目用の映像を記録する時分割方式を用いて3D映像データが生成され、図示しない撮像装置の記録メディア(ハードディスクや半導体メモリカードなど)に記録される。なお、生成された3D映像データは、メモリ204に記録されてもよいし、撮像装置100内には記録されずに外部機器へ出力されてもよい。
【0055】
また、録画が開始されると、水平・垂直動きセンサ210において撮像装置100の動きが検出され、システム制御部208に供給される。
【0056】
撮像装置100を使って動画を撮影する場合、撮影者が意図的に構図を変えることは頻繁に行われる。ここで、特に速い構図の変化は、パンニング(水平方向の構図変化。以降ではパンと略記する。)や、チルティング(垂直方向の構図変化。以降ではチルトと略記する。)と呼ばれることは周知のことである。このように撮影中にパンやチルト動作を行うと、2D撮影に於いても構図(被写体像)の変化に鑑賞者がついていけず違和感を感じることが多々あるが、これが3D映像の場合は更に顕著な違和感に繋がる。
【0057】
そこで本実施形態1においては、水平・垂直動きセンサ210の出力から撮影装置100の動き(撮影状況)を判断して、上述のパンやチルト動作が発生した場合には、録画される映像を3D映像から2D映像に切り替えることで上述した鑑賞者の違和感を軽減する。
【0058】
システム制御部208は、撮像装置100の動きに基づいて、パンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部として機能する。パンニングおよびチルティングが同時に発生している場合は、何れか一方またはそれらの合成ベクトルをモニタする。3D映像生成部209が3D映像データを出力しているときに、パンニング撮影およびチルティング撮影の少なくとも一方の状態であると判定された場合、3D映像生成部209は、3D映像データから2D映像データへ切り替えて出力する。また、その後、パンニング撮影およびチルティング撮影のいずれでもない状態になったと判定された場合、3D映像生成部209は、2D映像データから3D映像データへ切り替えて出力する。
【0059】
この動作について、図3のフローチャートを用いて詳しく説明する。
【0060】
図3は、本実施形態1における3D撮影と2D撮影を切り替える動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部208にハードウエアもしくはソフトウエアとして実装されている。
【0061】
図3において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ300)。本実施形態1において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部208に取り込まれるデータは撮像装置100の動きの角速度である。ここで撮像装置100を撮影者が手で保持しながら撮影し、その途中でパンを行ったとすると、水平・垂直動きセンサ210から出力される信号は、例えば図4のようになる。
【0062】
図4において、縦軸は水平・垂直動きセンサの出力(単位はボルト)、横軸は時間(単位は秒)である。実線が水平・垂直動きセンサ210の出力、点線が例えば撮像装置が三脚などに固定されて完全に静止している場合の水平・垂直動きセンサ210の出力レベル(中心電位)である。図4に示すように手で保持して撮影している場合は、手振れによって水平・垂直動きセンサ210の出力は中心電位を挟んで上下にランダムに変化する。パン中には撮像装置100が一定方向に連続的に変位させられるため、水平・垂直動きセンサ210の出力は中心電位からみて片側に偏在することになる。
【0063】
図3のステップ301において、水平・垂直動きセンサ210の出力の変化を連続してモニタし、一定期間にわたって水平・垂直動きセンサ210の出力が中心電位の片側に偏在した場合、パンもしくはチルトが開始されたと判断する。逆に水平・垂直動きセンサ210の出力が上記の一定期間未満で中心電位をまたいで変化した場合は、パンもしくはチルトではないと判断し、ステップ300に戻る。ステップ301でパンもしくはチルトと判断された場合、ステップ302へ進み、録画を3D映像から2D映像に自動で切り替える。なお、撮像装置100の動きが遅い場合でも、一定期間以上の移動が続いている場合は、録画を3D映像から2D映像に自動で切り替えてもよい。
【0064】
次に引き続き水平・垂直動きセンサ210の出力をモニタし(ステップ303)、上記一定期間未満で水平・垂直動きセンサ210の出力が中心電位をまたいで変化した場合は、パンもしくはチルトが終了したと判断して(ステップ304)、ステップ305に進み録画を2D映像から3D映像に切り替える。パンもしくはチルトが終了していないと判断した場合は、ステップ303に戻ってモニタを続ける。
【0065】
なお、3D撮影から2D撮影への切り替える方法としては、撮像装置100が有する2系統のカメラ系のうち、いずれか一方から得られた画像のみを3D映像生成部209に供給し、1系統のカメラ画像だけからなる映像を出力させるものとするか、もしくは2系統の画像を合成して2D映像を合成しても構わない。
【0066】
以上のように本実施形態1によれば、3D映像撮影時に、パンもしくはチルトのようなカメラ操作によって、撮影された3D映像が鑑賞者に違和感を与える可能性がある状況では、映像を3D映像から2D映像に自動で切替えることで、鑑賞するのに適切な映像データを得ることができる。
【0067】
(実施形態2)
本発明の実施形態2として、パンもしくはチルトのようなカメラ操作ではなく、撮像装置100を手で保持して撮影する際に発生する手振れの大小に応じて3D撮影と2D撮影を切り替える例について以下に説明する。なお、実施形態2における撮像装置100の基本構成は、図1、図2に示したものと同様であるためその説明は省略する。
【0068】
撮像装置を使って動画を撮影する場合、撮影者が撮像装置を手で保持して撮影すると、手振れによる映像の揺動が不可避である。この撮影中の手振れによる映像の揺動を補正する技術としては、例えば連続する画像間の動きベクトルを検出し、この動きベクトルに基づき画像の一部を切り出す技術が知られている。また、手振れによるカメラの動き(例えば角速度)を検出し、これに応じて特殊な光学レンズを光軸に直交する面内で移動させ光軸を動かすことで手振れによる映像の動きを補正する技術も存在する。いかなる条件においても手振れによる映像の揺動を完全に除去することは困難である。そのため手振れによる映像の揺動が大きい場合、例えば歩行しながらの撮影や自動車等の乗り物に乗車しての撮影では、映像の揺動により、撮影された3D映像が鑑賞者に顕著な違和感を与えることになり得る。
【0069】
そこで本実施形態2においては、水平・垂直動きセンサ210の出力から撮影装置100の動き(手振れの大小)を判断して、所定以上の大きな手振れが発生した場合には、録画される映像を3D映像から2D映像に切り替えることで上述した鑑賞者の違和感を軽減する。
【0070】
システム制御部208は、撮像装置100の動きに基づいて、撮像装置100が手振れによる揺動の状態を判定する判定部として機能する。3D映像生成部209が3D映像データを出力しているときに、撮像装置100の揺動が所定レベル以上と判定された場合、3D映像生成部209は、3D映像データから2D映像データへ切り替えて出力する。また、その後、揺動が所定レベル未満になったと判定された場合、3D映像生成部209は、2D映像データから3D映像データへ切り替えて出力する。
【0071】
この動作について、図5のフローチャートを用いて詳しく説明する。
【0072】
図5は、本実施形態2における3D撮影と2D撮影を切り替える動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部208にハードウエアもしくはソフトウエアとして実装されている。
【0073】
図5において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ500)。本実施形態2において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部208に取り込まれるデータは撮像装置100の動きの角速度である。次にこの出力を積分する(ステップ501)。これを積分すれば撮像装置100の移動角度を求めることができる。なお、積分の前に、水平・垂直動きセンサ210の出力から中心電位に相当する量を減算しておく。
【0074】
ステップ502においては、ステップ501にて求められた撮像装置100の移動角度が一定角度以上の場合、手振れが大きいと判断し、ステップ503へ進み、録画を3D映像から2D映像に自動で切り替える。逆に撮像装置100の移動角度が一定角度未満の場合には、ステップ500に戻り、3D撮影を継続する。
【0075】
ステップ503で3D映像から2D映像に切り替えた場合は、ステップ504にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ505にてこれを積分して撮像装置100の移動角度を求める。そしてステップ506において、ステップ505にて求められた撮像装置100の移動角度が一定角度未満に低下した場合、手振れが小さくなったと判断し、ステップ507へ進み、録画を2D映像から3D映像に自動で切り替える。手振れが依然大きいままの場合は、ステップ504に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。
【0076】
以上のように本実施形態2によれば、3D映像撮影時に、撮影者の手振れによって、撮影された映像が鑑賞者に違和感を与える可能性がある状況では、映像を3D映像から2D映像に自動で切替えることで、鑑賞するのに適切な映像を撮影することができる。
【0077】
なお手振れの大小を判断する方法としては、図5を用いて説明した以外に、図6および図7で説明する方法も考えられる。
【0078】
図6は手で撮像装置100を保持して撮影した場合の水平・垂直動きセンサ210の出力例(手振れの角速度)である。図6において、縦軸は水平・垂直動きセンサの出力(単位はボルト)、横軸は時間(単位は秒)である。実線が水平・垂直動きセンサ210の出力、点線が例えば撮像装置100が三脚などに固定されて完全に静止している場合の水平・垂直動きセンサ210の出力レベル(中心電位)である。
【0079】
図6に示すように手振れは低い周期的な動きが支配的である。そのため図5に示した例のように角速度を積分した移動角度の大小だけで手振れの大きさを判断すると、周期的に手振れの大小が変化し、3D撮影と2D撮影が頻繁に切り替わり、却って見苦しい映像となる可能性がある。そこで図6中に矢印で示した区間での水平・垂直動きセンサ210の出力の二乗平均値を算出し、更にこの二乗平均値を求める区間を移動させていけば、一定期間内での手振れの大小の傾向を把握することができる(なお、二乗平均値を求める前に、水平・垂直動きセンサ210の出力から中心電位に相当する量を減算しておく)。例えば、ある区間での二乗平均値が大きい場合には、撮影者が連続して歩行撮影しているなど手振れが大きく発生する状況にあると予想することができる。そしてこの傾向に応じて手振れの大小を判断して3D撮影と2D撮影を切り替えれば、この切り替えが頻繁に起こることが避けられ、より好ましい映像を撮影することができる。
【0080】
図7は、上述の二乗平均値を算出する方法を用いて3D撮影と2D撮影を切り替える動作のフローチャートである。図7において、ステップ701、702、705および706が、水平・垂直動きセンサ210の出力値の一定区間の二乗平均値を算出して手振れの大小を求めるステップである。
【0081】
図7において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ700)。次に、水平・垂直動きセンサ210の出力の一定区間での二乗平均値を算出する(ステップ701)。
【0082】
ステップ702においては、算出した二乗平均値が所定値以上の場合、手振れが大きいと判断し、ステップ703へ進み、録画を3D映像から2D映像に自動で切り替える。逆に撮像装置100の二乗平均値が所定値未満の場合には、ステップ700に戻り、3D撮影を継続する。
【0083】
ステップ703で3D映像から2D映像に切り替えた場合は、ステップ704にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ705にて一定区間での二乗平均値を算出する。そしてステップ706において、ステップ705にて求められた二乗平均値が所定値未満に低下した場合、手振れが小さくなったと判断し、ステップ707へ進み、録画を2D映像から3D映像に自動で切り替える。手振れが依然大きいままの場合は、ステップ704に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。このように、映像を3D映像から2D映像に自動で切替えることで、鑑賞するのに適切な映像を撮影することができる。
【0084】
(実施形態3)
本発明の実施形態3における撮像装置200について図8および図9を参照して説明する。撮像装置200では、撮像装置100(図2)に、撮影レンズ100Rと100Lの間の物理的距離(以降ではステレオベース)を可変たらしめるためのステレオベース変更部800を設け、これをシステム制御部801から制御する。システム制御部801の基本的な動作はシステム制御部208(図2)と同様である。図8の撮像装置200において、撮像装置100と同様の構成要素については同じ参照符号を付し、同様の説明の繰り返しは省略する。
【0085】
図8は本発明の実施形態3における撮像装置200の内部構成を示すブロック図である。2つの撮影レンズ(光学系)100Rおよび100Lは、互いに並んで配置され、それぞれ被写体像を形成する。ステレオベース変更部800は、2つの撮影レンズ100Rおよび100Lの光軸間の距離であるステレオベースを自由に変更するための機構および駆動モーターからなり、システム制御部801からの指令信号に基づいてステレオベースを変更する。ステレオベース変更部800は、撮像装置200の動きに応じて、撮影レンズ100Rおよび100Lの少なくとも一方の光学系を光軸と垂直な方向に移動させ、ステレオベースを変更する。
【0086】
このステレオベース変更部800によって2つの撮影レンズ100Rと100L間のステレオベースを変更することで、撮影される3D映像の立体感(飛び出し量)を変更することが可能である。なおステレオベースを変更することは、左右の2画像間の視差を変更することである。視差と3D映像の立体感(飛び出し量)を調整するために2画像間の視差を調整する方法は、例えば2系統のカメラで得られた左右の2画像間の水平方向の空間的な位置ズレ量を画像処理で調整する方法がある。他には例えば特開2010−45584公報に開示された方法もある。
【0087】
ここで、本発明の実施形態1において述べたとおり、撮影中にパンやチルト動作を行うと、3D映像の鑑賞者の違和感に繋がることがある。
【0088】
そこで本実施形態3においては、水平・垂直動きセンサ210の出力から撮影装置200の動き(撮影状況)を判断して、上述のパンやチルト動作が発生した場合には、2つの撮影レンズ100Rと100L間のステレオベースを自由に変更し、撮影される3D映像の立体感(飛び出し量)を調整することで鑑賞者の違和感を軽減する。
【0089】
ステレオベース変更部800は、撮像装置200がパンおよびチルトの少なくとも一方の状態であると判定された場合、ステレオベースを短くして、3D映像の立体感を弱くする。その後、パンおよびチルトの状態でなくなったと判定された場合、ステレオベース変更部800は、ステレオベースを長くして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0090】
この動作について、図9のフローチャートを用いて詳しく説明する。
【0091】
図9は、本実施形態3における撮影レンズ100Rと100Lの間のステレオベースを変更する動作を説明するフローチャートである。この動作を実現するアルゴリズムはシステム制御部801にハードウエアもしくはソフトウエアとして実装されている。
【0092】
図9において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ900)。本実施形態3において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部801に取り込まれるデータは撮像装置200の動きの角速度である。ここで撮像装置200を撮影者が手で保持しながら撮影し、その途中でパンを行ったとすると、水平・垂直動きセンサ210から出力される信号は、例えば図4のようになる。
【0093】
図4において、縦軸は水平・垂直動きセンサの出力(単位はボルト)、横軸は時間(単位は秒)である。実線が水平・垂直動きセンサ210の出力、点線が例えば撮像装置200が三脚などに固定されて完全に静止している場合の水平・垂直動きセンサ210の出力レベル(中心電位)である。図4に示すように手で保持して撮影している場合は手振れによって水平・垂直動きセンサ210の出力は中心電位を挟んで上下にランダムに変化する。パン中には撮像装置200が一定方向に連続的に変位させられるため、水平・垂直動きセンサ210の出力は中心電位からみて片側に偏在することになる。
【0094】
図9のステップ901において水平・垂直動きセンサ210の出力の変化を連続してモニタし、一定期間にわたって水平・垂直動きセンサ210の出力が中心電位の片側に偏在した場合、パンもしくはチルトが開始されたと判断する(ステップ901)。逆に水平・垂直動きセンサ210の出力が上記の一定期間未満で中心電位をまたいで変化した場合は、パンもしくはチルトではないと判断し、ステップ900に戻る。ステップ901でパンもしくはチルトと判断された場合、ステップ902へ進み、撮影レンズ100Rと100Lの間のステレオベースを変更する。この際、ステレオベースの変更は、3D映像の立体感(飛び出し量)が小さくなる方向に変更することが好ましいため、具体的には撮影レンズ100Rと100Lの間のステレオベースを短くするように変更する。
【0095】
次に引き続き水平・垂直動きセンサ210の出力をモニタし、上記一定期間未満で水平・垂直動きセンサ210の出力が中心電位をまたいで変化した場合はパンもしくはチルトが終了したと判断して(ステップ904)、ステップ905に進み、撮影レンズ100Rと100Lの間のステレオベースを拡大して元に戻す。
【0096】
以上のように本実施形態3によれば、3D映像撮影時に、パンもしくはチルトのようなカメラ操作によって、撮影された3D映像が鑑賞者に違和感を与える可能性がある状況では、ステレオベースを変更することで、鑑賞するのに適切な映像を得ることができる。
【0097】
なお、ステレオベースの変更は、例えば通常撮影時(パンもしくはチルト無し)とパンもしくはチルト時の2つの状態に合わせて、2つのステレオベース値を保持しておき、この2値間で切り替える構成が考えられる。しかし、急速にステレオベースを変更すると3D映像の立体感が急激に変わるため好ましくない。そこで、図10に示すように、ステレオベースは徐々に変更することが好ましい。図10は、ステレオベースの変更方法を示す図である。図10において、縦軸はステレオベースの長さ、横軸は時間(単位は秒)である。パンもしくはチルトを検出後、徐々にステレオベースを変更し、またパンもしくはチルトが終了後も徐々にステレオベースを元に戻すことで、鑑賞者の違和感をより低減させることができる。
【0098】
(実施形態4)
本発明の実施形態4として、パンもしくはチルトのようなカメラ操作ではなく、撮像装置200を手で保持して撮影する際に発生する手振れの大小に応じてステレオベースを変更する例について以下に説明する。なお実施形態4における撮像装置200の基本構成は図1、図8に示したものと同様であるためその説明は省略する。
【0099】
撮像装置200を使って動画を撮影する場合、実施形態2において説明した通り、手振れによる画像の揺動により撮影された3D映像が鑑賞者に違和感を与えることになる。
【0100】
そこで本実施形態4においては、水平・垂直動きセンサ210の出力から撮影装置200の動き(手振れの大小)を判断して、所定以上の大きな手振れが発生した場合には、ステレオベースを変更することで上述した鑑賞者の違和感を軽減する。
【0101】
ステレオベース変更部800は、揺動が所定レベル以上と判定された場合、ステレオベースを短くして、3D映像の立体感を弱くする。その後、揺動が所定レベル以上の状態から所定レベル未満の状態になったと判定された場合、ステレオベース変更部800は、ステレオベースを長くして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0102】
この動作について、図11のフローチャートを用いて詳しく説明する。
【0103】
図11は、本実施形態4におけるステレオベースを変更する動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部801にハードウエアもしくはソフトウエアとして実装されている。
【0104】
図11において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ1100)。本実施形態4において水平・垂直動きセンサ210はジャイロセンサ(角速度センサ)であり、システム制御部801に取り込まれるデータは撮像装置200の動きの角速度である。次にこの出力を積分する(ステップ1101)。これを積分すれば撮像装置200の移動角度を求めることができる。なお、積分の前に、水平・垂直動きセンサ210の出力から中心電位に相当する量を減算しておく。ステップ1102においては、ステップ1101にて求められた撮像装置200の移動角度が一定角度以上の場合、手振れが大きいと判断し、ステップ1103へ進み、撮影レンズ100Rと100Lの間の物理的距離(ステレオベース)を変更する。この際、ステレオベースの変更は、3D映像の立体感(飛び出し量)が小さくなる方向に変更することが好ましいため、具体的には撮影レンズ100Rと100Lの間のステレオベースを短くするように変更する。
【0105】
ステップ1103でステレオベースを短くし、次にステップ1104にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ1105にてこれを積分して撮像装置200の移動角度を求める。そしてステップ1106において、ステップ1105にて求められた撮像装置の移動角度が一定角度未満に低下した場合、手振れ(揺動)が小さくなったと判断し、ステップ1107へ進み、撮影レンズ100Rと100Lの間のステレオベースを拡大して元に戻す。手振れが依然大きいままの場合は、ステップ1104に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。
【0106】
以上のように本実施形態4によれば、3D映像撮影時に、撮影者の手振れによって、撮影された映像が鑑賞者に違和感を与える可能性がある状況では、ステレオベースを変更して3D映像の立体感(飛び出し量)を調整することで、鑑賞するのに適切な映像を撮影することができる。
【0107】
なお手振れの大小を判断する方法としては、本実施形態2において説明した方法と同様に、図11を用いて説明した以外に、図6および図12で説明する方法も考えられることは言うまでもない。
【0108】
図12は、上述した二乗平均値を算出する方法を用いてステレオベースを変更する動作のフローチャートである。図12において、ステップ1201、1202、1205および1206が、水平・垂直動きセンサ210の出力値の一定区間の二乗平均値を算出して手振れの大小を求めるステップである。
【0109】
図12において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ1200)。次に、水平・垂直動きセンサ210の出力の一定区間での二乗平均値を算出する(ステップ1201)。
【0110】
ステップ1202においては、算出した二乗平均値が所定値以上の場合、手振れが大きいと判断し、ステップ1203へ進み、ステレオベースを小さくする。逆に撮像装置200の二乗平均値が所定値未満の場合には、ステップ1200に戻り、現在のステレオベースを維持する。
【0111】
ステップ1203でステレオベースを小さくした場合は、ステップ1204にて引き続き水平・垂直動きセンサ210の出力を取り込み、ステップ1205にて一定区間での二乗平均値を算出する。そしてステップ1206において、ステップ1205にて求められた二乗平均値が所定値未満に低下した場合、手振れが小さくなったと判断し、ステップ1207へ進み、ステレオベースを長くする。手振れが依然大きいままの場合は、ステップ1204に戻り、引き続き水平・垂直動きセンサ210の出力をモニタし続ける。このように、揺動の大きさに応じてステレオベースを自動で調整することで、鑑賞するのに適切な映像を撮影することができる。
【0112】
また実施形態3において図10を用いて説明したとおり、ステレオベースの変更は2値の切り換えも可能だが、図13に示すように、手振れが小さい状態と手振れが大きい状態で、切り替えを徐々に進めるほうが好ましい。図13は、ステレオベースの変更方法を示す図である。図13において、縦軸はステレオベースの長さ、横軸は時間(単位は秒)である。手振れが大きくなった場合は徐々にステレオベースを小さくし、手振れが小さくなった後も徐々にステレオベースを元に戻すことで、鑑賞者の違和感をより低減させることができる。
【0113】
(実施形態5)
本発明の実施形態5における撮像装置300について図14から図17を参照して説明する。本実施形態5では、先に説明した撮影レンズ100Rと100Lの間のステレオベースを変更する代わりに、撮影レンズ100Rと100Lを介して撮影された左右の2画像間の視差を変更する。図14の撮像装置300において、すでに説明した撮像装置100および200の構成要素と同様の構成要素には同じ参照符号を付し、同様の説明の繰り返しは省略する。
【0114】
図14は本発明の実施形態5における撮像装置300の内部構成を示すブロック図である。撮像装置300は視差調整部1400を備えている。視差調整部1400は、被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、撮像装置300の動きに応じて調整する。3D映像生成部209は、調整された視差に基づき3D映像データを生成する。
【0115】
視差調整部1400は、2つの撮影レンズ100Rと100Lを介して撮影された左右の2つの画像間の視差を自由に変更する。この視差調整部1400によって左右2つの画像間の視差を変更することで、撮影される3D映像の立体感(飛び出し量)を変更することが可能である。なお、3D映像の立体感(飛び出し量)を調整するために2画像間の視差を調整する方法は、例えば2系統のカメラで得られた左右の2画像間の水平方向の空間的な位置ズレ量を画像処理で調整する方法がある。他には例えば文献特開2010−45584公報に開示された方法がある。
【0116】
図15は、視差調整部1400の内部構成を示すブロック図である。視差検出部1500は、デジタル信号処理部203Rと203Lから供給される左右の2画像の視差を検出する。なお視差の検出方法、例えば左右2つの画像の水平方向の位置ズレ量を検出する方法が一般的である。具体的には左右2つの画像のうち、どちらか一方を基準とし、この基準画像中に適当な矩形エリアを設け、もう片方の画像中でこの矩形エリアと絵柄が一致する場所をパターンマッチングで探索することで位置ズレ量を検出する。
【0117】
バッファメモリ1501は、デジタル信号処理部203Rおよび203Lから供給される左右の2画像のデータを一旦記憶するメモリである。バッファメモリ1501は後述する視差変更部1502の指令に基づき、記憶された2つの画像データに対し、任意の水平方向位置から画像を切り出して出力できる。
【0118】
視差変更部1502は、システム制御部801からの指示と、視差検出部1500における2画像間の視差検出結果に基づき、バッファメモリ1501から画像を読み出す際の水平方向の切り出し位置を指定する。
【0119】
図17は、2画像間の視差Dを模式的に示した図である。図17の例では、左画像171と右画像172との間で絵柄が一致する位置を特定し、それらの位置の間の水平方向距離として視差Dを求めている。視差Dを小さくする場合は、例えば、左画像171の絵を数画素分右へずらし、右画像172の絵を数画素分左へずらすことで、視差Dを小さくすることができる。また、左画像171の絵を数画素分左へずらし、右画像172の絵を数画素分右へずらすことで、視差Dを大きくすることができる。
【0120】
また、画像中の手前に位置する絵(図17では人間の絵)の視差の調整量は大きくし、景色のような後方の絵(図17では家の絵)の視差の調整量は小さくするというように、画像中の位置に応じて調整量を異ならせてもよい。
【0121】
以上のように構成された実施形態5における動作を以下に説明する。
【0122】
本発明の実施形態1および3において述べたとおり、撮影中にパンやチルト動作を行うと、3D映像の場合は違和感に繋がることがある。
【0123】
そこで本実施形態5においては、水平・垂直動きセンサ210の出力から撮影装置300の動き(撮影状況)を判断して、上述のパンやチルト動作が発生した場合には、2つの撮影レンズ100Rと100Lを介して撮影された左右の2画像間の視差を変更し、撮影される3D映像の立体感(飛び出し量)を調整することで鑑賞者の違和感を軽減する。
【0124】
視差調整部1400は、撮像装置300がパンおよびチルトの少なくとも一方の状態であると判定された場合、視差を小さくして、3D映像の立体感を弱くする。その後、パンおよびチルトの状態でなくなったと判定された場合、視差調整部1400は、視差を大きくして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0125】
この動作について、図16のフローチャートを用いて詳しく説明する。
【0126】
図16は、本実施形態5における2画像間の視差を変更する動作を説明するためのフローチャートである。この動作を実現するアルゴリズムはシステム制御部801にハードウエアもしくはソフトウエアとして実装されている。
【0127】
図16において、録画が開始されると水平・垂直動きセンサ210の出力の取り込みが開始される(ステップ1600)。本実施形態5においても、実施形態1および3と同様の方法でパンおよびチルトを検出する。そしてステップ1601でパンもしくはチルトと判断された場合、ステップ1602へ進み、2画像間の視差調整を視差変更部1502に指示する。この際、視差の変更は、3D映像の立体感(飛び出し量)が小さくなる方向に変更することが好ましいため、具体的には撮影された2画像間の元の視差(視差検出部1500にて検出される視差)よりも視差を小さくするように変更する。
【0128】
次に、引き続き水平・垂直動きセンサ210の出力をモニタし、実施形態1および3と同様の方法でパンおよびチルトの終了を検出する(ステップ1603および1604)。パンもしくはチルトが続いている間はモニタを継続する。パンもしくはチルトが終了したと判断するとステップ1605に進み、2画像間の視差調整を視差変更部1502に指示する(視差を拡大して元に戻す)。
【0129】
以上のように本実施形態5によれば、3D映像撮影時に、パンもしくはチルトのようなカメラ操作によって、撮影された映像が鑑賞者に違和感を与える可能性がある状況では、2画像間の視差を変更することで、鑑賞するのに適切な映像を得ることができる。
【0130】
なお、視差の変更は、例えば通常撮影時(パンもしくはチルト無し)とパンもしくはチルト時の2つの状態に合わせて、2つの視差を保持しておき、この2値間で切り替える構成も考えられる。しかし、急速に視差を変更すると3D映像の立体感が急激に変わるため好ましくない。そこで図18に示すようにパンもしくはチルトを検出後、徐々に視差を変更し、またパンもしくはチルトが終了後も徐々に視差を元に戻すことが望ましい。図18は、視差の変更方法を示す図である。図18において、縦軸は視差の大きさ、横軸は時間(単位は秒)である。パンもしくはチルトを検出後、徐々に視差を変更し、またパンもしくはチルトが終了後も徐々に視差を元に戻すことで、鑑賞者の違和感をより低減させることができる。
【0131】
また、バッファメモリ1501から画像を読み出す際に、読み出し位置を水平方向にずらして画像の切り出し位置を変える場合、切り出しに伴い画像の一部に欠落が生じる恐れがある。これを回避するためには、あらかじめバッファメモリ1501に記録する2画像は水平方向にマージン分の余裕画素を持たせた画像としておけばよい。
【0132】
また、実施形態5においてはパンもしくはチルトを検出して視差を調整する構成について説明したが、例えば実施形態2、4を同様に撮影時の手振れ量の大小に応じて視差を調整してもよい。その場合、手振れが大きいほど視差を小さくするようにすればよい。視差調整部1400は、揺動が所定レベル以上と判定された場合、視差を小さくして、3D映像の立体感を弱くする。その後、揺動が所定レベル以上の状態から所定レベル未満の状態になったと判定された場合、視差調整部1400は、視差を大きくして、3D映像の立体感を強くする(すなわち元の立体感に戻す)。
【0133】
また実施形態5においてはパンもしくはチルト時に視差を小さくする構成を説明したが、視差をゼロにすることは2D映像の取得と同様であるため、例えば図19に示すようにパンもしくはチルトの状態では、視差をゼロまで小さくして、最終的にはパンもしくはチルト中は2Dで録画することも考えられる。この場合、視差がゼロの状態では左右の2画像のうち、あらかじめ決めておいた片方の画像のみを記録してもよい。
【0134】
また本発明の実施形態1から5において、パンやチルト、手振れによる撮像装置の揺動を検出するには、一定の時間が必要となる。その場合、パンやチルト、手振れが始まってから一定期間は3D映像のままで記録が行われるため、その部分で鑑賞者が違和感を感じる映像が撮影されることとなる。このような事態を避けるためには、例えばメモリ204もしくはバッファメモリ1501に当該一定期間分の左右画像を蓄積できるだけの容量を確保しておき、パンやチルト、手振れが検出された場合には、検出に要した当該一定期間分だけ遡り、上述した措置(例えば、3D映像を2D映像に変更する、もしくは左右の2画像間の視差を調整する)を施した後に、表示部もしくは記録部に映像を供給するようにすればよい。また、パンやチルト、手振れによる撮像装置の揺動の検出は、映像録画の開始とは無関係に、撮像装置の電源が投入された後は常時行ってもよい。録画開始のタイミングで、パンやチルト、手振れによる撮像装置の揺動が検出されている場合は、録画開始と同時に上述した措置(例えば、3D映像を2D映像に変更する、もしくは左右の2画像間の視差を調整する)を施すことで、より適切な映像データを得ることができる。
【0135】
また本発明の実施形態1、2、5において、2D映像を記録する際は、2系統のカメラのうちのいずれかから得られた映像を記録する処理を説明したが、どちらのカメラ映像を記録するかを撮影者に選択さてもよい。
【0136】
また本発明の実施形態1から5において、パン、チルト、揺動の検出にはジャイロセンサ(角速度センサ)を用いる構成を説明したが、本発明はこれに限るものではなく、例えば加速度センサや傾斜(傾き)センサのような別のセンサを用いることも可能である。また、動き検出部は、すでに述べたジャイロセンサのような物理センサではなく、撮影された画像から検出される動きベクトルを用いて、パン、チルト、揺動を検出してもよい。動きベクトルから撮像装置の移動角や、動きベクトルの一定期間内での二乗平均値を計算して手振れの大小を判定しても、上述した本発明の効果が得られる。なお、画像から動きベクトルを検出する技術としては、連続する2フィールド(もしくは2フレーム)間の画像の位置ズレをパターンマッチングによって検出するなどの方式を使えばよく(例えば、特許2516580号公報)、その方式は特定のものに限定されない。
【0137】
また本発明の実施形態1から5において、3D映像を得る撮像装置は2系統のカメラを有する構成を説明したがこれに限るものではなく、3系統以上のカメラを有する構成においても本発明は適用される。また、複数台の個別のカメラを用いて3D映像撮影システムを構成した場合も同様である。
【0138】
また、本発明の実施形態1から5の撮像装置は撮像素子を2つ備えていたが、撮像素子を1つのみ備えてそれを用いて3D映像データを生成する撮像装置にも本発明は適用される。
【0139】
また上述したように、撮像装置の動きに応じて、2D映像データと3D映像データとを切り替える動作、光学系のステレオベースを変更する動作、および左右の画像間の視差を調整する動作は、ハードウエアによって実現されてもよいしソフトウエアによって実現されてもよい。それら動作を実行させるプログラムは、例えばシステム制御部、3D映像生成部、視差調整部等の内蔵メモリに記憶される。また、プログラムは、そのような構成要素とは別に設けられた記録媒体に記録されていてもよい。
【0140】
また本発明の実施形態1から5において、3D映像を時分割方式の3D映像として説明したが、本発明はこれに限定されず、一般に知られている他の3D映像方式においても本発明は適用される。
【0141】
また本発明の実施形態1から5において、音声の記録については特に説明を行っていないが、動画と同期して音声を記録してもよいことは言うまでもない。
【0142】
また本発明実施形態1から5において、3D撮影から2D撮影に切り替える際に、3D映像の撮影ができない旨を、表示部もしくは専用のインジケータ等の手段を介して、撮影者に知らしめるよう表示(警告)を行ってもよい。その場合、撮影者は3D撮影ができないことを認識して3D撮影に適切なカメラ操作を行うよう心がけることができ、より鑑賞時に適切な映像撮影が可能となる。
【産業上の利用可能性】
【0143】
本発明は、3D映像撮影時に、その撮影した映像が鑑賞者に違和感を与える可能性がある状況でも、自動でカメラを制御する、もしくは撮影された映像に加工を施すことで、適切な3D映像を撮影することができるシステムであって、3D映像の技術分野において特に有用である。
【符号の説明】
【0144】
100R、100L 撮影レンズ
200R、200L 撮像素子
201R、201L アナログ信号処理部
202R、202L A/D変換部
203R、203L デジタル信号処理部
204 メモリ
205 メモリ制御部
206R、206L ズーム・AF駆動制御部
207R、207L 撮像素子駆動制御部
208 システム制御部
209 3D映像生成部
210 水平・垂直動きセンサ
【特許請求の範囲】
【請求項1】
自装置の動きを検出する動き検出部と、
被写体像を撮像して得られる2D映像データと3D映像データとを、前記検出された自装置の動きに応じて切り替えて出力する映像データ出力部と、
を備える撮像装置。
【請求項2】
前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、
前記映像データ出力部が前記3D映像データを出力しているときに、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する、請求項1に記載の撮像装置。
【請求項3】
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する、請求項2に記載の撮像装置。
【請求項4】
前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、
前記映像データ出力部が前記3D映像データを出力しているときに、前記揺動が所定レベル以上と判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する、請求項1に記載の撮像装置。
【請求項5】
前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する、請求項4に記載の撮像装置。
【請求項6】
前記動き検出部は角速度センサである、請求項1に記載の撮像装置。
【請求項7】
前記動き検出部は撮影画像から動きベクトルを検出する、請求項1に記載の撮像装置。
【請求項8】
自装置の動きを検出する動き検出部と、
互いに並んで配置され、それぞれ被写体像を形成する第1および第2の光学系と、
前記第1および第2の光学系で形成される2つの被写体像を撮像して得られた画像信号に基づき、3D映像データを生成する映像データ生成部と、
前記検出された自装置の動きに応じて、前記第1および第2の光学系の少なくとも一方の光学系を光軸と垂直な方向に移動させ、前記第1および第2の光学系の光軸間の距離であるステレオベースを変更する変更部と、
を備える撮像装置。
【請求項9】
前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記変更部は、前記ステレオベースを短くする、請求項8に記載の撮像装置。
【請求項10】
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記変更部は、前記ステレオベースを長くする、請求項9に記載の撮像装置。
【請求項11】
前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、
前記変更部は、前記揺動が所定レベル以上と判定された場合、前記ステレオベースを短くする、請求項8に記載の撮像装置。
【請求項12】
前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記変更部は、前記ステレオベースを長くする、請求項11に記載の撮像装置。
【請求項13】
前記動き検出部は角速度センサである、請求項8に記載の撮像装置。
【請求項14】
前記動き検出部は撮影画像から動きベクトルを検出する、請求項8に記載の撮像装置。
【請求項15】
自装置の動きを検出する動き検出部と、
被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記検出された自装置の動きに応じて調整する視差調整部と、
前記調整された視差に基づき3D映像データを生成する映像データ生成部と、
を備える撮像装置。
【請求項16】
前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記視差調整部は、前記視差を小さくする、請求項15に記載の撮像装置。
【請求項17】
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記視差調整部は、前記視差を大きくする、請求項16に記載の撮像装置。
【請求項18】
前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、
前記視差調整部は、前記揺動が所定レベル以上と判定された場合、前記視差を小さくする、請求項15に記載の撮像装置。
【請求項19】
前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記視差調整部は、前記視差を大きくする、請求項18に記載の撮像装置。
【請求項20】
前記動き検出部は角速度センサである、請求項15に記載の撮像装置。
【請求項21】
前記動き検出部は撮影画像から動きベクトルを検出する、請求項15に記載の撮像装置。
【請求項22】
映像処理を撮像装置に実行させるプログラムであって、
前記プログラムは、
被写体像を撮像して得られる2D映像データと3D映像データとを、前記撮像装置の動きに応じて切り替えて出力するステップ、
を前記撮像装置に実行させるプログラム。
【請求項23】
映像処理を撮像装置に実行させるプログラムであって、
前記プログラムは、
被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記撮像装置の動きに応じて調整するステップと、
前記調整された視差に基づき3D映像データを生成するステップと、
を前記撮像装置に実行させるプログラム。
【請求項1】
自装置の動きを検出する動き検出部と、
被写体像を撮像して得られる2D映像データと3D映像データとを、前記検出された自装置の動きに応じて切り替えて出力する映像データ出力部と、
を備える撮像装置。
【請求項2】
前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、
前記映像データ出力部が前記3D映像データを出力しているときに、前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する、請求項1に記載の撮像装置。
【請求項3】
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する、請求項2に記載の撮像装置。
【請求項4】
前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、
前記映像データ出力部が前記3D映像データを出力しているときに、前記揺動が所定レベル以上と判定された場合、前記映像データ出力部は、前記3D映像データから前記2D映像データへ切り替えて出力する、請求項1に記載の撮像装置。
【請求項5】
前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記映像データ出力部は、前記2D映像データから前記3D映像データへ切り替えて出力する、請求項4に記載の撮像装置。
【請求項6】
前記動き検出部は角速度センサである、請求項1に記載の撮像装置。
【請求項7】
前記動き検出部は撮影画像から動きベクトルを検出する、請求項1に記載の撮像装置。
【請求項8】
自装置の動きを検出する動き検出部と、
互いに並んで配置され、それぞれ被写体像を形成する第1および第2の光学系と、
前記第1および第2の光学系で形成される2つの被写体像を撮像して得られた画像信号に基づき、3D映像データを生成する映像データ生成部と、
前記検出された自装置の動きに応じて、前記第1および第2の光学系の少なくとも一方の光学系を光軸と垂直な方向に移動させ、前記第1および第2の光学系の光軸間の距離であるステレオベースを変更する変更部と、
を備える撮像装置。
【請求項9】
前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記変更部は、前記ステレオベースを短くする、請求項8に記載の撮像装置。
【請求項10】
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記変更部は、前記ステレオベースを長くする、請求項9に記載の撮像装置。
【請求項11】
前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、
前記変更部は、前記揺動が所定レベル以上と判定された場合、前記ステレオベースを短くする、請求項8に記載の撮像装置。
【請求項12】
前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記変更部は、前記ステレオベースを長くする、請求項11に記載の撮像装置。
【請求項13】
前記動き検出部は角速度センサである、請求項8に記載の撮像装置。
【請求項14】
前記動き検出部は撮影画像から動きベクトルを検出する、請求項8に記載の撮像装置。
【請求項15】
自装置の動きを検出する動き検出部と、
被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記検出された自装置の動きに応じて調整する視差調整部と、
前記調整された視差に基づき3D映像データを生成する映像データ生成部と、
を備える撮像装置。
【請求項16】
前記検出された自装置の動きに基づいて、前記自装置がパンニング撮影およびチルティング撮影の少なくとも一方の状態であるか否かを判定する判定部をさらに備え、
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態であると判定された場合、前記視差調整部は、前記視差を小さくする、請求項15に記載の撮像装置。
【請求項17】
前記自装置が前記パンニング撮影および前記チルティング撮影の少なくとも一方の状態からいずれでもない状態になったと判定された場合、前記視差調整部は、前記視差を大きくする、請求項16に記載の撮像装置。
【請求項18】
前記検出された自装置の動きに基づいて、前記自装置の手振れによる揺動の状態を判定する判定部をさらに備え、
前記視差調整部は、前記揺動が所定レベル以上と判定された場合、前記視差を小さくする、請求項15に記載の撮像装置。
【請求項19】
前記揺動が所定レベル以上から所定レベル未満になったと判定された場合、前記視差調整部は、前記視差を大きくする、請求項18に記載の撮像装置。
【請求項20】
前記動き検出部は角速度センサである、請求項15に記載の撮像装置。
【請求項21】
前記動き検出部は撮影画像から動きベクトルを検出する、請求項15に記載の撮像装置。
【請求項22】
映像処理を撮像装置に実行させるプログラムであって、
前記プログラムは、
被写体像を撮像して得られる2D映像データと3D映像データとを、前記撮像装置の動きに応じて切り替えて出力するステップ、
を前記撮像装置に実行させるプログラム。
【請求項23】
映像処理を撮像装置に実行させるプログラムであって、
前記プログラムは、
被写体像を撮像して得られる右目用の画像と左目用の画像との間の視差を、前記撮像装置の動きに応じて調整するステップと、
前記調整された視差に基づき3D映像データを生成するステップと、
を前記撮像装置に実行させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2012−90259(P2012−90259A)
【公開日】平成24年5月10日(2012.5.10)
【国際特許分類】
【出願番号】特願2011−197918(P2011−197918)
【出願日】平成23年9月12日(2011.9.12)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
【公開日】平成24年5月10日(2012.5.10)
【国際特許分類】
【出願日】平成23年9月12日(2011.9.12)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]