説明

画像処理装置、画像処理装置の制御方法およびプログラム

【課題】複数の画像の視認性を維持して画像表示時における処理の負荷を低減する。
【解決手段】画像処理装置は、第1画像および第2画像を同時に表示する第1表示モードと、第2画像の第1画像との関係を第1画像と同時に表示する第2表示モードとを具備する。また、画像処理装置は、制御部を具備する。この制御部は、第1画像を表示する際に、所定条件に基づいて、第1表示モードと第2表示モードとの何れかを設定する制御を行うものである。

【発明の詳細な説明】
【技術分野】
【0001】
本技術は、画像処理装置に関する。詳しくは、画像を表示させる画像処理装置およびその制御方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
【背景技術】
【0002】
従来、複数の撮像部により同時に生成された複数の画像(画像データ)を関連付けて記録するデジタルスチルカメラやデジタルビデオカメラ(カメラ一体型レコーダ)等の画像処理装置が提案されている。例えば、左右眼の視差を利用して立体的な視覚を得ることができる立体視画像を表示するための複数の画像(画像データ)を関連付けて記録する撮像装置が提案されている。
【0003】
例えば、2つの光学系を用いて2つの画像(立体視画像)を生成する二眼撮像装置が提案されている(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000−261829号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述の従来技術によれば、2つの光学系を用いて2つの画像(立体視画像)を生成することができる。このように、上述の従来技術では、2つの光学系を用いて2つの画像を生成することができるため、例えば、立体視画像以外の2つの画像(例えば、ズーム倍率が異なる2つの画像)を生成することも考えられる。
【0006】
例えば、2つの光学系を用いて、立体視画像以外の2つの画像(例えば、ズーム倍率が異なる2つの画像)を生成する場合には、これらの2つの画像の撮像範囲が異なるため、これらの撮像範囲をユーザが容易に把握することが重要となる。
【0007】
また、近年では、ユーザが容易に携帯することができる小型の画像処理装置(例えば、撮像装置)が普及している。このような携帯可能な画像処理装置は、バッテリ駆動により動作するものが多く、その動作時間を長くすることが重要となる。このため、例えば、撮像動作中において、画像表示時における処理の負荷を低減し、消費電力を抑制することが重要である。
【0008】
本技術はこのような状況に鑑みて生み出されたものであり、複数の画像の視認性を維持して画像表示時における処理の負荷を低減することを目的とする。
【課題を解決するための手段】
【0009】
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、第1画像および第2画像を同時に表示する第1表示モードと、上記第2画像の上記第1画像との関係を上記第1画像と同時に表示する第2表示モードと、上記第1画像を表示する際に、所定条件に基づいて、上記第1表示モードと上記第2表示モードとの何れかを設定する制御を行う制御部とを具備する画像処理装置およびその制御方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、第1画像を表示する際に、所定条件に基づいて、第1表示モードと第2表示モードとの何れかを設定するという作用をもたらす。
【0010】
また、この第1の側面において、上記第1画像は、第1撮像部が被写体を撮像して生成された画像とし、上記第2画像は、第2撮像部が上記被写体を撮像して生成された画像とし、上記第2表示モードは、上記第2画像の上記第1画像との関係として、上記被写体に対する上記第1撮像部の撮像範囲と上記第2撮像部の撮像範囲との関係を表示する表示モードとするようにしてもよい。これにより、第2表示モードの設定時には、被写体に対する第1撮像部の撮像範囲と第2撮像部の撮像範囲との関係を表示するという作用をもたらす。
【0011】
また、この第1の側面において、上記第2表示モードは、上記被写体に対する上記第1撮像部の撮像範囲と上記第2撮像部の撮像範囲との関係を表す画像として、上記第1画像上に上記第2撮像部の撮像範囲を表す付加画像を表示する表示モードとするようにしてもよい。これにより、第2表示モードの設定時には、第1画像上に第2撮像部の撮像範囲を表す付加画像を表示するという作用をもたらす。
【0012】
また、この第1の側面において、上記制御部は、上記第1表示モードおよび上記第2表示モードの切替時において、上記第1表示モード設定時に表示される上記第2画像の位置と、上記第2表示モード設定時に上記第1画像上に表示される上記付加画像により特定される位置との間を、上記第2画像を移動させながらアニメーション表示させるための制御を行うようにしてもよい。これにより、第1表示モードおよび第2表示モードの切替時において、第1表示モード設定時に表示される第2画像の位置と、第2表示モード設定時に第1画像上に表示される付加画像により特定される位置との間を、第2画像を移動させながらアニメーション表示させるという作用をもたらす。
【0013】
また、この第1の側面において、上記第2表示モードは、上記被写体に対する上記第1撮像部の撮像範囲と上記第2撮像部の撮像範囲との関係を表す表示態様として、上記第1画像において上記第2撮像部の撮像範囲に対応する画像と他の画像とを異なる表示態様とする表示モードとするようにしてもよい。これにより、第2表示モードの設定時には、第1画像において第2撮像部の撮像範囲に対応する画像と他の画像とを異なる表示態様とするという作用をもたらす。
【0014】
また、この第1の側面において、上記制御部は、上記第1画像および上記第2画像のそれぞれを静止画コンテンツとして記録するための撮像モードが設定されていることを上記所定条件とし、上記所定条件を満たす場合には、上記第1表示モードを設定する制御を行うようにしてもよい。これにより、第1画像および第2画像のそれぞれを静止画コンテンツとして記録するための撮像モードが設定されている場合には、第1表示モードを設定するという作用をもたらす。
【0015】
また、この第1の側面において、上記制御部は、上記第1画像および上記第2画像のうちの少なくとも一方を動画コンテンツとして記録するための記録処理が行われていることを上記所定条件とし、上記所定条件を満たす場合には、上記第2表示モードを設定する制御を行うようにしてもよい。これにより、第1画像および第2画像のうちの少なくとも一方を動画コンテンツとして記録するための記録処理が行われている場合には、第2表示モードを設定するという作用をもたらす。
【0016】
また、この第1の側面において、上記制御部は、上記第2撮像部に係る光学系のズーム倍率が一定値を基準として大きいことを上記所定条件とし、上記所定条件を満たす場合には、上記第1表示モードを設定する制御を行うようにしてもよい。これにより、第2撮像部に係る光学系のズーム倍率が一定値を基準として大きい場合には、第1表示モードを設定するという作用をもたらす。
【0017】
また、この第1の側面において、上記制御部は、上記第2画像に主要被写体が含まれていることを上記所定条件とし、上記所定条件を満たす場合には、上記第1表示モードを設定する制御を行うようにしてもよい。これにより、第2画像に主要被写体が含まれている場合には、第1表示モードを設定するという作用をもたらす。
【0018】
また、この第1の側面において、上記制御部は、上記第2画像に主要被写体が含まれる場合であって当該主要被写体の表示サイズが上記第1画像に含まれる当該主要被写体の表示サイズを基準として大きいことを上記所定条件とし、上記所定条件を満たす場合には、上記第1表示モードを設定する制御を行うようにしてもよい。これにより、第2画像に主要被写体が含まれる場合であってその主要被写体の表示サイズが第1画像に含まれるその主要被写体の表示サイズを基準として大きい場合には、第1表示モードを設定するという作用をもたらす。
【0019】
また、この第1の側面において、上記制御部は、低消費電力モードが設定されていることを上記所定条件とし、上記所定条件を満たす場合には、上記第2表示モードを設定する制御を行うようにしてもよい。これにより、低消費電力モードが設定されている場合には、第2表示モードを設定するという作用をもたらす。
【0020】
また、この第1の側面において、上記制御部は、上記画像処理装置におけるバッテリ残量が所定値を基準として小さいことを上記所定条件とし、上記所定条件を満たす場合には、上記第2表示モードを設定する制御を行うようにしてもよい。これにより、画像処理装置におけるバッテリ残量が所定値を基準として小さい場合には、第2表示モードを設定するという作用をもたらす。
【0021】
また、この第1の側面において、上記制御部は、上記第1表示モードが設定される場合において上記第1画像に主要被写体が含まれている場合には当該主要被写体と上記第2画像とが重複しないように当該第2画像の表示位置を変更する制御を行うようにしてもよい。これにより、第1表示モードの設定時において第1画像に主要被写体が含まれている場合には、その主要被写体と第2画像とが重複しないように第2画像の表示位置を変更するという作用をもたらす。
【0022】
また、この第1の側面において、上記制御部は、上記第1表示モードが設定される場合において上記第2画像に主要被写体が含まれている場合には当該主要被写体のサイズが所定サイズとなるように当該第2画像のサイズを変更する制御を行うようにしてもよい。これにより、第1表示モードの設定時において第2画像に主要被写体が含まれている場合には、その主要被写体のサイズが所定サイズとなるように第2画像のサイズを変更するという作用をもたらす。
【0023】
また、この第1の側面において、上記第1画像および上記第2画像は、同一被写体に対して撮像範囲が異なるように複数の撮像部によりそれぞれ生成された画像とし、上記第1表示モードは、上記第1画像上における所定位置に上記第2画像を重ねて表示する表示モードとし、上記第2表示モードは、上記第2画像の上記第1画像との関係を表す画像として、上記第1画像上に上記第2撮像部の撮像範囲を表す付加画像を表示する表示モードとするようにしてもよい。これにより、第1表示モードの設定時には、第1画像上における所定位置に第2画像を重ねて表示し、第2表示モードの設定時には、第1画像上に第2撮像部の撮像範囲を表す付加画像を表示するという作用をもたらす。
【0024】
また、この第1の側面において、上記制御部により設定された表示モードに従って各画像を表示する表示部をさらに具備するようにしてもよい。これにより、制御部により設定された表示モードに従って各画像を表示するという作用をもたらす。
【0025】
また、この第1の側面において、上記第1撮像部および上記第2撮像部をさらに具備するようにしてもよい。これにより、第1撮像部により第1画像を生成し、第2撮像部により第2画像を生成するという作用をもたらす。
【0026】
また、この第1の側面において、上記第1撮像部および上記第2撮像部は、第1撮像モードが設定されている場合には立体視画像を表示するための2つの画像を生成し、第2撮像モードが設定されている場合には立体視画像以外の画像を表示するための上記第1画像および上記第2画像を生成し、上記制御部は、上記第2撮像モードが設定されている場合に上記第1表示モードと上記第2表示モードとの何れかを設定する制御を行うようにしてもよい。これにより、第1撮像モードが設定されている場合には立体視画像を表示するための2つの画像を生成し、第2撮像モードが設定されている場合には立体視画像以外の画像を表示するための第1画像および第2画像を生成し、第2撮像モードが設定されている場合に第1表示モードと第2表示モードとの何れかを設定するという作用をもたらす。
【発明の効果】
【0027】
本技術によれば、複数の画像の視認性を維持して画像表示時における処理の負荷を低減することができるという優れた効果を奏し得る。
【図面の簡単な説明】
【0028】
【図1】本技術の第1の実施の形態における画像処理装置100の外観を示す斜視図である。
【図2】本技術の第1の実施の形態における画像処理装置100の内部構成例を示すブロック図である。
【図3】本技術の第1の実施の形態における画像処理装置100の機能構成例を示すブロック図である。
【図4】本技術の第1の実施の形態における画像処理装置100において2眼撮像モードが設定されている場合における表示部172の表示例を示す図である。
【図5】本技術の第1の実施の形態における表示部172に表示されるPinP表示の遷移例を示す図である。
【図6】本技術の第1の実施の形態における表示部172に表示される枠表示の遷移例を示す図である。
【図7】本技術の第1の実施の形態における画像処理装置100の撮像動作時におけるデータの流れを模式的に示す図である。
【図8】本技術の第1の実施の形態における表示部172に表示される枠表示およびPinP表示の遷移例を示す図である。
【図9】本技術の第1の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。
【図10】本技術の第1の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。
【図11】本技術の第2の実施の形態における表示部172に表示される枠表示およびPinP表示の遷移例を示す図である。
【図12】本技術の第2の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。
【図13】本技術の第2の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。
【図14】本技術の第3の実施の形態における表示部172に表示される枠表示およびPinP表示の遷移例を示す図である。
【図15】本技術の第3の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。
【図16】本技術の第4の実施の形態における表示部172に表示される枠表示からPinP表示への遷移例を示す図である。
【図17】本技術の第4の実施の形態における表示部172の表示領域において第2画像表示領域を配置する候補の一例を示す図である。
【図18】本技術の第4の実施の形態における表示部172に表示される枠表示からPinP表示への遷移例を示す図である。
【図19】本技術の第4の実施の形態における表示部172に表示される枠表示からPinP表示への遷移例を示す図である。
【図20】本技術の第4の実施の形態における画像処理装置100によるPinP表示処理の処理手順の一例を示すフローチャートである。
【図21】本技術の第4の実施の形態における画像処理装置100によるPinP表示処理の処理手順の一例を示すフローチャートである。
【図22】本技術の第4の実施の形態における制御部290が第2画像表示領域の移動やサイズ変更を判断する際に用いられる主要被写体の一例を示す図である。
【図23】本技術の実施の形態の変形例における表示部172に表示されるPinP表示の遷移例を示す図である。
【図24】本技術の実施の形態の変形例における表示部172に表示される表示画面の遷移例を示す図である。
【図25】本技術の実施の形態の変形例における画像処理装置800の外観構成例を示す図である。
【図26】本技術の実施の形態の変形例における画像処理装置100および表示装置850の外観構成例を示す図である。
【発明を実施するための形態】
【0029】
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(表示モード設定制御:撮像動作中において、設定されている撮像モード、低消費電力モードの設定の有無、バッテリ残量に基づいて表示モードを設定する例)
2.第2の実施の形態(表示モード設定制御:撮像動作中において、動画記録動作の有無等に基づいて表示モードを設定する例)
3.第3の実施の形態(表示モード設定制御:撮像動作中において、ズーム倍率等に基づいて表示モードを設定する例)
4.第4の実施の形態(表示モード設定制御:撮像動作中において、表示モード切替時の画像の遷移をアニメーション表示する例)
5.変形例
6.変形例
7.変形例
【0030】
<1.第1の実施の形態>
[画像処理装置の外観構成例]
図1は、本技術の第1の実施の形態における画像処理装置100の外観を示す斜視図である。図1(a)は、画像処理装置100の正面(すなわち、被写体に向けられるレンズが設けられている面)側の外観を示す斜視図である。また、図1(b)は、画像処理装置100の背面(すなわち、撮影者に向けられる表示部172が設けられている面)側の外観を示す斜視図である。
【0031】
画像処理装置100は、第1撮像部111と、第2撮像部112と、表示部172と、シャッターボタン185とを備える。画像処理装置100は、被写体を撮像して画像(画像データ)を生成し、この生成された画像を画像コンテンツ(静止画コンテンツまたは動画コンテンツ)として記録媒体(図2に示すリムーバブルメディア192)に記録することが可能な撮像装置である。また、画像処理装置100は、2系統の撮像素子(イメージャ)を備える立体視撮像対応の撮像装置(いわゆる、2眼カメラ)であり、立体視画像(3D画像)を表示させるための画像コンテンツを生成することができる。なお、立体視画像(3D画像)は、左右眼の視差を利用して立体的な視覚を得ることができる画像である。
【0032】
例えば、第1撮像部111および第2撮像部112のそれぞれが被写体を撮像して2つの画像(立体視画像を表示するための左眼視用画像(左眼画像)および右眼視用画像(右眼画像))を生成する。そして、その生成された2つの画像に基づいて、立体視画像を表示させるための画像コンテンツが生成される。
【0033】
また、画像処理装置100は、立体視画像の撮像動作とは別に、第1撮像部111および第2撮像部112のそれぞれが独立して撮像動作を行い、設定が異なる2つの画像を生成することができる。例えば、画像処理装置100は、一方の撮像部(例えば、第1撮像部111)のズームレンズをワイド端に固定した状態で、他方の撮像部(例えば、第2撮像部112)のズームレンズをユーザ操作に基づいて移動させながら撮像動作を行うことができる。すなわち、画像処理装置100では、一度の撮像動作で、ワイド端の画像とズームされた画像との2つの画像を同時に生成することができる撮像モードを設定することが可能である。
【0034】
なお、画像処理装置100には、電源スイッチ、モード切替スイッチ、ズームボタン等の他の操作部材が備えられているが、ここでの図示および説明は省略する。
【0035】
表示部172は、各種画像を表示する表示パネルである。表示部172として、例えば、表示部172における接触操作を検出することによりユーザからの操作入力を受け付けるタッチパネルを用いることができる。
【0036】
シャッターボタン185は、被写体を撮像して生成された画像(画像データ)を画像コンテンツ(静止画コンテンツ)として記録する際にユーザにより押下されるボタンである。例えば、静止画を記録するための撮像モード(例えば、静止画+静止画モード)が設定されている場合において、シャッターボタン185が半押しされた場合には、オートフォーカスを行うためのフォーカス制御が行われる。また、シャッターボタン185が全押しされた場合には、そのフォーカス制御が行われ、この全押しの際に第1撮像部111および第2撮像部112のそれぞれにより撮像された画像が関連付けて記録媒体に記録される。
【0037】
なお、第1撮像部111および第2撮像部112については、図2を参照して詳細に説明する。
【0038】
[画像処理装置の内部構成例]
図2は、本技術の第1の実施の形態における画像処理装置100の内部構成例を示すブロック図である。
【0039】
画像処理装置100は、第1撮像部111と、第2撮像部112と、第1信号処理部121と、第2信号処理部122と、解像度変換部131と、画像圧縮伸張部132と、グラフィックエンジン133とを備える。また、画像処理装置100は、ROM(Read Only Memory)140と、RAM(Random Access Memory)150と、CPU(Central Processing Unit)160とを備える。また、画像処理装置100は、表示部コントローラ171と、表示部172と、入力制御部181と、操作部182と、リムーバブルメディアコントローラ191と、リムーバブルメディア192と、外部インターフェース195とを備える。なお、画像処理装置100を構成する各部の間で行われるやりとりは、バス101を介して行われる。
【0040】
第1撮像部111および第2撮像部112は、CPU160の制御に基づいて、被写体からの入射光を変換して画像(画像データ)を生成するものである。また、第1撮像部111および第2撮像部112は、立体視画像を表示するための左眼視用画像および右眼視用画像を生成するため、光学系、撮像素子のそれぞれが左右1組となるように構成されている。すなわち、第1撮像部111および第2撮像部112のそれぞれは、ズームレンズと、フォーカスレンズと、絞りと、これらの駆動部と、撮像素子とを備える。
【0041】
なお、第1撮像部111および第2撮像部112の各構成(各レンズ、各撮像素子等)は、配置位置が異なる点以外は略同一である。このため、以下では、これらの左右の構成のうち何れかについては一部の説明を省略して説明する。
【0042】
第1撮像部111は、CPU160の制御に基づいて、被写体からの入射光を変換して画像データ(画像)を生成するものであり、生成された画像データを第1信号処理部121に供給する。
【0043】
第1撮像部111の光学系を構成するズームレンズは、CPU160の制御に基づいて、光軸方向に移動して焦点距離を調整するレンズである。すなわち、ズームレンズは、画像に含まれる被写体を拡大または縮小させるため、被写体に対して前後に駆動するレンズであり、ズーム機能を実現するためのレンズである。
【0044】
第1撮像部111の光学系を構成するフォーカスレンズは、CPU160の制御に基づいて、光軸方向に移動してフォーカス(焦点)を調整するレンズである。すなわち、フォーカスレンズは、画像に含まれる所望の対象物にフォーカスを合わせるために使用されるレンズであり、オートフォーカス機能を実現する。
【0045】
このように、ズームレンズおよびフォーカスレンズは、被写体からの入射光を集光するレンズ群であり、これらのレンズ群により集光される光が、第1撮像部111の光学系を構成する絞りによりその量(光量)が調整されて撮像素子に入射される。
【0046】
第1撮像部111の撮像素子は、ズームレンズ、フォーカスレンズおよび絞りを通過した入射光に光電変換処理を施し、光電変換された電気信号(画像信号)を第1信号処理部121に供給する撮像素子である。すなわち、撮像素子は、ズームレンズおよびフォーカスレンズを介して入射された被写体からの光を受光して光電変換を行うことにより、光の受光量に応じたアナログの画像信号を生成する。なお、撮像素子として、例えば、CCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)センサ等を用いることができる。
【0047】
第1信号処理部121は、CPU160の制御に基づいて、第1撮像部111から供給されたアナログの画像信号に対して各種の信号処理を施す信号処理部である。そして、第1信号処理部121は、各種の信号処理が施されて生成されたデジタルの画像信号(例えば、左眼視用画像)をRAM150に一時的に保持させる。
【0048】
なお、第1信号処理部121および第2信号処理部122は、配置位置が異なる点以外は略同一である。このため、第2信号処理部122についての説明を省略する。
【0049】
解像度変換部(Resolution Converter)131は、CPU160からの制御信号に基づいて、入力された各種画像データを各画像処理に適した解像度に変換するものである。
【0050】
画像圧縮伸張部132は、CPU160からの制御信号に基づいて、入力された各種画像データを各画像処理に応じて圧縮または伸張するものである。画像圧縮伸張部132は、例えば、入力された各種画像データをJPEG(Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)形式の画像データに圧縮または伸張する。画像圧縮伸張部132は、例えば、JPEG ConverterやCodec Engineに対応する。
【0051】
グラフィックエンジン(Graphic Engine)133は、CPU160の制御に基づいて、表示部172に表示させる各種画像を生成するものである。例えば、グラフィックエンジン133は、撮像動作中には、撮像動作に関する各種画像(例えば、図5、図6に示すアイコン表示領域315内のアイコン)を生成する。また、グラフィックエンジン133は、撮像動作中において、枠表示モードが設定されている場合には、モニタリング画像に重ねて表示される枠画像(例えば、図6に示す枠322、323)を生成する。また、グラフィックエンジン133は、撮像動作中において、PinP(Picture in Picture)表示モードが設定されている場合には、モニタリング画像として表示される2つの画像を重畳するMIX処理を行う。例えば、図5(a)に示す第1画像表示領域311内の画像に、第2画像表示領域312内の画像が上書き合成される。ここで、モニタリング画像は、例えば、動画記録中または静止画の記録動作待機中に表示部172に表示される画像(第1撮像部111、第2撮像部112により生成される画像)である。
【0052】
ROM140は、読み出し専用のメモリであり、各種制御プログラム等を記憶するものである。
【0053】
RAM150は、CPU160のメインメモリ(主記憶装置)に用いられるメモリであり、CPU160において実行されるプログラムの作業領域等を備え、CPU160が各種の処理を行う上で必要なプログラムやデータが一時的に保持される。また、RAM150は、各種の画像処理のための画像保存領域を備える。
【0054】
CPU160は、ROM140に記憶されている各種制御プログラムに基づいて、画像処理装置100の各部を制御するものである。また、CPU160は、操作部182により受け付けられた操作入力等に基づいて画像処理装置100の各部を制御する。例えば、CPU160は、ズーム制御、フォーカス制御、シャッター制御、画像記録処理、モード設定等の各制御を行う。例えば、CPU160は、フォーカスレンズを移動させる制御信号を生成することにより、所定の被写体に対する合焦位置を検出するAF(Auto Focus:オートフォーカス)制御を行う。具体的には、CPU160は、第1信号処理部121および第2信号処理部122から出力された画像について、フォーカスレンズを移動させてオートフォーカス制御を行う。
【0055】
表示部コントローラ171は、CPU160の制御に基づいて、各種画像を表示部172に表示させるものである。例えば、表示部コントローラ171は、CPU160の制御に基づいて、各種画面(例えば、図5および図6に示す各画面)を表示部172に表示させる。例えば、表示部コントローラ171は、撮像モードが設定されている場合には、第1撮像部111および第2撮像部112により生成された各画像をモニタリング画像(いわゆる、スルー画像)として表示部172に表示させる。
【0056】
表示部172は、表示部コントローラ171から供給された各種画像を表示する表示部である。例えば、表示部172は、第1撮像部111および第2撮像部112により生成された各画像を順次表示する。表示部172として、例えば、有機EL(Electro Luminescence)、LCD(Liquid Crystal Display)等の表示パネルを用いることができる。また、表示部172として、例えば、使用者がその指を表示面に接触または近接することにより操作入力を行うことが可能なタッチパネルを用いるようにしてもよい。
【0057】
入力制御部181は、CPU160からの指示に基づいて、操作部182により受け付けられる操作入力に関する制御を行うものである。
【0058】
操作部182は、ユーザによる操作入力を受け付ける操作部であり、受け付けられた操作入力に応じた操作信号をCPU160に供給する。操作部182は、例えば、シャッターボタン185(図1に示す)、各種操作ボタン、各種操作ダイヤル、モード設定ボタン、ズームボタン等の操作部材に対応する。モード設定ボタンは、例えば、所望の撮像モードを設定する際(所望の撮像モードに切り替える際)に用いられる操作部材である。また、ズームボタン(W(ワイド)ボタンおよびT(テレ)ボタン)は、例えば、ユーザがズーム操作を行うための操作部材である。このズームボタンのWボタンが押下されている状態では、ズームレンズがワイド端側(望遠側)に移動し、Tボタンが押下されている状態では、ズームレンズがテレ端側(広角側)に移動する。ここで、3D撮像モード以外の2眼撮像モードが設定されている場合において、ユーザによるズーム操作が受け付けられた場合には、2つの撮像部のうちの何れか一方(例えば、第2撮像部112)のズームレンズのみを移動させるものとする。また、上述したように、表示部172および操作部182については、タッチパネルにより一体で構成するようにしてもよい。
【0059】
リムーバブルメディアコントローラ191は、リムーバブルメディア192と接続され、CPU160の制御に基づいて、リムーバブルメディア192へのデータの読出しおよび書込みを行うものである。例えば、リムーバブルメディアコントローラ191は、第1撮像部111、第2撮像部112により生成された画像データ等の各種画像データを画像ファイル(画像コンテンツ)としてリムーバブルメディア192に記録させる。また、リムーバブルメディアコントローラ191は、リムーバブルメディア192から画像ファイル等のコンテンツを読み出してバス101を介してRAM150等に供給する。
【0060】
リムーバブルメディア192は、リムーバブルメディアコントローラ191から供給された画像データを記録する記録デバイスである。リムーバブルメディア192には、例えば、JPEGやMPEG形式の画像データ等の各種データが記録される。
【0061】
外部インターフェース195は、有線回線または無線回線を介して外部装置(例えば、表示装置850)と接続され、CPU160からの指示に基づいて、外部装置との間で行われる通信制御を行うものである。例えば、外部インターフェース195は、装置間インターフェース860を介して表示装置850と接続され、CPU160の制御に基づいて、表示装置850との間で行われる各種情報の入出力を行う。
【0062】
ここで、第1撮像部111により生成された画像を静止画コンテンツとして記録する場合について説明する。例えば、第1撮像部111により生成され、第1信号処理部121により信号処理が施された画像データは、RAM150に一時的に保存される。続いて、RAM150に保存された画像データは、解像度変換部131により所定の解像度に変換され、画像圧縮伸張部132により圧縮(JPEG等)される。このように、解像度変換がされて圧縮された画像データは、リムーバブルメディアコントローラ191により静止画コンテンツ(静止画ファイル)として、リムーバブルメディア192に記録される。なお、第2撮像部112により生成された画像を静止画コンテンツとして記録する場合についても略同様である。
【0063】
また、第1撮像部111により生成された画像を動画コンテンツとして記録する場合について説明する。例えば、第1撮像部111により生成され、第1信号処理部121により信号処理が施された画像データは、RAM150に一時的に保存される。続いて、RAM150に保存された画像データは、解像度変換部131により所定の解像度に変換され、画像圧縮伸張部132により圧縮(H.264、MPEG4等)される。このように、解像度変換がされて圧縮された画像データは、リムーバブルメディアコントローラ191により、音声データとともに動画ストリーム(動画コンテンツ)として、リムーバブルメディア192に記録される。なお、第2撮像部112により生成された画像を動画コンテンツとして記録する場合についても略同様である。
【0064】
また、第1撮像部111および第2撮像部112を同期して動作させることにより、立体視画像(3D映像)を画像コンテンツ(立体視画像コンテンツ)として記録することができる。
【0065】
また、第1撮像部111および第2撮像部112をそれぞれ別々に動作させることにより、ズーム倍率や露出等が異なる2つの画像コンテンツを同時に記録することができる。この2つの画像コンテンツは、例えば、ズーム倍率が異なる2つの静止画コンテンツ、ズーム倍率やフレームレートを変えた2つの動画コンテンツ、静止画コンテンツおよび動画コンテンツである。このように記録される2つの画像コンテンツについては、第1撮像部111および第2撮像部112のそれぞれにより生成される2つの画像の設定内容がそれぞれ異なる。このため、撮像動作中に2つの画像をユーザが容易に把握できることが好ましい。そこで、本技術の第1の実施の形態では、第1撮像部111および第2撮像部112のそれぞれにより生成される2つの画像を、撮像動作中にユーザが容易に把握することができる例を示す。
【0066】
[画像処理装置の機能構成例]
図3は、本技術の第1の実施の形態における画像処理装置100の機能構成例を示すブロック図である。
【0067】
画像処理装置100は、第1画像生成部210と、第2画像生成部220と、顔検出部230と、操作受付部240と、バッテリ残量検出部250と、表示制御部260と、表示部172と、記録制御部270と、コンテンツ記憶部280と、制御部290とを備える。
【0068】
第1画像生成部210および第2画像生成部220は、制御部290の制御に基づいて、被写体を撮像して画像を生成するものであり、生成された画像を、顔検出部230と、表示制御部260と、記録制御部270に出力する。例えば、第1画像生成部210および第2画像生成部220は、2眼撮像モードとして3D撮像モード(第1撮像モード)が設定されている場合には、立体視画像を表示するための2つの画像を生成する。また、例えば、第1画像生成部210および第2画像生成部220は、2眼撮像モードとして3D撮像モード以外の撮像モード(第2撮像モード)が設定されている場合には、立体視画像以外の画像を表示するための2つの画像(第1画像および第2画像)を生成する。この2つの画像(第1画像および第2画像)は、例えば、同一被写体に対して撮像範囲が異なるように、第1画像生成部210および第2画像生成部220によりそれぞれ生成された画像である。また、3D撮像モード以外の撮像モードは、例えば、図8等に示す静止画+静止画モード、動画+静止画モード、動画+動画モードである。これらの各モードについては、図4を参照して詳細に説明する。なお、第1画像生成部210は、図2に示す第1撮像部111および第1信号処理部121に対応する。また、第2画像生成部220は、図2に示す第2撮像部112および第2信号処理部122に対応する。
【0069】
顔検出部230は、第1画像生成部210および第2画像生成部220から出力された画像に含まれる人物の顔を検出するものであり、検出された顔に関する顔検出情報を制御部290に出力する。顔検出方法として、例えば、顔の輝度分布情報が記録されているテンプレートと実画像とのマッチングによる顔検出方法(例えば、特開2004−133637参照。)、画像データに含まれる肌色の部分や人間の顔の特徴量等に基づいた顔検出方法等を用いることができる。また、顔検出情報には、検出された顔の画像上における位置およびサイズが含まれる。この顔検出情報により、画像上における顔の少なくとも一部を含む顔画像(例えば、矩形状の画像)を特定することができる。なお、顔検出部230は、図2に示す第1信号処理部121、第2信号処理部122、または、CPU160に対応する。
【0070】
操作受付部240は、ユーザにより行われた操作を受け付ける操作受付部であり、受け付けられた操作内容に応じた制御信号(操作信号)を制御部290に出力する。操作受付部240は、例えば、所望の撮像モードを設定する撮像モード設定操作(撮像モード切替操作)を受け付ける。なお、操作受付部240は、図2に示す入力制御部181および操作部182に対応する。
【0071】
バッテリ残量検出部250は、画像処理装置100に内蔵または装着されているバッテリ(図示せず)の残量を検出するものであり、検出結果(バッテリ残量情報)を制御部290に出力する。なお、バッテリ残量検出部250は、図2に示すCPU160に対応する。
【0072】
表示制御部260は、制御部290の指示に基づいて、第1画像生成部210および第2画像生成部220から出力された画像を表示部172に表示させるものである。例えば、表示制御部260は、撮像動作中において、制御部290により設定された表示モードに従って、モニタリング画像(例えば、図8に示す各画像)を表示部172に表示させる。ここで、制御部290により設定される表示モードは、例えば、PinP表示モード(第1表示モード)または枠表示モード(第2表示モード)である。
【0073】
ここで、PinP表示モード(第1表示モード)は、第1画像生成部210および第2画像生成部220のそれぞれにより生成された2つの画像(第1画像および第2画像)を同時に表示する表示モードである。PinP表示モードの設定時には、例えば、第1画像(第1画像生成部210により生成された画像)上における所定位置に第2画像(第2画像生成部220により生成された画像)が重ねて表示される。
【0074】
また、枠表示モード(第2表示モード)は、第2画像(第2画像生成部220により生成された画像)の第1画像(第1画像生成部210により生成された画像)との関係を第1画像と同時に表示する表示モードである。例えば、第2画像の第1画像との関係として、被写体に対する第1撮像部111の撮像範囲と第2撮像部112の撮像範囲との関係が表示される。具体的には、その関係を表す画像として、第1画像上に第2撮像部112の撮像範囲を表す付加画像(例えば、図6に示す枠322、323)が表示される。
【0075】
なお、表示制御部260は、図2に示すグラフィックエンジン133および表示部コントローラ171に対応する。また、表示部172は、図2に示す表示部172に対応するため同一の符号を付して、ここでの説明を省略する。
【0076】
記録制御部270は、制御部290の指示に基づいて、コンテンツ記憶部280に対する記録制御を行うものである。例えば、記録制御部270は、第1画像生成部210および第2画像生成部220のそれぞれにより生成された2つの画像(画像データ)を画像コンテンツ(画像ファイル)としてコンテンツ記憶部280に記録させる。なお、記録制御部270は、図2に示すリムーバブルメディアコントローラ191に対応する。
【0077】
コンテンツ記憶部280は、記録制御部270の制御に基づいて、各種情報(静止画コンテンツや動画コンテンツ)を記憶する記憶部である。なお、コンテンツ記憶部280は、図2に示すリムーバブルメディア192に対応する。
【0078】
制御部290は、各種制御プログラムに基づいて、画像処理装置100の各部を制御するものである。例えば、制御部290は、2眼撮像モードとして3D撮像モード以外の撮像モード(第2撮像モード)が設定されている場合において、第1画像(第1画像生成部210により生成された画像)を表示する際における表示モードを設定する制御を行う。すなわち、制御部290は、第1画像(第1画像生成部210により生成された画像)を表示する際に、所定条件に基づいて、PinP表示モード(第1表示モード)と、枠表示モード(第2表示モード)との何れかを設定する制御を行う。
【0079】
例えば、制御部290は、静止画+静止画モードが設定されている場合(所定条件)には、PinP表示モード(第1表示モード)を設定する制御を行う。
【0080】
また、例えば、制御部290は、低消費電力モードが設定されている場合(所定条件)には、枠表示モード(第2表示モード)を設定する制御を行う。ここで、低消費電力モードは、画像処理装置100において各処理が行われる場合でも、低消費電力状態を維持するためのモードである。
【0081】
また、例えば、制御部290は、画像処理装置100におけるバッテリ残量が所定値を基準として小さい場合(所定条件)には、枠表示モード(第2表示モード)を設定する制御を行う。この場合に、制御部290は、バッテリ残量検出部250から出力されたバッテリ残量情報に基づいて、画像処理装置100におけるバッテリ残量が所定値を基準として小さいか否かを判断する。また、これらの所定条件の組み合わせに基づいて、PinP表示モードおよび枠表示モードを設定するようにしてもよい。なお、制御部290は、図2に示すCPU160に対応する。
【0082】
[2眼撮像モード設定時の表示例]
図4は、本技術の第1の実施の形態における画像処理装置100において2眼撮像モードが設定されている場合における表示部172の表示例を示す図である。なお、図4では、2眼撮像モードとして、3D撮像モード以外の撮像モードが設定されている場合における表示例を示す。
【0083】
ここで、3D撮像モード以外の撮像モードは、例えば、静止画+静止画モード、動画+静止画モード、動画+動画モードである。静止画+静止画モードは、2つの撮像部(第1撮像部111、第2撮像部112)により生成された2つの画像(1つの画像の撮像範囲(ズーム倍率)を変更可能)を静止画コンテンツとして記録するための撮像モードである。また、動画+静止画モードは、一方の撮像部(例えば、第1撮像部111)により生成された画像を動画コンテンツとして記録し、他方の撮像部(例えば、第2撮像部112)により生成された画像を静止画コンテンツとして記録するための撮像モードである。なお、動画+静止画モードでは、静止画コンテンツとして記録される画像の撮像範囲(ズーム倍率)を変更可能とすることができる。また、動画+動画モードは、2つの撮像部(第1撮像部111、第2撮像部112)により生成された2つの画像(1つの画像の撮像範囲(ズーム倍率)を変更可能)を動画コンテンツとして記録するための撮像モードである。
【0084】
図4(a)には、PinP表示モードが設定されている場合における表示構成例を示す。PinP表示モードは、第1撮像部111により生成された画像上に、第2撮像部112により生成された画像を重ねて表示させる表示モードである。例えば、表示部172における第1画像表示領域301には、ワイド端の画像(例えば、第1撮像部111により生成された画像)が表示される。一方、表示部172における第2画像表示領域302には、ズーム操作に応じた画像(例えば、第2撮像部112により生成された画像)が表示される。なお、図4(a)では、表示部172における全ての表示領域(すなわち、全画面)を第1画像表示領域301とし、表示部172における右下の領域を第2画像表示領域302とする例を示す。
【0085】
ここで、第2撮像部112のズーム倍率が変更された場合には、第2画像表示領域302のサイズを変更するようにしてもよく、一定とするようにしてもよい。なお、ズーム倍率を変更するためのズーム操作は、操作部182における操作入力(例えば、ズームボタンの押下操作)により行われる。また、第2撮像部112のズーム倍率が変更された場合における表示遷移例については、図5に示す。
【0086】
図4(b)には、枠表示モードが設定されている場合における表示構成例を示す。枠表示モードは、第1撮像部111により生成された画像上に、第2撮像部112により生成された画像の撮像範囲を表す枠(付加画像)を重ねて表示させる表示モードである。例えば、表示部172における第1画像表示領域301には、第1撮像部111により生成された画像が表示され、この画像上には、第2撮像部112により生成された画像の撮像範囲を表す枠305が重ねて表示される。
【0087】
ここで、第2撮像部112のズーム倍率が変更された場合には、第2撮像部112により生成される画像の撮像範囲が変更されるため、この変更に応じて枠305が拡大または縮小される。例えば、ズーム倍率を拡大するためのユーザ操作(例えば、Tボタンの押下操作)が行われた場合には、枠305が矢印308方向に縮小され、枠306(点線で示す)となる。一方、ズーム倍率を縮小するためのユーザ操作(例えば、Wボタンの押下操作)が行われた場合には、枠305が矢印309方向に拡大され、枠307(点線で示す)となる。なお、第2撮像部112のズーム倍率が、第1撮像部111のズーム倍率と同一となった場合には、表示部172における第1画像表示領域301の外枠と枠305とが一致する。なお、第2撮像部112のズーム倍率が変更された場合における表示遷移例については、図6に示す。
【0088】
[PinP表示モード設定時の表示遷移例]
図5は、本技術の第1の実施の形態における表示部172に表示されるPinP表示の遷移例を示す図である。なお、図5では、第1撮像部111により生成された画像(第1画像表示領域311内の画像)上には、撮像動作時に用いられるアイコンが表示されるアイコン表示領域315が設けられている例を示す。なお、これ以降で示す各図についても、アイコン表示領域315が設けられている例を示すため、これ以降では、同一の符号を付してアイコン表示領域315の説明を省略する。
【0089】
図5(a)には、ワイド側へのズーム操作が行われた場合に表示部172に表示される画像(第1画像表示領域311内の画像)および画像(第2画像表示領域312内の画像)を示す。また、図5(b)には、テレ側へのズーム操作が行われた場合に表示部172に表示される画像(第1画像表示領域311内の画像)および画像(第2画像表示領域313内の画像)を示す。なお、実際のズーム操作時において、第1画像表示領域311内の画像に含まれる被写体が移動することがあるが、図5では、説明の容易のため、ズーム操作の前後において、第1画像表示領域311内の画像には同一の被写体が含まれるものとして説明する。また、これ以降で示す画像についても、ズーム操作の前後において同一の被写体が含まれるものとして説明する。なお、図5では、第2撮像部112により生成された画像が表示される表示領域(第2画像表示領域312、313)のサイズを一定とする例を示す。
【0090】
図4(a)で示したように、PinP表示モードの設定時には、第1撮像部111により生成された画像(第1画像表示領域311内の画像)上に、第2撮像部112により生成された画像(第2画像表示領域312、313内の画像)を重ねて表示させる。また、第1撮像部111により生成された画像の撮像範囲は、一定(ワイド端に固定)である。これに対して、第2撮像部112により生成された画像の撮像範囲は、ユーザによりズーム操作が行われた場合には、そのズーム操作に応じて変更される。例えば、図5の矢印に示すように、ユーザにより行われたズーム操作に応じて、第2撮像部112により生成された画像(第2画像表示領域312、313内の画像)が表示される。
【0091】
[枠表示モード設定時の表示遷移例]
図6は、本技術の第1の実施の形態における表示部172に表示される枠表示の遷移例を示す図である。
【0092】
図6(a)には、ワイド側へのズーム操作が行われた場合に表示部172に表示される画像(第1画像表示領域321内の画像)および枠322を示す。また、図6(b)には、テレ側へのズーム操作が行われた場合に表示部172に表示される画像(第1画像表示領域321内の画像)および枠323を示す。
【0093】
図4(b)で示したように、枠表示モードの設定時には、第1撮像部111により生成された画像(第1画像表示領域321内の画像)上に、第2撮像部112により生成された画像の撮像範囲を表す枠322、323を重ねて表示させる。また、図4(b)と同様に、第1撮像部111により生成された画像の撮像範囲は、一定(ワイド端に固定)であるのに対し、第2撮像部112により生成された画像の撮像範囲は、ユーザによりズーム操作が行われた場合には、そのズーム操作に応じて変更される。例えば、図6の矢印に示すように、第2撮像部112により生成される画像の撮像範囲の変更に応じて枠322、323が表示される。
【0094】
[撮像モード設定時におけるデータフロー例]
図7は、本技術の第1の実施の形態における画像処理装置100の撮像モード設定時におけるデータの流れを模式的に示す図である。
【0095】
図7では、画像処理装置100において、3D撮像モード以外の2眼撮像モードが設定されている場合を想定する。この場合には、第1撮像部111では、ズームレンズがワイド端に固定された状態で撮像処理が行われるものとする。一方、第2撮像部112では、ユーザによるズーム操作に応じてズームレンズが移動しながら撮像処理が行われるものとする。
【0096】
図7(a)には、撮像モードとして動画+静止画モードが設定され、表示モードとしてPinP表示モードが設定されている場合におけるデータの流れの一例を示す。この場合には、第1撮像部111では、ズームレンズがワイド端に固定された状態で動画の撮像処理401が行われ、第2撮像部112では、ユーザによるズーム操作(ズーム処理411)に応じてズームレンズが移動しながら静止画の撮像処理404が行われる。
【0097】
図7(a)に示す例では、第1撮像部111による撮像処理401により生成された画像データについて、第1信号処理部121により信号処理402が行われ、解像度変換部131により解像度変換処理403が行われる。また、第2撮像部112による撮像処理404により生成された画像データについて、第2信号処理部122により信号処理405が行われ、解像度変換部131により解像度変換処理406が行われる。このように生成された2つの画像データについて、MIX処理407が行われ、このMXI処理407が施された画像データについて表示部コントローラ171により表示処理408が行われる。
【0098】
ここで、MIX処理407は、グラフィックエンジン133により行われる。また、解像度変換部131により解像度変換処理403が行われた画像データと、解像度変換部131により解像度変換処理406が行われた画像データとをRAM150に順次貼り付けることによりMIX処理407を行うようにしてもよい。
【0099】
ここで、動画記録指示操作が行われた場合には、画像データ(動画データ)の記録処理410が行われる。すなわち、解像度変換部131により解像度変換処理403が行われた画像データについて画像圧縮伸張部132によりエンコード処理409が行われる。続いて、エンコード処理409が施された画像データについてリムーバブルメディアコントローラ191により記録処理410が行われる。
【0100】
このように、動画+静止画モードが設定され、PinP表示モードが設定されている場合において、動画の記録処理410が行われている場合には、解像度変換処理406およびMIX処理407とともに、エンコード処理409が行われる。このため、システム負荷が高くなるため、消費電力が増加し、バッテリ容量が低下する。また、システム負荷が高くなるため、これを実現するためには、リッチなシステムとする必要があり、高コスト化に繋がるおそれがある。
【0101】
図7(b)には、撮像モードとして静止画+静止画モードが設定され、表示モードとして枠表示モードが設定されている場合におけるデータの流れの一例を示す。この場合についても、第1撮像部111では、ズームレンズがワイド端に固定された状態で動画の撮像処理421が行われる。また、第2撮像部112では、ユーザによるズーム操作(ズーム処理430)に応じてズームレンズが移動しながら静止画の撮像処理424が行われる。
【0102】
図7(b)に示す例では、第1撮像部111による撮像処理421により生成された画像データについて、第1信号処理部121により信号処理422が行われ、解像度変換部131により解像度変換処理423が行われる。このように生成された画像データについて、ユーザによるズーム操作(ズーム処理430)に応じた枠付加処理426が行われ、この枠付加処理426が施された画像データについて表示部コントローラ171により表示処理427が行われる。なお、枠付加処理426は、グラフィックエンジン133により行われる。
【0103】
このように、枠表示モードの設定時には、表示部172に実際に表示される画像は、一方の画像(第1撮像部111により生成される画像)のみである。このため、例えば、枠表示モードの設定時には、第2撮像部112により生成された画像を表示させる必要がないため、第2撮像部112の撮像素子の動作(例えば、読出動作)を停止させることができる。これにより、システム負荷を低減させることができ、消費電力を削減することができる。また、システム負荷の低減により画像処理装置100の温度上昇を抑制することができる。ただし、静止画撮像動作のためのAF(Auto Focus)処理を行う必要があるため、定期的または不定期に、第2撮像部112による撮像処理424により生成された画像データについて、第2信号処理部122により信号処理425が行われる。また、ユーザによりシャッターボタン185が押下された場合(全押しまたは半押し)には、第2撮像部112の撮像素子を動作させる。
【0104】
また、枠表示モードの設定時には、各撮像部(第1撮像部111、第2撮像部112)の撮像範囲を迅速に把握し易い。ただし、ズーム倍率が上がった場合には、枠が狭くなるため、視認性が悪くなるおそれがある。また、立体視画像(3D画像)は、左右眼の視差を利用して立体的な視覚を得るための画像であるため、左眼視用画像および右眼視用画像において左右方向に多少のズレが生じる。このため、枠表示モードの設定時において、枠内に表示される画像と実際の画像との間で、左右方向に多少のズレが生じることも想定される。
【0105】
また、PinP表示モードの設定時には、各撮像部(第1撮像部111、第2撮像部112)により生成される画像が表示されるため、各撮像部の撮像範囲を視認し易い。また、PinP表示モードの設定時には、記録対象となる2つの画像が表示されるため、例えば、高倍率ズームとなった場合でも、記録対象となる画像を詳細に見ることができる。ただし、PinP表示モードの設定時には、表示部172に両方の画像(第1撮像部111、第2撮像部112により生成される画像)を表示するための処理を行う必要が生じるため、システム負荷が高くなり、消費電力が増加するおそれがある。
【0106】
このように、枠表示モードは、視認性が低いが、システム負荷が低く、消費電力を低減させることができる。一方、PinP表示モードは、システム負荷が高く、消費電力が増加するが、視認性を高くすることができる。このため、画像処理装置100の使用状況に応じて、枠表示モードおよびPinP表示モードを適切に設定することが重要である。
【0107】
そこで、本技術の第1の実施の形態では、画像処理装置100の使用状況に応じて、枠表示モードおよびPinP表示モードを適切に設定する例を示す。
【0108】
[枠表示モードおよびPinP表示モードの遷移例]
図8は、本技術の第1の実施の形態における表示部172に表示される枠表示およびPinP表示の遷移例を示す図である。
【0109】
図8では、2眼撮像モード(3D撮像モード以外)として、静止画+静止画モードが設定されている場合にのみ、PinP表示モードが設定され、その他のモードが設定されている場合には、枠表示モードが設定される例を示す。ただし、静止画+静止画モードの設定時でも、低消費電力モードが設定されている場合には、枠表示モードが設定される。また、静止画+静止画モードの設定時(低消費電力モードが未設定)でも、バッテリ残量が少なくなった場合には、枠表示モードが設定される。
【0110】
すなわち、図8では、ユーザ操作により撮像モードのモード切替が行われた場合と、バッテリ残量が所定値を基準として小さくなった場合とに、枠表示モードおよびPinP表示モードが切り替えられる例を示す。
【0111】
図8(a)には、枠表示モードが設定されている場合における遷移例を示す。この遷移例は、図6に示す遷移例に対応する。
【0112】
図8(b)には、PinP表示モードが設定されている場合における遷移例を示す。この遷移例は、図5に遷移例に対応する。
【0113】
例えば、枠表示モードの設定時(図8(a)に示す)において、静止画+静止画モードへの切替操作が行われた場合には、矢印341に示すように、PinP表示モード(図8(b)に示す)に切り替えられる。
【0114】
また、例えば、PinP表示モードの設定時(図8(b)に示す)において、静止画+静止画モード以外のモードへの切替操作が行われた場合には、矢印341に示すように、枠表示モード(図8(a)に示す)に切り替えられる。ここで、静止画+静止画モード以外のモードは、例えば、動画+静止画モードまたは動画+動画モードである。また、低消費電力モードへの切替操作が行われた場合についても同様に、矢印341に示すように、枠表示モード(図8(a)に示す)に切り替えられる。
【0115】
また、例えば、PinP表示モードの設定時(図8(b)に示す)において、バッテリ残量が所定値を基準として小さくなった場合には、矢印342に示すように、枠表示モード(図8(a)に示す)に切り替えられる。
【0116】
[画像処理装置の動作例]
図9および図10は、本技術の第1の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。
【0117】
最初に、制御部290は、撮像モードを設定するための設定操作が行われたか否かを判断し(ステップS901)、撮像モードを設定するための設定操作が行われていない場合には、監視を継続して行う。撮像モードを設定するための設定操作が行われた場合には(ステップS901)、制御部290は、その設定された撮像モードは、2眼撮像モードであるか否かを判断する(ステップS902)。
【0118】
その設定された撮像モードが2眼撮像モードでない場合(すなわち、1眼撮像モードである場合)には(ステップS902)、1眼撮像処理が行われる(ステップS903)。そして、制御部290は、撮像モードのモード切替操作があったか否かを判断し(ステップS904)、撮像モードのモード切替操作があった場合には、ステップS902に戻る。撮像モードのモード切替操作がない場合には(ステップS904)、制御部290は、撮像モード終了操作があったか否かを判断し(ステップS905)、撮像モード終了操作がない場合には、ステップS903に戻る。一方、撮像モード終了操作があった場合には(ステップS905)、撮像モード終了処理が行われ(ステップS923)、表示モード設定処理の動作を終了する。
【0119】
また、設定された撮像モードが2眼撮像モードである場合には(ステップS902)、制御部290は、その設定された撮像モードは、3D撮像モードであるか否かを判断する(ステップS906)。その設定された撮像モードが3D撮像モードである場合には(ステップS906)、3D撮像処理が行われる(ステップS907)。そして、制御部290は、撮像モードのモード切替操作があったか否かを判断し(ステップS908)、撮像モードのモード切替操作があった場合には、ステップS902に戻る。撮像モードのモード切替操作がない場合には(ステップS908)、制御部290は、撮像モード終了操作があったか否かを判断し(ステップS909)、撮像モード終了操作がない場合には、ステップS907に戻る。一方、撮像モード終了操作があった場合には(ステップS909)、撮像モード終了処理が行われ(ステップS923)、表示モード設定処理の動作を終了する。
【0120】
また、設定された撮像モードが3D撮像モードでない場合には(ステップS906)、制御部290は、その設定された撮像モードは、静止画+静止画モードであるか否かを判断する(ステップS910)。その設定された撮像モードが静止画+静止画モードでない場合には(ステップS910)、制御部290は、その設定された撮像モードは、動画+静止画モードであるか否かを判断する(ステップS911)。そして、その設定された撮像モードが動画+静止画モードでない場合(すなわち、動画+動画モードである場合)には(ステップS910)、制御部290は、動画+動画モードを設定するための制御を行う(ステップS912)。続いて、枠表示モードが設定され、枠表示処理が行われる(ステップS916)。例えば、図6、図8(a)に示す枠表示処理が行われる。なお、ステップS916は、特許請求の範囲に記載の第2表示手順の一例である。
【0121】
また、その設定された撮像モードが動画+静止画モードである場合には(ステップS910)、制御部290は、動画+静止画モードを設定するための制御を行う(ステップS913)。続いて、枠表示モードが設定され、枠表示処理が行われる(ステップS916)。
【0122】
また、設定された撮像モードが静止画+静止画モードである場合には(ステップS910)、制御部290は、静止画+静止画モードを設定するための制御を行う(ステップS914)。続いて、制御部290は、低消費電力モードが設定されているか否かを判断し(ステップS915)、低消費電力モードが設定されている場合には(ステップS915)、枠表示モードが設定され、枠表示処理が行われる(ステップS916)。一方、低消費電力モードが設定されていない場合には(ステップS915)、PinP表示モードが設定され、PinP表示処理が行われる(ステップS924)。例えば、図5、図8(b)に示すPinP表示処理が行われる。なお、ステップS924は、特許請求の範囲に記載の第1表示手順の一例である。
【0123】
また、制御部290は、ユーザ操作が行われたか否かを判断し(ステップS917)、ユーザ操作が行われていない場合には、ステップS916に戻る。一方、ユーザ操作が行われた場合には(ステップS917)、制御部290は、そのユーザ操作が、撮像モードのモード切替操作であるか否かを判断し(ステップS918)、撮像モードのモード切替操作である場合には、ステップS902に戻る。
【0124】
また、撮像モードのモード切替操作でない場合には(ステップS919)、制御部290は、そのユーザ操作が、ズーム操作であるか否かを判断する(ステップS919)。そして、ズーム操作である場合には(ステップS919)、制御部290は、そのズーム操作に応じて表示対象となる枠の位置を変更するための制御を行い(ステップS920)、ステップS916に戻る。一方、ズーム操作でない場合には(ステップS919)、制御部290は、そのユーザ操作が、撮像モード終了操作であるか否かを判断する(ステップS921)。そして、撮像モード終了操作でない場合には(ステップS921)、ユーザ操作に応じた処理が行われ(ステップS922)、ステップS916に戻る。一方、撮像モード終了操作である場合には(ステップS921)、撮像モード終了処理が行われ(ステップS923)、表示モード設定処理の動作を終了する。
【0125】
また、制御部290は、バッテリ残量は所定値以下であるか否かを判断し(ステップS925)、バッテリ残量が所定値以下である場合には、ステップS916に進む。一方、バッテリ残量が所定値以下でない場合には(ステップS925)、ユーザ操作が行われたか否かを判断し(ステップS926)、ユーザ操作が行われていない場合には、ステップS924に戻る。一方、ユーザ操作が行われた場合には(ステップS926)、制御部290は、そのユーザ操作が、撮像モードのモード切替操作であるか否かを判断し(ステップS927)、撮像モードのモード切替操作である場合には、ステップS902に戻る。
【0126】
また、撮像モードのモード切替操作でない場合には(ステップS927)、制御部290は、そのユーザ操作が、ズーム操作であるか否かを判断し(ステップS928)、ズーム操作である場合には、ステップS924に戻る。一方、ズーム操作でない場合には(ステップS928)、制御部290は、そのユーザ操作が、撮像モード終了操作であるか否かを判断する(ステップS929)。そして、撮像モード終了操作でない場合には(ステップS929)、ユーザ操作に応じた処理が行われ(ステップS930)、ステップS924に戻る。一方、撮像モード終了操作である場合には(ステップS929)、撮像モード終了処理が行われ(ステップS923)、表示モード設定処理の動作を終了する。なお、ステップS901、S902、S906、S910乃至S915、S925は、特許請求の範囲に記載に制御手順の一例である。
【0127】
このように、本技術の第1の実施の形態によれば、画像処理装置100の使用状況に応じて、枠表示モードおよびPinP表示モードを適切に設定することができる。この場合に、ユーザは、表示モードの設定に関する操作等を行う必要がないため、撮像動作時におけるユーザの負荷を低減させることができる。また、ユーザが表示モードの設定に関する操作等を行わなくても最適なモニタリング表示を順次提供することができる。すなわち、複数の画像の視認性を維持することができ、画像表示時における処理の負荷(システム負荷)を低減し、消費電力を抑制することができる。また、システム負荷の低減により画像処理装置100の温度上昇を抑制することができる。
【0128】
<2.第2の実施の形態>
本技術の第1の実施の形態では、動画モード(動画+静止画モード、動画+動画モード)の設定時には、枠表示モードを設定する例を示した。しかしながら、動画モード(動画+静止画モード、動画+動画モード)の設定時であっても、動画記録動作を行っていない場合(すなわち、動画記録指示操作が行われていない場合)には、システム負荷が少ないと想定される。
【0129】
そこで、本技術の第2の実施の形態では、動画モード(動画+静止画モード、動画+動画モード)の設定時であっても、動画記録動作を行っていない場合には、PinP表示モードを設定する例を示す。なお、本技術の第2の実施の形態における画像処理装置の構成については、図1乃至図3等に示す例と略同様である。このため、本技術の第1の実施の形態と共通する部分については、その説明の一部を省略する。
【0130】
[枠表示モードおよびPinP表示モードの遷移例]
図11は、本技術の第2の実施の形態における表示部172に表示される枠表示およびPinP表示の遷移例を示す図である。
【0131】
図11では、低消費電力モードの設定時にのみ、枠表示モードが設定され、その他のモードの設定時には、PinP表示モードが設定される例を示す。ただし、動画+動画モードまたは動画+静止画モードの設定時において、動画記録動作が開始された場合(すなわち、動画記録指示操作が行われた場合)には、枠表示モードが設定される。また、動画+動画モードまたは動画+静止画モードの設定時において、動画記録動作が終了した場合(すなわち、動画記録終了操作が行われた場合)には、PinP表示モードが設定される。
【0132】
すなわち、図11では、ユーザ操作により撮像モードのモード切替が行われた場合と、動画記録指示操作が行われた場合と、動画記録終了操作が行われた場合とに、枠表示モードおよびPinP表示モードが切り替えられる例を示す。
【0133】
図11(a)には、枠表示モードが設定されている場合における遷移例を示す。この遷移例は、図6に示す遷移例に対応する。
【0134】
図11(b)には、PinP表示モードが設定されている場合における遷移例を示す。この遷移例は、図5に遷移例に対応する。
【0135】
例えば、枠表示モードの設定時(図11(a)に示す)において、低消費電力モードの解除操作が行われた場合には、矢印351に示すように、PinP表示モード(図11(b)に示す)に切り替えられる。一方、PinP表示モードの設定時(図11(b)に示す)において、低消費電力モードの設定操作が行われた場合には、矢印351に示すように、枠表示モード(図11(a)に示す)に切り替えられる。
【0136】
また、例えば、PinP表示モードの設定時(動画+動画モードまたは動画+静止画モードの設定時)(図11(b)に示す)において、動画記録指示操作が行われた場合には、矢印352に示すように、枠表示モード(図11(a)に示す)に切り替えられる。一方、枠表示モードの設定時(動画+動画モードまたは動画+静止画モードの設定時)(図11(a)に示す)において、動画記録終了操作が行われた場合には、矢印353に示すように、PinP表示モード(図11(b)に示す)に切り替えられる。
【0137】
[画像処理装置の動作例]
図12および図13は、本技術の第2の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。なお、図12および図13は、図9および図10の変形例であるため、図9および図10と共通する部分については、同一の符号を付して、その説明の一部を省略する。
【0138】
静止画+静止画モードが設定された後に(ステップS914)、制御部290は、低消費電力モードが設定されているか否かを判断する(ステップS931)。そして、低消費電力モードが設定されている場合には(ステップS931)、枠表示モードが設定され、枠表示処理が行われる(ステップS940)。一方、低消費電力モードが設定されていない場合には(ステップS931)、PinP表示モードが設定され、PinP表示処理が行われる(ステップS932)。
【0139】
続いて、制御部290は、ユーザ操作が行われたか否かを判断し(ステップS933)、ユーザ操作が行われていない場合には、ステップS932に戻る。一方、ユーザ操作が行われた場合には(ステップS933)、制御部290は、そのユーザ操作が、撮像モードのモード切替操作であるか否かを判断し(ステップS934)、撮像モードのモード切替操作である場合には、ステップS902に戻る。
【0140】
また、撮像モードのモード切替操作でない場合には(ステップS934)、制御部290は、そのユーザ操作が、ズーム操作であるか否かを判断し(ステップS935)、ズーム操作である場合には、ステップS932に戻る。一方、ズーム操作でない場合には(ステップS935)、制御部290は、そのユーザ操作が、動画記録開始操作であるか否かを判断する(ステップS936)。そして、動画記録開始操作である場合には(ステップS936)、ステップS940に進む。一方、動画記録開始操作でない場合には(ステップS936)、制御部290は、そのユーザ操作が、撮像モード終了操作であるか否かを判断する(ステップS937)。そして、撮像モード終了操作でない場合には(ステップS937)、ユーザ操作に応じた処理が行われ(ステップS938)、ステップS932に戻る。一方、撮像モード終了操作である場合には(ステップS937)、撮像モード終了処理が行われ(ステップS939)、表示モード設定処理の動作を終了する。
【0141】
また、制御部290は、ユーザ操作が行われたか否かを判断し(ステップS941)、ユーザ操作が行われていない場合には、ステップS940に戻る。一方、ユーザ操作が行われた場合には(ステップS941)、制御部290は、そのユーザ操作が、動画記録終了操作であるか否かを判断する(ステップS942)。そして、動画記録終了操作である場合には(ステップS942)、ステップS932に進む。一方、動画記録終了操作でない場合には(ステップS942)、制御部290は、そのユーザ操作が、撮像モード終了操作であるか否かを判断し(ステップS943)、撮像モードのモード切替操作である場合には、ステップS902に戻る。
【0142】
また、撮像モードのモード切替操作でない場合には(ステップS943)、制御部290は、そのユーザ操作が、ズーム操作であるか否かを判断する(ステップS944)。そして、ズーム操作である場合には(ステップS944)、制御部290は、そのズーム操作に応じて表示対象となる枠の位置を変更するための制御を行い(ステップS945)、ステップS940に戻る。一方、ズーム操作でない場合には(ステップS944)、制御部290は、そのユーザ操作が、撮像モード終了操作であるか否かを判断する(ステップS946)。そして、撮像モード終了操作でない場合には(ステップS946)、ユーザ操作に応じた処理が行われ(ステップS947)、ステップS940に戻る。一方、撮像モード終了操作である場合には(ステップS946)、撮像モード終了処理が行われ(ステップS939)、表示モード設定処理の動作を終了する。
【0143】
このように、制御部290は、第1画像および第2画像のうちの少なくとも一方を動画コンテンツとして記録するための記録処理が行われている場合(所定条件)には、第2表示モードを設定する制御を行う。なお、第1画像は、第1画像生成部210により生成された画像であり、第2画像は、第2画像生成部220により生成された画像である。
【0144】
このように、本技術の第2の実施の形態では、低消費電力モードの設定時以外では、PinP表示モードが設定されるが、動画記録処理が開始されると、システム負荷を下げるため、枠表示モードが設定される。これにより、複数の画像の視認性を維持することができ、画像表示時における処理の負荷を低減することができる。
【0145】
ここで、動画記録開始操作の直後、または、動画記録終了操作の直後には、PinP表示モードおよび枠表示モードの急激な切り替えが行われる。このように、急激な切り替えが行われた場合には、その切替時においてユーザが被写体を見難くなることも想定される。そこで、PinP表示モードおよび枠表示モードの切替時には、第2画像表示領域内および枠内の画像をアニメーションにより滑らかに移動させることにより、その切替時においてユーザに被写体を見易くさせることができる。このように、アニメーションを用いてPinP表示モードおよび枠表示モードの切り替えを行う例については、本技術の第4の実施の形態に示す。
【0146】
<3.第3の実施の形態>
本技術の第1の実施の形態では、静止画+静止画モードの設定時には、PinP表示モードが設定される例を示した。しかしながら、静止画+静止画モードの設定時であっても、表示対象となる画像のズーム倍率が比較的低い場合等には、一定の視認性を確保することができると想定される。
【0147】
そこで、本技術の第3の実施の形態では、静止画+静止画モードの設定時であっても、所定条件を満たす場合には、枠表示モードを設定する例を示す。なお、本技術の第3の実施の形態における画像処理装置の構成については、図1乃至図3等に示す例と略同様である。このため、本技術の第1の実施の形態と共通する部分については、その説明の一部を省略する。
【0148】
[枠表示モードおよびPinP表示モードの遷移例]
図14は、本技術の第3の実施の形態における表示部172に表示される枠表示およびPinP表示の遷移例を示す図である。なお、図14(a)は、図8(a)と同一であるため、ここでの詳細な説明を省略する。
【0149】
図14では、静止画+静止画モードの設定時であっても、所定条件を満たす場合には、枠表示モードが設定される例を示す。なお、これ以外の点については、図8に示す例と同様であるため、図8に示す例と共通する部分についての説明の一部を省略する。
【0150】
すなわち、図14では、静止画+静止画モードの設定時において、所定条件を満たすか否かに応じて、枠表示モードおよびPinP表示モードが切り替えられる例を示す。
【0151】
図14(b)には、ズーム倍率に応じて枠表示モードまたはPinP表示モードが設定される場合における遷移例を示す。
【0152】
例えば、枠表示モードの設定時(図14(a)に示す)において、静止画+静止画モードへの切替操作が行われた場合には、矢印361に示すように、ズーム倍率に応じた枠表示モードまたはPinP表示モード(図14(b)に示す)に切り替えられる。
【0153】
また、例えば、枠表示モードまたはPinP表示モードの設定時(図14(b)に示す)において、静止画+静止画モード以外のモードへの切替操作が行われた場合には、矢印361に示すように、枠表示モード(図8(a)に示す)に切り替えられる。また、低消費電力モードへの切替操作が行われた場合についても同様に、矢印361に示すように、枠表示モード(図8(a)に示す)に切り替えられる。
【0154】
ここで、静止画+静止画モードの設定時において枠表示モードおよびPinP表示モードの切替時の基準となる所定条件について説明する。例えば、所定条件は、ズーム倍率が所定値(例えば、3倍乃至4倍)を基準として高い場合とすることができる。また、所定条件は、枠表示モードの設定時におけるその枠内に主要被写体(例えば、人物の顔)が存在し、かつ、PinP表示モードに切り替えることにより、その主要被写体の視認性を向上させることができる場合である。例えば、枠表示モードの設定時におけるその枠内に含まれる主要被写体(例えば、人物の顔)のサイズが、所定サイズよりも小さい場合には、PinP表示モードに切り替えたほうが、その主要被写体の視認性が向上すると考えられる。ここで、所定サイズは、例えば、PinP表示モードの設定時におけるその主要被写体のサイズ(例えば、顔の長さ)とすることができる。すなわち、枠表示モードの設定時におけるその主要被写体のサイズ(例えば、顔の長さ)が、PinP表示モードの設定時におけるその主要被写体のサイズ(例えば、顔の長さ)よりも小さい場合には、PinP表示モードに切り替えることができる。
【0155】
このように、図14に示す例は、ズーム倍率が所定値を基準として低い場合には、何れの撮像モード設定時でも枠表示モードを設定するが、静止画+静止画モードでは、所定条件を満たすか否かに応じて自動でPinP表示モードを設定する例である。
【0156】
[画像処理装置の動作例]
図15は、本技術の第3の実施の形態における画像処理装置100による表示モード設定処理の処理手順の一例を示すフローチャートである。なお、図15は、図9および図10の変形例であるため、図9および図10と共通する部分については、同一の符号を付して、その説明の一部を省略する。
【0157】
ユーザ操作がズーム操作である場合には(ステップS919)、制御部290は、低消費電力モードが設定されているか否かを判断し(ステップS951)、低消費電力モードが設定されている場合には(ステップS951)、ステップS920に進む。一方、低消費電力モードが設定されていない場合には(ステップS951)、制御部290は、ズーム倍率が所定値以上であるか否かを判断し(ステップS952)、ズーム倍率が所定値以上である場合には、ステップS924に進む。
【0158】
また、ズーム倍率が所定値以上でない場合(すなわち、ズーム倍率が所定値未満である場合)には(ステップS952)、制御部290は、表示部172に表示されている枠内に主要被写体が存在するか否かを判断する(ステップS953)。表示部172に表示されている枠内に主要被写体が存在する場合には(ステップS953)、制御部290は、PinP表示モードに切り替えることにより、その主要被写体の視認性を向上させることができるか否かを判断する(ステップS954)。すなわち、PinP表示モードの設定時における第2画像表示領域内の主要被写体のサイズS1と、枠表示モードの設定時における枠内の主要被写体のサイズS2とが比較され、S1>S2であるか否かが判断される(ステップS954)。そして、S1>S2である場合には(ステップS954)、ステップS924に進み、S1>S2でない場合(すなわち、S1≦S2である場合)には(ステップS954)、ステップS920に進む。
【0159】
また、ユーザ操作がズーム操作でない場合には(ステップS928)、制御部290は、ズーム倍率が所定値未満であるか否かを判断し(ステップS955)、ズーム倍率が所定値未満でない場合には、ステップS929に進む。
【0160】
また、ズーム倍率が所定値未満である場合には(ステップS955)、制御部290は、表示部172に表示されている第2画像表示領域内に主要被写体が存在するか否かを判断する(ステップS956)。第2画像表示領域内に主要被写体が存在する場合には(ステップS956)、制御部290は、S1がS2よりも大きいか否かを判断する(ステップS957)。すなわち、S1>S2であるか否かが判断される(ステップS957)。S1>S2である場合には(ステップS957)、ステップS929に進み、S1>S2でない場合(すなわち、S1≦S2である場合)には(ステップS957)、ステップS916に進む。
【0161】
ここで、ステップS952およびS955における所定値(N)については、同一の値を用いるようにしてもよく、異なる値を用いるようにしてもよい。例えば、ズーム倍率が所定値(N)の境界付近にあるよう場合には、PinP表示モードおよび枠表示モードが短時間で頻繁に切り替わることが想定される。そこで、表示モードが短時間で頻繁に切り替わることを防止するため、ステップS955における所定値を、ステップS952における所定値(N)よりも低い値(例えば、N−1)とするようにしてもよい。同様に、例えば、主要被写体のサイズが、切り替えの境界付近にあるような場合には、PinP表示モードおよび枠表示モードが短時間で頻繁に切り替わることが想定される。そこで、表示モードが短時間で頻繁に切り替わることを防止するため、S1およびS2の判断基準を一定条件で緩和するようにしてもよい。
【0162】
このように、制御部290は、第2撮像部112に係る光学系のズーム倍率が一定値を基準として大きい場合(所定条件)場合には、PinP表示モード(第1表示モード)を設定する制御を行う。また、制御部290は、第2撮像部112により生成される画像(第2画像)に主要被写体が含まれている場合(所定条件)には、PinP表示モード(第1表示モード)を設定する制御を行う。
【0163】
また、制御部290は、第2画像に主要被写体が含まれる場合であって、その主要被写体の表示サイズが、第1画像に含まれるその主要被写体の表示サイズを基準として大きい場合(所定条件)には、PinP表示モード(第1表示モード)を設定する制御を行う。なお、第1画像は、第1撮像部111により生成される画像である。
【0164】
このように、本技術の第3の実施の形態では、静止画+静止画モードの設定時であっても、所定条件を満たす場合には、システム負荷を下げるため、枠表示モードが設定される。これにより、複数の画像の視認性を維持することができ、画像表示時における処理の負荷をさらに低減することができる。
【0165】
<4.第4の実施の形態>
本技術の第1乃至第3の実施の形態では、枠表示モードおよびPinP表示モードの切り替えを行う場合には瞬間的に切り替える例を示した。しかしながら、枠表示モードの設定時における枠の位置およびサイズと、PinP表示モードの設定時における第2画像表示領域の位置およびサイズとが大きく異なる場合には、その切替の前後でユーザが見難くなることも想定される。
【0166】
そこで、本技術の第4の実施の形態では、枠表示モードおよびPinP表示モードの切り替えを行う場合には、その切替の前後における画像(枠内の画像、第2画像表示領域内の画像)をアニメーションにより移動させる例を示す。なお、本技術の第4の実施の形態における画像処理装置の構成については、図1乃至図3等に示す例と略同様である。このため、本技術の第1の実施の形態と共通する部分については、その説明の一部を省略する。
【0167】
[アニメーションによる表示遷移例]
図16は、本技術の第4の実施の形態における表示部172に表示される枠表示からPinP表示への遷移例を示す図である。
【0168】
図16(a)には、枠表示モードの設定時に表示される画像(第1画像表示領域321内の画像)および枠322を示す。なお、図16(a)は、図6(a)に示す例と同様であるため、ここでの詳細な説明を省略する。
【0169】
図16(b)には、枠表示モードからPinP表示モードへの切替時に表示される画像501乃至504を示す。
【0170】
図16(a)に示す画像(第1画像表示領域321内の画像)および枠322が表示部172に表示されている場合において、枠表示モードからPinP表示モードへの切替タイミングになった場合を想定する。この場合には、表示制御部260は、表示部172に表示されていた枠322の位置に、枠322のサイズと同一サイズの画像(第2撮像部112により生成された画像)を表示させる。この場合には、表示部172に表示されていた枠322内の被写体と、第2撮像部112により生成された画像に含まれる被写体とは、視差に基づく左右のズレ以外は略同一であると想定される。
【0171】
続いて、枠表示モードからPinP表示モードへの切替時に、表示制御部260は、第2撮像部112により生成された画像をアニメーションにより移動させながら表示させる。すなわち、表示制御部260は、図16(a)に示す枠322から、図16(b)に示す第2画像表示領域(画像504の領域)までの間、第2撮像部112により生成された画像をアニメーションにより移動させながら表示させる。なお、図16(b)では、アニメーションにより順次移動する画像501乃至503を点線の矩形により模式的に示す。
【0172】
このように、制御部290は、PinP表示モード(第1表示モード)および枠表示モード(第2表示モード)の切替時において、第2撮像部112により生成された画像(第2画像)を移動させながらアニメーション表示させるための制御を行う。すなわち、表示制御部260は、制御部290の制御に基づいて、そのアニメーション表示を行う。具体的には、表示制御部260は、PinP表示モードの設定時に表示される第2画像の位置と、枠表示モードの設定時に第1画像上に表示される付加画像(枠)により特定される位置との間を、第2画像を移動させながらアニメーション表示させる。なお、第1画像は、第1撮像部111により生成された画像である。
【0173】
なお、図16(b)では、説明の容易のため、アニメーションの間隔を比較的広くして示すが、このアニメーションの間隔については、適宜変更可能である。また、図16(b)では、第2撮像部112により生成された画像を縮小させながら直線状に移動させる例を示すが、第2撮像部112により生成された画像を縮小させながら直線以外の軌跡(例えば、曲線状)により移動させるようにしてもよい。
【0174】
ここで、図16(a)に示すように、表示部172に表示されている画像(第1画像表示領域321内の画像)には、複数の人物の顔が含まれる。例えば、第1画像表示領域321内の画像における右下部分には、運動会を応援する人物505が含まれている。ただし、図16(b)に示すように、第2撮像部112により生成された画像をアニメーションにより移動させて第2画像表示領域(画像504の領域)に表示させた場合には、画像504により人物500の顔が隠れてしまう。一般に、人物の顔については、ユーザの関心が高いと考えられるため、撮像動作中に人物の顔を確認することは重要であると想定される。そこで、以下では、画像の移動先の被写体と、表示対象となる撮像範囲に含まれる被写体(主要被写体)とを考慮して、画像の移動先や画像のサイズを変更する例を示す。
【0175】
[第2画像表示領域の配置例]
図17は、本技術の第4の実施の形態における表示部172の表示領域において第2画像表示領域を配置する候補の一例を示す図である。
【0176】
ここで、図17では、表示部172の表示領域における左上隅に、撮像動作時に用いられるアイコンが表示されるアイコン表示領域514が設けられる例を示す。このため、図17では、表示部172の表示領域において第2画像表示領域を配置する候補として、表示部172の表示領域における左下隅、右上隅、右下隅の第1候補領域511乃至第3候補領域513を示す。
【0177】
例えば、枠表示モードからPinP表示モードへの切替時には、制御部290は、最初に、第2画像表示領域の表示対象画像を第1候補領域511に移動させる決定をする。ただし、第1候補領域511内で人物の顔が検出された場合(第1候補領域511と顔の一部とが重複する場合も含む)には、制御部290は、第2画像表示領域の表示対象画像を第2候補領域512に移動させる決定をする。ただし、第2候補領域512内からも人物の顔が検出されることも想定される。このように、第2候補領域512内で人物の顔が検出された場合(第2候補領域512と顔の一部とが重複する場合も含む)には、制御部290は、第2画像表示領域の表示対象画像を第3候補領域513に移動させる決定をする。
【0178】
ここで、例えば、第1候補領域511乃至第3候補領域513の何れの領域内からも人物の顔が検出されることも想定される。この場合には、検出された顔の数が最も少ない候補を第2画像表示領域の配置領域として決定するようにしてもよい。または、第1候補領域511乃至第3候補領域513以外の他の領域を第2画像表示領域の配置領域として決定するようにしてもよい。例えば、第1候補領域511および第3候補領域513の中間領域、第1候補領域511および第2候補領域512の中間領域等を第2画像表示領域の配置領域として決定することができる。
【0179】
また、例えば、PinP表示モード設定時の第2画像表示領域に表示される画像に含まれる人物の顔が、第1画像表示領域に表示されている画像に含まれるその人物の顔よりも小さい場合には、その人物の顔を見難くなることも想定される。そこで、第2画像表示領域に表示される人物の顔が、第1画像表示領域に表示されているその人物の顔よりも小さい場合には、第2画像表示領域のサイズを拡大して、その人物の顔を見易くすることができる。そこで、これらの例を図18および図19に示す。
【0180】
[アニメーションによる表示遷移例]
図18および図19は、本技術の第4の実施の形態における表示部172に表示される枠表示からPinP表示への遷移例を示す図である。
【0181】
図18(a)には、枠表示モードからPinP表示モードへの切替時に表示される画像521および画像522を示す。図18(b)には、アニメーションにより第2画像表示領域が移動する場合における画像(画像524乃至526)の遷移例を示す。なお、図18(a)および図18(b)に示す遷移例は、図16に示す例と略同様であるため、ここでの詳細な説明を省略する。
【0182】
図18(c)には、第2画像表示領域の表示対象画像が第1候補領域511に移動する際に、第1候補領域511に人物の顔が含まれている状態を示す。図18(c)では、顔検出部230により検出された人物505の顔を矩形の枠529で示す。このように、顔検出部230により検出された人物505の顔の一部または全部と、第1候補領域511(画像528の移動先)とが重複する場合には、制御部290は、他の候補領域に第2画像表示領域を移動することを決定する。図18(c)では、人物505の顔と第1候補領域とが重複しているため、第2候補領域に決定される。
【0183】
図19(a)には、第2候補領域512に画像531乃至533がアニメーションにより移動する場合における画像の遷移例を示す。図18(c)および図19(a)では、第1候補領域511に向かって移動していた表示対象画像が、その途中で第2候補領域512に向かって移動する場合を想定する。また、図19(a)では、アニメーションにより順次移動する画像531、532を点線の矩形により模式的に示す。
【0184】
このように、本技術の第4の実施の形態では、主要被写体(例えば、人物の顔)が存在しない領域を第2画像表示領域とすることができる。
【0185】
ここで、図19(a)に示すように、第1画像表示領域内の画像における右上隅に第2画像表示領域(画像533)が設定されている状態で、ユーザによりズーム操作が行われた場合を想定する。このズーム操作後の表示例を図19(b)に示す。
【0186】
図19(b)には、第2候補領域512に設定された第2画像表示領域内の画像535の表示例を示す。図19(b)では、画像535から人物の顔(点線の枠536で囲んで示す)が検出されたものとする。このように、第2画像表示領域内の画像535から人物の顔が検出された場合において、所定条件を満たす場合には、第2画像表示領域を拡大して、その顔の視認性を向上させるようにする。ここで、所定条件は、例えば、第2画像表示領域内の画像における顔検出時のその顔のサイズが、所定サイズよりも小さい場合である。ここで、所定サイズは、例えば、その顔検出時における第1画像表示領域内のその顔のサイズ(例えば、顔の長さ)とすることができる。このサイズの変更例を図19(c)に示す。
【0187】
図19(c)には、第2候補領域512に設定された第2画像表示領域内の画像538のサイズをアニメーションにより変更する場合における遷移例を示す。なお、図19(c)では、アニメーションにより順次拡大される画像538、539を点線の矩形により模式的に示す。このように、第2画像表示領域をアニメーションにより順次拡大して画像540を表示させることにより、その顔の視認性を向上させることができる。
【0188】
このように、制御部290は、PinP表示モード(第1表示モード)の設定時において、第1画像に主要被写体が含まれている場合には、その主要被写体と第2画像とが重複しないように第2画像の表示位置を変更する制御を行う。なお、第1画像は、第1撮像部111により生成された画像であり、第1画像表示領域に表示される画像である。また、第2画像は、第2撮像部112により生成された画像であり、第2画像表示領域に表示される画像である。
【0189】
また、制御部290は、PinP表示モード(第1表示モード)の設定時において、第2画像に主要被写体が含まれている場合には、その主要被写体のサイズが所定サイズとなるように第2画像のサイズを変更する制御を行う。
【0190】
このように、本技術の第4の実施の形態では、枠表示モードおよびPinP表示モードの切替時には、アニメーションにより滑らかに切り替える。これにより、その切替の前後で被写体を見失うことを防止することができる。また、第2画像表示領域内の画像が上書きされ、主要被写体が第2画像表示領域に隠れてしまわないように、第2画像表示領域の移動先に主要被写体が存在する場合には、第2画像表示領域を変更する。さらに、第2画像表示領域内の画像から主要被写体が検出された場合には、第2画像表示領域のサイズを変更してその顔の視認性を向上させることができる。
【0191】
[画像処理装置の動作例]
図20および図21は、本技術の第4の実施の形態における画像処理装置100によるPinP表示処理の処理手順の一例を示すフローチャートである。この処理手順は、図10および図15に示すPinP表示処理(ステップS924)、図13に示すPinP表示処理(ステップS932)に対応する処理手順である。
【0192】
最初に、制御部290は、枠表示モードからPinP表示モードへの変更直後であるか否かを判断し(ステップS961)、枠表示モードからPinP表示モードへの変更直後でない場合には、所定位置および所定サイズでPinP表示される(ステップS962)。すなわち、直前まで表示されていた第2画像表示領域の位置およびサイズでPinP表示される(ステップS962)。
【0193】
また、枠表示モードからPinP表示モードへの変更直後である場合には(ステップS963)、第1画像表示領域内の画像に重ねて表示されている枠の位置およびサイズでPinP表示される(ステップS963)。すなわち、その切替直前に表示されていた枠の位置およびサイズを、第2画像表示領域の位置およびサイズとするPinP表示モードが設定される(ステップS963)。
【0194】
続いて、制御部290は、最初の候補領域(例えば、図17に示す第1候補領域511)に向かって、第2画像表示領域の表示対象画像のアニメーションによる移動を開始させる(ステップS964)。
【0195】
続いて、制御部290は、第2画像表示領域の位置およびサイズが変更中であるか否かを判断する(ステップS965)。第2画像表示領域の位置およびサイズが変更中である場合には(ステップS965)、制御部290は、その変更後の第2画像表示領域の位置およびサイズを取得する(ステップS966)。続いて、制御部290は、その変更後の第2画像表示領域は、第1画像表示領域における主要被写体と重複するか否かを判断する(ステップS967)。
【0196】
その変更後の第2画像表示領域が、第1画像表示領域における主要被写体と重複する場合には(ステップS967)、制御部290は、次の候補領域の位置およびサイズを取得する(ステップS968)。続いて、制御部290は、その候補領域(例えば、図17に示す第2候補領域512)に向かって、第2画像表示領域の表示対象画像のアニメーションによる移動を開始させる(ステップS969)。
【0197】
続いて、制御部290は、第2画像表示領域の変更(移動またはサイズ変更)が終了したか否かを判断し(ステップS970)、第2画像表示領域の変更が終了していない場合には、PinP表示処理の動作を終了する。また、第2画像表示領域の変更が終了した場合には(ステップS970)、第2画像表示領域のアニメーション処理を終了し(ステップS971)、PinP表示処理の動作を終了する。
【0198】
また、第2画像表示領域の位置およびサイズが変更中でない場合には(ステップS965)、現在の第2画像表示領域の位置およびサイズを取得する(ステップS972)。続いて、制御部290は、現在の第2画像表示領域は、第1画像表示領域における主要被写体と重複するか否かを判断する(ステップS973)。現在の第2画像表示領域が、第1画像表示領域における主要被写体と重複する場合には(ステップS973)、ステップS968に進む。
【0199】
現在の第2画像表示領域が、第1画像表示領域における主要被写体と重複しない場合には(ステップS973)、制御部290は、第2画像表示領域に主要被写体が含まれるか否かを判断する(ステップS974)。そして、第2画像表示領域に主要被写体が含まれない場合には(ステップS974)、PinP表示処理の動作を終了する。
【0200】
第2画像表示領域に主要被写体が含まれる場合には(ステップS974)、制御部290は、第2画像表示領域に含まれる主要被写体のサイズS3が、枠表示モードの設定時におけるその主要被写体のサイズS4よりも大きいか否かを判断する(ステップS975)。すなわち、PinP表示モードの設定時における第2画像表示領域内の主要被写体のサイズS3と、枠表示モードの設定時における枠内のその主要被写体のサイズS4とが比較され、S3>S4であるか否かが判断される(ステップS975)。S3>S4である場合には(ステップS975)、PinP表示処理の動作を終了する。
【0201】
また、S3>S4でない場合には(ステップS975)、制御部290は、S3がS4よりも大きくなる第2画像表示領域のサイズを取得する(ステップS976)。例えば、予め設定されている拡大率(例えば、2.1倍)に基づいて第2画像表示領域のサイズを算出することができる。または、S3およびS4に基づいて、制御部290が、第2画像表示領域のサイズを算出するようにしてもよい。また、第2画像表示領域のサイズの上限値を設定しておき、この上限値を超えないように、第2画像表示領域のサイズを設定することができる。
【0202】
続いて、制御部290は、その取得されたサイズとなるように、第2画像表示領域内の画像のアニメーションによる変更を開始させる(ステップS977)。
【0203】
[第2画像表示領域の移動基準および拡大基準例]
以上では、人物の顔の存在やそのサイズを基準にして第2画像表示領域の移動やサイズ変更の要否を判断する例を示した。ただし、人物の顔以外の被写体を基準にして第2画像表示領域の移動やサイズ変更の要否を判断するようにしてもよい。そこで、以下では、第2画像表示領域の移動やサイズ変更の要否を判断する際に基準となる被写体(主要被写体)の例を示す。
【0204】
[主要被写体例]
図22は、本技術の第4の実施の形態における制御部290が第2画像表示領域の移動やサイズ変更を判断する際に用いられる主要被写体の一例を示す図である。図22では、主要被写体601と重要度602との関係を示す。
【0205】
主要被写体601は、第2画像表示領域の移動やサイズ変更の要否を判断する際に基準となる被写体である。例えば、人物の顔は、子供、成人女性、それ以外の人物に分類される。また、人物の顔以外に、動体、静物が主要被写体として用いられる。
【0206】
また、図3に示す顔検出部230の代わりに、主要被写体検出部を設け、この主要被写体検出部により主要被写体を検出する。なお、主要被写体の検出方法として、例えば、顔検出方法と同様に、主要被写体毎の輝度分布情報が記録されているテンプレートと実画像とのマッチングによる検出方法を用いることができる。また、例えば、顔画像における2点間の輝度の差分値を用いた弱判別器により各属性(例えば、子供、成人女性、それ以外の人物)を検出する検出方法を用いることができる(例えば、特開2009−118009号参照。)。また、輝度の勾配強度および勾配方向を用いて、特定の物体(人体、動物、電車、車等)を検出する物体検出方法を用いることができる(例えば、特開2010−67102号参照。)。また、合焦している物体(静物)については、AF処理の合焦結果に基づいて検出することができる。
【0207】
重要度602は、主要被写体の重要度を示すものであり、数値が高いほど重要度が高いことを意味する。
【0208】
例えば、図17において、第1候補領域511には、二人の子供の顔が含まれ、第2候補領域512には、一人の成人女性の顔と一人の子供の顔とが含まれ、第3候補領域513には、2匹の動物の顔(例えば、犬と猫)が含まれている場合を想定する。このように、第1候補領域511乃至第3候補領域513の何れにも、主要被写体が含まれている場合には、各候補領域に含まれている主要被写体の重要度の合計値に基づいて、第2画像表示領域の移動先が決定される。
【0209】
例えば、第1候補領域511には二人の子供の顔が含まれているため、重要度の合計値は10(=5×2)である。また、第2候補領域512には一人の成人女性の顔と一人の子供の顔とが含まれているため、重要度の合計値は9(=5+4)である。また、第3候補領域513には、2匹の動物の顔(例えば、犬と猫)が含まれているため、重要度の合計値は4(=2×2)である。
【0210】
このため、主要被写体の重要度の合計値が最も低い第3候補領域513が、第2画像表示領域の移動先として決定される。
【0211】
また、第1候補領域511乃至第3候補領域513において、主要被写体が含まれている場合であっても、主要被写体の重要度の合計値が一定値(例えば、3)未満となる候補領域については、第2画像表示領域の移動先として決定するようにしてもよい。
【0212】
<5.変形例>
本技術の第1乃至第4の実施の形態では、第1画像表示領域内に第2画像表示領域を設けて2つの画像を表示する例を示した。ただし、第1画像表示領域および第2画像表示領域をそれぞれ異なる領域として2つの画像を表示するようにしてもよい。
【0213】
そこで、この変形例では、それぞれを異なる領域とする第1画像表示領域および第2画像表示領域に2つの画像を表示する例を示す。なお、この変形例における画像処理装置の構成については、図1乃至図3等に示す例と略同様である。このため、本技術の第1の実施の形態と共通する部分については、その説明の一部を省略する。
【0214】
[第1画像表示領域および第2画像表示領域の配置例]
図23は、本技術の実施の形態の変形例における表示部172に表示されるPinP表示の遷移例を示す図である。
【0215】
図23(a)には、第1画像表示領域内に第2画像表示領域が設けられている場合における表示例を示す。なお、図23(a)は、図5(a)に示す例と同様であるため、ここでの説明を省略する。
【0216】
図23(b)には、隣接して並べられている2つの領域(第1画像表示領域701および第2画像表示領域702)に2つの画像を表示する場合における表示例(表示画面700)を示す。第1画像表示領域701内の画像は、図23(a)に示す第1画像表示領域311内の画像に対応し、第2画像表示領域702内の画像は、図23(a)に示す第2画像表示領域312内の画像に対応する。
【0217】
また、図23(a)に示す表示画面および図23(b)に示す表示画面は、撮像動作中において、ユーザ操作により順次切り替えることができる。例えば、画像処理装置100の外側面に設けられている操作部材やタッチパネル上における所定ボタンを表示切替ボタンとして用いる。そして、この表示切替ボタンが押下される毎に、図23の矢印に示すように、図23(a)および(b)に示す各表示画面に切り替えられるようにする。
【0218】
なお、この変形例では、第1画像表示領域701および第2画像表示領域702を水平方向に隣接して並べる例を示すが、第1画像表示領域701および第2画像表示領域702の配置については、適宜変更するようにしてもよい。例えば、ユーザ操作に応じて、第1画像表示領域701および第2画像表示領域702の配置を変更可能とするようにしてもよい。
【0219】
<6.変形例>
本技術の第1乃至第4の実施の形態では、枠表示モードの設定時において1つの画像上に枠を表示して、この枠により他の画像の撮像範囲を表示する例を示した。ただし、枠以外の表示態様により他の画像の撮像範囲を表示するようにしてもよい。
【0220】
そこで、この変形例では、枠以外の表示態様により他の画像の撮像範囲を表示する例を示す。なお、この変形例における画像処理装置の構成については、図1乃至図3等に示す例と略同様である。このため、本技術の第1の実施の形態と共通する部分については、その説明の一部を省略する。
【0221】
[枠表示モード設定時における表示例]
図24は、本技術の実施の形態の変形例における表示部172に表示される表示画面の遷移例を示す図である。
【0222】
図24(a)には、本技術の第1乃至第4の実施の形態と同様に、第1画像表示領域710内の画像上に枠711を表示する例を示す。例えば、図24(a)に示すように、枠表示モードの設定時において黒等のように濃い色により枠711を表示する場合には、背景の被写体を枠711が隠してしまうため、その背景の被写体が視認し難くなるおそれがある。特に、ズーム倍率が高くなった場合には、枠711のサイズが小さくなるため、枠711内における被写体が視認し難くなることが想定される。
【0223】
そこで、この変形例では、枠を表示する代わりに、半透明のオンスクリーンディスプレイ(OSD)により撮像範囲を表現する。この表示例を図24(b)および(c)に示す。
【0224】
図24(b)および(c)には、半透明のオンスクリーンディスプレイにより撮像範囲(第2撮像部112により生成される画像の撮像範囲)を表示する例を示す。具体的には、図24(b)には、第1画像表示領域720において、撮像範囲(第2撮像部112により生成される画像の撮像範囲)に対応する領域722を透明とし、他の領域721を半透明のオンスクリーンディスプレイによりグレーとする例を示す。また、図24(c)には、撮像範囲(第2撮像部112により生成される画像の撮像範囲)に対応する領域732を半透明のオンスクリーンディスプレイによりグレーとし、他の領域731を透明とする例を示す。
【0225】
このように、枠表示モードでは、被写体に対する第1撮像部111の撮像範囲と第2撮像部112の撮像範囲との関係を表す表示態様として、第1画像において第2撮像部112の撮像範囲に対応する画像と他の画像とを異なる表示態様とすることができる。この第1画像は、第1撮像部111により生成される画像である。
【0226】
また、撮像範囲を表現することにより、被写体の視認性を確保することができる。また、被写体の視認性については、ユーザの好みがあるため、例えば、枠表示モードの設定時における半透明のオンスクリーンディスプレイによる表示をユーザ操作により切り替えるようにすることができる。例えば、画像処理装置100の外側面に設けられている操作部材やタッチパネル上における所定ボタンを表示切替ボタンとして用いる。そして、この表示切替ボタンが押下される毎に、図24の矢印に示すように、図24(a)乃至(c)に示す各表示方法に切り替えられるようにする。これにより、ユーザの好みに応じて視認性をさらに向上させることができる。
【0227】
<7.変形例>
本技術の第1乃至第4の実施の形態では、画像処理装置に1つの表示部を備える例を示した。ただし、1つの画像処理装置に複数の表示部が設けられている場合も想定される。また、画像処理装置により生成された画像を外部装置において表示することも想定される。そこで、この変形例では、複数の表示部や外部装置を用いて各画像を表示する例を示す。
【0228】
[複数の表示部を備える画像処理装置の一例]
図25は、本技術の実施の形態の変形例における画像処理装置800の外観構成例を示す図である。具体的には、1つの画像処理装置(画像処理装置800)に2つの表示部(第1表示部811、第2表示部812)が設けられている例を示す。
【0229】
また、図25(a)には、本技術の第1乃至第4の実施の形態における枠表示モードの設定時に対応する表示例を示し、図25(b)には、本技術の第1乃至第4の実施の形態におけるPinP表示モードの設定時に対応する表示例を示す。なお、画像処理装置800は、2つの表示部(第1表示部811、第2表示部812)が設けられている点以外は、図1乃至図3に示す画像処理装置100と略同様である。このため、以下では、画像処理装置800における各部には、画像処理装置100と同一の符号を付して説明する。
【0230】
第1表示部811は、表示制御部260の制御に基づいて、主にメイン画面を表示する表示部である。なお、メイン画面は、例えば、本技術の第1乃至第4の実施の形態に示した各画面である。
【0231】
第2表示部812は、表示制御部260の制御に基づいて、主にサブ画面を表示する表示部である。なお、サブ画面は、例えば、メイン画面の内容以外の内容を表示するための補助的な画面である。
【0232】
例えば、撮像動作中において、枠表示モードの設定時には、図25(a)に示すように、第1表示部811にのみ画像(枠815も表示)を表示させることができる。
【0233】
また、例えば、撮像動作中において、PinP表示モードの設定時には、図25(b)に示すように、第1画像表示領域の表示対象となる画像を第1表示部811に表示させ、第2画像表示領域の表示対象となる画像を第2表示部812に表示させることができる。
【0234】
[外部表示装置に画像を表示させる場合の表示例]
図26は、本技術の実施の形態の変形例における画像処理装置100および表示装置850の外観構成例を示す図である。具体的には、装置間インターフェース860を介して画像処理装置100および表示装置850が接続されている例を示す。装置間インターフェース860は、例えば、HDMI(High-Definition Multimedia Interface)ケーブルを用いることができる。なお、装置間インターフェース860として、画像処理装置100および表示装置850を有線または無線により接続し、画像処理装置100および表示装置850間で互いに通信を行うことが可能な他の装置間インターフェースを用いるようにしてもよい。
【0235】
また、図26(a)には、本技術の第1乃至第4の実施の形態における枠表示モードの設定時に対応する表示例を示し、図26(b)には、本技術の第1乃至第4の実施の形態におけるPinP表示モードの設定時に対応する表示例を示す。なお、画像処理装置100は、図1乃至図3に示す画像処理装置100と略同様である。
【0236】
表示装置850は、装置間インターフェース860および接続端子(図示せず)を介して画像処理装置100から入力された画像(画像データ)を表示部851に表示することが可能な表示装置である。
【0237】
また、外部インターフェース195(図2に示す)は、装置間インターフェース860を介して、第1撮像部111および第2撮像部112により生成された画像(画像データ)を表示装置850に出力し、この出力された画像を表示装置850に表示させる。この場合には、図26(a)および(b)に示すように、表示部172および表示装置850のそれぞれに異なる画像を表示させることができる。また、表示部172および表示装置850のそれぞれに同一の画像を表示させるようにしてもよい。なお、これらの表示方法については、ユーザ操作に基づいて切替可能とすることができる。
【0238】
例えば、撮像動作中において、枠表示モードの設定時には、図26(a)に示すように、表示部172にのみ画像(枠870も表示)を表示させることができる。
【0239】
また、例えば、撮像動作中において、PinP表示モードの設定時には、図26(b)に示すように、第1画像表示領域の表示対象となる画像を表示部172に表示させ、第2画像表示領域の表示対象となる画像を表示装置850に表示させることができる。
【0240】
なお、第2画像表示領域の表示対象となる画像を表示部172に表示させ、第1画像表示領域の表示対象となる画像を表示装置850に表示させるようにしてもよい。また、これらの表示方法については、ユーザ操作に基づいて切替可能とすることができる。
【0241】
図25および図26に示すように、複数の表示部が設けられている画像処理装置や他の表示装置に接続されている画像処理装置についても、本技術の第1乃至第4の実施の形態を適用することができる。また、第1画像表示領域と、第2画像表示領域とを異なる領域とすることにより、PinP表示モードの設定時には、第1画像表示領域内の画像の全部を見ることができ、視認性をさらに向上させることができる。
【0242】
なお、本技術の実施の形態では、2つの撮像部を備える画像処理装置を示すが、3以上の撮像部を備える画像処理装置に本技術の実施の形態を適用するようにしてもよい。
【0243】
また、本技術の実施の形態では、2つの撮像部を備える画像処理装置を例にして説明したが、撮像部(1または複数)を着脱可能な画像処理装置に本技術の実施の形態を適用することができる。また、撮像機能付き携帯電話機や撮像機能付き携帯端末装置(例えば、スマートフォン)等の画像処理装置に本技術の実施の形態を適用することができる。
【0244】
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
【0245】
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
【0246】
なお、本技術は以下のような構成もとることができる。
(1) 第1画像および第2画像を同時に表示する第1表示モードと、
前記第2画像の前記第1画像との関係を前記第1画像と同時に表示する第2表示モードと、
前記第1画像を表示する際に、所定条件に基づいて、前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う制御部と
を具備する画像処理装置。
(2) 前記第1画像は、第1撮像部が被写体を撮像して生成された画像であり、
前記第2画像は、第2撮像部が前記被写体を撮像して生成された画像であり、
前記第2表示モードは、前記第2画像の前記第1画像との関係として、前記被写体に対する前記第1撮像部の撮像範囲と前記第2撮像部の撮像範囲との関係を表示する表示モードである
前記(1)に記載の画像処理装置。
(3) 前記第2表示モードは、前記被写体に対する前記第1撮像部の撮像範囲と前記第2撮像部の撮像範囲との関係を表す画像として、前記第1画像上に前記第2撮像部の撮像範囲を表す付加画像を表示する表示モードである前記(2)に記載の画像処理装置。
(4) 前記制御部は、前記第1表示モードおよび前記第2表示モードの切替時において、前記第1表示モード設定時に表示される前記第2画像の位置と、前記第2表示モード設定時に前記第1画像上に表示される前記付加画像により特定される位置との間を、前記第2画像を移動させながらアニメーション表示させるための制御を行う前記(3)に記載の画像処理装置。
(5) 前記第2表示モードは、前記被写体に対する前記第1撮像部の撮像範囲と前記第2撮像部の撮像範囲との関係を表す表示態様として、前記第1画像において前記第2撮像部の撮像範囲に対応する画像と他の画像とを異なる表示態様とする表示モードである前記(2)に記載の画像処理装置。
(6) 前記制御部は、前記第1画像および前記第2画像のそれぞれを静止画コンテンツとして記録するための撮像モードが設定されていることを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う前記(2)から(5)のいずれかに記載の画像処理装置。
(7) 前記制御部は、前記第1画像および前記第2画像のうちの少なくとも一方を動画コンテンツとして記録するための記録処理が行われていることを前記所定条件とし、前記所定条件を満たす場合には、前記第2表示モードを設定する制御を行う前記(2)から(6)のいずれかに記載の画像処理装置。
(8) 前記制御部は、前記第2撮像部に係る光学系のズーム倍率が一定値を基準として大きいことを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う前記(1)から(7)のいずれかに記載の画像処理装置。
(9) 前記制御部は、前記第2画像に主要被写体が含まれていることを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う前記(1)から(8)のいずれかに記載の画像処理装置。
(10) 前記制御部は、前記第2画像に主要被写体が含まれる場合であって当該主要被写体の表示サイズが前記第1画像に含まれる当該主要被写体の表示サイズを基準として大きいことを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う前記(1)から(9)のいずれかに記載の画像処理装置。
(11) 前記制御部は、低消費電力モードが設定されていることを前記所定条件とし、前記所定条件を満たす場合には、前記第2表示モードを設定する制御を行う前記(1)から(10)のいずれかに記載の画像処理装置。
(12) 前記制御部は、前記画像処理装置におけるバッテリ残量が所定値を基準として小さいことを前記所定条件とし、前記所定条件を満たす場合には、前記第2表示モードを設定する制御を行う前記(1)から(11)のいずれかに記載の画像処理装置。
(13) 前記制御部は、前記第1表示モードが設定される場合において前記第1画像に主要被写体が含まれている場合には当該主要被写体と前記第2画像とが重複しないように当該第2画像の表示位置を変更する制御を行う前記(1)から(12)のいずれかに記載の画像処理装置。
(14) 前記制御部は、前記第1表示モードが設定される場合において前記第2画像に主要被写体が含まれている場合には当該主要被写体のサイズが所定サイズとなるように当該第2画像のサイズを変更する制御を行う前記(1)から(13)のいずれかに記載の画像処理装置。
(15) 前記第1画像および前記第2画像は、同一被写体に対して撮像範囲が異なるように複数の撮像部によりそれぞれ生成された画像であり、
前記第1表示モードは、前記第1画像上における所定位置に前記第2画像を重ねて表示する表示モードであり、
前記第2表示モードは、前記第2画像の前記第1画像との関係を表す画像として、前記第1画像上に前記第2撮像部の撮像範囲を表す付加画像を表示する表示モードである
前記(1)に記載の画像処理装置。
(16) 前記制御部により設定された表示モードに従って各画像を表示する表示部をさらに具備する前記(1)から(15)のいずれかに記載の画像処理装置。
(17) 前記第1撮像部および前記第2撮像部をさらに具備する前記(2)に記載の画像処理装置。
(18) 前記第1撮像部および前記第2撮像部は、第1撮像モードが設定されている場合には立体視画像を表示するための2つの画像を生成し、第2撮像モードが設定されている場合には立体視画像以外の画像を表示するための前記第1画像および前記第2画像を生成し、
前記制御部は、前記第2撮像モードが設定されている場合に前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う
前記(17)に記載の画像処理装置。
(19) 第1表示モードの設定時に第1画像および第2画像を同時に表示する第1表示手順と、
第2表示モードの設定時に前記第2画像の前記第1画像との関係を前記第1画像と同時に表示する第2表示手順と、
前記第1画像を表示する際に、所定条件に基づいて、前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う制御手順と
を具備する画像処理装置の制御方法。
(20) 第1表示モードの設定時に第1画像および第2画像を同時に表示する第1表示手順と、
第2表示モードの設定時に前記第2画像の前記第1画像との関係を前記第1画像と同時に表示する第2表示手順と、
前記第1画像を表示する際に、所定条件に基づいて、前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う制御手順と
をコンピュータに実行させるプログラム。
【符号の説明】
【0247】
100、800 画像処理装置
101 バス
111 第1撮像部
112 第2撮像部
121 第1信号処理部
122 第2信号処理部
131 解像度変換部
132 画像圧縮伸張部
133 グラフィックエンジン
140 ROM
150 RAM
160 CPU
171 表示部コントローラ
172、851 表示部
181 入力制御部
182 操作部
185 シャッターボタン
191 リムーバブルメディアコントローラ
192 リムーバブルメディア
195 外部インターフェース
210 第1画像生成部
220 第2画像生成部
230 顔検出部
240 操作受付部
250 バッテリ残量検出部
260 表示制御部
270 記録制御部
280 コンテンツ記憶部
290 制御部
811 第1表示部
812 第2表示部
850 表示装置
860 装置間インターフェース

【特許請求の範囲】
【請求項1】
第1画像および第2画像を同時に表示する第1表示モードと、
前記第2画像の前記第1画像との関係を前記第1画像と同時に表示する第2表示モードと、
前記第1画像を表示する際に、所定条件に基づいて、前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う制御部と
を具備する画像処理装置。
【請求項2】
前記第1画像は、第1撮像部が被写体を撮像して生成された画像であり、
前記第2画像は、第2撮像部が前記被写体を撮像して生成された画像であり、
前記第2表示モードは、前記第2画像の前記第1画像との関係として、前記被写体に対する前記第1撮像部の撮像範囲と前記第2撮像部の撮像範囲との関係を表示する表示モードである
請求項1記載の画像処理装置。
【請求項3】
前記第2表示モードは、前記被写体に対する前記第1撮像部の撮像範囲と前記第2撮像部の撮像範囲との関係を表す画像として、前記第1画像上に前記第2撮像部の撮像範囲を表す付加画像を表示する表示モードである請求項2記載の画像処理装置。
【請求項4】
前記制御部は、前記第1表示モードおよび前記第2表示モードの切替時において、前記第1表示モード設定時に表示される前記第2画像の位置と、前記第2表示モード設定時に前記第1画像上に表示される前記付加画像により特定される位置との間を、前記第2画像を移動させながらアニメーション表示させるための制御を行う請求項3記載の画像処理装置。
【請求項5】
前記第2表示モードは、前記被写体に対する前記第1撮像部の撮像範囲と前記第2撮像部の撮像範囲との関係を表す表示態様として、前記第1画像において前記第2撮像部の撮像範囲に対応する画像と他の画像とを異なる表示態様とする表示モードである請求項2記載の画像処理装置。
【請求項6】
前記制御部は、前記第1画像および前記第2画像のそれぞれを静止画コンテンツとして記録するための撮像モードが設定されていることを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う請求項2記載の画像処理装置。
【請求項7】
前記制御部は、前記第1画像および前記第2画像のうちの少なくとも一方を動画コンテンツとして記録するための記録処理が行われていることを前記所定条件とし、前記所定条件を満たす場合には、前記第2表示モードを設定する制御を行う請求項2記載の画像処理装置。
【請求項8】
前記制御部は、前記第2撮像部に係る光学系のズーム倍率が一定値を基準として大きいことを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う請求項2記載の画像処理装置。
【請求項9】
前記制御部は、前記第2画像に主要被写体が含まれていることを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う請求項1記載の画像処理装置。
【請求項10】
前記制御部は、前記第2画像に主要被写体が含まれる場合であって当該主要被写体の表示サイズが前記第1画像に含まれる当該主要被写体の表示サイズを基準として大きいことを前記所定条件とし、前記所定条件を満たす場合には、前記第1表示モードを設定する制御を行う請求項1記載の画像処理装置。
【請求項11】
前記制御部は、低消費電力モードが設定されていることを前記所定条件とし、前記所定条件を満たす場合には、前記第2表示モードを設定する制御を行う請求項1記載の画像処理装置。
【請求項12】
前記制御部は、前記画像処理装置におけるバッテリ残量が所定値を基準として小さいことを前記所定条件とし、前記所定条件を満たす場合には、前記第2表示モードを設定する制御を行う請求項1記載の画像処理装置。
【請求項13】
前記制御部は、前記第1表示モードが設定される場合において前記第1画像に主要被写体が含まれている場合には当該主要被写体と前記第2画像とが重複しないように当該第2画像の表示位置を変更する制御を行う請求項1記載の画像処理装置。
【請求項14】
前記制御部は、前記第1表示モードが設定される場合において前記第2画像に主要被写体が含まれている場合には当該主要被写体のサイズが所定サイズとなるように当該第2画像のサイズを変更する制御を行う請求項1記載の画像処理装置。
【請求項15】
前記第1画像および前記第2画像は、同一被写体に対して撮像範囲が異なるように複数の撮像部によりそれぞれ生成された画像であり、
前記第1表示モードは、前記第1画像上における所定位置に前記第2画像を重ねて表示する表示モードであり、
前記第2表示モードは、前記第2画像の前記第1画像との関係を表す画像として、前記第1画像上に前記第2撮像部の撮像範囲を表す付加画像を表示する表示モードである
請求項1記載の画像処理装置。
【請求項16】
前記制御部により設定された表示モードに従って各画像を表示する表示部をさらに具備する請求項1記載の画像処理装置。
【請求項17】
前記第1撮像部および前記第2撮像部をさらに具備する請求項2記載の画像処理装置。
【請求項18】
前記第1撮像部および前記第2撮像部は、第1撮像モードが設定されている場合には立体視画像を表示するための2つの画像を生成し、第2撮像モードが設定されている場合には立体視画像以外の画像を表示するための前記第1画像および前記第2画像を生成し、
前記制御部は、前記第2撮像モードが設定されている場合に前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う
請求項17記載の画像処理装置。
【請求項19】
第1表示モードの設定時に第1画像および第2画像を同時に表示する第1表示手順と、
第2表示モードの設定時に前記第2画像の前記第1画像との関係を前記第1画像と同時に表示する第2表示手順と、
前記第1画像を表示する際に、所定条件に基づいて、前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う制御手順と
を具備する画像処理装置の制御方法。
【請求項20】
第1表示モードの設定時に第1画像および第2画像を同時に表示する第1表示手順と、
第2表示モードの設定時に前記第2画像の前記第1画像との関係を前記第1画像と同時に表示する第2表示手順と、
前記第1画像を表示する際に、所定条件に基づいて、前記第1表示モードと前記第2表示モードとの何れかを設定する制御を行う制御手順と
をコンピュータに実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate

【図26】
image rotate


【公開番号】特開2013−106170(P2013−106170A)
【公開日】平成25年5月30日(2013.5.30)
【国際特許分類】
【出願番号】特願2011−248264(P2011−248264)
【出願日】平成23年11月14日(2011.11.14)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】